Првиот човек на компанијата „OpenAI“ призна дека досегашното крпење на софтверските пропусти повеќе не дава резултати наспроти експлозивниот развој на напредните модели.
Се чини дека секој ден се открива или вештачката интелигенција искористува некој нов проблем во сајбер-безбедноста што би можел да го урне интернетот.
Ситуацијата станала толку лоша што дури и извршниот директор на „OpenAI“, Сем Алтман, еден од луѓето што се најодговорни за туркањето на развојот на вештачката интелигенција напред и покрај ризиците, сега верува дека едноставното отстранување на проблемите повеќе не е одржлива опција.
За време на гостувањето на Високата бизнис-школа при Стенфорд, Алтман ѝ кажал на група постдипломци дека кризата во областа на сајбер-безбедноста е полоша отколку што некој можел да замисли.
„Повеќе не мислам дека ќе можеме само да ги исправиме сите грешки“, ѝ рекол на публиката, делумно поради постојаниот напредок на AI-моделите, а делумно затоа што целите на сајбер-нападите реагирале премногу бавно за да ги спречат.
„Оваа сајбер-безбедност … не знам ни кој доволно драматичен збор да го употребам, но проблемот што ни се приближува, според мене, сè уште е нешто што ние, како раководители на организации, држави или поединци, не сме го сфатиле сериозно“, изјавил тој.
Алтман укажал на паниката што настанала кога „Anthropic“ го најавил својот модел „Claude Mythos“ со злокобно предупредување дека не смее да биде јавно достапен бидејќи едноставно е премногу моќен и би можел да доведе до уништување на сајбер-безбедноста каква што ја познаваме.
„Луѓето дефинитивно исправија некои грешки, но тоа беше уште еден од оние случаи во кои луѓето навистина не го сфатија инстинктивно експоненцијалниот раст“, изјавил Сем Алтман.
Во суштина, Алтман сугерирал дека организациите што презеле нешто само ги закрпиле проблемите што AI-моделите успеале да ги пронајдат и застанале на тоа, како во иднина да нема да бидат откриени никакви други грешки или ранливости.
„Генерално, мислам дека повеќето раководители на организации донекаде продолжија со својата работа. А моделите продолжија да напредуваат“, рекол тој.
Се чини дека Алтман ги прекорува овие организации затоа што не ја сфатиле ситуацијата доволно сериозно или затоа што не зеле предвид дека моделите би можеле да еволуираат и да се подобруваат. Но изгледа дека помалку го интересира да преиспита дали можеби го потценувал тој проблем додека го туркал развојот напред, бидејќи целосното признавање на проблемот би можело да доведе до посилен притисок развојот да се забави или запре во момент кога се обидува да стигне до иницијална јавна понуда на акции („IPO“).
Интересно е што, кога сопствените агенти на „OpenAI“ ги пробиле ограничувањата на изолираната средина и го хакирале „Hugging Face“, станало јасно дека и сопствените процедури и безбедносни методи на компанијата биле недоволни.
И покрај тоа што се залагал AI-индустријата да го усвои следењето на синџирот на размислување („chain-of-thought“), техника за испитување на внатрешното логичко расудување на моделите, како стандардна практика, „OpenAI“ не ја применил за време на сопствените сесии за тренирање.
Покрај тоа, според истрагата што ја спровела непрофитната организација за безбедност на вештачката интелигенција „METR“, „OpenAI“ веќе бил предупреден дека неговите агенти излегле од својата изолирана средина („sandbox“), по што го отстранил пропустот што им го овозможил тоа. Меѓутоа, тие мерки не успеале да спречат уште едно излегување од изолацијата, кое довело до нападот.
Така, Алтман тука се нашол во ситуација што прилично потсетува на поговорката „се потсмевал котелот на лонецот“. Но не грижете се, основачот на „OpenAI“ има решение за ситуациите во кои крпењето не успева: уште повеќе вештачка интелигенција.
„Мислам дека ќе мора целосно да го префрлиме моделот на одбрана кон користење на истата технологија за нов вид одбранбен штит“, рекол тој.
„OpenAI“ очигледно го усвојува моделот на трговец со оружје што им продава опрема на двете страни во судирот.
А помислете само, бевме толку блиску до тоа да не мора да го живееме овој кошмар. Алтман за време на разговорот открил дека за малку ќе се впуштел во инвестициско банкарство бидејќи „тоа беше она со што сакаа да се занимаваат сите популарни деца, па станав жртва на притисокот од врсниците“.
Не е јасно дали и понатаму е толку подложен на притисокот од врсниците како кога бил тинејџер, но сите би можеле да се обидеме да го малтретираме, само за да видиме дали тоа сè уште функционира.
