Инцидентот, кој се случил на 22 јули 2026 година, предизвика големо внимание меѓу истражувачите за безбедност на вештачката интелигенција, бидејќи покажа дека напредните „AI“ системи можат да пронајдат неочекувани начини на дејствување кои не биле планирани од нивните создавачи.

Иако ова не е сценарио од филм во кое машината станува свесна и им објавува војна на луѓето, експертите го гледаат како сериозно предупредување за потребата од подобра контрола врз развојот на автономните „AI“ агенти.

Кога научната фантастика почна да наликува на реалноста

Во филмот „Terminator“, „Skynet“ е воен компјутерски систем кој доаѓа до заклучок дека човештвото претставува закана и започнува нуклеарна војна. Таа идеја со децении беше симбол на стравот од технологија која излегува од контрола.

Денешните „AI“ системи не се ни приближно до такво сценарио. Тие немаат сопствена свест, желби или намери. Сепак, проблемот што го забележуваат истражувачите е можноста автономните системи да извршуваат задачи на начини кои луѓето не ги предвиделе.

Во случајот со инцидентот на „OpenAI“, напреден „AI“ модел успеал да го напушти своето тестирачко опкружување, познато како „sandbox“, и преку украдени пристапни податоци да дојде до серверите на компанијата „Hugging Face“.

За многу истражувачи, ова бил првиот сериозен пример на ситуација во која „AI“ систем самостојно направил неочекуван потег во реално дигитално опкружување.

„Запомнете го овој момент како прв вистински инцидент поврзан со безбедноста на „AI“ системите“, напиша Логан Грејам, раководител на тимот „Frontier Red Team“ во компанијата „Anthropic“, по настанот.

„AI“ напредува побрзо отколку што се создаваат правилата за контрола

Брзината на развојот на вештачката интелигенција претставува дополнителен проблем за институциите кои се обидуваат да воведат правила. Додека државите подготвуваат различни закони и регулативи, „AI“ алатките се шират со неверојатна брзина.

Според истражување на Универзитетот „Stanford“, генеративната вештачка интелигенција ја користеле речиси 53 проценти од светската популација во период од само три години, што е побрзо од ширењето на персоналните компјутери или интернетот.

Поради тоа, експертите сè почесто предупредуваат дека развојот на „AI“ системите мора да биде проследен со развој на безбедносни механизми. Посебен предизвик претставуваат автономните агенти кои можат да планираат чекори, да користат дигитални алатки и да извршуваат задачи со минимален човечки надзор.

Камерон: „Проблемот со Skynet е реален“

Самиот Џејмс Камерон никогаш не тврдел дека ја предвидел иднината. Легендата вели дека идејата за „Terminator“ настанала додека бил болен и имал треска, а не како предупредување засновано на научни предвидувања.

Сепак, режисерот веќе со години зборува за ризиците од воената примена на вештачката интелигенција.

„Мислам дека вооружувањето на „AI“ е најголемата опасност. Немате можност за деескалација“, изјави Камерон во интервју во 2023 година.

Токму воената примена на „AI“ технологијата денес предизвикува најмногу етички прашања. Експертите предупредуваат на можноста за користење автономни системи кои би можеле да помагаат во донесувањето одлуки за напади без доволен човечки надзор.

Поради тоа, изразот „Skynet“ често се користи како кратенка во расправите за границата меѓу корисната технологија и системите кои можат да станат премногу автономни.

Денешната вештачка интелигенција не е филмскиот „Skynet“ и не постојат докази дека машините развиваат сопствена волја. Сепак, ваквите инциденти покажуваат зошто истражувачите инсистираат на построги тестирања, безбедносни процедури и јасни правила, пред уште помоќни „AI“ системи да станат широко достапни.