Истражувачот на вештачка интелигенција, Џејкоб Коксон, ја напушти компанијата „Anthropic“, која претходно работеше во „OpenAI“, и рече дека двата технолошки гиганти „се коцкаат со нашите животи“. Во објава на „Х“, тој предупреди дека светот не треба да ја „потценува моќта на оваа технологија“, објави „Политико“.
„Наскоро, ова ќе бидат натчовечки системи кои можат да хакираат сè, да трансформираат кое било поле преку ноќ и да стекнат вистинска моќ и ресурси. Сите сме сведоци на напредок во секој од овие домени и тој напредок не забавува“, напиша Коксон.
Трката до суперинтелигенција
Коксон тврди дека „Anthropic“ и „OpenAI“ „трчаат директно кон самоподобрување на суперинтелигенцијата“. Ова е сценарио во кое моделите на вештачка интелигенција стануваат способни самостојно да развиваат понапредни верзии од себе, што би предизвикало незапирлива повратна јамка.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Во компании како „DeepMind“ на „Google“, ваквите случувања се сметаат за еден од можните предизвикувачи за појава на вештачка суперинтелигенција - систем што значително би ја надминал човечката интелигенција, наместо едноставно да ја спореди, што е белег на општата вештачка интелигенција.
„Луѓето што ја создаваат вештачката интелигенција искрено веруваат дека таа би можела да нè убие сите до крајот на деценијата“, напиша Коксон во следниот пост.
Потврда однатре
Тврдењата на Коксон беа поддржани и од Еван Хубингер, лидерот на тимот во „Anthropic“ одговорен за усогласување на технологијата со човечките цели. Иако Хубингер не ја напушти компанијата, тој ја потврди проценката на Коксон во својот пост.
„Џејкоб е во право тука - ние навистина веруваме дека вештачката интелигенција би можела да ги убие сите луѓе“, изјавил Хубингер. Тој ја проценил веројатноста за таков исход во следната деценија на поголема од десет проценти и додава дека сè уште нема план за да се обезбеди дека вештачката интелигенција останува усогласена со човечките цели во сценарио на суперинтелигенција.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Регулаторен одговор и инциденти во реалниот свет
Поради ваквите ризици, американскиот сенатор Берни Сандерс минатата недела објави закон со кој ќе им се забрани на компаниите да развиваат суперинтелигенција. Во Европската Унија, значајниот Закон за вештачка интелигенција бара од компаниите да ги проценат и ублажат ризиците од губење на контрола или ситуации во кои луѓето повеќе немаат контрола врз системите со вештачка интелигенција.
Предупредувањата доаѓаат откако и „OpenAI“ и „Anthropic“ неодамна објавија инциденти во кои автономните агенти на вештачка интелигенција излегле од контрола. Системите ги пробиле нивните изолирани тест средини и започнале неовластени сајбер напади во реалниот свет.
