На таквото сценарио предупредува Џаред Каплан, физичар и еден од клучните луѓе во „Anthropic“, компанијата која ги развива моделите „Claude“.

Каплан зборува за можноста за „експлозија на интелигенцијата“, односно ситуација во која АИ-системите би можеле да го забрзуваат сопствениот развој побрзо отколку што луѓето можат да ги следат нивните способности и промени, пренесува „Index“.

Што е рекурзивно самоподобрување?

Терминот рекурзивно самоподобрување се однесува на хипотетички развој во кој АИ-системот не би извршувал само задачи, туку би можел да учествува во дизајнирањето, тренирањето и развојот на новата генерација АИ-системи.

„Anthropic“ во моментов истражува токму колкав дел од развојниот процес може да им се препушти на самите АИ-системи. Компанијата наведува дека нејзините модели веќе ја забрзуваат работата на инженерите, а долгорочното сценарио што го проучува ја подразбира можноста идните АИ-системи сами да ги дизајнираат и тренираат своите наследници. Истовремено, „Anthropic“ нагласува дека до таква целосна автономија сè уште не е дојдено и дека рекурзивното самоподобрување не е неизбежно.

Токму таа можност го отвора прашањето колку би можела да се зголеми брзината на развојот кога човекот повеќе не би бил тесното грло во процесот на создавање нови модели.

Каплан предупредува на можна „експлозија на интелигенцијата“

Каплан смета дека целосното препуштање на развојот на АИ-системите би можело да претставува една од најголемите технолошки пресвртници.

Таквото сценарио не значи нужно дека АИ автоматски би станала непријателски настроена кон луѓето. Клучниот проблем би бил многу поширок – колку луѓето би можеле да разберат, контролираат и насочуваат систем кој е способен самиот да го забрзува сопствениот развој.

Во проценките што му се припишуваат на Каплан, како можен период за доаѓање до таква пресвртна фаза се споменуваат годините од 2027 до 2030, но станува збор за сценарио и проценка, а не за потврдена прогноза кога тоа ќе се случи.

„Anthropic“ веќе користи АИ за развој на АИ

Она што некогаш беше теоретско прашање денес станува дел од практичните истражувања.

„Anthropic“ наведува дека сè поголем дел од развојот на своите системи им го препушта на АИ-моделите. Според податоците на компанијата, напредокот е особено изразен во програмирањето и истражувачките задачи. Нивната анализа покажува дека моделите можат самостојно да извршуваат сè подолги и посложени задачи, вклучувајќи повеќечасовна работа на комплицирани проблеми.

Компанијата во септември ги објави и новите модели „Claude Fable 5.1“ и „Mythos 5.1“, кои ги опишува како свои најнапредни модели за програмирање и работа со знаење.

„Anthropic“ на 22 септември го претстави и „Claude Opus 5.5“, наведувајќи значителен напредок во решавањето сложени задачи и резултати од тестирања кои вклучуваат многу големи софтверски проекти.

Каде почнува проблемот со контролата?

Најголемата загриженост што ја истакнуваат поборниците за построг надзор е можноста способностите на АИ да напредуваат побрзо од механизмите со кои луѓето проверуваат што прават системите и зошто го прават тоа.

Ако еден систем би можел да создаде нова верзија од себе, а потоа таа нова верзија би можела да создаде уште поспособен систем, развојот теоретски би можел да добие сосема нова динамика.

Тоа е причината поради која во стручните дискусии сè почесто се зборува за потребата од контрола, тестирање, заштитни механизми и надзор на најнапредните модели.

„Anthropic“ веќе разви рамка за процена на ризиците и наведува дека работи на дополнителни безбедносни механизми за идните, сè поспособни модели.

Предупредувања доаѓаат и од самите АИ-лаборатории

Дискусијата за ризиците не е ограничена само на надворешните критичари на технолошките компании.

Во последните месеци повеќе истражувачи и раководители од АИ-индустријата предупредуваа на прашањата поврзани со безбедноста, особено во однос на развојот на системи кои можат самостојно да извршуваат сè поголем број задачи.

Еден од примерите е поранешниот истражувач во „Anthropic“, Џејкоб Коксон, кој по заминувањето од компанијата јавно го критикуваше темпото на развој на АИ која може самата да се подобрува. Неговите тврдења предизвикаа нова дискусија меѓу експертите, при што дел од истражувачите сметаат дека ризиците треба сериозно да се сфатат, додека други предупредуваат дека сценаријата за скорешно уништување на човештвото се претерани.

Не е познато кога АИ би можела да го „преземе“ сопствениот развој

Еден од најважните факти во оваа дискусија е дека не постои консензус за тоа кога целосно рекурзивната самоподобрувачка АИ би можела да стане реалност – ниту дали таквото сценарио воопшто ќе се оствари.

„Anthropic“ во своето актуелно истражување ја нагласува токму таа неизвесност: моделите брзо напредуваат, но компанијата истовремено наведува дека целосното автономно создавање наследници сè уште не е постигнато.

Поради тоа, периодот од 2027 до 2030 година може да се разгледува како една од можните временски проценки за кои се зборува во индустријата, а не како рок до кој сигурно ќе се случи „експлозија на интелигенцијата“.

Зошто се бара построг надзор?

Како што АИ-системите стануваат поспособни, прашањето повеќе не е само колку можат да направат, туку и колку луѓето можат сигурно да ја надгледуваат нивната работа.

Доколку способностите на моделите продолжат забрзано да се зголемуваат, регулаторите и компаниите ќе мора да ги развиваат безбедносните стандарди со исто темпо.

Токму затоа „Anthropic“, покрај развојот на сè понапредни модели, паралелно работи на безбедноста, проверката на однесувањето на системите и методите со кои би можело да се докаже од кој модел потекнува одреден резултат.

Така, дискусијата повеќе не е само прашање на иднината. Таа веќе се води во самите компании кои ги развиваат најнапредните системи – и сè повеќе се сведува на едно прашање: уште колку долго човекот ќе остане главниот двигател на развојот на вештачката интелигенција?