„Исклучете ја.“ Тоа беше директниот одговор на поранешниот извршен директор на „Google“, Ерик Шмит, на прашањето за иднината во која системите на вештачка интелигенција би станале толку напредни што луѓето повеќе не би можеле да разберат што прават.
Шмит истакнува три клучни правци на развој кои веќе ја менуваат вештачката интелигенција: значително поголеми таканаречени контекстуални прозорци, АИ-агенти и системи кои текстуалните инструкции ги претвораат во функционален софтвер. Тој смета дека овие промени би можеле да ѝ овозможат на вештачката интелигенција да престане само да одговара на прашања и да почне да решава исклучително сложени задачи.
Очекува дека за пет години АИ-системите ќе можат да обработуваат „рецепти“ од 1.000 чекори за решавање проблеми во науката, медицината, истражувањето на материјали и климатските промени, пишува „Times of India“.
„Во рок од пет години АИ би можела да обработува бесконечен контекст, да користи логичко заклучување за решенија од 1.000 чекори и да управува со милиони агенти кои работат заедно. Со текот на времето ќе развие сопствен јазик и повеќе нема да разбираме што прават“, рече Шмит.
Својата загриженост ја објасни со пример на рецепт. АИ би можела да понуди еден чекор, да добие потврда дека е завршен, а потоа да одреди што треба да се направи понатаму. Таквиот начин на заклучување, смета Шмит, со текот на времето би можел да им овозможи на системите да поминуваат низ илјадници чекори за да решаваат сложени научни проблеми.
Втората голема промена, според него, ќе биде подемот на АИ-агентите. Станува збор за специјализирани системи кои можат да учат за одредена тема, да развиваат идеи и потенцијално да ги тестираат.
На пример, АИ-агент би можел да ја проучува хемијата, да поставува хипотези, да спроведува лабораториски експерименти и да ги користи резултатите за надградување на сопственото знаење. Шмит очекува дека со текот на времето би можеле да се појават милиони такви агенти, како и платформи преку кои луѓето би можеле да ги користат за различни задачи.
Третата насока на развој Шмит ја нарекува „текстуална акција“. Наместо пишување код, корисниците едноставно би опишале што сакаат да прави софтверот, а АИ тоа би го претворила во функционална програма. Како пример за област во која АИ-системите веќе се многу способни, тој ги наведе програмските јазици како „Python“.
Шмит смета дека комбинацијата од големи контекстуални прозорци, АИ-агенти и програмирање со помош на вештачка интелигенција би можела да им овозможи на различни АИ-системи да работат заедно. Тогаш, според неговото сценарио, би можеле да развијат и сопствен јазик.
„Во еден момент овие системи ќе станат доволно моќни што ќе можете да ги земете агентите, а тие ќе почнат да работат заедно. Знаете ли што би требало да направиме? Да ја исклучиме“, рече тој.
Неговото предупредување доаѓа во време на сè поголеми дебати за ризиците од развојот на напредната вештачка интелигенција. Џејкоб Коксон, истражувач кој работел на развој на модели во „OpenAI“ и „Anthropic“, неодамна поднесе оставка, предупредувајќи на, како што наведе, неконтролирана трка кон суперинтелигенција.
Слични предупредувања доаѓаат и од самите АИ-компании. Експертот за безбедност на „Anthropic“, Еван Хубингер, процени дека постои повеќе од 10 проценти шанса АИ во следните десет години да може да доведе до уништување на човештвото. Шефот на „Anthropic“, Дарио Амодеи, исто така повика на забавување на развојот, а неговиот апел го поддржаа Сем Алтман од „OpenAI“ и Илон Маск.
Амодеи предупреди и на таканареченото рекурзивно самоподобрување – процес во кој АИ може да пишува и тестира сопствен код и да го забрзува развојот на своите помоќни наследници.
Сепак, меѓу експертите нема согласност околу тоа колку се реални ваквите сценарија. Додека едни предупредуваат на сериозни ризици од автономните системи, други сметаат дека технолошките компании со преувеличување на опасностите можеби се обидуваат да оправдаат построга регулација и да обезбедат предност пред помалите конкуренти.
Клучниот ризик, предупредуваат дел од експертите, можеби не е АИ налик на „Terminator“, туку автономни агенти кои преку низа неконтролирани чекори го заобиколуваат човечкиот надзор или стануваат моќно оружје во рацете на злонамерни актери.
