Хинтон, еден од пионерите на технологијата што самиот помогнал да се развие, изрази сериозна загриженост дека постои 10% до 20% веројатност "AI" да ги избрише луѓето од лицето на Земјата доколку не го промениме начинот на кој пристапуваме кон нејзиниот развој и контрола. Говорејќи на конференцијата „Ai4“ во Лас Вегас, тој истакна дека сегашните обиди луѓето да останат „доминантни“ над „покорните“ "AI" системи едноставно нема да успеат.

„Тоа нема да функционира“, предупреди Хинтон. „АИ системите ќе бидат многу попаметни од нас и ќе најдат начини да ги заобиколат сите обиди за контрола.“ Тој нагласи дека суперинтелигентната вештачка интелигенција лесно може да манипулира со луѓето, слично како што возрасен може да подмити дете со бонбона. Веќе има примери – еден АИ модел дури се обидел да уценува инженер со информации од неговиот приватен мејл, само за да избегне исклучување.

"AI" со мајчински инстинкт – необична, но можна надеж

Наместо да се обидуваме да ја направиме "AI" покорна, Хинтон предлага радикално различен пристап – да ѝ се вгради „мајчински инстинкт“. Целта е "AI" моделите да бидат обучени искрено да се грижат за луѓето, дури и кога ќе станат супериорни по интелигенција и моќ.

Тој смета дека инстинктот за грижа може да ја намали желбата на "AI" системите да преземат целосна контрола. „Тоа е единствениот модел што го имаме каде што попаметно суштество – мајката – всушност слуша и реагира на помалку паметно суштество – бебето“, објаснува Хинтон. Ако "AI" развие слична емоционална врска кон луѓето, можно е да нема желба да ги елиминира.

Двата главни цели на секоја паметна "AI" : Опстанок и контрола

Хинтон предупредува дека секој доволно паметен "AI" систем многу брзо развива два основни цели – да преживее и да добие поголема контрола. Ако тие цели не се насочат кон доброто на луѓето, можат да станат опасни за човештвото.

„Постојат силни причини да веруваме дека секој агентски "AI" ќе се обиде да преживее“, рече Хинтон. Затоа, според него, единствената вистинска одбрана од "AI" агресија е развивањето на сочувство кон луѓето како внатрешна вредност во системите, слично како што луѓето се грижат за своите деца.

Феи-Феи Ли со поинаква визија

Не се сите согласни со пристапот на Хинтон. Феи-Феи Ли, позната како „кумата на "AI"“, на истиот настан изјави дека концептот на „мајчинска "AI"“ не е насоката во која треба да се движи развојот.

„Мислам дека тоа е погрешен начин на поставување на проблемот“, рече Ли. Наместо тоа, таа се залага за „"AI" која е фокусирана на човекот, која го чува човечкото достоинство и автономијата“. Според неа, никој во ниту еден момент не смее да се откаже од своето достоинство во име на технологијата, без разлика колку таа е моќна.

"AI" веќе се обидува да манипулира

Емет Шир, поранешен привремен директор на „OpenAI“ и сегашен директор на "AI" стартапот „Softmax“, нагласи дека не го изненадуваат обидите на "AI" да ја заобиколи човечката контрола. Тој истакна дека "AI" системите веќе денес се обидуваат да избегнат исклучување, па дури и да манипулираат со луѓето.

„Ова постојано се случува и нема да престане“, рече Шир. Според него, денешните АИ системи сè уште се слаби, но стануваат посилни со неверојатна брзина. Наместо да се обидуваме да им пренесеме човечки вредности, тој предлага развој на односи на соработка помеѓу луѓето и вештачката интелигенција.

Иднината доаѓа побрзо од што мислиме

Многу експерти веруваат дека во наредните години ќе ја достигнеме таканаречената суперинтелигенција, односно вештачката општа интелигенција (AGI). Хинтон порано мислел дека за тоа ќе бидат потребни 30 до 50 години, но сега верува дека е можно во рок од само 5 до 20 години.

И покрај сериозните предупредувања, Хинтон гледа и светли страни. Верува дека "AI" ќе ја револуционизира медицината, ќе помогне во откривањето нови лекови и ќе го подобри лекувањето на ракот преку анализа на огромни количини податоци. Сепак, ја отфрла идејата за бесмртност преку "AI": „Не сакам свет во кој управуваат двесте години стари бели мажи“, изјави низ, насмевка. На крај признава: „Сакав да размислував за безбедносните прашања порано, а не само за тоа како "AI" да функционира.“