Откако Сем Алтман во изминатите недели повеќепати зборуваше за ризиците од AI агентите, компанијата OpenAI одлучи да го промени називот за новите верзии на своите алатки. Досега познати како агенти, овие алатки отсега ќе се нарекуваат „Dots“, односно „точки“.

Директорот на компанијата, Сем Алтман, ја претстави новината во Сан Франциско, на годишната конференција за програмери. Притоа, „точките“ ги опиша како „исклучително способни агенти кои се постојано активни и можат да направат практично сè што ќе ви падне на памет“.

Безбедносни проблеми и одложување на новиот модел

Промената на називот доаѓа во време на засилен надзор врз компанијата. Внатрешните тестирања на AI агентите во последните месеци откриле неочекувано, а понекогаш и штетно однесување, што предизвикало загриженост во јавноста и меѓу државните институции.

Само еден ден пред конференцијата, OpenAI соопшти дека го одложува лансирањето на својот најнов модел токму поради безбедносни пропусти забележани при тестирањето. Од јули, компанијата се соочува со инциденти кои вклучуваат неовластени упади на AI платформата Hugging Face, објавување слики од кориснички разговори со ChatGPT на надворешни страници, како и пристап до доверливи податоци на австралиската влада.

Симпатични асистенти наместо автономни агенти

За разлика од техничкиот назив „агент“, „точките“ се претставени како симпатични, шарени анимирани ликови. Нивната цел е да бидат дигитални асистенти за луѓе со многу обврски, а Алтман истакна дека „можат да решат навистина сè што можете да замислите“.

На конференцијата беше прикажано и промотивно видео во кое корисниците разговараат со своите анимирани „точки“, им даваат имиња и задачи, како изработка на веб-страница или резервирање детски активности.

Алтман за време на презентацијата речиси целосно го избегнуваше терминот „агент“, иако тој со години е во широка употреба и се користи за AI четботови програмирани да имаат одреден степен на автономија.

„Само доверете ѝ одговорност на вашата точка и таа веднаш ќе се фати за работа и ќе продолжи да работи“, порача тој.

Регулација и планови за излегување на берза

Одложувањата на лансирања поради безбедносни ризици не се новина во индустријата. И OpenAI и конкурентската компанија Anthropic и претходно преземале слични чекори, најчесто поради опасности поврзани со сајбер-безбедноста.

Двете компании истовремено се подготвуваат за излегување на берза – за Anthropic тоа се очекува веќе оваа година, а за OpenAI во текот на 2027 година.

Во пресрет на тоа, и двете компании јавно предупредуваат дека вештачката интелигенција претставува сериозен ризик за јавната инфраструктура и општата безбедност.

Минатата недела Алтман во Обединетите нации побара воведување национални и меѓународни стандарди за вештачката интелигенција.

Целта на стандардите би била мерење на способностите на AI алатките, процена на ризиците, дефинирање заштитни мерки и одредување на нивото на човечки надзор.

На истиот настан, директорот на Anthropic, Дарио Амодеи, изјави дека идните верзии на технологијата би можеле да станат „ризик за целото човештво“ доколку развојот на вештачката интелигенција не биде соодветно насочуван и надгледуван.