Шефот за AI безбедност ја напуштил една од најистакнатите светски фирми за вештачка интелигенција, со сериозно предупредување за историскиот момент во којшто човештвото се наоѓа.

Одлуката прво била интерно соопштена по пат на електронска пошта, а потоа пренесена и јавно, а неговото заминување се толкува како одговор на моменталните глобални ризици, а не само како вообичаен професионален пресврт.

Мринанк Шарма, којшто навел дека го водел тимот за истражување за заштитни механизми во компанијата „Anthropic“ во прошталното писмо потврдил дека ја напушта фирмата, пренесува „Business Insider“.

На колегите им порачал дека последен работен ден му е 9 февруари. Во писмото причините за заминување ги објаснил како спој на професионално заокружување и етички непријатности.

„Сѐ што сакав постигнав тука“, напишал Шарма, наведувајќи ја работата на намалување на ризикот од биотероризам потпомогнат од вештачката интелигенција, воведување на тие заштити во реални состави и придонес во раните безбедносни анализи на вештачката интелигенција.

🧠 Клучен момент за човештвото

Средниот дел од пораката на Шарма се однесува на поширокиот контекст на развој на напредната вештачка интелигенција.

„Светот е во опасност. И не само поради вештачката интелигенција или биолошкото оружје, туку поради мноштвото низа меѓусебно поврзани кризи кои се одвиваат токму во овој момент“, напишал во писмото упатено до сега веќе поранешните колеги.

Предупредил и на нерамнотежа меѓу моќта и разумноста.

„Се чини дека се доближуваме до прагот на којшто нашата мудрост мора да расте со иста мера како и нашата способност да влијаеме на светот. Во спротивно ќе се соочиме со последици“, порачал Шарма.

„Во текот на своето време тука повеќе пати видов колку е навистина тешко да се дозволи нашата вредност на управување со нашите постапки. Тоа го видов во себе, внатре во организацијата каде постојано се соочуваме со притисоци да го занемариме она што е најважно, како и во пошироката општествена заедница“, појаснил Шарма.

🧠 Го чека целосен пресврт, а „Anthropic“ се шири

Шарма навел дека планира да работи нешто во состав со сопствениот интегритет, разгледува студии за поезија и да се посвети на она што го опишува како храбар јавен говор.

Неговото заминување следи откако други неодамнешни заминувања на клучни луѓе во таа компанија.

„Anthropic“ е во преговори за собирање нова рунда финансирање што би можело да се процени на околу 320 милијарди евра, а неодамна го претставила и „Cloud Opus 4.6“, нов модел на вештачка интелигенција насочен кон зголемување на продуктивноста и подобрување на програмирањето.