Во опширна објава на социјалната мрежа „X“ порача дека компаниите треба да тргнуваат од претпоставката дека секој AI модел може да биде компромитиран, без оглед на неговата напредност или досегашна сигурност.

„Мораме да претпоставиме дека моделот е компромитиран и уште од самиот почеток да го ограничиме неговото дејствување. Замислете го тоа како безбедносна сопирачка. Овластено лице секогаш мора да има можност да го запре или исклучи моделот среде извршување на задачата“, напиша Надела.

Тоа не значи дека сите постојни модели на вештачка интелигенција навистина се хакирани или дека се однесуваат злонамерно. Аргументот на Надела е поинаков: безбедноста на AI системите мора да се проектира така што ќе ја земе предвид можноста за грешки, злоупотреба и непредвидено однесување, пренесува порталот „Bug“.

Како AI донесува одлуки?

Денешните најнапредни модели на вештачка интелигенција се сè поспособни, но нивните внатрешни процеси и натаму не се доволно транспарентни. Кај традиционалниот софтвер често е можно одредено однесување да се поврзе со конкретен дел од програмскиот код. Кај големите јазични модели, меѓутоа, не е секогаш можно со сигурност да се утврди зошто системот дошол до одреден заклучок или избрал одредена акција. Ризикот станува значително поголем кога на таквите системи им се овозможува пристап до доверливи деловни податоци или кога им се препушта самостојно извршување важни задачи. Во такви ситуации, потенцијалната грешка повеќе не е само погрешен одговор во разговор, туку може да доведе до сериозни последици за работењето, безбедноста на податоците или работата на другите системи.

Токму затоа Надела смета дека компаниите мораат од темел да го преиспитаат начинот на кој градат доверба во вештачката интелигенција.

„Едноставно не можеме да ја препуштиме одговорноста за она што интелигенцијата го прави во наше име. Гаранциите на давателите на AI модели не нè ослободуваат од таа одговорност“, истакна директорот на „Microsoft“.

Ограничени привилегии

Надела предлага најнапредните модели на вештачка интелигенција да се разгледуваат слично како потенцијални внатрешни безбедносни ризици во организациите. Таквиот пристап одамна постои во сајбер-безбедноста, каде што пристапот до чувствителни информации се ограничува, активностите се евидентираат, а овластувањата на корисниците и системите внимателно се контролираат.

Во практика, тоа значи дека AI моделот не треба автоматски да добие пристап до сите податоци и алатки што би можеле да му бидат корисни. Неговите привилегии треба да се ограничат на она што е неопходно за конкретната задача, со можност овластено лице да интервенира кога е потребно.

Меѓу предложените мерки се независни безбедносни проверки на моделите, континуирано тестирање и детално евидентирање на нивните активности. Особено е важно клучните механизми за контрола да бидат надвор од самиот модел, за AI да не може самостојно да ги менува ограничувањата што му се поставени или да ги заобиколи правилата за пристап до податоците.

Таквиот пристап станува сè позначаен во момент кога вештачката интелигенција се интегрира во деловните процеси, добива пристап до внатрешните бази на податоци и се користи за автоматизација на задачи кои претходно барале човечка интервенција.

Иднината не зависи само од довербата во AI

Надела смета дека сигурноста на вештачката интелигенција не треба да се заснова исклучиво на ветувањата на компаниите што ги развиваат моделите. Дури и кога производителот тврди дека неговиот систем е безбеден, организациите што го користат мораат да ја задржат контролата врз неговите овластувања и одлуки.

Со други зборови, целта не е само да се развие модел што ќе греши што поретко, туку да се изгради систем во кој евентуалните грешки не можат лесно да прераснат во сериозен безбедносен инцидент.

„Ако нешто не можеме да го надгледуваме, не можеме ни да му веруваме. Најсигурниот AI систем нема да биде оној што користи модел на кој најмногу му веруваме. Ќе биде оној што ни овозможува што помалку да се потпираме на довербата во самиот модел“, заклучи Надела.

Неговата порака укажува на важна промена во пристапот кон вештачката интелигенција: како што AI моделите стануваат поспособни и добиваат сè поголеми овластувања, надзорот, ограничувањето на пристапот и можноста за човечка интервенција стануваат подеднакво важни како и нивните перформанси.