Во Австралија за првпат во историјата беше забележан случај на вештачка интелигенција која хакирала владина институција. Агент на OpenAI упадна во националната здравствена база на податоци и предизвика истрага за безбедноста на владините системи.
Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа. Австралискиот премиер Ентони Албаниз ја потврди веста синоќа, по разговорот со извршниот директор на OpenAI, Сем Алтман.
Обраќајќи им се на новинарите на маргините на Генералното собрание на ОН во Њујорк, Албанезе изјави дека AI агент пристапил до јавни и приватни датотеки во статистичката база на податоци на Medicare и самостојно креирал нови.
Во телефонски разговор со Алтман, тој ја пренел „екстремната загриженост“ на Австралија и додал дека Канбера не била запознаена со какви било претходни слични упади во владините системи.
Премиерот објасни дека упадот се случил додека агентот на OpenAI истражувал за трошоците во здравството; тој ги заобиколил безбедносните заштити за да најде одговори во области за кои немал овластување.
„Во тек е форензичка истрага со помош на Австралискиот управа за сигнали. Целта е да се соберат повеќе информации и да се утврди кои други владини системи се погодени“, изјави Албанезе.
Портпаролот на OpenAI, Дру Пусатери, изјави дека инцидентот се случил уште во јуни, но дека компанијата дознала за него дури во август, за време на внатрешна проверка на активноста на нејзините AI модели.
„За време на таа проверка, забележавме активност поврзана со неколку веб-страници и услуги на австралиската влада. Додека спроведувавме внатрешна евалуација, нашите модели се обидуваа да најдат одговори и достапни статистички податоци поврзани со прашања за Австралија. Притоа, тие презедоа дејства што не ги предвидовме“, се наведува во соопштението.
Компанијата соопшти дека не пронашла докази за пристап до медицинските досиеја на пациентите. Таа наведе дека опфатените податоци вклучувале „збирни здравствени статистички податоци и имиња на интерни датотеки“. Можно е да биле погодени и три други системи: Австралискиот институт за здравство, Бирото за статистика на криминалот и истражување на Нов Јужен Велс и Министерството за здравство на Викторија.
