Покрај неодамнешниот скандал со наводната кражба на решението за математичкиот проблем Навие-Стокс од страна на „OpenAI“, за кое тврдеа дека го решил нивниот јазичен модел, сега имаме и друг пример за „интеракцијата“ на четботовите со своите корисници – „Claude“ во полиција ги пријавил дневничките записи на своја корисничка која фантазирала за пукање во полициска станица на Флорида.
„Го застрелав шерифот, но не го застрелав неговиот заменик …“, своевремено пееше легендарниот Боб Марли, без никакво судско гонење, но таква среќа нема да има корисничка на „Claude“ од Флорида, која му се доверила како на свој дневник дека планира да направи нешто слично.
Според пишувањето на „TechSpot“, Карли Мишел Хелер од Бонита Спрингс на Флорида е обвинета за тешко кривично дело откако, според полицискиот извештај за апсењето, на 26 септември му напишала на „Claude“ дека планира да пука во канцеларијата на шерифот на округот Ли. Подоцна изјавила дека четботот на „Anthropic“ го користи како дневник.
Безбедносните системи на „Claude“ го означиле тој запис и го проследиле на преглед кај вработен во компанијата. Тој проценил дека заканата е веродостојна и ја пријавил во полиција. „Anthropic“, инаку, наведува дека „во ограничени итни случаи може да сподели податоци за корисниците доколку смета дека тоа е неопходно за спречување смрт или тешка телесна повреда“.
Полицајците утврдиле за кого станува збор и пристигнале на нејзината адреса, каде што била приведена без инциденти, а истрагата потоа ја презел детектив од разузнавачкиот оддел на канцеларијата на шерифот.
Хелер е обвинета за „писмена закана со насилство“.
Според законите на Флорида, кривично дело прави оној што ќе испрати, објави или пренесе писмен или електронски запис со кој се заканува со убиство или повредување, масовно пукање или терористички чин. Условот е пораката да биде испратена на начин што овозможува да ја види друго лице.
Од описот на делото не е јасно дали „Anthropic“ го смета „Claude“ за „друго лице“, локалниот шериф или некој трет.
Боб Марли повеќе не е меѓу нас, па не можеме да го прашаме што би рекол тој за сето ова.
Патем, минатиот месец канадската покраина Британска Колумбија ги тужеше „OpenAI“ и Сем Алтман, тврдејќи дека компанијата можела да спречи масовно пукање на нејзина територија, но не и поради веројатната кражба на решението за математичкиот проблем што му го припишаа на својот четбот. Многу брзо, меѓутоа, се покажа дека решението веројатно било преземено од Тристан Бакмастер и Левент Алпоге, кои цели нацрти од доказите ги внесувале во „Codex“ на „OpenAI“.
Одеднаш, како со магија, „OpenAI“ објави дека „10.000 негови агенти на интерен модел го решиле проблемот за 88 часа“.
