Тоа е една од новите родителски контроли кои ги најави производителот на чет-ботот, „OpenAI“.

За безбедноста на оваа платформа за младите корисници се зборуваше кон крајот на август кога еден пар во Калифорнија го тужеше „OpenAI“ поради смртта на нивниот 16-годишен син, тврдејќи дека „ChatGPT“ го поттикнал да си го одземе животот.

„OpenAI“ соопшти дека во наредниот месец ќе воведе „засилена заштита за тинејџерите“.

Кога минатата недела се појави веста за тужбата, „OpenAI“ објави белешка на веб-страницата во која пишува дека „ChatGPT“ е обучен да ги насочува луѓето да бараат стручна помош кога се во неволја.

Компанијата, сепак, призна дека „имало моменти кога системите не се однесувале како што е предвидено во осетливи ситуации“.

Сега е објавено уште едно ажурирање кое ќе им овозможи на родителите да: го поврзат нивниот профил со профилот на детето, да управуваат со функциите што треба да се оневозможат (како што се меморијата и историјата на четовите), да добиваат известувања кога системот ќе открие дека детето е во неволја.

Тие соработуваат со група експерти за развој на младите, грижа за менталното здравје и „интеракција помеѓу човекот и компјутерот“ за да помогнат во обликувањето на „визија базирана на докази за тоа како вештачката интелигенција може да ја поддржи благосостојбата на луѓето и да им помогне да напредуваат“.

Корисниците на „ChatGPT“ мора да имаат најмалку 13 години, а ако се помлади од 18 години, мора да имаат дозвола од родителите за да го користат.

Тужбата што ја поднесоа Мет и Марија Рејн, родителите на 16-годишниот Адам Рејн, во Калифорнија, беше првата правна акција во која „OpenAI“ се обвинува за убиство.

Семејството приложи записи од разговорите помеѓу Адам и „ChatGPT“ кои покажуваат дека тој објаснува дека има суицидни мисли.

Тие тврдат дека програмата ги потврдила неговите „најштетни и најсамодеструктивни мисли“, а го обвинуваат „OpenAI“ за немар и убиство.

Големите технолошки компании и безбедноста на интернет

Оваа објава на компанијата „OpenAI“ е најновата во низата мерки на водечките светски технолошки фирми за да ги направат децата побезбедни во онлајн окружувањето.

Многу од нив се воведени како резултат на нови закони, како што е Законот за безбедност на интернет во Велика Британија.

Тоа вклучуваше воведување на проверка на возраста на „Reddit“, „X“ и порнографските сајтови.

Порано оваа недела, компанијата „Meta“, која управува со „Facebook“ и „Instagram“, објави дека ќе воведе дополнителна заштита за четботовите со вештачка интелигенција, како што е блокирање на разговорите со тинејџерите за суицид, самоповредување и нарушувања во исхраната.

Еден американски сенатор започна истрага против технолошкиот гигант откако белешките во протечениот внатрешен документ сугерираа дека нивните "AI" производи можат да имаат „сензуални“ разговори со тинејџерите.

Компанијата ги опиша белешките во документот, кој го доби „Reuters“, како погрешни и неконзистентни со нивната политика која забранува содржина што ја сексуализира децата.