Непрофитната организација „AI Forensics“, со седиште во Париз, открила 354 профили насочени кон AI-содржина кои во едномесечен период објавиле 43 илјади видеа и собрале неверојатни 4,5 милијарди прегледи.

Според извештајот, дел од тие профили се обидуваат да манипулираат со алгоритмот на „TikTok“ преку огромен број објави, надевајќи се дека некои ќе станат вирални. Еден од нив објавувал содржина и по 70 пати дневно, што упатува на автоматизација. Повеќето анализирани профили се отворени на почетокот од оваа година.

Сексуализирана содржина и лажни вести

Од најактивните профили, половина биле насочени кон содржина поврзана со женското тело. „Овие AI-жени секогаш се стереотипно атрактивни, со сексуализирана облека или деколте“, стои во извештајот. Дел од содржините ширеле и лажни вести со антиимигрантски наратив, како и материјали кои ги сексуализираат женските тела, вклучувајќи и девојки кои изгледале малолетно.

Некои од видеата со лажни вести користеле визуелен идентитет на познати медиумски куќи како „Sky News“ и „ABC“. По пријавата од "Guardian" до „TikTok“, дел од тие објави биле отстранети. „AI Forensics“ утврдила дека половина од содржината воопшто не била означена како AI-генерирана, а помалку од 2% ја носеле официјалната ознака на „TikTok“.

Истражувачите предупредуваат дека тоа го зголемува потенцијалот за манипулација и додаваат дека некои профили со месеци ја избегнувале модерацијата и покрај кршењето на правилата. Десетици профили опфатени со студијата биле подоцна избришани, што укажува дека ги отстранил модерацискиот тим.

„TikTok“: „Неосновани тврдења“

Од „TikTok“ порачаа дека наводите од извештајот се „неосновани“ и дека истражувачите ја издвоиле нивната платформа иако проблемот е распространет во целата индустрија. Минатиот месец, „TikTok“ откри дека на платформата имало најмалку 1,3 милијарди објави генерирани со AI.

„На ’TikTok‘ отстрануваме штетна "AIGC" содржина, блокираме создавање стотици милиони бот-профили, инвестираме во водечки технологии за AI-означување и им даваме на луѓето алатки и едукација за да го контролираат своето искуство со ваквиот материјал“, изјави портпаролот на компанијата.

Најпопуларните профили кои „AI Forensics“ ги истакна објавувале т.н. „slop“ — термин за бесмислена и бизарна содржина создадена со "AI", чија цел е да ги преплави фидовите на социјалните мрежи. Примери се животни кои се натпреваруваат во олимписки скокови во вода или бебиња кои зборуваат. Истражувачите признаваат дека дел од таа содржина бил „забавен“ и „симпатичен“.

Потребни се подобри решенија

Истражувањето се базирало на податоци собрани од средината на август до средината на септември. Истражувачите предупредуваат дека замаглувањето на границата меѓу автентичната човечка и синтетичката содржина е сигнал за засилено присуство на вештачка интелигенција во корисничките фидови.

Од „AI Forensics“ ја поздравуваат одлуката на „TikTok“ да им овозможи на корисниците ограничување на AI-содржина, но додаваат дека означувањето мора значително да се подобри. „Платформите мора да одат подалеку од бледи или опционални ознаки за ’AI-содржина‘ и да размислат за одвојување на генерираниот материјал од човечки создадените објави или да воспостават фер систем што систематски и видливо ќе ја означува AI-содржината“, заклучуваат.