Open AI ChatGPT неочекувано го клонираше гласот на корисникот за време на тестирањето, открија неговите креатори.
Компанијата која стои зад чет-ботови со вештачка интелигенција (AI) работи на нов напреден гласовен режим, GPT-4o. Откриле дека ова ќе му овозможи на ботот да дава сложени говорни одговори на прашања поставени преку глас.
Сепак, за време на тестирањето, OpenAI откри грешка што му дозволи на четботот „неовластено генерирање глас“. Во клип објавен од The Sun, четботот разговара со жена корисник преку машки глас генериран од вештачка интелигенција.
- Генерирањето глас е способност да се создаде звук со синтетички глас со човечки звук и вклучува генерирање гласови врз основа на краток влезен клип. Во спротивставени ситуации, оваа способност може полесно да предизвика штета со зголемување на фреквенцијата на измами со лажно претставување и може да се користи за ширење лажни информации, велат од компанијата.
Корисниците на социјалните мрежи го нарекоа овој „излив“ на четботот како „морничав“.
„Ова е повеќе од морничаво, страшно е“, „Кога ChatGPT ќе почне да зборува, време е да го исклучите компјутерот“, „Зачуден сум што може да синтетизира глас толку брзо, под претпоставка дека го користел само гласовниот одговор од таа тест сесија “ беа само дел од коментарите.
Креаторите на ChatGPT претходно предупредија дека режимот на човечки глас на GPT-4o е толку реален што луѓето можат да станат „емоционално зависни“ од него.
