Интернет на въоръжение, тъй като потребителят на 4Chan използва AI гласов симулатор, за да фалшифицира гласа на Ема Уотсън, кара я да чете автобиографията на Хитлер
Бившите служители на Google и Palantir заедно стартираха стартъпа Elevenlabs, който имаше за цел да създаде висококачествени аудио дълбоки фалшификати на знаменитости чрез техния инструмент за клониране на AI глас. Но стартирането им на бета версия скоро има обратен ефект, тъй като мнозина злоупотребяват с гласовете на известни личности, включително Ема Уотсън, чрез инструмента за клониране на глас с изкуствен интелект.
Много фенове останаха разгневени от неетичното и неморално използване на AI инструмента, след като някои тролове злоупотребяваха с гласовете на любимите им знаменитости, за да предават възмутителни коментари. Но стартъпът увери всички, че ще променят модела си, за да избегнат допълнителни проблеми.
Феновете са разгневени, след като потребителят на 4Chan злоупотребява с гласа на Ема Уотсън чрез AI инструмент
Въвеждането на инструмента за клониране на AI глас от Elevenlabs подпали интернет, след като множество тролове експлоатираха използването на този безплатен инструмент. Въпреки че мнозина използват софтуера за генериране на здравословно съдържание, част от интернет злоупотреби с инструмента, за да накара знаменитости да бълват расови обиди и възмутителни коментари, както и злоупотребата с на Ема Уотсън гласът беше последната капка.
Наскоро. Дънната платка съобщи за екстремна злоупотреба със софтуера за изкуствен интелект за създаване на обидно дълбоко фалшиво аудио. Но капката, която преля чашата на камилата, беше потребител на 4Chan, който генерира клип на Хари Потър звездата Ема Уотсън чете моята битка , автобиографията на нацисткия диктатор Адолф Хитлер.
Феновете бяха разгневени от това неетично използване на софтуера за Ема Уотсън и други известни знаменитости, включително Джо Роугън, Робин Уилямс и др. Elevenlabs, които направиха технологията достъпна за обществеността, обърнаха внимание на този нарастващ проблем и обещаха да се борят срещу злоупотреба с техния инструмент за клониране на глас.
Прочетете също: Режисьорът на „Затворник от Азкабан“ помоли триото на Хари Потър да напише есе за техния характер – Ема Уотсън написа 16 страници, Даниел Радклиф имаше 1 страница резюме, Рупърт Гринт не написа нито една
Elevenlabs се зарича да избягва по-нататъшна злоупотреба с AI инструмента
Стартъпът беше поразен от положителния отговор и на тях в началото, тъй като много от тях използваха инструмента за клониране на AI глас за пълноценно създаване. Но компанията скоро се сблъска с проблем, след като троловете започнаха да използват софтуера за нечестиви цели. Elevenlabs увериха интернет, че проучват задълбочено въпроса и измислят възможните решения.
Въпреки че създателите на Elevenlabs признаха, че могат да проследят до потребителите, които злоупотребяват със силата на AI инструмента, те търсят допълнителни мерки за безопасност, за да избегнат този проблем. Създателите споделиха различни идеи за справяне с проблема, което включва въвеждане на ръчна проверка за всяко клониране и пълна идентификация на потребителя чрез плащане или друг метод.
Въпреки че бета тестването на Startup започна смесено, като много фенове бяха ядосани за неетичното използване на гласове на знаменитости чрез AI инструмента, особено Ема Уотсън. Но хората също така признаха стартъпа за това, че не отмина ситуацията и предприе активни мерки за справяне с тези интернет тролове.
източник: Заместник
