Emma Watson recitira Mein Kampf

Današnji napredni AI alati koji vam omogućuju brojne korisne i zanimljive stvari poput razgovora s chatbotom kao s čovjekom, kreiranja nove Škorine pjesme, dobivanja savjeta o izradi računalnog koda, izradu nove Leonardove slike ili kreiranje novih kuhinjskih recepata, imaju veliki potencijal za izradu lažnih vijesti (fake newsa), objavljivanje izjava u domeni govora mržnje i kreiranje lažnih (deepfake) videa.

Portal Motherboard otkrio je da se čak i najnoviji AI alat AI startupa ElevenLabsa pod nazivom Prime Voice AI, izdan u beta verziji prije samo nekoliko dana, iskorištava na internetu za potpuno neprimjerene stvari.

ElevenLabsova AI platforma koja omogućuje NLP (obradu prirodnog jezika) i donosi virtualnog asistenta temeljenog na umjetnoj inteligenciji koji generira glas kao zvučni val, korisnicima pruža mogućnost stvaranja potpuno novih sintetičkih glasova za zvuk pretvaranja teksta u govor ili kloniranja nečijeg stvarnog glasa.

Vrlo brzo nakon lansiranja bete, tvrtka je na Twitteru otkrila da bilježi sve veći broj slučajeva zlouporabe kloniranja glasa i da razmišlja o načinu rješavanja problema implementacijom dodatnih zaštitnih mjera, no nije dala niti jedna primjer o načinima zlouporabe.

Motherboard je pronašao 4chan postove s isječcima koji sadrže generirane glasove koji zvuče kao da slavne osobe čitaju ili govore nešto upitno. Jedan je isječak, na primjer, navodno prikazivao glas koji je zvučao poput glumice Emme Watson, poznate po ulozi Hermione Granger u filmovima o Harry Potteru, kako na glas čita dijelove Hitlerove knjige Mein Kampf, a korisnici su također objavljivali glasovne isječke koji prikazuju homofobne, transfobne, nasilne i rasističke osjećaje.

Ova pojava deepfake glasovnih isječaka nama uopće nije neko iznenađenje jer smo prije nekoliko godina vidjeli sličan fenomen u obliku deepfake videa i deepfake pornografije u kojoj su se u porno filmovima na tijela glumaca stavljala lica poznatih osoba.

ElevenLabs sada prikuplja povratne informacije o tome kako spriječiti korisnike da zlorabe njegovu tehnologiju, a među rješenjima istražuje dodavanje više slojeva za potvrdu računa, kao i da korisnici potvrde vlasništvo nad autorskim pravima glasa koji žele klonirati, te da ih se natjera da predaju uzorke teksta koji će koristiti.

Uglavnom, dobili smo naprednu umjetnu inteligenciju, a sada moramo tražiti načine kako da je zauzdamo. Nažalost, opet se pokazuje da developeri AI rješenja ne razvijaju zaštitne mehanizme prije lansiranja svojih alata u javnost, već se radije bave otklanjanjem posljedica.