Zelda Williams, fiica îndrăgitului actor Robin Williams, care a murit recent, a trimis, pe Instagram, un mesaj foarte tulburător fanilor tatălui ei: „Vă rog, încetați să-mi mai trimiteți filmulețe cu tata făcute de IA. Încetați să vă închipuiți că vreau să văd așa ceva ori că voi înțelege așa ceva. Nu vreau să văd și nu înțeleg. Dacă mai aveți un strop de decență, încetați să-i mai faceți asta lui – și mie; vă spun tuturor atât: Stop! Este o idioțenie, este o pierdere de timp și de energie și, credeți-mă, NU este deloc ceea ce îmi doresc.”
TechCrunch comentează că mesajul Zeldei apare, deloc întâmplător, la numai câteva zile după ce OpenAI a lansat un nou model IA video, aplicația Sora, care permite utilizatorilor să creeze imagini false extraordinar de realiste (așa-zisele „deepfakes”) care îi reprezintă pe ei înșiși, pe prietenii lor (cu permisiunea acestora), anumite personaje de desene animate – dar și persoane decedate.
Cum legea nu prevede pedepse pentru calomnierea unui mort, se pare că fenomenul a luat amploare. Deja oamenii fac clipuri deepfake cu Martin Luther King, Jr., Franklin Delano Roosevelt, Richard Nixon, dar și cu vedete răposate precum John Lennon ori Robin Williams. De ce unele figuri pot fi reproduse, iar altele nu (e.g., președintele Jimmy Carter sau Michael Jackson), nu este limpede.
Zelda Williams a comentat: „Să vezi moștenirea unor oameni care au trăit în carne și oase condensată în câteva imagini care le seamănă vag la chip și voce, numai pentru că unii vor să scoată pe bandă rulantă clipuri idioate pe TikTok și să-și bată joc de ei este absolut insuportabil.”
Compania OpenAI este criticată pentru o abordare extrem de neglijentă a problemei, iar Motion Picture Association i-a cerut deja să-și gestioneze modelul luând act de existența legislației de copyright.
Potrivit TechCrunch, Sora 2 este cel mai periculos model de IA capabil să creeze deepfakes pe care oamenii îl au azi la dispoziție, deși are, totuși, niște limite, față de modelul xAI, de exemplu, care poate genera și imagini pornografice.
Dar, comentează TechCrunch: „Pe măsură ce alte companii vor prinde din urmă OpenAI, vom vedea creându-se un precedent oribil, dacă tratăm oamenii reali – fie ei vii sau morți – ca și cum ar fi jucăriile noastre”.
Sursa în text.
