Videoclipuri AI cu celebrități decedate stârnesc controverse în mediul online. „Această problemă se va agrava"
Într-o realitate paralelă, regina Elisabeta a II-a se minunează în faţa unor sufleuri cu brânză, un Saddam Hussein înarmat până în dinţi defilează într-un ring de wrestling, iar papa Ioan Paul al II-lea încearcă să se dea cu skateboardul.
Videoclipuri hiperrealiste cu celebrităţi decedate, create cu aplicaţii precum Sora de la OpenAI, uşor de utilizat, au proliferat în mediul online, stârnind o dezbatere cu privire la controlul imaginii persoanelor decedate, relatează luni AFP.
Aplicaţia OpenAI, lansată în septembrie şi considerată pe scară largă o maşină de produs "deepfake-uri" - conţinut hiperrealist trucat, generat de inteligenţa artificială (AI) - a produs între timp o multitudine de videoclipuri cu personaje istorice, printre care Winston Churchill, precum şi cu celebrităţi precum Michael Jackson şi Elvis Presley.
Într-un videoclip de pe platforma TikTok vizionat de AFP, regina Elisabeta a II-a, purtând un colier de perle şi coroană, ajunge la un meci de wrestling pe scuter, sare peste corzi şi se năpusteşte asupra unui luptător. Într-un alt videoclip postat pe Facebook, regina promovează sufleuri cu brânză într-un supermarket, în timp ce în alt videoclip apare jucând fotbal.
Însă, nu toate aceste videoclipuri generate sunt amuzante.
În octombrie, gigantul AI i-a împiedicat pe utilizatorii aplicaţiei sale Sora să creeze videoclipuri folosind imaginea lui Martin Luther King Jr., în urma plângerilor formulate de moştenitorii militantului pentru drepturile civile.
Unii utilizatori au creat videoclipuri în care acesta scotea sunete de maimuţă în timpul celebrului său discurs "I Have a Dream", cu remarci vulgare, jignitoare sau rasiste.
"Exasperant"
"Pătrundem în valea stranie", a explicat Constance de Saint Laurent, profesoară la Universitatea Maynooth din Irlanda, referindu-se la teoria conform căreia atunci când un obiect atinge un anumit grad de asemănare antropomorfă sau hiperrealism, acesta provoacă un sentiment de anxietate şi nelinişte.
"Dacă aţi începe brusc să primiţi videoclipuri cu o persoană dragă decedată, ar fi traumatizant", a declarat ea pentru AFP. "Aceste videoclipuri au consecinţe reale", a subliniat ea.
În ultimele săptămâni, copiii actorului Robin Williams şi ai celebrului activist afro-american Malcolm X au condamnat utilizarea aplicaţiei Sora pentru a crea videoclipuri cu taţii lor decedaţi, notează AFP.
Zelda Williams, fiica lui Robin Williams, a solicitat recent Instagram să nu mai trimită videoclipuri cu tatăl ei, generate de AI. Este "exasperant", a spus ea.
Deşi există "datorită libertăţii de exprimare", a "unui interes puternic în reprezentarea figurilor istorice", personalităţile publice şi familiile acestora ar trebui să deţină controlul suprem asupra imaginii lor, a declarat pentru AFP un purtător de cuvânt al OpenAI.
Pentru persoanele "recent decedate", a adăugat el, reprezentanţii autorizaţi sau moştenitorii pot solicita acum ca imaginea lor să nu fie utilizată pe Sora.
"Control asupra imaginii"
"În pofida a ceea ce susţine OpenAI despre dorinţa sa de a permite oamenilor să deţină controlul asupra imaginii lor, a lansat un instrument care face în mod clar opusul", a declarat pentru AFP Hany Farid, cofondator al companiei americane de securitate cibernetică GetReal Security şi profesor la Universitatea California, Berkeley.
"Deşi au oprit (în mare măsură) crearea de videoclipuri cu Martin Luther King Jr., ei nu împiedică utilizatorii să distorsioneze identitatea multor altor celebrităţi", a deplâns el.
"Chiar dacă OpenAI va implementa anumite protecţii" pentru această figură politică, "va exista un alt model AI care n-o va face şi, prin urmare, această problemă se va agrava", a remarcat el.
Pe măsură ce instrumentele AI avansate proliferează, aceste riscuri nu se mai limitează la personalităţile publice. Chiar şi persoanelor decedate, care nu sunt faimoase, li se pot prelua numele, imaginea şi cuvintele în mod ilegal pentru a fi manipulate.
Cercetătorii avertizează cu privire la proliferarea necontrolată a acestui conţinut, supranumit "terci AI", care ar putea în cele din urmă să înstrăineze utilizatorii de reţele sociale.
"Problema cu dezinformarea, în general, nu este neapărat faptul că oamenii o cred. Mulţi n-o cred", a remarcat Constance de Saint Laurent. "Problema este că ei văd informaţii reale şi nu mai au încredere în ele", a atras ea atenţia subliniind că instrumente precum Sora vor "amplifica masiv acest fenomen".
Etichete: Deepfake, inteligenta artificiala, openai,
