X a limitat editarea imaginilor cu AI în Grok, după scandalul deepfake-urilor sexuale. Doar abonații pot folosi serviciul
Platforma X a lui Elon Musk a restricționat editarea imaginilor cu ajutorul instrumentului său de inteligență artificială, Grok, doar pentru utilizatorii plătitori, după ce a fost criticată pentru că permitea crearea de deepfake-uri sexualizate.
A existat un val semnificativ de reacții negative după ce chatbotul a răspuns solicitărilor utilizatorilor de a modifica digital imagini ale altor persoane, dezbrăcându-le fără consimțământul acestora.
În prezent, Grok le transmite celor care cer realizarea unor astfel de materiale că doar abonații plătitori pot face acest lucru, ceea ce înseamnă că numele și informațiile de plată ale utilizatorilor trebuie să fie înregistrate, scrie BBC.
Cei care nu au un abonament pot folosi în continuare Grok pentru editarea imaginilor prin aplicația separată și prin site-ul dedicat.
„Musk își aruncă jucăriile din cărucior în semn de protest față de faptul că este tras la răspundere pentru tsunamiul de abuzuri”, a declarat profesoara Clare McGlynn, expertă în reglementarea juridică a pornografiei, violenței sexuale și abuzului online.
„În loc să ia măsuri responsabile pentru a se asigura că Grok nu poate fi folosit în scopuri abuzive, a retras accesul pentru marea majoritate a utilizatorilor.”
Specialiștii critică măsura
La rândul său, Hannah Swirsky, director de politici la Internet Watch Foundation, a spus că măsura „nu repară răul care a fost deja făcut”.
„Nu credem că este suficient să limitezi accesul la un instrument care nu ar fi trebuit niciodată să aibă capacitatea de a crea tipul de imagini pe care le-am văzut în ultimele zile”, a spus ea.
Organizația a precizat anterior că analiștii săi au descoperit „imagini cu caracter infracțional” ale unor fete cu vârste între 11 și 13 ani, care „par să fi fost create” cu ajutorul Grok.
„Să stai și să aștepți ca produse nesigure să fie abuzate înainte de a lua măsuri este inacceptabil”, a mai spus Swirsky.
Situația vine după ce guvernul britanic a cerut autorității de reglementare Ofcom să își folosească toate pârghiile legale – inclusiv o eventuală interdicție efectivă – împotriva platformei X, din cauza îngrijorărilor legate de imaginile ilegale generate cu ajutorul inteligenței artificiale.
Referindu-se la imaginile sexualizate cu adulți și copii generate de Grok, premierul Sir Keir Starmer a declarat că situația este „rușinoasă” și „scârboasă”.
El a spus că Ofcom are „sprijinul deplin” al guvernului pentru a interveni.
„Este ilegal. Nu vom tolera acest lucru. Am cerut ca toate opțiunile să fie luate în calcul”, a declarat Starmer într-un interviu acordat Greatest Hits Radio.
Surse guvernamentale au declarat pentru BBC News: „Ne așteptăm ca Ofcom să folosească toate puterile de care dispune în legătură cu Grok și X”.
Printre atribuțiile Ofcom prevăzute de Legea privind siguranța online se numără posibilitatea de a solicita o hotărâre judecătorească pentru a împiedica terți să ajute platforma deținută de Elon Musk să strângă fonduri sau să fie accesată în Regatul Unit.
BBC a solicitat un punct de vedere și din partea autorității de reglementare.
„Abonează-te pentru a debloca”
Grok este un instrument gratuit pe care utilizatorii îl pot menționa direct în postări sau în răspunsuri la alte postări pentru a-i cere un anumit tip de reacție.
Funcția a permis însă și solicitări de editare a imaginilor, inclusiv cereri de a dezbrăca digital persoane de cea mai mare parte a hainelor.
Grok a onorat numeroase solicitări de a modifica imagini ale femeilor pentru a le arăta în bikini sau cu foarte puține haine, lucru despre care persoanele vizate au declarat pentru BBC că le-a făcut să se simtă „umilite” și „dezumanizate”.
Începând de vineri dimineață, Grok le transmite utilizatorilor care cer modificarea imaginilor încărcate pe X că „generarea și editarea imaginilor sunt în prezent limitate la abonații plătitori”.
Mesajul precizează că utilizatorii „se pot abona pentru a debloca aceste funcții”. Unele postări analizate de BBC News sugerează că doar utilizatorii cu bifa albastră de „verificat” - disponibilă exclusiv abonaților plătitori ai platformei X - au reușit să solicite cu succes editări de imagini prin Grok.
Dr. Daisy Dixon, utilizatoare X, care a spus că a observat o creștere a cazurilor în care Grok era folosit pentru a o „dezbrăca” digital, a salutat schimbarea, dar a declarat că pare „doar un pansament”.
„Grok trebuie reproiectat complet și trebuie să aibă integrate mecanisme etice clare pentru a preveni ca așa ceva să se mai întâmple”, a declarat ea pentru BBC.
„Elon Musk trebuie, de asemenea, să recunoască realitatea: este încă un caz de încălcare bazată pe gen.”
Profesoara McGlynn a spus că decizia platformei X seamănă cu modul în care a fost gestionată anul trecut problema deepfake-urilor pornografice cu Taylor Swift, când platforma a blocat căutările pentru materiale sexualizate generate cu ajutorul unei funcții video AI Grok.
„Face asta pentru a alimenta argumentele privind libertatea de exprimare”, a adăugat ea.
„Va susține că reglementarea îngrădește folosirea acestei tehnologii. Dar tot ce cer reglementările este să ia măsurile necesare pentru a reduce riscurile și prejudiciile.”
Etichete: Deepfake, elon musk, grok, inteligenta artificiala,
