S-au pus tunurile pe Grok, cu bătaie la Elon Musk. Anchetă după mii de fotografii cu femei „dezbrăcate” la cerere

Sunt mai multe exemple pe platforma de socializare X în care oamenii cereau chatbotului să dezbrace femeile pentru a le face să apară în bikini fără consimțământul lor, precum și să le pună în situații sexuale.

XAI, compania din spatele Grok, nu a răspuns la solicitarea de comentarii, cu excepția unui răspuns generat automat în care se afirma că „mass-media tradițională minte”, transmite BBC.

Femeia, pe nume Smith, a distribuit o postare pe X despre modificarea imaginii sale, care a primit comentarii de la persoane care au trăit aceeași experiență, înainte ca alții să îi ceară lui Grok să genereze mai multe imagini cu ea.

„Femeile nu sunt de acord cu asta”, a spus ea.

„Deși nu eram eu cea dezbrăcată, arăta ca mine și mă simțeam ca și cum cineva ar fi postat o poză cu mine nud sau în bikini.”

Anchetă în Franța

Autoritățile franceze vor investiga proliferarea deepfake-urilor cu conținut sexual explicit generate de platforma de inteligență artificială Grok pe X, au declarat reprezentanții procuraturii din Paris pentru POLITICO.

Legiuitorii francezi Arthur Delaporte și Eric Bothorel au contactat parchetul pe 2 ianuarie, după ce mii de deepfake-uri cu conținut sexual explicit au fost generate de Grok și publicate pe X.

„Aceste fapte au fost adăugate la ancheta existentă privind X”, a menționat parchetul, menționând că această infracțiune este pedepsită cu doi ani de închisoare și o amendă de 60.000 de euro.

În Marea Britanie, un purtător de cuvânt al Ministerului de Interne a declarat că se lucrează la adoptarea unei legi care să interzică instrumentele de nudificare și că, în conformitate cu o nouă infracțiune penală, orice persoană care furnizează astfel de tehnologie „riscă o pedeapsă cu închisoarea și amenzi substanțiale”.

Autoritatea de reglementare Ofcom a transmis că firmele de tehnologie trebuie să „evalueze riscul” ca persoanele din Marea Britanie să vizioneze conținut ilegal pe platformele lor, dar nu a confirmat dacă în prezent investighează X sau Grok în legătură cu imaginile generate de AI.

Ce este Grok

Grok este un asistent AI gratuit – cu unele funcții premium, contra cost – care răspunde și la solicitările utilizatorilor X atunci când aceștia îl etichetează într-o postare.

Este adesea utilizat pentru a oferi reacții sau mai mult context la comentariile altor utilizatori, dar utilizatorii X pot, de asemenea, să editeze o imagine încărcată prin intermediul funcției sale de editare a imaginilor AI.

Grok a fost criticat pentru că permite utilizatorilor să genereze fotografii și videoclipuri cu nuditate și conținut sexualizat și a fost acuzat anterior că a creat un clip sexual explicit cu Taylor Swift.

Clare McGlynn, profesor de drept la Universitatea Durham, a declarat că X sau Grok „ar putea preveni aceste forme de abuz dacă ar dori”, adăugând că „par să se bucure de impunitate”.

„Platforma permite crearea și distribuirea acestor imagini de luni de zile fără a lua nicio măsură și încă nu am văzut nicio reacție din partea autorităților de reglementare”, a spus ea.

Politica de utilizare acceptabilă a XAI interzice „reprezentarea persoanelor într-o manieră pornografică”.

Într-o declarație pentru BBC, Ofcom a afirmat că este ilegal să „creezi sau să distribui imagini intime fără consimțământul persoanelor respective sau materiale cu abuzuri sexuale asupra copiilor” și a confirmat că acest lucru include și deepfake-urile sexuale create cu ajutorul AI.

Aceasta a afirmat că platformele precum X sunt obligate să ia „măsuri adecvate” pentru a „reduce riscul” ca utilizatorii din Regatul Unit să întâlnească conținut ilegal pe platformele lor și să îl elimine rapid atunci când iau cunoștință de acesta.

Articol recomandat de sport.ro

GALERIE FOTO Cine este românca abordată de Lamine Yamal: „Iubitul meu mi-a zis să-i scriu”