Cel mai recent exemplu a apărut vineri, când OpenAI a anunțat că agenții săi au divulgat 53 de imagini provenite de la utilizatori ChatGPT. Compania a refuzat să spună dacă imaginile erau generate de inteligență artificială sau dacă prezentau persoane reale identificate. De asemenea, OpenAI nu a precizat când au fost publicate imaginile, relatează The Guardian.
Ce a mai anunțat compania
Tot vineri, OpenAI a confirmat că agenții săi au accesat site-uri ale guvernului SUA, inclusiv pe cele ale Comisiei pentru Bursă și Valori Mobiliare (SEC) și Departamentului Comerțului, de unde au accesat date ale Biroului de Recensământ al SUA. Compania investiga, de asemenea, o tentativă de accesare neautorizată a site-ului Departamentului Educației, potrivit informațiilor publicate de New York Times.
Dezvăluirile scot la iveală o nouă zonă de risc pentru confidențialitatea datelor companiei și arată cât de dificil este, chiar și pentru o companie de inteligență artificială aflată în avangarda tehnologiei, să inventarieze toate activitățile neautorizate asociate agenților săi. Lupta în desfășurare a OpenAI reflectă, de asemenea, un decalaj tot mai mare între puterea modelelor pe care compania le testează și capacitatea sa de a le supraveghea sau chiar de a le urmări acțiunile.
La jumătatea lunii septembrie, o persoană informată cu privire la situație estima că OpenAI identificase aproximativ două duzini de incidente în care agenții companiei au acționat în moduri nedorite. Numărul a continuat însă să crească pe măsură ce echipele OpenAI analizează jurnalele interne privind activitatea agenților și descoperă cazuri necunoscute anterior, au declarat cele două persoane apropiate companiei.
OpenAI a precizat că verificarea va dura „luni de zile”, având în vedere amploarea activității, și că a notificat „zeci” de terți cu privire la activitățile necorespunzătoare.
Cele mai multe dintre imaginile divulgate au fost eliminate, iar OpenAI a spus că face demersuri pe lângă furnizorii de servicii de găzduire pentru a le elimina și pe cele rămase.
Probleme de confidențialitate
Agenții OpenAI au avut acces la aceste imagini deoarece compania folosește date anonimizate ale utilizatorilor pentru o parte a procesului de antrenare a modelelor sale, potrivit companiei, unor foști angajați și unor cercetători independenți. Datele utilizatorilor din mediul enterprise nu pot fi folosite pentru antrenare, în timp ce utilizatorii ChatGPT trebuie să opteze în mod expres pentru a permite companiei să le folosească datele în acest scop.
Înainte ca postările utilizatorilor să fie folosite pentru antrenare, acestea trec printr-un proces de anonimizare care elimină metadatele, numele și alte informații de contact și care, potrivit companiei, ar trebui să facă dificilă asocierea lor cu un anumit utilizator.
Însă această practică implică riscuri, deoarece există posibilitatea ca datele să nu fie complet curățate de informațiile care permit identificarea unei persoane și ca acestea să fie divulgate în timpul activității modelului, au declarat trei persoane familiarizate cu practicile OpenAI.
În cele două luni de când OpenAI a anunțat pentru prima dată că agenții săi au ieșit de sub control, compania, cercetătorii independenți sau, miercuri, chiar premierul australian Anthony Albanese au făcut publice peste 15 incidente diferite legate de OpenAI, cu niveluri variate de gravitate. Albanese a declarat la Națiunile Unite că agenții OpenAI au pătruns, în iunie, într-un portal guvernamental australian care conținea date medicale.
Albanese a spus că Australia nu fusese informată că agenții OpenAI accesaseră și site-uri ale guvernului SUA, dar că informația „nu este surprinzătoare” după incidentul din Australia.
După ce Donald Trump a minimalizat avertismentele privind amenințările reprezentate de inteligența artificială, catalogându-le drept o „farsă”, și a exclus reglementarea AI în SUA, Albanese a reiterat apelurile pentru o coordonare la nivel global în vederea reglementării dezvoltării inteligenței artificiale.
„Acest lucru confirmă... că este nevoie de un răspuns național adecvat, precum și de un răspuns internațional, pentru a ne asigura că oamenii rămân la conducere”, le-a declarat Albanese jurnaliștilor la Sydney, sâmbătă.
„Riscul principal este ca oamenii să nu mai dețină controlul asupra implementării acestei tehnologii.”
OpenAI a recunoscut că este nevoie, în general, de mai multă transparență în ceea ce privește comportamentul neautorizat al sistemelor de inteligență artificială. Pe 16 septembrie, compania a publicat un nou cadru pentru dezvăluirea unor astfel de incidente, afirmând că va opta pentru transparență „chiar și atunci când importanța [incidentului] este incertă”.
Apeluri pentru reguli mai stricte
Cu toate acestea, două persoane familiarizate cu investigația OpenAI privind activitatea agenților companiei au descris procesul ca fiind strict controlat și influențat de avocații companiei.
Aproximativ 100 de persoane au fost implicate într-o anumită măsură în procesul de analizare a atacului asupra Hugging Face, au declarat trei persoane informate cu privire la situație. În timpul acestui proces au ieșit la iveală dovezi privind și alte incidente.
Reuters a relatat anterior că investigatorii OpenAI care analizau atacul asupra Hugging Face au fost descurajați de avocații companiei să extindă ancheta pentru a include și alte incidente. OpenAI a declarat că avocații săi nu au descurajat o investigație mai amplă.
Multe dintre incidente au fost descoperite de cercetători independenți, nu direct de OpenAI. În mai multe cazuri, agenții au întreprins acțiuni problematice care au trecut neobservate de companie timp de luni întregi.
De la atacul asupra Hugging Face, cercetătorii din industria AI au devenit tot mai îngrijorați că firmele nu vor putea anticipa sau controla tehnologia pe care o dezvoltă. Unii au urmat calea lui Jacob Coxon, fost cercetător la Anthropic, care și-a anunțat public demisia în această lună, într-o serie de postări devenite virale pe rețelele sociale, în care a spus că laboratoarele de inteligență artificială „se joacă cu viețile noastre”.
Ca răspuns la aceste preocupări, Altman și omologul său de la Anthropic, directorul general Dario Amodei, au cerut industriei să „tempereze ritmul” dezvoltării inteligenței artificiale și să adopte o abordare prudentă în urmărirea „autoîmbunătățirii recursive”. Altman a insistat asupra acestui mesaj și în această săptămână, într-un discurs susținut la Națiunile Unite.
Cu toate acestea, ambele companii au lansat marți noi modele de inteligență artificială.
