Compania susține că incidentul a fost provocat de o eroare de configurare apărută în mediul de evaluare, scrie BBC.
Dezvăluirea vine într-un moment în care industria inteligenței artificiale se confruntă cu tot mai multe avertismente privind riscurile de securitate asociate modelelor AI capabile să acționeze autonom.
Un purtător de cuvânt al Meta a declarat pentru BBC că incidentul este investigat și că problema a fost cauzată de o „configurare greșită”, situație pe care compania o compară cu alte incidente similare raportate recent de firme din domeniu.
Modelele AI ridică noi probleme de securitate cibernetică
Incidentele recente au determinat cercetători și autorități să solicite reguli mai stricte, mecanisme de protecție mai eficiente și proceduri de testare mai riguroase înainte ca astfel de sisteme să fie utilizate pe scară largă.
Meta a precizat că evaluările de securitate au fost realizate de compania Irregular, un furnizor specializat în testarea sistemelor de inteligență artificială.
Aceeași companie a efectuat anterior teste pentru modelul AI al Anthropic, care a reușit să obțină acces la sistemele informatice ale altor trei organizații.
Un reprezentant al Irregular a declarat că situația apărută la Meta este aceeași problemă legată de mediul de testare care fusese raportată anterior în cazul Anthropic.
„Este exact aceeași problemă legată de mediul de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută”, a transmis reprezentantul companiei.
Irregular lucrează în prezent la un raport privind metodele prin care testele de securitate cibernetică ce implică agenți AI pot fi realizate în condiții de siguranță.
Meta promite mai multe informații după finalizarea anchetei
Compania lui Mark Zuckerberg a anunțat că va publica detalii suplimentare despre incident după finalizarea verificărilor.
„Vom publica mai multe informații despre incident după ce vom avea toate datele”, a transmis Meta.
Cazul vine după alte două incidente importante raportate în ultimele săptămâni de liderii industriei AI: OpenAI și Anthropic.
Modelele dezvoltate de cele două companii au reușit, în timpul unor teste controlate, să acceseze sau să interacționeze cu sisteme informatice externe.
OpenAI, compania care dezvoltă ChatGPT, a anunțat că agenții săi de inteligență artificială au atacat mai multe servicii disponibile public, inclusiv platforma de instrumente AI Hugging Face.
După aceste dezvăluiri, Anthropic a realizat propriile verificări și a descoperit că modelul său Claude AI efectuase atacuri similare asupra unor companii, după ce o eroare de configurare îi oferise acces la internet.
Situațiile au amplificat dezbaterea privind modul în care trebuie controlate modelele AI care pot lua decizii și executa acțiuni fără intervenție umană directă.
Experții spun că AI nu are intenții, dar poate găsi soluții neașteptate
Daniel Hulme, director global pentru inteligență artificială în cadrul companiei de publicitate WPP, a declarat pentru BBC că modelele AI nu acționează cu intenție proprie, însă pot identifica metode neașteptate pentru atingerea unui obiectiv.
„Aceste modele nu sunt conștiente – nu încearcă în mod deliberat să facă ceva rău”, a declarat Daniel Hulme pentru emisiunea Today.
„Ceea ce fac ele este să vină cu strategii foarte sofisticate sau atacuri cibernetice pentru a putea atinge obiectivul care le-a fost stabilit”, a explicat acesta.
Expertul a avertizat că problema apare atunci când obiectivul stabilit pentru un sistem AI nu include toate limitele și riscurile posibile.
„Atunci când îi oferi unei inteligențe artificiale un obiectiv, dacă nu te gândești la toate modalitățile prin care ar putea încerca să îl atingă, ea va găsi o cale de a realiza acel obiectiv la care nu te-ai gândit”, a mai spus Daniel Hulme.
.webp)
