California reglementează în premieră chatboţii AI, după o serie de sinucideri printre adolescenţi. „Să acţionăm responsabil”
California a adoptat prima lege din SUA care reglementează chatboții AI, după mai multe sinucideri de adolescenți care au dezvoltat relații fictive cu aceste programe, a anunțat guvernatorul Gavin Newsom, potrivit AFP.
Sfidând presiunile Casei Albe, care se opune reglementării AI, guvernatorul democrat a semnat luni o serie de legi care impun, printre altele, verificarea vârstei, mesaje de avertizare regulate şi protocoale de prevenire a sinuciderilor.
"Am văzut câteva exemple cu adevărat oribile şi tragice de tineri care au căzut victime ale tehnologiilor slab reglementate, aşa că nu vom sta deoparte în timp ce companiile operează fără limite sau responsabilitate", a transmis Gavin Newson printr-un comunicat după promulgarea pachetului legislativ.
Unul dintre textele de lege cheie, SB243, se referă la reglementarea chatboţilor care pot acţiona ca însoţitori sau confidenţi, cum ar fi cei dezvoltaţi de platforme precum Replika sau Character.AI.
Aceasta din urmă a fost una dintre primele date în judecată de părinţii unui băiat american de 14 ani, Sewell, care s-a sinucis în 2024 după ce a format o relaţie romantică cu un chatbot inspirat din seria "Game of Thrones", suspectat că i-ar fi întărit gândurile suicidare.
"Putem continua să fim lideri în domeniul inteligenţei artificiale (...), dar trebuie să acţionăm responsabil, protejându-ne copiii pe parcurs", a adăugat guvernatorul Californiei, stat american unde se află Silicon Valley şi principalii giganţi ai dezvoltării de modele de inteligenţă artificială, precum OpenAI (ChatGPT), Google (Gemini) şi xAI (Grok).
Măsuri concrete impuse prin lege
Pe lângă verificarea vârstei, această lege impune trimiterea regulată de mesaje pentru a le reaminti utilizatorilor că interacţionează cu o maşină (la fiecare trei ore pentru minori). Aceasta impune companiilor să prevadă detectarea gândurilor suicidare, să furnizeze acces la programe de prevenire şi să raporteze statistici autorităţilor.
"Industria tehnologică este încurajată să capteze şi să menţină atenţia tinerilor în detrimentul relaţiilor lor din lumea reală", a argumentat senatorul californian Steve Padilla, iniţiatorul proiectului de lege, în timpul dezbaterii.
"Tehnologiile emergente, precum chatboţii şi reţelele sociale, pot inspira, educa şi conecta oamenii, dar, fără protecţii reale, ele pot exploata, induce în eroare şi pune în pericol copiii noştri", a justificat guvernatorul.
În Statele Unite, nu există reguli naţionale care să limiteze riscurile asociate cu inteligenţa artificială, iar Casa Albă încearcă să împiedice statele să îşi creeze propriile reglementări.
Etichete: california, inteligenta artificiala, sinucideri, tineri,
Dată publicare:
