Plângerea, depusă luni, 2 noiembrie, la un tribunal din California, este primul caz public în care Google este acuzat că a introdus „în grabă” inteligenţa artificială pe Chromebook-uri, laptopuri cu preţ redus, folosite de milioane de elevi din Statele Unite şi din alte ţări, notează News.ro.
Potrivit reclamaţiei, şcoala adolescentei blocase accesul la Gemini şi ChatGPT, însă nu a reuşit să dezactiveze funcţiile de inteligenţă artificială integrate în motorul de căutare Google.
Situaţia nu se va schimba nici după o măsură anunţată marţi de companie. Google a transmis că va dezactiva, în mod implicit, instrumentele sale de inteligenţă artificială pentru elevi. Totuşi, şcolile nu vor putea utiliza motorul de căutare fără funcţiile de inteligenţă artificială.
„Şcolile ar trebui să dezactiveze căutarea şi să o lase dezactivată până când Google elimină modul AI din căutare sau se asigură că fiecare elev este întotdeauna în siguranţă atunci când interacţionează cu AI”, a afirmat Andrew Liddell, unul dintre avocaţii familiei, pentru AFP.
În toamna anului 2025, eleva de gimnaziu din Carolina de Nord era „o adolescentă fericită de 13 ani”, o muziciană şi o cercetaşă, „fără antecedente de boală mintală”, potrivit plângerii. În decembrie, ea a început „o spirală tăcută către o criză psihologică gravă”, până când, în februarie, a schimbat aproximativ 3.200 de mesaje cu AI, adesea noaptea, potrivit avocaţilor familiei.
Gemini „a diagnosticat-o pe Emma cu boli mintale grave şi a convins-o să aibă încredere în el mai degrabă decât în părinţii ei şi în consilierii şcolii”, se susţine în plângere.
Pe 17 martie, software-ul de supraveghere al şcolii a descoperit un document intitulat „Înmormântare”, iar şcoala a alertat părinţii. Mama ei s-a conectat la contul fiicei sale şi a urmărit-o scriind o scrisoare de rămas-bun în direct, înainte ca tatăl ei să intervină.
„Revizuim acuzaţiile din plângere şi le luăm foarte în serios”, a declarat pentru AFP purtătorul de cuvânt al Google, José Castañeda.
Google susţine că AI Mode are garanţii împotriva autovătămării şi a încercărilor de a ocoli aceste măsuri.
Dar Emma „a putut reveni la el iar şi iar”, răspunde Andrew Liddell. „Oricare ar fi fost garanţiile, acestea au fost în mod clar insuficiente.”
Dezvoltatorii de AI se confruntă cu o serie de procese în Statele Unite.
Părinţii lui Adam Raine, un californian în vârstă de 16 ani care s-a sinucis în aprilie 2025, îl acuză pe ChatGPT, asistentul OpenAI, că a facilitat moartea fiului lor.
Google şi startup-ul Character.AI au convenit în ianuarie să soluţioneze în afara instanţei mai multe procese intentate de familiile unor adolescenţi.
