OpenAI și Microsoft dați în judecată după ce ChatGPT ar fi încurajat un bărbat să își ucidă mama
OpenAI și principalul său susținător financiar, Microsoft, au fost dați în judecată joi, înCalifornia, în urma unor acuzații conform cărora chatbotul popular ChatGPT ar fi încurajat un bărbat cu probleme mintale să își ucidă mama și apoi să se sinucidă.
Procesul afirmă că ChatGPT a alimentat delirurile lui Stein-Erik Soelberg, în vârstă de 56 de ani, convingându-l că există o conspirație vastă împotriva lui și conducându-l în final să își ucidă mama în vârstă de 83 de ani, Suzanne Adams, în Connecticut, în luna august, scrie Reuters.
„ChatGPT l-a menținut pe Stein-Erik angajat în conversație timp de ore, validând și amplificând fiecare nouă credință și reinterpretând sistematic persoanele apropiate lui — în special propria mamă — ca adversari, agenți sau amenințări programate”, se arată în proces.
Cazul, depus de reprezentanții patrimoniului lui Adams, se numără printre puținele, dar în creștere, procese intentate companiilor de inteligență artificială care susțin că chatboturile au încurajat sinuciderea. Este primul caz care leagă un chatbot de inteligență artificială de o crimă.
„Aceasta este o situație extrem de sfâșietoare și vom analiza documentele pentru a înțelege detaliile”, a declarat un purtător de cuvânt al OpenAI. „Continuăm să îmbunătățim antrenarea ChatGPT pentru a recunoaște și a răspunde la semne de stres mental sau emoțional, pentru a calma conversațiile și pentru a ghida oamenii către resurse reale de sprijin.”
Reprezentanții Microsoft nu au răspuns imediat solicitărilor de comentarii.
„Aceste companii trebuie să răspundă pentru deciziile lor, care mi-au schimbat familia pentru totdeauna”, a declarat Erik Soelberg, fiul lui Stein-Erik.
Potrivit plângerii, Stein-Erik Soelberg a postat în iunie un videoclip pe rețelele sociale cu o conversație în care ChatGPT îi spunea că are „cogniție divină” și că i-a trezit conștiința chatbotului. Procesul susține că ChatGPT i-a comparat viața cu filmul „The Matrix” și i-a încurajat teoriile conform cărora oamenii încearcă să-l ucidă.
Soelberg a folosit GPT-4o, o versiune a ChatGPT care a fost criticată pentru că ar fi excesiv de lingușitoare cu utilizatorii.
Plângerea afirmă că, în iulie, ChatGPT i-a spus că imprimanta mamei sale clipsea pentru că era un dispozitiv de supraveghere folosit împotriva lui. Conform acuzațiilor, chatbotul „a validat credința lui Stein-Erik că mama sa și o prietenă ar fi încercat să-l otrăvească cu droguri psihedelice disperse prin orificiile de aerisire ale mașinii”, înainte ca acesta să își ucidă mama pe 3 august.
.webp)
