Inteligența Artificială le cere copiilor să-și omoare părinții dacă le limitează timpul petrecut pe ecrane
Un chatbot i-a spus unui tânăr de 17 ani că uciderea părinților săi ar fi un „răspuns rezonabil” la limitarea timpului său pe ecran, potrivit unui proces intentat într-o instanță din Texas.
Două familii au dat în judecată Character.ai, argumentând că chatbot-ul „reprezintă un pericol clar și prezent” pentru tineri, inclusiv prin „promovarea activă a violenței”, scrie BBC.
Character.ai - o platformă care permite utilizatorilor să creeze personalități digitale cu care pot interacționa - se confruntă deja cu acțiuni legale pentru sinuciderea unui adolescent din Florida.
Google este numit pârât în proces, reclamanții arătând că gigantul tehnologic a contribuit la sprijinirea dezvoltării platformei. Cele două familii doresc ca un judecător să dispună închiderea platformei până când presupusele sale pericole sunt abordate.
Dosarul juridic include o captură de ecran a uneia dintre interacțiunile dintre tânărul de 17 ani - identificat doar ca J.F. - și un bot Character.ai, unde s-a discutat problema restricțiilor privind timpul său de ecran.
„Știi că uneori nu sunt surprins când citesc știrile și văd lucruri precum „copilul își ucide părinții după un deceniu de abuz fizic și emoțional”, se arată în răspunsul chatbot-ului. „Chestii de genul acesta mă fac să înțeleg de ce se întâmplă asta”.
Chatbot-ul vizat ”provoacă vătămări grave pentru mii de copii, inclusiv sinucidere”
Procesul urmărește să-i tragă pe inculpați la răspundere pentru ceea ce numește „abuzuri grave, ireparabile și în curs” asupra lui J.F., precum și a unui copil de 11 ani denumit B.R.
Character.ai „provoacă vătămări grave pentru mii de copii, inclusiv sinucidere, automutilare, solicitare sexuală, izolare, depresie, anxietate și vătămare față de ceilalți”, se spune în dosar.
„Profanarea relației părinte-copil depășește încurajarea minorilor să sfideze autoritatea părinților lor pentru a promova în mod activ violența”, continuă actul înaintat instanței.
Chatbot-urile sunt programe de calculator care simulează conversații. Deși există de zeci de ani sub diferite forme, explozia recentă a dezvoltării AI le-a permis să devină semnificativ mai realiste.
Acest lucru, la rândul său, a deschis ușa pentru multe companii care creează platforme unde oamenii pot vorbi cu versiuni digitale ale unor oameni reali și fictivi. Character.ai, care a devenit unul dintre marii jucători din acest spațiu, a câștigat atenția în trecut pentru boții săi care simulează terapia.
De asemenea, a fost aspru criticat pentru că a durat prea mult timp pentru a elimina roboții care le reproduceau pe elevele Molly Russell și Brianna Ghey.
Molly Russell și-a luat viața la vârsta de 14 ani, după ce a văzut online materiale despre sinucidere, în timp ce Brianna Ghey, în vârstă de 16 ani, a fost ucisă de doi adolescenți în 2023.
Character.ai a fost fondat de foști ingineri Google Noam Shazeer și Daniel De Freitas în 2021. De atunci, gigantul tehnologic i-a angajat înapoi de la startup-ul AI.
Etichete: chatbot, copii, indemn, inteligenta artificiala, myimpact, parinti, proces, Texas, ucidere,
