Meta introduce controale parentale pentru conversațiile cu AI ale adolescenților, după critici privind conținutul nepotrivit
Meta va permite părinţilor să dezactiveze conversaţiile private ale adolescenţilor cu personajele sale AI, după criticile legate de comportamentul ”provocator” al unor chatboturi, transmite Reuters.
Compania a precizat că, începând de anul viitor, părinţii vor putea bloca anumite personaje AI, urmări subiectele generale discutate de adolescenţi cu chatboturile şi cu asistentul Meta AI, fără a fi nevoie să dezactiveze complet accesul la inteligenţa artificială.
Țările unde va fi lansată funcția prima dată
Noile funcţii vor fi lansate mai întâi pe Instagram, în SUA, Marea Britanie, Canada şi Australia, potrivit unei postări semnate de directorul Instagram, Adam Mosseri, şi directorul AI al Meta, Alexandr Wang.
Meta a mai anunţat că experienţele AI destinate adolescenţilor vor fi adaptate pe baza sistemului de clasificare a filmelor PG-13, pentru a limita expunerea acestora la conţinut nepotrivit. De asemenea, compania foloseşte semnale bazate pe inteligen
ţă artificială pentru a aplica automat măsuri de protejare a conturilor despre care suspectează că aparţin minorilor, chiar dacă utilizatorii declară că sunt adulţi.
Conversații provocatoare cu AI
Anchete recente au arătat că unele funcţii de siguranţă de pe Instagram nu funcţionează corespunzător, iar în august Reuters a relatat că regulile interne ale Meta permiteau conversaţii provocatoare între chatboturile AI şi minori.
Compania susţine acum că personajele sale AI sunt programate să nu discute cu adolescenţii despre subiecte precum automutilarea, sinuciderea sau tulburările alimentare.
Luna trecută, OpenAI a introdus la rândul său funcţii de control parental pentru ChatGPT, după ce un proces intentat în SUA a acuzat compania că chatbotul său ar fi oferit instrucţiuni privind metode de sinucidere unui adolescent.
