Școlile din SUA folosesc AI pentru a trimite poliția acasă la elevi. Părinte: A fost una dintre cele mai rele experiențe
Mai multe școli din SUA folosesc programe bazate pe inteligență artificială pentru a identifica adolescenții ar putea să se sinucidă pentru a trimite poliția acasă la ei, adesea cu rezultate haotice și traumatizante.
Nu este surprinzător faptul că software-ul poate greși, interpretând în mod eronat ceea ce elevii încearcă să spună de fapt. De exemplu, o tânără de 17 ani din Neosho, Missouri, a fost trezită de poliție în miez de noapte, notează NY Times.
Se pare că o poezie pe care o scrisese cu ani în urmă a declanșat alarmele unui software numit GoGuardian Beacon, pe care producătorul său îl descrie ca fiind o modalitate de a „proteja elevii de vătămări fizice”.
Părinții fetei au trezit-o și au adus-o la parter pentru ca poliția să o poată chestiona cu privire la ceva ce scrisese pe laptopul de la școală. A fost nevoie de doar câteva minute pentru a ajunge la concluzia că a fost o alarmă falsă, însă vizita a lăsat-o pe fată profund afectată.
„A fost una dintre cele mai rele experiențe din viața ei”, a declarat mama fetei, care a solicitat anonimatul pentru a discuta despre o experiență „traumatizantă” pentru fiica sa.
Într-o altă situație, acest tip de supraveghere s-a dovedit utilă, ducând la salvarea vieții unei tinere. Mai exact, o mamă a fost trezită de polițiști din cauza mesajelor pe care fiica ei le trimisese unei colege. Ea nu știa că software-ul bazat pe I.A. operat de districtul școlar local din Neosho, Missouri, urmărea ceea ce fiica ei scria pe Chromebook-ul pe care i-l dăduse școala.
În timp ce familia ei dormea, fata îi trimisese un mesaj unei prietene în care îi spunea că intenționează să ia o supradoză de medicamente pentru anxietate. Informația a ajuns la psihologul școlii, care a trimis-o la poliție. Când polițiștii au ajuns la tânără, aceasta luase deja aproximativ 15 pastile și au dus-o de urgență la spital.
Cum a ajuns inteligența artificială să monitorizeze sănătatea mentală a adolescenților
Adolescenții din SUA au ajuns să fie monitorizați de inteligența artificială ca urmare a unei legi care stabilește că laptopurile oferite de școli trebuie să să fie echipate cu filtre pentru a asigura o utilizare sigură a internetului.
Această cerință legală a oferit companiilor care oferă softuri educaționale o oprtunitate de a se extinde și pe alte piețe, acestea oferind astfel soluții pentru a gestiona ratele în creștere ale comportamentului suicidar și ale autovătămării. Acestea au început să ofere instrumente care analizează ceea ce scriu elevii, alertând membrii personalului școlar dacă aceștia par să aibă în vedere să se rănească.
Milioane de elevi americani, aproape jumătate din întreaga populație școlară, conform unor estimări, sunt acum supuși acestui tip de supraveghere, ale cărei detalii sunt dezvăluite părinților în cadrul unui acord tehnologic anual.
Majoritatea sistemelor semnalează cuvinte sau fraze-cheie, utilizând algoritmi sau verificări umane pentru a determina care dintre acestea sunt grave. În timpul zilei, elevii pot fi scoși din clasă și controlați; în afara orelor de curs, dacă părinții nu pot fi contactați telefonic, ofițerii de poliție pot vizita domiciliul elevilor pentru a-i verifica.
