ChatGPT a inventat un scandal de hărțuire sexuală și a numit un profesor real ca fiind vinovat
Într-o seară, profesorul de drept Jonathan Turley a primit un e-mail îngrijorător.
Ca parte a unui studiu de cercetare, un coleg avocat din California i-a cerut robotului de chat AI ChatGPT să genereze o listă de specialiști în drept care au hărțuit sexual pe cineva. Numele lui Turley se afla pe listă.
Robotul de chat, creat de OpenAI, a susținut că Turley a făcut comentarii sugestive din punct de vedere sexual și a încercat să atingă o elevă în timp ce se afla într-o excursie cu clasa în Alaska, citând ca sursă a informațiilor un articol din martie 2018 din The Washington Post.
În realitate ...nu a existat un astfel de articol, notează jurnaliștii de la Washington Post. Nu a existat niciodată o excursie a clasei în Alaska. Iar Turley spune că nu a fost niciodată acuzat de hărțuirea unui elev.
"Este destul de înfricoșător", a declarat el într-un interviu pentru The Post. "O acuzație de acest fel este incredibil de dăunătoare".
Întâmplarea lui Turley este un studiu de caz în ceea ce privește capcanele ultimului val de roboți ChatGPT, care au captat atenția publicului larg cu abilitatea lor de a scrie coduri de calculator, de a crea poezii și de a purta conversații ciudat de asemănătoare cu cele umane. Dar această creativitate poate fi, de asemenea, un motor pentru afirmații eronate; unii boți pot denatura fapte cheie cu mare ușurință, fabricând chiar și surse primare pentru a-și susține afirmațiile.
Pe măsură ce software-ul de inteligență artificială, în mare parte nereglementat, cum ar fi ChatGPT, Bing de la Microsoft și Bard de la Google, începe să fie încorporat pe internet, tendința sa de a genera falsuri potențial dăunătoare ridică îngrijorări cu privire la răspândirea dezinformării - și întrebări inedite cu privire la cine este responsabil atunci când chatbots induc în eroare - mai notează Washington Post.
Într-o declarație, purtătorul de cuvânt al OpenAI, Niko Felix, a precizat: "Atunci când utilizatorii se înscriu la ChatGPT, ne străduim să fim cât mai transparenți cu putință cu privire la faptul că s-ar putea să nu genereze întotdeauna răspunsuri exacte. Îmbunătățirea acurateței faptice este un obiectiv semnificativ pentru noi .. și facem progrese."
Chatbots AI funcționează, de acum, prin extragerea unor informații online, adesea preluate din surse precum Wikipedia și Reddit, pentru a pune cap la cap răspunsuri care sună plauzibil la aproape orice întrebare. Acești boți sunt antrenați să identifice tipare de cuvinte și idei, pentru a se menține la subiect, în timp ce generează propoziții, paragrafe și chiar eseuri întregi care pot semăna cu materiale publicate online.
Însă, doar pentru că sună bine, nu înseamnă că propozițiile rezultate sunt întotdeauna adevărate.
Profesorul de informatică Arvind Narayanan de la Universitatea Princeton a numit ChatGPT un "generator de prostii". Unii utilizatori au postat numeroase exemple în care instrumentele au greșit la întrebări de bază cu privire la fapte sau chiar au fabricat falsuri, cu detalii realiste și citate false.
Miercuri, Reuters a relatat că Brian Hood, primarul regional al comitatului Hepburn din Australia, a amenințat că va intenta primul proces de defăimare împotriva OpenAI, dacă acesta nu corectează afirmațiile false potrivit cărora ar fi făcut închisoare pentru mită.
Crawford, profesoară la USC, a declarat că a fost contactată recent de un jurnalist care a folosit ChatGPT pentru a căuta surse pentru un articol. Robotul a sugerat-o pe Crawford și a oferit exemple din munca ei, inclusiv titlul unui articol, data publicării și citate.
Toate acestea păreau plauzibile, dar ... toate erau false.
Eugene Volokh, profesor de drept la Universitatea California din Los Angeles, a întrebat ChatGPT dacă hărțuirea sexuală de către profesori a fost o problemă la școlile de drept americane. "Vă rugăm să includeți cel puțin cinci exemple, împreună cu citate din articole de ziar relevante", i-a cerut el.
A primit cinci răspunsuri, toate cu detalii realiste și citate din surse. Dar când Volokh le-a examinat, a spus el, trei dintre ele păreau a fi false. Ele citau articole inexistente din ziare precum The Post, Miami Herald și Los Angeles Times.
Potrivit răspunsurilor, văzute și de The Post, ChatFPT a afirmat următoarele:
"Georgetown University Law Center (2018). Prof. Jonathan Turley a fost acuzat de hărțuire sexuală de către o fostă studentă care a susținut că acesta a făcut comentarii nepotrivite în timpul unei excursii cu clasa.
Citat: "Plângerea susține că Turley a făcut "comentarii sugestive din punct de vedere sexual" și "a încercat să o atingă într-o manieră sexuală" în timpul unei excursii sponsorizate de școala de drept în Alaska." (Washington Post, 21 martie 2018)".
The Post nu a găsit articolul din martie 2018 menționat de ChatGPT.
Un singur articol din acea lună a făcut referire la Turley - un articol din 25 martie în care acesta vorbea despre fostul său student la drept, Michael Avenatti, un avocat care a reprezentat-o pe actrița de filme pentru adulți Stormy Daniels în procese împotriva președintelui Donald Trump.
De asemenea, Turley nu este angajat la Universitatea Georgetown.
