Documentul depus în instanță conținea mărturii inventate ale unor polițiști și declarații atribuite unor martori care nu existau, potrivit Curții Supreme din New Mexico, scrie Reuters.
Curtea Supremă din New Mexico l-a amendat cu 5.000 de dolari pe avocatul Stephen Aarons și l-a sancționat pentru sfidarea instanței, după ce acesta nu a verificat informațiile incluse în documentul depus în cadrul apelului.
Instanța a constatat că documentul „conținea mărturii false ale unor martori complet inventați”.
Judecătorii au criticat și atitudinea avocatului, apreciind că acesta a demonstrat „lipsă de remușcare și lipsă de preocupare față de clientul său”. Cazul urmează să fie transmis unui organism disciplinar al avocaților, care va analiza conduita acestuia.
Avocatul spune că nu a știut cât de mult poate „halucina” IA
Aarons a recunoscut că a folosit ChatGPT pentru a rezuma informațiile din proces atunci când a preluat, anul trecut, cazul clientului său.
Într-o declarație transmisă Reuters, avocatul a spus că nu a înțeles cât de mult poate inteligența artificială să inventeze informații.
„Regret ceea ce s-a întâmplat, dar sper ca organismul disciplinar să țină cont de faptul că a fost o greșeală sinceră”, a declarat Aarons.
„Este o lecție învățată pentru toți profesioniștii care se bazează pe această tehnologie puternică, dar uneori instabilă”, a adăugat avocatul.
OpenAI nu a răspuns imediat solicitării de comentarii.
Cazul este considerat deosebit de grav deoarece nu este vorba doar despre citări juridice inexistente sau informații eronate. Documentul depus de avocat conținea inclusiv mărturii atribuite unor martori fictivi.
Printre informațiile inventate se afla și o afirmație potrivit căreia presupusul autor al crimei purta pantaloni închiși la culoare și o cămașă albă.
Curtea Supremă a statului i-a cerut avocatului să explice cum au ajuns aceste informații în documentul oficial depus în instanță.
Avocatul a crezut că va primi un „rezumat imposibil de combătut”
Aarons le-a explicat judecătorilor că a introdus într-un computer o transcriere generată automat a procesului, împreună cu alte materiale din dosar, și i-a cerut lui ChatGPT să le rezume.
Avocatul a spus că a presupus că programul îi va furniza „un rezumat imposibil de combătut”.
Judecătorii au fost însă surprinși că Aarons nu era conștient de riscul ca inteligența artificială să genereze informații false.
„Domnule avocat, vă uitați la știri? Ascultați radioul? Citiți ceva despre ceea ce se întâmplă în lume?”, l-a întrebat judecătoarea C. Shannon Bacon.
„Pentru că problema avocaților care se bazează pe halucinațiile AI este o știre de primă pagină în fiecare zi”, a continuat aceasta.
Tot mai mulți avocați sunt sancționați pentru erorile IA
Cazul din New Mexico se înscrie într-o serie tot mai lungă de situații în care avocații au fost sancționați după ce au folosit instrumente de inteligență artificială fără să verifice informațiile generate.
Zeci de avocați au ajuns să fie sancționați pentru documente în care IA a inventat citări ale unor procese sau a atribuit greșit prevederi legale. În cazul de față, însă, instanța consideră că situația este și mai gravă, deoarece au fost inventate inclusiv mărturii ale unor martori într-un dosar penal.
Avocatul se ocupa de apelul unui bărbat condamnat anul trecut la închisoare pe viață pentru uciderea mamei copiilor săi. Acesta pledase nevinovat în timpul procesului.
