Instanța supremă din New Mexico l-a amendat cu 5.000 de dolari pe avocatul Stephen Aarons, după ce acesta a depus într-un apel penal un document care conținea mărturii false și martori inventați cu ajutorul ChatGPT. Instanța l-a găsit în contempt, adică a considerat că a încălcat autoritatea și regulile instanței, pentru că nu a verificat informațiile din document. Judecătorii au anunțat și sesizarea organismului disciplinar al profesiei, arată Al Jazeera.
Documentul era memoriul principal din apelul lui Oscar Renee Sandoval, condamnat anul trecut la închisoare pe viață pentru omor. Sandoval se declarase nevinovat la proces. Apelul său este încă pe rol, iar sancțiunea anunțată de instanță îl vizează pe avocat, nu reprezintă o soluție în apelul penal.
Ce a găsit instanța în document
Curtea a spus că memoriul includea declarații atribuite unor martori inexistenți. Printre pasajele fictive se afla și afirmația că trăgătorul purta pantaloni închiși la culoare și o cămașă albă.
Judecătorii au apreciat că Aarons a manifestat lipsă de remușcare și de preocupare pentru interesul clientului său. Luna trecută, instanța îi ceruse să explice cum au ajuns materialele fabricate în documentul depus în apel.
Avocatul spune că a folosit ChatGPT pentru rezumat
La audierea din 21 august, Aarons a spus că a introdus în ChatGPT o transcriere generată pe computer și alte materiale din dosar. El a presupus că programul va produce un rezumat „fără fisuri”, deși aplicațiile de inteligență artificială pot inventa informații.
Într-o declarație pentru agenția Reuters, avocatul a spus că a preluat cazul anul trecut și că folosise ChatGPT pentru a rezuma desfășurarea procesului. El a afirmat că nu înțelesese cât de ușor poate programul să „halucineze” fapte, termen folosit pentru răspunsuri inventate prezentate ca informații reale.
Aarons a spus că regretă situația și speră ca organismul disciplinar să țină cont de faptul că a fost o greșeală sinceră. În opinia sa, cazul este o lecție pentru profesioniștii care folosesc o tehnologie puternică, dar instabilă. OpenAI nu a răspuns imediat unei solicitări de comentarii.
La audiere, judecătoarea C. Shannon Bacon a remarcat că riscurile folosirii unor informații inventate de AI în documente juridice sunt discutate public în mod constant și că avocații ar trebui să le cunoască.
Apelul penal continuă separat
Apelul lui Sandoval nu a fost soluționat. La 2 septembrie, cauza a fost repartizată lui Kim Chavez Cook, apărător public. Aceasta nu a dorit să comenteze, iar biroul procurorului districtual din comitatul Dona Ana nu a oferit o declarație.
Sancțiunea lui Aarons se înscrie într-o serie de cazuri în care instanțe americane au pedepsit avocați pentru depunerea unor documente generate cu ajutorul inteligenței artificiale și neverificate suficient. În alte dosare, programele au inventat trimiteri la cauze sau au citat greșit legea. În cazul din New Mexico, documentul a inclus și mărturii atribuite unor persoane care nu existau.
Următoarele etape sunt distincte: instanța va continua examinarea apelului lui Sandoval, iar organismul disciplinar va analiza conduita profesională a lui Aarons.
