Un avocat australian a fost nevoit să-și prezinte scuze oficiale după ce a utilizat concluzii elaborate cu ajutorul inteligenței artificiale, care au inclus referințe juridice inventate și citate false. Incidentul a avut loc în cadrul unui proces pentru crimă desfășurat la Curtea Supremă din Victoria.
Rishi Nathwani, avocat apărării deținător al titlului prestigios de King’s Counsel, și-a asumat întreaga responsabilitate pentru prezentarea unor date incorecte în dosarul unui minor acuzat de crimă. „Exprimați profunde regretări și stânjeneală pentru ceea ce s-a întâmplat”, a declarat el în fața judecătorului.
Materialele eronate conțineau citate fictive atribuite unui discurs parlamentar, precum și decizii judecătorești inexistente, pretins provenite de la instanțe superioare. Erorile au fost sesizate de reprezentanții parchetului, care au solicitat verificarea surselor. Avocații au recunoscut ulterior că referințele „nu existau în realitate” și că documentul conținea „citații inventate”.
Deși echipa juridică a afirmat că a verificat parțial conținutul, au presupus în mod eronat că toate elementele generate de inteligența artificială erau corecte. Acest lucru a condus la amânarea cu o zi a soluționării cauzei.
Judecătorul a stabilit, în cele din urmă, că acuzatul nu poate fi tras la răspundere din cauza unor probleme de sănătate mintală. Magistratul a subliniat însă gravitatea incidentului: „Capacitatea instanței de a se baza pe exactitatea materialelor depuse de avocați este esențială pentru administrarea corectă a justiției”.
Instanța a reamintit că anul trecut au fost emise îndrumări specifice privind utilizarea tehnologiilor automate în practica juridică. „Utilizarea inteligenței artificiale este permisă doar dacă rezultatele sunt verificate independent și amănunțit”, a precizat reprezentantul sistemului judiciar.
Acest caz nu este izolat. Anul trecut, în Statele Unite, doi avocați și o firmă au fost sancționați cu amenzi substanțiale după ce au prezentat cercetări juridice fictive generate de un algoritm. De asemenea, în Marea Britanie, instanțele au emis avertismente severe cu privire la riscurile dezinformării prin intermediul tehnologiei.
Specialiștii avertizează că abuzul de astfel de instrumente poate afecta încrederea publică în întregul sistem juridic. În cazuri extreme, furnizarea de materiale false poate constitui chiar infracțiuni de drept penal.
