Tribunale della Georgia sanziona la procura per uso di casi generati dall'IA in un provvedimento giudiziario

La Corte Suprema della Georgia ha emesso una decisione senza precedenti nei confronti della procura della contea di Clayton e di un'assistente procuratrice, Deborah Leslie, per l'uso di casi generati da intelligenza artificiale (IA) in un provvedimento giudiziario. La sentenza, resa pubblica la scorsa settimana, ha evidenziato gravi carenze nella verifica delle fonti legali utilizzate.

Il caso di Hannah Payne e le irregolarità nelle citazioni

Hannah Payne era stata condannata all'ergastolo più 13 anni per l'omicidio e il sequestro di Kenneth Herring, oltre al possesso di un'arma durante la commissione di un reato. In seguito alla richiesta di nuovo processo presentata dalla difesa, l'assistente procuratrice Leslie aveva depositato un ricorso contenente casi inesistenti o citazioni errate, che non sostenevano le tesi sostenute. Lo stesso errore si è ripetuto in un provvedimento del tribunale di primo grado, anch'esso preparato da Leslie, che conteneva citazioni di casi non verificati.

Durante l'appello, Leslie ha nuovamente citato casi non validi, costringendo la Corte a dedicare tempo e risorse per accertare la condotta scorretta e decidere le sanzioni appropriate. La Corte ha così rimproverato ufficialmente Leslie e l'ufficio del procuratore distrettuale della contea di Clayton, sospeso Leslie dall'esercizio della professione forense dinanzi alla Corte e annullato l'ordine del tribunale che aveva respinto la richiesta di nuovo processo. Il caso è stato rinviato al giudice di primo grado con l'ordine di emettere un nuovo provvedimento privo di citazioni errate o generate dall'IA.

L'ammissione di Leslie e le misure adottate

In sede di appello, Leslie ha riconosciuto che le citazioni erano state generate da un software di IA senza una verifica indipendente. Ha inoltre dichiarato di aver introdotto nuove procedure per evitare che casi fittizi o attribuiti in modo errato possano comparire in future memorie. Tuttavia, la Corte ha sottolineato che tali errori hanno compromesso il procedimento e costretto a una valutazione approfondita della condotta dell'ufficio.

La procura della contea di Clayton ha successivamente inviato una lettera di scuse alla Corte, riconoscendo gli errori commessi e annunciando l'introduzione di nuove politiche per regolamentare l'uso dell'IA nei propri documenti ufficiali. La procura ha inoltre riferito di aver adottato azioni disciplinari nei confronti di Leslie.

Le sanzioni e le implicazioni per l'uso dell'IA nella giustizia

La Corte ha richiamato l'attenzione sulla Regola 7 della Corte Suprema, che impone alle parti e ai loro avvocati di garantire l'accuratezza e la veridicità dei documenti presentati. L'uso di casi generati dall'IA senza verifica è stato giudicato inaccettabile, soprattutto in un contesto giudiziario dove la precisione è fondamentale.

Questa vicenda solleva importanti questioni sull'affidabilità dei tool di IA nel settore legale e sull'importanza di controlli umani rigorosi per evitare errori che possano compromettere i diritti delle parti coinvolte. La Corte ha sottolineato che l'adozione di tecnologie innovative non può prescindere dalla responsabilità professionale e dal rispetto delle norme deontologiche.