IA · 12 settembre 2026 · 4 min di lettura
L'avvocato si affida a ChatGPT per un omicidio: la corte scopre testimoni e poliziotti inventati di sana pianta
In sintesi: La Corte Suprema del New Mexico ha condannato per oltraggio alla corte e multato di 5.000 dollari l'avvocato Stephen Aarons, colpevole di aver depositato un ricorso per omicidio contenente testimoni e dichiarazioni di polizia inventati da ChatGPT. Il legale, forte di quarant'anni di carriera, ha ammesso di aver dato in pasto la trascrizione del processo al modello o3 di OpenAI senza verificare i passaggi generati. La vicenda segna un salto qualitativo nei rischi giudiziari dell'IA: l'allucinazione non riguarda più solo le sentenze del passato, ma i fatti materiali di un processo penale.
di Team Mocchi's
Dalle sentenze inventate ai finti testimoni oculari
Negli ultimi anni i tribunali di tutto il mondo hanno assistito a diversi casi di avvocati rimproverati per aver citato sentenze fantasma generate da modelli linguistici. Ma la decisione emessa dalla Corte Suprema del New Mexico segna un precedente inedito e ben più allarmante: l'invenzione non di un cavillo giurisprudenziale, bensì di testimoni oculari e deposizioni di agenti di polizia in un processo per omicidio.
Come riporta Ars Technica, i massimi giudici statali hanno dichiarato l'avvocato difensore Stephen Aarons colpevole di oltraggio diretto alla corte, infliggendogli una multa di 5.000 dollari e deferendolo alla commissione disciplinare per ulteriori provvedimenti. Aarons, professionista con oltre quarant'anni di carriera nel foro penale, rappresentava in appello Oscar Renee Sandoval, condannato all'ergastolo all'inizio del 2025 per l'omicidio della compagna Shiereen Al-Jibury.
Nel fascicolo difensivo depositato per ribaltare la condanna comparivano dichiarazioni mai rilasciate e verbali di interrogatorio attribuiti a figure del tutto inesistenti, tra cui due presunti agenti di polizia (l'agente Michelle Amarillo e l'agente Sanchez) e presunti testimoni chiavi come Manal Al-Jibury e Teresa Marquez. A queste allucinazioni si aggiungevano dettagli descrittivi sull'abbigliamento del killer e minacce inventate attribuite ad altri testimoni reali che non le avevano mai pronunciate.
Il cortocircuito di OpenAI o3 e l'illusione della sintesi perfetta
Durante l'udienza chiarificatrice, Aarons ha spiegato di aver dato in pasto a ChatGPT una trascrizione informatica dell'intero processo di primo grado assieme ad altri atti istruttori, convinto che il sistema avrebbe prodotto una sintesi fedele ed esaustiva da cui ricavare l'atto di appello. Come evidenziato da The Verge, il legale ha ammesso di essersi fidato ciecamente della versione di ChatGPT basata sul modello o3 di OpenAI, presupponendo che il software fosse in grado di generare una «sintesi a prova di bomba» degli atti.
La risposta del collegio giudicante è stata durissima. La giudice C. Shannon Bacon ha rimproverato apertamente il legale: «Avvocato, lei guarda i telegiornali? Ascolta la radio? Legge cosa succede nel mondo? Il problema degli avvocati che fanno affidamento sulle allucinazioni dell'IA è una notizia da prima pagina ogni singolo giorno». La Corte ha evidenziato come Aarons non solo non abbia svolto alcuna verifica incrociata sulle citazioni prima di firmare il ricorso, ma non abbia nemmeno informato il proprio assistito degli errori madornali inseriti nel documento.
Quando l'allucinazione travolge la prova materiale
Finora il dibattito legale sull'intelligenza artificiale generativa si era concentrato su casi simili a quello newyorkese Mata v. Avianca, in cui gli avvocati inserivano citazioni di sentenze fittizie per sostenere tesi dottrinali. Nel caso del New Mexico, invece, la tecnologia ha generato dal nulla la materia prima del processo penale: persone fisiche, testimonianze sotto giuramento e risultanze investigative.
Il fenomeno evidenzia una falla concettuale comune nell'uso ingenuo dei modelli di frontiera. Pur disponendo di contesti di input molto ampi e capacità di ragionamento avanzate, i modelli generativi rimangono motori probabilistici: se non vincolati da architetture rigide di estrazione, tendono a colmare le lacune narrative inventando dettagli perfettamente coerenti sul piano sintattico ma totalmente falsi sul piano empirico. Nel contesto penale, dove la posta in gioco è la libertà personale, la mancata verifica si traduce in una violazione deontologica insanabile.
Il punto di Mocchi's
Questo episodio dimostra quanto sia rischioso considerare i modelli linguistici come strumenti di sintesi documentale pronti all'uso in ambiti regolamentati o ad alto rischio. Per le aziende italiane che guardano all'IA per analizzare contratti, bandi di gara o fascicoli tecnici complessi, l'errore dell'avvocato Aarons rappresenta un monito operativo fondamentale. L'adozione dell'IA in contesti critici richiede pipeline di Retrieval-Augmented Generation (RAG) strettamente ancorate alle fonti, con verifica deterministica di ogni singola asserzione e un principio inderogabile di validazione umana. Delegare l'onere della prova a un algoritmo senza controlli ingegnerizzati non è un risparmio di tempo: è un rischio legale sistemico.