Un tribunale dell'Arizona ha annullato una condanna perché un video AI ha parlato per la vittima

Una corte d'appello dell'Arizona ha ordinato una nuova udienza di determinazione della pena in un caso di omicidio colposo dopo che il giudice che aveva inflitto la pena originaria ha guardato un video in cui la vittima deceduta, ricreata con l'intelligenza artificiale, sembrava rivolgersi all'aula. Il collegio di tre giudici ha confermato la condanna il 30 settembre ma ha annullato la pena, stabilendo che la rappresentazione generata dall'IA introduceva informazioni inattendibili e ha reso il procedimento fondamentalmente iniquo.

Il caso è iniziato con una sparatoria per rabbia stradale. Nel novembre 2021, Gabriel Paul Horcasitas, allora 55enne, ha sparato e ucciso Christopher Pelkey, 37 anni, a un incrocio di Chandler. Horcasitas ha detto alla polizia che Pelkey si è scagliato contro la sua auto e lo ha minacciato. I testimoni hanno detto che Pelkey non era andato oltre la parte posteriore del suo furgone. Due giurie hanno respinto la tesi della legittima difesa. Horcasitas è stato riconosciuto colpevole di omicidio colposo e condannato nel maggio 2025 alla pena presuntiva di 10,5 anni.

Ciò che è accaduto dopo è la parte che ha attirato l'attenzione internazionale. Durante l'udienza di determinazione della pena, familiari e amici hanno descritto la loro perdita. Il fratello di Pelkey ha letto una dichiarazione che Pelkey aveva scritto in vita. Poi Pelkey è sembrato parlare per sé stesso.

Il video di una sorella e la reazione di un giudice

La sorella di Pelkey, Stacey Wales, aveva usato l'IA per creare un video che combinava filmati reali di suo fratello con una ricostruzione sintetica del suo volto e della sua voce. La figura generata ha spiegato all'inizio di essere una versione di sé stesso ricreata tramite l'IA. Ha detto alla corte di essere una rappresentazione veritiera di chi era stato, si è rivolta direttamente a Horcasitas e ha detto di credere nel perdono e in Dio che perdona. Si è chiusa dicendo alla sua famiglia che li avrebbe visti dall'altra parte. Si ritiene che il video mostrato in aula sia il primo del suo genere in un tribunale statunitense.

Il giudice della Corte Superiore Todd Lang non ha nascosto la sua reazione. Ha ringraziato la famiglia, ha detto di credere che le parole venissero dal cuore e ha detto all'aula quanto fosse stato commosso dalla presentazione. Poi ha inflitto 10,5 anni. I pubblici ministeri avevano chiesto nove. La difesa aveva chiesto sette.

L'avvocato di Horcasitas ha presentato appello, sostenendo che non aveva avuto alcuna possibilità concreta di confutare il materiale generato dall'IA su cui il giudice che aveva determinato la pena si era basato. Poiché non era stata sollevata alcuna obiezione all'udienza, la corte d'appello ha esaminato la questione secondo il rigoroso standard dell'errore fondamentale.

La linea tracciata dalla corte

Il ragionamento del collegio si basa su una distinzione che avrà importanza ben oltre questo caso. Le registrazioni e le fotografie autentiche di una vittima sono prove ammissibili sull'impatto sulla vittima; la legge dell'Arizona concede alle vittime di reato ampi diritti a essere ascoltate, e le normali regole sulle prove sono allentate in fase di determinazione della pena. Ciò a cui la corte si è opposta era qualcosa di più ristretto. Le parti generate dall'IA producevano nuovi discorsi, espressioni e gesti e li attribuivano a un uomo che non poteva né confermarli né respingerli.

"Invece di documentare un evento o registrare un momento particolare, il video AI presenta una rappresentazione della vittima e dei suoi pensieri creata dall'immaginazione della sorella della vittima", ha scritto il collegio. Ha aggiunto che la presentazione "cancella la distanza interpretativa tra la convinzione della famiglia su ciò che la vittima avrebbe detto e la voce e le opinioni della vittima stessa".

Il giusto processo richiede che le informazioni usate per stabilire una pena siano affidabili, perché un imputato ha il diritto di essere condannato sulla base di fatti accurati. La corte ha ritenuto che i commenti dello stesso giudice dimostrassero che il video aveva avuto peso, il che ha reso superfluo calcolare quanto. La condanna resta ferma. Horcasitas sarà nuovamente condannato.

Perché la sentenza è più limitata di quanto sembri

Letta attentamente, la decisione non vieta l'IA dalle aule di tribunale e non dice alle vittime come elaborare il lutto. Separa due usi che sullo schermo appaiono identici. La tecnologia che riproduce materiale autentico può essere mostrata. La tecnologia che genera nuovi comportamenti e poi li presenta con la voce di una persona che non li ha pronunciati solleva una questione di affidabilità a cui i tribunali che determinano la pena non hanno mai dovuto rispondere prima, perché fino a poco tempo fa lo strumento per farlo non esisteva.

Wales non è d'accordo con l'esito. Ha detto ai giornalisti che il suo unico obiettivo era umanizzare suo fratello davanti al giudice, che la sua famiglia ha scelto parole che credeva avrebbe detto e che la corte d'appello ha tracciato una linea arbitraria tra formati mediali. Le famiglie di routine mostrano presentazioni, espongono collage e leggono poesie per esprimere il dolore, ha detto, e stabilire che gli strumenti digitali moderni non possono trasmettere lo stesso messaggio limita il modo in cui le vittime esercitano un diritto costituzionale a essere ascoltate. Il suo avvocato ha detto alla famiglia che usare di nuovo l'IA potrebbe attirare un altro appello.

Il quadro più ampio

L'Arizona non è sola ad affrontare queste questioni. Il 30 settembre, il Tribunale distrettuale di Tokyo ha stabilito che una voce umana può ricevere protezione del diritto di pubblicità quando è in gioco l'attrattiva commerciale di un interprete, schierandosi con l'attore Kenjiro Tsuda in una controversia su un'imitazione della sua voce tramite IA. Ad agosto, l'Alta Corte di Delhi ha emesso un'ingiunzione permanente contro account di social media che diffondevano video deepfake di una giornalista televisiva, fissando una finestra di 36 ore per la rimozione da parte delle piattaforme. I tribunali stanno applicando il diritto esistente, dai diritti della personalità alla falsa rappresentazione, perché le leggi dedicate all'IA non sono ancora al passo.

Il filo conduttore è la provenienza. Quando una narrazione generata viene collocata accanto a prove autenticate, la questione riguarda sia ciò che il materiale dice sia chi lo sostiene. Il collegio dell'Arizona ha risposto a questa domanda per una singola udienza di determinazione della pena e, così facendo, ha messo per iscritto una regola che il resto del sistema dovrà ora mettere alla prova: riprodurre ciò che una persona ha fatto è una cosa, parlare per lei è un'altra.

Cosa osservano ora gli avvocati

La decisione lascia aperte diverse questioni pratiche, e ciascuna rimanda a un lavoro appena iniziato. I tribunali avranno bisogno di un modo per distinguere filmati autentici da filmati generati all'interno di un singolo elemento probatorio, dato che il video dell'Arizona mescolava entrambi e il collegio ha considerato accettabili le clip reali mentre respingeva quelle sintetiche. Un contenuto multimediale in parte autentico e in parte fabbricato è più difficile da giudicare di entrambi gli estremi, e gli strumenti per certificare quale sia l'uno o l'altro stanno ancora maturando.

C'è anche la questione di chi sia responsabile quando è una famiglia, e non uno studio legale, a creare il materiale. Wales non era parte in causa e ha agito secondo il proprio giudizio su ciò che suo fratello avrebbe detto. La corte ha trattato il video come prova introdotta nel procedimento, ma la persona che l'ha creato non aveva alcun dovere professionale di segnalarne i limiti, e il giudice, per sua stessa ammissione, lo ha trovato così commovente da dirlo ad alta voce. Questa combinazione, un creatore sincero e un decisore senza cautela, è esattamente quella che continuerà a produrre controversie.

Poi c'è la divulgazione. Nulla nel fascicolo chiarisce se il tribunale o gli avvocati sapessero in anticipo che sarebbe stata riprodotta una dichiarazione generata dall'IA. Se le regole future richiederanno un preavviso, la pratica potrà sopravvivere in una forma più limitata. In caso contrario, la sentenza dell'Arizona resterà come un precedente ristretto: consentito al momento, inattendibile in appello e costoso da scoprire in quel modo.

Altre giurisdizioni osserveranno con attenzione, perché gli stessi strumenti sono economici e ampiamente disponibili. I pubblici ministeri e gli avvocati difensori di entrambe le parti ora hanno una ragione per riflettere sia sulle dichiarazioni sintetiche delle vittime sia sugli imputati sintetici, e lo standard che emergerà dall'Arizona, un tribunale distrettuale alla volta, plasmerà il modo in cui i tribunali di tutto il paese gestiranno un testimone che non è realmente presente.