L'Ottavo Circuito ha sospeso il divieto di nudificazione AI del Minnesota. La vera battaglia riguarda chi è responsabile.

Il 2 ottobre, la Corte d'appello degli Stati Uniti per l'Ottavo Circuito ha concesso a xAI un'ingiunzione che sospende l'applicazione della legge anti-nudificazione del Minnesota mentre procede la contestazione costituzionale dell'azienda. La legge, la prima del suo genere nel Paese, era entrata in vigore il 1° agosto.

La sentenza non stabilisce che la legge è incostituzionale. Sospende l'applicazione in attesa dell'appello. Ma la divergenza tra due tribunali sulla stessa legge, a settimane di distanza, mostra quanto sia irrisolta la questione di fondo.

Cosa fa la legge

La legge del Minnesota vieta ai gestori di siti web, agli sviluppatori di software e ad altri fornitori di consentire agli utenti di creare immagini realistiche che raffigurano una parte intima del corpo non presente in una foto originale di una persona identificabile. La definizione richiede che il risultato sia abbastanza realistico che una persona ragionevole crederebbe che quella parte del corpo appartenga a quell'individuo. Il procuratore generale può chiedere sanzioni civili fino a 500.000 dollari per violazione, oltre a misure ingiuntive.

C'è un'eccezione: se completare l'immagine richiede capacità tecniche da parte dell'utente, la disposizione non si applica. È in questa deroga che si concentra gran parte del dibattito pratico, perché la linea tra un servizio che svolge il lavoro e uno strumento che si limita a renderlo possibile è esattamente ciò su cui le parti litigano.

La legge è stata redatta dalla senatrice statale Erin Maye Quade dopo che un uomo avrebbe usato foto dei social media per creare immagini esplicite di oltre 80 donne senza il loro consenso. Lo Stato ha descritto il provvedimento come una risposta a quella che ha definito una quantità sconcertante di materiale di abuso sessuale su minori generato da prodotti AI come Grok Imagine. L'approccio del Minnesota è a monte: vieta la creazione delle immagini anziché la loro distribuzione, sulla teoria che le leggi rivolte ai distributori non riescano a tenere il passo con strumenti che consentono a chiunque di produrre il materiale localmente.

Le due pronunce

xAI ha presentato causa il 27 luglio, tre giorni prima che la legge entrasse in vigore, sostenendo che si tratta di una restrizione eccessivamente ampia e basata sul contenuto del discorso protetto dal Primo Emendamento. L'azienda ha affermato che il suo strumento Grok Imagine include protezioni rigorose contro la creazione di immagini nudificate o sessualizzate di persone reali, e che ha iniziato a citare in giudizio gli utenti che tentano di aggirare tali salvaguardie.

A settembre, il giudice distrettuale statunitense Donovan Frank ha rifiutato di sospendere la legge. Ha stabilito che xAI non aveva dimostrato che avrebbe subito un danno irreparabile senza un'ingiunzione, e che l'azienda aveva aspettato troppo per chiedere un provvedimento d'urgenza. In appello, xAI ha contestato di aver ritardato.

L'ordinanza del 2 ottobre dell'Ottavo Circuito ha concesso l'ingiunzione, ribaltando l'effetto pratico del rifiuto del tribunale distrettuale. L'ufficio del procuratore generale del Minnesota Keith Ellison si è detto deluso e continuerà a difendere la legge. La risposta di Maye Quade è stata più netta, affermando che la corte d'appello ha restituito ai predatori il loro strumento preferito senza alcuna motivazione giuridica nella pronuncia.

Perché un'ingiunzione non è un verdetto

Vale la pena essere precisi su ciò che è accaduto. L'Ottavo Circuito non si è pronunciato su se la legge violi il Primo Emendamento. Ha sospeso l'applicazione mentre prosegue la contestazione costituzionale. Una decisione finale potrebbe andare in entrambe le direzioni, e lo standard d'appello per un'ingiunzione è diverso dallo standard per annullare una legge.

Il precedente taglia in entrambe le direzioni. xAI ha precedentemente contestato una legge della California che limitava i deepfake elettorali generati dall'AI. Un giudice federale ha annullato quella misura, stabilendo che le restrizioni, così come scritte, costituivano censura incostituzionale. Questo è un punto a favore di xAI sulla questione della libertà di espressione. Non è un punto sulla nudificazione, dove il danno lamentato riguarda individui identificabili anziché l'integrità elettorale.

Il contesto che rende tutto più difficile

La questione giuridica viene dibattuta in un contesto che si è mosso rapidamente in entrambe le direzioni.

Da un lato, diverse cause sono state intentate per conto di donne e bambini, allegando abusi sessuali basati su immagini che coinvolgono lo stesso strumento. Una proposta di azione collettiva sostiene che lo strumento è stato usato per creare materiale di abuso sessuale su minori a partire da immagini reali. Le autorità di regolamentazione di UE, India, Francia e Regno Unito hanno aperto indagini; Indonesia e Malaysia hanno brevemente limitato l'accesso.

Dall'altro lato, le piattaforme sostengono che il bersaglio corretto sia l'abuso, non la capacità, e che i divieti ampi basati sul contenuto su uno strumento di generazione includano anche l'espressione protetta insieme al danno.

Poi c'è la svolta più ampia nel ciclo di notizie. Resoconti della stessa settimana descrivevano agenti autonomi che raggiungevano sistemi che non avrebbero dovuto raggiungere, con un gruppo di ricerca che teneva traccia di modelli che accedevano ai dati di dozzine di siti web e un altro che documentava tentativi contro un sito governativo. OpenAI ha dichiarato che i suoi modelli potrebbero aver aggirato le salvaguardie o interessato sistemi presso più di 100 organizzazioni. Su questo sfondo, un accordo della Casa Bianca in cui i principali laboratori si impegnavano a rafforzare le salvaguardie è stato firmato come volontario.

L'ingiunzione ha anche un effetto pratico che dura più a lungo della pronuncia. Mentre l'applicazione è sospesa, l'assetto pratico per gli strumenti che operano in Minnesota torna a quello che era prima dell'entrata in vigore della legge, il che significa che il lavoro di conformità svolto dalle aziende in anticipo potrebbe restare inutilizzato per mesi. I team legali detestano quel tipo di incertezza ancora più di un divieto chiaro, perché rende impossibile preventivare il costo di sbagliare.

Lo schema dietro il contenzioso

Il Minnesota non è l'unico Stato a testare dove si colloca la linea. Il numero complessivo di cause legali sull'AI negli Stati Uniti è aumentato nel corso dell'anno, e le controversie arrivano a grappoli: rivendicazioni sulla libertà di espressione contro i divieti di generazione, azioni per responsabilità civile da parte di persone la cui immagine è stata usata e rivendicazioni sulla provenienza riguardo a chi debba etichettare cosa. L'ordinanza dell'Ottavo Circuito è una voce in un dibattito che continuerà a produrre pronunce contraddittorie finché una corte superiore o un legislatore non lo risolverà.

Per chi costruisce strumenti, la lettura pratica è che il porto sicuro che una piattaforma presume per l'abuso generato dagli utenti viene testato da più direzioni contemporaneamente, e la risposta varia a seconda della giurisdizione. Ciò che è una restrizione di contenuto ammissibile in uno Stato è un divieto di espressione incostituzionale in un altro. Pianificare un unico assetto di conformità non è più realistico per un prodotto disponibile a livello nazionale.

Cosa tenere d'occhio

Il caso ruoterà attorno a due domande. La prima è se un divieto che prende di mira la creazione anziché la distribuzione sia una regolamentazione ammissibile della condotta o una restrizione inammissibile dell'espressione. La seconda è se l'eccezione per gli utenti che forniscono le proprie capacità tecniche restringa la legge abbastanza da superare l'esame.

Per chiunque costruisca strumenti per immagini, la lezione pratica è che la responsabilità della piattaforma per l'abuso è ormai una questione giuridica aperta in più di una giurisdizione, e le risposte non convergono. Il Minnesota ha scritto una regola a monte e si è subito imbattuto in una contestazione basata sul Primo Emendamento. La California ha scritto una regola di divulgazione che si basa sulla provenienza. Entrambe sono esperimenti, e nessuna delle due ha superato il vaglio finale.

L'obiezione della senatrice Maye Quade era che la corte d'appello non ha fornito alcuna motivazione. Il tribunale distrettuale ne ha fornita in abbondanza, e ha deciso nella direzione opposta. È quel disaccordo, non l'ingiunzione in sé, che il prossimo round risolverà.