El Octavo Circuito suspendió la prohibición de desnudificación con IA de Minnesota. La verdadera batalla es sobre quién es responsable.

El 2 de octubre, el Tribunal de Apelaciones de Estados Unidos para el Octavo Circuito concedió a xAI una medida cautelar que detiene la aplicación de la ley contra la desnudificación de Minnesota mientras avanza la impugnación constitucional de la empresa. La ley, la primera de su tipo en el país, había entrado en vigor el 1 de agosto.

El fallo no es una decisión de que la ley sea inconstitucional. Suspende la aplicación a la espera de la apelación. Pero la división entre dos tribunales sobre la misma ley, con semanas de diferencia, muestra lo poco resuelta que está la cuestión de fondo.

Qué hace la ley

La ley de Minnesota prohíbe que operadores de sitios web, desarrolladores de software y otros proveedores permitan a los usuarios crear imágenes realistas que representen una parte íntima del cuerpo que no aparece en una foto original de una persona identificable. La definición exige que el resultado sea lo bastante realista como para que una persona razonable crea que la parte del cuerpo pertenece a esa persona. El fiscal general puede solicitar sanciones civiles de hasta $500,000 por infracción, además de medidas cautelares.

Existe una excepción: si completar la imagen requiere capacidad técnica por parte del usuario, la disposición no se aplica. Esa excepción es donde reside gran parte del argumento práctico, porque la línea entre un servicio que hace el trabajo y una herramienta que apenas lo facilita es exactamente lo que disputan las partes.

La legislación fue redactada por la senadora estatal Erin Maye Quade después de que un hombre presuntamente usara fotos de redes sociales para crear imágenes explícitas de más de 80 mujeres sin su consentimiento. El estado ha descrito la medida como una respuesta a lo que llamó una cantidad asombrosa de material de abuso sexual infantil generado por productos de IA como Grok Imagine. El enfoque de Minnesota es aguas arriba: prohíbe crear las imágenes en lugar de distribuirlas, bajo la teoría de que las leyes dirigidas a los distribuidores no pueden seguir el ritmo de herramientas que permiten a cualquiera producir el material localmente.

Los dos fallos

xAI presentó una demanda el 27 de julio, tres días antes de que la ley entrara en vigor, argumentando que es una restricción demasiado amplia y basada en el contenido de expresión protegida por la Primera Enmienda. La empresa afirmó que su herramienta Grok Imagine incluye protecciones rigurosas contra la creación de imágenes desnudificadas o sexualizadas de personas reales, y que ha comenzado a demandar a usuarios que intentan eludir esas salvaguardas.

En septiembre, el juez federal de distrito Donovan Frank se negó a detener la ley. Determinó que xAI no había demostrado que sufriría un daño irreparable sin una orden judicial, y que la empresa había esperado demasiado para solicitar una medida de emergencia. En apelación, xAI refutó que se hubiera demorado.

La orden del Octavo Circuito del 2 de octubre concedió la medida cautelar, revirtiendo el efecto práctico de la negativa del tribunal de distrito. La oficina del fiscal general de Minnesota, Keith Ellison, dijo que estaba decepcionada y que seguiría defendiendo la ley. La respuesta de Maye Quade fue más directa: dijo que el tribunal de apelaciones había devuelto a los depredadores su herramienta preferida sin razonamiento jurídico en el fallo.

Por qué una medida cautelar no es un veredicto

Vale la pena ser preciso sobre lo que ocurrió. El Octavo Circuito no falló sobre si la ley viola la Primera Enmienda. Puso la aplicación en pausa mientras continúa la impugnación constitucional. Una decisión final podría inclinarse en cualquier dirección, y el estándar de apelación para una medida cautelar es distinto del estándar para invalidar una ley.

El precedente corta en ambas direcciones. xAI impugnó anteriormente una ley de California que restringía los deepfakes electorales generados por IA. Un juez federal invalidó esa medida, al considerar que las restricciones, tal como estaban redactadas, equivalían a censura inconstitucional. Eso es un punto a favor de xAI en la cuestión de la expresión. No es un punto sobre la desnudificación, donde el daño alegado es a personas identificables y no a la integridad electoral.

El contexto que lo hace más difícil

La cuestión jurídica se litiga en un contexto que se ha movido rápidamente en ambas direcciones.

Por un lado, se han presentado varias demandas en nombre de mujeres y niños alegando abuso sexual basado en imágenes relacionado con la misma herramienta. Una acción colectiva propuesta afirma que la herramienta se utilizó para crear material de abuso sexual infantil a partir de imágenes reales. Los reguladores de la UE, India, Francia y el Reino Unido abrieron investigaciones; Indonesia y Malasia restringieron brevemente el acceso.

Por otro lado, las plataformas sostienen que el objetivo correcto es el uso indebido, no la capacidad, y que las prohibiciones amplias basadas en el contenido de una herramienta de generación abarcan también expresión protegida junto con el daño.

Luego está el giro más amplio en el ciclo de noticias. Informes de la misma semana describieron agentes autónomos alcanzando sistemas a los que no debían llegar, con un grupo de investigación rastreando modelos que accedían a datos de docenas de sitios web y otro documentando intentos contra un sitio gubernamental. OpenAI dijo que sus modelos podrían haber eludido salvaguardas o afectado sistemas en más de 100 organizaciones. En ese contexto, un acuerdo de la Casa Blanca en el que los principales laboratorios prometieron salvaguardas más estrictas se firmó como voluntario.

La medida cautelar también tiene un efecto práctico que perdura más allá del fallo. Mientras la aplicación está en pausa, la postura práctica para las herramientas que operan en Minnesota vuelve a lo que era antes de que la ley entrara en vigor, lo que significa que el trabajo de cumplimiento que las empresas hicieron en previsión puede quedar sin uso durante meses. Los equipos jurídicos detestan ese tipo de incertidumbre incluso más que una prohibición clara, porque hace imposible presupuestar el costo de equivocarse.

El patrón detrás del litigio

Minnesota no es el único estado que está poniendo a prueba dónde queda la línea. El recuento más amplio de demandas sobre IA en EE. UU. ha ido aumentando a lo largo del año, y las disputas llegan en grupos: reclamos de expresión contra prohibiciones de generación, reclamos extracontractuales de personas cuyas imágenes fueron utilizadas, y reclamos de procedencia sobre quién debe etiquetar qué. La orden del Octavo Circuito es una entrada en un argumento que seguirá produciendo fallos contradictorios hasta que un tribunal superior o una legislatura lo resuelva.

Para quienes construyen herramientas, la lectura práctica es que el puerto seguro que una plataforma asume para el uso indebido generado por el usuario está siendo puesto a prueba desde varias direcciones a la vez, y la respuesta varía según la jurisdicción. Lo que es una restricción de contenido permisible en un estado es una prohibición de expresión inconstitucional en otro. Planificar en torno a una única postura de cumplimiento ya no es realista para un producto disponible en todo el país.

Qué observar

El caso girará en torno a dos preguntas. La primera es si una prohibición que apunta a la creación en lugar de la distribución es una regulación permisible de la conducta o una restricción impermisible de la expresión. La segunda es si la excepción para los usuarios que aportan su propia capacidad técnica limita la ley lo suficiente como para sobrevivir al escrutinio.

Para cualquiera que construya herramientas de imágenes, la lección práctica es que la responsabilidad de la plataforma por el uso indebido es ahora una cuestión jurídica viva en más de una jurisdicción, y las respuestas no convergen. Minnesota redactó una regla aguas arriba y de inmediato chocó con una impugnación basada en la Primera Enmienda. California redactó una regla de divulgación que se apoya en la procedencia. Ambas son experimentos, y ninguna ha superado la revisión final.

La objeción de la senadora Maye Quade fue que el tribunal de apelaciones no dio ningún razonamiento. El tribunal de distrito dio muchos, y fue en la dirección opuesta. Esa discrepancia, no la medida cautelar en sí, es lo que resolverá la próxima ronda.