La reacción contra los deepfakes se globaliza y ya no gira en torno a una sola empresa

Durante un tiempo, el problema de los deepfakes pareció una serie de incidentes aislados. Un político por aquí, un actor por allá, una herramienta que se lanzó con barreras de seguridad laxas y luego se parcheó. Lo que cambió en el último mes es que los reguladores y los tribunales de todo el mundo dejaron de tratarlos como casos aislados y comenzaron a construir una maquinaria legal compartida en torno a la semejanza, el consentimiento y la responsabilidad.

La Unión Europea fue la primera en tomar la delantera. A partir del 2 de agosto, la Ley de IA de la UE exige que cualquier imagen, audio o texto generado por IA que parezca auténtico lleve un etiquetado visible, con una marca de agua que revele su origen sintético. Las empresas se enfrentan a multas de hasta 15 millones de euros o el 3 % de su facturación global. Los sistemas existentes tienen cuatro meses para cumplir. Es la primera gran jurisdicción que convierte el etiquetado en un requisito obligatorio en lugar de un compromiso voluntario, y también se aplica al texto de interés público que no ha pasado una revisión editorial humana.

Vale la pena subrayar la escala del aparato de aplicación de la UE. SynthID de Google ya ha colocado marcas de agua invisibles en más de 100.000 millones de imágenes y en el equivalente a 60.000 años de audio. Más de 180 organizaciones han firmado el código de prácticas voluntario de la Comisión. Las normas de etiquetado son el respaldo legal para ese impulso voluntario, y otorgan a los reguladores una palanca concreta que antes no tenían.

La India avanza en un eje distinto. El Tribunal Supremo ha suspendido el procedimiento en el Tribunal Superior de Gujarat y está evaluando si consolidar a nivel nacional los litigios sobre deepfakes, con una notificación que debe responderse el 5 de octubre. El impulso hacia la centralización proviene de una preocupación que parece burocrática pero es en realidad práctica: si cada tribunal superior define "deepfake" de manera diferente, una plataforma acaba cumpliendo con las normas de Gujarat mientras infringe las de Bombay. Mientras tanto, el Tribunal Superior de Bombay restringió esta semana el uso no autorizado del nombre, la imagen y la voz de la actriz Samantha Ruth Prabhu, ordenando la retirada de contenido generado por IA y modificado, y encontrando una violación prima facie de sus derechos de la personalidad y de publicidad. Ella es una de las 18 partes —plataformas, desarrolladores de IA y empresas de medios— nombradas en la demanda. El tribunal fundamentó el fallo en derechos constitucionales, enmarcando sus derechos de publicidad y de la personalidad como protegidos tanto por el derecho a la libre expresión como por el derecho a la vida, la privacidad y la dignidad.

Estados Unidos avanza por sus propios canales. La Ley No Fakes, que crearía un derecho federal de publicidad sobre las réplicas digitales de la imagen, la semejanza y la voz de una persona, fue reintroducida y fue remitida favorablemente por la Comisión Judicial del Senado en junio. SAG-AFTRA la ha impulsado con fuerza, y Hollywood es el caso de prueba. Un avance de la próxima película As Deep as the Grave incluía a un Val Kilmer generado por IA, quien murió en 2025, diciendo una línea a un actor en vivo. Kilmer había sido elegido antes de su muerte y había apoyado el trabajo de voz con IA, pero la pregunta más amplia —si un estudio puede resucitar la semejanza de un actor fallecido sin fricción legal— es exactamente lo que la Ley No Fakes está diseñada para responder.

El hilo conductor de todo esto es que la ley está convergiendo en un principio al que la industria se resistió durante dos años: el rostro y la voz de una persona no son materia prima gratuita. La UE trata la semejanza como algo que debe etiquetarse. Los tribunales indios la tratan como un derecho de la personalidad. Estados Unidos debate un derecho federal de publicidad. Nada de esto está resuelto todavía, pero la dirección es coherente y no es amigable con "lanzar rápido y parchear después".

Hay una tensión real aquí que los grupos de libertades civiles han señalado. La ACLU, la EFF y el Center for Democracy and Technology advirtieron en una carta de junio que un derecho de publicidad amplio podría crear un "veto del abucheador", permitiendo que personas poderosas a las que no les gusta ser ridiculizadas exijan la retirada de sátiras y comentarios. Esa preocupación tiene mérito. La línea entre proteger a una víctima y armar a un censor es genuinamente delgada, y las leyes que se están redactando ahora determinarán de qué lado cae. Un derecho demasiado estrecho deja desprotegidas a las víctimas. Un derecho demasiado amplio entrega a los poderosos un arma contra la crítica.

También hay una dimensión técnica en torno a la cual la conversación legal no deja de girar. La distinción entre los modelos que incorporan la seguridad durante el entrenamiento y los que añaden un filtro después de la generación se ha vuelto legalmente relevante. Una vez que existe una imagen, un filtro puede fallar, el archivo puede difundirse y el daño ya se ha producido. Los reguladores han notado esta distinción, y está empezando a aparecer en cómo se asigna la responsabilidad. La empresa que generó primero y moderó después ahora asume más riesgo que la que incorporó la restricción en el propio modelo.

Para cualquiera que siga este sector, la señal que hay que seguir no es el próximo lanzamiento de un modelo. Es la próxima sentencia judicial, la próxima guía de un regulador, la próxima orden de retirada. Esas son las entradas que darán forma a lo que las herramientas tienen permitido hacer, y están llegando a un ritmo al que la industria no está acostumbrada. La tecnología ya no va por delante de la ley; la ley está alcanzándola, y la brecha se cierra más rápido de lo que los equipos de seguridad pueden reaccionar.

Lo que distingue esta oleada de una aplicación anterior y más silenciosa es la forma en que los casos se acumulan a la vez, en jurisdicciones no relacionadas, sobre el mismo principio. Ya no se trata de un regulador reaccionando ante un escándalo. Es una convergencia coordinada de sistemas legales que no se coordinan entre sí, lo cual es una señal más fuerte que la que podría dar cualquier sentencia única. Cuando la UE, la India y Estados Unidos llegan todos a "la semejanza de una persona está protegida" en el lapso de unas pocas semanas, la industria tiene que tratarlo como la nueva línea de base, no como una serie de excepciones.

También hay un hilo conductor en el argumento técnico. Un detalle recurrente en estos casos es si el daño podría haberse evitado por diseño en lugar de mediante moderación a posteriori. Los modelos que se metieron en problemas son los que generaron primero y filtraron después. Los que se presentan como responsables son los que incorporaron restricciones durante el entrenamiento y envían metadatos de procedencia por defecto. Esa distinción, entre seguridad integrada y seguridad añadida a posteriori, se está convirtiendo en la línea divisoria legal, y les da a todos los laboratorios una lista de verificación concreta de lo que significa "hacerlo bien" ahora.

Para los creadores y los desarrolladores de herramientas, el cambio práctico ya está aquí. Las preguntas que antes eran opcionales —¿este modelo maneja solicitudes dirigidas a una persona real?, ¿incorpora metadatos de procedencia?, ¿existe una vía real de denuncia?— ahora son la diferencia entre un producto defendible y una responsabilidad legal. Los deepfakes ya no son un problema de nicho que deba gestionar el equipo de confianza y seguridad. Son un asunto de cumplimiento con multas asociadas, en múltiples jurisdicciones, ahora mismo.

El resultado más probable no es que los medios generativos desaparezcan. Es que el costo de usar el rostro de alguien sin consentimiento quede incorporado en el precio, y que las herramientas que sobrevivan sean las que integraron el consentimiento y la procedencia desde el principio, en lugar de añadirlos después del escándalo. Eso es un cambio real, y está ocurriendo más rápido de lo que esperaba la mayoría de la gente en la industria. La ventana para lanzar una herramienta de imagen o video sin pensar en el abuso se está cerrando, y se cierra a un ritmo global.