← Volver al blog
Aiaprox. 7 min de lectura

Después de 47.000 contenidos y 3961 cuentas, a la suplantación con IA le falta el filtro de la publicación

Publicado 8 nov 2026
Después de 47.000 contenidos y 3961 cuentas, a la suplantación con IA le falta el filtro de la publicación

El 6 de noviembre, el organismo de administración del ciberespacio publicó el balance de una operación concentrada: más de 47.000 contenidos ilegales retirados y 3961 cuentas sancionadas. El objeto del aviso está enunciado con precisión: cuentas que usan tecnología de IA para hacerse pasar por personajes públicos conocidos, vender productos, captar seguidores y confundir a los usuarios.

El aviso distingue cuatro supuestos. Los nombres de las cuentas van con asteriscos, pero el reparto por plataformas se lee sin problemas. En WeChat, "花\*\*记", "时\*\*叙" y "秀\*\*8"; en Douyin, "微\*\*天" y "S\*\*物"; en Xiaohongshu, "小\*\*C" y "瓦\*\*款". Lo que hacían era suplantar sin autorización el rostro de famosos, clonar su voz o tomar fotos de familiares para promocionar productos. En WeChat, "山\*\*话" y "旧\*\*故" usaron efectos de IA para inventar el rumor de que cierta figura pública padecía alzhéimer. En Douyin, "才\*\*河"; en Xiaohongshu, "秋\*"; en Bilibili, "老\*\*迷"; en Kuaishou, "云\*": se hacían pasar por la persona, hablaban en primera persona, contaban su vida y soltaban frases emotivas para llevar gente al botón de seguir. En Kuaishou, "康\*" generaba bailes vulgares y escenas de intimidad, y con eso sumaba seguidores para después monetizar.

El interés comercial de los cuatro grupos es muy distinto. El segundo y el tercero buscan tráfico; el primero y el cuarto acaban en una transacción. Y en el primero hay un detalle que merece párrafo aparte: el uso de retratos y variantes de imagen de familiares de personajes públicos. Ese camino esquiva el problema de conseguir material del propio famoso. Basta una foto familiar y un intercambio de cara para armar un video de ventas que parece creíble.

El castigo cae sobre la cuenta, el problema está antes de publicar

El aviso dice "sancionar cuentas", no "borrar un video". La diferencia pesa. Un contenido suelto se vuelve a subir; una cuenta cerrada corta la vía de cobro y el fondo de seguidores. En términos de eficacia, el corte duele más.

Pero la sanción llega después. El comentario que acompañó la emisión de CCTV, Xinwen Lianbo, ordenó en secuencia las cuatro tareas que tocan a las plataformas: detectar pronto, avisar pronto, interceptar pronto y limpiar pronto. De los cuatro "pronto", los tres primeros ocurren antes de publicar.

El problema es la asimetría: generar un cambiazo con IA ya es tan barato que permite probar en lote, mientras identificar sigue siendo caro. Un video falso de 15 segundos sale en minutos con herramientas listas; un revisor humano necesita decenas de segundos para atreverse a decidir, y la revisión automática se enfrenta a compresión, recortes y regrabaciones de pantalla. Hoy las curvas de costo de generar y de detectar van en direcciones opuestas.

Las Medidas para el etiquetado de contenido generado y sintético con IA rigen desde el 1 de septiembre de 2025. Las emitieron cuatro departamentos y exigen dos capas: marca visible y marca invisible. La visible es el aviso que ve el usuario; la invisible es la huella en los metadatos del archivo. El diseño funciona en un flujo de publicación normal. El asunto es que las cuentas maliciosas no pasan por el flujo normal: los metadatos se borran, la marca visible se recorta, la imagen se vuelve a filmar.

Por eso lo que una plataforma puede morder de verdad no es la marca de agua, sino el cotejo entre personas y material. Las caras y las voces de los famosos son un conjunto pequeño y enumerable. Comparar contra una lista conocida es mucho más realista, técnicamente, que decidir si un video lo generó una IA. Ahí es donde la prevención se puede ejecutar: frenar una vez al publicar cuesta menos que perseguir mil contenidos después.

Una mano sostiene un teléfono con un video donde aparece el rostro de una figura conocida y un botón de reproducción.

La justicia ya movió la carga de la prueba

El caso de la actriz de doblaje en el Tribunal Popular Intermedio Primero de Shanghái, el 2 de noviembre, dejó una señal muy concreta. De 28 indicadores acústicos de formantes, 24 quedaron por debajo del 10 por ciento de desviación respecto a la voz real, y 16 de ellos por debajo del 5,36 por ciento; entre "bastante similar" y "muy similar" sumaban el 90 por ciento. El tribunal condenó al operador de la plataforma a pagar 50.000 yuanes.

Lo más relevante es cómo se repartió la prueba. Al titular del derecho le basta acreditar dos cosas: que existía un canal razonable para obtener su voz y que la voz sintética se le parece mucho. Con eso cierra su carga inicial. A partir de ahí le toca a la plataforma demostrar que los datos de entrenamiento se obtuvieron legalmente o que la voz sintética no tiene relación con la demandante. La sentencia explica el sentido de la regla sin rodeos: responder al problema estructural de la prueba en manos de una sola parte en los casos de IA, e impedir que las plataformas se safen con excusas como "caja negra tecnológica" o "el empleado se fue y no se puede confirmar".

Ese criterio coincide con el artículo 4 de las Opiniones del Tribunal Popular Supremo sobre el juicio de casos relacionados con la inteligencia artificial, del 7 de septiembre de 2026. Trasladado a esta campaña, viene a decir lo mismo: quien tiene los datos tiene que poder mostrar de dónde salieron.

Para una plataforma, el significado práctico es este: registros del origen del corpus de entrenamiento, comprobantes de licencia del material, bitácoras de las etapas de revisión. En tiempos normales parecen papeles de cumplimiento; cuando estalla un pleito son lo único que prueba que no hubo responsabilidad. El valor de dejar rastro no está en el día a día, está el día en que te demandan.

Para comercios y creadores solo hay tres obligaciones

La primera es la cadena de autorización. Usar rostro y voz de una persona real, sea material propio o entregado por un socio, exige un alcance de licencia que conste por escrito. En el caso de Shanghái, la plataforma alegó que no sabía que la otra parte era actriz de doblaje; el tribunal no aceptó el argumento. No saber no equivale a poder usar.

La segunda es el etiquetado. La marca visible va en la imagen, la invisible queda en el archivo. Ya es requisito obligatorio, no una opción. Muchos equipos la hacen minúscula porque les parece que afea el resultado; en la práctica sancionadora eso puede leerse como incumplimiento.

La tercera es dejar rastro del origen del material. Es la que más se salta y la que más duele en una disputa. De dónde vino, quién lo entregó, qué usos cubre la licencia: conviene archivarlo junto al video final, no desperdigado en los chats de tres personas.

Esta campaña no es de una sola vez

La última frase del aviso dice que en la siguiente etapa se seguirá intensificando la campaña y que se afianzará aún más la responsabilidad principal de los sitios y plataformas. Fórmulas así aparecen muchas veces en los documentos sobre IA de los últimos dos años. Apuntan a una rutina permanente, no a una operación de choque.

Para quien vive de los contenidos con IA, el criterio se volvió más simple: puedo decir quién aparece en la imagen, de dónde salió la autorización y si el contenido está etiquetado. Quien responde las tres cosas no tiene por qué temer que un día su cuenta desaparezca. Quien no las responde acumula riesgo más rápido cuanto más crece.

Para las plataformas, la competencia se moverá de "podemos generarlo" a "podemos frenarlo en el segundo de la publicación". Las 3961 cuentas son la nota de esta ronda. La de la siguiente probablemente no medirá cuántas se sancionaron, sino cuántas se detuvieron antes.

Artículos relacionados