La IA dibujó 11.064 especies de aves. Los observadores miraron la ceja

A comienzos de noviembre, un conjunto de imágenes encendió a la comunidad de observadores de aves.
Una aplicación de registro de aves anunció que usó IA para dibujar «retratos» de las 11.064 especies del mundo: más de mil especies, más de mil imágenes. Sobre el papel, resolvía de una vez un problema viejo, la falta de ilustraciones. Quien trabaja en identificación y divulgación de aves sabe que buena parte de las especies solo tiene fotos de ejemplares disecados, dibujos a mano o película de hace décadas. Que alguien quiera tapar ese hueco tiene lógica.
La reacción llegó rápido. Un autor que observa aves desde hace años publicó su opinión en The Paper. El enojo no estaba en el «usaste IA», sino en algo que vio a simple vista en el anuncio de la app en Xiaohongshu: la ceja del pingüino de ceja amarilla estaba mal. El patrón de la ceja es una de las claves para clasificar ese grupo. Equivocarse ahí no es un problema estético, es un problema de identificación.
La imagen la hizo una IA. La revisión, también.
Lo que molesta a los observadores es que ninguna persona miró esas imágenes, ni al producirlas ni al aprobarlas.
Las diferencias entre especies suelen estar en unos pocos puntos porcentuales: el largo de la lista superciliar, la proporción de primarias expuestas, la curvatura del pico, el color del tarso. Son justo los detalles que el modelo generativo difumina, porque la mayoría de los «pájaros» que vio en el entrenamiento eran fotografías bien compuestas, no pieles con marcas de medición. El modelo aprendió «parece un pájaro», no «este es tal pinzón».

Poner imágenes así en herramientas de identificación y en material didáctico no da un resultado feo: convierte el error en referencia. El usuario compara contra ella y se desvía cada vez más; quien empieza memoriza primero una imagen equivocada y después necesita el doble de esfuerzo para corregirla. El autor habló de «contaminación de datos», y la palabra es exacta.
Hay otra capa: las imágenes las hizo una IA y las revisó una IA. Usar un modelo para validar la salida de otro modelo es dejar que el mismo sesgo firme su propio informe. Si la idea era llegar hasta el final, faltaba al menos un muestreo humano, con los grupos propensos a error separados para revisión.
Entrenar y redibujar son dos cosas distintas
La segunda polémica es de derechos de autor.
Según el autor, el proyecto tomó un número importante de fotos como plantilla. Entrenar un modelo con imágenes es una cosa; redibujar a partir de imágenes sin licencia es otra. La primera sigue en zona gris en buena parte de las jurisdicciones; la segunda es más fácil de calificar como copia. Si el redibujo se apoya mucho en la foto original y el resultado se le parece, lo que sale es casi «una copia con retoques», no «una creación independiente». El proyecto tiene posible uso comercial, y abrir el código no cambia la naturaleza de eso.
La frontera no es complicada: que un modelo aprenda, con millones de imágenes, «cómo es un pájaro», y que un modelo mire una foto concreta y replique encuadre, pose y luz son dos conductas distintas. La primera es aprendizaje. La segunda es calcar. La diferencia es si en el proceso hay una obra concreta e identificable.
Una recomendación práctica
La recomendación del autor vale más que la crítica: si de verdad necesitas dibujar aves con IA, cambia a un estilo no realista.
Eso resuelve la mayor parte del problema. Ilustración, grabado, collage de color, silueta minimalista: el público entiende de inmediato que no es una foto y no la va a usar como base de identificación. La contaminación de datos supone «que se tome por real». Cuando el estilo ya avisa de que es una representación, ese supuesto desaparece. Se puede usar realismo, claro, pero entonces alguien tiene que revisar una por una. Son 11.064. Saca la cuenta.
También dijo, con educación, que la programación y la naturaleza son dos círculos muy distintos, y que entrar en otro círculo sin respetar sus reglas, alegando que se lo quiere servir, quema por dentro.
La misma semana, Xiaohongshu limpiaba otro tipo de «parece»
Si en el caso de las aves la generación con IA chocó con «tiene que ser exacto», la operación de Xiaohongshu chocó con «tiene que ser verdadero».
Alrededor del 5 de noviembre, Xiaohongshu puso en marcha una revisión especial de contenido y colocó en el centro los videos de venta en los que se suplanta a figuras públicas con IA. Son dos tipos: cambio de cara, que inserta el rostro de una persona conocida en un video de producto para que el público crea que ella lo recomienda, y clonación de voz, que reproduce la voz y lee un texto publicitario sobre material ya editado.
La sanción cae sobre las notas y sobre las cuentas a la vez. El contenido irregular se retira y deja de recomendarse; las cuentas reincidentes pierden alcance, ven ajustados sus permisos comerciales y, en los casos graves, son bloqueadas. Quien imita rasgos de figuras públicas a propósito y usa IA para generar personajes parecidos en videos de venta también entra en la revisión.
La lógica es la misma que en el caso de las aves. Cuando el consumidor ve una cara y oye una voz, el criterio es «conozco a esta persona y creo lo que dice». La IA hace que esa cadena fluya, tanto que ningún paso necesita algo real. Cuando el producto falla, el comprador descubre que esa persona nunca participó en la campaña, y para entonces ya no está claro a quién reclamar.
Los dos tapan el mismo hueco
Vistos juntos, los dos casos llenan el mismo tipo de vacío.
A la guía de aves le faltan imágenes porque no se pueden fotografiar, porque son caras, porque la licencia no sale. Al video de ventas le falta gente porque no se puede contratar, porque es caro, porque la agenda no cuadra. La IA es muy capaz en los dos puestos, con un costo casi irrelevante y plazos de horas en vez de meses. El problema es que los dos vacíos no son de la misma naturaleza: uno carece de «representación» y el otro carece de «aval».
La representación puede hacerla una IA, siempre que quede claro que es una representación. El aval no, porque su valor se sostiene entero en «esta persona piensa eso de verdad». Entregar el segundo caso al modelo es quitar la premisa de la transacción.
La norma china de etiquetado de contenido generado, vigente desde el 1 de octubre, exige marcas explícitas e implícitas. Su efecto real depende mucho de que la plataforma quiera elegir entre tráfico y cumplimiento. La revisión de Xiaohongshu es una muestra: primero toca el tráfico, después habla de etiquetas. La etiqueta permite verificar después; limitar el alcance duele antes.
Tres verdades para quien produce contenido
Primero: en acervos de imágenes, guías y material didáctico, la IA sirve para el borrador y para ocupar un lugar, no para la versión final. Si se va a publicar, el costo de la revisión humana entra en el presupuesto. No se puede recortar.
Segundo: el estilo ya es una declaración. Realismo es prometer «esto es verdad»; ilustración es declarar «esto es un dibujo». Se puede elegir cualquiera, pero no elijas mal y culpes al público por entender mal.
Tercero: cuando entran caras y voces de personas reales, el licenciamiento no tiene atajos. La operación de Xiaohongshu muestra que la plataforma empezó a actuar en lugar de quien es suplantado. Esperar la queja de un tercero cuesta mucho más que negociar antes.
El pingüino con la ceja mal dibujada terminó siendo un recordatorio caro. El modelo puede dibujar cien mil imágenes que parecen pájaros, pero no sabe cuál de ellas sirve para enseñarle a alguien a reconocer uno.
Artículos relacionados
La regla de exportación ya no apunta al chip, sino al cliente
La norma no prohíbe chips: prohíbe el anonimato. Y mueve la unidad de control del hardware a la relación con el cliente final.
La noticia de Nvidia no fue el informe: fue el comité
En nueve días el consejo produjo una investigación, una presidencia y un comité de cumplimiento. No es control del calendario: es reacción.
Nvidia tuvo que ponerle precio a su fundador
En nueve días, Nvidia cambió de CEO y de consejo sin perder un trimestre. El mercado, mientras tanto, le puso precio a lo que valía un solo hombre.
Una hoja de cálculo comunitaria de toques que apaga la publicidad de los Android chinos
No toca el sistema, no desbloquea nada, no flashea nada. Solo mueve los interruptores que los fabricantes ya dejaron a la vista. El precio es una lista que alguien tiene que seguir escribiendo.