El bucle de investigación de OpenAI empieza a cerrarse sobre sí mismo

The Information informó el 21 de septiembre de que los modelos de IA internos de OpenAI han automatizado en gran medida el pipeline de entrenamiento de nuevos modelos experimentales, incluida la escritura de código de kernels de GPU y la optimización del código de entrenamiento. El detalle que más llamó la atención fue cómo arranca el trabajo. Un investigador le da al sistema un ejemplo de una optimización que debería llevar a cabo, y la IA pasa entonces semanas implementando y probando mejoras similares por su cuenta.

El segundo detalle era más extraño. Varios agentes de IA internos han empezado a colaborar en problemas sin un humano en el bucle. Los ejemplos reportados que antes requerían años de ingeniería ahora se completan en aproximadamente una semana.

Si esa descripción es precisa, lo interesante no es que una IA pueda escribir código de kernels. Los modelos llevan un tiempo haciéndolo. Lo interesante es la dirección del bucle. Cuando una IA ayuda a hacer más rápido el siguiente modelo, y ese modelo más rápido ayuda a crear el siguiente, la mejora se acumula dentro del proceso de investigación en lugar de quedarse en la capa de cara al usuario.

Por qué esto es distinto de escribir código

Automatizar el bucle de entrenamiento no es lo mismo que automatizar una tarea de programación, y la diferencia merece formularse con precisión. Escribir una funcionalidad para una aplicación tiene un objetivo conocido: la funcionalidad funciona o no funciona. Optimizar una ejecución de entrenamiento tiene un objetivo abierto. El sistema tiene que encontrar cambios que hagan el entrenamiento más rápido o más barato sin degradar el modelo, y tiene que hacerlo en un espacio de búsqueda donde la mayoría de los cambios empeoran las cosas.

El flujo de trabajo reportado sugiere que la parte difícil se ha acotado. Un humano aporta un buen ejemplo de optimización, que define la forma del problema. La IA replica esa forma en otras partes del código base. Es una capacidad real y también acotada, porque el humano sigue siendo quien decide qué cuenta como una dirección prometedora.

Esa frontera es donde la afirmación se vuelve interesante. Replicar una optimización conocida por todo un código base es trabajo que un modelo potente puede hacer hoy. Descubrir una optimización que nadie ha encontrado es una tarea distinta, y el informe no afirma que eso haya ocurrido. Lo que describe es la eliminación de una gran clase de trabajo cualificado del pipeline de entrenamiento, lo cual no es lo mismo que el pipeline mejorándose a sí mismo, aunque ambas cosas se difuminen en los bordes.

La afirmación sobre la colaboración multiagente es más difícil de evaluar. Que unos agentes trabajen juntos sin humanos suena a un cambio de nivel, y también puede significar que los agentes se pasen salidas estructuradas entre sí dentro de un flujo de trabajo diseñado por un humano. Ambas lecturas encajan con el informe. La distancia entre ellas es la diferencia entre un nuevo tipo de organización de investigación y un script de automatización largo.

El argumento de la recursión, expuesto con honestidad

La automejora recursiva es la idea de que una inteligencia capaz de mejorarse a sí misma se vuelve más rápida a la hora de mejorarse, lo que produce una curva que parece plana y luego deja de serlo. El concepto existe desde que I. J. Good escribió sobre una explosión de inteligencia en 1965, y se ha mantenido en su mayor parte como teoría porque el bucle no dejaba de romperse. Un modelo que escribe código es útil. Un modelo que mejora el proceso que produce el siguiente modelo es otra cosa.

Lo que hace que la situación reportada merezca atención es que el bucle tiene una vara de medir natural. La eficiencia de entrenamiento es fácil de cuantificar. Si el trabajo de entrenamiento asistido por IA realmente comprime un esfuerzo de ingeniería de años en una semana, eso se refleja en la frecuencia con la que OpenAI lanza nuevos modelos y en cuánto cómputo cuesta cada uno. Un bucle de investigación que se ha cerrado de verdad produce una cadencia observable, y un bucle que no lo ha hecho produce un ciclo de prensa.

Esa es la prueba que yo aplicaría. No si el informe es cierto, sino si los próximos doce meses muestran lanzamientos de modelos más rápidos a un coste similar. Si el bucle se está cerrando, el ritmo de lanzamientos cambia. Si no, el anuncio es solo otra afirmación de capacidad con una vida media corta.

Por qué la cadencia importa más que la afirmación

Hay una razón para interesarse por el momento en que aparece este informe y no solo por su contenido. El entrenamiento de modelos de frontera se ha topado con un muro, y el muro está hecho de coste. Una sola ejecución grande de entrenamiento consume ahora energía, chips y tiempo de ingeniería a una escala en la que una ganancia de eficiencia del diez por ciento vale más que un nuevo récord en un benchmark, porque decide cuántos experimentos puede permitirse ejecutar un laboratorio el próximo trimestre.

Eso cambia cuánto vale una IA que optimiza código de entrenamiento. No es un paso hacia una máquina que se mejora a sí misma en el sentido de la ciencia ficción. Es un multiplicador sobre lo más caro que hace un laboratorio, y un multiplicador sobre la partida más costosa es de donde surge una ventaja en investigación. Dos laboratorios con el mismo presupuesto de cómputo pero con un bucle de entrenamiento un diez por ciento más rápido no se mantienen iguales mucho tiempo.

Visto así, el informe tiene menos que ver con la consciencia y más con la eficiencia de capital. El bucle que importa no es el modelo mejorándose a sí mismo. Es el modelo reduciendo el coste del siguiente experimento, lo que permite al laboratorio ejecutar más de ellos, que es la forma ordinaria en que cualquier tecnología se vuelve más rápida.

La parte que nadie puede comprobar

El problema honesto con este tipo de informe es la verificación. No hay artículo, ni benchmark, ni replicación independiente. La afirmación procede del interior de una empresa que tiene todos los incentivos para que se la crea y ninguna obligación de mostrar su trabajo. Eso no la hace falsa. Significa que la confianza que puede tener cualquier observador externo está limitada por la fuente.

Esto no es exclusivo de OpenAI. Todos los laboratorios de frontera hacen ahora afirmaciones sobre automatización interna que quedan fuera de la evaluación pública, y el periodismo que las saca a la luz hace un trabajo útil incluso cuando los números no se pueden comprobar. El patrón es conocido: se describe una capacidad, la descripción es plausible y la prueba llega, o no, en algún punto más adelante.

También está la pregunta de para qué sirve la automatización. Altman dijo en un pódcast a principios de septiembre que OpenAI construirá sin duda robots humanoides, y que la parte difícil es el cerebro y no el cuerpo. Un proceso de investigación que se acelera a sí mismo y la ambición de llevar esa inteligencia a máquinas físicas son dos mitades de la misma tesis. El bucle de entrenamiento no es el producto. Es lo que hace posible el siguiente producto.

Qué significa si se sostiene

Supongamos que la cadencia reportada es real. El efecto directo es que un laboratorio de frontera puede explorar más ideas por unidad de tiempo, porque el coste de probar una optimización baja. Eso favorece a los laboratorios que ya tienen cómputo y datos a escala, que son el mismo conjunto de laboratorios que lideran hoy. Es una ventaja que se acumula para los actores establecidos y no una que permita a un equipo más pequeño alcanzarlos.

El efecto indirecto recae sobre los empleos de investigación. El trabajo que describe el informe, escribir kernels y ajustar código de entrenamiento, es justo el tipo de labor cualificada pero bien especificada que la automatización alcanza primero. Las personas que hacían ese trabajo ascienden hacia definir qué merece la pena optimizar, que es la parte que el informe sigue asignando a un humano.

Esa lectura es menos dramática que una explosión de inteligencia y más útil para planificar. La noticia reportada no es que OpenAI haya construido una máquina que se mejora a sí misma. Es que el pipeline de entrenamiento ha absorbido en silencio la parte de la investigación que era más fácil de especificar, y ha dejado las decisiones de criterio donde estaban.