India está escribiendo sus propias normas de seguridad de la IA y se niega a copiar las de Washington

India necesita un marco de seguridad de la IA construido en torno a sus propios idiomas, su escala y su ecosistema impulsado por aplicaciones, en lugar de una copia del pacto voluntario de EE. UU., según expertos de la industria citados en ocho medios esta semana. La objeción concreta es al acuerdo firmado el 29 de septiembre por el presidente Trump junto con ejecutivos de Google, OpenAI, Anthropic, Meta, Nvidia y xAI.

La cuestión de fondo es si un marco voluntario construido por las empresas a las que regula puede trasladarse a otros contextos. La respuesta de India, hasta ahora, es que no.

A qué se compromete realmente el pacto de EE. UU.

El acuerdo del 29 de septiembre es voluntario, y eso es lo primero que hay que entender. Los marcos voluntarios funcionan cuando los firmantes tienen incentivos reputacionales para cumplir y cuando el incumplimiento es visible. Las empresas que lo firmaron son las empresas cuyos modelos cubre el marco, lo que crea una tensión estructural que ninguna cantidad de buena fe resuelve.

Según este diseño, el cumplimiento es en gran medida autoinformado. No hay un organismo de verificación independiente, ni un requisito de publicación de los resultados de las evaluaciones de seguridad, ni consecuencias para un firmante que decide que una evaluación concreta no es aplicable a sus sistemas.

Para Estados Unidos, esta puede ser una posición defendible. El argumento es que los requisitos de seguridad obligatorios ralentizarían a los laboratorios nacionales, mientras que los laboratorios chinos no enfrentan una restricción equivalente, y que una postura voluntaria preserva la posición competitiva. Que ese argumento sea correcto es un debate abierto; varios ex empleados de las empresas firmantes declararon en una audiencia del Concejo Municipal de Nueva York la semana siguiente que no creen que los laboratorios controlen lo que están construyendo, y ninguno de los ejecutivos presentes quiso poner una cifra al riesgo catastrófico cuando se le preguntó directamente.

Por qué el cálculo de India es diferente

La objeción de India es práctica, no filosófica: los supuestos del pacto no se sostienen en el mercado indio.

El primero es el idioma. Un marco de seguridad construido en torno a evaluaciones en inglés no cubre sistemas desplegados en hindi, tamil, bengalí, telugu, maratí y el resto de las lenguas programadas del país. Las evaluaciones de seguridad son específicas de cada idioma: un modelo que rechaza solicitudes dañinas de forma fiable en inglés puede cumplirlas fácilmente en un idioma con menos recursos, porque el entrenamiento de seguridad es más limitado y el comportamiento de rechazo no se transfiere limpiamente. Probar solo en inglés produciría un marco que no certifica nada sobre la mayoría de los despliegues que pretende cubrir.

El segundo es la escala y el perfil de aplicaciones. El patrón de despliegue de IA de India se concentra en servicios públicos, agricultura, inclusión financiera y salud, sectores donde los errores tienen consecuencias directas sobre el bienestar y donde la base de usuarios es grande, de bajo ancho de banda y a menudo interactúa por voz. Un marco diseñado en torno a evaluaciones de capacidades de modelos de frontera no se corresponde con un sistema que clasifica enfermedades de los cultivos para millones de pequeños agricultores.

El tercero es la jurisdicción. Un pacto voluntario firmado en Washington no tiene mecanismo para obligar a una empresa que opera en India, y India no va a externalizar su postura regulatoria a un acuerdo que no negoció.

Qué tendría que incluir un marco indio

Los expertos citados en los reportes no piden una copia de la Ley de IA de la UE, que es la otra plantilla obvia. El enfoque de la UE está dividido por niveles de riesgo y es obligatorio, con evaluación de conformidad, documentación técnica y obligaciones de vigilancia poscomercialización. Es integral y costoso de cumplir, lo cual es una consideración real para un mercado donde la mayor parte del despliegue de IA ocurre a través de proveedores más pequeños e integradores del sector público.

Lo que apuntan las preocupaciones específicas de India es algo más acotado y más verificable.

Evaluación multilingüe como requisito de base, que cubra las principales lenguas programadas, en lugar de una evaluación en inglés con traducciones añadidas después.

Estándares específicos por sector en lugar de un único marco horizontal, ya que los modos de fallo en el asesoramiento agrícola difieren fundamentalmente de los de la evaluación crediticia.

El poder de compra gubernamental como mecanismo de aplicación. El gobierno de India es un comprador importante, y las condiciones de contratación pública para sistemas de IA (resultados de evaluaciones, documentación del modelo, notificación de incidentes) obligarían a los proveedores sin necesidad de un nuevo regulador.

Y un canal nacional de notificación de incidentes, porque la alternativa es que los fallos relevantes para la seguridad aparezcan primero en la prensa.

Cada uno de estos conlleva un costo que hay que sopesar con honestidad. La evaluación multilingüe no es un ejercicio de traducción. Construir un conjunto de evaluaciones de seguridad para un idioma implica reunir prompts adversariales, reclutar revisores hablantes nativos y establecer qué constituye una finalización dañina en ese contexto cultural. La última parte es realmente difícil y objeto de debate, porque el daño depende del contexto, y un estándar de rechazo calibrado en una comunidad lingüística no se transfiere limpiamente a otra.

Los estándares específicos por sector tienen un problema similar en el otro extremo. Un estándar escrito para asesoramiento agrícola, otro para evaluación crediticia y otro para triaje de salud constituye una carga de trabajo de normalización para la que pocos reguladores en cualquier lugar tienen personal. La UE lo aborda en parte mediante organismos de normalización armonizados con participación de la industria, una estructura que India tendría que construir.

La contratación pública es la más barata de las cuatro y probablemente la más eficaz. No requiere una nueva institución, solo una cláusula en los contratos existentes. También es la que se aplica de forma más desigual, ya que la contratación pública llega a los grandes proveedores con más fiabilidad que a la larga cola de integradores que en realidad entregan muchos despliegues del sector público.

El patrón en el que encaja

La posición de India forma parte de una divergencia más amplia en la forma en que las jurisdicciones abordan la gobernanza de la IA, y la divergencia no sigue las habituales líneas de desarrollado frente a en desarrollo.

Malasia anunció planes para su primera ley dedicada a la IA a principios de 2027. Noruega está preparando restricciones a las gafas de IA en lugares públicos. California aprobó trece proyectos de ley sobre IA, incluido uno que eliminó el umbral de un millón de usuarios para las obligaciones. La ABC de Australia rechazó públicamente una excepción de derechos de autor sobre la base de que su contenido ya ha sido extraído. El Reino Unido ha adoptado un enfoque de mano ligera y está bajo presión para formalizarlo.

El hilo común es que los países están escribiendo reglas calibradas según su propia exposición en lugar de adoptar una plantilla. Para los desarrolladores de IA, eso significa que la superficie de cumplimiento está adquiriendo la forma de cada jurisdicción: un modelo desplegado en cinco mercados puede enfrentar cinco regímenes de evaluación diferentes, cinco estándares de divulgación diferentes y cinco plazos de notificación de incidentes diferentes.

Qué hay que observar

Dos cosas determinarán si el marco de India llega a ser trascendente o se queda en una declaración de intenciones.

Si es vinculante para la contratación pública. Un código voluntario sin poder de aplicación en la contratación es un conjunto de principios. Una condición de contratación es un requisito de mercado, y los proveedores construirán conforme a ella.

Y si el requisito de evaluación multilingüe sobrevive al contacto con el costo. Probar en una docena de idiomas es caro, y habrá presión para reducir su alcance a un puñado. El número que acabe en el marco final será un indicador bastante preciso de lo serio que es el compromiso.

El punto más amplio se mantiene independientemente de cómo se resuelva el proceso de India. El pacto de septiembre asumía que un acuerdo voluntario entre laboratorios de frontera podía servir como base global. La respuesta de India es una prueba de esa suposición, y no es el único país que está haciendo la prueba. Los marcos que se están escribiendo ahora, en Delhi, Kuala Lumpur, Bruselas y Sacramento, están produciendo un mundo donde el cumplimiento de la IA depende de dónde se despliega más que de lo que se construyó, y eso es un entorno operativo materialmente más difícil para cualquiera que lance productos a nivel internacional.