California prohíbe despedir a trabajadores basándose solo en lo que dice un algoritmo

California se ha convertido en el primer estado de EE. UU. en impedir que los empleadores despidan o sancionen a trabajadores basándose únicamente en lo que dicta un sistema automatizado. El gobernador Newsom firmó la SB 947, y la ley entra en vigor en julio de 2027.

El requisito central del proyecto de ley es fácil de enunciar y más difícil de cumplir. Cuando un algoritmo es la base principal de una decisión de despedir, degradar o sancionar a alguien, una persona debe revisarla de forma independiente. El empleado recibe notificación por escrito. El empleado también tiene derecho a ver los datos que utilizó el sistema.

Esa última parte es la que mantendrá ocupados a los equipos de cumplimiento normativo. Un derecho de acceso a los datos que respaldan una decisión obliga a las empresas a saber de dónde provienen esos datos, cómo se ponderaron y si pueden presentarse de una forma que una persona pueda entender.

La norma apunta a la parte silenciosa de la automatización

La mayor parte del derecho laboral ya parte de la base de que una persona decidió. La SB 947 aborda el caso en que en realidad nadie lo hizo.

El software de gestión de la plantilla lleva años asignando turnos, puntuando el desempeño y marcando incidencias de asistencia. Los sistemas se comercializan como apoyo a la decisión. En la práctica, una puntuación que cae por debajo de un umbral puede desencadenar un despido automático, y el gerente que hace clic en el botón final puede no tener más información que la propia puntuación.

El proyecto de ley traza su límite en ese arreglo. Si el algoritmo es la base principal, una persona tiene que examinarlo. Si una persona lo examina, entran en juego las obligaciones de notificación y acceso a los datos. El diseño supone que la revisión humana es real y no nominal, y ahí es donde residirá la cuestión de la aplicación.

Esto es un parche estatal sobre un mosaico normativo

California no es la primera jurisdicción que regula las decisiones laborales automatizadas, pero es la primera que incorpora una prohibición de despido a la legislación estatal. La Ley Local 144 de la ciudad de Nueva York exigía auditorías de sesgo para las herramientas automatizadas de decisión laboral y notificaciones a los candidatos, y ha recibido críticas por la cantidad de empleadores que encontraron formas de quedar fuera de su alcance. Colorado aprobó una ley de IA más amplia que clasifica las decisiones laborales como de alto riesgo. La Ley de IA de la UE también trata los sistemas de empleo y gestión de trabajadores como de alto riesgo, lo que conlleva obligaciones de documentación, supervisión humana y registro para cualquiera que los comercialice en el mercado europeo.

El resultado es un cúmulo de normas superpuestas que no encajan del todo. Una empresa que opera en California, Nueva York y la UE tiene que satisfacer tres definiciones distintas de sistema cubierto, tres regímenes de notificación diferentes y tres expectativas de auditoría distintas. Para los grandes empleadores con asesoría jurídica interna, esto es manejable, aunque molesto. Para las agencias de empleo temporal y las pequeñas empresas de logística que más dependen de la programación automatizada, es una carga operativa real.

El escollo que nadie ha resuelto

La revisión humana es fácil de exigir y difícil de definir. Un gerente que dedica cuatro minutos a confirmar una puntuación, técnicamente, la ha revisado. Un revisor que tiene veinte casos así antes del almuerzo aprobará la mayoría. La protección de la ley depende de que la revisión sea sustantiva, y la sustancia no es algo que una ley pueda especificar de antemano.

Hay un segundo escollo. El derecho a inspeccionar los datos presupone que el empleador puede explicar qué examinó el sistema. Muchos productos comerciales de analítica de RR. HH. se construyen sobre modelos cuyos pesos son opacos incluso para el propio equipo de soporte del proveedor, y cuyas entradas incluyen variables indirectas que nadie eligió conscientemente. Producir una respuesta significativa puede requerir reconstruir una decisión que el empleador creía ya tomada.

Los partidarios del proyecto de ley apuestan a que el deber de divulgación, más que la revisión humana, es lo que cambia el comportamiento. Cuando una empresa tiene que entregar el razonamiento, los sistemas que no pueden producirlo se vuelven difíciles de defender, y esa presión llega hasta las compras. El proveedor que puede explicarse a sí mismo gana la renovación.

Qué deben hacer los empleadores antes de julio

Los pasos prácticos no son nada exótico. Hagan un inventario de qué sistemas intervienen en la contratación, la evaluación, la programación de turnos, los ascensos y los despidos. Para cada uno, determinen si es la base principal de una decisión o una entrada de apoyo, porque la respuesta cambia lo que exige la ley. Mantengan registros de la intervención humana en cada etapa, incluidos sellos de tiempo y quién dio la aprobación. Luego prueben si el sistema puede producir una explicación que un trabajador realmente pueda seguir.

El ejercicio más útil es un simulacro. Elijan una acción disciplinaria reciente y reconstrúyanla como si un empleado hubiera pedido los datos. Donde se acaba el rastro es donde está la brecha.

El lado del proveedor en la ecuación

El alcance del proyecto de ley va más allá de los propios procedimientos del empleador, porque es en las compras donde la restricción realmente muerde. Una empresa que tiene que producir una explicación cuando se le solicite no puede comprar un sistema que no se la proporcione, y ese requisito viaja hacia arriba por la cadena de suministro hasta cómo se construyen y se venden los productos de analítica de RR. HH.

Esperen tres ajustes por parte de los proveedores. Documentación que describa las entradas y la lógica de puntuación en un formato que pueda leer una persona no especialista. Registro que documente qué versión de un modelo produjo qué decisión, para que una empresa pueda reconstruir una determinación meses después. Y una función con intervención humana en el proceso que sea un paso real del flujo de trabajo, no una casilla que un gerente marca con un solo clic.

Los proveedores que ya invirtieron en explicabilidad lo presentarán como una característica. Los que no lo hicieron tendrán que decidir si reconstruyen sus sistemas o venden en jurisdicciones con normas más laxas, y la segunda opción se reduce cada año a medida que más estados avanzan.

El calendario es la clave

California eligió una fecha de entrada en vigor en julio de 2027, aproximadamente un año después de la firma. Ese intervalo es deliberado. Da a los empleadores cubiertos tiempo para inventariar sus sistemas y renegociar contratos, y da al estado tiempo para redactar directrices de aplicación que la ley no proporciona.

También crea una ventana en la que las reglas prácticas las fijan las primeras quejas, más que el texto. Cuánta revisión humana cuenta como independiente, qué debe contener una solicitud de acceso a datos y si una puntuación que es una de varias entradas constituye una base principal se resolverán caso por caso durante el primer año. Las empresas que documenten su razonamiento ahora argumentarán desde una posición más sólida que las que improvisen después de que llegue la primera investigación.

Qué resuelve esto en realidad

Con todo el detalle procedimental, la SB 947 responde claramente a una pregunta. Cuando una máquina toma una determinación que le cuesta el empleo a alguien, una persona tiene que asumir esa determinación, y el trabajador puede ver por qué. Es un principio limitado, y es difícil de rebatir en público.

Todo lo demás está sin terminar. La definición de sistema cubierto, el estándar para la revisión independiente y el alcance del derecho de acceso a los datos serán objeto de litigio y revisión. Lo importante es que la carga de la prueba ha cambiado. Antes, un trabajador tenía que demostrar que una decisión automatizada era ilegal. En adelante, un empleador tiene que demostrar que una persona tomó realmente la decisión y que puede explicar cómo.

La SB 947 no detendrá la automatización en RR. HH., y no pretende hacerlo. Establece un piso: una persona tiene que asumir la decisión, y el trabajador tiene derecho a ver la base. Cuánto aguante ese piso dependerá de si la revisión sigue siendo real una vez que el papeleo se vuelva rutinario. Las empresas que traten el deber de divulgación como una restricción de diseño en lugar de un formulario que presentar encontrarán más fácil el cumplimiento, y los sistemas que compren serán más defendibles.