Suplemento Jurídica: Inteligencia artificial y trabajo, la dignidad del trabajador como límite al algoritmo
IA, poder empresarial y dignidad del trabajo
Paul Cavalié Cabrera
Magíster. Docente Derecho Laboral PUCP. Presidente del Tribunal de Fiscalización Laboral de la Sunafil
A menudo vemos que la irrupción de la inteligencia artificial (IA) en el trabajo suele presentarse en términos de productividad: qué tareas se puede automatizar, cuánto tiempo se puede ahorrar o qué decisiones puede mejorar. Sin embargo, cuando advertimos la incidencia de la IA en una relación de trabajo asalariado, la cuestión nos parece más profunda aún. Porque en este escenario, la tecnología se inserta dentro de una relación de prestación de servicios subordinada ampliando la capacidad de gestión del empleador para seleccionar, vigilar, evaluar, organizar, sancionar e incluso extinguir relaciones laborales. El problema ético que asoma no es, por tanto, si las empresas deben usar la IA, sino bajo qué condiciones ese uso sigue siendo compatible con la dignidad y la libertad de quien trabaja por cuenta ajena.
Magnifica humanitas, la primera encíclica del papa León XIV para proteger a la humanidad en tiempos de IA, nos ofrece un punto de partida especialmente fértil. La encíclica nos recuerda que el trabajo no es un simple instrumento de obtención de ingresos, es más bien un instrumento de desarrollo personal y contribución al bien común. Desde esa premisa, entonces, la valoración de la IA no puede quedar reducida a su sola eficiencia económica. La pregunta decisiva debe ser si es que la tecnología sirve a la persona o si termina siendo instrumental a la lógica de la máquina.
De la eficiencia a la centralidad de la persona
La advertencia que se desprende de la última encíclica papal de León XIV, Magnifica humanitas, es particularmente nítida: la automatización puede elevar la productividad pero, al mismo tiempo, deshumanizar al trabajador, someterlo a una intensa vigilancia automatizada, encasillarlo en tareas rígidas y hasta afectar su capacidad de obrar e innovar. De ahí la insistencia del documento papal en proponer el diseño de sistemas “centrados en la persona y no solo en el rendimiento”.
Ese planteamiento al que me refiero contiene un criterio ético directamente aplicable al trabajo asalariado. Porque una tecnología aplicada en lo laboral no debería juzgarse solo por cuánto incrementa la productividad, sino también por cómo impacta en la autonomía, las competencias, la privacidad, la seguridad y la capacidad de decisión del trabajador. Sin duda, la IA puede ser valiosa cuando elimina tareas peligrosas o repetitivas y potencia capacidades humanas; el problema es cuando convierte a la persona del trabajador –y a sus actividades– en un dato de rendimiento que debe adaptarse al ritmo que fija un sistema.
El estudio de Halefom Abraha (docente de la Universidad de Utrecht, Países Bajos), publicado como Documento de Trabajo 149 de la OIT, nos muestra hasta dónde puede llegar esa transformación, y es que los sistemas de monitoreo y gestión algorítmica pueden intervenir en el acceso al empleo, la remuneración, el control de la jornada laboral, la promoción en la línea de carrera, la seguridad y salud, la disciplina laboral y la terminación del vínculo. La IA, por ello, puede terminar instalándose en el corazón mismo del poder de dirección.
Del poder de dirección al llamado poder algorítmico
Es incuestionable que en el trabajo por cuenta ajena existe una asimetría de poder que obliga a mirar la tecnología –y a su incidencia– de un modo distinto a como se la observa, por ejemplo, en una relación de consumo. Sabemos que quien controla la infraestructura tecnológica puede reunir datos, inferir o predecir comportamientos, elaborar perfiles y tomar decisiones con una capacidad que el trabajador difícilmente puede conocer o bien contrarrestar. El problema, además, excede la privacidad ya que la gestión algorítmica puede comprometer la autonomía, la dignidad, la igualdad, la salud y los propios derechos colectivos laborales del trabajador.
Magnifica humanitas plantea en este escenario una suerte de valla, límite o estándar bastante tajante. Nos dice que cuando los algoritmos influyen en la selección de personal u otras oportunidades relevantes, las decisiones deben ser comprensibles, pasibles de ser cuestionadas y sometidas a control, para impedir que la persona quede reducida a un simple perfil, a un mero dato. Asimismo, frente al poder de la recopilación masiva de datos para perfilar y prever conductas, que propicia y permite la IA, reclama reglas claras, transparencia, vías de recurso y límites proporcionados a las tecnologías invasivas.
En esta medida, la coincidencia con la Recomendación de la Unesco sobre la ética de la inteligencia artificial es significativa, en tanto esta exige transparencia y explicabilidad, trazabilidad y auditabilidad, y sostiene que la responsabilidad ética por las decisiones sustentadas en el uso de la IA debe seguir siendo atribuible a los actores que intervienen en ella, y no diluirse en que son apenas aplicaciones neutrales de la tecnología. También promueve evaluaciones de impacto ético que incluyan expresamente a los derechos laborales, junto con mecanismos de diligencia debida, supervisión y mitigación de riesgos, que carga sobre quien hace uso de la IA.
Para el Derecho del Trabajo, la consecuencia es clara: “lo decidió el sistema” no puede ser una respuesta suficiente y elusiva frente a una evaluación negativa, una sanción o un despido. Cuanto mayor sea el impacto de la decisión sobre la vida profesional del trabajador, mayor debe ser la exigencia de intervención humana efectiva, explicación e impugnación posible.
Transparencia, proporcionalidad y no discriminación
Los Lineamientos interamericanos de gobernanza de datos e inteligencia artificial de la OEA –documento de trabajo sometido a consulta regional– refuerzan esta orientación., pues proponen incorporar la consideración a los derechos humanos, a la privacidad y a la protección de datos en la propia gobernanza de la IA, asegurar su explicabilidad y transparencia en decisiones vinculadas con derechos y adoptar un enfoque preventivo basado en riesgos mediante evaluaciones de impacto y auditorías. A ello añaden mecanismos efectivos de reclamo y reparación frente a las vulneraciones derivadas de una inadecuada gestión de datos o utilización de IA. Aspectos estos que han sido contemplados también en nuestra legislación nacional, concretamente por el D.S. Nº 1525-PCM.
En efecto, dicha norma clasifica expresamente como IA de “riesgo alto” los sistemas utilizados para determinar procesos de selección, evaluación, contratación y cese de trabajadores o postulantes, así como para establecer condiciones laborales (art. 24.1.e). También incluye como supuesto de riesgo alto la inferencia de emociones de una persona en entornos de trabajo, salvo determinadas finalidades médicas o de seguridad.
Todas estas exigencias adquieren una dimensión laboral específica. Tengamos claro, por ejemplo, que la vigilancia digital no se vuelve éticamente neutra porque sea técnicamente posible. Antes bien, debe responder a una finalidad legítima, ser necesaria y proporcionada, utilizar datos pertinentes y evitar formas de control permanente que conviertan a la prestación laboral en un espacio de observación total.
Tampoco basta con que un algoritmo sea eficiente si reproduce sesgos que perjudican a determinados colectivos, más allá de que en nuestra Constitución se consagra en el bloque de artículos de contenido laboral, que “ninguna relación laboral puede limitar el ejercicio de los derechos constitucionales, ni desconocer o rebajar la dignidad del trabajador” (art. 23) y entre los principios del derecho laboral se enuncia al de “igualdad de oportunidades sin discriminación” (art. 26).
La evolución internacional revela, además, que estos principios éticos empiezan a trasladarse a instrumentos de gobernanza y regulación. Así, por ejemplo, los Principios de IA de la OCDE, actualizados en 2024, incorporan valores como la dignidad, autonomía, privacidad, no discriminación, conceptos como el de la justicia social y derechos laborales internacionalmente reconocidos, además de una vigilante supervisión humana. En el plano supranacional, el Reglamento de Inteligencia Artificial de la Unión Europea –cuyo modelo de “enfoque de riesgos ha adoptado nuestra regulación de la IA– considera de alto riesgo diversos sistemas destinados a la contratación y selección, promoción o terminación del vínculo, asignación de tareas y vigilancia o evaluación del desempeño. Incluso prohíbe, salvo supuestos vinculados a razones médicas o de seguridad, utilizar IA para inferir las emociones de las personas en el lugar de trabajo.
La participación de los trabajadores como exigencia ética
Magnifica humanitas no limita la respuesta a controles externos. Propone que la introducción de la IA vaya acompañada de medidas que puedan ser verificables vinculadas a la protección del empleo, recualificación y participación de los trabajadores, para lo cual invoca un esfuerzo conjunto de autoridades, organizaciones sindicales, empresas y comunidad científica.
Este punto lo consideramos decisivo. En una relación asimétrica, como lo es la laboral, la transparencia individual puede resultar insuficiente. Informar al trabajador de que será sometido a un sistema algorítmico no equivale a darle una capacidad real de incidencia sobre su diseño o utilización.
Precisamente por ello, Abraha propone avanzar hacia una gobernanza colectiva de los datos laborales, sobre los pilares de una consulta previa a los representantes, su participación en la adopción de tecnologías y en las evaluaciones de impacto, acceso a información relevante y posibilidad de auditar sistemas. No se trata de negar el poder de organización y de dirección empresarial, sino de evitar que la transformación tecnológica quede enteramente entregada a una decisión unilateral, cuyas potencialidades son reforzadas por el uso de la IA.
La idea tiene, además, antecedentes. El “Repertorio de recomendaciones prácticas de la OIT de 1997 sobre protección de datos personales de los trabajadores” ya sostuvo que los sistemas automatizados de decisión debían emplearse como instrumentos auxiliares, y no solo como decisores exclusivos y excluyentes, y destacó la consulta e información a los representantes de los trabajadores respecto del tratamiento de datos y la introducción de nuevas tecnologías.
Una transición tecnológica también debe ser justa
La dimensión ética de la IA aplicada a lo laboral no termina en la protección frente a algoritmos que pueden devenir invasivos. Incluye además la distribución de los beneficios y costos de la automatización. Magnifica humanitas admite el valor de una tecnología que libere de tareas pesadas, repetitivas o peligrosas, que la IA facilita, pero rechaza que la búsqueda de un mayor beneficio justifique sacrificar sistemáticamente el empleo: la persona es un fin, no un medio.
Por ello, la encíclica exige gestionar esta transición, que parece inexorable, proactivamente: proteger el empleo, recualificar o reentrenar al personal, facilitar formación continua y evitar que todo el costo de adaptación recaiga sobre el individuo, al punto de la pérdida de su trabajo, fuente de sus ingresos. Más aún, la carta papal demanda que la propia empresa incorpore la calidad y dignidad del trabajo entre sus indicadores de éxito. La Unesco converge con esta visión de la doctrina católica al promover una transición equitativa para los trabajadores en riesgo, con programas de perfeccionamiento y reconversión profesional -mecanismos que podrían retenerlos durante la transición- y la adopción de medidas de protección social.
Así entendida, la responsabilidad empresarial frente a la IA comienza entonces antes de adquirirse una herramienta. Exigiría, adicionalmente, preguntarse qué tareas sustituirá, qué capacidades desarrollará o destruirá, qué trabajadores quedarán expuestos, qué datos serán tratados, quién responderá por los errores y cómo podrán cuestionarse sus resultados.
Ética Y límites al poder tecnológico
Desde nuestra mirada, el principal aporte de Magnifica humanitas al debate laboral consiste en cambiar la pregunta. Así pues, no basta con preguntarse qué puede hacer la IA dentro de una empresa; es necesario preguntarse qué debe permitírsele hacer cuando están en juego personas sometidas al poder empresarial que va a hacer uso de los sistemas de IA.
De los documentos examinados emerge un núcleo ético común, configurado por la centralidad que debe tener la persona, la supervisión humana, la transparencia y explicabilidad, una responsabilidad identificable, la diligencia de proteger los datos, la no discriminación, la proporcionalidad del control, la evaluación previa de impactos, las vías de impugnación, la participación colectiva y el acompañamiento a los trabajadores en la etapa de transición tecnológica.
La encíclica aporta algo más aun. Nos brinda el fundamento que da unidad a esas garantías: la dignidad del trabajo. Una “IA laboral” será verdaderamente humana no cuando consiga que el trabajador se parezca cada vez más a la máquina - siendo por tanto predecible, medible y permanentemente mejorable - sino cuando la máquina contribuya a que el trabajo sea más seguro, creativo, libre y digno. Ese debería ser el parámetro ético desde el cual juzgar el poder algorítmico del empleador.
???? En esta edición del suplemento Jurídica analizamos el impacto de la inteligencia artificial, los nuevos marcos regulatorios y el futuro del Derecho.
?? Lee la edición completa en el suplemento legal del Diario Oficial El Peruano https://t.co/t8FgLm3BWt
