Inteligencia artificial: conoce las obligaciones que ya son exigibles a empresas de sectores priorizados
De acuerdo con el Reglamento de la Ley 31814
Oscar Montezuma, experto en regulación digital y CEO de Niubox, señaló que el Reglamento establece obligaciones vinculadas con la transparencia algorítmica, la creación de protocolos, las evaluaciones de impacto y otras medidas aplicables al uso de esta tecnología.
“Las empresas deben verificar su nivel de adecuación y cerrar las brechas pendientes para cumplir con la Ley y el Reglamento”, puntualizó. Agregó que el cronograma de adecuación se aplicará sucesivamente a otros sectores hasta en un plazo máximo de cuatro años.
La progresividad en la vigencia busca otorgar a las organizaciones un plazo adecuado para implementar los cambios exigidos por la norma, priorizando los sectores cuyos usos pueden conllevar mayores riesgos.
Montezuma precisó que gran parte de las obligaciones generales del Reglamento, como la rendición de cuentas, la supervisión humana y la transparencia, ya se encuentran vigentes para los sectores público y privado. Actualmente son exigibles las obligaciones específicas correspondientes a los sectores comprendidos en el primer plazo de adecuación.
Obligaciones exigibles
Las empresas deben informar previamente, de manera clara y sencilla, a los usuarios sobre la finalidad del sistema de IA que desarrollan o implementan, sus principales funcionalidades y el tipo de decisiones automatizadas que puede tomar. También deben incorporar mecanismos que permitan identificar de manera visible cuando un contenido, servicio o producto es generado u operado con IA.
En los sistemas de IA de alto riesgo, el desarrollador o implementador debe establecer mecanismos para garantizar la transparencia algorítmica y una supervisión humana efectiva. Esta última debe permitir al personal detener, corregir o invalidar decisiones automatizadas y evitar sesgos derivados del sistema.
Asimismo, en estos sistemas las empresas deben mantener un registro actualizado y accesible con los principios de funcionamiento, las fuentes de datos utilizadas, la lógica del algoritmo y los impactos sociales y éticos esperados.
También deben establecer políticas, protocolos y procedimientos claros para preservar la seguridad y privacidad, promover la transparencia y explicabilidad, y garantizar la responsabilidad y rendición de cuentas.
Estándares internacionales
Montezuma indicó que la Ley peruana de IA es pionera en la región y busca promover el uso de esta tecnología en equilibrio con la protección de los derechos de las personas. En ese sentido, la norma promueve la innovación responsable bajo un enfoque de gestión de riesgos.
“El Perú fue uno de los primeros países en establecer una regulación. Sin embargo, ser el primero no equivale siempre a ser el mejor, ya que existen condiciones que aún se deben desarrollar para que todos los involucrados lleven la norma del papel a la acción”, finalizó.
