Suplemento Jurídica: ¿Usas IA en tribunales? Aprende a proteger datos y verificar sus resultados
Uso seguro y responsable de la IA en el Poder Judicial
Lorenzo Castope Cerquín
Juez Superior de la Corte Superior de Justicia de Lima Norte. Director del laboratorio de Innovación e IA. Presidente de la Comisión de Innovación e IA
Las herramientas tecnológicas han marcado el avance de la civilización, desde el fuego y el cuchillo, para la alimentación y la seguridad; hasta la IA y la computación cuántica, para procesar grandes volúmenes de datos y generar conocimiento.
Hoy enfrentamos una tecnología que equivale a tener “un país de genios en un centro de datos”, una superinteligencia (Ilya Sutskever), una IA poderosa (Darío Amodei) que promete sustituir todas las funciones cognitivas del ser humano.
Será la IA entonces la cumbre de la evolución del homo sapiens o el último invento de la humanidad. La última innovación en la ciencia médica indica que hemos empezado a escalar esa cumbre: la empresa Neuralink ha implementado con éxito la interfaz cerebro computador que hace caminar a los inválidos y devuelve la vista a los ciegos, y en las funciones de gobierno la IA promete asistir en la toma de decisiones.
En las funciones jurisdiccionales la IA, ahora, puede leer expedientes, buscar normas y jurisprudencia, gestionar el inicio y trámite de un expediente, hacer control de plazos e impulsar el trámite del proceso; además, puede hacer resumen de hechos, transcribir audiencias, redactar resoluciones y, finalmente, asistir al juez en la toma de decisiones.
Sin embargo, la adopción de IA en las cortes y tribunales de justicia está guiándose por dos extremos, pues, de la resistencia con razón analítica, en 2023, hemos pasado al uso temerario, en 2026.
Por un lado, cada vez más instituciones idean, desarrollan e implementan herramientas de IA sin garantizar seguridad y sostenibilidad, y, por otro, cada día más abogados y operadores jurisdiccionales usan la IA sin inducción previa ni alfabetización tecnológica que les permita conocer sus funciones específicas, así como todas sus ventajas y riesgos.
En este contexto, es necesario fomentar el uso informado y responsable de la IA en las cortes y tribunales del Poder Judicial con la finalidad de adoptarla sin comprometer la gobernanza de datos, la independencia judicial y los derechos fundamentales, y sin perder el control o ser sustituidos en el intento.
La IA es una idea tan antigua como inquietante, con aceleración reciente
La idea de una inteligencia artificial programada para realizar tareas específicas con total autonomía no es una idea nueva ni reciente. En efecto, la idea de la IA no nace en 1945 con el diseño de la primera neurona artificial ni en 1950 cuando se acuña el término inteligencia artificial. La idea de IA es más antigua que Jesucristo; se remonta a la mitología griega, 700 a. C., cuando el poeta Hesíodo describe al primer autómata, Talos, creado por el dios Hefesto, el ingeniero oficial del Olimpo, un gigante de bronce diseñado con un sistema hidráulico, programado para caminar tres veces al día por las costas de Creta con la misión de defender la ciudad, tirando piedras gigantes contra los barcos invasores.
En la última década (2016-2026), el desarrollo de la IA se ha acelerado gracias a una nueva arquitectura denominada Transformer, que alcanzó las expectativas del primer invierno de la IA (1970-1980) y superó las limitaciones del segundo invierno (1990-2010), y hoy ha devenido en la IA generativa capaz de sustituir y acelerar funciones cognitivas como el cálculo matemático, la visión, la lectura, la redacción y el razonamiento humano, procesando grandes volúmenes de datos a una velocidad impresionante.
Las funciones específicas de la IA
La era de la IA generativa impulsada por técnicas de mezcla y destilado de varios modelos de lenguaje grande (MLL) ha permitido la IA multimodal (imagen, texto, voz, etcétera), la IA colaborativa y agentica, esto es, varias IA actuando y colaborando a la vez, con capacidad para tomar decisiones y ejecutar tareas de forma autónoma; y, el código libre de los MLL ha democratizado la adoptación de IA en el sector público y el privado, y ha hecho factible el desarrollo de varias herramientas de IA.
En las funciones de gobierno la IA actualmente puede redactar, transcribir y notificar un documento o una decisión judicial (asistente judicial) y, además, puede investigar, razonar y proyectar una decisión (secretario judicial) ambas funciones, con distinto grado de autonomía pueden integrarse al proceso y la justicia, no para sustituir al personal judicial, sino como apoyo para el juez y para completar los recursos humanos escasos.
La integración de la IA en las funciones jurisdiccionales es urgente, esencialmente, por la crisis de legitimidad que tenemos, ya que la sobrecarga, la dilación y la opacidad de la justicia más la conducta maliciosa y la falta de control y dirección de los operadores han disminuido cada vez más el nivel de confianza de la población, pues mientras en 2018 dos de cada diez confiaban en el Poder Judicial, hoy solo uno de cada diez lo hace.
No obstante, la adopción de IA en justicia es de alto riesgo, por ello se requiere una política de promoción de desarrollo y uso en entornos favorables, una política fuerte de ética judicial, alfabetización tecnológica y uso informado a fin de conocer las funciones específica de la IA, así como todas sus ventajas y riesgos para integrarla a las funciones jurisdiccionales de forma segura, sin comprometer la gobernanza de datos, la independencia judicial y los derechos fundamentales.
Peligro invisible
Las ventajas de la IA en las funciones jurisdiccionales son insuperables en tiempo y cantidad de procesamiento de datos, empero existe un peligro invisible que afecta la fiabilidad de los resultados que brinda, pues aún el modelo más avanzado de IA todavía no ha resuelto el problema de los sesgos y alucinaciones.
Los sesgos y alucinaciones de la IA son problemas aún sin solución, debido a que los datos de entrenamiento de los MLL tienen prejuicios históricos y los algoritmos pueden contener fallos, generados por resultados desviados o decisiones erróneas introducidas en el diseño o modelamiento de la herramienta. Estos prejuicios históricos, resultados desviados o decisiones erróneas en el diseño y modelamiento determinan la alucinación de la herramienta, esto es, la respuesta falsa, inexistente o una decisión incongruente con los datos de la instrucción o con el contexto de la realidad (alucinación).
Los sesgos y alucinaciones tienen un impacto directo con la transparencia del proceso, la imparcialidad y la independencia del juez y, específicamente, con la motivación de las decisiones (motivación aparente o falta de corrección lógica). De ahí que resulta fundamental saber qué modelos alucinan más y porqué, así como algunas medidas para mitigar dichos riesgos.
Los temas en los que más alucina la IA y los modelos que alucinan menos.
Los MLL alucinan más en el campo jurídico debido a que es un área altamente especializada y requiere pensamiento crítico y razonamiento práctico, a diferencia del conocimiento general, las finanzas o la medicina, ámbitos en los que la información es más abundante y requiere pensamiento analítico y razonamiento lógico.
En ese sentido, resulta importante saber qué modelos alucinan menos en temas legales, por ejemplo, Perplexity (2022: Araving Srinivas-Perplexity IA. Inc.) es una de las herramientas que tiene menor porcentaje de alucinación, pues, aunque no es un modelo base sino una mezcla y destilado de varios modelos, sintetiza la información de la web de manera confiable, debido a que sus tres capas de análisis integradas (buscar, filtrar y estructurar) entregan resultados con referencias de las fuentes, lo que hace que sus resultados sean más fiables y verificables.
Luego tenemos a Gemini (2024: Demis Hasabis-Google-Deepmind) junto a Claude Opus (2024: Darío y Daniela Amodei-Antropic); ChatGPT (2022: Ilya Sutskever; Greg Brockman; y, Sam Altman-OpenAI); y luego a DeepSeek (2023: Liang Wenfeng de DeepSeek AI) y Grok; (2023: Elon Musk; Igor Babuschkin Manuel Kroiss, xAI) que, en este orden, tienen un porcentaje ligeramente mayor de alucinación en temas legales comparado con Perplexity.
Hasta ahora las tres capas de análisis (buscar, filtrar y estructurar) de Perplexity y las respuestas con referencias para que el usuario pueda contrastar la información y sus fuentes han sido adoptadas como un estándar por las demás herramientas y son, por ahora, la metodología más segura para mitigar las alucinaciones de la IA.
Política de integración segura de IA en las funciones de gobierno
En teoría, la adopción de una IA segura para las funciones jurisdiccionales importaría remodelar una IA adolescente implicándola con la visión, misión y la política jurisdiccional del Poder Judicial; luego, instruirla con nuestro contexto jurídico y ético, con nuestra cultura, los fines del proceso y la protección de los derechos fundamentales; por otro lado, requería integrar herramientas con funciones de búsqueda y filtro de información del expediente judicial y estructura de documentos judiciales; donde la utilidad del usuario basada en resultados seguros sea la prioridad, y, finalmente, exigiría establecer límites duros infranqueables (imparcialidad, independencia, igualdad, etcétera).
Recomendaciones
Las ventajas de la IA en las funciones jurisdiccionales son altas, así como los riesgos, por ello es necesario un uso debidamente informado sobre todas sus funciones específicas y sus desventajas, así como la alfabetización de los operadores y el fortalecimiento de sus capacidades de innovación y ética judicial, en clave de debida diligencia, transparencia y autocorrección, pues también se sabe que la regulación va varios pasos detrás de la innovación.
En este sentido, y en el contexto de las directrices de uso de la IA en Cortes y Tribunales de Justicia de la Unesco (2026), se formulan las siguientes recomendaciones de uso de IA en las funciones jurisdiccionales.
- Lo más recomendable es desarrollar y usar IA dentro de nuestras instalaciones o en un entorno seguro, y, en ambos casos, debe anonimizarse los datos personales y sensibles.
- En caso de usar una IA externa, se debe comprobar la información recibida, formulando preguntas de validación antes de aceptar y usar el resultado.
- Confirmar la información triangulando el uso de IA, esto es, utilizando otros modelos alternativos y haciendo preguntas de comprobación en cada resultado.
- Dar instrucciones con límite de certeza o advertencias, para instruir, específicamente, que diga “no lo sé” si no tiene la respuesta o falta información.
- Pedir citas y referencias, es recomendable pedirle que no haga resumen de textos críticos, sino que cite literalmente y las vincule con una referencia de la parte del documento o la fuente donde está la cita.
- Usa modelos que alucinen menos y especializados en información jurídica de tu país.
- No desplazar la capacidad de reflexionar a la IA, especialmente, sobre casos en trámite y complejos.
- Promover el uso informado y responsable de IA.
- Finalmente, “evitar utilizar herramientas que generen riesgos de divulgación de los datos personales y sensibles o permitan el acceso no autorizado por parte de terceros” (2026: Recomendación de las Directrices de la Unesco para el uso de IA en cortes y tribunales de justicia).
Referencias
- Recomendaciones de la ética de Inteligencia Artificial de la Unesco 2022: https://www.unesco.org/es/articles/recomendacion-sobre-la-etica-de-la-inteligencia-artificial
- Directrices de uso de Inteligencia en la Cortes y Tribunales de Justicia-Unesco. 2026: https://unesdoc.unesco.org/ark:/48223/pf0000397770/PDF/397770spa.pdf.multi
- Código ético Iberoamericano para el uso de inteligencia en el ámbito judicial. 2026: https://escuelajudicial.ramajudicial.gov.co/sites/default/files/2026-06/Co%CC%81digo%20E%CC%81tico%20Iberoamericano%20para%20el%20Uso%20de%20Inteligencia%20Artificial%20en%20el%20A%CC%81mbito%20Judicial%20ES%20%281%29.pdf
- Máquinas de Gracia Amorosa. 2024. Darío Amodei: https://darioamodei.com/essay/machines-of-loving-grace
- IA Justicia y ética académica. Ronald Alarcón. 2026: https://elperuano.pe/suplemento/visor/14855-juridica-982
- Declaran en emergencia la justicia civil en la Corte de Lima. 2018. CEPJ: https://busquedas.elperuano.pe/dispositivo/NL/1796335-2
- Mensaje a la Nación de la Presidenta del Poder Judicial. 2026: https://www.pj.gob.pe/wps/wcm/connect/bef7d8804837702d9da4dd95cc5b0081/7584787-05-01-2026-mensaje-a-la-nacion-a-cargo-de-la-dra-janet-tello-gilardi-presidenta-del-poder-judicial-con-ocasion-de-la-ceremonia-de-apertura-del-ano-judicial2026.pdf?MOD=AJPERES&CACHEID=bef7d8804837702d9da4dd95cc5b0081
- Aprobación ciudadana del Poder Judicial. 2018: https://www.pj.gob.pe/wps/wcm/connect/cortesuprema/s_cortes_suprema_home/as_inicio/as_enlaces_destacados/as_imagen_prensa/as_notas_noticias/2018/cs_n-27-porciento-aprueba-gestion-del-poder-judicial-20112018
- Aprobación ciudadana del Poder Judicial. 2026: https://m.inei.gob.pe/media/MenuRecursivo/boletines/boletin_gobernabilidad_julio_diciembre2025.pdf
- Los Principios de Bangalore sobre conducta judicial. 2019: https://www.unodc.org/documents/ji/training/19-03891_S_ebook.pdf
- La adolescencia de la IA. 2026. Darío Amodei: https://www.darioamodei.com/essay/the-adolescence-of-technology
