Opinión
Año de la Esperanza y el Fortalecimiento de la Democracia
El impacto de la IA dependerá de su uso, los límites establecidos y los ámbitos humanos que preservemos
Profesora del Departamento de Humanidades de la Universidad del Pacífico
Si trasladamos las declaraciones del cineasta al caballo de Troya presentado en su película, encontramos una metáfora más poderosa que la inicialmente sugerida por Nolan y, al mismo tiempo, un recurso para cuestionar su supuesta transparencia. Como veremos, la comparación permite examinar la IA desde tres dimensiones: su eficacia, sus repercusiones y aquello que transporta.
En la versión de Nolan, la estrategia del caballo resulta eficaz para realizar la invasión y se presenta como la única vía disponible una vez agotados otros recursos. Algo similar ocurre con la IA: su utilidad para resolver diversos problemas es evidente, pero, en algunos escenarios, ya no aparece como una herramienta opcional, sino como algo que “hay que usar” para no quedarse atrás. Bill Gates ha advertido recientemente que basta con que algunas empresas incorporen IA para reducir costos para que otras se vean incentivadas a seguirlas, incluso si preferirían no hacerlo.
La eficacia, sin embargo, no elimina sus repercusiones. En La odisea, la conquista de Troya se muestra despiadada: calles, hogares y monumentos son destruidos, y la población padece las consecuencias de una estrategia exitosa pero privada de humanidad y sensibilidad. Con la IA puede ocurrir algo parecido cuando la búsqueda de productividad hace perder de vista a quienes se ven afectados por su uso. En labores educativas o administrativas, por ejemplo, ciertas funciones pueden automatizarse, pero eso no significa que debamos delegarlas necesariamente. Gates propone reservar algunos ámbitos como human reserved: actividades que decidimos mantener en manos humanas porque algo valioso se perdería al reemplazarlas.
Está, finalmente, aquello que la IA transporta. En el interior del caballo de Nolan, los guerreros conviven hacinados entre podredumbre, suciedad y excrementos. La imagen resulta sugerente para pensar en respuestas de IA que llegan de forma inmediata y aparentemente ordenada, pero que pueden contener información errónea, sesgos o prejuicios. Podemos ver el resultado, pero no siempre identificar con claridad de dónde proviene lo que contiene ni cómo llegó hasta allí.
Nolan, probablemente sin proponérselo, amplió con sus imágenes los alcances de su propia metáfora. Su caballo permite pensar en una tecnología que puede ser simultáneamente eficaz, dañina y opaca en aquello que transporta.
Quizá por eso la discusión principal ya no sea si dejamos entrar el caballo —a estas alturas, resulta difícil mantenerlo fuera de las murallas—, sino qué hacemos al conocer sus riesgos. Los efectos de la IA no están predeterminados: dependerán también de las decisiones que tomemos sobre cómo utilizarla, qué límites establecer y qué ámbitos queremos preservar como propiamente humanos.