Cuando la IA falla

El 23 de julio en el Estado de Alabama sancionaron a tres abogados por usar inteligencia artificial para fortalecer sus argumentos con citas de casos que, al ser revisadas por el despacho, resultaron inventadas por la propia herramienta. En Argentina durante el mes de agosto se conoció un caso similar en el que un abogado utilizó citas falsas generadas por ChatGPT para sustentar un proceso, situación que fue remitida al Colegio de Abogados de Rosario para su resolución.

La realidad es que la inteligencia artificial es una herramienta muy funcional para abogados y funcionarios judiciales, pero es fundamental tener cuidado con su uso. En España ocurrió otro caso en el que un hombre con régimen especial solicitó su pensión por un valor mucho menor al que realmente debía acceder porque la IA inventó una norma. Para ilustrar la situación hice dos preguntas y aunque la herramienta respondió con información correcta en términos generales, los números de los artículos no coincidían y tampoco todas las sentencias que solicité.

La inteligencia artificial también ha sido objeto de debate en la Corte Constitucional a través de la sentencia T-323 de 2024, que regula su uso en el marco de la rama judicial. Allí se menciona que puede emplearse en la gestión administrativa, por ejemplo, en reparto, programación de diligencias, digitalización y clasificación de expedientes, sistemas de relatoría y motores de búsqueda de jurisprudencia. También como apoyo en la referenciación de jurisprudencia, el seguimiento de líneas jurisprudenciales, el análisis de datos estadísticos o la identificación de temas repetitivos. Incluso puede utilizarse para la corrección y síntesis de textos siempre y cuando el operador jurídico supervise la coherencia y la correcta aplicación.

La Corte fue enfática en que la inteligencia artificial no puede reemplazar labores jurisdiccionales como la interpretación de hechos, la valoración de pruebas y la adopción de decisiones. Considera que estas funciones no pueden delegarse en una máquina porque se vulneran principios del derecho como la garantía del juez natural, la motivación de las decisiones judiciales y el debido proceso. Además, estableció condiciones para su uso.

La primera condición es emplearla de manera razonada con enfoque en la protección de derechos fundamentales. La segunda se divide en tres cargas. La primera es la transparencia, que implica no sustituir la racionalidad humana, usar la herramienta de forma abierta informando a las partes y explicar las razones de su utilización, como capacitaciones recibidas, la identificación de la IA empleada, los datos usados, el lugar de esa información en la decisión y los motivos de su pertinencia. La segunda carga es la responsabilidad, que exige estar capacitado en la materia, verificar la información, asegurar que los datos sean suficientes y recientes y que estén adaptados al contexto colombiano. La tercera carga es la privacidad, que obliga a proteger los datos personales y sensibles de los involucrados.

En conclusión, el operador judicial incumple sus deberes cuando emplea la inteligencia artificial para funciones de raciocinio, cuando no revela de forma transparente su uso, cuando no verifica la fiabilidad de la información o cuando no adopta medidas para proteger el habeas data y la intimidad. La inteligencia artificial no es el enemigo del derecho, pero tampoco es la solución mágica. Puede ser un aliado poderoso siempre que se use con criterio, responsabilidad y transparencia. De lo contrario, se convierte en un riesgo que puede comprometer derechos fundamentales y la legitimidad de las decisiones judiciales. La Corte ya trazó el camino, ahora depende de nosotros, abogados y operadores jurídicos, demostrar que sabemos usar la tecnología sin perder de vista lo esencial: la justicia solo tiene sentido cuando está guiada por la razón humana.