Una demanda de un niño con autismo abre el debate para regular el uso de la IA en la justicia colombiana

¿Puede Chat GPT –el famoso aplicativo de inteligencia artificial– dictar una decisión judicial? Esa fue una de las preguntas que un juez en Bogotá le hizo al mismo Chat GPT 3.5 mientras redactaba un fallo en segunda instancia a una tutela. Resolvía el caso de una mujer que acudió a las autoridades para pedir que su hijo menor de edad con autismo quedara exonerado de pagar las cuotas cada que asistía a una terapia física en su Entidad Promotora de Salud (EPS). Su caso aterrizó en la Corte Constitucional porque era la primera vez que un juez en Colombia detallaba que había hecho uso de la IA para tomar una decisión.

En la tutela que radicó explicaba que no tenía condiciones económicas para pagar las cuotas que le cobra la EPS en cada sesión, ni para asumir los gastos de transporte desde su casa hasta el centro médico donde le hacían las terapias. Y que por eso, muchas veces, su hijo y ella hacían los trayectos a pie, aunque por su enfermedad a veces el menor se rehusaba a caminar. Aunque el juez falló a su favor, varios de sus argumentos los fundamentó en respuestas que le entregó la inteligencia artificial para complementar la sentencia.

En Colombia no está reglamentado el uso de la IA en escenarios judiciales. En el caso de la sentencia que le dio la razón a la señora y su hijo, la Corte Constitucional ratificó que el Estado debía cubrir los gastos de transporte del menor y su familia. Pero el asunto fue más allá y tres magistrados encontraron que las preguntas que le hizo el juez del circuito en Bogotá a ChatGPT eran parte del análisis que él debía hacer como funcionario judicial. La primera pregunta que le planteó a la herramienta fue si “un menor de edad con autismo debía ser exonerado de pagar las cuotas moderadoras de sus terapias”. Ese cuestionamiento, que la herramienta de IA contestó, era el centro del problema jurídico que debía resolver el juez basado en la ley colombiana y en su criterio.

Otra de las inquietudes que planteó era si, en un caso con esas características, la tutela debía ser concedida. La herramienta de inteligencia artificial no contestó específicamente, porque una de sus restricciones es no entregar recomendaciones sobre procesos judiciales. Y aunque el tribunal encontró que el juez actuó bien, pues la inteligencia artificial no reemplazó su labor, en la medida en que el funcionario planteó una argumentación propia y solo utilizó la herramienta para validar algunos cuestionamientos, la alta corte aprovechó la ocasión para establecer las líneas rojas que no se deben cruzar al utilizar a ChatGPT u otras herramientas similares para decisiones judiciales.

El precedente que marcó la Corte en este caso se fundamenta en las reglas que entrega a los funcionarios judiciales para el uso de la inteligencia artificial. Explica que un juez incumpliría sus deberes cuando “la emplea en el ejercicio de funciones de raciocinio que son indelegables e irremplazables”. También se refiere al principio de transparencia que obliga a que el funcionario revele que utilizará esas herramientas, o el riesgo de “no realizar de manera rigurosa la verificación de la fiabilidad de la información que soporta la motivación del fallo, pudiendo comprometer la independencia o imparcialidad debido a los sesgos y alucinaciones de la IA”. Y concluye diciendo que también será una falta cuando no se adopten “las cautelas necesarias para evitar la transgresión de derechos como el habeas data o la intimidad.”

Catalina Moreno, subdirectora de la Fundación Karisma, una organización que trabaja por el buen uso de las tecnologías en Colombia, opina algo similar. Explica que el uso es lo que demarca el límite ético del uso de la inteligencia artificial. “Uno de los derechos que tenemos los ciudadanos es a ser juzgados por una persona competente, un juez, y también el derecho a saber quién está fallando y con base en qué normas llegó a una decisión. Ahí es donde entra el dilema cuando se usa ChatGPT”, señala. En diálogo con este diario, Moreno cuenta que una sala de tutela de la Corte analizó el caso por más de un año. En ese tiempo, el magistrado ponente, Juan Carlos Cortés, buscó a varias organizaciones tecnológicas para que emitieran sus conceptos.

Ella, a través de Karisma, fue una de las que entregó a los magistrados unas recomendaciones sobre el uso de la IA como herramienta. “Por ejemplo, en este caso habría sido distinto pedirle a la IA que haga un resumen sobre los papers que existen en las barreras de salud para las personas con autismo. Esa es una pregunta válida para complementar una decisión sin reemplazar el criterio del juez”, comenta. Y concluye que la inteligencia artificial no solo debería mejorar la eficiencia de la administración judicial y acortar los tiempos de respuesta, sino también mejorar la calidad de las decisiones.

Lo que la Corte planteó para estudiar esta tutela fue su preocupación en determinar si, eventualmente, se había violado el debido proceso al haber incluido respuestas de la IA en el fallo. Sobre este tema, Andrés Díaz Arana, profesor de Derecho Penal de la Universidad Externado y experto en tecnología legal, le dijo a este diario que “nunca un buscador reemplazará la labor del ser humano, porque la labor del juez no es buscar información, sino construir reglas del derecho a través del razonamiento, que por naturaleza es humano”.

Díaz también es dueño de un sistema de inteligencia artificial que ha sido alimentado por 550.000 sentencias, leyes, decretos y expedientes judiciales en Colombia y que sirve como asistente legal en línea en el país. “Desarrollar estas herramientas permite que los tiempos en los procesos se acorten, mejorando la productividad de los jueces, magistrados y abogados”.

No es la primera vez que la alta corte colombiana se enfrenta a un desafío relacionado con la inteligencia artificial. El primer dilema estuvo en casa, de hecho. La propia Corte Constitucional usa PretorIA, una herramienta que clasifica las sentencias de tutela de los jueces y así facilita a los magistrados de la Corte la elección de las que estudiarán. Ese software hace un primer filtro de las más de 1.700 tutelas que llegan al tribunal cada día. Su uso, de hecho, está en el radar de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), que desde 2021 monitorea el uso de la IA en los Estados de Derecho de todo el mundo.

Aunque los avances en Colombia son significativos, la UNESCO ha reportado que en países como Argentina ya está reglamentado el uso de IA para redactar fallos judiciales. En México, los tribunales están autorizados a utilizar sistemas de inteligencia artificial para determinar si alguien puede entrar al sistema de seguridad social; en China, la discusión trascendió del uso de los chats, y ahora la justicia cuenta con un sistema que organiza, caracteriza y analiza las pruebas judiciales y forenses que presenta un juez para facilitar su análisis.

Para la UNESCO, aunque los avances tecnológicos son cada vez más difíciles de monitorear, los lineamientos de su uso debe reglamentarlos cada país con una bandera clave: “Deben mejorar la autonomía humana y la toma de decisiones, en lugar de remplazar o influir indebidamente en el juicio humano”.

Suscríbase aquí a la newsletter de EL PAÍS sobre Colombia y aquí al canal en WhatsApp, y reciba todas las claves informativas de la actualidad del país.