En Colombia, la Corte Constitucional ha empezado a trazar un camino pionero en América Latina sobre cómo debe usarse la inteligencia artificial (IA) en el ámbito judicial y administrativo. El punto de partida lo encontramos en la evolución del hábeas data, que ha pasado del derecho al olvido frente a bases de datos tradicionales, a la necesidad urgente de regular la IA y su impacto en derechos fundamentales.
El precedente: Sentencia T-323 de 2024
En esta decisión, la Corte analizó el caso de un juez que utilizó ChatGPT para apoyar la redacción de una sentencia en materia de salud. El alto tribunal concluyó que el uso de IA no está prohibido, pero estableció límites claros:
- Complementariedad: la IA puede apoyar, pero nunca sustituir la labor del juez.
- Transparencia: el uso de la IA debe ser informado y visible para las partes.
- Proporcionalidad: solo puede aplicarse cuando sea estrictamente necesario.
- Temporalidad: los datos utilizados deben ser actuales, pertinentes y limitados en el tiempo.
Además, la Corte ordenó al Consejo Superior de la Judicatura expedir una guía oficial sobre el uso de IA en la Rama Judicial, y a la Escuela Judicial capacitar a jueces y magistrados en los riesgos y beneficios de estas herramientas.
Lo que está en juego: los datos sensibles
Cuando la IA procesa datos de salud, de menores de edad o información financiera, se tocan los cimientos del hábeas data: intimidad, honra, buen nombre y debido proceso. La jurisprudencia exige que toda decisión apoyada en IA tenga siempre una verificación humana, que un operador revise y se haga responsable del resultado antes de incorporarlo a una sentencia o acto administrativo.
Prohibiciones expresas
La Corte ha sido clara: no se puede usar IA que carezca de trazabilidad, explicabilidad o control humano. Tampoco aquellas que generen sesgos, discriminación o afectaciones desproporcionadas a grupos vulnerables.
Conclusión
Colombia está definiendo las reglas del juego para que la IA sea una herramienta de modernización y eficiencia, pero sin perder de vista la protección de los derechos fundamentales. La transparencia, la verificación humana y el control judicial son la clave para que la inteligencia artificial no se convierta en una amenaza, sino en un aliado.
En Nieto Lawyers asesoramos a empresas, entidades públicas y startups que usan IA o procesan datos en Colombia. Te acompañamos para implementar tecnología de forma responsable y cumplir con los más altos estándares legales.
¿Tu organización ya está aplicando IA? Contáctanos y construyamos juntos un marco seguro, transparente y jurídicamente sólido.
WhatsApp
