¿Puede un juez usar ChatGPT? Lo que dijo la Corte Constitucional en 2024

En Colombia, un juez utilizó ChatGPT para resolver un caso de salud. La Corte Constitucional intervino y dejó claro hasta dónde puede llegar la inteligencia artificial en la justicia.

El caso: Sentencia T-323 de 2024

En esta tutela, un juez de primera instancia usó ChatGPT para redactar parte de su decisión sobre un paciente que pedía acceso a un servicio de salud. La situación generó polémica: ¿puede una IA decidir sobre derechos fundamentales?

La Corte Constitucional, en la Sentencia T-323 de 2024, revisó el caso y estableció reglas claras sobre el uso de inteligencia artificial en el sistema judicial colombiano.

¿Qué dijo la Corte?

La Corte no prohibió el uso de IA, pero fijó límites estrictos bajo cuatro principios clave:

  • Complementariedad: la IA puede apoyar al juez, pero nunca reemplazarlo.
  • Transparencia: el juez debe informar si usó IA y con qué propósito.
  • Proporcionalidad: la IA solo puede intervenir en lo necesario, no en el núcleo de la decisión.
  • Temporalidad: los jueces deben evaluar permanentemente los riesgos de depender de sistemas de IA.

Derechos fundamentales en juego

La Corte recordó que el uso de herramientas como ChatGPT impacta directamente en:

  • El derecho al debido proceso: las partes deben saber cómo se tomó la decisión.
  • La libertad de información: las fuentes de la IA no siempre son verificables.
  • La igualdad de armas: ninguna parte puede quedar en desventaja por decisiones opacas.

¿Por qué es importante este precedente?

Con este fallo, Colombia se convierte en pionero en regulación judicial de la inteligencia artificial en América Latina. El mensaje es claro: la IA puede ser una herramienta útil, pero nunca puede sustituir el criterio humano ni los estándares constitucionales.

Preguntas frecuentes

 No. La Corte estableció que la IA solo puede ser un apoyo, no la fuente principal de la decisión.

 Se podría alegar vulneración al debido proceso por falta de transparencia.

No. Aunque el caso fue en la justicia, las reglas sirven como guía para otras autoridades y empresas que usan IA en decisiones que afectan derechos.

En Nieto Lawyers acompañamos a empresas, entidades públicas y startups en la implementación responsable de inteligencia artificial, asegurando cumplimiento normativo y protección de datos.

¿Tu organización usa IA para tomar decisiones? Agenda una cita con nosotros y blindemos juntos tu proyecto frente a riesgos legales.

Agendar con Nieto Lawyers WhatsApp

Temas de interés

Actualidad Jurídica

Nuestro Equipo

Jaime Nieto Pérez

Socio fundador y gerente

Cotactar
Jaime Andrés Nieto

Socio senior

Cotactar
Estefani Nieto

Socio senior

Cotactar
Ver más
Compartir:
nieto & nieto lawyers,  GDPR Cookie Compliance
AVISO DE COOKIES

AVISO DE PRIVACIDAD DE NIETO & NIETO LAWYERS S.A.S.

Por medio de este documento y de conformidad con lo dispuesto por la Ley Estatutaria 1581 de 2012, el artículo 14 del Decreto Reglamentario 1377 de 2013 y demás normas concordantes, NIETO & NIETO LAWYERS S.A.S., identificada con NIT 830.083.908-9, da a conocer a sus clientes, proveedores, empleados, asociados y visitantes de sus plataformas web la existencia de la POLÍTICA DE TRATAMIENTO Y PROTECCIÓN DE DATOS PERSONALES DE LA COMPAÑÍA NIETO & NIETO LAWYERS S.A.S., que les será aplicable al momento de utilizar las referidas herramientas web, realizar comentarios en el blog y/o tener relaciones comerciales, civiles y/o laborales con la empresa, así como la forma de acceder a dicha política y las finalidades del tratamiento de datos personales que se pretende dar.

1. Políticas de tratamiento de la información personal:
NIETO & NIETO LAWYERS S.A.S pone de presente que podrán consultar en cualquier momento la política de tratamiento de datos personales que rige en la empresa, la cual, podrán consultar en todo momento en la página web www.nietolawyers.com.

2. Finalidad del tratamiento de la información personal.
De conformidad con lo expuesto en la POLÍTICA DE TRATAMIENTO Y PROTECCIÓN DE DATOS PERSONALES DE LA COMPAÑÍA NIETO & NIETO LAWYERS S.A.S., la recolección, procesamiento, almacenamiento, tratamiento, verificación, uso, circulación, transferencia y/o transmisión nacional y/o internacional de los datos personales se realiza con el objeto de:

  • Dar cumplimiento a las obligaciones comerciales en el marco de relaciones contractuales con sus clientes, proveedores y empleados.
  • Permitir la identificación y contacto de clientes, proveedores y empleados de NIETO & NIETO LAWYERS, para efectos contractuales y legales.
  • Procesar y asegurar el cumplimiento y entrega de los servicios adquiridos por los clientes de NIETO & NIETO LAWYERS, así como elaborar la facturación correspondiente.
  • Envío de publicidad sobre servicios de NIETO & NIETO LAWYERS.
  • Ofrecimiento público o privado de servicios de NIETO & NIETO LAWYERS.
  • Realizar análisis y perfilamientos de los clientes que permitan definir los servicios que se acomodan a sus gustos y preferencias.
  • Comunicar la realización de actividades y eventos organizados por NIETO & NIETO LAWYERS.
  • Organización del registro de información de proveedores para el envío de órdenes de compra.
  • Comunicación, consolidación, organización, actualización, control, acreditación, aseguramiento, estadística, reporte, mantenimiento, interacción, y gestión de las actuaciones, informaciones y actividades en las cuales se relacionan o vinculan a los proveedores y contratistas con NIETO & NIETO LAWYERS.
  • Gestión administrativa y corporativa de la compañía NIETO & NIETO LAWYERS.
  • Facilitar el uso de las funciones interactivas del sitio web, como la opción de comentar en las publicaciones del blog, en el marco de las normas de privacidad establecidas.

3. Derechos de los titulares de datos personales.
Sin perjuicio de los derechos reconocidos por la Ley 1581 de 2012, el Decreto 1377 de 2013 y de aquellos mencionados en la POLÍTICA DE TRATAMIENTO Y PROTECCIÓN DE DATOS PERSONALES DE LA COMPAÑÍA NIETO & NIETO LAWYERS S.A.S., los titulares de datos personales a los que acceda NIETO & NIETO LAWYERS S.A.S. tendrán, en particular, los siguientes:

  • Acceder en forma gratuita a los datos proporcionados que hayan sido objeto de tratamiento.
  • Conocer, actualizar y rectificar su información frente a datos parciales, inexactos, incompletos, desactualizados, fraccionados, que induzcan a error, desprestigio o a aquellos cuyo tratamiento esté prohibido o no haya sido autorizado.
  • Solicitar prueba de la autorización otorgada.
  • Presentar ante la Delegatura para la Protección de Datos Personales de la Superintendencia de Industria y Comercio (SIC) quejas por infracciones a lo dispuesto en la normatividad vigente.
  • Revocar en cualquier tiempo la autorización y/o solicitar la supresión del dato, siempre que no exista un deber legal o contractual que impida eliminarlos.
  • Abstenerse de responder las preguntas sobre datos sensibles. NIETO & NIETO LAWYERS S.A.S informa que tendrá carácter facultativo las respuestas que versen sobre menores de edad y datos sensibles como aquellos relacionados con el origen racial o étnico, género, orientación sexual o política, convicciones religiosas, pertenencia a sindicatos, asociaciones u organizaciones sociales autorizadas por la Ley, entre otros.

4. Uso de cookies y otras tecnologías de seguimiento.
NIETO & NIETO LAWYERS S.A.S. informa a los usuarios que, al visitar su página web, se recolectará información a través de cookies y otras tecnologías de seguimiento. Estas se utilizan para mejorar la experiencia de navegación, analizar el comportamiento de los usuarios en el sitio web, y facilitar la interacción en la plataforma, como la funcionalidad de comentar en el blog.

Los usuarios tendrán la posibilidad de configurar su navegador para rechazar o aceptar cookies, así como la opción de eliminar cookies previamente almacenadas. En todo momento podrán gestionar las preferencias de cookies, permitiéndoles elegir cuáles permiten y cuáles no, a fin de asegurar un manejo transparente y controlado de la información.