Decisión histórica en el sistema judicial argentino
Un reciente fallo emitido por la Cámara Penal de Esquel, en Chubut, marca un hito significativo: se anula por primera vez en la Argentina una condena penal debido al uso indebido de inteligencia artificial en la redacción de la sentencia. Este fallo no solo pone en cuestión las prácticas judiciales, sino que reafirma la necesidad de proteger los principios fundamentales del Estado de Derecho.
Detalles del caso
La controversia se origina cuando un juez penal decide utilizar ChatGPT para redactar los fundamentos de una condena que imponía dos años y medio de prisión. Un error revelador apareció en el texto: una instrucción interna que decía: «Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar». Esta línea fue crucial para desatar una serie de cuestionamientos sobre la validez del fallo.
El impacto de la decisión judicial
Esta situación plantea interrogantes acerca de quién debe tomar las decisiones en un proceso penal. El juez que emitió la condena no utilizó la IA para tareas administrativas, sino que le solicitó que determinara si la defensa del acusado tenía mérito al cuestionar pruebas clave, como videos de cámaras de seguridad y una pericia comparativa. En esencia, delegó en una máquina la responsabilidad de evaluar los argumentos de la defensa.
La Cámara de Esquel subrayó que esta acción infringe el principio de juez natural, el debido proceso y los estándares de fundamentación exigidos en un contexto constitucional. La jueza Carina Paola Estefanía y sus colegas, Martín Zacchino y Hernán Dal Verme, fueron claros al respecto.
Normativas y estándares éticos en juego
En 2025, el Superior Tribunal de Justicia de Chubut estableció el Acuerdo Plenario N° 5435, que articula directrices para el uso ético y responsable de IA en el Poder Judicial. Este protocolo subraya la importancia de:
- Control humano efectivo: La IA debe servir como herramienta de asistencia, nunca como sustituta de la decisión judicial.
- Transparencia: Es fundamental declarar qué IA se ha utilizado y bajo qué condiciones, algo que en este caso no se cumplió.
- Confidencialidad: Se prohíbe el uso de información sensible sin la debida anonimización, algo que el juez ignoró.
- Prohibición de delegar decisiones: La IA puede redactar pero no puede tomar decisiones sustantivas.
La Cámara determinó que se vulneraron todos estos principios, lo que llevó a la anulación de la sentencia y al ordenamiento de un nuevo juicio bajo otro magistrado.
Repercusiones a nivel nacional
Este fallo sienta un precedente importante en todo el país, exigiendo a los profesionales del derecho que reconsideren el uso de la IA en su práctica diaria. La sentencia también enfatiza que la responsabilidad de juzgar no puede ser delegada a máquinas ni a personal auxiliar.
Reflexiones sobre el futuro del Derecho y la IA
La situación pone de manifiesto los riesgos inherentes en el uso de IA generativa, que puede producir información incorrecta. Este caso subraya la necesidad de un debate nacional acerca de la regulación de la IA en el sistema judicial.
Finalmente, la justicia no solo debe buscar eficiencia, sino que debe mantener su legitimidad a través de la intervención humana en cada decisión. La importancia de la responsabilidad y la capacitación en el uso de la tecnología es imperativa para resguardar la esencia del sistema judicial.