Anularon una condena en Argentina porque el fallo estaba redactado con ChatGPT
Un error en la redacción de un fallo judicial con asistencia de IA llevó a la anulación de un juicio contra un hombre acusado por robo simple.
La Cámara Penal de Esquel, Chubut, Argentina, detectó en la sentencia una frase propia de una respuesta generada por IA. El documento decía: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”. El fallo y juicio a un hombre acusado de robo simple fue anulado.
Los integrantes de la Cámara consideraron que el juez, Carlos Rogelio Richeri, no ejerció la supervisión humana adecuada y “accidentalmente” incluyó esta frase, lo que evidenció el uso de un asistente de inteligencia artificial (IA) generativa de los jueces.
El tribunal sostuvo que esta omisión impide verificar qué contenido corresponde al juez y cuál fue creado por la IA, lo que compromete las decisiones judiciales.
Señalaron: “el error demostró que el juez no ejerció correctamente la supervisión y el control humano obligatorio” y que la decisión fue “una respuesta meramente dogmática o inmotivada”. Por ello, se ordenó remitir el caso al Superior Tribunal de Justicia para investigar el alcance de las consecuencias provocadas. Declararon nula la sentencia y el juicio que la antecede.
+ INFO: ChatGPT incorporará control parental para proteger a menores
+ INFO: OpenAI habilitará contenido erótico en ChatGPT con verificación de edad
