El algoritmo erigido en juez

Sin haber rendido la protesta de ley, un algoritmo sentenció a un hombre por el delito de robo en la provincia de Chubut, en Argentina. Un juez usó Inteligencia Artificial (IA) para resolver un caso y lo cacharon. Como cualquier estudiante que entrega un trabajo escolar sin revisarlo, en la sentencia podía leerse: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”. Un error que en una evaluación escolar implicaría reprobar la materia, en el caso del juez argentino significó que se revocara una condena, que tenga que reponerse un juicio y que le inicien un procedimiento disciplinario. Fue una frase de la conversación entre el juez y la máquina la que lo delató. El juez no releyó cuidadosamente los resultados generados; sin ese error, es posible que no se hubiese descubierto que había empleado la Inteligencia Artificial para conocer y resolver el caso. Un tribunal superior anuló la decisión del juez-máquina debido a que no se pudo conocer el prompt o instrucción que dio a la IA (además