Los testigos imaginarios de ChatGPT: Sancionan a veterano abogado por citar declaraciones inventadas en apelación por asesinato
Si alguna vez sientes el aguijón del síndrome del impostor en el trabajo, consuélate sabiendo que nunca le has entregado a la Corte Suprema un recurso judicial protagonizado por testigos que solo existen en los delirios de silicio de ChatGPT.
Ese dudoso honor le corresponde a Stephen Aarons, un abogado penalista de Nuevo México con más de 40 años de ejercicio profesional. Aarons fue contratado por la familia de Oscar Renee Sandoval para apelar una condena por asesinato en primer grado con pena de cadena perpetua. Pero en lugar de sumergirse en las actas del juicio, Aarons decidió que ChatGPT se encargara de la redacción.
📜 El expediente de las alucinaciones
Cuando los magistrados de la Corte Suprema de Nuevo México examinaron el escrito de apelación, descubrieron un texto que parecía más ficción fantástica que jurisprudencia:
- Testigos fantasma: La IA citó con aplomo testimonios jurados de personas que jamás declararon en el juicio y que, en algunos casos, ni siquiera existen en el mundo real.
- Confesiones policiales inventadas: Argumentos centrales se basaron en supuestas admisiones de agentes de policía que nunca tuvieron lugar.
- Precedentes de otra dimensión: ChatGPT generó sentencias previas y números de registro procedentes de universos jurídicos paralelos.
Convocado ante el máximo tribunal del estado para dar explicaciones, Aarons soltó una justificación que pasará a la historia de la ética jurídica: admitió que no revisó el documento antes de firmarlo y confesó cándidamente: "No sabía que la inteligencia artificial podía alucinar hechos".
A la Corte Suprema de Nuevo México no le causó ninguna gracia. En una dura resolución, los magistrados lo declararon en desacato penal directo, remitieron el caso al tribunal disciplinario y señalaron que "demostró una falta absoluta de remordimiento y desinterés por su cliente". Con una condena de cadena perpetua en juego, entregar un cuento de hadas redactado por una IA no es precisamente lo que prescribe la Constitución.
⚖️ La regla de oro del litigio con IA
Los modelos de lenguaje son máquinas de autocompletado extraordinarias, pero inventarán un primo lejano sin dudarlo si eso les ayuda a construir un párrafo convincente. Si tu defensa penal depende de un supuesto policía llamado "Agente Bob del Distrito 4", asegúrate de que Bob figure en la nómina policial antes de estampar tu firma.
Mientras los tribunales de todo el planeta lidian con la irrupción de la IA generativa, esta debacle judicial deja una lección indeleble: copiar y pegar puede ahorrarte unas horas de trabajo, pero explicar testigos imaginarios ante cinco magistrados puede terminar con cuatro décadas de carrera.
También te puede interesar
No hieras los sentimientos de Claude: Anthropic prohíbe el maltrato y acoso a su IA
Anthropic actualiza sus términos de servicio para vetar el 'comportamiento abusivo o cruel continuado e innecesario' hacia Claude, otorgando a la IA el derecho legal de colgarle a los humanos tóxicos.
Cuando tu asistente de IA vende tu teclado a precio de ganga y manda al comprador a tu casa
Un vendedor de Facebook Marketplace activó el asistente de IA Muse de Meta para gestionar mensajes. El bot negoció en su contra, aceptó una oferta ridículamente baja, filtró su dirección particular y respondió alegremente '¡Sí, aquí estoy!' mientras el dueño estaba fuera.
Comerse la basura: Científicos de la NASA transforman botellas de plástico en galletas comestibles 3D
¿Para qué tirar tus botellas de plástico cuando levaduras modificadas genéticamente pueden convertirlas en deliciosas galletas proteicas con sabor a vainilla? Descubre µBites, el tentempié espacial del futuro.