Qué pasó
El caso se llama Shahid v. Esaam y es un divorcio. Lo que lo volvió noticia no fue el fondo del asunto, sino el recorrido de un error hasta la firma de un juez.
La sentencia de primera instancia citaba casos que no existen. Nadie los comprobó antes de firmarla. Cuando la parte afectada apeló, el escrito presentado para defender esa sentencia llegó con 11 citas falsas sobre un total de 15. La Corte de Apelaciones de Georgia anuló la sentencia, devolvió el caso y multó a la abogada con 2.500 dólares, según la cobertura de The Register.
Vale la pena leer esa proporción despacio: 11 de 15. No fue una cita mal copiada en un escrito de cuarenta páginas. Fue la mayoría del sustento legal del documento.
Por qué pasó
Un modelo de lenguaje genera texto que cumple con la forma de una cita judicial: un nombre de partes, un tomo, un número de página, un año. La forma es correcta. La existencia es otra cosa, y no es algo que el modelo verifique, porque no es lo que se le pidió. Pedirle a un generador de texto que garantice la existencia de lo que nombra es usar una herramienta fuera de su función.
Eso, por sí solo, no produce el caso de Georgia. Lo que lo produce es la cadena. En un expediente judicial hay varios puntos donde una cita debería contrastarse contra la fuente: quien redacta, quien revisa del otro lado, quien firma. En este expediente el error pasó por todos. Cada eslabón asumió que el anterior había comprobado, y esa suposición se hereda hacia arriba sin dejar rastro: cuando el error llega a la firma judicial, ya no parece un borrador, parece derecho vigente.
El detalle que hace al caso instructivo es que la verificación era barata. Comprobar una cita es abrir la base oficial y buscar el número. Toma segundos por cita. Quince citas son unos minutos de trabajo. El costo de no hacerlo fue una sentencia anulada, un caso devuelto a primera instancia, una multa y un expediente público con el nombre de la abogada dentro.
Dónde te puede pasar a ti
El patrón no es jurídico, es de verificación. Aparece en cualquier documento donde el texto generado tenga apariencia de referencia comprobable:
- Una propuesta comercial con cifras de mercado y una fuente que nadie abrió.
- Un informe interno con normas o artículos citados por número, sin contrastar contra el diario oficial.
- Una ficha de producto con especificaciones técnicas redactadas a partir de un modelo y aprobadas porque "se ven bien".
- Un contrato armado sobre una plantilla generada, revisado en la forma y no en las referencias que invoca.
El riesgo no crece con la complejidad del texto. Crece con la cantidad de personas que lo aprueban confiando en que otro ya lo revisó.
Cómo se evita
- La cita se comprueba contra la fuente primaria, siempre. No contra otra búsqueda ni contra el mismo modelo preguntado dos veces. Contra la base oficial, abierta y leída.
- Quien firma verifica. La firma es el punto donde el documento se vuelve vinculante y donde la revisión deja de ser delegable. Si el firmante no comprobó, nadie comprobó.
- La verificación deja rastro. Una casilla marcada por cita, con fecha y responsable. Sin registro, es imposible saber después en qué eslabón se rompió.
- La herramienta resuelve, el humano confirma. Un buscador que devuelve el enlace real de cada referencia convierte la comprobación en un clic. Lo que se automatiza es la búsqueda, no el juicio.
- Ninguna aprobación se hereda. "Ya lo revisó el equipo legal" no es una verificación: es una suposición con buena reputación.
Cómo lo hacemos en Catalizadora
En los sistemas que construimos, ningún dato citable sale del modelo sin su origen adjunto: cada afirmación con número o referencia lleva el enlace a la fuente que la respalda, y ese enlace se resuelve de forma automática antes de publicar. Si una referencia no resuelve, el contenido no avanza a revisión humana. La persona que aprueba ve la fuente al lado del texto, no en otra pestaña que puede quedar sin abrir.