Brandon Hunter jugó cuatro temporadas en la NBA y murió en septiembre de 2023, a los 42 años.
MSN, el portal de Microsoft, distribuyó una nota sobre su muerte con este titular: «Brandon Hunter, inútil a los 42». El cuerpo del texto decía que había «jugado 67 videojuegos» en dos temporadas — una traducción automática de games que confundió partidos con videojuegos.
Se automatizó la distribución sin automatizar la verificación. El daño reputacional no se terceriza.
Qué pasó
El texto no lo escribió MSN desde cero: era una versión reprocesada de una nota de otro medio, pasada por un sistema automático que reformulaba el contenido. El resultado fue un obituario que insultaba al muerto y describía mal su carrera.
El contexto agrava la historia. En 2020, Microsoft había despedido a decenas de periodistas y editores que curaban el contenido de MSN, reemplazándolos por sistemas automáticos de selección y edición. Este obituario salió tres años después de esa decisión.
Microsoft retiró la nota y atribuyó el contenido a un socio proveedor.
Por qué pasó
El error técnico es casi didáctico: game significa partido y videojuego, y sin contexto deportivo el sistema eligió mal. Una persona con dos segundos de atención lo habría visto. No había ninguna persona.
Pero el error de fondo es otro, y es el que se repite en empresas de todos los tamaños: se automatizó la distribución sin automatizar la verificación.
Curar contenido tenía dos partes que nadie separó cuando se tomó la decisión: seleccionar qué se publica (fácil de automatizar) y notar cuándo algo está mal (que es criterio, no regla). Al eliminar a los editores se eliminaron las dos, pero solo se reemplazó la primera.
Y hay una segunda lección, sobre la cadena de suministro: Microsoft no escribió el texto, pero lo publicó bajo su marca. El daño reputacional no se terceriza.
Las cifras del caso, en una imagen.
Dónde te puede pasar a ti
Cualquier flujo donde tu marca distribuye contenido que no produjo del todo:
- Un feed de productos de un proveedor que se publica automáticamente en tu tienda, con descripciones traducidas por máquina.
- Resúmenes automáticos de noticias del sector que salen en tu newsletter.
- Contenido de una agencia que se publica sin pasar por nadie de tu equipo.
- Traducciones automáticas de tu propio material a otro idioma.
El caso de la traducción es el más traicionero, porque el error es invisible para quien no habla el idioma. Si tu sitio traduce automáticamente al inglés o al portugués y nadie de tu equipo lo lee, estás publicando a ciegas.
La pregunta operativa es simple: ¿alguien lee lo que sale con tu logo encima, antes de que salga? Si la respuesta es "el sistema lo revisa", la respuesta es no.
Cómo se evita
1. Un humano en el punto de publicación, no en el de generación. Puede ser una revisión de un minuto. Lo que importa es que exista alguien entre el sistema y el público.
2. Reglas duras para contenido sensible. Obituarios, salud, temas legales, tragedias: no se publican automáticamente. Nunca.
3. Detección de anomalías antes de publicar. Palabras improbables en el contexto, cifras fuera de rango, tono que no corresponde. Es barato y atrapa lo grotesco.
4. El proveedor responde por lo que entrega, en el contrato. Y aun así, revisas — porque el daño de marca es tuyo.
5. Muestreo diario de lo publicado. Diez piezas al azar. Si el sistema se degrada, lo notas en días, no en un titular.
Cómo lo hacemos en Catalizadora
En los sistemas de contenido que construimos, la publicación tiene un paso de aprobación explícito: el cliente ve qué se va a publicar antes de que salga. No es fricción innecesaria — es el único punto donde alguien con criterio puede decir «esto no».
Y en el bot, la regla equivalente: hay temas que no se responden solos. Lo sensible escala a una persona, siempre. Un sistema que responde absolutamente todo es un sistema que va a responder mal algo importante.
Esta serie de artículos, por ejemplo, se genera con IA y cada caso pasa por verificación contra su fuente antes de publicarse. Descartamos varios porque la cifra no aparecía donde debía. Eso es exactamente el paso que MSN eliminó.
Este es uno de los casos documentados en nuestra hemeroteca de fallas de IA. Todos con su fuente enlazada, y todos con la misma conclusión: el problema casi nunca es el modelo.