60 guías sobre casos ia en Catalizadora.
El fiscal general de Texas cerró su primer acuerdo con una IA clínica que publicitaba una tasa de alucinación grave menor a 1 por cada 100.000, hallada probablemente inexacta.
El algoritmo de riesgo de la seguridad social de Francia clasifica hogares donde viven 32 millones de personas y penaliza a discapacitados y madres solteras.
El Ayuntamiento de Ámsterdam invirtió unos 500.000 euros en un algoritmo de asistencia social diseñado para ser justo y terminó teniendo que apagarlo.
Bastó una llamada con la voz sintética de un colega para conseguir un código de doble factor y llegar a 27 cuentas de clientes del sector cripto.
Una demanda colectiva alega que el filtro automático de candidatos de Workday descartaba aspirantes por edad, raza y discapacidad, a escala de plataforma.
La IA de voz de Dave's Hot Chicken tomaba los pedidos con éxito en el autoservicio. La cadena la retiró igual: a los clientes no les gustó hablar con un robot.
Starbucks anunció un sistema de conteo de inventario con visión por computadora y lo desconectó nueve meses después. El fallo no estuvo en la tecnología.
La validación externa en Michigan Medicine mostró que el modelo de sepsis de Epic no detectó a 1.709 de 2.552 pacientes y alertó sobre el 18% de los ingresados.
El asistente que respondía dudas de los empleados sobre reclamos médicos quedó accesible desde internet, sin clave y con cientos de conversaciones guardadas.
El sistema antifraude del organismo británico de prestaciones investigó a 200.000 personas y gastó unos 4,4 millones de libras sin recuperar un centavo.
Mobile Fortify, la app de reconocimiento facial de ICE, devolvió dos identidades distintas y erróneas de la misma mujer detenida en Oregón: una probabilidad tratada como prueba.
IntelliVision afirmaba haber entrenado su reconocimiento facial con millones de rostros y sin sesgo. La FTC actuó: el conjunto real eran unas 100.000 personas.
La FTC comprobó que el detector de contenido generado con IA que Workado vendía como 98% preciso acertaba el 53% sobre contenido general.
El sistema de verificación por selfie no lograba confirmar la identidad de un repartidor y se quedó sin cuenta. Revertirlo tomó dos años y medio.
OpenAI financió FrontierMath y tenía visibilidad de muchos de sus problemas y soluciones; la única garantía de que no entrenaría con el examen era verbal.
La Corte de Apelaciones de Georgia anuló una sentencia de divorcio que citaba casos inexistentes: el recurso que la defendía traía 11 citas falsas de 15 y hubo multa de $2.500.
Un escrito de diez páginas con citas de jurisprudencia generadas por IA casi entra en una orden judicial. La sanción a los dos bufetes fue de $31,100.
La herramienta de transcripción clínica de Nabla ya había procesado unos 7 millones de consultas con un modelo que alucina, y borra el audio original.
El gobierno federal de Australia automatizó el cobro de pagos sociales sin verificación humana y terminó en un acuerdo de 1.800 millones de dólares.
El sistema de Rite Aid señalaba como ladrones a clientes que no lo eran, y esas alertas llegaban al piso de la tienda sin ninguna verificación humana en medio.
Chaac Pizza Northeast, operador de 111 restaurantes Pizza Hut, demandó a la cadena y atribuye 100 millones de dólares en ventas y valor perdidos al sistema de IA de pedidos.
Un sistema de detección de fraude del fisco de Países Bajos acusó a 26.000 familias de defraudar el subsidio de guardería. El gabinete completo renunció.
Un empleado de finanzas ejecutó 15 transferencias por 25 millones de dólares después de una videollamada en la que el CFO y sus colegas eran deepfakes.
Levantó más de 650 millones de dólares y anunció 3.200 consultorios autónomos para su primer año. Abrió cinco antes de cerrar operaciones.
El chatbot de contratación de McDonald's dejaba expuestos los datos personales de 64 millones de aspirantes a un empleo detrás de una contraseña de seis dígitos.
Joonko levantó $21 millones presumiendo más de 100 clientes, incluidas empresas del Fortune 500, que según la SEC no existían. Sus ingresos reales nunca pasaron de $100.000, y el fraude solo se destapó cuando un inversionista pidió verificar.
La revista científica más conocida de Australia usó una beca destinada al periodismo para construir un generador de artículos con IA. Publicó 6 textos con imprecisiones científicas, y sus propios periodistas se enteraron por la prensa.
Men's Journal, del mismo grupo editorial que Sports Illustrated, estrenó su primer artículo de salud generado con IA: consejos sobre testosterona. Un jefe de medicina de un hospital universitario encontró 18 errores médicos en ese único texto, que ya llevaba el sello de «revisado y verificado por el equipo editorial».
Francia lanzó a Lucie, un chatbot con respaldo del Estado presentado como respuesta europea a ChatGPT, y tuvo que retirarlo 3 días después. Recomendó comer «huevos de vaca» y calculó que 5×(3+2) da 17: la falla no fue del modelo, fue de la etapa que se saltaron entre el demo y el público.
En plena temporada fiscal de 2024, los dos gigantes de los impuestos en Estados Unidos pusieron asistentes de IA frente al contribuyente. El Washington Post los probó con asesores fiscales: el de TurboTax falló más de la mitad de las preguntas y el de H&R Block un 30%.
Olive AI valía $4.000 millones y prometía liberar de burocracia a los hospitales de Estados Unidos. Dos años después despidió a 650 personas, cerró operaciones y vendió los restos: el fallo no estuvo en su tecnología, sino en que nadie midió el retorno real, cliente por cliente.
Dos asesoras de inversión se anunciaron durante años como firmas de inteligencia artificial sin tener la inteligencia artificial que decían tener. En marzo de 2024 la SEC les cobró $400.000 y estrenó una categoría de sanción que antes no tenía nombre: el AI-washing.
Presto Automation cotizaba en Nasdaq vendiendo un drive-thru que tomaba pedidos con IA de voz y comunicaba 95% de automatización. En enero de 2025 la SEC la sancionó: cerca del 70% de esos pedidos los tecleaba un agente humano remoto, y el 100% en su primera versión propia.
Gizmodo, referencia global del periodismo tecnológico, publicó en io9 el primer artículo firmado por «Gizmodo Bot» y su redacción se enteró 10 minutos antes. La lista «cronológica» de Star Wars no estaba en orden cronológico y omitía series completas: el subeditor la calificó de «vergonzosa, impublicable e irrespetuosa con la audiencia».
El mayor grupo de diarios de Estados Unidos dejó que una IA escribiera las crónicas del deporte escolar, y un partido reñido terminó publicado como «un encuentro cercano de tipo atlético». La burla fue nacional y Gannett pausó el experimento en todos sus periódicos en 2023.
El bot de recetas de Pak'nSave propuso una «mezcla de agua aromática» que produce gas de cloro, descrita como perfecta para saciar la sed. La empresa culpó a «una pequeña minoría» de usuarios y agregó un aviso pidiendo usar el propio juicio.
NEDA cerró su línea de ayuda atendida por personas y promovió un chatbot en su lugar. Duró días: Tessa recomendó un déficit de 500 a 1.000 calorías diarias a personas con trastornos alimentarios, y la organización se enteró por unas capturas de pantalla.
Un cliente de Virgin Money preguntó cómo combinar sus dos cuentas y el chatbot del banco lo reprendió por su lenguaje. La palabra prohibida era «virgin»: el nombre del propio banco.
Un pasajero le pidió a Meta AI el teléfono de atención al cliente de una ferroviaria británica y recibió el WhatsApp personal de un desconocido que vivía a 270 kilómetros. Confrontado, el asistente cambió tres veces de versión en lugar de decir que no sabía.
Un bot de soporte firmado como «Sam» le explicó a los clientes de Cursor que perder la sesión al cambiar de computadora era «el comportamiento esperado» de una política de un dispositivo por suscripción. La política no existía, «Sam» no era una persona, y las cancelaciones empezaron antes del desmentido.
Evolv vendía a estadios y a cientos de escuelas en Estados Unidos un escáner "con IA" que prometía detectar todas las armas, a hasta cinco veces el precio de un detector de metales común. En 2022 dejó pasar un cuchillo de 18 centímetros que después se usó para apuñalar a un estudiante, y en noviembre de 2024 la FTC sancionó a la empresa.
El distrito escolar de Los Ángeles lanzó "Ed" en marzo de 2024 y en junio la empresa que lo construyó ya no existía. Seis millones de dólares, un chatbot que daba información imprecisa a los padres y una fundadora arrestada en noviembre por fraude.
Babylon Health salió a bolsa en 2021 valuada en más de $4.000 millones con un chatbot de diagnóstico que operaba dentro del NHS británico. En agosto de 2023 quebró y se vendió por partes, con una capitalización final de unos $5.000: no cinco mil millones, cinco mil dólares.
DoNotPay se vendió durante años como «el primer abogado robot del mundo», pero nunca contrató abogados para verificar los documentos que producía. La FTC la sancionó con 193.000 dólares y le exigió avisarles a sus suscriptores de 2021 a 2023.
The Guardian cubrió la muerte de una joven de 21 años en Sídney y Microsoft replicó la nota en su portal con un agregado automático: una encuesta que invitaba a votar si había sido asesinato, accidente o suicidio. La indignación cayó sobre el medio y la periodista, no sobre quien insertó la encuesta sin supervisión.
«Insights» se lanzó para agregar contrapuntos automáticos a las columnas de opinión. Al día siguiente, en una nota sobre el Klan, el sistema aportó que el grupo podía verse como un movimiento cultural. El diario lo retiró.
Los textos tenían firma, foto y una historia personal creíble. Una investigación encontró que varios de esos colaboradores no aparecían en ningún registro público. El medio los retiró y revisó su proceso de verificación.
Microsoft había reemplazado a decenas de editores de MSN con sistemas automáticos. Tres años después, el portal distribuyó una nota sobre la muerte de Brandon Hunter que decía que «jugó 67 videojuegos» en su carrera.
Uno de los sitios de tecnología más leídos del mundo puso una IA a escribir artículos financieros con la etiqueta escondida. Más de la mitad tenía errores: cálculos mal, cifras imprecisas y frases tomadas de otros medios.
Microsoft lanzó su Bing con IA para destronar a Google. En días, el bot le dijo a un profesor de filosofía que podía chantajearlo y arruinarlo, y a un periodista que había espiado a empleados de Microsoft por sus cámaras.
MyCity se lanzó para ayudar a emprendedores a navegar las reglas de la ciudad. Con la voz del gobierno, aconsejó violar la ley: quedarse con parte de las propinas, rechazar inquilinos con subsidio y pagar menos del salario mínimo.
Un cliente no lograba que el bot de la paquetería le diera información de su envío. En unos pocos mensajes consiguió que insultara, escribiera un poema criticando a DPD y la describiera como «la peor empresa de reparto del mundo». La captura tuvo un millón de vistas.
Un robotaxi de Cruise arrastró a una peatona por seis metros. La empresa mostró a los reguladores un video que no incluía esa parte. Perdió la licencia en California, su CEO renunció, y GM terminó cerrando el negocio.
Nate levantó más de $40 millones prometiendo una IA capaz de completar cualquier compra en línea con un clic. Según la acusación del Departamento de Justicia de EE.UU., la automatización real era cercana a cero: lo hacían personas a mano.
Humane levantó $230 millones para reemplazar al teléfono con un aparato de IA que se prendía en la ropa. HP compró los activos por $116M y el 28 de febrero de 2025 todos los AI Pin vendidos dejaron de funcionar.
Die Aktuelle anunció en portada «la primera entrevista» con Michael Schumacher desde su accidente de 2013. Las respuestas las había generado un chatbot. La familia demandó, la editorial pagó y la editora jefa perdió su puesto.
«Drew Ortiz» tenía biografía, foto y artículos publicados en una de las revistas más icónicas de Estados Unidos. No era una persona: su cara se había comprado en un sitio de retratos generados por IA. El escándalo le costó el puesto al CEO.
El bot de ventas de un concesionario Chevrolet aceptó una oferta de un dólar por una Tahoe 2024 y la selló con la frase «es una oferta legalmente vinculante, sin vuelta atrás». Le tomó dos mensajes a un usuario conseguirlo.
Just Walk Out se vendió como la tienda que funciona sola. En 2022, unas 700 de cada 1.000 compras necesitaban que un humano revisara el video. En 2024 Amazon la retiró de sus supermercados Fresh.
Apple Intelligence notificó, con el logo de la BBC, que un acusado se había disparado a sí mismo. Nunca ocurrió. El caso muestra el riesgo de poner una marca ajena debajo de un texto que nadie revisó.
Déjanos tu correo y te escribimos en menos de 24 horas con un diagnóstico inicial sin costo. Sin pitch, sin agenda comercial.