Durante seis años, Just Walk Out fue la demostración más citada de lo que la IA podía hacer en el mundo físico: entras a una tienda, tomas lo que quieres, sales caminando, y el cobro ocurre solo. Sin cajas, sin filas, sin cajeros.
En abril de 2024, Amazon la retiró de sus supermercados Fresh en Estados Unidos y la reemplazó por carritos inteligentes, donde el cliente escanea sus propios productos.
«Sin cajero» describía la experiencia del cliente, no el mecanismo. El mecanismo eran mil personas.
Qué pasó
La tecnología existía y funcionaba: cámaras en el techo, sensores de peso en los estantes, visión por computadora siguiendo qué tomabas.
Lo que no estaba en el discurso público era cuánto trabajo humano hacía falta para sostenerla. Según reportó The Information, en 2022 alrededor de 700 de cada 1.000 compras requerían que una persona revisara el video para confirmar qué se había llevado el cliente. Ese trabajo lo hacía un equipo de más de mil personas en India.
Amazon disputó públicamente esa caracterización, sosteniendo que los revisores servían principalmente para entrenar el sistema y no para procesar cada compra. Pero el desenlace es un hecho: la compañía retiró Just Walk Out de sus tiendas Fresh y la conservó solo en formatos más chicos, como tiendas de estadios y aeropuertos, donde el catálogo es acotado.
Por qué pasó
No es un caso de tecnología que no funciona. Es un caso de economía que no cierra.
Un supermercado completo es el escenario más hostil posible para la visión por computadora: miles de productos parecidos, gente que toma algo y lo devuelve al estante equivocado, carritos que tapan la vista, niños, bolsas. Cada uno de esos casos raros genera una duda que el sistema no puede resolver solo — y cada duda cuesta una revisión humana.
Con un catálogo de 30 productos en un estadio, la tasa de dudas es baja y el modelo cierra. Con 30.000 productos en un supermercado, no.
El error no fue construirlo. Fue no medir públicamente la tasa de intervención humana mientras se lo vendía como autónomo. Ese número era el que decidía si el negocio funcionaba, y era el único que no estaba en ninguna presentación.
Las cifras del caso, en una imagen.
Dónde te puede pasar a ti
Esta es probablemente la falla más común en las empresas medianas que compran IA, y casi nunca se nombra:
- El bot que "atiende el 80% de las consultas" — pero alguien de tu equipo revisa y corrige la mitad de esas respuestas antes de que salgan, y ese tiempo no lo cuenta nadie.
- La automatización de facturas que procesa todo automáticamente, salvo las que tienen algo raro. Que son el 40%.
- El sistema de agendamiento que funciona solo, excepto cuando el cliente pide cambiar la fecha, que es siempre.
En los tres casos el proveedor te muestra el porcentaje de casos procesados. Ninguno te muestra cuántas horas de tu gente siguen adentro del proceso. Y esa es la única cifra que dice si ahorraste algo.
Cómo se evita
1. Exigí la tasa de intervención humana, no la de procesamiento. "Procesa el 95% de los mensajes" no significa nada. "El 12% requiere que una persona intervenga" sí. Si el proveedor no tiene ese número, es porque no lo mide.
2. Medí antes y después, con la misma vara. Cuántas horas-persona costaba el proceso antes, cuántas cuesta ahora. Si nadie tomó la medida inicial, no hay forma de saber si mejoró.
3. Empieza donde el caso raro es raro de verdad. Un flujo acotado y repetitivo automatiza bien. Uno con mil variantes necesita un humano en el circuito — y está bien, siempre que lo sepas antes de comprar.
4. Pon el número a la vista. Un tablero donde se ve la tasa de intervención semana a semana convierte una discusión de opiniones en una de datos.
Cómo lo hacemos en Catalizadora
Cuando entregamos un sistema de atención, el cliente recibe también la medición de cuánto está atendiendo solo y cuánto escala a una persona. Está en Faro, el panel de operación, y se mira en vivo: conversaciones atendidas, cuántas se resolvieron sin intervención, cuántas escalaron y por qué.
No es transparencia por virtud. Es que sin ese número nosotros tampoco sabríamos si el sistema está funcionando, y a los seis meses la conversación con el cliente sería una discusión de sensaciones.
También por eso el método MAGIA entrega fase por fase con verificación: cada entrega tiene que mostrar evidencia de que hace lo que dice. Un sistema que se declara terminado sin medición es un sistema que nadie puede defender cuando algo falla.
Este es uno de los casos documentados en nuestra hemeroteca de fallas de IA. Todos con su fuente enlazada, y todos con la misma conclusión: el problema casi nunca es el modelo.