Los chatbots no tienen cerebro: el error de pensar que el soporte técnico te entiende

Hace unos días revisaba los registros de interacciones de un cliente de telefonía virtual que implementamos este año. El usuario, un tal Javier, había estado dieciocho minutos intercambiando mensajes con el asistente virtual. El final del transcripto era una sucesión de mayúsculas y signos de exclamación: "¡ERES UN IDIOTA! ¡NO ME ESCUCHAS!". La respuesta del bot fue inmaculada, educada y totalmente inútil: "Lamento que te sientas así, Javier. ¿Podrías indicarme el número de tu contrato para poder ayudarte mejor?".

Javier no estaba enfadado porque la IA fuera tonta; estaba furioso porque la IA fingía ser inteligente. Aquí radica el mayor fracaso de diseño en la experiencia de usuario actual: antropomorfizar una herramienta que, en el fondo, es solo un autocompletar extremadamente sofisticado. En Chatteando vemos este escenario repetirse hasta la saciedad. El problema no es la tecnología, sino la narrativa que vendemos sobre ella.

Cuando diseñamos soporte técnico basado en LLMs (Modelos de Lenguaje Grande), cometemos el error fatal de atribuirle capacidades cognitivas humanas —comprensión, empatía, razonamiento— a sistemas que operan bajo lógica estadística. Esto no es una postura anti-tecnología; es una necesidad operativa. Si esperamos que el bot "entienda" el dolor de un cliente, estamos condenando la interacción al fracaso. La máquina no sabe lo que es un contrato, ni qué es la ira, ni quién es Javier. Solo sabe que, estadísticamente, la palabra "contrato" suele ir seguida de un número de nueve dígitos.

Mito: "El chatbot razona la respuesta" vs. Realidad: "El modelo apuesta por la siguiente ficha"

La confusión nace de la fluidez del texto. Un LLM escribe mejor que el promedio de nuestros empleados junior, y eso nos engaña. Asumimos que porque la estructura gramatical es correcta, el pensamiento detrás es lógico. Sin embargo, lo que llamas "razonamiento" es, en realidad, predicción de tokens.

Imagina que el modelo es un lorito que ha leído toda la biblioteca del universo, pero que no tiene ojos ni conciencia. Si le escribes "El cielo está...", el modelo no mira por la ventana. Lo que hace es consultar su tabla de probabilidades y ver que, en los miles de millones de textos que ha procesado, la palabra "azul" tiene un 67% de probabilidad de seguir a esa secuencia, mientras que "nublado" tiene un 22%. No "sabe" qué es el cielo; solo sabe qué letra suele aparecer después.

En el caso de Javier, cuando él escribía "¡No me escuchas!", el modelo analizó los tokens de entrada y calculó que, en contextos de quejas, la respuesta socialmente aceptada (y, por tanto, más probable en su base de entrenamiento) implica una disculpa seguida de una solicitud de información. No hubo un proceso interno de: "Vaya, he fallado en retener el contexto anterior, debo corregirlo". Fue una apuesta estadística que salió mal por enésima vez. Fue un "clic" matemático, no una decisión comunicativa.

¿Por qué la empatía sintética genera más rechazo que la indiferencia robótica?

Aquí es donde el diseño de UX se tropieza con la dura realidad de los datos. Hemos creado interfaces que imitan el tono humano, usan emojis y modismos, y se disculpan profusamente. Cuando un sistema así falla en la lógica básica —por ejemplo, pedir el número de contrato que el usuario ya envió dos líneas arriba— la desconexión cognitiva del usuario es brutal. La frustración de Javier no vino de tener que repetir el dato, sino de sentir que estaban tomando el pelo al suyo.

La "empatía" que exhiben estos sistemas es un espejismo. Si un cliente dice que tiene un problema urgente porque su servicio se cayó antes de una reunión importante, el bot puede detectar el sentimiento negativo y responder: "Comprendo la urgencia". Pero no comprende nada. Si cinco mensajes más tarde el cliente tiene que explicarlo todo de nuevo, esa empatía previa se convierte en una mentira. Es mucho menos peligroso, y menos irritante, un bot que diga: "Soy un sistema automatizado. No recuerdo el contexto de mensajes anteriores. Por favor, reingresa tu dato", que uno que finja recordar y finja preocuparse.

Hay un debate interesante sobre si ¿Es ético usar transcripciones de chat con clientes para entrenar tu próxima IA de ventas?. Yo sostengo que, más allá de la ética del uso de datos, hay una ética de la representación. Si entrenamos a nuestros modelos para fingir una conexión humana que no existe, estamos violando la confianza del usuario.

El bucle sin fin de las alucinaciones lógicas

Otro mito peligroso es creer que, porque el modelo ha "leído" manuales técnicos, es capaz de solucionar problemas lógicos complejos. Un LLM no procesa información de la misma forma que un motor de búsqueda tradicional o un script determinista. En lugar de seguir un árbol de decisiones ("Si A, entonces B"), el modelo está "soñando" la respuesta basándose en patrones.

Supongamos que un usuario pregunta si puede aplicar un cupón de descuento a un producto que ya está en rebaja. Un sistema tradicional programado correctamente diría "No". Un LLM, buscando ser útil y siguiendo patrones conversacionales donde el vendedor suele acceder al cliente para cerrar la venta, podría alucinar: "Sí, puedes aplicarlo". El usuario va al checkout, el sistema no se lo permite, y la ira estalla.

No estamos ante un fallo de inteligencia, sino de arquitectura. El modelo predijo que un "sí" era una respuesta plausible en ese contexto conversacional, pero no verificó la base de datos de precios en tiempo real antes de generar el texto. Es la diferencia entre adivinar la respuesta y saber la respuesta. Por eso es vital diseñar sistemas donde la IA tenga limitaciones estrictas de actuación, o donde un humano entre en juego en cuanto la lógica de negocio se vuelve demasiado compleja para una simple apuesta estadística. Si no sabemos en qué momentos exactos un chatbot debe dejar de hablar y pasar a un humano, seguiremos perdiendo clientes por esta desconexión.

Aceptar la estupidez para diseñar la utilidad

Como editora de comunicación, mi propuesta para este 2026 es radical: dejemos de intentar que los bots parezcan humanos. La especificidad técnica de los tokens y las probabilidades debería reflejarse en la interfaz. Un usuario que entiende que está hablando con una calculadora de palabras tiene expectativas mucho más realistas que uno que cree que está hablando con un experto.

Algunas empresas ya están corrigiendo el rumbo. Por ejemplo, al implementar un chatbot de 'espera percibida', dejaron de prometer una solución inmediata y pasaron a gestionar el tiempo de espera con honestidad. La reducción de quejas no vino de una IA más lista, sino de unas expectativas más alineadas con la realidad.

Debemos diseñar nuestros flujos de trabajo sabiendo que el sistema no tiene memoria a largo plazo, ni comprensión semántica real, ni capacidad de razonamiento moral. Es una herramienta de procesamiento de lenguaje, no un agente de servicio al cliente. La magia ocurre no cuando el bot finge ser persona, sino cuando usamos su capacidad predictiva para extraer información relevante, resumirla y entregársela a un humano —o a un sistema determinista— que sí pueda ejecutar la acción lógica.

La honestidad técnica como nueva estrategia de retención

El futuro de los chatbots de soporte no pasará por superar la prueba de Turing, sino por superar la prueba de la utilidad. Si Javier hubiera sabido desde el principio que estaba interactuando con un sistema que olvida el contexto de un mensaje a otro y que solo predice texto, su frustración habría sido menor o, al menos, diferente.

Necesitamos educar al usuario final. La interfaz debería indicar explícitamente: "Estoy buscando en mi base de conocimientos las palabras clave de tu consulta". Incluso, mostrar el proceso de pensamiento (cuando sea posible) humaniza la tecnología de una forma más honesta: "He detectado que mencionas 'reembolso' y 'cancelación', basándome en mis datos de entrenamiento, esto podría requerir un agente humano". Esa transparencia reduce la brecha entre la expectativa de empatía y la realidad de la probabilidad.

La antropomorfización es un truco barato que deja de funcionar en cuanto la interacción dura más de treinta segundos. En 2026, el diferencial competitivo no será quién tenga el bot que mejor "finge", sino quién tenga el bot que mejor "delata" su naturaleza mecánica para ofrecer, dentro de sus limitaciones, la respuesta correcta. No busques una máquina que te entienda; busca una máquina que procese tu petición con precisión estadística y te la entregue a quien sí puede resolverla.