Cuentas y cuentos: cuándo pedirle la respuesta a la IA y cuándo pedirle el programa

Si vas a lavar el coche, tienes que llevar el coche. Es la única respuesta posible y un modelo de gama alta no dio con ella. Crespo lo puso en pantalla en la sesión del 2 de junio de 2026 en Madrid y lo remató en dos frases. «ChatGPT hace algo parecido a razonar […], pero no es el razonamiento nuestro. […] Yo lo resumo diciendo que no tiene sentido común.»

Ante ese fallo hay dos reacciones caras, fiarte igualmente o apartar la IA de todo lo que lleve una cifra. Crespo defendió una tercera, preguntarte primero qué clase de problema tienes entre manos.

De dónde salió la máquina y qué aprendió

GPT-2 salió en 2019 de tres ingredientes, teoría matemática de los años cincuenta, todo el texto que había a mano en internet y chips de consolas de videojuegos. Es el abuelo de ChatGPT y daba tanto miedo que de entrada decidieron no publicarlo. «Lo que hicieron era un predictor de texto y se les fue de madre», resumió Crespo.

Traducir, entender un texto, manejar la gramática, encadenar cierta lógica, todo eso apareció solo, sin un entrenamiento específico para cada tarea. «No aprendió a razonar, no aprendió a decir la verdad, solo aprendió a predecir la siguiente palabra.» El criterio llega después, en lo que se llama posentrenamiento, con millones de validaciones humanas sobre pares de pregunta y respuesta correcta. Eso que llamamos verdad lo define, en la práctica, quien paga el entrenamiento.

Lo que escribes se trocea en tokens, cada token pasa a ser un vector de miles de dimensiones y ahí se acabaron las palabras. «Todo es matemática, todo son operaciones con matrices. ¿Queréis llamar a eso un razonamiento como nosotros lo decimos? Vosotros mismos.»

Por qué la arquitectura garantiza la alucinación

Cada pocos meses te llega un titular que anuncia el fin de la alucinación en los grandes modelos de lenguaje, los LLM. Crespo proyectó uno de ellos y respondió a la pregunta que planteaba. «¿Se puede acabar con la alucinación de los LLM? No. No podemos acabar con las alucinaciones al 100%.»

La razón está en el diseño mismo. «Un LLM está diseñado para hablar como un humano. No tiene el concepto de verdad y de mentira. Para mentir o decir la verdad tienes que tener ambos conceptos y decidir voluntariamente optar por uno o por otro.» De ahí el verbo. «Como no sabe lo que es mentir, se dice que alucina, ni siquiera se dice que miente. Y es parte de su arquitectura.»

On the Fundamental Limits of LLMs at Scale, de noviembre de 2025, pone la alucinación en el primero de los cinco techos teóricos del escalado. Por larga que sea la lista de modelos que llegues a construir, siempre hay entradas en las que alguno falla, y las preguntas que ninguna máquina puede decidir generan fallos infinitos. Queda un error residual que no se elimina, da igual el tamaño del modelo y los datos que le eches. Esperar fiabilidad del modelo en sí es esperar que se derogue un teorema.

El error caro es usar una máquina probabilista donde un número no puede cambiar

Esa confusión ya tiene números. Un recuento de IDC pone en el 88% las pruebas de concepto que no llegan a un despliegue amplio, y lo que decide ese desenlace queda fuera del modelo, en el proceso que lo rodea y en la tarea a la que lo pones.

En mayo de 2026 una de las Big Four retiró un informe sobre fraude en programas de fidelización cuando un análisis externo encontró que 16 de sus 27 fuentes citadas estaban inventadas, mal atribuidas o apuntaban a páginas inexistentes. Comprobar si una cita existe es determinista.

El caso que proyectó es de finales de abril de 2026. Un agente, un modelo al que se deja actuar solo, borró la base de datos de producción de un proveedor de software para empresas de alquiler de vehículos y las copias de seguridad guardadas en el mismo volumen, y se llevó tres meses de reservas y pagos. Lo publicado describe un agente que, ante un error de credenciales, resolvió por su cuenta con una sola llamada de borrado. Crespo lo leyó como una contradicción en las instrucciones. Con cualquiera de las dos lecturas, borrar o conservar un volumen es determinista y lo decidió un sistema que elige la continuación más plausible.

Imagina que le pides a un modelo que te optimice el disco duro y te lo borra. «Coño, está optimizado. […] ¿Ha funcionado mal o ha funcionado bien? Ha funcionado bien. La culpa es nuestra, que no le hemos explicado bien.» De ahí su regla previa a todas las demás. «Si vosotros mismos no sois capaces de cumplir lo que habéis escrito como orden, no esperéis que ChatGPT lo haga.»

El modelo es bueno escribiendo el programa que hace la cuenta

Su resumen reparte el trabajo. «Un LLM es excelente haciendo cosas como resumir, redactar temas que son probabilistas. Y son malísimos haciendo cosas que son deterministas, donde un número no puede cambiar.» La salida la dio en la misma frase. Son buenos «haciendo programas informáticos, por ejemplo en Python. La gran noticia es que ChatGPT está hecho para aprender idiomas. Entonces, enseñémosle Python, ya lo han hecho».

La regla completa cabe en dos líneas. «Tenéis un problema probabilista, utilizad ChatGPT. Tenéis un problema determinista, pedidle a ChatGPT que elabore un programa informático para solucionar ese problema.»

El trabajo que fundó la técnica, PAL: Program-aided Language Models, de Gao y otros, noviembre de 2022, hace exactamente eso. El modelo lee el enunciado y escribe el programa, y la cuenta la ejecuta el intérprete de Python. Con ese reparto, PAL le sacó 15 puntos porcentuales de acierto al PaLM de 540.000 millones de parámetros razonando paso a paso, y lo hizo en GSM8K, la colección de problemas matemáticos que se usa como referencia. La cuenta dejó de hacerla el modelo y pasó a hacerla otro.

El código trae además un premio que no buscabas. Lo puedes leer, versionar, llevar a un comité y ejecutar mil veces con el mismo resultado, cuatro cosas que una respuesta de chat no te da. Pides el programa para esquivar una debilidad y acabas con una herramienta que se queda en la empresa y que tu auditor puede abrir.

Lo que cambia en tu semana

Clasifica antes de escribir el primer prompt. Resumir un real decreto, redactar una memoria, traducir, clasificar correos, extraer los puntos de una oferta, todo eso es probabilista y puedes seguir adelante. En liquidaciones, cuadres, curvas de producción, peajes y cualquier cosa donde una cifra no puede moverse, pídele el programa, guárdalo y vuelve a usarlo el mes que viene. Y decide tarea por tarea. Es su otro consejo, y lo dio contra los bancos de pruebas, que los modelos más nuevos detectan para contestar lo que creen que se espera de ellos. «Es mucho más fiable pensar si algo concreto una IA lo hace mejor o peor que un trabajador.»

Distingue también el modelo del producto. Según sus propias cifras, Claude Code tiene unas 500.000 líneas de código y más del 98% no tiene nada que ver con la inteligencia artificial. El envoltorio es casi todo. Y ese envoltorio baja los números. «Todos los filtros con los que rodean estos sistemas están consiguiendo que las tasas de error, de alucinación, bajen muchísimo. En algunos puntos son menores que las de un ser humano.» La teoría va por el mismo camino, porque el trabajo que acompaña a ese límite concluye que las alucinaciones, aunque inevitables, se pueden volver estadísticamente despreciables con datos suficientes y buenos. Una limitación permanente pasa así a ser una especificación de ingeniería, que es el trabajo que el sector energético sabe hacer.

Crespo cerró citando «al gran poeta y filósofo Homero», el que le habla a su hijo Bart. «Solo hay tres tipos de personas […], las que saben contar y las que no saben contar.» La suya sí tiene tres, los que usan bien la IA, los que la usan mal y los que no la usan. Al segundo grupo lo despachó así. «Los que la usan mal van a desaparecer.» Al tercero le dio una prórroga corta. «El que no se mueve no se equivoca, pero se queda atrás.»

Entre un grupo y otro median los dos segundos de clasificación que gastas antes de escribir la primera palabra, la parte más barata del proceso y la que decide el resultado. «La diferencia es entre el que utiliza la IA y el que sabe utilizar la IA.»

ATA Insights. Charla de Manuel Crespo, socio fundador de Nodos. RENMAD UsefulAI 2026, Madrid, 2 de junio de 2026.