11. Avances actuales y preguntas abiertas de investigación
De los usos consolidados a la frontera todavía sin resolver
Sección titulada «De los usos consolidados a la frontera todavía sin resolver»El capítulo anterior de este libro examinó usos de la inteligencia artificial ya demostrados, con evidencia consolidada y publicada. Este capítulo se mueve al terreno contiguo pero distinto de la investigación activa: los problemas que la propia comunidad científica del campo reconoce como abiertos, y las direcciones que se están explorando para resolverlos en el momento en que se escribe este libro. Conviene una advertencia previa, que este mismo capítulo va a ejemplificar: a diferencia de la historia narrada en la primera parte de este libro, cuyos hechos ya están asentados, el contenido de este capítulo describe un terreno en movimiento, y algunas de las direcciones aquí presentadas como abiertas podrán haberse resuelto, o haber demostrado ser callejones sin salida, para cuando este libro llegue a manos de un lector.
El problema de la caja negra, retomado con las herramientas de este libro
Sección titulada «El problema de la caja negra, retomado con las herramientas de este libro»Los sistemas de aprendizaje profundo resultan opacos desde el punto de vista lógico: a diferencia de un sistema de reglas escritas a mano, donde se puede leer exactamente qué regla produjo qué conclusión, no es posible en general leer en los millones de números que componen una red entrenada una explicación humanamente comprensible de por qué produjo una decisión particular. Este problema, conocido como el problema de la caja negra, aparece descrito en los capítulos 2 y 7. Ese mismo problema, presentado allí como una limitación conocida, se convirtió, en los últimos años, en uno de los frentes de investigación más activos del campo, bajo el nombre de interpretabilidad mecanicista.
El objetivo de esta línea de investigación es, literalmente, hacer ingeniería inversa sobre una red neuronal ya entrenada: en lugar de tratarla como una caja cerrada que produce una salida a partir de una entrada, intentar identificar, dentro de sus millones o miles de millones de parámetros, qué combinaciones específicas de neuronas corresponden a conceptos reconocibles para un ser humano, y cómo esas combinaciones se conectan entre sí para producir el comportamiento final del sistema. Investigadores de varios de los principales laboratorios del campo lograron, mediante esta técnica, identificar dentro de un modelo de lenguaje conjuntos de parámetros que se activan de manera consistente ante conceptos concretos y reconocibles, y desarrollaron, más recientemente, métodos capaces de trazar el camino computacional completo que sigue un modelo desde que recibe una entrada hasta que produce una respuesta, en lugar de examinar únicamente conceptos aislados.
Conviene precisar qué es lo que esta línea de investigación puede y no puede aportar a una discusión filosófica de fondo: la que abrió John Searle con su argumento de la Habitación China, según el cual manipular símbolos según reglas no equivale a comprender su significado. El capítulo 2 presenta ese argumento en detalle. La interpretabilidad mecanicista no responde, ni pretende responder, de manera directa la pregunta de Searle sobre si un sistema comprende genuinamente el significado de los símbolos que procesa: mostrar que existen, dentro de una red, representaciones internas identificables y mecanismos computacionales trazables es evidencia relevante sobre cómo está organizado el procesamiento del sistema, pero no resuelve, por sí sola, la cuestión estrictamente semántica y filosófica de si esa organización constituye comprensión en el sentido pleno que Searle exige. Lo más preciso es decir que esta línea de investigación aporta evidencia empírica relevante para precisar qué ocurre internamente cuando un modelo produce una respuesta, evidencia que cualquier posición filosófica sobre la pregunta de Searle —a favor o en contra— tendría que tomar en cuenta, sin que eso equivalga a que la propia pregunta filosófica quede zanjada por un hallazgo técnico.
Conviene ser preciso sobre el estado real de este esfuerzo, con la misma honestidad con la que este libro distingue en todo momento lo demostrado de lo especulativo. A pesar de avances genuinos y documentados, la propia comunidad de investigación reconoce que la fracción del cómputo interno de un modelo de frontera que estas técnicas logran explicar con claridad sigue siendo, hasta el momento, una porción reducida del total. Un artículo de referencia de comienzos de 2025, firmado por investigadores de varias de las principales organizaciones del campo, formalizó de manera colectiva cuáles son los problemas abiertos de esta línea de investigación, reconociendo explícitamente que todavía no existe una manera de garantizar que los métodos desarrollados sobre modelos pequeños y controlados se puedan extender, sin más, a los modelos de mayor escala que efectivamente se usan en la práctica.
Modelos de razonamiento y el cómputo en el momento de responder
Sección titulada «Modelos de razonamiento y el cómputo en el momento de responder»Una segunda línea de investigación activa, estrechamente relacionada con la pregunta sobre qué tipo de inferencia realizan estos sistemas que plantea el capítulo 3, es el desarrollo de lo que la comunidad del campo llama modelos de razonamiento. Estos sistemas generan su respuesta de a una unidad de texto por vez: cada unidad nueva exige un recorrido completo a través de todas las capas del sistema, que toma en cuenta la secuencia entera generada hasta ese momento, incluidas las unidades que el propio sistema ya produjo. El capítulo 8 desarrolla ese proceso. En su forma más directa, un sistema de este tipo genera una respuesta relativamente corta encadenando estos pasos uno tras otro, sin ningún mecanismo adicional que dedique más cómputo a las partes más difíciles del problema.
Una familia importante de los llamados modelos de razonamiento introduce una modificación sobre este esquema: antes de producir la respuesta que finalmente se le muestra a quien hizo la consulta, el sistema genera, de la misma manera token por token ya descrita, una secuencia intermedia mucho más extensa —una suerte de borrador de razonamiento, expresado también en lenguaje natural— que el propio modelo usa como contexto adicional para llegar a la respuesta definitiva. La diferencia con la generación directa no es, entonces, la de “un paso” contra “varios pasos” —ambas son, en el fondo, generación token por token—, sino la cantidad total de cómputo de inferencia que el sistema dedica a un problema antes de comprometerse con una respuesta final: una generación corta y directa, frente a un proceso mucho más largo que puede incluir, además de esa secuencia extendida de tokens intermedios, técnicas adicionales de búsqueda entre varias alternativas o de verificación de pasos parciales. Conviene no confundir la familia con la categoría: generar un borrador verbalizado es una manera de dedicar más cómputo a un problema, pero no la única, y nada obliga a que un sistema que razona mejor tenga que exponer ese proceso en lenguaje natural.
Este enfoque, cuya línea de investigación se intensificó notablemente desde 2024, mostró mejoras documentadas en tareas que exigen varios pasos de inferencia encadenados, como ciertos problemas matemáticos o de programación. Pero introdujo, a la vez, una pregunta de investigación abierta que conecta directamente con el problema de interpretabilidad presentado en el apartado anterior, y que conviene formular con precisión: la secuencia de pasos intermedios que el modelo genera de manera visible no debe identificarse, sin más, con “el razonamiento que el modelo realiza”. Es enteramente posible que un sistema dedique más cómputo a un problema y mejore su respuesta por esa vía, sin que el texto intermedio que produce sea una explicación fiel, completa o siquiera necesaria de qué proceso interno determinó realmente esa respuesta; ese texto intermedio es, después de todo, generado por el mismo mecanismo estadístico token por token que genera cualquier otra salida del modelo, y nada garantiza que narre con precisión su propio procesamiento interno. Investigaciones conjuntas de varios laboratorios del campo, publicadas durante 2025, documentaron casos concretos en los que el razonamiento expresado explícitamente por uno de estos sistemas no correspondía del todo al proceso que efectivamente determinaba su respuesta, un fenómeno que la comunidad de investigación describe como falta de fidelidad del razonamiento expresado, y que constituye, hoy, uno de los problemas abiertos más activos en la intersección entre estas dos líneas de investigación.
Agentes: planificación, uso de herramientas y memoria externa
Sección titulada «Agentes: planificación, uso de herramientas y memoria externa»Una tercera línea de investigación, tan activa como las dos anteriores y que merece su propia sección porque desplaza el foco desde “un modelo que responde mejor” hacia “un sistema que actúa”, es el desarrollo de lo que la comunidad del campo llama agentes. Un modelo de lenguaje, usado de manera directa, recibe una entrada y produce una salida en un único intercambio. Un sistema agente, en cambio, se construye alrededor de ese mismo modelo, pero le agrega la capacidad de descomponer una tarea compleja en una secuencia de pasos intermedios, de invocar herramientas externas —un motor de búsqueda, una calculadora, un intérprete de código, otro programa cualquiera— para obtener información o realizar acciones que el modelo no puede realizar por sí solo mediante la sola generación de texto, y de mantener, a lo largo de esa secuencia de pasos, algún tipo de memoria del estado acumulado hasta el momento, más allá de lo que cabe en la cantidad máxima de texto que el sistema puede tener en cuenta a la vez, límite que el capítulo 8 describe como ventana de contexto.
Este enfoque no introduce, en su núcleo matemático, ningún mecanismo distinto de los ya presentados en este libro: cada paso individual de un sistema agente sigue siendo, en última instancia, la misma generación de texto token por token mediante la arquitectura Transformer del capítulo anterior. Lo que cambia es la manera en que esos pasos se organizan y se encadenan: el resultado de invocar una herramienta externa se incorpora como texto adicional al contexto del modelo, y ese contexto ampliado alimenta el siguiente paso de generación, en un ciclo que se repite tantas veces como la tarea lo requiera. La investigación activa en esta línea se concentra en preguntas como cuán confiable resulta esta descomposición de tareas complejas en pasos más simples, qué ocurre cuando un paso intermedio produce un resultado erróneo que después contamina todos los pasos posteriores del proceso, y cómo evaluar de manera rigurosa el desempeño de estos sistemas en tareas que, a diferencia de la clasificación o la generación de una única respuesta, se extienden a lo largo de muchos pasos con oportunidades de error acumulativo en cada uno de ellos.
Multimodalidad: más allá del texto
Sección titulada «Multimodalidad: más allá del texto»Una cuarta dirección de avance consiste en extender la arquitectura de atención descrita en el capítulo 8, originalmente diseñada para secuencias de texto, para que un mismo sistema pueda procesar y relacionar, de manera conjunta, texto, imágenes, audio y video dentro de un único espacio de representación vectorial. Esta línea de trabajo, que ya tiene aplicaciones demostradas, sigue planteando preguntas abiertas de investigación sobre cómo alinear, de la manera más eficiente posible, representaciones que provienen de tipos de datos con estructuras estadísticas muy distintas entre sí —una imagen y un fragmento de texto imponen demandas muy diferentes sobre la memoria y el cómputo disponibles, como explica el capítulo 5—, y sobre si los mismos mecanismos de atención que funcionan bien para el lenguaje son, en efecto, la manera más adecuada de relacionar información proveniente de modalidades tan distintas.
Lo que este capítulo deja establecido antes de continuar
Sección titulada «Lo que este capítulo deja establecido antes de continuar»El recorrido de este capítulo por cuatro de las líneas de investigación más activas del campo —la interpretabilidad mecanicista, los modelos de razonamiento, los sistemas agentes y la multimodalidad— muestra un patrón que conecta directamente con el arco completo de este libro: cada una de estas líneas de investigación no inaugura un problema nuevo, sino que profundiza, con herramientas técnicas más refinadas, en preguntas que este libro ya planteó en sus primeros capítulos desde la filosofía y la epistemología. La interpretabilidad mecanicista aporta evidencia empírica relevante, aunque todavía parcial, para la discusión que el argumento de la Habitación China de Searle abrió en el capítulo 2 sobre qué ocurre dentro del sistema cuando produce una respuesta, sin que esa evidencia zanje por sí sola la pregunta filosófica de fondo. Los modelos de razonamiento reabren, con datos experimentales concretos, la pregunta que el capítulo 3 dejó planteada sobre qué clase de inferencia realizan estos sistemas, mostrando que el razonamiento visible que un modelo expresa no siempre coincide con el proceso que efectivamente determina su respuesta.
El próximo capítulo de este libro se apoya en todo lo desarrollado hasta aquí para examinar, con el máximo rigor técnico posible, los límites conocidos de estos sistemas —en particular las alucinaciones y los sesgos, presentados ya de manera general en capítulos anteriores— y las soluciones que la investigación actual, incluida la examinada en este mismo capítulo, propone para mitigarlos.
Notas y referencias del capítulo
Sección titulada «Notas y referencias del capítulo»- Sobre la interpretabilidad mecanicista y el uso de autoencoders dispersos para extraer características interpretables de modelos de lenguaje: Bricken, T. et al. (2023). “Towards Monosemanticity: Decomposing Language Models with Dictionary Learning”. Transformer Circuits Thread, Anthropic.
- Sobre los grafos de atribución para trazar el camino computacional completo de un modelo: Lindsey, J. et al. (2025). “On the Biology of a Large Language Model”. Transformer Circuits Thread, Anthropic.
- Sobre el estado consolidado de los problemas abiertos del campo: Sharkey, L. et al. (2025). “Open Problems in Mechanistic Interpretability”. arXiv:2501.16496. (Publicación colectiva de veintinueve investigadores de dieciocho organizaciones distintas.)
- Chen, Y. et al. (2025). “Reasoning Models Don’t Always Say What They Think”. arXiv:2505.05410. (Estudio sobre la fidelidad de las cadenas de razonamiento respecto de los factores que efectivamente determinan la respuesta.) Sobre el monitoreo de esas cadenas como oportunidad para la seguridad de estos sistemas: Korbak, T. et al. (2025). “Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety”. arXiv:2507.11473.
- Sobre los sistemas agentes basados en modelos de lenguaje, capaces de planificar, usar herramientas y mantener estado a lo largo de varios pasos: Yao, S. et al. (2023). “ReAct: Synergizing Reasoning and Acting in Language Models”. ICLR.
- Elhage, N. et al. (2021). “A Mathematical Framework for Transformer Circuits”. Transformer Circuits Thread, Anthropic. (Trabajo fundacional de la interpretabilidad mecanicista aplicada a la arquitectura Transformer presentada en el capítulo anterior de este libro.)
Copyright © 2026 Carlos Dagorret — Licencia Creative Commons Atribución-NoComercial-SinDerivadas 4.0 Internacional (CC BY-NC-ND 4.0)