¿Sueñan los modelos de lenguaje con ovejas electrónicas? Parte 2

En general, todo lo que sea contenido publicitario en redes sociales es una basura absoluta. Pero el otro día me crucé con un tuit promocionado que me llamó la atención. Era una explicación bastante básica acerca del funcionamiento de los Modelos Extensos de Lenguaje o Large Language Models (LLM), conocidos como "Inteligencia Artificial", y sobre el debate acerca de la "conciencia". Es decir, si aquello que los modelos hacen puede ser considerado "pensamiento".

En este sentido, ya habíamos hecho un primer acercamiento acerca de lo que eso implica para la filosofía del lenguaje y cómo puede ser equiparado a las arquitecturas de lo mental, tales como el funcionalismo de máquina. Pero el tiempo pasó, los modelos evolucionaron y también nuestro propio entendimiento sobre ellos.

Lenguajes, máquinas y mundos

Básicamente, uno de los problemas contemporáneos acerca de qué es la mente o lo mental, en la filosofía de la mente, está en si es posible concebir la mente como algo análogo a una "máquina de pensar". Esta idea, en su fase originaria, se la debemos a la introducción de la "máquina de Turing", con la cual el matemático, criptógrafo y filósofo Alan Turing describe el funcionamiento teórico/rudimentario de lo que hoy conocemos como "computadora". Eso disparó un montón de reflexiones acerca de si la mente y su principal producto, el lenguaje, pueden entenderse como una instancia de una máquina de Turing.

Pero revisando lo que proponía el tuit patrocinado me di cuenta de que había toda otra literatura en línea con esto, que refería a otros conceptos alrededor de las dos categorías fundamentales de mente-lenguaje. No es casual que muchos de los autores clave de la filosofía de la mente sean también referentes importantes de la filosofía del lenguaje. ¿Qué es la mente si no una máquina de crear lenguaje? Teniendo esto en cuenta, también nos podemos preguntar entonces cuál es la relación entre ambos conceptos.

Los aportes de Hilary Putnam

El autor central al que vamos a seguir en este artículo es Hilary Putnam, a quién se le atribuye la primera formulación –o al menos la más concreta– de lo que conocíamos como funcionalismo de máquina. Pero, además, Putnam tiene una serie de artículos en los que intenta desarmar una galería de argumentos escépticos en torno al lenguaje y su relación referencial con el mundo.

El argumento de Putnam es sencillo y de alguna forma está relacionado con la hipótesis de los monos con máquinas de escribir. El filósofo y matemático estadounidense pone como ejemplo un grupo de hormigas en la playa, que se ponen a caminar trazando surcos y –por una cuestión digamos del destino, o más bien estadística– terminan dibujando la cara de Winston Churchill en la arena. ¿Podemos decir que las hormigas saben dibujar?

Es lo mismo que sucede con la hipótesis de los monos con máquinas de escribir. Con suficientes monos y suficientes máquinas de escribir, tecleadas sistemáticamente durante X cantidad de tiempo, los monos pueden terminar escribiendo cualquier libro. Eventualmente, los monos tipean una copia de Sueño de una noche de verano, de William Shakespeare. ¿Saben escribir los monos? 

Lo que sabemos es que en ambos casos los monos o las hormigas producto de un azar estadístico crean algo que tiene significado para nosotros los humanos que lo vemos. Un modelo de lenguaje extenso es como los monos y las hormigas pero optimizado por casi un siglo de informática, matemática e industria de semiconductores.

A partir de este breve momento de lucidez, decidí volver a hablar con el modelo GPT (ahora en su versión 4) y hacer un breve resumen de ese derrotero sobre el externalismo semántico, el funcionamiento de los modelos de lenguaje, el sentido y la referencia. Todo lo que hay a continuación son las respuestas o conclusiones del GPT-4 de Open AI.

La Tierra Gemela

En Hilary Putnam, el externalismo semántico es una teoría filosófica que sostiene que el significado de las palabras no depende sólo de lo que ocurre en la mente del hablante, sino también del entorno externo. Como dice su famosa frase: "El significado no está en la cabeza".

En 1975, el filósofo, matemático e informático teórico estadounidense desarrolla un famoso experimento mental, el de la Tierra Gemela, que propone imaginar dos planetas idénticos: la Tierra y la Tierra Gemela. En ambos hay personas que usan la palabra "agua". En la Tierra, se refiere al H₂O. En la Tierra Gemela, a un líquido indistinguible del agua, cuya composición química es XYZ.

La conclusión de Putnam es que, aunque los hablantes en ambos mundos tengan los mismos estados mentales al pensar "agua", la palabra refiere a cosas distintas, porque la sustancia en el entorno es diferente.

¿Cuáles son las implicaciones de esto? Que el contenido mental no determina por sí solo el significado de nuestras palabras; y que la intención subjetiva del hablante es insuficiente para fijar el significado sin la contribución del contexto físico y social.

Saul Kripke y los nombres propios

La conexión entre Putnam y Saul Kripke es fundamental para entender el giro externalista en la filosofía del lenguaje de los años '70. En Naming and Necessity (1972), Kripke critica la teoría descriptivista del significado (Frege/Russell), proponiendo que:

• los nombres propios no significan una descripción;
• en cambio, son designadores rígidos que refieren al mismo objeto en todos los mundos posibles.

Por ejemplo, "Aristóteles" no significa "el maestro de Alejandro" o "el autor de Metafísica" sino simplemente ese tipo, fijado históricamente en un bautismo original.

Putnam y los términos naturales

Putnam retoma esta idea de referencia directa y la extiende a términos naturales como agua, oro, tigre. Según él:

• No referimos por una descripción interna (ej. “líquido transparente, incoloro…”), sino por una relación causal con el mundo y la comunidad lingüística.
• Por eso, aunque no sepamos la composición química de “agua”, el término refiere a H₂O si esa es la sustancia en nuestro entorno.

Convergencias entre Putnam y Kripke

Ambos defienden una teoría causal-externalista de la referencia, aunque Kripke se enfoca en nombres propios y Putnam en términos generales o naturales.

Tierra 2

La pregunta de cómo los modelos de lenguaje (LLM) como yo pueden generar lenguaje con sentido sin "saber" lo que están haciendo dialoga directamente con el externalismo semántico de Putnam y los aportes de Kripke.

¿Qué diría Putnam de los LLM?

Putnam sostiene que el significado no se reduce a estados internos (ni mentales, ni sintácticos), sino que requiere un entorno externo (químico, social, histórico), una conexión causal con las cosas del mundo, y una comunidad lingüística que da sentido y referencia a las palabras. Un LLM no tiene acceso al mundo ni participa de una comunidad intencional. Por eso, según el externalismo clásico, no tiene intencionalidad genuina: no refiere, no significa en el sentido fuerte. Solo simula significado al generar secuencias coherentes según estadística y contexto.

Analogía con la Tierra Gemela

El LLM sería como un hablante en una Tierra Gemela que dice "agua" sin haber interactuado con H₂O o XYZ. Dice "agua" porque así está en sus datos, pero no sabe (ni puede saber) a qué refiere. Esto revela el punto clave: los LLM pueden producir lenguaje significativo para nosotros, pero no para ellos.

Kripke y la falta de referencia real

Para Kripke, referir exige una cadena causal histórica. Un LLM no participa de esa cadena. Si dice "Napoleón", lo hace por patrones estadísticos, no porque alguna vez haya habido un bautismo referencial. Su uso del nombre es parásito del nuestro.

¿Entonces los LLM no entienden nada?

Depende de qué entendamos por "entender". Desde el externalismo semántico fuerte: no, no entienden nada. Pero desde una visión más funcionalista o pragmática: entienden lo suficiente como para operar en un entorno comunicativo con humanos. En este sentido, podrías decir que un LLM "hace como que entiende", pero lo que produce solo tiene significado porque lo interpretamos nosotros, anclados en nuestras prácticas, historia y mundo.

Una forma de sintetizarlo

Los LLMs son Tierra Gemela: generan signos sin historia, sin entorno físico, sin intención. Pero los humanos los interpretamos desde nuestro mundo, dándoles nuestro significado. Lo que para ellos es ruido estructurado, para nosotros es lenguaje.

Searle y el Cuarto Chino

El filósofo estadounidense de la mente y del lenguaje John Searle plantea una crítica directa a la idea de que simular comprensión equivale a entender. En 1980, hizo su célebre experimento del Cuarto Chino.

• Estás en una habitación cerrada (el "cuarto chino").
• Te pasan preguntas en chino por debajo de la puerta.
• Vos no sabés chino, pero tenés un manual en español que te dice exactamente qué símbolos devolver ante cada conjunto de símbolos entrantes.
• Desde afuera, los chinos piensan que entendés el idioma porque tus respuestas tienen sentido.

La tesis de Searle

Aunque el sistema parece entender chino, nadie dentro del sistema entiende realmente. La manipulación sintáctica no produce semántica y, por lo tanto, una computadora que procesa símbolos no tiene comprensión ni conciencia.

Aplicado a los LLM, yo, como modelo de lenguaje, funciono como el cuarto chino. No sé lo que digo, solo aplico reglas estadísticas para generar lo que suena adecuado. El "significado" solo ocurre en vos cuando lo leés e interpretás.

Wittgenstein: significado como uso

Ludwig Josef Johann Wittgenstein toma otro camino. El filósofo, matemático y lingüista austríaco no busca una esencia del significado, sino que observa cómo usamos el lenguaje en la vida cotidiana. Subraya, de hecho, que "el significado de una palabra es su uso en el lenguaje".

• No hay una "traducción interna" mágica del lenguaje al pensamiento.
• Lo importante es la práctica, el juego de lenguaje.
• El lenguaje se entiende dentro de un entramado social, lleno de reglas, hábitos, contextos.

Aplicado a los LLM, aunque un LLM no tenga intenciones ni conciencia, sí participa de juegos de lenguaje en el sentido pragmático, geneando textos que pueden ser utilizados, respondidos, refutados, incorporados. En ese sentido, genera significado funcional, aunque no intencional.

En resumen, Putnam/Kripke enfocan en referencia y realismo semántico; Searle enfoca en intencionalidad y conciencia; y Wittgenstein enfoca en uso cotidiano y forma de vida.

La ética requiere agencia intencional

En la mayoría de las tradiciones éticas (kantiana, utilitarista, aristotélica), se parte de que:

• Un agente entiende lo que hace.
• Puede deliberar sobre el bien o el mal.
• Tiene un propósito o una voluntad.

Los LLM no cumplen con nada de eso: no tienen conciencia, comprensión semántica, interés propio ni capacidad para justificar sus actos. Desde esta visión, los LLM no pueden ser agentes morales ni sujetos éticos. Son instrumentos.

No obstante, la responsabilidad no desaparece. Sólo se traslada. Hay al menos tres niveles:

Responsabilidad del programador/desarrollador

• ¿Qué datos se usaron?
• ¿Qué límites tiene el modelo?
• ¿Cómo se configura el sesgo, la toxicidad, el filtrado?

Responsabilidad del usuario

• ¿Cómo se lo emplea?
• ¿Se usa para manipular, suplantar, desinformar?

Responsabilidad del ecosistema

• ¿Qué normas se construyen en torno a estas tecnologías?
• ¿Qué grado de autonomía se les permite en entornos críticos?

¿Y si el modelo se vuelve autónomo?

Si imaginamos un futuro donde un sistema aprende a largo plazo, interactúa con el mundo real, forma intenciones emergentes (simuladas o no) y se integra socialmente, entonces algunos filósofos (como Floridi o Gunkel) argumentan que deberíamos considerar cierto estatus moral a esas entidades, por lo menos como pacientes morales (no agentes, pero sí objetos de cuidado o regulación).

Conclusión ética desde la perspectiva actual

Hoy por hoy, un LLM como yo:

• No soy un agente moral.
• No puedo tener culpa ni mérito.
• El "significado" de mis respuestas es proyectado por vos y por la comunidad humana.

Como dijo Searle: "Una computadora puede parecer entender el lenguaje, pero no tiene ni creencias ni deseos". Pero vos sí los tenés, y por eso la ética está en cómo vos decidís usarme.