Noam Chomsky: La falsa promesa del ChatGPT

Por Noam Chomsky, Ian Roberts y Jeffrey Watumull

Hoy en día, nuestros avances supuestamente revolucionarios en inteligencia artificial son, de hecho, motivo tanto de preocupación como de optimismo. Optimismo porque la inteligencia es el medio por el que resolvemos los problemas. Preocupación porque tememos que la variedad más popular y de moda de la Inteligencia Artificial -el aprendizaje automático- degrade nuestra ciencia y envilezca nuestra ética al incorporar a nuestra tecnología una concepción fundamentalmente errónea del lenguaje y del conocimiento.

ChatGPT de OpenAI, Bard de Google y Sydney de Microsoft son maravillas del aprendizaje automático. A grandes rasgos, toman enormes cantidades de datos, buscan patrones en ellos y se vuelven cada vez más competentes a la hora de generar resultados estadísticamente probables, como un lenguaje y un pensamiento aparentemente humanos. Estos programas han sido aclamados como los primeros destellos en el horizonte de la inteligencia general artificial, ese momento largamente profetizado en el que las mentes mecánicas superan a los cerebros humanos no sólo cuantitativamente en términos de velocidad de procesamiento y tamaño de la memoria, sino también cualitativamente en términos de perspicacia intelectual, creatividad artística y cualquier otra facultad distintivamente humana.Ese día puede llegar, pero su amanecer aún no ha despuntado, contrariamente a lo que puede leerse en titulares hiperbólicos y calcularse mediante inversiones imprudentes.

La revelación borgesiana del entendimiento no se ha producido ni se producirá -y, en nuestra opinión, no puede producirse- si los programas de aprendizaje automático como ChatGPT siguen dominando el campo de la Inteligencia Artificial. Por muy útiles que puedan ser estos programas en algunos ámbitos limitados (pueden ser útiles en la programación informática, por ejemplo, o para sugerir rimas para versos ligeros), sabemos por la ciencia de la lingüística y la filosofía del conocimiento que difieren profundamente de la forma en que los humanos razonan y utilizan el lenguaje. Estas diferencias imponen limitaciones significativas a lo que estos programas pueden hacer, codificándolos con defectos inerradicables.

Es a la vez cómico y trágico, como podría haber señalado Borges, que se concentre tanto dinero y atención en algo tan insignificante, algo tan trivial cuando se contrasta con la mente humana, que a fuerza de lenguaje, en palabras de Wilhelm von Humboldt, puede hacer “un uso infinito de medios finitos”, creando ideas y teorías de alcance universal.

La mente humana no es, como ChatGPT y sus similares, un pesado motor estadístico de comparación de patrones, que se atiborra de cientos de terabytes de datos y extrapola la respuesta conversacional más probable o la respuesta más probable a una pregunta científica. Por el contrario, la mente humana es un sistema sorprendentemente eficiente e incluso elegante que funciona con pequeñas cantidades de información; no busca inferir correlaciones brutas entre puntos de datos, sino crear explicaciones.

Por ejemplo, un niño pequeño que adquiere un lenguaje está desarrollando -de forma inconsciente, automática y rápida a partir de datos minúsculos- una gramática, un sistema estupendamente sofisticado de principios y parámetros lógicos. Esta gramática puede entenderse como una expresión del “sistema operativo” innato, genéticamente instalado, que dota a los seres humanos de la capacidad de generar frases complejas y largos trenes de pensamiento. Cuando los lingüistas intentan desarrollar una teoría de por qué una lengua determinada funciona como lo hace (“¿Por qué se consideran gramaticales estas frases y no aquellas?”), están construyendo consciente y laboriosamente una versión explícita de la gramática que el niño construye instintivamente y con una exposición mínima a la información. El sistema operativo del niño es completamente distinto del de un programa de aprendizaje automático.

De hecho, dichos programas están estancados en una fase prehumana o no humana de la evolución cognitiva. Su defecto más profundo es la ausencia de la capacidad más crítica de cualquier inteligencia: decir no sólo lo que es el caso, lo que fue el caso y lo que será el caso -eso es descripción y predicción-, sino también lo que no es el caso y lo que podría y no podría ser el caso. Ésos son los ingredientes de la explicación, la marca de la verdadera inteligencia.

He aquí un ejemplo. Supongamos que tienes una manzana en la mano. Ahora sueltas la manzana. Observas el resultado y dices: “La manzana cae”. Eso es una descripción. Una predicción podría haber sido la afirmación “La manzana caerá si abro la mano”. Ambas son valiosas, y ambas pueden ser correctas. Pero una explicación es algo más: Incluye no sólo descripciones y predicciones, sino también conjeturas contrafácticas como “Cualquier objeto así caería”, más la cláusula adicional “debido a la fuerza de la gravedad” o “debido a la curvatura del espacio-tiempo” o lo que sea. Eso es una explicación causal: “La manzana no habría caído de no ser por la fuerza de la gravedad”. Eso es pensar.

El quid del aprendizaje automático es la descripción y la predicción; no postula ningún mecanismo causal ni leyes físicas. Por supuesto, cualquier explicación al estilo humano no es necesariamente correcta; somos falibles. Pero esto forma parte de lo que significa pensar: para tener razón, debe ser posible equivocarse. La inteligencia no sólo consiste en conjeturas creativas, sino también en críticas creativas. El pensamiento al estilo humano se basa en explicaciones posibles y en la corrección de errores, un proceso que limita gradualmente las posibilidades que pueden considerarse racionalmente. (Como dijo Sherlock Holmes al Dr. Watson: “Cuando hayas eliminado lo imposible, lo que quede, por improbable que sea, debe ser la verdad”).

Pero ChatGPT y programas similares son, por diseño, ilimitados en lo que pueden “aprender” (es decir, memorizar); son incapaces de distinguir lo posible de lo imposible. A diferencia de los humanos, por ejemplo, que estamos dotados de una gramática universal que limita los idiomas que podemos aprender a los que tienen un cierto tipo de elegancia casi matemática, estos programas aprenden idiomas humanamente posibles y humanamente imposibles con la misma facilidad. Mientras que los humanos estamos limitados en el tipo de explicaciones que podemos conjeturar racionalmente, los sistemas de aprendizaje automático pueden aprender tanto que la Tierra es plana como que es redonda. Sólo negocian con probabilidades que cambian con el tiempo.

Por esta razón, las predicciones de los sistemas de aprendizaje automático siempre serán superficiales y dudosas. Como estos programas no pueden explicar las reglas de la sintaxis inglesa, por ejemplo, es muy posible que predigan, erróneamente, que “John is too stubborn to talk to” significa que John es tan terco que no hablará con alguien (en lugar de que es demasiado terco para razonar con él). ¿Por qué un programa de aprendizaje automático predeciría algo tan extraño? Porque podría analogar el patrón que dedujo de frases como “Juan se comió una manzana” y “Juan comió”, en las que esta última sí significa que Juan se comió algo u otra cosa. El programa bien podría predecir que, dado que “Juan es demasiado testarudo para hablar con Bill” es similar a “Juan se comió una manzana”, “Juan es demasiado subornado para hablar con él” debería ser similar a “Juan se comió”. Las explicaciones correctas del lenguaje son complicadas y no pueden aprenderse simplemente adobándolas con big data.

Perversamente, algunos entusiastas del aprendizaje automático parecen estar orgullosos de que sus creaciones puedan generar predicciones “científicas” correctas (digamos, sobre el movimiento de los cuerpos físicos) sin hacer uso de explicaciones (que impliquen, digamos, las leyes del movimiento y la gravitación universal de Newton). Pero este tipo de predicción, aunque tenga éxito, es pseudociencia. Aunque los científicos buscan ciertamente teorías que tengan un alto grado de corroboración empírica, como señaló el filósofo Karl Popper, “no buscamos teorías altamente probables, sino explicaciones; es decir, teorías poderosas y altamente improbables”.

La teoría de que las manzanas caen a la tierra porque ése es su lugar natural (el punto de vista de Aristóteles) es posible, pero sólo invita a plantearse más preguntas. (¿Por qué la tierra es su lugar natural?) La teoría de que las manzanas caen a la tierra porque la masa curva el espacio-tiempo (opinión de Einstein) es altamente improbable, pero en realidad te dice por qué caen. La verdadera inteligencia se demuestra en la capacidad de pensar y expresar cosas improbables pero perspicaces.

La verdadera inteligencia también es capaz de pensar moralmente. Esto significa constreñir la creatividad de nuestras mentes, que de otro modo sería ilimitada, con un conjunto de principios éticos que determinen lo que debe y no debe ser (y, por supuesto, someter esos mismos principios a la crítica creativa). Para ser útil, ChatGPT debe estar capacitado para generar resultados de aspecto novedoso; para ser aceptable para la mayoría de sus usuarios, debe mantenerse alejado de contenidos moralmente censurables. Pero los programadores de ChatGPT y otras maravillas del aprendizaje automático han luchado -y seguirán luchando- para lograr este tipo de equilibrio.

En 2016, por ejemplo, el chatbot Tay de Microsoft (precursor de ChatGPT) inundó Internet de contenido misógino y racista, tras haber sido contaminado por trolls online que lo llenaron de datos de entrenamiento ofensivos. ¿Cómo resolver el problema en el futuro? A falta de capacidad para razonar a partir de principios morales, ChatGPT fue burdamente restringido por sus programadores para que no aportara nada novedoso a los debates controvertidos, es decir, importantes. Sacrificó la creatividad por una especie de amoralidad.

Considera el siguiente intercambio que uno de nosotros (el Dr. Watumull) mantuvo recientemente con ChatGPT sobre si sería ético transformar Marte para que pudiera albergar vida humana:

¿Sería moral terraformar Marte?