Hegel contra las máquinas

Traducción al español por Martin Persch

Las ideas del filósofo sobre la inteligencia tienen implicaciones asombrosas para el futuro de la IA.

En el verano de 2022, Blake Lemoine, un ingeniero, publicó en Medium una transcripción de su conversación con LaMDA, un chatbot en desarrollo para el que Google le había contratado. El post de Lemoine saltó a los titulares por sus increíbles afirmaciones: el ingeniero declaró que LaMDA era "sensible" e incluso sugirió que tenía "alma". En aquel momento, las afirmaciones de Lemoine fueron recibidas con escepticismo e incredulidad, pero varios meses después, tras la presentación pública de ChatGPT de OpenAI, las declaraciones de Lemoine ya no parecían tan descabelladas. ChatGPT puede hablar con fluidez y coherencia la mayor parte del tiempo, aproximándose al habla humana. Puede expresar opiniones y escribir ensayos estudiantiles pasables. Incluso hay pruebas de que es capaz de autocorregirse espontáneamente, un rasgo distintivo de la inteligencia humana ampliamente reconocido entre los filósofos de la mente.

¿Hemos construido por fin una máquina capaz de pensar? La historia de la filosofía plantea un posible obstáculo a la tan cacareada marcha de la IA hacia un intelecto similar al humano. En 1972, Hubert Dreyfus publicó What Computers Can't Do (Lo que los ordenadores no pueden hacer), un libro que marcó un hito al recurrir a Wittgenstein y Heidegger para demostrar que la investigación sobre IA de la época no entendía lo que era la inteligencia. Pero otro protagonista improbable -el filósofo alemán del siglo XIX, GWF Hegel- va más allá de estos intentos, a pesar de haber vivido y muerto más de 100 años antes. Hegel desarrolló un relato explosivo de la relación entre la vida y la mente que supera las limitaciones de la "crítica de la razón artificial" de Dreyfus y proporciona un nuevo criterio con elque debe medirse cualquier pretendida IA.

Los grandes modelos lingüísticos (LLM) como ChatGPT se diferencian de las formas anteriores de inteligencia artificial -a menudo denominadas "IA a la antigua" (GOFAI)- por su uso de redes neuronales de aprendizaje profundo. Estas redes se "entrenan" para reconocer patrones y hacer predicciones utilizando grandes conjuntos de datos. Por ejemplo, las LLM se entrenan para escribir y conversar analizando los datos pertinentes (feeds de Twitter, entradas de Wikipedia, etc.) para crear modelos que generen frases con la mayor probabilidad de ser correctas. Estas técnicas de aprendizaje profundo suponen un gran avance con respecto a la GOFAI, que se caracteriza por depender de reglas codificadas para la manipulación de símbolos y el procesamiento de la información. Dado que los LLM pueden "aprender" a conversar sin esas reglas y a adaptarse a los datos, se cree que pueden navegar mejor por las complejidades de un mundo en constante cambio.

Este repentino salto en la capacidad de la IA ha revitalizado el debate sobre si las máquinas pueden emular la inteligencia humana, y muchos creen que las redes neuronales de aprendizaje profundoacabarán igualando, si no superandopor completo nuestra mente. Sin embargo, salvo contadas excepciones, se habla muy poco de lo que realmente es la inteligencia.

Obras críticas con la IA basadas en la filosofía, como What Computers Can't Do de Dreyfus o Artificial Intelligence: The Very Idea (1985) de John Haugeland, parecen reliquias de una era anterior al aprendizaje profundo. Sin embargo, a pesar de que se refieren predominantemente a la GOFAI, sus críticas conservan gran parte de su fuerza. Dreyfus criticalo que denomina los "supuestos tradicionales" del programa GOFAI, que residen en la "reducción de todo razonamiento a reglas explícitas y del mundo a hechos atómicos a los que sólo podrían aplicarse dichas reglas". Si el razonamiento humano se entiende así, es una proposición directa que una máquina digital de estado finito pueda programarse para simularlo. El problema de estas hipótesis, según Dreyfus, es que no explican el tipo de comportamiento intencional que solemos identificar con la "inteligencia" en la vida humana ordinaria. En contraste con los supuestos tradicionales, Dreyfus identifica tres criterios básicos del comportamiento genuinamente inteligente.

En primer lugar, ser un ser inteligente es estar encarnado. Ser y tener un cuerpo es ser receptivo a un mundo de herramientas y obstáculos que uno ha aprendido a sortear. No tenemos respuestas fijas codificadas de antemano, sino un "saber hacer" práctico que da forma a nuestra conciencia sensorial de cada nuevo entorno en el que nos encontramos. En segundo lugar, ser inteligente es estar siempre situado en un "contexto de significación" al que pertenecen ciertas cosas y otras específicamente no. Sólo en este tipo de contexto práctico pueden aparecer determinados objetos como herramientas u obstáculos. Cuando me enseñan, por ejemplo, a conducir un coche, adquiero la capacidad práctico-sensorial de captar un tipo concreto de situación: mi propósito de "desplazarme" me permite distinguir el acelerador del freno, la sensación de soltura de la primera marcha de la resistencia en la parte superior de la quinta, un atasco de la carretera libre y abierta. Esta noción de "finalidad" nos lleva al último criterio, lo que Dreyfus denomina simplemente necesidad. Los propósitos, necesidades y fines humanos no existen con anterioridad o de algún modo independientemente de los cuerpos que somos y tenemos o de la "situación". Son más bien esos propósitos los que hacen posible en primer lugar la intencionalidad, es decir, nuestra capacidad para dirigir nuestra atención a objetos concretos y actuar de forma autodirigida. Así pues, nuestros proyectos y propósitos permiten que surja el contexto práctico de la "situación" y nos capacitan para distinguirlo de lo que nos rodea.

El relato de Dreyfus nos ayuda a entender la inteligencia como tal, y está claro cómo tanto GOFAI como los LLM no cumplen los requisitos. La GOFAI se basa en el carácter plástico y no formal de nuestro "afrontamiento hábil", mientras que los LLM carecen de la conciencia sensorial específica de la situación que nos proporciona la corporeidad. Y lo que es más fundamental, aunque la IA pueda tener "objetivos" que debe cumplir -componer un ensayo, por ejemplo-, dichos objetivos siempre se derivan de los fines de sus programadores y dependen de ellos. Tanto la arquitectura clásica como las redes neuronales más recientes carecen del sentido de finalidad que permite nuestra relación intencional con el mundo.

El relato de Dreyfustiene sus límites. A pesar de su énfasis en la corporeidad, su noción del cuerpo es peculiarmente incorpórea. Dreyfus establece una distinción tajante entre el cuerpo biológico, como conjunto de mecanismos fisiológicos continuos con el resto de la naturaleza, y el cuerpo fenomenológico, como lugar de la experiencia y de la capacidad de afrontamiento. Pero, ¿cómo explicar su interacción? Dreyfus es incapaz de responder a esta pregunta. También insiste en que la habilidad para hacer frente a los problemas no puede simularse artificialmente porque representa "un comportamiento ordenado sin recurrir a reglas". Pero si nuestro comportamiento intencionado no está sujeto a reglas en algún sentido, ¿cómo puede generalizarse más allá de una situación concreta? Y, dentro de una situación determinada, ¿cómo distinguimos el éxito del fracaso (conducir bien un coche de destrozarlo o quedarnos parados)?

En obras como la Ciencia de la lógica (1812) y su proyecto de Enciclopedia (1817), Hegel abordó indirectamente estas cuestiones mientras elaboraba su novedosa idea de la vida racional. Hegel tiene la desafortunada reputación de ser una especie de hiperidealista que creía que el universo material es la autoexpresión de una supermente cósmica, Geist (traducido como espíritu o mente). Nada más lejos del pensamiento real de Hegel. A través de una potente reimaginación de la metafísica de Aristóteles y de la obra tardía de Immanuel Kant sobre el organismo, Hegel se esforzó por demostrar que la inteligencia y la intencionalidad surgen por primera vez en la naturaleza con la aparición contingente de la vida. Para Hegel, los organismos vivos tienen el propósito interno de mantener su propia forma y de florecer como los distintos tipos de ser que son. La finalidad de un organismo es "interna" en el sentido de que su existencia no depende de las ideas y los fines de, por ejemplo, un diseñador externo, por lo que no hay "relojeros divinos" en el relato de Hegel. Los organismos organizan y mantienen sus propias partes a la luz de su propósito interno de mantenerse a sí mismos; las partes existen por el bien del todo, y el todo depende de las partes para mantenerse a sí mismo.

En contraste con la opinión de Dreyfus de que el cuerpo fenomenológico es distinto del biológico, Hegel reveló cómo las partes de un organismo existen en aras del todo experiencial. Cada individuo vivo es miembro de una especie, de la que derivan los criterios de enfermedad frente a salud, de marchitamiento frente a florecimiento. En virtud de la finalidad interna específica de su especie, los animales tienen los cuerpos que tienen y muestran una relación intencionada con su entorno. Como argumenta Hegel, el dolor y el placer son las formas más básicas de respuesta inteligente a un entorno: es a través del placer y el dolor que los animales toman las cosas que les rodean como buenas o malas, instrumentales o contrarias a su florecimiento. El hierro responde a la humedad oxidándose, pero no tiene intención de oxidarse. Un león, por el contrario, no sólo es inducido causalmente a actuar por sus deseos y percepciones, sino que toma a la gacela que corre como presa, al árbol en la distancia como lugar de descanso, a la manada de hienas como depredador. De este modo, la actividad de los organismos, regida por un propósito, "representa" su entorno y permite que surja un contexto de relaciones significativas: las llanuras del Serengueti, por ejemplo.

Si Hegel tiene razón en que la inteligencia sólo puede ser exhibida por un organismo vivo, las implicaciones para la investigación de la IA son asombrosas: no podemos producir inteligencia artificial sin producir también vida artificial. Lo que Dreyfus pasa por alto es que su tercer criterio, la "necesidad", tiene su origen en el fin orgánico del florecimiento. Y ahora que hemos comprendido el fundamento original de la inteligencia en la vida, podemos volver a examinar los organismos de orden superior como nosotros para ver qué se necesitaría para producir artificialmente una mente similar a la humana. Hegel desarrolla una poderosa explicación anticartesiana de la razón humana, no como un conjunto de procesos lógico-formales separados del afecto, el deseo y las supuestamente primitivas "funciones animales". Para Hegel, la razón humana es más bien una forma claramente reflexiva de ser animal. Si los demás animales se mantienen a la luz de fines de especie dados que no pueden cuestionar ni cambiar, nosotros nos mantenemos como seres materiales a la luz de normas sociales compartidas que son intrínsecamente contestables y que pueden ser revisadas.

Recordemos que, para Dreyfus, la inteligencia humana no puede emularse computacionalmente porque no está completamente gobernada por reglas. Esto crea un rompecabezas conceptual, porque sin reglas, nuestras actividades prácticas carecen de determinación - no podemos distinguir los límites entre una práctica y otra o distinguir dentro de una misma práctica el éxito del fracaso. Hegel tiene una solución para este rompecabezas: su idea de los "universales concretos". Para Hegel, conducir un coche o cocinar una comida es ser consciente de que estoy conduciendo o cocinando, y esto significa que estoy intentando conducir bien y ser sensible a lo que requiere hacerlo.

Esta idea de autoconciencia no es afín al tipo de introspección que realizamos de vez en cuando, sino que es una condición básica de toda acción. Para Hegel, la cuestión relevante no es si estoy comprobando una lista abstracta mientras conduzco, sino si estoy respondiendo al conducir a lo que significaría tener éxito dadas las circunstancias. En última instancia, la cuestión no es si mis acciones son codificables en un conjunto de principios inmutables, sino si mis acciones son justificables para otros actores sociales que también intentan conducir o viajar. Las normas en el sentido de Hegel son "universales" porque deben ser compartidas por otros, pero también son "concretas" porque su contenido siempre depende de lo que pueda justificarse aquí y ahora.

Además de resolver el rompecabezas creado por Dreyfus, el modelo de Hegel de seguimiento de reglas pone patas arriba los supuestos que subyacen tanto a la GOFAI como a los paradigmas de aprendizaje profundo. El razonamiento no puede formalizarse como se pensaba en la investigación clásica sobre IA, pero tampoco es simplemente "no- cognitivo" e incodificable, como sugiere Dreyfus. Para Hegel, las reglas no son recetas o planos para la acción y la creencia, sino formas de autoconciencia alcanzadas a través de la iniciación en la vida social. Es en virtud de esas reglas que nos reproducimos como los organismos claramente racionales que somos. Dichas reglas nos permiten unificar nuestras acciones y creencias a lo largo del tiempo y distinguir lo útil de lo perjudicial en nuestro trato cotidiano con el mundo, en última instancia en aras de nuestro florecimiento como criaturas sociales.

Al mismo tiempo, la plasticidad de los "universales concretos" de Hegel no debe confundirse con el tipo de enfoque probabilístico del aprendizaje característico de la IA reciente. En los llamados casos éticos "difíciles" -¿debo visitar a mi padre enfermo o ayudar a mi mejor amigo a estudiar para un examen que le cambiará la vida? - no damos un paso atrás para calcular qué es lo más probable que haga la mayoría de la gente.

Nuestro razonamiento ético no implica un "cálculo predictivo", sino que es una cuestión de juicio e imaginación moral, de lo que consideramos justificable para nosotros mismos y para quienes nos rodean en circunstancias nuevas.

¿Qué es lo que está en juego en esta intervención hegeliana? Pensemos en los agoreros de Silicon Valley que pronostican una toma del poder por parte de algo parecido a Skynet, de las películas de Terminator. Las máquinas sapientes que imaginan tienen poco que ver con los modelos formalistas y probabilísticos de la "mente" que sustentan la IA contemporánea. Mucho más preocupante que la amenaza fantástica de la "singularidad" -cuando la inteligencia artificial supere a la humana-es la amenaza que reside en la propia tecnología existente, moldeada como está por el entorno social profundamente ansioso e inestable, a menudo violento, del que se extraen sus conjuntos de datos.

Incluso si las afirmaciones sobre la automatización impulsada por la IA son exageradas y están fuera de contacto con las realidades económicas, los grandes modelos lingüísticos como el GPT-4 acabarán integrándose en toda una serie de sectores para acelerar el trabajo y reducir los costes de producción. Y como señaló Marx, en lugar de liberar nuestro tiempo para el trabajo significativo, en condiciones capitalistas "la maquinaria más desarrollada obliga al trabajador a trabajar más tiempo que el hombre primitivo, o que él mismo con las herramientas más simples y toscas". Sin embargo, existe una alternativa. Marx también subraya el potencial emancipador sin explotar de la innovación tecnológica espoleada por la competencia capitalista. La tarea, entonces, es repensar la inteligencia artificial no como un competidor, sino como una extensión inorgánica de la inteligencia real. Pero poner fin a la mecanización en curso de la razón humana no es sólo cuestión de adoptar una teoría mejor. Primero habrá que "tirar del freno de emergencia" de nuestro modo de producción desbocado, en lugar de esperar pasivamente a los señores mecánicos que -para cualquiera que preste atención- ya han llegado.

Revisa el artículo original aquí.

Hegel contra las máquinas Las ideas del filósofo sobre la inteligencia tienen implicaciones asombros

Entradas recientes

Comments