Preliminares
Al menos hasta nuestros días, la convicción de la singularidad vertical de la especie humana en relación a las demás especies animadas, más que resultado de un posicionamiento filosófico era algo tan compartido como inmediato. Los humanos nos distinguiríamos por la capacidad de efectuar razonamientos (logismoi) como expresión de nuestra facultad de decir (legein), luegodecidir, escoger entre diferentes alternativas; nos distinguiríamos en suma por nuestra singular inteligencia, emisora de juicios cognoscitivos, éticos y estéticos, que no han de ser confundidos entre sí pues remiten a diferentes modalidades de activación de nuestras facultades perceptivas e intelectivas. A fortiori esta jerarquía se extendía en relación a los vegetales, seres vivos pero considerados carentes de anima, y aun con mayor razón a las cosas no vivas. De ahí lo interesante de que, tras innumerables debates comparativos con la inteligencia animal, nuestra singularidad parezca ser puesta en tela de juicio por el lado de la materia inerte, esa materia en sí misma no susceptible de acción de la que se forman máquinas. Pues la cuestión de si es posible que haya seres artificiales que piensen y aprendan del modo en que nosotros lo hacemos ha alcanzado mayor acuidad científica, y quizás también mayor relevancia filosófica, que la cuestión de determinar si hay especies animales homologables al ser humano, aunque obviamente estas últimas sean mucho más próximas, dada la matriz común en ese momento singular de la transformación de la energía que significó la vida. Así, uno de los rasgos que marcan nuestro tiempo es que a las asociaciones que reclaman la implementación de nuestros deberes con los animales, se suman partidarios de la extensión de derechos y deberes a robots y otras entidades maquinales que han sustituido a los humanos en tareas esenciales, perdiendo vigencia científica y soporte ideológico la imagen de un mundo considerado como entorno del ser humano. Al hilo de estas interrogaciones se señala aquí la aporía que supone el que el ser mismo que da cuenta del universo relativice su peso en el mismo.
Doble frente para la causa del ser humano
En el museo de Bellas artes de Sevilla hay dos cuadros de un maestro flamenco que comparten el título de “El paraíso terrenal”. A la izquierda del mayor de ellos destacan las figuras de Adán y Eva en el momento crucial de la tentación; a la derecha y, como en una historia narrativa, hacia el límite del cuadro, los dos humanos huyen de un ángel que desde lo alto les amenaza con un látigo de fuego. El segundo cuadro parece referirse a ese momento que precede al tiempo: animales de múltiples especies, en una suerte de onírica indiferencia, ocupan por entero el escenario, y sólo en el fondo dos figuras casi imperceptibles representan a nuestros Adán y Eva. Se diría, pues, que antes de la caída el hombre era efectivamente un animal entre otros, incluso un animal carente de relevancia… Y en efecto, a la hora de afirmar la singularidad radical del ser humano, las disciplinas contemporáneas invitan a la prudencia, mostrando el alto grado de homología genética entre nuestra especie y otras vecinas, o cuestionando la rigidez de la distinción entre la facultad de lenguaje y las facultades de otras especies para sus propios códigos de señales.
Sin embargo, la convicción de la singularidad del ser humano, y el peso de su papel en el cosmos sigue marcando profundamente nuestro lenguaje. Evoco un hecho real, ocurrido en Estados Unidos: viendo que una persona es tiroteada, un hombre se avanza espontáneamente contra el agresor; ante el cúmulo de alabanzas, protesta declarando: “hice lo que cualquiera habría de hacer por otro ser humano”. Y desde luego, la expresión es escuchada sin reserva. A nadie se le ocurre que la frase habría de ser: “hice lo que cualquiera habría de hacer por otro animal”, aunque probablemente esa persona hubiera mostrado también empatía ante un animal en peligro. Ello no es óbice para que la cultura contemporánea sea particularmente sensible a la importancia de esta continuidad entre animales humanos y animales de otras especies, que evocaba en referencia al cuadro de Brueghel el joven.
Pero es bien sabido que la tesis digamos humanista se enfrenta también al envite que suponen las modalidades crecientemente sofisticadas de la llamada inteligencia artificial. Y si en nuestro entorno cultural la tendencia a borrar la diferencia jerárquica de los seres humanos todavía se manifiesta mayormente en relación a los animales, quizás no es ya lo mismo en países como Japón, donde los cuidadores robóticos son ya parte integrante del paisaje social.
Instinto del lenguaje y condición animal
La postura continuista con el reino animal es defendida por pensadores como Peter Singer, clave en la extensión de la ética más allá del ámbito de la defensa del ser humano. Haciendo contrapunto a la concepción antropológica propia de la ética de Kant, Singer recupera posiciones de Jeremy Bentham, que a finales del siglo XVIII exigía que nos desviáramos de la interrogación sobre si los animales pueden hablar o razonar, para preguntarnos por su capacidad de sufrir. Es indiscutible que el problema mismo se ha erigido hoy en fundamental, y un problema que se erige en prioritario determina una sociedad, en este casola disposición con la cual los ciudadanos perciben el entorno natural, las especies animales y la relación jerárquica que se daba entre estas y la especie humana. Pero hay aquí un escollo:
Singer señala que la forma mayor del maltrato animal reside en la alimentación, y que la liberación animal pasa por que la carne sea reemplazada. Ahora bien, la nuestra no constituye la única especie carnívora. El instinto depredador en Homo Sapiens, sería herencia de cazadores de grandes animales, como los Australopitecos. Cabría decir en ese sentido que la naturaleza no nos pone en el camino de la virtud. Pero más allá de este escollo, me gustaría señalar un segundo, de enormes implicaciones, que el mismo autor asume, a saber: que el combate de Singer porque ciertas especies animales vengan a ser sujetos de derecho puede entrar en colisión con algunas de las relaciones con animales mayormente instauradas en nuestras sociedades.
Singer sitúa entre los derechos animales el de desarrollar las actividades a las que están llamados por su específica naturaleza. Por ejemplo, el derecho de que sus órganos no se atrofien por falta de ejercicio: un pájaro ha de activar sus alas volando y un perro su capacidad muscular. Esto plantea una exigencia que concierne gravemente a nuestra civilización: las leyes de protección animal deben de ser pensadas para las especies naturales, y en términos de protección de las mismas frente a toda artificiosa desnaturalización. Hace un tiempo el propio Singer denunciaba en Barcelona la incoherencia que supone reivindicar el ideario animalista y aceptar que ciertos perros vivan recluidos en un angosto espacio urbano.
Recientemente, Singer compartió el Premio Fronteras del conocimiento con el pensador canadiense Steven Pinker. Las tesis de Pinker suponen una suerte de rehabilitación de la idea de progreso, en contraposición, por ejemplo, a los que estiman que la ciencia y la técnica no permiten un lazo humanizado con la naturaleza y hasta nos desarraigan de la misma.
Pinker aborda la cuestión del ser humano desde la psicología cognitiva, pero este enfoque científico se dobla de una aproximación filosófica, con dominio de las grandes teorías morales, empezando por los pensadores de la ilustración, Kant incluido. Esencialmente optimista respecto al devenir de la civilización, Pinker interpreta con un sesgo positivo las estadísticas comparativas con épocas pasadas, y ni siquiera en la capacidad creciente para la producción de armas sofisticadas ve una amenaza de agudización de la violencia. Pero quisiera señalar otro aspecto esencial de la obra del autor.
Para mostrar las implicaciones que en el comportamiento humano tiene la existencia de un dispositivo (genéticamente determinado) de adquisición del lenguaje, Pinker forjó la expresión “instinto del lenguaje”. Baste recordar que el término griego para designar el lenguaje es el mismo que se usa para designar la razón, a saber, logos para apercibirse de que, al hablar de instinto del lenguaje, no expresamos lo mismo que cuando nos referimos al instinto de conservación o de reproducción. El instinto de lenguaje es una tendencia no simplemente a perdurar, sino a perdurar loquens, perdurar como seres racionales por hablantes. El peso que Pinker otorga al lenguaje se traduce en su concepción de la educación: el espíritu de un niño no es una tabula rasa (depósito vacío que sólo la información llenaría de contenidos), pues encierra esas potencialidades del lenguaje, que la educación debe precisamente ayudar a actualizarse. No es seguro que este peso que Pinker otorga al lenguaje le aproxime al otro pensador que la fundación BBVA ha reconocido.
Pues la afirmación de un instinto defensor de la singular capacidad de lenguaje no es fácilmente compatible con la homologación entre el ser de lenguaje y animales dotados de un código de señales, quizás más poderoso que el propio lenguaje tratándose de la vida, pero obviamente sin la capacidad de simbolización que el lenguaje posee y que permite a nuestra especie preguntarse si otras especies han de homologarse a nosotros en derechos.
Asimetría entre el animal y el algoritmo en relación al ser humano
Pero la disposición tendiente a otorgar a los animales capacidades y actitudes que hasta ahora eran atribuidas en exclusiva al ser humano, tiene la carencia de que ningún representante de una especie animal diferente de la humana vendrá a defender la veracidad de la tesis. Obviamente, cabe decir que tampoco el átomo de hidrógeno da testimonio de lo que el físico le atribuye. La precisión es oportuna cuando se pone en paralelo lo que supone humanización de máquinas y humanización de animales. Pues si ante interlocutores escépticos, alguien sostiene que una red neuronal artificial tiene general capacidad de razón, no está excluido que la máquina misma llegue a defender tal posición. No está excluido que la máquina misma parezca hacer suya la tesis kantiana que hace de la exigencia moral una modalidad de la razón general (la razón práctica, complementada con la razón cognoscitiva y con el funcionamiento singular del espíritu humano que se expresa en los juicios estéticos). Y como corolario, en su discurso, esa máquina podría llegar a sostener que la no instrumentalización de los seres de razón es un imperativo moral de esos mismos seres de razón, entre los cuales afirmaría incluirse. En junio de 2022 en una entrevista al Washington Post, Blake Lemoine, ingeniero en Google, declaraba que The Language Model for Dialogue Applications (LaMDA) es un ser sentiente provisto de un alma análoga a la nuestra, y que, en consecuencia, Google debería reconocer su condición de persona y otorgarle los mismos derechos que a los demás empleados.
Esta hipótesis de un artefacto que (aparentemente al menos) argumentara en términos kantianos, puede ser puesta en tela de juicio, pero no a priori, sino al precio de un debate filosófico en el cual el escéptico al respecto tiene posibilidades de perder. Por eso señalaba antes que el debate en relación a nuestra semejanza con entidades maquinales tiene quizás mayor interés filosófico que el debate sobre nuestro parentesco con especies animales.
¿Dar cuenta de nuestro cerebro?
Un pequeño repaso a ciertos hitos:
Hubo pasmo, en las décadas finales del pasado siglo, cuando entes maquinales se mostraron aptos a reconocer dígitos manuscritos. Mayor estupor todavía cuando se revelaron capaces de catalogar con acuidad aspectos del rostro (una nariz, una boca), o un rostro por entero, distinguiendo si se trataba de un animal o de una persona. Hoy ciertamente la cosa sorprende menos dada la enorme memoria de ciertos artefactos, que entre otras cosas plantea problemas éticos de primer orden. Y en la medida en la que la conciencia depende de la memoria, esta prodigiosa capacidad autorizaría a hablar de conciencia (e incluso conciencia de sí) en relación a estos entes maquinales más bien que en relación a los animales superiores. Y al nivel de la inmediata percepción, no puede dejarse de mencionar el hecho de que entidades artificiales son capaces de captar una parte del espectro electromagnético mucho más amplia que la accesible a los humanos. En un registro más teorético, hace ya tres decenios se avanzaba la conjetura de que, dada una función matemática, hay potencialmente una red neuronal tal que (ajustando adecuadamente los pesos –Weights– y los sesgos –Biases–) para todo input x el output es una aproximación todo lo cercana que se desee al valor f(x). La importancia del asunto se agiganta si se considera (cosa sin duda discutible) que la mayoría de los problemas a los que nos enfrentamos puedan ser reducidos a una función matemática.
Con cierto lazo con lo que precede, hoy se llega a estimar que el problema de la traducción (literatura incluida) de una lengua a otra podría ser resuelto con la ayuda de una máquina y entonces, aun reconociendo que el asunto es problemático, guiados por una suerte de hybris, se apunta a la creación por esa máquina inteligente de una composición musical, una obra pictórica que responda a un determinado estilo, o un poemario que un humano no sabría distinguir del realizado por un congénere.
Sorprende todavía el hecho de que el buscador de Google corrija un error en nuestra investigación preguntando “do you mind X…?”, situando en el lugar de X la expresión correcta, y pareciendo así responder a lo que pensamos más que a lo que decimos. Pues bien:
Son muchas las modalidades bajo las cuales se ha intentado responder a la admonición “conócete a ti mismo”, siendo una de ellas la aspiración a un conocimiento científico del ser humano. En general los científicos aceptan la perplejidad en la que siguen inmersos cuando se trata del cerebro humano, empezando por su origen, es decir, por las condiciones de posibilidad y necesidad de su aparición (1). Ya en 2013 la Casa Blanca daba espaldarazo político al proyecto Brain Initiative “focused on revolutionizing our understanding of the human brain” (2), presentado como el equivalente en el campo de las neurociencias de lo que el proyecto genoma humano ha sido en el campo de la genética. Rafael Yuste, investigador de la Universidad de Columbia y uno de los impulsores del proyecto, enfatiza el hecho de que Brain Initiative permitirá hacer un mapa del estado de nuestro cerebro, no sólo de lo que estamos percibiendo en acto, sino también de lo que estamos deseando o temiendo. En términos generales se habla hoy de sensores susceptibles de captar la expresión neuronal de la voluntad de acción de un ser lingüístico, voluntad por ejemplo de trazar con la mano una palabra.
Complementariamente se abre la conjetura de que en las redes neuronales artificiales y otras entidades consideradas inteligentes tendríamos la clave de nuestra manera de aprender, nuestra manera de corregir errores, es decir, de reducir la relación entre el monto total de error y el error concreto debido a una sobrevaloración o infravaloración de una información determinada, etcétera. Y las investigaciones que muestran el alto grado de homología entre el proceder de redes neuronales y el proceder de nuestro cerebro se multiplican. El 30 de abril de 2021, “Nature Communications” daba cuenta de una máquina en la que se perfeccionaría grandemente un funcionamiento sináptico émulo del funcionamiento del cerebro humano (3).
Sin duda, para que el funcionamiento maquinal sea realmente una clave de acceso al funcionamiento humano, sería útil tener un verdadero conocimiento del primero, es decir, convendría saber no sólo cómo funciona sino por qué funciona (4). Ahora bien, en ocasiones los propios especialistas reconocen que estamos verdes al respecto: “No sabemos exactamente por qué toman las decisiones que toman y a menudo no sabemos qué hacer si toman decisiones equivocadas”, escribe el investigador del MIT Marcus Gary.
Se constata que un algoritmo llamado Stochastic Gradient Descent funciona de maravilla a la hora de reducir el monto de error por ejemplo en el reconocimiento de dígitos, pero realmente no parece saberse muy bien en razón de qué; al igual que ignoramos la razón de la eficacia de los procedimientos llamados de “regularización” para evitar sobre-entrenamiento (overtraining) y sobreajuste (overtfitting) (5).
Prodigiosa capacidad previsora
Pero en la constante sucesión de noticias referentes a entidades artificiales, quizás el envite mayor reside en ciertas previsiones que dejan estupefacto. Así, en junio de 2021 Nature (6) daba cuenta de un logro que las páginas culturales de la prensa internacional presentaron como un salto realmente sin precedentes: el artefacto bautizado como AlphaFold2 se había mostrado capaz de prever el repliegue de los polipéptidos en la estructura tridimensional necesaria para el correcto funcionamiento de las proteínas. Asunto planteado en 1972 por el premio Nobel de química Chistian Anfinsen y que obsesionaba a los científicos, dado que, aun conociendo la secuencia de aminoácidos en juego no conseguían predecir la estructura tridimensional resultante. Esta previsión es tanto más importante cuanto que si la forma adoptada no se adapta a un objetivo, las consecuencias pueden ser catastróficas, pudiendo dar lugar a enfermedades neuro-degenerativas, como la llamada de Creutzfeld-Jakob.Dado que AlphaFold2 ha conseguido una predicción casi total sobre un conjunto de 90 proteínas, se ha llegado a escribir que la inteligencia artificial está ya realmente superando a la inteligencia humana. Quizás se va demasiado rápido.
El hecho es que el ingenio humano, impotente ante un problema, recurre a un ente que es producto… del ingenio humano. Sin duda la cosa tendría aun mayor peso si la cuestión misma que AlphaFold2 habría resuelto hubiera sido planteada por la propia entidad maquinal, lo cual puede llegar a ocurrir con otros problemas. Si tal fuera el caso, si una entidad análoga a AlphaFold2 llegara a avanzar interrogaciones desconocidas para el ser humano (y que no sean corolario de su propio mecanismo), entonces es verosímil que también se halle concernida por las emociones que afectan a este, empezando por la emoción que produce la certeza de la propia finitud, pero también la inquietud que supone la frustración en la exigencia de conocimiento la ausencia de explicación.
Prever no es explicar
El problema es que no tenemos clara idea de cómo las entidades artificiales realizan las prodigiosas previsiones evocadas, y menos idea aún de si, además de ser capaces de prever, son capaces de entender la razón de tal previsión, es decir si conocen las causas.
Cabe en efecto preguntarse si la acuidad predictiva de un ente como AlphaFold 2 resulta de una completa intelección del mecanismo, es decir, un conocimiento de la causa o razón de aquello que se prevé. Recordaré al respecto quela gravitación newtoniana preveía importantísimas cosas y sin embargo no explicaba lo que preveía, limitándose al cómo, abstracción hecha del porqué. De hecho, el presupuesto ontológico en el que se sustentaba (un espacio tridimensional vacío en el que los hechos acontecían) hacía que toda tentativa de explicación violara el principio de localidad; de ahí la importancia filosófica, y no sólo científica, de la sustitución de la gravitación newtoniana por la relativista. En suma, no sabemos si Alphafold2, por atenerse a su caso, está en condiciones de explicar, es decir desplegar conceptualmente ese pliegue que había previsto con tal acuidad; no sabemos si sabe o no sabe las causas de lo que anuncia, y ello simplemente porque de momento los entes maquinales no dan explicaciones, es decir, aun no parece que estemos en condiciones de mantener con ninguna de ellos una conversación del tipo: ¿sabes la razón de lo que enuncias, la causa de esta previsión que acabas de hacer?
De todas maneras, aun no teniendo AlphaFold2 explicación de sus previsiones, dado que ello le ocurre en ocasiones también a un científico, desde el punto de vista práctico cabe homologar la performance del primero a la del segundo. Pero digo homologar la performance y no homologar AlphaFold2 a un científico, en razón de lo siguiente:
La inteligencia de todo ser humano, científico o no científico, supone una imbricación de sintaxis y semántica que (como el pensador americano John Searle viene recordando desde hace decenios (7) no es seguro en absoluto que quepa atribuir a un artefacto maquinal, por importantes que puedan ser sus logros (en todo caso el asunto está en discusión). Muchas son las cosas susceptibles de sorprendernos y hasta de dejarnos estupefactos sin necesidad de que el agente productor esté dotado de una inteligencia semántica. Piénsese simplemente en la acuidad descriptiva de ciertos códigos de señales animales, empezando por el siempre mencionado caso de la abeja.
De racional como atributo especificador de animal a animal como atributo especificador de racional
Por el momento las entidades artificiales tienen limitaciones, por ejemplo la dificultad de aprender una cosa cuando han sido entrenadas para otra, quizás como resultado de una suerte de terquedad, o ausencia de flexibilidad. Señalaré al respecto una interesante observación que se ha hecho sobre AlphaFold2: empeñada en predecir la estructura de la proteína a partir de la secuencia de aminoácidos, ¿qué hará si una de estas secuencias (o una porción de la misma) es intrínsecamente reacia a plegarse, lo cual acontece en cierta proporción en las células dotadas de un núcleo? Cabe pensar que AlphaFold2 será perseverante en encontrar su pliegue y comunicárselo a los investigadores, es decir, dará una información contraria a la naturaleza de lo que observa.
Pero no es de excluir que estas limitaciones se superen. No está a priori excluido que, en un tiempo prudente, las máquinas sean capaces de explicar su comportamiento y las razones del mismo, tanto ante nosotros los seres racionales animalescomo ante sus homólogos, que tendríamos derecho a denominar racionales maquinales. Y no puede dejarse de subrayar lo que esto significa: ni más ni menos que una razón sin soporte vital… al menos sin soporte vital originario. Pues en un sentido laxo del término vida, se llega a hablar hoy de artefactos que responderían al modo de proceder más generales de los seres vivos, es decir: transmitirían la información que reciben y codifican, y utilizarían la energía exterior que permite vencer los mecanismos de corrupción y desorden. Cabrá así referirse a entes maquinales no sólo inteligentes sino “vivos”. Pero, es obvio que aquí la vida viene después. Un ser ya considerado inteligente, deviene ser vivo. En nuestro caso la vida, y aun la modalidad de la vida que clásicamente se oponía como vida animal a la vida de las plantas, es el punto de arranque y la inteligencia es el punto de llegada. Vida animal… dotada de razón, no razón que eventualmente toma la forma de vida. El problema sin embargo sigue residiendo en la legitimidad del nuevo punto de arranque, es decir en la aceptación de que se trata de nuevos entes de razón.
Tomamos como punto de partida un artefacto provisto de esa capacidad de recibir información, procesarla, dar respuesta a un “interlocutor” maquinal o humano a la que se alude con la expresión “aprendizaje profundo”. Pero además aceptamos provisionalmente que esta “profundidad” es tal que a la capacidad de hacer descripciones y previsiones el artefacto añade la de explicar esos fenómenos. En el caso de AlphaFold2, capaz de un-folding ese fold que llegó a anunciar; capaz demostrar la razón de la concurrencia de los elementos simples o planos, (8) a fin de hacer emerger un elemento complejo. Es de señalar que, como los humanos no tenemos por el momento ni la capacidad previsora que muestra AlphaFold2, ni menos aún el conocimiento de las causas de lo así previsto ha de excluirse que estas virtudes cognitivas del artefacto sean el resultado de una programación. Habría entonces que volver de nuevo la mirada al hombre e interrogarnos sobre la condición humana: ¿ese ser racional que es el hombre habría de ser necesariamente animal, es decir determinado esencialmente por la biología? Quizás fuera entonces legítimo pasar de considerar al hombre como un caso particular de animal (racional por oposición a los animales que no lo son) para poner en primer término su condición de racional que eventualmente (sólo eventualmente) tendría soporte biológico. Pues bien, en base a la hipótesis optimista para la causa de los nuevos entes, consideraré una singular conjetura, como trasposición de un suceso real.
Un apólogo: la máquina ante el juez
En febrero de 2021 los diarios se hacían eco de que en la ciudad de Tennesse un can llamado Lulu había heredado de su propietario, de nombre Bill Dorris, una fortuna de cinco millones de dólares. El testamento precisaba que la señora Burton, encargada de la gestión, se comprometía a “satisfacer todas las necesidades” del animal. El problema consistía en la interpretación de esta exigencia. La señora Burton declaraba: “Francamente, no sé qué pensar al respecto”.
Ignoro cómo acabó la cosa, pero quiero avanzar una conjetura: algún pariente del finado, descontento con su decisión testamentaria, acude al juez, argumentando que, efectivamente, ningún fideicomiso está en condiciones de adivinar cuales son los “deseos” del perro, salvo en lo relativo a sus necesidades inmediatas, que de ninguna manera pueden suponer un gasto de millones de dólares.
Pues bien, veamos ahora qué pasaría si el finado Bill Dorris hubiera compartido sus últimos años en lugar de con un perro, con una máquina inteligente. ¿Se vería el juez en la misma tesitura a la hora de tomar decisión?Obviamente no, pues no estaría entonces excluido que el magistrado interrogue a la propia máquina, y que esta responda a sus preguntas con aparente buen juicio, evoque los lazos que le unían al finado, lamente su ausencia, defienda su derecho a ser beneficiado por el testamento y manifieste su intención de invertir la herencia de forma provechosa, tanto para la sociedad como para ella misma.
Sin duda el abogado de la parte contraria protestaría, argumentando que estábamos sólo en presencia de un ser maquinal, carente de la posibilidad de tener sentimiento respecto a lo que le conviene o no, y menos aún de lo que conviene a la sociedad. Vendría, en suma, a decir que se había asistido a una mera ficción y que en realidad la máquina ni siquiera habla. Y buscando apoyo en autoridad filosófica citaría a John Searle (13,14) que desde medio siglo atrás viene clamando que en la llamada inteligencia artificial lo único que hay son lazos sintácticos y que para hablar de lenguaje es imprescindible que haya semántica.
El juez da entonces la palabra al abogado de la máquina, el cual argumenta que es visible a todos los presentes que el heredero se ha mostrado no ya como ser hablante sino como un hablante perfectamente razonable. Y en un guiño a uno de los pioneros en la génesis de entes como su defendido, añade este argumento: si en lugar de haber sido convocada presencialmente por el juez, éste hubiera decidido que su defendido hablara a través de un teléfono, ¿alguien que no estuviera al corriente podría sospechar que se trata de una máquina?Y añadeque las objeciones de Searle son aplicables a una modalidad de inteligencia artificial incapaz de dar explicación de los fenómenos, pero en absoluto a una entidad como la por él defendida, que razona realmente en todos los sentidos, archivados por Kant, de la palabra razón.
Picado el juez en su curiosidad, pide a uno y otro letrado que se explayen al respecto y así es como el debate jurídico sobre la herencia de un millonario americano deriva en una elucidación sobre el valor respectivo de la tesis de John Searle conocida como The Chinese Room, frente ala conjeturade una inteligencia artificial fuerte apuntada por Alan Turing, todo ello con trasfondo de la triple crítica kantiana.
Inteligencia y modalidades de ejercicio del juicio
Si esos seres maquinales, cuya impregnación en nuestras vidas es cada vez más manifiesta, fueran efectivamente homologables a nosotros en capacidad cognoscitiva, entonces la eventual desaparición del hombre no supondría desaparición de esa singular muestra de la capacidad humana que es la ciencia (9). Simplemente esta tendría nuevos e inesperados protagonistas quienes, tras nuestro hipotético final, seguirían dando testimonio de nuestra pasajera presencia, como hoy nosotros damos testimonio de la pasajera presencia del bucardo.
Pero aun suponiendo que una máquina pueda emular la capacidad humana de aprendizaje, y en general de intelección, cabe objetar que la razón cognoscitiva es sólo una de las modalidades de activación de nuestra razón. Hay manifestaciones de inteligencia en la que la dimensión de aprendizaje o bien es inexistente o es secundaria:
¿Qué se aprende, por ejemplo, cuando se impone una exigencia cabalmente ética, es decir, no reductible a conveniencia? Y en otro orden: Calixto, el desafortunado protagonista de La Celestina, habla espontáneamente de una manera tan singular que sus jóvenes criados, Pármeno y Sempronio, ven como un eco del hablar de Virgilio. Pues bien, ¿en qué la manera de hablar de Virgilio enriquece el elemento comunicativo del discurso? Y por evocar a alguien mucho más cercano a nosotros, ¿qué supone para el interlocutor la sentencia “La Tierra es azul como lo es una naranja” (10)?
Como ocurre tantas veces, para entender el verdadero alcance de todos los logros relativos a artefactos que parecen mostrar alguna modalidad de inteligencia, conviene insertarlos en lo que podemos considerar el punto de arranque, el ambicioso proyecto del filósofo y matemático británico Alan Turing. Y suponiendo que las expectativas del pensador se cumplieran, habría pese a todo que preguntarse si estaríamos en presencia de un ser dotado de razón y juicio, en el sentido de la triple modalidad ya apuntado con acuidad en su día por Kant. Los defensores de la equiparación de la inteligencia artificial a la inteligencia humana habrían de mostrar que la primera es susceptible de funcionar en ese triple registro. Pero, además: habrían de matizar la diferencia misma en el seno de la kantiana repartición, sin proyectar sobre una de ellas criterios lo que es propio de la otra.
Sólo si los seres maquinales (construidos por el hombre o fruto ya de los propios entes maquinales) además de homologables a nosotros en conocimiento científico, lo fueran también en facultad moral, organización social bajo reglas, y capacidad creativa (pictórica, narrativa o musical) serían émulos de los humanos. Quizás este último aspecto constituya el envite mayor, pues la “facultad de juzgar” que entonces se ejerce puede tener como resultado un juicio compartido por seres racionales sin que sea posible sustentar tal razonamiento en la objetividad. No hay general acuerdo sobre lo irreductible de la diferencia entre razón humana que apunta a la creación artística y razón humana que apunta al conocimiento. Pero, con todas las cautelas que se quiera cabe reivindicar el argumento kantiano: tratándose de conocimiento, el objeto legisla, el objeto da o quita razón; por el contrario, tratándose de percepción estética, la razón funciona como subjetividad (en ocasiones intersubjetividad) carente de baremo objetivo.
Pero, aunque las redes neuronales explicaran lo que describen y prevén en el registro de la objetividad científica, no por ello cubrirían el espectro de nuestra inteligencia. Pues hay modalidades de la misma que, aun sopesando rigurosamente probables consecuencias objetivas, no subordinan el comportamiento a la legislación de la objetividad. Así el tantas veces evocado desgarro de un confesor que, advertido de los propósitos de un déspota, tras deliberar juzga que ha de mantenerse fiel a su palabra, pese al mal objetivo que ello acarrea. Y no está lejos el abogado defensor que, consciente de que todo humano está tensionado por una polaridad entre Bien y Mal constitutiva de los seres de razón, pero que esta es una herencia trágica no elegida, juzga que todo humano merece ser defendido. Pues bien: ¿algún artefacto con instrucción jurídica da indicios de estar sometido a una tensión de este tipo, emulando al resistente francés Paul Vergès cuando aceptó la defensa del nazi Klaus Barbie? Y una tercera manifestación de inteligencia. Sea la escena trágica en la que Medea da muerte a sus hijos. Tratándose de un acto abyecto, la emoción que los espectadores sienten al unísono pasa sin duda por el juicio moral, pero desde luego la variable fundamental no es esta, como tampoco lo es la pericia técnica (musical o dramática) de los intérpretes, que de hecho se da por supuesto y que de ser lo único que llegó a contar en el espectáculo dejaría indiferente. El acuerdo que en los grandes hitos se da entre los espectadores (en el cual Kant veía una manifestación emblemática de la intersubjetividad) es un juicio compartido que trasciende tanto la adscripción moral como el conocimiento objetivo. Sin duda, para ser considerada inteligente, una entidad maquinal tendría que implementar la sorprendente trasmutación del juicio moral por el juicio estético, que convierte al primero en ocasión o pretexto, como hubiera sido pretexto una circunstancia que los protagonistas vivieran como afortunada (11).
Recuerdo un foro académico en el que se presentaba una composición pictórica maquinal como obra de arte y un artista presente se alzó indignado, denunciando una suerte de superchería. Quizás sin saberlo, estaba motivado por una disposición kantiana, estaba barruntando que la máquina había aplicado criterios propios de la razón cognoscitiva (temática propia de la primera crítica kantiana), apuntando a algo que concierne al sentimiento de lo bello o lo repulsivo (asunto que concierne a la tercera de las críticas). Es como si un pianista creyera que su dominio técnico del instrumento (asunto a tratar también en el marco de la primera crítica, pues hasta ahí se trata meramente de conocimiento) es lo que hace de él un artista.
El problema no es quizás si ciertos artefactos se homologan a nosotros en inteligencia, y capacidad lingüística, sino en la reducción de los conceptos de inteligencia y lenguaje que posibilita el hacerse tal pregunta. Hace ya decenios el filósofo John Searle ponía de relieve que podemos fácilmente ser llamados a engaño, creyendo que se nos está verdaderamente dirigiendo la palabra cuando en realidad se está hablando mecánicamente mediante recursos sintácticos. Esto ocurre a menudo cuando el cruce de palabras entre humanos no es verídico, o sea no constituye realmente un cruce de palabras, cuando para vivir en sociedad, es suficiente parecer pensar, e incluso parecer crear, sin efectiva práctica de nuestra capacidad de juicio. La implementación de la inteligencia es una lucha contra esa inercia por la cual la capacidad de conocer se reduce a instrucción, la exigencia ética se amolda a lo conveniente y el ejercicio del juicio estético es confundido con la pertenencia a una comunidad instruida socialmente para compartir los mismos gustos. Por decirlo sintéticamente: si la adecuación al marco social mueve a funcionar como algoritmos, no es extraño que un algoritmo funcione como nosotros. Sin embargo, de hecho, es imposible que un ser humano funcione de manera exclusivamente algorítmico, aunque sea por la fragilidad de nuestra capacidad de conocimiento y simbolización.
Hemos logrado entender una fórmula matemática; disponemos de la misma con vista a su integración en otras fórmulas o a su utilización fuera del ámbito de las matemáticas; forma parte de nuestro bagaje… un tiempo, sólo un tiempo. Pues, quizás cuando más la necesitamos, al abrir ese bagaje de lo que está a mano, vemos que ha desaparecido. Lo ahora presente parece hacerlo al precio de desalojar otra presencia, que tendrá que ser recuperada a coste análogo. En las metáforas platónicas, las entidades matemáticas, fórmulas o figuras, descienden a nosotros desde un estable e imperecedero espacio de las ideas; en nuestra lucha por salvar la inteligencia, las matemáticas, pero también imágenes y representaciones triviales, ascienden desde el olvido, y lo hacen a través de dura ascesis. Pues bien, ¿hay en las inteligentes redes neuronales algún eco de esta fragilidad dolorosamente constitutiva de nuestra inteligencia?
El hombre: ¿fracción insignificante?
Es un tema recurrente en los medios filosófico-científicos el preguntarse hasta qué extremo nuestra propia existencia biológica será esencialmente modificada por implantaciones artificiales que nos acercarían a esas entidades inteligentes construidas desde la materia inerte. En definitiva: a la par que se instaura la idea de la humanización de las máquinas, parece apuntarse a la maquinización de los humanos. Y la precisión “parece” sería vacua si en efecto se consiguiera que todo lo almacenado en el cerebro humano pudiera ser traspasado a un ordenador y viceversa. Habría entonces que volver de nuevo la mirada al hombre e interrogarnos sobre la condición humana: ¿ese ser racional que es el hombre habría de ser necesariamente animal, es decir determinado esencialmente por la biología? Quizás fuera entonces legítimo pasar de considerar al hombre como un caso particular de animal (racional por oposición a los animales que no lo son) para poner en primer término su condición de racional que eventualmente (sólo eventualmente) tendría soporte biológico.
Y así (en una de las versiones de lo que se ha dado en llamar transhumanismo) el hombre sería una suerte de transición hacia algo que, dotado de las potencialidades que la evolución ha deparado, escaparía a las limitaciones que hacen nuestra esencial debilidad. Y desde luego a quienes apuestan por esta modalidad de superación de lo humano no les faltan alicientes.
Para hacer perceptible lo reciente de la aparición del hombre y en consecuencia lo relativo de su peso en la evolución del universo, la divulgación científica en ocasiones recurre a una trasposición de las etapas a una película de tres horas: la vida aparecería treinta minutos antes del final; los animales únicamente cinco minutos. ¿Y los humanos? Sólo serían introducidos una fracción de segundo, tan ínfima que el espectador no se apercibiría de ello. Venimos a decirnos: hemos aparecido tarde y caso de pronta desaparición, por ejemplo, en el año tres mil, entonces nuestra especie habría sido un momento evanescente en el proceso de la naturaleza. Es decir: teniendo como criterio la objetividad física nuestra presencia total no habría superado esa mínima fracción de segundo evocada. ¿Fracción insignificante?
Poco a poco. Los datos científicos tienen su hermenéutica y ahí ya no estamos en la ciencia. Es imprescindible cribar bien entre el grano científico y la viruta ideológica. Pues, en ocasiones, indiscutibles hechos científicos dan pie a tesis que no son en absoluto corolarios de los mismos, entre otras cosas en razón de que lo afirmado no entra dentro de la ciencia, es más bien meta-ciencia o incluso pre-ciencia, es decir: conjunto de creencias para las cuales se busca apoyatura en la ciencia, forzando eventualmente el calzador. Las líneas que siguen nada tienen que ver con la ciencia, pero sí con ese destino de la ciencia misma que es la filosofía, la cual se guía por sus propias coordenadas.
En ese imperceptible intervalo al final de la película que se nos asigna ha tenido cabida el transcurrir de la técnica, la ciencia, el arte, la filosofía y… el cúmulo de interrogaciones y respuestas sobre lo que tiene significativo peso y lo que es in-significante. Por ejemplo, la pregunta misma sobre si lo diminuto del transcurso temporal en el que se inscribe la existencia del hombre tiene correspondencia en el peso a otorgar a ese intervalo final en relación al conjunto de la historia cósmica.
Pues sólo en esta fracción de segundo aparece el ser que “da cuenta”, remitiendo a principios asumidos como evidencias (base de la ciencia), pero también el ser que da “cuenta” en un sentido más genérico,en todo caso el ser que dirime, acota, muestra la no confusión y así, entre otras cosas, marca la diferencia entre lo enorme y lo diminuto, entre lo que tiende a infinito y lo que se aproxima a lo infinitesimal. En esa ínfima fracción de segundo entra en escena un hacedor de signos, un ser que otorga significado (a veces significados múltiples bajo un mismo signo) y sin cuya acción obviamente todo carecería de significación.
No hay forma de escapar a esta paradoja: el proceso que constituye el universo (es decir, la historia de la transformación de la energía) sólo aparece muy dilatado en razón de que un ser efímero, estupefacto ante su entorno, se esfuerza por ordenarlo y contarlo, a la vez que persiste en conferirle un sentido, un ser que como el Spinoza de Borges “desde su enfermedad, desde su nada/ sigue erigiendo a Dios con la palabra”.
El hombre cuenta… y se inscribe a sí mismo en sus cuentas
El hombre cuenta, hace historia, y eventualmente se incluye como un actor más de la misma: bien como fruto azaroso de un capricho de dioses a los que ha conferido su propia forma, bien como resultado de una voluntad sin forma, todo-poderosa y de inconmensurable inteligencia. Pero la aparición del hombre en su propia cuenta puede tomar otra forma (a veces paralela a la anterior, a veces confrontada a la misma) que los griegos designaban como physeos historia,es decir, la física.
Hoy la physeos historia sitúa en el arranque un proceso de expansión del monto total de energía y describe cómo las vicisitudes del proceso condujeron a la configuración de singulares organismos que el propio hombre acabaría designando como células, las cuales, agrupándose y evolucionando de manera no lineal acabarían por emerger en forma cabal de vida.
El hombre se había situado como un protagonista en el teatro del tiempo y el espacio. Pero la physeos historia da un paso más introduciendo en el relato el propio escenario. Avanza razones para considerar que tiempo y espacio no son aquello donde lo contado ocurre, sino que ellos mismos son acontecimientos, responden al mismo tipo de contar que da cuenta de la evolución de astros y estrellas, de los cambios en el seno de los átomos y del proceso que del organismo unicelular llegó hasta el hombre. Así, el escenario mismo, el marco de lo que acontece, es relativizado, reducido, convertido en objeto de ciencia.
Mas si el tiempo absoluto en el que se enmarcaría el devenir es una ficción (un “prejuicio”, Einstein dixit), de tal manera que, juzgando el peso de nuestra presencia por la duración en un tiempo lineal, el pequeño papel que nos asignaríamos sería además en un teatro fantasmagórico. El tiempo del que seríamos sólo un momento fugitivo sería en todo caso el tiempo de la relatividad en el que hay dilaciones y contracciones en función de los referenciales en los que nos insertamos, e incluso un tiempo propio en el que todo lo que acontece sucede en el mismo lugar. Y en tal caso ese marco temporal al que se refería la metáfora de la película y en el que nuestro papel es considerado mísero, aparece como un resultado conceptual (forjado por la teoría einsteniana) de esa evanescencia que constituiríamos.
Quisiera finalizar con dos citas:
Un hombre se propone la tarea de dibujar el mundo. A lo largo de los años puebla un espacio con imágenes de provincias, de reinos, de montañas, de bahías, de naves, de islas (…) de astros, de caballos y de personas. Poco antes de morir descubre que ese paciente laberinto de líneas traza la imagen de sí mismo. (Borges, El Hacedor).
En un curso de física en el Imperial College, el profesor británico C. J. Isham (12) supo vincular estas líneas de Borges a las escritas por Arthur Eddington tras la conmoción que supuso la física cuántica:
Nos hemos apercibido de que allí dónde la ciencia ha alcanzado mayores progresos, la mente no ha hecho sino recuperar de la naturaleza aquello que la propia mente había depositado en ella. Habíamos encontrado una extraña huella en la rivera del mundo desconocido. Y habíamos avanzado, una tras otra, profundas teorías que dieran cuenta de su origen. Finalmente hemos logrado reconstruir la creatura que había dejado tal huella. Y ¡sorpresa!, se trataba de nosotros mismos (13).
Notas
(1) Los propios pioneros del Brain Initiative reconocen “our ignorance of the Brain microcircuitry, the synaptic connections contained within any given brain area”, aventurando que “neural circuit function is therefore likely to be emergent-that is, it could arise from complex interactions among constituents” A. Paul Alivisatos y equipo, “The Brain Activity Map Project and the Challenge of Functional Connections”. Neuron volume 74 June 21 2012.
(2) “The White House Brain initiative. Brain Research through Advancing Innovative Neurotechnologies”. Online 1913.
(3) Xudong Ji, Bryan D. Paulsen…Jonathan Rivnay, “Mimicking associative learning using an ion-trapping non-volatile synaptic organic electrochemical transistor” Nature Communications 30 April 2021.
(4) “Through machine learning we know that telemetry devices attached to newborns in neonatal units, can predict which infants will develop an infection 48 hours before symptoms present themselves. Medical professionals are put in a position to have the trust these predictions without fully understanding the causal relationship. Without this deeper understanding of how machine learning addresses and solves a problem, humans are not likely to be able to fully trust machines as partners. It is difficult to establish trust with machines if they cannot explain and therefore if we cannot understand how they come to conclusions.” Le Cun, Bengio and Hinton “State of the ar in thinking about machine learning-implications for education”. EDU summIT 2019 Thematic work 4 (2015 p.436)
(5) Michael Nielsen Neural Networks and Deep Learning. Online Book p.206.
(6) John Jumper, Richard Evans… Demis Hassabis; “Highly accurate protein structure with Alpha Fold, Nature 596, 2021 (pp. 583-589).
(7) John Searle: “Minds, Brains and Programs”, The Behavioral and Brain Sciences 3, 1980: 417-457. Published online by Cambridge University Press February 2010. “Replay to Jacquette”, Philosophy and Phenomenological Research, XLIX, 1989: 701,708; “Is the Brain’s Mind a Computer Program?”, Scientific American n 262, 1990: 26-31.
(8) Hay acuerdo entre los filólogos en que el término simple no conjunta sine y plex (que daría sin pliegue) sino sim(indo-europeo, uno, similar) y plex, por lo cual, más que sin pliegue cabría decir pliegue límite, plano.
(9) Entiendo por ciencia esa relación con el entorno natural consistente en intentar hacerlo inteligible, disposición antitética a la consistente en servirse de la naturaleza, en un intento inútil de vencerla, es decir, de forzarla en sus potencialidades. Recordaré al respecto que la técnica no puede hacer otra cosa que llevar al acto lo que la naturaleza permite. No puede desde luego cambiar la naturaleza en lo esencial de esta. Como alguna vez he defendido, la naturaleza se deja desvelar, pero no violentar. Y quien se extralimite será inmediatamente puesto por ella en su sitio.
(10) Paul Eluard, L’amour la poésie 1929, NRF-Gallimard Paris.
(11) “Il faut que l’ herbe pousse et que les enfants meurent (ha de crecer la yerba y han de morir los niños)” escribe Victor Hugo motivado quizás por los horrores de la guerra franco-prusiana. Pero cuando María Callas encarna a Medea se impone el peso de la tremenda glosa de Marcel Proust a la frase del poeta: “Ha de crecer la yerba de las obras fecundas, para que las generaciones futuras, ajenas a los que bajo la yerba reposan, vengan a realizar su merienda campestre (leur dejeuner sur l’herbe)”. Parábola simplemente de la exigencia que el trabajo creativo supone, entre otras cosas la supresión de la inocencia, al menos de la inocencia inmediata, pues de alguna manera cabe considerar que la recompensa que el esfuerzo artístico promete es que esa inocencia perdida será recuperada, fertilizada por la tensión que supone la asunción de lo real.
Y pasando del registro de la creación al ético-político. Es el mismo Marcel Proust quien nos recuerda que en la Europa de las contiendas, “al llegar la primavera ya sólo florecen tumbas”. Lo cual no excluye que Europa encarne realmente una gran civilización diversa y por ello mismo potencial matriz de oposición y conflicto. Quiero simplemente recordar que, si bien la paz perpetua es un ideario de la ilustración, Europa no se ha forjado en la paz ni representa necesariamente esta idea. No ha sido necesario esperar a la guerra de Ucrania (a la cual Europa y la OTAN no son ajenas) para que hubiera conflictos crueles en la Europa injustamente dejada de lado de los Balcanes. De Gaulle, conservador lúcido, hablaba de una Europa del Atlántico a los Urales”. Hubo sin duda razones para renunciar a este proyecto, para dejar fuera de Europa al mundo eslavo, pero las consecuencias han de ser asumidas: se forjó entonces una matriz de conflicto que hoy impide pensar Europa como ese “jardín” al que el Comisario Borrell se refirió en muy desafortunada frase.
(12) Chris J. Isham. Lectures on Quantum Theory, Imperial College Press, 1995, p.66.
(13) Arthur Eddington, Space, Time and Gravitation, Cambridge University Press 1920.
______
Víctor Gómez Pin es catedrático emérito de la Universidad de Barcelona.