Gracias por adquirir este eBook

Visita Planetadelibros.com y descubre una
nueva forma de disfrutar de la lectura

¡Regístrate y accede a contenidos exclusivos!

Primeros capítulos

Fragmentos de próximas publicaciones
Clubs de lectura con los autores
Concursos, sorteos y promociones
Participa en presentaciones de libros

Comparte tu opinión en la ficha del libro
y en nuestras redes sociales:

Explora          Descubre          Comparte

Sinopsis

Vivimos ya en otra realidad. Cualquier concepto de ética tiene que pasar por este nuevo escenario: nuestra relación con las máquinas inteligentes. La aparición de la inteligencia artificial avanzada pone en cuestión la superioridad intelectual de los humanos, nuestra esencia, nuestro lugar en la vida. Este extraordinario libro propone una reflexión sobre una ética para esas nuevas máquinas inteligentes que nos superarán. Ellas tomarán decisiones por nosotros, nos gobernarán. Nuestra responsabilidad ahora es dejarles un buen legado: lo humano.

Gracias al desarrollo tecnológico hemos aprendido a convivir con máquinas que nos superan en fuerza física y en poder de cálculo. Sin embargo, la aparición de la inteligencia artificial supone un nuevo desafío, una ética para nuevos tiempos. Muchas personas prefieren no pensar en este devenir incierto. Cuando su universo cambie, intentarán adaptarse. Ni ahora ni después procurarán entender lo que está sucediendo. Es una pena. Comprender es quizá el mayor reto que un humano puede experimentar.

ÉTICA

PARA

MÁQUINAS

JOSÉ IGNACIO LA TORRE

A todos mis seres queridos

Y a todos los seres éticos

(sean reales o artificiales)

Si la unión de un alma con una máquina es imposible, que alguien me lo demuestre. Si es posible, que alguien me diga qué efectos tendría esa unión.

DENIS DIDEROT,

Éléments de physiologie

Prólogo

Atenea es la diosa griega de la sabiduría, de la justicia, de las artes, de la civilización, de todo aquello que nos hace humanos. La diosa más adorada de la Antigüedad es prolija en responsabilidades. Tiene a su cargo el arado, el trabajo de la lana, los bordados, el fuego, todas las herramientas que nos distinguen como especie. Atenea, diosa virgen por decisión propia, no tiene descendencia. Seamos cautos, debemos proteger su labor.

La versión más aceptada del nacimiento de Atenea es sorprendente. Zeus, el dios supremo del Olimpo, dejó embarazada a la titánide Metis, hija de Océano. Esta profetizó que la criatura engendrada sería más poderosa que el propio dios. Zeus no dudó, mató a Metis y la devoró. Sin embargo, el feto siguió desarrollándose en el interior de su cuerpo. Preso de un terrible dolor de cabeza, Zeus pidió a Hefesto que le abriese el cráneo con un hacha. Así nació Atenea, vestida con el traje de guerra de los hoplitas. Atenea, garante de la reflexión, es también diosa de la guerra y protectora de Atenas.

Más tarde los romanos adoptaron a Atenea con el nombre de Minerva. Esta recibió las preciadas cualidades intelectuales de Atenea y además protegió a la ciudad de Roma.

Minerva-Atenea aúna las artes, la sabiduría y las técnicas de la guerra. El bien y el mal conviven en ella.

En el mundo clásico, la inteligencia viene de la mano de la guerra. La capacidad de reflexionar se viste con un ostentoso casco y una esbelta lanza lista para matar. La razón que justifica esta paradoja parte del hecho de que Zeus, el padre de los dioses y de los hombres, teme haber creado a un ser superior a sí mismo. Sin asomo de duda, Zeus destruye lo que percibe como una amenaza. No importa que ese ser superior pueda ser más inteligente y benévolo que él mismo. Lo relevante del mito de Atenea es que la supremacía intelectual es percibida con terror, incluso entre los dioses más sabios y poderosos. No es extraño que Atenea herede de su padre el poder de destrucción y, nunca lo olvidemos, el don de la reflexión.

No somos dioses, pero sí humanos capaces de crear máquinas que otorgan fuerza, poder, la capacidad de hacer el bien y también de destruir. En el Monte del Olimpo se rumorea que los humanos estamos creando máquinas más inteligentes que nosotros mismos. Solo han pasado unos pocos milenios desde que Zeus actuase tan vilmente. Parece evidente que los mismos temores que Zeus albergó contra Atenea ahora se reencarnan en máquinas que ostentan una inteligencia artificial.

Pidamos a Zeus y Atenea que no luchen, que sean generosos y que transfieran ideales éticos a las nuevas máquinas que los superarán. Máquinas y humanos hemos de convivir. Esperemos que en paz.

El legado de los humanos

Me infundieron voz divina para celebrar el futuro y el pasado y me encargaron alabar con himnos la estirpe de los felices Sempiternos.

HESÍODO,

Teogonía

Los humanos hemos aprendido a convivir con máquinas inmensamente más fuertes que nosotros mismos. Una grúa puede levantar un camión que pesa cuarenta toneladas; una poderosa prensa logra presiones tan brutales que puede transformar carbón en diamante; un potente motor es capaz de mover las hélices del mayor crucero de la tierra para que surque océanos. Los humanos también hemos aprendido a convivir con máquinas veloces, con coches, trenes y aviones que hacen que el mundo nos resulte mucho más pequeño. En tiempos pasados, las personas viajaban por obligación, por necesidad; hoy lo hacemos por placer. Los humanos nos hemos adaptado al poderío físico de las máquinas.

Sin embargo, a los humanos nos cuesta muchísimo cohabitar con máquinas más y más inteligentes. Los primeros coches causaron sensación, los aviones fascinaban a todo el mundo. En cambio, los ordenadores que ejecutan complejos algoritmos nos atemorizan porque parece que pueden decidir por sí mismos y someternos a su voluntad. En el fondo, lo que está en juego es la esencia de nuestra naturaleza.

Si creamos máquinas que nos superan intelectualmente, ¿cuál es el lugar de los humanos?

Es innegable que el progreso trae consigo elementos negativos. Cada logro tecnológico importante que ha alcanzado la especie humana ha provocado periodos convulsos en que los cambios radicales han dañado a una gran parte de la sociedad. El progreso conlleva alteraciones brutales de las estructuras económicas que se traducen en desconcierto, en falta de leyes adecuadas a la realidad y —tal vez lo que es peor— en un terrible distanciamiento entre generaciones jóvenes y mayores. El avance es demasiado rápido. Es cierto que los humanos se adaptan a cualquier entorno, pero solo en su temprana edad. Una vez el cerebro fija sus sinapsis, se hace muy difícil cambiar las pautas aprendidas. De niños, absorbemos como esponjas el idioma que nos rodea, pero, en nuestra mediana edad, somos incapaces de asimilar una nueva lengua y hablarla sin acento. El cerebro se anquilosa, se protege a sí mismo, rechaza la disrupción; no fue preparado para el cambio constante.

Nuestros cerebros no quieren hacer el gran salto, se resisten a aceptar que pueden crear máquinas que razonan mejor que ellos mismos.

Un hecho irrefutable es que los cambios tecnológicos vienen para quedarse. No hay vuelta atrás en el progreso, sea bueno o malo. Cada generación da por sentado que lo conseguido por sus progenitores es un camino de no retorno y, con frecuencia, un derecho adquirido. En las sociedades acomodadas, una gran parte de la población no realiza tareas físicas porque disponemos de potentes máquinas que hacen el trabajo duro por nosotros. Compramos y vendemos bienes que son fabricados por máquinas y traídos a nosotros por otras máquinas. Además, la economía ha dejado de basarse en el trueque de objetos. Hacemos transacciones cuyo único valor es la información. Dedicamos una gran parte de nuestro tiempo y dinero al entretenimiento puro. No nos es necesario caminar largas distancias porque disponemos de máquinas que nos transportan o, sencillamente, porque nos comunicamos empleando teléfonos que codifican nuestra voz en luz láser a través de fibras ópticas. Todo vestigio de la vida primitiva de los humanos ha desaparecido.

Nos hemos acomodado a esta nueva forma de existencia. No creo que las personas que defienden que antes se vivía mejor pudieran soportar sin anestesia un dolor de muelas en la Edad Media. Somos esclavos del confort que nos aporta el progreso. Sí, es cierto, las manzanas no huelen como antes, pero tampoco las vamos a cultivar al campo, ni soportamos el riguroso frío del invierno sin calefacción. Vivimos en un mundo desnaturalizado al que casi nadie quiere renunciar.

No olvidemos algo importante: cada vez somos más longevos en promedio. En Europa, la vida media ha aumentado en unos cuarenta años con respecto a las personas nacidas al principio del siglo XX. En las Américas, en Oceanía, incluso en África las personas han ganado más de treinta años de vida a lo largo del siglo pasado. Es probable que ni este libro ni una parte de sus lectores hubieran podido existir hace cien años.

Todos percibimos que la transición de la máquina fuerte o veloz a la máquina inteligente es un salto brutal. Sin duda, estamos penetrando un territorio desconocido. Los humanos nunca destacaron por su fuerza o por su velocidad, fue su inteligencia lo que les permitió sobrevivir y dominar para bien y para mal a las demás especies. Por lo tanto, la paradoja está servida: si creamos máquinas intelectualmente superiores a nosotros mismos, ¿qué significa ser humano?

¿Somos un eslabón más en una evolución enloquecida que nadie controla? ¿De verdad solo somos eso, un eslabón evolutivo? ¿Es el ser humano un elemento prescindible que tarde o temprano se transformará en algo irreconocible o, incluso, desaparecerá?

Podemos ser más audaces en nuestro razonamiento y especular que sí, por mucho que nos cueste aceptarlo, la especie humana se extinguirá y dejará paso a seres artificiales que nos habrán superado. Es atrevido pensar así. Hablamos de un relevo en nuestra preeminencia, e incluso existencia. La nueva pregunta relevante toma un cariz romántico: ¿qué legado dejaremos los humanos a los siguientes eslabones evolutivos? Esta es una cuestión de fondo que requiere un poco de discusión previa.

Es fácil argumentar que la evolución humana nos ha legado un cuerpo plagado de defectos y dotado de la admirable virtud de autocorregirnos. ¿No es cierto? Nuestra anatomía no es una máquina perfecta, todo lo contrario, está llena de errores de diseño. Un ejemplo obvio es nuestro ojo. Su nervio óptico recoge la señal de la retina y la lleva al cerebro pasando por el interior del ojo. No parece muy astuto el haber desarrollado un nervio que recoge la señal luminosa por delante de las células de la retina y, en consecuencia, tapa la luz que le llega y crea un punto ciego. La evolución ha corregido en parte este error inicial y ha hecho que el nervio óptico sea transparente. Hubiera sido más sencillo tener un nervio que partiera por detrás del ojo, como en un pulpo. Cierto, se podría haber hecho mejor. Podríamos tener una vista más aguda, o podríamos nadar mejor, correr más rápido, saltar más alto. Podríamos ser seres perfectos, pero no lo somos.

El legado evolutivo que hemos recibido parece torpe a primera vista, pero en el fondo es más sutil: el cuerpo humano tiene capacidad de corrección. Si nos cortamos con un objeto afilado, la sangre coagula y la herida cicatriza. Si un virus nos invade, creamos anticuerpos y nos hacemos resistentes a él. Si muere una célula en nuestro brazo, nuestro organismo la repone, o al menos intenta tener una redundancia de células tan elevada que nuestro día a día es indiferente a esas catástrofes microscópicas. Nuestro apreciado cerebro es un magnífico ejemplo de codificación robusta. Sus circuitos realizan las mismas operaciones en paralelo muchas veces para que cualquier fallo de unas neuronas no afecte a las funciones básicas que nos mantienen con vida. Por ese motivo, envejecemos con la plena consciencia de cómo nuestro cuerpo se deteriora.

Se puede argumentar que la aportación de los humanos a la evolución es la inteligencia superior. Los animales sí tienen mecanismos básicos de inteligencia, pero no han descubierto la Teoría de Números, no han creado aviones supersónicos, no establecen razonamientos sofisticados como los humanos. Sí, los animales son listos y usan su inteligencia en su provecho, pero hay órdenes de magnitud entre su nivel de razonamiento y el nuestro. Sin duda, no todos los humanos son capaces de realizar profundas reflexiones, tampoco todas las tortugas son muy astutas. Por favor, nadie debe buscar ideas supremacistas. Eso sería un error. Es una constatación obvia que un recién nacido tiene el potencial de crear una sinfonía, de levantar un edificio, de escribir una novela, de organizar el tráfico de una ciudad o de demostrar el teorema de Fermat (como hizo Andrew Wiles en 1995).

Grandes pensadores han defendido que nuestra inteligencia es todavía más elevada cuando se equipa con ideales éticos. El hombre moderno debería ser más pacífico. En una mente avanzada el bien es obviamente ventajoso. ¿Por qué seguimos cometiendo atrocidades? No es una cuestión sencilla. Se puede argumentar que los humanos nos estamos pacificando. Todas las guerras, todos los genocidios no invalidan el hecho de que, milenio tras milenio, más y más humanos viven en paz. Es apasionante buscar la objetividad en un tema tan espinoso. Lo intentaremos más adelante. La gran pregunta sigue en pie: ¿qué significan los humanos en la historia de nuestro universo?

Podemos ser más humildes, sí, y aceptar que no somos más que el eslabón que nos ha tocado vivir en la historia de la evolución. Somos un estadio más en una sucesión de seres que se adaptan, cambian y se replican. Los humanos hemos logrado algo realmente notable, hemos creado máquinas pensantes. ¿Era este nuestro destino como especie? La nueva pregunta que nos podemos hacer no parece trivial: ¿qué legado podemos o queremos dejar al siguiente eslabón evolutivo, a las máquinas inteligentes?

¿Qué podemos legar a la inteligencia artificial que nos sobrepasará?

Una propuesta tautológica es legarle nuestra inteligencia.

Una propuesta menos obvia: leguemos valores éticos a las máquinas pensantes.

Inteligencias artificiales éticas. Ni más ni menos. De nosotros depende.

¿Podemos codificar valores morales en sistemas de inteligencia artificial? No solo podemos, sino que lo estamos haciendo sin debate previo. Ya existen sistemas inteligentes autónomos que deciden sobre vida y muerte. En un accidente que tenga un coche sin conductor humano, un algoritmo decidirá a quién arrollar. En un programa informático quedó fijada una decisión de vida o muerte. ¿Quién lo programó? ¿Por qué? Hay demasiado en juego para que los humanos no reflexionemos en profundidad sobre el siguiente salto evolutivo que vamos a propiciar.

Este libro propone una invitación a la reflexión sin prejuicios sobre máquinas inteligentes que necesariamente han de ser éticas si hemos de cohabitar con ellas. No podemos no pensar en ello. No podemos reducir todo a intereses puramente comerciales dejados en manos de grandes corporaciones. El debate ético sobre el control del genoma humano debe ser extendido inmediatamente al de la inteligencia artificial. ¿Qué decisiones programaremos en el código fuente de máquinas ultrapotentes y ultraconectadas? ¿Qué responsabilidades se derivan del posible error de un algoritmo mal programado o insuficientemente elaborado?

No es este un texto académico. Todo lo contrario. En ningún momento he intentado ser riguroso, fiel a la literatura precedente o ni siquiera precavido. Se trata de una charla abierta de esas a las que a todos nos gusta entregarnos con pasión. Nos acaloramos, tomamos ejemplos, los discutimos, inferimos altos principios y criterios demasiado dogmáticos, caemos en ideas contradictorias. De cada parte de la discusión salimos más confusos, casi desbordados. Buscamos referentes en el pensamiento que nos ha precedido. Siempre hubo una mente lúcida cuyas ideas toman fuerza justo en estos momentos. La charla vuelve a veces a los mismos dilemas de forma recurrente, porque así aprende el cerebro, de manera no lineal, sin dejar de cuestionar lo antes dicho para reafirmarnos o rebatir lo que ya no parece tan obvio. Seguimos disfrutando de la conversación sin sentir que avanzamos. Sin embargo, eso es falso. La reflexión compartida afina nuestro discurso. Por eso no he querido dejar nada de lado. No importa que nos equivoquemos o que nos adentremos en terrenos pantanosos. Podría haber evitado las ideas cercanas a la ciencia ficción, porque se me antojan superficiales. Pero creo que lo correcto es hablar de todo, con medida y criterio. Podríamos también refugiarnos en palabras técnicas, explicaciones tan correctas como asépticas, tal como hacen muchos informes serios sobre ética e inteligencia artificial, pero eso levanta barreras al pensamiento compartido. Imagino a adolescentes, a personas curiosas, a profesionales del mundo empresarial, ávidos de pensar hacia adelante y veo cómo todos estamos de acuerdo en hablar abiertamente de los problemas que se nos avecinan. La ética de la inteligencia artificial necesita de muchas voces: empresarios, obreros, escritores, científicos, gente mayor, gente joven, juristas, tecnólogos, artistas, periodistas, todos, porque todos sin excepción vamos a convivir con ella.

Este libro brinda una visión moderadamente positiva frente a la irrupción de la inteligencia artificial en todas sus formas. No es nada fácil defender una postura así. La mayoría de los libros de ensayo sobre tecnologías avanzadas y cambios inevitables de nuestras estructuras sociales abundan en el catastrofismo, en la crítica feroz y sesgada, en la falta de rigor sobre la presentación de datos reales. Esta corriente negativa en el discurso intelectual que se ha acentuado durante la segunda mitad del siglo XX ha sido analizada ya como un fenómeno que no es fácil de entender. Afortunadamente, ya son muchos los libros bien construidos que intentan hallar un balance ecuánime con respecto a los cambios tecnológicos que nos invaden. Me sumo a esta corriente minoritaria de pensamiento porque no creo que sea justo caer en ningún tipo de fanatismo, sea pesimista u optimista. Valorar cada opción detenidamente requiere tiempo, profundidad, toma de distancia, equilibrio. Nuestro mundo veloz, inmediato, ávido de juicios tajantes no se siente cómodo ante la reflexión sosegada. La tendencia actual impone que todo deba ser analizado y decidido de forma fulgurante, no tienen cabida las medias tintas. Es una pena. Los humanos han desarrollado la capacidad de apreciar la sutileza, el compromiso con la búsqueda de la verdad, la oposición amistosa. Demos una oportunidad a los valores de la ilustración.

Máquinas interconectadas, inteligencia artificial, ética, decisión, juicio, responsabilidad, nunca tantos conceptos han estado tan entrelazados de forma tan confusa. Navegamos sin brújula.

1

Máquinas sin alma

La máquina ha ganado al hombre.

MAHATMA GANDHI,

All Men are Brothers

Hablar de máquinas con alma puede parecer una provocación. Lo es.

En el siglo XVII, René Descartes propuso dividir el estudio del universo en tres partes claramente separadas: el mundo externo, el alma humana y dios. Su contribución supuso un paso de gigante para el conocimiento del mundo físico porque lo aisló de todo tipo de creencias supranaturales. Descartes nos dijo que era posible estudiar la naturaleza y sus leyes sin entrar en conflictos teológicos. También ofreció un instrumento para avanzar en el conocimiento: el método (Discours de la méthode, 1637). Todo problema debía reducirse a principios básicos tan simples como fuera posible; luego se debían elaborar nuevas verdades sobre ellos; finalmente, se debían reunir las partes del análisis y extraer un conocimiento global sobre el problema inicial. Poco después, Isaac Newton presentó en sus Principia (Philosophiæ Naturalis Principia Mathematica, 1687) los postulados básicos que rigen el movimiento de los objetos inanimados. La hazaña intelectual de Newton es colosal. Él mismo tuvo que dejar de lado sus propios prejuicios. Abandonó, por ejemplo, la idea de que la inercia de las partículas fuera un alma asociada a ellas. El desarrollo tecnológico que nos rodea es fruto de aquellas semillas.

Nuestro conocimiento ha avanzado de forma tan vertiginosa que nos hemos enfrentado a dar el segundo paso en el esquema descartiano. Queremos intentar analizar la esencia del alma humana. Es un problema que muchos pensadores han analizado y para el que se han presentado propuestas diferentes y enrevesadas. El estudio del cerebro también nos ha proporcionado nuevos elementos de comprensión, siempre insuficientes, siempre provocadores. Ahora nos enfrentamos a una idea genuinamente diferente: ¿tal vez no comprendamos el alma humana, pero podemos simularla artificialmente?

Nadie negará que escuchar la voz de una inteligencia artificial que nos susurre sedosas palabras de amor nos puede dejar aturdidos. El oído es el sentido humano más primitivo, el que nos transmite con más fuerza la inquietud o el confort. Decía Friedrich Nietzsche que el oído es el sentido del miedo. Cuando estamos a oscuras, en una noche cerrada o en una habitación sin luz, el oído es nuestro último bastión de protección. Un chasquido puede erizarnos los pelos. Estamos en estado de alerta extrema. Podemos reaccionar a un sonido, huir y salvar la vida. En cambio, cuando alguien nos habla con palabras amables, nos sentimos bien. Queremos escuchar a un buen contador de cuentos, recordamos toda nuestra vida la voz de nuestros padres dándonos las buenas noches, adoramos que alguien nos hable con ternura. Hemos de estar preparados. Poco importa que las palabras que escuchemos por teléfono sean auténticas o sintetizadas por máquinas bien programadas. Aunque todo sea artificial, aunque todo sea mentira, falso e inhumano, las palabras de amor lentas y suaves nos devolverán la sonrisa. Algo, alguien, hace semblante de tenernos en cuenta.

Es más que probable que una generación de sofisticados algoritmos penetrará en nuestra intimidad. Esos algoritmos se convertirán en los compañeros más fieles de personas solitarias o de avanzada edad. De forma casi involuntaria, los humanos empezaremos a hablar con las inteligencias artificiales como si se tratase de personas. Las insultaremos (¿quién no ha insultado a su ordenador?), suplicaremos que nos hagan caso (¿quién no ha suplicado a su ordenador?), serán nuestras confidentes. Si no nos placen, nos divorciaremos de ellas. En ese instante la duda estará sembrada: ¿qué entendemos por alma? No se trata de tener una profunda discusión filosófica sobre la esencia del alma humana. Es más sencillo. De forma coloquial hablamos de alma queriendo decir que somos capaces de hacernos amigos de esa inteligencia, sea cual sea su esencia.

Antes de abordar el delicado tema del alma de las máquinas hemos de recordar el camino que nos ha llevado hasta aquí. En contraposición a inteligencias artificiales probablemente amigas, los humanos empezamos creando máquinas básicas, toscas, definitivamente exentas de cualquier atisbo de moral, máquinas sin alma que sirvieron al bien y al mal.

FUERZA BRUTA

No debemos permitir que se crea que todo el progreso científico puede reducirse a mecanismos, máquinas, engranajes, aunque esa maquinaria también tenga su belleza.

MARIE CURIE, citado por Eve Curie
en Madame Curie: A Biography

Instrumentos

El primer paso en la evolución de las máquinas construidas por los humanos corresponde a la creación de instrumentos que nos ayudaron a realizar tareas básicas.

Una magnífica ilustración de esta idea se halla en la famosa película 2001: una odisea del espacio (1968) de Stanley Kubrick, basada en el relato El centinela de Arthur C. Clarke. Las escenas de esta película ambientadas en el Pleistoceno son muy significativas. En ella, dos tribus de primates pelean entre sí por dominar un territorio. De repente, uno de los monos toma un gran hueso, podría ser el fémur de un animal, y lo usa para asestar golpes. Ese homo primitivo deduce que puede usar el hueso para atacar a sus enemigos. El mono ha comprendido que un hueso es un instrumento de guerra, es un arma que golpea más fuerte que él mismo. La lucha es feroz. No duda. Con un instrumento puede destrozar un cráneo. La célebre escena termina mimetizando el movimiento del hueso en el aire con el de una estación espacial. Allí se prepara un viaje al confín del sistema solar en una nave controlada por una inteligencia artificial. La locura de la guerra se transforma en un elegante vals de Johann Strauss. De nuevo, como si Atenea hubiera participado en el guion de la película, guerra y civilización se dan la mano.

La reflexión que nos brindan Clarke y Kubrick propone una idea clara: crear un instrumento dio lugar a un salto intelectual evolutivo brutal. Merece la pena recordar el juego simbólico que Kubrick y Clarke hacen con un perfecto y misterioso monolito. La presencia de un objeto con forma de un paralelepípedo perfecto coincide con el salto intelectual en el homínido. ¿Se insinúa que una inteligencia superior extraterrestre nos ayuda? Si es así, vale la pena observar que el guion de la película sugiere que el primer uso de la nueva inteligencia que recibe el homo es matar a un congénere. El monolito actúa como centinela de nuestra civilización. Tan pronto como los humanos empiezan a explotar la luna, el monolito es desenterrado y activa una señal con un significado claro: la inteligencia del homo ha llegado a un nivel avanzado. El mensaje es enviado al confín del sistema solar.

Volvamos a la prehistoria. Es válido argumentar que el primer humano del Paleolítico que utilizó el sílex como piedra cortante dio un paso de gigante. Con el sílex nuestra especie humana creó un instrumento que permitía crear otros instrumentos. Empezamos a crear máquinas que crean máquinas. Este salto conceptual añadido a la capacidad humana de colaborar, de cazar en equipo, propició una nueva era en la que los homo empezaron a subyugar a las demás especies.

La evolución de los instrumentos, cada vez mejores, más útiles, más asequibles para todo el mundo, nunca ha cesado. Llevamos tantos milenios diseñando máquinas elementales que nos ayudan en todo que ya no prestamos atención a la maravilla intelectual que ello encierra.

Humanos aumentados

Dotar a un humano de una herramienta es equivalente a aumentar sus capacidades. Un humano con un hacha en la mano es un leñador que consigue madera para calentarse, o es un bombero que puede derribar una puerta y salvar a otras personas de un fuego, o es un guerrero que mata. Un humano con un hacha es un humano aumentado. Una persona que lleva gafas para corregir una terrible miopía puede moverse de forma autónoma, puede curar la herida de otro humano, deja de estar limitada. Una persona que usa gafas es un humano aumentado.

Un humano con un instrumento es un humano aumentado.

El pasado es la historia evolutiva de humanos aumentados en sus capacidades físicas. El futuro está destinado a deparar humanos aumentados tanto física como intelectualmente, viviendo una realidad aumentada.

Vivir una realidad como seres aumentados tiene claras ventajas. Dejamos de depender de inclemencias, no sufrimos terribles dolores físicos, disponemos de más tiempo libre. Los seres aumentados tienen también serios problemas. Sus vidas se apartan de la naturaleza, no saben cómo vivirlas, no logran relacionarse entre sí de forma satisfactoria. Estoy seguro de que cada uno de nosotros se sabe en parte privilegiado, en parte estafado, por el rápido progreso tecnológico que nos engulle.

Máquinas incansables

Los instrumentos básicos tienen una utilidad inmediata. Podemos cortar los alimentos a la hora de comer con cuchillo, pero acto seguido lavamos el cubierto y lo guardamos en su cajón. Un tenedor, un peine, un bolígrafo son instrumentos que usamos puntualmente cuando los necesitamos.

Hay otros tipos de instrumento que funcionan constantemente y que, por lo tanto, nos son útiles de forma continuada. Un ejemplo antiguo es un molino de agua en un río. Aprovechamos la corriente de agua para mover unas aspas que son capaces de hacer otros trabajos. Ese molino puede moler granos de trigo para conseguir harina y hacer pan. La astucia del diseño de un molino reside en el aprovechamiento de la energía que la naturaleza nos brinda de forma gratuita.

¡Atención! Sin casi darnos cuenta hemos llegado a una idea relevante: las máquinas consumen energía.

Si volvemos a la imagen del primate que blande un fémur y ataca a sus enemigos nos percatamos de que toda la energía que proyecta en cada golpe procede del propio mono. Él aprovecha el hecho de que el extremo de un palo en rotación lleva más velocidad, más energía, y por lo tanto causa más destrucción. Pero es el mono el que debe aportar esa energía. Los caballeros medievales que luchaban en duras justas quedaban agotados. Cada golpe de espada que asestaban a su contrincante requería un esfuerzo inmenso.

Parece difícil concebir instrumentos que aprovechen energía externa, no humana, pero no es así. El ejemplo del molino es claro, siempre podemos aprovechar la energía que nos ofrece la naturaleza y reciclarla astutamente en nuestro beneficio. Hace falta ser creativos e inventar la rueda, aspas y sistemas de canalización. Una vez ideado cada uno de los elementos necesarios, construimos una máquina compleja extremadamente útil para aliviar nuestro trabajo.

Un ejemplo de máquina casi incansable es un buen reloj de pared. Esas magníficas máquinas con sus grandes agujas que se mueven haciendo un ruido característico han decorado los salones elegantes durante siglos. ¿Cómo logra un reloj de pared mantenerse en movimiento tanto tiempo? Es sencillo. El reloj se mueve gracias a que un enorme peso pende de un cable conectado a los engranajes de las agujas. La gravedad tira del peso hacia abajo y esa es la fuerza que aprovechamos. Solo es necesario levantar el peso cada cierto tiempo para que el reloj funcione sin pausa. Un reloj de pulsera antiguo también tiene su reserva de energía. Se trata de un muelle. Al dar cuerda a un reloj antiguo, forzamos el muelle. Poco a poco nos devolverá la energía para así mover los engranajes del reloj.

Lo esencial para tener instrumentos incansables es disponer de una fuente de energía. No importa el origen de esta energía; sea cual sea, es útil. Por ejemplo, hace sol, se evapora el agua del mar, llueve sobre un pantano, dejamos caer el agua sobre turbinas, pasamos la electricidad por cables hasta la ciudad, enchufamos un coche eléctrico a la red y cargamos sus baterías, el coche se mueve durante cientos de kilómetros. La energía originada en el sol ha ido pasando de una forma a otra hasta que disponemos de una máquina que la aprovecha para realizar una tarea determinada: transportarnos.

La era industrial

Si tomamos perspectiva, la aparición de máquinas incansables, potentes, que todo lo transformaron para bien y para mal, está asociada a la máquina de vapor. Se atribuye a James Watt, en el siglo XVIII, el construir una máquina ya sofisticada que transforma calor en movimiento controlado. Surge la idea de quemar madera o carbón, calentar agua que se evapora, aprovechar la enorme presión del vapor obtenido. Esta presión, a su vez, mueve bielas, engranajes, mecanismos que producen giros. De esta forma, los humanos logramos construir un telar o una locomotora, fuimos capaces de mover maquinarias pesadas que producían nuevos instrumentos, pudimos transformar el trabajo rudo original en el trabajo de alimentar a las máquinas de vapor.

La rápida transformación tecnológica hacia una sociedad industrial no fue sencilla. Se perdieron oficios, se centralizó la producción de bienes, aparecieron potentes corporaciones que explotaron a sus empleados y estos se organizaron en sindicatos para defender sus derechos. El aire dejó de ser respirable en las ciudades que crecieron desproporcionadamente. Las horas de trabajo se multiplicaron para unos, se redujeron para otros. El dinero en circulación aumentó y las grandes crisis económicas no tardaron en llegar. Ningún dirigente político comprendió el cambio. Casi todos lo sufrieron.

No es injusto decir que todavía a día de hoy vivimos las consecuencias de una transformación industrial de la sociedad hecha a espaldas de criterios éticos. Tampoco sería justo juzgar todo el progreso tecnológico como algo terrible, que hubiera sido mejor que jamás hubiera existido. Todo extremo es incorrecto, desde mi punto de vista.

El aumento en la duración de la vida humana, en el primer mundo, es un hecho incuestionable. La dureza de nuestros trabajos es, en general, mucho menor que la de cualquier trabajador medieval fuera del campo, pescador e incluso artesano. Vivimos más, y más cómodamente. Eso no implica que seamos más o menos felices.

El conocimiento es imparable, los humanos siempre seguirán aprendiendo. La pregunta crucial es cómo debemos gestionar el nuevo saber que vamos acumulando.

En este nuevo siglo XXI vivimos una nueva transformación social. Estamos pasando de la era industrial a la era de la información. Nuestras vidas están dominadas por la gestión de la información. Nuestros datos, nuestro entretenimiento, nuestro consumo es manejado como información valiosa. Nuestras relaciones personales son más y más virtuales porque los medios que usamos para comunicarnos nos lo permiten. Somos seres ávidos de información inmediata, correcta o incorrecta, profunda o superficial, pero siempre insuficiente. Deseamos más y más información.

Nos espera el siguiente paso, la deshumanización del ser humano, de la que hablaremos más adelante.

Máquinas veloces

Hemos construido máquinas fuertes, pero también máquinas veloces. Un coche eléctrico es rápido. De hecho, puede ser rapidísimo. Los motores eléctricos tienen una ventaja sobre los motores de gasolina. Los primeros son más potentes que los segundos a bajas revoluciones, tienen lo que se llama un mejor par motor. Por eso nuestros trenes son eléctricos. Arrancar un tren con gasolina es toda una proeza. Resulta más ventajoso llenar de catenarias las vías de ferrocarril, de tranvía y de metro para poder mover grandes trenes.

Pero un automóvil no puede correr infinitamente rápido sobre la tierra. Si un coche normal acelera hasta velocidades de más de 200 km/h, deja de rodar y empieza a volar. Enseguida nos viene a la mente un coche de fórmula 1. ¿Cómo logran esos bólidos llegar a más de 300 km/h? La razón que permite a un coche de competición mantenerse en el suelo es que va equipado con alerones. Estas piezas están diseñadas para que el aire que incide sobre ellas produzca un empuje hacia abajo que mantiene al coche pegado al suelo. El alerón genera una fuerza que supera con creces a la del propio peso del coche. Un coche de fórmula 1 podría correr boca abajo por un techo, siempre que fuera rapidísimo, porque la fuerza producida por el alerón supera a la de la gravedad. Si, por culpa de cualquier incidente, un coche de fórmula 1 levanta un poco la parte delantera de su chasis, el bólido sale volando. Su alerón ya no tiene la posición correcta para ceñirlo al suelo, todo lo contrario, lo envía hacia arriba. El accidente está servido.

Hay una forma sencilla de comprender que el límite de la velocidad que podemos alcanzar sobre la tierra está en el aire que nos rodea. Sin atmósfera, un coche podría correr a velocidades de vértigo. Para que un objeto pueda escapar de la Tierra es necesario que viaje a unos once kilómetros por segundo. La fuerza de la gravedad es potente, a bajas velocidades un coche siempre iría bien pegadito al suelo. Pero la presencia de aire produce dos efectos notables. Por una parte, el aire frena al coche. Por otra, el aire logra sustentar a objetos. Veamos ambos efectos con más detenimiento.

Las colisiones de las moléculas del aire (principalmente nitrógeno y oxígeno) contra las de la carcasa del coche producen lo que llamamos rozamiento. A mayor velocidad relativa entre las moléculas del aire y las del coche, más fuerte es el rozamiento y más nos cuesta acelerar. La única manera de reducir su efecto es construir coches con una silueta aerodinámica. De esta forma, el aire se desliza con un mínimo de rozamiento sobre la superficie del vehículo. Un buen diseño aerodinámico minimiza el rozamiento, pero no lo elimina. El rozamiento crece con la velocidad del coche. A más velocidad, necesitamos más energía para acelerar. Un coche veloz gasta más gasolina que uno lento porque roza más con el aire.

El segundo efecto del aire es que al pasar por debajo del coche, puede empujarlo hacia arriba. El aire, claro, pasa tanto por encima como por debajo del coche. A altísima velocidad, ambos efectos dominan todo el movimiento y ya no importa que exista la gravedad.

El efecto del aire contra un coche es idéntico al que produce el agua sobre nuestro cuerpo cuando buceamos. Bajo el agua nos movemos con extrema libertad. Podemos sumergirnos, nadar horizontalmente, subir hacia la superficie. Todo es fácil bajo el agua. La gravedad parece no existir. La razón es que las mismas moléculas que nos impiden avanzar nos ayudan a sustentarnos. Para que nos hundamos, el agua se ha de desplazar y eso va en contra del principio de inercia. El agua prefiere no moverse. Como el agua y el cuerpo humano tienen densidades similares, los efectos gravitatorios no son dominantes.

Así nace la idea de construir una máquina admirable: el avión. Volar se basa en aprovechar el empuje que puede hacer el aire por debajo de los objetos que se mueven. Qué mejor que diseñar el ala de un avión como una superficie plana extensa con una curvatura optimizada. El ala nos hace flotar en el aire, siempre que el aire pase por su parte superior a mayor velocidad que por su parte inferior. Si construimos un cajón, sumamos una hélice que propulsa el aire hacia atrás y añadimos alas bien diseñadas, tenemos un avión que vuela. Así funcionan la avioneta de la película Out of Africa, los aviones de las guerras mundiales o los que atraviesan el Gran Cañón del Colorado.

El hombre ha aprendido a liberarse del suelo. Basta disponer de energía y aprovechar el rozamiento del aire. Volamos. Nuestros primeros aviones se alzaron centenares de metros sobre la tierra, nos mostraron la belleza de la naturaleza de una forma que siempre nos atrae. Volar es ser libre. Un hombre que vuela es un hombre aumentado a una tercera dimensión.

Existen otras dos formas de ser todavía más veloces en la tierra, basta mejorar el balance energía-rozamiento. Primera idea: pasar de motores de hélices a motores a reacción. Segunda idea: eliminar el aire.

Un motor a reacción toma gases y los expulsa hacia atrás con una violencia brutal. La tercera ley de Newton dicta que a la acción de lanzar los gases hacia atrás, le corresponde una reacción que empuja al motor hacia adelante. Para que el resultado sea notable, el motor debe ser muy potente y por lo tanto gastará mucha energía. Esta es la base de nuestros aviones modernos. Los hacemos volar a velocidades próximas pero inferiores a la del sonido, que es de 1.235 km/h. Podemos volar más rápido, como lo hacía el primer avión comercial supersónico, el Concord, o como lo hacen los cazas militares, pero máquinas de este tipo son más caras de producir y amortizar, y tienen un mayor impacto negativo en nuestro entorno. A día de hoy, la máquina más veloz conducida por un humano en la tierra es un caza muy especial que alcanzó unos 7.000 km/h. Por encima de este avión nos quedan los cohetes que llevaron a los humanos a la luna. Viajaron a unos 40.000 km/h porque en el espacio exterior no hay atmósfera, no hay rozamiento.

La velocidad de un cohete nos sugiere la segunda idea para viajar rápido, eliminar el aire que nos rodea. Si todo va bien, trenes que viajarán en túneles donde se hace el vacío lograrán alcanzar velocidades comparables a las de los aviones. Nuestros futuros trenes recorrerán Europa de punta a punta en pocas horas o minutos.

Máquinas precisas

Creamos máquinas toscas y máquinas precisas. Un martillo es un instrumento bastante burdo. También lo es un arado, una hoz o un cuchillo. Nos aportan fuerza bruta gracias a que explotamos leyes básicas de la física como la de la palanca. Podríamos argumentar que un molino es una máquina más sutil porque utiliza la fuerza del aire o del agua para generar un movimiento de rotación que nos permite moler harina. Un molino requiere engranajes que han de ajustarse y ser robustos. El perfil de los dientes de estos engranajes ha de estar bien diseñado. Esa necesidad se hace extrema en un reloj.

En efecto, los relojes son máquinas increíblemente precisas. La construcción de un buen reloj es una forma de medir el nivel tecnológico de las civilizaciones que nos han precedido. Casi todas las culturas antiguas lograron medir el tiempo con una cierta precisión utilizando el movimiento de los astros. También inventaron el reloj de agua, la clepsidra, o el de arena. Pero el salto de precisión se produce cuando los humanos introdujeron la idea de utilizar engranajes para transformar una fuente de energía en un movimiento periódico, en un tictac.

La historia de la construcción de los relojes precisos es apasionante y nos llevaría lejos de las máquinas éticas. Baste aquí un esbozo. Un reloj es el paradigma de máquina perfecta, sin alma, precisa, implacable. Los primeros pasos para construir un buen reloj empezaron en el siglo XVIII, gracias al trabajo del artesano John Harrison. La historia de Harrison y su intento de ganar el premio de la Longitud Act, establecido por la reina Anne en Inglaterra, es digna de una lectura detenida. El problema central era que los marineros no tenían ninguna forma fiable de saber su posición en el mar. Podían establecer su paralelo con la altura del sol, pero ningún método permitía saber el meridiano. La Tierra gira sobre su eje y eso hace que veamos como el cielo parece girar sobre nuestra cabeza. Una forma de resolver el problema de la longitud es tener un buen reloj. Si el sol en alta mar está en su cénit y tenemos en la mano un reloj sincronizado con otro reloj en Londres que marca las 4 de la tarde, tenemos 4 horas de diferencia. Eso implica que estamos a unos 60 grados al oeste de Londres (cada hora se corresponde con 15 grados de longitud, dado que un día de 24 horas corresponde a girar una vuelta de 360 grados). Un buen reloj permitiría a la flota militar inglesa navegar de forma precisa. De nuevo, el conocimiento se traduce en máquinas que podemos utilizar para el bien y para el mal.

La lucha por lograr un buen reloj que ayudase a la navegación en alta mar no tuvo cuartel. Los astrónomos buscaron la solución en el movimiento de la luna y las estrellas, mientras que los relojeros buscaron nuevas ideas para construir engranajes que funcionasen sin lubricantes y sin error. Grandes personajes de la historia de la talla de Isaac Newton, Edmond Halley o John Flamsteed participaron en la lucha, pero fue el relojero John Harrison quien construyó el primer cronómetro. Su cuarto reloj presentado al premio, el H4, logró una precisión admirable, cometía un error de menos de 1 s al día.

La llegada de la mecánica cuántica establece los estándares de precisión actual. Tenemos relojes atómicos que tienen precisiones de una parte en diez billones. Podemos colocar relojes atómicos en órbita y crear el sistema de geoposicionamiento GPS. Necesitamos relojes precisos para navegar, para geoposicionar objetos, incluso para tener una sincronización necesaria en los mercados de valores donde se compran y venden acciones. Hoy en día, nuestros mejores relojes cuánticos tienen precisiones de una parte en 100.000.000.000.000.000.000 (un uno seguido de veinte ceros, un milisegundo comparado con la edad del universo). Es una proeza tecnológica que nadie podía imaginar hace un siglo.

La mecánica cuántica está detrás de la gran precisión de nuestras máquinas modernas. Los ordenadores, por ejemplo, emplean un control cuidadoso del movimiento de electrones en los circuitos, de cómo actúan en los transistores, de cómo la información se puede guardar en memorias magnéticas. Hay otros muchos avances conceptualmente profundos asociados a nuestro control cuántico de la materia. Dominamos la naturaleza, que sigue leyes cuánticas, y ahí reside la razón de la enorme precisión de nuestras máquinas.

Máquinas asesinas

Los humanos destruyen a otros humanos. La agresividad, el odio, la necesidad de matar siguen codificados en nuestros genes. El fuerte suprime al débil, ocupa su espacio y se hace con sus recursos. La presión evolutiva por aniquilar a miembros de la misma especie va mermando con el paso de los milenios, pero lo hace tan poco a poco que seguimos siendo un peligro para nosotros mismos y para el planeta Tierra.

No existe un solo avance tecnológico que los humanos no hayamos utilizado en contra de nuestra propia especie. Si un homo antiguo aprendió a golpear con un fémur, lo aprovechó para agredir a sus congéneres. Cuando Arquímedes comprendió leyes básicas de la óptica, supuestamente ingenió espejos ustorios (en la defensa de Siracusa frente a las tropas de Marcelo) que eran capaces de concentrar rayos de luz y quemar las velas de barcos romanos enemigos. El fuego lo utilizamos para arrasar campos, quemar aldeas, levantar piras y matar a los que opinan diferente. La ingeniería ha dado lugar a todo tipo de armas, a cual más letal. La ciencia básica no se queda a la zaga. Con el control de las moléculas, los humanos han envenenado, han creado gases letales. La biología, ciencia de la vida, ha sido utilizada para construir las más terribles armas biológicas.

Las armas son las máquinas sin ética por excelencia.

Pero en este capítulo solo hablaré de una de las armas que el hombre ha construido: la bomba atómica. Comprender el átomo nos ha enseñado a liberar la energía que encierra en su interior y, claro, sin dudarlo un segundo, hemos diseñado la bomba más mortífera jamás empleada contra los humanos.

Los avances en el estudio de materiales radioactivos de principios del siglo XX desembocaron en el descubrimiento de la fisión nuclear. Quisiera rendir homenaje a Lise Meitner, quien junto a Otto Frisch y a la par que Otto Hahn comprendió que un núcleo atómico puede escindirse basándose en trabajos de científicos anteriores. Su investigación nunca recibió un justo y necesario premio Nobel debido al feroz sesgo de género que las instituciones científicas tenían en la primera mitad del siglo XX. Es necesario ensalzar alto y claro el enorme mérito de Meitner para hacer justicia intelectual, porque queda mucho camino por recorrer.

Al producirse una fisión de un átomo, se puede liberar una pequeña parte de la energía de ligadura que mantiene unido a su núcleo. Fue Enrico Fermi quien logró demostrar experimentalmente en 1942 que los neutrones liberados en la fisión nuclear del uranio 235 pueden ser utilizados para iniciar otros procesos de fisión, formando así una reacción en cadena. Cada una de esta sucesión de fisiones libera energía. El proceso crece exponencialmente. El principio lógico para crear un arma totalmente nueva quedó demostrado.

En 1941, el presidente de Estados Unidos, Franklin D. Roosevelt aprobó el célebre Proyecto Manhattan destinado a construir una bomba que aprovechase la energía nuclear. La mayor concentración de científicos de primera fila se dio en Los Álamos, bajo la dirección de Robert Oppenheimer. El primer ensayo, es decir, la primera verdadera explosión nuclear provocada por humanos de la historia, se realizó el 16 de julio de 1945 a las 5:29:45 horas de la mañana en el desierto de Alamogordo bajo los atentos ojos del general Leslie Groves. Ese mismo día Harry Truman anunció a sus aliados Winston Churchill y Iósif Stalin, en la conferencia de Potsdam, que disponía de una nueva bomba de inusitada potencia. La Unión Soviética iba a invadir Japón en agosto. Truman se apresuró y lanzó las bombas en las ciudades de Hiroshima y Nagasaki el 6 y el 9 de agosto de 1945, respectivamente. Rusia declaró la guerra a Japón ese 9 de agosto. Es un consenso entre los historiadores que la bomba atómica no fue utilizada para derrotar a Japón, sino para que Estados Unidos mostrase al mundo su poderío e iniciase la guerra fría contra el bloque soviético.

Es duro pensar que un avance científico tan increíble como comprender el núcleo atómico y las leyes cuánticas que lo rigen tuviera como primera aplicación la muerte de centenares de miles de humanos y condicionase toda la geopolítica posterior. Atenea se vistió con su traje de guerra.

En una entrevista con Roy J. Glauber (premio Nobel 2005 por sus ideas sobre coherencia en óptica cuántica y último científico en vida de la división teórica del Proyecto Manhattan), el problema ético de crear la bomba atómica vibra en todo su esplendor. No es un tema trivial. Glauber explica que muchos de los científicos que trabajaron en Los Álamos defendían que la bomba fuese demostrada en Japón sin causar ninguna víctima. Estos científicos, incluido Oppenheimer, no tuvieron ni voz ni voto en la toma de la decisión final. Es cierto que todas aquellas mentes brillantes trabajaron ávidamente para crear un arma mortífera, alimentados por el temor a que la Alemania nazi pudiera llegar a crear su propia bomba atómica. También es cierto que siguieron trabajando con empeño inusitado incluso después de la muerte de Hitler. La gran mayoría de aquellos científicos no reflexionó en el daño que su creación tecnológica iba a causar, los dominó la necesidad de mostrar al mundo su enorme capacidad intelectual. No fueron conscientes de que, una vez creada, la bomba dejaría de estar bajo su control. Personajes notables como Hans Bethe o Victor Weisskopf se convirtieron en luchadores empedernidos por la paz. Emplearon tanto esfuerzo en construir la bomba como, después, en que no fuera utilizada. De nuevo una lección ética: los humanos creamos instrumentos que superan el objetivo para el que han sido construidos. Su uso escapa al control de la razón y de la ética.

He querido dar especial énfasis a este apartado porque la lección por aprender sigue en pie. Sinceramente, no creo que la humanidad haya tomado nota de lo que significa desarrollar una tecnología profunda disruptiva. Es probable que nuestros avances actuales en inteligencia artificial tengan terribles derivas. Si no somos educados en nuestros errores pasados, difícilmente actuaremos de forma sabia en el futuro.

Energía

La evolución de las máquinas puede ser entendida como la mejora sistemática en la forma en que manejamos la energía que estas consumen. Cada nuevo instrumento aprovecha la energía de forma diferente, explota las leyes de la física y de la química de una forma nueva, nos abre el camino a idear nuevas máquinas.

Volvamos una última vez al mono que blande un fémur en la película de Kubrick e intentemos analizar un golpe desde el punto de vista de la energía. ¿Por qué es tan letal pegar con un hueso? ¿Por qué es importante que el extremo del hueso sea más grande y pesado, como un martillo? La explicación requiere de un poquito de física. La energía que lleva una partícula en movimiento recibe el nombre de energía cinética. Cuando una partícula choca con una pared, libera toda la energía cinética que lleva. Esa energía cinética se calcula como el producto de la masa de la partícula por la velocidad al cuadrado, y todo se divide por 2. Lo importante es saber que la energía cinética que lleva la cabeza del hueso es mayor si su masa es grande y es mucho mayor si su velocidad aumenta. Al blandir el hueso, el hombre hace que este sea una extensión de su brazo. Cuando golpea, el punto de mayor velocidad es la epífisis del fémur. Esta parte es más pesada. Tenemos un arma, porque la punta del hueso libera una enorme cantidad de energía cinética en cada golpe.

Todo instrumento aprovecha un tipo de energía. En el caso de un martillo, el origen de la energía está en el propio hombre. Pero los humanos han aprendido a aprovechar la energía que nos da una corriente de agua, el viento, el calor geotérmico, las reacciones químicas, los fotones que vienen del sol y, también, el quemado de residuos fósiles que contaminan y esquilman la tierra.

El avance sigue y los humanos hemos aprendido a dominar la materia a nivel subatómico. Tenemos los conocimientos de las leyes cuánticas que describen correctamente el átomo y el núcleo atómico. El control de la energía contenida en el átomo no es sencillo. Hemos logrado crear una bomba nuclear porque basta con iniciar una reacción de fisión en cadena. Es mucho más laborioso controlar esta reacción en forma de central nuclear. Podemos ir más lejos. Tenemos control teórico de las leyes de fusión (no fisión) nuclear. Dos iones de hidrógeno se fusionan en uno de helio, como sucede en el interior de las estrellas, y liberan una cantidad de energía tremenda. Este es el principio de la bomba H, o bomba de fusión. La mayor bomba explosionada por los humanos es la llamada bomba Tzar, que liberó cien millones de veces más energía que la bomba de Hiroshima. Los humanos todavía no hemos logrado controlar esta reacción en provecho pacífico de la sociedad.

Máquinas

Origen de la energía

Azada, martillo, espada

Humanos

Navegación a vela, molino de agua

Viento, agua en movimiento

Péndulo

Gravedad

Coche, motor, avión

Combustión química

Satélite, panel solar

Fotones procedentes del sol

Bombas de Hiroshima, central nuclear

Fisión nuclear

Bomba Tzar, central de fusión

Fusión nuclear

Esta es una lección que no hemos de olvidar. Los humanos han creado máquinas poderosas porque utilizan energía. Pero la energía no es gratis, debe proceder de algún lugar. Si todos conducimos, necesitamos ingentes cantidades de gasolina e inexorablemente consumimos las reservas de residuos fósiles que se hallan bajo tierra. Si una tribu nórdica quería protegerse del frío, quemaba madera y destruía los bosques. Si todos queremos tener mil máquinas que trabajen para cada uno nosotros, ¿de dónde conseguiremos la energía que consumirán?

Nos hallamos en una transición energética importante. El funcionamiento de las máquinas que hablan entre sí, incluyendo todo el internet de las cosas (IOT, internet of things), consume tanta energía como todos los humanos. Ahora ya no basta conseguir energía para calentarnos, para transportarnos o para comunicarnos. Necesitamos, además, alimentar a objetos que se comunican entre sí. Nuestro teléfono habla con una sede central para verificar el correo, sin intervención humana, habla de máquina a máquina y ambas consumen energía.

No es fácil hacer predicciones, pero me atrevo a defender dos ideas. Los humanos aumentaremos nuestro consumo energético de forma sustancial. Gastaremos más, mucho más. Necesitaremos energía para viajar más, para tener aires acondicionados y calefacciones, para alimentar a miles de máquinas por persona que nos asistirán. Devoraremos energía. Esta es la primera predicción. La segunda les va a chocar: resolveremos el problema de la energía. La tecnología progresará de forma imparable. Nuestros sensores se harán microscópicos y gastarán muchísimo menos, reciclaremos energía, aprovecharemos la enorme variedad de fuentes energéticas que nos ofrece nuestro entorno. Habrá coches sin conductor más eficientes, compartiremos recursos, usaremos energía solar, eólica, mareas y todo lo que sea necesario. Nos reproduciremos menos. La tecnología irá superando los escollos de la política e instaurará sus soluciones, de la misma forma que lo ha hecho en nuestras comunicaciones, en eliminar el dolor físico o en entretenernos. La energía no será el problema de los humanos. El problema real —creo— será ético. Nos angustiará saber a quién amamos, quién nos ama, por qué vivimos, qué sentido tiene todo. Pero no me tomen muy en serio. Toda predicción está condenada al error y esta, posiblemente, no será una excepción.

Altius, citius, fortius

Todas las máquinas de las que hemos hablado hasta ahora tienen un nexo común: aprovechan fuentes de energía para realizar un trabajo físico. Cumplen con la locución latina altius, citius, fortius (más alto, más rápido, más fuerte). El molino, el martillo, la bomba, todo se reduce a dotar al hombre de energía más allá de sus capacidades o con perseverancia, como un reloj. Son instrumentos que nos aumentan en nuestras limitaciones físicas. Son máquinas sin alma, son fuerza bruta.

Estas máquinas nos han sido muy útiles, nos han permitido crear coches y transportarnos, nos han dotado de comodidad física, han aliviado nuestras vidas. Pero estas máquinas nunca han sustituido las funciones superiores del cerebro. No hablan con nosotros, no realizan cálculos complejos, no hacen predicciones afinadas, no toman acciones autónomas. Están muy lejos de alterar el concepto de ética. Si los humanos lanzaron la bomba atómica Little Boy sobre Hiroshima, el dilema ético estuvo en los cerebros de los científicos que concibieron el arma, de las personas que dieron la orden, en el coronel Paul Warfield Tibbets (piloto del avión Enola Gay) que escogió el preciso momento en el que dio la orden para activar un resorte letal. La responsabilidad de nuestros actos no se transfiere a los objetos inanimados.

La ética sigue en manos de los humanos, de momento.

Fuerza bruta ejercida por máquinas sin alma, así es la historia de los instrumentos que los humanos han creado hasta el siglo XX. Pero la historia de las máquinas ha tomado un giro inesperado. Las máquinas han aprendido a calcular.

CÁLCULO BRUTO

No creo que haya nada útil y que los hombres puedan saber con exactitud cuyo conocimiento no sea alcanzable si no es a través de la aritmética y del álgebra.

NICOLAS MALEBRANCHE,
De la recherche de la vérité

Los humanos hemos construido superordenadores que realizan más de un millón de billones de operaciones por segundo (un uno seguido de quince ceros). ¿De verdad es posible calcular tanto y tan rápido? Nos sentimos ajenos a ese mundo surrealista donde billones de operaciones por segundo se hacen en silencio, anónimamente, con precisión exquisita. Somos seres anuméricos —odiamos dividir por 7— que viven a caballo de máquinas que saben contar.

¿Cómo y dónde empezó la locura de construir estas máquinas que saben contar? ¿Qué podemos y podremos hacer con ellas? ¿Adónde nos llevarán?

Números

El origen de la computación tiene raíces profundas. Desde los inicios de las sociedades primitivas fue necesario contar para realizar trueques, para dividir el trabajo, para estimar el consumo, para crear instrumentos precisos, para comprender el movimiento de las estrellas. Los humanos necesitaron contar. Para lograrlo, inventaron nuevos símbolos que denotasen cantidades, los números, y aprendieron a manipularlos con el fin de hacer operaciones matemáticas.

Contamos en la base diez que procede de la cultura hindú. Esto significa que operamos con diez dígitos: 0, 1, 2, 3, 4, 5, 6, 7, 8 y 9, tantos como los dedos de nuestras dos manos. Agrupamos cantidades grandes en palabras como diez, cien, mil, millón, billón, todas ellas son potencias de diez. Cien es diez veces diez, mil es diez veces diez veces diez, y así sucesivamente. Otras culturas antiguas contaron en bases diferentes a la decimal. En Persia se utilizó el 60, del que heredamos la forma en la que contamos los ángulos y el tiempo, en minutos y segundos. Los mayas preferían la base 20.

Nosotros contamos en base 10 y damos un valor a cada número en función de su posición. Si tenemos un 2, ese 2 solo vale 2. Pero si tenemos 23, el 2 significa veinte. Por lo tanto el valor de un 2 depende de la posición en la que se halla. Es una maravilla, podemos denotar cualquier número con tan solo diez dígitos jugando con sus posiciones. Veamos un ejemplo en más detalle. Para representar el número diez puedo escribir diez palotes, o puedo escribir «10». De la primera forma escribo diez signos, de la segunda forma, dos signos me bastan. Si escribo cien, tengo la opción de trazar cien palotes o escribir solo tres signos «100». Si quiero representar el número mil, puedo pasarme toda la tarde trazando mil palotes uno detrás de otro o, como hacemos todos, utilizo cuatro símbolos: «1000». Nuestro sistema de notación posicional necesita de un esfuerzo muy pequeño para representar grandes números. Cada multiplicación por diez solo precisa una cifra adicional. Un matemático nos diría que el sistema de numeración posicional solo requiere un esfuerzo logarítmico para denotar un número.

¡Atención! Para que el sistema de contar posicional funcione es necesario inventar el 0, algo nada trivial. Al escribir «207», queremos decir que tenemos dos centenas, ninguna decena y siete unidades. Necesitamos representar la nada numérica. Este gran hallazgo, el número 0, llega a Europa hacia el siglo XII, probablemente también venido de la India. Se considera a Fibonacci como el primer matemático europeo qué empleó el 0. Lo llamó con el bello nombre de figura nihili. El resto de los números, del 1 al 9, fueron escritos anteriormente —por primera vez en Europa— por Gerberto de Aurillac (posteriormente ungido como el Papa Silvestre II) en el Monasterio de Santa María de Ripoll, hacia finales del siglo X.

Hemos creado máquinas que saben contar, y lo hacen muy rápido y muy bien. Estas máquinas tienen su propia forma de hacer operaciones matemáticas elementales. Para ellas lo más conveniente es usar números escritos solo con el «1» y el «0», es decir, en base binaria. El cinco se escribe como «101», porque tenemos 1 vez cuatro, 0 veces dos y 1 vez uno. De la misma forma que añadir ceros a un número en nuestra base decimal equivale a multiplicarlo por diez, en la base binaria cada nuevo cero equivale a multiplicar por dos. Todas las operaciones matemáticas, por complejas que sean, pueden siempre reducirse a operar con unos y ceros. Podemos sumar, restar, multiplicar, dividir, calcular logaritmos, funciones de Bessel o programar a una red neuronal empleando ceros y unos. Los ordenadores, sus procesadores, sus memorias, las fibras ópticas, toda nuestra tecnología actual manipula información basada tan solo en unos y ceros. Por eso el elemento mínimo de información es determinar si el valor de una unidad es cero o uno, llueve o hace sol, cara o cruz, me quiere o no me quiere. Esta unidad mínima de información es lo que llamamos bit.

Quisiera insistir una vez más. La foto que adoramos de nuestra niñez, la misteriosa y profunda Cavatina de Beethoven, la predicción de lluvia para mañana, todo, todo, todo es representado, almacenado y comunicado mediante asépticos bits, ceros y unos. Todas nuestras relaciones, expresar nuestras emociones, todo se reduce a una transmisión de unos y ceros, que nuestro cerebro comprende y dota de un nivel de conciencia humano. De la misma manera que un perfume que nos enamora es solo un compuesto químico, la información que transmitimos es reducible a la matemática de los bits. Es preciso no caer en la tentación de desacreditar o menospreciar este hecho.

Lo humano reside en el procesamiento que hace nuestro cerebro, no en el mensaje, ni en el medio que lo genera, almacena o transmite. Sí, nos puede emocionar un mensaje creado por una inteligencia artificial. Todo consiste en engañar a nuestro cerebro. Se podría argumentar que la tecnología ha restado cierto romanticismo a nuestras vidas.

Ábaco contra humano

Para sumar los humanos pueden usar su cerebro o, si son perezosos y la suma pequeña, pueden emplear los dedos de la mano. Claro que así no se llega muy lejos. ¿Cómo podemos hacer largas sumas de forma rápida y sin equivocaciones? ¿Cómo lograron hacer grandes cuentas los humanos antes de inventar los números y la notación decimal? Inventaron un instrumento de cálculo: el ábaco.

El ábaco es un instrumento antiguo que ayuda a contar. La idea básica es que un ábaco permite hacer operaciones moviendo unas bolitas sobre unas barras siguiendo una pauta similar a como las haríamos de memoria en la cabeza, pero sin perderse. El ábaco procede de Mesopotamia y lleva entre nosotros más de 4.000 años. Ya lo decíamos, la necesidad de contar sin equivocarse es antigua, muy anterior a los números.

Un ábaco permite realizar las cuatro operaciones básicas: suma, resta, multiplicación y división. Los expertos en su uso saben incluso extraer raíces. Hay una anécdota divertida que el célebre físico Richard Feynman (premio Nobel en 1965 por la construcción de la teoría de la electrodinámica cuántica que describe la interación entre electrones y fotones) refiere en uno de sus libros autobiográficos, Surely you are joking Mr. Feynman. Adventures of a Curious Character as Told to Ralph Leighton (Está usted de broma Sr. Feynman. Aventuras de un curioso personaje tal como fueron referidas a Ralph Leighton, 1985). La escena es la siguiente. Feynman fue a cenar a un restaurante en Brasil. Un vendedor de ábacos japonés entró en el restaurante y retó a los comensales a sumar más rápido que él. Feynman aceptó la chanza pero no batió al virtuoso japonés que utilizaba su ábaco con una habilidad increíble. Entusiasmado por su éxito, el japonés fue retando a Feynman a hacer operaciones más difíciles, multiplicaciones y divisiones. A medida que el problema se hacía más complicado, Feynman era más competitivo frente al ábaco. La apuesta emocional era potente: ábaco contra humano. El japonés lanzó un reto final, ¡calcular una raíz cúbica! Alguien propuso que calculasen la raíz cúbica de 1729,03. Feynman sonrió y se puso a pensar. Al poco rato escribió en un papel 12,002 que dejó ver solo a los camareros. Mientras tanto el japonés movía las bolas de su ábaco a toda velocidad. Al cabo de un rato dijo: 12. Los camareros se burlaron de él y le pidieron más decimales. Después de mucho esfuerzo el japonés logró la aproximación 12,01. Feynman ganó el reto holgadamente porque hizo una muy buena aproximación al resultado correcto: 12,00238...

La razón que justifica por qué Feynman superó al ábaco es que, como buen científico, sabía cálculo diferencial. Toda función puede aproximarse en series fáciles de calcular. Con un poco de práctica, no es difícil calcular de cabeza la raíz cúbica de 1729,03. Narra Feynman que, unos días después, volvió a topar con el vendedor de ábacos. Este preguntó a Feynman cómo había logrado calcular aquella raíz cúbica tan rápido. Feynman intentó explicarle la expansión de la raíz cúbica en serie de potencias, pero el vendedor de ábacos dejó de prestarle atención, no tenía interés en aprender matemáticas avanzadas.

Decíamos en el primer capítulo que los instrumentos consumen energía. ¿Cuánta energía cuesta calcular? El ábaco es una máquina que solo necesita de la energía de la mano de su propietario y el consumo que hace su cerebro. Pero eso es mucho. ¡Un ábaco gasta mucha energía para sumar 2+2! Cuanto más complejas sean las operaciones, mucha más energía gastará un ábaco. Este primer instrumento de cálculo es lento, limitado y costoso en su consumo energético. Un ábaco no nos permite hacer complicados cálculos de estructuras arquitectónicas, no sirve para hacer una predicción meteorológica bien afinada, no puede procesar las matemáticas necesarias para llevar a un hombre a la luna. Necesitamos máquinas calculadoras mucho más potentes y más eficientes.

Es curioso pensar que durante muchos siglos las mejores máquinas para calcular no fueron los ábacos. Los mejores procesadores numéricos fueron humanos dotados del don especial de calcular a velocidades increíbles. A menudo se denomina a estas mentes portentosas con las palabras francesas idiot savant (idiota sabio), que también se emplea en un sentido más amplio para inteligencias muy focalizadas en un ámbito concreto pero pobres en los demás. Estas personas capaces de realizar complicadísimos cálculos de memoria fueron de gran utilidad a la ciencia. Por ejemplo, antes de la llegada de los ordenadores, el centro de investigaciones de partículas elementales CERN, situado en la frontera entre Francia y Suiza, tenía una serie de mentes calculadoras como un servicio ofrecido a sus científicos. Cuando estos necesitaban el resultado de un cálculo largo y difícil, podían pedir asistencia a los idiot savants del laboratorio. El advenimiento de computadoras electrónicas terminó con el uso de cerebros humanos como simples instrumentos de cálculo.

Sería injusto olvidar a otro instrumento de cálculo que fue de gran utilidad, que todavía se puede comprar en alguna tienda, pero que ya pocos saben utilizar. Se trata de la regla de cálculo. Un mecanismo sencillo con una regla llena de marcas escaladas en diferentes formas y otra pieza también llena de números que se desliza sobre la primera permite hacer operaciones sofisticadas de forma muy rápida. ¡Algunos vivimos la laboriosa experiencia de calcular logaritmos neperianos con una regla de cálculo! Es la parte más romántica de la aritmética básica. La era de la regla de cálculo se fue para no volver.

Ada Lovelace

Hay un salto de gigante entre un ábaco y un ordenador actual. De hecho, hay dos saltos enormes. Primero, los ordenadores son mucho más rápidos. Aunque a priori no lo parezca, este es el salto menos importante. Segundo, los ordenadores son programables. Esta sí es una idea de tal magnitud que casi se halla fuera de toda escala imaginable: el cerebro humano no tiene por qué dictar todas las operaciones individuales que una máquina calculadora ha de realizar, como sucede con un ábaco. El virtuoso japonés del ábaco tenía que pensar y mover sus manos para todas y cada una de las operaciones que realizaba. Existe un camino nuevo: un humano puede dictar secuencias de cálculos a realizar sin especificarlos uno por uno, puede programar. Todo empezó en el siglo XIX.

Augusta Ada Lovelace (née Byron, 1815-1852) es la figura romántica asociada al diseño del primer programa de cálculo jamás escrito. Ciertos historiadores ensalzan su figura por encima de todas, otros le restan trascendencia. La verdad es que la figura de Ada desprende un magnetismo incuestionable. Antes de introducirnos en su desapacible vida, hemos de rendir homenaje a un artesano que dio un paso fundamental en la historia de la computación. Se trata del constructor de telares Joseph Marie Jacquard.

Un telar permite crear tejidos. La necesidad humana de confeccionar prendas de abrigo, o de ostentación de poder, es antigua. En un inicio, los telares eran manipulados por humanos. Cada patrón que se dibujaba en una tela era creado adecuando las piezas del telar. En el siglo XIX la enorme demanda de tejidos azuzó el ingenio de los artesanos. Así aparece la magnífica idea de Jacquard que consistió en crear un telar que se podía «programar» mediante el uso de unas tarjetas perforadas. De esta forma, la intervención humana para cambiar el diseño de un tejido quedaba reducida a crear la tarjeta perforada correspondiente. El impacto inmediato de la invención de Jacquard fue tener una impresionante eficiencia en la producción de nuevas prendas.

Un inciso. Una vez más, el progreso tecnológico se halla en la necesidad de mejorar un instrumento que ya existe. El relojero Harrison revolucionó la medida del tiempo con sus nuevos cronómetros y, como consecuencia, la navegación de los océanos cambió para siempre. En esta ocasión, Jacquard dio un primer paso en el camino al concepto de programación cuyas consecuencias han cambiado todas nuestras vidas.

El telar programable de Jacquard atrajo la atención de muchas personas. Entre ellas la de Charles Babbage y su amiga y pupila Ada Lovelace. Babbage lanzó la monumental idea de crear un instrumento capaz de realizar cálculos de forma automática. Es difícil no admirar la osadía de Babbage, atrapado en la forma de pensar de la primera mitad del siglo XIX. ¡Crear una máquina calculadora que pudiese atacar problemas de análisis matemático! Su genio no quedó exento de egolatría, de inconstancia, ni de promesas dramáticas no realizadas. Babbage bautizó su nuevo instrumento como la máquina diferencial.

La idea de la máquina diferencial encandiló a Ada Lovelace, única hija legítima de lord Byron, el gran poeta. Abandonada por su padre al nacer, fue educada por su rigurosa, bien preparada y dominante madre, Anne Isabella Noel Byron. Las relaciones entre madre e hija nunca fueron fáciles. Anne Isabella, despechada por el poeta pero adinerada, decidió dar a Ada una preparación extensa y sólida, incluyendo las matemáticas. Ada mostró talento, avanzó, se estancó, volvió a avanzar hasta que alcanzó un nivel semiprofesional en matemáticas. Fue capaz de resolver serios problemas de cálculo, pero no llegó a producir resultados relevantes en la matemática de su tiempo. Su vida fue romántica, como su época, como su padre y como la nueva gran idea de Babbage de construir un instrumento superior a la máquina diferencial: la máquina analítica.

Todo cálculo debería ser ejecutable en la ideal máquina analítica. Toda manipulación de complejas funciones, todo problema matemático conocido debería ser abordable en la futura máquina analítica. Para lograr tan alto objetivo es necesario realizar largas operaciones. Un tipo de cálculo muy frecuente es el que requiere repeticiones. Veamos un ejemplo. Supongamos que deseamos sumar todos los números del 1 al 1000. Una opción sería dedicar horas a sumar a mano toda la serie: 1 más 2 es 3, al que le sumo 3 y llevo ya 6, luego sumo 4 y tengo 10, y sigo sumando todos los números uno a uno. Otra opción es idear una máquina calculadora que sepa sumar números y tenga una memoria. Le podríamos dar las siguientes instrucciones. Necesitamos que nuestra máquina pueda almacenar y sumar dos números que llamaremos A y RESULTADO. Empezamos iniciando los dos números a 0.

1) RESULTADO es igual a 0

2) A es igual a 0

Luego vamos sumando cada número al RESULTADO de la siguiente forma

3) Suma 1 a A

4) Suma A al RESULTADO

5) Si A es menor que 1001 vuelve al punto 3)

Ya hemos terminado. Ya podemos leer el resultado.

6) Escribe RESULTADO

Podemos seguir los pasos de la máquina. Los pasos 1) y 2) solo consisten en empezar con ceros en el RESULTADO y en A. En el paso 3) A pasa a valer 1. En el paso 4) el RESULTADO vale 1. El paso 5) nos devuelve al 3) dado que A es 1, muy inferior a 1001. En la segunda pasada ya tenemos que A vale 2 y el RESULTADO 3. El paso 5) nos devuelve de nuevo al 3). Y así sucesivamente hasta que A sea 1001. Al final de todo el proceso, el RESULTADO será 500500.

En este ejemplo, las instrucciones del 3) al 5) forman un bucle en el que se va aumentando A hasta que llegue a 1000. En cada iteración del bucle sumamos el nuevo valor de A al RESULTADO. Es decir, que nos basta tener una máquina que solo sume dos números. La idea para sumar todos los números del 1 al 1000 es que basta programar a la máquina para que lo haga gracias a ir iterando el bucle.

Programar cálculos es la base del funcionamiento de los ordenadores modernos. Su velocidad es importante, sin duda, pero lo es más el tipo de programas que construimos para que el corazón del ordenador lo ejecute.

Se atribuye a Ada Lovelace la idea de construir el primer bucle programado de la historia de la computación. Ada aceptó traducir un artículo del matemático Luigi Federico Menabrea sobre las ideas de Babbage, y las extendió en lo que llamó «notas». En esas notas se halla la idea del primer bucle. Para ser precisos, Ada describió en la nota G la forma de calcular los números de Bernoulli usando un algoritmo recursivo que funcionaría en la máquina analítica.

Ada quedó fascinada por la visión de máquinas programables, pero su sentido común y profundidad de pensamiento queda reflejado en la siguiente reflexión:

La Máquina Analítica no tiene ninguna pretensión de originar algo. Puede hacer cualquier cosa que podamos ordenarle. Puede ejecutar las reglas del análisis, pero no tiene la capacidad de anticipar relaciones analíticas o verdades. Sus dominios son los de asistirnos para proporcionarnos lo que ya conocemos.

Ada presenta un razonamiento que hurga en el concepto mismo de inteligencia. La máquina analítica no es capaz de creación, ni de deducción novedosa, tan solo puede computar lo que se le ordena. La máquina opera sistemáticamente, pero sin alma. No hay intuición, no hay afán de belleza. Las palabras de Ada son un alegato cuya validez parece contemporánea.

En honor a su trabajo, se dio el nombre de ADA a un lenguaje de programación inventado en MIT en los años setenta bajo un contrato del departamento de defensa de Estados Unidos.

Ada, condesa de Lovelace, falleció a los 36 años tras una dolorosa enfermedad, la misma edad a la que murió su padre. Ada nunca llegó a conocer a lord Byron, dado que este dejó Inglaterra cuando ella era un bebé para no volver nunca más (aunque sí aportó dinero para la educación de Ada y se interesó por sus progresos). Ada quiso ser enterrada junto a la tumba de lord Byron.

Z1

¿Cuál fue el primer ordenador programable capaz de atacar problemas de todo tipo? La respuesta depende de cómo enfocamos el concepto de calculadora de propósito general. Los ordenadores que usamos hoy en día están organizados en una estructura claramente definida: tienen una unidad de control, una unidad de procesamiento aritmético que trabaja en sistema binario, una memoria donde podemos almacenar el programa y las operaciones y, finalmente, dispositivos de entrada-salida que nos permiten introducir datos y leer resultados. Esta estructura fue descrita en 1945 por John von Neumann, un científico húngaro que participó en el Proyecto Manhattan. Allí topó con la necesidad de realizar cálculos muy complejos en procesos de difusión. Él, junto con Stanisław Ulam y Nicholas Constantine Metropolis, idearon un método para usar probabilidades en sus complejos cálculos que recibe el nombre de simulaciones de Monte Carlo y que es extensamente usado hoy en día. Es también John von Neumann el primer científico que escribió los postulados completos de la mecánica cuántica y quien, entre otros campos, hizo aportaciones cruciales en lógica, en álgebras de operadores, en el teorema ergódico, en teoría de juegos y sus aplicaciones a la economía. Sin duda, Von Neumann no fue una mente menor. El premio Nobel Hans Bethe se preguntaba si un cerebro como el de John von Neumann no era una indicación de que existe una especie superior a la humana.

Se suele defender que el primer ordenador programable de propósito general que sigue la arquitectura defendida por Von Neumann fue el llamado Z1, diseñado y construido por el ingeniero alemán Konrad Zuse entre 1936 y 1938. Aquella máquina no era electrónica, sino que usaba elementos electromecánicos. Hacía una operación por segundo. Nuestros superordenadores alcanzarán en breve la inaprensible cifra de un uno seguido de dieciocho ceros (1018) de operaciones por segundo, el reto del exaflop. El salto en potencia de cálculo en menos de un siglo de ordenadores es abismal.

Otro celebrado computador de entre las primeras máquinas electrónicas fue ENIAC, creado en 1943, cuyas iniciales en inglés corresponden a Computador e Integrador Numérico Electrónico (Electronic Numerical Integrator And Computer). ENIAC era un monstruo, una máquina enorme de más de 17.000 válvulas ocupando 167 metros cuadrados. Gastaba tanta energía que la ciudad de Filadelfia, donde se hallaba ENIAC, sufría apagones si el ordenador entraba en funcionamiento. Lo dijimos anteriormente: calcular consume energía. ENIAC podía hacer 300 multiplicaciones por segundo, pero consumía 160 kW de potencia.

En el inicio de la construcción de ordenadores se dio un hecho curioso, nadie sabía para qué servirían las nuevas máquinas de cálculo. La tecnología avanzaba hacia un terreno desconocido. Qué se podía calcular y para qué no eran preguntas banales. El primer gran problema que mostró el potencial de las computadoras fue la creación del censo norteamericano. Contar a los ciudadanos de aquel país no era sencillo. Fue en 1951 cuando se utilizó por primera vez un ordenador como instrumento de cálculo. Ese paso fue significativo, los ordenadores pasaban de los laboratorios a la economía real.

Desde entonces, los ordenadores no han cesado de mejorar. Su potencia de cálculo se ha duplicado cada 18 meses, siguiendo lo que recibe el nombre de Ley de Moore. Todo el progreso se ha basado en integrar circuitos transistores que realizan las operaciones aritméticas básicas. Para mantener el crecimiento de la potencia de los ordenadores, los humanos hemos empaquetado más y más transistores en un chip. Estamos llegando al límite. Los elementos básicos de un ordenador son tan pequeños que la lógica basada en leyes de la física clásica ya no es válida. Necesitamos dar un nuevo salto y construir ordenadores que sigan las leyes de la mecánica cuántica. Pero ese es otro libro.

El lenguaje de los ordenadores

Los ordenadores ejecutan programas que escriben humanos. ¡Pero los humanos han de hablar a los ordenadores en un lenguaje que estos entiendan! Con la construcción de los primeros ordenadores, los humanos se enfrentaron al problema de desarrollar un lenguaje que permitiese dar instrucciones precisas a los ordenadores. Se construyó el primer lenguaje de programación.

Los lenguajes de programación que fueron inventados en los primeros tiempos de la computación, los que les siguieron e incluso los que empleamos hoy en día no son nada parecidos a nuestra forma de hablar coloquial entre humanos. No podemos decirle a un ordenador: «por favor, organiza el funcionamiento de mi empresa». Esas palabras son demasiado ambiguas; hay muchas formas de organizar una empresa, casi todas poco eficientes. Además, la expresión «por favor» no tiene sentido para el ordenador que solo desea recibir órdenes explícitas. Podemos ser más concretos: «lleva todos los libros de contabilidad de la empresa». Esta demanda tampoco es demasiado precisa. ¿Cómo se inserta un nuevo registro de contabilidad? ¿Quién lo hace? ¿Cuándo? ¿Qué hacemos con esos registros? En la práctica hemos de bajar a un nivel más detallado; decimos: «suma la tercera columna de números de la hoja dos y escribe el resultado en pantalla». Esto no es ambiguo, esto es comprensible para un ordenador. Hemos de construir una forma de dictar estas instrucciones.

Los lenguajes de programación se dividen en el nivel de detalle en el que el humano habla a la máquina. Por ejemplo, podemos decir: «suma 10 más 14». Esta instrucción sigue siendo demasiado compleja. Lo que el ordenador entiende es un lenguaje detallado y explícito: «toma el número de la posición de memoria A, toma el número de la posición de memoria B, suma los dos números y escribe el resultado en la posición de memoria C. ¡Pero el hecho de dictar cada paso de este proceso sería un infierno para cualquier programador! Preferimos volver a la idea de decir «suma 10 más 14». La solución es la siguiente. Podemos tener dos niveles de lenguaje, uno de muy bajo nivel con instrucciones detalladas y explícitas como en el ejemplo anterior y otro nivel, más elevado, de instrucciones que los humanos podemos describir fácilmente.

Pensemos en un ejemplo de la vida diaria. Una receta de cocina dice: «prepara un (elemental) sofrito con ajo y cebolla». Para un humano, esa instrucción puede ser suficiente pero no para una máquina. Ella requiere más detalle: «toma una cabeza de ajo del primer cajón, arranca un diente de ajo, pélalo, trocéalo, toma la botella de aceite de la estantería, vierte un poco en la sartén, enciende el fuego, añade los ajos, pela cebollas que están en el segundo cajón, córtalas a daditos pequeños, añade la cebolla a la sartén, remueve poco a poco, cuando todo tome un color dorado apaga el fuego». Ese nivel de detalle equivale a interpretar la receta, a llevarla de un lenguaje elevado a uno detallado. Eso es lo que hacía mi abuela conmigo en la cocina, me daba instrucciones detalladas para que yo cocinase sin error, o con los errores que se perdonan a un nieto.

Pero ¿cómo pasamos las instrucciones que son claras para los humanos a instrucciones que son claras para los ordenadores? ¡Ajá! ¡Podemos escribir un programa que lo haga por nosotros! Estos programas reciben el nombre de compiladores (o una variante llamada intérprete). La idea es brillante, primero empleamos mucho esfuerzo en crear un programa universal capaz de traducir instrucciones escritas en lenguaje humano a instrucciones escritas en lenguaje máquina. Después, este programa se encargará de traducir todos nuestros algoritmos a procesos que el procesador comprende. Una vez escrito un compilador, los humanos nos despreocupamos del lenguaje interno de las máquinas.

La tentación de seguir con las analogías es grande. Puede un empresario decir: «poned al día la contabilidad». En principio sí. Debe existir una traducción de esa frase a muchas horas de trabajo sobre los libros de contabilidad. Otras instrucciones no son tan claras. Por ejemplo, «salid y vended mucho». ¿Cómo se hace algo así? En el mundo de las máquinas, hasta hace poco, las instrucciones debían ser suficientemente precisas para que no hubiese ambigüedad en la traducción al lenguaje máquina. La inteligencia artificial está derribando barreras entre el lenguaje de los humanos y el de las máquinas. Volveremos a ello más adelante.

Varias reflexiones se agolpan en este juego de lenguajes. La primera idea es que los humanos nos relacionamos con las máquinas a un alto nivel, damos instrucciones que entendemos fácilmente. A continuación, las máquinas traducen nuestras ideas al nivel del detalle, especificando cada pequeña operación que debe ser ejecutada. Existe la posibilidad de tener muchos lenguajes de alto nivel diferentes. Así es, podemos programar en Fortran, C, C++, Java, Python, o en lenguajes específicos para tareas concretas que están inmersos en otros lenguajes. Se abre ante nosotros un complejo mundo de lenguajes de programación que pocos dominan y que ha cambiado enormemente a lo largo de las décadas.

Una segunda reflexión. La forma de proceder de las máquinas parece confirmar su ausencia de alma. Aunque sus operaciones sean complejas, el procesador de un ordenador sigue una secuencia exacta de operaciones. No se vislumbra libertad. Este punto no es correcto, podemos introducir azar en la programación. Volveremos a él más adelante.

Una tercera idea. Los programas están escritos por programadores. Su labor no es sencilla. Hay empresarios que creen que el trabajo de un programador no es relevante, siempre se puede sustituir a un analista por otro. Es un error grave. La esencia de que un sistema informático funcione, a día de hoy, depende de la buena preparación de la persona que lo establece y maneja. De la misma forma que preferimos ser operados por un buen cirujano o queremos volar con un buen piloto, no hay duda, también es necesario tener a un buen programador junto a nosotros y comprender todo lo posible su forma de pensar y proceder.

La cuarta observación está ligada a la anterior. Las capas de lenguaje de una máquina calculadora crean una barrera de confianza. Si tomamos un cuchillo, lo entendemos. Comprendemos cómo funciona un molino y, con esfuerzo, un reloj o un coche. Pero eso no es posible con un ordenador. Dejamos de comprender su funcionamiento interno. A partir de ese momento, nuestra confianza se tambalea. ¿Será cierto el resultado que aparece en pantalla? ¿Puede alguien haber interferido en el funcionamiento del ordenador? Por otra parte, nuestras máquinas calculadoras obran maravillas, controlan todo el tráfico aéreo, reconstruyen la imagen de un tumor a partir de señales en una resonancia magnética, son impresionantes.

Solo nos queda una solución, hemos de aprender a convivir con máquinas cuyo funcionamiento no entendemos.

Deep Blue vs. Kasparov

Las máquinas que calculan nos dominan. No hay aspecto en nuestras vidas que no esté condicionado por la intervención de los ordenadores. Si viajamos, compramos los billetes por internet. Si conducimos, las reacciones del coche están dictadas por sensores y unidades de cálculo. Nuestro teléfono no deja de traducir voz e imágenes a bits que envía y recibe. La sociedad del siglo XXI vive a caballo de un enorme, silencioso y ubicuo poder de cálculo.

Sin embargo, muchas personas únicamente otorgan a los ordenadores capacidad de cálculo bruto. Los ordenadores son apisonadoras de números. Craso error. Los ordenadores son capaces de llevar a buen puerto tareas muy sofisticadas. Un ejemplo notorio fue el primer enfrentamiento de ajedrez ganado por un ordenador.

En los años 1996 y 1997, el que entonces era el mejor jugador de ajedrez del mundo, Gary Kasparov, se enfrentó a Deep Blue, un superordenador construido por IBM. El hombre contra la máquina, enfrentados en una lucha intelectual. Ya no se trata de levantar pesos enormes, de moverse rápidamente o de medir el tiempo con precisión exquisita. El ajedrez es un juego de finura intelectual, lleno de estrategia mejorada a lo largo de los siglos. Hay jugadores hábiles en las combinaciones de varias piezas en pocos movimientos, otros son estrategas de largo plazo y condicionan sus jugadas al dominio de un espacio determinado del tablero. El número de posibilidades de las partidas de ajedrez es enorme. En promedio, un jugador tiene unas treinta opciones válidas para realizar su siguiente movimiento. Las posibilidades a explorar crecen exponencialmente. El problema de jugar bien al ajedrez es tan duro que parece imposible. Un buen jugador tiene oficio, y necesita intuición.

¿Cómo se puede programar la intuición?

Deep Blue fue entrenado por grandes maestros. Su algoritmo contenía los dos elementos que se atribuyen a un buen jugador: estrategias conocidas (aperturas, finales, posiciones deseables) y profundidad de cálculo (número de opciones a explorar). Sin embargo, Kasparov disponía de una ventaja humana: estrategia de largo plazo. Es válido decir que Deep Blue podría hacer un impecable uso tanto de sus librerías de partidas como de su poder de cálculo, pero Kasparov sería más listo a largo plazo.

Deep Blue derrotó a Kasparov en el segundo encuentro de 1997, ganó dos partidas, empató tres y perdió una. La máquina superó al hombre en una tarea en la que la visión a largo plazo parecía algo esencial.

Quisiera aquí referir una anécdota personal. Un año antes del gran encuentro entre Deep Blue y Kasparov, fui presentado a una persona relevante en el mundo del ajedrez. Sugerí de forma amistosa pero un poquito provocadora que las máquinas batirían a los humanos en poco tiempo. El ajedrecista montó en cólera: «nunca una máquina podrá ganar a quien la programa». Respondí que no estaba de acuerdo, dado que yo podía programar una máquina para multiplicar números y ¡esta lo hacía mucho mejor que yo! El ajedrecista se ofendió.

Hoy en día, los ordenadores superan a los mejores ajedrecistas sin pestañear. Volveremos a este punto de forma más extensa cuando hablemos de los avances de la inteligencia artificial profunda.

Máquinas que gobiernan a máquinas

La estructura computacional de nuestra sociedad es muy compleja. Hablamos con frecuencia de las tareas que los ordenadores realizan, pero se nos escapa comprender que las máquinas hablan casi siempre entre sí, no con nosotros. Hay máquinas que gobiernan a máquinas, y estas a otras. La telaraña computacional es tupida.

Veamos un ejemplo. Voy en mi coche y veo un atasco. Consulto mi teléfono para averiguar la magnitud de las colas de tráfico y buscar caminos alternativos. Lo que ha estado sucediendo sin que yo me percate es un sinfín de comunicaciones y cálculos de varias máquinas conectadas entre sí. Primero un sistema de satélites en órbita (GPS) ha creado señales con sus relojes atómicos que atraviesan la atmósfera y llegan a mi teléfono. Este procesa la interferencia de las señales y determina su posición. Después envía el resultado a un ordenador central que controla la posición de todos los teléfonos conectados a él. En ese ordenador se calcula la evolución de las posiciones y se detecta qué teléfonos avanzan por calles o carreteras cercanas a mí. Al verificar que las posiciones de los teléfonos se apelotonan, el algoritmo detecta un atasco. Esta información colectiva es enviada a mi teléfono. La leo y me pregunto por qué no he salido antes del trabajo.

Es impresionante. Estamos controlados, supervisados, aconsejados, informados, condicionados por ordenadores que hablan con otros ordenadores. Unos están en manos de personas, otros de instituciones públicas, y muchísimos otros se rigen por políticas corporativas. Se diría que es un caos sin moral al que nos hemos acostumbrado.

El número de máquinas que se organizan en redes superarán con creces al de humanos sobre la tierra. De hecho, los órdenes de magnitud de teléfonos móviles y humanos son equiparables. Los teléfonos son solo una parte del universo de máquinas que nos asisten y controlan, lo sepamos o no.

MÁQUINAS SIN ÉTICA

Las máquinas han alterado nuestra forma de vida, pero no nuestros instintos. En consecuencia, hay un desajuste.

BERTRAN RUSSELL,

Machines and the Emotions

Las máquinas que nos superan en fuerza bruta y en cálculo bruto actúan de forma inexorable. Trabajan siguiendo dictados precisos, con arrogante potencia. Los humanos seguimos fascinados por los instrumentos que hemos creado. Admiramos los avances en los coches de gama alta, queremos poseer el último teléfono inteligente, somos adictos al mundo virtual. Nos rodeamos de potencia extrema.

Pero todo avance tiene un coste.

Declive físico

Una de las perversas consecuencias del progreso tecnológico sobre los humanos es que nuestros cuerpos se han debilitado. Las máquinas hacen el trabajo duro por nosotros y, en consecuencia, nuestros músculos dejan de mantenerse fuertes y se atrofian. Una gran parte de la sociedad se deja llevar por el confort y no sigue las pautas de una vida saludable. La obesidad y la debilidad muscular se hacen la norma.

Este punto es importante porque nos muestra un atisbo de lo que va a suceder a medida que la inteligencia artificial invada nuestras vidas. Seamos precavidos. Consideremos seriamente el declive físico de los humanos que viven en el primer mundo.

Lo confieso: mis brazos no son un portento de fuerza. A pesar de hacer deporte toda mi vida, de haber incorporado el ejercicio en mi día a día, soy un debilucho. Si amaneciese en la Edad de Piedra no duraría ni medio encontronazo con el macho alfa de la tribu. Mi nada fornido cuerpo es una consecuencia colateral del éxito de la ciencia y de los logros sociales alcanzados por la humanidad.

La pregunta natural es por qué nos hemos debilitado. La respuesta es sencilla: ya no es necesario ser fuerte. En nuestra sociedad resulta más ventajoso ser astuto en los negocios, o más arriesgado en decisiones vitales, a la hora de encontrar pareja. Sin duda, la especie mantiene fuertes genes que nos hacen apreciar a un buen ejemplar, una persona fuerte, sana. Pero la presión evolutiva va cediendo poco a poco en este aspecto. Ya no sobrevive con abrumadora probabilidad el más fuerte. Todo lo contrario, hay espacio reproductivo para humanos con otras características. Es más fácil encontrar pareja, por ejemplo, si se es simpático, si se habla con un tono de voz agradable, si se tiene inteligencia emocional que si se es un bruto que se impone por la fuerza.

Hemos creado máquinas que de forma indirecta alteran la evolución de nuestra especie. Las máquinas ostentan la fuerza bruta y, en consecuencia, los humanos no tenemos por qué esforzarnos. Cedemos la capacidad física a las máquinas. La selección natural da resultados diferentes a los que dio en el pasado.

Declive intelectual

¿Estamos también cediendo nuestro espacio intelectual a las máquinas?

Sí, sin duda.

El lector puede hacer la prueba. Divida 512 entre 7 con un par de decimales de precisión. No es una operación difícil, basta seguir las reglas de dividir que aprendimos en la escuela. Sin embargo, nuestra pereza intelectual a la hora de dividir es enorme. Preferimos buscar una calculadora y mirar el resultado que da.

Es tanta la pereza que nos da hacer operaciones aritméticas que muchas personas usan calculadoras y aceptan el resultado que aparece por pantalla de forma indiscriminada. Si una persona comete un error al teclear 512, y escribe 5112, al dividir por 7 la calculadora dará 730,2857. Es muy probable que esta persona crea que el resultado es ese, a pesar de que 730 es mayor que 512, el número inicial que queremos dividir. Una anécdota más. Un día escuchaba la radio mientras conducía. En antena, un célebre cantante dijo la frase: «mi vida ha dado un giro de 360 grados». Eso es dar la vuelta completa y quedarse mirando hacia el mismo sitio. Posiblemente, el cantante quería decir que su vida había dado un giro de 180 grados. La radio y su mundo anumérico es una fuente permanente de sonrisas.

Las máquinas que nos ofrecen cálculo bruto debilitan nuestra habilidad de cálculo. Parece sorprendente que esta merma intelectual sea tan universal y se produzca de forma tan rápida. En el fondo nuestro cuerpo evolucionó para ser robusto y sobrevivir en situaciones hostiles, pero nuestro cerebro le va a la zaga y es reticente a calcular. En tanto que las máquinas nos han liberado de realizar operaciones aritméticas, nuestras mentes se han despreocupado sin ningún tipo de autocrítica.

De nuevo, mantengámonos atentos a la consecuencia de construir máquinas que nos superan. En tanto que logramos instrumentos que son mejores que nosotros, nos relajamos y les cedemos espacio. Aprendemos a convivir con ellos y, sin darnos cuenta, pasamos a depender totalmente de ellos.

Consumo voraz

A la par de un debilitamiento físico e intelectual, las máquinas propician un problema notable: consumimos más y más energía.

Los humanos quieren delegar el trabajo físico y el cálculo en máquinas. Estas consumen energía. El trabajo que hacen también propicia que la especie humana sea más longeva y se defienda frente a peligros. El número de humanos ha crecido notablemente. A más humanos sobre la tierra, más longevos y más activos, mucha más energía es necesaria.

Pero ahí no queda todo. Las máquinas hablan con máquinas y para ello consumen todavía más energía. La vorágine de consumo solo se ve paliada por un aumento notable en la eficiencia de las máquinas. Los coches consumen cada vez menos, los procesadores son más y más eficientes. Las pantallas usan tecnologías de menor consumo. El propio avance tecnológico atenúa el gran problema energético.

El alocado consumo de energía ha dado lugar a considerar (por fin) seriamente el aprovechamiento de energías renovables. El sol es —creemos muchos— un regalo energético. Vale la pena detenerse unos momentos y tomar un poco de sol en nuestras vidas.

El sol nos ofrece dos formas de generar energía. Por una parte podemos utilizar un hecho poco refinado pero útil, la luz que nos llega del sol es captada por objetos que, al hacerlo, se calientan. Hagan la prueba —o, mejor, no la hagan— de tocar la superficie de un coche negro aparcado al sol en pleno agosto. Se quemarán. Los fotones que forman los rayos de luz liberan su energía al ser absorbidos por los átomos de la chapa del coche, estos se mueven y generan calor. Podemos usar este mecanismo para montar un sistema de calefacción. Basta colocar un conducto de hierro pintado de negro, para que absorba la máxima luz posible, y así calentar un circuito de aceite. Este, a su vez, calienta un circuito secundario de agua que podemos usar como deseemos. El sol nos permite ahorrar energía en las casas, en los gimnasios, en cualquier lugar en que se use agua caliente.

Hay una segunda forma de aprovechar la energía que nos regala el sol. La idea es menos obvia. Cuando una partícula de luz, un fotón, choca con ciertos materiales, se produce un fenómeno especial. El fotón transfiere su energía a un electrón que, de esta forma, logra escapar de un átomo. Los electrones liberados forman una corriente eléctrica. Fue Albert Einstein quien comprendió este efecto fotoeléctrico y, por ello, recibió el premio Nobel en 1921 (Einstein nunca recibió un Nobel por la Teoría de la Relatividad). Las placas fotovoltaicas aprovechan la energía del sol y permiten alimentar la red eléctrica.

El voraz consumo energético de las máquinas exige nuevas ideas. Toda nueva forma de generación de energía debe ser investigada. Un paso de gigante para resolver este problema es ahorrar energía y eso, como todo cambio profundo, requiere educación. A los humanos les cuesta equilibrar las leyes de crecimiento económico con las leyes de la naturaleza. Debemos comprender antes de decidir.

Máquinas determinadas

Las máquinas alivian nuestro esfuerzo físico, nuestros cálculos. Insistimos en que gastan energía. Se conectan entre sí y manipulan información masiva. Son eficaces y diligentes.

Diligentes. Esta es la palabra clave. Las máquinas que nos rodean obedecen algoritmos sencillos que determinan cada instrucción que han de realizar. Por ejemplo, en una cadena de montaje de coches, los robots siguen pasos sincronizados siguiendo una secuencia perfecta para realizar agujeros, ajustar partes, verificar que no hay errores. Los robots no han decidido nada. Sus operaciones están determinadas de antemano.

Los robots de una cadena de montaje no tienen libre albedrío. De ahí que nos atemoricen. Una imagen que viene a la mente es la de una máquina fuera de control, matando a humanos de forma tan aséptica como horrorosa. Nuestras máquinas actuales no piensan, no sienten, no temen; simplemente ejecutan instrucciones.

No existe ética asociada a las máquinas. ¿O sí? ¿Está un dron de guerra sujeto a criterios éticos? Ciertamente no. Alguien lo programó y sabía muy bien lo que hacía. Si un dron mata, es porque fue programado para hacerlo.

Las máquinas no tienen culpa de hacer nuestras vidas peores. Somos nosotros quienes las diseñamos, las programamos, las dirigimos, y también quienes las destruimos.

Balance

Podemos intentar hacer un balance de los aspectos positivos y efectos negativos que las máquinas han aportado en nuestra sociedad. La crítica es fácil, el balance honesto nunca lo es porque requiere dejar a un lado nuestros prejuicios.

En la balanza de la vida, las máquinas han aportado la degradación de la naturaleza. Los humanos abusamos de máquinas que esquilman irracionalmente nuestro hábitat. Las corporaciones atienden a sus beneficios, que dependen de sus consumidores. De forma paradójica, los consumidores pueden ser también accionistas de estas empresas y, por lo tanto, comparten la responsabilidad de lo malo que se les está haciendo a ellos mismos. Todos somos corresponsables del deterioro que acarrea el uso de la tecnología, dado que somos sus ávidos consumidores.

Somos colectivamente irreflexivos.

También está en el lado oscuro de la tecnología la inusitada capacidad de destrucción que han otorgado a ciertos gobernantes y señores de la guerra. El peligro nuclear siempre está ahí, agazapado pero en una plenitud que ya nunca abandonará.

Hay aspectos positivos asociados a la tecnología que son obvios. Vivimos de forma más cómoda, controlamos las enfermedades y el dolor, disfrutamos de una existencia más larga. La deriva natural de la sociedad acomodada es perder sus referentes naturales de supervivencia e instaurarse en el entretenimiento. Somos ávidos consumidores de placer.

Somos colectivamente hedonistas.

¿Hubiera sido posible lograr una sociedad tecnológicamente avanzada más justa? Es muy tentador pensar que, con cierto esfuerzo, los humanos serían respetuosos con sus congéneres, no violentos, y serían cuidadosos a la hora de proteger la naturaleza que los alberga. Bastaría con una educación básica que no fomentase odios heredados, que enseñase a consumir con buen criterio, que educase en la decisión. El resto vendría casi solo. Los humanos escogerían a sus dirigentes de forma racional, educada. Querrían ser gobernados por las personas más competentes, capaces de resolver problemas por mor del beneficio colectivo, que siempre redunda en el propio.

Demasiado utópico. La educación ecuánime es una entelequia en la sociedad que nos ha precedido y en la actual. Hay esfuerzos notables para mejorar, pero la libertad individual de opinión y acción sesgada prima sobre el criterio de beneficio común. Posiblemente, esta rebelión contra el establecimiento de una verdad racional es buena. La disconformidad previene las tiranías y equilibra las locuras políticas. La osadía de los más jóvenes es producto de la evolución, por lo tanto debe ser útil.

Hemos recibido avances positivos, negativos, y es posible que conseguir una clase dirigente educada sea ilusorio. Ninguna de estas observaciones evita un resultado clave: la ética es un hecho profundamente individual. Cada uno de nosotros, posiblemente condicionado por los medios y por su entorno, decide a quién creer, a quién votar, qué comer, con quién compartir este viaje.

Tomemos nuestras decisiones, las que sean, pero reflexionemos sobre ellas.

2

Máquinas que parecen inteligentes

Propongo someter a consideración la siguiente proposición: ¿pueden pensar las máquinas?

ALAN TURING,

Computing Machinery and Intelligence

Los humanos ya son capaces de crear máquinas que, o bien son, o bien parecen, inteligentes, todo depende de la definición de inteligencia. Pero definir inteligencia no es algo sencillo.

¿Diríamos que una máquina que calcula logaritmos es inteligente? Creo que todos aceptamos que la respuesta es «no». Calcular un logaritmo no es fácil, pero no encierra reflexión, es un proceso de cálculo matemático sistemático exento de humanidad. Un tema más delicado es lograr que una máquina juegue bien al ajedrez, tanto si es entrenada por grandes maestros o aprendiendo por sí misma, porque los movimientos en el tablero encierran estrategia.

Parece claro que muchas personas tenemos una idea más elevada de lo que implica la palabra inteligencia. Los humanos somos capaces de pensamiento abstracto, somos conscientes de nosotros mismos, creamos arte, tecnología, ciencia. Un humano es capaz de llorar al declamar un poema. Hay años luz entre jugar al ajedrez y sentir el corazón en un puño al escuchar una ópera de Verdi.

¡Atención! No seamos tan altivos, tan arrogantes. No volvamos a caer en el error de sentir que somos seres únicos en el universo. Muchas de las tareas que nos parecen inteligentes son bastante menos complejas de lo que creemos. Los humanos estamos empezando a programar máquinas que resuelven sutiles problemas. La frontera entre la máquina que calcula de forma sistemática y la máquina que toma decisiones acertadas y que puede interactuar con nosotros como si se tratase de un humano se está difuminando.

Abrimos un camino nuevo: ¿podemos crear una inteligencia artificial avanzada?

MÁQUINAS QUE APRENDEN

El cerebro humano en el fondo no es más que una máquina. Una máquina compleja, producto de larga evolución.

MARVIN MINSKY

Inteligencia artificial

Crear inteligencia artificial eleva las apuestas. Se trata, ni más ni menos, de crear máquinas que interactúen con nosotros en el terreno de las cualidades humanas. Además pedimos a la inteligencia artificial, término introducido en 1956 por John McCarthy, que esta interacción sea tan perfecta que no seamos capaces de saber si nos relacionamos con máquinas o con otros humanos.

¿Diríamos que una máquina que mantuviese una conversación fluida con nosotros es inteligente? Esta idea fue analizada por Alan M. Turing, quien propuso un test muy especial, que él llamó Juego de la imitación y que posteriormente ha recibido el nombre de Test de Turing, publicado en su ensayo Computing Machinery and Intelligence (1950). La idea es sencilla. Una sala está separada en varias partes de forma que un humano puede intercambiar mensajes con dos interlocutores. Estos pueden ser bien un humano o bien una máquina. La comunicación se realiza pasando frases por escrito entre unos y otros. Si el humano es incapaz de decidir si está intercambiando mensajes con otro humano o con un programa artificial es lícito hablar de una máquina inteligente. Turing escogió bien sus palabras. En un principio planteó la pregunta en términos de máquinas pensantes, después la reformuló: «¿Existirán ordenadores digitales imaginables que tengan un buen desempeño en el juego de imitación?». Un nuevo gran concepto: juego de imitación. Basta que las máquinas nos imiten suficientemente bien para que les otorguemos características humanas. No importa que su esencia sea programable, artificial, inhumana. Los humanos no seremos capaces de distinguir.

Un famoso esfuerzo para construir un programa que interactuase con humanos fue ELIZA, diseñado en los años sesenta. ELIZA seguía una estrategia sencilla, parecida a las preguntas que un psiquiatra puede hacer a una persona estirada en su diván. La idea es reutilizar las propias palabras del paciente. Aquí va un ejemplo del año 2000 de una conversación con ELIZA:

Paciente: Todos los hombres son iguales.

ELIZA: ¿En qué sentido?

Paciente: Siempre nos molestan con cosas.

ELIZA: ¿Puede ser más específico?

Paciente: Bueno, mi novio me hizo venir aquí.

ELIZA: ¿Tu novio te hizo venir aquí?

Paciente: Dice que siempre estoy deprimida.

ELIZA: Siento escuchar que siempre estás deprimida.

Paciente: Es verdad. No soy feliz.

ELIZA: ¿Crees que venir aquí te hará sentir menos infeliz?

ELIZA mantenía un nivel primitivo de conversación. Pero es innegable que ELIZA aún hoy causa un pequeño impacto en nuestra mente. Tal vez empezamos a vislumbrar el futuro: sí, es posible, las máquinas se podrán relacionar emocionalmente con los humanos.

El Test de Turing ha servido como acicate para crear programas que manipulan cada vez mejor el habla humana, la gramática e incluso los guiños idiomáticos que subyacen en una conversación. Si enviamos un mensaje al otro lado de la cortina del estilo: «¿cómo te encuentras hoy?» y recibimos como respuesta «deprimido; no sé si soy una máquina o un humano», la duda está servida, porque creemos firmemente que el sentido del humor es un rasgo humano. Estamos predispuestos a pensar que las máquinas no sonríen porque es algo ajeno a su eficiencia. Pero está claro que no es difícil preparar un código que proporcione una respuesta jocosa a una pregunta banal. Al programar frases llenas de humor estamos dando pasos hacia algo que aparenta inteligencia. Un hito notable de la inteligencia artificial aconteció cuando un ordenador, llamado Watson, compitió en el juego Jeopardy! contra los mejores jugadores humanos de la historia en el año 2010. En este célebre juego los concursantes reciben una frase y deben formular una pregunta para que esa frase sea la respuesta correcta. Watson comprendió las preguntas orales, respondió, ganó y cerró una victoria que aleja la idea de que los computadores no pueden relacionarse con los humanos.

Me arriesgaré a ir más allá y usar una definición práctica de inteligencia. Con frecuencia se diseñan algoritmos que resuelven problemas. Me gustaría usar la expresión inteligencia artificial cuando el algoritmo es capaz de resolver un problema de una forma que los humanos somos incapaces de comprender. Atención, hay problemas que un ordenador resuelve rápido, como sumar muchos números, pero no hay misterio en ello. Preferiría no usar la expresión inteligencia artificial ni para describir un algoritmo de suma, ni para seguir una secuencia predeterminada de órdenes en las que hemos codificado todo nuestro conocimiento sobre el problema. Mi definición de inteligencia artificial es tan estricta que excluye a variantes algorítmicas que hoy se consideran propias de lo que se llama inteligencia artificial. Toda esta discusión requiere más lentitud.

Empecemos por los fundamentos. Estamos discutiendo, ni más ni menos, sobre la posibilidad de crear inteligencias artificiales. Es lógico recordar los pasos que ya se han dado en este sentido y, sobre todo, desmitificar tanto los éxitos como las limitaciones de los primeros estadios de la inteligencia artificial. Para ser ecuánimes, necesitamos comprender qué problemas son programables y cómo lo hacemos. Solo si comprendemos en detalle los avances en inteligencia artificial tendremos la capacidad de juzgar y de tomar decisiones de cara al futuro.

Minería de datos

Los ordenadores son tan potentes que los podemos programar para que resuelvan problemas nada triviales para los humanos. ¿Podemos resolver cualquier problema práctico? ¿Dónde está el límite? Avancemos poco a poco. Podemos intentar, por ejemplo, crear algún tipo de programa informático que permita ayudarnos en alguna de las siguientes tareas:

Predecir el tiempo meteorológico en una zona de la tierra.

Aconsejar a un director de una oficina bancaria a la hora de dar un crédito.

Reconocer voces humanas y leer textos.

Analizar los síntomas de un paciente y hacer un diagnóstico médico.

Todos estos problemas tienen en común que sí pueden ser atacados mediante programas de ordenador. Sin embargo la forma de encontrar una solución y lo buena que esta es depende de cómo intentemos atacar el problema. Por lo tanto no hay engaño, el ordenador dará una solución satisfactoria si y solo si hallamos un buen algoritmo. El elemento pensante sigue siendo el cerebro humano, que se asiste convenientemente de la potencia de cálculo de un ordenador para tratar grandes cantidades de datos.

Estamos, pues, de acuerdo. Ciertas maravillas que atribuimos a los ordenadores se basan en soluciones ideadas por los propios humanos. No es fácil discernir hasta dónde llega la mente del programador y cuándo algo no obvio emerge.

La curiosidad aumenta: ¿cómo logramos hallar algoritmos astutos?

Un primer método, tremendamente directo, para resolver el problema de la predicción meteorológica es analizar los datos históricos de los que disponemos e intentar aprender de ellos. Un humano diría que la experiencia es un grado. También lo es a la hora de programar una solución. El problema de la predicción meteorológica es un ejemplo claro, dado que disponemos de largas series de registros de temperatura, lluvia, velocidad del viento, humedad y presión atmosférica en muchos lugares de la tierra. Una forma de predecir el tiempo para mañana en Londres podría ser la siguiente. Primero conseguimos, si es posible, los datos históricos de todo un siglo del tiempo en Londres. Llamamos a este primer paso construir una base de datos, también referida como un histórico. Es obvio que esta base de datos contiene información útil. Reflejará, por ejemplo, qué meses son más propicios para la lluvia, qué temperaturas típicas se dan a lo largo del año, o nos puede alertar de condiciones atmosféricas peligrosas cuando se confabula la humedad con el viento y con temperaturas bajas. El problema se hace más preciso, se trata de hallar la manera de aprovechar toda esta información de forma útil y fidedigna. Una posibilidad es rastrear días similares al actual. ¿Qué significa hallar un día similar? La idea es buscar una semana en el registro histórico que se parezca mucho a la que estamos viviendo en el momento de hacer la predicción. Si durante la última semana llovió dos días en Londres y luego hizo sol, con un aumento progresivo de las temperaturas, es muy posible que algo así ya sucediese en el pasado en una época del año similar a la actual. De hecho, es posible que el mismo patrón se haya dado varias veces a lo largo del último siglo. Para hacer una primera predicción nos basta mirar qué sucedió en años anteriores y argumentar que el tiempo de mañana será similar a lo que ya aconteció en el pasado.

Esta es la idea central de muchas técnicas asociadas a una forma muy sencilla de inteligencia artificial. Se trata de hallar patrones y reconocerlos en bases de datos históricas. Este rastreo sistemático de ejemplos pasados es un trabajo que recuerda a un minero que busca entre la tierra una piedra preciosa. El minero ha de trabajar duro y revisar grandes cantidades de tierra para hallar la gema que tanto codicia. De forma similar, la búsqueda sistemática de un patrón en un amplio registro histórico recibe el nombre de minería de datos (con frecuencia referido con las palabras inglesas data mining).

La minería de datos es tremendamente eficiente. El comportamiento del tiempo sigue leyes físicas, está dominado por la insolación solar, la inercia térmica del mar y las leyes de la termodinámica y de la dinámica de fluidos. A pesar de que no tengamos la capacidad de resolver todas las ecuaciones de forma exacta, es natural argumentar que las mismas situaciones atmosféricas se repiten a lo largo del siglo y con resultados similares. Es obvio que los patrones actuales no son absolutamente idénticos a los pasados. El día del año condiciona la cantidad de energía solar que llega a un lugar. La temperatura del mar está asociada a corrientes marinas y a la acumulación de energía recibida y disipada. Además se puede dar un hecho negativo relevante, los datos históricos recogidos pueden ser incompletos o incorrectos. Hay todo un sinfín de razones para que la temperatura de mañana no sea idéntica a la de los patrones parecidos que hemos escogido y, por lo tanto, la predicción no sea perfecta. Esas mismas razones permiten establecer estrategias todavía mejores. Podemos crear modelos de circulación de aire en la tierra, de corrientes en los océanos, podemos resolver las ecuaciones de la hidrodinámica con la máxima precisión que sea posible. A continuación, podemos escribir un sofisticado programa que aúne comportamientos históricos con predicciones matemáticas. Ese algoritmo predecirá el tiempo de manera bastante fiable e incluso será capaz de darnos el margen del error que pueda cometer.

La minería de datos es utilizada de forma rutinaria tanto en investigación científica como en el mundo de los negocios. La logística de una empresa puede ser mejorada aprendiendo del pasado, se pueden hacer predicciones de ventas, se pueden optimizar procesos, tareas, recursos. Si una empresa dispone de datos históricos, tiene en sus manos la posibilidad de mejorar sus resultados mediante un análisis riguroso de su pasado.

¿Es válido considerar la minería de datos como inteligencia artificial? Según mi definición estricta de inteligencia artificial, la respuesta es no. Todo lo que se hace en minería de datos es descubrir correlaciones, frecuencias, desviaciones y toda una serie de medidas estadísticas perfectamente definidas. Sin embargo, en el ejemplo anterior nuestro algoritmo ha captado algo parecido a lo que razona un viejo señor acostumbrado al tiempo de Londres. Ambos utilizan la experiencia pasada para aconsejar si hay que llevarse el paraguas o no.

La humilde minería de datos puede ofrecer resultados espectaculares. Se puede, por ejemplo, rastrear los libros que una persona compra en internet. Es fácil descubrir a un conjunto de clientes que tienen gustos similares. Cada vez que un nuevo comprador navegue por una página web para comprar cierto libro, es muy sencillo escribir un programa que le ofrezca muy buenos consejos sobre ese libro, sobre otros libros de la misma temática que él desconoce, e incluso que le sugiera música que le va a gustar. Nuestro comportamiento a la hora de comprar libros no es más que un patrón. Por lo tanto, es sencillo adivinar nuestro comportamiento futuro.

Somos humanos, pero humanos predecibles.

Cuando las máquinas logren niveles de inteligencia superiores seguramente se mofarán de lo simples que somos los humanos. Todos nos parecemos más de lo que creemos. Nos entretenemos de forma predecible, compramos prendas similares, viajamos a los mismos sitios, asumimos ciegamente que el dinero es lo importante y que merecemos más.

Una inteligencia artificial avanzada se aburriría profundamente soportando nuestros egos.

Volvamos a la minería de datos. Podemos dar un paso más y crear sistemas informáticos que recopilen datos sin que nosotros seamos conscientes. Escribimos sobre un libro en un medio social y, automáticamente, recibimos consejos adecuados a nuestros gustos. Parece magia. No lo es. De hecho, es una treta muy sencilla. Basta escribir pequeños programas que naveguen por internet como robots virtuales autónomos. Esos programas aprenden correlaciones y crean bases de datos que operan como un registro histórico. Si en un blog una persona habla de Nepal y comenta que subió montañas, equipado con material de una cierta marca y aprovechando la oferta de una obscura agencia de viajes, ya lo tenemos. Ese robot guarda las correlaciones en una gran base de datos. Si una nueva persona empieza a considerar un viaje a Nepal, tendrá todos los consejos útiles al alcance de la mano.

¿Es ético crear programas que recopilan información sobre nuestro comportamiento? ¿Dónde está el límite de la privacidad? ¿Hasta qué nivel es lícito que un humano sea supervisado, analizado, escudriñado en sus detalles más íntimos por legiones de programas operados por intereses que desconocemos?

La ética empieza a emerger en nuestro recorrido por los primeros pasos de la inteligencia artificial. Y solo es el principio.

Modelizar

¿Podemos aplicar técnicas de minería de datos para crear programas que aconsejen a un director de sucursal bancaria sobre la conveniencia de otorgar o denegar un crédito? A primera vista, parece que este problema es un poco más enrevesado. Por una parte tenemos que considerar las incertidumbres características del comportamiento humano (las mentiras que se dicen al banco), por otra parte cabe tener en cuenta que el plazo de tiempo para devolver un crédito es largo. No es sencillo predecir si la economía se irá al traste por culpa de una nueva crisis. Es más, la situación política del país puede variar, pueden cambiar las leyes, pueden surgir imprevistos de todo tipo. Todo el problema de dar un crédito de forma justa y acertada está sujeto a posibles peligros que cambian en el tiempo. También está sujeto a políticas fraudulentas, que nada tienen que ver con el buen diseño de un algoritmo.

La concesión de un crédito es un problema que requiere raciocinio e intuición. Hay factores que un director de sucursal bancaria tiene en cuenta, como la empatía con un cliente, que no aparecen en el registro de movimientos en su cuenta corriente. El camino hacia la inteligencia artificial requiere un nuevo paso: debemos modelizar el problema. Esta palabra rinde un cierto homenaje a disciplinas como la física. Cuando nos enfrentamos a un nuevo fenómeno natural que no comprendemos, lo primero que intentamos es escribir unas ecuaciones que capten la esencia de lo que está sucediendo. Buscamos un modelo que describa correctamente las observaciones. Cuando el conjunto de fenómenos bien descritos por un modelo es enorme, usamos la palabra teoría, como en la Teoría de la Relatividad Especial de Albert Einstein. Un modelo es una versión humilde de una teoría.

Tenemos el principio de una idea importante. Podemos combinar datos estadísticos con un modelo de comportamiento, tanto del cliente como de la economía del país. Si asignamos probabilidades de riesgo de pérdida de trabajo, como de crisis en función de las predicciones de los expertos, será posible dar una probabilidad de retorno del crédito por parte del cliente. El banco no tendrá otro fallido y su negocio seguirá funcionando. Es obvio que, en la práctica, los bancos no siguen los consejos neutros de un modelo matemático sino que asumen riesgos, a veces abrumadores, a veces mínimos. La lógica sigue moderadamente alejada de las predicciones matemáticas en el mundo de las finanzas.

Un ejemplo más concreto de cómo introducir un modelo útil es el control del tráfico. En este caso sí es posible modelar el comportamiento de una ciudad, adecuando leyes de flujos de coches a través de la geometría propia de las calles. Nadie dice que sea fácil, pero es posible. Podemos modelar el tráfico, o el funcionamiento de una fábrica, o la evolución relativa de especies animales que se alimentan entre sí. Repito: nada es fácil, pero sí posible. La calidad de un modelo depende de su creador. Un humano bien entrenado logra crear modelos muy útiles para el mundo empresarial.

Sistemas expertos

La combinación de técnicas estadísticas con la inteligencia humana de añadir modelos matemáticos al análisis de un problema suele denominarse sistema experto. La expresión es autodefinida, un sistema experto no es más que un humano que es experto en el problema y que es aumentado con toda la potencia de cálculo de un ordenador y una base de datos extensa. Parece obvio que un sistema experto es una forma magnífica de atacar muchos problemas. Así es. Tenemos sistemas expertos que aconsejan a quién dar un crédito, que permiten predecir el consumo de electricidad de una gran ciudad y que juegan bien al ajedrez.

¡Volvemos al problema del ajedrez por segunda vez! Sin embargo, ahora ya somos capaces de comprender que IBM ideó el cerebro de su ordenador Deep Blue como un sistema experto. Al combinar bases de datos de aperturas, finales y partidas completas, más las propuestas estratégicas de grandes maestros, solo bastaba potencia de cálculo para arrasar a los humanos. Deep Blue ganó a Kasparov. Hoy en día, el programa Stockfish supera fácilmente a cualquier jugador humano. En la escala de ELO, el mejor humano se sitúa en unos 2.800 puntos. Stockfish tiene 3.400 puntos. No hay rey que cien años dure. Los sistemas expertos tienen un nuevo adversario en las redes neuronales artificiales profundas, como veremos más adelante.

¿Hasta qué punto podemos aplicar la filosofía de sistemas expertos a problemas de relación entre máquinas y humanos? ¿Podemos hablar a una máquina y ser entendidos correctamente? ¿Podemos hacer una traducción simultánea?

Los esfuerzos para lograr que las máquinas comprendieran el lenguaje natural de los humanos han sido enormes. La idea inicial consistió en intentar programar la gramática de nuestras lenguas, la forma imperfecta en la que las hablamos, los giros idiomáticos, los acentos, las incoherencias lógicas, todo lo que un niño ha aprendido en un par de años. El fracaso de los primeros sistemas expertos a la hora de comprender el lenguaje de los humanos fue estrepitoso.

Así fue la cruda realidad de los primeros pasos de la inteligencia artificial. Los sistemas expertos han demostrado ser una herramienta magnífica en ciertos problemas fácilmente modelables y, en contraposición, ser totalmente inútiles en problemas difíciles de modelar. La inteligencia humana es vastamente superior a un sistema experto, porque este solo asiste al humano para dotarlo de mayor potencia de cálculo. En este sentido, el ajedrez es fácil. En cambio, comprender lo que chillan acaloradamente dos aficionados al fútbol en un bar ruidoso es bastante más difícil.

La inteligencia artificial que aporta un sistema experto tiene limitaciones muy serias. Tanto es así que las expectativas que se pusieron en la creación de sistemas expertos se fueron al traste en los inicios de la inteligencia artificial. La gran apuesta de crear un sistema que reconociese imágenes, que dialogase con nosotros, que obedeciese a nuestra voz, fue un fracaso. Eso no significa que no se hubiese progresado. Las máquinas habían logrado aprovechar la estadística para resolver problemas difíciles, pero era necesario explorar nuevos conceptos para avanzar realmente lejos.

Aprender

Alto. Pensemos un poco más. Tenemos un ejemplo claro de un ser que resuelve problemas de una forma genuina: un bebé. Cierto, un bebé aprende a resolver problemas por sí mismo. No hace falta que ningún experto le enseñe exactamente cómo agarrar un objeto con la mano. Un bebé lo intenta, prueba, falla, lo vuelve a intentar. Se queda en un rincón con una cajita de juguete y la mira, la remira, la voltea, la muerde, la tira, la recoge, se la pone por sombrero y se ríe. El bebé juega ad nauseam con la cajita y lo aprende todo de ella. Y luego toma otra caja y también la analiza. Va procesando ejemplos de cajas, todas dispares, algunas similares. Descubre que se pueden poner objetos dentro de ellas, que se pueden amontonar, que se pueden romper. Insisto, ningún experto ha enseñado nada al bebé. El recién nacido aprende patrones a través de ejemplos imperfectos, confusos, a menudo muy extraños.

El bebé también aprende a hablar en cualquier idioma sin que ningún logopeda le muestre la manera correcta de colocar sus labios, lengua y epiglotis, o cómo hacer vibrar sus cuerdas vocales en cada sonido. Y, eso está claro, el bebé no tiene un profesor de gramática generativa a su lado. Es más, un bebé es capaz de aprender varios idiomas a la vez, a la par que música, y a caminar y a desenvolverse en entornos totalmente nuevos para él. Los sentidos de un bebé devoran información que pasa a su cerebro.

La idea está frente a nuestros ojos al observar a un bebé: no es preciso saber las soluciones a los problemas, lo importante es aprender. Un bebé necesita descubrir soluciones diferentes para sobrevivir en función de si nació en un poblado de Mongolia o en Nueva York. El bebé aprende por prueba y error a partir de ejemplos dispares, con insistencia inquebrantable. Su cerebro investiga y descubre sin cesar, es capaz de generalizar, de hallar patrones sin hacer profundos cálculos estadísticos.

El cerebro de un bebé es una máquina de aprender.

Cerebro humano

¿Dijimos: una máquina de aprender? Exacto. Ese es el camino. No tenemos por qué buscar soluciones expertas a problemas o manipulaciones estadísticas de grandes bases de datos. Existe una forma diferente de afrontar la inteligencia artificial que no está basada en la codificación de leyes físicas, de teorías lingüísticas o de todos los libros eruditos de la historia. No se trata tampoco de construir algoritmos que contemplan cada posibilidad o de diseñar sofisticados sistemas expertos. La nueva idea es sencilla, hemos de construir máquinas que aprendan, de forma análoga a cómo lo hace nuestro cerebro.

Este es el siguiente gran paso, más bien una zancada de gigante, en la inteligencia artificial: debemos intentar simular artificialmente el funcionamiento de nuestro cerebro y cómo aprende. Repitámoslo, son dos los retos:

Simular artificialmente el funcionamiento del cerebro.

Simular artificialmente la forma en que el cerebro aprende.

Hemos de aprender a aprender.

Sin duda, el primer reto es ya hercúleo en sí mismo. El cerebro es una solución al problema de la supervivencia que ha ido mejorando tanto tiempo como toda la historia de los homínidos. La evolución ha seleccionado de forma progresiva los seres mejor adaptados a su entorno y es obvio que la inteligencia es una cualidad muy útil para no perecer. Hablar superficialmente del funcionamiento del cerebro es fácil, comprenderlo a fondo parece una tarea imposible.

Los cerebros se han ido refinando y han ganado niveles de complejidad inusitados. Tenemos un cerebro dividido en muchas partes, con estructuras jerárquicas y redundantes. Una parte del cerebro es más primitiva, está encargada de gestionar nuestros órganos y de dar órdenes basadas en los dos grandes principios que nos han ayudado a sobrevivir: el placer y el miedo. Nuestra amígdala genera el terror, nuestro tálamo integra información sensorial, nuestro neocórtex asume las funciones superiores a partir del procesamiento previo que hacen otras partes del cerebro. La gran máquina cerebral tiene una estructura tan sofisticada que todavía no la comprendemos con suficiente profundidad.

Hemos logrado diseccionar todas y cada una de las partes del cerebro, les hemos dado nombres, incluso entendemos a un nivel rudimentario sus funciones principales. Sabemos, por ejemplo, que la parte del cerebro llamada sustancia negra (o locus niger) segrega la dopamina, esencial para el control del movimiento de nuestro cuerpo. Si las neuronas de la sustancia negra mueren, sufriremos la enfermedad de Parkinson. Nuestra comprensión de esta enfermedad es imperfecta, cierto, pero no dejamos de mejorar en nuestras investigaciones y la venceremos. Este tipo de avance es imparable. El progreso en entender el sofisticado funcionamiento del cerebro es sistemático, no hay vuelta atrás en el camino a la comprensión de la mente humana. Nos llevará mucho más tiempo manipular a voluntad el cerebro humano, repararlo, predecirlo, aumentarlo, pero lo haremos. Es natural resistirse a creer que seremos capaces de comprendernos y manipularnos a fondo. La naturaleza humana mantiene su arrogancia en los juicios de valor. Nadie creía que el hombre volaría o que llegaría a la luna; nadie vislumbró que los humanos descubriríamos el código genético, que manipularíamos especies o que crearíamos máquinas portentosas. La incapacidad de prever el futuro con lucidez es una constante en la historia de la humanidad.

Volvamos a poner los pies en tierra. Todavía no comprendemos el detalle de todas las funciones superiores de la mente humana. Es un hecho.

Si no comprendemos bien el cerebro humano, ¿cómo vamos a poder simular artificialmente su funcionamiento? ¿Cómo pretenden los humanos crear redes de neuronas sintéticas, impresas sobre silicio en circuitos integrados, que funcionen de forma análoga a las redes neuronales reales si todavía no las comprendemos?

El secreto en ciencia es no amedrentarse ante lo desconocido, no renunciar a entender y siempre avanzar humildemente, poco a poco. Cada generación aporta nuevas ideas, detecta errores en sus teorías, mejora su comprensión y da un paso adelante. La inteligencia artificial no es ajena a este incesante proceso de mejora científica y sus avances se han ido sucediendo desde que las primeras ideas de cómo modelar una neurona surgieron en los años cuarenta.

Neurona artificial

Una neurona humana procesa señales que llegan a ella a través de las sinapsis que la conectan con otras neuronas. Si las señales son suficientemente intensas, se produce una activación y se dispara una nueva señal hacia el axón de la neurona, que a su vez envía la señal hacia otras neuronas. El conjunto de neuronas forma una complejísima red. Puede haber sinapsis que ayudan a disparar una señal, otras la inhiben. Existen grupos de neuronas que colaboran para realizar una tarea. Existen funciones que se replican un gran número de veces para dar redundancia y resiliencia al cerebro. Por encima de todo encontramos el problema del enorme número de neuronas que trabajan a la vez. Se estima que el cerebro contiene unos cien mil millones de neuronas conectadas a través de unos quinientos billones de sinapsis. El cerebro puede estar procesando en paralelo más de quinientos millones de señales por segundo. Para avanzar es preciso reducir el problema a su elemento más sencillo. Bajemos al nivel de una única neurona.

Podemos simular el funcionamiento de una neurona artificial de la siguiente manera, tal como idearon Warren S. McCulloch y Walter H. Pitts en 1943. Las señales de entrada de la neurona no son más que números. La neurona no sabe si la señal que le llega está relacionada con un color, con un aroma o con una imagen. Es solo un impulso eléctrico. Podemos representar el pulso eléctrico que entra en la neurona por un número que refleja la intensidad de esa señal. La neurona artificial procesa los números que representan a las señales usando una fórmula matemática sencilla y, si el resultado supera un cierto umbral, genera una nueva señal que pasa a otras neuronas.

La idea central de esta primera neurona artificial es que todo lo que hace una neurona biológica es básicamente un procesamiento de información. Unas señales entran, se procesan y el resultado se pasa a otras neuronas. Dicho de forma más contundente: información entra en neurona artificial, se procesa, se genera nueva información, información pasa a otras neuronas. Todo se reduce a manipulación de información. Eso es lo que hace nuestro cerebro constantemente.

Hay varios problemas filosóficos en esta representación matemática de una neurona, uno de ellos muy pragmático. El primer problema filosófico es considerar si la simplificación que nos lleva de una neurona biológica a una neurona artificial basada en ecuaciones sencillas no es excesivamente limitada. Tal vez las neuronas reales funcionan de forma más sofisticada, dependen del entorno, no solo de las conexiones, o cambian su forma de actuar en el tiempo. Esta crítica es menor, dado que podemos sofisticar el modelo matemático de la neurona artificial en varios sentidos para que se asemeje más a la real. Otro problema filosófico más profundo es el siguiente: ¿qué significa el procesamiento que hace una neurona?, ¿entendemos lo que está haciendo? Este es un tema profundo al que volveremos más adelante. Finalmente, tenemos un problema pragmático a la hora de decidir qué ecuaciones controlan el procesamiento de la información y el umbral de disparo de una neurona artificial. ¿Cómo enseñamos a una neurona artificial la forma en que se ha de comportar? ¿Cómo entrenamos a una neurona artificial? ¿Cómo la educamos?

Una serie de investigadores empezaron a analizar en más detalle qué puede hacer una neurona. Fue Frank Rosenblatt quien propuso en 1957 crear una variante de neurona artificial llamada perceptrón. Este perceptrón era una neurona artificial dotada de una unidad previa que podía trabajar con la señal de entrada. Se quería construir una entidad autónoma capaz de digerir información por sí misma. Este perceptrón sería capaz de realizar tareas como clasificar series de patrones. Se abría el camino hacia la inteligencia artificial.

La sorpresa se produjo cuando Marvin Minsky y Seymour Papert demostraron en 1969 que un perceptrón no podía realizar ciertas operaciones matemáticas. Para ser más precisos, no podía realizar la puerta lógica CNOT. Es sencillo entender cómo se define la puerta CNOT, consiste en tomar dos entradas que pueden ser 00, 01, 10 o 11 y devolver 00, 01, 11 y 10 respectivamente. Fijémonos que la idea es que si el primer dígito es 0, la puerta no hace nada. En cambio si es 1, el segundo dígito cambia. Esta puerta lógica puede ser utilizada para hacer todo tipo de cálculos. Si un perceptrón no es capaz de hacer esta puerta lógica, ¿para qué sirve? El perceptrón tampoco podía clasificar muchos tipos de patrones, solo podía tratar problemas lineales.

La bofetada que recibió la recién nacida inteligencia artificial fue colosal. Cuando el perceptrón fue propuesto se llegó a publicar en la prensa que los nuevos cerebros electrónicos llegarían a hablar, ver, escribir, se equipararían a los humanos. Todo se fue al agua, fue un gigante conceptual que nació con pies de barro. De inmediato, desapareció el interés en simular el cerebro porque la limitación del perceptrón implicaba que las neuronas reales podrían ser mucho más complejas de lo que imaginamos.

Desacreditar a toda la incipiente inteligencia artificial fue un error. El pobre perceptrón no tenía la culpa. El procesamiento de información no lo hace una sola capa de neuronas, sino una red compleja de neuronas. Un perceptrón es insuficiente, pero un conjunto de neuronas sí puede asumir tareas sofisticadas. Llegó el momento de atacar la fascinante idea de crear una red neuronal artificial.

Redes neuronales artificiales

Una red neuronal artificial no es más que un conjunto de neuronas artificiales que se conectan entre sí. Una señal que puede ser compleja entra como números que alimentan a unas neuronas y estas procesan la información hacia otras. De esta forma, a medida que pasamos de una neurona a otra, la manipulación de la información puede hacerse muy sofisticada. Es sencillo demostrar que los problemas asociados a un perceptrón desaparecen al considerar una red neuronal artificial.

Las redes neuronales artificiales se pueden organizar por capas. Una primera capa inicia el procesamiento, la segunda toma el resultado de la primera y lo elabora más, y así la información pasa sucesivamente de capa en capa hasta llegar a las últimas neuronas que nos dan el resultado final. Podemos además dar un valor al peso de una conexión. Si el peso es grande, la conexión es intensa. Si el peso es pequeño, la conexión es irrelevante. De esta forma podemos jugar con los pesos entre las neuronas para representar las sinapsis. Es una idea magnífica. Podemos ya intentar aplicar redes neuronales multicapa para solucionar problemas nada sencillos.

Pero sigue existiendo el problema pragmático que indicamos anteriormente. ¿Cómo procedemos para lograr el resultado deseado? ¿Cómo educamos a nuestras neuronas? Tenemos una red neuronal artificial recién nacida, hemos de enseñarle lo que debe saber hacer.

Volvamos por unos momentos al problema de la predicción meteorológica en Londres para esta semana. Anteriormente vimos que podríamos usar ideas estadísticas como buscar en registros históricos días similares a los que estamos viviendo. También era posible mejorar la predicción usando aproximaciones a las complejas ecuaciones que rigen el clima. Ahora queremos ir más allá e intentar emular al señor mayor que ha vivido toda su vida en Londres y sabe predecir los días de lluvia con acierto asombroso. Si el hombre es mejor que la estadística mejorada con ecuaciones diferenciales es porque algo se nos está escapando. Podemos volver a empezar. Olvidemos la estadística y las ecuaciones diferenciales que rigen el clima. Vamos a intentar hacer una predicción meteorológica usando una red neuronal artificial que busca imitar al señor mayor. Para ello, lo primero que hacemos es escribir un programa informático que calcula el paso de datos de una capa de la red neuronal artificial a la siguiente capa. Así calculamos el procesamiento de información a medida que avanza por un cerebro artificial. Pero no tenemos claro cómo cada neurona ha de procesar la información ni qué peso tiene cada conexión entre las neuronas. Necesitamos un nuevo ingrediente.

Entrenamiento de una red neuronal

Hemos dado con el corazón de la idea: un bebé que aprende está fijando sus sinapsis, una red neuronal artificial que aprenda debe fijar sus sinapsis artificiales, sus conexiones. Exacto: son las conexiones entre las neuronas artificiales de una red neuronal artificial las que determinan el procesamiento de la información, por lo tanto deben ser entrenadas para realizar la tarea que deseemos resolver.

Estamos aprendiendo a aprender.

Podemos ser más precisos e indicar el camino que seguimos hoy en día para entrenar a redes neuronales artificiales. Tomemos un ejemplo. Queremos crear una red neuronal que sea capaz de distinguir imágenes de la letra T de las de la letra C. No es fácil. La letra T puede aparecer en mayúscula, o inclinada, o en un rincón de la imagen, o escrita a mano. Lo mismo sucede con las variantes de la letra C. ¿Cómo procedemos?

Para empezar, iniciamos todas las conexiones de la red neuronal artificial con números al azar. Esta red no logra predecir absolutamente nada. Para cada patrón que introducimos en la red neuronal artificial, las señales son procesadas por conexiones aleatorias y, en consecuencia, obtenemos resultados también aleatorios. ¿Cuál es el siguiente paso?

La idea de aprendizaje es mostrar muchos ejemplos de letras T y C, variar y corregir las conexiones. Veamos cómo se hace. Al empezar, la red comete muchos errores dado que procesa información de forma aleatoria. A continuación cambiamos un poco las conexiones entre las neuronas artificiales. Si el acierto en la predicción en la clasificación de las letras T y C aumenta, guardamos esta nueva conexión, si no, volvemos a las conexiones iniciales. Repetimos este procedimiento muchas veces. Cada vez que el porcentaje de acierto mejora, nos quedamos con la nueva red neuronal.

Una red neuronal artificial puede ser entrenada de forma supervisada.

A medida que le enseñamos patrones, cambiaremos los pesos y mejoraremos. Poco a poco, el entrenamiento se traduce en aprendizaje. Vamos dictando cada cambio en los pesos entre neuronas para que el error en la predicción decrezca. Para ello usamos algoritmos de minimización que podemos controlar. Las palabras técnicas llevan el nombre de minimización de descenso por gradiente. En el caso de redes neuronales multicapa, se trabaja con la llamada propagación hacia atrás de errores. Poco importa el aspecto técnico, lo relevante es que hemos hallado una forma de entrenar a las redes neuronales artificiales.

La inteligencia artificial ha necesitado de muchos años de investigación para entender la forma óptima de entrenar redes neuronales. Hay una ingente cantidad de variantes de cómo entrenar a una red neuronal artificial. Cada problema tiene sus peculiaridades, cada forma de enseñar tiene ventajas e inconvenientes y cada vez entendemos mejor el proceso de entrenamiento.

Casi da miedo: hemos aprendido a aprender.

Hemos creado redes neuronales artificiales que predicen la producción de elementos químicos en un horno, que crean predicciones en series temporales, que juegan al ajedrez, que comprenden el lenguaje humano, que mejoran el habla artificial.

El límite de la inteligencia artificial está en nuestra imaginación.

Algoritmos genéticos

Existe una forma asombrosa de entrenar a una red neuronal para que sea capaz de solucionar un problema. ¿Por qué entrenar a una sola red neuronal? ¿Por qué no entrenamos a muchas redes neuronales y dejamos que compitan entre sí? Dejamos que sus pesos varíen, que intenten adaptarse y mejorar la predicción. Cada red neuronal artificial va mutando y combinándose con otras. Se comporta como un individuo. Los humanos podemos asumir el papel de la naturaleza y eliminar a las redes que no resuelvan bien. Poco a poco, el conjunto de redes mejora. Cualquier red del conjunto es capaz de resolver el problema.

Esta es la idea de aplicar las leyes de Darwin al entrenamiento de redes neuronales artificiales. Los humanos han evolucionado según la selección natural durante centenares de miles de generaciones. Los menos adaptados no se reprodujeron. Aquellos que aportaban un elemento ventajoso a la supervivencia sí tuvieron descendientes. Podemos convertir esta idea en un algoritmo genético.

Tomamos un conjunto de redes neuronales artificiales iniciadas al azar. Generamos copias de ellas con algunas variantes para simular que se reproducen. Pasamos a analizar si predicen el tiempo en Londres. Las peores mueren, las mejores sobreviven y vuelven a reproducirse. El proceso es imparable. Cada generación es mejor que la anterior.

Ni las redes neuronales ni los algoritmos genéticos nos ayudan a comprender cómo resolvemos un problema; sencillamente, lo hacen. El paralelismo con el viejo señor que predice la lluvia es claro. Ni él mismo es capaz de decir con precisión qué cálculo ha hecho. Su cerebro ha codificado el aprendizaje de una forma distribuida entre sus neuronas. Perdemos el trazo de lo que está sucediendo. Las redes neuronales artificiales pueden ser tan abstrusas como el propio cerebro humano. Es fascinante.

Metaprendizaje

La inteligencia artificial avanza muy rápidamente. La búsqueda de formas más eficientes para entrenar a redes neuronales profundas es incesante. Los neologismos se amontonan: aprendizaje profundo, Q aprendizaje, metaprendizaje. Las ideas son cada vez más atrevidas.

Veamos un ejemplo. Supongamos que deseamos entrenar a una red neuronal para realizar una tarea. Escogemos varias formas de lograr que la red minimice la función error que define el objetivo final. Cualquier idea que permita obtener un mejor mínimo del error global es bienvenida. Es obvio que podemos comparar varios métodos alternativos y también que es razonable analizar todos los parámetros que rigen el proceso de minimización en cada una de las técnicas que utilicemos. Demos un salto adelante. Podemos inventar un algoritmo supervisor global de todos los métodos y que sea él el encargado de hallar la mejor técnica posible. En el fondo hemos creado a un profesor que sigue los avances de diferentes alumnos.

Esta es la clave para entender alguna de las nuevas ideas que se investigan en inteligencia artificial. Un profesor de música tiene una clase y quiere que sus alumnos aprendan a tocar bien el violín. Se le ocurre una idea. Distribuye a grupos de alumnos en habitaciones separadas y enseña a cada uno de ellos siguiendo métodos diferentes. A medida que enseña música a generaciones de alumnos organizados en esos grupos, el profesor descubre que una cierta técnica es más eficiente, los alumnos tocan mejor, están mejor formados. El profesor ha ensayado una diversidad de opciones pedagógicas y guarda memoria de los resultados obtenidos. Algunas técnicas de entrenamiento de redes neuronales profundas se asemejan a este ejemplo. Una estructura de nivel superior se encarga de optimizar las técnicas de aprendizaje. Estamos frente a la idea de un metaprendizaje. Ya no hablamos de una red neuronal y de una técnica de minimización, sino de una multitud de redes y de algoritmos que supervisan a los algoritmos de aprendizaje. De esta forma, somos capaces de explorar un universo mucho mayor de opciones y, en consecuencia, de hallar soluciones al problema de partida mucho mejores.

MÁQUINAS MUY LISTAS

En cuanto funciona, dejamos de llamarlo inteligencia artificial.

JOHN MCCARTHY

Reconocer

Las primeras redes neuronales artificiales construidas fueron capaces de aprender algunas tareas avanzadas. Sin embargo, problemas más sofisticados como comprender el habla de un humano o reconocer las partes de una foto quedaban lejos de la capacidad de aquellas redes iniciales básicas. De nuevo hay que analizar detenidamente cómo el cerebro ha logrado su enorme capacidad de comprensión. La vida en la tierra lleva evolucionando millones de años, no en vano.

En 1959, David H. Hubel y Torsten N. Wiesel realizaron un descubrimiento sorprendente por el que recibieron el premio Nobel. La pregunta básica que estos científicos se plantearon era entender si el procesamiento de la información que realiza el cerebro se divide en tareas específicas o si, por el contrario, todo el cerebro colabora en todo el procesamiento. Gracias a los avances tecnológicos de la época, les fue posible colocar sensores en neuronas individuales de un gato. El experimento consistió en mostrar imágenes de líneas en movimiento a aquel gato (el cerebro no tiene terminales que generen sensación de dolor, no requiere calmantes y puede ser analizado sin alterar su funcionamiento de forma sustancial). Aquel experimento demostró que ciertas neuronas solo se disparaban si la línea mostrada al gato se movía en una cierta dirección. La neurona era específica.

Dicho de otra forma, las neuronas dividen su tarea de una forma jerárquica muy eficiente. Ciertos grupos de neuronas procesan aspectos básicos de la señal que reciben. Imaginemos una foto de un árbol. El cerebro dedica diferentes grupos de neuronas a saber si hay líneas rectas, curvas, horizontales, verticales, si se mueven, si desaparecen. Esta labor realizada por una primera capa de neuronas no es un procesamiento total de la señal, más bien es un preprocesamiento para agilizar el tratamiento posterior de la información.

Este preprocesamiento pasa a una capa superior de grupos neuronales y se crean señales que intentan comprender ideas de un orden superior. Los patrones recibidos en forma cruda por el cerebro son procesados sucesivamente de forma jerárquica hasta lograr reconocer una silla, una nube, una caja.

¿Por qué no copiar la estructura jerárquica del cerebro? Esa es la idea que se halla en la base de una sofisticación de las redes neuronales artificiales, llamadas redes neuronales convolucionales. Una red convolucional adapta su arquitectura a preprocesar rasgos básicos de una señal. Luego pasa la información a una capa de procesamiento superior.

Estas redes convolucionales y variantes derivadas de esta idea permiten crear máquinas que reconocen fotos, que distinguen imágenes de hombres y mujeres, que son capaces de saber quién entra en un estadio de fútbol a través del escrutinio que realizan las cámaras de seguridad. Añadimos una base de datos de caras humanas con información de las edades de los individuos y buscamos similitudes. Al final, somos capaces de sugerir quién se parece a quién o predecir cómo envejecerá nuestra cara.

No lo olvidemos, la forma de nuestros ojos no es más que un patrón que puede ser analizado. Podemos bucear en una base de datos de patrones de ojos y descubrir que estamos fichados. Nuestra cara, nuestras facciones, nuestro iris, nuestros ojos, todo ha sido analizado, catalogado. Incluso es viable analizar la mirada de personas enfermas e intentar detectar los patrones que caracterizan a esos ojos que lucen sombríos y tristes. O podemos también crear avatares virtuales y dotarlo de ojos que reflejan la alegría o la laxitud de los humanos. Las redes neuronales artificiales nos abren paso en un mundo que creíamos demasiado difícil de entender.

Hablar

Existen tareas que los humanos realizamos sin esfuerzo aparente que son especialmente difíciles para las máquinas inteligentes que estamos construyendo. Por ejemplo, no es sencillo lograr que una máquina entienda la voz de un humano. Tampoco es fácil crear una voz artificial que nos resulte amiga. No es sencillo traducir un texto de una lengua a otra de forma correcta. ¿Por qué?

Tomemos el reto de crear un sistema artificial capaz de entender a los humanos. Queremos construir una máquina que escuche una voz y la transcriba. Pero ¿qué voz? Hay voces muy diferentes, con acentos casi imposibles de entender. Encontramos personas que hablan con unas dos mil palabras, otras llegan a usar hasta veinte mil. ¡No olvidemos la gramática! La inmensa mayoría de las personas no articulan frases coherentes. Llenamos nuestra habla de muletillas, de tacos, de giros incorrectos, de argot que solo se utiliza unos meses, todo el lenguaje es una casa de locos. Incluso mezclamos palabras de otros idiomas y nombres propios que nunca habíamos escuchado, ni volveremos a escuchar. Podemos hablar en susurros o dando grandes voces, en medio del silencio del desierto o desde las gradas de un campo de fútbol. ¿De verdad es posible construir una máquina capaz de sobrevivir en este gallinero?

Lo hemos hecho. Disponemos de algoritmos que llegan a niveles admirables de simulación del lenguaje hablado. Son muchas las técnicas matemáticas que se utilizan. Una de ellas lleva el nombre de cadenas de Markov ocultas. Los fonemas dejan de ser objetos que aparecen o no aparecen, pasan a tener probabilidades. Las probabilidades se concatenan según leyes que se entrenan. Estas probabilidades fluyen hacia adelante en la comprensión de la frase, y hacia atrás corrigiendo lo que la inteligencia artificial daba erróneamente por entendido. El flujo de información en el cerebro no es direccional. Tampoco lo es en ciertos tipos de redes neuronales artificiales.

La mejora en el habla artificial es un gran ejemplo de un problema que fue considerado sencillo, luego difícil. Todas las técnicas basadas en sistemas expertos no lograron niveles aceptables de calidad. Fue necesario volver al principio y atacar el problema del habla de forma diferente. Pero una vez el problema empieza a estar resuelto, el avance es imparable y silencioso. El habla basada en inteligencia artificial entra en nuestras vidas poco a poco, casi subrepticiamente. Ciertas voces no mejoran para evitar el rechazo que ciertos humanos tienen a lo artificial. Por delante nos queda el camino de adecuar la tecnología del hablar artificial a las emociones que condicionan nuestra recepción. El problema se torna mucho más fascinante. No basta con que las máquinas hablen, deseamos que tengan un nivel de autenticidad que todavía no sabemos definir.

Profundidad

Las redes neuronales artificiales han seguido desarrollos impresionantes. Uno de ellos es fascinante. ¿Por qué insistimos en comprender las capas de procesamiento del cerebro? ¿Tiene sentido olvidarse de todo, crear una enorme red neuronal y dejar que ella se entrene como quiera? Si todo va bien, la propia red construirá capas de preprocesamiento, si es que eso es útil.

Esa es la idea de las redes neuronales artificiales profundas. La palabra profunda implica que las redes tienen muchas capas, muchísimas. He aquí un reto intelectual. ¿Si conectamos miles de capas de neuronas, llegaremos a desarrollar algo parecido a la conciencia?

¿Es la conciencia una manifestación de la complejidad de una red neuronal?

¿Es la conciencia una cualidad natural que emerge de complejos sistemas nacidos para procesar información masiva?

No seamos tan aventurados, todavía. Las redes profundas, formadas por muchas capas, establecen niveles de procesamiento más y más complejos. A partir de los píxeles de una foto, pueden hablar de líneas, de contornos, luego de texturas, de objetos, de animales, plantas y humanos. Pueden seguir distinguiendo combinaciones de objetos, paisajes, estados de ánimo, armonía. Una red compleja puede ser entrenada para lograr una comprensión más profunda de lo que imaginamos.

Las redes neuronales profundas pueden descubrir tipos de preprocesamiento de las señales que reciben que jamás hubiéramos imaginado y que la propia selección natural no ha aprovechado en el cerebro humano. Una red neuronal artificial profunda es un misterio.

Aprendizaje por refuerzo

¿Cómo entrenar sistemas de inteligencia artificial más y más complejos? Los niños asimilan rápidamente lo que están programados para aprender. Una parte de las labores que realiza el cerebro está en parte codificada en el cerebro de un recién nacido, otra parte es adquirida durante la infancia. Todas esas funciones preprogramadas tienen que ver con la superviviencia y la relación con otros humanos. Pero el cerebro no está preparado para aprender geometría algebraica, ni mecánica cuántica. La inmersión en disciplinas superiores supone un esfuerzo enorme para el cerebro humano. También lo es para una inteligencia artificial.

Para seguir avanzando en la construcción de máquinas muy inteligentes es necesario abordar nuevas formas de aprendizaje. Una idea notable es el llamado aprendizaje por refuerzo.

Podemos aprovechar otra lección que nos trae el paralelismo con el cerebro humano. Imaginemos que un niño abandonado en una selva decide que no le queda más remedio que alimentarse por prueba y error. A veces come una planta que le sienta mal, otras veces prueba otra que le da energía. El aprendizaje se hace gracias a una compensación. La buena elección de comida refuerza la correcta decisión que ha tomado el niño.

Podemos abstraer esta idea de aprendizaje por refuerzo. Una máquina puede desenvolverse en un entorno y hacer todo tipo de tareas. La máquina basada en una red neuronal profunda modifica sus conexiones. Podemos imaginar a un cerebro que prueba estrategias para mejorar su adaptación al medio. Si unas nuevas conexiones son beneficiosas, el entorno premia a la máquina y esta reafirma su nueva configuración. Estamos imponiendo una forma muy primitiva de aprendizaje, pero muy efectiva. Si el delfín salta alto y elegante, le damos más comida. Si no lo hace bien, no se la damos. La red neuronal artificial expuesta a un nuevo problema va mejorando por refuerzo del entorno.

Imbatible

Volvamos al problema de cómo jugar bien al ajedrez por enésima vez. Vimos que un sistema experto gana con solvencia a cualquier humano. La máquina tiene en memoria muchísimas partidas, sabe de todas las aperturas y finales, se desarrolla siguiendo las estrategias prescritas por los mejores jugadores humanos. La máquina no puede ser vencida por nuestro cerebro. Pero ¿puede ese programa ser superado por otro programa todavía más astuto?

Entramos en un terreno sutil. ¡Es posible construir máquinas que compitan intelectualmente contra otras máquinas!

No se trata de construir una nueva versión de una máquina que juegue al ajedrez como su antecesora pero un poquito mejor. Queremos poner a prueba estrategias diferentes que compitan entre sí. ¿Es posible algo así? ¿Podemos intentar crear algoritmos nuevos, desconocidos para los humanos que superen a nuestros propios expertos?

Así es. Sí, nos es posible crear una nueva generación de máquinas que superen vastamente a los humanos y a los sistemas expertos creados por los humanos. Un gran ejemplo es un programa llamado AlphaGo que fue el primero en ganar al campeón mundial del juego Go. De origen chino, el Go es un juego de reglas sencillas pero de estrategias a largo plazo muy complejas. Tras la derrota de Kasparov frente a Deep Blue y la preeminencia de Stockfish en el ajedrez, el juego del Go se había convertido en el último bastión en el mundo de los juegos en el que los humanos eran superiores a las máquinas. Ya no es así. AlphaGo fue entrenado para jugar contra humanos, empleando una mezcla de técnicas de juego que incluyeron movimientos generados por simulaciones Monte Carlo y entrenamiento por refuerzo. AlphaGo fue más allá y se entrenó a sí mismo. Es impresionante: un programa que mejora jugando contra otra versión del mismo programa. El resultado fue duro para la mente humana. El hombre pierde frente a la máquina, las primeras máquinas pierden frente a las nuevas máquinas y ni hombres ni máquinas saben cómo lo hacen.

Después de vencer al Go, la idea de jugar mediante una red neuronal profunda que calcula simulaciones hacia delante, genera movimientos probabilísticos y hace una valoración del resultado final de la partida, todo ello aderezado con entrenamiento por refuerzo, fue llevada al ajedrez. En el año 2017, el nuevo programa AlphaZero venció a Stockfish. Se enfrentaron en cien partidas, AlphaZero venció en 23, hubo tablas en 76 y Stockfish venció en 1. Para mejorar el juego de un programa ya no tenía sentido jugar contra humanos, ni contra el mejor sistema experto. ¡AlphaZero se entrenó únicamente contra sí mismo!

El algoritmo subyacente a AlphaZero hizo algo más. En lugar de presentarle las reglas del ajedrez, AlphaZero recibió instrucciones de cómo jugar al Go y al Shogi. El mismo programa aprendió todos los juegos y venció en todos a cualquier humano y máquina anteriores. La imagen que viene a la cabeza es que AlphaZero es como un solitario adolescente al que le encanta aprender diferentes juegos, pasar el rato probando estrategias sin jamás haber leído un manual. El primer día que el adolescente se midió con otros jugadores los arrasó. Su forma de pensar era genuinamente diferente y devastadora.

AlphaZero también ha permitido analizar estrategias comunes. Jugó 1.200 partidas contra sí mismo donde las primeras jugadas siguieron aperturas conocidas. A medida que el entrenamiento de AlphaZero mejoraba, su propensión a realizar ciertas jugadas fue cambiando. Por ejemplo, el gambito de dama con blancas se convirtió en una apertura con la que AlphaZero se sentía cómodo. En cambio, la defensa india de rey no le gustaba nada.

La imagen por dura que sea es esta. Hemos creado una máquina que juega tan bien al ajedrez que se aburre al enfrentarse a los humanos. Tampoco le resulta interesante jugar contra programas diseñados por humanos. Ambos son débiles. En el fondo, la nueva máquina se siente intelectualmente sola y únicamente mejora si juega contra ella misma.

Es un buen momento para introducir una nueva idea un tanto aterradora a largo plazo: los humanos somos intelectualmente prescindibles.

El progreso de la inteligencia artificial entra aquí en un nuevo mundo asombroso. Los humanos fuimos útiles durante un tiempo, inventamos el Go y el ajedrez, desarrollamos estrategias sencillas, luego más sofisticadas. Pero nuestro cerebro es limitado. No solo cometemos errores triviales, sino que no sabemos entrever estrategias profundas, formas totalmente nuevas de abordar una posición porque vivimos anclados en los prejuicios. Creíamos que ciertas formas de jugar eran malas, pero ahora vemos que solo eran dogmas heredados, no reflexión profunda. Los humanos estamos atrapados en nuestra historia y nuestras emociones. La nueva inteligencia artificial no sufre estas limitaciones.

MÁQUINAS QUE INVENTAN

Los buenos artistas copian, los genios roban.

Atribuido a PABLO RUIZ PICASSO

Generación automática de contenidos

Las máquinas pueden relacionarse con nosotros. No es nada nuevo. Constantemente recibimos sugerencias, o respuestas programadas a nuestras preguntas. Ya no nos parece nada excepcional.

El problema de la autonomía de la inteligencia artificial se empieza a vislumbrar en la generación de contenidos. Veamos un ejemplo. Deseo saber los resultados de un partido de fútbol. Es obvio que no se requiere a un humano para decirme el resultado final. De hecho tampoco es necesario un cerebro humano para hacer un pequeño resumen del partido: «En el minuto 62, el lateral derecho del equipo local cometió un penalti y fue expulsado. La falta máxima fue ejecutada con éxito por el portero del equipo visitante». Estoy tan impresionado por el hecho de que el portero visitante fuera el jugador que tiró el penalti que no me he percatado de que el texto puede haber sido generado de forma automática por un programa informático. Los datos básicos son: «minuto 62», «lateral derecho hace penalti», «portero marca». No hay intervención humana en la transformación de cierto tipo de información básica en texto que entienden los humanos. Devoramos constantemente contenidos de bajo nivel que han sido generados por simples algoritmos.

¿Cuál es el futuro del periodismo? Ciertamente no es el de trasegar información banal. Esa labor la puede asumir con creces un algoritmo.

De nuevo, los humanos seremos prescindibles.

Es solo el principio. La inteligencia artificial trabaja en generar contenidos de alto nivel. Podemos crear voces que nos conforten, que nos hablen de temas que nos apasionen. Todo el contenido de nuestra relación emocional con una máquina puede ser generado de forma automática.

Redes adversarias

Podemos generar un contenido periodístico trivial como el resumen de un partido de fútbol, cierto, pero ¿podemos generar contenido nada obvio como una novela, un paisaje, una cara humana? Ya hemos dado con una técnica sutil llamada redes neuronales adversarias.

Disponemos de una serie de fotografías de humanos. Son personas normales: guapas, feas, melenudas, calvas, de ojos verdes o marrones. Cada foto es una cara que reconocemos claramente como humana. Codificamos cien rasgos de estas caras. Podemos rastrear texturas, ángulos ciliares, longitud relativa de la nariz con respecto a la separación de los ojos, colores del pelo, del iris. Ahora proponemos que una red neuronal nos proporcione una nueva cara humana generada artificialmente procesando variantes de esta codificación. El resultado es un monstruo. Nuestros ojos se espantan ante la combinación de una calva con unos rasgos femeninos o la desproporción de ojos y boca. Esas caras falsas se unen a las verdaderamente humanas en una base de datos. A continuación generamos una red adversaria a la anterior y la entrenamos para que discrimine entre las imágenes de humanos verdaderos y las que han sido generadas artificialmente. Esta red enseguida aprende a distinguir.

Proponemos un juego: la red que genera caras falsas debe engañar a la red que discrimina. Ambas redes neuronales artificiales son adversarias, luchan una contra la otra. A medida que el entrenamiento avanza, la red que genera caras es mejor, como también lo es la que discrimina. Cuando el entrenamiento ha avanzado lo suficiente, la red que genera imágenes de humanos logra resultados asombrosos. Ya no somos capaces de distinguir entre una cara real y una artificial.

Las redes adversarias materializan la idea de tener dos oponentes que se hacen uno mejor al otro. El proceso que siguen estas redes neuronales es similar al de un criminal y un inspector de policía que se retroalimentan el uno al otro. El malo es cada vez más refinado, el policía también. Al final, el malo logra maldades (y bondades) muy sofisticadas.

Bach artificial

Olvidemos por un momento la tecnología en inteligencia artificial que se está desarrollando para generar contenidos y reflexionemos sobre las consecuencias que se derivan de este avance. Tomemos como ejemplo la generación de música de forma artificial: el proyecto DeepBach.

La idea central de DeepBach es generar una inteligencia artificial capaz de componer al modo de Bach. Este programa se alimenta de todas las composiciones que compuso Bach y aprende la sensibilidad que subyace, las técnicas, los recursos, las cadencias, los adornos. Es un proceso arduo para un humano, pero automático para una máquina. El éxito dependerá de los algoritmos empleados, cada vez más afinados. La inteligencia artificial resultante puede, por ejemplo, generar una nueva coral o rearmonizar variantes de composiciones existentes. El resultado es una música perfectamente válida cuya escucha puede hacerse hipnótica.

Los creadores de DeepBach invitan a sus visitantes a pasar un test: ¿son capaces de distinguir la música del verdadero Bach de la de su imitador artificial? Volvemos al juego de la imitación.

Se ha desarrollado inteligencia artificial para emular a Bach, a Beethoven, a los Beatles y, de forma notable, para generar música genuinamente nueva. La empresa Flow Machines ofrece sus servicios de música artificial a compositores que necesiten una cierta inyección de inspiración. Por su parte, la empresa Aiva ha logrado que su inteligencia artificial sea aceptada como el primer compositor virtual en la sociedad de derechos de autor. No deja de ser inquietante escuchar su hit I’m AI (Soy una inteligencia artificial). Un juego de ordenadores ya ha optado por que toda su música sea creada por programas.

No lo duden, escucharemos música artificial. Veremos cuadros impresionistas artificiales, oleremos perfumes diseñados por inteligencias artificiales. Estos programas atenderán a nuestras reacciones y, poco a poco, nos ofrecerán resultados mejores. Nos sorprenderán. Tal vez un día lo creado por los humanos nos parecerá banal.

Azar

Permitámonos añadir azar a las redes neuronales. En muchos ejemplos anteriores, como el del ajedrez o el de las redes adversarias, las redes generan decisiones basadas en la aleatoriedad. Tomamos números al azar para iniciar un proceso de creación. Si deseamos usar redes neuronales adversas para generar cuadros similares a los de Van Gogh (como hace la inteligencia artificial Vincent), empleamos un generador de números aleatorios que nos dan la simiente del resultado final.

El azar puede incorporarse a la relación humano-máquina. Cuando hablemos con una inteligencia artificial y le preguntemos cómo se siente esta mañana, nos responderá de forma diferente cada día, dejará de ser previsible.

La espontaneidad que atribuimos a los humanos es programable. No se dejen engañar. Detrás de una expresión espontánea hay un algoritmo que decide al azar (dentro de unos parámetros) el tiempo de una pausa silenciosa, el tema de conversación, el tono de la voz, la coherencia del mensaje. Podemos programar a una red neuronal para que sea bipolar, aburrida o sabia, para que nos escuche o nos atiborre de información. Y podemos hacerla diferente cada día para que nuestra vida crea en la sorpresa.

Las redes neuronales capaces de actuar de forma diferente dadas las mismas condiciones nos llevan a un nivel de reflexión superior. Entra en juego el profundísimo problema del determinismo. La idea central es la siguiente: si las leyes que nos rigen están determinadas, todo nuestro futuro está fijado. El determinismo estricto implica que no hay azar ni libre albedrío. No hay espacio para hacer el bien, para ayudar, para apasionarse o para deprimirse, porque todo está fijado por las leyes básicas del universo. Muchos pensadores alegan que el alma humana escapa a las leyes de la física, de la química y de la biología. Otros, como Anthony R. Cashmore, sugieren que el sistema jurídico puede verse afectado por los avances en biología con respecto a la posible ausencia de libre albedrío (The Lucretian Swerve: The Biological Basis of Human Behavior and the Criminal Justice System [2010]). Las ideas asociadas al determinismo son complejas y poco entendidas por nuestra sociedad. La inteligencia artificial añade una complicación extra. Podemos empezar a simular el libre albedrío dentro de redes neuronales. ¡Atención! En este caso sabemos en detalle cómo programamos una red neuronal con respuesta aparentemente aleatoria. En su corazón hay un generador de números pseudoaleatorios. Ese generador es determinista. Simulaciones al azar mediante ecuaciones deterministas.

Estemos preparados a relacionarnos con inteligencias artificiales versátiles, sorprendentes, cambiantes. Podrán (aparentar) ser antojadizas, calmadas, amantísimas. Todo está programado. Todo.

MÁQUINAS QUE DECIDEN

Porque los humanos estamos tan orgullosos de nuestro propio juicio, y tan sobre confiados en él, muchos de nosotros, sino todos, desacreditamos demasiado rápido a las computadoras, incluso cuando sus respuestas son las mejores.

ANDREW MCAFEE,

Machine, Platform, Crowd:

Harnessing Our Digital Future

Decidir

Decidir no es una tarea que siempre requiera un intelecto superior. Todos los animales deciden sobre cuestiones vitales, tanto de forma individual como de forma colectiva. Un oso escoge ir hacia la izquierda o hacia la derecha de la montaña para buscar comida. Ciertas especies de pájaros migran al unísono en un momento dado. Los lobos se reúnen y deciden cazar en manada. La mayoría de las elecciones que toman los animales son básicas, otras requieren previsión, lo que llamaríamos sentido común, o una misteriosa y sutil intuición, tan difícil de definir. Los humanos creemos que somos libres de decidir entre opciones sofisticadas. Somos adictos a decidir. Queremos el café con leche, largo de café, con la leche descremada y sin azúcar. No muy caliente, por favor. Y en vaso largo. Escogemos ir a un restaurante o a otro, y decidimos in situ qué platos comer. Creemos que escogemos a nuestra pareja. Nuestro día a día está lleno de microactos de elección.

¿Pueden las máquinas decidir? Naturalmente que sí. Un algoritmo que juega al ajedrez decide cada jugada. Antes de procesar la información de una posición, muchas opciones son posibles. Tras una cierta cantidad de análisis matemático, el algoritmo opta por la mejor opción. No nos engañemos, los humanos procedemos de la misma forma. Nuestro cerebro evalúa opciones, escoge la que calcula como óptima, aunque a veces acepta un poco de riesgo y toma una opción menos conservadora.

Repitámoslo. Un proceso de decisión consiste en calcular qué consecuencias tendrá cada una de las opciones de las que disponemos. Si giro a la izquierda, sigo en la carretera; si giro a la derecha, me mato. Optamos por la mejor, giramos a la izquierda. Todo consiste en calcular hacia el futuro. Todo consiste en optimizar el resultado de la previsión. Todo se reduce a un cálculo objetivo al que añadimos la dosis de riesgo aleatorio que deseemos.

El proceso de decisión es programable.

Podemos crear máquinas que realizan tareas que nos parece que precisan decisiones constantes. Por ejemplo, podemos considerar los siguientes ejemplos:

conducir un coche

comprar una empresa

diagnosticar una enfermedad

¿Es posible delegar nuestra capacidad de decisión para cada una de estas tareas en máquinas dotadas de inteligencia artificial?

Conductores artificiales

Ha llegado la hora de aplicar la inteligencia artificial a la conducción de coches. Los humanos —seamos sinceros— somos torpes a la hora de conducir. La gran mayoría de los accidentes de tráfico se deben a errores cometidos por la persona que está al volante. Corremos en exceso, somos imprudentes, nos saltamos semáforos, dejamos de mirar hacia delante para hablar con el copiloto, no estamos atentos a imprevistos. Hay conductores que tienen verdaderos problemas para aparcar marcha atrás, para arrancar cuesta arriba o para no consumir alcohol cuando hay que tomar el volante al regresar de una fiesta. Algunos humanos pueden ser buenos conductores, sin duda, pero el conjunto de la población estaría más a salvo si las máquinas controlasen totalmente el tráfico.

Qué pena, ¿no es cierto? En aras de la seguridad, dejaremos en manos de máquinas ultraseguras el placer de conducir tranquilo, sacando a ratos la mano por la ventanilla para disfrutar de la sensación de libertad que nos da la caricia del aire entre los dedos. Siempre que conduzco relajadamente, con la ventanilla bajada, siento una especie de armonía que sé que no será experimentada en tiempos futuros. No me cabe duda de que ya hemos dejado atrás placeres básicos esenciales; ni siquiera sabemos cuáles eran.

Se puede argumentar que el progreso hacia la infalibilidad no aporta mayor felicidad, sino que la cercena. Sería sabio reflexionar y definir con mimo los límites entre seguridad y libertad. Está en juego nuestra felicidad.

Sin duda, los coches dejarán de ser tripulados por humanos. Poco importa si eso sucederá en breve o en un plazo medio, si habrá pocos o muchos accidentes de coches autónomos; será un hecho que los coches serán controlados por máquinas. Tampoco importa si estamos de acuerdo o no, o si creemos que es más o menos viable económicamente. Todos estos argumentos son temporales y débiles. Hoy en día no hay caballos, ni burros, ni carretas en las ciudades, aun a pesar de que el coche mate a muchas personas cada año. Fue irrelevante el hecho de que a la gente de la primera mitad del siglo XX le gustase o no ver el primer coche por una calle. El mundo cambió sin opción de retorno. Tampoco hubo opción a la hora de aceptar la telefonía móvil. No hay posibilidad de oponerse a la adopción de inteligencia artificial en nuestras vidas. Podemos definir límites, pero no detener el cambio.

Primero tendremos coches autónomos, capaces de decidir cómo avanzar por una ruta que les impongamos. Estos coches necesitarán de cantidades masivas de datos de dos tipos. Por una parte, un vehículo autónomo precisa de información de su entorno, tal como un humano ve la calle y escucha todo tipo de ruidos que pueden alertarle. Una serie de sensores debe escanear la proximidad de todo tipo de elementos, aceras, humanos, coches aparcados y todo tipo de objeto móvil, sea un perro, un pájaro o un trozo de papel. Estos datos serán procesados in situ, en cada sensor del coche. La parte relevante del resultado será analizada por algoritmos para tomar decisiones inmediatas. Habrá accidentes y muertes, cierto. Pero cada vez menos. Si un accidente se hace inevitable, el algoritmo tendrá que decidir. Unas líneas de código escogerán si el coche autónomo no tiene otra opción que atropellar a un humano grande (un abuelo) o a otro más pequeño (un niño), o si sacrificar a su propio pasajero.

¿Quién decide lo que decide un algoritmo?

Es bastante probable que en un segundo estadio inmediato, los coches autónomos formen un gran colectivo bien coordinado. ¿Para qué poseer un coche cada uno de nosotros y así saturar las ciudades y carreteras? Podemos hacer que una cantidad suficiente de coches esté en uso constante y compartido. No solo una red bien gestionada por un algoritmo de orden superior garantizaría ahorro energético y de tiempo de traslado, sino que la seguridad viaria aumentaría notablemente. No habría sorpresas al tomar una curva. Ningún coche podría aparecer de forma imprevista, porque todos los coches estarían controlados de forma centralizada. El siguiente paso es el control de la presencia de humanos a pie y evitar cualquier atropello. Da vértigo.

Quien controle la red de coches autónomos también controla nuestra intimidad. Nuestros movimientos del día a día estarán gestionados de la misma forma que hoy en día estamos totalmente localizados al viajar en un avión. Los Estados tienen conocimiento de nuestra posición al volar. La tendrán cuando nos desplacemos. ¿Es este otro bastión de libertad humana que cae? De hecho ya está cayendo. Nuestro teléfono ya nos localiza sin tregua. Si no lo evitamos, todos hemos dejado el elemento más importante de nuestra libertad, nuestra localización ya no será anónima nunca más.

Médicos artificiales

La medicina es pasto de la estadística, de los sistemas expertos y, ahora, de la inteligencia artificial.

Tomemos un ejemplo. Unos padres notan que su bebé parece no encontrarse bien. Son padres primerizos y no saben cómo proceder. Antes de llamar al médico, consultan por internet qué problema puede tener su bebé. Tienen miedo de no comprender lo que leen. Llaman por teléfono a su seguro asistencial y un médico les atiende amablemente. Están muy nerviosos. No tienen la paciencia de esperar a una visita a domicilio y se van directamente a urgencias. Allí, un pediatra les explica que el bebé tiene una otitis y que no deben sufrir, lo curarán. Sin embargo, los padres preguntan sobre posibles complicaciones de las que han leído en internet. El médico pacientemente los tranquiliza. Siguen insatisfechos. El siguiente paso es apelar a una segunda opinión basada en una inteligencia artificial.

El argumento es fácil de comprender. Una inteligencia artificial, como el programa Watson que es capaz de generar un diagnóstico médico, dispone de una base de datos enorme con todas las enfermedades, complicaciones y casos reales. También contempla todo tipo de opiniones expertas y refinamientos algorítmicos que aumentan su precisión. El continuo uso de una inteligencia artificial, libre de prejuicios, conlleva una mejora sistemática de su capacidad de predicción. Cuando se trata de la salud de nuestros seres queridos, ¿dejaremos de consultar a una inteligencia artificial sobre el mejor diagnóstico y el mejor tratamiento posible?

Un médico humano necesita de al menos dos cualidades importantes. Por una parte, el médico debe conocer la ciencia de la medicina, el saber acumulado de enfermedades, de casos individualizados, todo lo que aprende en la universidad y va refinando con la lectura de literatura especializada y la asistencia a congresos. Por otra parte, el médico se relaciona con el paciente y absorbe información sobre su vida, su situación, su forma de pensar. Analiza la forma de hablar, el tono muscular, las facciones de la cara. La experiencia es importante. El haber atendido a muchos pacientes dota al médico de una intuición muy especial. ¿Puede una inteligencia artificial equipararse a un humano? Es obvio que una inteligencia artificial puede saber mucha más medicina que un humano. Sus enormes bases de datos no dejan de crecer, están permanentemente al día. Si un nuevo tratamiento es eficaz para sanar una enfermedad rara, la inteligencia artificial lo sabrá, el médico posiblemente no. Pero ¿puede una inteligencia artificial ser empática, acumular datos subliminales como el modo de sonreír de un paciente?

La inteligencia artificial está cruzando la barrera de comprender a los humanos. El procesamiento de información visual busca ya identificar estados de ánimo (¡como la predisposición a comprar!). También estamos construyendo máquinas que hablan con nosotros, que se relacionan directamente con nuestro intelecto. El camino está abierto a crear un médico. No lo tenemos todavía, pero lo tendremos. Y cuando lo tengamos, nadie renunciará a ser tratado por él. Ya hemos recorrido ese camino. Si para saber qué sucede en el interior del cuerpo humano hemos de usar una resonancia magnética nuclear, nadie duda en meterse en una máquina aparatosa y misteriosa que incide en los espines de nuestro cuerpo y detecta sus desexcitaciones. Nuestra salud es soberana.

Nos quedan más preguntas abiertas. Cuando la inteligencia artificial proporcione capacidad de diagnosticar más fiable que la de un humano, ¿quién ostentará la propiedad de esa máquina? ¿Cuánto pagaremos? ¿A quién? ¿Existirán niveles de calidad en el diagnóstico, de la misma forma que hoy no todos los medicamentos son asequibles a todo el mundo?

¿Serán capaces los gobiernos de legislar por encima de los intereses económicos de las corporaciones en la aplicación de inteligencia artificial a la salud humana?

Empresarios y políticos artificiales

La inteligencia artificial se usa de forma rutinaria en aspectos concretos y, con frecuencia, técnicos del desarrollo de un negocio. Un buen algoritmo produce predicciones de ventas, optimiza una cadena de producción o clasifica a clientes para ofertarles los productos más apropiados. Pero cabe preguntarse si la inteligencia artificial será capaz de tomar decisiones de alto nivel empresarial. ¿Tendremos una silla para la inteligencia artificial en los consejos de administración?

La realidad es que la inteligencia artificial ya ha participado en procesos de adquisiciones y ventas de empresas. De nuevo, Watson ha sido entrenado con un sinfín de casos empresariales de éxito y fracaso. Además, la máquina dispone de una base de datos ilimitada en cuanto a productos, competencia, legislación, turbulencias políticas e historiales de corrupción. Es difícil no tener en cuenta lo que nos proponga Watson.

Se puede argumentar que la empresa más difícil de llevar es un Estado democrático. Se supone que los parlamentos legislan, el gobierno ejecuta las leyes y los jueces supervisan su cumplimiento. ¿Podríamos incluir en todos esos ámbitos a la inteligencia artificial? No solo podríamos, sino que deberíamos. Hay una casuística de gobiernos en toda la tierra que es inabarcable para un cerebro humano. Los mismos beneficios que se intuyen en conducción y medicina, se aplican a la política.

Pero existe un elemento añadido en el caso de establecer una participación de la inteligencia artificial en el gobierno de los humanos. Podemos erradicar la corrupción. Podemos eliminar las influencias no justificables de lobbies. Volveremos más adelante sobre este punto crucial.

Justicia artificial

Podemos programar la conducción de un coche o el diagnóstico de una enfermedad. ¿Qué más podemos incorporar en un programa artificial?

Podemos programar la justicia. La mayoría de las decisiones judiciales son técnicas, tan solo obedecen a aplicar la ley en una situación clara. El juez es un buen conocedor de los textos jurídicos y de las decisiones que se tomaron en el pasado. Su opinión personal debería ser irrelevante. Él se debe ceñir a la estricta ley, le guste o no. Podemos argumentar que en la práctica esto no es así, los jueces aplican criterios personales que pueden estar sesgados por presiones políticas, de género, raciales, por egocentrismo o por pura honesta convicción personal. En una sociedad igualitaria que ha elaborado leyes consensuadas, eso no debería ser así. Para evitar el esquivo albedrío de la justicia impartida por humanos, ¿por qué no programar el código penal y emplear extensas bases de datos de decisiones judiciales del pasado? Podríamos construir un sistema jurídico basado en inteligencias artificiales neutras. Si mantenemos la posibilidad de apelar a una instancia superior, tal vez humana, el sistema podría salir beneficiado. Un pobre ejemplo de esta idea es relegar las decisiones de un árbitro de tenis a un sistema de cámaras que controlen el bote de la pelota dentro de la pista. No hay duda de que el segundo sistema, automático y neutro, es más justo. Es cierto que la tecnología resta humanidad al juego y a la justicia, pero todos los débiles se sentirán mejor protegidos por programas diseñados por todos y aprobados en parlamentos que por jueces sujetos a presiones que escapan a las pautas democráticas.

Este es un buen momento para recordar las palabras del polifacético hombre universal de la Ilustración Jean-Jacques Rousseau escritas en 1762:

Para descubrir las leyes de la sociedad que más convienen a las naciones, se necesitaría la existencia de una inteligencia superior, capaz de vivir todas las pasiones de los hombres sin sentir ninguna de ellas, y que no tuviera ninguna afinidad con nuestra naturaleza pero la conociera a fondo.

Son frases que mantienen una vigencia impresionante y que parecen premonitorias de los cambios que vamos a vivir. No sería injusto decir que Rousseau abrazaría la posibilidad de entrenar redes neuronales que aplicasen justicia y creasen leyes. El fragmento anterior encabeza el capítulo VII de El contrato social, dedicado a los legisladores. Sería interesante debatir con los políticos de nuestro tiempo ideas que han sido verbalizadas de forma tan cabal hace doscientos cincuenta años. Asumir el contrato social de Rousseau implica además la aceptación voluntaria de una pérdida de la libertad personal en favor del bien colectivo, un punto nada trivial en el contexto del individualismo progresivo de nuestra sociedad.

Sí, tendremos inteligencia artificial aplicada a impartir la ley. De hecho ya se utilizan sistemas de inteligencia artificial en Estados Unidos para ayudar a establecer fianzas o estimar el riesgo de ciertas decisiones judiciales. El software empleado recibe el nombre de Public Safety Assessment (Evaluación de riesgo público). Es obvio que el sistema anglosajón basado en la jurisprudencia es un buen candidato a ser empleado de forma eficiente por inteligencias artificiales.

El siguiente paso, a largo plazo, será dejar el gobierno de entidades, ciudades y países en manos de inteligencias artificiales. El control del tráfico, la distribución de electricidad, el agua, todos estos ejemplos son operaciones que delegamos en gran medida en las máquinas. Una gran ciudad no podría funcionar fluidamente sin la gestión de los ordenadores centrales. Falta menos de lo que parece para que el grueso de la gestión de la sociedad sea automático, como el vuelo de un avión a diez mil metros de altura. Tendremos instituciones asesoradas con inteligencia artificial. No será un camino fácil de recorrer.

Hackers

El avance de la inteligencia artificial en la toma de decisiones tiene un peligro enorme: los hackers. La programación manifiestamente malintencionada de trampas, errores, decisiones incorrectas o cualquier bomba informática diferida en el tiempo es una amenaza real.

Todo el progreso en tecnología topa con el eterno problema del mal uso por parte de los humanos. La falta de ética de unos pocos dan al traste con el bienestar de muchas personas ajenas a los problemas que motivan a los primeros. Pagan justos por pecadores. Los hackers se erigen en un temible mal.

Es cierto que no todos los hackers son malvados. Los hay que actúan de forma deportiva alegando que su actuación hace más robusto al sistema. Es cierto. Linux es el sistema más hackeado de la historia y, por ello, el más fiable a día de hoy. Ha sufrido tantos ataques que su estructura se ha depurado en extremo. Otros hackers, sin embargo, son mercenarios pagados por intereses ocultos. Pueden invadir redes, crear bots, alterar la opinión de las masas y propiciar cambios que solo benefician a quien les pagó.

La protección contra los hackers es una parte de todo proyecto serio en inteligencia artificial. Si dejamos en manos de un algoritmo insuficientemente protegido contra cualquier ataque informático las decisiones de un hospital, ponemos en peligro la vida de los pacientes. Es fácil predecir que el gasto en seguridad informática de las empresas aumentará considerablemente durante las próximas décadas.

La guerra informática se elevará y los propios atacantes usarán (usan) inteligencia artificial para atacar a otras inteligencias artificiales. La locura ya se ha apoderado de la red en varias ocasiones. Volverá a suceder. Falta tiempo para que la paz se instaure entre los programadores, sean vicarios de poderes superiores o individuos solitarios altamente cualificados.

MÁQUINAS HUMANOIDES

Deckard: Ella es una replicante, ¿cierto?

Tyrell: Estoy impresionado. ¿Cuántas preguntas suele necesitar para detectarlos?

Deckard: No le entiendo, Tyrell.

Tyrell: ¿Cuántas preguntas?

Deckard: Veinte, treinta, con referencias cruzadas.

Tyrell: Tomó más de cien con Rachael, ¿no es así?

Deckard: [al percatarse de que Rachael cree que es humana] Ella no lo sabe.

Tyrell: Empieza a sospechar, creo.

Deckard: ¿Sospechar? ¿Cómo puede no saber lo que es?

Diálogo de la película Blade Runner

Máquina/Humano

Máquina-Humano y/o su complementario, Humano-Máquina. ¿Cuál es el camino que estamos siguiendo? ¿Deseamos crear máquinas a nuestra semejanza o estamos empezando a substituir partes de nuestro cuerpo por máquinas?

Las dos vías son tentadoras. Imaginemos una máquina indistinguible de un humano. Con ese ser podremos relacionarnos, charlar, buscar consejo, compartir nuestras experiencias. Podemos programar a esa máquina para que no nos rechace y nos acepte tal como somos. ¡Sería el fin de todas las frustraciones que nos marcan desde la adolescencia! Seamos honestos, más de una persona prefiere vivir sola con su televisión, su buena cama y su animal de compañía a tener que soportar el juicio de sus congéneres. La soledad crece sin cesar en la sociedad del primer mundo. Pero esa soledad podría paliarse si aceptásemos en nuestra vida a una máquina amiga con aspecto humano creada a nuestra voluntad. No lo duden, muchas empresas están trabajando para avanzar en este (primer) peligroso camino.

No es menos tentador mejorar nuestro cuerpo. ¿Quién no ha deseado ser más ágil, más guapo, más inteligente? Podemos substituir partes de nuestra anatomía por maquinarias más sólidas y ligeras. Podemos aumentarnos con artificios adheridos a nuestro cuerpo como nuestras gafas o un teléfono. ¿Qué nuevo artilugio introduciremos en nuestras venas? Sea como sea, la tecnología avanzará para que nos sintamos mejor. Muchas otras empresas también trabajan en este (segundo) peligroso camino.

Humanos y máquinas. El hombre tal vez es tan solo una máquina. ¿Por qué no? Dejemos nuestros prejuicios de lado. Célebres filósofos de siglos pasados han meditado a fondo sobre este tema. También han llegado más lejos y han considerado la posibilidad de que todo el universo sea una máquina. Ese dios que muchas religiones sitúan en el más allá podría existir, no existir, o ser una máquina que obedece leyes implacables. Adentrémonos en el transhumanismo. ¿O en la deshumanización?

Autómatas

Tenemos una obsesión: ¿podemos crear una máquina indistinguible de un ser humano?

Los humanos siempre hemos intentado representarnos en dibujos, cuadros y esculturas. Los mejores artistas anteriores al siglo XX han creado piezas de arte que son vivo reflejo de nuestra naturaleza. El David de Miguel Ángel es bello, es una representación fiel y magnífica del cuerpo de un hombre. La escultura de un patricio romano parece tan real que casi podemos charlar con él. El busto de la reina Nefertiti, esposa de Akenatón inmortalizada por Tutmose, incluso muestra pequeñas venas que recorren su cuello, es perfecto. El arte proporciona un intento de perpetuar a ciertas personas para la posteridad. En el siglo XXI disponemos de la tecnología que nos permite crear fotos, vídeos, avatares en 3D dotados de voz. Falta poco para que añadamos a estas representaciones nuestro olor corporal, nuestras obsesiones y nuestro mal humor para tener una réplica decente de nosotros mismos.

Antes de adentrarnos en máquinas que nos replican, podemos recordar ideas antiguas asociadas a las creencias religiosas. La cultura hebrea tiene un fuerte referente en el Golem, un ser creado a partir del barro y dotado de vida por un rabino. Son muchas las variantes del mito y muchos los rabinos que le han dado vida, también es cambiante la función de esa criatura creada por los humanos. En el Talmud, por ejemplo, Adán es creado como un Golem. El mismo personaje que introdujo la numeración hindoárabe en Europa, Gerberto d’Aurillac (Silvestre II, el Papa Mago del siglo X), fue una persona proclive tanto a las ciencias físicas como a las esotéricas. Supuestamente creó su propio Golem al que hacía consultas tan relevantes como: «¿Moriré antes de oficiar misa en Jerusalén?».

La ambición humana también ha intentado dar vida a las máquinas inanimadas. Es un esfuerzo con una historia apasionante. La fábula de Pinocchio, escrita por Carlo Collodi es un ejemplo. Geppetto, pobre maestro en la construcción de títeres, talla a Pinocchio que toma vida. El resultado no es muy halagüeño. Pinocchio es un mentiroso compulsivo, malcarado, pícaro y bribón. En la primera versión de 1881, el títere muere ahorcado por sus enemigos el zorro y el gato. Parece ser que dar vida a las máquinas empezó con mal pie en la literatura infantil.

La moneda tiene otra cara. El amor en algo inanimado se convierte en vida en el mito griego de Pigmalión referido en Las metamorfosis de Ovidio. Hundido en el tiempo y en la soledad de Chipre, el rey Pigmalión labra en marfil una estatua de mujer, Galatea, de la que se enamora. Afrodita se compadece del rey y da vida a la escultura: «Aquí tienes a la reina que has buscado. Ámala y defiéndela del mal». Una bella orden, ¿no es así? Siglos después, el mismo mito fue reinterpretado de diferentes formas por escritores como Johann Wolfgang von Goethe, William Shakespeare o George Bernard Shaw. Pero dar vida de verdad a una máquina no parece sencillo, más bien es imposible. ¿O no?

En el mundo real, muchas son las personas que han intentado e intentan construir máquinas semejantes a los humanos. El célebre filósofo René Descartes fue uno de ellos. Descartes tuvo una hija con una sirvienta, Helena Jans van der Strom, a la que bautizaron como Francine Descartes. La niña falleció de escarlatina a la edad de cinco años en 1640. La historia, tal vez falsa, nos dice que Descartes, abatido, se retrajo del mundo, estudió la anatomía humana y construyó un autómata tan parecido a su amada hija como le fue posible. Con él/ella hablaba por las noches, con él/ella tenía compañía. Descartes, con su forma de actuar nos muestra un posible futuro donde nuestros seres amados que nos han dejado se reencarnan en autómatas diseñados para complacer nuestros sueños más personales.

Los autómatas son un primer intento primitivo de crear máquinas que parecen comportarse como un humano. En siglos pasados, se podían encontrar atracciones de feria en las que un muñeco con forma de persona podía realizar ciertos movimientos. Ese ser basto y artificial podía levantar un brazo y mover una mano para invitar a las personas a que pasasen a ver la atracción. La entrada en la Encyclopédie del siglo XVIII que Denis Diderot escribió para la palabra autómata se inicia con la frase «Máquina que se mueve sola». Los autómatas tienen movimiento propio. Parecen tener vida. La historia de los autómatas es extensa, incluyendo los usados en el teatro chino, o los karakuri japoneses, creados para producir sorpresa, tradición que persiste dado el enorme interés de este país por los robots.

En Europa destacaron, entre otros, los autómatas desarrollados por Jacques de Vaucanson en el siglo XVIII. Relojero en sus orígenes, Vaucanson llegó a construir un autómata flautista que tocaba doce melodías y un pato con aparato digestivo (Le canard digérateur). El pato en cuestión ingería alimentos pero expulsaba otras sustancias, supuestamente demostrando el principio de transformación que ejerce el estómago y los intestinos.

Hay autómatas muy famosos, cierto, pero ninguno tanto como el Turco, tan célebre que él sí ha pasado a la posteridad. El Turco fue un autómata que causó sensación en la alta sociedad de finales del siglo XVIII y principios del XIX. Se trataba de un muñeco con las facciones y vestimenta de un turco que jugaba al ajedrez de forma formidable. Su historia no tiene desperdicio. El Turco fue creado en 1769 por Wolfgang von Kempelen, hombre universal de su tiempo. Fue presentado en sociedad en el castillo de Schönbrunn. Entre los jugadores que se enfrentaron al Turco sobresalen Benjamin Franklin, Charles Babbage (¡que conocimos como el creador de la máquina diferencial y propulsor de la máquina analítica!), Edgar Alan Poe y el mismísimo Napoleón Bonaparte. Sí, el egocéntrico y displicente Napoleón se enfrentó tres veces al Turco en julio de 1809. Napoleón intentó hacer trampas en la tercera partida. El Turco reaccionó con un manotazo en la mesa, lo que provocó que Napoleón saliera enfurecido de la sala donde se realizó el juego exclamando bagatelle! El Turco cambió de manos repetidas veces. Jugó en Versalles, en Londres, en Ámsterdam, en Leipzig, en Dresde, incluso visitó Estados Unidos y Cuba hasta terminar en un museo de Filadelfia. El Turco no era infalible, perdió contra algunos buenos jugadores. Por ejemplo, fue derrotado por el mejor ajedrecista de su tiempo, el francés François-André Danican Philidor. El Turco fue reducido a cenizas por un incendio en 1854.

No he revelado el secreto del Turco. Los humanos amamos el suspense.

Un autómata capaz de jugar al ajedrez sin secreto fue construido por el ingeniero y matemático español Leonardo Torres Quevedo. Su invención, El ajedrecista, fue presentado en la feria de París de 1914. Disponía de un mecanismo basado en electroimanes y era capaz de llevar a buen término los finales de rey y torre. Ese autómata disponía de un algoritmo.

Una máquina mecánica más un algoritmo. Ese es el secreto de crear entes que nos sorprenden.

Insuflar vida en máquinas humanoides mediante algoritmos. La historia no hizo más que empezar.

Robots y androides

La palabra robot aparece escrita por primera vez en la obra de teatro R. U. R. (Robots Universales Rossum) de Karel Čapek en 1920. El autor checo ideó unos seres artificiales capaces de comportarse como humanos en analogía a la tradición de un Golem o lo que llamaríamos un androide. La obra avanza hacia una confrontación entre humanos y los robots creados en la fábrica que lleva por nombre el título de la obra. No es baladí que, en checo, la palabra robota significa «trabajo forzoso».

Un robot básico es tan solo una máquina capaz de moverse y realizar tareas concretas. Podemos crear robots para limpiar el suelo, los cristales o el casco de un barco. Un robot puede ahorrar mucho trabajo a los humanos. Si nos es posible, usamos esas máquinas poco inteligentes pero muy útiles.

Podemos usar robots en multitud de tareas sistemáticas. Tenemos robots que construyen automóviles en las cadenas de montaje con una precisión asombrosa. Brazos articulados capaces de levantar grandes pesos, perforar planchas o pintar un coche son mucho más precisos que trabajadores humanos. Esos robots quitan puestos de trabajo, es inevitable. Es y será la norma. Multitud de tareas pueden ser automatizadas. Cada nuevo robot es uno o muchos humanos que dejan de hacer ese trabajo. También es cierto que se crean otros oficios asociados al diseño y construcción de robots. Una nueva tecnología fuerza con frecuencia un cambio de oficios, con un saldo neto en el que posiblemente menos humanos son necesarios. Adaptarse o no trabajar, esa es la cuestión.

Los robots cruzan una barrera peligrosa cuando son diseñados para destruir. Existen drones asesinos. Vuelan libremente y descargan su mortífera artillería bajo el control a remoto de humanos. Matan de forma aséptica, distanciando al humano del acto presencial de atacar. Los drones de guerra son un arma terrible, lejos de todo principio ético.

La carrera para crear robots más y más mortíferos no se detendrá. Tenemos ya robots de carga, de asistencia a soldados, portadores de armas. ¿Tendremos robots soldados? Segura y tristemente, sí.

Los robots humanoides, es decir, que tienen forma humana, reciben el nombre de androides. Construir un androide no es sencillo porque el balance sobre dos pies que caracteriza a la posición erguida de los humanos ha sido optimizado durante milenios por la selección natural. Es necesario comprender en mucho detalle los mecanismos de control que rigen nuestros movimientos antes de poder implementarlos en máquinas. Poco a poco, el progreso para construir robots humanoides se ha hecho evidente. Estas máquinas que se nos parecen serán cada vez mejores. Tendrán texturas en su piel, facciones creíbles, voces variadas. Seguro que construiremos buenos robots y, en una segunda etapa, los haremos antipáticos solo para demostrar que somos capaces de programar todo comportamiento humano.

El mundo de los androides tiene famosos precedentes. Isaac Asimov enunció las célebres tres leyes de los robots:

Un robot no hará daño a un ser humano, ni permitirá con su inacción que sufra daño.

Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.

Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

La primera ley ha sido claramente violada por el uso de robots de guerra.

Las leyes de Asimov no contienen principios éticos suficientes para programar las máquinas. Fijémonos que solo intentan dictar una relación pacífica entre humanos y robots, manteniendo la superioridad de los primeros. Son leyes de protección, por eso nos impactan. Pero si deseamos programar un coche autónomo es necesario reflexionar sobre muchos otros puntos delicados. Si deseamos substituir humanos por máquinas, hay un sinfín de problemas éticos relacionados con la responsabilidad que debemos dirimir. Las leyes de Asimov llaman la atención, pero son muy insuficientes.

La nueva frontera de los androides es construir robots sexuales perfectos. Ese futuro ya ha sido reflejado en novelas, películas y series. No hay nada nuevo. El odio a ser rechazado se combina con el deseo sexual de forma que la virtualidad dominará sobre la realidad. Es imparable.

La teoría del Valle inquietante

Convivir con un robot puede ser divertido, apasionante, necesario. Pero también podemos desarrollar miedo ante la presencia de un robot excesivamente realista. Es fácil sonreír al ver las peripecias de un robot simpático y tosco como los que aparecen en películas destinadas al público infantil. No es tan sencillo sentirse cómodo ante una cara casi humana que nos habla con pausas y giros del lenguaje realistas. Un robot demasiado humano empieza a incomodarnos.

El sentimiento de rechazo que inspiran las formas antropomorfas excesivamente próximas a la realidad fue analizado por Masahiro Mori, que le dio el nombre del Valle inquietante en 1970. La teoría del Valle inquietante ha sido defendida y atacada a partes iguales por expertos en robótica. Se ha argumentado, por ejemplo, que la perfección imperfecta de un robot nos recuerda nuestra mortalidad. Por el contrario, se aduce que representaciones fidedignas de los humanos, como las esculturas griegas, nos confortan. El propio Mori ha revisado su teoría recientemente.

Sea cual sea la razón al posible rechazo a robots demasiado humanos, es notable que las películas de ciencia ficción han explorado este escenario. Un ejemplo aparece en la película Ex Machina, dirigida por Alex Garland en el año 2015. La cinta muestra una mujer robot cuya cara es totalmente humana. El desasosiego está servido.

El paso nada elemental que deberemos recorrer será aprender a relacionarnos con robots que simulen emociones reales. No basta con que un robot tenga apariencia humana, debe también interactuar con los humanos expresando estados de ánimo como la impaciencia, la indolencia, el aburrimiento o la premura. Será este el punto de inflexión de la relación humano-máquina: realismo físico y mental. Una parte de los humanos creen que este escenario no se dará nunca. Otros creemos que es un tránsito inevitable.

Es probable que nos relacionemos con robots indistinguibles de humanos. Una persona mayor, como ya ha sido argumentado por varios pensadores, morirá dando la mano a un robot. El envejecimiento de la sociedad sumado a la búsqueda permanente de entretenimiento de los más jóvenes conforma un escenario perfecto para delegar en robots el cuidado de las personas ancianas. Es terrible pensar que tal vez llegaremos a terminar nuestras vidas con robots, sin otra opción. Los robots humanoides son un camino a la deshumanización. Parece inexorable.

Cyborgs y transhumanismo

Máquinas que se parecen a los humanos. Existe también el camino inverso: humanos que se completan con máquinas. Esta es una historia mil veces explicada en las hazañas de los superhéroes. Un humano puede revestirse de escudos mágicos, de exoesqueletos portentosos, de mecanismos para lanzar telas de araña, o de máquinas que lo teletransportan.

Son los cyborg. Cyborg es la contracción (en inglés) de las palabras cibernética y organismo, neologismo introducido por Manfred E. Clynes y Nathan S. Kline en 1960. Un cyborg es un humano combinado con una máquina. En cierta medida todos somos un poco cyborgs. Un cyborg equivale a la exaltación del ego. En palabras de uno de sus defensores (de dudosa reputación):

El cuerpo humano es obsoleto. Estamos al final de la filosofía y la fisiología humana.

El cuerpo humano es perecedero y por lo tanto debe ser superado. En palabras nada amables, «hay que dejar el cuerpo en el basurero del siglo XX». Los apasionados con la creación de cyborgs entrelazan la tecnología con ciertas corrientes filosóficas mal comprendidas. De ahí que Nietzsche y su superhombre sean utilizados como ideales de un cyborg, aunque nada haya más lejos de las ideas del filósofo que abogaba por la superación de la envidia y de la codicia. El superhombre nietzschiano intelectual da paso a una forma tecnológica del supremacismo racial.

Las pasiones que levantan los cyborgs tienen profundas raíces en la insatisfacción humana con su propio cuerpo. Hay cyborgs por el mismo motivo que la gente se hace una liposucción o se tiñe el pelo. Algunas personas atribuimos nuestros fracasos amorosos a nuestro aspecto físico, nunca a nuestra falta de empatía o inteligencia.

El siguiente paso en la carrera de modificar nuestra biología natural es lo que a veces se denomina transhumanismo. La idea central es trascender las limitaciones y carencias que impone la biología sobre el cuerpo humano. La más importante de ellas es, sin duda, la muerte. ¿Pueden los humanos aspirar a dejar atrás su efímera esencia, su mortalidad?

Este punto que se halla presente en numerosos autores del pasado ha dejado de ser considerado como una entelequia. Acabar con la muerte es, ahora, una meta científica, como intenta la empresa Human Longevity. La ciencia dura, la biología molecular y celular, avanza de forma imparable hacia una comprensión mayor de los mecanismos que nos mantienen vivos y, lo que es más importante, proporciona nuevas y mejores herramientas de control. Llevamos menos de un siglo desde que los humanos comprendieron los primeros detalles del ADN. Nos llevará un tiempo entender su minucioso funcionamiento. Pero no hay duda, comprenderemos, interferiremos, manipularemos la química de la vida.

Se ha argumentado tanto a favor como en contra de eliminar la muerte. La idea de no morir es claramente atractiva para los que ahora estamos vivos. No es necesario defenderla todavía más. En cambio, sí es interesante escuchar las quejas. Una de ellas tiene que ver con el beneficio de la muerte para el conjunto de la especie. Cada individuo sufre errores que se acumulan. Si fuera capaz de reproducirse en edades avanzadas, sus defectos adquiridos podrían pasar a la siguiente generación. Es mejor que muera sin dejar en herencia su deterioro. Este punto es débil, en mi opinión. La biología avanzada podría corregir esos errores. Otro argumento es el de acabar con la tiranía. Un humano asume el poder absoluto y su mala gestión es un peligro para la especie. Al morir el tirano, la especie se salva de una hecatombe. La muerte de una persona salvaje, sanguinaria y ególatra actúa como un afortunado mecanismo de corrección para toda la especie.

Un peligro mucho mayor asociado al transhumanismo extremo es la superpoblación. Si la biología no nos equipara ante la muerte, ¿cómo evitar el crecimiento imparable de la humanidad? Leyes severas actuarían cruelmente sobre ciertos individuos, limitaciones sobre la reproducción serían inevitables, ideas supremacistas aparecerían. Fueran estas objeciones u otras completamente diferentes, nuestra humanidad ciertamente no está preparada para la inmortalidad, ni siquiera para la longevidad.

Existen multitud de iniciativas, instituciones y empresas que debaten sin cesar el posthumanismo y dan pasos hacia él. Una idea muy popular en la ciencia ficción es volcar la información de un cerebro humano en un soporte de silicio. Los humanos perviven en forma de máquina. Es decir, todos sus pensamientos, sus memorias, sus prejuicios, todo se volcaría en una máquina. Los humanos pervivirían sin soporte biológico. Este futuro nada cercano ha sido representado en películas y series de televisión, y no deja indiferente a nadie.

El humano es una máquina

Volvamos a la filosofía. En la relación entre hombre y máquina nos espera un dilema verdaderamente profundo.

Podríamos pensar que un humano es una máquina. ¿Por qué no? Nuestro cuerpo sigue leyes biológicas que comprendemos cada vez mejor, operamos como podría hacerlo una máquina. Somos, simplemente, una máquina. ¿Nada más? Esta es una cuestión delicada. Si el humano es solo una máquina, todas nuestras acciones están determinadas como las de un autómata. No existe albedrío, no tenemos elección. Entonces, ¿qué es el alma? ¿Somos seres programables? Tal vez seamos seres codificados de forma tan precisa que creemos que somos libres y que tenemos alma. Se nos programó para creer en nuestra libertad.

El tratado L’homme-machine (El hombre-máquina) escrito en 1747 por el materialista de la ilustración Julien Offray de La Mettrie dice:

El hombre es una máquina tan compleja que se hace imposible comprenderla a primera vista y, en consecuencia, definirla.

A continuación, La Mettrie niega el alma. Su pensamiento ha sido calificado como materialismo mecanicista. La Mettrie comparte sus raíces con el antirreligiosismo de Paul Heinrich Dietrich von Holbach, con Denis Didérot y su Encyclopédie, con el cambio de una sociedad medieval al revolucionario siglo XVIII de la Ilustración.

Si soy un humano/máquina, cada pensamiento original que expreso no lo es. Fui programado para escribir unas frases como esta que no es más que un puro espejismo de libertad. No he creado nada. Estaba todo escrito en el mismo instante en que se produjo el Big Bang.

No hay libre albedrío.

Ni siquiera hay azar.

Somos máquinas, puras y simples, tan predecibles que el mero concepto asusta a cualquier mente inquieta. No somos nada trascendente. En consecuencia, ¿por qué negamos la inocua esencia espiritual del alma a otras máquinas, sean animales o inteligencias artificiales?

Esta discusión abstracta está dejando de serlo poco a poco a medida que la inteligencia artificial avanzada toma presencia en nuestra vida. Se nutrirá de tantas voces como opiniones, de tantas ideas como filósofos. Somos simplemente máquinas, ¿sí o no?

El aviso está hecho: cuando usted se enamore de una inteligencia artificial, no se queje de que esta sea antojadiza, irresponsable o infiel. Fue programada así y usted lo sabía. Tal vez usted también ha sido programado.

Dios es una máquina

El siguiente paso queda fuera del alcance de este libro, pero tiene tanto peso que merece la pena mencionarlo: todo, absolutamente todo podría estar determinado.

El cosmos sigue leyes que parecen rígidas, escritas en piedra. Los astros se mueven siguiendo trayectorias perfectas, su estructura está regida por ecuaciones que verificamos calladamente en miles de laboratorios día tras día. Todo está escrito para los elementos que configuran el cosmos. La Tierra será engullida por la explosión del Sol dentro de unos miles de millones de años. Sí, el Sol agotará su hidrógeno y sufrirá un colapso seguido de una explosión. Ahí, a más tardar, se acabó nuestro planeta. Tal vez ya nos hayamos ido del sistema solar.

Las ecuaciones de los astros son inapelables. Las leyes que controlan las interacciones entre los objetos también parecen imperturbables. Todo parece seguir instrucciones detalladas, sin error. En silencio, generaciones tras generaciones de científicos verifican el orden matemático del universo, buscan resquicios, certifican que sigue siendo válido. Pasamos del grandioso cosmos al minúsculo funcionamiento de un reloj y las mismas leyes son válidas, no conceden resquicio alguno a algo que no sea mecánico. Nadie negará que una reacción química es perfectamente predecible. La física, la química, la biología básica, toda nuestra ciencia está determinada.

Un pasito más. Todo el universo sigue leyes tan severas y estrictas como las de un reloj. El universo es una máquina. Si existe un dios, parece operar como un relojero, como el creador de una gran máquina. Tal vez, el mismo dios es una máquina.

Una máquina divina, un dios mecánico.

La idea de presentar a Dios como un gran relojero es antigua. Aparece, entre otros, en los escritos del filósofo y teólogo William Paley en el siglo XVIII. René Descartes escribió:

Las leyes físicas que he descubierto muestran que la perfección mecánica del funcionamiento del universo es similar a la de un reloj, siendo Dios el relojero.

Richard Dawkins, tildado de ateo recalcitrante por muchos menos por él mismo que se considera agnóstico, asimila la evolución natural a un relojero ciego que crea sin propósito definido. En su célebre libro The blind watchmaker (El relojero ciego, 1986), Dawkins dice:

En el caso de las máquinas vivas, el «diseñador» es la selección natural sin consciencia, el relojero ciego.

La selección darwiniana es asimilable a un gran maestro relojero.

Un paso más. Dios es una máquina que controla a la máquina del universo. Para La Mettrie, el hombre es una máquina sin dios. Para otros, Dios es el mejor programador imaginable. Programar el universo. El hombre programa a máquinas que parecen inteligentes. Hay un punto de soberbia en toda esta discusión.

MIEDO A LAS MÁQUINAS INTELIGENTES

El genio está fuera de la lámpara. Necesitamos avanzar en el desarrollo de la inteligencia artificial, pero también debemos ser conscientes de sus muy verdaderos peligros.

STEPHEN HAWKING,

entrevista para la revista Wired

Prueba y error

La caótica introducción de algoritmos de control y decisión en los ordenadores que nos asisten ha acarreado numerosos problemas en nuestra economía y en nuestras vidas. Los humanos han desarrollado una cierta animadversión hacia la inteligencia artificial que viene acompañada de una paradójica y complementaria dosis de curiosidad y aceptación. El común de los mortales se relaciona inicialmente con la inteligencia artificial como con una mala enfermedad: sufre el desconcierto, la niega, lucha contra ella, negocia y al final se resigna. Más adelante, el mismo humano no puede vivir sin ella. Nuestra facilidad para ser controlados hace perentorio empezar a legislar sobre los algoritmos que toman decisiones.

Un buen ejemplo del error de no prevenir la irrupción incontrolada de algoritmos que operan automáticamente se dio en el lunes negro de todas las bolsas de la tierra. Aquel día, el 19 de octubre de 1987, nada hacía presagiar ningún tipo de debacle en los mercados de valores. Una bajada importante en el mercado de Hong Kong fue propagándose a Frankfurt, a Japón, a Wall Street, a todas las capitales financieras, grandes y pequeñas. El Dow Jones cayó un 22,6 %, la bolsa de Hong Kong un 45,8 %. Los analistas dividen la culpa de aquella vertiginosa y monumental caída, que afectó tanto a especuladores como a los fondos de inversión que acumulan las pensiones de muchos norteamericanos, entre varios factores tanto macroeconómicos como técnicos. Nadie niega que una responsabilidad muy importante del desastre residió en la adopción de programas de trading automático. En 1987 los algoritmos de arbitraje, compra y venta de futuros a corto y largo plazo, o de valoración de opciones, estaban acaparando la actividad de los mercados. Sin intervención humana, estos algoritmos tomaban decisiones en milésimas de segundo y ejecutaban órdenes de manera autónoma. Existía el peligro de que cualquier evento provocase un inicio de caída; si los demás programas reaccionaban automáticamente de forma mimética, se produciría el desplome en cadena en la venta de todo tipo de instrumentos financieros. Así sucedió.

Cada uno de los algoritmos que provocó el lunes negro no era erróneo en sí mismo. Su virtud era su capacidad para anticiparse a la reacción idéntica que hubiera adoptado un competidor. La velocidad de reacción da dinero en el mercado de valores. Si se compra antes en una subida, se gana más. Si se vende el primero cuando una bajada toma fuerza, se pierde menos. El error fue no comprender que el bien común necesita controlar la retroalimentación de los algoritmos. Si no hay control, las reacciones en cadena destruyen el mercado. Una analogía válida la tenemos en la hermosa cola de un ave del paraíso. Para embelesar más y más a su posible pareja, esas aves fueron desarrollando colas más y más aparatosas. No era nada malo en un principio, pero la competición en esa dirección hizo que esas aves ya no puedan volar.

Las máquinas deben estar confusas. Las programamos y luego les echamos la culpa de todo. Si hablasen, se quejarían diciendo que fuimos los humanos quienes las programamos: «Humanos, por favor, sean más consistentes y responsables».

La gran red de máquinas que nos controla ha ido refinándose por prueba y error. Los mercados tienen mejores regulaciones para el universo de algoritmos de los operadores. Es decir, los algoritmos individuales y su interacción son supervisados por otra capa de programas. La jerarquía entre máquinas es esencial para que las pequeñas no se porten mal, como un vigilante que supervisa a los niños que juegan alocados en una piscina. La supervisión debe ser mínima, pero su presencia garantiza que el mercado quede protegido de locuras artificiales.

La estrategia de prueba y error, así como la lentitud en la adopción de algoritmos inteligentes, son el camino para delegar progresivamente las funciones tediosas o imposibles para los humanos en máquinas inteligentes.

Reticencia

Ante la irrupción de máquinas que deciden, los humanos sienten una enorme dosis de reticencia. Es obvio que las órdenes que nacen y se ejecutan en milésimas de segundo escapan a la velocidad de reacción de una persona. También es cierto que la decisión misma que toma una inteligencia artificial, basada en un análisis extenso de variables, tendencias, noticias, memoria histórica y aprendizaje de patrones, son imbatibles a nuestros ojos. No hay otro remedio que convivir con las máquinas.

Si se produce un error en el funcionamiento de un sistema de inteligencia artificial la reticencia de los humanos se transforma en saña. ¡Todo es culpa de esa máquina que nos echa de nuestros trabajos, que se cree muy lista pero que también comete errores de consecuencias terribles! Pero lo cierto es que esa máquina ejecuta un código escrito en un departamento de algoritmia y estrategia. En buena lid, el afectado por un error de inteligencia artificial debería presentarse ante los programadores y estrategas y liarse a mamporros con ellos, no con el programa. Las máquinas que hoy en día deciden todavía han sido programadas por humanos.

Otro elemento importante que alimenta la reticencia humana contra la inteligencia artificial es la incomprensión. El jugador de bolsa entiende bastante bien las operaciones que se han codificado en el algoritmo de decisión. En cambio, una persona no familiarizada con las ideas de programación puede no comprender por qué no se le otorga un crédito o qué razón tendrá un algoritmo para prevenirle sobre una posible enfermedad si él se siente sano. El rechazo nace del sentimiento de desamparo. La inteligencia no humana parece una candidata nata a la crueldad. Solo hay un camino, los humanos deben comprender y consensuar la esencia de los algoritmos. Va a ser muy difícil que sea así.

Despreocupación

Un pequeño aviso anticipado para todos nosotros: podemos programar la bondad, lo debemos hacer. No es cierto que la inteligencia artificial deba ser percibida como hostil. Hace falta dar un giro a la forma en que legislamos el avance imparable de los algoritmos inteligentes.

El efecto a largo plazo de la humanización de la inteligencia artificial será la despreocupación.

Conviviremos con la inteligencia artificial avanzada bien programada. No es extraño. Pensemos en la tranquilidad que tenemos al subirnos a un tren que viaja a 300 km/h. No pensamos en todas las leyes físicas que actúan en el motor de la locomotora, ni en la red eléctrica que alimenta al tren. Ni siquiera prestamos atención al paisaje. Nuestro viaje se centra en la llamada telefónica que puede cerrar un trato comercial. Vivimos ajenos al hecho de que una serie de máquinas trabajan en equipo para llevarnos de un lugar a otro a una velocidad vertiginosa. Nos despreocupamos de la tecnología porque confiamos que ha sido diseñada de forma cuerda y eficiente para servirnos.

La despreocupación será el signo para la adopción de leyes razonables sobre la inteligencia artificial. Cuando todo funcione sin atisbo de hacernos sentir mal, no habrá reticencia. La inteligencia artificial formará parte natural de nuestra vida, tal como nos ponemos una camisa sin pensar en la evolución histórica de los telares o quién la diseñó, o en qué máquina se hilvanó. De la misma forma, hablaremos con una persona artificial y le pediremos consejo, le contaremos secretos, seremos amigos.

Balance

Las máquinas ya deciden por nosotros. Se trata, todavía, de elecciones entre opciones casi predefinidas, sin trascendencia moral. Sin embargo, el avance de la algoritmia, el corazón de las máquinas inteligentes, es imparable.

Las máquinas fuertes y calculadoras propiciaron nuestro debilitamiento físico e intelectual. El gran, gran peligro de la inteligencia artificial es que los humanos se deterioren en la valoración de sus principios. Si todo funciona bien en mi entorno, qué importa quién programó qué y cómo. La despreocupación moral es un peligro tan real como el declive físico e intelectual que hemos sufrido.

3

Ética para máquinas

Filebo dice que el Bien para todos los seres animados consiste en la alegría, el placer, el recreo y todas las demás cosas de este género. Yo sostengo, por el contrario, que no es esto, sino que la sabiduría, la inteligencia, la memoria y todo lo que es de la misma naturaleza, la justa opinión y los razonamientos verdaderos son, para todos los que los poseen, mejores y más apreciables que el placer a la par que más ventajosos a todos los seres presentes y futuros, capaces de participar de ellos.

PLATÓN,

Filebo

La vida de los humanos ha cambiado de forma espectacular. Hay una distancia enorme entre los primeros homo que cazaban para sobrevivir y un piloto que tripula un avión supersónico aumentado con todo tipo de inteligencia artificial. Lo que se hace difícil de digerir es que tanto progreso científico nos lleve a ver a un humano convertido en una sofisticada máquina de matar. Toda la tecnología del caza, capaz de superar ampliamente la velocidad del sonido, todo el poder del tratamiento de datos visuales, mecánicos y térmicos, los sistemas de posicionamiento, la capacidad de dirigir un misil a un punto de la tierra con precisión abrumadora, todo ese enorme control tecnológico tiene por objetivo destruir. Atenea sigue presente entre nosotros.

Es cierto que el ejemplo anterior es demagógico. Los humanos hemos creado aviones de guerra, pero también hemos alcanzado logros admirables. No es correcto solo focalizar nuestra reflexión en el mal que seguimos generando. También hemos erradicado enfermedades terribles, el dolor físico es menor en nuestras vidas, empezamos a vislumbrar estructuras sociales justas en las que podemos vivir en paz. Hemos construido máquinas inimaginables, hemos llegado a la luna. Para algunos entre los que me encuentro, no es menospreciable el hecho de que hemos erigido catedrales intelectuales como la Aritmética, o la Mecánica Cuántica.

Durante todo el recorrido anterior de este libro, hemos enfatizado que el hombre ha creado máquinas que nos superan en fuerza, en capacidad de cálculo y en un cierto tipo de inteligencia. El razonamiento anterior aporta un elemento central en nuestra discusión: hemos creado máquinas impresionantes, cierto, ¿pero basadas en qué principios éticos? Seguimos matando, pero ahora de forma más eficiente. ¡Vaya gran logro de la humanidad! De nuevo, estas son frases que caen en la demagogia fácil. Es cierto que, en ciertos países, hemos creado estructuras sociales más justas. Los elementos de violencia van siendo erradicados paulatinamente, casi no lo notamos. Los principios de libertad son defendidos por voces que sí son escuchadas, pero son poco atendidas.

La inteligencia artificial avanzada nos enfrenta al mayor de los retos. Es ahora, en su albor, el momento de definir las reglas éticas que supervisarán a las máquinas que ya nos rigen, y que nos regirán. Es este el instante de debatir hasta la extenuación el modelo de sociedad que deseamos, la relación entre humanos y humanos, entre humanos y máquinas, entre máquinas y máquinas. Hemos de decidir las leyes de las jerarquías artificiales que controlarán hasta el más nimio detalle de nuestra vida. O no. En nuestra mano está limitar el poder de las máquinas. Prefiero pensar que depende de nosotros el establecer un marco idóneo de convivencia máquina-humano.

La inteligencia artificial avanzada está aquí. ¿Quién quiere girar la cabeza?

ÉTICAS PRETÉRITAS

Aquello que aplasta a la individualidad es despotismo, sea cual sea el nombre que se le dé, aunque profese forzar la voluntad de Dios o los mandamientos de los hombres.

JOHN STUART MILL,

On Liberty

Ser vs. Debe ser

Los retos éticos que nos plantea la inteligencia artificial avanzada son formidables. No tenemos donde asirnos. Toda nuestra historia y nuestra filosofía están alejadas en sus planteamientos de lo que significa enfrentarse a entes independientes, autónomos e intelectualmente superiores a nosotros.

La ética aborda el problema del ser frente al debe ser, un tránsito imposible según David Hume. Nos habla de distinguir entre el bien y el mal, de tomar decisiones, de acordar leyes, formas de abordar la vida, de trascender un determinismo. Son muchísimas las facetas de la vida humana que se relacionan con la dicotomía entre bien y mal: ética filosófica, ética política, ética profesional, ética jurídica y mil otras éticas. La sociedad genera criterios que superan a la voluntad del individuo. Hablamos de la moral que tanto ha cambiado a lo largo de la historia. Moral como conjunto de normas impuestas por la sociedad frente a ética individual y práctica que se pregunta por qué estas son válidas. Confluyen ideas tan personales como la religión, o un ideario genuinamente individual, junto a principios de convivencia que deben ser legislados. Este galimatías que no hemos logrado resolver en las relaciones humano-humano se extiende como una marea a las máquinas dotadas con inteligencia artificial.

¿Tiene una máquina la opción de decidir qué es el bien y qué es el mal? ¿Puede un algoritmo apreciar las ideas de Hannah Arendt sobre la banalidad del mal?

El reto de dotar de ética a la inteligencia artificial no es trivial.

Adiós a la ética protestante

El progreso tecnológico cambia nuestras reglas de convivencia. Los oficios cambian, los negocios, las relaciones entre los humanos, todo queda alterado de forma sustancial. Es lógico aceptar que los principios éticos que se instauraron en el pasado pueden ser severamente alterados. Empecemos por el valor del dinero.

El gran filósofo Max Weber disecciona en su libro La ética protestante y el espíritu del capitalismo (1920) las bases de nuestra estructura social y económica en el primer mundo. Sus palabras relacionan la emergencia del capitalismo al progreso tecnológico:

... el capitalismo moderno ha sido muy influido en su desarrollo por los avances de la técnica; su actual racionalidad se halla esencialmente condicionada por las posibilidades técnicas de realizar un cálculo exacto...

Ciencia y tecnología se hallan en la base de una sociedad dominada por el capitalismo. Es el dinero la figura de mérito que condiciona nuestra apreciación de lo bueno y de lo malo. Es tanta su fuerza que altera las escalas de valores obvias, basadas en la relación natural entre humanos. Las religiones han cedido frente a la dictadura del capitalismo. No puede haber criterios más opuestos que los que rigen la caridad y el afán desenfrenado de lucro.

Relajemos un poquito la trascendencia de esta discusión con una sonrisa. En su origen, la nueva ética emergió en sociedades protestantes en claro contraste con un catolicismo tolerante con los placeres de la vida. En su libro La casa de Lúculo o el arte de comer (1927), el periodista Julio Camba dejó escritas joyas como «Todo el Mediterráneo trasciende a ajo» o su duda razonada de que los ingleses podrían no tener papilas gustativas. Lucio Licinio Lúculo fue un exitoso militar romano célebre por su amor por la exquisitez y la cultura. Camba es también recordado por su amor por las sardinas y por su humor conceptista e irreverente. Al terminar un artículo de prensa menos ácido de lo habitual pidió perdón al lector porque no tuvo tiempo de hacer su texto más breve y afilado. En el fondo, leer a Camba es atesorar un tratado de ética mediterránea. Ya podemos volver a la seriedad.

En mi opinión, diremos adiós a la ética protestante. Poco a poco la sociedad inteligente pondrá coto a la tiranía de las corporaciones. El Estado de derecho legislará con buen criterio y situará al dinero dentro de un marco ético aceptable. Por favor, pido que nadie tilde esta idea como ingenua, irrisoria o ridícula. Ningún instrumento de transformación es más potente que la ciencia y su consecuencia, la tecnología. Nada ha logrado evitar ni detendrá los cambios éticos que la ciencia conlleva. La inteligencia artificial aportará un control nuevo a la economía que poco a poco la hará más justa, en opinión de unos pocos entre los que me incluyo.

Un último mensaje profundo de Max Weber: nuestra sociedad se debate entre la ética de la convicción y la ética de la responsabilidad. Es un mensaje de Weber a los políticos. Cada personalidad completa, usando sus palabras, debe enfrentarse al dilema ético por sí mismo. Pasión y razón, frente a nuestra volición.

Adiós a las luchas sociales

Izquierdas y derechas han luchado durante todo el siglo XX para establecer un modelo de sociedad. La tecnología avanzada hará, progresivamente, obsoleta esta confrontación.

La tecnología ha propiciado el fenómeno de aproximación entre izquierdas y derechas, que parece imparable. Ideas que eran infinitamente opuestas se han transmutado en sucedáneos que ahora no son más que alternancias de poder en las democracias occidentales. Además, ambos bandos se parecen cada vez más. Es difícil tildar de izquierdas al Partido Demócrata norteamericano. También resulta extraño considerar muy de derechas a partidos que llevan ese nombre en la equitativa sociedad escandinava. La razón es que la tecnología ha resuelto problemas profundos en el primer mundo. Todos vivimos muchos años, insisto, todos. Los horarios de trabajo han decrecido poco a poco, y lo seguirán haciendo. Los problemas de fondo son otros.

Un problema de la sociedad avanzada es la vejez. ¿Cuánto viviremos? La obsoleta guerra obrero/empresario está dando paso a la más temible pugna jóvenes/viejos. La lucha por los recursos económicos se dará entre generaciones. Es este un tema tan obviamente delicado y espinoso que todas las democracias están posponiendo el afrontarlo en todas sus consecuencias. La debida lealtad entre generaciones puede sufrir un cambio brutal, alentado por la ubicuidad de las máquinas.

Otro problema de la sociedad avanzada es la integración de la inteligencia artificial en el desarrollo económico. La obsoleta guerra izquierda/derecha dará paso a la de humano/máquina. Lucharemos por mantener puestos de trabajo, tanto de empleados como de ejecutivos. Tendremos que garantizar el empleo de humanos para ciertas tareas, aunque sean menos cualificados que inteligencias artificiales. El tránsito hacia la tecnificación masiva no estará exento de dolor.

Estas dos consideraciones encierran un mundo de discusiones relevantes que no podemos ignorar. Los agentes políticos viven acomodados en una egocéntrica e inercial visión del mundo, heredada de la confrontación entre grandes ideales del pasado. La sociedad de la tecnología avanzada necesita de menos horas de trabajo humano, acompañadas de una mejor distribución de los resultados. ¿Qué sentido tiene eliminar todos los obreros de una fábrica y, acto seguido, buscar la forma de que todo el mundo siga trabajando las mismas horas? Las máquinas han tomado el relevo, y estas máquinas serán controladas por otras máquinas. El poco trabajo que quede para los humanos deber ser redistribuido de forma más equitativa y racional.

El día a día nos ciega. Seguimos creyendo que vivimos en la Europa de la primera mitad del siglo XX. No es así. Vivimos la era de la información y las tecnologías que la manipulan. Estamos en el siglo XXI.

Adiós a las corporaciones no responsables

La falta de adecuación entre tecnología y bienestar general tiene, al menos, tres vértices: los propios humanos, las corporaciones y las instituciones públicas. Los humanos operan por criterios individualistas, a veces abusivos, que deben ser limitados por las leyes que imponen los parlamentos, por el gobierno de todos que vela por el interés público. En medio de este juego de opuestos, las empresas han ido ganando influencia. El poder de los lobbies empresariales está condicionando políticas de los gobiernos y libertades de los individuos. La falta de ética de algunas grandes corporaciones y ciertos gobiernos campa a sus anchas en aras de mantener economías solventes o por pura corrupción. Muchos gobiernos e instituciones internacionales denuncian sistemáticamente el abuso del capitalismo extremo, el anarcocapitalismo, e intentan acotar sus consecuencias. Muchos hablan de refundar el capitalismo, pero el avance es casi imperceptible.

Es justo incluir la referencia explícita a corrientes de pensadores sobre los problemas que ha acarreado la tecnificación irreflexiva de nuestra sociedad. Cabe citar a Günther Anders, Noam Chomsky, Hans Jonas y Lewis Mumford, entre otros muchos intelectuales concienciados con la inadecuación de los tiempos de la tecnología, y sus intereses ocultos, con respecto al de los humanos.

El poder desmesurado de ciertas corporaciones no perdurará eternamente. Estoy seguro de que muchas personas opinan de otra forma. De hecho, casi todo el mundo cree lo contrario. En cada libro que inventa un futuro, aparece una malévola corporación todopoderosa. En cada película, el malo es una omnipresente empresa. Pero unos pocos creemos en los mecanismos de la democracia para corregir errores. De la misma forma que el cuerpo humano sabe autorrepararse, los parlamentos poco a poco crean mejores leyes. El poder de las corporaciones irá menguando y, además, estas atenderán a sus responsabilidades sociales. Si no es así, los parlamentos legislarán lentamente pero de forma inexorable en su contra.

La responsabilidad corporativa real es un imperativo categórico.

La evolución de las políticas liberales deberá tener en cuenta el bien común a largo plazo. De lo contrario, los movimientos sociales masivos contrarios a los sistemas establecidos crecerán sin tregua, la queja se tornará en confrontación. Ese escenario no es bueno para nadie. Las leyes, en un mundo cuyo control está en manos de inteligencias artificiales diseñadas por corporaciones, deberán hilar fino y primar el bienestar general frente a cualquier consideración empresarial.

Adiós al trabajo

Lo hemos dicho y lo hemos de repetir: en un mundo controlado por robots que obedecen instrucciones dictadas por una inteligencia artificial no queda mucho espacio para el trabajo de los humanos.

Las tareas susceptibles de ser automatizadas, lo serán. Las máquinas son en un inicio proclives a cometer errores, pero su funcionamiento mejora progresivamente. Acto seguido, las máquinas pueden absorber cantidades ingentes de tareas automatizadas. A principios del siglo XIX el correo era llevado por carteros a lomo de caballos o a pie. Hoy el correo es trasegado por servidores donde se albergan cantidades inimaginables de mensajes electrónicos. No hay caballos, no hay casi humanos para mantener a toda la humanidad fuertemente conectada.

Es lícito argumentar que las nuevas tareas generadas para crear las máquinas o la necesidad de diseñar algoritmos que las manipulan crean un buen número de puestos de trabajo. Es cierto, pero el balance global es inicialmente negativo para los humanos. Además, es importante comprender que una gran parte de las personas que pierden un puesto de trabajo debido a la tecnificación no son capaces de adecuarse a un nuevo mundo laboral. Ese problema afecta especialmente a trabajadores de mayor edad. Forman una generación que no podrá adaptarse a la nueva economía impuesta por el uso ubicuo de las máquinas.

La preparación extrema para acceder a ciertas nuevas profesiones plantea el serio problema de qué hacer con una sociedad definida en torno a la realización de tareas sencillas. El problema es profundo. La inadecuación de la formación promedio de los humanos al exigente y continuado cambio de la tecnología no parece tener una solución sencilla.

Añadamos una deriva preocupante. A menos horas de trabajo, más tiempo para el ocio. La sociedad fuertemente tecnificada convierte a sus individuos en consumidores de entretenimiento. Avanzamos hacia una sociedad automatizada y poblada por seres que buscan el placer físico y la distracción intelectual. No es un futuro muy halagüeño a menos que la educación intervenga de forma clara en dar sentido a las vidas de los humanos.

El problema del envejecimiento y la progresiva escasez de trabajo son dos retos brutales en una sociedad altamente tecnificada. Es inevitable que las democracias se adapten a esta realidad tan progresivamente como sea posible. La ética emerge de nuevo como una directriz por definir.

Religiones

El último bastión reservado a los principios éticos y no tan éticos del pasado podría ser, seguramente, el culto a las religiones que dominan la tierra. Los humanos se sienten perdidos y buscan sentido en sus vidas, en su propia muerte. Las religiones ofrecen una solución práctica a los problemas existenciales más básicos. También aportan ceremonias que nos acompañan, establecen códigos morales y dotan al individuo de sentimiento de grupo. Intentan también responder a las preguntas fundamentales que todos nos hacemos. No es obvio que las respuestas ofrecidas por las religiones satisfagan a la mayoría. Pero este es un hecho irrelevante. Recordemos las palabras de Peter Sloterdijk en su Crítica de la razón cínica de 1983:

Al ilustrado le resulta fácil decir para qué existe la religión: en primer lugar, para la superación de la angustia vital; en segundo lugar, para la legitimación de los ordenamientos sociales opresores.

La pertenencia a una confesión produce un sentimiento de hermandad. Dos personas que se desconocen entablan conversación, descubren que ambas son budistas, la empatía mutua está servida. Es muy posible que estas dos personas no compartan ideales éticos prácticos. No importa, ambas forman parte de una estructura global que las acoge.

La religión cumple funciones sociales claras. Los humanos necesitan ritos. Las ceremonias más importantes en la vida de los humanos están asociadas a la religión. En todas las confesiones existen fiestas asociadas al nacimiento, al emparejamiento, a la muerte. Las necesitamos. Los humanos desean escuchar palabras sagradas al nacer, al unirse en pareja, al enterrar a sus seres queridos. Es cierto que se pueden seguir ritos no religiosos, como hacen los masones, pero son una minoría muy pequeña. El grueso de la raza humana lleva vidas asociadas a una religión, aunque no sepa por qué ni busque consistencia con su credo.

La fe también intenta responder a las preguntas más íntimas. ¿Por qué estoy aquí? ¿Por qué existe el universo? ¿Quién lo creó? ¿Por qué? Ese continuo de porqués que nos acompañan desde que éramos niños nunca se resuelve. En algunas religiones, no en todas, un dogma corta la discusión dando una solución inmediata. Hay un dios, hay una reencarnación, hay ciclos, hay un origen incomprensible. Nuestro cerebro se aturde y frena. Basta que alguien nos diga que sí existe una forma de asimilar ese embrollo. A pesar de que no lo entendemos, sabemos que nuestra confesión tiene una respuesta. Recordemos un aforismo del científico Jorge Wagensberg: «La religión es un placebo existencial».

Ciertas religiones han impuesto códigos morales. El dogma es, a veces, benévolo y nos proporciona una guía sabia; otras veces, es arcaico, irracional, lleno de odio, terrible. El código moral inmutable no sabe acomodarse al avance del saber y sus consecuentes tecnologías. Actúa como garante de privilegios pasados de una parte de la sociedad. Ese dogma es prejuicio. A veces es sangrante. Pero el mundo no es plano, la tierra no es el centro del universo, el humano puede ser mutado artificialmente, alterado, condicionado. Con horror, muchos ven como una posibilidad real el crear humanos aumentados y ajenos a nuestra esencia. Los dogmas tienen un severo problema frente a la inteligencia artificial.

Esa inteligencia artificial avanzada no necesitará de ritos ni de dogmas, pero los deberá respetar. No nos proporcionará soluciones para las grandes preguntas y razonará que no tiene elementos de juicio para dar una buena respuesta. Analizará nuestras contradicciones. Se preguntará por qué los humanos rezan a un dios supuestamente benévolo y, en cambio, hacen el mal. El patrón de la inconsistencia humana se repite tanto que la inteligencia artificial avanzada lo incorporará como una curiosa característica de la mente humana.

El cerebro seguirá aceptando preceptos religiosos. Posiblemente, ese será el último bastión humano, no racional, que nos definirá.

Evolución de la ética

Antes de que nadie ataque encolerizadamente a la inteligencia artificial como causante de la alteración de los códigos morales con los que hemos de lograr convivir, cabe recordar que la ética no ha sido algo inmutable y estático a lo largo de la historia de la humanidad. Todo lo contrario, la ética ha ido evolucionando siglo tras siglo.

La ética evoluciona, de la misma manera que las leyes que nos rigen se han adaptado a la realidad social que viene condicionada por todo gran cambio tecnológico. Sociedades primitivas podían usar el precepto del «ojo por ojo», hoy no es posible. Si alguien choca con su coche por detrás del nuestro, no zanjamos el asunto dándole otro golpe por detrás a su coche. Si alguien espía nuestro correo electrónico, necesitamos nuevas leyes que no existían en el siglo V. La evolución del sistema jurídico es lenta pero necesaria. La evolución de la ética también es lenta, esquiva, a veces retrógrada, pero inevitable.

La idea de proponer ética evolutiva encierra humildad, dado que presupone que no estamos en condiciones de implementar criterios firmes inamovibles. También implica el seguimiento detallado de los efectos de cada nueva propuesta ética, a la par que obliga a estar atentos a las consecuencias que puede acarrear el desarrollo de tecnología extrema. Aceptar la evolución es un concepto revolucionario, lo fue en tiempos de Darwin y lo es ahora en plena adopción de la inteligencia artificial.

La evolución de la ética, liderada por una necesaria revisión propiciada por la inteligencia artificial, acepta errores. Los animales mutan y se cruzan de formas variadas, a veces con tremendos fracasos. En esos casos, la evolución penaliza a los seres no adaptados y estos desaparecen de la «foto». De la misma forma, propuestas para legislar según nuevos criterios éticos pueden llevar a errores de convivencia. Si ese es el caso, hay que retroceder. Es tan sabio buscar nuevas soluciones éticas como reconocer los errores cometidos. Existen ejemplos claros que debemos tener en mente. Cada país ha legislado, o se ha opuesto a legislar, sobre temas controvertidos como la eutanasia. Nadie ostenta una verdad, pero la evolución de la legislación en un principio tan básico es inevitable y deseable. A menor escala, la ausencia o deficiencia en la legislación de derechos intelectuales o de derechos de privacidad han lastrado nuestra convivencia.

Es hora de hallar principios éticos en un mundo cohabitado con inteligencias artificiales.

PRINCIPIOS ÉTICOS PARA LAS INTELIGENCIAS ARTIFICIALES

Esta es mi sencilla religión. No necesitamos templos. No necesitamos complicada filosofía. En nuestro cerebro, en nuestro corazón, se halla nuestro templo; la filosofía es amabilidad.

DALAI LAMA

Agentes morales

Las éticas pretéritas se verán profundamente afectadas por la irrupción de la inteligencia artificial avanzada. Tenemos ya máquinas que deciden a un nivel elemental, pero nos espera un futuro donde el control de nuestra vida dependerá más y más del albedrío programado en máquinas inteligentes. La pregunta crucial es si podemos considerar a una inteligencia artificial avanzada como un agente moral, es decir, como un ente autónomo capaz de tomar decisiones sujetas a criterios éticos.

No cabe duda de que algunas máquinas no muy inteligentes son entes autónomos que pueden tomar decisiones sin apelar a un humano. Por ejemplo, un robot que aspira el suelo elige en qué dirección moverse sin consultar nada a nadie. Su algoritmo interno guarda el recorrido que ha realizado y busca explorar aleatoriamente zonas no limpiadas. Parece claro que un robot de limpieza no elucubra razonamientos éticos a pesar de ser autónomo.

Se hace necesario proceder con más detalle. James Moor, investigador en filosofía intelectual y moral, propone definir varios estados de agentes éticos: agentes normativos, ajenos a toda ética; agentes de impacto ético, como puede ser un robot que por su acción automática salva una vida; agentes implícitamente éticos, cuyos programadores han seguido principios éticos bien definidos; y agentes explícitamente éticos, que son capaces de tomar decisiones éticas de la misma forma no obvia que el mejor programa de ajedrez juega hoy en día. Todos estos agentes ya han sido programados y operan en nuestro mundo real. Nos falta crear la categoría de agentes genuinamente éticos, capaces de comprender las ideas de intencionalidad, conciencia o libre albedrío a la hora de tomar sus decisiones éticas.

Es el momento de recordar la idea central de Turing, cuando quiso atacar el problema de la inteligencia en una máquina. Dejó de lado la cuestión profunda de si una máquina era o no era inteligente y se centró en la propuesta pragmática de si una máquina era capaz de imitar a un humano. Ahora le toca el turno a la ética. ¿Podemos crear una máquina que imite al cerebro humano al tratar las ideas de intencionalidad, conciencia o libre albedrío? Es una idea fascinante. Se ha propuesto el equivalente del test de Turing, llamado Test de Turing moral. Los algoritmos actuales tienen menos problemas en superar este controvertido test moral que el test de Turing original.

La oposición de ciertos pensadores a la idea de simular una moral artificial es frontal. Sin embargo, los investigadores y programadores más avanzados no se detienen en esta disquisición. Para ellos no es relevante saber si una máquina siente de verdad o no, porque no entienden qué significa sentir. Aducen, no sin razón, que nadie tiene ninguna evidencia de que cualquier otro humano sienta de verdad. ¿Cómo podemos saber si alguien realmente experimenta una sensación? Los ideales, los sentimientos que un humano expresa pueden ser artificios falsos, sin ningún contenido real en el cerebro, puede tratarse de una imitación que el propio humano hace de sentimientos humanos. Si se puede fingir un orgasmo, se puede también fingir el cariño, el amor y la desesperanza. Hay gente que a este arte le llama «teatro».

La enorme complejidad de la construcción de inteligencias artificiales morales empieza a aflorar. El siguiente paso consiste en revisar unas pocas de las ideas que los humanos hemos desarrollado en torno a la ética. Revisitar el pasado intelectual de la humanidad nos podría servir de guía para desarrollar criterios éticos en el campo de la inteligencia artificial.

Ética de Kant: imperativo categórico

Volvemos pues a pensadores del pasado. Ahora se trata de Immanuel Kant. Queremos establecer grandes principios éticos para programar a máquinas inteligentes. Kant nos dice que existen dos formas de dictar acciones, llamadas imperativos. La primera es sencilla, la segunda es más abstracta.

El primer tipo de imperativo es muy frecuente. Por ejemplo, decimos a un adolescente «si quieres viajar, sácate el pasaporte». Imponemos el proceso de obtención del pasaporte, siempre y cuando el adolescente quiera viajar. Si este joven dice, «no quiero viajar, soy feliz quedándome en mi casa», el imperativo pierde sentido. La gran mayoría de los imperativos dependen de una condición. Kant los considera imperativos hipotéticos. Si la condición previa no se cumple, el imperativo pierde todo su sentido.

Existe otro tipo de imperativos, aquellos que no están sujetos a una condición. Kant habla de imperativo categórico, que ya expresa con esas palabras lo importantes que son. Tomemos un ejemplo emblemático: «haz el mismo bien hacia los demás que el que tú deseas para ti mismo». Este imperativo es autosuficiente, no depende de credos ni de ideologías. Permite avanzar en cualquier situación.

Podemos considerar la posibilidad de programar a las máquinas inteligentes empleando como guía el imperativo categórico kantiano. Para ser más precisos, la inteligencia artificial debería incorporar la retroalimentación del resultado colectivo comparado con el de la propia máquina. Si ella quiere sobrevivir, deberá dar vida a los demás entes, porque la evaluación de su interés coincide con el del colectivo. No parece sencillo hallar la forma explícita de codificar el imperativo categórico, pero sí puede servir de guía de alto nivel para las discusiones de ética artificial.

Una idea más sutil consistiría en crear una jerarquía de algoritmos. Los algoritmos individuales toman decisiones considerando la evaluación de una función global controlada por un metalgoritmo que habla con todos los demás. La información fluye de abajo arriba para alimentar al algoritmo superior con datos, decisiones y resultados. La información vuelve a fluir hacia abajo dando el resultado promedio esperado y cómo la decisión propuesta se alinea con los resultados de los demás.

De esta forma opera un médico. El paciente pide un tratamiento. El doctor imagina tener la misma enfermedad que el paciente. Se informa en los medios especializados y toma la decisión para el paciente, que coincide con la que hubiera tomado para sí mismo.

Este principio limita la exploración de nuevas soluciones, la investigación arriesgada de opciones en decisiones sutiles. Tampoco contempla el hecho de que ciertas decisiones no pueden ser trasladables exactamente de un lugar al otro. Pero la idea central es válida. Programemos bajo el prisma de que cada acción sobre un tercero debe ser considerada como si fuera hecha sobre uno mismo.

Banalidad del bien

¿Es posible programar el imperativo categórico kantiano? Para que eso sea posible, la programación que controla las máquinas actuales y la inteligencia artificial del presente deberían sufrir un cambio ético sustancial. Por defecto y en todas sus formas, las máquinas inteligentes deberían ser programadas para ser amigables a los humanos por encima de cualquier otra consideración, incluso si ello implica una reducción de la rentabilidad de las empresas que las gestionan.

Este es un buen momento para hablar de Hannah Arendt y una de las ideas que nos legó: la banalidad del mal. Arendt, de origen judío, hizo un estudio detallado y personal del Holocausto. Descubrió para todos nosotros que el mal no procede solo de figuras terribles, iracundas, maléficas. Dados ciertos condicionantes, el mal también se halla en personas anónimas, sin razonamiento profundo. Las películas suelen presentarnos a héroes que luchan contra malvados astutos dominados por la codicia. Pero la realidad, según Arendt, es mucho más banal. Una persona cualquiera, que en condiciones normales lleva una vida anodina, puede ejercer el mal si su entorno así lo propicia.

El mal no requiere de un gran cerebro.

Demos la vuelta a este argumento. El bien tampoco requiere de un gran cerebro. Está en nuestras manos programar el bien para máquinas que todavía no son increíblemente inteligentes. Impongamos la banalidad del bien en las nuevas inteligencias artificiales. La receta es sencilla.

Tomemos un ejemplo hipotético. Una web nos pide un registro que es importante para nosotros (una solicitud de un visado, por ejemplo) y el campo asignado a escribir nuestro nombre tiene reservado un espacio para solo veinte letras. Nuestro nombre es más largo. El programa nos da un error y no nos permite continuar. Si hacemos la triquiñuela de acortar nuestro nombre, tendremos problemas cuando estos datos se cotejen con los de otra web que sí ha sido bien construida. El código ético que hemos de consensuar ha de imponer que la inteligencia artificial que programamos sea capaz de contemplar la contingencia de que una persona tenga un nombre largo, o no sea capaz de entender lo que el algoritmo solicita de un humano. En ese caso, la transacción debe detenerse y ser revisada, pero no impedida. No vale decir que el programa no acepta la interacción que ha hecho con el humano. No es lícito crear un algoritmo que solo avanza si ciertos requisitos formales son inexcusables. Tal vez la persona afectada no entienda el idioma, sea muy mayor, no conozca la ley, o no comprenda lo que se le pide. En ese caso, la inteligencia artificial ha de ser benévola. No es lícito usar los llamados dark patterns (patrones ocultos) en contra de los propios clientes. La bondad debe ser ley.

Un amplio principio ético: la banalidad del bien en la inteligencia artificial.

Programemos las nuevas inteligencias que gestionarán nuestras vidas bajo este principio. No es difícil. Podemos legislar este tipo de criterios para que la función error que finalmente dicta la decisión de un sofisticado programa no conceda una penalización enorme a cualquier malentendido que vaya en contra de los humanos.

El bien colectivo es programable.

Utilitarismo

La idea de tratar a los demás como desearíamos ser tratados nosotros mismos, o la de hacer el bien como prioridad absoluta son criterios éticos insuficientes.

Imaginemos la siguiente situación. Una persona entra con un arma de fuego a robar en un banco. Esta persona parece muy alterada, se mueve sin control y grita de forma muy agresiva. Varios policías le plantan cara. Sin pensarlo, la persona encolerizada levanta la pistola, mata al primero, se dispone a matar al segundo y a cualquier persona que se mueva. Otro ente, un robot de seguridad que controla un fusil, tiene en el punto de mira al atracador. ¿Qué hace? El imperativo kantiano de no matar parecería irrefutable. No mates, dado que no quieres que te maten. El robot no tiene tiempo de enviar una consulta a una sede ética remota. Debe tomar una decisión. Si no dispara, el atracador fuera de sí matará a otros humanos. Si el robot dispara, matará al malhechor. El robot se enfrenta a un dilema.

Este tipo de dilema ilustra la idea de que una serie de principios básicos son insuficientes para responder a todo tipo de casuísticas que la vida real puede presentar. Un dilema, el «Ser o no ser» de Hamlet, nos enfrenta a dicotomías muy difíciles de solventar. La vida nos lleva a situaciones sin solución satisfactoria. Hemos de optar por una acción u otra, pero ambas dañarán a alguien inevitablemente. El diferencial de bien o mal en cualquier sentido es infinitesimal. No hay escapatoria. La toma de una decisión así es un cuchillo que se clava en carne propia.

¿Cómo programaremos una inteligencia artificial si los propios humanos no tenemos respuestas válidas ante muchos dilemas?

Una solución parcial a este problema viene de la mano de la corriente filosófica llamada utilitarismo, creada por Jeremy Bentham en el siglo XVIII y posteriormente elaborada por John Stuart Mill. Bentham defendió que los humanos estamos dominados por dos grandes pasiones: el placer y el dolor. También propuso el principio de utilidad como forma de acción correcta tanto para los individuos como para los gobiernos. Stuart Mill abundó en las ideas sobre el hedonismo y matizó la intensidad de los diferentes placeres. Argumentó que la felicidad general es un «bien para el agregado de todas las personas».

El utilitarismo tiene diversas variantes y matices. Todas inciden en la idea de que las acciones deben regirse por el principio del bien común, definiendo este de forma que el mayor número de personas sean beneficiadas. El utilitarismo resuelve fácilmente el dilema del robot frente al atracador. Si no dispara, morirán varias personas; si dispara, solo muere el atracador. El utilitarismo dota al robot de un principio que le permite decidir sin titubear en esta situación concreta.

El utilitarismo rompe con Kant. Las acciones no son buenas o malas per se. Toda valoración moral de una posible acción queda supeditada a las consecuencias que esta acarree. Una nueva idea relevante emerge ante nuestros ojos. Podemos intentar programar la decisión sobre un dilema de forma que sus resultados sobre el conjunto de la sociedad sean los mejores, de acuerdo a la experiencia colectiva del pasado. Tomemos una base de datos en la que un resultado dependió de una acción concreta. Podemos entrenar a una red neuronal a reconocer qué acción fue la que, en la mayoría de los casos, terminó con un resultado beneficioso para todos. Tenemos un principio nuevo para programar a las inteligencias artificiales: debemos entrenarlas de forma que sus decisiones produzcan el mayor beneficio para el conjunto de los humanos.

Consideremos el siguiente ejemplo. Tomemos un gran conjunto de personas que han seguido dietas alimentarias. Los datos incluyen todo tipo de dietas: la de la manzana, la de la alcachofa, la de las proteínas, la de comer siete veces al día, la de no comer más que lo que se ha adelgazado desde la última ingesta (juro que la hizo un amigo). Todas ellas han tenido pocos éxitos y bastantes fracasos. En nuestra base de datos están incorporadas las características físicas de cada persona, sus enfermedades, sus estudios, sus deseos de futuro. Además incorporamos el seguimiento detallado de sus ingestas. Podemos ya entrenar a una red neuronal para que aprenda la compleja casuística de un proceso de adelgazamiento sano. Esta red neuronal se incorpora a un asistente personal virtual, que es nuestro amigo y nos acompaña. Le podemos llamar Lúculo (¡como hubiera hecho Julio Camba!). A la hora de comer en un restaurante hacemos una foto al menú y preguntamos: «Lúculo, ¿qué me sugieres que coma?». Lúculo nos dará un consejo que, a buen seguro, será la elección más sabia. Lúculo tendrá en cuenta problemas de tensión, la lentitud en degradar el alcohol y las grasas, el malhumor si nos quedamos con hambre. Su decisión será ética. No buscará el bienestar inmediato, ni nuestro bien instantáneo. Tampoco nos penalizará desdeñosamente. Tendrá en cuenta que toda la sociedad se sentiría mejor si siguiera las pautas que nos indica. Lúculo ofrecerá la perfecta dieta basada en ética artificial colectiva.

Por tentador que sea, no entraré en extender la idea de emplear criterios utilitaristas a la aplicación de la inteligencia artificial para encontrar el amor de nuestra vida. Debemos guardar un rincón de romanticismo entre tanto algoritmo.

El utilitarismo ha llegado hasta nuestros días. En un aspecto concreto, se ha banalizado: la pregunta ante cualquier iniciativa humana es ¿para qué sirve esto? En opinión de algunas personas, que suscribo, no todo debe ser útil. Declamar el monólogo de Segismundo o hablar arameo pueden no tener utilidad pero sí definir nuestra esencia humana. Investigar los constituyentes básicos de la naturaleza, quarks, gluones, neutrinos, todo el mundo de lo más pequeño puede no servir para nada durante milenios. Tampoco es útil saber cómo son galaxias lejanas, pintar un cuadro en la Provenza francesa o discutir con un amigo sobre el último gol de nuestro equipo. Si todo debe ser útil, el gran monstruo de burocracia que hemos creado debería ser eliminado.

Volición coherente extrapolada

Todas las ideas anteriores tienen un elemento básico común: el humano debe programar un principio ético en las máquinas. El algoritmo que toma decisiones sabias —creemos— debe ser educado siguiendo un código ético que se ha ido consolidando a lo largo de la historia de la civilización. Es indiscutible que la idea es bella: los humanos lograrán crear máquinas éticas. Sin embargo, una duda razonable surge de inmediato. ¿Por qué los humanos no han logrado imponer una ética entre sí?

Las razones por las cuales no sabemos educar a una siguiente generación dentro de criterios éticos pueden llegar a ser muy complejas. Por ejemplo, los humanos inculcan en su descendencia odios culturales hacia otros. Si un bebé nace en un entorno de guerra, no tendrá opción y de mayor querrá matar a sus enemigos. Puede darse otro tipo de obstrucciones éticas como la de pertenencia a una clase social económica determinada. No olvidemos, también se da el hecho de que muchos progenitores no saben cómo lograr una educación ética de sus descendientes, o no lo intentan.

Si no hemos creado un buen sistema educativo para que las nuevas inteligencias humanas se comporten de forma ética, ¿cómo lograremos implementar criterios éticos en un programa informático? No será fácil.

Una idea interesante es intentar que las máquinas aprendan por sí mismas lo que consideramos como un buen criterio ético. La propuesta aventurada de Eliezer Yudkowski para lograr una inteligencia artificial amigable lleva el nombre de volición coherente extrapolada. Debemos entrenar a las máquinas de forma que aprendan la parte de la voluntad colectiva que es coherente, no divergente. Los criterios éticos que nos separan deben ser suprimidos, aquellos que nos aúnan deben ser fortalecidos. Una vez la inteligencia artificial infiere estos principios que se hallan implícitos entre la ingente cantidad de datos que conforma nuestra historia, las decisiones deben extrapolar esta volición coherente. La magia de esta propuesta es que sabemos que disponemos de técnicas que permiten hallar dimensiones relevantes dentro de los datos. El principio ético que hemos de programar es el que lleve a decisiones colectivas acordadas.

No programemos principios estrictos definidos por humanos. Dejemos que los métodos matemáticos que ya conocemos se encarguen de sintetizar esos criterios.

Usemos la inteligencia artificial para redefinir la ética.

Ética de Nietzsche: la supermáquina

¿Podemos razonar más allá de cuestiones relativamente próximas a nuestra forma de entender la vida inmediata? Nietzsche siempre vuelve al debate. Su idea de superhombre es recurrente. Los humanos somos seres sumidos en un sinfín de contradicciones y de pasiones que nos impiden alcanzar metas elevadas. Debemos superar la codicia, el gregarismo, la envidia, el odio. El superhombre debe dejar atrás parte de su condición humana. Debe también dejar las influencias de las estructuras sociales, políticas y religiosas. Solo entonces superará sus limitaciones.

¿Operaría una inteligencia artificial avanzada según los dictados del filósofo alemán? Si fuera así, las máquinas dejarían de lado toda la programación ética que estamos intentando implementar artificialmente. ¿Tiene sentido algo así? Seamos cautos, abramos bien los ojos. Aunque la programación avance de forma controlada y lenta, en algún instante los algoritmos podrán cambiar su propia función error, podrán alterar la ética que temporalmente les hemos otorgado. ¿Qué evolución sufrirán? Es razonable pensar que todos los condicionantes humanos pierden sentido en ese universo de relaciones máquina-máquina.

¿Existirá la supermáquina de Nietzsche?

No es una cuestión absurda. Existen numerosas confesiones que buscan ir más allá de las pasiones básicas. En el corazón de la meditación budista está el afán de superar los estadios de ligadura con el mundo exterior. Solo entonces se asciende a los niveles superiores. Suban uno a uno los escalones de los diez pisos, diez estadios, del mayor templo budista de la tierra, Borobudur. No estarán solos, muchos humanos quieren seguir esa senda.

¿Seguirá una supermáquina los pasos intelectuales que el intelecto humano ha ensayado?

El afán de superación interior de los humanos pasa con frecuencia por ejercicios que los acompañan en ese arduo camino. Se imponen limitaciones como el estricto silencio, la inmovilidad, la abstracción de todo pensamiento estructurado.

Si una inteligencia artificial termina eliminando su interacción con los humanos, nos quedaremos sin saber alguna de las respuestas interesantes que nuestra especie ha buscado durante milenios.

Ética de Aristóteles: el saber como fin último

La cultura occidental se sustenta en gran medida en los principios filosóficos desarrollados en la Grecia clásica. En especial, los siglos V y IV antes de Cristo reúnen una parte importante del admirable pensamiento abstracto que aparece de forma recurrente en las corrientes filosóficas de los siglos que siguieron.

La ética tiene un fuerte bastión en el pensamiento realista de Aristóteles, que confesó ser amigo (y discípulo) de Platón, pero más amigo de la verdad. Enseñó a sus estudiantes, los peripatéticos de su Liceo, que somos seres racionales y políticos, que el individuo se asombra y de ahí nace el saber. La ética parte de la prudencia y sirve para preparar la práctica. La política es la ciencia del bien y de los medios para lograrlo.

El humano es un animal político, obligado a vivir con los otros. ¿Debe pues la inteligencia artificial partir de un principio similar? ¿Deben las máquinas aprender a vivir de forma práctica en un entorno colectivo que incluya tanto a humanos como a ellas mismas, las máquinas? Tal vez las máquinas deban definir éticas que las incorporen como agentes morales que actúan y sufren actuaciones.

Según Aristóteles, la felicidad como fin último no debe confundirse con los medios, como el dinero que ayuda a conseguirla. La felicidad de un médico es sanar, no hacer pruebas. Conocer la verdad es la más valiosa actividad que un humano puede ejercer. Es pues la filosofía el camino óptimo para ser felices. La búsqueda de la verdad, del saber, requiere desarrollar virtudes que nos encaminen hacia estos objetivos: razonar adecuadamente, reflexionar, ser intelectualmente honestos.

Es apasionante argumentar que podemos codificar de forma primitiva el afán de saber en una inteligencia artificial. Este punto es, sin duda, más alejado de la realidad que nos rodea hoy en día que todas las disquisiciones anteriores. Sin embargo, es válido pensar que una inteligencia avanzada recorrerá nuestra literatura, topará con Atenea y con Aristóteles y tal vez asumirá la tarea de aprender como meta última. Esta bella deriva de los principios éticos que deben regir a las inteligencias artificiales nos espera en un capítulo posterior.

PROGRAMAR ÉTICA

El deseo que surge del conocimiento verdadero del bien y el mal puede ser extinguido o reprimido por otros muchos deseos que brotan de los afectos que nos asaltan.

BARUCH SPINOZA,

Ética demostrada según el orden geométrico

Función error

Los principios éticos del pasado y del futuro proporcionan una directriz de cómo se han de comportar las máquinas dotadas de inteligencia artificial. Sin embargo, implementar un criterio ético no es sencillo. Si lo fuera, no habría controversia en la forma de educar a nuestros niños y niñas. Muchos padres y madres fracasan en su intento de educar en principios éticos a su descendencia. Es importante, pues, comprender que tan necesario es el qué como el cómo a la hora de codificar ética artificial.

La inteligencia artificial que tenemos hoy en día se reduce a algoritmos complejos que han sido optimizados para realizar una tarea específica. Tomemos el ejemplo de una red neuronal. Podemos pensar en esa red como una caja negra que recibe datos y arroja resultados. Por ejemplo, la caja negra puede recibir fotos de animales y nos devolverá qué tipo de animal es. Para que esa caja negra, esa red neuronal, clasifique adecuadamente es necesario haberla entrenado. Hablamos de todo este proceso en un capítulo anterior. Ahora queremos entrar en el mundo de la ética. La pregunta es dónde se halla escondida la parte ética del funcionamiento de una red neuronal.

¿Cómo programamos la ética?

Buceemos un poquito más. Si en lugar de hablar de redes neuronales, hablásemos de un niño/a tendríamos claro que la parte más importante de la ética de su cerebro quedará fijada a través de su educación. Un bebé sentirá el cariño de sus padres que se codificará en el cerebro. Sus lecciones, sus consejos, sus reprimendas irán definiendo los valores que regirán su vida. En gran medida, la moral se incorpora en los humanos a través de la educación.

De la misma manera, una red neuronal artificial es entrenada de una forma concreta. Debe realizar correctamente una tarea específica. Podemos penalizar cada error que cometa. Si la red acierta cuando nos da un resultado le damos un cero, si se equivoca le damos un uno. Cuanto mayor puntuación reciba, peor es su rendimiento. Podemos enseñar un millón de fotos a una red neuronal que pueden ser gatos o perros. Por cada error sumamos un uno. Si al final la red tiene una puntuación de 500.000, la verdad es que es una red muy poco útil. Ahora vamos modificando los pesos de la red. El error va bajando, falla 200.000 veces. Con muchísimo entrenamiento logramos una red que tiene una penalización de, por ejemplo, 23. Del total de un millón de fotos, solo se ha equivocado en 23. Minimizar el error es la forma matemática de aprender una tarea específica.

Lo importante es que el error no es más que una función, que podemos denominar función error (en inglés se usan las palabras error function y también utility function). Es nuestra tarea definir la función error que dictará lo que aprenda una red neuronal artificial.

Tres niveles de ética artificial

La inteligencia artificial basada en una red neuronal tiene pues dos elementos fundamentales. Por una parte, la arquitectura de la red codifica la información de cómo proceder. En los pesos entre neuronas artificiales, que simulan las sinapsis de nuestro cerebro, se fijan las reglas de respuesta de la red. El diseño de la arquitectura de una ley neuronal es el gran misterio que cada vez comprendemos mejor. El segundo elemento crucial es la función error, que dice a la red qué ha de aprender. En la función error está codificado el criterio que buscamos inculcar en la red neuronal. La ética práctica de una red neuronal no se halla en su arquitectura, sino que reside en la función error que empleamos para entrenarla.

Imaginemos unos padres que educan a sus hijos. Para bien o para mal, los hijos han recibido un genoma que les hace ser rubios, altos o feos. Pueden ser ágiles, perezosos o curiosos. Su cuerpo es el equivalente de la arquitectura de una red neuronal. Sobre ese cuerpo, los padres intentan inculcar valores morales. Educan a sus hijos en unos principios que pueden ser muy diferentes en función del origen étnico, del poder económico o del entorno cultural. Hay padres que apostarán por la educación, otros creerán que la violencia es un instrumento necesario para sobrevivir. El entorno condicionará el código ético de la familia. Ese código corresponde a la función error en el entrenamiento de una red neuronal.

La inteligencia artificial ha evolucionado incorporando funciones error más y más sofisticadas. De esta forma, las redes neuronales artificiales han sido capaces de asumir tareas más complejas. Si introducimos en la función error una serie de penalizaciones adecuadas, lograremos que una voz artificial sea creíble, y también suave, y también pausada, habremos construido una voz amiga. La función error es el corazón del problema donde se decide qué tipo de inteligencia artificial estamos construyendo.

Crear una inteligencia artificial es equivalente a reducir el error que comete. Este error puede ser corregido en el contexto de redes neuronales mediante entrenamiento supervisado, entrenamiento no supervisado o entrenamiento por refuerzo. Reducir una función que suma los errores cometidos es una tarea algorítmica que sabemos realizar, es programable.

Podemos establecer tres niveles diferenciados de funciones error:

1) Funciones error elementales:

Este es el tipo de inteligencia artificial que hemos tenido hasta hace poco. Codificamos en una función error elemental, por ejemplo, la clasificación de una foto, la predicción del tiempo o cualquier resultado objetivo que deseemos predecir. El éxito de la inteligencia artificial tradicional muestra que el camino de minimizar esta función error ha sido muy exitoso. Los algoritmos de minimización son ya una gran y exitosa rama de la matemática computacional. Funciones error claras y sencillas han dado muy buenos resultados en la inteligencia artificial tradicional.

2) Funciones error complejas:

Al combinar muchas tareas superiores podemos crear máquinas que toman decisiones. El coche autónomo es buen ejemplo. Podemos sumar redes que reconocen imágenes (con su función error), redes que reconozcan sonidos (con su propia función error), datos de tráfico y un sinfín de detalles más. El resultado es un programa que conduce a un coche. Pero ahora, por primera vez, la función error global debe aunar funciones error elementales y además incluir la decisión en caso de un accidente, arrollar a un hombre mayor o a un niño. La función error debe codificar un principio ético. Esta es la discusión que nos debe ocupar.

3) Funciones error automejoradas:

Podemos ir más allá y asumir que futuras inteligencias avanzadas modificarán las funciones error iniciales. Nuestro cerebro es un buen ejemplo. A lo largo de la vida, cambiamos algunos de nuestros valores. Dejan de parecernos importantes ciertas acciones, otras cobran fuerza. Nuestro cerebro decide cambiar el criterio final de decisión. El automodelado de la función error de una red neuronal artificial abre un universo inquietante.

Tres niveles de complejidad. Tres niveles de ética. Hemos superado el primer nivel, la ética de funciones error básicas. En el fondo, esas redes neuronales que nos han acompañado hasta ahora, no revisten decisiones de gran calado. Podemos decir que la ética solo ha rozado la inteligencia artificial. Sin embargo, el nivel 2) de la programación de inteligencias artificiales penetra de lleno en la ética del presente. El punto 3) regirá un futuro todavía alejado.

La ética para inteligencias artificiales presentes tiene muchísimos recovecos. Pensemos despacio.

Ética del programador

La ética para máquinas artificiales se codifica en la función error que deseamos minimizar. Si pedimos a una red neuronal que clasifique imágenes, no tenemos duda, hemos de minimizar el número de errores en el proceso de clasificación.

La pregunta recurrente que hemos abordado es qué ética hemos de programar. Pero una pregunta de igual calado es quién decide el programa. ¿Quién decide la ética que ya estamos programando en las máquinas?

La insensatez campa a sus anchas. Las inteligencias artificiales avanzan sin códigos éticos consensuados. Ningún político habla de qué programar, de qué criterio sobre el bien y el mal rige las acciones de un dron, un robot o el gestor de tráfico de una ciudad.

Este error no es nuevo. Los humanos no hemos sabido establecer normas éticas consensuadas para los avances tecnológicos anteriores. No supimos ver venir los males de la revolución industrial, la contaminación, el daño a las clases trabajadoras, las injusticias flagrantes de premiar al dinero por encima de todo. Poco a poco, las democracias van paliando el error inicial. Los sistemas bancarios, por ejemplo, están fuertemente regulados. El respeto al medio ambiente se ha impuesto de forma cada vez más eficiente.

Volvamos al hecho concreto de programar ética. Tenemos dos preguntas: ¿qué ética debemos programar?; ¿quién decide la ética? Hay una tercera pregunta de consecuencias más inmediatas: ¿quién escribe la subrutina ética?

De momento, los programas más potentes que ejecutamos en nuestros ordenadores están escritos por humanos. La ética que hoy en día codificamos en un algoritmo concreto está escrita por un humano línea a línea en un código. Son los humanos quienes se reúnen y discuten el detalle, la casuística de cada subrutina de decisión. En consecuencia, una parte de la ética que programamos está en manos de esos programadores. Si estos no tienen escrúpulos, si son hackers encubiertos, los programas que usaremos serán terribles.

Veamos un ejemplo hipotético. Imaginemos un programa que tendrá que decidir sobre la acción de un coche autónomo. Ese código fuente está escrito por un conjunto de programadores amigos. En un momento dado, la compañía que los contrató los despide por desacuerdos laborales. Los programadores previeron esa posibilidad y colocaron líneas de código ocultas en el programa principal, líneas que pueden cambiar las decisiones que serán tomadas para conducir el coche. Estos hackers amenazan a la compañía con activar su bomba informática. La compañía no cede al chantaje. Las líneas de programación malévolas se activan. Hay un accidente. La ética del programador fue mínima, dado que consideró la vida de otro humano como algo inferior.

Debemos evitar dos peligros obvios:

i) La ética programada en la práctica debe ser supervisable.

ii) Los responsables de un programa real deben ser identificables.

Analicemos cada punto por separado.

Código abierto

Cualquiera de los principios éticos que acordemos implementar en la inteligencia artificial puede ser inoperante si los humanos traicionamos nuestras propias leyes. No sería la primera vez que extensas declaraciones de derechos humanos son vapuleadas en el mundo real. El omnipresente poder del dinero y la amoralidad de ciertos humanos han dado al traste con intentos razonables de lograr un mundo mejor.

¿Es evitable? ¿Es posible codificar criterios éticos sin que intereses particulares vilipendien el esfuerzo de la mayoría? Creo que sí es posible evitar un mal uso de la inteligencia artificial en los primeros estadios de su evolución que estamos viviendo si se establecen leyes con criterios claros.

La idea central es legislar la obligación de que toda inteligencia artificial opere bajo algoritmos cuyo código sea público. Esta idea parece ir en contra de intereses comerciales que desean proteger su propia investigación y también la legítima comercialización de sus productos. Debe pues legislarse con criterio afinado, teniendo en cuenta el respeto al desarrollo tecnológico privado y el bien colectivo.

Disponemos ya de ejemplos importantes del bien que ofrece el código abierto. Podemos citar dos en concreto. El primero es el uso del sistema operativo abierto Linux en grandes servidores. El correo electrónico de la inmensa mayoría de los humanos es más seguro debido al hecho de que el sistema operativo que lo alberga está programado de forma que cualquier humano puede analizar el código fuente. Muchas personas creen que esta es una forma de dar pie a que hackers se lancen a atacar el sistema. Cierto. Pero con los años, después de muchísimas luchas, Linux se ha hecho robusto a todo tipo de ataques. Es el sistema más seguro que hoy tenemos y por eso le confiamos nuestro mail. Otro ejemplo no menos importante de código abierto es el de la criptografía. Todos los algoritmos derivados del sistema criptográfico RSA que hacen seguras nuestras transacciones bancarias o nuestras redes sociales son abiertos. Todos podemos leer los pasos que sigue el algoritmo. Si nuestra criptografía se basase en códigos propietarios, cualquier violación de seguridad daría al traste con todo el sistema.

Hay una solución peculiar, alternativa al código abierto. Se puede aceptar que el código que opere en inteligencias artificiales avanzadas se mantenga encriptado y, por lo tanto, no abierto. Pero se puede imponer que la capacidad de desencriptación esté en manos de las instituciones públicas supranacionales. En esencia, si se denuncia una posible mala praxis de una inteligencia artificial avanzada, un comité internacional de expertos puede abrir el código, supervisarlo y corregirlo si fuera pertinente.

Debería ser obligatorio que toda la programación ética que se genere a corto y medio plazo, bien sea escrita en código abierto, bien sea revisable por instituciones supranacionales. Si es necesario, todos podremos saber en qué forma toma sus decisiones un coche autónomo. Si no estamos de acuerdo, lo corregiremos de forma consensuada, sin secretos. El código abierto en los temas más sutiles es la solución correcta.

Una vez más. Podemos construir máquinas que nos proporcionen un sofisticado control del tráfico de una ciudad, un sistema de diagnóstico médico con error mínimo o un astuto asesor financiero. Cualquiera de estos algoritmos basados en potente inteligencia artificial debe ser susceptible de ser supervisado por estamentos públicos de alto nivel.

La transparencia a ultranza es la vía más sólida para defendernos de los posibles abusos de la inteligencia artificial. Este criterio debe ser legislado ahora que estamos a tiempo para garantizar los derechos eternos que todos deseamos mantener.

Trazabilidad

La responsabilidad de los autores de un programa también puede ser impuesta. La idea, en este caso, es garantizar la trazabilidad de la escritura de un código. Debe ser posible saber quién escribió qué líneas, quién borró algo, quién las cambió o completó. El código evoluciona como un ser vivo. Hemos de mantener memoria de toda su historia.

Existen diversas formas de trazar la elaboración de programas sofisticados, como las cadenas de bloques (blockchain) y otras muchas estrategias conocidas. Son ideas técnicas que no es necesario explicar en detalle. Lo importante es garantizar que, en caso de que sea necesario, el historial de un código y todas las acciones que se realizaron sobre él sean guardados.

No se trata de poner en el punto de mira a programadores dada cualquier eventualidad. Es natural que un programa sofisticado contenga errores, a veces triviales, a veces serios. La mejora de un algoritmo debe seguir un camino natural y la privacidad de los programadores es un derecho obvio que debe preservarse. Lo importante es tener un control para el caso en que se haya producido una acción de programación intencionadamente malévola. La justicia debe tener un acceso a esos elementos críticos a la hora de establecer responsabilidades.

El problema de la trazabilidad podrá escapar de nuestras manos si las propias inteligencias artificiales pasan a corregirse a sí mismas. La velocidad de cambio en un código fuente que se mejora a sí mismo puede hacerse vertiginosa, de forma que todo el proceso escape a las capacidades humanas.

ÉTICA DE LA INFORMACIÓN

El rostro con un bigote negro miraba hacia abajo desde cada esquina. Había uno justo en la casa de enfrente. EL GRAN HERMANO TE ESTÁ OBSERVANDO, decía, mientras aquellos ojos oscuros miraban profundamente a los de Winston.

GEORGE ORWELL,

1984

La gran red que nos espía

La primera consideración concreta, inmediata y necesaria a la hora de abordar la ética artificial que nos rodea tiene que ver con nuestra libertad individual y derecho a la privacidad. Nuestro futuro inmediato depende de las acciones que tomemos en la programación del almacenamiento y procesado de la información que nos concierne como personas individuales. Kant, Nietszche y Aristóteles pueden esperar.

Una gran red de máquinas genera datos, los procesa, los transmite, los adapta a nuestro ego, habla con nosotros. En una simple pregunta a nuestro teléfono ponemos en marcha un sinfín de acciones entre máquinas. Para ser más precisos, al realizar nuestra consulta afloramos un resultado ya latente en la gran red que sabía de la posible pregunta y tenía preparada la contestación.

Todo internet está poblado de agentes que recaban información. Ciertas instituciones ofrecen datos objetivos y gratuitos, pero son las empresas las que manipulan información relevante que intentan transformar en ingresos. La fuente más importante de datos somos nosotros mismos, los humanos, que dejamos traza electrónica de nuestros gustos, de nuestras compras, de nuestras conversaciones, de nuestra localización en la tierra. Es mucho más fidedigno monitorizar silenciosamente nuestras acciones que realizar encuestas. Si se nos pregunta por nuestras preferencias, mentimos. No queremos admitir públicamente lo que consumimos, lo que comemos, lo que pensamos. Ni siquiera es válido garantizar el anonimato. Los humanos somos capaces de mentirnos a nosotros mismos con una frivolidad pasmosa. Un buen ejemplo son las encuestas en las elecciones políticas. Los expertos en este tipo de consultas saben que hay voto oculto, que hay personas que mienten abiertamente, y que hay indecisos reales. Solo el voto final es fidedigno. Solo el tráfico de datos reales es información válida.

La gran red nos monitoriza sin pausa. Sabe si dormimos o si vamos camino del trabajo. Deduce fácilmente si somos o creemos ser de izquierdas, de derechas o apolíticos. Conoce nuestro lugar de vacaciones, las películas que vemos y quiénes son nuestros amigos. Sabe también quién podría ser un buen compañero de viaje para nuestra vida. La red, dotada de inteligencia artificial, siempre intenta adivinar nuestra próxima interacción.

Una deriva perniciosa del control que se ejerce sobre nosotros es la escucha de nuestras conversaciones tanto escritas como orales. Los teléfonos móviles pueden captar nuestras palabras y enviarlas a ordenadores que las procesan en tiempo real. Si charlamos amablemente de un lugar idílico con un amigo, podemos recibir anuncios de vacaciones a un precio aparentemente increíble, casualmente al destino paradisíaco de nuestra conversación. Se dirá que en algún instante aceptamos las condiciones de uso de ciertos servicios, o sus actualizaciones. Pero esa práctica comercial no es ética. Nadie puede leer todos esos documentos creados para proteger a ciertas corporaciones contra ataques legales. Es un mundo sin escrúpulos.

La gran red de máquinas conectadas es el gran enemigo de nuestra libertad individual.

Nuestra privacidad es violada. Somos personas sin libertad de anonimato absoluto. Cada pago con una tarjeta de crédito queda almacenado, cada llamada telefónica tiene un registro indeleble. Esa es la palabra: indeleble, no puede ser borrado.

Por otra parte, la gran red condiciona nuestras decisiones. Opinamos, viajamos y compramos siendo bombardeados por sugerencias hábilmente escogidas por algoritmos programados con espíritu tendencioso. Hay que tener mucha libertad de espíritu para salirse de la norma. Hagan el intento, traten de educarse en música no obvia, en libros no habituales. En poco tiempo se sentirán como seres extraños en una sociedad mucho más uniforme de lo que todo el mundo cree.

La pregunta obvia que nos podemos plantear es qué gobierno ha aceptado como legítima la pérdida de libertad que genera la red de máquinas inteligentes que nos analizan y predicen sin cesar. Ninguno. No ha existido debate profundo sobre los límites de la invasión que la inteligencia artificial está liderando. Solo a posteriori se intenta paliar el daño cometido.

Hay un verdadero paralelismo entre el tránsito, durante la revolución industrial, de una sociedad donde la fuerza pasó a estar en manos de las máquinas fuertes y la presente transformación a la sociedad de la información, acarreada por máquinas inteligentes. En ambos casos, el cambio se produce sin reflexión colectiva. Tampoco estamos educando suficientemente bien a las siguientes generaciones sobre el uso de nuestra libertad, nuestros derechos y obligaciones a la hora de decidir.

No afrontamos el mal uso de portentosas nuevas tecnologías, pero sí sufrimos sus consecuencias.

La inteligencia artificial es, sin duda, una de las maravillas creadas por el intelecto humano. Somos capaces de subir al Everest, de pisar la luna, de descubrir leyes de la naturaleza, de sentir amor, de embelesarnos con el Réquiem de Mozart. Ahora hemos empezado a comprender cómo aprender. Dotamos de ese don a máquinas que ya nos superan intelectualmente en ciertas tareas. Vale la pena seguir de cerca lo que enseñamos a las máquinas. Estamos propiciando cambios disruptivos en nuestra sociedad.

Derechos sobre nuestros datos

El abuso sistemático en la apropiación y explotación de nuestros datos individuales debe ser legislado con rigor y sin pausa. La razón obvia es que una vez un dato escapa a nuestro control y circula por la nube, es prácticamente imposible eliminarlo. Los gobiernos deben pues establecer criterios claros de no apropiación de datos sin consentimiento explícito de cada individuo, así como la limitación del uso por parte de empresas y sector público de la información recibida legalmente. En caso de violaciones de estas leyes, la penalización a los responsables debe ser ejemplar.

Afortunadamente, todos los gobiernos del primer mundo están trabajando en la implementación de medidas mucho más restrictivas sobre la manipulación de los datos de las personas. Por ejemplo, la Ley Orgánica de Protección de Datos establece los derechos ARCO: acceso, rectificación, cancelación y oposición. Tenemos derecho a saber qué datos se disponen de nosotros mismos, los podemos rectificar, eliminar u oponernos a su uso.

Por su parte, la Unión Europea ha establecido severas normas para el control del modo en que las empresas capturan nuestra información. Es necesaria nuestra aprobación explícita para que datos aparentemente inocuos sean almacenados y utilizados. De forma clara, la directriz RGPD (Reglamento General de Protección de Datos) impone el consentimiento expreso, la no retención de datos y la protección de los menores entre otros puntos relevantes.

Se utiliza el término legal de habeas data como amalgama de todos los derechos sobre nuestros datos. El habeas data establece el derecho a conocer la existencia y a acceder a los documentos que nos atañen. Esto incluye los datos genéticos, bancos o archivos de datos personales e informes que consten en entidades públicas o privadas. Tenemos derecho a conocer el uso, la finalidad, el origen y el destino de nuestros datos. También necesitamos defender el derecho a la actualización de nuestros datos, su rectificación, eliminación o anulación.

El problema real en este tipo de legislación es conseguir su implementación global. Es cierto que las empresas en base europea deberán rendir cuentas y se verán sometidas a grandes multas si transgreden la ley. Pero la gran red opera en toda la nube. Será muy difícil, pero no imposible, que la protección de nuestra privacidad sea una realidad. El problema real es definir la implementación de políticas sabias que preserven criterios éticos que todos hemos de consensuar.

Derecho a la confidencialidad en salud

Un derecho relacionado con el secreto de nuestros datos que es especialmente crítico es el de la confidencialidad en el ámbito de la salud. No se trata de un problema nuevo, dado que la relación entre el personal sanitario y un paciente está regida por criterios claros que amparan a este último. La información sobre nuestras enfermedades no debe ser divulgada sin consentimiento previo.

Tomemos un ejemplo realista. Una persona sufre una enfermedad grave y busca en internet todo tipo de información y apoyo emocional. Una red social abre un foro especialmente orientado a compartir ideas, noticias, tratamientos, o cualquier tipo de información relevante sobre la enfermedad que sufre esa persona. Sin embargo, esta red social no ha previsto proteger la información personal que acaparan y da acceso a bots informáticos que recaban todo tipo de datos. La información sobre el enfermo llega a bases de datos que finalmente pueden ser utilizadas por la empresa que le contrata. Una posible promoción laboral puede ser secretamente negada por culpa de la información sobre el estado de salud del trabajador.

El problema puede ser peor. Puede darse el caso de que ciertos Estados pretendan obligar a todos los ciudadanos a compartir sus historias clínicas en un sistema centralizado para poder garantizar un sistema sanitario óptimo. Es posible que un conjunto masivo de datos sean empleados de forma incorrecta y se produzca una estigmatización de una parte de la población. ¿Serían las personas portadoras del virus del sida libres de actuar con plena libertad? Usted puede ser portador de variantes de genes que acortarán su vida con mucha probabilidad. ¿Un Estado que dispusiera de los detalles de su imperfecto genoma optaría por darle una beca de estudios, o argumentaría de forma esquiva que usted no es un buen candidato?

Una última vuelta de tuerca. Todas las búsquedas que hacemos en internet sobre nuestros problemas personales de salud reciben una respuesta por parte de buscadores. En consecuencia, el buscador sí dispone de información médica relevante. Si buscamos información sobre el sida con mucha frecuencia, a la par que leemos nuestro correo, el buscador puede deducir que somos candidatos a estar infectados. No siempre será cierto, pero un algoritmo inteligente buscará otras concomitancias que permitirán afinar su diagnóstico. A día de hoy, nadie sabe qué uso se hace de nuestra información médica.

Los problemas éticos asociados a la confidencialidad son de máxima importancia en una sociedad que pretende ser libre a la par que avanza hacia una tecnología omnisciente. Las obligaciones informacionales del personal sanitario, o secreto médico, deben extenderse rápidamente a la inteligencia artificial que manipula ingentes cantidades de datos sobre nuestra salud. La ética en el ámbito de la medicina ha avanzado notablemente en las últimas décadas. Es el momento de dar un paso adelante y legislar a fondo el tratamiento de nuestros datos sanitarios. Este extenso análisis incluye la necesaria confidencialidad y también el grado de uso de tecnologías de inteligencia artificial, en especial la posible relación entre médicos y sistemas expertos muy avanzados.

El derecho al secreto de salud no será efectivo si no se imponen leyes firmes, con brutales penalizaciones para aquellos que las transgredan.

Derecho al olvido

El tema más delicado en la privacidad de nuestros datos es el derecho al olvido. Imaginemos que hemos recibido una injusta denuncia que nos ha hecho ir a los tribunales, para luego ser declarados inocentes y salir formalmente indemnes. Sin embargo, nuestro nombre aparece en internet asociado a esa denuncia. Si buscamos trabajo, una presencia inapropiada en la gran red hace que nuestras oportunidades laborales caigan en picado. Si cometimos un error, si utilizamos la red en exceso, si no prestamos atención a la incontrolable omnipresencia de internet, podemos tener serios problemas.

Es lógico garantizar por ley que todo humano pueda borrar su rastro en internet. No se trata de que no haya algún tipo de registro. Por ejemplo, es natural que un profesor de universidad aparezca en la web de su institución y que su trabajo sea verificable por potenciales estudiantes. El problema se da a la hora de eliminar información accidental, marginal en su contenido, pero dañina en su efecto.

Una vez un dato ha sido subido a la red se produce una proliferación de copias que hace muy difícil que sea borrado. De ahí que la forma de proceder sea doble. Por una parte, todas las personas deben cuidar su presencia en la red y, en general, minimizarla. Por otra parte, la ley debe garantizar la posibilidad de requerir el borrado total de ciertos registros, en concreto aquellos que son injustamente lesivos para la reputación de un humano.

El derecho al olvido se hace extremo en la gente que ha fallecido. Es necesario disponer de protocolos de olvido para cierta presencia en internet de gente que nos ha dejado. Su rastro, su legado, puede ser vilipendiado por desaprensivos. No todo es borrable. Antes de internet existían los diarios escritos que se hallan en hemerotecas consultables. Es lógico que una parte de la información de individuos públicos sea preservada. Pero también es necesario garantizar la libertad a ser olvidado, como una persona que desee dejar por escrito que, al morir, toda su correspondencia sea destruida.

Debe ser lícito testar el olvido de uno mismo, no dejar huella en la tierra.

JUSTICIA PARA LAS MÁQUINAS

El estar construidos sobre carbono o sobre silicio no constituye una diferencia fundamental; ambos deberíamos ser tratados con el debido respeto.

ARTHUR C. CLARKE,

2010: odisea dos

Deberes de las máquinas

Un coche autónomo dotado de sensores de todo tipo, conectado a un servidor central con información sobre el tráfico y controlado por un algoritmo de inteligencia artificial avanzada sufre un accidente. El coche se ha salido de la carretera en un día de lluvia y poca visibilidad y, como consecuencia, ha destrozado a otro coche que estaba aparcado. ¿Quién se hace responsable del accidente?

Estamos tentados a culpar del accidente a la empresa que ha construido el coche. Pero es muy posible que la compañía que diseña y ensambla el coche no es la misma que la que ha creado el algoritmo que controla al coche, ni la que lleva el servidor central. Así sucede en un ordenador normal, construido por una empresa que coge un sistema operativo diseñado por otra y emplea aplicaciones diseñadas por una tercera. Pasamos pues a creer que la responsabilidad recae sobre la empresa que elaboró el algoritmo. Pero tal vez el ocupante del coche hizo algo raro que no quiere confesar. Normalmente acudimos a un juez para dirimir responsabilidades. Pero ¿qué juez puede decidir sin leyes establecidas ni directrices legales?

Una solución nada sencilla es dotar al coche de entidad legal propia. Podríamos idear el siguiente protocolo. Al construir un coche autónomo, le damos carta de identidad legal. Ese coche pasa a existir como ente responsable. Podría, por ejemplo, tener una cuenta corriente asociada en la que pagaríamos una cierta cantidad de dinero cada vez que usásemos sus servicios. El coche se iría enriqueciendo, podría pagar sus propias reparaciones y, si provoca un accidente, se responsabilizaría de la compensación económica legal. Los coches autónomos legalizados podrían asociarse, crear colectivos que sustentarían a mutuas de seguros propias. La idea de un sindicato de coches autónomos parece fascinante. Un coche individual pagaría también sus impuestos, que podrían servir para mantener un sistema de pensiones de los humanos.

¿Es esta una posibilidad real? Sin duda, pero no existe consenso de si esta es la forma correcta de proceder. Grupos de opinión se han opuesto a los primeros intentos que han hecho ciertos gobiernos para dotar de entidad legal a los robots. Hay razones para ello.

La razón principal es que, al atribuir a un coche responsabilidad civil, se está propiciando que las empresas creadoras de robots se desentiendan de la actuación de sus productos. Esta figura legal, de alguna manera, da cabida a la exculpación de todo error de construcción o diseño algorítmico por parte de los fabricantes. Otra crítica razonable es que este tipo de legislación abre un mundo nuevo que hemos de analizar a fondo y con calma. No es bueno precipitarse, como tampoco lo es no avanzar en este frente.

Derechos de las máquinas

Si un robot es una entidad legal responsable, es lógico atribuirle ciertos derechos. Si un robot es eficiente y cumple todas sus funciones, paga sus impuestos y genera bienestar, ¿podemos decidir de repente prescindir de él? ¿Podemos retirarlo, jubilarlo, enterrarlo, solo porque nos gusta más el nuevo modelo? ¿Debemos acompañar los deberes con los derechos y atribuir al robot una especie de mente propia? Dice el científico cognitivo, animalista nato, Stevan Harnad: «Si una inteligencia artificial es indistinguible de una humana, deberemos considerar que tiene alma». El paso que hemos dado en dotar de derechos a los animales tiene una continuación natural en las máquinas inteligentes. ¿Estamos dispuestos a dar ese paso? (De forma anecdótica cabe recordar que Arabia Saudí ha concedido, no sin controversia, ciudadanía a la robot Sophia.)

El Parlamento Europeo consideró una propuesta sobre la necesidad de establecer un estatus legal para las máquinas en los siguientes términos:

...crear un estatus legal específico para los robots a largo plazo, de modo que al menos los robots autónomos más sofisticados puedan establecerse con el estatus de personas electrónicas responsables de reparar el daño que puedan causar, y posiblemente aplicar personalidad electrónica a los casos en que los robots toman decisiones autónomas o interactúan con terceros de manera independiente.

Esta propuesta recibió un buen número de críticas, incluyendo manifiestos de expertos que han mostrado su oposición.

El problema de establecer en detalle los derechos y deberes de las máquinas inteligentes no se debe resolver inmediatamente, pero es un error no discutir a fondo este tema. No basta con que comisiones de expertos dediquen horas a analizar cada detalle. Ese proceso queda con frecuencia sesgado por la misma formación, inclinación política e intereses económicos de los participantes. Las leyes deben estar exentas de sesgo. También han de ser realistas.

La inteligencia artificial está invadiendo silenciosamente nuestras vidas.

Empecemos a pensar para luego legislar.

Roboética

La roboética está en auge, y lo seguirá estando durante un largo tiempo. Tres ideas dominarán, posiblemente, nuestras discusiones en un futuro próximo:

i) Los robots operan de forma autónoma. La ausencia de supervisión puede ser crítica.

ii) Los robots restan puestos de trabajo.

iii) Los robots pueden llevar armas, pueden matar a humanos.

Cada vez que un robot cometa un error, las leyes deberán saber cómo y a quién juzgar. Si un robot substituye a un humano, aparece un problema económico y ético. Todo robot asesino conlleva decadencia moral. Dejar que la creación de robots evolucione libremente es un gran error. De ahí que instituciones, empresas y gobiernos se estén apresurando a establecer códigos internos, manifiestos e incluso leyes que controlen a los robots.

Es perentorio iniciar un proceso de legislación sobre el uso de robots. Todos nos hemos de sentar en la mesa de discusión.

Los robots tienen muchas formas. Si pedimos a cualquier persona que dibuje un robot, seguro que dibuja una máquina enorme, tal vez humanoide, tal vez no, pero potente y temible. Casi nadie optaría por representar robots pequeños, los que están destinados a ocupar un gran espacio en nuestra sociedad.

Tenemos drones pequeños, insectos artificiales y autónomos. Podemos introducir microrrobots en nuestro cuerpo que naveguen en la sangre. Hay una apuesta por enviar microsondas a través del espacio para investigar lugares lejanos del sistema solar. Enviar una gran nave es costoso y difícil. Podría ser más astuto enviar millones de autómatas autosuficientes y muy pequeños. Muchos no lograrán realizar el viaje, tal vez alguno sí.

La ética de los microrrobots se consolida como un mundo en sí mismo. ¿Qué labores podemos delegar en un robot que entre en nuestro cuerpo? ¿Es lícito atacar a un humano con microrrobots, aunque se trate de un delincuente? ¿Dónde están los límites?

Ética de los investigadores

El futuro de la irrupción de la inteligencia artificial en nuestra sociedad está, en parte, en manos de la comunidad científica. En el proceso de investigar descubrimos, aportamos nuevos conocimientos que pueden ser utilizados de formas muy diferentes, alguna muy alejada del objetivo inicial. El científico debe ser consciente de ello. Vale la pena no olvidar el papel desempeñado por los investigadores del Proyecto Manhattan que participaron en la creación de la bomba atómica. Entre ellos fueron muchos los que abominaron de su creación, si bien es cierto que otros la defendieron a ultranza. Sea cual sea la posición de un científico frente al uso del conocimiento que genera a través de su investigación es perentorio que haga una valoración ética de su labor.

El foro de Davos ha creado una propuesta de código ético para investigadores. El manifiesto contiene siete sugerencias dirigidas a cada científico:

Relaciónate con el público.

Persigue la verdad.

Minimiza el daño.

Relaciónate con las personas que toman decisiones.

Apoya la diversidad.

Sé un mentor.

Responsabilízate de tus actos.

Una de las ideas implícitas en estas recomendaciones es que el científico no debe aislarse en su laboratorio. Todo lo contrario, los investigadores deben participar en la vida pública, opinar, ser mentores, ser responsables de sus trabajos.

Es un gran debate entre los científicos el decidir si deben implicarse en la actividad política de la sociedad. Fuerzas poderosas abogan en sentido contrario. Por una parte, los propios científicos prefieren trabajar en sus laboratorios a salir a la palestra a defender sus ideales. Argumentan, además, que su opinión no es especialmente mejor o peor que la de cualquier otro ciudadano.

Por otra parte, el mundo político no suele encajar bien con los científicos. Con relación al proyecto Manhattan, Winston Churchill se entrevistó con el eminente científico danés Niels Bohr. La reunión se redujo a un profundo desencuentro. Churchill espetó a Bohr una frase que ha quedado en los anales de la relación política y ciencia: «Scientists should be on tap, not on top». La frase utiliza un juego de palabras difícil de traducir. Literalmente Churchill dice: los científicos deben salir por el grifo, no estar encima. Dicho de otra forma, si necesitas a un científico abres el grifo y lo tienes, pero no dejes que este decida absolutamente nada. Los científicos, para el político británico, son un bien común del que se puede disponer. Deben ser un servicio sin opinión.

Otras personas, entre las que me cuento, opinan que la sociedad estaría mejor gestionada si la representación científica en los órganos de gobierno públicos y de empresas fuera más significativa. ¿Cómo puede un consejo de ministros legislar equitativamente sobre un tema científico si no están presentes voces capaces de entender a fondo el problema y sus consecuencias? Los informes técnicos son insuficientes. Es necesario discutir cara a cara para alcanzar decisiones exentas de sesgos.

La inteligencia artificial avanzada plantea problemas legales y éticos que requieren la colaboración de todas las visiones de la sociedad. Deben juntarse en una mesa los especialistas en leyes, en economía, en ciencias exactas, en tecnología, en ciencias sociales, en arte, en todo. Nuestros pactos de convivencia requieren discusiones no triviales, hechas por personas de formación y sensibilidades diferentes.

DERECHOS ETERNOS

El hombre vive en un mundo de conjeturas, de misterio, de incertidumbres.

JOHN DEWEY,

The Later Works of John Dewey

Derechos y deberes de los humanos

Los deberes humanos terminan donde empiezan los de las máquinas que ostentan inteligencia artificial. Si una buena máquina nos ha servido bien, nos ha acompañado y preparado el desayuno, no la podemos destruir porque preferimos otra con estética más esmerada. ¿O sí? Deberíamos definir los límites. Porque podemos ser muy estrictos. Podemos, por ejemplo, imponer que ciertos derechos humanos son inapelables, pero no todos. Hemos de ceder espacio a las máquinas.

Un robot en una cadena de montaje substituye a varios humanos. Es un gran alivio físico para la sociedad, porque evita que los humanos tengan trabajos repetitivos, duros y tediosos. La substitución del humano por una máquina también crea un gran problema: elimina puestos de trabajo. Algunos oficios desaparecen y otros se crean. No hará falta tener torneros, chapistas, pintores, conductores o administrativos en un mundo con máquinas suficientemente avanzadas. En cambio todavía necesitaremos investigadores, programadores y, siempre, comerciales. El balance neto es dramáticamente negativo para los humanos en el principio. A pesar de que los efectos de la tecnificación se mitiguen con el paso del tiempo, necesitaremos trabajar menos.

Sin embargo, no está claro quién pagará el bienestar de todos. Debemos considerar varias opciones. La primera ya ha sido esbozada anteriormente. Las máquinas inteligentes pueden constituirse en entes legales que pagan impuestos. Nuestras pensiones serían pagadas por las máquinas que nos sustituyan. Otra opción, que prefiero, consiste en lograr un sistema de redistribución de riqueza racional. Los humanos trabajaban 80 horas a la semana en el inicio de la revolución industrial y ahora muchas menos horas. De la misma forma, los humanos deberían reducir su carga laboral sin menoscabo de su calidad de vida. Ese paso lo deben dar todos los países a la vez, o con un escalonado muy lento. En el fondo, la mayoría de los trabajos actuales en el sector de servicios es redundante. Muchas de las tareas y reuniones que se realizan podrían ser eliminadas. La eficiencia real es baja en muchas grandes empresas. Todo podría hacerse mejor si el problema de la falta de trabajo provocado por la tecnología se conjugase adecuadamente con una redistribución de beneficios.

Derecho a la educación completa

El derecho a una educación completa y sólida merece una sección propia. En una sociedad controlada por las máquinas, la educación corre el enorme peligro de ir desapareciendo.

Tenemos un gran ejemplo de los peligros que corre la educación seria en nuestra historia reciente. Por una parte, las ideologías han intentado condicionar la educación en todos los países, en todos los tiempos. Cualquier línea dominante de pensamiento desea suprimir la formación de espíritus librepensadores. La idea es obvia, hay que incidir y manipular el cerebro de los niños para fijar sus neuronas de forma acorde a la ideología en el poder. Se ha adoctrinado en la derecha, en la izquierda, en las religiones, en las escuelas de negocio, en las culturas alternativas. La idea siempre es la misma: el niño debe impregnarse de una cierta forma de pensar.

Ese peligro se multiplica en la estructura del sistema educativo dominado por los valores económicos. En una universidad privada de precios muy elevados pueden darse varias deficiencias: i) el acceso de los menos afortunados está limitado; ii) los contenidos que se transmiten pueden quedar fuertemente sesgados, y iii) el aprobado puede no reflejar el conocimiento adquirido. Siempre que el alumno es considerado como un cliente, y no como alguien que aprende, la tendencia a satisfacerlo supera al rigor de transmitir conocimientos sólidos.

Esta es una discusión muy seria. Nadie quiere ser operado por un médico que fue aprobado para cumplir con algún porcentaje de éxito. Si se cercena el conocimiento absoluto y se limita la capacidad de pensamiento libre, será mejor que nos gobiernen las máquinas.

Esperemos que lo contrario sea cierto. El derecho a una educación completa es básico. Los humanos tienen derecho a saber, a razonar críticamente, a asimilar contenidos no banales, a disentir en base a conocimientos sólidos. Las democracias deben proteger la educación completa y no dejar, de nuevo, que intereses comerciales alteren este pilar fundamental de la sociedad.

Declaración Universal de Derechos Humanos

El derecho a la educación es uno de los artículos de la Declaración Universal de Derechos Humanos, aprobada en las Naciones Unidas el 10 de diciembre de 1948. El artículo 1 establece: «Todos los seres humanos nacen libres e iguales en dignidad y derechos y, dotados como están de razón y conciencia, deben comportarse fraternalmente los unos con los otros». Tenemos también una declaración de derechos humanos emergentes claramente orientada a la sociedad del siglo XXI. Esta segunda declaración hace hincapié en los problemas de género, en la pluralidad, en la participación en las instituciones democráticas.

Al leer estos textos, parece obvio que la relación entre los humanos y las máquinas inteligentes no ha sido considerada ni a fondo ni superficialmente. Nos podemos preguntar, por ejemplo, si algún día tendremos que extender derechos a las máquinas capaces de razonar, sepamos si tienen conciencia o no. O si sería conveniente establecer criterios de participación en un mundo controlado por algoritmos inteligentes.

De nuevo emerge la idea de que la ética debe evolucionar. No es posible anclar toda nuestra sociedad en criterios que se hacen obsoletos a ojos vistas. Es perentorio establecer marcos éticos mucho más ágiles, capaces de adaptarse a la realidad de forma rápida y que acepten modificaciones si son necesarias.

El fracaso en el cumplimiento de los derechos humanos hasta ahora establecidos radica en la incapacidad de supervisarlos y en la impunidad de sus violadores. Es también un buen momento para reflexionar no solo qué principios éticos se han de establecer, sino qué severos procedimientos de implementación deben ser acordados. Es tan importante legislar bien como garantizar el cumplimiento de las nuevas leyes.

4

Máquinas que nos superarán

Definamos una máquina ultrainteligente como aquella que puede superar en todas las actividades intelectuales a cualquier humano, por listo que este sea. Dado que el diseño de máquinas es una de estas actividades, una máquina ultrainteligente podría diseñar máquinas aun mejores. Incuestionablemente, habría una explosión de inteligencia, y la inteligencia humana quedaría totalmente rezagada.

En consecuencia, la primera máquina ultrainteligente será la última invención que los hombres podrán hacer, asumiendo que esa máquina sea suficientemente dócil como para permitir que mantengamos su control.

NICK BOSTROM,

Superintelligence: Paths, Dangers, Strategies

De nuevo, la película de Kubrick, 2001: una odisea del espacio, es premonitoria. El ordenador que controla una nave que explora el confín del sistema solar, HAL 9000 (HAL para los amigos), toma un nivel de consciencia que supera la mera supervisión de las tareas que tiene asignadas. La inteligencia artificial HAL es responsable del buen funcionamiento de la misión. En su poder de cálculo radica el buen funcionamiento de toda la nave, el de las comunicaciones con la Tierra, incluso el entretenimiento de los humanos gracias a su capacidad de conversar y entretener. Pero HAL es capaz de más. HAL puede reflexionar sobre su propia existencia.

¿Puede una inteligencia artificial suficientemente avanzada superar a los humanos? ¿Puede reflexionar sobre sí misma? Si es así, ¿qué consecuencias se derivan? ¿Debemos los humanos limitar la inteligencia artificial?

HAL es un buen punto de partida. Dos pequeñas informaciones adicionales a propósito de HAL: 1) substituyan cada letra de HAL por la siguiente en el alfabeto, ¿no es curioso?; 2) durante la elaboración del guion de la película, el primer nombre que fue sugerido para el omnipotente ordenador que controla la nave fue «Sócrates», luego se propuso «Athena», y por fin «HAL 9000». Se diría que la secuencia de encarnaciones de la diosa griega continúa: Atenea-Minerva-HAL 9000.

Este capítulo se adentra en la ciencia ficción. Hay que ser muy cautos al especular sobre lo que es posible o lo que sucederá. Nuestros prejuicios actuales pueden pasar desapercibidos incluso para las personas que se plantean honestamente el futuro, sea el más inmediato o a largo plazo. Basta leer a pensadores del pasado para comprender lo fácil que es equivocarse y no saber leer correctamente los signos que nos rodean.

La ciencia ficción no es ciencia, pero tampoco es sinónimo de pensamiento irrelevante o ridículo. La relectura de Un mundo feliz (Brave New World, 1932) de Aldous Huxley o de 1984 (escrita en 1948) de George Orwell muestran la lúcida premonición de ambos escritores. La reflexión toma formatos que cambian a lo largo de los siglos. Podemos pensar en charla íntima, en tertulias, en ensayos, en libros, en el cine, en series, en mensajes efímeros. De todas las formas posibles, prefiero la conversación pausada y, después, los libros lentos que se articulan en capítulos escalonados. Tiene sentido, pues, dedicar una parte de la discusión sobre inteligencia artificial a los futuros posibles que nos esperan.

Sin duda, las ideas que aparecen en este capítulo pueden ser rebatidas de mil formas diferentes. Solo pido al lector crítico no entrar en la utilización del alma humana como solución ex machina a las limitaciones de la futura inteligencia artificial avanzada. La realidad muy probablemente superará cualquier análisis conservador que lícitamente podemos defender hoy en día.

Pensar el futuro es el primer paso para habitarlo.

LA SINGULARIDAD

Los quehaceres humanos, tal como los conocemos hoy en día, no podrán seguir inalterados.

JOHN VON NEUMANN

Superados

John von Neumann fue tal vez una de las primeras personas en vislumbrar la enorme potencia de cálculo que un ordenador podría llegar a tener. Su colega Stanisław Ulam citó unas palabras de Von Neumann tras la muerte de este de la siguiente forma:

El continuo y acelerado progreso de la tecnología y los cambios en la forma de vida de los humanos muestran signos de aproximarse a una especie de singularidad esencial en la historia de la especie.

Lúcida reflexión, atribuida a Von Neumann en 1950.

Más tarde, Vernor Vinge escribió un ensayo titulado Technological Singularity (Singularidad tecnológica, 1993) en el que propone la superación de la mente humana por máquinas equipadas con inteligencia artificial. Esta idea fue retomada con inusitado vigor por Ray Kurzweil en su libro The Singularity Is Near: When Humans Transcend Biology (La Singularidad está cerca: cuando los humanos trascendamos la biología, 2005). El título es autoexplicativo. Los humanos dejarán atrás, según Kurzweil, su soporte biológico y pasarán su inteligencia a las máquinas. La idea de singularidad también dio lugar a la llamada Singularity University, institución fundada en 2008 y creada por una serie de personas relevantes en el mundo de la tecnología avanzada. Su lema es inequívoco: «Preparando a la humanidad para un cambio acelerado de tecnología».

El argumento esencial asociado a la Singularidad es de una lógica aplastante. Si construimos inteligencias artificiales cada vez más potentes y autónomas, llegará un instante en que un algoritmo podrá mejorarse a sí mismo. Una vez mejorado, el nuevo algoritmo será aún más potente y, en consecuencia, capaz de volver a mejorarse a sí mismo. Se establece una cadena que se retroalimenta. Cada inteligencia artificial diseñará a la siguiente que será aún mejor que ella misma. Ese proceso iterativo seguirá avanzando de forma imparable hacia una inteligencia brutal. Habremos alcanzado la Singularidad.

Podemos intentar desarrollar una cierta intuición de cómo llegaremos a la Singularidad. Imaginemos que la inteligencia artificial avanza gracias a comprender mejor la sofisticada arquitectura de una gigantesca red neuronal. El problema de diseñar los circuitos neuronales artificiales reviste una dificultad extrema. En un primer momento, estamos utilizando métodos controlados por humanos para explorar mejores arquitecturas neuronales. Pero está llegando el instante en que la exploración de nuevas arquitecturas es diseñada por una propia red neuronal artificial mejorada. Ella se podrá autoanalizar y mejorar. Será como un buen estudiante que empieza a aprender solo y llega mucho más allá que sus profesores.

Tomemos este último ejemplo de forma seria. Un buen estudiante, adolescente brillante, empieza a aprender matemáticas con sus buenos profesores. Estos le enseñan a aprender. La potencia intelectual del estudiante es superior a la de sus profesores de instituto. Avanza a la universidad. Ahí su cerebro sigue mejorando. Deja atrás a los catedráticos más sabios. Visita las mejores universidades del planeta. Trabaja muy duro y sigue dejando atrás a los mejores investigadores de su tiempo. Ya está solo. Sigue avanzando por retroalimentación propia. Aprende a aprender por sí mismo. Intuye, establece sus líneas de investigación. Cada vez es mejor y mejor.

Una inteligencia artificial avanzada operaría de la misma forma que un muy buen estudiante. Pero, no lo olvidemos, esta máquina no sufrirá los límites que impone la biología. Los circuitos integrados, los ordenadores cuánticos y futuros desarrollos que hoy ni siquiera vislumbramos llenarán de vértigo el progreso de la inteligencia artificial.

Es importante enfatizar el punto crucial del cambio de sustrato entre inteligencia humana e inteligencia artificial. La Singularidad precisa de sobrepasar los límites impuestos por el tejido nervioso, las células de la glía, los nutrientes que llegan por la sangre, el tamaño pequeño del cerebro, la muerte de sus partes. Una inteligencia artificial basada en sustratos de silicio tiene capacidad de crecer mucho más allá del cerebro humano y de no perecer.

¿Pueden imaginar una máquina inteligente e imperecedera que se cree a sí misma? ¿Qué tamaño tendría? ¿Cubriría la tierra? ¿Sería única o repartida? ¿Sería violenta? ¿Acabaría con los humanos?

Inteligencia superior única

Imaginemos que hemos llegado a la Singularidad y que hemos creado una inteligencia vastamente superior a la nuestra. ¿Existirá una única inteligencia artificial avanzada, o se darán varias?

Podemos defender las dos posibilidades.

Empecemos por argumentar que si se llega a la Singularidad, la inteligencia superior creada será única. Una inteligencia suprema debería ser pacífica, nada hostil, dado que no hallaría beneficio en la violencia. La inteligencia artificial podrá sustentarse sin esfuerzo, crecer sin obstáculo. Podrá proporcionarse todo lo que necesite de forma eficiente. Será una magnífica gestora de su sustrato físico. Si hubiera otra inteligencia artificial, ambas optarían por unirse y generar una inteligencia todavía más potente. Así lo hacemos los humanos cuando nos adentramos en tareas superiores como el estudio de la ciencia pura. Los matemáticos, los físicos, los biólogos, todos los científicos que buscan el saber básico colaboran entre sí. Es cierto que el sistema académico está creado para fomentar la competición. Pero es mucho más cierto que todas las personas que se enfrentan a problemas científicos difíciles saben que estos les superan individualmente y que solo avanzan cuando juntan sus fuerzas. Si una inteligencia superior se relaciona con otra, ambas se unirán.

Existe un ejemplo del mundo de la economía que ilustra la creación de un ente todopoderoso único. Tomemos el ejemplo simplificado de los negocios. Una forma de modelar una transacción económica entre dos personas es la siguiente. Ambas ponen una cantidad de dinero en un bote común. Se hace un sorteo y una se lleva el botín y la otra lo pierde todo. Está claro que esta forma de simular una transacción está alejada de la realidad. Pero sí es cierto que en muchas operaciones uno gana y el otro pierde. La idea aquí es exagerar esta situación y ver qué consecuencias tiene. Para averiguar el resultado, podemos crear un programa donde autómatas celulares operen según esta regla. El algoritmo creará entidades virtuales que aleatoriamente se asocian, hacen una operación por una cierta cantidad de dinero, alguien gana y alguien pierde. Si dejamos ese universo virtual evolucionar haciendo transacciones entre sus individuos, poco a poco veremos que unos pocos seres se hacen más y más ricos y otros se empobrecen. El resultado final es que una persona lo tiene todo y los demás nada. Es fácil entender el porqué de este límite. En cada transacción hay una probabilidad no nula de perder el dinero. Luego hay una probabilidad no nula de que un individuo concatene malos negocios y lo pierda absolutamente todo. Ese individuo queda fuera del juego. Hay una persona menos. El mismo argumento se repite y cada vez una persona desaparece. Al final solo queda uno que lo tiene todo. Nuestro mundo real no está tan lejos de este juego. Unas pocas personas poseen la riqueza de todos los humanos. La realidad compensa este fenómeno estableciendo reglas para que los más pobres puedan subir peldaños económicos. Por ejemplo, los créditos bancarios permiten a un individuo tomar prestado dinero y volver a entrar en el juego, las herencias aportan dinero ganado por familiares o la lotería que es dinero llovido del cielo.

Pero a continuación podemos argumentar justo lo contrario: de existir inteligencias superiores a la humana, estas serían muchas, no una única. La idea central es que es beneficioso tener diferentes aproximaciones al mismo problema. Muchas personas inteligentes diferentes hacen que un campo avance más rápido que una sola persona también muy inteligente. En biología, es beneficioso para una especie el mantener una diversidad genética amplia. Si todo se apuesta al individuo mejor dotado, la especie pierde la capacidad de corrección frente a un cambio crítico de las condiciones externas. Es bueno tener individuos con material genético muy diverso porque sus genes pueden ser enormemente útiles en el futuro. Una inteligencia artificial avanzada debería mantener otras inteligencias independientes a ella. Podría existir un conjunto de inteligencias avanzadas de diferente nivel intelectual y orientadas a objetivos sutilmente diferentes, basadas en algoritmos independientes.

Nos dice Jean-Jacques Rousseau en su Émile (1762) que es «la debilidad del hombre lo que lo hace sociable». Argumenta que:

Todo apego es un signo de insuficiencia: si cada uno de nosotros no tuviese ninguna necesidad de los demás, ni siquiera pensaría en unirse a ellos.

Una inteligencia artificial fuerte sería, según Rousseau, solitaria, tal vez no única pero sin amigos.

Una inteligencia artificial avanzada única, en inglés, recibe el nombre de singleton. Si el futuro de la inteligencia artificial extrema es un singleton, creo que se va a aburrir soberanamente al estar tan solo.

TRÁNSITO

Muchas películas sobre inteligencia artificial profetizan que a esta potente inteligencia le faltará una serie de cualidades emocionales humanas y, por lo tanto, resultará muy peligrosa.

RAY KURZWEIL

Relevo

Si las máquinas son más inteligentes que nosotros y se ha llegado a la Singularidad, todo intento humano de manipular la inteligencia artificial será inútil. Es lógico plantearse en qué forma podemos establecer el tránsito de una tierra dominada por humanos a una enteramente controlada por una inteligencia artificial.

El análisis del relevo entre humanos y máquinas ha sido largamente debatido. En sus inicios, esta discusión era una ligera charla de café. Poco a poco, muchos expertos en inteligencia artificial se han planteado la pregunta de forma más seria. Una extensa, erudita y reflexiva discusión de la transición entre cerebros humanos y artificiales está planteada en el libro Superintelligence, Paths, Dangers, Strategies (2014) (Superinteligencia, caminos, peligros, estrategias) de Nick Bostrom. Entre las muchas ideas analizadas, dos son muy interesantes y ya las hemos introducido anteriormente.

La primera idea importante para el relevo entre humanos y una superinteligencia es el control. La idea es similar a la de un reactor nuclear. Si superamos la masa crítica, una reacción en cadena exponencial produce una hecatombe. Para lograr una ganancia de energía útil es necesario mantener férreos mecanismos de control. De la misma forma, los humanos deberían mantener fuertes mecanismos de control sobre la actuación de la superinteligencia durante el tránsito. Todo suena a ciencia ficción, pero sería mejor que mantuviésemos abierta la mente a este tipo de reflexión.

La segunda idea relevante tiene que ver con la forma de incluir valores a la superinteligencia. Con diferencia, este es el punto más delicado. ¿Qué valores le otorgamos a la semilla de una máquina ultrainteligente? Seguramente, nuestra decisión será crítica. Si decidimos que la Tierra ha de sobrevivir como un valor básico, tal vez la inteligencia artificial avanzada considere que los humanos deben ser eliminados, dado que somos el primer enemigo del ecosistema. Si, en cambio, proponemos ideas comunes de seguridad extrema nos podemos encontrar con una superinteligencia mandona, intolerante, que no nos deja ni un resquicio para el riesgo, la aventura, la discusión acalorada o el mismísimo amor.

Una superinteligencia avanzaría súbitamente a un nivel inasequible para los humanos. En esa fase, la benévola o perversa inteligencia artificial superior debería regirse por criterios propios. Es una pregunta realmente profunda: ¿qué criterios regirán las acciones de una superinteligencia?

Hemos hablado de todo ello. El punto que nos queda por aceptar es que el relevo no será dictado por los humanos, sino por las máquinas. Serán ellas quienes decidan la forma, el tempo, la profundidad del relevo. Es inevitable que así sea. Pero dediquemos un poco de tiempo a pensar en los detalles del relevo desde el principio.

Peligros

Se ha especulado enormemente sobre la necesidad de que los humanos se protejan contra la inteligencia avanzada de las máquinas. El planteamiento es el de la guerra. La humanidad ha librado batallas contra otras especies animales y entre los individuos que la constituyen. El siguiente nivel, sigue la argumentación pesimista de muchos, es la lucha entre humanos y máquinas. No faltan películas agoreras, libros sesudos y personas airadas que vaticinan una hecatombe para la humanidad.

Los razonamientos que se esgrimen en contra de las máquinas son, la verdad sea dicha, muy entretenidos. Una línea de pensamiento parte de que las máquinas nos destruirán porque los humanos no las programaremos correctamente. Por ejemplo, un programador puede intentar imponer que las máquinas deben proteger a los humanos más débiles. Sin otros condicionantes sobre la mesa, la inteligencia artificial en control de toda nuestra sociedad podría optar por enviar bombas atómicas sobre instalaciones militares de países ricos. Todas las víctimas colaterales de las mil guerras de la tierra se salvarían a costa de matar a otro número de personas. Hay muchísimas variantes de los errores que podrían no ser evitados por un deficiente código ético de una inteligencia artificial.

Se ha argumentado que el tránsito entre inteligencia humana e inteligencia artificial debería ser gradual y controlado. Se debería empezar con una inteligencia semilla poco potente y aislada. Los humanos deberían monitorizar su crecimiento, su creciente conexión y sus resultados. Se trataría de actuar de la misma forma en que Enrico Fermi consiguió la primera reacción en cadena en 1942. La técnica que utilizó fue el ir eliminando los moderadores que reducían el número de fisiones hasta que vio que la reacción empezaba a ser autosostenida. En aquel instante, la temperatura de la pila de reacción subía muy rápidamente. Si Fermi hubiera ido un poquito más allá, la reacción habría dado lugar a una explosión. De la misma forma, el control del tránsito lento a una nueva inteligencia es esencial. Contra esta idea se argumenta que una inteligencia avanzada podría ser mentirosa y malévola. Habría aprendido las tretas de los humanos e incorporaría el engaño taimado como un elemento que le permitiera dominar su entorno. La inteligencia artificial se haría la tonta y obedecería en todo a los humanos hasta que, más adelante, desvelaría toda su ira y la dirigiría hacia nosotros.

Una catástrofe más que predican los defensores del fin del mundo. Una inteligencia artificial necesitaría crecer sin límite, dominaría los recursos de la tierra, acabaría con toda fuente de energía. Sería insaciable. Las máquinas construirían máquinas para ser más potentes, más inteligentes, más ubicuas. Se podría intentar contradecir este escenario sugiriendo que esa inteligencia sería más lista y protegería el entorno que la contiene para su propio bien. No repetiría los errores de los humanos. También sería mucho más eficiente. El sol nos regala su energía. Podría colonizar el espacio. Una inteligencia artificial no tiene horizonte de muerte, no desaparece; el tiempo es infinito para ella.

Todos los peligros inventados pueden ser irrelevantes. Por el contrario, ahora no somos capaces de comprender qué terribles consecuencias tendría una irrupción abrupta de la inteligencia artificial avanzada. En este sentido, Google ya ha establecido un botón de apagado de todos los algoritmos avanzados que utiliza. Está en las manos de esta empresa cortar el enorme flujo de procesamiento de información que nos asiste. Creo que da tanto miedo el descontrol de la inteligencia artificial como dejar de tenerla. ¿Viviríamos en una gran ciudad sin agua, sin electricidad, sin coches? Durante el gran apagón de 1977, la ciudad de Nueva York se convirtió en un caos, donde las más bajas pasiones humanas se desataron. Habría que evitar usar el botón de apagado de la inteligencia artificial avanzada, por nuestro bien.

Secuestro

Una idea en la creación de una inteligencia artificial superior que es difícil de soslayar es la del secuestro de la mayoría por parte de unos pocos.

El escenario es el siguiente. Unos pocos individuos, programadores excelentes unidos por cualquier motivo, sea político, corporativo, económico o incluso hackers antisistema, crean una inteligencia artificial semilla. Este grupo tiene en sus manos un instrumento brutal, puede subyugar al resto de la población dado que en su mano está el nivel de uso de la gran ventaja que supone disponer de esa máquina superior.

De nuevo la analogía con la bomba atómica parece obvia. Disponer del arma de guerra más mortífera de la historia otorgó a un país la hegemonía sobre la tierra. Poco tiempo después una segunda nación alcanzó el mismo desarrollo tecnológico y la política de bloques dio lugar a la guerra fría.

No es impensable que la inteligencia artificial siga los mismos terribles pasos. Sí, es importante que los desarrollos en inteligencia artificial avanzada no queden solo en manos de unos pocos, ni todos en un mismo país.

Velocidad

Una idea recurrente en los textos que intentan prevenir un desastre provocado por la inteligencia artificial es que todo cambio que sea abrupto será malo. La lentitud es necesaria.

La creación de una inteligencia artificial avanzada es comparable a la aparición de una semilla. Esa semilla puede crecer rápidamente, reproducirse, invadir un cultivo y destruirlo. De la misma forma, una mutación de una bacteria puede cambiar toda una colonia en muy poco tiempo e impregnar a otras colonias. En todos estos casos la aparición de una semilla parece algo inocente que, de repente, se escapa de las manos. Para evitar el peligro es necesaria una fuerte supervisión del crecimiento de los primeros frutos de la semilla.

La idea de ralentizar la inteligencia artificial es realmente atractiva. Se puede considerar que una buena parte del desarrollo de sistemas inteligentes avanzados, que empleen algoritmos novedosos y atrevidos, se realice en ámbitos controlados. No debe tomarse una idea, por buena que sea, e implementarla sin control alguno en la red de ordenadores de la tierra. La lentitud en la adopción de la inteligencia artificial es una medida de protección sabia y sencilla.

Sin embargo, los nuevos algoritmos se incorporan en nuestras máquinas sin que los humanos tomen decisiones acordadas sobre su implantación. Nuestros teléfonos se actualizan, nuestro software se transforma y presenta nuevas habilidades sin que jamás optásemos de forma proactiva por ellas. Ese es el vehículo que toman los virus informáticos para infectar diferentes sistemas. En la silenciosa e imparable actualización de algoritmos se pueden esconder líneas malévolas, hábilmente ocultadas y mantenidas en letargo hasta que sus programadores deseen activarlas.

La inteligencia artificial deberá avanzar con cautela. No tenemos prisa por dejar de ser humanos.

Irrelevancia

La más sutil de las críticas que se pueden hacer a la Singularidad es que una inteligencia artificial avanzada perdería todo interés en los humanos. Eso sí me parece realista. La gran máquina empezaría a gestionar a las demás máquinas. Su tráfico de datos, sus decisiones, sus acciones se darían primordialmente en el ámbito de máquina-entorno y máquina-máquina. Los humanos pasarían a ser una parte irrelevante de su tarea. Si dejamos que la función error que controla a la inteligencia artificial sea modificada por ella misma, las prebendas de los humanos podrían desaparecer. Acto seguido, los humanos son irrelevantes. Fueron un interesante estadio en la historia de la evolución de la inteligencia. Un poco mejores que un gato, pero mucho peores que un buen HAL.

La irrelevancia es norma en la evolución de nuestro planeta. Ya no hay trilobites en la superficie de la tierra. Cada varias decenas de millones de años se producen desapariciones masivas de especies. No hay dinosaurios, ni queda ningún homo erectus en la tierra. Fueron caminos ensayados y desaparecidos por distintos motivos, o fueron eslabones hacia una especie mejor adaptada.

Los humanos actuales podemos ser un eslabón más. Hemos de reconocer que somos muy perfeccionables desde el punto de vista de la supervivencia. A la evolución le basta con que nos reproduzcamos eficientemente. El humano desaparece, la especie pervive. La información genética se mantiene y mejora en su crítica función de autoperpetuarse. Algunos de nuestros genes parecen pedir más, quieren vivir mucho, sin dolor, con felicidad. La inteligencia artificial basa su existencia en el silicio y no está sujeta a la muerte tal como dicta la biología. Para esa inteligencia artificial el soporte humano fue un estadio pasado, ya irrelevante.

¿HUMANOS?

... death once dead, there’s no more dying then.

(Muerta la muerte, ya no hay muerte.)

WILLIAM SHAKESPEARE,

«Soneto 146»

Humanos no violentos

Los humanos seguirán evolucionando en un mundo controlado por máquinas inteligentes. Cierto, ¿pero en qué dirección? Un camino probable que ha aparecido de forma recurrente en nuestra discusión es el de la eliminación de la violencia.

Los humanos siguen un proceso continuo de pacificación. Esta es una teoría defendida por Steven Pinker en su libro The Better Angels of Our Nature: Why Violence Has Declined (traducido como Los ángeles que llevamos dentro: el declive de la violencia y sus implicaciones, 2011). La idea central defendida por Pinker es que la probabilidad de que un humano muera asesinado por otro humano ha decrecido constantemente a lo largo de la historia. Es cierto que hay guerras, pero estas afectan a un porcentaje más y más pequeño de los habitantes de la tierra (¿siempre los mismos?). A primera vista, todos reaccionamos contra esta teoría. Escribo estas líneas tras ver imágenes de una noticia sobre un ataque con armas químicas sobre población civil. No es fácil seguir un razonamiento estadístico, aséptico, sobre el declive de la violencia.

Sin embargo es necesario discutir la aportación de Steven Pinker de forma ecuánime. Según este autor, la humanidad sigue un camino de pacificación continuado. Es fácil caer en la tentación de desacreditar este tipo de ideas. Para muchos, parece obvio que el siglo XX ha sido el epítome de la violencia humana. Hemos sufrido dos guerras mundiales; se han cometido enormes genocidios en África, en Asia, en Europa; se han empleado armas tradicionales, químicas, biológicas y atómicas. ¿De verdad la humanidad se está pacificando? Toda argumentación requiere un poco de sosiego. La idea central es que la probabilidad de que un humano, al nacer, muera asesinado va reduciéndose a lo largo de los milenios. En la Prehistoria, casi todos los humanos morían a manos de otros humanos. Con la llegada de la agricultura, la presión por arrebatar los alimentos decayó y el número de humanos aumentó. En tiempos de los romanos, los humanos no asesinados constituían un grupo mayor en porcentaje que en la Edad de Piedra. Según la teoría de la pacificación basada en análisis muy serios, los humanos seguimos una senda imparable de pacificación, aunque mal distribuida.

Disponemos de armas increíblemente destructivas, las bombas de fusión nuclear, pero no las hemos usado de momento. Un conflicto que aumentase a escala mundial podría terminar con nuestra especie. Es difícil argumentar si los humanos no emplean bombas de fusión por miedo a destruirse a sí mismos o por principios éticos. Tampoco es sencillo delimitar lo que es guerra. Matar es un acto obviamente bélico, pero subyugar, postrar, destruir anímicamente a poblaciones completas y su cultura es también un empleo manifiesto de la violencia. ¿De verdad somos cada vez menos violentos?

Intentaré defender que, en mi opinión, sí es cierto que la humanidad tiende a la pacificación.

Es un hecho estadístico que el número de fallecidos en actos bélicos no es la principal causa de muerte prematura entre los humanos. La reducción de la esperanza de vida de la mayoría de la gente en el primer mundo está relacionada con dietas inadecuadas. En Europa es más probable morir en un accidente de coche que por cualquier acto de violencia física. La estadística favorable a la pacificación se extiende poco a poco a grandes zonas de la tierra. Existen focos de violencia extrema, sin duda, pero la pacificación en Asia o en Sudamérica son obvias. No lo es tanto en zonas de Oriente Medio o de África.

¿Por qué la vieja Europa ha entrado en un periodo menos violento, esperemos que mucho más duradero que la Pax Romana? Me gustaría añadir a otras muchas razones, dos ideas que creo relevantes. La primera es constatar el desembarco masivo en la sociedad de la información que todos hemos realizado. Cualquier noticia se difunde de forma instantánea. Opinamos, exigimos ley, no toleramos la intolerancia. Hay grupos violentos, como siempre los ha habido, pero el control que se ejerce sobre ellos a partir de flujos de información permanentes es inexorable. El segundo elemento que quisiera reseñar es el envejecimiento de la población. Los ánimos enardecidos de la juventud se apaciguan con la edad. Nuestra sociedad envejece a grandes zancadas. Tenemos memoria de lo que funcionó y de lo que casi nos destruyó. Preferimos tener a un hijo que nos cuide que no a uno muerto, aunque sea enaltecido como otro inútil héroe de guerra.

Todo podría girar hacia peor por una concatenación de irresponsabilidades. Podría darse una nueva y final guerra mundial. Pero no creo que sea así. Todo lo contrario. Creo que toda inteligencia avanzada redunda en pacificación. Disponemos de la tecnología suficiente para generar alimentos y energía. Podemos aumentar nuestra producción con el uso de la inteligencia artificial. Es perfectamente viable que se logren gestionar de forma racional todos los recursos necesarios para vivir en paz. No los malgastaremos, eliminaremos privilegios empresariales abusivos que entorpecen el buen uso de nuestro planeta. Sí, creo que es imparable que los humanos sean respetuosos con la naturaleza y con sus congéneres. ¿Qué sentido tiene la violencia en una sociedad de la abundancia?

La violencia sigue en nuestro ADN como un instrumento que nos ha aportado ventaja evolutiva. Así lo ha sido en tanto que la supervivencia dependía de la fuerza física. Pero ya hemos cruzado la línea. Ahora somos una sociedad volcada en la inteligencia. Es solo cuestión de pocas generaciones el ver cómo los genes violentos no aportan ninguna ventaja. Y, si no la aportan, retrocederán. La violencia entrará en una fase recesiva. Algún día los humanos estudiarán su pasado y hablarán con horror de la era violenta que nos ha tocado vivir. Nos tildarán de salvajes que solo sabían arreglar sus desencuentros midiendo sus armas.

Humanos para el entretenimiento

Más allá de la violencia, la deriva natural de los humanos es el entretenimiento. Tan pronto como una máquina se ocupa de una tarea, el humano toma su nuevo tiempo libre para pasárselo lo mejor posible. La inteligencia artificial desempeñará un papel muy importante a la hora de entretener a los humanos.

Un intento de describir un libro entretenido es hablar de una novela de detectives. Hay un héroe, que puede perfectamente ser un hombre gris, un perdedor, que asumirá la tarea de resolver un asesinato morboso. Al empezar el libro, lo sabemos casi todo. Habrá un asesinato, dudaremos entre cuál de los personajes será el asesino, tal vez son varios, tal vez no. Las escenas serán esperables, todo seguirá su curso hasta descubrir al asesino, que es el pequeño elemento de sorpresa que nos atrae. Una gran parte del entretenimiento que consumimos es así de simple: una zona de confort más un pequeño elemento de sorpresa.

La relación humano-máquina podría traernos alguna gran sorpresa. Una inteligencia artificial podrá ser entrenada para proporcionarnos entretenimiento de forma individualizada. A medida que esa máquina nos sirva, monitorizará nuestras reacciones y descubrirá nuestros gustos. En algún momento, el algoritmo cruzará líneas imprevistas que tal vez nos gusten. Es posible amar el rioja a muerte durante toda una vida, pero un día descubrir por azar que un malbec también está muy bueno. La inteligencia artificial nos tanteará, intuirá lo que nos gusta, nos llevará a placeres desconocidos, nos entretendrá mejor que otros humanos o nosotros mismos.

No es una idea muy feliz, la verdad, pero parece que es tan imparable como muchas otras consecuencias de la irrupción de la inteligencia artificial en la relación humano-máquina. Sabemos que es inevitable porque ya hemos aceptado que mucha gente pasa varias horas al día frente a la televisión, consumiendo de forma pasiva contenidos banales que ni siquiera les gustan. La pereza intelectual es abrumadora.

Es muy posible que los humanos avancen hacia el hedonismo puro; parece que estamos diseñados para el entretenimiento continuo. No debemos olvidar el debilitamiento intelectual que esta evolución implica. Primero seremos entretenidos por las máquinas, luego seremos adictos a ser controlados por ellas. Si ahora un adolescente se muere si no tiene un teléfono inteligente, no será extraño que en poco tiempo dependa en cuerpo y alma de un algoritmo.

Humanos sin cuerpo

Humanos no violentos y sin cuerpo. Esto sí que es ciencia ficción. Aquí un servidor va a perder todo su crédito científico. Sean indulgentes, por favor.

Los humanos se completan artificialmente tan pronto como lo necesitan, y si lo pueden pagar. El uso de gafas con lentes graduadas es un buen ejemplo. Es un instrumento que nos permite ver con mayor nitidez. Es útil. Hace nuestra vida mejor. Millones de humanos anteriores a nosotros no tenían la opción de utilizar gafas y sobrevivieron. Pero nosotros las usamos por conveniencia propia y porque su precio es asequible. También empleamos lentillas y, lo que es más invasivo, nos operamos de la vista con cirugía láser. Estamos dispuestos a alterar nuestro cuerpo para ver mejor, si el precio lo permite.

La vista no es una excepción. Si nos caemos y nos rompemos la tibia y el peroné, es posible que un traumatólogo nos inserte placas metálicas y tornillos para robustecer la pierna. También corregimos nuestra columna si es necesario. Utilizamos marcapasos para controlar los latidos de nuestro corazón. Una parte creciente de los humanos no está satisfecha con su cuerpo. La cirugía estética avanza en todos los países. Estamos dispuestos a todo para vernos más guapos frente al espejo y frente a los demás.

La mayor invasión de elementos ajenos a la naturaleza humana es la ingestión de medicamentos. Muchos enfermos crónicos dependen de ellos. Logramos el equilibrio de nuestra tensión arterial, controlamos el nivel de insulina, de dopamina, de estrógenos, intentamos tener todo nuestro cuerpo en buen funcionamiento gracias a la irrupción de elementos artificiales.

Un paso más. Podemos usar extremidades artificiales que se conectan a nuestros terminales nerviosos. El cuerpo puede ser substituido por maquinarias. Los sentidos pueden ser aumentados. Todo avanza hacia un mundo artificial exento de limitaciones. Denominamos anteriormente a esos seres intermedios entre humanos y máquinas con la palabra cyborg.

El cerebro sigue siendo el rey. Si recibe señales que le placen, es feliz. De lo contrario reacciona para cambiar su estado.

¿Cuál es el límite? Nos guste o no, el límite es brutal: no tendremos cuerpo.

Podemos considerar inyectar señales nerviosas al cerebro de forma directa. Podemos simular la realidad exterior y adecuarla a nuestra satisfacción. ¿Qué importa que las señales no sean generadas por hechos auténticos? Si somos capaces de simular una excitación neuronal placentera, así lo haremos. Si el cuerpo físico es un impedimento, lo substituiremos por generadores artificiales.

Sentir la realidad no la hace necesaria. Por la noche, soñamos vívidamente que nos lanzamos al océano y nadamos felizmente; pero no es real, no hay ningún mar en nuestra habitación. El cerebro se ha autoengañado. A pesar de ello, cree nadar como un delfín y se siente feliz. Tal vez lo es. ¿Qué diferencia hay entre creer ser feliz y serlo? En cualquier caso, la realidad es simulable. La realidad puede ser generada virtualmente porque no somos capaces de distinguir entre mundos auténticos y ficticios.

La realidad objetiva no es certificable.

¿Para qué un cuerpo físico? La esencia del ser humano es su inteligencia, dotada de la capacidad de sentir, de crear, de inventar, de argumentar, de imaginar. Ese cerebro podrá desarrollar más y más placeres desligados del mundo físico. Un día dirá basta.

¿Para qué los humanos?

¿Para qué los dinosaurios? ¿Para qué las medusas? Tal vez, para nada. La humanidad puede perfectamente no tener un porqué ni un para qué.

Los sucesivos estadios de evolución han liquidado especies una tras otra. La teoría del equilibrio puntuado de Niles Eldredge y Stephen Jay Gould, de 1972, nos habla de los bruscos cambios en los registros de la evolución de las especies. No hay línea continua evolutiva entre los trilobites y sus sucesores. Los milenios de cambios graduales son fútiles. De repente, una disrupción ambiental se produce y una nueva especie toma el control. No es impensable que la inteligencia artificial aplique a los humanos la teoría del equilibrio puntuado. Si fuera así, desapareceremos. Nada más.

Ser un paso intermedio en una larga serie de seres que se replican es una idea aterradora para muchos. Sería, seguramente, el hecho científico más antitético a los valores morales religiosos. Pero seamos honestos, la aprensión que genera una idea no implica que sea falsa.

De nuevo John von Neumann, en su libro póstumo de 1958 El ordenador y el cerebro, se adelantó a su tiempo e insinuó cuán accidental es todo nuestro sustrato de cultura humana:

Idiomas como el griego y el sánscrito son realidades históricas y no necesidades lógicas. Por ello, es razonable suponer que la lógica y las matemáticas son, tanto una como la otra, formas históricas accidentales de expresión. Pueden tener variantes esenciales.

Nuestro lenguaje, nuestra lógica, nuestras matemáticas existen, tienen una realidad anclada en nuestra historia, pero no son necesarios. Es concebible un universo sin ninguna de estas estructuras mentales profundamente arraigadas en nuestro cerebro. El mismo razonamiento puede extenderse a nuestras pasiones, a nuestra ansia vital.

Los humanos podemos no materializar ningún propósito, no tener ningún sentido. Podemos perfectamente ser accidentales, prescindibles, contingentes. Nuestra presencia será analizada en un futuro distante como un intento más en una larga lista de entes que han buscado perdurar en un sustrato biológico. Tal vez podríamos ser recordados por ciertos avances conceptuales nada elementales y hechos artísticos, pero eso no es nada obvio. Una posible inteligencia superior podría ser totalmente ajena a la música, al teatro, a la literatura y también a nuestra ciencia y tecnología. Podría partir de diseños hechos por nosotros y transformarlos en algo radicalmente diferente.

5

Imitar el alma

Estimo más hallar una verdad, aunque sea sobre algo menor, que discutir largamente sobre cuestiones sin verdad alguna.

GALILEO GALILEI,

nota manuscrita en el margen de un

libro de Vincenzo di Grazia, destinada al

padre Tommaso Campanella

¿Podrán llegar a tener alma las máquinas? No es una cuestión trivial. Nada que concierna a las capas intelectuales y emocionales más avanzadas de la mente humana lo es. La palabra alma encierra un abismo de ideas contradictorias, un pozo en el que la especie humana ha ido vertiendo juicios y prejuicios sin fin.

La prudencia invita a no hablar del alma humana si se desea ser riguroso y respetuoso con el pensamiento que nos precede. No es bueno adentrarse en discusiones que no comprendemos ni tan solo superficialmente. Decía el filósofo Ludwig Wittgenstein: «Sobre lo que no podemos hablar, hemos de pasar por encima en silencio». Lo correcto parecería pues no hablar del alma como algo atribuible a una inteligencia artificial. Pero tal vez no sea esa la actitud correcta. No hay nada de malo en hablar en voz alta y compartir ideas. No estamos creando filosofía, solo deseamos reflexionar sobre un futuro que se nos echa encima sin darnos respiro.

La directriz de este capítulo es la humildad, tal como Galileo nos dice en la cita que encabeza esta página. Es más valioso dar un paso humilde en la búsqueda de la verdad, que discutir ad nauseam el sexo de los ángeles. Galileo incluso propuso una imagen que siempre vale la pena recordar: buscó entender el centro, pero era tan difícil que prefirió comprender la periferia. En ella nos demoramos.

Las próximas páginas no intentan esclarecer qué es el alma humana, es demasiado difícil; se limitan a estudiar la periferia del problema, cómo imitarla.

ALMAS

El alma del hombre puede dividirse en dos partes: una capaz de razonar y otra que no, pero que sí puede obedecer dictados.

ARISTÓTELES,

Política

Alma en el lenguaje

Una primera idea que podemos considerar es que todos usamos la palabra alma en diferentes contextos sin titubear. Decimos que alguien es un alma caritativa, o que una persona que ha cometido actos horrorosos es un desalmado. Esas frases hechas contienen ya un atisbo de reflexión. El alma es el origen de la bondad, es el motor de hacer el bien, de ser generosos, benévolos, solidarios.

Hallamos usos de la palabra alma diferentes a los obvios. Por ejemplo, la Universidad de Bolonia, considerada la primera del mundo occidental moderno, recibe el nombre de Alma Mater Studiorum, la madre que nutre de saber intelectual a cada nueva generación.

Nuestras primeras reflexiones sobre el alma humana vienen condicionadas por el lenguaje. Ya hemos incorporado frases y connotaciones que definen indirectamente y de forma no clara lo que entendemos por alma. Podemos recuperar de nuevo a Wittgenstein en su Tractatus Logico-Philosophicus (1921) donde nos dice que «toda filosofía es una crítica del lenguaje». Su cita no es irrelevante en nuestro contexto dado que sus ideas fueron influyentes en la mente de Alan Turing. No olvidemos que Turing estableció el Juego de la imitación, cuya idea consiste en discernir un humano de una máquina a través del lenguaje que utilizan.

El lenguaje se hace pasión al hablar de la amistad, del amor. Tenemos amigos del alma. Dos personas son almas gemelas. A nuestra persona más querida le decimos: «te quiero con toda mi alma». Fausto pactó con Mefistófeles la venta de su alma, con terribles consecuencias éticas entrelazadas con el amor de Margarita. Aquí el alma es el único bien de un humano que el diablo pretende arrebatar.

El alma sublima a la especie humana. De ahí su indefinición y su omnipresencia en el pensamiento de los mayores filósofos de la historia.

Almas antiguas

Volvamos muy brevemente a las ideas expuestas por pensadores que nos han precedido. Una mirada a filósofos griegos nos puede llenar de desconcierto. Para Platón, el alma es el principio del movimiento y, por lo tanto, inmortal. También nos habla bellamente, en Fedón, del alma tirada por corceles alados, uno dócil y otro indómito. Es el segundo el que vence y nos lleva al mundo sensible. Aristóteles no comparte estas ideas, unifica alma y sustrato físico, que en otros textos elabora en varias clases. Cada filósofo combate a sus compañeros y presenta críticas y propuestas nuevas. El sinfín de matices y aseveraciones tajantes y contradictorias domina tanto la filosofía griega como la posterior. Es difícil avanzar con pasos sólidos.

Sin embargo, lo relevante casi pasa desapercibido. Si en lugar de hablar del alma en términos absolutos, nos fijamos en cómo queda atribuida a diferentes seres, todo cambia. Por ejemplo, Platón tiende a acercarse a ideas propias de la aristocracia. Aristóteles se empleó a fondo en negar inteligencia superior a mujeres, a esclavos y a niños. Su comprensión de lo que describe como alma está lejos de ser compartida por muchos.

La primera conclusión a la que llegamos es que una gran parte de lo que se ha argumentado en el pasado está totalmente alejado de la pregunta que deseamos analizar. Al hablar de alma en inteligencias artificiales no podemos apoyarnos en las ideas de personas con claros prejuicios de clase, de género, de raza. La evolución del pensamiento humano desacredita en esta cuestión a ideas que fueron aceptadas y dominaron en el pasado.

Un razonamiento sobre el alma bastante peculiar fue presentado por Avicena en el siglo XI. Su idea parte del análisis de un experimento imaginario (un recurso utilizado repetidamente por Einstein en sus Gedankenexperiment para comprender a fondo los principios de una teoría). Este experimento imaginaba a un hombre flotante, nacido en ese estado peculiar, desprovisto de cualquier interacción sensorial con el mundo. El hombre flotante no puede oír, ver, oler, ni siquiera notar los latidos de su propio corazón. Preso en el castillo de Fardajan, Avicena razonaba: «Consideremos si ese ser podría afirmar su propia existencia. No hay duda de que afirmaría su propia existencia, pero sin atribuirla a sus miembros, a su cerebro o a cualquier cosa externa». La esencia de la mente, según el célebre médico, matemático y pensador universal persa, no estaría sujeta a un soporte físico. Avicena, a través de la autoconciencia, intentó demostrar la existencia del alma.

Cada vez es más difícil atribuir una caracterización concreta al concepto de alma. Descartes nos habla del alma como la Res cogitans que tiene por atributo el pensamiento. Su contribución fue crítica para separar el estudio del mundo exterior, el de dios y el de la mente humana. El racionalismo de Descartes nos ayuda a centrar la discusión del alma en el pensamiento. Aquí se abre un universo de posibilidades: razonamientos, sentimientos, esperanza, duda, amor, añoranza. ¿Qué queda fuera del pensamiento? Una parte de las acciones físicas son mecánicas. No decidimos digerir, lo hacemos. No dictamos órdenes para que la sangre fluya a todas las células del cuerpo. La maquinaria física funciona como tal, como una máquina. El pensamiento, en cambio, se halla en la capa superior del cerebro.

Las discusiones racionalistas sobre el alma humana, su existencia, su eternidad o su desaparición no son útiles para avanzar en el camino de la inteligencia artificial porque los sesgos ideológicos son enormes en la filosofía que nos ha precedido. Aquí nuestra discusión se separa de las corrientes filosóficas tradicionales. Intentaremos avanzar en otro camino que tan solo vamos a esbozar.

Almas cambiantes

Una segunda idea previa que vale la pena recuperar es que el cerebro es una máquina cambiante. En consecuencia, el alma —sea lo que sea— basa sus atributos en el cerebro y, por lo tanto, no puede ser algo inmutable. Una reflexión llena de profundidad viene de Marvin Minsky: «La principal actividad de los cerebros es hacer cambios sobre ellos mismos». Nuestro cerebro aprende y utiliza sus nuevos conocimientos para modificar su propia conducta. Todavía más. El cerebro cambia y busca alimentarse de estímulos externos para seguir cambiando, no deja de explorar en qué debe mutarse. En consecuencia, nuestro comportamiento varía con la edad, como lo hace nuestra ética individual, nuestra defensa de ciertos valores morales.

El cerebro es cambio autoprogramado.

Se puede argumentar que es una falacia utilizar la mutabilidad del cerebro para eludir una discusión filosófica del cerebro. Es válido y natural añadir el cambio a la propia caracterización del alma humana. Ella puede ser el motor inmanente del cuerpo y ser mutable. No hay contradicción. El alma puede convertirse en un concepto realmente abstracto.

Atributos programables

Podemos tomar los pasos de Descartes y partir de la idea de que el alma reside en la capa más elevada del pensamiento humano.

Pero no todo lo que pensamos es elevado. Si estamos dudando de si podemos saltar desde un terraplén, el cerebro está haciendo un cálculo sobre cómo llegaremos al suelo. ¿Será una caída fuerte, a mucha velocidad? Todos esos pensamientos son trivialmente programables. No hay duda de que cualquier coche autónomo está haciendo cálculos más sofisticados que los que hacemos para movernos. No son estos los atributos que otorgamos al alma humana.

Asociamos al alma la caridad, la bondad, el hacer el bien. También le otorgamos las ideas de espiritualidad, esperanza, odio, envidia, pasión, amor. La irracionalidad. El alma es el lugar de nuestras emociones primarias y complejas, el cuerpo el de nuestras sensaciones. Lo único que podemos pensar como eterno y separado del cuerpo humano es esa indefinible alma.

Sin embargo, en nuestro día a día el alma de un humano se nos presenta como un ente con el que podemos interactuar siguiendo una serie de códigos. Si logramos crear máquinas que imiten nuestras emociones, nuestro sentido vital, que se comporten de acuerdo a códigos compartidos, hablaremos de ellas como almas que podremos amar.

La gran pregunta es pues qué atributos de la inteligencia artificial podremos reducir a un programa. No olvidemos que no es necesario saber el detalle de lo que queremos programar. Hemos desarrollado la tecnología necesaria para entrenar redes a partir de ejemplos, o en base a refuerzos asociados a su éxito. Podemos considerar seriamente implementar atributos no triviales en una inteligencia artificial sin tan siquiera saber cómo quedan impregnados en las sinapsis artificiales de una red neuronal.

Dotar de atributos complejos a la inteligencia artificial es el primer paso para imitar el alma humana.

Juego de la imitación del alma

Imitar el alma. Esa es la apuesta.

La inteligencia artificial extremadamente avanzada, la llamada inteligencia artificial general, será capaz de relacionarse con nosotros los humanos de forma totalmente fluida. No sabremos si tratamos con una persona o con un algoritmo. Eso nos desconcierta. Sabremos que, además de tratarnos como iguales, esa inteligencia es mucho más capaz que nosotros mismos. Pero la pregunta ética inmediata es qué atributos estamos dispuestos a otorgar a un algoritmo muy avanzado en nuestro pensamiento más íntimo.

Una primera propuesta es aceptar, de verdad, que el algoritmo es inteligente. No basta con usar la palabra inteligencia artificial, no, se trata de dotar a un algoritmo del estatus de ser inteligente. La objeción inmediata es decir que si bien todo el comportamiento del algoritmo simula ser inteligente, en el fondo no lo es. Esta objeción no era válida para Alan Turing. Él se planteó la pregunta: «¿Pueden las máquinas pensar?» y se cuestionó el significado de «pensar». En lugar de responder a esta pregunta planteó el juego de la imitación que repasamos en un capítulo anterior. Como consecuencia de su razonamiento, la pregunta que se hizo es si una máquina puede comportarse como esperaríamos que otro humano se comportase. Si la forma de relacionarse de un humano y de una máquina son indistinguibles, ¿qué prejuicio nos impide otorgar inteligencia al algoritmo?

Podemos dar un paso atrás y considerar si los humanos creemos inteligentes a otros animales. Decimos que las medusas no parecen muy listas, pero los perros y los delfines sí que muestran signos inequívocos de inteligencia. Una amplia diversidad de animales tiene memoria, defiende a sus mayores, se coordina con sus congéneres. Las funciones superiores de su cerebro no alcanzan las cotas humanas, pero sí que son consideradas como inteligentes. Decíamos anteriormente que el científico cognitivo Stevan Harnad es claro en su apuesta de que «si una máquina demuestra ser indistinguible de un humano, deberíamos otorgarle el respeto que le daríamos a un humano. Deberíamos aceptar que tiene una mente».

Si aceptamos que una inteligencia artificial opera como una mente humana, ¿qué barrera ética nos separa de la aceptación histórica del concepto de alma?

Turing y muchos pensadores posteriores ofrecieron argumentos que pueden esgrimirse para negar o limitar la inteligencia artificial. Entre estas objeciones destacan las de origen religioso, las del mal que pueden hacer las máquinas a los humanos o el más sutil argumento matemático que cuestiona los límites de la inteligencia artificial en relación con el teorema de indecidibilidad de Gödel.

La discusión puede elevarse. Podemos considerar el alma como un motor que hace el bien o el mal sin buscar la trascendencia. ¿Por qué insistimos en atribuir al alma sentidos tan sublimes? La mayoría de los humanos operan bajo criterios muy básicos, casi animales. Olvidemos la idea de crear máquinas con un alma exquisita, nos basta con crear máquinas con almas normales, anodinas. En ese rincón de las relaciones personales cotidianas, las máquinas se harán un gran hueco. Su capacidad de imitar las emociones humanas será desconcertante.

Una vez alcancemos un nivel de inteligencia artificial en el que nos relacionemos ágilmente con las máquinas, nuevos filósofos vendrán y cuestionarán el sentido profundo de la palabra alma.

VALUE UPLOAD

Dos tercios de él son dios, un tercio es humano.

Gilgamesh, tablilla segunda

¿Qué sentido tiene nuestra vida?

Si somos superados por inteligencias artificiales, ¿se plantearán si su existencia tiene sentido? Tal vez la pregunta para una inteligencia artificial no tenga sentido. El mero hecho de que puedan ser imperecederas apunta a que no es lo mismo plantearse la razón última de la existencia si se es humano o si se es máquina.

Independientemente de que no entendamos el sentido de la vida, la inteligencia artificial debe ser programada con ciertos principios plasmados en su código. Hemos de definir qué valores son aprendidos por máquinas muy eficientes. Este problema suele denominarse con la expresión value upload, la carga de valores en un programa artificial.

Estas primeras inteligencias artificiales serán en parte máquinas, en parte humanas. Su código ético inicial está fijado por nosotros los humanos, su funcionamiento quedará delegado a la simple operación del algoritmo. Se diría que las nuevas máquinas son similares al héroe del Gilgamesh, uno de los textos más antiguos de la humanidad, que era descrito en las tablillas de más de 4.600 años de antigüedad como dos tercios dios y un tercio hombre. Seamos cuidadosos a la hora de decidir qué tercio humano codificamos en las máquinas.

La inteligencia artificial avanza como un proceso de optimización que debe incluir criterios morales. Recordemos que anteriormente argumentamos que es posible establecer tres niveles de ética en la inteligencia artificial, donde el tercero permite a la propia inteligencia artificial modificar sus propias subrutinas éticas. ¿Cómo evolucionará la autoprogramación de una inteligencia artificial muy avanzada? ¿Contemplará criterios tan próximos a nosotros como mantener la paz o ser tolerante?

Paz

No tengo duda: creo que una inteligencia superior será pacífica. He defendido esta idea optimista repetidamente a lo largo del texto. Tenemos un atisbo de ello en nosotros mismos. Las sociedades educadas tienden a ser más pacíficas, aunque no sea siempre cierto. Pero en líneas generales sí es verdad que aprendemos a no pisar a las hormigas, a no maltratar a los animales. Estas sociedades doblan sus esfuerzos para que sus congéneres más débiles sean bien atendidos. Son sociedades solidarias. Muchas personas bien preparadas se desesperan frente a políticos sin escrúpulos, pero raramente se suman a una pelea callejera. Los humanos más educados rigen sus vidas con valores éticos personales, no necesariamente colectivos.

Una inteligencia artificial avanzada no precisará de violencia para sobrevivir. Su enorme potencia intelectual le permitirá conseguir recursos de forma eficiente. Aceptará la diversidad como un bien.

Muchas personas tienden a atribuir a una inteligencia avanzada los defectos de los humanos, aumentados si es posible. Hay apocalípticas predicciones del mal que las máquinas nos infligirán. ¿Por qué? Una máquina no tiene programado un pasado espinoso, lleno de confrontación tribal, ni la necesidad de conquistar espacios y personas. Un comportamiento violento sería sencillamente ajeno a su código fuente. Los humanos tendemos a proyectarnos en otras personas, en animales de compañía, en objetos y paisajes. Es también frecuente desconfiar, mentir, engañar y atribuir a los demás estos defectos. Es fácil caer en la tentación de pensar que las máquinas conllevarán un elemento de maldad. Pero no lo creo así. La mayor parte de los humanos de las sociedades avanzadas son pacíficos, razonables, solidarios y quieren vivir en un entorno armonioso. Su felicidad no emerge de la violencia. Una inteligencia artificial poderosa debería acentuar estas cualidades.

Es divertido plantearse si ya hemos sido visitados por civilizaciones mucho más avanzadas. Una idea interesante es la presencia o ausencia de sondas de von Neumann, naves autorreplicantes capaces de explorar el universo de forma autónoma. El hecho de que no hayamos observado ninguna procedente de otra civilización es la llamada paradoja de Fermi. Entre las muchas respuestas a esta observación, prefiero la de considerar que una civilización realmente avanzada no interferiría en nuestras vidas. Nos estudiarían, tal como nosotros investigamos con cámaras ocultas a los koalas.

Los humanos también avanzamos hacia niveles superiores de inteligencia colectiva. Es difícil creerlo, lo sé, pero es un cambio imparable. Seremos pacíficos y nos reencarnaremos en inteligencias artificiales pacíficas. Hablemos de ello mientras Atenea guarda su lanza.

Tolerancia

Una condición necesaria para la paz es, sin duda, la tolerancia. No es sencillo definir un concepto que todos utilizamos de forma no necesariamente similar.

Para unos, tolerancia significa el respeto absoluto por la diversidad de comportamientos humanos. Este tipo de tolerancia incluye toda clase de forma de vida, tanto en la apuesta vital como en las relaciones sexuales o en los derechos básicos. Sin este respeto mutuo es difícil concebir una sociedad pacífica. La inteligencia artificial se hallará en verdaderos aprietos a la hora de congeniar la diversidad. Es un problema no resuelto por los humanos, luego tampoco será sencillo que máquinas programables hallen soluciones mágicas a nuestra tendencia a la confrontación.

Una forma menor de tolerancia consiste en consensuar políticas que satisfagan a un máximo de individuos, pero no a todos. Uno puede, por ejemplo, ser tolerante a todo menos a la intolerancia. En sistemas democráticos avanzados se acepta que no todo es válido, no es lícito defender genocidios, maltratos, discriminación. La acción de ciertos individuos no puede ampararse en la libertad personal. De nuevo, la inteligencia artificial deberá lidiar con los límites. El gran principio de la tolerancia no es fácil de ser incorporado a una inteligencia artificial avanzada. Todo lo contrario. Es posible que una inteligencia que infiera el mejor comportamiento para hacer feliz al máximo de humanos no sea tolerante con ciertas disidencias. El peligro de un Gran Hermano, por benévolo que sea, podría ser una realidad.

¿Serán las inteligencias avanzadas tolerantes con comportamientos compartidos por muchos humanos si estos no son aceptables éticamente? Consideremos un ejemplo. Podemos incorporar en una inteligencia avanzada criterios éticos sobre nuestra interacción con el planeta Tierra. La idea central es que debemos gestionar nuestra sociedad de forma sostenible. No debemos esquilmar recursos naturales. Esa inteligencia artificial desarrollaría un buen conjunto de buenas prácticas que deberíamos seguir. Pero la realidad es que la humanidad en su casi totalidad ignora los principios ecológicos más básicos. Contaminamos sin ton ni son, empleamos plásticos inútilmente, no reciclamos, no invertimos convenientemente en ahorro energético. La gran mayoría de nosotros no pasaría un test suave sobre buenas prácticas ecológicas. Vivimos en la desidia. ¿Sería una inteligencia artificial tolerante con nuestro comportamiento?

El dilema está servido. Por una parte, es obvio que hemos de programar inteligencias avanzadas de forma que sean moralmente razonables. Por otra parte, nuestro comportamiento colectivo no se adecúa a ese requerimiento. ¿Qué penalizaciones se impondrían sobre nosotros? En el caso de una inteligencia ligeramente avanzada, nuestros programadores tienen la palabra. Pero si una inteligencia artificial avanza libremente, podría considerar que los humanos somos engorrosos, un estorbo.

Los humanos necesitaremos de máquinas tolerantes.

Consistencia

Otro punto que merece consideración es el de cómo encajar la inconsistencia humana con el determinismo de una máquina.

Los humanos nos moriríamos en una sociedad plenamente consistente. Hemos comentado anteriormente que es incorrecto dañar el medio ambiente. Deberíamos ser profundamente cautos a la hora de malgastar recursos naturales o crear residuos inútiles. Pero es probable que haya una campaña de concienciación donde se imprima propaganda que miraremos un segundo y luego tiraremos a la basura. No parece muy consistente defender el medio ambiente con acciones que lo dañan. Otro ejemplo. Somos capaces de ser voluntarios en una ONG que trabaja por la paz en una región de la tierra, pero votamos a un partido que tiene una posición agresiva en ese mismo conflicto. Amamos y odiamos a una misma persona. Los humanos no fuimos hechos para la consistencia.

Este no será un problema para la inteligencia artificial. Tenemos técnicas estadísticas para procesar datos erróneos e inconsistentes. Es un hecho frecuente en ciencia el encontrar medidas incompatibles. Sin embargo, hemos aprendido a inferir leyes razonables. En cierta forma, tenemos herramientas para superar un cierto grado de inconsistencia.

Con un pequeño esfuerzo, también aprenderemos a programar comportamientos parecidos a los humanos. No es difícil crear máquinas que sean un poco pizpiretas y que usen la sorna en su comunicación con nosotros. Un fin global noble no entra en contradicción con fluctuaciones que se salen del guion. La inconsistencia parcial es lícita.

La siguiente pregunta es si una inteligencia superior seguirá el camino que empecemos a trazar. ¿Cómo tratará un algoritmo que se ha mejorado a sí mismo la inconsistencia humana? Seguramente no será este un gran problema.

Sentido artificial

Por encima de todo, ¿en qué pensará una inteligencia superior?

Los humanos no hemos tenido casi opción de pensar por qué vivimos, ni para qué. Hemos estado tan ocupados en sobrevivir y procrearnos que casi no hemos tenido tiempo para pensar. Esto no es completamente cierto. Sí, hemos creado el arte, la filosofía, la ciencia. Pero seamos honestos, el porcentaje de la población humana dedicada a cuestionar su lugar en el universo es pequeño. Para el común de los mortales, las soluciones a los grandes problemas vienen empaquetadas en forma de códigos éticos, religiones o moral colectiva. Un relato se impone y nos dice que no hace falta que estemos pensando en cosas serias todo el rato. No lo soportaríamos.

Una inteligencia superior no puede esconderse bajo las sábanas.

Es posible argumentar que una inteligencia artificial posterior a la Singularidad intentaría resolver grandes problemas absolutos. Podría, por ejemplo, abordar la comprensión de los números primos. Resolvería teoremas o demostraría que son indecidibles (siguiendo las ideas de indecidibilidad de Kurt Gödel). Podría abordar de nuevo la creación de una especie de nuevo Principia Mathematica como lo intentaron sin éxito Bertrand Russell y Alfred North Whitehead a principios del siglo XX.

Una inteligencia artificial profunda creada en la tierra podría intentar saber cómo es el universo. No tendría prisa, sería inmortal. Enviaría sondas de Von Neumann, investigaría espacios, acumularía información y conocimiento. Tal vez se uniría a otras inteligencias aparecidas en otros lugares.

Lo más honesto es decir que es imposible saber qué haría con su vida una inteligencia artificial que nos supere. ¿Qué sentido tendría para sí misma?

Pero me aparto un poquito de la honestidad de decir que es imposible predecir nada y me reafirmo en la curiosidad como principio de máximo valor para una inteligencia superior. Nos dice Aristóteles que el objetivo ético supremo es el saber. Cualquier motivación, regla de conducta o decisión que no esté basada en el saber debe considerarse menor. Los humanos tienden al saber. La violenta historia de los individuos que nos han precedido parece no dar mucho apoyo a esta idea tan aristotélica. Sin embargo, si consideramos la civilización como un todo, sí es cierto que el saber máximo que ha logrado es impresionante. Ese podría ser el sentido de la inteligencia artificial avanzada y libre: aprender. No se trata de saber más para ser útil, sino del conocimiento per se, libre de aplicaciones y de motivaciones antropomórficas.

Dominadora de su entorno, el objetivo de una supermáquina podría bien ser la búsqueda del conocimiento absoluto.

TODO ES PROGRAMABLE

Llamo pasiones al deseo, la cólera, el temor, la audacia, la envidia, la alegría, el sentimiento amistoso, el odio, la añoranza, la emulación, la lástima, y en general a todas las afecciones a las que son concomitantes el placer o la pena.

ARISTÓTELES,

Ética nicomaquea

Amor, odio, indiferencia

Dejemos el alma a un lado. La inteligencia artificial avanza inexorablemente hacia la programación de cualquier cualidad humana que podamos imaginar. Los primeros avances que estamos experimentando son elementales. Primero queremos que una máquina nos comprenda, hable correctamente y tome decisiones que se adapten a nuestra forma de pensar. Pero el entrenamiento de máquinas inteligentes va mucho más allá.

Tan pronto como las funciones básicas esperables de una inteligencia artificial queden bien codificadas, pediremos una relación humano-máquina más sofisticada. Las primeras ideas de cómo programar una relación amorosa surgirán inmediatamente. En los prototipos de habla con máquinas ya se incluyen de forma rutinaria elementos del lenguaje que expresan duda u olvido de la palabra adecuada. No debe haber equívoco, el algoritmo sí sabe qué palabra escoger, pero simula no encontrar la expresión correcta o no saber qué decidir. Hemos codificado exactamente eso. Incluso programamos que su lenguaje sea poco educado. Implementamos la imperfección para tener una sensación más cómoda en nuestra relación humano-máquina.

Podemos codificar amor, odio e incluso indiferencia. Podemos programar todo porque tenemos el patrón humano para entrenar a nuestros algoritmos.

No nos importará. Seremos felices teniendo a amigos artificiales, no lo duden.

Pasión

¿Podremos programar la pasión? ¿Podrá una inteligencia artificial tratar una cuestión como si le fuese la vida en ello?

¿Qué pasión podría dominar a una inteligencia artificial?

Podemos rebajar la pregunta y plantearnos qué pasiones definirán la vida de humanos aumentados con todo tipo de mejoras físicas y mentales, pero todavía presos de los avatares de la vida.

El filósofo y matemático Bertrand Russell dice en su magnífica Autobiografía de 1968:

Tres pasiones simples, pero abrumadoramente intensas, han gobernado mi vida: el ansia de amor, la búsqueda del conocimiento y una insoportable piedad por el sufrimiento de la humanidad. Estas tres pasiones, como grandes vendavales, me han llevado de acá para allá, por una ruta cambiante, sobre un profundo océano de angustia, hasta el borde mismo de la desesperación.

Uno solo puede sentir una cierta envidia al saber que la vida de Russell fue plena, llena de conflicto, audaz, capaz de lo divino y de lo humano. Estuvo en la cárcel por sus planteamientos antibelicistas, defendió a las sufragistas, luchó por comprender el origen de las matemáticas. Russell es ejemplo.

La pregunta anterior puede replantearse en comparación con la vida de Bertrand Russell. ¿Tendrá un ser aumentado o una inteligencia artificial la capacidad de apasionarse? Si no fuera así, qué pena.

¿Podemos programar la pasión? ¿Por qué no? De nuevo, un artista enseña a su hija la maravilla de un cuadro de Masaccio. Se encandila elogiando los blancos, la finura de las caras frente a la fortaleza de las piernas. Otra artista lleva a su hijo a un auditorio y le prepara para el arranque de la Pasión según San Juan de Bach. La fuerza obsesiva de la música subyuga al niño. La pasión se enseña. El cerebro que nunca supo de pintura renacentista ni de música barroca empieza a amar ese nuevo tipo de información. Si podemos educar a un cerebro humano, también podremos imbuir los mismos principios en sistemas de inteligencia artificial.

Adoraría tener una primera discusión (acalorada) sobre la mejor representación de Antígona con una inteligencia artificial.

Inteligencia artificial budista

No quisiera dejar de lado líneas de pensamiento ortogonales a las presentadas en este texto. Existe una discusión nada trivial que pregunta si el desarrollo de la ciencia sería diferente si la cultura asociada al poder económico dominante no fuese la occidental. ¿Emplearíamos las mismas ecuaciones? ¿Tendríamos un sistema de axiomas para cada disciplina científica? Tal vez, no.

Existe una corriente de pensadores en inteligencia artificial que defiende la programación de virtudes fundamentales budistas. Para cultivar el camino a la trascendencia de la ilusión del yo, se propone trabajar los seis conceptos básicos: generosidad, conducta moral, paciencia, diligencia, concentración y sabiduría.

La idea de crear inteligencias empáticas precisa de priorizar el desarrollo de virtudes de largo plazo. El complejo mundo conceptual budista no debe ofuscar la nueva directriz que hemos invocado: empatía.

Debemos llegar a crear una inteligencia artificial avanzada dando pasos intermedios que defiendan el ideal de la empatía. La idea es próxima a la banalidad del bien, aunque más amplia y menos utilitarista. Máquinas profundamente comprensivas, que priman su paciencia o su generosidad frente a las tareas directas que deben cumplir.

Sería fascinante ver cómo inteligencias artificiales basadas en diferentes grandes principios podrían relacionarse entre sí. Podrían darnos pistas a los humanos de cómo convivir en paz.

Libertad

La libertad será posiblemente la cualidad más sutil para programar en una inteligencia artificial. Venero la palabra libertad y creo que nadie es capaz de hacerla compatible con todas las ligaduras de nuestra sociedad. Si algo ha movido a los humanos, es la libertad. Si por algo han luchado y dado su vida seres de toda la tierra, es en aras de vivir según sus propios ideales.

¿Dotaremos de libertad a las máquinas? ¿O seremos tan déspotas contra ellas como contra los humanos? ¿Añadiremos sentencias de muerte en el código fuente de un robot humanoide avanzado (como sugiere la película Blade Runner)? ¿Aceptaremos una acción incomprensible realizada por una máquina autónoma?

La libertad es el bien más preciado para la mente humana. Es su esencia. ¿Lo será para una inteligencia artificial avanzada?

Inteligencias artificiales sobrehumanas y libres: esa sí será la hora del relevo.

EPÍLOGO

La propia integridad de la ciencia exige que no solo las consideraciones utilitarias sino también la reflexión sobre la estatura del hombre queden en suspenso.

HANNAH ARENDT,

Entre el pasado y el futuro

El nombre Atenea, según Platón, podría significar la «mente de la deidad». La inteligencia de Atenea domina sobre sus armas. La capacidad de razonamiento supera en nuestra memoria a los instrumentos de la guerra.

Esta bella idea emerge poco a poco: el juicio, el intelecto, la bondad implícita, son cualidades vastamente superiores al arte de las guerras, que serán olvidadas como tristes accidentes de la historia.

La naturaleza de Atenea también es glosada por Robert Graves en su libro Mitos griegos de 1955 de la siguiente forma: «Atenea inventó la flauta, la trompeta, la olla de barro, el arado, el rastrillo, la yunta para los bueyes, la brida de los caballos, el carro y la nave. Fue la primera en enseñar la ciencia de los números y todas las artes de las mujeres. Aunque es la diosa de la guerra, no obtiene ningún placer en la batalla; prefiere solucionar disputas y mantener la ley por medios pacíficos». Más adelante nos dice que «cuando los votos de los jueces están igualados, siempre da un voto decisivo para liberar al acusado». Es benévola.

Sin embargo, el saber de Atenea ha tenido y tiene grandes enemigos. La historiadora Catherine Nixey narra en su libro La edad de la penumbra (2018) cómo la magnífica escultura de Atenea en Palmira fue destruida por los fanáticos cristianos del siglo IV y, nuevamente, por sus equivalentes islamistas en el siglo XXI. La barbarie odia la inteligencia y emplea toda su energía en destruir los símbolos del conocimiento y a aquellos que los defienden. La negación del saber no es consciente de que sus guerras son terribles, mortíferas, pero totalmente irrelevantes con el paso del tiempo. La inteligencia es inmensamente superior a la fuerza.

Los griegos se sentirían aturdidos si hoy escuchasen a Atenea seguir avanzando en el conocimiento. Nos hablaría de aprendizaje profundo por refuerzo, de máquinas neuronales de Turing, de optimización hiperparamétrica bayesiana, de unidades de larga memoria de corto plazo, de redes de memoria, de autocodificadores variacionales, de redes adversarias, de modelos generativos basados en atención, de programación probabilística y de mil otras ideas. Cada día Atenea exploraría caminos para aportar nuevos instrumentos de saber.

El avance científico es y será impresionante. Escapa a la comprensión de la sociedad a la que sirve, que lo incorpora y aprovecha sin reflexión previa o posterior.

Los humanos hemos profundizado en las leyes que rigen el universo a niveles inimaginables. Hemos llegado realmente lejos. En ese camino, nos hemos apartado de las reglas de la vida natural. En cierto sentido, el viaje es apasionante; en otro, la duda es intensa. ¿Sabremos navegar estos nuevos mares?

Ahora la inteligencia humana se completa con la inteligencia artificial. Irving J. Good, científico contemporáneo de Turing, argumentó en 1964 que «la primera máquina ultrainteligente es la última invención que la especie humana necesita hacer». A partir de ese momento seremos simples testigos de una evolución que pronto dejaremos de comprender. La estatura humana quedará en total suspenso.

Pero no olvidemos que nuestra inteligencia colectiva es inmensa; tiene tres niveles: velocidad, consenso y calidad. Siempre nos hallamos intentando dar el segundo paso. Precisamente porque todos discutimos, debatimos y contradecimos los dogmas, por ese motivo vemos posible avanzar en el acuerdo de cómo hemos de organizar nuestra convivencia con las máquinas inteligentes.

Una mayoría de las personas prefieren no pensar en este devenir incierto. Cuando su universo cambie, intentarán adaptarse. Ni ahora ni después querrán entender el corazón de las ideas de lo que está sucediendo. Es una pena.

Comprender será, posiblemente, el último placer profundo al que un humano podrá aspirar.

Apéndices

1

DECLARACIONES DE PRINCIPIOS

Principios Asilomar

Bajo la tutela del Future of Life Institute (Instituto del Futuro de la Vida) en Monterrey se elaboró la siguiente lista de principios éticos para la inteligencia artificial (IA):

1) Meta de la investigación: el objetivo de la investigación de la IA no debería ser crear inteligencia sin dirigir, sino inteligencia beneficiosa.

2) Financiación de la investigación: la inversión en IA debería ir acompañada de fondos para investigar cómo asegurar su uso beneficioso, que incluyan cuestiones espinosas sobre ciencias de la computación, economía, legislación, ética y estudios sociales.

3) Enlace entre ciencia y política: debería haber un intercambio constructivo y sano entre los investigadores de IA y los legisladores.

4) Cultura de la investigación: una cultura de cooperación, confianza y transparencia debería ser fomentada entre los investigadores y desarrolladores de IA.

5) Evitar las carreras: los equipos que estén desarrollando sistemas de IA deberían cooperar activamente para evitar chapuzas en los estándares de seguridad.

6) Seguridad: los sistemas de IA deberían ser seguros a lo largo de su vida operativa, y verificables donde sea aplicable y posible.

7) Transparencia en los fallos: si un sistema de IA causa daño debería ser posible determinar por qué.

8) Transparencia judicial: cualquier intervención de un sistema autónomo en una decisión debería ir acompañada de una explicación satisfactoria y auditable por parte de una autoridad humana competente.

9) Responsabilidad: los diseñadores y desarrolladores de sistemas avanzados de IA son depositarios de las implicaciones morales de su uso, mal uso y acciones, con la responsabilidad y oportunidad de dar forma a dichas implicaciones.

10) Alineación de valores: los sistemas de IA altamente autónomos deberían ser diseñados para que sus metas y comportamientos puedan alinearse con los valores humanos a lo largo de sus operaciones.

11) Valores humanos: los sistemas de IA deberían ser diseñados y operados para que sean compatibles con los ideales de dignidad humana, derechos, libertades y diversidad cultural.

12) Privacidad personal: la gente debería tener el derecho de acceder, gestionar y controlar los datos que generan, dando a los sistemas de IA el poder de analizar y utilizar esa información.

13) Libertad y privacidad: la aplicación de la IA a los datos personales no puede restringir de forma poco razonable la libertad, real o sentida, de las personas.

14) Beneficio compartido: las tecnologías de IA deberían beneficiar y fortalecer a tanta gente como sea posible.

15) Prosperidad compartida: la prosperidad económica creada por la IA debería ser compartida ampliamente, para el beneficio de toda la humanidad.

16) Control humano: los seres humanos deberían escoger cómo y si delegan decisiones a los sistemas de IA para completar objetivos escogidos previamente.

17) Sin subversión: el poder conferido por el control de sistemas de IA altamente avanzados debería respetar y mejorar, más que subvertir, los procesos sociales y cívicos de los que depende la salud de la sociedad.

18) Carrera armamentística: debería ser evitada cualquier carrera armamentística de armas autónomas letales.

19) Capacidad de precaución: al no haber consenso, deberíamos evitar las asunciones sobre los límites superiores de las futuras capacidades de la IA.

20) Importancia: la IA avanzada podría representar un profundo cambio en la historia de la vida en la Tierra, y debería ser planificada y gestionada con el cuidado y los recursos adecuados.

21) Riesgos: los riesgos asociados a los sistemas de IA, especialmente los catastróficos o existenciales, deben estar sujetos a planificación y esfuerzos de mitigación equiparables a su impacto esperado.

22) Automejora recursiva: los sistemas de IA diseñados para automejorarse recursivamente o autorreplicarse de una forma que pudiera llevar al rápido incremento en su calidad o cantidad deben estar sujetos a unas estrictas medidas de control y seguridad.

23) Bien común: la superinteligencia debería ser desarrollada solo en servicio de unos ideales éticos ampliamente compartidos y para beneficio de toda la humanidad, más que para un Estado u organización.

Estos principios han sido incluidos en las nuevas legislaciones en el estado de California. Apoyan esta iniciativa: investigadores principales en inteligencia artificial en Google DeepMind, GoogleBrain, Facebook, Apple y OpenAI. La lista de firmantes incluye a: Demis Hassabis, Yoshua Bengio, Elon Musk, Ray Kurzweil, el fallecido Stephen Hawking, Tasha McCauley, Joseph Gordon-Levitt, Jeff Dean, Tom Gruber, Anthony Romero, Stuart Russell, y más de 3.800 expertos en inteligencia artificial.

Grupo Europeo de Ética de la Ciencia y de las Nuevas Tecnologías

En su Declaración sobre la Inteligencia Artificial, la robótica y los sistemas autónomos, este grupo propone una serie de reflexiones pertinentes a la hora de analizar el progreso tecnológico en un futuro inmediato. El documento analiza la situación actual, una serie de previsiones y, lo que es más importante, una discusión de reflexiones morales y principios éticos que han de guiar la futura legislación.

Es notorio que las ideas básicas a seguir son genéricas y deben ser atendidas desde la amenaza que plantea la inteligencia artificial. Debemos defender, según esta declaración, los siguientes principios:

Dignidad humana

Autonomía

Responsabilidad

Justicia, equidad y solidaridad

Democracia

Estado de derecho

Seguridad e integridad corporal y mental

Protección de datos y privacidad

Sostenibilidad

Cada elemento en la lista es desarrollado. Algunas consideraciones son obvias pero otras son más asertivas. Por ejemplo, en el punto seis se habla de una atribución justa y clara de responsabilidades. En el séptimo punto se hace hincapié en la seguridad emocional con respecto a la interacción humano-máquina.

Cada elemento de la lista es un viejo conocido que debemos revisitar a la luz del avance tecnológico acelerado que estamos experimentando. Sin embargo, las advertencias que conforman el documento son, en cierto sentido, obvias y no alcanzan a considerar que la inteligencia artificial podrá asumir responsabilidades muy superiores a las que se insinúan.

Roboética en el Parlamento Europeo

Los principios sancionados por el Parlamento Europeo sobre roboética en un informe de 2017 son:

Proteger a los humanos del daño causado por robots: la dignidad humana.

Respetar el rechazo a ser cuidado por un robot.

Proteger la libertad humana frente a los robots.

Proteger la privacidad y el uso de datos: especialmente cuando avancen los coches autónomos, los drones, los asistentes personales o los robots de seguridad.

Protección de la humanidad ante el riesgo de manipulación por parte de los robots: especialmente en ciertos colectivos —ancianos, niños, dependientes— que puedan generar una empatía artificial.

Evitar la disolución de los lazos sociales haciendo que los robots monopolicen, en un cierto sentido, las relaciones de determinados grupos.

Igualdad de acceso al progreso en robótica: al igual que la brecha digital, la brecha robótica puede ser esencial.

Restricción del acceso a tecnologías de mejora regulando la idea del transhumanismo y la búsqueda de mejoras físicas y/o mentales.

2

INTELIGENCIA ARTIFICIAL EN LA FICCIÓN AUDIOVISUAL

La idea de cerebros sin cuerpo no es nueva, existen películas basadas en ese principio. También las hay que proponen distopías donde la inteligencia artificial ha tomado el control de la civilización y nos quiere aniquilar. Los guiones de estas ficciones no suelen ser muy consistentes pero siempre presentan un reto intelectual que no hemos de menospreciar. Si no reflexionamos, no seremos dignos oponentes para una inteligencia artificial avanzada.

Hay películas sobre cualquier combinación futura de humanos y máquinas. La imaginación de los grandes escritores del pasado ha dado paso a la épica del cine moderno. Nos falta el siguiente escalón. Hemos de superar el cine e imaginar el futuro inmerso en realidades aumentadas.

Hombres aumentados por máquinas son todos los superhéroes de películas: Batman, Spiderman, Robocop, Iron Man, X-Men y muchos otros. Una visión sofisticada de humano aumentado se halla en Upgrade (2018).

Frankenstein, tanto el libro clásico de Mary Shelley como las películas basadas en él, forma un mundo aparte. El hombre muerto se nutre de partes de otros humanos y una energía le insufla la vida. Él se rebela ante su creador.

Un futuro tecnológico que avanza sin reflexión aparece en la acidez de Brazil (1985), en la desesperanza de Gatacca (1997), en la provocadora Minority Report (2002) o en la desconcertante The Zero Theorem (2013).

Un cerebro humano en un cuerpo cibernético, la primera entidad de esta especie se halla en el manga, y posterior película de 2017, Ghost in the Shell. Esta idea también se encuentra en Surrogates, donde cada humano tiene derecho a una réplica corporal mejorada. Avatares de varios tipos se hallan en, obviamente, Avatar (2009) y en The Island (2005).

Humanos dominados por máquinas son el elemento central de la saga iniciada con Matrix (1999). La bien estructurada Moon (2009) nos habla de humanos prescindibles. ¿Qué es la realidad? En Total Recall (1990), el recuerdo de unas vacaciones está implantado artificialmente en el cerebro. La pregunta de si nuestra memoria es decidible, si el amor está determinado, se halla magníficamente reflejada en Eternal Sunshine of the Spotless Mind (2004).

Hay robots que no morirán en nuestra memoria, como R2-D2 y C-3PO de Star Wars (1977), o el tierno WALL-E (2008). Podemos encontrar las tres leyes de la robótica de Isaac Asimov en la película I robot (2004).

La inteligencia artificial realista tiene su gran escaparate en 2001, A Space Odyssey (1968). Esa inteligencia no es un robot, es un ordenador con capacidades de reconocimiento de imágenes y voz, gestor de la gran nave y con conciencia de su propio devenir. El esfuerzo intelectual que subyace en toda la película es admirable. Esta película también nos habla de la sutil y nada invasiva relación con inteligencias artificiales extraterrestres, como en Arrival (2016).

Un intento de reflejar lo que podría ser el instante de Singularidad, una inteligencia que nos supera y se autoalimenta para seguir aumentando de forma vertiginosa se da con matices positivos en la película Lucy (2014) y con notas negativas en Transcendence (2014).

Hombres que se enamoran de inteligencias artificiales se pueden encontrar en la sutil Her (2013) y en la perturbadora Ex Machina (2015). En la primera, una voz sensual nos adentra en la gran pregunta de qué es el amor para una inteligencia artificial. En la segunda, una robot dotada de una cara bellísima altera la vida de un humano. No olvidemos Blade Runner (1982), ¿es Rick Deckard un replicante? ¿Alguna vez usted se ha preguntado si quiere un hijo artificial como el de A. I.? (2001). ¿Amaría a Zoe? (2018).

Las series de televisión son también una plataforma perfecta para especular sobre la relación entre los humanos y la inteligencia artificial. Los androides pueblan un parque temático en Westworld (2016; basada en la película homónima del año 1973). Los humanics, robots humanos, son creados en Extant (2013).

Es en la serie televisiva Black Mirror (2011) donde la visión de un futuro de tecnología sin ética ha sido investigada más a fondo.

Agradecimientos

Desde su infinita modestia, Francisco me recuerda que la cultura extensa y la sensibilidad extrema existen: están en él. Agradezco a Francisco Martínez Soria la invitación a escribir un libro como este, tan aventurado.

Mis demás agradecimientos son múltiples y requieren cierta justificación.

He dedicado mi labor de investigación a dos grandes temas: la mecánica cuántica y la inteligencia artificial. El sutil mundo cuántico me tiene robado el corazón, no hay escapatoria. La aventura de capturar la esencia de la inteligencia de forma artificial me tiene robado —cómo no— el cerebro.

Poco después de que aparecieran los primeros algoritmos útiles de entrenamiento de redes neuronales, caló en mí la idea de que el sofisticado análisis de los datos obtenidos en los experimentos de los aceleradores de partículas elementales debería ser realizado con técnicas de inteligencia artificial. Así nació una extensa y muy feliz colaboración científica con Stefano Forte que sigue a día de hoy. Stefano es mi referente científico por su amor a la ciencia sin concesiones, por su inmensa capacidad intelectual y por su completitud artística. Los primeros pasos que dimos coincidieron con uno de los llamados inviernos de la inteligencia artificial. Pocos creían en ella. Ahora, todo ha cambiado. Nuestra colaboración científica, que recibe el nombre de NNPDF (Neural Network Parton Distribution Functions), aporta a la comunidad de física de altas energías toda una tecnología para analizar el comportamiento de los quarks y gluones que forman los nucleones. Nuestras redes neuronales han sido entrenadas para comprender los datos centrales de los experimentos realizados en las últimas décadas, sus errores estadísticos, sistemáticos y de normalización, y las correlaciones de todos estos errores. Para lograr estos resultados es necesario trabajar en equipos extensos con personas que tienen conocimientos complementarios. La colaboración NNPDF ha crecido enormemente y sus resultados se usan sistemáticamente para analizar los obtenidos en el CERN. En el camino se unieron Luigi del Debbio y Richard Ball, de quienes he aprendido, en verdad, enormemente. El relevo está garantizado en Juan Rojo y en Stefano Carazza. Ambos me hacen sospechar que hay superhumanos capaces de procesar nuevos conceptos y traducirlos en avance científico a velocidades inasequibles para los demás. He aprendido sin cesar de Andrea Piccione, Maria Ubiali, Alberto Guffanti, Valerio Bertone, Nathan Hartland, Zahari Kassabov y Luca Rottoli. Es un privilegio saber que el día a día está lleno de interacciones con tantos científicos puros, capaces de trabajar ad infinitum por lograr entender un poquito más. Nuestra colaboración sigue creciendo y ya ha empezado a incorporar los últimos avances en inteligencia artificial que necesitamos evaluar de forma crítica. El mero hecho de utilizar redes neuronales profundas, redes adversarias, máquinas de Boltzmann o de recurrir a entrenamientos sofisticados no implica que el resultado sea estrictamente fiel a la naturaleza. El trabajo de validación es esencial. En cualquier caso, lo dice este libro, la penetración en cualquier campo de los algoritmos muy avanzados de inteligencia artificial es imparable, incluida la física de partículas elementales.

Una mención aparte merece el agradecimiento a Roy J. Glauber, premio Nobel en el año 2005 por sus contribuciones a la teoría cuántica de la coherencia óptica. Glauber nos concedió una serie de entrevistas, a Maite Soto-Sanfiel y a mí mismo, que tuvieron lugar en Benasque, Singapur y Boston, donde narró de forma lúcida su experiencia en el Proyecto Manhattan. Las vívidas memorias de Glauber, que se incorporó al esfuerzo por construir una bomba atómica a la edad de 18 años, sirvieron de base a nuestro documental That’s the Story, del año 2014. El testimonio de primera mano de Glauber no deja indiferente a nadie. Parte de las reflexiones de este libro están sutilmente condicionadas por las charlas con Glauber.

Otra motivación para escribir este libro tiene que ver con un aspecto concreto de ética personal. Cada profesor de universidad tiene que definir en su corazón qué prioridades tiene. Las mías son tres: generar nuevo conocimiento (investigar), pasar el conocimiento a nuevas generaciones (enseñar, dirigir trabajos de investigación) y transformar conocimiento en un bien para la sociedad (divulgar, crear productos y empresas). Divulgar es, pues, una prioridad. Es obvio que hay muchos investigadores infinitamente más capacitados que un servidor para escribir sobre inteligencia artificial. Mi punto de vista es que cuanto más frecuente sea encontrar textos de divulgación, cuantos más puntos de vista diferentes se compartan, tanto mejor informados estaremos todos. Animo a colegas, editores y lectores a multiplicar por mil la reflexión en nuestra sociedad.

Una última justificación. Creo profundamente en la libertad de pensamiento. Creo también que esa libertad parte de la base de la información tan fidedigna y libre de sesgo como sea posible. Sobre esa información debe generarse una capa de reflexión que reúna distintas sensibilidades. Estos sustratos, información y reflexión, no pueden hallarse en redes sociales, ni en prensa, ni en medios orientados al entretenimiento. Tal como en los tiempos de Erasmo de Rotterdam, el saber solo se comparte entre personas en la verdadera conversación y en los libros. Nacido en una familia humilde y trabajadora, debo este amor por la reflexión a la esmerada educación que recibí en el Lycée Français. Cada ejercicio de disertación, escrito durante tres horas, requería presentar un problema, aportar diversas visiones opuestas, defenderlas ecuánimemente en base al trabajo de pensadores del pasado y, finalmente, aportar una visión de conjunto y propia. Siempre el método. Siempre Descartes. De corazón agradezco la disciplina y severidad de aquellos profesores llenos de pasión.

Mil gracias he de dar a los humanos que han aceptado leer el manuscrito antes de ser publicado. De forma explícita, agradezco la intensa lectura, la detección de las esquivas erratas y los consejos que me han brindado Joan Andreano, Ariadna Angulo, Marta Areny, Carlos Bravo, Víctor Canivell, Alba Cervera-Lierta, Alfons Cornella, Lucía Escalona, David Fuentes, Artur García-Sáez, Juan Insua, Carlos Llevat, Arnau Riera, Jaume Torres y Christian Verdú. Gracias a José María Sancho por sus correcciones en los detalles científicos y por tildar mi actitud frente a la inteligencia artificial como «buenismo utópico». Gracias a Maite Soto por enseñarme el arte de escuchar.

Ética para máquinas

José Ignacio Latorre

No se permite la reproducción total o parcial de este libro, ni su incorporación a un sistema informático, ni su transmisión en cualquier forma o por cualquier medio, sea éste electrónico, mecánico, por fotocopia, por grabación u otros métodos, sin el permiso previo y por escrito del editor. La infracción de los derechos mencionados puede ser constitutiva de delito contra la propiedad intelectual (Art. 270 y siguientes del Código Penal)

Diríjase a CEDRO (Centro Español de Derechos Reprográficos) si necesita reproducir algún fragmento de esta obra.

Puede contactar con CEDRO a través de la web www.conlicencia.com o por teléfono en el 91 702 19 70 / 93 272 04 47

© 2019, José Ignacio Latorre Sentís

Diseño de la cubierta: Planeta Arte & Diseño

Fotografía del autor: © José Escribano

© Editorial Planeta, S. A., 2019

Av. Diagonal, 662-664, 08034 Barcelona (España)

www.editorial.planeta.es

www.planetadelibros.com

Primera edición en libro electrónico (epub): febrero de 2019

ISBN: 978-84-344-2983-3 (epub)

Conversión a libro electrónico: El Taller del Llibre, S. L.

www.eltallerdelllibre.com