Diego Hidalgo demeusois

Nacido en París en 1983, estudia Filosofía, Política y Economía y obtiene un máster en Relaciones Internacionales por Sciences Po (Institut d’études politiques de Paris) y un máster en Sociología por la Universidad de Cambridge, donde realiza uno de los primeros estudios académicos sobre el impacto de Facebook en las relaciones humanas (2007). También estudia en el University College London (UCL) y en la Universidad de Bologna. Después de pasar por la Fundación Clinton en Nueva York, se muda por primera vez a España en 2009 donde funda Amovens, la primera plataforma de coche compartido del país. También es fundador de Spacebee (plataforma para compartir espacios profesionales), de Pontejos (dedicada la restauración de edificios antiguos en Madrid y en Barcelona) y de Ballensworth (fondo que invierte en empresas sociales). Fue uno de los patronos fundadores de la Fundación United Way España así como consejero y colaborador de diversas ONG. En paralelo a su actividad empresarial publica tribunas y artículos e interviene en conferencias sobre emprendimiento, política, tecnología y en especial sobre el consumo colaborativo. Es también mago profesional. Habla francés, español, inglés, italiano, alemán y árabe dialectal marroquí. Actualmente reside en Rabat, donde ha sido nombrado consejero en la Embajada de la Soberana Orden de Malta en Marruecos. www.diegohidalgo.net

Diego Hidalgo

Anestesiados

La humanidad bajo el imperio de la tecnología

© Diego Hidalgo demeusois, 2021

www.anestesiados.org

© Los libros de la Catarata, 2021

Fuencarral, 70

28004 Madrid

Tel. 91 532 20 77

www.catarata.org

Anestesiados.

La humanidad bajo el imperio de la tecnología

isbne: 978-84-1352-346-0

ISBN: 978-84-1352-294-4

DEPÓSITO LEGAL: M-22.759-2021

thema: UB/UDBS

impreso en artes gráficas coyve

este libro ha sido editado para ser distribuido. La intención de los editores es que sea utilizado lo más ampliamente posible, que sean adquiridos originales para permitir la edición de otros nuevos y que, de reproducir partes, se haga constar el título y la autoría.

A mis hijos Diego, Pablo y Amadeo,

y a toda su generación, deseándoles que,
frente al desafío tecnológico,

encuentren las claves para seguir viviendo como seres libres.

Introducción

Todo esto ocurrió a plena luz de día, pero no quisimos mirar. Hemos tenido una historia de amor con la tecnología que nos parecía mágica. Y como ocurre con un gran truco de magia, funcionó porque iba atrayendo nuestra atención para que no nos fijáramos en lo que estaba ocurriendo1.

Sherry Turkle, profesora en el MIT

Cada época tiende a desarrollar poca autoconciencia de sus propios límites. Por eso es posible que hoy la humanidad no se dé cuenta de la gravedad de los desafíos que llegan, y “que la posibilidad de hacer un mal uso de su poder sea cada vez más grande” cuando “no existen normas de libertad, sino supuestas necesidades: la utilidad y la seguridad”2.

Papa Francisco, cit. Romano Guardini

Tenía quince años cuando dio comienzo mi vida laboral y no fue como emprendedor ni como escritor, sino como mago. Empecé a actuar en bares y fiestas de cumpleaños para conseguir mis primeros ingresos, persiguiendo una pasión que me movía desde la infancia y que todavía conservo. Siguiendo la cita de la profesora del MIT, Sherry Turkle, una de las principales técnicas del ilusionismo consiste en desviar la atención del público, procurando que la gente sea incapaz de concentrarse en el objeto en el que debería fijar su atención. Los magos sabemos dirigir y condicionar los actos y pensamientos del público. No obstante, cuando hacemos magia, los espectadores suspenden su incredulidad y se predisponen para la ilusión. Sus elecciones son un juego estrictamente limitado al truco de magia. En la actualidad, la realidad se ve afectada por la tecnología digital de un modo similar al ilusionismo, aunque con diferencias fundamentales: no somos tan conscientes de que se nos está engañando, y el influjo de la tecnología no se limita al espectáculo o el divertimento, sino que se extiende a la vida en general, tanto a las pequeñas acciones como a las decisiones más fundamentales.

Hasta hace poco no había relacionado mi pasión por el ilusionismo y la intención de deconstruir la influencia tecnológica sobre nuestro comportamiento y nuestras vidas. Me sorprendió descubrir que otras personas que compartían esta voluntad de esclarecimiento, como Tristan Harris, fundador del movimiento Time Well Spent y del Center for Humane Technology, también eran magos. Con todo, no revelaremos aquí los grandes secretos de la magia; sus trucos nos aportan pistas, pero serían insuficientes para desmitificar la historia de amor entre los humanos y la tecnología. Las preguntas que deberíamos plantearnos seriamente son amplias. Esto nos obliga a recurrir a la información que proporcionan un vasto espectro de disciplinas, desde la filosofía hasta las neurociencias, pasando por las ciencias sociales.

El germen de este libro se remonta a la segunda mitad de los años 1990 —periodo en el que Internet comenzaba a entrar en las casas—. Entonces empecé a preguntarme en qué medida las nuevas tecnologías unían a la gente o por el contrario descomponían el vínculo social. Mi duda se intensificó a medida que la tecnología progresaba y se expandía fuera de los límites del ordenador personal para penetrar en todos los campos de nuestra existencia, entrometiéndose en cualquier experiencia humana, desde lo más íntimo, hasta lo social y lo político. Si la conclusión era que su desarrollo no era el deseable, me preguntaba hasta qué punto la humanidad sería capaz de reorientar la tecnología en una dirección más benéfica, eligiendo qué tipo de innovación queremos y bloqueando sus aplicaciones más perniciosas. Esta cuestión es más pertinente que nunca y recorrerá todo el libro.

¿El desarrollo tecnológico facilita entornos que nos hacen más libres y felices? ¿O debería preocuparnos el giro que está adoptando? Nos preguntaremos si, depositando toda nuestra confianza en la tecnología para resolver problemas individuales y colectivos, organizar nuestras vidas, acciones y pensamientos, así como nuestras relaciones con los demás y con nosotros mismos, nos sentimos más realizados o, por el contrario, entorpecemos la aspiración a la libertad y la felicidad que nos caracteriza como seres humanos. Si esta era nos incita a apoyarnos cada vez más en la máquina para llevar a cabo cualquier tarea o para aprehender la vida e interactuar con el mundo, ¿constituye esto la prolongación de lo que comúnmente llamamos progreso? ¿O acaso la naturaleza diferente de la innovación tecnológica actual encierra un riesgo de alienación que debería preocuparnos?

En 2018, el escándalo Cambridge Analytica reveló la explotación de decenas de millones de perfiles de usuarios de Facebook sin su consentimiento con el fin de construir un programa que influyera en grandes acontecimientos políticos como las elecciones presidenciales estadounidenses. Puede que estos hechos marcaran el comienzo de una era un poco más cautelosa ante la utopía tecnológica en la que estamos inmersos. Tuvieron el mérito de revelar el carácter híbrido de un importante actor tecnológico, el desprecio que muestra por los demás —por sus usuarios, pero también por los Estados— y en la distancia abismal entre su discurso benévolo, supuestamente motivado por el bien común, y sus actos, que demuestran que sus intereses comerciales prevalecen por encima de cualquier principio.

En efecto, la segunda mitad de la década de 2010 estuvo marcada por un incipiente abandono de la fascinación hacia ciertos aspectos de la innovación tecnológica. Antes se insistía en el carácter aparentemente emancipador y democrático de las redes sociales en las primaveras árabes; sin embargo, en la segunda mitad de la década, se levantó el velo acerca del papel de la tecnología y de las redes sociales en la fuerte polarización social y política de los ciudadanos o en la manipulación electoral. Ilustran bien esta bifurcación los dos últimos documentales de la directora Jehane Noujaim: The Square (2013) y The Great Hack (2019). Desde entonces, las primaveras árabes han quedado en gran parte enterradas, mientras que el control de la opinión y del pensamiento por grupos de poder económico y tecnológico sobre el resto, con el respaldo de los medios digitales, parece tener un largo futuro por delante.

No obstante, estaríamos ante una paradoja similar a la que presenta el cambio climático, con el que estableceremos numerosos paralelismos. La concienciación sobre los efectos nocivos de la contaminación no ha implicado un cambio a la altura del reto existencial al que nos enfrentamos. La percepción de lo insostenible que resulta nuestro modelo de producción y de consumo no impide que perpetuemos un inviable modo de vida a costa de los limitados recursos del planeta.

En el caso de la tecnología, cuando en 2018 el mundo “descubría” que aquel puñado de gigantes de la industria tecnológica actuaba por encima de la ley y tras escuchar cómo una comisión del Parlamento británico calificaba oficialmente a Facebook de “gángster digital”3, la empresa batía récords financieros con un beneficio neto de 22.000 millones de dólares —un aumento de cerca del 40% con respecto al año anterior—; y Nick Clegg, ex vice primer ministro inglés, se convertía en vicepresidente de Asuntos Globales de la empresa.

Los escándalos ligados a los excesos de Facebook y de otros mastodontes tecnológicos presentan el riesgo de aparecer como accidentes o lamentables casos aislados, cuando en realidad son consecuencias lógicas de su modus operandi y del poder que se les ha conferido para establecer las reglas que rigen el mundo digital —y cada vez más, el mundo en general—. La omnipotencia de estas entidades constituye únicamente una dimensión —sin duda, importante— del vasto problema que abordaremos en este libro: el del desafío sin precedentes que la tecnología, tal y como se está desarrollando, representa para la humanidad. Estas páginas pretenden exponer hasta qué punto la amenaza es real.

1. ¿Un planteamiento tecnófobo?

En teoría, estamos todos dispuestos a reconocer que la máquina está hecha para el hombre, y no el hombre para la máquina; en la práctica, cualquier esfuerzo que tenga como objetivo controlar el desarrollo de la máquina aparece como una ofensa a la ciencia, es decir como una especie de blasfemia4.

George Orwell

Si discernimos las consecuencias —algunas graves y dañinas— de la tecnología tal y como se desarrolla en la actualidad, algunos podrían calificarlo de manera simplista como una iniciativa tecnófoba. No siempre resulta popular cuestionar la innovación tecnológica y hacer balance general de sus perspectivas. Podríamos reponer, tal y como afirma el periodista Pierre Thiesset, que “los verdaderos tecnófilos son los críticos de la tecnología. Son aquellos que cuestionan sus límites, que se preguntan a partir de qué umbral se les escapa una técnica y cómo recuperar el control de los dispositivos que les rodean. Los que resisten a las tecnologías esclavizantes son los que desean dominar herramientas pensadas para el ser humano”.

En su relevante artículo “Por qué la tecnología no nos necesita”, publicado en la revista Wired en el año 20005, Bill Joy, cofundador y jefe científico de Sun Microsystems, expuso de una forma rigurosa y valiente los numerosos peligros que ya entonces asociaba al giro tecnológico. Y aunque pudiéramos pensar que su riquísimo pedigrí en Silicon Valley, tras una brillante etapa como investigador y una infancia de perfecto geek, le habría protegido de posibles acusaciones de tecnofobia primaria, el autor dedicó once densos párrafos a justificar que no era un ludita. Sorprende ver cómo una persona, en principio tan alejada de toda sospecha de oscurantismo tecnófobo, se siente en la obligación de defenderse de posibles recriminaciones de esta índole.

Durante los veinte años que nos separan de la publicación del artículo de Bill Joy, han terminado por admitirse múltiples aspectos nefastos de ciertas tecnologías actuales; pero al mismo tiempo, un puñado de actores ha difundido con fuerza una ideología según la cual el desarrollo tecnológico nos conduciría de forma inevitable hacia un mundo mejor, por lo que todo cuestionamiento sería, por definición, peligroso y “no constructivo”.

Esta sensación de profundo malestar por el giro tecnológico en los últimos años la comparten numerosas figuras destacadas del propio sector tecnocientífico. Ya no dudan en cuestionar en público la finalidad de las tecnologías digitales y los valores que conllevan, bien porque su utilización tiene un impacto preocupante en el plano psicológico, en el político, porque están bajo el control de entidades cuyo poder no tiene límite o, en síntesis, porque representan un peligro cada vez más evidente para el futuro de la humanidad. Es el caso de Tim Berners-Lee, creador del World Wide Web y extremadamente preocupado por el uso incontrolado de datos en el desarrollo del big data; también de los fundadores de Instagram y de WhatsApp —empresas compradas por Facebook—, que más tarde se irían dando un portazo de su nueva empresa matriz; de Jaron Lanier, otro pionero de la informática que lucha contra las consecuencias liberticidas de ciertos desarrollos digitales fundamentales; o del célebre astrofísico Stephen Hawking, cuando prevenía de que los progresos en inteligencia artificial (IA) presentarían un riesgo sin precedentes para la especie humana. Hoy en día, la principal actitud oscurantista consiste en rechazar cualquier crítica radical de la tecnología con un único argumento: que esta es tecnófoba.

No dedicaremos espacio a las innumerables vidas que la tecnología ha contribuido a salvar o mejorar. Muchos de sus beneficios son evidentes y han sido elogiados con generosidad. En la oposición entre los análisis críticos y la apología de la adopción tecnológica indiscriminada, la segunda sale muy bien parada. La ideología solucionista que defiende que todo problema humano puede ser resuelto mediante la tecnología es alimentada por la misma industria que ofrece las supuestas soluciones y que reinvierte una parte de sus ganancias sin precedentes en actividades de lobbying y legitimación. Lo hacen a menudo en contradicción con las conclusiones científicas que tenemos a nuestra disposición. Tal y como apunta el investigador en neurociencias Michel Desmurget: “En todos estos dominios, la industria dedica medios completamente exorbitantes a sesgar, falsificar y distorsionar las realidades científicas mejor establecidas que pueden perturbarles. Ahí reside, a mi parecer, una verdadera dificultad para nuestras democracias, ya que la gente no puede actuar con conocimiento de causa si no ha sido correcta y honestamente informada”6. Parece legítimo que el esfuerzo intelectual contribuya a inclinar la balanza en el sentido contrario.

La IA en especial se presenta como la panacea que resolverá rompecabezas hasta ahora irresolubles, alcanzando así objetivos humanistas, dirigidos al bienestar colectivo, ya sea en términos de avances médicos, de lucha contra el cambio climático o en lacras como la pobreza. Pero la realidad es que el impacto social de un producto o servicio basado en la IA, o las cuestiones éticas que plantean su desarrollo, rara vez son cuestiones prioritarias. Detrás de la inversión en IA observamos más a menudo un afán de dominación en el ámbito económico, en el geopolítico o en el refuerzo del control de la ciudadanía.

Además, cabe insistir en que lo que está bajo escrutinio aquí no es tanto la tecnología en sí misma como (1) el principal rumbo que ha tomado su desarrollo —cuyas aplicaciones se extienden a casi todos los campos de la actividad humana— y (2) nuestra capacidad de canalizar el uso de la tecnología de tal manera que sus aplicaciones se limiten a fines benéficos antes que a los perjudiciales. Una de las tesis que defenderemos sostiene que estamos pagando un precio extremadamente elevado —que solemos subestimar seriamente— en relación con los beneficios obtenidos y esperados, siendo estos inciertos y a menudo mal orientados. También defenderemos que a menudo resulta complejo restringir la aplicación de determinadas tecnologías a fines benéficos.

En definitiva, lejos de tratarse de tecnofobia, aspiramos más bien a situarnos del lado de la tecnocrítica, cuyo enfoque deconstruye el progreso técnico como ideología. Lo haremos además desde una perspectiva radical en su sentido etimológico, una crítica “que pretende llegar hasta la raíz de los problemas”.

2. Evidentemente, uno siempre pone algo
de sí mismo en un libro…

Por mucha objetividad a la que aspire un análisis, siempre es útil comprender los condicionantes del punto de vista desde el que observamos el mundo. Me resulta complicado competir con el currículum tecnológico de Bill Joy si tuviera que defenderme contra acusaciones de tecnofobia, pero puedo alegar que mi segunda experiencia laboral, tras la magia, me llevó a convertirme en un emprendedor del sector digital.

Lejos de los éxitos planetarios de los gigantes tecnológicos, sí he llegado a fundar webs que hoy contabilizan millones de usuarios. Estaba —y sigo estando— convencido de que era posible utilizar la tecnología para unir a las personas y encontrar soluciones que contribuyeran con modestia a la resolución de problemas ambientales y sociales. La primera empresa que ideé cuando tenía 24 años, Amovens, era en sus inicios una plataforma que permitía compartir trayectos en coche. Después se extendió a otras actividades complementarias como el alquiler de automóviles entre particulares a través de Internet y el leasing colaborativo. En 2014, la empresa fue adquirida por el líder del sector en Escandinavia, GoMore, en la que sigo implicado. Desde el principio y hasta ahora, el objetivo es facilitar que la gente use la tecnología para coordinarse, compartiendo sus coches y racionalizando el uso del vehículo individual, reduciendo su huella ambiental. Además de Amovens, he fundado y apoyado la creación de otras empresas en el sector digital y fuera de él.

Aunque la motivación parcialmente altruista de este recorrido fue —así lo espero— algo más sincera que el famoso “Save the World” de todas las start-ups de Silicon Valley, esto no evitó que tuviese que adaptarme a la realidad del mundo digital contemporáneo. Tuve que recurrir a la publicidad en línea, gestionar bases de datos de usuarios y trabajar directamente con Facebook y Google, haciendo uso de la información conductual que proporcionaban sobre los usuarios. Estas tareas me ofrecieron una perspectiva del funcionamiento de aquellas empresas muy distinta de la del usuario final. He podido observar cómo la lógica vigente en el mundo empresarial y digital tiene el poder de poner a prueba los más altos ideales en favor de imperativos de crecimiento, eficacia o, simplemente, en pagar a los empleados a final de mes.

Para terminar de indagar en las circunstancias personales que podrían orientar mi análisis, como joven padre, tengo la impresión de que los niños ofrecen infinidad de ejemplos que nos remiten a lo que podría ser la humanidad de mañana. Una humanidad juzgada tan inferior a la máquina cuando la evaluamos en términos de eficiencia; una humanidad que debería batallar para que la máquina no lo haga todo por ella —como batallan los niños frente a los adultos— y para encontrar su sitio, atribuyendo un valor intrínseco a la búsqueda de realización y autonomía.

Si la tecnología tiene por meta librarnos de todo obstáculo, incertidumbre y dificultad al precio de lo que consideramos constitutivo del ser humano —nuestra libertad, nuestra capacidad de hacer elecciones más o menos acertadas y autónomas, nuestra aspiración a mantener relaciones de todo tipo con otros seres humanos, a experimentar sentimientos profundos, a equivocarnos y a aprender de ello—, ¿querríamos imponerle algunos límites? ¿Por qué dejarnos arrastrar y ceder a la tecnología la carga de una parte cada vez más relevante de nuestra existencia?

3. Una respuesta a la ideología solucionista
y la supuesta neutralidad de la técnica

Podríamos resumir el espíritu de nuestra época diciendo que consiste en la promesa de un mundo “más inteligente”. Esta búsqueda de un mundo inteligente que sería resultado de buscar y multiplicar lo smart —desde teléfonos a frigoríficos inteligentes o smart cities— tiene como principal propósito la búsqueda de confort, de previsibilidad, de seguridad y de entretenimiento. Aumentando nuestra capacidad de predicción y aplicándola en todos los aspectos de nuestra vida, el big data promete iluminarnos, hasta el punto de transmitirnos “la verdad”. Cuestionarla sería renunciar a la razón. Si la máquina se equivocase, sería por falta de perfeccionamiento, mera cuestión de tiempo.

Bajo el disfraz de una base puramente racional, este proyecto solucionista se basa en gran parte en la fe —en una confianza que no tiene otra base que la de querer creer en la inevitabilidad de los beneficios de la tecnificación de todo—. Trataremos de deconstruir este relato desenmascarando la visión del mundo muy particular de la que dimana. Algunos de sus rasgos principales incluyen altas dosis de positividad acrítica o la idea de que la tecnología es neutra, ni buena ni mala, y que correspondería al ser humano orientarla bien. Steve Jobs afirmaba que “los ordenadores son las bicicletas del pensamiento”, como si utilizando un ordenador no hiciésemos más que multiplicar nuestras capacidades mentales y cognitivas, sin más condiciones ni peajes. Pero ¿no resulta ilusorio considerar la tecnología como una herramienta que controlamos por completo y cuyas consecuencias dependerían exclusivamente de la determinación del individuo? En realidad, “los objetos producidos por la técnica no son neutros, porque crean un marco que termina condicionando los estilos de vida y orientan las posibilidades sociales en la línea de los intereses de determinados grupos de poder. Algunas elecciones que parecen puramente instrumentales son, en realidad, elecciones sobre el tipo de vida social que queremos desarrollar”7. Defenderemos que nuestras elecciones tecnológicas no son nunca banales ya que siempre conllevan implicaciones psicológicas, sociales, políticas o económicas, aunque no las percibamos de inmediato.

Afirmar esto, y tener por objetivo desvelar las posibles lógicas de dominación o de alienación que una tecnología puede ocultar, no implica una dialéctica marxista, ni tampoco implica que exista una conspiración que haga de estas lógicas algo necesariamente premeditado. No obstante, en capítulos como el séptimo u el octavo podremos observar de qué manera un grupo muy reducido de individuos lleva a cabo una estrategia totalmente consciente con la finalidad de orientar la adopción de ciertas tecnologías en su beneficio.

4. ¿Qué sentido tiene pensar en el cambio?

En el debate público comienzan a cuestionarse las consecuencias del desarrollo y de la adopción de ciertas tecnologías, pero son críticas insignificantes si las comparamos con su potencial impacto en la humanidad. Aunque algunos temas acaparan atención mediática, reciben un tratamiento superficial. Tal y como explica Tristan Harris, no existen apenas debates de fondo sobre la “ética de la persuasión”, que analizaremos específicamente en el tercer capítulo y que es la principal raíz del problema de control a gran escala de las opiniones a través de la tecnología. Esta vaguedad en la crítica solo puede dar lugar a medidas individuales o colectivas igual de superficiales. No se observan apenas esfuerzos para pensar de forma radicalmente transversal en el actual cambio tecnológico y en el sitio que el ser humano ocupa en esta revolución.

Por esto vale la pena cuestionar brevemente el sentido y el papel actuales que deberían desempeñar la filosofía y la ética. El filósofo belga Mark Hunyadi subraya el carácter cada vez más fragmentado de la ética actual8. Las “éticas”, que florecen desde hace años en los negocios, el deporte, la robótica o en tantos otros ámbitos, adolecen de una crítica sistémica de amplio alcance y en la práctica desactivan eventuales y posteriores críticas al sistema. Los “comités de ética”, como el creado por Google tras la adquisición de la empresa de IA Deepmind, legitiman las actividades de las empresas, pero difícilmente impulsará reflexiones capaces de cuestionar las innovaciones de grandes corporaciones como Google.

El verdadero papel que debería desempeñar la ética consiste en cuestionarnos sobre nuestros valores y nuestra idea de lo deseable. La ética es un imperativo que debe servirnos como brújula individual y colectiva para determinar hacia dónde nos gustaría ir y el tipo de sociedad en la que desearíamos vivir; para “entender por qué la innovación nos lleva hacia un modo de vida que no está claro que queramos”9. La reflexión ética debe tener en cuenta las posibles incidencias negativas o irreversibles que para el futuro tienen nuestras elecciones actuales.

Este ejercicio no debería ser una tarea reservada tan solo a los centros académicos ni, precisamente, a los comités de ética. Dado que la tecnología moldea lo que Mark Hunyadi llama nuestros “modos de vida” —entendido como un conjunto de expectativas de comportamiento que se imponen de forma duradera sobre los actores del sistema—, resulta fundamental que la base más amplia posible de la población sea consciente de las implicaciones que hay en la adopción de una u otra tecnología, para que pueda determinarse de la manera más democrática posible si se considera deseable y a la hora de diseñar políticas públicas.

Sería ilusorio pensar que estas decisiones son solo individuales, pues del mismo modo que existe un tabaquismo pasivo, existe un ambiente tecnicista que afecta a toda la población, independiente de las decisiones de cada uno —Facebook recopila no solo datos de sus usuarios sino también de sus no-usuarios—. Resulta imperativo que el ciudadano se pregunte cuál es el sitio que la tecnología debe ocupar en nuestra sociedad y no aceptar cualquier innovación como algo dado que debamos aceptar necesariamente. Se trata de una ardua tarea, porque en el ámbito tecnológico todo está concebido para impedir o dificultar que ejerzamos una reflexión ética sobre nuestras decisiones.

Ese bienestar aparente no favorece precisamente la concienciación sobre cuestiones existenciales e irreversibles. Algunas facetas del problema son más reconocibles —como la pérdida de la atención y de la capacidad de concentración—. En contra, otros aspectos vitales como la limitación de nuestra libertad permanecen en el plano de las ideas, más abstractos y relativos, y no se perciben tan fácilmente. Tal y como afirma el filósofo francés Bernard Stiegler, cada vez nos resulta más difícil comprender las lógicas del mundo en el que vivimos. Tomamos más decisiones condicionadas por factores que no están al alcance de nuestro entendimiento y llegamos a albergar la impresión de que el mundo en el que vivimos nos supera.

5. ¿Cómo nuestra idea del ser humano incide
en la reflexión sobre la tecnología?

Como liberal, defiendo la idea de un individuo autónomo, libre en sus decisiones y responsable de sus actos, y por lo tanto capaz de ejercer su libre albedrío10.

Gaspard Koenig

El liberalismo se basa en la creencia en la libertad humana. A diferencia de las ratas y de los monos, se supone a los seres humanos un “libre albedrío”. Desafortunadamente, el “libre albedrío” no es una realidad científica. Es un mito heredado de la teología cristiana11.

Yuval Noah Harari

La potencia y la sofisticación cada vez más elevadas de las máquinas parecen incrementar su capacidad de predecir e influir en el comportamiento humano y, a la vez, de rivalizar con habilidades hasta ahora exclusivamente humanas. Como consecuencia, la evolución tecnológica incide de lleno en cuestiones filosóficas tan fundamentales como la de la libertad y de la especificidad del ser humano. También presenta un reto para las doctrinas que se apoyan en la noción de libertad del individuo y de la sociedad.

¿Qué parte de libertad y de determinación
hay en el hombre?

Uno de los propósitos de este libro consiste en analizar en qué medida la innovación tecnológica, especialmente la digital, tiende a hacernos más o menos libres. El historiador israelí Yuval Noah Harari sostiene que los conocimientos en neurociencia y en otras disciplinas evidencian que el hombre no es en absoluto sujeto de sus propias decisiones y de sus actos. Las ciencias sociales, por una parte, y las ciencias de la vida por otra, insisten en todos los factores que actúan sobre el comportamiento humano, de los que este es poco o nada consciente y sobre los que no tiene el control.

Al mismo tiempo, pensadores como Harari son los mismos que deploran distintas consecuencias liberticidas de la tecnología, como la posibilidad de que la tecnología digital permita a terceras personas hackear nuestro cerebro, en especial con fines electorales, anulando nuestra libertad12. Él plantea que reconocer que somos en buena medida animales determinados es la condición previa indispensable para defender con más fuerza la recuperación del control de nuestras decisiones.

Pero si el hombre, por naturaleza, careciese de libre albedrío, si estuviera totalmente determinado, ¿tendría sentido preocuparnos por la pérdida de nuestra libertad? En esa hipótesis, la tecnología solo añadiría una capa extra de determinismo y la noción de libertad sería ilusoria. Resulta ingenuo pensar que el libre albedrío constituye una facultad absoluta, pero identificar los condicionantes exteriores a nuestra conciencia, en la línea que apuntaba Harari, constituye una de las etapas para pensar y actuar. La libertad —que difícilmente es total— concede unos márgenes, y puede ganarse, perderse o recuperarse. Por esta razón nos interesa entender cómo los recursos cada vez más sofisticados de la tecnología digital y de la neurociencia pueden condicionar nuestro pensamiento.

¿Tiene el ser humano un lugar único entre los vivos?

La cuestión de la especificidad del ser humano dentro del mundo, ligada a la idea del libre albedrío, se apoya también en una creencia metafísica o religiosa. ¿No somos más que un animal entre otros, un organismo convertido en amo del mundo por pura casualidad —tal y como sostiene Harari en Sapiens—? ¿O debemos considerarnos seres especiales, dotados de una conciencia y capaces de pensar de forma autónoma? A medida que la IA y los robots parecen capaces de mejorar o reemplazar las habilidades humanas, desafían la idea de la centralidad del ser humano en el mundo. Por otro lado, la tentación transhumanista, cuyo propósito es que, en una o dos generaciones —sorteando un arco evolutivo de miles de generaciones—, hagamos bricolaje con nuestro cuerpo y nuestro cerebro a través de biotecnologías, también pone en entredicho la idea de la integridad del ser humano.

Las tesis defendidas en este libro son favorables a la idea de que el ser humano tiene una naturaleza singular, que debemos intentar preservar. Implica una cierta dosis de modestia respecto a la naturaleza de la que somos fruto, independientemente de concepciones espiritualistas o religiosas; también es una invitación a la prudencia ante la posibilidad de jugar con nuestra propia naturaleza, fruto de una larga y compleja evolución. Subyace la idea de una frontera ontológica insuperable entre el humano y la máquina, sean cuales sean sus habilidades.

El liberalismo, a prueba del contexto tecnológico

El contexto tecnológico sin duda pondrá a prueba las libertades de cada uno de nosotros, y también la libertad en un sentido generacional. En consecuencia, debería matizarse la visión liberal que, en un sentido amplio, defiende como una de las principales aspiraciones políticas la maximización de la libertad de los ciudadanos.

Si estableciésemos con un significativo grado de probabilidad que un tipo de innovación tecnológica, aparentemente limitada a una cuestión de elección personal, podría llevarnos a una forma de sumisión o degradación colectiva y generalizada, ¿sería legítimo prohibir su uso en la esfera privada, del mismo modo que hoy prohibimos algunos pesticidas o las drogas?

Del mismo modo, si la tecnología nos empodera de tal manera que la acción de un único individuo o de un grupo repercute negativamente en el resto de la humanidad —hasta su destrucción—, ¿sería inevitable que las sociedades liberales se vieran obligadas a aceptar un alto grado de vigilancia —de una forma comparable a la crisis de la COVID-19—?

A medida que se desarrollan herramientas de vigilancia cada vez más intrusivas, la ética y el pensamiento liberal deberán acotar lo que es susceptible de vigilancia y lo que debe quedar fuera del campo de control de los Estados y otras entidades.

6. La ambición de este libro

En la relación entre humanidad y tecnología no estamos ante una especie de fenómeno meteorológico al que no tendríamos más remedio que someternos. Si pensáramos que el cambio tecnológico es totalmente independiente de la voluntad de las personas y que no existe margen de maniobra posible, escribir este libro no tendría sentido. Así, el lugar reservado para el optimismo en estas páginas es tan moderado como necesario: lo que determinará su grado será, por encima de todo, nuestra propia capacidad para alentar el pensamiento crítico frente al reto tecnológico, a pesar de los intentos por anestesiarlo.

En el primer capítulo, “Enganchados”, analizaremos la naturaleza de la hiperconexión y presentaremos la teoría de los tres estados de la tecnología —sólida, líquida y gaseosa—, ilustrando de qué manera la tecnología digital se hace cada vez más invasiva y genera una dependencia que minimiza el sistema crítico del ser humano. En el segundo capítulo, “Modificados”, repasaremos cinco maneras en las que la tecnología digital ha impactado en nuestro comportamiento y las relaciones sociales. Materia del tercer capítulo, “Encerrados”, serán los mecanismos de influencia y de manipulación presentes en el entorno digital. Otra forma en la que nuestra libertad se ve afectada en el entorno tecnológico tiene que ver con la infraestructura de vigilancia que los Estados y las entidades privadas utilizan para controlar nuestros comportamientos, y a ello dedicaremos el cuarto capítulo, “Vigilados”. En el siguiente, “Desorientados”, nos preguntaremos por qué la búsqueda de la verdad se ve dificultada en un entorno tan propicio para las fake news. El sexto capítulo, “Obsoletos”, propone una reflexión sobre la finalidad que se esconde detrás de la optimización ilimitada hacia la que nos empuja la tecnología, cuestionando cuál es el lugar del ser humano. En el séptimo capítulo, “Adoctrinados”, haremos una incursión en la ideología solucionista que emana de los principales centros de producción tecnológica. “Zuckerbizados”, el octavo capítulo, aborda la cuestión de la actual oligarquía digital: recordaremos cómo hemos llegado a un sistema dominado a nivel global por tan pocas empresas gobernadas por un puñado de individuos. En el penúltimo capítulo, “Eliminados”, anticiparemos varios escenarios realistas en los que la utilización malevolente de la tecnología digital, la posible pérdida de control o una dependencia extrema, podrían causar la destrucción de la civilización humana.

El último capítulo, “Retomar el control”, lo reservamos para formular posibles soluciones, en las que deberíamos trabajar individual y colectivamente, enfrentándonos al enorme reto que supone el sistema tecnológico para la supervivencia y libertad de la humanidad.

Trataremos de resaltar la relación sistémica entre los diversos problemas que abordamos en cada epígrafe, así como las consecuencias a veces inesperadas que algunas de nuestras elecciones pueden producir sobre nuestro futuro a corto y largo plazo.

La concienciación que se pretende también implica transmitir al lector que nos encontramos en un punto de inflexión histórico en el que todavía podemos esperar cierto margen de maniobra para forjar parte de nuestro futuro.

Jonathan Haidt, profesor de Psicología Social y de Ética en la Universidad de Nueva York, cuenta un viejo chiste para describir el momento en el que podríamos encontrarnos: alguien llama por teléfono a un optimista que se ha caído del tejado del Empire State Building para preguntarle cómo va. “Hasta ahora, todo bien”, responde el optimista mientras está cayendo13. Es muy probable que, hasta ahora, como afirma Haidt, los miles de millones de pequeños efectos positivos que resultan de la mayor interconexión humana a través de la tecnología sigan inclinando la balanza hacia el lado positivo en su conjunto; ni los efectos más nefastos del cambio climático ni los ligados al desarrollo tecnológico son todavía realmente percibidos por el ser humano.

Encontrar al niño indonesio que podría
hacernos reaccionar

A pesar de los informes cada vez más alarmantes del Grupo Intergubernamental de Expertos sobre la Evolución del Clima (GIEC), que nos recuerdan que chocaremos directamente contra el muro del cambio climático, a los gobiernos les cuesta mucho tomar las medidas necesarias para combatir un desastre cada vez más próximo. Nuestros esfuerzos individuales también son muy escasos si los comparamos con la gravedad de la situación. Nuestra falta de respuesta individual y colectiva se explica en parte por una paradoja: ya estamos (casi) todos convencidos de la gravedad del calentamiento global, pero no persuadidos. Nuestro terreno racional sostiene la causa, pero no nuestro terreno emocional profundo. Para la mayoría de nosotros, en materia climática, nada nos ha afectado todavía personalmente y de manera insoportable, y por desgracia, parece que la persuasión emocional es más efectiva que la convicción racional a la hora de movilizarnos.

En cuanto al reto digital, estamos lejos de consensuar que nos encontramos ante un problema de una dimensión, como mínimo, tan grave como el medioambiental —en este libro nos esforzaremos por convencer de que así es. Pero nuestro terreno emocional —ese que podría impulsarnos a tomar conciencia de la amenaza— permanece aún más virgen, ya que son relativamente pocas —de momento— las personas que se han visto concernidas y han sentido en lo más profundo un peligro o una injusticia.

Durante los años en que Edward Snowden colaboraba como consultor en el desarrollo de un sistema de vigilancia global para la Agencia de Seguridad Nacional —NSA—, fue testigo directo de la deriva de la agencia respecto a la privacidad e intimidad de los ciudadanos. Él mismo participó en la construcción de una infraestructura que permitía escrutar prácticamente toda actividad humana a escala mundial. Snowden era consciente del peligro de estas prácticas, y sabía que no cumplían con los estatutos de su propia agencia, ni con ninguna otra norma ética. Aunque conocía y participaba de este hecho, necesitó un detonante emocional que le llevara a dar el siguiente paso y convertirse en el denunciante más importante del planeta.

Un día, mientras trabajaba, Snowden visualizó en una pantalla, en directo, a un niño indonesio sentado en las rodillas de su padre, jugando a un juego en su ordenador, mientras su propia cámara les grababa sin razón aparente. Ese momento de intimidad familiar que un padre y un hijo comparten arrastró a Snowden a su propia infancia. Se identificó con aquel niño. Captando ese instante, en apariencia anodino, que debería ser inviolable, Snowden sintió un inmenso rechazo y desencadenó todos los acontecimientos que siguieron, que ya conocemos y que lo llevaron a huir, a exiliarse y a renunciar a todo lo que tenía para denunciar un espantoso sistema que busca tener a la humanidad bajo control.

Seguramente como a Snowden, a todos nos hacen falta esos momentos o esas imágenes que nos llevan a sentir en lo más profundo de nuestro ser un miedo intenso, una injusticia flagrante o el peligro que podría correr un ser vulnerable, para apropiarnos de lo que nuestra razón tal vez nos había advertido ya. El problema es que estas imágenes suelen aparecer cuando ya es demasiado tarde, cuando comprendemos que deberíamos haber actuado antes. Solo cabe esperar que seamos capaces de reaccionar combinando una serie de evidencias y de argumentos racionales, como los que tratamos de ofrecer en estas páginas, junto con algún acontecimiento que verdaderamente nos afecte y que, puestos a pedir, no resulte irreversible.

Capítulo 1

Enganchados. La desaparición del botón off
y el desafío de poner distancia

Cuestiones clave:

¿Es correcto hablar de “dependencia” digital?

¿Qué intereses económicos influyen en esta carrera por nuestra atención?

¿Por qué es una prioridad salvaguardar nuestra capacidad de desconexión si queremos preservar la integridad del ser humano?

El peligro no radica en la multiplicación de las máquinas, sino en el número en constante crecimiento de hombres que, desde la infancia, están acostumbrados a desear únicamente lo que les dan las máquinas14.

Georges Bernanos

Desde hace varias décadas, nuestra cotidianidad está poblada de aparatos electrónicos. Los teléfonos, televisores, walkmans, ordenadores o los módems tenían dos botones que eran el abecé de su uso y de la relación que manteníamos con ellos: on y off. Aunque en teoría estos sigan existiendo, han caído en desuso, y su erradicación ha sido programada. Esta evolución, y que nuestra existencia transcurra en un entorno que nos mantiene conectados de manera casi permanente, merece un detenido análisis, en la medida en que condicionan todos los demás problemas.

Si recordamos nuestra relación con la tecnología digital hace apenas unos años, el uso estaba mucho más circunscrito en el espacio y el tiempo, y el límite entre conexión y desconexión era mucho más definido y consciente. O bien estábamos ante el ordenador o no lo estábamos. En el primer caso, nos encontrábamos en la habitación donde se hallaba el ordenador, un despacho o un rincón de la sala de casa. En el segundo caso, estábamos desconectados, en la calle, en la mesa, en el transporte público o en el coche. Cualquier conexión empezaba al pulsar el botón on. La mayoría de los riesgos expuestos en este libro no existirían o no resultarían tan preocupantes en un entorno en el que fuera fácil, o incluso posible, apagar la tecnología que nos rodea o dejarla realmente en pausa.

Trataremos de ahondar en la rápida transición desde un contexto de conexiones delimitadas y voluntarias, hasta un entorno en que la conexión ya no es fruto de una decisión consciente. Intentaremos explicar sus causas profundas, identificando las razones por las que esa conexión perpetua vuelve al ser humano tan vulnerable, desarmándolo frente a todas las amenazas que le acechan.

1. Extensión y omnipresencia de la tecnología

La rapidísima extensión de la conectividad se manifiesta en su dimensión temporal, física, situacional y generacional, todas ellas relacionadas entre sí. La más comentada es el aumento del tiempo de conexión. Algunas cifras permiten hacerse una idea más exacta de su envergadura. En Estados Unidos, la media diaria de uso del smartphone era de 52 veces en el 2018 —una cifra que resume una realidad diversa, con una franja de la población para la cual este número queda corto—, con un aumento del 10% en solo un año, y unas 4 horas al día frente a la pantalla. En total, los estadounidenses consultaron su smartphone 14 mil millones de veces al día en el 2019, mientras que en el 2015 solo lo miraron 8 mil millones de veces. De hecho, la mitad reconocen consultarlo en plena noche15. No en vano, la conexión intenta superar cualquier límite, incluido el del sueño —que, según Reed Hastings, el presidente de Netflix, es uno de los principales enemigos de su empresa—.

Los aparatos que consultamos siguen conectados cuando no los usamos y continúan registrando información mientras permanecen aparentemente inactivos. Los smartphones reenvían nuestra geolocalización a distintas empresas, empezando por el editor del sistema operativo del aparato, así como a numerosas aplicaciones, capaces de deducir nuestros desplazamientos y de predecir el medio de transporte que usamos. Así, Android, el sistema operativo de Google, utilizado por siete de cada ocho teléfonos móviles del mundo16, recibe unos 900 datos de muestra cada 24 horas procedentes de un teléfono apagado17.

La barrera generacional que parecía imponerse en el uso de la tecnología digital también está desapareciendo, dado que prácticamente no hay una edad mínima en materia de conexión. Según el neurocientífico Michel Desmurget, el tiempo de exposición a las pantallas es vertiginoso, alcanzando casi las 3 horas diarias a la edad de 2 años, las 5 horas a los 8 años y las 7 horas en la adolescencia18. Si nos referimos únicamente al tiempo que dedican al smartphone los niños de 0 a 8 años, este pasó de 5 a 15 minutos entre el 2011 y el 2013, llegando a los 48 minutos diarios en el 201719.

En cuanto a la ubicuidad de las conexiones, va de la mano de su crecimiento en el tiempo, ya que los espacios de desconexión están desapareciendo progresivamente, tanto bajo tierra —en el metro— como en el aire —en los aviones, donde el wifi se está desarrollando a toda velocidad— o en el coche —con vehículos conectados y tal vez, en un futuro próximo, autónomos, donde sus usuarios podrán entregarse por completo a los contenidos digitales—. Los objetos conectados empiezan a unir todas las parcelas del espacio privado a la red, incluso en nuestra ausencia, mientras que los primeros desarrollos de smart cities pretenden digitalizar todo lo que ocurre en el espacio público.

Conectarse a la red está dejando de ser algo voluntario. Mal que nos pese, nos obligan a estar enchufados a Internet de manera permanente.

Las tres edades de la tecnología digital

Con el fin de comprender la evolución de las tecnologías digitales y de nuestra relación con ellas, recurriremos a una analogía muy simple, procedente de la física. Al igual que los principales estados de la materia, lo digital parece presentarse bajo tres formas, cada una de las cuales ha predominado en periodos determinados.

1) La era de la tecnología digital sólida (1960/1980-2007)

En estado sólido, la materia no solo tiene volumen, sino también una forma propia. De ahí que sea tan fácil coger algo sólido con la mano, controlarlo, decidir acercarse o alejarse, tocarlo o no, dado que está circunscrito en el espacio y sus moléculas no pueden escaparse. Salvo que sea transparente o juegue con efectos ópticos, la materia en estado sólido siempre es visible. En cuanto a la ingestión de la materia, es decir, al hecho de comer, se trata de una actividad que practicamos varias veces al día, a menudo en lugares precisos, generalmente sentados a la mesa. Aunque a veces comamos de manera mecánica, la ingestión de sólidos suele implicar un esfuerzo consciente. Y si alguien nos pregunta qué hacemos mientras comemos, acostumbramos a contestar: “Estoy comiendo”, porque el hecho de comer define ese momento.

Los dispositivos que aparecieron al comienzo de la era digital y su uso recuerdan las características del estado sólido de la materia. Los aparatos digitales más habituales —cuyo paradigma es el ordenador personal— estaban situados en lugares precisos, enmarcando así su uso física y temporalmente, de modo que resultaba casi incompatible con otras actividades. Desde luego, se podía utilizar el ordenador todo el rato —igual que algunas personas se pasan el día picando—, pero la tecnología no era tan “adherente”. En cuanto dejabas de utilizarla, te separabas de ella físicamente.

2) La edad de la tecnología líquida (2007-2020)

En estado líquido, la materia tiene volumen, pero no una forma propia. Aunque sus moléculas sigan unidas, el líquido se escapa, inundando la superficie en la que se vierte. Al igual que un sólido, un líquido resulta visible y palpable —siempre que haya suficiente cantidad—; su presencia se reconoce de inmediato. Pero tiende a ser más invasivo que un sólido y, por tanto, si no se encuentra en el interior de un recipiente, cuesta más acercarse o alejarse de él, dado que se dispersa de manera natural. Por otro lado, acostumbramos a ingerir más a menudo líquidos que sólidos, ya que a lo largo del día nos asalta más veces la sed que el hambre. Se puede beber mientras se hacen otras actividades; no somos tan conscientes de beber como de comer. Si alguien nos pregunta qué hacemos mientras bebemos, raras veces contestamos “estoy bebiendo”, dado que el carácter puntual de ese acto no define por completo el momento. Y aunque podamos calmar la sed en cualquier momento y a veces hasta nos despertemos en plena noche para beber agua, no estamos absorbiendo líquidos permanentemente.

Un cubito de hielo no se derrite al instante, por supuesto, y el estado sólido y el líquido pueden encadenarse. Pero, en torno al 2007, se llevó a cabo un proceso de “fusión” con el fin de sumergirnos en la era de la tecnología líquida, cuyo símbolo es el smartphone. Pese a que los teléfonos con conexión a Internet habían aparecido unos años antes —en especial la BlackBerry, cuyo uso era fundamentalmente profesional—, y pese a que el índice de penetración del smartphone en la sociedad tardó unos años en volverse mayoritario, la aparición del primer iPhone marcó la inflexión entre la tecnología sólida y líquida. Así, entramos en una era en la que los aparatos se volvieron más invasivos y difíciles de limitar. Desde entonces, nuestro consumo digital se parece más al hecho de beber que de comer, dado que ha perdido las barreras físicas originales, y recurrimos a la tecnología digital a la vez que realizamos otras actividades.

3) El comienzo de la era de la tecnología gaseosa (2020-)

El gas, carente de volumen y de forma propia, remite etimológicamente al caos. En estado gaseoso, la materia se presenta bajo su forma más difusa y tiende a ocupar todo el espacio del que dispone. En general, es más difícil de percibir que en los otros estados, tanto a través de la vista como del tacto. Y resulta imposible de controlar, salvo con instrumentos especiales. Los humanos respiramos casi siempre de manera inconsciente, razón por la cual no podemos decidir si queremos respirar un gas presente en el aire.

En torno al 2020 empieza el proceso de vaporización de la tecnología, basado en la miniaturización de los aparatos conectados, en su penetración difícilmente detectable —que permite que un espacio esté conectado sin que lo sepamos— y en la multiplicación de la velocidad de conexión. Como en cualquier prehistoria, dentro de unos años las muestras actuales de la tecnología de la era gaseosa parecerán grotescamente líquidas, ya que todavía se pueden ver; pero los relojes, las gafas, las joyas y la ropa con conexión a Internet que ya se encuentran en el mercado anuncian la era de la tecnología portátil o “llevable”. A continuación, podría desarrollarse la tecnología implantada en el cuerpo —implantable technology—, con lentillas de realidad aumentada, periféricos en los oídos o nanorrobots que podrían circular por nuestro cuerpo, controlando las constantes vitales y aumentando las capacidades físicas y mentales. Un símbolo del inicio de la edad de la tecnología gaseosa podrían ser los altavoces inteligentes que conectan a Internet una habitación o una casa sin que nos demos cuenta, y que en el 2021 superarán en número a las tabletas20.

2020 es el comienzo de la transición de la tecnología líquida a la tecnología gaseosa, cuando se ha desplegado la red 5G, el estándar que promete velocidades de conexión cien veces más rápidas que el 4G, base del internet of everything, que permite que los dispositivos se comuniquen entre sí, y contribuye al auge de las “ciudades inteligentes” o de los entornos domotizados.

Los tres estados son modelos prototípicos. Existen estados intermedios, del mismo modo que la masa oscila entre el estado sólido y el líquido. Se podría argumentar que hoy nos encontramos en las tres edades a la vez, en medio de un periodo de transición. Desde esta perspectiva, el smartphone deja de constituir el símbolo absoluto de la conexión para ser solo la principal herramienta para conectarnos a la red en un periodo histórico concreto. No en vano, se empieza hablar de una futura era “post-smartphone”, muy parecida a lo que denominamos la edad de la tecnología gaseosa.

2. La minuciosa construcción
de nuestra dependencia

“Me llamo Kevin y tengo un problema con el teléfono”, escribió Kevin Roose, el especialista en tecnología de The New York Times, parafraseando la famosa fórmula de presentación de Alcohólicos Anónimos. “Y si eres un poco como yo (las estadísticas sugieren que probablemente lo eres al menos en lo que se refiere al uso del smartphone), tú también tienes un problema”21. Mucha gente se da cuenta de que ellos o sus familiares dedican demasiado tiempo enfrascados en su smartphone. Pero ¿realmente se puede hablar de adicción a la tecnología digital, incluso de epidemia, como en el caso del alcohol o las drogas? Sea cual sea la naturaleza exacta de ese sentimiento de dependencia, ¿qué causas podrían explicar el hecho de que gran parte de la población crea que su uso se les escapa y que ya no logra separarse de su smartphone sin experimentar una intensa carencia?

Según el psicólogo Adam Alter, de la Universidad de Nueva York, los criterios clásicos para detectar una adicción se pueden identificar en numerosos usuarios compulsivos de las aplicaciones móviles más populares: (1) la señal social, cuando el uso excesivo del teléfono interfiere en las relaciones con los demás; (2) la señal financiera, si acaba costando más dinero del que se pensaba; (3) la señal física, cuando la falta de atención puede causar accidentes o restar energía, y (4) la señal psicológica, ligada especialmente a la manera de enfrentarse al aburrimiento, ya que el smartphone tiende a ocupar cualquier instante libre de una persona. Según Alter, la principal diferencia entre la adicción digital y la adicción a ciertas sustancias radica en que la segunda solo afecta a una pequeñísima parte de la población, mientras que la adicción a las pantallas está mucho más extendida y es menos visible. La dependencia digital está más aceptada socialmente, y mientras que la adicción a las drogas o al alcohol se puede combatir cambiando de entorno, en el caso de la tecnología digital resulta mucho más difícil, dado que impregna demasiado nuestra rutina22.

Para saber si se trata de un problema de gran magnitud, habría que especificar qué parte de la población padece esos síntomas de manera muy severa. También parece necesario ahondar en la naturaleza de esa adicción: quizá se asemeje más a la de aquellos que se toman una copa de vino al día que a una droga dura. Y sobre todo nos interesa entender cuáles son las causas profundas del hecho de que los smartphones y sus aplicaciones, o la conexión a Internet en general, resulten tan adictivos. Para dilucidarlo, intentaremos analizar su concepción a la luz a la psicología, la economía y las neurociencias.

Productos destinados a captar nuestro tiempo
y retener nuestra atención

Después de haber frecuentado el Persuasive Technology Lab de la Universidad de Stanford (donde fue compañero de los fundadores de Instagram) y de haber trabajado en Google y Apple, Tristan Harris observó que las aplicaciones más populares y que concentran la mayor parte del tiempo dedicado al smartphone recurren a los siguientes mecanismos:

Las recompensas intermitentes variables: se sabe que una acción se vuelve muy adictiva si está recompensada de la manera más aleatoria posible, como en las tragaperras. De ahí que los fabricantes de esas máquinas intenten conectar una acción (por ejemplo, levantar una manecilla o pulsar un botón) con una recompensa variable (un premio o nada). En el caso de las aplicaciones digitales, la recompensa suele tomar la forma de un nuevo contenido o una nueva información.

El miedo a perderse algo, llamado más habitualmente FOMO (Fear of Missing Out). Se transmite la impresión de que es perjudicial separarse demasiado tiempo de una aplicación porque se puede pasar por alto información importante o recibirla demasiado tarde.

La aprobación social, es decir, sentir la necesidad de que los demás te validen constantemente, comenten tu vida, se fijen en ti, para que tus actos tengan sentido.

Las cadenas de reciprocidad, como: te invito, me aceptas, gracias, de nada, que en realidad están inducidas e intensificadas por las propias aplicaciones.

Entre los mecanismos empleados para llamar la atención del usuario en contra de su voluntad, Harris subraya el anzuelo de las notificaciones de toda clase de aplicaciones, incluidas las que se supone que sirven para meditar o las que facilitan que el internauta no deje de utilizarlas.

Aunque todos estos mecanismos funcionan en otras actividades, varios gurús de la industria digital los intensifican, sin ocultar apenas su modo de concebir sus servicios. Nir Eyal, que imparte Ingeniería del Comportamiento en la Universidad de Stanford, se muestra completamente transparente. Es autor del libro Hooked. How to Build Habit-Forming Products (Enganchado. Cómo construir productos y servicios exitosos que formen hábitos, 2020) y enseña a los emprendedores o los futuros responsables de producto de las grandes empresas de Silicon Valley a crear servicios poderosamente adictivos. Explica cómo concebir un producto de manera que reprima las zonas del cerebro asociadas al juicio y a la razón, al mismo tiempo que activa aquellas asociadas al deseo y a las ganas. Al preguntarle qué peligros podría entrañar para la ciudadanía que utiliza masivamente esos servicios, el especialista se escuda en que se trataría de una cuestión de carácter: en su opinión, las adicciones de cualquier tipo solo resultan peligrosas para el 1% de la población, y le corresponde a la gente —y no a los servicios— buscar las causas y las soluciones. Pese a la aparente contradicción entre su postura, por una parte, que traslada la responsabilidad de los productos —de sus creadores— a los usuarios, y sus enseñanzas, por otra, Eyal se muestra categórico en un punto: cualquier exposición prolongada o no supervisada a las pantallas por parte de los niños es peligrosa23. Más adelante retomaremos esta cuestión, que se ha vuelto evidente para la mayoría de directivos y diseñadores de dichas tecnologías.

Modelo económico e interés en generar dependencia

Si se recurre a menudo al concepto de “economía de la atención”, es porque numerosas empresas del ámbito digital tienen un modelo de negocio en el que los ingresos dependen directamente del tiempo que los usuarios dedican a su aplicación, dado que genera datos e ingresos en publicidad. Hoy en día el objetivo fundamental es maximizar el tiempo de consumo. De ahí que las empresas intenten crear una relación de dependencia, ya que compiten entre sí por la atención del usuario.

“Los líderes de las compañías de Internet se enfrentan a un imperativo tan interesante como moralmente cuestionable: o pervierten la neurociencia para ganar cuota de mercado y obtener grandes beneficios, o bien dejan que sus competidores lo hagan y dominen el mercado”24. Las estrategias de esas empresas se asemejan a las que emplea la industria del tabaco o del juego, pero con un público mucho más amplio. Cuando una start-up busca financiación entre fondos de capital riesgo, uno de los criterios que estos examinan con detalle es la llamada “adhesividad” (stickiness) del producto o del servicio. Sequoia Capital, uno de los mayores financiadores de empresas de Silicon Valley desde la década de 1970, utiliza este criterio para definir si un producto es “sano”, y considera que un producto es “adhesivo” cuando “el cliente está tan apegado a él que no logra dejarlo fácilmente”25.

Los más críticos con el papel de las empresas tecnológicas que establecen mecanismos de adicción son aquellos que han observado esa evolución desde dentro. Algunos incluso sienten aversión por los productos que contribuyeron a desarrollar. Sean Parker, uno de los cofundadores de Facebook es consciente de haber perjudicado a millones de personas y reconoce que utilizó esos mecanismos a sabiendas: “Abusas de la vulnerabilidad de la mente humana. Los creadores fuimos yo, Mark [Zuckerberg], Kevin Systrom de Instagram… Lo comprendíamos perfectamente y lo hicimos de todas formas”26. Chamath Palihapitiya, el antiguo vicepresidente de Facebook, que también ha hecho examen de conciencia, asegura estar muy arrepentido: “Creo que, en lo más profundo de nuestro ser, sabíamos que podía ocurrir algo malo”. “Las gratificaciones en bucle a base de dopamina que creamos están destruyendo la sociedad […] y les he prohibido a mis hijos que utilicen esa mierda”27.

Profundicemos ahora en los mecanismos de la fórmula que utilizan las empresas tech para enganchar a sus usuarios, hasta tal punto que Chris Anderson, antiguo director de la revista Wired, llegó a decir que “de una escala que va de los caramelos al crack, estamos más cerca del crack”.

Los mecanismos neurocientíficos
de la dependencia digital

Anticipar una recompensa —en la mayoría de los casos, nuevo contenido— contribuye a excitar las neuronas situadas en el área tegmental ventral del cerebro, desencadenando una secreción de dopamina que procura sensación de placer en el usuario y genera un circuito que se retroalimenta. La misma hormona causa dependencia respecto al tabaco, al juego o a las drogas, y contribuye a que la búsqueda de placer se vuelva obsesiva, un comportamiento que persigue la satisfacción de aquello que enseguida se percibe como una carencia —jugar en línea, seguir el precio de las acciones de la bolsa, consultar las últimas noticias o las novedades recién publicadas en las redes sociales—.

Según Ramsay Brown, cofundador de Dopamine Labs, no es azaroso que servicios como Facebook obliguen a los usuarios a hacer scroll en busca de una recompensa en forma de información. Está demostrado que así permanecen conectados más tiempo a la aplicación. Los neurocientíficos han descubierto que la imprevisibilidad del hecho de ganar una elevada suma de dinero —u otro tipo de recompensa— hace que el cerebro de los jugadores genere todavía más dopamina y los empuje a volver a jugar28.

Si los circuitos cerebrales que generan la adicción a la droga o a la nicotina son idénticos a aquellos que nos llevan a comprobar compulsivamente quién ha reaccionado a nuestro último post o a actualizar por enésima vez las noticias, parece que la “tecnología líquida” que nos rodea no favorece en absoluto que pongamos distancia para combatir la adicción. Del mismo modo que la prohibición del tabaco en ciertos lugares contribuye a reducir los momentos en que los fumadores pueden sacar el paquete de cigarrillos, la “tecnología sólida” favorecía que pusiéramos distancia y controlásemos los circuitos de búsqueda sin fin nunca satisfecha. Pero el smartphone que llevamos siempre encima alimenta esas obsesiones de manera mucho más intensa. Ya se distinguían comportamientos obsesivos con el ordenador, pero eran efectos secundarios que afectaban a una parte muy reducida de la sociedad y no del resultado de un diseño deliberado basado en la neurociencia.

El cortisol, una hormona esteroidea muy ligada al estrés y a la regulación del sueño, también parece desempeñar un papel clave. Se segrega en el córtex de la zona suprarrenal a partir del colesterol y resulta esencial para el equilibrio de la glucosa en la sangre y la liberación de azúcar procedente de las reservas del organismo, recursos muy necesarios para reaccionar con rapidez ante situaciones de riesgo físico. El cortisol también se segrega en respuesta a factores de estrés emocional, sin que resulte grave si ocurre de manera puntual; no obstante, varios estudios han demostrado que tanto el uso del smartphone como su mera proximidad o su presencia en el campo visual del usuario elevan los niveles de cortisol.

El caso es que, además de las cuatro horas de uso cotidiano de media en países como Estados Unidos, el smartphone casi siempre está al alcance de la mano. Como respuesta natural a la situación de estrés en la que se halla, el cuerpo nos invita a consultar el teléfono para encontrar un alivio y disipar ese estrés, según David Greenfield, profesor asociado de Psiquiatría de la Universidad de Connecticut. Eso nos apacigua a corto plazo, pero en realidad solo vuelve a aumentar el estrés, dado que acostumbramos a tropezar con alguna obligación o un nuevo factor de ansiedad que genera otro pico de cortisol. Si el ciclo continúa, uno acaba en un estado de hipervigilancia prolongado con niveles crónicamente elevados de cortisol, que a su vez están ligados a la depresión, la obesidad, la diabetes de tipo 2, la presión arterial elevada o la infertilidad. De hecho, “el estrés agrava todas las enfermedades crónicas, y los móviles tienen gran parte de la culpa”, explica Robert Lustig, profesor emérito de Endocrinología Pediátrica en la Universidad de California29.

Al fragilizar el córtex prefrontal —una parte del cerebro esencial para el buen funcionamiento de la toma de decisiones—, el cortisol, al igual que la dopamina, contribuye a desarmar el sistema crítico, dificultando poner distancia con los elementos que originan esos bucles y en los que acabamos encerrados.

Tierna edad y adicción

Siempre se puede debatir si el término adicción resulta apropiado para caracterizar la relación que se puede llegar a tener con la tecnología digital. Al igual que con otras sustancias que generan estados de dependencia, mucha gente consigue usar de manera razonable su dispositivo digital. Sin embargo, existen mecanismos para retener la atención de los usuarios durante el máximo tiempo posible, y los diseñadores de la tecnología los emplean deliberadamente con el propósito de que la gente esté enfrascada en su actividad digital. Aunque cualquiera puede acabar en el tipo de bucle que hemos descrito, existe un público especialmente vulnerable ante la espiral de la hiperconexión: los niños y los adolescentes.

Los expertos subrayan las dificultades que entraña estudiar la relación de los niños con la tecnología, dado que esta evoluciona a un ritmo vertiginoso. En este apartado solo queremos comprender las consecuencias directas de la inmersión de los niños en la “tecnología líquida”.

Si observamos la postura que adoptan los líderes tecnológicos con sus hijos, descubriremos que se afanan por establecer diques mucho más altos que la media para reducir al máximo su tiempo de conexión. Bill y Melinda Gates limitaban el tiempo de acceso a las pantallas de sus hijos, no les compraron un móvil hasta los 14 años y prohibieron los teléfonos en la mesa. Steve Jobs también fue especialmente drástico al impedir que sus hijos usaran el flamante iPad. Alex Constantinople es presidente de una gran agencia de marketing y comunicación que trabaja para Amazon, Facebook e Instagram, de manera que conoce perfectamente los entresijos del funcionamiento de los gigantes que rigen los instrumentos digitales. Tiene tajantemente prohibido el uso de cualquier dispositivo tecnológico a su hijo de 5 años, mientras que los mayores de 10 años solo pueden utilizarlos durante media hora diaria30.

De hecho, todos esos directivos establecen cuatro tipos de límites: (1) espaciales; en el dormitorio, por ejemplo, la tecnología está completamente prohibida; (2) temporales, marcando una gran diferencia entre la semana y el fin de semana y permitiendo que solo utilicen los dispositivos durante pocas decenas de minutos; (3) de edad, procurando que los más pequeños no tengan ningún acceso a los aparatos conectados o a una pantalla, y los menores de 10 años tengan un acceso muy limitado; y (4) por tipo de actividad en línea, limitando todavía más las actividades de puro consumo, como la reproducción de vídeos en YouTube o los videojuegos, y favoreciendo los usos más creativos. De hecho, esos gurús se muestran muy suspicaces ante las aplicaciones más populares entre los jóvenes: “No te fíes de la tecnología destinada a los niños: YouTube Kids, Instagram, Snapchat, etc., generan todos los hábitos que pueden resultar adictivos y nocivos”31, advierte Roger McNamee, uno de los primeros inversores de Facebook.

Estas prevenciones están extendidas entre gran parte de los directivos de Silicon Valley, muchos de los cuales envían a sus hijos a escuelas donde el uso de la tecnología está sujeto a reglas similares. En la exclusiva Waldorf School of the Peninsula, situada en medio de las sedes de las principales compañías tecnológicas, antes de los 12 años se prohíbe cualquier pantalla o dispositivo tecnológico. Los pequeños cuentan con juguetes de madera y pizarras de verdad. Pero, como sucede con la comida rápida, los niños de clases más desfavorecidas son más vulnerables. A pocos kilómetros de la escuela Waldorf, también en Silicon Valley, las escuelas públicas anuncian a bombo y platillo programas en los que cada alumno tiene su propia tableta desde la escuela primaria.

A grandes rasgos, los estudios demuestran que cuanto antes se inicia un niño en el uso de las nuevas tecnologías, más susceptible es de convertirse en un usuario compulsivo. “A partir de los 15 a 30 minutos diarios, los estudios revelan grandes efectos negativos en el desarrollo de la inteligencia, del lenguaje, de la atención o del riesgo de padecer obesidad”, explica el neurocientífico Michel Desmurget, que hace hincapié en el enorme impacto que sufren los niños en la alteración del sistema cerebral de recompensa, y que entraña riesgos de hiperactividad, reduciendo la capacidad de concentración.

En la actualidad, hay consenso en que la exposición de los niños menores de 3 años a cualquier tipo de pantalla causa retrasos en su desarrollo32, razón por la cual debería prohibirse por completo, tal y como recomiendan los programas de salud infantil de numerosos países. Con todo, la industria desarrolla “nuevos juegos supuestamente pedagógicos” que utilizan “los mismos argumentos desarrollados en su momento para promover los programas televisivos para bebés”33.

Algo que parece indiscutible es la relación entre el uso recreativo de lo digital y un bajo rendimiento escolar. Siempre será útil llevar a cabo más análisis que tengan en cuenta nuevos parámetros, como el tipo de actividad o de contenidos y las distintas consecuencias en cada franja de edad, pero algunos especialistas no dudan a la hora de considerarlo “un hecho científico incontestable”34. Los repentinos cambios que se observan en la generación que ha vivido desde la más tierna edad la transformación de la tecnología digital cada vez se asocian más a este último factor, aunque quepa debatir sus causas exactas. En el próximo capítulo analizaremos en profundidad algunas de esas rapidísimas modificaciones sociales y de conducta, pero de momento nos limitamos a constatar el paralelismo entre el carácter cada vez más “adherente” de los dispositivos digitales y el número de niños que desarrollan trastornos que pueden estar relacionados con su uso y la exposición a ellos. En Francia, por ejemplo, entre el 2010 y el 2018, los trastornos intelectuales y cognitivos aumentaron un 24%; los trastornos psíquicos, un 54%, y los trastornos del lenguaje, un 94%. No cabe concluir que estas estadísticas sean fruto únicamente de un mejor diagnóstico, dado que durante el mismo periodo otros tipos de trastornos no aumentaron35.

Habrá que esperar unos 15 años hasta que los niños de hoy sean adultos y podamos establecer evidencias científicas todavía más precisas sobre los riesgos a largo plazo y lo adictivo que es el uso frecuente de las tecnologías digitales desde la más tierna infancia, pero “¿queremos asumir el riesgo?”, se pregunta Pierre Laurent, que trabajó en Microsoft e Intel, y en la actualidad preside la junta directiva de la Waldorf School of the Peninsula36.

Aunque no se comenta tanto, la hiperconexión de los padres y sus consecuencias en el desarrollo de los bebés y los niños también preocupa a los profesionales de la infancia. Su carácter nocivo en la interacción entre los padres y los hijos al comienzo de su vida recuerda para algunos al “complejo de la madre muerta” acuñado por el psicoanalista André Green, que hace referencia al repliegue del niño y al anonadamiento de su personalidad y de su vivacidad por sus tentativas fallidas de animar al adulto que se encuentra frente a él, sumido en una depresión. Aferrado a su smartphone como si fuera un “flotador salvavidas” mientras convive con un bebé —y que le permite sortear el acaparamiento en ocasiones agobiante del crío—, el padre se pierde muchos momentos que podría compartir con su pequeño, quien acaba experimentando multitud de “abandonos”. Según las psicólogas Marylin Corcos y Brigitte Bergmann, esa pérfida interposición en el trato entre padres e hijos puede desconectar sutilmente a los vástagos de sus progenitores37.

3. Salvemos el botón off

Estoy aprendiendo que para funcionar de manera eficaz y feliz en un mundo cada vez más virtual, debo dedicar un tiempo significativo a vivir al margen de él38.

Bill Davidow

Salvar el botón off no supone un ataque al botón on. Se trata de subrayar la vulnerabilidad del ser humano cuando resulta difícil limitar el alcance de lo digital, sea por su “liquidez”, por los intereses que nos empujan a permanecer conectados constantemente o por una mezcla de las dos causas. ¿Acaso no sería lo más adecuado resucitar el viejo botón off que han intentado suprimir? ¿No sería conveniente acotar la tecnología “líquida” para poder decidir cuándo utilizarla y garantizarnos fases de desconexión?

Ya hemos visto que los ciclos que provoca la hiperconexión hacen sufrir al cerebro, que nunca baja la guardia, especialmente a causa de la secreción de hormonas ligadas al estrés, y todo el cuerpo lo acusa. La cultura digital pretende evitar cualquier momento que parezca improductivo y nos incita a atender las solicitudes constantes del aparato que siempre llevamos encima. El neurobiólogo Michel Le Quyen advierte: “Cerrar los ojos, aislarse del ruido o estar ocioso suele considerarse una pérdida de tiempo. Sin embargo, esas pausas son necesarias para que el cerebro se recupere psicológica y fisiológicamente”. Numerosos estudios han desvelado la imperiosa necesidad de concederse momentos de silencio acústico, de dejar la mente en blanco y el cuerpo en calma, dado que así el cerebro adopta un estado que ejercita al mismo tiempo varias regiones, aumentando así el bienestar tanto psíquico —memoria, creatividad, salud mental— como físico —sistema cardiovascular, inmunitario, etc.—. De hecho, diversas investigaciones han demostrado que el cerebro emplea esos periodos de inactividad para eliminar todas las toxinas que genera39.

Un estudio de 2018 puso de relieve que la calidad del sueño, la capacidad de concentración, el bienestar general y las relaciones con los demás mejoraban apenas una semana después de que los participantes en el experimento dejaran el móvil fuera del dormitorio, restringiendo así su uso durante las últimas horas de la tarde y la noche. Las personas que establecían esa barrera con su smartphone reducían su nivel general de ansiedad y tenían la sensación de disponer de más tiempo libre y ser menos dependientes del móvil40.

Amparar la capacidad de desconectar
para proteger nuestra atención

Como individuos, somos aquello a lo que prestamos atención y aquello que pensamos. Siendo la conexión permanente algo que compromete nuestra autonomía intelectual, la capacidad real de desconectar es un elemento esencial de nuestra integridad. La atención humana es un bien finito, precioso y raro. “El derecho y la capacidad de dirigirla constituyen una condición crítica y necesaria de la autonomía, la responsabilidad, la introspección, la pluralidad y la presencia comprometida con y en búsqueda del sentido que damos a la vida”, en palabras del filósofo Luciano Floridi. No obstante, gran parte de la economía digital considera la atención humana como “una mercancía intercambiable en un mercado”41.

De esta constatación se desprende una conclusión política: “Del mismo modo que no se puede comerciar con órganos humanos, nuestra atención merece ser protegida. El respeto por la atención debería incorporarse a los derechos fundamentales, como el derecho a la vida privada o a la integridad física”42. Y esta exige que la tecnología se conciba y se configure por defecto de tal forma que se respete y se proteja nuestra atención. En la práctica, habría que reintroducir el botón off, en los propios dispositivos y en las aplicaciones que contienen. Como esa competencia se basa en la capacidad para llamar la atención sin límites, no es de extrañar que el entorno económico actual se muestre tan hostil a la reimplantación del botón off, ya que implicaría una auténtica revolución copernicana, y exigiría una verdadera voluntad política para establecer y aplicar principios que limiten la influencia en la atención al diseñar la tecnología.

Conviene subrayar que el hecho de que nos arrebaten la capacidad de atención no se reduce a que acaparen nuestro tiempo. Se ven afectadas nuestras posibilidades para tomar distancia y entender el mundo a través de nuestros propios conceptos, sin la mediación constante de terceros. A veces basta con una fracción de segundo para que una empresa nos sitúe abruptamente ante su propia visión de la realidad y nos obligue a elegir acorde con ella. Esa es la razón por la cual no solo deberíamos pensar en el botón off como un instrumento que nos garantiza momentos prolongados de desconexión, sino también —aunque parezca una idea más abstracta— como el instrumento que permite conservar esa distancia y capacidad crítica respecto a las opciones que ofrecen las herramientas digitales.

‘Ciberseguridad mental’

La industria se parece a la gente de a pie en su hiperconexión; desde las empresas medianas hasta los grandes sistemas de distribución de electricidad o las refinerías de petróleo, en gran parte se regulan por medio de sistemas de control que, en última instancia, están conectados a Internet.

Uno de los líderes de la ciberseguridad industrial desde la década de 1990 es el Laboratorio Nacional de Idaho (INL). Andy Bochman es el responsable de la estrategia de red para la seguridad interior y nacional. Al igual que otros expertos, se muestra escéptico frente al concepto más extendido de ciberseguridad, que consiste en pensar que una “higiene informática” perfecta (basada en respetar todos los protocolos de seguridad establecidos, así como en actualizar todos los sistemas de prevención de una empresa) basta para hacer frente a los peligros procedentes del exterior. “Si los sistemas esenciales de la organización son digitales y están conectados de una manera u otra a Internet, resulta imposible garantizar su absoluta seguridad”. Sin embargo, rechaza las posturas derrotistas frente a las agresiones cada vez más comunes perpetradas por Estados-nación (como las cometidas contra sistemas hospitalarios, empresas y otras infraestructuras fundamentales de una región o un país. Bochman ha ideado una estrategia bastante radical, que a primera vista parece contraria al signo de los tiempos: volver a instalar aparatos mecánicos anticuados y destinar a personal para funciones que se habían automatizado, por muy obsoleto que pueda parecer. Podrá menguar la eficacia, pero reduce drásticamente la probabilidad de que se produzca un desastre. De hecho, “lo que puede parecer un paso atrás en términos tecnológicos” es “un juicioso paso adelante”43. En otras palabras, se trata de reintroducir botones off plenamente efectivos y circuitos que permitan operar fuera de línea.

No es de extrañar que esa sugerencia sea tan impopular entre los directivos de empresas y los responsables informáticos que han invertido millones para lograr que cualquier proceso clave de su compañía esté conectado a la red, íntegramente en la nube y automatizado. A título individual también nos cuesta limitar radicalmente el uso de los dispositivos que nos vendieron como si fueran varitas mágicas, capaces de organizarnos la vida.

A causa de la hiperconexión sentimos que nos estamos diluyendo y que cada vez somos más vulnerables. Deberíamos plantearnos qué ganamos como individuos, ciudadanos o consumidores al aceptar la hiperconexión sin límites, en lugar de disfrutar de todo lo que aporta lo digital en una versión más “desenchufable”.

Mientras que el progreso se traduzca en tecnologías cada vez más difíciles de “contener”, solo conservaremos sus beneficios sin el coste de la hiperconexión si imponemos diques de contención a lo digital. Catherine Price, autora del libro Cómo cortar con tu móvil, advierte: “Por desgracia, no es fácil poner barreras sanas a aparatos diseñados adrede para saltárselas”44. Aunque se estila identificar el progreso con la hiperconexión en cualquier entorno, todo apunta a que la auténtica “alfabetización digital no consiste en utilizar un ordenador o navegar por Internet, sino en comprender y sopesar las consecuencias de un estilo de vida permanentemente conectado”, en palabras de Anjana Susarla, profesora de Sistemas de Información en la Universidad de Michigan45.

Un mundo en el que fuera imposible desconectarse a voluntad y en el que todos estuviéramos conectados a la misma red, englobando todas las facetas de nuestra vida, parece sentar las bases de cierto totalitarismo. Más adelante veremos que el hecho de no poder o no saber cómo escapar de la tecnología digital contribuye a que las personas se encierren y aumente su aislamiento, facilitando su control por parte de fuerzas externas, sean empresas o Estados.

Resulta muy prometedor que se anuncien las llamadas “tecnologías tranquilas”46, que permitirán llamar la atención del usuario únicamente cuando sea necesario, permaneciendo en un segundo plano el resto del tiempo. A diferencia de los smartphones, que nos saturan la atención, estas serían “no invasivas”. Sin embargo, ese concepto se asemeja bastante a lo que hemos denominado tecnología gaseosa. Cabe desconfiar de unos dispositivos capaces de decidir cuándo intervenir, que se mantienen constantemente alerta y sin intención de ser apagados. Es loable que se diseñen dispositivos más respetuosos con sus usuarios, pero la dependencia que generan y su influencia en la atención dependerán siempre del contenido y los servicios que ofrezcan.

Una vez examinados los mecanismos de nuestro entorno hiperconectado y sus consecuencias directas, nos centraremos en cómo esa relación cada vez más intensa con lo digital nos ha modificado profundamente, tanto a escala individual como colectiva.

Capítulo 2

Modificados. Cinco consecuencias
de la tecnología digital en los comportamientos
y las estructuras sociales

Cuestiones clave:

¿Cuáles son los efectos en el comportamiento humano tras dos décadas de tecnología digital?

¿Qué implica una modificación tan rápida de nuestros puntos de referencia?

¿Cuáles son los rasgos comunes que definen al hombre “modificado” por la tecnología digital?

La llegada del smartphone ha modificado radicalmente cada aspecto de la vida de los adolescentes, desde la naturaleza de sus interacciones sociales hasta su salud mental. […] Aún no se ha podido valorar del todo el impacto de estos dispositivos, pero va más allá de la habitual preocupación por ser capaces de concentrarnos durante periodos cada vez más breves47.

Jean M. Twenge

Se puede analizar desde numerosos ángulos el modo en que ya influyen las tecnologías digitales en nosotros y nuestra relación con los demás. Nos fijaremos en cinco tendencias de la actualidad que consideramos especialmente indicadas para entender cómo nos configuran como individuos y sociedad: (1) la tendencia a la supresión de nuestra vida interior y la modificación de nuestro modo de pensar; (2) la externalización de algunas de nuestras facultades a las máquinas y el proceso de desaprendizaje que supone; (3) la dificultad creciente para sentir satisfacción en un entorno que nos habitúa a la inmediatez; (4) la intensificación de la presión social; y (5) el debilitamiento del vínculo social y de instituciones que estructuran nuestra vida en común. Estas modificaciones de orden psicológico y social constituyen el telón de fondo sobre el que operan las dinámicas que abordaremos en los capítulos posteriores.

1. Mindlessness: la erosión de la vida interior

Yo solía ser como un buzo sumergido en el mar de las palabras. Ahora me deslizo por la superficie como si hiciera esquí acuático48.

Nicholas Carr

Algunas de las “modificaciones” que experimentamos en contacto con la tecnología digital son más difíciles de percibir que otras, pero hay una que dicen sentir muchas personas: cada vez nos cuesta más centrar nuestra atención largo rato en un mismo objeto, o estar a solas con nuestros pensamientos sin necesidad de recibir información procedente del exterior.

Desde luego, no es una sensación completamente nueva. Mucho antes del desarrollo de Internet, los smartphones e incluso los medios audiovisuales de masas, el escritor Georges Bernanos acusó a la civilización moderna de ser “una conspiración universal contra toda clase de vida interior”. Pero si los medios en general condicionan los procesos del pensamiento, parece ser que las tecnologías digitales han impactado especialmente en nuestra capacidad de concentración, en nuestra forma de reflexionar y en nuestra relación con nuestro yo profundo. Ahora que la práctica del mindfulness es cada vez más común, más bien se impone la sensación opuesta: la de una reducción de la consciencia y la incapacidad de vivir el momento con plenitud, ya sea estando con uno mismo, con el prójimo o ante un contenido único que requiere una atención prolongada.

El escritor Nicholas Carr experimentó en su propia piel esta sensación de “modificación”. Antes capaz de sumergirse durante horas en un libro, vio que ya no sabía concentrarse del mismo modo, como si ahora su cerebro necesitara un alimento distinto para sentirse satisfecho. Consciente de que Internet se había convertido en el canal para la gran mayoría de lo que absorbían sus ojos y oídos, admitió que su mente “espera ahora captar la información tal como Internet la difunde: como una oleada de partículas moviéndose a toda velocidad”49. El consumo permanente de información nueva le hacía desear su ordenador cuando se separaba de él (publicó estas palabras en 2010, cuando el smartphone ya estaba muy presente pero la tecnología todavía era, en gran parte, “sólida” y no acompañaba al usuario en todo momento).

Carr se centró en los descubrimientos de las últimas décadas en neurología, que afirman que el cerebro permanece maleable durante toda su vida —no solo en la infancia, como solía creerse— y es susceptible de transformarse en función de las experiencias y los comportamientos. Esta neuroplasticidad, fruto de la evolución, permitiría al ser humano eludir el determinismo genético y constituiría, por lo tanto, una especie de nicho del libre albedrío desde el punto de vista neurológico. Aun así, impondría ciertos condicionamientos. Y es que “a medida que determinados canales de nuestro cerebro se refuerzan mediante la repetición de determinadas actividades físicas o mentales, van transformando dicha actividad en un hábito”50.

Así pues, la neuroplasticidad puede apresar al hombre en comportamientos rígidos, puesto que las sinapsis que se activan para conectar nuestras neuronas nos infunden el deseo de seguir utilizando esos circuitos recién formados, mientras que aquellos que ya no usamos corren el peligro de caer en el abandono. En el caso de Internet, cuanto más nos acostumbráramos a ojear información con rapidez y a saltar sin cesar de un contenido a otro, más ávido de este tipo de pensamiento se volvería nuestro cerebro.

Numerosos estudios indican que el cerebro no reacciona del mismo modo a la lectura de una página impresa que a la de una pantalla, por lo que es más difícil adquirir conocimientos profundos en un e-book que en un libro51. Para Carr, la página impresa constituye un escudo contra la distracción, al contrario que las aplicaciones de los smartphones, que invitan constantemente a pasar de una a otra. Esta forma de absorber información no se limita a la lectura. Maryanne Wolf, investigadora en neurociencia cognitiva, se pregunta: “La plasticidad de nuestro cerebro lector, reflejo de la era digital, ¿acelerará la atrofia de nuestros procesos de pensamiento más básicos —como el análisis crítico, la empatía y la reflexión— en perjuicio de nuestras sociedades democráticas? […] Mi temor es que la atrofia de estos procesos de pensamiento y el hecho de que en los niños no se desarrollen tenga implicaciones para el ser humano como especie”52.

El sometimiento de nuestra mente a esta hiperactividad cerebral en detrimento de la atención profunda o la introspección se manifiesta en “el desarrollo de comportamientos casi instintivos impuestos por las teclas de las máquinas”, señala el filósofo Michel Blay, y en la formación de “consumidores con comportamientos casi automatizados, impuestos por la red de máquinas y pantallas, convertidas en su entorno vital”53. Sin embargo, es gracias a la profundidad de la mente y a la capacidad de mantener la atención que somos susceptibles de construir nuestra libertad, nuestra búsqueda de la felicidad y una relación profunda con los demás.

Algunos estudios científicos empiezan a presentar una base empírica que parece confirmar esta intuición, como el que llevaron a cabo sobre el phubbing los investigadores de la Universidad de Kent. Este término —contracción de las palabras en inglés telephone y snobbing— se refiere a la consulta del smartphone al mismo tiempo que se interactúa con alguien en el mundo físico. Se trata de una respuesta automática a esa sensación de falta de información que el cerebro pide satisfacer constantemente en la era digital, que nos exige estar al corriente de todo en el acto. Pero a consecuencia del phubbing podríamos ver reducida la satisfacción que nos aporta la relación entre individuos, y contribuiría a alimentar sentimientos de depresión y alienación54. Si bien se carece todavía de una base empírica suficiente para poder sacar conclusiones generales, parece que cada vez nos cuesta más desarrollar pensamientos profundos y sentir emociones profundas como la empatía, que requieren tiempo para fraguarse en nuestra mente.

2. Externalización de nuestras facultades
y desaprendizaje

La contradicción que se da al desear el progreso mecánico y al mismo tiempo la conservación de cualidades que ese mismo progreso ha vuelto superfluas55.

George Orwell

Inicialmente, la tecnología sirvió para reemplazar y multiplicar la fortaleza física de los humanos, lo que derivó en un menor esfuerzo de nuestro cuerpo y a menudo provocó el olvido de gestos que el hombre estaba acostumbrado a ejecutar por sí solo. Con el desarrollo de máquinas capaces de reemplazar facultades intelectuales y cognitivas humanas, dio comienzo el proceso mismo de desaprendizaje, que se intensificó con el paso de la tecnología sólida a la tecnología líquida. El cálculo mental, la memoria y el sentido de la orientación son algunas de las aptitudes que muchas personas reconocen haber delegado y parcialmente perdido. Con frecuencia se dice que antes se recordaban de memoria decenas de números de teléfono, pero ahora que todo el mundo tiene un teléfono móvil, cerca de la mitad de la población ni siquiera sabría dar el de su pareja, el 57% ya no se sabría su número del trabajo y el 71% no sería capaz de recordar el de sus propios hijos56.

Si esta “amnesia digital” se ciñera a asuntos tan específicos como el de los números de teléfono, podríamos considerarla anecdótica. Pero el mismo trabajo que citábamos antes señala que el 36% de las personas a las que se hizo una pregunta sencilla que las obligaba a echar mano de su memoria acudían a Internet antes de intentar formular una respuesta por sí mismas. De ellas, una cuarta parte admitía que olvidaría dicha respuesta de inmediato: argumentaban que aquella información siempre estaría disponible de una manera u otra. El experimento MyLifeBits desarrollado por los ingenieros de Microsoft Gordon Bell y Jim Gemell tiene por objetivo digitalizar toda la memoria de una persona, conservando recuerdos electrónicos del hecho, gesto o pensamiento que esta genere57. Puede parecer pura ciencia ficción, al estilo de la serie Black Mirror, pero para Nick Negroponte, del MIT, el proyecto de Bell y Gemell describe un proceso inevitable.

¿Delegaremos nuestras facultades una tras otra cuando la tecnología sea capaz de reemplazarlas? George Dyson, historiador de la ciencia, se pregunta: “¿Y si el precio a pagar por tener máquinas que piensan fuera que las personas dejen de pensar?”. Desde un punto de vista neurológico parece ser que, cada vez que encendemos un dispositivo digital para que haga algo por nosotros, se apagan las partes de nuestro cerebro responsables de cumplir la función sustituida. Así ocurre cuando alguien conduce un coche en modo manual. Su hipocampo (situado en la parte interior e inferior del cerebro), así como el córtex prefrontal, refleja una actividad intensa en el instante en que toma una nueva calle. En cambio, con la asistencia de un navegador, dichas partes del cerebro ya no se activan58. Acostumbrados a utilizar el GPS, cuesta orientarse sin él, y lo mismo ocurre con la memoria cuando “el simple hecho de saber que una información se conserva en algún lugar disuade al cerebro de retenerla, pues entonces lo considera un esfuerzo superfluo”59.

Ya se trate de la memoria, la orientación o cualquier otro aprendizaje, la investigación en psicología insiste en la necesidad de que el ser humano ejerza un rol activo a fin de transformar la información percibida en verdadero conocimiento y en habilidad interiorizada. Si el ser humano se limita al rol de observador pasivo y no hace otra cosa que aplicar aquello que la máquina le dicta, renuncia a su espíritu crítico y sus facultades empiezan a erosionarse.

¿Y si se tratara de un fenómeno transversal hasta el punto de afectar, más allá de facultades concretas, a nuestra inteligencia en general? El emprendedor Douglas Tompkins, amigo de Steve Jobs, le reprochaba que hubiera inundado el mundo de aparatos de desaprendizaje o de descualificación que nos volvían tontos y dependientes60. Sea cual sea la causa, parece ser que, tras un largo periodo durante el cual nos habríamos vuelto más inteligentes, ahora nos estamos embruteciendo. El fenómeno, conocido como “efecto de Flynn”, supone el aumento del coeficiente intelectual (CI), año tras año, durante la mayor parte del siglo XX; pero el antropólogo Edward Dutton demostró que más adelante se invirtió la tendencia. Entre 1962 y 1975 el CI —susceptible de crítica como medida de la inteligencia— aumentaba de media 0,2 puntos al año, mientras que disminuía 0,33 puntos al año entre 1975 y 1991.

Las causas de esta inversión —al igual que las del efecto positivo que se observó en un primer periodo— estarían relacionadas con factores medioambientales61, sin duda variados y complejos y no del todo esclarecidos. Pero el propio James Flynn lanza la hipótesis de que la multiplicación de dispositivos informáticos desempeñe un papel en esta disminución de la inteligencia62. “Decir que las pantallas explican la totalidad de este descenso sería una idiotez, pero no más que negar su parte de responsabilidad”, afirma asimismo el neurocientífico Michel Desmurget.

¿Por qué es problemático este desaprendizaje?

Podríamos sentirnos tentados de minimizar este problema, pero existen al menos cuatro problemas principales relacionados con la externalización masiva de nuestras facultades mentales:

1) La sustitución imperfecta o la pérdida de autenticidad

La tecnología, por lo general, no reproduce nuestras funciones mentales de forma idéntica, y una vez que hemos delegado una facultad a la máquina, el resultado no es el mismo. Nuestra memoria no es un USB, sino que “se vive en primera persona, se moviliza hic et nunc, en las relaciones que establezco con los demás. […] Es una relación contextualizada con el mundo, que entablo en función de lo que vivo en el presente”63. Dicho de otro modo, podemos responder a una pregunta consultando Internet, pero si no es información almacenada en mi memoria, mis ideas no se formarán de la misma manera.

2) La pérdida de autonomía

La externalización, acompañada por el desaprendizaje, nos hace dependientes de la tecnología para llevar a cabo tareas que ya no somos capaces de ejecutar solos. Si la máquina falla o el sistema cae, nos vemos en dificultades para retomar nuestra actividad igual que antes. Esa externalización nos vuelve más frágiles y vulnerables.

3) ¿Una espiral de delegación infinita?

¿Puede marcarse un límite para este proceso de externalización y desaprendizaje o acabaremos vaciándonos de todas nuestras facultades, y en especial de la de decidir? Si no hacemos más que “consultar Google” cuando surge una pregunta, terminamos perdiendo la capacidad de hallar respuestas por nosotros mismos; y no hay ningún motivo para que no se extienda a cuestiones fundamentales de la vida, nos advierte Yuval Noah Harari64.

4) La erosión de la satisfacción

Muchas de las capacidades que delegamos en la tecnología resultan gratificantes cuando las realizamos nosotros mismos. Superar obstáculos proporciona satisfacción, y más aún cuando estos son difíciles. Profundizaremos en esto en el sexto capítulo.

En definitiva, esa delegación de facultades en la máquina equivaldría a renunciar a una parte de nosotros mismos.

3. Impaciencia e insaciabilidad

Otra consecuencia de recurrir constantemente a la tecnología es acostumbrarnos a que nuestras expectativas se vean satisfechas enseguida, alimentando, paradójicamente, un estado latente de impaciencia. Internet no tiene días de descanso ni horarios de apertura, y los comercios en línea se hacen la competencia para satisfacer al consumidor con la mayor inmediatez posible. “En esta alocada contracción del tiempo, cualquier espera se vuelve insoportable”, señalan Marc Dugain y Christophe Labbé65. La sensación de que todo puede estar disponible en cualquier momento y el incentivo constante del consumo —trasmitido por una publicidad focalizada e intrusiva que cada vez predice mejor nuestras necesidades— invita a cualquier cosa salvo a mostrar templanza. Sin embargo, aprender a posponer nuestros deseos es precisamente una de las competencias de la libertad.

Internet y los millones de aplicaciones que nos conectan a ella hacen que la sensación sea la de estar ante un menú infinito, en sentido literal, si pensamos en la profusión de servicios para pedir comida en línea como Deliveroo, Uber Eats y Just Eat. Antes, la sopa aparecía en la mesa familiar a las 20 h y todo el mundo comía lo mismo, pero la explosión de las entregas a domicilio a través de Internet técnicamente permite que cada cual pida lo que quiera cuando quiera. Se diría que hemos suprimido obligaciones y ganado libertad. Sin embargo, ¿este menú abierto a todas horas nos hace sentir más colmados o a veces nos da la sensación de que podríamos haber elegido otra cosa? Y, sobre todo, ¿nos vuelve más intolerantes frente a situaciones en las que nuestro deseo no se ve cumplido de inmediato? Acostumbrarse a elegir entre posibilidades ilimitadas a veces impide que estemos satisfechos con lo que ya tenemos.

Esta analogía imperfecta podría criticarse desde varios puntos de vista. Tal vez haya un justo término medio. Es probable que no sea ideal elegir entre una cantidad de opciones lo más reducida posible. Aun así, cada vez más estudios demuestran que los adolescentes gestionan muy mal la frustración. Cuando algo no les gusta, suelen dejar de hacerlo al momento, pues sienten que tienen a su alcance una multitud de alternativas66.

La tecnología contribuye a reducir el carácter excepcional de numerosas experiencias, por lo que nos vuelve más apáticos. Hoy, un niño al que le apetece escuchar una canción concreta no entiende que no esté disponible, puesto que todo debería estar al alcance de la mano en todo momento. Este menú infinito y siempre disponible genera una especie de monotonía de lo excepcional, es decir, que aquello que antes se vivía como una fiesta o un momento especial queda ahora banalizado.

En ocasiones nuestra impaciencia deriva de que determinadas acciones se realizan de forma casi inmediata en un marco digital, cuando en el mundo físico requieren más tiempo. ¿Hoy tendríamos la paciencia de esperar a terminar nuestra película fotográfica y llevarla luego a revelar, antes de poder ver al fin las fotos?

La psicología y la neurociencia están en posición de arrojar algo de luz sobre el papel de la tecnología respecto a nuestras expectativas y nuestra propensión a sentirnos satisfechos. Resulta interesante el enfoque que nos llega de la etología de la mano del premio nobel Nikolaas Tinbergen, quien acuñó el concepto de “estímulos supranormales”. Observó que era capaz de modificar muy rápidamente los comportamientos de animales introduciendo estímulos artificiales que les resultaran especialmente atractivos y que las cobayas no lograban rechazar. Esto afectaba a varios aspectos de su comportamiento y perdían todo interés por los estímulos naturales. La psicóloga Deirdre Barrett mostró que los numerosos estímulos a los que el hombre está expuesto artificialmente, como los ultraprocesados, los videojuegos o la pornografía, desempeñan un papel semejante. Parece ser que esta clase de estímulos introducen a nuestro cerebro en una espiral sin fin mediante la producción de dopamina, que es la base de la nicotina, las drogas o la adicción al juego, y provocando una actitud de búsqueda y deseo constantes67.

Muchos estudios han dejado claro el papel de los circuitos de recompensa cerebrales basados en la dopamina en numerosas actividades en línea. Demuestran que consultar constantemente los mensajes, la actualidad o los resultados deportivos y bursátiles no satisface, sino que, al contrario, alimenta sin fin esos mismos comportamientos. Estas representaciones artificiales infinitas contribuyen a modificar nuestras expectativas y nuestra satisfacción respecto a la vida social, como analizaremos a continuación.

4. Intensificación de la presión social

Es engañoso pensar que existe un mundo virtual y otro real, contrariamente a lo que algunos análisis de los primeros tiempos de Internet pretendían. Las redes sociales ilustran hasta qué punto la actividad en línea y fuera de línea están imbricadas. Con la competitividad social ocurre que, si bien es intrínseca a casi todas las comunidades humanas y no es un invento de las redes sociales, veremos por qué estas tienden a exacerbarla.

Las noticias publicadas en estas plataformas —a menudo en forma de fotografías o vídeos— constituyen ejemplos de “estímulos supranormales”, en palabras de Tinbergen, de los que a muchísimos usuarios les cuesta escapar. Uno puede tirar del hilo casi hasta el infinito y saturarse de información publicada por sus contactos. La posibilidad de saltar velozmente de un contenido a otro y el hecho de que funcionen como escenificaciones elaboradas, más llamativas que la realidad cruda y sin filtros, dan su carácter “supranormal” a las informaciones.

Estas plataformas son siempre accesibles y constituyen una arena social permanente en la que se incita a los usuarios a competir entre sí. Son vectores de juicio permanente que transcienden los diferentes ámbitos sociales y suprimen las válvulas que ayudan a enfrentarse psicológicamente a la competencia social. Someten la vida de los individuos a la mirada de los demás para tener la sensación de existir, desde fases muy tempranas, y los adolescentes afrontan desarmados este juego social marcado por la impresión de una intensa competitividad.

Aunque hay otros mecanismos que pueden entrar en juego, es probable que la comparación permanente sea uno de los factores que expliquen el fulgurante aumento de los índices de depresión, ansiedad, automutilación y suicidio entre los nacidos después de 1995, personas cuya sociabilidad se ha visto secundada por las redes sociales desde que iban a la escuela. El sentimiento de que lo dejan a uno de lado crece de forma vertiginosa. Entre 2020 y 2015 aumentó un 48% entre las adolescentes estadounidenses68. Algunos estudios empíricos que tratan de establecer relaciones causales entre estos fenómenos y el uso masivo de las redes sociales discrepan de ello, pero hay investigadores que esperan que pronto se establezca un consenso científico en este sentido69.

Sería erróneo pensar que el público joven es la única víctima de este incremento de la presión social. La arquitectura de redes sociales profesionales como LinkedIn también está concebida para intensificar la competencia entre individuos en el mundo laboral. LinkedIn bombardea a sus usuarios con actualizaciones de indicativos que en principio reflejan el capital profesional y el posicionamiento de cada persona y constantemente incita a revisar si el perfil propio “se distingue del resto” o “cómo está clasificado en función del interés que suscita en los demás”. Del mismo modo que los adolescentes tienen la impresión de estar condenados a una especie de muerte social si no mantienen una presencia activa en las redes sociales, a los adultos se les sugiere que no existen profesionalmente si no cuidan su existencia en las plataformas correspondientes. LinkedIn despliega todo tipo de recursos para transmitir la idea de un universo en el que todo el mundo se escudriña mutuamente y está al acecho de la trayectoria de los demás.

Si aceptamos que una de las claves de la felicidad radica en la capacidad para no preocuparse en exceso por la mirada de los demás, la tecnología social dificulta el distanciamiento para liberarnos de esta permanente impresión de ser juzgados. Ponen de relieve una cierta concepción del éxito para evaluar a las personas, como si el objetivo fuera establecer una especie de clasificación más o menos explícita para ordenar a todo el mundo en función de su valor. Fomentar la comparación incesante lleva a la gente a envidiarse, pero también a sentirse superiores o inferiores, lo que además dificulta disfrutar de las relaciones humanas en toda su plenitud. Gastamos todas nuestras energías en buscar el éxito y lo confundimos con la búsqueda de la felicidad.

5. Debilitamiento de las estructuras sociales

A continuación, abordaremos el impacto de la tecnología en la calidad del vínculo social, entendido como la riqueza del tejido relacional; también cómo afecta a las instituciones, cuya vocación es regular las relaciones sociales a lo largo del tiempo.

La soledad en tiempos de la tecnología líquida

Ya en los años 1990 Robert Putnam achacaba el declive del capital social en la segunda mitad del siglo XX al auge del individualismo derivado de la “transformación tecnológica del ocio”70. Los detractores de esta teoría cuestionaron que tal declive se hubiera producido e insistieron en que nuevas formas de sociabilidad habían sustituido a las antiguas.

Hoy es difícilmente rebatible que Internet en su forma actual —accesible en todo momento para casi todo el mundo a través del smartphone— es globalmente destructor de capital social. Parece pertinente que nos fijemos en la generación nacida entre 1995 y 2012, forjada por el smartphone y por la aparición de las redes sociales, a la que Jean Twenge puso el nombre de iGen. Según este profesor de Psicología que lleva tres décadas estudiando las diferencias generacionales, jamás se ha observado una ruptura tan abrupta como la que existe entre los iGen y los millenials. Twenge observa cambios radicales en el comportamiento y el estado emocional de los adolescentes en torno al año 2012, cuando se extiende la presencia de smartphones en Estados Unidos.

Las estadísticas describen una generación marcada por la soledad y una reducción severa de la interacción social. En Estados Unidos, el número de adolescentes que frecuentaban a sus amigos casi a diario entre los años 2000 y 2015 descendió un 40%. Los jóvenes de 18 años en 2015 salían con sus amigos con menos frecuencia que los de 14 seis años antes. En cuanto a las citas amorosas, en generaciones anteriores cerca del 85% de los adolescentes del último curso del instituto tenían la oportunidad de salir con un chico o una chica, pero hoy en día esta cifra ha bajado de pronto al 56%.

Podríamos pensar que tales cambios no son tan graves si quien los vive lo hace de forma positiva, o que se han creado otros modos de sociabilidad que quedan fuera de las viejas estadísticas. Pero el dato más impactante se refiere a la sensación de soledad de los adolescentes, que se disparó a partir de 2007: en varios años aumentó casi el 50%, hasta alcanzar niveles nunca observados. Las tendencias asombran por su uniformidad, pues son las mismas con independencia del nivel de ingresos, el origen o el lugar de residencia. En solo tres años, de 2012 a 2015, las tasas de depresión aumentaron un 21% entre los chicos y un 50% entre las chicas. Si consideramos el caso extremo del suicidio, entre 2007 y 2015 se triplican los casos en las chicas y se duplican los casos en los chicos. Puede que la tecnología no sea la única causa del incremento de suicidios, teniendo en cuenta que su prevalencia era mayor en los años noventa que ahora. Sin embargo, en el momento actual se diagnostican muchos más casos de depresión, y el número de estadounidenses que toman antidepresivos se ha multiplicado por cuatro.

Para Twenge, si la presión que sufren los chicos es sobre todo física, a las chicas les afecta más la posición social y las relaciones, así que podrían ser especialmente vulnerables a las agresiones a través de la red71.

Podría dudarse del determinismo de la tecnología en esta violenta evolución y buscar explicaciones multifactoriales72. También podemos preguntarnos qué hay de las diferencias entre individuos dentro de la masa generacional: ¿se trata de un nuevo entorno que afecta a los individuos de manera uniforme o bien existen diferencias según el comportamiento de cada cual ante la tecnología? Un análisis en profundidad de los datos del National Institute on Drug Abuse, que ha realizado encuestas anuales con casi 1.000 preguntas desde 1975, muestra que cuanto más tiempo pasan los adolescentes ante una pantalla, más susceptibles son de mostrar síntomas depresivos: un alumno de segundo de ESO que utiliza las redes sociales de forma abusiva ve incrementado el riesgo de sufrir depresión en un 27%. En cambio, la práctica de actividades colectivas como el deporte o la asistencia a servicios religiosos, o incluso el hecho de pasar más tiempo que la media haciendo deberes, parecen actuar como escudos que reducen drásticamente ese riesgo.

Consecuencias sociales de la individualización
de la tecnología

En las últimas décadas se ha multiplicado la presencia de dispositivos digitales en los hogares. En el Reino Unido, en 2015, no solo había un ordenador en el 88% de los hogares —frente al 13% en 1985—, sino que el número de dispositivos conectados por familia alcanzó la cifra de 7,473. El acceso a estos dispositivos se ha ido individualizando y en la actualidad cada miembro de la familia dispone de una conexión directa con el exterior a edades tempranas. Antes, todo el mundo sabía quién llamaba al teléfono familiar. No se franqueaba esa puerta de entrada comunicativa a espaldas del resto de los miembros de la familia. Esta centralización de la comunicación hacia el exterior era una emanación y un pilar de la institución familiar, que ejercía un control social sobre lo que entraba o salía. Normalmente había un único televisor en casa y todos los miembros de la familia la veían juntos, lo que generaba una experiencia compartida —o al menos todos estaban al corriente de lo que veían los demás—.

La individualización de la tecnología ha multiplicado las puertas de entrada a la vivienda, como si cada integrante contara con una en su propia habitación. Estamos conectados con el exterior de un modo más solitario. Se elude cada vez más a la institución familiar como primera esfera de la vida colectiva, perdiendo oportunidades para afianzarse. Silicon Valley ha tendido un puente directo hacia cada individuo derribando barreras que parecían tan sólidas como la integridad física del hogar familiar. La extensión de la influencia de la esfera digital, gobernada por los gigantes de Internet, se ha impuesto en detrimento de la influencia familiar y de la autoridad parental.

El debilitamiento de los mecanismos de autoridad se ha visto influido, además, por la miniaturización de los dispositivos. ¿Cómo establecer límites al tiempo que pasa un adolescente en Internet si ni siquiera tenemos posibilidad de saber que está conectado? En general, las actividades que se desempeñaban en el mundo “fuera de línea” contaban con barreras naturales que acompañaban mejor a la autoridad. A menos que se instale un sistema de vigilancia generalizado, el respeto a las normas resulta más complejo en el entorno digital.

Lo mismo sucede con la prevención y la regulación de adicciones como la ludopatía. Mientras que en el pasado los casinos se ubicaban en lugares concretos cuyo acceso resultaba fácil de controlar, el equivalente digital de las salas de juego se encuentra ahora en el bolsillo de todos: “En torno al 10% de los usuarios de Internet están tan obsesionados que su uso repercute en sus relaciones sociales, en su vida familiar y de pareja y en su rendimiento en el trabajo. A medida que las prestaciones de estos dispositivos conectados mejoren y las empresas aprendan a utilizar la neurociencia para hacer más atractivos los entornos virtuales, dicha cifra aumentará de manera inevitable”74.

Sentimiento de emancipación y ‘desinstitucionalización’ política y social

En términos generales las instituciones y sus normas se aceptan como necesarias para el correcto funcionamiento de la sociedad. Establecen reglas que atienden a distintos problemas de la vida colectiva y, al menos en teoría, facilitan la convivencia de acuerdo con los valores de cada sociedad. Leyes y reglamentos se perciben muchas veces como barreras o prohibiciones molestas, pues restringen en mayor o menor medida la libertad del individuo, limitando la libertad de contrato entre dos partes si la colectividad considera que el acuerdo privado va en contra del interés del conjunto social.

A veces la tecnología plantea seductoras alternativas a dichas instituciones, que algunos consideran defectuosas. Herramientas que aparentemente funcionan mejor que los mecanismos precedentes alimentan el sentimiento de que estos han quedado obsoletos. Las grandes plataformas en línea también son populares por su capacidad de habilitar a las personas para saltarse las normas establecidas, afectando directamente a las instituciones que se sustentan en tales reglas. En este sentido, la tecnología contribuye a imponer un programa global neoliberal que aspira a desregular en beneficio de una libertad a corto plazo. Sin embargo, la sociedad, una vez liberada de las limitaciones de las que se sentía prisionera, ve resurgir los problemas que habían motivado el establecimiento de reglas y que, de tan remotos, habían caído en el olvido.

Encontramos un ejemplo paradigmático en Uber o Airbnb, que han “desinstitucionalizado” los sectores del taxi y hotelero. En un primer momento, buena parte del público lo acoge con alegría, pues disfruta de una oferta de servicios más amplia y a un mejor precio. Experimenta una sensación de libertad, emancipado de unas reglas que no entendía bien y que percibía como demasiado restrictivas: ¿por qué nunca encuentro taxi si hay millones de personas en paro y podrían llevarme? ¿Por qué no puedo alquilar un apartamento durante dos noches y utilizarlo como hotel si llego a un acuerdo con su propietario? Por supuesto, son ideas legítimas. En ocasiones la sociedad requiere actualizar el contrato social y las reglas específicas derivadas en determinados ámbitos. Pero la tecnología acostumbra a zarandear esas instituciones de manera unilateral, no como resultado de un proceso de deliberación colectiva. Estos servicios digitales fomentan la elusión de las reglas. Puede beneficiar a corto plazo a las partes directamente implicadas, pero no forzosamente al sistema —algo similar a lo que ocurre cuando alguien nos propone pagar un servicio sin factura—. Al cabo de un tiempo, la sociedad empieza a percibir ciertos efectos perjudiciales y es entonces cuando empieza a comprender la función de las antiguas normas y el interés general de restringir la oferta de un servicio determinado.

Estas plataformas han promovido lo que Bernard Stiegler denomina el “Far West tecnológico”, generando un “Estado fuera de la ley a través de vacíos legales”, sustentado en la natural popularidad inicial de la que goza un mundo sin reglas. Stiegler menciona a Freud para recordar que una sociedad no puede reproducirse sin vínculos, y que dichos vínculos son, sobre todo, de naturaleza moral. Con su contribución a una cierta desinhibición y a la configuración de un entorno en el que “hacemos lo que nos da la gana”, un determinado tipo de tecnología participa en la liquidación de ese tipo de vínculo y solo deja lugar para otro modo de regulación: el hipercontrol, es decir, “poner a un policía detrás de cada uno de nosotros” para vigilarnos de manera preventiva, tal como desarrollaremos más adelante.

Estas cinco consecuencias de un entorno hiperconectado en el comportamiento humano y en las relaciones entre los individuos no constituyen en absoluto una lista exhaustiva. Podríamos detenernos en otros aspectos. ¿Qué decir, por ejemplo, del impacto específico de la tecnología en el sueño? Entre 1991 y 2015, el número de adolescentes estadounidenses que no dormía lo necesario aumentó en un 57%, y si ponemos la lupa sobre los años más recientes, la cifra de quienes dormían menos de siete horas por noche aumentó en un 27% entre 2012 y 2015, periodo en el que la tasa de adopción de smartphones se disparó. También habríamos podido detenernos en fenómenos tan interesantes como el menor deseo de autonomía y emancipación entre los jóvenes que han crecido con la tecnología “líquida”, según evidencian numerosos indicadores.

Habrá quien encuentre demasiado negativa esta visión de la influencia de lo digital en el ser humano y en la sociedad. ¿Qué hay de sus indudables efectos positivos? Hay quien dice que los “nativos digitales”, esa generación que vive inmersa en lo digital desde que nace, han desarrollado una suerte de sexto sentido y facultades excepcionales, pero la literatura científica desmiente de manera categórica tal idea: la inmensa mayoría del uso de lo digital “se concentra en las aplicaciones más triviales: redes sociales, videojuegos, plataformas audiovisuales, tan sencillas de utilizar como un cepillo de dientes”, explica un directivo de Google75.

Con los elementos reunidos hasta el momento, ¿podemos aventurarnos a responder si, en términos globales, la tecnología digital está abonando un terreno favorable a la búsqueda de la felicidad y de la libertad? No parece si observamos nuestra tendencia a ser más superficiales en nuestras relaciones, nuestra creciente dificultad para sentirnos satisfechos y la propensión a impacientarnos, o el sentimiento de que siempre se nos compara con los demás y debemos competir, así como el debilitamiento del vínculo que permite vivir en sociedad y sentirse acompañado en la vida.

Capítulo 3

Encerrados. Influenciados y ante falsas opciones

Cuestiones clave:

¿Qué mecanismos de la tecnología restringen nuestra libertad?

¿A partir de qué momento dejamos de elegir? ¿Qué entornos perjudican las decisiones autónomas?

¿Por qué nos arriesgamos a un mundo en el que nuestra libertad se constriñe?

La restricción de nuestra libertad en un entorno en el que lo digital ocupa un lugar central remite a dos problemas íntimamente relacionados. El primero, del que trata este capítulo, tiene que ver con la influencia de la tecnología en nuestra voluntad y en nuestra capacidad para llevar a cabo elecciones autónomas. La segunda, que abordaremos en el siguiente capítulo, se refiere a la capacidad que adquieren determinadas entidades —sean Estados o corporaciones— de vigilar y controlar a las personas, sus acciones y sus pensamientos.

Mientras que algunos de los fenómenos descritos hasta ahora son directamente perceptibles por las personas, la pérdida de libertad por la evolución en el terreno digital es mucho más insidiosa de lo que suele advertirse. Es más sencillo pensar “me he enganchado al móvil” o bien “mi comportamiento ha cambiado, ya no soy capaz de leer textos largos o de orientarme por mi cuenta”, pero es más raro decir “estoy bajo la influencia de un algoritmo sin darme cuenta” o “sacrifico mi libertad a cambio de cierta utilidad”. Son varios los factores que explican esto. La confrontación inconsciente que hacemos entre utilidad y libertad casi siempre se inclina en favor de la primera. Además, las verdaderas implicaciones de la restricción de libertad son progresivas y se dan por lo general en el largo plazo, de modo que cuesta percatarse de ellas. Por último, los instrumentos que facilitan la coerción de nuestra libertad son poderosos y extremadamente difíciles de detectar.

Podríamos hablar de un “dumping de la libertad”. El consumidor rara vez se queja de una empresa que aplica unos precios extremadamente bajos vendiendo a pérdidas. Sin embargo, al hacerlo, la empresa está construyendo un entorno en el que el consumidor verá luego limitadas sus opciones, y su capacidad de negociación quedará anulada. Del mismo modo, cuando utilizamos servicios digitales nos fijamos en primer lugar en los beneficios inmediatos que nos reporta. Si cedemos nuestros datos a un tercero cuando realizamos un pago, contribuimos a un entorno en el que cada vez habrá menos posibilidad de elegir con libertad. Por propia voluntad y sin ser demasiado conscientes, cedemos un poco de libertad a cambio de tiempo, dinero, comodidad y diversión. Un intercambio favorecido por el escaso conocimiento ciudadano sobre la lógica del mundo digital. Para muchos, lo único que está en juego es el respeto a su intimidad y la ciberseguridad, pero, cuando un individuo proporciona sus datos, está abriendo su repertorio cognitivo a terceros, a quienes resultará así más cómodo manipular su voluntad en la dirección deseada.

Esta erosión de nuestra libertad puede parecernos contradictoria cuando disponemos de elecciones virtualmente infinitas. La ilusión de emancipación se apoya en el sentimiento de que tal variedad de opciones son un reflejo neutro de la realidad. En realidad, esta infinitud es solo una ínfima parte, la que a juicio de los algoritmos es la que más se corresponde con nuestros deseos del momento. ¿Por qué me proponen esas opciones y no otras? ¿Conozco los verdaderos objetivos de quien me las ofrece? ¿Resuelven mi necesidad o mi pregunta inicial, o son más bien una distracción?

Los usuarios difícilmente caen en la cuenta de hasta qué punto lo digital condiciona sus elecciones, empezando por cómo determina las preguntas lanzadas. Tal y como presentan y jerarquizan la información, las plataformas orientan nuestras búsquedas hacia el consumo.

Las grandes plataformas son muy conscientes de la “ilusión de control” que tiene el usuario, de su tendencia a subestimar la capacidad de aquellas para controlar unos acontecimientos sobre los que no tenemos ninguna influencia —fenómeno que ya analizó hace décadas la psicóloga Ellen Langer76—. Esto explica por qué Google modifica periódicamente sus parámetros de confidencialidad para “dar más control” al usuario, que así cree tener un mayor dominio sobre la utilización de sus datos. Pero hay estudios que han demostrado que cuanto más siente alguien esta ilusión de control, más vulnerable es77. Por eso resulta fundamental adquirir consciencia de la influencia ejercida sobre nosotros.

1. Los distintos grados de influencia
de la tecnología en nuestra libertad

El filósofo Éric Sadin distingue tres niveles de intensidad por los que la tecnología, y más concretamente la IA, “guía desde la atalaya de su autoridad los asuntos humanos”: (1) el nivel incitativo, que reconocemos en las aplicaciones que dan recomendaciones para lograr un objetivo, como mantener un buen estado de salud; (2) el nivel prescriptivo, que puede determinar si un préstamo bancario se concede o no a un solicitante; y (3) el nivel coercitivo, que por ejemplo actúa en el terreno laboral cuando un sistema encarga tareas a unas personas para que las cumplan. Se observaría entonces un incremento de la “capacidad conminatoria” de la tecnología que afectaría a nuestra capacidad de juicio y de acción, imponiéndonos la trayectoria a seguir78.

Deberíamos considerar el grado variable de influencia de lo digital en nuestra actividad: desde una muy ligera orientación de nuestras elecciones, hasta una imposición total en la que —seamos o no conscientes— no hay otra opción que seguir el dictado de la máquina. Sin embargo, observamos un condicionamiento de nuestras elecciones cada vez más pronunciado.

Si pregunto en Google algo así como “Dónde ir de vacaciones en invierno” el buscador selecciona una pequeña cantidad de resultados, que muestra en su primera página —en este caso, 10 de los 104 millones que dice haber encontrado—, en los que se concentra la gran mayoría de las elecciones que el usuario va a realizar. A pesar de que soy libre de hacer clic en cualquiera de los resultados, mi elección ya está muy orientada hacia esas primeras posiciones. Por otra parte, Google cuelga resultados patrocinados que destacan sobre el resto, lo que determina todavía más la elección del internauta. Si hago una búsqueda simple “Roma-Londres”, en el primer vistazo no hay lugar para resultados “naturales”, es decir, surgidos del algoritmo “informativo” de Google, sino solo para resultados que el buscador coloca artificialmente en los primeros puestos, previo pago. Además, la diferencia visual entre los resultados patrocinados y el resto se ha atenuado con el transcurso de los años, lo que inadvertidamente orienta a numerosos usuarios hacia sitios de empresas que han pagado. Google también tiende a encaminar a los usuarios hacia sus propios servicios en vez de proponerles servicios de terceros —en el ejemplo anterior, el comparador de billetes de Google Flights—.

Es cierto que uno siempre obtiene una cantidad limitada de resultados cuando hace una pregunta, incluido cuando le pide consejo a un amigo o a una agencia de viajes. Pero existen tres grandes diferencias entre estos dos ejemplos: (1) la ilusión de objetividad que transmite la plataforma; (2) la ilusión de control que resulta de ello; (3) esperamos de una misma entidad que responda a todas nuestras preguntas, traten del tema que traten —como si siempre pidiéramos al mismo amigo que resolviera todos nuestros problemas—.

En todos estos casos, se condiciona al usuario, aunque dejándole aún una parcela de libertad, pues en principio este es libre de elegir entre las opciones que se le muestran. Pero, a juzgar por lo que dice el antiguo director ejecutivo de Google, Eric Schmidt, la empresa aspira a llegar mucho más lejos en su control: “Yo creo que la mayoría de la gente no desea que Google responda a sus preguntas. Lo que quiere es que Google le dicte la siguiente acción que deben realizar”79. Dicho de otro modo: más que informarse para estar en condiciones de llevar a cabo una elección libre respecto a la pregunta que tiene en mente, el internauta espera que lo guíen de forma más o menos automática hacia la opción que Google considere la mejor.

Para lograrlo, la empresa utiliza al menos dos técnicas. En primer lugar, incita sutilmente a los usuarios a hacer preguntas cada vez más abiertas. Más que plantear una búsqueda del tipo “Horarios de apertura de la pista de patinaje”, prefiere que le pregunten “Qué hacer hoy con niños en París”. Esto parece augurar una próxima etapa en la que ni siquiera tendríamos que formular preguntas, pues el buscador las anticiparía siempre. La segunda línea ambicionada por la empresa consiste en activar mecanismos que vayan automatizando la delegación de nuestras decisiones en la plataforma. Esto consiste en ir prescindiendo de la etapa —de momento inevitable— en que el usuario debe dar su conformidad —al menos hacer clic— en una de las opciones.

En un entorno dominado por una tecnología “gaseosa” e intrusiva, es posible pensar en un estadio extremo en el que los mandatos surgidos de la tecnología ya no dejaran ninguna libertad al ser humano, sobre todo si la ingeniería social y conductual se anticipara cada vez más a nuestras acciones en compras, salidas, aficiones, experiencias, desplazamientos, relaciones personales, salud, ejercicio físico, opiniones políticas, decisiones profesionales… En cuanto dejamos que los algoritmos orienten nuestras decisiones —grandes o pequeñas—, existe el riesgo de que su influencia vaya en aumento y llegue a ser total a largo plazo.

En el caso de la justicia predictiva, un algoritmo basado en la modelización del comportamiento humano puede indicarle a un juez la probabilidad de que un acusado reincida. Se trataría de una simple ayuda para que este tomara una decisión y, teóricamente, dejaría todo el margen necesario para seguir la recomendación o rechazarla. Sin embargo, “es de suponer que muy pocos se apartarán de una recomendación negativa —la sugerencia de que se prolongue la retención en vez de una liberación condicional o anticipada— al margen de su conocimiento personal sobre la persona afectada y de su íntima convicción respecto al riesgo de reincidencia, pues eso implicaría asumir la responsabilidad de un eventual fracaso”, advierte Antoinette Rouvray, jurista y filósofa80. Es decir, que equivaldría a un condicionamiento considerable de la libertad del juez.

Pero antes de llegar a un determinismo absoluto en el que no hubiera lugar para la “elección”, fijémonos en cómo lo digital controla nuestra libertad ya en el presente, apoyándose en mecanismos mucho más poderosos de lo que imaginamos.

2. Los mecanismos de manipulación
de nuestra voluntad

El mecanismo que sirve a terceros para orientar nuestras elecciones, pensamientos o acciones sin que nos percatemos se asienta en las tecnologías persuasivas. Consisten en utilizar los sesgos cognitivos de un individuo de forma personalizada, a fin de esquivar su aparato crítico e impactar a una persona con gran efectividad mediante un mensaje o una invitación a la acción.

El santuario de la investigación en este campo es el Stanford Persuasive Technology Lab, dirigido por B. J. Fogg, quien explica que todos somos vulnerables ante tipos diferentes de persuasiones, del mismo modo que apreciamos un alimento determinado. Para otros, el miedo a lo desconocido o algún tipo de juego son los botones que hay que pulsar para desactivar parte de su facultad crítica.

Gran parte de la industria digital comercia con nuestros perfiles cognitivos, garantizando a empresas, partidos políticos y otros la capacidad de guiar nuestro comportamiento en una dirección determinada. Ya en 2010, el director ejecutivo de Google advertía de que la eficacia de la tecnología de identificación individual terminaría haciendo casi imposible que alguien no mirase o consumiera algo concebido a medida para él81.

La persuasión —que, a diferencia del convencimiento, consiste en influir en el pensamiento de otras personas por medios no racionales— siempre ha formado parte de la actividad humana, como se observa en la publicidad clásica o los discursos políticos. Pero con la llegada de los ordenadores, explica B. J. Fogg, es posible “crear máquinas que modifiquen lo que piensa y hace la gente, y que dichas máquinas hagan tal cosa de forma autónoma”, es decir, de forma mucho más rápida y sofisticada. Cuando aparece un anuncio en televisión, desplegamos nuestro escudo racional porque somos conscientes de que intentan vendernos algo. Pero las fronteras en el entorno digital son mucho más difusas: en las redes sociales, las “noticias esponsorizadas” se infieren en el contenido “social”, y nosotros somos el objeto de sus recomendaciones ultrapersonalizadas sin que nos demos cuenta. Como ya hemos señalado, en Google es cada vez más difuso el límite entre información y recomendaciones comerciales. Incluso en la prensa digital “seria” prolifera el contenido esponsorizado, a medio camino entre publicidad y contenido editorial.

Para ilustrar la ruptura fundamental que representan estas técnicas, Tristan Harris establece una comparación entre los adolescentes que hace veinte años se contaban sus cosas por teléfono y los que hoy se relacionan por Facebook o Snapchat. Podríamos pensar que se trata de una simple evolución de los medios, sin mayores implicaciones, pero tras los teléfonos no había cien ingenieros que conocen perfectamente cómo funciona nuestro cerebro y hacen lo posible por controlarlo, manipular nuestros sentimientos y sacar el mayor provecho económico de cada una de nuestras interacciones82.

El problema es que la manipulación a la que estamos sometidos nos orienta en el sentido de los intereses de las plataformas, y no de los nuestros. Y estos procesos se producen en la competencia feroz de las aplicaciones por hacerse con nuestro tiempo y nuestra atención. Uno de los factores más impactantes es que la indignación, antes que la serenidad, es más efectiva para enganchar a las personas a las plataformas. A estas, les interesa mucho fomentar la cólera o el resentimiento de los usuarios, pues así se aseguran de que estos pasen más tiempo consumiendo sus contenidos.

La facilidad de identificar nuestros sesgos cognitivos
y la dificultad de protegerse

Al referirnos a sesgos cognitivos que permiten explotar las debilidades psicológicas, podría parecer que se precisa una investigación en profundidad para identificarlas, recopilando una cantidad considerable de información personal. Dicho de otro modo, un adolescente que expusiera su vida en Internet hasta el mínimo detalle sería vulnerable, mientras que aquellos que utilizan las redes sociales “razonablemente” parecerían estar a salvo. Pero hay estudios que muestran que una pequeña cantidad de información bien tratada es suficiente para establecer un perfil cuya explotación pone en entredicho nuestro escudo crítico.

Los investigadores Michal Kosinski, David Stillwell, y Thore Graepel han determinado que, aunque alguien no revele información que considera íntima —como su orientación sexual o su edad—, puede deducirse con ayuda de herramientas estadísticas, a partir de otros aspectos de la vida del individuo aparentemente más anodinos. Una vez más podríamos pensar que esto no es algo nuevo: “Predecir las características individuales del comportamiento a partir de elementos como muestras de textos escritos, respuestas a un test psicométrico o el aspecto de un espacio habitado por alguien es algo que viene de lejos. Pero la migración hacia un entorno digital posibilita fundamentar dichas predicciones en el rastro digital del comportamiento humano”83. Así pues, la edad, el género o la profesión de un individuo pueden predecirse con facilidad, tan solo a partir de su historial de navegación en la web84.

Las plataformas son capaces de reconstituir los eslabones perdidos de nuestro perfil utilizando información en apariencia trivial, como los contenidos consultados, nuestras listas de canciones preferidas en Spotify, las características de nuestra red de amistades o de contactos en Facebook y Twitter o el idioma que empleamos al comunicarnos. Al cabo de 10 “Me gusta”, un modelo informático conoce mejor a una persona que un compañero de trabajo; después de 70 “Me gusta”, mejor que un amigo, y si dispone de 300 supera al propio cónyuge85.

Además de los sesgos cognitivos de nuestra personalidad, nuestro estado emocional también presenta vulnerabilidades que evolucionan. Cuanto más accede una aplicación a nuestros datos, mejor podrá explotar esas variaciones con eficacia y sortear nuestro juicio personal. El reconocimiento facial va un paso más allá pudiendo inferir nuestras debilidades del momento sin que activamente aportemos datos. En China, los restaurantes KFC y el gigante nacional Baidu se han unido para recomendar a cada cliente el “menú ideal” en función de su expresión facial86. El usuario ya no tendría que hacer ninguna elección, sino disponerse a consumir.

Un cortocircuito en nuestro pensamiento

La tecnología digital aspira a satisfacer los deseos del consumidor antes de que este los haya expresado. “Lo que interesa a las plataformas de comercio en línea es saltarse los procesos a través de los cuales construimos y revisamos nuestras opciones de consumo para conectarse directamente a nuestras pulsiones preconscientes y desencadenar la acción de compra, minimizando en lo posible nuestra reflexión. Esto afecta a la capacidad y la libertad de los sujetos para no hacer todo aquello de lo que son capaces”87, en palabras de Antoinette Rouvray.

Al reemplazar nuestros comportamientos por automatismos, nuestra voluntad se ve precedida y anulada, y nuestra existencia se vacía de sentido, coincide el filósofo Bernard Stiegler88. Si cedemos a un tercero nuestras facultades, terminaremos despojados de los deseos, las expectativas, la voluntad. Si interactuamos con una plataforma que anticipa las palabras que tecleamos, esta nos reemplaza y nos transmite la impresión de que sabe lo que queremos, cuando en realidad nos está dirigiendo.

En el capítulo quinto veremos que, además de anular la libertad humana, este fenómeno fomenta un sentimiento de desorientación, pues al individuo le resulta muy difícil revisar sus acciones y comprenderlas, incluso a posteriori. La opacidad de las recomendaciones algorítmicas y la ausencia de representaciones humanas hace casi imposible identificar qué nos ha empujado hacia una elección u otra.

Para entendernos mejor, adelantarse a nosotros y pensar en nuestro lugar, la tecnología trata de penetrar en nuestra subjetividad. Se advierte en este proceso el rol del control del lenguaje por parte de las grandes corporaciones digitales, en especial Google, cuyo modelo de ingresos se basa en una plataforma publicitaria global en la que los anunciantes compiten por adquirir palabras clave. No es casualidad que el grupo al que pertenece el buscador haya sido rebautizado como Alphabet. Google dedica unos recursos considerables a lograr que la máquina comprenda el lenguaje natural, para así analizar las frases de los humanos y en último término pensar en su lugar. Eric Horvitz, investigador de Microsoft, mencionaba en la conferencia “SXSW 2017” un programa de IA capaz de analizar todos los tuits de una persona y concebir en su lugar otro tan personalizado que a este le resultara casi imposible no hacer clic en el enlace que contiene, lo que auguraría una nueva etapa en la limitación de la libertad de las personas89.

3. Un paradigma en el que el individuo no es libre

Todas las técnicas empleadas con el objetivo de controlar nuestras elecciones a través de la IA, el big data y el machine-learning reflejan una visión según la cual el ser humano está encerrado en un determinismo absoluto —biológico, genético, social, etc.— del que bastaría conocer los secretos para anticipar sus acciones, palabras y pensamientos. Así, el ser humano es prisionero de su pasado, en función del cual podría deducirse el futuro; y está totalmente determinado por sus iguales, que, por analogía, permiten inferir lo que hará su semejante en una misma situación. Un enfoque que pone en evidencia dos aspectos de una misma lógica promovida por las plataformas: una consiste en predecir la trayectoria del comportamiento humano, y la otra, en modificarlo.

El ser humano, entre meteorito y rata de laboratorio

Por una parte, este paradigma implica la idea de que el individuo está predestinado y, cual objeto cósmico, tiene una trayectoria calculable. Al descifrar la fórmula que describiera y anticipara la trayectoria futura, cualquier entidad podría tomar decisiones referentes a un individuo, con una baja probabilidad de desviarse en el pronóstico. En el Reino Unido, podría estudiarse un sistema que anticipara si merece o no la pena invertir dinero en la educación de un niño, en función de su comportamiento durante sus primeros años de vida90. Según esta visión, ni el propio individuo ni otros factores externos podrían tener un impacto significativo en su comportamiento futuro, por lo que existiría un enorme incentivo en estudiar tales trayectorias y ajustar nuestras acciones en consecuencia.

En el marco de este determinismo casi absoluto, hay otro modelo que le hace la competencia al del meteorito: el de la rata de laboratorio, con la que se pueden realizar todo tipo de experimentos para modificar su comportamiento. En 2014 Facebook llevó a cabo un experimento con cerca de 700.000 personas para determinar su capacidad de influir en sus navegantes. La empresa modificó su algoritmo de modo que las noticias recibidas por sus usuarios fueran más bien positivas en algunos casos, y más bien negativas en otros. Luego evaluó el estado emocional de los sujetos en función de los mensajes que estos dejaban en la plataforma. Los resultados fueron concluyentes: la red social es capaz de propagar sentimientos positivos o negativos, influyendo en el estado de sus miles de millones de usuarios modificando su algoritmo91.

Lo que asombra no es tanto la conclusión del artículo en sí como el método empleado por Facebook. La empresa no ha respetado aquí ninguna de las normas éticas elementales que se impondrían en cualquier investigación universitaria. Cuando en psicología experimental se hacen ensayos con individuos, estos deben dar su consentimiento obligatoriamente. En este caso, el gigante tecnológico admite de forma implícita haber hecho sufrir a sujetos —incluso a otros usuarios, indirectamente—, algunos de los cuales podrían padecer depresión u otras dolencias psicológicas. Por último, buena parte de ellos probablemente eran niños92. Inquieta la posibilidad de que ese estudio sea la punta del iceberg de las prácticas del departamento de investigación de la empresa, que sin duda está lejos de hacer público todo su trabajo.

Otros asuntos han sacado a la luz la actuación del departamento de investigación de Facebook. Dispone de una aplicación propia que le da acceso a todos los datos del móvil de sus usuarios —a menudo, menores— a cambio de una remuneración93. Más adelante analizaremos las implicaciones que estas prácticas pueden tener en otros campos, sobre todo en materia de vigilancia y abuso de posición dominante. Pero en lo que aquí nos atañe, estas actuaciones ejemplifican la reducción del individuo a un simple objeto experimental, cuya voluntad es algo totalmente secundario.

Vender anticipación, cambio conductual y perfección

Si el ser humano está condenado a seguir una trayectoria determinada que puede identificarse, este conocimiento puede venderse o utilizarse para interponer elementos que la modifiquen. Al adquirir un conocimiento profundo de la personalidad y estado emocional de un individuo, una entidad puede satisfacer las exigencias primarias de las emociones proponiendo productos, entretenimiento o una ideología. Por eso las redes sociales se esfuerzan en afinar al máximo su comprensión de las emociones humanas. En 2016 Facebook desglosó su famoso botón “Me gusta” en seis opciones que incluían amor, tristeza, alegría, sorpresa y cólera, lo que permite cartografiar y escrutar las emociones individuales y colectivas con mucha mayor precisión.

Los programas que prometen asistir a las personas en toda clase de situaciones se apoyan en la idea de que estos sabrían elegir mejor que nosotros. “Si un algoritmo me conoce mejor que a mí mismo y me propone unas opciones más racionales de las que yo podría hacer jamás, si una miríada de objetos conectados se impone a mi capacidad de decisión ofreciéndome una existencia determinada y confortable, si poco a poco dejo de ser el agente de mis propias acciones, ¿para qué necesitaría el derecho a voto o me sometería a la más mínima responsabilidad penal? La IA daría el golpe de gracia al libre albedrío, y con él al ideal kantiano de la autonomía del sujeto. El triunfo del bienestar firmaría la abdicación de la libertad: libertad de elegir, de rebelarse, libertad de equivocarse”, afirma Gaspard Kœnig94.

En este caso, precisemos que la negación de libertad se lleva a cabo en diversos grados, sobre todo en función de la mayor o menor apertura de las preguntas a las que deseamos que responda la máquina. No es lo mismo hacerle a un algoritmo preguntas de orden técnico —como “¿A partir de qué precio debería revender mi casa?” o “¿Debe iniciar su aterrizaje el avión que estoy pilotando?”— que preguntarle, con un enfoque mucho más abierto: “¿Qué hago con mi vida?” o “¿Podría esta persona ser mi alma gemela?”.

En resumen, gran parte de la industria digital ofrece representaciones de la libertad humana extremadamente reducidas, o sin valor real. Sea porque el individuo se limita a avanzar por un camino ya marcado, porque sus acciones son modificables por terceros, o incluso porque no está a la altura de la máquina para tomar las decisiones más adecuadas. Siempre hay una parte de condicionamientos en la acción humana, y rara vez se ejerce la libertad sin ninguna interferencia exterior, pero conocer mejor los elementos que pueden influir en nosotros nos libera parcialmente y reintroduce el juicio allí donde había influencia sin que fuéramos conscientes.

4. ¿El ineluctable progreso de la no libertad?

Ya hemos subrayado algunos elementos que auguran una reducción aún más grave de la libertad humana en favor de las elecciones de terceros: el paso de la simple orientación de nuestros actos a un emplazamiento coactivo; la sofisticación de las técnicas persuasivas facilitadas por algoritmos cada vez más eficaces; objetos inteligentes propios de la tecnología “gaseosa”; la creciente generación de automatismos pulsionales que dejan menos lugar a la reflexión…

Entre las muchas implicaciones de la cesión de datos personales —que veremos más en detalle en el capítulo siguiente—, está la contribución a generar big data, que “entrena” a los algoritmos, de los que deriva la capacidad de lo digital para influirnos. “Cuanto más grandes son los big data, más pequeños parecen los ámbitos en los que mantenemos nuestra capacidad autónoma de decisión”95, apunta el filósofo Daniel Innerarity. Observamos cómo, por influencia de industrias ávidas de obtener beneficios y perfeccionar sus modelos, crece cada día la recolección de datos, que ayudan a identificar nuestras debilidades cognitivas y al mismo tiempo a generar capacidad predictiva.

Algunas aseguradoras ya empiezan a ofrecer una reducción de la prima a cambio de los datos de sus clientes, proporcionando, por ejemplo, un brazalete que calcula las constantes vitales y otros datos que reflejan nuestro modo de vida. Al principio, el asegurado sin duda se alegre de que le bajen la prima y se prestaría de buen grado a este juego, pero luego ya no podría echarse atrás, incluso si, llegado el momento, la compañía le obligara a seguir sus indicaciones si no quiere que le suban la prima. La tecnología sabe ser intimidatoria a la hora de obtener lo que desea. Kira Radinsky, directora científica en eBay, lanzaba esta amenaza en 2018: “No compartir los datos médicos es causar la muerte de alguien por descuido. Lo mismo se aplica a los datos relacionados con el terrorismo”96.

En lo que respecta a la política crece la duda sobre la capacidad de la población para decidir al margen de las tecnologías persuasivas. El periodista Jamie Bartlett nos advierte del peligro existencial que plantean los marketers políticos apoyados en la tecnología, capaces de prever los mecanismos que intervienen en la toma de decisiones de un elector. Según Bartlett, los potentes instrumentos de influencia digital cambiarán el tipo de personajes políticos a los que elegiremos, debido en especial a la posibilidad de grupos ricos y poderosos de intervenir en las elecciones de un modo que ni siquiera está al alcance de nuestro entendimiento97.

La reducción de la libertad humana por lo digital no surge de la nada: antes de ser progresivamente “encerradas”, las personas fueron enganchadas y luego modificadas. Su vida interior fue en parte suprimida y su capacidad de pensar de forma autónoma se ha visto sacudida. Tendencia que se inscribe en una antropología basada en la utilidad, la cantidad y lo material, y que no considera la libertad como un valor primordial.

Esto puede resultar sorprendente, ya que nos gusta pensar que el entorno digital actual se acomoda bien a la ideología liberal, cuando no ultraliberal. Se observa una aparente contradicción del liberalismo: si deseamos crear un entorno que maximice nuestras libertades, parece primordial poner límites a la libertad de crear y utilizar tecnologías de vocación liberticida.

El trasfondo ideológico que se vislumbra en este golpe a la libertad humana no es en absoluto igualitario. Una gran mayoría quedaría encerrada a expensas de una minoría: la élite tecnológica. Si el ser humano es reducido a una rata de laboratorio, tiene que haber científicos que lleven a cabo los experimentos y que cuenten, por su parte, con todo el margen de libertad. Estos son los mismos que preservan a sus hijos de una exposición demasiado intensa a los vectores de sometimiento. Parece que se establece una desigualdad creciente según el grado de comprensión del mundo digital. “Los usuarios que más saben se están alejando de los dispositivos y están tomando conciencia de cómo afectan los algoritmos a sus vidas. Mientras, los consumidores que disponen de menos información se apoyan cada vez más en los algoritmos para guiar sus decisiones”, explica Anjana Susarla, de la Universidad de Michigan. “Optar por no estar bajo la influencia de un sistema de recomendación algorítmica es un lujo, y algún día podría convertirse en un símbolo de riqueza solo al alcance de muy pocos. La cuestión entonces consiste en evaluar qué perjuicios sufrirán aquellos que se encuentran en el lado equivocado de la zanja digital”98.

Queda saber si la influencia tecnológica ejercida en el ser humano le empuja en alguna dirección en particular. La mayoría de los ejemplos ilustran la reducción del individuo a un objeto económico, sometido a intereses que lo sobrepasan. Cuando no está produciendo mediante el trabajo, no es más que un consumidor cuyo apetito comercial se pretende maximizar. Nada mejor que magnificar en él su deseo y reprimir los medios que le permiten regularlo, a fin de transformarlo en un consumidor compulsivo que haga clic en un acto reflejo.

Si para Tristan Harris cada cual debería preguntarse “¿A partir de qué momento dejo de elegir yo?”, en realidad es muy difícil responder al momento, a menos que logremos escaparnos del contexto frenético en el que estamos sumergidos. De modo que también resulta pertinente preguntarse: “¿A partir de qué momento el entorno en el que evoluciono ya no me permite elegir?”. Si hasta ahora hemos tratado la cuestión desde el punto de vista de la influencia y de la limitación de nuestra consciencia, a continuación examinaremos otra faceta de esa reducción de nuestra libertad: cómo favorece la tecnología digital el desarrollo de una infraestructura de vigilancia y control.

Capítulo 4

Vigilados. Vigilar y prevenir

Cuestiones clave:

¿De qué modo se articula el vasto aparato de vigilancia digital que recaba nuestra información personal?

¿Qué motiva la reducción de nuestra vida privada?

¿Qué implicaciones tiene el nuevo modelo económico basado en la vigilancia?

La cuestión de la vigilancia en un entorno hiperconectado está íntimamente relacionada con la que tratábamos en el capítulo anterior, pues también tiene que ver con la construcción de un entorno liberticida a través de medios digitales.

Al aumentar su asedio sobre todos los aspectos de nuestra existencia, la tecnología al servicio de la vigilancia nos vuelve más frágiles ante la maquinaria de persuasión. Pero la vigilancia no es solo un instrumento al servicio de la influencia ejercida después sobre el individuo, sino que también ejerce otro tipo de control, al impedirle desviarse de una norma establecida. Para lograrlo, se esfuerza por un lado en reducir a la nada nuestra intimidad, condición misma de nuestra libertad; y por otro, en poner en marcha un sistema restrictivo que alerta o castiga toda vulneración de la norma. Pese a esta distinción, en ocasiones la frontera entre la persuasión y la vigilancia es borrosa, pues ambas aspiran a ejercer el control sobre los individuos.

Pero ¿en qué consiste exactamente esta infraestructura, fruto de la alianza entre intereses privados y estatales, que nos desnuda para tenernos más sometidos?

1. Orwell en Xi Jinping

Desde 2016, en la provincia de Ghizhou, situada en la región china de Guangxi Zhuang, diez escuelas han dotado a sus alumnos de unos uniformes inteligentes desarrollados por la empresa Guanyu Technology. Equipados con dos microchips electrónicos, uno en cada hombro, permiten seguir el menor movimiento de los niños. Profesores y progenitores reciben automáticamente sus horas de entrada y salida del edificio, y un aviso cuando se detecta un rodeo no autorizado o si se duerme un niño. Un sistema de reconocimiento facial completa el dispositivo y detecta toda tentativa de intercambio de uniformes.

A 1.500 kilómetros de allí y dos años más tarde, en el instituto número 11 de la ciudad de Hangzhou —provincia de Zhejang— se implementó un programa denominado Smart Classroom Behaviour System, el cual lleva un poco más lejos el control de los alumnos por medios tecnológicos, en especial a través del reconocimiento facial. A lo largo del curso, tres cámaras siguen cada 30 segundos las expresiones del rostro de cada niño para detectar su humor, que a continuación se clasifica en categorías: sorpresa, tristeza, antipatía, cólera, alegría, miedo y “neutra”. Disponibles en tiempo real para los profesores, esos indicadores alertan cuando se determina que un alumno no está atento, y al final del curso se establece una media para cada uno. El sistema también analiza las actividades y las posturas. Según el director, al principio los estudiantes se sentían acosados, pero terminaron acostumbrándose. Una alumna declaró: “Desde que el colegio empezó a usar estas cámaras es como si unos ojos misteriosos me analizaran constantemente, y ya no me permito distraerme”99.

Estos ejemplos extraídos del universo educativo son solo un indicio del aparato de vigilancia que se está desplegando en China. El gigante asiático es un buen candidato para indicarnos a qué podría asemejarse el entorno hipervigilante del mañana. Según Gregory Walton, especialista en ciberseguridad de la Universidad de Oxford, tres factores explican que China sea pionera en materia de vigilancia: “Su población es enorme, los datos personales están muy poco protegidos y el Estado invierte masivamente en inteligencia artificial”. La digitalización extremadamente rápida del país a lo largo de la década de 2010 permitió “hacer realidad una ambición política que los dirigentes chinos alimentan desde hace setenta años”100.

Mientras que Liu Xiaobo, Premio Nobel de la Paz en 2010, celebraba los inicios de Internet afirmando que representaba un “milagro para China”, su actual presidente, Xi Jinping, está decidido a priorizar lo digital a fin de controlar a la población. En 2017 aseguró que “la sensación de seguridad es el mejor regalo que un país puede ofrecer a su pueblo”, justificando así el entramado de cámaras que hoy en día rastrea a los ciudadanos chinos y alardeando de que su país posea el 42% de todas las que existen en el mundo —es decir, 170 millones de cámaras en 2018101—. Desde 2020, el programa “Red del cielo” debe asegurar así la cobertura de la mayoría de los grandes lugares públicos mediante videovigilancia, complementada con tecnologías de reconocimiento facial como las de los colegios de Ghizhou y Hangzhou102.

El otro pilar de este aparato de vigilancia reside en las aplicaciones móviles. La aplicación WeChat, editada por el gigante tecnológico Tencent, es una especie de WhatsApp cuyo perímetro se ha ampliado progresivamente hasta llegar a ser una verdadera app for everything. Permite intercambiar mensajes y enviar geolocalizaciones, pero también reservar un taxi o billetes de avión, enviar dinero a alguien, hacer trámites administrativos, poner las facturas al día, pedir un préstamo, gestionar el ingreso en un hospital, buscar vivienda e incluso retirar papel higiénico en algunos servicios públicos103. Con sus 1.150 millones de usuarios activos en 2019104 —es decir, el 99% de la población mayor de 15 años—, ya es casi imposible esquivar WeChat en la vida cotidiana china. Un instrumento perfecto que, combinado con otras plataformas oligopolísticas que intercambian múltiples informaciones con la administración, permite acechar los actos, gestos y comunicaciones del conjunto de la población. Un sistema de vigilancia con el que sin duda habrían soñado muchos regímenes totalitarios del pasado.

El sistema de crédito social

El objetivo de semejante infraestructura de vigilancia es converger en la denominada “puntuación de crédito social”, es decir, la nota que se otorga a cada ciudadano en función de las actividades que realiza y que se supone que reflejan el buen o mal comportamiento de cada uno. En función de dicha nota, se aplican determinadas recompensas y sanciones. El programa se probó a nivel local en 43 ciudades hasta 2020, pero con vocación de extenderlo y coordinarlo a nivel nacional. El objetivo de las autoridades es “incrementar la honradez […] de la sociedad en su conjunto”105 y “reconstituir valores morales”106, según Lin Junyue, uno de los principales arquitectos del proyecto. Y, cómo no, controlar todo lo posible a los 1.400 millones de chinos.

Para definir los comportamientos que el “crédito social” recompensa o sanciona, los criterios se basan en la obediencia a la ley, la actitud ante otros ciudadanos y autoridades, el respeto a los plazos para pagar impuestos y el reembolso de préstamos. Los actos incívicos captados por las cámaras, como tirar desperdicios en la calle o no detener el coche ante un paso de peatones, pueden ser igualmente sancionados. También el hecho de eludir a la autoridad local para resolver un problema y difundir mensajes considerados hostiles al Gobierno, en forma de “informaciones negativas”107. En algunos lugares el perfil de cada ciudadano se alimenta de otros datos, como el historial de compras. Donar sangre o hacer favores a personas mayores son buenas acciones recompensadas por estos mismos programas —hechos que a veces los ciudadanos deben acreditar presentando alguna foto—.

Las recompensas pueden incluir descuentos en los transportes, facilidad de acceso a servicios públicos o a créditos y simples distinciones simbólicas. Los ciudadanos con una nota demasiado baja pasan a engrosar una lista negra, por lo que ya no pueden acceder a determinados empleos, reservar billetes de avión o de tren a gran velocidad durante un año, frecuentar hoteles de lujo o pedir dinero prestado. El sistema alimenta asimismo el descrédito público de aquellos cuyo marcador se desplome, ya que sus rostros y nombres van apareciendo en la red social WeChat, programas de televisión local y muros de los ayuntamientos, junto con la mención de los puntos que han perdido.

En la ciudad de Rongcheng, que dispone de uno de los sistemas más avanzados, los habitantes están clasificados en seis categorías, que van de AAA a D, y disponen de un capital inicial de 1.000 puntos. Tener menos de 849 puntos equivale al nivel C, que condena a una vida de paria, pues cierra las puertas a numerosas instituciones y oportunidades; en el otro extremo, los que están en el AAA tienen derecho a exámenes médicos gratuitos y otras subvenciones108. Cada noche, el programa La vida del pueblo 360, que difunde los comportamientos incívicos captados por cámaras a lo largo del día, mostrando el rostro y en ocasiones el nombre de los responsables, fascina a los habitantes109.

En cuanto al Ayuntamiento de Hangzhou, por ahora dispone de dos sistemas diferentes de crédito social: uno es público y el otro, denominado Crédito Sésamo, está gestionado por la filial financiera del gigante de Internet Alibaba, que contaba con casi 700 millones de usuarios en 2019110 —500 millones dos años antes—. Esta declaró recabar cinco tipos de datos: (1) las transacciones de compras, (2) el reembolso de préstamos al consumo, (3) el patrimonio inmobiliario y los productos financieros, (4) un perfil personal que incluye estudios, aficiones, etc., y (5) las transferencias monetarias en beneficio de otros usuarios. Uno de sus responsables reconoce que el sistema deduce que un usuario que dedica 10 horas al día a los videojuegos puede considerarse perezoso, mientras que alguien que comprase pañales sería etiquetado a priori como más responsable, pues su algoritmo deduciría que tiene hijos111.

Lin Junyue está atento al desarrollo de estos experimentos locales que han de conducir al verdadero crédito social nacional. Este investigador trabaja en el embrión del proyecto desde finales de los años noventa. Inicialmente, el objetivo consistía en establecer un sistema de evaluación de la solvencia de las sociedades chinas, a fin de que otras empresas, especialmente las extranjeras, supieran cuáles eran dignas de confianza para hacer negocios. En un primer momento Lin Junyue juzgó interesante extender este mismo principio al conjunto de la población. Nació calcado al modelo de las agencias de calificación financiera. En 2002 se rebautizó como “crédito social” en referencia a la “seguridad social”, y el Banco de China lo utiliza desde 2006. En 2012 las autoridades decidieron ampliar su perímetro para que abarcara todos los ámbitos de la existencia de un individuo112.

Sean cuales sean los límites exactos del sistema de crédito social, este se fundamenta en un aparato de vigilancia con ramificaciones tanto de seguridad como comerciales, y que envuelve todos los aspectos de la vida. Las cámaras de videovigilancia tienen la capacidad de identificar a cualquier ciudadano en un tiempo récord. El programa de reconocimiento facial nacional recorre en 12 minutos la base de datos que incluye al conjunto de la población113. Los rostros de los miembros del Falun Gong —movimiento perseguido por las autoridades— son específicamente detectados cuando se encuentran en lugares públicos concurridos, y el contenido de los mensajes que intercambian comunidades consideradas sospechosas, como los uigures, es analizado para detectar indicios de una potencial hostilidad al régimen. Una vez sistematizada, esta infraestructura “acrecentará la capacidad del Partido de moldear el comportamiento de los individuos”, de acuerdo con el principio de actuar preventivamente “a fin de evitar la aparición de cualquier problema susceptible de amenazar al régimen”, según Samantha Hoffman, investigadora del Mercator Institute for China Studies114.

El sistema de vigilancia chino —que afirma impulsar la reconstrucción moral del país—, en el mejor de los casos infantiliza a los ciudadanos para civilizarlos de una forma predefinida. Y en el peor, los castiga de antemano por su potencial desviación futura. Se trata de un sistema totalitario porque no deja ningún espacio privado o íntimo y pretende regular de un modo centralizado cualquier “problema”. Ejerce una fuerza uniformadora que suprime toda diversidad. Refuerza ese control social tan vertical con la vigilancia horizontal, entre los propios ciudadanos, y garantiza que todos los agentes de la sociedad adopten ese sistema normativo como el único.

¿Prefigura esta sociedad lo que será mañana el mundo por efecto de la digitalización total? ¿O esta vigilancia de masas está estrechamente ligada a la naturaleza del régimen chino y es el resultado lógico de la digitalización solo en un Estado autoritario? Cuesta imaginar que las democracias liberales puedan llegar a borrar directamente mensajes intercambiados entre los ciudadanos, como lo hace la Administración del Ciberespacio en WeChat cuando los considera peligrosos. En Estados Unidos, las autoridades, pese a todas las presiones que ejercen contra Apple, aparentemente no logran obtener de la compañía el desbloqueo de los iPhone de los terroristas, pues la empresa antepone a la seguridad nacional la promesa de respetar la vida privada hecha a sus usuarios115.

Al mismo tiempo, esta “red de videovigilancia omnipresente, completamente conectada y permanentemente controlable, por imperativo de la seguridad pública”116, que en 2015 reclamó el Ministerio de Seguridad Pública chino, quizá no sea tan fundamentalmente distinta de las que reclaman las democracias occidentales, en especial frente al desafío terrorista y de seguridad, así como para luchar contra el fraude fiscal o incluso para controlar cada vehículo y dominar su circulación. ¿Cabe recelar de un deslizamiento más discreto hacia la explotación de datos para rastrear la vida de cada individuo con fines de control y de normalización? Dicho de otro modo: ¿la tecnología que sirve de base a dicho aparato de vigilancia podría pesar más que la voluntad de las democracias y sus ciudadanos de preservar las libertades individuales?

2. ¿Un panóptico global
para disciplinarnos mejor?

Podemos empezar constatando la porosidad entre el sistema de vigilancia chino y los Estados liberales. China exporta su tecnología de vigilancia, de forma en ocasiones inesperada. Los dos líderes mundiales de la videovigilancia, Hikvision y Dahua Technologies, chinos ambos —el principal accionista del primero es el Estado chino— distribuyen sus productos en el resto del mundo, sobre todo en Estados Unidos. Se supo que en 2017 la policía de Memphis e incluso una base del ejército norteamericano en Misuri utilizaban la tecnología de Hikvision, que desde entonces fue retirada de la lista de proveedores autorizados debido a los riesgos de ciberseguridad117. A otro nivel, países como Canadá han empezado a tener en cuenta el sistema de crédito social Sésamo —el operado por Alibaba— para procesar las solicitudes de visado por parte de ciudadanos chinos118.

Y a la inversa, China se alimenta de la tecnología occidental para perfeccionar su sistema de seguridad, sea cual sea su uso final. Ya en 2005 Liu Xiaobo —por entonces futuro Premio Nobel de la Paz— acusó a Yahoo! de rastrear el correo y la dirección IP de la periodista Shi Tao que llevó a su detención por revelar documentos internos del Partido Comunista Chino para denunciar el silencio en torno al decimoquinto aniversario de los hechos de la plaza de Tiananmen—. La empresa norteamericana Cisco, que participó en el desarrollo del “gran escudo dorado” chino —un programa que permite censurar la red—, concibió un programa de inteligencia artificial que es “el único capaz de reconocer el 90% de las informaciones gráficas sobre el Falun Gong”, según su propia documentación comercial.

Para algunos, la absolución de Cisco tras el primer juicio que se le interpuso estableció un precedente que dejaba vía libre para que las empresas norteamericanas siguieran desarrollando la IA por cuenta de Gobiernos extranjeros con fines de opresión política119. Así, en 2019 la compañía de Massachusetts Thermo Fisher le vendió a China unos analizadores de ADN que se utilizaron para registrar genéticamente a los uigures en el marco de la represión preventiva de gran alcance ejercida sobre esta minoría.

XKeyscore

Aún hoy cuesta asimilar las revelaciones que hizo Edward Snowden en 2013 sobre las prácticas de la Agencia de Seguridad Nacional (NSA), la agencia de Estados Unidos especializada en la información de origen electromagnético y con la que él colaboraba. Delató la existencia de un programa que describió como una especie de “Google para espías”, y que permite rastrear “prácticamente todo aquello que un usuario típico puede hacer en Internet”, en palabras de la propia NSA. Cumplimentando unos campos concretos —apellido, pseudónimo, dirección electrónica, sitio de Internet, etc.— para determinar una búsqueda, casi cualquier analista de la agencia, sin previa autorización, podía consultar el contenido de los correos electrónicos y el historial de navegación de una persona o escuchar sus conversaciones120. Y Snowden añade: “Incluso cuando está encriptado, aunque no se pueda ver la página exacta que buscas, sí se ve al menos que lees tal información, que estás vinculado a tal partido político, que vas a tal iglesia, que has votado a tal candidato en las elecciones, con qué personas te relacionas, a qué hora te levantas según tu alarma…”121.

Pese a las pruebas aportadas por Snowden, la NSA siempre ha desmentido que este programa sea accesible de un modo tan amplio122. Asimismo, ha negado que los ciudadanos estadounidenses sean objeto, como los extranjeros, de tal vigilancia. Sin embargo, documentos internos han revelado que los intentos de la agencia por separar las comunicaciones internas en Estados Unidos de aquellas que tienen lugar en el extranjero no eran ni mucho menos concluyentes123.

Pero, aunque diéramos crédito a la versión de la NSA, la existencia de XKeyscore —a la que se habría facilitado el acceso a servicios de inteligencia de Australia, Canadá, Nueva Zelanda, Japón y, probablemente, Alemania— significaría que el resto del planeta se encuentra en un auténtico panóptico benthamiano, en el que todo el mundo sabe que toda acción que deje un rastro digital puede ser observada. Y de paso recalca el imperialismo de la primera potencia mundial, que deja a los extranjeros sin ningún recurso posible.

El general Keith Alexander, que estuvo a la cabeza de la NSA entre 2005 y 2014 antes de fundar su propia agencia privada de seguridad, fue uno de los más fervientes objetores a las revelaciones de Snowden, y paradójicamente también uno de los que mejor detallaron la doctrina de la información que es la base de las prácticas reveladas por aquel. Ante una comisión del Senado norteamericano, Alexander declaró que consideraba “del interés de la nación guardar todos los datos procedentes de llamadas telefónicas en una caja de seguridad en la que puedan efectuarse búsquedas”124. Y en privado admitía que su objetivo consistía en “escuchar todo el Internet mundial”125. Pero tal y como se pregunta Bernard Barbier, exdirector técnico de la agencia de inteligencia exterior francesa: “¿Qué significa ser sospechoso? ¿Van a detener a alguien que se dispone a salir del territorio francés porque un robot de la NSA decide que es sospechoso? Tiene que haber unos límites, y corresponde a los políticos definir dónde están dichas limitaciones”126.

LAS IMPLICACIONES DE UNA POLICÍA PREDICTIVA

La idea de recabar una gran cantidad de datos y analizarlos para prever mejor los delitos y los crímenes antes de que se cometan resulta seductora, según cómo se mire. Los cuerpos policiales de distintos países han empezado a probar programas de big data a fin de detectar patrones de criminalidad. El tipo de aplicación más extendido consiste en predecir dónde y cuándo es más probable que se cometan crímenes, y en reflejar dichas probabilidades con zonas de calor en un mapa. Sin embargo, algunos observadores han constatado que, cuando estas herramientas se utilizan de un modo que consideran razonable, solo señalan zonas de riesgo habituales o indican que hay

más opciones de que determinados delitos se comentan cuando es de noche*. Es de temer que dichas predicciones condicionen a la policía y la inciten a actuar de forma desproporcionada en un lugar o en un momento marcado con riesgo elevado, basándose en una simple probabilidad. Por no hablar de que los modelos cometen errores, y con frecuencia no son trasparentes ni explicables.

El concepto de policía predictiva se refiere también al establecimiento de perfiles de potenciales delincuentes detectando patrones de comportamiento a los que un algoritmo atribuiría un índice de probabilidad de que se materializara. En principio, la preservación de los derechos de los ciudadanos requiere que la policía acredite unos hechos precisos para poder realizar una detención, o al menos que el sospechoso esté en posesión de un objeto razonablemente vinculado con la materialización del delito. Incluso para poder proceder a un control de identidad, un agente debe basarse en una sospecha fundada. Unos elementos que resulta imposible proporcionar si se detiene a alguien por un delito potencial, a raíz de una alerta emitida por una caja negra algorítmica y basada en estadísticas.

* Guillaud, Hubert, “Où en est la police prédictive”, InternetActu, 26 de julio de 2017.

Siempre identificables. ¿El necesario final del anonimato?

Todos recordamos escenas de películas en que la policía judicial o los servicios de información identifican a un terrorista a o un malhechor cuyo rostro aparece en la gran pantalla de una sala de control después de haber sido identificado en una base de datos de personas buscadas. Estos recursos de reconocimiento facial parecen estar “democratizándose”. En 2017 se creó la start-up norteamericana Clearview AI, que recibió pocos millones de dólares de financiación y solo tiene unos cuantos empleados, pero quiere llevar a cabo una pequeña revolución. Lo que propone es una aplicación bajo licencia para que policías locales y agencias de información puedan tomar una foto a una persona y recibir de vuelta todas sus imágenes disponibles públicamente, así como los vínculos que permitan acceder a las páginas de las que han salido. Clearview compiló los más de 3 mil millones de fotos que tiene en su base de datos a partir de millones de webs como YouTube o Facebook. Aunque al hacerlo infringió las condiciones de uso de dichas webs.

Como ocurre con otros sistemas de reconocimiento facial, la tecnología desarrollada por esta start-up transforma las imágenes en fórmulas matemáticas a partir de la geometría del rostro de las personas fotografiadas. A continuación, se remite a redes de neuronas para compararlas con otras imágenes de su gigantesca base de datos. Los agentes de policía, acostumbrados en el mejor de los casos a buscar en bases de datos gubernamentales limitadas, parecen generalmente encantados con la facilidad y la eficacia de esta herramienta, que permite fichar a casi todo el mundo.

Pero si empresas como Google, que no se caracteriza por el respeto a la vida privada, han declarado que prefieren no ir por ese camino “por miedo a que derive en usos muy dañinos”127, y si algunos ayuntamientos han prohibido el uso del reconocimiento facial, es porque su generalización implicaría un giro preocupante. En el caso de Clearview, de la que se cree que ya ha sido adoptada por 600 agencias de Estados Unidos sin que las autoridades la hayan supervisado ni se haya efectuado un debate serio, podríamos empezar por señalar la violación de los derechos de los usuarios de los servicios que han alimentado esa base de datos con sus fotos sin su consentimiento. Por otra parte, cuanto más generalizado es un archivo, más probabilidades hay de que la aplicación confunda a individuos que se parecen. Pero la crítica de esta práctica no debería llevarse a la eficacia, pues esta siempre podría mejorarse sin que eso resolviera la cuestión de fondo.

La periodista del New York Times, Hill Kashmir, que investigó sobre esta start-up y pidió ser fotografiada por agentes de la policía para hacer una prueba, terminó en una lista de personas vigiladas por la empresa. Además, demostró que esta tenía el poder de manipular los resultados mostrados a los usuarios.

Por supuesto, podríamos celebrar que sea mucho más fácil resolver algunos crímenes y detener a sus responsables, tanto como podrían temerse los abusos a los que podría conducir semejante herramienta en manos de cualquier policía. Además de las agencias de seguridad privadas, podría haber vendedores que lo usaran para reconocer a clientes. Los inversores de Clearview prevén que llegue a estar disponible para el gran público. La empresa tiene también la intención de lograr que funcione en gafas de realidad aumentada.

Para algunos, esta tendencia resulta inevitable y por lo tanto es inútil combatirla: “A medida que el volumen de información crezca, ya no volverá a haber vida privada”, afirma David Scalzo, uno de los inversores de la compañía. “Las leyes determinan lo que es legal, pero no pueden prohibir la tecnología. Sin duda, esto puede desembocar en un futuro distópico, pero no podemos prohibirlo”128. En tal caso, las causas profundas de una vigilancia masiva y generalizada no dependerían tanto del tipo de sistema político de un Estado —autoritario o liberal— como de las aplicaciones incontrolables de la tecnología digital.

En el extremo opuesto numerosos juristas reclaman una legislación urgente para que tecnologías de este tipo se declaren totalmente ilícitas. Woodrow Hartzog, profesor de Derecho y de Informática en la Universidad de Northeastern, no ve “ningún futuro en el que seamos capaces de dominar los beneficios de las tecnologías de reconocimiento facial sin sufrir los excesos de vigilancia que conllevan”129. De hecho, las autoridades de ciudades norteamericanas como San Francisco, Berkeley y Oakland ya han prohibido su uso. Pero esta prohibición no puede limitarse a las autoridades, sino que debe aplicarse a los agentes privados. De lo contrario, esta tecnología, combinada con programas que permitan desencriptar las emociones, nos sumiría en una espiral de control y manipulación potencial sin precedentes e intensificaría las dinámicas que describíamos en el capítulo anterior.

Si, en palabras de Luke Stark, investigador de Microsoft, el reconocimiento facial es “el plutonio de la IA”, si “es peligrosa, racializante y tiene muy pocos usos legítimos, debe ser regulada y controlada al igual que el material nuclear”130. A la luz de los desafíos de primer orden que han subrayado juristas, filósofos y la propia comunidad científica, resulta sorprendente que una start-up como Clearview se encuentre en situación de desplegarla sin precauciones e incluso en colaboración con las autoridades. Pero los medios endebles que han sido necesarios para implementar semejante tecnología encubren, sobre todo, el impulso que en los últimos años ha experimentado un inmenso aparato de captación de datos personales. Este desarrollo, fruto de una connivencia monumental entre intereses gubernamentales y privados, es lo que analizaremos a continuación.

3. La emergencia del ‘capitalismo
de la vigilancia’

Este nuevo poder […] no utiliza soldados para amenazar y matar. Irrumpe blandiendo un capuchino, no una pistola131.

Shoshana Zuboff

Si bien el aparato de vigilancia global sigue una lógica disciplinaria y de seguridad definida por Estados, responde también a exigencias procedentes del sector privado. Bajo aspectos diferentes, estas dos dinámicas comparten en realidad un mismo objetivo: el de recabar y tratar la mayor cantidad posible de datos personales, a fin de descomponer al individuo para controlarlo mejor. Y también tienen en común los medios para lograrlo. La convergencia histórica de estos dos intereses es por lo que, desde hace veinte años, se ha reducido el espacio privado imponiendo al ciudadano y al consumidor un yugo invisible.

En Estados Unidos, donde se concentran las mayores empresas tecnológicas y al mismo tiempo unos servicios de inteligencia con unos medios significativos, la colaboración entre estos dos sectores viene de lejos. Detrás de grandes innovaciones tecnológicas como Internet, encontramos la presencia de las agencias militares y de inteligencia, especialmente la DARPA (Defence Advanced Research Projects Agency)132, que financia proyectos tecnológicos en sectores estratégicos para el país. En 1999 la CIA estableció un fondo de capital riesgo, In-Q-Tel. Fue el origen de empresas como Keyhole, Inc., donde se elaboraba un programa de cartografía por satélite que más tarde sirvió de base para el programa Google Earth. Durante un tiempo, In-Q-Tel fue accionaria de Google. Tras los atentados del 11 de septiembre de 2001 se incrementó la financiación de los servicios de información, al mismo tiempo que se establecía un nuevo paradigma que dejaba obsoletas las divisiones tradicionales, sobre todo entre el sector público y el privado.

En las agencias de inteligencia creció el interés por todos los servicios digitales que facilitaran la recogida de datos personales. El departamento de ANT (Access Network Technology) de la NSA tiene como objetivo desarrollar “puertas traseras” que faciliten el acceso a los smartphones por parte de los servicios de inteligencia. Incluso el contenido de los iPhone, con fama de impenetrables, puede ser accesible para la NSA, gracias a pequeños programas (scripts) que, según documentos internos de la agencia revelados en 2013, permiten vigilar 38 elementos diferentes, incluidas las fotos, los mensajes, los contactos, las llamadas y las aplicaciones de redes sociales133.

La vigilancia estatal y la privada también hacen coincidir sus intereses en contratos de colaboración por los que las empresas tecnológicas ponen sus medios al servicio de agencias, especialmente en materia de IA. Google previó asistir al Pentágono para analizar las imágenes recogidas por sus drones en el marco del proyecto Maven, que aportaría 250 millones de dólares a la compañía134. Microsoft puso su programa Azure al servicio del control de las fronteras norteamericanas. Amazon vendió su sistema de reconocimiento facial Rekognition, supuestamente capaz de reconocer a “personas de interés” para las fuerzas del orden.

La vigilancia digital como nuevo modelo económico

En los inicios de Internet, la industria tecnológica disponía de medios todavía limitados para recoger y tratar los datos personales que circulaban por la red. Las velocidades de conexión limitaban también el grado de integración de los servicios en nuestra vida. Pero al estallar la burbuja especulativa de las puntocom, el paisaje y la cultura de Silicon Valley cambiaron rápidamente en beneficio de una cultura del crecimiento extremadamente agresiva. El inversor Roger McNamee señala la emergencia de una ola de business angels —inversores individuales—, con la “Paypal Mafia”135 en primer lugar, que impusieron una nueva cultura del crecimiento para construir monopolios y eliminar cualquier obstáculo que impidiera ganar nuevos usuarios. Esta filosofía emprendedora sirve de base a nuevas plataformas gratuitas que enseguida se vuelven globales y que se inmiscuyen mucho más en nuestra vida cotidiana, y así generan datos que capturan una mayor parte de nuestra existencia. Se proponen obtener beneficios con la publicidad, y para ello ofrecen a los anunciantes una gran cantidad de soportes. Según McNamee, es en aquel momento cuando las amenazas iniciales vinculadas a la vida privada en el terreno digital —fundamentalmente relacionadas con los robos de identidad y de los datos de pago— son reemplazadas por un peligro mucho más hondo y difícil de advertir por parte de los usuarios: un modelo de generación de beneficios directamente basado en la vigilancia136.

El momento fundacional de lo que la profesora de Harvard Shoshana Zuboff bautizó como “el capitalismo de la vigilancia” tuvo lugar cuando Google descubrió en 2002 que los datos generados por sus búsquedas eran una especie de bola de cristal que permitía adivinar el comportamiento de los usuarios e influir poderosamente en ellos. Los dirigentes del motor de búsqueda tuvieron entonces la idea de instituir un “mercado de la predicción del comportamiento futuro” que pronto daría lugar a uno de los comercios más lucrativos de la historia. Se dieron cuenta de que, cuantos más datos poseían y cuanto más diversificados eran, mejor conocían a sus usuarios y, por lo tanto, más capacidad tenían de hacer rentables sus predicciones. Fue el inicio del desarrollo de un vasto conjunto de servicios orientados a penetrar en todas las dimensiones de la vida del usuario.

Con Gmail en 2004, Google creó un producto directamente vinculado con la identidad de cada individuo, lo que permitió a la empresa digitalizar todas las comunicaciones por escrito del usuario y recoger datos sobre el resto de su actividad en línea. Con Google Maps en 2005, la empresa se dotó de una herramienta con la que rastrear sus desplazamientos. Aquel mismo año, con Google Analytics, gran parte de los sitios de Internet externos se incorporaron al ecosistema del motor de búsqueda introduciendo rastreadores de Google en su propio código, de modo que este podía seguir su actividad y acceder al historial de navegación de los usuarios. Una lógica que se prolonga con Google Assistant y con Google Street View, que incrementan la capacidad de cercar la vida de los usuarios asociando a ellos los datos derivados de otros servicios. Con Picasa —adquirido por Google en 2004 y luego integrado en Google Photos—, la empresa obtuvo conocimiento visual de sus usuarios al tiempo que empezó a leer sus agendas en 2006 con Google Calendar.

Estos tentáculos permiten a Google captar, transformar y apropiarse de la experiencia humana con una cantidad ingente de datos. Como en una fábrica fordiana, describe Zuboff, el gigante ha construido una línea de montaje en la que el producto —la predicción conductual— es manufacturado a bajo coste por unidad a partir de una materia prima —nuestros datos personales— y luego vendido al mejor postor. Entre 2000 y 2004 los beneficios de Google aumentaron un 3.590% a medida que este empezaba a obtener “dividendos” derivados de la vigilancia. Esta manera de generar tan masivos beneficios vendiendo predicción conductual contaminó primero a Facebook para luego propagarse a todo el sector tech y posteriormente al resto de la economía137.

Todos los sectores observaban con deseo las rentas sin precedentes derivadas de la exploración de los datos personales, y se preguntaban cómo participar en tan lucrativa expoliación. De este modo la industria del automóvil empezó a transformar los vehículos en aparatos de recogida de datos: nuestro coche sabe hoy cuándo ganamos o perdemos peso, toma nota de a dónde vamos y de cuántos hijos tenemos. El director de Ford, Jim Hackett, ya anunció la intención de la empresa de transformar dichos datos en dinero138.

La intensificación de la vigilancia en la era
de la tecnología líquida

Si los tentáculos de Google ya parecían abarcar gran parte de nuestra existencia en la era de la “tecnología sólida”, el paso a la era de la “tecnología líquida” reforzó esta deriva. Tal como declaró Richard Stallman, el padre del software libre, “los móviles son el sueño de Stalin, porque emiten una señal de geolocalización cada dos o tres minutos”. Además de seguir nuestro rastro, “nos espían y transmiten nuestras conversaciones, incluso apagados”, cosa que nos cuesta imaginar139.

Los datos conductuales que transmiten los smartphones van mucho más allá de su geolocalización: están repletos de rastreadores y de cookies considerablemente más perniciosos que los de los navegadores de ordenadores. Serge Egelman, director de Investigación en el International Computer Science Institute de la Universidad de Berkeley, explica que los teléfonos móviles disponen de “identificadores permanentes” que permiten acechar de forma constante los datos de un usuario o un dispositivo, como el número de serie IMEI o el de la tarjeta SIM. Desde 2013, tanto Android como iOS pusieron en cada dispositivo un identificador, llamado Ad ID, que los usuarios pueden restablecer y que se supone que limita la capacidad de cada aplicación de transmitir datos precisos a los data brokers y demás anunciantes. Pero Egelman demostró que cerca del 70% de las aplicaciones en Android —de las que unas 3.000 van destinadas a niños— recogían los identificadores permanentes en vez de los Ad ID. En definitiva, los parámetros de Google que en teoría facilitaban la protección de la vida privada no tenían ningún efecto, simplemente140.

Subestimamos la intensidad con que los teléfonos nos espían y el poder que eso confiere a quienes retienen los datos. Para conocer los desplazamientos de cada consumidor, las empresas pueden usar las antenas de telefonía móvil, las redes de wifi abiertas y los GPS. Incluso si con estos últimos existe un margen de imprecisión del orden de 3 o 4 metros, la industria de la localización ha encontrado en el bluetooth un medio mucho más preciso. Hay relés de bluetooth en el metro, los autobuses, los taxis, las tiendas, los hoteles o museos. Basta con que una aplicación que utilice bluetooth transmita estas coordenadas a un comercio o a un corredor de datos para que cada micromovimiento quede registrado y se sume a nuestro perfil personal. Unos programas de marketing permiten entonces focalizar al cliente con enorme eficacia, sobre todo para incitarlo a comprar productos que duda en comprar141.

Recogerlo TODO se convierte en el objetivo

Más o menos hacia la misma época en que la NSA declaraba su intención de filtrar la totalidad de las comunicaciones del mundo, en el sector tecnológico se establecía un paradigma muy similar, recogiendo el menor rastro de actividad humana. Todo vale para entrenar a los algoritmos y avanzar en la carrera de la IA.

Los libros electrónicos, como Amazon Kindle, registran los libros leídos y las notas de los usuarios, también su ritmo de lectura, las palabras que subrayan, etc. Netflix no se limita a identificar qué películas vemos, sino también las búsquedas que hacemos, el modo en que miramos cada film —incluidos los fragmentos que nos saltamos y los que miramos varias veces—, así como el historial de navegación del usuario en otras webs. Hay servicios —como Glassbox, que utilizan empresas como Singapore Airlines, Hotels.com y Abercrombie— que permiten grabar la pantalla del usuario sin siquiera pedir su consentimiento, incluidos los campos en los que este introduce información personal142.

Son cada vez más las aplicaciones que se desarrollan en el terreno de la actividad física y la salud. En este sector, la segunda subcategoría más popular es la de las aplicaciones que permiten a las mujeres seguir su ciclo menstrual para conocer mejor sus periodos de fertilidad. Estos programas aprovechan para hacerles docenas de preguntas muy íntimas sobre su humor, su vida sexual, posibles calambres o el estado de sus heces. Pero muchas aplicaciones comparten estos datos personales con terceros como Facebook, que luego los venden a otros —por ejemplo, a laboratorios farmacéuticos o aseguradoras—. La aplicación Maya, con 8 millones de descargas, llega a transmitir a Facebook y a la agencia CleverTap las notas introducidas por los usuarios en la sección “Diario personal”. Todo ello, por lo visto, pasa por alto al Reglamento General sobre la Protección de Datos (RGPD) de la Unión Europea, cuyo artículo 9 prohíbe el tratamiento de los datos “referentes a la salud o datos referentes a la vida sexual o a la orientación sexual de una persona física”.

La industria de la venta de datos personales genera 200 mil millones de dólares en beneficios al año, y pasa sobre todo por corredores de datos como LiveRamp Holdings, antiguamente Acxiom Corporation, que mantiene los perfiles de más de 500 millones de consumidores en su base de datos143. Brokers como ChoicePoint elaboran marcadores para cada individuo, que por ejemplo pueden servir para conceder o denegar créditos. Disponibles por unos céntimos, estas informaciones, a veces poco fiables, son vendidas a publicistas o a agencias de marketing, bancos, aseguradoras o profesionales de la salud. “A partir del historial de tu tarjeta de crédito, del vehículo que conduces y de otros aspectos de tu estilo de vida, tenemos muchas probabilidades de saber si padeces o no la enfermedad que nos interesa”144, afirma el vicepresidente de una empresa farmacéutica.

Estas bases de datos a menudo contienen errores, y los análisis pueden establecer correlaciones que se transforman en inducciones dudosas, susceptibles de perseguir a un individuo indefinidamente. Por el simple hecho de haberse sometido a una terapia de pareja, un individuo puede ver denegada la solicitud de un crédito, pues las estadísticas establecen una relación entre probabilidad de divorcio y penurias económicas145.

La vigilancia en la era de la tecnología gaseosa

El “estado gaseoso” de la tecnología hace que sea casi imposible sustraerse de la vigilancia, y proporciona los medios a terceros para penetrar todavía más en nuestra vida y en nuestra personalidad. Los altavoces conectados, como Alexa, de Amazon, actúan como un par de oídos siempre abiertos en el hogar de sus usuarios, y se ha descubierto que miles de empleados de la empresa incluso escuchaban las conversaciones de particulares. Amazon intenta tranquilizarnos afirmando que dichas conversaciones no se pueden asociar a un usuario en particular, pero los hechos muestran que están vinculados a un número de cliente y que los empleados que escuchan la conversación hasta pueden ver su nombre146. Google había asegurado que su altavoz conectado no siempre estaba encendido, pero sí lo estaba. Y si podemos sacar alguna conclusión de todos los deslices en materia de recogida y explotación de datos personales por parte de las tech, sin duda es que el factor principal que determina su explotación no es el que las empresas aseguran, sino más bien aquellos que posibilitan técnicamente.

El hogar conectado ya no es un espacio privado. Los termostatos Nest, que Google compró en 2014, no tenían que incluir micros, pero la empresa reveló involuntariamente que sí los llevaba en un anodino anuncio hecho en 2019 relacionado con su compatibilidad con otros objetos conectados. El gigante de Mountain View obliga desde entonces a los usuarios de Nest a utilizar su cuenta Google para manejar su aparato147.

La aspiradora autónoma Roomba, por su parte, traza el plano de cada casa para ser más eficaz. Luego iRobot, su fabricante, tuvo la idea de introducir toda esa información —no solo los planos, sino también la presencia de niños o de animales de compañía, dónde pasan más tiempo los habitantes de la casa, etc.— en la nube para entrenar algoritmos de machine learning. La compañía asegura que no venderá esos datos a terceros. Pero la abogada española y asesora en ciberseguridad Paloma Llaneza recuerda que dichos datos personales permanecen en la nube y que nada garantiza que no vayan a utilizarse algún día148.

Si pasamos ahora al dormitorio e intentamos penetrar aún más en la intimidad humana, hemos visto llegar al mercado juguetes sexuales conectados, como el masajeador We-Vibe. En 2016 unos hackers revelaron que no solo recogía datos sensibles sobre su utilización, sino que permitía a terceros acceder a ellos. Además, consiguieron tomar el control del aparato a distancia149.

Hay otros elementos que favorecen la extensión de esta vigilancia gaseosa. El desarrollo de las ciudades inteligentes, que en principio recaban toda clase de información para facilitar la gestión algorítmica de las ciudades, constituye otro terreno para la caza de nuestros datos. Plantea la cuestión de nuestro consentimiento: si todos los servicios urbanos están conectados e implican la cesión de datos personales, al ciudadano le resultará imposible sustraerse.

Pocas cosas parecen quedar fuera del alcance de esta vigilancia de lo privado. En la era del neurocapitalismo, incluso la barrera de nuestro pensamiento parece estar a punto de caer. Hay compañías, como Facebook y Neuralink que ya han anunciado su intención de leer el pensamiento de sus usuarios conectándolo directamente a dispositivos digitales. Mientras, BrainCo ha desarrollado unas diademas electrónicas que miden la actividad cerebral, lo que permite calcular el nivel de estrés y de concentración del usuario, con el objetivo de controlar mentalmente drones o automóviles. Pero esta empresa aspira también a constituir de este modo la mayor base de datos de actividad cerebral del mundo150. La DARPA y la Academia de las Ciencias de China también están invirtiendo masivamente en estas tecnologías.

Aunque las tecnologías médicas que permiten leer la actividad neuronal estén ya muy avanzadas, existe una diferencia abismal entre su uso con efectos terapéuticos o de investigación sanitaria y los proyectos surgidos de Silicon Valley. “Cualquier sistema capaz de recabar datos directamente desde nuestro cerebro supone un claro riesgo para la vida privada. Controlar la vida privada es una cuestión de consentimiento. Pero es muy difícil darlo si alguien hurga en nuestros pensamientos”, resume el investigador Garfield Benjamin151. Los gigantes tecnológicos cuentan ya con un historial lo bastante abultado en la materia como para que temamos que sobrepasen los límites que se les opone.

Si tenemos en cuenta la miniaturización de los dispositivos, incluidas cámaras y micros, así como su capacidad para desplazarse —incluso para insertarse en nuestro cuerpo—, no es difícil imaginar un mundo de pesadilla en el que la transparencia sea total y absoluta.

Los factores de la aceptación del nuevo paradigma

Son cuatro los elementos que se emplean para que accedamos a descubrirnos y a reducir progresivamente nuestro espacio privado e íntimo:

1) La promesa de facilitarnos la vida

Cedemos nuestra vida privada a cambio de servicios que nos hacen ganar tiempo, facilitan nuestras comunicaciones y nos ahorran esfuerzo físico y mental.

2) La salud

Todo el mundo comparte el deseo de tener buena salud, y la mayoría está dispuesta a seguir prescripciones al respecto si no implican un sacrificio doloroso. La promesa de una mejor forma física o de la prevención de enfermedades potenciales es un argumento tentador para que la población deje que terceros hagan un seguimiento más o menos constante de su estado corporal. Unas pulseras conectadas ofrecen ya esta posibilidad —el líder de estos productos, Fitbit, ya fue adquirido por Google en 2019—. Las empresas ofrecerán consejos por un lado y pronósticos sobre enfermedades potenciales por el otro, datos de gran valor para la industria farmacéutica, las aseguradoras y las instituciones financieras. La crisis desencadenada por la COVID-19 podría volver este factor aún más potente y permitir a los poderes públicos hacer todavía más presión en la población, a fin de ponerla bajo vigilancia por medio de herramientas de rastreo digitales.

3) La seguridad

La opinión pública muestra una tolerancia extremadamente baja hacia la violencia terrorista. Especialmente cuando se comete un atentado, suele estar dispuesta a sacrificar la vida privada a cambio de mayor seguridad. Lo paradójico es que “el mundo, en su conjunto, nunca ha sido tan seguro. Y nunca ha sido tan grande la sensación de inseguridad”152. Así pues, el terrorismo ha conseguido escribir “una especie de dramaturgia mundial, una especie de ficción realidad que justifica la alianza de los big data y del mundo de la información para poner a la humanidad bajo una vigilancia sin precedentes”, señalan Marc Dugain y Christophe Labbé.

4) El control de los demás, empezando por el de los niños

A menudo sentimos la necesidad de ser informados sobre nuestros seres cercanos, aunque solo sea para asegurarnos de que están bien. Esta aspiración puede convertirse en una debilidad si da lugar al deseo de controlar al otro. Y las personas a las que nos creemos con más derecho de controlar son las más delicadas, aquellas a las que más queremos del mundo y por las que más tememos: los niños. No es casualidad que China empezara a probar en las escuelas los programas de reconocimiento facial más intrusivos. Pero los niños no son los únicos sometidos a este control. En países como Arabia Saudí, donde parece legítimo que un hombre controle a su mujer, la tecnología de la vigilancia también satisface esta ansia. La aplicación Absher (disponible en Android e iOS) permite a los hombres controlar los desplazamientos de sus esposas y de las mujeres que están bajo su tutela.

4. Por qué es eso un problema

“De cualquier modo, vuestra vida privada es inexistente. Haceos a la idea”, declaraba tajantemente Scott McNealy, directivo de Sun Microsystems, en 1999. Este discurso sostiene que la desaparición de la esfera privada es inevitable, pero además la relativiza desde el punto de vista histórico. Para Vint Cerf, el veterano de Internet convertido en vicepresidente de Google, la vida privada podría ser una “anomalía histórica” a consecuencia de la urbanización, y habría caracterizado a una parte muy reducida de la historia153. La vigilancia cada vez más intensa a la que es sometido el individuo sería un retorno a la “normalidad”. Los promotores de la vigilancia, tanto estatales como privados, minimizan el problema pasando la pelota a los vigilados: “Si haces algo que preferirías que nadie supiera, quizá deberías empezar por no hacerlo”154, recalca Eric Schmidt. En otras palabras: proteger la vida privada equivaldría a disimular ilegalidades u obscenidades, a apartar de la vista de los demás las pruebas de nuestra culpabilidad. No solo sería sospechoso, sino también ilegítimo.

Esta denigración de la vida privada por parte de los instigadores de la vigilancia generalizada se ha difundido con cierto éxito y se beneficia de la incomprensión de lo que está en juego tras su desaparición. En realidad, esta conquista fundamental de la modernidad es una condición sine qua non de nuestra libertad y de nuestra realización en cuanto seres humanos.

El derecho a elegir libremente

Son muchos los filósofos que nos recuerdan que el ámbito privado e íntimo son condición esencial de nuestra humanidad. Los juristas nos recuerdan que se trata también de un derecho.

“La vida privada es el derecho a decidir cómo deseamos vivir, qué queremos compartir, qué queremos exponer a los riesgos de la transparencia”, explica Shoshana Zuboff. “En el capitalismo de la vigilancia, estos derechos nos son arrebatados sin que lo sepamos, nuestra comprensión o nuestros consentimientos son utilizados para crear productos concebidos para predecir nuestro comportamiento”155. Dicho de otro modo, al hacer que renunciemos a nuestra vida privada, lo que nos roban es nuestro derecho a decidir libremente. No lo destruyen, pues alguien recoge ese derecho a elegir —Google, por ejemplo— y puede vendérselo por lotes a un tercero, como si le perteneciera. Cada vez que un “derecho a decidir” es transferido, nuestras vidas son expuestas sin nuestro consentimiento de tal modo que perdemos un poco más su control.

Zuboff subraya el carácter fundamentalmente político de los “derechos a decidir”. Cuando empresas como Google y Facebook acumulan una cantidad importante de esos derechos que nos pertenecen, implica una concentración sin precedentes de poder político en unas instituciones que no hemos elegido.

En cuanto a la idea de que la vida privada no es más que una especie de escondrijo reservado a los comportamientos ilegales o reprochables —y, por consiguiente, su supresión es un mero instrumento para deshacerse de ellos—, refleja la confusión entre transparencia y honestidad. Al contribuir a anular la pluralidad de elecciones a las que un individuo se enfrenta, perjudica a la diversidad que admiten, e incluso que protegen, las sociedades modernas. En este sentido, tampoco hay que confundir el respeto a la vida privada con el respeto al espacio privado. En efecto, conservamos una parte privada e inviolable incluso cuando nos desplazamos de forma visible en el espacio. Una cosa es que mi rostro esté a la vista de las demás personas y otra es que sea captado por cámaras y luego analizado en profundidad por unos algoritmos. Dicha información solo me pertenece a mí.

Arbitrariedad y autocensura

La reducción de la vida privada es también un instrumento para instaurar una máquina represiva, en las dos acepciones del término: a la acción policial, y al hecho de reprimir un sentimiento, palabra o gesto, es decir, a un acto personal por el que uno se prohíbe a sí mismo dejar vía libre a su desarrollo.

Una vigilancia intensa ejerce en nosotros estos dos tipos de coacciones. Aparte del riesgo de perjudicar la legítima diversidad de comportamientos, existe el peligro de la arbitrariedad, pues gran parte de las decisiones que toman las máquinas no son siquiera explicables. Una policía predictiva o una justicia analítica generalizadas infringirían el habeas corpus, ya que no habría una razón articulada y comprensible que condujera a la detención o a la condena de un sospechoso. La sanción basada en un futuro hipotético es, por fuerza, injusta. Que el tratamiento de nuestros datos privados diera lugar, de forma inexplicable, a una detención, a la denegación de un crédito bancario o al rechazo sistemático de un curriculum vitae nos sumiría en un mundo kafkiano al que sería imposible dar sentido.

Por último, la regulación de una sociedad mediante la vigilancia se basa igualmente en un escaso conocimiento de dónde está el límite entre lo que se puede y lo que no se puede hacer. El ser humano no discierne si una acción puede comportar una sanción y, sabiéndose siempre observado, se mantiene lejos de lo que podría considerarse reprochable. Cabe temer que la sensación de que nuestras comunicaciones pasan por un filtro —así como las fugas recurrentes de que son objeto las comunicaciones privadas después de pirateos informáticos— conduzca a las personas a guardarse sus pensamientos para sí mismas, lo que no es digno de una sociedad democrática.

La vigilancia impulsada por medios tecnológicos adopta formas diversas en función de los regímenes políticos y de los parámetros culturales. Pero, a pesar de estas variaciones, una infraestructura gigantesca de origen tanto privado como gubernamental se ha ido desarrollando a nivel global en una veintena de años. Así pues, casi toda nuestra existencia es susceptible de ser escrutada y desmenuzada por terceros, lo que conduce a una reducción de nuestra libertad individual y a la potencial supresión de la desviación. Esto, a su vez, resultaría en un proceso de homogeneización y un entorno en el que el ser humano podría ser dirigido sin que lo supiera, e incluso quedar encerrado sin escapatoria. Y también cabe temer que el ser humano, cuya conciencia es manipulada sin que lo sepa por parte de la industria digital, experimente más dificultades para entender las causas de su pérdida de libertad. No obstante, como afirma Shoshana Zuboff, “la vida privada no es un asunto privado”, sino que es, junto con la integridad física, uno de los elementos principales de la integridad de los individuos, y debería protegerse activamente.

Capítulo 5

Desorientados. La pérdida de referencias
y la difícil búsqueda de la verdad

Cuestiones clave:

¿Cómo conocer la verdad cuando la realidad puede manipularse con sofisticados medios técnicos?

¿Por qué la pérdida de referencias en un mundo en perpetua disrupción nos desorienta?

¿Qué consecuencias puede tener la pérdida de referencias en la cohesión de nuestras sociedades y en la democracia?

¿En qué medida puedo conocer la verdad a partir de la observación de la realidad y de mi propio discernimiento? Es una compleja pregunta planteada por filósofos y científicos desde tiempos inmemoriales, preocupados frente a las ilusiones susceptibles de distorsionar nuestra percepción y nuestro juicio. Inventar, nublar o deformar deliberadamente la realidad con la finalidad de engañar al otro no es desde luego exclusivo de la era digital. El uso en la propaganda política y comercial, y las representaciones sesgadas o deformadas de la realidad que dificultan al público discernir la verdad tienen un largo recorrido.

Sin embargo, la aparición de Internet ha hecho más complejo descifrar la realidad y nos ha cogido desprevenidos. A medida que la red prestaba voz y autonomía a cada uno de sus usuarios, casi de manera espontánea llegamos a pensar que contribuiría a reforzar la democracia y que la realidad más o menos objetiva de los hechos afloraría sin remedio. Difícilmente podíamos prever que elucidar lo que es cierto de lo que no lo es fuera a convertirse en una tarea tan ardua en un entorno digital que descentralizaba la palabra y permitía verificar la información.

Aunque Internet ha contribuido a poner en tela de juicio ciertas mentiras públicas, no ha fomentado, como se esperaba, esta relación inequívoca y compartida con la realidad. Lejos de ser una especie de filtro de la verdad que genere confianza y en el cual poder construir un debate político sano e informado, la tecnología digital por un lado ofrece una caja de herramientas que permite deformar la realidad y, por el otro, sume a la humanidad en una situación de disrupción permanente en la que pierde sus puntos de referencia.

1. La tortuosa búsqueda de la verdad en la red

Dice usted que es mentira. […] Pero lo que exponen son hechos alternativos.

Kellyanne Conway, consejera en la Casa Blanca, enero de 2017

Una versión sesgada o una representación fraudulenta de la realidad es un instrumento perfecto para manipular a las personas. En este capítulo abordaremos de forma específica la proliferación de mentiras en Internet y la deformación de la realidad con la ayuda de herramientas digitales.

Falsificación y difusión de la mentira

Dos elementos distinguen los rumores falsos que han existido toda la vida del fenómeno actual: su velocidad de difusión y su capacidad de llegar a grandes segmentos de población.

Basta con recordar algunas de las fake news que han proliferado en Internet en los últimos años, las cuales han influido directamente en procesos políticos. Fue célebre la noticia que sostenía que el presidente Obama no había nacido en Estados Unidos —y, por consiguiente, no era elegible a la presidencia—. Más del 40% de los simpatizantes republicanos estaban convencidos de ello, más del 30% se declaraba indeciso y apenas un 30% la identificaba como una noticia falsa156. El bombardeo con noticias falsas también influyó de manera significativa en el resultado del referéndum del Brexit. Los partidarios de la salida afirmaron con insistencia que la pertenencia a la UE representaba un coste de 350 millones de libras semanales para los británicos. Aunque la cifra se refutó de manera inequívoca con datos rigurosos, no fue suficiente.

En el terreno digital las noticias falsas se propagan más rápidamente que las verdaderas. Según un estudio realizado por investigadores del MIT, a partir del análisis de miles de rumores difundidos a través de Twitter, “la mentira llega significativamente más lejos, más rápidamente y con mayor profundidad y alcance que la verdad en todas las categorías de información, y los efectos son más acusados aún en el caso de las noticias falsas políticas que en las relacionadas con el terrorismo, los desastres naturales, la ciencia, las leyendas urbanas o las informaciones económicas”157. De media, un dato cierto tarda casi seis veces más que uno falso en llegar a 1.500 personas. Esta superioridad de las falsedades por encima de la verdad podría explicarse por su mayor grado de novedad y por su propensión a generar reacciones emocionales más viscerales. Las fake news son más capaces de suscitar esta última emoción que las noticias verídicas158. Esto es así porque consiguen eludir el neocórtex, la parte del cerebro que nos permite pensar racionalmente, y tocan la parte reptiliana, más primitiva.

Por eso las teorías de la conspiración que antes eran marginales ahora están muy extendidas y en ocasiones incluso son mayoritarias. “Es como si la edad de la razón —la edad de los argumentos basados en pruebas— se encaminara hacia su fin, como si el conocimiento se hubiera deslegitimado y el consenso científico se hubiera rechazado”, deplora el cómico Sasha Baron Cohen, galardonado con el Premio de la ONG estadounidense Anti-Diffamation League en 2019.

Además de la responsabilidad de las propias plataformas en la difusión de noticias falsas, también los Estados las han empleado, conscientes del potencial que tiene la manipulación de los hechos para la desestabilización política. Diversas investigaciones han revelado la acción de Rusia en la difusión de noticias falsas que afectan directamente a la vida política de otros países. Un estudio del think tank Foreign Policy Research Institute demostró que las técnicas propagandísticas desarrolladas durante la Guerra Fría se han adaptado a la era de las redes sociales con el fin de desorientar a las poblaciones de los países occidentales destruyendo la confianza que tienen en sus instituciones. El sistema se sustenta en ejércitos de bots y equipos de trolls humanos que amplifican de manera artificial la difusión de noticias falsas en las redes sociales, en coordinación con medios afines al Gobierno ruso, como Russia Today y la agencia de prensa Sputnik, que recogen estas noticias y las convierten en trending topic mientras otros medios internacionales se hacen eco159.

Esta presencia masiva de noticias falsas en torno a problemas cruciales no solo incita a creer mentiras a una parte de la población, por lo general indecisa o predispuesta a todo lo que refuerce una opinión ya formada, sino que también “inunda las redes sociales de contenidos que siembran la duda y la paranoia y destruyen la posibilidad de utilizar Internet como un espacio democrático”, en palabras de activistas rusos contrarios al régimen de Putin160. Por contraste, según la redactora jefe de RT, es positivo “ofrecer al público un punto de vista alternativo”, dado que “no existe el reportaje objetivo”161. Este tipo de razonamiento se asemeja al desplegado por la Administración Trump, que, retomando una terminología orwelliana, defendió su derecho a presentar “hechos alternativos” a partir de datos y cifras sencillamente falsos162.

El efecto de la verdad ilusoria

En 1977, investigadores de las universidades estadounidenses de Temple y Villanova entregaron a sus estudiantes una lista de sesenta afirmaciones anodinas, algunas de ellas verdaderas y otras falsas, y les solicitaron que indicaran el grado de veracidad que atribuían a cada una de ellas. Dos semanas después se distribuyó entre los mismos alumnos una segunda lista de afirmaciones, entre las cuales se repetían una veintena de la primera serie. Y otra vez quince días más tarde, con reiteración de ciertas afirmaciones. Constataron que las informaciones que se habían repetido una y otra vez obtenían puntuaciones de veracidad más elevadas, al margen de si eran verdaderas o falsas163. Es decir, que la repetición de una misma afirmación le confería la apariencia de ser un hecho verídico. Estudios posteriores han arrojado resultados similares, que indican que la exposición repetida a noticias falsas aumenta la sensación de exactitud que les atribuye el público164.

De ello se infiere que la familiaridad parece pesar más que la racionalidad en la evaluación que hacen las personas de una información, sobre todo cuando esta refuerza su manera de entender el mundo. Cuando una persona lee o escucha una información varias veces, su cerebro reacciona más rápidamente y confunde el reconocimiento con una señal de veracidad165.

La psicóloga de la Universidad de Toronto Lynn Hasher señala que el efecto de verdad ilusoria o efecto de reiteración se amplifica cuando las personas están cansadas o distraídas por otras informaciones, una situación que el entorno digital propicia166.

Desorientar mediante la cólera y la división

En 2010 se habían convocado elecciones generales en el pequeño archipiélago caribeño de Trinidad y Tobago. Un hecho político aparentemente intrascendente para el conjunto del planeta y que, sin embargo, permitiría hacerse una idea del papel que la llamada “tecnología social” cumpliría en la desorientación de los ciudadanos durante posteriores procesos electorales de mayor magnitud. El escrutinio en Trinidad y Tobago iba a servir de experimento para Cambridge Analytica, empresa que poco tiempo después tendría una gran incidencia en elecciones determinantes a escala mundial.

La empresa fue contratada por uno de los dos partidos del país, el UNC (Congreso Nacional Unido), entonces en la oposición, cuyo electorado lo integraban mayoritariamente miembros de la comunidad india —su rival, el PNM (Movimiento Nacional del Pueblo), es respaldado sobre todo por la comunidad afrocaribeña—. Su estrategia consistió en deformar y exagerar un evento cualquiera con el fin de conferirle una envergadura nacional, manteniendo su apariencia como movimiento espontáneo surgido de las bases. Un día cualquiera, al principio de la campaña, un anciano cruzó los brazos formando una X delante del primer ministro saliente, miembro del PNM, para indicarle que no era bienvenido en su casa. Tomando como símbolo aquel gesto del anciano, los consultores de Cambridge Analytica concibieron la campaña “Do So!”, con la que se pretendía reflejar el rechazo popular a la clase política en su conjunto y se invitaba a la juventud a abstenerse en los comicios como un gesto de resistencia. Como en muchos otros casos, la cólera contra el establishment y el statu quo sirvieron de ingrediente básico para la viralización de la campaña en las redes sociales. Campañas dirigidas consiguieron que este mensaje calara en el conjunto de la juventud trinitense. Pero sus instigadores habían calculado que, al final, gran parte de los jóvenes de origen indio acabaría yendo a votar por presión familiar, al contrario de lo que sucedería con los afrocaribeños, que sí se abstendrían. Eso fue justo lo que ocurrió. Aquella acción fue decisiva para la victoria del UNC. La balanza de la abstención se había inclinado hacia el lado previsto167.

En los años siguientes, Cambridge Analytica perfeccionó su capacidad de difusión de noticias, a menudo erróneas, gracias a un hondo conocimiento de millones de usuarios. Se jactaba de controlar 5.000 puntos de datos psicográficos de cada elector estadounidense, lo que optimizaba su capacidad para conseguir que se compartieran las noticias que ellos querían.

En especial en grandes países secularizados, con un elevado grado de libertad ciudadana, son susceptibles de inestabilidad y divisiones internas, avivadas por el modo de hacer circular la información en las redes sociales. Para el profesor Jonathan Haidt, si un país democrático quiere superar sus divisiones, necesita referentes comunes que actúen como una fuerza “centrípeta” —por ejemplo, una lengua común, valores y rituales compartidos o una aceptación y una confianza mínima en las instituciones políticas y económicas—. Pero “Facebook y otras redes sociales constituyen potentes fuerzas centrífugas, que polarizan los grupos en el seno de un país, los embravecen y los lanzan a la batalla mediante un torrente de vídeos virales que incitan al odio y mediante la difusión de teorías de la conspiración”168.

Ahora bien, la desinformación en el ámbito digital como medio de atizar el odio y dividir a la población no se limita a los regímenes democráticos. Fue uno de los motores que impulsó la limpieza étnica de los rohingyas en Myanmar. Allí, la junta militar utilizó Facebook para difundir rumores a partir de hechos completamente fabricados, como la violación de una mujer budista por parte de un musulmán. Una de las campañas más peligrosas tuvo lugar en 2017, cuando la inteligencia militar difundió rumores tanto entre musulmanes como entre budistas, incitándoles a creer que la otra comunidad estaba a punto de lanzar un ataque contra ellos. Numerosos observadores subrayaron la responsabilidad de la red social en la instigación de los crímenes contra la humanidad que siguieron169.

En los capítulos anteriores hemos calibrado nuestra extrema vulnerabilidad frente a la influencia de terceros cuando estos cuentan con datos suficientes para identificar nuestros sesgos cognitivos. Resulta si cabe más inquietante cuando tal influencia puede además hacer un uso tan fácil de la mentira. La democracia se fundamenta, por un lado, en verdades compartidas a partir de las cuales podemos establecer distintas interpretaciones y defender proyectos políticos diferentes y, por el otro, en la idea de que la ciudadanía tiene la capacidad de elegir libremente. Estos dos fundamentos parecen estar en cuestión de manera integral. En palabras de Yuval Noah Harari, la democracia está dando poder a las emociones del pueblo, y si las emociones pueden hackearse fácilmente, la democracia también es susceptible de ser hackeada.

2. Confusión de géneros: información
e influencia en Internet

Además de la libre circulación de falsedades, otros factores más sutiles participan en la desorientación del ser humano ultraconectado. Ahora vamos a explorar formatos específicos de las tecnologías digitales que juegan con el límite entre información e influencia, entorpeciendo la búsqueda de la objetividad.

Los influencers

Las redes sociales han posibilitado la comunicación sin intermediarios entre los personajes famosos y su público. Los influencers son personas que disfrutan de una reputación, de un aura especial o de conocimiento en un ámbito concreto y publican opiniones o informaciones en redes sociales —en las cuales tienen una base de “seguidores” entusiastas y comprometidos—. Las empresas los remuneran a cambio de aprovechar su capacidad de crear tendencias e influir en la opinión pública, colocando productos o comunicando su vínculo con una marca.

Esta práctica ha demostrado su eficacia para llegar al público. Un 92% de los consumidores se declara más receptivo a los mensajes de los influencers que a los de la publicidad170. Con las redes sociales este fenómeno ha dado un salto exponencial, sobre todo entre el público joven, que siente una conexión más fuerte con estos personajes famosos.

Nutrirse de información procedente de personas a quienes respetamos o admiramos entraña el riesgo de pasar por alto sus motivaciones reales, en particular si tenemos en cuenta que los influencers no son solo las estrellas con millones de fans y sospechosas de atraer a las grandes marcas. La última tendencia consiste en los microinfluencers, o incluso en los nanoinfluencers, personas con un público muy limitado, pero con un fuerte vínculo de confianza, a veces en ámbitos muy especializados.

El ‘com-tent’ y el editorial promocional

En un contexto económico difícil para los editores de prensa, la tentación de aprovechar nuevos formatos de monetización es grande, aunque implique jugar con la ambigüedad entre promoción e información. Aunque supuestamente los medios de comunicación actúan como una brújula para informar a los lectores, parecen cada vez más dispuestos a desviar la dirección de la aguja para generar algunos ingresos adicionales.

Bajo la apariencia de información proliferan artículos cuyo propósito es atraer a los lectores a los enlaces promocionales insertados en ellos y por los cuales los medios reciben una comisión. El “com-tent” (del inglés commerce-related content) supone una mezcla de géneros que despierta en cada lector al consumidor de productos durmiente.

Otro tipo de confusión radica en el formato de contenidos recomendados que transmiten agencias especializadas como Outbrain, de la que son clientes diversos medios de prestigio como el Washington Post, la BBC, Le Monde o El País. Se incita a los lectores a confundir enlaces a artículos del mismo medio u otros sitios informativos con otros artículos de contenido publicitario discreto. Bautizada como “publicidad nativa” —un eufemismo para referirse a la publicidad disimulada—, sus promotores presumen de las ventajas de este formato, entre ellas atraer a un 40% más de usuarios que la publicidad normal o el hecho de que estos pasen el triple de tiempo en el sitio web al que son dirigidos, en comparación con un enlace publicitario clásico. Un rendimiento al que podríamos denominar “renta de confusión”.

Podría pensarse que el tipo de confusión generada por estas prácticas no es trascendente. Pero al generalizar la captación sutil de nuestra atención, contribuye de hecho a borrar los referentes necesarios que las personas conectadas necesitamos para orientarnos.

3. El futuro de la falsedad digital

Si la tecnología actual pone ya medios consecuentes al servicio de la falsedad, los avances en ámbitos como la IA deberían hacernos temer aún más este fenómeno. Los especialistas temen: (1) que los contenidos falsos sean aún más fáciles de producir, aún más realistas y difíciles de diferenciar de los verdaderos; (2) que sean más personalizables y susceptibles de dirigirse a una persona o un grupo muy concretos y, sobre todo, que permitan imitar de manera inquietante a personas a quienes conocemos; (3) que las propias bases de datos puedan “envenenarse” y aprovechar las debilidades de los sistemas de IA y que estos generen representaciones falsas de la realidad con una apariencia legítima171.

Deepfake

Aunque aún se encuentre en su más tierna infancia, el deepfake permite vislumbrar la evolución de la falsificación a la que deberemos hacer frente y los riesgos que conlleva. Esta técnica de síntesis de imágenes fundamentada en el deep learning172 permite fabricar de cero —a partir de imágenes y sonidos conocidos— vídeos de apariencia fidedigna. El primer ejemplo célebre fue el vídeo creado en julio de 2017 por investigadores de la Universidad de Washington en el que podía verse al presidente Obama pronunciando un discurso sumamente realista, pese a ser completamente fabricado. Disponible online desde 2018, la aplicación FakeApp permite hacerlo a cualquiera. Emplea la herramienta TensorFlow, desarrollada por Google a partir de la técnica de las redes generativas antagónicas —Generative adversarial networks, GAN—.

La proliferación del deepfake constituiría un paso más en la construcción de un entorno donde ya no es posible basarse en lo que vemos para distinguir lo que es verdadero de lo que no. Esto generará o bien una oleada adicional de persuasión basada en falsedades o bien una pérdida de confianza aún más profunda con respecto a la información en línea. Estas simulaciones hiperrealistas ofrecen medios de usurpar la identidad de cualquier persona, lo que facilitaría sobremanera desbaratar sistemas de seguridad.

Es probable que surjan técnicas que permitan identificar falsedades y hagan fracasar estas supercherías. Algunos países han prohibido ya utilizar el deepfake en determinadas condiciones o sin advertir explícitamente de que se trata de un vídeo tergiversado. No obstante, la prueba de que se trata de un vídeo falso podría llegar demasiado tarde y, aunque una gran parte de la población se mostrara prudente con respecto a su veracidad, estas imágenes tendrían la oportunidad de alterar unas elecciones, sembrando la duda en algunas personas, erosionando la confianza y dividiendo aún más a la sociedad.

La imitación de voces es tan inquietante como la de imágenes. En mayo de 2019, investigadores de la empresa Dessa crearon un sistema que simulaba a la perfección la voz de cualquier persona, siempre que se dispusiera de una muestra lo bastante importante. Podrían hacerse llamadas telefónicas maliciosas haciéndose pasar por una persona cercana; o acceder a zonas de alta seguridad; o podrían llevarse a cabo manipulaciones políticas de distinto tipo173.

A medida que los programas de IA ahonden en la comprensión de la naturaleza del lenguaje, podrían imitar no solo la voz de cualquiera, sino también el contenido de lo que cada persona sería susceptible de decir, generando textos a partir de sus expresiones características. Sistemas desarrollados por Google, el Allen Institute y la organización OpenAI han dado ya los primeros pasos en esta dirección. OpenAI ha decidido no hacer público el código de su algoritmo, por considerar que tiene un potencial demasiado peligroso. Otras instituciones piensan, al contrario, que la única manera de protegerse contra este tipo de peligro es compartiendo públicamente las claves de su funcionamiento, lo que permitiría hacer retroingeniería y crear programas capaces de detectar estas prácticas.

¿Nos encaminamos hacia una fake reality?

Podríamos tranquilizarnos pensando que, si no puedo confiar en lo que veo a través de un dispositivo, puedo desconectarlo todo y fiarme de mis sentidos. Pero ¿y si esa posibilidad deja de serlo una vez que la tecnología gaseosa haya penetrado del todo en la experiencia humana?

¿Cómo podría una persona confiar en la autenticidad de lo que ve si llevase implantadas lentillas de realidad aumentada o un audífono hackeado? ¿Cómo sabrá si una empresa, un grupo de presión, un partido político o un Estado le presenta una visión ligeramente deformada —pero creíble— de la realidad? ¿Si la tecnología se adhiere a nuestros sentidos, ¿cómo podremos saber que estamos ante una fake reality? Ray Kurzweil, el futurólogo y director de ingeniería de Google, prevé que ya a finales de la década de 2020 la realidad virtual alcanzará una definición tal que costará distinguirla de la realidad física174.

Además de interferir en nuestros sentidos, hemos subrayado el potencial de la tecnología invasiva para impedir un distanciamiento crítico. El sociólogo francés Gérard Bronner recuerda que el espíritu crítico sigue siendo el mejor escudo contra las “epidemias de credulidad en la web”175. Pero ¿cómo ejercer el escepticismo si se interfiere en nuestras percepciones y en nuestra capacidad racional para discernir?

La unidad de investigación creada por Facebook en 2017 para desarrollar una interacción directa entre el cerebro y los dispositivos conectados pretende hurgar directamente en nuestro pensamiento para transcribirlo. Si nuestra racionalidad en su conjunto acabara siendo difícil de disociar de la máquina, cabe imaginar formas sofisticadas de control de nuestro pensamiento. El verdadero mind-hacking se antojaría una idea descabellada o reservada a la ciencia ficción muy lejana si centros de investigación como los HRL Laboratories de California no estuvieran ya trabajando activamente en tecnologías de transferencia de información de la máquina al cerebro humano y no solo de nuestro pensamiento a la máquina176. ¿Cómo podríamos diferenciar lo verdadero de lo falso si existe la posibilidad de modelar la visión de la realidad hasta ese punto?

4. Disrupción y representaciones algorítmicas: la pérdida de referentes accesibles al ser humano

En un principio empleado en la física y referido por su etimología a una rotura o fractura brutal, el término disrupción177 se extrapoló a la gestión empresarial en la década de 1990 para explicar la transformación acelerada de las reglas de juego del sector debido a las consecuencias de la innovación tecnológica. Las tecnologías y los discursos que las justifican se van imponiendo en la economía y en las prácticas sociales, haciendo realidad un nuevo estado de cosas poco considerado con las reglas existentes. Esta agitación tiende a desestabilizar a quienes estaban protegidos por un marco normativo que ahora se percibe obsoleto. Pero más allá de colectivos específicos para los que la pérdida de referentes es explícita y evidente, cada vez resulta más difícil para cualquiera entender estas novedades disruptivas que se imponen y estructuran nuestro entorno. Aunque el ser humano siempre ha tenido una conciencia limitada de los múltiples factores que influyen en sus percepciones, decisiones y comportamientos, este condicionante parece agravarse.

Para el filósofo Michel Foucault, la “gobernabilidad” hace referencia al tipo de control ejercido sobre una población a través del condicionamiento de lo que se percibe como posible y normal, más que mediante la imposición de limitaciones. La jurista Antoinette Rouvray, el filósofo Thomas Berns y la estadística Dominique Deprins retoman este término para describir la aparición de una nueva estructuración de la realidad: la “gobernabilidad algorítmica”, la optimización del estado de las cosas por intermediación de algoritmos. Las categorías que las personas utilizan para estructurar su percepción y dar sentido a la realidad pierden terreno frente a una nueva organización conceptual del mundo, fuera del alcance de nuestra racionalidad y surgida del sistema de la IA.

De ahora en adelante, el tratamiento de una cantidad masiva de datos en bruto, sin categorizar, generados por nuestros comportamientos, da lugar a representaciones que ya no procederán directamente de un consenso colectivo humano, sino que surgen “solas” a partir de correlaciones estadísticas de significado reflejadas en “perfiles”. Este procesamiento de la realidad tiene pretensiones de objetividad y neutralidad ideológica, una especie de verdad incontestable. A medida que este tipo de racionalidad se extienda, nos arriesgamos a perder los referentes conceptuales a través de los cuales intentamos comprender el mundo, sufriendo la más honda desorientación178.

La gobernabilidad algorítmica puede parecer un concepto bastante abstracto, pero es un hecho que cobra forma en los sistemas de ayuda para tomar decisiones basados en la modelización algorítmica, como los menús de Amazon o Netflix son resultado de un tratamiento estadístico de nuestras huellas de comportamientos, no filtrados directamente por personas. Son sistemas opacos e incomprensibles para la razón humana, elaborados de manera casi instantánea a partir de cantidades inimaginables de datos. Así, en 2017, Netflix cambió la calificación de sus películas de una nota de 0 a 5 estrellas —según la puntuación media atribuida por los usuarios— por un porcentaje de recomendación opaco surgido del procesamiento de miles de factores. Con este cambio reconoce haber triplicado la participación de los usuarios179. Resulta imposible calibrar hasta qué punto el sistema nos proporciona una simple referencia o si en realidad sirve a otros intereses.

La descodificación predigerida de la realidad por los algoritmos en el terreno económico, político, judicial o íntimo nos moverá a adoptar decisiones que no sabríamos cómo racionalizar, ni siquiera a posteriori.

El ser humano que adopta decisiones conscientes, racionales y autónomas en base a información y puntos de referencia perfectamente sólidos es una entelequia. Sin embargo, el espacio digital se sostenía aparentemente y en parte en esa promesa. Prometía una circulación perfeccionada de la información que derribaría los viejos obstáculos, aunque ha terminado en un giro absolutamente paradójico. Frente al ideal, la red parece reproducir —e incluso amplificar— las relaciones de poder en la producción y la transmisión de información. Esta circula más rápido que nunca, pero sin garantía de veracidad. Los manipuladores de información viejos y nuevos se reparten el campo donde el ser humano se haya inerme. Antiguas instituciones de referencia como la prensa se dejan absorber por la lógica de la economía digital y participan en esta confusión. El ser humano desorientado se solapa con el hombre modificado, encerrado y controlado.

Capítulo 6

¿Obsoletos? La pesadilla del Homo reductus

Cuestiones clave:

¿Cuál es la finalidad del desarrollo tecnológico y “ultrarracionalización” del mundo?

¿Qué papel se reserva al ser humano en un universo donde se supone que las máquinas lo hacen todo mejor que él?

¿Qué consideramos deseable y qué no en el desarrollo de la inteligencia artificial (IA) y de la robótica?

La finalidad última del progreso mecánico es que el mundo esté completamente automatizado, es decir, conducirnos a un mundo poblado de autómatas180.

George Orwell

¿Qué sueña conseguir el ser humano con la tecnología? ¿Qué esperamos realmente de esta, en una situación ideal? Probablemente que nos ayude a vivir mejor, de manera más cómoda; que nos haga la vida más fácil y nos evite esfuerzos; que nos permita ser más eficaces, productivos y ricos; que multiplique nuestras capacidades; que reduzca los riesgos… En definitiva, que nos ayude a zafarnos de tantas limitaciones que nuestra condición humana nos impone. La noción de utilidad de la tecnología presupone su servicio del ser humano. Las personas la desarrollan y utilizan para disfrutar de una existencia mejor. El fin es o debería ser el ser humano y no la tecnología misma.

Pero ¿a qué aspiramos en realidad cuando optamos por la ultrarracionalización digital, sometiendo todas las esferas de la existencia a la eficiencia cuantitativa? ¿Es realmente una elección nuestra o hemos llegado a este punto sin darnos cuenta y sin pretenderlo? ¿Qué lugar ocupa el ser humano en una sociedad cuyo objetivo último es la optimización digital? Esta visión simplista y utilitaria extrapolada a todos los ámbitos de la existencia puede hacernos temer por una vida que no vivimos plenamente. Parece pertinente cuestionar la finalidad que justificaría las renuncias que hacemos cuando digitalizamos la realidad.

La cuestión del lugar que ocupa el hombre en un mundo hipertecnológico se aborda con frecuencia, pero casi siempre circunscrita al ámbito económico y, en particular, al ámbito del trabajo. ¿Quedarán puestos de trabajo para el ser humano si las máquinas son capaces de llevar a cabo cualquier tarea? En realidad, al trabajo entendido como actividad profesional le dedicamos una porción relativamente pequeña de nuestro tiempo y solo una parte de la población es activa —en el sentido económico del término—. Nuestro trabajo consiste también en ser útiles en otros aspectos, educando a nuestros hijos, ocupándonos de las tareas domésticas, conduciendo para desplazarnos o ayudando a un amigo… Cuando la tecnología afecta a todas las dimensiones de la actividad humana pone en tela de juicio el lugar que ocupa la persona mucho más allá de la esfera productiva.

El hombre puede parecer demasiado imperfecto e irracional en un mundo donde la eficacia es el valor supremo y algunos depositan sus esperanzas en la innovación, la IA y la robótica. ¿Estará la humanidad sentando las bases de un mundo en el que ella misma terminará siendo superflua? Más que una useless class —la “clase inútil”, en términos de Yuval Noah Harari, que designa a todas las personas abocadas al desempleo a consecuencia de la evolución tecnológica—, ¿debería inquietarnos el advenimiento de una useless humanity, que no servirá para nada y que no encontrará su lugar en este mundo?

1. ¿Mejoramos el mundo optimizándolo?

Max Weber utilizaba el término racionalización para describir la evolución de la visión del mundo imperante a partir de la Revolución Industrial. Esta idea hace referencia a la convicción comúnmente aceptada de que cualquier cosa puede dominarse mediante el cálculo, la previsión y la anticipación, lo que comporta un “desencanto con el mundo”, pues supone renunciar a la creencia en “fuerzas imprevisibles y misteriosas”. La observación de Weber permanece pertinente en nuestros días, en los que los datos masivos prometen, precisamente, predecir y anticipar cualquier fenómeno. En este capítulo abordaremos la lógica de la racionalización en tanto que cálculo con una finalidad optimizadora, y que la tecnología pretende hacer extensible a todos los ámbitos de la existencia con un criterio de eficiencia. Este matiz —la insistencia en la transformación del mundo mediante la racionalidad calculadora, distinta a la creencia de que todo tiene una explicación racional— nos llevará a hablar tanto de optimización como de racionalización.

El historiador y filósofo de la ciencia Michel Blay se remonta a finales del siglo XVI para detectar los primeros indicios de la emergencia de un “ethos del ingeniero”181 impregnado de una cierta lógica reductora que acabó por “aliviar el mundo de nuestra existencia”. La naturaleza comenzaría a transformarse en una “naturaleza-taller” y se asentarían las bases de un mundo en el que “todo, incluido el ser humano, se convierte en un objeto puro susceptible de introducirse en un proceso de mecanización”.

Sin cierta sumisión de la naturaleza a la producción no habría sido posible el desarrollo económico y tecnológico que ha mejorado de manera incontestable nuestras condiciones de vida en los cinco últimos siglos. Con todo, lo que nos interesa aquí es la idea de la que somos herederos, que insta a someter progresivamente toda lógica a la eficacia y la utilidad, incluso a expensas de la profundidad de la existencia.

Las barreras que impiden que la optimización actúe como una apisonadora están empezando a demolerse. El ser humano no sería más que una de tantas variables, tan destinada como las demás a ser optimizada.

Y esta mirada simplificadora, que o bien codifica todas las manifestaciones de nuestra existencia o bien borra todo lo que no encaje en el modelo, presenta una ilusión cuantitativa que puede tanto tranquilizarnos como seducirnos, por muy frágiles y superficiales que sean estos sentimientos positivos. Podemos sentirnos reconfortados traduciendo y reduciendo la realidad a números, ya sea cuantificando el número de conexiones o de menciones que tenemos en una red social o conociendo el número de pasos que hemos dado en un día gracias a un podómetro conectado.

Surgen dos cuestiones relativas a la modelización de la realidad:

1) ¿De verdad es posible modelizarlo todo —incluido el ser humano y la sociedad— con el fin de optimizarlo? ¿O existen límites ontológicos infranqueables?

Sandy Pentland, del MIT, argumenta que el big data posibilitará la modelización total de la sociedad182. Tal como hemos visto, Facebook también se esfuerza por modelizar nuestras emociones con el fin de vender publicidad de la mejor manera posible.

Podemos oponer que no tiene sentido intentar encuadrar al ser humano en un modelo algorítmico, puesto que, por naturaleza, se escapa a este tipo de racionalización. Marc Dugain y Christophe Labbé aluden a las emociones como “esas secreciones puramente humanas, no modelizables, que para bien o para mal convierten al ser humano en un ser imprevisible, a diferencia del ordenador”.

2) Y aunque fuera posible, ¿sería deseable?

Incluso los convencidos de que, con el tiempo, podríamos hallar las fórmulas adecuadas para codificar el comportamiento humano y la sociedad, también podrían concluir que no supondría una mejora sino más bien un empobrecimiento; confinaría a los humanos antes que liberarlos.

2. Riesgos de encasillar al ser humano
en el molde digital

Me había transformado en una persona que pensaba como una máquina183.

Kai-Fu Lee

¿Una vida smart me hará mejor?

La progresiva invasión de objetos inteligentes en nuestras vidas promete optimizar los hogares y las tareas cotidianas. Como demuestra Evgeny Morozov, bajo esta promesa subyace la mirada del ingeniero que contempla el mundo como un lugar roto que hay que reparar184. La finalidad de estos dispositivos sería cambiar nuestro comportamiento para mejorarlo. Un cubo de la basura inteligente nos ayudaría a reciclar mejor; un cepillo de dientes inteligente a mejorar nuestra higiene bucal; y una cocina inteligente para cocinar y comer mejor.

Existen, al menos, dos riesgos de este intento de optimización de nuestras vidas: las reglas incitativas o restrictivas que pueden aplicarse a nuestro comportamiento por intermediación de estos sistemas son creadas por empresas o personas que no comparten necesariamente nuestra idea de lo que se entiende por un comportamiento mejor. Es muy posible que tengan intereses divergentes de los nuestros. En realidad, nos imponen una visión normativa particular, presentada como “la buena” y cuyos fundamentos serían difíciles de detectar. En opinión de Morozov, uno de los aspectos preocupantes de estas tecnologías radica en la hipótesis implícita según la cual sus creadores saben cómo deberíamos comportarnos.

En segundo lugar, la pérdida de autonomía por el uso de las tecnologías smart podría sumir al ser humano en la anomia. Con un camino trazado de antemano ya no cometeríamos errores y equivocaciones de los que arrepentirnos, aunque tampoco aprenderíamos nada. Todo más sencillo e insatisfactorio. “El problema de las smart technologies es que sus creadores, en su intento de erradicar lo que consideran la imperfección de la condición humana, rara vez se detienen a cuestionarse cuánta frustración, fracasos y arrepentimientos son necesarios para conferir un sentido profundo a la felicidad y a la sensación de logro”185, argumenta Morozov.

Al incluir al ser humano en plano de igualdad con cualquier otro factor en un plan maestro de optimización, estas innovaciones difuminan los contornos de nuestras personalidades.

Optimizar la ciudad: ¿un urbanismo eficiente
al servicio de qué?

La tecnología promete optimizar la ciudad librándola de los problemas que la afectan, big data mediante. Los ingenieros identificarían las ineficacias y las resolverían, abordándolas como cualquier otro problema técnico. Los tecnólogos lo presentan como el único futuro deseable. La smart city captaría la realidad —viajes, delincuencia, contaminación, etc.— mediante multitud de sensores, y luego cuantificaría y digitalizaría el entorno urbano, lo que permitiría hacerlo encajar en un modelo óptimo para anticipar la realidad física de la ciudad.

Ben Green, que ha ejercido como científico de datos para el Ayuntamiento de Boston y realiza un doctorado en Matemáticas Aplicadas en Harvard, no es precisamente alérgico a la tecnología. Ello no es óbice para que en su obra The Smart Enough City advierta contra las implicaciones políticas de esta visión simplista de los problemas urbanos, como si la tecnología por sí sola fuera capaz de aportar soluciones objetivas, necesariamente favorables para los ciudadanos, y nos permitiera prescindir de la política. Esa neutralidad es una mera apariencia. Tras los tentáculos de las smart cities proliferarían de hecho proyectos con un alto contenido normativo186.

En términos de movilidad, Green recuerda que la tentación de confiar únicamente en los ingenieros para que la ciudad sea más eficiente tiene ya más de un siglo de antigüedad. A principios del siglo XX, las calles se consideraban “espacios públicos en los que los vehículos podían circular; las personas, caminar, y los niños, jugar”; pero la priorización de la circulación de automóviles ha supuesto el fin de la “convivencia pacífica entre peatones, niños y coches” en beneficio de los últimos.

Un ejemplo más reciente es el de la aplicación Waze, dedicada a la navegación asistida y adquirida por Google en 2013. Pese a ser muy útil para el usuario, su propio creador, el israelí Uri Levine, reconoce su candidez en su objetivo de ayudar a la fluidez de la circulación. Con el uso generalizado del servicio, ha constatado que el tráfico más bien ha empeorado en muchas ciudades, probablemente porque muchas personas que antes no lo hacían ahora se desplazan en su vehículo particular confiando en la aplicación.

Los vehículos autónomos prometen disminuir el número de accidentes de tráfico, acelerar la velocidad media de los desplazamientos y reducir los atascos, ya que, al estar conectados entre sí, se eliminarían los embotellamientos de la circulación actual. Esta revolución reduciría la necesidad de plazas de aparcamiento y, por supuesto, liberaría al automovilista de la carga de la conducción. Pero si consideramos que el ser humano debería ser el centro de un proyecto de ciudad, es lógico que nos preocupen los discursos utópicos en torno al vehículo autónomo. Muchos indicadores que supuestamente reflejan mejoras son más engañosos de lo que parece. El aumento de la velocidad de transporte, que a menudo se presenta como una mejora evidente, no ha redundado hasta la fecha en la reducción del tiempo empleado en el desplazamiento, sino en un aumento de las distancias recorridas.

Más allá de los problemas de la movilidad, lo que está transformando la smart city es la concepción de la política local. La creación de aplicaciones para reportar averías o firmar peticiones para generar compromiso político transmite la idea de que optimizar la política local es, simplemente, una cuestión de coordinación y circulación de la información. Estas tecnologías, que se supone que promueven una participación ciudadana sencilla y rápida, caen en una trampa cuantitativa —al centrarse en maximizar variables como el número de firmas de las peticiones en línea— y, como muestra la politóloga Hahrie Han, únicamente generan una participación ciudadana muy superficial, que no va más allá del marco de estas aplicaciones187. Desplazan a un segundo plano la verdadera deliberación democrática y la búsqueda del compromiso, que requieren una interacción real y deberían ser los cimientos de la política local.

La versión más extrema de estas smart cities, en las que toda política desaparece, se muestra en proyectos de ciudades creadas de cero por los gigantes tecnológicos, como el proyecto Sidewalk Labs de Alphabet, empresa matriz de Google, en un barrio de Toronto. En apariencia, el diseño de esta “ciudad inteligente”, que tiene previsto ocupar 324 hectáreas, responde a una estrecha colaboración con las autoridades municipales, regionales y federales canadienses, en asociación con la comunidad local. Pero la realidad de este proyecto demuestra que el gigante tecnológico actúa como una potencia que trata de imponer su modelo desde arriba. Google parece sufrir una dificultad fundamental para tener en cuenta cualquier elemento que diverja de este modelo y que pueda ponerlo en cuestión, lejos de lo que debería ser la política188.

Pensar como máquinas: la generalización
del pensamiento algorítmico

En su libro Superpotencias de la inteligencia artificial, Kai-Fu Lee —un destacado investigador en el campo de la IA que ha trabajado para todos los gigantes tecnológicos, y que es un convencido del uso de la tecnología en todos los ámbitos de la vida— explica cómo comprendió que había concebido su propia vida en términos puramente cuantificables con el objetivo último de optimizarlos. Tras superar un cáncer, se concienció de que, durante toda su vida, lo único que había hecho había sido ajustar las distintas variables, tanto personales como profesionales, para aplicar un modelo en el que todo funcionaría de manera eficaz, en particular en lo relativo a la cantidad de tiempo dedicado a tal o cual actividad. Ajustaba el tiempo que pasaba con su familia de manera que pudiera dedicarse al máximo al trabajo —que consideraba más productivo—, sin llegar a generar demasiada insatisfacción en su esposa y sus hijas.

Su conclusión fue después muy distinta: “Los humanos no deberían pensar de esta manera. Este cálculo constante, esta cuantificación de todo, carcome nuestro verdadero interior y lo que existe entre nosotros. Y acaba asfixiando lo que da la verdadera vida: el amor”.

En la actualidad, numerosas aplicaciones contribuyen a que esta visión calculadora permee en distintos ámbitos de nuestra vida. Lo ilustra la popularización de servicios como Airbnb. Podemos transformar nuestro hogar en una ecuación cuyas variables serían las habitaciones y las noches reservadas, y lo ajustaríamos con el fin de maximizar su rendimiento. La invitación a rentabilizarlo todo, incluido lo que en el pasado quedaba circunscrito al terreno íntimo, reúne en una misma lógica la optimización tecnológica y el sueño neoliberal de ampliar el mercado, también sin límite, a todas las facetas de la existencia.

Rechazar estos postulados no significa abandonarse a la ineficiencia. El peligro estriba en creer ciegamente en la capacidad ilimitada de la tecnología para mejorar nuestras vidas. También reside en no apreciar bien los riesgos de ajustar las variables equivocadas, o incluso, de que los diseñadores de estas tecnologías no sean lo suficientemente humildes para admitir que el mundo puede ser más complejo de lo que su modelo es capaz de procesar. Es importante reconocer que cada modelo es el fruto de una visión particular del mundo, y que el poder normativo que emana de él, cuajado de elecciones y de valores, es real. Por último, el peligro radica, sobre todo, en olvidar que el ser humano debe ser la finalidad de cualquier proyecto de optimización.

3. ¿Demasiado imperfectos para formar parte de la ecuación?

Menos imperfección a cambio de nuestra humanidad

Cuando el ser humano y la sociedad se cortan por el patrón de la eficiencia digital, suelen tener dificultades para encontrar su lugar sin perder su esencia. Esta lógica invertida en la que la tecnología deja de ser un medio al servicio de las personas para convertirse en un fin invita a reflexionar sobre el brutal silogismo que, en última instancia, parece inferirse de ella:

eliminar la imperfección;

lo humano es imperfecto;

eliminar lo humano.

¿Cuáles son esas imperfecciones a las que nos referimos y en nombre de las cuales podría aplastarnos la apisonadora de la optimización? La lentitud, nuestra limitada capacidad de cálculo, de memoria y de procesamiento de grandes cantidades de datos, la imprevisibilidad, la inconstancia, o la diversidad son algunas de ellas. Stephen Hawking nos recordaba que “sin imperfección, ni usted ni yo existiríamos”189. La imperfección desempeña un papel fundamental en la construcción de cada persona, y dedicamos parte de nuestra vida a superarla.

Un ejemplo tan elemental como las felicitaciones de cumpleaños podría ilustrar cómo la optimización termina por excluir lo humano de un proceso y vaciarlo de significado. El significado de felicitar el cumpleaños no es otro que transmitirle a alguien que hemos pensado en él. Es una expresión de benevolencia a través de la cual el destinatario puede sentirse valorado, reconocido, amado. La imperfección humana puede hacer que se nos olvide el cumpleaños de un ser querido, o no hemos reservado tiempo para felicitarle, o le hemos hecho un regalo que no es del todo de su agrado. Podemos tratar de paliar estas imperfecciones anotando los cumpleaños en una agenda o indagando para acertar con nuestro regalo –esfuerzos que reflejan la voluntad de comunicarle que pensamos en él—.

Frente a esto, la tecnología nos propone optimizarlo con nuevos estándares. Facebook remedia preventivamente nuestros fallos de memoria enviando una notificación para recordarnos el cumpleaños de todo nuestro círculo de “amigos”, y se acompaña de invitaciones a la acción predigeridas, desprovistas de intencionalidad y autenticidad.

De la felicitación automatizada al botón de “Enviar un regalo”, hay un simple paso. Simplificaría el proceso con la rápida elección entre una lista prefabricada de artículos o un envío de dinero. Tal vez podría activarse automáticamente la opción “Aprobar los regalos sugeridos por Facebook” o “Aceptar por defecto los consejos de Facebook”. Nos desentenderíamos totalmente de este ciclo y la felicitación de cumpleaños se habría optimizado al máximo. El precio sería la pérdida de todo significado y la desaparición progresiva del factor humano.

Autonomía de la máquina y desresponsabilización
del ser humano

Otro credo en forma de silogismo, aparentemente menos brutal pero igual de devastador para el hombre, merece nuestra atención:

confía siempre y únicamente en lo que funciona de manera óptima;

los humanos siempre funcionan peor que las máquinas;

no vuelvas a confiar en el ser humano, confía siempre en la máquina.

Aunque la tecnología permite desde hace mucho tiempo la automatización de ciertas tareas, en los primeros tiempos se limitaba a reemplazar la fuerza física por la fuerza motriz. Incluso tras la invención de los ordenadores para llevar a cabo multitud de tareas de naturaleza mental, el principio seguía siendo que el humano permanecía al mando, al menos en última instancia. Sin embargo, a medida que la máquina evoluciona y ofrece resultados cada vez más eficientes que las decisiones humanas, nos mueve a aceptar su superioridad y someternos a ella en campos cada vez más diversos. El hombre pierde así la prerrogativa de decidir. Y a medida que los sistemas se hacen más complejos, los seres humanos son cada vez más incapaces de intervenir en ellos. Las máquinas toman progresivamente el control, siendo imposible apagarlas por la dependencia que los humanos tienen de ellas.

4. Un robot para reemplazarnos en cada esfera de la existencia

Desde el momento en el que aparece la máquina, sentimos la necesidad de utilizarla. […] En un mundo en el que las máquinas pudieran hacerlo todo, las máquinas lo harían todo190.

George Orwell

Para hacernos una idea de la eliminación programada de los humanos en diversos ámbitos basta con revisar la lista de robots que se nos promete para las próximas décadas.

Ángel Bonet identifica cinco categorías principales de robots que podrán desempeñar un papel clave en el futuro próximo: robots industriales, domésticos, militares, robots compañeros (o sexuales) y robots-persona o cíborgs191. Los cuatro primeros nos servirán de guía en esta sección, mientras que el último tipo, un híbrido entre humano y máquina, constituye un caso especial que trataremos con la cuestión transhumanista.

¿Estamos ante el final del trabajo (humano)?

No se equivoque: no estamos ante el ciclo normal de destrucción creativa, un proceso que hasta la fecha ha conducido a un nuevo equilibrio que ha generado más empleos, salarios más elevados y una mejor calidad de vida para todos192.

Kai-Fu Lee

El impacto de la revolución tecnológica actual en el empleo es sin duda el tema más debatido y el que suscita más temor e inseguridad. Aunque la automatización, sobre todo a partir de la Revolución Industrial, siempre ha comportado la destrucción de algunos puestos de trabajo a corto plazo, la “destrucción creativa” de Schumpeter nos reveló que esta pérdida —a veces al precio de la desaparición de sectores industriales enteros— se compensaba con la aparición de nuevas actividades y nuevos empleos.

Aún hoy, con unas tasas de desempleo en mínimos históricos —si no tenemos en cuenta la crisis generada por la COVID-19—, en particular en las economías altamente tecnificadas, se mantiene un debate polarizado entre dos posiciones. La primera sostiene que los avances en la IA y la robótica solo serán otra revolución más, que debería generar nuevas oportunidades y creación de empleo. La segunda defiende que los cambios que se perfilan en el horizonte no tendrán precedentes, ya que el campo de las competencias humanas susceptibles de ser reemplazadas será desproporcionado con respecto a lo vivido hasta ahora. Con todo, en los últimos años los análisis más rigurosos tienden a la segunda perspectiva, manteniendo cierta prudencia, y a concluir que el mercado laboral se verá afectado de un modo sin precedentes.

Además de blandir el argumento histórico —“hasta ahora, la innovación no ha destruido puestos de trabajo a largo plazo”— y subrayar la falta de perspectiva, los menos alarmistas apuntan al gran número de nuevas actividades que la economía de la IA y la robótica pondrán sobre la mesa, puestos de trabajo de alto valor añadido en la ingeniería, el diseño y la gestión. La tasa de desempleo del 3,5% en California o del 3,7% en Israel (antes de la COVID-19), dos de las economías en las que la tecnología tiene un peso considerable, indicaría que queda mucho margen para el trabajo humano en las economías altamente digitalizadas193.

Nos estaríamos centrando en la desaparición de puestos de trabajo, sin prestar atención a un nuevo entorno transformado por tecnologías disruptivas. Laurent Hublet cita el caso de los drones utilizados por el ejército de Estados Unidos para sustituir al F16. Nos fijamos en los pilotos que ya no son necesarios para los drones, pero mientras que para un caza se precisa un equipo de 100 personas, para un dron se requieren unas 135 personas194.

Esta visión optimista de la colaboración entre el hombre y el robot o entre el hombre y la IA se basa en un “enfoque basado en tareas”, utilizado sobre todo por la OCDE, según el cual estas tecnologías sustituirían algunas tareas de un puesto de trabajo, pero rara vez todas. Esta teoría señala la complementariedad entre las facultades humanas y las artificiales, que alcanzaría su apogeo en la formación de equipos de “personas-IA”195. La estrecha colaboración daría resultados superiores a los de la máquina sola. Así, hay más probabilidades de que la tecnología comporte el rediseño del lugar de trabajo que de sustituir todos los empleos.

No obstante, los argumentos menos optimistas son bastante convincentes. Por el momento, incluso en los casos de la IA más avanzada, ciertas limitaciones, en particular en materia de robótica, hacen que los humanos sigan siendo un escalón indispensable. Estamos en la era de la conducción asistida y no en la de la conducción totalmente autónoma, todavía en fase experimental. Para los empleos que requieren esfuerzo físico, la mecanización de unidades enteras también tiene sus límites, y las manos humanas siguen siendo difíciles de reemplazar, así que la presencia humana permanece en fábricas con un elevado nivel de automatización.

Aunque la sustitución de una tarea no implica necesariamente la pérdida de un puesto de trabajo, la consultora McKinsey calcula que en torno al 50% de las tareas profesionales ya pueden automatizarse —51,2% en China; 45,8% en Estados Unidos—. Traducido en términos de empleo, el 30% de las actividades podrían quedar totalmente reemplazadas en 2030, aunque solo el 14% de los trabajadores perderían realmente sus empleos, entre otras cosas porque algunos estarían protegidos. En el mismo sentido, un estudio de PwC estima que el 38% de los empleos corren un alto riesgo de desaparecer en los próximos años, si bien esta cifra se verá mitigada por las garantías reguladoras y las dinámicas sociales y jurídicas. No obstante, un análisis muy exhaustivo realizado por los investigadores de la Universidad de Oxford Carl Benedikt Frey y Michael A. Osborne en 2013, basado en evaluaciones de expertos en machine learning que valoraron la capacidad de automatizar una muestra de 70 puestos de trabajo en los próximos años, determinó que solo en un futuro próximo se podría reemplazar totalmente el 47%196.

Por otra parte, se diría que al analizar el problema desde el punto de vista de las tareas sustituibles se olvida toda una categoría de pérdidas de empleo: la que provoca la “disrupción” de todo un sector industrial. El task-based approach no contempla la pérdida de empleos de autobusero que provocaría el desarrollo del uso compartido del automóvil. Resumiendo la literatura más reciente, Kai-Fu Lee considera que la balanza se inclina a favor de una considerable pérdida neta de puestos de trabajo si tenemos en cuenta que la IA tiende a desarrollarse aún más rápido de lo previsto. Mientras que por el momento los procesos de automatización han afectado principalmente al trabajo no cualificado, en la siguiente fase sin duda alguna impactarán en los empleos de contenido intelectual, sobre todo los que consisten en tratar datos —médicos, abogados, etc.—.

El vertiginoso progreso de las biotecnologías en confluencia con el de la informática está dando lugar a un desarrollo de capacidades cognitivas de la máquina cada vez más sofisticadas. Los sistemas artificiales, que ahora son capaces tanto de captar la realidad física como de interpretarla, desplegando unas capacidades de cálculo y tratamiento de datos inigualables por los seres humanos, acabarían por dejar inoperantes los “nichos” que hasta ahora hacían necesaria la intervención humana.

¿Veríamos cumplirse la paradoja de Moradec, según la cual es más fácil para un ordenador demostrar unas capacidades comparables a las de un ser humano en un test de inteligencia que para un robot reproducir las capacidades cognitivas y motoras de un bebé de un año?197 Pero los progresos igualmente considerables en el campo de la robótica parecen desafiar esta paradoja. Las dificultades de reconversión en un mundo que evoluciona a gran velocidad conllevarían la aparición de una creciente “clase inútil”, en términos de Harari, probablemente destinada a permanecer siempre en el paro: “Muchos podrían correr la suerte no ya de los cocheros del siglo XIX, reconvertidos en taxistas, sino de los caballos, que quedaron progresivamente excluidos del mercado laboral”198.

Seguramente estas transformaciones no solo acentuarán las desigualdades en el seno de todas las sociedades, sino que también castigarán con fuerza a los países en desarrollo, cuya principal ventaja competitiva —la mano de obra barata empleada en el sector manufacturero— podría reducirse a nada con el uso generalizado de tecnologías como la impresión en 3D.

Es fácil comprender por qué este problema con consecuencias económicas y sociales meteóricas acapara la atención mediática y política cuando se habla de la revolución tecnológica. En un mundo en el que el trabajo humano se desvanece como gotas de rocío obliga a dar respuesta a la pregunta de cómo remunerar a esta “clase inútil” —un problema incomparable en número, en duración y, por consiguiente, en naturaleza con la clásica cuestión del desempleo—. Además de sostén económico, el trabajo parece ser una parte esencial de la dignidad humana y contribuye en gran medida al significado que muchas personas dan a sus vidas, aunque, al fin y al cabo, también hay muchas personas que sueñan con dejar de trabajar y a quienes la mera perspectiva de jubilarse les despierta una sonrisa. Solo una fracción es población activa — que trabaja o busca empleo—, y menos aún hace unas décadas, cuando segmentos enteros de la población se hallaban fuera del mercado laboral, empezando por la población femenina, sin que ello afectara necesariamente a su autoestima o a su satisfacción personal. En tal caso, si se encontrara una solución —sin duda, compleja— a la remuneración de la población y la redistribución de la riqueza, ¿constituiría el nuevo contexto una oportunidad para que la humanidad se emplease en actividades potencialmente más gratificantes? ¿O el problema de la sustitución del ser humano por la máquina afectaría a otras parcelas que contribuyen a conformar nuestra identidad?

Robots sexuales

Algunos sitúan el horizonte en el que las relaciones sexuales entre humanos y robots superarán a las propiamente humanas en 2050. A pesar de lo absurdo de este tipo de proyección, la carrera por crear robots sexuales está en marcha entre los actores de la industria de la tecnología sexual o sex tech, que mueve 30 mil millones de dólares anuales.

Stephanie 1.0 o Renee 3.0 se cuentan entre la treintena de modelos que la empresa Abyss Creations vende por un precio que oscila entre los 6.000 y los 8.000 dólares. Por unos pocos miles de dólares más, es posible añadir una amplia gama de opciones y rasgos que hacen que estos muñecos sean aún más realistas —aunque por ahora es fácil distinguirlos de un ser humano— y más acordes al gusto del cliente. Todas las modelos de RealDoll sonríen, parpadean y cambian de expresión. Al mismo tiempo, Abyss Creations está desarrollando el servicio RealDollX, una IA que simula intercambios de tipo sentimental con la cual el cliente puede interactuar a través de una aplicación. Y parece que la empresa tiene previsto fusionar estas dos creaciones con el fin de ofrecer a sus clientes una experiencia tanto física como conversacional. Aunque el producto aún parece estar en su infancia, augura la posibilidad de que los robots satisfagan los anhelos sexuales, y quién sabe si también la necesidad de sentirse amados.

Muchos hombres que sufren de soledad y no se sienten capaces de relacionarse con las mujeres podrían encontrar un paliativo a su frustración en estas máquinas. Y ello no solo podría beneficiarlos a ellos, sino también hacer un bien indirecto al resto de la sociedad. Según David Levy, cofundador del Congreso Internacional sobre el Amor y los Robots, “muchos hombres que hubieran sido unos marginados, unos parias o algo peor, serán ahora seres humanos más equilibrados”199. ¿Podrían RealDoll y sus acólitos ser un remedio para la violación y la violencia sexual? Para sus defensores, el robot sexual se ha concebido para complacer a sus usuarios sin dañar a nadie, un objetivo irreprochable.

Sin embargo, Kathleen Richardson, profesora de Ética y Cultura de los Robots y de la IA en la Universidad de Leicester, refuta estos argumentos y la idea de que estos humanoides podrían reducir la violencia sexual. Poseer un robot sería comparable a poseer un esclavo y sus dueños solo se preocuparían por sus propios intereses, lo que contribuiría a una erosión de la empatía: “El sexo es una experiencia entre seres humanos […]. Es una forma de entrar en nuestra humanidad con otro ser humano. […] Las personas incapaces de mantener relaciones con otros seres humanos necesitan terapia, no muñecas”200.

“Matt McMullen [el creador de RealDoll] afirma ayudar a quienes se sienten socialmente aislados, pero, a partir del momento en el que un hombre puede poseer una compañera cuya única razón de ser es proporcionar placer a su dueño, sin el inconveniente de tener sus propias ambiciones y necesidades, ese hombre podría darle la espalda por completo a las relaciones humanas en su conjunto”201.

El mercado de estas muñecas pretende llegar mucho más allá del ámbito psicomédico y de quienes se sienten inadaptados para las relaciones humanas. Según un estudio publicado en 2016 por Jessica Szczuka, de la Universidad de Duisburgo-Essen, el 40% de un grupo de 263 hombres heterosexuales manifestaron que se imaginaban comprando un robot sexual; y la probabilidad de hacerlo entre quienes mantenían relaciones que describieron como satisfactorias era la misma que entre solteros o quienes afirmaban sentirse solos.

Un compañero humano no siempre está disponible; no necesariamente le apetece interactuar en el mismo momento que al otro; no existe solo para satisfacer al otro.

Con esa opción sobre la mesa, ¿aceptaríamos volver a la laboriosa experiencia de la interacción íntima con otros seres humanos que requiere tanto esfuerzo y riesgos por un resultado que no ofrece garantías? En algunas áreas, una vez acostumbrados a la experiencia automática, encontramos muchas dificultades para “retroceder” y retomar la mecánica del trato con nuestros semejantes. En otros casos, por el contrario, uno está cansado de tropezar con asistentes virtuales y soñaría con toparse con una persona real. Pero sabemos que el uso de la tecnología tiende a impacientarnos, acostumbrándonos a satisfacer nuestros deseos al instante, incluso antes de haberlos formulado. El efecto paradójico es que a veces nos sentimos hastiados y esta impaciencia suele derivar en frustración. En lugar de aprender a buscar la satisfacción en lo que ya tenemos, siempre queremos más. Introducir esta dinámica en nuestra relación con los demás, en nuestra sexualidad, puede hacernos temer que nos convirtamos en niños malcriados, cada vez menos capaces de controlar nuestros deseos, de desarrollar relaciones humanas basadas en el encuentro con la alteridad y de construir el placer en una búsqueda mutua.

A fin de cuentas, la relación entre los seres humanos no se reduce solo a las relaciones sexuales, y tal vez la esencia humana todavía tenga cabida en otros aspectos de la relación con el otro. En un foro en Internet en el que los diseñadores de muñecas sexuales inteligentes solicitaban a sus clientes la opinión sobre sus experiencias, uno de estos escribió con elegancia: “Si mi RealDoll supiera cocinar, limpiar y follar cuando yo quisiera, dejaría de buscar aventuras amorosas”. Vamos a entretenernos en examinar si el sueño de este usuario es realista, explorando otro ámbito en el que la máquina podría reemplazar al humano.

Robots domésticos y de asistencia a las personas

Entre los robots a los que abriríamos las puertas de nuestras casas podemos distinguir entre funciones puramente utilitarias, como la limpieza, y las que interferirían o reemplazarían las relaciones con nuestros seres queridos.

En el primer caso, si pensamos en una aspiradora autónoma, no parece un riesgo existencial, aunque no está exenta de riesgos —como es el caso de la vigilancia y la recolección de datos—. Cocinar es eminentemente utilitario, pero en ella las personas decidimos cosas, nos aplicamos en la realización de una tarea que puede tener una dimensión casi meditativa y que nos permite desplegar la creatividad. En este y otros ámbitos los objetos inteligentes pueden facilitarnos la labor, pero también empobrecernos.

La función del segundo tipo de robots domésticos consistiría en “gestionar” seres poco productivos y autónomos como los niños y los ancianos. Ya hay objetos conectados, empezando por los teléfonos inteligentes, que están ocupando a veces el lugar de los padres —reduciendo el tiempo de interacción real y profunda entre padres e hijos y entre niños—. La considerable cantidad de tiempo que se deja a los niños frente a estos dispositivos ilustra lo mucho que se nos induce a optimizar nuestro propio tiempo y a limitar el que dedicamos a estos pequeños seres cronófagos. Pero se están anunciando robots que podrían ir mucho más allá en materia del cuidado. iPal, desarrollado por la empresa china AvatarMind Robot Technology, tiene como objetivo hacer compañía a los niños más pequeños, mantenerlos ocupados, entretenerlos y, al mismo tiempo, educarlos202.

Con todo, son los ancianos quienes con toda seguridad acabarán recibiendo cuidados integrales por parte de los robots. Los poderes públicos, con recursos limitados y a menudo ávidos de soluciones de optimización, se verán tentados de recurrir a estas máquinas para cuidarlos. La robótica promete irrumpir en las residencias de la tercera edad —ya lo ha hecho en países donde la demografía presenta un desafío como Japón o Corea—. Cabe preguntarse si estos dispositivos, que de hecho sustituyen al personal de cuidados y acompañamiento, a las familias o incluso al contacto con otras personas de edad avanzada, no encierran a estos grupos en la soledad cuando lo que más necesitan es precisamente el contacto humano.

En los casos en que el robot sirve de sucedáneo del contacto social, se puede prever un efecto negativo en comparación con el contacto humano. “Los robots sustitutos aíslan a sus usuarios: si un robot siempre está dispuesto a echar una partida de bridge uno tiene menos aliciente para desplazarse hasta el club”, apunta el psiquiatra Serge Tisseron203. Por el contrario, si los robots más cercanos al modelo del cobot —neologismo que hace referencia a los dispositivos usados siempre en colaboración con los seres humanos— no son totalmente autónomos y ayudan a las personas que se ocupan de ancianos en determinadas actividades o les prodigan cuidados, pueden concebirse situaciones en las que estos se sentirían menos juzgados u observados y, por consiguiente, más libres.

Aun así, la proliferación de estos dispositivos vuelve a poner sobre la mesa la cuestión del consentimiento por parte de las personas mayores y del respeto a su vida privada si el robot recopila datos mientras está en funcionamiento. Además, el contacto con personas de edad avanzada no solo es beneficioso para ellas, sino que ofrece a quienes les dedican tiempo de forma desinteresada una oportunidad de explorar su propia humanidad.

Robots asesinos

El campo militar ha sido durante mucho tiempo uno de los motores de la innovación y ha originado muchas tecnologías, luego extendidas al sector civil. Aquí vamos a concentrarnos específicamente en los sistemas de armas letales autónomas (LAWS por sus siglas en inglés), con capacidad de matar a un enemigo.

En la actualidad, estas armas no son completamente autónomas, especialmente porque los militares desean retener el control sobre ellas y porque las consecuencias de concederles plena autonomía y que puedan determinar sus misiones sería impredecible. Sin embargo, la dificultad de transmisión de la información entre estas armas y sus operadores ha motivado un incremento de su grado de autonomía, de modo que son capaces de atacar o defenderse sin ninguna intervención o supervisión humana. Es fácil comprender los beneficios de estos dispositivos para los ejércitos que los emplean: los robots optimizan muchas variables, la principal limitar las pérdidas humanas en sus filas. Pero ¿permitiría además eliminar de las guerras los sentimientos humanos más bajos? Una guerra librada por robots podría estar desprovista de crueldad, humillaciones, violaciones y otros actos salvajes.

Rescatando los principios básicos del Derecho Internacional Humanitario, es decir, el derecho que regula los conflictos armados, el filósofo Dominique Lambert cuestiona la capacidad de estas máquinas para aplicar los principios de distinción —entre combatientes y no combatientes—, de precaución y de pertinencia militar. Los constantes dilemas que plantean las situaciones a las que se enfrentan los ejércitos estarían, por naturaleza, fuera del alcance de los algoritmos. Deben analizarse en función de elementos contextuales e históricos y a menudo se resuelven a partir de una información incompleta.

Sin embargo, es posible que una IA muy avanzada sea capaz de asimilar mucha más información compleja que los seres humanos. Combinando herramientas de detección como el reconocimiento facial y una capacidad de computación casi infinita, permitiría “optimizar” el respeto a los principios del Derecho Internacional Humanitario. Pero quienes esgrimen este tipo de argumento reducen el pensamiento humano a un limitado cálculo de probabilidad. Lambert se inspira en la obra del filósofo Emmanuel Lévinas, que explica que el encuentro con el rostro del otro es una de las experiencias fundamentales para el despertar de la conciencia moral y la responsabilidad. En este sentido, delegar en la máquina el deber de apretar o no el gatillo parece erosionar este sentido de la responsabilidad en los humanos. “El movimiento que apuesta por aumentar, sin límite, la delegación de poder en robots autónomos remite, implícitamente, a una filosofía que ya no cree del todo en la libertad, la responsabilidad y la bondad de las personas”, explica Lambert. Por último, en palabras de Christoph Heyns, que fue el relator de la misión especial de las Naciones Unidas sobre ejecuciones extrajudiciales, sumarias y arbitrarias, “las máquinas no comprenden la importancia de la vida ni el significado del umbral que se cruza cuando se quita”204.

Esta compleja cuestión tiene demasiadas ramificaciones para abordarlas todas aquí, pero dos preguntas adicionales pueden calibrar el alcance de los problemas a los que nos enfrentamos. Si la guerra no es más que una extensión de la política por otros medios, la política es también lo que permite poner fin a la guerra. ¿Cuáles serían los efectos de la autonomía de los robots en los procesos de diálogo y acuerdo para evitar guerras? En segundo lugar, ¿cuáles serán las implicaciones del uso de estas armas autónomas por dos bandos en una guerra? ¿Las guerras se circunscribirán únicamente a los robots o se extenderían a otros ámbitos?

Esta lista de robots podría extenderse incluso a más campos de la actividad humana. Aunque el robot político humanoide que destronaría al político tradicional parece poco realista en un futuro próximo, la teoría cibernética ya defendía en la década de 1950 que las máquinas serían más capaces que los humanos de construir una sociedad justa y armoniosa. La deliberación y el compromiso democrático humano serían sustituidos por máquinas o procesos informáticos encargados de generar una “síntesis racional” de la “voluntad popular” y ponerla en práctica, o incluso de determinar, gracias a su “inteligencia superior”, lo que es mejor para la sociedad. A medida que nos acostumbremos a encomendar tareas más complejas a las máquinas, podría resultar tentador delegar el rompecabezas político y social en torno a una idea del bien común. Esto posiblemente nos llevaría a cuestionar “al propio ser humano […] como el organizador racional del mundo”205.

5. El patrón de exclusión humana

Si nos proyectamos en un mundo hiperrobotizado, podemos prever dos consecuencias principales. En primer lugar, a medida que la interacción con máquinas progresase y llegase a superar la frecuencia de contacto entre humanos, tendería a reducirse nuestra aptitud para comprender las emociones, los sentimientos y las creencias de los demás. Si externalizamos funciones humanas complejas a los robots, y si muchos problemas con un componente humano se tratan como problemas técnicos, perderemos el hábito de enfrentarnos a la profundidad del Otro.

En segundo lugar, por más que nos esforcemos en fingir que los robots nos “entienden”, estos siempre operarán de manera funcional y cosificarán a los humanos. Su forma de “entendernos” no consistirá en hallar el verdadero significado de nuestro comportamiento o nuestras palabras, sino en deconstruirlos y analizarlos como cualquier otro dato para darles una respuesta útil. Los más materialistas responderán que esto carece de importancia porque, en realidad, somos seres exclusivamente materiales, cuyas acciones, sentimientos, sensaciones o creencias pueden reducirse a fenómenos bioquímicos. El robot, según ellos, operaría de hecho de la misma manera que un humano.

Sin embargo, quienes están acostumbrados a acompañar a personas de edad avanzada o que atraviesan grandes dificultades saben que el intercambio más satisfactorio para ellas suele ser que se las escuche sin responder prácticamente nada. No se trata tanto de resolver racionalmente los problemas del interlocutor, sino de dejarlo hablar y limitarnos a escucharlo, reconociendo su individualidad. La interacción profunda con otra persona tiene lugar en un nivel diferente al que podría actuar una máquina, por muy antropomórfica o perfeccionada que sea, y es cuando experimentamos nuestra propia humanidad.

Existe un debate entre quienes auguran que la IA siempre será “débil” y quienes creen en la posibilidad de una “IA fuerte”. Los primeros defienden que el tipo de inteligencia de la IA nunca será completamente transversal y quedará limitada a una simulación de las facultades cognitivas y de las emociones humanas, muy lejos de lo que podría considerarse el desarrollo de una conciencia propia. Quienes estiman la posibilidad de una “IA fuerte” vaticinan que alcanzará un estadio en el que ya no existirá ninguna diferencia fundamental entre la inteligencia humana y la artificial, excepto que esta última será incomparablemente más eficaz. No obstante, los últimos razonamientos escapan a esta controversia porque no presuponen necesariamente una “IA fuerte”. La sustitución podría iniciarse sobre la base de IA débiles, pero funcionalmente muy avanzadas.

Los avances de la ciencia y la tecnología en los últimos siglos han trazado dos trayectorias aparentemente contradictorias sobre la idea del lugar que el ser humano ocupa en el universo. La primera como “dueños y poseedores de la naturaleza”, según la célebre expresión de Descartes, para explotarla y obtener el máximo beneficio, y de la que deriva la “ética del ingeniero”. Al mismo tiempo, el ser humano va perdiendo su centralidad. Para el filósofo italiano Luciano Floridi, este cambio de planteamiento pasó por cuatro etapas: con Copérnico, el hombre comprendió que no era el centro del universo; con Darwin, que era solo una etapa de la evolución; con Freud, descubrió el papel del inconsciente y los límites de su propia racionalidad, lo que significaba que no era el amo de todas sus acciones; y, por último, la revolución de la IA iniciada con Turing ha llegado a proponer la visión del ser humano reducido a un “inforg” —un organismo de información, al mismo nivel que otros organismos artificiales—. Según este enfoque, la realidad se reduce a bits y a datos que pueden ser procesados tanto por humanos como por máquinas inteligentes. La consiguiente desindividualización del ser humano comporta la pérdida de su centralidad en el mundo206.

Siguiendo una especie de profecía autocumplida, la adopción de este paradigma —que lo reduce todo a la circulación óptima de la información— convierte al ser humano en un Homo reductus. La presencia generalizada de robots en las distintas esferas de la vida y nuestra constante interacción con ellos promete reducir a los humanos a sus mecanismos bioquímicos, aniquilando sus otras dimensiones. La sustitución del ser humano por la máquina, y de las relaciones entre personas por las relaciones hombre-máquina propicia que cada vez sean más los procesos en los que la máquina interactúa directamente con la máquina, saltándose al ser humano en el proceso.

6. ¿Qué lugar le queda al ser humano?

A medida que más y más personas se vean desplazadas por las máquinas, se verán obligadas a responder a una pregunta más profunda: en una era de máquinas inteligentes, ¿qué significa ser humano?207

Kai-Fu Lee

Si este gran reemplazo del ser humano por la máquina se produce de tal manera que, además de quedarnos sin trabajo, tampoco tengamos obligaciones que estructuren nuestras vidas, ¿qué nos queda por hacer? ¿Seguiremos desempeñando alguna función propia del ser humano?

El amor, la comunidad y la búsqueda de sentido

Podría alegarse que la máquina jamás podrá aportarnos amor. Así lo avanza Kai-Fu Lee: “Sabemos que solo los humanos son capaces de amar y ser amados, que quieren amar y ser amados, y que amar y ser amados es lo que hace que nuestras vidas valgan la pena”208. Que nuestro último refugio sea uno de los aspectos más importantes de la existencia ofrece una perspectiva tranquilizadora. A menudo lamentamos la falta de tiempo para dedicarlo a nuestros seres queridos, absortos en multitud de obligaciones; en este sentido, el reemplazo de muchas tareas por robots podría ser una revolución eminentemente emancipadora.

Suena bien, pero ¿qué significa dedicar la vida a amar? Algunos imaginan la vida humana centrada en la creación de fuertes lazos sociales y familiares y en la búsqueda de un significado. Buscando poblaciones que viven de una manera parecida a la idea del mundo sin empleo, Yuval Noah Harari apunta a los judíos ultraortodoxos que reciben subsidios del Gobierno israelí y dedican la jornada estudiando textos sagrados, realizando rituales y criando a los siete hijos que tienen de media. En las encuestas de satisfacción con la vida, este colectivo suele presentar indicadores muy superiores a la media, pese a que viven en una cierta privación material. “Mientras que los robots y la IA expulsan a los humanos del mercado laboral, los judíos ultraortodoxos podrían representar más el modelo del futuro que un fósil del pasado”, argumenta Harari.

Ateo convencido, el historiador está lejos de hacer proselitismo religioso, pero valora la búsqueda de sentido y de lazos comunitarios como sustituto del empleo. “Si logramos combinar un mecanismo de seguridad económica universal con comunidades fuertes y actividades cargadas de sentido, perder nuestro empleo en beneficio de los algoritmos podría ser una bendición”209, concluye.

Estas visiones resultan seductoras, pero pueden adolecer de cierta ingenuidad. En efecto, al examinarse la sustitución hombre-máquina casi siempre de manera fragmentada —limitada al empleo profesional—, tenemos la ilusión de que las esferas privada, familiar e interpersonal quedarán relativamente a salvo de interferencias tecnológicas.

Pero el futuro optimizado por la automatización, la IA, los robots o la digitalización podría no respetar ningún límite de nuestra existencia. Su propia dinámica tiende a permearlo todo, especialmente nuestra forma de interactuar con los demás, de comunicarnos y de pensar. Un objetivo concreto subyacente es el de empujarnos al consumo, espoleando un deseo que se infiltra en nuestras vidas y afecta de manera fundamental a las relaciones humanas.

Ante la razón optimizadora y consumista el amor y las relaciones interpersonales no constituirían ningún santuario —no lo son ya, de hecho—. Los robots niñera, las tecnologías de entretenimiento y las redes sociales o las aplicaciones de contactos que ya invaden el espacio privado lo prueban.

Aunque el tiempo liberado del trabajo nos permitiría dedicarnos a otras actividades y a nuestros seres queridos, en realidad se nos promete reemplazarnos en estas relaciones.

¿Limitados a jugar?

Solemos considerar que el tiempo que no consagramos a nuestras obligaciones, profesionales o de otra índole, es tiempo de ocio. En un mundo en el que estas obligaciones prácticamente habrían desaparecido, el destino de la humanidad podría consistir en jugar y divertirse. Los juegos cumplen al menos tres funciones: 1) la de entretenimiento, que evita que nos aburramos y nos distrae de nuestros problemas y de la gravedad de nuestras vidas; 2) la de la estimulación física, intelectual y cognitiva, en la medida en que nos invitan a movernos, a reflexionar, a coordinarnos, etc.; y 3) la de invitarnos a interactuar con el otro y a socializar. Son funciones que hacen el juego sumamente útil para los humanos, más aún en el ambiente desprovisto de obligaciones que imaginamos. Manteniéndonos ocupados, nos ayuda a pasar el tiempo, creando oportunidades para compartir con otras personas, estimulando nuestro cuerpo y nuestra mente cuando hayan sido reemplazadas en otras tareas, evitando así su completa atrofia.

El deporte ya palia la falta de actividad en un mundo en el que la necesidad de la fuerza física se ha reducido mucho. Si todas nuestras facultades físicas y mentales se vuelven inútiles, en la medida en que ya no responden a necesidades reales, es previsible que los juegos se multipliquen para paliar la disminución de actividad en otros campos.

La idea del juego aparece a menudo entre quienes intentan imaginar un mundo en el que la existencia no pase por satisfacer necesidades. Theodore Kaczynski210 habló de los harmless hobbies —pasatiempos inofensivos— a los que se dedicarían los humanos. Kaczynski predecía que el hombre acabaría reducido a la condición de animal doméstico. Limitar la vida a los juegos proyecta una visión del humano parecida a la de un hámster corriendo en una rueda. “Solo es un juego”, se suele decir, una actividad sin trascendencia en la que las decisiones no cuentan. Resulta inquietante imaginar un mundo en el que el ser humano tendría ocupaciones, pero ya no una función. Al margen de sus múltiples virtudes, el juego por sí solo no bastaría para conferir sentido a la vida.

¿La cultura como un terreno singularmente humano?

¿Podría el hombre al menos conservar para sí la cultura, la producción artística y su apreciación? ¿Conservaría la capacidad de conmoverse por el arte? La emancipación de muchas limitaciones le proporcionaría el tiempo necesario para desarrollar su creatividad y buscar la belleza y la profundidad espirituales.

Los robots y la IA ya han irrumpido en el campo de la producción artística. El 25 de octubre de 2018, el cuadro Edmond de Bellamy, vendido en una subasta en Nueva York, saltó a los titulares por ser la primera obra concebida por una IA que hizo su entrada en el mercado del arte. Esta anécdota, que sin duda tenía mucho de marketing, no es más que la punta del iceberg. Empiezan a surgir departamentos de IA aplicada al arte en las universidades y una parte del sector está empezando a interesarse por el tema. La música parece prestarse especialmente a su reducción a datos. Mientras que los algoritmos de las plataformas de música en streaming nos recomiendan canciones que podrían gustarnos, ya se habla de la etapa siguiente: la composición de piezas musicales mediante algoritmos que permitirían determinar los sonidos que más se ajustan a nuestra personalidad o estado de ánimo.

Existe el riesgo de que los contenidos culturales —la música, la literatura, el cine u otras manifestaciones—– se asemejen todavía más a cualquier producto y que su vocación no sea otra que optimizar nuestro estado hormonal. La cultura se hallaría en manos del neuromarketing, un vector más de nuestra transformación en ese “cuerpo que reacciona a las señales”211 descrito por el filósofo Éric Sadin. Si esto fuera así, sería difícil considerar el arte y la cultura como un campo en el que el ser humano podría realizarse.

Por otro lado, no está claro que un entorno optimizado en los términos descritos y la simpleza de la existencia humana resultante constituyeran un terreno fértil para la creatividad, la producción cultural y la apreciación de la cultura. ¿Se conservarían los incentivos y estímulos necesarios para una verdadera fecundidad artística? ¿O por el contrario se aplanarían nuestras personalidades para hacerlas encajar en el modelo de optimización? Reflexionando sobre el desarrollo del carácter y los valores de las personas, Orwell escribió: “En realidad, la mayoría de las virtudes que admiramos en los seres humanos únicamente se manifiestan ante el sufrimiento, la dificultad o la desgracia. Pero el progreso mecánico tiende a eliminar el sufrimiento, la dificultad y la desgracia”. Cabe pensar que la misma lógica prevalecería en el caso de la cultura.

¿Pueden convivir dos especies inteligentes?

Bill Joy —recordémoslo: no un siniestro ludita, sino el científico y empresario tecnológico que fue pionero en el desarrollo de la informática— se planteó el siguiente interrogante hace veinte años: “Dado el increíble poder de estas nuevas tecnologías, ¿no deberíamos preguntarnos cómo vamos a convivir con ellas? Y si nuestra propia extinción es posible, o incluso probable, ¿no deberíamos proceder con extrema cautela?”.

Hans Moravec, uno de los principales investigadores en robótica e IA desde la década de 1980, también está convencido de que no sobreviviríamos a nuestro encuentro con los robots superinteligentes212. Para la filósofa ética Adela Cortina, la concepción de estos dispositivos supuestamente superiores conduciría a la creación de dos especies, una superior y otra inferior: “Pero ¿cuál sería la nuestra? —se pregunta—. ¿No estaríamos abonando un mundo de amos y esclavos, en que los segundos no tendrían la menor posibilidad de revolución, sino que estarían a merced de las superinteligencias?”213.

En este escenario, el lugar del humano sería o bien nulo —literalmente, la extinción— o el de un esclavo, completamente supeditado a la máquina. Ahondaremos en este tipo de escenario en el capítulo noveno.

El lector podría considerar que los escenarios descritos son exagerados e injustamente pesimistas acerca del futuro que se avecina. Pero preguntémonos por qué tales perspectivas son recibidas con tanto escepticismo. ¿Creemos que el nuevo paradigma dominante debería conducirnos en una dirección diferente, necesariamente positiva? ¿Cuál sería? ¿O es porque estamos convencidos de que conseguiremos sortear cualquier reto y frustrar escenarios catastróficos para los humanos? Tenemos el deber de preguntarnos qué es lo que deseamos para la humanidad y, si es posible, dibujar un proyecto distinto para ella.

7. ¿Qué deseamos?

Curiosamente, hay poco debate acerca de si la optimización ilimitada es la vía en la que deseamos que la tecnología influya en el mundo que habitamos. Ahora bien, si nos alarma la gravedad de los posibles escenarios, tratar de responder a estas preguntas no es mera fantasía, sino más bien un ejercicio crítico en el que debemos preguntarnos quiénes somos, qué queremos conservar o cambiar y si tiene correspondencia con lo que entendemos como progreso.

¿Queremos un mundo en el que la personalidad humana se estandarice para encajar en el modelo digital? ¿Aceptamos que las personas sean empujadas hacia los márgenes hasta ser eventualmente anuladas? En la actualidad, cuando los problemas de distribución de la riqueza aumentan, ¿qué pertinencia tiene la automatización para incrementar la eficacia de la producción si la perspectiva es que acreciente las desigualdades? ¿Comulgamos con un desarrollo tecnológico en el que el ser humano “ya no puede ejercer ni su saber hacer ni su creatividad”?214 Y si rechazamos estas perspectivas, ¿cómo podríamos actuar, desde ahora mismo, para definir otro horizonte?

Existe una visión divergente que propone vivir aceptando la imperfección humana. Plantearía como cuestión central la búsqueda de la felicidad en la libertad, una búsqueda que no estaría al alcance de los algoritmos.

Entender la vida humana como un viaje y no como una meta

En su espectáculo Miracle, el mentalista británico Darren Brown alude a los libros sobre desarrollo personal que recomiendan fijar objetivos claros en la vida y luego trazar una estrategia para alcanzarlos. Pero “cuando vives para tus objetivos, te olvidas de vivir ahora”, resume antes de citar al filósofo Alan Watts, quien afirmaba que no saltamos a la última nota al escuchar una pieza musical porque es en ella cuando todo converge a la perfección; ni saltamos a la última página de un libro porque es su punto culminante. “Olvidamos que la vida puede ser como una pieza musical —dice Brown—, y que se supone que debemos bailar”215.

Las tecnologías digitales no parecen ayudarnos a avanzar en esta dirección. Cualquier proceso de aprendizaje conlleva algún tipo de dificultad, esfuerzo, interacción social y multitud de enseñanzas paralelas que construyen las personas que somos. Así ocurre con la lectura de un libro, una relación sentimental, cualquier trabajo o actividad. Si entendemos todo proceso únicamente en función de su resultado final, corremos el riesgo de perdernos la vida, una vida que se inscribe en la duración y se nutre del camino recorrido.

El tipo de decisiones que adopta por nosotros la IA cumplen objetivos según la lógica instrumental, al tiempo que libera nuestras vidas de “imperfecciones, pérdidas de tiempo, ensoñaciones, ociosidad y otras estupideces que pueden obstaculizar la productividad y el crecimiento”216, en palabras del filósofo Michel Blay. Pero sucede que las personas nos construimos a partir de esas deambulaciones aparentemente inútiles, de todas esas equivocaciones y momentos desagradables que nos ayudan a comprender, por oposición, qué es un momento agradable o feliz. Si reducimos todo en términos del “fin” —entendido como un objetivo final, pero también como lo que está al final del camino—, corremos el riesgo de perdernos la riqueza de un recorrido lleno de entresijos. Y ese esfuerzo, que nos invita a superarnos, nos permite apreciar la profundidad de la vida en su irregularidad, peligros y sorpresas.

En efecto, como lo describen Christophe Labbé y Marc Dugain, “la mente humana se enriquece con lo inesperado y cuando se muestra más creativa es precisamente frente a los imprevistos”. Esta creatividad, que hace al ser humano capaz de salirse de los caminos trillados y llegar a un resultado diferente del anticipado, es incompatible con el orden binario de las ecuaciones que arrojan un resultado exacto. El orden digital está diseñado para eliminar la incertidumbre y la casualidad, la esencia de la experiencia vital humana.

Respetar nuestra autonomía

Imaginemos a niño pequeño que protesta: “¡Yo solito! ¡Yo solito!” cuando tratamos de hacer algo en su lugar. Los niños reclaman convertirse en seres autónomos y la función de la educación es prepararlos para que así sea. Sabemos que como adultos haríamos las cosas de manera más eficaz, más rápida y menos arriesgada. Actuando solo, es probable que el niño se caiga y tenga que levantarse, que se haga un poco de daño, que nos dé un pequeño susto y tarde el triple de tiempo en llevar a cabo una acción aparentemente sencilla, provocando a veces nuestra impaciencia y frustración. Sin embargo, sabemos que el aprendizaje pasa por este proceso. Es superando estas dificultades, identificando los obstáculos y disponiendo de un espacio de libertad como el niño gana confianza en sí mismo y experimenta satisfacción. No obtendremos satisfacción avanzando por una superficie plana, sin dificultades, dejándonos guiar sin margen de maniobra o error. ¿No corremos el riesgo de condenarnos a la minoría de edad perpetua con el pretexto de la optimización? Si delegamos en la máquina la menor dificultad recurriendo a la asistencia tecnológica, dotada de IA y articulada por robots, no solo ponemos en duda nuestra autonomía, sino también nuestra capacidad de enfrentarnos a la dificultad y superarla, de experimentar una honda satisfacción.

No parece muy atractiva una vida parecida al itinerario trazado por Google Maps. De vez en cuando queremos equivocarnos y, a veces, descubrir nuevas rutas.

Definir la tecnología que nos gustaría no basta para formular soluciones, pero es un paso necesario. Por eso nos atrevemos, en síntesis, a formular las demandas siguientes:

Exigimos que la tecnología respete lo que consideramos imperfecciones humanas y que forman parte intrínseca de lo que somos; que deje espacio a lo inesperado; que nos permita ser creativos y que respete nuestra autonomía, el único punto de partida posible para una verdadera búsqueda de la felicidad. También reivindicamos no interferir en la diversidad humana insistiendo en filtrar toda imperfección; que no contribuya a la configuración de “un mundo en el que seríamos intolerantes con quienes no están a la altura, son imperfectos o no se ajustan a las normas industriales impuestas”, en palabras de Jeremy Rifkin. Por último, no queremos llegar nunca al extremo de la subordinación total, en la que dependamos de los designios de la técnica.

La falta de debate y de espíritu crítico es tarea y responsabilidad de cada uno de nosotros, pero algunos grupos tienen motivos importantes para ahorrarnos ese deber. Trataremos el intento de aniquilar la reflexión profunda y colectiva sobre el destino de la humanidad en el próximo capítulo.

Capítulo 7

Adoctrinados. La ideología solucionista
y el sueño de un Homo deus

Cuestiones clave:

¿Qué valores sostienen los promotores del desarrollo tecnológico actual?

¿Cuáles son los cimientos del “solucionismo” como ideología?

¿Cuáles son las principales aporías y defectos de esta ideología?

Conectar el mundo es liberar al mundo y, si lo conseguimos, entonces podremos solucionar los problemas más acuciantes del planeta y proyectar rayos luminosos de esperanza a millones de personas que lo único que atisban ahora es un trémulo resplandor217.

Eric Schmidt, expresidente de Google

Es posible que algo de lo expuesto hasta ahora resulte demasiado crudo o increíble, como si hubiéramos exagerado sus características para hacerlos indeseables a ojos del lector. Sin embargo, estas posibilidades, por más inverosímiles que puedan parecer, plasman el proyecto de quienes capitanean el desarrollo tecnológico actual. Creyentes en la omnipotencia de la tecnología y en su capacidad para solventar todos los problemas humanos, de la índole que sean, prácticos y económicos, políticos, ecológicos, biológicos o morales. Para ellos, toda traba al desarrollo y a la adopción de alguna tecnología se considera una barrera al progreso reprochable. Todo cuestionamiento es sospechoso de oscurantismo.

El “solucionismo”, término acuñado por Evgeny Morozov, alude a la ideología que propone abordar toda situación como un problema que admite una solución tecnológica. Según esta creencia, incluso los problemas ocasionados por la tecnología requerirían más tecnología para resolverse. Esta fantasía prometeica considera que la técnica constituye el único recurso contra los males que la humanidad ha padecido y que sus avances exponenciales nos permitirán, en el plazo de una o dos generaciones, poner fin a problemas tan fundamentales como la conservación de nuestro planeta, las desigualdades o incluso la muerte.

Ser conscientes de las intenciones finales que encierran los proyectos de los grandes líderes tecnológicos podría provocar un profundo malestar, dada la naturaleza extrema de sus propuestas y la forma en que deconstruyen todo lo humano, rebajándolo a la condición de cualquier problema técnico. El cofundador de Sun Microsystems, Bill Joy, admitió que, aunque siempre le había preocupado la dimensión ética de las nuevas tecnologías, no fue del todo consciente de los problemas que tocaría afrontar en el siglo XXI hasta que conoció a Ray Kurzweil, el principal gurú y promotor de la doctrina solucionista.

Nacido en 1948, este científico y empresario ingiere un centenar de píldoras al día para preservar su organismo y “asegurarse” de seguir vivo en el momento en el que el ser humano se vuelva inmortal. Empleado de Google desde 2013, aspira a otorgar a la tecnología un papel tan amplio que incluso quienes han dedicado su vida a ella podrían experimentar cierto vértigo y serias dudas frente a sus propuestas. Consisten en lograr que las tecnologías digitales rijan de manera absoluta nuestras vidas y son tan radicales que los gigantes tecnológicos gestionan con precaución su divulgación y apuestan por picar la curiosidad del público, haciendo que vaya familiarizándose con esta visión tan peculiar del mundo, pero sin precipitarse para no suscitar un rechazo frontal.

La fuerza de una ideología radica en su capacidad de presentar como natural su interpretación de la realidad pese a basarse en prejuicios vinculados con una creencia u opción política concretas. Aquí analizaremos algunos de sus presupuestos y valores subyacentes.

1. Las raíces de una ideología

En Silicon Valley conviven diversas corrientes de pensamiento, y la doctrina del solucionismo no es homogénea. Philippe Vion-Dury distingue cuatro vertientes que caracterizaron el desarrollo de las tecnologías digitales en Estados Unidos218. Ideológicamente, Silicon Valley sería:

Políticamente tecnócrata. La figura reparadora y organizadora del ingeniero es omnipresente. Todo es por naturaleza calculable y previsible; la sociedad se considera una forma de software susceptible de optimización y el hombre, una máquina biológica;

económicamente liberal. Privilegia un tipo de capitalismo prácticamente desregulado y se preocupa poco por las reglas existentes, fe de lo cual dan los objetivos monopolistas declarados de los gigantes tecnológicos o sus agresivas prácticas de optimización —si no evasión— fiscal;

culturalmente libertario. Sobre todo en sus inicios, en las décadas de 1960 y 1970, estuvo marcado por experiencias de comunas hippies que, pese a que no funcionaron, se fundieron en el discurso del Silicon Valley;

mesiánico en su mensaje. Se trata de divulgar su solución en el mundo entero y evangelizarlo para iluminar a los pueblos sin cortapisas.

En este entorno ideológico se fraguó el paradigma solucionista, que pretende imponerse mucho más allá del valle. Lo hace de un modo parecido al discurso tecnócrata del “crecimiento económico”. Ambas se sustentan en la idea de una correlación indiscutible entre el progreso humano y el desarrollo tecnológico o el aumento de la riqueza, respectivamente. La “mano invisible digital”, como la “mano invisible del mercado”, actuaría para corregir los desajustes asegurando la estabilidad y el equilibrio.

La ideología solucionista no sustituye a la del crecimiento económico. Ambas son en gran medida compatibles y se retroalimentan. Aceptamos sin crítica que la tecnología aumenta la productividad y reduce los precios de los bienes y servicios, lo cual favorece su abundancia e incrementa el poder adquisitivo de los consumidores, que pueden gastar más adquiriendo otros productos o invirtiendo sus ahorros. En la ecuación del crecimiento, se considera progreso técnico el que permite incrementar el producto resultante del encuentro entre capital y mano de obra. Como ya hemos apuntado, la “destrucción creadora” schumpeteriana legitima el carácter deletéreo de determinadas tecnologías para la economía o el empleo —y, en términos más generales, para la sociedad—, inscribiéndola en el discurso del crecimiento, ya que los costes de los desajustes ocasionados se justifican con la promesa de un crecimiento futuro. Las consecuencias negativas que cuestionan el modelo, ya sean de naturaleza medioambiental, social, humana, psicológica o de otro tipo, en el mejor de los casos se tienen en cuenta como externalidades negativas que hay que reintroducir en la ecuación como un coste adicional y, en el peor de los casos, sencillamente se ignoran.

Pese a esta analogía, la religión solucionista tiene pretensiones mucho más elevadas que su hermana mayor, la religión del crecimiento. A la varita mágica tecnológica se le atribuye un poder más absoluto y un ámbito de acción mucho más extenso.

Hacia la omnipotencia

Del idealismo contracultural que aspiraba a liberar a las personas de todo tipo de yugo social, el solucionismo ha conservado, sobre todo, la dimensión individualista y el rechazo a toda autoridad susceptible de interferir en su proyecto. Paradójicamente, al conferir a la tecnología una capacidad infinita para aportar soluciones, la ha entronizado como fuente de autoridad más incontestable que cualquiera de sus precedentes, hasta el punto de otorgar a los sistemas computacionales una “capacidad de aletheia”, según la expresión del filósofo Éric Sadin, es decir, una vocación de enunciar la verdad y “verificar la realidad de manera más fiable que nosotros mismos”219.

Frente a esta omnipotencia benefactora, otras fuentes de autoridad como el Estado parecen ilegítimas y perjudiciales. “Los poderes públicos no están dotados para entender las tecnologías exponenciales. De ahí su tendencia vana a intentar obstaculizar su progreso”220, ha declarado el empresario Salim Ismail, embajador mundial de la Singularity University. Estos creyentes abogan por la autorregulación frente a la intrusión de la autoridad pública. Vinton Cerf, alto responsable de Google, confía en la ética de los desarrolladores para garantizar que la tecnología cumpla su papel emancipador: “Hago un llamamiento a los gobiernos para que no se inmiscuyan en el control de la IA, ya que ni siquiera conocemos todavía el potencial de estas herramientas”221.

De manera parecida al fundamentalismo religioso, la fe en una fuerza liberadora superior parece eximir a los sacerdotes del solucionismo del respeto hacia el Estado de derecho. Vislumbramos aquí la impronta de ese “juvenil espíritu libertario en virtud del cual la regulación, las normas y los principios tradicionales del Estado de derecho, la economía de mercado y la vida social no iban con su mundo”, remarca el jurista Carlos López Blanco222. Por consiguiente, la regulación pública para defender los derechos de los consumidores, proteger la vida privada y velar por la transparencia, debería considerarse obsoleta por no estar a la altura de las expectativas que ofrecería la tecnología.

Este rechazo de cualquier regulación tiene por corolario el desdén hacia la política en general. “Muchos geeks del Silicon Valley le dirán que han dejado de creer en la capacidad de los legisladores de Washington para hacer nada”, explica Evgeny Morozov223.

El credo solucionista no admite cuestionamiento. Todo pensamiento que proponga otras vías posibles de progreso se considera ignorante o retrógrado.

Tal vez los principales exponentes del solucionismo transmitan la impresión de ser arrogantes. Pero ¿acaso no están autorizados a serlo? Si la tecnología es redentora y ellos son quienes la crean, en tanto que empresarios y desarrolladores, hay quien puede considerarlos nuevos sacerdotes o mesías. Con esta aura, se sienten legitimados para abordar los problemas —o lo que ellos perciben como tales— no solo con las herramientas que ya han creado, sino también con las que fantasean… y, en todo caso, a su manera. Su ambición suprema, que sueñan con concretar en vida, consiste en rediseñar al ser humano de arriba abajo con ayuda de la tecnología para liberarlo de todo límite.

2. El sueño transhumanista

En 2013, desde su incubadora de empresas ultrasecreta, Google X Lab anunció el nacimiento de uno de sus proyectos más ambiciosos. Calico —contracción de California Life Company— tiene por objetivo prolongar la vida humana hasta conseguir “matar a la muerte”. No hablamos de curar enfermedades como el cáncer, sino de la ambición demiúrgica de alcanzar la inmortalidad. Y si Google cree que tiene alguna oportunidad de lograrlo es porque considera que la medicina y la comprensión del cuerpo humano se han convertido en ciencias de la información que se sustentan en la recopilación y el análisis de bases de datos gigantescas.

La idea de la inmortalidad humana enlaza con la corriente transhumanista, cuyos orígenes modernos se remontan a la década de 1950 y que registró un auge con el desarrollo tecnológico en los noventa. Su finalidad no es otra que trascender la condición humana aumentando las capacidades físicas y mentales del ser humano, propiciando su simbiosis con la máquina o modificándolo genéticamente. Una solución tecnológica a lo que se plantea como un problema: la fragilidad y las limitaciones del cuerpo y del alma humanos.

Los fundadores de Google, Larry Page y Sergey Brin, no tardaron en hacer suya esta idea y en colocar su empresa a la cabeza de este discurso. Page declaró, ya a principios de la década de 2000, que “el motor de búsqueda último será tan inteligente como los seres humanos, o incluso más”, a lo que Brin añadiría: “Es evidente que si tuviéramos toda la información del mundo directamente conectada al cerebro o un cerebro artificial más inteligente que el nuestro nos iría mucho mejor”224.

Conectar el cerebro a sistemas computacionales sería una de las maneras de potenciar las facultades de percepción y cognición y eficiencia del ser humano. Su memoria y capacidad de cálculo podrían amplificarse de modo exponencial. Su vista y su oído se multiplicarían por mil gracias a la modificación de los órganos correspondientes. Nuestro cuerpo incrementaría su fuerza física, se reducirían necesidades biológicas como el sueño. Nuestra especie, o la parte de la humanidad que accediera a esta hibridación, estaría así compuesta por seres semiartificiales que progresarían al ritmo de los avances tecnológicos.

Ray Kurzweil augura que nuestros cerebros estarán conectados a Internet antes de 2030, lo cual permitiría que nuestro pensamiento se prolongara en la nube —objetivos que ya están persiguiendo proyectos concretos de Facebook o Neuralink225. Predice que nuestra actividad mental acabará siendo un híbrido de pensamientos biológicos y no biológicos. Y hacia finales de la década de 2030, nuestro razonamiento sería ya en su mayoría de origen artificial226.

En cada país o región del mundo, esta corriente de pensamiento cuenta con sus propios adalides. En el mundo hispánico, el venezolano José Luis Cordeiro proclama de conferencia en conferencia que no tiene intención de morir, e incluso que dentro de treinta años será más joven que ahora. “La muerte se va a convertir en opcional en dos o tres décadas”, asegura, convencido de que crearemos una civilización poshumana que va a ser casi igual a Dios227. “Ahora los cerebros humanos funcionan a un hercio, diez hercios, cien hercios. Un cerebro muy rápido como el mío va a 1.000 hercios”, presume. “Los ordenadores, sin embargo, funcionan en gigahercios”, explica, dando a entender que, una vez que cerebro y ordenador sean uno, el primero podrá tratar la información a una velocidad miles de veces superior.

La otra carrera por la inteligencia enfrentaría a unos países contra otros. “Si determinados países, como China, desarrollan agresivamente tecnologías eugenistas y nosotros continuamos sin hacerlo, acabaremos convertidos en los esclavos de los países más transgresores en el plano tecnológico”, vaticina el empresario Laurent Alexandre. Según él, mientras que en la primera potencia asiática el 50% de los progenitores estarían dispuestos a utilizar tecnologías eugenistas para tener hijos más eficientes, en Europa solo lo estaría el 13%228. No nos quedaría más alternativa que adoptar esta vía para no acabar convertidos en una subespecie frente a los superhombres venidos de Oriente.

Para la mayoría de los transhumanistas, este aumento de las capacidades humanas por medios tecnológicos mejora la condición del ser humano y es una aspiración “feliz”. No obstante, en el capítulo noveno veremos que determinados partidarios de este proyecto lo conciben sobre todo como una necesidad para plantar cara al desarrollo de las máquinas y la IA. Si en algún momento entre las décadas de 2040 y 2070 surgiera una “superinteligencia artificial”, capaz de rivalizar con la humana y de automejorarse, ¿no se arriesgaría el ser humano a acabar siendo el vasallo de los sistemas inteligentes?

¿Una pseudociencia?

El transhumanismo tiene una débil base científica. Lejos de todo rigor, la confianza ilimitada en la tecnología que demuestran sus partidarios prescinde de principios elementales. Fundamentan sus proyecciones en una analogía con la ley de Moore —hipótesis globalmente validada hasta el presente según la cual la capacidad de cálculo de los microprocesadores se duplica cada 18 meses—, como si esta pudiera extrapolarse sin más al ser vivo. Suelen citar la reducción del coste de técnicas como la secuenciación del ADN —que se ha dividido por 3.000 en 10 años—, y de ello infieren que seremos capaces de aumentar de manera comparable nuestra capacidad de optimizar la materia viva. Ahora bien, el destacado biólogo francés Jacques Testart recuerda que el ADN es una molécula química, no un ser vivo, y que entender el ADN no implica entender al ser vivo229.

Podemos poner en duda, como hacen distintos científicos, que el transhumanismo sea capaz de comprender la verdadera complejidad del ser humano con un enfoque puramente mecánico. “Los transhumanistas ignoran por completo el entorno. Colocan al Homo sapiens sobre la camilla y juguetean. Le ponen electrodos, modifican sus genes, etc. ¡Pero el ser humano no es nada fuera de la naturaleza, del medio ambiente, del grupo humano!”, exclama Jacques Testart. “El problema es que la ideología de los transhumanistas está intrínsecamente ligada a la creencia cientifista, tan ingenua como obstinada, en un progreso continuo”230.

¿Un hombre más reducido que aumentado?

La creencia en que los sistemas de información y de análisis perfeccionarán nuestra vida —modificando la naturaleza del ser humano— debe hacer frente a interpretaciones distintas del significado de la vida humana. Los que los transhumanistas presentan como un movimiento natural e inevitable vinculado al progreso técnico corresponde, de hecho, a una elección extrema e irreversible. No está nada claro que deseemos realizar este sacrificio y renunciar a nuestra humanidad para obtener beneficios hipotéticos, que aun idealizados, presentan numerosos riesgos.

El transhumanismo se basa, como mínimo, en dos ideas previas. Por un lado, según explica el filósofo Pierre Dardot, la idea del “individuo-cerebro”, es decir, el hecho de que la identidad de la persona reside estrictamente en su cerebro. El cuerpo, por su parte, no sería más que un caparazón sustituible, un epifenómeno. Así, si hiciéramos “una copia de seguridad” del contenido de un cerebro, que podría traducirse en datos digitales, lo que recuperaríamos sería la identidad del individuo, su esencia.

En segundo lugar, el transhumanismo parece nacer de una especie de desafección hacia uno mismo, de una frustración que recuerda al “resentimiento” nietzscheano y de una incapacidad de habitar la realidad. La motivación más o menos consciente sería “acabar con el ser humano”, considerado como una máquina obsoleta. El hombre, sintiéndose marginado por la máquina, acabaría por no soportar su condición.

La condición poshumana que promete esta ideología nos internaría por un camino aterrador cuyas consecuencias intentamos sintetizar:

1) Desigualdades o uniformización

Sumiría al ser humano —o al poshumano— en una carrera sin tregua por la eficiencia y la optimización. O bien surgirían terribles desigualdades entre quienes accedieran a las últimas actualizaciones disponibles y los demás o bien todo el mundo accedería a ellas de manera igualitaria y simultánea. En el primer caso, pequeños retrasos en la accesibilidad podrían originar desigualdades abismales de resultado incierto. En la segunda hipótesis, podría temerse una uniformización total de la especie poshumana a base de actualizaciones de su sistema operativo. Asimismo, el discurso transhumanista está sembrado de referencias constantes al coeficiente intelectual (CI) y a indicadores de rendimiento absolutamente reduccionistas que no tienen en cuenta los distintos tipos de inteligencia.

Cuando se subraya la cuestión de las desigualdades, los transhumanistas replican que el coste para acceder a las mejoras sería insignificante, así que no constituirían ningún factor de diferenciación socioeconómica. Lo ejemplifican en la reducción exponencial del precio de la secuenciación genética. Es más, dotando a todo el mundo de una inteligencia mejorada, el transhumanismo sería igualitario, pero incluso aunque así fuera, no se pronuncian acerca de qué ocurriría con las personas que rechazaran este tipo de dopaje, este abandono de la condición humana.

2) El ser humano se convierte en otro producto más

Si bien nuestro cuerpo ya es un campo abierto para el consumismo en muchos sentidos, el ser humano podría dar un salto y convertirse en un objeto comercial en sí mismo. Sería plausible que un puñado de empresas acaparasen la hegemonía de algo tan fundamental como la naturaleza humana. Detentarían un poder determinante sobre nosotros y dependeríamos de ellas para adquirir piezas de recambio o descargarnos las aplicaciones necesarias para nuestro propio funcionamiento. Viviríamos siempre a la espera de la siguiente actualización como parte del engranaje de la obsolescencia programada.

3) Se borrará toda distancia con respecto a la tecnología

La pérdida de libertad, el encerramiento, la vigilancia o la pérdida de puntos de referencia no solo se magnificarían, sino que nos dejarían sin escapatoria, ya que perderíamos de manera definitiva toda capacidad de retroceder. Nos sumergiríamos en un nuevo totalitarismo, convertidos en objetos hackeables por entidades exteriores. La reducción de lo humano a su capital genético y a su realidad biológica guarda parecido con la concepción del ser humano que tenía el nazismo y con su sueño de construir un superhombre, una especie de hombre-máquina regulable y supeditado a un poder centralizado.

4) Rendimiento frente a felicidad

Conviene examinar la tentación transhumanista a la luz de la cuestión de la felicidad. Esta ideología fundamenta su concepción de una mejor calidad de vida en la eficiencia y la capacidad de los humanos de zafarse de todo límite. Sin embargo, ¿sería este ser humano ultraeficiente más feliz que el ser humano frágil que conocemos? La concepción implícita de la felicidad que alberga el transhumanismo dista mucho de la idea fundada en cultivar el sentimiento de que la vida tiene un sentido y merece la pena vivirla. Podemos considerar, como el filósofo Jean-Michel Besnier, que la aceptación de nuestros propios límites nos ayuda a encontrar un sentido a nuestra existencia. Las facultades creativas surgen sobre todo de la conciencia de la muerte231.

Por otro lado, la carrera por la eficiencia en la que nos sumiría el transhumanismo retorcería el sentido de competitividad entre individuos, una carrera hacia adelante que nos haría sentir desgraciados e insatisfechos.

5) Una apuesta arriesgada, unilateral y arrogante

El transhumanismo, encarnación del solucionismo extremo, plantea la cuestión del supuesto poder omnímodo del ser humano sobre la naturaleza y de los riesgos que estaríamos dispuestos a asumir como especie con el único objetivo de satisfacer las fantasías de una minoría. El argumento según el cual los seres humanos están necesariamente llamados a modificarse so pena de convertirse en “chimpancés del futuro”, en una subespecie frente a los superhumanos modificados, no basta para atraernos a todos a esta dudosa aventura. Se trata de una cuestión peliaguda: ¿deberíamos prohibir este dopaje que impondría la modificación de la especie humana a todos aquellos que no quisieran quedarse atrás? Teóricamente, los sistemas liberales han defendido el derecho del individuo a disponer de su cuerpo como quiera, con el límite del respeto a los derechos de los demás. Pero las consecuencias incontroladas y el impacto colectivo de este tipo de práctica, aunque se lleve a término a título individual, nos invitan a replantearnos su regulación, que debería establecerse con alcance mundial para ser efectiva.

3. De extravagancia a opinión general:
una ideología extrema en vía de normalización

Sin saberlo, todos nos hemos vuelto un poco solucionistas. Y cada vez lo seremos más. Lo que nos interesa aquí no es estudiar una oscura secta con un puñado de fieles, por más ricos y pudientes que sean, sino comprender que todos estamos en vías de convertirnos también en adeptos sin ser plenamente conscientes, y subrayar los medios por los cuales se consigue que unas perspectivas que muchos vemos con pavor nos parezcan cada vez más aceptables. Sin que hayamos prestado demasiada atención, el solucionismo ha conseguido convencernos de su hipótesis de base: que todos nuestros problemas pasan por la tecnología. Como ciudadanos, profesionales, padres, responsables políticos o económicos esperamos, de manera más o menos consciente, que, cuando llegue el momento, las dificultades desaparecerán con la tecnología como una varita mágica liberadora. Tomamos al pie de la letra su promesa de mejorar nuestras vidas haciéndolas más prácticas y acabamos por depositar en ella la esperanza de ser más felices. Pensemos en la renovación periódica de los smartphones. Si la industria consigue asegurarse de que los consumidores se deshagan de sus teléfonos tan rápidamente para adquirir el modelo siguiente es porque una parte de nosotros ha comprado la idea de que la mejora marginal de rendimiento del último modelo es susceptible de hacer nuestras vidas un poco mejores.

Frente a los problemas políticos o sociales en los que ni siquiera vislumbramos un principio de solución, hemos desarrollado la creencia acrítica de que será la tecnología, con una combinación de big data, IA, robots y blockchain, la que permitirá dar con una solución salvadora al calentamiento global o a la pobreza.

Vectores de transmisión

Para difundir esta confianza ilimitada en la tecnología existen templos donde los evangelizadores adoctrinan al público, centrándose en las personas influyentes. Estas transmiten luego las ideas captadas y las aplicarán en el seno de sus propias organizaciones.

El templo por excelencia es la Singularity University (SU), cuyo nombre hace referencia a la teoría de la singularidad, según la cual, en un momento dado, la IA sobrepasará a la humana y abrirá las puertas de un nuevo universo de posibilidades. Cofundada por Ray Kurzweil en 2008, se dirige a personas “deseosas de entender las posibilidades de la tecnología para responder a los desafíos globales”. La SU ha contado con el apoyo de Google y otras empresas del sector. Su producto estrella consiste en un programa de diez semanas en el que altos cargos inculcan una visión del mundo en la que la tecnología permitirá franquear todo lo que hoy nos parece un obstáculo.

En la actualidad, la SU ha diversificado sus canales de transmisión y permite adoctrinar a públicos más amplios —170.000 personas y empresas componen su red—. Cuenta con secciones locales en diversos países para llegar a mayor número de personas. Su misión consiste en “educar, inspirar y responsabilizar a los líderes para que apliquen tecnologías exponenciales con las que responder a los grandes desafíos que afronta la humanidad” y, por su intermediación, “preparar a la humanidad para un cambio tecnológico acelerado”. Fascinados, los altos cargos que pasan allí varios días conciben esta inmersión en el Silicon Valley como si les abrieran una ventana al único futuro posible.

Basándose en la famosa ley de Moore —que se aplica, estrictamente hablando, a la velocidad de los microprocesadores—, los conferenciantes no dejan de repetir que es el rendimiento de la tecnología lo que se duplica entre cada 18 y 24 meses, con tal celeridad que “los empresarios no llegan a integrarla ni en su modo de pensamiento ni en sus estrategias”, según Neil Jacobstein, uno de sus responsables. Si estos ideólogos ponen tanto esfuerzo en transmitir dicha visión es que les urge que las élites mundiales abonen el terreno para el despliegue total del universo made in Silicon Valley.

Es a ellos a quienes corresponde poner en práctica este mundo binario, dividido entre los que adoptarán la singularidad tecnológica y los que, según algunos evangelizadores, no dispondrán de las claves intelectuales adecuadas para entender que el futuro es solo para los más avanzados. “Ciertos humanos se integrarán cada vez más en los sistemas de IA de un modo hasta ahora inédito. En cambio, quienes queden excluidos de este nivel de interconexión con las máquinas no comprenderán en absoluto el nuevo mundo”232, pronostica Jacobstein.

Ante la fe ciega en un futuro cuyo contenido desconocemos, el principio de precaución no parece formar parte del programa de la SU. El propio término “singularidad” recalca el carácter imprevisible de lo que podría reservar el mundo con el que sueñan. En matemáticas, designa un punto o un objeto indefinido, mientras que en física remite a los agujeros negros y hace referencia a un evento de una amplitud tal que no permite conocer lo que seguirá. Ser partidario de la singularidad, por consiguiente, es sinónimo de estar dispuesto a dar un salto a lo desconocido, de emprender un acto de fe.

La sede de la SU se encuentra en terrenos de la NASA, justo en frente de la sede de Google. El pionero del software libre Jaron Lanier ironiza: “¿Cómo reaccionaría la gente si una religión fundamentalista tradicional se instalara en el mismo campus que una de las mayores agencias de espionaje del mundo? Se horrorizaría”. Por desgracia, frente a los extremistas del solucionismo, parece que todavía prevalecen la indulgencia y la fascinación.

‘Filantrosolucionismo’

Siguiendo la tradición, los empresarios de éxito estadounidenses tienen la costumbre de crear fundaciones a través de las cuales apoyan las causas que les interesan. Los multimillonarios de la tecnología han respetado, por una vez y en su conjunto, esta costumbre, aunque a su manera: la utilizan como un medio adicional de iluminar a la población. Los ámbitos en los que están más activos son la educación y la sanidad.

AltSchool es una escuela y una empresa del denominado sector de la edtech —tecnologías de la educación—, cuyo objetivo es revolucionar la enseñanza en la primera infancia. Lanzada en 2013 por un exempleado de Google, su filosofía consiste en “desarrollar en los niños una brújula interna que les permita reorientarse siempre en un mundo que cambia a toda velocidad”. Se trata de garantizar que cada alumno siga un programa de aprendizaje personalizado a través de software informático. La start-up ha abierto una docena de escuelas que sirven de laboratorio para el desarrollo de tecnologías y recluta ingenieros de Google, Apple o Facebook que conciben programas informáticos para “reparar” el problema de la educación.

Así se preparan los alumnos de la AltSchool para el mundo de mañana. Estudiar la obra de Homero representa una oportunidad para iniciarse en el data management y el design thinking. Con ayuda de una tabla de cálculo de Google, los niños cuentan el número de veces que aparece tal o cual palabra y, a continuación, proceden a virtualizar esos datos para comprender la Ilíada a través de la tecnología, que supuestamente revelaría lo que subyace en el texto233. Esta visión de la educación parece haber tocado la fibra “humanista” de Mark Zuckerberg, de Bill Gates e incluso de Laurene Powell Jobs —viuda del fundador de Apple—, quienes han inyectado un total de 174 millones de dólares a través de sus “vehículos filantrópicos”234. Sin embargo, seis años después de su fundación, estas escuelas sin patio de recreo han sido abandonadas por AltSchool, que ahora se dedica en exclusiva a sus programas informáticos, con los que pretende que se configure la escuela del mañana.

En Silicon Valley, la filantropía parece constituir la prolongación de la actividad empresarial de sus promotores. Tal y como señala Evgeny Morozov, los empresarios tras las plataformas digitales tienen una posibilidad con la que no contaban los magnates de las industrias del pasado: “Pueden continuar vendiendo sus productos, sobre todo esperanza envuelta en capas infinitas de datos, pantallas y sensores, sin tener que desviar sus fondos hacia actividades no productivas”. Según el investigador, el hecho de que no seamos del todo capaces de entender lo que motiva estas inversiones —sea el beneficio o un verdadero altruismo— es característico de esta nueva filantropía235.

La concepción de este filantrosolucionismo, tal como la expresa Zuckerberg en una carta que dirigió a su hija cuando nació, está clara: si de verdad queremos ayudar al mundo, ¿por qué invertir en algo distinto al desarrollo tecnológico, teniendo en cuenta que “la mayoría del progreso procede de las ganancias de productividad generadas por la innovación”?236 La Chan-Zuckerberg Initiative, a través de la cual el fundador de Facebook y su esposa canalizan sus “inversiones filantrópicas”, ha adoptado la forma de una sociedad de responsabilidad limitada —LLC en Estados Unidos—, lo que, según ellos, les otorga más flexibilidad. Una estructura “bastante inhabitual para una obra de beneficencia”, ironiza Morozov. En total, esta empresa familiar ha apostado más de 300 millones de dólares en educación con la intención de poner en práctica sus particulares ideas sobre el progreso a través del desarrollo tecnológico a ultranza.

Además de la AltSchool, la obsesión por la hiperindividualización educativa de los Zuckerberg se ha canalizado en su iniciativa Summit Learning, en la que han invertido 100 millones de dólares y que distribuye un programa informático para la educación personalizada en 380 escuelas. “Cuando visitas una escuela así, parece el futuro, parece una start-up”, se vanagloria Zuckerberg, cuya ambición es extender el programa a la mayoría de las escuelas estadounidenses en el plazo de diez años y luego exportar el modelo al extranjero.

Pero las aspiraciones del fundador de Facebook toparon con un obstáculo imprevisto. Tras cierta fascinación inicial, alumnos, profesores y padres constataron que en realidad no les interesaba adoptar un modelo en el que la interacción humana estuviera tan limitada y la mayor parte del aprendizaje se realizara delante de una pantalla. Surgieron interrogantes como la falta de seguimiento por parte de los profesores o la explotación de los datos de utilización que generaban los alumnos. La comunidad educativa acabó por rebelarse. Muchas escuelas solicitaron abandonar el programa. En un principio minimizadas, las protestas adquirieron tal magnitud que el experimento acabó por abandonarse en algunos centros. Entre tanto, el tipo impositivo efectivo extremadamente bajo que se aplica a los gigantes de la tecnología no contribuye demasiado al sistema educativo público estadounidense.

La conjunción de una fiscalidad sumamente baja en Estados Unidos y de un entorno empresarial que favorece una lógica de winner takes all da lugar a una hiperconcentración de la riqueza y coloca a los líderes del sector tecnológico en la posición de déspotas iluminados, con escasos contrapoderes. Y su actividad “caritativa” no hace más que reflejar su fe sin límites en una versión del progreso en el que la tecnología digital es la única vía de salvación.

4. Límites y fallos del discurso solucionista

El planteamiento solucionista es seductor, en caso contrario no representaría un serio problema, pero presenta los siguientes defectos:

Simplifica en exceso la realidad y omite a menudo elementos esenciales de los problemas que aborda;

en consecuencia, prescribe soluciones superficiales o incompletas;

en los aspectos en los que podría complementar un enfoque más holístico, se prefiere presentarlo como solución autosuficiente;

por lo general, se omite introducir en la ecuación factores externos negativos de cuyos procesos es el máximo responsable;

más que ponerse en cuestión, busca perpetuarse y convertirse en un fin en sí mismo;

presenta como neutras respuestas fundamentadas en valores muy particulares que permanecen ocultos para sus “beneficiarios”, a quienes se invita así a asimilarlos a través de las soluciones que los vehiculan.

En lugar de perdernos en razonamientos teóricos, vamos a tratar de analizar estos puntos débiles mediante ejemplos lo más diversos posibles. Uno es el de Facebook y su particular forma de entender la lucha contra las fake news.

La difusión de falsedades a través de Internet se deriva de una especie de paradoja de consecuencias difícilmente previsibles, resultado de la caja negra algorítmica que constituyen las redes sociales. Facebook ha anunciado que responderá al problema a su manera, es decir, con más IA. “[Zuckerberg] ya ha sido superado por un entorno mediático que no comprende. No entiende por qué su plataforma da lugar a tantas noticias falsas. ¿Y cuál es su solución? Crear otra tecnología que comprende menos aún”, se sorprende el ensayista Douglas Rushkoff.

Esta huida hacia adelante de los gigantes tecnológicos les protege de la intervención de los poderes públicos, a quienes han convencido de que solo ellos tienen las llaves para reparar un mundo “roto” —incluso cuando son ellos los causantes—.

En cuanto al Brexit, para la ingeniera británica Heba Bevan, si el ser humano ha conseguido llegar a la Luna gracias a la tecnología, resolver el asunto del Brexit, en comparación, debería ser un simple pasatiempo237. Su empresa, UtterBerry, desarrolla sensores en miniatura —un elemento indispensable del kit solucionista—, con los cuales propone equipar, literalmente, todos los camiones y las mercancías que atraviesen la frontera entre Irlanda del Norte y la República de Irlanda, creando así una especie de frontera invisible entre ambos países. También sería posible rastrear a las personas mediante sistemas de reconocimiento facial, todo conectado por wifi y enlazado con la nube. Los ministros partidarios del Brexit deseosos de evitar la cláusula del backstop planteada por la Unión Europa —que consistiría en introducir una especie de frontera entre Irlanda del Norte (británica) y el resto del Reino Unido—, han estudiado la propuesta de UtterBerry.

El solucionismo de Bevan peca de orgullo al pensar que “basta” con implementar una sencilla solución tecnológica para resolver un complejo problema político. La tecnología adquiere además una función eufemística cuando pretende que hacer imperceptible o invisible algo es como si no existiera, pero de hecho existe. Parte de la suposición de que la evaporación de todo control físico haría aceptable una vigilancia en realidad mucho más estricta e insidiosa que cualquier control fronterizo tradicional.

En el ámbito del transporte y las ciudades, la empresa Uber sostiene una retórica mesiánica, presentando la tecnología como solucionador de cualquier problema a la movilidad en las urbes. Lo paradójico es que su propuesta pasa por poner más vehículos en las calles, mientras que se descartan otras alternativas de transporte como la bicicleta, caminar o el transporte público.

La promesa de erradicar la desigualdad es otro de los mantras del solucionismo. La desigualdad económica se ha agravado con fuerza en muchas sociedades en los últimos años. “Aunque entran en juego otros factores, el cambio tecnológico es el motor principal de este estallido de desigualdades”238, explica el profesor Daron Acemoğlu, del MIT. En cambio, según el exdirector ejecutivo de Google, Eric Schmidt, la solución a este problema consiste sencillamente en consolidar el papel de la tecnología, apoyando a las start-ups y reforzando la conectividad y la circulación de la información. Su programa no pasa por que la industria digital se cuestione algo de algún modo ni que haga sacrificio alguno.

Sin embargo, las plataformas digitales que se hallan en el centro del desarrollo tecnológico propician una gran concentración de la riqueza. Su tendencia monopolista y su objetivo de crear economías de escala extremas, comportan que una gran parte de la economía mundial gire en torno a algunas decenas de miles de personas. Tras el recurso a la semántica de la emancipación, por medio de la eliminación de los intermediarios, estas plataformas se postulan, como intermediarias cada vez más insoslayables, dotadas de un fuerte poder de negociación en distintas verticales. Airbnb haría su aportación para atenuar las desigualdades facilitando que los ciudadanos percibieran ingresos complementarios alquilando habitaciones de sus viviendas a turistas, pero dejando a un lado la comisión que cobran por cada transacción en cualquier parte del globo, omite su influencia en el incremento de los precios del alquiler, uno de los principales factores de desigualdad. Las plataformas de entrega a domicilio como Deliveroo o Glovo, que parecen ofrecer una manera fácil de acceder a un empleo a cualquiera, ocultan, de hecho, relaciones de fuerza apabullantes con unas condiciones laborales y una retribución sumamente duras.

Nada escapa al discurso del solucionismo. El periodista y empresario Shane Snow, autor del libro Smartcuts, propone resolver los problemas de las cárceles como su coste o la violencia entre los presos mediante la tecnología. Entre sus recetas se encuentra el uso de cascos de realidad virtual para reemplazar los paseos o cualquier interacción entre humanos, y sustituir con smart food las comidas de los presos para simplificar su distribución.

El director del Centro de Medios Cívicos del MIT, Ethan Zuckerman, repone que el enfoque de Shane elude el problema de raíz: que Estados Unidos sufre superpoblación carcelaria. “Si lo único que hace la solución es mitigar las manifestaciones de un problema más profundo, podría acabar enquistándose y resultaría más difícil aún de resolver. Unas prisiones más baratas y seguras harían que resultara aún más fácil encarcelar a más estadounidenses, en lugar de responder a los problemas fundamentales vinculados con la toxicomanía, el desempleo, las enfermedades mentales o el racismo”. El ser humano rara vez es un aspecto central de los tratamientos solucionistas y tampoco lo es en el sistema concebido por Shane, que constituiría un atentado a la dignidad de los presos.

Zuckerman explica que la tecnología puede ser una palanca de cambio para afrontar problemas complejos, pero no una solución en sí misma. “La tentación de la tecnología es prometer soluciones rápidas y ordenadas a los problemas sociales, pero, por lo general, no cumple su promesa”239.

En lo que respecta al medio ambiente, la desmaterialización prometida por lo digital es un pilar del discurso solucionista. A medida que utilizamos menos soportes físicos y vamos digitalizándolo todo, tiramos menos papel a la papelera; los billetes de metro se sustituyen por tarjetas electrónicas, los DVD por vídeos en streaming y el hardware, cada vez más reducido, aminora la demanda de recursos naturales para producirlos. Pero, pese a las apariencias, la digitalización conlleva en realidad un aumento neto de nuestra huella ambiental. El consumo energético causado por las tecnologías digitales crece a un ritmo del 9% anual240 y las tecnologías de la información y la comunicación representan en la actualidad el 10% del consumo eléctrico mundial. Un data center, piedra angular del funcionamiento de la nube y de los servicios en línea, consume el equivalente a 30.000 hogares, y un país como España contaba con 41 de estos centros en 2013. En 2015, representaban ya el 4% del consumo energético global.

Un mensaje de correo electrónico con un archivo adjunto de 4 MB genera un gasto de 24 vatios/hora, es decir, el equivalente a una bombilla de bajo consumo encendida durante una hora. Cada hora se envían 10 mil millones de correos electrónicos por un coste de 50 gigavatios/hora, lo cual equivale a la producción de 15 centrales nucleares y a 4.000 trayectos de ida y vuelta en avión entre Nueva York y París241. Esta cifra se incrementó un 4,5% por año de media entre 2016 y 2020242.

La nube y el visionado de vídeos en streaming también tienen costes ambientales considerables. En cuanto a los dispositivos físicos, su tamaño, por pequeño que sea, disimula la cantidad de materias primas, en especial de metales raros, que se emplean en su fabricación: 800 kg para un ordenador de 2 kg243, además de la inmensa cantidad de agua y energía necesaria para extraerlos.

Se asegura que el automóvil eléctrico es un vehículo limpio. Olvidamos que la producción de su batería consume tanta energía que no compensa su huella de CO2 inicial con relación a un vehículo diésel hasta superados los 40.000 km en Francia, y 160.000 km en Alemania, con una combinación energética distinta244.

Los nuevos avances siguen abriendo frentes pioneros que plantean más interrogantes y nuevas necesidades en lugar de ofrecer respuestas a nuestros verdaderos problemas. Es el caso de las megaconstelaciones de satélites en la órbita baja destinados a proporcionar Internet de alta velocidad a todo el mundo. Mientras que desde el inicio de la era espacial se han puesto en órbita 8.000 objetos, se prevé colocar otros 50.000 adicionales de aquí a 2030 —42.000 de ellos por parte de Starlink, filial de SpaceX—. Algunos expertos expresan ya inquietud por los riesgos de invadir la órbita baja, como la generación de residuos, accidentes o la obstrucción de la visibilidad del espacio desde la Tierra. Con la aparición de la tecnología “gaseosa” —sobre la base del despliegue del 5G— se anuncia una era de hiperconsumo digital245. No obstante, ideas tan impopulares o ignoradas como la sobriedad digital y la exploración de vías no tecnológicas ofrecen perspectivas mucho más realistas para reducir nuestra huella de carbono.

La lista de deseos solucionista puede ser virtualmente infinita, desde las nuevas propuestas para responder al deseo de las mujeres de tener hijos más tarde congelando sus óvulos —sobre todo para que no sacrifiquen sus años laborales más productivos— a la forma en la que se pretenden sustituir las comidas —esa lamentable pérdida de tiempo— gracias a la ingesta de smart food, entre otras iniciativas.

Todos estos ejemplos denotan una visión muy particular, polémica e incierta de la idea del “progreso” o “el bien común”. Una representación casi siempre utópica de un futuro que solo puede ser hipertecnológico y mercantilizado hasta extremos que hoy nos parecen casi inimaginables.

El solucionismo es netamente maquiavélico en su planteamiento: su fin —todo sustentado en una matriz tecnológica y orientado a la compra y a la venta— justifica sus medios. Nada lo ilustra mejor que el recurso a la obsolescencia programada. Más que ningún otro sector, el tecnológico ha hecho cuanto estaba en su mano por acortar la vida útil de los productos y obligar a su renovación, limitando la posibilidad de realizar reparaciones o utilizando sistemas cada vez más cerrados que impiden recambiar una sola pieza. Estas prácticas denotan la enorme brecha entre el discurso benevolente y aparentemente social de las grandes empresas y su objetivo real, por encima de todo productivista y consagrado a la maximización de los beneficios. La carrera por la adopción de tecnologías más eficaces a un ritmo desenfrenado es el motor ideológico y económico de esta industria. La respuesta positiva del consumidor es el reflejo de nuestra aceptación pasiva de este principio.

Para acabar, el solucionismo proyecta un peligro de otra magnitud. Al idealizar el papel de la tecnología, no solo nos mueve a aceptar sin criterio soluciones que pasan siempre por más tecnología, sino que, además, y cada vez con mayor frecuencia, nos obliga a comulgar a ciegas con las respuestas que enuncia. Dada la opacidad de los sistemas de IA, corremos el peligro de que la tecnología emerja como fuente de verdad única e incontrolada. Es fundamental no caer en la ilusión de “una especie de pensamiento mágico que dota a las tecnologías digitales de respuestas universales”. “Por más potentes y refinados que sean los modelos y los algoritmos, la superioridad de una interpretación emerge siempre de la confrontación de múltiples versiones sometidas a la crítica”246.

Aunque disguste a los solucionistas, que desearían erigirla en autoridad incontestable, la tecnología no podrá alumbrar el camino por sí sola. Esta fantasía disimula la apropiación de las fuentes de verdad y de autoridad, porque emana esencialmente de quienes controlan la producción tecnológica. Estos la utilizan para imponer un orden social caracterizado por la previsibilidad, la seguridad, la comodidad y la satisfacción de los deseos reptilianos. Y tal arbitraje se hace a expensas de la libertad, la búsqueda del sentido y la persecución de una felicidad más profunda y compleja basada en un verdadero encuentro con uno mismo y con el otro.

Ahora bien, la acumulación del poder por parte del sector tecnológico no se construye solo sobre un discurso. Es momento de ahondar en cómo una oligarquía de pretensiones ilimitadas traduce en hechos su aspiración tecnócrata, reflejo de una concepción aristocrática de la gobernanza —la idea de que la sociedad debe estar gobernada por los “mejores”—.

Capítulo 8

‘Zucked’. Nuestras vidas en manos de un puñado de personas

Cuestiones clave:

¿Por qué todo parece gravitar en torno a la nueva oligarquía digital?

¿Cómo repercute la concentración de poder en la restricción de nuestras libertades?

¿Cómo se han posicionado los GAFAM por encima de los agentes sociales, de los Estados, de la ley y de otras empresas?

¿Asistimos a un nuevo tipo de soberanía sustituta de la democracia?

Apple, Amazon, Facebook y Google libran una guerra de todos contra todos, una guerra por conquistar todo nuestro tiempo, todo nuestro dinero, todas nuestras interacciones y todos nuestros deseos247.

David Dayen

Este capítulo se titula “Zucked”248 como habría podido titularse “Bezosed”, “Brinned” o “Paged”, los apellidos de cualquiera de los individuos que se cuentan con los dedos de una mano y que gobiernan sus imperios tecnológicos ejerciendo un poder cada vez más profundo en nuestras vidas.

Los servicios de estos gigantes tecnológicos nos enganchan, pero a la vez nos generan más desconfianza, a medida que entendemos los peligros que comportan para la libre competencia, para la libertad y la democracia. Este contraste se aprecia en una figura tan relevante como Magrethe Vestager, la vicepresidenta de la Comisión Europea responsable de la competencia, musa de la acción contra la dominación y los abusos de esta oligarquía, que se confiesa clienta fiel de estas empresas249. El inmenso poder de estas corporaciones transnacionales estriba en esa adhesión fuerte y voluntaria del público, más que en la posesión de un activo o de una tecnología determinados. A diferencia de otros monopolios del pasado, el público percibe y valora la fascinación que ejercen estas marcas por encima de la alienación que causan, y llega a sentir un cierto apego emocional hacia estas empresas.

El acrónimo GAFA —Google, Apple, Facebook y Amazon— se completa a veces con la M de Microsoft, y se habla de NATU —Netflix, Airbnb, Tesla y Uber— para designar a los gigantes surgidos en la década de 2010, todos estadounidenses. En ocasiones se incluye Twitter, clave en la circulación de la información por Internet, aunque su peso económico y su extensión tentacular sean muy inferiores. Otras empresas que ocupan posiciones monopolísticas son parte de las primeras: YouTube es una de las innumerables filiales de Google; WhatsApp e Instagram fueron adquiridas por Facebook; LinkedIn pertenece a Microsoft desde 2016. El equivalente de estos gigantes en China son los BATX —Baidu, Alibaba, Tencent y Xiaomi— y sus decenas de filiales, a las cuales dedicaremos menos espacio en estas páginas pese a que representan un desafío similar, con sus marcadas peculiaridades.

Para describir esta nueva oligarquía solemos referirnos a su enorme tamaño —sus capitalizaciones bursátiles ocupan las primeras posiciones mundiales, tras haber destronado a las empresas petrolíferas y otros residuos de la “vieja” economía— o a su número de usuarios, pero lo que realmente llama la atención es que no operan al estilo clásico en los mercados. No se limitan a vender sus productos, sino que son ellos mismos quienes organizan los mercados en los que operan, hasta tal punto que se han convertido en instituciones ineludibles para cualquiera que quiera desarrollar una actividad. Ellos ponen las reglas, las condiciones o los precios, sin que las demás partes involucradas puedan pronunciarse al respecto. Se reservan en exclusiva la extracción de datos e información que les permiten reforzar su posición dominante. Son jugadores y árbitros, guionistas, directores y actores, todo a la vez.

Lo relevante no es tanto que Apple se convirtiera en agosto de 2018 en la primera empresa de la historia con un valor superior a un billón de dólares —equivalente a aproximadamente el doble de la capitalización de las 35 empresas del IBEX—, ni que dos años más tarde se consagrara como la primera empresa en alcanzar una capitalización de dos billones de dólares250, nos interesa, sobre todo, en la medida en que regenta, principalmente a través de la App Store, un ecosistema integrado por millones de actores y en el que tiene la capacidad de actuar de manera unilateral. En la misma línea, Google organiza el mercado mundial de la información y los datos personales. Facebook fija con Google el modo de negociar la información conductual, al tiempo que impone ciertas normas que rigen las relaciones sociales. En cuanto a Amazon, representa una parte creciente del mercado de bienes que se comercializan en línea, combinando sus propios productos con los de terceros.

La hiperconcentración de poder en el ámbito digital no puede compararse con los desequilibrios suscitados por los monopolios del pasado. Por colosales que fueran la Standard Oil o AT&T, cada una en su época, no influían en nuestros cerebros, en nuestras conductas y decisiones. Ni siquiera las empresas de medios de comunicación que difunden contenido susceptible de influenciarnos han tenido jamás un impacto cognitivo comparable al de las empresas que tratamos aquí. La oligarquía actual gobierna trascendiendo el marco económico. Estas empresas: (1) son capaces de penetrar en profundidad en nuestra intimidad y adquirir un volumen de información a la vez colosal y muy preciso sobre nosotros; (2) nos acompañan a todas partes, día y noche; y (3) desarrollan un espectro de actividades ilimitado, con efectos no solo en nuestro consumo, sino en aspectos hasta ahora excluidos de la esfera comercial, desde nuestras relaciones sociales y nuestras conversaciones privadas hasta nuestras creencias y nuestras tendencias políticas. Visto en retrospectiva, incluso el reinado de Microsoft en la década de 1990, cuando parecía el monopolio por excelencia, parece ahora poca cosa.

Calibraremos el poder de intervención de los gigantes tecnológicos para poner de manifiesto los mecanismos que han utilizado los GAFAM y otras empresas para posicionarse por encima de agentes sociales, consumidores, Estados y empresas. Trataremos de mostrar los desequilibrios que generan, la alienación creciente que causan y el peligro que comportan para las libertades y la democracia. Para acabar expondremos las opciones existentes para regular las ambiciones de estas empresas y reducir su control sobre la sociedad.

1. Diagnóstico de una ambición sin límites

Tenemos tan interiorizado “googlear” como sinónimo de hacer una búsqueda en Internet que no nos perturba que el 92% de esas búsquedas sean a través de Google. Android, el sistema operativo que usan los smartphones de la empresa, hace funcionar el 87% de los teléfonos móviles. Lanzado por la empresa a finales de 2008, Google Chrome se convirtió pocos años después en el navegador líder y desde entonces ha alcanzado una cuota de mercado del 64%, sin que ello nos impida conciliar el sueño, porque es gratuito, como la mayoría de los servicios que mencionamos aquí. YouTube, ocupa el 74% de su segmento y canaliza a través de sus servidores el 37% de todo el tráfico móvil mundial. El mismo grupo posee un 31,1% del mercado publicitario en línea mundial, que en la actualidad representa la mitad de la publicidad total251. Y si en 2018 el mercado publicitario digital registraba un fuerte crecimiento, este lo acaparaban en un 92% dos grandes empresas: Google y Facebook252.

A través de su holding, Alphabet, Google no tiene intención alguna de limitar su imperio, sino establecerse en posiciones de dominio en numerosos sectores que pueden digitalizarse. Además de su actividad tradicional en el sector digital y en las infraestructuras tecnológicas —incluida la conexión a Internet, con Google Fiber y Loon, que aspira a ofrecer conexión a dos tercios de los habitantes del planeta con ayuda de una especie de globos aerostáticos autónomos—, la empresa se expande a la movilidad y los transportes —su filial Waymo desarrolla vehículos autónomos; Wind desarrolla un sistema de reparto mediante drones—, a la salud —con Calico y Verily— o incluso al desarrollo urbano —con Sidewalk Labs—. Si Alphabet poseía 26 empresas cuando el grupo se reorganizó en 2015, su director ejecutivo a la sazón, Eric Schmidt, ya advertía que se encaminaban a la creación de un “número trascendental” de filiales. El mantra de su sucesor, Sundar Pichai, “la IA primero”, también puede interpretarse como un manifiesto imperialista cuyo objetivo es revolucionar y dominar todos los ámbitos posibles aplicando su know-how en materia de IA.

Por su parte, Facebook cuenta con 2.500 millones de usuarios activos mensuales, 1.600 de los cuales se conectan cada día una media de 35 minutos. Al 62% del tráfico mundial de las redes sociales que aglutina por sí sola hay que agregar el 9% de su filial, Instagram, adquirida en 2012. Facebook Messenger es el segundo servicio de su categoría a nivel mundial, por detrás de WhatsApp… que también pertenece a Facebook desde 2014 y en 2020 superó la barrera de los 2.000 millones de usuarios activos.

En cuanto a Amazon, franqueaba en 2018 el umbral del 50% del total de las ventas en línea en Estados Unidos, por más que la empresa intente ahora minimizar la cifra al saberse escrutada por los reguladores253, y registraba un crecimiento económico más acelerado que el del comercio en línea general, a su vez en auge exponencial254. En las categorías de productos como cremas de belleza, artículos de menaje, cocina o material para jugar al golf, la cuota de mercado de esta empresa supera el 90%, y alcanza un 97% en el caso de las pilas eléctricas255.

Sin embargo, el gigante del comercio electrónico está lejos de cerrarse puertas. Es también una plataforma de marketing, una red de logística y de distribución, un medio de pago, un banco, una editorial de libros, una productora y distribuidora de películas, el primer fabricante de hardware para tabletas (Kindle) y altavoces conectados (Echo), una empresa de moda (Find) o una red de satélites (Proyecto Kuiper). Con Amazon Web Services (AWS), la empresa se ha convertido en líder mundial en la nube, con un tercio de este mercado en fuerte crecimiento, que se reparte con Microsoft y Google. En 2017, Amazon adquirió la cadena de supermercados Whole Foods, dejando clara su intención de extender su imperio al comercio físico, integrándolo con el electrónico hasta que las fronteras se desdibujen.

Los modelos económicos que podríamos calificar de depredadores, sustentados en la aparente gratuidad de los servicios que ofrecen, comportan de hecho un pago indirecto o diferido a través de la publicidad o los sesgos de recomendación. Los gigantes nos proporcionarían un abanico cada vez más amplio de servicios a cambio de controlar de una manera aún más absoluta nuestras vidas.

‘Ecosistemas’ inevitables y claustrofóbicos

Lo que nos interesa plantearnos es en qué sentido esta ambición a todas luces ilimitada plantea un verdadero problema. ¿Acaso la prosperidad de estas compañías no redunda en servicios nuevos para los que no desembolsamos ni un céntimo?

Pero como hemos visto no se limitan a ofrecer servicios a sus usuarios, sino que crean “ecosistemas”. En tanto que plataformas que cubren una gama de servicios tan amplia y que penetran Internet mucho más allá de sus propios nichos, el objetivo de los GAFAM es mantener cautivos a los otros agentes —personas, empresas o incluso gobiernos— en un entorno que han creado y que controlan, sujeto a las reglas que ellos establecen. Aspiran, por así decirlo, a convertirse en carretera y vehículo, todo a la vez. Así lo manifiestan los sistemas operativos de los smartphones, que en la actualidad se reparten íntegramente iOS (Apple) y Android (Google). Este duopolio fija las reglas de funcionamiento de estos dispositivos. Ni los desarrolladores ni la población pueden zafarse de ellas.

Es cierto que otras empresas aspiran desde hace tiempo a crear sus propios ecosistemas —Volkswagen o Toyota llevan construyendo redes de proveedores y distribuidores considerables desde hace más de cincuenta años—, pero son incomparables a las que hemos visto emerger en los últimos años. Para estos últimos, esa aspiración es prácticamente un fin en sí mismo: “La mayoría de estos orquestadores de ecosistemas, como Google, Alibaba y Uber, no fabrican los productos que venden, sino que se dedican a conectar a otras partes entre ellas”, explica el profesor Julian Birkinshaw de la London Business School, que añade: “Crean valor a través de estas relaciones y estas redes”. Su lógica recuerda a la del molinete —la puerta que deja entrar, pero no salir—. “Quieren hacer entrar a tantos jugadores como sea posible y hacerlos interactuar según las reglas que han definido”256, prosigue Birkinshaw. Y al margen de cuál sea su modelo de negocio concreto, estas empresas funcionan mucho mejor cuando su ecosistema es grande.

La verdadera dimensión de estas corporaciones es difícil de percibir. A nivel mundial la palma “ecosistémica” se la lleva sin duda el gigante chino Tencent, que, a través de su servicio de mensajería, WeChat, se ha convertido en la matriz de tantos servicios de uso cotidiano en el país asiático que resulta prácticamente imposible para un usuario salir de ella una vez dentro. Estas organizaciones optan por distintas estrategias para expandirse. Adquieren empresas en sectores que consideran estratégicos o mediante el desarrollo acelerado de actividades nuevas a partir de su gigantesca base de usuarios y datos, financiación y equipos que incrementan mucho su probabilidad de éxito. También pueden compartir su propiedad intelectual si con ello consiguen ampliar su ecosistema.

El servicio de música en streaming Apple Music, lanzado en 2015, aprovechó una visibilidad extraordinaria en el ecosistema de Apple para hacer la competencia al gigante Spotify y al resto de actores. Al mismo tiempo Apple percibía una parte importante de los ingresos —en torno a un 30%— de la competencia cuando los clientes compraban las distintas aplicaciones en su App Store. De hecho, Spotify ha denunciado que Apple le ha vetado el acceso al Apple Watch, reservando este dispositivo para Apple Music257. Cuando en 2018 Apple adquirió Shazaam —un servicio para identificar canciones—, la app se convirtió en el enésimo punto de captación para Apple Music, al redirigir a los usuarios a esta aplicación cuando se identificaba el título de la canción que les gustaba —hasta entonces, el usuario podía escoger entre diversas plataformas para escucharla—.

Estas empresas de proyecto ecosistémico proponen soluciones totalizadoras y autosuficientes que permitirían a una persona vivir sin tener que recurrir a más servicios que los suyos o, al menos, su intermediación para acceder a cualquier otro. Más del 90% de cuota de mercado estadounidense para los asistentes de voz y los altavoces conectados se lo reparten Amazon Echo y Google Home258. Son productos destinados a escuchar cualquier deseo formulado por un usuario y satisfacerlo dentro de un único ecosistema. Se apoderan del espacio de los hogares integrándolo en su red de servicios e invitando a sus propietarios a conectar todos los aparatos de la vivienda, desde el sistema de calefacción hasta el frigorífico, pasando por la televisión.

Estas “soluciones de vida” también se reflejan en el modo en que las empresas se hacen cargo de la existencia de sus propios empleados. Hacen que cualquier trabajador se lo piense dos veces antes de abandonar uno de estos gigantes. Se sirven comidas gratuitas, hay salas de deporte y juego, cursos de cocina, masajes, peluquería, lavandería, transportes, etc. Los empleados de Google pueden vivir exclusivamente de los servicios proporcionados por la empresa. Facebook contrató en 2013 a consultores de Disney para conferir a su sede de Palo Alto un aire de parque de atracciones que incluye tiendas gratuitas, talleres y salas de bricolaje en las que los empleados pueden fabricar sus propios muebles259. En su nuevo campus, Facebook albergará además 1.500 apartamentos para sus empleados y más de una hectárea de superficie comercial. ¿Quién querría abandonar este jardín del Edén repleto de comodidades que reflejan las imágenes publicadas por la empresa?260 A cambio de esta atención total un tanto infantilizante, el empleado puede entregarse en cuerpo y alma a su empresa, a costa de renunciar a parte de su autonomía y de aislarse del mundo exterior.

La IA y el refuerzo de los monopolios

Además del 20% de todos los ingresos mundiales por publicidad en línea, Facebook acaparaba ya en 2013 350 millones de fotos nuevas y 4 petabytes de datos al día. En total canaliza 20 mil millones de mensajes al mes entre usuarios, ya sean personas o empresas261. Tal como hemos visto en el tercer capítulo, estos contenidos van acompañados de interacciones que posibilitan un suculento tratamiento de metadatos medidos en su integridad —entre ellos, varios millones de “Me gusta” y reacciones emocionales cada minuto262—. Este maná no solo permite ofrecer una publicidad dirigida sumamente precisa, sino que confiere una ventaja en la carrera por la IA difícilmente superable.

“Los monopolios cimentados en la explotación de datos se autorrefuerzan sin cesar”, explica Kai-Fu Lee. “Estas empresas utilizan los datos para mejorar sus productos, creando así un ciclo que se perpetúa de continuo: unos productos mejores conducen a un mayor número de usuarios y esos usuarios a una mayor recopilación de datos, que a su vez contribuyen a crear productos mejores, y así sucesivamente”263. Pero este hecho no solo les concede ventaja en el desarrollo de sus propios productos. Si la IA ha de ser la matriz de una revolución que abarque todos los sectores de la economía y de la vida en general, la oligarquía digital que la controla parece inexorablemente predestinada a extenderse en todos los ámbitos, otorgándoles una ventaja competitiva crucial.

Instituciones monárquicas

Para entender la concentración de poder en el mundo tecnológico hay que examinar el gobierno de los gigantes digitales. Si se dirigieran de manera descentralizada, atendiendo hasta cierto punto una diversidad de puntos de vista y de intereses —aunque solo fuera entre sus accionistas— al menos podríamos detectar alguna señal tranquilizadora. Al fin y al cabo, estas empresas valoradas en miles de billones de dólares pertenecen a miles de personas que podrían constituir un primer elemento de pluralidad en su seno.

Pero sucede que, en su conjunto, estas empresas están en manos de un puñado de personas, cuando no en un solo individuo. Sus fundadores o dirigentes principales tienen tendencia a “blindar” su posición. “El Consejo de Administración de Facebook se parece más a un panel de consejeros que a un contrapoder”, explica Chris Hugues, cofundador de Facebook, “porque Mark [Zuckerberg] controla el 60% del derecho a voto. Por sí solo, Mark puede decidir cómo configurar el algoritmo que elige lo que los usuarios ven en su muro de noticias, con qué parámetros de privacidad, etc.”264. ¿Cómo puede esto ser posible si Zuckerberg únicamente posee un cuarto de la compañía? La posible respuesta está en los derechos de voto diferenciados en función de los distintos tipos de acciones emitidos por estas empresas.

Google —en lo sucesivo, Alphabet— ha emitido tres tipos de acciones: las A (un derecho de voto por acción), las B (diez votos) y las C (sin derecho a voto). Entre Sergey Brin y Larry Page retienen 393 millones de votos, o lo que es lo mismo: un 51,1% del total, aunque solo poseen una parte muy reducida de la empresa. Accionistas que deseaban “democratizar” un poco la gobernanza de la corporación, propusieron modificar esta anomalía y hacer los derechos de voto proporcionales al número de acciones poseídas. Como era previsible, la moción solo obtuvo el 30% de los votos a favor, que habrían representado el 60% si los superderechos de voto de Brin y Page no existieran265.

Jeff Bezos únicamente es propietario del 12% de Amazon. Aunque no ha establecido tales diferencias entre sus tipologías de acciones, ejerce un control moral absoluto sobre su empresa, cuya estructura se describe habitualmente como la más monárquica y jerarquizada del sector.

La estructuración de estas organizaciones refleja la fe inmensa que sus dirigentes tienen en sí mismos. Un déspota ilustrado considera que no precisa contrapoderes. El contraste jamás ha sido tan acentuado: por un lado, tenemos a este círculo sumamente reducido de personas que controlan las contadas empresas que han creado estos ecosistemas integrales y, por el otro, a los miles de millones de personas en quienes influyen con sus servicios, penetrando en nuestras vidas, nuestros hogares, nuestros bolsillos, nuestras almas y, muy pronto, también en nuestro cuerpo. Como explica Chris Hugues, uno de los cofundadores de Facebook, “el aspecto más problemático del poder de Facebook es el control que otorga a Mark sobre la capacidad de supervisar, organizar e incluso censurar conversaciones de 2 mil millones de personas”266.

Este ejercicio solitario de poder insensible a los argumentos de posibles contrapoderes quedó patente en mayo de 2020, durante la crisis por la muerte del afroamericano George Floyd. Pese a la apología de la violencia en algunos mensajes del presidente Trump publicados en Facebook, Zuckerberg decidió, a diferencia de otras plataformas, no advertir a los usuarios, anteponiendo su idea de la libertad de expresión a cualquier otra consideración, mientras que la compañía sí modera el contenido cuando estima que contraviene sus condiciones de uso. El descontento de muchos de sus empleados en medio de aquel clima social explosivo no tuvo peso suficiente para la opinión de su líder267. Nada puede poner en cuestión el liderazgo inamovible de quien gobierna solo.

2. Gigantes por encima de los Estados

Los gigantes tecnológicos tienden a poner en tela de juicio la legitimidad de un poder político que consideran obsoleto e incapaz de comprender los desafíos de la innovación. En la era de los big data, un gobierno fundado en los datos podría, según ellos, ser más apto para resolver la ecuación del interés general.

En línea con esta aspiración, los GAFAM han desarrollado estrategias para sortear, ignorar o infiltrarse en el poder de los Estados haciendo lobbying en favor de sus intereses. Es evidente su desprecio por los reguladores que examinan los riesgos monopolísticos de sus adquisiciones, como ocurrió con la compra de WhatsApp por Facebook en 2014. Pese al escepticismo de los reguladores de la competencia europeos ante la operación, acabaron por dejarse convencer y dieron por buena la promesa de Facebook de no integrar ni cruzar jamás los datos de ambos servicios.

Pero para Mark Zuckerberg, la legitimidad de estas instituciones de control —que emanan de sistemas democráticos y representan el interés general— tiene poco peso frente al principio de “conectar lo máximo posible a todos los habitantes del planeta”. Transcurridos apenas dos años, la empresa empezó a tender puentes entre ambos servicios, burlando las garantías que había dado para que aprobaran su operación. Ahora sabemos que este giro no tuvo nada de accidental y que ni siquiera se debió a un cambio de estrategia, sino que se enmarcaba en un plan deliberado que eludía la regulación.

El cofundador de WhatsApp, Brian Acton, reveló que había recibido coaching para explicar a los reguladores por qué una integración de datos de ambas empresas sería “muy difícil de llevar a cabo”. Más tarde, Acton —que abandonó el grupo sintiéndose engañado en las promesas sobre la orientación de WhatsApp—, aseguró que había descubierto desde el principio planes tecnológicos precisos para la integración. Según él, Facebook contaba con que la UE olvidaría sus promesas con el tiempo. Pero no ocurrió así268. En 2017, la Comisión Europea le impuso una multa de 122 millones de dólares por no haber cumplido su palabra y mentir en sus declaraciones. Una suma bastante descafeinada si la comparamos con los 19 mil millones de dólares que Facebook pagó por adquirir WhatsApp o con los 3.900 millones de beneficios generados solo durante el trimestre en el que tuvo que afrontar la sanción.

Cuando citan a Zuckerberg para declarar ante las autoridades que examinan la implicación de la empresa en hechos graves, el fundador parece seguir un patrón. Primero niega en redondo las acusaciones, para luego reconocerlas, pedir perdón y anunciar grandes cambios o hacer propuestas que en realidad van en el sentido de la estrategia de la empresa. En 2016 se reveló que los empleados del departamento de trending topics eliminaban las informaciones de sensibilidad conservadora que, por su popularidad real, deberían haber figurado en el listado. A la vez incluían noticias que no deberían haber aparecido. Las noticias con un cierto sesgo crítico hacia Facebook se suprimían de manera sistemática. La empresa negó tales acusaciones, afirmando que ese tipo de práctica era imposible desde un punto de vista técnico y aludían a los mecanismos de control existentes269. Luego las fue admitiendo paulatinamente270 y acabó por despedir a todo el equipo que se encargaba de editar estos contenidos271.

Lo mismo ocurrió con la influencia de las fake news en la política. En noviembre de 2016, Zuckerberg trataba de “locos” a quienes afirmaban que su empresa había contribuido a la elección de Trump272, mientras que en octubre de 2017 reconoció que 10 millones de personas habían recibido anuncios pagados por grupos rusos que pretendían influir en la campaña. La cifra real se elevaría de hecho a 126 millones.

Los gigantes tecnológicos claman para que los Estados no intervengan en sus asuntos, porque supondría un peligro para la innovación. Pero, como argumenta el periodista Franklin Foer, la regulación contra los monopolios tecnológicos —como la que se opuso a la posición dominante de Microsoft en los navegadores web a finales de la década de 1990— tiende a impulsar la innovación, más que a ralentizarla273. Aun así, lo que debemos preguntarnos es si la innovación es el valor que debe priorizarse por encima de cualquier otro. Aunque los GAFAM tuvieran razón y en la fase actual la innovación basada en IA se acelerase centralizando los datos para un tratamiento optimizado, ¿justificaría el control ejercido por los dirigentes de un puñado de empresas? Los gigantes tecnológicos responden que sí y no hacen otra cosa que defender sus estrictos intereses privados, al margen de cualquier consideración externa.

Desterritorialización fiscal

La opacidad de los gigantes de Internet en materia fiscal contrasta con su requerimiento de transparencia. La experiencia de las multinacionales en optimización fiscal es muy anterior a los GAFAM, pero los servicios marcadamente inmateriales de estos últimos les han permitido batir todos los récords. En Europa, las grandes tecnológicas facturan la mayoría de sus servicios desde países con impuestos muy bajos, como Irlanda, Luxemburgo o los Países Bajos. En sus mercados más importantes declaran ingresos muy inferiores a los reales y generan solo ganancias contables ínfimas, o incluso pérdidas, eludiendo en gran medida la fiscalidad.

Cuando Jeff Bezos fundó Amazon en 1994, su intención era establecer su sede en una reserva amerindia conocida por no estar sujeta a tributación274. El estado de California se lo impidió, pero la empresa acabó por instalarse en Luxemburgo en 2003. Tras negociar un acuerdo confidencial con las autoridades del Gran Ducado, el gigante desplegó una estrategia con el nombre en clave “Project Goldcrest”. Se basa en que las filiales de los países donde la empresa realiza ventas revierten una parte de sus ingresos en concepto de royalties a una empresa con sede en Luxemburgo, depositaria de los derechos de propiedad intelectual de Amazon. Esta empresa únicamente transfiere una pequeña parte de esos derechos a su empresa matriz en Estados Unidos, evitando también pagar impuestos allí.

El esquema que aplica Microsoft es similar, canalizando sus fondos a través de una filial en las Bermudas, territorio exento de impuestos a sociedades275. En cuanto a Google se calcula que ahorró en torno a 3.700 millones de euros solo durante el año 2016 haciendo circular más de 16 mil millones de dólares entre Irlanda, los Países Bajos y las Bermudas aplicando una técnica fiscal conocida con el nombre de “doble irlandés” y “sándwich holandés”276. La lista de empresas es larga y se extiende a todos los GAFAM. Facebook registró oficialmente pérdidas en España entre 2015 y 2017, donde declaró una parte ínfima de su volumen de negocios real en el país. En 2018 decidió reconocer una parte más importante de los ingresos generados aquí, pero con menos de un millón de euros abonado en impuestos, la fiscalización de la empresa no se corresponde ni de lejos con su actividad real277. Mientras que los tres principales operadores de telefonía españoles pagaban 1.200 millones de euros en impuestos durante este mismo ejercicio, Google, Amazon, Facebook y Apple solo abonaron 23 —correspondiente a una tasa del 2,3% de sus ingresos, frente al casi 5% de las empresas de telecomunicaciones, que, sin embargo, generan menos beneficios278—.

Sumisión voluntaria de los Estados y connivencias

Despreciados por los gigantes tecnológicos, los Estados parecen sufrir a veces un síndrome de sumisión voluntaria, consecuencia de la fascinación de los políticos por estas empresas o de una colusión de intereses. Incluso después de poner en evidencia la responsabilidad de Facebook en el asunto de Cambridge Analytica o el engaño al que sometió a los reguladores, los jefes de Estado continúan recibiendo a Mark Zuckerberg prácticamente de igual a igual. Cuando Amazon se lanzó en busca de una segunda sede social, después de la de Seattle, diversas ciudades estadounidenses se volcaron en una competencia feroz por hacer la mejor oferta con privilegios fiscales y otros tratos de favor, a pesar de que la empresa es conocida por ser una campeona de la optimización fiscal y de que los ayuntamientos estadounidenses tienen graves problemas para financiar sus servicios básicos. Los efectos de Amazon en el empleo local distan mucho de ser positivos279.

En la misma línea, las administraciones se someten a estas empresas recurriendo con frecuencia ciega a sus servicios. Si un usuario X no tiene ni el tiempo ni los recursos para leer unas condiciones que seguramente consideraría inaceptables, sería deseable que los Estados sí mantuvieran este deber cuando solicitan servicios tecnológicos. No solo no lo hacen, sino que nos encontramos en situaciones donde las administraciones fuerzan a los ciudadanos a recurrir a los servicios de los gigantes digitales, obligándolos a establecer una relación asimétrica —que suele consistir en cederles una parte de su vida privada—. En numerosos países, la gran mayoría de los funcionarios que disponen de un smartphone profesional utilizan un dispositivo operado por Android, que, como hemos visto, reenvía una cantidad considerable de datos personales a Google. Además, Google hace prácticamente imposible utilizar estos teléfonos sin crear una cuenta de Gmail, obligando al usuario a adentrarse más en su ecosistema corporativo. Asimismo, las administraciones utilizan plataformas como Youtube o Facebook para publicar sus contenidos, en ocasiones de manera exclusiva, lo que obliga a los ciudadanos a conectarse para informarse y comunicarse con ellas280.

Para el cofundador de Facebook, Chris Hugues, que abandonó la empresa en 2007, los responsables políticos “se han dejado obnubilar durante demasiado tiempo por el crecimiento de Facebook y han olvidado que su responsabilidad era asegurarse de que los estadounidenses estén protegidos y el mercado sea libre”. Todas las señales de un monopolio contrario a la ley eran, en su opinión, manifiestas, y no únicamente por las adquisiciones de empresas susceptibles de ejercer la competencia, sino también a través de la imitación de funciones de aquellas que no conseguían adquirir —como Snapchat— o del bloqueo de herramientas procedentes de otros servicios de la competencia, como Vine281.

Las connivencias entre los GAFAM y los Estados se cimientan en la proximidad entre las élites gubernamentales y los directivos de los gigantes tecnológicos, hasta tal punto que parecen haber sustituido desde hace algunos años a las instituciones financieras como pista de aterrizaje favorita para los más altos cargos de la Administración estadounidense, deseosos de rentabilizar su experiencia política. Entre los exintegrantes del equipo del presidente Obama, el exministro de Justicia Eric Holder se unió a Airbnb; el exsecretario de prensa Jay Carney trabaja ahora para Amazon; David Plouffe, quien fuera director de campaña y luego asesor del presidente, se ha dejado seducir por Uber; Kyle O’Connor, que escribía los discursos presidenciales, se incorporó primero a Nest (Google) y más tarde al Departamento de Comunicación de Facebook; y Dan Pfeiffer y Bobby Whithorne, secretario adjunto de prensa y pluma de Obama respectivamente, se unieron a GoFundMe282. Y en cuanto al propio presidente Obama, desde el final de su mandato parece obtener la mayor parte de sus ingresos del contrato que ha firmado con Netflix283.

Bien reguladas, las puertas giratorias no deberían ser sospechosas por sistema. Pero cuando la exempleada federal a cargo de las adquisiciones del Gobierno estadounidense, Anne Rung, se convierte en directora del departamento de “Gobierno” de Amazon for Business, la inquietud parece estar justificada. En 2017 se aprobó una enmienda a una ley que externalizaba la central de compras del Departamento de Defensa de Estados Unidos a “plataformas en línea”. Bautizada con el nombre de “la enmienda Amazon”, su redacción parece obra del propio gigante del comercio electrónico, pues ha acelerado la transferencia de un mercado de 53.000 millones de dólares en adquisiciones públicas hacia su plataforma. Aplicando los criterios de compra de Amazon, se corre el riesgo de basarse exclusivamente en el precio, en detrimento de otros criterios de adquisición284.

También se produce el movimiento inverso. Los gigantes de Internet proporcionan empleados a los equipos de los dirigentes políticos estadounidenses, en un país donde es frecuente que las funciones reguladoras más importantes las ejerzan dirigentes surgidos de los mismos sectores que deben supervisar. Este esquema no parece favorecer que las autoridades cumplan su función de garantizar el interés general.

Tales connivencias no son exclusivas de Estados Unidos. El arquitecto de la transformación de Luxemburgo en paraíso fiscal para los gigantes de Internet no fue otro que Jean-Claude Juncker, a la sazón primer ministro del pequeño Estado y posteriormente presidente de la Comisión Europea que afrontaría el problema de los GAFAM. El propio Juncker ofreció su asistencia personal a Amazon en el momento de instalarse en Luxemburgo y el director de la fiscalidad de Amazon, Bob Comfort, sería nombrado más tarde cónsul honorario del Gran Ducado en Seattle285.

Los gigantes en busca de una estatura soberana

Cada vez más prerrogativas que en principio incumben a los Estados se están deslizando hacia las plataformas más potentes de la web. Los parlamentos, en tanto que representantes del pueblo soberano, serían los únicos habilitados para decidir, hasta cierto punto, qué contenido será accesible a los ciudadanos, pero algunas plataformas, con Facebook a la cabeza, se han decidido a ejercer esta función siguiendo sus propios criterios o fiándose de sus algoritmos. Para el jurista Carlos López Blanco se trata de una “anomalía democrática que, sorprendentemente, ha escandalizado muy poco”286. En última instancia, quien decide si un individuo como el presidente Trump permanece excluido de la plataforma es el Consejo Asesor de Contenido de Facebook, conocido como “Corte suprema”.

Pese a su apariencia liberal, estas nuevas potencias no es que aspiren a un mundo sin ley ni jueces, sino que pretenden ejercer ellas mismas las funciones legislativas y judiciales. Ya sea en sus mercados de aplicaciones, en la publicidad en línea o en la publicación de contenidos, el universo que conforman está saturado de normas y condiciones de uso. Cada vez más ejercen su poder como una autoridad y no como mera parte en una relación comercial. Utilizan sus condiciones como control reglamentario impuesto a quienes desean vender bienes o servicios en su ecosistema.

Para Frank Pasquale, este movimiento describe la transición de una soberanía territorial —ejercida por los Estados— a una “soberanía funcional”. “En ámbitos funcionales que van desde el alquiler de habitaciones hasta los transportes, pasando por el comercio, las personas estarán cada vez más sujetas al control de estas empresas que al control democrático”287, explica este profesor de Derecho, y añade: “Los individuos recurren racionalmente a los gigantes de Internet para que impongan el orden del que la doctrina legal libertaria [que estos últimos han promovido] ha despojado al Estado”288.

Las famosas “condiciones generales de uso” (CGU) corresponden a contratos y modalidades de decisión opacos, asimétricos y unilaterales. El profesor de Derecho de la Universidad de Boston, Rory Van Loo, indica que un número insignificante de litigios logra un verdadero arbitraje independiente, mientras que el servicio de atención al cliente de Apple gestiona centenares de millones de ellos cada año. Sin embargo, los procesos que rigen estas resoluciones de conflicto, ya sea entre la propia plataforma y un usuario o entre varios usuarios, chocan con el secreto comercial289. Y “cuanto más confían los compradores y vendedores en Amazon para hacer sus ofertas y resolver sus desacuerdos, menos poder tienen sobre Amazon”290, añade Frank Pasquale.

Los gigantes de Internet se han vuelto tan ineludibles que el deterioro de su reputación no afecta en absoluto a su uso. Y lo mismo sucede con los desacuerdos que surgen entre dos empresas. Si una de ellas considera que la otra está utilizando su marca registrada para anunciarse en Google, debe remitirse a la “justicia” ejercida por la plataforma, que resolverá según sus criterios —en ocasiones distintos a los establecidos por la ley— si el uso es o no aceptable291.

Los GAFAM aspiran a adquirir verdaderos atributos de Estado. Dinamarca designó en 2017 un embajador de las grandes potencias digitales. Esta enésima muestra de reconocimiento inapropiado tendría numerosos efectos perversos si fuera generalizada: “Dotados de influencia diplomática, los GAFAM no tardarían en parecerse a Arabia Saudí o a Catar en su modo de relacionarse con los países de verdad”292, explica el escritor e informático Marc Rameaux. Dicho de otro modo: los Estados perderían aún más capacidad de velar por el respeto del Estado de derecho.

Otro atributo de los Estados, el de acuñar moneda, despierta el apetito de los mastodontes digitales. Todos ellos han creado soluciones de pago. Facebook fue la primera en anunciar, en junio de 2019, la creación de su propia divisa: libra. En palabras de la empresa, se trata de una “simple moneda y de una infraestructura global que beneficiará a miles de millones de personas”293. Esta moneda se basará en la Libra Association, un sistema de gobernanza instituido por Facebook con sede en Suiza, al cual pertenecen hasta 100 grandes empresas; y el sistema que permitirá efectuar pagos se basará en Calibra, una filial de Facebook que dice operar al margen de su empresa matriz. No obstante, la red social se convertirá en su principal plataforma de intercambio y podrá recopilar directamente y sin obstáculos nuevos datos personales. “Facebook es ya demasiado grande y potente y ha utilizado su poder para explotar los datos personales de sus usuarios sin proteger su vida privada. No podemos permitirle desplegar una nueva criptomoneda de riesgo, emitida por un banco suizo y sin supervisión”294, comenta indignado el senador estadounidense del ala izquierda del Partido Demócrata Sherrod Brown. Facebook alega que libra se basaría en un sistema de gobernanza sofisticado, pero da más la impresión de que se ha concebido para eludir toda regulación pública y emplearse para fines de blanqueo de capitales o de evasión fiscal.

Aunque no sabemos en qué acabará este proyecto anunciado a bombo y platillo, David Dayen, director de la publicación The American Prospect, vaticina: “O bien [libra] no será nunca una realidad, por la oposición de un gran número de reguladores y políticos, o bien dentro de veinte años echaremos la vista atrás y consideraremos este momento como el verdadero punto de inflexión con el que esta empresa dominante se habrá impuesto como el socio digital indispensable para dar cualquier paso en la vida”295.

Relaciones feudales

En ciertos aspectos, la autoridad que ostentan los gigantes de Internet recuerda más al feudalismo que a Estados modernos, sobre todo en lo relativo a la seguridad en el espacio digital. El especialista en seguridad informática Bruce Schneier, afiliado a la Harvard Kennedy School, demuestra que los GAFAM se han erigido en señores feudales de quienes no nos queda más alternativa que delegar la protección de nuestros dispositivos y nuestros datos. En la Edad Media, “los vasallos juraban lealtad a un señor y, a cambio, este los protegía. En el nuevo mundo digital, cedemos una parte de nuestro control y, a cambio, confiamos en que nuestros señores nos traten bien y nos protejan del mal”296.

Ciertas personas rinden así pleitesía a Google entrando en su ecosistema —utilizando cuentas de Gmail, Google Calendar, Google Docs o un móvil Android— mientras que para otras el señor feudal es Apple —y ceden a iCloud la sincronización automática de sus iPhone e iPad—. Las hay también que se dejan proteger por Amazon —que guarda una copia de todo lo que descargamos en la tableta Kindle o de la música que descargamos en nuestros teléfonos móviles—. Y Facebook almacena en su castillo todos nuestros mensajes y datos personales.

Todo muy práctico. A cambio, estos señores feudales nos tienen a su merced y pueden “vendernos como siervos”, “cometer errores en materia de seguridad”, actuar de manera arbitraria y “en definitiva, moverse por sus propios intereses”. También podemos prometer lealtad a varios de ellos, mientras que cada vez es más difícil no hacerlo a ninguno, según Schneier. Esta suerte de retorno a la Edad Media ha sido posible, según este especialista, por la renuncia de los gobiernos a ejercer su función en el ciberespacio, y es urgente que el Estado vuelva a asumir el papel de protector último de la ciudadanía: (1) limitando lo que estos señores feudales pueden hacer con nuestros datos personales; (2) estableciendo derechos como borrar por completo nuestros datos a petición nuestra; y (3) fijando responsabilidades cuando estas entidades cometen faltas o no nos protegen de manera efectiva.

3. Por encima de otras empresas
y de la sociedad

Para percibir la presión arbitraria, unilateral y desequilibrada de los gigantes tecnológicos nada mejor que ponerse en el papel de las demás empresas. El individuo, como ciudadano y consumidor final, paga de manera indirecta la factura económica, social y política, pero no percibe estas injusticias en primera persona.

Prácticamente todas las empresas actuales deben abonar una especie de impuesto revolucionario a Google y a Facebook a cambio de su derecho a existir. La información transita cada vez más por un espacio privado en el cual una empresa debe pagar para hacerse hueco. Este “impuesto” no es sobre los beneficios, porque se cobra, aunque las empresas no los generen. Tampoco puede asimilarse al IVA, ya que las empresas deben abonarlo, aunque no consigan transformar en ventas las visitas que reciben sus páginas web. Tampoco es del todo equiparable a la publicidad, puesto que incluso empresas muy pequeñas que jamás habrían recurrido a la publicidad deben ahora pagarlo para existir a ojos de sus potenciales clientes.

En mercados específicos, otros gigantes sectoriales de Internet siguen estrategias parecidas. La mayoría de las búsquedas de hotel se efectúan hoy a través de Internet y las canaliza el duopolio de las plataformas de reserva en línea: Expedia —Hotels.com, HomeAway, Trivago— y Booking —Booking.com, Priceline, Kayak—. Si un establecimiento de cualquier rincón del planeta desea tener la mínima visibilidad, no le queda más remedio que inscribirse en estas plataformas y plegarse a sus condiciones, lo que comporta el pago de una comisión en torno al 20% del precio de cada reserva. Pero es Google quien obtiene un beneficio último de este maná. Las plataformas especializadas deben pagar su “impuesto de existencia” al gigante de Mountain View.

Reglas arbitrarias, cambiantes e ineludibles

La relación de dependencia establecida por los gigantes californianos hace a los empresarios cautivos y los deja sin recursos frente a cambios unilaterales en las condiciones. En el caso de Google y de Facebook, la frontera entre los servicios supuestamente gratuitos para las empresas que integran su ecosistema y los que tienen vocación de convertirse en servicios de pago a menudo es difusa. Ambos se aprovechan de esta indefinición.

La empresa de Zuckerberg bate récords en materia de sorpresas reservadas a sus clientes profesionales, capaces de tener un impacto radical, cuando no letal, en su actividad.

A los sitios web cuyo tráfico depende en gran medida de las redes sociales, cualquier cambio efectuado por Facebook en su funcionamiento les provoca un trastorno, sin preaviso y sin más opción que la resignación. Los fundadores de la página web humorística española ascodevida.com lo saben bien: “Un día miramos en Google Analytics y teníamos 400.000 visitas de Facebook; bueno, pues al día siguiente teníamos 200.000”, declara uno de sus fundadores, y añade: “Da un poco de miedo ese poder que tiene Facebook, pero o estás dentro o te quedas fuera del pastel, tienes que acatar sus normas. Y creo que cada vez va a ir a más, Facebook va a tener cada vez más poder”297.

Es cierto que multitud de empresas se han beneficiado gratuitamente de la atracción de tráfico de Facebook, pero también han contribuido al éxito de la red social publicando en ella contenidos. Aunque esta se haya convertido en una matriz tan vital para numerosas páginas y para las personas que viven de ellas, se siente demasiado superior para sentir la necesidad de informarles con claridad de la evolución de su servicio. En octubre de 2017, Facebook realizó un test que limitaba la presencia de enlaces promocionales en los muros de los usuarios en beneficio del contenido orgánico, publicado por sus “amigos”. Aunque según Adam Mosseri, responsable del servicio del canal de noticias, no estaba previsto que aquella experiencia fuera generalizada, sí lo fue tres meses más tarde, desorientando a todo el ecosistema empresarial que dependía de la red social.

Para otros sitios web, el servicio de cartografía Google Maps es un elemento indispensable para funcionar. Este se estableció como un servicio gratuito, sin barreras a la entrada, de tal manera que sus mapas penetraran en el mayor número de sitios web posible. Las condiciones de pago eran vagas y daban a entender que se trataba de un servicio gratuito, salvo para sitios web con un tráfico muy elevado. Pero pequeñas empresas cuyo funcionamiento dependía en gran medida de Google Maps se encontraron de un día para otro con llamadas telefónicas o mensajes de correo electrónico muy agresivos de la multinacional, que los amenazaba con cortar sin más el servicio si no adquirían una licencia para “poner fin a su violación de las condiciones de uso de Google”. Esas amenazas sumamente angustiantes para un empresario tienen como único fin obligarle a pasar por la caja registradora. Tomados por sorpresa, los editores de los sitios que utilizan Google Maps a menudo no tienen tiempo de buscar otra alternativa, que implicaría desarrollos informáticos más dilatados que el plazo que ofrece Google para “regularizar su situación”.

Abuso estructural de posición dominante

En el cuarto capítulo hemos analizado hasta qué punto el “capitalismo de la vigilancia”, del que Google ha sido el gran pionero, permite a las empresas que lo practican obtener una “renta de vigilancia” a costa de sus usuarios. Pero los grandes ojos de los gigantes de Internet también les permiten recopilar información útil sobre otras empresas, de la que saben sacar provecho.

Facebook se ha convertido en un auténtico experto en materia de vigilancia económica y ha sabido utilizar esta asimetría informativa para consolidar su posición. En 2014 adquirió Onavo, un programa que permitía a los usuarios limitar su consumo de datos. De paso, este proveía datos precisos sobre el modo en el que los usuarios utilizaban su teléfono y las distintas aplicaciones. Esto permitió a Facebook conocer el enorme éxito de WhatsApp, que se apresuró a adquirir aquel mismo año. Bajo el fuego de ciertas críticas, Facebook tuvo que retirar esta aplicación de la App Store de Apple en 2018, pero ello no le impidió reincidir. Así, a través de un entramado de aplicaciones de terceros que, por lo general, enmascaran su implicación, el departamento de investigación de Facebook retribuía a los usuarios alrededor de 20 dólares al mes a cambio de acceder a toda la información de su smartphone.

Estas iniciativas se enmarcan en el programa Project Atlas, a través del cual Facebook intenta cartografiar en secreto las tendencias del universo digital, poniendo especial énfasis en identificar cualquier empresa con potencial para convertirse en su rival. La compañía de Mark Zuckerberg está especialmente obsesionada con el uso de la tecnología por parte de los más jóvenes, quienes no consideran Facebook necesariamente su plataforma predilecta. A través de estos procesos, la empresa habría detectado muy al principio el intenso uso juvenil de la aplicación TikTok y se apresuró a desarrollar una copia que bautizó con el nombre de Lasso298.

Criticadas sobre todo por ir destinadas específicamente a menores, estas prácticas demostraron la falta de escrúpulos de la empresa para sofocar a sus rivales. En junio de 2019 la plataforma lanzó Facebook Study, una nueva aplicación que remunera a sus usuarios a cambio de tener acceso total a su dispositivo, si bien esta vez afirma hacerlo “con principios”, es decir, de manera transparente, segura y pagada de manera justa. El programa está destinado a los mayores de 18 años299. No obstante, con esta iniciativa, Facebook sigue espiando de manera ilegítima y sistemática los progresos de otros agentes del sector digital. Pone en evidencia el estrecho vínculo entre dos realidades que en apariencia no guardan relación: la vigilancia de las personas y el modo en que los gigantes tecnológicos aniquilan la libre competencia.

Como es previsible, Google no ha tenido que recurrir a tantos subterfugios para acceder a datos de sitios web y aplicaciones de terceros, ya que un 84,7% de la web mundial utiliza su herramienta de medición de tráfico, Google Analytics300. La empresa es conocida por conceder las mejores posiciones a sus propios servicios entre los resultados de búsqueda. Tras copiar el modelo de comparadores de precio en línea como Kelkoo y llamarlo Froogle, poco satisfecho con la parte del mercado obtenida por este servicio, el gigante lo rebautizó con el nombre de Google Shopping y lo colocó sin más a la cabeza de los resultados del motor de búsqueda. En cuestión de meses se convirtió en el líder mundial del sector. Por esta competencia desleal de manual, la multinacional tuvo que abonar en 2017, tras siete años de investigación, una multa de 2.420 millones de euros que le impuso la Comisión Europea bajo el liderazgo de la comisaria Margrethe Vestager301. Con todo, la lentitud de los procedimientos y de los pagos por daños y perjuicios suele tener repercusiones irreversibles en las empresas de la competencia afectadas por estas prácticas.

Este no es un caso aislado. Google obliga a los fabricantes de smartphones que utilizan Android a preinstalar las apps Google Search, Chrome, Youtube o Gmail si desean proponer a sus clientes un acceso a su tienda de aplicaciones Google Play. Por esta última práctica, la multa de la Comisión Europea se ha elevado a 4.340 millones de euros, una cifra récord, pero una simple “multa de aparcamiento” para la empresa, según algunos expertos302.

Por su parte, Amazon no duda en extraer información de las empresas que operan en su plataforma para mejorar su comprensión de los mercados en los que desea introducirse. Contrariamente a lo que la empresa ha declarado siempre, inclusive ante el Congreso de los Estados Unidos, sus empleados consultan directamente los datos privados de vendedores terceros relativos a productos que venden en su plataforma. En base a esta información tan valiosa, la empresa orienta el desarrollo de sus propios productos competidores bajo una marca blanca, que luego distribuye en su propio sitio web303.

De manera general, el refuerzo del control que los GAFAM ejercen sobre el mercado parece imparable, a menos que una acción política proactiva y rápida lo corte de raíz. La actuación emprendida por la UE es loable, pero, por desgracia, los plazos de los reguladores que llevan a término investigaciones en profundidad son demasiado dilatados, puesto que estas multinacionales hacen todo para prolongar los procedimientos.

Los medios de información, sometidos

Los GAFAM sienten predilección por el término socio para designar a instituciones de toda índole que integran su ecosistema. Remite a la idea de una relación equilibrada entre las partes, disimula unas relaciones que colocan a estas empresas en una situación de enorme dependencia y vulnerabilidad. Las empresas periodísticas tuvieron ocasión de constatarlo.

Desde el inicio del nuevo milenio, la prensa en su conjunto atraviesa una crisis de audiencia que se traduce en una fragilidad económica creciente. En paralelo, los gigantes de Internet han acumulado un público considerable, se han hecho con medios financieros sin precedentes y necesitan contenido para fidelizar a sus usuarios. En este contexto y bajo la apariencia de complementariedad, los medios de información y determinados GAFAM, con Facebook a la cabeza, firmaron un pacto faustiano:

Los medios producen contenidos destinados a publicarse en la red social y adecuados a los formatos de uso de la plataforma;

Facebook proporciona —y en el caso de determinados grandes medios de comunicación, financia— herramientas de producción y consejos para que los contenidos lleguen a su público a través de la plataforma;

la red social remunera a los medios de comunicación participantes.

Lo que la plataforma presenta como un acuerdo win-win, en el que ambas partes salen beneficiadas, da lugar a las consecuencias siguientes:

Una imposición de la red social en lo relativo a los formatos y la naturaleza de los contenidos;

una dependencia de estos medios del público y de los ingresos procedentes de Facebook;

la consiguiente fragilidad adicional frente a cualquier cambio en las condiciones de sus acuerdos con la plataforma.

En Internet, y en particular en las redes sociales, los contenidos deben captar la atención del usuario mediante una infinidad de mensajes de nuestros seres queridos, vídeos divertidos y otras noticias que causan sorpresa. La popularidad se mide mediante algoritmos que seleccionan las piezas capaces de conmover y de ser más compartidas. Con frecuencia relegan la calidad de la información a un segundo plano. A partir de junio de 2016, Facebook inició “partenariados” tanto con antiguos diarios de renombre —entre ellos The New York Times— como con nuevos medios de comunicación nacidos con la generación de las redes sociales —como BuzzFeed y el Huffington Post— además de con celebridades e incluso clubes de fútbol. La empresa desembolsó 50 millones de dólares para que estos últimos le proporcionaran contenidos, principalmente en formato de vídeos304. En Francia los diarios Le Figaro, Le Monde o Le Parisien, emisoras de radio como RTL y canales de televisión como TF1 han firmado acuerdos similares con la empresa californiana. Atrayendo a los medios de comunicación más importantes, la plataforma pretende crear un efecto dominó e imponer nuevos formatos en el plazo de un año305.

Y parece que su apuesta está teniendo éxito: en cuestión de meses, todos estos medios se han convertido al Facebook Lives. Algunos medios reciben financiación para construir Facebook Rooms o estudios dedicados al desarrollo de sus stories y otros vídeos destinados a inundar los canales de noticias de Facebook. Tales contenidos se consumen exclusivamente en Facebook y aportan escasas visitas a estos medios. Las redacciones, ya de por sí desbordadas, se ven obligadas a invertir más tiempo en preparar estos formatos a medida y menos a otras investigaciones de fondo.

A los medios de menor envergadura, faltos de medios técnicos suficientes, les cuesta mantener el ritmo. Los pure players306 destinados a los millennials, en cuyo ADN está generar contenido para redes sociales, parecen nadar como pez en el agua en este nuevo ecosistema cuyas reglas dicta Facebook. Jill Abramson, directora ejecutiva de The New York Times, ve cómo artículos que han requerido una labor de investigación considerable son retomados con mucho más éxito por el Huffington Post, que domina todos los códigos para posicionarse bien en Google, o por BuzzFeed, que sabe cómo atraer a las multitudes en las redes sociales307. La vetusta revista The New Republic, adquirida por Chris Hugues —el cofundador de Facebook muy crítico ahora con la empresa—, eligió privilegiar el “tráfico social”, ciñéndose por cierto a los valores de Facebook a expensas de su criterio editorial. La publicación, que era célebre por seleccionar temáticas originales e inesperadas para sus lectores, la mayoría de izquierdas, apuesta ahora por temas menos arriesgados y más reconfortantes.

Las estadísticas que la plataforma proporciona a sus “socios” resultan dudosas. La propia empresa admitió en septiembre de 2016 haber exagerado entre un 60 y un 80% el número de reproducciones de los vídeos308. Y la carrera desenfrenada por captar la atención desemboca en una saturación de los muros de los usuarios. Para conservar su público en este espacio sometido a una competencia tan feroz, los sitios web de noticias a veces acaban por convertirse en clientes de pago de la plataforma. En enero de 2019, sin explicación alguna, Facebook adoptó la decisión de modificar su algoritmo, de manera que los newsfeeds de los usuarios concedieran más espacio a las fotos y los comentarios de sus amigos, en detrimento de contenidos procedentes de los medios de comunicación. BuzzFeed tuvo que despedir de un día para otro al 15% de su plantilla y lo mismo ocurrió en el caso del Huffington Post309. El hecho no puso en cuestión las estrategias de Facebook sino la de los medios más dependientes de este tráfico social.

4. Contrarrestar a los gigantes
tecnológicos

Vamos a intentar resumir aquí algunas alternativas viables para regular la influencia de las grandes tecnológicas sobre la economía, la política, la sociedad y el conjunto de nuestras vidas.

Tenemos al menos una certeza: la autorregulación que prometen no ha ocurrido o no ha funcionado En ausencia de una verdadera regulación independiente y aplicada de manera rigurosa, los GAFAM tendrán poderosos incentivos para volcarse en los intereses de sus accionistas y en la visión mesiánica de sus responsables en detrimento de todo lo demás. Como avanza Frank Pasquale, solo una organización política de la economía es susceptible de proteger la democracia, fundada sobre una soberanía territorial, frente a las soberanías funcionales establecidas por empresas como Amazon. Los juristas y los politólogos preocupados por la dominación de estas empresas consideran imperativo actuar con celeridad. De lo contrario, cada vez será más difícil abordar el problema a medida que estos gigantes crezcan y consoliden su dominio sobre los resortes de la IA.

El arma antimonopolista y sus límites

La idea más extendida para limitar el control que estas empresas ejercen sobre nosotros se sustenta en la protección de la competencia. Uno de sus pilares básicos es la legislación antimonopolio de la que están dotados la mayoría de los países, empezando por los dos mercados principales de los GAFAM (Estados Unidos y la Unión Europea).

La medida más extrema consistiría en utilizar esta legislación para desmantelar los GAFAM. En Estados Unidos, donde tienen su sede los cinco gigantes, las leyes antitrust o antimonopolio instauradas desde finales del siglo XIX desmantelaron conglomerados considerados una amenaza. En 1911, la Standard Oil fue declarada “monopolio irracional” al amparo de la Sherman Act de 1890, y tuvo que subdividirse en 34 empresas. Más adelante, en 1934, la United Aircraft and Transport Corporation, que dominaba el mundo de la aviación, se vio forzada a descomponerse en tres empresas: Boeing, United Airlines y United Aircraft Corporation. Y en la década de 1980, la empresa de telefonía AT&T se fragmentó en siete empresas distintas. Numerosas voces, a semejanza de la senadora Elizabeth Warren, se pronunciaron en favor de una acción parecida con respecto a los gigantes tecnológicos. Sin embargo, desde un punto de vista económico, la razón que justificaba la intervención del Estado contra los monopolios se ha vinculado por tradición a su poder para aumentar los precios en detrimento del consumidor. La particularidad de los nuevos monopolios es que la mayoría de los servicios que ofrecen son o bien gratuitos o muy baratos. ¿Existe margen para apelar a las leyes antimonopolio?

La jurista Lina Khan habla de “la paradoja antitrust de Amazon”310 y lamenta que el marco contrario a la competencia actual, fundado en el denominado “bienestar del consumidor” a corto plazo, no esté preparado para afrontar la situación presente. En efecto, Amazon está dispuesto a esperar el tiempo que haga falta antes de obtener beneficios —manteniendo los precios más bajos posibles—, mientras que el consumidor se alegra de ahorrar lo máximo a corto plazo. Tras este prisma reductor, no se aprecian las consecuencias contrarias a la competencia derivadas de la omnipotencia de la plataforma. Los gigantes tienen incentivos para actuar de este modo, puesto que los inversores priman el crecimiento de los ingresos en detrimento de la generación de beneficios. Así, una tarificación depredadora se convierte en racional, premiada en los mercados financieros.

El enfoque ortodoxo antimonopolio, centrado en los precios, pasa por alto el poder que los GAFAM están acumulando. En 2014, mientras que Amazon y la editorial Hachette litigaban, el primero decidió retirar de la venta todos los libros publicados por la segunda, abusando de su posición dominante. Se necesita un enfoque analítico más amplio para apreciar que “aunque Amazon tiende a reducir los precios de los libros, cosa que los consumidores consideran positiva, acaba yendo en detrimento de estos”311.

Las autoridades de la competencia han demostrado ser incapaces de entender las amenazas que representan las adquisiciones de las grandes tecnológicas. Cuando Facebook compra una aplicación como Instagram, adquiere una compañía con una docena de empleados que no genera ingresos. La FTA —Federal Trade Commission, la autoridad de la competencia estadounidense— no encuentra motivos para oponerse a la adquisición. No obstante, el analista Ben Thompson considera que la legislación aplicable, incluidos textos legislativos antiguos, permitiría prohibir la mayoría de estas operaciones. Sin ir más lejos, una enmienda de 1950 al Clayton Act prohíbe toda adquisición que tenga por efecto “reducir sustancialmente la competencia o crear un monopolio”, cosa que se ha producido de manera incontestable con las diversas adquisiciones de Facebook. Para Thompson, el marco actual, bien interpretado, bastaría para evitar que cualquier red social potente adquiera otra, incluso en casos aparentemente menores, como la compra que hizo Facebook de la aplicación TBH en 2018, ya que los efectos de red son demasiado potentes para que se los autorice a combinarse312.

¿No resulta inverosímil, por lo tanto, que incluso las transacciones más clamorosas que permiten a los GAFAM desarrollarse rápidamente en sectores nuevos —como la adquisición de Amazon de la cadena de supermercados Whole Foods por 13.700 millones de dólares en 2017 o la de LinkedIn por parte de Microsoft en 2016— no encuentren trabas por parte de los organismos reguladores y ni siquiera sean objeto de investigaciones más serias?

Formas de reactivar la acción antimonopolio

El New Brandeis Movement apela a las autoridades de la competencia para ir más allá del restrictivo “bienestar de los consumidores”, es decir, de los precios de los bienes y servicios. Desde sus inicios, la legislación antimonopolio en Estados Unidos se consagraba a evitar una concentración excesiva del poder económico por una minoría que pudiera amenazarla prosperidad colectiva. “El poder que enmarca la economía debe estar en manos de representantes del pueblo y no en las de una oligarquía industrial”, escribía el juez William O. Douglas en 1948313. Hoy se vuelve a demandar una visión menos cortoplacista de la lucha antimonopolio que impida a los grandes grupos cerrar el paso a los proveedores o productores; que preserve la estabilidad del sistema —evitando que las empresas sean “demasiado grandes para caer en bancarrota”—; o incluso asegurando la diversidad de los medios de comunicación314.

Otro enfoque práctico consiste en observar el efecto que tiene la ultraconcentración de poder del sector tecnológico en los precios impuestos a las empresas que contratan publicidad en ellas. En la actualidad, las empresas que dependen de la publicidad en línea para llegar a sus clientes potenciales no tienen más alternativa que recurrir a Facebook y a Google. Estén o no estén satisfechas con el servicio recibido, prácticamente se ven obligadas a seguir anunciándose en estas plataformas. Aunque no se dispone de datos suficientemente rigurosos para afirmarlo con rotundidad, parece que los precios de la publicidad en línea han aumentado en los últimos años a causa de este duopolio315, con muy escaso margen de negociación para los anunciantes.

Deberían investigarse los criterios para calcular el precio de la publicidad en línea de una empresa, la suma media que una empresa debe abonar para lograr una venta. Es importante destacar también el desarrollo del remarketing, que incita a las empresas a publicitarse para alcanzar a usuarios que ya son suyos, de manera que incluso después de haber captado a un cliente, los anunciantes deben continuar invirtiendo en los gigantes de Internet para fidelizar clientes y comunicarse con ellos. En el caso de Amazon, no solo deberíamos interesarnos por el precio que ofrece a los consumidores, sino también por su capacidad para fijar de manera unilateral las tarifas que ofrece a los vendedores.

Para acabar, la teoría defendida por la jurista Dina Srinivasan justifica una intervención de las autoridades antimonopolio con un criterio que relacione competencia y explotación de datos. Si los usuarios finales no efectúan pagos monetarios por utilizar Facebook o Google, les proporcionan sus datos personales. El grado de intrusión ha crecido, es decir, los usuarios pagan más en datos personales por utilizar estos servicios. En 2007 Facebook empezó a rastrear la actividad de sus usuarios en sitios web de terceros y a explotar esta información, pero la indignación y el recurso colectivo presionaron para que la empresa abandonase tales prácticas. No obstante, a medida que la competencia ha ido desapareciendo, la opinión de los usuarios ha pesado menos. Facebook ha degradado en gran medida los términos de su oferta y, de alguna manera, ha incrementado el precio de su servicio para los usuarios316.

Los ingresos anuales por usuario obtenidos por la red social pasaron de poco más de 5 dólares en 2011 a cerca de 30 en 2019317. Para explicar este aumento fulgurante podemos suponer una mayor explotación de los datos de usuarios —lo que reforzaría el argumento expuesto por Srinivasan—, o bien plantear la hipótesis de una inflación de los precios de la publicidad para los anunciantes.

Desarrollo de otras armas defensivas
contra las amenazas de los GAFAM

Carl Shapiro, profesor en la Universidad de Berkeley y especialista en legislación antimonopolio, señala que el derecho de la competencia no es suficiente para abordar el problema del poder y la excesiva influencia política de estos colosos; tampoco para resolver las desigualdades que podrían derivarse del crecimiento de estas empresas y que incumbe, entre otras, a la política fiscal o a la educativa318. Pueden anotarse al menos cuatro líneas de acción no relacionadas con el derecho a la competencia:

1) Resolver la anomalía fiscal

Se trata de un primer paso imprescindible. Para hacer frente a la evasión de impuestos que aprovechan estas empresas es imperativo volver a registrar su actividad en el territorio donde la ejercen de facto. Para ello, el principio más discutido en Europa consistiría en que cada país aplique un impuesto del 3% a la cifra de negocios presentada por estas empresas en su territorio, en lugar de aplicar un impuesto de sociedades clásico en base a los beneficios. De este modo se contrarrestaría la estratagema de los GAFAM para reducir artificialmente los beneficios contables obtenidos en un territorio y canalizarlos hacia países con una imposición baja.

Ante la inexistencia de un impuesto europeo de estas características, Francia aprobó su propia “tasa GAFA” en 2019 —aplicable a todas las empresas cuya cifra de negocios mundial fuera superior a 750 millones de euros, 25 de ellos tributados en Francia— y de forma similar España su “tasa Google” en 2020. Pero debería hacerse extensivo a otros países si quiere tener un impacto real. Se ha acordado que la OCDE sirva de marco a las negociaciones para adoptar un impuesto armonizado en las economías más potentes del planeta, y el presidente Biden ha vuelto a impulsar este proyecto en 2021, defendiendo en su caso un tipo mínimo global de impuesto de sociedades del 21%.

2) Atacar las causas, en lugar de las consecuencias

Fijar límites más estrictos al capitalismo de la vigilancia o incluso prohibirlo permitiría atajar el principal problema que plantean estas empresas —su control directo y cada vez más profundo en la libertad de las personas— y, al mismo tiempo, conduciría a moderar de forma “orgánica” su tamaño y sus recursos, una vez privados de su “renta de vigilancia”.

3) Tratar el problema como una cuestión de salud pública

Si el oligopolio y sus sistemas tienen consecuencias tan determinantes en la psicología de las personas, el problema trasciende la defensa de los intereses económicos del consumidor. Podría plantearse como una cuestión de salud mental e integridad de los individuos. Un entorno económico en el que las empresas se sirven de la neurociencia para inducir los comportamientos de sus clientes si quieren ser competitivos es claramente nefasto. Exige una respuesta política equiparable a la aplicada para limitar el control de la industria del tabaco sobre las personas.

4) Reconocer la singularidad del problema
y actuar en consecuencia

La dominación de los gigantes tecnológicos se retroalimenta y su control de los recursos para desarrollar la IA —principalmente datos y talento— solo reforzará esta tendencia. Aunque es imposible predecir el futuro, es razonable creer, como hace Kai-Fu Lee, que “la IA generará estas mismas tendencias monopolísticas en decenas de sectores y erosionará los mecanismos competitivos existentes en todos esos mercados”319. La perspectiva de una hiperconcentración de poder en manos de un puñado de actores en distintos sectores, gobernados de manera autocrática y tal capacidad de influencia sobre los individuos, debería suscitar una acción política sin precedentes.

Capítulo 9

Eliminados. Los peligros existenciales
que plantea la tecnología

Cuestiones clave:

¿Puede el desarrollo tecnológico conferir capacidad de destrucción masiva a cualquier persona?

¿Existen razones para temer una nueva carrera armamentística fundada en la IA, la robótica o las nanotecnologías?

¿A qué peligros se expone el ser humano a medida que se intensifica su grado de conexión? ¿Cómo podría afectarnos una avería tecnológica a gran escala?

La verdadera cuestión es quién va a ser el amo. ¿Sobreviviremos a nuestras tecnologías?320

Bill Joy

A menos que el peligro llegue en forma de amenaza directa e inmediata, al ser humano le cuesta tomárselo en serio, por grave que sea. Nuestra relativa incapacidad para actuar con eficacia contra el cambio climático o nuestra falta de preparación para hacer frente a una pandemia —aun conociendo las altas probabilidades de que ocurriera— son elocuentes. La parte privilegiada de la humanidad que desde hace dos o tres generaciones no sufría guerras ni grandes catástrofes —al menos hasta el coronavirus— tiene pocos incentivos para emprender giros que afecten radicalmente sus vidas.

“En la actualidad, los riesgos tecnológicos, y en concreto los vinculados a la biología sintética, la IA y las nanotecnologías, parecen representar una mayor amenaza que los riesgos naturales, con la posible excepción de las pandemias”321, afirma Stuart Armstrong, investigador del Instituto para el Futuro de la Humanidad (IFH) de la Universidad de Oxford y coautor del informe “12 riesgos para la civilización humana”322 de 2015. La robótica, la ingeniería genética y las nanotecnologías comparten un mismo factor de amplificación peligroso: la capacidad de autorreproducirse”323, explicaba hace ya dos decenios Bill Joy. Ahora bien, esta autorreproducción no es más que uno de los criterios que explican la ruptura tecnológica fundamental del siglo XXI. Los principales peligros nacen de la interacción de estas disciplinas, que podrían ser utilizadas con fines malévolos, escapar al control del ser humano o hacerlo dependiente por completo.

El temor ante escenarios apocalípticos no es cosa de unos cuantos iluminados tecnófobos. Bill Gates se posiciona de manera inequívoca: “Estoy en el bando de las personas a quienes inquieta la existencia de una ‘superinteligencia’. En un primer momento, las máquinas nos quitarán mucho trabajo y no serán superinteligentes. Y, bien gestionado, eso puede ser muy positivo. Pero de aquí a unos decenios, la inteligencia de las máquinas será lo bastante potente para volverse preocupante”324.

El desafío ético que se plantea es considerable: ¿podemos posponer decisiones cruciales por inercia o comodidad para la humanidad a medio y largo plazo? ¿O tenemos el deber de anticiparnos y afrontarlo?

En las siguientes páginas abordamos tres escenarios en los que la tecnología representaría un peligro existencial para la humanidad: (1) su uso por los seres humanos con fines de destrucción a una escala desconocida; (2) la pérdida de control sobre la máquina, una vez que haya alcanzado un grado de autonomía tan elevado que se vuelva contra el hombre; (3) averías tecnológicas que afectarían a la humanidad de manera catastrófica debido a su grado de dependencia.

1. Proliferación de la capacidad
de destrucción

En 2018, 26 de los mayores expertos en seguridad vinculada a las tecnologías emergentes publicaron de manera conjunta el informe El uso malicioso de la inteligencia artificial: previsión, prevención y mitigación325, en el que alertaban sobre los riesgos del uso de estas tecnologías por Estados canallas, delincuentes o terroristas. Exponían los motivos por los que las amenazas irían en aumento: (1) cambiarían de escala al precisar menos trabajo humano, menos inteligencia y menos conocimientos especializados; (2) la cadencia de los ataques podría aumentar, así como el número de objetivos a los que podrían alcanzar; y (3) el espectro de actores capaces de perpetuar ataques podría ampliarse de manera considerable. El informe también alude a nuevos tipos de amenazas cuyos autores serían muy difíciles de localizar, como la explotación de las debilidades de los propios sistemas de IA.

Los expertos identifican tres grandes ámbitos que resultarían afectados por un uso malicioso de la IA:

La seguridad digital: los sistemas de IA son célebres por aprovechar de manera temible las vulnerabilidades humanas, por ejemplo, a través de la imitación de la voz o de la imagen, o identificando nuestras debilidades cognitivas para influir en nosotros. Asimismo, podrían “envenenar” otros sistemas de IA esenciales.

La seguridad física: la IA permitirá automatizar ataques perpetrados por motores autónomos, como drones u otros vehículos autónomos. Podrían perpetrarse atentados a gran escala contra sistemas industriales, de sanidad u otras infraestructuras esenciales.

La seguridad política: con la automatización de las labores de vigilancia, persuasión y falsificación, la manipulación con fines políticos también cambiaría de escala. Sería un grave factor desestabilizador, podría reforzar el control de regímenes totalitarios sobre sus ciudadanos y cambiar la naturaleza de las democracias.

La carrera armamentística

Durante su discurso inaugural del curso estudiantil de 2017, Vladimir Putin anunció solemnemente: “El país que se sitúe en cabeza en la carrera de la IA será el dueño del mundo”326. Y es probable que el presidente ruso no sea el único jefe de Estado que piense así.

Ahora bien, el poder basado en la dominación de la IA sería a un tiempo más absoluto, más sutil e inamovible que el de Estados Unidos a partir de 1945. Permitiría un despliegue “dosificado” y selectivo, asegurando la supremacía militar permanente de un grupo o un Estado, el control global de las comunicaciones y el sometimiento más o menos oneroso de todos los demás.

Una carrera armamentística renovada por la IA está ya en marcha. China y Estados Unidos se han lanzado ya de manera incontestable, mientras que Rusia, tecnológicamente inferior, pero dueña de potentes laboratorios informáticos, ya ha organizado un ejército de hackers estatales que le permiten causar muchos daños en estrategias de guerras híbridas.

A medida que nos aproximemos a un hito en esta escalada, podemos temer represalias y reacciones sucesivas que conduzcan al desastre. En opinión del empresario Elon Musk —que acostumbra a proclamar sin tapujos lo que se le pasa por la cabeza, pero que también es uno de los hombres con una visión más a largo plazo de las implicaciones de la IA— “la competición por la superioridad en la IA a nivel nacional probablemente será el detonante de la Tercera Guerra Mundial”327. Yuval Noah Harari pinta un escenario en el que China o Rusia podrían dotarse de robots armados, acelerando la carrera armamentística con consecuencias imprevisibles. “Hace cinco años, nadie, salvo quizá China, entendía el potencial de la inteligencia artificial, pese a que podría conducir a la desaparición de la humanida” 328, afirma.

Incluso en las hipótesis que contemplan que el ser humano o los gobiernos seguirían controlando estas tecnologías, el grado de autonomía inherente a la IA y a los robots dificulta formular proyecciones fiables. La incertidumbre en la atribución de ataques podría multiplicar las agresiones y llevar la carrera armamentística al paroxismo.

Una consecuencia de esta carrera por la IA sería presión adicional en la vigilancia a las poblaciones para la recopilación de datos. No es ninguna coincidencia que Pekín se haya propuesto ser el líder mundial en IA en 2030, pues se trata del país donde la malla de vigilancia es más tupida.

En 2015, Naciones Unidas estableció el Centro para la Inteligencia Artificial y Robótica con el objetivo de “entender mejor y abordar los riesgos y los beneficios [de estas disciplinas] desde la perspectiva de la delincuencia y la seguridad, a través de la sensibilización, la educación, el intercambio de información y la armonización de las partes interesadas”329. Es una iniciativa loable, pero no es suficiente. Personalidades como Henry Kissinger330, entre otras muchas, subrayan la gobernanza y la regulación internacional de la tecnología con potencial militar u ofensivo como un desafío capital. En los campos de la IA, la robótica, las nanotecnologías o las biotecnologías, resulta difícil discriminar entre aplicaciones comerciales y avances potencialmente hostiles. Un laboratorio de IA no moviliza recursos del modo en que lo hace una planta de enriquecimiento de uranio. Las labores de supervisión y control por agencias internacionales afrontarán exigencias inéditas.

Estas tecnologías podrían interactuar de manera preocupante con las armas de destrucción masiva existentes y con su regulación. La nanoingeniería podría facilitar una extracción mucho más rápida del uranio y la separación de los isótopos que permiten enriquecerlo para fabricar armas nucleares331. Más a corto plazo, los investigadores estiman que la impresión en 3D puede permitir ya a países como Corea del Norte imprimir piezas de misiles, mientras que el Ejército estadounidense desveló en 2017 el lanzagranadas RAMBO, fabricado íntegramente con esta tecnología y cuyas granadas también se “imprimían”332.

Democratización de la capacidad de destrucción masiva

Tecnologías como la impresión 3D son tan accesibles que no pueden circunscribirse a los Estados. En 2012, la asociación estadounidense Defense Distributed desarrolló la Liberator, la primera arma de fuego fabricable con una impresora 3D, cuyos planos publicó un año más tarde en su sitio web333. Su fundador, Cody Wilson, un firme oponente al control de las armas, se enzarzó en un largo pulso con las autoridades para poner en evidencia la incapacidad del Estado de imponer restricciones en materia de posesión de armas de fuego. En cualquier caso, en la Dark Web es posible encontrar archivos que permiten imprimir un revólver por unos dólares334. De momento son simples pistolas, pero recalca la dificultad creciente para contener los medios de violencia y destrucción en el nuevo contexto. Lee Cronin, profesor de Química de la Universidad de Glasgow, creó un chemputer, un dispositivo que permitiría a cualquiera imprimir medicamentos335. ¿Qué pasaría si este artefacto permitiera también, con el tiempo, fabricar en casa drogas o sustancias peligrosas que pudieran utilizarse con fines terroristas? En 2016, alumnos de la Universidad de San Diego lanzaron con éxito un cohete de 6 metros de altura por 20 centímetros de diámetro, también íntegramente impreso336. Una experiencia académica y en cierto modo lúdica podría encontrar aplicaciones más inquietantes. Ya se trate del genoma de una gripe ultracontagiosa o de otras tecnologías susceptibles de autorreplicarse, el libre acceso a información que permite editar armas representa un peligro innegable. Lo que Bill Joy denomina el “poder pandémico” otorgado por la tecnología, podría ser letal para la humanidad, aunque solo lo utilice una persona, ya sea un demente, un fanático o un criminal.

Una forma de prevenir o luchar contra estos riesgos sería apostar por el desarrollo de tecnologías defensivas, aunque también podrían caer en malas manos. Una derivada podría ser la restricción adicional de las libertades individuales a causa de la vigilancia. Nada impide que la lucha contra la delincuencia tecnológica nos aboque a una espiral de gastos y medidas ineficaces a costa de nuestra libertad337.

Por último, si los objetos se vuelven cada vez más autónomos o se los equipa con robótica, los ángulos vulnerables a ataques se multiplicarán, y las consecuencias de un virus informático o de una IA maliciosa son inimaginables.

2. Los robots toman el control

En los supuestos descritos hasta el momento es el ser humano quien tiene el control. Existe otra categoría en la que el origen de estos riesgos no es humano. “Las máquinas podrían arrebatar el poder a las personas, dirigirlas, esclavizarlas y, por qué no, exterminarlas. Se presiona a los investigadores para que las hagan cada vez más rápidas, sin formularse demasiadas preguntas”, apunta el físico Anthony Aguirre, responsable del Future of Life Institute338. Imaginemos que un Estado desarrolla una “superinteligencia artificial” para afianzar su superioridad sobre el resto del mundo. Sería plausible que la propia IA lanzara ataques preventivos como camino más seguro a la victoria339, tal y como afirma Elon Musk. Son escenarios descritos por los guiones de ciencia ficción que pronto pueden hacerse realidad.

En su relato Círculo vicioso (1942), Isaac Asimov enunciaba las tres leyes que, a su parecer, debían aplicarse de manera universal a los robots:

Un robot no puede atentar contra un humano ni permanecer pasivo mientras un humano se halla expuesto a un peligro;

un robot debe obedecer las órdenes que le da un ser humano, salvo si estas entran en conflicto con la primera ley;

un robot debe proteger su existencia, siempre que dicha protección no entre en conflicto con la primera o la segunda ley.

Un mismo robot desarrollará posteriormente una ley Cero, consistente en anteponer la seguridad de la humanidad a la de los individuos. No obstante, ni los robots actuales ni los creados el día de mañana están siempre hechos a imagen y semejanza de los androides imaginados por Asimov. ¿Qué es un robot? ¿Y qué significa “atentar contra”? ¿Podemos argumentar que los robots que hacen compañía a los seres humanos son susceptibles de infligir daños psicológicos a sus propietarios? Y aunque nos atengamos a los sistemas de IA relativamente básicos de hoy, ¿qué podemos decir de los algoritmos capaces de influir en nuestras emociones y de hacernos daño? ¿Están burlando ya la primera ley de Asimov?

Con el tiempo se han propuesto otras leyes éticas que supuestamente regularían los sistemas artificiales dotados de una cierta “inteligencia”. Es el caso del principio de responsabilidad de los fabricantes sobre las acciones de sus creaciones, la obligación de ser siempre identificables o la prohibición de traspasar fronteras. No obstante, los esfuerzos de Asimov y de sus sucesores es insuficiente para afrontar la evolución de la IA. Hasta el momento, los robots son programados por los humanos. Las leyes de la robótica se aplican en última instancia a los humanos, pero no abordan el escenario de una IA autónoma. ¿Quién garantizará que los robots se rijan por el código ético inculcado y no por sus propios criterios de actuación?

Ahí estriba la imprevisibilidad del desarrollo tecnológico. En este sentido el fundador de la World Wide Web, Tim Berners-Lee, aludía a la imprevisibilidad de que los algoritmos reprodujeran más las fake news que las noticias verídicas340. Numerosos expertos ponen de relieve la necesidad de fomentar una “cultura de la responsabilidad” entre los investigadores y sus empleadores amparada en estándares éticos claros341. Sin embargo, ¿es realista que este principio se extienda en un contexto tan competitivo? Más allá de los buenos deseos, no se vislumbra, por el momento, la posibilidad de un consenso claro. El control de los organismos o individuos ajenos a cualquier compromiso ético resulta todavía más incierto. Planteamos tres posibles escenarios de pérdida de control de la máquina:

1) Accidente de laboratorio o desliz

El autor estadounidense Stephen Petranek explica que un físico, al hablarle sobre un experimento en un acelerador de partículas en el que debían crearse miniagujeros negros, le dijo que “esperaba” que estos se evaporaran inmediatamente. De lo contrario, el planeta entero podría quedar atrapado en un agujero negro. Petranek respondió medio en broma: “Yo también lo espero”342. Por el momento, los aceleradores de partículas son relativamente poco potentes y solo podemos constatar que ningún experimento ha fallado de esa manera, pero la física nuclear ofrece ejemplos que nos permiten imaginar cómo un pequeño error de cálculo o de falta de precaución durante un experimento con tecnologías ultrapotentes podría provocar una destrucción a gran escala.

Una causa profunda tras potenciales accidentes de este tipo tiene que ver con la falta de distancia del investigador respecto a su objeto de estudio, embriagado cuando se aproxima a un avance científico de gran calado y no evalúa bien los riesgos de un experimento por apresurarse. El destacado físico británico Freeman Dyson describe el embeleso que le producía el poder de las armas nucleares: “Desde el punto de vista científico, es irresistible. Notarlo ahí, entre tus manos, liberar esa misma energía que alimenta las estrellas […], obrar esos milagros […], todo ello crea la ilusión de un poder ilimitado que, en cierta manera, está en el origen de todos nuestros problemas. Es la arrogancia técnica, que supera a las personas cuando constatan lo que son capaces de hacer con su pensamiento”343.

Las tecnologías disruptivas plantean riesgos comparables. En el año 2000, Bill Joy trazó un paralelismo entre la temeridad de ciertos investigadores que habían trabajado en la bomba atómica y los que trabajan en la IA, la robótica, las nanotecnologías y la bioingeniería: “Ahora, como en la época [del Proyecto Manhattan], seguimos creando nuevas tecnologías, esta vez motivados por grandes recompensas económicas y por la competencia mundial, pese a los riesgos evidentes, y apenas sopesamos lo que significa vivir en un mundo que sería el resultado verosímil de lo que estamos creando e imaginando”344. Así, genetistas e informáticos podrían abrir la caja de Pandora movidos por sus deseos y espoleados por la presión de recibir financiación, o por la codicia de ganar dinero.

Vinton Cerf, uno de los padres de Internet, que como ya hemos visto sostiene una perspectiva extremadamente optimista de la tecnología, reconoce: “Si hay que inquietarse por algo es por los programas informáticos que se ejecutan sin supervisión humana, y con la IA los habrá y se cometerán errores”345. Esto es aún más preocupante porque en el principio mismo de la IA y la robótica sus creadores han dejado cierto margen de maniobra a sus creaciones, funcionando en base a programas capaces de evolucionar solos, y demasiado rápido para que el ser humano pueda entender su evolución. Uno de los riesgos más comentados es el de los nanorrobots que podrían replicarse a sí mismos de manera descontrolada, con una absorción insostenible los recursos del planeta. Es un escenario conocido con el nombre de “la plaga gris” —o el gray goo problem en inglés—, un término acuñado por el pionero de las nanotecnologías, K. Eric Drexler, en la década de 1980346.

Se habla del fenómeno de la “ecofagia”347 para designar de manera más amplia cualquier accidente que resulte en la incapacidad de la población biológica de la Tierra de repararse. Mientras que la autorreplicación es el principio de la ingeniería genética, hay quien considera que un desastre biotecnológico podría ser una de las causas más probables de la extinción de la humanidad. Un fenómeno de tales características podría desencadenarse, por ejemplo, por un cultivo genéticamente modificado propagado por todo el planeta que generara malas hierbas, o por insectos hiperresistentes que destruyeran toda la agricultura348.

No hace falta esperar a una “plaga gris” para que las nanotecnologías autorreplicantes planteen riesgos a la humanidad. La técnica consistente en plegar el ADN para transformarlo en una especie de nanorrobot de origen biológico —conocida como “origami de ADN”— parece prometedora en términos médicos, pues permitiría, entre otras cosas, producir anticuerpos contra un virus o administrar medicamentos de manera muy focalizada. Pero ¿qué sucedería si se diera un mal uso a esta tecnología y se empleara para introducir de manera furtiva nanorrobots en el cuerpo de alguien y administrarle cargas moleculares nocivas que alteraran genéticamente su organismo? De hecho, estas tecnologías hostiles ya existen en los laboratorios349…

La hipótesis según la cual la COVID-19 habría salido del laboratorio P4 de Wuhan en 2019 parece poco probable si la comparamos con otras causas potenciales, pero transmite bien que un accidente de laboratorio puede tener consecuencias a escala mundial. Tecnologías mucho más inadvertidas que la nuclear, que movilizan a los investigadores “en su rincón”, obligan a establecer hipótesis de deslices que podrían afectar al conjunto de la humanidad. Hace poco, y prácticamente por sí solo, el investigador Ryan Noyce ha sido capaz de recrear la peste equina (una derivada de la viruela que mató a 300 millones de personas en el siglo XX) a partir de la nada en solo 6 meses. Una pandemia artificial podría matar mucho más que una natural y provocar un colapso de la civilización350.

2) La IA malinterpreta su misión

La IA podría ejecutar tareas asignadas pasando por alto aspectos fundamentales para los seres humanos. Kai-Fu Lee imagina un agente superinteligente dedicado a detener el cambio climático, que estimase que la especie humana es su principal causante y tomase medidas para remediarlo. El filósofo Nick Boström lo ejemplifica en una máquina superinteligente encargada de producir el mayor número posible de clips sujetapapeles. Esta podría ejecutar literalmente la orden, consumiendo todos los recursos disponibles y eliminando cualquier interferencia. Son evidentemente ejemplos muy gruesos y esquemáticos, pero resultan útiles como ejercicios prospectivos que plantean tendencias. Sin ellos seríamos incapaces de construir respuestas para el futuro.

En esta “desalineación de los valores” subyace el problema de una IA originalmente configurada de manera imprecisa, incompleta o defectuosa, dedicada a optimizar los resultados de su cometido principal sin atender a otras variables y a la complejidad multicausal de la realidad.

El principal temor es el enfoque tecnoutilitarista, incapaz de entender el valor de la vida humana. Pese a su pretendida superinteligencia computacional, la IA estaría desprovista de conciencia y sería incapaz de gestionar la realidad con la complejidad de un ser humano.

Numerosos expertos insisten en dotar a todo programa autónomo de un botón de apagado de emergencia que pueda accionarse en cualquier momento para atajar situaciones peligrosas. Sin embargo, es posible que una superinteligencia artificial cumpla su misión con tal velocidad que no haya tiempo material para accionar el botón o que la IA lo inhabilite para poder ejecutar su cometido sin trabas.

3) Una IA verdaderamente hostil

Ciertos pensadores, a semejanza de Nick Boström, fundador del Instituto para el Futuro de la Humanidad de Oxford, avanzan como hipótesis la imposibilidad de que diversas especies inteligentes —biológicas o artificiales— convivan. Si la IA superase al ser humano en sus capacidades y se convirtiera en general (IAG), podría marcar sus propios objetivos, como la autopreservación, su propia mejora y la adquisición de recursos para cumplir sus cometidos. Para satisfacer tales aspiraciones, podría considerar al ser humano un obstáculo o una amenaza y decidir por ella misma tomar el control, no como un fallo del sistema, sino de manera expresa y hostil a los humanos.

Este escenario todavía propio de la ciencia ficción será perfectamente plausible para muchos especialistas. “Sigo haciendo sonar la alarma, pero hasta que la gente no vea a los robots descender por la calle para acabar con todo el mundo no reaccionará”351, ha manifestado Elon Musk. Por más que en la actualidad estén lejos de rebelarse contra sus amos, los robots de la empresa Boston Dynamics, desplegados en los parques públicos de Singapur durante la pandemia de 2020 para asegurarse de que las personas mantuvieran las medidas de seguridad, ofrecen una imagen útil a quienes les cuesta imaginar a criaturas artificiales lo suficientemente autónomas como para determinar su propio orden del día352. Una IA hostil no tiene por qué adoptar la forma de Terminator para resultar letal: “Para un programa informático con una imaginación intelectual colosal con respecto a la nuestra —explica Kai-Fu Lee— eliminarnos no implicaría necesariamente algo tan vulgar como que unos robots armados nos dispararan. El conocimiento profundo de la química, de la física y de las nanotecnologías le permitirían alcanzar sus objetivos al instante”353.

Es cierto que la IA aún no se encuentra en esa fase y que probablemente no lo esté hasta dentro de varios decenios. Pero de acuerdo con la advertencia del astrofísico Stephen Hawking, “si una civilización extraterrestre nos enviara un mensaje para avisarnos de que llegaría a la Tierra en varias decenas de años, ¿acaso nos limitaríamos a responderle: ‘De acuerdo, llamadnos cuando lleguéis’? Probablemente no, y, sin embargo, eso es más o menos lo que estamos haciendo con la IA”354. De ahí que a muchos científicos y filósofos les preocupe los escasos recursos que se destinan para tales eventualidades. No podemos estar seguros de que una IA será hostil, como tampoco de que actuará de manera pacífica y benévola.

En su libro Superinteligencia, una de las referencias en la materia, Nick Boström, imagina una serie de eventos en los que la IA se vuelve cada vez más potente a medida que se despliega. Los posibles excesos de los cuales sería responsable —por ejemplo, un dron que abriera fuego sobre una multitud de civiles inocentes— motivarían el descontento de los activistas preocupados por posibles catástrofes a gran escala, y reclamarían más regulación y supervisión. Pero a medida que fuera perfeccionándose, la IA cometería cada vez menos errores y los especialistas se precipitarían a concluir que cada vez es más segura, aunque los riesgos por su futura autonomía permanecerían.

Boström desarrolla el concepto de singleton: una hipótesis según la cual un agente superior, como una “superinteligencia artificial”, se erigiría en única ordenadora del mundo y ejercería un control efectivo sobre todo, asegurándose de que ningún elemento pudiera amenazar su supremacía. Es posible que ni siquiera fuéramos conscientes de la existencia de este agente, el cual podría constituirse y asumir el poder de manera imperceptible. Un singleton podría o no ser hostil a la humanidad, pero la despojaría de toda función real y al menos de una parte de la autonomía que le es propia. En relación con un sistema regido por unidades de toma de decisión más pequeñas, como pueden ser los Estados, “si un singleton sale mal, toda la civilización va mal —advierte Boström—. Lo habríamos apostado todo al mismo número”355. Con todo, un singleton presentaría ciertos aspectos positivos, suponiendo que no fuese hostil al ser humano, como la posibilidad de responder a problemas complejos que la humanidad no puede afrontar por sus propios medios.

Por supuesto, algunos investigadores, entre ellos el francés Yann LeCun —director de IA en Facebook—, expresan serias dudas con respecto a la posibilidad de una “superinteligencia artificial”, así como de la capacidad de las máquinas para desarrollar un instinto de autoconservación similar al de los organismos biológicos356. Otros reponen que el hecho de que aún no se haya producido ningún desastre no significa que no pueda producirse. En realidad, tal y como explica el destacado científico británico Martin Rees, “las probabilidades de catástrofes provocadas por un uso indebido de la tecnología aumentan cada año”357. Lo cierto es que por más argumentos o hipótesis que se añadan podrían antojarse tan teóricas e hipotéticas como lo era el término pandemia hasta hace poco.

3. Hibridación hombre-máquina
y una gran avería tecnológica

¿Ofrecería el transhumanismo una solución para evitar la inferioridad frente a la IA y los robots? ¿O, por el contrario, se combinarían para hacer realidad la eliminación del ser humano de la faz de la Tierra?

Lo transhumano mata al ser humano

Tal como ya hemos mencionado, existen transhumanistas pragmáticos, o incluso resignados, para quienes el aumento tecnológico del ser humano no es forzosamente deseable, pero sí imperativo para impedir que seres artificiales puedan aplastarlo. Elon Musk y su empresa Neuralink aspiran a introducir en el cerebro humano prótesis neurotecnológicas que supuestamente le darían un acceso directo a la IA. En opinión de Musk, no incorporar los avances de los sistemas computacionales al ser humano comportaría, en el mejor de los casos, quedar reducidos a una especie de animales domésticos marginados por sus amos, las máquinas358.

Si esta hibridación entre el ser humano y la máquina fuese técnicamente posible —lo cual dista de estar demostrado— supondría el fin de la humanidad tal y como la conocemos.

Para los transhumanistas el cuerpo es como una especie de caparazón que sirve de andamiaje a la inteligencia y que podemos arreglar y reemplazar, e incluso del cual podemos desprendernos. “Tendremos que luchar por conservar un cuerpo y no convertirnos en ciborgs o incluso en inteligencias artificiales inmateriales. El primer reto es salvar nuestro cuerpo, con todos sus defectos y limitaciones”, advierte el doctor Laurent Alexandre, que mantiene una posición ambigua con respecto al transhumanismo. “Cuando esto sea posible —añade—, nos daremos cuenta de que este montón de huesos, de sangre y de músculos, este amasijo precario de órganos más o menos defectuoso, este miserable envoltorio tan menospreciado es, de hecho, nuestra raíz última. Renunciar a ella sería renunciar a nosotros”359. 

Laurent Alexandre señala otros dos pilares de nuestra humanidad que el transhumanismo cuestiona: “el derecho a desconectarnos de la matriz”, es decir, la posibilidad de cualquier individuo de ser algo más que el simple agente de una inteligencia superior a la que se conectaría. Esta capacidad es condición sine qua non para que el individuo mantenga una autonomía potencial y para asegurar la diversidad humana. El otro pilar, para Alexandre, es la conservación de la casualidad genética360.

Escenario de una avería tecnológica
que afecta al hombre-máquina

Un día de finales del mes de agosto de 1859, diversas estaciones telegráficas se incendiaron y los cables, incluso los desconectados, se chamuscaron. Tales fueron algunas de las consecuencias de la mayor tormenta solar documentada en toda la historia, conocida con el nombre de “evento de Carrington”. En la superficie del Sol se producen frecuentes erupciones que provocan tormentas de partículas y rayos, las cuales, en ocasiones, se dirigen hacia la Tierra y, entre otros fenómenos, dan lugar a las auroras boreales. En circunstancias normales, el campo magnético de la Tierra canaliza las partículas emitidas por esta actividad hacia los polos, sin provocar daños. Pero, en aquel verano de 1859, una eyección de masa coronaria especialmente virulenta perturbó el campo magnético terrestre, hasta tal punto que las luces de la aurora se vieron hasta en Panamá. Con todo, aunque los sistemas eléctricos y de telecomunicaciones resultaron afectados, al no estar tan extendidos y no depender tantos de ellos como en la actualidad, no provocaron daños irreparables.

Otras tormentas menos fuertes tuvieron lugar más tarde. Una de ellas, causada por un potente viento solar en 1989, provocó un apagón general de nueve horas en Quebec. La cuestión no es determinar si volverá producirse algún fenómeno parecido, sino más bien saber cuándo tendrá lugar. Aunque desconocemos la frecuencia, sabemos que ocurren varias veces cada milenio. “Podría tener lugar de aquí a cien años o de aquí a cien días”361, explica el doctor Tony Phillips, de la NASA. Y no los vemos llegar hasta varias decenas de horas antes.

Está claro que las consecuencias de un segundo evento de Carrington serían devastadoras en un mundo ultradependiente de la tecnología. El apagón planetario subsiguiente afectaría a nuestra red eléctrica, cada vez más interconectada, y a todo lo que depende de ella: telecomunicaciones, distribución de agua potable, transportes… Los satélites quedarían fuera de servicio, los oleoductos y los gasoductos sufrirían una oxidación acelerada, etc.362. Los Estados se preparan para tal eventualidad tratando de aumentar al máximo su capacidad de anticipación y preparando planes de acción para preservar el máximo de infraestructuras llegado el momento. Pero en 2009 se calculaba ya que los daños ocasionados por un evento de estas características ascenderían a dos billones de dólares solo en Estados Unidos y que se tardarían entre cuatro y diez años en restablecer las infraestructuras necesarias. El caos económico, social, psicológico o sanitario, sería muy superior al de la COVID-19.

Pese a todo, año tras año nuestra dependencia tecnológica aumenta, y con ella nuestra vulnerabilidad. Las tormentas solares representan un riesgo conocido, pero podrían surgir amenazas que hoy ni siquiera conocemos.

La llegada del 5G y la generalización de los objetos conectados harán posible un “Kill them all” (“matadlos a todos”), en el que la novedad será precisamente ese “todos”, según explica el experto en seguridad de la Universidad de Harvard Bruce Schneier. En el pasado se producían accidentes aislados, pero, a medida que todo esté conectado, afectarán a grupos cada vez más grandes. Si se detecta una vulnerabilidad en un iPhone, todos los de su clase son vulnerables. Si extrapolamos esto a los dispositivos de los que depende nuestra vida —como los vehículos—, debería producirse un cambio de escala en la letalidad, advierte Schneier363. Y si nosotros mismos nos convertimos en dispositivos conectados en red y compartimos un mismo sistema operativo o dependemos de una misma inteligencia, un accidente podría traducirse perfectamente en una extinción masiva.

Sobre la posible extinción de nuestra especie, una de las cuestiones principales consiste en saber si se producirá a consecuencia de factores naturales —como ocurrió con los dinosaurios— o de la acción del hombre. Sin embargo, la primera hipótesis se antoja cada vez más plausible. Establecido por Albert Einstein y Robert Oppenheimer en 1947, el Bulletin of the Atomic Scientists actualiza periódicamente su “reloj del apocalipsis” —Doomsday Clock—, en el que un día representaría la duración de la vida de la humanidad y medianoche correspondería al fin del mundo. Fundada en la estela de los bombardeos de Hiroshima y Nagasaki e inicialmente centrada en el riesgo nuclear, esta iniciativa contaba con el hecho de que la bomba atómica sería solo “el primero de una larga serie de regalos guardados en la caja de Pandora de la ciencia moderna”364. De hecho, este reloj conceptual tiene en cuenta los riesgos relacionados con el cambio climático y las tecnologías disruptivas.

En 2020, las agujas de este reloj se han situado a 100 segundos del fin del mundo, colocándose por primera vez desde su creación por debajo de la barra de los dos minutos. Entre muchos otros riesgos que han motivado este hecho, uno de los miembros del consejo científico de la institución, el general estadounidense retirado Robert Latiff, menciona el desarrollo en 2019 por parte de la DARPA de un sistema de combate en el que la IA puede decidir y actuar por sí misma; un proyecto parecido en Rusia y las acciones de determinados Estados pretenden transformar el espacio en un nuevo campo de batalla.

En 2015, la flor y nata mundial de investigadores en IA y en robótica, junto con una larga lista de personalidades diversas —entre las cuales se contaban Stephen Hawking, Noam Chomsky, el astrofísico Martin Rees e incluso el CEO de Twitter, Jack Dorsey— firmaron un manifiesto en el que solicitaban la prohibición de las armas letales autónomas, descritas como la tercera revolución en las técnicas bélicas, tras la pólvora y el arma nuclear365. La ONU, por su parte, aboga desde 2013 por una moratoria en este ámbito. Pero ¿qué posibilidades de éxito tiene una iniciativa así, pese a contar con apoyos de tal prestigio, si basta con que un actor de la comunidad internacional no se adhiera a estos principios para disuadir a los otros de hacerlo? Más allá de los riesgos existenciales, ¿tiene solución el desafío general que plantea la tecnología digital? En el último capítulo de este libro trataremos de responder a esta difícil pregunta.

Capítulo 10

Retomar el control. Utilicemos la tecnología
sin que ella nos utilice a nosotros

Si bien celebramos todas los perfeccionamientos en las artes que pueden ser útiles al género humano, no debemos sacrificar a la humanidad en pro del perfeccionamiento mecánico366.

Lord Byron

Hasta ahora hemos pintado un panorama en el que el ser humano se está convirtiendo, a menudo sin darse cuenta, más en un objeto que en un usuario de la tecnología digital. Se trata de una constatación grave, preocupante y, esperamos, rigurosa, hasta tal punto que las soluciones para invertir esta tendencia están lejos de ser evidentes. ¿Debemos renunciar a un lugar central para el ser humano en el nuevo entorno tecnológico? Defendemos que no es una misión imposible y aquí nos gustaría alumbrar algunas posibilidades.

El ideal al que aspiramos no es un “retorno a la Edad de Piedra”, tal y como suele acusarse a los tecnocríticos. Sí refleja la ambición de habitar un mundo en el que no todo pase por una matriz digital y en el que la dependencia de los humanos de las máquinas no sea absoluta. Se trata de conservar el derecho a estar desconectado; de reservarnos la posibilidad de explorar nuestro pensamiento, nuestra relación con los demás y el espíritu crítico sin intermediación de la máquina.

Las propuestas son individuales y colectivas. Todas ellas son eminentemente políticas, pero es ante todo en la intimidad personal donde se inicia la revolución para una acción social más amplia.

“Elegir un estilo de vida con objetivos, al menos en parte, independientes de la tecnología se ha convertido en una contracultura”367, advierte el papa Francisco, y sin duda será esa contracultura la que servirá de cimiento para construir soluciones. Con todo, hay que velar por que la resistencia individual no se resigne a una marginación duradera. No se trata de formar un grupúsculo de inconformistas, sino de promover un proceso de democratización del pensamiento crítico frente a lo digital. La iniciativa no puede restringirse a un círculo de puristas, ni engendrar una especie de misantropía frente a la gran masa de “ignorantes” que no habría entendido nada sobre los peligros de la tecnología.

Se trata, en definitiva, de librar un combate político contra la ideología solucionista para que “no solo sean los evangelistas de la automatización del mundo quienes tengan la palabra”368. Si la humanidad toma conciencia de la verdadera naturaleza de los desafíos que afronta, probablemente el debate público de las próximas décadas se articulará en torno a esta confrontación ideológica.

1. Palancas individuales

¿Cómo podemos controlar las tecnologías que utilizamos a diario, a menudo concebidas para “engancharnos” de tal manera que no erosionen nuestro pensamiento crítico y nuestra libertad? ¿Y cómo podemos contribuir como individuos a formar un mundo en el que la tecnología respete a las personas?

Despertar el espíritu crítico
y tomar conciencia de nuestra vulnerabilidad

Pensar que eres intocable te convierte en una diana más fácil. Hemos visto cuán vulnerables somos frente a las ilusiones tecnológicas. La persuasión a gran escala no es un fenómeno exclusivo de lo digital. Ideologías inverosímiles han logrado convencer a poblaciones enteras en el pasado; movimientos sectarios dominan desde hace mucho tiempo a personas bastante normales; y, desde hace décadas, la publicidad penetra en la mente de los consumidores y los empuja a realizar compras a veces irracionales. Pero estamos infinitamente más indefensos frente al mercado de la persuasión instituido por las tecnologías digitales.

Tratar de conocernos mejor a nosotros mismos, identificando nuestras vulnerabilidades cognitivas constituye un primer paso para preservar un escudo crítico. Una estrategia personal podría comenzar por familiarizarnos con las principales categorías de sesgos cognitivos —efecto dotación, efecto anclaje, ilusión monetaria369…— y cómo pueden afectarnos al forjarnos opiniones o hacer compras. Y una exploración más honda debería identificar nuestros puntos débiles más allá de estas categorías predeterminadas. ¿Me desarmo con facilidad ante un juego o un determinado tipo de discurso o imágenes? ¿Tengo miedos o vulnerabilidades que me impiden razonar? Por supuesto, pueden ser conclusiones difíciles de alcanzar por uno mismo, tal vez requieran la ayuda de terceros, una mirada externa y distanciada que pueda evaluarlo. No obstante, si varias decenas de clics bastan para esbozar un retrato bastante preciso de nuestras debilidades, debería ser posible autoevaluarnos y tomar conciencia de esas vulnerabilidades, para responsabilizarnos y tomar medidas de prevención.

Aunque no podemos estar siempre en estado de alerta, es fundamental identificar las situaciones en las que el influjo es más probable. Debemos entrenar al cerebro para identificar los contenidos de naturaleza puramente persuasiva, por más empeño que pongan en desdibujar la frontera entre información y manipulación. El objetivo no debería ser otro que hacer un esfuerzo para preguntarnos si existe alguna alternativa que se ajuste más a lo que realmente buscamos.

Necesitamos que esta toma de conciencia previa se extienda a la gestión de nuestros datos personales y de nuestra vida privada. Se ha demostrado que cuanto más nos exponemos, más abierto queda nuestro repertorio cognitivo y más vulnerables somos a la influencia. Alzar un primer escudo es ocultar estas imperfecciones cognitivas que el capitalismo de la vigilancia ha aprendido a explotar. También es importante entender que, incluso en nuestras democracias, la vigilancia estatal augura una reducción de nuestras libertades. Erigir muros para impedir que el ojo de la Administración entre en nuestras vidas no es, por lo tanto, un gesto de mal ciudadano, sino al contrario, es una actitud que deberían cultivar quienes desean proteger su espacio de libertad en la esfera privada.

Por último, debemos mantenernos atentos a todas las tareas que vamos delegando progresivamente en las máquinas y que, en parte, canjean eficiencia y comodidad por arrebatarnos la esencia de quienes somos. Cuanto más delegamos más nos exponemos a atrofiar nuestras capacidades. El alto coste puede ser nuestra autonomía, privarnos de la satisfacción que obtenemos al realizar ciertas tareas nosotros mismos, o sustituir nuestros criterios por los de la máquina y sus creadores.

Las decisiones fundamentales son producto, en parte, de centenares de elecciones aparentemente insignificantes que hacemos a diario: desde cómo nos desplazamos hasta qué compramos, pasando por cómo empleamos nuestro tiempo. Si no queremos deslizarnos por la pendiente de la automatización total y de la autoanulación, es imperativo hacer un esfuerzo para emprender las pequeñas tareas mentales cotidianas, por ejemplo aquellas que exigen ejercitar la memoria.

Protegerse mentalmente en la vida conectada

Para defendernos de esta intrusión de la tecnología que puede conducir a la piratería del ser humano tenemos a nuestro alcance múltiples líneas de acción:

1) Señales de stop que nos obliguen a pensar por nosotros mismos

Al darse cuenta de que era adicto al teléfono móvil, el periodista tecnológico Kevin Roose estableció barreras mentales que le obligaran a reflexionar antes de interactuar con su dispositivo. Instaló un salvapantallas con tres preguntas que veía antes de desbloquear su smartphone: “¿Para hacer qué? ¿Por qué ahora? ¿En lugar de qué?370”. Por supuesto, depende de nosotros que estas preguntas sirvan de algo o de absolutamente nada, pero es una iniciativa que va en la dirección correcta.

En un momento en el que los botones off tienden a desaparecer, es necesario reinventarlos, aunque sea solo para nosotros mismos. Deberíamos apagar nuestros ordenadores, tabletas y teléfonos al menos cada día —y no solo ponerlos en reposo o en modo “avión”—. Una de las recomendaciones más básicas es la de no adoptar la “tecnología gaseosa” que empieza a irrumpir en el mercado —relojes inteligentes, altavoces conectados, etc.— y que prácticamente imposibilita la toma de distancia. El ideal sería limitarnos a la tecnología sólida. En la medida de lo posible, deberíamos tratar todos nuestros dispositivos como tales, restringiendo el uso del smartphone a una zona delimitada de la casa, creando verdaderos espacios libres de tecnología en nuestra vida cotidiana, obligándonos a buscar la satisfacción fuera del mundo conectado.

También es importante restringir las funcionalidades que nos roban más tiempo y espacio mental del que nos gustaría. Las “notificaciones push”, mediante las cuales las aplicaciones demandan nuestra atención de manera frecuente e inesperada, están concebidas para interrumpirnos constantemente; pero es posible eliminar o configurar estos sonidos y vibraciones para limitarlos al mínimo imprescindible.

2) Limitar la intrusión de los dispositivos en nuestra vida privada

Con un termostato conectado como los que utiliza Nest (Google), optimizamos nuestro consumo energético, pero al mismo tiempo entregamos en bandeja los datos de nuestros hábitos cotidianos. Instalar un altavoz inteligente es lo mismo que invitar a un GAFAM a instalarse en nuestro salón.

Una parte elemental de la cultura hacker debería democratizarse. Tapar la cámara de los dispositivos con un trocito de cinta adhesiva, salvo cuando la usamos, es la única manera de asegurarnos de que no nos observan. Usar una red privada virtual VPN es una forma bastante sencilla de proteger la privacidad. Hace que nuestra dirección IP sea anónima cuando navegamos. Una VPN limita la capacidad de los motores de búsqueda y otros sitios de recopilar nuestro historial de navegación y rastrear nuestra actividad.

Existen otros métodos para borrar las pistas, por ejemplo, utilizando navegadores alternativos como Firefox, Brave o DuckDuckGo Privacy. También conviene no tener siempre abierta nuestra cuenta de Google o Facebook en el mismo navegador con el que visitamos otros sitios, ya que les permite asociar nuestro perfil con nuestro historial de navegación.

Las aplicaciones para móviles permiten a empresas como Facebook recopilar más información sobre nosotros que si nos conectamos a través de sus sitios web. La configuración del uso de nuestros datos transmite una falsa sensación de control, porque solo se aplica a terceros, no al acceso a los datos por parte de Facebook, explica la abogada especialista en protección de datos Paloma Llaneza. Y quienes creen estar protegidos porque rara vez consultan la aplicación también se equivocan, porque esta accede a múltiples datos del smartphone, como nuestros movimientos o la velocidad a la que tecleamos. Por lo tanto, para esta especialista, no hay medias tintas: hay que desinstalar aplicaciones como la de Facebook y su ecosistema, incluida WhatsApp: “Es lo más parecido a que alguien lea nuestro pensamiento”371, advierte.

3) Escapar a los ecosistemas de los gigantes de Internet

Muchas personas tienen la impresión de que es imposible no utilizar los servicios de las empresas que dominan el sector digital, pero basta con buscar un poco para encontrar alternativas, tan eficaces o casi tan eficaces, con las que sustituir los servicios que ofrecen los GAFAM. He aquí algunos ejemplos:

Motores de búsqueda: se puede sustituir Google por el estadounidense DuckDuckGo o el francés Qwant, que funcionan de manera similar a como lo hacía Google antes de que empezara a acorralar a sus usuarios.

Correo electrónico: es sumamente sencillo abrir una cuenta en el servicio suizo Protonmail o en el estadounidense Fastmail —por citar solo dos opciones—, que no explotan los datos personales de los usuarios y permiten importar todo el contenido de una cuenta de Gmail, así como la agenda y los demás servicios asociados.

Videoconferencia: respetuosa con la privacidad, la empresa noruega Whereby ofrece una aplicación y un sitio web que reemplaza fácilmente a Google Meet, Skype o Zoom.

Mapas y desplazamientos: es mejor utilizar OpenStreetMaps que Google Maps.

La asociación francesa Framasoft (framasoft.org), con solo una decena de empleados, ha desarrollado 35 servicios basados en software libre, sencillos, eficaces y disponibles en varios idiomas para sustituir a Google Forms, Google Docs, Dropbox, WeTransfer, Doodle… Dados a conocer a partir de 2016 en el marco de la campaña “Desgooglicemos Internet” (degooglisons-internet.org/es). La asociación, sin aspiraciones de monopolizar Internet, ha anunciado en clave de humor que quiere “desframatizar Internet” y recomienda servicios que respetan la privacidad individual en la página alt.framasoft.org.

Quizá lo mejor sería no utilizar mensajería instantánea, pero si queremos sustituir WhatsApp por un servicio similar, tenemos Telegram, Signal o Wire, todos ellos programas de código abierto.

4) Cuidado con los servicios gratuitos: opta siempre
por la versión de pago

Nuestros padres nos enseñaron a no aceptar caramelos de desconocidos. En Internet, como en la calle, hay que mirar la gratuidad con cierto recelo, porque es el síntoma más evidente del capitalismo de la vigilancia. El reclamo “Facebook es gratis, y siempre lo será” refleja bien uno de los problemas de fondo de la empresa de Zuckerberg. Caso distinto son los modelos freemium, en los que un servicio pasa a ser de pago a partir de cierto nivel de uso y da acceso a características adicionales que no implican, en principio, una mayor intromisión en nuestros datos.

Escapar del frenesí para poder ejercer nuestra libertad

Frente a la saturación de nuestra mente, proponemos algunas posibilidades para preservar nuestra autonomía.

1) El consumo antiimpulsivo

El entorno digital trata de despertar al consumidor que todos tenemos dentro. Aprovecha los datos sobre nuestro comportamiento y emplea técnicas de neuromarketing para inducir la compra. Disponibles las 24 horas al día, los 7 días de la semana, los sitios de comercio electrónico funcionan mejor cuando ofrecen una experiencia de compra “sin contratiempos”, lo más fluida posible. Las pausas y el esfuerzo propios de cualquier proceso de adquisición en un comercio físico desaparecen. Y cualquier antojo repentino, ya sea propio o que se nos haya inculcado, puede derivar en una compra en un abrir y cerrar de ojos.

Frente al ciclo de “conversión” ideal de los especialistas en marketing digital, proponemos un “consumo antiimpulsivo”, alejado de la lógica de la inmediatez. Se trata de dejar nuestros deseos en el aire —varios días, semanas o más tiempo, según el caso— para meditarlos bien: ¿realmente necesito o quiero esto que estoy a punto de comprar? ¿Lo necesito ahora mismo? Concedernos un margen tal vez diluya el deseo de lo inmediato, haciéndonos tomar conciencia de que comprar no nos habría reportado ninguna satisfacción. No pretendemos hacer apología de una ascesis particular. Se trata, simplemente, de aumentar nuestro grado de conciencia a la hora de consumir y no dejarnos arrastrar en una dirección inducida.

2) ‘Pausa’

Mucho antes de que las pantallas invadieran nuestras vidas, Séneca ya nos advertía de que nos robaban gran parte de nuestro tiempo. Y la única manera de reapropiarnos de él, escribió, era tomar conciencia, para lo cual era necesario saber detenerse y meditar372. En el entorno que nos ocupa se multiplican los estímulos y nos zambullimos en una dinámica de aceleración, demandas constantes —la mayoría innecesarias— y una mayor presión social.

Frente a estos factores que nos roban tiempo y libertad, debemos forzarnos a tomar distancia, hacer pausas que nos obliguen a enfrentarnos a nuestra propia existencia y a explorar nuestro interior, y eso requiere espacios y momentos de total desconexión. Esta aspiración puede llevarse a cabo de múltiples maneras, según el temperamento y las creencias de cada cual.

El filósofo Michel Blay nos invita a “volver a nosotros mismos” a través de un trabajo de autoformación vinculado a un empeño real de nuestro intelecto, nuestra imaginación y nuestra voluntad. Sería útil recuperar la costumbre de la lentitud. Leer literatura de manera asidua y reflexiva puede ayudar a construir ese escudo íntimo373. Para otros, la meditación es una manera de detenerse y encontrarse a sí mismos. Para los creyentes, la oración es por naturaleza un momento de pausa y contacto con lo más profundo de uno mismo.

3) Vivir más allá de lo útil

Cultivar el desinterés es una parte esencial de la búsqueda de la libertad y la felicidad. Las tecnologías digitales nos sumen en una búsqueda incesante de la utilidad. Debemos oponer resistencia a la tentación de transformar nuestras vidas en una suerte de hoja de cálculo de Excel para optimizar el resultado. No se trata de ensalzar la ineficacia, sino de rechazar que la optimización sea la brújula indiscutible y que nuestras vidas deban orientarse siempre en función de objetivos cuantificados, racionales y medibles. Al reducir un paseo a un número de pasos o lo que comemos a un número de calorías, al subordinar nuestra existencia a objetivos —en un juego de comparación constante con otros—, ¿no nos perdemos el significado mucho más amplio de tales actividades?

En nuestra actividad dentro y fuera de Internet estas pocas estrategias nos ayudan a oponer resistencia. No obstante, son palancas individuales que ofrecen una respuesta muy parcial a graves problemas sistémicos. Del mismo modo que para resolver el problema de la contaminación no basta con montar en bicicleta, sería iluso pensar que nosotros solos podemos limitar los efectos nefastos de la tecnologización excesiva.

Aun así, la respuesta individual es también la más inmediata y susceptible de tener una repercusión directa en nuestras vidas. Si estamos convencidos de que la tecnología pone en riesgo a la humanidad y de que la solución es distanciarnos de ella, el desarrollo de la propia capacidad para activar el botón off es ya un requisito moral incondicional.

2. Palancas colectivas

La defensa efectiva de nuestra libertad contra la invasión digital requiere tender un puente entre la acción individual y la lucha política. La educación, la sensibilización de un público más amplio o las acciones coordinadas de grupos de consumidores o inversores, son vectores indispensables para trascender la acción individual y preparar el terreno político para un cambio normativo profundo.

El paso más elemental es tratar de construir una pedagogía, convenciendo a quienes nos rodean de que nuestro uso de la tecnología hoy determinará el destino de la humanidad. Esta concienciación debería tener como fin acciones concretas que permitan transformar nuestra relación con lo digital. Defender esta perspectiva es difícil porque resulta contraintuitiva, se opone a una estimación aparentemente sensata y benévola de la tecnología, va contra el espíritu de los tiempos, así que requiere un cierto coraje social. También exige sostener un discurso crítico eficaz que no caiga en proselitismos agresivos y en tentaciones fundamentalistas que serían erróneas y estarían condenadas a la marginalidad.

El modo en que consentimos que los gigantes tecnológicos tomen el control de nuestras vidas a cambio de una existencia cotidiana más práctica contribuye a una situación de anomia creciente, una sociedad en crisis que deja desasistida a sus ciudadanos. Tras la desintegración de la Unión Soviética, se distribuyeron entre todos los ciudadanos títulos especiales que permitían adquirir acciones de las empresas estatales que se estaban privatizando. Pero muchos de ellos los vendieron por unos pocos rublos, sin saber cuál era el valor real de aquellos pedazos de papel. Mientras, un puñado de individuos los estaban acumulando. Esta brecha en el conocimiento y la información fue, en parte, el origen de la fortuna de los oligarcas y de las fuertes desigualdades que aún hoy sufre el país. Los ciudadanos occidentales —que desconocen el verdadero significado del capitalismo de la vigilancia— están siendo víctimas de un comercio igual de desequilibrado. Por ello es urgente que las asociaciones o colectivos de ciudadanos emprendan acciones para fomentar la concienciación a gran escala.

Serían muy útiles campañas de información a favor de un uso razonado e informado de los servicios ofrecidos por los GAFAM, que dieran a conocer alternativas a sus servicios. Asimismo, una campaña concreta podría concienciar sobre los enlaces patrocinados de Google, promoviendo que los usuarios pinchen en los resultados “naturales”. En otro plano se podría potenciar iniciativas de gran alcance que rechacen la obsolescencia programada y motiven a los ciudadanos para priorizar las reparaciones antes que nuevas compras de dispositivos.

A menudo inspiradas en la ética de los hackers y los movimientos que defienden el software libre, asociaciones como la francesa La Quadrature du Net tienen por meta movilizar a la ciudadanía en este sentido, al tiempo que emprenden acciones legales contra los GAFAM en frentes específicos, en los que estos actúan claramente fuera de la ley. En paralelo, la organización asesora a los legisladores —a nivel europeo lo hace en el marco de la elaboración del Reglamento General de Protección de Datos de la UE—. Esta destacable labor debería contar con un apoyo económico a la altura de las causas que defiende, y estas asociaciones deberían propagarse a otros países. En Estados Unidos, la Electronic Frontier Foundation (EFF) defiende la libertad de expresión, la privacidad en línea y se opone a la vigilancia.

En el seno de la sociedad civil, distintos colectivos deben exigir este cambio, cada uno en sus posibilidades, para abonar el terreno político, empezando por los consumidores —los primeros que pueden plantarse ante las empresas más liberticidas o la generación intencionada de adicciones digitales—. Del mismo modo que han ejercido una presión sobre las empresas y los legisladores por el respeto al medio ambiente, también pueden desempeñar un papel primordial en el ámbito tecnológico. Ahora bien, la movilización no es fácil cuando los productos suelen ser gratuitos —no somos conscientes de cómo pagamos por ellos— y monopolísticos —limita la capacidad de optar por servicios alternativos—.

Los inversores son otro grupo con potencial para exigir cambios. En enero de 2018, el Fondo de Pensiones de los Maestros del Estado de California, CalSTRS, y el fondo de capital privado Jana Partners —que, sumados, poseían acciones de Apple por valor de 2.000 millones de dólares— enviaron una carta a la empresa en la que expresaban su preocupación por los peligros que sus tecnologías representaban para los niños y le exigían que tomara medidas374. Es cierto que estos dos accionistas representaban menos del 0,2% del capital corporativo, pero si la empresa percibiera que una porción creciente de sus inversores no espera solo un rendimiento financiero de su inversión, sino que le exige que afronte con más valentía las consecuencias negativas de sus productos, Apple estaría más receptiva a estas reivindicaciones.

Un tercer colectivo, más reducido, con una responsabilidad particular en la materia es el integrado por ingenieros, emprendedores y otros desarrolladores de tecnología. Los propios creadores del iPhone manifestaron su preocupación por los efectos negativos que su invento estaba teniendo en una gran parte de la población375, y en varias ocasiones a lo largo de estas páginas nos hemos encontrado con personas que fueron parte en la génesis de algunas tecnologías que más tarde han deplorado por los males que causan. Los promotores de estas innovaciones ocupan un lugar privilegiado para evaluar las implicaciones de los productos que sacan al mercado.

Un cuarto grupo, cercano al anterior, lo integran investigadores cuyo trabajo científico nutre la innovación. Algunos de ellos tienen un pie en el mundo académico y dedican otra parte de su tiempo en labores más directas en el seno de empresas, como Yann LeCun, académico y director de la IA en Facebook. “Cuanto más poderosa es la herramienta que desarrollas, más impacto puedes tener y más humilde tienes que ser”376, afirma el científico de datos Jeremy Heffner. Si los algoritmos que se ejecutan por sí solos comportan un riesgo de pérdida de control, los investigadores deben aplicar el principio de precaución, aunque sea a expensas de conseguir un éxito más rápido. Estos investigadores, como cualquier otra persona, están sujetos a sesgos cognitivos, debilidades y presiones del sistema para generar resultados. No gozan precisamente de incentivos para imprimir un giro en el modo de enfocar sus investigaciones.

El papel del quinto grupo, los padres, es suficientemente determinante para que lo abordemos con más detalle.

Educar a los hijos ante el desafío tecnológico

La forma más directa de transmitir una relación saludable con la tecnología radica en educar a los propios hijos de forma que no crezcan acostumbrados “a desear solo lo que dan las máquinas”, por utilizar la expresión de Bernanos con la que abrimos el segundo capítulo; y, en suma, transmitirles la facultad de usar la tecnología en lugar de dejarse usar por ella. Resulta una ardua tarea teniendo en cuenta la capacidad de la tecnología para anestesiar a los niños —una tentación enorme para casi todos los padres agotados y ansiosos de tener un momento de respiro—. Las buenas intenciones también chocan con la presión social, que se intensifica a medida que los niños crecen, y a las incesantes demandas de un acceso libre a la vida conectada cada vez más precoz.

Al principio de este libro hemos recogido las recomendaciones más elementales que proponen los psicólogos especializados en la materia —como las del psiquiatra Serge Tisseron— y que a menudo aplican los propios creadores de las tecnologías para proteger a sus hijos. Roger McNamee resume las precauciones que conviene tomar en el cuadro siguiente:

1. Dar ejemplo a los hijos. Prestar atención al uso que hacemos de la tecnología en su presencia.

2. Evitar las pantallas antes de los 2 años (el mínimo absoluto se sitúa, de hecho, en los 3 años). Limitar el acceso a la tecnología a todos los niños.

3. No confiar nunca en la tecnología creada para los niños: Youtube Kids, Instagram, Snapchat, etc., crean hábitos que pueden generar dependencia y hacer daño.

4. Alentar a los niños a interactuar sin intermediación de la tecnología y pasar más tiempo al aire libre.

5. Concertar con otros padres encuentros de niños sin tecnología y luchar contra el acoso en Instagram y otras plataformas.

Fuente: zuckedbook.com – Roger McNamee.

No es exagerado decir que evitarles a nuestros hijos un estado de conexión permanente desde su más tierna infancia es uno de los mayores regalos que podemos hacerles. Así lo demuestran las correlaciones entre depresión e intensidad de uso de las tecnologías digitales en la adolescencia, así como el hecho de que más de la mitad de quienes sufren de depresión en esta etapa de sus vidas experimentan otros episodios depresivos más tarde377.

La adolescencia es un periodo decisivo durante el cual se desarrolla el cerebro social humano, así como las partes del cerebro implicadas en el autocontrol y el razonamiento. También es una fase de extrema vulnerabilidad que la industria digital sabe explotar y durante la cual son los padres quienes deben activar el botón off. Sobre el límite de edad para que un adolescente tenga su primer smartphone personal no existen recomendaciones científicas concretas, pero los estudios sugieren que esto no debería ocurrir antes de los 12 años y, preferiblemente, no antes de los 15 años.

Es comprensible creer que limitar el acceso a la tecnología digital a nuestros hijos puede generar frustración, especialmente cuando su entorno no sufre la misma restricción, pero no puede ser argumento suficiente para progenitores responsables. ¿Cómo podemos evitar que lo digital se convierta en la fruta prohibida? Dado que los padres no tienen el monopolio de la educación de sus hijos y que se espera que estos socialicen, el esfuerzo por delimitar el uso de las tecnologías digitales debe trascender la esfera familiar.

De ahí que la coordinación con otros padres sea primordial, al igual que lo es para temas como la lucha contra el acoso o contra el consumo de drogas. Como mínimo, conviene que los padres de alumnos o las propias escuelas debatan sobre el tema y puedan establecer conjuntamente unas normas. Otro paso adicional consiste en que las escuelas limiten las tecnologías digitales, por grupos de edad, en su programa educativo, como hace la Waldorf School of the Peninsula, donde muchos ejecutivos de Silicon Valley matriculan a sus hijos.

La rebelión de los padres será cada vez más necesaria si se impone un aprendizaje ultradigitalizado y deshumanizado dentro de las aulas, como fue el caso del programa Summit Learning promovido por Mark Zuckerberg. Incluso en un mundo reconfigurado en el que la tecnología desempeña un papel más relevante —como ha sucedido tras la pandemia de 2020 y la adopción de la enseñanza a distancia— sería primordial que las herramientas digitales se centren en la relación humana.

En todos estos frentes, la sociedad civil debe generar una fuerte demanda social comparable a las reivindicaciones en materia de medio ambiente. Estos esfuerzos colectivos abonarán un terreno propicio para que la política aborde de verdad la cuestión de la tecnología.

3. Palancas políticas y regulación

En mayo de 2019, el Ayuntamiento de San Francisco prohibió el uso del reconocimiento facial por parte de sus fuerzas policiales por considerarlo un arma de vigilancia “peligrosa y opresiva”. La ciudad, cuna mundial de la industria digital, había prohibido antes el alquiler descontrolado de patinetes eléctricos; había obligado a Amazon a aceptar dinero en efectivo en sus supermercados automatizados; e incluso había restringido de manera drástica el alquiler de apartamentos a través de la plataforma Airbnb.

“Si San Francisco va por delante —opina la periodista especializada en tecnologías Lucie Ronfaut— es porque conoce mejor que otras ciudades las consecuencias potencialmente desastrosas del rápido desarrollo de las tecnologías”378. En el listado figura el aumento de las desigualdades, reflejado en un incremento constante del número de sintecho —un aumento del 17% entre 2017 y 2019— debido en gran medida a la presión inmobiliaria, impulsada a su vez por los altísimos salarios del sector tecnológico y por las plataformas de alquiler de apartamentos de corta duración379. El tráfico también ha aumentado en un 63% entre 2010 y 2016, principalmente debido a los incontables VTC que a menudo circulan vacíos380.

El hecho de que la ciudad no tema abordar el origen de estos problemas, aunque el lobby de la tecnología tenga un peso importante, envía una clara señal al resto del mundo: no, no es retrógrado oponerse al laissez-faire en materia de tecnología, ni pretender que se decida democráticamente el lugar que debe ocupar la tecnología en el espacio público. La política local, cercana a los ciudadanos y a sus preocupaciones cotidianas, es un eslabón esencial en la organización democrática, pero debe articularse con medidas regionales, nacionales e, idealmente, mundiales.

La necesaria reafirmación del Estado de derecho

El jurista Carlos López Blanco propone reflexionar con urgencia acerca de “cómo el Estado de derecho debe trascender el proceso de digitalización de la economía y la sociedad y sobrevivir a él”. En efecto, algunos parecen aceptar con resignación apresurada su erosión a causa de la actual revolución tecnológica. “El Estado de derecho no es sino a la base fundamental de nuestra convivencia democrática” 381, recuerda López Blanco. Garantiza la protección del individuo y de su intimidad, la de los usuarios y los consumidores, la libre competencia caracterizada por la igualdad entre las partes y la igualdad fiscal.

Ante las amenazas a la integridad psíquica y física de la persona —modificación, generación de dependencia, influencia cada vez más limitante en sus elecciones, invasión de su esfera íntima, desinformación e incluso riesgo de eliminación física—, los poderes públicos deben hacer todo lo posible para evitar que impere la ley de la selva.

Vamos a pasar revista a cada una de las áreas en las que se precisa la intervención del Estado, más allá de contener el poder de los gigantes de Internet. Luego examinaremos algunas iniciativas que ya están en marcha y trataremos de formular recomendaciones.

Ilegalizar el mercado de los datos conductuales

El modelo que rige gran parte de la economía digital se sustenta, como hemos visto, en el negocio de la predicción y la influencia en nuestras conductas futuras a partir de la elaboración de perfiles y la explotación sofisticada de nuestros datos personales o nuestras debilidades cognitivas. Este principio, sobre el que se cimienta el capitalismo de la vigilancia, debería, simple y llanamente, ilegalizarse. ¿Es esta una idea irrealista, descabellada o extrema? Para Shoshana Zuboff, esta perspectiva está lejos de ser radical: “Hemos prohibido, por ejemplo, los mercados donde se comerciaba con órganos humanos, bebés o esclavos. En todos esos casos reconocemos que se trata de mercados repugnantes desde el punto de vista ético, susceptibles de tener consecuencias peligrosas”382. La publicidad subliminal, aunque se trata de un fenómeno comparativamente anecdótico, está prohibida desde hace mucho en jurisdicciones como Estados Unidos y la Unión Europea. Si hablamos del mercado de “futuros conductuales” —es decir, de predicciones sobre el comportamiento futuro de los usuarios—, ya se ha demostrado que tiene efectos nefastos tanto para la libertad humana como para la democracia.

El veterano inversor en nuevas tecnologías Roger McNamee se pregunta: “¿Por qué es legal que los proveedores de servicios peinen nuestros mensajes y documentos para extraer datos que tienen valor económico? ¿Por qué es legal que terceros comercien con nuestra información más privada, incluidos nuestros pagos, nuestra localización, nuestros datos de salud o nuestro historial de navegación? ¿Por qué es legal recopilar datos sobre menores? ¿Y por qué es legal revender predicciones sobre nuestro comportamiento?”383. Prohibir esta práctica obligaría a los gigantes Google y Facebook y a parte de la industria digital a refundar su modelo de negocio sobre una base transparente —por ejemplo, mediante modelos freemium que impliquen una suscripción para acceder a ciertas funciones avanzadas o un sistema de micropagos— y/o un descenso significativo de sus ingresos, porque tendrían que recurrir a la publicidad tradicional, menos rentable. “No es una cuestión de derechas o de izquierdas; es una cuestión de bien o de mal”, sentencia McNamee.

Hasta el momento, no existe ninguna legislación que vaya en esta dirección. Los esfuerzos más visibles por regular estas prácticas se han centrado, principalmente, en la cuestión de los datos personales.

Limitar la recopilación de datos personales

La recopilación y explotación de datos personales permite generar predicciones y aumentar la capacidad de persuasión. Los legisladores han abordado la regulación de las tecnologías de persuasión desde este ángulo, siendo el texto más conocido sobre la materia el Reglamento General de Protección de Datos (RGPD) de la Unión Europea, que entró en vigor en mayo de 2018. Su objetivo es dar a los usuarios el control sobre los datos que les conciernen, en particular exigiendo a las empresas que obtengan su consentimiento explícito para recabar y utilizar información personal. Incluye otras disposiciones, como el derecho a solicitar que se borren los datos personales, el derecho a la portabilidad o mayores responsabilidades para las empresas en la protección de datos contra la piratería. En la estela de esta ley se han aprobado legislaciones en otros territorios, como la LGPD en Brasil o la Ley de Privacidad del Consumidor de California, mientras que la reglamentación federal de Estados Unidos en este aspecto es, de momento, bastante laxa.

Estos planteamientos tienen muchas virtudes y son un primer paso en la dirección correcta, pero únicamente aportan una respuesta parcial. Con el RGPD sigue siendo demasiado fácil justificar la acumulación de datos, que debería estar más estrictamente delimitada. “Si es posible transportar pasajeros sin identificarlos, como hacen los taxis, entonces debería ser ilegal identificarlos como hace Uber”, comenta el pionero del software libre Richard Stallman384. También debería estar prohibido cruzar datos de servicios con el único interés de perfeccionar el perfil de los usuarios por parte de las empresas.

No obstante, confiar en la noción del consentimiento del usuario para protegerlo frente a la explotación de sus datos personales plantea un problema aún más complicado: ¿cómo ejercerán sus derechos los ciudadanos si no entienden, en su conjunto, ni el valor ni las implicaciones de la explotación de sus datos? La gran mayoría de los usuarios prefieren disfrutar de un acceso inmediato a los servicios y aceptan de manera mecánica las cláusulas de recopilación de datos y de cookies que rastrean su historial de navegación. La gente vincula los datos personales con el problema del robo de datos de pago o la recepción de comunicaciones comerciales no deseadas, pero apenas con su aprovechamiento mucho más sutil con fines de persuasión. Una verdadera reapropiación pasaría por la sensibilización y la educación; también por textos más restrictivos —recoger solo datos imprescindibles para el funcionamiento de un servicio y durante un tiempo limitado—. Por descontado, la prohibición del mercado de la predicción de comportamientos futuros, al eliminar las rentas del capitalismo de la vigilancia, haría que la recopilación indiscriminada de datos tuviera mucho menos interés para las empresas.

Otra manera de enfocar la cuestión es proponer que las compañías paguen a los usuarios por la utilización de sus datos. “Imaginen que General Motors no pagara ninguno de los materiales que utiliza para fabricar automóviles, ni por el acero, ni por el caucho, ni por el vidrio —explica el economista Robert J. Shapiro, especialista en el valor de los datos—. Pues esa es la situación en la que se encuentran los gigantes de Internet. Para ellos, es un negocio redondo”385. El gran informático Jaron Lanier también apuesta por micropagos que redistribuirían los beneficios de la explotación de los datos. Un coche autónomo de Google podría remunerar a su pasajero por los datos que genera durante una carrera. Este planteamiento tendría diversas ventajas: cambiaría el statu quo; haría un poco más “justo” el mercado de la persuasión y la influencia; sensibilizaría a los GAFAM con respecto a los datos personales, haciéndoles pagar por algo que están acostumbrados a sustraer; y haría que los usuarios tuvieran una ligera idea del valor de la información que generan. Aunque este reequilibrio no sería ninguna solución definitiva, acabaría con el expolio de datos.

Sin embargo, no podemos contentarnos con una solución puramente económica. Comerciar con partes vitales y constitutivas de la integridad humana es inaceptable en sí mismo. Los intentos de hacerlo más “justo” correrían el riesgo de legitimarlo. Las personas más vulnerables podrían ser las primeras en verse alentadas a aceptar la explotación de sus datos, convirtiéndose así en conejillos de Indias.

Salvaguardar la identidad de las personas:
respetar su tiempo y sus neuroderechos

La facultad de formular pensamientos de forma autónoma y la de decidir por uno mismo en qué se desea invertir el tiempo son constitutivas de la identidad de cada uno. Si ciertas tecnologías están diseñadas para despojarnos de nuestra capacidad de disponer libremente de nuestro tiempo, deberían estar prohibidas o, al menos, reguladas. En el primer capítulo hemos revisado estos mecanismos que todavía parecen anecdóticos, como la función de reproducción automática en YouTube o Netflix. Estas características no deberían estar permitidas, al menos como configuración por defecto. Si se ha determinado que el scrolling actúa en nuestro cerebro de tal manera que pasamos mucho más tiempo del que querríamos desfilando por la información, ¿por qué no se regula más su funcionamiento? El Estado interviene hasta en los detalles del diseño y el funcionamiento de los juegos de azar, con el fin de brindar a los jugadores la oportunidad de volver en sí y tomar decisiones. Las técnicas generalizadas en el espacio digital afectan a una base social mucho más amplia, y la capacidad de las personas de no perder el tiempo debe protegerse igual que se las protege de dilapidar el dinero en un casino.

En otro nivel, la política debe abordar lo antes posible las interfaces cerebro-máquina que permiten captar la actividad cerebral de una persona y que pueden interferir en sus pensamientos. Además de los riesgos de estos dispositivos en materia de vigilancia, podrían conducir al control directo del razonamiento de las personas. Los poderes públicos deben proteger a los ciudadanos contra esta invasión de su pensamiento. Investigadores de la Universidad de Columbia, encabezados por el neurocientífico español Rafael Yuste, promueven el concepto de “neuroderechos”, cuyo objetivo es proteger a las personas de los peligros del acceso directo a sus cerebros por parte de terceros. Incluyen el “derecho a la identidad personal” —prohibiendo que la tecnología pueda perturbar la percepción de uno mismo y estableciendo barreras infranqueables entre la conciencia y el influjo tecnológico—; o el “derecho a la intimidad mental” —que garantiza el carácter privado de todas las medidas de la actividad neuronal de las personas—. Desde nuestro punto de vista, estos “neuroderechos” se han formulado de manera timorata. Contemplan, por ejemplo, la regulación del comercio de datos cerebrales, cuando más bien debería hablar sin tapujos de prohibición. También mencionan el “derecho de igualdad de acceso al aumento mental”, en ningún caso se oponen a él, sino que quieren democratizarlo. Aun así, esta iniciativa, que ya ha sido incluida en la Constitución chilena, tiene el mérito de sensibilizar a las autoridades sobre la imperativa necesidad de proteger a los ciudadanos386.

Protegernos de una vigilancia pública abusiva

Antes de aportar soluciones, la política debe empezar por no ser el problema y dejar de utilizar la tecnología digital para captar tanta información como sea posible sobre las personas. Richard Stallman lamenta que un texto como el RGPD no proteja a los ciudadanos contra las prácticas abusivas de los Estados en materia de vigilancia387. A menos que exista una orden judicial para recoger datos pertenecientes a la vida privada de una persona, se debe trazar una línea roja muy por encima de donde se encuentra en la actualidad que impida a las autoridades rastrear a los ciudadanos. Asimismo, los gobiernos deben desplegar medios para proteger a sus propios ciudadanos de los ojos y oídos vigilantes de otros países, como los de la Agencia Nacional de Seguridad (NSA) de Estados Unidos.

Las autoridades no deberían caer en la trampa del “todo smart”, sobre todo en los casos en que podría implicar la recopilación de datos adicionales a los agregados, por ejemplo, para geolocalizar a cada persona. En cuanto a los servicios públicos urbanos, cada vez más digitalizados, deben habilitarse siempre opciones que permitan un cierto grado de anonimato y oculten la identidad de los ciudadanos al menos cuando no haya incidentes. Este tipo de servicio debería aceptar siempre pagos en efectivo. En los casos en que la recopilación de datos personales sea inevitable para el funcionamiento de un servicio, deben crearse “cajas negras” que contengan la información personal y únicamente pueden abrirse solo cuando las autoridades judiciales emiten una orden.

En segundo lugar, frente a situaciones de crisis, ya sean de orden sanitario o relacionadas con la seguridad, las autoridades públicas no deben ceder a la tentación de utilizar medios tecnológicos para infiltrarse cada vez más en la vida privada de las personas. No deberían, aunque sea por principios, aliarse con los gigantes de Internet para construir infraestructuras de recopilación masiva de datos, como hicieron muchos países para rastrear los contactos de los habitantes durante la crisis del coronavirus, utilizando las herramientas de Google y Apple388. Este tipo de práctica, supuestamente temporal, a menudo se vuelve permanente, al tiempo que las garantías dadas con respecto al respeto de la privacidad tienden a desvanecerse de manera progresiva.

Proteger a la humanidad de las catástrofes tecnológicas

Las autoridades tienen una gran responsabilidad en el control de la innovación y las tecnologías disruptivas. Los Principios Asilomar, promovidos por el Future of Life Institute (FLI), y suscritos por los principales exponentes en IA y robótica, defienden este tipo de intervención, por más que muchos de sus firmantes son tecnoptimistas. Estas normas defienden que “los sistemas de IA diseñados para automejorarse o autorreplicarse deben estar sujetos a unas estrictas medidas de control y seguridad”. O que “la superinteligencia debería ser desarrollada solo en servicio de unos ideales éticos ampliamente compartidos y para beneficio de toda la Humanidad, más que para un Estado u organización”389.

Por supuesto, cómo llevar a cabo este tipo de control es una cuestión peliaguda. El físico Anthony Aguirre, uno de los responsables del FLI, lamenta que los grandes actores tecnológicos a menudo estén menos regulados que las organizaciones dedicadas a la física. Sostiene la idea de crear un órgano de supervisión, a escala nacional o internacional390.

Defendernos de la arbitrariedad

A medida que algunas decisiones se automatizan y se delegan en sistemas digitales, aumenta el riesgo de que se produzcan situaciones arbitrarias. El Estado debe garantizar su protección al individuo susceptible de sufrir injusticia, discriminación u opacidad en los procesos que le conciernen. Nos referimos a las decisiones judiciales —tomadas con la ayuda de algoritmos— o a las financieras —por ejemplo, la validación de un préstamo—, administrativas —denegación de una autorización sin una explicación comprensible—, educativas —calificaciones, concesión o no de un diploma, etc.— o incluso comerciales —acceso o no a determinados servicios en función del perfil elaborado—.

Una solución pasaría por desmitificar los algoritmos a ojos de los usuarios, para que estos entiendan cómo se tomó cada decisión. Sin embargo, hay quien considera que este planteamiento no es realista porque se basa en la idea de que los algoritmos serían como libros de recetas, que, una vez entendidos, harían inteligibles todos los efectos que producen en nuestra vida. En opinión de la jurista Antoinette Rouvray, aunque se describan con precisión, muchos algoritmos podrían resultar demasiado complejos para la mayoría de los usuarios —para cualquiera, de hecho—. De hecho, los algoritmos a veces funcionan precisamente porque son opacos. Ciertas empresas consideran, además, que el secreto de estos algoritmos forma parte de su propiedad intelectual y deben seguir siendo cajas negras.

Algunos legisladores proponen una solución de compromiso, por la que el código fuente que describe estos algoritmos únicamente se revelaría a los reguladores o auditores en caso de producirse un problema grave, y serían estos quienes deberían juzgar entonces si el proceso es justo391. Con todo, el principal problema es la proliferación de decisiones que nos afectan —grandes o pequeñas— que se toman con ayuda de algoritmos y de las que a menudo ni siquiera somos conscientes.

La noción de “derecho a la explicación” recogida en el RGPD, que obliga a las entidades que utilizan algoritmos a proporcionar “información relativa a la lógica subyacente” en la toma de decisiones de un sistema automatizado, representa una solución bastante pragmática a esta cuestión, a la espera de encontrar otra mejor. Permite al usuario preguntar qué ha motivado una decisión, lo que obliga a los diseñadores a garantizar que haya un sentido humano tras cada elección delegada en la máquina, es decir, a comunicar la intención que ha conducido a un efecto determinado. De este modo, la legislación debe exigir que los sistemas de IA sean, como mínimo, explicables, inteligibles y detallen los factores que se han tenido en consideración para conducir a un resultado. Las autoridades deberían garantizar que el principio sea un derecho real, que las empresas puedan ejercerlo con sencillez.

Educación pública

El término brecha digital se refiere a la desigualdad entre quienes poseen ordenadores o una conexión a Internet y quienes no, una diferencia que da lugar a desigualdades en los ingresos, el acceso al conocimiento o la inclusión social. Pero tal como explicábamos en el tercer capítulo, en adelante debería referirse a la diferencia establecida entre quienes poseen las claves necesarias para tomar distancia crítica respecto a la persuasión algorítmica y quienes no saben poner distancia, son más dependientes y susceptibles de influencia por los algoritmos392.

Es esta brecha la que el Estado debe combatir, tanto en las aulas como entre los adultos. El objetivo primordial de la educación debe ser formar seres críticos. Las administraciones públicas no deberían apostarlo todo por las profesiones del momento, presentadas como profesiones del futuro. Solo la capacidad de discernir y poner distancia crítica nos permitirá adaptarnos al mundo que nos aguarda sin ser meros espectadores pasivos.

Algunos podrían argumentar que esto desconectaría a la escuela de su tiempo y supondría negar a los alumnos la realidad del mundo en el que vivimos, pero estarían malinterpretando la magnitud del desafío tecnológico. Si queremos sobrevivir como especie que disfruta de un cierto margen de libertad, sin ser objeto en manos de la tecnología, la escuela y otras instituciones deberán respaldar este camino, protegiendo a los niños de la invasión digital.

Los obstáculos que debe superar una acción política eficaz

La regulación de las administraciones públicas topa al menos con cinco obstáculos principales:

1) Un contexto ideológico adverso

La ideología imperante, que concibe el desarrollo tecnológico y el progreso como dos componentes inseparables, estigmatiza discursos o medidas percibidas como antitecnológicas. La mayoría de los grupos de reflexión y ponentes que recomiendan políticas públicas defienden por sistema los beneficios de cualquier innovación.

2) ¿Aceptar un límite a la competencia?

Si las soluciones al desafío tecnológico pasan por erigir barreras que protejan al individuo o la democracia, o incluso por reducir las probabilidades de que una IA hostil tenga un impacto nocivo, los responsables políticos temen que estas protecciones frenen también el desarrollo de su territorio. Una regulación muy estricta en la recopilación y uso de datos personales sin duda afectaría negativamente al desarrollo de la IA y las empresas dedicadas, que podrían trasladarse. De ahí que estas medidas se consideren sacrificios y requieren un consenso muy amplio.

3) La dificultad de poner en práctica una acción política global

A pesar de la importancia de la política local, los cambios deben alcanzar una dimensión global. La hipercompetencia entre países y territorios complejiza mucho una verdadera cooperación internacional en esta materia. El acuerdo para un nuevo sistema de gobernanza mundial es el gran tema de nuestro tiempo, una vez que los grandes consensos surgidos tras la Segunda Guerra Mundial parecen desgastarse o se ponen en cuestión.

4) Dificultad de control y de aplicación

Incluso si se estableciera un consenso en la regulación o eventual prohibición de prácticas concretas, los experimentos discretos, realizados de forma aislada, podrían pasar desapercibidos o ser imposibles de detener antes de ser difundidos. Pese a la desaprobación general, el científico chino He Jiankui anunció en 2018 que había creado los primeros bebés gemelos con un genoma modificado. Si el genetista fue condenado a cárcel en su país fue, sobre todo, porque China consideró que aquella noticia perjudicaba la reputación del país393. La mayoría de estas sanciones son reactivas, incapaces de establecer un verdadero control.

5) Lentitud y limitaciones de la política frente a la velocidad
de la tecnología

La burocratización en nuestras democracias, así como la falta de formación e información de sus responsables, dificultan que la política siga el ritmo del desarrollo tecnológico. “Lo que en apariencia será concedido por las grandes tecnológicas y sus aliados —prevén los autores Marc Dugain y Christophe Labbé— será retomado de inmediato con tecnologías que los legisladores son incapaces de seguir, abrumados por su vertiginoso desarrollo y por una complejidad fuera del alcance de unos representantes electos poco capacitados y estancados en la lentitud de los tiempos políticos”394.

Por encima de medidas concretas, el papel de lo político es servir de marco para definir democráticamente una ética colectiva, estableciendo valores compartidos sobre los que la sociedad pueda construir un proyecto común, con la mínima interferencia posible en las libertades individuales. Ahora bien, como hemos señalado con insistencia, la extensión y el uso de la tecnología tiene un carácter sistémico. También que la tecnología no es neutra, cualquiera de ellas tiene implicaciones éticas y contribuye a moldear el tipo de sociedad en la que vivimos. Sin una intervención democrática consensuada estamos a expensas de valores y normas que son impuestos o derivan de una inercia.

Para Mark Hunyadi, por mucho que la red algorítmica trate de condicionarnos, no tenemos por qué funcionar en modo “piloto automático”. Las acciones individuales, aun sumando, no bastan para cambiar el sistema. De ahí el interés de una institución, idealmente supranacional, comunitaria, que acoja y potencie la voz de la ciudadanía, su derecho a definir por sí misma las expectativas respecto a la tecnología395.

La mayoría de las soluciones políticas que hemos propuesto se enfrentan a una paradoja: para proteger a las personas y la sociedad y preservar su libertad del control de la tecnología, deben limitarse ciertas libertades. Es una contradicción aparente que afecta a toda iniciativa reguladora, pero debe afrontarse.

Históricamente, el acceso a la información y a la tecnología ha tenido un carácter eminentemente emancipador, pero tal y como hemos tratado de sintetizar, estamos en medio de un giro crucial. Las referencias históricas con las que contamos nos sirven solo en parte. La hiperdigitalización de nuestras sociedades casa mal con un futuro emancipador, y nos obliga a replantear muchas categorías que hasta hoy dábamos por asentadas y naturales.

Conclusión

En esta tercera década del siglo XXI se decidirá, sin duda, nuestro destino. ¿Conseguiremos encaminarnos hacia un futuro digital mejor o nos arrastrará a lo peor? ¿Seguirá siendo un lugar que podamos considerar nuestro hogar?396

Shoshana Zuboff

Desde un rincón de su prisión, Antonio Gramsci escribió que era “pesimista con la inteligencia, pero optimista con la voluntad”397. Ante el sombrío panorama que hemos pintado, nos despedimos con esta máxima de la acción, que nos invita a no resignarnos frente a lo supuestamente inevitable.

Si este libro ha resultado lo bastante convincente, el lector probablemente se sienta más preocupado que tranquilizado. De manera gradual vamos delegando en las máquinas nuestras facultades físicas y mentales, nuestras elecciones —grandes y pequeñas— y nuestra atención. Nos gobierna una especie de ley de la ventaja comparativa que supedita todo al principio de la maximización de la eficacia. Consideraciones tan “fútilmente humanas” como la búsqueda de sentido, de libertad o de felicidad sin base material parecen destinadas a ser barridas como prescindibles obstáculos.

La intención de estas páginas no es angustiar al lector, sino contribuir a despertarnos de la anestesia, la que nos impide rebelarnos contra una dinámica cuyos pormenores no nos han explicado y a la que no hemos dado nuestro consentimiento con conocimiento de causa. Cuesta imaginar de qué modo podría alterarse el rumbo de la utopía solucionista. Pero lejos de todo determinismo “la única ley de la historia es la sorpresa”398, en palabras del historiador Max Gallo.

Si uno despierta de ese estado de anestesia y recupera la conciencia, ¿cómo permanecer indiferente al fin de la humanidad que esboza el futuro tecnológico? Una extinción brutal a causa de un accidente o una guerra tecnológica, la fusión de pesadilla entre el hombre y la máquina, o la sustitución del ser humano por inteligencias más eficientes que la suya son escenarios que hasta hace pocos años nos parecían inverosímiles, pero que hoy van ganando presencia en la literatura académica como auténticas posibilidades. Sin embargo, la hipótesis más plausible es la de una humanidad poco a poco erosionada, sin grandes saltos, reemplazada progresivamente por IA y robots, teóricamente a nuestro servicio, pero sin entender nuestra verdadera esencia, que no puede descomponerse en ceros y unos. La vida humana se reduciría a una interpretación digital del bienestar, satisfaciendo deseos antes de que sean formulados, optimizando nuestro estado hormonal, preservando el cuerpo lo mejor posible… Una vida disminuida de sedación lenta y apacible, una muerte indolora.

¿Cómo permanecer impasibles ante una intrusión permanente que aspira a ocupar todas las facetas de nuestra existencia? La omnipotencia tecnológica proporciona unos medios de vigilancia que ni la Stasi habría soñado, hasta el punto de plantear la infiltración en la conciencia de las personas, un reducto que ni siquiera Orwell imaginó vulnerado.

El ciudadano anestesiado ve con espanto los excesos del totalitarismo tecnológico en China, pero su indignación dura solo un momento, pues enseguida el siguiente contenido ocupa su cerebro y ayuda a ignorar que el mundo occidental podría estar tomando la misma senda. La idea orwelliana de que el totalitarismo es una tentación permanente de las sociedades modernas se ratifica. 1984 no era tanto una caricatura del estalinismo como una advertencia dirigida a las sociedades tecnócratas del mundo contemporáneo.

Todo amante de la raza humana reconoce la diversidad de los seres que la integran y aprecia la singularidad de cada individuo. Ahora, en un futuro no muy lejano, no es descabellado temer que ese sistema ultranormativo borre las diferencias garantes de tal diversidad para hacer entrar a todos en ese mismo molde digital.

Cuando una persona decide de manera voluntaria utilizar la tecnología, cuando sopesa los objetivos y las consecuencias de su uso, cuando es capaz de limitar su uso y seguir siendo dueña de ella misma, la tecnología es lo que se supone que debe ser: una herramienta maravillosa a su servicio. Por desgracia, la orientación del desarrollo tecnológico actual hace todo lo posible para sortear la conciencia, estableciendo un canal directo con las otras partes de nuestro ser: nuestros impulsos, nuestros reflejos, nuestros instintos…

Nuestro optimismo, pese a todo, es el de la posibilidad de una voluntad firme, tanto personal como política. Requiere la determinación de utilizar todos nuestros recursos y capacidad crítica. Como en la lucha contra el cambio climático, es fundamental una nueva semántica, dejar de pensar en términos de eficacia económica, comodidad y competición en favor de imperativos más elevados, conservar nuestro planeta y preservar lo que nos hace específicamente humanos.

La humanidad del siglo XXI será tecnocrítica o no será. Cobrará conciencia de que solo puede perdurar como especie libre e inteligente si delimita el papel de la tecnología y define lo que espera de ella. Asumirá que eso implica sacrificios y esfuerzo, y entenderá que es el precio por evitar su propio fin.

Agradecimientos

Escribir este libro ha supuesto un trabajo solitario de nueve meses, pero varias personas me han acompañado de una manera u otra en este camino que llevaba tantos años queriendo emprender.

En primer lugar, tengo una gran deuda con Beatriz Iraburu, la cual comentó incansablemente cada capítulo y me dio excelentes referencias. Nuestros intercambios me brindaron además un apoyo moral sustancial.

También quisiera agradecerles enormemente a Martine y a Georges Guillaume el tiempo que dedicaron a la revisión minuciosa del manuscrito en francés, idioma en el que redacté su versión original; así como a las otras personas que mostraron interés y se tomaron el tiempo de comentarlo, en especial: Fabien Tannhof, François-Régis Babinet, Cristina Manzano y José Ignacio Torreblanca.

Y solo puedo terminar dándole las gracias a mi mujer, Teresa, por siempre creer en cada uno de los proyectos que emprendo.

Bibliografía

Barrett, Deirdre (2010): Supernormal Stimuli: How Primal Urges Overran Their Evolutionary Purpose, W. W. Norton & Company, Nueva York.

Bernanos, George (2015): La France contre les robots, París, Le Castor, Astral.

Blay, Michel (2016): Penser ou cliquer, CNRS Éditions, París.

Bonet, Ángel (2018): El Tsunami tecnológico, Deusto, Barcelona.

Boström, Nick (2006): “What is a Singleton?”, Linguistic and Philosophical Investigations, 2006, vol. 5, nº 2.

Brundage, Miles et al. (2018): The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, University of Oxford/Future of Humanity Institute, Oxford.

Carr, Nicholas (2010): The Shallows. What the Internet did to our brains, W.W. Norton, Nueva York.

Desmurget, Michel (2019): La fabrique du crétin digital, Seuil, París.

Dugain, Marc y Labbé, Christophe (2016): L’Homme nu. La dictadure invisible du numérique, Robert Laffont/Plon, París.

Floridi, Luciano (ed.) (2015): The Onlife Manifesto. Being Human in a Hyperconnected Era, Springer, Nueva York.

Foer, Franklin (2017): Un mundo sin ideas: la amenaza de las grandes tecnológicas a nuestra identidad, Paidós Ibérica, Barcelona.

Francisco (papa) (2015): Laudato si’, Libreria Editrice Vaticana, Ciudad del Vaticano.

Green, Ben (2019): The Smart Enough City. Putting Technology in Its Place to Reclaim Our Urban Future, MIT Press, Cambridge (MA).

Harari, Yuval Noah (2018): 21 Lessons for the XXIst Century, Jonathan Cape, Londres. Versión castellana: 21 lecciones para el siglo XXI, Debate, Barcelona.

Hunyadi, Mark (2015): La tiranía de los modos de vida, Cátedra, Madrid.

Joy, Bill (2000): “Why the Future Doesn’t Need Us”, Wired, 1 de abril.

Khan, Lina M. (2017): “Amazon’s Antitrust Paradox”, Yale Law Journal, vol. 126, nº 3, enero.

Lee, Kai-Fu (2018): AI Superpowers. China, Silicon Valley, and the New World Order, Houghton Mifflin Harcourt, Boston. Versión castellana: Superpotencias de la inteligencia artificial. China, Silicon Valley y el nuevo orden mundial, Deusto, Barcelona, 2020.

McNamee, Roger (2019): Zucked. Waking up to the facebook catastrophe, Penguin Books, Nueva York.

— (2019): “A Brief History of How Your Privacy Was Stolen”, The New York Times, 3 de junio.

Orwell, George (1937): The Road to Wigan Pier, Victor Gollancz Ltd., Londres.

Putnam, Robert (1995): “Bowling alone: America’s declining social capital”, Journal of Democracy, vol. 6, nº 1.

Twenge, Jean M. (2017): iGen. Why Today’s Super-Connected Kids Are Growing Up Less Rebellious, More Tolerant, Less Happy —and Completely Unprepared for Adulthood, Atria, Nueva York.

— (2017): “Have Smartphones Destroyed a Generation?”, The Atlantic, septiembre.

Sadin, Éric (2016): La siliconisation du monde. L’irrésistible expansion du libéralisme numérique, Éditions L’échappée, París.

Stiegler, Bernard (2016): Dans la disruption. Comment ne pas devenir fou ?, Éditions Les liens qui libèrent, París.

Van Loo, Rory (2016): “The Corporation as a Courthouse”, Yale Journal on Regulation, vol. 33.

Zuboff, Shoshana (2019): The Age of Surveillance Capitalism, Profile Books Ltd, Londres.

— (2020): “You Are Now Remotely Controlled”, The New York Times, 24 de enero.

NOTAS

1 . Haidt, Jonathan, “Has Facebook been good for the world?”, Vox, 4 de febrero de 2019.

2 . Laudato si’, §105, Verbo Divino, 2015.

3 . “Facebook labelled digital gangster by report on fake news”, The Guardian, 18 de febrero de 2019.

4 . The Road to Wigan Pier, Victor Gollancz Ltd., 1937.

5 . Joy, Bill, “Why the Future Doesn’t Need Us”, Wired, abril de 2000.

6 . Citado en Bastié, Eugénie, “Michel Desmurget: ‘La exposición precoz a las pantallas es un desastre absoluto’”, Le Figaro, 4 de septiembre de 2019.

7 . Papa Francisco, Laudato si’, § 107, op. cit.

8 . Hunyadi, Mark, La tiranía de los modos de vida, Cátedra, 2015.

9 . Blay, Michel, Penser ou cliquer, CNRS Éditions, 2016.

10 . Koenig, Gaspard, La fin du libre arbitre, L’Observatoire, 2019.

11 . Harari, Yuval Noah, “The myth of freedom”, The Guardian, 14 de septiembre de 2018.

12 . Harari, Yuval Noah, “Los cerebros hackeados votan”, El País, 6 de enero de 2019.

13 . Haidt, Jonathan, op. cit.

14 . Conferencia de diciembre de 1944 publicada en el volumen La France contre les Robots, Le Castor, Astral, 2015.

15 . “Global mobile consumer survey: US edition”, Deloitte, 2019.

16 . Según el informe de IDC actualizado el 25 de octubre del 2019.

17 . Schmidt, Douglas C., “Google Data Collection”, Digital Context Next, 15 de agosto de 2018.

18 . Citado en Bastié, Eugénie, “Michel Desmurget: ‘L’exposition précoce aux écrans est un désastre absolu’”, Le Figaro, 4 de septiembre del 2019.

19 . “The Common Sense Census: 2017 Media Use by Kids Age Zero to Eight”, Common Sense, 2017.

20 . Según Canalys Forecasts, Mobility Services, abril del 2019.

21 . Roose, Kevin, “Do Not Disturb: How I Ditched My Phone and Unbroke My Brain”, The New York Times, 23 de febrero de 2019.

22 . Alter, Adam, autor de Irrestible. The Rise of Addictive Technology and the Business of Keeping Us Hooked, Penguin, 2017. Entrevista en El País, 25 de abril de 2018, “La adicción a las pantallas avanza silenciosa”.

23 . Entrevistado en el programa “L’addiction aux écrans : ‘héroïne numérique’”, Envoyé spécial, France 2, 18 de enero de 2018.

24 . Davidow, Bill, “Exploiting the Neuroscience of Internet Addiction”, The Atlantic, 18 de diciembre de 2012.

25 . Data Science Team, “Measuring Product Health”, Sequoia Capital (www.sequoiacap.com/article/measuring-product-health#).

26 . Declaraciones de noviembre del 2017 en el congreso de Axios, Envoyé Sécial, “Envoyé spécial. L’addiction aux écrans : ‘héroïne numérique’ - 18 janvier 2018 (France 2)”, YouTube, 22 de enero de 2018 (29:20).

27 . Ibid. (29:50).

28 . Davidow, Bill, op. cit.

29 . Price, Catherine, “Putting Down Your Phone May Help You Live Longer”, The New York Times, 24 de abril de 2019.

30 . Bilton, Nick, “Steve Jobs Was a Low-Tech Parent”, The New York Times, 10 de septiembre de 2014.

31 . McNamee, Roger, Zucked, Penguin, 2019.

32 . Véanse, por ejemplo, los estudios del psiquiatra y psicólogo francés Serge Tisseron. Véase también el estudio de Sheri Madigan; Dillon Browne y Nicole Racine, “Association Between Screen Time and Children’s Performance on a Developmental Screening Test”, JAMA Pediatrics, vol. 173, nº 3, 2019, pp. 244–250.

33 . Informe n° 131 (2018-2019) de Catherine Morin-Desailly, en nombre de la Comisión de Cultura del Senado francés.

34 . Desmurget, Michel, “La nocivité des écrans pour les enfants est un fait scientifique incontestable”, Le Figaro, 19 de diciembre de 2019.

35 . Véase la tribuna firmada por los médicos Sylvie Dieu Osika, Eric Osika, Marie-Claude Bossiere, Sabine Duflo, Anne-Lise Ducanda, Bruno Harlé, Lise Barthélémy y Morgane Balland, “Exposition aux écrans: ‘Qui défend-on, les enfants ou l’industrie du numérique?”, 17 de enero de 2019.

36 . Guimón, Pablo, “Los gurús digitales crían a sus hijos sin pantallas”, El País, 20 de marzo de 2019.

37 . Corcos, Marilyn y Bergmann, Brigitte, “Le parent hyperconnecté à son portable risque de se déconnecter de son enfant”, Le Monde, 3 de enero de 2020.

38 . Davidow, Bill, “Exploiting the Neuroscience of Internet Addiction”, The Atlantic, 18 de julio de 2012.

39 . Le Quyen, Michel, autor de Cerveau et Silence, Flammarion, 2019. Entrevistado por Ferrer, Valérie, “Cerveau et Silence: les liaisons heureuses de la déconnexion”, Le Figaro, 7 de junio de 2019.

40 . Nicola, Hughes y Burke, Jolanta, “Sleeping with the frenemy: How restricting ‘bedroom use’ of smartphones impacts happiness and wellbeing”, Computers in Human Behavior, vol. 85, agosto de 2018, pp. 236-244.

41 . Floridi, Luciano, The Onlife Manifesto. Being Human in a Hyperconnected Era, Springer, 2015.

42 . Ibid.

43 . Bochman, Andy, “Internet = insécurité”, Harvard Business Review, edición francesa, abril-mayo de 2019.

44 . Price, Catherine, op. cit.

45 . Susarla, Anjarna, “The new digital divide is between people who opt out of algorithms and people who don’t”, The Conversation, 17 de abril de 2019.

46 . Véase, por ejemplo, Case, Amber, Calm Technology: Principles and Patterns for Non-Intrusive Design, O’Reilly Media, 2015.

47 . Twenge, Jean M., “Have Smartphones Destroyed a Generation?”, The Atlantic, septiembre de 2017.

48 . Carr, Nicholas, The Shallows. What the Internet did to our brains, W.W. Norton, 2010.

49 . Ibid.

50 . Ibid.

51 . Véase, por ejemplo, el trabajo de la Universidad de Alberta mencionado en Dugain, Marc y Labbé, Christophe, L’Homme nu. La dictadure invisible du numérique, Plon Editions, 2016, p. 103.

52 . Wolf, Maryanne, Reader, Come Home: The Reading Brain in a Digital World, Harper Collins, 2018.

53 . Blay, Michel, op. cit.

54 . Chotpitayasunondh, Varoth y Douglas, Karen M., “The effects of ‘phubbing’ on social interaction”, Journal of Applied Social Psychology, vol. 48, nº 6, junio de 2018, pp. 304-316.

55 . The Road to Wigan Pier, Victor Gollancz Ltd, 1937.

56 . Datos surgidos de un estudio realizado por la empresa de seguridad informática Kapersky en 2015, entre 6.000 personas de más de 16 años en 6 países europeos.

57 . Según cuentan en su libro My Life Uploaded, Penguin Random House, Londres, 2009.

58 . Javadi, A.; Emo, B.; Howard, L. et al., “Hippocampal and prefrontal processing of network topology to simulate the future”, Nature Communications, vol. 8, 14.652, 2017.

59 . Dugain, Marc y Labbé, Christophe, op. cit.

60 . “How Technology has Stopped Evolution and is Destroying the World”, The Guardian, 11 de julio de 2013.

61 . Véase, por ejemplo, Bratsberg, Bernt y Rogeberg, Ole, “Flynn effect and its reversal are both environmentally caused”, PNAS, vol. 115, nº 26, 26 de junio de 2018, pp. 6.674-6.678; publicado por primera vez el 11 de junio de 2018.

62 . James R. Flynn, “Requiem for nutrition as the cause of IQ gains: Raven’s gains in Britain 1938–2008”, Economics & Human Biology, 2009.

63 . Francis Wolff, citado en L’Homme nu, op. cit., p. 178.

64 . Conferencia en The Artificial Intelligence Channel, “Yuval Harari - The Challenges of The 21st Century”, YouTube, 8 de agosto de 2018.

65 . L’homme nu, op. cit.

66 . Plaza López, José Ángel, “Adolescentes hiperconectados: impacientes, indecisos e individualistas”, El País Retina, 14 de febrero de 2019.

67 . Barrett, Deirdre, Supernormal Stimuli: How Primal Urges Overran Their Evolutionary Purpose, W. W. Norton & Company, 2010.

68 . Twenge, Jean M., op. cit.

69 . Véase, por ejemplo, lo que afirma Jonathan Haidt, op. cit.

70 . Putnam, Robert, “Bowling alone: America’s declining social capital”, Journal of Democracy, vol. 6, nº 1, 1995, pp. 65-78.

71 . Twenge, Jean M., op. cit.; iGen: Why Today’s Super-Connected Kids Are Growing Up Less Rebellious, More Tolerant, Less Happy and Completely Unprepared for Adulthood and What That Means for the Rest of Us, Atria Books, 2017.

72 . Para una opinión que apunta en esta dirección, véase Odger, Candice y Jensen, Michaeline R., “Adolescent mental health in the digital age: facts, fears, and future directions”, The Journal of Child Psychology and Psychiatry, 17 de enero de 2020.

73 . Véase “Online all the time – average British household owns 7.4 internet devices”, The Guardian, 9 de abril de 2015.

74 . Davidow, Bill, op. cit.

75 . Entrevistado por Bastié, Eugénie, op. cit.

76 . Langer, Ellen J., “The Illusion of Control”, Journal of Personality and Social Psychology, vol. 32, nº 2, 1975, pp. 311-328.

77 . Véase Fenton-O’Creevy, Mark; Nicholson, Nigel; Soane, Emma; Willman, Paul, “Trading on illusions: Unrealistic perceptions of control and trading performance”, Journal of Occupational and Organizational Psychology.

78 . Sadin, Éric, “Intelligence artificielle : résistons à la ‘main invisible automatisée’”, Le Monde, 22 de febrero de 2018.

79 . “Google and the Search for the Future”, Wall Street Journal, 14 de agosto de 2010.

80. “Gouvernementalité algorithmique: arme ultime pour ne pas changer”, People Sphere, nº 211, marzo de 2017.

81 . “Google and the Search for the Future”, op. cit.

82 . Véase su conferencia TED de abril de 2017 y su entrevista en Wired del 27 de julio de 2017.

83 . Kosinski, Michal; Stillwell, David y Graepel, Thore, “Private traits and attributes are predictable from digital records of human behavior”, PNAS, vol. 110, nº 15, 9 de abril de 2013, pp. 5.802-5.805.

84 . Véase, por ejemplo, Goel, S.; Hofman, J. M. y Sirer, M. I., “Who does what on the Web: Studying Web browsing behavior at scale”, International Conference on Weblogs and Social Media, 2012, pp. 130-137.

85 . Youyou, Wu; Kosinski, Michal y Stillwell, David, “Computer-based personality judgments are more accurate than those made by humans”, PNAS, 27 de enero de 2015.

86 . “Baidu and KFC’s new smart restaurant suggests what to order based on your face”, Wired, 23 de diciembre de 2016.

87 . Rouvray, Antoinette, en “Gouvernementalité algorithmique: arme ultime pour ne pas changer”, op. cit.

88 . Steigler, Bernard, Dans la disruption, Les Liens qui Libèrent, 2016.

89 . “Au-delà des fantasmes, quels sont les problèmes concrets que pose l’intelligence artificielle?” Le Monde, 3 de agosto de 2017.

90 . “Borra Whatsapp, es lo más parecido a tener a alguien al lado leyendo lo que piensas”, El Confidencial, 21 de febrero de 2019.

91 . Kramer, Adam D. I.; Guillory, Jamie E. y Hancock, Jeffrey T., “Experimental evidence of massive-scale emotional contagion through social networks”, PNAS, 17 de junio de 2014.

92 . Shaw, David, “Facebook’s flawed emotion experiment: Antisocial research on social network users”, Research Ethics, vol. 12, nº 1, 2016, pp. 29-34.

93 . Lapowski, Ippy, “By Defying Apple’s Rules, Facebook Shows It Never Learns”, Wired, 30 de enero de 2019.

94 . Kœnig, Gaspard, La fin du libre arbitre, citado en Le Point, 31 de enero de 2019.

95 . Daniel Innerarity, “La decisión de Siri”, El País, 9 de octubre de 2018.

96 . Audureau, William, “L’inventeur du Web exhorte à réguler l’intelligence artificielle”, Le Monde, 27 de julio de 2018.

97 . Bartlett, Jamie, The People Vs. Tech. How Internet is Killing Democracy (and How We Save It), Penguin Random House, 2018.

98 . Susarla, Anjana, “The new digital divide is between people who opt out of algorithms and people who don’t”, The Conversation, 17 de abril de 2019.

99 . “High School in China Installs Facial Recognition Cameras to Monitor Students’ Attentiveness”, The Epoch Times, 16 de mayo de 2018.

100. Balenieri, Raphaël, “En Chine, 1,4 milliard de suspects”, Libération, 27 de diciembre de 2017.

101. Pluyette, Cyrille, “En Chine, un incroyable ‘Big Brothe’ pour trier les bons et les mauvais citoyens”, Le Figaro, 19 de abril de 2018.

102. “Bons et mauvais Chinois”, Le Monde Diplomatique, enero de 2019.

103. “China’s public toilets now have facial recognition, thanks to Xi Jinping”, TechInAsia, 21 de diciembre de 2018.

104. Datos recogidos por Statista Research Department el 10 de enero de 2020, (www.statista.com/statistics/255778/number-of-active-wechat-messenger-accounts/).

105. Balenieri, Raphaël, op. cit.

106. Pluyette, Cyrille, op. cit.

107. Ibid.

108. Pluyette, Cyrille, op. cit.

109. Raphaël, René y Xi, Lin, “Bons et mauvais Chinois”, Le Monde diplomatique, enero de 2019.

110. “Alibaba Group Announces September Quarter 2019 Results”, Alibaba Group, Hangzhou, 1 de noviembre de 2019.

111. Hatton, Celia, “China ‘social credit’: Beijing sets up huge system”, BBC News, 26 de octubre de 2015.

112. Raphaël, René y Xi, Lin, op. cit.

113. Larry Ong, “In Beijing, ‘Big Brother’ Now Sees All”, The Epoch Times, 5 de octubre de 2015.

114. Citado en Pluyette, Cyrille, op. cit

115. Aten, Jason, “Appel Won’t Help the FBI Unlock a Terrorist’s iPhone. Here’s Why It Shouldn’t”, Inc, 14 de enero de 2020.

116. “Vingt-quatre heures en 1984”, Libération, 27 de diciembre de 2017.

117. “Surveillance Cameras Made by China Are Hanging All Over the U.S.”, The Wall Street Journal, 12 de noviembre de 2017.

118. Raphaël, René y Xi, Lin, op. cit.

119. Poulson, Jack, “I used to Work at Google. I am a Conscientious Objector”, The New York Times, 23 de abril de 2019.

120. Greenwald, Glenn, “XKeyscore: NSA tool collects ‘nearly everything a user does on the internet’”, The Guardian, 31 de julio de 2013.

121. Salamé, Léa y Demorand, Nicolas, “Edward Snowden ‘Ce qu’il faut changer, c’est pas une entreprise, un téléphone, un logiciel: c’est le système’”, France Inter, 16 de septiembre de 2019.

122. Snowden no era propiamente un empleado de la NSA, pues trabajaba para el subcontratista Booz Allen Hamilton; sin embargo, es evidente que tenía acceso.

123. Greenwald, Glenn, op. cit.

124. Dozier, Kimberly, “Senators: Limit NSA snooping into US phone records”, Associated Press, 29 de octubre de 2013.

125. François, Pierre-Olivier, “Cyberattaques: ‘Beaucoup de pays se font passer pour des Chinois’”, Libération, 21 de septiembre de 2015.

126. Dugain, Marc y Labbé, Christophe, op. cit.

127. Lo que no le impidió luego integrar dicha tecnología en su servicio Google Photos, por el que la empresa ha estado en el punto de mira por etiquetar a las personas negras con simios.

128. Ibid.

129. Ibid.

130. Luke Stark, “Facial recognition is the plutonium of AI”, XRDS 25, 3 de abril de 2019, pp. 50-55.

131. Zuboff, Shoshana, “You Are Now Remotely Controlled”, The New York Times, 24 de enero de 2020.

132. “Agencia para los Proyectos de Investigación Avanzada de Defensa”; también se crea la IARPA (Intelligence Advanced Research Projects Activity) siguiendo el mismo modelo y en respuesta, más específicamente, a las necesidades en términos de información.

133. Rosenbach, Marcel, “How the NSA Accesses Smartphone Data”, Der Spiegel, 9 de septiembre de 2013.

134. Wakabayashi, Daisuke y Shane, Scott, “Google Will Not Renew Pentagon Contract That Upset Employees”, The New York Times, 1 de junio de 2018.

135. En referencia a los cofundadores de la plataforma de pago Paypal, Peter Thiel, Elon Musk y Reid Hoffman.

136. McNamee, Roger, “A Brief History of How Your Privacy Was Stolen”, The New York Times, 3 de junio de 2019.

137. Zuboff, Shoshana,“You Are Now Remotely Controlled”, op. cit.

138. Hanvey, Bill, “Your Car Knows When You Gain Weight”, The New York Times, 20 de mayo de 2019.

139. Pascual, Manuel G., “Richard Stallman: ‘Los móviles espían y transmiten nuestras conversaciones, incluso apagados’”, El País, 18 de marzo de 2019.

140. Egelman, Serge, “Ad IDs Behaving Badly”, The AppCensus Blog, 14 de febrero de 2019.

141. Kwet, Michael, “In Stores, Secret Bluetooth Surveillance Tracks Your Every Move”, The New York Times, 14 de junio de 2019.

142. Whittaker, Zach, “Many Popular iPhone Apps Secretely Record Your Screen Without Asking”, Techcrunch, 6 de febrero de 2019.

143. Hoffman, David A., “Intel Executive: Rein in Data Brokers”, The New York Times, 15 de julio de 2019.

144. Walker, Joseph, “Data mining to recruit sick people”, The Wall Street Journal, 17 de diciembre de 2013, citado en Pasquale, Frank, “Mettre fin au trafic des données personnelles”, Le Monde Diplomatique, mayo de 2018.

145. Pasquale, Frank, “Mettre fin au trafic des données personnelles”, op. cit.

146. Diallo, Kesso, “Des employés d’Amazon écoutent les conversations des utilisateurs avec Alexa”, Le Figaro, 11 de abril de 2019.

147. Lakshmanan, Ravie, “Google forces Nest users to use Google accounts, raising privacy concerns”, The Next Web, 13 de mayo de 2019.

148. Rubio, Isabel, “Paloma Llaneza: ‘Es más peligroso tener a Alexa encima de la mesa que a un señor observándote cada día en el salón’”, El País, 4 de marzo de 2019.

149. Rizer, Arthur, “The Next Security Risk May Be Your Vibrator”, Wired, 6 de agosto de 2017.

150. Salas, Javier, “Por qué hay que prohibir que nos manipulen el cerebro antes de que sea posible”, El País, 12 de febrero de 2020.

151. “Moverse deprisa y romper cosas”, en “Silicon Valley wants to read your mind – here’s why you should be worried”, The Conversation, 16 de agosto de 2019.

152. Dugain, Marc y Labbé, Christophe, op. cit.

153. “Vint Cerf is Wrong. Privacy is not an Anomaly”, The Center for Internet and Society (Stanford Law School), 22 de noviembre de 2013.

154. Entrevista “Google’s Privacy”, CNBC, 9 de diciembre de 2009.

155. Zuboff, Shoshana, The Age of Surveillance Capitalism, Profile Books Ltd, Londres, 2019.

156. Sondeo de la NBC News/Survey Monkey, 2016.

157. Aral, Sinan; Roy, Deb y Vosoughi, Soroush, “The spread of true and false news online”, Science, 9 de marzo de 2018, vol. 359, nº 6380, pp. 1.146-1.151.

158. Véase, por ejemplo, Fan, Rui; Zhao, Jichang; Chen, Yan y Xu, Ke, “Anger is More Influential Than Joy: Sentiment Correlation in Weibo”, State Key Laboratory of Software Development Environment, Universidad de Beihang, China.

159. Weisburd, Andrew; Watts, Clint y Berger, J. M., “Trolling for Trump: How Russia Is Trying to Destroy Our Democracy”, War on the Rocks, 6 de noviembre de 2016.

160. Chen, Adrian, “The Real Paranoia-Inducing Purpose of Russian Hacks”, The New Yorker, 27 de julio de 2016.

161. Milosevich-Juaristi, Mira, “El poder de la influencia rusa: la desinformación”, Real Instituto Elcano, 20 de enero de 2017.

162. Expresión utilizada por la consejera de la Casa Blanca Kellyanne Conway el 22 de enero de 2017.

163. Hasher, Lynn; Goldstein, David y Toppino, Thomas, “Frequency and the conference of referential validity”, Journal of Verbal Learning and Verbal Behavior, vol. 16, nº 1, 1977, pp. 107-112.

164. Polage, Danielle, “Making up History: False Memories of Fake News Stories”, Europe’s Journal of Psychology, vol. 8, nº 2, 2012, pp. 245-250.

165. Pennycook, G.; Cannon, T. D. y Rand, D. G., “Prior exposure increases perceived accuracy of fake news”, Journal of Experimental Psychology, vol. 147, nº 12, 2018.

166. Dreyfuss, Emily, “Want to Make a Lie Seem True? Say It Again. And Again. And Again”, Wired, 11 de febrero de 2017.

167. La influencia ejercida por Cambridge Analytica en estas elecciones se retrata en El gran hackeo (2019), un documental de Jehane Noujaim y Karim Amer.

168. Haidt, Jonathan, op. cit.

169. Mozur, Paul, “A Genocide Incited on Facebook, With Posts From Myanmar’s Military”, The New York Times, 15 de octubre de 2018.

170. “Influenceurs: où est la confiance?”, TBWA Corporate, 4 de mayo de 2018.

171. Véase, en especial, el informe realizado por 26 investigadores de IA: Brundage, Miles, et al., The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, University of Oxford/Future of Humanity Institute, febrero de 2018.

172. El “aprendizaje profundo” permite a un ordenador modelizar grandes cantidades de datos y darles “sentido”.

173. “RealTalk: This Speech Synthesis Model Our Engineers Built Recreates a Human Voice Perfectly”, 15 de mayo de 2019.

174. “How Our World Will Change by 2099 According to a Futurologist Whose Predictions Come True in 86% of Cases”, The Royalties, 3 de abril de 2018.

175. Bronner, Gérard, Déchéance de rationalité, Grasset, 2019.

176. Boulton, Doug, “Scientists develop Matrix-style technology capable of ‘uploading knowledge’ to your brain”, The Guardian, 1 de marzo de 2016.

177. El término disrupción es, por cierto, una marca registrada en 36 países, propiedad de la agencia TBWA, presidida por Jean-Marie Dru, el primero en emplearlo en el ámbito económico.

178. Rouvray, Antoinette, “Gouvernementalité algorithmique: arme ultime pour ne pas changer”, Peoplesphere, nº 211, marzo de 2017.

179. Roettgers, Janko, “Netflix Replacing Star Ratings With Thumbs Ups and Thumbs Downs”, Variety, 16 de marzo de 2017.

180. The Road to Wigan Pier, Victor Gollancz Ltd., 1937, cap. XII.

181. Blay, Michel, op. cit. La expresión “ethos del ingeniero” está tomada de Fernand Hallyn.

182. Pentland, Alex (Sandy), Social Physics. How Good Ideas Spread – The Lessons from A New Science, Penguin Random House, 2014.

183. Lee, Kai-Fu, Superpotencias de la inteligencia artificial. China, Silicon Valley y el nuevo orden mundial, Deusto, 2020.

184. Morozov, Evgeny, “Is Smart Making us Dumb?”, Wall Street Journal, 23 de febrero de 2013.

185. Ibid.

186. Green, Ben, The Smart Enough City. Putting Technology in Its Place to Reclaim Our Urban Future, MIT Press, 2019.

187. Han, Hahrie, How Organizations Develop Activists, citado en Green, Ben, op. cit.

188. Véase, por ejemplo, Régnauld, Iréné, “Toronto Quayside: la cité-État numérique peut-elle être démocratique?”, Socialter, 3 de julio de 2019.

189. Documental Into the Universe with Stephen Hawking (2010).

190. The Road to Wigan Pier, Victor Gollancz Ltd., 1937, cap. XII.

191. Bonet, Ángel, El Tsunami tecnológico, Deusto, 2018.

192. Lee, Kai-Fu, op. cit.

193. Cifras de septiembre de 2019 correspondientes a California (Monthly Labor Force Data for Counties, 18 de junio de 2021) y de octubre de 2019 correspondientes a Israel (“Israel Unenployment Rate”, tradingeconomics.com).

194. Hublet, Laurent, “Apprendre à piloter le pilote automatique – quels emplois et quelle démocratie à l’heure des algorithmes?”, Philosophie & Management, 18 de abril de 2017, conferencia en Bruselas.

195. Bush, Brad, “How combined human and computer intelligence will redefine jobs”, TechChrunch, 1 de enero de 2016.

196. Kai-Fu Lee recoge los estudios de McKinsey, PwC y Oxford en Superpotencias de la inteligencia artificial, donde hace una de las revisiones más completas publicadas en la materia.

197. Moravec, Hans, Mind Children, Harvard University Press, 1988.

198. Harari, Yuval Noah, 21 lecciones para el siglo XXI, Debate, 2018.

199. Levy, David, Amor y sexo con robots, Paidós, 2007.

200. Kleeman, Jenny, “The race to build the world’s first sex robot”, The Guardian, 27 de abril de 2017.

201. Ibid.

202. Wang, Kelly, “‘iPal’ robot companion for China’s lonely children”, Phys.org, 14 de junio de 2018.

203. Dufour, Audrey, “Les robots pour les personnes âgées, est-ce une bonne idée?”, La Croix, 26 de enero de 2017.

204. Heyns, Christoph, “Meeting of experts on LAWS, United Nations, Geneva”, 13-17 de abril de 2015, en Lambert, Dominique, L’utilisation des armes létales autonomes et des drones, Libreria Editrice, 2017.

205. Lafontaine, Cécile, L’Emprise cybernétique, citado en Dugain, Marc y Labbé, Christophe, op. cit.

206. Floridi, Luciano, The Fourth Revolution: How the Infosphere is Reshaping Human Reality, Oxford University Press, 2014.

207. Lee, Kai-Fu, op. cit.

208. Ibid.

209. Harari, Yuval Noah, 21 lecciones para el siglo XXI, op. cit.

210. A pesar de ser un autor sumamente controvertido, ya que también fue un asesino en serie y un terrorista que luchaba contra la tecnología.

211. Sadin, Éric, “Intelligence artificielle : résistons à la “main invisible automatisée”, op. cit.

212. Joy, Bill, “Why the Future Doesn’t Need Us”, op. cit.

213. Cortina, Adela, “Ética de la inteligencia artificial desde Europa”, El País, 6 de junio de 2019.

214. Dubois, Jennifer y Louvencourt, Gaëlle, “Nicholas Carr, ‘Remplacer l’humain. Critique de l’automatisation de la société’, Editions l’Echappée, 2017”, Interfaces numériques, vol. 7, nº 1, 2018.

215. Derren Brown, introducción a su espectáculo Miracle.

216. Blay, Michel, op. cit.

217. “Former Google CEO Eric Schmidt tells BU grads to solve world’s problems through technology, innovation”, The Daily Free Press, 20 de mayo de 2012.

218. Véase Vion-Dury, Philippe, La nouvelle servitude volontaire, FYP, 2016.

219. Sadin, Éric, op. cit.

220. Citado en Dugain, Marc y Labbé, Christophe, op. cit.

221. “L’inventeur du Web exhorte à réguler l’intelligence artificielle”, Le Monde, 27 de abril de 2018.

222. López Blanco, Carlos, “Facebook en su laberinto”, El País, 23 de mayo de 2018.

223. Morrison, Patt, “Evgeny Morozov, Internet Cassandra”, Los Angeles Times, 19 de junio de 2013.

224. Kyrou, Ariel, Google God, Big Brother n’existe pas, il est partout, Inculte, 2010.

225. Cuthbertson, Anthony, “Ray Kurzweil: Human brains could be connected to the cloud by 2030”, International Business Times 4 de junio de 2015.

226. Ibid.

227. Mediavilla, Daniel, “El ‘charlatán’ que dice que vamos a ser inmortales en treinta años”, El País, 30 de noviembre de 2017.

228. “Les robots font-il l’amour?”, programa La tête au carré, France Inter, 7 de noviembre de 2016.

229. “Jacques Testart vs. Laurent Alexandre: le transhumanisme sur la sellette”, Genéthique, 14 de junio de 2018.

230. Ibid.

231. Besnier, Jean-Michel y Alexandre, Laurent, Les robots font-ils l’amour? Le transhumanisme en 12 questions, Dunod, 2016.

232. Eudes, Yves, “Singularity University, les technologies exponentielles”, Le Monde, 1 de noviembre de 2014.

233. Earle, James, “Homer Meets High-Tech: Data Visualization and the Classics”, Edutopia, 20 de noviembre de 2015.

234. Adams, Susan, “Can AltSchool —The Edtech Startup With $174M From Billionaires Like Zuckerberg And Thiel— Save Itself From Failure?”, Forbes, 30 de enero de 2019.

235. Morozov, Evgeny, “Rockefeller gave away money for no return. Can we say the same of today’s tech barons?”, The Guardian, 16 de octubre de 2016.

236. Zuckerberg, Mark, “A letter to our daughter”, Facebook, 1 de diciembre de 2015.

237. Méndez, Manuel Ángel, “La ingeniera a la que Reino Unido ha pedido ayuda para solucionar el caos del Brexit”, El Confidencial, 27 de febrero de 2019.

238. Ferenstein, Gregory, “Google’s Schmidt Says Inequality Will Be Number One Issue For Democracies”, TechCrunch, 7 de marzo de 2014.

239. Zuckerman, Ethan, “The worst thing I read this year, and what it taught me… or Can we design sociotechnical systems that don’t suck?”, Ethan Zuckerman Blog, 22 de junio de 2016.

240. “Pour une sobriété numérique”, informe del think tank Shift, 4 de octubre de 2018.

241. Bouterre, Morgane, “Internet: monde virtuel, pollution réelle”, ConsoGlobe, 21 de febrero de 2015.

242. Email Statistic Report 2016-2020, Radicati Group.

243. “La pollution numérique, qu’est-ce que c’est ?”, Greenpeace (www.greenpeace.fr/la-pollution-numerique/).

244. Meunier, Nicolas, “Et si la voiture électrique était un désastre écologique?”, Challenges, 21 de marzo de 2018.

245. Renaudin, Joachim, “La révolution de la 5G nous réserve une hyperconsommation numérique énergivore”, Le Monde, 19 de noviembre de 2019.

246. Chateauraynaud, Francis (sociólogo); Chavalarias, David (matemático) y Debaz, Josquin (historiador de las ciencias), “Les technologies numériques n’apportent pas de réponses universelles”, Le Monde, 1 de marzo de 2019.

247. Dayen, David, “The Final Battle in Big Tech’s War to Dominate Your World”, The New Republic, 8 de abril de 2019.

248. Nos hemos inspirado para este título en la obra Zucked. Waking Up to the Facebook Catastrophe (Penguin Press, 2019) de Roger McNamee, uno de los primeros inversores de la red social que se convirtió en uno de sus críticos más feroces.

249. Manthorpe, Rowland, “Europe vs Silicon Valley: behind enemy lines with the woman deciding Google’s fate”, Wired, 27 de junio de 2017.

250. Bursztynsky, Jessica, “Apple becomes first U.S. company to reach a $2 trillion market cap”, CNBC, 19 de agosto de 2020.

251. Enberg, Jasmine, “Global Digital Ad Spending 2019”, eMarketer, 28 de marzo de 2019.

252. Braun, Elisa, “L’Autorité de la concurrence s’attaque à la ‘position écrasante’ de Google et Facebook”, Le Figaro, 6 de marzo de 2018.

253. Day, Mat y Soper, Spencer, “Amazon U.S. Online Market Share Estimate Cut to 38% From 47%”, Bloomberg, 13 de junio de 2019.

254. Olivia LaVecchia y Stacy Mitchell, Amazon’s Stranglehold: How the Company’s Tightening Grip Is Stifling Competition, Eroding Jobs, and Threatening Communities, Institute for Local Self-Reliance, noviembre de 2016.

255. Gesenhues, Amy, “Amazon owns more than 90% market share across 5 different product categories”, Martech, 31 de mayo de 2018.

256. Birkinshaw, Julian, “Ecosystem Businesses Are Changing the Rules of Strategy”, Harvard Business Review, 8 de agosto de 2019.

257. Lefaix, Éléonore, “Spotify vs Apple : la guerre est déclarée, Apple a répondu”, Siècle Digital, 15 de marzo de 2019.

258. He, Amy, “Amazon Maintains Convincing Lead in US Smart Speaker Market”, eMarketer, 18 de febrero de 2020.

259. Bort, Julie, “A Tour Of Facebook’s Disneyland-Inspired Campus Where The Shops And Restaurants Are Free”, Business Insider, 13 de octubre de 2013.

260. Hartman, Avery, “Facebook is building a village that will include housing, a grocery store and a hotel”, Business Insider, 7 de julio de 2017.

261. Véase www.socialpilot.co/blog/social-media-statistics#fb-engagement-stats

262. Carey-Simos, George, “How Much Data Is Generated Every Minute On Social Media?”, Wersm, 19 de marzo de 2015.

263. Lee, Kai-Fu, op. cit.

264. Leloup, Damien y Untersinger, Martin, “‘Le pouvoir de Mark est sans précédent’: un des cofondateurs de Facebook appelle à le démanteler”, Le Monde, 8 de mayo de 2019.

265. Townsend, Tess, “Alphabet shareholders want more voting rights but Larry and Sergey don’t want it that”, Vox, 13 de junio de 2017.

266. Leloup, Damien y Untersinger, Martin, op. cit.

267. Isaac, Mike; Kang, Cecilia y Frenkel, Sheera, “Zuckerberg Defends Hands-Off Approach to Trump’s Posts”, The New York Times, 2 de junio de 2020. En enero de 2021, sin embargo, la compañía decidió sencillamente excluir al presidente Trump de la plataforma, prohibiéndole publicar cualquier tipo de mensaje —una práctica que suscita otra clase de preocupaciones que trataremos más adelante—.

268. Lomas, Natasha, “WhatsApp founder, Brian Acton, says Facebook used him to get its acquisition past EU regulators”, TechCrunch, 26 de septiembre de 2018.

269. Isaac, Mike, “Facebook ‘Trending’ List Skewed by Individual Judgment, Not Institutional Bias”, The New York Times, 20 de mayo de 2016.

270. Nunez, Michael, “Facebook Admits Its Trending Section Includes Topics Not Actually Trending on Facebook”, Gizmodo, 12 de mayo de 2016.

271. Nakamura, Reid, “Facebook Fires Entire Trending Topics Team”, The Wrap, 26 de agosto de 2016.

272. Wagner, Kurt, “Mark Zuckerberg says it’s ‘crazy’ to think fake news stories got Donald Trump elected”, Vox, 11 de noviembre de 2016.

273. Foer, Franklin, Un mundo sin ideas: la amenaza de las grandes tecnológicas a nuestra identidad, Paidós Ibérica, 2017.

274. Pegg, David, “From Seattle to Luxembourg: how tax schemes shaped Amazon”, The Guardian, 25 de abril de 2018.

275. Webb, Sam, “Microsoft avoids paying £159 million in corporation tax every year using Luxembourg tax loophole”, Mail Online, 9 de diciembre de 2012.

276. Kahn, Jeremy, “Google’s ‘Dutch Sandwich’ Shielded 16 Billion Euros From Tax”, Bloomberg, 2 de enero de 2018.

277. “Facebook Spain pagó 864.098 euros en impuestos tras multiplicar por diez su actividad en España”, El Español, 8 de noviembre de 2019.

278. Cano, Fernando, “Telefónica, Vodafone y Orange pagan 1.200 millones en impuestos y las tecnológicas solo 23”, El Español, 20 de septiembre de 2019.

279. Hightower, Jim, “4 Ways Amazon’s Ruthless Practices Are Crushing Local Economies”, Alternet, 25 de septiembre de 2014.

280. Entre miles de ejemplos, tenemos un vídeo publicado por la Hacienda francesa relativo a la retención en origen con ocasión de la campaña para la declaración de 2017.

281. Leloup, Damien y Untersinger, Martin, op. cit.

282. Daponte-Smith, Noah, “Eric Holder and the New Revolving Door”, National Review, 21 de julio de 2016.

283. Delventahal, Shoshanna, “Obamas Sign Multiyear Contract with Netflix”, Investopedia, 21 de mayo de 2018.

284. Dayen, David, “The ‘Amazon Amendment’ Would Effectively Hand Government Purchasing Power Over to Amazon”, The Intercept, 2 de noviembre de 2017.

285. Pegg, David, “From Seattle to Luxembourg: how tax schemes shaped Amazon”, The Guardian, 25 de abril de 2018.

286. López Blanco, Carlos, op. cit.

287. Pasquale, Frank, “From Territorial to Functional Sovereignty: The Case of Amazon”, LPE Project, 12 de junio de 2017.

288. Ibid.

289. Van Loo, Rory, “The Corporation as a Courthouse”, Yale Journal on Regulation, vol. 33, 2016.

290. Pasquale, Frank, “From Territorial to Functional Sovereignty: The Case of Amazon”, op. cit.

291. Yo mismo, como empresario, he tenido que afrontar una situación en la que otra empresa utilizaba mi marca registrada Amovens para anunciarse, induciendo a error a quienes la buscaban. Google impartió su “justicia” afirmando que no reconocía las denominadas marcas “mixtas”: las consistentes en un nombre y un logotipo; y que solo tenía en cuenta las marcas nominativas. Sin embargo, no corresponde a un actor privado decidir qué marcas reconoce y cuáles no, puesto que es evidente que una marca mixta es una marca nominativa a la que se añade, además, una imagen.

292. Rameaux, Marc, “Les GAFAM élevés au rang de puissance diplomatique ou la tyrannie des géants du Web”, Le Figaro, 2 de febrero de 2017.

293. An introduction to Libra, Libra Association Members, Whitepaper Database.

294. Declaración realizada por el senador en Twitter.

295. Dayen, David, “Big Tech’s War for Your Wallet: Facebook Sparks Outrage After Announcing Plans for Digital Currency”, Democracy Now!, 19 de junio de 2020.

296. Schneier, Bruce, “When It Comes to Security, We’re Back to Feudalism”, Wired, 26 de noviembre de 2012.

297. Otto, Carlos, “Asco de vida, Cuánto cabrón… Los españoles que atraen millones de visitas a golpe de clic”, El Confidencial, 6 de febrero de 2017.

298. Constine, Josh, “Facebook pays teens to install VPN that spies on them”, TechCrunch, 30 de enero de 2019.

299. Ibid.

300. “Usage statistics of traffic analysis tools for websites”, W3Techs Web Technology Surveys, 22 de abril de 2020.

301. Bembaron, Elsa, “L’Europe inflige une amende record de 2,42 milliards d’euros à Google”, Le Figaro, 27 de junio de 2017.

302. Berry, Philippe, “Pour Google, une amende de 4,3 milliards d’euros est un PV de stationnement”, 20 Minutes, 18 de julio de 2018.

303. Mattioli, Dana, “Amazon Scooped Up Data From Its Own Sellers to Launch Competing Products”, The Wall Street Journal, 23 de abril de 2020.

304. Perlberg, Steven y Seetharaman, Deepa, “Facebook Signs Deals With Media Companies, Celebrities for Facebook Live”, The Wall Street Journal, 22 de junio de 2016.

305. Becquet, Nicolas, “Comment Facebook achète la presse française”, Mediapart, 1 de diciembre de 2017.

306. Sitios web informativos sin edición en papel.

307. Abramson, Jill, “How Google and Facebook Are Slowly Strangling Their Digital Offspring”, Vanity Fair, 29 de enero de 2019.

308. Becquet, Nicolas, op. cit.

309. Abramson, Jill, op. cit.

310. Khan, Lina M., “Amazon’s Antitrust Paradox”, Yale Law Journal, vol. 126, n.º 3, enero de 2017.

311. Vauhini Vara, “Is Amazon Creating a Cultural Monopoly?”, The New Yorker, 3 de agosto de 2015.

312. Thompson, Ben, “Why Facebook Shouldn’t Be Allowed to Buy tbh”, Stratechery, 23 de octubre de 2017.

313. Estados Unidos contra Columbia Steel Co., 334 U.S. 495, 536 (1948) (Douglas, J., disensión), en Khan, Lina M., op. cit.

314. Khan, Lina M., op. cit.

315. Véase, por ejemplo, Wagner, Kurt y Molla, Rani, “Facebook ad costs spiked higher after a big change to its News Feed algorithm”, Vox, 7 de marzo de 2018.

316. Srinivasan, Dina, “Why Privacy Is an Antitrust Issue”, The New York Times, 28 de mayo de 2019.

317. Ingresos medios de Facebook por usuario (ARPU por sus siglas en inglés) entre 2012 y 2019 (www.statista.com/statistics/234056/facebooks-average-advertising-revenue-per-user/).

318. Frick, Walter, “As More People Worry About Monopolies, an Economist Explains What Antitrust Can and Can’t Do”, Harvard Business Review, 1 de noviembre de 2017.

319. Lee, Kai-Fu, op. cit.

320. Joy, Bill, “Why the Future Doesn’t Need Us”, op. cit.

321. Criado, Miguel Ángel, “Últimas noticias del fin del mundo”, El País, 14 de marzo de 2015.

322. Pamlin, Dennis y Armstrong, Stuart, 12 Risks that threaten human civilisation, Global Challenge Foundation-University of Oxford, 13 de febrero de 2015.

323. Joy, Bill, “Why the Future Doesn’t Need Us”, op. cit.

324. “I’m Bill Gates and I’m back for my third AMA. Ask me anything”, Reddit.

325. Brundage, Miles, et al., op. cit.

326. “‘Whoever leads in AI will rule the world’: Putin to Russian children on Knowledge Day”, RT, 1 de septiembre de 2017.

327. Musk, Elon [@elonmusk] (4 de septiembre de 2017). China, Russia, soon all countries w strong computer science. Competition for AI superiority at national level most likely cause of WW3 imo. [Tuit] Twitter.

328. Smolar, Piotr, “Yuval Noah Harari: ‘On pourra bientôt pirater les êtres humains’”, Le Monde, 19 de septiembre de 2018.

329. “UNICRI Centre for Artificial Intelligence and Robotics”, United Nations Interregional Crime and Justice Research Institute (www.unicri.it/in_focus/on/unicri_centre_artificial_robotics).

330. Knight, Will, “AI arms control may not be possible, warns Henry Kissinger”, MIT Technology Review, 1 de marzo de 2019.

331. Barber, Kevin, et al., “Nanotechnology for Uranium Separations and Immobilization. Advances in Materials Science for Environmental and Nuclear Technology”, Ceramic Transactions, nº 232, 13 de agosto de 2010.

332. Tsuruoka, Doug, “3D printing: a do-it-yourself apocalypse tool”, Asia Times, 17 de agosto de 2017.

333. Bilton, Nick, “Disruptions: With a 3-D Printer, Building a Gun with the Push of a Button”, The New York Times, 7 de octubre de 2012.

334. “3D printable gun files on sale for as low as $12 on the dark-web”, 3D Natives, 25 de julio de 2017.

335. Véase http://www.chem.gla.ac.uk/cronin/

336. Atherton, Kelsey D., “University Students Launched A Rocket With Completely 3D-Printed Engine”, Popular Science, 26 de mayo de 2016.

337. Joy, Bill, “What I’m Worried About, What I’m Excited About” TED Talk, febrero de 2006.

338. Anthony Aguirre, “Quelle Intelligence pour l’humanité ?”, Le Monde, 13 de abril de 2018.

339. Musk, Elon, op. cit.

340. Tal como demuestra el estudio del MIT al que hemos aludido en el quinto capítulo.

341. Véase, por ejemplo, Brundage, Miles, et al., op. cit.

342. Petranek, Stephen, “Ten Ways the World Could End”, TED Talk, 2002.

343. En The Day After Trinity: J. Robert Oppenheimer and the Atomic Bomb (1981), documental de Jon Else, con guion de David Peoples, Janet Peoples y Jon Else.

344. Joy, Bill, “Why the Future Doesn’t Need Us”, op. cit.

345. Audureau, William, “L’inventeur du Web exhorte à réguler l’intelligence artificielle”, Le Monde, 27 de abril de 2018.

346. Véase Drexler, K. Eric, La nanotecnología: El surgimiento de las máquinas de creación, Gedisa, 1993.

347. Término acuñado por Robert Freitas, otro científico especializado en nanotecnología, que se refería en un inicio exactamente al mismo escenario que gray goo.

348. Véase, por ejemplo, Petranek, Stephan, op. cit.

349. Lentzos, Filippa e Invernizzi, Cédric, “DNA origami: Unfolding risk?”, Bulletin of the Atomic Scientists, 25 de enero de 2018.

350. Menon, Chris, “Could AI be a threat to humanity?”, Reader’s Digest, 18 de febrero de 2019.

351. Tual, Morgane, “Enquête au cœur de l’intelligence artificielle, ses promesses et ses périls”, Le Monde, 30 de diciembre de 2017.

352. Véase la web de la empresa de ingeniería robótica Boston Dynamics: www.bostondynamics.com/atlas o www.bostondynamics.com/spot

353. Lee, Kai-Fu, op. cit.

354. “Stephen Hawking: ‘Transcendence looks at the implications of artificial intelligence – but are we taking AI seriously enough?’”, The Independent, 23 de octubre de 2017.

355. Boström, Nick, “What is a Singleton?”, Linguistic and Philosophical Investigations, vol. 5, nº 2, 2006.

356. Dowd, Maureen, “Elon Musk’s Billion-Dollar Crusade to Stop the A.I. Apocalypse”, The Hive, abril de 2017.

357. Menon, Chris, op. cit.

358. Garreffa, Anthony, “Elon Musk on AI: they would treat us like ‘pet Labradors’”, TweakTown, 28 de marzo de 2015.

359. Trémolet de Villers, Vincent, “Laurent Alexandre: ‘Bienvenue à Gattaca deviendra la norme’”, Le Figaro, 2 de junio de 2017.

360. Ibid.

361. Phillips, Tony, “Severe Space Weather--Social and Economic Impacts”, NASA, 21 de enero de 2009.

362. Véase “Severe Space Weather—Social and Economic Impacts”, NASA, 21 de enero de 2009; “We’re Overdue For The 150-year Carrington Event”, Gaia, 25 de septiembre de 2017; Lucchese, Vincent, “Tempête solaire: ce chaos mondial qui peut surgir en quelques heures”, Usbek & Rica, 24 de abril de 2017.

363. Méndez, Manuel Ángel, “Tu coche ya está conectado a internet y ahora cualquiera puede usarlo para matarte”, El Confidencial, 11 de julio de 2019.

364. https://thebulletin.org/doomsday-clock

365. “Autonomous Weapons: an Open Letter from AI & Robotics Researchers”, Future of Life Institute, 28 de julio de 2015.

366. Discurso pronunciado el 27 de febrero de 1812 ante la Cámara de los Lores, en el marco del debate del proyecto de ley que pretendía imponer la pena de muerte a los luditas.

367. Papa Francisco, Laudato si’, §108.

368. Sadin, Éric, “Intelligence artificielle : résistons à la ‘main invisible automatisée’”, op. cit.

369. Véanse Zavia, Matías S., “10 sesgos cognitivos que manipulan tu opinión sin que te des cuenta (y cómo evitarlos)”, Gizmodo, 18 de abril de 2016; https://yourbias.is/ y https://uxinlux.github.io/cognitive-biases/52-liste-fr/

370. Roose, Kevin, “Do Not Disturb: How I Ditched My Phone and Unbroke My Brain”, The New York Times, 23 de febrero de 2019.

371. Rubio, Isabel, op. cit.

372. Primera carta a Lucilio.

373. Blay, Michel, op. cit.

374. Sheenan. Anne, “Letter from JANA Partners & CalSTRS to Apple, Inc.”, CalSTRS, 19 de enero de 2018.

375. Statt, Nick, “The creators of the iPhone are worried we’re too addicted to technology”, The Verge, 29 de junio de 2017.

376. Guillaud, Hubert, “Police prédictive: vers une prédiction responsable?”, InternetActu, 27 de septiembre de 2017, disponible en 3.ly/a9u8y.

377. Twenge, Jean M., op. cit.

378. Ronfaut, Lucie, “San Francisco se rebiffe contre la Silicon Valley”, Le Figaro, 23 de mayo de 2019.

379. “Why San Francisco’s homeless population keeps increasing”, MarketWatch, 17 de mayo de 2019.

380. Erhardt, Gregory D.; Roy, Sneha; Cooper, Drew; Sana, Bhargava; Chen, Mei y Castiglione, Joe, “Do transportation network companies decrease or increase congestion?”, Science Advances, vol. 5.5, 8 de mayo de 2019.

381. López Blanco, Carlos, op. cit.

382. Zuboff, Shoshana, “You Are Now Remotely Controlled”, op. cit.

383. McNamee, Roger, “A Brief History of How Your Privacy Was Stolen”, op. cit.

384. Pascual, Manuel G., op. cit.

385. Lohr, Steve, “Calls Mount to Ease Big Tech’s Grip on Your Data”, The New York Times, 25 de julio de 2019.

386. Véase https://nri.ntc.columbia.edu/

387. Pascual, Manuel G., op. cit.

388. “Traçage de contacts: Google et Apple mettent à disposition leur outil”, Notre Temps, 20 de mayo de 2018.

389. Véase https://futureoflife.org/ai-principles/

390. Eudes, Yves, “Anthony Aguirre: quelle intelligence pour l’humanité?”, Le Monde, 19 de agosto de 2019.

391. Hosanagar, Kartik y Jair, Vivian, “We Need Transparency in Algorithms, But Too Much Can Backfire”, Harvard Business Review, 23 de julio de 2018.

392. Véase, en especial, Susarla, Anjana, “The new digital divide is between people who opt out of algorithms and people who don’t”, The Conversation, 17 de abril de 2019.

393. “Chinese scientist who edited genes of twin babies is jailed for 3 years”, CNN, 30 de diciembre de 2019.

394. Dugain, Marc, Labbé, Christophe, op.cit.

395. Hunyadi, Mark, La tiranía de los modos de vida, Cátedra, 2015, y la conferencia inédita “Philosophie et Management”, Bruselas, 13 de junio de 2017.

396. Zuboff, Shoshana, “You Are Now Remotely Controlled”, op.cit.

397. Gramsci, Antonio, Cuadernos de la cárcel, 1983. Carta a su hermano Carlo escrita en prisión, 19 de diciembre de 1929.

398. Delhommais, Pierre-Antoine, “Paris brûle-t-il?”, Le Point, 28 de enero de 2011.