Un brillante manifiesto que llama a la acción para comenzar a reinventar Internet.

¿Te cuesta imaginar una vida sin redes sociales? ¿Y si te dieran 10 argumentos explicando la toxicidad de sus efectos?

En este libro, Jaron Lanier nos explica con una contundencia abrumadora cómo las redes sociales, al desplegar una vigilancia constante y manipular el inconsciente de sus usuarios, nos están convirtiendo en personas rencorosas, tristes, asustadizas, poco empáticas, aisladas y triviales.

Si quieres una vida más feliz, un mundo más justo y pacífico, o simplemente la oportunidad de pensar por ti mismo sin ser monitoreado e influenciado por las corporaciones más ricas de la historia, lo mejor que puedes hacer es cancelar tus cuentas. Ahora.

Jaron Lanier

Diez razones para borrar tus redes sociales de inmediato

ePub r1.1

XcUiDi 17.05.2019

Título original: Ten Arguments for Deleting Your Social Media Account Right Now

Jaron Lanier, 2018

Traducción: Marcos Pérez Sánchez

Editor digital: XcUiDi

Corrección de erratas: gonzalosalesky

ePub base r2.1

A todas las personas mencionadas en este libro y a las muchas más a las que me gustaría haber podido mencionar: gracias por darme mi vida

Introducción, con gatos

Empecemos con gatos.

Los gatos están por todas partes en internet. Dan lugar a los memes más mémicos y los vídeos más adorables.

¿Por qué gatos y no perros?[1]

Los perros no se acercaron a los humanos de la Antigüedad suplicando vivir con nosotros: los domesticamos[2]. Los hemos criado para que sean obedientes. Aceptan de buen grado que los eduquemos y son predecibles. Trabajan para nosotros. No estoy en contra de los perros[3]. Es estupendo que sean leales y de fiar.

Los gatos son distintos. Llegaron y se medio domesticaron a sí mismos. No son predecibles. Los vídeos de perros más populares suelen mostrar lo bien adiestrados que están, mientras que los vídeos más extraordinariamente populares protagonizados por gatos son los que revelan comportamientos extraños y sorprendentes.

Los gatos son inteligentes, pero no la mejor opción si lo que queremos es un animal en cuyo adiestramiento podamos confiar. Si vemos en internet un circo de gatos, lo que nos conmueve es que los gatos claramente están decidiendo si hacer un truco que han aprendido, o no hacer nada, o pasearse entre el público.

Los gatos han hecho lo que parecía imposible: se han integrado en el mundo moderno de la tecnología sin renunciar a ser ellos mismos. Siguen siendo los que mandan. No hay riesgo de que un meme furtivo, diseñado mediante algoritmos y pagado por un extraño oligarca secreto, se haya hecho con el control de nuestro gato. Nadie controla a nuestro gato: ni nosotros, ni ninguna otra persona.

¡Cómo nos gustaría tener esa certeza no solo respecto a nuestros gatos, sino sobre nosotros mismos! Los gatos en la red son nuestro sueño y nuestra esperanza para el futuro de las personas en internet.

Por otra parte, y aunque nos encantan los perros, no queremos ser ellos, al menos en cuanto a las relaciones de poder con los demás, y tememos que Facebook y similares nos estén convirtiendo en perros. Cuando nos vemos incitados a hacer algo desagradable en internet, podríamos decir que es una respuesta a un «silbato para perros», de esos que solo ellos pueden oír. Nos preocupa estar cayendo bajo un control subrepticio.

Este libro trata sobre cómo ser un gato. ¿Cómo podemos seguir siendo autónomos en un mundo en el que nos vigilan constantemente y donde nos espolean en uno u otro sentido unos algoritmos manejados por algunas de las empresas más ricas de la historia, que no tienen otra manera de ganar dinero más que consiguiendo que les paguen por modificar nuestro comportamiento? ¿Cómo podemos ser gatos, a pesar de ello?

El título no miente: este libro presenta diez razones para borrar todas nuestras cuentas en las redes sociales. Espero que te sea útil, si bien es posible que, incluso aunque estés de acuerdo con cada una de las diez razones, decidas mantener alguna de tus cuentas. Como buen gato, estás en tu derecho.

A medida que exponga las diez razones, iré analizando de qué maneras podrías reflexionar sobre tu situación para decidir lo que más te conviene. Pero eso es algo que solo tú puedes saber.

NOTA DEL AUTOR, MARZO DE 2018

La mayor parte de este libro la escribí durante los últimos meses de 2017, pero los acontecimientos de 2018 resultaron ser explosivamente relevantes. El manuscrito estaba ya terminado del todo, camino de la imprenta, cuando las lamentables revelaciones del escándalo de Cambridge Analytica impulsó un repentino y radical movimiento por el cual la gente empezó a borrar sus cuentas de Facebook.

Por desgracia, no todas las figuras públicas y los líderes de opinión gestionaron el momento con la valentía necesaria. Hubo gurús que trataron de salirse de las redes, pero no pudieron. Hubo otros que señalaron que no todo el mundo tiene el privilegio de poder dejarlas, por lo que les parecía cruel abandonar a los menos afortunados. Otros dijeron que irse era irrelevante, pues lo importante era presionar a los gobiernos para regular Facebook. En general, la actitud de los comentaristas profesionales hacia quienes estaban eliminando sus cuentas era engreída y despectiva. Y totalmente equivocada.

¡Venga ya! Sí, ser capaz de irse es un privilegio; hay mucha gente que realmente no puede hacerlo. No obstante, si tú puedes y no lo haces, no estás apoyando a los desafortunados, solo estás reforzando el sistema en el que está atrapada mucha gente. Yo soy la prueba viviente de que se puede disfrutar de una vida pública en los medios de comunicación sin tener una cuenta en las redes sociales. Quienes podemos elegir entre distintas opciones debemos explorarlas o seguirán siendo meramente teóricas. Los negocios se mueven tras el dinero, así que quienes contamos con opciones tenemos poder y responsabilidad. Tú, y solo tú, tienes la responsabilidad positiva de inventar y mostrar maneras de vivir sin la basura que está destruyendo la sociedad. Irse es, de momento, la única forma de descubrir qué puede sustituir a nuestro enorme error.

Razón 1.

Estás perdiendo el libre albedrío

BIENVENIDO A LA JAULA QUE TE ACOMPAÑA DONDEQUIERA QUE VAYAS

Está sucediendo algo completamente novedoso. Apenas en los últimos cinco o diez años, prácticamente todo el mundo ha empezado a llevar consigo en todo momento un pequeño dispositivo llamado «teléfono inteligente», apto para la modificación algorítmica de la conducta. Muchos de nosotros empleamos asimismo otros dispositivos similares, como los denominados «altavoces inteligentes», en la encimera de la cocina o el salpicadero del coche. Nos siguen el rastro y miden lo que hacemos constantemente, y nos devuelven reacciones prediseñadas todo el tiempo. Poco a poco, unos ingenieros a los que no vemos nos van hipnotizando con intenciones que desconocemos. Somos animales de laboratorio.

Los algoritmos se atiborran de datos sobre nosotros cada segundo. ¿En qué tipo de enlaces hacemos clic? ¿Qué vídeos vemos hasta el final? ¿Cuánto tardamos en pasar de una cosa a la siguiente? ¿Dónde estamos cuando hacemos estas cosas? ¿Con quién tenemos contacto, en persona y a través de internet? ¿Qué expresiones faciales mostramos? ¿Cómo cambia nuestro tono de piel en distintas situaciones? ¿Qué estábamos haciendo justo antes de comprar algo, o de no comprarlo? ¿Votamos o no votamos?

Todas estas mediciones, y muchas más, se comparan con otras similares sobre la vida de multitud de personas obtenidas mediante espionaje masivo. Los algoritmos establecen correlaciones de lo que hacemos con lo que hacen casi todos los demás.

Los algoritmos no nos entienden realmente, pero los datos confieren poder, sobre todo en grandes cantidades. Si a muchas otras personas a las que les gustó la misma comida que a nosotros les desagrada ver imágenes de un candidato enmarcadas en color rosa en lugar de en azul, probablemente a nosotros también, y no hace falta que nadie sepa por qué es así. Las estadísticas son fiables, pero solo como autómatas idiotas.

¿Estamos tristes, nos sentimos solos o asustados? ¿Alegres, confiados? ¿Tenemos la regla? ¿Estamos experimentando un pico de ansiedad laboral?

Supuestos anunciantes pueden aprovechar el momento en que estamos perfectamente predispuestos para influir en nosotros con mensajes que han funcionado en otras personas con las que compartimos rasgos y situaciones.

Digo «supuestos» porque no está bien llamar publicidad a la manipulación directa de las personas. Antes los anunciantes tenían contadas ocasiones para intentar vender sus productos, y ese intento podía ser subrepticio o molesto, pero era pasajero. Además, muchísima gente veía el mismo anuncio en televisión o en prensa: no estaba adaptado a cada individuo. La mayor diferencia era que no se nos monitorizaba y evaluaba continuamente para poder enviarnos estímulos optimizados de forma dinámica —ya fuesen «contenidos» o anuncios— para captarnos y alterarnos.

Ahora todo aquel que está presente en las redes sociales recibe estímulos que se ajustan de manera individual y continua, sin descanso, siempre que se use el teléfono móvil. Lo que en otra época podría haberse llamado «publicidad» ahora debe entenderse como modificación continua de la conducta a una escala colosal.

Por favor, no te ofendas. Sí, estoy sugiriendo que podrías estar convirtiéndote, un poquito, en un perro adiestrado, o en algo menos simpático, como una rata de laboratorio o un robot. Que clientes de grandes empresas te están controlando a distancia, un poquito. Pero, si estoy en lo cierto, tomar conciencia de ello podría liberarte. Así que… ¿por qué no me das una oportunidad?

Antes de que se inventasen los ordenadores, surgió un movimiento científico llamado «conductismo». Los conductistas estudiaban maneras nuevas, más metódicas, asépticas y sesudas, de adiestrar a los animales y a los humanos.

Un célebre conductista fue B. F. Skinner, quien ideó un sistema conocido como «caja de Skinner», donde encerraba animales que recibían recompensas cuando hacían algo en particular. No había nadie acariciando o susurrando al animal, sino solo una acción aislada puramente mecánica: una nueva forma de adiestramiento para la época moderna. Diversos conductistas, muchos de los cuales eran bastante siniestros, aplicaron este método en personas. Las estrategias conductistas a menudo lograban resultados, lo que hizo que todo el mundo se pusiese de los nervios, y acabaron dando lugar a numerosos guiones de películas de ciencia ficción y de terror sobre «control mental» de lo más inquietantes.

Una circunstancia desafortunada es que se puede adiestrar a alguien usando técnicas conductistas y que la persona ni siquiera sea consciente de ello. Hasta hace muy poco tiempo, esto sucedía muy rara vez: únicamente si uno aceptaba someterse a pruebas experimentales en el sótano de la facultad de Psicología de alguna universidad. En ese caso, entraba en una sala donde se le realizaban las pruebas mientras alguien lo observaba a través de un espejo unidireccional. Aunque el sujeto sabía que se estaba llevando a cabo un experimento, ignoraba cómo estaba siendo manipulado. Al menos, uno daba su consentimiento para que lo manipulasen de alguna forma. (Bueno, no siempre. Se llevó a cabo toda clase de crueles experimentos con prisioneros, pobres y, sobre todo, con gente de determinadas razas).

Este libro argumenta de diez maneras que lo que de pronto se ha convertido en algo normal —la vigilancia generalizada y la manipulación sutil y constante— es inmoral, cruel, peligroso e inhumano. ¿Peligroso? Desde luego. Porque ¿quién sabe quién podría usar ese poder, y para qué?

EL CIENTÍFICO LOCO SE PREOCUPA POR EL PERRO ENJAULADO

Quizá hayas oído las quejumbrosas confesiones de los fundadores de imperios basados en redes sociales, que yo prefiero llamar «imperios de modificación de la conducta».

Esto es lo que dice Sean Parker, el primer presidente de Facebook:

Tenemos que proporcionarle como un pequeño chute de dopamina cada cierto tiempo, porque alguien le ha dado a «me gusta» o comentó una foto, una publicación o lo que sea […]. Es un bucle de retroalimentación de validación social […], exactamente una de esas cosas que inventaría un hacker como yo para explotar un punto débil en la psicología humana […]. Los inventores, los creadores —alguien como yo, Mark [Zuckerberg], Kevin Systrom de Instagram, toda esa gente—, lo entendíamos de manera consciente. Y, aun así, lo hicimos […]. Cambia literalmente la relación de la persona con la sociedad, con los demás […]. Probablemente interfiera en la productividad de formas inesperadas. A saber lo que está haciendo en los cerebros de nuestros hijos[4].

Y esto, lo que afirma Chamath Palihapitiya, exvicepresidente de crecimiento de usuarios en Facebook:

A corto plazo, los bucles de retroalimentación a base de dopamina que hemos creado están destruyendo la manera en que funciona la sociedad […]. Ni debate público civilizado ni cooperación: desinformación, afirmaciones engañosas. Y no se trata de un problema estadounidense, no tiene nada que ver con la publicidad rusa. Es un problema global […]. Siento una tremenda culpabilidad. Creo que, en el fondo, todos lo sabíamos, aunque fingíamos que nos creíamos la idea esta de que probablemente no habría consecuencias imprevistas negativas. Pienso que, en el fondo, en lo más profundo, sabíamos que algo malo podía ocurrir […]. Así que, en mi opinión, la situación ahora mismo es realmente nefasta. Está erosionando los cimientos de cómo se comportan las personas entre sí. Y no tengo una buena solución. Mi solución es que he dejado de usar esas herramientas. Hace ya años[5].

Más vale tarde que nunca. Muchos críticos como yo llevamos ya mucho tiempo avisando de que estaba sucediendo algo malo, pero el hecho de escucharlo de quienes lo hicieron supone un avance, un paso adelante.

Durante años tuve que soportar dolorosas críticas de amigos de Silicon Valley que me veían como un traidor por criticar lo que estaban haciendo. Últimamente tengo el problema contrario. Explico que, por lo general, la gente de Silicon Valley es decente, y pido que no se les convierta en villanos. Y decir eso me cuesta muchas críticas. Es difícil saber si soy demasiado duro o demasiado blando con mis colegas.

La cuestión más importante es si todas estas críticas tendrán alguna repercusión. Lo que innegablemente forma parte ya del debate público es que una mala tecnología nos está haciendo daño, pero ¿seremos capaces —lo serás tú— de resistir y contribuir a conducir el mundo hacia un lugar mejor?

Compañías como Facebook, Google y Twitter están intentando por fin arreglar algunos de los enormes problemas que han creado, aunque muy poco a poco. ¿Se debe esto a la presión que se ejerce sobre ellos o a que consideran que es lo que deben hacer? Probablemente, un poco de cada.

Las empresas están cambiando sus políticas, contratando a personas para supervisar lo que sucede y a científicos de datos para desarrollar algoritmos que eviten los peores errores. El antiguo lema de Facebook era «Muévete rápido y rompe cosas»[6], y ahora están ideando lemas mejores y recogiendo unos cuantos de los pedazos de un mundo roto para volverlos a pegar.

Este libro sostiene que lo que hagan las compañías por sí solas no bastará para recomponer el mundo.

Como la gente de Silicon Valley está mostrando remordimientos, cabría pensar que ahora solo hay que esperar a que solucionen el problema. Pero las cosas no funcionan así. Si no formas parte de la solución, no habrá solución.

Esta primera razón expondrá unos cuantos conceptos clave en los que se basa el diseño de adictivos y manipuladores servicios en red. La concienciación es el primer paso hacia la libertad.

LA ZANAHORIA Y LA ARGUCIA

Parker afirma que Facebook favoreció deliberadamente que la gente se enganchase, mientras que Palihapitiya habla acerca de los efectos negativos sobre las relaciones y la sociedad. ¿Cuál es la conexión entre estos dos mea culpa?

El proceso esencial que permite que las redes sociales ganen dinero y que, al mismo tiempo, provoca daños en la sociedad es la modificación de la conducta. Esta modificación de la conducta conlleva técnicas metódicas que alteran los patrones de comportamiento en animales y personas, y, si bien puede emplearse para tratar adicciones, también sirve para crearlas.

El daño a la sociedad se produce porque la adicción enloquece. El adicto pierde progresivamente el contacto con el mundo y las personas reales. Cuando mucha gente se vuelve adicta a mecanismos manipuladores, el mundo se desquicia y se vuelve oscuro.

La adicción es un proceso neurológico que no entendemos por completo. Un neurotransmisor, la dopamina, desempeña un papel protagonista en la obtención de placer y se cree que es esencial en el mecanismo de alteración de la conducta en respuesta a la obtención de recompensas. Esta es la razón por la que Parker lo menciona.

La modificación de la conducta, especialmente la versión moderna que se pone en marcha mediante dispositivos como los teléfonos inteligentes, es un efecto estadístico, lo cual significa que es real, pero no se da en todos y cada uno de los casos: en una población, el efecto es más o menos predecible, si bien no se puede saber si se producirá en cada individuo concreto. Hasta cierto punto, somos animales en la jaula experimental de un conductista. No obstante, el hecho de que algo sea difuso o aproximado no significa que no sea real.

Originalmente, las recompensas en forma de alimentos eran las más habituales en los experimentos conductistas, aunque esta práctica se remonta a la Antigüedad. Todo adiestrador de animales lo hace: cuando un perro realiza un truco, recibe una pequeña chuchería. También lo hacen muchos padres con sus hijos pequeños.

Es famoso el caso de uno de los primeros conductistas, Iván Pávlov, quien demostró que no necesitaba usar un alimento real. Pávlov hacía sonar una campana cuando daba de comer a un perro, y con el tiempo el perro acababa salivando con solo oír la campana.

Usar símbolos en lugar de recompensas reales se ha convertido en un truco esencial de la caja de herramientas para la modificación de la conducta. Por ejemplo, para resultar adictivo, un juego para el teléfono móvil como Candy Crush usa imágenes brillantes de caramelos en lugar de caramelos auténticos. Otros videojuegos adictivos pueden utilizar imágenes de monedas resplandecientes, o algún otro tesoro.

Los patrones adictivos de placer y recompensa en el cerebro —el «pequeño chute de dopamina» que menciona Sean Parker— están en la base de la adicción a las redes sociales, pero no son el único elemento que interviene, pues también emplean castigos y refuerzos negativos.

En los laboratorios conductistas se han usado varios tipos de castigo. Las descargas eléctricas fueron populares durante un tiempo. Sin embargo, al igual que sucede con las recompensas, los castigos no tienen por qué ser necesariamente reales y físicos. A veces los experimentos deniegan puntos o regalos a un participante.

Cuando usamos las redes sociales, recibimos el equivalente tanto de las recompensas como de las descargas eléctricas.

La mayoría de los usuarios de redes sociales se han topado con perfiles fraudulentos[7], rechazo injustificado, desprecio u ostracismo, sadismo explícito, o todo lo anterior y cosas aún peores. Así como la zanahoria y el palo funcionan conjuntamente, las reacciones desagradables pueden desempeñar un papel tan importante como las agradables en la adicción y en la subrepticia modificación de la conducta.

EL ATRACTIVO DEL MISTERIO

Cuando Parker usa la expresión «cada cierto tiempo», es probable que se estuviera refiriendo a uno de los curiosos fenómenos que los conductistas descubrieron al estudiar tanto a animales como a personas. Si alguien obtiene una recompensa —ya sea en forma de consideración social positiva o de un caramelo— cada vez que hace algo específico, tenderá a hacerlo más. Cuando la gente recibe una respuesta halagadora a cambio de publicar algo en las redes sociales, adquiere la costumbre de publicar más a menudo.

Esto parece algo relativamente inocente, pero puede ser el primer paso hacia una adicción que acabe siendo un problema tanto para los individuos como para la sociedad. Aunque la gente de Silicon Valley tiene una expresión aséptica para esta fase, «captación», nos produce la suficiente desconfianza como para que evitemos que nuestros hijos se acerquen a ella. Muchos de los hijos de gente de Silicon Valley que conozco van a colegios Waldorf, que por lo general prohíben los dispositivos electrónicos.

Volvamos sobre ese fenómeno sorprendente: no es que las reacciones positivas y negativas funcionen, sino que, si esas reacciones tienen un componente aleatorio e impredecible, pueden ser más captadoras que si son perfectamente predecibles.

Si de niños recibimos un caramelo justo después de cada vez que damos las gracias, es probable que empecemos a hacerlo más a menudo. Pero supongamos que de vez en cuando no hay caramelo. Podríamos suponer que eso nos llevaría a dar las gracias con menos frecuencia. Al fin y al cabo, no genera la recompensa con tanta regularidad como antes.

Pero a veces sucede lo contrario. Es como si nuestro cerebro, un buscador innato de patrones, fuese incapaz de resistirse al reto. «Tiene que haber algún otro truco», murmura nuestra obsesiva mente. Seguimos dando las gracias, confiando en que se manifieste un patrón más profundo, aunque no hay más que una insondable aleatoriedad.

Para un científico, es razonable quedar fascinado por un patrón que no acaba de tener sentido. Quizá eso signifique que hay algo más que descubrir. Y es una herramienta estupenda de la que echar mano al escribir un guion. Una pequeña dosis de incongruencia hace que una trama o un personaje resulten más fascinantes.

Pero en muchas situaciones es una base terrible de fascinación. El atractivo de las reacciones impredecibles es, con toda probabilidad, lo que arrastra a muchas personas a relaciones horribles de «codependencia» en las que son maltratadas.

Un toque de aleatoriedad es algo muy fácil de generar en las redes sociales: puesto que los algoritmos no son perfectos, la aleatoriedad es intrínseca. Pero, más allá de eso, los hilos de contenido normalmente se generan de tal manera que incluyan un grado adicional de aleatoriedad deliberada. Al principio, el motivo para ello era básicamente matemático, no tenía que ver con la psicología humana.

Los algoritmos de las redes sociales suelen ser «adaptativos», lo que significa que efectúan pequeños cambios sobre sí mismos en todo momento para intentar obtener mejores resultados. «Mejores» en este caso significa más seductores y, por tanto, más rentables. En este tipo de algoritmos siempre hay un poco de aleatoriedad.

Supongamos que un algoritmo nos ofrece la posibilidad de comprar calcetines o acciones bursátiles unos cinco segundos después de haber visto un vídeo de gatos que nos ha puesto contentos. Un algoritmo adaptativo realizaría una comprobación automática de vez en cuando para averiguar qué sucede si se modifica el intervalo hasta, por ejemplo, cuatro segundos y medio. ¿Incrementa eso la probabilidad de compra? Si es así, tal ajuste temporal podría aplicarse en el futuro no solo a nuestro hilo de contenido, sino a los de miles de personas con las que tengamos alguna correlación aparente, por algún motivo que puede ir desde las preferencias de color a los patrones de conducción[8].

Los algoritmos adaptativos en ocasiones pueden atascarse: si un algoritmo ya no obtiene beneficios al introducir pequeñas modificaciones en su configuración, dejará de incorporar tales cambios. Si pasar a cuatro segundos y medio hace que seamos menos proclives a comprar calcetines, pero al probar con cinco segundos y medio también sucede lo mismo, el intervalo se mantendrá en los cinco segundos. Según la evidencia disponible, esos cinco segundos serán el mejor tiempo de espera posible. Si ninguna pequeña variación aleatoria ayuda, el algoritmo ya no se adapta más. Pero de los algoritmos adaptativos no se espera que dejen de adaptarse.

Supongamos que hacer cambios más sustanciales mejorase el resultado. Por ejemplo, quizá sería mejor introducir dos segundos y medio de espera. Pero las modificaciones incrementales no permitirían averiguarlo porque el algoritmo se quedó atascado en los cinco segundos. Esta es la razón por la que, a menudo, los algoritmos adaptativos también incorporan una dosis más infrecuente de mayor aleatoriedad. Cada cierto tiempo, un algoritmo encuentra una configuración mejor al desviarse sustancialmente de otra que era simplemente aceptable[9].

Con frecuencia, los sistemas adaptativos incluyen un mecanismo de salto de ese estilo. Un ejemplo es la ocurrencia de mutaciones útiles en la evolución natural, que suele estar animada por eventos más incrementales basados en la selección, en los cuales los genes de un individuo pasan a la siguiente generación o no. Una mutación es un comodín que abre nuevas posibilidades, un salto discordante. De vez en cuando, una mutación añade una característica extraña, nueva y positiva a una especie.

Por supuesto, los neurocientíficos se plantean si en el cerebro humano tiene lugar un proceso similar. Ciertamente, en nuestros cerebros se producen procesos adaptativos; es posible que estén predispuestos a buscar sorpresas, porque la naturaleza aborrece la rutina.

Cuando un algoritmo suministra experiencias a una persona, resulta que la aleatoriedad que lubrica la adaptación algorítmica también puede inducir la adicción. El algoritmo está buscando los parámetros perfectos para manipular el cerebro, mientras que este, en su intento de encontrar un significado más profundo, cambia en respuesta a los experimentos del algoritmo: juegan al ratón y el gato apoyándose en matemática pura. Como los estímulos del algoritmo no tienen ningún significado, puesto que son puramente aleatorios, el cerebro no se está adaptando a nada real, sino a una ficción. Ese proceso —de engancharse a un espejismo escurridizo— es la adicción. Mientras el algoritmo intenta huir de la rutina, el cerebro se engancha a una.

Los pioneros del aprovechamiento en internet de esta intersección entre las matemáticas y el cerebro humano no fueron las compañías de redes sociales, sino los creadores de tragaperras digitales como el videopóquer y, posteriormente, de los sitios de apuestas en internet. De vez en cuando, los pioneros del mundo de las apuestas se quejan de que las empresas de redes sociales plagiaron sus ideas y ganaron más dinero, aunque, por lo general, cuentan que las redes sociales los ayudan a identificar a sus usuarios potenciales más prometedores[10].

EL CIELO Y EL INFIERNO SON LOS OTROS[11]

Las redes sociales añaden otra dimensión de estímulos: la presión social.

Las personas son particularmente sensibles al estatus, la opinión y la competición social. A diferencia de la mayoría de los animales, no solo nacen incapaces de valerse por sí mismas, sino que lo siguen siendo durante años. Solo sobrevivimos si mantenemos buenas relaciones con los demás miembros de nuestra familia y el resto de personas. Los aspectos sociales no son rasgos accesorios del cerebro humano: son esenciales.

La fuerza de lo que piensen los demás ha demostrado tener capacidad suficiente para modificar el comportamiento de los sujetos participantes en estudios famosos como el experimento de Milgram o el de la cárcel de Stanford. Personas normales, sin antecedentes penales, fueron obligadas a hacer cosas horribles, como torturar a otras, usando únicamente la presión social.

En las redes sociales, la manipulación de las emociones sociales ha sido la manera más fácil de generar recompensas y castigos. Esto podría cambiar algún día, cuando los drones empiecen a lanzar caramelos desde el cielo cada vez que hagamos lo que el algoritmo quiere, pero de momento todo gira en torno a las sensaciones que podemos experimentar, principalmente sensaciones relativas a lo que otras personas puedan pensar.

Por ejemplo, cuando tememos que no se nos considere interesantes, atractivos o con un alto estatus, nos sentimos mal. Ese temor es una emoción profunda. Duele[12].

Todo el mundo padece ansiedad alguna que otra vez, y todos los niños se han topado con algún abusón que usaba la ansiedad social como mecanismo de tortura, probablemente porque comportarse como un abusón hacía menos probable que él mismo acabase siendo víctima de acoso. Por eso las personas, incluso aquellas que normalmente serían decentes, suelen sumarse a los ataques contra quien sufre torturas de ansiedad social. Es tal el miedo que sienten ante el dolor real que causa la ansiedad que pueden dejarse llevar temporalmente por sus bajos instintos.

Esto no significa que todas las emociones sociales sean negativas. Cuando interactuamos con otras personas también podemos experimentar camaradería, compasión, respeto, admiración, gratitud, esperanza, empatía, intimidad, atracción y todo un mundo de sensaciones positivas. Pero, en el lado negativo, también podemos sentir emociones como miedo, hostilidad, ansiedad, resentimiento, repulsión, envidia y el deseo de ridiculizar al otro.

Si una emoción de origen social puede actuar como castigo o recompensa, ¿cuál de las dos es más efectiva a la hora de alterar a las personas? Esta cuestión se estudia desde hace tiempo, y parece que la respuesta depende de la población que se analice en cada situación. Cierto estudio sugiere que los niños pequeños responden mejor a las recompensas que a los castigos, aunque a partir de los doce años podría darse la situación opuesta[13]. Otro estudio indica que el castigo funciona mejor que la recompensa para manipular a los estudiantes universitarios[14]. He aquí un compendio de varias investigaciones según el cual la aprobación es más eficaz a la hora de motivar a trabajadores adultos[15]. Es posible que la naturaleza de la tarea determine qué tipo de respuesta es más efectiva[16], como sucede con la manera en la que se describe la tarea[17].

Todo un corpus de investigaciones académicas compara la fuerza de las reacciones positivas y negativas, pero esa no es la cuestión clave para el diseño de plataformas de redes sociales comerciales, que están interesadas principalmente en reducir costes y aumentar el rendimiento maximizando así los beneficios. Con independencia de si, en teoría, las respuestas positivas o las negativas son más efectivas en ciertos casos, la verdad es que estas últimas son las más baratas, la mejor opción desde el punto de vista empresarial, por lo que son las que están más presentes en las redes sociales.

Las emociones negativas como el miedo y la ira se desbordan con mayor facilidad y nos embargan durante más tiempo que las positivas. Se tarda más en generar confianza que en perderla. Las respuestas reflejas se producen en cuestión de segundos, mientras que puede llevar horas recuperar la calma.

Esto es cierto en la vida real, pero lo es aún más bajo la luz plana de los algoritmos.

No hay ningún genio malvado metido en un cubículo de ninguna de las compañías de redes sociales realizando cálculos y llegando a la conclusión de que hacer que las personas se sientan mal es más «seductor» y por lo tanto más provechoso que hacer que se sientan bien. O, al menos, nunca he conocido ni he oído hablar de nadie así.

La disposición primordial de ser seductor se refuerza a sí misma, y nadie se da cuenta siquiera de que las emociones negativas se están amplificando más que las positivas. No se pretende que la captación sirva a ningún otro propósito más allá de su propio aumento, a pesar de lo cual el resultado es una amplificación global antinatural de las emociones «fáciles», que se da la circunstancia de que son las negativas.

EL BIT COMO CEBO

Desde una perspectiva más amplia, en la que no basta con que las personas cumplan las normas para que nuestra especie prospere, el conductismo es una manera inadecuada de entender la sociedad. Si lo que se desea es propiciar resultados creativos y de alto valor en lugar de alentar el aprendizaje mecánico, entonces la recompensa y el castigo no son, ni mucho menos, las herramientas correctas.

Hay una larga serie de investigadores que han estudiado esta cuestión, empezando por Abraham Maslow en la década de 1950 y siguiendo por muchos otros, entre los que se encuentra Mihály Csíkszentmihályi (y a los que hay que añadir escritores como Daniel Pink). En lugar de aplicar los sencillos mecanismos del conductismo, debemos reflexionar sobre las personas de maneras más creativas, sobre todo si esperamos que estas sean creativas. Debemos fomentar la alegría, los retos intelectuales, la individualidad, la curiosidad y otras cualidades que no encajan en una gráfica ordenada.

Pero la rigidez de la tecnología digital, la naturaleza de sí o no del bit, tiene algo que resulta atractivo para la mentalidad conductista. La recompensa y el castigo son como el uno y el cero. Por ejemplo, no sorprende saber que B. F. Skinner tuvo un papel destacado en los inicios de las redes digitales[18]. Skinner veía las redes digitales como una manera ideal de adiestrar a la población para la clase de utopía a la que aspiraba, donde por fin todo el mundo se comportaría como es debido. Uno de sus libros se titulaba Más allá de la libertad y la dignidad. ¡Más allá!

El término «captación» forma parte del lenguaje aséptico que oculta lo estúpida que es la máquina que hemos construido. Tenemos que empezar a emplear expresiones como «adicción» y «modificación de la conducta» Veamos otro ejemplo de lenguaje aséptico: seguimos llamando «anunciantes» a los clientes de las compañías de redes sociales (y, si hemos de ser justos, muchos de ellos lo son) Quieren que compremos una determinada marca de jabón o de lo que sea. Pero también pueden ser unos tipos horribles, asquerosos y escurridizos que buscan socavar la democracia. Por eso yo prefiero referirme a esta clase de personas como «manipuladores».

Lo siento por los vendedores de jabón… De hecho, puedo dar fe de que la gente que trabaja en empresas como Procter & Gamble es estupenda —he conocido a unos cuantos— y de que su mundo sería más feliz si no estuviesen en deuda con las compañías de redes sociales.

En sus inicios, la publicidad en internet realmente era solo publicidad. Pero, en poco tiempo, los avances en computación coincidieron con incentivos financieros ridículamente perversos, como se explicará en la siguiente razón. Lo que empezó siendo publicidad se transformó en lo que haríamos mejor en llamar «imperios de modificación de la conducta en alquiler» Esta transformación ha atraído con frecuencia a nuevos tipos de clientes/manipuladores, que no resultan muy agradables.

Por desgracia, los manipuladores no pueden obtener cualquier resultado que deseen con la misma facilidad. No se les puede pagar a las compañías de redes sociales para que pongan fin a las guerras y hagan que todo el mundo sea amable. Las redes sociales tienen sesgos, no hacia izquierda o derecha, sino hacia abajo. La relativa facilidad con la que se usan emociones negativas para crear adicción y manipulación hace que sea relativamente más sencillo lograr resultados indignos. Una desafortunada combinación de biología y matemáticas favorece la degradación del universo humano. Las unidades de la guerra de la información influyen en las elecciones, los grupos de odio reclutan adeptos, y los nihilistas sacan un rendimiento asombroso de su dinero en sus intentos de derribar la sociedad.

La naturaleza improvisada de la transformación de la publicidad en modificación directa de la conducta provocó una explosiva amplificación de la negatividad en los asuntos humanos. Insistiremos más veces en la fuerza superior de las emociones negativas en la modificación de la conducta a medida que abordemos los efectos personales, políticos, económicos, sociales y culturales de las redes sociales.

ADICCIÓN, TE PRESENTO EL EFECTO DE RED

La adicción es en buena medida el motivo por el que muchos aceptamos que las tecnologías de la información que usamos nos espíen y nos manipulen, pero no es la única razón. Las redes digitales realmente nos proporcionan un valor. Posibilitan grandes mejoras de eficiencia y comodidad. Por eso tantos de nosotros dedicamos en su día un gran esfuerzo a hacerlas posibles.

Una vez que uno puede usar el dispositivo que lleva en el bolsillo para que un coche lo recoja y lo lleve adonde quiere ir o para encargar comida, es difícil renunciar a ello. Se nos olvida que, antes, las personas con enfermedades raras no tenían forma de encontrar a otra gente en sus mismas circunstancias, por lo que no tenían con quien hablar de sus inusuales problemas. Qué gran suerte que esto sea ahora posible.

Pero los beneficios de las redes solo se manifiestan cuando las personas usan la misma plataforma. Si nadie quisiese ser conductor de Uber, esta aplicación en nuestro móvil no valdría absolutamente para nada. Si nadie quiere inscribirse en nuestra aplicación de encuentros, de nuevo, esta no sirve para nada.

La desgraciada consecuencia de lo anterior es que, una vez que una aplicación empieza a funcionar, todo el mundo queda atrapado en ella. Es difícil dejar una determinada red social y empezar a usar otra diferente, porque todo el mundo que conocemos ya está en la primera. En la práctica, es imposible que todas las personas en una sociedad obtengan una copia de sus datos, se cambien de una red a otra simultáneamente, y vuelquen a la vez sus recuerdos en esta última.

Este tipo de efectos se conocen como «efectos de red» o «rediles» Son difíciles de evitar en las redes digitales.

En un principio, muchos de los que trabajábamos para ampliar[19] internet confiábamos en que lo que atraería a la gente —lo que lograría el efecto de red y convertirse en redil— sería la propia internet. Pero por entonces soplaban vientos libertarios, por lo que omitimos muchas funciones esenciales. Por ejemplo, internet por sí sola no incluía un mecanismo de identificación personal. Cada ordenador tiene su propio número, pero las personas no están representadas en absoluto. Asimismo, internet por sí sola tampoco ofrece ningún lugar donde almacenar ni siquiera una pequeña cantidad de información persistente, ninguna manera de hacer o recibir pagos, ni ninguna forma de encontrar personas con las que podríamos tener algo en común.

Todo el mundo sabía que se necesitarían estas y otras muchas funciones. Consideramos que sería más prudente dejar que fuesen los emprendedores los que rellenasen los huecos que hacer que el Gobierno se encargase de ello. Lo que no tuvimos en cuenta es que necesidades digitales fundamentales como las que acabo de enumerar llevarían a nuevas clases de gigantescos monopolios debido a los efectos de red y de redil. De forma ingenua, plantamos los cimientos de monopolios globales. Hicimos el trabajo más difícil en su beneficio. Más concretamente, puesto que somos el producto, no el cliente de las redes sociales, el término adecuado es «monopsonios»[20]. Nuestro idealismo libertario inicial tuvo como consecuencia la aparición de colosales monopsonios de datos globales.

Uno de los motivos principales para borrar nuestras cuentas en las redes sociales es que carecemos de capacidad de elección real para pasar a usar otras diferentes. Abandonar las redes sociales por completo es la única opción para provocar cambios. Si no lo hacemos, no estamos creando el espacio dentro del cual Silicon Valley pueda hacer algo para mejorar.

LA ADICCIÓN Y EL LIBRE ALBEDRÍO SON ANTÓNIMOS

La adicción nos convierte gradualmente en zombis. Estos carecen de libre albedrío. De nuevo, este no es el resultado en cada caso, sino que es algo estadístico. Nos volvemos más zombis, durante más tiempo, de lo que seríamos en otras circunstancias.

No hay por qué creer en el mito de las personas perfectas completamente exentas de adicciones. No existen. Nunca seremos perfectos o perfectamente libres, por muchos libros de autoayuda que leamos o por muchos servicios adictivos que dejemos de usar.

No existe el albedrío perfectamente libre. Nuestro cerebro modifica de manera continua sus rutinas para adaptarse a un entorno cambiante. ¡Es mucho esfuerzo y el cerebro se cansa! A veces se toma un respiro, desconecta y activa el piloto automático. Pero eso es distinto de estar a merced de manipuladores ocultos.

Modificamos el comportamiento los unos de los otros todo el tiempo, y eso es algo positivo. Tendríamos que ser insensibles e indiferentes para no cambiar nuestra manera de actuar hacia alguien en respuesta a cómo reacciona esa persona. Cuando la modificación de la conducta mutua funciona bien, puede formar parte de aquello de lo que hablamos cuando hablamos de amor.

No debemos interpretar el libre albedrío como una intervención sobrenatural en el universo. Puede que exista cuando nuestra adaptación a los demás y al mundo posee una cualidad excepcionalmente creativa.

Así pues, el problema no es la modificación de la conducta en sí misma. El problema es la incesante, robótica y, en última instancia, absurda modificación de la conducta al servicio de manipuladores ocultos y algoritmos indiferentes.

La hipnosis puede ser terapéutica siempre que confiemos en quien nos hipnotiza, pero ¿quién confiaría en un hipnotizador que trabaja para terceros desconocidos? ¿Quién? Al parecer, miles de millones de personas.

Pensemos en los miles de millones de dólares que ingresan todos los meses Facebook, Google y el resto del supuesto sector publicitario digital. La inmensa mayoría de ese dinero procede de entidades que aspiran a modificar nuestro comportamiento y que creen que están obteniendo resultados. Muchos de esos cambios de conducta son similares a los que intentan provocar los anuncios televisivos, como conseguir que compremos un coche o que vayamos a una cafetería.

Pero, a pesar de que, en cierto sentido, saben más sobre nosotros que nosotros mismos, las compañías no siempre conocen la identidad de los anunciantes, las entidades que se benefician de la manipulación que se ejerce sobre nosotros. Por ejemplo, los abogados de las empresas tecnológicas han testificado bajo juramento que las compañías no tenían forma de saber que los servicios de inteligencia rusos estaban intentando alterar las elecciones o fomentar las divisiones para debilitar a las sociedades[21].

Creo que, por lo general, el pensamiento paranoico es contraproducente. Nos deja inermes. Pero consideremos la presente situación. Sabemos que las redes sociales se han utilizado con éxito para perturbar nuestra sociedad[22], y que el precio de hacerlo es extraordinariamente bajo. Sabemos que compañías importantes ingresan una exorbitante cantidad de dinero y que no siempre saben quiénes son sus clientes. Por lo tanto, es probable que haya actores que nos estén manipulando —que te estén manipulando a ti— cuya identidad se desconoce.

Para liberarnos, para ser más auténticos, para ser menos adictos, para estar menos manipulados, para ser menos paranoicos… por todas estas excelentes razones: borra tus cuentas.

Razón 2.

Renunciar a las redes sociales es la mejor manera de resistir a la locura de nuestro tiempo

LA MÁQUINA DE INCORDIO

Puede que a primera vista no se note, pero soy una persona optimista. No creo que tengamos que deshacernos de todo el mundo digital. ¡Gran parte de él es estupenda!

El problema no es el teléfono inteligente, como da a entender una avalancha de artículos con títulos como «¿Ha echado a perder el teléfono inteligente a toda una generación?»[23]. El problema no es internet, a la que también se acusa día sí y día también de haber destrozado el mundo[24].

Algo lo está destrozando, pero no es el hecho de que estemos conectando a la gente de sitios distintos usando bits, o que nos pasemos el rato contemplando pequeñas pantallas resplandecientes. Qué duda cabe de que uno puede mirar la pantallita en exceso[25], como puede excederse haciendo muchas otras cosas, pero eso no supone un problema existencial para nuestra especie.

No obstante, sí hay algo en particular relacionado con la tecnología que es tóxico incluso en pequeñas cantidades. Un nuevo desarrollo que debe aplastarse. Es importante definir el problema con la mayor precisión posible para que no haya todavía más confusión al respecto.

El problema es, en parte, que todos llevamos encima dispositivos susceptibles de usarse para la modificación de la conducta en masa. Pero esta no es la mejor manera de encuadrar el problema. Al fin y al cabo, nuestros aparatos pueden emplearse para otros propósitos, cosa que sucede a menudo.

El problema no es solo que los usuarios estén apiñados en entornos virtuales que pueden sacar lo peor de cada uno. No es solo que tanto poder esté concentrado en un reducido número de personas que controlan los gigantescos ordenadores en la nube.

El problema tiene algo en común con todos esos factores, pero ni siquiera es exactamente la suma de todos ellos.

El problema se da cuando todos los fenómenos que acabo de mencionar están impulsados por un modelo de negocio cuyo incentivo consiste en encontrar clientes dispuestos a pagar para modificar el comportamiento de otras personas. Recordemos que en la publicidad a la vieja usanza se podía medir si un producto se vendía mejor tras la emisión de un anuncio, pero ahora las compañías miden si los individuos han cambiado su comportamiento, y la información que se hace llegar a cada uno se ajusta continuamente para conseguir esa modificación del comportamiento. Esta modificación de nuestra conducta se ha transformado en un producto, uno particularmente «seductor» no solo para los usuarios, sino también para los clientes/manipuladores, quienes temen que, si no pagan las sumas correspondientes, se queden fuera de juego.

El problema es todo lo anterior y una cosa más. Como se explicó en la primera razón, el sistema que estoy describiendo amplifica las emociones negativas más que las positivas, por lo que es más eficiente a la hora de perjudicar a la sociedad que a la de mejorarla: los clientes más indeseables son los que más rendimiento le sacan a su dinero.

Por fin podemos delimitar el problema. Lo cual significa que podemos eliminarlo sin que haya daños colaterales. Por suerte, nuestro problema es muy específico.

Si pudiésemos deshacernos del pernicioso modelo de negocio, la tecnología en la que se sustenta no sería tan perjudicial. Al menos hemos de intentarlo, porque de lo contrario llegará un momento en que nos veremos obligados a destripar todo un universo de tecnología digital. La tecnología era el último «dios que no fracasó»[26], el último bastión del optimismo. No podemos permitirnos tirarlo por la borda.

Si has tenido buenas experiencias con las redes sociales, nada de lo que se dice en este libro las invalida. De hecho, confío en que encontremos —tanto la industria como todos nosotros— una manera de conservar aquello que nos gusta y de mejorar a partir de ahí, precisamente al definir con exactitud aquello que debe rechazarse. Borrar nuestras cuentas ahora incrementará la probabilidad de que tengamos acceso a mejores experiencias en el futuro.

Hay quien ha comparado las redes sociales a la industria tabacalera[27], pero yo no lo haré. La mejor analogía es la pintura que contiene plomo. Cuando fue innegable que el plomo era nocivo, nadie dijo que las casas no deberían volver a pintarse nunca, sino que, gracias a la presión y a la legislación, la pintura sin plomo se convirtió en la nueva norma[28]. Las personas listas simplemente esperaron a que hubiera a la venta una versión inocua para comprar pintura. Análogamente, las personas listas deberían borrar sus cuentas hasta que estén disponibles variedades no tóxicas.

Hablo como informático, no como científico social o psicólogo. Desde este punto de vista, veo que el tiempo se acaba. El mundo está cambiando rápidamente bajo nuestro control, por lo que no podemos no hacer nada. No disponemos de tanta ciencia rigurosa como sería deseable para entender nuestra situación, pero sí tenemos resultados suficientes como para describir el problema que hemos de resolver, aunque no mucho tiempo para hacerlo.

Para evitar tener que repetir una y otra vez la misma letanía de las piezas que componen el problema («conductas de usuarios modificadas y convertidas en un imperio en alquiler»), voy a sustituirla a partir de ahora por un término bien expresivo: INCORDIO.

INCORDIO es una máquina, una máquina estadística que vive en las nubes computacionales. Recordémoslo: los fenómenos estadísticos y difusos son, no obstante, reales. Incluso en sus versiones más perfeccionadas, los algoritmos INCORDIO solo pueden calcular la probabilidad de que una persona actúe de determinada manera. Pero lo que podría no ser más que una probabilidad para cada individuo tiende a ser una certeza en promedio para una gran cantidad de personas. La población general puede verse afectada con mayor predictibilidad que cualquier persona individual.

Puesto que la influencia de INCORDIO es estadística, el peligro recuerda un poco al que existe con el cambio climático. No podemos afirmar que este sea responsable de tal o cual tormenta, inundación o sequía en concreto, pero sí podemos decir que altera la probabilidad de que se produzcan. A más largo plazo, los fenómenos más espantosos, como la subida del nivel del mar y la necesidad de reubicar a la mayoría de la población y encontrar nuevas fuentes de alimento, se podrán atribuir al cambio climático, pero para entonces la razón ya será inútil.

Análogamente, no puedo demostrar que ningún capullo en concreto se haya vuelto más capullo debido a INCORDIO, como tampoco puedo demostrar que ninguna degradación en particular de la sociedad no habría sucedido en cualquier caso. No hay manera de saber a ciencia cierta si INCORDIO ha modificado nuestro comportamiento, aunque más adelante ofreceré varias maneras de encontrar indicios. Si usamos plataformas INCORDIO, probablemente sí habrá cambiado al menos un poco.

Aunque no podemos conocer qué detalles de nuestro mundo serían diferentes sin INCORDIO, sí podemos comprender algo sobre la situación general. Como sucede con el cambio climático, INCORDIO nos conducirá al infierno si no hacemos algo para remediarlo.

LAS PARTES QUE FORMAN LA MÁQUINA INCORDIO

INCORDIO es una máquina que se compone de seis partes.

He aquí un truco mnemotécnico para los seis componentes de la máquina INCORDIO, por si alguna vez los necesitásemos para un examen:

A es de Adquisición de la Atención que lleva al dominio de los idiotas.

B es de Buitrear en la vida de todo el mundo.

C es de Colmar de contenido la mente de las personas.

D es de Dirigir el comportamiento de las personas de la manera más sibilina posible.

E es de Embolsarse dinero por dejar que los peores idiotas Engañen disimuladamente a todo el mundo.

F es de Falsas muchedumbres y una sociedad Falsaria.

A continuación, veamos una descripción de cada parte.

A es de Adquisición de la Atención que lleva al dominio de los idiotas

Mucha gente se comporta de una forma extraña y desagradable en internet. Este curioso fenómeno sorprendió a todo el mundo en los inicios de las redes y ha tenido un efecto profundo sobre nuestro mundo. Aunque no todas las experiencias en internet son desagradables, una agresividad familiar tiñe y liga la experiencia en líneas generales. La agresividad resultó ser también como el petróleo crudo para las compañías de redes sociales y otros imperios de modificación de la conducta que enseguida llegaron a dominar internet, porque se alimenta de las reacciones negativas.

¿Por qué se da esta agresividad? Lo exploraremos en la siguiente razón, pero en pocas palabras: las personas normales se reúnen en un entorno en el cual la principal —y a menudo la única— recompensa disponible es la atención. No es razonable que esperen ganar dinero, por ejemplo. Los usuarios corrientes solo pueden acumular un poder y una riqueza falsos, no poder y riqueza de verdad. Así que prevalecen los juegos mentales.

Sin otra cosa a la que aspirar más que a la atención de los demás, las personas normales suelen transformarse en idiotas, porque los más idiotas reciben la máxima atención. Este sesgo intrínseco favorable a la idiotez marca el funcionamiento de todas las demás partes de la máquina INCORDIO.

B es de Buitrear en la vida de todo el mundo

El componente B ya se introdujo en la primera razón.

Todo el mundo está sometido a un nivel de vigilancia propio de una novela distópica. Teóricamente, el espionaje ubicuo podría existir sin las plataformas generadoras de idiotas del componente A, pero se da la circunstancia de que, en la mayoría de las ocasiones, el mundo que hemos creado conecta ambos componentes.

El espionaje se consigue principalmente a través de los dispositivos personales conectados —en particular, por ahora, mediante los teléfonos inteligentes— que la gente lleva casi pegados al cuerpo. Se recopilan datos sobre las comunicaciones, intereses, movimientos, contactos con los demás, reacciones emocionales a las circunstancias, expresiones faciales, compras y signos vitales de cada persona: una variedad de datos ilimitada y continuamente creciente.

Por ejemplo, si estás leyendo este libro en un dispositivo electrónico, es muy probable que un algoritmo registre datos como la velocidad a la que lees o los momentos en que dejas de hacerlo para atender a cualquier otra cosa.

Los algoritmos establecen correlaciones entre los diversos datos de una misma persona y entre los de personas distintas. Esas correlaciones constituyen, de hecho, teorías sobre la naturaleza de cada individuo, que se miden y clasifican continuamente en cuanto a su predictibilidad. Como cualquier teoría bien gestionada, mejoran con el tiempo mediante un proceso de retroalimentación adaptativa.

C es de Colmar de contenido la mente de las personas

Los algoritmos deciden lo que cada persona experimenta a través de sus dispositivos. Este componente puede denominarse «hilo de contenido», «motor de recomendación» o «personalización».

El componente C implica que cada persona ve cosas diferentes. La motivación inmediata es suministrar estímulos para la modificación de la conducta individualizada.

INCORDIO hace que sea más difícil entender por qué los demás piensan y actúan como lo hacen. Los efectos de este componente se examinarán en mayor profundidad en las razones que tratan sobre cómo estamos perdiendo la capacidad de acceder a la verdad y de experimentar empatía.

(No toda personalización forma parte de INCORDIO. Cuando Netflix sugiere una película o eBay recomienda algo para que lo compremos, eso no es INCORDIO. Solo pasa a serlo cuando existe una conexión con otros componentes. Ni Netflix ni eBay reciben dinero de terceros para influir sobre nuestro comportamiento más allá de las transacciones inmediatas que efectuamos con cada uno de ellos).

D es de Dirigir el comportamiento de las personas de la manera más sibilina posible

Los elementos anteriores se conectan entre sí para crear una máquina de medición y retroalimentación que modifica deliberadamente las conductas mediante un proceso que se describió en la primera razón.

Resumiendo: los hilos de contenido personalizados se optimizan para «captar» a cada usuario, a menudo utilizando potentes estímulos emocionales que conducen a la adicción. Las personas no son conscientes de cómo las están manipulando. En principio, el propósito de la manipulación es hacer que la gente esté cada vez más enganchada y pase cada vez más tiempo en el sistema[29]. Pero también se ponen a prueba otros objetivos.

Por ejemplo, si estamos leyendo en un dispositivo, nuestros comportamientos de lectura se correlacionarán con los de multitud de personas. Si alguien que tiene un patrón de lectura similar al nuestro compró algo después de que se le ofreciese de una determinada manera, aumentará la probabilidad de que a nosotros se nos ofrezca de esa misma forma. Antes de unas elecciones, se nos pueden mostrar extrañas publicaciones que se sabe que hacen aflorar el cínico interior en aquellas personas parecidas a nosotros, y reducir así la probabilidad de que votemos.

Las plataformas INCORDIO han anunciado con orgullo cómo han experimentado con la posibilidad de hacer que las personas se sientan tristes, alterar la participación electoral y reforzar la fidelidad a tal o cual marca. De hecho, estos son algunos de los ejemplos más conocidos de estudios que salieron a la luz durante los primeros tiempos de INCORDIO[30].

La estrategia con la que las redes digitales se plantean la modificación de la conducta asimila todos estos ejemplos, estas distintas facetas de la vida, en una sola. Desde el punto de vista del algoritmo, las emociones, la felicidad y la fidelidad a una marca son señales distintas, aunque similares, que optimizar.

Si resulta que ciertos tipos de publicaciones nos entristecen y un algoritmo está intentando que estemos tristes, aparecerán más publicaciones de esa clase. Nadie tendrá por qué saber nunca la razón de que esas publicaciones en particular tuvieran ese efecto sobre nosotros, y probablemente nosotros ni siquiera nos demos cuenta de que tal o cual publicación nos entristeció ligeramente o de que estábamos siendo manipulados. El efecto es sutil, pero acumulativo. Aunque algunos científicos intentan profundizar en el asunto para tratar de arrojar luz sobre él, por lo general, el proceso se da en la oscuridad, con el piloto automático puesto: es un nuevo tipo de siniestro universo en la sombra.

Pocas veces se cuestionan los algoritmos, y menos aún por científicos externos o independientes, en parte porque es difícil entender cómo funcionan. Mejoran automáticamente mediante procesos de retroalimentación. Uno de los secretos del Silicon Valley actual es que parece que a algunas personas se les da mejor poner en funcionamiento programas de aprendizaje automático y nadie entiende por qué. El método más mecanicista de manipulación del comportamiento humano resulta ser un arte sorprendentemente intuitivo. Aquellos que saben cómo manipular los algoritmos más novedosos alcanzan el estrellato y perciben salarios espectaculares.

E es de Embolsarse dinero por dejar que los peores idiotas Engañen disimuladamente a todo el mundo

La máquina de modificación de conducta de masas se alquila por dinero. Las manipulaciones de INCORDIO no son perfectas, pero sí lo suficientemente potentes como para que resulte suicida para las marcas, los políticos y otras entidades competitivas abstenerse de contratar a las máquinas INCORDIO. La consecuencia es un chantaje cognitivo universal, que resulta en un gasto global creciente en INCORDIO[31].

Si alguien no paga a una plataforma INCORDIO con dinero, entonces, para evitar acabar aplastado por ella, debe convertirse en combustible de datos para la plataforma. Cuando Facebook destacó las «noticias» en los hilos de contenido de sus usuarios, todo el mundo periodístico tuvo que reformularse según los estándares de INCORDIO. Para evitar quedar descolgados, los periodistas tuvieron que crear historias que promoviesen el ciberanzuelo y pudiesen desligarse de su contexto. Se vieron obligados a convertirse en INCORDIO para no ser aniquilados por INCORDIO.

INCORDIO no solo ha oscurecido la ética de Silicon Valley, sino que ha hecho que el resto de la economía enloquezca. La faceta económica de INCORDIO se abordará en la razón 9.

Antes de pasar al componente F, tengo que explicar el papel especial que el componente E desempeña a la hora de proporcionar los incentivos económicos que mantienen en funcionamiento toda la maquinaria de INCORDIO. Si uno frecuenta Silicon Valley, oirá mucho hablar de que el dinero se está quedando obsoleto, de que estamos creando formas de poder e influencia que lo trascienden. ¡Aunque nadie ha dejado de intentar ganar dinero!

Si resulta que la manera de conseguir más dinero pasa por captar la atención de todos nosotros haciendo que el mundo parezca aterrador, eso es lo que acabará sucediendo, aunque implique hacer de altavoz para actores malintencionados. Si queremos que las cosas sean de otra manera, hay que cambiar la forma en la que se gana dinero.

Tras las elecciones estadounidenses de 2016, Facebook, Twitter, Google Search y YouTube[32] anunciaron cambios en sus políticas para combatir anuncios oscuros, noticias falsas malintencionadas, discursos de odio y demás. Las autoridades regulatorias también han introducido requisitos como la obligación de identificar a los anunciantes políticos. Justo cuando estaba terminando de escribir este libro, Facebook declaró que reduciría la presencia de noticias en los hilos de contenido de sus usuarios, algo que celebró la mayor parte del mundo periodístico, que así tendría mayor libertad para decidir cómo conectar con su público.

Estos cambios podrían tener como efecto una reducción de INCORDIO al menos durante un tiempo. De hecho, en ocasiones anteriores, pequeñas modificaciones en las políticas han mitigado desagradables fenómenos sociales en internet. En 2015 Reddit prohibió algunos subreddits indecorosos, y eso redujo el flujo de publicaciones de odio.

Pero esos cambios no afectan a los incentivos básicos, por lo que es probable que los actores malintencionados ideen contramedidas cada vez más tramposas y sofisticadas. Esto también ha sucedido ya. Como es bien sabido, existe una industria bastante importante dedicada a lo que se conoce como «posicionamiento en buscadores», esto es, a ayudar a sus clientes a manipular los constantes cambios en las políticas de los buscadores.

Si los incentivos no cambian, ¿pueden unas reformas incrementales resolver los problemas de adicción, manipulación e incitación a la enajenación en todo el mundo que INCORDIO ha forjado? Si unas reformas limitadas consiguiesen resultados prácticos, yo estaría cien por cien a favor de ellas, y espero que los cambios en los hilos de contenido de Facebook hagan del mundo un lugar un poquito mejor; aun así, me temo que estas pequeñas modificaciones no tendrán consecuencias suficientemente palpables. Este es uno de los motivos que me han llevado a escribir este libro.

Normalmente, los incentivos básicos prevalecen sobre las políticas. La manera en la que la gente sortea las reglas para perseguir los incentivos suele hacer del mundo un lugar más oscuro y peligroso. Las prohibiciones no suelen funcionar. Cuando Estados Unidos intentó prohibir el alcohol a comienzos del siglo XX, el resultado fue un aumento del crimen organizado. Cuando, más avanzado el siglo, se prohibió la marihuana, ocurrió lo mismo. Las prohibiciones son motores de corrupción que hacen que la sociedad se divida en sectores oficiales y delictivos. Las leyes son más efectivas cuando están razonablemente alineadas con los incentivos.

Introducir ajustes en INCORDIO sin cambiar los incentivos subyacentes probablemente resultaría en un fracaso similar. De hecho, ya han fracasado en el pasado: pioneros del INCORDIO como Google y Facebook han perseguido con ahínco a los actores malintencionados, falsarios y manipuladores no autorizados, y el resultado ha sido la irrupción de cibermafias clandestinas y técnicamente avanzadas que, en algunos casos, trabajan para estados hostiles.

El efecto colateral más desalentador de los ajustes en las políticas de INCORDIO es que cada ciclo en la carrera armamentística entre plataformas y actores maliciosos provoca que aumente el número de personas bienintencionadas que exigen que las compañías INCORDIO se hagan cargo de cada vez más aspectos de nuestras vidas. «¡Por favor, dígannos qué es lo que podemos decir, oh, ricos y jóvenes programadores de Silicon Valley! ¡Adiestradnos!». Los actores malintencionados que buscan desacreditar la democracia usando la máquina de INCORDIO salen ganando incluso cuando pierden terreno frente a los activistas bienintencionados.

A lo largo de este libro aparecen ejemplos de desafortunados incentivos INCORDIO. La razón 9 propone una estructura de incentivos distinta, que podría mejorar la situación. ¡Pasemos al componente F!

F es de Falsas muchedumbres y una sociedad Falsaria

Este componente está presente casi siempre, aunque no solía formar parte del diseño inicial de una máquina INCORDIO. Las personas falsas existen en cantidades grandes aunque desconocidas, y marcan el tono. Bots, IA, reseñas falsas, amigos falsos, seguidores falsos, publicaciones falsas, perfiles falsos automatizados: toda una colección de entes fantasmagóricos.

El resultado es un vandalismo social invisible. La presión social, que tanto influye sobre la psicología y el comportamiento humanos, se fabrica de manera artificial.

El papel crucial que desempeñan las personas falsas se abordará en la razón sobre la verdad, que sigue al inmediatamente posterior a este sobre los idiotas.

EL PROBLEMA ES LIMITADO, POR LO QUE PODEMOS CONTENERLO

Cuanto mayor sea la precisión con la que podamos trazar una línea alrededor de un problema, más resoluble será este. Aquí he planteado la hipótesis de que nuestro problema no son internet, los teléfonos o altavoces inteligentes, o el arte de los algoritmos, sino que lo que ha provocado que últimamente el mundo sea tan oscuro y desquiciado es la máquina INCORDIO, cuyo núcleo no es exactamente una tecnología, sino un tipo de plan de negocio que genera incentivos perversos y corrompe a las personas.

Ni siquiera es un plan de negocio que se use mucho. Fuera de China, los únicos gigantes tecnológicos que dependen por completo de INCORDIO son Facebook y Google. Las otras tres de las cinco grandes compañías tecnológicas recurren a INCORDIO ocasionalmente, porque actualmente es algo que está normalizado, pero no dependen de él. Varias compañías INCORDIO más pequeñas, como Twitter[33], también son influyentes, aunque a menudo tienen problemas. Una de las razones por las que soy optimista es que INCORDIO no es una gran estrategia empresarial a largo plazo. Explicaré por qué digo esto en la razón relacionada con la economía.

¿Qué empresas son INCORDIO? Esto es algo que puede discutirse. Una buena manera de distinguirlas es que las compañías INCORDIO de primer nivel son aquellas que se centran en las actuaciones o el gasto de actores malintencionados, como las unidades del aparato estatal ruso dedicadas a la guerra de la información. Este criterio pone de manifiesto que existen servicios seudo-INCORDIO que incorporan únicamente subconjuntos de todos los componentes, como Reddit y 4chan, pero no por ello dejan de tener un papel importante en el ecosistema de INCORDIO.

Otros servicios de segundo nivel, que podrían llegar a ser INCORDIO pero aún no han alcanzado la escala suficiente, son gestionados por los gigantes tecnológicos —Microsoft, Amazon y Apple—, así como por compañías más pequeñas como Snap.

Pero esta segunda razón no gira en torno a las compañías, sino a nosotros mismos. Puesto que podemos trazar una línea alrededor de la máquina INCORDIO, podemos trazar otra que rodee aquello que debemos evitar.

El problema de INCORDIO no es que incluya tal o cual tecnología en particular, sino que es un alarde de poder de otras personas.

Por ejemplo, el conductismo metódico, que se describió en la primera razón, no supone un problema en sí mismo. Podríamos decidir someternos a tratamiento con un terapeuta cognitivo-conductual y obtener beneficios de ello. Con suerte, ese terapeuta habrá jurado cumplir con unos estándares profesionales y se hará merecedor de nuestra confianza. Pero si está bajo el control de una corporación gigante y remota que le paga para conseguir que tomemos determinadas decisiones que no tienen por qué redundar en nuestro propio interés, eso sería un INCORDIO.

Del mismo modo, el hipnotismo no es un INCORDIO por sí mismo. Pero si tu hipnotista es reemplazado por alguien a quien no conoces y este a su vez trabaja para alguien a quien tampoco conoces, y no tienes forma de saber para qué te están hipnotizando, entonces eso sería un INCORDIO.

El problema no es una tecnología en concreto, sino el uso de esta para manipular a las personas, para concentrar el poder de una manera tan desquiciada y asquerosa que se convierta en una amenaza para la supervivencia de la civilización.

Si queremos contribuir a que el mundo sea un lugar sano, no tenemos por qué renunciar a nuestro teléfono inteligente, ni dejar de usar servicios de computación en la nube o de visitar sitios web; no debemos temer a las matemáticas, las ciencias sociales o la psicología.

Lo que hay que evitar son los INCORDIO. ¡Borremos nuestras cuentas INCORDIO!

Razón 3.

Las redes sociales te están convirtiendo en un idiota

Permíteme que reformule el título de esta razón. Yo no te conozco. No estoy diciendo que te estés convirtiendo indudablemente en un idiota, sino que es algo que les está pasando a muchas personas, aunque cada una de ellas solo ve que eso les ocurre a muchas otras. Yo mismo he visto que me empezaba a convertir en un idiota en internet, y fue algo aterrador y deprimente.

En realidad, lo que debería decir es algo como «Eres susceptible de transformarte gradualmente en un idiota». O bien: «Estadísticamente, podrías estar convirtiéndote en un idiota». Subtítulo: «Así que no te ofendas, y haz el favor de tomarte en serio esa posibilidad».

NIEVE TIZNADA

Los adictos pueden intentar ocultar su adicción, sobre todo ante sí mismos, pero suele saltar a la vista, pues su personalidad cambia.

El ritmo de una persona con una adicción profunda se vuelve nervioso, un picoteo compulsivo sobre su situación: siempre está necesitada de reafirmación y nunca deja de buscarla. Los adictos se vuelven ansiosos y centran extrañamente su atención en sucesos extraordinarios que los demás no ven. Son egoístas y están tan encerrados en su propio ciclo que no tienen mucho tiempo para darse cuenta de lo que los demás sienten o piensan. Exhiben una arrogancia, una querencia por la exageración, que tiene todas las trazas de ocultar una profunda inseguridad. Se dejan llevar por una mitología personal. Se ven a sí mismos envueltos en grandiosidad y, a medida que se hunden en la adicción, de forma cada vez menos realista.

Las personas muy adictas a las redes sociales muestran estos cambios, como los drogadictos o los jugadores compulsivos. Lo más habitual es que los usuarios de INCORDIO se vuelvan un poco así, que estadísticamente sea más probable que se comporten como adictos en un momento dado. Hay tonos de gris, como con cualquier otra cosa relacionada con INCORDIO. Pero, en cualquier caso, el resultado ha sido que la sociedad en su conjunto se ha oscurecido varios tonos.

El rasgo más peculiar de la personalidad del adicto es que llega un momento en el que busca el sufrimiento, ya que este forma parte del ciclo por el que satisface su necesidad. Un jugador no es exactamente adicto a ganar, sino al proceso en el cual perder es más probable. Un drogadicto no solo está enganchado al subidón, sino al vertiginoso contraste entre los bajones y los subidones.

De manera análoga, un adicto a INCORDIO acaba siendo extraordinariamente sensible a la ofensa, como si estuviese deseando verse envuelto en una disputa.

Los adictos también se vuelven agresivos, aunque sienten que actúan así por necesidad. Deben elegir entre ser víctima o agresor. Incluso los adictos a INCORDIO simpáticos y triunfadores, como los principales influencers en las redes sociales, reconocen que no deben ser demasiado amables con los demás, ya que eso es una muestra de debilidad[34] en una pecera tan competitiva. Para guardar las apariencias, uno debe ser líder más que seguidor.

Ese cambio de personalidad característico es difícil de percibir o de reconocer en uno mismo y más fácil de ver en los demás, sobre todo si estos no nos caen bien. Cuando los adictos a INCORDIO conservadores expresan su repulsión por los estudiantes universitarios progresistas con adicción a INCORDIO, a veces utilizan el insulto «frágil copo de nieve».

Pero el copo de nieve más frágil de todos es Donald Trump, que exhibe ese mismo comportamiento. Coincidí con él unas cuantas veces a lo largo de varias décadas y no me cayó bien, pero por aquel entonces no era un adicto a INCORDIO. Era todo un personaje en Nueva York, un manipulador, un actor, un maestro a la hora de manejarse entre amiguetes y marginados. Pero como personaje era consciente de lo ridículo que resultaba. Ni siquiera la telerrealidad le hizo perder conciencia de ello.

Como adicto a Twitter, Trump ha cambiado. Exhibe el patrón de comportamiento propio de un copo de nieve y en ocasiones pierde el control. No está actuando como la persona más poderosa del mundo, porque su adicción lo es más aún. Aparte de cualquier otra cosa, de cualquier tipo de agresor que pueda ser, Trump es también una víctima.

CONOCIENDO A MI TROL INTERIOR

A lo largo de los años han cambiado muchas cosas relacionadas con las redes sociales, pero su forma básica ya existía cuando yo empecé a trabajar con ordenadores a finales de los años setenta. Las redes sociales que teníamos por aquel entonces apenas permitían hacer otra cosa que comentar: eran grupos de personas que iban añadiendo sus textos. No había manera de votar las publicaciones favoritas, ni algoritmos que personalizasen nuestros hilos de contenido. Era todo muy elemental.

Pero hace ya muchísimos años me di cuenta de algo aterrador: a veces, sin motivo aparente, me enzarzaba en una pelea con alguien, o con un grupo de personas. Era muy extraño. Empezábamos a insultarnos, intentando ganar puntos y sacar a los demás de sus casillas. Y todo giraba en torno a cuestiones extraordinariamente estúpidas, como si alguien sabía o no lo que decía cuando hablaba de marcas de piano. En serio.

Entre publicación y publicación, yo echaba humo: «¡No soy un ignorante! ¡Sé de pianos! ¿Cómo se atreve ese imbécil a decir esas cosas espantosas sobre mí? Ya sé lo que haré: voy a arruinar su reputación engañándole para que diga alguna estupidez».

Esto ocurría tan a menudo que se convirtió en algo normal. No solo para mí, sino para todo el mundo. Era meteorología humana caótica: por la mañana hacía bueno y, de pronto, se desencadenaba una tormenta.

Para evitar caer en un comportamiento propio de un idiota, había que fingir ser amable. Había que ser empalagosamente educado, elegir en todo momento las palabras con el mayor de los cuidados, andar con pies de plomo.

¡Eso era todavía peor!

Dejé de frecuentar esas redes porque no me gustaba la persona en la que me estaba convirtiendo. ¿Conoces el dicho que afirma que, a la hora de elegir pareja, debemos fijarnos en cómo nos comportamos cuando estamos junto a la persona en cuestión? Es también un buen método para elegir tecnologías.

Cuando en los años noventa algunos amigos fundaron The Well, una de las primeras comunidades online, me abrieron una cuenta, pero no publiqué ni una sola cosa allí. Lo mismo sucedió mucho tiempo después, cuando ayudé a varios colegas a crear un mundo virtual llamado «Second Life».

A principios de este siglo, una mujer muy emprendedora de nombre Arianna Huffington consiguió que escribiese un blog en su The Huffington Post durante una temporada. Tengo que contar cómo lo hizo.

Estábamos en una exclusiva conferencia para personas ricas e influyentes en un exclusivo pueblecito en las Rocosas de Colorado. Yo estaba sentado en un banco con el brazo apoyado en el borde de un murete redondo de cemento que rodeaba un cubo de basura. Arianna se acercó y se sentó sobre mi brazo, dejándolo atrapado.

—Arianna, creo que no te has dado cuenta… Permíteme que saque el brazo.

Con su marcado acento griego, me dijo:

—¿Sabes lo que algunos hombres pagarían por este privilegio? Te dejaré sacar el brazo si escribes para mí.

Y eso hice. Durante una breve temporada, fui uno de los blogueros destacados de The HuffPost, siempre en la primera página. Pero comprobé que recaía en mi antiguo problema cada vez que leía los comentarios, no era capaz de ignorarlos. Sentía en mi interior una extraña rabia animal. O experimentaba una alegría absurda cuando a la gente le gustaba lo que escribía, incluso si de lo que comentaban se deducía que no habían prestado mucha atención al leerme. Por lo general, lo que buscaban los autores de los comentarios era que les hiciesen caso.

Todo estábamos en la misma situación, pavoneándonos y manipulándonos unos a otros.

Al cabo de poco tiempo, me di cuenta de que escribía cosas que ni siquiera pensaba para recibir un subidón de mis lectores. Escribía lo que la gente quería oír, o lo contrario, porque sabía que sería incendiario.

¡Dios mío! ¡Había vuelto a hacerlo, me estaba convirtiendo en un idiota por algo que tenía esta estúpida tecnología!

Lo dejé. Otra vez.

De las diez razones que abordo en este libro, esta es la que de verdad me afecta visceralmente. No quiero ser un idiota. O alguien que finge ser agradable.

Quiero ser agradable de verdad, y ciertos diseños en internet parece que me lo impiden con unos poderes mágicos. Esta es la razón fundamental por la que no tengo cuentas en Facebook, Twitter, WhatsApp[35], Instagram, Snapchat o cualquiera de las demás. Hay cuentas falsas a mi nombre. Incluso existe un supuesto @RealJaronLanier en Twitter. Pero no tengo ni idea de quién es. No soy yo.

No me considero mejor que tú por no tener cuentas en las redes sociales. Puede que sea peor. Quizá tú sepas gestionar todo esto mejor que yo.

Pero he observado que, desde que se popularizaron las redes sociales, lo que dicen los idiotas tiene más eco en el mundo.

Las experiencias con las plataformas INCORDIO oscilan entre dos extremos: o bien sus usuarios forman una turba virtual de idiotas, o bien todo el mundo es sumamente cuidadoso y artificialmente amable.

Pero los mayores idiotas son quienes reciben más atención, y suelen marcar el tono de la plataforma. Incluso si hay rincones de la plataforma donde no todo el mundo es idiota todo el tiempo, esos rincones parecen estar rodeados de idiotas a la espera. Esto forma parte de la manera en la que el componente A de INCORDIO fomenta el tribalismo.

LA MISTERIOSA NATURALEZA DE LA TECNOLOGÍA DE AMPLIFICACIÓN DE LOS IDIOTAS

Nadie ha sabido convencerme de que entiende por completo por qué el componente A hace que aflore el idiota que todos llevamos dentro. Existen muchas teorías[36], pero a continuación recojo las ideas que me han resultado más útiles.

No es apropiado interpretar que el mundo está dividido en idiotas y no idiotas, o, si se prefiere, en troles y víctimas.

Cada uno de nosotros tiene un trol interior. Al principio, antes de que le ocurriera a todo el mundo, el ambiente estaba menos cargado y era más fácil darse cuenta de lo raro que es cuando nuestro trol interior empieza a hablar. Es como un extraterrestre asqueroso que vive dentro de nosotros y de cuya presencia nos olvidamos hace tiempo. ¡No dejemos que nuestro trol interior nos controle! Si sucede cuando nos encontramos en una determinada situación, evitémosla. Da igual que sea una plataforma online, una relación o un trabajo. Nuestro carácter es como nuestra salud: más valioso que cualquier cosa que podamos comprar con dinero. No lo echemos a perder.

Pero ¿por qué? ¿Por qué existe siquiera ese trol interior?

Es un problema tan extendido que debe de ser algo profundo y fundamental, una tragedia que heredamos, un estúpido defecto en el fondo de la condición humana. Pero decir eso no nos lleva a ninguna parte. ¿Qué es exactamente el trol interior?

A veces el trol interior es el que manda, otras veces no. Desde hace tiempo, mi hipótesis de trabajo ha sido que existe un interruptor en lo más profundo de cada personalidad humana que puede estar en uno de los dos modos posibles. Somos como lobos: podemos ser solitarios o miembros de una manada. Lo llamo el «interruptor solitario/manada».

Cuando somos lobos solitarios, somos más libres. Somos precavidos, pero también capaces de más alegría. Pensamos por nuestra cuenta, improvisamos, creamos. Hurgamos en busca de comida, cazamos, nos escondemos. Aullamos de vez en cuando de pura exuberancia.

Cuando estamos en manada, las interacciones con los demás pasan a ser lo más importante del mundo. No sé hasta dónde llega esto en el caso de los lobos, pero en el nuestro es espectacular. Cuando las personas están atrapadas en una estructura de poder competitiva y jerárquica, como una corporación, pueden perder de vista la realidad de lo que están haciendo porque la lucha de poder inmediata oscurece la propia realidad.

El ejemplo actual más palmario es el negacionismo del cambio climático. En la comunidad científica y entre prácticamente todos los países del mundo existe el consenso de que debemos abordarlo, a pesar de lo cual un reducido pero poderoso grupo de empresarios y políticos no lo aceptan, puesto que consideran que la ciencia en torno al cambio climático es una estratagema para atacar su riqueza y su poder. Es una idea absurda, algo que solo es posible sostener si uno se limita a ver el mundo en términos de luchas de poder entre humanos y deja de lado el resto de una realidad más amplia.

Para una criatura del mundo tecnológico resulta reconfortante destacar un ejemplo como ese porque no nos interpela directamente; pero las comunidades científicas también pueden sufrir las consecuencias de que el interruptor se ponga en modo manada. Por ejemplo, el físico teórico Lee Smolin ha documentado cómo, durante un tiempo, los teóricos de cuerdas impusieron el gobierno de la turba en el mundo de la física teórica[37]. El patrón se repite siempre que las personas forman grupos. Las bandas callejeras solo entienden conceptos propios de manadas como territorio y venganza, incluso mientras destruyen sus vidas, familias y barrios. El modo manada del interruptor hace que prestemos tanta atención a nuestros compañeros y enemigos en el mundo de las manadas que podemos llegar a no ver aquello que sucede delante de nuestras narices.

Cuando el interruptor solitario/manada se pone en modo manada, nos obsesionamos con un orden jerárquico que acaba por controlarnos. Nos abalanzamos sobre aquellos que están por debajo de nosotros para evitar que nos hagan ocupar su lugar, y nos desvivimos por halagar y criticar al mismo tiempo a quienes están por encima. Nuestros iguales pasan de «aliados» a «enemigos» a tal velocidad que dejamos de percibirlos como individuos. Se convierten en arquetipos más propios de un cómic. La única base sólida para la amistad es el antagonismo compartido hacia otras manadas.

Sí, estoy mezclando metáforas de animales. Desde luego, creo que un gato moderno «domesticado» se parece más a un lobo solitario que a uno en manada, aunque a los gatos también les preocupan mucho las estructuras sociales jerárquicas. Puede que los gatos tengan un «interruptor de orgullo», y que vivir con personas les permitiese quitar importancia a esos orgullos suyos. Cuanto más fecundo es el terreno de caza, más fácil es no comportarse como un idiota con nuestros iguales. Puede que pasar a vivir con las personas fuese para los gatos lo que el progreso tecnológico para los humanos. Más opciones implican más posibilidades de no ser un trol. Al menos, eso es lo que el progreso tecnológico ha conllevado normalmente a lo largo de la historia de la humanidad. INCORDIO es una desgraciada excepción, una manera de usar la tecnología para reducir la libertad humana.

En las personas, por lo general, el interruptor debería mantenerse en la posición de lobo solitario.

Cuando las personas son lobos solitarios, cada individuo tiene acceso a una información sobre el mundo ligeramente distinta, y maneras ligeramente diferentes de reflexionar sobre esa información. He hablado sobre las relaciones entre el modo solitario y la personalidad de cada uno, pero hay más razones para dejar el interruptor en la posición de solitario.

Consideremos una demostración que suele realizarse el primer día de clase en una escuela de negocios. Un profesor muestra a la clase un gran tarro lleno de gominolas y pide a cada alumno que estime su cantidad total. El promedio de todas las estimaciones da un resultado bastante ajustado al número real. Cada persona aporta a la resolución del enigma distintas perspectivas, estilos cognitivos, habilidades y estrategias, y el promedio apunta a lo que todos ellos tienen en común. (Esto solo sirve para problemas cuya solución es un solo número. Si se le pide a un comité que diseñe un producto o escriba una novela, el resultado es el que cabría esperar de algo hecho por un comité).

Supongamos ahora que los alumnos solo pudieran ver el tarro a través de fotos de una red social. Se formarían varios bandos de personas con ideas distintas sobre el número de gominolas, que se burlarían los unos de los otros. Los servicios de inteligencia rusos publicarían imágenes de tarros similares con distintas cantidades de gominolas. Los promotores de las gominolas estimularían a los troles para que se quejasen de que no había suficientes y exigiesen que comprásemos más. Etcétera. Ya no habría manera de estimar el número de gominolas, porque la capacidad predictiva de la diversidad se habría comprometido. Cuando eso sucede, los mercados dejan de estar en condiciones de ofrecer algo útil al mundo.

Podemos sustituir el tarro por un candidato político, un producto o cualquier otra cosa. Pero eso suscita problemas que abordaré en las razones sobre cómo INCORDIO desbarata nuestro acceso a la verdad y al significado.

De momento, imaginemos que el tarro de este ejemplo es nuestra identidad, tal y como se presenta a través de las redes sociales. INCORDIO manadiza nuestra identidad. Al exponernos ahí, nos estamos borrando a nosotros mismos. Mientras las personas piensen por sí mismas, estimarán colectivamente la cantidad de gominolas en el tarro; pero eso no sucederá si forman una manada y caen en el pensamiento grupal.

Hay situaciones que exigen que el interruptor se ponga en modo manada. Las unidades militares son el ejemplo canónico. A veces las personas deben disolverse en un orden jerárquico porque esa es la única manera de sobrevivir. Pero uno de los objetivos principales de la civilización es conseguir que esas ocasiones sucedan lo menos posible.

El capitalismo falla cuando el interruptor se pone en modo manada. La configuración de manada provoca burbujas y otros fallos de mercado. Hay, qué duda cabe, ruidosos empresarios que prefieren las metáforas militares para los negocios: hay que ser duros y despiadados. Pero puesto que el modo manada también nos vuelve parcialmente ciegos, a largo plazo ese tipo de personalidad no es muy bueno para los negocios, si entendemos que estos tratan con una realidad que va más allá de la competencia social.

Cuando las personas actúan como lobos solitarios, cada una ocupa una posición diferenciada en la sociedad y piensa de forma particular. Otro ejemplo: las elecciones democráticas son una verdadera amalgama de ideas y han contribuido históricamente a que las sociedades encontrasen vías para avanzar a pesar de la controversia, pero todo ello siempre y cuando el interruptor estuviese en modo solitario. La democracia falla cuando se pone en posición de manada. El voto tribal, los cultos a la personalidad y el autoritarismo son la política correspondiente al modo manada.

Puede que en un primer momento parezca contradictorio, pero no lo es: los procesos colectivos tienen más sentido cuando los participantes actúan como individuos.

EL MÁS PRINCIPAL DE LOS INTERRUPTORES PRINCIPALES[38]

Supongamos que damos por buena la teoría del interruptor solitario/manada. ¿Qué hace que las experiencias en internet pongan el interruptor en la segunda posición? La respuesta más sencilla es probablemente la correcta. El interruptor se colocará en modo manada cuando no sean claros los beneficios del modo solitario.

Cuando uno es un lobo solitario, se ve obligado a establecer contacto directo con una realidad más amplia, indiferente a lo que piense una sociedad. Tiene que encontrar agua y cobijo, o perecerá. Tiene que buscar carroña o cazar por su cuenta. Su personalidad cambia: debe resolver problemas a partir de las evidencias que uno mismo recopile, en lugar de prestar atención a la percepción del grupo. Adopta rasgos propios de un científico o un artista.

Cuando está en manada, el estatus social y las intrigas son más inmediatas que esa realidad más amplia. Uno se convierte en algo más parecido a un operario, un político o un esclavo.

Así pues, las situaciones en las que uno no tiene contacto inmediato con la realidad más amplia, en las que las interacciones sociales se vuelven preponderantes, harán que nuestro interruptor se ponga en modo manada.

Además de resultar verosímil, esta teoría se ajusta a la evidencia disponible. Por ejemplo, en las grandes redes sociales, aquella con una menor proporción de idiotas es LinkedIn[39]. Eso no significa que LinkedIn no tenga otros problemas propios de INCORDIO: Tristan Harris la critica particularmente por su explotación de las ansiedades sociales para mejorar la captación[40].

En aras de una plena transparencia, debo decir que tengo una conexión profesional con LinkedIn que podría empañar mi objetividad (aunque no tengo cuenta en dicha red). No deberías aceptar lo que digo sin reflexionar sobre ello de forma crítica, y el hecho de que haya revelado este conflicto de intereses es un estupendo punto de partida para hacerlo. ¡Piensa por ti mismo!

En cualquier caso, la gente que conozco en LinkedIn es encantadora, aunque puedo decir lo mismo de quienes conozco en Twitter y Facebook. La diferencia con LinkedIn radica simplemente en que sus usuarios tienen algo que hacer más allá de competir por las apariencias sociales, algo de mayor enjundia. Esta red es muy conocida como un sitio donde impulsar la carrera profesional. Gana dinero principalmente conectando a empleadores con posibles empleados, en lugar de hacerlo manipulando a las personas para que realicen compras o modifiquen su comportamiento en otros aspectos no relacionados con la temática de la red.

Las carreras son procesos físicos y reales que generan sustento. No solo son reales, sino también no fungibles. Cada carrera es, al mismo tiempo, única e indispensable para una persona. No todos los usuarios de LinkedIn aspiran a tener exactamente la misma carrera, por lo que no se ven abocados a un conflicto directo o a mantener relaciones políticas entre ellos. No se les asigna a cada uno una cifra de popularidad, como a los aspirantes de las redes sociales, a los que se lanza a una competición global única.

Los usuarios en LinkedIn tienen algo más que hacer que mantener poses sociales, cosa que suele estimular a los idiotas. Y, si se les ofrece la posibilidad, la mayoría de la gente preferirá no ser idiota. La clave está en una capa de motivación prevalente para hacer cualquier otra cosa que no sea buscar la atención ajena u otras recompensas puramente psicológicas. Esta simple cualidad, que haya otros intereses más allá de los juegos mentales, mejora la calidad de un entorno digital.

Es así de sencillo. Las cosas prácticas —incluido el cómo se gana cada uno la vida— son en última instancia lo que nos une y, por consiguiente, nos civiliza[41].

En el territorio de INCORDIO, parece como si cualquier pequeño comentario, o bien se convierte en una competición por la total anulación y destrucción personal, o bien hace que todo el mundo sea simpatiquísimo y falso. Un claro ejemplo de esto es que el presidente de Estados Unidos, que es adicto a INCORDIO, el rey de los adictos a las redes sociales, lo transforma todo en una competición para ver quién puede destruir completamente a otra persona con un tuit, o bien recibe un tratamiento amable a cambio de su lealtad absoluta.

VE ALLÍ DONDE ERES MÁS AMABLE

Por supuesto que había idiotas en el mundo anterior a INCORDIO, pero no costaba tanto evitar ser uno de ellos. En INCORDIO, para ser simplemente decente hay que luchar contra la fuerza de la gravedad.

El problema de la supremacía de los idiotas en internet se podría resolver de una forma bien sencilla: abandonar el modelo de negocio de INCORDIO. Una posibilidad es que las personas pudiesen ganar dinero más a menudo y de una manera más justa a partir de lo que hacen en internet. Esta idea se analizará en la razón sobre cómo las redes sociales perjudican la economía.

Lo que necesitamos es algo que sea real más allá de las apariencias sociales y en lo que las personas puedan centrarse en lugar de convertirse en idiotas.

Entretanto, hay algo que tú puedes hacer personalmente. Si al participar en cualquiera de las plataformas de internet detectas algo desagradable en tu interior, una inseguridad, una sensación de baja autoestima, un anhelo de atacar verbalmente o de golpear a alguien, abandona esa plataforma. Así de sencillo.

Como es natural, lo que más se destaca es el acoso en internet, que quizá tú mismo hayas podido sufrir. Es algo que ha padecido muchísima gente.

Pero también te estoy pidiendo que detectes, en tu propia mente, en tu fuero más íntimo —no lo comentes con nadie— si sientes la tentación de anular a alguien en internet. Puede que fuese la otra persona la que empezó. Da igual. No merece la pena. Abandona la plataforma. No publiques ese vídeo con insultos, no tuitees como represalia.

Si Twitter dejase de funcionar mañana, Trump no solo no podría tuitear, como es evidente, sino que creo que también se convertiría en una persona mejor y más amable a todas horas, al menos hasta que se enganchase a otra plataforma INCORDIO.

No puedo demostrarlo, y mucha gente no estará de acuerdo conmigo. Eso no importa. Mira en tu interior. ¿De verdad estás siendo todo lo amable que querrías ser? ¿En qué momentos te pareces más a la persona que querrías ser y cuándo te vuelves irritable o displicente?

Tu carácter es lo más preciado que tienes. No permitas que se degrade.

Razón 4.

Las redes sociales están socavando la verdad

TODO EL MUNDO LO SABE

La idea de que la verdad ha muerto recientemente es una de las más recurrentes de nuestra época[42]. Y los asesinos a los que más se les suele acusar del crimen son las redes sociales o cierto presidente adicto a las redes sociales. Artículos con títulos del tipo «¿Cómo la tecnología altera la verdad?»[43] son tan habituales que casi no hace falta recalcarlo.

Este libro contiene diversas explicaciones sobre cómo y por qué las redes sociales socavan la verdad y constituyen el núcleo de cada uno de los otros nueve capítulos.

Además, cada uno de los componentes de INCORDIO, de la A a la F, destruye la verdad a su manera.

A: los idiotas Alteran el discurso hasta que se convierte en una simple descarga. Ponen el interruptor solitario/manada en modo manada, lo cual hace que la gente preste tanta atención a la competición por el estatus social que puede dejar de ver todo lo demás, incluida cualquier verdad más amplia o fundamental.

B: las empresas tecnológicas nos espían, Buitrean en nuestras vidas. La percepción de la verdad requiere que las personas sean auténticas para que puedan percibir de forma auténtica. Este principio se explicó mediante el ejemplo de las gominolas en el tarro. Cuando las personas se ven continuamente azuzadas por tecnologías de espionaje, pierden autenticidad.

C: Colman de contenido nuestras mentes. Cuando aquello a lo que se puede exponer a las personas es el producto que venden algunas de las corporaciones más ricas del mundo, parece evidente que la verdad se resentirá. La pérdida de la verdad es el producto.

D: Dirigen la vida mediante la modificación generalizada de la conducta. Obviamente, cuando las adicciones prediseñadas se utilizan para manipular a masas de personas y así obtener beneficios comerciales, a esas masas se las aleja de la verdad, que es precisamente lo que se pretende.

E: se Embolsan dinero por dejar que algunas personas, a menudo indeseables, modifiquen secretamente las conductas de otras. Los incentivos económicos tienden a imponerse sobre las normas, las políticas y las buenas intenciones, como se explicará en la razón sobre aspectos económicos. Así pues, los incentivos presentes en INCORDIO a menudo perjudican la verdad. En el mejor de los casos, no están alineados con ella.

F: las personas Falsas no tienen motivos para decir la verdad. De hecho, la verdad es para ellas algo suicida. Pero INCORDIO genera y da un altavoz a personas falsas.

La verdad, entendida como una afirmación que puede comprobarse o como acontecimientos que se han documentado honestamente —las cosas que todo el mundo puede tener en común—, es por definición anatema para las manipulaciones de INCORDIO, que con frecuencia debe sortear la verdad y tratar de suprimirla para prosperar.

CUANDO LAS PERSONAS SON FALSAS, TODO ES FALSO

Las personas falsas del componente F son las células madre del resto de falsedad que existe en INCORDIO.

Dejando a un lado las personas explícitamente falsas como Alexa, Cortana y Siri, podríamos pensar que nunca hemos interactuado con una persona falsa en internet, pero lo cierto es que sí, y con montones de ellas. Decidimos comprar algo porque tenía muchísimas reseñas positivas, pero muchas de ellas estaban escritas por personas artificiales. Encontramos un médico usando un buscador, pero la razón por la que este aparecía entre los primeros resultados es que montones de personas falsas enlazaban a su consulta. Vimos un vídeo o leímos una historia porque mucha otra gente lo había hecho, pero la mayoría de ellos eran falsos. Vimos ciertos tuits porque antes habían sido retuiteados por ejércitos de bots.

Los grupos que forman nuestros iguales ejercen una profunda influencia sobre nosotros cuando somos jóvenes, pero eso es algo que sigue sucediendo a lo largo de nuestra vida. Si nuestro grupo extendido de colegas contiene muchas personas falsas, diseñadas para manipularnos, es probable que nos influyan sin que nos demos cuenta siquiera.

Esto es algo que cuesta aceptar, pero lo cierto es que, debido a la importancia de la percepción social, nosotros mismos hemos vivido una vida falsa al menos en pequeña medida. INCORDIO hace que seamos parcialmente falsos.

Cualquier cosa que nosotros podamos hacer, los bots son capaces de hacerla un millón de veces en un visto y no visto. Las personas falsas son un ataque cultural de denegación de servicio.

En un ataque de denegación de servicio, los hackers hacen que un ejército de bots bombardeen un sitio web con tal cantidad de tráfico que ninguna persona real pueda acceder a él. Esta es una forma habitual que tienen los actores malintencionados de hacer uso de los virus informáticos: infectan millones de ordenadores y a continuación hacen que todos se conecten simultáneamente al sitio web de la víctima. O, más frecuentemente, venden la capacidad de hacerlo como un servicio.

De manera similar, ejércitos de personas falsas en una plataforma INCORDIO acaparan gran parte del oxígeno de la habitación y dirigen el mundo siguiendo las órdenes de sus amos.

Normalmente, quienes manejan las personas falsas no son quienes controlan las plataformas INCORDIO, sino que aquellas se fabrican en unos bajos fondos de nuevo cuño. Existe ahora una industria que vende humanos de imitación.

Según una información de The New York Times, a principios de 2018 el precio de las personas falsas en Twitter era de 225 dólares por los primeros 25 000 seguidores falsos[44]. Las cuentas falsas pueden ser una mezcolanza de cuentas de personas reales; a primera vista, parecen de verdad. Personajes famosos, empresarios, políticos y otros colectivos más modernos de ciberactores malintencionados recurren a las fábricas de personas falsas. Las compañías que las venden son a menudo también falsas. (The Times descubrió que un prominente servicio de bots usaba una dirección física falsa).

Algunos sitios web ni siquiera existirían de no ser por las personas falsas. El ejemplo más conocido puede ser Ashley Madison, un supuesto servicio de citas dirigido a adúlteros. Aparentemente, el sitio utilizó mujeres falsas para inducir a los hombres a que contratasen servicios más caros[45]. Incluso se le ha acusado de crear falsos críticos para generar controversia que le sirviese de promoción[46].

Las principales compañías INCORDIO no tienen las manos completamente limpias en lo tocante a los bots. Es difícil que los operadores INCORDIO más importantes consigan deshacerse por completo de las personas falsas porque mantienen con ellas una relación de codependencia, como les sucede a los animales con las bacterias que viven en su intestino. El componente F proporciona impulso y energía gratis. Los intrusos forman parte de la máquina.

Todas las empresas tecnológicas luchan contra las cuentas falsas, pero también se benefician de ellas. Aunque quienes trabajan en Twitter podrían preferir, por motivos emocionales o éticos, que su plataforma estuviese exenta de bots, estos también amplifican la actividad e intensidad del servicio. Resulta que las actividades falsas y masivas en las redes sociales influyen en las personas reales. Crean indirectamente una verdadera realidad social, lo que significa que permiten ganar dinero. Consiguen manipular a las personas. Los techies quizá logren racionalizar la situación y encuentren argumentos sobre cómo los bots incrementan la diversidad de opiniones o algún disparate por el estilo[47], a pesar de que los bots pueden ahogar las opiniones reales.

Otro fenómeno relacionado con el componente F es la manera en que algunos medios de comunicación tradicionales, como Fox News en Estados Unidos, se han vuelto más agresivos y partidistas. (En el lenguaje de Silicon Valley, «medios tradicionales» significa televisión, radio y prensa escrita). ¿Por qué está ocurriendo esto de manera tan generalizada en la era de las redes sociales, mientras que antes era menos notorio, al menos en la época moderna? Puede haber muchas razones, pero una de ellas es sin duda que INCORDIO puede utilizarse para construir un entorno social que haga imaginable lo que antes resultaba inimaginable. Por ejemplo, las teorías conspirativas más disparatadas suelen nacer en INCORDIO, amplificadas por personas artificiales, antes de llegar a los medios tradicionales hiperpartidistas[48].

Por lo tanto, los medios hiperpartidistas como Fox News pueden considerarse parte del componente F. Son retales de los medios tradicionales que se han recosido a toda prisa para pasar a formar parte de la maquinaria de INCORDIO[49].

El componente F hace que la máquina de INCORDIO sea robusta en su atrocidad, de manera que cualquier ajuste que pueda introducirse para mejorarla tiene efectos muy limitados. Por ejemplo, en Estados Unidos las autoridades han pedido a las empresas de redes sociales que empiecen a identificar quién paga para publicar cada anuncio; no obstante, puesto que hay innumerables entidades falsas que propulsan la máquina de INCORDIO, ¿cómo podría alguien saber lo que significará tal identificación?

Los bots escapan a los intentos de encauzar o regular INCORDIO. Por ejemplo, si los anuncios en INCORDIO llegasen a estar fuertemente regulados, los bots podrían generar una tormenta de publicaciones basura (shitposts)[50] para lograr lo que ya no podría conseguirse mediante anuncios. Este es uno de los motivos por los que debemos eliminar INCORDIO de nuestro mundo.

En su testimonio ante el Senado estadounidense, los abogados de las compañías de redes sociales afirmaron que eran incapaces de detectar a las personas falsas[51], que no disponían de medios para hacerlo.

Esto es pura comedia negra: supuestamente, los algoritmos de INCORDIO intentan manipular a las personas falsas, igual que nos manipulan a nosotros. Pero, a diferencia de nosotros, los bots son inmunes a la manipulación.

Debo hacer hincapié en que el tipo de persona falsa del que hago burla aquí es un fraude producido en masa con la intención de manipular. No soy quién en absoluto para juzgar lo que consideras auténtico o cómo construyes tu personaje en internet. Critico una relación de poder, no estoy proponiendo una teoría de la autenticidad. El hecho de que un adolescente cree una cuenta falsa en Instagram no tiene por qué ser necesariamente algo malo. Instruirse en los modos de la sociedad en la que uno vive es fundamental para poder llegar a ser ciudadano de primera clase en ella. Si la sociedad se basa en personas falsas, más nos vale aprender también a crearlas.

INCORDIO MATA

Gran parte del daño que provoca INCORDIO se puede reparar borrando nuestras cuentas, pero la auténtica pérdida social de la verdad se extiende desde INCORDIO y perjudica incluso a personas que no tienen ningún contacto directo con él. Hay muchos ejemplos de este peligro, especialmente en la esfera política, pero aquí me centraré en el ámbito de la salud pública.

Soy padre y quiero que los niños con los que mi hija se relaciona estén vacunados. La vacunación es un bien público, un regalo que nos podemos hacer los unos a los otros. Es uno de los mejores inventos de la historia.

Cuando yo era niño, aún se veían muchas personas renqueando por las aceras como consecuencia de las deformaciones provocadas por la polio. Las víctimas que seguían vivas y eran capaces de andar eran las que habían tenido suerte. Daba igual si uno era rico o pobre, blanco o negro: cualquiera podía contraer la polio.

¿Cuándo fue la última vez que viste a una víctima de esta enfermedad? Y la polio no es ni mucho menos el único ejemplo posible. La generación de mis padres sobrevivió a epidemias que acabaron con la vida de millones —decenas de millones— de personas.

Las vacunas son mejores que la electricidad, los inodoros y la exploración espacial juntos. Y eso que me encantan todos esos inventos.

Pero conozco a otros padres —estadounidenses instruidos y de clase media-alta— que ni siquiera se plantean vacunar a sus hijos. Algunos son «de izquierdas» y otros «de derechas». No es solo que creen que la vacunación es algo negativo, sino que piensan que es algo perverso, ajeno y repugnante. Creen que provoca autismo. No pueden dejar de pensar en teorías conspirativas. Quizá creas que estoy siendo elitista porque me horroriza más que esos padres «instruidos», que es más probable que sean adinerados, fomenten disparates peligrosos, pero ¿acaso no es un objetivo primordial de la educación reducir la susceptibilidad de las personas ante disparates peligrosos?

He intentado debatir con estos padres, y es entonces cuando exhiben sus hilos de contenido de INCORDIO. Cada día están expuestos a memes, terroríficas historias falsas y ciberanzuelos que posiblemente provienen de bots[52], aunque nadie sabe a ciencia cierta en qué medida[53]. Una actitud de paranoia y rechazo se ha apoderado de estos adictos a INCORDIO, que buscan a diario nuevas dosis en forma de estímulos sociales positivos y negativos.

Siempre ha habido extrañas oleadas de falsedad en la sociedad, pero de algún modo, para conseguir progresar hasta nuestra apacible modernidad, fuimos encontrando la manera de acceder juntos a la verdad. La diferencia en los últimos años es que muchos de nosotros hemos dejado de inspeccionar directamente el tarro de gominolas.

En esta era de INCORDIO, la información que les llega a las personas es el resultado de la interacción entre anunciantes manipuladores, empresas tecnológicas ebrias de poder y desquiciadas, y competiciones por el estatus social prediseñadas. Eso significa que hay menos autenticidad en la exploración social que nos ayuda a encontrar la verdad.

Se divide a las personas en grupos paranoicos de iguales porque así es más fácil y predecible manipularlas. Esa agrupación es automática, estéril y, como siempre, extrañamente inocente. No hubo nadie en una empresa tecnológica que decidiese promover la retórica antivacunas como táctica; podría haber sido igualmente una retórica antihámsteres. La única razón por la que INCORDIO la refuerza es que resulta que, por lo general, la paranoia es una manera eficiente de concentrar la atención.

La capacidad de los humanos de disfrutar de nuestros lujos modernos, como la disminución de mortíferas epidemias, al mismo tiempo que rechazamos, siquiera temporalmente, los beneficios de las verdades que tanto esfuerzo costó alcanzar, refleja lo lejos que hemos llegado como especie tecnológica. Algunos podemos permitirnos brevemente suponer que la gente no enfermará sin vacunas, como si la salud fuese nuestro estado natural.

Las medidas de salud pública y la medicina moderna han doblado nuestra esperanza de vida. ¡Doblado! Una consecuencia inesperada de ello es que ahora algunos podemos creer disparates y no pagarlo con nuestras vidas. Al menos durante un tiempo.

Para beneficiarnos a largo plazo del progreso tecnológico, debemos encontrar la manera de impedir que las mejoras en nuestra comodidad y seguridad sirvan de tapadera para una perezosa deriva hacia peligrosas fantasías. Los medios de comunicación que promueven la verdad son esenciales para la supervivencia, pero no es eso lo que hacen los medios dominantes en esta época.

Me fijé en este ejemplo porque me preocupa como padre (y ese es un nivel profundo al que preocuparse). Resulta desquiciante recorrer Silicon Valley y darse cuenta de que muchos de mis amigos que trabajan tras ventanas de cristal verde en los edificios bajos de las empresas tecnológicas que se extienden hasta el horizonte podrían estar contribuyendo a un proceso que hace posible que revivan en nuestros hijos enfermedades que ya habían sido erradicadas[54].

Salvemos a los niños. Borremos nuestras cuentas.

Razón 5.

Las redes sociales están vaciando de contenido todo lo que dices

Sin contexto, lo que decimos carece de sentido.

Es fácil pasar por alto este hecho tan sencillo en nuestras vidas cotidianas y en interacciones cara a cara, porque el contexto suele ser evidente. Supongamos que digo: «¡Déjame en paz! ¡Ahora no puedo prestarte más atención!». Suena extraño o cruel, a menos que tú veas que se lo estoy diciendo a mi gata Loof, que exige de mí una atención realmente excesiva.

El principio queda más claro en situaciones extremas. Si vemos a alguien en un coche de cuyo capó salen llamas y gritamos «¡Fuego!», podríamos salvarle la vida. Si gritamos esa misma palabra en un club nocturno lleno de gente, podríamos provocar que muriese gente en una estampida, con independencia de que hubiese realmente un incendio o no.

En internet, a menudo tenemos poca o nula capacidad de conocer el contexto en el cual se va a interpretar lo que expresemos o de influir sobre él. La manera más sencilla de entender este principio es viendo varios casos extremos.

Los casos «extremos» mejor documentados son aquellos en los que quienes se expresan tienen una cierta capacidad de influencia y son capaces de forzar un cambio. Por ejemplo, consideremos este problema para los anunciantes en YouTube: durante un tiempo, no era raro que un anuncio de algo inocuo, como jabón, apareciese antes o después de un espantoso vídeo de reclutamiento de terroristas. Cuando los anunciantes se quejaron —y solo entonces, a posteriori— Google empezó a borrar el contenido terrorista[55]. Como compensación, pagó dinero de verdad a los anunciantes afectados. Estos son sus verdaderos clientes, por lo que sus opiniones sí se tienen en cuenta. ¿Pueden los usuarios normales influir sobre el contexto en el que los sitúan los sistemas INCORDIO?

Aun así, los casos extremos más habituales se dan cuando mujeres y chicas que intentan expresarse en línea se enteran de que sus palabras e imágenes se sexualizan o se incorporan a un marco violento o manipulador. Con frecuencia, la presencia de las mujeres en internet se ha sometido a grotescas transformaciones con el objetivo de humillarlas, avergonzarlas o acosarlas[56]. Hay mujeres prominentes que llevan años sufriendo acoso —por ejemplo, las afectadas por el Gamergate—, pero ahora también les ocurre a jóvenes anónimas[57].

Estos casos extremos se producen únicamente porque, según las reglas del juego en INCORDIO, desconocemos el contexto en que expresamos cualquier cosa y no disponemos de una manera fiable de saber cómo se le presentará a otra persona.

Este problema está tan generalizado que se ha vuelto prácticamente invisible, como el aire. Hemos renunciado a nuestra conexión con el contexto. Las redes sociales remezclan el significado. Cualquier cosa que digamos se contextualizará y se le dará significado a través de la forma en la que los algoritmos, las multitudes reales y las de personas falsas, que en realidad son algoritmos, la remezclen con lo que dicen otras personas.

Nadie sabe nunca exactamente cómo será recibido lo que dice, pero en situaciones ajenas a INCORDIO uno suele hacerse una idea razonable. A veces doy charlas en público y adapto mi presentación al público de forma instintiva. Digo cosas distintas a alumnos de instituto que ante una sala llena de analistas cuantitativos[58]. Esto no es más que un aspecto normal de la comunicación.

Hablar a través de las redes sociales en realidad no tiene nada que ver con hablar. Se aplica un contexto a lo que decimos una vez que lo hemos dicho, con objetivos que benefician a terceros.

Esto hace que cambie lo que se puede expresar. Cuando se cede el contexto a la plataforma, la comunicación y la cultura se vuelven insignificantes, superficiales y predecibles. Hay que llegar a ser desquiciadamente extremo para poder decir algo que sobreviva, aunque sea solo por un breve periodo y en un contexto impredecible. Solo la comunicación de los idiotas puede lograrlo.

SIGNIFICADO ENTREABIERTO

INCORDIO sustituye nuestro contexto por el suyo. Desde el punto de vista de los algoritmos, dejamos de ser un nombre para convertirnos en un número: el número de seguidores, me gustas, clics u otras medidas de cuánto hemos contribuido a la maquinaria de INCORDIO, calculadas en tiempo real.

La ciencia ficción distópica suele imaginar un imperio del mal que sustituye los nombres por números. En la vida real, las cárceles lo hacen con sus prisioneros. Hay un motivo. Convertirse en un número es estar explícitamente sometido a un sistema. Un número es la constatación pública de la reducción de libertad, estatus e individualidad. A mí me resulta particularmente estremecedor porque mi madre sobrevivió a un campo de concentración en el que te tatuaban un número en el brazo. Hoy en día ese método sería demasiado caro. Los nazis almacenarían nuestro número, junto con nuestras características biométricas, en la nube.

Todo esto puede parecer un poco demasiado agorero a quienes tratan de maximizar sus cifras en las redes sociales. Tengo ante mí un dilema puramente moderno: si la gente desea estar sometida, ¿quién soy yo para decirles que deberían luchar por su dignidad individual? ¿No sería yo entonces quien no respetase los deseos de los demás?

Debido al dilema que acabo de mencionar, procuro no criticar a aquellos que parecen a gusto con la situación, como por ejemplo, los jóvenes que intentan convertirse en influencers en las redes sociales, y me centro en quienes intentan hacer algo más que ser un mero número, aun cuando se vean absorbidos por esta nueva realidad de la preeminencia de los números.

La mayoría de la gente descubre las fuentes de contenido, como los sitios webs de noticias, principalmente a través de INCORDIO, por lo que esos sitios deben manipularse a sí mismos para recibir un trato favorable por parte de los algoritmos y las multitudes.

Hace poco visité una redacción que tenía pantallas enormes por todas partes, como una sala de control de la NASA, en las que se mostraban en tiempo real estadísticas sobre cada publicación creada por alguna de las personas allí presentes. Presumiblemente, se esperaba de los autores y otros creadores que no perdiesen detalle de estos números para así maximizar la «captación». Se les obliga a convertirse en componentes de la maquinaria de INCORDIO. Lo siento por ellos.

Últimamente este problema se asocia a los hilos de contenido de Facebook, pero es un fallo extensible a todo INCORDIO. Ya era un problema antes de que se personalizasen los hilos de contenido de Facebook[59]. Ahora que Facebook ha anunciado que dará menor prominencia a las noticias, puede que las cosas mejoren un poco. No obstante, cuesta imaginar que las noticias pasen de pronto a estar exentas del colapso del contexto que causa INCORDIO. Para que las noticias recuperen su contexto, las personas tendrán que descubrirlas a través de sistemas que no formen parte de INCORDIO. Con suerte, la gente desarrollará relaciones directas —con más suerte aún, mediante suscripciones— con las fuentes de noticias y de otros contenidos.

Entretanto, el sometimiento del periodismo al dios de las estadísticas es problemático por muchos motivos. Algunas de las críticas son bien conocidas: un exceso de ciberanzuelo degrada el nivel del discurso público; a los autores no les da margen para que asuman riesgos.

¿Recuerdas cómo se optimizan continuamente los algoritmos de INCORDIO, salvo cuando caen en fases de estancamiento? El proceso se describe en la primera razón. Todo el mundo, periodistas incluidos, se ve obligado a participar en el juego de la optimización con la esperanza de sacarle el máximo partido a INCORDIO. Una fuente de noticias irá ajustando continuamente aquello que hace hasta que esos ajustes dejen de proporcionar mejores resultados. A partir de ahí, repetición. Esa es la razón por la que los ciberanzuelos son tan parecidos. No existe más que un único y extraño truco para optimizarlos[60].

No son los ajustes sino el entorno de INCORDIO lo que engancha a la gente. En el mundo real, fuera de INCORDIO, el nivel de complejidad y detalle es suficiente como para que los ajustes no lleven a todo el mundo al estancamiento. La retroalimentación está bien, pero darle una importancia excesiva a la retroalimentación inmediata en el marco de un entorno virtual artificialmente limitado lleva a resultados absurdos[61].

He aquí una manera no técnica de exponer la misma idea: ¿qué pasaría si el hecho de escuchar una voz interior o dejarse llevar por una pasión, por la ética o la belleza, permitiese hacer un trabajo más importante a largo plazo aunque en ese momento fuera menos beneficioso? ¿Y si conectar a un nivel profundo con un grupo reducido de personas fuese más importante que llegar a todo el mundo de la manera más superficial?

Hay que plantearse varias preguntas más. En primer lugar, ¿por qué hemos de creernos las cifras? Como se discutió en la razón anterior, buena parte del mundo online es falso: lectores falsos, comentarios falsos, recomendaciones falsas. He notado que las páginas de noticias que intentan atraer anunciantes a menudo inflan espectacularmente el número de lectores de los artículos sobre productos que podrían anunciarse en ellas —como los que nos ayudan a elegir nuestra próxima videoconsola— en comparación con los artículos sobre otros temas.

Eso no significa que el sitio esté amañando sus números, sino que, probablemente, algún ejecutivo contrató a una consultora que empleó un algoritmo para optimizar la elección de los servicios de métricas mediante los cuales explicar las estadísticas de utilización que el sitio podría usar para atraer anunciantes. Dicho de otro modo: los propietarios del sitio no amañaron las cifras, sino que saben, más o menos, que sus estadísticas forman parte de un amaño de proporciones gigantescas.

No le echemos la culpa al sitio. Hay muy pocos sitios web de noticias independientes, y son muy valiosos. Se han visto arrinconados por INCORDIO y se encuentran en una situación extraordinariamente vulnerable. A los medios de comunicación —sobre todo los que financian costoso periodismo de investigación—, se les ha dicho durante veinte años que era cosa suya tener la flexibilidad suficiente para idear nuevos modelos de negocio que sobreviviesen a las «disrupciones» provocadas por las grandes empresas tecnológicas, pero en la práctica nadie ha hecho ninguna propuesta buena.

De manera que los medios de comunicación se han diluido, a pesar de que aparecen cada vez más a menudo en las noticias. Existe una obsesión constante de INCORDIO con los medios de comunicación, y sin embargo, en Estados Unidos casi no quedan ya medios de comunicación locales de investigación. En este enorme país apenas sobreviven unas pocas redacciones independientes con recursos e influencia.

Cuando los autores tienen menos motivación para llegar directamente a las personas, porque deben cautivar a un sistema dispensador de números que no es necesariamente fiable, están perdiendo su conexión con el contexto. Cuanto más éxito tiene un autor en este sistema, menos sabe lo que está escribiendo.

Incluso cuando los lectores son reales, no falsos, los algoritmos los dirigen hacia un determinado contenido, por lo que sus elecciones no son realmente independientes. Las mediciones no son válidas, por definición. No podemos decirle a alguien adónde tiene que ir y luego afirmar que descubrimos algo porque nos enteramos de adónde ha ido esa persona. Este es otro problema muy extendido que es tan difícil de ver como el aire.

Una interpretación positiva sería la siguiente: el hecho de que el periodismo independiente esté en una situación complicada a la sombra de INCORDIO es señal de su integridad. Los periodistas han sido capaces de ajustarse a estándares más exigentes que los influencers de las redes sociales, pero han tenido que pagar un precio por ello. Ahora las noticias reales se llaman fake news, porque, según los estándares de INCORDIO, lo real es falso. En INCORDIO, la realidad ha sido sustituida por estúpidos números.

EL MUNDO DE LOS PÓDCASTS

Otra manera de poner de manifiesto la espinosa degradación del contexto pasa por fijarse en situaciones en internet en las que eso no es un problema, al menos de momento. Una parte del universo online que aún no ha destruido su propio contexto —al menos cuando escribo esto, en 2018— es el mundo de los pódcasts. Aún no es INCORDIO.

Quienes publican pódcasts son personas reales, conocidas para el oyente. Los pódcasts son episódicos, lo que les permite generar una sensación de personalidad y un contexto. El oyente no puede —todavía— saltar por el contenido en audio con tanta facilidad como por el que se presenta visualmente, como un sitio web o un vídeo. Eso hace que, en la práctica, la experiencia del oyente sea más parecida a como quien lo publica imagina que será que a lo que sucede cuando alguien usa los hilos de contenido de INCORDIO.

Para que la distinción sea más evidente, voy a idear una manera de arruinar los pódcasts. Pero que nadie la lleve a la práctica, ¿vale?

Alguien malintencionado podría desarrollar una aplicación que transcribiese todos los pódcasts disponibles en una tienda online y sintetizase uno nuevo «artificialmente inteligente» que combinase fragmentos de muchos pódcasts diferentes que —por poner un ejemplo— contuviesen el mismo conjunto de palabras clave. Podríamos decir: «Quiero oír opiniones sobre tal o cual candidato político», o quizá sobre algún famoso.

Y entonces oiríamos una velocísima secuencia de personas diciendo cosas sobre el tema en cuestión. No oiríamos lo que se había dicho antes o después de cada fragmento. Estos se sucederían con tal rapidez y serían tan numerosos que, incluso si una voz artificial identificase la procedencia de cada uno de ellos, no seríamos capaces de asimilar la información.

Los creadores de pódcasts se esforzarían por crear fragmentos lo suficientemente pegadizos como para que se eligiesen para formar parte de la salchicha. Abundarían las palabrotas, las emboscadas, los gritos desasosegantes y las risas, cosas que no aportarían mucho significado.

Los investigadores en IA mostrarían con orgullo cómo conseguían que la voz de uno pronunciase lo que otro había dicho. Podríamos tener todos nuestros pódcasts leídos por nuestro actor favorito. Lo que dice Ezra Klein, entonado por Gilbert Gottfried.

Además, se añadirían a la cola mensajes de voz personales para captarnos mejor. Puede que incluso esa fuese la única manera de escuchar nuestros propios mensajes.

También habría anuncios. La voz de nuestra pareja hablando sobre esa pieza de ropa con un sensor de internet de las cosas que comunicaría nuestra postura a desconocidos servicios de publicidad personalizada. En mitad de una remezcla de fragmentos de pódcasts sobre política, una voz hablaría de cómo cierta política dirigía una red de pedófilos desde el sótano de una pizzería.

Ejércitos de troles y de falsos troles manipularían el sistema e introducirían en nuestros hilos de contenido una cantidad suficiente de fragmentos de pódcast crueles como para que nos resultase insoportable seguir escuchando. Incluso los fragmentos más amables se convertirían en mera guarnición de una sopa sonora cruel, paranoica, exasperante y enloquecedora.

O puede que nuestro pódcast agregado fuese un filtro burbuja, que incluiría solo voces con las que estuviésemos de acuerdo. Aunque no serían realmente voces, porque el contenido estaría todo remezclado en un flujo de fragmentos, una caricatura de una supuesta opinión común de los oyentes. No viviríamos siquiera en el mismo universo que otra persona que escuchase una agregación diferente.

La aplicación agregadora de pódcasts tendría algún nombre que rezumase arrogancia de IA, como Podcast Metagenius, o quizá algo que remitiese a enternecedores niños pequeños, como Poddytraining.

Si este escenario parece ridículo y disparatado, fijémonos en lo que ya ha pasado con el texto, la imagen y el vídeo. ¿En qué sentido es Poddytraining diferente o peor que lo que ya aceptan quienes recurren a los hilos de contenido de las redes sociales para conectar con el mundo?

Los pódcasts todavía se basan en las tiendas online y las suscripciones, por lo que conservan una estructura de persona a persona, y no de persona a multitud/algoritmo/estructura manipuladora oculta.

Disfrutemos de los pódcasts mientras podamos. Pero permanezcamos alerta y, si estos se degradan, dejemos de crearlos y de escucharlos. Por ahora, recordemos que tan solo tenemos la conexión más frágil con el significado de las cosas que añadimos al monstruo INCORDIO.

Razón 6.

Las redes sociales están destruyendo tu capacidad de empatizar

Esta razón es el reverso de la anterior, según la cual las redes hacen que lo que decimos no tenga sentido. Lo que dicen los demás también deja de tener sentido: cada vez entendemos menos lo que les pasa.

Recordemos que el componente C de INCORDIO —el de Colmar de contenido las mentes de las personas— implica que los algoritmos determinan qué es lo que vemos. Esto significa que no sabemos lo que los demás están viendo, porque los cálculos que hace el componente C dan resultados diferentes para ellos. No podemos saber en qué medida INCORDIO introduce sesgos y moldea la manera de ver el mundo de otras personas. Las búsquedas, hilos de contenido, flujos y demás elementos personalizados constituyen el origen del problema.

Supongamos que un conductista de la vieja escuela colocase una hilera de perros enjaulados en un laboratorio, y que cada uno de ellos recibiese recompensas o descargas eléctricas en función de lo que acababa de hacer. El experimento solo funcionaría si cada perro recibiese estímulos ligados a su comportamiento específico. Si se cruzasen los cables, de manera que un perro recibiese los estímulos de otro, el experimento dejaría de funcionar.

Lo mismo sucede con las personas en una plataforma de INCORDIO. Pero las consecuencias para estas son aún más profundas que para los perros, porque no están enjauladas por separado y, por tanto, dependen en sumo grado de la percepción social.

Esto significa que nos fijamos en las reacciones de los demás para orientar nuestro comportamiento. Si todo el mundo a nuestro alrededor está nervioso por algo, nosotros también nos pondremos nerviosos, porque algo estará pasando. Cuando todo el mundo está relajado, normalmente nos relajaremos también.

Cuando era niño, una gamberrada habitual consistía en ir a un sitio donde hubiese más gente y empezar a mirar hacia el cielo. Enseguida, todo el mundo se ponía a mirar hacia el cielo también, aunque no hubiese nada que ver.

Una excelente manera de constatar la percepción social es viajar a un país cuyo idioma desconozcamos. Enseguida comprobaremos que estamos muy atentos a lo que los demás hacen y a qué prestan atención, porque esa es la única forma de saber lo que pasa. Una vez, en la selva tailandesa, vi que la gente empezaba a mirar en una determinada dirección, así que yo también lo hice, justo a tiempo de evitar que me arrollara un convoy de todoterrenos militares que apareció de la nada. La percepción social me salvó la vida. Siempre ha sido importante para la supervivencia de la especie.

Pero cuando todos vemos mundos distintos y privados, las señales que podamos mandarnos los unos a los otros dejan de tener sentido. Nuestra percepción de la realidad real, más allá de las plataformas de INCORDIO, se resiente.

Hay muchos ejemplos recientes de esto, como la vez en que una persona disparó en una pizzería por la demente idea que circulaba en internet de que desde el sótano del establecimiento operaba una red de pedófilos[62]. Antes de INCORDIO también circulaban falsedades propagadas por la histeria social, como las que inspiraron la caza de brujas de Salem, pero los episodios agudos eran menos habituales que en la actualidad. La velocidad, estupidez y escala de las percepciones sociales falsas se han visto amplificadas hasta el extremo de que parece que las personas ya no vivan en el mismo mundo, el mundo real.

Este es otro de esos problemas evidentes que nos tomaron por sorpresa. Se redujo el tamaño del espacio público y, en general, los ámbitos comunes perdieron vitalidad.

Un experimento mental puede ayudar a poner de manifiesto lo extraña que es nuestra situación actual. ¿Podríamos imaginar que Wikipedia mostrase distintas versiones de sus entradas a cada persona basándose en un perfil secreto de estas? Los visitantes pro-Trump verían un artículo completamente diferente del que se les mostraría a los anti-Trump, pero no habría manera de saber cuáles eran las diferencias ni a qué se debían.

Esto puede parecer distópico o disparatado, pero es parecido a lo que ocurre con los hilos de contenido en INCORDIO. Tanto los contenidos como los anuncios que vemos están personalizados para nosotros, pero no sabemos en qué medida se han adaptado ni por qué.

Otra manera de ver el problema pasa por pensar en los espacios públicos. Si compartimos un espacio con personas que no están mirando las pantallas de sus teléfonos, estamos todos juntos en ese mismo espacio. Todos compartimos la base de nuestra experiencia. Puede ser una sensación fantástica y es uno de los principales motivos por los que la gente va a clubes nocturnos, eventos deportivos y lugares de culto.

Pero, cuando todo el mundo está pendiente de sus teléfonos, nos hacemos menos idea de lo que cada uno está experimentando. Sus experiencias están moldeadas por algoritmos remotos. No podemos crear un espacio común sin distracciones a menos que nos deshagamos de los teléfonos.

Aún perviven vestigios del antiguo mundo que se pueden compartir. Podemos ver en la televisión las noticias a la antigua usanza que también ve gente como nosotros, o las que ven quienes no son como nosotros. Por ejemplo, a mí no me gusta Fox News en Estados Unidos porque creo que es demasiado paranoica, partidista y agresiva, pero a veces la veo, y me ayuda a entender lo que piensan y sienten quienes la suelen ver. Agradezco tener esa posibilidad.

Sin embargo, no tengo manera de ver el hilo de contenido que tú ves en tus redes sociales. Lo cual reduce mi capacidad de empatizar con lo que puedas pensar y sentir. No hace falta que todos veamos lo mismo para empatizar los unos con los otros. Solo los anticuados regímenes autoritarios intentan que todo el mundo vea lo mismo. Pero sí necesitamos tener la posibilidad de echar un vistazo a lo que otros ven.

La empatía[63] es el combustible que mueve una sociedad decente. En su ausencia, no hay más que áridas normas y luchas de poder.

Es posible que yo sea el responsable de introducir la palabra «empatía» para promocionar productos tecnológicos, porque en los años ochenta empecé a hablar de la realidad virtual como una herramienta para la empatía. Sigo creyendo que la tecnología puede servir para fomentarla. Si en la sociedad del futuro la tecnología es mejor que la actual, será gracias a la empatía.

Pero INCORDIO está calibrado con precisión para desbaratar nuestra capacidad de sentir empatía.

INSENSIBILIDAD SOCIAL IMPUESTA DIGITALMENTE

Una crítica habitual y pertinente de INCORDIO es que crea «filtros burbuja»[64]. Vemos nuestras propias opiniones reconfortantemente reforzadas, salvo cuando se nos presentan las versiones más irritantes de las opiniones contrarias, calculadas por los algoritmos. Reconfortar o irritar: lo que capte más nuestra atención.

Se nos agrupa con otras personas cuya captación se puede maximizar conjuntamente. Los algoritmos de INCORDIO tienden de forma natural a encerrarlas en burbujas, porque mejorar la captación de un grupo es más efectivo y económico que hacerlo individualmente para cada persona.

(Pero, siendo más precisos, habría que decir «manipular» y no «mejorar la captación», ya que se hace al servicio de terceros desconocidos que pagan a las empresas INCORDIO para influir sobre nuestro comportamiento. Si no fuera así, ¿por qué pagarían? ¿Por hacer qué otra cosa podría decir Facebook que le pagan decenas de miles de millones de dólares?).

En principio, los filtros burbuja son perjudiciales porque nos hacen ver el mundo con visión túnel. Pero ¿son realmente algo nuevo? No cabe duda de que antes de INCORDIO ya existían formas dañinas e insidiosas de comunicación social excluyente, como el uso de «silbatos para perros» racistas en la política.

Por ejemplo, en las elecciones presidenciales estadounidenses de 1988, es bien sabido que ciertos políticos usaron la historia de un hombre negro llamado Willie Horton, que había reincidido tras un permiso penitenciario, para estimular el racismo latente entre el electorado. Pero, en ese caso, todo el mundo vio el mismo anuncio, lo que permitía al menos hacerse una idea de por qué otra persona podría haber respondido a él de una manera racista, aunque uno no estuviese en absoluto de acuerdo.

Sin embargo, ahora no siempre podemos ver esos anuncios racistas. Esto se debe en ocasiones a los llamados «anuncios oscuros», que aparecen en el hilo de contenido de una persona aunque, técnicamente, no se publican como noticias[65]. Buena parte de la publicidad política oscura en Facebook solo salió a la luz como consecuencia de las investigaciones forenses de lo sucedido en las elecciones de 2016[66]. Eran anuncios agresivos y envenenados, y si bien Facebook ha anunciado planes para reducir el daño que causan, cuando escribo esto aún no se conocen en detalle las medidas que tomará al respecto.

Aunque nadie fuera de Facebook —y quizá ni siquiera dentro— sabe lo habituales y efectivos que han sido los anuncios oscuros y otros mensajes similares[67], la forma más generalizada de miopía en internet se debe a que la mayoría de las personas solo consigue sacar tiempo para ver lo que los hilos de contenido les ponen delante algorítmicamente.

Temo más el sutil ajuste algorítmico de los hilos de contenido que los toscos anuncios oscuros. Antes era imposible mandar mensajes personalizados e instantáneos a millones de destinatarios. Era imposible probar y diseñar multitud de mensajes personalizados, basados en la observación y las reacciones detalladas de personas que no sabían que estaban siendo sometidas a una vigilancia constante.

Podría darse la circunstancia de que usar determinado tipo de letra alrededor del retrato de una persona en un día concreto haga que un pequeño porcentaje de gente confíe un poquito menos en esa persona. Quizá esa misma tipografía apareciese ese mismo día en un vídeo popular sobre algún asunto desagradable. Pero nadie sabrá nunca por qué esa letra tiene el efecto que tiene. Es todo estadístico.

Los resultados son pequeñas modificaciones en el comportamiento de las personas a lo largo del tiempo. Pero los efectos de los cambios pequeños se van acumulando, como los réditos del interés compuesto.

Este es uno de los motivos por los que INCORDIO promueve de forma natural el tribalismo que está desgarrando la sociedad, por muy buenas intenciones que puedan tener los techies que trabajan para las empresas INCORDIO. Para poder optimizarse a sí mismo, el código de INCORDIO aprovecha de manera natural y automática cualquier tribalismo y racismo latentes, ya que estos hashtags neuronales están presentes en las mentes de todas las personas y pueden acentuarse con el objetivo de monopolizar la atención. (Trataré este problema con más detenimiento en la razón sobre cómo las redes sociales imposibilitan el progreso social).

No solo se distorsiona nuestra forma de ver el mundo, sino que somos menos conscientes de cómo lo ven los demás. No podemos acceder a las experiencias de los otros grupos que están siendo manipulados por separado. Sus experiencias nos resultan tan opacas como los algoritmos que generan las nuestras propias.

Es un acontecimiento histórico. La versión del mundo que vemos es invisible para quienes nos malinterpretan, y viceversa.

LA TEORÍA PERDIDA EN NUESTRO CEREBRO

La capacidad de elaborar hipótesis sobre lo que otra persona experimenta como parte del proceso de comprenderla es lo que se conoce como teoría de la mente. Disponer de una consiste en elaborar en nuestra cabeza una historia sobre lo que sucede en la de otra persona. La teoría de la mente es parte fundamental de cualquier sentimiento de respeto o empatía, y es un prerrequisito para cualquier esperanza de cooperación inteligente, civismo o una política constructiva. Es la razón por la que existen las historias.

Habrás escuchado expresiones como «No juzgues a alguien hasta haberte puesto en su lugar». No es posible comprender a los demás sin tener una cierta idea de lo que han vivido.

La mayoría de los animales se las apañan sin una teoría de la mente, pero los humanos la necesitan.

Cuando solo podemos ver cómo se comporta otra persona pero no las experiencias que influyeron en ella, resulta más difícil elaborar una teoría de la mente de esa persona. Por ejemplo, si vemos que alguien golpea a otro, pero no vemos que lo hace para defender a un niño, podríamos malinterpretar la escena.

De la misma manera, si no vemos los anuncios oscuros, los rumores ambientales, los memes despiadados y los hilos de contenido personalizados llenos de cosas ridículas, nos parecerá que esa persona está desquiciada.

Y este es nuestro nuevo mundo con INCORDIO. Todos pensamos que los demás están locos, porque INCORDIO nos impide crear teorías de la mente unos de otros.

Incluso cuando las experiencias de otras personas se graban sin que estas se den cuenta, con un teléfono móvil o la cámara del salpicadero de un coche, INCORDIO introduce ruido suficiente como para impedir una interpretación común de las imágenes. La opacidad debida a INCORDIO se constata continuamente en internet. Por ejemplo, un vídeo muestra los instantes previos a un tiroteo policial, pero INCORDIO hace que la gente publique innumerables versiones del vídeo con distintas ediciones, superposiciones y ofuscaciones. La empatía se pierde en el ruido.

A mí la gente que apoya a Trump me parece que está pirada, y eso mismo dicen ellos de los progresistas. Pero no es correcto afirmar que nos hemos distanciado y no podemos entendernos los unos a los otros. Lo que sucede es que vemos menos que nunca las cosas que otros ven, y por eso tenemos una capacidad menor de entendernos.

Es cierto que podemos monitorizar al menos parte del contenido típico que los otros probablemente estén viendo. Yo visito a menudo webs de noticias conservadores, por ejemplo. Siempre busco el contacto personal con gente que no está de acuerdo conmigo si ellos están dispuestos a intentarlo[68]. Incluso existe en Reddit una estupenda comunidad dedicada a esta tarea[69], aunque está completamente silenciada por un mar de veneno caótico.

El grado de diferencia entre lo que se le muestra a otra persona y lo que yo puedo suponer que se le muestra es en sí imposible de conocer. La opacidad actual es incluso peor de lo que cabría pensar, porque el propio grado de opacidad es opaco. Recuerdo cuando se suponía que internet traería consigo una sociedad transparente. Ha ocurrido lo contrario.

Razón 7.

Las redes sociales te hacen infeliz

¿POR QUÉ TANTOS TUITS FAMOSOS ACABAN CON LA PALABRA «TRISTE»?

La retórica optimista de las empresas INCORDIO gira en torno a los amigos y a hacer que el mundo esté más conectado. Pero la ciencia revela[70] la[71] verdad[72]. Los estudios[73] muestran un mundo que no está más conectado[74], sino que sufre de una agudizada sensación de aislamiento[75].

El patrón[76] es ahora tan evidente[77] que incluso los estudios que publican las empresas de redes sociales demuestran que nos entristecen. Los investigadores de Facebook han llegado prácticamente a alardear[78] de que podían hacer infelices a las personas sin que estas fuesen conscientes de por qué[79].

¿Por qué difundir algo así como un fantástico resultado de investigación? ¿No será perjudicial para la imagen de marca de Facebook? La razón podría ser que es una publicidad estupenda para llegar a sus verdaderos clientes, los que pagan para manipular. Los manipulados —esto es, nosotros— son el producto, no el cliente.

Más recientemente, los investigadores de Facebook han reconocido[80] por fin lo que otros investigadores habían descubierto: que sus productos pueden causar un daño real.

Lo que de verdad me molesta de la manera en que las redes sociales hablan de este problema es que dicen cosas como «Sí, es verdad, hacemos que os sintáis tristes, pero en el mundo en general hacemos más bien que mal». Pero luego las cosas buenas de las que presumen son todas ellas intrínsecas a internet, cosas que podrían tenerse —hasta donde sabemos— sin lo malo, sin INCORDIO. Sí, por supuesto que es fantástico que la gente pueda estar conectada[81], pero ¿por qué hemos de aceptar que el precio de esa conexión sea estar sometidos a manipulación por parte de terceros? ¿Y si la manipulación, y no la conexión, es el verdadero problema?[82]

Al principio de este capítulo incluí unas cuantas referencias sobre cómo las redes sociales nos entristecen, aun cuando, por lo general, conectar con otras personas a través de internet eleve nuestro estado de ánimo. Pero los datos disponibles son abrumadores, basta con hacer una búsqueda. (Ten en cuenta que hacerlo puede tener consecuencias sobre tu hilo de contenido personalizado: podrían etiquetarte —no por fuerza de manera explícita, sino implícita, por asociación— como una persona potencialmente depresiva. Es posible que los manipuladores en internet usen algoritmos que intentan sacar provecho de ello de forma automática, y eso podría deprimirte).

Lee los artículos científicos de las notas para profundizar en los estudios que respaldan la tesis de que las redes sociales nos entristecen. También encontrarás toda una variedad de hipótesis sobre por qué esto es así, como por ejemplo, el establecimiento de estándares de belleza o de un estatus social inalcanzable, o la vulnerabilidad ante los troles.

¿Por qué esa variedad? ¿No bastaría con una única forma de deprimir a la gente? Puesto que la estrategia central del modelo de negocio de INCORDIO consiste en hacer que el sistema se adapte automáticamente para maximizar nuestra captación, y puesto que es más fácil utilizar las emociones negativas, parece evidente que un sistema de este tipo tenderá a encontrar la manera de hacernos sentir mal. También repartirá alegrías ocasionales[83] entre tanto abatimiento, ya que el piloto automático que juega con nuestras emociones descubrirá que el contraste entre las recompensas y los castigos es más efectivo que hacer uso solo de uno de ellos. La adicción se asocia a la anhedonia, una reducción en la capacidad de disfrutar de la vida fuera de aquello a lo que la persona está enganchada, y parece que los adictos a las redes sociales tienen predisposición a la anhedonia crónica[84].

Por supuesto que INCORDIO nos hará infelices. Pero ¿cómo? Por lo general, la forma concreta de infelicidad estará adaptada a cada uno de nosotros. Quienes dirigen las compañías INCORDIO no necesitan saber qué fue lo que nos hundió. Averiguarlo es problema nuestro, nuestro último reducto de privacidad. Puede que nos genere ansiedad no ser tan atractivos o no tener tanto éxito como otras personas a las que estamos expuestos, incluso si el sistema nos utiliza a nosotros para hacer que alguna otra se sienta también así.

De acuerdo con los estudios, las formas que adopta la infelicidad siguen determinadas tendencias, lo que me permite hacer algunas suposiciones sobre lo que te podría estar pasando. Es posible que, cuanto más tiempo dediques a usar aplicaciones para conseguir sexo, lo practiques menos de lo que quisieras[85]. Y ahí estás, deslizando el dedo por la pantalla. Puede que, cuanto más adorable sea la presentación que hagas en las redes sociales de tu vida familiar, menos tiempo pases realmente con tu familia[86]. Es posible que el riesgo de que te autolesiones sea directamente proporcional al tiempo que pases utilizando las redes sociales, sobre todo si eres una mujer joven[87]. Quizá estés haciendo que tus experiencias traumáticas lo sean aún más al utilizar las redes sociales[88]. Es posible que tu autoestima disminuya incluso mientras te dedicas a expresarte[89].

Podría hacer suposiciones, pero no será ese el enfoque que adopte aquí. Yo no te conozco. Los estudios únicamente ponen de manifiesto tendencias estadísticas. Podrías ser una excepción. No soy nadie para hacer suposiciones sobre lo que más te conviene.

EL LADO MALO DE INCORDIO

Lo que sí haré será profundizar en los motivos por los que he llegado a la conclusión de que determinados diseños en línea, incluidas la mayoría de las redes sociales, me hacen infeliz. Mi descontento está relacionado con todas las razones vistas hasta ahora, porque INCORDIO me sitúa en una posición subordinada: es estructuralmente humillante.

Lo que me molesta no es un determinado patrón de superficie —como ver que todo el mundo ofrece una visión distorsionada de su vida para hacer creer que es más adinerada, feliz y apacible de lo que es en realidad—, sino el núcleo del sistema de INCORDIO. Estar enganchado y notar que me manipulan me hace sentir mal, pero eso no es todo. INCORDIO hace que me sienta juzgado como parte de una competición injusta y degradante, sin ningún propósito que pueda justificarlo.

Empecé a notar esas malas sensaciones desde los primerísimos prototipos de redes sociales, que se remontan a los años ochenta. Incluso con servicios arcaicos como pudo ser la Usenet de sus inicios ya sentí que, tras una sesión, había en mí un hueco extraño y desconocido. Era algo que no había sentido desde que era niño. Una inseguridad, una sensación de no estar a la altura, un súbito miedo al rechazo surgidos de la nada.

Pensaba que habría hecho algo mal, porque esta era una tecnología más avanzada, lo cual sin duda significaba que era mejor que los primitivos medios analógicos como los teléfonos y los periódicos.

Esta sensación coincidió en el tiempo con el descubrimiento de mi trol interior que he descrito en las razones sobre los idiotas, pero era algo que notaba de forma separada. Adopté un enfoque experimental para analizarme a mí mismo. Si me sentía mal tras usar un diseño de internet, ¿qué cualidades tenía este? ¿En qué se distinguía de los que me hacían sentir contento? Descubrí algo sobre mí mismo: no me importa que se me juzgue si quienes lo hacen se esfuerzan de verdad al hacerlo y si ello sirve honestamente a un propósito más elevado, pero no me gusta nada que una multitud me juzgue a la ligera o que un estúpido algoritmo tenga poder sobre mí.

No me gusta que un programa lleve la cuenta de si tengo más o menos amigos que otras personas, de si a la gente le gusto o no, o de si soy de alguna manera mejor o más interesante, de si es más probable que me haga rico o de cualquier otra cosa. Los algoritmos de INCORDIO deben colocarnos en categorías y clasificarnos para poder hacer cualquier cosa mínimamente incordiante. El objetivo de INCORDIO es convertirnos tanto a nosotros mismos como las modificaciones de nuestra conducta en un producto. Los algoritmos funcionan fundamentalmente de tal manera que favorecen a los propietarios de las plataformas y a los anunciantes; así, para poder manipularnos, tanto unos como otros necesitan manejar abstracciones creadas a partir de nosotros.

Los algoritmos de INCORDIO en los que se basan compañías como Facebook y Google se almacenan en unos de los pocos ficheros en todo el mundo que no se pueden hackear: tal es el nivel de secretismo que los rodea. Los secretos mejor guardados de la NSA[90] y la CIA[91] se han filtrado en más de una ocasión, pero es imposible encontrar en la web oscura una copia del algoritmo de búsqueda de Google o del de los hilos de contenido de Facebook[92].

Esto se debe en parte a que, si todo el mundo pudiese ver cómo funcionan realmente la actual IA y otros venerados programas en la nube, la gente se alarmaría. Se daría cuenta de lo arbitrarios que pueden llegar a ser los resultados. (Esta aleatoriedad se analizó en el primer capítulo). Los algoritmos son solo mínimamente, estadísticamente, útiles, a pesar de lo cual ese finísimo hilo de utilidad ha hecho posible la acumulación de las mayores fortunas de nuestra época.

Pero para mí no se trata ni siquiera de los programas, por sumamente idolatrados que puedan estar, sino de las relaciones de poder que surgen por el hecho de que las personas aceptan esos programas y los respetan implícitamente.

Siempre ha habido fuentes de información y opiniones exageradas —o directamente ridículas— sobre cada cual, pero antes no se les daba tanta importancia. Un ejemplo eran los antiguos horóscopos de los periódicos. No había manera de que una empresa registrase nuestros clics o el recorrido de nuestra mirada, por lo que nadie sabía lo que leíamos. ¿A quién le importa que uno lea su horóscopo (que —sintiéndolo por quienes creen en él— es algo que a mí me parece ridículo)?

Quizá alguien creyera de verdad en la astrología, puede que le pareciera interesante leer cosas al azar sobre sí mismo, o quizá simplemente pensara que todo era una broma, solo diversión. Eso era algo que quedaba entre la persona y un objeto inanimado, y como mucho alguien más a quien pudiese contárselo.

El horóscopo en el periódico no hacía nada fuera de nuestra propia cabeza; no hacía nada que afectase a las relaciones de poder entre nosotros y los demás.

En la era de INCORDIO las cosas han cambiado. Pongamos que, en vez de un periódico impreso, se trata de un servicio online, y supongamos que, en lugar de horóscopos, las opiniones sobre nosotros tienen que ver con nuestra salud, nuestra ética de trabajo, nuestra facilidad para encontrar pareja o alguna otra cosa. Facebook, por ejemplo, nos clasifica en categorías en función de nuestra orientación política y muchos otros factores[93]. Estas categorías son el equivalente de los horóscopos en INCORDIO.

Las valoraciones de los algoritmos de INCORDIO que nos clasifican pueden no ser significativas o fiables en un sentido científico, pero sí son importantes en la vida real. Influyen en las noticias que vemos, en a quién se nos presenta como posible pareja en una cita, en los productos que se nos ofrecen. Las valoraciones generadas a partir de información de las redes sociales pueden determinar los préstamos que se nos conceden[94], los países que podemos visitar[95], si nos contratan o no para determinado puesto de trabajo[96], la educación que podemos recibir[97], las consecuencias del parte que demos a la compañía aseguradora de nuestro coche[98] y nuestra libertad para juntarnos con otras personas[99]. (En muchos de estos ejemplos, terceras entidades aplican sus propios algoritmos de valoración a los datos de INCORDIO en lugar de basarse directamente en las categorías creadas por las empresas de INCORDIO).

Nuestras rarezas y peculiaridades están por primera vez sometidas a la capacidad de escrutinio de poderes que están por encima de nosotros, a menos que hayamos vivido en un Estado policial como la Alemania del Este o Corea del Norte.

Nuestra incapacidad para preservar un espacio en el cual inventarnos a nosotros mismos ajenos a la evaluación constante, eso es lo que me hace infeliz. ¿Cómo podemos tener autoestima cuando ha dejado de ser el tipo de estima que más importa?

¿Cómo podemos aspirar a la felicidad sin verdadera autoestima? ¿Cómo podemos ser auténticos cuando todo lo que leemos, decimos o hacemos pasa por la maquinaria de valoración?

Para que quede claro: en la maquinaria de INCORDIO se producen valoraciones a dos niveles. El primero es comprensible para los humanos y está a la vista. Ahora mismo, internet está repleta de opiniones sobre ti personalmente. ¿Cuántos amigos y seguidores tienes? ¿Eres atractivo? ¿Cuántos puntos has acumulado? ¿Recibiste una estrella dorada o quizá un puñado de confeti virtual de una tienda porque convenciste a otras personas para que comprasen ahí?

El otro nivel de valoración está basado en correlaciones matemáticas que las personas podríamos no ver ni ser capaces de interpretar jamás. Es lo que a veces se llaman «interpretaciones de capa intermedia» por la manera en que se generan en el seno de los algoritmos de aprendizaje automático. Se emplean para optimizar el disimulo con el que actúa INCORDIO: ¿qué anuncios tienen una mayor probabilidad de ejercer determinado efecto sobre nosotros, qué noticias, qué fotos de gatitos mezcladas en la sucesión de publicaciones que recibimos de nuestros familiares?

Con independencia de los detalles concretos, fijémonos en lo que está sucediendo: de pronto, junto con otra mucha gente, se nos hace participar en una estúpida competición que a nadie le interesa. ¿Por qué no se nos muestran tantas fotos chulas como a nuestro amigo? ¿Por qué no tenemos tantos seguidores? Lo único que consigue esta constante dosificación de la ansiedad social es que la gente se enganche más. Hay mecanismos profundos en las zonas sociales de nuestro cerebro que monitorizan nuestro estatus social y generan en nosotros pánico a quedar relegados, como el animal más débil que es sacrificado a los depredadores en la sabana.

Decidí hace mucho tiempo que no quiero que nadie me clasifique salvo si es para algo específico que yo haya elegido. Si quiero conseguir financiación para mi propio proyecto de investigación, sé que tendré que competir por ella y que mi proyecto tendrá que someterse a una clasificación. Pero ¿cómo se atreve un asqueroso algoritmo a hacer pública una clasificación de mí que yo no he pedido?

No obstante, por ridículo que sea, tengo comprobado que cuando se da esa situación soy incapaz de apartarla de mi mente. Hay en mi interior un pequeño demonio competitivo. Probablemente la mayoría de nosotros tenemos uno dentro.

Veo que se ha determinado que fulano es más popular o inteligente que yo o está mejor relacionado o es más valioso o lo que sea que yo, y ese demonio dice: «¿Ah, sí?». Y entonces siento que tengo que hacer algo al respecto: o bien ganar a ese juego o encontrar otro distinto.

Aun así, mientras permanezcamos dentro de INCORDIO, nunca podremos escapar a esa situación. Hay un millón de juegos INCORDIO en marcha en todo momento, y en casi todos ellos salimos perdiendo, porque competimos con el mundo entero y quienes ganan lo hacen en su mayor parte por mera suerte.

Es como si, en lugar de que en cada momento dado hubiese un solo partido de fútbol en juego, siempre se estuviera jugando uno global que ocupase el planeta entero, y en el que todos nos enfrentásemos contra todos y la mayoría saliésemos perdiendo siempre. El peor deporte de la historia.

Aún peor: hay unas pocas personas, gente de Silicon Valley como yo, que nos miran desde lo alto, ven más que nosotros o que nuestros amigos, y nos manipulan.

EL CASTILLO ELEVADO

Este hecho me quedó clarísimo hace tiempo, cuando Google aún era algo nuevo y pequeño. Estaba visitando sus pequeñas oficinas, antes de que construyesen el Googleplex, y un amigo mío, uno de sus primeros programadores, me habló del correo electrónico que habían recibido de una mujer que estaba muy enfadada porque, cada vez que alguien buscaba su nombre en Google, lo primero que veía era una tonta publicación que afirmaba que estaba obsesionada con la orina.

Fue un momento interesante para el equipo inicial de Google. ¿Debían hacer caso a las desesperadas demandas de la mujer para que resolviesen su situación, o debían por el contrario confiar en que, en un contexto más general, el daño se compensaría por un bien mayor?

Este tipo de asunto no tiene nada novedoso para nosotros, pero lamentablemente aún tiene la capacidad de seguir arruinando vidas. Uber, que es seudo-INCORDIO, llama a la capacidad de espiar a las personas «la visión de Dios»[100].

Desde la increíble perspectiva propia de dioses que se tiene desde Silicon Valley, tanto las personas como los algoritmos pueden ver siempre quién ha escrito qué, y cuándo; y quién lo buscó y lo leyó, y cuándo. Podemos contemplar todo el proceso como si estuviésemos observando un hormiguero. Y las diminutas hormigas lo saben. Saben que están siendo observadas. La mujer escribió alegatos cada vez más vehementes en que pedía ayuda. Algunos de los presentes ese día en las oficinas sintieron lástima por la mujer, mientras que otros se rieron de ella.

Esa sensación de ser una hormiga observada por seres supuestamente superiores que en realidad no lo son en absoluto, sino que son esa misma gente de cuando íbamos al colegio, con la única diferencia de que algunos de ellos encontraron trabajo en INCORDIO… Esa sensación es degradante y deprimente.

Deja que te recuerde que las emociones negativas son imanes de INCORDIO para las personas más fácilmente accesibles y más rentables que las positivas.

Si todas las personas normales y corrientes se pusiesen contentas y satisfechas, quizá tomarían distancia por un momento de la obsesión con los números propia de las redes sociales y saldrían a retozar entre las flores o incluso se prestarían atención las unas a las otras. Sin embargo, si todas están pendientes de si logran suficiente popularidad, preocupadas por si el mundo se hunde o furiosas con los imbéciles que se interponen en sus conexiones con amigos y familiares, no osarán desconectar. Están enganchadas debido a un estado natural de alerta inducido.

En Silicon Valley nos gusta observar a las hormigas escarbar con ahínco en su montón de tierra. Y mientras lo hacen nos dan dinero.

La descompensada relación de poder la tenemos delante de nuestras narices. ¿No te sientes humillado al usar alguna de las marcas de Facebook, como Instagram o WhatsApp? Facebook es la primera empresa que cotiza en bolsa controlada por una sola persona[101]. No tengo nada personal contra Mark Zuckerberg. Él no es lo que importa. Pero ¿por qué habríamos de subordinar gran parte de nuestra vida a cualquier desconocido?

Cuando yo era joven había políticos importantes, personas adineradas, estrellas del pop, líderes de la industria y demás, pero ninguno de ellos tenía la capacidad de dirigir mi vida de manera significativa. Ejercían su influencia sobre mí de vez en cuando, cuando decían algo que captaba mi atención, pero eso era todo. No se entrometían en mi vida personal.

Sospecho que, aunque digas que no te molesta, de algún modo sabes que no es así y que no sirve de nada enfadarse porque no ves que haya manera de hacer algo al respecto. Pero sí que la hay: borra tus cuentas[102].

Razón 8.

Las redes sociales no quieren que tengas dignidad económica

DOBLE INCORDIO

Desde que apareció INCORDIO, la vida económica de mucha gente en los países desarrollados ha tomado un cariz desagradable. Cada vez son más las personas que dependen de la economía de los trabajos esporádicos (la gig economy), lo que dificulta que puedan planificar su vida. Los trabajadores de este tipo de economía rara vez logran una seguridad financiera, aunque lleven años trabajando. Dicho de otro modo: el nivel de riesgo de sus finanzas parece que nunca disminuye, por mucho que hayan conseguido. En Estados Unidos, donde la red de seguridad social es más precaria, esto significa que incluso las personas cualificadas y trabajadoras pueden acabar viviendo en la calle debido a sus gastos médicos, incluso tras años entregadas a su profesión.

Entretanto, un reducido grupo de emprendedores —que da la casualidad de que siempre están próximos a alguna clase de agregador de computación— se han hecho exorbitantemente ricos y han abierto una brecha continuamente creciente entre ricos y pobres que recuerda a la Edad Dorada del siglo XIX. El riesgo se ha irradiado hacia la gente corriente, mientras que quienes están cerca de los ordenadores más grandes viven recluidos en su riqueza, como los propietarios de los casinos.

¿Está este desvío insostenible del contrato económico-social relacionado con INCORDIO o es mera casualidad que ambas circunstancias se produjeran al mismo tiempo? La respuesta es que INCORDIO ha provocado en mucha gente una inseguridad no solo emocional sino también financiera.

¿Cuál es la conexión entre ambas? Para explicarla, antes necesito hablar sobre la política digital durante los años en los que surgió INCORDIO.

INCORDIO DE BEBÉ

INCORDIO fue en parte una consecuencia imprevista de un movimiento entusiasta, casi religioso, de promoción del software libre y abierto durante la década previa a la expansión de internet. Paradójicamente, la presión social y política que ejercieron los techies hippies fue lo que llevó a los emprendedores a centrarse casi exclusivamente en modelos de negocio basados en la publicidad cuando internet se popularizó.

Aparte de todo lo demás que las compañías de INCORDIO trajeron al mundo, probablemente la característica que más cautivó la imaginación del público en un principio fue el hecho de que sus servicios eran gratuitos: no había que pagar a Google por hacer una búsqueda o por subir o ver un vídeo en YouTube, ni había cuota de ingreso para entrar en Facebook o Twitter.

Su gratuidad fue lo que propulsó a estos servicios para que creciesen tanto en tan poco tiempo. Es también la base del modelo de negocio de INCORDIO, que ha resultado sumamente destructivo al convertir a la mayoría de la humanidad en ratas de laboratorio a tiempo parcial. (Y es también el motivo por el que los actores malintencionados pueden permitirse crear un número ilimitado de personas falsas).

La idea de ofrecer gratuitamente un servicio de información tecnológicamente avanzado y ganar dinero a través de la publicidad no era nueva. Ya en las primeras décadas del siglo XX, la radio y la televisión no tuvieron más remedio que ser gratuitas, ya que las emisoras no tenían forma de saber quién las estaba sintonizando. ¿A quién se le podría cobrar? Pero los modelos de negocio tienden a perpetuarse incluso cuando quedan obsoletos. Por ejemplo, los anuncios no desaparecieron cuando los clientes pasaron a pagar por el servicio de televisión por cable.

En el caso de los servicios a través de internet, existió la posibilidad de elegir desde el principio. De hecho, el primerísimo diseño de una red digital, que se remonta al trabajo de Ted Nelson cuando era estudiante en la década de 1960, suponía que la gente pagaría y recibiría dinero en pequeñas cantidades a cambio de bienes en una red digital. Pero la idea fue arrinconada prácticamente hasta el olvido —aunque con la mejor de las intenciones— por el movimiento del software libre.

El movimiento para crear software libre se asentó sobre un error inocente: se adoptó como dogma que, si el software no era libre, no podía ser abierto, lo que significaba que solo su propietario podría ver el código fuente, de manera que nadie entendería lo que el software hacía realmente. Para ser justos, ese temor no era una mera especulación: las compañías que vendían software normalmente no dejaban ver el código fuente. La razón era que, si lo hacían, alguien podría modificarlo ligeramente y revenderlo como un programa distinto, lo que perjudicaría las ventas del desarrollador original.

Todo el mundo sabía que el software acabaría siendo más importante que las leyes, por lo que la perspectiva de un mundo basado en código oculto era sombría e inquietante. Así pues, se consideró que la transparencia, que debe ser la base de la democracia, el conocimiento y la decencia, era incompatible con cualquier modelo de negocio que no fuese libre. Lo libre y lo abierto siempre irían de la mano. Pero ¿cómo se ganarían la vida los programadores si su código podía copiarse libremente? Quizá podrían regalar el código y cobrar por solucionar los problemas que surgieran al usarlo. Pasarían a integrar una economía de trabajos esporádicos en lugar de una economía de pagos por derechos de autor. Serían jornaleros en lugar de ir acumulando capital. Pero, al menos, el código fuente seguiría siendo visible, lo que permitiría que floreciese una sociedad abierta y democrática.

La idea era buena, pero no funcionó. Cuando los activistas empezaron a exigir que el software debía ser abierto, los ordenadores no estaban aún conectados. Ahora sí lo están; y así ha sido desde hace décadas. Eso significa que una empresa de INCORDIO puede construir un modelo en software de cada uno de nosotros —y controlar lo que vemos en un hilo de contenido manipulador— ejecutando programas exclusivamente en sus propios ordenadores. Estos ordenadores están situados en ubicaciones superseguras que nunca visitaremos. Su software es superhipersecreto. Los hackers han sido capaces de acceder al contenido de todos los demás tipos de ficheros, pero no así a los algoritmos de búsqueda o de generación de hilos de contenido de las grandes empresas de INCORDIO. El código secreto mediante el que nos manipulan está protegido como la joya de la corona que es.

El software que más importa es el más oculto, el menos visible. El software de INCORDIO normalmente se ejecuta sobre una base de software libre y abierto (como la pila Linux/Apache). Pero nadie sabe lo que se hace sobre esos cimientos libres y abiertos. El movimiento del software abierto fracasó por completo en su intento de promover la apertura y la transparencia en el código que ahora rige nuestras vidas.

Las cosas podían haber sido de otra manera. Ahora que los ordenadores están conectados, podemos imaginar una herramienta de colaboración que lleve la cuenta de la procedencia de cada línea de código, cada imagen digital y cada sonido en un videojuego, por ejemplo, para así poder saber quién hizo qué. De esa manera, a todo aquel que contribuya a un proyecto de desarrollo colaborativo se le pagaría en proporción a su contribución y cuánto se juega al juego. Permitir que otra persona modifique nuestro código ya no implicaría que dejáramos por completo de cobrar por nuestro trabajo. No hemos sabido explorar todo un mundo de posibilidades.

INCORDIO CONTRADICTORIO

En los años previos al nacimiento de Google, la primera compañía de INCORDIO importante, los techies hippies eran feroces defensores de que todo lo relacionado con la información fuera gratuito, pero ese no era el único ideal que adoraban.

Los techies prácticamente veneraban a héroes emprendedores como Steve Jobs. Los líderes del sector tecnológico quizá no fueran tan inteligentes como los hackers, al menos en opinión de estos últimos, pero no dejaban de considerarlos visionarios. Nos gustaba que se hiciesen ricos. ¿Quién querría un futuro que hubiese sido diseñado a través de un aburrido proceso gubernamental o por comité? ¡Admiremos los ordenadores tan pulidos y relucientes que Steve Jobs trajo al mundo!

Así pues, chocaron dos pasiones: todo debe ser libre, pero adoramos a los héroes fundadores de las megaempresas tecnológicas.

¿Ves la contradicción? Se supone que todo debe ser libre, pero también que todo ha de girar en torno a los héroes emprendedores, y estos ganan dinero. ¿Cómo pueden reconciliarse estas dos directrices?

Hacia el cambio de siglo, hubo un intenso tira y afloja alrededor de esta cuestión. En última instancia, solo se identificó un método para lograr la reconciliación: el modelo de negocio basado en la publicidad. La publicidad permitiría que las búsquedas fuesen gratuitas, que la música fuese gratuita y que las noticias fuesen gratuitas. (Eso no significaba que los músicos o los reporteros se quedarían con una parte del pastel, ya que los techies los consideraban sustituibles). La publicidad se convertiría en el modelo de negocio dominante en la era de la información.

Inicialmente, esto no pareció algo distópico. Los primeros anuncios en Google eran graciosos e inofensivos. Pero a medida que internet, los dispositivos y los algoritmos evolucionaron, la publicidad mutó inevitablemente en modificación conductual de masas.

Así fue como nació INCORDIO. Como nos sucede a menudo a las personas, olvidamos que hicimos una elección. Ahora nos sentimos impotentes. Pero la posibilidad de elegir aún existe, y podemos volver a hacerlo.

ANTEOJERAS DE INCORDIO

Lo más peligroso de INCORDIO es la ilusión muy extendida de que INCORDIO es la única posibilidad. Hay gente en Silicon Valley que cree que las empresas tecnológicas emergentes pueden reinventar o disrumpir cualquier cosa en el mundo. Disrumpiremos la medicina, la educación, el transporte, incluso el ciclo de la vida y la muerte, pero tenemos un punto ciego sobre nuestro método básico de funcionamiento. Hemos consagrado la creencia de que la única manera de financiar una conexión entre dos personas es a través de una tercera que paga para manipularlas. Nos sentimos atrapados por esta certeza, pero la trampa está sólo en nuestras cabezas.

La afirmación de que los servicios digitales solo pueden funcionar de una manera, consistente en que nosotros, los usuarios individuales, debemos estar subordinados a ellos, es inherente al modelo de negocio de INCORDIO. Pero eso no es cierto. La prevalencia de este mensaje es uno de los mejores motivos para abandonar las redes sociales.

La idea de INCORDIO está tan extendida que ha calado hasta en sectores no relacionados con ella. Hemos asumido como un hecho de la naturaleza que, si queremos disfrutar de las ventajas de una aplicación como Uber —que utiliza la tecnología más puntera para mejorar la coordinación entre los conductores y la gente que necesita ir de un sitio a otro—, entonces debemos aceptar que unas pocas personas sean dueñas de la mayor parte de Uber y que algunas de ellas se conviertan en detestables oligarcas, mientras que los conductores tendrán menos seguridad laboral que los antiguos taxistas y a los pasajeros se les espiará de maneras humillantes. Ninguno de estos inconvenientes tiene que darse necesariamente para disfrutar de las ventajas. La única razón de que exista la relación entre unos y otras es que hemos sido condicionados por INCORDIO.

En un universo alternativo —un universo que debemos construir si queremos sobrevivir— existirá tanto la comodidad de una aplicación como Uber como un tejido social y económico sostenible a partir del cual grandes cantidades de personas construyan su propia seguridad con dignidad.

El producto comercial fundamental de INCORDIO es absurdo y nocivo. No es posible conseguir que una sociedad se haga rica a base de desquiciarla. La única salida pasa por cambiar el modelo de negocio de tal manera que las empresas de INCORDIO actuales puedan ganar dinero de otra forma. Lo cual señalará el camino para que otras compañías como Uber, que se basan en servicios similares en la nube y dispositivos personales, adopten modelos de negocio sostenibles y dignos. ¡Y pueden hacerlo!

MEJOR QUE INCORDIO

Una posibilidad es monetizar directamente servicios como la búsqueda y las redes sociales. Pagaríamos una cuota mensual por usarlos, pero si contribuyésemos mucho —si nuestras publicaciones, vídeos o lo que sea fuesen muy populares— también podríamos ganar algo de dinero. Esto permitiría que ganase dinero una gran cantidad de personas, en lugar del número simbólico de estrellas en el sistema actual. (Reconozco, por supuesto, que tendría que existir una manera de hacer que los servicios estuviesen al alcance de quienes no pudiesen permitirse pagar ni una pequeña cuota).

Insisto mucho en la posibilidad de ganar dinero, porque un sistema como este contribuiría a abordar la posible pérdida de puestos de trabajo debida a la IA y la automatización. Estamos hablando de un sector que engloba a algunas de las empresas más ricas de la historia, y que se basa en datos procedentes de personas a las que se les dice con frecuencia que están obsoletas, que tendrán que recurrir a la prestación por desempleo en un sistema de renta básica. No se le puede decir a la gente que ya no aporta valor a la sociedad cuando las compañías más enormes solo existen gracias a los datos que proceden de esas mismas personas.

Por ejemplo, pensemos en la traducción de idiomas. Es estupendo que podamos traducir automáticamente informes y páginas web, por ejemplo entre el inglés y el chino. Pero no es que exista entre bastidores un cerebro digital autosuficiente que genere esas traducciones.

Lo que sí hay son decenas de millones de nuevas traducciones de frases que se recopilan a diario de personas reales que no saben que sus datos se están usando de esta manera. ¿Cómo se obtienen? Cantidades ingentes de individuos bilingües traducen frases continuamente como parte de su actividad en INCORDIO, quizá para comentar un programa de televisión extranjero para sus amigos. Para las compañías de INCORDIO, todo lo que hagamos en INCORDIO es susceptible de emplearse de esta manera.

Se establece una correspondencia entre las frases traducidas y nuevas frases que la gente quiere ver traducidas, y un refrito estadístico de estas correspondencias produce un texto por lo general legible en el idioma de destino. Los nuevos ejemplos de traducción deben recopilarse a diario porque los idiomas son seres vivos: cada día trae consigo nuevos acontecimientos, nuevos elementos de la cultura pop y nuevas expresiones de argot.

Es maravilloso que esta tecnología funcione, pero no lo es que las personas que proporcionan los datos que hacen que funcione —humanos reales, biológicos, bilingües— se encuentren ahora en una situación de inseguridad. Los traductores humanos han sufrido una pérdida de perspectivas profesionales similar a la experimentada por los periodistas de investigación, los músicos profesionales o los fotógrafos, entre otros.

Estamos haciendo ver que las personas que saben traducir han quedado obsoletas, cuando lo cierto es que siguen siendo necesarias. ¿No es un pecado decirle a alguien que se ha quedado obsoleto cuando no es así?

Lo que llamamos IA nunca debería verse como una alternativa a las personas, sino como un nuevo canal, erróneamente caracterizado, de transmisión de valor entre personas reales.

El modelo de negocio de INCORDIO consiste en recopilar subrepticiamente datos sobre nosotros y ganar dinero con ellos. Fijémonos en lo ricas que son las empresas de INCORDIO y recordemos que su riqueza se ha generado por completo a partir de los datos que les proporcionamos. Creo que las compañías deberían enriquecerse si crean cosas que las personas quieran, pero no que debamos aceptar que esto implique necesariamente una inseguridad cada vez mayor para nosotros. El capitalismo no debería ser un juego de suma cero.

INCORDIO es económicamente insostenible, lo cual puede que sea aún peor que el hecho de que sea injusto. Hundir una sociedad para hacerse rico es una temeridad, pero eso es lo que está haciendo Silicon Valley.

Una vez que reconozcamos que un sistema de traducción necesita datos procedentes de personas reales, puede que se estimule a esas personas de alguna manera para que proporcionen datos mejores y más útiles. A las personas se las valoraría honestamente, recibirían dinero por su contribución y verían reconocida su merecida dignidad. ¡El servicio de traducción funcionaría mejor! La fantasía de la obsolescencia humana no solo minusvalora a las personas, sino que a menudo hace que los supuestos programas de IA sean menos funcionales porque nadie tiene motivos para mejorar los datos en que se basan.

La estupidez del enfoque de INCORDIO hacia el valor humano va más allá de la insostenibilidad económica: es una afrenta a la dignidad humana. Esa dimensión se abordará en la razón 10, dedicada a las cuestiones espirituales.

INCORDIO se vendió originalmente como una especie de trueque: «Permítannos que los espiemos y a cambio obtendrán servicios gratuitos». Quizá este trato pareciese razonable a corto plazo, pero a largo plazo es fatal.

Los servicios gratuitos que recibimos son versiones veladas de servicios que, en otras circunstancias, alguien como nosotros proporcionaría a cambio de una remuneración. Los músicos usan INCORDIO para promocionar su obra gratis, pero el porcentaje de músicos que gana dinero suficiente para poder plantearse tener una familia —que parece una definición razonable de «seguridad»— es menor que durante la época en la que la música se vendía en discos físicos[103]. Músicos profesionales, traductores… ¿Quién será el siguiente?

Antes de la era de INCORDIO, cada vez que aparecía una nueva tecnología que provocaba que toda una serie de roles humanos quedasen obsoletos, aparecían otros roles nuevos que eran menos físicos: conductores de automóvil en lugar de jinetes. De hecho, los nuevos roles que surgieron como consecuencia de las disrupciones tecnológicas eran con frecuencia más creativos y profesionales que los antiguos. Programadores de robots en lugar de trabajadores metalúrgicos. Esto significaba que cada vez era mayor el número de personas que alcanzaban prestigio y dignidad económica.

INCORDIO invirtió la tendencia. Ahora, si alguien aporta conocimiento, creatividad y experiencia al mundo, debe saber que tarde o temprano INCORDIO canalizará su valor a través de un servicio en la nube —probablemente, un servicio de supuesta IA— y le despojará de su seguridad económica, aunque los datos que genere no hayan dejado de ser necesarios. Por ejemplo, podría crearse arte automáticamente a partir de datos robados a multitud de artistas reales. Los llamados programas de creación artística mediante IA son prácticamente idolatrados. Enfermeros robóticos funcionarían con datos extraídos de multitud de enfermeros reales, que verían reducidos sus sueldos debido a la competencia de aquellos.

Todos proporcionamos datos a INCORDIO porque estamos enganchados y atrapados por los efectos de red, como se expuso en la razón 1.

En la razón sobre cómo INCORDIO nos está convirtiendo en idiotas, sugería que introducir algún tipo de sistema de recompensas que fuera más allá de los juegos mentales tribales podría inspirar dignidad en las relaciones que mantenemos a través de internet. Propuse LinkedIn como ejemplo de cómo la captación económica, en lugar de la exclusivamente social, podría tener un efecto civilizador.

Esta hipótesis debe someterse a más pruebas, pero es posible que, cuando entremos en una nueva era en la cual a las personas se las retribuya por el valor que sus datos aporten al mundo conectado, ese mundo pueda ser menos oscuro y desquiciado.

Este esbozo de un modelo de negocio alternativo para lo que ahora son servicios de INCORDIO, como las redes sociales o la búsqueda, es solo una de las posibilidades. Sospecho que existen otras. Esta idea en particular la planteé en un libro titulado ¿Quién controla el futuro? Últimamente, esta manera de imaginar el futuro de la economía digital se ha dado a conocer mediante la expresión «datos como mano de obra». (Data as Labor; DaL, por sus siglas en inglés)[104].

La idea del DaL ha ido ganando relevancia en círculos económicos, y sin duda merece ser explorada en mayor profundidad. No será perfecta, pero sí mejor que INCORDIO[105].

LA PERSPECTIVA CORPORATIVA

Las empresas INCORDIO no deberían temer la transición a un modelo de negocio de no INCORDIO. ¡Les irá mejor así!

Por ejemplo, yo no me considero anti-Google, aunque sí mantengo discrepancias filosóficas con alguna de la gente que trabaja allí. Mis colegas y yo vendimos una empresita a lo que era el incipiente germen de Google y pasé muchos días agradables allí. No creo que Google, entendido como un conjunto de personas, se haya vuelto malvado, aunque su modelo de negocio sí lo haya hecho.

Oigo decir a menudo que Google y Facebook nunca cambiarán sus modelos de negocio porque el modelo de INCORDIO es tan exitoso que los accionistas no lo permitirán. No estoy de acuerdo.

Un problema que tiene el modelo de INCORDIO es que es como el petróleo para un petroestado. Una empresa que tiene dependencia de INCORDIO puede diversificar sus actividades —sus centros de costes— todo lo que quiera, pero nunca podrá diversificar sus centros de ingresos, porque siempre tendrá que priorizar los servicios gratuitos para poder recopilar más datos con los que alimentar los servicios de manipulación. Los consumidores están enganchados, pero los imperios de INCORDIO también lo están.

INCORDIO hace que las compañías sean frágiles, provoca en ellas un extraño anquilosamiento. De las cinco grandes empresas tecnológicas, solo dos dependen del modelo INCORDIO. Apple, Amazon y Microsoft incurren un poco en INCORDIO, pero a todas ellas les va perfectamente sin depender de él. Las grandes compañías tecnológicas que no dependen de INCORDIO han sabido diversificar con éxito. Hay muchos motivos para criticarlas, y muchos aspectos que podrían cambiar, pero la cantidad de INCORDIO que estimulan no supone una amenaza existencial para la civilización.

Los dos gigantes tecnológicos que están enganchados a INCORDIO, Google y Facebook, están muy enganchados. Obtienen la inmensa mayoría de sus beneficios gracias a INCORDIO, a pesar de que han realizado enormes inversiones para intentar lanzar otros tipos de negocios. Sea cual sea su tamaño, una compañía que está basada en una única estrategia es vulnerable. Tarde o temprano se producirá alguna disrupción, y entonces la empresa de INCORDIO, por muy grande que sea, se hundirá rápidamente.

¿Cuál es entonces la razón por la que INCORDIO es tan buena estrategia a largo plazo para las empresas tecnológicas? Lo cierto es que no lo es. Confía en ganar a corto plazo a cambio de salir perdiendo a largo plazo, igual que un petroestado.

En lugar de intentar que las compañías de INCORDIO echen el cierre, deberíamos pedirles que innoven en sus modelos de negocio, por su propio bien.

LA PERSPECTIVA DEL USUARIO

La idea de que algún día tengamos que pagar por cosas que ahora son gratis puede parecer indeseable, pero recordemos que también podríamos ganar dinero con esas cosas. Y a veces pagar por algo realmente hace que el mundo sea mejor para todos. Los techies que preconizaban un futuro libre/abierto argumentaban que pagar por las películas o la televisión era algo terrible, y que la cultura del futuro sería obra de voluntarios, con la distribución digital financiada mediante publicidad, por supuesto. En Silicon Valley, esto era prácticamente una creencia religiosa cuando se fundaron las grandes empresas de INCORDIO. Cuestionarlo se consideraba sacrilegio.

Pero entonces, empresas como Netflix y HBO convencieron a la gente para que pagase una cuota mensual, y el resultado fue lo que se conoce como «el apogeo de la televisión». ¿Por qué no podría haber también un «apogeo de las redes sociales» o un «apogeo de la búsqueda» de pago?

Recomiendo ver los títulos de crédito de una película en Netflix o HBO. ¡Es un buen ejercicio para alargar nuestro período de atención! Fijémonos en toda esa sucesión de nombres. Todas esas personas, que no son estrellas, ganaron dinero para pagar el alquiler trabajando para crear esa película.

INCORDIO solo permite que vivan de ella las estrellas. Si eres una de esas escasísimas personas que se ganan la vida decentemente con INCORDIO como influencer[106], por ejemplo, debes entender que perteneces a un club muy exclusivo y que eres vulnerable. ¡Por favor, haz planes de contingencia! Siento aguar los sueños de los demás, pero si crees que estás a punto de conseguir ganarte la vida como influencer o algo parecido, las estadísticas están implacablemente en tu contra, por mucho que te lo merezcas y por muchas historias que hayas leído de gente que se hace rica en un visto y no visto[107]. El problema no es que haya tan solo unas pocas estrellas; eso siempre es así, por definición. El problema es que la economía de INCORDIO hace casi imposible que existan roles remunerados para las cuasiestrellas. En una economía profunda y verdadera, hay muchos roles. Quizá uno no llegue a ser futbolista profesional, pero puede dedicarse a la gestión deportiva, al periodismo deportivo o a cualquier otra de entre tantísimas profesiones relacionadas. Pero, en torno a un influencer estrella, la cantidad de roles económicos es mínima. Créate un plan de contingencia.

Cuando sean los usuarios, en lugar de terceros ocultos, quienes paguen a las empresas de redes sociales, estas servirán a esos usuarios. Es así de sencillo. Alguien podrá pagar para ver propaganda venenosa, pero no podrá pagar para que ese veneno se dirija contra otra persona. Desaparecerá el incentivo para envenenar el mundo.

No me crearé una cuenta en Facebook, Google o Twitter hasta que pueda pagar por ella y sea inequívocamente el dueño de mis datos y quien decida el precio que habrán de pagarme por usarlos, y hasta que sea fácil y normal ganar dinero si mis datos son valiosos. Puede que tenga que esperar sentado, pero merecerá la pena.

Razón 9.

Las redes sociales hacen imposible la política

QUEMADURA DE ARCO[108]

Como señaló Martin Luther King Jr., antes la historia tenía un arco moral: la justicia se iba extendiendo con el transcurso del tiempo. En una época, los esclavos se liberaron; en otra, las mujeres consiguieron el derecho al voto; en otra, las personas LGBTQ obtuvieron derechos y respeto. La democracia se extendió a cada vez más países.

Solo recientemente, en la era de INCORDIO, el arco está mostrando indicios de venirse abajo y quemarse. A medida que ascendemos por el arco, no solo hay retrocesos, sino también caídas inimaginables y catastróficas.

En los últimos años, Turquía, Austria, Estados Unidos, India y otras democracias han elegido líderes con tendencias autoritarias o que asientan su poder en el tribalismo. Los votantes están eligiendo negarse a sí mismos. En cada caso, INCORDIO tuvo un papel destacado. Espero y deseo que nuestra época se recuerde como una turbulencia momentánea en una progresión por lo demás continua hacia un mundo más democrático.

Pero hoy en día nos encontramos frente a una crisis súbita y aterradora. Antes de la era de INCORDIO, la opinión general era que, una vez que un país llegaba a ser democrático, no solo seguiría siéndolo, sino que lo sería cada vez más, porque sus habitantes así lo exigirían.

Por desgracia, recientemente eso ha dejado de ser cierto[109]. Algo está haciendo que los jóvenes se distancien de la democracia. A pesar de todas las optimistas palmaditas que se dan a sí mismas las empresas de redes sociales, parece que, cuando la democracia ha perdido vigor, el mundo online se ha vuelto más desagradable y falaz.

La correlación quizá sea aún más fuerte en las regiones en vías de desarrollo. En las últimas décadas y en todo el mundo, el mero acceso a las tecnologías de la información, como la capacidad de enviar mensajes de texto a través del teléfono, probablemente haya contribuido a la maravillosa e histórica reducción de la pobreza más abyecta. Pero, más recientemente, aparecieron las redes sociales comerciales y los teléfonos se convirtieron en propagadores de una violencia social maníaca.

Una de las mayores catástrofes humanitarias en todo el mundo —que tiene lugar mientras escribo— es la grave situación de los rohinyá en Myanmar. Se da la circunstancia de que esta crisis coincidió con la llegada de Facebook, que enseguida se llenó de publicaciones sucias dirigidas contra los rohinyá[110]. Al mismo tiempo, las mentiras virales sobre secuestros de menores, en este caso principalmente en WhatsApp, propiedad de Facebook, han desestabilizado regiones de India[111]. Según un informe de Naciones Unidas, las redes sociales han sido también, en sentido literal, un arma enormemente mortífera en Sudán del Sur debido a las publicaciones basura[112].

Autores misteriosos inundan los hilos de contenido de las redes sociales con extravagantes denuncias de fechorías —variaciones de los libelos de sangre— supuestamente perpetradas por el grupo contra el que se dirigen las publicaciones. Los memes que buscan incitar al genocidio suelen denunciar que se ha cometido algún acto espantoso contra niños. Como siempre en INCORDIO, los mensajes más asquerosos y paranoicos son los que reciben más atención, y las emociones se desbordan como consecuencia del descontrol en el que se hunde la interacción con las redes.

Todas esas regiones ya arrastraban problemas. La historia está plagada de políticos raros, malos o locos. También está repleta de histerias de masas y delirios violentos multitudinarios. Y de países que se hunden. ¿Estamos realmente viviendo una época excepcional?

Solo los historiadores del futuro estarán en condiciones de responder a esta pregunta. Yo creo que hay algo en el mundo que se ha vuelto malo y oscuro, y en muy poco tiempo, apenas en los últimos años, con la llegada de INCORDIO. No es que estemos asistiendo a horrores inauditos, sino que se ha invertido la tendencia de la situación que hay que mejorar, y estamos experimentando retrocesos terribles y súbitos.

La típica historia de las redes sociales en la política es algo así: un grupo de jóvenes modernos e instruidos son los primeros en usar una determinada red social, porque estas cosas surgen en ambientes modernos, jóvenes e instruidos. Son idealistas. Puede que sean progresistas, conservadores o cualquier cosa. Desean sinceramente mejorar el mundo. Esto vale tanto para los techies que crean una plataforma de INCORDIO, como para las demás personas que la usan.

Empiezan con buen pie y logran éxitos espectaculares, a menudo apoteósicos, pero después, como por arte de magia, el mundo se agria. En última instancia, INCORDIO estimula más a los idiotas bocazas y a los estafadores que al grupo inicial de idealistas modernos, jóvenes e instruidos, porque a largo plazo INCORDIO encaja mejor con la manipulación subrepticia y maliciosa que con cualquier propósito.

INCORDIO estudia a los idealistas pioneros y, simplemente por ser como es, sin necesidad de que exista ningún plan malévolo, cataloga sus peculiaridades. Los resultados tienen el efecto indeseado de agrupar a los idealistas y convertirlos en blanco de publicaciones basura que estadísticamente los vuelven ligeramente más irritables, ligeramente menos capaces de comunicarse con personas distintas de ellos y, por lo tanto, ligeramente más aislados y, en última instancia, ligeramente menos capaces de tolerar una política moderada o pragmática.

INCORDIO socava el proceso político y perjudica a millones de personas, pero muchas de ellas están tan enganchadas que no pueden sino loar a INCORDIO, porque pueden usarlo para quejarse de las catástrofes que este ha provocado. Es como el síndrome de Estocolmo o como estar atado a una relación abusiva por cuerdas invisibles. Los adorables idealistas del principio pierden la batalla, sin dejar en ningún momento de agradecer a INCORDIO lo bien que los hace sentir y que los haya juntado.

LA PRIMAVERA ÁRABE

La Primavera Árabe fue una ocasión propicia para que Silicon Valley se felicitase de forma entusiasta a sí mismo. Nos la arrogamos como mérito propio: la «revolución de Facebook» y la «revolución de Twitter» eran expresiones habituales en aquella época[113].

Nos reuníamos frente a grandes pantallas para ver a los chavales de la plaza Tahrir de El Cairo enfrentarse a un gobierno despótico, y nos enamoramos. Celebrábamos que ciudadanos normales y corrientes usasen las redes sociales para informar a las fuerzas de la OTAN sobre cuáles debían ser los objetivos de sus ataques aéreos. Las redes sociales pusieron un ejército moderno al alcance de los usuarios normales de las redes sociales.

Antes había habido otras revoluciones, pero esta era diferente.

Por ejemplo, no había ninguna figura carismática destacada. No había un George Washington ni un Vladímir Lenin. Esta, pensábamos, era una revolución verdaderamente del pueblo. No había generales inclinados sobre grandes mesas con mapas mientras sus subordinados correteaban a su alrededor. No había un manifiesto unitario, ni un acuerdo general, ni tan siquiera una discusión particularmente concreta sobre lo que habría de venir tras la revolución. La palabra «democracia» estaba en boca de todos, pero apenas se discutía sobre lo que significaba. Se confundía la democracia con una débil fe en que las dinámicas colectivas online conducirían a un mundo mejor. Una revolución espontánea no podía salir mal. Esta, pensábamos, era la plasmación de nuestra fe en las redes.

Yo no estaba tan seguro. Algunos de mis amigos se enfadaron conmigo cuando pregunté: «¿Dónde van a conseguir trabajo esos chavales?». O aún peor: «¿Twitter o Facebook les van a dar trabajo?». También protesté que una revolución pertenecía a quienes la llevaban a cabo, y que no estaba bien vincularla a las marcas de las empresas de Silicon Valley.

Pues bien, nadie les dio trabajo, y de hecho no hubo nadie en condiciones de hacerse con el poder en Egipto más que los extremistas teocráticos, que más tarde fueron derrocados por un golpe militar, y casi ninguno de los admirables jóvenes que tomaron parte en las protestas tiene ahora un trabajo decente.

Lo que las redes sociales hicieron entonces, y lo que hacen siempre, es crear ilusiones: de que podemos mejorar la sociedad con solo desearlo; de que las personas más sensatas saldrían ganadoras en las contiendas; y de que, de alguna manera, la cuestión del bienestar material se resolvería sola. Lo que sucede en realidad, siempre, es que los espejismos se disipan cuando ya es demasiado tarde, y el mundo lo heredan las personas más toscas, egoístas e ignorantes. Aquel que no sea un idiota será quien peor parado salga.

Así que yo era el cínico, pero resultó que no lo fui lo suficiente, ni muchísimo menos. Nadie quiere que se relacione la marca de su empresa tecnológica con lo que ocurrió a continuación.

A lo largo de la historia, había habido reacciones ante una revolución, así como revoluciones que habían sido secuestradas o corrompidas, reinos de terror y muchas otras disfunciones. Pero esta vez algo era diferente.

Estalló un fenómeno generalizado de terror nihilista en la red[114]. Los jóvenes veían los vídeos más espantosos y sádicos, a los que las empresas de Silicon Valley los exponían, y la dinámica era similar a la del porno: los chavales se enganchaban a las atrocidades. Eso era algo que sin duda había sucedido con suma frecuencia anteriormente, pero en el pasado había sido algo organizado. Las bandas habían campado por los muchos campos de batalla que existieron a lo largo de la historia, pero ahora eran jóvenes solitarios los que se estaban «autorradicalizando».

Se hizo familiar la figura de ese hombre solitario que se pavoneaba en su mundo imaginario, condicionado por las más mezquinas ilusiones, cargado de rabia e inseguridad.

Pero la fe de Silicon Valley en las redes sociales como herramienta para la mejora de la sociedad no sufrió ni el más mínimo desprestigio. Aún pervive en mí. Mientras escribo, el día de Año Nuevo de 2018, el régimen iraní está bloqueando las redes sociales para suprimir las protestas que se extienden por todo el país. Una voz en mi interior me dice: «¡Sí! Sí, las tecnologías de internet están ayudando a que la gente se organice, y seguro que sabrán sortear los intentos de acallarlos».

No quiero renunciar a esa esperanza. Ninguno queremos hacerlo. Pero las evidencias de que disponemos hasta la fecha no son muy halagüeñas.

GAMERGATE

Me reconfortó ver a las mujeres alzar la voz en la comunidad de los videojugadores. Ese mundo es maravilloso en muchos sentidos, pero realmente no está a la altura de su potencial. Los videojuegos deberían estar convirtiéndose en la nueva manera de aprender y de hablar de asuntos complicados. Eso es algo que está sucediendo en cierta medida, pero las grandes superproducciones suelen ir dirigidas siempre al mismo tipo de público. Tenemos armas, estamos recorriendo un terreno y vamos disparando a cosas. Una y otra vez. La industria tiene que desplegar su imaginación.

Los desarrolladores que pensaban que los videojuegos deberían ampliar sus objetivos en ese sentido recurrieron a las redes sociales para comunicar sus ideas y crearon un movimiento extendido y vibrante. Consiguieron que se les prestase atención y se notó cómo el ambiente cambiaba ligeramente. Un buen número de esos desarrolladores eran mujeres.

Lo que sucedió a continuación fue una versión trasladada a los países ricos de lo que ocurrió con la Primavera Árabe. La reacción fue sorprendentemente agresiva y desagradable, desproporcionada respecto a aquello contra lo que se estaba produciendo.

Las mujeres que hablaban sobre videojuegos fueron víctimas de brutales ataques que desde entonces se han convertido en algo espantosamente normal. Las bombardearon con imágenes falsas en las que aparecían ellas y sus familias siendo asesinadas, violadas y demás[115]. Se publicaron sus datos personales, lo que obligó a algunas de ellas a ocultarse[116].

El movimiento para acabar con los críticos del mundo de los videojuegos se llamó «Gamergate». Es imposible hablar con alguien que lo apoye, porque viven en un mundo alternativo de teorías conspirativas y están inmersos en una espesa selva de argumentos estúpidos alimentados por las fantasías más mezquinas y rezumando rabia e inseguridad.

Gamergate se convirtió en un criadero y un modelo para la alt-right[117].

LGBTQ

En los años inmediatamente anteriores a las elecciones de 2016 en Estados Unidos, las leyes sobre cuestiones relacionadas con el colectivo LGBTQ empezaron a cambiar. Se legalizó el matrimonio entre personas del mismo sexo, las personas transexuales pudieron hacer vida más pública y fueron más aceptadas. No cabe duda de que las redes sociales tuvieron su papel en este proceso.

Pero esa fue solo la primera fase en el proceso de degradación provocado por INCORDIO. Esa era la luna de miel con INCORDIO. La gente bienintencionada ganó un asalto históricamente tranquilo del combate, y parecía como si cualquier grado de mejora social que uno pudiera imaginar estuviese al alcance de la mano.

Según me lo han descrito, es como un colocón de heroína: una primera explosión formidable y agradable, tras la cual llega el inevitable y catastrófico bajón.

La siguiente fase en la política de INCORDIO es aquella en la que los idiotas toman conciencia de que esta los favorece. Reciben atención suficiente como para imponerse sobre las personas bienintencionadas que acababan de salir victoriosas de la fase anterior. Exhuman espantosos prejuicios y odios que han permanecido enterrados durante años, y hacen que esos odios pasen a ocupar un espacio central.

Después resulta que unos idiotas aún mayores manipulan a los idiotas que habían sido usuarios pioneros. Y entonces empiezan a suceder cosas malas e importantes. Idiotas terroríficos y gigantescos son elegidos para cargos públicos, se ensalzan estúpidos proyectos xenófobos, las personas normales sufren terribles e innecesarias pérdidas materiales, suenan tambores de guerra.

En el caso de Estados Unidos, personajes anti-LGBTQ asombrosamente extremistas alcanzaron los cargos públicos de mayor relevancia[118], a pesar de que la dignidad y los derechos de este colectivo eran intocables durante la contienda electoral en sí.

No es que INCORDIO discrimine a las personas LGBTQ. A INCORDIO no le importan lo más mínimo. Lo que sucede es que favorece a los estafadores y a los idiotas. Lo que da alas a INCORDIO son, precisamente, los componentes A y F.

NI DE IZQUIERDAS NI DE DERECHAS, SINO DE ABAJO

INCORDIO no es ni progresista ni conservador: simplemente es proparanoia, proirascibilidad y proidiotas en general.

Recordemos que INCORDIO no es así al principio. Inicialmente, parece que da impulso a los simpáticos usuarios pioneros. Sin embargo, una vez que a esas buenas personas se las clasifica, se las analiza y examina algorítmicamente, y son susceptibles de ser manipuladas, entonces se imponen los idiotas.

¿A quién le importa que yo sea progresista? Si eres un conservador con principios, ¿consideras realmente que INCORDIO ha sido algo positivo para ti? Mis amigos cristianos evangélicos conservadores de pronto se ven metidos en las redes sociales, en grupos que apoyan a un impúdico y cruel mujeriego y abusador que ganó una fortuna con las apuestas y a base de declararse en bancarrota, y que ha declarado públicamente que no necesita ni busca el perdón de Dios[119]. Entretanto, mis amigos patriotas y conservadores de la línea dura se descubren alineados con un líder que casi con toda seguridad no habría accedido al cargo que ocupa de no ser por las intervenciones cínicas e ilegales de una potencia extranjera hostil. Eso es lo que INCORDIO ha hecho con tu conservadurismo.

Lo mismo sucede con los progresistas. ¿Recuerdas a los entusiastas de Bernie Sanders? ¿Recuerdas cómo estuvo bien visto en círculos progresistas ridiculizar cruelmente a Hillary, como si hacerlo fuese una obligación religiosa? En la era de INCORDIO no podemos saber cuánto tenía de espontáneo y cuánto de organizado[120].

Es casual que INCORDIO favoreciese a los republicanos frente a los demócratas en la política estadounidense, pero no lo es que favoreciese a los republicanos más agresivos, autoritarios, paranoicos y tribales[121]. Todas esas cualidades están igualmente presentes en la izquierda. Si hubiese aparecido una versión estadounidense de Hugo Chávez, podría haber llegado a ser presidente. Quizá suceda en el futuro. Puaj.

Como izquierdista, no creo que un líder de izquierdas de estilo INCORDIO fuese en absoluto mejor que Trump. El envilecimiento es envilecimiento, venga de donde venga.

Las formas en las que Facebook puede preferir a un candidato «artista del desastre» son bien conocidas, aunque los detalles no estén tan claros. Cuando un candidato, o cualquier otro cliente, compra acceso a la atención de los usuarios a través de Facebook, la cantidad de acceso que recibe no está determinada únicamente por cuánto paga, sino por la medida en que el cliente está también promocionando e incrementando el uso de Facebook, según el criterio de los propios algoritmos de la red social. Personas que trabajaron en la estrategia para redes sociales de la campaña de Trump han afirmado[122] que, gastando la misma cantidad de dinero, este consiguió cientos de veces más acceso[123] que la campaña de Clinton, aunque Facebook afirma que no fue así, pero no aporta información suficiente para aclarar la historia[124]. Si existió un multiplicador, probablemente lo hubo tanto para los agentes rusos y otras entidades pro-Trump que compraron acceso en Facebook como para las compras efectuadas directamente por la campaña de Trump. Los algoritmos no saben distinguir ni tienen ningún interés en hacerlo.

Un detalle interesante que salió a la luz un año después de las elecciones es que Facebook había ofrecido proporcionar a ambas campañas electorales, la de Clinton y la de Trump, equipos de personas que trabajarían presencialmente con ellas para ayudarlas a maximizar su uso de la plataforma, pero únicamente la de Trump aceptó la oferta[125]. Quizá si Clinton hubiese accedido a tener empleados de Facebook en sus oficinas, habría ganado. Las elecciones fueron tan reñidas que cualquier pequeño detalle podría haber inclinado el resultado final de la balanza a su favor.

Facebook y otras empresas INCORDIO se están convirtiendo en ransomware para la atención humana. Ejercen tal grado de control sobre gran parte de la atención de tanta gente durante tanto tiempo a lo largo del día que son como guardianes de nuestros cerebros.

La situación me recuerda a la práctica medieval de las indulgencias, mediante las cuales la Iglesia católica de la época exigía dinero para que un alma pudiera entrar en el cielo. Las indulgencias fueron uno de los principales motivos de queja que llevaron a los protestantes a la escisión. Es como si Facebook estuviese diciendo: «Pagadnos o no existiréis».

Se están convirtiendo en una mafia existencial.

«BLACK LIVES MATTER»

Tras una dramática serie de espantosos asesinatos de ciudadanos negros desarmados por parte de la policía estadounidense, la reacción inicial de los usuarios de redes sociales que simpatizaban con las víctimas fue por lo general sosegada, estoica y constructiva. Hay que decir que, de no existir las redes sociales, puede que ni siquiera hubiésemos oído de estos asesinatos, de la frecuencia con la que se producen o de las similitudes que existen entre ellos.

Al principio, las redes sociales generaron un sentimiento universal de comunidad. Por ejemplo, inicialmente el eslogan «Black Lives Matter» (la vida de las personas negras es importante) me pareció sumamente inteligente y cuidadoso. Ni una sola palabra malsonante, ni un solo reproche; solo un recordatorio: nuestros hijos son importantes. Sospecho que mucha gente tuvo la misma impresión, aunque muchos de ellos acabaran ridiculizando el eslogan no mucho tiempo después.

«Black Lives Matter» apareció y ganó prominencia durante la típica fase de luna de miel del activismo en INCORDIO y, como siempre, esa fase inicial era optimista y parecía sustancial. INCORDIO estaba proporcionando a los activistas negros un nuevo canal de influencia y poder. Más dinero y más poder para las empresas de INCORDIO, sin duda, pero también más empoderamiento para nuevos ejércitos de usuarios de INCORDIO. Todo el mundo salía ganando, ¿no?

Pero durante esa misma luna de miel, entre bastidores, se estaba gestando un juego de poder más profundo e influyente. El juego más importante no estaba a la vista y tenía lugar en la maquinaria algorítmica oculta en gigantescos centros de datos de todo el mundo.

Los activistas negros y sus simpatizantes fueron objeto de catalogación y estudio meticulosos. ¿Qué palabras precisas los excitaban? ¿Qué les molestaba? ¿Qué pequeñas cosas, historias, vídeos, lo que fuera, los mantenían pegados a INCORDIO? ¿Qué haría que se fuesen transformando en copos de nieve para aislarlos, poco a poco, del resto de la sociedad? ¿Qué los volvía cada vez más susceptibles a los mensajes de modificación de la conducta? El objetivo no era reprimir el movimiento, sino ganar dinero. El proceso era mecánico, rutinario, aséptico e implacable.

Entretanto, automáticamente, a los activistas negros se los sometió a análisis en cuanto a su capacidad para preocupar, incomodar e incluso paralizar a otros grupos, que también fueron a su vez catalogados, azuzados y estudiados automáticamente. De manera mecánica y ciega, se descubrió y cultivó una población de supremacistas blancos y racistas latentes que hasta entonces no habían estado bien identificados, conectados o empoderados, en un principio con el único objetivo de obtener de ellos beneficios económicos de forma automática y disimulada. Pero eso habría sido imposible sin que INCORDIO hubiese cultivado antes una población de activistas negros y hubiese determinado mediante algoritmos cómo enmarcar su protesta como una provocación.

INCORDIO iba separando poco a poco a las personas en contenedores y, por su propia naturaleza, ensalzaba a los idiotas antes incluso de que apareciesen los rusos o cualquier otro cliente para sacar provecho de ello. Cuando efectivamente aparecieron los rusos, se beneficiaron de una interfaz de usuario diseñada para ayudar a que los «anunciantes» se dirigiesen a los distintos grupos usando mensajes que habían demostrado su capacidad de captar la atención. Lo único que tuvieron que hacer los agentes rusos fue pagar a INCORDIO por lo que este ya hacía de por sí.

«Black Lives Matter» tuvo más repercusión como provocación y objeto de mofa que como grito de auxilio. Cualquier mensaje puede reformularse para incitar a una determinada población si los vándalos que buscan ese objetivo saben cómo servirse de los algoritmos. La combinación perfecta de los componentes F y A.

Mientras tanto, los racistas se organizaron a través de INCORDIO como no se había visto en varias generaciones.

Ojalá no tuviera que dejar constancia de este hecho decepcionante. Gran parte de lo que sucede en INCORDIO a escala de las relaciones entre usuarios individuales es maravilloso si uno es capaz de verlo sin prestar atención a la situación más general, en la cual esas personas están siendo manipuladas por INCORDIO. Si somos capaces de prestar atención únicamente a aquello que las personas experimentan conscientemente en INCORDIO, lo que veremos será a menudo espléndido.

La comunidad negra en Twitter constituye un excelente ejemplo. Es un medio y toda una literatura en sí mismo. Es algo maravillosamente creativo y expresivo. Y virtuoso. Le ha dado cien vueltas a Trump, como sucedió por ejemplo tras el escándalo de los jugadores de la NFL que se arrodillaban mientras sonaba el himno estadounidense. Entretanto, aquello que queda fuera del campo de visión de los usuarios de Twitter tiende obstinadamente a seguir sometiendo a la comunidad negra en Twitter y a dejarla desamparada.

Quiero reivindicar a la comunidad negra en Twitter porque es estupenda. Pero debo señalar que esto es también una trampa cruel. Espero que algún día exista algo parecido a la comunidad negra en Twitter pero que no esté sometido a INCORDIO ni diseñado fundamentalmente para estudiar secretamente a las personas con el fin de manipularlas.

Ojalá me equivoque respecto a todo esto, pero hasta ahora, cuanto más se sabe, peor parece INCORDIO.

Un año después de las elecciones, la verdad empezó a salir a la luz. Resulta que algunas de las más destacadas cuentas de activistas «negros» eran en realidad tapaderas para la guerra de información rusa. El componente F. Aparentemente, lo que los rusos pretendían era exasperar a los activistas negros lo suficiente como para reducir su entusiasmo a la hora de votar por Hillary. Reducir estadísticamente la participación electoral.

Esto no significa que los rusos implantasen ideas en la cabeza de la gente de ninguna manera evidente o fiable. No significa que las personas a las que iban dirigidas esas campañas fuesen menos sensatas, inteligentes o firmes que las demás. Probablemente lo que habría era la promoción del cinismo mediante redlining, una actitud desdeñosa y una sensación de desesperanza (la expresión redlining hace referencia a la manera disimulada mediante la cual los bancos estadounidenses han manipulado históricamente los algoritmos con los que evaluaban la solvencia crediticia para discriminar a los barrios negros). No estoy diciendo que las críticas a Hillary no estuvieran justificadas o que el sentimiento de los votantes careciera de fundamento; lo que digo es que se manipuló la emoción de los votantes lo justo para que descendiera la participación electoral.

No olvidemos que Facebook ya había publicado con gran repercusión estudios que demostraban que era capaz de alterar la participación en unas elecciones[126]. En las investigaciones publicadas, Facebook utilizó el alentador ejemplo de un incremento de la participación. Pero, ya que lo que hace Facebook es enviar publicidad dirigida, y puesto que es capaz de calcular, entre muchas otras cosas[127], nuestras preferencias políticas, y como también ha demostrado, tiene la capacidad de entristecer a las personas[128], es probable que las redes sociales puedan usarse de la misma manera para reducir el número de votantes que acuden a las urnas, al clasificarlas en función de cuál habría sido probablemente el sentido de su voto.

Nada de esto significa que Facebook prefiera una clase de votante a otra. Eso es cosa de sus clientes, que no somos nosotros, los usuarios. Facebook no tiene por qué saber lo que está sucediendo. Para una empresa de redes sociales, es preferible no saber lo que ocurre, porque así gana el mismo dinero pero con menos culpabilidad.

Nunca sabremos qué ensayos algorítmicos se realizaron para reducir o incrementar la participación en unas elecciones determinadas, o las lecciones que se extrajeron de tales pruebas. Quizá el uso de ciertas palabras en los titulares de las noticias, o la colocación de determinados adjetivos junto a las mismas sobre algunos personajes famosos en particular hicieron que aumentase la probabilidad de que alguien se indignase, pero solo si a esa persona le gustaba una marca de coches concreta.

Lo único que podemos intuir es que una empresa cuyo funcionamiento se basa en las estadísticas introdujo continuas adaptaciones para optimizar su rendimiento.

Ni INCORDIO ni los agentes rusos tuvieron por qué preocuparse por los activistas negros de verdad, en un sentido o en otro. (Da la casualidad de que los individuos que trabajan en las empresas de INCORDIO suelen ser progresistas, y probablemente se solidaricen en su mayor parte con el movimiento de los activistas negros, pero eso es completamente irrelevante a la hora de entender el efecto que tienen en el mundo, mientras se rijan por un modelo de negocio de manipulación en masa).

INCORDIO gana dinero cuando la gente está irascible y obsesionada, dividida y enfadada, y esto es algo que encajaba a la perfección en los intereses rusos. INCORDIO es una maquinaria para lanzar porquería. Transforma la organización sincera en cínica disrupción. Es una estafa intrínsecamente cruel.

Los activistas negros tienen muy buenos motivos para sentirse satisfechos con las interacciones inmediatamente perceptibles que mantienen en INCORDIO: en ese nivel hay verdadera belleza y profundidad. El juego que se desarrolla entre bastidores no invalida el juego que sí es visible. La única forma razonable de evaluar la situación general pasa por observar y entender los resultados finales.

Los activistas negros pueden estar convencidos de que están consiguiendo difundir su mensaje, pero lo que es indiscutible es que han perdido mucho terreno en lo político, en lo material y en cualquier otro sentido de relevancia fuera de INCORDIO.

Como de costumbre, tras una catástrofe provocada por los algoritmos, muchas de las personas que han sido traicionadas y utilizadas como tontas no pueden más que cantar loas a INCORDIO.

Un ejemplo del componente F en las elecciones presidenciales estadounidenses de 2016 fue una cuenta llamada «Blacktivist», que estaba gestionada por los rusos. Un año después de las elecciones salió a la luz quién estaba realmente detrás de Blacktivist, y los periodistas preguntaron a activistas negros auténticos qué pensaban al respecto[129]. Afortunadamente, algunos aún eran capaces de indignarse. Aparentemente, un activista dijo lo siguiente: «Están usando nuestro dolor en su beneficio. Me siento profundamente asqueado». Es una afirmación informada y razonable, y también valiente, pues no es nada fácil aceptar que se ha sido víctima de un engaño.

La gente suele racionalizar su situación. Por ejemplo, un abogado especialista en derechos civiles le dijo a ese mismo periodista: «Si alguien está organizando un evento que fomenta la asunción de responsabilidades y la justicia, en realidad me da igual cuáles sean sus motivos y quiénes sean». Esta es la típica racionalización de alguien incapaz de salirse del marco de su experiencia cotidiana para tener una visión más general del tablero en que se desarrolla el juego de INCORDIO.

Al fin y al cabo, la máquina de generar dinero que es INCORDIO provocó que la comunidad negra en las redes sociales difundiese involuntariamente una nueva herramienta optimizada para la reducción de la participación electoral. Como si no hubiera ya muchas de estas herramientas. Como si el gerrymandering, las dificultades para acceder a los lugares de votación y los sesgos en las normas que regulan el registro de votantes no fuesen suficientes.

En muchos posibles votantes de Hillary se generó un sentimiento no muy positivo sobre la candidata, o sobre el hecho de votar en general. ¿Fuiste tú uno de ellos? Si es así, haz el favor de hacer memoria. ¿Se te mostró alguna información personalizada antes de las elecciones? ¿Utilizaste Facebook o Twitter? ¿Hiciste muchas búsquedas en internet?

Te engañaron. Te estafaron. Utilizaron tus mejores intenciones en tu contra.

OJALÁ ESTE JUEGO HUBIESE ACABADO YA

Incluso aunque el ambiente actual —este infierno de insultos y mentiras— empieza a parecernos normal[130], lo cierto es que antes las cosas eran distintas. Me preocupa que los jóvenes crezcan en este caos y crean que las cosas siempre han sido así.

Durante el tiempo que he tardado en escribir este libro, surgió un nuevo movimiento social conocido como #metoo, que proclamaba el rechazo al acoso sexual contra las mujeres. Ahora mismo, mientras escribo, los algoritmos de INCORDIO están devorando todo lo relacionado con #metoo. ¿Cómo pueden convertirlo en combustible para empoderar a algún idiota para que moleste a otra persona y así conseguir captar/manipular más a todo el mundo? ¿Cómo se incitará a los activistas a ser menos comprensivos? ¿Qué posibilidades descubrirán los manipuladores/anunciantes que están rastreando/troleando en busca de formas de arruinar el mundo?[131]

Razón 10.

Las redes sociales aborrecen tu alma

CONOCÍ A UNA METÁFORA METAFÍSICA

Las nueve razones precedentes han mostrado una red de esquemas intra e interpersonales trastornados por INCORDIO.

Repasemos: se ha trastornado tu comprensión de los demás porque no sabes lo que ellos han experimentado en sus hilos de contenido personalizados, cosa que también ocurre a la inversa; el hecho de que no puedas conocer el contexto en que se va a interpretar lo que digas hace difícil que otros puedan mostrarte empatía. Probablemente te estás volviendo más idiota, pero también más triste: otro par de disrupciones de INCORDIO que son imágenes especulares. Se ha degradado tu capacidad de comprender el mundo, de saber la verdad, mientras que se ha corrompido la capacidad del mundo de comprenderte a ti. La política se ha vuelto irreal y aterradora, mientras que la economía se ha vuelto irreal e insostenible: dos caras de la misma moneda.

Todas estas parejas forman un entramado de cambio de la condición humana. Este entramado es tan amplio que debemos regresar a la razón 1 y preguntarnos si no era demasiado tímida la metáfora explicativa que proponía. La primera razón proponía que los usuarios de INCORDIO estaban atrapados en mecanismos adictivos de modificación de la conducta. Esta es la metáfora que han elegido algunos de los fundadores de INCORDIO para encuadrar sus remordimientos, y las piezas encajan en ese marco. Lo cual es útil, pero ¿es satisfactorio?

Las jaulas de modificación conductista solo pueden manipular a una criatura a la vez, pero, cuando se manipula a toda la sociedad de manera coordinada, tenemos que buscar un marco explicativo más amplio. No hay muchas opciones. La religión es probablemente la más clara.

Cada una de la razones para borrar tus cuentas es a primera vista una cuestión práctica, de confianza, pero, si se examinan más detenidamente, afrontan las cuestiones más profundas y delicadas sobre lo que significa ser una persona.

Cuando usamos INCORDIO, aceptamos implícitamente un nuevo marco espiritual. Es como las condiciones de usuario, que hacemos clic en «OK» sin haberlas leído. Hemos aceptado cambiar algo íntimo de nuestra relación con nuestra propia alma. Si usamos INCORDIO, probablemente hemos renunciado de forma efectiva en cierta medida, estadísticamente hablando, a lo que podamos considerar que es nuestra religión, incluso si esa religión es el ateísmo. Nos han introducido en un nuevo marco espiritual.

No estoy hablando retóricamente o tratando de ser gracioso. Estoy haciendo un esfuerzo sincero por aclarar lo que está ocurriendo.

LOS CUATRO PRIMEROS PRINCIPIOS DE LA ESPIRITUALIDAD SEGÚN INCORDIO

Revisemos las cuatro primeras razones en términos espirituales.

La primera se refiere al libre albedrío. El libre albedrío es una idea misteriosa, un salto de fe. ¿Tiene siquiera sentido? Quizá no haya libre albedrío; quizá sea una ilusión. Pero en general las religiones sostienen que el libre albedrío es real. Tiene que serlo para que puedas escoger mejorar tu karma o hacer elecciones que te conduzcan al cielo. Incluso el más etéreo budista tiene que partir del libre albedrío para tratar de encontrar libremente un estado que lo trascienda.

El libre albedrío puede sonar anticuado. Innovadores filósofos, ingenieros y revolucionarios nerds han venido cuestionándolo durante siglos.

¿Por qué no ver a las personas como máquinas que han evolucionado de forma natural, pero máquinas al fin y al cabo? En ese caso, podría programarse a las personas para que se comportasen bien, y el proyecto humano pudiese así florecer. Tanto los conductistas como los comunistas, y ahora los ingenieros sociales de Silicon Valley, han tratado de alcanzar este objetivo.

Pero cada vez que un nerd intenta eliminar de la escena el libre albedrío, este resurge por otra parte con mayor fuerza. Con el mismo aliento con el que proclama que los algoritmos comunitarios o la IA van a superar la creatividad humana individual, un entusiasta exclamará inevitablemente que un emprendedor, un programador de IA o un ideólogo de Silicon Valley es un visionario que está cambiando el mundo, haciendo mella en el universo (en frase de Steve Jobs) y trazando el futuro.

El ritual de relacionarse con INCORDIO en principio parece ser un funeral por el libre albedrío. Entregamos buena parte de nuestra capacidad de elección a una compañía remota y a sus clientes. Estos se apropian de una parte estadística de nuestra carga de libre albedrío, que deja de estar a nuestra disposición. Comienzan a decidir a quién vamos a conocer, en qué estamos interesados, qué deberíamos hacer. Pero no es ningún secreto que la gente que maneja el sistema ha acumulado una riqueza y un poder asombrosos en un tiempo ridículamente breve. Ellos tienen poder, pero ¿cómo puede haber poder si no hay libre albedrío?

Así que INCORDIO pone en práctica un cambio estructural, más que ontológico, de la naturaleza del libre albedrío. Continuará existiendo, aunque bajo un bombardeo de insultos. El cambio importante es que ahora tenemos menos libertad, y unas pocas personas, a quienes no conocemos, tienen más. Parte de nuestro libre albedrío se les ha transferido a ellos. El libre albedrío se ha convertido en algo así como dinero en una época dorada.

Este cambio va más allá de la economía y la política: es la esencia de las religiones que han planteado que solo los líderes tienen un mandato del cielo.

La segunda razón esbozaba un problema específico preocupante, una estructura que denominé INCORDIO. Mi intención era identificar un objetivo de cambio bien acotado en lugar de caer en la desesperación respecto a todo lo relativo a la modernidad. Esta estructura resultó ser no tanto un conjunto de tecnologías como un modelo de negocio que generaba incentivos perversos.

¿Otra semejanza con las religiones? Puede que mi oposición a INCORDIO sea como la de los protestantes a las indulgencias. Hay una larga tradición de personas que se oponen a una estructura conectada con una religión sin rechazar su núcleo.

Si la teoría de INCORDIO es acertada, entonces la culpa no es del proyecto de internet en su conjunto. Aún podemos aprovechar su núcleo. INCORDIO quiere que pensemos que sin él no hay dispositivos, ni internet, ni grupos de apoyo que nos ayuden a superar las épocas duras, pero eso es mentira. Es una mentira que celebramos y reforzamos al usar INCORDIO, exactamente como quien asiste a una iglesia corrupta está apoyando su corrupción.

La tercera razón se refiere a convertirse en un idiota. Recordemos que la idea no es que nos convirtamos en idiotas para todo el mundo todo el tiempo, sino que nuestro interruptor solitario/manada está en modo manada y nos centramos en la dinámica intra e intergrupal. Nos convertimos en idiotas para los miembros de otras manadas y para quienes están situados por debajo de nosotros en la jerarquía de nuestro propio grupo, y a veces para nuestros pares competidores dentro de él.

Basta que observemos el papel de la religión en los conflictos en todo el mundo, tanto actualmente como en épocas pasadas, para ver que esta dinámica también se desarrolla en las religiones. De hecho, un esquema corriente hoy —del que, por desgracia, se dieron ejemplos en la razón sobre política— es que INCORDIO resucita viejos conflictos que se han asociado con la religión para «captar» a la gente tan intensamente como sea posible.

La cuarta razón se refería a la socavación de la verdad, así que es un problemón desde un punto de vista espiritual.

Una religión estricta puede exigir que sus adherentes crean ciertas cosas no respaldadas por la evidencia, o que esta contradice. Por ejemplo, hay personas religiosas que aún creen que el Sol gira alrededor de la Tierra[132].

Creer algo solo porque lo aprendimos a través de un sistema es una manera de ceder nuestro poder cognitivo a ese sistema. Inevitablemente, por el mero hecho de participar, los adictos de INCORDIO toleran al menos unas cuantas ideas ridículas. Por ejemplo, debemos tener un mínimo de confianza en la sensatez de los algoritmos de INCORDIO para leer lo que nos dicen que leamos, aunque hay evidencias de que los algoritmos no son tan estupendos[133]. En gran parte del mundo de INCORDIO tenemos que aceptar ridículas teorías conspiratorias para evitar que nos ataquen los troles. Debemos albergar una cosmovisión que rechace a cualquier grupo de personas con el que nos hayan contrapuesto los algoritmos que sirven para captarnos[134].

He ido usando ambos términos, «espiritual» y «religioso», y esta es la razón: las religiones están generalmente conectadas con determinados dogmas, mientras que la espiritualidad podría no estarlo. Normalmente, la espiritualidad puede coexistir un poco más fácilmente con el pensamiento de la Ilustración.

La Ilustración hizo hincapié en formas de aprendizaje no sometidas a jerarquías de poder humanas. Por el contrario, el pensamiento de la Ilustración celebra el método y el razonamiento científico basado en la evidencia. Las culturas de la ciencia y la ingeniería adoptaron la epistemología de la Ilustración, pero ahora la han sustituido por la espantosamente regresiva epistemología de INCORDIO.

Probablemente la palabra «meme» signifique para ti un mensaje en INCORDIO que puede volverse viral. Pero originalmente «meme» insinuaba un estilo de pensamiento y de significado.

Fue el biólogo evolucionista Richard Dawkins quien acuñó el término. Dawkins propuso los memes como unidades de cultura que compiten y se transmiten o no de acuerdo con un proceso de selección seudodarwiniano, de tal manera que algunas modas, ideas y costumbres se asientan, mientras otras se extinguen.

El concepto de los memes ofrece una manera de encuadrar todo lo que hacen los no nerds —la totalidad de las humanidades, la cultura, las artes y la política— como ejemplos semejantes de competición entre memes, meras subrutinas de un algoritmo de nivel superior que los nerds son capaces de dominar. Cuando internet se extendió, estaban de moda las ideas de Dawkins porque halagaban a los techies.

Muy desde el principio, una manera muy extendida de valorar internet consistió en señalar la difusión viral de un meme y ponderar lo gracioso que era. Este tipo de valoración persiste hasta la actualidad. Los memes empezaron siendo una manera de expresar solidaridad con una filosofía, que yo denominé «holismo cibernético» y que todavía subyace a INCORDIO.

Los memes parecen amplificar lo que decimos, pero eso es siempre una ilusión. Podemos lanzar un meme contagioso sobre una figura política y estar haciendo una observación importante, pero, en perspectiva, estamos afianzando la idea de que la viralidad es la verdad. Cualquier otra observación que sea más viral deshará la nuestra. Esto es así por diseño. Los arquitectos de INCORDIO eran creyentes del meme.

Si adoptamos una perspectiva muy amplia, la viralidad puede de hecho equivaler a la verdad. La creencia en los memes acaba convirtiéndose en verdad, pero solo a la larga, muy a la larga. Por ejemplo, si la humanidad se destruye a sí misma debido a que algunos memes maliciosos impiden que hagamos frente al cambio climático, entonces a la larga, dentro de cien millones de años, una especie de pulpos inteligentes se adueñarán del planeta y quizá se encuentren con nuestros restos y se pregunten qué falló.

La racionalidad es diferente de la evolución, más rápida, pero no sabemos cómo funciona.

En la mente hay otras cosas más allá de los memes. Nuestra capacidad de dominar el misterio sigue siendo un misterio. Esta puede ser una verdad difícil de aceptar, y algunos techies prefieren negarse a hacerlo.

He aquí algunas verdades difíciles: actualmente no tenemos una descripción científica de un pensamiento o una conversación. No sabemos cómo se representan las ideas en el cerebro. No sabemos qué es una idea desde un punto de vista científico. Esto no significa que no vayamos a comprender estas cosas científicamente nunca, solo que aún no las comprendemos. Podemos aparentar que las vamos a comprender en cualquier momento, que es como si ya las comprendiéramos, pero entonces estamos simplemente mintiéndonos a nosotros mismos.

Cuando hablamos de política, cultura, arte o derecho, es posible que la cantidad no pueda sustituir a la calidad, aunque no podamos decir en qué consiste la calidad. Es posible que los algoritmos que sabemos escribir simplemente no puedan distinguir a terroristas o agentes de espionaje de la gente normal que no trata de destruir el mundo.

La base de la búsqueda de la verdad tiene que ser la capacidad de advertir la ignorancia propia. El reconocimiento de la ignorancia es una hermosa característica que comparten la ciencia y la espiritualidad. INCORDIO lo descarta.

Lo viral es verdadero para la política de INCORDIO, el arte de INCORDIO, el comercio de INCORDIO y la vida de INCORDIO.

Acabo de examinar las cuatro primeras razones más a fondo que antes. No voy a repasar las diez; estos ejemplos demuestran suficientemente el principio de que INCORDIO está reemplazando las características de la espiritualidad con sus propios diseños. Pero debo profundizar aún más.

LA FE EN INCORDIO

No todas las cuestiones se pueden resolver mediante evidencias, por lo que tener fe en ellas no es rechazar la evidencia. Lo mejor de las religiones aborda las cuestiones más profundas, más importantes y más delicadas que no podemos resolver científicamente, como el sentido último de la vida, por qué existe lo existente, qué es la conciencia, qué es la muerte y cuál la índole del sentido.

Para utilizar INCORDIO, vamos aceptando gradualmente sus respuestas a estas cuestiones. E INCORDIO las proporciona: ¡y son terribles! Este es el rasgo de INCORDIO que más me saca de quicio.

El sentido de la vida, según INCORDIO, es optimizar. Según Google: «organizar la información del mundo». Pero todo es información, de acuerdo con la cosmovisión de Silicon Valley, que pretende hackear la materia, el cuerpo humano y demás. Así pues, la declaración de objetivos de Google, en el contexto cultural tecnológico, consiste en «organizar toda la realidad» Esta es la razón por la que Google ha puesto en marcha todas estas extrañas empresas que forman parte de Alphabet. Puede que no hayamos reflexionado sobre la cosmovisión o el objetivo de Google, pero los aceptamos cuando optimizamos nuestra presencia para ocupar un lugar destacado en las búsquedas o cuando optimizamos nuestros vídeos para maximizar el número de visionados. Ahora el objetivo de nuestra vida es optimizar. Has sido bautizado[135].

Google ha encontrado habitualmente la manera de presentar las afirmaciones más escalofriantes, pero Facebook se ha puesto en cabeza: una revisión reciente de su declaración de objetivos incluye directrices como asegurar que «todas y cada una de las personas tenga una sensación de rumbo y de comunidad»[136]. Una sola empresa va a velar por que todas y cada una de las personas tengan un propósito en la vida, porque supone que antes carecían de él. Si esto no es una religión, se le parece mucho.

Como es bien sabido, Google financió un proyecto para «resolver la muerte»[137]. Esta es una aspiración tan precisamente religiosa que me sorprende que las religiones mundiales no pusieran una demanda a Google por violación de derechos de autor[138]. Google podría haber definido su trabajo como una búsqueda de la prolongación de la vida o investigación sobre el envejecimiento, pero en vez de ello prefirió ir directamente a por el premio: adueñarse de lo más sagrado que hay en nuestro interior. INCORDIO tiene que apropiarse de nosotros para apropiarse de cualquier cosa.

Facebook también participa en el juego. La página de Facebook de una persona muerta se convierte en un santuario que solo los miembros pueden visitar, y para ser miembro hay que convertirse implícitamente en devoto.

El director de ingeniería de Google, Ray Kurzweil, propaga la idea de que Google va a ser capaz de subir nuestra conciencia a la nube de la empresa, igual que las fotos que hacemos con nuestros teléfonos. Es bien conocido el hecho de que Kurzweil toma una caja diaria de pastillas antienvejecimiento con la esperanza de no morir antes de que el servicio esté disponible. Fijémonos en lo que ocurre aquí. No se afirma que no exista la conciencia, sino que, sea lo que sea, Google se apropiará de ella; porque, si no, ¿en qué iba a consistir este servicio?

No tengo ni idea de cuánta gente cree que Google está a punto de convertirse en el amo y señor de la vida eterna, pero sin duda la retórica juega un papel a la hora de hacer que parezca natural y aceptable que una empresa INCORDIO acumule tanto conocimiento y poder sobre la vida de tantísima gente.

Esto no es solo metafísica, sino imperialismo metafísico. Si aceptamos todo esto, de forma explícita o simplemente por vía práctica, no podemos siquiera decir que somos ateos o agnósticos: somos unos conversos.

EL CIELO DE INCORDIO

Una de las razones de que INCORDIO funcione como funciona es que muchos de los ingenieros que trabajan en empresas INCORDIO creen que la máxima prioridad de entre todas las prioridades no es servir a los humanos actuales, sino construir las inteligencias artificiales que heredarán la tierra. Supuestamente, la constante vigilancia y los constantes tanteos de modificación de la conducta en muchedumbres de humanos permiten ir acumulando datos que desembocarán en la inteligencia de unas IA futuras. (Cabe preguntarse si los ingenieros que trabajan en IA creen que su cometido será el de manipular a la gente).

Las grandes empresas tecnológicas están comprometidas públicamente en una extravagante «carrera hacia la IA» a la que con frecuencia dan prioridad sobre todo lo demás[139]. Es completamente normal oír a un ejecutivo de una de las mayores empresas del mundo hablar sobre la posibilidad de que esté cerca el momento de la singularidad, cuando las IA se harán con el control. La singularidad es la respuesta de la religión INCORDIO a la resurrección de los muertos evangélica. Se normaliza la extravagancia cuando los clientes de INCORDIO, que a menudo son techies ellos mismos, aceptan la IA como un concepto coherente y legítimo, y toman decisiones de inversión basadas en él[140].

Esto es de locos. Olvidamos que la IA es un cuento que elaboramos los informáticos para conseguir financiación en el pasado, cuando dependíamos de los fondos de las agencias gubernamentales.

La IA es una fantasía, un mero cuento que contamos sobre nuestro código. Es, además, una tapadera para ocultar ingeniería chapucera. Da menos trabajo hacer un programa supuestamente de IA para personalizar un hilo de contenido que crear una buena interfaz de usuario que permita a los usuarios tantear y mejorar a su manera lo que ven; y esto se debe a que la IA carece de criterios objetivos de éxito.

¿Quién puede decir qué es lo que se considera inteligencia en un programa? En los años noventa, mis amigos y yo creamos los primeros programas capaces de escanear la cara de una persona para convertirla en una presentación animada de una criatura o de otra persona que exteriorizase las mismas expresiones en tiempo real. No se nos ocurrió llamarlo IA: era simplemente un ejemplo de procesamiento de imágenes sofisticado. Pero, ahora, a esa capacidad se la suele llamar IA.

Toda clase de programas diferentes pueden, en un momento dado, considerarse IA, de forma que, cuando se dice que un programa es IA, la consecuencia inevitable es que los criterios de éxito se difuminan. La IA es un juego de rol para los ingenieros, no un logro técnico real en sí misma.

Muchos de los algoritmos que se denominan IA son interesantes y efectivamente hacen cosas, por supuesto, pero se entenderían mejor —y podrían incluso funcionar mejor— sin el relato de la IA. En la razón sobre economía di un ejemplo. Se dice que los traductores están quedando obsoletos. No solo están perdiendo su medio de vida, sino que se les está arrebatando su dignidad, porque el discurso que proclama su obsolescencia es falso. Siguen siendo valiosos. Son necesarios porque sin los datos que ellos crean manualmente no habría servicio de traducción «automática».

LA EXISTENCIA SIN INCORDIO

Es casi imposible escribir sobre cuestiones espirituales o filosóficas más profundas debido a que la gente es extremadamente sensible al respecto; pero evitar pronunciarse sobre los asuntos básicos que INCORDIO está intentando dominar sería una salida fácil. Espero que esto que digo no resulte genérico y banal, aunque esperar que sea así no basta para que lo sea.

Soy consciente. Creo que tú también lo eres. Ambos experimentamos, tenemos experiencias.

Eso es algo maravilloso. No pienso en la experiencia como algo que sea natural o sobrenatural. No tengo suficientes conocimientos para saber si esas son las dos únicas posibilidades.

Podemos estudiar cerebros, pero no sabemos si es necesario que un cerebro experimente para hacer cualquier otra cosa. La experiencia es un misterio más profundo que otros, porque no sabemos cómo descomponerla en partes para estudiarla. No sabemos si tiene sentido hablar de partículas de experiencia (lo que alguna gente llama «qualia»).

En la existencia de la experiencia podemos encontrar un hilo de esperanza de que hay un más allá, pero el mero hecho de que tengamos experiencias mientras estamos vivos no sirve de prueba. Aun así, no es irracional basar la fe o la esperanza en un más allá en la misteriosa existencia de experiencia interna en esta vida. Ninguno de nosotros sabe realmente qué es lo que está pasando en nuestra extraña situación de realidad, pero, si percibimos en el mundo una especie de positividad, de gracia y de creatividad progresiva, quizá sea porque la experiencia conecte con algo más.

Podemos reconocer la experiencia, disfrutarla; podemos tener una reacción emocional a su misterio, quizá incluso placentera. Reconocer que existe la experiencia puede hacernos mejores, porque comprendemos que las personas son más que máquinas. Podríamos estar más dispuestos a pensar antes de dañar a alguien si creemos que hay todo un centro de experiencia distinto oculto en esa persona, todo un universo, un alma.

LA ANTIMAGIA DE INCORDIO

¿Habría que dar a las máquinas «igualdad de derechos», como se propone frecuentemente en el mundo tecnológico? De hecho, Arabia Saudí ha concedido la ciudadanía a un robot «femenino»; y con la ciudadanía, derechos de los que no disfrutan las mujeres saudíes[141].

Este es un gran problema con la equivalencia humano-máquina. Imaginemos un círculo metafórico de empatía que fundamenta nuestras acciones. Dentro del círculo están aquellos a los que aceptamos y humanizamos. Si ampliamos demasiado el círculo, este se diluye: conseguimos que nuestra empatía acabe por ser absurda, y dejamos de ser conscientes del daño que hacemos a personas reales. Los saudíes no son los únicos que alientan la empatía hacia aparatos mudos con el fin de negar la empatía a humanos reales pero silenciados. También se ha hecho en nombre del activismo antiaborto[142] y de los derechos de los animales.

El negocio de INCORDIO está entrelazado con una nueva religión que otorga empatía a programas de ordenador —al llamarlos «programas de IA»— con el fin de soslayar que eso degrada la dignidad, el estatus y los derechos de humanos reales.

La conciencia es lo único que no pierde fuerza si es una ilusión. Tendríamos que experimentar la ilusión para que la ilusión exista. Pero la otra cara de ello es que si decidimos ignorar que se está experimentando algo, podemos negar nuestra propia conciencia.

Podemos hacer que nuestra propia conciencia desaparezca de pronto. Podemos no creer en nosotros mismos y hacernos desaparecer. Es lo que yo llamo «antimagia».

Si se diseña una sociedad para suprimir la fe en la conciencia y la experiencia —para negar cualquier naturaleza excepcional a la individualidad—, entonces quizá las personas puedan llegar a ser como máquinas.

Esto está ocurriendo con INCORDIO. La experiencia de INCORDIO es que somos solo una humilde célula en el grandioso superorganismo que es su plataforma. Hablamos a nuestros aparatos conectados a INCORDIO como si fueran personas, y la «conversación» funciona mejor si hablamos de forma que seamos algo parecido a máquinas. Cuando vivimos como si no hubiera nada especial, ninguna chispa mística, en nuestro interior, empezamos a creérnoslo poco a poco.

Si este nuevo desafío a la individualidad fuera solo una cuestión de combate espiritual en el interior de cada uno, quizá pudiéramos decir que es responsabilidad de cada persona lidiar con ello. Pero hay profundas consecuencias sociales.

La angustia espiritual es una clave universal que explica lo que de otra manera podrían parecer problemas independientes. Con mucha frecuencia, los tecnólogos de INCORDIO presentan la modernidad como un ataque a la singularidad humana, y la gente, naturalmente, reacciona con horror, como si se les anulara. Se trata de una respuesta racional, porque responde a lo que en efecto se les ha dicho.

Todas las cuestiones que están desgarrando Estados Unidos se refieren a si las personas son especiales, a dónde podría hallarse el alma, si es que existe. ¿Es aceptable el aborto? ¿Quedarán las personas obsoletas, de forma que, a excepción de unos pocos techies de élite, todos tendrán que ser subvencionados por un sistema caritativo de renta básica? ¿Tenemos que considerar a todos los seres humanos igualmente valiosos, o hay algunos más merecedores de autodeterminación porque son más competentes en actividades propias de nerds? A primera vista, todas estas cuestiones pueden parecer diferentes, pero, si se examinan más detenidamente, son todas versiones de la misma pregunta: ¿qué es una persona?

Sea lo que sea una persona, si queremos serlo, debemos borrar nuestros perfiles.

Conclusión

Los gatos tienen siete vidas

Espero que este libro te haya ayudado a convertirte en un gato, pero sé consciente, por favor, de que no he incluido todas las razones sobre las redes sociales que tienes que tener en cuenta; ni siquiera he estado cerca de hacerlo. Me he limitado a presentar argumentos sobre los que tengo una perspectiva o pericia poco corriente.

Este libro no aborda los problemas relacionados con las dinámicas de familia, las insoportables presiones que se ejercen sobre los jóvenes —en especial sobre las jóvenes (acerca de estos temas, lee a Sherry Turkle)—, la forma en que pueden abusar de ti ciertos timadores o pueden discriminarte los algoritmos mediáticos por racismo u otras razones espantosas (lee a Cathy O’Neal sobre este asunto), o la manera en que tu pérdida de privacidad puede perjudicarte personalmente o dañar a la sociedad en su conjunto de maneras sorprendentes. Este libro solo araña la superficie. Recuerda que yo soy un gato.

Puede parecer extraño que un habitante de Silicon Valley como yo te pida que te nos resistas. No estoy pidiendo oposición, estoy pidiendo ayuda. La mejor manera en que puedes ayudarnos no es atacando a quienes te manipulen a distancia, sino sencillamente liberándote a ti mismo. Esto los —nos— hará cambiar el rumbo y buscar una forma mejor de hacer lo que hacemos.

¿Cómo puedes sobrevivir sin redes sociales? No te conozco, así que no te lo puedo decir —y probablemente se necesite alguna innovación—, pero, en general, no rechaces internet, ¡úsala! Internet en sí no es el problema.

No tienes que renunciar a tus amigos: escríbeles por correo electrónico en lugar de usar las redes sociales, pero hazlo utilizando cuentas cuyos proveedores no lean los mensajes (así que nada de Gmail, por ejemplo). No hay necesidad de que una compañía embaucadora se interponga entre tú y tus amigos.

Puedes seguir leyendo las noticias en línea: lee directamente sitios web de noticias (en lugar de recibir noticias a través de canales personalizados), especialmente sitios que contraten periodistas de investigación. Hazte una idea de la línea editorial de cada sitio, que solo percibirás si accedes directamente. ¡Suscríbete a sitios de noticias excelentes! Lee tres al día y estarás mejor informado, y antes, que los usuarios de redes sociales. Plantéate usar extensiones del navegador que bloqueen los comentarios.

No tienes por qué encerrarte en la cocina: si buscas algo que hacer, mira en los sitios web locales de cultura y eventos; suele haber algunos gestionados por gente del lugar abnegada. ¡Crea tu propio sitio web!

Incluso puedes seguir viendo vídeos en YouTube, al menos de momento, sin una cuenta de Google. Si los ves sin usar una cuenta y utilizando algunos complementos que mejoran la privacidad, tendrás una experiencia mucho menos manipuladora.

Parece trabajoso, ¿verdad? Pero por mucho esfuerzo que tengas que dedicarle, probablemente al final aún ahorres tiempo tomando el control de tu propia vida. Te asombrará descubrir cuánto tiempo te hacían perder ciertas estratagemas de INCORDIO.

¡Abandónalas todas! Instagram y WhatsApp no dejan de ser Facebook, y también recopilan tus datos y te espían. No tuitees que abandonas Facebook o cuelgues en Facebook que abandonas Twitter.

Tu objetivo no tiene que ser forzar a los gobiernos a regular o incluso nacionalizar Facebook antes de volver a apuntarte, o forzar a Facebook a cambiar su modelo de negocio, aunque estos son logros imprescindibles para asegurar la supervivencia de nuestra especie a largo plazo. Tu objetivo inmediato es ser un gato.

Es como aprender a escribir. No puedes leer bien hasta que sepas escribir al menos un poco. No enseñamos a escribir a los estudiantes con la esperanza de que todos lleguen a ser escritores profesionales. Sería algo demasiado cruel. Lo que esperamos es que aprendan lo que significa escribir, y pensar, lo que los hará más reflexivos cuando lean. No puedes hacer un buen uso de internet hasta que le hagas frente como quieras, al menos durante un tiempo. Por tu propia integridad, no solo para salvar al mundo.

No es probable que una gran ola de gente abandone las redes sociales simultáneamente; la combinación de adicción masiva y el poder para atraparnos que tienen los efectos de red es formidable. Pero, a medida que aumente el número de personas conscientes de los problemas, ellas —tú— pueden llegar a los corazones de la industria tecnológica y eso tendrá consecuencias. Si abandonas tus cuentas, aunque sea durante un tiempo, eso ayuda.

Hay una verdad más profunda. Cambiar es difícil, pero, al ejercer una presión constructiva, nos dará a los techies la ayuda que secretamente necesitamos e incluso deseamos. Los techies podemos aislarnos debido a la extrema riqueza, y podemos parecer inalcanzables, pero en realidad os echamos de menos. Es deprimente estar separado de la sociedad. Cuando los techies se dedican a resolver problemas que ayudaron a crear, vuelven a conectarse y esta es una buena sensación. Si puedes encontrar una manera de ponernos a prueba sin denigrarnos, eso es bueno para nosotros. Una excelente manera de hacerlo es encargarte de tu propia información.

Para concluir, debo recordarte que el objetivo aquí no es convencerte para que pienses o actúes de una determinada manera. No me corresponde a mí cambiar tu manera de pensar y actuar, como tampoco debería corresponderle a una empresa de INCORDIO. Sin embargo, al menos mientras no te conozcas a ti mismo, ni siquiera estarás en condiciones de discutir sobre qué es lo que más te conviene. Y no puedes conocerte a ti mismo a menos que te tomes la molestia de experimentar un poco.

Soy consciente de que vivimos en un mundo de escandalosa desigualdad, y no todo el mundo tiene las mismas oportunidades. Sea cual sea tu situación, espero que tengas la posibilidad de explorar cómo sería tu vida, especialmente si eres joven. Asegúrate de que ni tu cerebro ni tu propia vida caigan en la rutina. Puedes, tal vez, irte a explorar tierras vírgenes o adquirir una nueva destreza. Arriésgate. Pero, sea cual sea la forma que tome tu exploración interior, haz al menos una cosa: desconéctate de los imperios dedicados a la modificación del comportamiento durante un tiempo. Durante seis meses, por ejemplo. Fíjate en que no titulé este libro Razones para dejar cuanto antes nuestras cuentas en las redes sociales para siempre. Una vez que pruebes, te conocerás mejor a ti mismo. Decide entonces.

Agradecimientos

Esta obra surgió de una forma peculiar. Tras escribir un libro, uno habla con periodistas sobre él. Cuando hice eso mismo con mi trabajo anterior, que trataba sobre la realidad virtual, la conversación derivó a menudo hacia otro tema distinto y acuciante. Las redes sociales estaban contribuyendo a hacer del mundo un lugar más oscuro y desquiciado, y me hacían preguntas al respecto. Este libro surgió a partir de lo que se me ocurría cuando me interpelaban. Debo dar las gracias a los periodistas que plantearon la cuestión, entre los que están Tim Adams, Kamal Ahmed, Tom Ashbrook, Zoë Bernard, Kent Bye, Maureen Dowd, Moira Gunn, Mary Harris, Ezra Klein, Michael Krasny, Rana Mitter, Adi Robertson, Peter Rubin, Kai Ryssdal, Tavis Smiley, Steven Tweedie y Todd Zwillich.

Gracias a Jerry Mander; el título del libro es un homenaje a su trabajo. Gracias también a Kevin, Satya y a mis muchos otros colegas en Microsoft por aceptar a un inconformista entre sus filas. Dicho lo cual, aquí hablo exclusivamente a título personal. Nada de lo recogido en el libro representa el punto de vista de Microsoft.

Nuestros gatos Loof, Potato, Tuno y Starlight me enseñaron cómo evitar que me domesticaran, pero no tanto como la mejor profesora de todas: mi hija Lilibell. Y, por supuesto, gracias a Lena, mi maravillosa mujer.

Jaron Lanier (Nueva York, 3 de mayo de 1960) es un escritor, informático, artista gráfico y compositor de música clásica estadounidense. Una de las cien personalidades más influyentes del mundo en 2011 según la revista Time, es muy conocido en el campo de la informática por sus trabajos sobre la realidad virtual, expresión acuñada por él que le valieron el galardón al Lifetime Career del IEEE en 2009. En un artículo en la revista Wired se le define como «la primera figura de la tecnología que ha logrado el estrellato en la cultura contemporánea» Ha trabajado tanto en entornos académicos, sobre todo en relación con Internet2, como en el sector privado, participando en la creación de empresas que acabaron compradas por Oracle, Adobe y Google. Obtuvo un doctorado Honoris Causa del Instituto de Tecnología de New Jersey en 2006. En la actualidad trabaja en Microsoft en proyectos aún secretos. La Enciclopedia Británica le ha incluido en la lista de los trescientos inventores más importantes de la historia.

Notas

[1] http://www.movingimage.us/exhibitions/2015/08/07/detail/how-cats-took-over-the-internet/ <<

[2] https://www.smithsonianmag.com/smithsonian-institution/ask-smithsonian-are-cats-domesticated-180955111/ <<

[3] ¡Tranquilos, amantes de los perros! También hay especulaciones de que los perros se domesticaron a sí mismos como los gatos: https://news.nationalgeographic.com/news/2013/03/130302dog-domestic-evolution-science-wolf-wolves-human/ <<

[4] https://www.axios.com/sean-parker-unloads-on-facebook-2508036343.html <<

[5] https://gizmodo.com/former-facebook-exec-you-dontrealize-it-but-you-are-1821181133. Aunque debo señalar que Palihapitiya se retractó un poco de estas palabras a los pocos días y explicó que creía que, en conjunto, el efecto de Facebook en el mundo era positivo. <<

[6] https://mashable.com/2014/04/30/facebooks-newmantra-move-fast-with-stability/ <<

[7] https://en.wikipedia.org/wiki/Catfishing <<

[8] La optimización de la temporización es solo un ejemplo entre muchos. Todas las decisiones relacionadas con el diseño de nuestras experiencias en las redes sociales se optimizan continuamente basándose en principios similares. Tristan Harris, antiguo empleado de Google, ha recopilado más ejemplos, que incluyen la manera en que se nos presentan todo tipo de opciones, la forma en que se nos permite hacer clic en las opciones, y las maneras en que a nosotros y a otras personas se nos muestran las opciones conjuntamente. Busca sus ensayos, incluido «How Technology Hijacks People’s Minds» [Cómo la tecnología secuestra la mente de las personas], en http://www.tristanharris.com/ <<

[9] Los matemáticos suelen interpretar este proceso como si el algoritmo estuviese gateando por un «paisaje de energía» imaginario. Cada posición en este paisaje se corresponde con una configuración de los parámetros que pueden modificarse, de forma que, a medida que uno gatea metafóricamente por el paisaje, va explorando las distintas configuraciones de los parámetros.

La marca de los cinco segundos correspondería a un valle en el que el algoritmo se ha estabilizado. En esta visualización, cuanto más abajo, mejor, porque se requiere menos energía para estar más abajo. También se podría entender la metáfora como que se excava a mayor profundidad en depósitos enterrados de oro. En este mundo imaginario, la configuración con dos segundos y medio es un valle más profundo que nunca encontraríamos dando pasitos desde el fondo del valle de los cinco segundos, porque siempre volveríamos a resbalar hacia abajo. La única manera de encontrar el valle más profundo pasa por vernos obligados a dar un gran salto especulativo. <<

[10] https://link.springer.com/article/10.1007%2Fs10899015-9525-2 <<

[11] Se trata de una referencia a Jean-Paul Sartre. ¡Búscala! <<

[12] http://people.hss.caltech.edu/~lyariv/papers/DarkSide1.pdf <<

[13] http://esciencenews.com/articles/2008/09/25/from.12.years.onward.you.learn.differently <<

[14] https://source.wustl.edu/2015/05/carrot-or-stick-punishments-may-guide-behavior-more-effectively-than-rewards/ <<

[15] https://hbr.org/2017/09/what-motivates-employeesmore-rewards-or-punishments <<

[16] http://onlinelibrary.wiley.com/doi/10.1002/job.725/pdf <<

[17] https://repositories.lib.utexas.edu/handle/2152/24850 <<

[18] http://friendlyorangeglow.com/ <<

[19] «Ampliar» es el término de Silicon Valley para agigantar algo. Me incluyo en ese «nosotros» porque en los años noventa dirigí la parte científica de la oficina de ingeniería de Internet2, el consorcio de universidades encargado de resolver el problema de cómo hacer que internet siguiese funcionando a medida que crecía hasta hacerse gigante. <<

[20] Un monopolio existe cuando solo hay un vendedor, mientras que un monopsonio se da cuando solo hay un comprador. Podríamos decir que las plataformas iOS y Android de teléfonos inteligentes constituyen un duopolio, porque en la práctica son los únicos canales de distribución de las aplicaciones para móviles, pero también cabría afirmar que son un duopsonio, porque cualquier dinero que fluya hacia las aplicaciones debe pasar a través de ellas. <<

[21] https://www.washingtonpost.com/news/the-switch/wp/2017/10/31/facebook-google-and-twitter-are-set-to-testify-on-capitol-hill-heres-what-to-expect/. <<

[22] https://thestrategybridge.org/the-bridge/2017/5/10/how-russia-weaponized-social-media-in-crimea <<

[23] https://www.theatlantic.com/magazine/archive/2017/09/has-the-smartphone-destroyed-a-generation/534198/ <<

[24] https://bits.blogs.nytimes.com/2011/12/03/how-the-internet-is-destroying-everything/ <<

[25] http://www.berkeleywellness.com/self-care/preventivecare/article/are-mobile-devices-ruining-our-eyes <<

[26] https://en.wikipedia.org/wiki/The_God_that_Failed <<

[27] https://www.forbes.com/sites/elizabethmacbride/2017/12/31/is-social-media-the-tobacco-industry-of-the-21stcentury/ <<

[28] https://www.hud.gov/sites/documents/20258LEGISLATIVEHISTORY.PDF <<

[29] La era de la televisión se esforzó por ser INCORDIO, pero sin los bucles de retroalimentación directa con los individuos. Mediante ímprobos esfuerzos, la televisión logró ser ligeramente INCORDIO, a pesar de no disponer de muchos datos. La «teoría del cultivo» estudia el fenómeno. Véase https://es.wikipedia.org/wiki/Teor%C3%ADa_de_cultivo <<

[30] Esta historia se relatará en razones posteriores. <<

[31] Aunque el gasto digital en publicidad y marketing aún supone algo menos de la mitad del dinero que se invierte globalmente en ambos conceptos —recordemos que la televisión aún tiene un gran peso, sobre todo en las generaciones de mayor edad, que crecieron con ella—, el gasto total está aumentando, la mayoría de ese aumento es digital, y casi todo este dinero se destina a INCORDIO. ¿Por qué debería una sociedad gastar una parte cada vez mayor de su riqueza en «publicidad»? Hay una enorme cantidad de informes del sector sobre este asunto y las estimaciones oscilan, pero la mayoría de los analistas coinciden en esta interpretación general. <<

[32] ¿Por qué se considera a Google una de las grandes compañías de INCORDIO? Por una parte, Google inventó esto antes de que existiese Facebook. Aun así, si solo utilizamos algunos de los productos de Google, como Docs, puede que no experimentemos Google como un INCORDIO. Pero su buscador, YouTube y varios otros de sus servicios sí cumplen los criterios para ser INCORDIO, aunque normalmente no se suelen clasificar como redes sociales. YouTube utiliza un perfil adaptativo de cada uno de nosotros para generar un hilo de contenido de vídeos personalizado diseñado para que sea adictivo, que incluye una sección de comentarios a menudo desagradables, y gana dinero cuando alguien paga para modificar lo que vemos y así alterar nuestro comportamiento. Típico de INCORDIO. Además, el contenido de nuestras actividades en Google que aparentemente no son INCORDIO, como la redacción de mensajes de correo electrónico, aporta datos al modelo en el que se basa la parte de Google que sí lo es. <<

[33] https://slate.com/technology/2018/03/twitter-is-rethinking-everything-at-last.html <<

[34] https://www.nytimes.com/2017/12/30/business/hollywood-apartment-social-media.html <<

[35] WhatsApp es parte de Facebook. Aunque a veces parece una plataforma de envío de mensajes como cualquier otra, en realidad es un destacado recopilador de datos para INCORDIO. Facebook ha tenido que hacer frente a una considerable oposición legal por usar así los datos de WhatsApp en Europa (véase https://www.theverge.com/2017/12/18/16792448/whatsapp-facebookdata-sharing-no-user-consent). En Estados Unidos, desde que se ha relajado la normativa relativa a la neutralidad de la red, es posible que todos los mensajes de texto, incluidos los mensajes nativos entre teléfonos, pasen en algún momento a formar parte de INCORDIO, aunque cuando escribo esto aún no parece haber sucedido. <<

[36] Actualmente, el enfoque académico más prominente para el estudio de la creación de idiotas es la teoría SIDE. Véase https://en.wikipedia.org/wiki/Social_identity_model_of_deindividuation_effects, pero antes prométeme que no te comportarás como un capullo en una guerra de ediciones en torno a esa entrada. Si quieres leer estudios relevantes de un científico que trabaja para Facebook, consulta el trabajo de Justin Cheng: https://www.clr3.com/ <<

[37] http://leesmolin.com/writings/the-trouble-with-physics/ <<

[38] Mi reconocimiento a Tim Wu. <<

[39] https://www.recode.net/2016/12/29/14100064/linkedin-daniel-roth-fake-news-facebook-recode-podcast <<

[40] http://www.spiegel.de/international/zeitgeist/smartphone-addiction-is-part-of-the-design-a-1104237.html <<

[41] Cuando uno no está en INCORDIO, puede ser duro sin ser un idiota. Quiero pensar que en este libro, a pesar de que estoy usando lenguaje provocativo y de que me dejo llevar por la emoción, no estoy vilipendiando ni condenando a las personas. «INCORDIO es un asco, pero básicamente se trata de un modelo de negocio estúpido. Las personas que hay detrás son, por lo general, estupendas. Simplemente, cometieron un error que todos debemos superar». ¿Lo ves? No es tan difícil ser firme y tenaz sin necesidad de odiar a nadie. De hecho, aquí en la realidad cuesta incluso recordar lo que se siente al tener a nuestro trol interior tratando de hacerse con el control. Por eso escribo esto en forma de libro en lugar de como una publicación en internet. <<

[42] https://backissues.time.com/storefront/2017/is-truth-dead-/prodTD20170403.html <<

[43] https://www.theguardian.com/media/2016/jul/12/how-technology-disrupted-the-truth. [Hay trad. cast.: https://www.ahorasemanal.es/como-la-tecnologia-altera-la-verdad]. <<

[44] https://www.nytimes.com/interactive/2018/01/27/technology/social-media-bots.html <<

[45] https://www.reuters.com/article/us-ashleymadison-cyber/infidelity-website-ashley-madison-facing-ftc-probe-ceo-apologizes-idUSKCN0ZL09J <<

[46] https://www.forbes.com/sites/kashmirhill/2011/02/11/ashley-madison-lessons-in-promoting-a-sleazy-business/ <<

[47] https://slate.com/technology/2018/01/robots-deserve-a-first-amendment-right-to-free-speech.html <<

[48] http://money.cnn.com/2017/05/24/media/seth-rich-fox-news-retraction/index.html <<

[49] Esto no significa que exista una conspiración entre las nuevas compañías de medios y las tradicionales, entre las que ha habido más tensión que cooperación. Recordemos que INCORDIO es un sistema automático que se ha puesto en funcionamiento para que se optimice a sí mismo. Encuentra patrones que funcionan, incluso cuando dichos patrones chocan con las tendencias emocionales o políticas de quienes ganan dinero con los patrones. Las tensiones entre Fox News y Facebook son bien conocidas: Facebook acapara un dinero que en épocas anteriores habría acabado en manos de los medios tradicionales. <<

[50] https://www.dailydot.com/unclick/shitposting/ <<

[51] https://www.theguardian.com/us-news/2017/oct/31/facebook-russia-ads-senate-hearing-al-franken <<

[52] https://respectfulinsolence.com/2017/09/28/antivaxers-on-twitter-fake-news-and-twitter-bots/ <<

[53] https://www.forbes.com/sites/robertglatter/2017/12/23/bot-or-not-how-fake-social-media-accounts-can-jeopardize-your-health <<

[54] https://www.usatoday.com/story/news/nation/2014/04/06/anti-vaccine-movement-is-giving-diseases-a-2nd-life/7007955/ <<

[55] https://www.telegraph.co.uk/technology/2017/07/03/youtube-refunds-advertisers-terror-content-scandal/ <<

[56] https://www.theverge.com/2015/2/4/7982099/twitter-ceo-sent-memo-taking-personal-responsibility-for-the/ <<

[57] http://www.bbc.com/news/uk-england-41693437 <<

[58] Matemáticos que trabajan en el sector financiero. <<

[59] Escribí sobre ello en mi libro de 2010 Contra el rebaño digital. [Traducido al castellano en 2011 por la editorial Debate]. <<

[60] http://www.slate.com/​articles/business/moneybox/​2013/07/how_one_weird​_trick_conquered_​the_internet_what_happens_​when_you_click_on.html <<

[61] ¿Recuerdas la nota al pie sobre los paisajes de energía de la primera razón? Si es así, lee esta nota. Introducir ajustes para optimizar nuestro diseño en un sistema que no está basado en la esencia ilimitada de la naturaleza, sino en una construcción humana, limitada y abstracta, acabará inevitablemente con la creatividad y el progreso al hacer que nos quedemos estancados en un valle mediocre del paisaje de energía. <<

[62] https://www.snopes.com/fact-check/pizzagate-conspiracy/ <<

[63] Uso aquí la palabra «empatía» como capacidad de entender lo que otras personas experimentan y por qué, de ponerse en su lugar. La palabra puede significar distintas cosas en distintos momentos. En un principio, cuando se introdujo en la lengua inglesa, hace unos cien años, buscaba comunicar la manera en que una persona imaginaría lo que sentiría al ser otro elemento del universo, como una montaña o una uva, que eran dos ejemplos usados en los primeros experimentos mentales. La palabra tenía un significado específico en las premoniciones estéticas y psicológicas de la realidad virtual. Véase https://www.theatlantic.com/health/archive/2015/10/a-short-history-of-empathy/409912/ <<

[64] https://www.megustaleer.com/libros/el-filtro-burbuja/MES-084818 <<

[65] https://www.theguardian.com/technology/2017/jul/31/facebook-dark-ads-can-swing-opinions-politics-research-shows <<

[66] https://www.forbes.com/sites/jaymcgregor/2017/07/31/why-facebook-dark-ads-arent-going-away/ <<

[67] https://slate.com/technology/2018/02/no-a-studydid-not-claim-that-fake-news-on-facebook-didnt-affect-theelection.html <<

[68] Puesto que vivo en Berkeley, mi pueblo es invadido periódicamente por gente de la alt-right que viene a manifestarse. Lo que asombra es que, varias veces, hombres con pegatinas conservadoras en sus camionetas nos han lanzado miradas agresivas a mi familia y a mí, sin conocernos en absoluto. En una ocasión, uno hizo amago de atropellarnos. Si supiese lo que ese conductor había visto, quizá podría sentir empatía hacia él. Podríamos hablar. INCORDIO nos ha arrebatado esa posibilidad. <<

[69] https://www.wired.com/story/free-speech-issue-reddit-change-my-view/ <<

[70] https://arxiv.org/abs/1408.3550 <<

[71] https://papers.ssrn.com/sol3/papers.cfm?abstractid=2886783 <<

[72] http://journals.plos.org/plosone/article?id=10.1371/journal.pone.0069841 <<

[73] https://academic.oup.com/aje/article-abstract/185/3/203/2915143 <<

[74] http://rsos.royalsocietypublishing.org/content/3/1/150292 <<

[75] https://www.ajpmonline.org/article/S0749-3797(17)30016-8/fulltext <<

[76] https://www.theguardian.com/technology/2017/may/01/facebook-advertising-data-insecure-teens <<

[77] http://www.sciencedirect.com/science/article/pii/S0747563214001241 <<

[78] https://www.nytimes.com/2014/07/01/opinion/jaronlanier-on-lack-of-transparency-in-facebook-study.html <<

[79] http://www.pnas.org/content/111/24/8788.full <<

[80] https://newsroom.fb.com/news/2017/12/hard-questions-is-spending-time-on-social-media-bad-for-us/ <<

[81] https://slate.com/human-interest/2018/01/the-facebook-moms-group-that-has-helped-me-raise-kids-without-going-crazy.html <<

[82] Este estudio detecta tanto los efectos positivos como los negativos del uso de las redes sociales y es capaz de caracterizarlos: http://www.jahonline.org/article/S1054-139X(15)00214-1/abstract/. El aspecto de conexión de las redes sociales fue beneficioso para las mujeres en edad universitaria preocupadas por su peso, mientras que el aspecto de valoración mutua no lo fue. Este resultado refuerza la hipótesis de que las conexiones que internet hace posibles pueden ser positivas, pero que ciertas estructuras adicionales, generalmente agudizadas por las redes sociales comerciales, son perjudiciales. <<

[83] Por supuesto que, en determinadas circunstancias, las redes sociales tienen efectos positivos. Sin embargo, el efecto general sobre los individuos y sobre el mundo es negativo. Una buena revista donde consultar estudios académicos sobre este asunto es Media Psychology, publicada por Taylor & Francis: http://www.tandfonline.com/loi/hmep20/. Una investigadora de fiar que trabaja para Facebook y que hace hincapié en los ejemplos de positividad en las redes sociales es Moira Burke: http://www.thoughtcrumbs.com/ <<

[84] https://www.sciencedirect.com/science/article/pii/S0747563216302941 <<

[85] https://www.eurekalert.org/pubreleases/2015-05/sdsucaa050415.php <<

[86] http://annenberg.usc.edu/news/around-usc-annenberg/family-time-decreasing-internet-use <<

[87] https://www.theguardian.com/society/2017/sep/23/stress-anxiety-fuel-mental-health-crisis-girls-young-women <<

[88] http://www.pnas.org/content/pnas/early/2017/10/16/1708518114.full.pdf <<

[89] http://www.smh.com.au/technology/smartphoneapps/fuelling-a-mental-health-crisis-instagram-worst-social-network-for-young-peoples-mental-health-20170520-gw9fvq.html <<

[90] https://www.cbsnews.com/news/nsa-breach-shadow-brokers-michael-morell/ <<

[91] https://www.theguardian.com/media/2017/mar/07/wikileaks-publishes-biggest-ever-leak-of-secret-cia-documentshacking-surveillance <<

[92] Se podrían añadir a esta exclusiva lista las declaraciones fiscales de Trump. <<

[93] https://www.nytimes.com/2016/08/24/us/politics/facebook-ads-politics.html <<

[94] https://papers.ssrn.com/sol3/papers.cfm?abstractid=2475265 <<

[95] https://www.reuters.com/article/us-usa-immigrationvisa/trump-administration-approves-tougher-visa-vetting-including-social-media-checks-idUSKBN18R3F8 <<

[96] https://www.forbes.com/sites/adp/2016/10/24/how-to-legally-use-social-media-to-recruit/#1fd4ebce29f4 <<

[97] https://www.tuition.io/2014/04/social-media-shocker-twitter-facebook-can-cost-scholarship-admissions-offer/ <<

[98] https://www.edmunds.com/auto-insurance/car-insurance-companies-use-facebook-for-claims-investigations.html <<

[99] https://www.theguardian.com/technology/2016/oct/11/aclu-geofeedia-facebook-twitter-instagram-black-livesmatter <<

[100] https://www.forbes.com/sites/kashmirhill/2014/10/03/god-view-uber-allegedly-stalked-users-for-party-goersviewing-pleasure/ <<

[101] http://fortune.com/2016/04/27/zuckerberg-facebook-control/ <<

[102] https://www.theguardian.com/media/2016/sep/21/does-quitting-social-media-make-you-happier-yes-say-young-people-doing-it <<

[103] Defendí esta afirmación en mis libros anteriores: Contra el rebaño digital y ¿Quién controla el futuro? <<

[104] https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3093683; https://www.economist.com/news/financeand-economics/21734390-and-new-paper-proposes-should-dataproviders-unionise-should-internet <<

[105] Algunos sitios de internet que podrían haber seguido la senda de INCORDIO se están planteando adoptar el modelo de suscripción: https://www.nytimes.com/2017/05/20/technology/evan-williams-medium-twitter-internet.html <<

[106] https://www.cbsnews.com/news/social-media-influencers-brand-advertising/ <<

[107] https://news.vice.com/enca/article/8xmmb4/what-does-it-take-to-make-a-living-on-social-media <<

[108] Este capítulo trata sobre política. Antes de seguir, tengo que decir algo evidente. Este es un asunto esencial y del que he visto una faceta que probablemente tú no conozcas, y de eso es de lo que me gustaría hablarte. Al mismo tiempo, soy un techie blanco, pero para seguir debo hablar de cosas que no puedo conocer tan bien como mi propio mundo, como la experiencia de los negros en Estados Unidos. Probablemente caeré en las trampas de la blancoexplicación, la machiexplicación, la techiexplicación u otras formas de explicación. ¿Podemos dar por superada esta parte? Sé que es así. Por favor, usa lo que puedas de mis explicaciones. Solo sé que no se nada. <<

[109] https://www.weforum.org/agenda/2017/06/millennials-are-rapidly-losing-interest-in-democracy/ <<

[110] https://www.nytimes.com/2017/10/29/business/facebook-misinformation-abroad.html <<

[111] https://www.washingtonpost.com/world/asia_pacific/indias-millions-of-new-internet-users-are-falling-for-fake-news-sometimes-with-deadly-consequences/2017/10/01/f078eaee-9f7f-11e7-8ed4-a750b67c552b_story.htm <<

[112] http://www.securitycouncilreport.org/atf/cf/%7B65BFCF9B-6D27-4E9C-8CD3-CF6E4FF96FF9%7D/s_2016_963.pdf <<

[113] http://www.nytimes.com/2012/02/19/books/review/how-an-egyptian-revolution-began-on-facebook.html <<

[114] https://www.wired.com/2016/03/isis-winning-social-media-war-heres-beat/ <<

[115] http://www.dailymail.co.uk/news/article-4858216/Victim-Gamergate-s-horrific-online-abuse-reveals-trauma.html <<

[116] http://time.com/3923651/meet-the-woman-helping-gamergate-victims-come-out-of-the-shadows/ <<

[117] http://www.zero-books.net/books/kill-all-normies <<

[118] https://transequality.org/the-discrimination-administration <<

[119] https://www.washingtonpost.com/news/acts-of-faith/wp/2016/06/08/trump-on-god-hopefully-i-wont-have-to-be-asking-for-much-forgiveness/ <<

[120] https://www.rawstory.com/2017/03/russians-usedbernie-bros-as-unwitting-agents-in-disinformation-campaign-senate-intel-witness/ <<

[121] https://www.vox.com/policy-and-politics/2018/2/24/17047880/conservatives-amplified-russian-trolls-more-often-than-liberals <<

[122] https://www.wired.com/story/how-trump-conqueredfacebookwithout-russian-ads/ <<

[123] Brad Parscale, director de redes sociales de la campaña de Trump, tuiteó: «Apuesto a que conseguimos entre 100 y 200 veces más que ella. Tuvimos CPM que eran en algunos casos de centavos de dólar. Por eso @realDonaldTrump era un candidato perfecto para Facebook». <<

[124] https://slate.com/technology/2018/03/did-facebook-really-charge-clinton-more-for-ads-than-trump.html <<

[125] https://www.cbsnews.com/news/facebook-embedsrussia-and-the-trump-campaigns-secret-weapon/ <<

[126] http://www.nature.com/news/facebook-experimentboosts-us-voter-turnout-1.11401 <<

[127] http://dailycaller.com/2016/08/24/facebook-is-determining-your-political-affiliation-tracks-your-activity/ <<

[128] http://www.pnas.org/content/111/24/8788.full <<

[129] https://www.theguardian.com/world/2017/oct/21/russia-social-media-activism-blacktivist <<

[130] Los votantes italianos han dado su apoyo a un partido político que no posee más cualidad que ser INCORDIO de la cabeza a los pies: https://www.nytimes.com/2018/02/28/world/europe/italy-election-davide-casaleggio-five-star.html <<

[131] Poco antes de que este libro llegara a la imprenta, se produjo un horrible tiroteo escolar en un instituto de Florida e INCORDIO estaba allí, como siempre, buscando formas de perjudicar a la sociedad: https://www.wired.com/story/pro-gun-russianbots-flood-twitter-after-parkland-shooting/ <<

[132] http://www.independent.co.uk/news/world/middleeast/saudi-muslim-cleric-claims-the-earth-is-stationary-and-the-sun-rotates-around-it-10053516.html <<

[133] https://weapons​of​math​destruction​book​.com/ <<

[134] La cita más conocida del escritor de extrema derecha Mencius Moldbug reza: «En muchos casos, el absurdo es una herramienta organizativa más efectiva que la verdad. Cualquiera puede creer en la verdad, pero creer algo absurdo es una demostración indudable de lealtad. Sirve de uniforme político. Y si tienes un uniforme tienes un ejército». <<

[135] La ética de INCORDIO ha salpicado también la ciencia académica. Los jóvenes científicos deben ir ahora a la caza de menciones de la misma manera que los aspirantes a influencers en las redes sociales van a la caza de seguidores. <<

[136] http://www.businessinsider.com/new-facebook-missionstatement-2017-6 <<

[137] http://time.com/574/google-vs-death/ <<

[138] El proyecto sigue vivo como Calico, una de las empresas de Alphabet. <<

[139] http://www.nationmultimedia.com/news/Startup_and_IT/30273758; https://www.cnbc.com/2017/08/02/microsoft-2017-annual-report-lists-ai-as-top-priority.html; https://www.fastcompany.com/3060570/facebooks-formula-for-winning-at-ai; https://www.reuters.com/article/usamazon-com-reinvent-ai/amazon-steps-up-pace-in-artificialintelligence-race-idUSKBN1DV3CZ <<

[140] https://komarketing.com/industry-news/ai-digitaltransformation-top-marketers-priorities-2018/ <<

[141] https://www.washingtonpost.com/news/innovations/wp/2017/10/29/saudi-arabia-which-denies-women-equal-rights-makes-a-robot-a-citizen/ <<

[142] He aquí un artículo antiguo que describe cómo compagino mi opinión sobre la singularidad de las personas con mi apoyo al derecho al aborto: https://www.huffingtonpost.com/entry/the-latest-innocent-embry_b_8547.html <<