¿Somos capaces de decidir qué tareas dejamos en manos del ordenador y cuáles nos reservamos? ¿Dedicamos nuestra atención a lo que queremos? Las nuevas tecnologías suponen un ahorro de trabajo, pero ¿podrían erosionar nuestra libertad?

Cada día, diversas aplicaciones nos ayudan a hacer ejercicio o incluso buscar pareja. Confiamos en una voz artificial que nos guía paso a paso hasta nuestro destino. Las redes sociales nos incitan a recuperar amistades. La automatización es imparable y ya se está apropiando incluso de las profesiones más cualificadas: los «software» substituyen el ojo clínico del médico, el oído del músico, la mano del arquitecto o la pericia del piloto. Coches que conducen solos, ataques con drones militares… La realidad supera con creces lo que hasta hace poco nos parecía ciencia ficción.

Tejido a base de curiosidades históricas y lúcidas descripciones de las últimas tendencias tecnológicas, económicas, psicológicas y neurocientíficas, «Atrapados» nos brinda una visión realista y alarmante de un poderoso fenómeno que está determinando nuestras vidas.

Carr lleva años cuestionando las ventajas reales de las tecnologías de la información y favoreciendo el debate sobre un tema controvertido que nos afecta a todos.

Nicholas Carr

Atrapados

Cómo las máquinas se apoderan de nuestras vidas

ePub r1.2

Titivillus 06.08.2022

Título original: Glass Cage. Automation and Us

Nicholas Carr, 2014

Traducción: Pedro Cifuentes

Editor digital: Titivillus

Primer editor: turolero (r1.0 a 1.1)

ePub base r2.1

Para Ann

Nadie para atestiguar y corregir,

nadie para conducir el coche.

WILLIAM CARLOS WILLIAMS

INTRODUCCIÓN. ALERTA PARA OPERADORES

INTRODUCCIÓN. ALERTA PARA OPERADORES.

El 4 de enero de 2013, primer viernes de aquel año, un día muerto a efectos informativos, la Administración Federal de Aviación de Estados Unidos [FAA, según sus siglas en inglés] emitió un comunicado de una sola página. No llevaba título. Se identificaba únicamente como una «alerta de seguridad para operadores» [SAFO, según sus siglas en inglés]. El texto era escueto y críptico. Además de ser publicada en la página web de la FAA, fue enviada a todas las aerolíneas estadounidenses y otras compañías aéreas comerciales. «Esta SAFO», rezaba el documento, «incentiva a los operadores a promover operaciones de vuelo manuales cuando resulte apropiado». La FAA había reunido pruebas (provenientes de investigaciones sobre accidentes, informes sobre incidentes y estudios de cabina) que indicaban que los pilotos se habían vuelto demasiado dependientes de los pilotos automáticos y otros sistemas informatizados. El exceso de automatización aérea, advertía la agencia, podría «llevar a una degradación de la capacidad del piloto para sacar rápidamente a la aeronave de una situación no deseada». Podría, dicho de otra manera, poner a un avión y a sus pasajeros en peligro. La alerta concluía con una recomendación de que las aerolíneas, como parte de su política de operaciones, instruyeran a los pilotos a pasar menos tiempo volando con el piloto automático encendido y más tiempo volando manualmente[1].

Este es un libro sobre la automatización, sobre el uso de ordenadores y software para hacer cosas que solíamos hacer nosotros mismos. No es sobre los aspectos tecnológicos o económicos de la automatización, ni sobre el futuro de los robots, los cíborgs y los aparatos, aunque todo eso entra dentro de la historia. Es sobre las consecuencias humanas de la automatización. Los pilotos han estado en primera línea frente a una ola que nos está engullendo. Recurrimos a los ordenadores para cargarles una parte cada vez mayor de nuestras tareas, en el trabajo y fuera de él, y para guiarnos en un porcentaje cada vez mayor de nuestras rutinas diarias. Cuando necesitamos hoy día dejar algo hecho, en la mayoría de las ocasiones nos sentamos delante de un monitor, o abrimos un portátil, o sacamos un smartphone, o nos ponemos un accesorio conectado a la Red en la frente o la muñeca. Utilizamos aplicaciones. Consultamos pantallas. Recibimos consejos de voces simuladas digitalmente. Recurrimos a la sabiduría de los algoritmos.

La automatización informática facilita nuestras vidas, aligera nuestras faenas. Con frecuencia, somos capaces de hacer más en menos tiempo, o de hacer cosas que sencillamente no podíamos hacer antes. Pero la automatización tiene también efectos más profundos y ocultos. Como han aprendido los aviadores, no todos son beneficiosos. La automatización puede ser perjudicial para nuestro trabajo, nuestro talento y nuestra vida. Puede estrechar nuestra perspectiva y limitar nuestras elecciones. Puede someternos a la vigilancia y a la manipulación. A medida que los ordenadores se convierten en nuestros compañeros constantes, en nuestro familiar y complaciente apoyo, parece inteligente echar un vistazo más detenido a cómo están cambiando exactamente lo que hacemos y lo que somos.

1. PASAJEROS

1. PASAJEROS.

Entre las humillaciones de mi adolescencia hubo una que podría denominarse psicomecánica: mi esfuerzo (público) por manejar una transmisión manual. Obtuve mi permiso de conducir a principios de 1975, poco después de cumplir dieciséis años. El otoño anterior había hecho un curso de conducir con un grupo de mis compañeros de instituto. El Oldsmobile del instructor, que usábamos para nuestras clases en la calle y también para nuestros exámenes de conducir en el odioso Departamento de Vehículos de Motor, era automático. Pisabas el acelerador, girabas el volante, frenabas. Había unas pocas maniobras complicadas —dar la vuelta en una carretera estrecha, ir marcha atrás en línea recta, aparcar en paralelo—, pero con un poco de práctica entre las columnas del aparcamiento del colegio se acabaron volviendo rutinarias.

Tenía el permiso en la mano; estaba listo para circular. Quedaba solo un obstáculo. El único coche disponible para mí en casa era un Subaru sedán con una palanca de cambios. Mi padre, que no era el más práctico de los padres, me concedió una sola clase. Me llevó al garaje una mañana de sábado, se dejó caer en el asiento del conductor y me hizo subir al asiento de acompañante junto a él. Puso mi palma izquierda sobre la palanca y la guio por las diferentes marchas: «Eso es primera». Breve pausa. «Segunda». Breve pausa. «Tercera». Breve pausa. «Cuarta». «Aquí abajo» —escorzo de dolor en mi muñeca al retorcerse en una posición no natural— «está la marcha atrás». Me miró para confirmar que lo tenía todo claro. Asentí (qué iba a hacer). «Y eso» —moviendo mi mano adelante y atrás— «es punto muerto». Me dio algunas pistas sobre los tramos de velocidad de las cuatro marchas principales. Entonces apuntó al pedal del embrague, que tenía apretado bajo su zapato. «No te olvides de pisarlo mientras cambias de marcha».

Procedí a dar el espectáculo por las calles de la pequeña ciudad de Nueva Inglaterra donde vivíamos. El coche daba sacudidas mientras trataba de encontrar la marcha correcta, saliendo despedido hacia delante cuando soltaba a destiempo el embrague. Me paraba en cada semáforo rojo, y después de nuevo en el cruce. Las cuestas eran un horror. Soltaba el embrague demasiado rápido, o demasiado despacio, y el coche se deslizaba hacia atrás hasta detenerse en el parachoques del vehículo que iba detrás. Sonaban bocinas, insultos… Los pájaros alzaban el vuelo. Lo que hacía la experiencia incluso más mortificante era la pintura amarilla del Subaru, un amarillo parecido al de un impermeable para niños o un jilguero macho en celo. El coche era un imán para los ojos; mis bandazos, imposibles de pasar desapercibidos.

No recibí apoyo de mis supuestos amigos, que hallaron en mis apuros una fuente de diversión infinita y estruendosa. «¡Medio kilo de café!», gritaba uno de ellos con alborozo desde el asiento trasero cuando erraba un cambio y desencadenaba un rechinar metálico de dientes de engranaje. «Suave…», se recochineaba otro mientras el motor se esforzaba hasta detenerse. La palabra «retrasado» (esto sucedió mucho antes de que nadie hubiese oído hablar de la corrección política) se utilizaba frecuentemente referida a mí. Tenía la sospecha de que mi incompetencia con la caja de cambios era objeto de risas a mis espaldas entre mi grupo de amigos. Las implicaciones metafóricas no se me escapaban. Mi hombría, a los dieciséis años, estaba desinflada.

Pero persistí —¿qué otra cosa iba a hacer?— y, después de una semana o dos, empecé a pillarle el tranquillo. La caja de cambios se aflojó y se mostró más comprensiva. Mis brazos y piernas dejaron de funcionar enfrentados y empezaron a cooperar. Pronto estaba cambiando de marcha sin pensar en ello. Simplemente sucedía. El coche ya no se paraba, ni daba sacudidas. No tenía que sufrir las cuestas o las intersecciones de calles. La transmisión y yo nos habíamos convertido en un equipo. Nos habíamos engranado. Estaba bastante orgulloso de mi logro.

De cualquier forma, ansiaba un coche automático. Aunque las palancas de cambio eran bastantes comunes por aquel entonces, al menos en los coches baratos y birriosos que manejaban los adolescentes, ya habían adquirido una cualidad ligeramente anticuada y segundona. Parecían rancios, algo pasados de moda. ¿Quién quería ser «manual» cuando podías ser «automático»? Era como la diferencia entre fregar platos a mano y meterlos en un lavavajillas. La realidad es que no tuve que esperar mucho para ver cumplido mi deseo. Dos años después de sacarme el carné, me las arreglé para destrozar el Subaru durante un percance de madrugada, y poco después me apropié de un Ford Pinto de dos puertas, usado, de color crema. El coche era una mierda —hay quienes ven ahora en el Pinto el punto más bajo de la industria estadounidense en el siglo XX—, pero para mí quedaba redimido por su transmisión automática.

Yo era un hombre nuevo. Mi pie izquierdo, libre de las exigencias del pedal, se convirtió en un apéndice de placer. Mientras circulaba por la ciudad, seguía a veces con garbo los baquetazos de Charlie Watts o los porrazos de John Bonham —el Pinto tenía también un reproductor de cinta magnetofónica, otro toque de modernidad—, pero en la mayoría de las ocasiones se estiraba simplemente en su recoveco bajo el lado izquierdo del salpicadero y sesteaba. Mi mano derecha era un soporte para bebidas. No me sentía solo renovado y actualizado. Me sentía liberado.

No duró mucho. Los placeres derivados de tener menos cosas que hacer eran reales, pero se difuminaron. Apareció una nueva emoción: el aburrimiento. No se lo admití a nadie, ni siquiera a mí mismo, pero empezaba a echar de menos la palanca de cambios y el embrague. Echaba de menos la sensación de control y participación que me habían dado —la capacidad de revolucionar el motor tanto como quisiera, de sentir cómo el embrague se soltaba y las marchas entraban, la discreta emoción que sobrevenía con una reducción de la velocidad—. El automático me hacía sentir un poco menos conductor y un poco más pasajero. Empezó a no gustarme.

* * *

Adelantémonos treinta y cinco años, a la mañana del 9 de octubre de 2010. Uno de los inventores de plantilla de Google, el experto en robótica de origen alemán Sebastian Thrun, hace un anuncio extraordinario en el post de un blog. La compañía ha desarrollado «coches que pueden conducir solos». No se trata de un par de prototipos desgarbados que holgazanean por el aparcamiento de Googleplex con marchas reductoras. Son vehículos de verdad, legales —Toyota Prius, para ser precisos— y, según revela Thrun, ya han recorrido más de 150 000 kilómetros en carreteras y autopistas de California y Nevada. Han circulado por Hollywood Boulevard y la Ruta Estatal 1, cruzado varias veces el Golden Gate y rodeado el lago Tahoe. Se han incorporado a una autopista congestionada, cruzado intersecciones peligrosas y marchado a paso de humano en atascos de hora punta. Han realizado maniobras para evitar colisiones. Y han hecho todo esto solos. Sin ayuda humana. «Creemos que esto es un hito en investigación robótica», escribe Thrun con astuta humildad[2].

Fabricar un coche que puede conducir solo no es tan impresionante. Ingenieros e inventores llevan construyendo automóviles robóticos y por control remoto desde por lo menos la década de 1980. Pero la mayoría de ellos eran cacharros vulgares. Su uso estaba restringido a pruebas de conducción en circuitos cerrados o a carreras y rallies en desiertos y otras áreas remotas, alejados de peatones y policías.

El anuncio de Thrun dejaba claro que el Googlemobile es diferente. Lo que lo convierte en semejante avance, tanto en la historia del transporte como de la automatización, es su habilidad para circular por el mundo real en toda su complejidad caótica y turbulenta. Equipado con medidores de distancia por láser, transmisores de radar y sónar, detectores de movimiento, cámaras de vídeo y receptores GPS, el coche puede analizar su entorno minuciosamente. Puede ver adónde está yendo. Y al procesar toda esa información instantáneamente —en «tiempo real»—, sus ordenadores de a bordo son capaces de manipular el acelerador, el volante y los frenos con la velocidad y sensibilidad necesarias para conducir en carreteras reales y responder con fluidez a los acontecimientos inesperados que siempre encuentra un conductor. La flota de coches independientes de Google lleva ya acumulada casi un millón de kilómetros, y los vehículos solo han causado un accidente serio, un choque en cadena de cinco coches cerca del cuartel general de la empresa, en Silicon Valley, en 2011.

El accidente, además, no cuenta en realidad. Ocurrió, como Google se apresuró a anunciar, «mientras una persona estaba conduciendo manualmente el coche»[3].

Los automóviles autónomos deben todavía recorrer mucho camino hasta que empiecen a trasladarnos al trabajo o a llevar a nuestros hijos a su partido de fútbol. A pesar de que Google ha afirmado que espera que haya versiones comerciales de su coche a la venta para finales de esta década, es probablemente ilusorio. Los sistemas de sensores del vehículo siguen siendo prohibitivamente caros; solo el aparato de láser montado en el techo cuesta ochenta mil dólares. Faltan por superarse numerosos desafíos técnicos, como conducir por carreteras nevadas o cubiertas de hojas, gestionar desvíos inesperados o interpretar las señales manuales de agentes de tráfico u obreros de la construcción. Incluso los ordenadores más avanzados tienen todavía problemas para distinguir un pequeño e inofensivo trozo de basura en el camino (una caja de cartón aplastada, por ejemplo) de un obstáculo peligroso (una tabla de contrachapado con clavos). Los más preocupantes de todos son las numerosas barreras legales, culturales y éticas que afronta un coche sin conductor.

¿Dónde residen, por ejemplo, la culpabilidad y la responsabilidad si un automóvil dirigido por ordenador causa un accidente que mata o hiere a alguien? ¿En el propietario del coche? ¿En el fabricante que instaló el sistema de conducción automática? ¿En los programadores que escribieron el software? Hasta que estas cuestiones espinosas se resuelvan, no parece probable que los coches totalmente automatizados pueblen los concesionarios.

El progreso seguirá adelante de todas formas. Gran parte del hardware y del software de los coches de prueba de Google acabará siendo incorporado a generaciones futuras de coches y camiones. Desde que la compañía publicó su programa de vehículos autónomos, la mayoría de los principales fabricantes mundiales de coches ha dejado saber que impulsan proyectos similares. La meta, por el momento, no es tanto crear un robot inmaculado sobre ruedas como continuar inventando y perfeccionando funciones automatizadas que aumenten la seguridad y la comodidad de maneras que lleven a la gente a comprar coches nuevos. La automatización de la conducción ha progresado ya mucho desde que arranqué por primera vez el motor de mi Subaru. Los coches de hoy están repletos de aparatos electrónicos. Microchips y sensores dirigen el funcionamiento del control de velocidad, los frenos antibloqueo, los mecanismos de tracción y estabilidad y, en los modelos de alta gama, la transmisión de velocidad variable, el sistema de asistencia de aparcamiento, el sistema de prevención de choques, los faros adaptativos y el tablero. El software ya proporciona una protección entre nosotros y la carretera. No controlamos tanto nuestros coches; enviamos inputs electrónicos a los ordenadores que los controlan.

En los años próximos veremos cómo la responsabilidad de muchos aspectos de la conducción se desplaza de las personas al software. Infiniti, Mercedes y Volvo están comercializando modelos que incluyen control de velocidad adaptativo asistido por radar, capaz de funcionar incluso en condiciones de tráfico de parada y arranque; sistemas de dirección computerizada que toman el control de las ruedas para mantener el coche centrado en su carril; y frenos que se activan en emergencias. Otros fabricantes se están dando prisa para introducir controles incluso más avanzados. Tesla Motors, el pionero del coche eléctrico, está desarrollando un piloto automático «que debería ser capaz de [gestionar] el 90 por ciento de los kilómetros recorridos», según el ambicioso consejero delegado de la empresa, Elon Musk[4].

La llegada del coche independiente de Google altera algo más que nuestra concepción de la conducción. Nos fuerza a cambiar nuestro pensamiento sobre lo que pueden y no pueden hacer ordenadores y robots. Hasta aquel aciago día de octubre, se daba por sentado que muchas habilidades importantes estaban fuera del alcance de la automatización. Las máquinas podían hacer muchas cosas, pero no todo. En un influyente libro de 2004, The New Division of Labor: How Computers Are Creating the Next Job Market, [«La nueva división del trabajo: cómo los ordenadores configuran el mercado laboral del futuro»] los economistas Frank Levy y Richard Murnane sostenían, convincentemente, que existían límites prácticos a la capacidad de los programadores de software para replicar capacidades humanas, particularmente aquellas que implicaban percepción sensorial, reconocimiento de patrones e inteligencia conceptual. Mencionaban específicamente el ejemplo de conducir un coche en una carretera, habilidad que requiere la interpretación instantánea de una mezcolanza de señales visuales y la capacidad de adaptarse a la perfección a situaciones cambiantes y con frecuencia no previstas. Poco sabemos acerca de cómo logramos hacer semejantes cosas nosotros mismos, así que la idea de que un programador podría reducir todos los entresijos, aspectos intangibles y contingencias de la conducción a una serie de instrucciones, a líneas de código de software, parecía absurda. «Ejecutar un giro a la izquierda con tráfico en ambos sentidos», escribían Levy y Murnane, «concita tantos factores que es difícil imaginar el conjunto de reglas que puede replicar el comportamiento de un conductor». Parecía una apuesta segura, para ellos y prácticamente para cualquier persona, que el volante seguiría siendo controlado por manos humanas[5].

Al evaluar la capacidad de los ordenadores, economistas y psicólogos han fijado desde hace mucho tiempo una distinción básica entre dos tipos de conocimiento: tácito y explícito. El conocimiento tácito, al que también se le conoce en ocasiones como conocimiento procesal, se refiere a todo lo que hacemos sin pensar activamente sobre ello: montar en bicicleta, atrapar una pelota de béisbol, leer un libro, conducir un coche. No son habilidades innatas —debemos aprenderlas, y algunas personas lo hacen mejor que otras—, pero no se pueden expresar con una simple receta, una secuencia de pasos definidos con exactitud. Estudios neurológicos demuestran que, cuando haces un giro con tu coche en una intersección con bastante tráfico, muchas áreas de tu cerebro están trabajando, procesando estímulos sensoriales, haciendo cálculos de tiempo y distancia y coordinando tus brazos y piernas[6]. Pero si alguien nos pidiera que documentásemos todo aquello que está relacionado con ese giro, no podríamos hacerlo, al menos sin recurrir a generalizaciones y abstracciones. Esa habilidad reside en la profundidad de nuestro sistema nervioso, fuera del ámbito de nuestra mente consciente. El procesamiento mental continúa sin que nos demos cuenta.

Gran parte de nuestra capacidad para medir situaciones y hacer juicios rápidos sobre ellas provienen del reino borroso del conocimiento tácito. La mayoría de nuestras habilidades creativas y artísticas residen allí también. El conocimiento explícito, también conocido como conocimiento declarativo, es aquello que puedes escribir: cómo cambiar una rueda, cómo doblar una grulla de papel, cómo resolver una ecuación de segundo grado. Estos son procesos que pueden desmenuzarse en pasos bien definidos. Una persona se los puede explicar a otra mediante instrucciones escritas u orales: haz esto, luego esto, después aquello.

Dado que un programa de software es esencialmente un conjunto de instrucciones precisas, escritas —haz esto, luego esto, después aquello—, hemos asumido que mientras que los ordenadores pueden replicar habilidades que dependen del conocimiento explícito, no son tan buenos cuando se trata de habilidades que proceden del conocimiento tácito. ¿Cómo traduces lo inefable en líneas de código, en instrucciones rígidas, paso a paso, de un algoritmo? La frontera entre lo explícito y lo tácito siempre ha sido aproximada —muchas de nuestras habilidades participan de ambos tipos de conocimiento—, pero parecía ofrecer un modo válido de definir los límites de la automatización y, por ende, de delimitar el precinto exclusivo de lo humano. Las actividades sofisticadas que Levy y Murnane identificaban como fuera del alcance de los ordenadores —además de la conducción, señalaban la docencia y el diagnóstico médico— eran una mezcla de lo mental y lo manual, pero todas derivaban del conocimiento tácito.

El coche de Google traza una nueva frontera entre el hombre y el ordenador, y lo hace de una forma más drástica, más decisiva, que anteriores hitos de la programación. Nos dice que nuestra idea sobre los límites de la automatización siempre ha tenido algo de ficción. No somos tan especiales como pensamos. La distinción entre conocimiento tácito y explícito sigue siendo útil en el entorno de la psicología humana, pero ha perdido buena parte de su relevancia en los debates sobre la automatización.

* * *

Eso no quiere decir que los ordenadores tengan ahora conocimiento tácito, o que hayan empezado a pensar como pensamos nosotros, o que pronto serán capaces de hacer todo lo que podemos hacer las personas. Ni pueden, ni lo han hecho, ni lo harán. La inteligencia artificial no es la inteligencia humana. Las personas son conscientes; los ordenadores son inconscientes. Pero a la hora de llevar a cabo tareas exigentes, ya sea con el cerebro o el cuerpo, los ordenadores son capaces de replicar nuestros fines sin replicar nuestros medios. Cuando un coche sin conductor gira hacia la izquierda, no está aprovechándose de un pozo de intuición y destreza; está siguiendo un programa. Las estrategias son diferentes, pero los resultados, por motivos prácticos, son los mismos. La velocidad sobrehumana con la que los ordenadores pueden seguir instrucciones, calcular probabilidades y recibir y mandar datos significa que pueden utilizar el conocimiento explícito para realizar muchas de las tareas complicadas que hacemos con el conocimiento tácito. En algunos casos, la fuerza singular de los ordenadores les permite desplegar lo que consideramos habilidades tácitas mejor de lo que podemos desplegarlas nosotros. En un mundo de coches controlados por ordenador no necesitaríamos semáforos o señales de STOP. A través del intercambio incesante de datos a alta velocidad, los vehículos coordinarían su trayectoria perfectamente, incluso por los cruces más abarrotados, al igual que los ordenadores regulan hoy el flujo de cantidades inconcebibles de paquetes de datos por las autovías y vericuetos de Internet. Lo que es inefable en nuestras mentes se puede expresar en los circuitos de un microchip.

Resulta ahora que muchos de los talentos cognitivos que hemos considerado específicamente humanos no lo son. Una vez que adquieren suficiente velocidad, los ordenadores pueden empezar a replicar nuestra capacidad para detectar patrones, hacer juicios y aprender de la experiencia. Aprendimos la lección por primera vez en 1997, cuando el superordenador de IBM Deep Blue, jugador de ajedrez que podía evaluar mil millones de posibles jugadas cada cinco segundos, derrotó al campeón mundial Gary Kasparov. Con el coche inteligente de Google, que puede procesar un millón de mediciones ambientales por segundo, estamos aprendiendo la lección otra vez. Muchas de las cosas muy inteligentes que la gente hace no requieren realmente un cerebro. El talento intelectual de profesionales altamente cualificados no está más protegido de la automatización que el giro a la izquierda del conductor. Vemos la evidencia por todas partes. El trabajo creativo y analítico de toda clase está siendo mediatizado por el software. Los médicos usan ordenadores para diagnosticar enfermedades. Los arquitectos los usan para diseñar edificios. Los fiscales los usan para analizar pruebas. Los músicos los usan para simular instrumentos y corregir acordes. Los profesores los usan para supervisar a estudiantes y calificar trabajos. Los ordenadores no están apropiándose de estas profesiones enteramente, pero están apropiándose de muchos de sus elementos. Y están cambiando ciertamente la manera en que se realiza el trabajo.

No solo las profesiones se están informatizando. Las vocaciones también. Gracias a la proliferación de smartphones, tabletas y otros ordenadores pequeños, asequibles y que incluso se llevan encima, ahora dependemos del software para llevar a cabo muchas de nuestras faenas y pasatiempos diarios. Abrimos aplicaciones para ayudarnos en la compra, para cocinar, para hacer ejercicio, incluso para encontrar una pareja y criar a un niño. Seguimos instrucciones GPS, curva a curva, para llegar de un sitio al siguiente. Utilizamos las redes sociales para mantener amistades y expresar nuestros sentimientos. Buscamos consejo en motores de recomendación sobre qué ver, leer y escuchar. Consultamos a Google, o al Siri de Apple, para responder nuestras preguntas y solucionar nuestros problemas. El ordenador se está convirtiendo en nuestra herramienta universal para navegar, manipular y entender el mundo, tanto en sus manifestaciones físicas como sociales. Piense solo qué sucede estos días cuando alguien pierde su smartphone o la conexión a la Red. Sin sus asistentes digitales, se siente inútil. Como observa Katherine Hayles, profesora de Literatura en la Universidad de Duke, en su libro How We Think [«Cómo pensamos»] (2012), «cuando se estropea mi ordenador o falla mi conexión a Internet me siento perdida, desorientada, incapaz de trabajar; es más, me siento como si me hubiesen amputado las manos»[7].

Nuestra dependencia de los ordenadores puede desconcertarnos en ocasiones, pero en general la aceptamos de buena gana. Nos encanta celebrar y presumir de nuestros nuevos y fantasiosos aparatejos y aplicaciones (y no solo porque sean tan útiles y estilosos). Hay algo mágico en la automatización informatizada. Ver cómo un iPhone identifica una desconocida canción que suena en un bar es para la experiencia algo que hubiera sido inconcebible para la generación anterior. Ver a una tropa de robots alegremente pintados montar sin esfuerzo un panel solar o el motor de un avión es asistir a un exquisito ballet de metales pesados, cada movimiento coreografiado hasta la fracción de un milímetro y la décima de un segundo. Las personas que han montado en el coche de Google cuentan que la emoción es casi de otro mundo; su cerebro mundanal tiene dificultades para procesar la experiencia. Hoy parece realmente que estamos entrando en un mundo feliz, una Tierra del Mañana en la que los ordenadores y los autómatas estarán a nuestro servicio, aliviándonos de nuestras cargas, materializando nuestros deseos y, a veces, tan solo haciéndonos compañía. Muy pronto, nos aseguran nuestros magos de Silicon Valley, tendremos empleadas domésticas y chóferes robot. Todo tipo de objetos serán fabricados por impresoras 3D y llegarán a nuestras casas por medio de drones. El mundo de Los supersónicos, o al menos de El coche fantástico, nos está haciendo señas.

Es difícil no quedarse pasmado. O sentir aprensión. La transmisión automática puede parecer una tontería al lado del espléndido «flipa, sin humanos» de Google, pero fue precursora de este último, un paso pequeño en el camino a la automatización total, y no puedo sino recordar el bajón que experimenté cuando me retiraron la palanca de cambios de mi alcance —o, para poner la responsabilidad a quien corresponde, cuando supliqué que me quitaran la palanca de la mano—. Si la conveniencia de una transmisión automática me dejó un sentimiento de ausencia, de estar ligeramente infrautilizado (como diría un economista laboral), ¿cómo será convertirse realmente en un pasajero dentro de mi propio coche?

* * *

El problema con la automatización es que muchas veces nos da lo que no necesitamos a costa de lo que sí. Para entender por qué, y por qué estamos tan dispuestos a aceptar el trato, debemos echar un vistazo a cómo determinados sesgos cognitivos —fallos en nuestro modo de pensar— pueden distorsionar nuestras percepciones. Cuando llega el momento de analizar el valor del trabajo y del ocio, la mente no puede ver con claridad.

Mihaly Csikszentmihalyi, profesor de Psicología y autor del popular libro Fluir (1990), ha descrito un fenómeno que llama «la paradoja del trabajo». Lo observó por primera vez en un estudio realizado en la década de 1980 con su colega de la Universidad de Chicago Judith LeFevre. Reclutaron a un centenar de trabajadores, tanto cualificados como no cualificados, de cinco empresas de Chicago. Le dieron a cada uno un buscapersonas electrónico (en aquella época los teléfonos móviles eran aún bienes de lujo) que habían programado de manera que sonara siete veces diarias al azar durante una semana. A cada señal acústica, los sujetos rellenarían un cuestionario breve. Describirían la actividad en la que estaban metidos en ese momento, los desafíos que afrontaban, las habilidades que estaban desplegando y el estado psicológico en el que se hallaban según su sensación de motivación, satisfacción, compromiso, creatividad, etcétera. El propósito de este «muestreo de la experiencia», como denominó Csikszentmihalyi la técnica, era ver cómo emplea la gente su tiempo, en el trabajo y fuera de él, y cómo sus actividades influyen en su «calidad de la experiencia».

Los resultados fueron sorprendentes. La gente estaba más contenta, se sentía más realizada por lo que estaba haciendo, cuando estaba en el trabajo que durante sus horas de ocio. En su tiempo libre tendían a estar aburridos y ansiosos. Y, sin embargo, no les gustaba estar en el trabajo. Cuando estaban allí expresaban un intenso deseo de estar en otro lado; lo último que querían era volver a su puesto. «Tenemos», concluyeron Csikszentmihalyi y LeFevre, «la situación paradójica de personas que tienen sentimientos mucho más positivos en el trabajo que fuera de él, y que no obstante dicen que “querrían estar haciendo otra cosa” cuando están trabajando, no cuando están fuera de él»[8]. Somos terribles, reveló el experimento, a la hora de anticipar qué actividades nos satisfarán y cuáles nos dejarán descontentos. Incluso cuando estamos en medio de alguna tarea, no parecemos capaces de juzgar sus consecuencias psíquicas con precisión.

Esos son síntomas de una aflicción más general, a la que los psicólogos han conferido el poético nombre de «deseo errado». Nos inclinamos a desear cosas que no nos gustan y a disfrutar de cosas que no deseamos. «Cuando las cosas que queremos que sucedan no aumentan nuestra felicidad y las cosas que no queremos que sucedan sí lo hacen», han escrito los psicólogos cognitivos Daniel Gilbert y Timothy Wilson, «parece justo afirmar que hemos deseado mal»[9]. Y como muestran montones de estudios pesimistas, estamos siempre deseando erradamente. Hay también un enfoque social en nuestra tendencia a evaluar mal el trabajo y el ocio. Como descubrieron Csikszentmihalyi y LeFevre en sus experimentos, y como la mayoría de nosotros sabe por experiencia propia, la gente se deja llevar por convenciones sociales —en este caso, la asentada idea de que estar «de ocio» es más deseable, y conlleva un mayor estatus, que estar «en el trabajo»— en lugar de por sus sentimientos verdaderos. «No hace falta decir», concluían los investigadores, «que tal ceguera ante la realidad de las cosas probablemente acarree consecuencias desafortunadas tanto para el bienestar individual como para la salud de la sociedad». Actuando sobre percepciones sesgadas, la gente «tratará de hacer más actividades que proporcionan las experiencias menos positivas y evitará las actividades que son fuente de sus sentimientos más positivos e intensos».[10] No parece esta una receta para vivir bien.

No es que el trabajo que realizamos por dinero sea intrínsecamente superior a las actividades que hacemos por diversión o entretenimiento. Ni por asomo. Muchos empleos son grises e incluso degradantes, y muchas aficiones y pasatiempos son estimulantes y nos satisfacen. Pero un empleo impone una estructura sobre nuestro tiempo que perdemos cuando estamos a nuestras anchas. En el trabajo nos empujan a participar en todo tipo de actividades que los seres humanos consideran bastante satisfactorias. Somos más felices cuando estamos absorbidos por una tarea difícil, una tarea que tiene metas claras y que nos obliga no solo a ejercitar nuestro talento, sino a estirarlo. Nos sumergimos tanto en el flujo de nuestro trabajo, por usar el término de Csikszentmihalyi, que obviamos las distracciones y trascendemos la ansiedad y las preocupaciones que asolan nuestra vida cotidiana. Nuestra atención, habitualmente caprichosa, se fija en lo que estamos haciendo. «Cada acción, cada movimiento y pensamiento sigue indefectiblemente al anterior», explica Csikszentmihalyi. «Todo tu ser está implicado, y estás utilizando tus habilidades en su máxima expresión».[11] Semejantes estados de concentración profunda pueden ser inducidos por todo tipo de esfuerzos, desde colocar azulejos a cantar en un coro o practicar el motocross. No tienes que estar ganando un salario para gozar del éxtasis del flujo.

Cuando no estamos trabajando, no obstante, nuestra disciplina vacila y nuestra mente se disipa con mucha frecuencia. Puede que anhelemos el fin de la jornada laboral para poder empezar a gastar la paga y pasarlo bien, pero la mayoría de nosotros malgasta sus horas de ocio. Apartamos el trabajo duro y raramente nos embarcamos en aficiones exigentes. En su lugar, vemos la televisión o vamos a un centro comercial o nos metemos en Facebook. Somos vagos. Y después nos aburrimos y nos irritamos. Desconectados de cualquier foco externo, nuestra atención se vuelve hacia nosotros mismos, y terminamos encerrados en lo que Emerson llamó la cárcel de la conciencia de uno mismo. Los empleos, incluso los cutres, son «en realidad más fáciles de disfrutar que el tiempo libre», dice Csikszentmihalyi, porque tienen retos y metas «integradas» que «alientan a uno a implicarse en el propio trabajo, a concentrarse y perderse en él».[12] Pero no es eso lo que nuestras mentes engañosas quieren que creamos. A cada oportunidad nos libraremos con ganas de los rigores del trabajo. Nos condenaremos a la inactividad.

* * *

¿Supone una sorpresa que estemos enamorados de la automatización? Al ofrecer una reducción de nuestra carga de trabajo, una vida más cómoda, mayor confort, los ordenadores y otras tecnologías que ahorran trabajo apelan a nuestro intenso pero equivocado deseo por despegarnos de lo que percibimos como esfuerzo. En el lugar de trabajo, el foco de la automatización en aumentar la velocidad y la eficiencia —un foco determinado por motivos lucrativos más que por ningún interés particular en el bienestar de la gente— produce el efecto frecuente de eliminar la complejidad de los empleos, disminuyendo los retos que presentan y, con ello, el compromiso que llevan implícito. La automatización puede estrechar las responsabilidades personales hasta el punto de que sus empleos consistan mayormente en vigilar una pantalla de ordenador o introducir datos en campos prescritos. Incluso analistas altamente cualificados y otros presuntos trabajadores del conocimiento están viendo su trabajo circunscrito por sistemas de apoyo a la toma de decisiones que convierten la formulación de juicios en una rutina de procesamiento de datos. Las aplicaciones y otros programas que usamos en nuestras vidas privadas tienen efectos similares. Al asumir tareas difíciles o lentas, o sencillamente al hacer esas tareas menos onerosas, el software hace todavía menos probable que nos impliquemos en esfuerzos que pongan nuestras habilidades a prueba y nos deparen una sensación de éxito y satisfacción. Con demasiada frecuencia, la automatización nos libera precisamente de aquello que nos hace sentirnos libres.

El argumento no es que la automatización sea perjudicial. La automatización y su precursora, la mecanización, han ido progresando durante siglos, y puede decirse que en general nuestras circunstancias han mejorado mucho como resultado de ello. Desplegada con inteligencia, la automatización puede relevarnos de trabajos esclavizantes y espolearnos hacia empeños más excitantes y satisfactorios. El problema es que no somos muy inteligentes a la hora de pensar racionalmente sobre la automatización o entender sus implicaciones. No sabemos cuándo decir «basta», o incluso «para un momento». La balanza está inclinada, económica y emocionalmente, a favor de la automatización. Las ventajas de transferir trabajo de personas a máquinas y ordenadores son fácilmente identificables y mensurables. Las empresas pueden estimar cuánto capital han de invertir y calcular los beneficios que la automatización les da a cambio: costes laborales reducidos, mayor productividad, mayor rendimiento y rapidez en el cumplimiento de plazos, más ganancias. En nuestra vida personal podemos señalar todo tipo de situaciones en las que los ordenadores nos permiten ahorrar tiempo y molestias. Y debido a nuestro sesgo hacia el ocio sobre el trabajo, hacia la comodidad sobre el esfuerzo, sobrestimamos los beneficios de la automatización.

Los costes son más complicados de precisar. Sabemos que los ordenadores vuelven ciertos trabajos obsoletos y dejan a algunas personas sin empleo, pero la historia sugiere (y la mayoría de los economistas asumen) que cualquier descenso en el empleo será temporal y que a largo plazo la tecnología aumentará la productividad y creará nuevas ocupaciones atractivas, aumentando nuestra calidad de vida. Los costes personales están incluso más difuminados. ¿Cómo se mide el coste de la erosión del esfuerzo y el compromiso, o la mengua de la independencia y la autonomía, o el deterioro sutil de la habilidad? No se puede. Son el tipo de cosas borrosas, intangibles, que raramente apreciamos hasta que se han ido, e incluso entonces puede que nos cueste mucho expresar la pérdida en términos concretos. Sin embargo, los costes son reales. Las decisiones que tomamos, o dejamos de tomar, sobre qué tareas entregamos a los ordenadores y cuáles nos guardamos para nosotros no son solo decisiones prácticas o económicas. Son elecciones éticas. Moldean la sustancia de nuestras vidas y el lugar que nos reservamos en el mundo. La automatización nos confronta con la pregunta más importante de todas: ¿Qué significa ser humano?

Csikszentmihalyi y LeFevre descubrieron algo más en su estudio sobre la rutina diaria de las personas. Entre todas las actividades ociosas descritas por sus sujetos de prueba, la que generaba el mayor sentimiento de flujo era conducir un coche.

2. EL ROBOT A LAS PUERTAS

2. EL ROBOT A LAS PUERTAS.

A comienzos de la década de 1950, Leslie Illingworth, una caricaturista política muy admirada de la revista satírica británica Punch, presentó un dibujo oscuro y premonitorio. Situado al anochecer de lo que parece ser un lluvioso día de otoño, muestra a un trabajador que se asoma con inquietud por la puerta de una anónima fábrica manufacturera. En una de sus manos tiene una herramienta pequeña; la otra es un puño cerrado. Mira al otro lado del embarrado patio de la fábrica, hasta la entrada principal. Ahí, junto a un cartel que reza «Se busca mano de obra», se vislumbra un robot gigante de anchas espaldas. En su pecho, grabado en letras de molde, aparece escrita la palabra «Automatización».

La viñeta era un reflejo de su época, una reflexión sobre una nueva angustia que invadía a la sociedad occidental. En 1956 fue utilizada como portada de un libro breve pero influyente llamado Automation: Friend or Foe? [«La automatización: ¿amiga o enemiga?»], de Robert Hugh Macmillan, un profesor de Ingeniería de la Universidad de Cambridge. En la primera página, Macmillan planteaba una pregunta inquietante: «¿Corremos el peligro de ser destruidos por nuestras propias creaciones?». No se refería, según explicaba, a los peligros bien conocidos «de la guerra sin control por control remoto». Hablaba de una amenaza menos debatida, pero más insidiosa: «El papel velozmente creciente que los aparatos automáticos están adquiriendo en la vida industrial de todos los países civilizados en tiempos de paz»[13]. Al igual que máquinas anteriores «habían reemplazado a los músculos del hombre», estos nuevos artefactos parecían destinados a «reemplazar sus cerebros». Asumiendo muchos empleos buenos y lucrativos, «amenazaban con crear un desempleo generalizado y llevar al conflicto y desorden sociales (justo lo que Karl Marx había previsto un siglo antes)»[14].

Sin embargo, continuaba Macmillan, no tenía por qué ser de esa manera. «Aplicada bien», la automatización podía traer estabilidad económica, extender la prosperidad y aliviar a la raza humana de sus fatigas. «Mi esperanza es que esta nueva rama de la tecnología nos permita con el tiempo retirar la maldición de Adán de las espaldas humanas, porque las máquinas podrían de hecho convertirse en esclavos de los hombres en lugar de en sus amos, ahora que se han diseñado técnicas prácticas para controlarlos automáticamente»[15]. Resultasen las tecnologías de la automatización un hallazgo o una perdición, advertía Macmillan, una cosa estaba clara: jugarían un papel creciente en la industria y en la sociedad. Los imperativos económicos de un «mundo altamente competitivo» lo hacían inevitable[16]. Si un robot podía trabajar más rápidamente, más barato o mejor que su homólogo humano, el robot conseguiría el trabajo.

* * *

«Somos hermanos y hermanas de nuestras máquinas», afirmó una vez el historiador tecnológico George Dyson[17]. Las relaciones familiares son notoriamente tensas, y sucede así también con nuestros parientes tecnológicos. Amamos a nuestras máquinas, no solo porque nos son útiles, sino porque las encontramos agradables e incluso hermosas. En una máquina bien construida se encarnan algunas de nuestras aspiraciones más profundas: el deseo de entender el mundo y sus manejos, el deseo de dominar la naturaleza para nuestros propios propósitos, el deseo de añadir algo nuevo y de creación propia al universo, el deseo de asombrarnos y sorprendernos. Una máquina ingeniosa es fuente de maravilla y orgullo.

Pero las máquinas también son feas, y notamos en ellas una amenaza a cosas que nos importan mucho. Puede que las máquinas sean una canalización del poder humano, pero ese poder ha sido normalmente ejercido por los industriales y financieros dueños de los artilugios, no por las personas empleadas para operarlas. Las máquinas son frías e irracionales, y en su obediencia a rutinas prescritas podemos ver una imagen de las posibilidades más siniestras de nuestras sociedades. Si las máquinas aportan algo humano a un universo que parece de otros planetas, también añaden algo extraterrestre al mundo humano. El matemático y filósofo Bertrand Russell lo expresó sucintamente en un ensayo de 1924: «Veneramos a las máquinas porque son hermosas y las valoramos porque confieren poder; las odiamos porque son repulsivas e imponen la esclavitud»[18].

Como sugiere el comentario de Russell, la tensión en la visión de Macmillan acerca de las máquinas automatizadas —o nos destruyen o nos redimen, o nos liberan o nos esclavizan— tiene una larga historia. La misma tensión ha animado reacciones populares contra la maquinaria fabril desde el inicio de la Revolución Industrial, hace más de dos siglos. Mientras que muchos de nuestros antepasados celebraron la llegada de la producción mecanizada, viéndola como un símbolo de progreso y una garantía de prosperidad, a otros les preocupaba que las máquinas les robasen sus empleos e incluso sus almas. Desde ese momento, la historia de la tecnología se ha caracterizado por cambios rápidos, con frecuencia confusos. Gracias al ingenio de nuestros inventores y emprendedores, no ha pasado ni una década sin que aparezca alguna maquinaria nueva, más elaborada y más capaz. Sin embargo, nuestra ambivalencia hacia estas creaciones fabulosas, creaciones de nuestro intelecto, se ha mantenido constante. Es casi como si al mirar una máquina viésemos, aunque sea vagamente, algo sobre nosotros de lo que no nos terminamos de fiar.

En su obra maestra La riqueza de las naciones (1776), el texto fundacional del liberalismo económico, Adam Smith elogiaba la gran variedad de «máquinas bonitas» que estaban instalando los fabricantes para «facilitar y abreviar el trabajo». Al permitir que «un hombre haga el trabajo de muchos», predijo, la mecanización daría un gran empuje a la productividad industrial[19]. Los propietarios de fábricas tendrían más beneficios, que entonces invertirían en aumentar sus operaciones: construirían más industrias, comprarían más máquinas, contratarían más empleados. Cada reducción individual de trabajo por parte de la máquina, lejos de ser nociva para los trabajadores, estimularía en realidad la demanda de trabajo a largo plazo.

Otros pensadores abrazaron y continuaron el análisis de Smith. Gracias a la mayor productividad producida por equipos que reducen el trabajo físico, predijeron, se multiplicarían los empleos, subirían los salarios y bajarían los precios de los bienes. Los trabajadores tendrían dinero extra en sus bolsillos, que usarían para comprar bienes de los productores que les daban trabajo. Esto proporcionaría incluso más capital para la expansión industrial. De este modo, la mecanización contribuiría a desencadenar un círculo virtuoso, el cual aceleraría el crecimiento económico de la sociedad, aumentaría y distribuiría su riqueza, y ofrecería a sus gentes lo que Smith había denominado «comodidad y lujo»[20]. Esta visión de la tecnología como elixir económico parecería haber reforzado, alegremente, la historia temprana de la industrialización, y se convirtió en un elemento permanente de la teoría económica. La idea no resultaba atractiva solo para los primeros capitalistas y sus hermanos académicos. Muchos reformadores sociales aplaudieron la mecanización, al ver en ella la mejor esperanza para elevar a las masas urbanas sobre la pobreza y la servidumbre.

Economistas, capitalistas y reformadores podían permitirse pensar a largo plazo. No era el caso de los propios trabajadores. Incluso una reducción temporal del trabajo podía presentar una amenaza real e inmediata para su sustento. La instalación de nuevas máquinas en las fábricas situó a mucha gente en el desempleo y forzó a otros a cambiar un trabajo interesante y cualificado por el tedio de tirar de palancas y apretar pedales. En muchas partes de Gran Bretaña, durante los siglos XVIII y XIX, trabajadores cualificados sabotearon la nueva maquinaria como forma de defender su trabajo, su oficio y su comunidad. La «destrucción de máquinas», como vino a llamarse el movimiento, no era sencillamente un ataque al progreso tecnológico. Era un intento concertado de los artesanos por proteger su forma de vida, que estaba profundamente ligada a las artes que practicaban, y por asegurar su autonomía económica y cívica. «Si a los trabajadores no les gustaban ciertas máquinas», escribe el historiador Malcolm Thomis basándose en narraciones contemporáneas de aquellos levantamientos, «era por el uso que se les daba, no porque fuesen máquinas o fuesen nuevas»[21].

La destrucción de máquinas culminó en la rebelión ludita, que estalló por los condados industriales de las Midlands inglesas entre 1811 y 1816. Costureros y tejedores, temerosos de la destrucción de su industria artesanal a pequeña escala, organizada localmente, formaron grupos de guerrilla con la intención de evitar que los grandes molinos textiles y fábricas instalaran telares y bastidores mecanizados. Los luditas —los rebeldes tomaron su ya célebre nombre de un legendario «rompemáquinas» de Leicestershire conocido como Ned Ludlam— perpetraron ataques nocturnos contra las fábricas, en los que destrozaron muchas veces el nuevo equipamiento. Miles de soldados británicos tuvieron que ser convocados para combatir a los rebeldes; acallaron la revuelta con fuerza brutal, matando a muchos y encarcelando a otros.

Aunque los luditas y otros «rompemáquinas» tuvieron éxitos aislados en ralentizar el paso de la mecanización, no la detuvieron. Las máquinas serían pronto tan habituales en las fábricas, tan esenciales para la producción industrial y la competencia, que resistirse a su uso empezó a ser considerado un ejercicio fútil. Los trabajadores aceptaron el nuevo régimen tecnológico, aunque persistió su desconfianza hacia la maquinaria.

* * *

Fue Marx quien, unas décadas después de la derrota ludita, dio a la fractura en la visión social de la mecanización su expresión más poderosa e influyente. Con frecuencia, en sus escritos, Marx atribuye a la maquinaria fabril una voluntad demoniaca, parasitaria, presentándola como «mano de obra muerta» que «domina y exprime la fuerza de trabajo viva». El trabajador se convierte en un «mero apéndice viviente» del «mecanismo inerte»[22]. En un comentario oscuramente profético perteneciente a un discurso de 1856 dijo que «todos nuestros inventos y nuestro progreso parecen resultar en la dotación a fuerzas materiales de vida intelectual y en la degradación de la vida humana a una fuerza material»[23]. Pero Marx no se refería solo a los «efectos infernales» de las máquinas. Como ha explicado el especialista en medios de comunicación Nick Dyer-Witheford, Marx también vio y alabó su «promesa emancipadora»[24]. La maquinaria moderna, observó Marx en ese mismo discurso, tiene «el maravilloso poder de abreviar y fructificar el trabajo humano»[25]. Al liberar a los trabajadores de la estrecha especialización de sus gremios, las máquinas podrían permitirles realizar su potencial como individuos «totalmente desarrollados», capaces de alternar «diferentes modalidades de actividad» y, por ello, «diferentes funciones sociales»[26]. En las manos adecuadas —las de los trabajadores mejor que las de los capitalistas— la tecnología podría dejar de ser el yugo de la opresión. Se convertiría en un soporte que inspirase y permitiese la realización personal del individuo.

La idea de la máquina como fuerza emancipadora arraigó en la cultura occidental a medida que se acercaba el siglo XX. En un artículo de 1897 que elogiaba la mecanización de la industria estadounidense, el economista francés Émile Levasseur enumeraba los beneficios que la nueva tecnología había traído a las «clases trabajadoras». Había aumentado los salarios de los trabajadores y bajado los precios que pagaban por los productos, deparándoles una mayor comodidad material. Había fomentado un rediseño de las fábricas, haciendo estas más limpias, mejor iluminadas y, en general, más acogedoras que los oscuros molinos infernales que caracterizaron a los primeros años de la Revolución Industrial. Sobre todo, había elevado el tipo de trabajo efectuado por la mano de obra. «Su tarea se ha vuelto menos onerosa, siendo la máquina responsable de todo aquello que requiere mucha fuerza; el operario, en lugar de utilizar sus músculos, se ha convertido en un inspector, utilizando su inteligencia». Levasseur reconoció que los trabajadores todavía se quejaban de tener que operar maquinaria. «Le reprochan [a la máquina] que exige tanta atención continua que se vuelve enervante», escribió, y la acusan de «degradar al hombre transformándolo en una máquina, que sabe solo cómo hacer un movimiento, y siempre el mismo». Pero rechazaba esas quejas por ser de estrechas miras. Los trabajadores, sencillamente, no entendían la suerte que tenían[27].

Algunos artistas e intelectuales, convencidos de la superioridad inherente del trabajo imaginativo de la mente sobre el esfuerzo productivo del cuerpo, vieron que una utopía tecnológica estaba a punto de ocurrir. Oscar Wilde, en un ensayo publicado más o menos a la vez que el de Levasseur (aunque dirigido a un público muy diferente), predijo una fecha en la que las máquinas no solo aliviarían la carga, sino que la eliminarían. «Todo el trabajo no intelectual, todo el trabajo monótono y gris, todo el trabajo relacionado con cosas horribles y condiciones desagradables, debe ser hecho por maquinaria», escribió. «El futuro del mundo depende de la esclavitud mecánica, de la esclavitud de las máquinas». Que las máquinas asumirían el rol de los esclavos le parecía a Wilde una conclusión inevitable: «No hay duda alguna sobre que este es el futuro de la maquinaria, y al igual que los árboles crecen durante el sueño de los terratenientes, o la Humanidad se divierte o disfruta del ocio cultivado —siendo este, y no el trabajo, el fin del hombre— o diseña cosas preciosas o lee cosas maravillosas o simplemente contempla el mundo con admiración y asombro, las máquinas estarán encargándose de todo el trabajo necesario y desagradable»[28].

La Gran Depresión de la década de 1930 frenó tanto entusiasmo. El colapso económico originó un clamor airado contra lo que en los «felices años veinte» había venido a ser conocido y celebrado como La Era de las Máquinas. Sindicatos y grupos religiosos, articulistas de opinión militante y ciudadanos desesperados arremetieron contra las máquinas destructoras de empleo y los empresarios avariciosos que las poseían. «Las máquinas no inauguraron el fenómeno del desempleo», escribió el autor de un libro superventas llamado Men and Machines [«Hombres y máquinas»], «pero lo promovieron hasta pasar de una irritación menor a una de las grandes plagas de la humanidad». Parecía ser, continuaba diciendo, que «a partir de ahora, cuanto más podamos producir, peor estaremos»[29]. El alcalde de Palo Alto, California, escribió una carta al presidente Herbert Hoover en la que le imploraba que tomase medidas contra el «monstruo Frankenstein» de la tecnología industrial, un azote que estaba «devorando nuestra civilización»[30]. En algunos momentos el propio Gobierno azuzó los temores públicos. Un informe emitido por una agencia federal calificaba a la maquinaria industrial como «igual de peligrosa que un animal salvaje». La aceleración descontrolada del progreso, escribía su autor, había dejado a la sociedad crónicamente falta de preparación para lidiar con las consecuencias[31].

Pero la Depresión no extinguió por completo el sueño wildeano de un paraíso de las máquinas. De alguna manera, hizo la visión utópica del progreso más vívida, más necesaria. Cuanto más veíamos a las máquinas como nuestras enemigas, más deseábamos que fuesen nuestras amigas. «Estamos afligidos», escribió el gran economista británico John Maynard Keynes en 1930, «por una nueva enfermedad de la que algunos lectores pueden no haber oído el nombre, pero de la que oirán mucho en los años venideros, a saber: el desempleo tecnológico». La capacidad de las máquinas de asumir empleos había adelantado a la capacidad de la economía para crear nuevos trabajos valiosos que la gente desempeñase. Pero el problema, aseguraba Keynes a sus lectores, era meramente un síntoma de «una fase temporal de desajuste». El crecimiento y la prosperidad retornarían. La renta per cápita aumentaría. Y pronto, gracias al ingenio y la eficiencia de nuestros esclavos mecánicos, no tendríamos que preocuparnos siquiera por el trabajo. Keynes juzgaba totalmente posible que en cien años, para el año 2030, el progreso tecnológico hubiese liberado a la humanidad de «la lucha por la subsistencia» y nos hubiese propulsado a «nuestro destino de felicidad económica». Las máquinas se estarían encargando incluso de una parte mayor de nuestro trabajo, pero eso ya no sería causa de preocupación o angustia. Para entonces, habríamos esclarecido cómo repartir la riqueza material con todo el mundo. Nuestro único problema sería averiguar cómo utilizar bien nuestras horas interminables de ocio: aprender «a disfrutar» en lugar de «a esforzarnos»[32].

Seguimos esforzándonos, y parece una apuesta segura pronosticar que la felicidad económica no descenderá sobre el planeta en 2030. Pero si Keynes fue víctima de su optimismo en los tiempos difíciles de 1930, su análisis sobre el futuro económico era fundamentalmente correcto. La Depresión fue, en efecto, temporal. Regresó el crecimiento, volvieron los empleos, aumentaron los ingresos y las empresas siguieron comprando más y mejores máquinas. El equilibrio económico, imperfecto y frágil como siempre, se reestableció. El ciclo virtuoso de Adam Smith siguió girando.

En 1962 el presidente John F. Kennedy pudo proclamar, durante un discurso en Virginia Occidental: «Creemos que si los hombres tienen el talento de inventar nuevas máquinas que dejan a los hombres sin trabajo, tienen el talento de poner a esos hombres de nuevo a trabajar»[33]. Desde el inicial «creemos», la frase es marcadamente kennediana. Las palabras sencillas resuenan cuando son repetidas: hombres, talento, hombres, trabajo, talento, hombres, trabajar. El ritmo de tambor avanza firme, confiriendo a la conclusión emotiva —«de nuevo a trabajar»— un aire de inevitabilidad. Para aquellos que escuchaban, las palabras de Kennedy debieron de sonar como el final de la historia. Pero no lo fueron. Eran el final de un capítulo, y un nuevo capítulo había ya comenzado.

* * *

La preocupación por el desempleo tecnológico ha vuelto a crecer, particularmente en Estados Unidos. La recesión de comienzos de la década de 1990, que llevó a orgullosas empresas estadounidenses como General Motors, IBM o Boeing a despedir a decenas de miles de empleados en «reestructuraciones» masivas, inspiró el temor de que las nuevas tecnologías, en especial los ordenadores baratos y el software inteligente, estuvieran a punto de hacer desaparecer los empleos de clase media. En 1994 los sociólogos Stanley Aronowitz y William DiFazio publicaron The Jobless Future [«Un futuro sin empleo»], un libro que implicaba «al cambio tecnológico que expulsa mano de obra» en «la tendencia hacia más empleos mal pagados, temporales y carentes de beneficios (tanto para obreros como administrativos) y menos empleos decentes permanentes en fábricas y oficinas»[34]. Al año siguiente apareció el perturbador El fin del trabajo, de Jeremy Rifkin. El auge de la automatización informática había inaugurado una «Tercera Revolución Industrial», declaró Rifkin. «En los próximos años, tecnologías nuevas y más sofisticadas van a acercar a la civilización aún más hacia un mundo casi sin trabajadores». La sociedad había alcanzado un punto de inflexión, escribió. Los ordenadores podían «causar desempleo masivo y una potencial depresión mundial», pero también podían «liberarnos hacia una vida de más ocio» si estuviésemos dispuestos a reescribir los principios del capitalismo contemporáneo[35]. Ambos libros, y otros similares, hicieron ruido, pero de nuevo los miedos sobre el fin del empleo inducido por la tecnología pasaron rápidamente. El resurgir del crecimiento económico en la segunda mitad de la década de 1990, que culminó en la frívola burbuja de las empresas «puntocom», alejó la atención de la gente de las predicciones apocalípticas de desempleo masivo.

Una década más tarde, a raíz de la gran recesión de 2008, la preocupación regresó con más fuerza que nunca. A mediados de 2009 la economía estadounidense, recuperándose espasmódicamente del colapso económico, empezó de nuevo a expandirse. Los beneficios empresariales rebotaron. Las empresas aumentaron sus inversiones de capital hasta niveles prerrecesión. El mercado bursátil subía. Pero las contrataciones no siguieron el mismo camino. Aunque no es inusual que las empresas esperen hasta que una recuperación esté bien establecida para contratar trabajadores nuevos, esta vez el retraso en las contrataciones parecía interminable. El crecimiento del empleo seguía siendo muy tibio, la tasa de desempleo empecinadamente alta. En busca de una explicación, y un culpable, la gente miró al sospechoso habitual: la tecnología reductora de trabajo.

Hacia finales de 2011, dos prestigiosos investigadores del MIT, Erik Brynjolfsson y Andrew McAfee, publicaron un breve libro electrónico, La carrera contra la máquina, en el que reprendían suavemente a economistas y gestores políticos por descartar la posibilidad de que la tecnología de oficina estuviera reduciendo sustancialmente la necesidad de nuevos empleados por parte de las empresas. El «dato empírico» de que las máquinas han reforzado el empleo durante siglos «contiene un secreto turbio», escribieron. «No hay ley económica que diga que todo el mundo, o incluso la mayoría de la gente, se beneficia automáticamente del progreso tecnológico». Aunque Brynjolfsson y McAfee eran cualquier cosa menos tecnófobos —mantenían el optimismo sobre la capacidad de los ordenadores y robots para impulsar la productividad y mejorar la vida de la gente a largo plazo—, defendieron férreamente que el desempleo tecnológico era un fenómeno real, omnipresente y que probablemente empeoraría bastante. Los seres humanos, advertían, estaban perdiendo la carrera contra la máquina[36].

Su libro electrónico fue como una cerilla arrojada a un campo seco. Encendió un vigoroso y a veces cáustico debate entre economistas, un debate que pronto atrajo la atención del periodismo. La expresión «desempleo tecnológico», cuyo uso se había difuminado tras la Gran Depresión, recobró su lugar en la opinión pública. A comienzos de 2013 el noticiero televisivo 60 Minutes emitió un reportaje llamado «La marcha de las máquinas», que examinaba cómo las empresas estaban utilizando nuevas tecnologías en lugar de empleados en almacenes, hospitales, bufetes de abogados y plantas de producción. El corresponsal Steve Kroft lamentaba que «una industria masiva de alta tecnología ha aportado una enorme productividad y riqueza a la economía estadounidense, pero sorprendentemente poco en términos de empleo»[37]. Poco después de la emisión del programa, un equipo de redactores de Associated Press publicó un reportaje de investigación en tres entregas sobre la persistencia del alto desempleo. Su tétrica conclusión es que los empleos «están siendo eliminados por la tecnología». Recordando que los escritores de ciencia ficción han advertido durante mucho tiempo «sobre un futuro en el que seríamos arquitectos de nuestra propia obsolescencia, reemplazados por nuestras máquinas», los reporteros de Associated Press declararon que «el futuro ha llegado»[38]. Citaban a un analista que predecía una tasa de desempleo del 75 por ciento a finales de este siglo[39].

Es fácil rechazar esos pronósticos. Su tono alarmista se hacía eco del refrán escuchado una y otra vez desde el siglo XVIII. De cada crisis económica surge el espectro de un Frankenstein devoraempleos. Y después, cuando el ciclo económico emerge del pozo y el empleo vuelve, el monstruo vuelve a su jaula y las inquietudes amainan. Esta vez, sin embargo, la economía no se está comportando como suele hacer normalmente. Una evidencia creciente sugiere que puede existir una nueva y preocupante dinámica. Junto a Brynjolfsson y McAfee, diversos economistas destacados han empezado a cuestionar la presunción, tan querida en la profesión, según la cual las ganancias de la productividad impulsadas por la tecnología traerán consigo un crecimiento del empleo y de la riqueza. Apuntan a que en la última década la productividad de Estados Unidos creció a un paso más veloz que en los treinta años precedentes, que los beneficios empresariales han llegado a niveles que no habíamos visto en medio siglo y que la inversión empresarial en equipamiento nuevo ha aumentado considerablemente. Esa combinación debería acarrear un crecimiento robusto del empleo. Y sin embargo, el número total de empleos en el país apenas se ha movido. Crecimiento y empleo están «distanciándose en los países desarrollados», según el economista Michael Spence, premio Nobel, y la tecnología es la razón primordial: «La sustitución de empleos manuales tradicionales por máquinas y robots es una tendencia fuerte, permanente y que quizás esté acelerando la fabricación y la logística, mientras redes de ordenadores reemplazan empleos administrativos en el procesamiento de información»[40].

Es posible que parte del elevado gasto en robots y otras tecnologías de la automatización en los últimos años sea un reflejo de condiciones económicas pasajeras, en particular el esfuerzo continuo de políticos y bancos centrales por estimular el crecimiento. Los tipos de interés bajos y los incentivos gubernamentales agresivos a la inversión de capital han animado probablemente a las empresas a adquirir equipamiento que reduzca el trabajo y software que, en otra situación, quizá no hubiesen comprado[41]. Pero parece haber también patrones más profundos y duraderos. Alan Krueger, el economista de Princeton que presidió el Consejo de Asesores Económicos de Barack Obama entre 2011 y 2013, señala que incluso antes de la recesión «la economía estadounidense no estaba creando suficientes empleos, en especial no suficientes empleos de clase media, y estábamos perdiendo empleos de producción a un ritmo alarmante»[42]. Desde entonces, el cuadro solo ha empeorado. Puede asumirse, por ende, al menos en lo que se refiere a la producción manufacturera, que los empleos no están desapareciendo, sino simplemente emigrando a países con salarios más bajos. No es cierto. La cantidad total de este tipo de trabajos de fabricación a nivel mundial ha estado cayendo durante años, incluso en potencias industriales como China, mientras que la creación y salida de productos ha crecido pronunciadamente[43]. Las máquinas están sustituyendo a trabajadores industriales más velozmente de lo que la expansión económica crea puestos de producción manual. A medida que los robots industriales se vuelven más baratos y más capaces, el hueco entre empleos perdidos y añadidos aumentará con toda seguridad. Incluso la noticia de que compañías como General Electric y Apple están trayendo de vuelta algo de trabajo de fabricación a Estados Unidos es agridulce. Una de las razones para el regreso del trabajo es que la mayoría puede hacerse sin seres humanos. «Las fábricas están casi vacías de gente en estos tiempos porque máquinas que funcionan con programas informáticos están haciendo casi todo el trabajo», indica el profesor de economía Tyler Cowen[44]. Una empresa no tiene que preocuparse de costes laborales si no contrata trabajadores.

La economía industrial —la economía de las máquinas— es un fenómeno reciente. Llevamos oyendo hablar de ella solo dos siglos y medio: es un tema recurrente en la Historia. Extraer conclusiones definitivas sobre el vínculo entre tecnología y empleo de tan limitada experiencia fue probablemente apresurado. La lógica del capitalismo, cuando se combina con la historia del progreso científico y tecnológico, parecería ser una receta para la desaparición eventual de la mano de obra de los procesos productivos. Las máquinas, a diferencia de los trabajadores, no piden un porcentaje de los rendimientos de las inversiones capitalistas. No enferman, ni esperan vacaciones pagadas, ni solicitan aumentos anuales. Para el capitalista, el trabajo es un problema que el progreso resuelve. Lejos de ser irracional, el miedo de que la tecnología erosionará el empleo está llamado a cumplirse «a muy largo plazo», argumenta el eminente historiador económico Robert Skidelsky: «Antes o después, nos quedaremos sin empleos»[45].

¿Cuánto tiempo es muy largo plazo? No sabemos, aunque Skidelsky advierte de que puede ser «preocupantemente pronto» en algunos países[46]. A corto plazo, puede que el impacto de la tecnología moderna se note más en la distribución de empleos que en las cifras globales de desempleo. La mecanización del trabajo manual durante la Revolución Industrial destruyó algunos empleos buenos, pero condujo a la creación de enormes categorías nuevas de ocupaciones de clase media. Mientras las empresas crecían para servir a más y mayores mercados lejanos, contrataban equipos de supervisores y contables, diseñadores y vendedores. Creció la demanda de profesores, médicos, abogados, bibliotecarios, pilotos y toda suerte de profesionales. La composición del mercado laboral nunca es estática; cambia en respuesta a tendencias tecnológicas y sociales. Pero no hay garantía de que los cambios siempre beneficiarán a los trabajadores o ampliarán la clase media. Con la programación de ordenadores para encargarse del trabajo administrativo, muchos profesionales están siendo empujados a empleos peor pagados u obligados a cambiar puestos a jornada completa por empleos a tiempo parcial.

Mientras que la mayoría de los empleos perdidos durante la reciente recesión pertenecía a sectores bien pagados, casi tres cuartas partes de los empleos creados desde la recesión pertenecen a sectores mal pagados. Habiendo estudiado las causas del «increíblemente anémico crecimiento del empleo» en Estados Unidos desde el año 2000, el economista del MIT David Autor concluye que la tecnología de la información «ha cambiado verdaderamente la distribución de la ocupación», creando una disparidad creciente en ingresos y riqueza. «Hay abundancia de trabajo en el sector de la hostelería y abundancia de trabajo en finanzas, pero hay menos empleos de ingresos medios»[47]. Si las nuevas tecnologías informáticas encauzan incluso una parte mayor de los beneficios generados por la economía a menos bolsillos, veremos una aceleración de esta tendencia, con un vaciamiento progresivo de la clase media y una creciente pérdida de empleos incluso entre los profesionales mejor pagados. «Las máquinas inteligentes podrán aumentar el PIB», afirma Paul Krugman, otro economista ganador del Nobel, «pero también reducirán la demanda de gente —incluida la gente inteligente—. Así que podríamos estar ante una sociedad cada vez más rica, pero en la que todas las ganancias se destinan a quienquiera que posea los robots»[48].

Las noticias no son todas terribles. Al adquirir velocidad la economía de Estados Unidos a finales de 2013 y en 2014, la contratación se reforzó en varios sectores, incluidas la construcción y la atención sanitaria, y hubo aumentos alentadores en algunas profesiones muy bien pagadas. La demanda de trabajadores sigue anclada al ciclo económico, aunque no tan estrechamente como en el pasado. El uso creciente de ordenadores y software ha creado por sí mismo algunos empleos nuevos sumamente atractivos, así como numerosas oportunidades de negocio. En términos históricos, sin embargo, la cantidad de gente empleada en informática y campos aledaños sigue siendo modesta. En general, el sector privado no está creando empleos nuevos y bien pagados a la escala necesaria para absorber a todos los trabajadores de clase media desplazados de su trabajo tradicional. No podemos todos convertirnos en programadores de software o ingenieros de robótica. No podemos todos largarnos a Silicon Valley y ganarnos la vida con el diseño de vistosas aplicaciones para smartphones[49]. Con el salario medio estancado y los beneficios corporativos en aumento, las gratificaciones de la economía seguirán probablemente fluyendo hacia los escasos afortunados. Y las alentadoras palabras de JFK sonarán más y más sospechosas.

¿Por qué sería diferente esta vez? ¿Qué ha cambiado exactamente que pueda estar cortando el viejo vínculo entre tecnologías nuevas y empleos nuevos? Para contestar esa pregunta debemos mirar de nuevo a ese robot gigante situado en la entrada en la tira cómica de Leslie Illingworth, el robot llamado Automatización.

* * *

La palabra automatización ingresó en el lenguaje hace relativamente poco tiempo. Podemos decir que fue pronunciada por primera vez en 1946, cuando los ingenieros de la Ford Motor Company sintieron la necesidad de acuñar un término que describiese la última maquinaria instalada en las líneas de montaje de la empresa. «Danos más de ese negocio automático», dijo supuestamente un vicepresidente de Ford en una reunión. «Un poco más de —esa— “automatización”»[50]. Las fábricas de Ford ya estaban célebremente mecanizadas, con máquinas sofisticadas que coordinaban cada puesto de trabajo. Pero había manos que todavía tenían que transportar piezas y ensamblajes manualmente de una máquina a la siguiente. Los trabajadores, a resultas de ello, controlaban el ritmo de la producción. El equipamiento instalado en 1946 modificó eso. Las máquinas asumieron las funciones de manejo del material y transporte, logrando que el proceso entero de montaje funcionara automáticamente. La alteración en el flujo de trabajo quizá no les pareció trascendental a los que estaban en la fábrica. Pero lo era. El control sobre un proceso industrial complejo había pasado del trabajador a la máquina.

La buena nueva se extendió con rapidez. Dos años más tarde, en un reportaje sobre la maquinaria Ford, un cronista de la revista American Machinist definió la automatización como «el arte de aplicar aparatos mecánicos para manipular piezas de trabajo […] sincronizadamente con el equipamiento productivo para que la línea pueda ser colocada total o parcialmente bajo el control de un botón en estaciones estratégicas»[51]. A medida que la automatización alcanzó más sectores y procesos productivos, y a medida que empezó a tener peso metafórico en la cultura, su definición se volvió más difusa. «Pocas palabras recientes han sido tan tergiversadas para servir a una multitud de propósitos y fobias como esta nueva palabra, “automatización”», rezongaba un profesor de Gestión Empresarial de Harvard en 1958. «Se ha usado como grito de guerra de la tecnología, como objetivo de la industria, como reto para la ingeniería, como eslogan publicitario, como estandarte del trabajo y como el símbolo del ominoso progreso tecnológico». Después ofrecía su propia definición, eminentemente pragmática: «Automatización sencillamente significa algo significativamente más automático de lo que existía previamente en esa fábrica, industria o emplazamiento»[52]. La automatización no era una cosa o una técnica tanto como una fuerza. Era más una manifestación del progreso que un modo particular de operación. Cualquier intento de explicar o predecir sus consecuencias sería necesariamente tentativo. Como muchas tendencias tecnológicas, la automatización siempre sería vieja y nueva, y requeriría una reevaluación en cada etapa de su avance.

Que el equipamiento automático de Ford llegase justo después de la Segunda Guerra Mundial no fue un accidente. Durante la guerra tomó cuerpo la tecnología de la automatización. Cuando los nazis empezaron sus bombardeos blitz contra Gran Bretaña en 1940, los científicos ingleses y estadounidenses se encontraron con un desafío tan descomunal como urgente: ¿Cómo derribar bombarderos veloces y a gran altura con proyectiles disparados desde armas antiaéreas muy pesadas en tierra? Los cálculos mentales y ajustes físicos necesarios para apuntar un cañón con precisión —no a la posición actual del avión, sino a su posición futura probable— eran demasiado complicados de efectuar para un soldado con la velocidad requerida para disparar mientras el avión estaba todavía a tiro. No era un trabajo para mortales. Los científicos vieron que la trayectoria del misil debía ser computada por una máquina calculadora, usando datos de seguimiento provenientes de sistemas de radar junto con proyecciones estadísticas del rumbo de la aeronave, y después los cálculos tenían que ser integrados automáticamente en el mecanismo de puntería del cañón para guiar el disparo. El artefacto, además, tenía que ser continuamente ajustado para reflejar el éxito o fracaso de disparos anteriores.

Por lo que respecta a los miembros de los cuerpos de artillería, su labor hubiese sido cambiar para acomodar la nueva generación de armas automatizadas. Los artilleros pronto se encontraron sentados enfrente de pantallas en camiones a oscuras, seleccionando objetivos del monitor del radar. Su identidad se modificó de acuerdo con su trabajo. Ya no fueron vistos «como soldados», escribe un historiador, sino más bien «como técnicos que leen y manipulan representaciones del mundo»[53].

En los cañones antiaéreos nacidos del trabajo de los científicos aliados vemos todos los elementos de lo que caracteriza ahora a un sistema automatizado. Primero, en el núcleo del sistema, hay una máquina calculadora muy rápida —un ordenador—. Segundo, hay un mecanismo de detección (un radar, en este caso) que vigila el entorno externo, el mundo real, y comunica datos esenciales sobre él al ordenador. Tercero, hay un vínculo de comunicación que permite al ordenador controlar los movimientos del aparato físico que realiza en definitiva el trabajo, con o sin asistencia humana. Y finalmente hay un método de feedback: un modo de devolver información al ordenador sobre los resultados de sus instrucciones, para que pueda perfeccionar sus cálculos y corregir posibles errores e incluir cambios. Órganos sensoriales, un cerebro calculador, una serie de mensajes para controlar movimientos físicos y un circuito de retroalimentación para aprender: ahí tienen la esencia de la automatización, la esencia de un robot. Y ahí, también, tienen la esencia del sistema nervioso de un ser vivo. La semejanza no es accidental. Para sustituir a un ser humano, un sistema automatizado primero tiene que replicar a un humano, o al menos algún aspecto de la capacidad humana.

Las máquinas automatizadas existían antes de la Segunda Guerra Mundial. El motor de vapor de James Watt, el motor esencial original de la Revolución Industrial, incorporaba un ingenioso mecanismo de feedback (el regulador de la bola flotante) que le permitía regular su propio funcionamiento. Cuando el motor aceleraba, rotaban un par de bolas de metal, creando una fuerza centrífuga que accionaba una palanca para cerrar una válvula de vapor, impidiendo al motor ir demasiado rápido. El telar Jacquard, inventado en Francia alrededor de 1800, utilizaba tarjetas de acero perforadas para controlar los movimientos de bobinas de hilos de diferentes colores, de manera que patrones complicados se iban hilando automáticamente. En 1866, un ingeniero británico llamado J. Macfarlane Gray patentó un mecanismo de timón de barcos de vapor que era capaz de registrar el movimiento de un timón y, a través de un sistema de respuesta por palancas, ajustar el ángulo del timón para mantener un rumbo fijo[54]. Pero el desarrollo de ordenadores rápidos y otros controles electrónicos sensibles abrió un nuevo capítulo en la historia de las máquinas. Expandió enormemente las posibilidades de la automatización. Como explicó el matemático Norbert Wiener, que ayudó a escribir los algoritmos predictivos para los cañones antiaéreos automatizados de los aliados, en su libro Cibernética y Sociedad (1950), los avances de la década de 1940 permitieron a inventores e ingenieros ir más allá del «diseño esporádico de mecanismos automáticos individuales». Las nuevas tecnologías, nacidas con una concepción armamentística, alumbraron «una política general de construcción de mecanismos diseñados con automáticos de lo más variado». Trazaron el camino de «la nueva era automática»[55].

Trasciende a la búsqueda del progreso y la productividad otro impulsor de la era automática: la política. Los años de posguerra se caracterizaron por una intensa lucha sindical. Empresarios y sindicatos se enfrentaron en la mayoría de los sectores industriales estadounidenses, y las tensiones eran con frecuencia mayores en sectores clave para la concentración de equipamiento militar y armamentístico por parte del Gobierno federal durante la Guerra Fría. Las huelgas, paros y recesos en el trabajo eran sucesos cotidianos. Solo en 1950 se registraron 88 paros laborales en una sola planta Westinghouse de Pittsburgh. En muchas fábricas los delegados sindicales tenían más poder sobre las operaciones que los dirigentes empresariales: los trabajadores tomaban las decisiones. Planificadores militares e industriales vieron en la automatización una forma de alterar el equilibrio de poder y devolver el poder a los gestores. La maquinaria controlada electrónicamente, declaraba la revista Fortune en un reportaje de portada de 1946 titulado «Máquinas sin hombres», probaría ser «inmensamente superior al mecanismo humano», entre otras cosas porque las máquinas «siempre están satisfechas con las condiciones de trabajo y nunca piden salarios más altos»[56]. Un ejecutivo de Arthur D. Little, una consultora líder en gestión empresarial e ingeniería, escribió que la generalización de la automatización anunciaba «la emancipación [del mundo de los negocios] de los trabajadores humanos»[57].

Además de reducir la necesidad de empleados, en particular cualificados, el equipamiento automatizado ofrecía a los dueños de las empresas y sus directivos un medio tecnológico para controlar la velocidad y el flujo de la producción a través de la programación electrónica de máquinas individuales y líneas de montaje completas. Cuando en las factorías de Ford el control del ritmo de la línea pasó al nuevo equipamiento automatizado, los trabajadores perdieron gran parte de su autonomía. A mediados de la década de 1950, el papel de los sindicatos en el diseño de las operaciones de fábrica había disminuido mucho[58]. La lección se demostraría importante: en un sistema automatizado, el poder se concentra en aquellos que controlan la programación.

Wiener adivinó, con una claridad llamativa, qué vendría después. Las tecnologías de la automatización avanzarían mucho más velozmente de lo que nadie había imaginado. Los ordenadores se volverían más rápidos y más pequeños. La velocidad y capacidad de la comunicación electrónica y de los sistemas de almacenamiento aumentarían exponencialmente. Los sensores verían, oirían y sentirían el mundo con una nitidez cada vez mayor. Los mecanismos robóticos vendrían a «replicar con más cercanía las funciones de la mano humana como complemento del ojo humano». El coste de manufacturar todos los nuevos dispositivos y sistemas se desplomaría. El uso de la automatización se tornaría a la vez posible y económico en un número mayor de áreas. Y puesto que los ordenadores podían ser programados para desempeñar funciones lógicas, el alcance de la automatización traspasaría el ámbito del trabajo manual y penetraría el ámbito de la mente —el reino del análisis, el juicio y la toma de decisiones—. Una máquina informatizada no tenía que actuar manipulando cosas materiales como armas. Podía actuar manipulando información. «Desde este momento, todo puede ir a través de una máquina», escribió Wiener. «La máquina no tiene favoritismos entre trabajos manuales y de cuello blanco». Le parecía obvio que la automatización crearía, antes o después, «una situación de desempleo» que haría parecer la calamidad de la Gran Depresión «un chiste simpático»[59].

Cibernética y sociedad fue un éxito de ventas, al igual que el tratado anterior —y mucho más técnico— de Wiener, Cibernética o el control y comunicación en animales y máquinas. El inquietante análisis de la trayectoria de la tecnología por parte del matemático formó parte de la textura intelectual de la década de 1950. Inspiró o informó muchos de los libros y artículos sobre la automatización que aparecieron durante esa década, y destacadamente el fino volumen de Robert Hugh Macmillan. El anciano Bertrand Russell, en el ensayo «Are Human Beings Necessary?» [«¿Son necesarios los seres humanos?»] (1951), escribió que la obra de Wiener dejaba claro que «tendremos que cambiar algunos de los supuestos básicos sobre los que ha marchado el mundo desde que comenzó la civilización»[60]. Wiener hace incluso una breve aparición como un profeta olvidado en la primera novela de Kurt Vonnegut, la sátira distópica La pianola (1952), en la que la rebelión de un joven ingeniero contra un mundo rígidamente automatizado termina en un episodio épico de destrucción de maquinaria.

* * *

La idea de una invasión de robots pudo haberle parecido amenazante, si no apocalíptica, a un público ya desconcertado por la bomba, pero las tecnologías de la automatización estaban todavía en su infancia en la década de 1950. Podían imaginarse sus consecuencias últimas en tratados especulativos y fantasías de ciencia ficción, pero esas consecuencias estaban todavía muy lejanas de ser experimentadas. Durante la década de 1960, la mayoría de las máquinas automatizadas siguió recordando a los primitivos transportadores robotizados de las líneas de montaje de Ford durante la posguerra. Eran grandes, caras y no demasiado inteligentes. La mayoría de ellas podía efectuar solo una función repetidamente, ajustando sus movimientos en respuesta a unos cuantas órdenes electrónicas elementales: acelerar, frenar; a la izquierda, a la derecha; agarrar, soltar. Las máquinas eran extraordinariamente precisas, pero aparte de eso su talento era escaso. Trabajando anónimamente en las fábricas, con frecuencia encerradas en jaulas para proteger al transeúnte de sus giros y golpes mecánicos, no parecía, ciertamente, que estuviesen a punto de tomar el control del mundo. Parecían poco más que bestias de carga bien educadas y coordinadas.

Pero los robots, además de otros sistemas automatizados, tenían una gran ventaja respecto a los artilugios puramente mecánicos que los precedieron. Al operar con un software, tenían un excelente porvenir según la ley de Moore. Podían beneficiarse de todos los avances rápidos —en velocidad de procesamiento, algoritmos de programación, capacidad de almacenamiento, conectividad, diseño de interfaz y miniaturización— que acabarían caracterizando el progreso de los propios ordenadores. Y eso, como había predicho Wiener, es lo que ocurrió. Los sentidos de los robots se agudizaron; sus cerebros se volvieron más rápidos y flexibles; sus conversaciones, más fluidas; su capacidad para aprender, más desarrollada. A comienzos de la década de 1970 estaban realizando trabajos productivos que requerían flexibilidad y destreza: cortar, soldar, montar. A finales de esa década estaban pilotando aviones y construyéndolos. Y entonces, liberados de sus encarnaciones físicas y convertidos en la pura lógica del código, invadieron el mundo de los negocios a través de una multitud de aplicaciones de software especializado. Ingresaron en los oficios cerebrales de los ejecutivos, en ocasiones como reemplazos, pero las más de las veces como asistentes.

Puede que los robots estuvieran a las puertas de las fábricas en 1950, pero solo recientemente han entrado, por orden nuestra, en oficinas, tiendas y casas. Hoy día, a medida que el software «del tipo que sustituye al entendimiento», según denominación de Wiener, se desplaza de nuestras oficinas a nuestros bolsillos, estamos finalmente empezando a experimentar el potencial auténtico de la automatización para modificar lo que hacemos y cómo lo hacemos. O, como dice el fundador de Netscape y «grande» de Silicon Valley Marc Andreessen, «el software se está comiendo el mundo»[61].

Quizá sea esa la lección más provechosa de la obra de Wiener —y, por ende, de la historia larga y tumultuosa de la maquinaria reductora de puestos de trabajo—. La tecnología cambia, y cambia más rápidamente que los seres humanos. Allí donde los ordenadores esprintan al ritmo de la ley de Moore, nuestras propias habilidades innatas se arrastran al paso de tortuga propio de la ley de Darwin. Allí donde los robots pueden ser construidos de mil maneras, replicando cualquier cosa desde serpientes que se esconden en madrigueras a aves de rapiña que surcan el cielo o peces que nadan en el mar, estamos básicamente atados a nuestros cuerpos viejos y bípedos. Eso no quiere decir que nuestras máquinas estén a punto de abandonarnos en el polvo evolutivo. Incluso el superordenador más poderoso muestra la misma conciencia que un martillo. Significa que nuestro software y nuestros robots seguirán, bajo nuestra guía, encontrando maneras de superarnos: trabajando más rápido, más barato y mejor. Y al igual que aquellos artilleros antiaéreos durante la Segunda Guerra Mundial, nos veremos obligados a adaptar nuestro trabajo, nuestro comportamiento y nuestras habilidades a las prestaciones y rutinas de las máquinas de las que dependemos.

3. CON EL PILOTO AUTOMÁTICO ENCENDIDO

3. CON EL PILOTO AUTOMÁTICO ENCENDIDO.

El 12 de febrero de 2009, al anochecer, un vuelo regular de pasajeros de Continental Connection hacía su trayecto entre Newark, Nueva Jersey, y Buffalo, Nueva York, en medio de una borrasca. Como suele suceder en los vuelos comerciales en la actualidad, ambos pilotos no tenían demasiado que hacer durante la hora que duraba el vuelo. El capitán, un hombre afable oriundo de Florida de 47 años llamado Marvin Renslow, manejó los controles brevemente durante el despegue, elevando el turbohélice Bombardier Q400t en el aire, y después encendió el piloto automático. Junto a su compañera de cabina, la primera oficial Rebecca Shaw, una mujer recién casada de 24 años nacida en Seattle, supervisaba las lecturas del ordenador que parpadeaban en las cinco grandes pantallas LCD instaladas en la cabina. Intercambiaron algunos mensajes por la radio con los controladores aéreos. Revisaron unas cuantas listas de control rutinarias. Pero, sobre todo, pasaban el tiempo hablando amigablemente sobre esto y aquello —familia, carrera, colegas, dinero— mientras el turbopropulsor navegaba por su ruta noroeste a dieciséis mil pies de altura[62].

El Q400 había iniciado ya hace tiempo su aproximación al aeropuerto de Buffalo, con su tren de aterrizaje activado y sus alerones desplegados, cuando el mando de control del capitán empezó a vibrar ruidosamente. La alarma vibratoria del avión había activado una señal de que el turbopropulsor estaba perdiendo altura y corría riesgo de entrar en pérdida aerodinámica. El piloto automático se desconectó, como está programado en caso de aviso de entrada en pérdida, y el capitán tomó el control. Reaccionó con rapidez, pero hizo precisamente lo que no debía. Tiró bruscamente del mando hacia atrás, elevando la nariz del avión y reduciendo su velocidad, en lugar de empujar el mando hacia delante para bajar el morro del avión y ganar velocidad. El sistema automático antipérdida aérea del avión se activó e intentó inclinar la palanca del mando hacia delante, pero el capitán sencillamente redobló sus esfuerzos para tirar del mando hacia sí en sentido opuesto. En lugar de prevenirla, Renslow provocó la entrada en pérdida de la aeronave. El Q400 perdió el control y se precipitó. «Nos caemos», dijo el capitán justo antes de que el avión se estrellara contra una casa de un suburbio de Buffalo.

El accidente, en el que murieron las 49 personas que iban a bordo y una persona en tierra, no debería haber ocurrido. Una investigación de la Junta Nacional de Seguridad del Transporte no encontró pruebas de problemas mecánicos en el Q400. Se había acumulado algo de hielo en el avión, pero nada fuera de lo habitual en un vuelo invernal. El equipo de deshielo había funcionado adecuadamente, al igual que los demás sistemas del avión. Renslow había tenido un calendario de vuelos relativamente exigente en los dos días precedentes y Shaw había estado aguantando un resfriado, pero ambos pilotos parecían lúcidos y despiertos en la cabina. Estaban bien entrenados, y aunque la alarma vibratoria les cogió por sorpresa, tenían tiempo y espacio aéreo más que suficiente para tomar las medidas necesarias para evitar una entrada en pérdida. La Junta Nacional de Seguridad del Transporte concluyó que la causa del accidente fue un error del piloto. Ni Renslow ni Shaw habían detectado «señales explícitas» de que un aviso de entrada en pérdida era inminente, un despiste que sugería «un fracaso significativo en sus responsabilidades de vigilancia». Una vez que sonó el aviso, afirmaron los investigadores, la respuesta del capitán «debería haber sido automática, pero sus inadecuadas maniobras para controlar el avión fueron inconsistentes con su entrenamiento» y revelaron en su lugar «alarma y confusión». Un ejecutivo de la compañía que operaba el vuelo para Continental, la aerolínea regional Colgan Air, admitió que los pilotos daban la impresión de no ser «realmente conscientes de la situación» cuando surgió la emergencia[63]. Si la tripulación hubiese actuado apropiadamente, el avión hubiese aterrizado muy probablemente de manera segura.

El accidente de Buffalo no fue un incidente aislado. Un desastre inquietantemente similar, con muchas más víctimas, sucedió unos meses después. La noche del 31 de mayo, un Airbus A330 de Air France despegó de Río de Janeiro rumbo a París[64]. El avión se topó con una tormenta sobre el Atlántico unas tres horas después del despegue. Sus sensores de velocidad, cubiertos de hielo, empezaron a ofrecer lecturas defectuosas, lo que hizo desactivar el piloto automático. Desconcertado, el copiloto que manejaba el avión, Pierre-Cédric Bonin, tiró hacia atrás de la palanca del mando. El A330 ascendió y sonó alto y claro un aviso de entrada en pérdida, pero Bonin siguió tirando del mando hacia atrás, desatendiendo la advertencia. Al subir tanto el avión, perdió velocidad. Los sensores de velocidad volvieron a funcionar de nuevo, ofreciendo datos precisos a la tripulación. Debería haber estado claro en ese momento que el avión iba demasiado despacio. Sin embargo, Bonin persistió en su error a los mandos, causando una deceleración mayor. El avión entró en pérdida y empezó a caer. Si Bonin hubiese sencillamente soltado la palanca, el A330 probablemente se hubiese corregido. Pero no lo hizo. La tripulación de vuelo estaba sufriendo lo que investigadores franceses describirían más tarde como «una pérdida total del control cognitivo de la situación»[65]. Después de unos pocos y angustiosos segundos más, otro piloto, David Robert, tomó los mandos. Era demasiado tarde. El avión cayó más de 30 000 pies en tres minutos.

«Esto no puede estar pasando», dijo Robert.

«Pero ¿qué está pasando?», respondió el todavía aturdido Bonin.

Tres segundos después, el avión cayó en el océano. Los 228 tripulantes y pasajeros murieron.

* * *

Si se quieren comprender las consecuencias humanas de la automatización, el primer sitio donde mirar es hacia arriba. Aerolíneas y fabricantes de aviones, así como agencias gubernamentales y militares como la Administración Federal de Aviación, la NASA y la fuerza aérea estadounidense, han sido particularmente insistentes y especialmente ingeniosos en encontrar formas de transferir el trabajo de personas a máquinas. Lo que los diseñadores de coches hacen con ordenadores hoy lo hacían diseñadores de aeronaves hace décadas. Y puesto que un simple error en una cabina puede costar muchas vidas y muchos millones, gran parte del dinero privado y público ha ido a financiar investigaciones psicológicas y conductuales sobre los efectos de la automatización. Durante décadas, científicos e ingenieros han estado estudiando cómo influye la automatización en las habilidades, percepciones, pensamientos y acciones de los pilotos. Mucho de lo que sabemos acerca de lo que ocurre cuando las personas trabajan al alimón con ordenadores procede de esta investigación.

La historia de la automatización aérea empieza hace cien años, el 18 de junio de 1914, en París. El día era, según las crónicas, soleado y agradable; el cielo azul era un perfecto telón de fondo para el espectáculo. Una multitud se había reunido a lo largo de la ribera del Sena, cerca del puente Argenteuil, en la periferia noroeste de la ciudad, para presenciar el Concours de la Sécurité en Aéroplane, una competición de aviación organizada para desplegar los últimos avances en seguridad aérea[66]. Participaron casi sesenta aviones y pilotos, en un surtido impresionante de técnicas y equipos. El último del programa de aquel día, a los mandos de un biplano Curtiss C-2, era un apuesto piloto estadounidense llamado Lawrence Sperry. Sentado junto a él en la cabina abierta del C-2 estaba su mecánico francés, Emil Cachin. Cuando Sperry voló por encima de las hileras de espectadores y se aproximó al palco de los jueces, soltó los mandos del avión y levantó las manos. La muchedumbre rugía de asombro. ¡El avión volaba solo!

Sperry acababa de empezar. Tras dar la vuelta, volvió a pasar sobre el palco con las manos en el aire. Esta vez, sin embargo, hizo a Cachin salir de la cabina y caminar por el ala inferior derecha, apoyándose en las estructuras entre las alas. El avión se inclinó hacia la derecha durante un segundo por el peso del galo e inmediatamente se enderezó, sin ayuda de Sperry. El gentío gritaba aún más. Sperry dio una vuelta más. Cuando el avión se acercaba al palco por tercera vez, no solo Cachin estaba sobre el ala derecha, sino que el propio Sperry había salido y se había encaramado sobre el ala izquierda. El C-2 estaba volando, recto y sin trampas, sin nadie en la cabina. El público y los jueces quedaron estupefactos. Sperry ganó el gran premio —cincuenta mil francos— y al día siguiente su cara relucía en las portadas de los periódicos de toda Europa.

Dentro del Curtiss C-2 estaba el primer piloto automático. Conocido como «aparato estabilizador giroscópico», el dispositivo había sido inventado dos años antes por Sperry y su padre, el afamado ingeniero e industrial estadounidense Elmer A. Sperry. Consistía de un par de giroscopios, uno montado horizontalmente, el otro verticalmente, instalados debajo del asiento del piloto y motorizados por un generador eólico situado detrás de la hélice. Girando a miles de revoluciones por minuto, los giroscopios eran capaces de percibir, con una precisión sorprendente, la orientación de un avión en sus tres ejes de rotación —lateral, longitudinal y vertical—. Si el avión se desviase de su altitud esperada, unas escobillas metálicas electrificadas y fijadas a los giroscopios entrarían en contacto en el chasis de la aeronave, completando un circuito. Una corriente eléctrica fluiría a los motores que operaban los principales paneles de control del avión —los alerones de las alas y los elevadores y el timón en la cola— y los paneles ajustarían automáticamente sus posiciones para corregir el problema. El giroscopio horizontal mantenía las alas del avión estables y su quilla equilibrada, mientras que el vertical controlaba el rumbo.

Llevó casi veinte años de pruebas y refinamientos, gran parte de ellos bajo los auspicios del ejército estadounidense, antes de que el piloto automático giroscópico estuviese preparado para hacer su debut en un vuelo comercial. Pero cuando lo hizo, la tecnología parecía todavía tan milagrosa como el primer día. En 1930, un redactor de Popular Science publicó una crónica intensa de cómo un avión equipado con piloto automático —«un Ford grande de tres motores»— voló «sin ayuda humana» durante un trayecto de tres horas entre Dayton, Ohio, a Washington D. C. «Cuatro hombres se recostaban tranquilamente en la cabina de pasajeros», escribió el reportero. «Y el compartimento del piloto estaba vacío. Un tripulante de metal, poco más grande que una batería de automóvil, agarraba la palanca»[67]. Tres años después el atrevido piloto estadounidense Wiley Post completó el primer vuelo solo alrededor del mundo, asistido por un piloto automático Sperry que había apodado «Mechanical Mike», por lo que la prensa anunció una nueva era en la aviación. «Se ha terminado la época en la que solo la capacidad humana y un sentido de la orientación casi propio de las aves permitía a un piloto mantener su rumbo durante largas horas en una noche sin estrellas o en la niebla», afirmó el New York Times. «La aviación comercial en el futuro será automática»[68].

La introducción del piloto automático giroscópico sentó las bases para la expansión crucial del rol de la aviación en la guerra y el transporte. Al asumir gran parte del trabajo manual requerido para mantener un avión estable y bien orientado, el artefacto relevó a los pilotos de su lucha constante y agotadora con palancas y pedales, cables y poleas. Eso no solo alivió la fatiga que los aviadores sufrían en vuelos largos; también liberó sus manos, sus ojos y, más importante aún, sus mentes para otras y más sutiles tareas. Podían consultar más instrumentos, hacer más cálculos, solucionar más problemas y, en general, pensar más analítica y creativamente sobre su trabajo. Podían volar más alto y más lejos, y con menos riesgo de accidentes. Podían salir en condiciones climáticas que antes los hubiesen mantenido en tierra. Y podían realizar maniobras complejas que anteriormente hubiesen parecido temerarias o sencillamente imposibles. Ya fuera en el transporte de pasajeros o el lanzamiento de bombas, los pilotos se volvieron considerablemente más versátiles y valiosos una vez que dispusieron de pilotos automáticos para ayudarles a volar. Sus aviones cambiaron también: se volvieron más grandes, más rápidos y muchísimo más complicados.

Las herramientas de conducción y estabilización automática progresaron rápidamente durante la década de 1930, a medida que los físicos aprendían más sobre aerodinámica y los ingenieros incorporaban manómetros, controles neumáticos, amortiguadores y otras mejoras en los mecanismos del piloto automático. El mayor progreso se dio en 1940, con la introducción por parte de la Sperry Corporation de su primer modelo electrónico, el A-5. Utilizaba tubos de vacío para amplificar las señales de los giroscopios, por lo que el A-5 era capaz de hacer ajustes y correcciones más veloces y precisas. También podía percibir e informar de cambios en la velocidad y aceleración de un avión. En conjunción con la última tecnología en visores de bombardeo, el piloto automático electrónico demostró ser una bendición para la campaña aérea aliada en la Segunda Guerra Mundial.

Poco después de la guerra, una noche de septiembre de 1947, las Fuerzas Aéreas estadounidenses efectuaron un vuelo experimental que dejó claro cuán lejos habían llegado los pilotos automáticos. El capitán Thomas J. Wells, un piloto militar de pruebas, voló un avión de transporte C-54 Skymaster con una tripulación de siete hombres hasta una autopista remota en Terranova. Entonces soltó los mandos, apretó un botón para activar el piloto automático y, como recordaría después uno de sus compañeros de cabina, «se acomodó en su asiento y puso las manos en el regazo»[69]. El avión despegó por sí mismo, ajustando automáticamente sus alerones y aceleradores y, tras despegar, retrajo su tren de aterrizaje. Después voló solo a través del Atlántico, siguiendo una serie de «secuencias» que se habían programado anteriormente en lo que la tripulación llama su «cerebro mecánico». Cada secuencia estaba programada a una altitud o kilometraje particular. Los hombres a bordo del avión no sabían la ruta ni el destino del vuelo; la aeronave mantuvo su propio rumbo siguiendo las señales de las radiobalizas en tierra firme y en barcos en alta mar. Al amanecer del día siguiente, el C-54 alcanzó la costa inglesa. Todavía bajo el control del piloto automático, inició su descenso, bajó su tren de aterrizaje, se alineó con una pista de aterrizaje en una base de la Royal Air Force en Oxfordshire y ejecutó un aterrizaje perfecto. El capitán Wells levantó entonces las manos del regazo y estacionó el avión.

Unas semanas después del histórico viaje del Skymaster, un reportero de la revista británica de aviación Flight evaluó sus implicaciones. Parecía inevitable, escribió, que la nueva generación de pilotos automáticos «eliminaría la necesidad de llevar navegantes, operadores de radio e ingenieros de vuelo» en los aviones. Las máquinas volverían estos empleos innecesarios. Los pilotos, admitía, no parecían tan prescindibles. Continuarían siendo, al menos en el futuro previsible, una presencia necesaria en las cabinas, aunque solo fuese para «mirar los diversos relojes e indicadores para comprobar que todo va satisfactoriamente»[70].

* * *

En 1988, cuarenta años después del cruce atlántico del C-54, el consorcio aeroespacial europeo Airbus Industrie presentó su avión de pasajeros A320. El avión, de 150 plazas, era una versión más pequeña del modelo original de la compañía A300, pero a diferencia de su convencional y bastante gris predecesor, el A320 era una maravilla. Era el primer avión comercial que podía llamarse verdaderamente informatizado, un precursor de todo lo que vendría después en diseño de aviones. La cabina de vuelo hubiera sido irreconocible para Wiley Post o Lawrence Sperry. Prescindía de la batería de indicadores analógicos y manómetros que había sido durante mucho tiempo la firma visual de las cabinas aéreas. En su lugar había seis relucientes pantallas de cristal, de tubo de rayos catódicos, colocadas ordenadamente debajo del parabrisas. Los monitores ofrecían a los pilotos los últimos datos y lecturas de la red de ordenadores de a bordo del avión.

La cabina atestada de pantallas informativas del A320 —o «cabina de cristal», como la llamaban los pilotos— no era su rasgo más distintivo. Ingenieros del Langley Research Center de la NASA habían sido pioneros, más de diez años antes, en el uso de pantallas CRT para transmitir información de vuelo, y los fabricantes de aeronaves habían empezado a instalar las pantallas en aviones de pasajeros a finales de la década de 1970[71]. Lo que de verdad distinguía al A320 —y lo convertía, según el escritor y piloto estadounidense William Langewiesche, «en el avión civil más audaz desde el Flyer I de los hermanos Wright»[72]— era su sistema de pilotaje electrónico digital. Antes de la aparición del A320, los aviones comerciales operaban aún mecánicamente. Sus fuselajes y huecos de las alas estaban equipados con cables, poleas y engranajes junto con un sistema hidráulico en miniatura formado por tubos, bombas y válvulas hidráulicos. Los controles que manipulaba un piloto —el volante, la palanca de aceleración, los pedales del volante— estaban unidos por sistemas mecánicos directamente a las partes móviles que gobernaban la orientación, dirección y velocidad del avión. Cuando el piloto actuaba, el avión reaccionaba.

Para detener una bicicleta, aprietas una manilla que tira de un cable de freno, que contrae los brazos de una pinza, que presiona una pastilla de freno contra la llanta del neumático. Estás, en esencia, enviando una orden —una señal de que pare— con tu mano, y el mecanismo de freno traslada la fuerza manual de esa orden hasta la rueda. Tu mano recibe entonces la confirmación de que tu orden se ha recibido: sientes una resistencia en el manillar de freno, la presión de las pastillas de freno contra la llanta y el derrape de la rueda en el suelo. Eso, a pequeña escala, es lo que pasaba cuando los pilotos volaban en aviones controlados mecánicamente. Formaban parte de la máquina, sus cuerpos percibían sus movimientos y sentían sus respuestas; la máquina se convertía en un conducto de su voluntad. La relación tan estrecha entre ser humano y aparato era parte fundamental del placer de volar. Era lo que el famoso poeta-piloto Antoine de Saint-Exupéry debió de tener en mente cuando, al recordar su época de piloto de aviones postales en la década de 1920, escribió sobre cómo «la máquina que a primera vista parece una forma de aislar al hombre de los grandes problemas de la naturaleza, en realidad le hunde más en ellos»[73].

El sistema de pilotaje electrónico del A320 cortó el vínculo táctil entre el piloto y el avión. Insertó un ordenador digital entre la orden humana y la respuesta de la máquina. Cuando un piloto movía una palanca, giraba o apretaba un botón en la cabina del Airbus, su orden era traducida, mediante un transductor, a una señal eléctrica que bajaba por un cable a un ordenador, y el ordenador, siguiendo paso a paso los algoritmos de sus programas de software, calculaba los diversos ajustes mecánicos necesarios para cumplir el deseo del piloto. El ordenador entonces enviaba sus propias instrucciones a los procesadores digitales que gobernaban el funcionamiento de los elementos móviles del avión. Junto a la sustitución de los movimientos mecánicos por señales digitales vino el rediseño de los controles de cabina. El abultado volante de dos extremos que había presionado cables y comprimido fluidos hidráulicos fue reemplazado en el A320 por una pequeña palanca lateral colocada junto al asiento del piloto y manejable con una mano. En la consola principal, botones en pequeños monitores numéricos LED permiten al piloto establecer configuraciones de velocidad, altitud, y dirección como entradas de información en los ordenadores del avión.

Después de la introducción del A320, la historia de los aviones y la historia de los ordenadores convergieron en una. Cada avance en hardware y software, en sensores y controles electrónicos, en tecnologías de visualización, reverberaban en el diseño de aeronaves comerciales a medida que los fabricantes y aerolíneas empujaban los límites de la automatización. En los aviones actuales, los pilotos automáticos que mantienen a los aviones estables y en rumbo son solo uno de los numerosos sistemas informatizados. Aceleradores automáticos controlan la fuerza del motor. Sistemas de navegación aérea recogen datos de posición provenientes de receptores GPS y otros sensores, y utilizan la información para fijar o corregir la ruta aérea. Sistemas de evitación de choques rastrean los cielos en busca de aeronaves cercanas. Bolsas de vuelo electrónicas almacenan copias digitales de las tablas y el resto de los papeleos que los pilotos solían llevar a bordo. Además, otros ordenadores extienden y guardan el tren de aterrizaje, accionan los frenos, ajustan la presión de cabina y realizan otras funciones diversas que estuvieron alguna vez en manos de los tripulantes. Para programar los ordenadores y registrar sus respuestas los pilotos usan ahora pantallas grandes y coloridas que muestran gráficamente datos generados por instrumentos de vuelo electrónicos junto a un surtido de teclados, ruedas de desplazamiento y otros dispositivos que permiten la entrada de datos. La automatización informática «está totalmente generalizada» en la aviación actual, dice Don Harris, un profesor de Aeronáutica y experto en ergonomía. La cabina de vuelo «puede considerarse como una gigantesca interfaz de ordenador voladora»[74].

¿Qué ha pasado con los modernos héroes y heroínas del aire que, acurrucados en sus cabinas de cristal de alta tecnología, cruzan los aires en compañía de los fantasmas de Sperry, Post y Saint-Exupéry? Ni que decir tiene que el piloto comercial ha perdido su aura de romance y aventura. El hombre que tomaba los mandos para volar con un propósito de disfrute es ya más una leyenda que una realidad. En un típico vuelo de pasajeros de esta época, el piloto maneja los controles durante un total de tres minutos: un minuto o dos al despegar y otro minuto o dos al aterrizar. En lo que emplea mucho tiempo el piloto es en vigilar monitores y registrar datos. «Hemos pasado de un mundo en el que la automatización era una herramienta para ayudar al piloto a sobrellevar su carga de trabajo», observa Bill Voss, presidente de la Fundación para la Seguridad en el Vuelo, «a un momento en el que la automatización es realmente el sistema de control de vuelo primario en una aeronave»[75]. El especialista en aviación y asesor de la FAA Hemant Bhana ha escrito que «a medida que la automatización ha aumentado en sofisticación, el papel del piloto se ha desplazado hasta convertirse en un vigilante o supervisor de la automatización»[76]. El piloto comercial se ha convertido en un operador informático. Y eso, según coinciden muchos expertos en aviación y automatización, es un problema.

* * *

Lawrence Sperry murió en 1923, tras precipitarse su avión en el canal de la Mancha. Wiley Post murió en 1935, tras caer su avión en Alaska. Antoine de Saint-Exupéry murió en 1944: su avión desapareció en el Mediterráneo. La muerte prematura era un riesgo laboral cotidiano para los pilotos en los primeros años de la aviación; el romance y la aventura tenían un alto precio. Los pasajeros también fallecían con una frecuencia alarmante. Cuando la industria aérea tomó impulso, en la década de 1920, el editor de una revista de aviación estadounidense pidió al Gobierno que mejorase la seguridad en vuelo, destacando que «la gente sufre muchos accidentes fatales a diario en aviones manejados por pilotos inexpertos»[77].

La época letal del transporte aéreo ha pasado, afortunadamente. Volar es seguro hoy, y prácticamente todos los implicados en el negocio de la aviación creen que los avances en automatización son una de las razones que lo explican. Junto a las mejoras en diseño, rutinas de seguridad, entrenamiento de la tripulación y control del tráfico aéreo, la mecanización e informatización de los vuelos han contribuido al acusado y continuo descenso de accidentes y fallecimientos con el paso de las décadas. En Estados Unidos y otros países occidentales, los accidentes fatales se han convertido en algo extraordinariamente inusual. De los más de 7000 millones de personas que se subieron a un vuelo comercial estadounidense entre 2002 y 2011, solo 153 murieron en un accidente: una tasa de dos muertes por cada millón de pasajeros. En los diez años que pasaron entre 1962 y 1971, por el contrario, tomaron un vuelo 1300 millones de personas y murieron 1696 de ellas (una tasa de 133 muertes por millón)[78].

Pero esta historia feliz tiene su lado oscuro. El descenso global en el número de accidentes aéreos enmascara la reciente aparición de «un tipo espectacularmente nuevo de accidente», como dice Raja Parasuraman, un profesor de Psicología en la George Mason University y una de las mayores autoridades mundiales en automatización[79]. En el momento que los ordenadores de a bordo no funcionan como es debido o surgen otros problemas inesperados durante un vuelo, los pilotos han de tomar el control manual del avión. Arrojados abruptamente a un rol ahora inhabitual, ellos también cometen errores con frecuencia. Las consecuencias, como muestran los desastres de Continental Connection y Air France, pueden ser catastróficas. En los últimos treinta años, docenas de psicólogos, ingenieros e investigadores en ergonomía o «factores humanos» han estudiado qué se gana y qué se pierde con el hecho de que los pilotos compartan la labor de volar con un software. Han aprendido que una dependencia acusada de la automatización informática puede erosionar la pericia de los pilotos, nublar sus reflejos y disminuir su concentración, llevando a lo que Jan Noyes, un experto en factores humanos de la Universidad inglesa de Bristol, llama «una merma de las habilidades de la tripulación»[80].

La preocupación sobre los efectos colaterales y no intencionados de la automatización aérea no es nueva. Data por lo menos de los primeros años de cabinas de cristal y controles de pilotaje electrónico. Un informe de 1989 del Ames Research Center de la NASA indicaba que a medida que los ordenadores se habían empezado a multiplicar en las aeronaves durante la década precedente, investigadores de la industria y del Gobierno habían «desarrollado una incomodidad creciente con el hecho de que la cabina podría estar automatizándose demasiado, y que la sustitución continua del obrar humano por aparatos podría tener sus ventajas y sus inconvenientes». A pesar del entusiasmo general por el vuelo informatizado, muchos en la industria aérea temían que los «pilotos estuviesen volviéndose demasiado dependientes de la automatización, que las habilidades manuales de vuelo estuviesen deteriorándose y que la percepción del entorno se estuviera resintiendo»[81].

Estudios efectuados desde entonces han ligado muchos accidentes y situaciones de auténtico peligro a la caída de sistemas automatizados o a «errores inducidos por la automatización» por parte de las tripulaciones[82]. En 2010 la Administración Federal de Aviación (FAA) publicó los resultados preliminares de un gran estudio sobre vuelos comerciales durante los diez años precedentes que mostraban la presencia de algún error del piloto en casi dos tercios de todos los accidentes. La investigación indicaba, además, según la científica de la FAA Kathy Abbott, que la automatización ha incrementado la probabilidad de tales errores. Los pilotos pueden distraerse en sus interacciones con ordenadores de a bordo, dijo Abbott, y pueden «delegar demasiada responsabilidad en sistemas automatizados»[83]. Un detallado informe gubernamental de 2013 sobre la automatización de las cabinas, recopilado por un panel de expertos a partir de los mismos datos de la FAA, encontró problemas relativos a la automatización, como una menor percepción del entorno y habilidades de vuelo manual debilitadas, en más de la mitad de los accidentes recientes[84].

Las pruebas observadas recogidas de informes sobre accidentes y encuestas adquirieron el respaldo empírico de un estudio riguroso conducido por Matthew Ebbatson, un joven investigador de factores humanos de la Universidad de Cranfield, una escuela de Ingeniería puntera del Reino Unido[85]. Frustrado por la falta de datos claros y objetivos sobre lo que denominó «la pérdida de habilidades manuales de vuelo en pilotos de aerolíneas altamente automatizadas», Ebbatson se dispuso a rellenar ese hueco. Reclutó a 66 pilotos veteranos de una aerolínea británica e hizo que cada uno de ellos se metiera en un simulador de vuelo y realizase una maniobra complicada: manejar un Boeing 737 con un motor inutilizado para aterrizar en condiciones de mal tiempo. El simulador desconectó los sistemas automatizados del avión, lo que obligó al piloto a volar manualmente. Algunos pilotos completaron la prueba excepcionalmente bien, informó Ebbatson, pero muchos hicieron un pobre papel, apenas por encima de «los límites de lo aceptable». Ebbatson comparó entonces registros detallados del desempeño de cada piloto en el simulador —la presión ejercida sobre la palanca del mando, la estabilidad de la velocidad, el grado de variación en el rumbo— con la serie histórica de vuelos del piloto. Encontró una correlación directa entre la aptitud del piloto a los mandos y la cantidad de tiempo que el piloto había empleado volando sin ayuda de la automatización. La correlación era particularmente intensa con la cantidad de vuelo manual realizada durante los dos meses anteriores. El análisis indicaba que «las habilidades de vuelo manual se deterioran con bastante rapidez, hasta los límites del rendimiento “tolerable”, si no se practica con relativa frecuencia». Especialmente «vulnerable al deterioro», destacó Ebbatson, era la habilidad de un piloto para mantener «el control de la velocidad» (una destreza crucial para reconocer, evitar y recuperarse de entradas en pérdida y otras situaciones peligrosas).

No resulta ningún misterio por qué la automatización degrada el rendimiento de un piloto. Como muchos empleos exigentes, manejar un avión requiere una combinación de habilidades psicomotoras y cognitivas —acción meditada y pensamiento activo—. Un piloto necesita manipular herramientas e instrumentos con precisión mientras realiza, con rapidez y exactitud, cálculos, pronósticos y valoraciones en su cabeza. Y mientras efectúa esas intrincadas maniobras físicas y mentales, debe permanecer vigilante, alerta a lo que sucede a su alrededor y ser capaz de distinguir las señales importantes de las no importantes. No puede permitirse perder el foco ni caer víctima de la visión limitada. La maestría en el dominio de tal conjunto multifacético de habilidades se adquiere solo con la práctica rigurosa. Un piloto principiante tiende a ser torpe a los mandos; empuja y tira del mando con más fuerza de la necesaria. Tiene que hacer una pausa con frecuencia para recordar qué debe hacer después, guiarse metódicamente por los pasos del proceso. Tiene problemas para saltar fluidamente de tareas manuales a cognitivas. Si surge una situación estresante, puede verse fácilmente desbordado o distraído y acabar pasando por alto un cambio crítico de circunstancias.

Con el tiempo, después de muchos ensayos, el novato gana confianza. Hace menos pausas en su trabajo y es más preciso en sus acciones. No desperdicia muchos esfuerzos. A medida que su experiencia sigue ampliándose, su cerebro desarrolla los llamados modelos mentales —grupos de neuronas especializadas— que le facultan para reconocer patrones en su entorno. El modelo le permite interpretar y reaccionar a estímulos intuitivamente, sin atascarse en el análisis consciente. Eventualmente, pensamiento y acción se conectan a la perfección. Volar se convierte en una segunda naturaleza. Años antes de que los investigadores empezaran a rastrear el funcionamiento cerebral de los pilotos, Wiley Post describió la experiencia de volar en términos claros y precisos. Volaba, dijo en 1935, «sin esfuerzo mental, dejando que mis acciones sean totalmente controladas por mi mente subconsciente»[86]. No nació con esa capacidad. La desarrolló a base de trabajar duramente.

Una vez que aparecen los ordenadores en escena, cambia la naturaleza y el rigor del trabajo, al igual que el aprendizaje surgido de él. A medida que el software asume el control de la nave por momentos, el piloto, como hemos visto, es relevado de mucho trabajo manual. Esta reasignación de responsabilidad puede producir un beneficio importante. Puede reducir la carga de trabajo del piloto y dejarle concentrarse en los aspectos cognitivos del vuelo. Pero hay un coste. La pericia psicomotora se oxida, lo que puede limitar al piloto en esas ocasiones escasas, pero críticas, en las que está obligado a retomar los mandos. Hay pruebas crecientes de que la expansión reciente del ámbito de la automatización pone en riesgo también las habilidades cognitivas. Desde el momento en que ordenadores más avanzados empiezan a asumir funciones de planificación y análisis, como establecer y ajustar el plan de vuelo, el piloto está menos implicado no solo físicamente sino mentalmente. Dado que la precisión y velocidad del reconocimiento de patrones parecen depender de la práctica regular, la mente del piloto puede perder agilidad al interpretar y reaccionar ante situaciones rápidamente cambiantes. Puede sufrir lo que Ebbatson llama «la pérdida de pericia» en su capacidad, tanto mental como motora.

Los pilotos no son ciegos al peaje de la automatización. Siempre han sido renuentes a ceder responsabilidad a las máquinas. Los pilotos de la Primera Guerra Mundial, justificadamente orgullosos de su habilidad a la hora de maniobrar sus aviones durante los combates aéreos, no querían saber nada de los extravagantes pilotos automáticos de Sperry[87]. En 1959, los primeros astronautas del Proyecto Mercury se rebelaron contra el plan de la NASA de eliminar los controles manuales de vuelo de la nave espacial[88]. Pero la preocupación de los aviadores es más intensa hoy día. Incluso aunque elogien los progresos enormes en tecnología de vuelo y reconozcan sus beneficios en materia de seguridad y eficiencia, les inquieta el desgaste de su capacidad. Como parte de su investigación, Ebbatson entrevistó a pilotos comerciales y les preguntó si «sentían que su capacidad de vuelo manual había sido influida por la experiencia de operar una aeronave altamente automatizada». Más del 75 por ciento respondió que «su destreza se había deteriorado»; solo unos cuantos sentían que su habilidad había mejorado[89]. Una encuesta a pilotos realizada en 2012 por la Agencia Europea de Seguridad Aérea (AESA), halló una preocupación generalizada del mismo tipo: el 95 por ciento de los pilotos opinaba que la automatización tendía a erosionar «las habilidades de vuelo manuales y cognitivas básicas»[90]. Rory Kay, un experimentado capitán de United Airlines que hasta hace poco servía como oficial jefe de seguridad para la Air Line Pilots Association, teme que la industria de la aviación esté sufriendo una «adicción a la automatización». En una entrevista concedida en 2011 a Associated Press se refirió al problema más tajantemente: «Nos estamos olvidando de cómo se vuela»[91].

* * *

Los cínicos se aprestan a atribuir tales miedos al propio interés. La razón verdadera de las quejas sobre la automatización, afirman, es que los pilotos están inquietos por la pérdida de sus empleos o la reducción de sus sueldos. Y los cínicos tienen razón hasta cierto punto. Como predijo el redactor de la revista Flight en 1947, la tecnología de la automatización ha reducido gradualmente el tamaño de las tripulaciones de vuelo. Hace sesenta años, la cabina de vuelo de un avión tenía con frecuencia asientos para cinco profesionales cualificados y bien remunerados: un oficial de vuelo, un operador de radio, un ingeniero de vuelo y un par de pilotos. El operador de radio perdió su silla en la década de 1950, con la mejora de la fiabilidad y facilidad de uso de los sistemas de comunicación. El oficial de vuelo fue apartado de la cabina en la década de 1960, una vez que los sistemas de navegación inerciales asumieron sus obligaciones. El ingeniero de vuelo, cuyo trabajo implicaba controlar el conjunto de instrumentos de un avión y transmitir información importante a los pilotos, mantuvo su lugar hasta la llegada de la cabina de cristal, a finales de la década de 1970. Procurando un recorte de gastos tras la desregulación del tráfico aéreo en 1978, las aerolíneas estadounidenses pujaron para librarse del ingeniero y volar solo con el capitán y el copiloto. Hubo por ello una batalla encarnizada con los sindicatos de pilotos, al movilizarse estos para salvar el empleo del ingeniero. El enfrentamiento no acabó hasta 1981: una comisión presidencial de Estados Unidos declaró que los ingenieros ya no eran necesarios para la seguridad de los vuelos con pasajeros. Desde entonces, la norma es que la tripulación de vuelo sea de dos personas —al menos por ahora—. Algunos expertos, en referencia al éxito de los drones militares, han empezado a sugerir que dos pilotos sean, a la postre, demasiados[92]. «El avión de línea sin piloto está por venir», dijo James Albaugh, un alto ejecutivo de Boeing, en una conferencia sobre aviación en 2011; «es solo cuestión de tiempo»[93].

La extensión de la automatización ha sido acompañada también por una caída sostenida en la retribución de los pilotos comerciales. Mientras que los veteranos capitanes de aerolínea pueden todavía llevarse a casa salarios cercanos a 200 000 dólares anuales, los pilotos novatos reciben una cantidad de 20 000 dólares al año, e incluso menos. El salario medio inicial para pilotos experimentados en grandes aerolíneas es de aproximadamente 36 000 dólares, que como señala un reportero del Wall Street Journal es «condenadamente bajo para profesionales cualificados»[94]. A pesar de la escasa paga, pervive la creencia popular de que los pilotos están demasiado bien remunerados. Un artículo en la página web Salary.com calificó a los pilotos de líneas comerciales como el gremio más sobrerremunerado dentro de la economía actual, aduciendo que «muchas de sus tareas están automatizadas» y sugiriendo que su trabajo se ha vuelto «un poco aburrido»[95].

Sin embargo, el interés propio de los pilotos en materia de automatización va más allá de la estabilidad laboral y el salario, o incluso de su seguridad. Cada avance tecnológico altera el trabajo que desempeñan y el rol que juegan, y ello a su vez modifica cómo se ven a sí mismos y cómo les ven los demás. Está en juego su estatus social (e incluso su autoestima). Así que cuando los pilotos se expresan sobre la automatización, no hablan solo en términos técnicos, sino autobiográficos. ¿Soy el amo de la máquina, o su sirviente? ¿Soy un actor en el mundo, o un observador? ¿Un agente o un objeto? «En realidad», escribe el historiador tecnológico del MIT David Mindell en su libro Digital Apollo [«Apolo digital»], «los debates sobre el control y la automatización en la aviación son debates sobre la importancia relativa del hombre y de la máquina». En aviación, como en cualquier campo en el que las personas trabajan con herramientas, «el cambio técnico y el cambio social están entrelazados»[96].

Los pilotos siempre se han definido por su relación con su destreza. Wilbur Wright, en una carta escrita en 1900 a Octave Chanute, otro pionero de la aviación, decía del rol del piloto: «Lo primordial es la habilidad, antes que la maquinaria»[97]. No estaba simplemente repitiendo un lugar común. Se refería a lo que, en los albores mismos del vuelo humano, se había convertido ya en una tensión fundamental entre la capacidad del avión y la capacidad del piloto. Cuando se construyeron los primeros aviones, los diseñadores discutían acerca de la estabilidad inherente que debería poseer una aeronave —cuán fuerte debería ser su tendencia a volar recto y equilibrado en cualquier condición—. Podría parecer que una mayor estabilidad sería siempre deseable en una máquina voladora, pero no es así. Hay una compensación entre estabilidad y maniobrabilidad. Cuanto mayor es la estabilidad de un avión, más difícil es para el piloto ejercer control sobre él. Como explica Mindell, «cuanto más estable es una aeronave, se requerirá más esfuerzo para alejarlo de su punto de equilibrio. Por ello, será menos controlable. Lo contrario también es cierto: cuanto más controlable o maniobrable es un avión, será menos estable»[98]. El autor de un libro sobre aeronáutica publicado en 1910 relataba que la cuestión del equilibrio se había convertido en «una polémica que divide a los aviadores en dos escuelas». Por un lado estaban aquellos que defendían que el equilibrio debería «ser automático en gran medida», o sea, que debería estar añadido en el avión. Por otro, estaban aquellos que pensaban que el equilibrio debería ser «cuestión de la habilidad del aviador»[99].

Wilbur y Orville Wright estaban en el segundo grupo. Creían que un avión debería ser esencialmente inestable, como una bicicleta o incluso, como sugirió una vez Wilbur, «un caballo díscolo»[100]. De esa manera, el piloto tendría tanta autonomía y libertad como fuese posible. Los hermanos incorporaron su filosofía a los aviones que construyeron, lo que se tradujo en la primacía de la maniobrabilidad sobre la estabilidad. Lo que inventaron los Wright a comienzos del siglo XX fue, sostiene Mindell, «no solo un avión que pudiera volar, sino también la propia idea del avión como máquina dinámica bajo el control de un piloto»[101]. Antes de la decisión técnica venía una elección moral: hacer que el aparato estuviera al servicio de la persona que lo manejaba, un instrumento del talento y la volición humanos.

Los hermanos Wright acabarían perdiendo el debate sobre el equilibrio. Una vez que los aviones empezaron a llevar pasajeros y otras mercancías valiosas a larga distancia, la libertad y virtuosismo del piloto se volvieron secundarios. De importancia primordial eran la seguridad y la eficiencia, y para aumentar estas pronto quedó claro que había que constreñir el ámbito de acción del piloto y otorgar mayor autoridad a la propia máquina. La transferencia del control era gradual, pero cada vez que la tecnología asumía un poco más de poder los pilotos sentían que perdían otra pequeña parte de sí mismos. En un artículo quijotesco de 1957 que se oponía a los intentos de ampliar el vuelo automático, un experto piloto de pruebas de cazas llamado J. O. Roberts se preocupaba sobre cómo los pilotos automáticos estaban convirtiendo al hombre en la cabina en poco más que «exceso de equipaje, excepto por las tareas de monitoreo». El piloto, escribía Roberts, debe preguntarse «si está mereciendo la pena o no»[102].

No obstante, todas las innovaciones giroscópicas, electromecánicas, instrumentales e hidráulicas apenas eran una pista de lo que traería consigo la digitalización. El ordenador no solo cambió la naturaleza del vuelo; cambió la naturaleza de la automatización. Circunscribió el papel del piloto hasta un punto en el que la idea misma de «control manual» comenzó a resultar anacrónica. Si la esencia del trabajo de un piloto consiste en mandar órdenes digitales a ordenadores y registrar las respuestas salientes —mientras los ordenadores gobiernan los elementos móviles del avión y eligen su rumbo—, ¿dónde queda exactamente el control manual? Incluso cuando los pilotos tiran de mandos o empujan palancas en aviones informatizados, en lo que están participando realmente muchas veces es una simulación del vuelo manual. Cada acción está mediada y filtrada por microprocesadores. Eso no quiere decir que no requiera una notable destreza. Es necesaria. Pero las capacidades han cambiado, y ahora se aplican a distancia, tras el velo de un programa informático. En muchos de los aviones comerciales de la actualidad el software de vuelo puede incluso anular las órdenes del piloto durante maniobras extremas. El ordenador tiene la última palabra. «No solo hacía volar un avión», dijo una vez un compañero piloto de Wiley Post; «lo llevaba puesto». Los pilotos de hoy no llevan sus aviones puestos. Llevan puestos los ordenadores del avión, o quizá los ordenadores llevan puestos a los pilotos.

La transformación experimentada por la aviación en las últimas décadas —el cambio de sistemas mecánicos a digitales, la proliferación del software y de las pantallas, la automatización del trabajo mental y manual, la difuminación de lo que significa ser un piloto— ofrece una hoja de ruta para la transformación, mucho más amplia, que está sufriendo la sociedad ahora. Dan Harris ha señalado que la cabina de cristal puede considerarse como un prototipo de un mundo en el que «la funcionalidad de los ordenadores está por todas partes»[103]. La experiencia de los pilotos también revela la conexión sutil, pero muchas veces intensa, entre el modo en que se diseñan los sistemas automatizados y la forma en que funcionan las mentes y los cuerpos de las personas que usan esos sistemas. El incremento de la evidencia sobre la degradación de las habilidades, el nublamiento de las percepciones y la desaceleración de las reacciones debería obligarnos a todos a una pausa. A medida que empezamos a vivir nuestras vidas en cabinas de cristal, parecemos destinados a descubrir lo que los pilotos ya saben: una cabina de cristal también puede ser una jaula de cristal.

4. EL EFECTO DEGENERATIVO

4. EL EFECTO DEGENERATIVO.

Hace cien años, en su libro An Introduction to Mathematics [«Introducción a las matemáticas»], el filósofo británico Alfred North Whitehead escribió que «la civilización avanza aumentando el número de operaciones importantes que podemos efectuar sin pensar en ellas». Whitehead no estaba escribiendo sobre las máquinas. Estaba escribiendo sobre el uso de símbolos matemáticos para representar ideas o procesos lógicos: un ejemplo temprano de cómo el trabajo intelectual puede encapsularse en un código. Pero quería que su observación fuera tomada en sentido amplio. La noción común de que «deberíamos cultivar el hábito de pensar en lo que estamos haciendo», afirmaba, es «profundamente errónea». Cuanto más podamos relevar a nuestras mentes de faenas rutinarias, descargando las tareas en asistentes tecnológicos, más poder mental podremos almacenar para las formas más profundas y creativas de razonamiento y especulación. «Las operaciones de pensamiento son como las cargas de caballería en una batalla: están estrictamente limitadas en número, requieren caballos frescos y solo deben hacerse en momentos decisivos»[104].

Es difícil imaginar una expresión de fe más sucinta o confiada en la automatización como piedra angular del progreso. Implícita en las palabras de Whitehead está la creencia en una jerarquía de la acción humana. Cada vez que entregamos un trabajo a una herramienta o a una máquina, o a un símbolo o algoritmo de software, nos liberamos para encaramarnos a un objetivo más alto, algo que requiere mayor destreza, una inteligencia más capaz o una perspectiva más amplia. Quizá perdamos algo en cada paso hacia arriba, pero lo que ganamos al final es mucho mayor. Llevado al extremo, el concepto de Whitehead de la automatización como liberación se convierte en el utopismo tecnológico de Wilde y Keynes, o de Marx en sus momentos más positivos: el sueño de que las máquinas nos liberarán de nuestras labores terrenales y nos devolverán al edén de los placeres ociosos. Pero Whitehead no tenía la cabeza en las nubes. Estaba apuntando un argumento pragmático sobre cómo emplear nuestro tiempo y aplicar nuestro esfuerzo. En una publicación de la década de 1970, el Departamento de Trabajo de Estados Unidos resumía el trabajo de las secretarias así: «Relevan a sus jefes de tareas rutinarias para que puedan trabajar en asuntos más importantes»[105]. El software y otras tecnologías de la automatización, en la visión de Whitehead, juegan un papel análogo.

La historia ofrece numerosas pruebas que respaldan a Whitehead. Las personas han estado transfiriendo trabajos rutinarios, tanto físicos como mentales, a todo tipo de herramientas desde la invención de la palanca, la rueda y el ábaco. La transferencia de trabajo nos ha permitido abordar desafíos más espinosos y alcanzar logros superiores. Ha sucedido en la granja, en la fábrica, en el laboratorio, en casa. Pero no deberíamos tomar la observación de Whitehead como una verdad universal. Escribía cuando la automatización estaba limitada a tareas definidas, precisas y repetitivas, como tejer un material con un telar a vapor, recoger cereales con una cosechadora, multiplicar números con una regla de cálculo. La automatización es diferente ahora. Los ordenadores, como hemos visto, pueden programarse para realizar o apoyar actividades complejas en las que una sucesión de tareas firmemente coordinadas se llevan a cabo mediante una evaluación de muchas variables. En los sistemas automatizados actuales el ordenador asume con frecuencia trabajo intelectual —observando y percibiendo, analizando y valorando, tomando incluso decisiones— que hasta hace poco era considerado terreno acotado para los humanos. La persona que maneja el ordenador ocupa el rol de un empleado de la tecnología que introduce datos, monitoriza las respuestas y busca fallos. En lugar de abrir nuevas fronteras de pensamiento y acción a sus colaboradores humanos, el software estrecha nuestra perspectiva. Cambiamos talentos sutiles y especializados por otros más rutinarios y menos distintivos.

La mayoría de nosotros asume, como hizo Whitehead, que la automatización es benigna, que nos eleva a misiones superiores sin alterar, por otra parte, nuestra forma de comportarnos o de pensar. Es una falacia, una expresión de lo que los académicos de la automatización han venido a llamar «el mito de la sustitución». Un dispositivo que reduce el volumen de trabajo no solo ofrece un sustituto para algún componente aislado de un trabajo. Altera la naturaleza de toda la actividad, incluidos los roles, las actitudes y la destreza de las personas que participan en ella. Como explicó Raja Parasuraman en un artículo académico publicado en el año 2000, «la automatización no solo suplanta la actividad humana, sino que más bien la cambia, con frecuencia de manera no intencionada ni anticipada por los diseñadores»[106]. La automatización rehace tanto el trabajo como al trabajador.

* * *

Cuando las personas abordan una tarea con la ayuda de ordenadores, son víctimas muchas veces de un par de afecciones cognitivas: la complacencia automatizada y el sesgo por la automatización. Ambas revelan las trampas que nos esperan cuando tomamos el camino de Whitehead y realizamos operaciones importantes sin pensar en ellas.

La complacencia automatizada tiene lugar cuando un ordenador nos atonta en una falsa sensación de seguridad. Estamos tan confiados en que la máquina trabajará inmaculadamente y solucionará cualquier imprevisto que dejamos nuestra atención a la deriva. Nos desenganchamos de nuestro trabajo, o al menos de la parte de él que maneja el software, y podemos como resultado de ello perdernos señales de que algo va mal. La mayoría de nosotros hemos experimentado complacencia ante un ordenador. Cuando usamos el correo electrónico o un procesador de texto, relajamos nuestras facultades de corrección si está activada la autocorrección[107]. Es un simple ejemplo, que como mucho puede llevar a un momento embarazoso. Pero como muestra la experiencia a veces trágica de los aviadores, la complacencia automatizada puede tener consecuencias letales. En los peores casos, las personas confían tanto en la tecnología que su percepción de lo que sucede a su alrededor desaparece completamente. Desconectan. Si surge un problema de repente, puede que se aturullen y pierdan instantes preciosos para reorientarse.

Esta complacencia automatizada ha sido documentada en muchas situaciones de alto riesgo, desde campos de batalla hasta salas de control en fábricas, pasando por los puentes de mando de barcos y submarinos. Un caso arquetípico implicó a un transatlántico con 1500 pasajeros a bordo llamado Royal Majesty, que en la primavera de 1995 navegaba de las islas Bermudas a Boston en la última etapa de un crucero de una semana. El barco estaba equipado con un sistema de navegación automatizado de última generación que usaba señales GPS para mantener el rumbo. Una hora después de zarpar, el cable de la antena GPS se soltó y el sistema de navegación perdió su rumbo. Continuó dando indicaciones, pero ya no eran precisas. Durante más de 30 horas, a medida que el barco se desviaba lentamente de su ruta prevista, el capitán y la tripulación no se dieron cuenta del problema, a pesar de existir señales claras de que el sistema había fallado. En un momento dado, un vigilante de guardia fue incapaz de avistar una importante boya localizadora junto a la que el barco debía pasar. No informó del hecho. Su confianza en el sistema de navegación era tal que asumió que la boya estaba allí y él simplemente no la vio. Desviado casi veinte millas de su ruta, el barco finalmente encalló en un banco de arena cerca de la isla Nantucket. Nadie resultó herido, afortunadamente, aunque la compañía del crucero perdió millones por daños. Investigadores de seguridad pública concluyeron que la complacencia por la automatización fue la causante del percance. Los responsables del barco «confiaron excesivamente» en el sistema automatizado, hasta el punto de ignorar otras ayudas de navegación e información relevantes que les hubiesen alertado de que estaban peligrosamente desviados. La automatización, afirmaron los peritos, tuvo «el efecto de dejar al marinero sin control significativo ni participación activa en el gobierno del barco»[108].

La complacencia puede afectar a las personas que trabajan en oficinas al igual que a aquellos que manejan aviones y barcos. En un estudio sobre cómo el software de diseño ha influido en el sector de la construcción, la socióloga del MIT Sherry Turkle documentó un cambio en la atención a los detalles de los arquitectos. Cuando los planos se dibujaban a mano, los arquitectos revisaban laboriosamente todas las medidas antes de entregar copias a los equipos de construcción. Los arquitectos sabían que eran falibles, que podían meter la pata ocasionalmente, y seguían por ende un antiguo dictado de los carpinteros: mide dos veces y corta una sola vez. Con planos generados por ordenador, son menos cuidadosos al verificar medidas. La aparente precisión de los cálculos e impresiones digitales les lleva a asumir que los datos son correctos. «Parece presuntuoso revisarlos», le dijo un arquitecto a Turkle; «quiero decir, ¿puedo hacerlo mejor que un ordenador? Él es preciso hasta en centésimas de pulgada». Tal complacencia, que pueden compartir ingenieros y obreros, ha llevado a errores costosos de planificación y construcción. Los ordenadores no meten la pata, nos decimos a nosotros mismos, incluso sabiendo que sus respuestas son tan buenas como nuestras órdenes. «Cuanto más sofisticado es un ordenador», observó uno de los estudiantes de Turkle, «más empiezas a asumir que está corrigiendo tus errores, más empiezas a creer que lo que sale de la máquina es exactamente como debería ser. Es algo visceral»[109].

El sesgo por la automatización está íntimamente relacionado con la complacencia. Surge cuando las personas dan un peso excesivo a la información que aparece en sus monitores. La creen incluso cuando la información es errónea o engañosa. Su confianza en el software se vuelve tan intensa que ignoran o desechan otras fuentes de información, incluidos sus propios sentidos. Si alguna vez se ha visto perdido o trazando círculos después de seguir servilmente direcciones equivocadas o desactualizadas de un GPS o alguna otra herramienta digital de mapas, ha sentido los efectos del sesgo. Incluso personas que se dedican al transporte pueden desplegar una falta alarmante de sentido común cuando deciden confiar en la navegación por satélite. Ignorando señales de circulación y elementos del entorno, seguirán rutas arriesgadas y acabarán, en ocasiones, chocando contra pasos a nivel o viéndose encerrados en calles estrechas de ciudades pequeñas. En Seattle, en 2008, el conductor de un autobús de tres metros y medio de altura que transportaba un equipo deportivo de instituto se estrelló contra un puente de hormigón con una holgura de menos de tres metros. La parte superior del autobús fue arrancada de cuajo y veintiún estudiantes heridos hubieron de ser llevados al hospital. El conductor dijo a la Policía que había estado siguiendo instrucciones GPS y «no vio» las señales y luces que avisaban de la cercanía de un puente bajo[110].

El sesgo por la automatización es un riesgo singular para las personas que utilizan software de apoyo para la toma de decisiones en análisis y diagnósticos. Desde finales de la década de 1990, los radiólogos han venido utilizando sistemas de detección asistidos por ordenador que resaltan áreas sospechosas en mamografías y otras pruebas de rayos X. Una versión digital de una imagen se escanea en un ordenador y un software de correspondencia de patrones lo revisa y añade flechas u otros «avisos» para sugerir zonas que el doctor debería inspeccionar con mayor detenimiento. En algunos casos estos avisos ayudan a descubrir una enfermedad, guiando a los radiólogos a identificar cánceres potenciales que de otra manera podrían haber pasado inadvertidos. Pero los estudios revelan que las ayudas pueden tener el efecto contrario. Sesgados por las sugerencias del ordenador, los médicos pueden acabar prestando atención superficial a las zonas de la imagen que no han sido resaltadas, pasando por alto a veces un tumor en su etapa inicial y otras anormalidades. Los avisos pueden aumentar también la probabilidad de falsos positivos, cuando un radiólogo llama de nuevo a un paciente para una biopsia innecesaria. Un reciente estudio sobre datos de mamografías, llevado a cabo por un grupo de investigadores de la City University of London, indica que este sesgo ha tenido un efecto mayor de lo que pensábamos sobre los radiólogos y otros lectores de imágenes. Los investigadores descubrieron que mientras la detección asistida por ordenador tiende a mejorar la fiabilidad de «lectores menos perspicaces» a la hora de evaluar «casos relativamente fáciles», pueden en realidad afectar al rendimiento de lectores expertos cuando evalúan casos complicados. Cuando se fían del software, los expertos son más proclives a pasar por alto determinados cánceres[111]. Los sesgos sutiles inspirados por asistentes informáticos pueden, además, ser «una parte inherente del aparato cognitivo humano para reaccionar a señales y alarmas»[112]. Al dirigir el foco de nuestros ojos, el asistente distorsiona nuestra visión.

Tanto la complacencia como el sesgo parecen provenir de limitaciones en nuestra capacidad de prestar atención. Nuestra tendencia hacia la complacencia revela cuán fácilmente puede menguar nuestra concentración y conciencia cuando no se nos pide que interactuemos regularmente con nuestro entorno. Nuestra propensión al sesgo al evaluar y sopesar información demuestra que nuestro foco mental es selectivo y puede desvirtuarse fácilmente por una confianza errónea o incluso la aparición de avisos presuntamente útiles. Tanto la complacencia como el sesgo tienden a agudizarse con el aumento de la calidad y fiabilidad de un sistema automatizado[113]. Los experimentos muestran que si un sistema comete errores con cierta frecuencia, mantenemos la alerta. Mantenemos la conciencia sobre nuestro entorno y seguimos minuciosamente la información de diversas fuentes. Pero si un sistema es más fiable y se cae o comete errores muy ocasionalmente, nos volvemos perezosos. Empezamos a asumir que el sistema es infalible.

Dado que los sistemas automatizados funcionan habitualmente bien, incluso cuando perdemos percepción u objetividad, raramente somos penalizados por nuestra complacencia o nuestro sesgo. Eso acaba complicando el problema, como señaló Parasuraman en un artículo que escribió en 2010 con su colega alemán Dietrich Manzey. «Dada la fiabilidad normalmente alta de los sistemas automatizados, un comportamiento incluso altamente complaciente y sesgado de los operadores raramente acarrea consecuencias obvias en el rendimiento», escribieron los académicos. La falta de feedback negativo puede con el tiempo inducir «un proceso cognitivo que se asemeja a lo que ha sido descrito como “despreocupación aprendida”»[114]. Piense en conducir un coche mientras tiene sueño. Si empieza a cabecear y se desvía de su carril, lo normal es que el vehículo se dirija hacia el arcén y golpee las bandas sonoras laterales o que se gane un bocinazo de otro conductor, señales que en cualquier caso le despiertan abruptamente. Si está en un coche que automáticamente le mantiene en su carril vigilando las líneas de demarcación y ajustando el volante, no recibirá tales avisos. Caerá en un sopor más profundo. Si algo inesperado sucede entonces —un animal aparece en la carretera, o un coche se detiene delante del suyo—, es mucho más probable que sufra un accidente. Al aislarnos de cualquier feedback negativo, la automatización nos dificulta permanecer alerta y comprometidos. Desconectamos aún más si cabe.

* * *

Nuestra susceptibilidad a la complacencia y al sesgo explica cómo la confianza en la automatización puede conducir a errores por comisión y por omisión. Aceptamos y actuamos sobre información que resulta ser incorrecta o incompleta, o no vemos cosas que deberíamos haber visto. Pero la manera en que la dependencia de los ordenadores debilita la percepción y la atención apunta también a un problema más insidioso. La automatización tiende a hacernos pasar de ser actores a observadores. En lugar de manipular el mando, miramos la pantalla. El cambio puede facilitarnos la vida, pero también puede inhibir nuestra capacidad de aprender y adquirir experiencia. Independientemente de que la automatización mejore o empeore nuestro rendimiento en una determinada actividad, a largo plazo puede afectar a nuestras habilidades existentes o impedir que adquiramos otras nuevas.

Desde finales de la década de 1970 los psicólogos cognitivos vienen documentando un fenómeno llamado el efecto generación. Fue observado por primera vez en unos estudios sobre vocabulario que revelaron que las personas recuerdan palabras mucho mejor cuando las traen activamente a la mente —cuando las generan— que cuando las leen en una página. En un experimento pionero y célebre dirigido por el psicólogo de la Universidad de Toronto Norman Slamecka, un grupo de personas usaron tarjetas para memorizar pares de antónimos, como caliente y frío. Algunos de los participantes en la prueba recibieron tarjetas que tenían ambas palabras enteras impresas, así:

CALIENTE: FRÍO

Otros usaron cartas que solo mostraban la primera letra de la segunda palabra, así:

CALIENTE: F

Las personas que usaron las tarjetas en las que faltaban letras tuvieron muchos mejores resultados en un test subsiguiente que medía qué tal recordaban los pares de palabras. Forzar simplemente sus mentes a llenar el espacio en blanco, a actuar en lugar de observar, condujo a una mayor retención de información[115].

Ha quedado claro desde entonces que el efecto generación influye en la memoria y el aprendizaje en circunstancias muy diferentes. Algunos experimentos han demostrado el efecto en tareas que implican no solo recordar letras y palabras, sino también números, imágenes y sonidos, resolución de problemas matemáticos, respuestas a preguntas «de Trivial» y comprensión de textos leídos. Estudios recientes también han demostrado los beneficios del efecto generación en formas superiores de docencia y aprendizaje. Un artículo de Science publicado en 2011 mostró que los estudiantes que leyeron un trabajo científico complejo durante un periodo de estudio y luego pasaron un segundo periodo tratando de recordar de él tanto como fuera posible, sin ayudas, asimilaron el material más profundamente que los estudiantes que leyeron el trabajo repetidamente en el transcurso de cuatro periodos de estudio[116]. El acto mental de generación mejora la capacidad de desempeñar actividades que, como escribió el investigador educativo Britte Haugan Cheng, «requieren razonamiento conceptual y un procesamiento cognitivo más profundo». De hecho, dice Cheng, el efecto generación parece reforzarse cuanto más complejo es el material generado por el cerebro[117].

Psicólogos y neurocientíficos están tratando todavía de aclarar qué sucede en nuestras mentes para que surja el efecto generación. Pero está claro que tiene relación con procesos cognitivos profundos y con la memoria. Si trabajamos mucho en algo, si hacemos de ello el foco de nuestra atención y nuestro esfuerzo, nuestra mente nos recompensa con una mayor comprensión. Recordamos más y aprendemos más. Con el tiempo, adquirimos conocimiento práctico, un talento particular para actuar con fluidez, pericia y comprensión del mundo. No es ninguna sorpresa. La mayoría de nosotros sabe que la única manera de hacer bien algo es, efectivamente, haciéndolo. Resulta fácil obtener información rápidamente de la pantalla de un ordenador —o de un libro, sin ir más lejos—. Pero el conocimiento genuino, especialmente del tipo que se aloja en la profundidad de nuestra memoria y se manifiesta en habilidades, es más esquivo. Requiere un esfuerzo vigoroso y prolongado con una tarea exigente.

Los psicólogos australianos Simon Farrell y Stephan Lewandowsky establecieron la conexión entre automatización y el efecto generación en un artículo publicado en el año 2000. En el experimento de Slamecka, señalaron, proporcionar la segunda palabra de un par de antónimos, en lugar de forzar a una persona a traer la palabra a su mente, «puede considerarse un caso de automatización porque una actividad humana —la generación de la palabra “frío” por parte de los participantes— ha sido obviada por un estímulo impreso». Por extensión, «la reducción del rendimiento que se observa cuando la generación se sustituye por la lectura puede ser considerada una manifestación de complacencia»[118]. Ello ayuda a descubrir el coste cognitivo de la automatización. Si realizamos una tarea o un trabajo por nuestra cuenta, usamos al parecer diferentes procesos mentales que cuando confiamos en la ayuda de un ordenador. Si el software reduce nuestra implicación con el trabajo, y en particular si nos empuja a un rol más pasivo, como observador o controlador, eludimos el procesamiento cognitivo profundo que sostiene el efecto generación. Como resultado, obstaculizamos nuestra capacidad de acumular la clase de conocimiento rico y real que conduce a la sabiduría práctica. El efecto generación requiere precisamente el tipo de esfuerzo que la automatización busca aliviar.

En 2004 Christof van Nimwegen, un psicólogo cognitivo de la Universidad de Utrecht, en Holanda, comenzó una serie de experimentos simples pero ingeniosos para investigar los efectos del software en la formación de la memoria y el desarrollo de la destreza[119]. Reclutó dos grupos de personas y les hizo jugar a un juego de ordenador basado en un clásico rompecabezas lógico llamado «Misioneros y caníbales». Para completar el acertijo, un jugador debe transportar a través de un río hipotético a cinco misioneros y cinco caníbales (o, en la versión de Van Nimwegen, cinco pelotas amarillas y cinco pelotas azules) usando un barco que no puede acomodar a más de tres pasajeros a la vez. La parte complicada es que nunca puede haber más caníbales que misioneros en un lugar, ya sea el barco o la ribera del río. (Si quedan en minoría, se supone que los misioneros se convertirán en la cena de los caníbales). Descifrar la serie de viajes que debe hacer el barco para completar esta tarea de la mejor manera requiere un análisis riguroso y una planificación cuidadosa.

Uno de los grupos de Van Nimwegen trabajó en el acertijo usando un software que ofrecía asistencia paso a paso: por ejemplo, alertas en pantalla sobre qué movimientos eran admisibles y cuáles no. El otro grupo usó un programa rudimentario que no ofrecía ayuda. Como es de esperar, el grupo que usaba el software más avanzado progresó con mayor rapidez al principio. Podían seguir las alertas en lugar de tener que parar antes de cada movimiento para recordar las reglas y determinar cómo se aplicaban a la nueva situación. Pero a medida que el juego avanzaba, los jugadores que utilizaban el software rudimentario empezaron a sobresalir. Al final, fueron capaces de resolver el rompecabezas más eficientemente, con un número significativamente menor de movimientos erróneos, que sus rivales con asistencia. En su informe sobre el experimento, Van Nimwegen concluyó que los individuos que usaban el programa rudimentario desarrollaron una comprensión conceptual más clara de la tarea. Eran capaces de planificar y urdir una estrategia exitosa. Los que dependían de la guía del software, por el contrario, se confundían con frecuencia y «pulsaban el ratón sin orden ni concierto».

La penalización cognitiva impuesta por la ayuda del software se hizo aún más patente ocho meses después, cuando Van Nimwegen puso a las mismas personas a resolver el acertijo de nuevo. Los que habían utilizado el software rudimentario anteriormente terminaron el juego casi el doble de rápidamente que sus adversarios. Los individuos que usaban el programa básico, escribió, mostraban «más atención» durante la tarea y «una mayor fijación del conocimiento» después. Disfrutaban de los beneficios del efecto generación. Van Nimwegen y algunos de sus colegas de Utrecht siguieron realizando experimentos que contenían tareas más realistas, como utilizar un software de calendario para organizar reuniones y un software de planificación de eventos para asignar conferenciantes a salas. Los resultados fueron los mismos. Las personas que confiaban en la ayuda de las alertas del software mostraban menos razonamiento estratégico, hacían más movimientos superfluos y acababan con una comprensión conceptual más débil de la tarea. Los que usaban programas menos útiles planificaban mejor, trabajaban más inteligentemente y aprendían más[120].

Lo que observó Van Nimwegen en su laboratorio (que al automatizar tareas cognitivas como la resolución de problemas ponemos trabas a la capacidad de la mente para traducir la información en conocimiento, y este en práctica efectiva) también está siendo documentado en el mundo real. En muchos sectores, directivos y otros profesionales dependen de los llamados sistemas expertos para clasificar y analizar información y sugerir líneas de acción. Los contables, por ejemplo, usan para la toma de decisiones en auditorías empresariales. Las aplicaciones aceleran el trabajo, pero existen señales de que a medida que aumenta la capacidad del software decrece la de los contables. Un estudio realizado por un grupo de profesores australianos examinó los efectos de los sistemas expertos utilizados por tres firmas internacionales de auditoría. Dos de las compañías empleaba un software avanzado que, basado en las respuestas de un auditor a preguntas básicas sobre un cliente, recomendaba una serie de riesgos empresariales relevantes para incluir en el informe de auditoría del cliente. La tercera firma usaba un software más simple que proporcionaba una lista de riesgos potenciales pero exigía una revisión del auditor, que debía después seleccionar manualmente los pertinentes para el informe. Los investigadores dieron a los auditores de cada empresa un test para medir su conocimiento de los riesgos en industrias en las que habían realizado auditorías. Los profesionales de la empresa que utilizaba el software menos capaz mostraron una comprensión significativamente superior de las formas diferentes de riesgo que los de las otras dos empresas. El declive del aprendizaje asociado con el uso de software avanzado afectó incluso a auditores veteranos, con más de cinco años de experiencia en su empresa actual[121].

Otros estudios de sistemas expertos revelan efectos similares. La investigación indica que mientras el software de ayuda para la toma de decisiones puede ayudar a analistas principiantes a hacer mejores juicios a corto plazo, también puede hacerles mentalmente perezosos. Al disminuir la intensidad de su pensamiento, el software retrasa su capacidad de codificar información en la memoria, lo que les hace menos proclives a desarrollar el rico conocimiento tácito que es esencial para ser un auténtico experto[122]. Las desventajas de las ayudas automatizadas para tomar decisiones pueden ser sutiles, pero tienen consecuencias reales, particularmente en campos en los que los errores analíticos tienen repercusiones importantes. Los errores en el cálculo de riesgos, exacerbados por programas informatizados para transacciones de alta velocidad, desempeñaron un papel central en la crisis casi definitiva del sistema financiero mundial en 2008. Como sugirió el profesor de Gestión Empresarial de la Tufts University Amar Bhidé, los «métodos robóticos» de toma de decisiones provocaron un «déficit de juicio» generalizado entre banqueros y otros profesionales de Wall Street[123]. Si bien puede ser imposible determinar el grado exacto en que la automatización participó de ese desastre, o en fiascos posteriores como la quiebra financiera de los mercados estadounidenses en 2010, parece prudente tomar con seriedad cualquier indicación de que una tecnología ampliamente utilizada pueda estar afectando a nuestro conocimiento o nublando el entendimiento de personas con empleos delicados. En un artículo publicado en 2013, los especialistas en informática Gordon Baxter y John Cartlidge advirtieron de que la dependencia de la automatización está erosionando las habilidades y el conocimiento de profesionales financieros a la vez que los sistemas de transacción informatizados hacen que los mercados financieros sean más arriesgados[124].

Algunos programadores de software están preocupados por la posibilidad de que el impulso de su profesión por aligerar la carga del pensamiento esté teniendo un impacto negativo en su propia capacidad. Los programadores de hoy utilizan con frecuencia unas aplicaciones llamadas «entornos de desarrollo integrados» (o IDE, según sus siglas en inglés) para ayudarles a componer el código. Las aplicaciones automatizan muchas tareas complejas que llevan tiempo. Suelen incorporar funciones de autocompletar, corrección de errores y depuración de programas, y las más sofisticadas pueden evaluar y revisar la estructura de un programa mediante un proceso conocido como refactorización. Pero a medida que las aplicaciones asumen el trabajo de codificación, los programadores pierden oportunidades de practicar su oficio y afilar su talento. «Las modernas IDE se están volviendo tan “útiles” que a veces me siento como un operador IDE en lugar de un programador», escribe Vivek Haldar, un veterano desarrollador de software que trabaja en Google. «El comportamiento al que inducen todas estas herramientas no es “piensa detenidamente en tu código y escríbelo con cuidado”, sino “es suficiente con que escribas un primer borrador birrioso de tu código, porque después las herramientas te dirán no solo lo que está mal, sino también cómo hacerlo mejor”». Su veredicto: «Herramientas capaces, mentes atrofiadas»[125].

Incluso Google ha reconocido que ha visto un efecto adormecedor en el público en general a medida que ha hecho su buscador más sensible y solícito, mejor capacitado para predecir lo que la gente está buscando. Google va más allá de corregir sus erratas; sugiere términos de búsqueda mientras tecleamos, resuelve ambigüedades semánticas en nuestras peticiones y anticipa nuestras necesidades basándose en dónde estamos y cómo nos hemos comportado en el pasado. Podríamos suponer que, a medida que Google mejora y nos ayuda a refinar nuestras búsquedas, aprenderíamos de su ejemplo. Nos volveríamos más sofisticados al formular palabras clave y, en general, perfilando nuestras búsquedas en Internet. Pero según el ingeniero jefe de búsquedas de la compañía, Amit Singhal, sucede lo opuesto. En 2013 un periodista del periódico londinense The Observer entrevistó a Singhal sobre las numerosas mejoras incorporadas al motor de búsqueda de Google al cabo de los años. «Presumiblemente», comentó el periodista, «nos hemos vuelto más precisos en nuestros términos de búsqueda cuanto más hemos usado Google». Singhal suspiró y, «un tanto cansado», corrigió al reportero: «En realidad, funciona al revés. Cuanto más precisa es la máquina, más perezosas son las preguntas»[126].

La facilidad de los motores de búsqueda puede poner en jaque algo más que nuestra capacidad de componer preguntas sofisticadas. Una serie de experimentos publicada en Science en 2011 indica que la disponibilidad inmediata de información en línea perjudica nuestra memoria fáctica. En uno de los experimentos, los sujetos que hacían el test leyeron unas cuantas docenas de afirmaciones sencillas y verídicas —«el ojo de un avestruz es mayor que su cerebro», por ejemplo— y después las escribieron en un ordenador. A la mitad de los individuos se les dijo que el ordenador grabaría lo que teclearan; a la otra mitad se le dijo que las afirmaciones serían borradas. A continuación, se pidió a los participantes que anotaran todas las afirmaciones que fueran capaces de recordar. Las personas que creían que la información se había guardado en el ordenador recordaban bastantes menos datos que aquellos que daban por hecho que las frases no se habían guardado. El solo hecho de saber que la información estará disponible en una base de datos parece reducir la probabilidad de que nuestros cerebros hagan el esfuerzo necesario para formar recuerdos. «Desde que los motores de búsqueda están continuamente disponibles para nosotros, podemos sentir con bastante frecuencia que no necesitamos codificar la información internamente», concluyeron los investigadores. «Cuando la necesitamos, la buscamos»[127].

Durante milenios las personas han suplementado su memoria biológica con tecnologías de almacenamiento, desde papiros a libros pasando por microfichas y cintas magnéticas. Las herramientas para grabar y distribuir información están en la base de la civilización. Pero almacenamiento externo y memoria biológica no son la misma cosa. El conocimiento implica más que buscar información; exige la codificación de datos y experiencias en la memoria personal. Para saber algo de verdad, tienes que hilarlo en tus circuitos neuronales y después retirarlo repetidamente de la memoria para ponerlo en uso. Con los motores de búsqueda y otros recursos informáticos hemos automatizado el almacenamiento y la retirada de información en un grado mucho mayor que nada que hayamos visto antes. La tendencia aparentemente innata de nuestras mentes a descargar, o externalizar, la labor de memorizar nos convierte de alguna manera en pensadores más eficientes. Podemos retomar rápidamente datos que se nos han olvidado. Pero esa misma tendencia puede volverse patológica cuando la automatización del trabajo mental hace demasiado fácil evitar el trabajo de recordar y comprender.

Google y otras compañías de software están, por supuesto, en el negocio de facilitar nuestras vidas. Eso es lo que les pedimos que hagan y es la razón por la que nos debemos a ellas. Pero a medida que sus programas se harán más expertos en pensar por nosotros empezamos naturalmente a depender más del software y menos de nuestros talentos. Somos menos proclives a impulsar nuestras mentes a practicar la generación. Cuando eso ocurre, terminamos aprendiendo menos y sabiendo menos. También nos volvemos menos capaces. Como ha comentado el experto en informática de la Universidad de Texas Mihai Nadin en relación al software moderno, «cuanto más reemplaza la interfaz al esfuerzo humano, menor es la adaptabilidad del usuario a situaciones nuevas»[128]. En lugar del efecto generación, la automatización informática nos da su reverso: el efecto degeneración.

* * *

Sigan conmigo mientras devuelvo su atención a aquel desdichado Subaru amarillo con transmisión manual. Como recordarán, pasé de ser un triste maltratador de cajas de cambios a ser un razonablemente buen usuario de la palanca de cambios en solo unas semanas de práctica. Los movimientos de brazos y piernas que me había enseñado por encima mi padre parecían ahora instintivos. Estaba lejos de ser un experto, pero cambiar de marcha ya no constituía un problema. Podía hacerlo sin pensar. Se había vuelto, en fin, automático.

Mi experiencia ofrece un modelo para el modo en que los humanos adquieren habilidades complicadas. Con frecuencia empezamos con alguna instrucción básica, recibida directamente de un profesor o mentor o indirectamente de un libro, manual o vídeo de YouTube que transfiere a nuestra mente consciente conocimiento explícito sobre cómo se realiza una tarea; haz esto, luego esto, después eso. Eso es lo que hizo mi padre cuando me enseñó dónde estaban las marchas y me explicó cuándo apretar el pedal. Como pronto descubrí, el conocimiento explícito solo te lleva hasta un cierto punto, particularmente cuando la tarea tiene un componente psicomotriz además de uno cognitivo. Para lograr maestría, debes desarrollar el conocimiento tácito, y ese solo viene a través de la experiencia real, mediante la práctica de la habilidad una y otra y otra vez. Cuanto más practicas, menos tienes que pensar en lo que estás haciendo. La responsabilidad por el trabajo se desplaza desde tu mente consciente, que tiende a ser lenta y a detenerse, a tu mente inconsciente, que es rápida y fluida. Al suceder eso, liberas tu mente consciente para focalizarse en los aspectos más sutiles de la habilidad, y cuando esos, a su vez, se vuelven automáticos, procedes al nivel superior. Sigue hacia adelante, sigue empujando, y al final, asumiendo que tengas alguna aptitud innata para la tarea, serás recompensado con la pericia.

Este proceso de formación de habilidades, mediante el que el talento viene a ser ejercitado sin pensamiento consciente, se conoce por el nombre, carente de gracia, de automatización, o incluso por el nombre de proceduralización, más carente de gracia aún. La automatización implica adaptaciones profundas y generalizadas en el cerebro. Ciertas células cerebrales, o neuronas, se afinan para acometer la tarea necesaria y trabajan en grupo a través de las conexiones electromecánicas proporcionadas por las sinapsis. El psicólogo cognitivo de la Universidad de Nueva York Gary Marcus ofrece una explicación más detallada: «A nivel neuronal, la proceduralización consiste en una amplia selección de procesos cuidadosamente coordinados, incluidos los cambios tanto en la materia gris (cuerpos celulares neuronales) como en la materia blanca (axones y dendritas que conectan a las neuronas entre sí). Las conexiones neuronales existentes (sinapsis) deben volverse más eficientes, deben formarse nuevas espinas dendríticas y han de sintetizarse proteínas»[129]. A través de las modificaciones neurales de la automatización, el cerebro desarrolla automaticidad, una capacidad para la percepción, interpretación y acción rápida e inconsciente que permite a la mente y al cuerpo reconocer patrones y responder a circunstancias cambiantes instantáneamente.

Todos nosotros hemos experimentado la automatización y alcanzado la automaticidad cuando aprendimos a leer. Observe a un niño pequeño en las fases iniciales de su instrucción en la lectura y será testigo de una lucha mental agotadora. El niño tiene que identificar cada letra estudiando su forma. Debe probar cómo combina una serie de letras para formar una sílaba y cómo combina una serie de sílabas para formar una palabra. Si no conoce la palabra ya, debe descubrir su significado o escucharlo de otra persona. Y entonces, palabra a palabra, debe interpretar el significado de una oración, con frecuencia resolviendo las ambigüedades inherentes al lenguaje. Es un proceso lento, meticuloso, que requiere la atención completa de la mente consciente. Poco a poco, sin embargo, las letras (y después las palabras) se codifican en las neuronas del córtex visual —la parte del cerebro que procesa la visión— y el joven lector comienza a reconocerlas sin pensamiento consciente. A través de una sinfonía de cambios cerebrales, la lectura se vuelve fácil. Cuanta mayor automaticidad desarrolla el niño, más fluido y competente será como lector[130].

Ya sea Wiley Post en la cabina de un avión, Serena Williams en una pista de tenis o Magnus Carlsen frente a un tablero de ajedrez, el talento extraterrestre del virtuoso surge de la automaticidad. Lo que parece instinto es destreza ganada a pulso. Esos cambios en el cerebro no suceden mediante la observación pasiva. Se generan a través de confrontaciones repetidas con lo inesperado. Requieren lo que el filósofo de la mente Hubert Dreyfus denomina «experiencia en una variedad de situaciones, todas vistas desde la misma perspectiva, pero que exigen decisiones tácticas diferentes»[131]. Sin un montón de práctica, repetición y ensayo de una habilidad en diferentes circunstancias usted y su cerebro nunca serán realmente hábiles en nada, al menos en nada complicado. Y sin práctica continuada, cualquier talento que posea se oxidará.

Se ha puesto de moda ahora sugerir que todo lo que hace falta es práctica. Trabaje una habilidad unas diez mil horas y será bendecido con la pericia de un experto: se convertirá en el próximo gran cocinero o pívot. Eso, por desgracia, es una exageración. Los rasgos genéticos, tanto físicos como intelectuales, juegan un papel importante en el desarrollo de un talento, particularmente en los niveles más altos de rendimiento. La naturaleza importa. Incluso nuestro deseo y aptitud para la práctica tiene, como señala Marcus, un componente genético: «Cómo respondemos a la experiencia, e incluso qué tipo de experiencia buscamos, son en sí mismas funciones, en parte, de los genes con los que nacemos»[132]. Pero si los genes establecen, al menos aproximadamente, los límites superiores del talento individual, será solo a través de la práctica como una persona pueda alcanzar esos límites y realizar su potencial. Las habilidades innatas marcan una gran diferencia, escriben los profesores de Psicología David Hambrick y Elizabeth Meinz, pero «la investigación ha dejado fuera de toda duda que una de las mayores fuentes de diferencias individuales de rendimiento en tareas complejas es sencillamente cuánto y qué saben las personas: conocimiento declarativo, procedimental y estratégico adquirido durante años de entrenamiento y práctica en un campo»[133].

La automaticidad, como deja claro su nombre, puede considerarse una suerte de automatización internalizada. Es la manera que tiene el cuerpo para convertir el trabajo difícil pero repetitivo en rutina. Los movimientos y procedimientos físicos quedan programados en la memoria muscular; se hacen interpretaciones y juicios tras el reconocimiento instantáneo de patrones ambientales aprehendidos por los sentidos. Los científicos descubrieron hace mucho tiempo que la mente consciente está sorprendentemente apretujada, viéndose limitada su capacidad para absorber y procesar información. Sin automaticidad, nuestra conciencia estaría perpetuamente sobrecargada. Incluso actos muy sencillos como leer una frase en un libro o cortar un trozo de filete con un cuchillo y un tenedor pondrían a prueba nuestra capacidad cognitiva. La automaticidad nos da mayor margen. Aumenta, por dar un nuevo giro a la observación de Alfred North Whitehead, «el número de operaciones importantes que podemos realizar sin pensar en ellas».

Las herramientas y otras tecnologías, en su mejor versión, hacen algo similar, como vislumbró Whitehead. La capacidad del cerebro para la automaticidad tiene límites propios. Nuestra mente inconsciente puede realizar muchas funciones rápida y eficientemente, pero no puede hacerlo todo. Puede que usted sea capaz de memorizar las tablas de multiplicar hasta doce o incluso veinte, pero probablemente tendría problemas para memorizar mucho más allá de eso. Incluso si su cerebro no se quedase sin memoria, se quedaría probablemente sin paciencia. Con una simple calculadora de bolsillo, sin embargo, puede automatizar incluso operaciones matemáticas muy complicadas, de las que abrumarían su cerebro no asistido, y liberar su mente consciente para evaluar qué significa toda esa matemática. Pero eso solo funciona si ya ha dominado la aritmética básica a través del estudio y la práctica. Si utiliza la calculadora para evitar el aprendizaje, para llevar a cabo operaciones que no ha aprendido y no entiende, la herramienta no abrirá nuevos horizontes. No le ayudará a sumar nuevo conocimiento y habilidades matemáticas. Será simplemente una caja negra, un mecanismo misterioso de producción de números. Será una barrera para el pensamiento superior en lugar de un acicate.

Eso es lo que la automatización informatizada hace con frecuencia hoy en día, y es la razón por la que la observación de Whitehead se ha vuelto engañosa como guía para las consecuencias de la tecnología. En lugar de ampliar la capacidad innata del cerebro para la automaticidad, el automatismo se convierte demasiadas veces en un impedimento para la automatización. Al relevarnos del ejercicio mental repetitivo, también nos releva del conocimiento profundo. Tanto la complacencia como el sesgo son síntomas de una mente que no está siendo desafiada, que no está comprometida totalmente con la clase de práctica cotidiana que genera conocimiento, enriquece la memoria y construye habilidades. El problema es agravado por el modo en que los sistemas informatizados nos distancian del feedback directo e inmediato sobre nuestros actos. Según el psicólogo K. Anders Ericsson, experto en desarrollo del talento, el feedback regular es esencial para la construcción de habilidades. Es lo que nos permite aprender de nuestros errores y nuestros éxitos. «A falta de un feedback adecuado», explica Ericsson, «el aprendizaje eficiente es imposible y el progreso solo mínimo, incluso para individuos altamente motivados»[134].

Automaticidad, generación, flujo: estos fenómenos mentales son diversos, complicados, y su sostén biológico se conoce solo difusamente. Pero están todos relacionados, y nos dicen algo importante sobre nosotros mismos. La clase de esfuerzos que alumbran el talento —caracterizados por tareas estimulantes, metas claras y feedback directo— son muy similares a aquellos que nos proporcionan una sensación de flujo. Son experiencias envolventes. Describen también los tipos de trabajo que nos fuerzan a generar activamente conocimiento en lugar de absorber pasivamente información. Cultivar nuestra destreza, ensanchar nuestro entendimiento y lograr satisfacción y realización personales son todas tareas interconectadas. Y todas requieren conexiones firmes, físicas y mentales, entre el individuo y el mundo. Todas requieren, por citar al filósofo estadounidense Robert Talisse, «ensuciarte las manos con el mundo y dejar que el mundo se revuelva contra uno de una cierta manera»[135]. La automaticidad es la inscripción que el mundo deja en la mente activa y el yo activo. El conocimiento práctico es la prueba de la riqueza de esa inscripción.

Desde los alpinistas hasta los cirujanos o los pianistas, explica Mihaly Csikszentmihalyi, las personas que «encuentran habitualmente un profundo placer en una actividad ilustran cómo un conjunto organizado de retos y un conjunto correspondiente de habilidades derivan en una experiencia óptima». Los empleos o aficiones en los que se aplican «conceden oportunidades magníficas para la acción», mientras que las habilidades que desarrollan les permiten aprovechar al máximo esas oportunidades. La capacidad de actuar con aplomo en el mundo nos convierte a todos en artistas. «La absorción fácil y fluida que experimenta el artista cultivado cuando trabaja en un proyecto difícil siempre se sustenta sobre una maestría previa en un cuerpo complejo de habilidades»[136]. Cuando la automatización nos distancia de nuestro trabajo, cuando se interpone entre nosotros y el mundo, borra el arte de nuestras vidas.

INTERLUDIO, CON RATONES BAILARINES

INTERLUDIO, CON RATONES BAILARINES.

«Desde 1903 he tenido bajo observación constante entre dos y cien ratones bailando». Tal fue la confesión del psicólogo de Harvard Robert M. Yerkes en el capítulo inicial de su libro El baile de los ratones (1907), una oda de 290 páginas a los roedores. Pero no cualquier roedor. El ratón bailarín, predijo Yerkes, demostraría ser tan importante para el conductista como lo fue la rana para el anatomista.

Cuando un médico local de Cambridge regaló un par de ratones danzarines al Laboratorio Psicológico de Harvard, Yerkes se sintió decepcionado. Parecía «un incidente sin importancia en el curso de mi trabajo científico». Pero en un plazo corto de tiempo se encaprichó con las pequeñas criaturas y su hábito de «dar vueltas en un mismo punto con increíble rapidez». Otorgó puntuaciones para cada uno, asignándoles un número y llevando un registro meticuloso de sus marcas, sexo, fecha de nacimiento y descendencia. El ratón danzarín era un «animal realmente admirable», escribió, más pequeño y débil que el ratón promedio —apenas era capaz de sostenerse por sí mismo o «agarrarse a un objeto»—, pero era «un sujeto ideal para el estudio experimental de muchos de los problemas del comportamiento animal». La raza «se dejaba cuidar y domesticar fácilmente, era inofensiva, incesantemente activa y se prestaba satisfactoriamente a una gran cantidad de situaciones experimentales»[137].

En aquella época la investigación psicológica usando animales era todavía nueva. Ivan Pavlov había empezado sus experimentos con perros que salivaban en la década de 1890, y no fue hasta 1900 cuando un estudiante estadounidense llamado Willard Small dejó caer una rata en un laberinto y la observó corretear libremente. Con sus ratones bailarines, Yerkes expandió enormemente el ámbito de los estudios animales. Como documentó en El baile de los ratones, usó los roedores como sujetos de prueba en la exploración de, entre otras cosas, balance y equilibrio, visión y percepción, aprendizaje y memoria, y la herencia de los rasgos de comportamiento. Los ratones eran «fomentadores de experimentos», escribió. «Cuanto más tiempo los observaba y experimentaba con ellos, más numerosos eran los problemas que los bailarines me presentaban para que yo buscarse una solución»[138].

A comienzos de 1906, Yerkes empezó los que terminarían siendo sus experimentos más importantes e influyentes con los bailarines. Trabajando con su estudiante John Dillingham Dodson, puso, uno a uno, a cuarenta ratones en una caja de madera. En un extremo de la caja había dos pasadizos, un pintado de blanco y el otro de negro. Si un ratón intentaba entrar en el pasadizo negro, recibía, como escribirían más tarde Yerkes y Dodson, «una desagradable descarga eléctrica». La intensidad de la descarga variaba. Algunos ratones recibían una descarga leve, otros una fuerte y otros una moderada. Los investigadores querían averiguar si la fuerza del estímulo influiría en la velocidad con que los ratones aprendían a evitar el pasadizo negro y entrar en el blanco. Lo que descubrieron les sorprendió. Los ratones que recibían la descarga débil eran relativamente lentos para distinguir los pasadizos negro y blanco, como cabía esperar. Pero los ratones que recibían la descarga fuerte exhibían un aprendizaje igualmente lento. Los roedores que comprendían más rápidamente la situación y modificaban su comportamiento eran los que recibían una descarga moderada. «Contrariamente a nuestras expectativas», explicaron los científicos, «este conjunto de experimentos no probó que la velocidad de formación de hábitos crece con el aumento de la fuerza del estímulo eléctrico hasta el punto en el que la descarga se convierte en claramente lesiva. En lugar de eso, se demostró que un rango intermedio de estimulación era el más favorable a la adquisición de un hábito»[139].

Una serie posterior de pruebas trajo otra sorpresa. Los científicos sometieron a un nuevo grupo de ratones al mismo ejercicio, pero esta vez aumentaron el brillo de la luz en el pasadizo blanco y atenuaron la luz en el negro, para reforzar el contraste visual entre ambos. Bajo estas condiciones, los ratones que recibían la descarga más fuerte eran los más rápidos a la hora de evitar la entrada negra. El aprendizaje no se perdía, como había pasado en la primera ronda. Yerkes y Dodson rastrearon la diferencia en el comportamiento de los roedores hasta dar con el dato de que la configuración del segundo experimento había puesto las cosas más fáciles para los animales. Gracias al mayor contraste visual, los ratones no tenían que pensar tanto para distinguir los pasadizos y asociar la descarga con el pasillo oscuro. «La relación entre la fuerza del estímulo eléctrico y la rapidez de la formación del hábito depende de la dificultad del hábito», concluyeron[140]. A medida que una tarea se dificulta, la cantidad óptima de estimulación disminuye. En otras palabras, cuando los ratones afrontaban un desafío realmente complicado, tanto el estímulo inusualmente débil como el inusualmente fuerte impedían su aprendizaje. Como en el efecto Ricitos de Oro, un estímulo moderado inspiraba el mejor rendimiento.

Desde su publicación en 1908, el artículo que escribieron Yerkes y Dodson sobre los experimentos, «The Relation of Strength of Stimulus to Rapidity of Habit-Formation» [«Relación entre la intensidad del estímulo y la rapidez en la creación de hábito»], ha venido a ser reconocido como un hito en la historia de la psicología. El fenómeno que descubrieron, conocido como la ley Yerkes-Dodson, ha sido observado de varias formas, mucho más allá del mundo de los ratones bailarines y las puertas de diferentes colores. Afecta a las personas además de a los roedores. En su manifestación humana, la ley se describe habitualmente como una curva con silueta de campana que plantea la relación entre el rendimiento de una persona en una tarea difícil con el nivel de estimulación o excitación mental que la persona experimenta.

A niveles muy bajos de estimulación, la persona está tan poco comprometida e inspirada que parece moribunda; se generan líneas horizontales. Cuando la estimulación sube, el rendimiento se refuerza, aumentando permanentemente en el lado izquierdo de la curva acampanada hasta que alcanza un pico. Después, a medida que la estimulación sigue intensificándose, el rendimiento cae, descendiendo continuamente a lo largo del lado derecho de la campana. Al alcanzar la estimulación su nivel más intenso, la persona queda esencialmente paralizada por el estrés, lo cual genera de nuevo líneas planas. Al igual que los ratones bailarines, nosotros los humanos aprendemos y actuamos mejor si estamos en la cima de la curva Yerkes-Dodson, o sea, si nos sentimos motivados sin llegar a estar abrumados. En la cima de la campana entramos en el estado de flujo.

La ley Yerkes-Dodson ha resultado ser especialmente pertinente para el estudio de la automatización. Ayuda a explicar muchas de las consecuencias no esperadas de la introducción de ordenadores en lugares y procesos de trabajo. En los albores de la automatización se pensaba que el software, al encargarse de faenas rutinarias, reduciría la carga de trabajo de las personas y mejoraría su desempeño. Se asumía que carga de trabajo y rendimiento tenían una correlación inversa. Alivie la carga mental de una persona y hará el trabajo con mayor inteligencia y diligencia. La realidad ha demostrado ser más compleja. A veces los ordenadores tienen éxito al moderar la carga de trabajo de una forma que permite a una persona brillar en su trabajo, dedicando su atención entera a las tareas más acuciantes. En otros casos, la automatización termina reduciendo demasiado la carga de trabajo. El rendimiento del trabajador sufre a medida que se desliza hacia la parte izquierda de la curva Yerkes-Dodson.

Todos conocemos los efectos nocivos de la sobrecarga de información. Resulta que la escasez de información puede ser igualmente perjudicial. Aunque esté bien intencionado, hacer las cosas fáciles a las personas puede traer problemas. Los especialistas en factores humanos Mark Young y Neville Stanton han encontrado pruebas de que la «capacidad de atención» realmente «se encoge para acomodarse a reducciones en la carga de trabajo mental». En la operación de sistemas automatizados, sostienen, se han encontrado pruebas de que la «capacidad de atención» de una persona se «encoge para acomodarse a tareas mentales más reducidas». En el manejo de sistemas automatizados, alegan que «la poca carga es posiblemente más preocupante [que la sobrecarga], al ser más difícil de detectar»[141]. Los investigadores están preocupados por la posibilidad de que la laxitud producida por la baja carga de información vaya a constituir un peligro notable en las generaciones venideras de automatización de la automoción. Al asumir el software más tareas de conducción y frenado, la persona detrás del volante tendrá tan poco que hacer que desconectará. Para empeorar las cosas, el conductor probablemente haya recibido muy poco (o ningún) entrenamiento en el uso y los riesgos de la automatización. Puede que algunos accidentes cotidianos sean evitados, pero vamos a terminar con un número incluso mayor de malos conductores en las carreteras.

En los peores casos, la automatización añade en realidad exigencias inesperadas a las personas, cargándoles con trabajo extra y empujándolas hacia el lado derecho de la curva Yerkes-Dodson. Los especialistas se refieren a esto como la «paradoja de la automatización». Como explica Mark Scerbo, un experto de factores humanos de la Universidad Old Dominion de Virginia, «la ironía que subyace tras la automatización nace de un cuerpo creciente de investigaciones que demuestran que los sistemas automatizados aumentan con frecuencia la carga de trabajo y crean condiciones de trabajo poco seguras»[142]. Si, por ejemplo, el operario de una industria química sumamente automatizada se ve envuelto de repente en una crisis vertiginosa, puede verse superado por la necesidad de vigilar pantallas llenas de información y manipular diversos controles informáticos mientras a la vez sigue listas de control, responde a alertas y alarmas y toma otras medidas de emergencia. En lugar de ahorrarle distracciones y estrés, la informatización le fuerza a lidiar con todo tipo de tareas y estímulos adicionales. Problemas similares surgen durante las emergencias aeronáuticas, en las que los pilotos deben introducir datos en sus ordenadores de vuelo y recorrer con la mirada pantallas de información, incluso mientras se esfuerzan simultáneamente por tomar el control manual de vuelo. Cualquiera que se haya desviado del rumbo mientras sigue indicaciones de una aplicación cartográfica sabe de primera mano cómo la automatización informática puede ocasionar repuntes repentinos de trabajo. No es fácil trastear con un smartphone mientras se conduce un coche.

Lo que hemos aprendido es que la automatización tiene una tendencia, en ocasiones trágica, a aumentar la complejidad de un trabajo en el peor momento posible: aquel en que los trabajadores tienen ya demasiado de qué ocuparse. El ordenador, introducido como una ayuda para reducir las probabilidades de error humano, acaba haciendo más probable que las personas, como ratones asustados, hagan el movimiento equivocado.

5. EL ORDENADOR ADMINISTRATIVO

5. EL ORDENADOR ADMINISTRATIVO.

A finales del verano de 2005, investigadores de la venerable RAND Corporation de California hicieron una predicción ilusionante sobre el futuro de la medicina estadounidense. Habiendo finalizado lo que llamaron «el análisis más detallado jamás hecho sobre los beneficios potenciales de los registros médicos electrónicos», declararon que el sistema sanitario de Estados Unidos «podría ahorrar más de 81 000 millones de dólares anuales y mejorar la calidad de la atención» si hospitales y doctores automatizaran sus registros. El ahorro y los demás beneficios, que RAND había estimado «usando modelos de simulación por ordenador», dejaban claro, según uno de los más destacados científicos del think tank, «que ha llegado la hora de que el Gobierno y los que pagan por la atención médica promuevan activamente la tecnología de la información sanitaria»[143]. La última frase de un informe posterior con detalles de la investigación subrayaba la sensación de urgencia: «El momento de actuar es ahora»[144].

Cuando apareció el estudio de RAND ya había bastante excitación sobre la informatización de la medicina. A comienzos de 2004 George W. Bush había creado mediante una orden presidencial la Iniciativa para Incorporar Tecnología de la Información en la Salud, con el objetivo de digitalizar la mayoría de los registros médicos estadounidenses en una década. A finales de 2004 el Gobierno federal concedía ya millones de dólares en subvenciones para fomentar la compra de sistemas automatizados por parte de médicos y hospitales. En junio de 2005 el Departamento de Salud y Servicios Humanos constituyó un grupo de trabajo formado por funcionarios públicos y ejecutivos de la industria, la Comunidad de Información Sanitaria Estadounidense, para impulsar la adopción de registros médicos electrónicos. El estudio de RAND, al traducir los beneficios previstos de los registros electrónicos en cifras estables y aparentemente objetivas, cebó tanto el entusiasmo como la inversión. Como informaría posteriormente el New York Times, el estudio «contribuyó a impulsar el crecimiento explosivo en la industria de los registros electrónicos y animó al Gobierno federal a entregar miles de millones de dólares en incentivos financieros a hospitales y médicos para establecer los sistemas»[145]. Poco después de jurar como presidente en 2009, Barack Obama citó los números de RAND cuando anunció un programa para distribuir 30 000 millones de dólares adicionales en fondos públicos para subvencionar compras de sistemas de registros médicos electrónicos [EMR, según sus siglas en inglés]. A esto le siguió un súbito frenesí inversor, al apuntarse trescientos mil médicos y cuatro mil hospitales a la generosidad de Washington[146].

Después, en 2013, justo cuando Obama juraba su segundo mandato, RAND publicó un informe nuevo y muy diferente sobre las perspectivas de la tecnología de la información [IT, según sus siglas en inglés] en la atención sanitaria. La exuberancia había pasado; el tono era ahora escarmentado y compungido. «Aunque el uso de la IT en salud ha aumentado», escribieron los autores del informe, «la calidad y eficiencia de la atención al paciente han mejorado solo marginalmente. El análisis sobre la efectividad de la IT en salud ha deparado resultados mixtos. Lo que es peor, el gasto agregado anual en atención sanitaria en Estados Unidos ha crecido aproximadamente desde dos billones de dólares en 2005 a 2,8 billones en la actualidad». Y lo peor de todo: los sistemas de registros médicos electrónicos [EMR] que los médicos se apresuraron a instalar con dinero de los contribuyentes están plagados de problemas de «interoperabilidad». Los sistemas no pueden hablar entre sí, lo que deja datos fundamentales de los pacientes atrapados en hospitales y consultas de médicos. Una de las grandes promesas de la IT en salud siempre ha sido que permitiría, como señalaban los autores del informe RAND, «a un paciente o proveedor acceder a información sanitaria necesaria en cualquier lugar y cualquier momento», pero dado que las aplicaciones actuales EMR emplean formatos y convenciones patentados, simplemente «refuerzan la lealtad de marca a un sistema de atención sanitaria específico». RAND continuaba expresando esperanzas en un futuro brillante, pero confesaba que el «escenario rosa» de su informe original no había cristalizado[147].

Otros estudios confirman las últimas conclusiones de RAND. Aunque los sistemas EMR están volviéndose habituales en Estados Unidos y han sido comunes en otros países como Reino Unido y Australia durante años, las pruebas de sus ventajas son confusas. En un exhaustivo informe publicado en 2011, un equipo de investigadores británicos en salud pública examinó más de un centenar de estudios recientes sobre sistemas médicos informatizados. Concluyeron que en lo referente a atención y seguridad del paciente, hay «una gran brecha entre los beneficios teóricos y los empíricamente demostrables». La investigación usada para promover la adopción de los sistemas, descubrieron los académicos, es «débil e inconsistente», y existen «pruebas insustanciales para apoyar la razonabilidad económica de estas tecnologías». En cuanto a los registros médicos electrónicos en particular, los investigadores afirmaron que los estudios existentes no son concluyentes y ofrecen «solo evidencia anecdótica de los beneficios y riesgos fundamentales previstos»[148]. Algunos otros investigadores emitieron evaluaciones ligeramente más optimistas. Otro informe de 2011, publicado por el Departamento de Salud y Servicios Humanos, constató que «una gran mayoría de los estudios recientes muestran beneficios medibles resultantes de la adopción de la tecnología de información sanitaria». Pero, en un apunte a las limitaciones de las investigaciones disponibles, también concluyeron que «únicamente hay pruebas preliminares de que sistemas más avanzados o componentes específicos de IT sanitaria produzcan mayores ventajas»[149]. Hoy por hoy no hay datos empíricos definitivos que sostengan las demandas de que el almacenamiento automatizado de registros médicos lleve a reducciones relevantes de costos sanitarios o a mejoras significativas en el bienestar de los pacientes.

Si los médicos y los pacientes han visto pocas ventajas al cambiar el ajetreo del papel por el registro automático de resultados, las empresas que proveen los sistemas sí se han beneficiado claramente. Cerner Corporation, una compañía dedicada a programas informáticos médicos, vio sus beneficios triplicarse de mil millones de dólares a tres mil millones entre 2005 y 2013. Se da la circunstancia de que Cerner fue una de las cinco compañías que proporcionó fondos a RAND para el estudio original de 2005. Los otros patrocinadores, que incluían a General Electric y Hewlett Packard, también tienen sustanciales intereses empresariales en la automatización de la atención sanitaria. Cuando los imperfectos sistemas de hoy sean reemplazados o actualizados en el futuro para arreglar sus problemas de interoperabilidad y otras deficiencias, las empresas de tecnología de la información cosecharán nuevas ganancias.

* * *

No hay nada extraño en esta historia. La prisa por instalar sistemas informáticos nuevos y no probados, especialmente si está motivada por fantásticas reclamaciones de compañías y analistas tecnológicos, casi siempre produce notables decepciones a los consumidores y grandes beneficios a los vendedores. Eso no significa que los sistemas estén condenados a ser una ruina. Mientras se resuelven los errores, se mejoran las prestaciones y se rebajan los precios, incluso sistemas sobrevalorados pueden eventualmente ahorrar a las empresas mucho dinero, particularmente al reducir su necesidad de contratar trabajadores que ganan un salario. (Las inversiones son, por supuesto, más propensas a de generar un rendimiento atractivo cuando las empresas gastan dinero del contribuyente en lugar del suyo propio). Es probable que este patrón histórico se despliegue de nuevo con las aplicaciones EMR y otros sistemas relacionados. A medida que médicos y hospitales continúan informatizando su almacenamiento de registros y otras operaciones —los generosos subsidios gubernamentales siguen fluyendo—, es posible que se logren aumentos de eficiencia demostrables en algunas áreas, y es posible que la calidad de la atención mejore para algunos pacientes, sobre todo si esa atención requiere los esfuerzos coordinados de diversos especialistas. La fragmentación y el enclaustramiento de datos sobre pacientes son problemas reales en medicina que los sistemas de información bien diseñados y estandarizados pueden ayudar a resolver.

Además de quedar como otro caso más de inversiones precipitadas en software no probado, el informe original de RAND (y la reacción que generó) ofrece lecciones más profundas. Para empezar, deberían verse siempre con escepticismo las proyecciones de «modelos de simulación por ordenador». Las simulaciones también son simplificaciones; replican el mundo real con imperfecciones, y la información que recibimos refleja muchas veces los sesgos de sus creadores. Más importante todavía es que el informe y sus secuelas revelan cuán profundamente se ha instalado el mito de la sustitución en la forma que tiene la sociedad de percibir y evaluar la automatización. Los investigadores de RAND asumieron que, más allá de los obvios retos técnicos y formativos en la instalación de los sistemas, la transición de escribir informes médicos en papel a hacerlo con ordenadores sería inmediata. Médicos, enfermeros y otros cuidadores reemplazarían un método manual por uno automatizado, pero no alterarían significativamente su modo de ejercer la medicina. En realidad, los ordenadores pueden «alterar profundamente los procesos y flujos de trabajo en de la atención al paciente», según afirmó un grupo de médicos y académicos en la revista Pediatrics en 2006. «Aunque la intención de la informatización es mejorar la atención al paciente haciéndola más segura y eficiente, los efectos adversos y consecuencias no intencionadas de la disrupción del flujo de trabajo pueden empeorar mucho la situación»[150].

Víctimas del mito de la sustitución, los investigadores de RAND no tuvieron suficientemente en cuenta la posibilidad de que los registros electrónicos tuviesen efectos negativos además de beneficiosos (un problema que afecta a muchos pronósticos sobre las consecuencias de la automatización). El análisis excesivamente optimista condujo a una política excesivamente optimista. Como señalaron los médicos y catedráticos Jerome Groopman y Pamela Hartzband en una crítica fulminante de los subsidios de la administración Obama, el informe RAND de 2005 «fundamentalmente ignora[ba] las desventajas de los registros médicos electrónicos» y también dejaba de lado estudios anteriores que no habían logrado encontrar beneficios en la sustitución de registros en papel por registros digitales[151]. La creencia de RAND de que la automatización valdría como sustituto para el trabajo manual se demostró falsa, como habrían predicho los expertos en factores humanos. Pero el daño, en forma de dinero público malgastado e instalaciones de software impropias, estaba hecho.

Los sistemas EMR se usan para algo más que tomar y compartir notas. La mayoría incorpora software de apoyo a la toma de decisiones que, mediante listas de control y alertas en pantalla, ofrece una guía y sugerencias a médicos durante el curso de consultas y exámenes. La información EMR apuntada por el doctor ingresa en los sistemas administrativos del hospital, automatizando la generación de facturas, recetas, solicitudes de análisis y otros formularios y documentos. Uno de los resultados inesperados es que los médicos con frecuencia acaban cobrando a los pacientes por más servicios, y más caros, que antes de la instalación del software. Cuando el médico rellena un formulario informático durante un examen, el sistema sugiere automáticamente pruebas —revisar los ojos de un paciente diabético, por ejemplo— que el médico podría considerar efectuar. Haciendo clic en una casilla para verificar la finalización del procedimiento, el médico no solo añade una nota al registro de la visita, sino que en muchos casos activa también el sistema de facturación para añadir una nueva línea a la factura. Las alertas pueden servir como recordatorios útiles, y pueden, en casos poco habituales, evitar que un médico pase por alto un elemento crucial de una revisión. Pero también inflan las facturas médicas (un dato que los vendedores de sistemas no han sido nada tímidos en resaltar durante sus visitas comerciales)[152].

Antes de que los médicos dispusiesen de un software para avisarles, eran menos proclives a añadir un cargo extra por determinadas pruebas menores. Las pruebas eran subsumidas en cobros generales —una visita, por ejemplo, o un chequeo anual—. Con las alertas, los cargos individuales se añaden a la factura automáticamente. Solo por hacer una acción un poco más fácil o rutinaria, el sistema altera el comportamiento del médico de manera pequeña pero significativa. El hecho de que el médico acabe con frecuencia ganando más dinero por seguir las instrucciones del software ofrece un incentivo ulterior para remitirse al juicio del sistema. Algunos expertos muestran su preocupación por que el incentivo monetario sea un poco demasiado fuerte. En respuesta a informes periodísticos sobre el aumento inédito en gastos médicos resultantes de registros electrónicos, el Gobierno federal hizo en octubre de 2012 una investigación para determinar si los nuevos sistemas estaban incitando la sobrefacturación sistemática o incluso el fraude declarado en el programa Medicare. Un informe de la Oficina del Inspector General (2014) advertía de que «los proveedores de atención sanitaria pueden usar prestaciones de software [EMR] que enmascaren la auténtica autoría del registro médico y distorsione la información del registro para inflar las demandas a los servicios sanitarios»[153].

Hay pruebas también de que los registros electrónicos fomentan que los médicos ordenen pruebas innecesarias, que también terminan aumentando, en lugar de aminorar, el coste de la atención. Un estudio publicado en la revista Health Affairs en 2012 señalaba que si los médicos tienen la facultad de consultar fácilmente las radiografías pasadas de un paciente y otras imágenes diagnósticas en un ordenador son más proclives a prescribir una nueva prueba de imágenes que si no tienen acceso inmediato a las imágenes anteriores. En conjunto, los médicos con sistemas informatizados pidieron nuevas pruebas de imágenes en un 18 por ciento de las visitas de pacientes, mientras que aquellos sin esos sistemas solicitaron nuevas pruebas en solo el 13 por ciento de los casos. Una de las suposiciones comunes sobre los registros electrónicos era que, al proporcionar acceso fácil e inmediato a pruebas pasadas, reducirían la frecuencia de exámenes diagnósticos. Pero este estudio indica, en palabras de los autores, que «lo contrario puede ser cierto». Al facilitar tanto el recibir y revisar resultados de pruebas, los sistemas automatizados parecen «ofrecer un sutil estímulo a los médicos para que pidan más estudios de imágenes», argumentan los investigadores. «En situaciones fronterizas, sustituir unos pocos tecleos por la tarea a veces laboriosa de rastrear resultados de una prueba de imagen médica puede inclinar la balanza hacia la prescripción de otra prueba»[154]. Aquí vemos de nuevo cómo la automatización cambia el comportamiento de las personas y la forma de realizar el trabajo de maneras virtualmente imposibles de predecir, y que pueden ir directamente en contra de las expectativas.

* * *

La introducción de la automatización en la medicina, como su introducción en la aviación y otras profesiones, tiene efectos que van más allá de la eficiencia y el coste. Ya hemos visto cómo las alertas generadas por software en mamografías alteran, a veces para bien y otras para mal, el modo en el que los radiólogos leen las imágenes. A medida que los médicos van confiando en los ordenadores para asistirles en cada vez más facetas de su trabajo diario, la tecnología está influyendo el modo en el que aprenden, el modo en el que toman decisiones e incluso su forma de tratar con los pacientes.

Un estudio sobre médicos de atención primaria que han adoptado registros electrónicos, conducido por Timothy Hoff, profesor en la Albany School of Public Health, revela pruebas de lo que Hoff llama «consecuencias de la descualificación», incluido el «conocimiento clínico menguante» y la «mayor estereotipación de pacientes». En 2007 y 2008 Hoff entrevistó a 78 médicos de ambulatorios de atención primaria de varios tamaños en el norte del estado de Nueva York. Tres cuartas partes de los médicos usaban cotidianamente sistemas EMR, y la mayoría de ellos dijo que temían que la informatización estuviese causando una atención menos exhaustiva, menos personalizada. Los médicos que usaban ordenadores dijeron a Hoff que habitualmente «cortaban y pegaban» textos repetitivos en sus informes sobre visitas de pacientes, mientras que cuando dictaban notas o las escribían a mano «otorgaban mayor consideración a la calidad y singularidad de la información ingresada en la historia médica». De hecho, afirmaron los doctores, el mismo proceso de escribir y dictar había servido como una especie de alerta que les forzaba a ralentizar el ritmo y «pensar bien lo que querían decir». Los médicos se quejaron a Hoff de que el texto homogeneizado de los registros electrónicos puede disminuir la riqueza de su comprensión de los pacientes, entorpeciendo su «capacidad de tomar decisiones informadas acerca del diagnóstico y el tratamiento»[155].

La dependencia creciente de los médicos en el reciclaje, o «clonación», del texto es una excrecencia natural de la adopción de registros electrónicos. Los sistemas EMR cambian la manera en que los clínicos toman notas, igual que, hace años, la adopción de programas de procesamiento de textos cambió la forma en que los escritores escriben y los editores editan. Las prácticas tradicionales de dictado y redacción, más allá de sus beneficios, empiezan a parecer lentas y molestas una vez que son forzadas a competir con la facilidad y la velocidad del corta y pega, el arrastrar y el hacer clic. Stephen Levinson, médico y autor del libro de texto de referencia sobre mantenimiento de registros médicos y facturación, ve evidencia extensa de la reutilización de texto viejo en registros nuevos. Cuando los doctores emplean ordenadores para tomar notas sobre los pacientes, afirma, «los registros de cada visita son casi iguales entre sí, palabra por palabra, excepto variaciones menores confinadas casi exclusivamente a la queja principal». Mientras que semejante «documentación clonada» no «tiene sentido clínicamente» y «no satisface las necesidades de los pacientes», se convierte sin embargo en el método por defecto sencillamente porque es más rápido y más eficiente, y también porque el texto clonado incorpora frecuentemente listas de pruebas que sirven como disparador adicional para añadir cargos a las facturas de los pacientes[156].

Lo que siega la clonación es el matiz. Casi todos los contenidos de un registro electrónico típico son «textos repetitivos», contó un internista a Hoff. «La historia no está ahí. Ni en mis notas, ni en las de otros médicos». El coste de la especificidad y precisión disminuidas se multiplica a medida que los registros clonados circulan entre otros médicos. Los facultativos terminan perdiendo una de sus fuentes principales de aprendizaje cotidiano. La lectura de notas dictadas o manuscritas de especialistas ha sido durante mucho tiempo un beneficio educativo importante para médicos de atención primaria, profundizando su comprensión no solo de pacientes individuales sino de cualquier cosa, desde «tratamientos de enfermedades y su eficacia hasta nuevas modalidades de pruebas diagnósticas», escribe Hoff. Al estar esos registros compuestos cada vez más de texto reciclado, pierden su sutileza y originalidad y se vuelven mucho menos valiosos como herramientas de aprendizaje[157].

Danielle Ofri, una internista del Bellevue Hospital de Nueva York que ha escrito diversos libros sobre la práctica de la medicina, percibe otras pérdidas sutiles en el cambio de registros en papel a electrónicos. Aunque pasar las páginas de un cuadro médico tradicional puede parecer arcaico e ineficiente hoy en día, puede ofrecer al doctor una imagen rápida pero significativa de la historia clínica del paciente durante muchos años. El modo más rígido en el que presentan la información tiende, en realidad, a excluir la visión a largo plazo. «En el ordenador,» escribe Ofri, «todas las visitas parecen la misma desde fuera, así que es imposible decir cuáles fueron visitas exhaustivas con evaluación detenida y cuáles fueron únicamente visitas breves para recetar medicación». Ante la interfaz relativamente inflexible del ordenador, los médicos muchas veces acaban buscando en los registros de un paciente «solo las últimas dos o tres visitas; todo lo anterior es efectivamente enviado a la papelera electrónica»[158].

Un estudio reciente sobre la transición del papel a los registros electrónicos de la Universidad de Washington en hospitales universitarios ofrece pruebas ulteriores de cómo el formato de los registros electrónicos puede dificultar a los médicos la navegación por el cuadro médico de un paciente para encontrar notas «de interés». Con los registros en papel, los médicos podían usar la «característica caligrafía» de diferentes especialistas para encontrar rápidamente información clave. Los registros electrónicos, con su formato homogeneizado, borran esas sutiles distinciones[159]. Más allá de las cuestiones de navegación, Ofri teme que la organización de los registros electrónicos altere el modo de pensar de los médicos: «El sistema impulsa la documentación fragmentada, con diferentes aspectos de la condición del paciente guardados en campos no conectados, así que es mucho más difícil tener en mente una síntesis global del paciente»[160].

La automatización de la tarea de tomar notas también introduce lo que la profesora Beth Lown de la Harvard Medical School llama «una tercera parte» en la consulta. En un artículo perspicaz escrito en 2012 con su estudiante Dayron Rodriguez, Lown narra cómo el propio ordenador «compite con el paciente por la atención del clínico, afectando la capacidad de los clínicos para estar totalmente presentes, y altera la naturaleza de la comunicación, las relaciones y el sentido del papel profesional de los médicos»[161]. Cualquiera que haya sido examinado por un doctor que teclea en un ordenador tiene probablemente experiencia de primera mano sobre al menos parte de lo que describe Lown, y los investigadores están encontrando evidencia empírica de que los ordenadores modifican realmente, y de manera significativa, las interacciones entre médicos y pacientes. En un estudio llevado a cabo en una clínica de la Administración de Salud de Veteranos, los pacientes que fueron examinados por médicos que tomaban notas electrónicas afirmaron que «el ordenador afectó adversamente la cantidad de tiempo que el médico pasó hablándoles, mirándoles y examinándoles» y también tendía a hacer que la visita «pareciese menos personal»[162]. Los doctores de la clínica estuvieron de acuerdo, en líneas generales, con las valoraciones de los pacientes. En otro estudio realizado en una gran organización de seguros médicos de Israel, donde el uso de sistemas EMR es más común que en Estados Unidos, los investigadores descubrieron que durante las citas con los pacientes, los médicos de atención primaria emplean entre un 25 y un 55 por ciento del tiempo mirando a la pantalla de su ordenador. Más del 90 por ciento de los médicos israelíes entrevistados en el estudio dijeron que tomar notas electrónicas «perturbaba la comunicación con sus pacientes»[163]. Semejante pérdida de atención es consistente con lo que han aprendido los psicólogos sobre cuánto puede distraer la manipulación de un ordenador mientras se realiza cualquier otra tarea. «Prestar atención al ordenador y al paciente requiere realizar una multitarea», observa Lown, y la multitarea «es lo opuesto de la presencia atenta»[164].

La intrusividad del ordenador crea otro problema que ha sido ya ampliamente documentado. Los sistemas EMR y similares están configurados para proporcionar alertas en pantalla a los médicos, una función que puede ayudar a evitar despistes o errores peligrosos. Si, por ejemplo, un facultativo prescribe una combinación de fármacos que podría desencadenar una reacción adversa en el paciente, el software avisará del riesgo. La mayoría de las alertas, no obstante, son finalmente innecesarias. Son irrelevantes, redundantes o sencillamente erróneas. Parecen ser generadas no tanto para proteger al paciente de un daño como para proteger al vendedor del software de una demanda judicial. (Al traer a una tercera parte a la consulta, el ordenador también introduce los intereses comerciales y legales de ese tercero). Los estudios demuestran que los médicos de atención primaria desechan rutinariamente en torno a nueve de cada diez alertas que reciben. Ello genera una afección conocida como fatiga por alertas. El software se convierte en un «Pedro» electrónico que avisa de que viene el lobo, por lo que los médicos empiezan a dejar de prestar atención totalmente a las alertas. Las descartan tan rápidamente que incluso el aviso ocasionalmente válido termina siendo ignorado. Las alertas no solo se entrometen en la relación médico-paciente; se sirven de una manera que puede frustrar su propósito[165].

Un examen o consulta médica implica una forma extraordinariamente intrincada e íntima de comunicación personal. Requiere, por parte del médico, tanto una sensibilidad empática a las palabras y al lenguaje corporal como un análisis fríamente racional de los datos. Para descifrar un problema médico complicado o una queja, un clínico debe escuchar cuidadosamente la historia de un paciente mientras a la vez encauza y filtra esa historia a través de marcos diagnósticos establecidos. La clave es encontrar el balance correcto entre los detalles de la situación del paciente y patrones y probabilidades generales derivados de la lectura y la experiencia. Listas de control y otras guías de decisión pueden servir como apoyos valiosos en este proceso. Ponen orden en circunstancias complejas y a veces caóticas. Pero como explicó el cirujano y escritor del New Yorker Atul Gawande en su libro El efecto Checklist, las «virtudes de reglamentación» no niegan la importancia esencial «del coraje, el talento y la improvisación». Los mejores clínicos siempre se distinguirán por su «audacia experta»[166]. Al exigir a un médico que siga plantillas y alertas con tanta servidumbre, la automatización informática puede desvirtuar la dinámica de la relación médico-paciente. Puede agilizar las visitas de los pacientes y aportar información útil que considerar, pero también, como escribe Lown, «estrechar el alcance del examen prematuramente» e incluso, al provocar un sesgo automatizador que da primacía a la pantalla sobre el paciente, llevar a diagnósticos errados. Los médicos pueden empezar a mostrar «comportamientos de recogida de información “liderados por la pantalla”, siguiendo sus desplazamientos y preguntas a medida que aparecen en el ordenador en lugar de seguir el hilo narrativo del paciente»[167].

Dejarse llevar por la pantalla en lugar de por el paciente es particularmente peligroso para facultativos jóvenes, sugiere Lown, al desechar oportunidades para aprender los aspectos más sutiles y humanos del arte de la medicina —el conocimiento tácito que no puede extraerse de libros de texto o del software—. Puede también, a largo plazo, impedir que los médicos desarrollen la intuición que les faculta a responder a emergencias y otros acontecimientos inesperados cuando el destino de un paciente puede sellarse en cuestión de minutos. En momentos tales, los médicos no pueden ser metódicos o deliberativos; no pueden emplear tiempo recogiendo y analizando información o revisando plantillas. Un ordenador sirve de poco. Los médicos deben tomar decisiones casi instantáneas sobre diagnósticos y tratamientos. Tienen que actuar. Científicos cognitivos que han estudiado los procesos mentales de los médicos defienden que los clínicos expertos no usan el razonamiento consciente, o conjuntos formales de reglas, en caso de emergencia. Apoyándose en su conocimiento y experiencia, simplemente «ven» lo que va mal —muchas veces haciendo un diagnóstico eficaz en cuestión de segundos— y pasan a hacer lo que se debe hacer. «Las señales fundamentales del estado de un paciente», explica Jerome Groopman en su libro How Doctors Think [«Cómo piensan los médicos»], «confluyen en un patrón que el médico identifica como una enfermedad o afección concreta». Este es un talento de clase superior, en el que, según Groopman, «pensar es inseparable de actuar»[168]. Al igual que otras formas de automaticidad mental, se desarrolla solo a través de la práctica continua con respuestas directas e inmediatas. Ponga una pantalla entre médico y paciente y pondrá distancia entre ellos. Hará mucho más difícil el desarrollo de la automaticidad y la intuición.

* * *

No pasó mucho tiempo, después de que su variopinta rebelión fuese aplastada, para que los luditas supervivientes vieran confirmarse sus temores. La fabricación de textiles, junto a la manufactura de muchos otros bienes, pasó de la artesanía a la industria en cuestión de unos pocos años. Los lugares de producción se desplazaron de casas y talleres rurales a grandes fábricas, que, para permitir el acceso de suficientes obreros, materiales y consumidores, normalmente tenían que ser construidas en ciudades o cerca de ellas. Los trabajadores del gremio siguieron a los empleos, desarraigando a sus familias en una gran ola de urbanización que creció con la entrega de empleos agrícolas a trilladoras y otros equipamientos agrícolas. Dentro de las nuevas fábricas se instalaron máquinas cada vez más eficientes y capaces, multiplicando la productividad, pero también reduciendo la responsabilidad y la autonomía de los que operaban los equipos. El trabajo artesanal especializado se convirtió en trabajo de fábrica sin formación.

Adam Smith había advertido que la especialización de los empleos de fábrica conduciría a la pérdida de habilidades de los trabajadores. «El hombre que pasa su vida entera realizando algunas operaciones simples, de las cuales los efectos son también, quizá, siempre los mismos, o muy parecidos, no tiene ocasión de ejercitar su entendimiento o su inventiva para encontrar remedios a las dificultades que nunca ocurren», escribió en La riqueza de las naciones. «Naturalmente pierde, por tanto, el hábito de tal ejercicio, y por lo general se vuelve tan estúpido e ignorante como le sea posible a una criatura humana»[169]. Smith veía la degradación de habilidades como un derivado desafortunado pero inevitable de la producción fabril eficiente. En su famoso ejemplo sobre la división del trabajo en una planta productora de alfileres, el maestro productor de alfileres que antes se esmeraba en hacer manualmente cada alfiler es reemplazado por un ejército de trabajadores no cualificados, cada uno de ellos ejecutando una tarea concreta: «Un hombre saca el alambre, otro lo endereza, un tercero lo corta, un cuarto lo afila, un quinto machaca la parte superior para poner la cabeza; para fabricar la cabeza del alfiler se necesitan dos o tres operarios; colocarlo es una tarea específica, blanquear los alfileres es otra; es incluso una tarea en sí misma ponerlos en un papel; y la importante labor de hacer alfileres de esta manera se divide en dieciocho operaciones distintas»[170]. Ninguno de los hombres sabe cómo hacer un alfiler entero, pero trabajando juntos, cada uno en lo suyo, dan salida a muchos más alfileres de los que podría producir el mismo número de maestros artesanos trabajando por separado. Y dado que los trabajadores requieren poco talento o entrenamiento, el fabricante puede elegir entre un grupo amplio de operarios potenciales, obviando la necesidad de pagar un extra por experiencia.

Smith también percibió cómo la división del trabajo allanaba el camino hacia la mecanización, que estrecharía las habilidades de los trabajadores incluso más. Una vez que el fabricante había dividido el proceso complicado en una serie de «operaciones simples» bien definidas, era relativamente fácil diseñar una máquina que realizase cada operación. La división del trabajo en una fábrica ofrecía una serie de especificaciones para su maquinaria. A comienzos del siglo XX, la merma de habilidades de los trabajadores fabriles se había convertido en un objetivo explícito de la industria, gracias a la filosofía de la «gestión científica» de Frederick Winslow Taylor. Creyendo, en la línea de Smith, que «la mayor prosperidad» se conseguiría «solo cuando el trabajo [de las empresas] se haga con el menor gasto combinado de esfuerzo humano», Taylor aconsejó a los propietarios de fábricas que preparasen instrucciones estrictas sobre cómo debería usar cada empleado cada máquina, anotando cada movimiento físico y mental del operario[171]. El gran fallo de las maneras tradicionales de trabajar, creía Taylor, era que dejaba demasiada iniciativa y libertad de acción a los individuos. La eficiencia óptima podía conseguirse únicamente a través de la estandarización del trabajo, reforzada por «reglas, leyes y fórmulas» y reflejada en el diseño mismo de las máquinas[172].

Vista como sistema, la fábrica mecanizada, en la que el trabajador y la máquina se fusionan en una unidad férreamente controlada y perfectamente productiva, era un triunfo de la ingeniería y la eficiencia. Para los individuos que se convirtieron en sus dientes de rueda trajo, como habían pronosticado los luditas, un sacrificio no solo del talento, sino de la independencia. La pérdida de autonomía era más que económica. Era existencial, como escribió Hannah Arendt en su libro La condición humana (1958): «A diferencia de las herramientas del trabajo manual, que en todo momento del proceso productivo son los sirvientes de la mano, las máquinas exigen que el trabajador les sirva a ellas, que ajuste el ritmo natural de su cuerpo a su movimiento mecánico»[173]. La tecnología había progresado —si es esa la palabra adecuada— desde herramientas sencillas que ensanchaban la libertad de los trabajadores hasta máquinas complejas que la constreñían.

En la segunda mitad del siglo pasado, la relación entre trabajador y máquina se tornó más complicada. A medida que las compañías crecían, el progreso tecnológico aceleraba y el gasto en consumo explotaba, el empleo se ramificó en nuevas formas. Proliferaron puestos de gestión, profesionales y de oficina, al igual que los empleos en el sector servicios. Las máquinas también asumieron una mezcla de nuevas formas, y las personas las usaban de todo tipo de maneras, en el trabajo y fuera de él. El ethos taylorista de alcanzar la eficiencia mediante la estandarización de los procesos productivos, aunque ejercía aún una fuerte influencia en las operaciones empresariales, era moderado en algunas compañías por el deseo de explotar el ingenio y la creatividad de los empleados. El trabajador que valiese tanto como un engranaje ya no era el ideal. Ante esta situación, el ordenador pronto adquirió un rol dual. Servía a la función taylorista de vigilar, medir y controlar el trabajo de las personas; las empresas descubrieron que las aplicaciones de software ofrecían un medio poderoso de estandarizar procesos y prevenir desviaciones. Pero en la forma del PC, el ordenador también se convirtió en una herramienta flexible, personal, que deparaba a los individuos mayor iniciativa y autonomía. El ordenador era a la vez represor y emancipador.

Cuando los usos de la automatización se multiplicaron y se expandieron de la fábrica a la oficina, la fuerza de la conexión entre el progreso tecnológico y la descualificación de la mano de obra se convirtió en un tema de debate feroz entre sociólogos y economistas. En 1974, la polémica llegó a un punto crítico: Harry Braverman, un teórico social que había sido trabajador del cobre, publicó un libro apasionado con un título directo, Labor and Monopoly Capital [«Trabajo y capital monopolista»]. Al analizar las tendencias recientes en empleo y tecnología en los centros de trabajo, Braverman defendía que la mayoría de los trabajadores estaban siendo empujados a trabajos rutinarios que ofrecían poca responsabilidad, pocos desafíos y pocas oportunidades de adquirir experiencia en algo que fuese importante. Actuaban muchas veces como accesorios de sus máquinas y ordenadores. «Con el desarrollo del modo capitalista de producción», escribió, «el concepto mismo de destreza es degradado junto con la degradación de la mano de obra, y el criterio con el que se mide mengua hasta tal punto que hoy día el trabajador es considerado como poseedor de una “habilidad” si su empleo requiere unos pocos días o semanas de formación; varios meses de entrenamiento son considerados como inusualmente exigentes, y el empleo que anuncia un periodo de aprendizaje de seis meses o un año —como la programación informática— inspira un paroxismo de asombro»[174]. El aprendizaje típico de una manufactura, explicaba a modo de comparación, duraba al menos cuatro años y con frecuencia hasta siete. El tratado denso y cuidadosamente argumentado de Braverman fue ampliamente leído. Su perspectiva marxista iba como anillo al dedo en el ambiente radical de la década de 1960 y comienzos de la de 1970.

Los argumentos de Braverman no impresionaron a todo el mundo[175]. Los críticos de su ensayo —y había muchos— le acusaron de exagerar la importancia de los artesanos tradicionales, que ni siquiera en los siglos XVIII y XIX habían representado una proporción tan grande de la fuerza de trabajo. También pensaban que daba demasiado énfasis a las habilidades manuales asociadas con los empleos de producción de manufacturas a expensas de las habilidades interpersonales y analíticas que destacan en muchos puestos cualificados y de servicios. Esta última crítica apuntaba a un problema mayor, uno que complica cualquier intento de diagnosticar e interpretar cambios profundos en los niveles de destreza de toda la economía. La habilidad es un concepto vago. El talento puede adoptar muchas formas, y no hay manera buena y objetiva de medirlas y compararlas. ¿Está más o menos cualificado un zapatero del siglo XVIII que fabrica un par de zapatos en un banco de su taller que un especialista en marketing que usa su ordenador para desarrollar un plan promocional para un producto? ¿Está un yesero más cualificado que un peluquero? Si un instalador de tuberías pierde su trabajo en el astillero y, tras algo de preparación, encuentra un nuevo trabajo reparando ordenadores, ¿ha ascendido o bajado en la escala del talento? Los criterios necesarios para ofrecer buenas respuestas a tales preguntas son elusivos. Como resultado de ello, los debates sobre las tendencias de la merma de cualificación, por no mencionar la mejora de cualificación o la recualificación, y otras variedades de cualificación, a menudo colapsan las discusiones de juicios de valor.

Pero si las teorías generales de Braverman y otros sobre los cambios en las habilidades están destinadas a ser polémicas, el panorama se aclara al desplazar el foco a sectores y profesiones concretos. Caso tras caso, hemos visto que a medida que las máquinas se sofistican, el trabajo que les queda a las personas avanza en sentido inverso. Aunque ahora se ha olvidado, una de las investigaciones más rigurosas sobre los efectos de la automatización en las habilidades fue completada durante la década de 1950 por el profesor de la Harvard Business School James Bright. Examinó, con detalle exhaustivo, las consecuencias de la automatización en trabajadores de trece entornos industriales diferentes, que iban desde una fábrica de motores hasta una panadería o una fábrica de piensos. A partir de los casos de estudio elaboró una cuidada jerarquía de la automatización. Comienza con el uso de herramientas manuales sencillas y procede durante diecisiete niveles hasta el uso de máquinas complejas programadas para regular su propia operación con sensores, circuitos de retroalimentación y controles electrónicos. Bright analizó cómo diversos requisitos —esfuerzo físico, esfuerzo mental, destreza, comprensión conceptual, etcétera— cambian cuando las máquinas se automatizan completamente. Descubrió que las exigencias de habilidad aumentan solo en las etapas muy tempranas de la automatización, con la introducción de herramientas eléctricas. En el momento que se introducen máquinas más complejas, las exigencias de habilidad empiezan a aflojar, hasta que eventualmente caen abruptamente, al empezar los trabajadores a utilizar maquinaria altamente automatizada y autorregulada. «Parece», escribió Bright en su libro Automation and Management [«Automatización y gestión»] (1958), «que cuanto más automática es la máquina, menos tiene que hacer el operador»[176].

Para ilustrar cómo funciona la descualificación, Bright usó el ejemplo de un trabajador metalúrgico. Cuando el trabajador utiliza herramientas manuales simples, como limas y cizallas, los requisitos principales son el conocimiento del trabajo, incluida en este caso la apreciación de las calidades y los usos del metal, y la destreza física. Si aparecen las herramientas eléctricas, el empleo se vuelve más complicado y el coste de los errores se magnifica. Al trabajador se le pide desplegar «nuevos niveles de destreza y toma de decisiones», además de una mayor atención. Se convierte en un «maquinista». Pero una vez que las herramientas manuales son sustituidas por mecanismos que efectúan una serie de operaciones, como fresadoras que cortan y pulverizan bloques de metal en precisas formas tridimensionales, «se reducen parcial o gravemente la atención, la toma de decisiones y las responsabilidades de control de la máquina» y «se reduce tremendamente el conocimiento técnico exigido para el funcionamiento y ajuste de la máquina». El maquinista se convierte en un «operario de máquinas». En el momento en que la mecanización se vuelve verdaderamente automática —esto es, cuando las máquinas son programadas para controlarse a sí mismas— el trabajador «aporta poco o ningún esfuerzo físico o mental a la actividad productiva». No necesita incluso mucho conocimiento del trabajo, ya que ese conocimiento ha sido efectivamente incorporado a la máquina a través de su diseño y codificación. Su empleo, si todavía existe, se reduce a «patrullar». El trabajador metalúrgico se convierte en «una especie de vigilante, un observador, un ayudante». Se le puede considerar en el mejor de los casos como «un enlace entre la máquina y la dirección operativa». En conjunto, concluyó Bright, «el efecto progresivo de la automatización es primero relevar al operador del esfuerzo manual y después relevarle de la necesidad de aplicar un esfuerzo mental continuo»[177].

En la época en que Bright inició su estudio, la suposición imperante entre ejecutivos, políticos y académicos era que la maquinaria automatizada requeriría mayores habilidades y mayor entrenamiento por parte de los trabajadores. Bright descubrió, para su sorpresa, que lo opuesto era más frecuente: «Averigüé, para mi asombro, que el efecto de mejora no había ocurrido ni mucho menos en la escala que solía asumirse. Al contrario, había más pruebas de que la automatización había reducido los requisitos de habilidades a la fuerza de trabajo operativa». En un informe de 1966 para una comisión gubernamental estadounidense sobre automatización y empleo, Bright revisó su investigación original y abordó las novedades tecnológicas que habían aparecido en los años siguientes. El avance de la automatización, indicó, había continuado a buen paso, propulsado por el rápido despliegue de ordenadores centrales en empresas y fábricas. La evidencia temprana sugería que la amplia adopción de ordenadores prolongaría, en lugar de revertir, la tendencia a la descualificación. «La lección», escribió, «debería estar cada vez más clara: no es necesariamente cierto que un equipamiento altamente complejo requiera de operadores cualificados. La “habilidad” puede ser incorporada a la máquina»[178].

* * *

Podría parecer que un trabajador de fábrica que maneja una ruidosa máquina industrial tiene poco en común con un profesional altamente cualificado que introduce información esotérica a través de una pantalla táctil o un teclado en una tranquila oficina. Pero en ambos casos vemos a una persona que comparte un trabajo con un sistema automatizado —con otro actor—. Y, como dejaron claro el estudio de Bright y otros posteriores sobre la automatización, la sofisticación del sistema, opere mecánica o digitalmente, determina cómo se dividen los roles y las responsabilidades y, a su vez, la serie de habilidades que cada parte está llamada a ejercitar. A medida que se incorporan más prestaciones a la máquina, esta asume más control sobre el trabajo, y las oportunidades de los trabajadores de desarrollar habilidades más cualificadas, como las relacionadas con la interpretación y el análisis, disminuyen. Cuando la automatización alcanza su nivel más alto y toma el mando del trabajo, el trabajador, a efectos de sus habilidades, solo puede ir hacia abajo. Es importante hacer hincapié en que el producto inmediato del trabajo conjunto entre máquina y mano de obra puede ser superior, según criterios de eficiencia e incluso calidad, pero a pesar de ello la responsabilidad y la autonomía de la parte humana se ve restringida. «¿Y si el coste de tener máquinas que piensan es tener gente que no?», preguntó George Dyson, el historiador de la tecnología, en 2008[179]. Es una pregunta que adquiere relevancia mientras seguimos desplazando la responsabilidad del análisis y la toma de decisiones a nuestros ordenadores.

La capacidad creciente de los sistemas de apoyo para guiar las prescripciones de los médicos, y para asumir el control de ciertos aspectos de la toma de decisiones médicas, refleja conquistas recientes y espectaculares de la informática. Los médicos, al hacer diagnósticos, se basan en su conocimiento de un gran cuerpo de información especializada, aprendida durante años de educación y aprendizaje rigurosos además del estudio permanente de revistas médicas y otra literatura relevante. Hasta hace poco era difícil, si no imposible, que los ordenadores replicaran semejante conocimiento profundo, especializado y con frecuencia tácito. Pero los avances inexorables en la velocidad de procesamiento, la caída precipitada de los costes de almacenamiento de datos y trabajo en red, así como los adelantos en métodos de inteligencia artificial como el procesamiento del lenguaje natural y reconocimiento de patrones han modificado la ecuación. Los ordenadores se han vuelto mucho más capaces a la hora de revisar e interpretar cantidades ingentes de texto y otra información. Al detectar correlaciones entre los datos —rasgos o fenómenos que tienden a aparecer juntos o suceder simultánea o secuencialmente—, los ordenadores son muchas veces capaces de hacer predicciones acertadas y calcular, por ejemplo, la probabilidad de que un paciente con un conjunto específico de síntomas tenga o vaya a desarrollar una enfermedad particular, o las probabilidades de que un paciente con una enfermedad determinada responda bien a un fármaco u otro régimen de tratamientos.

Mediante técnicas de aprendizaje automático como árboles de decisión y redes de neuronas artificiales, que modelan dinámicamente relaciones estadísticamente complejas entre fenómenos, los ordenadores también son capaces de refinar el modo en que hacen predicciones mientras procesan más datos y reciben respuestas sobre la exactitud de sus estimaciones anteriores[180]. Las ponderaciones que dan a diferentes variables se van haciendo más precisas, y sus cálculos de probabilidades reflejan mejor lo que sucede en el mundo real. Los ordenadores actuales se vuelven más inteligentes a medida que ganan experiencia, como las personas. Algunos científicos informáticos creen que nuevos microchips «neuromórficos», que presentan protocolos de aprendizaje automático cableados manualmente en sus circuitos, multiplicarán la capacidad de aprendizaje de los ordenadores en los años venideros. Las máquinas serán más perspicaces. Tal vez la idea de que los ordenadores sean «listos» o «inteligentes» nos ponga los pelos de punta, pero el hecho es que, aunque les falte el entendimiento, la empatía y la agudeza de los médicos, los ordenadores son capaces de replicar muchos de los juicios de los médicos a través de análisis estadísticos de grandes cantidades de información digital —lo que ha venido a ser denominado big data—. Muchos de los viejos debates sobre el significado de la inteligencia están dejando de tener sentido por la enorme fuerza de los cálculos numéricos de las máquinas de procesamiento de datos.

Las funciones diagnósticas de los ordenadores mejorarán sin duda. A medida que más datos de pacientes individuales sean recopilados y almacenados en forma de registros electrónicos, imágenes digitalizadas y resultados de pruebas, trámites farmacéuticos y, en un futuro no muy lejano, lecturas de sensores biológicos personales y aplicaciones de control de salud en teléfonos móviles, los ordenadores serán cada vez más competentes para encontrar correlaciones y calcular probabilidades a niveles de detalle muy precisos. Las plantillas y las guías serán más completas y elaboradas. Dado el énfasis actual en alcanzar una mayor eficiencia dentro de la atención sanitaria, es probable que veamos implantarse la filosofía taylorista de optimización y estandarización en el campo médico. Cobrará impulso la ya fuerte tendencia hacia el reemplazamiento del juicio clínico personal por las respuestas estadísticas de la llamada «medicina basada en la evidencia». Los médicos afrontarán una presión creciente, si no un decreto terminante de los directivos, para ceder mayor control sobre diagnósticos y decisiones de tratamientos al software.

Para ponerlo en términos poco caritativos pero no equivocados, puede que muchos médicos se encuentren pronto adoptando el papel de sensores humanos que recogen información para un ordenador que toma las decisiones. Los médicos examinarán al paciente e introducirán datos en archivos electrónicos, pero el ordenador tomará la iniciativa de al sugerir diagnósticos y recomendar tratamientos. Gracias a la escalada continua de la automatización informática descrita en la jerarquía de Bright, los facultativos parecen destinados a experimentar, al menos en algunas áreas de su disciplina, el mismo efecto descualificador que antaño pareció restringido a las manos industriales.

No estarán solos. La incursión de ordenadores en el trabajo profesional de élite está ocurriendo en todas partes. Ya hemos visto cómo el pensamiento de los auditores de empresas está siendo moldeado por sistemas expertos que hacen predicciones sobre riesgos y otras variables. Otros profesionales financieros, desde asesores de préstamos a gestores de inversiones, también dependen de modelos informáticos para guiar sus decisiones, y Wall Street ahora está en su mayoría bajo el control de ordenadores que buscan correlaciones y de los analistas cuantitativos que los programan. El número de personas empleadas como agentes de valores y operadores de mercados en Nueva York se redujo en una tercera parte, de 150 000 a 100 000, entre 2000 y 2013, a pesar del hecho de que firmas de Wall Street estaban obteniendo a menudo beneficios récord. El objetivo primordial de las empresas de valores y banca de inversión es «automatizar el sistema y desprenderse de los operadores», le explicó un analista de la industria financiera a un periodista de Bloomberg. En cuanto a los operadores que quedan, «todo lo que hacen hoy día es pulsar botones en pantallas de ordenador»[181].

Eso es cierto no solo en la compraventa de simples acciones y bonos, sino también en la presentación y el intercambio de instrumentos financieros complejos. Ashwin Parameswaran, analista tecnológico y antiguo banquero de inversión, señala que «los bancos han hecho un esfuerzo significativo por reducir la cantidad de habilidades requeridas para valorar y negociar derivados financieros. Los sistemas de negociación han sido progresivamente modificados para que el máximo conocimiento posible esté integrado en el software»[182]. Los algoritmos predictivos están incluso entrando en el ámbito exclusivo del capital-riesgo, en el que los mejores inversores siempre se habían preciado de tener un buen olfato para los negocios y la innovación. Destacadas firmas de capital de riesgo como Ironstone Group y Google Ventures usan ahora ordenadores para rastrear patrones en registros de éxito empresarial, y hacen sus apuestas de acuerdo con ellos.

Una tendencia similar se apunta en la abogacía. Durante años los abogados han dependido de ordenadores para buscar en bases de datos legales y preparar documentos. Recientemente el software ha empezado a ocupar un rol más central en los despachos. El proceso crítico del descubrimiento de documentos, en el que tradicionalmente abogados y asistentes legales júnior revisan montones de correspondencia, correos electrónicos y notas en busca de pruebas, está sumamente automatizado. Los ordenadores pueden analizar miles de páginas de documentos digitalizados en cuestión de segundos. Mediante programas informáticos de detección electrónica con algoritmos de análisis lingüístico, las máquinas pueden no solo reconocer palabras y frases relevantes, sino también discernir secuencias de acontecimientos, relaciones entre personas e incluso emociones y motivaciones personales. Un solo ordenador puede asumir el trabajo de docenas de profesionales bien pagados. El software de preparación de documentos también ha progresado. Solo con rellenar una simple lista de verificación, un abogado puede preparar un contrato complejo en una o dos horas; ese trabajo antes llevaba días.

Se divisan en el horizonte cambios mayores. Firmas de software legal están comenzando a desarrollar algoritmos de predicción estadística que, al analizar muchos miles de casos pasados, pueden recomendar estrategias judiciales (como la elección de un tribunal o los términos de una propuesta de acuerdo) que tendrán muchas probabilidades de éxito. El software será pronto capaz de realizar la clase de análisis que hasta ahora requerían la experiencia y la intuición de un litigante sénior[183]. Lex Machina, una empresa fundada en 2010 por un grupo de profesores de Derecho y científicos informáticos de la Universidad de Stanford, ofrece un avance de lo que nos espera. Con una base de datos que recoge unos 150 000 casos sobre propiedad intelectual, ejecuta análisis informáticos que predicen el resultado de demandas de patentes en diferentes marcos, tomando en cuenta el tribunal, el juez, el fiscal, los abogados participantes, los resultados de casos relacionados y otros factores.

Los algoritmos predictivos también están asumiendo un mayor control sobre las decisiones tomadas por los ejecutivos de las empresas. Las compañías gastan miles de millones de dólares cada año en programas de «análisis de personas» que automatizan las decisiones sobre contratación, salarios y ascensos. Xerox ahora confía exclusivamente a los ordenadores la selección de los aspirantes para sus cincuenta mil empleos de centros de llamadas. Los candidatos se sientan frente a un ordenador para hacer un test de personalidad de media hora y el software de contratación les da inmediatamente una puntuación que refleja la probabilidad de que cumplan bien con sus obligaciones, acudan al trabajo regularmente y permanezcan en el puesto. La empresa hace ofertas a aquellos con puntuaciones altas y rechaza a los que puntúan bajo[184]. UPS usa algoritmos predictivos para indicar las rutas diarias a sus conductores. Los minoristas los utilizan para determinar la colocación óptima de la mercancía en las estanterías de las tiendas. Los profesionales del marketing y la publicidad los usan para averiguar dónde y cuándo mostrar anuncios y para generar mensajes promocionales en redes sociales. Los directivos desempeñan un papel cada vez más subordinado al software. Revisan y aprueban planes y decisiones generados por ordenadores.

Subyace aquí una ironía. Al desplazar el centro de la economía de bienes físicos a flujos de datos, los ordenadores dieron un nuevo estatus y riqueza a los trabajadores de la información durante las últimas décadas del siglo XX. Quienes se ganaban la vida con la codificación de signos en pantallas se convirtieron en las estrellas de la nueva economía, incluso mientras los empleos de fábrica que habían sostenido durante mucho tiempo a la clase media estaban siendo transferidos a otros continentes o entregados a robots. La burbuja «puntocom» de finales de la década de 1990, en la que durante unos años eufóricos la riqueza brotaba de redes informáticas y se dirigía a las cuentas de valores personales, pareció anunciar el inicio de una era dorada de oportunidades económicas ilimitadas —lo que los impulsores de la tecnología denominaron el «largo boom»—. Pero los buenos tiempos demostraron ser pasajeros. Ahora hemos visto que, como predijo Norbert Wiener, la automatización no tiene favoritos. Los ordenadores son tan buenos en el análisis de datos y la gestión de información como en la coordinación de los movimientos de robots industriales. Incluso las personas que manejan sistemas informáticos complejos están perdiendo sus empleos a manos del software, a medida que los centros de datos, como las fábricas, se vuelven cada vez más automatizados. Las enormes granjas de servidores operadas por empresas como Google, Amazon o Apple funcionan esencialmente solas. Gracias a la virtualización, una técnica de ingeniería que utiliza software para replicar las funciones de componentes de hardware como servidores, las operaciones de esas instalaciones pueden ser controladas por algoritmos. Problemas de redes y fallos en aplicaciones pueden ser detectados y resueltos automáticamente, muchas veces en cuestión de segundos. Podría suceder que la «intelectualización de la mano de obra» sucedida a finales del siglo XX (en palabras del académico italiano Franco Berardi)[185] haya sido solo una precursora de la automatización del intelecto de comienzos del siglo XXI.

Siempre es arriesgado especular sobre cuán lejos llegarán los ordenadores en la imitación de la percepción y el entendimiento de las personas. Las extrapolaciones basadas en tendencias informáticas recientes tienen la costumbre de acabar en fantasías. Pero incluso si asumimos, contrariamente a las promesas extravagantes de los profetas del big data, que hay límites a la aplicabilidad y utilidad de las predicciones basadas en correlaciones y otras formas de análisis estadístico, parece evidente que los ordenadores están lejos de chocar contra esos límites. A comienzos de 2011 el superordenador de IBM Watson se puso la corona de campeón de Jeopardy!, tras arrasar a dos de los mejores jugadores del concurso; ello supuso un indicio de adónde se dirigen las habilidades analíticas de los ordenadores. La capacidad de Watson para descifrar pistas era asombrosa, pero según los estándares de la programación de inteligencia artificial contemporánea el ordenador tampoco estaba logrando una hazaña excepcional. Estaba, fundamentalmente, escaneando una base de datos gigantesca de documentos en busca de respuestas potenciales y después, desplegando simultáneamente una variedad de rutinas predictivas, para determinar con ello qué respuesta tenía la mayor probabilidad de ser la correcta. No obstante, estaba haciéndolo tan rápidamente que era capaz de superar a personas excepcionalmente inteligentes en un test complicado que incluía preguntas, juegos de palabras y ejercicios de memoria.

Watson representa el florecimiento de una nueva y pragmática forma de inteligencia artificial. En las décadas de 1950 y 1960, en las que los ordenadores digitales eran todavía nuevos, muchos matemáticos e ingenieros (y bastantes psicólogos y filósofos) se avinieron a pensar que el cerebro humano debía funcionar como algún tipo de máquina calculadora digital. Veían en el ordenador una metáfora y un modelo para la mente. Crear inteligencia artificial, por tanto, sería relativamente sencillo: averiguarían los algoritmos que funcionan dentro de nuestros cráneos y traducirían esos programas en código de software. No resultó. La estrategia original de inteligencia artificial fracasó miserablemente. Se dieron cuenta de que, sea lo que sea lo que ocurre en nuestros cerebros, no puede reducirse a los cálculos que se dan dentro de los ordenadores[186]. Los científicos informáticos actuales están adoptando un enfoque muy diferente sobre la inteligencia artificial, que es a la vez menos ambicioso y más eficaz. El objetivo ya no es replicar el proceso del pensamiento humano —eso queda por ahora más allá de nuestro entendimiento—, sino más bien replicar sus resultados. Estos científicos observan un producto concreto de la mente —digamos, una decisión de contratación, o una respuesta a una pregunta «de Trivial»— y después programan un ordenador para que logre el mismo resultado a su propia manera inconsciente. El funcionamiento de los circuitos de Watson tiene poco en común con el funcionamiento de la mente de una persona que juega al Jeopardy!, pero Watson puede, de cualquier forma, conseguir una puntuación más alta.

En la década de 1930, mientras trabajaba en su tesis doctoral, al matemático británico y pionero de la informática Alan Turing se le ocurrió la idea de una «máquina oráculo». Era una especie de ordenador que, aplicando un conjunto de reglas explícitas a una reserva de datos mediante «algunos medios sin especificar», podría contestar preguntas que normalmente requerirían conocimiento humano tácito. La curiosidad de Turing le llevó a preguntarse «hasta qué punto es posible eliminar la intuición y dejar solo el ingenio». Para los propósitos de su experimento sobre el pensamiento, postuló que no habría límite para el ingenioso cálculo de la máquina, ningún límite superior para la velocidad de sus cálculos o la cantidad de datos que podría manejar. «No nos preocupa cuánto ingenio hace falta», escribió, «y por tanto asumimos que está disponible en una cantidad ilimitada»[187]. Turing fue, como de costumbre, profético. Comprendió, como hacían pocos en su época, la inteligencia latente de los algoritmos, y pronosticó que esa inteligencia sería propulsada por cálculos veloces. Los ordenadores y las bases de datos siempre tendrán límites, pero en sistemas como Watson vemos la llegada de «máquinas oráculo» operacionales. Lo que Turing solo pudo imaginar lo están construyendo ahora ingenieros. El ingenio está reemplazando a la intuición.

El perspicaz análisis de datos de Watson está siendo puesto en uso práctico como asistente diagnóstico para oncólogos y otros médicos, e IBM prevé aplicaciones futuras en campos como el derecho, las finanzas y la educación. Agencias de espionaje como la CIA y la NSA estarían también probando el sistema. Si el coche sin conductor de Google reveló el recién descubierto poder de los ordenadores para replicar nuestras habilidades psicomotoras, para igualar o superar nuestra capacidad de navegar por el mundo físico, Watson demuestra el novedoso poder de los ordenadores para replicar nuestras habilidades cognitivas, para igualar o superar nuestra capacidad de navegar el mundo de los símbolos y las ideas.

* * *

Sin embargo, la réplica de la información saliente del pensamiento no es pensamiento. Como insistió el propio Turing, los algoritmos nunca sustituirán enteramente a la intuición. Siempre habrá un lugar para «juicios espontáneos que no son el resultado de razonamientos conscientes»[188]. Lo que realmente nos hace inteligentes no es nuestra capacidad de extraer datos de documentos o descifrar patrones estadísticos en una serie de referencias. Es nuestra capacidad para dar un sentido a las cosas, de entretejer el conocimiento que extraemos de la observación y la experiencia, de vivir, en una comprensión rica y fluida del mundo que podemos aplicar a cualquier tarea o desafío. Es esta cualidad flexible de la mente, que abarca la cognición consciente e inconsciente, la razón y la inspiración, la que permite a los seres humanos pensar conceptualmente, críticamente, metafóricamente, especulativamente, ingeniosamente: dar saltos lógicos e imaginativos.

Hector Levesque, científico informático y de robótica en la Universidad de Toronto, da un ejemplo de una pregunta simple que las personas pueden contestar en un segundo y que aturde a los ordenadores:

La pelota grande golpeó la mesa atravesándola porque estaba hecha de poliestireno extruido.

¿Qué es lo que estaba hecho de poliestireno extruido, la pelota grande o la mesa?

La respuesta nos viene sin esfuerzo porque entendemos qué es el poliestireno extruido y lo que pasa cuando dejas caer algo sobre una mesa y cómo suelen ser las mesas y lo que implica el adjetivo grande. Captamos el contexto, tanto de la situación como de las palabras usadas para describirla. Un ordenador, al no tener ninguna comprensión real del mundo, encuentra el lenguaje de la pregunta irremediablemente ambiguo. Se queda atrapado en sus algoritmos. Reducir la inteligencia al análisis estadístico de grandes cantidades de datos «puede conducirnos», dice Levesque, «a sistemas con un rendimiento impresionante que son, sin embargo, sabios-idiotas». Pueden ser muy buenos en el ajedrez, el Jeopardy!, el reconocimiento facial u otros ejercicios mentales muy delimitados, pero son «completamente inútiles fuera de su área de pericia[189]». Su precisión es extraordinaria, pero muchas veces es un síntoma de la estrechez de su percepción.

Incluso ante preguntas susceptibles de respuestas probabilísticas, el análisis informático no es perfecto. La velocidad y aparente exactitud de los cálculos de un ordenador pueden enmascarar limitaciones y distorsiones de los datos subyacentes, por no mencionar las imperfecciones de los propios algoritmos de búsqueda de datos. Cualquier gran conjunto de datos contiene abundantes correlaciones espurias junto a las fiables. No es difícil ser llevado a engaño por mera coincidencia o conjurar una asociación fantasma[190]. Más aún, una vez que un conjunto de datos concreto se convierte en la base de importantes decisiones, los datos y su análisis son susceptibles de corromperse. La gente tratará de burlar al sistema buscando ventajas financieras, políticas o sociales. Como explicó el científico social Donald T. Campbell en un destacado artículo publicado en 1976, «cuanto más se usa un indicador social cuantitativo para la toma de decisiones sociales, más sujeto estará a presiones corruptas y más apto será para distorsionar y corromper los procesos sociales que está llamado a monitorizar[191]».

Los errores en datos y algoritmos pueden dejar a los profesionales, y al resto de nosotros, expuestos a una forma especialmente perniciosa de sesgo de automatización. «La amenaza es que consintamos inconscientemente actuar según el resultado de nuestros análisis incluso cuando tengamos bases razonables para sospechar de que algo falla», advierten Viktor Mayer-Schönberger y Kenneth Cukier en su libro de 2013 Big data: la revolución de los datos masivos. «O que atribuyamos un grado de veracidad a los datos que no la merecen»[192]. Un riesgo particular de los algoritmos que calculan correlaciones nace de su dependencia de datos sobre el pasado para anticipar el futuro. En la mayoría de los casos, el futuro se comporta como era esperado; sigue los precedentes. Pero en esas ocasiones peculiares en las que las condiciones se desvían de los patrones establecidos, los algoritmos pueden hacer predicciones brutalmente erróneas (algo que ya ha causado desastres a algunos fondos de cobertura y sociedades de valores sumamente automatizados). Para tener tantos dones, los ordenadores muestran todavía una falta espeluznante de sentido común.

Cuanto más abrazamos lo que la investigadora de Microsoft Kate Crawford denomina «el fundamentalismo de los datos»[193], más tentados estaremos de devaluar los muchos talentos que los ordenadores no pueden imitar: ceder tanto control al software que restrinjamos la capacidad personal de ejercitar el conocimiento práctico derivado de la experiencia real y que con frecuencia depara revelaciones creativas, ilógicas. Como muestran algunas de las consecuencias imprevistas de los registros médicos electrónicos, las plantillas y las fórmulas son necesariamente reduccionistas y pueden convertirse con demasiada facilidad en camisas de fuerza para la mente. El médico y catedrático de Vermont Lawrence Weed ha sido, desde la década de 1960, un defensor vigoroso y elocuente del uso de ordenadores para ayudar a los médicos a tomar decisiones inteligentes e informadas[194]. Se le ha llamado el padre de los registros médicos electrónicos. Pero incluso él previene de que el actual «uso equivocado del conocimiento estadístico» en medicina «excluye sistemáticamente el conocimiento individualizado y datos esenciales para la atención al paciente»[195].

Gary Klein, un psicólogo investigador que estudia cómo toman decisiones las personas, tiene preocupaciones más profundas. Al forzar a los médicos a establecer reglas, la medicina basada en pruebas «puede impedir el progreso científico», escribe. Si los hospitales y las aseguradoras «autorizasen la medicina basada en evidencias, reforzados por la amenaza de demandas si los resultados adversos son acompañados de cualquier desviación de las prácticas estándar, los médicos se volverán reacios a intentar estrategias alternativas de tratamiento que no hayan sido evaluadas bajo controlados ensayos aleatorios. El avance científico puede verse ahogado si los médicos de primera línea, que combinan la pericia médica con el respeto a la investigación, no pueden explorar y son disuadidos de hacer descubrimientos»[196].

Si no somos cuidadosos, la automatización del trabajo mental, al cambiar la naturaleza y el foco de la empresa intelectual, podría acabar erosionando una de las bases de la cultura misma: nuestro deseo por entender el mundo. Puede que los algoritmos predictivos estén sobrenaturalmente facultados para descubrir correlaciones, pero son indiferentes a las causas subyacentes de tendencias y fenómenos. Sin embargo, es el desciframiento de la causalidad —el desbrozamiento meticuloso de cómo y por qué las cosas funcionan como lo hacen— lo que extiende el ámbito del entendimiento humano y a la larga da sentido a nuestra búsqueda de conocimiento. Si acabamos considerando suficientes cálculos automatizados de probabilidad para nuestros propósitos profesionales y sociales, corremos el riesgo de perder, o al menos debilitar, nuestro deseo y motivación de buscar explicaciones, de aventurarnos por los caminos tortuosos que conducen a la sabiduría y el asombro. ¿Para qué molestarse, si un ordenador puede escupir «la respuesta» en un milisegundo o dos?

En su ensayo de 1947 El racionalismo en la política y otros ensayos, el filósofo británico Michael Oakeshott suministró una descripción gráfica del racionalista moderno: «Su mente no tiene atmósfera, ningún cambio de estación o temperatura; sus procesos intelectuales, en la medida de lo posible, están aislados de toda influencia externa y se dan en el vacío». El racionalista no tiene interés en la cultura o la historia; ni cultiva ni despliega una perspectiva personal. Su pensamiento es notable únicamente por «la rapidez con la que reduce la maraña y la variedad de la experiencia» a «una fórmula»[197]. Las palabras de Oakeshott también nos proporcionan una descripción perfecta de la inteligencia informática: eminentemente práctica y productiva, absolutamente carente de curiosidad, imaginación y sentido real del mundo.

6. MUNDO Y PANTALLA

6. MUNDO Y PANTALLA.

La pequeña isla de Igloolik, en la costa de la península de Melville, perteneciente al territorio Nunavut del norte de Canadá, es un lugar desconcertante en invierno. La temperatura media se aproxima a los veinte grados bajo cero. Capas gruesas de hielo marino cubren las aguas aledañas. No hay sol. A pesar de las espantosas condiciones, los cazadores inuit se han aventurado fuera de sus casas durante unos 4000 años y atravesado miles de kilómetros de hielo y tundra en busca de caribús y otras presas. La capacidad de los cazadores para recorrer vastas extensiones de terreno ártico árido, en el que hay pocas marcas, las formaciones de nieve están en continuo movimiento y los rastros han desaparecido a la mañana siguiente, ha fascinado a viajeros y científicos desde que, en 1822, el explorador inglés William Edward Parry anotase en su diario la «precisión asombrosa» del conocimiento geográfico de su guía inuit[198]. La extraordinaria pericia para orientarse de los inuit no surge de la destreza tecnológica —han evitado los mapas, las brújulas y otros instrumentos—, sino de una comprensión profunda de los vientos, las formas de los ventisqueros, el comportamiento animal, las estrellas, las mareas y las corrientes. Los inuit son maestros de la percepción.

O al menos lo eran. Algo cambió en la cultura inuit con el cambio de milenio. En el año 2000 el Gobierno estadounidense levantó muchas de las restricciones del uso civil del sistema de posicionamiento global. La precisión de los dispositivos GPS mejoraba incluso aunque cayeran sus precios. Los cazadores de Igloolik, que habían intercambiado sus trineos por motonieves, empezaron a confiar en mapas e instrucciones generados por ordenador para desplazarse. Los inuit más jóvenes tenían especiales ganas de usar la nueva tecnología. En el pasado, un cazador joven tenía que soportar un aprendizaje largo y arduo con los mayores, desarrollando su capacidad de orientación durante muchos años. Al comprar un receptor barato GPS, podía saltarse el entrenamiento y descargar la responsabilidad de la navegación sobre el dispositivo. También podía viajar en algunas condiciones, como una niebla densa, que solían imposibilitar las salidas de caza. La facilidad, comodidad y precisión de la navegación automatizada hacían que las técnicas tradicionales inuit pareciesen anticuadas e incómodas en comparación.

Pero a medida que los GPS proliferaron en Igloolik, empezaron a circular noticias sobre graves accidentes de caza con heridos e incluso muertos. Con frecuencia la causa fue rastreada hasta topar con la confianza excesiva en los satélites. Si un receptor se rompe o sus baterías se congelan, un cazador que no ha desarrollado un buen sentido de la orientación puede perderse fácilmente en una extensión sin nada distintivo y verse expuesto a peligros. Incluso si los aparatos funcionan adecuadamente, presentan riesgos. Las rutas tan meticulosamente diseñadas en mapas por satélite pueden dar a los cazadores una forma de visión túnel. Al seguir las instrucciones GPS, atravesarán hielo peligrosamente delgado, se acercarán a acantilados y se meterán en otros peligros que un navegante formado hubiese evitado por sentido común y precaución. Algunos de estos problemas pueden verse eventualmente mitigados por avances en dispositivos de navegación o mejores instrucciones en su uso. Lo que no será reparado es la pérdida de lo que un anciano de la tribu describe como «la sabiduría y el conocimiento de los inuit»[199].

El antropólogo Claudio Aporta, de la Universidad de Carleton en Ottawa, ha estado estudiando a los cazadores inuit durante años. Afirma que, si bien la navegación por satélite ofrece ventajas atractivas, su adopción ya ha producido un deterioro de la capacidad de orientación y, en general, un sentido disminuido de la tierra. El cazador que se traslada en una motonieve equipada con GPS dedica su atención a las instrucciones del ordenador y pierde de vista su entorno. Viaja «con los ojos vendados», como dice Aporta[200]. Un talento singular que ha definido y distinguido a un pueblo durante miles de años puede evaporarse durante una generación o dos.

* * *

El mundo es un lugar extraño, cambiante y peligroso. Moverse por él exige de cualquier animal una gran cantidad de esfuerzo, mental y físico. Durante siglos, los seres humanos han creado herramientas para reducir la carga de viajar. La historia es, entre otras cosas, un registro del descubrimiento de formas nuevas e ingeniosas para abrir nuevos pasos en nuestro entorno, para hacer posible cruzar distancias mayores y más intimidantes sin perdernos, sufrir o acabar devorados. Primero fueron los mapas simples y las indicaciones en el camino, después los mapas de estrellas, las cartas náuticas y los globos terrestres, y después instrumentos como sondas, cuadrantes, astrolabios, brújulas, octantes y sextantes, telescopios, relojes de arena y cronómetros. Se erigieron faros en las costas, se colocaron boyas en las aguas costeras. Se pavimentaron carreteras, se pusieron señales, se conectaron y numeraron las autopistas. Muchos de nosotros llevamos bastante tiempo sin tener que confiar en nuestra inteligencia para movernos.

Los receptores GPS y otros dispositivos de mapeo automatizado y trazado de rutas son las últimas novedades de nuestra caja de herramientas de navegación. También confieren a la vieja historia un giro nuevo y preocupante. Las ayudas de navegación tempranas, en especial aquellas disponibles y asequibles para la gente normal, eran solo eso: ayudas. Fueron diseñadas para dar a los viajeros una mayor conciencia del mundo que les rodea: afilar su sentido de la dirección, proveerles de alertas de peligro, anunciar hitos cercanos y otros puntos de orientación, y en general ayudar a situarles tanto en entornos familiares como desconocidos. Los sistemas de navegación por satélite pueden hacer todas esas cosas, y más, pero no están diseñados para profundizar nuestra relación con el entorno. Están diseñados para relevarnos de la necesidad de esa implicación. Al tomar control de la mecánica de la navegación y reducir nuestro propio papel al de seguir indicaciones rutinarias —girar a la izquierda en 200 metros, tomar la siguiente salida, mantenerse a la derecha, destino a la vista—, los sistemas, ya funcionen en un salpicadero, un smartphone o un GPS especializado, nos acaban aislando del entorno. Como expresó un equipo de investigadores de la Universidad de Cornell en un artículo publicado en 2008, «con el GPS ya no necesitas saber dónde estás y dónde está tu destino, prestar atención a hitos físicos del camino o recabar ayuda de otras personas en el coche y fuera de él». La automatización de la orientación sirve para «inhibir el proceso de experimentar el mundo físico a través de la navegación»[201].

Como sucede tantas veces con los artilugios y servicios que nos ayudan a transitar por el mundo, hemos celebrado la llegada de los GPS cada vez más baratos. El escritor del New York Times David Brooks representaba a muchos en un artículo de 2007 titulado «The Outsourced Brain» [«El cerebro externo»], en el cual se mostraba entusiasmado sobre el sistema de navegación instalado en su nuevo coche: «Pronto establecí un vínculo romántico con mi GPS. Encontré consuelo en su voz tranquila y ligeramente anglófila. Me sentía resguardado y seguro siguiendo su delgada línea azul». Su «diosa GPS» le había «liberado» del antiguo «trabajo penoso» de la navegación. Y a pesar de ello, confesaba a regañadientes, la emancipación proporcionada por su musa de salpicadero tuvo un coste: «Tras unas pocas semanas, se me ocurrió que ya no podía ir a ningún sitio sin ella. Cualquier trayecto fuera de lo ordinario me obligaba a teclear la dirección en su sistema y después seguir gozosamente sus indicaciones enviadas por satélite. Me di cuenta de que estaba despojándome rápidamente de cualquier vestigio de conocimiento geográfico». El precio de la conveniencia era, escribió Brooke, una pérdida de «autonomía»[202]. La diosa era también una sirena.

Queremos pensar en los mapas por ordenador como versiones interactivas y avanzadas de los mapas en papel, pero esa es una suposición errónea. Es una manifestación más del mito de la sustitución. Los mapas tradicionales nos dan contexto. Nos proporcionan una visión de conjunto de una zona y nos obligan a averiguar nuestra localización actual y después planificar o visualizar la mejor ruta hasta nuestra próxima parada. Sí, exigen algo de trabajo —las buenas herramientas siempre lo hacen—, pero el esfuerzo mental ayuda a nuestro cerebro a crear su propio mapa cognitivo de un área. La lectura de mapas, según algunos estudios, refuerza nuestro sentido de la ubicación y afila nuestras habilidades de navegación de maneras que pueden ayudar a movernos incluso si no tenemos un mapa a mano. Parece que, sin saberlo, acudimos a nuestros recuerdos subconscientes de los mapas de papel para orientarnos en una ciudad o pueblo y determinar qué rumbo tomar para llegar a nuestro destino. En un experimento revelador, unos investigadores descubrieron que el sentido de la navegación de las personas es más agudo si están orientados hacia el norte —el mismo sentido al que apuntan los mapas—.[203] Los mapas de papel no solo nos pastorean de un sitio a otro; nos enseñan cómo pensar en el espacio.

Los mapas generados por ordenadores vinculados a satélites son diferentes. Normalmente ofrecen poca información espacial y pocas señales de navegación. En lugar de obligarnos a elucidar dónde estamos en una zona, un GPS sencillamente nos sitúa en el centro del mapa y después hace que el mundo circule a nuestro alrededor. En su parodia en miniatura del universo precopernicano, podemos movernos sin necesidad de saber dónde estamos, dónde hemos estado o adónde nos dirigimos. Solo necesitamos una dirección o una intersección, el nombre de un edificio o una tienda, para orientar los cálculos del dispositivo. Julia Frankenstein, una psicóloga cognitiva alemana que estudia el sentido de navegación de la mente, cree muy probable que «cuanto más dependemos de la tecnología para desplazarnos, menos configuramos nuestros mapas cognitivos». Dado que los sistemas informáticos de navegación ofrecen solo «información básica de la ruta, sin el contexto espacial de la zona entera», explica, nuestros cerebros no reciben el material sin procesar necesario para formar recuerdos ricos de lugares. «Desarrollar un mapa cognitivo a partir de esta información reducida es un poco como tratar de extraer una pieza musical entera a partir de unas pocas notas»[204].

Otros científicos están de acuerdo. Un estudio británico descubrió que los conductores que utilizan mapas habían desarrollado recuerdos más vivos de rutas e hitos del camino que aquellos que confiaban en instrucciones continuas de sistemas por satélite. Después de terminar un viaje, los que habían seguido mapas eran capaces de bosquejar diagramas más precisos y detallados de sus rutas. Los hallazgos, según los investigadores, «ofrecen pruebas rotundas de que el uso de un sistema de navegación en el vehículo tendrá un impacto negativo en la formación de los “mapas cognitivos” de los conductores»[205]. Un estudio sobre conductores de la Universidad de Utah encontró rastros de «desatención» en usuarios de GPS, que mermaban su «rendimiento para orientarse» y su capacidad de crear recuerdos visuales de sus alrededores[206]. Los peatones que usan un GPS parecen sufrir las mismas incapacidades. En un experimento realizado en Japón, unos investigadores pidieron a un grupo de personas caminar a una serie de destinos de la ciudad. A la mitad de los individuos se les dio un GPS portátil; el resto usó mapas en papel. Los que llevaban mapas tomaron rutas más directas, tenían que pararse menos veces y formaron recuerdos más claros de dónde habían estado que aquellos que usaban el aparato. Un experimento anterior con peatones alemanes que visitaban un zoológico produjo resultados similares[207].

La artista y diseñadora Sara Hendren, al comentar un viaje que hizo para asistir a un congreso en una ciudad desconocida, resumió lo fácil que es volverse dependiente de los mapas informáticos hoy (y cómo esa dependencia puede cortocircuitar las facultades mentales e impedir el desarrollo de un sentido de la ubicación). «Me di cuenta de que había usado la aplicación de mapas de mi teléfono, con indicaciones habladas, para hacer el mismo trayecto corto entre el hotel y el centro de conferencias, a unos cinco minutos de distancia, varios días seguidos», explicaba. «Estaba en realidad deliberadamente apagando la esfera de percepción de la que he dependido muchísimo la mayor parte de mi vida: no hice intento alguno de recordar puntos de referencia y relaciones o la apariencia de las calles». Le preocupaba que al «externalizar mi múltiple capacidad de respuesta y memoria, estaba empobreciendo mi experiencia sensorial completa»[208].

* * *

Como demuestran los relatos de pilotos, camioneros y cazadores desorientados, la pérdida de agudeza en la navegación puede tener consecuencias nefastas. Es poco probable que la mayoría de nosotros, en nuestra rutina diaria de conducir y caminar y desplazarnos, nos encontremos en semejantes situaciones peligrosas. Lo que provoca la pregunta obvia: ¿A quién le importa? Mientras lleguemos a nuestro destino, ¿importa realmente que mantengamos nuestro sentido de la orientación o se lo entreguemos a una máquina? Un inuit mayor de Igloolik puede tener buenas razones para lamentar la adopción de la tecnología GPS como una tragedia cultural, pero aquellos que vivimos en tierras atravesadas por carreteras bien marcadas y jalonadas con gasolineras, hostales y tiendas abiertas 24 horas perdimos hace mucho tiempo la costumbre y la capacidad de mostrar nuestras habilidades prodigiosas de orientación. Nuestra habilidad para percibir e interpretar la topografía, especialmente en su estado natural, está ya muy reducida. Alejarla más aún, o desecharla por completo, no parece un asunto tan grave, sobre todo si a cambio recibimos una alternativa más fácil.

Pero aunque puede que no tengamos ya mucho interés cultural en la conservación de nuestra pericia para navegar, tenemos todavía un interés personal. Somos, después de todo, criaturas de la tierra. No somos puntos abstractos alineados en delgadas líneas azules en la pantalla de un ordenador. Somos seres reales con cuerpos reales en lugares reales. Conocer un lugar exige esfuerzo, pero depara satisfacción y conocimiento. Proporciona una sensación de satisfacción y autonomía personal, y proporciona también un sentido de pertenencia, sentir que estamos como en casa en un sitio en lugar de simplemente atravesarlo. La practique un cazador de caribús en un témpano de hielo o un cazador de chollos en las calles de una ciudad, la orientación abre un camino desde la alienación al apego. Podemos tomar a broma la expresión «encontrarse a sí mismo», pero esa figura del lenguaje, pese a su vanidad y desgaste, reconoce nuestro sentimiento profundo de que quiénes somos está ligado a dónde estamos. No podemos sacar al yo de su entorno, al menos no sin dejar atrás algo importante.

Un aparato GPS, al permitirnos ir de un punto «A» a un punto «B» sin el menor esfuerzo ni molestia, puede facilitarnos la vida, quizá imbuyéndola, como sugiere David Brooks, de una forma entumecida de felicidad. Pero lo que nos roba, si lo usamos con demasiada frecuencia, es el gozo y la satisfacción de aprehender el mundo a nuestro alrededor, y de hacer ese mundo parte de nosotros. Tim Ingold, un antropólogo de la Universidad de Aberdeen, en Escocia, traza una distinción entre dos formas de viajar muy diferentes: viajar a pie y transporte. Viajar a pie, explica, es «nuestra manera más fundamental de estar en el mundo». Sumergidos en el paisaje, en sintonía con sus texturas y rasgos, el caminante disfruta «la experiencia del movimiento en el que acción y percepción están íntimamente conectadas». Viajar a pie se convierte en un «proceso continuo de crecimiento y desarrollo, de autorrenovación». El transporte, en cambio, «está esencialmente orientado al destino». No es tanto un proceso de descubrimiento «a través de un camino de la vida» como un mero «acarreo de personas y bienes, de lugar en lugar, de forma tal que deje su naturaleza básica intacta». En el transporte, el viajero de hecho no se mueve de ninguna manera significativa. «Más bien es movido, convirtiéndose en un pasajero dentro de su propio cuerpo»[209].

Viajar a pie es más complicado y menos eficiente que el transporte, razón por la que se ha convertido en un objetivo para la automatización. «Si tienes un teléfono móvil con Google Maps», dice Michael Jones, un ejecutivo de la división de mapas de Google, «puedes ir a cualquier lugar del planeta y saber que podemos darte direcciones para llegar adonde quieras segura y fácilmente». Como resultado de ello, declaran, «ningún humano tiene que sentirse perdido otra vez»[210]. Suena ciertamente atractivo, como si se hubiese resuelto para siempre algún problema básico de nuestra existencia. Y encaja con la obsesión de Silicon Valley de utilizar software para eliminar «fricción» de la vida de las personas. Pero cuanto más pensamos en ello, más nos damos cuenta de que no afrontar nunca la posibilidad de perderse es vivir en un estado de constante desorientación. Si nunca tenemos que preocuparnos por no saber dónde estamos, nunca tenemos que saber dónde estamos. También es vivir en un estado de dependencia, bajo la tutela de nuestro teléfono y de sus aplicaciones.

Los problemas producen fricción en nuestras vidas, pero la fricción puede actuar como catalizador, llevándonos a una conciencia mayor y a una comprensión más profunda de nuestra situación. «Cuando circunvalamos, por cualquier medio, la exigencia que nos presenta un lugar para encontrar nuestro camino en él», observó el escritor Ari Schulman en su artículo «GPS and the End of the Road» [«El GPS y el final del camino»] (New Atlantis, 2011), acabamos excluyendo «la mejor entrada que tenemos para habitar ese lugar, y, por extensión, de estar realmente en ningún sitio»[211].

Es posible que queden excluidas otras cosas también. Los neurocientíficos han logrado una serie de avances en la comprensión de cómo percibe y recuerda el cerebro el espacio y la ubicación, y los descubrimientos subrayan el papel elemental que juega la navegación en el funcionamiento de la mente y la memoria. En un famoso estudio realizado en la University College de Londres a comienzos de la década de 1970, John O’Keefe y Jonathan Dostrovsky analizaron los cerebros de ratones de laboratorio mientras se movían en una zona delimitada[212]. Cuando un ratón se familiarizaba con el espacio, las neuronas individuales alojadas en su hipocampo —una parte del cerebro que desempeña una función esencial en la formación de la memoria— empezaban a bullir cada vez que el animal pasaba por un sitio determinado. Estas neuronas afinadas para la orientación, que los científicos llamaron «células del espacio» y que se han encontrado desde entonces en los cerebros de otros mamíferos, incluidos los humanos, pueden considerarse como las señalizaciones que el cerebro usa para marcar un territorio. Cada vez que entras en un sitio nuevo, ya sea la plaza de una ciudad o la cocina de la casa de un vecino, la zona es rápidamente esbozada por células del espacio. Las células, como ha explicado O’Keefe, parecen ser activadas por una variedad de señales sensoriales (visuales, auditivas y táctiles), «cada una de las cuales puede ser percibida cuando el animal está en un lugar específico del entorno»[213].

Más recientemente, en 2005, un equipo de neurocientíficos noruegos liderado por la pareja Edvard y May-Britt Moser descubrió un conjunto diferente de neuronas que participan en trazar, medir y recorrer el espacio, y que llamaron «células cuadrícula». Localizadas en la corteza entorrinal, una región estrechamente vinculada con el hipocampo, las células crean en el cerebro una cuadrícula geográfica precisa del espacio, que consiste en un conjunto de triángulos equiláteros regularmente espaciados. Los Moser compararon la cuadrícula con una hoja de papel cuadriculado en la mente, sobre la que se marca la ubicación de un animal al desplazarse[214]. Mientras que las células del espacio esbozan lugares específicos, las «células cuadrícula» ofrecen un mapa más abstracto del espacio que permanece igual allí donde vaya el animal, dando una sensación interior de navegación estimada. Se han encontrado «células cuadrícula» en los cerebros de varias especies mamíferas; experimentos recientes con electrodos implantados en el cerebro indican que los humanos también las tenemos[215]. Trabajando en tándem, y beneficiándose de señales de otras neuronas que controlan la dirección y el movimiento corporales, las células del espacio y la cuadrícula actúan, en palabras del escritor científico James Gorman, «como una especie de sistema de navegación integrado que está en el núcleo mismo de cómo saben los animales dónde están, adónde van y en dónde han estado»[216].

Además de su rol en la navegación, las células especializadas parecen estar implicadas más generalmente en la formación de los recuerdos, en especial recuerdos de acontecimientos y experiencias. De hecho, O’Keefe y los Moser, al igual que otros científicos, han comenzado a teorizar que el «viaje mental» de la memoria está gobernado por los mismos sistemas cerebrales que nos permiten desplazarnos por el mundo. En un artículo publicado en 2013 en Nature Neuroscience, Edvard Moser y su colega György Buzsáki aportaron pruebas experimentales extensivas de que «los mecanismos neuronales que evolucionaron para definir la relación espacial entre puntos de referencia pueden servir también para incorporar asociaciones entre objetos, acontecimientos y otros tipos de información fáctica». A partir de esas asociaciones tejemos los recuerdos de nuestras vidas. Podría resultar que el sentido de navegación del cerebro —su manera antigua e intrincada de delinear y registrar el movimiento a través del espacio— sea la fuente evolutiva de toda la memoria[217].

Lo que resulta más que ligeramente aterrador es lo que sucede si esa fuente se seca. Nuestro sentido espacial tiende a deteriorarse al hacernos mayores, y en los peores casos se pierde completamente[218]. Uno de los primeros y más debilitantes síntomas de demencia, incluida la enfermedad de Alzheimer, es la degeneración del hipocampo y la corteza entorrinal y la consiguiente pérdida de memoria de ubicación[219]. Las víctimas empiezan a olvidar dónde están. Véronique Bohbot, psiquiatra investigadora y experta en memoria de la Universidad McGill en Montreal, ha efectuado estudios que demuestran que la forma en la que la gente ejercita sus habilidades de navegación influye en el funcionamiento (e incluso el tamaño) del hipocampo —y podría ofrecer protección contra el deterioro de la memoria—.[220] Cuanto más duramente trabajan las personas en la construcción de sus mapas cognitivos espaciales, más fuertes parecen ser sus circuitos de memoria subyacentes. Pueden incluso desarrollar materia gris en el hipocampo —un fenómeno documentado en un estudio sobre taxistas londinenses— de una manera análoga a la formación de masa muscular mediante el ejercicio físico. Pero si siguen simplemente instrucciones paso a paso «como un robot», avisa Bohbot, no «estimulan su hipocampo» y pueden ser por ello más susceptibles a la pérdida de memoria[221]. Bohbot teme que, si el hipocampo empieza a atrofiarse por falta de uso de la navegación, el resultado sea una pérdida general de memoria y un riesgo creciente de demencia. «La sociedad está encaminada de muchas maneras hacia la merma del hipocampo», dijo a un entrevistador. «En los próximos 25 años creo que vamos a ver cómo la demencia tiene lugar cada vez antes»[222].

Se ha sugerido que, incluso si usamos habitualmente dispositivos GPS al conducir y caminar, todavía tendremos que depender de nuestras mentes para movernos en edificios u otros sitios donde no llegan las señales GPS. El ejercicio mental de la navegación puertas adentro, dice la teoría, puede ayudar a proteger el funcionamiento de nuestro hipocampo y sus circuitos neuronales relacionados. Ese argumento puede haber sido reconfortante hace unos años, pero hoy día lo es menos. Hambrientos de más datos sobre la localización de las personas y ansiosos por nuevas oportunidades de distribuir publicidad y otros mensajes ligados a nuestra ubicación, las compañías de software y telefonía se están apresurando a extender el alcance de sus herramientas de mapas informáticos a zonas cubiertas como aeropuertos, centros comerciales y edificios de oficinas. Google ya ha incorporado miles de planos a su servicio de mapas, y ha comenzado a mandar a sus fotógrafos de Street View a tiendas, oficinas, museos e incluso monasterios para crear mapas detallados y panorámicas de recintos cerrados. A comienzos de 2013, Apple compró WiFiSlam, una empresa de mapas de zonas cubiertas que había inventado una manera de usar señales ambientales WiFi y Bluetooth, en lugar de transmisiones GPS, para señalar la ubicación de una persona con una precisión de centímetros. Apple incorporó rápidamente la tecnología a su función iBeacon, integrada ahora en sus iPhones e iPads. Diseminada por tiendas y otros espacios, los transmisores iBeacon actúan como células del espacio artificiales, activándose siempre que una persona aparece en cuadro. Anuncian la aparición de lo que la revista Wired llama «rastreo de microubicaciones»[223].

Los mapas interiores prometen aumentar nuestra dependencia de la navegación por ordenador y limitar aún más nuestras oportunidades para desplazarnos por nuestra cuenta. Si las pantallas frontales individuales, como las Google Glass, llegaran a utilizarse ampliamente, tendríamos siempre acceso fácil e inmediato a instrucciones sencillas. Recibiríamos, como dice Michael Jones (de Google), «un continuo flujo de orientación», dirigiéndonos a cualquier sitio que queramos ir[224]. Google y Mercedes-Benz ya están colaborando en una aplicación que conectará unas gafas de cristal a una unidad GPS integrada en el salpicadero del coche; ello permitirá lo que el fabricante de coches llama «navegación de puerta a puerta»[225]. Con la diosa GPS susurrándonos al oído, o encendiendo sus señales para nuestras retinas, raramente (o nunca) tendremos que ejercitar nuestras facultades de mapeo mental.

Bohbot y otros investigadores destacan que debe investigarse más para saber con certeza si el uso continuado de dispositivos GPS debilita la memoria y aumenta el riesgo de senilidad. Pero a medida que aprendemos más sobre los estrechos vínculos entre navegación, el hipocampo y la memoria, es completamente plausible que evitar el trabajo de averiguar dónde estamos y adónde estamos yendo tenga consecuencias no previstas y poco salubres. Puesto que la memoria es lo que nos permite no solo recordar acontecimientos pasados, sino responder con inteligencia a hechos presentes y planificar el futuro, cualquier degradación en su funcionamiento tendería a disminuir la calidad de nuestras vidas.

En el transcurso de cientos de miles de años, la evolución ha adaptado nuestro cuerpo y nuestra mente al entorno. Hemos sido formados siendo, por apropiarme de unos versos del poeta inglés Wordsworth.

enrollados en el curso diurno de la Tierra,

con rocas, piedras y árboles.

La automatización de la orientación nos distancia del entorno que nos conformó. Nos anima a observar y manipular símbolos en pantallas en lugar de atender a cosas reales en lugares reales. Las tareas que nuestras serviciales deidades digitales nos inducirían a ver como una simple carga pueden resultar vitales para nuestra salud, felicidad y bienestar. Así que ¿a quién le importa? no es probablemente la pregunta correcta. Lo que deberíamos estar preguntándonos es: ¿A qué distancia del mundo me quiero retirar?

* * *

Esa es una pregunta con la que las personas que diseñan edificios y espacios públicos han estado lidiando durante años. Si los aviadores fueron los primeros profesionales en experimentar la fuerza total de la automatización informática, los arquitectos y otros diseñadores no estaban muy retrasados. A comienzos de la década de 1960 un joven ingeniero informático del MIT llamado Ivan Sutherland inventó el Sketchpad, una aplicación de software revolucionaria para dibujar y hacer bocetos que fue el primer programa en emplear una interfaz de usuario gráfica. Sketchpad sentó las bases para el desarrollo del diseño asistido por ordenador, o CAD. Después de que los programas CAD fueran adaptados a ordenadores personales en la década de 1980, proliferaron las aplicaciones de diseño que automatizaban la creación de dibujos en dos dimensiones y modelos 3D. Los programas se volvieron esenciales para los arquitectos muy rápidamente, por no mencionar a diseñadores de producto, artistas gráficos e ingenieros civiles. A finales de siglo, como dijo William J. Mitchell, el último decano de la escuela de Arquitectura del MIT, «la práctica de la arquitectura sin tecnología CAD se ha vuelto tan inimaginable como escribir sin un procesador de textos»[226]. Las nuevas herramientas de software cambiaron el proceso, el carácter y el estilo del diseño, en un sentido que sigue evolucionando hoy en día. La historia reciente del oficio arquitectónico ofrece una visión de la influencia de la automatización en el trabajo creativo.

La arquitectura es una ocupación elegante. Combina la búsqueda de la belleza propia del artista con la atención a la función del artesano, requiriendo también una sensibilidad a restricciones prácticas de tipo financiero, técnico y de otras índoles. «La arquitectura está en la frontera, entre arte y antropología, entre sociedad y ciencia, tecnología e historia», explica el arquitecto italiano Renzo Piano, diseñador del Centro Pompidou en París y del edificio del New York Times en Manhattan. «A veces es humanista y a veces es materialista»[227]. La obra de un arquitecto une la mente imaginativa y la mente calculadora, dos formas de pensamiento que con frecuencia están en tensión, si no en conflicto abierto. Ya que la mayoría de nosotros pasa la mayor parte de su tiempo en espacios diseñados —el mundo construido nos parece a estas alturas más natural que la propia naturaleza—, la arquitectura ejerce también una influencia profunda, y a veces no apreciada, sobre nosotros, individual y colectivamente. La buena arquitectura eleva la vida, mientras que la arquitectura mala o mediocre la reduce o abarata. Incluso detalles pequeños como el tamaño y la colocación de una ventana o un conducto de aire pueden tener un gran efecto en la estética, utilidad y eficiencia de un edificio —y en la comodidad y humor de los que están dentro—. «Moldeamos nuestros edificios», comentó una vez Winston Churchill, «y después nuestros edificios nos moldean a nosotros»[228].

Mientras que los planos generados por ordenador pueden causar complacencia a la hora de revisar medidas, el software de diseño ha hecho a los estudios de arquitectura, en general, más eficientes. Los sistemas CAD han acelerado y simplificado la producción de documentos constructivos y facilitado que los arquitectos compartan sus planos con clientes, ingenieros, contratistas y funcionarios. Los fabricantes pueden ahora usar archivos CAD de arquitectos para programar robots que elaboren componentes de construcción, lo que permite una mayor customización de materiales mientras reduce la laboriosa introducción de datos y las revisiones. Los sistemas dan a los arquitectos una visión completa de un proyecto complejo, englobando sus planos de planta, elevaciones y materiales así como sus diversos sistemas de calefacción, aire acondicionado, electricidad, iluminación y fontanería. Las repercusiones de los cambios en un diseño se pueden ver inmediatamente, de una forma que no era posible cuando los planos eran un buen montón de documentos en papel. Gracias a la capacidad del ordenador de incorporar todo tipo de variables a sus cálculos, los arquitectos pueden estimar con precisión la eficiencia energética de sus estructuras bajo diversas condiciones, lo que satisface una de las necesidades más acuciantes del sector de la construcción y de la sociedad en general. Animaciones y presentaciones detalladas en 3D han demostrado ser también muy valiosas como medios para visualizar el exterior e interior de un edificio. Los clientes pueden acceder a visitas y a vistas aéreas virtuales mucho antes de que empiecen las obras.

Más allá de sus ventajas prácticas, la velocidad y precisión de los cálculos y visualizaciones CAD han dado a arquitectos e ingenieros la oportunidad de experimentar con nuevas formas y materiales. Edificios que antes existían solo en la imaginación están siendo ahora construidos. El Frank Gehry’s Experience Music Project, un museo de Seattle que parece una colección de esculturas de cera derritiéndose al sol, no existiría si no fuese por los ordenadores. Aunque el diseño original de Gehry tomó la forma de un modelo físico, construido con madera y cartón, traducir las formas complicadas y fluidas del modelo a planos constructivos no podía hacerse a mano. Requería un poderoso sistema CAD —desarrollado originalmente por la empresa francesa Dassault para diseñar reactores— que pudiese escanear el modelo digitalmente y expresar su capricho en un conjunto de números. Los materiales para el edificio eran tan variados y tenían una forma tan particular que su fabricación debía ser también automatizada. Los miles de paneles estrechamente encajados que componen la fachada de acero inoxidable y aluminio del museo fueron cortados según las medidas calculadas por el programa CAD, alimentadas directamente en un sistema de fabricación asistido por ordenador.

Gehry ha operado desde hace tiempo en la frontera tecnológica de la arquitectura, pero su costumbre de construir modelos manualmente empieza a parecer arcaica. A medida que los arquitectos jóvenes se han vuelto más adeptos al diseño y modelado por ordenador, el software CAD ha pasado de ser una herramienta para convertir diseños en planos a ser una herramienta para producir los propios diseños. La técnica cada vez más popular del diseño paramétrico, que usa algoritmos para establecer relaciones formales entre diferentes elementos de diseño, pone la capacidad de cálculo del ordenador en el centro del proceso creativo. Utilizando formatos de hoja de cálculo o scripts de software, un programador-arquitecto introduce una serie de reglas matemáticas, o parámetros, en un ordenador —una proporción del tamaño de las ventanas con el área del suelo, por ejemplo, o los vectores de una superficie curva— y deja que la máquina se encargue del diseño. En la aplicación más agresiva de la técnica, la forma de un edificio puede generarse automáticamente mediante un conjunto de algoritmos en lugar de ser dibujada manualmente por el diseñador.

Como sucede muchas veces con las nuevas técnicas de diseño, el diseño paramétrico ha alumbrado un estilo novedoso de arquitectura llamado parametricismo. Inspirado por las complejidades geométricas de la animación digital y el colectivismo frenético, aséptico de las redes sociales, el parametricismo rechaza el orden de la arquitectura clásica en favor de estructuras libres de formas barrocas, futuristas. Algunos tradicionalistas consideran el parametricismo una moda de mal gusto y tildan sus creaciones (en palabras del arquitecto neoyorquino Dino Marcantonio) como «poco más que uno de los borrones que uno produce sin esfuerzo alguno en el ordenador»[229]. En una crítica más moderada publicada en el New Yorker, el crítico de arquitectura Paul Goldberger afirmó que mientras los «descensos, curvas y giros» del diseño digital pueden ser seductores, «muchas veces parecen estar desconectados de todo lo que no sea su propia realidad generada por ordenador»[230]. No obstante, algunos arquitectos más jóvenes ven en el parametricismo, junto a otras formas de «diseño informático», como el movimiento arquitectónico que define nuestra época, el núcleo energético de la profesión. En la Bienal de Arquitectura de Venecia de 2008, Patrik Schumacher, director en la influyente firma Zaha Hadid en Londres, presentó un «Manifiesto del parametricismo» en el que proclamaba que «el parametricismo es el gran nuevo estilo desde el modernismo». Gracias a los ordenadores, dijo, las estructuras del mundo construido pronto estarán compuestas de «radiantes olas, corrientes laminares y remolinos en espiral», asemejándose a «líquidos en movimiento» y «enjambres de edificios […] que navegan a la deriva» en consonancia con «dinámicos enjambres de cuerpos humanos»[231].

Independientemente de que esos enjambres armónicos se materialicen o no, la polémica sobre el diseño paramétrico expone la búsqueda interior que vive la arquitectura desde la aparición del CAD. Desde el principio, la prisa por adoptar el software de diseño ha estado ensombrecida por la duda y cierta inquietud. Muchos de los arquitectos y catedráticos más respetados del mundo han advertido de que una sobredependencia de los ordenadores puede estrechar la perspectiva de los diseñadores y afectar a su talento y creatividad. Renzo Piano, por ejemplo, reconoce que los ordenadores se han vuelto «esenciales» para la práctica de la arquitectura, pero también teme que los diseñadores están transfiriendo demasiada parte de su trabajo al software. Mientras la automatización permite a un arquitecto generar diseños en 3D precisos y aparentemente finalizados con rapidez, la misma velocidad y exactitud de la máquina puede abreviar el proceso farragoso y laborioso de exploración que alumbra los diseños más inspirados y significativos. El atractivo de la obra al aparecer en la pantalla puede ser una ilusión. «¿Sabe?», dice Piano, «los ordenadores se están volviendo tan inteligentes que recuerdan a esos pianos en los que aprietas un botón y te toca un chachachá y después una rumba. Puede que toques muy mal, pero te crees un gran pianista. Lo mismo pasa ahora en la arquitectura. Puede que te encuentres en una posición en la que sientes que estás apretando botones y eres capaz de construir todo. Pero la arquitectura es pensamiento. Es lentitud, de alguna manera. Necesitas tiempo. Lo malo de los ordenadores es que hacen que todo vaya muy rápido»[232]. El arquitecto y crítico Witold Rybczynski apunta algo parecido. Aunque aplaude los grandes saltos tecnológicos que han transformado su profesión a lo largo de los años, afirma que «la feroz productividad del ordenador tiene un precio: más tiempo frente al teclado, menos tiempo pensando»[233].

* * *

Los arquitectos siempre se han considerado a sí mismos artistas, y antes de la llegada del CAD el manantial de su arte era el dibujo. Un dibujo a pulso es similar a una reproducción informática ya que ambos tienen una obvia función de comunicación. Ofrece a un arquitecto un atrayente medio visual para compartir una idea de diseño con un cliente o colega. Pero el acto de dibujar no es solo una forma de expresar un pensamiento; es una forma de pensar. «No tengo una imaginación que pueda decirme lo que tengo sin dibujarlo», dice el arquitecto modernista Richard MacCormac. «Utilizo el dibujo como proceso de crítica y descubrimiento»[234]. Esbozar proporciona un conducto corporal entre lo abstracto y lo tangible. «Los dibujos no son solo productos acabados: forman parte del proceso mental del diseño arquitectónico», explica Michael Graves, el célebre arquitecto y diseñador de productos. «Los dibujos expresan la interacción de nuestras mentes, ojos y manos»[235]. El filósofo Donald Schön quizá lo expresó mejor que nadie: escribió que un arquitecto mantiene una «conversación reflexiva» con sus dibujos, una conversación que también es, a través de su fisicidad, un diálogo con los materiales auténticos de construcción[236]. A través del ida y vuelta, del toma y daca entre mano y ojo y cerebro, una idea toma cuerpo, una chispa creativa comienza su lenta migración entre la imaginación y el mundo.

El sentido intuitivo de los arquitectos veteranos acerca de la centralidad del dibujo para el pensamiento creativo está apoyado por estudios sobre los fundamentos cognitivos y efectos del dibujo. Los bosquejos en papel sirven para expandir la capacidad de la memoria trabajadora, permitiendo al arquitecto tener en mente muchas opciones y variaciones de diseño diferentes. Al mismo tiempo, el acto físico de dibujar, al exigir una fuerte atención visual y movimientos musculares deliberados, contribuye a la formación de recuerdos duraderos. Ayuda a un arquitecto a recordar diseños anteriores y las ideas subyacentes, mientras ensaya nuevas posibilidades. «Cuando dibujo algo, lo recuerdo», explica Graves. «El dibujo es un recordatorio de la idea que me llevó a registrarlo»[237]. El dibujo también permite al arquitecto moverse rápidamente entre diferentes niveles de detalle y diferentes grados de abstracción, viendo un diseño simultáneamente desde muchos ángulos y sopesando las implicaciones que tendrá modificar algunos detalles en la estructura general. Mediante el dibujo, escribe el especialista británico en diseño Nigel Cross en su libro Designerly Ways of Knowing [«Formas de conocimiento basadas en el diseño»], un arquitecto no solo progresa hacia un diseño final, sino que también reflexiona sobre la naturaleza del problema que está tratando de resolver: «Hemos visto que los dibujos incorporan no solo conceptos de soluciones tentativas, sino también números, símbolos y palabras, dado que el diseñador relaciona lo que sabe acerca del problema del diseño en cuestión con la solución emergente. El dibujo permite que la exploración del espacio problemático y el espacio-solución avancen juntas». En manos de un arquitecto talentoso, un cuaderno de notas se convierte, concluye Cross, en «una especie de amplificador de la inteligencia»[238].

Mejor aún puede ser considerar el dibujo como pensamiento manual. Es tan táctil como cerebral, tan dependiente de la mano como lo es del cerebro. El acto de dibujar parece ser una forma de desbloquear las fuentes mentales ocultas de conocimiento tácito, un proceso misterioso y crucial para cualquier acto de creación artística, y difícil (si no imposible) de lograr solo mediante la deliberación consciente. «El conocimiento del diseño es sabiduría en acción», afirmó Schön, y «es fundamentalmente tácito». «La mejor (o única) forma que tienen los diseñadores de acceder a su conocimiento es ponerse a sí mismos en la función de hacer cosas»[239]. Diseñar con software en la pantalla de un ordenador también es un modo de hacer cosas, pero es diferente. Pone énfasis en el lado más formal del trabajo —pensar lógicamente sobre los requisitos funcionales de un edificio y cómo pueden combinarse de la mejor manera varios elementos arquitectónicos para cumplirlos—. Al disminuir la implicación de la mano, esa «herramienta de herramientas» (como la describió memorablemente Aristóteles), el ordenador circunscribe la fisicidad de la tarea y estrecha el campo perceptivo del arquitecto. En lugar de las figuras orgánicas y corpóreas que emergen de la punta del lápiz o de un trozo de carboncillo, el software CAD aporta, según Schön, «representaciones simbólicas sobre el procedimiento» que «están llamadas a ser incompletas o inadecuadas en relación al fenómeno verdadero del diseño»[240]. Al igual que la pantalla de un GPS ciega al cazador inuit a las señales sensoriales tenues, pero profusas, del ecosistema ártico, la pantalla CAD restringe la percepción y apreciación del arquitecto sobre la materialidad de su obra. El mundo se desvanece.

En 2012 la Escuela de Arquitectura de Yale organizó un simposio titulado «¿Está muerto el dibujo?». El escueto título refleja la creciente sensación de que el dibujo a mano alzada de los arquitectos se está volviendo obsoleto por culpa del ordenador. La transición del cuaderno a la pantalla conlleva, en opinión de muchos arquitectos, una pérdida de creatividad, de aventura. Gracias a la precisión y el aparente acabado de las representaciones en pantalla, un diseñador que trabaja ante un ordenador tiene la tendencia de dar por terminado, visual y cognitivamente, un diseño en una fase temprana. Evita buena parte de la lúdica y reflexiva investigación que nace de la provisionalidad y ambigüedad del dibujo. Los investigadores llaman a este fenómeno «fijación prematura» y rastrean sus causas en «el desincentivo hacia los cambios en el diseño una vez que se introducen muchos detalles e interconectividad con demasiada rapidez en un modelo CAD»[241]. El diseñador frente al ordenador también tiende a enfatizar la experimentación formal a expensas de la expresividad. Al atenuar la «conexión personal y emocional» del arquitecto con su obra, defiende Michael Graves, el software CAD produce diseños que, «siendo complejos e interesantes a su manera», con frecuencia «están faltos del contenido emocional de los diseños hechos a mano»[242].

El distinguido arquitecto finlandés Juhani Pallasmaa plantea un argumento relacionado en su elocuente libro La mano que piensa (2009). Afirma que la creciente dependencia de los ordenadores está haciendo más difícil a los diseñadores imaginar las cualidades humanas de sus edificios —habitar sus obras en elaboración de la manera en que las personas habitarán finalmente las estructuras terminadas—. Mientras que los dibujos a mano y las maquetas físicas tienen «la misma sustancia de materialidad física que encarnan el objeto material que se está diseñando y el propio arquitecto», las operaciones de imágenes de un ordenador existen «en un mundo inmaterial matematizado y abstracto». Pallasmaa cree que «la falsa precisión y aparente finitud de la imagen informática» puede atrofiar el sentido estético de un arquitecto, llevándole a diseños técnicamente pasmosos pero emocionalmente estériles. Al dibujar con un bolígrafo o un lápiz, escribe, «la mano sigue el contorno y las formas del objeto», pero al manipular una imagen simulada mediante software, «la mano normalmente selecciona las líneas de un conjunto determinado de símbolos que no tienen relación analógica —ni, por consiguiente, manual o emocional— con el objeto»[243].

La polémica sobre el uso de ordenadores en profesiones de diseño continuará, y cada parte ofrecerá pruebas concluyentes y argumentos persuasivos. El software de diseño también seguirá avanzando, por caminos que quizá afronten algunas de las limitaciones de las herramientas digitales existentes. Pero sea lo que sea lo que nos depare el futuro, la experiencia de arquitectos y otros diseñadores deja claro que el ordenador nunca es una herramienta neutral. Influye, para bien o para mal, en la forma de trabajar y pensar de una persona. Un programa de software sigue una rutina particular, que facilita unas formas de trabajar y complica otras, y el usuario del programa se adapta a la rutina. El carácter y las metas del trabajo, así como los estándares por los que se juzga, son conformados por las prestaciones de la máquina. Siempre que un diseñador o artesano (o cualquier otra persona) se vuelve dependiente de un programa, también asume los preconceptos del fabricante de ese programa. Con el tiempo, termina valorando lo que el software puede hacer y descartando como algo secundario, irrelevante o simplemente inimaginable lo que no puede hacer. Si no se adapta, corre el riesgo de quedar marginado en su profesión.

Más allá de las especificaciones de la programación, el simple hecho de transferir trabajo a la pantalla conlleva profundos cambios de perspectiva. Se pone más hincapié en la abstracción y menos en la materialidad. Crece la capacidad calculadora; el compromiso sensorial se marchita. Lo preciso y lo explícito cobran precedencia sobre lo tentativo y lo ambiguo. E. J. Meade, cofundador de Arch11, un pequeño estudio de arquitectura en Boulder, Colorado, alaba la eficiencia del software de diseño, pero se muestra preocupado por que programas populares como Revit y SketchUp estén tornándose demasiado prescriptivos. Un diseñador tiene solo que teclear las dimensiones de una pared o suelo o cualquier otra superficie, y con un clic el software genera todos los detalles, dibujando automáticamente cada tabla o bloque de hormigón, cada azulejo, todos los soportes, el aislamiento, el mortero, la escayola, lo que sea. Meade cree que, por ello, la forma en la que los arquitectos trabajan y piensan se está homogeneizando, al igual que los edificios que diseñan se están haciendo más predecibles. «Cuando hojeabas revistas arquitectónicas en la década de 1980», me dijo, «veías la mano del arquitecto individual». Hoy lo que sueles ver es el funcionamiento de un software: «Puedes leer la operación de la tecnología en el producto final»[244].

Al igual que sus homólogos en la medicina, muchos diseñadores veteranos temen que la dependencia creciente de herramientas y rutinas automatizadas está dificultando a los estudiantes y jóvenes profesionales aprender las sutilezas de su oficio. Jacob Brillhart, profesor de Arquitectura en la Universidad de Miami, cree que los fáciles atajos proporcionados por programas como Revit están socavando «el proceso de aprendizaje». Confiar en el software para rellenar detalles de diseño y especificar materiales «solo engendra diseños más banales, perezosos y del montón, que carecen de intelecto, imaginación y emoción». También ve, igual que en la experiencia de los médicos, una cultura emergente del corta-y-pega en su profesión, con arquitectos más jóvenes «que cogen y reordenan detalles, elevaciones y secciones de pared de proyectos pasados del servidor de la oficina»[245]. La conexión entre hacer y saber se está rompiendo.

El peligro que se cierne sobre los oficios creativos es que diseñadores y artistas, deslumbrados por la velocidad, precisión y eficiencia sobrehumanas del ordenador, acabarán dando por sentado que la automatización es el mejor camino. Aceptarán los pros y contras que el software impone sin evaluarlos. Se apresurarán por el camino del menor esfuerzo, a pesar de que un poco de resistencia, un poco de fricción, podría haber sacado lo mejor de ellos.

* * *

«Para saber atar de verdad unos cordones», dijo el politólogo y mecánico de motos Matthew Crawford, «tienes que atar cordones». Es una ilustración sencilla de una verdad profunda que Crawford aborda en su libro de 2009 Shop Class as Soulcraft [«La clase consumidora como una fuerza laboral»]: «Si el pensamiento está ligado a la acción, entonces la tarea de alcanzar una comprensión adecuada del mundo, intelectualmente, depende de que hagamos cosas en él»[246]. Crawford se basa en la obra del filósofo alemán Martin Heidegger, que argüía que la forma de entendimiento más profunda disponible para nosotros «no es la mera cognición perceptiva, sino más bien el manejo, uso y cuidado de las cosas, que tiene su propia clase de “conocimiento”»[247].

Solemos hablar del trabajo ligado al conocimiento como si fuese diferente del trabajo manual o incluso incompatible con él —admito que he dicho algo muy parecido en capítulos anteriores de este libro—, pero la distinción es arrogante y bastante frívola. Todo trabajo es trabajo ligado al conocimiento. La mente del carpintero no está menos viva y motivada que la de un actuario. Los logros del arquitecto dependen tanto del cuerpo y sus sentidos como los del cazador. Lo que se predica de otros animales es cierto también para nosotros: la mente no está sellada en el cráneo, se extiende a lo largo del cuerpo. Pensamos no solo con nuestro cerebro, sino también con nuestros ojos y orejas, nariz y boca, extremidades y torso. Y cuando usamos herramientas para aumentar nuestro alcance, pensamos también con ellas. «El pensamiento, o la adquisición de conocimiento, está lejos de ser esa actividad de sillón que se suponía», escribió el filósofo y reformador social estadounidense John Dewey en 1916. «Manos y pies, aparatos y artefactos de todo tipo, forman tanta parte de él como los cambios en el cerebro»[248]. Actuar es pensar y pensar es actuar.

Nuestro deseo de segregar las reflexiones de la mente de los esfuerzos del cuerpo refleja la influencia que tiene todavía el dualismo cartesiano en nosotros. Cuando pensamos sobre pensar, inmediatamente localizamos nuestra mente, y por tanto nuestro ser, en la materia gris que aloja nuestro cráneo, y vemos el resto del cuerpo como un sistema mecánico de sostén vital que mantiene los circuitos neuronales cargados. Más que un capricho de filósofos como Descartes y su antecesor Platón, esta visión dualista de mente y cuerpo operando aisladamente el uno del otro parece ser un efecto secundario de la propia conciencia. Aunque la mayor parte del trabajo mental sucede, inadvertidamente, en las sombras del inconsciente, percibimos solo la ventana pequeña pero bien iluminada que la mente consciente abre para nosotros. Y nuestra mente consciente nos dice, insistentemente, que está separada del cuerpo.

Según el profesor de Psicología de la UCLA Matthew Lieberman, la ilusión surge del hecho de que al contemplar nuestros cuerpos utilizamos una parte diferente del cerebro que al contemplar nuestros cerebros. «Cuando piensas en tu cuerpo y las acciones de tu cuerpo, utilizas una región prefrontal y parietal de la superficie exterior de tu hemisferio derecho», explica. «Cuando piensas en tu mente utilizas, en cambio, regiones prefrontales y parietales diferentes en el centro del cerebro, donde ambos hemisferios se tocan». Cuando áreas diferentes del cerebro procesan experiencias, la mente consciente interpreta esas experiencias como si perteneciesen a categorías diferentes. Mientras que la «ilusión concebida del dualismo mente-cuerpo no refleja verdaderas distinciones de naturaleza», destaca Lieberman, tiene no obstante «realidad psicológica inmediata para nosotros»[249].

Cuanto más aprendemos sobre nosotros, más nos damos cuenta de lo equívoca que es esa «realidad» particular. Una de las áreas de estudio más interesantes e instructivas en la psicología y neurociencia contemporáneas implica lo que se denomina conocimiento corporal. Los científicos y académicos actuales están confirmando la intuición ya centenaria de John Dewey: no solo están mente y cuerpo compuestos de la misma materia, sino que sus funcionamientos están entrelazados hasta un punto mucho mayor de lo que suponemos. Los procesos biológicos que constituyen «el pensamiento» emergen no solo de computaciones neurales en el cráneo, sino de las acciones y percepciones sensoriales de todo el cuerpo. «Por ejemplo», explica Andy Clark, un filósofo de la mente de la Universidad de Edimburgo que ha escrito mucho sobre el conocimiento corporal, «hay muchas pruebas de que los gestos físicos que hacemos mientras hablamos reducen en realidad la carga cognitiva permanente sobre el cerebro, y de que la biomecánica de los sistemas musculares y tendonales de las piernas simplifican enormemente el problema de andar conscientemente»[250]. La retina, según estudios recientes, no es un sensor pasivo que envía datos en bruto al cerebro, como se suponía; moldea activamente lo que vemos. El ojo tiene una inteligencia propia[251]. Incluso nuestras reflexiones conceptuales parecen incluir los sistemas corporales para sentir y moverse. Al pensar abstracta o metafóricamente sobre objetos o fenómenos mundanos —ramas, por ejemplo, o ráfagas de viento— recreamos mentalmente, o simulamos, nuestra experiencia física de las cosas[252]. «Para criaturas como nosotros», afirma Clark, «el cuerpo, el mundo y la acción» son «coarquitectos de esa cosa escurridiza que llamamos la mente»[253].

Cómo se distribuyen las funciones cognitivas por el cerebro, los órganos sensoriales y el resto del cuerpo todavía es objeto de estudio y de debate, y algunas de las afirmaciones más extravagantes hechas por defensores del conocimiento corporal, como la sugerencia de que la mente individual se extiende fuera del cuerpo, por el entorno, siguen siendo polémicas. Lo que está claro es que ya no podemos separar nuestro pensamiento de nuestro ser físico más de lo que podemos separar nuestro ser físico del mundo que lo alumbró. «Nada de la experiencia humana queda intacto por la encarnación humana», escribe el filósofo Shaun Gallagher: «Desde los procesos básicos perceptivos y emocionales que ya operan en nuestra infancia, hasta la interacción sofisticada con otras personas; desde la adquisición y el uso creativo del lenguaje, hasta facultades cognitivas más elevadas que incluyen el juicio y la metáfora; desde el ejercicio del libre albedrío en la acción intencional, hasta la creación de artefactos culturales que proporcionan mayores posibilidades a los humanos»[254].

La idea de conocimiento corporal ayuda a explicar, como sugiere Gallagher, la facilidad prodigiosa de la raza humana para la tecnología. Adaptados al entorno que nos rodea, nuestros cuerpos y mentes incorporan rápidamente herramientas y otros artilugios a nuestros procesos de pensamiento: tratan las cosas, neurológicamente, como parte de nosotros mismos. Si caminas con un bastón o trabajas con un martillo o combates con una espada, tu cerebro añadirá la herramienta a su mapa neuronal de tu cuerpo. El acoplamiento en el sistema nervioso de cuerpo y objeto no es exclusivo de los humanos. Los monos usan palos para desenterrar hormigas y termitas, los elefantes usan ramas con hojas para ahuyentar moscas, los delfines usan trozos de esponja para protegerse de arañazos mientras rebuscan comida en el lecho de los océanos. Pero la aptitud superior del Homo sapiens para el razonamiento consciente y la planificación nos permite diseñar herramientas e instrumentos ingeniosos para todo tipo de propósitos, extendiendo nuestras facultades mentales y físicas. Tenemos una tendencia antigua hacia lo que Clark llama «hibridación cognitiva», la mezcla de lo biológico y lo tecnológico, lo interno y lo externo[255].

La facilidad con que hacemos de la tecnología parte de nuestro ser también puede llevarnos por mal camino. Podemos conceder poder a nuestras herramientas de formas que quizá no nos convengan. Una de las grandes ironías de nuestro tiempo es que mientras los científicos descubren cada vez más cosas sobre los roles esenciales que desempeñan la acción física y la percepción sensorial en el desarrollo de nuestros pensamientos, recuerdos y habilidades, estamos pasando menos tiempo actuando en el mundo y más tiempo viviendo y trabajando a través del medio abstracto de la pantalla de un ordenador. Nos estamos desvinculando de nuestros cuerpos, imponiendo restricciones sensoriales a nuestra existencia. Con el uso general del ordenador hemos logrado, con suficiente perversidad, diseñar una herramienta que nos roba el placer corporal de trabajar con herramientas.

Nuestra creencia, intuitiva pero errónea, de que nuestro intelecto opera aisladamente de nuestro cuerpo nos lleva a descontar la importancia de implicarnos en el mundo de las cosas. Eso, a su vez, facilita la asunción de que un ordenador —que aparentemente es un cerebro artificial, una «máquina de pensar»— sea una herramienta suficiente y superior para realizar el trabajo de la mente. Michael Jones (de Google) da por hecho que «la gente tiene aproximadamente 20 puntos más de cociente intelectual ahora» gracias a las herramientas de mapas de su empresa y otros servicios de Internet[256]. Engañados por nuestros propios cerebros, asumimos que no sacrificamos nada, o al menos nada fundamental, al confiar en scripts de software para viajar de sitio en sitio o para diseñar edificios o para realizar otros tipos de trabajo cuidadoso e inventivo. Peor aún, nos olvidamos del hecho de que no existen alternativas. Ignoramos la forma en que los programas de software y sistemas automatizados pueden ser reconfigurados para que no debiliten nuestra comprensión del mundo, sino que la refuercen. Puesto que, como han descubierto los investigadores en factores humanos y otros expertos en automatización, hay maneras de romper la jaula de cristal sin perder los muchos beneficios que nos proporcionan los ordenadores.

7. AUTOMATIZACIÓN PARA LAS PERSONAS

7. AUTOMATIZACIÓN PARA LAS PERSONAS.

Y además, ¿quién necesita a los humanos?

Esa pregunta, de cualquier forma retórica, aparece con frecuencia en los debates sobre la automatización. Si los ordenadores están avanzando tan rápido, y si las personas en comparación parecen lentas, torpes y proclives al error, ¿por qué no construimos sistemas inmaculadamente autosuficientes que funcionen de modo impecable, sin ningún despiste o intervención humanos? ¿Por qué no eliminar el factor humano completamente de la ecuación? «Necesitamos que los robots tomen el control», declaró el teórico de la tecnología Kevin Kelly en un reportaje de portada de la revista Wired en 2013. Señaló la aviación como ejemplo: «Un cerebro computerizado conocido como piloto automático puede pilotar un reactor 787 sin ayuda, pero irracionalmente ponemos pilotos humanos en la cabina para supervisar al piloto automático “por si acaso”»[257]. La noticia sobre una persona que estaba conduciendo el coche Google y chocó en 2011 animó a un colaborador de un importante blog tecnológico a proclamar: «¡Más conductores robots!»[258]. Al comentar las dificultades de las escuelas públicas de Chicago, el reportero del Wall Street Journal Andy Kessler preguntó, solo medio en broma: «¿Por qué no olvidarnos de los profesores y entregar a los 404 151 estudiantes un iPad o una tableta Android?»[259]. En un ensayo de 2012, el respetado emprendedor de Silicon Valley Vinod Khosla sugirió que la atención sanitaria mejorará mucho en el momento en que el software médico —que apoda «doctor Algoritmo»— pase de asistir a los médicos de atención primaria para hacer diagnósticos a reemplazar por completo a los doctores. «Con el tiempo», escribió, «no necesitaremos al médico estándar»[260]. El remedio para la automatización imperfecta es la automatización total.

Es una idea seductora, pero simplista. Las máquinas comparten la fiabilidad de sus fabricantes. Antes o después, incluso la tecnología más avanzada se estropeará, fallará o, en el caso de los sistemas computerizados, se topará con un cúmulo de circunstancias que sus diseñadores y programadores nunca anticiparon y que dejarán a sus algoritmos aturdidos. A comienzos de 2009, solo unas semanas antes del accidente de Continental Connection en Buffalo, un Airbus A320 de US Airways perdió toda su capacidad motora tras impactar con una bandada de gansos canadienses al despegar del aeropuerto de LaGuardia en Nueva York. Con rapidez y frialdad, el capitán Chesley Sullenberger y su primer oficial, Jeffrey Skiles, lograron en tres minutos angustiosos estabilizar el avión incapacitado en el río Hudson. Todos los pasajeros y la tripulación fueron evacuados. Si los pilotos no hubiesen estado allí para «cuidar» el A320 —una nave equipada con automatización de última generación—, el avión se hubiese estrellado y todas las personas a bordo hubiesen fallecido con casi total certeza. Es raro que en un avión de pasajeros fallen todos los motores. Pero no es raro para los pilotos rescatar aviones con desajustes mecánicos, fallos del piloto automático, mal tiempo y otros sucesos inesperados. «Una y otra vez», afirmó la revista alemana Der Spiegel en un reportaje publicado en 2009 sobre seguridad aérea, los pilotos de aviones pilotados automáticamente «se encuentran con sorpresas nuevas y desagradables que ninguno de los ingenieros había previsto»[261].

Pasa lo mismo en otros lugares. El percance ocurrido cuando una persona conducía el Prius de Google fue ampliamente recogido por la prensa; de lo que no nos enteramos mucho es de todas las veces que los conductores de apoyo de los coches Google, y otros vehículos de prueba automatizados, tienen que tomar el volante para realizar maniobras que los ordenadores no pueden llevar a cabo. Como política, Google exige que las personas conduzcan sus coches manualmente por áreas residenciales, y cualquier empleado que quiera dar una vuelta en uno de los vehículos debe completar un entrenamiento riguroso en técnicas de conducción de emergencia[262]. Los coches sin conductor no son tan independientes como parecen.

En medicina, los cuidadores tienen que rechazar con frecuencia las instrucciones o sugerencias equivocadas de los ordenadores clínicos. Los hospitales han descubierto que, aunque los sistemas informatizados de prescripción de medicamentos alivian algunos errores comunes en la dispensa de fármacos, también crean nuevos problemas. Un estudio de 2011 en un hospital reveló que la incidencia de recetas médicas duplicadas aumentó después de que la prescripción se automatizara[263]. El software diagnóstico también dista mucho de ser perfecto. El Doctor Algoritmo puede dar el diagnóstico y tratamiento correcto la mayoría de las veces, pero si un conjunto específico de síntomas no encaja con el perfil de probabilidades, el paciente se alegrará de que el Doctor Humano esté en la consulta para revisar y anular los cálculos del ordenador.

A medida que las tecnologías de la automatización se vuelven más complejas y más interconectadas, con su revoltijo de vínculos y dependencias entre instrucciones de software, bases de datos, protocolos de redes, sensores y partes mecánicas, las fuentes potenciales de error se multiplican. Los sistemas se vuelven susceptibles a lo que los científicos llaman «fallos en cascada», en los que una pequeña anomalía en un componente provoca una cadena extensa y catastrófica de averías. El nuestro es un mundo de «redes interdependientes», sostuvo un grupo de físicos en un artículo de Nature en 2010. «Diversas infraestructuras como la provisión de agua, el transporte y las estaciones de combustible y energía están acopladas entre sí» a través de vínculos electrónicos y de otra clase que acaban volviendo a todas ellas «extremadamente sensibles al error fortuito». Eso es cierto incluso cuando las conexiones están limitadas a intercambios de información[264].

La vulnerabilidad también se hace más difícil de discernir. La científica informática del MIT Nancy Leveson explica en su libro Engineering a Safer World [«Ingeniería de un mundo más seguro»] que con la maquinaria industrial del pasado «las interacciones entre los componentes podían ser minuciosamente planificadas, comprendidas, previstas y protegidas», y el diseño global de un sistema podía ser probado exhaustivamente antes de ponerlo en uso a diario. «Los sistemas modernos de alta tecnología ya no tienen esas propiedades». Son menos «manejables intelectualmente» que sus predecesores[265]. Puede que todas las partes funcionen impecablemente, pero un pequeño error o despiste en el diseño del sistema —un fallo que puede estar sepultado bajo cientos de miles de líneas de código de software— puede causar un accidente grave.

Los daños se multiplican por la velocidad increíble a la que los ordenadores pueden tomar decisiones y desencadenar acciones. Quedó demostrado durante el curso de una hora espeluznante el 1 de agosto de 2012, día en que la mayor compañía bursátil de Wall Street, Knight Capital Group, activó un nuevo programa automatizado para comprar y vender acciones. El moderno software tenía un error que no se detectó en las pruebas. El programa empezó inmediatamente a vomitar intercambios con órdenes no autorizadas e irracionales, operando con 2,6 millones de dólares en acciones por segundo. En los 45 minutos que pasaron antes de que los matemáticos e informáticos de Knight fueran capaces de rastrear el problema hasta su origen y cerrar el dañino programa, el software acumuló 7000 millones de dólares en operaciones erradas. La compañía acabó perdiendo casi 500 millones de dólares, lo que la situó al borde de la bancarrota. En menos de una semana, un consorcio de otras empresas de Wall Street rescató a Knight para evitar otro desastre más en el sector financiero.

La tecnología avanza, por supuesto, y los fallos se solucionan. La perfección, no obstante, sigue siendo un ideal que nunca puede alcanzarse. Incluso si pudiese diseñarse y fabricarse un sistema automatizado perfecto, seguiría operando en un mundo imperfecto. Los coches autónomos no recorren las calles de la utopía. Los robots no realizan sus actividades en el paraíso. Los gansos vuelan. Existen los rayos. La convicción de que podemos construir un sistema automatizado completamente autosuficiente y fiable es en sí misma una manifestación del sesgo de la automatización.

Desafortunadamente, esa convicción es común no solo entre las lumbreras de la tecnología, sino también entre ingenieros y programadores de software: las mismas personas que diseñan los sistemas. En un artículo clásico publicado en 1983 en la revista Automatica, Lisanne Bainbridge, una psicóloga ingeniera de la College University de Londres, describía un dilema que está en la base de la automatización informática. Puesto que los diseñadores asumen con frecuencia que los seres humanos son «poco fiables e ineficientes», al menos comparados con un ordenador, tratan de darles un rol tan pequeño como sea posible en la operación de los sistemas. Las personas acaban funcionando como meros vigilantes, observadores pasivos de pantallas[266]. Esa es una labor en la que los humanos, con nuestras mentes notoriamente errabundas, somos especialmente malos. Los estudios sobre vigilancia, ya desde los llevados a cabo sobre los operadores de radar británicos en busca de submarinos alemanes durante la Segunda Guerra Mundial, muestran que incluso las personas altamente motivadas no pueden mantener su atención centrada en una visualización de información relativamente estable durante más de media hora[267]. Se aburren; sueñan despiertos; su concentración se disipa. «Esto significa», escribió Bainbridge, «que es humanamente imposible desempeñar la función básica de vigilar en busca de anormalidades improbables»[268].

Y dado que las habilidades de una persona «se deterioran cuando no se usan», añadía, incluso un operador de sistemas experimentado acabará actuando en alguna ocasión como «uno inexperto» si su trabajo principal consiste en mirar en lugar de actuar. A medida que sus instintos y reflejos se oxiden por el desuso, tendrá problemas para detectar y diagnosticar imprevistos, y sus respuestas serán lentas y deliberativas en lugar de rápidas y automáticas. Combinada con la pérdida de percepción ambiental, la degradación de la experiencia aumenta las probabilidades de que, cuando algo se tuerza (como sucederá antes o después), el operador reaccione con ineptitud. Y una vez que eso ocurra, los diseñadores de sistemas trabajarán para poner incluso mayores límites al papel del operador, sacándole aún más de la acción y haciendo más probable que meta la pata en el futuro. La presunción de que el ser humano será el eslabón más débil del sistema se termina cumpliendo.

* * *

La ergonomía, el arte y la ciencia de adaptar las herramientas y los lugares de trabajo a las personas que los utilizan, data al menos de la Grecia clásica. Hipócrates, en sus Tratados quirúrgicos, proporciona instrucciones precisas sobre cómo deberían estar iluminados y amueblados los quirófanos, cómo deberían disponerse y manejarse los instrumentos médicos e incluso cómo deberían vestirse los cirujanos. En el diseño de muchas herramientas griegas vemos evidencia de una consideración exquisita acerca de los modos en que la forma, peso y equilibrio de un instrumento afectan a la productividad, energía y salud de un trabajador. En antiguas civilizaciones asiáticas hay también signos de que los aperos de trabajo eran cuidadosamente diseñados en función del bienestar físico y psicológico del trabajador[269].

No fue hasta la Segunda Guerra Mundial, sin embargo, cuando la ergonomía comenzó a emerger (junto con su prima más teórica, la cibernética) como disciplina formal. Debían confiarse armas y maquinaria compleja y peligrosa a muchos miles de soldados inexpertos, y no había mucho tiempo para entrenamiento. Ya no se podían tolerar diseños incómodos y controles complicados. Gracias a pensadores pioneros como Norbert Wiener y a los psicólogos de las fuerzas aéreas estadounidenses Paul Fitts y Alphonse Chapanis, los planificadores militares e industriales empezaron a apreciar que los seres humanos juegan un papel tan integral en el funcionamiento exitoso de un sistema tecnológico complejo como sus componentes mecánicos y reguladores electrónicos. No puedes optimizar una máquina y después forzar al trabajador a adaptarse a ella, al rígido modo taylorista; debes diseñar la máquina para que le convenga al trabajador.

Inspirados en un primer momento por el esfuerzo de guerra y después por el impulso de incorporar ordenadores al comercio, al Gobierno y la ciencia, un grupo grande y dedicado de psicólogos, fisiólogos, neurobiólogos, ingenieros, sociólogos y diseñadores comenzó a emplear sus diversos talentos al estudio de la interacción entre las personas y las máquinas. Puede que su atención principal fuese el campo de batalla y la fábrica, pero su aspiración era profundamente humanista: unir a las personas con la tecnología en una simbiosis productiva, resistente y segura, una alianza armoniosa hombre-máquina que pudiese sacar lo mejor de ambas partes. Si la nuestra es una era de sistemas complejos, entonces los ergonomistas son nuestros metafísicos.

O al menos deberían serlo. Con demasiada frecuencia, los descubrimientos y adelantos en el campo de la ergonomía (o, como se la conoce comúnmente ahora, ingeniería de los factores humanos), son ignorados o recibidos con poca atención. La cautela respecto a los efectos de los ordenadores y otras máquinas en las mentes y cuerpos de las personas ha sido sistemáticamente obstaculizada por el deseo de lograr eficiencia, velocidad y precisión máximas, o simplemente para conseguir el mayor beneficio posible. Los programadores de software reciben poca o ninguna formación en ergonomía, y mayormente prescinden de estudios relevantes sobre factores humanos. No ayuda que los ingenieros e informáticos, sumamente centrados en las matemáticas y la lógica, tengan una natural antipatía hacia las preocupaciones «más suaves» de sus homólogos en el ámbito de los factores humanos. Unos pocos años antes de su muerte, acaecida en 2006, el pionero de la ergonomía David Meister, al recordar su propia carrera, escribió que él y sus colegas «siempre trabajaron contra las adversidades, de modo tal que todo logro era fundamentalmente inesperado». El rumbo del progreso, concluyó nostálgicamente, «está atado al afán de lucro; en consecuencia, tiene poco aprecio por lo humano»[270].

No fue siempre así. Las personas comenzaron a pensar por primera vez en el progreso tecnológico como fuerza de la historia en la segunda mitad del siglo XVIII, en el que los descubrimientos científicos de la Ilustración empezaron a verse traducidos en la maquinaria práctica de la Revolución Industrial. Esa fue también, y no por coincidencia, una época de revueltas políticas. Los ideales democráticos y humanitarios de la Ilustración culminaron en las revoluciones de Estados Unidos y Francia, y aquellos ideales también influyeron en la visión de la sociedad sobre la ciencia y la tecnología. Los avances técnicos eran valorados —por los intelectuales, si no siempre por los trabajadores— como medios para la reforma política. El progreso se definía en términos sociales, y la tecnología jugaba un papel secundario. Los pensadores ilustrados como Voltaire, Joseph Priestley y Thomas Jefferson vieron, en palabras del historiador cultural Leo Marx, «las nuevas ciencias y tecnologías no como fines en sí mismos, sino como instrumentos para llevar a cabo una transformación exhaustiva de la sociedad».

A mediados del siglo XIX, sin embargo, la visión reformista había sido eclipsada, al menos en Estados Unidos, por un concepto nuevo y muy diferente de progreso en el que la propia tecnología tenía el papel protagonista. «Con el desarrollo posterior del capitalismo industrial», escribe Marx, «los estadounidenses celebraron el avance de la ciencia y la tecnología con creciente fervor, pero empezaron a separar la idea del objetivo de la liberación social o política». En cambio, abrazaron «la visión ahora familiar de que las innovaciones en tecnologías con fundamento científico son por sí mismas una base fiable y suficiente para el progreso»[271]. La nueva tecnología, apreciada en un momento como medio hacia un bien mayor, vino a ser reverenciada como un bien en sí misma.

Poco puede sorprender, entonces, que en nuestra propia época las prestaciones de los ordenadores hayan determinado la división del trabajo en sistemas complejos automatizados, como sugirió Bainbridge. Para multiplicar la productividad, reducir los costes laborales y evitar el error humano —para continuar progresando— basta con delegar el control sobre el mayor número posible de actividades en el software, y a medida que la capacidad del software crece, extiende incluso más el ámbito de su autoridad. Cuanta más tecnología, mejor. Los operarios de carne y hueso mantienen solo la responsabilidad de las tareas que los diseñadores no saben todavía cómo automatizar, por ejemplo buscar anomalías u ofrecer un apoyo de emergencia en caso de fallo del sistema. Las personas son desplazadas cada vez más lejos de lo que los ingenieros llaman «el bucle»: el ciclo de acción, retroalimentación y toma de decisiones que controla permanentemente las operaciones de un sistema.

Los ergonomistas llaman al enfoque prevalente automatización centrada en la tecnología. Con una fe casi religiosa en la tecnología y una desconfianza igualmente ferviente hacia los seres humanos, esta sustituye las metas humanistas por las misantrópicas. Convierte la simplista actitud ¿quién necesita a los humanos? del soñador tecnófilo en una ética del diseño. A medida que las máquinas y herramientas de software resultantes encuentran su sitio en lugares de trabajo y hogares, llevan ese ideal misántropo a nuestras vidas. «La sociedad», escribe Donald Norman, científico cognitivo y autor de varios libros influyentes sobre diseño de productos, «ha caído inconscientemente en una concepción vital centrada en las máquinas, que destaca las necesidades tecnológicas por encima de las de las personas, empujando por ello a las personas a un papel secundario para el que la mayoría no estamos preparados. Peor aún, el punto de vista centrado en las máquinas compara a las personas con las máquinas y nos encuentra necesitándolas, incapaces de acciones precisas, repetitivas y minuciosas». Aunque ahora «impregna la sociedad», esta visión deforma nuestro concepto de nosotros mismos. «Hace hincapié en tareas y actividades que no deberíamos estar realizando e ignora nuestros atributos y habilidades primarios —actividades que las máquinas hacen mal, si es que las hacen—. Al asumir el punto de vista centrado en las máquinas, valoramos las cosas por sus méritos artificiales, mecánicos»[272].

Resulta completamente lógico que aquellos que tienen una inclinación mecánica asuman una visión mecánica de la vida. El ímpetu que hay detrás de la invención es muchas veces, como dijo Norbert Wiener, «el deseo del gadgetero de que las ruedas sigan girando»[273]. Y es igualmente lógico que esas personas vengan a controlar el diseño y la construcción de los complicados sistemas y programas de software que ahora rigen o median en el funcionamiento de la sociedad. Son ellos los que conocen el código. A medida que la sociedad se vuelve cada vez más informatizada, el tecnólogo se convierte en su legislador no reconocido. Al definir el factor humano como una cuestión periférica, el tecnólogo también elimina el impedimento principal a la satisfacción de sus deseos; la persecución ilimitada del progreso tecnológico se autojustifica. Juzgar a la tecnología ante todo por sus méritos tecnológicos es dar carta blanca al gadgetero.

Además de encajar con la ideología dominante del progreso, el sesgo de dejar a la tecnología guiar las decisiones sobre la automatización tiene ventajas prácticas. Simplifica mucho el trabajo de los fabricantes de sistemas. Ingenieros y programadores solo tienen que tener en cuenta lo que pueden hacer los ordenadores y las máquinas. Eso les permite reducir su foco y seleccionar las características de un proyecto. Les releva de tener que luchar con las complejidades, extravagancias y fragilidades del cuerpo y la mente humanos. Pero por muy atractiva que sea como táctica de diseño, la simplicidad de la automatización centrada en la tecnología es un espejismo. Ignorar el factor humano no elimina el factor humano.

En un muy citado artículo del año 1997, «Automation surprises» [«Las sorpresas de la automatización»], los expertos en factores humanos Nadine Sarter, David Woods y Charles Billings rastrearon los orígenes del enfoque concentrado en la tecnología. Describieron cómo surgió de los «mitos, falsas esperanzas e intenciones equivocadas asociados con la tecnología moderna», y los sigue reflejando. La llegada del ordenador, primero como máquina analógica y después en su familiar forma digital, impulsó a ingenieros e industriales a adoptar una visión idealista de los sistemas controlados electrónicamente, a verlos como una especie de cura universal para la ineficiencia y falibilidad humanas. El orden y la pulcritud de las operaciones y respuestas informáticas parecían caídos del cielo si se contrastaban con el lío terrenal de los asuntos humanos. «La tecnología de la automatización», escribieron Sarter y sus colegas, «fue originalmente desarrollada con la esperanza de aumentar la precisión y economía de las operaciones mientras que, al mismo tiempo, reducía la carga de trabajo y las exigencias de formación del operario. Se consideró posible crear un sistema autónomo que requiriese poca, o ninguna, participación humana y redujese o eliminase, por tanto, las oportunidades para el error humano». Esa creencia condujo, de nuevo con lógica prístina, a la suposición ulterior de que «los sistemas automatizados podían diseñarse en general sin demasiada consideración hacia el elemento humano»[274].

Los deseos y creencias que apuntalan el enfoque dominante del diseño, continuaban los autores, han demostrado ser ingenuos y nocivos. Es cierto que los sistemas automatizados han mejorado con frecuencia la «precisión y economía de las operaciones», pero han quedado por debajo de las expectativas en otros aspectos y han creado una nueva serie de problemas. La mayoría de las deficiencias nacen «del hecho de que incluso sistemas sumamente automatizados requieren aún la participación del operario y, por tanto, comunicación y coordinación entre el hombre y la máquina». Pero dado que los sistemas se han diseñado sin suficiente atención a las personas que los operan, sus facultades de comunicación y coordinación son endebles. En consecuencia, a los sistemas computerizados les falta el «conocimiento completo» del trabajo y el «acceso exhaustivo al mundo exterior» que solo las personas pueden proporcionar. «Los sistemas automatizados no saben cuándo iniciar la comunicación con los humanos sobre sus intenciones y actividades o cuándo solicitar información adicional a los humanos. No siempre entregan feedback adecuado al humano que, a continuación, tiene dificultades para seguir el estatus y el comportamiento de la automatización y para darse cuenta de que es necesario intervenir para prevenir actos indeseables de la propia automatización». Muchos de los problemas que lastran a los sistemas automatizados nacen del «fracaso en el diseño de la interacción humano-máquina para exhibir las competencias básicas de la interacción humano-humano»[275].

Los ingenieros y programadores agravan los problemas al esconder los manejos de sus creaciones a los operarios, lo cual convierte cada sistema en una caja negra inescrutable. Los seres humanos normales, según una generalizada suposición, no poseen la brillantez o cualificación suficientes para comprender las complejidades de un programa de software o un aparato robótico. Si les cuentas demasiado sobre los algoritmos o procesos que rigen sus operaciones y decisiones, solo lograrás confundirlos, o peor aún, animarles a enredar con el sistema. Es más seguro mantener a la gente fuera de ello. Aquí, de nuevo, el intento de evitar errores humanos al eliminar la responsabilidad personal termina, sin embargo, aumentando la probabilidad de error. Un operario ignorante es un operario peligroso. Como explica el profesor de Factores Humanos de la Universidad de Iowa John Lee, es frecuente que un sistema automatizado use «algoritmos» de control que no concuerdan con las estrategias de control y el modelo mental de la persona «[que lo opera]». Si la persona no entiende esos algoritmos, no hay manera de que pueda «prever las acciones y los límites de la automatización». El humano y la máquina, operando bajo suposiciones contradictorias, terminan trabajando con fines opuestos. La incapacidad de las personas de entender las máquinas que usan puede también socavar su autoestima, afirma Lee, lo que «puede disuadirles de intervenir» si algo se estropea[276].

* * *

Los expertos en factores humanos han instado desde hace mucho tiempo a los diseñadores a que se alejen del enfoque la tecnología primero y adopten en su lugar la automatización centrada en los humanos. En lugar de comenzar con un análisis de la capacidad de la máquina, el diseño centrado en las personas comienza con una evaluación cuidadosa de las destrezas y limitaciones de las personas que manejarán o interactuarán con la máquina. Devuelve al desarrollo tecnológico los principios humanistas que inspiraron a los ergonomistas originales. El objetivo es dividir roles y responsabilidades de manera que no solo capitalice la velocidad y precisión del ordenador, sino que mantenga a los trabajadores comprometidos, activos y alerta: dentro del bucle, no fuera[277].

Alcanzar esa clase de equilibrio no es difícil. Décadas de investigación en ergonomía demuestran que puede lograrse con una serie de decisiones directas. El software de un sistema puede ser programado para traspasar el control de algunas funciones críticas del ordenador al operario a intervalos frecuentes pero irregulares. Sabiendo que podrían verse obligados a asumir el mando en cualquier momento, mantiene a las personas atentas e implicadas, promoviendo la conciencia situacional y el aprendizaje. Un ingeniero diseñador puede poner límites al campo de aplicación de la automatización, asegurándose de que la gente que trabaja con ordenadores realice tareas exigentes en lugar de ser relegadas a papeles pasivos y observadores. Dar más cosas que hacer a las personas ayuda a mantener el efecto generación. Un diseñador también puede entregar al operario feedback sensorial directo sobre el rendimiento del sistema mediante alertas auditivas y táctiles y pantallas, incluso de las actividades que controla el ordenador. El feedback regular eleva el compromiso y contribuye a que los operarios permanezcan vigilantes.

Una de las aplicaciones más intrigantes del enfoque centrado en los humanos es la automatización adaptativa. En los sistemas adaptativos, el ordenador es programado para prestar atención directa a la persona que lo maneja. La división del trabajo entre el software y el operario humano es ajustada continuamente, dependiendo de lo que ocurra en cualquier momento dado[278]. Si el ordenador percibe que el operario debe efectuar una maniobra delicada, por ejemplo, es posible que asuma todas las tareas restantes. Libre de distracciones, el operario puede concentrar toda su atención en el desafío crítico. Bajo condiciones habituales, el ordenador puede traspasar más tareas al operario, aumentando su carga de trabajo para asegurarse de que mantiene su conciencia situacional y practica sus habilidades. Poniendo las capacidades analíticas del ordenador al servicio humanístico, la automatización adaptativa persigue mantener al operario en la cima de la curva de rendimiento Yerkes-Dodson, de modo que se prevenga tanto la sobrecarga como la infracarga cognitiva. DARPA, el laboratorio del Departamento de Defensa que lideró la creación de Internet, está incluso trabajando en el desarrollo de sistemas «neuroergonómicos» que, mediante diversos sensores cerebrales y corporales, puede «detectar un estado cognitivo individual y después manipular parámetros de actividad para desbloquear cuellos de botella perceptuales, atencionales y de memoria de trabajo»[279]. La automatización adaptativa también promete inyectar una dosis de humanidad en las relaciones profesionales entre las personas y los ordenadores. Algunos usuarios iniciales de los sistemas afirman que se sienten como si estuviesen colaborando con un colega en lugar de operar con una máquina.

Los estudios sobre automatización han tendido a centrarse en sistemas grandes, complejos y arriesgados, del tipo que se usa en cabinas de vuelo, centros de control y campos de batalla. Si estos sistemas fallan, pueden perderse muchas vidas y una gran cantidad de dinero. Pero la investigación también es relevante para el diseño de aplicaciones de apoyo a la toma de decisiones utilizadas por médicos, abogados, ejecutivos y otros profesionales de oficios analíticos. Esos programas pasan a través de muchos test personales para que sean fáciles de aprender y utilizar, pero una vez que atraviesas la interfaz de fácil manejo descubres que la ética centrada en la tecnología mantiene todavía su influencia. «Por lo general», escribe John Lee, «los sistemas expertos actúan como prótesis, reemplazando supuestamente el razonamiento erróneo e inconsistente de las personas por algoritmos informáticos más precisos»[280]. Están ideados para suplantar, en lugar de suplementar, el criterio humano. Con cada mejora en la velocidad de procesamiento de datos y agudeza perceptiva de una aplicación el programador traspasa más responsabilidad en la toma de decisiones del profesional al software.

Raja Parasuraman, que ha estudiado las consecuencias personales de la automatización más profundamente que nadie, opina que este es el enfoque equivocado. Sostiene que las aplicaciones de apoyo a la toma de decisiones funcionan mejor cuando suministran información pertinente a profesionales en el momento en que la necesitan, sin recomendar líneas de actuación específicas[281]. Las ideas más inteligentes y creativas aparecen en el momento en que las personas tienen tiempo para pensar. Lee está de acuerdo. «El enfoque menos automatizado, que sitúa a la automatización en el rol de supervisar al operario, ha tenido mucho más éxito», escribe. Los mejores sistemas expertos presentan a las personas «interpretaciones, hipótesis o elecciones alternativas». La información adicional y muchas veces inesperada ayuda a contrarrestar los sesgos cognitivos naturales que en ocasiones desvirtúan el entendimiento humano. Lleva a los analistas y a los responsables en la toma de decisiones a observar los problemas desde perspectivas diferentes y a considerar conjuntos de opciones más amplios. Pero Lee insiste en que los sistemas deberían dejar el veredicto final a la persona. A falta de una automatización perfecta, concluye, la evidencia muestra que «un nivel menor de automatización, como el que se aplica en el enfoque crítico, tiene menos probabilidad de inducir a errores»[282]. Los ordenadores son superiores a la hora de ordenar grandes cantidades de datos rápidamente, pero los expertos humanos siguen siendo pensadores más sutiles y sabios que sus socios digitales.

Crear un espacio protegido para los pensamientos y opiniones de los profesionales expertos también es un objetivo de aquellos que buscan un enfoque más humanista para la automatización en los oficios creativos. Muchos diseñadores critican a los populares programas CAD por su agresividad. Ben Tranel, un arquitecto de la firma Gensler en San Francisco, elogia a los ordenadores por expandir las posibilidades del diseño. Señala la nueva Torre Shangai en China, un rascacielos en espiral y con eficiencia energética diseñado por Gensler, como ejemplo de un edificio que «no podría haber sido construido» sin ordenadores. Pero muestra su preocupación por que el literalismo del software de diseño —la manera en que fuerza a los arquitectos a definir el significado y el uso de cada elemento geométrico que introducen— esté anulando las exploraciones abiertas, no estructuradas, que el dibujo a mano estimulaba. «Una línea dibujada puede ser muchas cosas», dice, mientras que una línea digitalizada solo puede ser una cosa[283].

En 1996 los profesores de Arquitectura Mark Gross y Ellen Yi-Luen Do propusieron una alternativa al literal software CAD. Crearon un prototipo conceptual de una aplicación con una interfaz «similar al formato papel» que sería capaz de «capturar la ambigüedad no intencional de los usuarios, su vaguedad e imprecisión, y transmitir estas cualidades visualmente». Otorgaría al software de diseño «el poder sugestivo del dibujo»[284]. Desde entonces, muchos otros académicos han hecho propuestas similares. Recientemente, un equipo liderado por la científica informática Julie Dorsey creó un prototipo de una aplicación de diseño que proporciona «un lienzo mental». En lugar de que el ordenador traduzca automáticamente dibujos bidimensionales a modelos virtuales en tres dimensiones, el sistema, que utiliza una tableta de pantalla táctil como dispositivo para introducir información, permite a un arquitecto hacer dibujos preliminares en tres dimensiones. «Los diseñadores pueden dibujar y redibujar líneas sin estar limitados por las restricciones de una malla poligonal o la inflexibilidad de una línea paramétrica», explicó el equipo. «Nuestro sistema permite el refinamiento iterativo en el transcurso del desarrollo de una idea, sin imponer precisión geométrica antes de que la idea esté preparada para ello»[285]. Con un software menos agresivo, la imaginación de un diseñador tiene más oportunidades para florecer.

* * *

Las tensiones entre la automatización centrada en la tecnología y la centrada en las personas no son solo una preocupación teórica de los académicos. Afectan a decisiones tomadas a diario por ejecutivos, ingenieros, programadores y reguladores públicos. En el negocio de la aviación, los dos fabricantes de aviones dominantes han estado en lados diferentes del debate sobre el diseño desde que se introdujeron, hace treinta años, los sistemas de pilotaje electrónico. Airbus mantiene un enfoque centrado en la tecnología. Su meta es que sus aviones sean esencialmente «a prueba de pilotos»[286]. La decisión de la compañía de sustituir los abultados mandos de control frontales que tradicionalmente han dirigido los aviones por palancas laterales diminutas fue una expresión de ese objetivo. Los controles, similares a los de un videojuego, envían señales a los ordenadores de vuelo eficientemente, con mínimo esfuerzo manual, pero no proporcionan feedback táctil a los pilotos. En consonancia con el ideal de la cabina de cristal, ponen énfasis en el rol del piloto como operador informático en lugar de como aviador. Airbus también ha programado sus ordenadores para desautorizar las instrucciones de los pilotos en ciertas situaciones y mantener el avión dentro de los parámetros especificados por el programa de su dominio de vuelo. El software, y no el piloto, ejerce el control final.

Boeing ha tomado un camino más centrado en las personas al diseñar sus naves de pilotaje electrónico. En un gesto que hubiese hecho felices a los hermanos Wright, la empresa decidió que no permitiría a su software de vuelo desautorizar al piloto. El aviador conserva la autoridad final sobre las maniobras, incluso en circunstancias extremas. Y no solo ha mantenido Boeing los grandes mandos de antaño; los ha diseñado para suministrar feedback artificial que simula lo que los pilotos sentían en el pasado mientras tenían control directo sobre los mecanismos de conducción de un avión. Aunque los mandos solo están enviando señales electrónicas a los ordenadores, han sido programados para ofrecer resistencia y otros signos táctiles que simulan la sensación de los movimientos de los alerones, elevadores y otras superficies de control del avión. Según John Lee, algunos estudios han descubierto que esta respuesta táctil, o manual, es significativamente más efectiva que las señales visuales por sí solas a la hora de alertar a los pilotos sobre cambios importantes en la orientación y funcionamiento de un avión. Y puesto que el cerebro procesa las señales táctiles de una forma muy diferente a las señales visuales, los «avisos manuales» no suelen «interferir con el funcionamiento de tareas visuales concurrentes»[287]. En cierto sentido, la respuesta sintética, táctil, saca a los pilotos de Boeing de la cabina de cristal. Puede que no lleven sus Jumbos de la manera en que Wiley Post llevaba su pequeño Lockheed Vega, pero están más implicados en la experiencia corporal de volar que sus colegas en las cabinas de mando de Airbus.

Airbus fabrica aviones magníficos. Algunos pilotos comerciales los prefieren a los Boeing, y las cifras de seguridad de ambos fabricantes son prácticamente idénticas. Pero algunos incidentes recientes revelan las deficiencias del enfoque centrado en la tecnología de Airbus. Algunos expertos en aviación creen que el diseño de la cabina de Airbus tuvo que ver con el desastre de Air France. La transcripción de la grabación reveló que durante todo el tiempo que el piloto al mando del avión, Pierre-Cédric Bonin, estuvo tirando de su palanca de control lateral, su copiloto, David Robert, no era consciente del error fatídico de Bonin. En una cabina Boeing cada piloto tiene una visión clara del mando del otro piloto y de cómo está siendo manejado. Por si no fuera suficiente, ambos mandos operan como una sola unidad. Si un piloto tira de su mando hacia atrás, el del otro piloto se echa hacia atrás también. Los pilotos están sincronizados a través de señales visuales y táctiles. Las palancas laterales de vuelo de Airbus, por el contrario, no están a la vista, trabajan con movimientos mucho más sutiles y funcionan independientemente. Es fácil que un piloto no se percate de lo que está haciendo su colega, particularmente en una emergencia, cuando aumenta el estrés.

Si Robert hubiese visto y corregido el error de Bonin a tiempo, puede que los pilotos hubiesen retomado el control del A330. El accidente de Air France, ha afirmado Chesley Sullenberger, habría sido «mucho menos probable» si los pilotos hubiesen estado volando en una cabina de Boeing con sus mandos centrados en las personas[288]. Incluso Bernard Ziegler, el brillante y orgulloso ingeniero francés que ofició como diseñador jefe de Airbus hasta su jubilación en 1997, expresó reservas recientemente sobre la filosofía de diseño de su empresa. «A veces me pregunto si hicimos un avión demasiado fácil de volar», le dijo al escritor William Langewiesche durante una entrevista en Toulouse, donde Airbus tiene su sede. «Porque en un avión difícil las tripulaciones permanecen más alerta». Luego sugirió que Airbus «debería haber construido un “pateador” en el asiento de los pilotos». Es posible que estuviera bromeando, pero su comentario se burla de lo que los investigadores de factores humanos han aprendido sobre el mantenimiento de las habilidades y la atención humanas. A veces una buena patada, o su equivalente tecnológico, es exactamente lo que necesita dar un sistema automatizado a sus operarios.

La FAA, en su alerta de seguridad para operadores de 2013, que sugirió que las aerolíneas estimularan a los pilotos a asumir el control manual de sus aviones con más frecuencia durante los vuelos, también estaba tomando partido, aunque fuese tentativamente, a favor de la automatización centrada en las personas. La agencia se había dado cuenta de que mantener al piloto más involucrado podía reducir las oportunidades de errores humanos, atemperar las consecuencias de los fallos en la automatización y hacer el transporte aéreo aún más seguro de lo que ya es. Más automatización no es siempre la elección más inteligente. La FAA, que emplea un gran y respetado grupo de investigadores de factores humanos, también está prestando mucha atención a la ergonomía mientras planifica su ambiciosa revisión «NextGen» del sistema nacional de control del tráfico aéreo. Uno de los objetivos generales del proyecto es «crear sistemas aeroespaciales que se adapten al rendimiento de los humanos, lo compensen y aumenten»[289].

En la industria financiera, el Royal Bank of Canada también está yendo a contracorriente de la automatización centrada en la tecnología. Ha instalado en su mesa de operaciones de Wall Street un programa de software patentado llamado THOR que ralentiza la transmisión de órdenes de compra y venta de una forma que las protege de las manipulaciones algorítmicas de los negociadores de alta frecuencia. Al ralentizar estas órdenes, el RBC ha descubierto que las órdenes muchas veces acaban siendo ejecutadas en términos más atractivos para sus clientes. El banco admite que está buscando un balance al resistir el imperativo tecnológico predominante de flujos de datos veloces. Al abstenerse del comercio a altas velocidades, gana un poco menos de dinero en cada operación. Pero cree que, a largo plazo, el refuerzo de la lealtad del cliente y la reducción de riesgos conllevarán mayores beneficios generales[290].

Un antiguo ejecutivo del RBC, Brad Katsuyama, está yendo incluso más allá. Tras comprobar que los mercados bursátiles se habían inclinado a favor de los negociadores de alta frecuencia, lideró la creación de un nuevo y más justo sistema de comercio alternativo llamado IEX. Abierto a finales de 2013, IEX impone controles sobre los sistemas automatizados. Su software gestiona el flujo de datos para asegurar que todos los miembros del intercambio reciben el precio y otra información relevante al mismo tiempo, lo cual neutraliza las ventajas disfrutadas por empresas de negociación depredadoras que colocan sus ordenadores en la oficina de al lado de los exchanges. Un IEX prohíbe cierto tipo de operaciones y regímenes de tarifas que dan ventaja a algoritmos rápidos. Katsuyama y sus colegas están usando tecnología sofisticada para nivelar el terreno de juego a las personas y los ordenadores. Algunas agencias reguladoras nacionales también están tratando de poner freno al comercio automatizado mediante normas. En 2012 Francia impuso un pequeño impuesto a la compraventa de acciones, e Italia le siguió un año después. Puesto que los negociadores de alta frecuencia están diseñados habitualmente para ejecutar estrategias de arbitraje basadas en el volumen —cada operación ofrece un beneficio minúsculo, pero se hacen millones de operaciones en muy poco tiempo—, incluso un impuesto diminuto sobre transacciones puede restar bastante atractivo a estos programas.

* * *

Estos intentos de poner riendas a la automatización son alentadores. Demuestran que al menos algunas empresas y agencias gubernamentales tienen la voluntad de cuestionar la actitud predominante de la tecnología primero. Pero siguen siendo la excepción a la regla, y está por demostrarse su éxito continuado. Una vez que la automatización centrada en la tecnología se ha asentado en un campo determinado es muy difícil alterar el curso del progreso. El software comienza a moldear cómo se trabaja, cómo se organizan las operaciones, las expectativas de los consumidores y cómo se consiguen beneficios. Se convierte en un paradigma económico y social. Este proceso es un ejemplo de lo que el historiador Thomas Hughes llama «ímpetu tecnológico»[291]. En su desarrollo inicial, una tecnología nueva es maleable; su forma y uso pueden ser perfilados no solo por los deseos de los diseñadores, sino también por los intereses de aquellos que la usan y de la sociedad en general. Pero una vez que la tecnología se integra en una infraestructura física, en planes comerciales y económicos, en normas y expectativas personales y políticas, modificarla es enormemente difícil. La tecnología constituye en ese momento un componente integral del statu quo social. Habiendo acumulado mucha fuerza inercial, sigue su camino. Habrá componentes tecnológicos individuales que quedarán anticuados, por supuesto, pero tenderán a ser reemplazados por otros nuevos que refinarán y perpetuarán las formas existentes de actuación y las medidas relacionadas de rendimiento y éxito.

El sistema de aviación comercial, por ejemplo, depende ahora de la precisión del control informático. Los ordenadores son mejores que los pilotos a la hora de trazar las rutas que exigen menos combustible, y los aviones controlados por ordenador pueden volar más juntos que los aviones manejados por personas. Existe una tensión fundamental entre el deseo de afinar las habilidades de vuelo manual de los pilotos y la búsqueda de niveles de automatización cada vez mayores en los cielos. Las aerolíneas son poco proclives a sacrificar beneficios y los reguladores son poco proclives a recortar la capacidad del sistema de aviación para otorgar a los pilotos una cantidad significativa mayor de tiempo para practicar el vuelo manual. El inusual desastre vinculado con la automatización, por horroroso que sea, puede aceptarse como coste de un sistema de transporte eficiente y rentable. En la atención sanitaria, las aseguradoras y las empresas de hospitales, por no mencionar a los políticos, contemplan la automatización como un modo rápido de reducir costes y aumentar la productividad. Seguirán casi con seguridad elevando la presión sobre los proveedores para automatizar la práctica y los procedimientos médicos con el objetivo de ahorrar dinero, incluso aunque los médicos tengan reservas sobre el deterioro a largo plazo de sus habilidades más sutiles y valiosas. En cuanto a los intercambios financieros, los ordenadores pueden ejecutar una operación en diez microsegundos —diez millonésimas de un segundo—, pero al cerebro humano le lleva casi un cuarto de segundo responder a un acontecimiento u otro estímulo. Un ordenador puede procesar decenas de miles de operaciones en el abrir y cerrar de ojos de un trader[292]. La velocidad del ordenador ha excluido a la persona del panorama.

Se asume con frecuencia que cualquier tecnología que venga a ser ampliamente adoptada en un campo, y cobre impulso, será la mejor para ese trabajo. El progreso es, según esta visión, un proceso cuasidarwiniano. Se inventan muchas tecnologías diferentes, compiten por usuarios y compradores, y después de un periodo de pruebas y comparación rigurosa el mercado elige a la mejor del grupo. Solo las mejores herramientas sobreviven. La sociedad puede, por tanto, tener confianza en que las tecnologías que emplea son las óptimas, y en que las alternativas desechadas por el camino eran fatalmente defectuosas en algún aspecto. Es una concepción tranquilizadora del progreso, basada (en palabras del historiador David Noble) en «una fe simple en la ciencia objetiva, la racionalidad económica y el mercado». Pero como explicó el propio Noble en su libro Forces of Production [«Fuerzas de producción»] (1984), es una visión distorsionada: «Presenta el desarrollo tecnológico como un proceso técnico autónomo y neutral, por un lado, y como un proceso fríamente racional y autorregulador, por otro, ninguno de los cuales tiene en cuenta a las personas, el poder, las instituciones, los valores en competencia o sueños diferentes»[293]. En lugar de las complejidades, caprichos e intrigas de la historia, la concepción imperante del progreso tecnológico nos presenta una fantasía simplista y retrospectiva.

Noble ilustró el modo enmarañado en el que las tecnologías ganan aceptación e impulso real a través de la historia de la automatización de la industria de las herramientas de maquinaria en los años posteriores a la Segunda Guerra Mundial. Inventores e ingenieros desarrollaron varias técnicas diferentes para programar tornos, prensas de taladro y otras herramientas de fábrica, y cada uno de los métodos de control tiene ventajas e inconvenientes. Uno de los sistemas más simples e ingeniosos, llamado Specialmatic, fue inventado por un ingeniero formado en Princeton llamado Felix P. Caruthers. Fue comercializado por una pequeña empresa de Nueva York llamada Automation Specialties. Mediante una serie de claves y marcadores para codificar y controlar el funcionamiento de la máquina, Specialmatic puso el poder de la programación en manos de maquinistas cualificados de planta. Un operario de máquina, explicó Noble, «podía establecer y ajustar suministros y velocidades, confiando en su experiencia acumulada sobre el aspecto, los sonidos y el olor del corte del metal»[294]. Además de aportar el conocimiento tácito del artesano experimentado al sistema automatizado, Specialmatic contaba con una ventaja económica: un fabricante no tenía que pagar a un equipo de ingenieros y consultores para programar sus equipos. La tecnología de Caruthers recibió el espaldarazo de la revista American Machinist, que indicó que Specialmatic «está diseñada para permitir la instalación y programación completa de la máquina». Posibilitaría al maquinista disfrutar de las mejoras en eficiencia provenientes de la automatización sin perder «el control total de su máquina durante todo su ciclo productivo»[295].

Pero Specialmatic nunca consiguió implantarse en el mercado. Mientras Caruthers trabajaba en su invento, la fuerza aérea estadounidense estaba transfiriendo dinero a un programa de investigación, dirigido por un equipo del MIT con estrechos lazos en el Ejército, para desarrollar el «control numérico», una técnica de codificación digital precursora de la programación de software moderna. El control numérico no solo contó con las ventajas de una generosa subvención pública y un pedigrí académico prestigioso; resultaba atractivo para propietarios y ejecutivos de empresas que, enfrentados a tensiones sindicales incesantes, anhelaban un mayor control sobre la operación de la maquinaria con el objetivo de recortar el poder de los trabajadores y sus sindicatos. El control numérico tenía también el prestigio de la tecnología más moderna: se nutrió del floreciente entusiasmo de la posguerra con los ordenadores digitales. Puede que el sistema MIT fuese, como escribiría después el autor de un estudio de la Society of Manufacturing Engineers, «una monstruosidad complicada y cara»[296]. pero gigantes industriales como General Electric y Westinghouse se apresuraron a adoptar la tecnología, sin dar nunca una sola oportunidad a alternativas como Specialmatic. Lejos de ganar una dura batalla evolutiva por la supervivencia, el control numérico fue declarado victorioso antes incluso de que la competición comenzase. La programación cobró prioridad sobre las personas, y el impulso que ya había detrás del diseño la tecnología primero creció. En cuanto a la sociedad en general, nunca supo que se había tomado esa decisión.

Los ingenieros y programadores no deberían cargar con toda la culpa por los efectos nocivos de la automatización centrada en la tecnología. Es posible que sean culpables en ocasiones de perseguir sueños y deseos estrechamente mecanicistas, y puede que sean susceptibles a la «arrogancia técnica» que «da a las personas una ilusión de poder ilimitado», en palabras del físico Freeman Dyson[297]. Pero también responden a las peticiones de empleadores y clientes. Los desarrolladores de software siempre están ante un delicado equilibrio al escribir programas para automatizar el trabajo. Dar los pasos necesarios para promover el desarrollo de la destreza —restringir el ámbito de la automatización, dar un papel mayor y más activo a las personas, impulsar el desarrollo de la automaticidad mediante el ensayo y la repetición— conlleva un sacrificio de la velocidad y del rendimiento. El aprendizaje requiere ineficiencia. Las empresas, que persiguen una maximización de la productividad y el beneficio, nunca (o muy pocas veces) aceptarían semejante canje. La principal razón por la que invierten en automatización, después de todo, es reducir costes laborales y coordinar operaciones.

Como individuos, nosotros también buscamos casi siempre eficiencia y conveniencia cuando decidimos qué aplicación de software o dispositivo informático utilizar. Elegimos el programa o aparato que alivia nuestra carga y libera nuestro tiempo, no el que hace nuestro trabajo más duradero y pesado. Las empresas de tecnología naturalmente abastecen esos deseos al diseñar sus productos. Compiten ferozmente para ofrecer el producto cuyo uso requiere el menor esfuerzo y reflexión. «En Google y todo este tipo de lugares», dice el ejecutivo de Google Alan Eagle al explicar la filosofía principal de muchas empresas de software e Internet, «hacemos que la tecnología sea tan tontamente fácil de usar como sea posible»[298]. En lo que atañe al desarrollo y uso de software comercial, sea para un sistema industrial o una aplicación para smartphone, las preocupaciones abstractas sobre el destino del talento humano no pueden competir con la perspectiva de ahorrar tiempo y dinero.

Pregunté a Parasuraman si piensa que la sociedad aprenderá a usar la automatización con más sabiduría en el futuro, y hallará un mejor equilibrio entre el cálculo informático y el juicio personal, entre la búsqueda de la eficiencia y el desarrollo de la pericia. Hizo una breve pausa y después, con una risa burlona, dijo: «No soy muy optimista».

INTERLUDIO, CON UN LADRÓN DE TUMBAS

INTERLUDIO, CON UN LADRÓN DE TUMBAS.

Estaba en un aprieto. Había —por necesidad, no por elección— forjado una alianza con un ladrón de tumbas demente llamado Seth Briars. «No como, no duermo, no me lavo y no me importa», me había informado Seth, no sin una dosis de orgullo, poco después de que nos encontrásemos en el cementerio junto a la capilla Coot. Conocía el paradero de ciertos individuos que yo estaba buscando, y a cambio de llevarme hasta ellos había pedido que le ayudara a sacar una serie de cadáveres de ahí, más allá del rancho Critchley, hasta una polvorienta ciudad fantasma llamada Tumbleweed. Conduje el carro con caballos de Seth mientras él se quedaba en la parte trasera, saqueando los cadáveres en busca de objetos valiosos. El viaje era toda una prueba. Superamos una emboscada de salteadores de caminos en la ruta —con armas de fuego, yo tenía bastante experiencia—, pero cuando traté de cruzar un puente desvencijado cerca de Gaptooth Ridge el peso de los cuerpos cambió y perdí el control de los caballos. El vagón se inclinó hacia una quebrada y me morí en una erupción volcánica de sangre, de las que cubren la pantalla. Regresé a la vida, después de un par de segundos en el purgatorio, para volver a pasar por la misma ordalía. Después de media docena de intentos fallidos, empecé a perder la esperanza de completar alguna vez la misión.

Estaba jugando al Red Dead Redemption, un videojuego de tiros magníficamente ambientado a inicios del siglo pasado en un mítico territorio fronterizo del sudoeste de Estados Unidos llamado New Austin. Su trama es puro Peckinpah. Empiezas el juego con el rol de un estoico forajido convertido en ranchero llamado John Marston, cuya mejilla derecha está rajada por un par de cicatrices largas y simbólicamente profundas. Marston está siendo chantajeado por agentes federales para que rastree a sus antiguos socios criminales, y tienen como rehenes a su mujer y a su hijo pequeño. Para completar el juego, debes guiar al pistolero por diversas proezas de habilidad y astucia, cada una un poco más dura que la precedente.

Tras algunos intentos más, finalmente logré atravesar ese puente con la carga horripilante. De hecho, después de muchas horas llenas de violencia frente a mi televisión de pantalla plana conectada a una Xbox, conseguí terminar las cincuenta y pico misiones del juego. Como recompensa, me vi a mí mismo —es decir, a John Marston— abatido por los mismos agentes que me habían empujado a la aventura. Dejando aparte el final trágico, salí del juego con un sentimiento de satisfacción. Había atrapado caballos salvajes con lazo, abatido y despellejado coyotes, asaltado trenes, ganado una pequeña fortuna al póquer, combatido junto a revolucionarios mexicanos, rescatado a prostitutas de gañanes borrachos y, al más puro estilo de Grupo salvaje, usado un revólver Gatling para mandar a una banda de matones al otro barrio. Había sido puesto a prueba y mis reflejos de hombre maduro habían estado a la altura del desafío. Puede que no fuese una victoria épica, pero era una victoria.

Los videojuegos tienden a ser despreciados por la gente que nunca ha jugado a ellos. Es comprensible, dada la sangre que suele haber, pero es una pena. Además de su considerable inventiva y ocasional belleza, los mejores juegos ofrecen un modelo para el diseño de software. Muestran cómo las aplicaciones pueden estimular el desarrollo de habilidades en lugar de su atrofia. Para dominar un videojuego, un jugador tiene que lidiar con desafíos de creciente dificultad, siempre al límite de su talento. Cada misión tiene un objetivo, hay recompensas por hacerlo bien, y el feedback (un borbotón de sangre, por ejemplo) es inmediato y muchas veces visceral. Los juegos promueven un estado de flujo, inspirando a los jugadores a repetir maniobras arriesgadas hasta que se convierten en su segunda piel. La destreza que adquieren los participantes puede ser a veces trivial —cómo manipular un mando de plástico para manejar un carro imaginario a través de un puente imaginario, por ejemplo—, pero la aprenderán a conciencia y serán capaces de ejercitarla otra vez en la próxima misión o el próximo juego. Se convertirán en expertos y se lo pasarán bomba en el proceso[299].

Respecto al software que usamos en nuestras vidas personales, los videojuegos son una excepción. La mayoría de las aplicaciones, artefactos y servicios en Internet están diseñados hacia la conveniencia, o, como dicen sus fabricantes, «usabilidad». Mediante unos pocos toques, deslizamientos o clics, los programas pueden dominarse con poco estudio o práctica. Al igual que los sistemas automatizados usados en la industria y el comercio, han sido cuidadosamente diseñados para traspasar la carga de pensar de las personas a los ordenadores. Incluso los programas más sofisticados empleados por músicos, productores discográficos, cineastas y fotógrafos hacen cada vez más hincapié en la facilidad de uso. Los efectos auditivos y visuales complejos, que antes exigían un conocimiento experto, pueden conseguirse apretando un botón o arrastrando algún elemento por la pantalla táctil. No hace falta entender los conceptos subyacentes, ya que han sido incorporados a las rutinas del software. Esto tiene el beneficio muy real de hacer al software útil para un grupo más amplio de personas —aquellos que quieren conseguir los efectos sin el esfuerzo—. Pero el coste de acomodar al diletante es la degradación de la destreza.

Peter Merholz, un respetado consultor de diseño de software, aconseja a los programadores buscar «ausencia de fricción» y «simplicidad» en sus productos. Los dispositivos y aplicaciones exitosos, dice, esconden su complejidad técnica detrás de interfaces amistosas. Minimizan la carga cognitiva que imponen a los usuarios: «Las cosas simples no requieren mucha reflexión. Las elecciones se eliminan, no hace falta recordar»[300]. Esa es una receta para crear la clase de aplicaciones que, como demostró el experimento de los «Misioneros y caníbales» de Christof van Nimwegen, sortean los procesos mentales de aprendizaje, formación de habilidades y memorización. Las herramientas exigen poco de nosotros y, en términos cognitivos, también nos dan poco.

Lo que Merholz llama la filosofía del diseño sencillamente funciona. Cualquiera que se haya peleado para poner la alarma en un reloj digital o cambiar la configuración de un router WiFi o entender las barras de herramientas de Microsoft Word conoce el valor de la simplicidad. Los productos innecesariamente complicados desperdician tiempo sin mucha compensación. Es cierto que no necesitamos ser expertos en todo, pero cuando los programadores de software abordan procesos de indagación intelectual y vínculos sociales la ausencia de fricción se vuelve un ideal problemático. Puede despojarnos no solo del conocimiento práctico, sino de nuestro sentido de que este sea algo importante y que merezca la pena cultivar. Piense en los algoritmos para revisar y corregir la ortografía que hay integrados en prácticamente cualquier aplicación de escritura y mensajes hoy en día. Los correctores ortográficos funcionaban en el pasado como tutores. Avisaban de posibles errores, llamando la atención sobre ellos y, en el transcurso de ese proceso, nos daban una pequeña lección de ortografía. Aprendíamos mientras los usábamos. Ahora las funciones de autocorrección limpian instantánea y subrepticiamente nuestros errores sin alertarnos sobre ellos. No hay feedback, ni «fricción». No vemos nada y no aprendemos nada.

O piense en el motor de búsqueda de Google. En su forma original, presentaba nada más que una caja de texto vacía. La interfaz era un modelo de simplicidad, pero el servicio todavía requería que pensaras sobre tu búsqueda, que compusieras y refinases conscientemente un conjunto de palabras clave para conseguir los mejores resultados. Ya no es necesario. En 2008 la compañía introdujo Google Suggest, una función de «autocompletar» que usa algoritmos predictivos para anticipar qué estás buscando. Actualmente, en cuanto tecleas una letra en la caja de búsqueda, Google ofrece una serie de sugerencias sobre cómo formular tu búsqueda. Con cada letra aparece una nueva lista de sugerencias. Bajo la solicitud hiperactiva de la empresa yace una persecución obstinada, casi monomaniaca, de la eficiencia. Asumiendo la visión misantrópica de la automatización, Google ha acabado por considerar la cognición humana como algo gastado e inexacto, un proceso biológico incómodo que es mejor si lo realiza un ordenador. «Creo que dentro de algunos años la mayoría de las búsquedas serán contestadas sin ni siquiera preguntar», afirma Ray Kurzweil, el inventor y futurólogo que en 2012 fue nombrado director de ingeniería de Google. La compañía «sabrá que esto es algo que vas a querer ver»[301]. El objetivo último es automatizar totalmente el acto de buscar, eliminar la volición humana del mapa.

Redes sociales como Facebook parecen impelidas por una aspiración similar. Mediante el «descubrimiento» estadístico de amigos potenciales, la provisión de botones de «Me gusta» y otras muestras «cliqueables» de afecto, más la gestión automatizada de muchos de los aspectos de las relaciones personales que consumen tiempo, quieren lubricar el proceso caótico de establecer relaciones. El fundador de Facebook, Mark Zuckerberg, celebra todo esto como un «compartir sin fricción» —la supresión del esfuerzo consciente de la socialización—. Pero hay algo repugnante en la aplicación de los ideales burocráticos de velocidad, productividad y estandarización a nuestras relaciones con los demás. Los vínculos más significativos no se forjan a través de transacciones en un mercado u otros intercambios rutinizados de información. Las personas no son nodos en una retícula. Los vínculos requieren confianza, cortesía y sacrificio, todos los cuales, al menos en la mente de un tecnócrata, son fuentes de ineficiencia e inconveniencia. Eliminar la fricción de los lazos sociales no los refuerza; los debilita. Los asemeja a los lazos entre consumidores y productos: se forman fácilmente y se rompen con la misma facilidad.

Como padres entrometidos que nunca dejan a sus hijos hacer nada por sí mismos, Google, Facebook y otros fabricantes de software personal terminan por degradar y disminuir cualidades de carácter que, al menos en el pasado, han sido consideradas esenciales para una vida completa y vigorosa: ingenio, curiosidad, independencia, perseverancia, atrevimiento. Es posible que en el futuro solo experimentemos esas virtudes vicariamente, a través de las heroicidades de figuras de acción como John Marston en los mundos de fantasía que conocemos a través de pantallas.

8. TU DRON INTERNO

8. TU DRON INTERNO.

Es una noche de viernes fría y con neblina a mediados de diciembre y está conduciendo a casa desde su cena de Navidad de la oficina. En realidad, le están llevando a casa. Se ha comprado recientemente su primer coche autónomo —un sedán eléctrico eSmart fabricado por Mercedes y programado por Google— y es el software quien conduce. Puede ver por el brillo de sus faros LED de ajuste automático que la calle tiene algunas zonas con hielo, y sabe, gracias a la pantalla continuamente actualizada del salpicadero, que el coche está ajustando su velocidad y tracción en consecuencia. Todo va bien. Se relaja y deja que su mente regrese a los obligados festejos de la noche. Pero de repente, durante un tramo densamente arbolado del camino, aparece un animal en la calle y se queda congelado justo delante del coche. Se da cuenta de que es el perro beagle de su vecino, ese que siempre anda escapándose.

¿Qué hace su conductor robot? ¿Frena con la esperanza de salvar el perro pero a riesgo de que el coche derrape sin control? ¿O mantiene su pie virtual alejado del freno, sacrificando al perro para asegurarse de que usted y su vehículo no sufran daños? ¿Cómo procesa y evalúa las variables y probabilidades para llegar a una decisión en décimas de segundo? Si sus algoritmos calculan que activar los frenos daría al perro un 53 por ciento de probabilidades de sobrevivir pero conllevaría un 18 por ciento de probabilidades de dañar el coche y un 4 por ciento de probabilidades de provocarle una herida a usted, ¿concluye que tratar de salvar al animal sería la reacción correcta? ¿Cómo hace el software, por sí solo, para traducir una serie de números en una decisión que tiene consecuencias tanto prácticas como morales?

¿Qué pasa si el animal de la calle no es la mascota de su vecino, sino la suya? ¿Y si es, por ejemplo, un niño en lugar de un perro? Imagine que está ahora en su trayecto matinal al trabajo, revisando sus correos electrónicos mientras su coche autónomo cruza un puente, a una velocidad sincronizada con precisión al límite de cincuenta kilómetros por hora. Un grupo escolar también está atravesando el puente en la acera para peatones que discurre en paralelo a su carril. Los niños, vigilados por adultos, parecen tranquilos y se portan bien. No hay señal alguna de peligro, pero su coche baja un poco su velocidad, ya que el ordenador prefiere garantizar la seguridad. De repente se produce un forcejeo y un niño pequeño es empujado a la carretera. Está ocupado tecleando un mensaje en su smartphone y no es consciente de lo que está pasando. Su coche tiene que tomar la decisión: o bien se desvía de su carril y se va al lado opuesto del puente, quizá matándole, o arroya al niño. ¿Qué instrucción le da el software al volante? ¿Tomaría el programa una decisión diferente si supiese que uno de sus propios hijos estaba en el coche con usted, atado a un asiento equipado con sensores en la parte trasera? ¿Y si hubiese un vehículo aproximándose por el carril contrario? ¿Qué pasa si ese vehículo fuese un autobús escolar? La primera ley de ética robótica de Isaac Asimov («un robot no puede herir a un ser humano o, por inacción, permitir que un ser humano sea dañado»)[302] suena razonable y reconfortante, pero parte de un mundo mucho más simple que el nuestro.

La llegada de los vehículos autónomos, dice Gary Marcus, profesor de Psicología de la New York University, señalaría más que «el final de otro nicho humano». Marcaría el inicio de una nueva era en la que las máquinas deberán tener «sistemas éticos»[303]. Algunos dirían que ya estamos ahí. De maneras pequeñas pero ominosas, hemos empezado a conceder tomas de decisiones morales a los ordenadores. Piense en Roomba, la muy publicitada aspiradora robótica. Roomba no hace distinciones entre una bola de pelusa y un insecto. Se traga a ambos indiscriminadamente. Si un grillo se cruza en su camino, el grillo es aspirado hasta su muerte. Muchas personas, al pasar la aspiradora, también pasarán por encima del grillo. No dan valor a la vida de un bicho, al menos no si el bicho es un intruso en su casa. Pero otras personas pararán un momento, cogerán al grillo, lo llevarán hasta la puerta y lo dejarán libre. (Los devotos del jainismo, la antigua religión de la India, consideran un pecado dañar a cualquier ser vivo; tienen mucho cuidado en no matar o dañar insectos). Al dejar a Roomba deambular libremente por una alfombra, le cedemos el poder de hacer elecciones morales en nuestro nombre. Las cortadoras de césped robóticas, como LawnBott y Automower, decretan regularmente la muerte de formas superiores de vida, incluidos reptiles, anfibios y pequeños mamíferos. La mayoría de las personas, si avistan un sapo o un ratón de campo mientras cortan el césped, tomarán una decisión consciente de salvar al animal, y si lo atropellasen por accidente se sentirían mal por ello. Una cortadora robótica mata sin contemplaciones.

Hasta ahora, las discusiones sobre la moral de los robots y otras máquinas han sido mayormente teóricas, parecidas a historias de ciencia ficción o ejercicios de pensamiento en clases de Filosofía. Las consideraciones éticas han influido muchas veces en el diseño de herramientas —las pistolas tienen seguro, los motores tienen reguladores, los motores de búsqueda tienen filtros—, pero no se ha exigido a las máquinas que tengan conciencia. No han tenido que adecuar su propio funcionamiento en tiempo real para tener en cuenta las disquisiciones éticas de una situación dada. Siempre que en el pasado surgían preguntas sobre el uso moral de una tecnología, aparecían personas para dirimir el conflicto. Eso no será siempre factible en el futuro. A medida que los robots y ordenadores aumentan su capacidad para percibir el mundo y actuar con autonomía en él, afrontarán inevitablemente situaciones en las que no hay una elección correcta. Tendrán que tomar decisiones perjudiciales por sí mismos. Es imposible automatizar actividades humanas complejas sin automatizar también elecciones morales.

Si hablamos de juicios éticos, los seres humanos son cualquier cosa menos perfectos. Hacemos con frecuencia lo equivocado, a veces por confusión o negligencia, a veces deliberadamente. Eso ha llevado a algunos a sostener que la velocidad con la que pueden los robots calibrar opciones, estimar posibilidades y sopesar consecuencias los facultará para tomar decisiones más racionales de lo que son capaces las personas cuando se precisa una acción inmediata. Hay algo de verdad en esa visión. En ciertas circunstancias, particularmente aquellas en las que solo hay dinero o propiedades en juego, un cálculo rápido de probabilidades puede ser suficiente para determinar la acción que conducirá al resultado óptimo. Algunos conductores humanos intentarán cruzar velozmente un semáforo que se está poniendo en rojo, incluso aunque eleve las probabilidades de un accidente. Un ordenador nunca actuaría con tanta temeridad. Pero la mayoría de los dilemas morales no son tan manejables. Intente resolverlos matemáticamente y llegará a una pregunta fundamental: ¿Quién determina la elección «óptima» o «racional» en una situación moralmente ambigua? ¿Quién programa la conciencia de un robot? ¿Es el fabricante del robot? ¿El dueño del robot? ¿Los programadores del software? ¿Los políticos? ¿Los reguladores gubernamentales? ¿Los filósofos? ¿Una aseguradora?

No existe algoritmo moral perfecto, ninguna forma de reducir la ética a un conjunto de reglas aceptado por todos. Los filósofos han intentado hacerlo durante siglos y han fracasado. Incluso los fríos cálculos utilitarios son subjetivos; su resultado depende de los valores e intereses de quien toma las decisiones. La elección racional del asegurador de su coche —el perro muere— puede no ser la elección que haría usted, ya sea deliberada o reflexivamente, si está a punto de atropellar a la mascota de un vecino. «En una era de robots», observa el politólogo Charles Rubin, «estaremos como siempre —o quizá como nunca anteriormente— a vueltas con la moralidad»[304].

De cualquier manera, los algoritmos deberán ser escritos. La idea de que podemos calcular nuestra solución a los dilemas morales puede ser simplista, o incluso repelente, pero eso no cambia el hecho de que los robots y agentes de software van a tener que calcular cómo resolver esos dilemas. A menos que (y hasta que) la inteligencia artificial alcance alguna apariencia de consciencia y sea capaz de sentir, o por lo menos simular, emociones como el afecto y el arrepentimiento no habrá otro camino para nuestro pariente calculador. Podemos lamentar el hecho de que hayamos logrado dar a los autómatas la capacidad de tomar medidas éticas antes de averiguar cómo conferirles un sentido moral, pero el remordimiento no nos salva. La era de los sistemas éticos ha llegado. Si las máquinas autónomas van a deambular libremente por el mundo, habrá que traducir los códigos morales, aun de manera imperfecta, a códigos de software.

* * *

Veamos otra posibilidad. Usted es un coronel del ejército al mando de un batallón de soldados humanos y mecánicos. Tiene diseminado un pelotón de «robots francotiradores» controlados por ordenador en esquinas de calles y tejados de una ciudad que sus fuerzas están defendiendo contra el ataque de una guerrilla. Uno de los robots avista, con su visión láser, a un hombre vestido de civil con un teléfono móvil. Actúa de una manera que la experiencia describiría como sospechosa. El robot, basándose en un análisis exhaustivo de la situación inmediata y una rica base de datos que documenta patrones pasados de comportamiento, calcula instantáneamente que hay un 68 por ciento de posibilidades de que ese hombre sea un insurgente que prepara la detonación de una bomba y un 32 por ciento de que sea un transeúnte inocente. En ese momento, un furgón avanza por la calle con una docena de sus hombres a bordo. Si hay una bomba, podría ser detonada en cualquier momento. La guerra no tiene un botón de pausa. El juicio humano no puede aplicarse en ese caso. El robot tiene que actuar. ¿Qué le ordena el software a su fusil: disparar o mantenerse en guardia?

Si nosotros, como civiles, debemos aún lidiar con las implicaciones éticas de los coches sin conductor y otros robots autónomos, la situación en el ejército es muy diferente. Durante años, departamentos de defensa y academias militares han estado estudiando los métodos y consecuencias de entregar la autoridad sobre decisiones de vida y muerte a máquinas en el campo de batalla. Los ataques con misiles y bombas a cargo de drones aéreos no tripulados, como el Predator y el Reaper, ya son algo común y han sido objeto de debates acalorados. Ambas partes tienen buenos argumentos. Sus defensores señalan que los drones mantienen a los soldados y pilotos a salvo de daños y, por la precisión de sus ataques, reducen el número de víctimas y el daño que acompañan a los combates y bombardeos tradicionales. Los opositores consideran que estos ataques son asesinatos patrocinados por el Estado. Indican que las explosiones matan o hieren con frecuencia a civiles, por no mencionar el terror que producen. Los ataques de drones, con todo, no están automatizados; se controlan remotamente. Los aviones pueden volar y efectuar funciones de vigilancia por sí mismos, pero las decisiones de utilizar sus armas son tomadas por soldados sentados frente a ordenadores que contemplan emisiones de vídeo en directo y obran bajo órdenes estrictas de sus superiores. Como funcionan hoy día, los drones con misiles no son tan diferentes de los misiles de crucero y otras armas. Hay una persona que todavía aprieta el gatillo.

El gran cambio se producirá cuando un ordenador empiece a apretar el gatillo. Totalmente automatizadas, las máquinas de matar controladas por ordenador —lo que el Ejército llama robots autónomos letales, o LAR [según sus siglas en inglés]— son tecnológicamente factibles en la actualidad, y lo llevan siendo desde hace tiempo. Sensores ambientales pueden escudriñar un campo de batalla con precisión de alta definición, los mecanismos de disparo automático son ampliamente utilizados y los códigos para controlar los disparos de una ametralladora o el lanzamiento de un misil no son difíciles de escribir. Para un ordenador, la decisión de disparar un arma no es en realidad diferente de la decisión de vender unas acciones o mandar un correo electrónico a la carpeta de spam. Un algoritmo es un algoritmo.

En 2013 Christof Heyns, un jurista sudafricano que oficia como relator especial sobre ejecuciones extrajudiciales, sumarias y arbitrarias para la Asamblea General de las Naciones Unidas, publicó un informe sobre la situación y las perspectivas de los robots militares[305]. Frío y medido, tiene una lectura escalofriante. «Los Gobiernos con capacidad de producir LAR», escribió Heyns, «indican que su uso durante conflictos armados u otras situaciones no se contempla actualmente». Pero la historia del armamento, continuaba, sugiere que no deberíamos confiar demasiado en estas garantías: «Debería recordarse que los aviones y los drones fueron utilizados inicialmente en conflictos armados solo para propósitos de vigilancia, y se descartó el uso ofensivo en razón de sus consecuencias adversas previstas. La experiencia posterior demuestra que cuando una tecnología que provee una ventaja percibida sobre un adversario está disponible, las intenciones iniciales se dejan muchas veces de lado». Es más: una vez que se despliega un nuevo tipo de armamento, casi siempre se produce una carrera armamentística. Llegados a ese punto, «el poder de los intereses establecidos puede impedir los esfuerzos hacia un control apropiado».

La guerra es, en muchos sentidos, más clara y concreta que la vida civil. Existen reglas de compromiso, cadenas de mando, bandos bien delimitados. Matar no es solo aceptable, sino requerido. No obstante, incluso en la guerra la programación de la moralidad plantea problemas que no tienen solución, o al menos no pueden ser resueltos sin dejar de lado muchas consideraciones morales. En 2008 la Marina estadounidense encargó al Grupo de Ética y Ciencias Emergentes de la Universidad Politécnica de California la elaboración de un libro blanco que revisase las cuestiones éticas evocadas por los LAR y presentase posibles enfoques para «la construcción de robots autónomos éticos» de uso militar. Los especialistas en ética afirmaron que hay dos formas básicas de programar el ordenador de un robot para tomar decisiones morales: de arriba abajo y de abajo arriba. En el enfoque de arriba abajo, todas las reglas que gobiernan las decisiones del robot están programadas con antelación, y el robot simplemente obedece las reglas «sin cambios ni flexibilidad». Suena sencillo, pero no lo es, como descubrió Asimov al tratar de formular su sistema de ética robótica. No hay manera de prever todas las circunstancias que un robot pueda afrontar. La «rigidez» de la programación de arriba abajo puede traer problemas, escribieron los académicos, «si se dan acontecimientos y situaciones no previstas o insuficientemente imaginadas por los programadores, provocando que el robot funcione mal o sencillamente haga cosas horribles, precisamente porque está sujeto a normas»[306].

En el enfoque abajo arriba, se programa al robot con unas pocas reglas rudimentarias y se le envía al mundo exterior. Utiliza técnicas de aprendizaje de máquinas para desarrollar su propio código moral, adaptándolo a nuevas situaciones a medida que aparecen. «Igual que un niño, un robot es puesto en situaciones heterogéneas y se espera que aprenda mediante el ensayo y error (y el feedback) lo que es y no es apropiado hacer». A cuantos más dilemas haga frente, más finos serán sus juicios morales. Pero el enfoque de abajo arriba ofrece problemas incluso más espinosos. En primer lugar, es impracticable; todavía tenemos que inventar algoritmos de aprendizaje de máquinas lo suficientemente sutiles y sólidos para la toma de decisiones morales. En segundo lugar, no hay espacio para el ensayo y error en situaciones de vida o muerte; el enfoque mismo sería inmoral. Por último, no hay garantía de que la moralidad que desarrolla un ordenador refleje o guarde armonía con la moralidad humana. Dejado suelto en un campo de batalla con un fusil y un conjunto de algoritmos de aprendizaje de máquinas, un robot podría hacer travesuras.

Los seres humanos, destacaron los especialistas en ética, emplean un «híbrido» de enfoques de arriba abajo y de abajo arriba a la hora de tomar decisiones morales. Las personas viven en sociedades que tienen leyes y otras constricciones para guiar y controlar el comportamiento; muchas personas también moldean sus decisiones y acciones para ajustarse a preceptos religiosos y culturales; y la conciencia personal, ya sea innata o no, impone sus propias reglas. La experiencia también juega su papel. Las personas aprenden a ser criaturas morales a medida que crecen y luchan con decisiones éticas de diferente pelaje en situaciones distintas. Estamos lejos de la perfección, pero la mayoría de nosotros tiene un sentido moral discriminador que puede ser aplicado flexiblemente a dilemas que no nos hemos encontrado antes. La única manera de que los robots se conviertan en seres verdaderamente morales sería seguir nuestro ejemplo y adoptar un enfoque híbrido, obedeciendo reglas y aprendiendo de la experiencia. Pero crear una máquina con esa capacidad está fuera de nuestro alcance tecnológico. «Con el tiempo», concluyeron los especialistas en ética, «es posible que seamos capaces de construir robots moralmente inteligentes que mantengan la moralidad dinámica y flexible de los sistemas de abajo arriba, capaces de acomodar diversas órdenes mientras someten la evaluación de decisiones y acciones a principios de arriba abajo». Antes de que eso suceda, sin embargo, tendremos que descubrir cómo programar a los ordenadores para desplegar «facultades suprarracionales»: tener emociones, habilidades sociales, conciencia y una sensación de «estar encarnado en el mundo»[307]. En otras palabras, tendremos que convertirnos en dioses.

Es poco probable que los ejércitos esperen tanto tiempo. En un artículo en Parameters, la revista de la Escuela Militar del Ejército estadounidense, Thomas Adams, estratega militar y teniente coronel retirado, sostiene que «la lógica que conduce a sistemas totalmente autónomos parece ineludible». Gracias a la velocidad, tamaño y sensibilidad del armamento robótico, la guerra «está dejando el reino de los sentidos humanos» y «traspasando los límites de los tiempos de reacción humanos». Pronto será «demasiado complejo para la verdadera comprensión humana». A medida que las personas se convierten en el eslabón más débil del sistema militar, dice, recordando los argumentos tecnocéntricos de los diseñadores de software civil, mantener el «control humano significativo» sobre las decisiones del campo de batalla será prácticamente imposible. «Una respuesta, por supuesto, es aceptar simplemente una tasa de procesamiento de información más lenta como precio para mantener a los humanos en el negocio de las decisiones militares. El problema es que algún enemigo inevitablemente decidirá que la forma de derrotar a los sistemas antropocéntricos es atacarlos con sistemas que no sean tan limitados». A la postre, cree Adams, «puede que acabemos contemplando la guerra táctica como un asunto propio de las máquinas y nada apropiado para las personas»[308].

Lo que hará especialmente difícil de prevenir el despliegue de LAR no es solo su efectividad táctica. Es también que su utilización tendría ciertas ventajas éticas independientemente del propio maquillaje moral de las máquinas. A diferencia de los combatientes humanos, los robots no tienen instintos bajos a los que recurrir en el calor y el caos de la batalla. No experimentan estrés ni depresión ni subidas de adrenalina. «En general», escribió Christof Heyns, «no actuarían por venganza, pánico, enfado, despecho, prejuicios o miedo. Más aún; salvo que fuesen específicamente programados para ello, los robots no causarían sufrimiento intencional a la población civil mediante, por ejemplo, la tortura. Los robots tampoco violan»[309].

Los robots no mienten ni tratan tampoco de esconder sus acciones. Pueden ser programados para «dejar un rastro digital», que tenderá a hacer a un ejército más responsable de sus acciones. Lo más importante de todo es que, utilizando LAR para ir a la guerra, un país puede evitar la muerte o heridas a sus propios soldados. Los robots letales salvan vidas al igual que las quitan. Tan pronto como esté claro para la gente que el armamento y los soldados automatizados reducen las probabilidades de que sus hijos e hijas mueran o sean mutilados en una batalla, la presión sobre los Gobiernos para que automaticen la lucha bélica puede ser irresistible. Que los robots no tengan «juicio humano, sentido común, apreciación del marco general, comprensión de las intenciones que hay detrás de las acciones de las personas y comprensión de los valores», en palabras de Heyn, podría no importar al fin y a la postre. De hecho, la estupidez moral de los robots tiene sus ventajas. Si las máquinas exhibieran cualidades humanas de pensamiento y sentimiento, seríamos menos proclives a mandarlos a su destrucción en una guerra.

La pendiente es aún más resbaladiza. Las ventajas militares y políticas de los soldados robot presentan sus propios dilemas morales. La movilización de LAR no cambiará solo la forma en que se libran batallas y escaramuzas, observó Heyn. Cambiará en primer lugar los cálculos que hacen políticos y generales sobre si ir a la guerra. El disgusto público por las víctimas ha sido siempre un elemento disuasorio para la guerra y un acicate para la negociación. Dado que los robots autónomos letales reducirán los «costes humanos del conflicto armado», la sociedad puede «desentenderse crecientemente» de los debates militares y «dejar la decisión de usar la fuerza como una cuestión principalmente financiera o diplomática para el Estado, llevando a la “normalización” del conflicto armado. Los LAR pueden así rebajar el umbral para que los Estados vayan a la guerra o utilicen fuerza letal, de modo que el conflicto armado no sea ya una medida de último recurso»[310].

La introducción de una nueva clase de armas siempre altera la naturaleza de la guerra, y las armas que pueden ser lanzadas o detonadas a distancia —catapultas, minas, morteros, misiles— tienden a tener los mayores efectos, tanto intencionales como no intencionales. Las consecuencias de las máquinas de matar autónomas irían probablemente más allá de nada que hayamos conocido. El primer disparo hecho libremente por un robot será un disparo oído en todo el mundo. Cambiará la guerra, y quizá la sociedad, para siempre.

* * *

Los desafíos sociales y éticos planteados por los robots asesinos y los coches autónomos apuntan a algo importante y perturbador sobre la dirección de la automatización. El mito de la sustitución ha sido tradicionalmente definido como la suposición errónea de que un empleo puede dividirse en tareas separadas, y de que esas tareas pueden ser automatizadas de manera fragmentada sin cambiar la naturaleza del trabajo como conjunto. Esa definición necesitaría una ampliación. A medida que se expande el ámbito de la automatización, estamos aprendiendo que también es un error asumir que la sociedad pueda dividirse en esferas discretas de actividad —ocupaciones o pasatiempos, digamos, o dominios de competencia gubernamental— y esas esferas puedan ser automatizadas individualmente sin cambiar la naturaleza de la sociedad en su conjunto. Todo está conectado —cambia el arma, y cambia la guerra— y las conexiones se refuerzan cuando se hacen explícitas mediante redes informáticas. En algún momento la automatización alcanza una masa crítica. Comienza a moldear las normas, las ideas y la ética de la sociedad. La gente se ve a sí misma y a sus relaciones con los otros bajo una luz diferente y ajusta su sentido de autonomía y responsabilidad personal para explicar la expansión de la tecnología. También se comporta de forma diferente. Espera la asistencia de los ordenadores, y en esas escasas situaciones en las que no está disponible, se siente desconcertada. El software adquiere lo que el especialista en informática del MIT Joseph Weizenbaum denominó una «urgencia irresistible». Se convierte en «la materia misma a partir de la que el hombre construye su mundo»[311].

En la década de 1990, justo cuando la burbuja «puntocom» estaba empezando a inflarse, se hablaba mucho, y apasionadamente, sobre la «computación dominante». Pronto, nos aseguraban los expertos, los microchips estarían en todas partes: incrustados en maquinaria industrial y estanterías de almacenes, pegados a las paredes de oficinas, tiendas y hogares, enterrados bajo tierra y flotando en el aire, instalados en bienes de consumo y entretejidos en la ropa, incluso nadando dentro de nuestros cuerpos. Equipados con sensores y transceptores, los minúsculos ordenadores medirían cada variable imaginable, desde la fatiga del metal a la temperatura de la Tierra o el nivel de azúcar en sangre, y enviarían sus mediciones, a través de Internet, a centros de procesamiento de datos en los que ordenadores más grandes procesarían esos números y formularían instrucciones para mantener todo especificado y sincronizado. La informática sería omnipresente; la automatización estaría en el aire. Viviríamos en el paraíso del freak, el mundo convertido en una máquina programable.

Uno de los orígenes del despliegue publicitario fue Xerox PARC, el mítico laboratorio de investigación de Silicon Valley en el que Steve Jobs encontró la inspiración para el Macintosh. Los ingenieros e informáticos del PARC publicaron una serie de artículos que describían un futuro en el que los ordenadores estarían tan profundamente entrelazados en «el tejido de la vida cotidiana» que serían «indistinguibles de ella»[312]. Ni siquiera notaríamos ya todos los cálculos que sucederían a nuestro alrededor. Estaríamos tan saturados con datos, tan asistidos por el software, que en lugar de experimentar la ansiedad de la sobrecarga de información nos sentiríamos «apaciguados»[313]. Sonaba idílico. Pero los investigadores del PARC no eran tan optimistas. También expresaban reservas acerca del mundo que pronosticaban. Temían que un sistema informático ubicuo fuese un lugar ideal para que se escondiese el Gran Hermano. «Si el sistema informático es invisible además de extensivo», escribió el tecnólogo jefe del laboratorio Mark Weiser, en un artículo publicado en 1999 en la revista IBM Systems Journal, «empieza a ser difícil saber qué controla qué, qué está conectado con qué, por dónde fluye la información [y] cómo está siendo utilizada»[314]. Tendríamos que confiar mucho en las personas y compañías que manejan el sistema.

La excitación sobre la informática ubicua demostró ser prematura, al igual que la ansiedad. La tecnología de la década de 1990 no estaba lista para crear un mundo legible por máquinas, y después del desplome de las «puntocom» los inversores no estaban de humor para financiar la instalación de microchips y sensores caros por todas partes. Pero muchas cosas han cambiado durante los siguientes quince años. Las ecuaciones económicas son diferentes ahora. El precio del material informático ha caído abruptamente, como también el coste de la transmisión de datos a gran velocidad. Empresas como Amazon, Google y Microsoft han convertido el procesamiento de datos en un servicio básico. Han creado una red informática en la nube que permite la recopilación y el procesamiento de enormes cantidades de información en plantas centralizadas eficientes y la alimentación posterior de aplicaciones para smartphones y tabletas o circuitos de control de máquinas[315]. Los fabricantes están gastando miles de millones de dólares para equipar fábricas con sensores conectados a redes, y los gigantes de la tecnología como General Electric, IBM o Cisco, en el afán de liderar la creación de una «internet de las cosas», se apresuran a desarrollar protocolos para compartir los datos resultantes. Los ordenadores son casi omnipresentes ahora, e incluso el más leve de los movimientos y temblores de este mundo está siendo registrado como flujo de dígitos binarios. Quizá no estemos apaciguados, pero sí estamos saturados de datos. Los investigadores del PARC están empezando a parecer profetas.

Hay una gran diferencia entre un conjunto de herramientas y una infraestructura. La Revolución Industrial adquirió verdadera fuerza solo después de que sus postulados operativos fueran integrados en sistemas y redes expansivos. La construcción de los ferrocarriles a mediados del siglo XIX agrandó los mercados que las empresas podían servir, proporcionando el ímpetu para la producción en masa mecanizada y economías de escala cada vez mayor. La creación de la red eléctrica, unas décadas después, abrió el camino para las líneas de montaje y, al hacer factibles y asequibles toda clase de aparatos eléctricos, estimuló el consumismo e introdujo la industrialización en los hogares. Estas redes nuevas de transporte y energía, junto con el telégrafo, el teléfono y los sistemas de difusión que surgieron en paralelo, dieron una nueva personalidad a la sociedad. Alteraron la manera en la que la gente pensaba sobre el trabajo, el entretenimiento, los viajes, la educación e incluso la organización de comunidades y familias. Transformaron la cadencia y la textura de la vida en modos que iban mucho más allá de lo que habían significado las máquinas a vapor de las fábricas.

Thomas Hughes, al revisar las consecuencias de la llegada de la red eléctrica en su libro Networks of Power [«Redes de poder»], describió cómo primero la cultura ingenieril, luego la cultura de los negocios y finalmente la cultura en general se amoldaron al nuevo sistema. «Hombres e instituciones desarrollaron características que los adaptaban a las características de la tecnología», escribió. «Y la interacción sistemática de hombres, ideas e instituciones, técnica y no técnica, condujo al nacimiento de un sistema —uno sociotécnico— con movimiento masivo y dirección». En este momento el impulso tecnológico se afianzó, tanto para la industria energética como para los modos de producción y vida que soportaba. «El sistema universal acumuló un impulso conservador. Su crecimiento fue en general continuo, y el cambio se convirtió en una diversificación de la función»[316]. El progreso había encontrado su ritmo.

Hemos llegado a una coyuntura similar en la historia de la automatización. La sociedad se está adaptando a la infraestructura informática universal —más rápido de lo que se adaptó a la red eléctrica— y está surgiendo un nuevo statu quo. Las premisas que subyacen a las operaciones industriales y relaciones comerciales ya se han modificado. «Procesos empresariales que antes tenían lugar entre seres humanos están siendo ejecutados ahora electrónicamente», explica W. Brian Arthur, un economista y teórico de la tecnología del Instituto Santa Fe. «Está teniendo lugar en un dominio invisible que es estrictamente digital»[317]. Como ejemplo, indica el proceso de mover un cargamento de mercancías por Europa. Hace unos años, esto hubiese requerido una legión de agentes provistos de portapapeles. Anotarían llegadas y salidas, revisarían manifiestos, realizarían inspecciones, firmarían y sellarían autorizaciones, rellenarían y archivarían papeles y enviarían cartas o llamarían por teléfono a una variedad de funcionarios implicados en la coordinación o regulación del transporte de la mercancía. Modificar la ruta del cargamento hubiese implicado numerosas comunicaciones entre representantes de diversas partes afectadas —transportistas, destinatarios, portadores, agencias gubernamentales— y más montones de papeles. Ahora las mercancías llevan etiquetas identificativas de radiofrecuencia. Cuando un cargamento pasa por un puerto u otra estación de paso, hay escáneres que leen las etiquetas y pasan la información a unos ordenadores. Los ordenadores retransmiten la información a otros ordenadores, que en coordinación con los controles necesarios, proveen las autorizaciones requeridas, revisan los calendarios como sea pertinente y se aseguran de que todas las partes tienen datos actualizados sobre la situación del cargamento. Si hace falta una nueva ruta, se genera automáticamente y se actualizan las etiquetas y los repositorios de datos relacionados.

Semejantes intercambios automatizados y extensos de información se han vuelto cotidianos en la economía. El comercio se gestiona cada vez más, como dice Arthur, a través de «una gigantesca conversación llevada a cabo enteramente por máquinas»[318]. Tener un negocio es tener ordenadores interconectados capaces de participar en esa conversación. «Sabes que has creado un sistema nervioso digital excelente», dice Bill Gates a los ejecutivos, «cuando la información fluye por tu organización tan rápida y naturalmente como el pensamiento en los seres humanos»[319]. Cualquier compañía importante, si quiere seguir siendo viable, tiene pocas más opciones que automatizarse y después automatizarse un poco más. Debe rediseñar su flujo de trabajo y sus productos para permitir un control informático cada vez mayor y debe restringir la implicación de personas en sus procesos de abastecimiento y producción. Las personas, después de todo, no pueden mantener el ritmo de la charla informatizada; solo ralentizan la conversación.

El escritor de ciencia ficción Arthur C. Clarke preguntó una vez: «¿Puede la síntesis del hombre y la máquina ser estable alguna vez, o se convertirá el componente puramente orgánico en tal estorbo que tendrá que ser desechado?»[320]. Al menos en el mundo empresarial, no se divisa en lontananza ninguna estabilidad en la división del trabajo entre humanos y ordenadores. Los métodos imperantes de comunicación y coordinación informatizada prácticamente aseguran que el papel de las personas seguirá menguando. Hemos diseñado un sistema que nos descarta. Si el desempleo tecnológico empeora en los años venideros, será más como resultado de nuestra nueva y subterránea infraestructura de automatización que por cualquier instalación particular de robots en fábrica o de aplicaciones de apoyo a la toma de decisiones en oficinas. Los robots y las aplicaciones son la flora visible del sistema de raíces profundo, extenso e implacablemente invasivo de la automatización.

Ese sistema de raíces también está nutriendo la extensión de la automatización en la cultura más ampliamente entendida. Desde la provisión de servicios públicos hasta el cuidado de amistades y lazos familiares, la sociedad se está reconfigurando para adaptarse a los contornos de la nueva infraestructura informática. La infraestructura orquesta los intercambios de datos instantáneos que hacen posibles los coches autónomos y los ejércitos de robots asesinos. Proporciona la materia prima para los algoritmos predictivos que informan las decisiones de individuos y grupos. Apuntala la automatización de aulas, bibliotecas, hospitales, tiendas, iglesias y hogares —lugares tradicionalmente asociados con el toque humano—. Permite a la Agencia de Seguridad Nacional y otras agencias de espionaje, además de sindicatos del crimen y corporaciones curiosas, ejercer una vigilancia y espionaje a una escala sin precedentes. Es lo que ha derivado una parte tan grande de nuestro discurso público y conversaciones privadas a pantallas diminutas. Y es lo que da a nuestros diversos dispositivos informáticos la capacidad de guiarnos durante la jornada, ofreciendo un flujo continuo de alertas, instrucciones y consejos personalizados.

Una vez más, los hombres y las instituciones están desarrollando características que los adaptan a las características de la tecnología imperante. La industrialización no nos convirtió en máquinas, y la automatización no va a convertirnos en autómatas. No somos tan simples. Pero la extensión de la automatización está haciendo nuestra vida más programática. Tenemos menos oportunidades para demostrar nuestra iniciativa e ingenio, para demostrar la confianza en uno mismo que alguna vez fue considerada el pilar del carácter. Si no empezamos a dudar sobre adónde nos estamos encaminando, esa tendencia solo se acelerará.

* * *

Fue un discurso curioso. El evento era la conferencia TED 2013, celebrada a finales de febrero en el Long Beach Performing Arts Center, cerca de Los Ángeles. El tipo desaliñado que estaba en el escenario, meneándose incómodamente y hablando con una voz vacilante, era Sergey Brin, supuestamente el más extrovertido de los dos fundadores de Google. Estaba allí para publicitar Google Glass, el «ordenador acoplado a la cabeza» de la empresa. Tras un breve vídeo promocional, hizo una crítica burlona al smartphone, un dispositivo que Google, con su sistema Android, ha contribuido a masificar. Sacó su propio teléfono del bolsillo y lo miró con desdeño. Usar un smartphone es una «forma de emasculación», dijo. «Ya sabes, estás ahí sentado y te dedicas a frotar esta pieza de cristal carente de rasgos distintivos». Además de ser «socialmente aislante», mirar a una pantalla reduce la implicación sensorial de una persona con el mundo físico, apuntó. «¿Es esto lo que se supone que debías hacer con tu cuerpo?»[321].

Habiéndose librado del smartphone, Brin pasó a exaltar los beneficios de Glass. El nuevo dispositivo, dijo, ofrecería un «factor de forma» muy superior para la informática personal. Al liberar las manos de las personas y permitirles mantener su cabeza alta y los ojos hacia delante, estas volverían a interactuar con su entorno. Se volverían a unir al mundo. Tenía otras ventajas también. Al colocar una pantalla de ordenador permanentemente a la vista, las gafas informatizadas permitirían a Google, a través de su servicio Google Now y otras prestaciones de rastreo y configuración personalizada, entregar información pertinente a las personas siempre que el dispositivo percibiese que requerían consejo o asistencia. La compañía satisfaría la mayor de sus ambiciones: automatizar el flujo de información hasta la mente. Olvide las funciones de autocompletar de Google Suggest. Con Glass en su ceja, dijo Brin, haciéndose eco de su colega Ray Kurzweil, ya no tendría que buscar en la Red nunca más. No tendría que formular búsquedas o «peinar» resultados o seguir rastros de enlaces. «La información simplemente le llegaría a medida que la necesitase»[322]. A la omnipresencia del ordenador se le sumaría la omnisciencia.

La torpe presentación de Brin le granjeó la ridiculización entre los blogueros tecnológicos. Con todo, tenía un punto de razón. Los smartphones encantan, pero también enervan. El cerebro humano es incapaz de concentrarse en dos cosas a la vez. Cada mirada o deslizamiento por una pantalla táctil nos aleja de nuestro entorno inmediato. Con el smartphone en la mano somos un poco fantasmales, vacilamos entre ambos mundos. Por supuesto, las personas han sido siempre distraíbles. Las mentes divagan. La atención se disipa. Pero nunca hemos llevado en nuestra persona una herramienta que cautiva tan insistentemente nuestros sentidos y divide nuestra atención. Al conectarnos con otro lugar simbólico, el smartphone, como insinuaba Brin, nos exilia del aquí y del ahora. Perdemos el poder de la presencia.

La garantía de Brin de que Glass resolvería ese problema era menos convincente. Hay momentos, sin duda, en el que tener tus manos libres mientras consultas tu ordenador o usas una cámara sería una ventaja. Pero mirar a una pantalla que flota enfrente de ti requiere una inversión de atención no menor que mirar a una que sostienes en tu regazo. Puede que requiera más. Estudios en pilotos y conductores que usan dispositivos de visualización frontales revelan que cuando las personas miran un texto o gráfico proyectado de manera superpuesta sobre el entorno, son susceptibles de sufrir «limitación atencional». Su concentración disminuye, sus ojos permanecen fijos en la pantalla y olvidan cualquier otra cosa que ocurra en su campo de visión[323]. En un experimento realizado en un simulador de vuelo, los pilotos que usaban un dispositivo de visualización frontal durante un aterrizaje tardaban más en ver un gran avión que obstruía la pista de aterrizaje que los pilotos que tenían que girar la cabeza hacia abajo para revisar sus mediciones de vuelo. Dos de los pilotos que usaban la pantalla de visualización frontal ni siquiera vieron el avión que tenían enfrente de ellos[324]. «La percepción exige la participación de tus ojos y de tu mente», explicaban los profesores de psicología Daniel Simons y Christopher Chambris en un artículo sobre los peligros de Glass publicado en 2013, «y si tu mente está implicada, puedes no ver algo que de otra manera sería completamente obvio»[325].

La pantalla de Glass también es, por diseño, difícil de obviar. Suspendida sobre tu ojo, siempre está preparada: necesita solo una mirada para aparecer en el cuadro. Por lo menos un teléfono puede ser guardado en un bolsillo o cartera, o metido en la guantera de un coche. El hecho de que se interactúe con Glass a través de palabras, movimientos de cabeza, gestos manuales y toques con los dedos refuerza su apelación a la mente y los sentidos. En cuanto a las señales auditivas que anuncian alertas y mensajes entrantes —enviadas, como presumió Brin en su charla TED, «justo a través de los huesos de tu cráneo»—, parecen apenas menos intrusivas que los sonidos y vibraciones de un teléfono. Por castrante que sea un smartphone, en términos metafóricos, un ordenador fijado a la frente promete ser peor.

Los ordenadores «ponibles», ya se porten en la cabeza (como Glass) o en la muñeca (como el reloj inteligente Pebble), son nuevos, y su atractivo está por demostrar. Deberán superar algunos obstáculos grandes si quieren obtener mucha popularidad. Sus prestaciones son en este momento escasas, tienen una pinta ridícula —el periódico londinense The Guardian se refiere a Glass como «esas espantosas lentes»[326]— y sus diminutas cámaras integradas ponen a mucha gente nerviosa. Pero igual que otros ordenadores personales anteriores, mejorarán con rapidez y evolucionarán con casi total seguridad hacia formas menos molestas, más útiles. La idea de llevar puesto un ordenador puede parecer extraña hoy día, pero podría ser la norma dentro de diez años. Puede que nos veamos incluso tragando nanoordenadores del tamaño de una pastilla para vigilar nuestra bioquímica y funciones orgánicas.

Brin está equivocado, sin embargo, al sugerir que Glass y otros dispositivos semejantes representan una ruptura con el pasado de la informática. Dan más empuje todavía al ímpetu tecnológico establecido. Cuando el smartphone y después la tableta hicieron a los ordenadores de uso general e interconectados más portátiles y personalizables, también facilitaron que las compañías de software programaran muchos más aspectos de nuestra vida. Además de aplicaciones baratas y simpáticas, permitieron que la infraestructura de computación en la nube fuese utilizada para automatizar incluso la tarea más mundana. Los relojes y gafas informatizados expanden el alcance de la automatización. Con ellos es más fácil recibir instrucciones detalladas para caminar o montar en bicicleta, por ejemplo, o recibir consejo generado algorítmicamente sobre dónde comprar tu almuerzo o qué ropa ponerte para salir una noche. También sirven como sensores para el cuerpo, permitiendo que la información sobre tu ubicación, pensamientos y salud sea transmitida a la nube. Eso, a su vez, da a los programadores y empresarios de software todavía más oportunidades de automatizar lo cotidiano.

* * *

Hemos puesto en marcha un ciclo que, dependiendo del punto de vista, es virtuoso o vicioso. A medida que dependemos más de aplicaciones y algoritmos somos menos capaces de actuar sin su ayuda: experimentamos estrechamiento de habilidades y de la atención. Eso hace al software más indispensable todavía. La automatización genera automatización. Con todo el mundo a la espera de gestionar sus vidas a través de pantallas, la sociedad adapta naturalmente sus hábitos y procesos a los hábitos y procesos del ordenador. Lo que no puede lograrse con software —lo que no es asequible a la informática y resiste, por ello, la automatización— empieza a parecer prescindible.

Los investigadores PARC sostenían, a comienzos de la década de 1990, que sabríamos que la informática había alcanzado la ubicuidad cuando ya no fuésemos conscientes de su presencia. Los ordenadores estarían tan completamente entremezclados en nuestras vidas que serían invisibles para nosotros. Los «utilizaríamos inconscientemente para realizar tareas cotidianas»[327]. Eso parecía un castillo en el aire en una época en que los aparatosos PC tenían la costumbre de pararse, estropearse o fallar en momentos inoportunos. Ahora ya no parece un castillo en el aire. Muchas empresas informáticas y marcas de software dicen que actualmente están trabajando para hacer sus productos invisibles. «Estoy muy emocionado con las tecnologías que desaparecen completamente», declara Jack Dorsey, un destacado empresario de Silicon Valley. «Lo estamos haciendo con Twitter, y lo estamos haciendo con Square [el procesador en red de tarjetas de crédito]»[328]. Mark Zuckerberg, al llamar a Facebook «servicio básico» (como hace frecuentemente), apunta a que quiere que la red social se funda con nuestras vidas de la forma en que lo hicieron el sistema telefónico y la red eléctrica[329]. Apple ha promocionado el iPad como un dispositivo que «se aparta de tu camino». Con la misma idea, Google vende Glass como una manera de «quitar a la tecnología de tu camino». En un discurso reciente en San Francisco, el ingeniero jefe de la compañía, Vic Gundotra, puso incluso un toque flower-power al eslogan: «La tecnología debería quitarse de tu camino para que puedas vivir, aprender y amar»[330].

Es posible que los tecnólogos incurran en la rimbombancia, pero no son culpables de cinismo. Creen genuinamente que cuanto más informatizadas estén nuestras vidas, más felices seremos. Esa ha sido, después de todo, su propia experiencia. Pero su aspiración es de cualquier manera egoísta. Para que una tecnología popular se vuelva invisible primero tiene que ser tan en esencial para la existencia de las personas que no puedan ya imaginar estar sin ella. Solo si una tecnología nos rodea puede desaparecer de nuestra vista. Justin Rattner, director técnico de Intel, ha afirmado que espera que los productos de su empresa se conviertan hasta tal punto en una parte del «contexto» de las personas que Intel sea capaz de ofrecerles «asistencia permanente»[331]. Se puede asegurar que la inoculación de semejante dependencia en los consumidores traería, también, mucho más dinero a Intel y otras empresas informáticas. Para un negocio no hay nada como convertir a un consumidor en un suplicante.

La perspectiva de que una tecnología compleja se difumine en un segundo plano, para que pueda emplearse sin esfuerzo o reflexión algunos, puede ser tan seductora para aquellos que la usan como para quienes la venden. «Cuando la tecnología se aparta de tu camino, estamos liberados de ella», ha escrito el columnista del New York Times Nick Bilton[332]. Pero no es tan simple. No basta con apagar un botón para hacer una tecnología invisible. Desaparece solo después de un lento proceso de aclimatación cultural y personal. A medida que nos habituamos a ella, la tecnología empieza a ejercer más poder sobre nosotros, no menos. Puede que no seamos conscientes de las restricciones que impone a nuestra vida, pero las restricciones permanecen. Como señala el sociólogo francés Bruno Latour, la invisibilidad de una tecnología familiar es «una especie de ilusión óptica». Eclipsa la forma en que nos hemos transformado para acomodar a la tecnología. La herramienta que usábamos originalmente para cumplir alguna intención en particular empieza a imponerse sobre nuestras intenciones, o las intenciones de su fabricante. «Si no reconocemos», escribe Latour, «hasta qué punto el uso de una técnica ha desplazado, traducido, modificado o torcido la intención inicial, es simplemente porque hemos cambiado el fin al cambiar los medios y porque, mediante una huida de la voluntad, hemos comenzado a desear algo bastante diferente de lo que deseábamos en un principio»[333].

Las difíciles cuestiones éticas que surgen ante la perspectiva de programar coches y soldados robóticos —¿quién controla el software? ¿Quién decide lo que debe optimizarse? ¿Qué intenciones e intereses se reflejan en el código?— son igualmente pertinentes para el desarrollo de las aplicaciones utilizadas para automatizar nuestras vidas. Cuando los programas adquieren mayor influencia sobre nosotros —moldeando la forma en que trabajamos, la información que vemos, las rutas que recorremos, nuestra interacción con otras personas— se convierten en una forma de control remoto. A diferencia de los robots o de los drones, tenemos la libertad para rechazar las instrucciones y sugerencias del software. Es difícil, no obstante, escapar a su influencia. Al abrir una aplicación, pedimos que nos guíen: nos ponemos al cuidado de la máquina.

Mire con mayor detenimiento Google Maps. Cuando se desplaza por una ciudad y consulta la aplicación, no le da solo datos de navegación; le da una manera de pensar en las ciudades. Integrada con el software viene una filosofía del espacio que refleja, entre otras cosas, los intereses comerciales de Google, el historial y los sesgos de sus programadores, las prestaciones y limitaciones del software a la hora de representar el espacio. En 2013 la empresa sacó una nueva versión de Google Maps. En lugar de ofrecerle la misma representación de una ciudad que todo el mundo ve, genera un mapa diseñado según lo que Google percibe como sus necesidades y deseos, basándose en la información que ha recopilado sobre usted. La aplicación destacará restaurantes y otros puntos de interés que han recomendado amigos en su red social. Le dará direcciones que reflejan sus decisiones de navegación pasadas. Lo que usted ve, según la compañía, es «único para ti, siempre adaptándose a la tarea que quieres realizar en este preciso instante»[334].

Suena atractivo, pero es limitante. Google suprime la posibilidad de la casualidad en favor del aislamiento. Limpia el desorden infeccioso de una ciudad con un antiséptico algoritmo. Quizá la manera más importante de ver una ciudad, como espacio público compartido no solo con tus colegas, sino con un grupo enormemente variado de desconocidos, se pierde. «El urbanismo de Google», comenta el crítico tecnológico Evgeny Morozov, «es el de alguien que está tratando de llegar a un centro comercial en su coche autónomo. Es profundamente utilitario, incluso egoísta, con poca o ninguna preocupación por cómo se vive el espacio público. En el mundo de Google el espacio público es solo algo que existe entre tu casa y el restaurante con buenas críticas al que te mueres por llegar»[335]. La conveniencia ante todo.

Las redes sociales nos empujan a presentarnos de maneras que se ajustan a los intereses y prejuicios de las empresas que las manejan. Facebook, a través de su línea del tiempo y otras prestaciones documentales, anima a sus miembros a pensar que su imagen pública es indistinguible de su identidad. Quiere encerrarlos en un yo único, uniforme, que persiste a lo largo de sus vidas, desdoblándose en una narrativa coherente que empieza en la infancia y termina, suponemos, con la muerte. Esto encaja con la concepción estrecha de su fundador acerca del yo y sus posibilidades. «Tienes una identidad», ha dicho Mark Zuckerberg. «El tiempo en el que tenías una imagen diferente para tus amigos o colegas de la oficina y para la otra gente que conoces está llegando probablemente a su fin con bastante rapidez». Sostiene incluso que «tener dos identidades es un ejemplo de falta de integridad»[336]. No sorprende que esa visión encaje con la voluntad de Facebook de agrupar a sus miembros en paquetes ordenados y coherentes de datos para anunciantes. Tiene el beneficio añadido, para la empresa, de hacer que las preocupaciones sobre la privacidad personal parezcan menos válidas. Si tener más de una identidad indica falta de integridad, entonces el anhelo de mantener ciertos pensamientos o actividades fuera del escrutinio público sugiere una debilidad de carácter. La concepción del individuo que impone Facebook a través de su software puede ser, sin embargo, sofocante. El yo rara vez es fijo. Tiene una cualidad proteica. Emerge mediante la exploración personal y se modifica con las circunstancias. Esto es especialmente cierto en la juventud, cuando la autoconcepción de una persona es fluida y está sujeta a pruebas, experimentación y revisiones. Estar atrapado en una identidad, particularmente en una fase temprana de la vida, puede anular posibilidades para el crecimiento y la realización personal.

Cada pieza de software contiene estas presunciones escondidas. Los motores de búsqueda, al automatizar la indagación intelectual, dan precedencia a la popularidad y la actualidad sobre la diversidad de opinión, el rigor de los argumentos o la calidad de la expresión. Como todos los programas analíticos, tienen un sesgo hacia criterios susceptibles de análisis estadísticos, rebajando aquellos que implican al gusto u otros juicios subjetivos. Los algoritmos automatizados de corrección de trabajos estimulan en los alumnos un aprendizaje mecánico de la escritura. Los programas son sordos al tono, desinteresados sobre los matices del conocimiento y activamente resistentes a la expresión creativa. La ruptura deliberada de una regla gramatical puede encandilar a un lector, pero para el ordenador es un anatema. Los motores de recomendación, ya sea para sugerir una película o un interés amoroso potencial, agasajan nuestros deseos establecidos en lugar de desafiarnos con cosas nuevas e inesperadas. Asumen que preferimos la costumbre a la aventura, la predictibilidad al capricho. Las tecnologías de la automatización del hogar, que permiten que cosas como la iluminación, la calefacción, la cocina y el entretenimiento sean meticulosamente programados, imponen una mentalidad tic-tac sobre la vida doméstica. Alientan sutilmente a las personas a adaptarse a rutinas y horarios establecidos, de manera que las casas parezcan oficinas.

Los sesgos en el software pueden distorsionar decisiones tanto relativas a la organización social como personales. Al promocionar sus coches autónomos, Google ha sugerido que los vehículos reducirán drásticamente el número de accidentes, o incluso los eliminarán por completo. «¿Sabes que los accidentes de tráfico son la causa número uno de muerte en gente joven?», afirmó Sebastian Thrun durante un discurso en 2011. «¿Y te das cuenta de que casi todos ellos se deben al error humano, no de la máquina, y pueden por ello ser prevenidos por las máquinas?»[337]. El argumento de Thrun es casi irresistible. Al regular actividades arriesgadas como conducir, la sociedad ha dado desde hace mucho tiempo una prioridad importante a la seguridad, y todo el mundo aprecia el rol tecnológico que puede jugar la innovación para reducir el riesgo de percances y daños personales. Pero incluso aquí las cosas no son tan blancas y negras como da a entender Thrun. La capacidad de los coches autónomos para prevenir accidentes y muertes sigue siendo teórica en este momento. Como hemos visto, la relación entre maquinaria y error humano es complicada; rara vez se comporta como esperamos. Los objetivos de la sociedad, además, nunca son unidimensionales. Incluso el deseo de seguridad requiere interrogación. Siempre hemos reconocido que las leyes y normas de comportamiento conllevan compromisos entre seguridad y libertad, entre protegernos y exponernos al riesgo. Permitimos y a veces alentamos a la gente a que participe en aficiones, deportes u otras actividades peligrosas. Una vida completa, como sabemos, no es una vida perfectamente aislada. Incluso a la hora de establecer límites de velocidad en autopistas, equilibramos el objetivo de la seguridad con otras metas.

Difíciles y con frecuencia políticamente polémicos, esos compromisos modelan el tipo de sociedad en la que vivimos. La pregunta es: ¿Queremos ceder estas decisiones a las empresas de software? Cuando buscamos en la automatización una panacea para los fallos humanos, anulamos otras opciones. La carrera por utilizar coches autónomos puede hacer más que recortar la libertad y responsabilidad individuales; puede excluir la búsqueda de vías alternativas para reducir la probabilidad de accidentes de tráfico, como reforzar la educación de los conductores o promover el transporte público. Cabe destacar que la preocupación de Silicon Valley por la seguridad en las autopistas, aunque sin duda sincera, ha sido selectiva. Las distracciones causadas por teléfonos móviles y smartphones se han convertido en los últimos años en una causa muy frecuente de accidentes de tráfico. Un análisis del Consejo de Seguridad Nacional relacionó el uso del teléfono con uno de cada cuatro accidentes ocurridos en carreteras estadounidenses en 2011[338]. Sin embargo, Google y otras empresas punteras de tecnología no hicieron esfuerzos para desarrollar un software que evite llamadas, mensajes o uso de aplicaciones mientras se conduce (seguramente, una tarea fácil comparada con la construcción de un coche que conduce por sí mismo). Deberíamos dar la bienvenida a las contribuciones importantes que las empresas informáticas pueden hacer al bienestar de la sociedad, pero no deberíamos confundir los intereses de esas compañías con los nuestros.

* * *

Si no entendemos las motivaciones comerciales, políticas, intelectuales y éticas de las personas que crean nuestro software, o las limitaciones inherentes al procesamiento automatizado de datos, nos exponemos a la manipulación. Nos arriesgamos, como sugiere Latour, a sustituir nuestras propias intenciones con las de otros, sin darnos incluso cuenta de que se ha producido el reemplazo. Cuanto más nos habituamos a la tecnología, mayor es ese riesgo.

Una cosa es que las cañerías de nuestra casa se vuelvan invisibles, que desaparezcan de nuestra vista a medida que nos adaptamos, felizmente, a su presencia. Incluso si no somos capaces de arreglar un grifo que pierde agua o un inodoro problemático, solemos tener bastante claro lo que hacen las tuberías en nuestras casas —y por qué—. La mayor parte de las tecnologías que se han hecho invisibles para nosotros mediante su ubicuidad son así. Su funcionamiento, y las presunciones e intereses que subyacen a su funcionamiento, son evidentes o al menos discernibles. Las tecnologías pueden tener efectos no intencionados —las cañerías cambiaron la manera en que la gente contempla la higiene y la privacidad—,[339] pero rara vez tienen agendas ocultas.

Muy diferente es que las tecnologías de la información se vuelvan invisibles. Incluso cuando somos conscientes de su presencia en nuestras vidas, los sistemas informáticos son opacos para nosotros. Los códigos de software están escondidos, en muchos casos protegidos legalmente como si fuesen secretos industriales. Incluso si pudiéramos verlos, pocos de nosotros podríamos sacar algo en claro de ellos. Están escritos en lenguajes que no comprendemos. Los datos alimentados en los algoritmos también se nos ocultan, muchas veces almacenados en centros de datos distantes y muy protegidos. Tenemos poco conocimiento sobre cómo se recopilan los datos, para qué se usan o quién tiene acceso a ellos. Ahora que el software y la información están almacenados en la nube, en lugar de en discos duros personales, ni siquiera podemos estar seguros de cuándo ha cambiado el funcionamiento del sistema. Se efectúan constantemente revisiones de programas populares sin que nos demos cuenta. La aplicación que usamos ayer probablemente no sea la aplicación que usamos hoy.

El mundo moderno siempre ha sido complicado. Fragmentado en dominios especializados de destreza y conocimiento, vinculado a sistemas económicos y de otro tipo, desaira cualquier intento de comprenderlo en su totalidad. Pero ahora, en un grado mucho mayor que nada que hayamos experimentado anteriormente, su misma complejidad se nos esconde. Está encubierta por la simplicidad astutamente concebida de la pantalla, de la interfaz de fácil manejo y sin fricciones. Estamos rodeados por lo que el politólogo Langdon Winner ha denominado «complejidad electrónica oculta». Las «relaciones y conexiones» que alguna vez fueron «parte de la experiencia mundana», manifiestas en interacciones directas entre personas y entre personas y cosas, han sido «envueltas en la abstracción»[340]. En el momento en que una tecnología inescrutable se convierte en una tecnología invisible, sería de sabios preocuparse. En ese momento, los supuestos e intenciones de la tecnología han infiltrado nuestros propios deseos y acciones. Ya no sabemos si el software nos está ayudando o nos está controlando. Estamos al volante, pero no podemos estar seguros de quién conduce.

9. EL AMOR QUE PONE ORDEN EN EL CENAGAL

9. EL AMOR QUE PONE ORDEN EN EL CENAGAL.

Hay un verso de un poema al que siempre vuelvo, y que ha estado en mi cabeza incluso más de lo habitual mientras avanzaba con el manuscrito de este libro:

La realidad es el sueño más dulce que el trabajador conoce.

Es el penúltimo verso de uno de los primeros y mejores poemas de Robert Frost, un soneto llamado «La siega». Lo escribió justo iniciado el siglo XX, cuando era un hombre de veinticinco años con una familia joven. Trabajaba de granjero, criando gallinas y cuidando unos pocos manzanos en un pequeño pedazo de tierra que su abuelo le había comprado en Derry, New Hampshire. Fue un momento difícil en su vida. Tenía poco dinero y pocas perspectivas. Había dejado dos universidades, Dartmouth y Harvard, sin conseguir un título. No había tenido éxito en una sucesión de pequeños trabajos. No se encontraba bien. Tenía pesadillas. Su primer hijo había muerto de cólera a los tres años. Su matrimonio era problemático. «La vida era perentoria», recordaría después Frost, «y me llevó a la confusión»[341].

Fueron, sin embargo, esos solitarios años en Derry los que le forjaron como escritor y como artista. Algo en el trabajo de la granja —los días largos, repetitivos, el trabajo en solitario, la cercanía a la belleza y el descuido de la naturaleza— le inspiró. La carga del trabajo aliviaba la carga de la vida. «Si me siento atemporal e inmortal es por haber perdido aquí la noción del tiempo durante cinco o seis años», escribiría sobre su estancia en Derry. «Dejamos de dar cuerda a los relojes. Nuestras ideas se volvieron extemporáneas por no leer periódicos durante un largo periodo. No podría haber sido más perfecto si hubiésemos planeado o anticipado en lo que nos estábamos metiendo»[342]. En los descansos entre faenas de la granja, Frost consiguió de alguna forma escribir la mayoría de los poemas de su primer libro, La voluntad de un chico; aproximadamente la mitad de los poemas de su segundo libro, Al norte de Boston; y una buena cantidad de otros poemas que encontrarían su sitio en volúmenes posteriores.

«La siega» (de La voluntad de un chico) fue lo mejor de su lírica de Derry. Es el poema en que encontró su voz distintiva: franca y conversacional, pero también astuta y disimulada. (Para entender de verdad a Frost —para entender de verdad cualquier cosa, incluido a uno mismo— hace falta tanta desconfianza como confianza). Como sucede con muchas de sus mejores obras, «La siega» tiene una cualidad enigmática, casi alucinatoria, que desmiente el cuadro sencillo y hogareño que dibuja —en este caso, un hombre que siega una pradera para proveerse de heno—. Cuanto más se lee el poema, más profundo y fuerte se manifiesta:

Nunca hubo un ruido junto a la madera, excepto uno,

y era mi larga guadaña susurrando al suelo.

¿Qué fue lo que susurró? Ni yo mismo lo conocía;

quizás era algo sobre el calor del sol,

algo, quizás, sobre la falta de sonido,

y por eso lo susurró, y no lo dijo.

No era un sueño sobre el regalo del tiempo ocioso,

u oro fácil en la mano de hada o duende:

nada más que la verdad habría parecido demasiado débil

para el amor sincero que pone orden en cenagal,

no sin las débiles puntas de las flores

(pálidas orquídeas), y asustó a una serpiente verde brillante.

La realidad es el sueño más dulce que el trabajador conoce.

Mi larga guadaña susurró y dejó hacerse al heno.[343]

Pocas veces buscamos ya en la poesía enseñanzas, pero aquí vemos cómo el escrutinio del mundo por parte de un poeta puede ser más sutil y esclarecedor que el de un científico. Frost comprendió el significado de lo que ahora llamamos «flujo» y la esencia de lo que ahora llamamos «la mente encarnada» mucho antes de que los psicólogos y neurobiólogos proporcionaran la evidencia empírica. Su segador no es un campesino acicalado, una caricatura romántica. Es un granjero, un hombre que hace un trabajo duro en un día caliente y quieto de verano. No sueña con «horas ociosas» o «dinero fácil». Su mente está en su trabajo —el ritmo corporal de segar, el peso de la herramienta en sus manos, los tallos apilándose a su alrededor—. No está buscando alguna verdad superior al trabajo. El trabajo es la verdad.

La realidad es el sueño más dulce que el trabajador conoce.

Hay misterios en ese verso. Su poder anida en su renuncia a significar nada más o nada menos de lo que dice. Pero parece claro que a lo que apunta Frost, en el verso y en el poema, es a la centralidad de la acción tanto en el vivir como en el saber. Solo a través del trabajo que nos mete en el mundo nos acercamos a una auténtica comprensión de la existencia, de la «realidad». No es un entendimiento que pueda ser puesto en palabras. No puede hacerse explícito. No es nada más que un susurro. Para escucharlo tienes que acercarte mucho a su origen. El trabajo, ya sea físico o mental, es más que una forma de asegurarse que las cosas se hacen. Es una forma de contemplación, un modo de ver el mundo cara a cara en lugar de por un cristal. La acción desmediatiza la percepción, nos acerca a la cosa misma. Nos ata a la tierra, da a entender Frost, como el amor nos ata a los demás. Antítesis de la trascendencia, el trabajo nos pone en nuestro sitio.

Frost es un poeta del trabajo. Siempre vuelve a esos momentos reveladores en los que el yo activo se difumina en el mundo que lo rodea, cuando, como escribiría de forma tan memorable en otro poema, «el trabajo es un juego para intereses mortales»[344]. El crítico literario Richard Poirier, en su libro Robert Frost: The Work of Knowing [«Robert Frost: el trabajo de conocer»], describió con gran sensibilidad la visión del poeta sobre la esencia y la esencialidad del trabajo duro: «Cualquier labor intensa representada en su poesía, como segar o coger manzanas, puede penetrar los sueños, visiones y mitos que están en el corazón de la realidad, constituyendo su forma articulada para aquellos que pueden leerla con la necesaria falta de certidumbre y una indiferencia hacia la posesividad meramente práctica». Este conocimiento adquirido mediante tales esfuerzos puede ser vago y elusivo como un sueño —justo lo contrario de lo algorítmico o informático—, pero «en sus propensiones míticas, el conocimiento es menos efímero que los resultados aparentemente más prácticos del trabajo, como son el alimento o el dinero»[345]. Al acometer una tarea, con nuestros cuerpos o nuestros cerebros, tenemos normalmente un objetivo práctico a la vista. Nuestros ojos están mirando hacia delante, al producto de nuestro trabajo —una paca de heno para alimentar al ganado, quizá—. Pero es a través del propio trabajo como llegamos a un entendimiento más profundo de nosotros mismos y de nuestra situación. La acción de segar, no el heno, es lo más importante.

* * *

Nada de esto debería tomarse como un ataque o un rechazo al progreso material. Frost no está idealizando algún pasado distante y pretecnológico. Aunque estaba consternado por aquellos que se dejaban «convertir en fanáticos del evangelio de la ciencia moderna»[346], sentía mucha afinidad con científicos e inventores. Como poeta, compartía con ellos un espíritu común y una búsqueda común. Eran todos exploradores de los misterios de la vida terrenal, excavadores del significado de la materia. Todos participaban de un trabajo que, como describió Poirier, «puede extender el alcance de los sueños humanos»[347]. Para Frost, el mayor valor de la «realidad» —ya sea aprehendida en el mundo, expresada en una obra de arte o manifestada en una herramienta u otro invento— reside en su capacidad de expandir el ámbito del conocimiento individual y abrir, por ende, nuevas avenidas de percepción, acción e imaginación. En el largo poema «Kitty Hawk», escrito casi al final de su vida, celebraba el viaje de los hermanos Wright «A lo desconocido, / a lo sublime». Haciendo su propio «pase / al infinito», los hermanos también hicieron la experiencia de volar, y el sentido de ilimitación que proporciona, posible para todos nosotros. La suya fue una aventura prometeica. En un sentido, escribió Frost, los Wright hicieron el infinito «racionalmente nuestro»[348].

La tecnología es tan crucial para la labor de conocer como lo es para la labor de producir. El cuerpo humano, en su estado prístino, sin adornos, es endeble. Está constreñido en cuanto a su fuerza, su destreza, su rango sensorial, su capacidad de cálculo y su memoria. Alcanza rápidamente los límites de lo que puede hacer. Pero el cuerpo abarca una mente que puede imaginar, desear y planificar logros que el cuerpo humano por sí solo no puede satisfacer. Esta tensión entre lo que el cuerpo puede lograr y lo que la mente puede visualizar es lo que alumbró y continúa propulsando y moldeando la tecnología. Es el estímulo para que la humanidad se extienda a sí misma y elabore la naturaleza. La tecnología no es lo que nos hace «posthumanos» o «transhumanos», como han sugerido recientemente algunos escritores y académicos. Es lo que nos hace humanos. La tecnología está en nuestra naturaleza. A través de nuestras herramientas damos forma a nuestros sueños. Los traemos al mundo. Puede que la practicidad de la tecnología la distinga del arte, pero ambos nacen de un anhelo similar, distintivamente humano.

Uno de los muchos trabajos para los que no está preparado el cuerpo humano es segar hierba. (Inténtelo si no me cree). Lo que permite al segador hacer su trabajo, lo que le permite ser un segador, es la herramienta que empuña, su guadaña. El segador está, y tiene que estar, realzado tecnológicamente. La herramienta hace al segador, y la habilidad del segador al usar la herramienta rehace el mundo para él. El mundo se convierte en un lugar en el que puede actuar como segador, en el que puede ordenar en hileras las gavillas de hierba. Esta idea, que en la superficie puede sonar trivial o incluso tautológica, señala algo elemental sobre la vida y la formación del yo.

«El cuerpo es nuestro medio general para tener un mundo», escribió el filósofo francés Maurice Merleau-Ponty en su obra maestra La fenomenología de la percepción (1945[349]). Nuestro maquillaje físico —el hecho de que caminemos erguidos sobre dos piernas a una determinada altura, de que tengamos un par de manos con pulgares prensiles, de que tengamos ojos que ven de una manera particular, de que tengamos una cierta tolerancia al calor y al frío— determina nuestra percepción del mundo de una forma que precede, y después moldea, nuestros pensamientos conscientes sobre el mundo. Vemos las montañas elevadas no porque las montañas sean elevadas, sino porque nuestra percepción de su forma y altura está tallada por nuestra propia estatura. Vemos una piedra, entre otras cosas, como un arma porque la construcción específica de nuestra mano y de nuestro brazo nos faculta para cogerla y lanzarla. La percepción, como la cognición, está encarnada.

De esto se deduce que al adquirir un nuevo talento, no solo cambiamos nuestras facultades corporales: cambiamos el mundo. El océano extiende una invitación al nadador que se guarda para la persona que nunca aprendió a nadar. Con cada habilidad que dominamos el mundo se remodela para revelar mayores posibilidades. Se vuelve más interesante, y estar en él depara más recompensas. Esto podría ser a lo que apuntaba Spinoza, el filósofo holandés del siglo XVII que se rebeló contra la división entre mente y cuerpo de Descartes, y escribió que «la mente humana es capaz de percibir muchas cosas, y es más capaz cuanto más pueda ser dispuesto el cuerpo de muchas maneras»[350]. John Edward Huth, profesor de Física en Harvard, atestigua la regeneración que sigue al dominio de una habilidad. Hace una década, inspirado por cazadores inuit y otros expertos en orientación natural, se sometió a «un programa autoimpuesto para aprender a navegar mediante pistas ambientales». A lo largo de meses de rigurosa observación y práctica a la intemperie, se enseñó a sí mismo cómo leer los cielos nocturnos y diurnos, a interpretar los movimientos de nubes y olas, a descifrar las sombras de los árboles. «Después de un año con esta misión», recuerda, «caí en la cuenta de una cosa: la forma en que veía el mundo se había transformado palpablemente. El sol tenía un aspecto diferente, al igual que las estrellas». Su percepción enriquecida del entorno, adquirida mediante una suerte de «empirismo primario», le resultó «parecida a lo que la gente describe como despertares espirituales»[351].

La tecnología, al permitirnos actuar de maneras que van más allá de nuestros límites corporales, también altera nuestra percepción del mundo y lo que el mundo significa para nosotros. El poder transformador de la tecnología es más aparente en herramientas de descubrimiento, desde el microscopio y el acelerador de partículas del científico hasta la canoa y la nave espacial del explorador, pero el poder está en todas las herramientas, incluidas aquellas que usamos en nuestra vida diaria. Cada vez que un instrumento nos lleva a cultivar un nuevo talento, el mundo se convierte en un lugar diferente y más intrigante, escenario de posibilidades incluso mayores. A las posibilidades de la naturaleza se le añaden las posibilidades de la cultura. «En ocasiones», escribió Merleau-Ponty, «la significación que se persigue no puede alcanzarse con los medios naturales del cuerpo. Debemos, entonces, construir un instrumento, y el cuerpo proyecta un mundo cultural alrededor de sí mismo»[352]. El valor de una herramienta bien hecha y bien utilizada reside no solo en lo que produce para nosotros, sino en lo que produce en nosotros. En su mejor versión, la tecnología abre nuevos caminos. Nos entrega un mundo que es a la vez más comprensible para nuestros sentidos y mejor adaptado a nuestras intenciones: un mundo en el que nos sentimos más en casa. «Mi cuerpo está integrado en el mundo cuando mi percepción me ofrece el espectáculo más variado y más claramente articulado posible», explicó Merleau-Ponty, «y cuando mis intenciones motoras, al desplegarse, reciben las respuestas que esperan del mundo. Este máximo de claridad en la percepción y la acción especifica un terreno perceptivo, un contexto para mi vida, un medio general para la coexistencia de mi cuerpo y el mundo»[353]. Usada reflexivamente y con habilidad, la tecnología es mucho más que un medio de producción o consumo. Se convierte en un medio de experiencia. Nos ofrece más maneras de llevar una vida rica y estimulante.

Observe con mayor detenimiento la guadaña. Es una herramienta simple, pero inteligente. Inventada alrededor del año 500 antes de Cristo por los romanos o los galos, consiste de una cuchilla curva, forjada en hierro o acero, fijada al final de un palo largo de madera, o mango. El mango tiene normalmente, a la mitad, una pequeña empuñadura o punta de madera que permite coger y balancear el apero con ambas manos. La guadaña es una variación de la (mucho más antigua) hoz, una herramienta de cortar similar pero de mango corto, inventada en la Edad de Hierro, que vino a jugar un papel esencial en el desarrollo temprano de la agricultura y, por tanto, de la civilización. Lo que hizo de la guadaña una innovación trascendental es que su mango largo permitía al agricultor o cualquier otro trabajador segar la hierba a ras de tierra permaneciendo erguido. Podía cosecharse heno o grano, y limpiarse un prado, con mayor rapidez que antes. La agricultura dio un salto adelante.

La guadaña mejoró la productividad del trabajador en el campo, pero sus beneficios fueron más allá de lo que podía ser medido en términos de rendimiento. La guadaña era una herramienta agradable, mucho mejor adaptada al trabajo corporal de segar que la hoz. En lugar de encorvarse o agacharse, el granjero podía caminar con paso normal y usar ambas manos, además de la fuerza completa de su torso, en su trabajo. La guadaña sirvió como ayuda y como invitación al trabajo cualificado que permitía hacer. Vemos en su forma un modelo para la tecnología a escala humana, para herramientas que extienden las capacidades productivas de la sociedad sin circunscribir el ámbito individual de acción y percepción. De hecho, como deja claro Frost en «La siega», la guadaña intensifica la implicación con el mundo, y su aprehensión, por parte del usuario. El segador que bracea con su guadaña hace más, pero también sabe más. A pesar de las apariencias externas, la guadaña es una herramienta de la mente tanto como del cuerpo.

No todas las herramientas son tan amables. Algunas nos disuaden de la acción cualificada. Las tecnologías digitales de la automatización, en lugar de invitarnos al mundo y animarnos a desarrollar nuevos talentos que aumenten nuestras percepciones y expandan nuestras posibilidades, tienen con frecuencia el efecto opuesto. Están diseñadas para desalentar. Nos alejan del mundo. Eso es consecuencia no solo del diseño imperante, centrado en la tecnología, que coloca la facilidad y la eficiencia por encima de cualquier otra consideración. También refleja el hecho de que, en nuestra vida personal, el ordenador se ha convertido en un dispositivo multimedia; su software está minuciosamente programado para llamar y mantener nuestra atención. Como la mayoría de la gente sabe por experiencia, la pantalla del ordenador es intensamente atractiva, no solo por las prestaciones que ofrece, sino también por las numerosas diversiones que proporciona[354]. Siempre está ocurriendo algo, y podemos participar en cualquier momento sin el menor esfuerzo. No obstante, la pantalla, con todos sus estímulos y tentaciones, es un entorno de escasez: veloz, eficiente, limpio, pero que revela solo una sombra del mundo.

Eso es cierto incluso en las simulaciones del espacio más meticulosamente elaboradas que encontramos en aplicaciones de realidad virtual como juegos, modelos CAD, mapas en tres dimensiones y herramientas utilizadas por cirujanos, entre otros, para controlar robots. Las representaciones artificiales del espacio pueden estimular nuestros ojos y, a una menor escala, nuestros oídos, pero tienden a dejar morir de hambre a nuestros otros sentidos —tacto, olfato, gusto— y restringir notablemente los movimientos de nuestro cuerpo. Un estudio sobre roedores, publicado en Science en 2013, indicaba que las células espaciales del cerebro están mucho menos activas cuando los animales se mueven por paisajes generados por ordenador que cuando se desplazan por el mundo real[355]. «La mitad de las neuronas sencillamente se callan», afirmó uno de los investigadores, el neurofísico de UCLA Mayank Mehta. Mehta piensa que la caída de actividad mental nace probablemente de la falta de «signos próximos» —olores, sonidos y texturas ambientales que nos dan pistas sobre nuestra localización— en las simulaciones digitales del espacio[356]. «Un mapa no es el territorio que representa», dijo célebremente el filósofo polaco Alfred Korzybski[357], y una representación virtual tampoco es el territorio que representa. Cuando entramos en la jaula de cristal se nos pide que nos despojemos de buena parte de nuestro cuerpo. Eso no nos libera; nos demacra.

El mundo, a su vez, se vuelve menos significativo. A medida que nos adaptamos a nuestro medio ambiente racionalizado, nos volvemos incapaces de percibir lo que el mundo ofrece a sus habitantes más ardientes. Viajamos a ciegas, como el joven inuit guiado por satélite. El resultado es un empobrecimiento existencial, ya que la naturaleza y la cultura retiran sus invitaciones a actuar y percibir. El yo solo puede prosperar, crecer, cuando afronta y supera «resistencias de los alrededores», como escribió John Dewey. «Un entorno que fuese siempre y en todo lugar amable con la ejecución inmediata de nuestros impulsos definiría un crecimiento tan claramente como uno hostil enfadaría y destruiría. Un impulso continuamente acelerado seguiría su curso de avance sin pensamiento alguno, y emocionalmente muerto»[358].

Puede que la nuestra sea una época de comodidad material y asombro tecnológico, pero también es un momento de falta de rumbo y pesimismo. Durante la primera década de este siglo la cantidad de estadounidenses que toma medicación para tratar la depresión o la ansiedad subió casi un 25 por ciento. Uno de cada cinco adultos toma ahora regularmente esos fármacos[359]. La tasa de suicidio entre estadounidenses de edad mediana subió casi un 30 por ciento en la misma década, según un informe del Centro para el Control y Prevención de Enfermedades[360]. Más del 10 por ciento de los niños estadounidenses, y casi un 20 por ciento de los alumnos de secundaria, han sido diagnosticados con desorden de déficit de atención por hiperactividad, y dos terceras partes de ese grupo toman medicamentos como Ritalin y Adderall para tratar la afección[361]. Las razones de nuestro descontento son muchas y ni mucho menos comprendidas. Pero una de ellas podría ser que, a través de la búsqueda de una existencia sin fricciones, hemos logrado convertir lo que Merleau-Ponty denominaba la base de nuestras vidas en un lugar desierto. Las sustancias que adormecen el sistema nervioso ofrecen una vía para refrenar nuestro sistema sensitivo vital, animal, para reducir nuestro ser a un tamaño más ajustado a nuestros entornos constreñidos.

* * *

El soneto de Frost también contiene, entre sus muchos susurros, una advertencia sobre los riesgos éticos de la tecnología. La guadaña del segador tiene un componente de brutalidad. Corta indiscriminadamente flores —esas orquídeas tiernas, pálidas— junto con los tallos de hierba[362]. Asusta a animales inocentes, como la culebra verde brillante. Si la tecnología encarna nuestros sueños, también encarna otras cualidades menos benignas de nuestro carácter, como el deseo de poder y la arrogancia e insensibilidad que lo acompañan. Frost vuelve a este tema un poco después en La voluntad de un chico, en una segunda composición sobre cortar heno, «Un ramillete de flores». El narrador del poema llega a una pradera recién segada y, mientras sigue el vuelo de una mariposa ante sus ojos, descubre en medio de la hierba cortada un pequeño ramillete de flores, «una saliente lengua de flores» que «la guadaña había perdonado»:

El segador en el rocío las amó por tanto,

dejando que floreciesen, no para nosotros,

ni siquiera para que pusiésemos un solo pensamiento en él,

sino en la pura alegría rebosante de la mañana.

Trabajar con una herramienta nunca es una cuestión solo práctica, nos dice Frost con su característica delicadeza. Siempre conlleva elecciones morales y acarrea consecuencias morales. Depende de nosotros, como usuarios y fabricantes de herramientas, humanizar la tecnología, dirigir su fría cuchilla con sabiduría. Ello requiere vigilancia y cuidado.

La guadaña se emplea todavía en agricultura de subsistencia en muchas partes del mundo. Pero no tiene lugar en la agricultura moderna, cuyo desarrollo, como el desarrollo de la fábrica, la oficina y el hogar modernos, ha exigido equipamientos cada vez más complejos y eficientes. La trilladora fue inventada en la década de 1780, la segadora mecánica apareció en torno a 1835, la embaladora vino unos años después, y la cosechadora comenzó a ser producida comercialmente hacia finales del siglo XIX. El ritmo del avance tecnológico solo se ha acelerado desde entonces, y hoy la tendencia está alcanzando su conclusión lógica con la informatización de la agricultura. El trabajo de la tierra, que Thomas Jefferson consideraba como la más vigorosa y virtuosa de las ocupaciones, está siendo entregado casi por entero a máquinas. Los labradores están siendo reemplazados por «tractores dron» y otros sistemas robóticos que, mediante sensores, señales por satélite y software plantan semillas, fertilizan y escardan campos, cosechan y empaquetan cultivos, ordeñan vacas y cuidan ganado[363]. Se están desarrollando pastores robot que guían rebaños por las praderas. Aunque las guadañas todavía susurraran en los campos de las granjas industriales, no habría nadie cerca para oírlas.

La simpatía de las herramientas manuales nos impulsa a adoptar cierta responsabilidad por su uso. Dado que sentimos las herramientas como extensiones de nuestros cuerpos, como parte de nosotros mismos, no tenemos más opción que vincularnos íntimamente con las elecciones éticas que presentan. La guadaña no elige cercenar o salvar a las flores; lo hace el segador. Al adquirir destreza en el uso de una herramienta, nuestro sentido de responsabilidad hacia ella se refuerza. Para el segador novato, una guadaña puede parecer un objeto extraño; para el segador experimentado las manos y la guadaña se convierten en una sola cosa. El talento estrecha el vínculo entre un instrumento y su usuario. Esta sensación de ligazón física y ética no tiene por qué desaparecer una vez que las tecnologías se vuelven más complejas. Al relatar su histórico vuelo en solitario a través del Atlántico en 1927, Charles Lindbergh hablaba de su avión y de sí mismo como si fuesen un solo ser: «Hemos hecho este vuelo a través del océano», no yo o él[364]. El avión era un sistema complicado que abarcaba muchos componentes, pero para un piloto cualificado tenía todavía la cualidad íntima de una herramienta manual. El amor que pone orden en el cenagal es también el amor que divide las nubes para el hombre del timón y la palanca.

La automatización debilita el vínculo entre la herramienta y el usuario no porque los sistemas controlados por ordenador sean complejos, sino porque exigen muy poco de nosotros. Esconden su funcionamiento en un código secreto. Resisten cualquier implicación del operador más allá del mínimo indispensable. Desalientan el cultivo de habilidades en su uso. La automatización termina teniendo un efecto anestésico. Ya no sentimos nuestras herramientas como parte de nosotros. En un ensayo seminal de 1960 llamado «Man-Computer Symbiosis» [«Simbiosis hombre-ordenador»], el psicólogo e ingeniero J. C. R. Licklider describió muy bien el cambio en nuestra relación con la tecnología. «En los sistemas hombre-máquina del pasado», escribió, «el operador humano aportaba la iniciativa, la dirección, la integración y el criterio. Las partes mecánicas de los sistemas eran meras extensiones, primero del brazo humano, después del ojo». La introducción del ordenador cambió todo eso. «La “extensión mecánica” ha dado paso a la sustitución de los hombres, a la automatización, y los hombres que quedan allí están más para ayudar que para ser ayudados»[365]. Cuanto más automatizado se vuelve todo, más fácil es ver a la tecnología como una clase de fuerza extraña, implacable, que queda más allá de nuestro control e influencia. Tratar de alterar la ruta de su desarrollo parece fútil. Presionamos el botón de encendido y seguimos la rutina programada.

Adoptar una postura tan sumisa, por comprensible que sea, es rehuir nuestra responsabilidad en la gestión del progreso. Una máquina cosechadora robótica no tendrá a nadie en el asiento del conductor, pero es un producto del pensamiento humano consciente exactamente en la misma medida que una humilde guadaña. Puede que no incorporemos la máquina a nuestros mapas mentales, como hacemos con la herramienta manual, pero a nivel ético la máquina opera todavía como una extensión de nuestra voluntad. Sus intenciones son nuestras intenciones. Si un robot asusta a una culebra verde brillante (o algo peor), la culpa sigue siendo nuestra. Eludimos asimismo una responsabilidad más profunda: la de supervisar las condiciones para la construcción del yo. Dado que los sistemas informáticos y las aplicaciones de software juegan un papel cada vez mayor en el moldeamiento de nuestra vida y del mundo, tenemos la obligación de estar más, y no menos, comprometidos en las decisiones sobre su diseño y uso, antes de que el ímpetu tecnológico elimine nuestras opciones. Deberíamos tener cuidado con lo que creamos.

Si eso suena ingenuo o desesperado, es porque nos hemos dejado equivocar por una metáfora. Hemos definido nuestra relación con la tecnología no como la que tienen el cuerpo y una extremidad, o incluso dos hermanos, sino como la de un amo y un esclavo. La idea viene de muy lejos. Tomó cuerpo en los albores del pensamiento filosófico occidental, emergiendo por primera vez, como ha descrito Langdon Winner, en la antigua Atenas[366]. Aristóteles, al discutir el funcionamiento de los hogares al comienzo de su Política, sostuvo que los esclavos y las herramientas son esencialmente equivalentes, los primeros actuando como «instrumentos animados» y las segundas como «instrumentos inanimados» al servicio del amo de la casa. Si las herramientas pudieran de alguna manera convertirse en animadas, postulaba Aristóteles, serían capaces de sustituir directamente el trabajo de los esclavos. «Hay solo una condición en la cual podemos imaginar a los jefes sin necesidad de subordinados y a los amos sin necesidad de esclavos», reflexionaba, anticipando la llegada de la automatización informática e incluso el aprendizaje de las máquinas. «Esta condición sería que cada instrumento [inanimado] pudiera hacer su propio trabajo, a la voz de mando o mediante la anticipación inteligente». Sería «como si una lanzadera de costura pudiera tejer por sí misma y una púa tocar el arpa por sí sola»[367].

La concepción de las herramientas como esclavos ha coloreado nuestro pensamiento desde entonces. Ilustra el sueño recurrente de la sociedad sobre la emancipación del trabajo, el mismo que expresaron Marx, Wilde o Keynes y que sigue encontrando manifestaciones por igual en las obras de tecnófilos y tecnófobos. «Wilde tenía razón», escribió Evgeny Morozov, el crítico tecnológico, en su libro de 2013 To Save Everything, Click Here [«Para salvarlo todo, cliquear aquí»]: «La esclavitud mecánica permite la liberación humana»[368]. «Tenemos que dejar que los robots tomen el control», proclamó Kevin Kelly, el apasionado tecnófilo, en un artículo de Wired ese mismo año. «Harán los trabajos que hemos estado haciendo, y los harán mucho mejor de lo que nosotros podemos». Más que eso, nos harán libres para descubrir «nuevas tareas que expanden quiénes somos. Nos dejarán concentrarnos en ser más humanos de lo que éramos»[369]. Kevin Drum, de Mother Jones, declaró también en 2013 que «eventualmente nos aguarda un paraíso robótico de ocio y contemplación». Para 2040, predijo, nuestros esclavos informáticos superinteligentes, superfiables y supercomplacientes —«nunca se cansan, nunca están de mal humor, nunca cometen errores»— nos habrán rescatado del trabajo y enviado a un Edén potenciado. «Nuestros días se pasarán como queramos, quizá estudiando, quizá jugando a videojuegos. Como decidamos»[370].

Con los roles cambiados, la metáfora expresa también las pesadillas de la sociedad sobre la tecnología. Al volvernos dependientes de nuestros esclavos tecnológicos, según esta idea, también nosotros nos convertimos en esclavos. A partir del siglo XVIII, los críticos sociales han retratado habitualmente a la maquinaria fabril forzando a los trabajadores al cautiverio. «Masas de trabajadores», escribieron Marx y Engels en su Manifiesto comunista, «son esclavizadas por la máquina cada día y cada hora»[371]. Hoy la gente se queja constantemente de sentirse como esclavos de sus aparatos y dispositivos. «Los dispositivos inteligentes a veces te empoderan», observó The Economist en «Slaves to the smartphone» [«Esclavos del smartphone»], un artículo publicado en 2012. «Pero para la mayoría de las personas el siervo se ha convertido en el amo»[372]. Más dramáticamente aún, la idea de una rebelión robótica, en la que los ordenadores con inteligencia artificial pasan de ser esclavos a amos, ha sido durante un siglo un tema central en las fantasías distópicas sobre el futuro. La misma palabra robot, acuñada por un escritor de ciencia ficción en 1920, proviene de robota, una palabra checa que significa «servidumbre».

La metáfora amo-esclavo, además de tener una carga moral, distorsiona la forma en que vemos la tecnología. Refuerza la sensación de que nuestras herramientas están separadas de nosotros, de que nuestros instrumentos tienen una acción independiente. Empezamos a juzgar a nuestras tecnologías no por lo que nos permiten hacer, sino más bien por sus cualidades intrínsecas como productos: su ingenio, su eficiencia, su novedad, su estilo. Elegimos una herramienta porque es nueva, o atractiva, o rápida, no porque nos integre más completamente en el mundo y expanda el campo de nuestras experiencias y percepciones. Nos convertimos en meros consumidores de tecnología.

En un sentido más amplio, la metáfora impulsa a la sociedad a adoptar una visión simplista y fatalista de la tecnología y el progreso. Si asumimos que nuestras herramientas actúan como nuestros esclavos, trabajando siempre por nuestro beneficio, entonces cualquier intento de colocar límites a la tecnología se vuelve difícil de defender. Cada avance nos otorga mayor libertad y nos lleva un paso más cerca, si no de la utopía, sí al menos del mejor de los mundos posibles. Cualquier paso en falso, nos decimos, será rápidamente corregido por innovaciones posteriores. Si dejamos simplemente que el progreso haga su trabajo, encontrará remedios para los problemas que crea. «La tecnología no es neutral, pero es una fuerza abrumadoramente positiva de la cultura humana», escribe Kelly, como ejemplo de la ideología autocomplaciente de Silicon Valley que en años recientes ha ganado amplia resonancia. «Tenemos una obligación moral de aumentar la tecnología porque aumenta las oportunidades»[373]. La sensación de obligación moral se fortalece con el avance de la automatización, que, después de todo, nos abastece de los instrumentos más animados, los esclavos que, como anticipó Aristóteles, son más capaces de liberarnos de nuestras tareas.

La fe en la tecnología como una fuerza autónoma benevolente y autocurativa es seductora. Nos permite sentirnos optimistas sobre el futuro mientras nos quita responsabilidad sobre ese futuro. Conviene especialmente a los intereses de aquellos que se han enriquecido extraordinariamente a través de la reducción del trabajo, centrada en los beneficios, producida por los sistemas automatizados y los ordenadores que los controlan. Suministra a nuestros nuevos plutócratas una narrativa heroica en la que interpretan papeles protagonistas: las pérdidas recientes de empleos pueden ser desafortunadas, pero son un mal necesario en el camino a la emancipación eventual de la raza humana de manos de los esclavos informatizados que nuestras empresas benevolentes están creando. Peter Thiel, un emprendedor e inversor exitoso que se ha convertido en uno de los pensadores más destacados de Silicon Valley, concede que «una revolución robótica tendría básicamente el efecto de hacer que la gente perdiera sus empleos». Pero se apresura a añadir que «tendría la ventaja de liberar a las personas para hacer muchas otras cosas»[374]. Ser liberado suena mucho más agradable que ser despedido.

Hay un grado de insensibilidad en este futurismo tan grandioso. Como nos recuerda la historia, la retórica altisonante sobre la utilización de la tecnología para liberar a los trabajadores enmascara con frecuencia un desprecio por la mano de obra. Cuesta mucho imaginar a los magnates actuales de la tecnología, con sus inclinaciones libertarias y su impaciencia frente al poder público, aceptando la clase de esquema gigantesco de redistribución de la riqueza que sería necesario para subvencionar las actividades de ocio autorrealizador de las masas desempleadas. Incluso en el caso de que la sociedad llegase a alumbrar algún hechizo mágico, o algoritmo mágico, para repartir equitativamente el botín de la automatización, hay muchas razones para dudar de que sobreviniera algo parecido a la «felicidad económica» imaginada por Keynes. En un pasaje premonitorio de La condición humana, Hannah Arendt observó que si la promesa utópica de la automatización fuera realmente a cumplirse, el resultado se parecería probablemente menos al paraíso que a un chiste cruel. El conjunto de la sociedad moderna, escribió, se ha organizado como «una sociedad trabajadora», en la que trabajar por una paga, y gastar después esa paga, es la manera en la que la gente se define a sí misma y mide su valor. La mayoría de las «actividades más elevadas y significativas» veneradas en el pasado han sido marginadas u olvidadas, y «solo quedan individuos solitarios que valoran lo que hacen en términos de obra y no en términos de ganarse la vida». Que la tecnología satisficiese el permanente deseo humano «de ser liberado del esfuerzo y los problemas del trabajo» en este momento sería perverso. Nos arrojaría más profundamente al purgatorio del malestar. Con lo que nos confronta la automatización, concluyó Arendt, «es la perspectiva de una sociedad de trabajadores sin trabajo, esto es, sin la única actividad que les queda. Nada, seguramente, podría ser peor»[375]. La utopía, ella entendió, es una forma de deseo equivocado.

Los problemas sociales y económicos causados o exacerbados por la automatización no se van a resolver echándoles más software encima. Nuestros esclavos inanimados no van a guiarnos a una utopía de confort y armonía. Si los problemas han de ser resueltos, o al menos atenuados, la sociedad tendrá que afrontarlos en toda su complejidad. Puede que tengamos que poner límites a la automatización para asegurar el bienestar de la sociedad en el futuro. Puede que tengamos que cambiar nuestra visión del progreso, poniendo el énfasis en el florecimiento social y personal en lugar de en el avance tecnológico. Puede incluso que debamos valorar una idea que ha llegado a ser considerada impensable, al menos en círculos empresariales: dar prioridad a las personas sobre las máquinas.

* * *

En 1986, un etnógrafo canadiense llamado Richard Kool escribió una carta a Mihaly Csikszentmihalyi. Kool había leído parte de la obra de juventud del profesor sobre el flujo, que le había recordado su propia investigación sobre la tribu shushwap, un pueblo aborigen que vivía en el valle de río Thompson, en lo que ahora es la Columbia Británica. El territorio shushwap era «una tierra de abundancia», anotó Kool. Había sido bendecida con gran cantidad de pesca, caza y raíces y frutos comestibles. Los shushwap no tenían que migrar para sobrevivir. Construían aldeas y desarrollaban «tecnologías elaboradas para usar con mucha eficacia los recursos del entorno». Consideraban su vida buena y rica. Pero los ancianos de la tribu vieron que en tales circunstancias cómodas anidaba el peligro. «El mundo era demasiado predecible y el desafío empezaba a desaparecer de la vida. Sin desafíos, la vida no tenía sentido». Y así, cada treinta años aproximadamente, los shushwap, dirigidos por sus ancianos, se desarraigaban. Dejaban sus casas, abandonaban sus aldeas y se adentraban en territorio salvaje. «Toda la población», relataba Kool, «se movía a una parte diferente de la tierra shushwap». Y ahí descubrirían una nueva serie de retos. «Había nuevos arroyos que descubrir, nuevas rutas de caza que aprender, nuevas zonas en las que habría abundante Balsamorhiza [un tipo de planta]. Ahora la vida recobraría su significado y merecería la pena. Todos se sentirían rejuvenecidos y felices»[376].

* * *

E. J. Meade, el arquitecto de Colorado, dijo algo revelador cuando hablé con él sobre la adopción de sistemas de diseño asistidos por ordenador en su estudio. La parte difícil no era aprender cómo usar el software. Eso era bastante fácil. Lo complicado era aprender a cómo no usarlo. La velocidad, facilidad y pura novedad del CAD lo hacía muy tentador. El primer instinto de los diseñadores del estudio fue abalanzarse sobre sus ordenadores nada más empezar el proyecto. Pero una vez que revisaron objetivamente su trabajo, se dieron cuenta de que el software era un obstáculo a la creatividad: bloqueaba posibilidades estéticas y funcionales, aunque acelerase el ritmo de producción. Cuando Meade y sus colegas empezaron a interpretar más críticamente sobre los efectos de la automatización, comenzaron a resistir las tentaciones de la tecnología. «Incorporaban al ordenador cada vez más tarde» a los proyectos. Para las primeras y formativas etapas del trabajo volvían a sus cuadernos y hojas de calco, sus maquetas de cartón y de cartón pluma. «En el fondo, es magnífico», dijo Meade al resumir lo que ha aprendido sobre el CAD. «El factor de comodidad es estupendo». Pero la «conveniencia» del ordenador puede ser peligrosa. Para los incautos y acríticos puede bloquear otras consideraciones más importantes. «Tienes que profundizar mucho en la herramienta para evitar ser manipulado por ella».

Aproximadamente un año antes de que hablase con Meade —justo cuando estaba comenzando la investigación para este libro— me encontré por casualidad en un campus universitario con un fotógrafo freelance que estaba preparando uno de sus trabajos académicos. Estaba de pie debajo de un árbol, relajadamente, esperando a que algunas nubes poco colaboradoras dejaran de tapar el sol. Observé que tenía una cámara analógica de gran formato montada sobre un trípode aparatoso —era difícil no verlo, parecía casi absurdamente anticuado— y le pregunté por qué utilizaba todavía carretes. Me dijo que había acogido con fervor la fotografía digital unos años antes. Había sustituido sus cámaras analógicas y su cuarto de revelado por cámaras digitales y un ordenador equipado con el software de procesamiento de imágenes más avanzado. Pero unos meses después decidió volverse atrás. No porque estuviese insatisfecho con el funcionamiento del equipo o la resolución o precisión de las imágenes, sino porque había cambiado la manera en que afrontaba su trabajo, y no para mejor.

Las restricciones inherentes a tomar fotografías con carrete y revelarlas —el gasto, el esfuerzo, la incertidumbre— le habían llevado a trabajar despacio en un set, con reflexión, premeditación y una profunda (física) sensación de presencia. Antes de sacar una foto componía la imagen meticulosamente en su mente: tenía en cuenta la luz, el color, el encuadre y la forma. Esperaba pacientemente el momento adecuado para apretar el disparador. Con una cámara digital podía trabajar más rápidamente, podía sacar un montón de imágenes, una detrás de otra, y usar después su ordenador para repasarlas y recortar y retocar las más prometedoras. El acto de composición tenía lugar después de sacar la foto. El cambio, al principio, le pareció seductor. Pero luego se sintió decepcionado con los resultados. Las imágenes le dejaron frío. La película, comprendió, imponía una disciplina de la percepción, de ver, que conducía a fotografías más ricas, más ingeniosas y más conmovedoras. La película exigía más de él. Así que regresó a la tecnología anterior.

Ni el arquitecto ni el fotógrafo eran mínimamente antagonistas de los ordenadores. Ninguno estaba motivado por preocupaciones abstractas sobre la pérdida de soberanía o autonomía. Ninguno era un abanderado. Los dos querían simplemente la mejor herramienta para el trabajo: la herramienta que les empujaría y facultaría a hacer su trabajo más fino y satisfactorio. Lo que averiguaron fue que la herramienta más nueva, automatizada y cómoda no es siempre la mejor elección. Aunque estoy seguro de que se les pondrían los pelos de punta si fuesen comparados a los luditas, su decisión de abstenerse de usar la tecnología más reciente, por lo menos en algunas fases de su trabajo, fue un acto de rebelión semejante al de los antiguos destructores de máquinas ingleses, aun sin la furia y la violencia. Como los luditas, entendieron que las decisiones sobre tecnología son también decisiones sobre modos de trabajar y maneras de vivir, y tomaron el control de esas decisiones en lugar de cederlas a otros o dejarse llevar por el ímpetu del progreso. Retrocedieron y pensaron críticamente sobre la tecnología.

Como sociedad, nos hemos vuelto sospechosos con actos semejantes. Por ignorancia, vagancia o timidez hemos convertido a los luditas en caricaturas, símbolos del atraso. Asumimos que cualquiera que rechaza una nueva herramienta en favor de una más antigua es culpable de nostalgia o de tomar decisiones sentimentalmente en lugar de con la razón. Pero la auténtica falacia sentimental es suponer que lo nuevo siempre está mejor adaptado a nuestros propósitos e intenciones que lo viejo. Esa es la visión de un niño, ingenua y dócil. Lo que hace a una herramienta superior a otra no tiene nada que ver con su novedad. Lo que importa es cómo nos agranda o empequeñece, cómo moldea nuestra experiencia de la naturaleza, de la cultura y de los unos con los otros. Ceder decisiones sobre la textura de nuestra vida diaria a una gran abstracción llamada progreso es un disparate.

La tecnología siempre ha desafiado a la gente a pensar en lo que es importante en su vida, a preguntarse, como sugerí al comienzo de este libro, qué significa ser humano. La automatización, al extender su alcance a las esferas más íntimas de nuestra existencia, dobla la apuesta. Podemos dejarnos llevar por la corriente tecnológica, sin importar adónde nos lleve, o luchar contra ella. Resistirse a los inventos no es rechazar los inventos. Es solo achicarlos, bajar al progreso a la tierra. «La resistencia es fútil», dice el elocuente tópico de Star Trek tan amado por los entusiastas de la tecnología. Pero es lo opuesto a la verdad. La resistencia nunca es fútil. Si la fuente de nuestra vitalidad es, como nos enseñó Emerson, «el alma activa»[377], entonces nuestra mayor obligación es resistir cualquier fuerza, ya sea institucional, comercial o tecnológica, que pueda debilitar o enervar el alma.

Uno de los aspectos más extraordinarios sobre nosotros mismos es también uno de los más fáciles de pasar por alto: cada vez que chocamos con lo real profundizamos nuestro entendimiento del mundo y pasamos a formar mayor parte de él. Mientras nos enfrentamos a un reto, puede ser que la motivación provenga de la anticipación de los fines de ese esfuerzo, pero, como vio Frost, es el trabajo —los medios— lo que nos convierte en quienes somos. La automatización secciona a los fines de los medios. Hace más fácil conseguir lo que queremos, pero nos distancia de la labor de conocer. A medida que nos transformamos en criaturas de la pantalla, nos enfrentamos a la misma pregunta existencial que afrontaron los shushwap: ¿Sigue nuestra esencia estando en lo que sabemos, o nos contentamos ahora con definirnos por lo que queremos?

Eso suena muy serio. Pero la meta es el júbilo. El alma activa es un alma ligera. Al reclamar nuestras herramientas como parte de nosotros, como instrumentos de experiencia en lugar de meros medios de producción, podemos disfrutar la libertad que ofrece la tecnología grata cuando nos expande el mundo. Es la libertad que, imagino, debieron de sentir Lawrence Sperry y Emil Cachin aquel luminoso día de primavera en París, hace cien años, tras subirse a las alas de su biplano Curtiss C-2 equilibrado por un giroscopio y, desbordados de terror y alegría, pasaron por encima de la tribuna y vieron por debajo de ellos los rostros de la gente mirando al cielo asombrados.

AGRADECIMIENTOS

AGRADECIMIENTOS.

El epígrafe que abre este libro es la última estrofa del poema de William Carlos Williams «A Elsie», que apareció en el volumen Spring and All de 1923.

Estoy profundamente agradecido a aquellos que en sus entrevistas, revisiones o comentarios críticos me proporcionaron iluminación y asistencia: Claudio Aporta, Henry Beer, Véronique Bohbot, George Dyson, Gerhard Fischer, Mark Gross, Katherine Hayles, Charles Jacobs, Joan Lowy, E. J. Meade, Raja Parasuraman, Lawrence Port, Jeff Robbins, Jeffrey Rowe, Ari Schulman, Evan Selinger, Betsy Sparrow, Tim Swan, Ben Tranel y Christof van Nimwegen.

Atrapados es el tercero de mis libros guiado por la mente editorial de Brendan Curry en W. W. Norton. Doy las gracias a Brendan y a sus colegas por su trabajo en mi nombre. Estoy en deuda asimismo con mi agente, John Brockman, y sus socios en Brockman Inc. por sus sabios consejos y su apoyo.

Algunos pasajes de este libro aparecieron anteriormente, en formatos diferentes, en The Atlantic, The Washington Post, MIT Technology Review y mi blog, Rough Type.

ÍNDICE ANALÍTICO

ÍNDICE ANALÍTICO.

Abbott, Kathy

abogados y Derecho

aburrimiento

accidentes: de automóvil; de avión

acción humana: jerarquía de

acciones y productos financieros, venta de.

Adams, Thomas.

Addiction by Design (Schüll)

aerolíneas

agricultura.

Airbus A320, avión comercial.

Airbus A330 de Air France.

Airbus Industrie

ajedrez, jugar al.

Albaugh, James.

«Algoritmo, doctor»

algoritmos: de corrección de exámenes; ética y; predictivos.

Amazon.

American Machinist.

Andreessen, Marc.

Android

animales: estudios en; integración cuerpo y objeto en; muerte de

ansiedad

aplicaciones: «gamificación» y Véase también aplicaciones específicas.

Aporta, Claudio.

Apple

aprendizaje: estudios animales y; médico

árboles de decisión.

«Are Human Beings Necessary?» (Russell)

Arendt, Hannah.

Aristóteles

armas: antiaéreas.

Aronowitz, Stanley

arquitectos y arquitectura

arrogancia técnica

artesanos.

Arthur, W. Brian.

Arthur D. Little (consultoría)

artillería.

Asimov, Isaac.

Associated Press

atención: capacidad de

atención sanitaria: costes de; diagnóstico en; ordenadores y. Véanse también hospitales; médicos

auditores corporativos

ausencia de fricción

autoconciencia, cárcel de

autocorrectores

automaticidad.

Automation: Friend or Foe? (Macmillan)

Automation and Management (Bright)

Automation Specialties.

«Automation Surprises» (Sarter, Woods y Billings)

automatización: adaptativa; atención sanitaria y; en la aviación; complacencia de la; elementos que la caracterizan; enfoque centrado en los humanos frente a tecnología de; falacia sobre; fe en; importante e inquietante dirección de; intentos de controlar la; invención y definición de la palabra n.; jerarquía de; ley Yerkes-Dodson y; límites de; paradoja de la; o proceduralización; vínculo entre la herramienta y el usuario debilitado por. Véanse también temas específicos.

Automatización (viñeta de Illingworth)

automatizador, sesgo

autonomía.

Autor, David

autorrealización.

Aviación

aviación: automatización de la; automatización centrada en la tecnología frente a los humanos en la. Véase también piloto automático.

Aviación (FAA), Administración Federal de

baile de los ratones, El (Yerkes)

Bainbridge, Lisanne

bancos o banca

barcos; a vapor.

Baxter, Gordon

beneficios.

Berardi, Franco.

Bhana, Hemant.

Bhidé, Amar

bicicletas

bienestar

big data.

Big data: la revolución de los datos masivos (Cukier y Mayer-Schönberger)

Billings, Charles.

Bilton, Nick.

Boeing.

Boeing 737.

Bombardier Q400 turbohélice.

Bonin, Pierre-Cédric.

Braverman, Harry.

Bright, James.

Brillhart, Jacob.

Brin, Sergey.

Brooks, David.

Brynjolfsson, Erik.

Buffalo, accidente de

burbuja «puntocom»

Bush, George W.

Buzsáki, György.

C-54 Skymaster, avión de transporte

cabinas de cristal.

Cachin, Emil.

CAD (diseño asistido por ordenador)

California, Universidad Politécnica de.

Campbell, Donald T.

cáncer

capital de riesgo

capitalismo.

Carlsen, Magnus

carrera contra la máquina, La (Brynjolfsson y McAfee)

Cartlidge, John.

Caruthers, Felix P.

ceguera por falta de atención

«células cuadrícula»

células del espacio

cerebro: concentración y; conocimiento y; navegación y; ordenador comparado con; de piloto; tecnológico.

Cerner Corporation.

Chambris, Christopher.

Chapanis, Alphonse.

Cheng, Britte Haugan.

China.

Churchill, Winston.

CIA.

Cibernética o el control y comunicación en animales y máquinas (Wiener)

Cibernética y Sociedad (Wiener)

ciborgs

científicos y ciencia.

Cisco.

City University London.

Clark, Andy.

Clarke, Arthur C.

coches y conducción: accidentes; autónomos; experiencia del autor con; GPS en; lujo; mapas de papel y; sesgo automatizador y; con sueño; transmisión manual frente a automática en

cognición encarnada

cognición y habilidades cognitivas: encarnada; mapas y; de médicos; psicólogos y

cognitivo, mapa.

Colgan Air

compartir sin fricciones

comportamiento, cambios en el

compromiso

comunicación: médico-paciente

concentración

condición humana, La (Arendt)

conducción. Véase coches y conducción

conocimiento: diseño; explícito (declarativo); geográfico; medicina y; práctico; tácito (procesal); trabajadores del

consciencia

contables.

Continental Connection

control numérico.

Control y Prevención de las Enfermedades, Centro para el

cortadoras robóticas, máquinas

córtex visual

corteza entorrinal.

Cowen, Tyler.

Crawford, Kate.

Crawford, Matthew

creatividad

crecimiento económico.

Cross, Nigel.

Csikszentmihalyi, Mihaly

cuerpo: dibujar a mano y; mente frente a; transporte y.

Cukier, Kenneth

cultura.

Curtiss C-2, biplano.

DARPA (laboratorio del Departamento de Defensa)

Dassault

datos; fundamentalismo de los; procesamiento de

decisión, árboles de

decisiones, toma de

decisiones automatizadas: ayudas a la toma de; desventajas de

decisiones sociales, toma de

declarativo, conocimiento.

Deep Blue, superordenador de IBM

demencia

dependencia

depresión.

Descartes, René

descualificación

descubrimiento de documentos

desempleo: tecnológico

deseo: para entender el mundo

deseos errados n.

Designerly Ways of Knowing (Cross)

desorientacion.

Dewey, John

diabetes n.

diagnósticas, pruebas

diagnóstico médico

dibujar y bosquejar

dibujos animados.

DiFazio, William.

Digital Apollo (Mindell)

diseño y diseñadores: asistido por ordenador (CAD); automatización centrada en los humanos frente a la centrada en la tecnología y; paramétrico; sistema; videojuegos como modelo para.

Do, Ellen Yi-Luen

«doctor Algoritmo»

documentos, descubrimiento de.

Dodson, John Dillingham.

Dorsey, Jack.

Dorsey, Julie.

Dostrovsky, Jonathan.

Dreyfus, Hubert

drones, ataques con.

Drum, Kevin

dualismo cartesiano.

Dyer-Witheford, Nick.

Dyson, Freeman.

Dyson, George.

Eagle, Alan.

Ebbatson, Matthew

ebook. Véase libro electrónico

economía.

Economist, The

economistas

educación

efecto Checklist, El (Gawande)

efecto degenerativo: complacencia y sesgo de la automatización y; opiniones de Whitehead y

efecto generación

eficiencia: EMR y; fábricas y

elecciones éticas: coches autónomos y; enfoque de arriba abajo y de abajo arriba en; robots letales y.

Emerson, Ralph Waldo

empleos: administrativos; alteraciones de la automatización; clase media n.; creación; crecimiento de; obreros; pérdida de

empresas.

EMR (registros médicos electrónicos) n.

enfermedad.

Engels, Friedrich.

Engineering a Safer World (Leveson)

equilibrio de aeronaves

ergonomía (ingeniería de factores humanos)

Ericsson, K. Anders

escasez de información

esclavitud y esclavos

espacio

espionaje, agencias de.

«¿Está muerto el dibujo?» (simposio)

estabilidad económica.

Ética y Ciencias Emergentes, Grupo de

evolución

experiencia: calidad de la

explícito, conocimiento.

FAA. Véase Aviación, Administración Federal de

fabricación: de aeronaves

fábricas.

Facebook

«fallos en cascada»

fármacos, prescripción.

Farrell, Simon

fatiga por alertas

feedback: negativo; de videojuegos

felicidad

fenomenología de la percepción, La (Merleau-Ponty)

«fijación prematura»

filósofos

fin del trabajo, El (Rifkin)

financiero (2008), crisis del sistema

finanzas.

Fitts, Paul.

Fluir (Csikszentmihalyi)

flujo.

Forces of Production (Noble)

Ford Motor Company.

Ford Pinto, un

fotografía con carrete o digital.

Francia.

Frank Gehry’s Experience Music Projeet.

Frankenstein, Julia.

Frankenstein, monstruo

fricción.

Frost, Robert.

Fuerzas Aéreas estadounidenses

futuro y futurismo

gafas informatizadas.

Gallagher, Shaun

gamificación n. n.

Gates, Bill.

Gawande, Atul.

Gehry, Frank

generación, efecto.

General Electric.

General Motors

genéticos, rasgos.

Gensler

«gestión científica» (Taylor)

gestores, dirigentes y ejecutivos.

Giedion, Sigfried n.

Gilbert, Daniel.

Goldberger, Paul.

Google: coches.

Google Glass.

Google Maps.

Google Now.

Google Suggest.

Google Ventures

«GPS and the End of the Road» (Schulman)

Gorman, James.

GPS.

Gran Bretaña.

Gran Depresión.

Graves, Michael.

Gray, J. Macfarlane.

Groopman, Jerome.

Gross, Mark

guadaña

guerra: robots letales y.

Guerra Mundial, Primera.

Guerra Mundial, Segunda.

Gundotra, Vic

habilidades: artísticas; degradación de; estrechamiento de; pérdida de

habilidades de orientación: automatización de

hábitos, formación de.

Hambrick, David

hardware.

Harris, Don.

Hartzband, Pamela.

Harvard, Laboratorio Psicológico de.

Hayles, Katherine.

Health Affairs.

Heidegger, Martin.

Hendren, Sara

herramientas.

Heyns, Christof

hiperactividad por déficit de atención, desorden de

hipocampo.

Hipócrates

historia.

Hoff, Timothy.

Hoover, Herbert

hospitales.

How Doctors Think (Groopman)

How We Think (Hayles)

Hughes, Thomas

humanismo.

Huth, John Edward

iBeacon.

IBM Systems Journal.

IBM.

IDE «entornos de desarrollo integrados»

identidad

ideología alemana, La (Marx) n.

IEX.

Illingworth, Leslie.

Ilustración

imaginación

ímpetu tecnológico.

Infiniti

información: complacencia y sesgo de la automatización; salud.

Información Sanitaria Estadounidense, Comunidad de

infraestructuras

ingenieros informáticos

ingenieros.

Ingold, Tim.

Inspector General, Oficina del.

Intel

inteligencia: automatización de la; humana frente a la artificial

inteligencia artificial

interés propio.

Internet

«internet de las cosas»

Introduction to Mathematics, As (Whitehead)

intuición

inuit, los

invención

inversiones de capital

iPads

iPhones.

Ironstone Grupo.

Jacquard, telar de

jainismo.

Jefferson, Thomas.

Jeopardy! (concurso)

Jobless Future, The (Aronowitz y DiFazio)

Jobs, Steve.

Jones, Michael

juegos de ordenador.

Kasparov, Gary.

Katsuyama, Brad.

Kay, Rory.

Kelly, Kevin.

Kennedy, John F.

Kessler, Andy.

Keynes, John Maynard.

Khosla, Vinod.

«Kitty Hawk» (Frost)

Klein, Gary.

Knight Capital Group.

Kool, Richard.

Korzybski, Alfred.

Kroft, Steve.

Krueger, Alan.

Krugman, Paul.

Kurzweil, Ray.

Labor and Monopoly Capital (Braverman)

Langewiesche, William.

Latour, Bruno

lectores.

Lee, John.

LeFevre, Judith

lenguaje

lenguaje natural, procesamiento de.

Levasseur, Émile.

Leveson, Nancy.

Levesque, Hector.

Levinson, Stephen.

Levy, Frank.

Lewandowsky, Stephan.

Lex Machina

libertad

libro electrónico.

Licklider, J. C. R.

Lieberman, Matthew.

Lindbergh, Charles

líneas de montaje.

Lown, Beth

lucro, afán de

luditas.

Ludlam, Ned

lugar.

MacCormac, Richard.

Macmillan, Robert Hugh

mamografías.

«Man-Computer Symbiosis» (Licklider)

management. Véase gestores, dirigentes y ejecutivos.

Manifiesto comunista (Marx y Engels)

«Manifiesto del parametricismo» (Schumacher)

mano de obra: costes de; descualificación de; división de; en «intelectualización» de; lucha; recorte de; en «La siega». Véanse también empleos; trabajo

mano que piensa, La (Pallasmaa)

manos.

Manzey, Dietrich,

mapas: cognitivos; en papel y por ordenador; de recintos cerrados

«máquina oráculo»

maquinaria, industria de herramientas para

máquinas: aprendizaje de las; destrucción de; punto de vista centrado en las.

Máquinas, La Era de las

máquinas y mecanización: amor a; aviones y; economía de; como emancipación; fealdad de; en Ford; larga historia de ambivalencia a.

Marcantonio, Dino

«marcha de las máquinas, La» (reportaje televisivo)

marchas, cambio de.

Marcus, Gary.

Marina estadounidense.

Marx, Karl.

Marx, Leo

matemáticos

materialidad.

Mayer-Schönberger, Viktor.

McAfee, Andrew.

Meade, E. J.

Medicare

medicina basada en la evidencia

médicos: atención primaria; medicina basada en evidencia y; relación del paciente con.

Mehta, Mayank.

Meinz, Elizabeth.

Meister, David

memoria: dibujo y; navegación y.

Men and Machines

mente: cuerpo frente a; dibujo y; inconsciente; ordenador como metáfora y modelo para; trabajo imaginativo de

mente inconsciente.

Mercedes-Benz.

Mercury, Proyecto.

Merholz, Peter.

Merleau-Ponty, Maurice

metáfora amo-esclavo

metalúrgicos

microchips.

Microsoft

microubicaciones, rastreo de

militares: robots y.

Mindell, David.

«Misioneros y Caníbales»

MIT.

Mitchell, William J.

modelos mentales.

Moore, ley de.

Morozov, Evgeny.

Moser, Edvard.

Moser, May-Britt

motivación

motores de búsqueda

«muestreo de la experiencia», estudio

mundo.

Murnane, Richard.

Musk, Elon.

Nadin, Mihai.

NASA

naturaleza.

Nature.

Nature Neuroscience

navegación, sistemas de. Véase también GPS

nazis, alemanes

nervioso, sistema.

Networks of Power (Hughes)

neurociencia y neurocientíficos

neuroergonómicos, sistemas

neurológicos, estudios

neuromórfico, procesamiento

neuromórficos, microchips

neuronas

neuronas artificiales, redes de.

New Division of Labor, The (Levy y Murnane)

Nimwegen, Christof van.

Noble, David.

Norman, Donald.

Noyes, Jan.

NSA (Agencia Nacional de Seguridad)

nube informática.

O’Keefe, John.

Oakeshott, Michael.

Obama, Barack.

Observer, The

ocio: trabajo frente a

oficinas: complacencia de la automatización y.

Ofri, Danielle

ojos: retina.

Old Dominion, Universidad

ordenadores: actividades y; arquitectura y diseño y; atención sanitaria y; automatización y; aviación y; beneficios de transferir trabajo a; capacidad de; cerebro comparado con; en coches; como dispositivos multimedia; costes de transferir trabajo a; cuello blanco; dependencia de; efectos sobre la carga de trabajo; ergonomía y; expectativa de ayuda de; experimento de memoria y; frontera entre humanos y; humanos comparados con; llevables; máquina oráculo; procesos mentales y; velocidad; vigilancia de; vinculado a satélites; vocaciones y.

«Outsourced Brain, The» (Brooks)

Pallasmaa, Juhani.

Parameswaran, Ashwin.

Parameters

parametricismo

paramétrico, diseño.

Parasuraman, Raja.

Parry, William Edward

patrones, reconocimiento de.

Pavlov, Ivan.

Pebble.

Pediatrics

pensar y pensamiento: dibujo como; inteligencia artificial y

percepción.

Piano, Renzo

pianola, La (Vonnegut)

pilotaje por cable, controles de

piloto automático

pilotos: automatización centrada en los humanos frente a la centrada en la tecnología y; capacidad del avión frente a la de; erosión de la pericia; muerte de; renta de; visión túnel y. Véase también piloto automático

planificadores industriales.

Platón

poder

poesía.

Poirier, Richard.

Política (Aristóteles)

Popular Science.

Post, Wiley

práctica.

Predator, drone

presencia, poder de.

Priestley, Joseph.

Prius (coche Toyota de Google)

privacidad

probabilidad

procesal (tácito), conocimiento

procesamiento de textos

productividad

profesores y docencia

programadores informáticos

progreso: aceleración del; científico; social; tecnológico; visión utópica de

prosperidad

proximidad, señales de

pruebas médicas

psicología y psicólogos: cognitiva; estudios animales

psicólogos cognitivos

psicomotoras, habilidades

racionalismo en política y otros ensayos, El (Oakeshott)

«ramillete de flores, Un» (Frost)

RAND, Corporación

rasgos genéticos

ratones bailarines.

Rattner, Justin

rayos X

razón y razonamiento.

Reaper, drone

recesión.

Red Dead Redemption

red eléctrica

«redes interdependientes»

redes sociales

registros médicos electrónicos. Véase EMR.

Reino Unido.

«Relation of Strength of Stimulus to Rapidity of Habit-Formation, The» (Yerkes y Dodson)

reloj inteligente

renovación personal.

Renslow, Marvin.

Revit.

Revolución Industrial.

Rifkin, Jeremy

riqueza

riqueza de las naciones, La (Smith)

Robert, David.

Robert Frost (Poirier)

Roberts, J. O.

robótica, leyes de la. Véase Asimov, Isaac

robótica y robots: capacidades de; esencia de; letales; preguntas éticas sobre; velocidad de

robots autonómos letales (LAR)

robots y muertes.

Rodriguez, Dayron.

Roomba.

Royal Air Force.

Royal Bank of Canada (RBC)

Royal Majesty (buque)

Rubin, Charles.

Russell, Bertrand.

Rybczynski, Witold.

Saint-Exupéry, Antoine de

salarios y renta: aumento de; de pilotos.

Salud y Servicios Humanos, Departamento de.

Sarter, Nadine

satisfacción.

Scerbo, Mark.

Schön, Donald.

Schüll, Natasha Dow.

Schulman, Ari.

Schumacher, Patrik.

Science.

Sécurité en Aéroplane, Concours de la

segar hierba

seguridad.

Seguridad Aérea (AESA), Agencia Europea para la.

Seguridad Nacional, Consejo de

seguridad para operadores (SAFO), alerta de.

Seguridad en el Transporte, Junta Nacional de

sensores, mecanismo de percepción

sentidos

ser

seres humanos: automatización «la tecnología primero» frente a; cambio y; fronteras entre ordenadores y; muerte de; necesidad de; robots como réplicas de.

60 Minutes (programa de televisión)

Shangai, Torre.

Shaw, Rebecca.

Shop Class as Soulcraft (Crawford)

shushwap, tribu

«siega, La» (Frost)

significado.

Silicon Valley.

Simons, Daniel

simplicidad

simulación por ordenador, modelos de

sindicatos.

Singhal, Amit

sistemas expertos.

Sketchpad.

SketchUp.

Skidelsky, Robert.

Skiles, Jeffrey.

Skinner, B. F.

Slamecka, Norman.

Small, Willard

smartphones.

Smith, Adam

sobrecarga de información

sociedad: cómo cambia la automatización la naturaleza de; compensaciones hechas por

sociólogos

software: absoluta urgencia de; adaptaciones sociales a; apoyo a las decisiones; arquitectura y diseño; aviones y; centrado en lo humano o centrado en la tecnología; confianza en; ergonomía y; ética y; ideas ocultas sobre; límites de; médico; procesos cognitivos y; programadores de; videojuegos como modelo para el diseño de.

Specialmatic.

Spence, Michael.

Sperry, piloto automático de.

Sperry, Elmer A.

Sperry, Lawrence.

Sperry Corporation.

Spinoza, Baruch.

Stanton, Neville.

StarTrek.

Street View.

Sullenberger, Chesley

supersistema, desarrollo de

sustitución, mito de la.

Sutherland, Ivan

tabletas

tácito (procesal), conocimiento

tailorismo

talentos: límites a la replicación de humano; de médicos.

Talisse, Robert.

Taylor, Frederick Winslow

tecnología: ahorro de mano de obra; información sanitaria; invisibilidad de; larga historia de ambivalencia hacia; metáfora amo-esclavo y.

Tecnología de la Información en la Salud, Iniciativa para Incorporar

tecnológico, desempleo.

TED (2013), conferencia tecnológica

tejer y tejedores

teléfonos móviles.

Tesla Motors

textos, procesamiento de.

Thiel, Peter.

Thomis, Malcolm.

THOR (programa de software)

Thrun, Sebastian.

To Save Everything, ClickHere (Morozov)

trabajadores de la información.

Trabajo de Estados Unidos, Departamento de

trabajo: paradoja de; estandarización de; transferencia de. Véanse también empleos; mano de obra

trabajo profesional, incursión de los ordenadores en

tráfico aéreo, control del

tragaperras, máquinas.

Tranel, Ben

transmisión: automática; manual

transporte: de carga.

Tratados quirúrgicos (Hipócrates)

Turing, Alan.

Turkle, Sherry.

University College de Londres.

UPS.

US Airways.

Utah, Universidad de

velocidad: de los ordenadores; de los robots.

Veteranos, Administración de Salud de

videojuegos

virtualización

visión túnel

visores de bombardeo, tecnología en

vocabulario, efecto generación y

vocaciones, ordenadores y.

Voltaire

voluntad de un chico, La (Frost)

Volvo.

Vonnegut, Kurt.

Voss, Bill

vuelo: ingenieros de; simuladores de; tripulaciones de.

Wall Street Journal.

Wall Street.

Washington, Universidad de.

Watson (superordenador de IBM)

Watt, James.

Weed, Lawrence.

Weiser, Mark.

Weizenbaum, Joseph.

Wells, Thomas J.

Westinghouse.

Whitehead, Alfred North.

Wiener, Norbert.

WifiSlam.

Wilde, Oscar.

Williams, Serena.

Williams, William Carlos.

Wilson, Timothy.

Winner, Langdon.

Wired.

Woods, David.

Wordsworth, William.

Wright, hermanos.

Wright, Orville.

Wright, Wilbur.

X (rayos)

Xerox.

Xerox PARC.

Yerkes, Robert M.

Yerkes-Dodsony: curva de rendimiento; ley

yo.

Young, Mark.

Zaha Hadid.

Ziegler, Bernard.

Zuckerberg, Mark.

NICHOLAS GEORGE CARR (1959 en EE. UU), es un escritor estadounidense que ha publicado libros y artículos sobre tecnología, negocios y cultura.

Cursó estudios universitarios en la Universidad de Darmouth y en la Universidad de Harvard. Trabajó como editor ejecutivo de la Harvard Business Review. En enero de 2008 Carr se convirtió en miembro del consejo editorial de la Enciclopedia Británica.

NOTAS

NOTAS.

[1] Federal Aviation Administration, SAFO 13002, 4 de enero de 2013, http://faa.gov/other_visit/aviation_industry/airline_operators/airline_safety/safo/all_safos/media/2013/SAFO13002.pdf. <<

[2] Sebastian Thrun, «What We’re Driving At», Google Official Blog, 9 de octubre de 2010,. http://googleblog.blogspot.com/2010/10/what-were-driving-at.html. Véase también Tom Vanderbilt, «Let the Robot Drive: The Autonomous Car of the Future Is Here», Wired, febrero de 2012 <<

[3] Daniel DeBolt, «Google’s Self-Driving Car in Five-Car Crash», Mountain View Voice, 8 de agosto de 2011 <<

[4] Richard Waters y Henry Foy, «Tesla Moves Ahead of Google in Race to Build Self-Driving Cars», Financial Times, 17 de septiembre de 2013, http://wwwft.com/intl/cms/s/0/70d26288-1faf-11e3-8861-00144feab7de.html. <<

[5] Frank Levy y Richard J. Murnane, The New Division of Labor: How Computers Are Creating the Next Job Market (Princeton, Princeton University Press, 2004), 20 <<

[6] Tom A. Schweizer et al., «Brain Activity during Driving with Distraction: An Immersive fMRI Study», Frontiers in Human Neuroscience, 28 de febrero de 2013, http://www.frontiersin.org/Human_Neuroscience/10.3389/fnhum.2013.00053/full. <<

[7] N. Katherine Hayles, How We Think: Digital Media and Contemporary Technogenesis (Chicago, University of Chicago Press, 2012), 2 <<

[8] Mihaly Csikszentmihalyi y Judith LeFevre, «Optimal Experience in Work and Leisure», Journal of Personality and Social Psychology 56, n.º 5 (1989), 815-822 <<

[9] Daniel T. Gilbert y Timothy D. Wilson, «Miswanting: Some Problems in the Forecasting of Future Affective States», en Joseph P. Forgas, ed., Feeling and Thinking: The Role of Affect in Social Cognition (Cambridge, Reino Unido, Cambridge University Press, 2000), 179 <<

[10] Csikszentmihalyi y LeFevre, «Optimal Experience in Work and Leisure». <<

[11] Citado en John Geirland, «Go with the Flow», Wired, septiembre de 1996 <<

[12] Mihaly Csikszentmihalyi, Flow: The Psychology of Optimal Experience (Nueva York, Harper, 1991), 157-162 <<

[13] R. H. Macmillan, Automation: Friend or Foe? (Cambridge, Reino Unido, Cambridge University Press, 1956), 1 <<

[14] Ibíd., 91 <<

[15] Ibíd., 1-6. El subrayado es de Macmillan. <<

[16] Ibíd., 92 <<

[17] George B. Dyson, Darwin among the Machines: The Evolution of Global Intelligence (Reading, Mass., Addison-Wesley, 1997), X. <<

[18] Bertrand Russell, «Machines and the Emotions», en Sceptical Essays (Londres, Routledge, 2004), 64 <<

[19] Adam Smith, The Wealth of Nations (Nueva York, Modern Library, 2000), 7-10 <<

[20] Ibíd., 408 <<

[21] Malcolm I. Thomis, The Luddites: Machine-Breaking in Regency England (Newton Abbot, David & Charles, 1970), 50. Véase también E. J. Hobsbawm, «The Machine Breakers», Past and Present 1, n.º 1 (1952), 57-70 <<

[22] Karl Marx, Capital: A Critique of Political Economy, vol. 1 (Chicago, Charles H. Kerr, 1912), 461-462 <<

[23] Karl Marx, «Speech at the Anniversary of the People’s Paper», 14 de abril de 1856, http://marxists.org/archive/marx/works/1856/04/14.htm. <<

[24] Nick Dyer-Witheford, Cyber-Marx: Cycles and Circuits of Struggle in High Technology Capitalism (Champaign, III., University of Illinois Press, 1999), 40 <<

[25] Marx, «Speech at the Anniversary of the People’s Paper». <<

[26] Citado en Dyer-Witheford, Cyber-Marx, 41. En un famoso pasaje de La ideología alemana, publicado en 1846, Marx prevé un día en que uno sea libre de «hacer una cosa hoy y otra mañana, de dedicarse a la caza por la mañana, a la pesca por la tarde, a la cría de ganado por la noche, a criticar después de cenar, sin por ello convertirse en cazador, pescador, granjero o crítico». Nunca antes el deseo errado resultó tan rapsódico. <<

[27] E. Levasseur, «The Concentration of Industry, and Machinery in the United States», Publications of the American Academy of Political and Social Science, n.º 193 (1897), 178-197 <<

[28] Oscar Wilde, «The Soul of Man under Socialism», en The Collected Works of Oscar Wilde (Ware, Wordsworth Editions, 2007), 1051 <<

[29] Citado en Amy Sue Bix, Inventing Ourselves out of Jobs? America’s Debate over Technological Unemployment, 1929-1981 (Baltimore, Johns Hopkins University Press, 2000), 117-118 <<

[30] Ibíd., 50 <<

[31] Ibíd., 55 <<

[32] John Maynard Keynes, «Economic Possibilities for Our Grandchildren», en Essays in Persuasion (Nueva York, W. W. Norton, 1963), 358-373 <<

[33] John F. Kennedy, «Remarks at the Wheeling Stadium», en John F. Kennedy: Containing the Public Messages, Speeches, and Statements of the President (Washington D. C., U. S. Government Printing Office, 1962), 721 <<

[34] Stanley Aronowitz y William DiFazio, The Jobless Future: Sci-Tech and the Dogma of Work (Minneapolis, University of Minnesota Press, 1994), 14. El subrayado es de Aronowitz y DiFazio. <<

[35] Jeremy Rifkin, The End of Work: The Decline of the Global Labor Force and the Dawn of the Post-Market Era (Nueva York, Putnam, 1995), XV–XVIII. [El fin del trabajo: el declive de la fuerza de trabajo global y el nacimiento de la era posmercado, Barcelona, Círculo de Lectores, 1997]. <<

[36] Erik Brynjolfsson y Andrew McAfee, Race against the Machine: How the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy (Lexington, Mass., Digital Frontier Press, 2011). Brynjolfsson y McAfee ampliaron su punto de vista en The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies (Nueva York, W. W. Norton, 2014). <<

[37] «March of the Machines», 60 Minutes, CBS, 13 de enero de 2013, http://cbsnews.com/8301-18560_162-57563618/are-robots-hurting-job-growth/. <<

[38] Bernard Condon y Paul Wiseman, «Recession, Tech Kill Middle-Class Jobs», AP, 23 de enero de 2013, http://bigstory.ap.org/article/ap-impact-recession-tech-kill-middle-class-jobs. <<

[39] Paul Wiseman y Bernard Condon, «Will Smart Machines Create a World without Work?», AP, 25 de enero de 2003, bigstory.ap.org/article/will-smart-machines-create-world-without-work. <<

[40] Michael Spence, «Technology and the Unemployment Challenge», Project Syndicate, 15 de enero de 2013, http://project-syndicate.org/commentary/global-supply-chains-on-the-move-by-michael-spence. <<

[41] Véase Timothy Aeppel, «Man vs. Machine, a Jobless Recovery», Wall Street Journal, 17 de enero de 2012 <<

[42] Citado en Thomas B. Edsall, «The Hollowing Out», Campaign Stops (blog), New York Times, 8 de julio de 2012, http://campaignstops.blogs.nytimes.com/2012/07/08/the-future-of-joblessness/. <<

[43] Véase Lawrence V. Kenton, ed., Manufacturing Output, Productivity and Employment Implications (Nueva York, Nova Science, 2005); y Judith Banister y George Cook, «China’s Employment and Compensation Costs in Manufacturing through 2008», Monthly Labor Review, marzo de 2011 <<

[44] Tyler Cowen, «What Export-Oriented America Means», American Interest, mayo/junio de 2012 <<

[45] Robert Skidelsky, «The Rise of the Robots», Project Syndicate, 19 de febrero de 2013, http://project-syndicate.org/commentary/the-future-of-work-in-a-world-of-automation-by-robert-skidelsky. <<

[46] Ibíd. <<

[47] Chrystia Freeland, «China, Technology and the U. S. Middle Class», Financial Times, 15 de febrero de 2013 <<

[48] Paul Krugman, «Is Growth Over?», The Conscience of a Liberal (blog), New York Times, 26 de diciembre de 2012, http://krugman.blogs.nytimes.com/2012/12/26/is-growth-over/. <<

[49] Internet, se oye con frecuencia, ha creado oportunidades para que la gente gane dinero a través de su propia iniciativa personal, con poca inversión de capital. Pueden vender bienes usados en eBay o artesanías en Etsy. Pueden alquilar una habitación libre en Airbnb o compartir su coche en Lyft. Pueden encontrar empleos atípicos a través de TaskRabbit. Pero si bien es fácil ganar algo de dinero con esas iniciativas modestas, poca gente va a ser capaz de conseguir una renta de clase media del trabajo. El dinero real va a las compañías de software que controlan los centros de intercambio de información online que conectan compradores y vendedores, o los centros de intercambio arrendador-arrendatario, que, al estar altamente automatizados en sí mismos, necesitan pocos empleados. <<

[50] James R. Bright, Automation and Management (Cambridge, Mass., Harvard University, 1958), 4-5 <<

[51] Ibíd., 5 <<

[52] Ibíd., 4, 6. La cursiva es de Bright. Su definición de la automatización alude a una anterior, de Sigfried Giedion, de la mecanización: «La mecanización es un agente, como el agua, el fuego o la luz. Es ciega y no lleva un rumbo propio. Como los demás poderes de la naturaleza, depende de la capacidad del hombre de hacer uso de esta y de protegerse de los riesgos que entraña. Pero dado que la mecanización emanó por completo de la mente humana, es aún más peligrosa para él». Giedion, Mechanization Takes Command (Nueva York, Oxford University Press, 1948), 714 <<

[53] David A. Mindell, Between Human and Machine: Feedback, Control, and Computing before Cybernetics (Baltimore, Johns Hopkins University Press, 2002), 247 <<

[54] Stuart Bennett, A History of Control Engineering, 1800-1930 (Londres, Peter Peregrinus, 1979), 99-100 <<

[55] Norbert Wiener, The Human Use of Human Beings: Cybernetics and Society (Nueva York, Da Capo, 1954), 153 <<

[56] Eric W. Leaver y J. J. Brown, «Machines without Men», Fortune, noviembre de 1946. Véase también David F. Noble, Forces of Production: A Social History of Industrial Automation (Nueva York, Alfred A. Knopf, 1984), 67-71 <<

[57] Noble, Forces of Production, 234 <<

[58] Ibíd., 21-40 <<

[59] Wiener, Human Use of Human Beings, 148-162 <<

[60] Citado en Flo Conway y Jim Siegelman, Dark Hero of the Information Age: In Search of Norbert Wiener, the Father of Cybernetics (Nueva York, Basic Books, 2005), 251 <<

[61] Marc Andreessen, «Why Software Is Eating the World», Wall Street Journal, 20 de agosto de 2011 <<

[62] El informe del accidente de Continental Connection se extrae principalmente del Informe de Accidentes de la Junta Nacional de Seguridad del Transporte AAR-10/01: Loss of Control on Approach, Colgan Air, Inc., Operating as Continental Connection Flight 3407, Bombardier DHC 8-400, N200WQ, Clarence, New York, February 12, 2009 (Washington D. C., NTSB, 2010),. http://http://www.ntsb.gov/doclib/reports/2010/aar1001.pdf. Véase también Matthew L. Wald, «Pilots Chatted in Moments before Buffalo Crash», New York Times, 12 de mayo de 2009 <<

[63] Associated Press, «Inquiry in New York Air Crash Points to Crew Error», Los Angeles Times, 13 de mayo de 2009 <<

[64] El informe del accidente de Air France se extrae principalmente de BEA, Final Report: On the Accident on 1st June 2009 to the Airbus A330-203, Registered F-GZCP, Operated by Air France, Flight AF447, Rio de Janeiro to Paris (traducción oficial en inglés), 27 de julio de 2012, http://http://www.bea.aero/docspa/2009/f-cp090601.en/pdf/f-cp090601.en.pdf. Véase también Jeff Wise, «What Really Happened Aboard Air France 447», Popular Mechanics, 6 de diciembre de 2011, http://http://www.popularmechanics.com/technology/aviation/crashes/what-really-happened-aboard-air-france-447-6611877. <<

[65] BEA, Final Report, 199 <<

[66] William Scheck, «Lawrence Sperry: Genius on Autopilot», Aviation History, noviembre de 2004; Dave Higdon, «Used Correctly, Autopilots Offer Second-Pilot Safety Benefits», Avionics News, mayo de 2010; y anónimo, «George the Autopilot», Historic Wings, 30 de agosto de 2012, http://http://fly.historicwings.com/2012/08/george-the-autopilot/. <<

[67] «Now—The Automatic Pilot», Popular Science Monthly, febrero de 1930 <<

[68] «Post’s Automatic Pilot», New York Times, 24 de julio de 1933 <<

[69] James M. Gillespie, «We Flew the Atlantic “No Hands”.», Popular Science, diciembre de 1947 <<

[70] Anónimo, «Automatic Control», Flight, 9 de octubre de 1947 <<

[71] Para un informe exhaustivo del trabajo de la NASA, véase Lane E. Wallace, Airborne Trailblazer: Two Decades with NASA Langley’s 737 Flying Laboratory (Washington D. C., Oficina de Historia de la NASA, 1994). <<

[72] William Langewiesche, Fly by Wire: The Geese, the Glide, the Miracle (Nueva York, Farrar, Straus & Giroux, 2009), 103 <<

[73] Antoine de Saint-Exupéry, Wind, sand and stars (Nueva York, Reynal & Hitchcock, 1939), 20 <<

[74] Don Harris, Human Performance on the Flight Deck (Surrey, Ashgate, 2011), 221 <<

[75] «How Does Automation Affect Airline Safety?», Flight Safety Foundation, 3 de julio de 2012, http://http://flightsafety.org/node/4249. <<

[76] Hemant Bhana, «Trust but Verify», AeroSafety World, junio de 2010 <<

[77] Citado en Nick A. Komons, Bonfires to Beacons: Federal Civil Aviation Policy under the Air Commerce Act 1926-1938 (Washington D. C., Departamento de Transporte de EE.UU., 1978), 24 <<

[78] Scott Mayerowitz y Joshua Freed, «Air Travel Safer than Ever with Death Rate at Record Low», Denverpost.com, 1 de enero de 2012,. http://denverpost.com/nationworld/ci_19653967. Las muertes por actos terroristas no están incluidas en las cifras. <<

[79] Entrevista a Raja Parasuraman por el autor, 18 de diciembre de 2011 <<

[80] Jan Noyes, «Automation and Decision Making», en Malcolm James Cook et al., eds., Decision Making in Complex Environments (Aldershot, Ashgate, 2007), 73 <<

[81] Earl L. Wiener, Human Factors of Advanced Technology («Glass Cockpit») Transport Aircraft (Moffett Field, Calif., Ames Research Center, junio de 1989). <<

[82] Véase, por ejemplo, Earl L. Wiener y Renwick E. Curry, «Flight-Deck Automation: Promises and Problems», Ames Research Center, junio de 1980; Earl L. Wiener, «Beyond the Sterile Cockpit», Human Factors 27, número 1 (1985): 75-90; Donald Eldredge et al., A Review and Discussion of Flight Management System Incidents Reported to the Aviation Safety Reporting System (Washington D. C., Administración Federal de Aviación, febrero de 1992); y Matt Ebbatson, «Practice Makes Imperfect: Common Factors in Recent Manual Approach Incidents», Human Factors and Aerospace Safety 6, n.º 3 (2006): 275-278 <<

[83] Andy Pasztor, «Pilot Reliance on Automation Erodes Skills», Wall Street Journal, 5 de noviembre de 2010 <<

[84] Operational Use of Flight Path Management Systems: Final Report of the Performance-Based Operations Aviation Rulemaking Committee/Commercial Aviation Safety Team Flight Deck Automation Working Group (Washington D. C., Administración Federal de Aviación, 5 de septiembre de 2013), http://http://www.faa.gov/about/office_org/headquarters_offices/avs/offices/afs/afs400/parc/parc_reco/media/2013/130908_PARC_FltDAWG_Final_Report_Recommendations.pdf. <<

[85] Matthew Ebbatson, «The Loss of Manual Flying Skills in Pilots of Highly Automated Airliners» (tesis doctoral, Escuela de Ingeniería de la Univesidad de Cranfield, 2009). Véase también Ebbatson et al., «The Relationship between Manual Handling Performance and Recent Flying Experience in Air Transport Pilots», Ergonomics 53, número 2 (2010): 268-277 <<

[86] Citado en David A. Mindell, Between Human and Machine: Feedback, Control, and Computing before Cybernetics (Baltimore, Johns Hopkins University Press, 2002), 77 <<

[87] S. Bennett, A History of Control Engineering, 1800–1930 (Stevenage, Peter Peregrinus, 1979), 141 <<

[88] Tom Wolfe, The right stuff (Nueva York, Picador, 1979), 152-154. [Elegidos para la Gloria: lo que hay que tener, Barcelona, RBA, 2009]. <<

[89] Ebbatson, «Loss of Manual Flying Skills». <<

[90] Agencia Europea de Seguridad Aérea, «Response Charts for ‘EASA Cockpit Automation Survey,’» 3 de agosto de 2012, http://easa.europa.eu/safety-and-research/docs/EASA%20Cockpit%20Automation%20Survey%202012%20-%20Results.pdf. <<

[91] Joan Lowy, «Automation in the Air Dulls Pilot Skill», Seattle Times, 30 de agosto de 2011 <<

[92] Para una buena reseña de los cambios en el tamaño de la tripulación de vuelo, consultar Delmar M. Fadden et al., «First Hand: Evolution of the 2-Person Crew Jet Transport Flight Deck», IEEE Global History Network, 25 de agosto de 2008, http://ieeeghn.org/wiki/index.php/First-Hand:Evolution_of_the_2-Person_Crew_Jet_Transport_Flight_Deck. <<

[93] Citado en Philip E. Ross, «When Will We Have Unmanned Commercial Airliners?», IEEE Spectrum, diciembre de 2011 <<

[94] Scott McCartney, «Pilot Pay: Want to Know How Much Your Captain Earns?», The Middle Seat Terminal (blog), Wall Street Journal, 16 de junio de 2009, http://blogs.wsj.com/middleseat/2009/06/16/pilot-pay-want-to-know-how-much-your-captain-earns/. <<

[95] Dawn Duggan, «The 8 Most Overpaid & Underpaid Jobs», Salary.com, sin fecha, http://salary.com/the%2D8%2Dmost%2Doverpaid%2Dunderpaid%2Djobs/slide/9/. <<

[96] David A. Mindell, Digital Apollo: Human and Machine in Spaceflight (Cambridge, Mass., MIT Press, 2011), 20 <<

[97] Wilbur Wright, carta, 13 de mayo de 1900, en Richard Rhodes, ed., Visions of Technology: A Century of Vital Debate about Machines, Systems and the Human world (Nueva York, Touchstone, 1999), 33 <<

[98] Mindell, Digital Apollo, 20 <<

[99] Citado en Ibíd., 21 <<

[100] Wilbur Wright, «Algunos experimentos aeronáuticos», discurso ante la Sociedad Occidental de Ingenieros, 18 de septiembre de 1901, http://http://www.wright-house.com/wright-brothers/Aeronautical.html. <<

[101] Mindell, Digital Apollo, 21 <<

[102] J. O. Roberts, «The Case against Automation in Manned Fighter Aircraft», SETP Quarterly Review 2, número 3 (otoño de 1957), 18-23 <<

[103] Harris, Human Performance on the Flight Deck, 221 <<

[104] Alfred North Whitehead, An Introduction to Mathematics (Nueva York, Henry Holt, 1911), 61 <<

[105] Citado en Frank Levy y Richard J. Murnane, The New Division of Labor: How Computers Are Creating the Next Job Market (Princeton, Princeton University Press, 2004), 4 <<

[106] Raja Parasuraman et al., «Model for Types and Levels of Human Interaction with Automation», IEEE Transactions on Systems, Man, and Cybernetics-Part A: Systems and Humans 30, n.º 3 (2000), 286-297. Véase también Nadine Sarter et al., «Automation Surprises», en Gavriel Salvendy, ed., Handbook of Human Factors and Ergonomics, 2.ª ed. (Nueva York, Wiley, 1997). <<

[107] Dennis F. Galletta et al., «Does Spell-Checking Software Need a Warning Label?», Communications of the ACM 48, n.º 7 (2005), 82-86 <<

[108] National Transportation Safety Board, Marine Accident Report: Grounding of the Panamanian Passenger Ship Royal Majesty on Rose and Crown Shoal near Nantucket, Massachusetts, June 10, 1995 (Washington D. C., NTSB, 2 de abril de 1997). <<

[109] Sherry Turkle, Simulation and Its Discontents (Cambridge, Mass., MIT Press, 2009), 55-56 <<

[110] Jennifer Langston, «GPS Routed Bus under Bridge, Company Says», Seattle Post-Intelligencer, 17 de abril de 2008 <<

[111] A. A. Povyakalo et al., «How to Discriminate between Computer-Aided and Computer-Hindered Decisions: A Case Study in Mammography», Medical Decision Making 33, n.º 1 (enero de 2013), 98-107 <<

[112] E. Alberdi et al., «Why Are People’s Decisions Sometimes Worse with Computer Support?», en Bettina Buth et al., eds., Proceedings of SAFECOMP 2009, the 28th International Conference on Computer Safety, Reliability, and Security (Hamburgo, Springer, 2009), 18-31 <<

[113] Véase Raja Parasuraman et al., «Performance Consequences of Automation-Induced “Complacency”.», International Journal of Aviation Psychology 3, n.º 1 (1993), 1-23 <<

[114] Raja Parasuraman y Dietrich H. Manzey, «Complacency and Bias in Human Use of Automation: An Attentional Integration», Human Factors 52, n.º 3 (junio de 2010), 381-410 <<

[115] Norman J. Slamecka y Peter Graf, «The Generation Effect: Delineation of a Phenomenon», Journal of Experimental Psychology: Human Learning and Memory 4, n.º 6 (1978), 592-604 <<

[116] Jeffrey D. Karpicke y Janell R. Blunt, «Retrieval Practice Produces More Learning than Elaborative Studying with Concept Mapping», Science 331 (2011), 772-775 <<

[117] Britte Haugan Cheng, «Generation in the Knowledge Integration Classroom» (tesis doctoral, University of California, Berkeley, 2008). <<

[118] Simon Farrell y Stephan Lewandowsky, «A Connectionist Model of Complacency and Adaptive Recovery under Automation», Journal of Experimental Psychology: Learning, Memory, and Cognition 26, n.º 2 (2000), 395-410 <<

[119] Ya comenté el trabajo de Van Nimwegen en mi libro The Shallows: What the Internet Is Doing to Our Brains (Nueva York, W. W. Norton, 2010), 214-216. [Superficiales. ¿Qué está haciendo Internet con nuestras mentes?, Madrid, Taurus, 2011]. <<

[120] Christof van Nimwegen, «The Paradox of the Guided User: Assistance Can Be Counter-effective» (SIKS Dissertation Series n.º 2008-09, Utrecht University, 31 de marzo de 2008). Véase también Christof van Nimwegen y Herre van Oostendorp, «The Questionable Impact of an Assisting Interface on Performance in Transfer Situations», International Journal of Industrial Ergonomics 39, n.º 3 (mayo de 2009), 501-508; y Daniel Burgos y Christof van Nimwegen, «Games-Based Learning, Destination Feedback and Adaptation: A Case Study of an Educational Planning Simulation», en Thomas Connolly et al., eds., Games-Based Learning Advancements for Multi-Sensory Human Computer Interfaces: Techniques and Effective Practices (Hershey, Penn., IGI Global, 2009), 119-130 <<

[121] Carlin Dowling et al., «Audit Support System Design and the Declarative Knowledge of Long-Term Users», Journal of Emerging Technologies in Accounting 5, n.º 1 (diciembre de 2008), 99-108 <<

[122] Véase Richard G. Brody et al., «The Effect of a Computerized Decision Aid on the Development of Knowledge», Journal of Business and Psychology 18, n.º 2 (2003), 157-174; y Holli McCall et al., «Use of Knowledge Management Systems and the Impact on the Acquisition of Explicit Knowledge», Journal of Information Systems 22, n.º 2 (2008), 77-101. <<

[123] Amar Bhidé, «The Judgment Deficit», Harvard Business Review 88, n.º 9 (septiembre de 2010), 44-53 <<

[124] Gordon Baxter y John Cartlidge, «Flying by the Seat of Their Pants: What Can High Frequency Trading Learn from Aviation?», en G. Brat et al., eds., ATACCS-2013: Proceedings of the 3rd International Conference on Application and Theory of Automation in Command and Control Systems (Nueva York, ACM, 2013), 64-73 <<

[125] Vivek Haldar, «Sharp Tools, Dull Minds», This Is the Blog of Vivek Haldar, 10 de noviembre de 2013, http://blog.vivekhaldar.com/post/66660163006/sharp-tools-dull-minds. <<

[126] Tim Adams, «Google and the Future of Search: Amit Singhal and the Knowledge Graph», The Observer, 19 de enero de 2013 <<

[127] Betsy Sparrow et al., «Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips», Science 333, n.º 6043 (5 de agosto de 2011), 776-778. Otro estudio sugiere que la mera consciencia de que un hecho ha sido fotografiado con la cámara digital debilita el recuerdo memorístico de ese hecho: Linda A. Henkel, «Point-and-Shoot Memories: The Influence of Taking Photos on Memory for a Museum Tour», Psychological Science, 5 de diciembre de 2013, http://http://pss.sagepub.com/content/early/2013/12/04/0956797613504438.full. <<

[128] Mihai Nadin, «Information and Semiotic Processes: The Semiotics of Computation», Cybernetics and Human Knowing 18, n.º 1-2 (2011), 153-175 <<

[129] Gary Marcus, Guitar Zero: The New Musician and the Science of Learning (Nueva York, Penguin, 2012), 52 <<

[130] Para una descripción más exhaustiva de cómo aprende a leer el cerebro, véase Maryanne Wolf, Proust and the Squid: The Story and Science of the Reading Brain (Nueva York, HarperCollins, 2007), sobre todo 108-133 <<

[131] Hubert L. Dreyfus, «Intelligence without Representation—Merleau-Ponty’s Critique of Mental Representation», Phenomenology and the Cognitive Sciences 1 (2002), 367-383 <<

[132] Marcus, Guitar Zero, 103 <<

[133] David Z. Hambrick y Elizabeth J. Meinz, «Limits on the Predictive Power of Domain-Specific Experience and Knowledge in Skilled Performance», Current Directions in Psychological Science 20, n.º 5 (2011), 275-279 <<

[134] K. Anders Ericsson et al., «The Role of Deliberate Practice in the Acquisition of Expert Performance», Psychological Review 100, n.º 3 (1993), 363-406 <<

[135] Nigel Warburton, «Robert Talisse on Pragmatism», Five Books, 18 de septiembre de 2013, http://fivebooks.com/interviews/robert-talisse-on-pragmatism. <<

[136] Jeanne Nakamura y Mihaly Csikszentmihalyi, «The Concept of Flow», en C. R. Snyder y Shane J. Lopez, eds., Handbook of Positive Psychology (Oxford, Oxford University Press, 2002), 90-91 <<

[137] Robert M. Yerkes, The Dancing Mouse: A Study in Animal Behavior (Nueva York, Macmillan, 1907), VII–VIII, 2-3 <<

[138] Ibíd., VII. <<

[139] Robert M. Yerkes y John D. Dodson, «The Relation of Strength of Stimulus to Rapidity of Habit-Formation», Journal of Comparative Neurology and Psychology 18 (1908), 459-482 <<

[140] Ibíd. <<

[141] Mark S. Young y Neville A. Stanton, «Attention and Automation: New Perspectives on Mental Overload and Performance», Theoretical Issues in Ergonomics Science 3, n.º 2 (2002), 178-194 <<

[142] Mark W. Scerbo, «Adaptive Automation», en Raja Parasuraman y Matthew Rizzo, eds., Neuroergonomics: The Brain at Work (Nueva York, Oxford University Press, 2007), 239-252 <<

[143] «RAND Study Says Computerizing Medical Records Could Save $81 Billion Annually and Improve the Quality of Medical Care», RAND Corporation press release, 14 de septiembre, 2005 <<

[144] Richard Hillestad et al., «Can Electronic Medical Record Systems Transform Health Care? Potential Health Benefits, Savings, and Costs», Health Affairs 24, n.º 5 (2005), 1103-1117 <<

[145] Reed Abelson y Julie Creswell, «In Second Look, Few Savings from Digital Health Records», New York Times, 10 de enero de 2013 <<

[146] Jeanne Lambrew, «More than Half of Doctors Now Use Electronic Health Records Thanks to Administration Policies», The White House Blog, 24 de mayo de 2013, http://whitehouse.gov/blog/2013/05/24/more-half-doctors-use-electronic-health-records-thanks-administration-policies. <<

[147] Arthur L. Kellermann y Spencer S. Jones, «What It Will Take to Achieve the As-Yet-Unfulfilled Promises of Health Information Technology», Health Affairs 32, n.º 1 (2013), 63-68 <<

[148] Ashly D. Black et al., «The Impact of eHealth on the Quality and Safety of Health Care: A Systematic Overview», PLOS Medicine 8, n.º 1 (2011), http://plosmedicine.org/article/info%3Adoi%2F10.1371%2Fjournal.pmed.1000387. <<

[149] Melinda Beeuwkes Buntin et al., «The Benefits of Health Information Technology: A Review of the Recent Literature Shows Predominantly Positive Results», Health Affairs 30, n.º 3 (2011), 464-471 <<

[150] Dean F. Sittig et al., «Lessons from “Unexpected Increased Mortality after Implementation of a Commercially Sold Computerized Physician Order Entry System”.», Pediatrics 118, n.º 2 (1 de agosto de 2006), 797-801 <<

[151] Jerome Groopman y Pamela Hartzband, «Obama’s $80 Billion Exaggeration», Wall Street Journal, 12 de marzo de 2009. Véase también, de los mismos autores, «Off the Record—Avoiding the Pitfalls of Going Electronic», New England Journal of Medicine 358, n.º 16 (2008), 1656-1658 <<

[152] Véase Fred Schulte, «Growth of Electronic Medical Records Eases Path to Inflated Bills», Center for Public Integrity, 19 de septiembre de 2012,. http://publicintegrity.org/2012/09/19/10812/growth-electronic-medical-records-eases-path-inflated-bills; and Reed Abelson et al., «Medicare Bills Rise as Records Turn Electronic», New York Times, 22 de septiembre de 2012 <<

[153] Daniel R. Levinson, CMS and Its Contractors Have Adopted Few Program Integrity Practices to Address Vulnerabilities in EHRs (Washington D. C.: Office of the Inspector General, Department of Health and Human Services, enero de 2014), http://http://oig.hhs.gov/oei/reports/oei-01-11-00571.pdf. <<

[154] Danny McCormick et al., «Giving Office-Based Physicians Electronic Access to Patients’ Prior Imaging and Lab Results Did Not Deter Ordering of Tests», Health Affairs 31, n.º 3 (2012), 488-496. Un estudio anterior siguió el tratamiento de pacientes con diabetes de más de cinco años en dos clínicas, en una de las cuales se había instalado un sistema EMR, mientras que en la otra no. Se demostró que los médicos de la clínica con el sistema EMR solicitaban más pruebas, pero no lograron controlar mejor la glucemia de sus pacientes. «Los datos sugieren que, a pesar del elevado coste y la sofisticación técnica de los EMR, su uso no consiguió alcanzar los niveles deseables de mejoría clínica», escribieron los investigadores. Patrick J. O’Connor et al., «Impact of an Electronic Medical Record on Diabetes Quality of Care», Annals of Family Medicine 3, n.º 4 (julio de 2005), 300-306 <<

[155] Timothy Hoff, «Deskilling and Adaptation among Primary Care Physicians Using Two Work Innovations», Health Care Management Review 36, n.º 4 (2011), 338-348 <<

[156] Schulte, «Growth of Electronic Medical Records». <<

[157] Hoff, «Deskilling and Adaptation». <<

[158] Danielle Ofri, «The Doctor vs. the Computer», New York Times, 30 de diciembre de 2010 <<

[159] Thomas H. Payne et al., «Transition from Paper to Electronic Inpatient Physician Notes», Journal of the American Medical Information Association 17 (2010), 108-111 <<

[160] Ofri, «Doctor vs. the Computer». <<

[161] Beth Lown y Dayron Rodriguez, «Lost in Translation? How Electronic Health Records Structure Communication, Relationships, and Meaning», Academic Medicine 87, n.º 4 (2012), 392-394 <<

[162] Emran Rouf et al., «Computers in the Exam Room: Differences in Physician-Patient Interaction May Be Due to Physician Experience», Journal of General Internal Medicine 22, n.º 1 (2007), 43-48 <<

[163] Avik Shachak et al., «Primary Care Physicians’ Use of an Electronic Medical Record System: A Cognitive Task Analysis», Journal of General Internal Medicine 24, n.º 3 (2009), 341-348 <<

[164] Lown y Rodriguez, «Lost in Translation?». <<

[165] Véase Saul N. Weingart et al., «Physicians’ Decisions to Override Computerized Drug Alerts in Primary Care», Archives of Internal Medicine 163 (24 de noviembre de 2003), 2625-2631; Alissa L. Russ et al., «Prescribers’ Interactions with Medication Alerts at the Point of Prescribing: A Multi-method, In Situ Investigation of the Human-Computer Interaction», International Journal of Medical Informatics 81 (2012), 232-243; M. Susan Ridgely y Michael D. Greenberg, «Too Many Alerts, Too Much Liability: Sorting through the Malpractice Implications of Drug-Drug Interaction Clinical Decision Support», Saint Louis University Journal of Health Law and Policy 5 (2012), 257-295; y David W. Bates, «Clinical Decision Support and the Law: The Big Picture», Saint Louis University Journal of Health Law and Policy 5 (2012), 319-324 <<

[166] Atul Gawande, The Checklist Manifesto: How to Get Things Right (Nueva York, Henry Holt, 2010), 161-162. [El efecto checklist: cómo una simple lista de comprobación elimina errores y salva vidas, Barcelona, Antoni Bosch, 2011]. <<

[167] Lown y Rodriguez, «Lost in Translation». <<

[168] Jerome Groopman, How Doctors Think (Nueva York, Houghton Mifflin, 2007), 34-35 <<

[169] Adam Smith, The Wealth of Nations (Nueva York, Modern Library, 2000), 840. [Una investigación sobre la naturaleza y causas de la riqueza de las naciones, Madrid, Tecnos, 2009]. <<

[170] Ibíd., 4 <<

[171] Frederick Winslow Taylor, The Principles of Scientific Management (Nueva York, Harper & Brothers, 1913), 11. [Management científico, Barcelona, Oikos-Tau, 1970]. <<

[172] Ibíd., 36 <<

[173] Hannah Arendt, The Human Condition (Chicago, University of Chicago Press, 1998), 147. [La condición humana, Barcelona, Paidós, 2010]. <<

[174] Harry Braverman, Labor and Monopoly Capital: The Degradation of Work in the Twentieth Century (Nueva York, Monthly Review Press, 1998), 307 <<

[175] Para un análisis minucioso sobre el debate en torno a Braverman, véase Peter Meiksins, «Labor and Monopoly Capital for the 1990s: A Review and Critique of the Labor Process Debate», Monthly Review, noviembre de 1994 <<

[176] James R. Bright, Automation and Management (Cambridge, Mass., Harvard University, 1958), 176-195 <<

[177] Ibíd., 188 <<

[178] James R. Bright, «The Relationship of Increasing Automation and Skill Requirements», en National Commission on Technology, Automation, and Economic Progress, Technology and the American Economy, Appendix II: The Employment Impact of Technological Change (Washington D. C., U. S. Government Printing Office, 1966), 201-221 <<

[179] George Dyson, comentario en Edge.org, 11 de julio de 2008, http://http://edge.org/discourse/carr_google.html#dysong. <<

[180] Para una lúcida explicación del aprendizaje en la inteligencia artificial, véase el sexto capítulo del libro de John MacCormick Nine Algorithms That Changed the Future: The Ingenious Ideas That Drive Today’s Computers (Princeton, Princeton University Press, 2012). <<

[181] Max Raskin y Ilan Kolet, «Wall Street Jobs Plunge as Profits Soar», Bloomberg News, 23 de abril de 2013, http://bloomberg.com/news/2013-04-24/wall-street-jobs-plunge-as-profits-soar-chart-of-the-day.html. <<

[182] Ashwin Parameswaran, «Explaining the Neglect of Doug Engelbart’s Vision: The Economic Irrelevance of Human Intelligence Augmentation», Macroresilience, 8 de julio de 2013, http://macroresilience.com/2013/07/08/explaining-the-neglect-of-doug-engelbarts-vision/. <<

[183] Véase Daniel Martin Katz, «Quantitative Legal Prediction—or—How I Learned to Stop Worrying and Start Preparing for the Data-Driven Future of the Legal Services Industry», Emory Law Journal 62, n.º 4 (2013), 909-966 <<

[184] Joseph Walker, «Meet the New Boss: Big Data», Wall Street Journal, 20 de septiembre de 2012 <<

[185] Franco «Bifo» Berardi, The Soul at Work: From Alienation to Automation (Los Ángeles, Semiotext [e], 2009), 96 <<

[186] El uso de términos como red neutral y procesamiento neuromórfico puede dar la impresión de que las computadoras operan en la manera que operan los cerebros (o viceversa). Pero los términos no deberían tomarse literalmente; son figuras del lenguaje. Ya que no sabemos todavía cómo funciona el cerebro, cómo surgen el pensamiento y la conciencia de la interacción de las neuronas, no podemos fabricar ordenadores que trabajen como el cerebro. <<

[187] A. M. Turing, «Systems of Logic Based on Ordinals», Proceedings of the London Mathematical Society 45, n.º 2239 (1939), 161-228 <<

[188] Ibíd. <<

[189] Hector J. Levesque, «On Our Best Behaviour», conferencia pronunciada en el International Joint Conference on Artificial Intelligence, Pekín, China, 8 de agosto de 2013 <<

[190] Véase Nassim Nicholas Taleb, Antifragile: Things That Gain from Disorder (Nueva York, Random House, 2012), 416-419 <<

[191] Donald T. Campbell, «Assessing the Impact of Planned Social Change», Occasional Paper Series n.º 8 (diciembre de 1976), Public Affairs Center, Dartmouth College, Hanover, N. H. <<

[192] Viktor Mayer-Schönberger y Kenneth Cukier, Big Data: A Revolution That Will Transform How We Live, Work, and Think (Nueva York, Houghton Mifflin Harcourt, 2013), 166. [Big data: la revolución de los datos masivos, Madrid, Turner, 2013]. <<

[193] Kate Crawford, «The Hidden Biases in Big Data», HBR Blog Network, 1 de abril de 2013, http://hbr.org/cs/2013/04/the_hidden_biases_in_big_data.html. <<

[194] En un artículo de 1968, Weed escribió: «Si los datos de los historiales pueden ser adquiridos y almacenados a bajo precio, en su totalidad y con exactitud, por los nuevos ordenadores y mediante técnicas de entrevista sin la intervención del costoso tiempo del médico, deben ser considerados seriamente». Lawrence L. Weed, «Medical Records That Guide and Teach», New England Journal of Medicine 278 (1968), 593-600, 652-657 <<

[195] Lee Jacobs, «Interview with Lawrence Weed, MD—The Father of the Problem-Oriented Medical Record Looks Ahead», Permanente Journal 13, n.º 3 (2009), 84-89 <<

[196] Gary Klein, «Evidence-Based Medicine», Edge, 14 de enero de 2014, http://edge.org/responses/what-scientific-idea-is-ready-for-retirement. <<

[197] Michael Oakeshott, «Rationalism in Politics», Cambridge Journal 1 (1947), 81-98, 145-157. Este ensayo fue recogido en su libro de 1962 Rationalism in Politics and Other Essays (Nueva York, Basic Books). <<

[198] William Edward Parry, Journal of a Second Voyage for the Discovery of a North-West Passage from the Atlantic to the Pacific (Londres, John Murray, 1824), 277 <<

[199] Claudio Aporta y Eric Higgs, «Satellite Culture: Global Positioning Systems, Inuit Wayfinding, and the Need for a New Account of Technology», Current Anthropology 46, n.º 5 (2005), 729-753 <<

[200] Entrevista a Claudio Aporta por el autor, 25 de enero de 2012 <<

[201] Gilly Leshed et al., «In-Car GPS Navigation: Engagement with and Disengagement from the Environment», en Proceedings of the SIGCHI Conference on Human Factors in Computing Systems (Nueva York, ACM, 2008), 1675-1684 <<

[202] David Brooks, «The Outsourced Brain», New York Times, 26 de octubre de 2007 <<

[203] Julia Frankenstein et al., «Is the Map in Our Head Oriented North?», Psychological Science 23, n.º 2 (2012), 120-125 <<

[204] Julia Frankenstein, «Is GPS All in Our Heads?», New York Times, 2 de febrero de 2012 <<

[205] Gary E. Burnett y Kate Lee, «The Effect of Vehicle Navigation Systems on the Formation of Cognitive Maps», en Geoffrey Underwood, ed., Traffic and Transport Psychology: Theory and Application (Ámsterdam, Elsevier, 2005), 407-418 <<

[206] Elliot P. Fenech et al., «The Effects of Acoustic Turn-by-Turn Navigation on Wayfinding», Proceedings of the Human Factors and Ergonomics Society Annual Meeting 54, n.º 23 (2010), 1926-1930 <<

[207] Toru Ishikawa et al., «Wayfinding with a GPS-Based Mobile Navigation System: A Comparison with Maps and Direct Experience», Journal of Environmental Psychology 28, n.º 1 (2008), 74-82; y Stefan Münzer et al., «Computer-Assisted Navigation and the Acquisition of Route and Survey Knowledge», Journal of Environmental Psychology 26, n.º 4 (2006), 300-308 <<

[208] Sara Hendren, «The White Cane as Technology», Atlantic, 6 de noviembre de 2013, http://theatlantic.com/technology/archive/2013/11/the-white-cane-as-technology/281167/. <<

[209] Tim Ingold, Being Alive: Essays on Movement, Knowledge and Description (Londres, Routledge, 2011), 149–152 <<

[210] Citado en el artículo de James Fallows, «The Places You’ll Go», Atlantic, enero/febrero de 2013 <<

[211] Ari N. Schulman, «GPS and the End of the Road», New Atlantis, primavera de 2011 <<

[212] John O’Keefe y Jonathan Dostrovsky, «The Hippocampus as a Spatial Map: Preliminary Evidence from Unit Activity in the Freely-Moving Rat», Brain Research 34 (1971), 171-175 <<

[213] John O’Keefe, «A Review of the Hippocampal Place Cells», Progress in Neurobiology 13, n.º 4 (2009), 419-439 <<

[214] Edvard I. Moser et al., «Place Cells, Grid Cells, and the Brain’s Spatial Representation System», Annual Review of Neuroscience 31 (2008), 69-89 <<

[215] Véase Christian F. Doeller et al., «Evidence for Grid Cells in a Human Memory Network», Nature 463 (2010), 657-661; Nathaniel J. Killian et al., «A Map of Visual Space in the Primate Entorhinal Cortex», Nature 491 (2012), 761-764; y Joshua Jacobs et al., «Direct Recordings of Grid-Like Neuronal Activity in Human Spatial Navigation», Nature Neuroscience, 4 de agosto de 2013, http://nature.com/neuro/journal/vaop/ncurrent/full/nn.3466.html. <<

[216] James Gorman, «A Sense of Where You Are», New York Times, 30 de abril de 2013 <<

[217] György Buzsáki y Edvard I. Moser, «Memory, Navigation and Theta Rhythm in the Hippocampal-Entorhinal System», Nature Neuroscience 16, n.º 2 (2013), 130-138. Véase también Neil Burgess et al., «Memory for Events and Their Spatial Context: Models and Experiments», en Alan Baddeley et al., eds., Episodic Memory: New Directions in Research (Nueva York, Oxford University Press, 2002), 249-268. Es revelador que uno de los dispositivos más poderosamente mnemotécnicos, que data de tiempos atrás, funciona estableciendo representaciones mentales de objetos o hechos en lugares imaginarios, como una ciudad o un pueblo. Los recuerdos son más fáciles de memorizar si están asociados con emplazamientos físicos, aunque sólo sea en la imaginación. <<

[218] Véase, por ejemplo, Jan M. Wiener et al., «Maladaptive Bias for Extrahippocampal Navigation Strategies in Aging Humans», Journal of Neuroscience 33, n.º 14 (2013), 6012-6017 <<

[219] Consultar, por ejemplo, A. T. Du et al., «Magnetic Resonance Imaging of the Entorhinal Cortex and Hippocampus in Mild Cognitive Impairment and Alzheimer’s Disease», Journal of Neurology, Neurosurgery and Psychiatry 71 (2001), 441-447 <<

[220] Kyoko Konishi y Véronique D. Bohbot, «Spatial Navigational Strategies Correlate with Gray Matter in the Hippocampus of Healthy Older Adults Tested in a Virtual Maze», Frontiers in Aging Neuroscience 5 (2013), 1-8 <<

[221] Correo electrónico de Véronique Bohbot al autor, 4 de junio de 2010 <<

[222] Citado en el artículo de Alex Hutchinson, «Global Impositioning Systems», Walrus, noviembre de 2009 <<

[223] Kyle VanHemert, «4 Reasons Why Apple’s iBeacon Is About to Disrupt Interaction Design», Wired, 11 de diciembre de 2013, http://http://www.wired.com/design/2013/12/4-use-cases-for-ibeacon-the-most-exciting-tech-you-havent-heard-of/. <<

[224] Citado en el artículo de Fallows, «Places You’ll Go». <<

[225] Damon Lavrinc, «Mercedes Is Testing Google Glass Integration, and It Actually Works», Wired, 15 de agosto de 2013, http://wired.com/autopia/2013/08/google-glass-mercedes-benz/. <<

[226] William, Mitchell, prólogo a Yehuda E. Kalay, Architectura de New Media: Principles, Theories, and Methods of Computer-Aided Design (Cambridge, Mass., MIT Press, 2004), XI. <<

[227] Anónimo, «Interviews: Renzo Piano», Architectural Record, octubre de 2001, http://http://archrecord.construction.com/people/interviews/archives/0110piano.asp. <<

[228] Citado en Gavin Mortimer, The Longest Night (Nueva York, Penguin, 2005), 319 <<

[229] Dino Marcantonio, «Architectural Quackery at Its Finest: Parametricism», Marcantonio Architects Blog, 8 de mayo de 2010, http://blog.marcantonioarchitects.com/architectural-quackery-at-its-finest-parametricism/. <<

[230] Paul Goldberger, «Digital Dreams», New Yorker, 12 de marzo de 2001 <<

[231] Patrik Schumacher, «Parametricism as Style—Parametricist Manifesto», blog de Patrik Schumacher, 2008, http://patrikschumacher.com/Texts/Parametricism%20as%20Style.htm. <<

[232] Anónimo, «Interviews: Renzo Piano». <<

[233] Witold Rybczynski, «Think before You Build», Slate, 30 de marzo de 2011, http://slate.com/articles/arts/architecture/2011/03/think_before_you_build.html. <<

[234] Citado en Bryan Lawson, Design in Mind (Oxford, Architectural Press, 1994), 66 <<

[235] Michael Graves, «Architecture and the Lost Art of Drawing», New York Times, 2 de septiembre de 2012 <<

[236] D. A. Schön, «Designing as Reflective Conversation with the Materials of a Design Situation», Knowledge-Based Systems 5, n.º 1 (1992), 3-14. Véase también el libro de Schön The Reflective Practitioner: How Professionals Think in Action (Nueva York, Basic Books, 1983), concretamente 157-159. [El profesional reflexivo: cómo piensan los profesionales cuando actúan, Barcelona, Paidós, 1998]. <<

[237] Graves, «Architecture and the Lost Art of Drawing» Véase también Masaki Suwa et al., «Macroscopic Analysis of Design Processes Based on a Scheme for Coding Designers’ Cognitive Actions», Design Studies 19 (1998), 455-483 <<

[238] Nigel Cross, Designerly Ways of Knowing (Basilea, Birkhäuser, 2007), 58 <<

[239] Schön, «Designing as Reflective Conversation». <<

[240] Ibíd. <<

[241] Joachim Walther et al., «Avoiding the Potential Negative Influence of CAD Tools on the Formation of Students’ Creativity», en Proceedings of the 2007 AaeE Conference, Melbourne, Australia, diciembre 2007, http://http://ww2.cs.mu.oz.au/aaee2007/papers/paper_40.pdf. <<

[242] Graves, «Architecture and the Lost Art of Drawing». <<

[243] Juhani Pallasmaa, The Thinking Hand: Existential and Embodied Wisdom in Architecture (Chichester, Wiley, 2009), 96-97. [La mano que piensa: sabiduría existencial y corporal en la arquitectura, Barcelona, Gustavo Gili, 2012]. <<

[244] Entrevista del autor a E. J. Meade, 23 de julio de 2013 <<

[245] Jacob Brillhart, «Drawing towards a More Creative Architecture: Mediating between the Digital and the Analog», documento presentado en la reunión anual de la Association of Collegiate Schools of Architecture, Montreal, Canadá, 5 de marzo de 2011 <<

[246] Matthew B. Crawford, Shop Class as Soulcraft: An Inquiry into the Value of Work (Nueva York, Penguin, 2009), 164 <<

[247] Ibíd., 161 <<

[248] John Dewey, Essays in Experimental Logic (Chicago, University of Chicago Press, 1916), 13-14 <<

[249] Matthew D. Lieberman, «The Mind-Body Illusion», Psychology Today, 17 de mayo de 2012,. http://psychologytoday.com/blog/social-brain-social-mind/201205/the-mind-body-illusion. Véase también Matthew D. Lieberman, «What Makes Big Ideas Sticky?», en Max Brockman, ed., What’s Next? Dispatches on the Future of Science (Nueva York, Vintage, 2009), 90-103 <<

[250] «Andy Clark: Embodied Cognition» (vídeo), University of Edinburgh: Research in a Nutshell, sin fecha, nutshell-videos.ed.ac.uk/andy-clark-embodied-cognition. <<

[251] Tim Gollisch y Markus Meister, «Eye Smarter than Scientists Believed: Neural Computations in Circuits of the Retina», Neuron 65 (28 de enero de 2010), 150-164 <<

[252] Véase Vittorio Gallese y George Lakoff, «The Brain’s Concepts: The Role of the Sensory-Motor System in Conceptual Knowledge», Cognitive Neuropsychology 22, número 3/4 (2005), 455-479; y Lawrence W. Barsalou, «Grounded Cognition», Annual Review of Psychology 59 (2008), 617-645 <<

[253] «Andy Clark: Embodied Cognition». <<

[254] Shaun Gallagher, How the Body Shapes the Mind (Oxford, Oxford University Press, 2005), 247 <<

[255] Andy Clark, Natural-Born Cyborgs: Minds, Technologies, and the Future of Human Intelligence (Nueva York, Oxford University Press, 2003), 4 <<

[256] Citado en Fallows, «Places You’ll Go». <<

[257] Kevin Kelly, «Better than Human: Why Robots Will—and Must—Take Our Jobs» Wired, enero de 2013 <<

[258] Jay Yarow, «Human Driver Crashes Google’s Self Driving Car», Business Insider, 5 de agosto de 2011, http://businessinsider.com/googles-self-driving-cars-get-in-their-first-accident-2011-8. <<

[259] Andy Kessler, «Professors Are About to Get an Online Education», Wall Street Journal, 3 de junio de 2013 <<

[260] Vinod Khosla, «Do We Need Doctors or Algorithms?», TechCrunch, 10 de enero de 2012, techcrunch.com/2012/01/10/doctors-or-algorithms. <<

[261] Gerald Traufetter, «The Computer vs. the Captain: Will Increasing Automation Make Jets Less Safe?», Spiegel Online, 31 de julio de 2009, http://spiegel.de/international/world/the-computer-vs-the-captain-will-increasing-automation-make-jets-less-safe-a-639298.html. <<

[262] Véase Adam Fisher, «Inside Google’s Quest to Popularize Self-Driving Cars», Popular Science, octubre de 2013 <<

[263] Tosha B. Weeterneck et al., «Factors Contributing to an Increase in Duplicate Medication Order Errors after CPOE Implementation», Journal of the American Medical Informatics Association 18 (2011), 774-782 <<

[264] Sergey V. Buldyrev et al., «Catastrophic Cascade of Failures in Interdependent Networks», Nature 464 (15 de abril de 2010), 1025-1028. Véase también Alessandro Vespignani, «The Fragility of Interdependency», Nature 464 (15 de abril de 2010), 984-985 <<

[265] Nancy G. Leveson, Engineering a Safer World: Systems Thinking Applied to Safety (Cambridge, Mass., MIT Press, 2011), 8-9 <<

[266] Lisanne Bainbridge, «Ironies of Automation», Automatica 19, número 6 (1983), 775-779 <<

[267] Para una revisión de la investigación sobre vigilancia, incluidos estudios sobre la Segunda Guerra Mundial, véase D. R. Davies y R. Parasuraman, The Psychology of Vigilance (Londres, Academic Press, 1982). <<

[268] Bainbridge, «Ironies of Automation». <<

[269] Véase Magdalen Galley, «Ergonomics—Where Have We Been and Where Are We Going», discurso sin fecha, taylor.it/meg/papers/50%20Years%20of%20Ergonomics.pdf; y Nicolas Marmaras et al., «Ergonomic Design in Ancient Greece», Applied Ergonomics 30, número 4 (1999), 361-368 <<

[270] David Meister, The History of Human Factors and Ergonomics (Mahwah, N. J., Lawrence Erlbaum Associates, 1999), 209, 359 <<

[271] Leo Marx, «Does Improved Technology Mean Progress?», Technology Review, enero de 1987 <<

[272] Donald A. Norman, Things That Make Us Smart: Defending Human Attributes in the Age of the Machine (Nueva York, Perseus, 1993), XI. <<

[273] Norbert Wiener, I Am a Mathematician (Cambridge, Mass., MIT Press, 1956), 305 <<

[274] Nadine Sarter et al., «Automation surprises», en Gavriel Salvendy, ed., Handbook of Human Factors and Ergonomics, 2.ª ed. (Nueva York, Wiley, 1997). <<

[275] Ibíd. <<

[276] John D. Lee, «Human Factors and Ergonomics in Automation Design», en Gavriel Salvendy, ed., Handbook of Human Factors and Ergonomics, 3.ª ed. (Hoboken, N. J., Wiley, 2006), 1571 <<

[277] Para más información sobre automatización centrada en los humanos, véase Charles E. Billings, Aviation Automation: The Search for a Human-Centered Approach (Mahwah, N. J., Lawrence Erlbaum Associates, 1997); y Raja Parasuraman et al., «A Model for Types and Levels of Human Interaction with Automation», IEEE Transactions on Systems, Man, and Cybernetics 30, n.º 3 (2000), 286-297 <<

[278] David B. Kaber et al., «On the Design of Adaptive Automation for Complex Systems», International Journal of Cognitive Ergonomics 5, n.º 1 (2001), 37-57 <<

[279] Mark W. Scerbo, «Adaptive Automation», en Raja Parasuraman y Matthew Rizzo, eds., Neuroergonomics: The Brain at Work (Nueva York, Oxford University Press, 2007), 239-252. Para más referencias sobre el proyecto DARPA, véase Mark St. John et al., «Overview of the DARPA Augmented Cognition Technical Integration Experiment», International Journal of Human-Computer Interaction 17, n.º 2 (2004), 131-149 <<

[280] Lee, «Human Factors and Ergonomics». <<

[281] Entrevista a Raja Parasuraman por el autor, 18 de diciembre de 2011 <<

[282] Lee, «Human Factors and Ergonomics». <<

[283] Entrevista a Ben Tranel por el autor, 13 de junio de 2013 <<

[284] Mark D. Gross y Ellen Yi-Luen Do, «Ambiguous Intentions: A Paper-like Interface for Creative Design», en Proceedings of the ACM Symposium on User Interface Software and Technology (Nueva York, ACM, 1996), 183-192 <<

[285] Julie Dorsey et al., «The Mental Canvas: A Tool for Conceptual Architectural Design and Analysis», en Proceedings of the Pacific Conference on Computer Graphics and Applications (2007), 201-210 <<

[286] William Langewiesche, Fly by Wire: The Geese, the Glide, the Miracle on the Hudson (Nueva York, Farrar, Straus & Giroux, 2009), 102 <<

[287] Lee, «Human Factors and Ergonomics». <<

[288] CBS News, «Faulty Data Misled Pilots in ’09 Air France Crash», 5 de julio de 2012, http://cbsnews.com/8301-505263_162-57466644/faulty-data-misled-pilots-in-09-air-france-crash/. <<

[289] Administración Federal de Aviación, «NextGen Air Traffic Control/Technical Operations Human Factors (Controller Efficiency & Air Ground Integration) Research and Development Plan», 1.ª versión, abril de 2011 <<

[290] Nathaniel Popper, «Bank Gains by Putting Brakes on Traders», New York Times, 26 de junio de 2013 <<

[291] Thomas P. Hughes, «Technological Momentum», en Merritt Roe Smith y Leo Marx, eds., Does Technology Drive History? The Dilemma of Technological Determinism (Cambridge, Mass., MIT Press, 1994), 101-113. [Historia y determinismo tecnológico, Madrid, Alianza, 1996]. <<

[292] Gordon Baxter y John Cartlidge, «Flying by the Seat of Their Pants: What Can High Frequency Trading Learn from Aviation?», en G. Brat et al., eds., ATACCS-2013: Proceedings of the 3rd International Conference on Application and Theory of Automation in Command and Control Systems (Nueva York, ACM, 2013), 64-73 <<

[293] David F. Noble, Forces of Production: A Social History of Industrial Automation (Nueva York, Alfred A. Knopf, 1984), 144-145 <<

[294] Ibíd., 94 <<

[295] Citado en Noble, Forces of Production, 94 <<

[296] Ibíd., 326 <<

[297] Dyson hizo este comentario en el documental de 1981 El día después de Trinidad. Citado en Bill Joy, «Why the Future Doesn’t Need Us», Wired, abril de 2000 <<

[298] Matt Richtel, «A Silicon Valley School That Doesn’t Compute», New York Times, 23 de octubre de 2011 <<

[299] Al sugerir los videojuegos como modelo para programadores, no estoy avalando la práctica (muy en boga en el diseño de software) conocida por el feo nombre de «gamificación», esto es, el uso por parte de una aplicación o página web de un sistema de recompensas como el de los juegos para motivar o manipular a la gente a que repita alguna actividad prescrita. A partir de los experimentos condicionantes del psicólogo B. F. Skinner, la gamificación explota el lado oscuro del estado de flujo. Al intentar mantener los placeres y recompensas del flujo, las personas pueden volverse obsesivas en su uso del software. Las máquinas tragaperras informatizadas, por tomar un ejemplo notorio, están cuidadosamente diseñadas para promover una forma adictiva de flujo en sus jugadores, como describe Natasha Dow Schüll en su escalofriante libro Addiction by Design: Machine Gambling in Vegas (Princeton, Princeton University Press, 2012). Una experiencia que es normalmente «reafirmante, restauradora y enriquecedora», escribe, se convierte para los ludópatas en algo «que les merma, atrapa y está asociado a una pérdida de la autonomía». Incluso cuando se usa para propósitos ostensiblemente benignos, como la dieta, la gamificación ejerce un poder cínico. Lejos de ser un antídoto para el diseño centrado en la tecnología, lleva la práctica hasta el extremo. Persigue automatizar la voluntad humana. <<

[300] Peter Merholz, «“Frictionless” as an Alternative to “Simplicity” in Design», Adaptive Path (blog), 21 de julio de 2010, http://adaptivepath.com/ideas/friction-as-an-alternative-to-simplicity-in-design. <<

[301] David J. Hill, «Exclusive Interview with Ray Kurzweil on Future AI Project at Google», SingularityHUB, 10 de enero de 2013, http://http://singularityhub.com/2013/01/10/exclusive-interview-with-ray-kurzweil-on-future-ai-project-at-google/. <<

[302] Las leyes de la robótica de Asimov —«las tres leyes que están más profundamente insertadas en el cerebro positrónico de un robot»— aparecieron por primera vez en 1942 en su relato corto «Vicious Circle», y pueden ser encontradas en la colección I, Robot (Nueva York, Bantam, 2004), 37. [Yo, robot, Barcelona, Edhasa, 2004]. <<

[303] Gary Marcus, «MoralMachines», NewsDesk (blog), New Yorker, 27 de noviembre de 2012, http://newyorker.com/online/blogs/newsdesk/2012/11/google-driverless-car-morality.html. <<

[304] Charles T. Rubin, «Machine Morality and Human Responsibility», New Atlantis, verano de 2011 <<

[305] Christof Heyns, «Report of the Special Rapporteur on Extrajudicial, Summary or Arbitrary Executions», presentación al Consejo de Derechos Humanos de la Asamblea General de las Naciones Unidas, 9 de abril de 2013, http://http://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-HRC-23-47_en.pdf. <<

[306] Patrick Lin et al., «Autonomous Military Robotics: Risk, Ethics, and Design», versión 1.0.9, preparada para el Departamento Naval de Estados Unidos, Oficina de Investigación Naval, 20 de diciembre de 2008 <<

[307] Ibíd. <<

[308] Thomas K. Adams, «Future Warfare and the Decline of Human Decisionmaking», Parameters, invierno 2001-2002 <<

[309] Heyns, «Report of the Special Rapporteur». <<

[310] Ibíd. <<

[311] Joseph Weizenbaum, Computer Power and Human Reason: From Judgment to Calculation (Nueva York, W. H. Freeman, 1976), 20 <<

[312] Mark Weiser, «The Computer for the 21st Century», Scientific American, septiembre de 1991 <<

[313] Mark Weiser y John Seely Brown, «The Coming Age of Calm Technology», en P. J. Denning y R. M. Metcalfe, eds., Beyond Calculation: The Next Fifty Years of Computing (Nueva York, Springer, 1997), 75-86 <<

[314] Véase Nicholas Carr, M. Weiser et al., «The Origins of Ubiquitous Computing Research at PARC in the Late 1980s», IBM Systems Journal 38, n.º 4 (1999), 693-696. <<

[315] Véase Nicholas Carr, El gran interruptor (Barcelona, Deusto, 2009). <<

[316] Thomas P. Hughes, Networks of Power: Electrification in Western Society, 1880-1930 (Baltimore, Johns Hopkins University Press, 1983), 140 <<

[317] W. Brian Arthur, «The Second Economy», McKinsey Quarterly, octubre de 2011 <<

[318] Ibíd. <<

[319] Bill Gates, Business @ the Speed of Thought: Using a Digital Nervous System (Nueva York, Warner Books, 1999), 37. [Los negocios en la era digital, Barcelona, Plaza & Janés, 1999]. <<

[320] Arthur C. Clarke, Profiles of the Future: An Inquiry into the Limits of the Possible (Nueva York, Harper & Row, 1960), 227. [Perfiles del futuro: investigación sobre los límites de lo posible, Barcelona, Caralt, 1977]. <<

[321] Sergey Brin, «Why Google Glass?», ponencia en TED2013, Long Beach, California, 27 de febrero de 2013, http://youtube.com/watch?v=rie-hPVJ7Sw. <<

[322] Ibíd. <<

[323] Véase Christopher D. Wickens y Amy L. Alexander, «Attentional Tunneling and Task Management in Synthetic Vision Displays», International Journal of Aviation Psychology 19, n.º 2 (2009), 182-199 <<

[324] Richard F. Haines, «A Breakdown in Simultaneous Information Processing», en Gerard Obrecht y Lawrence W. Stark, eds., Presbyopia Research: From Molecular Biology to Visual Adaptation (Nueva York, Plenum Press, 1991), 171-176 <<

[325] Daniel J. Simons y Christopher F. Chambris, «Is Google Glass Dangerous?», New York Times, 26 de mayo de 2013 <<

[326] «Amanda Rosenberg: Google Co-Founder Sergey Brin’s New Girlfriend?», The Guardian, 30 de agosto de 2013, http://theguardian.com/technology/shortcuts/2013/aug/30/amanda-rosenberg-google-sergey-brin-girlfriend. <<

[327] Weiser, «The Computer for the 21st Century». <<

[328] Entrevista con Charlie Rose, Charlie Rose, 24 de abril de 2012, http://charlierose.com/watch/60065884. <<

[329] David Kirkpatrick, The Facebook Effect (Nueva York, Simon & Schuster, 2010), 10. [El efecto Facebook, Barcelona, Gestión 2000, 2011]. <<

[330] Josh Constine, «Google Unites Gmail And G+ Chat into “Hangouts” Cross-Platform Text and Group Video Messaging App», TechCrunch, 15 de mayo de 2013, http://techcrunch.com/2013/05/15/google-hangouts-messaging-app/. <<

[331] Larry Greenemeier, «Chipmaker Races to Save Stephen Hawking’s Speech as His Condition Deteriorates», Scientific American, 18 de enero de 2013, http://http://www.scientificamerican.com/article.cfm?id=intel-helps-hawking-communicate. <<

[332] Nick Bilton, «Disruptions: Next Step for Technology Is Becoming the Background», New York Times, 1 de julio de 2012, http://http://bits.blogs.nytimes.com/2012/07/01/google’s-project-glass-lets-technology-slip-into-the-background/. <<

[333] Bruno Latour, «Morality and Technology: The End of the Means», Theory, Culture and Society 19 (2002), 247-260. El subrayado es de Latour. <<

[334] Bernhard Seefeld, «Meet the New Google Maps: A Map for Every Person and Place», Google Lat Long (blog), 15 de mayo de 2013, http://google-latlong.blogspot.com/2013/05/meet-new-google-maps-map-for-every.html. <<

[335] Evgeny Morozov, «My Map or Yours?», Slate, 28 de mayo de 2013, http://slate.com/articles/technology/future_tense/2013/05/google_maps_personalization_will_hurt_public_space_and_engagement.html. <<

[336] Kirkpatrick, The Facebook effect, 199 <<

[337] Sebastian Thrun, «Google’s Driverless Car», ponencia en TED2011, marzo de 2011, http://ted.com/talks/sebastian_thrun_google_s_driverless_car.html. <<

[338] National Safety Council, “Annual Estimate of Cell Phone Crashes 2012”, libro blanco, 2013 <<

[339] Véase Sigfried Giedion, Mechanization Takes Command (Nueva York, Oxford University Press, 1948), 628-712. [La mecanización toma el mando, Barcelona, Gustavo Gili, 1978]. <<

[340] Langdon Winner, Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought (Cambridge, Mass., MIT Press, 1977), 285. [Tecnología autónoma, Barcelona, Gustavo Gili, 1979]. <<

[341] Citado en Richard Poirier, Robert Frost: The Work of Knowing (Stanford, California, Stanford University Press, 1990), 30. Los detalles de la vida de Frost se dibujan del libro de Poirier; William H. Pritchard, Frost: A Literary Life Reconsidered (Nueva York, Oxford University Press, 1984); y Jay Parini, Robert Frost: A Life (Nueva York, Henry Holt, 1999). <<

[342] Citado en Poirier, Robert Frost, 30 <<

[343] Robert Frost, «Mowing», en A Boy’s Will (Nueva York, Henry Holt, 1915), 36 <<

[344] Robert Frost, «Two Tramps in Mud Time», en A Further Range (Nueva York, Henry Holt, 1936), 16-18 <<

[345] Poirier, Robert Frost, 278 <<

[346] Robert Frost, «Some Science Fiction», en In the Clearing (Nueva York, Holt, Rinehart & Winston, 1962), 89-90 <<

[347] Poirier, Robert Frost, 301 <<

[348] Robert Frost, «Kitty Hawk», en In the Clearing, 41-58 <<

[349] Maurice Merleau-Ponty, Phenomenology of Perception (Londres, Routledge, 2012), 147. [La fenomenología de la percepción, Barcelona, Altaya, 1999]. Mi lectura de Merleau-Ponty apoya el comentario de Hubert L. Dreyfus «The Current Relevance of Merleau-Ponty’s Phenomenology of Embodiment», Electronic Journal of Analytic Philosophy 4 (primavera de 1996), http://ejap.louisiana.edu/ejap/1996.spring/dreyfus.1996.spring.html. <<

[350] Spinoza, Ethics (Londres, Penguin, 1996), 44. [Ética: demostrada según el orden geométrico, Madrid, Alianza, 2014]. <<

[351] John Edward Huth, «Losing Our Way in the World», New York Times, 21 de julio de 2013. Véase también el esclarecedor libro de Huth The Lost Art of Finding Our Way (Cambridge, Mass., Harvard University Press, 2013). <<

[352] Merleau-Ponty, Phenomenology of Perception, 148 <<

[353] Ibíd., 261 <<

[354] Véase Nicholas Carr, Superficiales. ¿Qué está haciendo Internet con nuestras mentes? (Madrid, Taurus, 2011). <<

[355] Pascal Ravassard et al., «Multisensory Control of Hippocampal Spatiotemporal Selectivity», Science 340, n.º 6138 (2013), 1342-1346 <<

[356] Anónimo, «Living in The Matrix Requires Less Brain Power», Science Now, 2 de mayo de 2013, http://http://news.sciencemag.org/physics/2013/05/living-matrix-requires-less-brain-power. <<

[357] Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics, 5.ª ed. (Nueva York, Institute of General Semantics, 1994), 58 <<

[358] John Dewey, Art as Experience (Nueva York, Perigee Books, 1980), 59. [El arte como experiencia, Barcelona, Paidós, 2008]. <<

[359] Medco, «America’s State of Mind», 2011, http://http://apps.who.int/medicinedocs/documents/s19032en/s19032en.pdf. <<

[360] Erin M. Sullivan et al., «Suicide among Adults Aged 35-64 Years—United States, 1999-2010», Morbidity and Mortality Weekly Report, 3 de mayo de 2013 <<

[361] Alan Schwarz y Sarah Cohen, «A.D.H.D. Seen in 11% of U.S. Children as Diagnoses Rise», New York Times, 1 de abril de 2013 <<

[362] El potencial destructivo de la guadaña cobra incluso mayor resonancia simbólica si se recuerda que la orquídea, una planta tuberosa, debe su nombre a la palabra griega para testículo, orkhis. Frost estaba bien versado en la lengua y literatura clásicas. Seguramente estaba familiarizado también con la imagen popular de la Parca y su guadaña. <<

[363] Véase anónimo, «Fields of Automation», Economist, 10 de diciembre de 2009; e Ian Berry, «Teaching Drones to Farm», Wall Street Journal, 20 de septiembre de 2011 <<

[364] Charles A. Lindbergh, The Spirit of St. Louis (Nueva York, Scribner, 2003), 486. El subrayado es de Lindbergh. <<

[365] J. C. R. Licklider, «Man-Computer Symbiosis», IRE Transactions on Human Factors in Electronics 1 (marzo de 1960), 4-11 <<

[366] Langdon Winner, Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought (Cambridge, Mass., MIT Press, 1977), 20-21. [Tecnología autónoma, Barcelona, Gustavo Gili, 1979]. <<

[367] Aristóteles, The Politics, en Mitchell Cohen y Nicole Fermon, eds., Princeton Readings in Political Thought (Princeton, Princeton University Press, 1996), 110-111 <<

[368] Evgeny Morozov, To Save Everything, Click Here (Nueva York, PublicAffairs, 2013), 323 <<

[369] Kevin Kelly, «Tenemos que dejar que los robots tomen el control», Wired, enero 2013 <<

[370] Kevin Drum, «Welcome, Robot Overloads. Please Don’t Fire Us?», Mother Jones, mayo/junio de 2013 <<

[371] Karl Marx y Frederick Engels, The Communist Manifesto (Nueva York, Verso, 1998), 43. [Manifiesto comunista, Madrid, Alianza, 2013]. <<

[372] Anónimo, «Slaves to the smartphone», The Economist, 10 de marzo de 2012 <<

[373] Kevin Kelly, «What Technology Wants», Cool Tools, 18 de octubre de 2010, http://kk.org/cooltools/archives/4749 <<

[374] George Packer, «No Death, No Taxes», New Yorker, 28 de noviembre 2011 <<

[375] Hannah Arendt, The Human Condition (Chicago, University of Chicago Press, 1998), 4-5. [La condición humana, Barcelona, Paidós, 2010]. <<

[376] Mihaly Csikszentmihalyi, Flow: The Psychology of Optimal Experience (Nueva York, Harper, 1991), 80. [Fluir: una psicología de la felicidad, Barcelona, Kairós, 2014]. <<

[377] Ralph Waldo Emerson, «The American Scholar», en Essays and Lectures (Nueva York, Library of America, 1983), 57 <<