En este estudio se desarrolla una idea que ha tenido durante mucho tiempo en mente Antonio Garrigues y que tiene precedentes en otras parcelas del Derecho «el derecho a no ser engañados», una idea que en los tiempos que nos ha tocado vivir cobra toda su virtualidad en un mundo lleno de incertidumbre, posverdad, y fake news y deepfakes, un mundo de extrema volatilidad al que no se le puede agregar la mentira sistemática porque si así fuera no sería posible vivir armónicamente en una organización social cada vez más compleja y nuestras opciones de supervivencia y éxito como sociedades decaería hasta límites insoportables.

Las fuentes de las que provienen las mentiras modernas están íntimamente conectadas al soporte tecnológico que les da difusión, es decir, las redes electrónicas como Internet. Quizá éstas han democratizado la mentira y la han puesto al alcance de cualquier ciudadano dispuesto a engañar o a dejarse engañar por la nueva red que difunde cantidades ingentes de información falsa, errónea e imprecisa de forma permanente. La política y los políticos twitean y participan activamente en este mercado informativo y de emociones donde el impacto mediático, los efectos más que los argumentos y las razones, las suposiciones y la mentira tienen un caldo de cultivo idóneo para su desarrollo. Nunca la mentira pudo llegar tan lejos y tan velozmente como las redes lo hacen posible.

Pero una sociedad, cualquier sociedad que se base en la mentira para su desarrollo tiene los pies de barro, nada serio y sólido se puede edificar sobre la mentira, sobre la falsedad, salvo el error y la ignorancia que no conduce a esa sociedad más que al fracaso y al sufrimiento quedado relegada a la postración intelectual y a su desaparición en un mundo competitivo donde sólo la verdad genera riqueza y la garantía consistente del progreso y el éxito científico, social y cultural.

Antonio Garrigues Walker & Luis Miguel González de la Garza

El derecho a no ser engañado

Y cómo nos engañan y nos autoengañamos

ePub r1.0

Titivillus 24.06.2021

Título original: El derecho a no ser engañado

Antonio Garrigues Walker & Luis Miguel González de la Garza, 2021

Editor digital: Titivillus

ePub base r2.1

Dedicatoria de Luis M. González,

A Chelo, a Jazz y a Funky quienes son mi familia, mi mundo.

Es más fácil engañar a la gente, que convencerlos

que han sido engañados.

Mark Twain.

Prólogo

Este libro es un proyecto conjunto de uno de los más grandes juristas prácticos que ha tenido nuestro país Antonio Garrigues Walker, un hombre que ha dedicado su vida al Derecho, al ejercicio de una profesión noble destinada a la resolución de conflictos sociales, un hombre que pudiendo haberse dedicado a vivir una cómoda vida, la ha dedicado en cambio a la mejora de los demás, patrocinando, ayudando, impulsando obras colectivas destinadas a la mejora de la sociedad. Y de Luis Miguel González de la Garza, profesor de Derecho Constitucional y Teoría del Estado de la Universidad Nacional de Educación a Distancia y teórico de la sociedad de la información y de sus oportunidades y riesgos para la democracia. En este estudio se desarrolla una idea que ha tenido durante mucho tiempo en mente Antonio Garrigues y que tiene precedentes en otras parcelas del Derecho «el derecho a no ser engañado», una idea que en los tiempos que nos ha tocado vivir cobra toda su virtualidad en un mundo lleno de incertidumbre, posverdad, y fake news y deepfakes, un mundo de extrema volatilidad al que no se le puede agregar la mentira sistemática porque si así fuera no sería posible vivir armónicamente en una organización social cada vez más compleja y nuestras opciones de supervivencia y éxito como sociedades decaería hasta límites insoportables. Las fuentes de las que provienen las mentiras modernas están íntimamente conectadas al soporte tecnológico que les da difusión, es decir, las redes electrónicas como Internet. Quizá éstas han democratizado la mentira y la han puesto al alcance de cualquier ciudadano dispuesto a engañar o a dejarse engañar por la nueva red que difunde cantidades ingentes de información falsa, errónea e imprecisa de forma permanente. La política y los políticos twitean y participan activamente en este mercado informativo y de emociones donde el impacto mediático, los efectos más que los argumentos y las razones, las suposiciones y la mentira tienen un caldo de cultivo idóneo para su desarrollo. Nunca la mentira pudo llegar tan lejos y tan velozmente como las redes lo hacen posible. Pero una sociedad, cualquier sociedad que se base en la mentira para su desarrollo tiene los pies de barro, nada serio y sólido se puede edificar sobre la mentira, sobre la falsedad, salvo el error y la ignorancia que no conduce a esa sociedad más que al fracaso y al sufrimiento quedado relegada a la postración intelectual y a su desaparición en un mundo competitivo donde sólo la verdad genera riqueza y la garantía consistente del progreso y el éxito científico, social y cultural.

Todos los pueblos conviven en diversa medida con la mentira, la clave está en la proporción con la que convive cada pueblo con esta. Cuando los pueblos son más instruidos la mentira tiene un campo de acción mucho más reducido y acotado y sus efectos destructores son menores. La educación es por ello fundamental, pero no cualquier educación, sino una educación que tenga en cuenta las formas propias en las que los seres humanos distorsionamos la realidad en la que vivimos, es decir conociendo nuestra forma de ser a través de la teoría de sesgos cognitivos que nos definen y determinan.

Este libro es un compendio limitado obviamente de formas en las que somos engañados, pero se ha orientado hacia la mentira política, quizá porque es aquella que más destruye a la sociedad y es por ello extremadamente perniciosa por el ejemplo social de la imitación.

Tampoco nos conformamos con describir esa mentira, pensamos que es hora de impulsar la construcción dogmática de un nuevo derecho de carácter universal, «el derecho a no ser engañado». No nos engañamos los autores, precisamente, con que ese derecho es complejo, polémico y delicado, que es un derecho que favorecerá siempre a las víctimas de las mentiras y no a los victimarios, pero estos últimos tienen poder, tienen mucho poder y no será tarea sencilla ni fácil que ese derecho que aquí dejamos sólo apuntado pueda evolucionar, crecer y finalmente y quizá algún día viva en alguna carta de derechos desde la que irradie su contenido protector en un mundo donde la mentira no pueda operar con la infinita libertad con la que actualmente opera generando daños simplemente incalculables en las sociedades que las sufren, muchas veces sin ser plenamente conscientes de ello debido a la normalización de lo anormal.

No se trata de que los políticos o la política sea más o menos ética, se trata de que mediante un derecho no se pueda engañar a las personas; que será difícil de articular, sin duda alguna, que será compleja su enjuiciabilidad, no nos cabe duda, pero ¿qué derecho que no valga la pena para la humanidad y a lo largo de la historia no ha sufrido idénticos o análogos desafíos teóricos y prácticos cuando se planteó por primera vez? Por ello, no debe cundir el desánimo, todo lo contrario, debemos reflexionar para mejorar la idea, para depurarla, para articularla hasta que se haga de ella una realidad exigible.

Esa ha sido nuestra intención que no es poca.

Prefacio

¿POR QUÉ SURGE LA NECESIDAD DE ARTICULAR UN NUEVO DERECHO?

Seguramente porque no existe una fórmula en la que no dando entrada al Derecho se articule mejor la garantía de que las personas no sean tratadas como «cosas u objetos» a las que se las puede engañar, manipular o persuadir mediante estrategias cognitivas desarrolladas para explotar los sesgos que nos caracterizan como seres humanos cuando sea del interés particular de los ciudadanos que forman parte profesional o accidental de lo que denominados la política o cuando sea del interés comercial de organizaciones o empresas multinacionales que trafican con la atención del ciudadano inerme frente a tales engaños, cuando un Estado extranjero intoxica clandestinamente las redes sociales con la finalidad de desestabilizar a una nación en base a sus finalidades geoestratégicas.

Engañar a las personas es usarlas como instrumentos[1], es despreciar su dignidad y menospreciar el respeto que unos nos debemos a otros en el marco de una sociedad civilizada por el derecho que, no lo olvidemos, es lo único que articula de forma precisa las relaciones sociales pacificas en base a un conjunto mayor o menor de valores y principios estructurados en los cuerpos normativos que denominamos «Constituciones» avance del conocimiento social humano, delicado instrumento jurídico y procedimiento para que las democracias modernas puedan existir articulando de forma imperfecta el desacuerdo.

La mentira puede ser estudiada como un costo en las transacciones informativas humanas que las hace dificultosas, intencionalmente confusas o directamente falsas. Creemos de interés clarificar la definición de «costo de transacción» con Oliver Williamson (2009:13-18)[2]. Así, ocurre una transacción cuando se transfiere un bien, servicio o una expresión a través de una interfase tecnológicamente separable. Termina una etapa de la actividad y se inicia otra. Con una interfase que funcione bien, como en el caso de una máquina que funcione bien, estas transferencias ocurren suavemente. En los sistemas mecánicos, buscamos eliminar las fricciones: ¿encajan los engranajes, están lubricadas las piezas, hay fugas innecesarias u otras pérdidas de energía? La contraparte económica y organizativa —añadimos nosotros— es el costo de transacción: ¿operan armoniosamente las partes de la transacción o hay frecuentes malentendidos y conflictos que generan demoras, descomposturas y otras deficiencias del funcionamiento? La mentira puede pues verse como una pieza que no encaja armónicamente con la realidad, una disfunción de la pieza informativa que se diferencia de la verdad precisamente en su falsedad y que por ello genera conductas en las diversas etapas del uso de la información erróneas, equivocadas y en los peores casos, situaciones personales o sociales desastrosas.

El poder siempre ha sentido algo más que la tentación de engañar, en 1966 W. Kraus (1991:34)[3] un relevante filósofo alemán localizó en la Academia de Ciencias de Berlín los textos de 42 contribuciones al concurso convocado con carácter extraordinario en 1778 por dicha institución, bajo los auspicios de Federico II de Prusia, concurso con el título: «¿Es conveniente engañar al pueblo?». El ganador del concurso Castillón, consideraba necesario engañar a un pueblo siempre menor de edad que necesita ser engañado por su propio bien, Becker, fue de análogo parecer con matices importantes y Condorcet mantuvo una opinión por completo distinta, señalando que «la estupidez del pueblo es obra de las instituciones sociales y las supersticiones» a lo que habría que añadir, como advirtiera Holbach (2016:232)[4], que la mayor parte del género humano, al poder vivir sólo mediante un jornal, se pudre en una ignorancia invencible: no tiene tiempo ni de pensar ni de reflexionar. Como su espíritu no está habituado al razonamiento y su buen juicio no se ha ejercitado, le es imposible examinar, según las reglas de una sana crítica, las cosas sobre las cuales quiere ilustrarse ni seguir una cadena de razonamientos por los cuales se le podría desengañar de sus errores. Quizá añadiendo el matiz de que hoy una buena parte de los países desarrollados si disponen del ocio necesario para ejercitarse en la comprensión de los temas y de reflexionar sobre ellos, si bien y cuando esto ha sido así, los medios de comunicación de masas, singularmente la televisión se ha dedicado a ofrecer programas destinados a rebajar el nivel cultural de los televidentes explotando las tendencias humanas más vulgares que es lo que se ha denominado como «telebasura» y que no es en el fondo si no una forma de prostitución programada e intencional de la información o desinformación dirigida al embrutecimiento colectivo a través de saciar los más bajos instintos y pasiones de la población. La generación primero y explotación después del conflicto vulgar e improductivo, es decir, el que distrae tendenciosamente de los problemas reales de fondo que sufren las personas y que mediante los debates estériles y circulares generan cierto desahogo en las víctimas del siniestro plan de la mentira política; el estímulo del chismorreo, la infantilización sistemática y consciente de los públicos en suma con lo que el efecto resultante es parecido al señalado por Holbach para la ausencia de tiempo y fuerza de cognición por vidas extenuadas por el trabajo. Hoy, como antaño, Revel (1990:21)[5] el enemigo del hombre está dentro de él. Pero ya no es el mismo, antaño era la ignorancia, hoy es la mentira.

Se ha estudiado recientemente el efecto que tiene sobre la evolución intelectual de la juventud a la madurez la exposición a medios de comunicación dirigidos a lograr que la ciudadanía no piense o piense en cuestiones meramente lúdicas e intrascendentes mediante las que su nivel de inteligencia disminuya, se ha observado también que esas personas sometidas a esos medios por propia voluntad —la Ley del mínimo esfuerzo intelectual, una propiedad natural de nuestro cerebro— han sido con más facilitad víctimas del surgimiento del populismo, es decir, que el embrutecimiento general de la sociedad facilita la aparición de los populismos y esto es un efecto concluyente de la correctamente denominada telebasura. Durante y colaboradores (2019:2527)[6] estudiaron el impacto político de la televisión comercial en Italia aprovechando la introducción escalonada de la red de televisión privada de Berlusconi, Mediaset, a principios de la década de 1980. Descubrieron que las personas con acceso temprano al contenido de entretenimiento de Mediaset tenían más probabilidades de votar por el partido de Berlusconi en 1994, cuando se postuló por primera vez para el cargo. El efecto persiste durante cinco elecciones y está impulsado por un gran número de televidentes, a saber, los muy jóvenes y los ancianos. Con respecto a los posibles mecanismos por los que esto sucede, se evidenció que las personas expuestas a la televisión de entretenimiento cuando eran niños eran menos sofisticadas cognitivamente y tenían una mentalidad cívica menor cuando eran adultos y, en última instancia, se constituían como personas más vulnerables a la retórica populista de Berlusconi.

Si bien el estudio se ha realizado en Italia, como señalan los autores los resultados podrían ser perfectamente trasladables a otros países, singularmente a España añadimos nosotros donde el impacto de las televisiones privadas ha sido seguramente muy superior a los efectos analizados en Italia, ya que en España aconteció, sin embargo, que el proceso de la transición democrática, 1975-1978 se produjo en paralelo a lo que en Europa fue una moda cultural transitoria de escasos efectos sociales originada inicialmente en la arquitectura que posteriormente se trasladó a la crítica literaria y a algunos filósofos y que allí no tuvo excesiva transcendencia: la posmodernidad que llevaba aparejado en su seno el relativismo moral y el escepticismo cultural, sin embargo, en España esa moda se transformó en ideología una ideología que desde la cultura ha tenido muchas peores consecuencias que en Italia y que lo ha abarcado prácticamente todo con efectos erosivos catastróficos en la consolidación de categorías morales, éticas y hasta estéticas tanto en los medios de comunicación como en la sociedad y en la educación a través de la pedagogía.

En el ámbito de las instituciones políticas podemos recordar aquella observación de J. Bentham (1990:13)[7] de que: «el interés universal —vale igualmente el interés general añadimos nosotros— no importa cuánto se hable de él, nunca es tan importante como se piensa; y lo justo y lo injusto son objeto de completa y reconocida indiferencia» por la clase política que emplea un conjunto de falacias o mentiras clásicas en casi todas las latitudes, desde las trece tipologías de Aristóteles como recuerda Hamblin (2016:15)[8]. En realidad, tras la sistematización de Bentham no se han creado muchas más con las que el poder engaña cómoda y sistemáticamente a los pueblos, a los electores a los ciudadanos, quizá lo que ha cambiado son los escenarios en los que la mentira se emplea, como precisara Orwell (2017:135)[9]. En nuestro tiempo, recordaba el autor, el discurso oral y el discurso escrito de la política, son en gran medida, la defensa de lo indefendible. Hechos como la prolongación del dominio colonial británico en la India, las purgas y deportaciones en la Rusia o el lanzamiento de las bombas atómicas en Japón pueden, sin duda, defenderse, pero sólo mediante argumentos que son demasiado brutales para la mayoría de los seres humanos, y que tampoco casan con los objetivos expresos de los partidos políticos. Por eso el lenguaje de la política ha de consistir, sobre todo, en eufemismos, en interrogantes, en mera vaguedad neblinosa. Se bombardean aldeas indefensas desde el aire, sus habitantes son expulsados al campo, se ametralla al ganado y se pega fuego a las chozas con balas incendiarias: a esto se le llama «pacificación». Se despoja a millones de campesinos de sus parcelas cultivadas y se les envía a pie por la carretera, provistos tan sólo de lo que puedan llevar encima: a esto se le llama «desplazamiento de habitantes» o «rectificación de fronteras». Se encarcela a las personas durante años, sin juicio previo, o se les pega un tiro en la nuca, o se las manda a morir de escorbuto en los campos de trabajos forzados del ártico: a esto se llama «eliminación de elementos en los que no se puede confiar».

Ha pasado algún tiempo desde que Orwell escribiera lo que hemos leído, pero nada ha cambiado sustancialmente; en los EE. UU., su presidente Donald Trump, mintió sobre el alcance y peligro real de la pandemia del SARS-Cov-2, sabía que era mortal y sin embargo engañó de forma consciente y deliberada a su pueblo como nos recuerda Holden Thorp (2020:1409)[10] editor en jefe de la prestigiosa revista científica Science. En una entrevista con Woodward el 7 de febrero de 2020, Trump dijo que sabía que el COVID-19 era más letal que la gripe y que se propagaba por el aire. «Esto es algo mortal», dijo. Pero el 9 de marzo, tuiteo que la «gripe común» era peor que la COVID-19 mientras que el asesor económico Larry Kudlow y la consejera presidencial Kellyanne Conway aseguraron al público que el virus estaba contenido. El 19 de marzo, Trump le dijo a Woodward que no quería hablar con el pueblo estadounidense sobre el peligro del virus. «Siempre quería minimizarlo», dijo, «todavía me gusta minimizarlo». Restarle importancia significaba mentir sobre el hecho de que sabía que el país estaba en grave peligro. También significó silenciar a los funcionarios de salud que intentaron decir la verdad. El 25 de febrero, Nancy Messonnier, directora del Centro Nacional de Inmunización y Enfermedades Respiratorias (de los Centros para el Control y la Prevención de Enfermedades), dijo: «No es tanto una cuestión de si esto volverá a suceder, sino más bien una cuestión de exactamente cuándo sucederá esto y cuántas personas en este país tendrán una enfermedad grave». Ella tenía razón y Trump lo sabía. Pero él la bloqueo. También trató de controlar los mensajes de Anthony Fauci, el líder más importante del país en enfermedades infecciosas. Los partidarios de Trump insistieron en que Fauci y Messonnier no estaban amordazados, pero ahora tenemos pruebas claras en los correos electrónicos de que sí lo estuvieron. Trump también sabía que el virus podría ser mortal para los jóvenes, también mintió. Este ejemplo, es lo que podríamos denominar el ejemplo canónico de la mentira en la política, esta mentira ha tenido efectos en la economía del país, pero sobre todo en las vidas humanas que un hombre desaprensivo y seguramente criminal ha ocasionado a su pueblo. Trump con conocimiento de causa o sin él hizo uso probablemente de la estratagema 35 de la dialéctica erística de Schopenhauer (2011:79)[11] recordamos que la dialéctica erística es el arte de discutir, pero discutir de tal manera que se tenga razón siempre tanto lícita como ilícitamente, es decir, engañando.

Qué está detrás de esa sensación de impunidad y aplomo en el engaño, Arendt (2017:127) señalaba a propósito de los papeles del pentágono, que estaba fuera de toda duda la presencia de lo que Ellsberg había denominado, proceso de «autoengaño interno» pero es como si se hubiera invertido dicho proceso, como si no se hubiera llegado al autoengaño a través del engaño. Los embusteros empezaron engañándose a sí mismos. Probablemente debido a su posición elevada y a la sorprendente confianza en sí mismos, estaban tan convencidos de la magnitud del éxito, no en el campo de batalla, sino en el terreno de las relaciones públicas, y tan seguros de sus premisas psicológicas acerca de las ilimitadas posibilidades de manipulación de las personas, que se anticiparon a la creencia generalizada y en la victoria por la batalla por el control de la mente de las personas. Y como, en cualquier caso, vivían en un mundo ajeno a los hechos, les resultó fácil ignorar que su audiencia no se dejaba convencer. En el terreno de la política, donde el secreto y el engaño deliberado siempre han desempeñado un papel significativo, el autoengaño constituye el peligro por antonomasia; el embustero autoengañado pierde todo contacto, no sólo con su audiencia, sino también con el mundo real, pero este acabará por atraparlo, pues el embustero puede apartar de dicho mundo su mente, pero no su cuerpo.

¿Por qué se enraizó el autoengaño en la mente humana? Se pregunta David Livingston (2011:21)[12] y concluye que la propensión al autoengaño posiblemente se volvió parte de nuestra naturaleza debido a que era muy útil en nuestro trato con los demás. Mentirse no sólo aligera muchas de las tensiones de la vida sino, algo más importante, también ayuda a mentirle a los demás. Una de las reflexiones más importantes de la sociobiología moderna es que el autoengaño es el punto de partida del engaño: al ocultarnos la verdad a nosotros mismos, somos capaces de ocultarla de una manera más eficaz a los demás. Por lo tanto, al igual que el engaño, el autoengaño se ubica en el centro de la humanidad. Para ocultarnos la verdad a nosotros mismos, tuvimos que desarrollar una mente inconsciente. Mentir nos obliga, por su misma naturaleza, a borrar sus rastros porque para decir mentiras con efectividad debemos mentir acerca de la mentira. Más adelante volveremos sobre el autoengaño.

Furnham (2015:49)[13] psicólogo de la personalidad, describe caracteres cuestionables que han triunfado en el mundo de la política y la economía. Señala que las personas maquiavélicas, gracias a su tendencia a utilizar estrategias oportunistas e hipócritas, se encuentran bien equipadas, sobre todo, para desarrollar una carrera política. Los psicopáticos poseen la capacidad de permanecer impasibles bajo presión y en situaciones de competencia; también se caracterizan por tomar decisiones resolutivas y alejadas de sentimientos en momentos de urgencia. A los narcisistas los beneficia su avezada presencia, así como su autoimagen de líder. Si el carácter oscuro va acompañado de atractivo e inteligencia, el éxito está asegurado, apunta Furnham.

Peter Jonason, de la Universidad Occidental de Australia y uno de los investigadores más diligentes de la tríada oscura de la personalidad junto con Paulhus, constató en 2015 que no existe nada que motive más a estas personalidades que el poder. Sin embargo, mientras que maquiavélicos y narcisistas aspiran sobre todo al éxito, los psicopáticos buscan más la diversión (hedonismo) y la excitación (estimulación). Aquí sostenemos la tesis de que en el vértice de cualquier partido político la concentración de este tipo de personalidades es lo habitual, quizá por esa razón es tan extraordinariamente difícil armonizar la conducta de los dirigentes con la sociedad y con otros líderes políticos que muestran análoga naturaleza humana. Como dijo Rubin (1981:64)[14] destacado psicoanalista y escritor: «El narcisista se convierte él mismo en su propio mundo y a su vez cree que el mundo entero es él». Quizá en el futuro sea una exigencia que estas personas sean evaluadas psicológicamente, si para muchas actividades laborales de responsabilidad se exige una evaluación de personalidad precisa y amplia, parecería razonable que para dirigir la vida de una comunidad política también se exigiese conocer qué clase de personalidad posee quien pretende dirigirla y presentarse a la sociedad como una persona psicológicamente equilibrada, las democracias tienen todavía mucho campo en el que avanzar en la selección de sus representantes.

Como escribiera Gordon (2018:66)[15] la única seguridad que podemos tener de que los hombres sean honestos es hacer que les interese comportarse así. Y la mejor defensa que tenemos contra la posibilidad de que sean bribones es hacer que sea terrible para ellos conducirse de esta forma. Así como existen muchos hombres malvados en algunas posiciones que serían sin embargo inocentes en otra situación, el mejor modo de retirar a la maldad cualquier garantía es hacerla insegura siempre.

El argumento de Gordón puede rastrearse hasta Platón, como precisa Haidt (2019:117)[16] para el autor, Platón estaba equivocado, la razón no es adecuada para gobernar; si no que fue evolutivamente diseñada para buscar justificaciones, no la verdad. Glaucón —a juicio de Haidt— tenía por ello razón; las personas se preocupan mucho más por la apariencia y por la reputación que por la realidad. Glaucón fue quien percibió correctamente que para diseñar una sociedad ética es preciso asegurarse de que la reputación de todos esté bajo observación todo el tiempo, para que el mal comportamiento siempre acarree malas consecuencias.

Podemos añadir que desde nuestra perspectiva moral moderna Platón (1988:198)[17] no sólo estaba equivocado en lo señalado por Haidt, también lo estaba en conceder un derecho a la mentira y al engaño a los gobernantes, circunstancia ésta que seguramente ha tenido un impacto y una trascendencia enorme en las bases filosóficas del pensamiento del poder político a lo largo de la historia, y que se aprecia vívidamente en la clásica polémica Kant vs Constant, (2012:69)[18] sobre la existencia de un deber incondicionado de decir la verdad. Sin perjuicio de que, como advirtiera Wolin (2012:76)[19] también es posible interpretar el instrumento de la «ficción real» o la mentira como un intento de Platón de limitar el uso de la violencia recurriendo a un engaño.

En una línea que podríamos denominar Glauconiana parece que se pronunció Nietzsche (2012:23)[20] para quien el intelecto, como medio de conservación del individuo, desarrolla sus fuerzas principales fingiendo, puesto que éste es el recurso merced al cual sobreviven los individuos débiles y poco robustos, aquellos a quienes les ha sido negado servirse, en la lucha por la existencia, de cuernos o afilada dentadura del animal de rapiña. En los hombres alcanza su punto culminante este arte de fingir; aquí el engaño, la adulación, la mentira y el fraude, la murmuración, la farsa, el vivir del brillo ajeno, el enmascaramiento, el convencionalismo encubridor, la escenificación ante los demás y ante uno mismo, en una palabra, el revoloteo incesante alrededor de la llama de la vanidad es hasta tal punto regla y ley, que apenas hay nada tan inconcebible como el hecho de que haya podido surgir entre los hombres una inclinación sincera y pura hacia la verdad. Se encuentran profundamente sumergidos en ilusiones y ensueños; su mirada se limita a deslizarse sobre la superficie de las cosas y percibe «formas», su sensación no conduce en ningún caso a la verdad, sino que se contenta con recibir estímulos, como si jugase a tantear el dorso de las cosas […] los hombres no huyen tanto de ser engañados como de ser perjudicados mediante el engaño; en este estadio tampoco detestan el embuste, sino las consecuencias perniciosas, hostiles, de ciertas clases de embustes. El hombre nada más que desea la verdad en un sentido análogamente limitado: ansía las consecuencias agradables de la verdad, aquellas que mantienen la vida; es indiferente al conocimiento puro y sin consecuencias e incluso hostil frente a las verdades susceptibles de efectos perjudiciales o destructivos. En cierto sentido las reflexiones Nitzcheanas pueden parecer deprimentes, pero revelan una concepción filosófica del ser humano que vale la pena tener muy en cuenta. Entre nosotros la idea vuelve a presentarse en Unamuno (2015:32)[21]. Más adelante volveremos sobre las bases psicológicas de la mentira y comprobaremos la íntima conexión con lo señalado aquí.

Mackie (2001:122)[22] precisa que el engaño se parece a la violencia, ambos pueden coaccionar a la gente para que actúe contra su libertad. Pero el engaño controla de modo más sutil, porque obra sobre la creencia, además de sobre la acción. En efecto, la mentira y el engaño tienen simultáneamente ambos efectos, a nosotros nos interesa la mentira en el ámbito de la política y de ésta en el entorno de la sociedad de la información de las modernas democracias deliberativas, singularmente en lo que respecta a la coacción para actuar contra la libertad del individuo. La mentira es también análoga a un tóxico mental en función de quien la propague, a un virus informático que trastoca el normal funcionamiento de un equilibrio complejo como es intentar razonar en libertad, para lo que la verdad es esencial, pero es fácilmente escamoteable al ojo poco experto que sólo tiene, en infinidad de situaciones, a la confianza en los representantes públicos como única guía para adjudicar valor a una información. La confianza dijo Franklin Roosevelt, se nutre de la honestidad, el honor, el carácter sagrado de las obligaciones, la protección fiel y el desempeño desinteresado, pero cuando eso falla el ciudadano no experto queda desamparado en las desaprensivas manos de quien carece de esas virtudes exigibles de los representantes públicos. Todo el espacio que pierde la verdad contra la falsedad es una limitación o restricción de la libertad de pensamiento y de acción, que tiene consecuencias siempre negativas para los más desfavorecidos, es decir, para la mayoría.

En el ámbito de la política que los miembros del Gobierno o de la oposición «mientan» tiene sólo o prioritariamente, en el mejor de los casos, una sanción de naturaleza política lo que es equivalente a decir: moral. Si se miente, si se engaña, la responsabilidad por esas mentiras o engaños deberá dilucidarse en los próximos comicios por parte de los electores que, como jueces morales podrán votar o no al mentiroso o votar a otra alternativa política de la que se cree que es el mejor castigo a quien ha engañado a lo largo del periodo de legislatura, por eso se suele decir que el voto no es a favor de un partido sino contra un partido. Este mecanismo es evidente que ha sido superado con creces por las circunstancias y, en todo caso, es una estrategia sumamente pobre y deficiente quizá hasta deprimente en lo que pretendemos denominar «democracias avanzadas» de las que se esperaría, al menos en hipótesis unos mecanismos notablemente más eficientes y elaborados para detectar y castigar la mentira política de forma que no se difiera la respuesta de la sociedad a la misma, es decir, que no quede impune. Impunidad que como señala correctamente Bungue (2009:148)[23] es una forma de corrupción del sistema democrático.

Disponemos en nuestros sistemas electorales del voto positivo o de la abstención hacia los partidos políticos, pero deberíamos de disponer del voto negativo, es decir, un voto de castigo directo hacia el partido político para el que se considera adecuado asignárselo en los comicios como consecuencia de sus tropelías en el ámbito de la mentira. El voto negativo es un voto que resta un voto al partido que se ha hecho acreedor de este a juicio y por parte del elector. No se trata de que el voto que se emitió en la anterior legislatura se trasvase al partido que teóricamente se encuentra en las antípodas ideológicas de al que se votó en el pasado como expresión de castigo o de abstenerse, esas opciones no tienen una expresión directa sobre la responsabilidad del partido que ha ocasionado un descontento y daños sobre el elector. El elector debería tener el derecho de restar con su voto negativo, votos positivos. De esa forma queda inequívocamente clara la voluntad política de los perjudicados por una acción política desafortunada y desastrosa. Las opciones que la imaginación jurídica pueden proyectar sobre el campo de la responsabilidad política son amplias, acontece sin embargo que el vigilante no desea ser vigilado y una y otra vez impedirá sistemáticamente y con los argumentos más peregrinos que las mejores ideas triunfen en un mundo hecho a medida suya y que sólo el controla.

Pese a lo anterior, la sanción política de la burda mentira, en el sistema representativo, la sanción del engaño grosero no puede reposar en esa ficción de responsabilidad política que, sencillamente no lo es, es decir no es responsabilidad más que en un sentido lato y primitivo de la expresión y que en realidad no es otra cosa que irresponsabilidad diferida y por lo tanto «diluida» en el tiempo. Todo aquello que se aparte de la responsabilidad jurídica —y esto no significa que ésta acepte las modulaciones que se entiendan pertinentes en su diseño normativo como acabamos de señalar— es una fórmula ineficiente o deficiente que no logra someter la narrativa política a un control de veracidad esencial para que los ciudadanos puedan someter a control al poder político ya que los representantes políticos son los detentadores temporales del poder y si se carece de un control sobre la mentira y el engaño por parte de los representados, los ciudadanos se encuentran inermes frente a estos, quizá esa es una pieza esencial de la corrupción histórica, la irresponsabilidad jurídica frente a la mentira que se desarrolla en el marco de la política, es decir en la esfera del poder.

Esto es más importante si cabe en una sociedad de la información en la que el espacio público se ha fragmentado merced a las tecnologías de la sociedad de información y a que estas han permitido o han hecho posible que el diseño de los espacios sociales de opinión se hayan redefinido de forma drástica abandonado los modelos informativos de mediación profesional en los que los poseedores de los escasos medios de información se veían constreñidos por normas éticas y profesionales que, sin abandonar las ideologías de los editores y su filtrado editorial, exigían un sometimiento de la información a reglas deontológicas que en las redes sociales han mutado de forma radical y con ellas los límites de lo que se puede o no hacer con una tecnología en sus múltiples dimensiones de expresión y articulación de la opinión pública política autónoma.

¿PALABRAS QUE DAÑAN, PALABRAS QUE MATAN?

¿Es la violencia física la única forma de violencia rechazable? O existen formas de violencia verbal y escrita que, por sus efectos, son aún más rechazables como lo puede ser la mentira que hemos visto más arriba y que veremos más adelante. Esta es la pregunta esencial que debemos formular en este epígrafe. La guerra de Irak se construyó sobre una mentira, la existencia de armas de destrucción masiva por parte del ejército iraquí, ello dio origen a una guerra de enormes consecuencias geopolíticas, muertes y destrucción, un conflicto que comenzó el 20 de marzo de 2003 y finalizó el 18 de diciembre de 2011 y que terminó con unos 4800 soldados norteamericanos muertos y unos 300.000 muertos entre milicianos, ejército iraquí y víctimas civiles. Una mentira desencadenó efectos monstruosos y perdurables. Creemos que la respuesta es no a la primera pregunta y sí a la segunda. Existe una creencia generalizada orientada a prohibir radicalmente la violencia física, al menos la que se ejercita individualmente, admitiéndose, en cambio, la violencia verbal que es la mentira en muchos casos y contextos como una manifestación de la libertad de expresión tanto como derecho humano, art. 19[24] de la Declaración Universal de los Derechos Humanos de 10 diciembre de 1948, como Derecho recogido en el Convenio Europeo de Derechos Humanos de 26 de septiembre de 1979, artículo 10, en la Carta de los Derechos Fundamentales de la Unión Europea de 14 de diciembre de 2007, artículo 11[25] o, finalmente, como derecho fundamental en la mayor parte de los ordenamientos constitucionales modernos, como el español en su art. 20.1. a)[26]. A nosotros nos interesa esa libertad de expresión solamente en el marco del contexto político. Hay que precisar inicialmente que este derecho, de entre los instrumentos normativos enumerados, recibe, a nuestro juicio la más adecuada regulación en el artículo 10 del Convenio Europeo de Derechos Humanos de 26 de septiembre de 1979. No debemos olvidar, por otra parte, que cuando se examina la Declaración Universal de los Derechos Humanos hay que tener a la vista —siempre— las salvaguardas que los Estados han asumido frente a estos en lo que respecta a su reconocimiento si lo que deseamos realmente es comprobar la operatividad y buena fe —en el sentido amplio de Comte-Sponville (2005:143)—[27] de estos desde el punto de vista del derecho positivo de cada Estado. Veamos su contenido:

Art. 10.1. Toda persona tiene derecho a la libertad de expresión. Este derecho comprende la libertad de opinión y la libertad de recibir o de comunicar informaciones o ideas, sin que pueda existir injerencias de autoridades públicas y sin consideración de fronteras. El presente artículo no impide que los Estados sometan a las empresas de radiodifusión, de cinematografía o de televisión a un régimen de autorización previa. 2. El ejercicio de estas libertades, que entrañen deberes y responsabilidades, podrá ser sometido a ciertas formalidades, condiciones, restricciones o sanciones previstas por la ley, que constituyan medidas necesarias, en una sociedad democrática, para la seguridad nacional, la integridad territorial o la seguridad pública, la defensa del orden y la prevención del delito, la protección de la salud o de la moral, la protección de la reputación o de los derechos ajenos, para impedir la divulgación de informaciones confidenciales o para garantizar la autoridad y la imparcialidad del poder judicial.

Como podemos comprobar el reconocimiento del derecho no se efectúa como en las otras declaraciones consideradas libre de ningún tipo de restricciones, lo que es plenamente congruente con una comprensión de los derechos no absoluta sino relativa en el marco de una interpretación unitaria, sistemática y ponderada entre derechos en función de las circunstancias del caso objeto de evaluación. En efecto, dispone el número 1.º El ejercicio de estas libertades, que entrañen deberes y responsabilidades, podrá ser sometido a ciertas formalidades, condiciones, restricciones o sanciones previstas por la ley, que constituyan medidas necesarias, en una sociedad democrática, para… la integridad territorial […] la defensa del orden y la prevención del delito.

Estas limitaciones parecen apropiadas y completamente necesarias para proteger en el contexto que aquí consideramos principios y valores constitucionales en el caso de España.

POPULISMO, RETÓRICA Y MENTIRA

Si pudiéramos caracterizar el populismo en tres ideas esquemáticas podrían ser: Falsificar el pasado, desvirtuar el presente, moldear el futuro al deseo del demagogo populista que deforma la verdad mediante la mentira hasta desintegrarla y ofrecer una falsificación de la verdad con los restos del naufragio por él organizado que es la propia mentira.

Remontándonos a Parménides (1975:44), ya señaló que: «El ente es la verdad y la verdad es el ente»[28]. Ahí está resumido todo Parménides. Basta el verso 1,29 para expresar radicalmente la condición entitativa de la verdad. Claro es que ello supone eliminar todo concepto de verdad como «correlato» entre dos planos, real e ideal paralelos, y eso se hace con palabras.

«La palabra es un gran soberano que con un cuerpo pequeñísimo y totalmente invisible realiza acciones divinas».

Dado que tener acceso al Gorgias puede no ser sencillo lo vemos seguidamente:

En este fragmento atribuido al célebre sofista griego Gorgias, defiende a Helena, quien se fue a Troya con Paris o por disposición de los dioses o arrebatada por la violencia, o persuadida por razones diversa o cautivada quizás por amor.

En los cuatro casos debe ser considerada inocente e infortunada, nunca culpable. El texto que podemos leer muestra cómo la fuerza de la palabra es tal que cuando se emplea con persuasión puede mover a la acción al margen de la voluntad. Gorgias, en cualquier caso, defiende una tesis contraria a la convencionalmente aceptada. Este ejercicio no es sino un juego para él, capaz de convencer a cualquiera de cualquier cosa, usando la palabra como una poderosa herramienta de convicción. Este es el denominado arte de la «Retórica»[29], sobre el que Aristóteles escribió el más conocido libro sobre la misma, del mismo título.

ELOGIO A ELENA

«Si fue la palabra lo que la convenció y engañó a su alma, tampoco en esto es difícil defenderse y disipar la culpa, de la siguiente manera: La palabra es un gran soberano que con un cuerpo pequeñísimo y totalmente invisible realiza acciones divinas. Puede, en efecto, hacer cesar el miedo, eliminar el dolor, provocar la alegría, inspirar la compasión. Cómo sucede voy a explicarlo. Es preciso que lo explique para la opinión de los oyentes. Considero, así como lo digo, que cualquier clase de poesía es un discurso con medida; a quien la escucha penetra un escalofrío lleno de terror, una compasión que arranca las lágrimas, una codicia derretida de nostalgia; por efecto de la palabra el alma sufre un sufrimiento peculiar en relación a la suerte y al fracaso de hechos y personas ajenas. Ea, pues, volvamos al discurso que llevamos. Los hechizos inspirados por medio de las palabras se convierten en creadores de placer, eliminadores de tristeza. Pues, mezclada con la opinión, la fuerza del encantamiento del alma la hechiza, persuade y transporta por su seducción. Dos artes de seducción y de hechicería se inventaron: son los errores del alma y los engaños de la opinión. Cuántos han persuadido a cuántos sobre cuánto, y siguen persuadiendo forjando un discurso mentiroso. Pues si todo el mundo poseyese de todas las cosas el recuerdo de las pasadas, (la conciencia) de las presentes, la previsión de las futuras, el mismo discurso no sería como es: para nadie hay ahora la posibilidad de recordar el pasado ni de examinar el presente ni de adivinar el futuro. De manera que, sobre muchas cuestiones, la mayor parte de la gente entrega su alma a la opinión como consejera. La opinión, por ser vacilante e insegura, proyecta en quien se sirve de ella unas situaciones vacilantes e inseguras.

¿Qué motivo impide, pues, creer que Helena fue impelida por las palabras, pero no por la propia voluntad, como si fuese arrebatada por la violencia? Así se puede ver la fuerza de la persuasión: no tiene forma de inexorabilidad, pero tiene su potencia. La palabra, pues, que ha persuadido a un alma coacciona, al alma que ha persuadido a cumplir los dictados y a consentir en los hechos. Aquel, pues, que persuadió es el culpable, puesto que actuó forzando; quien obedeció es injustamente difamada puesto que se vio forzado por la palabra. Y puesto que la persuasión, cuando se añade a la palabra, moldea el alma como quiere, es preciso aprender, en primer lugar, los discursos de los meteorólogos, los cuales eliminando una opinión, construyendo otra, hicieron aparecer a los ojos de la opinión cosas increíbles y oscuras; en segundo lugar, los inevitables debates oratorios en los que un solo discurso, aunque no pronunciado según verdad, pero redactado con arte, deleita y convence a una gran multitud; en tercer lugar, las contiendas de los discursos filosóficos: en ellas se pone de manifiesto con qué rapidez el pensamiento hace cambiar las creencias de la opinión. Hay una analogía entre el poder del discurso respecto de la disposición de la mente y el poder de las medicinas en la regulación de los cuerpos. Algunas medicinas eliminan de los cuerpos ciertos humores y otras otros, y unas pueden hacer cesar el dolor, pero otras cesan la vida, así mismo, unos discursos pueden provocar pena, otros deleites, otros terror, otros disponen a los oyentes a la valentía, y otros, a través de una cierta persuasión nefasta, pueden drogar y seducir el entendimiento.

Así pues, ha sido demostrado que, si se la persuadió con la palabra, Helena no es culpable, sino infortunada. (…) ¿Cómo, pues, se puede tener por justo el vituperio de Helena, la cual, tanto si hizo lo que hizo plenamente enamorada o persuadida por un discurso o raptada por la violencia, o bien forzada por una fuerza divina, ha de ser absuelta totalmente de la culpa ineluctable?

Eliminé con este discurso el deshonor de una mujer, me mantuve en la norma que había establecido al iniciar el discurso. Intenté abolir la injusticia del vituperio y la nescencia de la opinión. Quise escribir este discurso como un elogio de Helena, como un juego para mí».

Gorgias, Elogio de Elena.

La inspiración de un Sofista había conducido a Elena a una forma de «encantamiento» mediante la palabra. El encantamiento sería así una forma de violencia contra cualquiera, como si se tratara de una forma de hipnosis, siendo así una forma de violencia y de dominio quizás más potente que la violencia física, al menos en algunos casos, al menos en algunas personas. Un buen orador puede ser tan terrible como un tirano o más. El discurso de un político puede ser funesto, porque puede engañar completamente al público, se ve en el discurso del nacionalismo extremo, capaz de generar odio y crear de la nada falsedades que justifiquen discursos completamente falaces y que se dirigen a exaltar las emociones más destructivas. La palabra es, en muchas ocasiones, tan terrible o más que la violencia física, porque y esto nunca se debe olvidar: «la violencia física sirve para unos pocos, pero la palabra sirve para todos». Un individuo que esté inerme ante los sofismas de un retórico, es decir generalmente ante un político desaprensivo y carente de escrúpulos pensemos en Donald Trump como paradigma de la modernidad, está completamente sometido a la violencia que éste puede ejercer mediante la palabra, sin darse cuenta el sujeto receptor y creyendo que, además, tiene juicio cuando en un discurso sólo puede rechazarlo marchándose del lugar en el que éste está siendo pronunciando o cambiando de canal de televisión o de emisora de radio si la difusión se desarrolla a través de los medios de comunicación de masas, o de una página web si se encuentra en una red social.

Abraham Lincoln no carecía de razón cuando afirmaba que: «Puedes engañar a todo el mundo algún tiempo. Puedes engañar a algunos todo el tiempo. Pero no puedes engañar a todo el mundo todo el tiempo» Lincoln no conocía las redes sociales y por lo tanto no podía saber el tiempo, el lapso temporal en el que engaño puede ejercer su dominio y sobre cuantas personas se pueden difundir las mentiras, quizá el problema hoy es el tiempo durante el cual se puede engañar a todo el mundo algún tiempo, ya que ese tiempo puede ser excesivo para corregir los catastróficos efectos que el engaño puede tener sobre una población crédula y sincronizada en el error por la mentira. Siempre habrá personas que sean conscientes claramente del engaño desde el primer momento, pero serán muy pocas —generalmente una minoría selecta e intelectual que en muchos casos callará por temor— y seguramente carentes del poder mediático de difundir la verdad; en la práctica es como si no existieran más que como fedatarios de un desvarío colectivo frente a pueblos obnubilados por la neblina de la mentira difundida persistentemente durante periodos de tiempo prolongados con los medios adecuados.

Revel (1990:137)[30] lo apunta con claridad si la democracia es el régimen en el cual los ciudadanos deciden las orientaciones generales de la política interior y exterior, escogiendo con su voto entre los diversos programas que los candidatos que ellos designan para gobernarlos, ese régimen no tiene sentido ni puede funcionar en el interés de sus miembros más que si los electores están correctamente informados de los asuntos tanto mundiales como nacionales. Ésta es la razón por la cual la mentira es tan grave en democracia, régimen que sólo es viable en la verdad y lleva a la catástrofe si los ciudadanos deciden según informaciones falsas. En los regímenes totalitarios, los dirigentes y la prensa del Estado engañan a la sociedad, pero los gobiernos no conducen su política según sus propias mentiras. Guardan para sí otros informes. En las democracias, cuando el poder engaña a la opinión, se ve obligado a hacer concordar sus actos con los errores que ha inculcado, puesto que es la opinión quien designa a los dirigentes o los aparta.

Capítulo I

¿Qué son las noticias falsas o Fake News?

Las denominadas «Fake News» o noticias falsas que para el World Economic Forum representa un riesgo muy importante para la humanidad forman parte de las redes de desinformación en la era de la posverdad como advierte Schaarschmidt (2017:48-51)[1]. Los datos señalan que muchas de estas noticias falsas, aparentemente son producidas por asociaciones de base social o de la sociedad civil lo que ha dado origen a la acuñación de la expresión «astroturfing» pero en realidad tras ellas parece encontrarse la actividad de otras organizaciones que las emplean como pantalla de sus actividades políticas[2]. La extensión de la actividad de estas redes de información falsa fue analizada en las elecciones a primarias en los EE. UU de 2016. Albright (2017:22)[3] estudió la estructura de la topología de red y de dónde provenían los hipervínculos de esas noticias falsas, las cuales forman —expresándonos gráficamente— una estructura que envuelve desde redes pequeñas a los grandes centros de generación de información impulsando tales comunicaciones a las redes sociales como Facebook que, debido a sus algoritmos de clasificación de noticias, magnifican lo que proviene de tales redes. El fenómeno de las Fake News se fundamenta en hechos que sucedieron en una circunstancia concreta y que son citados de una forma completamente descontextualizada. En otros casos, los hechos son exagerados o se inventa una narrativa basada en especulaciones que es presentada como un hecho fáctico.

Estos sitios Web han creado un ecosistema de propaganda en tiempo real: incluyen motores de generación de noticias falsas que intentan influir y pueden moldear instantáneamente la opinión pública a través de la «reacción» masiva a temas políticos serios y eventos noticiosos, Albright rastreó 306 webs de noticias falsas y para comprender como estaban todas ellas conectadas entre sí y con el sistema de noticias de fuentes solventes, encontró una red de 23.000 páginas Web y 1,3 millones de hipervínculos. Estas redes se activan a petición para difundir información falsa viralizada, tendenciosa y políticamente orientada. Alcott y Gentzkow (2017)[4] llegaron a conclusiones parecidas basándose en estudios estadísticos y Moore (2017)[5] considera que los gobiernos deberían adoptar medidas apropiadas para hacer frente a esta amenaza para la democracia. En efecto en democracias de opinión la generación de noticias falsas representa claramente la desvirtuación de un valor central para la creación de una opinión pública libre, veraz y correctamente informada como precisa Del Vicario y colaboradores (2016:554-559)[6] base para una participación responsable en la formación de la opinión y preferencias políticas de los ciudadanos. Rusia está utilizando estrategias marxistas y también Trump. La intromisión de Moscú en las elecciones de Estados Unidos tenía como objetivo alimentar las tensiones sociales. Karl Marx y sus seguidores argumentaron que los revolucionarios deberían perturbar las sociedades capitalistas al «aumentar las contradicciones». Rusia utilizó una versión de esa idea marxista en sus esfuerzos por interrumpir la campaña presidencial de 2016. No debería sorprender que la nación más poderosa de la antigua Unión Soviética, cuyos líderes fueron educados en la tradición marxista, tome prestado directamente de esa tradición en sus esfuerzos actuales, hay que recordar que el actual presidente de Rusia fue un miembro del servicio de inteligencia —extinta KGB— de la URSS.

Lo señalado ha llevado en los Estados Unidos a que el 16 de febrero de 2018 el asesor especial del Departamento de Justicia[7] Robert S. Mueller haya presentado una acusación criminal ante el gran jurado del distrito de Columbia contra las actividades de tres organizaciones rusas y de trece ciudadanos rusos por la presunta comisión de delitos federales de conspiración al intentar interferir en el sistema político de los Estados Unidos, lo que comprende la elección presidencial de 2016 en el marco de un proyecto de desestabilización de gran magnitud denominado Lakhta y que se basa en la generación de noticias falsas de origen Ruso como ya señalaron previamente en Europa Giles, Hartmann y Yarsike (2017:1-16)[8].

La mayor parte de los datos que estamos considerando en relación con la información procesada mediante Big Data[9] se obtuvieron de forma lícita solicitando autorización para su uso, otros muchos datos no y por lo tanto violarían la legislación vigente en Europa, pero no en los EE. UU cuya regulación segmentada es más laxa como precisa Hoofnagle (2003:618)[10] que la europea pese a las insuficientes actualizaciones propuestas de la ECPA de 2017[11].

No pudiendo aquí abordar esta importante materia, hay datos para pensar que el nuevo Reglamento UE 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos) no protege adecuadamente los aspectos que hemos venido señalando, especialmente en lo que respecta al apartado 2.º del artículo 9 en su letra e) en la cual podrían tener cabida los datos de tráfico, extraordinariamente útiles si no imprescindibles para la elaboración de perfiles de extraordinaria precisión, así como en lo que respecta al principio de finalidad entendido de forma inadecuada como ha puesto de relieve el Documento de orientaciones de la Comisión relativas a la aplicación de la legislación sobre protección de datos de la Unión en el contexto electoral. Contribución de la Comisión Europea a la reunión de dirigentes en Salzburgo los días 19 y 20 de septiembre de 2018[12].

Como hemos tratado de mostrar los sistemas de procesamiento de la información operan de forma cooperativa y sinérgica, el Big Data y la creación de perfiles psicométricos en el nuevo ecosistema electoral electrónico virtual, en el que la difusión de información falsa forma también un elemento apto para crear narrativas falsas destinadas a la generación de estados de opinión y ánimo que pueden combinarse con la propaganda cognitiva de muy diversas formas en una compleja alquimia electoral que al servicio de populismos escasamente escrupulosos representan un reto jurídico de extraordinaria magnitud para las democracias. La distorsión de la realidad y la creación de narrativas artificiales destruyen la cohesión social mediante la polarización de la sociedad y la ruptura de los elementos comunes vertebradores que aseguran los requisitos mínimos de una unidad social necesaria y coherente. A lo anterior hay que añadir que las noticias falsas se difunden hasta seis veces más rápido que la información verificada como precisan Vosoughi y colaboradores (2018:1146-1151)[13], la mentira vuela, la verdad la sigue cojeando decía Jonathan Swift. La desinformación siempre ha existido como recuerdan Tandoc y colaboradores (2018:137-153)[14] lo novedoso es la dimensión del fenómeno y su velocidad de propagación. En este sentido y en lo que respecta tanto a la propaganda difundida por «bots» como a la información falsa será preciso redefinir los límites jurídicos de lo admisible en campañas electorales como advierte Arnaudo (2017:24)[15] singularmente en lo que será quizá el punto más complejo a dilucidar, que no es otro que determinar si la actividad de personas privadas son y en qué medida se consideran actividades de propaganda en el nuevo marco que se abre en las campañas virtuales, como sucedió singularmente en las elecciones municipales de 2016 en Rio de Janeiro, o como ha sucedido en las elecciones presidenciales de Brasil de 2018 en las que el rechazo de gran parte de los votantes al candidato rival de Bolsonaro, Fernando Haddad se alimenta de falsedades difundidas en redes sociales, pero que muchos ciudadanos brasileños creen a pies juntillas, recordemos en este sentido que un 97% de fake news han sido distribuidas en Brasil mediante WhatsApp[16], los mensajes del candidato fueron muy parecidos a los de Donal Trump, si bien en los Estados Unidos el vector tecnológico fue fundamentalmente Facebook y en Brasil WhatsApp[17] pero en este último caso sin sincronización con una campaña de propaganda cognitiva virtual simultánea o en paralelo lo que sí aconteció en los Estados Unidos ya que en aquella lo que se buscaba era explotar los sesgos psicológicos personales de los votantes debidamente identificados por Cambridge Analytica. Como ha investigado la BBC[18] en países como la India, Kenia o Nigeria, se observa que el nacionalismo está impulsando la propagación de noticias falsas, lo que ha sucedido y sigue sucediendo en España en el caso de Cataluña.

Es claro que es preciso contemplar una regulación de los extremos considerados, así por ejemplo en Francia y en el circuito de las noticias falsas, los diputados de la Asamblea Nacional están considerando dos propuestas presentadas por el partido de Macron[19], una que se aplicaría a cualquier elección y la otra específicamente a las elecciones presidenciales. La legislación propuesta permitiría a los candidatos y partidos electorales solicitar a un juez que detenga la difusión de «información falsa» durante los tres meses previos a una elección nacional, especialmente en las redes sociales. Podría permitir que los jueces cierren o bloqueen los sitios web que se descartan para difundir noticias falsas. Podrían emitir juicios en un plazo de 48 horas sobre si la «información falsa» pudiese tener un impacto en las elecciones. Se trata ciertamente de regulaciones delicadas porque afectan medularmente a la libertad de expresión, lo que podría suceder con la reciente ley alemana Netzwerkdurch​setzungsgesetz o NetzDG que está orientada hacia los delitos odio, no a las noticias falsas. La norma obliga a las redes sociales más grandes[20], aquellas con más de dos millones de usuarios alemanes, a eliminar el discurso de odio «descaradamente ilegal» dentro de las 24 horas de haberse denunciado un contenido. Para el material que es menos obvio que viola la ley, redes como Facebook e Instagram tendrán siete días para considerar si corresponde o no eliminar publicaciones. El incumplimiento de estos plazos podría dar lugar a sanciones de hasta 50 millones de euros. En el sentido expuesto es en el que también se ha establecido, en el marco de la Unión Europea, el código de buenas prácticas contra la desinformación[21] dirigido y aceptado por los grandes operadores de redes sociales y cuya finalidad es que quienes pueden ejercer el mejor control sobre los contenidos, los operadores, se adhieran a un conjunto de medidas que, en principio, parece que pueden ser efectivas, si bien, es necesario supervisar su cumplimiento a lo largo de un periodo temporal suficiente y practicar las pertinentes correcciones en función de la eficiencia de las medidas propuestas que pasan, entre otras, por fortalecer los sistemas de verificación de las fuentes de las noticias.

Capítulo II

¿Qué son las mentiras profundas o Deepfakes?

1. INTRODUCCIÓN

Hoy en día no puede creerse nada de lo que publican los periódicos. La verdad misma se hace sospechosa cuando aparece en ese vehículo contaminado. Sólo quienes están en situación de confrontar los hechos que conocen, con las mentiras del día pueden saber hasta dónde llega este estado de desinformación. Añadiré que un hombre que jamás mire un periódico estará mejor informado que quienes los leen, por lo mismo que quien no sabe nada está más cerca de la verdad que quien tiene la mente repleta de falsedades y errores. Estas observaciones se escribieron hace hoy 212 años por Thomas Jefferson (1987:620)[1] en una carta a John Norvell de Virginia quien había escrito a Jefferson en relación con un proyecto de creación de un periódico. Sin libertad de pensamiento no puede existir cosa alguna como la sabiduría y tampoco algo como la libertad pública sin libertad de expresión Gordon (1721:43)[2]. De alguna forma todo aquello que se dirija a la manipulación de la libertad de pensamiento falseando los hechos afecta directamente a la libertad de expresión, ya que expresar libremente un pensamiento manipulado o deliberadamente erróneo no es a la postre sino efecto de una causa a la que los poderes públicos deben prestar especial atención.

Las noticias falsas, la desinformación y la posverdad tienen una larga tradición. El uso del fraude, la falsificación y otras formas de engaño para influir en la política señalan Chesney y Citron (2019:147-155)[3] no es nada nuevo, por supuesto. Cuando el USS Maine explotó en el puerto de La Habana el 15 de febrero de 1898, los tabloides estadounidenses de William Randolph Hearst y Joseph Pulitzer utilizaron relatos incendiarios y falaces del incidente para incitar al público a la guerra con España.

Las noticias falsas de naturaleza virtual y de difusión masiva a través de las redes sociales —como uno de sus vectores de difusión— juntamente con el correo electrónico o las redes como WhatsApp, Telegram, etc., fueron y son un hecho social relativamente reciente de un tipo de propaganda electoral que podría datarse su inicio para el gran público en las elecciones presidenciales de 2016 en los Estados Unidos. Se puede encontrar en la actualidad una amplia base de documentación científica sobre estas, así como el interés de la comunidad jurídica por ofrecer mecanismos de detección y mitigación de estas fuentes de información fraudulenta que tratan de generar desinformación a través de desvirtuar la información veraz con información que no lo es o no lo es en diversos grados, formulas en suma de demoler las concepciones públicas generales sobre la certidumbre de los hechos. Desde entonces, el fenómeno sigue en aumento como han estudiado Marchal y colaboradores (2018)[4] incrementándose el volumen de noticias falsas en las redes sociales y disminuyendo el uso de fuentes solventes a menos del 5 por ciento en tales redes sociales[5].

Nuestro propósito en este capítulo es apreciar una nueva dimensión de un viejo fenómeno —el uso de la mentira con finalidad política— Koyré (2015)[6] que puede situarse en la órbita de las noticias falsas o más bien de la información falsa pero cuya característica relevante no es su forma escrita, que podría ser el modelo típico de noticia falsa o fake news. Nos referimos a las denominadas «Deepfakes» o mentiras profundas expresadas a través de la síntesis de imágenes digitales que emulan situaciones reales. Estas pueden tener una efectividad o impacto en los procesos electorales de alto riesgo para lo que debería ser un proceso de formación de la opinión pública justo basado en la veracidad de la información que llega a los ciudadanos por los diversos canales de información disponibles.

La capacidad para inspirar miedo, temor o desazón, quizá, es uno de sus efectos más perniciosos y nocivos cuando se diseñan con esa finalidad específica ya que ese miedo se volverá viral con extrema facilidad. En el fondo, tales imágenes están dirigidas a las emociones y una difusión de esas imágenes sin claros límites jurídicos pueden erosionar gravemente la confianza de los ciudadanos en todos los medios, tanto en los veraces como en los que lo son menos o los que no lo son en absoluto. Las noticias falsas operan destruyendo la credibilidad de las narrativas veraces, cuestionándolas con cursos narrativos falaces que, por su proximidad con la realidad hacen dudar o incurrir en error a los públicos objetivos, entendiendo por tales aquellos a los que se les dirige un contenido específico porque previamente se ha estudiado su sensibilidad hacia el temor que se pretende explotar mediante las técnicas OCEAN de clasificación por perfiles psicométricos.

Cuando hablamos de públicos objetivos con Quattrociochi (2018:30-31)[7] hacemos referencia a que los usuarios de las redes sociales están polarizados, se informan y forman su opinión según un proceso cognitivo que evita el conflicto apoyando las narrativas que respaldan sus propias creencias. Los contenidos se seleccionan por sesgo de confirmación[8] eso conlleva la creación de grupos uniformes u homogéneos en torno a temas y discursos específicos los cuales tienden a reforzarse entre sí, al tiempo que ignoran al resto de las personas y grupos que piensen de forma diferente. Y, en la mayoría de los casos, las discusiones degeneran en conflictos espirales entre extremistas de uno u otro punto de vista lo que favorece la polarización y la radicalización o el extremismo. La homofilia[9] «o atracción entre iguales» es la fuerza centrífuga que crea y cohesiona grupos ideológicos en las redes sociales y en la vida social.

Más a menudo, éstas trataran de operar sobre los sentimientos de los públicos objetivos (target) señalados, con finalidades políticas, es decir, trataran de generar con la información distorsionada estados de ánimo que difundidos en cascadas pueden generar rápidos estados de opinión de base emocionalmente inducida entre los grupos ya polarizados.

Lo anterior a nivel individual debe ponerse en conexión con algunos hallazgos epistemológicos recientes a nivel de grupo de ideología compartida como han investigado Marks, Copland y colaboradores (2019:74-84)[10] entre los que se encuentran aquellos que tienen que ver con el efecto cognitivo «Halo» por el cual se asigna a una persona o grupo competente en un área concreta y definida la misma competencia en áreas genéricas y generales formando un «halo de competencia» completamente injustificado y que induce a errores sistémicos entre quienes idealizan las comunicaciones de esas personas o grupos tomando la parte por el todo. La creencia generalizada entre los grupos en que «todo o casi todo» lo que proviene de un grupo es siempre cierto es uno de los efectos que conducen a públicos que se polarizan, un error asociado a la existencia de escasos datos y elevada incertidumbre en la emisión de un juicio sobre circunstancias o personas, lo anterior conduce a que las personas eligen escuchar a quienes tienen una opinión política similar sobre temas que no tienen nada que ver con la política, en lugar de a aquellas personas que saben que tienen información cierta sobre hechos relevantes, pero que tienen puntos de vista políticos distintos. Por ello dentro de los grupos una información falsa pero proporcionada por alguien en quien se confía puede ser difundida al encontrarse creíble por esa sola circunstancia, más adelante volveremos sobre el efecto «Halo».

La democracia de opinión es lábil es un delicado mecanismo de equilibrios que opera o debe operar sobre la veracidad para que las elecciones de los ciudadanos se edifiquen sobre unos estándares mínimos de confianza legítima en el sistema de información. Es cierto que la naturaleza de Internet hace posible que las fuentes de devaluación de la información obedezcan en gran medida a actividades externas a la jurisdicción de cada Estado, por ello, una regulación global parece el mecanismo idóneo para limitar en la medida de lo posible esta grave amenaza disruptiva. Lo anterior ha sido adecuadamente recogido en el estudio «Desinformación en el ciberespacio» preparado por el Centro Criptológico Nacional[11] en el que se detalla cómo la desinformación es hoy un arma de primera magnitud en el arsenal de herramientas ofensivas de los Estados tecnológicamente avanzados, otras, por ejemplo, pueden ser los virus informáticos como lo fue Stuxnet, una de las primeras «ojivas electrónicas» destinadas a causar daños físicos en los sistemas informáticos. La única forma efectiva de respuesta eficaz a estos desafíos es crear una Internet intervenida por el Estado frente a tales ataques y que pueda desconectarse temporalmente de otros segmentos internacionales de red, que es exactamente lo que se está haciendo en Rusia mediante el proyecto de reforma «sobre la introducción de enmiendas a algunos actos legislativos de la Federación Rusa» Artículo 1 modificación de la Ley Federal de 7 de julio de 2003 No. 126-FZ «0 Comunicaciones» Ley n.º 608767-7 en la Duma[12]. Lo anterior plantea una pregunta claramente deducible del contexto ¿afectan las deepfakes a la democracia y al proceso electoral?

2. ¿QUÉ SON LAS DEEPFAKES?

En el año 2017, investigadores de la Universidad de Washington en los Estados Unidos demostraron cómo se podía manipular la tecnología de edición de generación de imágenes dinámicas, utilizando un algoritmo de aprendizaje profundo para imitar las expresiones faciales y la voz del presidente Obama, creando videos del expresidente que parecen hacer discursos con palabras de entrevistas anteriores[13]. Sin embargo, la generación de imágenes falsas tuvo parte de su origen, que no vamos a considerar aquí, en el uso de imágenes reales de actrices trasplantadas a cuerpos de otras actrices del mercado de la pornografía en redes como Reddit.

La tecnología de inteligencia artificial que hace posible la creación de las «Deepfakes» posibilita crear videos sofisticados tan realistas que son casi imposibles de distinguir de la realidad. Las mentiras profundas o deepfakes son preocupantes precisamente porque permiten la manipulación de la imagen de cualquier persona y ponen en tela de juicio nuestra capacidad de confiar en lo que vemos. Un uso obvio de deepfakes sería implicar falsamente a personas en escándalos de las más variadas naturalezas: desde los de carácter político; financieros, sexuales, etc. Incluso si se demuestra que las imágenes incriminatorias son falsas, el daño a la reputación de la víctima puede ser imposible de reparar. Por ejemplo, los políticos podrían recrear viejas imágenes de sí mismos para que pareciera que siempre habían apoyado una narrativa que recientemente se habría hecho popular, actualizando falsamente o recreando sus posiciones políticas en tiempo real, igualmente, sería posible generar de la nada imágenes ficticias de un político en actividades que nunca existieron.

Incluso podrían diseñarse figuras públicas o privadas que son completamente imaginarias, originales, pero no auténticas, es decir sintéticas o imágenes de síntesis. Mientras tanto, las imágenes de video podrían volverse inútiles como evidencia en los tribunales. Las noticias de difusión audiovisual podrían reducirse a las personas que debaten si los videos son auténticos o no, utilizando una inteligencia artificial cada vez más compleja para tratar de detectar este tipo de mentiras profundas que no siempre serán capaces de detectar las manipulaciones mejor elaboradas como advierte Bunk y colaboradores (2017)[14] o Li y Siwei (2018)[15] entre otros. Existen, diversos tipos de deepfakes, desde aquellas que constituyen swaps de rostros (intercambio), las deepfakes de audio que imitan una forma de voz, las recreaciones faciales dinámicas completas, o aquellas que sincronizan los labios de la voz falsa y la insertan en un rostro público que reproducirá miméticamente la expresión facial fundida con la oral falsificada lo que desarrollará modelos miméticos de carácter sintético que recreara elementos de la comunicación no verbal capaces de generar la sensación en el auditorio que corresponde a la persona real de la que se falsifica esa información gestual característica, entre las más comunes.

Lo que está en juego con la aparición de estas falsificaciones de video profundas es la estructura social subyacente en la que la mayor parte de la sociedad, en un momento dado, está de acuerdo en que existe alguna forma de verdad mutuamente aceptada y ampliamente difundida y las realidades sociales que se basan en esta confianza. Esa es en esencia la base en la que se fundamenta el apartado d) del artículo 20 de la Constitución cuando establece que se reconocen y protegen los derechos a: enviar o recibir libremente información veraz. Esa veracidad entendida aquí como una forma de garantizar la verdad de la información objetiva —o como correspondencia con los hechos— es un elemento central de una opinión pública que recibe información tendencialmente verdadera. No se trata obviamente del fin de la verdad, sino del fin de la creencia en la verdad: una sociedad basada en la desconfianza es a lo que puede conducir un desarrollo masivo de las deepfakes. Tras la desinformación masiva, incluso las figuras públicas honestas podrían ser fácilmente ignoradas o desacreditadas. Las organizaciones tradicionales que han apoyado y permitido el consenso social y político, el gobierno y la prensa, ya no serán suficientemente aptas para el propósito que habrían venido desarrollando en el entorno no digital. Como señala Frankfurt (2007:107)[16] las ideas de verdad y facticidad son indispensables para dotar de plena sustantividad el ejercicio de la racionalidad.

Algunas personas cuestionan los hechos en torno a eventos que sin duda sucedieron tales como el Holocausto, el aterrizaje del hombre en la luna o los atentados del 11-S en los Estados Unidos o que la tierra sea redonda, a pesar de las pruebas de toda clase existentes. Si las mentiras profundas logran que las personas crean que no pueden confiar en las imágenes, los problemas de la desinformación y las teorías de conspiración podrían empeorar significativamente como señalan Jolley y Douglas (2017)[17]. El pensamiento conspirativo se caracteriza, como señalan Bauer, Bradley y Bangerter (2013)[18] por la incapacidad de asignar a los hechos adversos un determinante causal lo que implica un modo «casi religioso» de pensar en los procesos. Si bien es cierto que la tecnología con la que se elabora las deepfakes no es, por el momento, lo suficientemente sofisticada como para simular eventos o conflictos históricos a gran escala. Preocupa que la duda planteada por una o varias deepfakes convincentes y bien difundidas a escala internacional afectando a los nodos apropiados de difusión social —es decir los más densamente conectados— pueda alterar nuestra confianza en el audio y el video de forma permanente.

También son cada vez más fáciles y baratos de crear los programas para la elaboración y desarrollo de este tipo videos, lo que significa que pronto será posible que cualquier persona con un ordenador personal y la capacidad apropiada de procesamiento —lo que no excluye procesamiento en red por grupos para disponer de mayor capacidad de cálculo en menos tiempo— y el software adecuado, dispongan de los medios necesarios para crearlas y difundirlas de forma acelerada y eficiente en cualquier parte del mundo.

Es cierto que se existe una acción cada vez más acentuada para intentar detectar este tipo de mentiras profundas, así se puede observar el esfuerzo del proyecto liderado por DARPA[19] Media Forensics (MediFor). El programa Media Forensics está desarrollando herramientas capaces de identificar cuándo los videos y las fotos han sido alterados significativamente de su estado original para cambiar su contenido, el programa viene desarrollándose desde el año 2015 que se evidenció como problema de seguridad nacional en los Estados Unidos.

Señalaba Richard Feynman que la ciencia es una larga historia de aprender la manera de no engañarnos, quizá por ello necesitaremos desarrollar nuevas formas de consenso, nuevas formas de ponerse de acuerdo sobre situaciones sociales basadas en formas alternativas de confianza. Un enfoque prometedor, pero no exento de limitaciones, advirtamos, podría ser descentralizar la confianza de modo que ya no necesitemos algunas instituciones clásicas para garantizar si la información es genuina, papel que ha venido siendo tradicionalmente desempeñado por la prensa o la televisión y la radio en sus diversas dimensiones, tanto en formatos materiales como inmateriales. Y, en cambio, se puede proponer confiar en redes de personas u organizaciones con buena reputación, pensemos como modelo en la Wikipedia, una enciclopedia virtual tan rigurosa Giles (2005:900-901)[20] como la enciclopedia británica. Una forma de hacer esto podría ser mediante el uso del blockchain, la tecnología que impulsa Bitcoin y otras criptomonedas. Blockchain funciona creando un libro de contabilidad público almacenado en varias computadoras de todo el mundo a la vez y a prueba de manipulaciones mediante la criptografía. Sus algoritmos permiten a las computadoras acordar la validez de cualquier cambio en el libro de contabilidad, lo que hace que sea mucho más difícil registrar información falsa. De esta manera, la confianza se distribuye entre todas las computadoras que pueden escrutarse mutuamente, aumentando la responsabilidad y haciendo posible, en hipótesis, construir mecanismos de verificación y contraste de fuentes y hechos de fiabilidad contrastada. De forma paralela es preciso construir sociedades más «resilientes» contra las deepfakes y la desinformación, capaces de poner en duda ese tipo de información cuando sea identificada. Antes de proseguir, es preciso identificar el concepto de «Resiliencia» que constituye el Pilar II de la estrategia de Cyberseguridad de la Casa Blanca[21]. El concepto de Resiliencia tiene su origen en el campo de la física y de la ingeniería. En tal sentido, se entiende por Resiliencia la magnitud que cuantifica la cantidad de energía que un concreto material puede absorber o almacenar al deformarse elásticamente pudiendo romperse o recuperarse de dicha deformación producida por efecto de un impacto por unidad de superficie de rotura. La Resiliencia se distingue de la tenacidad en que ésta cuantifica o mide la cantidad de energía absorbida por unidad de superficie de rotura bajo la acción de un esfuerzo progresivo y no por impacto, como en el caso de la Resiliencia[22]. En ingeniería de redes el término representa una forma de considerar la seguridad basada esencialmente en crear modelos de seguridad robustos y flexibles, de naturaleza proactiva y resistentes a diversos tipos de amenazas y ataques, capaces de generar daños de diversa magnitud en los elementos hardware y software que forman parte de la red, con capacidad de recuperación.

Convendría señalar brevemente algunos aspectos fundamentales sobre el tipo de red que es Internet, es decir, como red con topología libre de escala ya que su forma condiciona su resiliencia. Siguiendo los trabajos a los que remitimos de Albert y Barabási (2000:5234-5237)[23], Strogatz y Watts (2008:440-442)[24] y más recientemente y con una articulación más asequible al lector no experto en redes, de Ball (2009:437-471)[25] trabajo altamente ilustrativo para comprender la estructura de las redes y, en particular, los aspectos esenciales sobre la seguridad que vertebra la topología de este tipo de redes. Internet (como red física de enlaces) y la Web (como red de conexiones lógicas) son redes de topología libres de escalas con una distribución de conectividad entre dos nodos que obedece a una ley de potencias[26]. En esto reside su fuerza ya que las redes libres de escala son, en general, resistentes a fallos aleatorios (accidentales)[27] siendo por ello redes altamente flexibles a ese tipo de incidentes. A diferencia de una creencia común, la red Internet posee una estructura que podríamos denominar «grumosa» o de «grumos». Existen enlaces muy conectados y otros, la inmensa mayoría, débilmente conectados. Eso no significa que no exista redundancia entre los enlaces. Existe, desde luego, y ésta es precisamente la que permite la reorganización de la estructura tras las situaciones de desorden debidas a colapsos temporales y puntuales. Pero la redundancia se expresa, con mucha mayor intensidad, en los puntos o nodos más densamente conectados de las redes. Aquí reside exactamente la debilidad de las redes sin escala frente a acciones «premeditadas» de ciberterrorismo y desarrollo de cascadas de información viral como las fake news o las deepfakes. Cuando los nodos más conectados de Internet o de la Web son destruidos, las redes de topología sin escala se vienen abajo rápidamente. Destruir uno de cada 20 nodos de alta densidad de conexiones duplica la longitud media —en distancia física y lógica— de las conexiones de inmediato, con lo que para llegar de un sitio a otro de la red son necesarios grandes rodeos. Como señala Watts (2006:287)[28] las jerarquías, como podemos figurarnos, responden muy mal en condiciones de avería, fallo o colapso. Por la misma razón que son vulnerables a los colapsos y a los fallos relacionados con la congestión (debido a que son demasiado centralizadas) si cualquiera de los nodos superiores de una jerarquía falla, grandes trozos o segmentos de la red quedarán aislados unos de otros. Así, por ejemplo, si un ciberterrorista o conjunto de éstos, en acciones de ataque distribuidas pero organizadas quieren destruir temporalmente la conectividad de Internet, les basta con identificar un número relativamente pequeño de los nodos más concentrados y sabotearlos. Como argumenta Ball (2009:457)[29], cuando la inteligencia criminal guía los atentados, una red sin escala como Internet puede sufrir daños desproporcionados. Por ello, es alrededor de los nodos más conectados donde habría que erigir las murallas defensivas más seguras. El talón de Aquiles de las redes sin escala es la enorme influencia de algunos nodos muy conectados: los núcleos que mantienen la coherencia del conjunto. Si alguien interrumpe los contactos o conexiones de estos importantes núcleos (los grumos) la Web entera se desploma rápidamente.

Vemos pues que la Resiliencia debe operar sobre un entorno —brevemente descrito— en extremo complejo y que la misma, en nuestra opinión, debe articularse en los núcleos centrales de interconexión. Existen otros conceptos de Resiliencia como los empleados, por ejemplo, en la Psicología y que tienen también una función explicativa de interés. Resumamos tan sólo algunos de tales conceptos. Así, la Resiliencia sería un proceso dinámico que tendría por resultado la adaptación positiva en contextos de gran adversidad, o la habilidad para resurgir de la adversidad, adaptarse, recuperarse y acceder a una vida significativa y productiva. Como podemos observar, se trata de una traslación del significado en Física y en Ingeniería, transformando la capacidad de deformación elástica de los materiales y sustituyéndola por la capacidad de adaptación de los seres humanos frente a cargas estresantes y desestabilizadoras de fuerte impacto emocional (enfermedad, muerte, desempleo, violencia, divorcio, o un entorno de comunicaciones con abundantes mentiras, falsedades o deepfakes).

3. LAS REDES NEURONALES GENERATIVAS ANTAGÓNICAS

La inteligencia artificial[30] y en particular las redes neuronales antagónicas (GAN) como señala Condliffe (2018) están siendo progresivamente capaces de identificar cosas u objetos con gran precisión, es factible mostrarles diez millones de fotografías y éstas, las GAN, podrán identificar con asombrosa precisión en cuáles de ellas aparece, por ejemplo, una persona montando en bicicleta circulando por una calle. El problema es que para crear algo completamente nuevo hace falta imaginación, circunstancia que hasta ahora no era posible en virtud de los modelos y procedimientos disponibles en inteligencia artificial. La primera solución la propuso el, entonces estudiante de doctorado, en la Universidad de Montreal (Canadá) Ian Goodfellow en el año 2014[31]. No debemos olvidar sin embargo que uno de los trabajos seminales en redes neuronales fue el de Hinton, Rumelhart y Williams (1985)[32] ese trabajo desarrolló una técnica llamada retropropagación que es en lo que se basa todo el aprendizaje profundo[33].

El enfoque conocido como redes generativas antagónicas (GAN, por sus siglas en inglés) emplea dos redes neuronales —modelos matemáticos simplificados del cerebro como los descritos por Hawkins y Blakeslee (2005:37-55)[34]— que se enfrentan entre sí, es decir, la «confrontación entre redes» es la esencia del aprendizaje autónomo que se produce como producto de esa confrontación. Ambas redes están entrenadas con el mismo conjunto de datos. Una red conocida como la generativa tiene la tarea de crear variaciones en las imágenes que ya ha visto, tal vez una imagen de una bicicleta con una rueda de más. La segunda, conocida como el discriminador debe identificar si la imagen que está viendo pertenece al conjunto de entrenamiento original o, si, por el contrario, es una imagen falsa producida por la red generativa. A la red discriminadora básicamente se le formula la siguiente cuestión: ¿Es probable que una bicicleta con tres ruedas sea real? Con el tiempo, a la red generativa se le da tan bien producir imágenes que a su pareja discriminadora le resulta imposible detectar la falsificación. En resumen: la red generativa aprende a reconocer y posteriormente a crear imágenes de bicicletas de aspecto realista. Esta tecnología se ha convertido en uno de los avances más prometedores de la inteligencia artificial en la última década, capaz de ayudar a las máquinas a producir resultados que engañan incluso a los humanos expertos. Las GAN se usaron para crear sonidos e imágenes hiperrealistas. En un convincente ejemplo, los investigadores del fabricante de chips gráficos Nvidia entrenaron, como señala Borel (2018:31-35)[35] a una GAN con fotografías de personas famosas para que el sistema fuera capaz de crear cientos de rostros creíbles de personas que no existen. Otro grupo de investigación consiguió generar pinturas falsas parecidas a las obras de Van Gogh. Si se les fuerza aún más, las GAN pueden reinterpretar las imágenes de diferentes maneras: pueden hacer que una carretera soleada parezca nevada o convertir caballos en cebras.

Los resultados no siempre son perfectos, las GAN pueden crear bicicletas con dos tipos de manillar o tres sillines, por ejemplo, o caras con cejas en el lugar incorrecto del rostro humano. Pero debido a que las imágenes y los sonidos son, por lo general, extraordinariamente realistas, algunos expertos creen que hay una lógica detrás de cómo las GAN comienzan a comprender la estructura subyacente del mundo que ven y oyen. Otros, en cambio a quienes nos adherimos piensan que tanto los algoritmos como las redes neuronales que emplean estas tecnologías, no son en absoluto conscientes de su propia existencia, carecen de inteligencia y de autopercepción o conocimiento de sí mismas, características esenciales de la inteligencia humana, son emulaciones y simulaciones rudimentarias, pero sencillamente no saben lo que hacen, circunstancia que si comprende quienes las diseñan. El potencial de las GAN es muy grande porque pueden aprender a imitar cualquier distribución de datos. Es decir, se puede enseñar a las GAN a crear mundos inquietantemente similares a los nuestros en cualquier dominio: imágenes, música, habla, prosa, etc. Los tipos de redes GAN evolucionan de forma constante, por ejemplo, como señalan Bansal y colaboradores (2018)[36] las redes recycle-GAN son capaces de traducir el contenido de un dominio a otro, preservando el estilo nativo del primer dominio, es decir, si los contenidos del discurso de un participante se transfieren a otro, se transfieren con el estilo propio del primero al segundo en un proceso de aprendizaje profundo automatizado sin supervisión.

4. BREVES REFLEXIONES SOBRE LA FORMA DE AFRONTAR JURÍDICAMENTE EL RETO DE LAS DEEPFAKES

Con estas fuentes de información cada vez más real, una de las preguntas que debemos formularnos es la de si son los instrumentos legales en vigor aptos para ofrecer respuestas jurídicas adecuadas a las deepfakes, por una parte y también parece pertinente preguntarnos si es prudente o aconsejable una respuesta preventiva que pueda limitar arbitrariamente la libertad de expresión.

Hay que empezar por señalar que se trata de un problema complejo. En relación con la primera pregunta la respuesta inicial es que sí disponemos de un instrumental jurídico que realizando adaptaciones legislativas apropiadas para ofrecer una respuesta proporcionada al nivel de amenaza de las deepfakes sea capaz de hacerlas frente. Tanto las disposiciones del Código Penal[37], como las establecidas en la Ley 34/2002, de 11 de julio, de servicios de la sociedad de la información y de comercio electrónico, así como las previstas en la, Ley Orgánica 1/1982, de 5 de mayo, de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, en Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales, la Ley 17/2001, de 7 de diciembre, de Marcas conjuntamente con las normas Civiles y Administrativas pertinentes, pueden ser suficientes para resolver los conflictos que este tipo de información puede generar. Seguramente donde sea preciso realizar modificaciones para lograr tiempos de respuesta adecuados a los daños que se puedan generar, sea en las normas procesales Penales, Civiles y Administrativas donde el tiempo de respuesta puede ser clave para la mitigación de daños.

Cuestión diversa sin duda puede ser la respuesta de los Cuerpos y Fuerzas de Seguridad del Estado cuando tales deepfakes por su intencionalidad, origen o características estén dirigidas a la desestabilización del país, en ese caso será de aplicación la Ley 36/2015, de 28 de septiembre, de Seguridad Nacional, así como el Real Decreto-ley 12/2018, de 7 de septiembre, de seguridad de las redes y sistemas de información, fundamentalmente.

En relación con la segunda pregunta las deepfakes cuando por su origen e intencionalidad no tengan una finalidad claramente dirigida desde el exterior o desde el interior a la desestabilización del país, o una intencionalidad delictiva, pensemos en una injuria o calumnia. En la inmensa mayoría de los casos se tratará de parodias que, inicialmente, y bajo tal régimen habrán de ser consideradas y valoradas por la jurisdicción en los casos en los que por su forma o circunstancias de ejecución se residencien ante la misma en el marco de los conflictos de la propiedad intelectual. La parodia como señala Sol Muntañola (2005:102)[38] es un límite al derecho, limita los derechos del autor o, dicho de otra forma, permite a cualquiera utilizar libremente —aunque de acuerdo con una serie de condiciones legales— una obra protegida por el derecho de autor. En este sentido, la parodia invade el derecho dominical del autor, apartándole de su señorío, para destruir y reutilizar su creación. Ciertamente este límite es quizá uno de los más importantes en relación con las deepfakes. Valorar cuando determinados contenidos se encuentran bajo la órbita expansiva, en una sociedad democrática, de la libertad de expresión será una tarea delicada. La Directiva (UE) 2019/790 del Parlamento Europeo y del Consejo, de 17 de abril de 2019, sobre los derechos de autor y derechos afines en el mercado único digital y por la que se modifican las Directivas 96/9/CE y 2001/29/CE reconoce este derecho en la letra b) del apartado 7 de su artículo 17, pero surgen dudas en relación con la elaboración de una deepfake que sea el producto de una imagen de síntesis pero que no es una exacta versión de una imagen original de la persona sobre la cual se genera el video. Los programas de edición de video como Adobe After Efects pueden generar una deepfake, pero no son el producto de elaboración de las GAN que anteriormente consideramos, existen diversas novedades en la generación de la imagen de composición y de una imagen real pero distorsionada por edición, que será preciso discriminar para la aplicación de las excepciones.

En los Estados Unidos los límites actuales frente a las deepfakes son básicamente el derecho de autor, el derecho de publicidad, la sección 43 (a)[39] de la Ley Lanham, las normas penales por daños, por difamación y las de extorsión en los casos y supuestos en los que una deepfake pudiese utilizarse con tal finalidad. Son igualmente de aplicación la Intentional infliction of emotional distress (IIED) en los casos de conductas escandalosas las cuales podrían afectar a políticos o personajes públicos siendo éste Tort of outrage de aplicación en diversos supuestos. A nuestro juicio y lo que sólo puede ser un esbozo en este trabajo, las normas actualmente disponibles son suficientes para ofrecer una respuesta en Derecho a los daños que pueda originar este tipo de informaciones de video. Por otro lado y dado que el fenómeno se está definiendo en estos momentos tampoco se puede afirmar que sean insuficientes, es preciso seguir evaluando las formas de evolución del fenómeno sin que se limite la libertad de expresión por una tecnología que, como tal, ni es ilícita ni muestra ningún tipo de maldad intrínseca.

La tecnología no es mala obviamente, lo puede ser, como de costumbre a lo largo de la historia de los avances técnicos los usos que de ella se hagan. Aun así, los legisladores se sienten bajo la presión de adoptar medidas contingentes en situaciones de incertidumbre social pero todas ellas deben analizarse serena y cuidadosamente porque lo que pueden cercenar es la libertad de expresión. Muestra de lo anterior y siendo formas de precipitación legislativa puede considerarse el fallido proyecto de Ley presentado en el Senado de los EE. UU., S.3805, de prohibición de ciertos registros audiovisuales fraudulentos y para otros propósitos, presentado por el Senador por Nebraska Ben Sasse.

5. LA PROPAGANDA COGNITIVA ELECTORAL Y EL MICROTARGETING

La propaganda computacional es ya una realidad como precisan entre otros Wooley y Howard (2017)[40] si bien lo novedoso del tipo de propaganda que estamos examinando no es que sea una propaganda pasiva, sino que es una propaganda que podríamos denominar activa e inteligente debido a que se aprovecha de los sesgos caracterológicos de los votantes para diseñar una campaña de muy alta granularidad y precisión a la medida del elector y de sus preferencias emocionales y políticas. Si, por ejemplo, es un elector que se ha abstenido en otras elecciones pueden ofrecérsele argumentos basado en sus preferencias emocionales para que vote. Podemos pensar en votantes que expresen caracteres que puedan ser explotables por agentes de propaganda automatizada, votantes que no tienen una clara preferencia y a los que este tipo de propaganda puede «seguir» de forma que mediante el «microtargeting» éste busque al elector para ofrecerle propaganda activa de su agrado, capaz de aprender de la interacción con el votante en base a su personalidad y readaptarse y refinarse en función de las respuestas del votante a un diálogo virtual de acompañamiento propagandistico que con anterioridad al advenimiento de estas tecnologías era inexistente.

Se denomina microtargeting porque tiene por objetivo agrupar a los electores en muy pequeños segmentos o clusters[41] sincronizados con los 20 modelos de tipos de personalidades o perfiles psicométricos ya elaborados a los que se dirige este tipo de propaganda electoral. Para que la información personalizada alcance y siga a su objetivo electoral. Es usual observar en cualquier navegación por Internet que tras visitar un comercio virtual posteriormente aparece en nuestros ordenadores o teléfonos móviles información del producto o servicio que hemos visitado anteriormente, en horas, días o semanas anteriores. La publicidad sigue al navegador en determinadas páginas Web merced al uso de cookies[42] previamente aceptadas e instaladas en los equipos de los usuarios en los que esta publicidad contextual «que nos busca y acompaña» aparece. Ese seguimiento sería el equivalente del microtargeting electoral en su dimensión comercial. Pero a diferencia de ese microtargetin comercial, el electoral interactúa y aprende del elector al que tratará de persuadir con argumentos racioemocionales intentando imitar los intereses personales, sociales y emocionales de éste y ofrecer al mismo, variantes de campaña propagandística adaptadas a su perfil psicológico. Los experimentos de manipulación y contagio masivo de emociones en las redes sociales como el que se produjo en Facebook el año 2012 y que afecto a 700.000 sujetos como estudiaron Kramer, Guillory y Hancock (2014:8788-9790)[43] demuestran convincentemente la gran efectividad de lo que se puede lograr en el ámbito de la transformación de motivaciones y preferencias mediante contagio emocional inducido.

En la campaña electoral de Donald Trump del año 2016, Cambridge Analytica, en la actualidad Emerdata tal y como señala Cadwalladr (2017)[44] estaba empleando entre cuarenta y cincuenta mil variantes de diferentes argumentos electorales informativos de los que se medía su respuesta en tiempo real de los destinatarios, readaptándose a sus respuestas de forma evolutiva. La granularidad de las acciones de estos mensajes está estructurada por áreas geográficas de hasta una radio de 5 millas en las que se agrupan los perfiles psicográficos[45] que se evalúan por el algoritmo de Cambridge Analytica, cuyo origen se encuentra en la Universidad de Cambridge[46]. Además, las variantes de los mensajes propagandísticos empleados actualmente no pueden ser conocidos por otros electores ya que se basan, por ejemplo, en Facebook, en las publicaciones invisibles[47] o dark post que inicialmente fueron y son un instrumento para la publicidad personalizada pero que también se puede emplear en las campañas electorales cognitivas personalizadas y que son de difícil fiscalización por una futura autoridad electoral.

Wolley y Howard (2017:7)[48] advierten y, nos adherimos a sus conclusiones, que la propaganda computacional es una de las herramientas más poderosas contra la democracia ya que hace posible una genuina y nueva forma de «ingeniería social» capaz de romper por completo los modelos de opinión pública y de su manipulación como han estudiado Bond, Fariss y colaboradores (2012:295-298)[49]. En efecto, los sistemas de propaganda cognitiva electoral parece que funcionan en paralelo a poderosas y profundas distorsiones de la opinión pública que están siendo originadas por muy diversos grupos de interés de alcance nacional e internacional capaces de modificar, por ejemplo, mediante granjas de ordenadores la agenda de la opinión pública en temas de interés político mediante la manipulación de tendencias basadas en generación de hashtags hasta lograr posicionamientos como Trending Topics como señala Nimmo (2019)[50]. Si bien, esas tendencias son creadas de forma artificial e intencionada tanto por las señaladas granjas de ordenadores, como por bots automatizados que ha estudiado Ferrara (2016)[51] u otros vectores tecnológicos de generación y difusión al servicio de sus creadores. El fenómeno ha sido analizado por Bradshaw y Howard (2017)[52] en el contexto internacional hallándose un cuerpo de evidencias muy preocupante ya que la principal tarea de estas plataformas, que fue en su origen dar forma a la opinión pública a través del uso de «narrativas dinámicas» para combatir la propaganda diseminada en las redes por las organizaciones terroristas, ha cambiado en la actualidad alcanzado otras actividades completamente diversas como las de naturaleza política al demostrarse una efectividad o eficacia de estas técnicas en finalidades distintas de para las que fueron originariamente diseñadas.

Lo señalado hace referencia a la elaboración de la información falsa, posteriormente esta información es difundida o vectorizada en las redes sociales por grupos o personas, recientemente Guess, Nagler y Tucker (2019)[53] han estudiado qué grupos sociales —por edad— son los agentes de difusión más característicos en redes como Facebook, llegando a la conclusión de que un pequeño porcentaje de estadounidenses, menos del 8,5 por ciento compartió enlaces a los sitios de «noticias falsas» durante la campaña electoral de 2016, pero este comportamiento fue desproporcionadamente común entre las personas mayores de 65 años con independencia de la afiliación ideológica o política, los jóvenes tuvieron un papel muy inferior.

6. LA REGULACIÓN EN ESPAÑA DE LAS CAMPAÑAS ELECTORALES COGNITIVAS VIRTUALES

Nuestro legislador ha regulado la inclusión de estas campañas electorales en nuestro ordenamiento, cuando podía no haberlo hecho, dejando la regulación intacta lo que supondría la exclusión del ordenamiento jurídico de esos riesgos señalados. No solamente el legislador español ha regulado la materia, sino que la ha regulado de forma contradictoria y defectuosa. Por otra parte, la tramitación de la norma electoral se produce a través de la reforma de la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales, es decir, se lleva a cabo de forma indirecta lo que es una reforma muy profunda de las campañas electorales. Tal forma de proceder, si bien jurídicamente no es ilegítima, si representa en cambio, a nuestro parecer la intención del legislador de ocultar a la ciudadanía una reforma tan importante por lo que se podría denominar la puerta de atrás en este tipo de procesos. Pensemos que la reforma se efectúa por medio de la disposición adicional tercera de la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales.

La forma apropiada de abordar una modificación sustancial de aquel calado —que entendemos injustificable— debiera haber sido a través de la reforma de la propia Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General, mediante un debate amplio y cuidadoso reforzando singularmente la publicidad de la reforma, así como respetando la función de los órganos que tienen por misión informar jurídicamente de la compatibilidad de la medida con la Constitución y con las normas de protección de Datos. Acontece que el preceptivo dictamen del Consejo de Estado con número de expediente 757/2017 no aborda en ningún sentido la enmienda de la LOREG debido a que informa del anteproyecto de la Ley Orgánica de Protección de Datos, es decir, informa en una fase previa del proyecto normativo, pero en el iter legislativo y en el trámite de enmienda del Senado es donde se introduce esta polémica enmienda de la LOREG. Pensamos que lo anterior es grave porque es una forma de eludir el control de un órgano de relevancia constitucional cuyo origen se debe buscar en la propia redacción de la LO del Consejo de Estado 3/1980, de 22 de abril, y que para evitar estas graves elusiones a su control, debería de lege ferenda o bien efectuar su dictamen al final del iter legislativo, lo que afectaría negativamente a su eficacia de control ex ante y, en todo caso, antes de la promulgación de la norma, o contemplar un doble dictamen previo (proyecto de Ley) y posterior (Ley concluida) para evitar las situaciones como la señalada de dudosa constitucionalidad si atendemos a la función del Consejo de Estado que, como precisa el art. 3[54] de su reglamento, es velar por la constitucionalidad, legalidad y oportunidad de las normas sujetas a dictamen. Si se elude dictaminar sobre las mismas porque se introducen a propósito como enmiendas en la fase final del íter parlamentario se frustra mediante tal elusión el control que está llamado a ofrecer el Consejo de Estado. Lo mismo ha sucedido mutatis mutandis con la función de control de la Agencia de Protección de Datos la cual no ha podido informar la modificación de la LOREG por la misma razón que hemos señalado en relación con el Consejo de Estado, argumento éste que la propia Agencia de Protección de Datos lamenta en su informe 210070/2018 que se evacúa de forma urgente para ofrecer una respuesta jurídica en materia de protección de Datos precisamente sobre el nuevo artículo 58 bis de la LOREG.

Son diversos los organismos públicos que han advertido del gran riesgo que suponen estas tecnologías[55], pero nos parece de gran interés considerar la Resolución del Parlamento Europeo de 25 de octubre de 2018, sobre la utilización de los datos de los usuarios de Facebook por parte de Cambridge Analytica y el impacto en la protección de datos[56], singularmente en su apartado: 9 cuando señala que: «Considera que debe prohibirse la elaboración de perfiles para fines políticos y electorales, y la elaboración de perfiles sobre la base de comportamientos en línea que puedan revelar preferencias políticas, como la interacción con contenidos políticos, en la medida en que, con arreglo a la legislación de la Unión en materia de protección de datos, se hace referencia a opiniones políticas o filosóficas, y opina que las plataformas de redes sociales deben supervisar e informar activamente a las autoridades si se produce tal comportamiento; considera que, igualmente, debe prohibirse la elaboración de perfiles sobre la base de otros datos, como factores socioeconómicos o demográficos, para fines políticos o electorales; pide a los partidos políticos y a otros actores que participen en las elecciones que se abstengan de utilizar perfiles para fines políticos y electorales; pide a los partidos políticos que sean transparentes en lo que respecta a su utilización de las plataformas y los datos en línea».

7. ¿ES EL INTERÉS PÚBLICO BASE SUFICIENTE PARA LIMITAR SEVERAMENTE VALORES, PRINCIPIOS Y DERECHOS FUNDAMENTALES?

Es claro que amparar el uso de datos personales de naturaleza política por parte de los partidos políticos en el interés público, es una estrategia que podríamos denominar de «taimada». Es algo que prohíbe expresamente el Reglamento 2016/679 Del Parlamento Europeo y Del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE a pesar de lo señalado por el desafortunado considerando número 56 del citado Reglamento que carece de base jurídica, es decir, normativa para desarrollar, a partir de él consecuencias jurídicas positivas en el marco del derecho interno de los Estados miembros de la UE ya que su naturaleza es meramente la de motivar de modo conciso las disposiciones esenciales de la parte dispositiva como argumenta Pascua Mateo (2006:148-152)[57]. Hay que precisar que en la parte dispositiva del reglamente no existe previsión normativa de lo que se argumenta en la motivación del Reglamento, en otras palabras, no existe norma reglamentaria. Sin perjuicio de que su redacción tampoco es congruente con el acervo y tradición comunitaria en materia interpretativa en lo que respecta a la protección de datos como es de fácil deducción de los muy diversos dictámenes y opiniones del extinto grupo de trabajo del artículo 29. Pero el uso de conceptos jurídicos indeterminados descontextualizados, como es el «interés público» hace posible maniobras como la que recoge finalmente nuestra Ley. El problema se encuentra, también aquí, en que no se advierte por ninguna parte el «interés público» en que los partidos políticos —organizaciones privadas revestidas de funciones públicas— accedan a ese tipo específico de dato personal de naturaleza política. Simplemente no lo precisan y aunque se compartiese una opinión evolutiva acerca de que los partidos fuesen alguna forma de órganos del Estado in fieri y de lege ferenda, lo que jurídicamente no son, tampoco se podría comprender ya que las posibilidades de ingeniería social que hace posible esta concepción son radicalmente contradictorias con el respeto de la dignidad de las personas proclamado en el artículo 10 de la Constitución.

La ingeniería de datos pretende tratar a las personas como «cosas» los sistemas de propaganda cognitiva virtual tienen por objetivo central cosificar al elector explotando su privacidad en favor de la propaganda política partidista.

Que la cosificación haya sido y sea una forma de actuar de los poderes privados en la búsqueda del lucro a través del comercio es muy distinto de que los ciudadanos entren, contra su voluntad, en un mercado en el que la mercancía es precisamente ellos. Mercancía que, además, no es respetada desde que se cosifica y se explota sus sesgos psicológicos íntimos (lo que incluye patologías médicas) expresados en sus hábitos y conductas de navegación en las redes sociales. El «interés público» tiene sentido como concepto restrictivo de derechos, en categorías de datos como los datos de salud, por ejemplo, cuando una pandemia grave puede afectar a la vida de millones de personas, en esos y en muy limitados casos más, el bien superior, la vida, puede ser ponderada por encima de la privacidad individual, sin perjuicio de que en estos casos se adopten un conjunto de garantías que, esas sí, están debidamente protegidas en el Reglamento Europeo de Protección de Datos. Pero, bajo ningún concepto se puede extralimitar el «interés público» como instrumento al servicio del interés privado de los partidos políticos, porque no se supera el test de ponderación[58] entre privacidad e intereses privados de los partidos políticos o de poder que éstos representan Barak (2017:385-406)[59], tampoco se superaría si fuese el Estado quien pudiese utilizar esos datos para funciones electorales. En efecto, en buena medida el uso de los datos personales políticos de los ciudadanos por los partidos políticos es una erosión muy severa de la privacidad, una vuelta al pasado en la evolución de los derechos, es la deconstrucción o la involución de la idea de privacidad acuñada por Warren y Brandeis (1995)[60] es una forma de conferir un poder de control injustificado e inmenso de los electores por los partidos políticos que carece de justificación alguna más allá de incrementar la capacidad de control de estos últimos sobre la sociedad política, lo que es a nuestro juicio inadmisible, parafraseando a Dworkin (2018:263)[61] con ésta regulación no se podrá escapar a su influencia, pero debemos resistir la dominación.

En el sentido señalado las conclusiones del Supervisor Europeo de Protección de Datos, Giovanni Buttarelli sobre la manipulación en línea y los datos personales[62] son a nuestro juicio correctas y plenamente compartibles: «La manipulación en línea supone una amenaza para la sociedad porque las burbujas de filtro y las comunidades cerradas hacen que sea más difícil para las personas entenderse entre sí y compartir experiencias. El debilitamiento de este “pegamento social” puede socavar la democracia, así como varios derechos y libertades fundamentales. La manipulación en línea es también un síntoma de la opacidad y la falta de rendición de cuentas en el ecosistema digital. El problema es real y urgente, y seguramente empeorará a medida que se conecten más personas y cosas a internet y aumente la importancia de los sistemas de inteligencia artificial. En la raíz del problema está en parte el uso irresponsable, ilegal o inmoral de los datos personales. La transparencia es necesaria, pero no suficiente. La gestión de contenidos puede ser necesaria, pero no se puede permitir que comprometa derechos fundamentales. Por tanto, parte de la solución radica en hacer cumplir las normas ya existentes, en particular el RGPD, rigurosa y juntamente con otras normas aplicables a las elecciones y al pluralismo en los medios de comunicación».

El uso de los datos personales y de comportamiento o conducta de los ciudadanos sirve para muchos propósitos, por ejemplo, la explotación del miedo a través de las deepfakes diseñadas con esa finalidad —como vimos más arriba— a través de la explotación de la ira, de las emociones como han estudiado Parker e Isbell (2010:548–550)[63] y la provocación artificial o inducción de los estados emocionales con base en imágenes —video— como analiza Elinor (2019:119-130)[64] sobre sujetos específicos o grupos concretos a través de circuitos de refuerzo basados en las deepfakes es, precisamente, a lo que puede conducir el uso de los datos personales de los ciudadanos por los partidos políticos, produciendo severas rupturas o distorsiones del espacio común o público como señalan Marchal y Neudert (2018)[65] en los electorados objetivos. Una forma posible de radicalizar las campañas electorales y crear divisiones sociales mediante la polarización de mayor profundidad que las ya existentes en la tradición no virtual. No debemos olvidar aquella admonición que señalara Duverguer (1967:262)[66] de que, en las sociedades desarrolladas la publicidad es el opio del pueblo. Cuando escribía Duverguer no podía imaginar el nivel de refinamiento que la propaganda podía alcanzar y en el campo de la política cognitiva virtual esa advertencia es aún más importante que en el mercado ya que la apelación a las emociones, a los sentimientos tiene una relevancia realmente muy significativa, como ha estudiado Brader (2005:388-405)[67] en la adopción y cambio de actitudes de los electores, conjuntamente con la manipulación en las formas de generar ansiedad, enfado o esperanzas como señala Valentino (2008)[68] las cuales han tenido un impacto significativo sobre los ciudadanos o electores lo que conduce a la fragmentación de la sociedad en su conjunto y a su segmentación rompiendo valores identitarios comunes como han demostrado Benkler, Faris y Roberts (2018)[69] y hemos considerado anteriormente. Debemos recordar por último que nuestra mente como advierten Pluviano y Della Sala (2019:22)[70] no es reproductiva, sino reconstructiva. Y en esa reconstrucción de la realidad comete inevitablemente errores, ya que se basa en los propios prejuicios y marcos de referencia. Nuestra mente asimila y recuerda los hechos al vincularlos en un marco de referencia, una narrativa que tratamos de mantener coherente a toda costa. Por ello, desmontar una información incluso si se revela incorrecta o falsa deja un vacío en el modelo mental que se ha creado generando disonancia cognitiva[71]. Y esa laguna o disonancia la toleramos muy mal, por lo que preferimos un modelo de pensamiento falso pero completo (coherente) a uno parcial (incoherente) y que no encaja con nuestros conocimientos previos.

Estos aspectos no los desconoce la Comisión Europea y así lo ha reflejado en su documento de orientación titulado «Elecciones libres y limpias»[72] cuando señala: «El Comité consideró que la publicidad personalizada en línea podría ser capaz, en algunas circunstancias, de afectar significativamente a las personas cuando, por ejemplo, es intrusiva o aprovecha su conocimiento de aspectos vulnerables de las personas. Dada la importancia del ejercicio del derecho democrático al voto, los mensajes personalizados cuyo posible efecto sea, por ejemplo, que las personas no voten, o voten de una forma específica, podrían potencialmente cumplir el criterio de efecto significativo. Por tanto, en el contexto electoral, los responsables del tratamiento deben garantizar que todo tratamiento que utilice esas técnicas es lícito con arreglo a los citados principios y las estrictas condiciones expuestas en el Reglamento general de protección de datos».

Pese a lo señalado el Reglamento Europeo de Protección de Datos facilita estos tratamientos. Muestra de lo anterior en nuestra nueva regulación normativa es la expresión contenida en el artículo 58 bis de la LOREG. Recordemos que en el número 1 sobre la Recopilación de datos relativos a las opiniones políticas de las personas, ese número concluye con la expresión: «únicamente cuando se ofrezcan garantías adecuadas». Las garantías no se determinan ni enumeran en la propia norma, lo que sería lo jurídicamente debido, tan sólo se señala la expresión vacía «garantías adecuadas» remitiendo su determinación quizá a una norma de desarrollo reglamentario. La propia Agencia de protección de datos se sorprende de que un elemento tan importante como las garantías no queden concretamente especificadas en la misma Ley Orgánica[73].

Al margen de lo anterior de por si grave la Agencia de Protección de Datos en un informe jurídico remitido por su propio Gabinete Jurídico, referente a la consulta planteada por la directora de la AEPD sobre el tratamiento de datos relativos a opiniones políticas por los partidos políticos al amparo del artículo 58 bis de la Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General, trata de fijar las garantías que debiera haber fijado el legislador con rango orgánico. El informe de la AEPD, naturalmente, carece de rango normativo para fijar lo que deberían ser las garantías mínimas para realizar un tratamiento que, a nuestro juicio, no es constitucional porque vulnera la dignidad de los ciudadanos contemplada en el artículo 10 de nuestra norma suprema ya que la norma que consideramos tiene directa incidencia sobre el libre desarrollo de la personalidad de los ciudadanos desde el momento en el que ésta puede ser condicionada por partidos políticos que traten de dirigirla a través de tecnologías de propaganda psicológica que explota sus sesgos cognitivos, que los partidos políticos ni tienen el derecho de conocer ni el derecho a usar en contra de la voluntad libre del ciudadano. Así como violenta y sacrifica el apartado segundo del artículo 16 de la Constitución que señala: «Nadie podrá ser obligado a declarar sobre su ideología, religión o creencias». El acceso por los partidos políticos a los datos personales políticos de los ciudadanos representa una forma de auto declaración contra la voluntad de los ciudadanos, se trata de una forma de declaración «obligatoria» explícita ya que se extrae por medio de un algoritmo de minería de datos que analiza la conducta del ciudadano en Internet contra la voluntad de sus titulares mediante el uso de instrumentos de procesamiento de información Big Data, lo que es y debería seguir siendo una conducta privada que debe estar preservada de la mirada curiosa y atenta tanto de poderes privados como de los poderes públicos con finalidades políticas, es decir, de poder. El 22 de mayo de 2019 el Pleno del Tribunal Constitucional por unanimidad ha declarado contrario a la Constitución y nulo el apartado 1 del art. 58 bis de la Ley Orgánica 5/1985, de 19 de junio, del Régimen Electoral General, que permite a los partidos políticos recoger datos personales relativos a las opiniones políticas de los ciudadanos. La sentencia, cuyo ponente ha sido el Magistrado Cándido Conde-Pumpido, ha estimado el recurso de inconstitucionalidad presentado por el Defensor del Pueblo el 5 de marzo de 2019.

8. AUTOCENSURA

Es claro, en conexión con lo anterior, que toda forma de control de la actividad de los ciudadanos en las redes supone una restricción de mayor o menor intensidad o impacto sobre la libertad de expresión, art. 20 de la Constitución tanto en su vertiente activa, emisión de pensamientos como sobre la pasiva, recepción de estos.

No podemos dejar de recordar por ello las certeras y siempre actuales consideraciones de John Stuart Mill (1997)[74] para quien: «El valor de un estado, a la larga, es el valor de los individuos que lo componen; y un estado que pospone los intereses de la expansión y elevación mental de sus individuos, a un poco más de perfección administrativa o a la apariencia que de ella da la práctica en los detalles de los asuntos; un estado que empequeñece a sus hombres, a fin de que puedan ser más dóciles instrumentos en sus manos, aun cuando sea para fines beneficiosos, hallará que con hombres pequeños ninguna cosa grande puede ser realizada; y que la perfección del mecanismo, a la cual todo lo ha sacrificado, terminará por no servirle para nada por falta de poder vital que, en aras de un más fácil funcionamiento de la máquina, ha preferido proscribir». En efecto, un intercambio de ideas carente de inhibiciones (basadas en sutiles y menos sutiles formas de censura) y de información robusto (la expansión y elevación mental que preconiza Mill), en el sentido de autónomo con respecto a los medios de comunicación de masas convencionales, puede predisponer y formar ciudadanos no sólo bien informados, sino, y lo que es más importante «formados», amén de fortalecer las relaciones comunicativas ciudadanas, lo que no supone otra cosa que construir una estructura democrática para el diálogo (vocación integradora del medio de comunicaciones) y una ciudadanía, a la postre, mejor formada y capacitada para participar en los procesos democráticos, según los modelos institucionales informales o formales que se puedan articular.

Internet, no puede dudarse, constituye una fuente inagotable de expresión, de intercambio de ideas. Como ya advirtiera Milton (2000:103)[75] con ocasión de la respuesta ante la orden del Parlamento Británico de 14 de junio de 1643, por la cual se redacta la Aeropagítica, el autor señalaba: «Donde hay mucho deseo de aprender es natural que haya mucho que argumentar, muchos escritos, diversas opiniones: porque la opinión en la gente de valía no es más que un conocimiento en desarrollo y formación. Con estos fantasiosos pavores a cismas (en referencia a la orden que autorizaba la censura previa) y sectas, estamos perjudicando el serio y celoso afán de conocimiento y de comprensión que Dios ha despertado en la gente de esta ciudad…». La confianza de que las comunicaciones se están desarrollando de un modo privado y fiable, fomenta la razonable esperanza de que el medio de comunicación responde a las expectativas de privacidad que de él son exigibles y conduce a un uso del instrumento de comunicaciones adecuado a las necesidades de cada usuario, sin que el temor fomente en cada interlocutor un proceso de autocensura en las expresiones empleadas o en las informaciones que se pretendan comunicar, que vaciaría de contenido el concepto de una opinión pública libre en este medio de telecomunicaciones, donde la libertad encuentra su garantía de que no es condicionada por intercepciones ilegítimas o usos espurios de los datos personales que coaccionen la calidad, variedad, tipo o naturaleza de cualquier forma de expresión a la que el medio pueda conferir operatividad. Es decir, induce en la comunidad política la percepción correcta de que una injerencia irrestricta se ejerce legalmente sobre sus comunicaciones personales y que conduce a limitar el ejercicio de los derechos fundamentales, no sólo en lo que respecta al contenido de lo comunicado, sino igualmente en el proceso no condicionado y libre de búsqueda de información, faceta comprendida en el derecho de opinión y expresión del artículo 19 de la Declaración Universal de Derechos Humanos, de 10 de diciembre de 1948, actividad en la actualidad vigilada y productora, razonablemente, de temor, generador de autocensura. En estas condiciones de vigilancia masiva de todos los ciudadanos (que hagan uso de Internet en España), la autocensura, tal vez la forma de censura más dramática y restrictiva de la libertad ya que afecta directamente a la dignidad del hombre en su fuero más interno, daña irremediablemente la vertiente subjetiva de la persona, como erosiona simultáneamente el derecho reactivo de defensa frente al Estado que la libertad de expresión contiene en su seno y, objetivamente considerada, destruye la institución política de la opinión pública libre —en este medio de comunicación—, dado que nutrir un instituto fundamental para la democracia de afluentes debilitados, de expresiones sin vigor y atemorizadas, es generar un plasma insustancial, estéril e inútil que escasos servicios puede rendir a la democracia, debido esa autocensura que produce el denominado «Chilling Effect»[76] o efecto de enfriamiento de la expresión; el retraimiento de los hablantes o la autorestricción en la expresión por el temor al castigo desproporcionado.

Hay que ser conscientes de que la norma no ha sido elaborada por los ciudadanos objeto de esta regulación, sino precisamente por aquellos, los políticos profesionales que encuentran en las tecnologías de Big Data y procesamiento de la información que consideramos, un instrumento como jamás habían podido imaginar tener en sus manos para controlar o, al menos intentarlo a sus electores. Por ello es poco realista pensar que aquellos que se van a beneficiar de su inmenso poder pongan reparos a su aparición y desarrollo, el razonamiento alcanza igualmente a las instituciones Europeas que han desarrollado un Reglamento de Protección de Datos que mediante conceptos jurídicos indeterminados, pero fácilmente determinables por quienes se benefician de ellos no han tenido reparos en adoptar un Reglamento que, en la materia que nos ocupa, es en alguna medida responsable de lo sucedido en la regulación española. Los Europarlamentarios y los miembros de la Comisión forman parte de los políticos profesionales que produce la democracia representativa de partidos. Y, si bien, se realizan admoniciones contra el poder de los nuevos instrumentos técnicos al servicio de la política, la realidad es que pudiendo haberlos limitado de forma efectiva esto no se ha hecho. Detrás de ello parece encontrarse una concepción transpersonalista de los derechos que ignora lo que a nuestro juicio sería la opción coherente con la tradición europea respetuosa de los derechos fundamenta que sería la personalista y que es la que debe ser restaurada tras esta agresión. Es decir, y con Vanossi[77] en mantener y defender la concepción personalista, de raigambre Kantiana que, según Radbruch, determina que consideremos a la persona humana como un fin en sí mismo, en lugar de admitir el sentido opuesto de las concepciones transpersonalistas, para las que el Estado es fin en sí mismo, mientras que el hombre es tan sólo un medio. El hombre no puede ser utilizado únicamente como medio por ningún hombre, ni por otros, ni siquiera por sí mismo, sino siempre a la vez como fin y en eso consiste, precisamente, su dignidad (la personalidad) elevándose sobre las cosas[78]. Se cosifica a un ser humano cuando, olvidando o desconociendo su dignidad se le presenta a los demás miembros de la comunidad como «cosa» que es precisamente lo que permiten las campañas electorales cognitivas virtuales, cosificar al elector mediante la justificación de que existe un interés público en que ello sea así para fortalecer el ya inmenso poder de los partidos políticos como si se tratasen de órganos del Estado, no que ejerzan funciones de órgano del Estado como recordara Leibholz (1980:208)[79] citando la célebre decisión de Pleno del Tribunal Constitucional Federal alemán de 20 de julio de 1954 y degradando en vez de fortaleciendo una democracia ya de por si deteriorada.

9. FEUDALISMO 3.0

Todo lo anterior nos lleva, como argumentan Bauman y Donskis (2019:131)[80] a la transición de lo kafkiano a lo orwelliano, que marca la línea divisoria entre el mal sólido y el mal líquido, un mal liquido difuso, adaptable y que rellena o puede rellenar todas las cavidades otrora reservadas a espacios de libertad no anegados por ese control líquido. El ciudadano de cristal, aquella distopia que se creía imposible y a la que no se podía llegar, finalmente está llegando y se está asentando en nuestras sociedades, las normas de protección de datos no garantizan de forma eficiente la protección adecuada y necesaria de los ciudadanos y de su privacidad en las redes sociales y en sus interacciones de navegación. Lo señalado conduce a nuevas formas de control social que nos alejan del ciudadano responsable y dueño de márgenes de libertad aceptables para transformarlo en una especie de súbdito digital inerme que no es capaz de autodeterminarse en el entorno virtual y al que se le analiza como a un espécimen bajo la lente del microscopio de la analítica predictiva para saber qué piensa, qué siente, qué desea y sobre esos datos formular tentativas para cambiar, orientar y conducir su conducta.

El control de la sociedad en su conjunto y de la conducta individual de los ciudadanos es lo que hemos venido examinando, de aquí a sistemas de puntuación ciudadana o «crédito social»[81] como el que ya se ensaya en China con su proyecto totalitario «Internet Plus»[82] hay poca distancia si no se adoptan medidas vigorosas que debiliten de forma consistente la capacidad de control y manipulación de los datos por organizaciones, Estados e intereses públicos y privados que operan al margen del bien común. Esa puntuación ciudadana ya es operativa en la actualidad y ya está entre nosotros, por ejemplo, para la fijación de las condiciones en que se puede obtener un crédito, acceder a un empleo o quizá contratar una póliza de seguro médico. Pero también puede generar un neo paternalismo del Estado en el que el Gobierno no sólo esté interesado en lo que hacemos, sino que también se asegure de que hacemos lo que debemos, como preparar por nosotros nuestras declaraciones de impuestos. Creemos que, una fórmula adecuada para cambiar el paradigma es permitir que la información tenga valor para quien la genera, es decir patrimonializar[83] los datos de carácter personal y que estos sean de titularidad de los ciudadanos, argumento defendido entre otros por Pentland (2018:17)[84]. Hoffmann-Riem (2018:116)[85] señala —sin abordar si pudiese y en qué medida existir un derecho exclusivo o comparable con o idéntico a la propiedad— que, desde un enfoque jurídico-político sería incluso defendible, cuando no imperioso, obligar a los proveedores de servicios de Internet a pagar a los usuarios una remuneración justa cuando consientan la colecta y utilización de datos especialmente valiosos para el tratamiento. Las opciones que se abren a las sociedades democráticas no están cerradas completamente, pero se están cerrando. El momento de tomar decisiones sigue siendo posible pero se avecinan tiempos complicados precisamente con la Internet de los objetos que estrecharán más el ya estrecho círculo de lo que se podrá saber de cada ciudadano sin ventaja alguna para él. Algo análogo sucede con la tecnología 5G en la que China y los Estados Unidos pujan por definir estándares ya que la definición del continente determinará el contenido y las formas de su apropiación tecnológica desde la perspectiva del derecho de patentes.

La libertad de expresión corre igualmente riesgos ciertos. Cuando el ciudadano pensaba y sabía que lo que hacía era una actividad que no estaba siendo monitorizada por el escrutinio sistemático y constante de organizaciones privadas y públicas, podía navegar con libertad por donde le llevase su curiosidad en el ejercicio de su libertad por saber, por conocer, en suma, por aprender que no es otra cosa que una dimensión esencial de la libertad de pensamiento. Cuando el ciudadano empieza a saber que todo movimiento en las redes es almacenado, registrado y analizado meticulosamente para extraer cuidadosamente consecuencias analíticas de su conducta, la libertad puede dejar paso a la restricción por el temor cierto de que un conjunto de algoritmos anónimos y con una lógica secreta —en el sentido de que los algoritmos no funcionan libres de errores o de una programación dirigida y finalista, con lo que los principios de equidad y justicia se verán reemplazados por la arbitrariedad de la Ley de la programación, Ley contra la que los ciudadanos no podrán defenderse—, lo clasifiquen y, en virtud de esa clasificación se puedan sufrir perjuicios derivados de una simple e inocua forma de ser o de ejercer la libertad. Si se escribe, si se opina, si se discute o se visita una página web sospechosa, es perfectamente posible recibir una etiqueta electrónica clasificatoria en algún lugar geográfico del vasto universo virtual —posiblemente no sujeto a la jurisdicción Europea— en lo que damos en llamar el cambio de paradigma de una sociedad de clases a una sociedad clasificada donde el ciudadano pueda formar parte de índices de buena o mala conducta ciudadana o social, de ser un activista y mal ciudadano sospechoso o alguien con una conducta ordenada según los estándares que se crean apropiados por el mercado o por el Estado. Helbing y Freig (2018:74-75)[86] sostienen y, es un argumento que compartimos, que para crear transparencia y confianza suficientes las principales instituciones científicas deberían actuar como depositarias de la información y de los algoritmos, que actualmente escapan al control democrático. Ello también requeriría un código de conducta adecuado que, como mínimo, deberían cumplir todos los que tuviesen acceso a la información y algoritmos delicados: una suerte de «juramento hipocrático» para los profesionales de la tecnología de la información.

La libertad de expresión genera ideas útiles para la sociedad, ideas que difundidas y recombinadas se pueden transformar en innovación, la fragmentación de las redes y el temor a actuar con libertad mediante la autocensura —sin desconocer la responsabilidad de los propios actos— pueden conducir a una era de repliegue de las ideas, encerradas en esferas, en redes aisladas unas de otras con pérdida de libertad general para la actividad de los ciudadanos en la sociedad en su conjunto transformándose las redes en un sistema de control como nunca antes se había pensado disponer, sin desconocer como ya señalamos que las redes no son en absoluto homogéneas como no lo es la sociedad. Nuestra experiencia actual es tributaria del posmodernismo que ha pretendido diluir en un «relato fragmentado» la realidad y en el que la «verdad» queda reducida a la «retórica victoriosa» de las ideologías triunfantes en un momento histórico dado, podríamos decir que es verdadero aquello que consigue imponerse como tal sin tener en cuenta si existe o no base alguna para ello. Para esta visión equivocada pero muy real el «pasado» es una «narrativa» cuyo valor de verdad se resuelve íntegramente en el presente, siendo el presente el que se «inventa» ese pasado en función de intereses políticos o ideológicos, en sentido análogo McIntyre (2018:137)[87]. La ignorancia, el miedo y la confusión conducen a nuevas formas de «conformidad» social y pasividad por indiferencia a la verdad, en alguna forma ya advertidas hace siglos, por ejemplo, por Étienne de la Boétie (2018:31)[88] en su no superado discurso sobre la Servidumbre voluntaria en el que también recuerda que: «el pueblo, suele ser suspicaz con quien le ama e inocente con quien le engaña» y en la actualidad por Sunstein (2019)[89] que desgrana con rigor los sesgos psicológicos que propician la conformidad, advirtiendo de la necesidad de promover el disenso y el pluralismo para avanzar en nuestra evolución como sociedad abierta en expresión Popperiana.

No podemos dejar de apuntar un dato central que entendemos de singular importancia en las modernas democracias de partidos y es la absoluta desconexión jurídica que produce el sistema representativo entre electores y elegidos como señalamos al principio de este trabajo y que en el fondo hace posible que la mentira política carezca de un control rápido y efectivo entre representantes que mienten y electores que carecen de instrumentos jurídicos para impugnar esa mentira con efectividad jurídica.

Como señalara Carré de Malberg (1998:872)[90] lo que caracteriza al régimen representativo es que, en él, el pueblo no tiene la potestad de decidir; el cuerpo electoral es desde luego órgano de creación del Parlamento, pero no órgano de volición; más aún —prosigue el autor— el fin mismo del régimen llamado representativo es excluir sistemáticamente al pueblo de la potestad de querer o sea de decidir por el Estado y reservarla únicamente a los representantes. Así pues, en la democracia representativa todos los esfuerzos que pudieran intentarse para que el cuerpo de ciudadanos activos fuese considerado como un órgano primario de voluntad estatal fracasarán ante la infranqueable objeción de que aquí el pueblo se limita a nombrar el órgano encargado de querer. La diferencia jurídica capital que separa estas dos clases de democracia (la directa o pura y la representativa) es que en la democracia pura los elegidos de los ciudadanos (representantes etimológicamente considerados o la única fórmula de representación que Rousseau (1991:51)[91] consideraba posible) han de expresar la voluntad de estos y, por este motivo, sus decisiones quedan subordinadas, bien sea en cuanto a la iniciativa, bien sea en cuanto a la perfección de la decisión, a una voluntad preponderante, que es la de la asamblea del pueblo, asamblea que la democracia electrónica podría controlar siempre que renuncie al voto secreto ya que es en el secreto en el que se producen las manipulaciones y fraudes técnicos[92]. En la democracia representativa el cuerpo de los elegidos no representa una voluntad anterior ni sus decisiones dependen de una voluntad que domine la suya, sino que crea él mismo la voluntad de la nación (del Estado) por la que está encargado de querer. Y precisamente en esto es un órgano de la nación. Pues —importa observarlo (recuerda el autor)— en realidad únicamente en el caso de la democracia pura es cuando se produce una representación en el sentido ordinario de la palabra.

Carré de Malberg insiste en el estudio del régimen parlamentario, como corrección del sistema representativo, que es verdad que incluso en el sistema parlamentario los electores no pueden imponer un programa obligatorio a sus elegidos en el momento de la elección, ni pedirles cuentas jurídicamente de sus actos en el transcurso o al finalizar la legislatura. Tal como lo entendían Sieyès y Barère, los ciudadanos en el sistema representativo no tienen ninguna participación en la potestad legislativa; la oposición pues entre régimen representativo y democracia consiste esencialmente en que en ésta el ciudadano es legislador y en aquella sólo es elector. Esta es la razón por la que Hans Kelsen (2002:509)[93] señalaba que desde el momento que las constituciones modernas prohíben expresamente toda vinculación formal del diputado a las instrucciones de sus electores, y hacen jurídicamente independientes las resoluciones del parlamento de la voluntad del pueblo, pierde todo fundamento positivo la afirmación de que la voluntad del parlamento es la voluntad del pueblo y se convierte en una pura ficción (inconciliable con la realidad jurídica). La ficción —continúa Kelsen— presta aquí un eminente servicio de servir de freno al proceso ilimitado de la evolución democrática, la cual encuentra su comienzo y su fin, al mismo tiempo, en la introducción del parlamentarismo.

En efecto, se trata de una ficción de aquellas descritas por Hans Vaihinger (1924:200)[94] y su Filosofía del «como sí»[95] junto con la pregunta que el filósofo se formulaba: ¿Cómo es posible que lleguemos con ideas falsas a resultados acertados? Si bien, las ideas que podrían aquí considerarse falsas, no necesariamente lo son, sino que representan más bien una desviación técnica interesada de la idea democrática desconocida por una mayoría social, como precisara George Jellinek (2000:507)[96] que advierte las insuficiencias del modelo con relación a otro modelo del que se reivindican facultades de control y responsabilidad que el sistema representativo no satisface en un momento histórico en el que los ciudadanos son conscientes de esas insuficiencias y de lo insatisfactorio de tal modelo en un nuevo marco de participación política deseada.

Lo anterior a nuestro juicio correcto debe, no obstante, equilibrarse o ponderarse con los conocimientos que las ciencias sociales nos han proporcionado en los últimos 50 años sobre lo que de cierto hay en conceptos abstractos y en muchas ocasiones ideales como voluntad general u opinión pública, sería tedioso e infructuoso revisar la extraordinariamente amplia literatura que sobre los tópicos señalados viene produciéndose. A nuestro juicio creemos esencialmente correctas las aportaciones realizadas por Joseph Schumpeter (1996:321-342) en el capítulo XXI de su ensayo Capitalismo, socialismo y democracia[97] y que recientemente Raffaele Simone (2015:94)[98] sintetiza precisando el impresionante análisis de los límites, las distorsiones y las insuficiencias que hacen insensatos los conceptos de voluntad general y de opinión pública, Schumpeter, en efecto, no reconoce al público idea alguna del bien común, sostiene en el ensayo que: «el ciudadano típico se hunde a un nivel inferior de rendimiento mental apenas entra en el campo político. Discute y analiza de un modo que dentro de la esfera de sus intereses reales él mismo reconocería fácilmente como infantil. Vuelve a ser un primitivo. Su pensamiento se convierte en asociativo y afectivo» lo que es congruente con la racionalidad limitada[99] del ser humano como advirtiera Herbert A. Simon (2006:52). En consecuencia, su voluntad no madura por la fuerza de opiniones racionales, sino que es «una mezcla indeterminada de impulsos vagos, que operan sobre eslóganes recibidos y sobre impresiones erróneas», para activar esa mezcla basta un hecho imprevisto, la imaginación que se pone en funcionamiento, el prejuicio ideológico o personal, circunstancia señalada también por Karl Popper (1957:385)[100] para que el despecho o el favor, el efecto seductor o repulsivo de una persona o que un grupo pueden inspirar. Podemos reconocer en lo anterior como los modelos de democracia asamblearia informal, recrean algunos de los nefastos efectos señalados por Schumpeter y que se han experimentado, por ejemplo, en España en fenómenos políticos asociativos de escasa articulación como el 15M que se han condenado también a través de las redes sociales posteriormente y de los que han surgido partidos políticos como Podemos.

El sistema representativo basado medularmente en la prohibición del mandato imperativo, art. 67.2 de la Constitución es una herramienta extraordinaria para la partidocracia ya que es el instrumento técnico-jurídico que hace irresponsable al partido mediante el más eficaz aislante de la sociedad. Recordemos con Bobbio (2003:505-506)[101] que la concepción original de la democracia no tuvo en cuenta la existencia de los partidos políticos; al contrario, en una de las más firmes defensas de la democracia representativa, la del Federalista y en su número X escrito por Madison (1994:35-41)[102] con algún precedente en Hume (1994:22)[103] señalaba que uno de los beneficios de la democracia representativa respecto de la democracia directa estribaba, precisamente, en la mitigación de los efectos más perniciosos de las facciones, es decir, de los partidos porque el ciudadano, el átomo social, en su independencia e individualidad es puesto en contacto directamente y sin intermediarios con el órgano que detenta el sumo poder de tomar decisiones colectivas obligatorias para toda la sociedad. No obstante, Norberto Bobbio (2003:52)[104] recuerda que la democracia representativa, que no podía avanzar sin el progresivo aumento de la participación electoral hasta el límite del sufragio universal, no solamente no eliminó a los partidos, sino que los hizo necesarios. El término «partidocracia» refleja la situación en la que quienes toman las decisiones en las actuales democracias representativas no son los representantes en su calidad de libres mandatarios de los electores, sino los partidos mediante la disciplina de un mandato imperativo de partido prohibido jurídicamente en España en el número 2 del artículo 67 la Constitución. Estos genuinos cuerpos intermedios contra los que conscientemente se luchaba finalmente han sido los que han heredado el sistema representativo democrático-liberal y hacen uso de él con relativa discrecionalidad en buena medida como genuinos rent seekers en la línea señalada por Tullock (1995:137-146)[105].

Los modelos de democracia deliberativa, asociativa o consociativa chocan con el muro jurídico invisible para los no iniciados, para los ciudadanos no expertos, que es la total independencia jurídica electores-representantes y la obviedad clara para los mismos ciudadanos de la dependencia, a su vez nítida y política entre los partidos y sus miembros representantes. Repensar los procedimientos de destitución de los representantes electos es una técnica posible y viable al servicio de una misma idea: atemperar el poder de los partidos sobre sus miembros representantes. La confianza y la desconfianza como señala Bockenforde (2000:148)[106] puede ser un buen ejemplo en el que articular el debate, y que se traduce en el recall en una limitación temporal del ejercicio del «cargo» que es una forma de control del poder y esa actividad de control es netamente jurídica. Los mecanismos técnicos o los procedimientos electrónicos pueden jugar un renovado papel al ser vectores no necesariamente únicos pero quizá sí suficientemente eficientes para articular los procesos previos de debate, reflexión pública, reunión de las firmas de destitución —lo que exige que el proceso no sea secreto y sea realizado mediante métodos de firma electrónica— todo ello rodeado de una regulación que determine los plazos, formas, modos, métodos y condiciones de ejercicio y que no requieren como hemos visto una extrema imaginación, sino adaptar los procedimientos ya existentes a las exigencias sentidas por cada comunidad política nacional con la finalidad de restaurar la confianza perdida o, al menos, intensamente erosionada por un sistema que, aun cuando necesario, su funcionamiento se ha apartado de las justificaciones que le dieron origen con una captura por los partidos políticos de los representantes y con nulo control y responsabilidad por parte de los electores que ha deteriorado gravemente el respeto y confianza por el procedimiento democrático. Lo que supone, en todo caso una relativización evidente de la normatividad de la Constitución como ya advirtiera Werner Kagi (2005:54-72)[107] porque en el fondo los valores superiores y fundamentales que son la esencia del programa Constitucional quedan afectados por la pérdida de confianza de los ciudadanos en las instituciones participativas. Benjamín Constant (2010:116)[108] no podía ser más preciso cuando advirtiera que cuando el pueblo cree en su Constitución mira a la misma como un todo indivisible y cuando los roces ocasionados por las faltas de ésta lo hieren, se aleja de ella en su totalidad. En vez de dirigir su descontento contra ciertas partes cuya mejora podría esperar, lo dirige contra el conjunto al que mira como incorregible y transforma en terreno propicio para el surgimiento de los populismos agresivos que encuentren en los nuevos medios electrónicos una ecología de nuevos instrumentos técnicos verdaderamente eficientes y aptos para su propagación y desarrollo en la sociedad virtual de la información.

La intensa fragmentación de la opinión pública que las nuevas tecnologías están propiciando, las nuevas formas de populismo que esa fragmentación impulsa para la obtención del poder político exigen hoy tal vez más que nunca una reforma en los partidos políticos que advierta de su papel central de vertebradores de las corrientes de pensamiento y opinión políticas, en vez de que las fuentes de polarización de la opinión externas o internas que crecen al calor de las nuevas tecnologías brevemente examinadas supriman esa capacidad de vertebración necesaria en las democracias representativas. Comprender las tecnologías implicadas es esencial para poder regularlas adecuadamente por ello la interacción Ciencia y Derecho es cada vez más crucial en un mundo donde la tecnología —impulsada por poderes privados— genera una forma de legalidad fáctica, como advirtiera correctamente Lawrence Lessig (2006)[109] capaz de generar distorsiones sociales cada vez más profundas y rápidas que el Derecho tiene como vocación prevenir.

10. ALGUNAS REFLEXIONES

La mentira con sus diversos contenidos: miedo, exageración, denigración, falsificación de la verdad, e incluso de la propia historia ha adquirido una nueva dimensión en su propagación y efectos mediante una nueva vestimenta de naturaleza tecnológica. Con ser lo anterior relativamente novedoso la peculiaridad de las deepfakes es que, como unidad informativa audiovisual tienen la capacidad de difundirse a más velocidad y ser creídas por públicos más amplios que la mera mentira escrita de tipo Fake News que exige ser leída. La capacidad de penetración, difusión y viralidad de las deepfakes las hacen singularmente peligrosas en los procesos de articulación de la opinión pública y, en particular, en los procesos electorales debido a su capacidad de conmocionar disruptivamente el estado de la opinión pública política o de las opiniones públicas políticas mediante la apelación a los juicios emotivos inmediatos y no reflexivos. Esta categoría de deepfake electoral opera en paralelo a los sistemas electorales cognitivos virtuales, potenciando o detrayendo tendencias en específicos segmentos de opinión y fragmentando, en todo caso, el espacio público cada vez más polarizado ideológicamente, porque las redes sociales dividen no unen. Las deepfakes también rompen simultáneamente el espacio de la verdad comúnmente aceptado generando paulatinamente la conformidad e indiferencia en el electorado al relativizarse las narrativas verdaderas con la generación de la duda sobre los hechos veraces. Es claro que el ordenamiento jurídico debe responder con celeridad a estos nuevos desafíos mediáticos científicamente calculados o programados que se difunden por las redes sociales a una velocidad inusitada, pero hay que garantizar igualmente la libertad de expresión de la que las deepfakes pueden ser una dimensión desde la perspectiva, por ejemplo, de la parodia.

Capítulo III

¿Qué ha conectado los puntos? Internet, el concentrador universal

Si nos preguntamos por el papel que ha jugado Internet en la difusión de la mentira ese papel se centra en la interconexión de lo que, con anterioridad a la aparición de esta tecnología de comunicaciones, se encontraba «aislado» y separado. Las personas tenían un alcance muy limitado en lo que respecta a emitir y recibir noticias falsas, por la parte de la emisión contaban con la difusión de una información falsa a través de una red de contactos humanos o nodos muy limitada —es decir, carecía de la posibilidad de reemitir mediante bots por ejemplo una información falsa automatizada, circunstancia hoy al alcance de muchas personas que hacen uso de estos sistemas de propagación reforzada y automatizada— de esa forma la capacidad de contaminación informacional que se reducía a amistades básicamente, un concepto que la tecnología actual también ha modificado y desbordado radicalmente. Una amistad analógica era una amistad o persona a la que se conocía de forma efectiva y real, no se trataba de una suposición formalizada a través de la expresión «amistad» que se maneja actualmente en las redes sociales en las que las aplicaciones como Facebook constantemente muestran como «amigos» o potenciales amigos a la distancia de un «clik» a personas que en la tecnología analógica no lo serían, bien por distancia física, social, cultural o intelectual. Hoy eso se ha borrado por los intereses de generación de contactos de redes de empresas privadas y las amistades son aquellas que potencialmente identifica un algoritmo opaco para que esa «persona» forme parte del círculo de las amistades virtuales de cada persona que hace uso de una red social. Naturalmente detrás del algoritmo de selección existe una lógica comercial relativamente sencilla, más conexiones, más negocio para la red social ya que la red puede vender o procesar ella misma los datos de los nuevos clientes de forma que se obtengan valiosas informaciones de comportamiento destinadas a muchos nichos de negocio diversos.

De lo anterior ya podemos deducir que esas redes artificiales de amistad «provocada» que generan las redes sociales desarrollan una capacidad novedosa en lo que respecta a la difusión de ideas y noticias falsas. En primer lugar, conectan a muchos grupos pequeños en redes anidadas[1] de diversa densidad y tamaño. En segundo lugar favorecen permanentemente la suma de unidades a tales redes con lo que la red no cesa de crecer y con ello el efecto multiplicador de la información que transportan de un lugar a otro de la topología de red.

¿QUÉ ES UNA RED SOCIAL? UNA VISIÓN GENERAL

Es necesario exponer de modo sintético algunos elementos básicos de las definiciones de las redes, las redes sociales no son sino especificaciones de concretas variantes de éstas que pueden tener anatómicamente muchas formas y diversas fisiologías, por ejemplo: redes unimodales; bimodales o redes diádicas especiales y egocéntricas; si bien, conviene disponer de un conjunto de conceptos que, pensamos, son esenciales o centrales para comprender su funcionamiento en alguna medida. El estudio de las redes tiene una larga historia en el campo de las matemáticas y de las ciencias. En 1736 el gran matemático Leonard Euler se interesó por un problema llamado el problema del puente de Könisberg, en la actualidad, la ciudad se llama Kaliningrado ciudad portuaria bañada por el Mar Báltico y perteneciente a Rusia desde la Segunda Guerra Mundial. La ciudad estaba situada en las orillas y en las islas del río Pregel, que en el siglo XVIII estaba atravesado por siete puentes. El problema consistía en responder a la siguiente cuestión: ¿Es posible planificar un paseo tal que se crucen todos los puentes sin pasar por ninguno más de una vez? Las opiniones de los habitantes de Königsber estaban divididas unos pensaban que si era posible, otros negaban que lo fuera. Euler realizó una investigación que fue presentada en 1736 a la Academia de Ciencias de San Petersburgo, la respuesta de esta investigación es que no era posible planificar un paseo que recorriera todos los puentes una sola vez. Euler en su investigación y para dotarla de mayor claridad, sustituyó cada uno de los trozos de tierra firme por un punto y cada puente por un trazo, dando lugar a un esquema simplificado que se representaba en la figura que describía la topología o forma gráfica de la resolución del problema, por eso se denomina a esta área de conocimiento: teoría de grafos. Así, la isla estaba representada por un punto al cual llegaban siete trazos, pues son siete los puentes que iban a ella. La figura resultante es un grafo, entendemos por grafo —con más detalle— un conjunto de puntos que se denominan «nodos o vértices» y un conjunto de líneas que los unen, que se denominan «lados o aristas» del grafo o dibujo. El problema se reducía a dibujar la figura, partiendo de un punto, de un sólo trazo, es decir, sin levantar la pluma del papel y sin recorrer una misma línea dos veces. Los recorridos que se forman de esta manera reciben el nombre de caminos eulerianos, no vamos a exponer aquí la demostración porque queda fuera de nuestro propósito[2] la idea tan sólo es mostrar el origen del interés por las estructuras de red para la resolución de problemas.

La teoría de redes sociales, tal y como señala Kadushin (2013:80)[3] se ocupa de describir, explicar he incluso a predecir interacciones entre unidades sociales que podrían ser personas, grupos, organizaciones o países, porque las redes no son unidimensionales ni estáticas, evolucionan en el tiempo y en el espacio. Muchas redes son el producto de procesos dinámicos que conectan y desconectan nodos o puntos de una red. En todos los niveles de análisis, los nodos, tienen más probabilidades de estar conectados unos con otros, ceteris paribus si están geográficamente próximos unos de otros, los individuos tienen más probabilidad de hacerse amigos si están geográficamente próximos. Pensemos en nuestra red de amistades, esta se genera en un momento temporal dado y puede ir ganando o perdiendo amigos (nodos) a lo largo del tiempo y conexiones (líneas) con ellos, sería el denominado por Wasserman y Faust (2013:49)[4] lazo relacional cuyo rasgo definitorio es que establece una vinculación entre un par de actores. Algunos de los ejemplos más comunes propuestos por Wasermann y Faust (2013:50)[5] serían:

La evaluación de una persona por otra, expresando, por ejemplo, amistad, agrado o respeto.

Las transferencias de recursos materiales, así, transacciones comerciales, prestar o tomar prestadas cosas.

Las asociaciones o afiliaciones, por ejemplo, asistir conjuntamente a un acontecimiento social o pertenecer al mismo club social.

La interacción conductual, hablar juntos, enviarse mensajes.

El movimiento entre lugares o estatus como la migración, la movilidad física o social.

La conexión física, tales como una carretera, un rio o un puente que conecta dos puntos.

Las relaciones formales, por ejemplo, las de autoridad.

La relación biológica, tal como el parentesco o el linaje.

Las conexiones que las personas hacen afectan a la forma de la red y la forma de la red afecta a las conexiones que las personas hacen, se da pues una interdependencia recíproca. Lo que impulsa a las redes sociales a formarse son las motivaciones humanas, así como las expectativas de quienes las forman, pero también forman parte de esas redes nuestras propias limitaciones cognitivas y, por supuesto, en este último concepto debemos incluir todos los sesgos que caracterizan al ser humano[6]. Así, por ejemplo, la inclinación a la creencia y a la confirmación, antes que a la duda. La siempre peligrosa pero humana heurística de los afectos, los efectos primacía, los efectos halo colectivos que explican en parte polarizaciones rápidas en las que las redes pueden jugar un papel multiplicador[7] o viral preocupante en algunas dimensiones de actividad; más que los análisis racionales, serenos y meditados por parte de los participantes de la red así como de la puesta en práctica de actitudes de tolerancia ante múltiples problemas sociales entre quienes forman parte de algunos tipos de redes sociales.

La comunicación y difusión de las actitudes y de las conductas se propaga por las redes sociales, el contagio emocional fomenta, precisamente, la sincronía en esa interacción. Como señalan con humor Fowler y Christakis (2010:44)[8] en palabras de Eric Hoffer: «Cuando las personas tienen la libertad para hacer lo que les place, lo normal es que imiten». Son lo que podríamos denominar trampas cognitivas —sesgos— ante los que conviene permanecer informados y vigilantes, sin perjuicio de que los efectos beneficios de formar parte de tales redes han sido hallados en recompensas de carácter neurobiológico como señalan autores como Fareri y Delgado (2014:387-402)[9] lo que en nada afecta a lo señalado anteriormente.

Las redes sociales, igualmente, están bajo la influencia y reaccionan a normas sociales e institucionales. Las redes sociales son múltiples, es decir, podemos tener más de una relación social cada uno de nosotros pudiendo sumarse y creando matrices o clústers con otras redes simultáneamente, podemos pensar, en una relación de amigos, compañeros de trabajo y vecinos, esta propiedad se denomina multiplexidad.

Estas matrices de redes sociales pueden mostrarse en formato gráfico mediante diagramas y ser analizadas como sociogramas, pueden ser representaciones informáticas extraordinariamente complejas si es muy grande el número de miembros de una red o de diversos tipos de redes. La visualización, división y formulación de hipótesis se suelen usar a menudo para poder comprender mejor las propiedades y significados de las redes. La sociometría es el estudio de las relaciones afectivas negativas y positivas, como «me gusta/no me gusta», «es amigo/enemigo» entre un conjunto de personas de una red con independencia del tamaño de esta.

Una persona con muchos amigos puede hacerse rica y hacer nuevos amigos, como se ha demostrado desde los pioneros trabajos de De Sola Pool y Kochen (1978:5-51)[10]. Este tipo de dinámica «dinero llama a dinero» significa que las redes sociales pueden reforzar espectacularmente dos tipos de desigualdad: la desigualdad situacional, hay personas que se encuentran mejor desde el punto de vista socioeconómico y la desigualdad posicional, hay personas que disfrutan de mejor posición dependiendo del lugar en que se encuentran en el seno de la red[11]. El bucle de retroalimentación positiva entre conexiones sociales y éxito puede contribuir a concentrar más poder y riqueza en las manos de aquellos que ya los tenían y menos en aquellos peor situados en las redes, en el sentido de menos contactos y cualitativamente peores, por estar situados en las periferias topológicas de sus redes, es decir, en los márgenes y lejos de los centros focales. En general, las personas de clase social más alta tienen redes sociales más diversas y más cohesivas mientras que las de clase social más baja tienen unas redes geográficamente locales cohesivas, pero menos redes diversas de vínculos débiles que presenten una ventaja competitiva, por tanto, las personas que tienen más recursos en la vida cuentan también con redes más útiles. Este hallazgo no resulta sorprendente, ya que «al que tiene, se le dará» resulta ser una verdad bíblica corroborada por la ciencia, en deferencia a los Evangelios y conocida como el «efecto Mateo» (la ventaja acumulativa que se añade a los nodos ya aventajados) efecto que tiene un alcance trasversal, lo que significa que también a las opiniones de los que ocupan una categoría más alta en el grupo se les dará más valor que a los de categorías inferiores, de modo que la jerarquía se mantiene y se afianza en el tiempo y en el espacio de relaciones de la red. Lo anterior es congruente con la hipótesis del equilibrio de Nash que sostiene que si existe un conjunto de estrategias tal que ningún jugador se beneficia cambiando su estrategia mientras los otros no cambien la suya, entonces ese conjunto de estrategias y las ganancias correspondientes constituyen el equilibrio de Nash.

Otro de los elementos centrales en las redes son las triadas. Las triadas son las moléculas de las redes. Aunque existen 16 posibles combinaciones de triadas, la mayoría de ellas son muy poco frecuentes debido a que las relaciones tienden a estar en equilibrio. Así, por ejemplo, es difícil mantener la relación con un amigo que no le cae bien a otro amigo.

La motivación humana básica corresponde a dos aspectos fundamentales de las redes sociales. De igual forma que en la familia de origen de una persona la densidad surge de la necesidad motivacional de seguridad y apoyo social, la densidad o el número de conexiones contenidas en la red juega, en las redes sociales, un papel muy importante en la transmisión y difusión de la información como han informado Luarn y Chiu (2014:16)[12] y de influencia. El segundo aspecto relacionado con el anterior y característico de las redes sociales corresponde al hecho de establecer puentes o conexiones entre partes de una red, o de una red con otra u otras a través de los denominados agujeros estructurales. Burt (2004:349-399)[13], creo una categoría conceptual que representa la ausencia de conexiones entre nodos o entre redes, sin embargo, el que no exista una conexión no significa que no pueda existir y si se establece el acceso a nuevos nodos o redes ello puede proporcionar una ventaja competitiva a quienes dispongan de esos nuevos contactos, ya sea mediante la obtención e intercambio de información, amistades, apoyo, etc. La homofilia crea en los grupos homogeneidad y pensamiento serial, sin embargo, cada red puede ser y será generalmente un mundo distinto gobernado por sus procesos de homofilia particulares, pero los nodos que se aproximan y toman contacto con otras redes con las que no tienen inicialmente contacto porque existe un vacío de conexiones o relaciones —que son los denominados vacíos estructurales señalados— pueden acceder a otras formas de pensar, a ideas diferentes que tienen la capacidad potencial de aportar visiones distintas a la resolución de necesidades y problemas equivalentes, ese acceso a esos nodos o redes puede incrementar los recursos disponibles y beneficiarse de la innovación en la que consisten las buenas ideas. O el uso comparado de estrategias a problemas análogos con importantes ahorros en diversos tipos de costes. Una idea normal en una red o en un entorno, puede ser un descubrimiento muy valioso en otra red o un entorno distinto precisamente porque las redes tienden a clausurarse, es decir, a cerrarse.

Capítulo IV

El ciudadano indefenso ante la mentira y los sesgos cognitivos

1. INTRODUCCIÓN

La posverdad como argumenta McIntyre (2008:126)[1] una derivación de la posmodernidad que es un movimiento filosófico-cultural y por lo tanto un constructo humano cambiante y erróneo que ha generado y genera daños incalculables a nuestras modernas sociedades democráticas (Castellanos: 2019:353)[2] es muy diferente de los sesgos cognitivos que, en cambio, son una realidad evolutiva estudiada por la psicología científica moderna que nos determinan permanente en nuestra forma de procesar la información, por ello, deben enseñarse en los sistemas educativos.

Si podemos convenir en que cada persona puede tener su propia opinión sobre cualquier tema, nadie está en cambio autorizado a tener sus «propios hechos» sobre tales temas. Esto, que en el paradigma analógico era cierto puede dejar de serlo en el paradigma de la realidad virtual, singularmente cuando estos hechos pueden ser falsificados de forma tan precisa, eficaz y poco costosa que la realidad puede dejar de ser lo que hasta ahora ha sido para convertirse en un campo de excentricidades, dudas, omisiones de diseño intencional y certezas construidas ad hoc con una erosión severa y de alcance incalculable en la sociedad.

Frankfurt (2006:83)[3] señala algo extremadamente importante y es que las civilizaciones nunca han podido prosperar, ni podrán hacerlo sin cantidades ingentes de información fiable sobre los hechos. Tampoco pueden florecer si están acosadas por las problemáticas infecciones de creencias erróneas. Para crear y mantener una cultura avanzada es preciso que no nos dejemos debilitar por el error y la ignorancia: por la mentira. Necesitamos saber un gran número de verdades, y también, desde luego cómo hacer un uso productivo de ellas.

La protección de la verdad en la democracia del siglo XXI y en la vida en general es la esencia que hay que preservar frente a los ataques que van a ir in crescendo: primero fueron las Fake News, ahora se suman las Deepfakes y veremos nuevas dimensiones de estas patologías informacionales, pero ambas tienen un doble denominador común, su ataque a la verdad mediante la tergiversación o falsificación de los hechos y la manipulación simétrica y explotación deliberada y consciente de los «sesgos cognitivos humanos» que estudia la psicología de la toma de decisiones. Siendo el objetivo de estas distorsiones de muy diversa naturaleza, los objetivos de manipulación, por ejemplo, de la opinión pública son los que en este análisis nos van a ocupar, ya que afectan a un elemento medular de la democracia. Una opinión pública nutrida de afluentes no tóxicos que permitan a los ciudadanos formarse juicios veraces basados en hechos ciertos y que puedan ser procesados cognitivamente con el menor número de distorsiones derivadas de nuestra propia naturaleza humana.

Los cambios que en la identidad humana se puede producir en virtud de las modernas tecnologías de la sociedad de la información pueden ser estudiados desde diversas perspectivas de análisis. Una de ellas es la que estudia esos posibles cambios una vez que las tecnologías empiezan a producir sus efectos, es decir ex post. En líneas generales estos análisis son reactivos y buscan soluciones ad hoc para los casos o constelaciones de efectos que se presentan en base a conjuntos de valores sociales y jurídicos establecidos en cada sociedad en un momento histórico dado. La capacidad «disruptiva» de muchas tecnologías que hoy se encuentran en la «frontera del conocimiento» toma por sorpresa a esas estructuras de valor y generalmente las desbordan, porque no ha existido una planificación de posibles efectos lo que es lógico porque la evolución de los efectos se genera en una nebulosa de incertidumbre de seguramente imposible control.

Pero a nuestro juicio la otra forma de estudiar y prevenir los efectos disruptivos, o al menos aquellos que podamos considerar más distópicos en lo que respecta a las modificaciones de la identidad humana tendría o podría tener su fundamento en la educación. Pero, no en cualquier tipo de educación sino en aquella que ex ante fije su interés en las distorsiones autónomas de la forma de procesamiento de la información por los seres humanos. El cambio de la identidad humana por las tecnologías es una consecuencia, en parte, de que somos víctimas de nuestros propios sesgos cognitivos como especie en lo que afecta a: la comprensión, a las conductas y a la acción. La libertad de pensamiento es un presupuesto Ferrajoli (2011:304)[4] de la libertad de elección y de la participación crítica y consciente en la vida política. Nosotros diríamos más, de la vida responsable en la actividad general en todas sus esferas o dimensiones intelectuales fundamentalmente internas si bien con dimensiones externas cuando esa libertad se exterioriza. Aquí seguiríamos la definición de Hayek (2008:37)[5] de libertad interior que no se debe confundir en ningún sentido con el libre albedrio.

El desarrollo de la teoría de los sesgos cognitivos supone un hallazgo muy relevante en la forma en la que los seres humanos elaboramos nuestros juicios de forma inconsciente. Precisamente por ello y porque la función crítica y consciente se puede desarrollar del modo más amplio y profundo, libre de sesgos cognitivos que generan sistémicamente los errores de pensamiento, disponer en la actualidad de conocimientos explícitos sobre su forma de actuar en el procesamiento de la información por la mente humana hace posible llenar de contenido una libertad que carecía, hasta ahora, de un contenido sumamente especial, en vez de evanescente como lo podía ser otrora y que no es otro que disponer de una identificación precisa de heurísticas que al ser conocidas puedan ser neutralizadas o limitadas en su alcance y efectos perniciosos. Saber cómo cometemos errores de procesamiento de la información distorsionada nos proporciona estrategias y herramientas para que nuestra libertad de pensamiento sea tal libertad ya que, no se es libre con un pensamiento multidimensionalmente defectuoso producto de sesgos cognitivos. Nozick (1995:112)[6] tenía razón cuando sostenía que los filósofos se habían vuelto tecnológicamente obsoletos en el estudio de los procesos fiables de adquisición de creencias y que serían reemplazados por científicos cognitivos, así empieza a ser. Russell (2017:191)[7] señalaba que la educación debería tener dos objetivos: primero dar un conocimiento definido, lectura y escritura, lengua y matemáticas y, además; segundo, crear los hábitos mentales que permitirán que la gente adquiera conocimiento y se forme juicios sensatos por sí misma. Es a esta formación de juicios sensatos a la que se dirige no de forma única pero sí con otros instrumentos de razonamiento complementarios como la lógica, entre otros, la teoría de sesgos cognitivos ya que parece apta para la identificación de las heurísticas que no nos facilitan la elaboración de juicios sensatos.

2. LOS SESGOS COGNITIVOS

La noción de sesgo cognitivo fue introducida por Daniel Kahneman y Amos Tversky (2012:21)[8] en 1972. Entendemos por sesgo cognitivo un fenómeno psicológico de naturaleza involuntaria ya que se produce de forma automática y que describe una alteración en la mente humana que la conduce a una distorsión de la percepción, a una distorsión cognitiva y o a juicios imprecisos o a interpretaciones ilógicas o irracionales Sutherland (2015:27)[9] de los hechos. Los sesgos cognitivos tienen siempre una razón de ser, tuvieron un origen evolutivo en la historia de la humanidad resultando de utilidad en un pasado remoto, el problema es que al cambiar las condiciones en las que los mismos tenían utilidad las ventajas que pudieran representar esas formas de procesar la información de forma rápida y sin una carga cognitiva de atención focalizada, en un entorno moderno y con exigencias por completo distintas de en las que se desarrollaron esas heurísticas se convierten en trampas que puede tener consecuencias letales para los individuos y de forma agregada para la sociedad.

Los hay de diversa naturaleza como la Pareidolia. Si miras cualquier pared manchada con varias manchas o con una mezcla de diferentes tipos de piedras, si estás a punto de inventar alguna escena, podrás ver en ella un parecido con varios paisajes diferentes adornados con montañas, ríos, rocas, árboles, llanuras, amplios valles y varios grupos de colinas. También podrás ver diversos combates y figuras en movimientos rápidos, expresiones extrañas de rostros y disfraces extravagantes, y un número infinito de cosas que luego puedes reducir a formas separadas y bien concebidas. Estas palabras las escribió Leonardo da Vinci en relación con un fenómeno denominado Pareidolia[10] un fenómeno de base neurobiológica, una ilusión como la describió Karl Jaspers (1997:1056)[11] que nos afecta a todos los seres humanos sin excepción y que consiste en la tendencia hacia la percepción incorrecta de un estímulo como un objeto, patrón o significado conocido por el observador, tales como ver formas en las nubes, ver caras en objetos inanimados o patrones abstractos, o escuchar mensajes ocultos en la música, entre otros muchos ejemplos. Desde luego no existen en la realidad esos patrones, son interpretaciones erróneas, ilusiones, distorsiones en suma de nuestro sistema de procesamiento de la información sensorial. Pero lo cierto es que nuestra mente se equivoca[12] en su interpretación.

Nuestro sistema visual incurre igualmente en importantes deficiencias que son disimuladas y compensadas con pérdida por nuestro sistema de implementación de esa información defectuosa por el cerebro, en esa deficiencia se basa el ilusionismo y el ejemplo clásico de invisibilidad, bajo estados de atención, de que una persona atraviese una habitación disfrazada de gorila y las personas sean incapaces de observarla. Una sencilla carga cognitiva como solicitar de quienes van a ver las imágenes como que cuenten el número de pases que realiza un conjunto de jóvenes de una pelota de baloncesto, impide ver lo obvio como demuestra Simons (2011:19)[13]. Tal experimento es una muestra relevante y muy impactante de que nuestras propias limitaciones perceptivas y cognitivas favorecen extraordinariamente las formas de ser engañados por quienes sepan explotarlas y siempre ha habido expertos en las mismas.

Algunos investigadores como Funder y Krueger (2004:318)[14] han sugerido la posibilidad de ver los sesgos cognitivos no como errores, sino como atajos mentales empleados por la mente humana a la hora de predecir y tomar decisiones, sobre todo cuando no hay mucha información disponible, es decir, bajo incertidumbre que es —por otro lado— el modo habitual en el que solemos tomar decisiones los seres humanos, sin perjuicio de que el resultado de esos razonamientos será con alta probabilidad erróneo.

Lo anterior hay que ponerlo necesariamente en conexión con la forma en la que el cerebro humano toma decisiones, en este sentido, es esencial considerar la teoría revolucionaria de la «mente predictiva» Ayan (2019:34)[15] que confiere al automatismo de la mente un papel protagonista. La mente nos permite predecir los acontecimientos venideros de forma rápida y segura cuando hay baja incertidumbre. El aprendizaje, la experiencia y la consciencia tienen por finalidad la mejora de las predicciones implícitas que se generan de manera continua. Es más, para autores como Solms (2019:45)[16] el «consciente» surge sólo cuando fallan las predicciones del cerebro. En este modelo precisa Seth (2019:56)[17] el cerebro realiza inferencias bayesianas[18] generando sin cesar predicciones de las señales sensoriales y comparando estas predicciones con las señales que recibimos del mundo externo. La diferencia entre las señales predichas y las reales dan lugar a los llamados errores de predicción dejando al cerebro dispuesto a nuevas tandas o rondas de predicción. Desde este punto de vista, advierte Searle (2018:118)[19] nuestras percepciones provienen de «adentro hacia fuera» en la misma medida, si no más que de «afuera hacia dentro». Más que un registro pasivo de una realidad objetiva externa, la predicción se erige como un proceso de construcción activa una alucinación controlada como se la ha acabo llamando. En línea con lo señalado Friston (2020:49)[20] precisa que el cerebro elabora pronósticos sobre el mundo permanentemente y para ello emplea las reglas de la estadística bayesiana señaladas, de esta forma es posible sintetizar toda la actividad cerebral hacia una única meta: evitar las sorpresas de nuestro entorno en la medida de lo posible.

El primer paso pues para saber cómo falla nuestro razonamiento y protegernos frente a nosotros mismos y protegernos de quienes exploten tales «defectos de procesamiento distorsionado de la información» es conocer y comprender cómo funcionan tales sesgos, siendo la Educación, por lo tanto, basada en un método que permita disponer a las personas de las herramientas que faciliten la identificación, diagnóstico y modificación de lo que son «pautas de pensamiento distorsionado» como: dogmatismos, pensamiento de grupo, antiintelectualismo o el pensamiento basado exclusivamente en las «emociones», la que debe jugar un papel relevante en el futuro de los menores y jóvenes. Son errores mentales como argumenta Matute (2019:57)[21] que cometemos sistémicamente todos y que se pueden predecir, dado que en todos nosotros ocurren en las mismas situaciones y funcionan de la misma manera y en la misma dirección. Una descripción general Phol (2004:40)[22] de estos sesgos son los que vemos seguidamente y que no agotan el catálogo de los hasta ahora identificados:

Anclaje (anchoring): es la tendencia a juzgar una situación con base en información recibida recientemente sobre ella. Cuando conocemos muy poco sobre un asunto, tendemos a confiar en la información que tenemos actualmente o que nos es proporcionada. Un ejemplo de este sesgo son las rebajas en los supermercados: cuando un producto es ofertado como un 30% más barato, asumimos que su precio es conveniente, sin tener en cuenta su valor absoluto o su relación con otros productos.

Aversión a la desposesión o aversión a la pérdida (efecto dotación): es la tendencia a preferir evitar las pérdidas en lugar de la posibilidad de adquirir ganancias (teoría de las perspectivas). Así, se demandará más dinero para renunciar a un objeto de lo que se estaría dispuesto a pagar para adquirirlo. Vender bienes que uno normalmente usa, activas regiones del cerebro asociadas al disgusto o la pena. Comprar también activa esas áreas, pero solo cuando los precios se consideran demasiado elevados, cuando se siente que un vendedor está recibiendo un dinero que excede el valor de cambio. Las imágenes del cerebro también indican que comprar a precios particularmente bajos es algo placentero. Hoy en día sabemos que el efecto dotación nos afecta incluso con sólo haber tenido el objeto en la mano durante unos instantes. Por eso mismo, muchas empresas invitan a probar productos y dejan que se prueben y posean todo lo que sea necesario. El vínculo sentimental que se establece con el objeto pone en marcha el efecto dotación, un poseedor se siente como propietario y se activa inmediatamente la aversión a perderlo, a no tenerlo. Deshacerse de algo, aunque se haga de forma voluntaria, se puede interpretar como una pérdida y nadie desea perder.

Descuento hiperbólico: Dadas dos recompensas similares, las personas muestran mayor preferencia por aquella que llegue más pronto que por una posterior. La tendencia se incrementará conforme ambos beneficios estén más cerca al presente. En este sentido, se descuenta el valor del beneficio posterior por un factor que aumenta con la duración del tiempo de espera.

Efecto Bandwagon o efecto de arrastre: Es la tendencia a hacer (o creer en) algo porque muchas personas lo hacen (o lo creen). Está relacionado con el pensamiento de grupo o el comportamiento gregario. El efecto bandwagon (que tomó su nombre de la carreta que lleva la banda musical de un tren de circo) dicta que la probabilidad de que una persona adopte una creencia o conducta es directamente proporcional a cuántos otros ya la tengan, lo que significa que existe una tendencia psicológica a seguir o imitar las acciones y pensamientos de los demás, porque preferimos ajustarnos a lo preexistente, ya que es imposible no derivar nueva información de lo que otros piensan y hacen. Este sesgo es tan poderoso que es capaz, como ha demostrado Edelson y colaboradores (2011:111)[23] de lograr que se llegue a la distorsión de la memoria de las personas individuales para que se adapte a la memoria del grupo en base a su capacidad de influencia. La memoria humana es sorprendentemente susceptible a las influencias sociales, pero se sabe poco sobre los mecanismos subyacentes. En los experimentos realizados se analizó cómo los errores de memoria inducidos socialmente se generan en el cerebro al estudiar la memoria de individuos expuestos a recuerdos de otros. Los participantes exhibieron una fuerte tendencia a conformarse con recuerdos erróneos del grupo, produciendo errores tanto duraderos como temporales, incluso cuando su memoria inicial era fuerte y precisa. Las imágenes cerebrales de resonancia magnética funcional revelaron que la influencia social modificó la representación neuronal de la memoria. Específicamente, una firma cerebral particular de actividad mejorada de la amígdala y conectividad mejorada entre amígdala e hipocampo predijo alteraciones de la memoria duraderas, pero no temporales. Los hallazgos revelan cómo la manipulación social puede alterar la memoria y extender las funciones conocidas de la amígdala para abarcar las distorsiones de la memoria mediadas socialmente. Quizá este hallazgo permita comprender la razón de la conformidad de los grupos y como una falsedad sostenida por el grupo logra hacer que los individuos que se suman a él se adapten al error cambiando su propia memoria. Pensemos, por ejemplo, en construcciones históricas falsas sostenidas por organizaciones políticas que logran imponer a sus correligionarios tales contenidos falaces, pero lo mismo podría suceder con ideas falsas sostenidas por sectas contra toda evidencia.

Efecto espectador (pasividad): Es un fenómeno psicológico por el cual es menos probable que alguien intervenga en una situación de emergencia cuando hay más personas que cuando se está solo.

Efecto denominación: Es la tendencia a gastar más dinero cuando está denominado en pequeñas cantidades (por ejemplo, en monedas) más que en grandes (por ejemplo, billetes).

Efecto de encuadre: Es la tendencia a alterar las decisiones según sea presentada una misma opción. Como resultado, se deducirán conclusiones diferentes a partir de la misma información dependiendo de la manera como se presenta la información. En concreto, las personas tienden a seleccionar opciones, dependiendo si la cuestión está enmarcada para concentrarse en las pérdidas o en las ganancias.

Ilusión del control: Es la tendencia a sobreestimar el grado de influencia sobre otros eventos externos. De esta manera, los seres humanos tienden a creer que pueden controlar o al menos influir en las consecuencias o resultados que claramente no pueden controlar ni influir.

Sesgo de atención: Es la tendencia implícita a que los estímulos emocionalmente relevantes en el propio entorno mantengan o limiten la atención de manera preferencial.

Sesgo de confirmación: Es la tendencia de las personas a favorecer la información que confirme sus propios presupuestos o hipótesis, sin importar si la información es verdadera.

Sesgo de congruencia o sesgo de compatibilidad: La tendencia a comprobar las hipótesis exclusivamente por medio de pruebas directas, en contraste con las pruebas de posibles hipótesis alternativas.

Sesgo de distinción: Es la tendencia a ver dos opciones como más diferentes cuando se las evalúa simultáneamente que cuando son evaluadas de manera separada.

Sesgo de impacto: Es la tendencia a sobrevalorar la duración e intensidad de los futuros estados emocionales, basándose en experiencias previas.

Sesgo de información: Es la tendencia a buscar información, incluso cuando esta no puede afectar a la decisión a tomar. Puede crear la falsa impresión de que, por tener más información, el razonamiento o la conclusión será más veraz.

Sesgo del optimismo irreal frente a datos contrarios al optimismo: El optimismo irreal es un rasgo humano omnipresente que influye en dominios que van desde las relaciones personales hasta la política y las finanzas. Cómo las personas mantienen un optimismo poco realista, a pesar de encontrar información que desafíe esas creencias sesgadas, no es del todo conocido, autores como Tali Sharot (2012:6)[24] señalan que ello parece ser debido a que mostramos una asimetría llamativa, por la que las personas actualizan sus creencias más en respuesta a información que fue mejor de lo esperado en comparación con información que fue peor. Esta selectividad fue mediada por una falla relativa en la codificación de errores que deberían reducir el optimismo. Regiones distintas de la corteza prefrontal rastrearon errores de estimación cuando requerían una actualización positiva, tanto en individuos altamente optimistas como poco optimistas. Sin embargo, los individuos altamente optimistas exhibieron un seguimiento reducido de los errores de estimación que requerían una actualización negativa dentro de la circunvolución prefrontal inferior derecha. Estos hallazgos muestran que el optimismo está ligado a una falla de actualización selectiva y una codificación neuronal disminuida de información no deseada con respecto a lo que sucederá en el futuro. Es claro que esa forma de procesar la información es esencial para el autoengaño ya que impide ponderar la información relevante debido a que el optimista extremo valora mentalmente de forma inadecuada o incorrecta los datos de la realidad.

Sesgo del experimentador: Cuando los experimentadores tienden a creer, certificar y publicar datos que concuerdan con sus expectativas con respecto al resultado de un experimento y desechar, desacreditar o infravalorar las ponderaciones correspondientes a los datos que parezcan estar en conflicto con sus expectativas. Este sesgo tiene parte de su fundamento en la «valencia» de la información en la formación de creencias como señalan Sharot y Garret (2016:31)[25]. Los seres humanos integran la información que reciben en creencias de relevancia personal de forma asimétrica en función de la conveniencia de la información disponible. Los errores positivos y negativos en la predicción y estimación están codificados diferencialmente por el cerebro y se utilizan de manera desigual para alterar creencias, posiblemente guiadas por diferentes reglas. Además, la capacidad de alterar creencias en respuesta a información deseable e indeseable sigue diferentes trayectorias de desarrollo cerebral, lo que respalda aún más la noción de que los dos procesos están disociados. Para las creencias auto relevantes, donde las personas están motivadas para tener puntos de vista positivos, una asimetría dependiente de la valencia en la forma en que las personas usan información favorable y desfavorable da como resultado puntos de vista sesgados positivamente, como el optimismo poco realista y la ilusión de superioridad. Aunque estas opiniones están sesgadas, no son necesariamente subóptimas. Los efectos positivos de estas creencias ilusorias sobre nuestro estado afectivo, salud y motivación parecen ser adaptativos en base a nuestra evolución biológica.

Sesgo del status quo: Las personas actúan de la misma forma, se quedan con lo que tienen a menos que exista una poderosa razón para cambiar, o incluso aunque exista una buena razón para cambiar no cambian. La aversión a las pérdidas y el sesgo de status quo suelen producirse de forma asociada creando una poderosa fuerza que inhibe la propensión al cambio.

Sesgo de punto ciego: Es la tendencia a no darse cuenta de los propios prejuicios cognitivos o a verse a sí mismo como menos sesgado que los demás.

Sesgo retrospectivo o prejuicio de la elección comprensiva: Es la tendencia a recordar las decisiones propias como mejores de lo que realmente fueron.

Prejuicio de desconfirmación o sesgo de disconformidad: Es la tendencia a realizar un crítico escrutinio de la información cuando contradice sus principales creencias y aceptar sin criterio aquella información que es congruente con sus principales creencias.

Percepción selectiva: Tendencia en la cual las ansias, esperanzas o ilusiones afectan a la percepción.

Efecto del falso consenso: Se refiere al hecho experimentalmente comprobado de que la mayoría de las personas juzgan que sus propios hábitos, valores y creencias están más extendidos entre otras personas de lo que realmente están, ya sean por motivación, sesgo de confirmación o percepción selectiva. Es la tendencia a sobrestimar el grado en el cual los demás coinciden o están de acuerdo con ellos. Las personas cambian rápidamente sus propias opiniones, creencias y predilecciones para parecer más acordes o en sintonía con el público general. Como los miembros de un grupo alcanzan un consenso y raramente encuentran personas que disientan, tienden a creer que todo el mundo piensa del mismo modo.

El campo de la economía se ha adaptado paulatinamente en los últimos veinte años a incluir los estudios conductuales y la teoría de sesgos en su desarrollo más profundo hasta el punto de impulsar con extraordinaria pujanza la denominada «economía conductual» en la que se han concedido diversos Premios Nóbel[26]. La economía conductual centrada principalmente en la microeconomía experimenta desarrollos basados en la superación de modelos erróneos construidos sobre premisas falsamente aceptadas durante décadas, como la racionalidad perfecta de los agentes económicos Thaler (2017:36)[27]. Como dijo Mark Twain «lo que te mete en problemas no es aquello que no sabes; es aquello que estás seguro de que sabes y que resulta que no es verdad». Las personas tienden a tener exceso de confianza porque no se molestan en documentar su registro de predicciones pasadas equivocadas, y posteriormente empeoran las cosas cayendo en el error del pernicioso sesgo de confirmación: tan sólo buscan la evidencia que confirme sus hipótesis preconcebidas. La única protección posible contra el exceso de confianza es la búsqueda sistemática de datos y, en particular, de datos que demuestren que nos equivocamos. Sócrates comprendía claramente el valor de la duda como método dialectico. Dudar de lo que se cree saber no es renunciar a la verdad, sino despojarse de viejos errores. Quien conoce la propia ignorancia no sólo sabe que no sabe, descubre los errores pasados y prepara el terreno para sólidas edificaciones futuras. La sabiduría de Sócrates es la conciencia de sus limitaciones, otros creen saberlo todo, no sabiendo nada. En este sentido y desde el mundo de la física debemos recordar aquella lúcida y como casi siempre atinada reflexión de Richard Feynman cuando señalaba que: Lo que siempre deberíamos tener en cuenta para evitar grandes fracasos, catástrofes y pánicos no es lo que sabemos, sino lo que no sabemos que no sabemos.

Pensamos que por análogas razones a por las que la psicología conductual ha corregido y forma ya parte del cuerpo de doctrina económica más avanzada, ésta debe también ser introducida en la educación como corrección de modelos anticuados o incompletos que producen en la formación múltiples y sistémicos errores de pensamiento derivados de nuestra propia naturaleza. Conocer los errores de procesamiento mental de la información es esencial para poder mitigarlos y desarrollar estrategias educativas que tiendan a su minimización o evitación en la sociedad del futuro.

3. EL SER HUMANO EN SU DIMENSIÓN EMOCIO-RACIONAL

Hay que recordar, como señala Damasio (2010:140)[28] que cuando preguntamos por qué desarrollamos las artes, la ciencia, la tecnología, los gobiernos… una razón importante es que desarrollamos esas instituciones por la motivación que recibimos a partir de nuestro sistema de creencias. Habiendo pasado desapercibida la idea de que los sentimientos de dolor o sufrimiento o de intentar estar bien, motivan toda la creación de esas prácticas e instrumentos de la cultura, es decir, que los sentimientos son los cimientos de nuestra mente. Hay que señalar que el concepto de «dignidad humana» pocas veces ha sido debidamente evaluado desde esta perspectiva. Por ello no es una cuestión menor, pero es una cuestión que debe ser modulada como veremos más adelante. Debemos precisar con López Rosetti (2018:16)[29] que los seres humanos no somos seres prioritaria o fundamentalmente racionales —si así fuera seríamos máquinas de procesamiento de información análogas a los ordenadores— sino, seres emocionales que razonan que obviamente no es equivalente. No sólo somos irracionales, sino previsiblemente irracionales; Ariely (2019:17)[30] es decir que nuestra irracionalidad se produce siempre del mismo modo una y otra vez. Durante los cientos de miles de años de evolución de nuestra especie no existió la razón ni el pensamiento racional, solamente existían las emociones primero y los sentimientos después y hace muy poco tiempo, evolutivamente hablando, llego a través de la evolución el pensamiento racional con el lenguaje. Así lo señalan los brillantes estudios de Haidt (2019:57)[31]. En efecto el procesamiento de la información emocional no es ni Jeffersoniano ni Platónico es Humeano[32]. Los seres humanos hacen juicios morales de manera rápida y emocional y el razonamiento moral es, principalmente, una búsqueda post hoc de razones para justificar los juicios que ya se han hecho, unos de forma consciente y otros de forma inconsciente y automática sin ser en absoluto conscientes de ello. Lo anterior es consistente con los hallazgos de Khaneman (2012:45)[33] en relación con el Sistema 1 y el Sistema 2 de procesamiento de información cerebral. Debemos precisar que el Sistema 1 es el responsable habitual de los grandes errores en el procesamiento de la información, singularmente en aquella que no evalúa correctamente las informaciones falsas, razón por la cual Zimbardo (2019:551)[34] advierte sobre la necesidad imperativa de mantener la máxima atención contra las influencias situacionales.

Esa educación en la psicología de la toma de decisiones pensamos que es fundamental en una sociedad cada vez más atomizada y que precisamente por esa atomización es más sensible al uso de los sesgos cognitivos con finalidades disruptivas. Es decir, si las personas saben cómo piensan y qué defectos tiene el pensamiento, estamos previniendo su abuso por parte de quienes empleen esos sesgos, bien conocidos para el dominio de las personas y por lo tanto para su explotación intencional.

Siempre ha sido cierta aquella expresión que señalaba que no hay nada más peligroso que la ignorancia en acción, hoy habría que añadir que no hay nada más peligroso que operar con pensamientos distorsionados. Y vivimos en la era de la «distorsión del pensamiento» de manera intencional no por error.

Señalemos que no estamos haciendo referencia a pensamientos clínicos, sino a la prevención de formas de pensamientos que, en la actualidad, tenemos ya fundamentalmente bien identificados y que representan factores que, debidamente conocidos, pueden suponer formas adecuadas de corregir, limitar y por ello resolver los peores efectos que esos sesgos producen en el procesamiento de la información con la esperanza de que cuanto menor sea el pensamiento o razonamiento distorsionado la conducta de los ciudadanos podrá ser, sobre todo más resistente al engaño, a las falsedades, lo que puede contribuir a que la sociedad pueda disponer de instrumentos más adecuados para razonar en entornos complejos donde precisamente los «sesgos cognitivos producen los peores efectos». Es importarte insistir en que los sesgos cognitivos una vez identificados pueden contrarrestarse y de ahí se desprende la importancia de su conocimiento, veamos un ejemplo. En el sesgo de negatividad advierten Rozin y Royzman (2001:297)[35] una sencilla expresión lingüística como decir «bien» no es suficiente si se trata de transmitir entusiasmo a otra persona o a un auditorio, siendo necesario que esa expresión se rodee de un mayor énfasis si se pretende que se enfrente a otra de carácter negativo como «mal». En cambio, una valoración negativa de carácter lingüístico no necesita de soporte adicional ya que su efecto es dominante como demostraron Liebrecht y colaboradores (2019:170)[36], es decir, las palabras negativas causan mayor impresión que las positivas pero cuando se intensifican los adjetivos positivos con términos como: extraordinario, maravilloso, sin igual, el sesgo de negatividad disminuye.

Podemos identificar concretas formas de pensamiento distorsionado como, por ejemplo, aquellas que tienen que ver con los «movimientos antivacunas» grupos extensos de personas que confían en la «mentira». Pensamiento distorsionado que se ha visto extraordinariamente potenciado en una magnitud exponencial gracias a las redes sociales, a sus efectos polarizadores de grupos de retroalimentación positiva y a su capacidad basada en la «homofilia» de concentrar a aquellas personas que comparten semejantes sesgos cognitivos. Uno de los principios fundamentales para comprender las redes sociales, como precisa Kadushin (2013:315)[37] es el de la homofilia expresión que proviene del griego y cuyo significado es «amor a lo mismo o a los iguales» concepto introducido en la teoría social por Lazarsfeld y Merton en 1978. Este es el principio que se encuentra tras aquellas palabras de Karl Liebknecht: «Los pájaros del mismo plumaje siempre vuelan juntos» y conduce directamente a los sistemas sociales ya que es de aplicación tanto a personas como a grupos o colectivos. La homofilia se produce a través de la mera proximidad, parentesco o afinidad, estatus comunes u otros atributos socialmente definidos incluido atributos como el color de la piel o simplemente por coincidir en el mismo lugar en el mismo momento. La homofilia es un proceso y también un resultado, las personas con los mismos valores y actitudes tienden a asociarse con otras semejantes. La interacción conduce a su vez a una mayor probabilidad de tener valores o visiones comunes. Las personas con la misma posición estructural o la misma clase, ocupación y formación tienden a compartir los mismos valores y a participar en actividades comunes y de ese modo tienden a asociarse unas con otras. Las redes sociales basadas en la homofilia son radicalmente injustas; la homofilia dificulta en gran medida a los planificadores sociales la superación de la segregación y de los prejuicios de cualquier clase. Existe también un proceso de retroalimentación implícita: con el tiempo, las relaciones tienden a evolucionar de forma que se hacen más homófilas. Existen dos tipos de causas para que se produzca la homofilia. Las normas o valores comunes pueden unir a nodos con atributos comunes, o a la inversa, los atributos y contactos comunes pueden conducir a normas comunes, siendo esto así en el caso tanto de individuos como en el de colectividades y surgiendo tanto en redes pequeñas como grandes.

El circuito de retroalimentación entre la estructura de la red y la preferencia individual se va haciendo especialmente acusado con el paso del tiempo estando implicados cuatro procesos:

Los mismos tipos de personas se juntan.

Las personas influyen unas en otras y durante ese proceso van pareciéndose cada vez más.

Las personas pueden acabar en el mismo lugar.

Una vez están en el mismo lugar, ese mismo lugar influye en ellas para que se parezcan más.

En el proceso que acabamos de describir, se superpone el «Sesgo de confirmación» es decir, la tendencia de las personas a favorecer la información que confirme sus propios presupuestos o hipótesis, sin importar la información verdadera, ésta es procesada como vimos en el sesgo del optimismo irreal, de forma deficiente en lo que respecta a su codificación y valencia de esa información.

En ausencia de redes sociales las comunicaciones estaban mediadas por concentradores, es decir, por intermediarios selectivos estos podían ser los consejos de redacción de la prensa, de la televisión o de la radio. Advirtamos no obstante que esa intermediación no suponía ni supone en absoluto que la información fuera cierta como reflexionara Jefferson cuando escribía a John Norwell: «Divídase el periódico en cuatro capítulos, titulados: 1.º Verdades. 2.º Probabilidades. 3.º Posibilidades. 4.º Mentiras. El primer capítulo sería muy corto, porque contendría poco más que documentos auténticos, e información procedente de fuentes de cuya certeza el director esté dispuesto a responder poniendo en juego su reputación. El segundo contendría aquello que éste, tras madura consideración de todas las circunstancias, juzgue como probablemente cierto. De todas formas, convendría que contuviera más bien demasiado poco que mucho. El tercero y el cuarto serían expresamente para los lectores que prefieren gastarse el dinero en mentiras en vez de en el papel en blanco que de otra forma ocuparían».

Pero en las redes, cualquier persona puede ser un concentrador y lo que se ha comprobado es que las redes lo que unen es a las personas parecidas. Los medios, por ello, tenían una cierta capacidad disolvente de los peores efectos de la concentración y de la ignorancia. Tenían capacidad selectiva y eso orientaba al ciudadano que no se las tenía que ver consigo mismo como selector de información incompetente, es decir, como alguien que diseña el propio modelo o menú informativo que recibe y que ofrece de y a los demás. Una vez que esas personas empiezan a interactuar se activa el «tribalismo» que forma parte de nuestra herencia evolutiva y con él un conjunto de actitudes esenciales del mismo, como aferrarnos estrechamente a nuestro grupo, asumir y defender la matriz moral del mismo y dejar de pensar por nosotros mismos, lo que es una consecuencia de un principio básico de la psicología moral y es que «la moralidad une y ciega» ceguera moral que como señala Goleman (1997:265)[38] se distingue por consistir en la creencia implícita en la justicia y moral de las decisiones del grupo mediante una falsa suposición que permite a sus miembros ignorar las consecuencias morales de sus decisiones.

4. MOVIMIENTOS ANTIVACUNAS

Las personas necesitan abrigar un sólido sentimiento de identidad y de su lugar en el mundo como precisa Hog (2019:75)[39] y para muchas personas el ritmo y la magnitud de los cambios pueden resultar alienantes, la incertidumbre amenaza seriamente nuestra identidad y los grupos sociales constituyen una poderosa fuente de identidad que atenúa la incertidumbre personal, en particular, si los grupos son distintivos y sus miembros comparten un sentimiento de interdependencia. Interdependencia que se reafirma con el sesgo Bandwagon o efecto de arrastre, que es la tendencia a creer o hacer algo porque muchas personas lo creen o lo hacen. Es un efecto del pensamiento de grupo o tribal primitivo, pero altamente efectivo y difícilmente evitable.

Las Redes sociales son en la actualidad un lugar ideal para mitigar el desasosiego que provoca la incertidumbre personal porque proporciona acceso sin interrupción a información ilimitada, que con mucha frecuencia seleccionan los propios individuos y de manera inadvertida pero altamente eficaz, también los algoritmos que aprenden de las interacciones de los individuos para mostrarles lo que habitualmente más buscan o desean. De este modo la gente sólo accede a la información que confirma su identidad. El sesgo de confirmación actúa y se acentúa en tiempos de incertidumbre, separando los universos de la información y de la identidad que fragmentan y polarizan la sociedad. La conexión en línea permite dar con grupos que no se encontrarían con facilidad en el entorno físico. Por ello Internet fortalece aún más el sesgo de confirmación porque las personas necesitan rodearse de quienes piensan igual que ellos para que se confirmen continuamente sus identidades y visiones del mudo. Los contornos de la «verdad» entonces se ajustan a estos universos de identidad social autosuficientes y autorreferenciales que generan una clausura operativa de los grupos en los que se genera confianza como señalara Luhman (2005:39)[40] ya que ésta juega un papel relevante en la reducción de la complejidad del universo de opciones informativas rivales y complejas como advierte Hardin (2010:103)[41] haciendo posible y facilitando lo que Laski (2017:32)[42] denominara la seducción de la mera inercia que es siempre poderosa y que nos permite, en efecto, trazar la pequeña senda de nuestra existencia sin que nos sintamos amenazados por ningún desastre inminente. Nos ahorra la molesta tarea de someter a examen hábitos que siempre resulta peligroso analizar y, a veces, pernicioso destruir. Con todo —advertía Laski— no hay duda de que el proceso de la inercia es, a la larga, la pérdida del sentido cívico entre la multitud. A lo anterior hay que añadir un grave problema aún no resuelto señalado por Sunstein (2019:84)[43] que es cómo hacer la disensión menos costosa o incluso recompensar esta disensión especialmente cuando quienes disienten no se benefician ellos mismos sino a otros. Es decir, cómo se deberían diseñar estructuras de jerarquización de información en los grupos que posibiliten la disensión en la que la información privada de los miembros del grupo no quede sepultada por el temor de las reacciones del grupo. Aquí el diseño institucional puede jugar un papel importante. El problema central de la difusión de la conformidad es que oculta a los miembros del grupo información valiosa que debe conocer.

En estos escenarios no hay «verdades absolutas» u objetivas, ni motivaciones para explorar e incorporar otros puntos de vista, ya que estos debilitarían la capacidad de identidad social para evitar la incertidumbre personal. Lo que se denomina sesgo de desconfirmación que es la tendencia a realizar un escrutinio absolutamente crítico de la información cuando contradice las principales creencias del sujeto y aceptar sin criterio aquella información que es congruente con sus creencias principales bien sean personales o del grupo al que pertenece. Este sesgo intensifica a su vez el sesgo de inercia que es la tendencia a evitar, siempre que sea posible, tomar decisiones que supongan cambios, deseando que las cosas sigan como están generando un circuito cerrado y circular de polarización grupal en equilibrio. La polarización social conduce a la reducción de la necesaria diversidad social que es, tan importante, como la biodiversidad. No sólo alimenta la inteligencia colectiva y la innovación como ha estudiado Helbing (2018:74)[44] sino que mejora la resiliencia social[45] es decir, la capacidad de nuestra sociedad de gestionar las conmociones inesperadas. Con frecuencia la reducción de la sociodiversidad también merma o disminuye simétricamente el rendimiento de la economía y de la sociedad en su conjunto.

Y es frecuente que, a su vez, en el grupo o en miembros del grupo se manifieste el sesgo de reactancia que es la tendencia a que se tomen decisiones por el mero hecho de contradecir a los demás miembros de otros grupos como reafirmación de la propia autonomía grupal. Será frecuente que en estos grupos se halle presente el pensamiento conspirativo como señala Quattrociocchi (2018:26)[46] que se caracteriza por la incapacidad de asignar a los hechos adversos un determinante causal (fuerzas de mercado, presión evolutiva, complejidad) lo que, según Martin Bauer implica un modo casi religioso de pensar en los procesos. Aunque Internet garantiza el acceso a una cantidad ingente de información advierten Pluviano y Della Sala (2019:16)[47] también ha difundido la idea de que basta utilizar un buscador y confiar en la veracidad de los resultados para hacerse un experto en un tema. Este sesgo cognitivo se conoce como efecto «Dunning-Kruger». En 1999 los psicólogos Justin Kruger y David Dunning describieron la incapacidad metacognitiva de las personas inexpertas de reconocer las propias limitaciones y su tendencia a sobrevalorarse. «Todos somos idiotas seguros de nosotros mismos». Con suma frecuencia «el ignorante no sabe que lo es». En cambio, tiene una confianza exagerada e ilusoria en sí mismo y en creerse en posesión de la verdad. Se trata de autosugestión. Por esa razón, es necesario recurrir a expertos que ayuden a diferenciar hechos e informaciones falsas que difunden personas incompetentes más o menos conscientes de ello.

Nuestra mente asimila y recuerda los hechos al vincularlos en un marco de referencia como señala Lakoff (2016:393)[48] creando una narrativa que tratamos de mantener coherente. Por ello desmontar una información incluso si se revela totalmente incorrecta o falsa deja un vacío en el modelo mental por lo que preferimos un modelo de pensamiento falso pero completo, es decir coherente, a uno parcial e incoherente y que no encaja con nuestros conocimientos. El autoengaño precisa Mele (2016:111)[49] juega un papel relevante en el mantenimiento de ese estado mental cómodo pero falso. Esto es de especial trascendencia en la psicología del testimonio y en la falibilidad de éste como argumenta Mazzoni (2019:78)[50] La clásica expresión «Testis unus testis nullus» «Un testigo solo, testigo nulo». Paulo: Digesto 48, 18, 20, unius testimonio non esse credendum (no se debe dar crédito a un único testimonio) y Ulpiano: Digesto 22, 5, 12, ubi numerus testium non adicitur, etiam duo sufficient (donde no se exprese el número de testigos, bastarán dos) atesora una intuición neurobiológicamente correcta a lo largo de la historia que coincide con lo que nos muestra la ciencia de la conducta. En efecto y como precisa Gazzaniga (2006:129-138)[51] de todas las cosas que recordamos, lo más sorprendente es que algunas sean ciertas. Los errores de distorsión pueden corromper la memoria en cualquier fase: desde la codificación de un recuerdo hasta cada una de las ocasiones en que se recupera o reactiva dicho recuerdo. Algunos errores añaden información falsa a los recuerdos (errores de obra) y otros se deben a que olvidamos u omitimos información (errores de omisión). Además, parece que la mera repetición de la información errónea incrementa la probabilidad de que la información se recuerde posteriormente como cierta con mayor seguridad. Es lo que se denomina «efecto de verdad ilusoria». Por último, varios estudios sobre la inserción de recuerdos falsos emplean un paradigma, llamado «paradigma de Deese-Roediger-McDermott», o DRM, por los investigadores que lo desarrollaron, para estudiar los recuerdos falsos. Como ejemplo del paradigma DRM, se puede hacer la siguiente prueba. Se puede pedir a una persona que lea la siguiente lista de palabras y que intente recordar tantas como pueda: cama, descanso, despierto, cansado, dormitar, cabezada, soñar, despertar, manta, sueño, modorra, roncar, siesta, tranquilidad, bostezo, somnoliento, ensoñación. Ahora puede esperarse cinco minutos y pedir a esa persona que escriba o repita todas las palabras que recuerde.

¿Ha escrito la palabra dormir? Esta palabra, denominada «señuelo crítico» no figuraba en la lista y, sin embargo, la mayoría de las personas recuerda haberla visto a menudo con gran seguridad. Dado que todas estas palabras están relacionadas con dormir es probable que este vocablo se active en la mente del sujeto, provocando la confusión entre el pensamiento interno (consciente o inconsciente) de la palabra dormir y la aparición real de la palabra. Es un buen ejemplo de cómo interfiere el cerebro en la información que recibe, distorsionándola antes de que se almacene. Como estudio Schacter (2003:23)[52] diversas disfunciones afectan de forma muy importante a la memoria y por lo tanto a los recuerdos, nos afectan a todos tales como: el transcurso, la memoria se desvanece; la distractibilidad, atención y recuerdo; el bloqueo, en la punta de la lengua; la atribución errónea, atribuciones erróneas de testigos oculares; la sugestionabilidad, la influencia sobre los testigos: la propensión, cómo éramos depende de cómo somos; y la persistencia, los recuerdos con etiquetas emotivas.

A los sesgos señalados tenemos que unir que vivimos en un mundo cada vez más polarizado en el que la verdad queda a menudo sepultada por desinformación que procede verosímilmente de dos fuentes, aquella que se originan en propagadores profesionales e intencionales de falsedades destinadas a sumir en el error a las personas y a los grupos con la finalidad de generar inestabilidad aguda o crónica en función de sus pretensiones de poder: político; de mercado o social, y aquella otra que como se establece en el principio de la navaja de Hanlon: «Nunca le atribuyas a la maldad lo que puede ser explicado por la estupidez» que como advirtiera Goethe: «Los malentendidos y la negligencia crean más confusión en el mundo que el engaño y la maldad. En todo caso, estos dos últimos son mucho menos frecuentes». Las dos fuentes se refuerzan y actúan sinérgicamente con efectos devastadores. La suma de las dos fuentes origina necesariamente incertidumbre y según la expresión que se le atribuye a Immanuel Kant: «La inteligencia de un individuo se mide por la cantidad de incertidumbres que es capaz de soportar», esa incertidumbre es —precisamente— la que mitigan los sesgos cognitivos. En nuestro mundo de conectividad informativa extrema la incertidumbre que proviene de las redes sociales hace posible que tales personas bajo esa incertidumbre adopten y den por ciertas y validas, construcciones irreales, falsas y ficticias que generan graves daños para sí mismas y para la sociedad, organizadas entorno a grupos mesiánicos como los anti vacunas como hemos considerado u otros movimientos como los «terraplanistas» aquellos grupos que piensan que la tierra es plana contra toda evidencia científica y racional. Vemos en el mundo —con ocasión de la pandemia de Covid-19— grupos que surgen en casi todas las latitudes que niegan el valor de la experiencia científica, por ejemplo, afirmando que las mascarillas son inservibles para el control de la pandemia y otras ideas por completo absurdas y disparatadas.

Es un error importante de los medios de comunicación de masas operar en la información a través del mecanismo de ofrecer oportunidades de expresión equivalentes en los foros públicos a estos grupos fanáticos e ignorantes. La razón científica no se desprende del consenso de personas no expertas sino de la aplicación del método científico, que admite la crítica y el disenso, pero entre personas cualificadas científica y académicamente. Por la misma razón que no se le debe conocer en un debate espacio público o destinado al servicio público deliberativo e informativo a científicos y a quienes mantienen posiciones por completo acientíficas basadas por ejemplo en brugería. No es posible argumentar entre médicos y curanderos o chamanes de la tribu que basan su saber en su experiencia o creencias mágicas; no es posible argumentar en un debate serio entre astrónomos (físicos) y astrólogos; no lo es entre expertos en cualquier rama del conocimiento humano y quienes carecen de esa cualificación imprescindible para tener derecho a opinar en un campo del saber. Hay que tener meridianamente claro que no todas las opiniones son válidas ni tienen el mismo peso. Los medios de comunicación, haciendo un flaco favor a la difusión del conocimiento hacen posible en demasiadas ocasiones que el mensaje envenenado del error se difunda y eso genera en parcelas de la sociedad que se encuentran en un estado crítico en lo que se refiere a compartir esas ideas la posibilidad de adherirse a ellas ya que en muchos casos es poner en conexión a personas con problemas cognitivos de diversa intensidad que deberían recibir terapia cognitivo conductual. No se trata de censurar más que a la ignorancia y a personas con problemas de cognición que ya encuentra vías de expresión más que suficientes a través de las redes sociales.

Como señala Ferraris (2019:55)[53] detrás del teclado, en condiciones climáticas a menudo ideales, se pueden forjar gilipolleces de manera regular y prolija, gilipolleces que pueden llegar además al fin del mundo. Coincidimos con el autor y añadimos que pueden también encontrarse en Youtube, TikTok o cualquier otra red de contenidos audiovisuales manifestaciones plásticas o manifestaciones u orales públicas de pseudoprofetas o charlatanes de cualquier género porque la estupidez de estas personas va unida en muchos casos a un narcisismo patológico con el que pretenden mantener sus falacias y propagarlas, lo señalado es consistente con la primera ley de Cipolla (1996:202)[54] de la estupidez humana que señala: Siempre e inevitablemente cada uno de nosotros subestima el número de individuos estúpidos que circulan por el mundo.

El derecho a no ser engañados actuaria en estas situaciones de forma que los medios de comunicación o de transmisión de información no pudiesen —aunque lo quisiesen— permitir confrontaciones entre razón y absurdo. El derecho a no ser engañados representaría una salvaguardia de la verdad y dotaría a los poderes públicos de instrumentos normativos para no autorizar manifestaciones públicas como las que hemos vivido. La libertad de expresión es una libertad que no permite el engaño intencional. Aquí la autorregulación de las redes sociales puede ser un componente de primera magnitud en la mitigación de este grave problema.

5. SESGOS EN EL SISTEMA BERT (REPRESENTACIONES DE CODIFICADOR BIDIRECCIONAL DE TRANSFORMADORES) DE GOOGLE

El otoño pasado, Google presentó una tecnología de inteligencia artificial innovadora llamada BERT que cambió la forma en que los científicos en lingüística construyen sistemas que aprenden cómo las personas escriben y hablan. BERT[55] es una red neuronal de código abierto que ha sido entrenada para procesar el lenguaje natural. BERT procesa las palabras en el contexto de una oración, en lugar de palabra por palabra.

Pero BERT, que ahora se está implementando en servicios como el motor de búsqueda de Internet de Google, tiene un problema: podría estar detectando y asimilando sesgos en la forma en que un niño imita el mal comportamiento de sus padres. BERT es uno, de una serie de sistemas de inteligencia artificial que aprenden de mucha información digitalizada, tan variada como libros antiguos, entradas de Wikipedia y artículos de noticias. Las décadas e incluso siglos de sesgos, junto con algunos nuevos, probablemente se encuentran en todo ese material, es decir, dado que el sistema BERT opera sobre textos que contienen cientos de miles de datos con sesgos, estos necesariamente se recogerán y perdurarán.

BERT y sus sistemas equivalentes tienen más probabilidades de asociar a los hombres con la programación de computadoras, por ejemplo, y generalmente no otorgan suficiente crédito a las mujeres como ha señalado Kurita y otros (2019:31)[56]. Un programa informático de procesamiento de lenguaje natural decidió que casi todo lo escrito sobre el presidente Trump era negativo, incluso si el contenido real era positivo, es decir, cuando el algoritmo de procesamiento de la información se retroalimenta de información sesgada se genera un proceso en el que la información verdadera es omitida. Pero lo más significativo del sistema BERT u otros sistemas equivalentes es su capacidad para replicar o reproducir sesgos allí donde los encuentre y reproducirlos en formulaciones actualizadas de resultados que los recogen. Informaciones sesgadas almacenadas en repositorios de la más variada naturaleza, una vez digitalizada y procesada reproducirá los sesgos que en ella se encuentren. Además, BERT tiene la capacidad de realizar evaluaciones emocionales[57] haciendo posibles clasificaciones de esta naturaleza, lo que en el ámbito de los sesgos cognitivos emocionales que venimos considerando facilita el uso de estas clasificaciones con las más diversas finalidades siendo singularmente peligrosas en el ámbito de la propaganda cognitiva virtual, la transformación social basada en emociones y el uso de datos emocionales con finalidades comerciales.

6. EDUCACIÓN EN LA UNIVERSIDAD Y SESGOS COGNITIVOS

En los Estados Unidos nos recuerdan Haidt y Lukianoff (2019:39)[58] en su importante monografía, se está sufriendo lo que podríamos denominar una infección cultural que se basa en tres postulados falaces pero que provienen, en su mayor parte de las redes sociales y de la polarización, estas son tres ideas disruptivas que operan de forma conjunta.

La falsedad de la fragilidad de las personas y su postulado: «Lo que no te mata te hace más débil». La falsedad del razonamiento emocional y su corolario: «Confía siempre en tus sentimientos» y la falsedad del pensamiento dicotómico y de su consecuencia natural: «nosotros contra ellos» en el que la vida es una batalla entre las buenas y las malas personas sin términos intermedios. En buena media estas ideas podrían ser identificadas como una sobre simplificación e infantilización de determinados estratos sociales, pero son el efecto de errores derivados en amplia medida de sesgos cognitivos. Haidt y Lukianoff señalan tres argumentos básicos que deben cumplirse simultáneamente para identificar la falsedad de una idea, estos son:

En primer lugar, la idea distorsionada contradice el saber antiguo (ideas que se encuentran muy a menudo en la literatura sobre la sabiduría de muchas culturas). En segundo lugar, contradice la investigación psicológica moderna sobre el bienestar y por último perjudica al individuo y a las comunidades que la adoptan. Estas tres grandes falsedades propias de la época de la posverdad son concreciones que se han articulado en medidas y movimientos políticos que las respaldan y están causando problemas graves a los jóvenes, a las Universidades es decir a su función educadora y a las democracias liberales.

La primera falacia identificada afirma que los estudiantes son frágiles, los estudiantes están empezando a demandar protección ante el lenguaje porque han aprendido involuntariamente a emplear las mismas distorsiones cognitivas que la Terapia Cognitivo Conductual intenta corregir. Muchos padres, maestros de primaria y secundaria, así como profesores y administradores de universidades habían enseñado inconscientemente a una generación de estudiantes a desarrollar hábitos mentales comúnmente presentes en personas que padecen ansiedad y depresión.

Los estudiantes han aprendido a reaccionar con temor e ira a las palabras, los libros y los oradores invitados como ponentes a las universidades porque se les ha enseñado a exagerar el peligro, a emplear el pensamiento dicotómico (o binario) y a magnificar sus primeras reacciones emocionales y a desarrollar una peligrosa sensibilidad a las denominadas microagresiones en los campus universitarios que suponen un cambio moral significativo, ya que representa el giro de la valoración de los actos, pasando de la intención de los actos al efecto de los mismos, siendo el efecto el detonante de las reacciones y despreciando o no valorando la intención. En el pensamiento emotivo se encuentra la «seguridad emocional». La seguridad emocional hace creer que los alumnos deben estar a salvo no sólo de los accidentes físicos, sino también de las personas y de las ideas que están en desacuerdo con las que se tienen. Es decir, el emotivismo alimenta movimientos identitarios transversales productores de intolerancia, favorece una cultura de la acusación pública y finalmente de la autocensura individual y de la censura colectiva que se puede articular jurídicamente a través de las «leyes mordaza» como refiere Coleman (2018:109)[59] o contra el discurso del odio[60] en sociedades cada vez más cerradas y a la vez fragmentadas en bloques polarizados irreductibles y tendentes no a la libertad de expresión sino a la homogeneidad en las expresiones políticamente correctas. El cambio de paradigma es fundamental en la universidad norteamericana pasando de la idea de que la intención de la educación no debería hacer sentirse cómodas a las personas: su propósito es hacerlas pensar, al paradigma de que la intención de la educación no debería hacer pensar a las personas sino que su sentido es hacerlas sentir cómodas lo que supone claramente un error categorial de inmensa magnitud.

Lo anteriormente señalado tiene un fuerte impacto negativo sobre los postulados centrales de lo que hemos denominado las modernas democracias deliberativas tal y como son definidas por Elster (2000:129)[61] en las que se representa la permanente tensión entre la política del dogma y la política del descubrimiento como señalara Deutsch (1976:230)[62] a través del diálogo y del debate informado. El aislamiento de los grupos, su radicalización y enclaustramiento influenciados hoy más que nunca por los sesgos cognitivos actuando y potenciándose a través de la redes sociales levantan muros de aislamiento emotivo e irracional que hacen cada vez más difícil el debate y la discusión honesta, es decir, aquella orientada por la política del descubrimiento en vez de por la política que podríamos denominar de los «micro dogmatismos basados en las emociones», o lo que es equivalente, aquella que no se residencia en un sólido bloque ideológico dogmático donde la razón y los argumentos jugaban un papel central sino en un cosmos o miríada de dogmatismos cruzados o transversales que se difunden por toda la sociedad basados en el emotivismo. El aislamiento de los grupos es un elemento esencial para debilitar la confianza en un espacio público tendencialmente abierto y dispuesto a la confrontación pública de las ideas molestas. La ruptura del espacio común de la opinión pública con grupos cada vez más cerrados sobre sus emociones y autorreferenciales deteriora gravemente la democracia deliberativa precisamente porque afecta a la capacidad de deliberación abierta en las sociedades descritas por Popper (1957:392)[63] cuando esos micro dogmatismos se aferran a sus postulados centrales y no están dispuestos a modificar mediante el aprendizaje los puntos en los que se sostiene la argumentación emotiva falsa pero consistente de las ideas que animan a cada uno de estos haciendo el diálogo irreconciliable. Lo señalado es lo que Dalrymple (2016:80)[64] denomina el culto a la emoción pública (pero también privada) sin razonamiento y que está destruyendo nuestra sociedad a través del sentimentalismo tóxico. Así y para el autor, el sentimentalismo es la expresión de las emociones sin juicio. Quizá es incluso peor que eso: es la expresión de las emociones sin darnos cuenta de que el juicio debe formar parte de nuestra reacción frente a lo que vemos y oímos. Es la manifestación de un deseo de derogar una condición existencial de la vida humana, a saber, la necesidad ineludible y perenne de emitir un juicio. Por tanto, el sentimentalismo es infantil (porque sólo los niños viven en un mundo tan dicotómico) y reductor de nuestra humanidad.

7. TRES EJEMPLOS DE ARQUITECTURAS DE TOMA DE DECISIONES COLECTIVAS DISEÑADAS PARA NEUTRALIZAR PODEROSOS SESGOS COGNITIVOS EN LA TOMA DE DECISIONES: EL PRE MORTEN; LA FORMACIÓN DE LOS PILOTOS DE AVIACIÓN CIVIL Y LOS FILTROS COLABORATIVOS

El conocimiento de los sesgos cognitivos que como seres humanos forman parte de nuestra naturaleza puede tener importantes consecuencias positivas si nos permite desarrollar instrumentos o herramientas procesales que puedan corregir esas deformaciones en nuestras formas individuales y colectivas de razonar o procesar la información distorsionada en la búsqueda de las respuestas más racionales a los problemas que tenemos que resolver, ello tiene especial relevancia en el campo de la educación en lo que Sunstein y Thaler (2009:103)[65] denominan la «arquitectura de la decisión», es decir, en el desarrollo de arquitecturas de pensamiento correctas capaces de neutralizar o mitigar los peores efectos los sesgos en el procesamiento de la información.

7.1. EL PRE MORTEN

¿Puede el optimismo que resulta del exceso de confianza ser superado mediante desarrollos procedimentales adecuadamente diseñados? Khaneman (2012:346)[66] señala que ha habido numerosos intentos de enseñar a suspender la confianza en intervalos en los que, con solo unos pocos informes de fuentes modestas, quedase reflejada la imprecisión de los juicios basados en el exceso de confianza. En otras situaciones, el exceso de confianza fue mitigado (pero no eliminado) animando a quienes juzgaban sobre algo a considerar hipótesis alternativas. Sin embargo, el exceso de confianza es una consecuencia directa de aspectos de procesamiento de la información del Sistema 1, el cual puede ser domado, pero no derrotado porque tiene un substrato neurobiológico bien identificado. El principal obstáculo es que la confianza subjetiva viene determinada por la coherencia de la historia que uno ha construido, no por la calidad y la cantidad de la información en que se sustenta. Las organizaciones son más capaces que los individuos de domar el optimismo. La mejor manera de hacerlo es la que ideó Gary Klein que generalmente defiende la decisión basada en la intuición frente al papel de los sesgos y es típicamente hostil a los algoritmos. Sobre la importancia de la intuición en la toma de decisiones y el sesgo de reconocimiento puede verse el trabajo de Gigerenzer (2008:49)[67]. Klein denomino su propuesta como el pre mortem. El procedimiento es sencillo en su planteamiento: cuando una organización ha tomado una decisión importante, pensemos en un proyecto o una inversión, pero no la ha ejecutado formalmente, Klein propone que un grupo de individuos entendidos e informados sobre esa decisión se reúna en una breve sesión. La premisa de la sesión es una breve alocución que se basa en la siguiente idea: «Imaginemos que ha transcurrido un año» desde que se adoptó ese proyecto. Habíamos puesto en práctica el plan tal como ahora lo conocemos. El resultado fue un completo desastre. Tómense, por favor, 5 o 10 minutos para escribir una breve historia de tal desastre. La idea de Gary Klein del pre mortem suele suscitar un entusiasmo inmediato ya que es una fórmula para desarrollar una autopsia a un proyecto fracasado antes de que fracase en el mundo real. El pre mortem tiene dos ventajas principales: frena el sesgo de pensamiento grupal que afecta a tantos equipos cuando parece que se va a tomar una decisión y libera la imaginación de los individuos entendidos en un sentido muy necesario.

Cuando un equipo converge en una decisión —y especialmente si surge un líder con autoridad que la apoya—, las dudas manifestadas sobre el acierto de la acción planeada se desvanecen y eventualmente son tratadas como pruebas de escasa lealtad al equipo y a sus líderes o jefes en vez de una crítica impersonal al proyecto. La desaparición de las dudas contribuye al exceso de confianza en un grupo donde sólo los que apoyan la decisión tienen voz. La principal virtud del pre mortem es que legitima las dudas. Además, anima a quienes apoyan la decisión a buscar posibles riesgos que no se habían considerado antes. El pre mortem no es una solución extraordinaria y no proporciona una protección completa contra las sorpresas desagradables, pero enseña una «arquitectura de la decisión» destinada a reducir el perjuicio que puede ocasionar un plan sometido a los sesgos y al optimismo acrítico.

7.2. LA FORMACIÓN DE LOS PILOTOS DE AVIACIÓN CIVIL

De forma análoga podemos considerar la estrategia o arquitectura de la decisión que se emplea en la mayor parte de las líneas aéreas en la formación de sus pilotos y en relación con la toma de decisiones de riesgo entre el comandante de la aeronave y el segundo comandante y que se desarrolló fundamentalmente a partir de la trágica experiencia del accidente aéreo de Tenerife del 27 de marzo de 1977 entre dos Boeing 747 con resultado de 584 víctimas mortales Brafman (2009:19)[68]. Dos sesgos, la aversión a la pérdida y el sesgo diagnostico fueron —al margen de otros aspectos que se dieron cita en aquel accidente— los que estuvieron presentes en la mente del comandante de la compañía aérea KLM Jacob Van Zanten. El sesgo de aversión a la pérdida es la tendencia a hacer cuanto sea posible para evitar pérdidas potenciales monetarias antes que obtener ganancias equivalentes, es decir, la pérdida tiene un peso emocional superior a la ganancia en nuestra mente. Las pérdidas como advierte Tversky (1992:316)[69] son valoradas psicológicamente entre 1,5 y 2,5 veces más intensamente que las ganancias. El sesgo diagnóstico, por su parte, constituye una forma de ceguera psicológica ante todas las pruebas que contradicen nuestra valoración inicial de una persona o situación, tras la atribución de valor derivada de una percepción inicial a esa persona o situación en el caso que nos ocupa, ya que la situación fue una percepción de seguridad que se demostró dramáticamente errónea.

El comandante del Boeing 747 de la KLM, Jacob Van Zanten era uno de los pilotos más experimentados y consumados del mundo, no sólo tenía una habilidad singular para pilotar, sino que era conocido por el planteamiento metódico en todos los detalles de los vuelos que realizaba, de hecho, era el director del programa de seguridad de KLM. Los hechos, muy sintéticamente relatados fueron los siguientes. El vuelo de la KLM originariamente se dirigía desde Ámsterdam a las Palmas en las Islas Canarias, sin embargo el avión tuvo que variar su destino debido a que un artefacto explosivo había explotado en el aeropuerto de Las Palmas, teniendo que dirigirse al aeropuerto de Los Rodeos en Santa Cruz de Tenerife, esa circunstancia afectó al tráfico aéreo de ese día por lo que otros aviones, y entre ellos otro Boeing 747 de Pan Am también tuvo que aterrizar en un aeropuerto que no estaba diseñado para gestionar el tráfico de tantas aeronaves. El comandante Van Zanten no permitió que desembarcara el pasaje, era consciente de que en unas pocas horas desde el aterrizaje en el aeropuerto de Los Rodeos correspondía el turno de descanso de la tripulación, tampoco sabía cuándo se podría despegar y si habría plazas de hotel para todo el pasaje en las inmediaciones del aeropuerto. La situación implicaría para la compañía aérea demoras y pérdidas económicas si se quedaban en ese aeropuerto, por ello ordenó llenar de combustible el avión en lo que consideraba que podría determinarse si se podría despegar en algún momento de aquel día.

El aeropuerto empezó a ser cubierto por la niebla y desde la torre de control no había buena visibilidad, la torre permitió al 747 de Pan Am que empezase a situarse en la parte superior de despegue de la pista, pero el Boeing de Pan Am no siguió correctamente —por la niebla y el desconocimiento de las pistas— las instrucciones que se le dieron. Van Zanten por su parte, en un momento dado adopta la decisión de despegar al recibir la noticia de que el aeropuerto de Las Palmas quedaba nuevamente abierto al tráfico; una vez que terminó de repostar el comandante tomo una decisión incomprensible para no verse forzado a pasar la noche en Los Rodeos. Aceleró los motores y el avión empezó a rodar por la pista. El copiloto —como señalaron las transcripciones de cabina— dijo a Van Zanten que esperara, que no tenían autorización de despegue. Ya lo sé, replico Van Zanten y frenando el avión insto al copiloto a que la pidiese. El piloto comunicó con la torre y obtuvo la autorización de vuelo —es decir la aprobación del plan de vuelo— pero la torre no autorizó la orden de «despegue». Van Zanten estaba resuelto a despegar y a plena potencia rodó por la pista a toda velocidad cubierta de niebla. Entre tanto el 747 de Pan Am estaba cruzando la pista mientras que el 747 de KLM avanzaba a velocidad de despegue, ya en vuelo la cola del 747 de Van Zanten chocó contra el fuselaje del Boeing de Pan Am, estallando el avión de KLM en el aire lleno de combustible. Van Zanten, toda la tripulación y los pasajeros del vuelo de la KLM murieron, así como muchos pasajeros del 747 de Pan Am, los fallecidos fueron en total 584 personas.

El desastre tuvo una influencia duradera en la industria aeronáutica, destacando en particular la importancia vital del uso de las expresiones estandarizada en las comunicaciones de radio. Los procedimientos de la cabina también se revisaron en profundidad, lo que contribuyó al establecimiento de la gestión de los recursos de la tripulación como parte fundamental de la capacitación de los pilotos de las aerolíneas. Van Zanten había sentido un estado de frustración que le llevó a ignorar precisamente lo que él enseñaba como director del programa de seguridad que se había ensayado en multitud de ocasiones. La aversión a la pérdida, y el sesgo diagnóstico condujeron al comandante a adoptar una decisión irracional que produjo el accidente más grave de la historia aeronáutica.

Desde entonces a los pilotos se les entrena para cuestionar al comandante de la aeronave cuando detectan una desviación de los protocolos de seguridad. Lo hacen siguiendo un procedimiento de tres fases. En la primera fase se declaran los hechos, por ejemplo: «Nuestra velocidad de aproximación es muy baja». Si esa declaración no es atendida, el siguiente paso es «cuestionar» empleando el nombre del comandante y añadir un cuantificador al hecho que se declara. Esta estrategia intenta sacar al comandante la visión de túnel que tal vez esté experimentando. Si los dos pasos anteriores no dan resultado se pasa a acciones de naturaleza más ejecutiva como comunicar la situación a los controladores de vuelo o de torre para que adopten estos las decisiones que el comandante no podrá ignorar. Como podemos observar se trata de cambiar una arquitectura de la decisión en la que el comandante era una autoridad incuestionada en todo momento, por una nueva estrategia en la que el comandante tiene que ajustar sus criterios a los de la tripulación cualificada, es decir, al segundo comandante que debe supervisar la conducta del primer comandante si esta pone en peligro la seguridad de la aeronave.

7.3. LOS FILTROS COLABORATIVOS

Los filtros colaborativos por último, son herramientas que permiten obtener información relevante de bienes de experiencia[70] en los que para obtener esa experiencia es necesario haber disfrutado del bien previamente. Frente a publicidad optimista del prestador del servicio o fabricante del bien que puede disponer de la mejor información sobre el bien o servicio los filtros colaborativos constituyen un esfuerzo por resolver un problema de arquitectura de las decisiones. Si se sabe qué suelen preferir personas como nosotros, podremos animarnos a seleccionar productos o servicios que no conocemos a partir de esa información. A muchas personas el filtro de colaboración les facilita muchas elecciones difíciles, hoy estos filtros están ampliamente difundidos, desde opiniones en Amazon de miles de usuarios sobre los más variados productos, pasando por redes de alojamientos como Booking, Trivago, etc. E incluso alcanzando los filtros de valoración colaborativa a la prestación de servicios profesionales: médicos; abogados; profesores etc., lo que ayuda a identificar la ineficiencia con beneficio para los usuarios.

La descripción temprana del efecto Halo se puede ver ya en la obra de Maquiavelo (1999:91)[71] cuando señalase: Pues los hombres, en general, juzgan más con los ojos que con las manos porque todos pueden ver, pero pocos tocar. Todos ven lo que parece ser, más pocos saben lo que eres; y estos pocos no se atreven a oponerse a la opinión de la mayoría, que se escuda detrás de la majestad del Estado. Los sesgos cognitivos «Halo» o la también denominada coherencia emocional exagerada en el caso de los profesionales, pueden ser corregidos o mitigados en base a información derivada de la experiencia lo que puede suponer un indicador útil a la hora de adoptar una decisión como por ejemplo contratar un servicio. Este sesgo fue identificado por Edward L. Thorndike (1920:28)[72]. Si nos gusta la política del presidente de nuestro país, por ejemplo, o de un determinado líder político de la oposición, es muy probable que nos guste su voz y su apariencia también. La tendencia a gustarnos o disgustarnos todo de una persona —incluyendo cosas que no hemos observado directa o indirectamente— de forma unificada, se conoce como efecto Halo. Consiste en un error asociado a la existencia de datos muy limitados sobre una persona y elevada incertidumbre en la emisión de un juicio sobre circunstancias o personas que conlleva afirmaciones exageradas o irreales sobre habilidades, capacidades o atributos de una persona o de una cierta circunstancia. Es habitual en el ámbito de los juicios de tipo social que se realizan a partir de las opiniones de expertos reconocidos en un área concreta del conocimiento, cuando se refieren a asuntos que quedan fuera de su ámbito profesional, donde se «presupone erróneamente» que el conocimiento de la persona abarca cuestiones de la más diversa índole por causa de alguna suerte de capacidad especial que abarca aquellos aspectos en los que el experto no lo es pero que forman ese «halo» entorno a sus opiniones, valoraciones, juicios o capacidades. Solomon Asch (1946:283)[73] observó que el atractivo físico es la variable que más evoca el efecto halo. El atractivo físico, siendo habitualmente la primera información que tenemos de otra persona da a las personas que juzgan sesgadamente la impresión del efecto, una información medible sobre el mismo y son algunas características del atractivo físico las que mejor evocan este efecto. Son estos rasgos específicos los que nos hacen juzgar la personalidad de un individuo por la apariencia. Son muchos estos rasgos específicos, por ejemplo: la altura, la complexión, el color de los ojos, color del cabello, el peso, la voz, etc.

8. ALGUNAS REFLEXIONES

La idea fundamental que sostenemos en este capítulo y en base a lo señalado anteriormente es que todos estos sesgos deberían ser enseñados y formar parte de la educación de los alumnos de forma que se pueda controlar lo que es perfectamente previsible y de esa forma poder avanzar hacia sociedades mejor preparadas para identificar los patrones incorrectos o distorsionados de nuestro razonamiento evolutivo. No sabemos todavía cómo desarrollar algoritmos capaces de neutralizar todos los efectos de los sesgos, como vimos en el caso del sistema BERT porque los contextos son excesivamente variados, pero es claro que quizá una de las misiones importantes que podrá desarrollar la inteligencia artificial es proveer de instrumentos tanto para identificarlos como para sugerir vías para su neutralización o minimización que se ofrezcan a los individuos. Mientras eso llega una educación avanzada no puede desconocer estos sesgos o heurísticas si queremos fomentar un pensamiento crítico elaborado sobre sólidas bases científicas. Desafortunadamente nuestros sistemas educativos ignoran en los planes de estudio actuales una materia de la relevancia como la que hemos tratado de esbozar en esta sección pero parece razonable que debería plantearse formar parte de estos por su relevancia social, toda vez que pueden ser abordados desde la perspectiva de la protección de la libertad del pensamiento en el sentido de que se garantiza esa libertad cuando identificamos formas de procesamiento distorsionado de la realidad y proponemos estrategias para su corrección favoreciendo un pensamiento no distorsionado o erróneo, lo que nos aproxima más a la libertad y nos aleja del condicionamiento y del error sistémico. Libertad entendida pues como correctora de errores o sesgos cognitivos.

Tampoco se debe perder de vista que en la sociedad de la información en la que los «mercaderes de la atención» que podemos identificar en los grandes operadores de plataformas: Google, Facebook, Amazon, Twitter etc., que comercian con información procedente de los datos personales extraídos de los ciudadanos y que explotan o pueden explotar los sesgos cognitivos y emocionales de los mismos, éstos adquieren un poder de influir en la conducta de las personas como nunca nadie antes había podido soñar. En el caso de Twitter, por ejemplo, esta red social realiza análisis de sentimientos que se refieren al uso del procesamiento de lenguaje natural, análisis de textos, lingüística computacional y biometría para identificar, extraer, cuantificar y estudiar sistemáticamente estados afectivos e información subjetiva de los usuarios de la red, con la cobertura del control del discurso del odio, pero del que es fácil extrapolar su traslación al mercado de la influencia política de los ciudadanos. Debemos recordar que de las 200 categorías de datos que evalúa Google, se encuentran también los datos de los sentimientos o emocionales de sus usuarios. Sensibilizar a la sociedad con los sesgos en los que incurrimos y su identificación puede contribuir a que las regulaciones normativas de lege ferenda incorporen tales conocimientos específicos para, por ejemplo, restringir o limitar que los algoritmos puedan hacer uso de esa información emocional que es perfectamente capaz de convertirse en una poderosa herramienta de control ideológico susceptible de dar forma a las actitudes de los ciudadanos de manera individualizada o agregada.

Recordemos que, en opinión de Jefferson, las ideas no constituían una propiedad privada de nadie. En cuanto un individuo expone públicamente sus opiniones, éstas pertenecen a todo el mundo y todos se pueden aprovechar de ellas. El hecho de que las ideas se extiendan libremente de uno a otro por todo el mundo para instrucción moral y recíproca de los hombres parece un designio especial y benévolo de la naturaleza, que las ha hecho como el fuego extensible por todo el espacio sin perder en ningún punto su densidad y como el aire donde nos movemos, respiramos y emplazamos nuestro ser material, no susceptible de confinamiento ni de apropiación exclusiva. Este designio especial que determinara Jefferson: la libre extensión de las ideas por todo el mundo para instrucción moral, que constituiría la vertiente activa de la libertad de comunicación pública, se conjuga y adecúa necesariamente con la vertiente pasiva o el derecho a recibir ideas que positivamente configuraría el derecho de buscar, investigar y recibir informaciones y opiniones, que Fichte señalara magistralmente en su discurso (reivindicación de la libertad de pensamiento, 1793) en respuesta al Edicto de Censura promulgado, el 19 de diciembre de 1788, por el ministro conservador Wöllner, bajo el reinado de Federico Guillermo II de Prusia con las siguientes palabras: «El derecho a recibir libremente todo lo que nos es útil forma parte constitutiva de nuestra personalidad; pertenece a nuestro destino servirnos libremente de todo aquello que está a nuestra disposición para nuestra formación espiritual y moral. Sin esta condición, la libertad y la moralidad serían un regalo inútil para nosotros. Una de las fuentes más ricas de nuestra instrucción es la comunicación entre un espíritu y otro. No podemos renunciar al derecho a abastecernos de esta fuente sin renunciar a nuestra espiritualidad, a nuestra libertad y personalidad […]. La libre investigación de todo objeto posible de la reflexión, llevada en cualquier dirección posible y hasta el infinito, es, sin duda alguna, un derecho del hombre. Nadie, salvo él mismo, puede determinar su elección, su dirección y sus límites». Hoy tras más de doscientos años de aquellas palabras, Jefferson y Fichte no podrían adivinar lo que representaría la aparición de Internet como medio sin igual de comunicación con vocación universal para la difusión de las ideas correctas, incorrectas o meramente falaces, tampoco podrían imaginar las intensas externalidades negativas que suponen los usos abusivos o ilícitos de la información y la capacidad de control social que bajo regulaciones normativas sumamente perfectibles puede llegar a explotar esta tecnología. Pero no debemos olvidar los elementos extraordinariamente positivos de Internet, tan sólo debemos procurar desarrollar normas significativamente más eficaces basadas en los nuevos paradigmas que venimos considerando que protejan de forma adecuada la intimidad, la protección de datos, así como la identificación y regulación de todas aquellas actividades que afecten a la dignidad de las personas en las redes de comunicaciones electrónicas. Balleisen (2017:143)[74] señala con acierto que cada vez que se traspasan fronteras tecnológicas —sea la invención del servicio postal, el teléfono, la radio, el ordenador o los títulos respaldados por hipotecas—, esos avances permiten a las personas aproximarse a las fronteras tanto de la tecnología como de la deshonestidad a través del fraude. Sólo más adelante, en cuanto se hayan establecido las capacidades, los efectos y las limitaciones de una tecnología, podemos determinar los medios tanto deseables como abusivos para utilizar esas nuevas herramientas. Por ejemplo, Balleisen revela que una de las primeras funciones del servicio de correos de los EE. UU., era vender productos que no existían. Se tardó un tiempo en descubrir el problema del fraude postal, que a la larga fue el preludio de un contundente conjunto de regulaciones que ahora garantizan la gran calidad, eficiencia y confianza en este importante servicio. Si pensamos en los avances tecnológicos desde esta perspectiva, llegamos a la conclusión de que debemos dar las gracias a algunos estafadores creativos por ciertos progresos e innovaciones que hemos llevado a cabo.

No es una tarea imposible desde luego como vemos, pero lo que se exige es que la sociedad sea consciente de los límites que no se deben franquear y legisladores sensibles con de su deber y dispuestos a fijar esos límites en normas jurídicas desarrollando apropiadamente los derechos fundamentales que amparan las facultades de uso de las tecnologías por los ciudadanos, es una cuestión de tiempo y de prudencia. Es singularmente importante la admonición de Fitche cuando expresaba: «Nadie, salvo él mismo, puede determinar su elección, su dirección y sus límites». Un problema que se cierne sobre todos nosotros acontece cuando la elección de los individuos es orientada por poderosos sistemas de procesamiento de datos emocionales capaces de guiar subrepticiamente la conducta de forma silenciosa y sibilina y cuando la dirección y límites de la curiosidad de las personas, sus gustos o deseos son conducidos clandestinamente por poderes privados o públicos que le dirigen, que conforman sus opiniones, que tratan de gobernar nuestra vida emocional siendo capaces de moldear nuestra libertad y vida a los códigos de conducta diseñados en laboratorios de experimentación psicológica de gobiernos o multinacionales; eso ya ha sucedido con Cambridge Analítica en el campo electoral en los Estados Unidos como hemos estudiado en trabajos anteriores y con resultados positivos para quienes han explotado la orientación conductual de masas inermes de ciudadanos desprotegidos frente a tal amenaza. Es claro que se hace necesario la articulación dogmática de nuevos derechos, como el Derecho a no ser engañado que deben situarse en la esfera de los derechos universales fundamentales desde donde su irradiación puede ser incorporada a las Cartas de Derechos de los Estados. El Derecho a no ser engañado puede ser un útil instrumento para que no se empleen los sesgos cognitivos contra los titulares del Derecho, de él puede nacer un haz de facultades que reordene diversas manifestaciones que integrarían su ámbito normativo en la sociedad de la información global. Su expresión podría ser:

Todas las personas tienen el Derecho a no ser engañadas en la sociedad de la información, a que no se empleen o exploten contra sí mismas los sesgos cognitivos que nos afectan como individuos o como grupo, a que la dignidad inherente al ser humano exija que las autoridades públicas vigilen activamente y limiten con efectividad que los algoritmos públicos o privados no sean empleados para el dominio social, político o comercial de las personas en defensa de la libertad del pensamiento como ausencia de coacción.

Capítulo V

La obligación de la veracidad en nuevos entornos y en las relaciones horizontales entre particulares

Häberle (2006:125)[1] señala que la verdad es a la ciencia, lo que la justicia al derecho, de ahí se desprende una prohibición que se deduce directamente del principio de la dignidad humana, que ciertamente es garantía de la búsqueda de la verdad. En un sentido equivalente, pero en una dimensión filosófica Bieri (2017:134)[2]. Para el autor alemán una primera etapa en el camino de la búsqueda de la verdad puede consistir en una suerte de técnica negativa: primeramente, se trata de prohibir y evitar las no-verdades, es decir, las mentiras.

Una de las consecuencias esperables y más prometedoras del derecho a no ser engañado, es que los medios de comunicación tanto públicos como privados y los medios de expresión propios de la ecología de las redes sociales, como los bloggers o cualesquiera otras manifestaciones de quienes mezclan información y opinión así como los discursos públicos de la política, deberán operar según cánones o criterios en los que la veracidad se proteja de una forma mucho más efectiva de lo que lo es en la actualidad, recordemos con Hartmann (2011:494)[3] que no son lo mismo verdad y veracidad. Ambas son valiosas, pero sólo la última es valor moral. La verdad es la coincidencia objetiva del pensamiento (o de la convicción) con la situación objetiva existente. Esta coincidencia no es ni mucho menos dependiente de la libre voluntad del hombre. Por eso no hay un valor moral de la verdad. La veracidad, en cambio, es la conformidad del discurso con el pensamiento (con la convicción). Producir esta conformidad está en poder del hombre, el hombre carga con la responsabilidad de ella. La veracidad es valor moral. El discurso, cuyo sentido es ser testimonio de la opinión, de la convicción, de la disposición de ánimo efectivas del hombre, debe cumplir puramente este fin. Pues como éste es el sentido del discurso, todo el mundo presupone involuntariamente en él de antemano la veracidad —si no existe un motivo especial para la desconfianza—. El hombre toma lo dicho como verdaderamente pensado. No presupone con ello nada más que el cumplimiento del sentido característico del discurso. En esto consiste el buen fiarse natural del moralmente puro, su fe regalada a la palabra escuchada. El abuso de este buen fiarse es la mentira. No es simplemente la violación del sentido del discurso, sino, a la vez, el engaño de la persona ajena sobre la base de su fe. De esta forma el derecho que propugnamos podrá ser implementado mediante diversas fórmulas para su efectividad y para su desarrollo.

Creemos además que este derecho no solamente debe tener efectos verticales, debe tenerlos también horizontales. Los derechos fundamentales contenidos en las modernas constituciones normativas de los Estados sociales y de derecho que aparecen tras la Segunda Guerra Mundial, serán concebidos ya no sólo como límites frente al poder público sino también frente a los particulares. Es decir, desplegarán su eficacia frente a terceros o también llamada eficacia horizontal de los derechos.

Quizá una de las grandes transformaciones del constitucionalismo contemporáneo ha tenido que ver con la posibilidad de reclamar violaciones a los derechos fundamentales no sólo al poder público, sino también a los agentes y sujetos de Derecho Privado. Si bien ello ha venido a entrar en conflicto con la idea tradicional de que únicamente las autoridades son las que pueden conculcar prerrogativas individuales o colectivas esenciales, lo cierto es que cada vez se ha hecho más apremiante la necesidad de que tales prerrogativas también puedan oponerse frente a particulares.

Como señala Aláez Corral (2012:190)[4] la posición de quienes se han opuesto a que los derechos fundamentales posean algún tipo de eficacia sobre los particulares o a que, en su caso, dicha eficacia sea directa e inmediata, se apoyan en que la libertad e igualdad garantizadas por el Estado constitucional democrático sirven al disfrute de una autonomía individual de la voluntad que se vería seriamente comprometida con la eficacia horizontal de aquéllos. Sin embargo, este clásico pensamiento liberal se apoya en una serie de tópicos que se han revelado total o parcialmente falsos. En efecto, se parte de que los individuos ocupan una posición de libertad e igualdad natural por lo que sus relaciones sociales, presididas por la autonomía privada, deben ser ajenas a la regulación jurídico-pública que conllevaría la eficacia de los derechos fundamentales con el fin de evitar la quiebra de esta paridad consustancial a la sociedad.

Ha de tenerse en cuenta, no obstante, —prosigue el autor— que profundas transformaciones sociales y económicas han conducido a una superación del individuo físico como unidad a la que referir la autonomía privada. Los procesos de concentración y monopolización del poder social, económico o informativo esconden la privilegiada posición de ciertos individuos u organizaciones cuyo predominio anula o compromete gravemente ese mínimo de libertad e igualdad que constituye el presupuesto de la autonomía privada. Una desnaturalización de los presupuestos de la autonomía privada que, además, amenaza con degradar el Estado liberal democrático, sustituyendo la soberanía de las generaciones vivas (libres e iguales) por una soberanía de aquellos poderes socioeconómicos hegemónicos. Precisamente por ello nuestro texto constitucional ha concebido al Estado, además de como Estado democrático de derecho, como Estado social, y ha encomendado a su aparato la remoción de los obstáculos que hacen que dicha libertad e igualdad individual o colectiva no sean reales y efectivas (art. 9.2 CE), con el fin de evitar la desnaturalización de las otras dos características estructurales del mismo. Un primer elemento al servicio de esta tarea es sin duda la extensión de la obligatoriedad de los derechos fundamentales a las relaciones jurídico-privadas.

A diferencia de la doctrina Española donde, con carácter general, es un tema abierto al debate, pese a lo señalado anteriormente porque la Constitución no ofrece un engarce normativo preciso del «efecto horizontal de los derechos fundamentales» y de que el artículo 41.2[5] de la Ley Orgánica 2/1979, de 3 de octubre del Tribunal Constitucional no lo admite, pese a su siempre posible reforma, autores como, entre nosotros Díez-Picazo (2013:140-144)[6] no es favorable a la doctrina, sin perjuicio de reconocer que en algunas ocasiones el Tribunal Constitucional otorga genuina eficacia horizontal a los derechos fundamentales, es decir, sin que haya sujeto público en la relación privada, intervención pública relevante o intermediación legislativa, ocurriendo principalmente en dos sectores: las relaciones laborales y las relaciones internas de las asociaciones. Es interesante destacar que, en principio, y en las relaciones en las que las empresas multinacionales de redes sociales como Facebook; YouTube: Instagram Twitter; etc., hacen uso del dominio público radioeléctrico y de redes a través de operadores de telecomunicaciones[7] no sería descartable apreciar colisiones de derechos donde el efecto horizontal parece claro, pensemos en restricciones arbitrarias relacionados con posiciones en las que existe una supremacía de los titulares de los servicios sobre los usuarios de los mismos muy desproporcionada con afectación horizontal de derechos fundamentales singularmente la libertad de expresión.

En la doctrina española expresan también una opinión favorable Naranjo de la Cruz (2000:245)[8] quien señala que, del conjunto de determinados preceptos constitucionales (especialmente de los artículos. 1.1, 9.1, 9.2, 10.1, 53.1 y 53.2) cabe deducir la posibilidad de que estos derechos sean aplicables también inmediatamente en las relaciones entre particulares, según la naturaleza y el tenor literal del precepto donde se recoge cada uno de ellos. Esto resulta coherente con la consideración de la Constitución como norma suprema del entero ordenamiento. Los derechos fundamentales en su doble condición de derechos subjetivos y normas objetivas, constituyen la base sobre la que se ha de construir todo el edificio jurídico. En definitiva —concluye el autor— el desarrollo de las normas de Derecho privado se ha de mantener en los límites establecidos por el Derecho Constitucional.

Sobre la polémica Derecho Constitucional y Derecho Privado es de interés la opinión de Hesse en lo que respecta a las múltiples dimensiones de la problematicidad del concepto (1995:84)[9] quién señala también (2012:171)[10] con respecto al caso Lüth, el reconocimiento por el Tribunal Constitucional Alemán de una eficacia entre particulares mediata, añadiendo que con esa extensión de la función de protección de los derechos fundamentales hacia relaciones jurídicas que están más allá de las establecidas entre el poder público y los ciudadanos, los derechos fundamentales se convierten en un medio frente a los poderes fácticos (no estatales).

Son precisamente esos poderes no estatales los que en la actualidad y en un futuro próximo pueden generar más riesgos para los derechos fundamentales de los ciudadanos y precisamente por ello, puede verse en la construcción de estas doctrinas jurídicas una salvaguarda verdaderamente eficaz frente a tales abusos, pero con la advertencia de que las asimetrías de poder o la magnitud de este poder en las relaciones civiles son esenciales. Es decir, una organización privada con un poder de mercado no es lo mismo que un ciudadano aislado privado en una relación en la que, además, la organización privada opere en el mercado merced al uso del demanio público, es claro, por ello que nos referimos a ámbitos sectoriales como vimos que en España acontece singularmente con el derecho del trabajo, pero esos ámbitos son susceptibles de expansión como señala Müller (2016:94)[11] al precisar que, la falta de materialización de un efecto frente a terceros general de los derechos fundamentales de la Ley Fundamental no limita la amplitud de una dogmática sectorial o de análisis particular a desarrollar de cada derecho fundamental.

Veamos seguidamente la opinión que al respecto articula Alexy (1997:510-524)[12] en la doctrina alemana, para el autor alemán se puede concebir a un sistema jurídico como un sistema de normas, pero también como un sistema de posiciones y relaciones jurídicas. La ventaja de la perspectiva orientada hacia las posiciones y relaciones reside en su poder de diferenciación.

Actualmente se acepta, en general, que las normas iusfundamentales influyen en la relación ciudadano/ciudadano y, en este sentido, tienen un efecto en terceros o un efecto horizontal. Lo que se discute es cómo y en qué medida ejercen esta influencia.

La relación Estado/ciudadano es una relación entre un titular de derecho fundamental y un no titular de derecho fundamental. En cambio, la relación ciudadano/ciudadano es una relación entre titulares de derechos fundamentales.

Es posible distinguir tres teorías de la construcción del efecto horizontal: la del efecto mediato en terceros, la del efecto inmediato y la del efecto producido a través de derechos frente al Estado. Centrándonos en la tercera y no abordando aquí las dos primeras, Alexy señala que, de acuerdo con la tercera teoría, los efectos en la relación ciudadano/ciudadano son consecuencias de la sujeción del Estado a los derechos fundamentales en tanto derechos subjetivos públicos. Schwabe[13] ha propuesto una versión extrema de esta teoría, en la que considera que el Estado, al facilitar e imponer un sistema de derecho privado, participa en las afectaciones posibles en este sistema, de los bienes iusfundamentales de un ciudadano por parte de otro ciudadano. Por ello, estas afectaciones, en tanto intervenciones estatales, aunque provocadas privadamente, pueden serle imputadas al Estado. Por ello, para la solución del problema del efecto en terceros habrían de bastar los derechos fundamentales en tanto derechos del status negativo frente al Estado.

Esta construcción, prosigue el autor, no está obligada a trabajar sólo con derechos del status negativo, sino que puede también hacer uso de derechos del status positivo que apuntan a una protección iusfundamentalmente debida en las relaciones entre iguales.

La teoría del efecto mediato en terceros está situada en el nivel de los deberes del Estado. El hecho de que las normas iusfundamentales, en tanto principios objetivos (orden objetivo de los valores), valgan para todos los ámbitos del derecho implica que el Estado está obligado a tenerlas en cuenta tanto en la legislación civil.

Alexy defiende la idea de la construcción de una teoría unitaria. Ella es posible si se acepta un derecho del ciudadano frente a la justicia civil en el sentido de que esta tome debidamente en cuenta el principio iusfundamental que habla en favor de la posición que hace valer el ciudadano. Cuando este derecho es lesionado, se lesiona el derecho fundamental al cual pertenece el respectivamente relevante principio iusfundamental. Esta construcción esta explícitamente basada en la jurisprudencia.

Una construcción como la señalada tiene dos ventajas. La primera consiste en que el derecho en ella recogido es referido más claramente que en las otras construcciones a los problemas siempre relevantes en los casos de efectos en terceros. Estos resultan de dos cosas. Por una parte, el tribunal civil tiene que tomar en cuenta los principios iusfundamentales que apoyan las posiciones que respectivamente hacen valer las partes: por otra, tiene que aplicar el derecho privado vigente en la medida en que ello no sea incompatible en cada interpretación con los principios iusfundamentales.

Como Alexy aprecia en el caso Blinkfüer, caso resuelto por el Tribunal Constitucional Federal Alemán, los principios iusfundamentales conducen a derechos y deberes en relaciones entre iguales que, debido a la vigencia de estos principios relativa a la Constitución, son necesarios pero que, sin su vigencia no lo serían. Este es un efecto inmediato en terceros. La teoría del efecto mediato en terceros tiene, pues, como consecuencia necesariamente un efecto inmediato en terceros.

Es fácil refutar la objeción de que todo efecto inmediato en terceros conduce a una eliminación o limitación indebida de la autonomía privada. La propia autonomía privada, no sólo su limitación, es objeto de garantías iusfundamentales y, por lo tanto, del efecto en terceros. Una deficiencia de la discusión de los efectos en terceros ha sido que, a menudo, la cuestión de la limitación de la autonomía privada estaba en primer plano y su protección no era tratada como cuestión de igual rango.

Esto último conduce a la cuestión de saber si un particular que lesiona un derecho que otro particular tiene frente a él y que está exigido por razones iusfundamentales, lesiona un derecho fundamental del otro. Por ejemplo, ¿lesiono la Editorial Springer en el caso Blinkfuer el derecho fundamental de la libertad de prensa del editor de «Blinkfüer»? La respuesta depende de una decisión terminológica. Se puede decir que fue lesionado un derecho privado iusfundamentalmente necesario, pero se puede decir también que el derecho lesionado, por ser exigido iusfundamentalmente, pertenece al haz variado que constituye el derecho fundamental como un todo y que, como siempre que una parte del haz de facultades del derecho es lesionado, se lesiona también «el derecho fundamental que también queda lesionado».

En vista de lo considerado pensamos que la fórmula de la eficacia horizontal de los derechos fundamentales es el mecanismo jurídico idóneo para garantizar los derechos fundamentales de los ciudadanos frente a los poderes privados de las grandes corporaciones que siendo organizaciones privadas disponen de un poder equivalente en muchos casos al de muchos estados y a los que nos referimos en el siguiente capítulo.

Capítulo VI

La mentira y el poder político, lenguaje y poderes privados universales

La mentira, el engaño nos han acompañado y nos acompañarán indefectiblemente en el transcurso de nuestra evolución como seres sociales, como señala Livingston (2011:30)[1] somos animales mentirosos gracias a las ventajas de la deshonestidad aprovechadas por nuestros ancestros, la cual continúa siendo de utilidad para nosotros hoy día. El psicólogo de la Universidad de Massachussets Robert Feldman (2010:25)[2] filmó conversaciones de «aprende a conocerme» entre personas desconocidas y elegidas al azar con una duración de diez minutos entre estudiantes voluntarios y un extraño, y después pidió a sus sujetos que vieran los videos para contar el número de mentiras que habían dicho. Encontró que, en promedio, la gente dice tres mentiras cada diez minutos de conversación. Algunos mintieron hasta doce veces. Hay que tener en cuenta, asimismo, que es posible que después de la prueba los participantes fueran reacios a confesar sus «inexactitudes». Esto les habría hecho contar menos casos de engaño. En otras palabras, puede que el número de las mentiras fuera incluso superior a tres por conversación.

No podemos aquí considerar todas las tentativas de explicación de la mentira ya que han sido muy diversas, por lo que, tan sólo expondremos aquellas que poseen una base científica a nuestro juicio más sólida. En el sentido apuntado la Teoría del factor de tolerancia es relevante para lo que deseamos mostrar. Cuando una persona puede racionalizar más las acciones inmorales y las mentiras lo son claro está, se siente más cómoda al mentir y engañar y su factor de tolerancia aumenta. La tesis central de la teoría, como señala Ariely (2012:150)[3] es que la conducta humana está impulsada por dos motivaciones opuestas. Por una parte, deseamos considerarnos a nosotros mismos como personas honestas y honorables, deseamos ser capaces de mirarnos al espejo y sentirnos bien con nosotros mismos o lo que se denomina «motivación del ego». Por otra parte, deseamos sacar provecho del engaño y conseguir todo el dinero o el poder posible que es la motivación económica típica. Las dos motivaciones están enfrentadas. Gracias a la gran flexibilidad cognitiva de nuestra especie, mientras se engañe sólo un poco, podemos beneficiarnos del engaño y seguir viéndonos y sintiéndonos como seres humanos maravillosos. Este malabarismo es el proceso de racionalización, que es la base de la Teoría del factor de tolerancia. Según esta Teoría, las personas están intentando contínuamente identificar la línea a partir de la cual ya no se puede sacar partido de la deshonestidad sin dañar nuestra imagen. Como señalara Oscar Wilde, «la moralidad, como el arte, significa trazar una línea en algún sitio». La cuestión es dónde está la línea. Ariely señala tras sus amplias investigaciones que las personas dan la impresión de «querer ser honestas», por lo que sería recomendable incorporar recordatorios morales a situaciones que nos inducen a ser deshonestos. Cuando existen patrones éticos deliberadamente «publicitados» nos comportamos de manera más integra que en ausencia de ellos. Queremos advertir que pese a que pueda verse quizá una coincidencia con lo que se ha denominado y aún se denomina en la filosofía la teoría de la capa con origines en Huxley no consideramos que lo señalado tenga que ver con ella, para un estudio más detallado es recomendable ver a de Wall (2007:23)[4].

La deshonestidad se debe en gran medida al factor de tolerancia de la persona. El factor de tolerancia sugiere que, si queremos darle un giro significativo al crimen, hemos de averiguar cómo cambiar el modo de racionalizar nuestras acciones. Cuando nuestra capacidad para racionalizar los deseos egoístas aumenta, también lo hace el factor de tolerancia, y así nos sentimos más cómodos portándonos mal y engañando. Y al revés; cuando se reduce nuestra capacidad para racionalizar las acciones, el factor de tolerancia disminuye, por lo que la mala conducta y las trampas nos incomodan más.

Lo que revelaban los experimentos es que la distancia psicológica respecto de la acción influye directamente en la deshonestidad. Engañar es algo mucho más sencillo cuando estamos separados de la acción fraudulenta. Se han realizado investigaciones de resonancia magnética funcional de la corteza prefrontal, una parte del cerebro situada justo detrás de la frente y que, al parecer, se encarga del pensamiento de orden superior, como planificar el programa diario o determinar el modo de afrontar las tentaciones que nos acechan. También es la parte del cerebro de la que dependemos para hacer evaluaciones morales y tomar decisiones.

Ocupan el cerebro, en general, dos clases de sustancias la gris y la blanca. La sustancia gris es sólo una forma de denominar los conjuntos de neuronas que constituyen el grueso del cerebro, la materia que acciona el pensamiento. La sustancia blanca es el cableado que conecta esas células cerebrales. Todos tenemos sustancia gris y sustancia blanca, pero Yaling Yang y sus colaboradores (187:320-325)[5] estaban especialmente interesados en las cantidades relativas de una y otra en la corteza prefrontal de los participantes de sus investigaciones. Y observaron que los mentirosos patológicos tenían un 14 por ciento menos de sustancia gris que los del grupo control, un hallazgo habitual en muchos individuos con daño psicológico. ¿Qué significaba esto? Una posibilidad es que, como los embusteros patológicos contaban con menos células cerebrales (sustancia gris) para abastecer a la corteza prefrontal (un área crucial para distinguir el bien del mal), les costaba tener en cuenta la moralidad, por lo que mentían con más facilidad. Pero esto no es todo. Cabe preguntarse —prosigue Ariely— por el espacio adicional que los mentirosos patológicos deben de tener en el cráneo al poseer mucha menos sustancia gris. Yang y sus colegas advirtieron también que los mentirosos patológicos tenían en la corteza prefrontal entre un 22 y un 26 por ciento más de sustancia blanca que los mentirosos no patológicos. Con más sustancia blanca recordémoslo: es lo que conecta la sustancia gris, los mentirosos patológicos seguramente son capaces de establecer más conexiones entre recuerdos e ideas diferentes; una mayor conectividad y un mayor acceso al mundo de las asociaciones almacenadas en la sustancia gris que acaso constituyan el ingrediente secreto de su condición de embusteros naturales, aspecto que afirma también Spence (2005:326-327)[6].

Si extrapolamos estos hallazgos a la población general, cabría decir que una mayor conectividad cerebral hará que para cualquiera sea más fácil mentir y al mismo tiempo considerarse una persona honorable. Al fin y al cabo, los cerebros más conectados tienen más vías que explorar cuando se trata de interpretar y explicar acontecimientos discutibles y esto, tal vez, sea un elemento clave en la racionalización de nuestras acciones deshonestas, recordemos que racionalizar es auto justificar las conductas a través de la mentira más o menos ingeniosas y más o menos convincentes que nos contamos a nosotros mismos primero y luego a los demás.

El vínculo entre creatividad y deshonestidad parece relacionado con la capacidad para contarnos a nosotros mismos historias o narraciones sobre cómo estamos haciendo la cosa correcta, incluso cuando no es así. Cuanto más creativos seamos, más capaces seremos de idear nuevas historias que nos ayuden a justificar nuestros intereses egoístas. Si la clave de la deshonestidad es la capacidad para considerarnos personas honestas y morales sacando al mismo tiempo provecho del engaño, la creatividad puede ayudarnos a contar mejores historias que nos permitan ser aún más deshonestos, pero, con todo, seguir teniéndonos por personas honradísimas.

La deshonestidad se contagia en la sociedad por el efecto del aprendizaje y la imitación, los modelos sociales son aquí esenciales. La idea de que la deshonestidad puede transmitirse de una persona a otra mediante el contagio social sugiere que, para ponerle freno, necesitamos adoptar un enfoque distinto. Por lo general, tendemos a considerar que las infracciones menores son precisamente esto: triviales e intrascendentes. Los deslices pueden ser insignificantes per se, pero cuando se acumulan dentro de una persona, en muchos individuos y en grupos, transmiten la señal de que es aceptable comportarse mal a gran escala. Transmitida de una persona a otra, la deshonestidad tiene un efecto lento, furtivo, socialmente corrosivo. Mientras el «virus» muta y se propaga de una persona a otra, se desarrolla un nuevo código de conducta, menos ético. Y aunque todo es sutil y gradual, el resultado final puede ser un desastre. Esto ha sido comprobado por Neil Garrett y colabores (2016:8)[7]. La deshonestidad —señala el autor— es una parte integral de nuestro mundo social, que influye en dominios que van desde las finanzas y la política hasta las relaciones personales. Como anécdota, las digresiones de un código moral a menudo se describen como una serie de pequeñas brechas que crecen con el tiempo. Los autores proporcionan evidencia empírica de una escalada gradual de deshonestidad egoísta y revelan un mecanismo neuronal que la respalda. Conductualmente, se muestra que la medida en que los participantes se involucran en la deshonestidad egoísta aumenta con la repetición. Usando resonancia magnética funcional, se aprecia que la reducción de la señal en la amígdala es sensible al historial de comportamiento deshonesto, consistente con la adaptación. Críticamente, el grado de sensibilidad reducida de la amígdala a la deshonestidad en una decisión actual en relación con la anterior que predice la magnitud de la escalada de deshonestidad egoísta en la siguiente decisión. Los hallazgos han descubierto un mecanismo biológico que apoya una «pendiente resbaladiza»: lo que comienza como pequeños actos de deshonestidad puede escalar a transgresiones más grandes.

Éste es el verdadero coste aun de casos secundarios de engaño y el motivo de que tengamos que estar más alerta en nuestros esfuerzos por dominar incluso las infracciones más insignificantes.

Una pista sobre este aspecto puede estar en la Teoría de las Ventanas Rotas, base de un artículo escrito por George Kelling y James Wilson en Atlantic en 1982. Kelling y Wilson sugerían un componente crítico de mantenimiento del orden en barrios peligrosos, que no consistía simplemente en poner más policía de vigilancia patrullando. Según su idea, si las personas de una zona deteriorada ven un edificio con unas cuantas ventanas rotas desde hace tiempo, tendrán la tentación de romper aún más ventanas y dañar más el edificio y los alrededores, lo que crea un efecto de desolación. Basándose en la Teoría de las Ventanas Rotas, para impedir el vandalismo proponían una estrategia sencilla: arreglar los problemas cuando son pequeños. Si reparamos cada ventana rota (y otras secuelas de malas conductas) de inmediato, otros potenciales delincuentes se lo pensarán mejor antes de portarse mal. Aunque es difícil demostrar o refutar la Teoría de las Ventanas Rotas, su lógica es aplastante. Sugiere que no hemos de excusar, pasar por alto ni perdonar delitos menores, pues las consecuencias pueden ser aún peores. Esto es especialmente importante para quienes están en un primer plano en la sociedad, singularmente políticos, funcionarios públicos, celebridades o presidentes de multinacionales. Quizá parezca injusto exigirles estándares éticos superiores, pero si nos tomamos en serio la idea de que la conducta observada públicamente tiene un gran impacto en quienes la observan, ello significa que la mala conducta de esa misma gente puede tener grandes consecuencias descendentes en la sociedad en general. En contraste con esto, al parecer los famosos suelen recibir por sus delitos castigos más leves que el resto de la población, lo que acaso dé a entender al público que esos crímenes y desmanes no son tan malos.

Los actos de honestidad entre los que se encuentra de forma central la veracidad son importantísimos para nuestro sentido de la moralidad social. Y aunque probablemente no serán noticias que causen sensación, si asumimos el contagio social, también debemos reconocer la importancia de dar publicidad a acciones morales destacadas. Con más ejemplos de comportamiento encomiable, quizá seamos capaces de aumentar lo que para la sociedad son conductas aceptables y, a la larga, hacer que nuestras acciones sean mejores. La deshonestidad impregna lo que podemos denominar los contravalores culturales de las sociedades a través del contagio social que señala Ariely. Como seres sociales copiamos permanente conductas sociales de los modelos que tenemos disponibles desde la infancia, aprendemos por la experiencia, por el ejemplo, por la imitación que el poder en nuestro país es corrupto[8] de forma sistémica, desde al menos 400 años, como señala North (200:146)[9] y existe una desconfianza hacia la consideración del Estado como una cosa propia de importantes capas sociales, aprendemos pronto que no hay que mostrarse voluntario para cuestiones públicas, porque el circuito de recompensas por ser solidario está desconectado de los merecimientos; se premia en muchas ocasiones a quien pertenece a un grupo dotado de poder social organizado aunque sea inmerecido frente a quien realmente lo merece. Estos contravalores —hay muchos más— cuando operan de forma agregada generan infinidad de inconsistencias y costes de transacción para que la sociedad pueda funcionar correctamente. Recientemente hemos tenido la oportunidad de ver en acción esos contravalores en relación con la pandemia de Covid-19 por la que atravesamos, precisamente con la conducta de innumerables jóvenes a quienes las autoridades advertían de que no se reunieran para el consumo de alcohol y otras drogas y se observaba una desapego sistemático a las reglas de salud pública concentrándose los jóvenes en todos los entornos posibles y violando las reglas existentes, fruto de ello —entre otros factores sistémicos— ha sido la magnitud de contagios de la segunda ola de difusión de la pandemia más amplia, al menos de Europa.

1. QUÉ TIENE LA VERDAD POR LA QUE ES TAN PELIGROSA PARA EL PODER POLÍTICO Y POR LO QUE TIENE QUE MENTIR PARA EVITARLA

Para responder a esta interesante cuestión tenemos que acudir a una obra central en esta materia, es la obra de Arendt (2017:39)[10] en ella la autora nos recuerda que los hechos y las opiniones, aunque deben mantenerse separados, no son antagónicos; pertenecen al mismo campo. Los hechos dan forma a las opiniones, y las opiniones, inspiradas por pasiones e intereses diversos, pueden divergir ampliamente y aun así ser legítimas mientras respeten la verdad factual. La libertad de opinión es una farsa si no se garantiza la información objetiva y no se aceptan los hechos mismos. Dicho de otro modo, la verdad factual configura el pensamiento político tal como la verdad racional configura la especulación filosófica.

Arendt (2017:89)[11] señala que la verdad conlleva un elemento de coacción, y las tendencias a menudo tiránicas y tan lamentablemente visibles entre los profesionales de la verdad podrían deberse, más que a su falta de carácter, a la tensión de vivir habitualmente bajo algún tipo de dicha coacción, «la suma de los ángulos de un triángulo es igual a dos rectos», «la tierra gira alrededor del sol», «es mejor sufrir una injusticia que cometerla», «en agosto de 1914 Alemánica invadió Bélgica» son muy distintos por lo que respecta a la forma en que se llegó a ellos, pero una vez considerados verdaderos y comunicados como tales, comparten el hecho de estar más allá del acuerdo, la discusión, la opinión o el consenso. Para quienes los aceptan esos juicios no variarán según las muchas o pocas personas que sostengan la misma tesis; la persuasión o la disuasión resultan inútiles, porque el contenido del juicio no es de naturaleza persuasiva sino coactiva.

A todo tipo de verdad se le puede aplicar lo que, en cierta ocasión, señaló Mercier de la Riviére acerca de la verdad matemática: «Euclides es un verdadero déspota, y las verdades geométricas que nos transmitió son leyes verdaderamente despóticas». En la misma línea —prosigue la autora— unos cien años antes Hugo Grocio, con la intención de limitar el poder del príncipe absoluto, había insistido en que: «ni siquiera Dios puede lograr que dos más dos no sumen cuatro». El autor no estaba interesado en la limitación implícita de la omnipotencia divina, sino que invocaba la fuerza coactiva de la verdad frente al poder político. Estas dos observaciones ilustran el aspecto que ofrece la verdad desde una perspectiva puramente política, desde el punto de vista del poder: se trata de si es posible y se debería controlar ese poder no sólo mediante una Constitución, una carta de derechos y diversos poderes como en el sistema de pesos y contrapesos, en el que según decía Montesquieu «el poder detiene al poder», es decir, mediante factores que surgen del mismo campo político y pertenecen a él, sino también mediante algo que surge del exterior, que tiene su fuente fuera del terreno político y que es tan independiente de los deseos de los ciudadanos como lo es la voluntad del peor de los tiranos.

Desde el punto de vista de la política, la verdad —acierta en afirmar Arendt— tiene un carácter despótico. Por eso la odian los tiranos, porque acertadamente temen la competencia de una fuerza coactiva que no pueden monopolizar, y por eso, no es muy estimada por los gobiernos que se basan en el consenso y rechazan la coacción. Los hechos están más allá de acuerdos y consensos, y ningún debate —ningún intercambio de opiniones basado en información correcta— servirá para establecer dichos hechos. Se puede discutir, rechazar o adoptar una opinión molesta, pero los hechos molestos son de una tozudez irritante, una tozudez que sólo las mentiras con capaces de remover. El problema es que la verdad factual, como cualquier otra verdad, exige perentoriamente ser reconocida y excluye el debate, y el debate constituye la esencia misma de la vida política.

El mundo de la política moderna es el mundo de las representaciones, de la simplificación y de los dogmatismos ideológicos de distinta intensidad de diversos grupos humanos que se articulan en una analogía a las iglesias seculares como advirtiera Voegelin (2014:27)[12] y rechazara, con matices, Kelsen (2015:317)[13] cuyo propósito es alcanzar el poder para vivir de él y gracias a él y las batallas dialécticas entre esas iglesias modernas seculares tienen que ver muy poco con la verdad y mucho con el consenso y el acuerdo en el reparto del poder y las prebendas mediante una técnica o estrategia que divide el poder en el tiempo y que es el método de la elección democrática entre mayorías y minorías.

La resistencia del poder político a la ciencia, a los hechos tiene en los días en los que escribimos este trabajo una notable corroboración en el manifiesto que bajo el ilustrativo título: «En salud, ustedes mandan, pero no saben»[14] agrupa en España a más de 55 sociedades científicas y a 170.000 expertos sanitarios sobre la forma equivocada de afrontar la pandemia por Covid-19. En ese manifiesto se incorpora un decálogo de principios científicos para abordar la pandemia que el Gobierno ha rechazado basándose en criterios políticos partidistas e irracionales alejados por completo de la ciencia para el abordaje de la pandemia internacional. Cuando se lee el manifiesto que incorporamos a pie de página por su gran relevancia social se observa, por ejemplo, como el sistema autonómico ha alcanzado tales cotas de incoherencia y descoordinación que aún existiendo normas jurídicas de coordinación éstas se incumplen cediendo a presiones políticas espurias. Vemos aquí, de forma empírica, como la mentira en la gestión de la crisis tiene que imponerse para anular la verdad fáctica de la completa imprevisión e incompetencia de quienes han gestionado la crisis, como advirtiera Arendt.

Pese a lo anterior que es un hecho dramático pero reiterado en la historia, singularmente en la nuestra, viene la fase de «camuflaje» mediante la elaboración de relatos falsos que entierren los hechos lo más profundo posible para lo que el tiempo —que lo diluye todo— por una parte y la desinformación de los medios de masas ofreciendo noticias seleccionadas para dirigir la atención de las audiencias con nuevos sucesos llamativos por otro, cumplan un papel determinante de forma que terminen por difuminar por olvido inducido la responsabilidad que quedará huérfana de responsables pese a que existan.

Aquí y siguiendo nuevamente a Arendt (2017:91) hay que recordar que la falsedad deliberada atañe a los hechos contingentes, es decir a cuestiones que no poseen una verdad inherente a ellas mismas, que no necesitan ser como son. Las verdades factuales nunca son irresistiblemente ciertas, el historiador sabe cuán vulnerable es la completa textura de los hechos en la que trascurre nuestra vida diaria; dicha textura está siempre en peligro de ser agujereada por mentiras sencillas o desgarrada por la falsedad organizada de grupos, naciones o clases o bien de ser negada y tergiversada, de que se la sepulte con esmero bajo toneladas de papel plagado de falsedades o simplemente se deje caer en el olvido. Los hechos precisan de un testimonio para ser recordados y de testigos fiables que los confirmen para encontrar un lugar seguro en el terreno de los asuntos humanos. De lo cual se sigue que ninguna afirmación fáctica podrá situarse jamás allende la duda —es decir, no podrá hallarse segura y protegida contra los ataques—, al contrario de lo que ocurre, por ejemplo, con la afirmación de que dos y dos son cuatro.

Es esta fragilidad la que hace que el engaño resulte tan tentador, y tan fácil dentro de ciertos límites. Nunca entra en conflicto con la razón, porque las cosas podrían haber ocurrido según sostiene el embustero. Las mentiras resultan a menudo mucho más verosímiles, más atractivas para la razón, que la realidad, porque quién miente tiene la gran ventaja de conocer de antemano lo que su audiencia desea o espera oír. Ha preparado su relato para el consumo público, esmerándose en que resulte creíble, mientras que la realidad tiene la desconcertante costumbre de enfrentarnos con lo inesperado, para aquello para lo que no estamos preparados.

El mentiroso puede salirse con la suya cuando cuenta mentiras individuales, pero no cuando recurre a la mentira como principio. Esta es una de las lecciones que cabe extraer de los experimentos totalitarios y de la aterradora confianza que los dirigentes de dichos experimentos tienen en el poder de la mentira.

2. LA MENTIRA Y LA DIVERSIDAD DE LENGUAJES

Hay autores, fundamentalmente antropólogos que consideran que el lenguaje se desarrolla entre los seres humanos para proteger el conocimiento de los grupos que hacen uso de la herramienta lingüística para la custodia de los recursos escasos de los que disponen y de las técnicas de explotación de los recursos de cada comunidad humana rival, del robo visual como argumenta Mark Pagel (2013:390-91)[15]. Es decir, se trataría de proteger mediante la codificación lingüística los conocimientos y saberes de unos grupos humanos rivales frente a otros ya que los seres humanos hemos vivido evolutivamente en comunidades pequeñas. Cuando apreciamos la diversidad lingüística de las diversas etnias humanas podemos reconocer que el lenguaje ciertamente protege esferas culturales de forma compacta, es decir, si no conocemos el Alemán, el Inglés o el Japonés, pero lo mismo podemos afirmar de los otros 7000 idiomas que existen, nos enfrentamos a una barrera infranqueable de entrada a los conocimientos de cada grupo humano y pese a ser seres humanos, nos encontraríamos en cada comunidad completamente aislados en la diversidad lingüística aislante del lenguaje propio de cada grupo, así es claro que sólo conociendo la codificación lingüista podremos interactuar y participar del conocimiento acumulado en y por cada grupo. Los lenguajes pues aíslan, dividen a grupos y protegen a unos grupos contra otros, no otra es la razón de la potenciación de los lenguajes diferenciales entre las comunidades autónomas que los tienen, se trata en última instancia en diferenciar y separar a comunidades humanas generando «identidades autóctonas» de mayor o menor tamaño con finalidades políticas.

Podemos apreciar lo anterior singularmente en Estados en proceso de fragmentación en los que una de las obsesiones políticas de las clases dirigentes —que siempre serán castas gobernantes, mejor o peor camufladas ya que el sistema representativo siempre las propicia— es asegurar el uso del lenguaje en la comunidad de habitantes que estas gobiernan. A través de la lengua se crean y se recrean hechos diferenciales fundamentales como el grupo que habla el lenguaje del que no lo habla y que en conexión con una historia y una cultura endogrupo diseñada cuidadosamente que recrean a escala la estructura de una nación social primero y política después de creación artificial y sin respuesta inicial a ninguna necesidad especialmente querida o sentida por aquellas comunidades de hablantes que van a ser objeto del experimento social de inmersión lingüístico-cultural en una lengua con un objetivo político no revelado, porque la confesión de tales objetivos sería inadmisible ya que se trata a los seres humanos nuevamente como «objetos o cosas» de un proyecto o programa político, aquí la mentira es esencial para justificar lo injustificable.

Este aspecto queda perfectamente claro en lo que señala Trivers (2013:231)[16], las narraciones históricas falsas son mentiras que nos contamos acerca de nuestro pasado histórico, cuyo objetivo es autojustificarnos y glorificarnos. Sugerir que somos especiales, que también lo son nuestros actos y que lo fueron los de nuestros antepasados. Que nuestros actos no son inmorales, de modo que no le debemos nada a nadie. Los relatos históricos falsos son un autoengaño de carácter grupal porque son muchos los que creen la misma mentira. Si uno puede convencer de una falsedad a la gran mayoría de la población, cuenta con una gran fuerza para lograr la unidad grupal. Desde luego, los líderes pueden explotar fácilmente ese recurso utilizando frases autoritarias que refuerzan la ilusión: pueden decir, por ejemplo, que desde hace mucho tiempo se le ha negado el espacio vital al pueblo alemán, ¡de modo que Dass Deutsche Volk muss Lebensraum haben! (el pueblo alemán debe tener el espacio vital que necesita), y que se cuiden los vecinos […]. Un hecho que corresponde destacar —concluye Trivers— es que la presión para repetir una historia falsa es más grande cuando más joven es quien la recibe. Así, solemos contar a los niños una versión heroica de nuestro pasado y reservamos las opiniones más matizadas para los estudiantes universitarios. Desde luego, esa política refuerza el perjuicio porque lo que se aprende en la infancia tiene una fuerza especial, porque no todos llegan a la universidad y porque, si lo hacen, puede ser que no estudien historia. Lo señalado por Trivers nos suena próximo, ha sucedido y sucede en nuestro país con el surgimiento del nacionalismo identitario independentista, pero los argumentos se han empleado en muchos otros conflictos y contextos sociales a lo largo de la historia en nuestro mundo y serán usados en el futuro de igual forma que en el pasado.

3. PODERES PRIVADOS Y EL PODER DE DESVIRTUAR LA REALIDAD

Cuando hacemos referencia a los poderes privados universales, nos referimos a las nuevas y poderosas herramientas o plataformas de tráfico de la información internacional cuyo poder es superior al de muchos pequeños y medianos países, nos referimos a Facebook, a Twitter, a Google, a Amazon, a un tipo de poder que se filtra como deseable y acaso natural en todas las sociedades que hacen uso de las redes sociales, pero que opera de forma opaca y con base en el ánimo de lucro, su ánimo de lucro suele ser insaciable. Se comercia con las informaciones sociales, comerciales o políticas según algoritmos protegidos por normas de propiedad intelectual y fruto de ese conocimiento estructurado por el Big Data se obtiene poder en sus más diversas expresiones como venimos considerando en este trabajo.

Precisamente porque son poderes universales, el derecho a no ser engañado debe articularse en primer lugar como un derecho universal, única forma de sujetar la dinámica incoercible de tales poderes con los mecanismos siempre insuficientes de las legislaciones locales, ya sea la europea o la de los Estados miembros de la UE en los márgenes de su competencia regulatoria, insuficientes una y otras para limitar el alcance del poder global que caracteriza estas plataformas de poder. Pero también en la India, en África, en América del Sur o en cualquier otra región del mundo hay que proveer una solución universal a un problema de naturaleza universal como es la dimensión de estas plataformas universales, en ese sentido el nuevo derecho debe facilitar regulaciones derivadas de su universalidad lo que en la actualidad no sucede.

PODERES PRIVADOS, PODERES PÚBLICOS, PRIVACIDAD Y DATOS PERSONALES

Podría perfectamente encuadrarse el significado profundo de la conversión de la privacidad en manos de empresas privadas en lo que Luigi Ferrajoli (2011:53) ha denominado con acierto como «Poderes Salvajes»[17] y que otros autores como Michael J. Sandel (2019) advierten como la transformación de las economías de mercado, en «sociedades de mercado»[18]. En sentido parecido se pronuncia Sheldon S. Wolin (2008:196) cuando señala que un hecho significativo de la política contemporánea es que mientras que el alcance de la autoridad reguladora del Gobierno ha retrocedido, el poder corporativo ha ido ocupando progresivamente funciones y servicios gubernamentales, muchos de los cuales solían considerarse áreas exclusivas del poder estatal. La privatización provee un componente fundamental de la democracia dirigida. Al ceder funciones esenciales que alguna vez fueron celebradas como victorias populares, la privatización devalúa lo político y su contenido democrático. La estrategia que siguen los defensores de la privatización es, primero desacreditar las funciones del bienestar social como «socialismo» y luego vender esas funciones a un oferente privado o bien privatizar un programa en particular[19].

Los mercados no logran producir resultados eficientes por muy diversas razones que los economistas han explorado durante los últimos veinticinco años como argumenta Jean Tirole (2017:47-64)[20] en la búsqueda de la economía del bien común. Los mercados están plagados de problemas de asimetrías de información y existen incentivos para que los participantes exploten y aumenten esas asimetrías, recuerdan, entre otros[21] Joseph Stiglitz (2010:13-28)[22] o Paul Ormerod (2010:111-128)[23] razón por la que ignorar tal dato no conducirá sino a situaciones aberrantes si tal actividad carece de la necesaria regulación proactiva de los poderes públicos que aquí defendemos en el ámbito que estamos considerando. Esta experiencia debe proporcionarnos diversas consecuencias prácticas relevantes en materia de regulación y, entre ellas, no debe olvidarse que relajar el control de la regulación transfiriéndolo sin más a la autorregulación privada técnica, hace perder al Estado el control que tiene encomendado tutelar. Armonizar la lógica del sector privado: el ánimo de lucro o la mano invisible de Adam Smith con la lógica que preside la actividad del Estado: el bienestar público y el interés general y la mano visible de los valores y principios constitucionales de modo eficiente, ponderado y equilibrado no es tarea que se pueda delegar bajo la justificación pueril de que el Estado carece de instrumentos de regulación o técnicos de comprensión de los aspectos especializados objeto de regulación. Parece que el precio de esa autonomía regulatoria o en los extremos más patológicos soberanía regulatoria puede conducir y de hecho conduce a los efectos perversos de generación de externalidades negativas sistémicas inmensas que son lecciones de las que conviene tomar buena nota.

Señalado lo anterior no podemos, más aún no debemos olvidar o desconocer los argumentos históricos que señala atinadamente Stephen Holmes (2007:23)[24] en relación con la renovada vigencia de un problema antiguo que cobra, en la actualidad, nuevo vigor. El perenne problema de la necesidad de acción Estatal para limitar la posible arbitrariedad de los poderes privados. De acuerdo con la versión recogida en los libros de texto, los teóricos europeos que tuvieron una mayor influencia en los Padres Fundadores de Estados Unidos eran tenaces antiestatistas. Veían en el Estado un agente coercitivo que debía ser limitado y en la sociedad civil una esfera de libertad que debía ser expandida. Mientras que consideraban que el sector público suponía una amenaza para la libertad y, por tanto, abogaban por su regulación, entendían que el sector privado era inofensivo, por lo que invitaban sólo a una benigna desatención. Pero ¿qué tan fiel resulta este retrato de los grandes teóricos europeos tan apreciados y emulados por los creadores de la Constitución de Estados Unidos? En una lectura de autores como Locke y Montesquieu no encontramos ningún rastro de una clara hostilidad contra el Estado, ni tampoco encontramos ninguna veneración de una esfera privada sin intervención. De hecho, lo que aprendemos es que sin autoridad la sociedad eventualmente colapsaría en un «estado de naturaleza» más o menos insufrible. La anarquía supone un riesgo tan grande para la libertad como la tiranía. La sociedad civil es, de hecho, una sociedad civilizada por el Estado. Como bien y penosamente sabían los teóricos de los siglos XVI y XVII, un gobierno mutilado expone a sus súbditos a bandas de forajidos asesinos. El «sector privado» debe ser severamente restringido por razones de seguridad. Entre los candidatos a una supresión pública justificada están los ejércitos privados, los tribunales privados y los impuestos privados, así como el derecho privado a declarar la guerra y el derecho privado al enjuiciamiento de criminales. La libertad sólo puede alcanzarse si se otorga a las autoridades públicas el monopolio de tan cruciales y delicadas funciones. No fueron Locke o Montesquieu, sino algunos personajes desaforados y algunos papistas desleales quienes desplegaron una ilimitada hostilidad contra el Estado. Los autores a los que admiraron y siguieron los constitucionalistas no se oponían a la autoridad en general, sino sólo a la autoridad abusiva y arbitraria; a la autoridad ilegítima en relación con el bien público. Aunque la soberanía era peligrosa y merecía desconfianza, la condición de carencia de soberanía no atemorizaba menos. Es más, el principal problema para el que se diseñaba un gobierno efectivo no era el «desorden». Caos y anarquía eran eufemismos de la opresión privada, del daño infligido al débil por el poderoso. La principal razón por la que «es imposible que la raza humana subsista, al menos en algún estado confortable y seguro, sin la protección del gobierno» es que, sin éste, la comunidad está a merced de los opresores privados. La dimensión redistributiva de la teoría del contrato social es, a menudo, pasada por alto incorrectamente. El paso del estado de naturaleza a la sociedad civil presupone una redistribución de la seguridad orquestada por el Estado. La seguridad de los señores de la guerra se reduce —por ejemplo, se derriban sus murallas en el sistema Feudal— y se aumenta la seguridad que disfrutan la mayoría de sus conciudadanos. En otros términos, el contrato social no sólo impone la paz y produce orden, sino que reordena una grave desigualdad en las capacidades de los hombres para defenderse a sí mismos.

El poder privado supone una amenaza tan grande para la libertad como el poder público remarca Holmes. Esta es una fiel formulación del principio básico inculcado a James Madison y Thomas Jefferson por sus predecesores ingleses y franceses. La estricta no interferencia del Estado produciría no una competencia generalizada, sino monopolios depredadores. Sólo una autoridad soberana, burocrática y centralizada, puede tener la esperanza de domar al poder privado. Así pues, la libertad tan valorada por Locke y Montesquieu se distorsiona gravemente cuando es vista exclusivamente en términos de libertad «negativa». Estos teóricos no pretendían blindar completamente una esfera privada, colocándola fuera del alcance de los poderes públicos. Locke insiste en que la privacidad de la iglesia y del domicilio no protegen a los malhechores del brazo de la ley. Quienquiera que se encuentre en las condiciones de ser víctima de violencia o fraude, puede buscar un remedio en la autoridad pública. La libertad lockeana supone el acceso universal al poder del Estado. Los derechos lockeanos no son sólo escudos o diques de contención frente a la intervención del gobierno, incluyen la expresa titularidad del derecho a la intervención estatal para proteger a los individuos respecto del daño ocasionado por terceros, aspecto que ya vimos más arriba en relación con la eficacia horizontal de los derechos fundamentales.

En los siglos XVI y XVII proteger al débil frente al fuerte suponía, entre otras cosas, la abolición de inmunidades tributarias y la distribución más equitativa de las cargas fiscales. El estado de naturaleza no sólo era desordenado, sino también injusto. En este sentido, la autoridad pública no tenía únicamente el propósito de establecer un orden, sino de producir un orden justo. Madison resulta inequívoco en este punto: «la justicia es el fin del gobierno. Es el fin de la sociedad civil». Desde luego, el concepto de justicia es resbaladizo, muy difícil de definir. Sin embargo, para los padres fundadores de la República norteamericana no significaba sólo la prevención del daño mutuo (por fuerza o fraude) y el cumplimiento de los contratos, sino que incluía, al menos, la idea más ambiciosa de un igual acceso a la justicia, norma incompatible con muchas relaciones «contractuales» manifiestas (por ejemplo, las que suponen una servidumbre permanente). Etimológicamente, los «privilegios» se refieren a «leyes privadas». La abolición de privilegios significa, pues, que lo privado y, por principio, el acceso especial debe ceder ante el igual acceso. La VI[25] enmienda de la Constitución de Estados Unidos es un buen símbolo de esta dimensión positiva de la libertad moderna. En una línea de pensamiento coherente con lo señalado se pronuncia Cass R Sunstein (2016:7-9)[26] cuando advierte que la protección de la vida, la libertad y la propiedad era una tarea de los Gobiernos federal y estatales desde el punto de vista de los autores de la Constitución; y esa protección requería una acción gubernamental. En virtud del contrato social, el Gobierno debe proteger a la ciudadanía de la agresión privada[27] proporcionando y redistribuyendo seguridad de forma efectiva, un propósito que apenas podía ser asegurado mediante la inmunidad de los controles gubernamentales. Por esa razón no sería plausible ver dicha inmunidad como el único objetivo del régimen constitucional, o entender la estructura gubernamental como la protección de los «derechos negativos» solamente. La protección gubernamental de la vida, la propiedad y el contrato sólo puede ser considerada como positiva en su carácter.

De lo anterior podemos extraer algunas ideas que son de aplicación al tema que nos ocupa. En efecto, son los poderes privados fundamentalmente quienes tienen un interés concentrado en hacer uso de los datos personales para finalidades económicas y políticas (Facebook, Yahoo, Google, Microsoft, Apple etc.) en múltiples dimensiones lucrativas como recordara Vilfredo Pareto[28] que los sistemas regulatorios no son capaces de equilibrar adecuadamente y la perspectiva futura es aún peor ya que la nueva dimensión de la Internet de los objetos[29] permitirá cuantificaciones aun notablemente más extensas (abarcará más componentes íntimos de la vida privada de las personas como los datos de biosalud) y precisas del «yo cuantificado» y por lo tanto el sacrificio de la privacidad alcanzará cotas de mayor impacto sobre los derechos fundamentales afectados. Pero con ser cierto lo anterior, a nuestro juicio, existe un riesgo igualmente preocupante serio y actual y que se encarna en que el Estado pueda participar directa o indirectamente en los poderes de control y de conocimiento de lo que estas tecnologías les pueden reportar con finalidades de genuino análisis social como advirtiera atinadamente Norberto Bobbio (1985:36-37)[30] y, bajo la justificación de la seguridad del Estado, como manto protector que puede justificar cualquier injerencia desproporcionada y gravemente perturbadora en la vida de los ciudadanos, pueda expandirse a múltiples áreas de control social no justificadas —una nueva forma de ingeniería social— como conocer con detalle la ideología política de una buena parte de la sociedad conectada a las redes, al menos de aquella que se encuentre operando en las redes con perfiles en las redes sociales, por ejemplo y que se ha puesto de manifiesto el incidente internacional protagonizado por Edward Snowden[31]. Así como los aspectos que hemos considerado con anterioridad como la propaganda cognitiva virtual en conexión con las noticias falsas. Todo ello sin olvidar el revelador contenido de la Sentencia C-362/14 de la Gran Salta del Tribunal de Justicia, de 6 de octubre de 2015, caso Maximilliam Schrems en la que el alto Tribunal declara las prácticas ilícitas de los servicios de información norteamericanos sobre los datos personales de los usuarios europeos procesados por empresas norteamericanas como Facebook. Pero no se trata de una posibilidad orientada hacia un individuo únicamente, lo que sería injustificable, sino que la tecnología hace posible la inserción de éste en grupos y controlarlos a estos en sus relaciones sistemáticas: manifestaciones, enlaces, estructura y las consecuencias que de ello es perfectamente posible derivar, su organización y previsibilidad de conductas, la sociedad clasificada que hemos considerado en el punto de este estudio.

4. TECNOLOGÍAS DECONSTRUCTORAS DEL APRENDIZAJE QUE FAVORECEN LAS POSIBILIDADES DE ÉXITO DE LA MENTIRA Y LA MANIPULACIÓN SOCIAL A GRAN ESCALA

Bajo la expresión de este epígrafe queremos poner de relevancia un conjunto de fenómenos de base tecnológica que están cambiando o reformulando de forma significativa, es decir profunda y sistemática las bases de nuestra forma de aprendizaje y que puede conducir a las siguientes generaciones a una situación sin apenas capacidad de pensamiento crítico basadas en un aprendizaje muy deficiente derivado del uso abusivo de esas tecnologías por desconocimiento, ignorancia y la siempre fatal existencia entre nosotros de gurús o nuevos chamanes sociales que evidencian que no hay nada más peligroso que la ignorancia en acción acerca de cómo afectan a nuestro cerebro estas tecnologías y que intentan influenciar desde su visión dogmática e ideológica cuestiones profundas que no entienden pero que, pese a ello, quieren transmitir a la sociedad a la que intentan inducir con sus «falsas creencias». Como señalan Mariette y Gauvrit (2020:50)[32] no sólo la inteligencia cuenta para evitar descarrilamientos intelectuales, sino la resistencia a las creencias irracionales: o, dicho de otro modo, el pensamiento crítico es esencial, pero es una variable que no miden bien las pruebas de inteligencia. El pensamiento crítico es, retomando una definición de la filósofa Elena Pasquinelli y de sus colegas, saber calibrar la confianza que se deposita en una información. Ello implica, entre otras cosas, identificar las hipótesis o los presupuestos de un discurso, evaluar los argumentos y las pruebas. Tener un pensamiento crítico es un estado mental, casi un rasgo de la personalidad que engloba el afán de conocer la verdad, la necesidad de disponer de pruebas, la tendencia a imaginar varias explicaciones posibles y una cierta apertura a las ideas contrarias. Es igualmente la huida de un pensamiento que primero «siente» emotivamente de forma intensa y después se justifica cualquier pensamiento racionalizándolo desde la emoción.

Las tecnologías a las que nos referimos aparte de las redes sociales que ya hemos considerado y que no son sino un epifenómeno del nuevo marco tecnológico, son el uso que hacen tanto niños como jóvenes y adultos de las tecnologías de telefonía móvil y aprendizaje por ordenador, elementos que en los últimos diez años se han adherido a nuestras vidas como auténticas prótesis informacionales. Qué nos dice la evidencia científica de cómo estas tecnologías están moldeando y afectando a nuestra forma de aprendizaje y de procesar la información transmutando el tipo de civilización que hemos sido en favor de la civilización que estas tecnologías están propiciando. Desmurguet (2020:6)[33] señala que la concienciación del problema que se avecina se ha desarrollado en tres tiempos: El primero fue el de las declaraciones entusiastas: la era digital era una revolución. Prometía transformar a nuestros hijos, los bien llamados «nativos digitales», en unos genios omnisapientes. Gracias a Google y a sus socios iba a nacer una generación «mutante», portadora de un cerebro diferente: más veloz, más poderoso y más apto para los procesamientos paralelos y para la recepción de grandes flujos de información. Después llegó la hora de las primeras dudas, pero la amenaza fue detenida de inmediato por la difundida verborrea de unos expertos mediáticos devotos: no hay que ser alarmista, solo son perjudiciales los excesos; con las investigaciones no se ha llegado a ningún consenso, etcétera. La herida se cierra durante unos años, luego vuelve a abrirse y, entonces, llega la hora del malestar y las verdaderas preocupaciones. Hay que decir que los hechos son testarudos. No se pueden cubrir indefinidamente las asperezas de la realidad con la alfombra de las fanfarronerías de la mercadotecnia y los discursos corruptos. Además de los padres, hoy en día todos los profesionales de la infancia hacen sonar la voz de alarma. Cada vez más docentes, pediatras y logopedas detectan niños afectados, incapaces de quedarse quietos en su sitio, de concentrarse, de controlar sus emociones, de retener una lección de diez líneas o de dominar las bases más elementales del lenguaje. Y cuál es la razón que fundamenta este problema, el autor es claro: nuestro cerebro, tal y como ha sido moldeado y esculpido por la evolución, no está hecho para la era digital moderna. Esta no le conviene ni a su funcionamiento ni a su desarrollo. Acosado por pantallas de todo tipo, el cerebro sufre. Se construye mal y funciona de un modo enteramente deficiente. Pero cuando a pesar de lo anterior una corriente cultural fuerza los procesos evolutivos de aprendizaje aparecen los problemas. El cerebro humano aprende mucho mejor con una persona que con un tutorial o un vídeo en el que aparezca esa misma persona, lo cual no es de extrañar, ya que nuestra estructura neuronal, está equipada, moldeada y construida para la interacción humana. El daño en las capacidades cognitivas y en el desarrollo cerebral son profundos y persistentes.

Los estudios de gran alcance sobre el informe PISA de la OCDE, Desmuguet (2020:172)[34] comparan los resultados escolares de alumnos de distintos países en matemáticas, idiomas y ciencias. Según demuestran, cuanto mayor es la responsabilidad pedagógica que se transfiere de las personas a las máquinas, peores son los resultados de los alumnos y más aumentan las desigualdades sociales. Incluso los famosos cursos masivos abiertos en línea gratis (conocidos como MOOC, por sus siglas en inglés), que supuestamente iban a revolucionar el aprendizaje, se han desvanecido entre unos índices de abandono estratosféricos y unos resultados pedagógicos catastróficos.

En el caso de los humanos, resulta tentador relacionar estos datos con varias investigaciones recientes sobre los efectos de la «multitarea», es decir, la realización simultánea de varias actividades. Los devotos de la era digital argumentan con pasión que esa es una de las aptitudes específicas y destacables de las nuevas generaciones. Las pantallas, por tanto, habrían creado la capacidad inédita de ejecutar varias tareas a la vez: hacer los deberes de matemáticas mientras ves una serie de Netflix y chateas en las redes sociales. Por desgracia, esta bonita historia se aproxima más a la fantasía que a la realidad. El cerebro humano está diseñado para la ejecución de una sola tarea al mismo tiempo. Numerosos estudios con animales sugieren que la multitarea acaba, a causa de las incesantes demandas que se imponen al cerebro, por convertir la distracción y la impulsividad cognitiva en los pilares del funcionamiento neuronal.

Todos estos hallazgos apuntan a que nuestro cerebro necesita tranquilidad y sosiego sensorial para desarrollarse de manera óptima. El exceso de imágenes, sonidos y demandas diversas constituye un caldo de cultivo para que aparezcan déficits de concentración, síntomas de hiperactividad y adicciones. Una gran cantidad de estudios han corroborado que el consumo digital de los niños es un factor de riesgo para sufrir un trastorno de déficit de atención con o sin hiperactividad (TDAH), un problema cuya prevalencia se ha disparado en los dos últimos decenios. Turkle (2020:54)[35] lo señala con claridad, los niños, sobre todo, necesitan soledad. La soledad constituye una condición previa para aprender a conversar con nosotros mismos. Esa capacidad para estar a solas y descubrirse a uno mismo constituye la base del desarrollo. Pero ahora, desde muy jóvenes —incluso a los dos, tres, o cuatro años—, a los niños se les da acceso a una tecnología que reemplaza la soledad por distracciones externas. Irónicamente, eso dificulta establecer relaciones verdaderas, dificulta el desarrollo de empatía real.

Lo señalado nos puede conducir a un tipo de sociedades, quizá a aquella sociedad que Nicholas Carr (2001:258) denomina la sociedad del pensamiento superficial[36] , una sociedad en la que el pensamiento crítico con sus corolarios, como ya señalamos: singularmente la búsqueda de la verdad se ha debilitado a extremos alarmantes y en la que la credulidad, característica de esa superficialidad hace posible el éxito de la desinformación ya que se da igual valor a cualquier información cuya característica fundamental sea la novedad, la notoriedad y la rapidez en su aparición y desaparición conjuntamente con la explotación de los sesgos que hemos considerado. La desinformación es un fenómeno de base social y si la sociedad que procesa la información está fuertemente polarizada, carece de una adecuada educación y se la infantiliza intencionalmente hasta límites insospechados mediante la destrucción del pensamiento crítico es fácil que esa información falsa enfrente a grupos, fragmente consensos básicos en muchos casos esenciales e implícitos para el funcionamiento coherente de la sociedad y esta sea usada por una clase política neopopulista que explote adecuadamente las debilidades y carencias educativas que estas tecnologías hacen posible. El fenómeno FOMO sería una de las múltiples manifestaciones de ello, acrónimo de la expresión inglesa fear of missing out, es decir, miedo a perderse algo. El síndrome FOMO corresponde a la angustia que algunos usuarios de las redes sociales presentan por temor a no enterarse de informaciones o eventos, al parecer, trascendentales. Este tipo de miedo a la exclusión social, que siempre ha existido, puede causar frustración y es causa de un uso desmedido de los teléfonos inteligentes entre los jóvenes generando situaciones de estrés el hecho de no poder hacer uso del terminal incluso por breves periodos de tiempo, lo que podríamos denominar una dependencia tecnológica.

Parece que de las distopias sostenidas por Aldous Huxley y George Orwell, la de Huxley encaja mejor con una sociedad en la que las tecnologías de aprendizaje se transforman en tecnologías del entretenimiento y de flujos de información masiva en las que la novedad y la saturación informativa se engrana adecuadamente con el medio tecnológico que la difunde y va generando modificaciones relevantes en la forma biológica de procesar la información a nivel cerebral formando ciudadanos incapaces de comprender una realidad social compleja y consumidores de información banal sesgada. A esta sociedad le resta el «soma», la droga que se administraba a los ciudadanos pensados por Huxley y, parece que hay partidos políticos que sostienen la legalización de sustancias psicotrópicas de uso personal, en vez de la dispensa estatal que sería la idea de Huxley, una forma de fabricar una artificial vida feliz para una sociedad basada en el engaño y la manipulación sistemática. La evitación de la racionalidad humana y la potenciación de las emociones a través de la explotación de los sesgos cognitivos son una fase de la evolución de la propaganda y si esto no basta se podría acudir cuando sea preciso y con el alcance necesario a la fisiología mediante la legalización de lo que podría considerarse como la revolución farmacológica lo que incluye la difusión y el uso de psicotrópicos y de nootrópicos, a diferentes escalas y para diversos grupos sociales con daño difícilmente reparable para la libertad individual, ya que no se puede ser libre desde la mentira y la confusión inducida, del error se puede salir de la confusión no.

Lo que sucede con el uso de las tecnologías electrónicas de la información en el aprendizaje que hemos considerado tiene cierto parecido con lo que sucede con la inteligencia artificial.

La ley de Murphy señala que si algo puede salir mal saldrá mal en realidad la versión original dice que: «si hay dos o más maneras de hacer algo y una de ellas puede resultar en una catástrofe, alguien se decidirá por esta última». Edward Aloysius Murphy era ingeniero aeroespacial y formuló su ley en 1949 después de descubrir que estaban mal conectados todos los electrodos de un arnés para medir los efectos de la aceleración y deceleración en pilotos. La Ley de Murphy nos recuerda algo habitual en la Ciencia experimental y es que «desconocemos lo que desconocemos y que por ello no hay nada más peligroso que la ignorancia en acción». Los expertos en Inteligencia Artificial conocen muy bien los límites de ésta, el problema se encuentra entre los no expertos y profanos que confunden «ciencia» con «ciencia ficción» y a partir de ahí se sumen en mundos puramente especulativos gravemente desconectados de la realidad científica y si lo anterior lo conectamos a una sociedad ansiosa de recibir novedades y noticias rápidas, fascinantes y superficiales a diferencia de la realidad científica que es pausada, metódica, prudente y reflexiva llegamos a lo que podríamos llamar «fiebres sociales» en torno a temas como la IA.

Lo que debe preocuparnos seriamente no es una capacidad especialmente abrumadora de una superinteligencia artificial capaz de todo propia de la ciencia ficción que pueda realizar acciones verdaderamente inteligentes e intencionales en un futuro a corto plazo, sino el hecho de que estamos encomendado cada vez más decisiones realmente importantes a máquinas estúpidas que, en ningún momento son «conscientes de lo que hacen» eso es lo verdaderamente importante. Es conocido el caso del usuario de Siri que le dijo: «Siri, apunta lo siguiente en la lista de la compra». A lo que Siri respondió: «Lo siguiente», «apuntado en la lista de la compra». Las maquinas inteligentes actuales constituyen un ejemplo de lo que el filósofo de la mente Daniel Dennet llama «habilidad sin comprensión» y esa es, como recuerda entre nosotros Ramón López de Mántaras (2020:52)[37] una buena definición de lo que la IA es hoy. Los sistemas más avanzados de IA como los que se basan en el aprendizaje profundo detectan correlaciones, pero no relaciones de causa y efecto, por ejemplo, no pueden aprender que es la salida del sol lo que provoca el canto del gallo y no al revés, cuestiones que un niño de cinco años comprende. Estos aspectos fueron detallada y correctamente examinados por John R Searle (2000:59) en efecto, el argumento fundamental que Searle aduce (expuesto gráficamente a través de la ya clásica imagen y argumento de la sala china), posteriormente desarrollado en el trabajo «Mentes, cerebros y ciencia» y perfectamente perfilados en «El misterio de la conciencia» es que: 1) la sintaxis, no es lo mismo que, ni es por si misma suficiente para la semántica, pero el argumento más profundo contra el computacionalismo es que: 2) los rasgos computacionales de un sistema no son intrínsecos a la mera física de ese sistema, sino que necesitan de un usuario o interprete externo que proporcione una interpretación computacional al sistema[38].

En ese sentido deberían estar presididas todas las aproximaciones al fenómeno de la IA desde el principio de «precaución» reconocido por la UE ya en el año 2000 para diversos entornos que podríamos considerar de riesgo y entre los que se encuentran los «usos de la IA». Estas ideas han sido plasmadas, por ejemplo, en la «Declaración de Barcelona para el adecuado desarrollo de la IA» de 8 de marzo de 2017. Y muy recientemente se ha aprobado la Resolución del Parlamento Europeo de 20 de octubre de 2020 con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial (2020/2014 (INL)) que será a nuestro juicio un instrumento de una relevancia extraordinaria para lograr que las empresas que desarrollen sistemas de IA que generen riesgos asuman la responsabilidad civil de los daños que se puedan generar.

La exigencia de responsabilidad civil es una herramienta poderosa si además opera en el marco de una agencia reguladora que analice cuidadosamente la «fiabilidad» de los sistemas en los que se haga uso de la IA. Éste sería, precisamente, el punto 2 de la Declaración de Barcelona cuando señala que: «Todos los sistemas artificiales que se utilizan en nuestra sociedad deben someterse a pruebas para determinar su fiabilidad y seguridad. Por lo que es normal que se haga lo mismo con los sistemas de IA, particularmente en dominios como la medicina o los robots autónomos. Aunque se desarrollaron procedimientos de verificación y validación para sistemas basados en el conocimiento en los años ochenta y noventa, todavía faltan para la IA basada en datos. Por supuesto, en este momento, las prácticas de aprendizaje automático hacen una distinción entre un conjunto de datos de ejemplo utilizado para el entrenamiento y un conjunto de prueba utilizado para medir hasta qué punto un sistema ha alcanzado niveles adecuados de rendimiento, pero todavía existe una diferencia significativa entre un conjunto de prueba y pruebas reales en condiciones del mundo real. Además, una vez que estén disponibles las metodologías adecuadas de verificación y validación, necesitaremos una red de agencias en países europeos (o una agencia centroeuropea) que las utilice. Deben convertirse en la autoridad para certificar aplicaciones de IA antes de que se utilicen de forma generalizada. El Parlamento Europeo ha decidido recientemente crear una agencia de robótica e inteligencia artificial que potencialmente podría asumir esta tarea». El control de fiabilidad en IA es muy importante y ello es debido a que ni los diseñadores de tales sistemas pueden prever cómo se comportara en muchas situaciones no previstas, ya que se trata de fenómenos emergentes, es decir, en los que la resultante es más y es diferente que la suma de las partes y el comportamiento emergente surge de la interacción de los elementos constituyentes entre ellos y con su entorno con la producción de resultados inesperados o insospechados, es decir, nos situamos en el paradigma epistemológico VUCA (Volatilidad; Incertidumbre: Complejidad y Ambigüedad)[39].

Una agencia como la propuesta a nivel europeo puede ser una forma eficiente de verificar que un producto o un servicio basado en IA antes de salir al mercado de consumo ha pasado por un proceso de verificación de fiabilidad y consistencia con los principios que debe cumplir la IA en diversos entornos en los que esta pueda ser aplicada, pero repetimos, no porque la IA tenga capacidades extraordinarias, sino precisamente por lo contrario porque no las tiene y la IA puede ser perfectamente implementada a través de los algoritmos apropiados, por ejemplo, para que no sea neutral o para producir resultados económicamente favorables a las empresas y desfavorables para los usuarios. Ejemplo paradigmático sería el tratamiento de perfiles psicométricos que ya consideramos en el trabajo con la intención de obtener ventajas electorales. Cuando en el proceso electoral del año 2016 los equipos de campaña electoral de Donald Trump encontraron que podían «desalentar» a perfiles de votantes de personas de color debidamente sectorizados esa actividad al margen de ser contraria a la democracia fue una forma de manipular a las personas objeto del interés político para que no ejerciesen su derecho al sufragio. La campaña electoral de Trump se dirigió a 3,5 millones de estadounidenses negros con anuncios de tipo «microtargeting» negativos sobre Hillary Clinton para tratar de disuadirlos de votar en aquellas elecciones presidenciales, una forma de engaño de precisión a la postre. Utilizando una base de datos recopilada en parte por la empresa Cambridge Analytica, el equipo de campaña digital de Trump marcó a los votantes en los estados clave como «disuasivos», o votantes que desean permanecer en casa el día de las elecciones y se consiguió un nivel de abstención que no se había producido desde hacía 20 años antes de emplear esta técnica sobre ese perfil electoral.

Parece claro que la preservación de la democracia a través de asegurar la pureza del proceso electoral en todas sus dimensiones incluyendo la propaganda cognitiva constituye un valor fundamental que es preciso reforzar a cualquier precio. La IA no puede emplearse para finalidades de propaganda psicológica subrepticia circunstancia que debería incorporarse como prohibición específica en las normas electorales estatales. Pero existen cientos de posibilidades de usar la IA para finalidades de todas las clases imaginables, muchas de las cuales son y serán enormemente positivas para la humanidad, la clave se encuentra en, sin impedir el desarrollo de la ciencia, estar en constante análisis crítico y supervisión de los datos interdisciplinares para valorar las regulaciones normativas en cada ámbito de actividad y disponer de evidencias —no de suposiciones ideológicas basadas en la ignorancia— sobre el impacto que la técnica pueda tener en cada uno de los citados ámbitos. Si observamos como hemos mostrado que el uso de la tecnología de pantallas puede generar daños muy severos o irreparables, de seguir con ellos, en el sistema de aprendizaje de la infancia y la juventud habrá que adoptar medidas para evitar que ese daño siga produciéndose, retornando a modelos educativos que sean los más adecuados con las formas más eficientes de aprendizaje. En algunos casos, no lo debemos olvidar, retroceder inteligentemente es avanzar.

Capítulo VII

La necesidad del sometimiento a reglas globales y un modelo dogmático para el control de las mentiras

Planteado el derecho a no ser engañado como un derecho universal, es decir, un derecho que pueda agregarse a una versión evolucionada de la Carta de los Derechos Humanos es como este derecho puede encontrar su más amplia repercusión en el ámbito de su cobertura jurídica universal para los ciudadanos que a su amparo puedan exigir su tutela. Es claro que un derecho de esta naturaleza protegería a todos los seres humanos porque todos los seres humanos son víctimas en una medida u otra del engaño, recordemos que, del engaño político, de la mentira política ya que otras dimensiones del engaño están fragmentariamente recogidas y reguladas en diversos ámbitos de los diversos ordenamientos regionales como, por ejemplo, el penal, en el caso de la injuria y de la calumnia o en el ámbito de la publicidad y la competencia desleal de mercado en el ámbito mercantil y civil.

Es preciso no obstante considerar que, como una manifestación de la propaganda política engañosa —la publicidad es una especie del género de la propaganda, cualificada por su ámbito material y por su finalidad— el modelo de la publicidad engañosa y la competencia desleal puede ser «reutilizado» con las adaptaciones que se consideren apropiadas como el modelo dogmático que podríamos entender adecuado para este nuevo derecho en un mercado de información del siglo XXI. Es decir, la construcción dogmática de la publicidad engañosa que en el caso de España se regula a través de la Ley 34/1988, de 11 de noviembre, General de Publicidad, permite elaborar, en concurrencia con la Ley 3/1991, de 10 de enero, de Competencia Desleal y de la Ley 34/2002, de 11 de julio, de servicios de la sociedad de la información y de comercio electrónico, un marco básico que podría permitir su adaptación o traslación como instrumento de control del «derecho a no ser engañado». Si se efectúa una aproximación desde la teoría dogmática del mercado de las ideas y de la plaza pública como aquel entorno en el cual las ideas y las opiniones compiten lealmente por llegar a los ciudadanos que participan en el mismo eligiendo las que les parecen más ajustadas a los hechos, las informaciones falsas pueden ser perfectamente consideradas como intentos de generar distorsiones en ese mercado, el de las ideas, que no solamente está compuesto de ideas, sino también, de emociones y por ello la teoría de sesgos debe formar parte de su estructura y así lo abordamos en éste estudio. Un mercado político de ideas debe restringir aquellas que, como las fakenews o como las deepfakes, tiendan a su distorsión en un entorno tecnológico característico como el que vivimos y nos desarrollamos que es muy diverso del que experimentamos antes de la llegada de las tecnologías de la sociedad de la información.

Una realidad que, como señala Palomar Olmeda (2018:495)[1] obliga a replantearse algunos de los elementos centrales de la interpretación del marco jurídico de la libertad de información.

En la sociedad de la información la unificación de libertad de expresión e información que en los modelos de comunicaciones no mediados por la informática permitían una distinción relativamente nítida, a veces no exenta de problemas, se confunden porque las mediaciones institucionales públicas o privadas en las que tal distinción era observable y distinguible se diluyen cuando se desintegran las mediaciones institucionales y se generan millones de editores autónomos que operan desde multitud de redes sociales con capacidades muy desiguales de influencia y alcance. Añadido a lo anterior y siguiendo a Guerrero (1997:100)[2] cuando señala que en su trabajo que «la libertad de comunicación encuentra su justificación última en la dignidad de la persona y bajo esos parámetros la publicidad estaría tutelada. Las teorías de la verdad y de la participación en el proceso democrático dificultan incluir a los mensajes publicitarios en el ámbito de la libertad de expresión, entendida en sentido amplio, pero no lo impiden. No puede olvidarse que todo anuncio contiene información u opinión de interés público por lo que debe otorgarse la protección. La antítesis sólo encuentra en este campo un argumento irrefutable en todos aquellos que sostienen que la libertad de comunicación se limita a garantizar los mensajes políticos. Como derivación directa del fundamento anterior, hay toda una serie de argumentaciones que giran en torno a una restricción del contenido tutelado por la libertad de comunicación. Ésta sólo protegería la expresión de materias de naturaleza política, filosófica, cultural, artística, científica y otras de índole análogo.

La réplica no niega que la exposición e intercambio de ideas políticas, filosóficas y literarias sea el fundamento principal de la libertad de comunicación, pero afirma concluyentemente que la protección no se limita a estos ámbitos. La libertad de comunicación tutela cualquier tipo de mensaje, con independencia de su contenido.

El otro gran argumento, que deriva de las teorías que justifican la libertad de expresión, afirma que la finalidad de lucro que conllevan los mensajes publicitarios es incompatible con la protección dispensada por el artículo 20 del texto constitucional.

Frente a esta afirmación se destaca, acertadamente, que ningún precepto constitucional impone expresa o implícitamente una restricción semejante; que la Constitución prevé y garantiza la utilización instrumental con finalidad económica del derecho a la propia imagen y a la intimidad; que la finalidad de lucro es un elemento inherente a la concepción de un sistema de prensa libre, y que quien publica un libro no persigue un objetivo distinto. En mi opinión —concluye el autor— los argumentos más decisivos para poder sostener que la publicidad se encuentra tutelada por la libertad de comunicación son los empleados para replicar a los que sostienen la antítesis, más los que a continuación se exponen.

Una comunicación no pierde su naturaleza por los fines con los que se instrumentalice, por la materia a que se refiera, ni por las conexiones constitucionales que presente. La publicidad contiene buena parte de los valores que sustentan la libertad de expresión, entendida en sentido amplio».

Lo anterior nos parece acertado, pero en el caso de la propaganda política nos lo parece más aún ya que no cabe duda de que la misma posee una vertiente informativa esencial y desde luego ampara formas de ánimo de lucro ya que alcanzar el poder político no está en ningún sentido ayuno de disfrutar de retribuciones de toda especie claramente identificables con el lucro, el poder no se ejerce de forma filantrópica ni se desarrolla por sus titulares sin la correspondiente retribución, circunstancia no debidamente valorada pero sin duda extraordinariamente deseada por las organizaciones políticas que luchan por alcanzar el mismo. Lucro entendido tal y como se desprende de su definición por el diccionario de la Real Academia de la Lengua en su primera acepción «Ganancia o provecho que se saca de algo» recordando, en todo caso, que los partidos políticos son asociaciones privadas revestidas de funciones públicas cuyo interés es puramente lucrativo. Cuando el partido vencedor en las elecciones —de cualquier grado— alcanzan el poder, sus miembros vivirán de un sueldo público, —sin la necesidad de preparar una formación especializada de funcionario público— y dispondrá de la inmensa capacidad de gestionar económicamente los asuntos públicos otorgando puestos, prebendas, ayudas, subvenciones a auténticas colonias de sujetos que viven del y alrededor del poder, esa es la razón del interés supremo de los partidos de luchar por ganar elecciones.

En virtud de lo establecido en la Ley Orgánica 8/2007 sobre financiación de los partidos políticos, el Estado concede a las distintas formaciones políticas, con representación en el Congreso de los Diputados, una cantidad anual, en concepto de subvención, que se distribuye entre dichas formaciones de acuerdo con los resultados obtenidos en las últimas elecciones a la citada Cámara.

La finalidad de la subvención, que se abona en doce mensualidades, es atender a sus gastos de funcionamiento ordinario y se concreta en el montante anual incluido en los Presupuestos Generales del Estado para el ejercicio correspondiente, que se consigna en el programa 924M, Elecciones y Partidos Políticos, con cargo a la Sección 16, Servicio 01 y Concepto 485.01, Financiación a Partidos Políticos. Recordemos que como señala la Resolución de 3 de octubre de 2019, de la Dirección General de Política Interior, por la que se publican las subvenciones estatales anuales, para atender los gastos de funcionamiento ordinario, abonadas a las diferentes formaciones políticas con representación en el Congreso de los Diputados, durante el período del 29 de abril al 30 de septiembre, parte del segundo y tercer trimestre del ejercicio 2019[3].

Celebradas elecciones a Cortes Generales el día 28 de abril de 2019, se realiza una nueva distribución, por lo que en el período que abarca desde el 29 de abril hasta el 30 de septiembre, que comprende parte del segundo trimestre y el tercer trimestre del ejercicio presupuestario de 2019, la mencionada subvención se ha llevado a efecto, abonándose directa o indirectamente por compensación, las siguientes cantidades:

Partido Socialista Obrero Español: 6.219.106,37. Euros.

Partido Popular: 3.892.908,55. Euros.

Ciudadanos-Partido de la Ciudadanía: 3.660.922,90. Euros.

Unidos Podemos: 1.783.112,72. Euros.

Izquierda Unida: 626.499,09. Euros.

Vox: 2.095.329,27. Euros.

Esquerra Republicana de Catalunya-Sobiranistes:

Esquerra Republicana de Catalunya: 805.165,76. Euros.

Sobiranistes: 115.023,68. Euros.

Partit dels Socialistes de Catalunya: 822.299,92. Euros.

En Comú Podem-Guanyem el Canvi:

Catalunya En Comú 363.346,77. Euros.

Podemos 148.409,26. Euros.

Junts Per Catalunya:

Partit Democrata Europeu Catalá 310.761,60. Euros.

Convergencia Democrática de Catalunya: 133.183,56. Euros.

Partido Nacionalista Vasco: 360.831,34. Euros.

Euskal Herria Bildu: 238.030,33. Euros.

En Común Unidas Podemos:

Podemos: 107.914,68. Euros.

Izquierda Unida: 69.504,41. Euros.

Equo: 5487,19. Euros.

Coalición Canaria-PNC: 123.643,31. Euros.

Unión del Pueblo Navarro (Navarra Suma): 105.908,16. Euros.

Compromis: Bloc-Iniciativa-Verds Equo: 123.795,17. Euros.

Partido Popular (Partido Popular-Foro): 87.409,35. Euros.

Partido Regionalista de Cantabria: 52.042,98. Euros.

Lo anterior se complementa con el pago de los gastos de seguridad de estas formaciones políticas como establece la Resolución de 3 de octubre de 2019, de la Dirección General de Política Interior, por la que se publican las subvenciones estatales anuales, para sufragar los gastos de seguridad, abonadas a las diferentes formaciones políticas con representación en el Congreso de los Diputados, durante el período del 29 de abril al 30 de septiembre, parte del segundo y tercer trimestre del ejercicio 2019[4]. Como es de fácil observación el ánimo de lucro está presente.

Continuando con el estudio del modelo dogmático que se considera inicialmente adecuado para la articulación dogmática del derecho a no ser engañados, veamos cómo se regula en materia de competencia desleal. El artículo 5 de la Ley 3/1991, de 10 de enero, de Competencia Desleal, dispone como precisa Cruces (2014:1208)[5] de una de las prohibiciones básicas de la normativa contra la competencia desleal. La tipificación de los actos de engaño como ilícito desleal tiene un carácter central y constituye una de las primeras manifestaciones del Derecho positivo de represión de los ilícitos concurrenciales.

Artículo 5. Actos de engaño.

1. Se considera desleal por engañosa cualquier conducta que contenga información falsa o información que, aun siendo veraz, por su contenido o presentación induzca o pueda inducir a error a los destinatarios, siendo susceptible de alterar su comportamiento económico, siempre que incida sobre alguno de los siguientes aspectos:

a) La existencia o la naturaleza del bien o servicio.

b) Las características principales del bien o servicio, tales como su disponibilidad, sus beneficios, sus riesgos, su ejecución, su composición, sus accesorios, el procedimiento y la fecha de su fabricación o suministro, su entrega, su carácter apropiado, su utilización, su cantidad, sus especificaciones, su origen geográfico o comercial o los resultados que pueden esperarse de su utilización, o los resultados y características esenciales de las pruebas o controles efectuados al bien o servicio.

c) La asistencia posventa al cliente y el tratamiento de las reclamaciones.

d) El alcance de los compromisos del empresario o profesional, los motivos de la conducta comercial y la naturaleza de la operación comercial o el contrato, así como cualquier afirmación o símbolo que indique que el empresario o profesional o el bien o servicio son objeto de un patrocinio o una aprobación directa o indirecta.

e) El precio o su modo de fijación, o la existencia de una ventaja específica con respecto al precio.

f) La necesidad de un servicio o de una pieza, sustitución o reparación.

g) La naturaleza, las características y los derechos del empresario o profesional o su agente, tales como su identidad y su solvencia, sus cualificaciones, su situación, su aprobación, su afiliación o sus conexiones y sus derechos de propiedad industrial, comercial o intelectual, o los premios y distinciones que haya recibido.

h) Los derechos legales o convencionales del consumidor o los riesgos que éste pueda correr.

2. Cuando el empresario o profesional indique en una práctica comercial que está vinculado a un código de conducta, el incumplimiento de los compromisos asumidos en dicho código se considera desleal, siempre que el compromiso sea firme y pueda ser verificado, y, en su contexto fáctico, esta conducta sea susceptible de distorsionar de manera significativa el comportamiento económico de sus destinatarios.

Son también relevantes los artículos 6, 7, 8 y 9 ya que guardan un paralelismo con conductas que se emplean en el ámbito de la política y que no reciben ningún tipo de reproche, excepto, como sabemos el político.

Artículo 6. Actos de confusión.

Se considera desleal todo comportamiento que resulte idóneo para crear confusión con la actividad, las prestaciones o el establecimiento ajenos.

El riesgo de asociación por parte de los consumidores respecto de la procedencia de la prestación es suficiente para fundamentar la deslealtad de una práctica.

Artículo 7. Omisiones engañosas.

1. Se considera desleal la omisión u ocultación de la información necesaria para que el destinatario adopte o pueda adoptar una decisión relativa a su comportamiento económico con el debido conocimiento de causa. Es también desleal si la información que se ofrece es poco clara, ininteligible, ambigua, no se ofrece en el momento adecuado, o no se da a conocer el propósito comercial de esa práctica, cuando no resulte evidente por el contexto.

2. Para la determinación del carácter engañoso de los actos a que se refiere el apartado anterior, se atenderá al contexto fáctico en que se producen, teniendo en cuenta todas sus características y circunstancias y las limitaciones del medio de comunicación utilizado.

Cuando el medio de comunicación utilizado imponga limitaciones de espacio o de tiempo, para valorar la existencia de una omisión de información se tendrán en cuenta estas limitaciones y todas las medidas adoptadas por el empresario o profesional para transmitir la información necesaria por otros medios.

Artículo 8. Prácticas agresivas.

1. Se considera desleal todo comportamiento que teniendo en cuenta sus características y circunstancias, sea susceptible de mermar de manera significativa, mediante acoso, coacción, incluido el uso de la fuerza, o influencia indebida, la libertad de elección o conducta del destinatario en relación al bien o servicio y, por consiguiente, afecte o pueda afectar a su comportamiento económico.

A estos efectos, se considera influencia indebida la utilización de una posición de poder en relación con el destinatario de la práctica para ejercer presión, incluso sin usar fuerza física ni amenazar con su uso.

2. Para determinar si una conducta hace uso del acoso, la coacción o la influencia indebida se tendrán en cuenta:

a) El momento y el lugar en que se produce, su naturaleza o su persistencia.

b) El empleo de un lenguaje o un comportamiento amenazador o insultante.

c) La explotación por parte del empresario o profesional de cualquier infortunio o circunstancia específicos lo suficientemente graves como para mermar la capacidad de discernimiento del destinatario, de los que aquél tenga conocimiento, para influir en su decisión con respecto al bien o servicio.

d) Cualesquiera obstáculos no contractuales onerosos o desproporcionados impuestos por el empresario o profesional cuando la otra parte desee ejercitar derechos legales o contractuales, incluida cualquier forma de poner fin al contrato o de cambiar de bien o servicio o de suministrador.

e) La comunicación de que se va a realizar cualquier acción que, legalmente, no pueda ejercerse.

Artículo 9. Actos de denigración.

Se considera desleal la realización o difusión de manifestaciones sobre la actividad, las prestaciones, el establecimiento o las relaciones mercantiles de un tercero que sean aptas para menoscabar su crédito en el mercado, a no ser que sean exactas, verdaderas y pertinentes.

En particular, no se estiman pertinentes las manifestaciones que tengan por objeto la nacionalidad, las creencias o ideología, la vida privada o cualesquiera otras circunstancias estrictamente personales del afectado.

Con arreglo a la Ley 34/1988, de 11 de noviembre, General de Publicidad. Se considera en el Título II de la Ley «De la publicidad ilícita y de las acciones para hacerla cesar» las siguientes conductas:

Artículo 3. Publicidad ilícita.

Es ilícita:

a) La publicidad que atente contra la dignidad de la persona o vulnere los valores y derechos reconocidos en la Constitución, especialmente a los que se refieren sus artículos 14, 18 y 20, apartado 4.

Se entenderán incluidos en la previsión anterior los anuncios que presenten a las mujeres de forma vejatoria o discriminatoria, bien utilizando particular y directamente su cuerpo o partes del mismo como mero objeto desvinculado del producto que se pretende promocionar, bien su imagen asociada a comportamientos estereotipados que vulneren los fundamentos de nuestro ordenamiento coadyuvando a generar la violencia a que se refiere la Ley Orgánica 1/2004, de 28 de diciembre, de Medidas de Protección Integral contra la Violencia de Género.

b) La publicidad dirigida a menores que les incite a la compra de un bien o de un servicio, explotando su inexperiencia o credulidad, o en la que aparezcan persuadiendo de la compra a padres o tutores. No se podrá, sin un motivo justificado, presentar a los niños en situaciones peligrosas. No se deberá inducir a error sobre las características de los productos, ni sobre su seguridad, ni tampoco sobre la capacidad y aptitudes necesarias en el niño para utilizarlos sin producir daño para sí o a terceros.

c) La publicidad subliminal.

d) La que infrinja lo dispuesto en la normativa que regule la publicidad de determinados productos, bienes, actividades o servicios.

e) La publicidad engañosa, la publicidad desleal y la publicidad agresiva, que tendrán el carácter de actos de competencia desleal en los términos contemplados en la Ley de Competencia Desleal.

Artículo 4. Publicidad subliminal.

A los efectos de esta ley, será publicidad subliminal la que mediante técnicas de producción de estímulos de intensidades fronterizas con los umbrales de los sentidos o análogas, pueda actuar sobre el público destinatario sin ser conscientemente percibida.

Artículo 6. Acciones frente a la publicidad ilícita.

1. Las acciones frente a la publicidad ilícita serán las establecidas con carácter general para las acciones derivadas de la competencia desleal por el capítulo IV de la Ley 3/1991, de 10 de enero, de Competencia Desleal.

Si el contenido de la publicidad incumple los requisitos legalmente exigidos en esta o cualquier otra norma específica o sectorial, a la acción de cesación prevista en esta Ley podrá acumularse siempre que se solicite la de nulidad y anulabilidad, la de incumplimiento de obligaciones, la de resolución o rescisión contractual y la de restitución de cantidades que correspondiera.

2. Adicionalmente, frente a la publicidad ilícita por utilizar de forma discriminatoria o vejatoria la imagen de la mujer, están legitimados para el ejercicio de las acciones previstas en el artículo 32.1, 1.ª a 4.ª de la Ley de Competencia Desleal:

a) La Delegación del Gobierno para la Violencia de Género.

b) El Instituto de la Mujer o su equivalente en el ámbito autonómico.

c) Las asociaciones legalmente constituidas que tengan como objetivo único la defensa de los intereses de la mujer y no incluyan como asociados a personas jurídicas con ánimo de lucro.

d) El Ministerio Fiscal.

Como podemos apreciar existe un cuerpo normativo destinado exclusivamente a garantizar el «derecho a no ser engañados», toda vez que en una parcela del ordenamiento jurídico en la que los ciudadanos están protegidos de conductas de engaño basadas en la libertad de expresión e información, derechos constitucionales fundamentales, que muestran evidentes conexiones con conductas equivalentes pero carentes de tipificación en el ámbito de la propaganda y de la comunicación política. Dado que las conductas que recoge la Ley tanto la de Competencia desleal como la de publicidad se consideran gravemente dañosas para los ciudadanos el legislador las ha regulado minuciosamente en parte como traslación a derecho interno de disposiciones normativas de la Unión Europea. Sin embargo, y en el ámbito de la discrecionalidad política, conductas tan peligrosas o seguramente mucho más graves que las que se producen en los mercados de productos carecen de regulación. Hay que observar que, afortunadamente, el movimiento de igualdad entre mujeres y hombres ha logrado que la legislación se actualice e incorpore ahora la prohibición de utilizar de forma discriminatoria o vejatoria la imagen de la mujer lo que es un claro acierto de la Ley de Publicidad, pero nada impide que en respeto de la dignidad de los ciudadanos entendida como garantía de la veracidad de las informaciones que reciben estos de los representantes políticos no se pueda también de lege ferenda articular el «el derecho a no ser engañados» en el ámbito de la comunicación política que elaboran los representantes electos en cualesquiera de sus manifestaciones.

Un representante electo no puede o no debería poder «engañar» a sus representados máxime si el representante lo es de la Nación que es lo jurídicamente debido, aunque haya sido elegido por una facción política. Seguramente y en los ordenamientos jurídicos internos esta idea tardará aún décadas o quizá siglos en traducirse en una regulación normativa tan clara como la que hemos considerado en el ámbito de la Competencia y en el de la Publicidad ya que las resistencias del poder político a ser controlado desplegarán cuantas estrategias tengan a su alcance —y no son pocas— para eludir tal control. Será mucho más probable que este derecho pueda ser recocido en las Cartas Universales de Derechos desde las que como principios tendrá una capacidad de trascender hacia los ordenamientos primero más civilizados y tal vez y paulatinamente el Derecho se difunda en el mundo.

Con respecto a la forma en la que este derecho podría articularse, quizá la técnica más apropiada sea el juicio por jurados, como señalara Spooner (1852:9)[6] en el fondo lo que se determina con respecto al enjuiciamiento por jueces profesionales o por jurados es que «el gobierno determina qué son sus poderes sobre el pueblo, en vez del pueblo determinando qué son sus libertades contra el gobierno». En los Estados en los que el pueblo es consciente de su papel en la sociedad, en el que existe una sociedad civil sólida, autónoma y bien informada, donde los ciudadanos poseen una cultura y capacidad reflexiva de formarse juicios propios, el jurado es el instrumento idóneo para controlar al poder político cuando emplee la mentira, y las sanciones pueden ser de muy diversas clases, desde sanciones económicas a amonestaciones pasando por acortar el mandato de un líder político mendaz sancionado por tal motivo.

En sociedades, en cambio, en las que no existe sociedad civil o ésta está colonizada horizontal y verticalmente por diversas formas y especies de comisarios políticos a través, por ejemplo, de una prensa al servicio de los facciones políticas, en las que el pueblo carece de cultura y formación apropiadas, en sociedades fuertemente polarizadas precisamente porque la política ocupa espacios que no le corresponden y lo abarca todo, donde nada se hace que no sea bajo consignas políticas partidistas, el jurado será ineficiente porque no será sino una prolongación de esa sociedad perversa, pese a que los procesos formales de selección al azar de los jurados sean formalmente los mismos que los del modelo anterior. En estos casos habría de buscarse otra solución, pero no una solución en la supresión de los jurados, sino en reconducir la política a sus confines naturales, tal vez y como señalara Winstanley (1985:75)[7] cuando oficiales públicos permanecen largo tiempo en los cargos de Jueces, degeneran y salen de sus límites de humildad, honestidad y tierno cuidado de los hermanos, debido a que el corazón humano es propenso a ser cubierto por las nubes de la codicia, del orgullo y de la vanagloria. Recién nombrados para esos puestos son de espíritu público y buscan la libertad de los demás como la propia pero si continúan largo tiempo en el cargo, en el que los honores y las grandezas llegan en abundancia, ellos se vuelven interesados y se preocupan por ellos mismos y no por la libertad común, por ello hay que remover a los Oficiales del Estado cada año, lo que les hará realmente leales, sabiendo que otros llegarán luego y verán lo que ellos hicieron; y si ellos no hicieron las cosas adecuadamente, estarán avergonzados cuando los nuevos Oficiales les reemplacen.

Quizá estas palabras puedan parecer vistas desde nuestra época cándidas pero siguen atesorando el conocimiento práctico de la naturaleza del ser humano y de sus desviaciones hacia la corrupción, por ello, el diseño inteligente de las instituciones debe orientarse hacia la resolución de problemas de forma constante y no permanecer petrificado reproduciendo las peores fórmulas reproductoras de las conductas interesadamente útiles para quienes se aprovechan sistémicamente de ellas profesionalmente, en la actualidad obviamente a través de los partidos políticos.

Indudablemente estamos haciendo referencia a un tipo de jurados muy especiales en los que la imparcialidad exigirá diseños novedosos, quizá en un mundo internacionalmente cada vez más conectado la imparcialidad se podría encontrar en órganos supranacionales en los que la influencia de los partidos políticos sea la menor posible, la inmediación al caso no necesariamente sería incompatible con una serena y necesaria lejanía de las presiones políticas, únicos riesgos reales del enjuiciamiento de la mentira política.

Capítulo VIII

El Derecho a no ser engañado como un Derecho Universal

Como venimos considerando las noticias falsas o fake news, o las deepfakes, representan claramente un problema de naturaleza y alcance universal no sólo en el sentido de que sucede en todas partes, sino que, además, estas se difunden entre los países con extrema fluidez mediante las redes como Internet, la única forma de ser inmunes a las mismas desde la perspectiva de ser potencial receptor de éstas por parte de un Estado es desconectarse de la red. Esta circunstancia peculiar la ha realizado Rusia. En efecto, en el sentido señalado, el presidente ruso Vladimir Putin, pero por motivos distintos firmó el 16 de abril de 2019 la ley para proporcionar un funcionamiento estable de Internet ruso (Runet) en caso de que esté desconectado de la infraestructura global de la World Wide Web, igualmente se ha aprobado el decreto para su desarrollo[1]. De acuerdo con esa Ley, en caso de que existan amenazas para el funcionamiento estable, seguro e integral de la Internet rusa en territorio ruso, el Servicio Federal de Supervisión de Comunicaciones, Tecnología de la Información y Medios de Comunicación podrá llevar a cabo «la operación centralizada de la red general de comunicaciones». El gobierno ruso aprobará el orden de esta gestión y determinará los tipos de amenazas y las medidas para eliminarlas. En particular, el gabinete de ministros determinará casos de administración de hardware para contrarrestar amenazas y transmitir órdenes vinculantes. El gabinete de ministros también determinará las condiciones y los casos en que un proveedor de comunicaciones tiene el derecho de no dirigir el tráfico a través del hardware para contrarrestar las amenazas.

El Servicio Federal de Supervisión de Comunicaciones, Tecnología de la Información y Medios de Comunicación proporcionará este hardware a los proveedores de comunicaciones de forma gratuita. El servicio federal también determinará las especificaciones para instalar estos sistemas y los requisitos para su uso por las redes de comunicación. Un proveedor que instala este hardware queda exento de la obligación de bloquear la información prohibida si el acceso a él en la red de comunicación de este proveedor está restringido con el uso de estos sistemas bajo la operación centralizada de la red de comunicaciones generales (como el Servicio Federal de Supervisión de Comunicaciones, Tecnología de la Información y Medios de Comunicación llevará a cabo la restricción de acceso).

Quizá se pueda considerar una postura radical la desconexión total de Estados enteros de la red global, pero desde una perspectiva de seguridad nacional la opción no carece de sentido y diseñar estructuras de operaciones de forma autónoma parece una política prudente que el resto de Estados deberían imitar. La interconexión de redes y la globalidad de datos en un entorno de tensión internacional hace que los países menos preparados puedan ser víctimas de ataques bien diseñados para lo que es prácticamente imposible aislarse de ellos si no es mediante un proceso de desconexión como el señalado.

En la actualidad la dependencia masiva de las redes de datos en lo que respecta a las economías nacionales es cada vez mayor, la pandemia que sufrimos ha demostrado que el teletrabajo sobre tales redes es fundamental para mantener la actividad económica, pero también hemos observado como las redes se pueden emplear para la desestabilización de Estados en momentos de crisis política, social o económica. Esta circunstancia muestra una tendencia a agudizarse en el futuro ya que a medida que las economías dependan más del adecuado funcionamiento de las redes éstas se verán más expuestas a estos tipos de ciberagresiones.

Debemos retener que una inmensa y permanente fuente de generación de datos personales, que en otros estadios tecnológicos era información privada, se ha transformado merced a la tecnología, y en la práctica, en pública o de acceso público siendo ésta no sólo del interés de multitud de empresas y organizaciones privadas que la recolectan, organizan, filtran y estructuran, sino, igualmente de los servicios de inteligencia de los diversos Estados. De hecho, como recuerda Hayes (2010:1-4)[2], ha surgido un concepto en la inteligencia militar denominado OSINT[3] (Open Source Intelligence) que representa la información relevante derivada de la sistemática recolección, procesamiento y análisis de información públicamente disponible en respuesta a requerimientos de inteligencia militar. Esa información es pública dado el desfase en la protección de datos personales de una tecnología analógica que no ha sabido adaptarse, por una parte, y no se ha permitido, por otra, que se adapte a una nueva dimensión electrónica y digital. Precisemos que este tipo de información no se corresponde con el que proporcionan los sistemas como OSEMINTI[4] en España, es decir, información privada o dotada, al menos, de una expectativa razonable de privacidad garantizada por el secreto de las comunicaciones electrónicas y que, únicamente, podría ser legítimamente revelada en el marco de una investigación policial, con la debida autorización judicial. Pensemos en el siguiente ejemplo, de los que acostumbramos a escuchar periódicamente en los medios de comunicación. Un hacker obtiene acceso ilícito a un servicio prestado en nube[5] y expone la información obtenida privada o confidencial, de millones de usuarios, que aloja posteriormente y de forma transitoria, en un sitio público, información financiera, personal sobre salud, etc. Esa es o sería la información que recolectaría y recolecta habitualmente OSINT.

La parcial madurez de algunas tecnologías de comunicaciones hace posible, para concretas aplicaciones, una realidad que es una nueva forma de entregar la tecnología al mercado mediante la creación de entornos masivamente virtualizados aptos para el despliegue de una amplia serie de aplicaciones comerciales, industriales o de prestación de servicios públicos. El desarrollo de sistemas operativos especializados para su funcionamiento en nube, como el VMware VSphere o Windows Azure, por ejemplo, pueden contribuir positivamente a la implantación de estas tecnologías. Sin embargo, es preciso considerar los riesgos asociados a los que estas tecnologías han de hacer frente. En primer lugar, es preciso considerar dos planos relacionados con la seguridad, el primero consiste en que los datos sensibles suministrados a terceras empresas pueden comprometer gravemente la estrategia de la empresa o de la administración delegante, planes de negocio, estrategia comercial, planificación estatal administrativa de prestación de servicios sensibles como la salud, etc., si estos no son correcta y rigurosamente salvaguardados lo que, en la práctica, será una estrategia empresarial y técnica muy delicada y problemática. No sería aconsejable, por lo tanto, la externalización de tales datos en clouds públicas. Por otra parte, las redes de comunicaciones sufren el suficiente número de ataques y amenazas de seguridad Hamlen (2010:42)[6] para que éstas técnicas prosperen una vez que la seguridad y la fiabilidad, como manifestaciones de una Resiliencia elevada, puedan garantizarse técnicamente, como mínimo, en un 80-90 por ciento en lo que respecta a su integridad, en el marco de la EP3R (La Asociación Público-Privada Europea de resistencia de las infraestructuras TIC) lo que está aún muy lejos de conseguirse. Si bien, las tecnologías de federalización de la identidad de los usuarios de las redes favorecerán, sin duda, el tipo de tecnologías que venimos considerando al hacer posibles entornos de confianza algo más robustos. Pensemos, como amenazas potenciales, en consideraciones técnicas de origen natural, tales como: caídas de redes de comunicaciones o segmentos de red de abastecimiento eléctrico, o inducidas como: filtrado de comunicaciones, ataques a los centros de proceso de datos desde los que se gestiona la información externalizada, con pérdida o alteración de datos o sabotaje electrónico, mediante el desarrollo específico de virus informáticos especializados —calificados ya como auténticas ojivas digitales— como el virus Stuxnet, diseñado específicamente para dañar el software SCADA (Supervisory Control and Data Accquisition) de la multinacional alemana Siemens, etc. Una nueva generación de virus y troyanos puede ser específicamente diseñada para el ataque a este tipo concreto de aplicaciones tecnológicas, como en el caso de Stuxnet, u otros tipos de aplicaciones destinadas al espionaje económico, mucho más acentuado en entornos en los que la descentralización de la información y su procesamiento distribuido hacen a ese tipo de información mucho más vulnerable.

Las amenazas sucintamente señaladas pueden clasificarse en tres categorías básicas: A) con fines de explotación, como las redes de espionaje económico (GhosNet), las que se dedican a los robos de identidad o los recientes ataques contra el sistema de comercio de derechos de emisión; o el también reciente caso de robo masivo de datos personales de SONY (PlayStation Network —PSN—, con 77 millones de usuarios afectados). B) con fines de perturbación, como las que afectan a la denegación de servicio o el «spam» generado por botnets, tale como la red Conficker, con más de 7 millones de ordenadores o la red Mariposa, basada en España con 12,7 millones de ordenadores, y C) con fines de destrucción, en la que se integraría las nuevas herramientas virales tipo Sutexnet con capacidad de afectación a redes eléctricas, infraestructuras civiles y militares esenciales o no para la seguridad nacional, sistemas electrónicos de navegación GPS e infinidad de dispositivos electrónicos (tecnología aeronáutica y astronáutica, naval, terrestre, industria nuclear, petrolera, bolsa y mercado de valores, etc.).

Alemania estima, por ejemplo, que sus pérdidas por espionaje en la red oscilan entre los 25.000 y los 50.000 millones de dólares los cuales se imputan a la débil seguridad de Internet, considerando, además, que muchas empresas no revelan sus pérdidas por temor a incrementar la desconfianza en el uso de sus servicios en red. En la actualidad China, tal y como informan diversos estudios de inteligencia, está siendo una fuente de ataques a países occidentales en búsqueda de diversos tipos de información como patentes, métodos de producción, tecnologías de desarrollo y un largo etcétera de datos de sus propietarios legítimos que, en ningún caso, deberían difundirse a través de las tecnologías Cloud o tener acceso a ellas a través de la Cloud.

Pueden, a nivel social, generarse conflictos laborales inducidos, huelgas, disturbios, etc. O tensiones empresariales como suspensiones de pagos o quiebras (inclusive fraudulentas y con propósitos estratégicos de acceso y pérdida total de información sensible), fusiones o adquisiciones. Estratégicamente no será indiferente la estructura de la propiedad de las empresas cesionarias de la información, es decir, la información proporcionada podría pasar a ser gestionada por empresas competidoras, rivales directos o indirectos, lo que podría aconsejar rescindir la prestación de servicios, derivados de los cambios en el accionariado o titularidad de las empresas por posibles conflictos de intereses. Obviamente, una redacción contractual cuidadosa habría de tener éstas circunstancias en consideración como causa justa de rescisión de las actividades comerciales, si bien y pese a tales salvaguardias la efectividad de la misma puede quedar muy debilitada y diluida en entornos legales de Estados con elevado riesgo país legal.

Circunstancias, las examinadas, que modifiquen significativamente la prestación de servicios u otras alteraciones que podrían detener, afectar o incidir muy negativamente en el normal funcionamiento de las organizaciones públicas que hayan depositado su confianza en el servicio externalizado, con daños económicos de diversa magnitud e impacto, si estos incidentes no se consideran detalladamente en los pliegos de condiciones contractuales negociados entre clientes y prestadores de servicios o si, por último, los mercados aseguradores no prestan servicios que contemplen tal tipo de riesgos en los nuevos mercados emergentes. Hemos de precisar, para concluir este breve semblante de los sistemas cloud, que los problemas señalados anteriormente deberán someterse, en muchos casos, al derecho internacional privado en los supuestos en los que tales servicios puedan ser prestados desde jurisdicciones extranjeras, ya que la deslocalización de los centros de proceso de datos tenderá a conducir la actividad productiva de estos servicios a aquellos Estados donde los precios relativos de la mano de obra especializada sean menores, como determinados países del Este de Europa o la India, por ejemplo.

Acabamos de hacer referencia a problemas que tienen una base de naturaleza tecnológica, es decir, son tecnologías y esas tecnologías son universales, son las mismas prácticamente en los EE. UU., en Europa, o en el continente asiático o en el africano. Entre otras cosas porque la lista de proveedores de estas es un grupo relativamente pequeño de empresas y organizaciones industriales que operan bajo criterios técnicos como los estándares del IEEE[7] que es la organización profesional técnica más grande del mundo dedicada al avance de la tecnología en beneficio de la humanidad, la cual además tienen su propio código ético que existe de 1963 que incluye el control de la mentira[8].

Si para la elaboración de estándares técnicos universales se tiene en consideración cuestiones éticas como la identificación del daño que se puede producir por el empleo de la falsedad en la elaboración de estas reglamentaciones y en el uso de las tecnologías, parece razonable que en un mundo avanzado organizaciones como la ONU en su misión de perseguir el cumplimiento de los Derechos Universales, pero también de proponer nuevos derechos que den respuesta a problemas universales como el «derecho a no ser engañado» sería a nuestro juicio una tarea que debería abordar y destinar a ello esfuerzos para consolidar líneas de avance en una cuestión de la relevancia universal que venimos considerando. Como hemos tratado de mostrar la mentira se produce en muy diversos escenarios, condiciones y circunstancias y a ellas son a las que este tipo de organizaciones deberían prestar su atención para su estudio, para su análisis y para proponer un remedio normativo como el que hemos tratado de mostrar en estas líneas tratando de sintetizar una dimensión compleja de la naturaleza humana que se ramifica a través de múltiples entornos de difusión. Si hemos contribuido en alguna forma y medida a proponer ideas útiles en el sentido propuesto nos sentiremos con ello recompensados en un mundo en el que como señalara Revell, la primera de todas las fuerzas que dirigen el mundo es la mentira.

Comprobando nuestros niveles de credulidad y espíritu crítico[1]

Bibliografía

ALÁEZ CORRAL, BENITO, en: «Teoría general de los derechos fundamentales en la Constitución Española de 1978», Tecnos, Madrid, 2012.

ALBERT, R Y ALBERT-LÁSZLÓ BARABÁSI, «Topology of evolving networks: Local events and universality», Physical Review Letters, n.º 85, 2000.

ALCOTT, HUNT Y MATTHEW GENTZKOW, «Social Media and Fake News in the 2016 Election», National Bureau of Economic Research, Paper n.º 23089, Enero de 2017.

ALEXY, ROBERT, «Teoría de los Derechos Fundamentales», Centro de Estudios Constitucionales, Madrid, 1997.

AMIT ELINOR, CAITLYN HOEFLIN, NADA HAMZAH, Y EVELINA FEDORENKO, «An asymmetrical relationship between verbal and visual thinking: converging evidence from behavior and fMRI», Neuroimage. 2017, mayo, n.º 15.

AMIT ELINOR, SOYON RIM, GEORG HALBEISEN, URIEL COHEN PRIVA, ELENA STEPHAN, YAACOV TROPE, «Distance-dependent memory for pictures and words», Journal of Memory and Language, N 105, 2019.

ARENDT, HANNAH, «Verdad y mentira en la política», Página indómita, Barcelona, 2017.

ARIELY, DAN, «Por qué mentimos, en especial a nosotros mismos. La ciencia del engaño puesta al descubierto», Ariel, Barcelona, 2012.

ARIELY, DAN, «Las trampas del deseo», Ariel, Barcelona, 2019.

ARISTÓTELES, «Retórica» Alianza Editorial, Clásicos de Grecia y Roma, Madrid, 2009.

ARNAUDO, DAN, «Computational Propaganda in Brazil: Social Bots during Elections» Working Paper n.º 2017.8. Computational Propaganda Research Project, University of Oxford.

ASCH, SOLOMON. E. «Forming impressions of personality», Journal of Abnormal and Social Psychology, 41, 258-290, 1946.

ATIENZA, MANUEL, «La Guerra de las Falacias», Ed BdeF, Argentina, 2019.

AYAN, STEVE, «El inconsciente, el piloto automático de la mente», Mente y Cerebro, n.º 99, 2019.

BALL PHILIP, «Masa crítica, cambio, caos y complejidad», Turner/FCE, México, 2009.

BAUMAN ZYGMUNT, y LEONIDAS DONSKIS, «Maldad liquida», Paidós, Barcelona, 2019.

BALLEISEN, EDWARD J, «Fraud, and American history from Barnum to Madoff», Princeton University Press, 2017, New Jersey, USA.

BANSAL AAYUSH, SHUGAO MA, DEVA RAMANAN Y YASER SHEIKH, «Recycle-GAN: Unsupervised Video Retargeting», ECCV, 2018. http://www.cs.cmu.edu/~aayushb/Recycle-GAN/.

BARAK AHARON, «Proporcionalidad. Los derechos fundamentales y sus restricciones», Palestra, Lima, 2017.

BENKLER YOCHAI, ROBERT FARIS, Y HAL ROBERTS, «Network Propaganda, Manipulation, Disinformation, and Radicalization in American Politics», Oxford University Press, 2018.

BENTHAM, J, «Falacias políticas», Centro de Estudios Constitucionales, Madrid, 1990.

BIERI, PETER, «La dignidad humana. Una manera de vivir», Herder, Barcelona, 2017.

BOND ROBERT M, CHRISTOPHER J. FARISS, JASON J. JONES, ADAM.I. KRAMER, CAMERON MARLOW, JAIME E. SETTLE y JAMES H. FOWLER, «A 61-million-person experiment in social influence and political mobilization», Nature, Vol. 489, 13 Septiembre 2012.

BOBBIO, NORBERTO, «Teoría General de la Política», Trotta, Madrid, 2003.

BOBBIO NORBERTO, «El futuro de la democracia». Ed. Plaza & Janés, 1985.

BOCKENFORDE, WOLFGANG, «Estudio sobre el Estado de derecho y la democracia», Trotta, Madrid, 2000.

BOREL BROOKE, «Clics, mentiras y cintas de video», Investigación y Ciencia, diciembre 2018.

BRADER, TED, «Striking a Responsive Chord: How Political Ads Motivate and Persuade Voters by Appealing to Emotions», American Journal of Political Science, Vol. 49, No. 2. (Apr 2005).

BRADLEY FRANK, ADRIAN BANGERTER Y MARTIN W. BAUER, «Conspiracy theories as quasi-religious mentality: an integrated account from cognitive science, social representations theory, and frame theory», Frontiers in Psychology, Julio, 2013.

BRADSHAW, SAMANTHA Y PHILIP N. HOWARD, «Troops, Trolls and Troublemakers: A Global Inventory of Organized Social Media Manipulation», Working paper n.º 2017.12, Computational Propaganda Research Project, Oxford University, UK.

BRAFMAN, ORI Y ROM BRAFMAN, «El impulso irracional», Espasa, Madrid, 2009.

BUCHANAN, JAMES M Y GORDON TULLOCK, «Derechos de propiedad y Democracia», Colegio de Economistas de Madrid-Celeste Ediciones, Madrid, 1995.

BUNGE, MARIO, «Filosofía política. Solidaridad, cooperación y democracia integral», Gedisa, Barcelona, 2009.

BUNK JASON, JAWADUL H. BAPPY, TAJUDDIN MANHAR MOHAMMED, LAKSHMANAN NATARAJ, ARJUNA FLENNER, B.S. MANJUNATH, SHIVKUMAR CHANDRASEKARAN, AMIT K. ROY-CHOWDHURY, Y LAWRENCE PETERSON, «Detection and Localization of Image Forgeries using Resampling Features and Deep Learning», 2017 IEEE Conference on Computer Vision and Pattern Recognition Workshops (CVPRW). arXiv: 1707.00433v1 [cs.CV] 3 Jul 2017.

BURT, RONALD, S, «Structural Holes and Good Ideas», AJS, Vol. 110, n.º 2, Septiembre, 2004.

CADWALLADR CAROLE, «Google, democracy and the truth about internet search», The Observer, 4 de diciembre de 2016.

CARR, NICHOLAS, «¿Qué está haciendo Internet con nuestras mentes? superficiales», Taurus, Madrid, 2011.

CASTELLANOS CLARAMUNT, JORGE, «Participación ciudadana y posverdad: la amenaza de la posverdad participativa», Persona y Derecho, Vol. 81, 2019.

CHRISTAKIS, NICHOLAS, A, JAMES, H FOULER, «Conectados. El sorprendente poder de las redes y cómo nosafectan», Taurus, Madrid, 2010.

COLEMAN, PAUL, «La censura maquillada. Cómo las leyes contra el discurso del odio amenazan la libertad de expresión», Dykinson, Madrid, 2018.

CONDLIFFE JAMIE, «Redes Generativas Antagónicas», MIT Technology Review, 22 de febrero de 2018.

CONDORCET, CASTILLÓN, BECKER, «¿Es conveniente engañar al pueblo?», Centro de Estudios Políticos y Constitucionales, Madrid, 1991.

CONSTANT, BENJAMIN, «Principios de política aplicable a todos los gobiernos» Capítulo III, Condiciones necesarias para que las Constituciones no sean violadas, Katz, Madrid, 2010.

CHESNEY ROBERT Y DANIEL CITRON, «Deepfakes and the New Disinformation War. The Coming Age of Post-Truth Geopolitics», Foreign Affairs, January/February 2019.

CHOW, RICHARD, et al, «Controlling Data in the Cloud: Outsourcing Computation without Outsourcing Control», CCSW’09, November 13, Chicago, Illinois, USA, 2009.

CIPOLLA, CARLO, «Las leyes fundamentales de la estupidez humana», Cuadernos de Economía, Vol. 15, n.º 25, Bogotá, 1996.

CUEVA FERNÁNDEZ, RICARDO, «Cartas de Catón (Trenchard & Gordon, 1720-1723)», CEPC, 2018, Madrid.

DALRYMPLE, THEODORE, «Sentimentalismo tóxico. Cómo el culto a la emoción pública está corroyendo nuestra sociedad», Alianza editorial, Madrid, 2010.

DAMASIO, ANTONIO, «Y el cerebro creó al hombre ¿cómo pudo el cerebro generar emociones, sentimientos, ideas y el yo?», Destino, Barcelona, 2010.

DAVARA FERNÁNDEZ DE MARCOS, ELENA, LAURA DAVARA FERNÁNDEZ DE MARCOS, «Delitos Informáticos», Aranzadi, Pamplona, 2017.

DAVIDOWITZ-STEPHENS, SETH, «Todo el mundo miente. Lo que Internet y el Big Data pueden decirnos de nosotros mismos», Capitan Swing, Madrid, 2019.

DE LA BOÉTIE, ÉTIENNE, «Discurso sobre la servidumbre voluntaria», Hueders, Chile, 2018.

DE SOLA POOL, ITHIEL, MANFRED KOCHEN, «Contacts and Influence» Social Networks, 1978, 5-51, puede verse en: Newman, Mark, Albert-Lázló Barabási y Duncan J. Watts, «The Structure and Dynamics of Networks», Princeton University Press, New Jersey, 2006.

DE WALL, FRANZ, «Primates y filósofos. La evolución de la moral del simio al hombre», Paidós, México, 2007.

DEL VICARIO, MICHELA y otros, «The spreading of misinformation online», PNAS, Vol. 113, n.º 3, 2016.

DESMURGUET, MICHAEL, «Cómo las pantallas perjudican el cerebro de nuestros hijos», Especial Cerebros y pantallas, Investigación y Ciencia, n.º 48, 2020.

DESMUGERGET, MICHAEL, «La fábrica de cretinos digitales. Los peligros de las pantallas para nuestros hijos», Ed, Península, Barcelona, 2020.

DEUTSCH, KARL W, «Política y gobierno», Fondo de cultura económica, Méjico, 1976.

DEYRUP IVANA & SHANE MATTHEWS, Co-Directors, «Cloud Computing & National Security Law», The Harvard Law National Security Research Group, October, pp. 3 y ss, 2010.

DÍEZ-PICAZO, LUIS MARÍA, «Sistema de Derechos Fundamentales» 4.ª ed. Civitas Thomson Reuters, Navarra, 2013.

DURANTE, RUBEN, PAOLO PINOTTI Y ANDREA TESEI, «The Political Legacy of Entertainment TV», American Economic Review, 2019, 109 (7).

DUVERGUER MAURICE, «La Democracia sin el pueblo», Ariel, Barcelona, 1967.

DWORKIN, RONALD, «Justicia para erizos», FCE, México, 2014.

EDELSON, MICAH, et al, «Following the Crowd: Brain Substrates of Long-Term Memory Conformity», Science, 333, 108, 2011.

ELSTER, JON, comp. «La democracia deliberativa», Gedisa, Barcelona, 2000.

FARERI, DOMINIC S, Y MAURICIO R. DELGADO, «Social Rewards and Social Networks in the Human Brain», The Neuroscientist, 2014, Vol. 20(4).

FELDMAN, ROBERT, «Cuando mentimos. Las mentiras y lo que dicen de nosotros», Urano, Chile, 2010.

FERRARA EMILIO, ONUR VAROL, CLAYTON DAVIS, FILIPO MENCZER Y ALESSANDRO FLAMINI, «The Rise of Social Bots», Communications of the ACM, Julio 2016, Vol. 59, n.º 7.

FERRARIS, MAURICIO, «Posverdad y otros enigmas», Alianza Editorial, Madrid, 2019.

FERRAJOLI, LUIGI, «Principia Iuris. Teoría del Derecho y de la Democracia», Trotta, Madrid, 2011.

FERRAJOLI, LUIGI, «Poderes Salvajes. La crisis de la democracia constitucional», Trotta, Madrid, 2011.

FRANKFURT HARRY G, «Sobre la charlatanería y Sobre la verdad», Paidós Contextos, Barcelona, 2007.

FRISTON, KARL, «Friston y su teoría de la energía libre», Mente & Cerebro, Investigación y Ciencia, Marzo/Abril, n.º 101, 2020.

FUNDER, DAVID C., Y JOACHIM I. KRUEGER, «Towards a balanced social psychology: Causes, consequences, and cures for the problem-seeking approach to social behavior and cognition». Behavioral and Brain Sciences, Vol. 27(3): 313–76, 2004.

GARCÍA-CRUCES, JOSÉ ANTONIO, «Tratado de Derecho de la competencia y de la publicidad», Tomo II. Tirant lo Blanch, Valencia, 2014.

GARCÍA GUERRERO, JOSÉ LUIS, «La publicidad como vertiente de la libertad de expresión en el ordenamiento constitucional español», Revista Española de Derecho Constitucional, Año 17, Núm. 50, mayo-agosto 1997.

GARRETT, NEIL y otros, «The brain adapts to dishonesty», Nature neuroscience, 24, October, doi: 10.1038/nn.4426, 2016.

GAZZANIGA, MICHAEL S., «El cerebro ético», Paidós, Barcelona, 2006.

GIGERENZER, GERD, «Decisiones instintivas», Ariel, Barcelona, 2007.

GILES JIM, «Internet encyclopedias go head to head. Jimmy Wales, Wikipedia comes close to Britannica in terms of the accuracy of its science entries, a Nature investigation find», Nature, vol 438, 15 December de 2005.

GOLEMAN, DANIEL, «El punto ciego. Psicología del autoengaño», Plaza y Janés, Barcelona, 1997.

GOODFELLOW IAN J, JEAN POUGET-ABADIE, y otros, «Generative Adversarial Nets», Departement d’informatique et de recherche operationnelle ´ Universite de Montreal, Montreal, QC H3C 3J7. Puede obtenerse en Cornell University: https://arxiv.org/abs/1406.2661.

GONZÁLEZ DE LA GARZA LUIS MIGUEL, «Redes Sociales, Instrumentos de participación democrática. Análisis de tecnologías implicadas y nuevas tendencias», Dykinson, Madrid, 2015.

GONZÁLEZ DE LA GARZA, LUIS MIGUEL «¿Patrimonializar los datos de carácter personal? Argumentos para un debate», El Notario del Siglo XXI, n.º 38, 5 de julio de 2011. http://www.elnotario.es/index.php/hemeroteca/revista-38/743-patrimonializar-los-datos-de-caracter-personal-argumentos-para-un-debate-0-022018592825176746.

GONZÁLEZ DE LA GARZA, LUIS MIGUEL, «El nuevo marco jurídico de las Telecomunicaciones en Europa. Redes Sociales especializadas, Neutralidad de la Red y Dividendo Digital», La Ley, Madrid, 2011.

GONZÁLEZ DE LA GARZA, LUIS MIGUEL, «Voto electrónico por Internet, Constitución y riesgos para la democracia», Edisofer, Madrid, 2008.

GORDON, THOMAS, Carta 15. Sobre la libertad de expresión: que resulta inseparable de la libertad pública, en: Cueva Fernández, Ricardo, «Catas de Catón», BOE, Madrid, 2018.

GUESS ANDREW, JONATHAN NAGLER Y JOSHUA TUCKER, «Less than you think: Prevalence and predictor of fake news dissemination on Facebook», Sci. Adv. 2019; 5: eaau4586 9 January 2019. Puede consultarse en: https://advances.sciencemag.org/content/advances/5/1/eaau4586.full.pdf%20 (consultado, 8 de mayo de 2019).

GREENWALD, GLENN, «Snowden: Sin un lugar donde esconderse», Ediciones B, Barcelona, 2014.

HÄBERLE, PETER, «Verdad y Estado Constitucional», UNAM, México, 2006.

HAIDT, JONATHAN Y GREG LUKIANOFF, «La transformación de la mente moderna», Deusto, Barcelona, 2019.

HAIDT, JONATHAN, «La mente de los justos. Por qué la política y la religión dividen a la gente sensata», Deusto, Barcelona, 2019.

HAMBLIN, CHARLES L, «Falacias», Palestra, Lima, 2018.

HAMLEN, KEVIN, MURAT KANTARCIOGLU, LATIFUR KHAN, BHAVANI THURAISINGHAM, «Security Issues for Cloud Computing», International Journal of Information Security and Privacy, 4 (2), April-June 2010.

HAMILTON, A, J. MADISON Y J.J AY, «El Federalista», FCE, México, 1994.

HARDIN, RUSSELL, «Confianza y confiabilidad», Fondo de Cultura Económica, México, 2010.

HARTMANN, NICOLAI, «Ética», Encuentro, Madrid, 2011.

HARTMANN, UWE, «The Evolution of the Hybrid Threat, and Resilience as a Countermeasure» Research Division, NATO Defense College, n.º 139, Septiembre, Roma, 2017.

HAWKINS JEFF, SANDRA BLAKESLEE, «Sobre la Inteligencia», Espasa, Madrid, 2005.

HAYEK, FRIEDRICH A, «Los fundamentos de la libertad», Unión Editorial, Madrid, 2008.

HAYES, BEN, «Spying in a see-through world: the Open Source intelligence industry», Statewatch Analysis, Statewatch Journal, Vol. 20, n.º 1, January-March, 2010.

HELBING, DIRK y otros, «Democracia digital o control del comportamiento», Temas (Investigación y Ciencia), 1 trimestre, n.º 91, 2018.

HELBING DIRK, BRUNO S. FREY, GERD GIGERENZER, ERNST HAFEN, MICHAEL HAGNER, YVONNE HOFSTETTER, JEROEN VAN DEN HOVEN, ROBERTO V. ZICARI Y ANFREJ ZWITTER, «Una estrategia para la era digital. Una hoja de ruta para evitar el retroceso de la democracia en la sociedad de la información», Investigación y Ciencia, Temas, «La Sociedad hiperconetada», n.º 91, 2018.

HESSE, KONRAD, «Derecho Constitucional y Derecho Privado», Civitas, Navarra, 1995.

HESSE, KONRAD, «Escritos de Derecho Constitucional», Fundación Coloquio Jurídico Europeo y CEPC, Madrid, 2012.

HOFFMANN-RIEM, WOLFGANG., «Big Data. Desafíos también para el Derecho», Civitas, Navarra, 2017.

HOG, MICHAEL A., «Identidad y populismo», Investigación y Ciencia, n.º 518, noviembre 2019.

HOOFNAGLE, CRIS JAY., «Big Brother’s Little Helpers: How Choice Point and Other Commercial Data Brokers Collect and Package Your Data for Law Enforcement», 29N.C. J. Int’l L. & Com. Reg.595, 2003.

HOLBACH, «Ensayo sobre los prejuicios», Laetoli, Navarra, 2016.

HOLMES STEPHEN, «¿Restricciones liberales al poder privado?: Reflexiones sobre los orígenes y las justificaciones de la regulación del acceso a los medios de comunicación», Isonomia, n.º 26, abril, 2007.

JASPERS, KARL, «General Psychopathology», Practika, Moscow, 1997.

JEFFERSON, THOMAS «Autobiografía y otros escritos», Tecnos, Madrid, 1987.

JELLINEK, GEORGE, «Teoría General del Estado», FCE, México, 2000.

JENSEN, MEIKO, et al, «On Technical Security Issues in Cloud Computing», IEEE International Conference on Cloud Computing, 2009.

JOLLEY DANIEL, Y KAREN M. DOUGLASS, «The social consequences of conspiracism: Exposure to conspiracy theories decreases intentions to engage in politics and to reduce one’s carbon footprint», British Journal of Psychology, febrero de 2014.

KADUSHIN, CHARLES, «Comprender las redes sociales. Teorías, conceptos y hallazgos», CIS, Madrid, 2013.

KAGI, WERNER, «La Constitución como ordenamiento jurídico fundamental del Estado», Dykinson, Madrid, 2005.

KANT, INMANUEL «La metafísica de las costumbres», Tecnos, Madrid, 1994.

KANT INMANUEL Y BENJAMÍN CONSTANT, «¿Hay derecho a mentir? La polémica Kant-Constant sobre la existencia de un deber incondicionado de decir la verdad», Tecnos, Madrid, 2012.

KELSEN HANS, «Teoría General del Estado», Comares, Granda, 2002.

KELSEN, HANS, «Religión secular. Una polémica contra la malinterpretación de la filosofía social, la ciencia y la política moderna como —nuevas religiones—», Trotta, Madrid, 2015.

KHANEMAN, DANIEL, «Pensar rápido, Pensar despacio», Debate, Barcelona, 2012.

KEITA KURITA y otros, «Measuring Bias in Contextualized Representations», 1st ACL Workshop on Gender Bias for Natural Language Processing 2019. Puede verse en: Cornell University https://arxiv.org/abs/1906.07337v1 (visualizado 02/01/2020).

KOYRÉ ALEXANDER, «La función política de la mentira moderna», Pasos perdidos, Madrid, 2015.

KRAMER ADAM D I, JAMIE E. GUILLORY Y JEFFREY T. HANCOCK, «Experimental evidence of massive-scale emotional contagion through social networks», PNAS, Vol. 111, n.º 24, 17 de junio 2014.

LASKI, HAROLD, «Los peligros de la obediencia», Sequitur, Madrid, 2017.

LAKOFF, GEORGE, «Cómo piensan progresistas y conservadores», Capitán Swing, Madrid, 2016.

LEIBHOLZ GERHARD, «Representación e identidad», en: Kurt Lenk y Franz Newmann (eds.), «Teoría y sociología críticas de los partidos políticos», Anagrama, Barcelona, 1980.

LESSIG, LAWRENCE, «The Code version 2.0», Cambridge, Basic Books, 2006.

LIEBRECHT, CHRISTINE, LETTICA HUSTINX Y MARGOT VAN MULKEN, «The Relative Power of Negativity: The Influence of Language Intensity on Perceived Strenght», Journal of Language and Social Psychology, Vol. 38(2), 2019.

LINVINGSTONE SMITH, DAVID, «Por qué mentimos. Las raíces del engaño y el inconsciente», Oceano, México, 2011.

LÓPEZ DE MATARÁS, RAMÓN, «El traje nuevo de la inteligencia artificial», Investigación y Ciencia, n.º 526 Julio 2020.

LÓPEZ JIMÉNEZ, DAVID, «Las cookies como instrumento para la monitorización del usuario en la red: La publicidad personalizada», Ciencias Económicas 29, n.º 2, 2011.

LUARN, PIN Y YU-PIN CHIU, «Influence of network density on information diffusion on social network sites: The mediating effects of transmitter activity», Information Development, 1-9.2014.

LUHMANN, NIKLAS, «Confianza», Anthropos, Barcelona, 2005.

MACKIE, GERRY, «Todos los hombres son mentirosos ¿carece de sentido la democracia», en: Elster Jon, «La democracia deliberativa», Gedisa, Barcelona, 2000.

MACKNIK, S.L, S. MARTÍNEZ-CONDE Y SANDRA BLAKESLEE, «Los engaños de la mente. Cómo los trucos de magia desvelan el funcionamiento del cerebro», Destino, Barcelona, 2012.

MALBERG, RAYMOND CARRÉ DE, «Teoría General del Estado», FCE, México, 1998.

MARKS JOSEPH, ELOISE COPLAND, ELEANOR LOH, CASS R. SUNSTEIN Y TALI SHAROT, «Epistemic spillovers: Learning others’ political views reduces the ability to assess and use their expertise in nonpolitical domains», Cognition 188, 2019.

MAQUIAVELO, NICOLÁS, «El Príncipe», Aleph, Argentina, 1999.

MATEO, FABIO PASCUA, «La técnica normativa en el sistema jurídico comunitario», Cuadernos de Derecho Público, núm. 28, mayo-agosto 2006.

MATUTE, HELENA, «Ilusiones y sesgos cognitivos», Investigación y Ciencia, noviembre, 2019.

MAZZONI GIULIANA, «Psicología del testimonio», Trotta, Madrid, 2019.

MCINTYRE LEE, «Posverdad», Cátedra, Madrid, 2018.

MELE, ALFRED R, «El autoengaño desenmascarado», Cátedra, Madrid, 2016.

MILL JOHN STUART, «Sobre la libertad», Alianza Editorial, Madrid, 1997.

MILTON JOHN, «Aeropagítica», Ed. Torre de Goyanes, Madrid, 2000.

MOORE MARTIN, «Submission to: Inquiry into Fake News», Culture, Media and Sport Select Committee. Centre for the Study of Media, Communication and Power, King’s College London, 2017.

MÜLLER, FRIEDRICH, «La positividad de los derechos fundamentales. Cuestiones de una dogmática práctica de los derechos fundamentales», Dykinson, Madrid, 2016.

MUNTAÑOLA MARIO SOL, «El régimen jurídico de la parodia», Marcial Pons, Madrid, 2005.

NAHEMA MARCHAL, LISA-MARIA NEUDERT, BENCE KOLLANYI, PHILIP N. HOWARD, «Polarization, Partisanship and Junk News Consumption on Social Media During the 2018 US Midterm Elections» Comprop, Data Memo 2018.5, noviembre 1, 2018.

NARANJO DE LA CRUZ, RAFAEL, «Los límites de los derechos fundamentales en las relaciones entre particulares: la buena fe», Centro de Estudios Políticos y Constitucionales, Madrid, 2000.

NELSON PHILIP, «Information and Consumer Behavior», 78(2) Journal of Political Economy 311-329, 1970.

NEWMAN, MARK, ALBERT-LÁZLÓ BARABÁSI Y DUNCAN J. WATTS, «The Structure and Dynamics of Networks», Princeton University Press, New Jersey, 2006.

NIETZSCHE, FRIEDRICH, «Sobre la verdad y mentira en sentido extramoral y otros fragmentos de filosofía del conocimiento», Tecnos, Madrid, 2012.

NIMMO BEN, «Measuring Traffic Manipulation on Twitter», Computational Propaganda Research Project, Oxford University, 2019.

NORTH, DOUGLASS C, «La evolución histórica de las formas de gobierno», Revista de Economía Institucional, n.º 2, Primer semestre, 2000.

NOZICK, ROBERT, «La naturaleza de la racionalidad», Paidós. Barcelona, 1995.

ORWELL, GEORGE, «El poder y la palabra. 10 ensayos sobre lenguaje, política y verdad», Debate, Madrid, 2017.

ORMEROD, PAUL, «La Crisis actual y la culpabilidad de la Teoría Macroeconómica», Revista de Economía Institucional, Vol. 12, n.º 23, Segundo semestre, 2010.

PAGEL, MARK, «Conectados por la cultura: Historia natural de la civilización», RBA, Barcelona, 2013.

PALOMAR OLMEDA, ALBERTO, «Comentarios a la Constitución española de 1978», Tomo I, Ed, Aranzadi, Navarra, 2018.

PARKER MICHAEL T, Y LINDA M. ISBELL, «How I Vote Depends on How I Feel: The Differential Impact of Anger and Fear on Political Information Processing», Psychological Science 21.

PARMÉNIDES, «Sobre la naturaleza», Revista de Filosofía de la Universidad de Costa Rica 13 (36): 1-55, 1975.

PENTLAND ALEX, «Una sociedad dirigida por datos», Investigación y Ciencia, n.º 91, 2018.

PLATÓN, «La República», Alianza Editorial, Madrid. 1988.

PLUVIANO SARA, SERGIO DELLA SALA, «El autoengaño de los antivacunas», en Paradojas de la razón, Mente & Cerebro, Investigación y Ciencia, marzo/abril 2019, n.º 95.

POPPER K. R, «La sociedad abierta y sus enemigos», Paidós. Barcelona, 1957.

POHL, RÜDIGER F, «Cognitive Illusions. A Handbook of Fallacies and Biases in Thinking, Judgment and Memory», Psychology Press, Taylor & Francis Group, New York, 2004.

QUATTROCIOCCHI WALTER, «La era de la (desinformación)», Investigación y Ciencia, n.º 91, 2018.

REVEL, JEAN-FRANCOISE, «El conocimiento inútil», Planeta, México, 1990.

ROSETTI DANIEL LÓPEZ, «Emoción y sentimientos», Ariel, Barcelona, 2018.

ROZIN PAUL, Y EDWARD B. ROYZMAN, «Negativity Bias, Negativity Dominance, and Contagion», Personality and Social Psychology Review, Vol. 5, n.º 4, 2001.

RUBIN, THEODORE I, «Goodbye to Death and Celebration of Life», Event, vol. 2, n.º 1, 1981.

RUMELHART DAVID E, GEOFREY E. HINTON Y ROANALD J. WILLIAMS, «Learning internal representations by error propagation», ICS Report 8506, Septiembre de 1985.

RUSSELL, BERTRAND, «Viaje a la revolución», Ariel, Madrid, 2017.

SCHACTER, DANIEL L., «Los siete pecados de la memoria», Ariel, Barcelona, 2003.

SCHOPENHAUER, ARTHUR, «Dialéctica erística o El arte de tener razón, expuesta en 38 estratagemas», Trotta, Madrid, 2011.

SCHUMPETER, J.A, «Capitalismo, Socialismo y Democracia», Tomo II, Folio, Barcelona, 1996.

SEARLE, JOHN R, «Ver las cosas tal como son. Una teoría de la percepción», Cátedra, Madrid, 2018.

SEARLE JOHN R, «El misterio de la conciencia», Paidós, Barcelona, 2000.

SETH, AMILK, «La construcción cerebral de la realidad», Investigación y Ciencia, 55-60, noviembre, 2019.

SHAROT, TALI Y NEIL GARRETT, «Forming Beliefs: Why Valence Matters», Trends in Cognitive Sciences, January 2016, Vol. 20, n.º 1.

SHAROT, TALI, CHRISTOPH W KORN Y RAYMOND J DOLAN, «How unrealistic optimism is maintained in the fase of reality», Nat Neurosci, 14 (11) 1475-147.º, May 1, 2012.

SHAROT TALI, «The optimis bias», Current Biology, Vol. 21 No 23, 2011.

SIMON H.A, «Las ciencias de lo artificial», Comares, Granada, 2006.

SIMONE, RAFFAELE, «El hada democrática. Cómo la democracia fracasa», Taurus, Barcelona, 2015.

SOLMS, MARK, en: Ayan, Steve, «El inconsciente, el piloto automático de la mente», Mente y Cerebro, n.º 99, 2019.

SPOONER, LYSANDER. «An Essay on the Trial by Jury». Boston: Jewett, Proctor, and Worthington, 1852.

SPONVILLE-COMTE, ANDRÉ, «Pequeño tratado de las grandes virtudes», Paidós, Barcelona, 2005.

SPENCE, SEAN A. «Prefrontal White matter — the tissue of lies?», British Journal of Psychiatry, 187, 326-327, 2005.

STITGLITZ, JOSEPH, «Regulación y fallas», Revista de Economía Institucional, Vol. 12, n.º 23, Segundo Semestre, 2010.

SUNSTEIN, CASS, R. RICHARD H. THALER, «Un pequeño empujón», Taurus, Barcelona, 2009.

SUNSTEIN CASS R, «Conformity», New York University Press, NY, 2019.

SUNSTEIN, CASS R, «La revolución en los derechos: redefiniendo el Estado regulador», Ed. Ramón Areces, Madrid, 2016.

SUTHERLAND, STUART, «Irracionalidad: El enemigo interior», Alianza Editorial, Madrid, 2015.

SIEYÈS ENMANUEL J, «Ideas sobre los medios de actuación que podrán disponer los representantes de Francia en 1789. (primera sección) El Tercer Estado y otros escritos de 1789», Austral, Madrid, 1989.

TANDOC JR. EDSON C., ZHENG WEI LIM & RICHARD LING. Defining «Fake News», Digital Journalism, 6: 2, 2018.

TETLOCK, PHILIP, «El juicio politico de los expertos», Capitan Swing, Madrid, 2016.

THALER, RICHARD H, «La Psicología económica», Deusto, Barcelona, 2017.

THORNDIKE, E. L. «A constant error on psychological rating» Journal of Applied Psychology, IV, 25-29, 1920.

THORP HOLDEN H, «Trump lied about Science», Sciece, 18 september, 2020. Vol. 369. Issue 6510.

TIROLE, JEAN, «La economía del bien común», Taurus, Barcelona, 2017.

TRIVERS, ROBERT, «La insensatez de los necios. La lógica del engaño y el autoengaño en la vida humana», Katz, Madrid, 2013.

TURKLE, SHERRY, MARK FISCHETTI, «El primate interconectado», Cerebro y Pantallas, Investigación y Ciencia, n.º 48, 2020.

TVERSKY, AMOS; DANIEL KAHNEMAN. «Advances in prospect theory: Cumulative representation of uncertainty». Journal of Risk and Uncertainty 5, 1992.

UNAMUNO, MIGUEL DE, «Del sentimiento trágico de la vida», Libros Móviles, Madrid, 2015.

VAIHINGER, HANS, «The Philosophy of “As if” A System of the Theortetical, Practical and Religious Fictions of Mankind», Routledge & Kegan Paul Ltd, London, 1924.

VALENTINO NICHOLAS A, VINCENT L. HUTCHINGS, ANTOINE J. BANKS, «Is a Worried Citizen a Good Citizen? Emotions, Political Information Seeking, and Learning via the Internet», Political Psychology, Vol. 29, No. 2, 2008.

VANOSSI, JORGE REINALDO A, «El Estado de Derecho en el constitucionalismo social», Eudeba, Argentina, 3.ª Edición, 2000.

VOEGELIN, ERIC, «Las religiones políticas», Trotta, Madrid, 2014.

VOSOUGHI SOROUSH, DEB ROY, Y SINAN ARAL, «The spread of true and false news online», Science 359, 9 March 2018.

WASERMAN, STANLEY Y KATHERINE, FAUST, «Análisis de redes sociales. Métodos y aplicaciones», CIS, Madrid, 2013.

WARREN, SAMUEL Y LOUIS BRANDEIS, «El derecho a la intimidad», Civitas, Madrid, 1995.

WATTS DUNCAN J, «Seis grados de separación. La ciencia de las redes en la era del acceso», Paidós, Barcelona, 2006.

WATTS DUNCAN J. Y STEVEN H STROTAGTZ, «Collective dynamics of small-world networks», Nature, n.º 393, 1998.

WILLIAMSON, OLIVER E., «Las instituciones económicas del capitalismo», FCE, México, 2009.

WINSTANLEY, «El Derecho de la Libertad o La verdadera magistratura restaurada», Salamanca, 1985.

WOLFSBERGER, FRIEDER, «La trída oscura de la personalidad. Narcisismo, psicopatía o maquiavelismo. ¿Cómo se manifiestan estos rasgos del carácter en el día a día? ¿Qué efectos producen en los demás?», Mente y Cerebro, Núm. 75, 2015.

WOLIN, SHELDON S., «Democracia S.A. La Democracia dirigida y el fantasma del totalitarismo invertido», Katz, Argentina, 2008.

WOLIN, SHELDON S, «Política y perspectiva», FCE, México, 2012.

WOOLEY, PAUL, «Por qué los mercados financieros son tan ineficientes y explotadores, y una propuesta de solución», Revista de Economía Institucional, Vol. 12, n.º 23, Segundo semestre, 2010.

WOOLLEY, SAMUEL C, Y PHILIP N. HOWARD, «Computational Propaganda Worldwide: Executive Summary», Working Paper No. 2017.11, Computational Propaganda Research Project. Oxford University. UK.

YALING YANG, y otros, «Prefrontal White matter in pathological liars», British Journal of Psychiatry, 187, 320-325, 2005.

YARSIKE BALL, DEBORAH, «Protection Falsehood with a Bodyguard of Lies: Putin’s Use of Information Warfare» Research Division, NATO Defense College, n.º 136, Febrero, Roma, 2017.

YUEZUN LI, y SIWEI LYU, «Exposing DeepFake Videos by Detecting Face Warping Artifacts» eprint arXiv: 1811.00656, noviembre de 2018.

ZIMBARDO, PHILIP, «El efecto Lucifer. El porqué de la maldad», Paidós, Barcelona, 2019.

ANTONIO GARRIGUES WALKER (Madrid, 1934) es un abogado español, presidente del despacho Garrigues entre 1962 y 2014, del cual posteriormente se convirtió en su presidente de honor.

Destaca su labor como experto legal en inversiones extranjeras en España. Ha asesorado a grandes multinacionales, así como al gobierno español en materia de legislación económica, especialmente en el campo de las inversiones extranjeras. También presta su asesoramiento y conocimiento jurídico a gobiernos, como el de Estados Unidos y Japón, en sus relaciones con España y fue presidente de la Asociación Mundial de Abogados.

En 1982 creó el Partido Demócrata Liberal (PDL), del que fue elegido presidente. Esta formación política se integraría en 1984 en el Partido Reformista Democrático (PRD), una operación impulsada junto con Miquel Roca para tratar de ocupar el espacio político de centro.

LUIS MIGUEL GONZÁLEZ DE LA GARZA (Madrid, 1966) es Doctor en Derecho Constitucional por la UNED y Abogado especializado en el ámbito de las telecomunicaciones y las nuevas tecnologías de la sociedad de la información. Diplomado en Libertades informativas y sus garantías por la UNED, también es autor y coautor de diversos libros sobre derecho de las telecomunicaciones (Voto Electrónico por Internet. Constitución y riesgos para la democracia, 2008, Comunicación Pública en Internet, 2004, Modems, Todo sobre telecomunicaciones, 1992 y 1994). Habiendo desarrollado su actividad profesional en el área de las comunicaciones informáticas desde hace más de 15 años, su formación jurídico-técnica le permite abordar con solvencia la compleja realidad en que consiste Internet y la Sociedad de la Información.

Notas

Prefacio

[1] Queremos advertir que, en este trabajo que se puede situar en la órbita del ensayo, no vamos a considerar la doctrina de la posibilidad de la mentira en el discurso político norteamericano desde la perspectiva constitucional al menos desde United States v. Alvarez, (United States v. Alvarez, 132 S. Ct. 2537, 2546 [2012]), recordando que la corte partía de una premisa que a nuestro juicio no se cumple nunca y es que, el discurso mentiroso no produzca daños, siempre los produce desde la perspectiva, sin ir más lejos, del ejemplo que reproduce por imitación en la sociedad como demostraremos más adelante. <<

[2] Williamson, Oliver E., «Las instituciones económicas del capitalismo», FCE, México, 2009. <<

[3] Condorcet, Castillón, Becker, «¿Es conveniente engañar al pueblo?», Centro de Estudios Políticos y Constitucionales, Madrid, 1991. <<

[4] Holbach, «Ensayo sobre los prejuicios», Laetoli, Navarra, 2016. <<

[5] Revel, Jean-Francoise, «El conocimiento inútil», Planeta, México, 1990. <<

[6] Durante, Ruben, Paolo Pinotti y Andrea Tesei, «The Political Legacy of Entertainment TV», American Economic Review, 2019, 109 (7): 2497-2530. <<

[7] Bentham, J, «Falacias políticas», Centro de Estudios Constitucionales, Madrid, 1990. <<

[8] Hamblin, Charles L, «Falacias», Palestra, Lima, 2018. <<

[9] Orwell, George, «El poder y la palabra. 10 ensayos sobre lenguaje, política y verdad», Debate, Madrid, 2017. <<

[10] Thorp Holden H, «Trump lied about science», Sciece, 18 september, 2020. Vol. 369. Issue 6510. <<

[11] Schopenhauer, Arthur, «Dialéctica erística o El arte de tener razón, expuesta en 38 estratagemas», Trotta, Madrid, 2011. <<

[12] Linvingstone Smith, David, «Por qué mentimos. Las raíces del engaño y el inconsciente», Oceano, México, 2011. <<

[13] Wolfsberger, Frieder, «La tríada oscura de la personalidad. Narcisismo, psicopatía o maquiavelismo. ¿Cómo se manifiestan estos rasgos del carácter en el día a día? ¿Qué efectos producen en los demás?», Mente y Cerebro, Núm. 75, 2015. <<

[14] Rubin, Theodore I, «Goodbye to Death and Celebration of Life», Event, vol. 2, n.º 1, 1981. <<

[15] Cueva Fernández, Ricardo, «Cartas de Catón (Trenchard & Gordon, 1720-1723)», CEPC, Madrid, 2018. <<

[16] Haidt, Jonathan, «La mente de los justos. Por qué la política y la religión dividen a la gente sensata», Deusto, Barcelona, 2019. <<

[17] Singularmente en 389 a-b. Platón, «La República», Alianza Editorial, Madrid. 1988. <<

[18] Kant Inmanuel y Benjamín Constant, «¿Hay derecho a mentir? La polémica Kant-Constant sobre la existencia de un deber incondicionado de decir la verdad», Tecnos, Madrid, 2012. <<

[19] Wolin, Sheldon S, «Política y perspectiva», FCE, México, 2012. <<

[20] Nietzsche, Friedrich, «Sobre la verdad y mentira en sentido extramoral y otros fragmentos de filosofía del conocimiento», Tecnos, Madrid, 2012. <<

[21] Acontécele al vanidoso lo que, al avaro, que toma los medios por los fines, y olvidadizo de estos, se apega a aquellos en los que se queda. Al parecer algo, conducente a serlo, acaba por formar nuestro objetivo. Necesitamos que los demás nos crean superiores a ellos para creernos nosotros tales, y basar en ello nuestra fe en la propia persistencia, por lo menos en la de la fama. Agradecemos más el que se nos encomie el talento con que defendemos una causa, que no el que se reconozca la verdad o bondad de ella. Una furiosa manía de originalidad sopla por el mundo moderno de los espíritus, y cada cual la pone en una cosa. Preferimos desbarrar con ingenio a acertar con ramplonería. Ya dijo Rousseau en su Emilio: «Aunque estuvieran los filósofos en disposición de descubrir la verdad, ¿quién de entre ellos se interesaría en ella? Sabe cada uno que su sistema no está mejor fundado que los otros, pero le sostiene porque es suyo. No hay uno solo que en llegando a conocer lo verdadero y lo falso, no prefiera la mentira que ha hallado a la verdad descubierta por otro. ¿Dónde está el filósofo que no engañase de buen grado, por su gloria, al género humano? ¿Dónde el que en el secreto de su corazón se proponga otro objeto que distinguirse? Con tal de elevarse por encima del vulgo, con tal de borrar el brillo de sus concurrentes, ¿qué más pide?» Unamuno, Miguel de, «Del sentimiento trágico de la vida», Libros Móviles, Madrid, 2015. <<

[22] Mackie, Gerry, «Todos los hombres son mentirosos ¿carece de sentido la democracia?», en: Elster Jon, «La democracia deliberativa», Gedisa, Barcelona, 2000. <<

[23] «Es sabido que la búsqueda del poder de cualquier tipo puede corromperlo casi todo y casi a todos. En particular, el Gobierno se corrompe cuando la gente soborna a los funcionarios públicos solo para mover un expediente. La democracia se corrompe cuando se compran los votos, cuando los resultados de las elecciones dependen de manera decisiva de la cantidad de dinero invertida en la campaña electoral, cuando las empresas hacen grandes donaciones a las arcas electorales, cuando los sectores o empresas contratan gente para hacer presión por sus intereses, cuando las compañías sobornan a los burócratas para conseguir contratos del Gobierno, cuando los delincuentes compran la justicia mediante la contratación de abogados astutos, cuando los sacerdotes amenazan con la excomunión a los parroquianos que votan por el partido equivocado, cuando las mentiras al público quedan impunes». Bunge, Mario, «Filosofía política. Solidaridad, cooperación y democracia integral», Gedisa, Barcelona, 2009. <<

[24] «Todo individuo tiene derecho a la libertad de opinión y de expresión; este derecho incluye el no ser molestado a causa de sus opiniones. El de investigar y recibir informaciones y opiniones, y el de difundirlas, sin limitación de fronteras, por cualquier medio de expresión». <<

[25] 1. Toda persona tiene derecho a la libertad de expresión. Este derecho comprende la libertad de opinión y la libertad de recibir o comunicar información o ideas sin que pueda haber injerencias de autoridades públicas y sin consideración de fronteras. 2. Se respetarán la libertad de los medios de comunicación y su pluralismo. <<

[26] Se reconocen y protegen los derechos: a) A expresar y difundir libremente los pensamientos, ideas y opiniones mediante la palabra el escrito o cualquier otro medio de reproducción. <<

[27] Tener buena fe no es decir siempre la verdad, puesto que uno se puede equivocar, sino al menos decir la verdad acerca de lo que uno cree, y esta verdad, aun cuando la creencia fuera falsa, no sería menos verdadera. Es lo que se llama también la sinceridad (o la veracidad, o la franqueza…), y lo contrario a la mentira, a la hipocresía, a la duplicidad, en pocas palabras, a todas las formas, privadas o públicas, de mala fe. Pero todavía hay más: a mi parecer, existe una distinción entre la buena fe y la sinceridad. Ser sincero es no mentir al otro; tener buena fe es no mentir ni al otro ni a uno mismo. Sponville-Comte, André, «Pequeño tratado de las grandes virtudes», Paidós, Barcelona, 2005. <<

[28] Parménides, «Sobre la naturaleza», Revista de Filosofía de la Universidad de Costa Rica 13 (36):1-55, 1975. <<

[29] Aristóteles, «Retórica» Alianza Editorial, Clásicos de Grecia y Roma, Madrid, 2009. <<

[30] Revel Jean-Françoise, «El conocimiento inútil», Op Cit. <<

Capítulo I

[1] The Global Risks, Report 2018, 13 th Edition, World Economic Forum. Puede obtenerse en: http://reports.weforum.org/global-risks-2018/digital-wildfires/. <<

[2] Bradshaw, Samantha y Philip N. Howard, «Troops, Trolls and Troublemakers: A Global Inventory of Organized Social Media Manipulation», Working paper n.º 2017.12, Computational Propaganda Research Project, Oxford University, UK. <<

[3] https://medium.com/@d1gi/the-election2016-micro-propaganda-machine-383449cc1fba (20 de agosto de 2019). <<

[4] Alcott, Hunt y Matthew Gentzkow, «Social Media and Fake News in the 2016 Election», National Bureau of Economic Research, Paper n.º 23089, Enero de 2017. <<

[5] Moore Martin, «Submission to: Inquiry into Fake News», Culture, Media and Sport Select Committee. Centre for the Study of Media, Communication and Power, King’s College London, 2017. <<

[6] Del Vicario, Michela y otros, «The spreading of misinformation online», PNAS, Vol. 113, n.º 3, 2016. <<

[7] https://www.justice.gov/opa/pr/grand-jury-indicts-thirteen-russian-individuals-and-three-russian-companies-scheme-interfere. <<

[8] Hartmann, Uwe, «The Evolution of the Hybrid Threat, and Resilience as a Countermeasure» Research Division, NATO Defense College, n.º 139, Septiembre 2017, Roma, págs. 1-8. Yarsike Ball, Deborah, «Protection Falsehood with a Bodyguard of Lies: Putin’s Use of Information Warfare» Research Division, NATO Defense College, n.º 136, Febrero 2017, Roma. <<

[9] Parece procedente avanzar un conciso concepto central del Big Data y es que se trata de un conjunto de herramientas informáticas destinadas a la predicción de las conductas humanas —analítica predictiva— a través del análisis de los datos que, como materia prima, generan los usuarios de las redes transformando la información desarticulada en «conocimiento estructurado». <<

[10] Hoofnagle, Cris Jay, «Big Brother’s Little Helpers: How Choice Point and Other Commercial Data Brokers Collect and Package Your Data for Law Enforcement», 29N.C. J. Int’l L. & Com. Reg.595, 2003. Puede consultarse en: http://scholarship.law.berkeley.edu/facpubs/678. <<

[11] https://www.congress.gov/bill/115th-congress/senate-bill/1657/text. <<

[12] «Elecciones libres y limpias». Documento de orientaciones de la Comisión relativas a la aplicación de la legislación sobre protección de datos de la Unión en el contexto electoral. Contribución de la Comisión Europea a la reunión de dirigentes en Salzburgo los días 19 y 20 de septiembre de 2018. Bruselas, 12.9.2018 COM (2018) 638 final. <<

[13] Vosoughi Soroush, Deb Roy y Sinan Aral, «The spread of true and false news online», Science 359, 9 March 2018. <<

[14] Tandoc Jr. Edson C., Zheng Wei Lim & Richard Ling. Defining «Fake News», Digital Journalism, 6:2, 2018. <<

[15] Arnaudo, Dan, «Computational Propaganda in Brazil: Social Bots during Elections» Working Paper n.º 2017.8. Computational Propaganda Research Project, University of Oxford. <<

[16] www1.folha.uol.com.br/poder/2018/10/internet-supera-tv-em-influencia-na-eleicao.shtml. <<

[17] La difusión de la telefonía móvil en Brasil es muy alta, según Mediacon los suscriptores de telefonía móvil por cada 100 habitantes es de 113%, pero la pobreza es muy superior a los EE.UU., muchas personas en Brasil carecen de ordenadores, pero no de telefonía móvil y no tienen cuentas de Facebook o Twitter, pero si acceso gratuito a redes de mensajería como WhatsApp o Telegram, razón por la que éstas red han sido las protagonistas como vector de influencia electoral. <<

[18] https://www.bbc.co.uk/mediacentre/latestnews/2018/bbc-beyond-fake-news-research (último acceso, 04/01/2019). <<

[19] La legislación propuesta habría enmendado el Código electoral, imponiendo así una nueva obligación a las empresas de medios sociales para que los usuarios puedan marcar las historias que creen falsas y alertar a las autoridades públicas. (Propuesta de loi relativa a la leyenda de la manipulación de la información, No. 799, art. 9.) Los candidatos electorales que vieron una historia falsa hubieran podido requerir que un juez decidiera dentro de las 48 horas si anular la historia. (Id. Art. 1). Los proyectos de ley también tenían como objetivo otorgar autoridad al Consejo Audiovisual Francés, que regula la radio y la televisión, para bloquear a las emisoras extranjeras. <<

[20] Sobre este aspecto puede verse: Tackling Illegal Content Online. Towards an enhanced responsibility of online platforms. Communication from the Commission to the European parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Brussels, 28.9.2017. COM (2017) 555 final. <<

[21] https://ec.europa.eu/digital-single-market/en/news/code-practice-disinformation. <<

Capítulo II

[1] Jefferson, Thomas «Autobiografía y otros escritos», Tecnos, Madrid, 1987. <<

[2] Gordon, Thomas, Carta 15. Sobre la libertad de expresión: que resulta inseparable de la libertad pública, en: Cueva Fernández, Ricardo, «Catas de Catón», BOE, Madrid, 2018. <<

[3] Chesney Robert y Daniel Citron, «Deepfakes and the New Disinformation War. The Coming Age of Post-Truth Geopolitics», Foreign Affairs, January/February 2019. <<

[4] Nahema Marchal, Lisa-Maria Neudert, Bence Kollanyi, Philip N. Howard, «Polarization, Partisanship and Junk News Consumption on Social Media During the 2018 US Midterm Elections» Comprop, Data Memo 2018.5, noviembre 1, 2018. https://com-prop.oii.ox.ac.uk/research/midterms2018/ (última visualización, 7 de marzo de 2019). <<

[5] La cantidad de noticias falsas en circulación en las redes sociales es mayor que durante las elecciones presidenciales de los EE. UU., de 2016, con usuarios que comparten más noticias falsas que noticias profesionales en general, las noticias falsas una vez consumidas por la base de apoyo del presidente Trump y la extrema derecha ahora está siendo consumida por más usuarios conservadores de las redes sociales, y menos del cinco por ciento de las fuentes informativas a las que se hace referencia en las redes sociales son de agencias públicas, expertos o los mismos candidatos políticos. <<

[6] Koyré Alexander, «La función política de la mentira moderna», Pasos perdidos, Madrid, 2015. <<

[7] Quattrociocchi Walter, «La era de la (desinformación)», Investigación y Ciencia, n.º 91, 2018. <<

[8] El sesgo de confirmación es la tendencia de una persona a favorecer y priorizar la información que confirma sus suposiciones, creencias previas, ideas preconcebidas o hipótesis, independientemente de que éstas sean verdaderas o falsas, tratando así de evitar la tensión emocional que produce un estado de disonancia cognitiva que es el sentimiento de malestar que se experimenta cuando una idea entra en conflicto con una de nuestras creencias. <<

[9] González de la Garza Luis Miguel, «Redes Sociales, Instrumentos de participación democrática. Análisis de tecnologías implicadas y nuevas tendencias», Dykinson, Madrid, 2015. <<

[10] Marks Joseph, Eloise Copland, Eleanor Loh, Cass R. Sunstein y Tali Sharot, «Epistemic spillovers: Learning others’ political views reduces the ability to assess and use their expertise in nonpolitical domains», Cognition 188, 2019. <<

[11] Desinformación en el ciberespacio, «CCN-CERT BP/13», febrero de 2019, puede verse en: https://www.ccn-cert.cni.es/informes/informes-ccn-cert-buenas-practicas-bp/3549-ccn-cert-bp-13-desinformacion-en-el-ciberespacio.html. <<

[12] http://sozd.duma.gov.ru/bill/608767-7.

La Ley prevé las siguientes disposiciones. Se determinan las reglas necesarias para el enrutamiento del tráfico, se organiza el control sobre su cumplimiento. Crea una estrategia para minimizar la transferencia al extranjero de datos intercambiados entre usuarios rusos. Se definen líneas de comunicación transfronterizas y puntos de intercambio de tráfico. Sus propietarios, los operadores de telecomunicaciones, están obligados a garantizar la posibilidad de un control de tráfico centralizado en caso de una amenaza. Es posible instalar equipos técnicos en redes de comunicación que determinan la fuente del tráfico transmitido. Las instalaciones técnicas deberán poder restringir el acceso a recursos con información prohibida no solo por direcciones de red, sino también prohibiendo el paso de tráfico. Operabilidad de los recursos de Internet rusos en caso de imposibilidad de conectar operadores de telecomunicaciones rusos a servidores de Internet raíz extranjeros. Introduce la necesidad de ejercicios regulares de las autoridades gubernamentales, operadores de telecomunicaciones y propietarios de redes tecnológicas para identificar amenazas y desarrollar medidas para restaurar el segmento ruso de Internet. El Gobierno de la Federación de Rusia determina la respuesta centralizada a las amenazas a la operatividad de Internet y las redes de comunicaciones públicas por parte del Centro de Monitoreo y Gestión. Las medidas de respuesta se determinan, entre otras cosas, en el curso del monitoreo del funcionamiento de los elementos técnicos de la red pública de telecomunicaciones. Se está creando una infraestructura para habilitar las posibilidades que se definen en el paquete normativo. Esto es una circunstancia que sería algo semejante a revertir una forma de censura previa preventiva y a criterio del Estado, la motivación de la norma rusa se preparó, tal y como señala el propio texto de la norma, teniendo en cuenta el carácter agresivo de la Estrategia Nacional de Seguridad Cibernética de los Estados Unidos adoptada en septiembre de 2018. <<

[13] https://www.washington.edu/news/2017/07/11/lip-syncing-obama-new-tools-turn-audio-clips-into-realistic-video/. <<

[14] Bunk Jason, Jawadul H. Bappy, Tajuddin Manhar Mohammed, Lakshmanan Nataraj, Arjuna Flenner, B.S. Manjunath, Shivkumar Chandrasekaran, Amit K. Roy-Chowdhury, y Lawrence Peterson, «Detection and Localization of Image Forgeries using Resampling Features and Deep Learning», 2017 IEEE Conference on Computer Vision and Pattern Recognition Workshops (CVPRW). arXiv:1707.00433v1 [cs.CV] 3 Jul 2017. <<

[15] Yuezun Li y Siwei Lyu, «Exposing DeepFake Videos by Detecting Face Warping Artifacts» eprint arXiv:1811.00656, noviembre de 2018. <<

[16] Frankfurt Harry G, «Sobre la charlatanería y Sobre la verdad», Paidós Contextos, Barcelona, 2007. <<

[17] Jolley Daniel, y Karen M. Douglass, «The social consequences of conspiracism: Exposure to conspiracy theories decreases intentions to engage in politics and to reduce one’s carbon footprint», British Journal of Psychology, febrero de 2014. <<

[18] Bradley Frank, Adrian Bangerter y Martin W. Bauer, «Conspiracy theories as quasi-religious mentality: an integrated account from cognitive science, social representations theory, and frame theory», Frontiers in Psychology, Julio, 2013. <<

[19] La Agencia de Proyectos de Investigación Avanzada de Defensa es la organización central de investigación y desarrollo del Departamento de Defensa de los Estados Unidos. http://www.darpa.mil/. <<

[20] Giles Jim, «Internet encyclopedias go head to head. Jimmy Wales, Wikipedia comes close to Britannica in terms of the accuracy of its science entries, a Nature investigation find», Nature, vol. 438, 15 de diciembre de 2005. <<

[21] https://www.whitehouse.gov/wp-content/uploads/2018/09/National-Cyber-Strategy.pdf (página 14, última visualización 5 de marzo, 2019). <<

[22] La Resiliencia se expresa como unidad de medida en Julios por metro cuadrado (J/m²). <<

[23] Albert, R y Albert-László Barabási, «Topology of evolving networks: Local events and universality», Physical Review Letters, n.º 85, 2000. <<

[24] Watts Duncan J. y Steven H Strotagtz, «Collective dynamics of small-world networks», Nature, n.º 393, 1998. <<

[25] Ball Philip, «Masa crítica, cambio, caos y complejidad», Turner/FCE, México, 2009. <<

[26] La peculiaridad que caracteriza a las redes libres de escala es que los nodos que conecta la red carecen de una distribución homogénea —sin escala—, sin embargo, en estas redes, estadísticamente, se comprueba en los estudios de agregación una ley de potencias que las caracteriza. Existen nodos ultradensos o muy relacionados y otros que no lo están. Tal hecho fue observado por Wilfredo Pareto, en el marco de las redes sociales, en 1890 cuando el autor advirtió que el 20% de la población era la dueña del 80% de la riqueza del país, originando la conocida regla 80-20. Posteriormente, en 1940, Geork K. Zipf observó un fenómeno análogo en el uso estadístico de las palabras de un lenguaje, es decir, al escribir se emplea mucho un pequeño número de palabras mientras que la mayoría de las palabras no son usadas. Este hallazgo se tradujo en la denominada Ley de Zipf. <<

[27] Es decir, fallos no planificados por la inteligencia humana, tales como congestiones puntuales de redes por excesivo tráfico, caídas de segmentos de red por averías puntuales que obligan a las redes autónomamente a reconfigurar su carga de trabajo y distribución, etc. <<

[28] Watts Duncan J, «Seis grados de separación. La ciencia de las redes en la era del acceso», Paidós, Barcelona, 2006. <<

[29] Philip Ball, «Masa crítica, cambio, caos y complejidad», Ibíd. <<

[30] Condliffe Jamie, «Redes Generativas Antagónicas», MIT Technology Review, 22 de febrero de 2018. https://www.technologyreview.es/s/10026/tr10-redes-generativas-antagonicas (última consulta, marzo 2019). <<

[31] Goodfellow Ian J, Jean Pouget-Abadie, y otros, «Generative Adversarial Nets», Departement d’informatique et de recherche operationnelle ´ Universite de Montreal, Montreal, QC H3C 3J7. Puede obtenerse en Cornell University: https://arxiv.org/abs/1406.2661. <<

[32] Rumelhart David E, Geofrey E. Hinton y Roanald J. Williams, «Learning internal representations by error propagation», ICS Report 8506, Septiembre de 1985. <<

[33] La expresión de «profundas» se debe a que tienen muchas capas de nodos de cálculos simples que trabajan en conjunto para buscar datos y entregar un resultado final en forma de predicción. Para observar las diversas topologías de redes neuronales, puede verse: http://www.asimovinstitute.org/neural-network-zoo/ (última visualización, marzo 2019). <<

[34] Hawkins Jeff, Sandra Blakeslee, «Sobre la Inteligencia», Espasa, Madrid, 2005. <<

[35] Borel Brooke, «Clics, mentiras y cintas de video», Investigación y Ciencia, diciembre 2018. <<

[36] Bansal Aayush, Shugao Ma, Deva Ramanan y Yaser Sheikh, «Recycle-GAN: Unsupervised Video Retargeting», ECCV, 2018. http://www.cs.cmu.edu/~aayushb/Recycle-GAN/. <<

[37] Davara Fernández de Marcos, Elena, Laura Davara Fernández de Marcos, «Delitos Informáticos», Aranzadi, Pamplona, 2017. <<

[38] Muntañola Mario Sol, «El régimen jurídico de la parodia», Marcial Pons, Madrid, 2005. <<

[39] La Sección 43 (a) de la Ley Lanham proporciona dos teorías generales de responsabilidad:

(1) representaciones falsas con respecto al origen, respaldo o asociación de bienes o servicios mediante el uso indebido de la marca distintiva, el nombre, la imagen comercial u otro dispositivo («endoso falso» o «asociación falsa») de otra persona, y

(2) Representaciones falsas en publicidad sobre la calidad de los servicios o productos («publicidad falsa»).

«Para prevalecer bajo la sección 43 (a) de la Ley Lanham, un demandante debe demostrar que tiene una marca comercial válida y protegida y que el uso por parte del demandado de una imitación semejante de la marca comercial puede causar confusión entre los consumidores». <<

[40] Woolley, Samuel C, y Philip N. Howard, «Computational Propaganda Worldwide: Executive Summary», Working Paper No. 2017.11, Computational Propaganda Research Project. Oxford University. UK. <<

[41] De tipo sociodemográfico como distritos electorales o circunscripciones específicas disputadas, en las que pocos votos pueden producir la asignación de un escaño y en los que una actividad de propaganda cognitiva puede justificar un esfuerzo suplementario de campaña electoral para conducir a votantes que dudan en si ejercerán o no su voto a ser motivados a decantarse hacia una tendencia electoral determinada. <<

[42] López Jiménez, David, «Las cookies como instrumento para la monitorización del usuario en la red: La publicidad personalizada», Ciencias Económicas 29, n.º 2, 2011. <<

[43] Kramer Adam D I, Jamie E. Guillory y Jeffrey T. Hancock, «Experimental evidence of massive-scale emotional contagion through social networks», PNAS, Vol. 111, n.º 24, 17 de junio 2014. <<

[44] Cadwalladr Carole, «Google, democracy and the truth about internet search» Internet, The Observer, 4 de diciembre de 2016. https://www.theguardian.com/technology/2016/dec/04/google-democracy-truth-internet-search-facebook (20 de agosto de 2018). <<

[45] La segmentación psicográfica es una herramienta que permite profundizar en los grupos de referencia para encontrar sus motivaciones de voto. <<

[46] El lector puede experimentar un análisis psicográfico básico de sus redes sociales con este algoritmo en: https://applymagicsauce.com/. <<

[47] https://www.facebook.com/business/a/online-sales/unpublished-page-posts (20 de agosto de 2017). <<

[48] Samuel C Woolley, y Philip N. Howard Op Cit. <<

[49] Bond Robert M, Christopher J. Fariss, Jason J. Jones, Adam.I.Kramer, Cameron Marlow, Jaime E. Settle& James H. Fowler, «A 61-million-person experiment in social influence and political mobilization», Nature, Vol 489, 13 Septimbre 2012. <<

[50] Nimmo Ben, «Measuring Traffic Manipulation on Twitter», Computational Propaganda Research Project, Oxford University, 2019. <<

[51] Para una taxonomía de los diversos tipos de Bots aptos para ingeniería social, puede verse: Ferrara Emilio, Onur Varol, Clayton Davis, Filipo Menczer y Alessandro Flamini, «The Rise of Social Bots», Communications of the ACM, Julio 2016, Vol. 59, n.º 7. <<

[52] Bradshaw Samantha y Philip N. Howard, «Troops, Trolls and Troublemakers: A Global Inventory of Organized Social Media Manipulation», Op Cit. <<

[53] Guess Andrew, Jonathan Nagler y Joshua Tucker, «Less than you think: Prevalence and predictor of fake news dissemination on Facebook», Sci. Adv. 2019; 5: eaau4586 9 January 2019. Puede consultarse en: https://advances.sciencemag.org/content/advances/5/1/eaau4586.full.pdf%20 (consultado, 8 de mayo de 2019). <<

[54] Real Decreto 1674/1980, de 18 de julio, por el que se aprueba el Reglamento Orgánico del Consejo de Estado.

Artículo 3. Constitucionalidad, legalidad y oportunidad.1. En el ejercicio de sus funciones, el Consejo de Estado velará por la observancia de la Constitución y del resto del ordenamiento jurídico. 2. El Consejo de Estado apreciará la legalidad y, en su caso, la constitucionalidad de los proyectos de disposiciones generales, tratados y actos administrativos sometidos a su consulta y valorará los aspectos de oportunidad y conveniencia cuando lo solicite expresamente la autoridad consultante o cuando lo exija la índole del asunto o la mayor eficacia de la Administración en el cumplimiento de sus fines. <<

[55] Así, y entre las más importantes, tenemos la producida el 6 de marzo de 2014, por la Autoridad Italiana de Protección de Datos (Garante para la Protezione dei Dati Personali) emitió su documento «Provvedimento in materia de trattamento di dati presso i partiti politici e di esonero dall’informativa per fini di propaganda elettorale». <<

– En noviembre de 2016 lo hizo la Autoridad francesa (Commission Nationale de l’Informatique et des Libertés) con, entre otros, el título «Communication politique: quelles sont les règles pour l’utilisation des données issues des réseaux sociaux?».

– En abril de 2017 la Autoridad británica (Information Commissioner’s Office) aprobó su «Guidance on political campaigning».

De forma análoga, el Supervisor Europeo de Protección de Datos emitió el 18 de marzo de 2018 su Opinión 3/2018 sobre «manipulación online y datos personales» («EDPS Opinion on online manipulation and personal data») y la Comisión Europea, ante la proximidad de las elecciones al Parlamento Europeo, el pasado 12 de septiembre de 2018 aprobó su guía sobre la aplicación de la normativa europea de protección de datos en el contexto electoral («Commission guidance on the application of Union data protection law in the electoral context»).

[56] Puede verse la Resolución en: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2018-0433+0+DOC+XML+V0//ES (última visualización 01/01/2019). <<

[57] Mateo, Fabio Pascua, «La técnica normativa en el sistema jurídico comunitario», Cuadernos de Derecho Público, núm. 28, mayo-agosto 2006. <<

[58] Con los tres subprincipios de, idoneidad, necesidad y proporcionalidad en sentido estricto. Es claro que la estructura de fondo de la idoneidad identifica una relación fines-medios. <<

[59] Barak Aharon, «Proporcionalidad. Los derechos fundamentales y sus restricciones», Palestra, Lima, 2017. <<

[60] Warren, Samuel y Louis Brandeis, «El derecho a la intimidad», Civitas, Madrid, 1995. <<

[61] Dworkin, Ronald, «Justicia para erizos», FCE, México, 2014. <<

[62] Resumen del Dictamen del SEPD sobre la manipulación en línea y los datos personales, DOUE C 233/8 de 4.7.2018, pág. 11. <<

[63] Michael T Parker, y Linda M. Isbell, «How I Vote Depends on How I Feel: The Differential Impact of Anger and Fear on Political Information Processing», Psychological Science 21. <<

[64] Amit Elinor, SoYon Rim, Georg Halbeisen, Uriel Cohen Priva, Elena Stephan, Yaacov Trope, «Distance-dependent memory for pictures and words», Journal of Memory and Language, N 105, 2019. <<

[65] Nahema Marchal, Lisa-Maria Neudert, Bence Kollanyi y Philip N. Howard, «Polarization, Partisanship and Junk News Consumption on Social Media During the 2018 US Midterm Elections» Data Memo 2018.5. Oxford, UK: Project on Computational. <<

[66] Duverguer Maurice, «La Democracia sin el pueblo», Ariel, Barcelona, 1967. <<

[67] Brader, Ted, «Striking a Responsive Chord: How Political Ads Motivate and Persuade Voters by Appealing to Emotions», American Journal of Political Science, Vol. 49, No. 2. (Apr 2005). <<

[68] Valentino Nicholas A, Vincent L. Hutchings, Antoine J. Banks, «Is a Worried Citizen a Good Citizen? Emotions, Political Information Seeking, and Learning via the Internet», Political Psychology, Vol. 29, No. 2, 2008. <<

[69] Benkler Yochai, Robert Faris, y Hal Roberts, «Network Propaganda, Manipulation, Disinformation, and Radicalization in American Politics», Oxford University Press, 2018. <<

[70] Pluviano Sara, Sergio Della Sala, «El autoengaño de los antivacunas», Op Cit. <<

[71] El psicólogo social León Festinger sugirió que los individuos tienen una fuerte necesidad de que sus creencias, actitudes y su conducta sean coherentes entre sí evitando contradicciones entre estos elementos. Cuando existe inconsistencia entre éstas, el conflicto conduce a la falta de armonía de las ideas mantenidas por la persona, algo que en muchas ocasiones genera un profundo malestar. Esta teoría ha sido ampliamente estudiada en el campo de la psicología y puede definirse como la incomodidad, tensión o ansiedad que experimentan los individuos cuando sus creencias o actitudes entran en conflicto con lo que hacen. Este malestar puede llevar a un intento de cambio de la conducta o a defender sus creencias o actitudes, entre ellas mediante el autoengaño con la finalidad de reducir el intenso malestar que producen. <<

[72] «Elecciones libres y limpias», Orientaciones de la Comisión relativas a la aplicación de la legislación sobre protección de datos de la Unión en el contexto electoral, Contribución de la Comisión Europea a la reunión de dirigentes en Salzburgo los días 19 y 20 de septiembre de 2018, COM (2018) 638 final, págs. 8-9. <<

[73] Señala concretamente la AEPD: «Por ello, hubiera sido conveniente que las mismas se establecieran en el texto del propio artículo 58 bis, haciendo uso de la habilitación contenida en el artículo 6.2 y 3 del RGPD, entre las que se podrían haber incluido la relativas a: “condiciones generales que rigen la licitud del tratamiento por parte del responsable; los tipos de datos objeto de tratamiento; los interesados afectados; las entidades a las que se pueden comunicar datos personales y los fines de tal comunicación; la limitación de la finalidad; los plazos de conservación de los datos, así como las operaciones y los procedimientos del tratamiento, incluidas las medidas para garantizar un tratamiento lícito y equitativo, como las relativas a otras situaciones específicas de tratamiento a tenor del capítulo IX. El Derecho de la Unión o de los Estados miembros cumplirá un objetivo de interés público y será proporcional al fin legítimo perseguido”. Asimismo, dicha ley podría haber establecido la obligación de consultar a la autoridad de control y de recabar su autorización previa en relación con el tratamiento por un responsable en el ejercicio de una misión realizada en interés público, conforme al artículo 36.5 del RGPD». Agencia Española de Protección de Datos, informe jurídico Ref. 210070/2018. <<

[74] Mill John Stuart, «Sobre la libertad», Alianza Editorial, Madrid,1997. <<

[75] Milton John, «Aeropagítica», Ed. Torre de Goyanes, Madrid, 2000. <<

[76] Realizaremos seguidamente unas breves precisiones sobre los fundamentos de la doctrina denominada «Chilling Effect» que obviamente no aparecen en la Sentencia del Tribunal Supremo de los Estados Unidos ACLU vs. RENO, sino como fruto de una larga tradición. Así, es preciso recordar que en el caso Broadrick v. Oklahoma, 413 US 601, 1973, el Tribunal Supremo delimita el concepto de normas que vulneran la Primera Enmienda, por un alcance excesivo, denominado overbreadth y/o una carencia de precisión, denominada vagueness, al establecer: «Se ha admitido desde hace tiempo que la Primera Enmienda precisa espacio para respirar, y que las leyes que pretenden obstaculizar o limitar el ejercicio de los derechos en aquella contemplados deben redactarse de manera ajustada (narrowly drawn). En resumen, una norma adolece del defecto de —overbreadth— cuando la aplicación de sus preceptos puede traducirse en una restricción o en un castigo de la libre expresión constitucionalmente protegida.» El segundo defecto, la imprecisión o vaguedad de la norma reguladora de la libertad de expresión implica la exigencia de una claridad meridiana en la descripción de la conducta afectada. Como estableció el Tribunal Supremo de los Estados Unidos en 1926: «una norma que prohíbe o requiere que se haga algo en términos tan vagos que hombres de inteligencia normal tengan que averiguar su significado y difieran respecto de su aplicabilidad viola lo primero y más esencial del principio de legalidad» (Conally v. General Const. Co., 269 US 385, 391, 1926). Varias razones se han invocado en favor de la aplicación de la doctrina de la nulidad por causa de vaguedad en el área de la libertad de expresión: «Una ley poco clara… puede disuadir a algunas personas… de expresarse… [Además], la ejecución de la ley por el gobierno debe estar presidida por claras orientaciones para evitar que los funcionarios actúen según su propia discrecionalidad.» (Dombrowsky v. Pfister, 380 US 479, 1965, Steffel v. Thompson, 415 US 452 1974). La doctrina americana denomina a esta doctrina «Chilling Effect» o efecto de enfriado para describir o significar el retraimiento (o autocensura) o la timidez en el ejercicio de los derechos reconocidos en la Primera Enmienda, ante el temor de posibles sanciones legales. <<

[77] Vanossi, Jorge Reinaldo A, «El Estado de Derecho en el constitucionalismo social», Eudeba, Argentina, 3.ª Edición, 2000. <<

[78] Kant, Inmanuel «La metafísica de las costumbres», Tecnos, Madrid, 1994. <<

[79] Leibholz Gerhard, «Representación e identidad», en: Kurt Lenk y Franz Newmann (eds.), «Teoría y sociología críticas de los partidos políticos», Anagrama, Barcelona, 1980. <<

[80] Bauman Zygmunt, y Leonidas Donskis, «Maldad liquida», Paidós, Barcelona, 2019. <<

[81] El programa del gobierno Chino puede verse en: https://chinacopyrightandmedia.wordpress.com/2014/06/14/planning-outline-for-the-construction-of-a-social-credit-system-2014-2020/ (consultado 12/05/2019). <<

[82] https://www.independent.co.uk/news/world/asia/china-surveillance-big-data-score-censorship-a7375221.html (consultado 12/05/2019). <<

[83] González de la Garza, Luis Miguel «¿Patrimonializar los datos de carácter personal? Argumentos para un debate», El Notario del Siglo XXI, n.º 38, 5 de julio de 2011. http://www.elnotario.es/index.php/hemeroteca/revista-38/743-patrimonializar-los-datosde-caracter-personal-argumentos-para-un-debate-0-022018592825176746. <<

[84] Pentland Alex, «Una sociedad dirigida por datos», Investigación y Ciencia, n.º 91, 2018. <<

[85] Hoffmann-Riem, Wolfgang «Big Data. Desafíos también para el Derecho», Civitas, Navarra, 2017. <<

[86] Helbing Dirk, Bruno S. Frey, Gerd Gigerenzer, Ernst Hafen, Michael Hagner, Yvonne Hofstetter, Jeroen van den Hoven, Roberto V. Zicari y Anfrej Zwitter, «Una estrategia para la era digital. Una hoja de ruta para evitar el retroceso de la democracia en la sociedad de la información», Investigación y Ciencia, Temas, «La Sociedad hiperconetada», n.º 91, 2018. <<

[87] McIntyre Lee, «Posverdad», Cátedra, Madrid, 2018. <<

[88] De la Boétie, Étienne, «Discurso sobre la servidumbre voluntaria», Hueders, Chile, 2018. <<

[89] Sunstein Cass R, «Conformity», New York University Press, NY, 2019. <<

[90] Malberg, Raymond Carré de, «Teoría General del Estado», FCE, México, 1998. <<

[91] Hay que recordar, no obstante, que el mismo Sieyès señalará: «Pero subrayemos, porque esta suerte de precisiones deben estar siempre presentes para una cabal comprensión del tema, que la misión dada a los representantes no puede implicar jamás una alienación. Esta misión es esencialmente libre, en efecto, pero constantemente revocable y limitada, a voluntad de los comitentes, tanto por lo que se refiere al tiempo, cuanto a la naturaleza de asuntos a tratar». Sieyès Enmanuel J, «Ideas sobre los medios de actuación que podrán disponer los representantes de Francia» en 1789. (primera sección) El Tercer Estado y otros escritos de 1789, Austral, Madrid, (insiste Sieyès, con los mismos argumentos que se repiten en la sección tercera de la misma obra, pág. 92). <<

[92] Sobre este tema puede consultarse: González de la Garza, Luis Miguel, «Voto electrónico por Internet, Constitución y riesgos para la democracia», Edisofer, Madrid, 2008. <<

[93] Kelsen Hans, «Teoría General del Estado», Comares, Granda, 2002. <<

[94] Vaihinger, Hans, «The Philosophy of “As if” A System of the Theortetical, Practical and Religious Fictions of Mankind», Routledge & Kegan Paul Ltd, London, 1924. <<

[95] Trabajos posteriores de su escuela, fueron los de Rolf Mallachow, así como la obra de Walter Strauch para el que todo el Derecho no es otra cosa que una ficción. Es aquí también relevante la obra de Josef Esser «Deutsches Recht», de 1941, obra en la que Esser distingue varios tipos de ficciones jurídicas. <<

[96] Jellinek, George, «Teoría General del Estado», FCE, México, 2000. <<

[97] Schumpeter, J.A, «Capitalismo, Socialismo y Democracia», Tomo II, Folio, Barcelona, 1996. <<

[98] Simone, Raffaele, «El hada democrática. Cómo la democracia fracasa», Taurus, Barcelona, 2015. <<

[99] Como señalan Simon y buena parte de la escuela económica neoinstitucional que aceptan tal premisa: «Como criaturas de racionalidad limitada incapaces de habérnoslas con el mundo en toda su complejidad, nos formamos una imagen simplificada del mismo y lo vemos desde nuestro punto de vista organizacional particular, esto es, desde los intereses y objetivos de nuestra organización». Simon H.A, «Las ciencias de lo artificial», Comares, Granada, 2006. En idéntico sentido, Williamson O.E, «Las instituciones económicas del capitalismo», FCE, México, 1989. <<

[100] No cabe ninguna duda —señala el autor— de que todos somos víctimas de nuestro propio sistema de prejuicios; de que todos consideramos muchas cosas evidentes por sí mismas; de que las aceptamos sin espíritu crítico e incluso con la convicción ingenua y arrogante de que la crítica es completamente superflua; y, desgraciadamente, los hombres de ciencia no hacen excepción a la regla, aun cuando hayan logrado librarse superficialmente de algunos de sus prejuicios en el terreno particular de sus estudios. Popper K. R, «La sociedad abierta y sus enemigos», Paidós. Barcelona, 1957. <<

[101] Bobbio, Norberto, «Teoría General de la Política», Trotta, Madrid, 2003. <<

[102] Hamilton, A, J. Madison y J.Jay, «El Federalista», FCE, México, 1994. <<

[103] Así y para este autor: Cuando los hombres militan en una facción, son capaces de olvidar, sin vergüenza ni remordimientos, los dictados del honor y la moral para servir a su partido, y, sin embargo, cuando forman bando en torno a un punto de derecho o un principio no hay ocasión en que demuestren mayor empeño y un sentido más decidido de la justicia y la equidad. Una misma disposición social de los humanos provoca esa aparente contradicción. Hume, David, «Ensayos Políticos», Tecnos, Madrid, 1994, pág. 22. <<

[104] Bobbio, Norberto, Op Cit. <<

[105] Buchanan, James M y Gordon Tullock, «Derechos de propiedad y Democracia», Colegio de Economistas de Madrid-Celeste Ediciones, Madrid, 1995. <<

[106] Bockenforde, Wolfgang, «Estudio sobre el Estado de derecho y la democracia», Trotta, Madrid, 2000. <<

[107] Kagi, Werner, «La Constitución como ordenamiento jurídico fundamental del Estado», Dykinson, Madrid, 2005. <<

[108] Constant, Benjamin, «Principios de política aplicable a todos los gobiernos» Capítulo III, Condiciones necesarias para que las Constituciones no sean violadas, Katz, Madrid, 2010. <<

[109] Lessig, Lawrence, «The Code version 2.0», Cambridge, Basic Books, 2006. <<

Capítulo III

[1] Cuando hacemos referencia a redes aninadas nos referimos a que las redes se interconectan, muchas personas de nuestras redes están a su vez interconectadas con otras personas de otras redes, de esa forma las redes se agrupan en estructuras cada vez más grandes. <<

[2] Puede verse en: Newman, Mark, Albert-Lázló Barabási y Duncan J. Watts, «The Structure and Dynamics of Networks», Princeton University Press, New Jersey, 2006. <<

[3] Kadushin, Charles, «Comprender las redes sociales. Teorías, conceptos y hallazgos», CIS, Madrid, 2013. <<

[4] Waserman, Stanley y Katherine, Faust, «Análisis de redes sociales. Métodos y aplicaciones», CIS, Madrid, 2013. <<

[5] Waserman, Stanley y Katherine, Faust, «Análisis de redes sociales. Métodos y aplicaciones», Op Cit, pág. 50. <<

[6] Puede verse: Khaneman, Daniel, «Pensar rápido, Pensar despacio», Debate, Barcelona, 2012. <<

[7] Christakis, Nicholas, A, James, H Fouler, «Conectados. El sorprendente poder de las redes y cómo nos afectan», Taurus, Madrid, 2010. <<

[8] Christakis, Nicholas, A, James, H Fouler, «Conectados. El sorprendente poder de las redes y cómo nos afectan», Op Cit, pág. 125. <<

[9] Fareri, Dominic S, y Mauricio R. Delgado, «Social Rewards and Social Networks in the Human Brain», The Neuroscientist, 2014, Vol. 20(4). <<

[10] De Sola Pool, Ithiel, Manfred Kochen, «Contacts and Influence» Social Networks, 1978, 5-51, puede verse en: Newman, Mark, Albert-Lázló Barabási y Duncan J. Watts, «The Structure and Dynamics of Networks», Princeton University Press, New Jersey, 2006. <<

[11] Christakis, Nicholas, A, James, H Fouler, «Conectados. El sorprendente poder de las redes y cómo nosafectan», Op Cit, pág. 44. <<

[12] Luarn, Pin y Yu-Pin Chiu, «Influence of network density on information diffusion on social network sites: The mediating effects of transmitter activity», Information Development, 1-9.2014. <<

[13] Burt, Ronald, S, «Structural Holes and Good Ideas», AJS, Vol 110, n.º 2, Septiembre, 2004. <<

Capítulo IV

[1] McIntyre, Lee, «Posverdad», Cátedra, Madrid, 2008. <<

[2] Castellanos Claramunt, Jorge, «Participación ciudadana y posverdad: la amenaza de la posverdad participativa», Persona y Derecho, Vol. 81, 2019. <<

[3] Frankfurt, Harry G., «Sobre la charlatanería y sobre la verdad», Paidós, Barcelona, 2018. <<

[4] Ferrajoli, Luigi, «Principia Iuris. Teoría del Derecho y de la Democracia», Trotta, Madrid, 2011. <<

[5] Hayek, Friedrich A, «Los fundamentos de la libertad», Unión Editorial, Madrid, 2008. <<

[6] Nozick, Robert, «La naturaleza de la racionalidad», Paidós. Barcelona, 1995. <<

[7] Russell, Bertrand, «Viaje a la revolución», Ariel, Madrid, 2017. <<

[8] Kahneman, Daniel, «Pensar rápido, pensar despacio», Debate, Barcelona, 2012. <<

[9] Sutherland, Stuart, «Irracionalidad: El enemigo interior», Alianza Editorial, Madrid, 2015. <<

[10] Se supone que esta capacidad es el resultado de miles de años de selección natural que favorecen a las personas más capaces de identificar rápidamente el estado mental a través de los sentimientos expresados en el rostro, por ejemplo, de amenaza a las personas de un grupo humano o una tribu, lo que brinda al individuo la oportunidad de huir o atacar preventivamente. En otras palabras, procesar esta información de manera subcortical, por lo tanto, inconscientemente, antes de pasarla al resto del cerebro para un procesamiento detallado, acelera el juicio y la toma de decisiones cuando se necesita una reacción rápida. Esta capacidad, aunque altamente especializada para el procesamiento y el reconocimiento de las emociones humanas, también funciona para determinar el comportamiento en los entornos evolutivos de la vida salvaje en la que se identifican animales que podrían ser potencialmente peligrosos y sus estados de actividad: caza; descanso; indiferencia. <<

[11] Jaspers, Karl, «General Psychopathology», Practika, Moscow, 1997. <<

[12] Se equivoca de una forma análoga a lo que sucede con el ilusionismo. La magia no existe, el ilusionismo sí y podemos experimentar sus efectos de forma perfectamente perceptible e inevitable, sobre cómo la visión genera ilusiones falsas pero efectivas, puede verse en: Macknik, S.L, S. Martínez-Conde y Sandra Blakeslee, «Los engaños de la mente. Cómo los trucos de magia desvelan el funcionamiento del cerebro», Destino, Barcelona, 2012. <<

[13] Todos los efectos de error pueden verse en el canal del investigador Daniel Simons: https://www.youtube.com/channel/UCoUA-CpKaFCCV2Uz__qNJZw.

Es también posible estudiar su investigación en: Chrabis Christopher y Daniel Simons, «El gorila invisible y otras maneras en la que nuestra intuición nos engaña» Siglo XXI editores, 2011, Madrid. <<

[14] Funder, David C., y Joachim I. Krueger, «Towards a balanced social psychology: Causes, consequences, and cures for the problem-seeking approach to social behavior and cognition». Behavioral and Brain Sciences, vol. 27(3):313–76, 2004. <<

[15] Ayan, Steve, «El inconsciente, el piloto automático de la mente», Mente y Cerebro, n.º 99, 2019. <<

[16] Solms, Mark, en: Ayan, Steve, «El inconsciente, el piloto automático de la mente», Mente y Cerebro, n.º 99, 2019. <<

[17] Seth, Amilk, «La construcción cerebral de la realidad», Investigación y Ciencia, 55-60, noviembre, 2019. <<

[18] Todos los modelos de inferencia bayesianos tienen en común la asignación de la probabilidad como medida de creencia de una hipótesis, por lo tanto, la inferencia es un proceso de reajuste de medidas de creencia al conocerse nuevos datos que reajustan la certidumbre de la inferencia inicial. <<

[19] Searle, John R, «Ver las cosas tal como son. Una teoría de la percepción», Cátedra, Madrid, 2018. <<

[20] Friston, Karl, «Friston y su teoría de la energía libre», Mente & Cerebro, Investigación y Ciencia, Marzo/Abril, n.º 101, 2020. <<

[21] Matute, Helena, «Ilusiones y sesgos cognitivos», Investigación y Ciencia, noviembre, 2019. <<

[22] Pohl, Rüdiger F, «Cognitive Illusions. A Handbook of Fallacies and Biases in Thinking, Judgment and Memory», Psychology Press, Taylor & Francis Group, New York, 2004. <<

[23] Edelson, Micah, et al, «Following the Crowd: Brain Substrates of Long-Term Memory Conformity», Science, 333, 108, 2011. <<

[24] Sharot, Tali, Christof W Korn y Raymond J Dolan, «How unrealistic optimism is maintained in the fase of reality», Nat Neurosci, 14 (11) 1475-147.º, May 1, 2012. <<

[25] Sharot, Tali y Neil Garret, «Forming Beliefs: Why Valence Matters», Trends in Cognitive Sciences, January 2016, Vol. 20, n.º 1. <<

[26] Daniel Kahneman; Vernon Smith; Richard Thaler. <<

[27] Thaler, Richard H, «La Psicología económica», Deusto, Barcelona, 2017. <<

[28] Damasio, Antonio, «Y el cerebro creó al hombre ¿cómo pudo el cerebro generar emociones, sentimientos, ideas y el yo?», Destino, Barcelona, 2010. <<

[29] Rosetti López, «Emociones y sentimientos», Ariel, Barcelona, 2018. <<

[30] Ariely, Dan, «Las trampas del deseo», Ariel, Barcelona, 2019. <<

[31] Haidt, Jonathan y Greg Lukianoff, «La transformación de la mente moderna», Deusto, Barcelona, 2019. <<

[32] Platón y la razón (Timeo) como elemento central del hombre; Jefferson postula una idea intermedia y doble: emoción — juiciorazón. Y Hume: La razón no es más que el sirviente de las pasiones. <<

[33] Kahneman, Daniel, «Pensar rápido, pensar despacio», Debate, Barcelona, 2012. <<

[34] Zimbardo, Philip, «El efecto Lucifer. El porqué de la maldad», Paidós, Barcelona, 2019. <<

[35] Rozin Paul, y Edward B. Royzman, «Negativity Bias, Negativity Dominance, and Contagion», Personality and Social Psychology Review, Vol. 5, n.º 4, 2001. <<

[36] Liebrecht, Christine, Lettica Hustinx y Margot van Mulken, «The Relative Power of Negativity: The Influence of Language Intensity on Perceived Strenght», Journal of Language and Social Psychology, vol. 38(2), 2019. <<

[37] Kadushin, Charles, «Comprender las redes sociales. Teorías, conceptos y hallazgos», CIS, Madrid, 2013. <<

[38] Goleman, Daniel, «El punto ciego. Psicología del autoengaño», Plaza y Janés, Barcelona, 1997. <<

[39] Hog, Michael A., «Identidad y populismo», Investigación y Ciencia, n.º 518, noviembre 2019. <<

[40] Luhmann, Niklas, «Confianza», Anthropos, Barcelona, 2005. <<

[41] Hardin, Russell, «Confianza y confiabilidad», Fondo de Cultura Económica, México, 2010. <<

[42] Laski, Harold, «Los peligros de la obediencia», Sequitur, Madrid, 2017. <<

[43] Sunstein, Cass, R, «Conformity. The Power of Social Influences», New York University Press, NY, 2019. <<

[44] Helbing, Dirk y otros, «Democracia digital o control del comportamiento», Temas (Investigación y Ciencia), 1 trimestre, n.º 91, 2018. <<

[45] El concepto de resiliencia tiene su origen en el campo de la física y de la ingeniería. En tal sentido, se entiende por resiliencia la magnitud que cuantifica la cantidad de energía que un concreto material puede absorber o almacenar al deformarse elásticamente, pudiendo romperse o recuperarse dicha deformación producida por efecto de un impacto, por unidad de superficie de rotura. La resiliencia se distingue de la tenacidad en que ésta cuantifica o mide la cantidad de energía absorbida, por unidad de superficie de rotura, bajo la acción de un esfuerzo progresivo y no por impacto, como en el caso de la resiliencia. <<

[46] Quattrociocchi, Walter, «La era de la (des) información», Temas (Investigación y Ciencia), 1 trimestre, n.º 91, 2018. <<

[47] Pluviano, Sara, Sergio Della Sala, «El autoengaño de los antivacunas», Mente y Crebro, n.º, 95, 2019. <<

[48] Lakoff, George, «Cómo piensan progresistas y conservadores», Capitán Swing, Madrid, 2016. <<

[49] Mele, Alfred R, «El autoengaño desenmascarado», Cátedra, Madrid, 2016. <<

[50] Mazzoni Giuliana, «Psicología del testimonio», Trotta, Madrid, 2019. <<

[51] Gazzaniga, Michael S., «El cerebro ético», Paidós, Barcelona, 2006. <<

[52] Schacter, Daniel L., «Los siete pecados de la memoria», Ariel, Barcelona, 2003. <<

[53] Ferraris, Mauricio, «Posverdad y otros enigmas», Alianza Editorial, Madrid, 2019. <<

[54] Cipolla, Carlo, «Las leyes fundamentales de la estupidez humana», Cuadernos de Economía, Vol. 15, n.º 25, 1996, Bogotá. <<

[55] Técnicamente, BERT es un modelo de Redes Neuronales Artificiales (RNA) aplicado al campo del Natural Language Processing (NLP), específicamente al subcampo del Natural Language Understanding (NLU). En otras palabras, BERT es una técnica de Inteligencia Artificial (IA) que le permite a un sistema informático comprender mejor el lenguaje humano. BERT se convierte en la segunda implementación de IA más importante en el algoritmo, después de RankBrain. Su objetivo es ayudar al motor de búsqueda de Google a tener una comprensión mucho más profunda de las intenciones e intereses de búsqueda de los usuarios. Esto al analizar no solo las palabras clave o keywords, sino también el resto de las palabras a su alrededor, las cuales le «dicen» al algoritmo cuál es el contexto y la temática específica de cada intención de búsqueda. <<

[56] Keita Kurita y otros, «Measuring Bias in Contextualized Representations», 1st ACL Workshop on Gender Bias for Natural Language Processing 2019. Puede verse en: Cornell University https://arxiv.org/abs/1906.07337v1 (visualizado 02/01/2020). <<

[57] En promedio, existen 200 factores que Google tiene en cuenta para clasificar las páginas web en las SERP, pero no todos ellos están relacionados con el análisis del contenido textual. Pueden verse los factores, también los emocionales en: https://backlinko.com/google-ranking-factors. <<

[58] Haidt, Jonathan y Greg Lukianoff, «La transformación de la mente moderna», Deusto, Barcelona, 2019. <<

[59] Coleman, Paul, «La censura maquillada. Cómo las leyes contra el discurso del odio amenazan la libertad de expresión», Dykinson, Madrid, 2018. <<

[60] La libertad de expresión, es decir lo que la gente no quiere oír. George Orwell. <<

[61] Elster, Jon, comp. «La democracia deliberativa», Gedisa, Barcelona, 2000. <<

[62] Deutsch, Karl W, «Política y gobierno», Fondo de cultura económica, Méjico, 1976. <<

[63] Popper, Karl, «La Sociedad abierta y sus enemigos», Paidós, Barcelona, 1957. <<

[64] Dalrymple, Theodore, «Sentimentalismo tóxico. Cómo el culto a la emoción pública está corroyendo nuestra sociedad», Alianza editorial, Madrid, 2010. <<

[65] Sunstein, Cass, R. Richard H. Thaler, «Un pequeño empujón», Taurus, Barcelona, 2009. <<

[66] Kahneman, Daniel, «Pensar rápido, pensar despacio», Debate, Barcelona, 2012. <<

[67] Gigerenzer, Gerd, «Decisiones instintivas», Ariel, Barcelona, 2007. <<

[68] Brafman, Ori y Rom Brafman, «El impulso irracional», Espasa, Madrid, 2009. <<

[69] Tversky, Amos; Kahneman, Daniel, «Advances in prospect theory: Cumulative representation of uncertainty». Journal of Risk and Uncertainty 5, 1992. <<

[70] Los bienes de experiencia son aquellos bienes cuyas características más importantes tales como: calidad, resistencia, durabilidad o adecuación no pueden ser determinados por el consumidor hasta que han sido adquiridos o consumidos. En este tipo de bienes se pueden producir incentivos a que se generen fraudes respecto a los elementos del bien como puede ser la calidad de este. Este problema se acentúa aún más en los denominados bienes de confianza, en los que el resultado del bien solo puede ser juzgado por un experto. La categoría de bienes de experiencia fue estudiada inicialmente por Nelson Philip, «Information and Consumer Behavior», 78(2) Journal of Political Economy 311-329, 1970. <<

[71] Maquiavelo, Nicolás, «El Príncipe», Aleph, Argentina, 1999. <<

[72] Thorndike, E. L. «A constant error on psychological rating» Journal of Applied Psychology, IV, 25-29, 1920. <<

[73] Asch, Solomon. E. «Forming impressions of personality», Journal of Abnormal and Social Psychology, 41, 258-290, 1946. <<

[74] Balleisen, Edward J, «Fraud, and American history from Barnum to Madoff», Princeton University Press, 2017, New Jersey, USA. <<

Capítulo V

[1] Häberle, Peter, «Verdad y Estado Constitucional», UNAM, México, 2006. <<

[2] «En la medida en que nuestra dignidad está determinada por la voluntad de veracidad, tiene que ver con una actitud que se puede llamar honestidad intelectual. Formulada como máxima dice así: uno no debe pretender saber cosas que no sabe ni puede saber. Uno puede expresar y someter a discusión muchas suposiciones y reflexiones. Incluso suposiciones y reflexiones que pisan terreno inseguro. No es esto lo que la honestidad intelectual prohíbe. Lo que prohíbe es que se hagan pasar por saber —como algo sobre lo que se puede construir—. Esto sucede de manera especialmente frecuente y especialmente transparente en las declaraciones de los políticos. A menudo tienen por objeto situaciones que son tan complejas e intrincadas que nadie sabe cómo están las cosas y lo que hay que hacer. Sin embargo, los jefes de gobierno, los ministros y los portavoces de los partidos se presentan y afirman ser los únicos que tienen una visión de conjunto. Los demás están equivocados. Lo que uno dice sobre la situación y lo que se propone no tienen alternativa. En los partidos y ministerios se fraguan fórmulas y se conjuran metáforas que en su simpleza son para reírse. Tanto más enérgicos son los movimientos de manos y brazos en la tribuna de oradores. Si se desconecta el sonido y se observa solo el lenguaje corporal, se ve a hombres que esconden su falta de saber con gestos de auto persuasión. Nadie que exponga un saber sólido tiene necesidad de esta gesticulación. Cuando se vuelve a conectar el sonido, no hay la más mínima mejora. Es un espectáculo indigno». Bieri, Peter, «La dignidad humana. Una manera de vivir», Herder, Barcelona, 2017. <<

[3] Hartmann, Nicolai, «Ética», Encuentro, Madrid, 2011. <<

[4] Aláez Corral, Benito, en: «Teoría general de los derechos fundamentales en la Constitución Española de 1978», Tecnos, Madrid, 2012. <<

[5] Artículo cuarenta y uno.

Dos. El recurso de amparo constitucional protege, en los términos que esta ley establece, frente a las violaciones de los derechos y libertades a que se refiere el apartado anterior, originadas por las disposiciones, actos jurídicos, omisiones o simple vía de hecho de los poderes públicos del Estado, las Comunidades Autónomas y demás entes públicos de carácter territorial, corporativo o institucional, así como de sus funcionarios o agentes. <<

[6] Díez-Picazo, Luis María, «Sistema de Derechos Fundamentales» 4.ª ed. Civitas Thomson Reuters, Navarra, 2013. <<

[7] Artículo 29. Derecho de ocupación de la propiedad privada, contenido en la sección 1.ª Derechos de los operadores a la ocupación del dominio público, a ser beneficiarios en el procedimiento de expropiación forzosa y establecimiento a su favor de servidumbres y limitaciones de la propiedad, de la Ley 9/2014, de 9 de mayo, General de Telecomunicaciones. <<

[8] Naranjo de la Cruz, Rafael, «Los límites de los derechos fundamentales en las relaciones entre particulares: la buena fe», Centro de Estudios Políticos y Constitucionales, Madrid, 2000. <<

[9] Hesse, Konrad, «Derecho Constitucional y Derecho Privado», Civitas, Navarra, 1995. <<

[10] Hesse, Konrad, «Escritos de Derecho Constitucional», Fundación Coloquio Jurídico Europeo y CEPC, Madrid, 2012. <<

[11] Müller, Friedrich, «La positividad de los derechos fundamentales. Cuestiones de una dogmática práctica de los derechos fundamentales», Dykinson, Madrid, 2016. <<

[12] Alexy, Robert, «Teoría de los Derechos Fundamentales», Centro de Estudios Constitucionales, Madrid, 1997. <<

[13] J. Schwabe, Die sogenannte Drittwirkung der Grundrechte, págs. 16 ss., 149. 154 ss.; del mismo autor, Probleme der Grundrechtsdogntatik, págs. 213 ss. <<

Capítulo VI

[1] Livingstone Smith, David, «¿Por qué mentimos? Las razones del autoengaño», Op Cit. <<

[2] Feldman, Robert, «Cuando mentimos. Las mentiras y lo que dicen de nosotros», Urano, Chile, 2010. <<

[3] Ariely, Dan, «Por qué mentimos, en especial a nosotros mismos. La ciencia del engaño puesta al descubierto», Ariel, Barcelona, 2012. <<

[4] De Wall, Franz, «Primates y filósofos. La evolución de la moral del simio al hombre», Paidós, México, 2007. <<

[5] Yaking Yang, y otros, «Prefrontal White matter in pathological liars», British Journal of Psychiatry, 187, 320-325, 2005. <<

[6] Spence, Sean A. «Prefrontal White matter — the tissue of lies?», British Journal of Psychiatry, 187, 326-327, 2005. <<

[7] Garrett, Neil y otros, «The brain adapts to dishonesty», Nature neuroscience, 24, October, doi:10.1038/nn.4426, 2016. <<

[8] Un Estado en el que la corrupción está tan generalizada expulsa a los ciudadanos de un estado de confianza general hacia las instituciones que es el apropiado para que las cosas funcionen correctamente y lleva al ciudadano, justificadamente hay que añadir, a un estado de desprecio por una parte y egoísmo inteligente de otra. Por egoísmo inteligente queremos aquí caracterizar aquel egoísmo que no nace del impulso interior, sino como efecto de respuesta a un ambiente de corrupción generalizada en el que el altruismo y confiar en un estado de cosas puede tener efectos contraproducentes. Ese egoísmo colectivo es como dijera Tocqueville «la herrumbre de la sociedad» por ello cuando más corrupción tiene el Estado más herrumbroso se encuentra y menos operativo es. A la postre colocar infinidad de puestos relevantes en manos de ineptos no conduce más que a la incompetencia e ineficiencia generalizadas. <<

[9] North, Douglass C, «La evolución histórica de las formas de gobierno», Revista de Economía Institucional, n.º 2, Primer semestre, 2000. <<

[10] Arendt, Hannah, «Verdad y mentira en la política», Página indómita, Barcelona, 2017. <<

[11] Arendt, Hannah, Op Cit. <<

[12] Voegelin, Eric, «Las religiones políticas», Trotta, Madrid, 2014. <<

[13] Kelsen, Hans, «Religión secular. Una polémica contra la malinterpretación de la filosofía social, la ciencia y la política moderna como —nuevas religiones—», Trotta, Madrid, 2015. <<

[14] https://www.semfyc.es/wp-content/uploads/2020/10/NdP_manifiesto_55sscc_COVID19.pdf (consultado el 12/10/2020). • Estas sociedades científicas, que agrupan a más de 170.000 profesionales sanitarios, emiten un decálogo en el que insisten en cómo debe afrontarse la pandemia en España, siempre basándose «en la mejor evidencia científica disponible, desligada por completo del continuo enfrentamiento político» • Consideran prioritario establecer un protocolo nacional que, sin perjuicio de actuaciones territoriales diferenciadas, establezca criterios comunes de base exclusivamente científica, sin la menor interferencia ni presión política • Dichos criterios deben definir normas generales de prevención, manejo de los pacientes afectados, estrategias de rastreo de los contactos y la gestión de los centros socio-sanitarios, así como la creación de una reserva estratégica nacional de material destinado a la prevención y al tratamiento de todos los afectados • Asimismo, deben ser sólo las autoridades sanitarias, «sin ninguna injerencia política», las que establezcan las prioridades de actuación con respecto a otras enfermedades, cambios organizativos y previsiones adecuadas a cualquier patología, sea cual sea la edad de los pacientes y su nivel socioeconómico • «En nombre de más de 47 millones de españoles, ustedes y sus familias incluidos, tenemos que cambiar ya tanta inconsistencia política, profesional y humana. Las sociedades científicas, en todos los ámbitos de la salud, ofrecemos nuestros conocimientos», concluye el documento • Este colectivo insta a las administraciones públicas a establecer, «a la mayor brevedad posible», un encuentro en el que se aborde el papel que pueden jugar los profesionales sanitarios en la gestión de la pandemia de la COVID-19 • Desde las sociedades científicas que impulsan esta iniciativa invitan al conjunto de la sociedad a sumarse a la misma a través de la petición abierta en la plataforma Change.org. <<

[15] Pagel, Mark, «Conectados por la cultura: Historia natural de la civilización», RBA, Barcelona, 2013. <<

[16] Trivers, Robert, «La insensatez de los necios. La lógica del engaño y el autoengaño en la vida humana», Katz, Madrid, 2013. <<

[17] Ferrajoli hace referencia a la separación entre esfera pública y esfera privada, o sea, entre poderes políticos y poderes económicos. El cauce de esta confusión de poderes lo forman los conflictos de intereses generados por la estrecha alianza entre poderes públicos políticos y poderes económicos privados y por la substancial subordinación de los primeros a los segundos. Ferrajoli, Luigi, «Poderes Salvajes. La crisis de la democracia constitucional», Trotta, Madrid, 2011. <<

[18] Para Sandel, la esencia sería la siguiente. Una economía de mercado es una herramienta, un instrumento valioso y eficaz para la organización de la actividad productiva, en cambio, una sociedad de mercado es un lugar donde casi todo está en venta, donde los valores del mercado empiezan a dominar todos los aspectos de la vida: la vida familiar, la salud, la educación, las relaciones personales, la ley, la política, la vida cívica. Puede verse su disertación en las conferencias TEDH https://www.youtube.com/watch?v=3nsoN-LS8RQ (última visualización 25 de diciembre de 2019). <<

[19] Wolin, Sheldon S., «Democracia S.A. La Democracia dirigida y el fantasma del totalitarismo invertido», Katz, Argentina, 2008. <<

[20] Tirole, Jean, «La economía del bien común», Taurus, Barcelona, 2017. <<

[21] Wooley, Paul, «Por qué los mercados financieros son tan ineficientes y explotadores, y una propuesta de solución», Revista de Economía Institucional, Vol. 12, n.º 23, Segundo semestre, 2010. <<

[22] Stitglitz, Joseph, «Regulación y fallas», Revista de Economía Institucional, Vol. 12, n.º 23, Segundo Semestre, 2010. <<

[23] Ormerod, Paul, «La Crisis actual y la culpabilidad de la Teoría Macroeconómica», Revista de Economía Institucional, Vol. 12, n.º 23, Segundo semestre, 2010. <<

[24] Holmes Stephen, «¿Restricciones liberales al poder privado?: Reflexiones sobre los orígenes y las justificaciones de la regulación del acceso a los medios de comunicación», Isonomia, n.º 26, abril, 2007. <<

[25] Enmienda VI. En toda causa criminal, el acusado gozará del derecho a un juicio público y expedito por un jurado imparcial del Estado y distrito en que el delito se haya cometido; distrito que deberá haber sido determinado previamente por la ley; así como a que se le haga saber la naturaleza y causa de la acusación; a que se le confronte con los testigos que depongan en su contra, a que se obligue a comparecer a los testigos que le favorezcan y a contar con la ayuda de un abogado que lo defienda. <<

[26] Sunstein, Cass R, «La revolución en los derechos: redefiniendo el Estado regulador», Ed Ramón Areces, Madrid, 2016. <<

[27] La cursiva es nuestra. <<

[28] Como argumentara Vilfredo Pareto «si una determinada medida A (llamémosla protección deficiente de la protección de datos personales) provoca la pérdida de un euro a cada una de las personas de un grupo de mil, y una ganancia de mil euros a una sola, ésta última desarrollará una gran cantidad de energía mientras que las primeras se resistirán débilmente; y es probable que al final tenga éxito la que intenta conseguir los mil euros por medio de la medida A». La influencia política en la búsqueda de ganancias económicas es un fenómeno muy real en el mundo en el que vivimos, como nos recuerda Sen. Para hacer frente a estas influencias no sólo hay que oponerse —y quizás incluso desenmascarar— a los buscadores de beneficios en los mercados cautivos, sino también abordar con seriedad sus argumentos intelectuales objeto de estudio. Adam Smith sostenía que los intereses creados tienden a salir ganando porque «conocen sus propios intereses» («no» el interés público a menudo difuso). <<

[29] Vale también decir de los «sensores» ya que la idea es que los sensores se asociaran de forma estricta al titular de los servicios de forma que estos delinearan con total precisión la conducta de las personas en niveles de actividad insospechados. <<

[30] En este sentido señala Norberto Bobbio: «Huelga decir que el control público del poder es mucho más necesario en una edad como la nuestra, en que los instrumentos técnicos de los que puede disponer quien ostenta el poder para conocer capilarmente todo lo que hacen los ciudadanos, están enormemente aumentados, son prácticamente ilimitados. Si he mostrado algunas dudas respecto a que la computercracia pueda ser útil para la democracia gobernada, no tengo la menor duda acerca del servicio que puede prestar a la democracia gobernante. El ideal del poderoso ha sido siempre el de ver todos los gestos y escuchar todas las palabras de sus súbditos (posiblemente sin ser visto ni escuchado) ideal que, por supuesto, es hoy inalcanzable (en Internet, como medio de comunicación, el autor, que publicó su trabajo en 1985, no podría sostener tal afirmación en el momento presente, añadimos nosotros). Ningún déspota de la antigüedad, ningún monarca absolutista de la era moderna, aún rodeado de miles de espías, pudo obtener jamás sobre sus súbditos todas las informaciones que el más democrático de los gobiernos puede conseguir hoy gracias al empleo de los cerebros electrónicos». Bobbio Norberto, «El futuro de la democracia». Ed. Plaza & Janés, 1985, pág. 36-37. <<

[31] Greenwald, Glenn, «Snowden: Sin un lugar donde esconderse», Ediciones B, Barcelona, 2014. <<

[32] Mariette Eléonore y Nicolas Gauvrit, «Pensamiento crítico: más allá de la inteligencia», Mente y Cerebro, n.º 105, noviembre-diciembre, 2020. <<

[33] Desmurguet, Michael, «Cómo las pantallas perjudican el cerebro de nuestros hijos», Especial Cerebros y pantallas, Investigación y Ciencia, n.º 48, 2020. <<

[34] Desmugerget, Michael, «La fábrica de cretinos digitales. Los peligros de las pantallas para nuestros hijos», Ed. Península, Barcelona, 2020. <<

[35] Turkle, Sherry, Mark Fischetti, «El primate interconectado», Cerebro y Pantallas, Investigación y Ciencia, n.º 48, 2020. <<

[36] Carr, Nicholas, «¿Qué está haciendo Internet con nuestras mentes? superficiales», Taurus, Madrid, 2011. <<

[37] López de Matarás, Ramón, «El traje nuevo de la inteligencia artificial», Investigación y Ciencia, n.º 526 Julio 2020. <<

[38] Como señala Searle, ni en los más modernos y depurados sistemas de «simulación», que no hay que confundir con «duplicación» como los sistemas de juego de ajedrez se puede buscar nada que tenga que ver con el razonamiento: «Un computador es un ingenio que manipula símbolos. Hemos inventado formas de electrónica que capacitan al ingenio para manipular los símbolos con gran rapidez, millones de manipulaciones por segundo. En el caso de los computadores que juegan al ajedrez, podemos codificar nuestras representaciones de los movimientos del juego en los símbolos, carentes de significado, del computador. Podemos programar el computador de manera que procese esos símbolos muy rápidamente y, luego podemos hacer que escupa instrucciones que nosotros descodificamos como instrucciones para jugar al ajedrez. Pero el computador no sabe nada de ajedrez, de movimientos, de piezas, ni de nada por el estilo. Se limita a manipular símbolos formales carentes de significado de acuerdo con las instrucciones que le hayamos dado» Searle John R, «El misterio de la conciencia», Paidós, Barcelona 2000. <<

[39] Volatility (V), Uncertatinty (U), Complexity (C) y Ambiguity (A). <<

Capítulo VII

[1] Palomar Olmeda, Alberto, «Comentarios a la Constitución española de 1978», Tomo I, Ed. Aranzadi, Navarra, 2018. <<

[2] García Guerrero, José Luis, «La publicidad como vertiente de la libertad de expresión en el ordenamiento constitucional español», Revista Española de Derecho Constitucional, Año 17, Núm. 50, mayo-agosto 1997. <<

[3] BOE núm. 249, de 16 de octubre de 2019, páginas 113904 a 113905 (2 págs.). <<

[4] Estos datos pueden consultarse en: https://transparencia.gob.es/transparencia/transparencia_Home/index/PublicidadActiva/Contratos/Subvenciones-partidospoliticos.html (consultados 12/10/2020). <<

[5] García-Cruces, José Antonio, «Tratado de Derecho de la competencia y de la publicidad», Tomo II. Tirant lo Blanch, Valencia, 2014. <<

[6] Spooner, Lysander. «An Essay on the Trial by Jury». Boston: Jewett, Proctor, and Worthington, 1852. <<

[7] Winstanley, «El Derecho de la Libertad o La verdadera magistratura restaurada», Salamanca, 1985. <<

Capítulo VIII

[1] Decreto del Gobierno de la Federación de Rusia de 12 de octubre de 2019 No. 1316 «Sobre la aprobación del Reglamento sobre la realización de ejercicios para garantizar el funcionamiento estable, seguro y holístico de la red de información y telecomunicaciones» Internet «y la red pública de telecomunicaciones en el territorio de la Federación de Rusia». http://publication.pravo.gov.ru/Document/View/0001201910210025?index=1&rangeSize=1. <<

[2] Hayes, Ben, «Spying in a see through world: the Open Source intelligence industry», Statewatch Analysis, Statewatch Journal, Vol. 20, n.º 1, January-March, 2010. <<

[3] The National Defense Authorization Act for Fiscal Year 2006 states, «Open source intelligence is produced from publicly available information that is collected, exploited, and disseminated in a timely manner to an appropriate audience for the purpose of addressing a specific intelligence requirement». Expressed in terms of the Army intelligence process, OSINT is relevant information derived from the systematic collection, processing, and analysis of publicly available information in response to intelligence requirements. Two important terms in these complementary definitions are: Open Source, which is any person or group that provides information without the expectation of privacy, the information, the relationship, or both is not protected against public disclosure. Publicly Available Information, which is data, facts, instructions, or other material published or broadcast for general public consumption; available on request to a member of the general public; lawfully seen or heard by any casual observer; or made available at a meeting open to the general public. «Open Source Intelligence», Department of the Army (For official use only, FMI 2-22.9), Washington, DC., USA, 5 December 2006, pp. 2.1-2.7. <<

[4] Los aspectos aquí considerados pueden verse con mayor detalle en: González de la Garza, Luis Miguel, «El nuevo marco jurídico de las Telecomunicaciones en Europa. Redes Sociales especializadas, Neutralidad de la Red y Dividendo Digital», La Ley, Madrid, 2011. <<

[5] Otros ejemplos y escenarios pueden verse en: Deyrup Ivana & Shane Matthews, Co-Directors, «Cloud Computing & National Security Law», The Harvard Law National Security Research Group, October, pp. 3 y ss, 2010. <<

[6] Hamlen, Kevin, Murat Kantarcioglu, Latifur Khan, Bhavani Thuraisingham, «Security Issues for Cloud Computing», International Journal of Information Security and Privacy, 4 (2), April-June, 2010. Puede verse igualmente: Chow, Richard, et al, «Controlling Data in the Cloud: Outsourcing Computation without Outsourcing Control», CCSW’09, November 13, Chicago, Illinois, USA, 2009. Jensen, Meiko, et al, «On Technical Security Issues in Cloud Computing», IEEE International Conference on Cloud Computing, 2009. <<

[7] https://www.ieee.org/about/vision-mission.html. Otras organizaciones internacionales como la ISO, tienen misiones estratégicas equivalentes pero en otros campos, puede verse: https://www.iso.org/about-us.html. <<

[8] https://www.ieee.org/about/corporate/governance/p7-8.html. <<

Comprobando nuestros niveles de credulidad y espíritu crítico

[1] «Pensamiento crítico: más allá de la inteligencia», Éléonore Mariette y Nicolas Gauvrit. Mente y cerebro núm. 105, noviembre-diciembre de 2020, se reproduce con autorización de los editores. <<