Violencia estructural y las tecnologías de la información Structural violence and information technologies

Jorge Mario Rodríguez 

https://doi.org/10.25965/trahs.4850

Este artículo examina la forma en que las nuevas tecnologías de la información hacen posible un tipo de violencia que se basa en el socavamiento de los pilares del comportamiento ético-racional en un sentido integral. Sostiene que dicha causalidad, de tipo estructural, emerge de la conjunción de tres factores. En primer lugar, una disrupción que no solo provoca inestabilidad social y personal, sino que no es compatible con las posibilidades de una reorganización política democrática. En segundo lugar, las tecnologías inducen una progresiva erosión de las capacidades reflexivas del ser humano —un factor que milita no solo a favor de la dispersión de noticias falsas, sino que provoca polarización, conspiraciones y otro tipo de malestares digitales. En tercer lugar, las tecnologías digitales erosionan la ética dado que eclipsan al Otro, un aspecto esencial para la constitución de la subjetividad ética y la acción responsable. De este modo, las redes sociales y las nuevas tecnologías no hacen posible las experiencias éticas fundamentales, lo cual se muestra en las dificultades que encuentra la ética de la inteligencia artificial. Estos argumentos sugieren que el paso civilizacional para evitar los peligros del totalitarismo digital radica en promover el sentido incluyente de comunidad que surge de la conciencia de la relación de nuestra interdependencia con todo el Universo. Los peligros de la tecnología son irresolubles, si se permite que la disrupción que provoca se prolongue de manera incontrolable, razón por la cual es necesario regular democráticamente sus usos, no permitiendo su desarrollo secreto.

L’article que nous présentons analyse la façon dont les nouvelles technologies rendent possible un Nouveau genre de violence dû à l’affaiblissement des fondements du comportement éthico-rationnel, dans un sens integral. Nous soutenons que ce lien de cause à effet, de type structurel, émerge de la conjonction de trois facteurs. En premier lieu, d’une rupture qui provoque une instabilité sociale et personnelle, incompatible avec les possibilités d’une réorganisation político-démocratique. En second lieu, les technologies induisent une érosion progressive des capacités réflexives de l’être humain – facteur qui milite non seulement en faveur de la dispersión de fausses nouvelles, mais qui provoque aussi polarisation, conspirations et autres effets négtifs du numérique. En troisième lieu, les technologies numériques érodent l’éthique dans la mesure où elles éclipsent l’Autre - aspect essentiel à la constitution de la subjectivité éthique et à l’action responsable. Ainsi les réseaux sociaux et les nouvelles technologies rendent impossibles les expériences éthiques fondamentales, ce qui transparaît dans les difficultés rencontrées par l’éthique de l’intelligence artificielle. Ces arguments suggrèrent que la démarche civilisationnelle en vue d’éviter les dangers du totalitarisme numérique repose sur la promotion du sentiment inclusif de communauté qui naît de la conscience du notre interdépendance avec l’Univers, dans sa globalité. Les dangers de la technologie sont insolubles si l’on permet que la rupture qu’elle provoque se prolonge sans contrôle, d’où la nécessité de réguler de façon démocratique ses usages, en interdisant un usage secret.

Este artigo examina o modo como as novas tecnologias da informação possibilitam um tipo de violência que se baseia no enfraquecimento dos pilares do comportamento ético-racional em sentido integral. Sustenta que a referida causalidade, de tipo estrutural, emerge da conjunção de três fatores. Em primeiro lugar, uma ruptura que, além de causar instabilidade social e pessoal, não é compatível com as possibilidades de uma reorganização política democrática. Em segundo lugar, as tecnologias induzem a uma erosão progressiva das capacidades reflexivas dos seres humanos — fator que milita não apenas a favor da disseminação de notícias falsas, mas também provoca polarizações, conspirações e outros tipos de mal-estar digital. Terceiro, as tecnologias digitais erodem a ética, pois ofuscam o Outro, aspecto essencial para a constituição da subjetividade ética e da ação responsável. Dessa forma, as redes sociais e as novas tecnologias não possibilitam experiências éticas fundamentais, o que se mostra nas dificuldades encontradas pela ética da inteligência artificial. Esses argumentos sugerem que o passo civilizatório para evitar os perigos do totalitarismo digital está em promover o senso inclusivo de comunidade que surge da consciência da relação de nossa interdependência com todo o Universo. Os perigos da tecnologia são insolúveis se ela permite que a ruptura que ela provoca continue incontrolavelmente, por isso é necessário regular democraticamente seus usos, não permitindo seu desenvolvimento secreto.

This article examines the way through which the new Information Technologies makes possible a sort of violence resting on the erosion of an integral sense of ethical-rational behavior. It argues that such causality, of a structural nature, emerges from the arrangement structural of three factors. First, it generates a continuous disruption that not only provokes both personal and social instability but also is incompatible with the objectives of democratic political reorganization. Second, technologies induce a progressive erosion of the reflective capacities of human beings—a factor that helps the dispersion of fake news, polarization, conspiracies, and other digital malaises. Third, digital technologies erode ethics because they reduce the experience of the Other, an essential aspect of the constitution of ethical subjectivity and responsible action. In this way, social networks and new technologies hinder fundamental ethical experiences, a fact shown by the very problems faced by Artificial Intelligence’s ethics. These arguments suggest that the path to be followed to avoid digital totalitarianism lies in promoting an inclusive sense of community that emerges from the conscience of our interdependence with the Universe. Technological dangers are insoluble if a disruption occurs uncontrollably; for this reason, it is necessary to regulate democratically its uses and not allow its secret development.

Contents

Full text

Introducción

Note de bas de page 1 :

Gumbrecht hace referencia a la ocasión en que Hegel, profesor en Jena, tuvo la oportunidad de ver a Napoleón, al que llamó “el alma del mundo”, paseándose por la ciudad después de vencer a las tropas alemanas (Gumbrecht, 2020: 18). Es relevante mencionar que Gumbrecht enseña en Stanford University, en las inmediaciones de Silicon Valley.

Note de bas de page 2 :

Itálicas en el original.

Según Hans Ulrich Gumbrecht, si Hegel viviera hoy y tuviera a bien preguntar “dónde está el espíritu del mundo, lo ubicaría al norte de San José y al sur de San Francisco, en Silicon Valley, el centro de la industria tecnológica” (2020:19)1. Esta apreciación es correcta en la medida en que vivimos en “la edad de la disrupción”—para usar la expresión de Bernard Stiegler. Sin embargo, si se sigue a Stiegler, los rasgos de este espíritu se tornan amenazantes y, de hecho, irracionales. Según el pensador francés, en esta época, la condición “automática y reticulada” de la sociedad, “deviene la causa global de una desintegración social colosal” (Stiegler, 2019: 7)2. En la misma dirección, el historiador israelí Yuval N. Harari (2018:6) subraya que la sensación de desorientación y de inminente catástrofe es una consecuencia del mismo ritmo vertiginoso de la disrupción que preocupa a Stiegler. Cada vez se hace más opresiva la sensación de que nos encontramos en un mundo cuyo espíritu no encaja dentro de las perspectivas de sentido que son necesarias para enmarcar la vida humana.

Habitamos un mundo que se rige bajo el mantra de la innovación, un proceso destructivo y sin una dirección racional que, al final, solo conduce a un nihilismo fatal. A medida que las actividades humanas del mundo de la vida al mundo virtual, la identidad digital de los usuarios de la tecnología se configura cada vez más como un conjunto de datos a ser manejados por algoritmos que se han impuesto como directores de la vida en común; estos determinan quiénes somos y lo que podemos ser (Chenney-Lipold, 2017). De manera progresiva, la tecnología configura el libreto inconsciente de nuestra vida con el uso progresivo de algoritmos que, manejados por la inteligencia artificial (IA) hacen ya factible, o quizás inminente, el surgimiento de una Superinteligencia que puede dominar, cuando no substituir, al mismo ser humano (Coeckelbergh, 2020). El mundo que esperamos tiene el signo de la distopía.

La crisis es tan profunda que reflexionar sobre ella demanda traer a la conciencia el apremio de desafíos urgentes que ponen entre paréntesis la misma condición humana en la época digital. Sin embargo, de manera paradójica, la humanidad, adicta a los nuevos artefactos, experimenta al mismo tiempo un proceso de reducción de sus capacidades reflexivas; de manera paulatina se distorsionan las facultades humanas que le han permitido a la humanidad sobrevivir aun en los medios más hostiles. Jacob Ward (2022) ha demostrado que la misma capacidad de elección y decisión, fundamental para la libertad, se va reduciendo progresivamente. Este es un problema que apunta a una tragedia civilizacional, precisamente porque cada vez dependemos más de dichas tecnologías, marcadas por una obsolescencia cada vez más efímera, a costa de la pérdida de capacidades básicas para la reflexión.

En este ensayo se analiza dicha crisis en algunos de sus aspectos más preocupantes. Después de mostrar e ilustrar la tesis de la socavación de nuestras capacidades reflexivas, se presta especial atención a la dimensión social de esta crisis, lo cual permite llegar a las raíces éticas de la problemática analizada. En general, el mundo tecnologizado genera una sociedad que no puede regirse por los valores, precisamente porque crea un ambiente inhóspito para las relaciones humanas concretas de las que surgen dichos referentes axiológicos. Como se ilustrará a lo largo de este ensayo, este mundo imposibilita los rasgos que hacen posibles el viaje reflexivo e integral de la racionalidad humana, particularmente cuando se trata de evaluar los hasta ahora indetenibles avances tecnológicos.

Note de bas de page 3 :

Levinas, quien plantea un uso particular de la fenomenología husserliana, reconoce que en el mismo lenguaje presupone la relación entre el Uno y el Otro. Según Levinas “la relación del Uno y del Otro…es el lenguaje. (2002: 63). La premisa que adicionamos es que el lenguaje puede distorsionarse a través de los medios: la extensión del ser humano, planteada por McLuhan, plantea un olvido de la esencia de la ética.

Se intenta sostener que dicha crisis se debe, entre otros factores, al eclipse digital del Otro. La eclosión de la alteridad ética es un rasgo estructural del orden tecnológico, el cual es inhóspito para el desarrollo integral de la condición humana. Siguiendo algunas de las ideas tempranas de Emmanuel Levinas (2002), consideramos que la relación digital carcome la relación ética, precisamente porque la subjetividad digital, la cual se rige por algoritmos que nos reducen a datos relevantes para configurar perfiles, dificulta el tránsito del propio Yo hacia la relación con la alteridad ética.3 La ética surge como responsabilidad frente a la alteridad ética, una experiencia concreta que no puede ser reducida a algoritmos.

El eclipse del Otro allana el camino para una violencia estructural que se manifiesta de varias maneras, en especial, en una incapacidad de encontrar los caminos de una solución de la crisis multidimensional que enfrentamos. Los algoritmos profundizan nuestras tendencias irreflexivas, generando identidades distorsionadas en las cuales pueden hacer mella las tendencias disgregadoras que hacen posible la desintegración social mencionada por Stiegler. El problema se agrava cuando se aborda el tema de la inteligencia artificial, en la cual se enfrenta una manifestación especialmente ardua de esta tarea, porque se trata de saber cuáles son los parámetros éticos de una inteligencia que causará un nivel de disrupción notable en el mundo que actualmente conocemos. (véase Powers & Ganascia, 2020).

Note de bas de page 4 :

Se puede mencionar el sistema de “crédito social” que se ha querido imponer en China, en donde muchas de las actividades de la población, desde la interacción con amistadas hasta el pago de impuestos, pasando por el registro como conductores, son monitoreadas y evaluadas de manera que se obtenga una especie de número que resume el propio ser social. Véase Bloom, 2019; Mau, 2019. En esta dirección, cabe subrayar la forma en que el control cibernético se incrementó en el mundo a partir de las medidas tomadas en la pandemia del Covid-19, en la cual China también mostró su enorme capacidad de monitoreo de su población.

Es un dato afortunado que cada vez se incrementa nuestra conciencia de las consecuencias distópicas del desarrollo incontrolable de la tecnología informática. Frente a tales peligros, se enfatiza la importancia de una reevaluación de lo humano que debe manifestarse en un afán regulativo de las nuevas tecnologías, las cuales cada vez invaden más nuestra personalidad4. Argumentamos también en favor de un renacimiento de la comunidad, proceso que puede venir de la misma conciencia de la humanidad, la cual rechaza la manipulación de la que es objeto por parte de las nuevas tecnologías y los poderes que las administran.

La anómala condición humana en la era digital

Desde hace un tiempo, y cada vez con mayor frecuencia, se han denunciado los variados efectos contraproducentes de las nuevas tecnologías de la información. Destaca la forma en que los derechos de privacidad y libertad se ven constreñidos por el uso y manipulación de los datos que produce la actividad humana dentro de los sistemas digitales y las redes sociales. Cada vez se evidencian otras transformaciones significativas con respecto a la interacción entre los seres humanos, proceso que a su vez induce mutaciones importantes en la forma en que percibimos el mundo e interactuamos con él.

El mundo parece moverse a una velocidad vertiginosa. Vivimos una liquidez insoportable, que hace imposible, como lo hacía ver Bauman (2006), la fijación de referentes permanentes para guiar nuestra vida. La disrupción rompe las estructuras sociales creando una sensación de incertidumbre en una sociedad que cada vez se encuentra con más personas que no hallan su lugar en un mundo inhóspito, para los planes de largo aliento.

Note de bas de page 5 :

El libro fue originalmente publicado en 1964 y refleja el estado de la tecnología comunicativa de su tiempo, la cual se basaba en la electricidad. Sin embargo, las ideas de McLuhan, como la de la “aldea global”, han ganado mayor tracción con el desarrollo de los medios digitales.

En el fondo de esta crisis se encuentra el desafío de replantear la condición humana en el nuevo ambiente comunicativo de la globalización en clave tecnológica. Hay condiciones nuevas que apuntan a las influencias del medio comunicativo en la condición humana. Estas se evidencian a partir de las ideas acuñadas por el teórico de los medios de comunicación Marshall McLuhan con respecto a su famosa tesis de que el “medio es el mensaje”. Para el autor canadiense, el medio ejerce control sobre “la escala y forma de las asociaciones y acciones humanas” (McLuhan, 1994: 9)5. En consecuencia, la tecnología, en sí misma una expresión de poder, al constituirse en un ambiente ubicuo en el cual se sumergen nuestras subjetividades, las cuales experimentan transformaciones que, por lo demás, dan lugar a problemas que llevan un tiempo en ser reconocidos como tales.

En un sentido relevante, la tecnología debilita al mismo sujeto inmerso en el médium tecnológico. Desde hace un buen tiempo, Nicholas Carr ha denunciado y ha confirmado la pérdida de capacidades que supone la inmersión en el mundo digital en donde la información es tan abundante que no es posible el procesamiento adecuado de ella, lo cual hace que nos volvamos “menos reflexivos y más impulsivos” (Carr, 2020: x). Estamos abrumados por la cantidad de información que simplemente nuestro cerebro no puede procesar.

Vivir en este medio es un hecho catastrófico, debido a que se necesita un mayor nivel de buen sentido para poder tomar camino en medio de los desafíos correspondientes. Se necesita mayor reflexión para percatarse, por ejemplo, de que es inconveniente de que la inteligencia artificial transforme de manea irremediable un mundo que ya está escapando de nuestro control. Los educadores se lamentan del alarmante nivel de distracción que deben vivir dentro de las aulas debido a los aparatos digitales (Lang, 2020). El día en que los humanos pierdan el dominio de sí mismos debido al poder de las máquinas suena cada vez menos como una historia de ciencia ficción y más como una simple predicción de lo que está por venir. De cualquier modo, este género literario ha mostrado su capacidad de anticipación para prevenirnos de los escenarios catastróficos que nos esperan.

Se pueden ampliar los casos de reducción de las capacidades humanas. Por ejemplo, que los seres humanos pierdan su capacidad de concentración es una tragedia, cuando esto sucede a nivel general dentro del ambiente digital. Johann Hari (2022) describe la forma en que el desacoplamiento entre cerebro y tecnología —el cerebro se desarrolló en un entorno no digital— hace que perdamos la capacidad de enfocarnos en nuestras actividades. Las múltiples actividades simultáneas que realizamos en el ambiente digital socavan la capacidad de atención y concentración. Así, la lectura de libros es una actividad cada vez más escasa, de seguro más dificultosa. Hari menciona el dato que, para 2017, la ciudadanía media norteamericana leía un libro durante diecisiete minutos por día, mientras ocupaba más de cinco horas en sus celulares (2022: 79). Las mismas fuerzas de autonomía colectiva concretizadas en formas democráticas pueden ser manipuladas a través de las redes sociales, precisamente en la medida en que la buena actividad política requiere un nivel de reflexión y estudio al cual muchas personas no se sienten atraídas en el ambiente cibernético.

Note de bas de page 6 :

Itálicas en el original.

Uno de los críticos más acuciosos de la transformación digital ha sido el filósofo coreano-alemán Byung-Chul Han. Para este crítico de la condición digital, hemos sido constituidos como paquetes de datos vulnerables a la psicopolítica y al pronóstico (Han, 2022). Este ha notado el progresivo recorte de libertad que suponen los medios digitales. En esta dirección, Han ha criticado la visión de que somos un “proyecto libre” como otra forma de control, “incluso como una forma eficiente de subjetivación y de sometimiento” (Han, 2014: 116). Por otro lado, Jill York habla de la manera en que el ambiente digital genera una limitación de la libertad de pensamiento: estamos literalmente sometidos al control de los designios corporativos del Big Tech. Las grandes plataformas sociales “ejercen control sobre la expresión visual y lingüística de miles de millones de los ciudadanos del mundo” (York, 2022: 6).

Por lo demás, la notable irrupción de los social media ha causado una crisis de conexión entre los seres humanos. A pesar del discurso de conexión social, cada vez nos vemos más aislados (Turkle, 2017). Nos hemos convertido en seres separados, conectados solo por algoritmos fuera de nuestra comprensión. Noorena Hertz (2021) reconoce que los teléfonos inteligentes y los medios digitales contribuyen al problema de la soledad humana, la cual ha sido, en general, apuntalada por las prácticas que caracterizan al neoliberalismo. Pero esta desconexión se manifiesta de mil maneras, en algo tan sencillo como no hablar con nadie concreto cuando necesitamos ayuda; por ejemplo, con asistentes digitales que atienden a los consumidores y que nunca tienen respuestas concretas para sus necesidades.

Asimismo, las redes están configuradas de tal manera que no nos comunicamos con quienes piensan diferente. Los algoritmos refuerzan nuestras tendencias y nos empujan a interactuar más con aquellos que gustan del mismo tipo de cosas y que comparten ideas en común, no necesariamente edificantes. El racismo y el extremismo se multiplican en las redes sociales, como lo muestra el crecimiento notable de la ultraderecha en todas partes del mundo. En consecuencia, la presencia del Otro no se da en su capacidad de interpelación, en su llamamiento a la responsabilidad. Estos procesos se reflejan en la polarización ideológica actual, el cual ha llevado a la peligrosa deriva del autoritarismo a nivel global.

De hecho, parece que ni la terrible pandemia del coronavirus ha dejado huella en la lista de prioridades de la humanidad actual. El saldo es terrible cuando se recuerda que otras pandemias y crisis ambientales se perfilan en un horizonte no muy lejano. De manera lenta, pero implacable, se han ido desplazando algunas ideas racionales de la naturaleza humana. Este proceso es producto de la misma objetivación instrumental de la naturaleza humana, la cual siempre había tenido el carácter misterioso que implica el respeto fundamental hacia el entorno en el que vivimos como seres vulnerables.

Ahora bien, el eclipse de la ética, posibilitada por el paradigma digital de comunicación, plantea violentas regresiones para la comprensión de la condición humana en una época de ilusiones transhumanistas. Dichos retos, que ya no se reducen a la amenaza nuclear, pueden poner la existencia humana en riesgo. Se ha agudizado la conciencia de lo que puede resultar una pandemia planificada y se puede imaginar lo que podría significar una inteligencia artificial fuera de control. Esto sin mencionar el suicidio colectivo que supondría la destrucción del ámbito natural. Estos peligros plantean la pregunta acerca del mismo sentido de la vida humana. Como dice Markus: “debemos y podemos permitirnos reconstruir el orden global en términos de objetivos moralmente justificables, incluso éticamente deseables” (2021b: 25). La ética, en efecto, es clave. No en balde es uno de los problemas que no puede anticipar una resolución relativamente simple en inteligencia artificial, dado que este proyecto mismo debe sujetarse a limitaciones éticas.

Este objetivo requiere reconocer y recuperar los principios éticos que hemos olvidado, debido a la deriva digital que ha penetrado engañosamente en la conciencia pública durante las últimas décadas bajo la creencia insostenible del valor supremo de las innovaciones. Esta creencia, como es de esperar, no es inocente, sino que está impulsada por sectores de poder corporativo, los cuales defienden sus intereses económicos contra cualquier tipo de medidas que beneficien a la generalidad de la población en una época crítica como la presente. Así, es necesario volver a considerar las bases éticas de la conducta humana, siempre actualizando perspectivas que pueden responder a los particulares desafíos que presenta la actual situación.

La imposibilidad de la ética en el mundo digital

No es difícil colegir que el socavamiento de las condiciones reflexivas debe afectar la vida moral del ser humano contemporáneo. Como lo dice Geert Lovink —quien ha estudiado el nihilismo de las plataformas— los “medios sociales están reformateando nuestras vidas interiores” (Lovink, 2019:1). En esa dirección, Han piensa que la comunicación ilimitada y acelerada desarticula la interioridad, es decir, el espacio de la ética, “porque la interioridad obstaculiza y ralentiza la comunicación” (Han, 2014: 22). El achatamiento de las relaciones sociales organizadas por las plataformas del Big Tech no genera la suficiente profundidad reflexiva, en el momento en que la necesitamos con mayor urgencia.

El misterio de la conciencia moral no puede entrar en el cómputo de lo absolutamente observable: la conciencia de los valores puede reinterpretarse dentro del ámbito de la neurociencia. Los valores no existen, sino solo configuraciones cerebrales captadas por dispositivos de neuroimagen; la misma intuición, aprehensión directa de una realidad, no es sino una capacidad compleja de reconocimiento de configuraciones (patterns). Estos pueden ser reproducidos por recursos algorítmicos, dotados incluso de capacidades de aprendizaje que, como se sabe, pueden llevar al dominio de los humanos siempre que estos sigan existiendo en el ambiente epidérmico de las relaciones digitales.

Note de bas de page 7 :

Un aspecto interesante es la serie de denuncias que han revelado cómo los señores del Big Tech mantienen una visión libertaria que no se basa en la reflexión sobre las condiciones de la humanidad en la actualidad. Recientemente, Francis Haugen denunció la manera en que Facebook, ha manipulado las vulnerabilidades psicológicas de los menores de edad, mientras oculta información a sus usuarios y las agencias gubernamentales. En general, Facebook, ahora Meta, se ha creado la fama de ser una compañía que no se preocupa de fomentar el extremismo.

Por otro lado, no puede existir la lógica del reconocimiento que constituye la comunidad. Como lo dice Roberto Simanowski (2018:6) la comunidad de Facebook se basa en un aplanamiento de las relaciones sociales, las cuales alcanzan un nivel de superficialidad que nos afecta a nosotros mismos. Este achatamiento se logra solo con base en la superficialidad en donde se comparte información con las conexiones con las que establecemos relaciones de amistad—en donde la misma plataforma se encarga de recordarnos los aniversarios de amistad de personas con las que quizás nunca hemos interactuado en la vida real7.

La pérdida de los espacios reflexivos del espíritu humano hace que se pierda la capacidad de resistencia. No existe una otredad como anclaje de la interioridad; se genera una ausencia de interioridad cuando la exterioridad y la transparencia se hacen totales. Es una transparencia opaca en donde lo falso y el espectáculo se deslizan sin que apenas sean reconocidas como tales. Desde luego, la otredad se menciona en el secreto, en el plano de las confirmaciones algorítmicas. Se genera un espacio para la normalización de la violencia. Sin embargo, para expresarlo en términos levinasianos, existe una total asimilación de la otredad a la mismidad, proceso que implica una extirpación que solo puede llevar a la violencia, puesto que las estructuras de responsabilidad a la alteridad simplemente desaparecen. La afirmación del propio Yo a costas del Otro no se puede dar en un ambiente en el cual la vivencia del Otro desaparece, en donde la evanescencia de la disrupción lleva al violento nihilismo. La situación es peligrosa por la consecuente confusión de la época presente.

La barbarie de la razón algorítmica se ha realizado. El mundo se organiza según el guion libertado de un grupo de billonarios de Silicon Valley. Sirvió de muy poco la experiencia de los abusos totalitarios del siglo XX para comprender la importancia fundamental de los derechos humanos. Por el contrario, ahora existe un aumento de la violencia política en todo el mundo. El autoritarismo ha regresado, haciendo mofa de los derechos humanos y permitiendo la precarización de las personas, lo cual facilita un modo específico de gobierno de las personas. Como lo dice Gabriel Markus:

Los tiempos oscuros en los que sin duda vivimos, y aún seguiremos viviendo en el futuro, se caracterizan por el hecho de que la luz del conocimiento moral queda parcialmente eclipsada, de forma sistemática, con la difusión de noticias falsas, manipulaciones políticas, propaganda, ideologías y demás concepciones del mundo, por poner solo algunos ejemplos. (2021a : 19-20)

Se han perdido los horizontes del futuro, como lo hace ver Klaus Held (2011), lo cual es significativo, como lo ha puesto de relieve la fenomenología, en virtud de que el mundo es un horizonte de horizontes. En su prólogo al libro citado anteriormente de Gumbrecht, quien por cierto vive y trabaja como profesor en Silicon Valley, René Scheu observa que en “la era digital…el futuro parece cada vez más lejano, incluso inimaginable, solo se vislumbra, si es que llegamos a hacerlo, como un escenario catastrófico” (Gumbrecht, 2020: 13). La pérdida de estos horizontes representa la crisis del mundo actual, en el cual se imposibilita la misma posibilidad de pensar el mundo en la convivencialidad comunitaria, en el mutuo reconocimiento y en la identificación de círculos de acción que garantizan el bien común de manera comprehensiva. El mundo de la vida es más amplio que el mundo digital; si el mundo digital es una creación humana en donde terminaremos de destruirnos, bien valdría hablar de los dioses tontos a los que se refería Hume.

Uno de estos problemas es la manipulación del sistema de internet, los cuales se adecúan a múltiples fines y a diversos tipos de influencia. Recientemente, la revista semanal de The Guardian (7 de septiembre de 2022) subraya la creciente tendencia a que los gobiernos autoritarios cierren las redes para realizar sus actividades ilegítimas. Es una especie, como el semanario lo recalca de “golpe digital”. De este modo, se van generando modos siempre renovados de usar el sistema cibernético para dominar a los ciudadanos. Existe una distancia creciente entre las esperanzas que despertaba el internet hacia principios de este siglo, lo cual alcanzó su cumbre en la Primavera Democrática que se desarrolló al principio de la segunda década de este siglo, y la sombría serie de desafíos, muchos de ellos cínicamente manufacturados por los centros de poder, que se deben enfrentar en la actualidad.

De hecho, mucha gente piensa que va a poder vivir en el metaverso, una nueva realidad que solo se había previsto a través de la puerta de acceso al conocimiento de un futuro disruptivo: la ciencia ficción, casi siempre con un espíritu distópico. Ha sido visto, por ejemplo, como el metaverso es anticipado en novelas como Snow Crash (1992) cuyo autor, Neal Stephenson, por cierto, ha servido como asesor en proyectos relacionados con tecnología de esta nueva innovación. Sin embargo, se cree que este nuevo tipo de actividad digital va a reforzar algunas tendencias negativas que ya se han hecho paradigmáticas del Facebook, como es el caso del crecimiento del extremismo. Recuérdese que el Metaverso aspira a ser un “plano paralelo a la existencia” (Ball, 2022:17).

La pregunta plantea el tipo de ética que se puede tener si no existe el contacto directo con el Otro, el cual debe ser más que un avatar. Pensar que se puede reducir la experiencia ética a un proceso discreto es un síntoma más de la pérdida del mundo. De ahí que en el plano de la existencia inmediata ya empiecen a comprenderse los peligros que vendrán con la inteligencia artificial no controlada.

Este proceso ha causado una particular suerte de percepción errónea de la vida y la sociedad humana por parte de los que manejan el poder del Big Tech. Más aún: los billonarios de la tecnología se ven capaces de tener otra suerte que los simples mortales que no pueden sobrevivir o combatir los males naturales (Rushkoff, 2022). Ellos también, aunque a su propia manera, pueden vivir los efectos devastadores de la tecnología que saludan con un entusiasmo que suena ingenuo. Tal locura es simplemente inconcebible y apunta al nivel de idiotez que se ha instalado en la cúpula de la plutocracia global. Es una condición eminentemente patológica que se alimenta de la riqueza y que es alérgica al control democrático.

La crisis autoritaria que actualmente vive el mundo no es un acontecimiento peregrino, sino que se deriva de la polarización de las redes y la desafección de la política como praxis humana. No sorprende que los grupos de ultraderecha tomen ventaja de las oportunidades negativas que usan los medios, como sucede con la guerra cibernética al nivel cultural. Los prejuicios que alimenta la política del desprecio no necesitan ideas elaboradas y complejas, sino simples eslóganes. En un mundo carcomido por la desaparición de la ética y las fake news, los mensajes de la ultraderecha encuentran el mejor ambiente para desarrollarse a espaldas de cualquier conciencia democrática.

Las raíces de una violencia ubicua

Note de bas de page 8 :

Una relación interesante entre nihilismo y tecnología ha sido establecida por el recientemente desaparecido filósofo italiano Emanuelle Severino, quien plantea el asunto en el deficiente entendimiento del ser que ha influenciado a la cultura occidental. Este pensador (2011) critica la creencia de que la tecnología es un mero instrumento: su argumento descansa en la premisa de que las diferentes corrientes usan la tecnología para imponerse y, al proceder de ese modo, impiden que sus propios valores debiliten su poder. De este modo, la tecnología no se convierte en un medio para un fin, sino en un fin en sí mismo. La tecnología se convierte en poder en sí mismo, dado que no está subordinada a ningún tipo de valores.

Las reflexiones anteriores vinculan la condición humana actual —inmersa en un médium corrosivo de la personalidad moral necesaria para la vida en común— con un tipo de violencia que se introduce en las fibras de todo el orden social, hasta formatear los detalles más minúsculos de nuestra vida. El tipo de violencia que ahora nos inunda y ahoga es ese “nihilismo automático” que destruye la vida social “como una bomba de neutrones” (Stiegler, 2019: 7)8. La razón estriba, como se ha visto, en la velocidad del tiempo disruptivo, el cual imposibilita la permanencia que hace posible la reflexión.

Afortunadamente, ya hemos identificado la secuencia acelerante de las cambiantes estructuras, lo cual nos hace recuperar la capacidad de anticipación. Ya hemos tomado conciencia de que las tecnologías se aprovechan de la vulnerabilidad de los humanos, haciendo que el mundo social y el subjetivo se vayan degradando. Para el Big Tech, somos entes sometidos a una vigilancia incesante; nuestra vida puede perfilarse a partir del procesamiento de los datos, vale decir huellas, que dejamos en el omnipresente medio digital. Como lo dice Carissa Véliz (2020:11), “[r]ecuperar la privacidad es la única manera de que podamos asumir de nuevo el mando de nuestra vida y de nuestras sociedades”.

Las múltiples crisis a las que nos referimos se reflejan en plurales formas de violencia cotidiana, las cuales, a su vez, se van incrementado en las manifestaciones más grotescas. Dean Cocking y Jeroen van Den Hoven, (2018) ofrecen una multitud de ejemplos que muestran cómo la organización algorítmica del medio digital lleva a inéditas formas de violencia como el acoso en línea, los suicidios públicos, la preparación de actos criminales — como asesinatos en masa. Esta situación empeora por la creciente adicción a la tecnología disruptiva. Las agencias que combaten la delincuencia, por ejemplo, se ven rebasados por las nuevas formas de criminalidad que se aprovechan de la ignorancia general de los medios. Por otro lado, lograr la ansiada seguridad, siempre concebida de forma estrecha, hace que la privacidad, la libertad y la falta de control sean una quimera casi imposible de recuperar.

Se puede hablar, en consecuencia, de una regresión que afecta a la vida civilizada en el planeta. El odio se calienta en las redes sociales, pero se derrama a los espacios de la vida de la calle. Facebook ha sido acusado por las Naciones Unidas de haber contribuido a uno de los peores genocidios después de la Segunda Guerra Mundial (Fisher, 2022: 5). Parece que estamos cayendo en otra etapa de barbarie, y como es de esperar, apuntalada por nuevas formas de violencia que apenas tenemos tiempo de examinar bajo la presión de la disrupción del mundo con el objetivo de extraer datos y atención de los incautos usuarios de las plataformas sociales. Sin embargo, la empresa de Mark Zuckerberg, ahora llamada Meta se empeña en crear el Metaverso, una empresa que previsiblemente exacerbará el divisionismo ya inducido por Facebook. En suma, sumergimos nuestra vida en un medio que ahoga lentamente las mismas posibilidades de una vida pacífica y digna para la mayoría de la humanidad.

Se puede, en consecuencia, hablar de una violencia estructural, un tipo de violencia incorporada en las formas sociales, especialmente las contemporáneas, cuya digitalización inicia un proceso de deshumanización que se manifiesta en la manipulación infinita de la condición humana. Los algoritmos que guían nuestra vida no son asépticos en la medida en que niegan la eticidad de la vida; las cortapisas derribadas por la implosión digital generan un ambiente propicio para erupciones de violencia sin sentido. Asimismo, el sufrimiento que provoca el cansancio, la soledad, la depresión y la creciente incapacidad de buscar un nicho en un mundo agreste hacen implosionar a muchas personas y sociedades.

Por esta razón, es necesario incursionar por algunos campos que exponen la arquitectura fundamental que se encuentra detrás de una violencia que subyace a un aumento de las expresiones que se aceleran a través de los medios de comunicación y que también subyacen a una política abiertamente regresiva. Como lo revela Han (2016: 9), la violencia actual “deja lugar a una violencia anónima, desubjetivada y sistemática que se oculta como tal porque coincide con la misma sociedad”. Se podría decir, en los términos de este trabajo, que las condiciones en que se vive actualmente no permiten el desarrollo de experiencias éticas fundamentales para la constitución de la misma subjetividad que supone la responsabilidad frente al Otro.

La violencia de las redes envenena la praxis política. Desde luego, esas condiciones pueden ser transformadas por la acción política reflexiva. Sin embargo, ha sido la ultraderecha la que ha sabido manejar con mayor destreza las redes sociales para impulsar sus narrativas. Según Forti (2021:152), la ultraderecha ha comprendido que “deconstruyendo la realidad compartida y sembrando confusión se puede polarizar aún más la sociedad y sacar provecho a nivel electoral”. Así, debe tomarse plena conciencia de los efectos de violencia política que genera la interrupción de la relación ética, proceso que permite la construcción de una narrativa distorsionante del que piensa diferente. Y tampoco puede ignorarse que este tipo de acciones encuadra con el absoluto desprecio de la vida que ha sido el sello que distingue a las acciones de los agentes de poder económico del mundo.

En este contexto de violencia profunda, estructural, se alimentan nuevos tipos de violencia, como el hecho de que algunos grupos del crimen organizado, dominantes en algunos países de América Latina, tengan rituales que espantan a la población. En cierto sentido, el miedo se convierte en pavor frente a la violencia que se desarrolla a partir de la amplia difusión de imágenes de ejecuciones, de asesinatos y otro tipo de acciones sangrientas que se presentan en las redes sociales.

Note de bas de page 9 :

Este enfoque autoritario del derecho penal ha sido desarrollado por el penalista alemán Günther Jakobs. En este se hace la distinción entre el ciudadano que comete “errores” y el enemigo que quiere destruir el sistema. Estos no pueden ser tratados como ciudadanos y, por lo tanto, deben ser “neutralizados”, un proceso que no conlleva el respeto de ningún tipo de derechos.

En consecuencia, se han perdido los referentes de una vida en común que puede ser la solución para esta crisis multidimensional que los centros de poder corporativo no toman con la seriedad debida. La atomización de la comunidad humana nos hace más vulnerables. La desigualdad hace posible la manipulación de las oportunidades de una vida en común. Creamos riegos y ni siquiera somos capaces de prevenirlos, aunque tenemos los medios. Las agencias encargadas de mantener la seguridad aprovechan esto, no para atacar estructuras sociales y políticas caducas, sino para aumentar la represión contra una sociedad bajo vigilancia. Muchas veces se utiliza el denominado “derecho penal del enemigo”, como enfoque para afrontar los problemas de “seguridad” cuando el desafío se debe resolver con medios estructurales9. Al final, estas son expresiones de una gobernanza del miedo y la precariedad.

Vivimos la época de la violencia digital; esta se reproduce en episodios de agresividad más inmediatos, menos remotos; en ellas opera una falta de escrúpulos que cada vez se hace más evidente. Las redes alojan, multiplican y diseminan los discursos de odio; la polarización lleva a explosiones de violencia que se naturaliza y deja sin caminos a las nuevas generaciones que crecen sin los referentes éticos necesarios para la acción política con sentido. Las consecuencias de esta barbarie ponen en riesgo las conquistas normativas de la humanidad.

Los mensajes terroríficos, los videos de sus crímenes inhumanos, están a un clic de la mano de un pequeño que puede engancharse a experiencias distorsionantes que dejarán huella en su personalidad. Mientras tanto, nos habituamos a vivir en sociedades con el discurso del odio y la exclusión. El mismo discurso identitario ha perdido sus capacidades críticas, puesto que no captura el signo cosmopolita del tiempo actual, y hace posible el cierre hacia una de las figuras extremas de vulnerabilidad del presente: el migrante. De hecho, el discurso identitario ha sido usado para avanzar las agendas de supremacistas blancos en los Estados Unidos, los cuales “aspiran” a la creación de un Estado blanco, proceso que implica una victimización espuria que no puede igualarse con la necesidad de reparaciones que pueden animar ciertos movimientos sociales que han experimentado un racismo histórico.

La pregunta que se plantea es si podrá sobrevivir la humanidad, al menos al nivel razonable que exige la dignidad de los seres humanos, quienes también deben considerar el medio natural en el que habitan y alimentan su frágil existencia. Sin embargo, se necesita la comunidad de reconocimiento ético, la cual debe ampliarse para englobar al mundo natural del que formamos parte, en realidad como una colectividad de reconocimiento mutuo. Vivimos una patología sistémica de la capacidad de reconocimiento. Es necesario, por lo tanto, empezar por proteger la comunidad, lugar de reunión y nunca de exclusión, de las fuerzas centrífugas del neoliberalismo digital.

Es necesario, por lo tanto, replantear nuestra comprensión de la violencia tecnológica en la que nos hemos sumergido a través de una reflexión incesante sobre el medio digital en el que nos hemos instalado de una manera que parece definitiva a algunos. El ser humano debe recuperar decidir las formas en que puede articular su futuro; nunca debe olvidarse que la reflexividad, escamoteada por la irrupción de transformaciones disruptivas que cada vez son menos invisibles, es el rasgo esencial que puede salvar a la humanidad. Es la única capacidad que puede hacernos reconocer el camino sin salida que algunos consideran ya es inevitable e ineluctable, pero que no ofrece una solución realista para la solución de los problemas del Antropoceno, cuya presencia es simplemente ignorada por muchas personas porque no estamos capacitados para procesar peligros complejos en una etapa de aceleración sin sentido.

La única manera de cambiar es no ceder ante la inevitabilidad de la disrupción y su organización del mundo que impone la gobernanza digital basada en las concepciones de Silicon Valley. No se debe olvidar lo que un capitalismo sin reglas fue capaz de hacer, y no se debe ignorar lo que el capitalismo de las plataformas puede hacer si no se le regula de manera inmediata. Estamos literalmente en la dictadura de las grandes corporaciones. Nada es inevitable en un mundo que no puede articular sus horizontes de futuro porque se encuentra detrás del sistema innovativo que plantea cambios ya realizados antes de que se tenga una opinión sobre ellos. Es necesario resistirse a vivir en un mundo alternativo en el que solo podemos vivir el remedo de una existencia. Por lo tanto, es necesario articular una respuesta vigorosa de las sociedades para que las corporaciones, digitales o no, se encuadren dentro del respeto a los derechos humanos, incluidos los derechos emergentes, para abortar el camino de destrucción al que nos dirige tanta irresponsabilidad.

Pero tampoco debemos evitar el camino de las regulaciones democráticas, aunque se sepa de antemano las infinitas maniobras con la que la plutocracia mundial evade cualquier tipo de regulación orientada al bien común. Cada vez gana más adeptos la agenda de someter a reglas racionales a los nuevos señores feudales del Big Tech. Por ejemplo, en los últimos anos, las autoridades respectivas en Europa han impuesto multas por 8,000 millones de euros por abusar de su dominio en el mercado digital (Manganelly & Nicita, 2022:12). China, involucrada en una guerra digital con los gigantes norteamericanos y siguiendo su particular capitalismo de Estado, también presenta la necesidad de regulaciones con redes como Alibaba y Tencet, especialmente ante el recrudecimiento de la vigilancia de sus ciudadanos.

Así, de manera paulatina van surgiendo medidas que tratan de poner límites a lo que se puede hacer en el medio digital. La Unión Europea, de nuevo, ha tomado varios pasos en este sentido, como es el caso de la promulgación de la Declaración Europea sobre los derechos y Principios Digitales para la Década Digital (2021). Estas declaraciones de derecho se han multiplicado en países como España y Portugal. Del logro de estos objetivos depende que se posibilite, por fin, una discusión global acerca de la pérdida de las capacidades reflexivas de una sociedad que necesita colocarse a la altura de los tiempos actuales. Las medidas de la Unión Europa, finalmente, han ganado tracción en los Estados Unidos, sede de estas plataformas monopólicas. En el 2020, se dio un momento álgido en los intentos por controlar las pocas plataformas que controlan nuestra vida, con especial atención a las conocidas maniobras de Facebook (Reich, Sahawi & Weinstein, 2021: 252). En este contexto, se han oído promesas de reencauzar el camino y declaraciones de que no se había previsto las consecuencias negativas de tales desarrollos. La pregunta cae por sí misma: ¿Entonces por qué se sigue celebrando con entusiasmo cuasi religioso las innovaciones disruptivas que parecen el fin per se del impulso tecnológico?

Deben, sin embargo, redoblarse los esfuerzos de una sociedad que gana mayor capacidad de anticiparse a las consecuencias de la creación destructiva digital. No es difícil, en este momento de la crisis, prever cuáles serán las consecuencias de permitir la deriva tecnológica sin un control democrático. Para alcanzar el objetivo de la resistencia democrática se deben recomponer los vínculos comunitarios, en los que se despliegan las condiciones de posibilidad de una ética verdadera, basada en el contacto concreto con la alteridad; pueden llevar a una recuperación de los espacios que permiten la reflexividad en común y siempre en sintonía con el Universo del que formamos parte. No desaparecerán, pero es necesario buscar nuevos mecanismos de recuperación de las capacidades reflexivas de la educación.

Es mejor que retomemos las enseñanzas de la vida reflexiva, la vida examinada, y no que perezcamos en un sueño tecnológico que cada vez aumenta su falta de sentido. No se puede seguir desfilando, hipnotizados por las gratificaciones momentáneas, en una auténtica marcha hacia la muerte espiritual, lo cual también llevaría a la aniquilación de un mundo que alguna vez admiramos y que no pocas veces añoramos. No podemos existir como seres superficiales que pueden cometer los mismos errores en una época en la cual la capacidad de destruir las estructuras de la vida se hace ciega ante la arrogancia humana.