El problema de creernos libres en una sociedad digitalizada — Retos éticos y sociales

25 febrero, 2020

El precio de cualquier cosa es la cantidad de vida que ofreces a cambio.

Henry David Thoreau

 

Recientemente, un programa de televisión con gran audiencia, Late Motiv, empezaba una entrevista recuperando el escenario del célebre libro ‘1984’. Una de las obras literarias de ciencia ficción más citadas y referenciadas, cuyo recuerdo crece a medida que avanzamos hacia el supuesto futuro. El presentador, Andreu Buenafuente, utilizaba esta obra distópica para presentar a la periodista Marta Peirano, autora de «El enemigo conoce al sistema» (Debate, 2019). Es inevitable encontrar similitudes entre la creatividad literaria de Orwell tras la publicación de Gran Hermano en el 1949, y el control social desde la tecnología en el 2020.

El conductor de Late Motiv, Andreu Buenafuente, alertaba al público de que posiblemente dejarían de reír una vez finalizara la entrevista. Seguramente fue cierto. El terreno desalentador era propiciado por la apertura del telón de quién está detrás de nuestra adicción a las pantallas. Marta Peirano ofrecía una visión crítica bajo un rigor experto y documentado sobre el uso de la tecnología y la inteligencia artificial en una sociedad digitalizada que se transcribe a través los datos.

 

— LATE MOTIV | Marta Peirano. El enemigo conoce el sistema | #LateMotiv657

 

Con 16 minutos de entrevista solo se podía intuir la gran cantidad de información que contiene la obra «El enemigo conoce al sistema. Manipulación de ideas, personas e influencias después de la economía de la atención». Libro que, por cierto, recomendamos muchísimo, y que intentaremos resumir, si se puede, en cinco grandes titulares:

 
  • La red no es libre, ni abierta, ni democrática. El enemigo conoce el sistema pero los usuarios no. Estamos sumergidos en un sistema digital en el que confiamos y que no sabemos cómo opera.
 
  • La economía de la atención o el capitalismo de vigilancia gana dinero consiguiendo nuestra atención. Como más datos generes, más valor obtiene su banco de datos.
 
  • Las aplicaciones están diseñadas como tragaperras con el fin de generar adicción, consiguiendo consecuentemente un incremento de información y datos.
 
  • Los datos emitidos por los usuarios de la tecnología y los dispositivos digitales derivan en un gran poder de vigilancia y control social aparentemente invisible que alimenta algoritmos y sistemas de futuro.
 
  • La vigilancia es una herramienta para la predicción social, económica, política, democrática… y la predicción es una herramienta para la manipulación, que está en manos de grandes corporaciones con objetivos privados.

 


 “Sobretodo, las grandes plataformas utilizan estos datos para alimentar algoritmos predictivos e inteligencia artificial. Es decir, nuestros datos individuales valen muy poco (…), pero lo importante es el valor colectivo de todos los datos. Los algoritmos lo que hacen es predecir todo. Su trabajo en realidad es el futuro. Su economía es el futuro.”

— Marta Peirano 

 


 

Marta Peirano manifiesta especial énfasis en la gran exposición de los datos de los usuarios y el acceso de las grandes corporaciones a ellos. Los móviles y los dispositivos inteligentes lo dicen todo de nosotros: qué compramos, qué nos pasa, dónde estamos, etc. Un mal uso de estos datos podría derivar en un control exhaustivo de la sociedad, a una manipulación masiva o a una discriminación social elevada, por ejemplo, una distinción de privilegios en la sanidad privada. O bien, a una manipulación social y política, como el escándalo de Cambridge Analytica que, sorprendentemente, no ha tenido la repercusión que quizá se merecía. ¿Qué tipo de sociedad digital podemos esperar con estas premisas?

 

Esta entrevista a Marta Peirano en Late Motiv se podría conectar con la reciente noticia sobre Idealista y 6 plataformas inmobiliarias más expedientadas por una supuesta irregularidad en sus algoritmos, que provocan (de forma intencionada) la subida del precio del alquiler y fomentan la burbuja de la vivienda. Una crisis alarmante que todavía no tiene solución. Una vez más, si esto fuera cierto, detrás de estas plataformas digitales existe un conjunto de decisiones que sólo contemplan el beneficio individual por encima del bienestar colectivo, vulnerando uno de los derechos más fundamentales: el derecho a una vivienda digna. No hay discusión alguna que está sobre la mesa un reto ético y social. Un ejemplo más, del mal uso de la tecnología y la inteligencia artificial cuando está en manos de corporaciones privadas. El capitalismo digital opera con unas leyes de un mercado depredador. ¿Qué papel tiene la ética en este escenario?

 

Como afirma Miquel Seguro, profesor colaborador de los Estudios de Artes y Humanidades de la UOC, en una entrevista en UOC News: «La inteligencia artificial no es neutral, responde a intereses». Se calcula que en 2025 el mercado de la inteligencia artificial (IA) alcanzará los 52.700 millones de euros, más de lo que se invierte hoy. Miquel Seguró define en esta noticia de UOC News los cuatro retos éticos principales de la Inteligencia artificial

 
1. La inteligencia artificial responde a unos intereses y a unos usos, y son estos los que hay que definir.
2. Detrás de cualquier tipo de artificio que se genere existe la responsabilidad humana.
3. De tipos de inteligencias hay muchas: habría que definir qué tipo de inteligencias queremos generar.
4. Es necesario concretar el uso político que se va a hacer de esta inteligencia y quién va a vigilar que se use de manera equitativa.

 

 

Una parte de la sociedad es consciente que detrás de las plataformas digitales gratuitas o con precio reducido se esconde un interés en base a la acumulación de los datos de quienes las usan. Todas estas complejidades relativas al terreno digital presentan un debate abierto que todavía está por responder.  El artista Juanjo Sáez, recientemente, planteaba una reflexión crítica en su red social sobre el hecho que alimentamos de forma indiscriminada a un sistema de redes, regalamos contenidos, y no nos damos ni cuenta. ¿Cuál es el precio de la capitalización de nuestras identidades digitales y sociales? 

 


“En definitiva, los únicos que ganan son los dueños de las redes sociales. Les estamos ofreciendo contenido gratis, horas de trabajo y talento, a cambio de alpiste para el ego. Yo caigo igual que todos, estoy enganchado a las tragaperras del like.”

— Juanjo Sáez


 

Este comportamiento se genera buscando la ansiada visibilidad, la notoriedad y el reconocimiento social, en este caso del artista, pero se puede extrapolar en cualquier disciplina. Juanjo Sáez proponía, finalmente, una desconexión digital concretada en una fecha, como forma de manifestación ante la tiranía de las redes sociales. 

 

¿Qué pasa si lo hacemos? Las redes sociales no sólo tratan de crecer a partir de los usuarios que las utilizan, también penalizan aquellos que no las alimentan, invisibilizando parte de su identidad digital. La invisibilidad digital también es penalizada en la sociedad actual. Por ejemplo: Rechazan un guión porque su creador tiene pocos seguidores en redes: ‘Avísanos si los aumentas’”. Y no sólo son las redes sociales las que penalizan si no estableces los comportamientos que se premian, también google y los motores de búsqueda tienen el poder de darte visibilidad, pero con una premisa muy clara: si reproduces los contenidos bajo los criterios que ellos han establecido como correctos o prioritarios. Con Google creemos que encontramos lo que buscamos, pero es un algoritmo que escoge por nosotros en base a nuestro “deseo de encontrar”. No somos libres, ni en la forma de mirar, ni en la forma de ser vistos, ni tan siquiera en la forma de ser (en sentido virtual y existencial). ¿Y entonces? Esa aparente libertad de acción no es más que una red donde nos han permitido movernos, pero los hilos no son nuestros, no nos pertenecen. 

 

El filósofo Byung-Chul Han, una de las figuras claves para el pensamiento crítico actual, defiende que no existe dominación en un sistema donde el individuo se explota a sí mismo por voluntad propia. En su obra “La sociedad de la transparencia” (Herder, 2013) presenta un panóptico digital donde no hay ningún afuera. Como él mismo expresa:

 


“El explotador es, a la vez, el explotado. El actor y la víctima coinciden. La propia explotación es más eficaz que la explotación extraña, pues va acompañada del sentimiento de libertad.”

— Byung-Chul Han


 

En esta era digital, se propicia de forma estructural una sensación de libertad cuya dialéctica se encuentra también en la base de la sociedad del control. Hay una violencia sistémica interiorizada por el propio individuo que la ejerce él mismo contra sí mismo en un totalitarismo invisible. Una libertad individual que es, a su vez, esclavitud. 

 

En el primer apartado del libro “Psicopolítica. Neoliberalismo y nuevas técnicas de poder” (Herder, 2014), Byung-Chul Han profundiza sobre la crisis de la libertad. En concreto, aborda un análisis sobre la explotación de la libertad, la dictadura del capital y la dictadura de la transparencia. Tres ejes que se interrelacionan e interpelan al individuo de la sociedad digital actual. En esta obra Byung-Chul Han establece un paralelismo entre el panóptico benthamiano y el panóptico digital. Siendo el primero característico por aislar a los reclusos (sin comunicación entre ellos) con objetivos disciplinarios, mientras que en el panóptico digital, la comunicación entre usuarios es clave y la transparencia de la intimidad es voluntaria. 

 

 

 


La sociedad del control digital hace un uso intensivo de la libertad. Es posible solo gracias a que, de forma voluntaria, tienen lugar una iluminación y un desnudamiento propios. El Big Brother digital traspasa su trabajo a los reclusos. Así, la entrega de datos no sucede por coacción, sino por una necesidad interna. Ahí reside la eficiencia del panóptico.”

— Byung-Chul Han


 

El filósofo establece especial atención al hecho que el Big Data permite hacer pronósticos sobre el comportamiento humano, siendo el futuro predecible y controlable, como también manifiesta Marta Peirano. ¿Para quién? ¿A quién pertenece el futuro?

 

Por supuesto, en “Psicopolítica” era necesario un capítulo dedicado a la obra 1984. Como el mismo filósofo expresa, la diferencia entre la realidad del Big Brother de Orwell con la realidad actual del panóptico digital radica en esa aparente libertad y comunicación sin fin. Él lo llama Big Brother amable: “Aquí no se tortura, sino que se tuitea o postea.”. Y precisamente la esencia se encuentra en esa ausencia de hostilidad aparente. El smartphone, dispositivo inteligente, es la sustitución de la cámara de tortura y de los organismos que ejercen el poder a partir de la fuerza y la violencia. En esta amabilidad se encuentra el sentimiento de libertad o la libertad sentida, anulada en el “Estado vigilante” de Orwell. Y precisamente es un problema que deriva en terrenos sociales, éticos, políticos y económicos. 

 

El problema de sentirnos libres en una sociedad digitalizada
Photo by Matthew Henry on Unsplash

 

El problema de creernos o sentirnos libres en una sociedad digitalizada, no es sólo que nos optimizamos, nos convertimos en productos y consumidores a su vez, asumiendo las coacciones de un sistema de poder de forma voluntaria. Ni tampoco se trata solamente del hecho que regalemos datos de forma indiscriminada a merced de un sistema capitalista neoliberal. Es precisamente la sensación de libertad el conflicto.

 

Prácticamente desconocemos (o ignoramos) cómo operan, sus objetivos en el desarrollo de los algoritmos y la inteligencia artificial, ni tampoco las posibles consecuencias. A partir de la voluntaria transparencia, alimentamos un sistema de vigilancia, de datos y manipulación del tiempo posterior. Permitimos la colonización de nuestra existencia y de las estructuras sociales con fines privados o especulativos, bajo una permisividad sin precedentes de lo que puede ser el futuro. El problema de creernos libres en una sociedad digitalizada es que no somos conscientes de qué tipo de sistema nos está explotando y qué líneas de futuro está diseñando con nuestro comportamiento.

 

Un reto ético y social está en el presente de la sociedad digital contemporánea y en los sistemas de vigilancia, poder y control. Como afirma Byung-Chul Han: “La nueva concepción de poder no consiste en el control del pasado, sino en el control psicopolítico del futuro.”  

 

Sobre el autor

Comentarios

Deja un comentario