Por Por Martín Ariel Gendler (IIGG/CONICET/FSOC/UBA)
¿Subyugarse o resistir?
Desde la década de 1970, la expansión exponencial de Internet y de las Tecnologías de la Información y Comunicación (TIC), especialmente las Tecnologías Digitales, se ha hecho cada vez más presente en todos los ámbitos y esferas de la vida social.
Esto ha generado enormes cambios tanto a nivel de la configuración económica, política y cultural de nuestras sociedades como también en nuestras formas de informarnos, de comunicarnos, de entretenernos, de trabajar, de realizar todo tipo de trámites, de crear, mantener y modificar nuestros lazos sociales y nuestra forma de construir comunidad. En síntesis en nuestras formas de sentir, pensar y actuar.
Tecnofilia y Tecnofobia
Así, se han generado y desplegado una serie de posicionamientos, reflexiones, acciones y construcciones teórico-prácticas acerca de que implica el avance, penetración e imbricación de estas Tecnologías Digitales e Internet.
Por un lado, los posicionamientos Tecnofílicos (amor por la tecnología) que ven en las Tecnologías Digitales una oportunidad, un logro y a la vez mecanismo del progreso de la humanidad y sobre todo una solución. Solución a todos los diversos problemas que aquejan a nuestras sociedades y culturas, objetos técnicos que no sólo han venido para quedarse sino para salvarnos.
Estas posiciones han motorizado un aluvión de discursos, prácticas y políticas públicas centradas en la incorporación de las tecnologías en los diversos ámbitos (como la educación, el trabajo, la salud, los transportes, las ciudades, entre un gran etcétera) entendiendo que no sólo es necesario modernizar estas esferas, sino que la presencia de estas tecnologías generaría cuasi por su mera incorporación un cambio rotundo de paradigma de concepción y organización de dichos ámbitos en pos de volverlos ámbitos del progreso y del futuro en el hoy.
Por otro lado, actualizando diversas tradiciones históricas, los posicionamientos Tecnofóbicos (fobia por la tecnología) que consideran al avance de las Tecnologías Digitales e Internet un gran peligro para los puestos laborales, para la democracia, para nuestra adquisición de habilidades, para la educación, para la libertad, para los lazos sociales tradicionales, para los parámetros culturales, para la humanidad en sí misma y en definitiva para la concepción de la vida tal y como la conocemos.
Aquí las tecnologías, también cuasi por si mismas, no sólo no vienen a salvarnos sino a condenarnos, a quitarnos nuestros trabajos, a quitarnos nuestros saberes, a adormecer nuestra mente y nuestro sentido crítico, a volvernos sujetos inútiles y fofos que “se la pasan todo el día mirando una pantalla”, a controlarnos, a generar peligros nuevos como el cyberbulling, el fraude electrónico, el cyber-acoso, los mal llamados “hackeo” y “piratería”, entre otros.
¿Cómo vivimos Internet?
Como mencionamos anteriormente, la penetración de Internet y de las Tecnologías Digitales no sólo ha modificado nuestra sociedad y generado posiciones sobre su impacto sino que también abre la ventana a pensar cómo continuamente vamos cambiando nuestra forma de interactuar y de construir lazos y relaciones sociales.
Aquello que por fines de la década de los 90’s Manuel Castells llamaba “Comunicación Mediada por Computadoras”[1] donde ahondaba en la posibilidad de comunicación diferida, el poder jugar la carta del anonimato, el aprendizaje colaborativo y nuevas formas de desplegar nuestra sociabilidad, ha ido mutando poco a poco pero aceleradamente.
Hoy no sólo gran parte de nuestras interacciones, consumos, entretenimientos, inquietudes, trabajos, etc. pasan por Internet a través de nuestras tecnologías digitales, sino que cada vez lo realizamos en un menor número de ámbitos (y de forma menos anónima).
Según un informe de la Cámara Argentina de Internet (CABASE)[2] el 80% del tráfico de flujo de datos, es decir, de nuestra actividad en Internet se encuentra concentrado en tres familias de empresas: Netflix, Facebook (que incluye WhatsApp e Instagram) y Google (que incluye su buscador, Youtube, Gmail, Google Drive, entre muchos otros). La tendencia a nivel mundial muestra parámetros similares o incluso aún más concentrados.
Es decir, frente a la enorme multiplicidad de posibilidades a la hora de realizar nuestras vidas en Internet, que cuenta con más de 1240 millones de sitios Web a nivel mundial[3] y múltiples y variadas opciones y alternativas; nuestras prácticas, subjetividades e interacciones transcurren mayormente en la materialidad digital de estas empresas privadas extranjeras que se hacen llamar “plataformas” como si solo fueran un canal o autopista por el cuál circula la información.
Una de las particularidades que tienen estas empresas (junto a muchas otras) es la utilización de un mecanismo de mediación, organización, presentación y modulación de las informaciones y contenidos, de nuestros gustos, de nuestros consumos, de nuestros contactos para interactuar.
Estamos hablando, claro está, de los archinombrados algoritmos.
Acompañamiento algorítmico
Desde las ciencias de la computación, un algoritmo podría pensarse en parte como una fórmula o método “para hacer cualquier cosa”. Es decir, una serie de instrucciones que realicen ciertas operaciones a partir de diversos elementos de entrada contemplados de antemano.
Gómez Barrera[4] utiliza la metáfora de la receta de cocina en sentido de que en ella ya incluye elementos de entrada, instrucciones precisas de qué hacer con ellos y en qué cantidades y los resultados finales de dicha operatoria. Sin embargo, como bien especifica el autor, un algoritmo es mucho más que una mera instrucción ya que sus parámetros de funcionamiento también operan como la transmisión de diversos valores (sociales, políticos, económicos, culturales) al código de programación de dicho algoritmo.
Si bien existen muchos tipos de algoritmos y de concatenaciones de los mismos, lo importante a fines del presente artículo es pensar en el proceso de perfilado algorítmico[5]. Es decir, en cómo en base a diversas técnicas y mecanismos de recolección, almacenamiento, procesamiento e interrelación de nuestros datos personales y de actividad, cedidos por voluntad propia al firmar los términos y condiciones de las plataformas hegemónicas, se van confeccionando perfiles algorítmicos auto-didactas que no sólo interpretan y se modifican en base a nuestras prácticas, interacciones, consumos y deseos sino que establecen diversos tipos de ordenamiento, conducción, y modulación de nuestras vidas. Dicho quizás más sencillamente, estos perfiles algorítmicos ordenan y presentan las informaciones y posibilidades de acción que podemos realizar de una forma y no otra, influyendo poco a poco y discreta pero poderosamente en nuestras formas de sentir, pensar y actuar.
Eric Sadín[6] denomina a este proceso un acompañamiento algorítmico de la vida en sentido de que cada vez menos áreas y esferas de nuestras sociedades quedan por fuera de este ordenamiento automatizado y constantemente cambiante.
El amor y el miedo (al algoritmo)
Como es de esperarse, las posturas tecnofílicas y tecnofóbicas revisitadas previamente también se encarnan respecto a la cuestión algorítmica.
Por el lado de los tecnofílicos, el acompañamiento algorítmico viene a representar una especie de servicio en pos de la mejora de la humanidad. Ante una inmensidad cuasi inconmensurable de información y contenidos circulantes en Internet, los algoritmos vienen a ser una solución de la innovación y el progreso tecnológico para poder mesurar esta información, poder hacerla accesible, poder interpretarla, poder utilizarla. De este modo, no sólo se nos protege de “explotar cognitivamente” sino también se nos brinda un beneficio, un servicio que en base a nuestros gustos y acciones nos facilita la vida trayéndonos de forma fácil, intuitiva y cada vez más simpática aquello que nosotros seguramente queremos consumir, aquello que a nosotros seguramente nos interesa y aquellas personas con las que de seguro queremos interactuar, obturando y ocultando todas las otras posibilidades que ya hemos demostrado que no nos interesan. Esto también se realiza en función de que podamos ahorrar tiempo, tiempo valioso en poder incrementar nuestra productividad y rendimiento[7], en seguir convirtiéndonos en excelentes empresarios de nosotros mismos[8] y en afrontar todas las problemáticas de la vida con un auxilio o ayuda que nos permita sortear sus dificultades ya sea en rutas de tránsito menos congestionadas, artículos académicos más pertinentes, indicadores de nuestros pasos y consumos vitamínicos, entre otros.
A su vez, la medición y sugerencia de optimización algorítmica constante no solo se realiza en nuestras redes sociales y plataformas favoritas sino que tiende a expandirse vía el Internet de las Cosas (IoT) a nuestros aparatos tradicionales (como la heladera o el aire acondicionado), a la reproducción del ganado, a la producción (Industria 4.0), al clima y a nuestras ciudades (SmartCitys) garantizando que todo se haga “de la forma más óptima y productiva posible”.
Por el lado de los tecnofóbicos, esto actualiza y lleva casi al extremo todos los miedos y catástrofes descritas anteriormente pero con el plus palpable de ciertos casos donde los algoritmos serían los protagonistas cuasi excluyentes de la violación del ejercicio de la soberanía nacional, la determinación de los pueblos y en definitiva de “nuestra libertad”. Casos como los de Cambridge Analytica para las elecciones de los EEUU y el Brexit, o como las Fake News, especialmente en el triunfo electoral de Jair Bolsonaro en Brasil, muestran cómo los algoritmos podrían poner en jaque la elección de los pueblos. Sumado a esto, estas tecnologías algorítmicas de auto-aprendizaje como la Inteligencia Artificial no sólo aumentarían las peligrosidades de destrucción de empleos sino que también podrían reemplazar a la humanidad en su esencia, especialmente en sus habilidades artísticas (música, arte, literatura), físicas (implantes robóticos), genéticas (ingeniería genética), cognitivas (Ajedrez, GO, bancos de memoria), productivas (automatización), sentimentales (elección algorítmica de pareja), etc.
Asimismo, estos mecanismos algorítmicos alimentados en base a datos, despliegan toda una red de control y vigilancia que no sólo vulneraría la privacidad e intimidad de los sujetos y colectivos sino que podría instalar un control tecnológico similar al de la distopía planteada por Orwell. Los ejemplos y analogías de la obra del escritor con el Ranking del Seguro Social implementado en las principales ciudades de China operan en este sentido.
Yendo incluso aún más al extremo, estos desarrollos podrían ser la base de una tecnología similar a Skynet de las películas de la saga Terminator, que decida terminar con la vida humana, o Multivac del escritor Isaac Asimov, que decida que la mejor forma para que la humanidad sobreviva sea ser subyugada por entes robóticos.
Acompañados, pero ¿cómo?
Desde la dificultad que nos presenta las limitaciones de nuestra época, en este artículo queremos quizás empezar a entrever otras formas de poder analizar este acompañamiento algorítmico de la vida haciendo el esfuerzo por evitar caer de un lado u otro de la balanza.
Es importante entender que los algoritmos ya existen, nos acompañan y cada vez más, y sobre todo que no son tecnologías neutrales cuyas consecuencias y efectos resulten de su “buen o mal uso”. Es decir, un algoritmo no es bueno por poder detectar enfermedades de forma preventiva escaneando una foto y malo por incrementar el costo de nuestro seguro de salud en base a los resultados de la misma foto.
Los algoritmos, así como su proceso de recolección, almacenamiento, correlación, interacción y perfilado han sido creados por individuos y colectivos de acuerdo a ciertos criterios, reglas, intereses y juegos de saber, poder y verdad. Procesos humanos ya afectados previamente por la interacción con los objetos, individuos y conjuntos técnicos[9] pasados y presentes y que en su creación tecnológica vuelven a afectar dichos procesos humanos generando un círculo constante de interacción socio-técnica. Asimismo sus efectos y aplicaciones no presentan una lógica totalizante y sin escapatoria sino que pueden presentar una multiplicidad de efectos no esperados que puedan ser explotados de diversas e interesantes maneras.
Los algoritmos, sus concatenaciones y sus perfilados cada vez más presentes en cada interacción nuestra en Internet, especialmente en estas empresas que concentran nuestra atención y prácticas, no son ni inherentemente salvadores ni inherentemente nuestra destrucción, pero tampoco esto depende del “buen o mal” uso que se les dé. Todo algoritmo contribuye e influencia nuestras vidas, prácticas y experiencias y por tanto es vital poder comprender efectivamente qué hace, poder comprender las nuevas oportunidades que su acompañamiento genera y poder reconocer y obrar en pos de limitar todas aquellas desventajas y problemáticas que consideramos que nos genera su uso.
Sumado a esto, el hecho no se da meramente por el conocimiento o la educación sino también por obrar y operar en función de intentar intervenir como acto político en ese acompañamiento algorítmico, decidiendo nosotros cómo deseamos que sea ordenada nuestra vida y no meramente dejando que nos sea ordenada por nosotros.
Múltiples plataformas y herramientas de software libre, código abierto, encriptación, etc. permiten que su usuario configure como podría su interacción con los perfiles algoritmos, e incluso saber directa o indirectamente qué hacen, qué reglas explícitas e implícitas tienen. El desafío aquí también es entender que estas tecnologías existen aunque no sean las que todos usan, especialmente nuestras queridas empresas de “plataformas” donde desplegamos nuestra sociabilidad y que basan gran parte de su modelo de negocios en esta recolección de datos, conducción y orientación algorítmica.
La propuesta (si así puede ser llamada) no es adorar, ser esclavizados, resistir o destruir al algoritmo[10]. Es permitir que nos acompañe en la medida que nosotros decidamos y acompañarlo también en la medida que nosotros decidamos. Y para esto será menester no sólo “tomar conciencia de ello” sino crear, ayudar a crear y utilizar las herramientas necesarias para ello.
Tarea para nada sencilla en la red de relaciones de poder, saber y verdad que nos atraviesa, donde las miradas tecnofílicas y tecnofóbicas también contribuyen, más de lo que podemos entrever, a la actual configuración social, técnica, política, económica y cultural, muchas veces sin darnos cuenta de que quizás estamos adhiriendo directa o indirectamente, en mayor o menor grado, a una de ellas.
Nadie dice que vaya a ser sencillo, pero no por eso no vale la pena intentarlo.
[1] Castells, M. (2001). La Galaxia Internet. Barcelona: Areté, 2001.
[2] https://www.cabase.org.ar/wp-content/uploads/2017/09/CABASE-Internet-Index-II-Semestre-2017.pdf
[3] https://es.vpnmentor.com/blog/tendencias-de-internet-estadisticas-y-datos-en-los-estados-unidos-y-el-mundo/
[4] Gómez Barrera, J.C. (2018). SEGMENTACIÓN, SESGO Y NORMAS SOCIALES EN LA PROGRAMACIÓN Aportes a la teoría de la gubernamentalidad algorítmica. En revista AVATARES de la comunicación y la cultura (15). Disponible en: http://ppct.caicyt.gov.ar/index.php/avatares/article/view/13032/pdf
[5] Gendler, M. (2018). GUBERNAMENTALIDAD ALGORÍTMICA, REDES SOCIALES Y NEUTRALIDAD DE LA RED. Una relación necesaria. AVATARES de la comunicación y la cultura (15). Disponible en:http://ppct.caicyt.gov.ar/index.php/avatares/article/view/12956/pdf
[6] Sadín, E. (2017). La Humanidad Aumentada: la administración digital del mundo. Buenos Aires: Caja negra editora.
[7] Han, B-C. (2012). La sociedad del cansancio. Madrid: Herder
[8] Foucault, M. (2007). Nacimiento de la biopolítica. Curso en el Collège de France 1979. Buenos Aires: FCE.
[9] Simondon, G. (2008). “El modo de existencia de los objetos técnicos” Buenos Aires: Prometeo.
[10] El título del presente artículo no plantea una disyuntiva dicotómica entre la adoración y la resistencia, sino que invita a poner en duda que esas sean dos respuestas válidas, correctas y deseables ante esta problemática del acompañamiento y modulación algorítmicos.
Imágenes: Instalaciones de Zimoun, artista suizo. https://www.zimoun.net/