Entrevista con Luis Josué Lugo Sánchez
En el marco de su visita a la Universidad Nacional de José C. Paz, el profesor Luis Josué Lugo Sánchez, Director del Laboratorio de Inteligencia Artificial, Sociedad e Interdisciplina de la Universidad Autónoma de México (UNAM) conversó con Julián Tagnin –profesor de UNPAZ en las tecnicaturas informacionales– sobre los impactos culturales, políticos y epistemológicos de la inteligencia artificial generativa. El autor mexicano abordó, entre otras cuestiones, las tensiones entre automatización y emancipación, prácticas colaborativas y dependencia tecnológica; así como los desafíos éticos y políticos que emergen con la IA.
“Puede haber gente que no tenga capacidad de resistencia ante la IA pero hay otra que la está resignificando”, sostiene el Doctor en Ciencias Políticas y Sociales de la UNAM, Luis Josué Lugo Sánchez, y pone como ejemplo las “Fichas Vivas” que hacen los colectivos de madres buscadoras en México, en el que usan inteligencia artificial para crear videos donde los desaparecidos cuentan quién son y cómo desaparecieron; y que las mismas familias difunden por TikTok y Facebook para generar impacto y alzar su voz.
Con formación en comunicación, innovación tecnológica, tecnopolítica y psicoanálisis, Lugo Sánchez cita a Eduardo Galeano cuando decía: “Los científicos nos dicen que estamos hechos de átomos, pero yo creo que también estamos hechos de historias, y las historias nos atraviesan en muchos otros devenires.” Sus líneas de investigación se centran en el análisis crítico y el uso ético de la inteligencia artificial.
Julián Tagnin: Abordás la inteligencia artificial a partir de las funciones cognitivas. ¿Te parece que estos agentes amplían o empobrecen el conocimiento?
Luis Lugo Sanchez: Creo que hay un crisol de posibilidades que aún tenemos que estudiar interdisciplinariamente. Una de las rutas es la ruta cognitiva, la neuronal, que es una de las rutas hegemónicas. Pero también necesitamos las rutas filosóficas, fenomenológicas, políticas, sociales, culturales. En la metáfora del crisol, por supuesto, hay una posibilidad de pensar con prompts, como lo llama Andrea Colamedici y me gusta la metáfora: “¿Cómo pensar con prompts?”. Y yo diría “¿Cómo sentipensar con prompts?”, pensándolo desde nuestros anclajes latinoamericanos con todo lo que se ha trabajado el sentipensamiento.
Por otro lado, siempre existen los riesgos: que el prompt no sea sentipensado y entonces sea la máquina la que genere la deuda cognitiva, la delegación cognitiva, pero que también tiene un afecto.
Podemos encontrar gente que está dejándose llevar totalmente por la deidad– como a veces se le considera a la máquina–; gente que está entrando con ciertos prompts críticos a interactuar con la máquina; gente que no está en una deuda cognitiva porque ya tiene ciertos procesos cognitivos y afectivos que le permiten trabajar desde otro lugar.
JT: Has formado parte de experiencias de aplicación de la inteligencia artificial en movimientos políticos y sociales ¿cómo te parece que sería un modelo o una manera de vincularse sentipensadamente con la inteligencia artificial?
LLS: Me parece que las grandes maestras en forma situada son las madres buscadoras que, en México, a través del colectivo Luz de Esperanza, están sentipensando junto a la inteligencia artificial y están deviniendo en una subjetividad política que tiene como contexto un proyecto que se llama “Fichas vivas de búsqueda”.
Este proyecto implica primero una subjetivación política que colegas como Edgar Zuñiga han estudiado muy a fondo aquí en México. Esta subjetivación política de los familiares de las víctimas de desaparecidos les hace generar acciones para encontrar sus tesoros, y dentro de estas acciones hay una diversidad: búsqueda en vivo, pega de fichas, o sea, no es la IA la que viene a rescatar nada, sino la IA es un significante más de su acción, en donde, además, se rompen muchos de los círculos de exclusión, de brechas, de quién tiene el poder de configurar todo este tipo de artefactos. Recrean fichas virtuales y, en las fichas, las personas desaparecidas mismas cuentan la historia. Luego, las fichas se viralizan a través de TikTok.
No es un acto estrictamente cognitivo porque si lo pensamos cognitivamente, te va a espiar el Estado, las multinacionales, todo eso que sabemos que es real. Se acompaña esa parte del sentipensamiento con la necesidad urgente de reparar un crimen de Estado que no tendría que estar pasando, y que les arroja como resultado una activación tecnopolítica, que autores como Darwin Franco denominan tecnologías de la esperanza.
Y entonces aparece esta ola, que es expansiva y es lo que nosotros llamamos apropiaciones disruptivas. Tenemos Madres y Abuelas en Argentina, tenemos Afroféminas en España, tenemos a Rising voices en México, que son activistas de distintas lenguas que están trabajando la lengua no hegemónica frente a la lengua dominante de la inteligencia artificial. Tenemos Proyecto Regresa, que es un proyecto de antropólogas que están reconstruyendo facialmente a niños y niñas desaparecidos. Estamos encontrando usos disruptivos y políticos que no venían configurados para existir, porque por supuesto la inteligencia artificial– y ahí todas las personas desde Kate Crawford hasta Bifo Berardi tienen razón– viene como una automatización del ser, viene como un trabajar más por menos, viene a aumentar plusvalías, viene a generar un gozo imaginario para comprar más.
JT: Cuando hablamos de producción colectiva, de todas estas experiencias que mencionaste, cuando hablamos de las bibliotecas de Prompts, ¿podemos terminar pensando que epistémicamente la verificabilidad importa menos que quizás la performatividad? Es decir, ¿el componente epistémico duro es secundario con respecto a sus usos y apropiaciones, tanto del acto de búsqueda o de la parte afectiva, como vos mencionás?
LLS: Creo que hay que ser muy justos epistemológicamente con esto que estoy mencionando. Porque en realidad no se está reconfigurando la estructura. Hay críticas como decir: “Oye, pero pues es que con eso solamente estamos, desde reforzando lógicas del algoritmo, hasta colocando parches dentro de una estructura que tiene que cambiar de fondo, entrando a regímenes tecnofeudales donde ahora las madres buscadoras le trabajan también a muchas de estas herramientas de vía generativa”.
Es real, la estructura no la estamos modificando y, por tanto, epistemológicamente no podríamos hablar de un cambio del capitalismo cognitivo. Pero en la subjetividad, en la agencia y en los grupos sociales, sí pueden cambiar y están cambiando algunas de las prácticas, de los usos, de las performatividades. Y en la performatividad y en la estética también puede haber un potencial político. Y me parece que eso es lo que estamos viendo con muchos de estos movimientos.
Conviene pensar gobernanzas algorítmicas fuera del marco de la democracia liberal que negocien con todo ello. Y entonces, por supuesto, ¿por qué no prefigurar que en algún momento va a haber una soberanía digital para que las madres buscadoras, los migrantes, los grupos racializados tengan sus propias herramientas, generen sus propias activaciones políticas?
Quizá en sus performatividades, en ciertos significantes, en ciertas formas de entender, hoy la imbricación objeto-sujeto, sí está cambiando. Gente aferrada a la estructura y gente que no está viendo la estructura. Regresamos a lo que Umberto Eco llamaba desde 1969 apocalípticos e integrados, pero ahora en tiempos de IA.
JT ¿Te parece que es apropiado hablar del concepto de pedagogía inversa, donde la tecnología, la inteligencia artificial, nos entrena a pensar de forma más predecible de alguna manera?
LLS: Me parece que regresando a la primera respuesta, tenemos este crisol en donde sí hay posibilidad de pensar, sentipensar y cuestionar la imbricación con la inteligencia artificial, pero para eso necesitamos construir subjetividad. Y la subjetividad no se construye con la inteligencia artificial. La subjetividad atraviesa relaciones históricas, sociales, culturales, políticas. Entonces, ese punto tenemos que tenerlo muy claro. Y ojalá que devenguen una subjetividad política, ¿no?
Ojalá que, por ejemplo, en el próximo Mundial además de nuestra subjetividad, que nos gusta el fútbol, abramos también la posibilidad de la subjetividad política y más jugadores hablen sobre lo que pasa en Palestina y volteemos a ver que acá hay activaciones de madres buscadoras haciendo “cascaritas” lo que llamamos partidos de barrio. Entonces, partidos de barrio afuera del estadio Azteca -le cambiaron el nombre a una marca, pero muchos le seguimos nombrando Azteca-; en la politización de Cuba, de Diego Armando Maradona en su momento contra Inglaterra; ojalá que tengamos esas politizaciones. Devenir en subjetividad política me parece importante.
Mientras, algunos otros y otras colegas, por supuesto, están considerando a la IA como una deificación, una cosa que no es quizá tan consciente, pero así es en los actos: “La IA no se equivoca” “la IA me dice todo”, “la IA lo tiene todo”. Y a partir de ahí, a partir de sus subjetividades, hay pocas capacidades de negociación con la IA. Pero no creo que sean nulas, porque justo como no solo somos redes neuronales, somos muchas otras constituciones del ser. Creo que la trampa de enmarcarnos solo en conceptos del norte global, es que pensemos que solo somos redes neuronales.
Y en nuestra tradición histórica latinoamericana no lo somos.
Me parece que hay que citar a Eduardo Galeano cuando en uno de sus textos decía: “Los científicos nos dicen que estamos hechos de átomos, pero yo creo que también estamos hechos de historias, y las historias nos atraviesan en muchos otros devenires.” Me parece que sí puede haber gente que no tenga capacidad de resistencia, subjetivación o de hacer otra cosa con la IA, pero también hay gente que la está resignificando, que está disputando incluso tiempos, o es una hipótesis que vengo de platicar con Rodolfo Oliveros, un colega antropólogo que trabaja en la relación tiempo-IA. Muchos de estos estudiantes que están usando IA están disputando su razón del tiempo, y no de forma consciente, porque el tiempo del capitalismo es un tiempo del cumplir, es un tiempo muy estructurado, muy de producir y en muchos lugares no quieren producir los jóvenes. Lo que nosotros pensábamos que era la producción de logos, como dice Fernando Peirone.
Creo que hay que acercarnos más a esas prácticas, a esas subjetividades con, por supuesto, la posibilidad de una alienación, ¿no? Me parece que la alienación como concepto político es más potente en ese aspecto.
JT: ¿No hay un riesgo de estetizar o simular la memoria cuando se utiliza de esta manera para reconstruir identidades ausentes? Ustedes tienen muchos desaparecidos en México, Argentina también tiene esa historia con los desaparecidos.
LLS: Hay muchas tensiones en el presente, en el presente continuo y creo que en el futuro. A ver, la primera tensión es cómo nombrar eso. Ni la psicología social ni las ciencias sociales tenemos una respuesta. Porque, por ejemplo, de hecho, la desaparición en sí mismo como concepto Chile, Argentina, Uruguay, México tienen un trabajo histórico en común y hoy con inteligencia artificial hay todavía muchos debates de cómo nombrar. Y desde el decir y aún en el hacer, pero ahí tenemos una primera crisis epistemológica.
Las familias mencionan que no pueden ver los videos de las fichas vivas, hechos con IA más de tres veces porque es un impacto psicológico y emocional muy fuerte, pero al mismo tiempo saben que son las vías que necesitan ante la urgencia de encontrar a sus tesoros. Hay un riesgo de revictimización, por supuesto, también. En espacios donde nos toca exponer estos temas con la autorización previa de las familias hay personas que no aguantan ver la ficha y se salen. Y algunos se enojan mucho y dicen es que están revictimizando y están jugando con su dolor.
Entiendo por qué lo pueden decir, pero las propias familias dicen: “Queremos que se expongan.” Y ahí también hay otra paradoja, porque hasta qué punto no dejaremos que el decir de otros grupos se exprese, porque nosotros como académicos les decimos, “No, eso no lo puedes hacer porque eso se llama…” Y las familias responden: “No me importa cómo se llama, lo que me importa es que aparezca mi desaparecido”. Hay tensiones de soberanía digital, porque por supuesto todos esos datos sensibles se quedan en las big tech, en las grandes compañías. Y ahí quiero ser muy enfático, no tengo ningún tipo de objeción con la crítica estructural, que se hace a la inteligencia artificial. Ninguna. Medioambiente, sesgo… con todo eso estoy de acuerdo.
Pero la tensión que vive un familiar, no le voy a ir a explicar– ni siquiera la palabra explicar es precisa–. Pero, al mismo tiempo, otro de los riesgos que ahorita están apareciendo es que el crimen organizado ya estudió la metodología de las familias. Entonces, están haciendo Fichas Vivas fake y con ello están todavía recrudeciendo más el ciclo de violencia, que viven las mujeres porque están engañando a varias familias con las fichas de sus desaparecidos. Lo cual nos conecta con otro tema y son las estéticas y las alfabetizaciones visuales y contravisuales que hoy vivimos.
JT: Coincido en que la prioridad la tiene la demanda social, que surge espontánea. También coincido en que no hay que reinterpretar académicamente las problemáticas porque la voz más legítima es la de los familiares, principalmente, y la problemática territorial. Si la inteligencia artificial no puede producir cambio por sí misma, ¿qué condiciones concretas deberían darse para que sí contribuya a transformaciones reales? ¿Cómo sería la manera de darlo vuelta si es que se puede llegar a teorizar?
LLS: Creo que lo primero es no despegar el debate de la necesidad de una legislación respecto a la responsabilidad que tiene el Estado y las empresas en esta hecatombe que estamos viviendo. Porque si no volvemos a estos ciclos que hemos ya visto en otros temas, donde el objeto final –y lo digo “objeto” porque así es como se observa desde afuera– es “el ciudadano”, “la ciudadana”, “la persona”, “el agente”, “el sujeto”, “todo”– como queramos nombrarlo– “el individuo”. Entonces volvemos a las peleas donde se pelea el profesor contra el estudiante por el anti-plagio. Volvemos a la pelea donde se pelea el activista contra el no activista por uso de ChatGPT que gasta agua. Entonces, de estas peleas podemos pensar muchas.
Pero los que están ganando realmente son los señores tecnofeudales que no son más de diez, que además se van a comer con Donald Trump, hacen estrategias psicopolíticas cínicamente, no sé si es otra forma de burla social. Pero viene Palantir, saca un manifiesto ultralibertario, Milei en Argentina hace lo mismo, esta política, esta psicopolítica me parece un despropósito. Y me parece muy injusto que profesores precarizados se peleen con estudiantes precarizados cuando hay que apuntar hacia allá. La organización y movilización social es una vía siempre necesaria, pero tampoco podemos dejar de lado la responsabilidad de los Estados, de las empresas y de regulaciones hacia ellos. Porque también ¿a quiénes regulamos? A nosotros, ¿no?
JT: ¿México está tratando de regular desde el Estado las plataformas?
LLS: Nada. Muy complicado. Y la relación geopolítica con Estados Unidos es muy complicada también. La presidenta Sheinbaum se sale un poquito de la línea y hay una sanción durísima en impuestos. Ahorita hay una cierta estabilidad por acuerdos que no alcanzamos a entender desde la ciudadanía común. Pero en el tema tecnológico hay un debate muy atrasado sobre cómo legislar siguiendo la línea Unión Europea, siguiendo la línea Estados Unidos o siguiendo la línea China. No como Brasil, que, por ejemplo, ahora mismo están trabajando temas de soberanía digital.
Me parece que tampoco desde los grupos o subjetividades hay que normalizar lo que sucede y quizá por mi agenda y la forma en como me han formado, me parece que las metodologías participativas son importantes. Me parece que la creación de colectividades y solidaridades son importantes. Porque si no, nos quedamos esperando a la legislación y quién sabe cuándo va a llegar.
JT: Yo veo que también a partir del uso de las redes, irónicamente, estamos todos desconectados. ¿Cómo volver a tener estos diálogos interuniversitarios, internacionales? Está el proyecto del LATAM GPT que empezó en Chile con el que estamos colaborando desde la UNPAZ. ¿Vos cómo lo ves?
LLS: Yo me decanté por capitalismo cognitivo desde hace tiempo. Acá estamos en capitalismo cognitivo salvaje. Si queremos un estímulo que tenemos algunos investigadores, necesitamos una hiperproductividad de papers, que es como lo que está de moda en México y creo que no solo en México, en muchos lugares.
Entonces, esta lógica, ¿qué genera? Individualismo, competencia, sospechosismo del otro, ganas de publicar en inglés por el norte global que da más puntos; gente que ya no quiere asesorar a jóvenes porque no da puntos, dan puntos los posgrados internacionales. Y acá, justo en este momento estamos en el periodo de evaluación de los que nos dedicamos a esto.
Y no sé si peco de optimista, pero a mí me parece que son muy buenas las posibilidades de rearticularnos. Y de entrar a conformar grupos de trabajo latinoamericanos y entrar a leernos entre nosotras y nosotros; y en algún momento si alguien maneja un poco más el inglés de todo el equipo, lanzarnos a discutir estos temas. Por ejemplo, el tema este que te platico de la memoria en Estados Unidos le nombran digital resurrection, recrean a personas y les venden a sus deudos. No tiene nada que ver con la memoria y la disputa que hemos vivido en Latinoamérica, pero tampoco alguien lo ha escrito y no es para que nos quedemos solo ahí, sino para que se viva también como en la epistemología latinoamericana podemos articular ciertos fenómenos y regresar a nuestros grupos.
Entonces me parece que hay que rearticularnos epistemológica, solidariamente y no hay que dejar de lado tomar un café, una cerveza o jugar un partido de fútbol. Porque eso también es trabajo vivo.
Imagen de portada: magnific.com