ÉRIC SADIN EN BUENOS AIRES

A fines de abril, el filósofo francés Éric Sadin visitó Buenos Aires para participar en la Feria Internacional del Libro de Buenos Aires. Allí dictó una charla sin desperdicio que reproducimos a continuación, titulada “Filosofía del metaverso y el chat GPT”, junto a los editores de Caja Negra, su casa editorial en Argentina, donde publicó ya 4 títulos en la Colección Futuros Próximos.

En mi próximo libro hablo que lo que va a pasar y teorizo la idea del presente inminente, del presente que viene. Propongo que nos entreguemos a ese ejercicio también. ¿Por qué digo esto? Porque en estos últimos años nos dimos cuenta de las cosas cuando llegaban, a posteriori, y ahí hay una lucha de la temporalidad. Hay que intentar captar, entender lo que viene, de lo cual se puede suponer que puede engendrar efectos de conciencia, y entonces, entablar las acciones antes, en el momento que corresponde. 

El 28 de octubre de 2021, Mark Zuckerberg difunde un video pregrabado en el cual él solo, como empresario a la cabeza de la empresa más grande del mundo, anuncia él solo, insisto con esto, el proyecto y el deseo de introducir a la humanidad en la órbita del metaverso, un proyecto civilizatorio.

Anuncia que el metaverso nos está esperando, y esto fue titular en todos los diarios del mundo. Como estos profetas que vienen de determinada región del mundo, como es Silicon Valley, tienen los recursos necesarios para poder hacerse oír, entonces a ese profeta se lo escucha y estamos esperando a ver qué dice.  Lo que anuncia es la idea que cada vez más se realizarán acciones de la vida humana a distancia, una cantidad cada vez mayor de acciones en entornos pixelizados.

¿En qué momento anunció esto? Inmediatamente después de la pandemia y de las cuarentenas de los diversos países, donde asistimos a una evidencia y una revelación mezcladas de que, de la noche a la mañana pudimos realizar una gran cantidad de acciones a distancia y a través de pantallas: la docencia, el trabajo, las compras, las consultas médicas, la relación entre personas, totalmente interferidas por sistemas y pantallas. Y hasta eventos que ni siquiera podíamos imaginar que pudieran desarrollarse en línea, sesiones de análisis, cumbres entre jefes de Estado, tomarse una copa por whatsapp con algún amigo, y una cantidad de actividades culturales, como representaciones teatrales, danza, que vimos también a partir de pantallas. Es como si la vida humana misma en su integridad se desarrollara a través de esos sistemas. 

Y esto reveló en particular un nuevo modelo económico que está en condiciones de instituirse, la economía de la distancia, algo que teorizo en mi próximo libro, un capitalismo de la fijación de los cuerpos. Esto significa que cada vez más el mundo viene hacia nosotros, y eso fue lo que anunció Zuckerberg, cosas que ya estaban sucediendo y que había que intensificar. 

Esa acción a distancia y en línea vienen de esos píxeles. Ese era el proyecto que ya estaba en funcionamiento y que no deja de intensificarse. Y que es indisociable del desarrollo de la inteligencia artificial en el cual vemos que cada vez más hay sistemas que orientan y guían nuestras acciones individuales y colectivas, temas que desarrollo en el libro de Caja Negra, Inteligencia artificial o el desafío del siglo.

Lo que me interesa es hacer una conexión que nos atañe a todos. Este entorno es producido únicamente por el mundo industrial y tiene una alcance civilizatorio en el cual anidamos, nos guste o no nos guste, y con eso asistimos a la pixelización creciente de nuestras existencias que, si no tenemos cuidado, se va a ir intensificando cada vez más, sin cesar. 

Por eso creo que cuando hablamos de adicción, pienso que hay un error de lectura, es un tipo de moral que compramos muy barata, porque no hay adicción, hay una condición pixelizada. Y esto fue inaugurado con los smartphones en 2007/2008, y hace que nuestra existencia esté cada vez más, y de manera continua, adosada a una pantalla. Y pantallas que nos van a circundar cada vez más, que llaman a una experiencia inmersiva. Ese movimiento es potente y no deja de intensificarse. Posibilita que se hagan cada vez más acciones humanas a distancia, adosadas a sistemas de inteligencia artificial, que orientan el curso de las acciones humanas para una mayor optimización, racionalización y mercantilización.

Y en diciembre de 2022, se produce un huracán, un terremoto. Ya no son sistemas que supuestamente organizan mejor las acciones para el curso de la vida humana, sino que son sistemas a los cuales les encargamos, les otorgamos el poder de tomar el relevo o de ocuparse de la facultad humana más fundamental, es decir el lenguaje y la representación de símbolos, la imagen, la voz, la música. Pero sobre todo el lenguaje. 

Es un movimiento civilizatorio con consecuencias antropológicas. ¿Por qué digo antropológico? No es que quiera expresarme de manera grandilocuente, sino porque lo que está redefiniendose es el estatuto del ser humano mismo. Ya no es sólo la relación con el tiempo y con el espacio, como con la pixelización, sino que es relativamente lo que se espera del humano, qué se espera de nosotros. 

Y esta ruptura sobre la cual vamos a dialogar, es presentada como una evolución cuasi normal del curso de las cosas. Con la complicidad de los medios. 

Esta semana leí en el periódico francés Le Monde, en una doble página, que dos ingenieros, uno canadiense y uno francés, uno de ellos responsable de Facebook en París, nos anuncian que estos son los mejores tiempos y que se viene una nueva era de las luces, algo todavía mejor. 

Frente a este terremoto de que nos despojen de nuestra facultad de enunciación, de palabra, de que nos quiten la posibilidad de crear en el campo de la representación, con la introducción de sistemas que van a presentar un nuevo régimen de lenguaje y de representación, éste es el lenguaje de la indistinción de la fuente: ¿Quién habla? ¿Cuál es la naturaleza de esta imagen? 

Y con un desparpajo sin límites, ingenieros que trabajan para Meta Facebook en París, nos dicen frente a estos sistemas que ellos desarrollan, y sin titubeos, que esto va a abrir una nueva era de la Ilustración. Hay una gravedad en todos los sentidos del término sobre lo que está pasando. Y también esto es presentado como un nuevo momento del desarrollo de las tecnologías digitales. 

Vamos a explicar por qué.

Estamos frente a lo que yo llamo una abyección civilizatoria, simplemente porque esto procede de un profundo odio por el humano. Esto ya estaba operando cuando yo escribí mi libro La Inteligencia Artificial. Todo este movimiento tecnoindustrial presupone, desde hace al menos 15 años, que el ser humano está plagado de defectos, que es incompleto, pero que hoy en día se está dando un milagro, que son todas las tecnologías digitales que van a colmar todos esos defectos. 

Pero eso no es suficiente, estábamos frente a tecnologías cognitivas y ahora estamos también frente a tecnologías generativas. Así que no era suficiente, ya no basta con orientar nuestras sociedades hacia fines de lucro cada vez más racionalizados, ahora se trata de despojarnos de nuestra palabra, de nuestra capacidad para hablar en primera persona y la capacidad natural para crear con nuestro lenguaje, ante esta borrasca civilizatoria, 

Esto lo relaciono con la capacidad de recepción que tenemos de ese fenómeno hoy, que me deja desolado. ¿Se entiende cuál es el fracaso estratégico? Se les pregunta a los ingenieros qué es lo que piensan sobre lo que están desarrollando; son personas que son juez y parte al mismo tiempo. Por eso, con los editores de Caja Negra decidimos titular a la charla “Filosofía del metaverso y Chat GPT”, porque hay demasiado periodismo, demasiadas palabras en el aire y cosas ligeras sin argumentación. Cosas que se dicen como que lo que se viene es «la nueva era de la ilustración» y es tiempo de que haya teoría y análisis serio y los sectores de la sociedad, entre ellos y en primer lugar la educación, la docencia, tienen que hacer valer sus posiciones. 

Parece que estamos en el mundo al revés, se les pregunta justamente a quienes lo crean, que están supeditados a esas industrias, qué es lo que piensan de lo que están desarrollando.

Cuatro meses después de este terremoto, se firma una solicitada. Elon Musk es uno de los firmantes de este petitorio, junto con Harari, un historiador prehistórico, que de golpe se pone a hablar de inteligencia artificial sin ningún tipo de habilidad y competencia. 

Esta conversación la coloco bajo un tono de seriedad, sobre todo cuando intuyo los movimientos que están en funcionamiento, y veo que hay una extrema gravedad que no existía hace cinco años. Vamos a intentar analizarla.

No es divertido lo que voy a decir pero Elon Musk está en la esquizofrenia total. Porque hace años que toda esa gente que desarrolla sistemas de IA y más ampliamente, gente que participa en la tecnologización creciente de nuestras vidas y la existencia, nos dicen constantemente -quizás consuman demasiadas sustancias prohibidas- que el mundo que viene es extraordinario, pero ¡cuidado!, que puede ser una catástrofe para la humanidad. Si encuentran ustedes la coherencia, yo no la veo. Una incoherencia, un discurso que no va  a ninguna parte y que uno se traga. Y son discursos que son vehiculizados

Ellos son los que supuestamente entienden la realidad de las cosas y en relación con fenómenos que no solamente tienen incidencia en la vida social y política, como decimos desde hace una década, sino consecuencias civilizatorias. Estas personas por un lado participan en esto, al mismo tiempo dicen cualquier cosa y la sociedad acude a ellos para saber la verdad de lo que está pasando. Es demasiada confusión. 

Y perdón que lo diga también, pero esto conforma una parte de renuncia de cada uno de nosotros. Este petitorio, que también tiene una coherencia incomprensible, en realidad aporta confusión, es algo que se desarrolla sin claridad y de manera no orgánica y forma parte de un movimiento del cual la mayoría de la gente no sabe de qué se trata. Necesitamos análisis. 

Antes que un petitorio, que yo creo sin ningún valor, hubiera preferido que hubiera sectores de la sociedad que se hayan movilizado, y que digan como Camus dice en El hombre rebelde: “Han ido demasiado lejos, este límite de despojarnos de nuestra facultad de lenguaje no lo van a pasar”. Pero no está pasando nada de eso. 

Yo quería hacer una columna periodística apelando a jefes de estado, una cumbre para hablar al respecto, después de haber prohibido prohibir durante 15 años. Venimos de una ideología de la libertad absoluta, que proviene del libertarianismo -quizás recuerdan que en el transcurso de los años 2010 estaba prohibido prohibir, uno era tomado como un retrógrado si se prohibía algo. A veces eso se condimenta con un poquito de regulación, pero no hay que contar con la regulación para impedir semejante movimiento. Hay que contar, a mi juicio, con dos cosas. La primera, pero no creo que suceda, es prohibirlo y decir que se está yendo demasiado lejos. Los compañeros de Open ID, que desarrollan Chat GPT, ya se han vuelto ricos, pueden ir a hacer permacultura a algún lado, y dejar esto. 

Y lo segundo, y esto sí sería posible, es hacer movilizaciones en la sociedad, no una sola persona, porque nadie tiene el poder para semejante cuestión. No es la prohibición sino la interposición. Sueño con una movilización de profesores. Hace unos días vi una entrevista a unos alumnos de 14, 15 años y profesores, que decían “no pudieron prohibir Las flores del mal de Baudelaire, no se podrá prohibir el Chat GPT, entonces vamos a acompañarlo”. Parece que se serruchan el piso, pero no solo eso. La verdad de ese documental no venía de los profesores, que decían que iban a acompañar el chat, la verdad vino de una alumna de 14 años, que dijo: “¿para qué sirve que aprenda ortografía, gramática o que aprenda a leer si van a ser los sistemas los que me dicten y me expliquen las cosas?”. 

Como no se puede prohibir y hay grandes retos económicos y financieros, un lobby masivo y una fabricación sutil e industrializada del consentimiento, junto a una prensa indolente, nos corresponde a nosotros, a la sociedad, interponerse, en lo que constituye la grandeza de ciertos oficios y trabajos, y en particular el del profesor.

Debemos anhelar que haya movilizaciones de distintos sectores, trabajos, oficios de la sociedad que se interpongan y digan “no queremos esto porque es un proyecto que únicamente apunta a generar lucro que ignora, que desprecia, las capacidades inventivas, creativas de quienes ejercen esos oficios, pero más en general, del ser humano”. Y no corresponde que unos ingenieros autistas, gente desconectada de la realidad, sean las personas que tienen que generar el curso de las sociedades. Les estamos dejando las llaves, y no solo eso, sino que les ofrecemos la alfombra roja. 

Puedo decir sin ninguna pretensión que el libro que hicimos con Caja Negra, de Inteligencia Artificial, que se publicó en Francia en 2018 no envejeció, se mantiene en la actualidad.

Lo que vivimos es un cambio en el estatuto de las tecnologías digitales, con esto de la enunciación de la verdad. Ya no están solo destinadas a permitir la recolección de datos, el almacenamiento, la indexación y la manipulación con diversos fines de la información – eso lo siguen haciendo- sino que a eso se suma una nueva rama que se añadió a fines de 2010. Cuando hablamos de IA nadie sabe del todo de qué se está hablando, hay un déficit de conocimiento. Y esto me lleva a dar una definición en pocas palabras, que evalúe las consecuencias de esto, consecuencias ante todo políticas. 

Esta nueva rama es aquella que concede a las tecnologías digitales la facultad de evaluar situaciones de índole muy diversa, a velocidades infinitamente superiores a nuestras capacidades cognitivas. Arrojando además resultados más confiables. Puede resultar un poco abstracto esto que estoy diciendo, así que voy a darles algunos ejemplos. La app Waze, que todos conocemos, evalúa en tiempo real el estado del tránsito. Nos brinda resultados que nadie tiene capacidad de conocer, cuestiones que en el acto no podemos saber, en función de la mayor optimización del tiempo y de la energía. 

Hace 15 años que esto no deja de intensificarse y extenderse en todos los campos de la sociedad. Por primera vez entonces en la historia de la humanidad, las tecnologías que están dotadas de un poder conminatorio, nos sugieren, nos recomiendan y a veces nos obligan a actuar de tal manera y no de tal otra. 

Yo hablaba de la verdad, porque la verdad, a diferencia de lo fáctico, siempre tiene una dimensión performática. Por ejemplo, el jefe de comunicación de Donald Trump dijo que el día de la asunción de Trump había buen tiempo, y no es una cuestión de verdad, pero ese día hizo un tiempo muy malo. Eso es fáctico, pero la verdad tiene un matiz performático. Un ejemplo es la verdad religiosa, si uno quiere someterse a un dogma, eso tiene un valor de verdad y eso hace que observemos determinadas conductas o que hagamos determinado régimen alimentario, etc. Anuncia una verdad y apela a comportarse según ella. 

En ese sentido es que digo que los sistemas de IA enuncian la verdad. Nos enuncian una exactitud cada vez más precisa de los hechos, en campos cada vez más extensos de la vida humana y nos dirigen para que nos comportemos de una forma y no de otra, por lo general con fines de hiperracionalización e hipermercantilización de la sociedad. Por ejemplo, hay parlantes inteligentes que analizan el sueño de la persona y le sugieren en función del descanso o del no descanso que se vayan unos días a la montaña, al mar, que tomen tal complemento dietario, etc. 

Esto es un nuevo movimiento del tecnoliberalismo, fundado en la recomendación hiperpersonalizada y que provoca que desaparezca la brecha, la distancia con el marketing, cuando nos damos cuenta de que nos quieren vender algo. Acá es una revelación de la verdad, pero con tanta potencia en la revelación de esa evidencia, que cada vez más nos sentimos llamados a obedecer. 

Esto tiene varios niveles que describo en el libro, y es una abyección por parte del management. Nos dicen que es resultado de la innovación digital, donde vemos sistemas de inteligencia artificial, sensores, por ejemplo, en depósitos de empresas como Amazon que analizan en tiempo real la localización de personas, la ubicación de los productos, y van dirigiendo al empleado a través de señales o tablets, para que vaya a tal lugar a buscar tal producto, y a determinado ritmo lo coloque en otro lugar, reduciendo así a las personas a robots de carne y hueso mediante sistemas de IA que instauran una extrema racionalización y optimización de las acciones humanas. Antes de que esas personas puedan ser desechadas y reemplazadas por auténticos robots que puedan dedicarse a esas tareas.

¿Hasta qué punto estas tecnologías se pegan a nosotros y empiezan a hablar en voz alta?

En el momento en que la tecnología, el tecno logos, no es ya un discurso sobre la técnica, sino tecnologías que están dotadas de capacidad de habla; en el momento en que nos dicen la verdad y las acciones que debemos hacer, se ponen a hablar con una voz humana, llevadera, que nos acompaña, nos aconseja. Y ahí aparece el Chat GPT, una nueva etapa, una nueva articulación de la facultad del lenguaje que van a tener los sistemas de forma creciente.

Esto no solo hay que entenderlo como sistemas a los cuales les damos instrucciones. En mi próximo libro, analizo el tema de las instrucciones y de nuestra relación con el mundo. No la instrucción pedagógica, sino dar instrucciones. Damos instrucciones y con eso vamos recortando lo real, lo que genera un fenómeno nuevo y que nos concierne a todos, que es el utilitarismo generalizado, cada vez más generalizado. Todos nuestros deseos, todos nuestros caprichos mediante instrucciones simples, integradas a sistemas, con algoritmos que las realizan. Así podemos entender la innovación digital, que todo lo que nos pasa por la cabeza puede formalizarse a través de aplicaciones y sistemas. Y esto nos da una idea del paisaje de utilitarismo contemporáneo, donde todo puede ser objeto de un programa, “decime tal cosa, hacé tal otra, contratá candidatos a través del chat”. Se puede reportar todo lo real a través de instrucciones.

Hoy las tecnologías digitales, en comparación con las analógicas, se caracterizan por este encadenamiento de instrucciones que nos vuelve caprichosos, “quiero hacer esto, dame instrucciones. Quiero tener una app para encontrar un gato blanco, doy una instrucción”. Esa relación con la instrucción ahora está sometida a la relación con el lenguaje. Lo que hace nuestra grandeza, nuestro honor, ahora va a ser dar instrucciones.

Cuando hablaba de abyección civilizatoria, hablaba de esto, ponerse las manos en el bolsillo y no hacer ningún esfuerzo. Adiós a la inventiva, a la creatividad, a la pluralidad, a la contradicción, adiós a lo político, a lo humano como lo concebimos desde la noche de los tiempos. Abyección civilizatoria decía yo, y no una nueva Ilustración, como dice el ingeniero de Facebook en París. Eso es el Chat GPT, es dar instrucciones para generar, organizar la muerte de lo humano. Foucault hablaba de la muerte del hombre, el Chat GPT es la erradicación del impulso vital. El impulso vital de Bergson que reivindican los tecnoliberales: desarrollo biológico incesante, transformación continúa. 

Ese impulso vital que aportó la filosofía industrial nos condujo a mediados de los años 2010, en este presente que viene, desde los 2020, a paralizar ese impulso vital, para generar una lengua muerta. 

Nuestro lenguaje es una relación contínua entre las reglas, la gramática, individuos singulares que con su cerebro y su inteligencia tienen la capacidad para crear en cada instante, siempre ligados a un contexto imprevisible. Lo que hace que nuestra facultad de lenguaje realice una relación continua, entre el corpus existente y pasado y una generación, una producción humana que es absolutamente irreductible a cualquier esquematización matemática. Eso no es el Chat GPT, cuyo sistema toma en cuenta una cantidad de parámetros, pero genera una lengua muerta, en el sentido de que procede de una esquematización constante. Esto significa que es algo que está encerrado, es la muerte merodeando. 

En nuestra relación con el lenguaje hay vida, pero con esto estamos asfixiándonos porque el lenguaje humano no es esquematizable. La frase viene de una memoria, de reglas, de hábitos y viene de un milagro, la facultad que no es artificial, que es subjetiva, ni siquiera hay que decir que es humana. 

Y los profesores dicen que van a acompañar esto, el aprendizaje de una lengua muerta. 

Creo que lo que nos corresponde sobre todo, es celebrar la vida bajo todas sus formas y esto significa celebrar todas las potencias que nos constituyen. Y si lo vemos de cerca, eso es lo opuesto de lo que sucede desde hace 50 años, que va hasta nuestras posibilidades creativas, las más fundamentales, y que son las que marcan la subjetividad, el lenguaje. 

Pero hay algo de lo que ya hablé hace un rato, “¿quién habla -decía Nietzsche- cuando hablo? es mi madre, es la sociedad?”. Foucault era nietzscheano y desarrolló la noción del proceso de subjetivación, cómo singularizarse a través de los códigos que aprendimos y seleccionar entre cosas que tienen valor y las que podamos descartar. 

¿Qué tipo de sociedad viene, si evolucionamos en un conjunto donde aparecen campos de representación cuya fuente u origen desconocemos?

El tono que quería darle a nuestra conversación esta noche era un tono de gravedad, creo que nos hemos dado cuenta de la gravedad. Una gravedad que a mi me incomoda, no es una cuestión de inquietud, sino algo que me incomoda como ser humano. ¿Qué va a pasar en la Feria del libro 2027 con ejemplares escritos por el Chat GPT?

Les hablé de gravedad, de abyección civilizatoria, del letargo de la sociedad y de la verdad enunciada por los ingenieros y el mundo técnico-económico, que se impone como una obviedad. ¿Cómo actuar ahora en relación con todo esto?

Desde mi modesto lugar, produzco libros, con análisis, con material quirúrgico, con energía, a veces con mucho enojo; intento, con mucha inteligencia, que no entra en ningún patrón. ¿Cuál es la parte que cada uno de ustedes puede asumir de manera individual, y como sociedad, y desde todos los ámbitos, para que las cosas no sean escritas en nuestro lugar?