Nunca pensé que escribiría esto, pero llevo días pensando en Michel Foucault más de lo que me gustaría. Y la culpa la tiene un dolor de espalda. Fue hace un par de semanas, era la una de la madrugada y hacía rato que la casa estaba en silencio. Ahí vino el pinchazo.
Podía haber despertado a mi mujer que estaba a 30 centímetros y, en fin, es médica; podía haber buscado en Google; incluso podía haber preguntado en algún foro de Internet. Y, sin embargo, abrí ChatGPT, le pregunté qué me apsaba y poco después apagué el móvil para irme a dormir.
Y me dormí enseguida.
Pero hace unos días, este análisis de Javier Lacort sobre ChatGPT Health me dejó pensando. No porque la IA estuviera entrando de lleno en el mundo de la salud y el "consejo médico" (algo que, por otro lado, yo sabía de primera mano); sino por algo que se comentaba en él: que "preferimos preguntarle a un chatbot que esperar tres semanas para una cita o que molestar a un amigo a las once de la noche".
Me dolió un poco. Ahí había algo interesante.
Las once de la noche; la una de la madrugada
"La competencia de ChatGPT", continuaba Lacort, "no es tanto con los médicos como con la red de apoyo emocional que solíamos tener. Preguntábamos a nuestra madre, a nuestra pareja, al amigo que estudió enfermería". Pero, de un tiempo a esta parte, "molestar a alguien se ha vuelto costoso emocionalmente".
Esa última frase es demoledora porque en ella está la clave de algo que va mucho más allá de los chatbots con usos médicos. Algo que atraviesa los problemas de los milenials con las llamadas, con las pescaderías, con el sexo o con cualquier interacción que no esté mediada por una pantalla: la profunda aversión cultural que el mundo moderno ha generado a la 'fricción social' .
Y es curioso porque, aunque recién en los últimos años vemos las consecuencias más llamativas, la sociología y el análisis cultural llevan décadas señalando lo que estaba pasando.
Tenemos a Norbert Elias, por ejemplo, que estaba convencido de que (como parte de la prolongación del proceso civilizatorio) los umbrales de vergüenza e incomodidad se están desplazando. Lo que hace cincuenta años era perfectamente normal —llamar sin avisar, pedir un favor a un conocido, interrumpir a alguien con una duda— hoy roza lo intrusivo. Es más, hoy lo hemos interiorizado.
Sennet hablaba del declive de la esfera pública (sabemos manejarnos en la intimidad y en la transacción pública, pero no en el terreno intermedio); la sociología de las emociones, habla del éxito del léxico terapeútico y de cómo ha cambiado eso la forma en la que nos relacionamos; Hartmut Rosa culpa a la aceleración social, la precariedad y la falta de tiempo la pérdida de eficacia de las redes de reciprocidad.
Es decir, tenemos muchos teóricos dándole vueltas a lo mismo: que somos un nuevo tipo de sujeto. Un sujeto que ha interiorizado las normas, que se autogestiona, que evalúa sus relaciones en términos de coste-beneficio emocional y que, sobre todo, experimenta la reciprocidad directa como algo friccional, incómodo y potencialmente invasivo.
Y, justo entonces, aparecen los chatbots. No hablo de la tecnología que hay detrás, ni de su naturaleza última: hablo de que el mismo proceso histórico que ha creado sujetos que así, ha creado algo que "los escucha",que se "muestra empático", que no los juzga y que los ayuda como y cuando puede. Sinceramente, lo raro sería no echarnos a sus brazos.
¿Puede Foucault ayudarnos a entender todo esto?
Google DeepMind
Ahí es donde, me temo, Foucault se vuelve interesante. En sus cursos del Collège de France de finales de los 70, el filósofo francés exploró toda una serie de dimensiones distintas del poder que, aunque no eran obvias, resultaban indisociables del Estado Moderno.
Antaño, el Estado iba sobre todo de controlar fronteras y recaudar algo de dinero. Pero ya no: ahora el Estado gestiona poblaciones (lo que llamaba 'biopolítica' e incluye cosas como programas de vacunación o políticas de natalidad) y, a la vez, se ocupa de cada sujeto en su particularidad (el llamado 'poder pastoral' que a través de médicos de cabecera, asistentes sociales, orientadores escolares o psicólogos nos escucha, nos aconseja y "conducen").
A la combinación la denominó 'gubernamentalidad': un poder que (perdonadme los 'palabros') es a la vez totalizante e individualizante.
Y esas, totalizante e individualizante, son características que parecen hechas a media de soluciones tecnológicas como ChatGPT Health. Un chatbot que, por un lado, aconseja a usuarios sobre sus problemas, escucha sin juzgar, orienta en microdecisiones y nos conoce (o 'simula conocernos') en nuestra particularidad; y, por el otro, hace triaje, implementa protocolos, normaliza umbrales, genera datos agregados y, en poco tiempo, se integrará con aseguradoras y sistemas sanitarios. Pastoral y biopolítico, a la vez. Y con una capacidad de infiltración increíble.
La diferencia y esto Foucault no pudo preverlo, es que ahora este poder no pende del Estado, sino de una corporación. Lo que antes era función comunitaria o eclesiástica, luego parcialmente estatal, ahora lo externalizamos a infraestructuras privadas con ánimo de lucro. Es una privatización del poder.
Los tentáculos del Estado
En el apartado anterior decía que "Foucault no pudo preverlo", pero creo que no es exacto. Es verdad que cuando este pensador teorizaba sobre "poder pastoral" o "biopolítica", pensaba en funcionarios públicos que operaban en instituciones estatales. Pero las mimbres estaban ahí.
Al fin y al cabo, el propio Foucault, en sus últimos cursos (especialmente en 'Nacimiento de la biopolítica', dedicado a analizar el 'neoliberalismo' como artes de gobierno), describía una mutación decisiva de nuestro tiempo: el Estado ya no se piensa a sí mismo como proveedor de servicios sino como garante de las condiciones para que el mercado funcione. Las funciones que antes asumía directamente (educar, curar, aconsejar, cuidar) pueden ser externalizadas a agentes privados.
En este sentido, los chatbots no son ni un accidente, ni una distorsión; son la culminación lógica del proceso histórico del desarrollo del poder moderno. De una formulación muy específica del poder moderno.
Porque el consejo que ofrecen estos sistemas no es neutro. Para funcionar a escala, tiene que estandarizar: ya sea a nivel de vocabulario (de repente, todos hablamos de 'poner límites' y 'validar emociones') o de criterios (con umbrales implícitos de cuando es 'normal' preocuparse). Su virtud es la escala; su precio es la convergencia hacia la media.
El problema es que, como Foucault mismo reflexionaba en cursos previos, el poder moderno no solo 'empodera', cuida y produce capacidades; no solo nos entrena para autogestionarnos, para "no depender", para "no ser una carga también". También nos aísla de su entorno social extenso, los 'forma', los vuelve legibles (gestionables) y los hace más vulnerables a las mismas tecnologías de gobierno: nos hace dependientes. Pero dependientes de él.
Y ese es el costo oculto
Dananjaya Nugraha
Porque, hasta ahora, de la frase de Lacort ("molestar a alguien se ha vuelto costoso emocionalmente") solo he discutido la parte de 'molestar'. La otra parte interesante es 'alguien'. Porque esa dependencia de la que hablaba ha sido, durante mucho tiempo, el casus belli de una guerra entre el Estado y las comunidades locales, las redes de reciprocidad, los cuerpos intermedios.
En la medida en que estas nuevas 'infraestructuras de consejo' puedan sustituir a esos poderes de Estado (y las funciones de esas redes de reciprocidad) ofreciendo orientación universal, conveniente y sin coste relacional: muchas relaciones humanas se quedarán, de repente, sin gasolina.
En teoría, liberados de favores menores y consultas triviales, tendríamos más tiempo y energía para las relaciones que importan. Pero la realidad es otra: sin esas 'excusas' para el contacto, los vínculos se atrofian. Ya se están atrofiando y eso es un enorme problema (que aún no hemos abordado)
En 1973, en su célebre artículo sobre la fuerza de los lazos débiles, el sociólogo Mark Granovetter explicaba algo contraintuitivo: que las relaciones superficiales (el conocido del gimnasio, el compañero de un curso, el amigo del amigo) son a menudo más valiosas que las relaciones íntimas para cosas como encontrar trabajo, enterarte de oportunidades o acceder a información que no circula en tu círculo cercano. Los lazos fuertes te dan apoyo emocional; pero los lazos débiles nos conectan con mundos que de otro modo no conoceríamos.
Hasta ahora, muchas de nuestras relaciones sociales (sobre todo, los "lazos débiles") se sostenían por su valor epistemológico. No sólo es "el amigo que sabe de fontanería", "el padre del cole que es abogado" o "la conocida médica"; también son cosas como tener un asesor bancario de confianza o llevar siempre el coche al mismo taller. Eran relaciones poco intensivas (pero fundamentales) que permanecían como reductos de la reciprocidad antropológica.
Como nos recordaban Rodrigo Villalobos y Fermín Grodira, la mayoría de los grupos humanos basaron su existencia en "ayudar a alguien no por un beneficio inmediato sino con la confianza de que en un momento futuro esa persona te ayudará a ti de igual manera". Esa reciprocidad no calculada era el tejido conectivo de la vida social.
Es cierto que muchas de esas conexiones sociales mantenían vivas ideas disparatadas (hace poco me quejaba de la pervivencia de ideas completamente desajustadas a nuestro tiempo como lavar el pollo), pero también funcionaban como un contrapeso frente a la captura del poder regulatorio del Estado (es imposible no pensar en cómo las cocinas tradicionales nos han protegido a la población de las manipulaciones de la industria sobre los consejos diéteticos y nutricionales). Teníamos un saber distribuido (imperfecto pero resistente) que no dependía de ninguna infraestructura centralizada y eso es lo que estamos perdiendo a pasos agigantados.
No sé si las redes de reciprocidad podrán sobrevivir cuando las oportunidades de ayudar caigan drásticamente. Quizá encontremos nuevas formas de vincularnos, nuevas excusas para mantener los lazos débiles, nuevos equilibrios entre eficiencia y pertenencia. Pero me temo que, por ahora, estamos demasiado ocupados no molestando a alguien a las once de la noche como para darnos cuenta de lo que perdemos.
Imagen | Xataka
-
La noticia
Michel Foucault estaba convencido de que "la visibilidad es una trampa". Y sin saberlo estaba hablando sobre nuestras vidas con la IA
fue publicada originalmente en
Xataka
por
Javier Jiménez
.
🔥 Ver noticia completa en Xataka.com 🔥
