Inteligencia Artificial y sociedad disciplinaria
“El individuo es sin duda el átomo ficticio de una representación “ideológica” de la sociedad; pero es también una realidad fabricada por esa tecnología específica de poder que se llama la “disciplina”.
Pablo Dávalos
Introducción
A fines del año 2022 la startup OpenAI abría el acceso al chatbot GPT, una inteligencia artificial generativa, que se constituyó en la primera en su género, en ser liberada. A partir de entonces, las startup de IA se multiplicaron y las aplicaciones basadas en IA también.
Esto alentó aún más al debate mundial sobre la Inteligencia Artificial que se había dividido, en lo fundamental, entre detractores y apologistas. Hay quienes ven en la IA promesas y desafíos que suponen incluso un nuevo paso en la evolución humana (lo denominan “singularidad”), mientras que otros, más pesimistas, ven en ella amenazas incluso a la supervivencia futura nuestra especie (por ejemplo, la propuesta distópica denominada el basilisco de Rokode algunos integrantes del grupo Less Wrong
Sin embargo y más allá de ese debate, el Chatbot GPT de OpenAI, finalmente, se consolidó y la empresa OpenAI, que tiene el soporte y apoyo de Microsoft, se convirtió en la intersección de todas las discusiones sobre IA, tanto a favor como en contra, lo que, a la larga, fortaleció su posición en el mercado. En efecto, el CEO de OpenAI, Sam Altman, llegó al extremo de suscribir un manifiesto global para pedir, a las industrias y centros de investigación que trabajan en IA, que se ralentice el desarrollo de la IA por las preocupaciones éticas que suscita, cuando su empresa avanzaba hacia versiones más potentes del Chatbot GPT.
Una vez abierto el mercado de la IA, OpenAI articuló un modelo de negocios para una versión más potente del chatbot GPT actualizada y en línea pero esta vez bajo pago, además de otros productos similares. En pocos meses obtuvo recursos considerables que amortizaron las inversiones realizadas. OpenAI y otras empresas de IA reconocen que la próxima frontera a alcanzar es aquello que ellos denominan la Inteligencia Artificial General(IAG). Un nivel que podría superar, según ellos, la inteligencia humana.
En el ámbito de sus incidencias sobre la economía global, el debate de la IA se inscribe, en lo general, sobre dos grandes tendencias: de una parte aquella que considera que la IA cambiará la forma de la producción, distribución y consumo que incidirá en las formas tradicionales del capitalismo, es decir, los mercados y las empresas; y, de otra, aquella que considera que la IA es una tecnología tan disruptiva que puede cambiar al capitalismo en su forma y fondo hacia un nuevo sistema del cual aún desconocemos incluso su nombre.
La primera tiene relación con el efecto desplazamiento en el mercado de trabajo de actividades cognitivas, en las actividades logísticas y en los análisis de mercados de consumo, entre otros, que ahora puede realizarlas la IA a un costo marginal de casi cero, mientras que las segundas intentan comprender de qué forma el capitalismo puede mutar hacia otro sistema económico bajo la presión de la IA.
Es muy temprano aún para hacer una evaluación sobre los impactos de la IA en el capitalismo como sistema económico, pero, no obstante, es necesaria una reflexión sobre los entramados históricos, culturales e institucionales que conforman al capitalismo y sobre los cuales actúa la IA en todas sus formas y en todas sus versiones.
Por lo pronto, la IA representa un conjunto de algoritmos que tienen capacidades heurísticas y probabilísticas. Esas capacidades le permiten, a estos algoritmos, ser autorrecursivos. Sus respuestas se actualizan y se perfeccionan gracias a estas capacidades y permiten superar, de largo además, el denominado Test de Turing, pero están lejos, aún muy lejos, de alcanzar parámetros mínimos que le permitan equipararse a la inteligencia humana.
De todas las industrias las que más han absorbido, desarrollado e incorporado la IA a sus modelos de negocios son aquellas relacionadas con la extracción del “excedente conductual”, de acuerdo al análisis de Zuboff
Sin embargo, hay algo que quizá tenga que ser considerado al analizar la IA y tiene que ver con el régimen social de acumulación y regulación sobre el cual se inscribe y se despliega. Pero, previamente, hay que definir estos conceptos. Sobre todo aquel de régimen social de acumulación, porque es necesario una especie de “cable a tierra” de la IA y sus desafíos.
La necesidad de otorgar un contexto histórico y social para la IA
La producción capitalista no se realiza en el vacío, hay un contexto histórico y social que le otorga sus condiciones de posibilidad. Si esto es válido para el capitalismo entonces también es válido para la IA. Es decir, no puede desprenderse la IA de la forma social e histórica que le dio origen y de la cual es resultado. Las cuestiones son: ¿cómo analizar esa forma social e histórica en su relacionamiento con la IA? ¿Qué marco teórico puede inscribir un fenómeno tan complejo como la IA en un momento determinado del capitalismo para comprender sus incidencias?
Existen varios marcos teóricos que permiten elaborar hipótesis para responder a estas cuestiones. Uno de ellos es la teoría de la regulación que busca las conexiones de los intercambios y de la producción capitalista con sus condiciones históricas e institucionales concretas y que apela a una comprensión del capitalismo desde la heterogeneidad, la complejidad y la interrelación
De su parte, la teoría económica moderna también ha generado varias explicaciones sobre el entramado social que rodea al capitalismo y que se conoce con el nombre de neoinstitucionalismo económico y que trata de comprender cómo influyen las reglas de juego en el intercambioeconómico
Muchos de los conceptos más modernos de la economía actual le deben a esta escuela de pensamiento su formulación y fundamentación como aquellos de: asimetrías de información, fallas de mercado, costos de transacción, riesgo moral, selección adversa, racionalidad limitada, entre otros
La referencia a estas escuelas de pensamiento tiene que ver con la necesidad de ubicar un contexto de tipo histórico y social a la IA y los instrumentos teóricos que permitan hacerlo. Ahora bien, si tomamos como contexto, por ejemplo, uno de los conceptos más importantes de la teoría de la regulaciónaquel de régimen de trabajo,como parte del régimen de producción,podemos relacionar la IA con el régimen de disciplina social asociado al régimen de trabajo y al régimen de acumulación.
El régimen de disciplina del trabajo es uno de los vectores más importantes del capitalismo porque de él depende toda la forma de producción, distribución y consumo. Se han identificado en el capitalismo moderno dos grandes regímenes de disciplina del trabajo: el fordismode la producción de cadenas de montaje (una visión de la producción desde la oferta) y el toyotismo de la producción justo a tiempo (una visión de la producción desde la demanda). La disciplina del trabajo se refuerza, en ambos regímenes, con una tecnología de control y disciplina a la fuerza de trabajo denominada taylorismo.
Sin un régimen de disciplinapara la fuerza de trabajo, es imposible la producción capitalista porque la disciplina implica la racionalización del tiempo de producción a la fuerza de trabajo humana. En el capitalismo el tiempo valoriza la producción de ahí la lucha incesante por reducir el tiempo de trabajo. La forma por la cual la fuerza de trabajo termina acoplándose al ritmo de la máquina supone un régimen de disciplina para esa fuerza de trabajo y, por extensión, a esa sociedad.
En el taylorismo,en referencia al ingeniero industrial Frederick W. Taylor que, cronómetro en mano, medía los tiempos de los trabajadores en las cadenas de montaje e, incluso, en sus necesidades fisiológicas, como el tiempo que se pierde en ir al baño, la disciplina a la fuerza de tabajo es de tal forma que, incluso en el siglo XXI, en varias industrias o comercios, los patronos obligan a sus empleados a usar pañales de adultos para evitar cualquier pérdida de tiempo en su jornada laboral. Así de puntual y excesivo es el régimen de disciplina del tiempo en el capitalismo.
La sociedad disciplinaria y la IA
Para que una persona dedique la mayor parte de su vida en una actividad que, en general, no le parece placentera o, en todo caso, no consta dentro de sus prioridades más existenciales, se necesita que esa persona no tenga otra opción que dedicar su tiempo y su vida a esa actividad aunque la considere odiosa o extremadamente aburrida, porque se establece desde una obligación ineludible y una necesidad impostergable. Así, las personas lo hacen porque implica la fuente de su sustento para sí mismos y su familia. Siempre es preferible esa actividad por odiosa que sea que estar sin trabajo y, por tanto, sin ingresos. Esas personas, quizá sin advertirlo, están prisioneras de condicionamientos sociales que han estructurado, definido y establecido su tiempo de vida dentro de coordenadas precisas de producción y empleo, y de las cuales no puede escapar.
El concepto que puede discernir de mejor manera esta situación es aquel de sociedad disciplinaria.Es un concepto que nace desde la reflexión del filósofo francés Michel Foucault
Estos regímenes de gobierno se instilan incluso dentro de la subjetividad de las personas para inducirlas a tener comportamientos previamente establecidos. A esas conductas que relevan de una régimen de administración de la vida dentro de un campo de relaciones de poder, Foucault lo denominaba biopolítica y a su incorporación como parte de la vida cotidiana de las personas, lo llamaba tecnologías del yo. Se tratan de regímenes de gubernamentalidad dentro de esas relaciones de poder que necesitan tanto de un régimen de verdad cuanto de un régimen de vigilancia permanente. Para Foucalt no hay un régimen de disciplina sin su correlato de verdad y vigilancia.
La sociedad disciplinariaes la condición de posibilidad para el régimen disciplinario del trabajo. Ahora bien, entre las personas que están obligadas a trabajar sin que se sientan plenamente identificadas con lo que hacen pero que están forzadas a hacerlo y, de otra parte, las personas que, en cambio, ponen toda su vida sin mediación alguna en cualquiera de las redes sociales hay, aunque no sea evidente para ellas, un determinado régimen de gubernamentalidad, es decir, un sistema disciplinario que supone un régimen de verdad y un sistema de vigilancia.
En efecto, para que una persona cualquiera utilice las redes sociales y traslade hacia ellas prácticamente su vida y sin establecer resguardos y precauciones, es preciso que esa persona esté inscrita dentro de una estructura social que pueda estimularla a hacerlo. Quizá esa estructura no sea evidente, pero, en cambio, sí es real la presión que esa persona siente cuando ha colocado algo en las redes sociales y espera obtener un determinado número de likes o de visualizaciones o comentarios. De no obtener los resultados previstos o que satisfagan aunque sea de foma mínima sus expectativas, esa persona siente una presión que no puede definirla con exactitud pero que forma parte de su relación con esas redes sociales. Esa presión que sienten esas personas, en realidad, expresa la estructura disciplinariade estas redes y plataformas sociales.
Esta estructura disciplinariano puede existir sin algo que le otorgue condiciones de validez y, al mismo tiempo, condiciones de posibilidad. Aquello que le otorga sentido a esta estructura disciplinaria de las redes sociales es, justamente, la sociedad disciplinariaque emerge con y desde la sociedad de la información o la sociedad en red pero que es diferente, en cierta medida, con las sociedades disciplinariasdel capitalismo industrial.
Esto lleva a preguntarnos: ¿Existe una sociedad disciplinariaen el contexto de la IA? Si es así, entonces, ¿cómo es la sociedad disciplinariaen la trama de la IA? ¿En qué se diferencia de la sociedad disciplinariadel capitalismo industrial? Para responder a esa cuestión necesitamos de conceptos más pertinentes, uno de ellos es aquel de la matrix. Pero antes necesitamos una reflexión previa sobre el concepto de información.
¿Qué es información en la textura de la IA?
Hay una importante literatura sobre la denominada sociedad de la información, y la forma por la cual las sociedades empiezan a conectarse en red y llevar hacia la red la definición de sus desafíos más importantes, sobre todo desde el aparecimiento del internet
Sin embargo, y en concordancia con el concepto de sociedad en red, aquello que, por el momento, conviene distinguir es la multiplicación de plataformas en internet a través de las denominadas redes socialesque permiten capturar información de las personas para someterlas a un proceso de tamiz, filtrado y sistematización, para extraer de ellas aquello que una determinada corporación o industria considera vital o relevante para su propio modelo de negocios. Es un fenómeno que aparece y se consolida en el siglo XXI.
Las empresas que procesan la información que las personas colocan en las plataformas y redes sociales, despojan a esa información de su contexto y de su entramado más vital del cual son origen y, una vez realizado este proceso, los transforman en datos.
Puede apreciarse, por tanto, que hay un matiz en aquello que la sociedad considera o cree que es informacióny lo que las industrias del big-data o el machine learning consideran información.
Para la sociedad y para casi todas las personas, información es un conjunto de referencias sobre las cuales pueden situar criterios de posicionamiento, respuesta, contexto y ubicación en el mundo. En ese sentido, la informaciónestá relacionada entre sí e imbricada a un vasto conjunto de universos simbólicos y marcos culturales de referencia que les otorgan validez y capacidad de interpretación. Es decir, forma parte de su ser-en-el-mundo.
La informacióncon la que toman decisiones las personas y, por tanto, las sociedades, de una manera u otra, apela a un horizonte más complejo de referencia y que es, precisamente, esa sociedad en tanto totalidad social en donde “la existencia humana es una existencia de varios”, es una existencia en plural
Es una información que está imbricada con hechosque siempre tienen como referencia marcos culturales, simbólicos y civilizatorios que les otorgan complejidad, interrelación, conexión y causalidad. Es una vasta red de vínculos que las sociedades crean y recrean de forma permanente y cuyas ramificaciones van del pasado hacia el presente y se proyectan al futuro y, a partir de ahí, adquieren historicidad: “Lo histórico-social es lo colectivo anónimo, lo humano-impersonal que llena toda formación social dada, pero que también la engloba, que ciñe cada sociedad entre las demás y las inscribe a todas en una continuidad en la que de alguna manera están presentes los que ya no son, los que quedan fuera e incluso los que están por nacer”
En la vida humana, el hecho más banal puede devenir histórico. Quizá se trate, en efecto, solamente de un hecho fortuito y casual pero, en la trama de la vida social-histórica, hay veces que ese hecho casual adquiere significaciones importantes y decisorias que solo se aprecian en su justa medida con el paso del tiempo. Esos hechos suponen información y esa información es, precisamente, la que las personas trasladan hacia las redes y plataformas sociales.
Para las industrias que trabajan en el big data, en cambio, su primera tarea es separar esa información, ese hecho, que colocan las personas de la trana que le da referencia y contexto y, por tanto, de todos los entramados simbólicos, imaginarios y culturales que le dan sentido y coherencia, para, simplemente, convertirlos en insumos y registrarlos convenientemente dentro de su modelo de negocios; es decir, la información se transformaendatoy, en tanto datos, desaparecen los hechosy toda su historicidad, interrelación y complejidad. A la agregación de ese volumen colosal de datos y su tratamiento más primario lo denominan big-data.
La lógica totalitaria del dato transforma también a la compleja trama cultural, histórica y simbólica que aloja a la información que colocan las personas y que provienen de hechos sociales, para que puedan convertirse en datossin relación alguna con esa trama que les dio origen. Hay un proceso de eliminación o depuración, por expresarlo de alguna manera, de impurezas culturales o simbólicas a la información que existe en las redes para que pueda ser tratada específicamente como dato puro. Es un proceso industrial necesario para que la información pierda su carácter de irreductibilidad y se transforme justo en dato.Al proceso en virtud del cual se elimina de la información toda referencia a lo humano-social, en tanto complejidad irreductible, se le denomina minería de datos.
Así, la minería de datosextrae de la información que las personas en sociedad ponen en las diferentes plataformas de redes sociales, aquellos datos que solo pueden servir para determinados modelos de negocios y se considera a la cultura y sus universos simbólicos o como lastre que debe ser purificado de la información, o como información que debe también sufrir un proceso de transformación en la industria del big data. En consecuencia, el concepto que la sociedad tiene sobre la informaciónno es el mismo con el cual trabaja la industria delbig data.
Esto nos lleva a otra consideración. En toda sociedad, la información es un hecho complejo porque implica relación, correlación, contradicción y totalidad. Porque todo ser humano es una totalidad que imbrica razón y afectividad en un solo proceso. Hay afectos y sentimientos, además de racionalidad e intención, en cada información que ponen las personas en las redes sociales y es información irreductible a una sola interpretación. Porque invariablemente hay, detrás de ellas, emociones. Porque, en toda información en tanto vivencia humana, hay un pathos.Hay en esa información colocada en redes sociales, en efecto, un ser humano que, en un bello verso de Mayakovsky, siempre se pregunta a sí mismo: “¿Qué hacer con el infierno que uno esconde en sí?”
La información del big-data, en cambio, no tiene nada de eso. Todo el pathos que hay en cada ser humano y que transmite a su información como si fuese un código que solo puede interpretarse de forma hermenéutica, en la industria del big-datadesaparece, por eso, justamente, es una industria sin pathos, vale decir, apática
Cada ser humano es insondable. Es un universo en sí mismo. Es una contradicción permanente que suscita aporías hasta para él mismo. Si algo caracteriza la condición humana es su carácter de irreductibilidad, por ello, la misma informaciónpuede tener matices contradictorios para diferentes personas o para la misma persona en diferentes momentos.
Cuando los seres humanos tienen a su disposición la tecnología de las redes sociales y transfieren a esas tecnologías aspectos de la comunicación humana, integran, inscriben y asimilan a su red cultural de significación e interpretación esas tecnologías, y justo por ello trasladan parte de sus vidas hacia esas redes sociales que, en cambio, para esta industria del big data, se transforma en mecanismos que atrapan, como si fuese una red real, no virtual, esa praxis humana-social.
Puede advertirse que la complejidad del hecho humano o, si se quiere, la irreductibilidad de la condición humana se puede convertir en un obstáculo para la industria de los datos. Si la información, en el sentido antes indicado, siempre es irreductible, esto hace imposible cualquier posibilidad de industrializarla.
Para la industria del big data, sin embargo, toda información tiene la misma contextura, significado y estructura. No hay diferencias entre ellas. Por ello, toda esa ingente cantidad de información debe ser homogenizada y tratada siempre bajo los mismos parámetros. Es decir, si la misma información puede ser interpretada de maneras diferentes por diferentes personas o en diferentes momentos, la industria que convierte la información en dato, debe eliminar esa posibilidad, caso contrario sería imposible su industrialización.
La industria del big data crea algoritmos que procesan datos en función de instrucciones precisas. Nace, así, el machine learning, es decir, la industrialización de los datos de forma sistemática y en función de modelo de negocios estructurados aprenden a depurar esa enorme cantidad de información. Estos algoritmos del machine learningson el antecedente más inmediato o, si se quiere, la referencia más puntual, de la IA.
Esta reflexión ayuda a prevenirnos sobre la IA, al menos en sus características más inmediatas. Es una tecnología que trabaja con datos. Su capacidad de elaborar respuestas heurísticas con métodos probabilísticos está hecha para hacerlo a partir de los datos. Su nacimiento, por el momento, está vinculada a la industria del big data. Si la IA trabaja con datoses imposible que pueda comprender la complejidad de la informacióny, menos aún, la historicidad del hecho;es decir, la IA no tiene y, al parecer, nunca tendrá, posibilidades hermenéuticas y, por ello, nunca alcanzará la inteligencia humana, a condición, por supuesto, que tengamos un concepto complejo de la inteligencia humana.
La industria que transforma la información en datos procede como cualquier otra industria: busca bajar los costos marginales para incrementar las tasas de rentabilidad. Una forma de hacerlo es a través del control del mercado y del consumidor.
Es una industria que necesita que el consumidor coloque información que pueda convertirse en datos a un costo marginal cero. Esta asimetría es el quid de su modelo de negocios. Necesitan que las personas coloquen de manera gratuita su información para luego procesarla y venderla. Así, la materia prima con la que trabaja esta industria, prácticamente es gratuita.
Pero solo puede crear esas condiciones de posibilidad desde una transformación a su conveniencia de la estructura disciplinaria de la sociedad. Es decir, la industria del big-data apela y se aferra a la sociedad disciplinaria para crear su propia estructura disciplinaria porque solo de esta manera puede sostener esa asimetría entre un costo marginal cero para la información que recibe y una facturación importante para la información que procesa y vende. Es una apuesta a aquella metáfora de la matrixcomo expresión práctica y concreta de la sociedad disciplinaria de la IA.
Trabajo y régimen disciplinario: La Matrix
¿Qué es la matrix? Evidentemente es una metáfora que permite condensar y sintetizar la complejidad del capitalismo de la información y la sociedad disciplinaria de la IA. Esto pone, frente a frente, dos determinaciones que, en conjunto, generan un significado necesario para comprender la IA.
En primer lugar está la referencia al capitalismo como el sistema económico que se sustenta en la tasa de ganancia que puede ser extraída desde cualquier circunstancia que permita hacerlo y que necesita condiciones concretas para su producción y reproducción. Estas condiciones generan un proceso de acumulación que no tiene límite alguno.
En consecuencia, si aquello que define al capitalismo es la búsqueda de una tasa de ganancia para cualquier circunstancia o situación que permita hacerlo, entonces toda actividad dentro del capitalismo es instrumental y estratégica, y la tasa de ganancia adquiere la forma de una finalidad. Los griegos clásicos a la finalidad de algo la denominaban télos. La ganancia, en el capitalismo, se convierte en un télos.
La información,como se ha indicado, es el resultado de la industria del big data, pero que se integra a un modelo de negocios en donde la información primigenia tiene un coste marginal cero. Por lo tanto, el capitalismo de la información, es el momento del capitalismo en el cual los datos se convierten en circunstancias, históricamente determinadas, desde los cuales se puede extraer ganancia a partir de esa asimetría entre usuarios que no cobran nada para colocar todo tipo de información e industrias que utilizan esa información gratuita como insumo de su modelo de negocios. Para extraer ganancia de la información, previamente, debe conformarse un modelo de negocios. El desafío, por tanto, es: ¿cómo extraer ganancia de la información? Y ¿cómo crear un modelo de negocios que le sea correlativo? ¿Cómo evitar pagar por esa información que se obtiene de forma masiva desde las personas?
Como se había visto, las sociedades integran a su trama cultural las tecnologías de la información y las ponen en perspectiva de sus propias posibilidades de comunicación con el mundo porque necesitan intensificar y ampliar su esfera de relación con los demás y lo hacen porque forma parte de su trama cultural e histórica. Ese proceso de antropología cultural y semiótica, se transforma, en la industria del big data, en la oportunidad de obtener información a un coste marginal nulo (es decir, gratuita), que puede generar rentabilidad si se la utiliza de manera estratégica.
Y es eso justamente lo que emerge en el capitalismo. La industria del big data es un nicho de mercado o, en términos de economía política, es un polo de acumulación de capital, que se apalanca en una asimetría antropológica y ontológica para generar rentabilidad: aquella de la necesidad de crear lazos de comunicación con los demás y, a través de ellos, referentes de ser-en-el-mundo, con aquella instrumental y estratégica que convierte a esa praxis de la comunicación humana y social en un modelo de negocios. Pero solo puede suturar esas dos dinámicas a través de su correspondiente régimen disciplinario.Es este régimen disciplinarioel fulcrum de su modelo de negocios.
En efecto, para articular un modelo de negocios con la información y los hechos sociales es necesario que la sociedad se articule en red y que, en esa red, las plataformas y redes sociales se establezcan como mecanismos de captura de la comunicación humana para integrarlas a un esquema de negocios en el cual la comunicación emitida por las personas se individualice y se integre dentro de una estructura panóptica de control que solo puede ser consistente y solo puede desplegarse desde un determinado régimen de disciplina y control social. Sin ese régimen de disciplina sería imposible la industria del big-data.
Si en el capitalismo industrial la forma del régimen disciplinario, sea en el fordismo o en toyotismo, era la empresa y la figura prometeica de la ideología del capitalismo industrial era el empresario, de tal manera que la empresa y el empresario se convertían en los héroes de la acumulación del capital, en la estructura disciplinaria de la sociedad de la información, aparece un nuevo tipo de empresa y de empresario. Son las startupy sus correlativos CEOs.
A diferencia de las empresas del capitalismo industrial las startupson más flexibles, más lúdicas, más, por decirlo de alguna forma, leves.Sus espacios son más transparentes. Sus horarios de trabajo son más flexibles. Sus entornos laborales son más amigables. Por ello los entornos fabriles de la IA son diferentes a cualquier otra empresa, parecen más íntimos, más lúdicos, más conviviales, más tecnológicos, pero en realidad obedecen a un criterio de disciplina, orden, control y sometimiento. Son espacios que formalmente no se parecen a las industrias, porque aquello que se disciplina en esos espacios es la imaginación, es la creatividad, es la innovación.
Así, se convierten en fábricas que extraen aquello que, antes del siglo XXI, solo era una abstracción: extraen intelecto generaly eso tiene que ver con la estructura de esas nuevas industrias y marca una diferencia de fondo con el entramado industrial del capitalismo del siglo XX. Las industrias de la IA extraen conocimiento, extraen inteligencia, extraen creatividad, imaginación. Son industrias en donde sus trabajadores requieren un máximo de atención a lo que hacen porque un mínimo cambio en una línea de código tiene consecuencias importantes. Son el núcleo de la Matrix. Ahí radica el centro desde el cual se va a irradiar la nueva sociedad disciplinaria de la IA y del capitalismo de la información.
A esta forma social que trata de incluir a todos los seres humanos dentro de una sola red que extrae información, modifica patrones de conducta, coloniza la subjetividad, controla y vigila, construye sentidos, crea un régimen de verdad y en la cual emerge y se constituye el fenómeno de la IA, para el presente ensayo se denomina matrix en referencia a la saga fílmica de las hermanas Wachovsky.
La matrix es disciplinaria por definición. Es el mundo en el cual los seres humanos creen vivir en libertad y no son conscientes que las coordenadas ontológicas que ellos visualizan sobre esa realidad son pura apariencia, puro simulacro. La trilogía de Matrix de las hermanas Wachovsky empieza, simbólicamente, con una toma en primer plano a un libro del filósofo francés Jean Baudrillard: Simulacro y Simulación. Porque esas son, justamente, las coordenadas del régimen disciplinario que emerge en el siglo XXI: la realidad como simulacro y el simulacro como estructura disciplinaria.
Los simulacros de la Matrix
El primer simulacro de la Matrixes el desvanecimiento de la sociedad disciplinaria en contextos de IA y redes sociales. Las personas, cuando entran a las redes sociales y a la sociedad de la información, no advierten que entran dentro de una estructura disciplinaria que los integrará a una red de vigilancia, control y conducción. Cada acto dentro de ese laberinto fortalece a esta estructura disciplinaria y convoca a un mayor control panóptico. La Matrixtiene un conocimiento exhaustivo de aquellos que entran en su red. Es por eso que los usuarios de las redes sociales sienten presión dentro de ellas e intentan salir de ese laberinto hundiéndose más en él. Curiosamente, existe una sensación de libertad absoluta dentro de la Matrix,por eso conviene preguntarse: ¿qué es la libertaden la Matrix?
Un segundo simulacro de la Matrixtiene que ver con la libertad de elección personal. Las personas piensan y creen que son libres para elegir pero en el mundo de la información convertida en dato, en donde opera el télosde la rentabilidad corporativa, esa libertad de elección es pura ilusión. En realidad, sus decisiones ya han sido definidas previamente. Desde sus opiniones políticas hasta sus opciones de consumo (lo que la teoría económica denomina preferencias reveladas), todas ellas han sido anticipadamente diseñadas, establecidas, articuladas y conformadas de manera independiente de su voluntad.
Hay un régimen de verdad al respecto que se denomina: teorías del comportamiento, y modelos de intervención sustentados analíticamente en la neuroeconomía.Cada like, cada comentario, cada post, cada réel, cada intervención humana en la Matrixes cuidadosamente procesada para construir un régimen de intervención sobre la conducta de las personas. De esta manera, las personas creen tener opiniones sobre el mundo y la vida, pero no advierten el sesgo de sus propios criterios. Hay una especie de poder pastoralen las redes que hace imposible escapar de ellas. En la Matrix no hay posibilidad alguna de ser libre. Como Virgilio que encontró una inscripción en la puerta del infierno, así, en la Matrixhay otra inscripción parecida: cuando se entra en ella, hay que perder no solo la esperanza, sino la libertad. Si la libertad de elección es un simulacro, ¿qué es la sociedad en la Matrix?
Un tercer simulacro de la Matrix es aquel del vínculo social. A medida que las personas se integran a las redes sociales menos vínculos sociales pueden crear, sostener y fortalecer. Puede ser que las personas en sus redes sociales, aparentemente, tengan muchos vínculos pero, a la hora de la verdad, están casi solos. Los pocos vínculos sociales que existían fueron rotos, precisamente, por las redes sociales. En ese sentido, las redes sociales actúan como una especie de agujeros negros que utilizan el narcisismo ingenuo de las personas para generar la fuerza de gravedad suficiente para replegarlas sobre sí mismas y, de esta forma, evitar el vínculo social.
Las plataformas y redes sociales destruyen los vínculos sociales porque eso, precisamente, forma parte de su modelo de negocios y de su estructura disciplinaria. No podrían generar modelos de negocios en sociedades en los cuales los vínculos sociales están aún vigentes. Necesitan que, incluso cuando las personas están reunidas, ninguna de ellas pueda crear vínculos sociales. Pueden estar juntos, pero cada uno de ellos deberá estar inmerso en su propio mundo a través de la interfaz de las redes sociales y sus dispositivos.
Esto nos lleva a un cuarto simulacro de la Matrix, y se trata de la complejidad de lo real. La Matrix crea su propia estructura ontológica de lo Real y sumerge a las personas en ese mundo. Es una de las dimensiones más panópticas y más disciplinarias de la Matrix. Para el efecto ha creado su propio concepto, aquel de realidad inmersiva.La experiencia inmersiva hace que las personas trasladen hacia esa realidad virtual más consistencia ontológica que aquella de su propia realidad histórica. Las personas ya no viven en su realidad histórica y social sino que empiezan a vivir en un mundo paralelo de realidad inmersiva diseñado desde la Matrix.
La interfaz requiere ahora de una separación radical de las personas con su propia sociedad y su tiempo. Es tan radical esa separación que ahora las corporaciones del big-data y la IA han creado dispositivos que ciegan de manera literal a las personas de su realidad humano-social para sumergirlos en una realidad paralela y controlada desde esas industrias (las gafas Google, o Apple, por ejemplo).
La distopía total de la Matrix es que las personas tengan una doble vida: en la cual lo virtual es espejo de lo real pero, de a poco, como Alicia en el país de las maravillas, el usuario transita hacia el interior del espejo y lo confunde con lo real. La Matrix apuesta al esquizo.La Matrix empuja a que las personas asuman el trastorno de identidad asociativo como algo común y normal. Esta apuesta por el esquizoes fundamental para su modelo de negocios y su estructura disciplinaria, porque solo desde el esquizo se puede comprender que las personas confundan la estructura ontológica de lo real. Solo desde el esquizose puede romper su autoestima y repararla en la Matrix.Alguna vez, los filósofos F. Guattari y G. Deleuze escribían que el capitalismo es esquizofrénico
La Matrix opera desde el principio del exceso de realidad. Hay tal profusión de información en las redes y plataformas virtuales que todos los usuarios que entran a la Matrixsienten que hay demasiada información; hay “demasiada realidad” y este “exceso de realidad pone fin a la realidad”, es una especie de “asesinato de la realidad”
En esa frontera está el fakecomo disimulación y ocultación, como manipulación y falsa verdad. El problema del fakees que empieza a desplazar a lo real y a asumir su rol como único régimen de verdad ¿Cómo distinguir a lo verdaderamente real en esa proliferación de datos e información? Gracias a la IA el fakeempieza a obtener todas las características de verdad del mundo. Es necesario un ejercicio de suspicacia y una separación de la Matrixpara poder discriminar la ontología de lo real. Pero son pocas las personas que pueden hacerlo. La mayoría sucumben y llega un momento de tal confusión que toman el fakecomo dato cierto y, sobre eso, construyen su doxa del mundo. Esto nos lleva al siguiente simulacro: ¿qué es el mundo?
Un sexto simulacro de la Matrixes la banalización del mundo. En la vida de las personas un evento banal no deja de ser precisamente eso: banal, trivial, intrascendente. Quizá provoque hilaridad o asombro en ese instante pero luego desaparece porque la estructura ontológica de lo real lo devora, y tiene que hacerlo para dar paso a aspectos considerados más importantes o trascendentes para las personas; después de todo, las personas tienen que resolver su vida diaria y confrontarla desde la pre-ocupación.
Sin embargo, en la Matrixla estructura ontológica de la realidad es incapaz de procesar lo banal e inscribirlo dentro de lo efímero del mundo. En la Matrixes la realidad misma la que adquiere el sustrato de lo banal. Así, una situación banal, en la Matrix,se convierte en viral. Algo que por sí mismo y en otras circunstancias no ameritaría sino una atención de pocos segundos, se convierte en un fenómeno de masas. Millones de personas se adhieren a él. Su heurística se convierte en patrón de comportamiento. Así, millones de personas compiten por ser más banales aún.
La Matrix es el reino de la banalidad. Todo lo que toca la Matrix deviene trivial, insignificante, independientemente de su importancia real. Esos hechos banales capturan la atención y el tiempo de las personas que suscriben de forma incondicional la forma espectáculo de lo real. Esa es la textura de la ontología de la Matrix: la trivialidad del mundo y su conversión en espectáculo permanente. Así, el mundo se fragmenta y es imposible comprenderlo en su unidad y, al mismo tiempo, adquiere una consistencia de banalidad.
El problema es que se sabe, desde Hannah Arendt, que la banalidad del mundo es también la banalidad del mal
Finalmente, está el simulacro de las denominadas tecnologías de la información y comunicación (Tics). Se supone que las sociedades interiorizan las Tics para convertirlas en instrumentos que posibiliten la comunicación social. Pero en laMatrixse invierten los términos. Las Tics convierten a las sociedades en sus propios instrumentos. Las Tics dejan de ser objetos para devenir sujetos y, en ese proceso, transforman a las sociedades en objetos. No son las sociedades quienes manejan las Tics, en la Matrix es al revés. Las personas se convierten en apéndices de estas tecnologías en un proceso que replica, desde otras perspectivas, la crítica a la alienación del trabajo que hacía Marx, en los Manuscritos de 1848.Marx decía que el trabajador alienado realmente es libre fuera del trabajo, porque solo fuera de la fábrica siente que ha recuperado su propio tiempo y su propia esencia humana. Así, para recuperarse de la alienación de la información, las sociedades necesitan salir de la Matrix,pero eso, en el siglo XXI, aún es imposible.
Todos estos simulacros sobre la libertad, la sociedad, la realidad, el poder, la banalidad del mal, entre otros, son la expresión de la estructura disciplinaria de la sociedad de la información o de la sociedad en red; pero esta estructura disciplinaria sería imposible sin la IA.
La IA es algo más que una tecnología con capacidades autorrecursivas. Es el vector que atraviesa la Matrix y le otorga condiciones de posibilidad. Sin la IA laMatrix sería imposible. La IA, en efecto, es la tecnología que permite la construcción de la estructura disciplinaria de la Matrix.
Los simulacros de la Matrixgeneran contradicciones porque tienen que imponerse sobre la vida real y sobre las estructuras de dominación del capitalismo. De ahí, de esas contradicciones, nacen dos de las figuras más emblemáticas de la Matrix:el influencery el hacker.
El momento de la norma y el pliegue infinito: el influencer
El influencerexpresa el régimen disciplinario de las sociedades de la información en su forma más pura mientras que, en el otro extremo, está el hacker que expresa la ruptura y que abre una puerta de escape a ese régimen disciplinario. ¿Por qué el influencer representa la forma más pura del régimen disciplinario de la sociedad de la IA?
Porque su autoridad y dominio sobre sus seguidores depende de su grado de conexión y convergencia con la Matrix. El influencer no puede desconectarse de la Matrixliteralmente en ningún momento. Todo lo que hace, todo lo que piensa, todo lo que siente, tiene que estar en función de la Matrix. Se transforman de objeto en interfaz y, de esta forma, lleva la cosificación a un siguiente nivel. De hecho, están más allá de la cosificación. Son una especie de cosificación elevada a la potencia.
El influencerha suscrito un pacto mefistotélico con la Matrixen el que acepta entregar su vida a cambio de convertirse en interfaz continua de la Matrix. Por supuesto que la Matrix lo va a recompensar y lo va a convertir en referente si cumple con lo pactado. Así, los influencers se transforman en escaparates de la Matrixque invitan a todos a sumergirse en sus laberintos, a que suscriban su universo panóptico y de control y que acepten, sin mediación alguna, sus simulacros.
La Matrix no se hace problema si el influencer es, incluso, crítico a la Matrixeso, en realidad, refuerza su capacidad inmunitaria.Aquello que la Matrixquiere del influenceres su capacidad de adscribir dentro de la Matrixal mayor número de personas posibles y que, en tanto interfaz, puedan ayudar a construir su estructura disciplinaria. Actúan como los nuevos sacerdotes de una nueva religión. Como los portadores de la verdad del mundo nuevo. Como representantes de un universo del cual ellos poseen los códigos de acceso.
Para ser creíbles deben sacrificar su vida, su tiempo, su creatividad, sus sueños, incluso hasta sus horas de descanso, en función de la Matrix.Los influencers llegan a tal extremo de alienación que incluso sus necesidades fisiológicas más básicas son parte de la Matrix. No pueden ser por fuera de la Matrix. Su existencia vital y su consistencia ontológica han sido transferidas a la Matrix.
Sus seguidores se cuentan por millones. Sus horas en la red exceden a cualquier horario laboral. Como se trata de un mercado altamente competitivo, deben ser cada vez más audaces, más creativos, más innovadores. Todo el tiempo están en permanente desafío contra sí mismos.
Así, representan casi en grado puro la estructura disciplinaria de la Matrix.Para ellos, lo real ha perdido toda consistencia ontológica y se convierte en simulacro. Los influencersya no son-en-el-mundoni tampoco están-en-el-mundo, porque han decidido separarse del mundo para entrar de lleno en el simulacro de la Matrix.Son otro simulacro más de la Matrix.
Para ello, su nivel de cosificación debe ser total. Se transforman en el espejo en el cual se mirarán millones de personas que querrán ser como ellos. Ese espejo devuelve el reflejo mimético de la Matrix que lo devuelve como deseo mimético: todos quieren ser o quieren imitar al influencer.Todos empiezan a ver al mundo a través de los ojos del influencer.
El influencerconecta las tecnologías del yocon los modelos de neuro-comportamiento que diseña la Matrixy que permiten el control, la vigilancia, la manipulación y la generación de patrones de conducta. Es el interfaz clave de esa nueva estructura disciplinaria de la Matrix.
El influencerle evita a las personas el duro trabajo de interpretar el mundo para ser en el mundo. Desde la cocina, el turismo, las teorías de la conspiración, la música, las noticias de actualidad, los deportes, la computación, los juegos en línea, las criptomonedas, la IA, el diseño gráfico, la moda, los libros de literatura, el erotismo, el porno y el sexo, la salud, en fin, desde todas las esferas de la vida, es decir, desde la ontología de lo real, el influencer se convierte en mediación entre las personas y el mundo. En la interfaz que les permite a las personas comprender, interpretar y ser en el mundo desde el diseño previamente creado desde la Matrix y puesto a punto por la IA. Por ello, la Matrixpuede orientar los comportamientos de millones de personas en función de la industria de la publicidad y el marketing
Así, expresan una patología social y ratifican el régimen disciplinario de las sociedades de la IA y de las redes sociales. Los influencersno pueden romper con la Matrixporque son la creación más aberrante de este nuevo régimen disciplinario. Son su patología más evidente. Son seres humanos que se han cosificado de tal manera que devienen en pura extensión de la Matrix.
El momento disruptivo de la IA: el hacker
Al otro lado del influencer está el hacker. ¿Qué es el hacker? Es la persona que conoce las fallas y debilidades de las líneas de los códigos de programación y las aprovecha en benenficio propio. Se instila por esas brechas. Abre puertas y candados prohibidos y tiene acceso a información que no debería ser pública. Ellos tienen su propio territorio. Está en los subterráneos de la red. La llaman, de hecho, la red obscura, la darknet.
Mientras el influencerbusca ser más conocido, el hacker busca ser reconocido. Por eso no sabemos, por regla general, quiénes son. Los hacker han desarrollado sus propios símbolos y códigos. Provienen, muchos de ellos, de la misma industria de la información, aunque también de la academia o de institutos de investigación, aunque hay casos de programadores adolescentes que devinieron en hackers por pura aventura.
¿Qué los lleva a ser hackers? ¿Qué implicaciones tiene su posición dentro de la matrix? Una primera constatación de su rol es que apelan a la ruptura. El hacker es la ruptura del código. Es el desciframiento de ese código pero por fuera de la Matrix. Al situarse por fuera de la Matrixsuponen una amenaza. El sistema los considera ya no disidentes sino delincuentes. Alterar el código de la Matrixes un delito.
El hackeres la demostración que la Matrix es vulnerable y eso aterra a la Matrixque se pretende omnipotente y omnisapiente. Puede encontrar los puntos de falla y aquellas líneas de programación en donde unos leves toques por ahí y otros por acá, cambian por completo el sentido del programa. Curiosamente, el hackeres un invento de la misma Matrix. Nacieron desde la programación de virusinformáticos que fueron creados por la propia industria de la programación y la informática para asegurar el modelo de negocios de los anti-virus.
De ahí al hackersolo había un paso. Toda la industria de la programación tiene abiertas puertas y ventanas en sus códigos para que puedan ingresar los virus informáticos y fortalecer un modelo de negocios al que ahora denominan criptoseguridad. Precisamente, por esas puertas y ventanas entraron los hackers.De ingenieros y técnicos expertos en ciberseguridad o criptoseguridad, devinieron, por conveniencia o por cualquier otro motivo, en hackers. Detectar esas puertas y ventanas requería un poco de habilidad, paciencia y conocimiento.
De la misma manera que se crearon los virus informáticosla Matrix ahora ha podido domesticar a los hackers. Los ha integrado a su industria de ciberseguridad.Cuando aparece un hacker con potencialidades importantes en la darkweb(o darknet), inmediatamente la Matrix lo coopta y lo integra a su plantilla. Así, el hacker deviene en un hacker white hat(de sombrero blanco), gracias a esa lógica inmunitaria de la Matrix.
De amenaza, el hackerse transforma en guardián de último recurso de la Matrix. Claro que están los black-hat(sombreros negros), aquellos irreductibles a la seducción de la Matrixy que persisten, sea por sus propios intereses o por cualquier otra razón, en permanecer por fuera de la Matrix.Sin embargo, los black-hatcumplen, para la Matrix, un rol de heurística: indican aquellos puntos débiles que deben protegerse.
Como puede apreciarse, la Matrixes panóptica, casi invulnerable, cada vez más potente y su apalancamiento en la IA la hace más totalitaria. Quizá se trate de una visión pesimista pero que trata de describir de la manera más objetiva posible la forma por la cual la IA se convierte en una tecnología clave para una nueva estructura disciplinaria.
Conclusiones
La IA es una herramienta. No sabemos aún si provocará una “singularidad” o tal vez, como en los filmes distópicos, sea la responsable del “fin del mundo”, al menos del mundo tal como lo conocemos, pero sí sabemos que está plenamente integrada, de diferentes formas, al capitalismo. También es cierto que, para la inmensa mayoría de personas, la IA es aún asumida como “algo más” que solo una tecnología. El hecho que la IA trabaje con algo parecido al pensamiento humano hace que las fronteras de su comprensión sean más difusas y ambiguas con respecto a otros fenómenos sociales y que las personas lo vean con temor y recelo pero que, algunas de ellas, con entusiasmo.
Pocas personas apostaban a que la IA surja en el tercer decenio del siglo XXI. La mayoría la veían como una tecnología más del futuro que del presente. Pero ahora está ahí y hay que comprenderla. Apenas surge la IA en los chatbots de inteligencia artificial generativa, apela a los límites y a las posibilidades de la IA: ¿qué más podemos hacer con la IA? ¿hacia dónde nos conduce la IA? Y los temores: ¿me quitará el trabajo la IA? ¿Podré utilizarla para cumplir con mis tareas escolares y tener más tiempo? Si esto es así, ¿qué rol para la escuela y los educadores? Si pierdo mi trabajo por la IA ¿qué pasará conmigo, cómo y dónde podré volver a trabajar? Ello justifica a los nuevos ludditas. Personas que creen que la IA destruirá sus fuentes de trabajo y que, por tanto, la IA debe ser destruida, ralentizada, controlada o lo que se quiera que se haga pero con tal de detenerla.
Pero una vez que hemos enunciado esas aprehensiones regresamos a ver al mundo y podemos constatarlo en sus límites más estrechos: la precarización, la concentración del ingreso, la xenofobia, la guerra, las víctimas del fentanilo, la pobreza, la obscena riqueza de los más ricos, la violencia en todas sus formas. Esto obliga a cambiar de perspectiva y preguntarnos: ¿Puede la IA ayudarnos a cambiar este mundo?
Si la IA puede ayudar a cambiar el mundo, ello nos obliga a establecer un “cable a tierra” para la IA. En efecto, la IA no puede estar ni más allá ni más acá de nuestras propias sociedades. Somos nosotros quienes la hemos creado y somos nosotros quienes definimos sus límites y posibilidades. En ese sentido, la IA es aún una tecnología que recién empieza su despliegue y su orientación futura dependerá de nosotros como sociedad.
Podemos utilizarla para humanizar al mundo, por supuesto. Pero también podemos utilizarla como arma de guerra, como en efecto ya sucede. Como toda tecnología que irrumpe es disruptiva. Pero hay un riesgo que ya podemos constatarlo. La IA empieza a converger hacia la industria de la extracción del excedente conductual de las industrias de la información y de las redes y plataformas sociales que la utilizan para crear una nueva estructura disciplinaria de control, dominación, vigilancia y generación de patrones de conducta.
La sociedad disciplinaria del capitalismo no desaparece con la IA sino que muta y se produce un pliegue en esa estructura disciplinaria. La IA es una tecnología que permite un régimen disciplinario de nuevo tipo que se sustenta en simulacros. La IA tiene la capacidad de construir, replicar, extender y consolidar esos simulacros. No existe otra tecnología con esa capacidad, de ahí que su utilización intensiva por parte de las corporaciones que extraen “execedente conductual”
En ese contexto, la resistencia a la Matrixaparece casi imposible. Porque, ¿cómo asumir la realidad de un simulacro para cambiarlo? Los simulacros no se cambian. Mutan. Es imposible hacer revoluciones y protestas a un simulacro. Por eso, la estructura disciplinaria de la Matrix deviene en estructura disciplinaria de la dominación política en el capitalismo tardío.
Pero ello no significa que aquello que hemos denominado la Matrixtenga asegurado su dominio. En absoluto. Las sociedades, cuando comprenden sus desafíos, terminan por asumirlos, y uno de ellos será liberar la IA de la Matrixpara ponerla al servicio de la humanidad. ¿Podremos hacerlo?
Bibliografía
Arendt, H. (2000). Eichman en Jerusalén. Un estudio sobre la banalidad del mal. Barcelona: Lumen.
Auerbach , D. (17 de July de 2014). The Most Terrifying Thought Experiment of All Time Why are techno-futurists so freaked out by Roko’s Basilisk? Obtenido de https://slate.com: https://slate.com/technology/2014/07/rokos-basilisk-the-most-terrifying-thought-experiment-of-all-time.html
Ayala Espino, J. (2000). Instituciones y Economía. Una introducción al neoinstitucionalismo económico. México D.F.: FCE.
Baudrillard, J. (2002). La Ilusión Vital. Argentina: Siglo XXI Argentina.
Boyer, R., & Saillard, Y. (1995). Régulation Theory. The State of the Art. London & NY: Routledge.
Castells, M. (2000). La sociedad en Red (I). Madrid: Alianza Editorial.
Castoriadis, C. (2010). La Institución imaginaria de la sociedad. Buenos Aires: Tusquets Editores.
Deleuze, G., & Guattari, F. (2004). Mil Mesetas. Capitalismo y esquizofrenia. España: Pre-textos.
Foucault, M. (1978). Vigilar y Castigar. México: Siglo XXI Editores.
Foucault, M. (2004). Naissance de la Biopolitique. Cours au Collège de France (1978-1979). Paris: Gallimard-Seuil.
Foucault, M. (2013). La société punitive. Cours au Collège de France 1972-1973. Paris: Gallimard-Seuil.
Han, B.-C. (2021). No-Cosas. Quiebras del mundo de hoy. Colombia: Taurus.
Mayakovsky. (1982). Poesía. Madrid: Akal.
North, D. (2006). Instituciones, Cambio Institucional y Desempeño Económico. México D.F.: FCE.
Van Dijck, J. (2016). La cultura de la conectividad. Una historia crítica de las redes sociales. Buenos Aires: Siglo XXI Editores.
Williamson, O. (2013). Las Instituciones Económicas del capitalismo. México DF: FCE.
Zuboff, S. (2020). La Era del Capitalismo del Vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder. Colombia: Paidós.
Pobre ptoooo, care vrGa correista y seguro maric-0n sin cerebro
ResponderEliminarTranquilo vrG ya empiezo a pasar este blog por Telegram que te lo llenen de Spam por sapo
ResponderEliminar