El desarrollo de las nuevas tecnologías abre un debate importante respecto a sus usos, la ética en la que nacen y se despliegan, la regulación y, necesariamente, el rol del Estado frente a este inmenso desafío.
Irrumpió como una ola que golpea de pronto, sin previo aviso. Esa es la sensación: algo se iba gestando hasta estallar e inundarlo todo. Como un tsunami que comienza a entrar por todas las hendijas, agarrando por sorpresa a los que hasta hace un rato estaban mirando tranquilamente cómo caía la tarde.
Sin embargo, esto que parece tan espontáneo, que emerge por estos días y se visibiliza, sobre todo, con el lanzamiento masivo del chat GPT 4, viene elaborándose desde hace décadas, a puertas cerradas y a espaldas de la sociedad. Y, sin saberlo, venimos colaborando con ello.
Lo cierto es que, nos aterre o no, nos guste, nos inquiete, nos conduzca a nuevos debates, nos movilice: la Inteligencia Artificial (IA) está entre nosotros y parece abrir una nueva era.
Mientras Italia se convierte en el primer país en prohibir el Chat GTP 4 y la Unión Europea elabora la primera constitución para regular las IA, las preguntas aparecen por estas horas atropelladas y todas juntas. Qué implicancias tiene, qué nuevos desafíos surgen en este camino que parece abrirse hacia lo desconocido.
La socióloga y doctora en Comunicación, Verónica Sforzin viene trabajando en el tema hace largos años. De hecho, además de publicar el libro “Geopolítica de las Tecnologías de la Información y la Comunicación: Un análisis desde América Latina y el Caribe“, recientemente fue ganadora del primer puesto del Premio Ensayo Pensar Nuestra América con Categorías Propias de la editorial CICCUS y la ASOFIL, con un trabajo que, justamente, aborda el despliegue de las Inteligencias Artificiales proponiendo una mirada desde el Sur Global.
Así, en diálogo con Al Margen respecto a los sucesos de los últimos días -este furor de las IA- Sforzin señala que, si bien asistimos al lanzamiento masivo del chat GPT4, la utilización de las IA ya se viene produciendo en diferentes orbitas de la vida cotidiana sin que haya una reflexión colectiva, comunitaria, respecto a cómo usarlo, cuáles son las responsabilidades, los derechos y las obligaciones de los ciudadanos.
“Hay un desarrollo tecnológico que necesitó desde sus inicios -hace mas de 20 años- de todos los datos de los pueblos, de los ciudadanos del mundo. Y esta utilización de los datos y los metadatos se produjo sin consentimiento ni debate social. Entonces, ahí hay un problema que como sociedad tenemos que analizar y es: porqué esta tecnología se desarrolla, no de cara a las sociedades, sino de manera oculta, a espalda a las sociedades”, dice la especialista y explica que, esta tecnología, no se desarrolló de una manera democrática, en función de las necesidades sociales y, en ese sentido, rescata como eje central el rol que debiera tener el Estado, que hasta ahora no fue parte, como así tampoco las políticas públicas.
“Son las grandes corporaciones angloamericanas las que han monopolizado este desarrollo y el Departamento de Estado de Estados Unidos. El problema que ahora está estallando es que todo este desarrollo necesitó nuestra información y nuestros datos para ser posible, pero, a su vez, lo hicieron sin que la sociedad esté al tanto”.
Regular, cómo
Mientras todo se mueve rápidamente, los desafíos que se abren son muchos y diversos. Ya por estos días, incluso, vimos circular una carta firmada por miles de líderes del mercado tecnológico, entre ellos Elon Musk, demandando una pausa de seis meses en el desarrollo de sistemas más potentes que el nuevo GPT-4 de OpenAI, respaldado por Microsoft. Para muchos, el texto peca de apocalíptico, pero las resonancias que plantea sobre los profundos riesgos para la humanidad en el uso de las IA no dejan de generar cimbronazos. En el medio, ¿quién regula todo esto?
“Está claro que -y ya muchos de los que trabajaban en grandes corporaciones del Silicon Valley lo dicen- el desafío central es cómo el Estado va a regular el mundo digital. Es el Estado el que tiene que ordenar este terreno. Si no lo ordena el Estado lo ordenan las grandes corporaciones en función de sus intereses. Una regulación implica, por un lado, que se abra la gobernanza de Internet y los Estados puedan ser parte y problematizar cómo es la circulación de la información en el mundo digital. ¿Por qué el Estado? Porque los pueblos, en el sistema democrático, ejercen la ciudadanía, ejercen sus derechos a partir de las políticas públicas, de la elección de candidatos, y del desarrollo de la política pública estatal”.
-Tu último trabajo, publicación que saldrá próximamente, habla de “Ética, poder y tecnologías”. ¿Cuál es la tesis central del libro?
-Lo que vengo planteando hace ya muchos años, junto con otros analistas de las tecnologías, es que los Estados tienen que ganar en soberanía para impulsar su propio camino tecnológico. Digo camino y no desarrollo porque parece que hay un solo lugar a dónde llegar con el término desarrollo y hay que desembarazarnos de estas herramientas teóricas que no nos sirven en el nacimiento de un mundo multipolar. Lo que tenemos que problematizar en nuestros países es cuál va a ser nuestro propio caminar en tecnología, qué tecnología impulsamos, cómo la impulsamos, cómo nos conectamos con otros países. Esto implica un desacople de cómo está planteada la tecnología globalista angloamericana para pensar y para estimular nuevas articulaciones donde los Estados sean los mediadores. Hay que salirnos de este esquema que construye una nueva colonización tecnológica.
-Hacés también un desarrollo importante sobre la ética de las IA y cómo esta se plantea desde su matriz.
– A nosotros en esta economía de la tecnocracia liberal se nos aparece como un servicio, un chat donde pones “quiero escribir un libro de historia argentina de 120 páginas” y te lo escribe. Pero atrás de esto que se nos aparece como un servicio está que, cuando interactuamos, lo vamos entrenando, vamos mejorando esta IA y vamos dando toda nuestra información y datos también para mejorarla. La contracara sistémica de esto que se nos aparece como servicio, es que se nos impone un sistema que nos despoja de nuestra información y del conocimiento, para consolidarse en lugar de predominio, de poder, mientras consolidan un sistema de clases donde el que más tiene mejor acceso tiene a la tecnología. Van organizando las cadenas de valor, los tiempos del trabajo y lo cualitativo del trabajo. No están los Estados nacionales reglamentando todas estas cosas. Así como están las cosas, la economía no la organiza el Estado sino las corporaciones con sus intereses geopolíticos.
Manipulación social y de las emociones
Otro aspecto que surge necesariamente y sobre lo que se viene alertando, es la manipulación social y de las emociones en el mundo digital. Sobre esto, Sforzin señala que la monopolización de los datos y la información, la construcción de perfiles psicosociales, tiene como objeto y objetivo la consolidación de un proyecto globalista neoliberal financiero especulativo que se basa en la manipulación social y de las emociones.
Así, como señala en uno de los capítulos de su próximo libro “la Inteligencia Artificial (IA) y las Tecnologías de la Información y Comunicación (TIC) propulsadas meteóricamente en las últimas décadas, poseen un doble carácter: Por un lado, es la forma en que el capital transnacional se consolida, expandiendo sus cadenas de valor globales y absorbiendo el conocimiento y la tecnología de la periferia, los datos de la población mundial; por el otro es la forma en que aparece y se ejerce la dominación del modelo angloamericano. Este tipo de tecnología se centra en el sujeto y su subjetividad como ninguna otra en la historia de la humanidad. La sociedad disciplinar que estudio Foucault ya mostró cómo las ciencias duras, pero también las ciencias sociales – la psicología, la sociología, etc. -, la técnica y las tecnologías se pueden disponer al servicio de la construcción de un sujeto acorde a los tiempos y necesidades de la producción industrial y de los grupos de poder dominantes en ese entonces. La adaptación del sujeto y de las subjetividades no se produce desde el momento de la producción de lo social o mediante técnicas disciplinares de la sociedad civil –propias del capitalismo industrial- sino mediante la apropiación por desposesión de un nuevo territorio: la experiencia humana. La apropiación de la comunicación social, de los vínculos, transformándolos en datos capaz de ser monetizados”.
“Esa es otra de las contracaras. Se nos aparece como un servicio y en realidad eso permite que esta inteligencia después nos venda mercancías, nos inciten a determinados comportamientos ideológicos, sociales. Hay conjunto de cambios que se están produciendo, incluso a nivel de subjetividades, que tienen que ver con estos nuevos modos de producir poder”, explica.
-En medio de todos estos debates, ¿las IA pueden ser una herramienta al servicio de la comunidad, de un modo distinto a lo que se plantea?
-Es posible pensarlo como bien común para la sociedad, el tema es que tiene que haber una reapropiación de las sociedades de esta tecnología y eso empieza también porque el Estado tome las riendas de este desarrollo tecnológico, si no, no hay posibilidad de que las sociedades en comunidad se apropien de esta tecnología. Y eso implica repensarlas, como dice Galeano: ponerlas patas para arriba. Sí, hay que soñar con otra tecnología, otro tipo de redes sociales, de IA donde los datos sean realmente resguardados y nos sirvan para generar herramientas para bajar los niveles de desigualdad, para impedir que haya tantos intermediarios entre consumidores y productores, por ejemplo, para pensar una región con otras capacidades industriales, de desarrollo, de mercado interno, donde podemos llegar a cambiar la matriz productiva y de alguna manera sortear las trabas que ponen las oligarquías locales. Pero para eso, el pueblo tiene que estar consciente y organizado, pidiendo que estas cosas se hagan. El ocultamiento, desde hace décadas, como nunca en la historia de la humanidad, de estos desarrollos tecnológicos que se hicieron a puertas cerradas en laboratorios tremendamente elitistas impiden que las sociedades comprendan la magnitud de cambio que se está produciendo.
Por Violeta Moraga
Cooperativa de Comunicación Popular Al Margen
Seguí leyendo Al Margen:
