Durante la tercera semana de enero se realizó el Congreso Futuro 2024, decimotercera versión de una iniciativa que congrega a grandes exponentes de la innovación científica y tecnológica de todo el mundo. El evento que se llevó a cabo en el CEINA (Centro De Extensión Del Instituto Nacional), en Santiago Centro y durante seis días -del lunes 15 al sábado 20 de enero- reunió a un público deseoso de sumergirse en las ponencias, debates, conversatorios y novedades del tema medular de este año: la Inteligencia Artificial.

Por Pamela Villagra Espinoza y Nicolás Cea Casas*

Y es que que el nombre «Congreso Futuro 2024: ¿IAhorahacemos?» representa muy bien la incertidumbre con la que nos enfrentamos a esta época marcada por los cambios y las diversas crisis que genera este sistema, a las cuales se suma hoy la crisis existencial de afrontar una herramienta que refleja y exacerba lo que somos. No por nada Cecilia Celeste Danesi, expositora argentina, abogada e investigadora especializada en IA, género y derecho, caracterizó tan bien este momento de la historia -en términos del psicoanalista Sigmund Freud – como la "cuarta humillación al narcisismo humano".

La primera derrota del ego humano había sido la fatalidad de enfrentarse a que no éramos el centro del universo con la revolución heliocéntrica. La segunda derrota del ego fue entendernos como una especie más dentro de la cadena evolutiva con las teorías de Darwin. Y la tercera es el hecho de confrontar de que éramos víctimas de nuestros impulsos e instintos con los planteamientos del psicoanálisis. Ahora miramos de frente al inexorable vacío que puede producir el hecho de ver nuevas tecnologías sacadas de películas distópicas. Aquellas donde los robots inteligentes y la automatización del trabajo, diseñados para aparentemente facilitarnos la vida, se transforman vertiginosamente en armas de autodestrucción masiva producto de nuestra incapacidad de comprenderlas y, básicamente, comprendernos.

Este hecho desentraña muchísimas preguntas -tanto aquellas que han acompañado desde siempre al Homo sapiens como las que se generan de esta nueva relación con las máquinas – y además muchísimas urgencias que debemos atender como especie.

La primera expositora, Kate Crawford, escritora, científica y profesora australiana, conocida por su trabajo en el campo de la ética de la inteligencia artificial, fue enfática en esto: tenemos un nuevo modelo de IA cada mes y su impacto en el trabajo, los flujos económicos y la ecología nos obliga a pensar el cómo estamos utilizando estas tecnologías y a quiénes beneficia. Según Crawford, nos encontramos demasiado distraídos por la novedad y dejamos de ver que las potencialidades y riesgos de estas herramientas deben ser discutidas en el terreno de lo político, no de lo tecnológico, ya que la concentración de poder, en manos de las corporaciones y multimillonarios del mundo digital, junto a la monetización de la atención y los sesgos que trae el feedback humano, tienen sus costos escondidos y sus impactos aún están por verse.

Esta perspectiva de alerta estuvo presente en gran parte del Congreso, el cual se caracterizó por una variada gama de ponencias que oscilaban entre la reflexión crítica respecto a los impactos de las IA en diversas áreas del conocimiento, las innovaciones en ciencias médicas e investigaciones de proyectos ambientales. Y allí obviamente no faltó el sospechoso optimismo de las corporaciones y empresas que ven las IA como meras formas de expandir sus capacidades productivas, sin costos aparentes y con el simple enunciado de "sustentable" entre medio de sus exposiciones.

BUENO ¿Y CUAL ES EL ALCANCE DE LAS INTELIGENCIAS ARTIFICIALES?

Dentro de la variada cantidad de exposiciones, aquellas que se dedicaron a compartir las reflexiones filosóficas, éticas y neurocientíficas acerca de estas tecnologías, compartieron bastantes puntos en común.

Entre ellos destaca el hecho de comprender a estas nuevas IA no como seres humanizables ni como entes que pueden rebelarse en cualquier minuto. Si esa posibilidad puede existir aún falta para aquello. Para las y los expositores estas nuevas herramientas carecen aún de esa inteligencia que nos hace humanos: la de interactuar con el mundo, tener sentidos, vidas, recuerdos y emociones. Una máquina puede imitar el comportamiento humano, pero no pensar, así como reflejar opiniones que arma en base a sus bases de datos, pero no tener opinión meramente tal, como lo explicaba muy bien Ricardo Baeza Yates la mañana del jueves.

También puedes leer: Estudio señala que personas de derecha caen con mayor facilidad en noticias falsas en Facebook

En este sentido, todas y todos los expositores recalcaron la importancia de educarnos como sociedad para evitar los sesgos que ocurre cuando se construyen ciencias sin perspectiva crítica.

Es un hecho que, por ejemplo, un sistema de reconocimiento facial programado solo por hombres blancos tenga dificultades para reconocer rostros asiáticos, afroamericanos, o de mujeres, o que chatbots puedan llegar incluso a inducir suicidios. Esto nos lleva necesariamente a profundizar en las perspectivas que nos llevan a tomar las decisiones que hoy están construyendo este proceso de transición digital, el cual por un lado parece prometer productividad, pero por otros también alerta y nos lleva a analizar con detenimiento el cómo y el porqué se producen los llamados sesgos de modelos que han surgido con las Inteligencias Artificiales Generativas.

EL IMPACTO LABORAL DE LAS IA

Uno de los mayores miedos asociados a la IA pasa, justamente, por la automatización del trabajo y la posibilidad de despidos en masa. En Chile ya lo podemos ver en el retail. Empresas como Sodimac, Falabella y la mayoría de supermercados ya cuentan con cajas automáticas para el autoservicio. Tremenda inversión para los dueños: traspasan al usuario el costo del servicio de atención y reducen el número de trabajadoras y trabajadores en las cajas.

Así, si antes se requerían 20 trabajadores para una actividad, hoy estas nuevas tecnologías presentan la posibilidad de reducir a una sola persona que opere una máquina para que haga todo. O de reducir tanto los tiempos de operación que basta con un operario. Este fenómeno obviamente no es nuevo en la sociedad y a través de toda nuestra historia ha habido inventos y descubrimientos que han transformado las formas de producción, eliminando algunos trabajos y creando otros.

Bien lo ilustra Carl Benedikt Frey, economista experto en el estudio sobre el futuro del trabajo y los impactos de la automatización en la sociedad. Frey utiliza las dificultades que acarreó la llegada de la electrificación para quienes trabajaban encendiendo los faroles en las calles, para ejemplificar que no todos son beneficiados por las innovaciones tecnológicas. Y además el autor expone la diferencia de análisis que pueden existir de una misma época y de los procesos de transformación social comparando el contraste de lecturas que poseían sobre la Revolución Industrial el político Benjamín Disraeli, quien llegaría a ser primer ministro de Inglaterra, en su libro «Coningsby» lanzado en 1844. En este se analizaban con esperanzas el trabajo que pueden realizar humano y máquina. Y por otro lado, el teórico político Friedrich Engels, autor de Las condiciones de la clase trabajadora en Inglaterra en 1844, expuso las injusticias y desigualdades que significaban para el proletariado de la época la promesa de progreso que traía la revolución industrial.

Para el economista y columnista sueco-alemán que expuso en Congreso Futuro, el futuro es difícil de predecir pues depende de lo que hacemos, pero las cifras son claras y hoy se estaría produciendo más con menos trabajadores, lo cual obviamente nos hace preguntarnos ¿Quiénes realmente se benefician?

Casos como el de Uber, que por un lado dinamizan el mercado laboral permitiendo que gracias al GPS cualquier persona pueda conducir a cualquier lado, tienen efectos negativos no solo porque quienes llevaban años trabajando en transporte (y han conocido la ciudad con la experiencia) ven mermado su trabajo, sino además significan nuevas relaciones entre empleadores y que pueden significar grandes retrocesos a la hora de garantizar seguridad laboral en estos nuevos empleos que vienen de la mano de la digitalización.

En este sentido, existe un amplio alcance de posibilidades que brindan las IA, en un momento de la historia donde la especialización laboral, la distribución mundial de los recursos y el trabajo sigue arrojando a los países del tercer mundo y los sectores más populares de la población a las fases más precarias, duras y menos creativas de la actividad productiva. Esto significa un alto riesgo de que la avalancha tecnológica profundice las brechas existentes.

Para Rodrigo Felgueira, Ingeniero en computación del Centro Interamericano para el Desarrollo del Conocimiento en la Formación Profesional (CINTERFOR) experto en impactos de la transformación digital en el mundo laboral, en América latina este proceso es lento y desigual. En datos de la OIT, nuestras economías entre los años 1990 y 2015 han traspasado considerablemente la mano de obra de tareas manuales a tareas cognitivas.

Este nuevo modelo laboral, junto con la irrupción de la automatización de muchos más procesos productivos, requeriría grados aún mayores grados de formación profesional, lo cual podría polarizar aún más el mercado laboral si no se atiende la necesidad de aumentar la cobertura educacional pues, según sus datos, la automatización desplaza a los operarios de mediana calificación, favoreciendo la alta especialización y aumentando los empleos con baja o poca calificación.

En este periodo caracterizado por la alta inestabilidad económica, política y ambiental, los mercados de trabajo son claramente más proclives a sufrir los ciclos de las crisis, agudizando por ende la desigualdad mediante empleos informales y falta de posibilidades educativas que permitan acceder a trabajos mejor remunerados. Así, las lógicas actuales del mercado no son adecuadas para enfrentar esta transición y su transformación con un enfoque inclusivo en los sectores más vulnerables y con más desventajas es clave para una transición justa que no profundice aún más las desigualdades.

UTOPÍAS MÉDICAS Y HERRAMIENTAS PARA LAS CATÁSTROFES AMBIENTALES QUE VIENEN

Sin embargo, no todo es caminar sobre la cuerda floja en este debate tecnológico. Las grandes preguntas existenciales, el impacto de las pantallas en la adolescencia y la incertidumbre laboral se equilibran -aunque sea un poco y dependiendo de los grados de optimismo y pesimismo- con las innovaciones médicas y el monitoreo con fines ambientales basados en IA, las cuales marcaron la pauta en este Congreso y pronostican buenos alcances.

Desde amplias áreas del conocimiento médico se ven tremendos esfuerzos por lograr avances en materia de enfermedades con difíciles tratamientos, vinculando el trabajo de estas herramientas con el análisis de grandes cantidades de datos y la intervención a niveles quirúrgicos y celulares.

Junto con esto, el resguardo de ecosistemas marinos mediante la vigilancia submarina y de costas, la capacidad de secuenciar moléculas, el modelamiento de estadísticas para el cuidado de especies en peligro y las diversas innovaciones para enfrentar el cambio climático posicionan a la IA como una tremenda aliada para enfrentar la crisis ambiental en la que nos encontramos, permitiendo fortalecer el conocimiento local y la interacción de diversos actores a la hora de pensar la construcción del hábitat y el cuidado de la biodiversidad.

DEL EXTRACTIVISMO DE RECURSOS NATURALES AL EXTRACTIVISMO MENTAL

Aun así lamentablemente los grandes descubrimientos e innovaciones científicas y tecnológicas de los últimos siglos, contando obviamente la revolución industrial, se han desarrollado en una sociedad donde al centro de las prioridades está en el lucro y la acumulación de poder político. Hoy, el alcance de la invención humana llega a los hogares en forma de productos consumibles que facilitan la vida cotidiana, tiempo después de que pasaron por los laboratorios de las grandes empresas y de los ejércitos de las grandes potencias, cerrándonos históricamente a la posibilidad de construir innovación y tecnología a escala humana, para las necesidades de la población en general. Es por esto que cualquier innovación hoy puede significar un potencial riesgo si no ponemos atención en las contradicciones inherentes a este sistema y no tenemos un debate amplio sobre cómo enfocar estos nuevos conocimientos y técnicas.

Por esto, es importante tener una sana desconfianza a la hora de escuchar, por ejemplo, que una empresa minera financia proyectos que utilizan el monitoreo submarino acústico para el cuidado de especies, sobre todo cuando diversos especialistas advierten sobre los riesgos de la nueva minería submarina para la conservación de los fondos oceánicos.

No obstante, los recursos más valiosos para las grandes industrias hoy no solo están bajo tierra y bajo el mar. Para Sofia Trejo, interlocutora de México e investigadora en ética de IA, enfocada en género y educación, la experiencia humana es la materia prima del capitalismo de la vigilancia, donde la mezcla de la grotesca concentración de poder e influencias de las corporaciones y la falta de participación política podrían ser una receta para la catástrofe.

Trejo menciona que Google es la empresa que más vigila a las personas, acumulando tremendas cantidades de datos de cada persona, lo cual requiere enormes infraestructuras que consumen altas cantidades de agua, energía y recursos para mantener el negocio de los datos. Este hecho, explicado también por Martín Tironi y Gabriela Garretón en una exposición y una instalación artística presentada en el Museo de La Moneda, crea una relación directa entre la cantidad de datos que esta industria requiere y la infraestructura que necesita.

Así por otro lado, para Marina Otero, arquitecta y especialista en infraestructura digital y datos, la IA produce más datos que la capacidad de acumularlos y procesarlos, mientras los impactos de esta industria en términos culturales y ambientales no pueden disfrazarse de sostenibles planteando novedades productivas si es que se sigue con el mito del desarrollo infinito. Así como agua, litio y demás recursos de los cuales dependen estas tecnologías, también la información de nuestros comportamientos, nuestra atención, identidad, información y datos cerebrales se transforman en los nuevos recursos a minar por las empresas de la tecnología.

Te puede interesar: Las falsas soluciones de Anglo American

Actualmente se están creando los primeros marcos regulatorios para la Inteligencia Artificial. En Congreso Futuro 2024 pudimos escuchar grandes debates y reflexiones sobre cómo vamos a enfrentar ética y legislativamente la irrupción de estas tecnologías. En este sentido, Chile es pionero a nivel mundial con una ley de protección a los neuroderechos, promulgada en el año 2021, la cual debería consagrar el derecho a la privacidad y regular el uso de datos neuronales por las corporaciones tecnológicas que lucran con los datos.

Así, resulta importante centrarse en que las regulaciones limiten el abuso de las empresas y su capacidad para apoderarse de esta información, manipular en masa y no delegar la investigación ni la innovación a las compañías que poseen los monopolios de comunicación y datos, pues la experiencia histórica demuestra que en una sociedad donde la acumulación es el objetivo principal, quienes se apropian de los modos de producción terminan por controlar a quienes construyen los marcos legales y la planificación, haciendo de los temas sociedad y del debate público un monólogo insostenible, a fin de priorizar las ganancias por sobre todo. Esta lógica es la que nos llevó a la crisis ambiental y social en la que nos encontramos. Por eso, cuando los yuppies de corporaciones como Microsoft hablan de las potencialidades de estas nuevas técnicas, la incredulidad es una necesaria aliada para no confundir las buenas intenciones con el blanqueo ecológico.

¿IASTA CUANDO SEGUIMOS CON EL SESGO DE CLASE?

Mientras la planificación urbana tenga como objetivo el enriquecer a los dueños de las inmobiliarias y del transporte, mientras la salud siga siendo un lucrativo negocio para empresarios indiscriminados, mientras la educación de calidad y con innovación solo ocurra en las comunas y colegios más ricos del país, todas las promesas de revolución digital pasarán a engrosar la lista de alegrías que no vienen y volveremos a ser testigos de cómo las nuevas creaciones y posibilidades son patrimonio de los grupos privilegiados de ayer y hoy, para los objetivos y agendas de empresarios inescrupulosos y vampiros.

Es por esto que la divulgación científica y la educación en ciencias y tecnología se vuelve protagonista a la hora de soñar nuevos horizontes, donde no dependamos de la voluntad de los países del primer mundo y el desarrollo local vaya de la mano con la innovación y la planificación participativa del territorio.

Quizás no era coincidencia que, paralelo a este congreso, pudiésemos ver en el museo de la moneda la exposición que revive la experiencia de SYNCO o CYBERSYN, el innovador proyecto de planificación económica de la Unidad Popular que buscaba planificar y monitorear la producción mediante una visionaria red de comunicaciones entre empresas y el gobierno. Si las maquiavélicas pretensiones del primer mundo no hubieran chocado con la "vía chilena al socialismo" quizás donde nos encontraríamos.

La participación política y el acceso a la información son la garantía de que las nuevas tecnologías no se transformen en nuevos grilletes para las y los pobres del mundo. Bien lo dice Fernando Aramayo, Coordinador de Programas y Gestión Institucional del Programa de las Naciones Unidas para el Desarrollo (PNUD) para Bolivia, en una destacada presentación sobre planificación territorial en el contexto de la minería del Litio en Bolivia: el problema de los conflictos de poder es que tienen agendas ocultas.

Hoy la capacidad de nutrirnos de datos que sirvan para reflexionar, planificar y construir sociedades más justas crece exponencialmente. Es, como siempre, tarea nuestra que el sesgo de clase que impera en nuestra sociedad no transforme estos temas en conversaciones entre expertos, y que estas capacidades y estos datos no se transformen en insumos para las agendas de los ricos. Esperamos que iniciativas como Congreso Futuro sigan proliferando y se transformen en debates en todas las aulas de clase de Chile y políticas públicas para la educación y la participación territorial, ojalá antes que estas nuevas herramientas tecnológicas pavimenten una digitalizada y colorida carretera hacia el abismo.

• Pamela Villagra Espinoza y Nicolás Cea Casas son profesores y diseñadores especializados en creación participativa y transformación digital