Un fantasma recorre el mundo. Se propaga como un eco lejano y deforme de aquella apuesta por el progreso indefinido de la humanidad a fuerza de ciencia y técnica. Hoy, la inteligencia artificial alimenta fantasías para apocalípticos y devotos por igual, y la idea de superar lo humano se juega en ambos sentidos: el de la amenaza y el de la utopía de una eficiencia sin antecedentes. Ambos dificultan pensar críticamente qué está pasando.

Fernando Schapachnik, investigador del CONICET en el Instituto de Ciencias de la Computación de la Facultad de Ciencias Exactas y Naturales de la UBA, se ocupa de desarmar el artilugio: “A mí me gusta separar las aguas. Cuando la gente habla de IA suele referirse a los grandes modelos de lenguaje –los LLM, por sus siglas en inglés–, son los chatbots como Chat GPT. La IA en general es otra cosa y se las debe considerar de forma diferente”, introduce.

“Algo que es importante entender es que ninguno de estos modelos razona, son simples predictores de texto”, remarca enfático. “Si los entrenás con una enormísima cantidad de texto, la capacidad de predicción se parece al razonamiento, pero no lo es”, completa. Y señala que las opciones que hacen que el chatbot reponga cómo fue que llegó a la respuesta tampoco lo son: “Es predecir el texto que sería el plan para resolver esa pregunta. Eso no es un proceso de razonamiento, es un truco astuto que funciona bien”.

“Hace treinta años se planteó generar en las computadoras la capacidad de razonamiento y planificación: que un robot en un terreno con obstáculos encuentre el mejor camino. Se buscaba emular cierto razonamiento lógico, pero no funcionó. Hoy, la búsqueda es por la predicción de textos: cuál es el que tiene la mayor probabilidad de ser la respuesta a la pregunta hecha, dado todo lo que ya fue prediciendo. Lo mismo ocurre con las imágenes”, resume.

Insiste en que no toda IA da lo mismo: “Usar un modelo para colocar una cámara cenital en una línea de producción y detectar fallas es algo sencillo, económico, no consume grandes recursos ni reemplaza trabajo humano, porque es una tarea fatigosa e insalubre. Cuando trabajé en la Fundación Sadosky desarrollamos muchos proyectos, uno de ellos buscaba procesar el rebote de una señal sonora en un pozo de petróleo, para estimar su remanente. También se puede usar IA para medir fluidez lectora o para diagnósticos médicos. Hay muchos usos muy buenos. Los modelos de lenguaje son otro tipo de IA. Todos los problemas que vamos a mencionar ahora se refieren a esa tecnología”.

El futuro no llegó

“Lo primero que hay que decir es que estamos hablando de depredadores ambientales ofrecidos por un núcleo concentrado de empresas”, sentencia Schapachnik, y aclara que eso no vale para el resto de la IA. “No podemos abstraernos de la enorme cantidad de agua que hace falta para refrigerar el equipamiento que necesitan y el gran consumo energético, los propios reportes ambientales de las empresas lo reconocen. Estamos hablando de cuatro o cinco en un mercado que tiende a concentrarse cada vez más”.

– Su uso masivo, entonces, es una preocupación ambiental.

– Sin ánimos de culpabilizar a nadie, es necesario indicar que hay un grado de conflicto entre reciclar, separar la basura y cuidar el agua y usar estos modelos para jugar con imágenes. Es algo sistémico, hay toda una mecánica que lleva a su uso, se pone de moda y es difícil resistirse. Además, no todo el mundo conoce su impacto ambiental.

– En materia laboral, los posibles efectos suelen ser más comentados y no brindan un panorama muy alentador.

– Todavía no podemos medir del todo su impacto en el mundo del trabajo. Empiezan a aparecer estudios que permiten ver señales mixtas. Uno de los más contundentes hasta la fecha es de un economista norteamericano que tomó la base de datos de una empresa que factura a miles de compañías estadounidenses. Concluye que no hubo una afectación general del empleo, aunque sí hay un claro impacto en algunas profesiones en los puestos juniors. Programación e ingeniería de software es una de las más afectadas. También los servicios al consumidor, como la atención al cliente. El estudio se preocupó por analizar si en esas profesiones también había afectación para los cargos senior y la respuesta es negativa. Tampoco para los juniors de otras profesiones.

– ¿Cómo está afectando a nivel local?

– Hay que tener en cuenta que la mayoría de las empresas argentinas de software se dedican a vender equipos de trabajo a otras empresas más que a fabricar un producto. Básicamente, se cobra por hora de trabajo de cada profesional. Estamos hablando de más de cinco mil consultoras con más de 150 mil personas, con mucha exportación. Y efectivamente, una de las cosas que estos modelos hacen muy bien es programar. Entonces, hay un aumento de la productividad individual con apoyo en modelos de IA y, por ende, se necesita mucha menos gente. Un reciente documento de la Cámara Argentina del Software expresa claramente esta preocupación, porque su modelo de negocios está en crisis. Si bien no es razonable hablar de impacto masivo, sí hay sectores que están cambiando drásticamente. La pregunta que todo el mundo se hace, y que aparece en otras profesiones, es cómo se van a formar los profesionales senior del mañana si las tareas que antes se les daba a los juniors hoy las realizan estos modelos de lenguaje. Esa es una preocupación creciente sobre la que nadie tiene una respuesta.

Pensar o no pensar

Fernando Schapachnik se apasiona al hablar, cita datos, estadísticas, experiencias personales, desarrollos locales. Sostiene que la universidad debe señalar las contradicciones y ejercer pensamiento crítico frente al fenómeno IA y manifiesta su desacuerdo con el tono alarmista y distópico con el que muchas veces se habla del tema.

– Suelen circular notas periodísticas y diferentes testimonios alertando por el fin del trabajo, al tiempo que llaman a adaptarse e incorporar estas herramientas para no quedarse afuera.

– Yo no estoy de acuerdo con el alarmismo. Diría que el principal elemento diferenciador va a ser la inteligencia humana. Además, no comparto el planteo de un escenario de catástrofe mientras se ofrece una clave de salvación individual. Creo que seguirá pasando lo mismo que hasta ahora. Al contratar a alguien, las organizaciones no eligen a quien tiene mayores habilidades operativas, sino a quien es más inteligente, porque esas habilidades las adquiere rápidamente. Lo que le diría a un sobrinito o una sobrinita es que lea libros, los más difíciles que pueda, que ejercite su pensamiento, porque luego puede aprender estas cosas con un tutorial de tres minutos. Otra preocupación es el descenso de la calidad de las profesiones. Incluso las personas que no están siendo reemplazadas por máquinas se ven tentadas a utilizar los modelos de lenguaje. Ya sea porque les ahorra tiempo o porque sienten que ese nivel de producción escrita está muy lejos de sus propias capacidades. Hay quienes piensan que no podrían llegar a ese nivel de análisis. Esto tiende a una homogeneización de las producciones.

La presión por su uso también aparece en el sistema educativo.

En el mundo educativo hay mucha insistencia para incorporar estas herramientas, hay que decirlo: empujada por las empresas que están detrás. Es un negocio enorme. A mí me gustaría levantar la voz en contra del discurso derrotista. La idea de que esto ya está instalado y no se puede hacer nada. Hay algo que también pasa en el mundo laboral, pero que en el educativo se ve de manera más categórica: es el daño a nuestra capacidad de pensar. Si hay alguien que se siente presionado por el tiempo, enfrentado a tareas que no le gustan y que muchas veces están por encima de sus propias capacidades –porque se trata de que logre determinado nivel–, y además tiene muchos motivos para tener inseguridades acerca de la calidad de lo que hace, es, por definición, un estudiante. Y lo que está pasando ahí es calamitoso, porque uno asigna todas esas tareas para lograr el aprendizaje y nutrir la capacidad de pensamiento crítico.

– ¿Y por qué la incorporación de los modelos de lenguaje impide que eso ocurra?

– El conocimiento no está disociado de la inteligencia, se retroalimentan. Para pensar sobre un tema, hay que conocerlo. Y, además, se debe ejercitar. Es como un músculo. Entrenar tiene que ser un desafío. Con el pensamiento es igual. Recientemente, leí a un investigador en ciencias educativas que afirma que la tarea escolar se le presenta al estudiante como un roce, tiene una dificultad. Y se aprende al transitarlo. Si encontrás formas de saltar el desafío, no estás aprendiendo, por más que termines la monografía o la actividad que tengas que hacer. Empezamos a tener evidencias que respaldan esto. Un estudio del MIT del año pasado tomó a un conjunto de voluntarios y los dividió en tres grupos. Les pidieron hacer una monografía. Un grupo podía ayudarse googleando, el otro, con Chat GPT, y el tercero no podía usar nada. Al terminar, les pedían que repusieran lo que habían escrito. Del grupo que no tuvo ningún tipo de asistencia, entre un 80 y 90 por ciento recordaba perfectamente lo escrito; el grupo que googleó obtuvo resultados similares; el que usó Chat GPT, al revés: entre el 80 y el 90 por ciento no pudo reponer lo hecho. La consigna pedía usarlo como ayuda, no automatizar la tarea. Esto se relaciona con el mito del buen uso. Aun cuando se dé un uso consciente, el resultado es pésimo. Y habría que preguntarle a cualquier docente si sus alumnos en realidad hacen un “uso consciente”. Lo que se observa es que no.

– Hace pocos años publicaste un libro junto a María Belén Bonello sobre la enseñanza de las ciencias de la computación en la escuela, ¿la IA entra?

– Por supuesto, pero como objeto de estudio. En la escuela tenemos que explicar cómo funciona. Vos tenés que entender por qué cuando tipeás un mensaje le llega a otra persona, cómo funciona una computadora y tantos sistemas que usamos todo el tiempo que no tienen IA, pero están programados por alguien. Todo eso sigue siendo válido de enseñar y, ahora, además, se suma cómo funcionan estos sistemas de inteligencia artificial. A mí me gusta decir que son más artificiales que inteligentes. Son como una forma avanzada de la estadística, más que un cerebro que planifica, que piensa, que sopesa, es un sistema que trata de encontrar el texto que más se parece.

IA bajo la lupa

El investigador comenta que el Plan Ceibal de Uruguay –el homólogo a lo que en Argentina fue Conectar Igualdad– lo convocó recientemente para escribir dos secuencias didácticas para nivel secundario sobre IA. “Una más técnica, donde empezamos explicando cómo funcionan los sistemas de clasificación y cómo puede la computadora lidiar con textos. Y otra de índole social, donde indagamos sobre sus impactos, el problema de los sesgos, el uso de energía, su funcionamiento en centros de cómputo gigantes, los trabajadores ocultos que hacen el proceso de entrenamiento, muchas veces en condiciones precarias, en países más subdesarrollados y periféricos que el nuestro”, sintetiza.

– Es muy llamativo que se hable del fin del trabajo humano mientras que el desarrollo de estos modelos requiere mucho trabajo manual, en dudosas condiciones.

– Sobre ese punto, hay mayor evidencia acerca de la ola de automatización en la industria automotriz entre fines de la década del ochenta y principios de la del noventa, con fábricas que se robotizaban. En ese momento también hubo una discusión sobre el fin del empleo. El resultado final, a más de treinta años, es que eso no ocurrió, sino que aumentó fuertemente la desigualdad por nivel educativo. La brecha salarial por nivel educativo había sido más o menos constante a lo largo del tiempo, a partir de la automatización, se separan las curvas. Se les empieza a pagar más a quienes tienen mayor conocimiento. Las tareas que quedan con menor calificación, se pagan menos. Si las puede hacer la máquina a cierto precio, tienen que ser más baratas. En el mundo de la uberización, esto es un peligro acentuado, aunque todavía no sabemos qué va a pasar porque no tenemos datos que muestren, salvo en algunos sectores, que la automatización con IA sea tan exitosa.

– Sin embargo, se insiste mucho en su capacidad de desarrollo y superación. ¿Qué se puede esperar de acá a unos pocos años?

– También ahí hay mucha exageración de las capacidades de los productos por parte de las empresas. Estamos viendo impacto, pero en la universidad nos toca matizar y abordar la complejidad. Esto es: vemos impactos en determinados fragmentos de algunos sectores de la economía, no tan masivos como se esperaba, pero sí con mucha incertidumbre. En cambio, sí estamos viendo efectos en la pérdida de habilidades cognitivas, tanto en trabajadores y trabajadoras como en estudiantes. Eso es gravísimo. Ahora bien, entendiendo que estos modelos de lenguaje no razonan, y siendo difícil hacer predicciones sobre el futuro, no parece que vaya a haber una mejora significativa. Se dice que están detrás de la inteligencia general. Y si bien parece muy poco probable llegar a algo parecido a toda la complejidad de la inteligencia humana con la mera predicción de texto, la primera pregunta que yo me haría es para qué la querríamos, dado lo visto hasta ahora. ¿Cuál sería la ganancia? ¿Qué problema le resuelve a la humanidad? Y mi respuesta sería que no la queremos. No queremos una máquina que piense por nosotros.

– Otro conjunto de temores con respecto a la IA es su uso armamentístico, así como también su capacidad de cruzar datos sensibles en nombre de la seguridad. ¿Hay que preocuparse?

– En principio es muy preocupante. Se relaciona más con la capacidad de cómputo que con el hecho de que sea IA. A veces la usan para ver si quien se presenta de una manera en una red social es la misma persona que se presenta diferente en otra, pero es algo más relacionado al cruzamiento de datos. Si eso se usa para obtener determinados scores de riesgo, no lo sabemos, pero obviamente son cosas muy preocupantes. Lo primero que tenemos que demandar como ciudadanos es que nuestros Estados no entreguen nuestros datos a estas empresas. Sabemos que Palantir está en la Argentina e inició conversaciones con el gobierno. ¿Se van a poner los datos de todos los argentinos y argentinas en ese sistema? ¿Con qué objetivos? ¿Bajo qué jurisdicción? Efectivamente, eso preocupa muchísimo, al igual que la capacidad de las grandes empresas de tecnología de condicionar a los estados nacionales. Ahí hay una tarea pendiente de la agenda de cooperación internacional.

La gallina de los huevos de oro

Schapachnik pone el acento en la situación alarmante que atraviesan la ciencia argentina y la universidad pública y, especialmente, en cómo afecta eso al desarrollo del país. El foco es la industria del software local, pero puede extenderse a otras profesiones e industrias. La pregunta es simple: ¿cómo impacta económicamente la formación universitaria en un país? “En todas las industrias, la ganancia de las empresas la generan trabajadores y trabajadoras. Las empresas demandan trabajo porque lo necesitan, no por caridad. En la industria del software se ve con mayor claridad porque no hay otro insumo, se factura por equipos de trabajo”, explica el investigador. Y continúa: “El informe del sector dice que, en el último período reportado, facturaron 22 mil millones de dólares al año. Cruzando diferentes fuentes de datos hicimos una estimación conservadora de cuántos empleados registrados se habían formado en la universidad pública. Es un 63 por ciento. Así, del total facturado, 14 mil millones fueron posible gracias a la universidad pública. Al desfinanciar la universidad y ante una realidad en la que renuncian docentes con una sólida formación, estamos matando a la gallina de los huevos de oro”.