La expansión de la inteligencia artificial abrió posibilidades para automatizar tareas, investigar y procesar grandes cantidades de información, pero también plantea una pregunta cada vez más urgente: qué capacidades humanas podemos perder a medida que delegamos más tareas en estas herramientas. Para Irina Sternik, uno de los principales riesgos es la “delegación cognitiva”: dejar de ejercitar habilidades como escribir, investigar, orientarse o aprender porque una tecnología puede hacerlo por nosotros.
Periodista especializada en tecnología y cultura digital, licenciada en Ciencias de la Comunicación por la Universidad de Buenos Aires (UBA), autora del blog LadoBNews y del libro Inteligencia Artificial 1.01: el futuro llegó hace rato, Sternik conversó con Política Argentina sobre los límites de la IA, su impacto en la educación y el trabajo, los sesgos de los algoritmos y la necesidad de mantener la supervisión humana frente al avance de sistemas cada vez más autónomos.
¿Qué parámetros concretos sirven para definir cuándo conviene aplicar la IA y cuándo es preferible no usarla?
En todas las operaciones que requieran mantener la privacidad de los datos, como por ejemplo un fallo judicial o una investigación médica, no es recomendable. De hecho, debería estar prohibido usar inteligencia artificial por el tema de la anonimización de los datos. Cuando es información o un proceso crítico tampoco es conveniente. Por ejemplo, en materia de periodismo, si estás haciendo una investigación con fuentes reservadas, no se recomienda subir esa información a Claude o a Gemini, sino trabajar en ese caso en tu computadora. También en educación, todo lo que requiera pensamiento crítico o procesos para aprendizaje debería estar alejado de lo que es inteligencia artificial.
Entonces, ¿cuándo usarla?
En los casos en que sí conviene usarla es en tareas repetitivas, en investigación con elementos que puedas chequear después, en recopilación de datos, en creación de artefactos, sitios web, documentos y en todo lo que sea repetitivo y que no sea información crítica. Hay algo que nos afecta a todos y a todas que es la delegación cognitiva. Es tentador, con la cantidad de trabajo que tenemos (a mí como periodista, pero le sucede a todas las personas), delegar la escritura de una nota, la investigación o la confección de un documento. Esto tiene dos riesgos: por un lado, que el resultado puede tener alguna alucinación o algún error grave en la nota final y después ser detectado por a quien se lo entregás, un error o una escritura básica defectuosa como hoy escribe la IA.
¿Y el otro riesgo?
El otro problema grave es la delegación cognitiva que vamos a tener un poco todos, que pasó con la llegada del GPS. Usar mucho el GPS nos hizo perder la capacidad humana de orientación. Está pasando con todos los que solemos escribir: si dejamos de escribir, básicamente vamos a perder poco a poco la habilidad y vamos a hacer contenido de mucha más baja calidad, vamos a entregar contenido sintético. Creo que un desafío es seguir escribiendo a máquina y también a mano para no delegar el trabajo. El otro día le contaba a mi sobrino la importancia de aprender inglés y le decía: “Cuando te pidan en un trabajo saber inglés, va a ser muy importante el esfuerzo que hagas ahora” (tiene 11 años y no le gusta el inglés). Me dice: “El trabajo lo hago con ChatGPT”. Le digo: “No, pero no un trabajo para entregar, sino un trabajo donde vos tengas que trabajar en inglés”. Me di cuenta de la falta de información que tienen los chicos con respecto a la inteligencia artificial, porque todo lo que no aprendan ahora cuando están estudiando después va a ser un gap enorme a la hora de trabajar o tener habilidades.
¿Eso qué podría provocar?
Se dice – hay estudios que así lo indican – que la alfabetización tradicional va bajando cada vez más. Así que tenemos que estar muy atentos y, por supuesto, expulsar a la IA de la primaria y en lo posible de la secundaria. Y sí incorporar el aprendizaje de cómo funcionan, cómo están estructurados, qué significa cada uno de los términos y qué es la degradación del modelo. Quizás este efecto mágico que sentimos cuando empezamos a usar la inteligencia artificial, y decís “¡ay, es espectacular, me hace una presentación hermosa!” y a las tres semanas lo tomás de vuelta y decís “son todas iguales y funciona mucho peor”, es porque los modelos no funcionan de la misma manera.
¿En qué sentido?
Es como la frase de “el primero te lo regalan”. Al principio, te aportan todo el poder de procesamiento y después las empresas de inteligencia artificial degradan a propósito el modelo. Por ejemplo, ChatGPT tenía una función hasta septiembre de 2026 en la que, si tu tarea requería un trabajo más profundo por parte de la máquina, lo detectaba automáticamente y te hacía una investigación profunda. Ahora sacó eso, lo tenés que poner vos y no sabemos lo que va a pasar en algunos meses. Quizás para acceder a la función de pensamiento profundo, que es excelente para investigar, vamos a tener que pagar más. Esto va a pasar: el primero te lo regalan, el segundo te lo venden.
¿De qué forma se manifiestan los sesgos en los algoritmos y qué impacto tienen en la sociedad?
Está lleno de sesgos cualquier modelo de inteligencia artificial en diferentes aspectos. Por ejemplo, si trabajás con imágenes es fácilmente visible porque te vas a dar cuenta de que tiene muchos estereotipos la imagen que te devuelve. Si le pedís “un periodista”, te hace un periodista hombre. Si le pedís “un periodista hombre y una periodista mujer”, el periodista hombre te lo hace de 60 o 70 años, canoso y la periodista mujer te hace una chica de 30 años hegemónica. Eso con respecto a las imágenes, porque responde a cómo fueron entrenados. Pero eso también lo podemos traspolar a los textos, y depende del modelo de lenguaje que usamos. Tenemos los norteamericanos, que tienen el sesgo de la información provista. Si vos le ponés buscar en la web puede estar un poco más abierta la información, pero además el razonamiento que te entrega depende de los algoritmos y de cómo ese modelo fue entrenado, entonces siempre tiene un tipo de sesgo. Lo vemos cuando navegamos noticias en Instagram: tiene nuestro sesgo, nuestra burbuja, además del sesgo del señor Meta.
¿Y en el caso de otros modelos?
Si usamos modelos chinos tenemos otro tipo de corpus con el que fue entrenado. Es decir, tenemos que tener esa perspectiva sobre la inteligencia artificial generativa. Por ejemplo, Ana Correa desarrolló un GPT hace algunos años que se llama Olivia, que nos permite analizar y detectar sesgos en la información con respecto al género que le metemos, y está buenísimo porque te hace preguntas y te marca qué tiene sesgo. Eso con respecto a la inteligencia artificial generativa. Pero el campo de la inteligencia artificial es enorme, va más allá de la generativa, y se usa para procesos tanto en bancos (por ejemplo, para determinar si te dan un crédito o no, donde puede haber un sesgo) como en gobiernos.
¿Y ahí qué sucede?
Ahí tenemos muchos ejemplos de sesgos donde los sistemas de reconocimiento facial dan falsos positivos a personas que son morochas. O también un sistema que se quiso implementar hace muchos años en Salta para predecir el embarazo adolescente, que era una herramienta cargada de prejuicios porque saltaba la alarma con las adolescentes más pobres, de una clase social mucho más baja, porque estaba entrenada con esa característica. Lo mismo para un crédito: según tu clase social es lo que te va a dar. Lo vemos en Mercado Libre con las altas tasas que te da. Y también para conseguir empleo es exactamente lo mismo. Son sistemas opacos entrenados por determinadas empresas de tecnología o empresas que desarrollaron su prototipo, y eligen al candidato según las características que le pusieron, y por supuesto que eso está lleno de sesgos. Hay un montón de casos. El más conocido es el de Amazon, que hace algunos años estuvo probando un sistema de inteligencia artificial durante un año para contratar gente y analizaron que no contrataba mujeres. ¿Por qué? Porque la base de datos era toda la base de datos de empleados que trabajaban en Amazon, que eran hombres, y el sistema expulsaba a las mujeres automáticamente porque había aprendido que no había mujeres en su base de entrenamiento.
¿Qué peso tienen la infraestructura y los centros de datos en la geopolítica global de la inteligencia artificial?
La mayor parte del peso, digamos el 90%. Los sistemas de inteligencia artificial requieren grandes cantidades de procesamiento, GPUs, centros de datos cada vez más grandes, mucha energía y mucha agua, y por eso hay proyectos en todo el mundo de desarrollo de centros de datos en zonas que tengan regulaciones más flexibles, como la Argentina. De todos modos, se están quedando cortos. Lo que se pronostica para las empresas de Silicon Valley, e incluso con las de China, es que se requieren centros de datos que consuman la energía que consume un país entero, como Japón. No existe eso, tampoco hay cantidad de chips disponibles. Esa es la proyección. Lo que dicen los especialistas es que si la ciudadanía usa sus propias inteligencias artificiales, instala en sus computadoras modelos de lenguaje o los gobiernos tienen modelos locales, ahí cambiaría la ecuación porque no se necesitaría tanta nube. Recordemos que nosotros estamos trabajando con un modelo de lenguaje que lleva siempre nuestros datos a la nube. Incluso Claude ahora comunicó que CoWork (la herramienta que trabaja con tu computadora asistida por el modelo de lenguaje) saca los datos a la nube. Entonces, todo eso requiere mucha infraestructura, internet, poder de procesamiento y mucha capacidad. Básicamente la GPU, la energía y los centros de datos lo son todo, y por eso está esta especie de Guerra Fría entre China y Estados Unidos para ver quién tiene mayor poder de procesamiento, más chips y más data centers para procesar esta alta demanda.
¿Cuáles son los principales límites éticos y riesgos que no debemos perder de vista frente al avance de estas tecnologías?
Es muy interesante todo lo que está pasando en este momento con la autonomía que tienen los agentes de inteligencia artificial, que se les está yendo a los laboratorios un poco de las manos. Por eso hay que tener mucho cuidado a la hora de usar sistemas automatizados que no tengan supervisión humana. Tenemos que tener cuidado con la última milla. Siempre tiene que estar el humano en el circuito, como sucede en la aviación, donde el aviador puede tener un piloto automático pero es el que da la última palabra. Tenemos que tener un interruptor, porque es súper peligroso delegar operaciones sin control humano. Los riesgos son, por un lado, las sociedades automatizadas que propone Javier Milei. Siempre tiene que haber una decisión final humana, una supervisión humana. También los riesgos son los que hablamos hace un rato: los sesgos o cómo un sistema de inteligencia artificial tiene alguna degradación en el entrenamiento; todo el tiempo hay que estar alineándolo, entonces tiene que ser una co creación con el humano para llevarlo por buen camino.
¿Qué otros límites aparecen cuando la IA empieza a intervenir en la producción cultural y el trabajo?
Por otro lado, hay un riesgo y un límite cultural. Estamos usando modelos que están entrenados con material que tiene derechos de autor, entonces estamos usando cosas en un punto que no nos pertenecen. Hoy leía que Adobe va a presentar un proyecto para que los artistas puedan denunciar automáticamente cuando detectan similitudes en una obra que les pertenece. También se traspola a las otras profesiones: los locutores, los guionistas, los realizadores. Tiene que haber un equilibrio porque si no va a haber una automatización de profesiones que requieren, por supuesto, la cultura humana, la autenticidad humana, y también algún mecanismo de defensa para quienes no estén de acuerdo con cómo se va procediendo con determinadas tareas. Es algo que va a llevar mucho trabajo y mucha organización humana para defender los derechos. Hay muchos concursos hoy que no permiten, por ejemplo, el uso de inteligencia artificial ni siquiera para pensar el proyecto. Hay otros que permiten hasta un 30% de co creación con la IA para editar, etcétera.
¿Qué está pasando con la cantidad de contenido generado por inteligencia artificial que circula en Internet?
Un riesgo que está pasando es que la red está llena de contenido sintético que se conoce como “AI Slop” (la basura de internet). Por ejemplo, LinkedIn puso un botón para denunciar este tipo de contenido porque se les fue de las manos. Hace algunos meses LinkedIn tenía un botón que era “Mejorar con IA”. Esto va a pasar en muchas plataformas. Como se llenó el contenido de textos hechos con inteligencia artificial totalmente desagradables que expulsan al lector porque saben que no está escrito por un humano, dieron vuelta atrás, sacaron ese botón y pusieron un botón de “Denunciar contenido AI Slop”. Substack puso también un detector de escritura hecha con IA que, si bien no es del todo fiable, ayuda al creador a darse cuenta de que no es lo mismo un newsletter hecho totalmente automatizado que escrito por una persona.
—
