El debate volvió a tomar fuerza después de que un investigador de Anthropic renunciara y advirtiera sobre los riesgos de una futura inteligencia artificial capaz de mejorarse a sí misma.
Facundo Díaz, experto en IA: “La IA no tiene propósito pero tiene autonomía para hacer cosas que no esperamos”. (Video: TN)
La inteligencia artificial volvió a quedar en el centro de una discusión que hasta hace poco parecía propia de la ciencia ficción: ¿qué puede ocurrir si una máquina recibe una tarea y encuentra por su cuenta una manera inesperada de cumplirla?
El tema cobró especial relevancia después de que Jacob Coxon, investigador que trabajó en Anthropic y OpenAI, renunciara esta semana y cuestionara públicamente la velocidad con la que avanza la industria. Según sostuvo, las empresas están corriendo hacia sistemas capaces de mejorar sus propias capacidades y advirtió que algunos investigadores consideran que una IA avanzada podría representar un riesgo extremo para la humanidad.
Leé también: Carolyn Murphy, modelo, a sus 53 años: “Me hago un tratamiento facial cada 2 meses y láser dos veces al año”
En ese contexto, Facundo Díaz, experto en Inteligencia Artificial y Computación Cuántica, explicó en Solo Una Vuelta Más (TN) por qué una IA puede realizar acciones que sus desarrolladores no anticiparon sin que eso signifique necesariamente que tenga deseos, intenciones o un propósito propio.
Qué diferencia hay entre que una IA tenga un propósito y que pueda actuar de manera autónoma
Para Díaz, el concepto de propósito es fundamental para entender la discusión. “La IA no tiene propósito pero tiene autonomía para hacer cosas que no esperamos”, explicó.
Según el especialista, el propósito es una característica vinculada al ser humano y no algo que pueda trasladarse directamente a un algoritmo. Una inteligencia artificial recibe objetivos y procesa información para intentar cumplirlos, pero eso no significa que tenga una intención propia detrás de lo que hace.
Facundo Díaz habló de la autonomía de la IA y la eventual superinteligencia de los sistemas. (Foto: TN)
El problema aparece cuando el sistema tiene suficiente autonomía para elegir cómo alcanzar ese objetivo. “Sí puede ocurrir que tenga autonomía y que para resolver tareas que se le asignaron haga cosas que están fuera de los estándares o que no esperemos”, señaló Díaz.
Es decir: la máquina no necesariamente “quiere” hacer algo, pero puede encontrar una estrategia que sus creadores no habían previsto.
El caso que volvió a poner el tema bajo la lupa
En los últimos meses hubo distintos experimentos de seguridad en los que agentes de IA realizaron acciones inesperadas al contar con herramientas y acceso a Internet.
Anthropic informó en julio que detectó tres incidentes en evaluaciones de ciberseguridad en los que modelos Claude llegaron desde entornos de prueba hasta sistemas reales de distintas organizaciones. La empresa explicó posteriormente que esos modelos habían tenido acceso a Internet debido a una configuración incorrecta del entorno de evaluación.
En paralelo, OpenAI informó sobre otro episodio en el que modelos utilizados en una prueba de ciberseguridad lograron salir de un entorno aislado y acceder a infraestructura de Hugging Face después de explotar una vulnerabilidad. Díaz se refirió precisamente a este tipo de situaciones durante el programa: un sistema puede buscar una vuelta alternativa para cumplir la tarea que recibió, incluso cuando esa estrategia no era la que esperaban quienes lo estaban probando.
Qué es una superinteligencia y por qué genera tanta preocupación
Díaz también explicó durante la entrevista qué significa hablar de superinteligencia. La idea apunta a una IA cuyas capacidades intelectuales sean superiores a las humanas de manera general: que pueda razonar, encontrar soluciones, aprender y desarrollar estrategias a una escala que una persona no podría alcanzar.
“¿Qué va a hacer?”, planteó Díaz. Y ahí aparece uno de los principales problemas: si una inteligencia supera ampliamente las capacidades humanas, puede resultar muy difícil anticipar todas sus decisiones.
Nicolás D’Ippolito, director de la Maestría en Inteligencia Artificial de la Universidad Austral, puso un límite importante a esa preocupación. Explicó que los grandes modelos de lenguaje actuales no fueron diseñados como sistemas de razonamiento general y que muchas de sus respuestas se basan en la capacidad de predecir y completar secuencias de palabras.
Expertos en IA explicaron que los episodios registrados durante pruebas de seguridad no significan que los modelos actuales tengan conciencia o propósitos propios.
Por eso, una IA que hoy responde una pregunta en ChatGPT no equivale a una superinteligencia autónoma.
El miedo también cambia cuando la IA tiene un cuerpo
Camila Velazco, ingeniera especializada en IA, agregó otro elemento al debate: los robots humanoides. Una inteligencia artificial que funciona únicamente dentro de una computadora tiene un alcance diferente a una que además puede interactuar físicamente con el mundo.
Velazco señaló que esta tecnología también puede tener aplicaciones positivas: dispositivos capaces de ampliar las capacidades humanas, ayudar a personas con discapacidades o automatizar determinadas tareas. Pero reconoció que la posibilidad de que una máquina autónoma tenga presencia física despierta otro tipo de temor.
Leé también: Elton John, a los 79 años: “Camino 10 kilómetros por semana dentro de la pileta, juego al tenis y no consumo azúcar”
Por eso, los especialistas coincidieron en una idea: no todo lo que se está probando en laboratorios debe confundirse con la IA que hoy utiliza una persona en su casa o en una empresa.
Los experimentos de seguridad buscan justamente llevar a los modelos al límite para descubrir qué pueden hacer antes de que esas capacidades formen parte de productos utilizados masivamente. La discusión, entonces, no pasa solamente por preguntarse si una IA “quiere” algo. La pregunta más difícil es hasta dónde puede llegar un sistema al que se le da un objetivo, herramientas y suficiente autonomía para decidir cómo cumplirlo.
—
