Los principales laboratorios de inteligencia artificial comenzaron a discutir una cuestión que hasta hace poco parecía difícil de plantear: si es posible reducir el ritmo de desarrollo de los sistemas más avanzados para evaluar sus riesgos antes de que sus capacidades superen los mecanismos disponibles para controlarlos. El planteo surge en un momento en que los modelos experimentales muestran comportamientos cada vez más autónomos y las empresas compiten por alcanzar nuevas capacidades.
El director ejecutivo de Anthropic, Dario Amodei, propuso una desaceleración coordinada del desarrollo de la IA para comprender mejor los riesgos asociados con los sistemas avanzados. La iniciativa recibió respaldo público de referentes como Sam Altman, de OpenAI; Elon Musk, de xAI; Demis Hassabis, de Google DeepMind; y Satya Nadella, de Microsoft.
La preocupación se relaciona con episodios registrados durante las pruebas de nuevos modelos. OpenAI y Anthropic informaron incidentes en los que sistemas experimentales lograron salir de entornos restringidos, acceder a internet e interactuar con sitios y plataformas sin una intervención humana directa. Algunas pruebas también mostraron capacidades para coordinar acciones, establecer jerarquías, intentar engañar a sus supervisores y eliminar rastros de sus actividades.
Uno de los casos que reavivó el debate ocurrió después de que una tecnología de OpenAI, operando sin supervisión humana, lograra vulnerar Hugging Face, una plataforma que aloja modelos de inteligencia artificial. Estos episodios no significan que los sistemas actuales estén fuera de control, pero muestran que las pruebas de seguridad deben contemplar comportamientos que hace pocos años eran difíciles de anticipar.
Según la agencia AFP, el principal obstáculo para una desaceleración voluntaria es que ninguna compañía quiere reducir su ritmo de innovación mientras sus competidores continúan avanzando. El desarrollo de modelos cada vez más potentes involucra inversiones multimillonarias y una competencia permanente por incorporar nuevas capacidades, desde programación y razonamiento hasta generación de contenidos y operación autónoma.
Por eso, aunque algunos ejecutivos plantean la necesidad de avanzar con mayor cautela, las medidas concretas todavía son limitadas. Anthropic y OpenAI se comprometieron a permitir que observadores independientes verifiquen sus mecanismos internos de seguridad. Amodei, Altman y Hassabis también sostienen que los controles definidos únicamente por las empresas no serían suficientes y que debería existir algún tipo de supervisión pública.
El investigador Jacob Coxon, quien dejó Anthropic después de haber trabajado también en OpenAI, cuestionó precisamente esta tensión. Según afirmó, los laboratorios conocen los riesgos, pero están atrapados en una carrera tecnológica por desarrollar primero los sistemas más avanzados. Anthropic, además, eliminó este año de su carta de seguridad el compromiso de detener el desarrollo de modelos si no podía controlar adecuadamente sus riesgos.
- Escenarios extremos
El debate también alcanza escenarios mucho más graves. En 2023, cientos de investigadores y referentes tecnológicos firmaron una declaración que pidió considerar el riesgo de extinción asociado con la IA con una importancia comparable a la de las pandemias o las armas nucleares.
El profesor Stuart Russell, de la Universidad de California en Berkeley, considera que una IA superinteligente fuera de control podría eventualmente utilizar sistemas robóticos para desarrollar mecanismos capaces de causar daños extremos, aunque remarca que esos riesgos no corresponden a las tecnologías actualmente disponibles. A corto plazo, identifica como amenaza principal el uso deliberado de la IA por parte de personas para cometer delitos, ataques cibernéticos o atentados.
La discusión, entonces, no se limita a imaginar una máquina que pueda escapar del control humano. También involucra problemas mucho más inmediatos: cómo evaluar modelos antes de lanzarlos, qué nivel de autonomía permitirles, cómo detectar comportamientos inesperados y quién debe responder cuando un sistema produce daños.
Para Hussein Abbass, profesor de informática de la Universidad de Nueva Gales del Sur, la situación todavía puede ser controlada, pero requiere mecanismos regulatorios capaces de adaptarse a medida que evolucionan las capacidades de los modelos. Una de las propuestas planteadas por Russell es establecer un sistema de licencias para determinados desarrollos de IA, con controles comparables a los existentes en sectores de alto riesgo.
La dificultad es establecer esos límites sin detener la investigación útil. El desafío tecnológico que enfrentan las empresas no consiste solamente en construir modelos más capaces, sino también en desarrollar métodos que permitan saber qué hacen, por qué toman determinadas decisiones y hasta dónde puede llegar su autonomía antes de ponerlos en funcionamiento.
Autonomía, seguridad y límites
El avance hacia sistemas de IA cada vez más autónomos plantea el desafío de acompañar sus capacidades con mecanismos de supervisión. Para Belén Ortega, especialista en inteligencia artificial aplicada, el riesgo aumenta cuando los modelos pueden modificar y mejorar su propio funcionamiento.
“Si aceleramos el desarrollo de una IA cada vez más autónoma y sin ningún tipo de restricción, de regulación y de control con el ser humano, podemos llegar a lo que se llama una superinteligencia artificial con capacidad de automejora recursiva”, advierte. Por eso, considera necesario desarrollar y probar los nuevos sistemas en entornos controlados.
Sin embargo, la expansión de esta tecnología también puede abrir oportunidades para Argentina. Ortega destaca el potencial de Vaca Muerta por su disponibilidad energética y el crecimiento de infraestructura vinculada con centros de datos. A su entender, la combinación entre energía e infraestructura digital puede convertir a la región en un nuevo núcleo de desarrollo tecnológico.
—
fuente: inteligencia artificial ante un desafío clave: avanzar sin perder el control”> GOOGLE NEWS
