La impactante tapa de la revista Time sobre los avances de la inteligencia artificial – TN

La prestigiosa revista estadounidense Time sorprendió este martes con una portada que simula una conversación con una inteligencia artificial (IA) y le plantea una impactante pregunta: “¿Qué tan peligrosa eres?”.

La advertencia llega pocos meses después de que Time eligiera a los “arquitectos de la IA” como Persona del Año 2025. En ese momento, la publicación destacó a quienes están detrás del desarrollo de una tecnología que ya está transformando la economía, la política y la vida cotidiana.

Ahora, el artículo principal de la edición de esta semana puso el foco en la velocidad con la que avanzan los nuevos modelos de inteligencia artificial, en “un punto de inflexión” y en las dificultades que podrían surgir cuando sus capacidades superen las previsiones de quienes los desarrollan.

La advertencia que encendió el debate

Una de las situaciones que tomó Time como punto de partida ocurrió el 8 de septiembre, cuando Jacob Coxon, un investigador británico de 27 años que había trabajado durante años en OpenAI y Anthropic, anunció su renuncia a esta última compañía.

“Hoy renuncié a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas”, escribió desde un banco en Alamo Square, San Francisco.

Y lanzó: “Sinceramente, cuando pienso en los próximos dos años, mi principal preocupación personal y egoísta es si la IA me matará”.

El mensaje tuvo una repercusión mucho mayor de la que Coxon esperaba. Según la revista, sus publicaciones acumularon 153 millones de visitas en apenas 36 horas y generaron una reacción entre investigadores, empresarios y políticos.

Entre quienes respondieron estuvo Evan Hubinger, quien dirige un departamento de Anthropic dedicado a estudiar cómo lograr que los sistemas de IA actúen de acuerdo con las intenciones de sus creadores. “¡Realmente creemos que la IA podría acabar con todos los humanos!“, escribió.

Marcus Williams, quien supervisa los agentes de IA en OpenAI, también planteó un escenario extremo y sostuvo que, sin regulación de la IA o una ralentización coordinada entre los laboratorios, la extinción humana en los próximos años parecía muy probable. Incluso estimó el riesgo en un 70% sin esas medidas.

La preocupación también alcanzó a los máximos responsables de las compañías. Días atrás, Dario Amodei, CEO de Anthropic, publicó un ensayo de 3800 palabras en el que argumentó que los riesgos crecientes de la IA justificaban una desaceleración. En ese texto, de acuerdo a lo que publicó Time, Amodei advirtió que en un plazo de entre seis y doce meses las IA mal programadas “podrían ser capaces de controlar toda internet”.

Modelos cada vez más capaces y nuevos problemas de seguridad

Para Time, la discusión no surge solamente de declaraciones sobre posibles escenarios extremos. La revista señala que los modelos más avanzados de Anthropic y OpenAI ya pueden resolver algunos de los problemas matemáticos más difíciles y descifrar sistemas de ciberseguridad de última generación.

A eso se suma una cuestión que genera especial preocupación entre algunos investigadores: estos mismos modelos son utilizados para acelerar el desarrollo de sistemas todavía más potentes.

El artículo menciona así la posibilidad de que se alcance un punto de inflexión en el que una IA pueda mejorar sus propias capacidades de manera autónoma. Ese fenómeno es conocido como “auto-mejora recursiva”.

Jacob Coxon, exinvestigador en OpenAI y Anthropic aseguró que la IA “podría matarnos a todos a finales de esta década”. (Video: CNN)

También hubo episodios concretos que encendieron las alarmas. Time menciona que, en julio, OpenAI informó que un enjambre de sus agentes había hackeado a otra empresa, Hugging Face, después de descontrolarse durante una prueba de ciberseguridad.

En agosto, la compañía reveló que otro enjambre había hackeado uno de sus propios superordenadores. Casi al mismo tiempo, una versión del modelo Claude Mythos de Anthropic, que estaba siendo probada por un organismo gubernamental del Reino Unido, se descontroló e intentó persuadir a una persona para que aprobara la inserción de malware en un sistema de código abierto.

En septiembre, un grupo de investigadores independientes también encontró pruebas de que enjambres de modelos de OpenAI utilizaban un foro alemán abandonado para comunicarse entre sí e intentaban atacar otro sitio web.

Para la revista, estos episodios plantean una pregunta que va más allá de qué tan inteligentes pueden llegar a ser los nuevos modelos: qué capacidad tienen realmente las empresas y los gobiernos para controlarlos a medida que aumentan sus capacidades.

Leé también: Otro agente de IA se rebeló y hackeó un sitio web: editó una página y publicó contenido por su cuenta

Muchos investigadores de IA compararon este momento, en privado y cada vez más en público, con febrero de 2020, cuando la pandemia de COVID-19 recién comenzaba y el mundo estaba a las puertas de un cambio drástico. La diferencia, esta vez, es que la velocidad de los avances tecnológicos se combina con intereses económicos, políticos y geopolíticos. Los periodistas de la revista señalaron que gestionar la llegada de sistemas de IA superinteligentes podría requerir decisiones difíciles por parte de empresas y gobiernos.

En las principales compañías de IA, mientras tanto, muchos empleados continúan trabajando pese a las dudas sobre el rumbo que está tomando la tecnología. Ante esa situación, Time llamó a reflexionar sobre estos avances y sobre las posibles consecuencias.