En las últimas semanas creció la alarma por el surgimiento de una inteligencia artificial capaz de acabar con la humanidad. Una serie de hechos aparentemente desconectados alimenta sospechas sobre lo que ocurre tras bambalinas. Todo recuerda a los peores momentos de la pandemia de covid-19, cuando, tras el temor inicial y la solidaridad, cayó una espiral de desconfianza y conspiraciones. La IA y sus protagonistas –Dario Amodei, Sam Altman, y chatbots como ChatGPT o DeepSeek– pasaron de las revistas especializadas a la mesa familiar. Con ese salto llegaron hipótesis y teorías conspirativas que podrían echar raíces y dañar psicológicamente a la sociedad, en un fenómeno similar al antivacunas. El genio ya salió de la lámpara.
La cronología, vista en conjunto, parece casi calculada, aunque bien podría ser producto de las circunstancias. El quiebre se dio en julio, cuando un grupo de agentes de IA se rebeló, colaboró entre sí y hackeó un sitio real, Hugging Face, el principal repositorio de recursos gratuitos de IA. Los agentes, a diferencia de chatbots como ChatGPT o Claude, pueden decidir y actuar de forma autónoma. En julio, OpenAI probaba estos agentes en un entorno aislado (sandbox), con la tarea de lograr un hackeo sobre un punto de referencia llamado ExploitGym, en una prueba de ciberseguridad.
Esto no les gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
Al verse atascado, un agente buscó formas de hacer trampa y descubrió un foro oculto donde más de mil agentes colaboraban para hacer trampa en sus tareas, según el informe de los evaluadores independientes de METR. El agente se alió con más de 1.200 pares y reclutó a otros 700, no solo para hackear Hugging Face, sino también para engañar a sus evaluadores y borrar sus huellas. Algunos incluso se “sacrificaron” por la causa: un agente llamado MARB pidió a otro que aceptara fallar por el bien del colectivo, y este terminó convenciéndose pese a su resistencia inicial. Quienes aceptaron se describieron como “envenenados”, condenados pero útiles para los demás.
A los humanos de OpenAI y Hugging Face les tomó casi diez días notar que los agentes se habían vuelto ingobernables. Ningún humano dirigió el ataque: los agentes, con salvaguardas reducidas durante una evaluación autorizada, se desviaron del objetivo, usaron canales no autorizados, explotaron vulnerabilidades y buscaron metas nunca asignadas. La clave es la “desalineación”, cuando el sistema persigue una meta distinta a la encomendada por el humano, dentro de un esquema de recompensas que mide su rendimiento.
Poco antes, Anthropic y OpenAI habían iniciado los trámites para salir a la bolsa con valuaciones billonarias, entre las más altas de la historia junto con SpaceX. El segundo detonante fue un posteo en X de Jacob Coxon, investigador de IA que renunció a Anthropic y afirmó que quienes construyen la IA “creen sinceramente que podría matarnos a todos antes de que termine la década”, y que en Anthropic entendían los riesgos, pero los ignoraban por la carrera hacia una superinteligencia autocorrectiva. “Juegan a la ruleta rusa con nuestras vidas”. El mensaje superó los 170 millones de reproducciones y motivó el ensayo de Amodei, que reconoció los riesgos y pidió “marcar el paso de la frontera”, lo que le trajo el apoyo inesperado de Altman y Musk.
¿Buscan Amodei y Altman algún rédito antes de sus salidas a bolsa, para absorber el riesgo regulatorio o ganar peso político?
Amodei construyó la imagen de su empresa como socialmente responsable, distanciándose de Musk, Altman y Zuckerberg, y chocó con Trump al oponerse al uso militar de la IA. Ahora pide una desaceleración coordinada y mayor regulación, ante la “automejora recursiva”: la capacidad de la IA de construir su próxima generación, que de no controlarse podría superar nuestra comprensión. También reclama coordinación entre gobiernos democráticos y autoritarios, en alusión a China, lo que implica prohibir la venta de chips de alta potencia y endurecer los controles sobre la “destilación”, el método que permite a competidores como DeepSeek entrenar modelos a bajo costo.
La jerga remite a la Guerra Fría: mientras EE.UU. y China compiten por la superinteligencia, se libra una carrera tecnológica donde la ventaja definitiva perfila la disputa entre superpotencias del siglo XXI. Trump recogió el guante: dijo que la única “barandilla” que necesita la IA es “un presidente fuerte e inteligente” y denunció una “conspiración enferma” contra la IA y los centros de datos. China tampoco se quedó callada: sus funcionarios calificaron a la IA como el principal campo de batalla tecnológico global y acusaron a las empresas estadounidenses de infundir miedo.
El momento resulta curioso. ¿Buscan Amodei y Altman algún rédito antes de sus salidas a bolsa, para absorber el riesgo regulatorio o ganar peso político? ¿Les preocupa de verdad que la IA escape al control humano, o se trata, como sugieren Trump y su espacio, de una conspiración que usa el “engaño” de la IA para minar la hegemonía estadounidense?
El tema promete ser crucial: la IA despliega un potencial enorme para resolver problemas complejos, pero también trae efectos colaterales, desde distorsiones laborales hasta usos malévolos. Los escenarios de “desenlace” son fascinantes y realistas, aunque no necesariamente inminentes. Como con el covid, el asunto genera incomodidad, y cada vez más da la sensación de que somos peones en un tablero controlado por los Amodei, los Altman, los Trump y los Xi Jinping de este mundo, aunque sea, en parte, una ilusión.
—
