Como en otros países, y en la Unión Europea, en Estados Unidos avanzan las medidas para lograr un mayor control sobre los modelos de IA. El presidente Donald Trump firmó una orden ejecutiva para que el gobierno establezca de un marco federal sobre “seguridad nacional” para la IA.
Según la orden ejecutiva, el gobierno federal podrá evaluar los riesgos para la seguridad nacional de los sistemas de IA más avanzados durante un máximo de un mes antes de su publicación. La participación de los desarrolladores de IA sería voluntaria, señala la orden.
“Las capacidades avanzadas de IA hacen que nuestra Nación sea más fuerte, pero también introducen nuevas consideraciones de seguridad nacional que requieren una acción coordinada entre los departamentos y agencias del poder ejecutivo”, dice el texto, compartido por la agencia AP.
La orden apunta que el gobierno tendría solo 30 días para revisar un sistema de IA, un plazo más corto de lo que algunos en la industria esperaban. Un periodo más largo podría haberse considerado demasiado oneroso para una industria de rápido movimiento y altamente competitiva.
Colaboración voluntaria
Trump había cancelado un acto en el Despacho Oval con ejecutivos de la industria tecnológica porque no le gustó la versión anterior de la orden. Manifestó entonces a los periodistas: “Le estamos ganando a China, le estamos ganando a todos, y no quiero hacer nada que se interponga en el camino de esa ventaja”.
Esa directiva fue descrita como una colaboración voluntaria con empresas tecnológicas con sede en Estados Unidos que participaban, entre ellas Anthropic, OpenAI y Google, muchas de las cuales iban a estar presentes en el acto de firma que iba a realizarse el 21 de mayo.
Juan Londoño, analista de políticas del Instituto Cato, de tendencia libertaria, estimó que la orden es imperfecta, pero “un paso en la dirección correcta para preparar a la nación para la publicación de sistemas avanzados de IA”.
Aplaudió la caracterización del proceso como voluntario, pero dijo que le preocupaba la vaguedad de cómo el gobierno, encabezado por el director de la Agencia de Seguridad Nacional, decidirá qué modelos de IA califican para el escrutinio y cómo decidirá qué “socios de confianza” obtienen acceso temprano a ellos.
“Esto podría abrir la puerta a una posible manipulación política contra empresas que tengan algún tipo de conflicto con la administración”, dijo Londoño en una declaración escrita.
Los planes para una nueva directiva de ciberseguridad de IA surgieron luego de que Anthropic confirmara que su modelo de IA más avanzado, Claude Mythos, tiene un poder casi ilimitado para descubrir brechas de seguridad en los sistemas.
El secretario del Tesoro, Scott Bessent, y el presidente saliente de la Reserva Federal, Jerome Powell, poco después convocaron una reunión urgente con directores ejecutivos de Wall Street, advirtiéndoles sobre los riesgos planteados por la aparente capacidad de Mythos para encontrar vulnerabilidades de ciberseguridad en el software del mundo.
Anthropic ha limitado el acceso a Mythos a solo un pequeño grupo de socios de confianza, como grandes empresas tecnológicas y bancos. El acceso ha sido ampliado en las últimas semanas a 15 gobiernos, entre ellos varios de la Unión Europea.
—
