Dos legisladores de Estados Unidos presentaron un proyecto de ley para otorgar al Gobierno la facultad de ordenar el apagado de sistemas de inteligencia artificial (IA) que representen un riesgo para la seguridad pública.
La iniciativa, denominada AI Kill Switch Act, fue impulsada por el congresista demócrata Ted Lieu y el republicano Nathaniel Moran, quienes sostienen que el rápido avance de la inteligencia artificial exige mecanismos que permitan intervenir de manera inmediata ante posibles fallas o comportamientos peligrosos.
Santiago Siri sobre el auto-hackeo de IA: “Quieren entender si estos modelos pueden salirse de su jaula”
Qué propone la ley
El proyecto establece que el Departamento de Seguridad Nacional de Estados Unidos (DHS) pueda ordenar a una empresa tecnológica reducir, suspender o apagar completamente un sistema de inteligencia artificial cuando represente una amenaza para la población.
Además, exigiría que las compañías desarrolladoras mantengan la capacidad técnica para limitar el funcionamiento de sus modelos o desconectarlos por completo cuando las autoridades lo requieran.
La iniciativa también obligaría a las empresas a informar incidentes tecnológicos relacionados con sus sistemas de IA y crea un protocolo oficial de respuesta que contempla distintas etapas, desde una reducción gradual de la actividad hasta el apagado total del modelo.
La IA sorprendió a la comunidad científica: resolvió un problema matemático planteado hace 87 años
El argumento de los impulsores
Al presentar la propuesta, Ted Lieu sostuvo que la inteligencia artificial está dejando de ser una herramienta destinada únicamente a responder preguntas para convertirse en una tecnología capaz de ejecutar acciones concretas.
Según explicó, esos sistemas ya comienzan a intervenir en operaciones financieras, ciberseguridad y otros procesos críticos, por lo que consideró necesario garantizar que los seres humanos conserven el control sobre su funcionamiento.
“Es imprescindible que estos sistemas cuenten con un mecanismo de apagado y que el Gobierno federal tenga una autoridad clara para desconectar modelos de IA que actúen fuera de control”, afirmó.
Por su parte, Nathaniel Moran sostuvo que el desarrollo tecnológico debe ir acompañado de mecanismos que permitan intervenir cuando sea necesario.
Apple demandó a OpenAI por presunto uso ilegal de tecnología confidencial y secretos industriales
También mencionan a Anthropic
Lieu también hizo referencia a Anthropic, uno de los principales competidores de OpenAI en el desarrollo de inteligencia artificial.
El legislador recordó los recientes inconvenientes vinculados con los modelos Mythos y Fable, cuyas capacidades en materia de ciberseguridad llevaron al Departamento de Comercio a restringir temporalmente su difusión mediante la aplicación de normas de control de exportaciones.
En la misma línea, el cofundador de Anthropic, Jack Clark, había reclamado recientemente una regulación más amplia sobre el desarrollo de la inteligencia artificial.
“Hoy la industria tiene un acelerador, pero no tiene un pedal de freno”, afirmó durante una entrevista con la BBC.
Empresas sin humanos: la apuesta de la gestión Milei para convertir a la Argentina en polo global de la IA
Un debate que gana fuerza en Estados Unidos
El proyecto también se conoce mientras el Gobierno estadounidense incrementa el uso de inteligencia artificial en áreas estratégicas.
Este año, el Pentágono anunció una estrategia para convertirse en una fuerza militar con enfoque “AI-first”, apoyándose en acuerdos con empresas como OpenAI, Google, Amazon, Microsoft, SpaceX, Oracle, Nvidia y la startup Reflection.
La propuesta legislativa ya recibió el respaldo público de varias organizaciones especializadas en políticas de inteligencia artificial y seguridad tecnológica, que consideran necesario establecer mecanismos de control ante el desarrollo de modelos cada vez más potentes.
—
