Los principales referentes de la industria tecnológica global se presentaron ante el Consejo de Seguridad de la Organización de las Naciones Unidas (ONU) para alertar sobre la velocidad de desarrollo de los sistemas autónomos y reclamar un marco estricto de regulación transfronteriza. Durante la sesión, el director ejecutivo de OpenAI, Sam Altman, pidió una articulación urgente entre Estados y desarrolladores privados para evitar escenarios críticos.
“A nivel internacional, esto significa cooperación“, enfatizó Altman al dirigirse a los representantes de las potencias mundiales, subrayando la necesidad de establecer estándares compartidos de supervisión técnica antes de que la capacidad de los modelos sobrepase las barreras de contención humana.
Riesgos de seguridad y control humano: la advertencia del creador de ChatGPT
El creador de ChatGPT remarcó que el vertiginoso ritmo evolutivo de la inteligencia artificial plantea desafíos inéditos para la estabilidad global:
Advirtió de manera explícita sobre el peligro latente de que los operadores humanos pierdan la capacidad de intervención o monitoreo sobre las decisiones autónomas de los modelos más avanzados.
Sostuvo que las enormes promesas de rentabilidad y productividad que promete la tecnología no deben justificar la asunción de riesgos desmedidos en materia de seguridad civil e institucional.
El respaldo de Anthropic en la ONU
En sintonía con Altman, el CEO de Anthropic, Dario Amodei, participó de la reunión mediante videoconferencia y coincidió en la gravedad del panorama:
Amodei definió los peligros asociados a los modelos de frontera como “uno de los principales problemas de seguridad global” de la actualidad. Remarcó que ninguna administración nacional cuenta con la capacidad de abordar o mitigar estos desafíos de forma unilateral o aislada, haciendo un llamamiento a consensuar tratados multilaterales vinculantes.
