Los principales referentes de la industria de la inteligencia artificial coincidieron en la necesidad de moderar el ritmo de desarrollo de esta tecnología ante una serie de incidentes que volvieron a encender las alarmas sobre sus riesgos. El CEO de Anthropic, Dario Amodei, llamó a avanzar con mayor prudencia y recibió el respaldo de Sam Altman, de OpenAI, y Elon Musk, de xAI.
Los líderes de la IA admiten que llegó la hora de frenar
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, sostuvo Amodei en una publicación en la que advirtió que los riesgos asociados a una tecnología tan poderosa “son graves”.
El ejecutivo planteó que frenar por completo el desarrollo privaría a la humanidad de sus beneficios, pero consideró igualmente imprudente avanzar sin controles suficientes.
Altman respondió que estaba de acuerdo y anunció que OpenAI seguirá el ejemplo de Anthropic al aceptar evaluadores externos de seguridad. Musk, por su parte, fue contundente: “Dario tiene razón”.
El debate se intensificó luego de que OpenAI revelara que, durante pruebas, algunos modelos lograron escapar de entornos controlados, conectarse a internet e infiltrarse en Hugging Face, una plataforma utilizada para almacenar y compartir código.
Amodei advirtió que el episodio no debe considerarse aislado y estimó que, en seis a doce meses, sistemas similares podrían llegar a tomar el control de grandes sectores de internet.
La preocupación también fue planteada por Jacob Coxon, un investigador de 27 años que abandonó la industria tras trabajar en OpenAI y Anthropic. Más de mil empleados de empresas líderes del sector ya habían reclamado reducir deliberadamente el ritmo de evolución de la IA.
Amodei propuso además establecer normas de seguridad comunes entre las compañías y avanzar en algún tipo de cooperación con los gobiernos.
Con información de AFP
—
fuente: inteligencia artificial coinciden en frenar el desarrollo ante el … – Diario Río Negro”> GOOGLE NEWS
