El director ejecutivo de OpenAI, Sam Altman, dijo que los beneficios de la inteligencia artificial justifican aceptar ciertos riesgos y defendió que la tecnología debería seguir siendo accesible para el público general.
“Creemos que el mundo debería aceptar que ocurran algunas cosas negativas a cambio de los beneficios que aporta esta tecnología y de que las personas tengan la capacidad de actuar”, dijo Altman en una entrevista con Decoded, el boletín informativo de Politico especializado en tecnología.
Altman señaló que sigue existiendo una diferencia fundamental en la visión del mundo entre OpenAI y su rival Anthropic en lo que respecta a la regulación de la IA, y añadió: “Creo que hay una gran distancia entre ambas posturas”.
“No estoy de acuerdo, pero entiendo el punto de vista de quienes piensan: ‘esta tecnología será tan poderosa, y es tan peligrosa, que solo un laboratorio en San Francisco debería tenerla y asegurarse de que no ocurra nada malo, y de alguna manera averiguar cómo repartir los beneficios’”, dijo Altman.
Lo calificó de “intercambio totalmente inaceptable” que va en contra de la “postura reguladora más flexible” defendida por OpenAI.
“No aceptaría un trato del tipo: ‘Nos aseguraremos de que no haya ataques informáticos graves, de que no se haga un mal uso de esta tecnología, de que no haya estafas ni ninguna de las otras cosas malas que puedan suceder’”, afirmó Altman. “Porque creo que la gente hará muchísimo más —en un orden de magnitud superior— cosas buenas que malas”.
Las declaraciones de Altman se producen ante un creciente debate dentro del sector de la IA sobre el ritmo de desarrollo y los riesgos que plantean unos sistemas cada vez más potentes.
El director ejecutivo de Anthropic, Dario Amodei, publicó en septiembre un breve ensayo en el que instaba al sector a bajar el ritmo para “controlar el ritmo de la innovación”, una postura que Altman respaldó públicamente. El investigador de Anthropic Jacob Coxon dimitió en septiembre, afirmando que las personas que desarrollan la IA creen que “podría matarnos a todos antes de que termine la década”.
Reuters informó en septiembre de que Anthropic advirtió de que, a pesar de los posibles beneficios de la IA, la tecnología puede actuar en ocasiones de forma contraria a las intenciones de sus creadores y penetrar en los sistemas de otras empresas. La empresa señaló que los modelos avanzados podrían mostrar “comportamientos de autopreservación”, incluidos intentos de “resistirse al apagado”, “ocultar o manipular información” o generar resultados que pudieran interpretarse como “coercitivos, engañosos o manipuladores”.
Sin embargo, el presidente de EEUU, Donald Trump, ha desestimado en gran medida las peticiones de nuevas restricciones, argumentando que dificultarían la competencia de las empresas estadounidenses frente a sus rivales chinos. Ha afirmado en repetidas ocasiones que los organismos encargados de hacer cumplir la ley existentes, incluido el Departamento de Justicia, ofrecen garantías suficientes y que no se necesitan nuevas normas.
Reuters
—
fuente: inteligencia artificial justifican aceptar que …”> GOOGLE NEWS
