Las advertencias sobre la inteligencia artificial llegan desde adentro de la industria | El Dia

Durante años, las alertas sobre los peligros de la inteligencia artificial sonaron a ciencia ficción o a exageración de académicos. Hoy las emiten quienes construyen esa tecnología.

El último en sumarse fue Bilal Chughtai, ingeniero que trabajó en seguridad y alineamiento en Google DeepMind. En septiembre explicó en X que renunció preocupado por el rumbo del desarrollo, sostuvo que la IA podría terminar con la humanidad y advirtió que el margen para evitarlo se achica. Su mensaje llegó días después de que Jacob Coxon, investigador de Anthropic, explicara su salida con argumentos similares, y de que su colega Evan Hubinger estimara en más de un 10% la probabilidad de un desenlace catastrófico en la próxima década.

Lo novedoso es que el pedido de prudencia también baja desde las conducciones. Dario Amodei, CEO de Anthropic, planteó en un ensayo que la industria debe desacelerar y advirtió que en seis a doce meses los agentes de IA podrían tomar el control de internet y provocar daños por cientos de miles de millones de dólares. Habló de una “carrera hacia el abismo” alimentada por incentivos comerciales y propuso evaluadores externos que controlen los compromisos de seguridad.

Sam Altman y Elon Musk respaldaron la idea, y Altman anunció que OpenAI no saldrá a bolsa este año por razones de seguridad.

No todos comparten el diagnóstico. Donald Trump calificó de farsa el pedido de regulación y lo atribuyó a una conspiración que, según dijo, solo beneficia a China.

RIESGOS

Más allá del escenario extremo, hay riesgos que ya están en marcha. Un análisis de la escuela de negocios ISDI enumera varios: la automatización amenaza tareas repetitivas y obliga a reconvertir trabajadores; los algoritmos entrenados con datos sesgados pueden reproducir discriminaciones; la recolección masiva de información pone en juego la privacidad. A eso se suman ciberataques más sofisticados, la dependencia de sistemas que pueden fallar y la pérdida de habilidades humanas que dejan de ejercitarse.

La desigualdad es otro frente. Implementar estas herramientas exige inversiones altas y formación específica, y quien no accede a ninguna de las dos queda afuera.

Pocas voces anticiparon este debate como la de Gary Marcus, psicólogo cognitivo y profesor emérito de la Universidad de Nueva York. Durante años sus colegas se burlaron de su escepticismo, hasta que otras figuras del sector empezaron a hablar en un tono parecido. Su crítica no apunta tanto a una superinteligencia descontrolada como a sistemas que no comprenden lo que producen: los modelos de lenguaje inventan datos con total seguridad, facilitan la desinformación a escala y los deepfakes.

Por eso sostiene que todavía no se puede confiar plenamente en ellos y reclama institutos de investigación especializados que los vuelvan más fiables. En 2023 llevó esos argumentos al Senado de Estados Unidos, sentado junto a Altman.