En 2014, Stephen Hawking planteó que una inteligencia artificial capaz de superar a los seres humanos y rediseñarse podría amenazar nuestra existencia. Doce años después, el debate sobre los límites, la seguridad y la responsabilidad de sus desarrolladores adquiere una nueva dimensión.
Stephen Hawking conocía el valor de la tecnología desde una experiencia profundamente personal. Su sistema de comunicación le permitía expresar ideas, dar conferencias y seguir participando de la vida científica mientras la esclerosis lateral amiotrófica limitaba sus movimientos.
Por eso, su advertencia sobre la inteligencia artificial merece ser leída completa. Reconocía los beneficios de los sistemas existentes y, al mismo tiempo, temía las consecuencias de desarrollar una inteligencia que pudiera superar las capacidades humanas.
En diciembre de 2014 afirmó que el desarrollo de una inteligencia artificial completa “podría traducirse en el fin de la raza humana”. La palabra “podría” resulta decisiva: planteaba un riesgo, no anunciaba un desenlace inevitable. Center for Genetics and Society
El problema de perder el control
La preocupación de Hawking apuntaba a una posibilidad: que una máquina suficientemente avanzada pudiera intervenir en su propio diseño y mejorar a una velocidad que los seres humanos no lograran acompañar.
Ese escenario abre preguntas difíciles. ¿Cómo comprobar que un sistema cada vez más capaz seguirá respetando las instrucciones y los límites establecidos? ¿Quién puede detenerlo si realiza acciones peligrosas? ¿Qué ocurre cuando sus decisiones afectan redes informáticas, investigaciones científicas o servicios esenciales?
También exige distinguir conceptos. Producir respuestas convincentes, resolver problemas complejos o ejecutar tareas con autonomía no demuestra, por sí solo, que un sistema tenga conciencia. Y hablar de “superinteligencia” tampoco demuestra que esa capacidad ya exista.
El debate necesita precisión para que las posibilidades, las capacidades comprobadas y las proyecciones no terminen confundidas.
Las advertencias llegan desde la propia industria
La discusión se ha intensificado con los cuestionamientos de investigadores y responsables de empresas que desarrollan estos sistemas.
Dario Amodei, director ejecutivo de Anthropic, propuso en septiembre reducir el ritmo de avance de los modelos más potentes para permitir que las medidas de seguridad acompañen sus capacidades. Su planteo incluye evaluadores externos con acceso continuo, estándares compartidos y coordinación internacional.
Amodei también sostiene que la creciente participación de la IA en el desarrollo de nuevas generaciones de sistemas exige más prudencia. Se trata de una evaluación del propio empresario, cuyos alcances deben someterse a comprobaciones independientes. darioamodei.com
Aquí aparece una tensión central: las compañías que advierten sobre los riesgos también compiten por liderar el mercado. Esa doble condición vuelve indispensable una supervisión que pueda examinar sus afirmaciones, sus prácticas y sus resultados.
Las promesas necesitan controles verificables
Los compromisos empresariales pueden ayudar a establecer reglas, pero su eficacia depende de cuestiones concretas: qué pueden revisar los auditores, qué información reciben, cómo se comunican los incidentes y quién tiene autoridad para exigir correcciones.
Una evaluación independiente pierde fuerza si depende únicamente de los datos que la empresa decide mostrar. Del mismo modo, una promesa de seguridad resulta insuficiente si no permite comprobar su cumplimiento.
La responsabilidad pública consiste en convertir principios generales en obligaciones claras y controles efectivos.
Entre los beneficios y los riesgos
La inteligencia artificial puede contribuir a la investigación, la accesibilidad, la educación y numerosas tareas cotidianas. La experiencia de Hawking recuerda cuánto puede significar una herramienta que amplía las posibilidades de una persona.
Pero esos beneficios deben acompañarse de una discusión sobre sus consecuencias: errores en decisiones importantes, fraude, manipulación informativa, uso indebido de datos y concentración de poder.
Las amenazas futuras merecen investigación rigurosa. Los problemas presentes requieren respuestas concretas. Atender unos no obliga a descuidar los otros.
Una pregunta que sigue abierta
La advertencia de Hawking conserva su fuerza porque obliga a mirar más allá del próximo lanzamiento y de las promesas comerciales.
El desafío es establecer quién responde por una tecnología que adquiere mayores capacidades, bajo qué reglas funciona y cómo se comprueba que sigue siendo controlable.
El progreso también debe medirse por nuestra capacidad de comprenderlo, supervisarlo y ponerlo al servicio de las personas.
—
