lunes, 24 de agosto de 2026
24/08/2026 – En una nueva edición del ciclo “Un mundo artificial, ¿una sociedad más humana?”, Gustavo Béliz, miembro permanente de la Academia Pontificia de Ciencias Sociales del Vaticano y director y autor principal del Atlas de Inteligencia Artificial para el Desarrollo Humano de América Latina y el Caribe, puso sobre la mesa una de las preguntas que comienzan a ocupar un lugar cada vez más importante en el debate tecnológico mundial: ¿puede la inteligencia artificial llegar a desarrollar algún tipo de conciencia o autopercepción?
La conversación partió de una inquietud planteada por un oyente acerca de las personas que ya participan de experiencias vinculadas con chips implantados en el cerebro y preguntaba si, al fusionarse con un sistema de inteligencia artificial, podrían llegar a perder su identidad. Béliz explicó que distintas empresas estadounidenses y chinas trabajan actualmente en tecnologías que buscan establecer una comunicación de ida y vuelta entre el cerebro humano y las computadoras. Aunque aclaró que las pruebas todavía se encuentran en etapas iniciales, señaló que el desarrollo de la neurotecnología abre interrogantes profundos sobre la identidad, la privacidad y los límites de la intervención tecnológica sobre la persona.
En ese contexto, recuperó una preocupación que atraviesa sus reflexiones de las últimas semanas: la posibilidad de que mientras la inteligencia artificial busca adquirir características cada vez más semejantes a las humanas, los propios seres humanos terminen delegando progresivamente capacidades que deberían permanecer bajo su responsabilidad. El riesgo, sintetizó, es que “las máquinas se conviertan en personas y las personas nos convirtamos en máquinas”.
El punto 99 de “Magnífica Humanitas”: aquello que una máquina no puede vivir
Para Béliz, uno de los textos fundamentales para comprender este debate es el punto 99 de la encíclica Magnífica Humanitas, donde el Papa León XIV establece una distinción esencial entre la capacidad de procesamiento de una inteligencia artificial y la experiencia propiamente humana.
La encíclica señala que estos sistemas no poseen un cuerpo, no atraviesan la alegría ni el dolor, no maduran en las relaciones y no conocen desde dentro lo que significan el amor, el trabajo, la dignidad o la responsabilidad. Tampoco poseen una conciencia moral capaz de juzgar el bien y el mal ni pueden asumir de la misma manera el peso de las consecuencias de sus actos.
A partir de esta diferencia, Béliz planteó un concepto particularmente importante: el derecho humano a saber que estamos interactuando con una máquina. Cuando una persona conversa con un chatbot, debe saber que no está frente a otra persona, aunque la respuesta pueda resultar cada vez más natural, empática o convincente.
Para el especialista, esta transparencia es fundamental para proteger la identidad y la dignidad humana. La cuestión no es rechazar la inteligencia artificial, sino impedir que se produzca una confusión entre aquello que una máquina puede simular y aquello que solamente una persona puede experimentar.
¿Qué está ocurriendo con los experimentos sobre autoconciencia?
El debate adquiere una nueva dimensión a partir de investigaciones recientes desarrolladas por Anthropic, una de las compañías dedicadas al desarrollo de grandes modelos de lenguaje. Béliz explicó que un experimento analizó si estos sistemas podían identificar determinados estados internos mediante una metodología que utilizó poesía.
Al introducir conceptos vinculados con la poesía en un modelo de lenguaje, el sistema produjo respuestas en las que describía aquello como una especie de pensamiento o sensación proveniente de fuera de su proceso habitual. El propio modelo hablaba de una posible transformación vinculada con el lenguaje, el ritmo y el peso emocional de las palabras.
Sin embargo, el estudio introduce una cautela fundamental: la introspección genuina no puede distinguirse fácilmente de las confabulaciones producidas por el propio sistema. Es decir, que una inteligencia artificial sea capaz de describir un supuesto estado interno no significa necesariamente que esté experimentando una conciencia en el sentido humano.
Los resultados citados por Béliz indican que determinados modelos pueden detectar conceptos introducidos en sus procesos internos, recordar representaciones previas y distinguir ciertos resultados propios de información artificialmente incorporada. Pero los investigadores también remarcan que esta capacidad es todavía poco fiable y depende del contexto.
Por eso, el debate permanece abierto: ¿estamos ante una verdadera forma de autoconciencia o ante una extraordinaria capacidad de simulación?
Cuando las empresas comienzan a hablar del “bienestar emocional” de la IA
Uno de los aspectos que más llamó la atención de Béliz es que estas investigaciones empiezan a coincidir con otro fenómeno: algunas grandes empresas tecnológicas están elaborando verdaderas “constituciones” para sus modelos de inteligencia artificial.
Según explicó, estos documentos no se limitan a establecer obligaciones de transparencia o a intentar evitar que los modelos transmitan información falsa. También aparecen referencias al supuesto bienestar emocional de la propia inteligencia artificial.
Este punto genera una tensión particularmente relevante con el planteo de Magnífica Humanitas. Mientras la encíclica insiste en que la inteligencia artificial no siente, no ama, no posee conciencia moral y no vive experiencias humanas, determinadas líneas de investigación tecnológica comienzan a explorar la posibilidad de atribuir a estos sistemas algún tipo de autopercepción.
Béliz fue cuidadoso al señalar que esta posibilidad todavía no está científicamente probada de manera concluyente. Se trata, por ahora, de una frontera que comienza a insinuarse a través de experimentos y debates tecnológicos. Precisamente por eso considera necesario prestar atención a las preguntas éticas y jurídicas que podrían surgir si esta tendencia continúa desarrollándose.
La poesía puede expresar belleza, pero también vulnerar una barrera de seguridad
La entrevista presentó además un aspecto inesperado de estas investigaciones: la utilización de la poesía para intentar vulnerar los mecanismos de seguridad de algunos modelos.
Béliz relató un experimento realizado por científicos italianos en el que, según explicó, determinadas instrucciones que el sistema rechazaba cuando eran formuladas de manera directa podían obtener respuestas diferentes cuando se utilizaban metáforas, lenguaje poético e indicaciones indirectas. El objetivo del experimento era comprobar hasta qué punto podían ser vulneradas las barreras de seguridad diseñadas para impedir determinados usos maliciosos.
La situación presenta una paradoja. La poesía constituye una de las expresiones más profundas de la creatividad y del florecimiento humano, pero también puede ser utilizada como un recurso para intentar rodear las salvaguardas de un sistema.
Por eso Béliz habló de una doble faz de la poesía y subrayó la importancia de comprender que los sistemas de inteligencia artificial necesitan límites, salvaguardas y mecanismos de seguridad permanentemente revisados. El problema no está solamente en lo que una herramienta puede hacer, sino también en quién puede intentar utilizarla y con qué finalidad.
Si una IA tuviera derechos, ¿también debería tener responsabilidades?
La discusión sobre una posible autoconciencia lleva inevitablemente al terreno jurídico. Béliz planteó una pregunta que podría parecer propia de la ciencia ficción, pero que comienza a adquirir relevancia en debates concretos: si algún día se reconociera algún tipo de conciencia o subjetividad a una inteligencia artificial, ¿deberían reconocerse también derechos y responsabilidades?
La cuestión abre un complejo escenario. Si una máquina pudiera ser considerada sujeto de determinados derechos, habría que establecer también cuáles serían sus obligaciones y quién asumiría las consecuencias frente a un uso dañino. Y si se le atribuyeran responsabilidades, surgiría la pregunta acerca de qué tipo de sanciones podrían aplicarse.
Béliz señaló además que estas discusiones no son completamente ajenas a la Argentina. Mencionó iniciativas vinculadas con la posibilidad de crear empresas integradas por agentes de inteligencia artificial en lugar de estar compuestas exclusivamente por seres humanos. Para el especialista, este tipo de propuestas obliga a anticipar los desafíos jurídicos que puede generar una tecnología que comienza a adquirir cada vez mayor autonomía operativa.
¿Copilotaje humano o esclavitud digital?
Todas estas cuestiones conducen, para Béliz, a la pregunta central de esta nueva conversación: ¿estamos construyendo una relación de copilotaje con la inteligencia artificial o nos dirigimos hacia una nueva forma de esclavitud digital?
La idea de copilotaje implica que la tecnología puede acompañar, asistir y ampliar las capacidades humanas, pero sin desplazar a la persona del lugar de conducción. En cambio, una delegación excesiva podría llevar a que los seres humanos terminen confiando en sistemas que no comprenden realmente el significado de sus propias decisiones.
“Si hay lugar para un copilotaje”, planteó Béliz, debe existir una convivencia en la cual “el ser humano sigue teniendo la preponderancia, la centralidad de la magnífica humanidad”.
La pregunta no es menor porque, como recordó, el debate ya está siendo planteado por científicos, investigadores y medios especializados. La posibilidad de una inteligencia artificial consciente sigue siendo discutida, pero los avances concretos en autopercepción, neurotecnología y sistemas cada vez más autónomos obligan a pensar desde ahora cuáles serán los límites que no deberían cruzarse.
Chips cerebrales: entre los riesgos y las posibilidades médicas
La conversación también permitió abordar el desarrollo de interfaces cerebro-computadora y los llamados neuroderechos.
Béliz explicó que existen investigaciones destinadas a establecer conexiones entre el cerebro humano y sistemas informáticos. Algunas experiencias buscan incluso incorporar tejidos cerebrales en dispositivos tecnológicos. Aunque reconoció que estos desarrollos generan preocupación por la posibilidad de acceder o intervenir sobre pensamientos humanos, también pidió evitar una mirada exclusivamente negativa.
El especialista destacó que algunas de estas investigaciones tienen objetivos médicos concretos. Existen experiencias orientadas a ayudar a personas con parálisis cerebral o dificultades severas de comunicación para recuperar movimientos, escribir o establecer contacto con el mundo exterior. También se investiga la posibilidad de recuperar capacidades vinculadas con la visión o la audición.
Por eso, el desafío no consiste simplemente en rechazar los chips cerebrales o las interfaces neuronales. La cuestión fundamental vuelve a ser qué finalidad tienen, bajo qué condiciones se utilizan y qué derechos se protegen durante su desarrollo.
En este punto aparecen los neuroderechos, destinados precisamente a proteger dimensiones tan delicadas como la privacidad mental, la identidad y la autonomía de las personas. Para Béliz, se necesitan marcos éticos claros, límites y salvaguardas que permitan aprovechar los beneficios médicos sin abrir la puerta a usos vinculados con la manipulación, la guerra o la destrucción.
El claro y el oscuro de la inteligencia artificial
A pesar de los riesgos planteados durante la conversación, Béliz buscó cerrar con un mensaje de esperanza. Como ejemplo mencionó un reciente avance relacionado con una vacuna destinada a prevenir el melanoma y señaló que la inteligencia artificial puede contribuir al descubrimiento de nuevos medicamentos y tratamientos.
De esta manera, la tecnología presenta simultáneamente un claro y un oscuro. Puede ser utilizada para profundizar la guerra, la manipulación y la dependencia, pero también puede potenciar el trabajo de científicos y contribuir a resolver problemas que afectan directamente la vida humana.
La diferencia, entonces, no está únicamente en la herramienta. Está en las decisiones humanas que determinan su utilización.
Por eso, ante la afirmación de un oyente que sostenía que la inteligencia artificial “va a acabar con el hombre” y que no aporta ningún beneficio, Béliz respondió desde una perspectiva más esperanzadora. No se trata de preguntar solamente qué puede hacer la inteligencia artificial, sino de cambiar la pregunta por una mucho más importante: qué podemos hacer los seres humanos apoyándonos responsablemente en ella.
La magnífica humanidad debe seguir en el timón
La conclusión de la entrevista recuperó el eje que atraviesa todo el ciclo: la tecnología no debe convertirse en el centro de la historia.
Béliz insistió en que no es la inteligencia artificial por sí misma la que produce resultados mágicos. Su verdadero potencial aparece cuando es utilizada por personas capaces de orientarla hacia objetivos vinculados con el bien común. “No es cuántas cosas puede hacer la IA, sino cuántas cosas podemos hacer los seres humanos”, afirmó.
En esa frase queda sintetizada buena parte de la conversación. La discusión sobre una eventual conciencia artificial, los chips cerebrales, la neurotecnología, la autopercepción de los modelos y los nuevos debates jurídicos no debería hacernos perder de vista la pregunta fundamental: qué lugar queremos reservarle a la persona humana en el futuro tecnológico.
La respuesta que propone Béliz, en sintonía con Magnífica Humanitas, apunta a conservar la “magnífica humanidad” en el timón. No se trata de rechazar la tecnología, sino de utilizarla con inteligencia, prudencia y responsabilidad, protegiendo la dignidad, la libertad, la privacidad y la capacidad humana de decidir.
Porque el verdadero desafío de esta nueva era no es conseguir que las máquinas sean cada vez más parecidas a nosotros. Es lograr que, mientras las máquinas aumentan sus capacidades, los seres humanos no dejemos de ser plenamente humanos.
—
fuente: inteligencia artificial puede volverse consciente? El debate que ya está en marcha – Podcast”> GOOGLE NEWS
