La discusión sobre el llamado “Gemelo Digital Social” presentado por el gobierno fue planteada como una discusión tecnológica: inteligencia artificial, simulaciones y capacidad predictiva para diseñar políticas públicas. Pero la pregunta central es otra. Antes de discutir la eficacia del sistema hay que preguntarse cuál es la diferencia entre la realidad que se busca representar y cuál es la relación con el “gemelo digital”. Dado que la realidad social no es en ningún caso equivalente a su “gemelo”, si se opera sobre la réplica digital como si se tratara de la realidad efectiva, las consecuencias pueden ser perniciosas. Luego hay que preguntarse de dónde provienen sus datos y quién adquiere poder mediante ellos.
Desde la CTA A (Dirección de Nuevas Tecnologías y Coordinación de Nuevas Tecnologías del IEF), en el marco de la Red Interfaces Digitales, junto a compañeros y compañeras de universidades y organizaciones de nuestro país, de Brasil y de Italia, organizamos el año pasado un conversatorio sobre gemelos digitales, con un especialista napolitano, donde advertíamos distintos riesgos y posibilidades y hacíamos hincapié en la necesidad de una red amplia de trabajadores, investigadores, actores políticos y ciudadanos interesados para procesar estos saltos tecnológicos y encontrarnos a la altura de la complejidad que suponen.
Los llamados digital twins o “gemelos digitales” son sistemas informáticos que proponen la réplica exhaustiva de un determinado fenómeno, de un escenario complejo o de una realidad en movimiento, con el objetivo de operar sobre el modelo como si se tratara de la realidad modelizada y predecir comportamientos o resultados. Todo gemelo digital necesita una condición previa: enormes volúmenes de información integrados de manera permanente. Pero no da igual si se trata de un gemelo digital de artefactos o procesos industriales, que de un supuesto “gemelo digital social”, cuando se trata de la vida de ecosistemas y personas. Salud, educación, ingresos, empleo, territorio, asistencia social, movilidad y múltiples registros dispersos son recombinados en una arquitectura única. El valor del sistema no reside principalmente en la inteligencia artificial; reside en la capacidad de concentrar y correlacionar datos.
Y aquí aparece el primer problema político. Los ciudadanos entregan datos para fines específicos: cobrar una prestación, acceder a salud, realizar un trámite. No necesariamente entregan esos datos para construir perfiles predictivos, inferir conductas futuras o transformar su vida social en una matriz estadística. El pasaje parece pequeño pero es enorme: un dato administrativo registra hechos; un dato predictivo intenta anticipar comportamientos. Además, intervenir sobre la vida como si se tratara de un agregado de datos es una forma de simplificarla y, en el fondo, violentarla.
La consecuencia política es una transformación silenciosa del Estado. El Estado social tradicional intervenía sobre problemas existentes: desempleo, pobreza, enfermedad, desigualdad. El Estado predictivo interviene sobre probabilidades: quién podría abandonar la escuela, quién podría necesitar asistencia, quién podría convertirse en un problema futuro. Ya no aparece el ciudadano concreto sino su doble matemático.
Surge así una nueva categoría política: el ciudadano probabilístico.
Y las probabilidades nunca son neutrales. Los modelos se basan en datos construidos por sociedades atravesadas por desigualdades económicas, culturales y territoriales. Una inteligencia artificial no descubre una realidad pura que simplemente duplica hasta conseguir el gemelo: amplifica patrones ya existentes y transforma lo complejo e irregular propio de la vida (y, en particular, de la vida en sociedad) en formatos estadísticos. Si una sociedad tiene desigualdades estructurales, existe el riesgo de que el modelo las reproduzca con apariencia de objetividad científica.
También se modifica la relación entre política y democracia. Antes la secuencia era relativamente clara: ciudadanos, debate público y decisiones estatales. Ahora aparece una mediación nueva: ciudadanos, datos, modelo y luego políticas. La capa algorítmica se convierte en un intermediario opaco que, paradójicamente, aparenta la transparencia total. Porque los modelos digitales son transparentes, en la medida en que dejas afuera todo lo que en la vida de los organismos, las personas y las sociedades no puede traducirse en información dura.
Y allí surge una forma contemporánea de poder particularmente eficaz: la administración técnica de lo social.
Porque las decisiones pueden comenzar a presentarse bajo una lógica conocida: “no es una decisión ideológica; lo dice el modelo”. La política deja de aparecer como conflicto y disputa de intereses y pasa a mostrarse como cálculo técnico inevitable. De ese modo, se consolidaría la pérdida de legitimidad de las instancias en que colectivamente se decida sobre los asuntos comunes, para delegar la última palabra en la máquina.
La dimensión sindical de esta discusión es todavía más profunda y casi no está siendo abordada. Con suficiente volumen de información los sistemas predictivos pueden modelar movilidad, comportamiento laboral, redes sociales, patrones de organización colectiva y conflictividad. El trabajador corre el riesgo de dejar de ser un sujeto político para transformarse en una variable administrable. Porque para la perspectiva informacional no hay conflicto como dimensión estructurante de lo social, sino sólo “conflictivos” que deben ser neutralizados o erradicados. ¿Se trata de un gemelo fascista?
No pretendemos vociferar una distopía de vigilancia total. El control contemporáneo suele ser mucho más sofisticado: no prohíbe; clasifica. No persigue; prioriza. No sanciona; asigna probabilidades.
Sin embargo, el problema no es la tecnología en sí misma. Un gemelo digital podría utilizarse con una orientación completamente distinta si se toma en cuenta la distancia estructural entre el modelo y lo modelizado: identificar desigualdades territoriales, proyectar impacto de aumentos salariales, detectar exclusión digital, anticipar crisis de empleo o mejorar acceso a salud y educación, proyectar la aplicación de una renta básica universal.
La pregunta entonces no es si debe existir un gemelo digital social.
La pregunta es quién lo controla, quién audita sus decisiones, quién posee los datos y para qué proyecto de sociedad será utilizado. El “quién” no se refiere a un signo político, sino a la capacidad de decidir de los protagonistas, es decir, la ciudadanía emplazada en situaciones concretas en las que se pueden establecer criterios y formas de regulación.
La discusión de fondo no es tecnológica. Es una discusión sobre soberanía, democracia y justicia social.
Porque toda sociedad termina pareciéndose al modelo con el que decide observarse a sí misma.
Gemelos digitales sociales
A qué nos oponemos
✖ A la utilización de datos sociales sin consentimiento claro, específico y auditable.
✖ A transformar datos administrativos en perfiles predictivos sobre la vida de las personas.
✖ A que ciudadanos y trabajadores sean reducidos a variables estadísticas o perfiles de riesgo.
✖ A reemplazar decisiones democráticas por decisiones opacas presentadas como neutralidad técnica.
✖ A sistemas que reproduzcan desigualdades sociales bajo apariencia científica.
✖ A la concentración de datos estratégicos sin soberanía tecnológica nacional.
✖ A modelos cerrados que no permitan auditoría pública, sindical, científica y ciudadana.
✖ A la utilización de inteligencia artificial para anticipar, clasificar o neutralizar conflictividad social y laboral.
✖ A una lógica donde el conflicto social deja de ser un derecho político y pasa a ser tratado como una anomalía a administrar.
✖ A una arquitectura digital donde la ciudadanía desconoce quién observa, quién decide y con qué criterios.
Lo que defendemos
✔ Soberanía tecnológica y control democrático de los datos.
✔ Auditoría pública y participación de universidades, sindicatos y organizaciones sociales.
✔ Derecho ciudadano a conocer, corregir y cuestionar decisiones automatizadas.
✔ Datos anonimizados y limitados a fines específicos.
✔ Tecnologías para ampliar derechos y no para administrar poblaciones.
✔ Gemelos digitales orientados a detectar desigualdades, mejorar salarios, salud, educación y acceso universal a servicios.
No nos oponemos a la inteligencia artificial. Nos oponemos a que una representación estadística sustituya a la sociedad real, y a que la administración de datos reemplace la democracia.
Por: Luis Zas, de la Dirección de Nuevas Tecnologías de la CTA; y Ariel Pennisi por el IEF.
142
—
