La irrupción de la inteligencia artificial (IA) ha trastocado radicalmente la forma de producir, consumir, intercambiar información o establecer relaciones. A diferencia de otras disrupciones tecnológicas como la rueda, la PC o la web, la transformación que genera la IA sucede a una velocidad nunca antes vista. En ese marco, la relación entre el Estado y la IA comienza a ser trascendental. María Victoria Boix es investigadora de Cippec, y en diálogo con RÍO NEGRO, brindó su perspectiva.
PREGUNTA: ¿Desde Cippec entienden que la IA puede mejorar la gestión pública?
RESPUESTA: Estamos incursionando en este tema. Nosotros trabajamos hace 25 años para promover mejores políticas públicas y advertimos que la inteligencia artificial disrumpe y de alguna manera cambia las reglas de juego. Es algo similar al cambio que generó en su momento la electricidad. Algo que probablemente hoy no terminamos de entender, pero va a estar atravesando distintas aristas de nuestra sociedad. Hace muchísimos años que abogamos por mejores datos, mejores servicios públicos, más eficientes, con gobernanzas claras. Bueno, un poco la irrupción de la inteligencia artificial pone por delante esa oportunidad y ese desafío al mismo tiempo.
P: ¿Desde donde se parte para poner a convivir IA y Estado?
R: Nuestro trabajo estuvo a cargo de los investigadores Mauro Solano, Elsa Estévez
y Amalia Peralta, y comenzamos mapeando un poco qué está pasando a nivel nacional, y elaborando una guía dirigida al sector público. Básicamente lo que buscábamos es, ¿cómo se traduce la disrupción de la IA para el sector público? Y, en concreto, hicimos una serie de recomendaciones sobre cómo incorporar inteligencia artificial en el sector público. La primera de esas recomendaciones es que desde cada nivel de gobierno debe diseñarse una estrategia de inteligencia artificial. Esto es tener una visión, un norte claro de cómo se va a incorporar, con qué principios, con qué valores, con qué ejes de trabajo, y sobre todo que incorpore la mirada, digamos, ciudadana y del sector privado, que esté bien alineada a esas prioridades sociales.
P: ¿Por dónde se arranca?
R: Bueno, esa es nuestra segunda recomendación, empezar con pilotos controlados. Es decir, no tratar de abordar todo de golpe y a la vez. No es posible transformar todo el Estado y generar una estrategia de inteligencia artificial para todo, porque requiere muchos aprendizajes previos. Ese aprendizaje se da todos los días, y crece de forma acelerada. Por esa razón la estrategia debiera ser más que nada enfocarse en los problemas. Cuáles son los problemas ciudadanos que queremos resolver a través de la IA y poder trazar entonces lo que denominamos ‘pilotos controlados’ que se puedan ir escalando y se puedan ir aprendiendo.
No es posible transformar todo el Estado. La estrategia es detectar cuáles son los problemas ciudadanos que queremos resolver a través de la IA y trazar pilotos controlados que se puedan ir escalando y se puedan ir aprendiendo.
P: ¿Cómo se le pone marco normativo a ese aprendizaje?
R: En efecto, otra de las recomendaciones es la gobernanza clara. Es necesario establecer cuáles son las normas, las reglas concretas, cuáles son los actores que intervienen, con qué rol, y qué mecanismos de evaluación también se van a ir incorporando. Esto es muy importante porque algo nuevo como la IA tiene muchísimas implicancias y aristas, y tenemos que ir evaluando tempranamente en cada fase, para luego ir aprendiendo sobre eso.
P: ¿El aprendizaje se da de forma espontánea o debe provocarse intencionalmente?
R: Es otra de las conclusiones de la investigación, y una recomendación permanente al Estado, la necesidad de invertir en talento público. Es muy difícil hoy que los gobiernos tengan los recursos humanos adecuados y entrenados en inteligencia artificial. Entonces hay distintas vías para lograrlo. Una es la capacitación dentro del propio Estado. Otra, es tratar de tener estrategias de vinculación y de articulación con el sector tecnológico para poder incorporar este talento, porque no siempre se pueden atraer a los que estén picando en punta, pero es muy importante invertir tiempo y dinero en el recurso humano calificado, y en recapacitar a nuestros servidores públicos.
P: ¿Cómo incide la sinergia público-privada?
R: La cooperación interjurisdiccional con la sociedad civil, es esencial. Compartir aprendizajes, no pretender inventar la rueda. El rol de otros actores, como organismos internacionales y de la sociedad civil que están articulando, buscando generar lecciones aprendidas, tratando de trabajar sobre cuáles son los desafíos críticos y oportunidades, y destacando buenas prácticas sobre las cuales se pueda aprender.
P: ¿Puede la IA contribuir a resolver la histórica dificultad del Estado en cuanto a la excesiva burocracia?
R: En ese sentido nuestra recomendación es fortalecer la interoperabilidad y la calidad de los datos. Muchas veces sucede que, en diferentes capas del Estado, a nivel nacional o subnacional, hay que cargar infinidad de veces el mismo dato: DNI, el nombre, apellido, domicilio. Si no existe un dataset, una base de datos sólida, consolidada, sobre la cual trabajar, no vas a poder generar un proceso donde la inteligencia artificial sea limpia y sea útil y no esté sesgada. Entonces, es preciso trabajar sobre esa gobernanza de datos, sobre bases de datos sólidas, interoperables.
Se puede automatizar y usar los agentes de IA, que son muy poderosos para mejorar la eficiencia. Pero justamente ahí es donde la gobernanza, los controles y las evaluaciones tempranas. UNESCO recomienda no delegar la capacidad de decisión del Estado.
P: ¿Hasta qué punto el Estado puede delegarle a la IA el control?
R: Es un muy buen punto. A ver, hoy que vemos distintos tipos de IA. Lo que está más expandido es el uso de la IA generativa, que funciona también como un asistente que potencia quizá la productividad, pero a la que no necesariamente se le delega la decisión. Algo que sí cambia mucho el juego, por ejemplo, es cuando empiezan a usarse los agentes que ahora están desarrollándose a altísima velocidad, que tienen esa capacidad de generar un proceso completo. Herramientas que permiten tomar decisiones basadas en lo que define un humano con ciertos criterios. En ese caso se pueden generar algunas disrupciones complejas. Nosotros adherimos a lo que plantean organismos como UNESCO, que recomiendan poner controles humanos en ciertos procesos clave. O sea, no delegar la decisión. Sí se puede automatizar, se pueden usar los agentes de IA, que son muy poderosos para mejorar la eficiencia de un montón de procesos, pero justamente ahí es donde la gobernanza, los controles y las evaluaciones tempranas en todo el proceso de implementación de la IA resultan clave.
P: ¿Deja de “tener piel” el Estado incorporando la IA a los procesos?
R: Depende un poco de la problemática que estemos abordando con la herramienta. Yo creo que ese rol más humano y cercano al territorio, no va a estar tan en riesgo. En el caso de una prestación por discapacidad por ejemplo, quizá la IA va a definir si cumplís o no con los criterios para el beneficio. Pero luego habrá un médico o un asistente social validando esos criterios. Creo que al principio van a convivir un poco ambos sistemas con ciertas imperfecciones para luego encontrar un equilibrio. La buena noticia es que cuantos más datos tengamos, más transparencia y más posibilidad de revisarlos socialmente.
P: La justicia es uno de los resquicios del Estado que suele caminar más lento. La capacidad de procesar información de la IA ¿Puede por ejemplo transformar los servicios de justicia?
R: Sí, totalmente. Ya se está empezando a implementar en la justicia argentina, con algunas acordadas sobre cómo utilizar la IA, y ahí volvemos un poco a la pregunta anterior respecto a la delegación de funciones y controles de parte del Estado. Quizás en ese sentido, la clave es que no se delegue la sentencia a la inteligencia artificial. Pero con seguridad la IA puede ser, y en muchos casos ya lo es, un asistente clave para brindar la información esencial en una causa, o para generar algunos procesos automatizados que te permitan informar mejor esa decisión. Pero es fundamental que el servicio de justicia no quede como automatizado. No es lineal. Es imprescindible que todavía haya un control humano concreto, con un responsable claro, que en este caso sería un juez, para tomar la decisión sobre cuestiones que pueden marcar la vida de las personas a cago del Estado para siempre. Es decir, la utilización de la IA en la justicia puede facilitar mucho el acceso y el proceso de la información, pero es imprescindible ver qué bases de datos se utilizan, de qué manera se recopilan los datos, que ese proceso sea acorde a los protocolos que ya existen en las fiscalías. Y sobre todas las cosas, asegurar el derecho a la defensa consagrado en nuestra Constitución.
Perfil
María Victoria Boix es Lic. en Estudios Internacionales (Universidad Torcuato Di Tella) y cursó la Maestría en Administración y Políticas Públicas en la Universidad de San Andrés.
Cuenta con más de quince años de experiencia en el diseño e implementación de proyectos innovadores en el sector público, privado y de la sociedad civil, con foco en modernización del Estado, desarrollo organizacional y promoción de un gobierno abierto y sostenible.
Es investigadora principal del Programa de Estado y Gobierno de CIPPEC, donde
ocupó diversos cargos directivos y fue responsable de las áreas de Gestión y Administración y del Programa de Ciudades.
—
