
Por Redacción Grupo La Verdad
La irrupción de la inteligencia artificial representa una profunda transformación cultural, laboral y de poder que redefine cómo las organizaciones toman decisiones y operan en la vida cotidiana.
Su desarrollo y uso han crecido exponencialmente en los últimos años, formando parte de numerosos campos relevantes y diversos, y por tanto irrumpiendo en la sociedad y en los comportamientos colectivos de su ciudadanía.
Sin embargo, su papel no parece aún ser del todo apreciado, incluso siendo en ocasiones malinterpretado.
En este contexto, la ONU advirtió sobre los riesgos que implica el avance acelerado de la inteligencia artificial y reclamó una respuesta “urgente” por parte de los Estados y las empresas, sosteniendo que los sistemas más avanzados podrían generar consecuencias sin precedentes y afectar derechos fundamentales, incluso el derecho a la vida.
La advertencia se da en el marco de la creciente preocupación por la velocidad con la que evolucionan las herramientas de IA. Algunos referentes de la industria tecnológica también plantearon la necesidad de desacelerar su desarrollo para evaluar sus posibles consecuencias.
Visión local
Grupo La Verdad dialogó sobre el tema con el Dr. Juan Pablo Tessore, docente e investigador de la UNNOBA, quien alertó sobre los riesgos que actualmente presentan los sistemas de IA vinculados a problemas de alineamiento en el desarrollo, por los cuales se dejan de lado restricciones técnicas, legales y morales en pos del cumplimiento del objetivo solicitado. “Es un buen momento para empezar a controlar e imponer un marco regulatorio coordinado entre los países antes de que sea tarde”, expuso.
Además el doctor en Ciencias Informáticas egresado de la Universidad Nacional de La Plata (UNLP) resaltó que las empresas responsables del desarrollo de sistemas basados en la IA a nivel mundial se rigen bajo las leyes del mercado, con el propósito de maximizar ganancias en el menor tiempo posible y no quedar relegadas en la carrera por la supremacía tecnológica, con lo cual se vuelve imprescindible forzar una mayor coordinación entre los países y unificar criterios a la hora de establecer un marco regulatorio que resguarde la vida de las personas.
Tessore manifestó que “las empresas están teniendo problemas con el alineamiento de los sistemas que están desarrollando, los cuales deben cumplir una serie de restricciones para llevar a cabo los objetivos planificados”, y agregó: “Si estos sistemas no cumplen con el alineamiento deseado, muchas veces estas restricciones pueden ser ignoradas para cumplir con los objetivos solicitados”.
“Ante esta situación puede suceder que se solicite a la inteligencia artificial maximizar las ventas de un comercio y, en pos de ese objetivo, el sistema realice las compras sin el consentimiento de los compradores, por medio del acceso a datos de las tarjetas de crédito”, graficó.
Seguidamente indicó que “investigadores de Anthropic expresaron una mirada crítica sobre esta situación e indicaron que se requiere una cooperación entre la industria y a su vez supervisión extra por parte de los Estados, con el propósito de forzar el alineamiento de los futuros sistemas que se lancen al mercado”, y prosiguió: “El mayor riesgo en la actualidad con esta situación radica en que estos sistemas no respeten reglas técnicas, legales y morales para cumplir con los objetivos que se les solicitan”.
“Las primeras generaciones de sistemas basados en la inteligencia artificial fueron desarrolladas completamente por personas, las cuales diseñaron y ejecutaron los experimentos, pero paulatinamente se fueron incorporando otros sistemas de IA para asistir en el desarrollo para acelerar el lanzamiento al mercado de los mismos”, explicó el investigador y completó: “Esto tuvo consecuencias positivas para las empresas desde el punto de vista de la rentabilidad, pero con la contrapartida de una menor auditoría y supervisión de personas”.
EL doctor aseguró que “las empresas se mueven con la lógica de mercado de adaptar lo más rápido posible los sistemas para maximizar sus ganancias, y en este marco es necesario promover supervisiones independientes de estas empresas y que haya una coordinación a nivel internacional para garantizar que los controles en el desarrollo sean efectivos”. Entretanto, comentó que “si no hay una coordinación entre países y privados, una sola empresa por sí sola no va a parar por más que se genere un perjuicio a largo plazo, porque se va a quedar atrás en la carrera de la supremacía tecnológica”.
A modo de cierre Tessore expresó que “se van a tener que establecer distintos marcos y regulaciones dependiendo del destino que tenga cada sistema en particular”, y consideró que “es un buen momento para empezar a controlar cómo se desarrollan e imponer un marco para forzar el alineamiento de estos sistemas, sobre todo en los casos de acceso a infraestructura crítica o de ejecución de acciones que puedan causar mucho daño”. Al mismo tiempo, observó que “todavía estamos a tiempo de sentarnos en una mesa para prever cómo controlar el desarrollo de estos sistemas, porque en el futuro va a ser más costoso arreglar los errores”.
Alineación
“Saltaron las alarmas en los últimos días, hubo CEOs de grandes empresas que coincidieron en la necesidad de poder moderar algunos avances. Lo que se plantearon fueron propuestas, abrir los laboratorios para que puedan ingresar agentes externos a hacer evaluaciones y controles. Todo esto comenzó cuando un ex empleado de Open IA salió a declarar que renunció porque había un descontrol en todo este avance de la IA que podría atentar contra la humanidad”, opinó por su parte Javier Castillo, subsecretario de Ciencia y Tecnología del Gobierno de Junín.
“El problema que tienen es de alineación. Los modelos avanzan y toman autonomía de una forma mucho más rápida de lo que se puede controlar. Entonces lo que se pide es no frenar el desarrollo, sino desacelerarlo. Todas las empresas de EEUU se alinearon en el mismo mensaje, buscando generar estándares de seguridad. China ante esto no está de acuerdo, por lo que un canal de debate tendrá que darse”, amplió Castillo.
Y consideró a continuación: “Las empresas están alentando, ese es un llamado de atención. El potencial y el crecimiento acelerado son importantes, se deben poner sobre la mesa y debatirlas. En Argentina, por ejemplo, no tenemos una ley que atienda estas cuestiones sobre IA. En la Unión Europea se ha avanzado sobre eso y tienen su propia ley al respecto. Son muchas las cosas que se deben poner sobre la mesa, me parece interesante el debate”.
++++++++++
También puede interesarte:
• Todo el Deporte en: La Deportiva
• Escuchar las notas más importantes en: LT20 Radio Junin
• Escuchar LT20 Radio Junín en VIVO: Escuchar ahora
—
fuente: Inteligencia artificial: los riesgos y la falta de regulación – La Verdad Junín”> GOOGLE NEWS



