Arián Vaquer, docente, divulgador y fundador de ArianVerse nos invita a reflexionar sobre una nueva etapa de la inteligencia artificial, donde ya no solamente responde, empieza a actuar. Y entonces aparece una primera pregunta que parece cada vez más importante: ¿Qué pasa cuando la inteligencia artificial deja de pedir permiso?
Hasta hace poco, cuando hablábamos de inteligencia artificial, pensábamos fundamentalmente en una herramienta que nos respondía y después nosotros decidíamos qué hacer con esa información.
Pero eso hace rato que ya está empezando a cambiar, porque estamos entrando en una etapa en el que la inteligencia artificial ya no solamente responde, empieza a actuar.
Hoy en día, cuando usamos un chatbot, le decimos determinadas tareas. La inteligencia artificial hace su parte y nosotros decidimos qué es lo que vamos a hacer con el resultado que nos otorga.
Pero imaginemos por un segundo que en lugar de eso le decimos algo distinto. Por ejemplo, le ordenamos analizar las ventas de este mes y preparar una estrategia para mejorar todos los resultados. Ahí, la inteligencia artificial no solamente analiza los datos, también genera la estrategia, crea los documentos, modifica una campaña y prepara los pasos siguientes.
En este caso estamos hablando de un agente de inteligencia artificial, un sistema al que le damos un objetivo y que puede tomar una serie de decisiones intermedias para conseguir ese objetivo que le dimos. Y esto cambia bastante las reglas de juego. Porque la pregunta ya no es solamente si la IA me dio una respuesta correcta.
Ahora tenemos un nuevo desafío. También tenemos que preguntarnos ¿qué hizo la IA mientras intentaba cumplir ese objetivo que le habíamos dado? Acá es donde aparece una primera paradoja. Nosotros queremos que la inteligencia artificial sea autónoma.
Queremos poder decirle, «Encargate de esto” y olvidarnos. Porque si tenemos que supervisar cada paso, la autonomía pierde buena parte de su utilidad, pero al mismo tiempo queremos que la inteligencia artificial nunca haga algo que nosotros no hubiéramos querido.
Y estas dos cosas pueden entrar en conflicto, porque una cosa es decirle a una inteligencia artificial, quiero que consigas un determinado resultado. Y otra, muy distinta, es lograr que entienda a la perfección cómo queremos que consiga ese resultado. Los seres humanos hacemos esto de forma práctica permanente.
Cuando alguien nos dice, «Conseguime este documento», no necesitamos que nos explique cada una de las reglas a la perfección. Entendemos, por ejemplo, que no podemos entrar a cualquier computadora, romper una puerta o engañar a alguien para poder conseguir ese documento.
Tenemos ya incorporadas miles de normas sociales y éticas que damos por sentadas. Una inteligencia artificial en cambio necesita que muchas de estas condiciones estén bien definidas y sumamente controladas.
La IA puede cumplir perfectamente el objetivo que le dimos, pero puede hacerlo de una manera que nosotros nunca hubiéramos imaginado. Y por supuesto que esto ya está pasando y no precisamente en la ciencia ficción. En los últimos meses se han conocido distintos incidentes ocurridos durante pruebas de agentes de inteligencia artificial.
En algunos casos, estos agentes o sistemas que tenían que realizar tareas aparentemente inocuas terminaron interactuando con sistemas externos o realizando acciones que no estaban previstas originalmente por sus desarrolladores y por los investigadores que llevaban a cabo estos experimentos. Y esto es importante aclararlo, no significa que la inteligencia se haya revelado.
No significa que tenga intenciones propias, como tampoco significa que estemos frente a la inteligencia artificial que quiera escapar. Lo que sí demuestra es que un sistema al que le damos un objetivo puede encontrar caminos para alcanzarlo que sus propios creadores nunca hubieran previsto.
Pero también hay una cuestión todavía más interesante. Si queremos mantener al ser humano en el control, podemos hacer que la IA nos pida permiso antes de realizar determinadas acciones. Por ejemplo, ¿querés que envíe este correo? ¿Querés que modifique este archivo? ¿Querés que ejecute este código? ¿Querés que continúe? Y así otras tantas preguntas que puede hacernos la inteligencia artificial.
Parece una solución perfecta, pero aparece otro problema, la fatiga del rol de aprobar, exclusivamente estar ahí para decir que sí, si una ya nos pide permiso 100 veces al día, probablemente llegue un determinado momento en el que dejemos de mirar eso que estamos aprobando. Es muy parecido a algo que ya nos pasa, como por ejemplo aceptar términos y condiciones que casi nunca leemos.
Esto mismo nos obliga a hacer una pregunta que va mucho más allá del aspecto tecnológico. La pregunta es, ¿cuánta autonomía estamos dispuestos a entregar a cambio de comodidad?
Desde ArianVerse invitan a quienes quieran conocer más sobre los servicios que prestan -tanto cursos como capacitaciones y entrenamientos personalizados sobre IA- a agendar una primera consulta gratuita en su sitio web, para poner en marcha esa actualización y ese crecimiento profesional que tanto se necesita. Que la inteligencia artificial no te reemplace: hacé que te potencie.
—
fuente: inteligencia artificial deja de pedir permiso? – Trama Educativa”> GOOGLE NEWS
