En esta noticia
La primera piedra la tir Sam Altman, nada menos. En una entrevista de fines del ao pasado, el capo de OpenAI, creadora de los modelos de IA generativa ms populares, asegur que durante 2025 la singularidad sera posible. Es decir, ese momento de inflexin en el que la IA supera a la inteligencia humana. Nuestras paranoias hicieron el resto: dcadas de pelculas y relatos de ciencia ficcin en el que las mquinas, apenas toman el control, se deshacen de la especie humana hicieron mella en el ideario colectivo. Hal-9000, Terminator, Ultron… la lista es tan interminable como escalofriante.
Pero una cosa es tener la sensacin de que hay un monstruo en el placar y otra muy diferente, que el monstruo golpee la puerta. Estamos realmente tan cerca de ser superados intelectualmente por las mquinas? Cmo sera ese hipottico futuro?
La IA ya genera da a da dilemas que se reproducen a tal velocidad que, como sociedad, no somos capaces de resolver. Desde su impacto en el trabajo y la produccin hasta su uso para las fake news o, fundamentalmente, su papel como desalentador del aprendizaje, la escritura o la lectura.
Ahora llevemos eso al extremo: una superinteligencia capaz de procesar y sintetizar informacin a velocidades y escalas inimaginables para la mente humana, de resolver en horas problemas que hoy consideramos irresolubles, que podra encontrar curas para todas las enfermedades, que generara debates sin precedentes sobre tica, derecho y moralidad… O, mirado con el vaso medio vaco, que tome acciones con consecuencias catastrficas e irreversibles para la humanidad, que genere desempleo estructural masivo o que amenace la propia existencia humana.
Hacia un futuro singular
El cientfico Ray Kurzweil, autor del libro con un ttulo sin eufemismos (La singularidad est cerca) predice que las computadoras “empatarn” el cerebro humano en 2029 y que, en 2045, nos habremos integrado para crear superhumanos. Kurzweil adopt el concepto de singularidad enunciado por primera vez por el matemtico y fsico hngaro John von Neumann, en un lejansimo 1957.
Qu genera esta perspectiva? Para Daniel Yankelevich, fundador de la consultora de transformacin digital Practia y director de Fundar, organizacin dedicada al diseo de polticas pblicas con foco en el desarrollo, representa “una mezcla de escepticismo y excitacin”.
Por un lado, considera que “es maravillosa la idea de crear algo inteligente y consciente, llevar a la realidad el mito del Glem o Frankenstein, algo que la humanidad busc por siglos”. Por el otro, explica que la definicin misma de “singularidad” representa un problema. “Sabe realmente una calculadora hacer cuentas? Qu es saber, tener consciencia, aprender, razonar? Nos cuestan tanto estas definiciones que hace que no est seguro de que exista ese punto llamado singularidad'”, explica.
“La singularidad me produce una combinacin poderosa de asombro, responsabilidad y urgencia: la idea de que una IA supere nuestras capacidades cognitivas no es solo un hito tcnico, es un punto de inflexin de la humanidad”, dice Fabio Grigorjev, chief IA officer de Evoltis, empresa especializada en experiencia de los clientes. “En lo personal, me invita a revisar qu entendemos por conciencia, por creatividad y por lo propiamente humano, al tiempo que me recuerda que la direccin en la que llevamos esta tecnologa debe ser cuidadosamente elegida: no todo lo posible es deseable y no todo lo deseable ser posible sin consecuencias profundas”, dice.
La emocin y la razn
Las emociones mezcladas se repiten entre todos y cada uno de los entrevistados.
“La veo como la continuidad lgica de la trayectoria de la inteligencia, un punto de inflexin que desafa nuestras concepciones actuales de la existencia y la conciencia“, dice Andrea Mandelbaum, CEO de Sannare, equipo multidisciplinario compuesto por mdicos, enfermeras, especialistas en experiencia del cliente, ingenieros y cientficos de IA de nivel mundial para crear una plataforma de colaboracin en salud. “Desde mi formacin en IA, me fascina el potencial exponencial de la automejora recursiva y las implicaciones tecnolgicas que esto conlleva, pero desde una perspectiva filosfica me impulsa a considerar las ramificaciones ticas, sociales y existenciales”, asegura.
“La singularidad, si llega, lo har paulatinamente y de manera tan silenciosa que no va a parecer ciencia ficcin”, seala Lautaro Carmona, CEO de Unitech, especializada en soluciones de transformacin digital cognitiva para poderes judiciales. “No me la imagino como un momento Terminator, sino como algo ms sutil: un da nos vamos a despertar y y nos vamos a dar cuenta de que los sistemas que usamos ya son ms inteligentes que nosotros y lo naturalizaremos. Por eso, de la singularidad me inquieta ms lo imperceptible que lo apocalptico“, aporta.
Hanna Schiuma, socia de Blue Swan, coincide. “Estoy familiarizada con el concepto de singularidad hace ms de una dcada y me cuesta pensar que haya un evento disruptivo, un amanecer’ en el que la IA se despierte y tome conciencia”, explica. Blue Swan es un colectivo de profesionales especialistas en distintas reas de la tecnologa blockchain, AI, finanzas y ciencias del comportamiento que investiga temas en la frontera del conocimiento, para proponer nuevos usos de la IA.
“Personalmente, me atraviesa profundamente y me lleva a esbozar preguntas tales como qu significa ser humano en un mundo donde una inteligencia no biolgica puede superarnos en capacidad de anlisis, creatividad o resolucin de problemas o si llegar a contar con la sensibilidad, empata y ganas de superarse continuamente que identifica a la especie humana”, asevera Santiago Blanco, cofundador de la consultora tecnolgica Ingenia.
De cunto estamos hablando
A la hora de estimar qu tan cerca estamos de la singularidad, los expertos consultados coinciden en un punto: depende de qu definicin de “singularidad” usemos.
“No s si llegaremos a una superinteligencia en los prximos aos, pero s creo que veremos sistemas muy avanzados que nos van a ayudar en reas como la medicina, la educacin o la toma de decisiones complejas”, especifica Joel Rodrguez, cientfico de datos del centro de excelencia especializado en IA de SAP.
“Si bien algunas formas suaves de singularidad estn en desarrollo, una superinteligencia general autnoma, con capacidad de mejorar sus propias capacidades a ritmo exponencial y tomar decisiones de forma independiente no parece factible ni en el corto ni en el mediano plazo“, sentencia Charly Lizarralde, cofundador y CEO de la desarrolladora de soluciones de IA 7Puentes.
“Estamos en la antesala de lo que podra llamarse una presingularidad funcional’: sistemas que, si bien no son conscientes, ya nos superan en tareas especficas (traduccin, generacin de lenguaje, diagnstico mdico, anlisis de datos)”, analiza Grigorjev. “En el mediano plazo, si la tendencia de escalamiento de modelos y el diseo de arquitecturas multimodales contina al ritmo actual, podramos estar cerca de una IA que imite aspectos de la cognicin humana de forma competente”, agrega.
“Si la idea es una IA que tome decisiones autnomas, empuje su propio desarrollo y tome decisiones por s misma en cuanto al avance tecnolgico, no lo veo como algo tan lejano: ya tenemos sistemas que programan y arman arquitecturas autnomas de agentes que compiten, programan otros agentes y toman decisiones en funcin de determinados objetivos, pero si pensamos en mquinas que adquieren consciencia, estamos lejos“, sentencia Yankelevich, quien agrega que “durante aos pensamos que el Test de Turing era la verdadera manera de saber si una mquina era inteligente, pero hoy descubrimos que no alcanza: por eso, posiblemente la nocin de singularidad se ir construyendo, hoy la imaginamos de una forma y en unos aos la veremos de otra”.
“Creo que estamos bastante cerca, incluso en el corto plazo”, dice Schiuma. “Siempre se habl de 2030 como esa fecha icnica o pica, pero vemos que los modelos estn aprendiendo de formas distintas a como lo hacan antes, por ejemplo, las capacidades de memoria de los actuales son muy superiores y, adems, ya rastrearon todo Internet, lo que significa que toda la data disponible que se utiliza para entrenarlos ya fue absorbida, por lo que el salto cualitativo podra llegar antes de lo previsto”, afirma.
Entre avances y preparativos
“En los ltimos aos nos hemos volcado por completo al mundo digital, delegando en algoritmos decisiones clave: qu mirar, qu leer, con quin interactuar”, dice Adrin Garelik, CEO de la plataforma de streaming basada en tecnologa web3 Flixxo. “Esta tendencia revela una paradoja inquietante: mientras avanzamos hacia la creacin de una IA capaz de despertar conciencia, pareciera que los humanos estamos anestesiando la nuestra“, agrega.
“Me entusiasma lo que se viene, pero como seres humanos debemos estar atentos a no dejar de usar nuestra inteligencia ni renunciar a nuestro pensamiento crtico, creatividad, sensibilidad y la capacidad de decidir“, dice Cristian Deferrari, responsable de IT en Naranja X. “Aunque la IA avanza y mejora cada vez ms en lo que creo que es una inteligencia fra’ -matemtica y lgica-, el ser humano posee otras dimensiones (emocional, kinestsica, social) que los modelos an no emulan y por eso, ms que un punto de no retorno tecnolgico, la singularidad es un espejo que nos obliga a preguntarnos qu nos define y qu valor irreemplazable queremos aportar al futuro”, observa.
“Hace 20 aos los sistemas de lenguaje natural eran primitivos: pensar que un telfono poda comprender instrucciones, responder preguntas o traducir una llamada en tiempo real era imposible, nadie pensaba que bamos a vivir esta evolucin”, dice Yankelevich. “La enorme inversin que se est poniendo en el tema nos hace pensar que la evolucin va a seguir a toda velocidad: dinero, poder de cmputo y las mejores mentes (humanas) estn trabajando en esto”.
“Creo que ya atravesamos el horizonte de eventos, que estamos en una nueva fase evolutiva donde la carrera est en curso y muchos de los saltos tecnolgicos ms difciles ya sucedieron: la respuesta a la pregunta Cunto falta?’ se parece cada vez ms a casi llegamos'”, narra Carmona.
Una cercana singular
“Vemos un crecimiento innegable y exponencial en la capacidad de procesamiento, la disponibilidad de datos y el desarrollo de algoritmos de aprendizaje profundo, lo que nos lleva a pensar que la capacidad de una IA para automejorarse podra alcanzarse ms pronto de lo que muchos imaginan, pero desde un punto de vista humano debemos ser ms cautelosos: no estamos ante un hito tecnolgico, sino ante una transformacin fundamental de la conciencia y la existencia“, dice Mandelbaum.
“Uno de los avances ms relevantes del ltimo fue LaTRO, un mtodo que permite a los modelos evaluar y premiar sus propios procesos de razonamiento”, cuenta Deferrari. “Sin entrenamiento adicional ni datos nuevos, logr mejorar hasta un 12% el rendimiento en problemas matemticos complejos, lo que demuestra que los modelos pueden refinar su lgica internamente”, destaca. Tambin menciona o4-mini, de OpenAI que, “con acceso a herramientas externas y un refuerzo enfocado en lgica paso a paso, logr casi puntaje perfecto en un examen matemtico avanzado, superando incluso a modelos mucho ms grandes”, dice. “Al mismo tiempo, el costo por usar estos modelos se desplom, haciendo accesible experimentar y mejorar continuamente”, remata.
Rafael Snchez, chief innovation officer de la empresa de accesorios Blue Star Group, refiere tambin a los sistemas de metaaprendizaje, es decir, IAs que “aprenden a aprender” y optimizan su arquitectura y sus algoritmos para ser ms eficientes, acelerando su propia evolucin sin intervencin humana, y de la “curiosidad artificial”. “Estos son algoritmos que programamos con un objetivo amplio, como explorar’ o ser curioso’, para que descubran soluciones y estrategias que a ningn equipo de programadores se le ocurriran”.
“Creo que el concepto ms interesante hoy es el de Inteligencia Artificial General (IAG), o IA fuerte: un concepto hipottico que supone crear sistemas con la capacidad de comprender y aprender cualquier tarea intelectual que pueda realizar un humano, una mquina capaz de pensar, razonar y actuar de manera tan flexible como una persona”, explica Fredi Vivas, CEO fundador de Rocking Data, autor de los libros Invisible y Cmo piensan las mquinas?, egresado de Singularity University y profesor de la Universidad de San Andrs. “No existe actualmente, pero es un objetivo de investigacin que tiene muchos aos”.
A diferencia de la “IA dbil”, tan de moda en estos das, la IAG no se limita a tareas especficas ni a aquello para lo que fue entrenada, sino que podra resolver problemas de propsito general, como las personas. “Un ejemplo sera un sistema que pueda entender matemticas complejas, escribir una novela, resolver conflictos legales y disear una estrategia de marketing, todo con el mismo nivel de habilidad y que adems tenga la capacidad de manejar un vehculo autnomo”, cita Vivas. “Sera como contar con un equipo completo de expertos en un solo software”, advierte.
Cambia, todo cambia
Ms all del cundo, hay otra pregunta que nos desvela: cmo impactar esta evolucin tecnolgica, inditamente disruptiva, en el conjunto de la sociedad. Las dudas se agolpan y se multiplican. “Hay una conciencia en la IA? Cmo aseguramos que una superinteligencia comparta nuestros valores y no se desve de ellos? Cmo afectara esto nuestra percepcin de nosotros mismos, nuestra individualidad y nuestro propsito?”, enumera Mandelbaum.
“La pregunta clave no es cundo pasar, sino si estamos preparados tica y socialmente para convivir con estos sistemas”, declara Snchez
“El riesgo no est en que piensen’ ms, sino en que se integren a sistemas crticos sin supervisin humana proporcional”, advierte Grigorjev.
“Tal vez lleguemos a un punto en el que el costo de la energa sea cero, y por ende, el costo de producir bienes en conjunto con modelos hbridos de IA tambin sea cero, y eso plantea la necesidad de pensar cmo redistribuir el bienestar y garantizar igualdad de oportunidades: ese es, para m, el desafo ms importante, y por eso ya se viene hablando del ingreso bsico universal”, sentencia Schiuma.
“Ms que temerle a la singularidad, creo que debemos prepararnos para disearla: con responsabilidad, diversidad de perspectivas y una profunda comprensin del impacto humano de cada avance”, afirma Blanco. “No es un destino inevitable, sino una posibilidad que debemos moldear con inteligencia colectiva, poniendo siempre en el centro los valores que nos definen como sociedad”, cuenta.
“En la industria del consumo masivo el impacto sera ssmico: habr que imaginar sistemas que no slo predicen qu comprar cada consumidor, sino que podran disear y gestionar la creacin de un producto nico para cada cliente en tiempo real”, explica Snchez. “La publicidad masiva sera reemplazada por asistentes personales de consumo, que conocern las necesidades y deseos incluso mejor que el mismo cliente, y las cadenas de suministro seran autnomas, anticipando la demanda con una precisin cuasi perfecta”.
“En salud, estos avances se vinculan con el desarrollo de sistemas de diagnstico mdico basados en IA que superan la precisin humana y, lo ms relevante, que por su capacidad de aprendizaje y autooptimizacin, a medida que procesen ms casos, reciban retroalimentacin sobre sus diagnsticos y accedan a nueva literatura mdica, refinarn sus modelos”, describe Mandelbaum. “Aprenden de la experiencia colectiva de millones de casos y lo hacen a una velocidad y escala inalcanzables para los humanos”, destaca.
“El impacto de la IA en empleo, sistema productivo, educacin, organizacin social, entre otros, es ya enorme y va a ser mayor an sin necesidad de singularidad”, dice Yankelevich. “Me parece clave estudiar y dar respuesta a estos temas mucho antes de que la singularidad aparezca en el horizonte”, aporta. Lizarralde propone tambin “revisar nuestras instituciones y sistemas polticos”.
“El futuro en torno a la singularidad es casi imposible de predecir. La velocidad de evolucin de la IA supera con creces nuestra capacidad de adaptacin”, dice Garelik, aunque aclara que hay algo que s puede imaginar: “Si seguimos entrenndonos solo en espejos digitales que nos devuelven lo que queremos ver, corremos el riesgo de perder habilidades sociales esenciales”, relata.
“Imagino un mundo donde la productividad explote y millones puedan quedarse sin saber qu hacer con su tiempo… Y si el sentido ya no pasa por producir, sino por otra cosa? Capaz la IA no nos reemplaza, sino que nos libera y ah el desafo va a ser cmo lidiar con ese vaco existencial: reinventar lo que significa ser humano”, concluye Carmona.
—
