Algunos tipos de pérdida se anuncian solo en retrospectiva. Demasiado tarde. Buscas una palabra en tu mente y se ha ido. Intentas navegar por una ciudad que alguna vez conociste sin tu teléfono y te das cuenta de que el mapa se ha disuelto silenciosamente de tu paisaje interno. Deseas ver una película y abres Netflix basándote en recomendaciones. Pequeñas desapariciones, apenas registradas. Pero multiplica esos momentos, amplía el marco de una persona a toda una civilización, y la urgencia de este momento se hace evidente. ¿Qué les sucede a los seres humanos cuando las máquinas piensan por ellos? Somos los humanos que somos a la vez sujeto y objeto en ese interrogatorio…
Las tres velocidades del pensamiento humano
Daniel Kahneman nos dio el lenguaje del Sistema 1 y del Sistema 2: pensar rápido y pensar despacio. El sistema 1 es automático, intuitivo y sin esfuerzo. El sistema 2 es deliberado, analítico y costoso. Ambos importan. Ambos están entrenados por la experiencia y afilados por el uso. Cada vez más, los estudios ahora se refieren a un tercer modo, artificial. Lamentablemente, ese podría no ser el final de nuestro deterioro cognitivo. Más allá de lo rápido, lo lento y lo artificial acecha el oscuro territorio del nada en absoluto. Delegando el acto cognitivo en sí mismo a una máquina que es más rápida, incansable y estadísticamente fluida, y absorbiendo su resultado como si fuera nuestro.
Esta es una descripción de una trayectoria. La curiosa exploración de la inteligencia artificial (IA) se transforma en integración rutinaria, la integración rutinaria se transforma en dependencia y la dependencia, sin control, gradualmente se desvanece en la erosión gradual de la capacidad de pensar, decidir y actuar de forma independiente. Decadencia de la agencia, misión completada.
De tu mente a nuestro mundo
La decadencia de la agencia es lo suficientemente preocupante como para ser una historia personal. Pero la misma erosión está ocurriendo a escala de sociedades enteras, que poco a poco se está convirtiendo en un riesgo existencial. Estamos navegando una zona de vuelco híbrida. Y la ventana de oportunidad para cambiar la tendencia se está cerrando rápido.
El desempoderamiento gradual se refiere a la pérdida incremental de influencia humana sobre los sistemas a gran escala (economías, gobiernos, producción cultural) de los que dependen las civilizaciones. Esto es distinto de los dramáticos escenarios de conquista de ciencia ficción de la IA. No hay levantamiento de robots. No hay traición repentina. En cambio, algo mucho más difícil de identificar y resistir: Cada pequeña sustitución del juicio humano por el juicio de la máquina tiene sentido localmente, de forma aislada, bajo presión competitiva. Las empresas automatizan porque la alternativa se está quedando atrás. Los estados adoptan la gobernanza algorítmica porque es más barata. Las plataformas culturales optimizan el compromiso porque la atención es la moneda. Nadie elige el desempoderamiento. Se acumula.
Los sistemas sociales históricamente se han mantenido alineados con los intereses humanos principalmente porque necesitaban humanos para funcionar. Las economías necesitaban trabajadores. Los gobiernos necesitaban votantes. Las culturas necesitaban creadores humanos. Despoja esa dependencia estructural y la alineación se vuelve precaria. Un estado financiado por impuestos sobre las ganancias de la IA tiene considerablemente menos incentivos para representar a sus ciudadanos que uno financiado por su trabajo.
Lo que hace que este patrón sea generalizado es que sus impulsores se refuerzan mutuamente. Y ninguno de ellos requiere malicia. Esta dinámica requiere solo estructuras de incentivos dirigidas en una dirección.
La trampa de velocidad dentro de la mente
El pensamiento del sistema 1, del tipo rápido e intuitivo, se construye a partir de la experiencia acumulada. Años de reconocimiento de patrones, calibración emocional, habilidad incorporada. El pensamiento del Sistema 2, lento, deliberado, analítico, requiere esfuerzo y la voluntad de equivocarse. Ambos dependen de un historial de realizar realmente el trabajo cognitivo. Lo que hace la decadencia de la agencia, esencialmente, es interrumpir esa historia. Nunca acumulas la experiencia que requeriría el pensamiento rápido, porque la máquina maneja las repeticiones. Nunca desarrollas la tolerancia a la lucha sin esfuerzo porque la máquina manejó la dificultad.
El resultado es una reducción de la soberanía cognitiva, la capacidad de pensar en los problemas con tus propios recursos, de confiar en tu propio juicio, de funcionar cuando la máquina está ausente o equivocada. La erosión cognitiva funciona exactamente como la atrofia muscular, invisible hasta el momento en que necesitas la fuerza y te das cuenta de que se ha ido. El cerebro es un músculo, úsalo o piérdelo.
Debemos ir más allá de la aspiración a la autonomía para actuar en aras de ella
Darse cuenta de que estamos en riesgo y resistir ese peligro son en sí mismos actos cognitivos y políticos, y ambos se vuelven más difíciles a medida que se acumula nuestro desempoderamiento algorítmico. Una población que ha delegado individual y colectivamente su síntesis de información, su expresión creativa y su razonamiento deliberativo a los sistemas de inteligencia artificial no está equipada para reconocer lo sucedido hasta que es (demasiado) tarde. También es menos capaz de organizar una respuesta. La erosión de la agencia se oscurece a sí misma.
Inteligencia Artificial Lecturas esenciales
Agrega que los circuitos de retroalimentación operan en todos los dominios simultáneamente: económico, cultural, político. Al momento de escribir, nadie tiene un plan concreto y plausible para detener el desempoderamiento humano en medio de la IA. Lo que existe son marcos, advertencias y el débil comienzo de las discusiones sobre gobernanza.
El enfoque A: un resumen práctico
Enmarcar el riesgo existencial puede resultar paralizante. Así que aquí hay algo práctico: una forma de orientarte, a tu equipo, a tu institución hacia una interacción activa con la IA que preserve, en lugar de agotar, la capacidad humana. El enfoque A ofrece cuatro anclajes.
- Conciencia: Nombra el patrón antes de que te nombre a ti. La decadencia de la agencia no se anuncia a sí misma. Se muestra como la leve incomodidad de escribir sin que una IA complete tus oraciones. Como la leve ansiedad de navegar por un problema sin aviso. Presta atención a esos momentos. Son señales de diagnóstico. El primer paso es simplemente ver la erosión que está ocurriendo en ti mismo y en los sistemas que te rodean.
- Agradecimiento: Recuperar un sentido genuino de lo que es y hace la cognición humana. El pensamiento lento es el sustrato del juicio. La memoria es la base de la creación de significado y la identidad. La lucha creativa es donde realmente se forja el pensamiento original. Apreciación significa valorar el proceso, no solo el resultado.
- Aceptación: La IA está aquí, acelerándose, y ni el pánico ni la rendición total son una orientación útil. La aceptación significa habitar la tensión, utilizando herramientas de IA con una conciencia clara de lo que cuestan, en lugar de rechazarlas o desaparecer en ellas. La secuencia importa. Estructura el proceso de modo que la mente humana haga el trabajo fundamental y la máquina complemente lo que sigue.
- Rendición de cuentas: Aquí es donde la práctica individual se convierte en demanda estructural. Pregúntale a tu empleador qué sucede con las habilidades cognitivas de los trabajadores cuyos roles se están automatizando. Pregúntale a la escuela de tus hijos si el plan de estudios está siendo diseñado para mantener el pensamiento independiente. Pregúntale a tu gobierno qué marcos existen para medir la capacidad humana junto con la productividad de la IA. La rendición de cuentas significa negarse a permitir que lo gradual se vuelva invisible.
Pensando rápido y lento o ya no, todavía tenemos la opción de escapar del atractivo de la comodidad silenciosa. Hagámoslo antes de que ya no veamos la necesidad.
—
