Inteligencia artificial, poder político y sesgos de género: quién define la tecnología del futuro

La disputa reciente entre el presidente estadounidense Donald Trump y la empresa de inteligencia artificial Anthropic volvi a demostrar que la inteligencia artificial dej de ser nicamente un asunto tecnolgico para convertirse en un terreno de conflicto poltico. 

La decisin de ordenar a agencias federales suspender el uso de modelos desarrollados por la compaa reabri un debate cada vez ms presente en la agenda global: quin controla los sistemas de inteligencia artificial y qu valores incorporan.

A travs de su red social Truth Social, Trump calific a Anthropic como una “compaa radical de inteligencia artificial de izquierda dirigida por personas que no tienen idea de cmo es el mundo real”. Desde la empresa, su director ejecutivo, Dario Amodei, respondi que en determinados contextos la inteligencia artificial podra incluso “socavar, en lugar de defender, los valores democrticos”.

Ms all del cruce poltico, el episodio revela una cuestin de fondo: la inteligencia artificial no es neutral. Los sistemas automatizados reflejan decisiones humanas sobre qu datos utilizar, qu riesgos priorizar y qu criterios normativos incorporar. En otras palabras, la tecnologa aprende de la sociedad que la produce.

Sesgos algortmicos y desigualdad de gnero

Y all aparece un debate an ms profundo -y menos visible en la discusin pblica-: el impacto de los sesgos algortmicos sobre la igualdad de gnero.

A medida que la inteligencia artificial se integra en procesos de contratacin laboral, evaluacin crediticia, asignacin de beneficios sociales o seleccin educativa, crece el riesgo de que reproduzca desigualdades histricas existentes. Lejos de eliminar discriminaciones, los algoritmos pueden consolidarlas si se entrenan con datos que reflejan estructuras sociales desiguales.

Los sistemas de IA aprenden a partir de grandes volmenes de informacin histrica. Ese mecanismo constituye su principal fortaleza tcnica, pero tambin su mayor vulnerabilidad social. Si los datos muestran, por ejemplo, una menor presencia femenina en puestos directivos o en sectores tecnolgicos, el algoritmo puede interpretar esa tendencia como un patrn eficiente y replicarlo automticamente en futuras decisiones.

Los sistemas automatizados reflejan decisiones humanas sobre qu criterios normativos incorporar. En otras palabras, la tecnologa aprende de la sociedad que la produce.

El resultado es una forma de discriminacin ms difcil de identificar. A diferencia de los sesgos explcitos del pasado, las decisiones algortmicas operan dentro de modelos matemticos complejos cuya lgica resulta opaca incluso para quienes los implementan. La exclusin deja entonces de ser visible y adquiere una apariencia de objetividad tcnica.

Brecha STEM y falta de diversidad en el diseo tecnolgico

Este fenmeno se vincula directamente con la persistente brecha de gnero en las disciplinas STEM -ciencia, tecnologa, ingeniera y matemticas- y en posiciones de liderazgo empresarial. 

Cuando los equipos que disean inteligencia artificial estn compuestos mayoritariamente por perfiles homogneos, las experiencias y necesidades consideradas durante el desarrollo tecnolgico tambin se reducen.

La consecuencia es circular: menos mujeres participan en la creacin de tecnologa y, al mismo tiempo, los sistemas tecnolgicos tienden a reproducir escenarios donde su participacin contina siendo limitada.

Especialistas advierten que corregir estos sesgos no puede limitarse a soluciones tcnicas. Eliminar variables explcitas como el gnero no garantiza resultados equitativos, ya que la discriminacin puede filtrarse mediante variables indirectas, como trayectorias educativas, ubicacin geogrfica o interrupciones laborales asociadas a tareas de cuidado.

Regulacin, polticas pblicas y gobernanza global

Por ello, el desafo excede la ingeniera informtica. Requiere polticas pblicas orientadas a ampliar la participacin femenina en la educacin cientfica, promover liderazgos diversos y fortalecer mecanismos de transparencia y auditora algortmica. La inteligencia artificial funciona, en este sentido, como un espejo amplificado de la sociedad: si las desigualdades estructurales permanecen, los algoritmos tendern a reproducirlas.

La controversia poltica en Estados Unidos muestra adems que la gobernanza de la inteligencia artificial se ha convertido en una cuestin estratgica. Las decisiones sobre qu modelos utilizar, qu estndares ticos aplicar o qu empresas proveern infraestructura digital implican definiciones sobre soberana tecnolgica y derechos ciudadanos.

Sin embargo, la dimensin de gnero suele quedar relegada frente a disputas geopolticas o ideolgicas. Esto resulta particularmente problemtico si se considera que la igualdad en el desarrollo tecnolgico no es solo una cuestin tica, sino tambin econmica. Numerosos estudios muestran que equipos diversos generan mayor innovacin, mejores soluciones y productos capaces de responder a sociedades complejas y heterogneas.

Concentracin tecnolgica y dependencia digital

La expansin acelerada de la inteligencia artificial plantea as una pregunta decisiva para el orden econmico global: quin controla la tecnologa que comienza a organizar mercados laborales, sistemas productivos y decisiones pblicas? 

Hoy, el desarrollo de modelos avanzados de IA se concentra en un nmero reducido de pases y empresas tecnolgicas con capacidad financiera, infraestructura computacional y acceso masivo a datos. Estados Unidos y China lideran esta carrera, mientras gran parte del resto del mundo participa principalmente como usuario -y no como diseador- de estas herramientas.

Esta concentracin tecnolgica tampoco es neutra. Quienes desarrollan los sistemas definen estndares, valores, lenguajes y prioridades que luego se expanden globalmente. La inteligencia artificial comienza as a configurar nuevas formas de dependencia: pases sin capacidad propia de desarrollo quedan sujetos a plataformas extranjeras para administrar informacin estratgica, automatizar servicios pblicos o impulsar su productividad econmica. La brecha digital deja de ser solo una cuestin de acceso y pasa a convertirse en una brecha de autonoma tecnolgica.

En este escenario, la desigualdad tambin adopta una dimensin de gnero. Si las decisiones sobre el diseo y gobernanza de la inteligencia artificial permanecen concentradas en espacios reducidos -geogrfica y socialmente homogneos- las perspectivas excluidas tienden a desaparecer del proceso de innovacin. 

La falta de diversidad no solo reproduce inequidades existentes, sino que define quines se benefician y quines quedan relegados en la economa digital emergente.

El futuro de la inteligencia artificial, entonces, no depender nicamente de avances tcnicos, sino de quines tienen poder para orientarlos. 

Sin capacidades locales, marcos regulatorios inclusivos y participacin diversa en la toma de decisiones, la revolucin digital corre el riesgo de profundizar relaciones de dependencia econmica, tecnolgica y social. La discusin sobre los sesgos algortmicos -incluidos los de gnero- no es marginal: forma parte de una disputa ms amplia por el control del conocimiento, la innovacin y las oportunidades del siglo XXI.