Selección laboral mediante inteligencia artificial: discriminación, prueba y deberes de gobernanza
I. El candidato no cambió; cambió la redacción
Imaginemos dos currículums con la misma experiencia, la misma educación, las mismas competencias y los mismos logros. En uno, el resumen profesional fue escrito por el candidato. En el otro, esas mismas credenciales fueron reformuladas por un modelo de lenguaje. Si un sistema de selección prefiere la segunda versión porque reconoce en ella patrones semejantes a los que él mismo produce, la empresa cree estar comparando candidatos, pero el filtro está comparando estilos.
Ése es el nudo. La calificación profesional permanece constante. Lo único que cambia es la forma de narrarla. Sin embargo, esa diferencia puede alterar el puntaje, el orden de mérito o el acceso a una entrevista. El sistema transforma así una afinidad lingüística que nadie definió como requisito del puesto en una ventaja competitiva oculta.
El problema aparece porque la inteligencia artificial ya puede intervenir en los dos extremos de la selección. Un candidato utiliza un modelo para redactar o mejorar su currículum. La empresa emplea otro para extraer antecedentes, asignar puntajes o recomendar una lista corta. El resultado no depende solamente de la calidad del evaluador. También puede depender de la compatibilidad entre el modelo que escribió y el modelo que juzga. La herramienta elegida por el postulante empieza a influir sobre una decisión que debería referirse a su idoneidad.
Xu, Li y Jiang aislaron experimentalmente ese efecto. Utilizaron un dataset público de 2.484 currículums humanos anteriores a la difusión masiva de la inteligencia artificial generativa. Después de extraer los resúmenes ejecutivos, eliminar artefactos de formato y excluir los casos vacíos o incompletos, obtuvieron una muestra final de 2.245. Para cada candidato conservaron la experiencia, la formación y las competencias, pero reemplazaron el resumen por versiones redactadas por distintos modelos. Luego hicieron que esos mismos modelos actuaran como evaluadores. Varios seleccionaron con mayor frecuencia la versión producida por ellos mismos. En simulaciones correspondientes a 24 ocupaciones, esa preferencia modificó quién ingresaba en la lista corta.[1]
El experimento no demuestra que todas las empresas ni todos los sistemas de seguimiento de candidatos se comporten así. Tampoco observó contrataciones reales: estudió decisiones de modelos dentro de un diseño controlado. Pero precisamente ese control vuelve visible el problema. Si los antecedentes permanecen iguales y cambia la evaluación cuando cambia solamente la redacción, el filtro está reaccionando a algo distinto de la experiencia, la formación o las competencias del postulante. No sabemos todavía con qué frecuencia sucede en el mercado. Sí sabemos que el mecanismo existe y que puede medirse.
Propongo llamar homofilia sintética a esa afinidad funcional. No porque el modelo tenga conciencia, identidad o espíritu de tribu, sino porque el resultado se parece a una preferencia por los propios: el evaluador recompensa las formas lingüísticas de su mismo origen o familia. La categoría no describe una intención de la máquina. Describe un mecanismo institucionalmente relevante: una oportunidad laboral puede depender de la cercanía estadística entre dos sistemas que el candidato quizá ni siquiera conoce.
La pregunta jurídica, entonces, no es si la inteligencia artificial “reconoce a los suyos”. Es otra: ¿puede una empresa excluir a una persona mediante un procedimiento que confunde familiaridad de estilo con idoneidad para el puesto? Y, si eso ocurre, ¿qué debe probar el postulante, qué debe explicar el empleador y qué controles debieron existir antes de usar el filtro?
II. Irregularidad procedimental y discriminación jurídicamente relevante
La respuesta exige evitar dos atajos. El primero sería llamar discriminación a cualquier diferencia de puntaje. El segundo, considerar jurídicamente irrelevante todo sesgo que no mencione de manera expresa una categoría protegida. Entre ambos extremos existe una secuencia que importa distinguir. Un filtro puede ser técnicamente inestable antes de causar un perjuicio; puede causar un perjuicio arbitrario antes de configurar discriminación; y puede convertirse en discriminatorio cuando esa desventaja se conecta con un motivo protegido.
El modelo utilizado para redactar un currículum no constituye, por sí mismo, una categoría protegida. Pero una regla que premie ciertos estilos puede distribuir de manera desigual una oportunidad laboral, favorecer a quienes acceden a determinados sistemas o funcionar como proxy de nacionalidad, edad, discapacidad, condición social u otras características jurídicamente relevantes. La falta de intención explícita no resuelve esa cuestión.
Conviene separar tres niveles.
El primero es la inconsistencia técnica. El sistema modifica el resultado ante cambios de redacción que no alteran los antecedentes. Esto puede revelar falta de confiabilidad, aunque no produzca un perjuicio individual.
El segundo es la injusticia procedimental. La inconsistencia interviene en una decisión real y perjudica a un postulante por una característica de la representación que no había sido definida como requisito del cargo. Aquí existe una razón seria para impugnar el procedimiento, aunque todavía no se haya establecido un motivo discriminatorio protegido.
El tercero es la discriminación jurídicamente relevante. La regla, aparentemente neutral, perjudica a una persona o grupo por un motivo alcanzado por la Constitución, los tratados o la legislación aplicable. El vínculo puede ser directo, cuando el sistema utiliza la categoría, o indirecto, cuando una variable de estilo, acceso o procedencia funciona como proxy y produce una desventaja conectada con sexo, nacionalidad, edad, discapacidad, condición social u otro motivo protegido.
La homofilia sintética no es una nueva categoría jurídica autónoma. Es un posible mecanismo causal o probatorio. Puede explicar cómo una práctica neutral en su formulación produce un resultado desigual, pero la calificación jurídica exige reconstruir el perjuicio, el motivo protegido, la comparabilidad y la ausencia de una justificación objetiva vinculada con el empleo.
III. El marco argentino protege también el acceso al empleo
El punto de partida constitucional está en los artículos 16 y 14 bis de la Constitución Nacional, leídos junto con los instrumentos internacionales incorporados por el artículo 75, inciso 22. En el plano laboral internacional, el Convenio 111 de la Organización Internacional del Trabajo define la discriminación en materia de empleo y ocupación y comprende el acceso a la formación profesional, la admisión en el empleo y las condiciones de trabajo. Argentina lo ratificó en 1968 y continúa en vigor.[2]
La Ley de Contrato de Trabajo contiene dos reglas relevantes. El artículo 17 prohíbe cualquier discriminación entre trabajadores por motivos de sexo, raza, nacionalidad, religión, política, actividad gremial o edad. El artículo 81 exige igualdad de trato en identidad de situaciones y admite diferencias sustentadas en razones objetivas, como mayor eficacia, laboriosidad o contracción a las tareas.[3]
Sin embargo, el tenor literal de ambas disposiciones se refiere a “trabajadores” y al trato dispensado por el empleador. Su aplicación directa a quien todavía no celebró un contrato merece un análisis cuidadoso. La protección del postulante se apoya con mayor claridad en la garantía constitucional de igualdad, el Convenio 111, la Ley 23.592 y la doctrina de la Corte Suprema sobre discriminación en el acceso al empleo.
El artículo 1 de la Ley 23.592 obliga a dejar sin efecto o hacer cesar el acto discriminatorio y a reparar el daño moral y material cuando alguien arbitrariamente impida, obstruya, restrinja o menoscabe el ejercicio igualitario de derechos fundamentales. La enumeración de motivos utiliza la fórmula “tales como”, por lo que no está redactada como un catálogo cerrado. Ello no convierte cualquier decisión injusta en discriminatoria: continúa siendo necesario acreditar un menoscabo arbitrario relacionado con un motivo jurídicamente relevante.[4]
En Sisnero, la Corte Suprema examinó directamente la imposibilidad de una mujer de acceder a un puesto de chofer pese a reunir los requisitos de idoneidad. El Tribunal encuadró la controversia en el derecho a elegir libremente una profesión o empleo y a no ser discriminado por género durante el proceso de selección. También cuestionó que las empresas hubieran respondido con explicaciones dogmáticas sin destruir los indicios surgidos de la prueba.[5]
Ese precedente impide reducir la igualdad laboral al período posterior a la contratación. También muestra por qué un sistema automatizado no puede ser evaluado únicamente por la neutralidad formal de sus instrucciones. Si el patrón de resultados y las circunstancias del proceso aportan indicios suficientes de un impacto discriminatorio, la empresa deberá ofrecer una explicación objetiva y respaldada por evidencia.
IV. La intención no es presupuesto necesario, pero el impacto tampoco basta
La discriminación algorítmica suele describirse como “discriminación sin intención”. La fórmula es útil para mostrar que un sistema puede distribuir oportunidades de manera desigual sin que exista una orden humana dirigida a excluir. Jurídicamente debe utilizarse con precisión.
En Pellicori, la Corte Suprema estableció que, cuando la parte actora acredita hechos prima facie idóneos para inducir la existencia de discriminación, corresponde al demandado demostrar que el acto tuvo un motivo objetivo y razonable ajeno a toda discriminación. No se elimina la carga inicial del reclamante ni se presume discriminación ante cualquier diferencia. Se adapta la prueba a una conducta que normalmente no deja evidencia directa de su motivación.[6]
En Sisnero, la Corte aplicó ese estándar probatorio a una controversia sobre acceso al empleo. Para una controversia algorítmica, y ya como aplicación propuesta a un supuesto distinto, los indicios podrían incluir diferencias persistentes entre grupos comparables, sensibilidad del resultado ante transformaciones irrelevantes del currículum, ausencia de una rúbrica previa, falta de validación para el puesto o explicaciones contradictorias sobre el funcionamiento del filtro.
Un resultado estadístico aislado no determina automáticamente la responsabilidad. Deben examinarse la calidad de los datos, el universo comparado, la magnitud y persistencia de la diferencia, las exigencias reales del cargo y las alternativas explicativas. La empresa, por su parte, no debería satisfacer su carga con la afirmación genérica de que “decidió el algoritmo” o que el proveedor no utiliza categorías sensibles. Necesitará mostrar qué variables intervinieron, por qué eran pertinentes y qué controles se aplicaron.
V. Currículums, perfiles y protección de datos personales
Un currículum contiene información referida a una persona determinada o determinable y, por tanto, datos personales en los términos de la Ley 25.326. Cuando los currículums y perfiles integran un conjunto organizado y son objeto de operaciones de recolección, extracción, comparación o conservación, existe tratamiento de datos y puede configurarse una base alcanzada por la ley. El análisis debe abarcar la calidad y pertinencia de los datos, el deber de información, el consentimiento o la excepción aplicable, las cesiones o prestaciones por terceros, la seguridad y los derechos de acceso, rectificación o supresión.[7]
El artículo 4 exige que los datos sean ciertos, adecuados, pertinentes y no excesivos respecto de la finalidad para la que fueron obtenidos. Una inferencia producida por IA, como “capacidad de liderazgo”, “ajuste cultural” o “claridad”, no debería confundirse con un dato aportado por el postulante. Es una valoración derivada, cuya exactitud y pertinencia necesitan justificación.
El artículo 20 dispone que las decisiones judiciales o los actos administrativos que valoren conductas humanas no pueden tener como único fundamento un perfil informatizado. Su texto se refiere al poder público. No establece por sí solo una prohibición general equivalente para toda selección privada. Extenderlo sin aclarar esa limitación sería incorrecto.[8]
Existe una pauta administrativa más amplia. La Resolución 4/2019 de la Agencia de Acceso a la Información Pública aprobó criterios orientadores e indicadores de mejores prácticas para la aplicación de la Ley 25.326. Su artículo 1 dispone que son de observancia obligatoria para los sujetos alcanzados por esa ley. El Criterio 2 de su Anexo I establece que, frente a decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos perniciosos o afecten significativamente de manera negativa, el titular podrá solicitar al responsable una explicación sobre la lógica aplicada, de conformidad con el artículo 15, inciso 1, de la Ley 25.326.[9]
La resolución no equivale a una reforma legislativa ni resuelve todas las dudas sobre el encuadre de una relación precontractual privada. Tampoco consagra expresamente, en ese apartado, un derecho a revisión humana. Sí fija el criterio interpretativo de la autoridad de aplicación sobre explicación de la lógica aplicada cuando concurren sus presupuestos.
Como propuesta de gobernanza, la revisión humana debe ser sustancial. Si una persona se limita a confirmar el orden producido por el modelo sin acceso a los antecedentes, a la rúbrica y a las razones de inestabilidad, la intervención puede ser formal y no una salvaguarda real. Esta recomendación no se atribuye al texto de la Resolución 4/2019.
VI. Atribución de la decisión: empleador y proveedor
La contratación de un proveedor de IA no excluye por sí sola la eventual responsabilidad de la empresa que define el puesto y utiliza la recomendación para admitir o excluir candidatos. Su atribución dependerá del régimen invocado, los hechos, el control efectivo y la intervención de cada sujeto. El proveedor puede diseñar el modelo, alojar datos o establecer parámetros por defecto, mientras que el empleador suele determinar la finalidad del proceso, decidir si automatiza y atribuir consecuencias al resultado.
Esto no significa que el proveedor carezca siempre de responsabilidad. Puede haber incumplimientos contractuales, infracciones al régimen de datos, información técnica engañosa o defectos en el servicio. La distribución concreta dependerá del contrato, del control efectivo, de las representaciones efectuadas y de la causa del daño. Lo imprudente sería convertir la tercerización en una defensa automática frente al postulante.
La empresa tampoco debería contratar un sistema cuya arquitectura le impida explicar o auditar decisiones que utilizará para excluir personas. La opacidad comercial puede limitar la divulgación pública de secretos técnicos, pero no elimina la necesidad de conservar evidencia suficiente para una revisión interna, administrativa o judicial.
Un contrato prudente debería contemplar documentación del modelo y sus versiones, finalidad autorizada, categorías de datos, métricas de validación, registro de cambios, conservación de logs, asistencia frente a derechos de los titulares, notificación de incidentes, auditorías, subcontratistas, cooperación probatoria y terminación cuando el proveedor no pueda demostrar controles mínimos.
VII. La prueba que falta: invariancia frente a la procedencia generativa
Los controles tradicionales comparan tasas de selección entre grupos protegidos. Ese análisis sigue siendo indispensable, pero puede no detectar una preferencia relacional entre generador y evaluador. Dos modelos pueden mostrar tasas agregadas semejantes y, al mismo tiempo, favorecer sistemáticamente las formas de redacción que cada uno produce.
Para ese problema propongo un estándar complementario: invariancia frente a la procedencia generativa. La prueba conserva experiencia, fechas, formación, responsabilidades, competencias y resultados. Luego genera versiones equivalentes mediante redacción humana, diferentes familias de modelos y convenciones lingüísticas diversas. El evaluador procesa esas variantes sin conocer su procedencia.
La pregunta es si la puntuación, el orden o la recomendación cambia materialmente cuando solamente cambia el modo de expresar los mismos antecedentes.
No se trata de una obligación legal expresamente formulada hoy bajo ese nombre. Es una propuesta de diligencia y gobernanza derivada de deberes existentes: pertinencia respecto del puesto, igualdad, explicabilidad, validación y capacidad de demostrar una justificación objetiva.
Tampoco exige ignorar toda diferencia de lenguaje. La comunicación puede ser una competencia genuina para un abogado, periodista, vendedor o redactor. En esos casos, la empresa debería definirla antes de evaluar candidatos, describir cómo se mide y demostrar que el criterio guarda relación con tareas reales. Lo que debe evitarse es que la semejanza con el estilo del proveedor opere como sustituto inadvertido de la capacidad profesional.
VIII. Un estándar operativo de cumplimiento
Como estándar de diligencia y preparación probatoria, una organización que utilice IA para seleccionar personal debería procurar documentar, como mínimo:
Ningún punto garantiza por sí solo la licitud. El valor del conjunto está en que transforma una promesa abstracta de imparcialidad en evidencia verificable.
IX. Derecho comparado: referencia, no derecho argentino
El Reglamento de Inteligencia Artificial de la Unión Europea clasifica como de alto riesgo, con las condiciones y excepciones del artículo 6, ciertos sistemas destinados al reclutamiento y selección, especialmente los utilizados para publicar anuncios, filtrar solicitudes y evaluar candidatos. Su aplicación es escalonada. La fecha general prevista por el artículo 113 es el 2 de agosto de 2026, mientras que otras disposiciones tienen fechas diferentes. La exigibilidad concreta debe analizarse según la obligación y el rol de proveedor, responsable del despliegue, importador o distribuidor. El régimen de alto riesgo comprende requisitos del sistema y obligaciones diferenciadas relativas, entre otros elementos, a gestión de riesgos, gobernanza de datos, documentación técnica, registros, información, supervisión humana, precisión, robustez y ciberseguridad.[10]
Estas obligaciones no deben presentarse como derecho vigente argentino. Pueden funcionar como referencia de diligencia para organizaciones internacionales, contratos con proveedores y programas internos. Su utilidad radica en mostrar que la selección algorítmica ya es tratada regulatoriamente como una actividad capaz de afectar significativamente el acceso al trabajo.
El derecho comparado tampoco reemplaza el análisis local. La cuestión argentina debe construirse con la Constitución, los tratados vigentes, la legislación laboral y antidiscriminatoria, la protección de datos y la jurisprudencia de la Corte Suprema.
X. Conclusión
El riesgo de que un modelo favorezca textos semejantes a los que él mismo produce no crea, por sí solo, una nueva categoría de discriminación. Revela un mecanismo que puede volver inestable la selección y, bajo determinadas condiciones, transmitir o amplificar desigualdades jurídicamente protegidas.
La ausencia de intención humana explícita no convierte el resultado en jurídicamente neutro. Tampoco todo desvío estadístico prueba discriminación. El análisis exige identificar antecedentes equivalentes, perjuicio, motivo protegido, indicios, justificación vinculada con el puesto y control efectivo de la organización sobre el proceso.
Para el empleador, el punto decisivo es probatorio. Si una herramienta interviene en el rechazo de una candidatura, la empresa debería estar en condiciones de demostrar qué evaluó, por qué era pertinente y si el resultado se mantiene cuando sólo cambia la redacción. Si no puede hacerlo, la complejidad del proveedor deja de ser una ventaja operativa y se convierte en un riesgo jurídico.
La pregunta regulatoria no es qué “siente” el algoritmo ni si pertenece a una tribu. Es si quienes delegan en él una decisión sobre oportunidades pueden probar que evaluó idoneidad y no familiaridad.
Nota de alcance
Análisis doctrinario general basado en fuentes públicas consultadas al 24 de agosto de 2026. No constituye asesoramiento para un caso determinado. La aplicación de las normas depende de los hechos, la prueba y la jurisdicción. “Homofilia sintética” e “invariancia frente a la procedencia generativa” son propuestas analíticas, no categorías de la legislación vigente.
—
fuente: inteligencia artificial: discriminación, prueba y deberes de gobernanza”> GOOGLE NEWS
