Más de 100 millones de personas con diferencias faciales quedaron excluidas por sistemas con inteligencia artificial. ¿Cómo y por qué?
Autumn Gardiner solo quería actualizar su licencia de conducir tras casarse. Pero en la oficina del DMV de Connecticut, el sistema de inteligencia artificial rechazó su foto una y otra vez. Los empleados probaron múltiples veces sin éxito. La discriminación era evidente.
Gardiner padece el síndrome de Freeman-Sheldon, una rara condición craneofacial que afecta los músculos del rostro, y el algoritmo simplemente no reconocía su cara como humana. “Esta máquina me decía que no tenía un rostro humano”, recuerda. La humillación fue absoluta. Y no está sola en esto.
Alrededor del mundo, más de 100 millones de personas viven con desfiguraciones faciales, desde marcas de nacimiento hasta condiciones craneofaciales congénitas. Y la tecnología de reconocimiento facial, cada vez más extendida, los está dejando afuera del sistema.
Crystal Hodges, que vive con el síndrome de Sturge-Weber y tiene un lunar en gran parte de su cara, intentó hasta ocho veces verificar su identidad para obtener su puntaje crediticio. El sistema jamás aceptó su foto, aunque sí la de su marido con barba.
Noor Al-Khaled, residente en Maryland, lleva meses sin poder crear su cuenta online en la Administración de la Seguridad Social. Su condición craneofacial, Ablepheron Macrostomia, hace que los sistemas de verificación facial rechacen sistemáticamente su selfie. “A nivel emocional, me hace sentir excluida de la sociedad”, dice.
El problema es claro: los algoritmos de inteligencia artificial fueron entrenados con conjuntos de datos que no incluyen diversidad facial. Miden distancia entre ojos, tamaño de mandíbula y simetría para crear “huellas faciales”. Pero cuando un rostro sale de esa norma estrecha, el sistema simplemente no lo reconoce.
Sin alternativas ni soluciones
Lo peor es que cuando estos sistemas fallan, no hay ayuda disponible. Corey R. Taylor, actor neoyorquino con una anomalía craneofacial, tuvo que contorsionar literalmente su cara para que una app financiera aceptara su identidad. “Hay pocas cosas más deshumanizadoras que el hecho de que una máquina te diga que no sos real por tu cara”, afirma. Face Equality International (FEI), organización que representa a estos colectivos, denuncia que el problema abarca desde puertas de pasaportes en aeropuertos hasta filtros de redes y desbloqueo facial de teléfonos. “Esta tecnología está fallando a nuestra comunidad”, señaló Nikki Lilly, patrocinadora de FEI, ante las Naciones Unidas.
La solución a corto plazo es simple: métodos alternativos de verificación. Pero las grandes tecnológicas parecen tener esto muy abajo en su lista de prioridades. Mientras tanto, millones de personas quedan atrapadas en un laberinto digital que los excluye por no encajar en el molde de lo que una máquina considera “un rostro humano”.
fuente: https://urgente24.com/omni/un-sistema-repudiable-la-inteligencia-artificial-discrimina-miles-personas-su-cara-n611396
—
fuente: inteligencia artificial discrimina a miles de personas por su cara”> GOOGLE NEWS
