La firma de IA Eightfold demandada por supuesta puntuación secreta de postulantes

Dos buscadores de empleo presentaron el martes una demanda colectiva federal contra la plataforma de contratación AI Eightfold, acusando a la compañía de utilizar inteligencia artificial oculta para puntuar a los solicitantes sin su conocimiento o consentimiento, lo que implicaría una violación de las leyes de protección al consumidor establecidas en los años 70.

La demanda, presentada en el Tribunal Superior del Condado de Contra Costa en California, alega que Eightfold infringió la Ley de Informes Crediticios Justos y la Ley de Agencias de Informes de Consumidores de California al compilar informes sobre solicitantes de empleo sin proporcionar las divulgaciones requeridas ni derechos de disputas.

Los demandantes, Erin Kistler y Sruti Bhaumik, afirman que la plataforma de Eightfold recoge datos personales sensibles, incluyendo perfiles en redes sociales, datos de localización, actividad en internet y cookies de seguimiento, a partir de fuentes públicas como LinkedIn, GitHub y bolsas de trabajo para evaluar a candidatos que se postulan a empresas como Microsoft, PayPal, Starbucks y Morgan Stanley.

Los demandantes exigen daños reales y estatutarios que oscilan entre $100 y $1,000 por cada violación según la legislación federal, además de hasta $10,000 por cada violación bajo la ley de California, junto con daños punitivos y una orden que obligue a Eightfold a modificar sus prácticas.

La demanda sostiene que la IA de Eightfold utiliza «más de 1.5 mil millones de puntos de datos globales» para generar «Match Scores» que clasifican a los solicitantes de 0 a 5 según su «probabilidad de éxito», donde los candidatos de menor puntuación son a menudo «descalificados antes de que un humano revise su solicitud».

Kistler, graduada en ciencias de la computación con 19 años de experiencia en gestión de productos, se postuló para roles senior en PayPal a través de Eightfold en diciembre sin conseguir una entrevista, mientras que Bhaumik, gerente de proyectos con títulos de Bryn Mawr y la Universidad de Pittsburgh, fue rechazada automáticamente de un puesto en Microsoft dos días después de postularse.

La demanda afirma que casi dos tercios de las grandes empresas utilizan tecnologías de IA como la de Eightfold para filtrar candidatos, mientras que un 38% implementa software de IA para emparejar y clasificar a los solicitantes.

«Este caso trata sobre un mercado distópico impulsado por IA, donde robots que operan tras bambalinas están tomando decisiones sobre las cosas más importantes de nuestras vidas: si conseguimos un empleo, una vivienda o atención médica», expresó David Seligman, Director Ejecutivo de Towards Justice y uno de los abogados que representa a los demandantes, a través de Twitter.

«No existe una exención para la IA en la ley, sin importar lo sofisticada que sea la tecnología o cuánto capital de riesgo la respalde”, señaló.

La denuncia sostiene que el modelo de lenguaje grande (Large Language Model) de Eightfold incorpora datos sobre «más de 1 millón de títulos de trabajo, 1 millón de habilidades y los perfiles de más de 1,000 millones de personas que trabajan en cada trabajo, profesión e industria», además de «inferencias» extraídas para crear perfiles que reflejan las «preferencias, características, predisposiciones, comportamientos, actitudes, inteligencia, habilidades y aptitudes» de los solicitantes.

Durante el proceso de solicitud, ni Kistler ni Bhaumik recibieron una divulgación independiente de que se generarían informes de consumidores, ni tampoco resúmenes de sus derechos de protección al consumidor o información sobre el papel de Eightfold como agencia de informes de consumidores, según lo indicado en la demanda.