Cribado de currículos con IA: cómo mantener auditables los rechazos

Respuesta directa

El cumplimiento de la evaluación de currículums por IA es un problema de mantenimiento de registros antes de ser un problema de modelo. El resultado real del sistema no es la lista corta que lee un reclutador. Es el conjunto mucho mayor de solicitudes que nadie abrió, porque una puntuación las colocó debajo de una línea. Si el flujo de trabajo no puede reconstruir por qué se filtró cada uno de ellos y mostrar que una persona nombrada tenía la autoridad para no estar de acuerdo, no hay que ejecutar ninguna auditoría.

Conclusiones clave

• Según el Anexo III de la Ley de IA de la UE, la IA utilizada para analizar y filtrar solicitudes de empleo y evaluar candidatos es un sistema de alto riesgo. Esas obligaciones se aplazaron hasta el 2 de diciembre de 2027, no se eliminaron.
• El artefacto de cumplimiento es el conjunto de rechazo: los candidatos clasificados que un humano nunca abrió, junto con la evidencia que los colocó allí.
• El artículo 26(2) exige que la persona que ejerce la supervisión tenga competencia, formación y autoridad. Un revisor que sólo lee la página uno de una lista clasificada tiene presencia, no autoridad.
• El historial de aplicación de la ley en Nueva York muestra la escasa evidencia que produce. El regulador de la ciudad examinó 32 empresas e identificó un caso de incumplimiento; Los auditores estatales que revisaron las mismas empresas identificaron al menos 17.

¿Qué problema tiene realmente este sistema?

Un sistema de detección posee el límite entre filtrar y decidir, y en volumen ese límite no existe.

Los vendedores aquí son cuidadosos y la atención es precisa. Las herramientas de selección se describen a sí mismas como clasificando o presentando candidatos en lugar de rechazarlos, porque un reclutador todavía hace clic. Esa descripción es técnicamente cierta y operativamente vacía. Cuando llegan varios cientos de solicitudes para una vacante y el revisor trabaja en una lista clasificada hasta que se llena el calendario de entrevistas, el modelo elige el límite. El clic lo confirmó.

Tiene la misma forma que el sistema de autorización previa que nunca firma la denegación: un sistema que nunca emite la denegación puede hacer que la denegación sea inevitable, controlando lo que llega a la persona que firma. La contratación tiene esa forma con trámites más débiles. Un reclamo denegado genera una carta con un motivo adjunto. Un candidato que aparece en la parte inferior de una lista clasificada no produce nada en absoluto.

Este no es un argumento de que la clasificación esté sesgada. Podría serlo, y una auditoría de sesgo es una forma de averiguarlo. El argumento es más limitado. La mayoría de los conjuntos de análisis no pueden producir la evidencia que resolvería la cuestión en ninguna dirección, porque la mitad perdedora del resultado nunca se registra como una decisión. Se registra como ausencia.

El flujo de trabajo existente que mapearía primero

Antes de diseñar cualquier cosa, trazaría la ruta que realmente toma una aplicación, incluidas las partes que nadie documenta.

Una solicitud llega a través de una bolsa de trabajo o una página de carreras. El sistema de seguimiento de candidatos lo analiza en campos, y el análisis tiene pérdidas de maneras que nadie registra: un PDF de dos columnas que el analizador lee desordenado, un formato de fecha que interpreta como una brecha de empleo. Un paso de coincidencia califica el registro analizado con respecto a una solicitud que alguien escribió rápidamente, a menudo copiando la del año pasado. Aparece una lista clasificada. Un reclutador revisa la parte superior. Todos los que están debajo de la página pasan a un estado que significa “no progresado” y, en la mayoría de las empresas, a un correo electrónico de rechazo activado por una regla.

Entonces el récord se estabiliza. El resultado se mantiene. La clasificación se evapora.

Cada uno de esos pasos es anterior a la IA, y la mayoría de ellos estaban bien cuando una persona leía cada aplicación. El paso de puntuación es lo que cambió. Movió el límite de la capacidad de atención de un ser humano a un número, y el mantenimiento de registros nunca siguió.

Cómo se ejecutaría el sistema

El cambio de diseño es fácil de plantear y difícil de implementar: trate cada solicitud filtrada como una decisión que debe una razón, en los mismos términos que una oferta.

Un objeto de solicitud, versionado. Los criterios se encuentran en un registro estructurado con un propietario y una versión, no en prosa en un anuncio de trabajo. Cuando alguien edita “5 años de experiencia” a “3 años”, esa edición tiene una marca de tiempo y un nombre adjunto, y todos los candidatos calificados en la versión anterior aún son rastreables hasta ella.

Una puntuación que conlleva su evidencia. La posición de un candidato almacena los criterios coincidentes, los tramos de texto que coincidieron, los criterios omitidos y la confianza del análisis para cada campo involucrado. Un número por sí solo no explica nada seis meses después, que es exactamente cuando se pregunta por él.

Un límite explícito, establecido por una persona. Alguien elige revisar los cuarenta principales y esa elección se registra con su nombre y el motivo. Hoy el límite es emergente: es dondequiera que el reclutador se quede sin dinero el jueves. Hacerlo explícito es el único cambio que convierte una deriva en una decisión.

Un conjunto de rechazos que se puede consultar. De los candidatos eliminados este mes, ¿cuántos fueron eliminados exactamente en un criterio? ¿Qué criterio conmovió a más personas? ¿Dónde cayó la confianza del análisis por debajo del umbral? ¿Alguien examinó esas aplicaciones manualmente?

Nada de eso necesita un modelo mejor. Necesita que el sistema escriba lo que ya calculó. La mayoría de las herramientas descartan el intermedio porque retener las puntuaciones se sentía como retener un pasivo. Ese instinto ahora está al revés. A partir del 2 de diciembre de 2027, los implementadores de sistemas de alto riesgo en la UE deben conservar los registros que un sistema genera automáticamente durante al menos seis meses, a menos que otra ley indique lo contrario. La ausencia de registro deja de funcionar como protección.

¿Qué queda bajo control humano?

Tres cosas, y ninguna de ellas es “revisar la terna”.

El límite sigue siendo humano, porque es la decisión la que determina el tamaño del conjunto de rechazo. Los criterios siguen siendo humanos, porque una solicitud es una afirmación sobre lo que requiere el trabajo y alguien tiene que defenderla. La ruta de excepción sigue siendo humana y debe ser una ruta real: un revisor que detecta un candidato fuerte debajo de la línea debe poder sacarlo y registrar esa anulación como una señal sobre la clasificación, no como un favor privado.

El artículo 26(2) es inusualmente directo sobre la norma. Los empleadores deben asignar la supervisión a personas con la competencia, la formación y la autoridad necesarias. Autoridad es la palabra clave. Un reclutador que puede hacer avanzar a un candidato pero no puede detener una solicitud, cambiar un criterio o rechazar la clasificación recibe una vista, no supervisión. Esa distinción se encuentra en la mayor parte de lo que escribo sobre dónde pertenece realmente el ser humano en el circuito, y la contratación es donde es más fácil fingir.

Cómo mediría el camino

No es hora de contratar. El tiempo de contratación mejora en el momento en que se leen menos solicitudes, que es precisamente el comportamiento que se analiza.

Tasa de reconstrucción. Tome veinte solicitudes rechazadas al azar del último trimestre e intente explicar cada resultado utilizando solo lo que retuvieron los sistemas. La proporción que puede explicar es su posición real de cumplimiento. Si es bajo, la tala es decorativa.

Tasa de anulación, por revisor. ¿Con qué frecuencia un humano mueve a un candidato a través del límite? Una tasa de cero en todo un equipo no es evidencia de un buen modelo. Es una prueba de que nadie cree que estar en desacuerdo sea parte de su trabajo.

Recortes de un solo criterio. La proporción de rechazos que se basan exactamente en un criterio omitido. Un porcentaje elevado indica que la solicitud de compra es la que realiza el filtrado, no la evaluación, y es en las solicitudes de compra donde se acumulan los supuestos copiados.

Hay uno más, y es el comercialmente interesante: ¿cuántos candidatos rechazados revertiría un gerente de contratación si se le mostraran las pruebas? Ese número es el costo del corte actual. Casi nadie lo mide, porque casi nadie se quedó con el conjunto.

Cuando esta es la compilación incorrecta

Si un puesto atrae unas pocas docenas de solicitudes, esto supone una sobrecarga. El cuello de botella es el abastecimiento, no el filtrado, y agregar una capa de puntuación con un registro de auditoría resuelve un problema que no tiene. Los sistemas de cribado ganan su lugar en volúmenes en los que leerlo todo es realmente imposible.

También es una decisión equivocada si la organización quiere que la clasificación siga siendo irresponsable. Un sistema que registra sus rechazos es un sistema con el que se puede discutir, internamente por un gerente de contratación y externamente por un candidato. Ésa es la cuestión y supone un coste real. Es mejor ser honesto acerca de quererlo que comprar una pista de auditoría que nadie tiene la intención de abrir.

Una auditoría sesgada tampoco es esto. La Ley Local 144 de la ciudad de Nueva York exige una auditoría de prejuicios realizada no más de un año antes de que se utilice la herramienta, un resumen publicado de los resultados y un aviso a los candidatos antes de que una herramienta automatizada los evalúe, con sanciones civiles entre $500 y $1,500 por día por violaciones. Una auditoría de sesgo es una verificación estadística de las tasas de selección entre grupos. Describe la forma agregada de la producción y no puede decir por qué se eliminó a algún individuo. El conjunto de rechazo es la capa por candidato que se encuentra debajo. Ninguno sustituye al otro.

Vale la pena leer el registro de aplicación de la ley antes de decidir en qué medida esto es teatro. En una auditoría de diciembre de 2025 sobre la aplicación de la ley por parte de la ciudad, los auditores del estado de Nueva York informaron que el Departamento de Protección del Consumidor y de los Trabajadores había encuestado a 32 empresas e identificado un solo caso de incumplimiento, mientras que los auditores que revisaron esas mismas empresas identificaron al menos 17. Una aplicación débil no es un argumento para evidencia débil. Es una señal de que la evidencia disponible hoy en día es lo suficientemente pobre como para que el regulador tampoco pueda verla.

Cómo se conecta esto con el compromiso

Los derribos aquí siguen llegando al mismo punto estructural desde diferentes industrias. En reclamos de seguros y en revisión de contrato, el modelo lee más rápido que una persona y no es ahí donde reside el valor. El valor reside en lo que el sistema registra sobre su propia incertidumbre y en quién puede actuar en consecuencia. La misma pregunta abarca cómo sería un flujo de trabajo de cumplimiento nativo de IA.

En la contratación es donde es más fácil rechazar ese argumento y más difícil evitarlo. Es más fácil, porque examinar se parece más a clasificar que a decidir. Lo más difícil es que la persona al otro lado del límite no tiene visibilidad ni vía de apelación y, a partir del 2 de diciembre de 2027 en la UE, un regulador que tiene derecho a solicitar el expediente. El aplazamiento de Digital Omnibus adelantó esa fecha dieciséis meses. No cambió lo que debe contener el archivo.

Si ya realiza pruebas de detección asistidas por IA, el primer ejercicio útil no le costará nada. Tome los rechazos del mes pasado, elija veinte e intente explicarlos desde sus propios sistemas. Cualquier cosa que encuentres es el punto de partida honesto.

Resumen

Los sistemas de selección se juzgan según la lista corta y se auditan según los rechazos, y la distancia entre esos dos hechos es donde está el trabajo. Construya el conjunto de rechazo como un resultado de primera clase (criterios versionados, puntuaciones que contienen evidencia, un límite elegido por una persona, un registro que puede consultar) y el archivo de cumplimiento queda fuera de un sistema que vale la pena tener independientemente de cualquier regulación.

No lo he creado con un sistema de seguimiento de candidatos en vivo y el diseño no es la parte difícil. La parte difícil es que la mayoría de estos sistemas nunca exponen las puntuaciones intermedias. Lo que hace que la primera pregunta para un proveedor sea otra que qué tan buena es la clasificación. Se trata de si puedes sacar el ranking.