IA en reclutamiento: más sesgos que los humanos

Los modelos de lenguaje grandes (LLMs) que filtran currículums antes de que un humano los vea no son neutrales. Una nueva investigación publicada por MIT Technology Review confirma que estos modelos no solo reproducen sesgos de sus datos de entrenamiento, sino que también desarrollan sesgos propios durante el proceso de evaluación. Para directores de marketing y equipos de HR tech en LATAM que ya implementan IA en sus pipelines de reclutamiento, esta señal no se puede ignorar.

Qué debes saber

• Los LLMs generan sesgos propios, más allá de los que absorben del entrenamiento. No es solo un problema de datos históricos.
• El sesgo ocurre antes de que intervenga un humano. El filtrado automatizado de CVs puede eliminar candidatos calificados sin revisión.
• Los equipos de marketing son doble audiencia: como compradores de herramientas HR tech y como áreas que reclutan talento digital con IA.
• No hay regulación clara en LATAM que obligue a los proveedores de IA de reclutamiento a auditar sus modelos por sesgo.
• Existen pasos concretos para auditar y mitigar estos riesgos antes de escalar el uso de estas herramientas.

Qué encontró la investigación

La investigación, cubierta por MIT Technology Review, parte de un hecho ya documentado: los LLMs absorben los sesgos presentes en sus datos de entrenamiento. Si esos datos reflejan décadas de discriminación en contratación —por género, origen étnico, edad o nivel socioeconómico—, el modelo los replica.

Pero el hallazgo nuevo es más preocupante. Los LLMs también desarrollan sesgos que no estaban explícitamente en los datos. Durante el proceso de inferencia —cuando el modelo evalúa un CV y decide si avanzar o descartar a un candidato—, el modelo puede construir asociaciones propias entre variables aparentemente neutras (como el nombre de una universidad, el orden de las secciones del CV, o el formato del documento) y la probabilidad de recomendar a alguien.

En términos prácticos: el modelo puede aprender que ciertos patrones textuales están correlacionados con candidatos que fueron contratados históricamente, y penalizar a quienes no los replican, aunque esa correlación no tenga relación con la capacidad real para el puesto.

Este fenómeno es especialmente relevante en contextos donde el modelo no ha sido entrenado con datos locales. Un LLM entrenado mayoritariamente con CVs de Estados Unidos o Europa puede aplicar criterios que no tienen equivalencia directa en mercados como México, Colombia, Chile o Argentina, donde los formatos de CV, los nombres de instituciones educativas y las trayectorias profesionales siguen patrones distintos.

Por qué importa para marketing en LATAM

Los equipos de marketing en LATAM tienen una exposición doble a este problema. Por un lado, muchas áreas de marketing digital, contenido, performance y CRM ya usan herramientas de reclutamiento con IA integrada, ya sea mediante ATS (sistemas de seguimiento de candidatos) con filtros automáticos o mediante integraciones con LLMs para pre-calificación.

Por otro lado, los profesionales de marketing son compradores y evaluadores de estas plataformas. Si tu empresa vende o distribuye soluciones de HR tech en la región, este dato afecta directamente la conversación de ventas y la propuesta de valor que puedes ofrecer.

Desde Hoy Marketing vemos que el problema de fondo es de gobernanza de datos y transparencia del modelo. La mayoría de los proveedores de ATS con IA no publican auditorías de sesgo. Tampoco existe en LATAM una regulación equivalente a la Executive Order sobre IA de Estados Unidos o al AI Act europeo que obligue a estas empresas a hacer ese trabajo visible.

Esto crea un riesgo real: los equipos de HR y marketing adoptan estas herramientas basándose en promesas de eficiencia —y la ganancia en velocidad de screening es real— pero sin entender qué señales está usando el modelo para tomar decisiones. Escalar un pipeline de reclutamiento automatizado con un modelo sesgado no solo genera resultados injustos: también puede reducir la calidad del talento que llega a las etapas finales.

En mercados donde la diversidad de talento es una ventaja competitiva real —y donde los perfiles de marketing digital bilingüe o con experiencia en economías emergentes son difíciles de encontrar—, filtrar mal en la primera etapa tiene un costo directo en los resultados del negocio.

Qué hacer antes de implementar o escalar IA en reclutamiento

Si tu equipo ya usa o evalúa herramientas de screening con IA, estos son los pasos concretos que debes implementar:

1. Audita qué datos usa el modelo para tomar decisiones. Pide a tu proveedor que te explique qué variables considera el modelo al evaluar un CV. Si la respuesta es vaga o confidencial sin excepción técnica, es una señal de alerta. Los modelos que no pueden explicar sus criterios no son aptos para decisiones que afectan personas.

2. Haz una prueba de disparate impact antes de escalar. Envía CVs sintéticos con perfiles idénticos en habilidades pero con diferencias en nombre, género, institución educativa local vs. internacional, o formato regional. Mide si el modelo trata estos perfiles de manera equivalente. Este tipo de prueba es estándar en auditorías de IA de reclutamiento y no requiere herramientas sofisticadas para ejecutarla.

3. Establece un checkpoint humano obligatorio antes de cualquier descarte. La IA puede ordenar y priorizar CVs, pero no debería tener autoridad final para eliminar candidatos del proceso sin revisión humana. Diseña el flujo para que el modelo proponga, no decida.

4. Exige transparencia contractual al proveedor. Antes de firmar o renovar un contrato con una plataforma de reclutamiento con IA, incluye una cláusula que requiera notificación si el modelo es actualizado y que garantice acceso a reportes de sesgo. En LATAM esto no es práctica común todavía, pero es una posición negociadora legítima.

5. Calibra el modelo con datos locales. Si el proveedor permite fine-tuning o ajuste de criterios, usa datos de contrataciones exitosas en tu mercado específico, no los defaults del modelo. Un LLM calibrado con patrones de talento en Santiago o Bogotá va a funcionar mejor que uno calibrado con datos de San Francisco.

6. Documenta las decisiones del modelo. Lleva un registro de qué candidatos fueron filtrados por la IA y por qué criterio. Esto no solo es buena práctica de gobernanza: si en el futuro hay regulación en tu país, tener esa trazabilidad te pone en una posición mucho mejor.

Puntos clave

• Los LLMs generan sesgos propios en reclutamiento, no solo heredan los de sus datos de entrenamiento.
• El filtrado automático de CVs puede descartar talento calificado sin revisión humana, especialmente en perfiles con formatos o trayectorias regionales.
• En LATAM no existe regulación que obligue a los proveedores de HR tech con IA a auditar y publicar sus sesgos.
• La mitigación efectiva requiere pruebas de sesgo antes de implementar, checkpoints humanos en el flujo, y transparencia contractual con el proveedor.

Preguntas frecuentes

¿Los LLMs siempre van a tener sesgos en reclutamiento?

No necesariamente siempre, pero el riesgo es estructural mientras los modelos se entrenen con datos históricos que reflejan decisiones humanas sesgadas. La diferencia entre un modelo bien auditado y uno sin auditoría puede ser significativa. El punto de la investigación es que incluso sin esos datos históricos, los modelos pueden desarrollar sesgos propios, lo que hace que la auditoría continua sea indispensable, no opcional.

¿Cómo sé si la herramienta de reclutamiento con IA que uso tiene este problema?

La señal más directa es preguntar al proveedor si tiene un reporte de auditoría de sesgo y si puede mostrártelo. Si no existe o no pueden compartirlo, el riesgo es desconocido. Puedes complementar esto con una prueba interna de CVs sintéticos para medir si el modelo trata perfiles equivalentes de manera consistente.

¿Usar IA en reclutamiento sigue siendo una buena decisión para equipos de marketing en LATAM?

Sí, pero con condiciones. La ganancia en eficiencia de screening es real y el volumen de candidatos que manejan los equipos de marketing digital justifica la automatización. El problema no es usar IA, sino usarla sin auditoría ni checkpoints humanos. Implementada con controles adecuados, la IA puede ser más consistente que un evaluador humano con fatiga de decisión. Implementada sin ellos, puede escalar el sesgo a una velocidad que ningún humano podría alcanzar.