(3/3) Construimos nuestra preselección para la ley antes de que la ley existiera

En la parte 1 argumenté que el EU AI Act ha reclasificado en silencio casi todas las herramientas de IA para contratación como alto riesgo. En la parte 2 recorrí las obligaciones que recaen sobre la empresa que despliega esas herramientas —supervisión humana, transparencia con los trabajadores, evaluaciones de impacto, la capa del GDPR—. Ambos posts rodeaban la misma conclusión: un proceso de contratación es conforme solo si un humano competente es genuinamente dueño de la decisión.

Esa conclusión no es nueva para mí. Es la tesis que he defendido en este blog desde el principio —la IA aumenta el juicio humano, no lo reemplaza— y resulta que describe, casi línea por línea, cómo construimos la preselección de candidatos en Conectia. Así que en este post final quiero hacer algo más útil que otro resumen de la regulación. Quiero mostrar cómo se ve por dentro una pipeline de contratación conforme y consciente de la IA, usando la que conozco mejor.

Para ser claro con el encuadre: esto no es afirmar que Conectia tenga un certificado mágico de cumplimiento. Las obligaciones de alto riesgo del reglamento se aplican por fases, el Digital Omnibus aún puede mover las fechas, y la postura de cualquier empresa debe evaluarse frente a sus herramientas y casos de uso específicos. Lo que sí puedo mostrar es que cuando diseñas un proceso de contratación en torno a la responsabilidad humana desde el principio, la regulación deja de ser un parche y se convierte en una descripción de lo que ya haces.

Dónde toca la regulación una pipeline de contratación remota

Conectia preselecciona ingenieros para roles remotos y nearshore. Pasamos a los candidatos por un proceso de validación, y entregamos a los clientes una shortlist de tres a cinco personas validadas. Eso nos sitúa en dos de los roles que al AI Act le importan a la vez:

• Somos un responsable del despliegue de cualquier IA que usemos dentro de nuestra propia preselección.
• El cliente que contrata de nuestra shortlist es también un responsable del despliegue, tomando decisiones que afectan al acceso al empleo —de lleno dentro de la categoría de empleo del Anexo III—.

Ambos somos responsables. Ninguno de los dos puede señalar a una herramienta. La pregunta de diseño, entonces, no es "cómo evitamos usar IA" —eso sería a la vez imposible y absurdo—, sino "cómo usamos la IA de modo que un humano sea siempre, demostrablemente, quien decide".

El principio: IA en los inputs, humanos en el veredicto

La forma más limpia en que puedo enunciar nuestra regla de diseño es esta: a la IA se le permite dar forma a los inputs de una decisión; nunca se le permite ser la decisión.

Esa línea se mapea directamente sobre los requisitos de supervisión del Artículo 14 y del Artículo 26(2) de la parte 2. Un sistema puede resumir, sacar a la superficie, redactar borradores y señalar. Un humano lee el trabajo que hizo la IA, aporta un juicio que la IA no tiene, y toma la decisión —y esa decisión puede contradecir, y a veces contradice, lo que la herramienta sugirió—. En el momento en que un candidato avanza o es rechazado, una persona con nombre, con la competencia y la autoridad para hacerlo, ha tomado esa elección. Eso no es una funcionalidad de cumplimiento que añadimos. Es la columna vertebral de todo el proceso.

Nuestra validación de cinco pilares lo hace concreto:

• La calidad del código la revisa un ingeniero senior, no la puntúa una máquina. Deliberadamente no usamos puntuación automatizada de código. Un humano lee la entrega y escribe feedback, teniendo en cuenta el lenguaje, el framework y el contexto —porque el Go idiomático no se parece al Python idiomático, y un número salido de un modelo no nota la diferencia—. Esta es la decisión de diseño más importante para el cumplimiento y para la calidad, y resulta que son la misma decisión.
• La arquitectura y el razonamiento sobre compromisos se evalúan en una discusión humana estructurada. No puedes automatizar la evaluación de si alguien razona bien sobre los modos de fallo. Lo hace una persona.
• La comunicación la juzgan personas que hacen el trabajo. La claridad por escrito y el señalamiento proactivo de problemas se evalúan frente a escenarios reales por revisores que saben cómo es una buena colaboración remota.
• La trayectoria la verifican humanos hablando con humanos. Las referencias son conversaciones, no formularios rellenados.

Hay mucho margen para que la IA asista en todo esto —organizando entregas, sacando patrones a la superficie, redactando notas de primera pasada—. Para lo que no hay margen es para que la IA emita el veredicto. El veredicto pertenece a una persona, siempre.

Por qué esto satisface el espíritu del reglamento

Recorre de vuelta las obligaciones de la parte 2 y contrasta el proceso con cada una:

• Supervisión humana significativa (Art. 14 / 26(2)). Quienes toman las decisiones son ingenieros senior y CTO que diseñaron los criterios, entienden cualquier herramienta involucrada y tienen la autoridad para anularla. La supervisión aquí no es un visto bueno estampado sobre una lista ordenada —es la evaluación—.
• Sin prácticas prohibidas (Art. 5). Evaluamos capacidad de ingeniería, comunicación y experiencia verificada. No inferimos el estado emocional a partir de rostros o voces. La capacidad prohibida de la parte 1 simplemente no está en la pipeline.
• Transparencia y el derecho a un humano (GDPR Art. 22). Ningún candidato queda filtrado únicamente por un proceso automatizado sin humano en el bucle. La estructura que hace nuestra shortlist creíble para los clientes es la misma estructura que mantiene intactos los derechos de los candidatos.
• Rendición de cuentas que puedes reconstruir. Como los humanos toman y documentan las decisiones, hay una respuesta real a la pregunta que un candidato rechazado tiene derecho a hacer: ¿por qué? "Lo dijo el algoritmo" no es una respuesta que el reglamento acepte —y nunca fue una respuesta que estuviéramos dispuestos a dar—.

Esta es la parte que encuentro genuinamente satisfactoria. La regulación y el listón de calidad tiran en la misma dirección. La razón por la que nunca confiamos en un modelo para puntuar código no fue previsión legal —fue que la puntuación automatizada produce peores decisiones de contratación—. El reglamento exige ahora lo que ya era lo correcto.

Qué significa esto si contratas en Europa

Si eres fundador o líder de ingeniería contratando en la UE, los tres posts de esta serie se colapsan en una checklist corta y práctica:

1. Audita tu stack de contratación frente al Anexo III. Cualquier cosa que filtre, ordene o puntúe candidatos es presuntamente de alto riesgo. Conoce lo que estás ejecutando.
2. Mata cualquier cosa que infiera emociones. Ya está prohibido. Esta es la exposición más rápida de cerrar.
3. Encuentra al humano en cada decisión —y si no lo hay, añádelo—. La supervisión tiene que ser real, competente y con poder para anular. Un revisor que solo está de acuerdo con la herramienta no es supervisión.
4. Prepárate para explicar un rechazo. Si tu respuesta honesta es "lo hizo el sistema", tienes a la vez un problema de cumplimiento y un problema de calidad.
5. Presiona a tus proveedores y socios. Pregunta quién es el proveedor, quién es el responsable del despliegue, qué se registra, qué se evalúa y dónde se sitúa el humano. Las respuestas te dicen mucho sobre si de verdad han pensado en esto.

Cuando recibes una shortlist de Conectia, no eres el primer filtro técnico —eres la comprobación final de encaje—. Cada ingeniero en ella superó un proceso construido en torno al juicio humano, lo que significa que la decisión que tomas al final es una que puedes defender: ante un candidato, ante un comité de empresa, ante un regulador y ante ti mismo.

El EU AI Act no nos hizo rediseñar cómo contratamos. Describió lo que ya habíamos construido. Esa es la posición que vale la pena buscar —no el cumplimiento como una carrera contrarreloj antes de un plazo, sino un proceso tan alineado con el principio que la ley, cuando llegó, simplemente te dio la razón—.

---

¿Quieres una shortlist construida así —aumentada por IA, decidida por humanos, diseñada por CTO en activo? Solicita una shortlist validada por un CTO para tu vacante abierta.