(3/3) Construimos nuestra preselección para la ley antes de que la ley existiera
En la parte 1 argumenté que el EU AI Act ha reclasificado en silencio casi todas las herramientas de IA para contratación como alto riesgo. En la parte 2 recorrí las obligaciones que recaen sobre la empresa que despliega esas herramientas —supervisión humana, transparencia con los trabajadores, evaluaciones de impacto, la capa adicional del GDPR—. Los dos posts convergían en la misma conclusión: un proceso de contratación solo es conforme si la decisión pertenece de verdad a un humano competente.
Esa conclusión no es nueva para mí. Es la tesis que he defendido en este blog desde el principio —la IA aumenta el juicio humano, no lo reemplaza— y resulta que describe, casi línea por línea, cómo construimos la preselección de candidatos en Conectia. Así que en este post final quiero hacer algo más útil que otro resumen de la regulación. Quiero enseñar cómo es por dentro un proceso de contratación conforme que integra la IA, usando el que mejor conozco.
Para que el encuadre quede claro: no estoy afirmando que Conectia tenga un certificado mágico de cumplimiento. Las obligaciones de alto riesgo del reglamento se aplican por fases, el Digital Omnibus aún puede mover las fechas, y el cumplimiento de cada empresa debe evaluarse frente a sus herramientas y casos de uso concretos. Lo que sí puedo mostrar es que, cuando diseñas un proceso de contratación en torno a la responsabilidad humana desde el principio, la regulación deja de ser un parche y se convierte en una descripción de lo que ya haces.
Absorbemos el rol de responsable del despliegue para que nuestros clientes no lo hereden
Conectia preselecciona ingenieros para roles remotos y nearshore. Pero hay una distinción que decide quién carga con la responsabilidad del AI Act: no le entregamos al cliente un montón de CVs para que los cribe, ordene y filtre. Emparejamos a las personas con la tarea y elegimos por él. Lo que el cliente recibe es el match: la persona validada y ya seleccionada para el rol —no un conjunto de candidatos que tenga que pasar por una evaluación propia—.
Esa distinción importa más de lo que parece:
- Somos el responsable del despliegue de cualquier IA que usemos dentro de nuestra propia preselección —y asumimos cada obligación que ese rol conlleva—.
- El cliente no está desplegando ningún sistema de IA de contratación. Nunca pasa a los candidatos por rankings, puntuaciones ni filtrado automatizado, porque la selección ya la hemos hecho nosotros —a mano, en función de la tarea—. No hay ninguna herramienta de evaluación de candidatos en su pipeline a la que el AI Act pueda agarrarse.
Es algo deliberado, y es la parte que merece subrayarse. Al hacer nosotros mismos la selección —partiendo de la tarea, decidida por personas—, absorbemos el rol de alto riesgo de responsable del despliegue para que nuestros clientes no lo hereden. Reciben un match al que pueden contratar sin tener que montar su propio régimen de supervisión del Artículo 26, porque la parte de la decisión que toca la IA vivió enteramente en nuestro lado, en manos de nuestra gente. No le trasladamos la responsabilidad al cliente; se la quitamos de encima.
La pregunta de diseño, para nosotros, no es entonces "cómo evitamos usar IA" —eso sería a la vez imposible y absurdo—, sino "cómo usamos la IA de modo que un humano sea siempre, demostrablemente, quien decide".
El principio: IA en los inputs, humanos en el veredicto
La forma más limpia de enunciar nuestra regla de diseño es esta: a la IA se le permite dar forma a los inputs de una decisión; nunca se le permite ser la decisión.
Esa línea encaja directamente con los requisitos de supervisión del Artículo 14 y del Artículo 26(2) que vimos en la parte 2. Un sistema puede resumir, destacar información, preparar borradores y levantar avisos. Un humano lee el trabajo que hizo la IA, aporta un juicio que la IA no tiene, y toma la decisión —y esa decisión puede contradecir, y a veces contradice, lo que la herramienta sugirió—. En el momento en que un candidato avanza o queda descartado, esa decisión la ha tomado una persona con nombre y apellidos, con la competencia y la autoridad para tomarla. No es una funcionalidad de cumplimiento que añadimos después. Es la columna vertebral de todo el proceso.
Nuestra validación de cinco pilares lo hace concreto:
- La calidad del código la revisa un ingeniero senior, no la puntúa una máquina. Deliberadamente no usamos puntuación automatizada de código. Un humano lee la entrega y escribe feedback, teniendo en cuenta el lenguaje, el framework y el contexto —porque el Go idiomático no se parece al Python idiomático, y un número salido de un modelo no nota la diferencia—. Es la decisión de diseño más importante para el cumplimiento y para la calidad, y resulta que son la misma decisión.
- La arquitectura y el razonamiento sobre trade-offs se evalúan en una conversación humana estructurada. No se puede automatizar la evaluación de si alguien razona bien sobre los modos de fallo. Lo hace una persona.
- La comunicación la juzgan personas que hacen el trabajo. La claridad por escrito y el hábito de señalar los problemas a tiempo se evalúan frente a escenarios reales, por revisores que saben cómo es una buena colaboración remota.
- La trayectoria la verifican humanos hablando con humanos. Las referencias son conversaciones, no formularios.
Hay mucho margen para que la IA asista en todo esto —organizar entregas, detectar patrones, redactar unas primeras notas—. Para lo que no hay margen es para que la IA emita el veredicto. El veredicto pertenece a una persona, siempre.
Por qué esto satisface el espíritu del reglamento
Repasa las obligaciones de la parte 2 y contrasta el proceso con cada una de ellas:
- Supervisión humana significativa (Art. 14 / 26(2)). Quienes toman las decisiones son ingenieros senior y CTO que diseñaron los criterios, entienden cualquier herramienta implicada y tienen autoridad para anularla. La supervisión aquí no es un visto bueno estampado sobre una lista ordenada —es la evaluación—.
- Sin prácticas prohibidas (Art. 5). Evaluamos capacidad de ingeniería, comunicación y experiencia verificada. No inferimos el estado emocional a partir de rostros o voces. La capacidad prohibida de la parte 1, simplemente, no está en el proceso.
- Transparencia y el derecho a un humano (GDPR Art. 22). Ningún candidato queda descartado únicamente por un proceso automatizado, sin intervención humana. La estructura que hace nuestro match creíble para los clientes es la misma que mantiene intactos los derechos de los candidatos.
- Rendición de cuentas que puedes reconstruir. Como las decisiones las toman y las documentan humanos, hay una respuesta real a la pregunta que un candidato rechazado tiene derecho a hacer: ¿por qué? "Lo dijo el algoritmo" no es una respuesta que el reglamento acepte —y nunca fue una respuesta que estuviéramos dispuestos a dar—.
Esta es la parte que encuentro genuinamente satisfactoria. La regulación y el listón de calidad tiran en la misma dirección. La razón por la que nunca confiamos en un modelo para puntuar código no fue previsión legal —fue que la puntuación automatizada produce peores decisiones de contratación—. El reglamento exige ahora lo que ya era lo correcto.
Qué significa esto si contratas en Europa
Si eres fundador o líder de ingeniería y contratas en la UE, los tres posts de esta serie se condensan en una checklist corta y práctica:
- Audita tu stack de contratación frente al Anexo III. Cualquier cosa que filtre, ordene o puntúe candidatos es presuntamente de alto riesgo. Ten claro qué estás usando.
- Elimina todo lo que infiera emociones. Ya está prohibido. Es el frente de riesgo que más rápido puedes cerrar.
- Encuentra al humano en cada decisión —y si no lo hay, añádelo—. La supervisión tiene que ser real, competente y con poder para anular. Un revisor que siempre da la razón a la herramienta no es supervisión.
- Prepárate para explicar un rechazo. Si tu respuesta honesta es "lo hizo el sistema", tienes a la vez un problema de cumplimiento y un problema de calidad.
- Presiona a tus proveedores y socios. Pregunta quién es el proveedor, quién es el responsable del despliegue, qué se registra, qué se evalúa y dónde está el humano. Las respuestas te dicen mucho sobre si de verdad han pensado en esto.
Cuando recibes un match de Conectia, no eres el primer filtro técnico —eres la comprobación final de encaje—. El ingeniero que te presentamos superó un proceso construido en torno al juicio humano, lo que significa que la decisión que tomas al final es una que puedes defender: ante un candidato, ante un comité de empresa, ante un regulador y ante ti mismo.
El EU AI Act no nos obligó a rediseñar cómo contratamos. Describió lo que ya habíamos construido. Esa es la posición a la que vale la pena aspirar —no el cumplimiento como una carrera contrarreloj antes de un plazo, sino un proceso tan alineado con el principio que la ley, cuando llegó, simplemente te dio la razón—.
¿Quieres un match construido así —aumentado por IA, decidido por humanos, diseñado por CTO en activo—? Solicita un match validado por un CTO para tu vacante.
