(3/3) Nous avons construit notre présélection pour la loi avant que la loi n'existe

Dans la Partie 1, j'ai soutenu que l'EU AI Act a discrètement reclassé presque tous les outils d'IA de recrutement comme à haut risque. Dans la Partie 2, j'ai détaillé les obligations qui pèsent sur l'employeur qui déploie ces outils — supervision humaine, transparence envers les travailleurs, analyses d'impact, la couche GDPR. Les deux billets tournaient autour de la même conclusion : un processus de recrutement n'est conforme que si un humain compétent est véritablement propriétaire de la décision.

Cette conclusion n'est pas nouvelle pour moi. C'est la thèse que je défends sur ce blog depuis le début — l'IA augmente le jugement humain, elle ne le remplace pas — et il se trouve qu'elle décrit, presque ligne pour ligne, la façon dont nous avons construit la présélection des candidats chez Conectia. Donc, dans ce dernier billet, je veux faire quelque chose de plus utile qu'un énième résumé de la réglementation. Je veux montrer à quoi ressemble de l'intérieur un pipeline de recrutement conforme et conscient de l'IA, en utilisant celui que je connais le mieux.

Pour être clair sur le cadrage : ce n'est pas une affirmation selon laquelle Conectia détiendrait un certificat de conformité magique. Les obligations du haut risque de la loi s'appliquent par phases, le Digital Omnibus peut encore déplacer les dates, et la posture de toute entreprise doit être évaluée au regard de ses outils et cas d'usage spécifiques. Ce que je peux montrer, c'est que lorsque vous concevez un processus de recrutement autour de la responsabilité humaine dès le départ, la réglementation cesse d'être un rattrapage et devient une description de ce que vous faites déjà.

Où la réglementation touche un pipeline de recrutement à distance

Conectia présélectionne des ingénieurs pour des postes en remote et en nearshore. Nous faisons passer les candidats par un processus de validation, et nous remettons aux clients une shortlist de trois à cinq personnes validées. Cela nous place dans deux des rôles que l'AI Act prend en compte à la fois :

• Nous sommes un déployeur de toute IA que nous utilisons à l'intérieur de notre propre présélection.
• Le client qui recrute à partir de notre shortlist est aussi un déployeur, prenant des décisions qui affectent l'accès à l'emploi — en plein dans la catégorie emploi de l'Annex III.

Tous les deux, nous sommes responsables. Aucun de nous ne peut se contenter de pointer un outil du doigt. La question de conception n'est donc pas « comment éviter d'utiliser l'IA » — ce serait à la fois impossible et stupide — mais « comment utiliser l'IA de sorte qu'un humain soit toujours, de manière démontrable, celui qui décide ? »

Le principe : l'IA sur les entrées, les humains sur le verdict

La façon la plus nette dont je peux énoncer notre règle de conception est celle-ci : l'IA est autorisée à façonner les entrées d'une décision ; elle n'est jamais autorisée à être la décision.

Cette ligne se mappe directement sur les exigences de supervision des Articles 14 et 26(2) de la Partie 2. Un système peut résumer, faire remonter, rédiger et signaler. Un humain lit le travail que l'IA a fait, apporte un jugement que l'IA n'a pas, et tranche — et ce verdict peut, et parfois doit, contredire ce que l'outillage a suggéré. À l'instant où un candidat est avancé ou rejeté, une personne nommée ayant la compétence et l'autorité pour le faire a opéré ce choix. Ce n'est pas une fonctionnalité de conformité que nous avons ajoutée. C'est la colonne vertébrale de tout le processus.

Notre validation à cinq piliers rend cela concret :

• La qualité du code est examinée par un ingénieur senior, pas notée par une machine. Nous n'utilisons délibérément pas de scoring de code automatisé. Un humain lit la soumission et rédige un retour, en tenant compte du langage, du framework et du contexte — parce qu'un Go idiomatique ne ressemble pas à un Python idiomatique, et qu'un chiffre sorti d'un modèle ne peut pas faire la différence. C'est le choix de conception le plus important pour la conformité et pour la qualité, et il se trouve que c'est le même choix.
• L'architecture et le raisonnement sur les compromis sont évalués lors d'une discussion humaine structurée. Vous ne pouvez pas automatiser l'évaluation de la qualité du raisonnement de quelqu'un sur les modes de défaillance. Une personne le fait.
• La communication est jugée par des gens qui font le travail. La clarté écrite et le signalement proactif des problèmes sont évalués face à des scénarios réels par des relecteurs qui savent à quoi ressemble une bonne collaboration à distance.
• Le parcours est vérifié par des humains qui parlent à des humains. Les références sont des conversations, pas des formulaires à remplir.

Il y a largement de la place pour que l'IA assiste sur tout cela — organiser les soumissions, faire remonter des schémas, rédiger des premières notes. Ce pour quoi il n'y a aucune place, c'est que l'IA rende le verdict. Le verdict appartient à une personne, à chaque fois.

Pourquoi cela satisfait l'esprit de la loi

Reparcourez les obligations de la Partie 2 et confrontez le processus à chacune :

• Supervision humaine significative (Art. 14 / 26(2)). Les décideurs sont des ingénieurs seniors et des CTO qui ont conçu les critères, comprennent tout outillage impliqué, et ont l'autorité de le contourner. Ici, la supervision n'est pas un tampon de validation sur une liste classée — elle est l'évaluation.
• Aucune pratique interdite (Art. 5). Nous évaluons la capacité d'ingénierie, la communication et l'expérience vérifiée. Nous n'inférons pas l'état émotionnel à partir de visages ou de voix. La capacité interdite de la Partie 1 n'est tout simplement pas dans le pipeline.
• Transparence et droit à un humain (GDPR Art. 22). Aucun candidat n'est éliminé uniquement par un processus automatisé sans humain dans la boucle. La structure qui rend notre shortlist crédible aux yeux des clients est la même structure qui préserve les droits des candidats.
• Une responsabilité que vous pouvez reconstituer. Parce que des humains prennent et documentent les décisions, il y a une vraie réponse à la question qu'un candidat rejeté est en droit de poser : pourquoi ? « L'algorithme l'a dit » n'est pas une réponse que la loi accepte — et ce n'a jamais été une réponse que nous étions disposés à donner.

C'est la partie que je trouve réellement satisfaisante. La réglementation et l'exigence de qualité tirent dans la même direction. La raison pour laquelle nous n'avons jamais fait confiance à un modèle pour noter du code n'était pas une clairvoyance juridique — c'était que le scoring automatisé produit de moins bonnes décisions de recrutement. La loi exige désormais ce qui était déjà la bonne chose à faire.

Ce que cela signifie si vous recrutez en Europe

Si vous êtes fondateur ou responsable d'ingénierie qui recrute dans l'UE, les trois billets de cette série se résument à une checklist courte et pratique :

1. Auditez votre stack de recrutement au regard de l'Annex III. Tout ce qui filtre, classe ou note des candidats est présumé à haut risque. Sachez ce que vous faites tourner.
2. Éliminez tout ce qui infère des émotions. C'est déjà interdit. C'est l'exposition la plus rapide à refermer.
3. Trouvez l'humain dans chaque décision — et s'il n'y en a pas, ajoutez-en un. La supervision doit être réelle, compétente et habilitée à contourner. Un relecteur qui est toujours d'accord avec l'outil n'est pas de la supervision.
4. Soyez prêt à expliquer un rejet. Si votre réponse honnête est « c'est le système qui l'a fait », vous avez à la fois un problème de conformité et un problème de qualité.
5. Pressez vos fournisseurs et partenaires. Demandez qui est le fournisseur, qui est le déployeur, ce qui est journalisé, ce qui est évalué, et où se situe l'humain. Les réponses vous en disent long sur le fait qu'ils y ont réellement réfléchi.

Quand vous recevez une shortlist Conectia, vous n'êtes pas le premier filtre technique — vous êtes la vérification d'adéquation finale. Chaque ingénieur qui y figure a franchi un processus bâti autour du jugement humain, ce qui signifie que la décision que vous prenez au bout est une décision que vous pouvez assumer : devant un candidat, devant un comité d'entreprise, devant un régulateur, et devant vous-même.

L'EU AI Act ne nous a pas fait repenser notre façon de recruter. Il a décrit ce que nous avions déjà construit. C'est la position qui vaut la peine d'être visée — non pas la conformité comme une course effrénée avant une échéance, mais un processus si aligné sur le principe que la loi, à son arrivée, vous a simplement donné raison.

---

Vous voulez une shortlist construite ainsi — augmentée par l'IA, décidée par des humains, conçue par des CTO en activité ? Demandez une shortlist validée par un CTO pour votre poste ouvert.