(3/3) Vam construir la nostra preselecció per a la llei abans que la llei existís

A la Part 1 vaig argumentar que l'EU AI Act ha reclassificat discretament gairebé totes les eines d'IA de contractació com a alt risc. A la Part 2 vaig repassar les obligacions que recauen sobre l'empresa que desplega aquestes eines — supervisió humana, transparència amb els treballadors, avaluacions d'impacte, el solapament amb el GDPR. Tots dos posts giraven al voltant de la mateixa conclusió: un procés de contractació només és conforme si un humà competent és genuïnament el propietari de la decisió.

Aquesta conclusió no és nova per a mi. És la tesi que he defensat en aquest blog des del principi — la IA augmenta el judici humà, no el substitueix — i resulta que descriu, gairebé línia per línia, com hem construït la preselecció de candidats a Conectia. Així que en aquest post final vull fer una cosa més útil que un altre resum de la regulació. Vull mostrar com es veu per dins un pipeline de contractació conforme i conscient de la IA, fent servir el que conec millor.

Per ser clar amb el plantejament: això no és una afirmació que Conectia tingui un certificat màgic de compliment. Les obligacions d'alt risc de la llei s'apliquen per fases, el Digital Omnibus encara pot moure les dates, i la postura de qualsevol empresa s'ha d'avaluar contra les seves eines i casos d'ús específics. El que sí puc mostrar és que quan dissenyes un procés de contractació al voltant de la responsabilitat humana des del principi, la regulació deixa de ser un pegat i esdevé una descripció del que ja fas.

On toca la regulació un pipeline de contractació remota

Conectia preselecciona enginyers per a rols remots i nearshore. Passem els candidats per un procés de validació, i lliurem als clients una llista curta de tres a cinc persones validades. Això ens situa en dos dels rols que importen a l'AI Act alhora:

• Som un desplegador de qualsevol IA que fem servir dins de la nostra pròpia preselecció.
• El client que contracta de la nostra llista curta també és un desplegador, prenent decisions que afecten l'accés a l'ocupació — de ple dins de la categoria d'ocupació de l'Annex III.

Tots dos som responsables. Cap dels dos pot assenyalar una eina. La pregunta de disseny, doncs, no és "com evitem fer servir IA" — això seria alhora impossible i estúpid — sinó "com fem servir la IA de manera que un humà sigui sempre, demostrablement, qui decideix?".

El principi: IA sobre els inputs, humans sobre el veredicte

La manera més neta com puc enunciar la nostra regla de disseny és aquesta: la IA pot donar forma als inputs d'una decisió; mai pot ser la decisió.

Aquesta línia es correspon directament amb els requisits de supervisió de l'Article 14 i l'Article 26(2) de la Part 2. Un sistema pot resumir, fer aflorar, esborranyar i marcar. Un humà llegeix la feina que ha fet la IA, hi aporta un judici que la IA no té, i pren la decisió — i aquesta decisió pot contradir, i de vegades contradiu, el que l'eina suggeria. En el moment en què un candidat avança o és rebutjat, una persona amb nom, amb la competència i l'autoritat per fer-ho, ha pres aquesta decisió. Això no és una funcionalitat de compliment que vam afegir. És l'espina dorsal de tot el procés.

La nostra validació de cinc pilars ho fa concret:

• La qualitat del codi la revisa un enginyer sènior, no la puntua una màquina. Deliberadament no fem servir puntuació automàtica de codi. Un humà llegeix l'entrega i escriu feedback, tenint en compte el llenguatge, el framework i el context — perquè el Go idiomàtic no s'assembla al Python idiomàtic, i un número que treu un model no sap distingir-ho. Aquesta és la decisió de disseny més important per al compliment i per a la qualitat, i resulta que són la mateixa decisió.
• L'arquitectura i el raonament sobre compromisos s'avaluen en una discussió humana estructurada. No pots automatitzar l'avaluació de si algú raona bé sobre els modes de fallada. Ho fa una persona.
• La comunicació la jutgen persones que fan la feina. La claredat escrita i la senyalització proactiva de problemes s'avaluen contra escenaris reals per revisors que saben com és una bona col·laboració remota.
• L'historial el verifiquen humans parlant amb humans. Les referències són converses, no formularis.

Hi ha molt espai perquè la IA assisteixi en tot això — organitzant entregues, fent aflorar patrons, esborranyant primeres notes. El que no té cap espai és que la IA dicti el veredicte. El veredicte pertany a una persona, cada vegada.

Per què això satisfà l'esperit de la llei

Torna a recórrer les obligacions de la Part 2 i comprova el procés contra cadascuna:

• Supervisió humana significativa (Art. 14 / 26(2)). Els que prenen les decisions són enginyers sènior i CTO que van dissenyar els criteris, entenen qualsevol eina involucrada i tenen l'autoritat per anul·lar-la. Aquí la supervisió no és un segell de goma sobre una llista classificada — és l'avaluació.
• Cap pràctica prohibida (Art. 5). Avaluem la capacitat enginyeril, la comunicació i l'experiència verificada. No inferim l'estat emocional a partir de cares o veus. La capacitat prohibida de la Part 1 simplement no és al pipeline.
• Transparència i el dret a un humà (GDPR Art. 22). Cap candidat és filtrat únicament per un procés automatitzat sense humà al circuit. L'estructura que fa la nostra llista curta creïble per als clients és la mateixa estructura que manté intactes els drets dels candidats.
• Responsabilitat que pots reconstruir. Com que els humans prenen i documenten les decisions, hi ha una resposta real a la pregunta que un candidat rebutjat té dret a fer: per què? "L'algoritme ho va dir" no és una resposta que la llei accepti — i mai no va ser una resposta que estiguéssim disposats a donar.

Aquesta és la part que trobo genuïnament satisfactòria. La regulació i el llistó de qualitat estiren en la mateixa direcció. La raó per la qual mai vam confiar a un model per puntuar codi no va ser previsió legal — va ser que la puntuació automàtica produeix pitjors decisions de contractació. La llei ara exigeix la cosa que ja era el correcte a fer.

Què significa això si contractes a Europa

Si ets fundador o líder d'enginyeria que contracta a la UE, els tres posts d'aquesta sèrie es condensen en una llista de comprovació curta i pràctica:

1. Audita el teu stack de contractació contra l'Annex III. Qualsevol cosa que filtri, classifiqui o puntuï candidats és presumptament d'alt risc. Coneix què tens funcionant.
2. Mata qualsevol cosa que infereixi emocions. Ja està prohibida. És l'exposició més ràpida de tancar.
3. Troba l'humà en cada decisió — i si no n'hi ha cap, afegeix-lo. La supervisió ha de ser real, competent i amb poder per anul·lar. Un revisor que només sempre està d'acord amb l'eina no és supervisió.
4. Estigues a punt per explicar un rebuig. Si la teva resposta honesta és "ho va fer el sistema", tens alhora un problema de compliment i un problema de qualitat.
5. Pressiona els teus proveïdors i socis. Pregunta qui és el proveïdor, qui és el desplegador, què es registra, què s'avalua i on seu l'humà. Les respostes et diuen molt sobre si realment hi han pensat.

Quan reps una llista curta de Conectia, no ets el primer filtre tècnic — ets la comprovació d'encaix final. Cada enginyer que hi és va superar un procés construït al voltant del judici humà, cosa que significa que la decisió que prens al final és una que pots defensar: davant d'un candidat, d'un comitè d'empresa, d'un regulador, i de tu mateix.

L'EU AI Act no ens va fer redissenyar com contractem. Va descriure el que ja havíem construït. Aquesta és la posició que val la pena buscar — no el compliment com una correguda abans d'un termini, sinó un procés tan alineat amb el principi que la llei, quan va arribar, simplement va estar d'acord amb tu.

---

Vols una llista curta construïda així — augmentada per IA, decidida per humans, dissenyada per CTO en actiu? Demana una llista curta validada per un CTO per a la teva vacant.