(3/3) La llei encara no existia i la nostra preselecció ja la complia
A la Part 1 vaig argumentar que l'EU AI Act ha reclassificat discretament gairebé totes les eines d'IA de contractació com a alt risc. A la Part 2 vaig repassar les obligacions que recauen sobre l'empresa que desplega aquestes eines — supervisió humana, transparència amb els treballadors, avaluacions d'impacte, la capa del GDPR per sobre de tot plegat. Tots dos posts giraven al voltant de la mateixa conclusió: un procés de contractació només és conforme si la decisió és, de debò, d'un humà competent que la fa seva.
Aquesta conclusió no és nova per a mi. És la tesi que he defensat en aquest blog des del principi — la IA augmenta el judici humà, no el substitueix — i resulta que descriu, gairebé línia per línia, com hem construït la preselecció de candidats a Conectia. Per això, en aquest últim post vull fer una cosa més útil que tornar a resumir la regulació: ensenyar com és per dins un pipeline de contractació conforme i conscient de la IA, fent servir el que conec millor.
Que el marc quedi clar: no estic dient que Conectia tingui cap certificat màgic de compliment. Les obligacions d'alt risc de la llei s'apliquen per fases, el Digital Omnibus encara pot moure les dates, i la situació de cada empresa s'ha d'avaluar en funció de les seves eines i els seus casos d'ús concrets. El que sí que puc ensenyar és que, quan dissenyes un procés de contractació al voltant de la responsabilitat humana des del primer dia, la regulació deixa de ser un pegat i esdevé una descripció del que ja fas.
Assumim el rol de desplegador perquè els nostres clients no l'heretin
Conectia preselecciona enginyers per a rols remots i nearshore. Però aquí hi ha la distinció que decideix qui carrega amb la responsabilitat de l'AI Act: no lliurem al client una pila de CV perquè els garbelli, ordeni i filtri. Busquem la persona per a la tasca i triem nosaltres. El que el client rep és un match validat: la persona ja seleccionada per al rol — no una bossa de candidats per fer passar per una avaluació pròpia.
Aquesta distinció importa més del que sembla:
- Som el desplegador de qualsevol IA que fem servir dins de la nostra pròpia preselecció — i assumim cada obligació que aquest rol comporta.
- El client no està desplegant cap sistema d'IA de contractació. Mai no fa passar els candidats per rànquings, puntuacions ni filtratge automatitzat, perquè la selecció ja l'hem feta nosaltres — a mà, en funció de la tasca. No hi ha cap eina d'avaluació de candidats al seu pipeline a la qual l'AI Act es pugui agafar.
És deliberat, i és la part que val la pena subratllar. En fer nosaltres mateixos la selecció — partint de la tasca, amb decisió humana —, absorbim el rol d'alt risc de desplegador perquè els nostres clients no l'heretin. Reben un match que poden contractar directament, sense haver de muntar el seu propi règim de supervisió de l'Article 26, perquè la part de la decisió que toca la IA ha passat sencera de portes endins, en mans de la nostra gent. No traslladem la responsabilitat al client; l'hi traiem de sobre.
La pregunta de disseny, per a nosaltres, no és «com evitem fer servir IA» — que seria impossible, a més d'absurd — sinó «com fem servir la IA de manera que un humà sigui sempre, demostrablement, qui decideix?».
El principi: la IA als inputs, els humans al veredicte
La formulació més neta de la nostra regla de disseny és aquesta: la IA pot donar forma als inputs d'una decisió; el que no pot ser mai és la decisió.
Aquesta línia es correspon directament amb els requisits de supervisió de l'Article 14 i l'Article 26(2) que vèiem a la Part 2. Un sistema pot resumir, fer aflorar senyals, redactar esborranys i marcar alertes. Un humà llegeix la feina que ha fet la IA, hi aporta un judici que la IA no té, i pren la decisió — una decisió que pot contradir, i de vegades contradiu, el que l'eina suggeria. En el moment en què un candidat avança o queda descartat, aquella tria l'ha feta una persona amb nom i cognoms, amb la competència i l'autoritat per fer-la. Això no és una funcionalitat de compliment que vam afegir després. És l'espina dorsal de tot el procés.
La nostra validació de cinc pilars ho fa concret:
- La qualitat del codi la revisa un enginyer sènior, no la puntua una màquina. Deliberadament no fem servir puntuació automàtica de codi. Un humà llegeix l'entrega i escriu feedback, tenint en compte el llenguatge, el framework i el context — perquè el Go idiomàtic no s'assembla al Python idiomàtic, i una xifra sortida d'un model no hi sap veure la diferència. És la decisió de disseny més important per al compliment i per a la qualitat, i resulta que són la mateixa decisió.
- L'arquitectura i el raonament sobre compromisos de disseny s'avaluen en una conversa humana estructurada. No es pot automatitzar l'avaluació de si algú raona bé sobre modes de fallada. Ho fa una persona.
- La comunicació la jutgen persones que fan la feina. La claredat per escrit i l'hàbit d'avisar dels problemes a temps s'avaluen amb escenaris reals, per revisors que saben què vol dir col·laborar bé en remot.
- L'historial el verifiquen humans parlant amb humans. Les referències són converses, no formularis.
Hi ha molt marge perquè la IA assisteixi en tot això — organitzant entregues, fent aflorar patrons, redactant primeres notes. On no hi ha cap marge és en el veredicte: el veredicte és d'una persona, sempre.
Per què això satisfà l'esperit de la llei
Repassa les obligacions de la Part 2 i contrasta-hi el procés, una per una:
- Supervisió humana significativa (Art. 14 / 26(2)). Qui pren les decisions són enginyers sènior i CTO que van dissenyar els criteris, entenen qualsevol eina implicada i tenen l'autoritat per contradir-la. Aquí la supervisió no és un tràmit que estampa el segell sobre una llista ja ordenada — és l'avaluació.
- Cap pràctica prohibida (Art. 5). Avaluem la capacitat tècnica, la comunicació i l'experiència verificada. No inferim estats emocionals a partir de cares ni de veus. La capacitat prohibida de la Part 1, senzillament, no és al pipeline.
- Transparència i el dret a un humà (GDPR Art. 22). Cap candidat queda descartat únicament per un procés automatitzat sense cap humà pel mig. L'estructura que fa creïble el nostre match davant dels clients és la mateixa que manté intactes els drets dels candidats.
- Responsabilitat que es pot reconstruir. Com que les decisions les prenen i les documenten humans, hi ha una resposta real a la pregunta que un candidat rebutjat té dret a fer: per què? «Ho ha dit l'algoritme» no és una resposta que la llei accepti — i tampoc no era una resposta que nosaltres haguéssim estat mai disposats a donar.
Aquesta és la part que trobo genuïnament satisfactòria: la regulació i el llistó de qualitat empenyen en la mateixa direcció. Si mai no vam deixar que un model puntués codi, no va ser per previsió legal — va ser perquè la puntuació automàtica produeix pitjors decisions de contractació. La llei ara exigeix el que ja era, simplement, el que tocava fer.
Què significa això si contractes a Europa
Si ets fundador o líder d'enginyeria que contracta a la UE, els tres posts d'aquesta sèrie es condensen en una llista de comprovació curta i pràctica:
- Audita el teu stack de contractació amb l'Annex III al davant. Tot el que filtri, ordeni o puntuï candidats és presumptament d'alt risc. Has de saber què tens en marxa.
- Elimina tot el que infereixi emocions. Ja és una pràctica prohibida, i és l'exposició que pots tancar més de pressa.
- Troba l'humà de cada decisió — i si no n'hi ha, posa-n'hi un. La supervisió ha de ser real, competent i amb autoritat per contradir l'eina. Un revisor que sempre hi està d'acord no és supervisió.
- Tingues a punt l'explicació de cada rebuig. Si la resposta honesta és «ho ha fet el sistema», tens un problema de compliment i un de qualitat alhora.
- Estreny els teus proveïdors i socis. Pregunta'ls qui és el proveïdor, qui el desplegador, què queda registrat, què s'avalua i on és l'humà. Les respostes diuen molt sobre si s'ho han pensat de debò.
Quan reps un match de Conectia, no ets el primer filtre tècnic — ets l'última comprovació d'encaix. Cada enginyer que en forma part ha superat un procés construït al voltant del judici humà, i això vol dir que la decisió que prens al final la pots defensar: davant d'un candidat, d'un comitè d'empresa, d'un regulador — i davant teu.
L'EU AI Act no ens va obligar a redissenyar com contractem. Va descriure el que ja havíem construït. Aquesta és la posició a què val la pena aspirar — no el compliment com una cursa contrarellotge abans del termini, sinó un procés tan alineat amb el principi que la llei, quan va arribar, simplement et va donar la raó.
Vols un match fet així — augmentat amb IA, decidit per humans, dissenyat per CTO en actiu? Demana un match validat per un CTO per a la teva vacant.
