La legislació europea sobre IA ja és vigent. Pots respondre aquestes cinc preguntes?
El reglament europeu sobre IA està en vigor des de l'agost del 2024. La prohibició de determinades pràctiques ja s'aplica. Les obligacions per a la IA d'alt risc arriben l'agost del 2026. Si desplegues sistemes d'IA a Europa — o qualsevol cosa que processi dades de ciutadans europeus — el compte enrere ja ha començat.
La majoria d'organitzacions encara tracten l'AI Act com un document de compliment que cal llegir i validar. L'han passat al departament jurídic, l'han marcat com a «en revisió» i han passat a una altra cosa. És un error d'enfocament.
Jo no llegeixo l'AI Act des de la cadira del jurista: el llegeixo des de la d'enginyeria, que és on les obligacions s'han d'executar de debò. I des d'aquesta cadira, no és principalment un text legal. És un conjunt d'obligacions operatives. La manera més ràpida de saber si compleixes de veritat — no sobre el paper, sinó operativament — és respondre cinc preguntes concretes sobre cada sistema d'IA que tens en marxa.
Si no les pots respondre totes cinc, tens feina a fer abans de l'agost.
Per què aquestes cinc preguntes
El reglament passa llargament del centenar d'articles, més una pila d'annexos. Però sota les disposicions de gestió de riscos, les obligacions de transparència, els requisits de supervisió humana i el marc de responsabilitat hi ha una estructura de fons consistent: els sistemes d'IA han de ser governables. No només segurs en abstracte — governables activament per persones identificables, amb processos definits, comportament auditable i una cadena de responsabilitat clara.
Aquesta estructura es redueix a cinc preguntes. No són meves: són les que qualsevol regulador, auditor o advocat farà primer quan alguna cosa surti malament. Tu hauries de poder respondre-les abans que res surti malament.
Pregunta 1: a quines dades accedeix, i quines pot modificar?
Sembla una obvietat. Gairebé mai ho és.
A la pràctica, la majoria d'equips que despleguen sistemes d'IA aquest 2025-2026 tenen una resposta raonable per a «quines dades llegeix» (dades d'entrenament, dades d'entrada, potser un corpus de recuperació), però una de molt més difusa per a «quines dades pot escriure, modificar o fer canviar».
Els sistemes agèntics ho empitjoren. Un agent que envia correus, actualitza registres del CRM, crida APIs o modifica configuracions té accés d'escriptura a sistemes reals. Les disposicions de governança de dades de l'AI Act (articles 10 i 13) t'obliguen a documentar la traçabilitat de les dades d'entrenament, l'abast de les dades d'entrada i — sobretot — quin estat dels teus sistemes poden modificar les sortides de la IA.
Què vol dir complir: un mapa de dades mantingut per a cada desplegament d'IA. Fonts d'entrada (amb els controls d'accés documentats), destinacions de sortida (amb els permisos d'escriptura documentats) i una distinció clara entre camins de lectura i d'escriptura. Per als sistemes d'alt risc, això ha de ser auditable, no només afirmat.
La bretxa que té la majoria d'equips: han documentat què hi entra, però no què passa més enllà de les sortides de la IA. Si la IA recomana una cosa i un humà clica «aprova», el clic de l'humà compta com l'escriptura? Legalment: de vegades sí, de vegades no. Has de saber en quin cas ets.
Pregunta 2: qui el supervisa?
L'AI Act exigeix supervisió humana per als sistemes d'IA d'alt risc (article 14). No «els humans poden revisar les sortides si volen»: supervisió humana definida — un rol designat, responsable de monitorar el comportament del sistema i de revisar les decisions marcades, i amb autoritat per revocar-les o aturar el sistema.
La pregunta té dues capes:
Supervisió operativa: qui vigila el sistema dia a dia? Qui rep l'alerta quan la taxa d'error es dispara? Qui revisa els casos límit? A la majoria d'organitzacions, això és una guàrdia d'enginyeria. Cap problema, però ha de ser explícit. «L'equip se'n cuida» no és suficient: l'equip no és una entitat jurídica i no té autoritat.
Supervisió de governança: qui té autoritat per modificar els paràmetres del sistema, reentrenar el model o apagar-lo? A les indústries regulades, això encaixa amb estructures de governança que ja existeixen (comitès de risc, responsables de compliment). A les startups sovint no encaixa amb ningú, i això és un problema.
Què vol dir complir: per a cada sistema d'IA, una persona o un rol concrets, amb responsabilitats de supervisió documentades i l'autoritat real (accessos, eines, procés) per exercir-les. No un RACI que apunta a «Enginyeria»: una persona, o un rol clarament definit, que en respongui de debò.
L'Oficina d'IA i les autoritats nacionals de vigilància del mercat són la capa de supervisió per sobre de la teva governança interna. I no són ens abstractes: la CNIL francesa, la BNetzA alemanya, l'AESIA espanyola — tots aquests organismes estan construint capacitat d'inspecció i sanció ara mateix.
Pregunta 3: on guarda la informació?
El RGPD i l'AI Act se solapen molt en aquest punt. Les obligacions de transparència i els requisits de governança de dades de l'AI Act pressuposen que pots dir on queden desats els inputs del model, les sortides i els estats intermedis.
Això es complica de seguida quan hi ha proveïdors de models de tercers, generació augmentada per recuperació amb bases de dades vectorials externes, models afinats allotjats per proveïdors de núvol, o arquitectures multiagent on un agent passa context a un altre.
Què vol dir complir: residència de dades documentada per a cada magatzem persistent que toca el sistema d'IA. Això inclou les dades d'entrada, les de sortida, l'historial de converses o l'estat de sessió si es conserven, els embeddings de la base de dades vectorial, les dades d'entrenament del fine-tuning i els registres d'auditoria.
Per a la IA d'alt risc (decisions de contractació, puntuació creditícia, accés a serveis, cossos policials), les dades s'han de conservar de manera que permetin una auditoria a posteriori. Has de poder reconstruir què va fer el sistema amb quines dades, per a una decisió concreta, en una data concreta. Si depens d'un proveïdor que no t'ofereix aquest nivell de registre, tens un forat de compliment.
La pregunta del proveïdor de núvol: si fas servir un proveïdor de LLM amb seu als EUA (OpenAI, Anthropic, Google) sense residència de dades a la UE, la qüestió de per on passen les dades en trànsit és ben viva. La majoria de contractes enterprise inclouen annexos de tractament de dades que intenten cobrir-ho. La majoria d'equips d'enginyeria no els han llegit mai.
Pregunta 4: qui en respon si s'equivoca?
El marc de responsabilitat de l'AI Act, combinat amb la futura directiva de responsabilitat en matèria d'IA, està pensat per respondre això a escala macro. Però la pregunta pràctica és interna: abans que ho pregunti el regulador, la teva organització ho sap?
En l'estructura de l'AI Act hi ha tres rols de responsabilitat:
Proveïdor: l'organització que desenvolupa un sistema d'IA o el posa al mercat. Si afines un model, construeixes un producte sobre un model o desenvolupes una eina d'IA perquè la facin servir tercers, probablement ets proveïdor.
Responsable del desplegament: l'organització que posa en ús un sistema d'IA en un context concret. Si fas servir el producte d'un proveïdor d'IA dins de les teves operacions, ets responsable del desplegament.
Operador: en alguns contextos, un híbrid — una organització que configura un model i alhora el desplega.
La majoria d'organitzacions són totes dues coses: proveïdors (de les seves pròpies eines d'IA) i responsables del desplegament (de la IA de tercers). El repartiment d'obligacions importa: el proveïdor respon de la seguretat de disseny del sistema; el responsable del desplegament, del context d'ús apropiat i de la supervisió.
Què vol dir complir: un repartiment documentat d'obligacions entre la teva organització i els teus proveïdors d'IA. Els contractes haurien d'especificar qui és el proveïdor de referència de cada sistema. Si un proveïdor et diu «nosaltres només som infraestructura» i tu hi construeixes un producte d'IA al damunt, el proveïdor ets tu — amb obligacions de proveïdor.
La bretxa real: la majoria d'organitzacions encara no han tingut la conversa de la responsabilitat amb els seus proveïdors d'IA. El contracte es va signar, la clau d'API és a producció i ningú no ha establert formalment qui respon davant del regulador.
Pregunta 5: com l'apagues si comença a comportar-se malament?
És la pregunta que costa més de respondre a la majoria d'equips. No perquè el mecanisme no existeixi, sinó perquè ningú no l'ha dissenyat mai explícitament.
L'article 9 (gestió de riscos) i l'article 14 (supervisió humana), llegits junts, exigeixen que els sistemes d'IA d'alt risc tinguin procediments definits per aturar-ne l'operació quan se superen els llindars de seguretat o de precisió. Això no és «pots apagar el servidor». Vol dir:
- Detecció: com saps que s'està comportant malament? Quina mètrica, alerta o procés de revisió fa aflorar el problema?
- Classificació: què vol dir «comportar-se malament» per a aquest sistema en concret? Deriva del model? Disparitat demogràfica a les sortides? Taxa d'error per sobre del llindar? Injecció de prompts maliciosa en producció?
- Autorització: qui té l'autoritat per decidir l'aturada?
- Execució: què vol dir aturar? Matar l'API? Tornar a una versió anterior? Desactivar una funcionalitat concreta? Passar a una alternativa manual? La resposta és diferent per a cada sistema.
- Comunicació: qui rep l'avís quan hi ha una aturada? Els usuaris? El regulador? (Per als sistemes d'alt risc de certes categories, notificar els incidents a l'Oficina d'IA és obligatori.)
Què vol dir complir: un runbook — no un botó d'aturada teòric, sinó un procediment documentat, provat almenys un cop, amb responsables designats a cada pas.
Per què la majoria d'equips suspenen aquí: el sistema es va desplegar de manera incremental. Mai no hi va haver una sessió de disseny sobre «quin és el pla d'apagada». El botó d'aturada existeix en teoria (apagar el servidor), però les capes de detecció i d'autorització no existeixen, així que a la pràctica el sistema continuaria fent disbarats fins que algú se n'adonés i ho escalés per canals informals.
El patró darrere de les cinc preguntes
Llegeix-les juntes: accés i modificació de dades, supervisió, emmagatzematge, responsabilitat, apagada. No són cinc requisits independents. Són cinc cares d'una sola pregunta: aquest sistema d'IA, és governable?
La governança demana que algú pugui observar el sistema (preguntes 1 i 3), que algú hi tingui autoritat (preguntes 2 i 4) i que aquesta autoritat es pugui exercir a la pràctica (pregunta 5). Si en falta qualsevol de les cinc, el cercle de governança queda trencat.
L'AI Act converteix això en llei perquè l'enfocament voluntari no va funcionar. Els principis sense sanció no canvien comportaments. El reglament és la sanció.
Què faria jo aquest trimestre
Si desplegues sistemes d'IA a Europa, o qualsevol cosa que toqui dades europees, la seqüència pràctica:
-
Inventaria els teus desplegaments d'IA. No només els productes d'IA que vens: tota la IA que fas servir internament. Eines de cribratge de candidats, bots d'atenció al client, detecció de frau, motors de recomanació. El reglament s'aplica als sistemes que utilitzes, no només als que construeixes.
-
Per a cada sistema, respon les cinc preguntes. Posa les respostes per escrit. «Encara no ho hem decidit» també és una resposta: vol dir que tens un forat.
-
Per a tot el que caigui en les categories d'alt risc (annex III del reglament: biometria, infraestructures crítiques, ocupació, educació, cossos policials, control de fronteres, administració de justícia, serveis essencials) — prioritza. L'agost del 2026 és un termini inamovible, i implantar una supervisió humana conforme, registres d'auditoria i gestió de riscos demana temps.
-
Posa en ordre els contractes amb els proveïdors. Qui és el proveïdor de referència? Quines obligacions de tractament de dades ha assumit el proveïdor? Quines capacitats d'auditoria ofereix?
-
Construeix el runbook de la pregunta 5. De les cinc, és la més operativa i la que té menys números d'existir ja. Construeix-lo abans de necessitar-lo.
L'AI Act no és una regulació perfecta. Algunes definicions són discutides, alguns llindars són arbitraris i la guia d'implementació encara va sortint de l'Oficina d'IA. Però les cinc preguntes són bona enginyeria amb regulació o sense: són el que el desplegament responsable de sistemes amb conseqüències ha exigit sempre. El reglament només ho fa obligatori.
Desplegues sistemes d'IA en producció a Europa i necessites capacitat d'enginyeria que ja operi amb aquests controls de governança incorporats? Parla amb nosaltres — els nostres equips nearshore construeixen sistemes d'IA amb registres d'auditoria, punts de supervisió humana i runbooks de compliment com a pràctica estàndard, no com a afegits d'última hora.
