La UE vol certificar la IA abans de llançar-la. La IA no falla abans, falla després.
Qualsevol enginyer que hagi tingut un sistema en producció a gran escala ha après la mateixa lliçó humil: no pots demostrar que un sistema complex és segur abans que s'executi. El revises, el proves, raones tots els camins que se t'acudeixen… i tot i així et sorprèn en producció, perquè la producció és justament on apareixen les entrades que mai no havies imaginat. Per això vam deixar de fer veure que sí. Instrumentem el sistema, el vigilem i ens entrenem els reflexos per reaccionar quan fa alguna cosa que no havíem previst. La Unió Europea regula la IA com si fos al revés.
L'11 de juny, Bruegel va publicar un policy brief de Mario Mariniello —The right balance: how to fix European Union artificial intelligence regulation— que diu, amb el llenguatge mesurat d'un think tank de Brussel·les, més o menys el mateix que et diria un SRE després d'una mala nit de guàrdia: la Llei d'IA aposta massa per demostrar la seguretat abans del desplegament i massa poc per detectar el dany després. I posa preu a l'aposta. Citant Haataja i Bryson, Mariniello calcula el compliment d'un sistema d'IA mitjà entre 14.623 € i 29.277 € —entre el 9 % i el 17 % d'un pressupost de desenvolupament de 170.000 €. Llegeix-ho en diners: de cada euro que gastes a construir un sistema d'IA, entre 9 i 17 cèntims se'n van a demostrar que compleix, abans que arribi a cap usuari.
Poso en producció sistemes d'IA que cauen sota aquest règim, i abans havia passat anys fent DevOps i resposta a incidents, on tota la feina vivia en el buit entre allò que havíem validat i allò que de debò passava a les tres de la matinada. A Conectia vam construir la nostra preselecció de talent seguint les normes d'alt risc de la Llei d'IA abans que la llei ens arribés així que no sóc algú de fora queixant-se del paperam. He pagat aquesta factura expressament. El meu problema no és que Europa reguli la IA. És que concentra tot el rigor en l'únic dia que en sap menys.
No pots certificar un sistema el comportament del qual es descobreix després de llançar-lo
La Llei d'IA classifica els sistemes per la seva finalitat prevista en el moment de posar-los al mercat, i demostra la seguretat sobretot amb paperassa de conformitat presentada abans del llançament. Però la IA no es queda quieta per a la foto. La majoria de les capacitats reals d'un model —i les seves maneres reals de fallar— es descobreixen després del desplegament (el brief s'hi recolza citant Bengio et al., 2024, i qualsevol que hagi posat en marxa una funció amb un LLM ja ho sap pels ossos). Un sistema que el dia del llançament és de risc mínim passa a ser d'alt risc en el moment que un usuari fa una cosa que el desenvolupador no havia previst ni controla.
Les proves s'acumulen justament en la categoria que la Llei deixa passar com a risc baix: els xatbots. Un estudi del maig de 2026 sobre consultes electorals a Escòcia va trobar que el 34,1 % de les respostes dels xatbots d'IA contenien errors factuals sobre com votar. A Nevada, quatre de cada cinc xatbots provats van donar informació incorrecta sobre el cens electoral. I l'agost de 2025, Raine contra OpenAI va portar davant d'un tribunal de San Francisco el paper d'un xatbot en el suïcidi d'un adolescent. Cap d'aquests danys no és una cosa que una llista de comprovació prèvia al llançament hagués pogut aturar, perquè cap d'ells no existia en el moment del llançament. La conformitat ex ante certifica una fotografia. El sistema és una pel·lícula.
D'aquesta pel·lícula ja en vam sortir, se'n diu cascada
Els enginyers ja vam fer aquest experiment exacte, i el vam abandonar. Durant anys vam intentar certificar que una versió era correcta abans de publicar-la: aprovacions, comitès de canvis, una porta que travessaves un cop i després resaves. Hi vam renunciar —no perquè ens tornéssim temeraris, sinó perquè la demostració no podia seguir mai el ritme del canvi. Tot el moviment DevOps i SRE va consistir, precisament, a traslladar el rigor de abans de la versió a al voltant del sistema en marxa: observabilitat, error budgets, rollback, postmortems sense culpables. No vam deixar d'amoïnar-nos per la seguretat. La vam moure cap a on viu de debò el risc.
Infraestructura de detecció inspirada en el sistema Sentinel de l'FDA: mostreja el trànsit real, vigila esdeveniments adversos gairebé en temps real. Un sistema de notificació no punitiva de quasi-incidents inspirat en el de l'aviació —l'Aviation Safety Reporting System, que funciona des de 1976—, que és un postmortem sense culpables a escala de tota una indústria. I una taxonomia d'incidents estandarditzada amb un registre públic, sobre el marc de l'OCDE de 2025, perquè tot el mercat aprengui de cada fallada una sola vegada, en lloc que cada empresa ho aprengui a les seves expenses. Instrumentar, notificar, respondre. Confio en aquest enfocament per una raó ben avorrida: és com ja gestiono tot allò de què sóc responsable.
La factura per endavant regala el mercat als de sempre
Carregar el cost al principi té un segon problema, i no té res a veure amb la seguretat: té a veure amb qui queda dempeus. Aquesta factura de compliment no s'encongeix. Quinze o trenta mil euros més un sistema de gestió de la qualitat són una xifra menyspreable per a una empresa gran i un mur per a una startup de dues persones. El RGPD va contribuir a la concentració del mercat perquè carregava desproporcionadament les empreses petites. Així, un règim venut com a protecció de les persones davant la IA poderosa pot acabar, calladament, protegint les empreses d'IA poderoses de la competència.
Hi ha una solució que manlleva de la Llei de Serveis Digitals: graduar la càrrega segons l'abast del desplegament. Un nivell d'auditoria lleugera per a les pimes —menys de 50 milions d'euros de facturació, o menys de 100.000 persones afectades— i només per a usos de dany reversible; un nivell estàndard al mig; i un nivell intens per als gegants —més de 150 milions o més d'un milió de persones afectades— on l'avaluació per tercers és obligatòria i s'acaba l'autocertificació. Ajustar l'escrutini al radi de l'explosió, en comptes d'apuntar una sola porta a tothom. I val la pena mirar qui faria avui la feina de detectar: més de 2.000 autoritats nacionals de vigilància del mercat, la majoria pensades per inspeccionar productes físics, contra una Oficina d'IA d'uns 125 efectius —el tipus de fragmentació en l'aplicació que ja llasta les normes tecnològiques europees. L'aparell pensat per atrapar un algorisme perillós es va dissenyar, en bona part, per atrapar una torradora perillosa.
«Llançar i vigilar» també és una manera excel·lent de deixar que el dany passi primer
Aquí ve l'objecció més forta, i no la defugiré: la vigilància ex post pot sonar a «moure's de pressa i trencar coses» amb benedicció reguladora. I el cost és real i lleig: l'ex post vol dir que de vegades el dany passa abans no arriba la resposta. Un registre d'incidents no fa res per l'adolescent del cas Raine. Unes eleccions enverinades per la desinformació d'un xatbot no es desfan com un mal desplegament. Qui et vengui la simple vigilància a posteriori com una millora neta t'està amagant aquesta xifra, i no l'hi hauries de permetre.
Però aquesta no és la proposta, i l'eix que ho resol és la irreversibilitat. No vigiles-i-respons davant d'un diagnòstic mèdic o d'un cotxe autònom —aquí la porta es queda al principi, i Mariniello manté la responsabilitat objectiva per als sistemes prohibits i d'alt risc precisament perquè el dany pot ser greu i definitiu. El nivell lleuger queda explícitament reservat al dany reversible —ocupació, scoring creditici—, no als diagnòstics ni als vehicles autònoms. Així que la tesi real no és «ex ante dolent, ex post bo». És posar porta a allò que no es pot desfer; instrumentar allò que sí.
I encara una última advertència honesta, perquè va en contra de tota la idea: l'ex post només funciona si la detecció és real. La mateixa aplicació a posteriori del RGPD va ser fragmentada i feble. Si Europa trasllada la càrrega al «després» i després infrafinança aquest «després» —125 persones, 2.000 autoritats mal aparellades i, encara, cap marc de responsabilitat específic per a la IA—, no haurà reequilibrat res. Haurà desregulat i n'haurà dit vigilància. Mariniello té un nom per a la versió global d'aquesta llisquada: «desregulació mútuament assegurada». La peça de responsabilitat és crucial: treure la càrrega de la prova de sobre de la víctima —amb una presumpció refutable de defecte per als sistemes ordinaris— perquè un usuari perjudicat no hagi de fer enginyeria inversa d'un model que no pot veure. La Directiva de responsabilitat per productes defectuosos no s'aplica fins al 9 de desembre de 2026. Fins que no hi hagi alhora detecció finançada i responsabilitat real, «ex post» només és una manera més bonica de dir «no vigila ningú».
Què muntaria al meu stack d'IA tiri Brussel·les cap on tiri
El que té de bo l'instrumental ex post de Mariniello és que la major part no és res més que bona enginyeria que hauries de tenir teva, independentment de la llei. Si aquest trimestre hagués de muntar —o auditar— un producte d'IA, aquesta és la feina, i res d'això no espera cap regulació:
- Dibuixa la cadena de responsabilitat abans de llançar, no després de la demanda. Per a cada funció d'IA, escriu qui respon quan fa mal a un usuari: tu, el proveïdor del model, la font de dades. L'exemple de Mariniello de la hipoteca denegada injustament —banc, desenvolupador, proveïdor de l'LLM, proveïdor de les dades d'entrenament, tots assenyalant-se— és el teu RACI d'incidents. Si aquella casella és buida, l'acusat per defecte ets tu.
- Porta ja el teu propi registre d'incidents. Adopta la taxonomia d'incidents de l'OCDE i registra-hi avui mateix cada fallada d'IA. No esperis un registre europeu obligatori per començar a aprendre de les teves pròpies caigudes.
- Obre un canal de quasi-incidents sense culpables. El sistema de notificació de l'aviació funciona perquè notificar és segur. Fes que sigui segur que els teus enginyers avisin que el model fa coses estranyes abans que es converteixin en un postmortem.
- Mostreja el teu propi trànsit. Posa observabilitat a les entrades i sortides del model com vigilaries qualsevol servei en producció —deriva, respostes anòmales, els usos per als quals no el vas dissenyar. És la idea del Sentinel a escala d'empresa, i és com trobes l'ús d'alt risc abans que ho faci un regulador o un periodista.
- Gradua el teu propi escrutini per irreversibilitat, no per organigrama. Concentra la revisió humana allà on una resposta equivocada no es pot desfer; deixa que la feina reversible avanci de pressa darrere de la vigilància. És tota la tesi del brief, aplicada un pis més avall —i és, simplement, prioritzar bé.
Regula la IA com un sistema que funciona, no com un producte que es ven
L'equilibri just no va ser mai «més regulació» ni «menys». És regulació apuntada al moment on viu de debò el risc. La Llei d'IA gasta el seu rigor el dia del desplegament —l'únic dia en què menys sabem com es comportarà el sistema— i el cobra a tothom per igual, cosa que pica més fort als més petits. La correcció de Mariniello és moure aquell rigor allà on els enginyers ja el guardem: al voltant del sistema en marxa, escalat a l'abast, proporcional a allò que no es pot desfer, i pagat sobretot per qui és prou gran per suportar-ho. Això no és desregular. És la maduresa operativa a què la resta vam ser empesos fa anys —la nit que vam aprendre que no pots demostrar que un sistema és segur; només pots vigilar-lo de prop i estar a punt per actuar.
El brief defensa que la UE no hauria d'esperar fins al 2031 per esmenar la Llei. Jo aniria un pas més enllà: no esperis Brussel·les per a res. L'observabilitat i la disciplina d'incidents que farien funcionar la regulació ex post són la mateixa disciplina que fa que el teu producte sobrevisqui al contacte amb usuaris reals. Si encara estàs mirant on cau la Llei d'IA sobre el teu propi stack, comença per com Brussel·les va reclassificar una eina de contractació corrent com a alt risc —i després vés a muntar la vigilància, perquè tard o d'hora el regulador et preguntarà si la tenies.
