Agentic-as-a-Service i el retorn de l'enginyer

Soc enginyer des de finals dels noranta.

Vaig començar en l'electrònica, perquè era el que es feia llavors si volies treballar en mitjans audiovisuals. Per ser càmera o tècnic de so havies d'estudiar abans alguna cosa tècnica — era l'època en què una càmera digital pesava trenta quilos i la carregaves a l'espatlla com un sac de ciment. D'allà vaig anar derivant cap als ordinadors: primer arreglant-los i, ja el 2005, muntant comerç electrònic, quan "tenir una botiga online" encara era una idea una mica exòtica que havies de vendre a la gent.

Hi vaig arribar aviat. Encara recordo el primer cop que el meu pare va instal·lar a casa un mòdem de marcatge telefònic i un portàtil, el 1996, i em va deixar tafanejar-hi. Xerricava, perdia la connexió si algú despenjava el telèfon i era, per qualsevol mesura raonable, una joguina caríssima. Però vaig quedar enganxat. Vaig tenir un seient de primera fila per a l'arribada d'internet, i no el vaig tornar mai.

En algun moment dels meus trenta, tot allò es va convertir en una habilitat estranya i molt útil: era capaç de veure cap on anava la tecnologia. No de manera vaga — de manera concreta, i amb prou marge per actuar-hi. El meu avantatge, allò que explicava amb una cervesa a la mà, era que veia més o menys dos anys endavant. Dos anys n'hi havia prou. Dos anys són la diferència entre construir el que tothom necessitarà i construir el que tothom ja té. Vaig cavalcar aquell instint a través de startups i d'unes quantes aventures emprenedores, i poques vegades em va fallar.

Llavors els LLMs es van popularitzar, i el meu horitzó de dos anys es va esfondrar a dos o tres mesos.

Vull ser honest sobre com em va sentar: em va preocupar. L'habilitat en què m'havia recolzat discretament durant una dècada i mitja va deixar de funcionar d'un dia per l'altre. No perquè l'hagués perduda, sinó perquè el terreny mateix havia començat a moure's més de pressa del que la intuïció de ningú pot seguir. Quan l'estat de l'art es reinicia cada trimestre, "on serà això d'aquí a dos anys" deixa de ser un pronòstic i passa a ser una moneda a l'aire.

El hype per fi s'està dissipant

Una febre col·lectiva té una cosa: no pot durar per sempre. I ara som al punt en què comença a refredar-se — no la tecnologia, sinó el soroll que l'envolta. Per fi som capaços de separar el hype hiperinflat dels mitjans dels avenços reals que hi ha a sota, i la distància entre tots dos resulta ser enorme.

El senyal més clar és en els acomiadaments que se suposava que eren el futur. Les empreses que no van fer fora el 40% de la seva plantilla en un rampell d'optimisme per la IA poden considerar-se ara, discretament, entre les afortunades. Klarna és l'exemple alliçonador que tothom assenyala: va reduir la plantilla al voltant d'un 40% i presumia que el seu assistent construït amb OpenAI feia "la feina de 700 agents" — i després, ja el 2025, va fer marxa enrere i va començar a recontractar persones després que la qualitat del servei s'enfonsés. El seu propi CEO va admetre, sense embuts, que "ens vam passar de la ratlla". (https://www.reworked.co/employee-experience/klarna-claimed-ai-was-doing-the-work-of-700-people-now-its-rehiring/)

No és una història anti-IA. És una història anti-hype. Les empreses que van tractar el model com una vareta màgica s'hi van cremar. La pregunta interessant és què estan a punt de construir les que el tracten com un problema d'enginyeria.

Agentic-as-a-Service (no, no penso escriure l'acrònim…)

Amb la irrupció del que la gent anomena Agentic-as-a-Service — i ho sé, el nom no és afortunat, que algú en trobi un de millor, si us plau — per fi tenim una primera mirada real a l'any o dos que venen. I, per una vegada, sento que el meu vell horitzó torna a enfocar-se.

Així que deixeu-me fer l'aposta sense embuts: a mesura que els sistemes agèntics i els harnesses que envolten els LLMs es tornin més complexos, veurem una explosió de serveis de programari — la mateixa explosió que vam veure amb el SaaS — només que construïda sobre una tecnologia subjacent diferent. No acomiadaments massius. Al contrari: una tona de feina per als enginyers que dominin el nou mitjà.

Per veure per què, cal mirar què és de debò un "agent", perquè el màrqueting fa que soni com una personalitat quan en realitat és una arquitectura.

Un producte SaaS és programari determinista que llogues. Prems un botó, passa sempre el mateix, i la feina del proveïdor és mantenir els llums encesos i publicar funcionalitats. Un servei agèntic és una altra cosa: és un sistema que executa feina i entrega un resultat, i el model només n'és la part més petita i barata. El model és el motor. El cotxe és tota la resta.

Aquesta "tota la resta" — el harness — és on viu l'enginyeria:

• Orquestració i planificació. Les tasques reals no són un únic prompt; són bucles. Descompondre l'objectiu, fer un pas, observar el resultat, decidir el pas següent, recuperar-se quan alguna cosa es torça. Aquest flux de control és programari, i programari difícil.
• Eines i integració. Un agent que no pot actuar és un chatbot. Donar-li la capacitat de consultar una base de dades, cridar una API, obrir un tiquet o moure diners implica construir, assegurar i limitar (rate-limit) cadascuna d'aquestes superfícies d'eines — i decidir què té permès tocar.
• Context i memòria. Els models no tenen memòria entre crides. La recuperació d'informació, la gestió d'estat i la memòria a llarg termini són subsistemes sencers que algú ha de dissenyar perquè l'agent sàpiga què va passar fa cinc minuts — o fa cinc sessions.
• Verificació i guardrails. Aquesta és la part que es van saltar els fracassos tipus Klarna. Un sistema estocàstic que encerta el 95% de les vegades, en producció, s'equivoca una de cada vint — i aquesta vintena vegada està parlant amb el teu client o tocant la teva comptabilitat. Comprovar la feina de l'agent, posar-li límits i saber quan escalar a una persona és enginyeria innegociable.
• Evals i observabilitat. No pots millorar el que no pots mesurar, i no pots mesurar un sistema no determinista amb tests tradicionals. Cal construir-hi al voltant tota una disciplina nova — frameworks d'avaluació (evals), suites de regressió per al comportament, traçabilitat de cada decisió.

Fixa't en el que acaba de passar. Cada punt d'aquesta llista és més feina per als enginyers, no menys. El model converteix en mercaderia el 80% fàcil; la diferenciació — el fossat defensiu — es trasllada del tot al sistema que l'envolta. I els sistemes els construeixen, depuren, monitoren i operen persones que saben construir sistemes. El no determinisme no treu l'enginyer del bucle. N'exigeix un de millor, perquè ara estem publicant programari que és probabilístic, i raonar sobre sistemes probabilístics sota càrrega és una de les coses més difícils que fa la nostra professió.

Aquesta és la forma dels propers dos anys, fins on torno a veure-la: no menys empreses de programari, sinó una nova generació d'aquestes — facturades per resultat en lloc de per llicència, agèntiques en lloc d'estàtiques — i una demanda profunda i sostinguda d'enginyers que entenguin de debò el mitjà.

El que això no significa

No fingiré que la disrupció surt de franc. No és així. Indústries senceres es transformaran, i alguns llocs de treball hauran d'admetre, amb honestedat, que han quedat obsolets i que el mercat els escombrarà. El call center tradicional n'és l'exemple evident. Fingir el contrari no ajuda ningú, i menys les persones en aquests llocs, que mereixen una imatge sense enganys i un camí endavant.

Però no tinc el més mínim interès a escriure ni una apologia del nou ni una elegia del vell. Totes dues coses són mandroses. El nou no és bo per defecte i el vell no era savi per defecte. La meva feina — la feina de debò — és trobar els camins endavant: camins que passin per una tecnologia millor, i per la millora de la societat en conjunt, dins del meu humil abast.

El meu horitzó de dos anys està tornant. El paisatge des d'aquí és més atrafegat, més estrany i més exigent del que prometien els mercaders del hype — i molt més esperançador del que els agorers et volen fer creure. Hi ha una quantitat enorme de coses per construir.

Jo, si més no, estic desitjant posar-m'hi.