← Tornar a tots els articles
Reptes

ChatGPT Enterprise: Què Canvia per a les Organitzacions d'Enginyeria

Per Marc Molas·4 de setembre del 2023·9 min de lectura

El 28 d'agost de 2023, OpenAI va llançar ChatGPT Enterprise, la versió per a empreses de ChatGPT que molts líders d'enginyeria estaven esperant. L'anunci aborda els dos principals obstacles que impedien a les organitzacions d'enginyeria serioses adoptar ChatGPT a escala: la seguretat de dades i els límits d'ús.

El producte ofereix accés il·limitat a GPT-4 (sense més límits d'ús), un compromís explícit que les dades dels clients no s'utilitzen per a l'entrenament, compliment SOC 2, integració SSO, una consola d'administració per gestionar el desplegament a tota l'organització i capacitats avançades d'anàlisi de dades.

Aquest és un veritable punt d'inflexió per a les eines d'IA empresarials. No perquè la tecnologia sigui nova — GPT-4 ha estat disponible des del març — sinó perquè el packaging s'adapta ara a com les organitzacions d'enginyeria realment compren i despleguen les eines. Vegem què significa això i quines preguntes hauries de fer abans de desplegar-lo al teu equip.

Què Ofereix Realment ChatGPT Enterprise

Les característiques clau, sense llenguatge de màrqueting:

Accés il·limitat a GPT-4. Sense més límits de velocitat ni de consum per usuari. Això importa més del que sembla — el límit del pla estàndard era un punt de fricció constant per als usuaris intensius. Els enginyers que arribaven al límit a mig tarda tornaven a GPT-3.5 o deixaven d'usar l'eina del tot.

Sense entrenament amb les teves dades. OpenAI declara explícitament que les dades dels clients empresarials no s'utilitzen per entrenar els seus models. Aquesta és la característica més important per a qualsevol empresa que gestioni codi propietari o dades de clients. Abans d'això, la preocupació per l'entrenament de dades era la raó principal per la qual la majoria dels CTOs que conec deien als seus equips que no enganxessin codi de l'empresa a ChatGPT.

Seguretat de nivell empresarial. Compliment SOC 2, xifratge de dades en repòs i en trànsit, SSO mitjançant SAML. El teu equip de seguretat té alguna cosa real per auditar en lloc d'un producte de consum amb uns ToS de casella de verificació.

Consola d'administració i analítica. Gestió a tota l'organització, analítica d'ús i configuració de polítiques d'accés. Gestiona-ho com qualsevol altre SaaS empresarial.

Finestra de context més llarga. 32K tokens (4x el GPT-4 estàndard), perquè els enginyers puguin enganxar blocs de codi més grans o fitxers sencers sense arribar al límit.

Hauries de Comprar-lo per al Teu Equip d'Enginyeria?

La resposta curta: probablement sí, però no cegament.

La resposta més llarga depèn de com pensis sobre el rol de l'eina en el flux de treball d'enginyeria. Hi ha tres categories a considerar:

On ChatGPT Enterprise afegeix valor clar

Comprensió i documentació de codi. "Explica què fa aquesta funció." "Escriu documentació per a aquest endpoint d'API." Tasques d'alta freqüència i baix risc on l'eina estalvia temps significatiu.

Boilerplate i scaffolding. Fitxers de configuració, plantilles de proves, endpoints CRUD, mòduls de Terraform, configs de CI/CD. Feina que els seniors troben tediosa i els juniors troben lenta. Un primer esborrany de GPT-4 que es revisa i modifica estalvia temps en tots dos casos.

Assistència per a la depuració. Enganxar un missatge d'error o stack trace i preguntar per les causes probables. Un dels casos d'ús més naturals, i un on GPT-4 és genuïnament sòlid per a frameworks comuns.

Aprenentatge i exploració. "Quina és la diferència entre aquests dos serveis d'AWS?" "Com funciona el connection pooling a PostgreSQL?" ChatGPT sovint proporciona una resposta més directa que cercar en la documentació.

On cal precaució

Escriure codi de producció. GPT-4 pot generar codi que sembla correcte però té bugs subtils o problemes de seguretat. El risc no és que la IA escrigui mal codi — és que l'humà que el revisa no detecti problemes perquè el resultat sembla plausible. El codi de producció generat per IA ha de passar pel mateix procés de revisió que el codi escrit per humans.

Decisions d'arquitectura. ChatGPT et donarà una resposta que sona coherent a "hauríem d'usar microserveis?" però no coneix les teves restriccions, el teu equip ni els teus patrons de tràfic. Usar-lo per a recerca està bé. Usar-lo com a oracle és perillós.

Codi sensible en seguretat. Fluxos d'autenticació, xifratge, control d'accés — àrees on "gairebé correcte" pot ser catastròfic. Cap enginyer hauria de llançar codi crític de seguretat generat per LLM sense una revisió extremadament acurada.

Com es compara amb GitHub Copilot

Aquesta és la pregunta que fa cada líder d'enginyeria. La resposta: són complementaris, no competitius.

GitHub Copilot és una eina de completat de codi en línia. Viu al teu IDE, veu el teu fitxer actual i el context, i suggereix les properes línies de codi. És un accelerador de productivitat per escriure codi.

ChatGPT Enterprise és una interfície conversacional. És millor per a interaccions més llargues: sessions de depuració, revisions de codi, discussions d'arquitectura, generació de documentació, explicació de conceptes complexos. No l'uses a mig escriure — l'obres quan necessites pensar un problema.

La majoria dels equips d'enginyeria seriosos sobre les eines d'IA acabaran usant tots dos. Copilot per escriure codi en flux, ChatGPT per a tot el que requereix més context i intercanvi.

La Pregunta Difícil: Mesurar el ROI

Aquí és on la majoria de les organitzacions s'encallen. El teu CFO preguntarà: "Quin és el ROI de gastar X per usuari al mes en ChatGPT Enterprise?" I la resposta honesta és que és difícil mesurar-lo directament.

Millors enfocaments per mesurar l'impacte:

Seguiment de patrons d'adopció, no només de l'ús. La consola d'administració mostra qui fa servir l'eina i amb quina freqüència. Una alta adopció és un senyal positiu. Si només 2-3 persones la fan servir regularment, la resta pot necessitar un millor onboarding sobre l'ús eficaç.

Enquesta sobre l'impacte percebut. Pregunta als enginyers mensualment: "Les eines d'IA t'han ajudat aquesta setmana? En quins tipus de tasques?" Les dades qualitatives dels usuaris reals valen més que qualsevol mètrica de dashboard.

Monitorar mètriques de qualitat del codi. Seguiment de taxes de defectes, cicles de revisió de PR i incidents de producció abans i després de l'adopció. Si el codi assistit per IA introdueix més bugs, ho veuràs aquí.

Comparar amb el cost de NO tenir-ho. A un cost estimat de 30-60 per usuari al mes, això és aproximadament el cost d'1-2 hores del temps d'un enginyer. Si l'eina estalvia més que això, el ROI és positiu. La majoria de les dades suggereixen que ho fa.

Què Fer Ara

Si ets un líder d'enginyeria decidint si adoptar ChatGPT Enterprise, aquí hi ha una seqüència pràctica:

  1. Fes un pilot. Comença amb 10-15 enginyers de diferents rols i nivells de seniority. Dóna'ls 30 dies.
  2. Estableix directrius d'ús. Defineix clarament el que és i el que no és apropiat: no enganxar PII de clients, no usar output d'IA per a codi crític de seguretat sense revisió, tot el codi generat passa per revisió de PR estàndard.
  3. Recull feedback. Tant quantitatiu (patrons d'ús de la consola) com qualitatiu (check-ins setmanals).
  4. Avalua juntament amb Copilot. Si ja fas servir GitHub Copilot, la pregunta és si ChatGPT Enterprise afegeix valor incremental. Per a la majoria d'equips, la resposta serà sí.
  5. Fixa una data de revisió. Decideix per endavant quan avaluaràs si expandir, reduir o cancel·lar. No deixis que es converteixi en shelfware pel qual pagues però ningú fa servir.

El mercat d'eines d'IA es mou ràpid. ChatGPT Enterprise no és el darrer producte que avaluaràs. Però és un producte real que resol problemes reals, i les organitzacions d'enginyeria que descobreixin com usar-lo eficaçment tindran avantatge.

A Conectia, els enginyers senior que integrem als teus equips ja treballen amb aquestes eines. Han integrat GPT-4 i Copilot als seus fluxos de treball i entenen on la IA accelera la bona enginyeria versus on crea falsa confiança.


Adoptant eines d'IA i necessites enginyers que sàpiguen usar-les amb seny? Parla amb un CTO — els nostres enginyers senior de LATAM aporten experiència pràctica amb eines d'IA i el criteri per desplegar-les sense el hype.

Preparat per construir el teu equip d'enginyeria?

Parla amb un partner tècnic i desplega desenvolupadors validats per CTOs en 72 hores.