Je werkgever bouwt wat je wilt vertragen

Meer dan 1.200 onderzoekers bij OpenAI, Anthropic, Google en Meta hebben onlangs een open brief ondertekend. Ze vragen niet om beter salaris of minder vergaderingen. Ze vragen overheden om instrumenten in te zetten die AI-ontwikkeling kunnen vertragen. Instrumenten die hun werkgevers zelf geen enkele reden hebben om in te voeren.

Dat is de contradictie in één zin. De mensen die het best begrijpen wat deze systemen kunnen doen, werken voor de bedrijven die het meest gebaat zijn bij sneller bouwen. En het enige wat ze hebben is een open brief gericht aan politici die, voor het merendeel, nog proberen te begrijpen wat een large language model eigenlijk is.

Het collectieve actioprobleem dat niemand wil benoemen

Hier is een structureel feit dat in het ethiekdiscours graag wordt begraven: geen enkel bedrijf zal zich vrijwillig inhouden als het gelooft dat concurrenten dat niet doen. Dit is geen cynisme. Het is de basislogica van competitieve markten, en die geldt met ongebruikelijke scherpte voor AI-ontwikkeling, waar een vertraging van zes maanden kan betekenen dat je een productcyclus, een talentengroep of een groot zakelijk contract misloopt.

De onderzoekers die de brief ondertekenen, begrijpen dit. Daarom vragen ze om coördinatie op regeringsniveau in plaats van een beroep te doen op de betere instincten van hun werkgevers. Collectieve actieproblemen vereisen collectieve mechanismen. Een vrijwillige pauze is geen pauze. Het is een eenzijdige vertraging die alleen ten goede komt aan wie haar negeert.

De brief erkent impliciet dat interne veiligheidsteams, modelkaarten en verantwoorde AI-principes, hoe goed ook bedoeld, geen voldoende structureel antwoord zijn op een structureel probleem. Het zijn goedbedoelde gebaren die opereren binnen een competitief kader dat ze neutraliseert.

Wat overheden eigenlijk wordt gevraagd

De brief vraagt geen verbod. Ze vraagt om coördinatie-instrumenten: mechanismen die regelgevers in theorie kunnen geven om zinvol zicht te hebben op trainings runs, compute-drempels en capaciteitsevaluaties vóór deployment in plaats van erna.

Dit is een nauwer en technischer onderbouwde vraag dan de open brief uit 2023 die opriep tot een zesmaandelijke moratorium en was ondertekend door figuren variërend van Elon Musk tot wetenschappers zonder directe lab-affiliatie. De huidige ondertekenaars zijn per definitie insiders. Ze zijn geen critici van de industrie. Ze zijn mensen die de code schrijven, de evaluaties uitvoeren en de producten naar buiten brengen. Dat onderscheid doet ertoe.

Maar de afstand tussen wat wordt gevraagd en wat overheden realistisch kunnen leveren is groot. Compute-governance bijvoorbeeld vereist het volgen van de toeleveringsketen van high-end GPU's wereldwijd, wat exportcontroles, chipfabrikanten en cloud-providers over meerdere jurisdicties inhoudt. De EU AI Act adresseert hier deels. De Amerikaanse Executive Order on AI van oktober 2023 verplichtte bedrijven om te rapporteren over training runs boven een bepaalde compute-drempel. Dit zijn niet niks. Het is ook niet de coördinatie op de schaal die de brief voor ogen heeft.

Het eerlijke antwoord is dat geen enkele regering momenteel de technische capaciteit, wettelijke bevoegdheid of geopolitieke afstemming heeft om te implementeren wat de onderzoekers beschrijven. Dat is geen argument tegen proberen. Het is een argument om eerder te beginnen, niet later.

Waarom dit ertoe doet buiten de AI-veiligheidscommunity

Als je een productteam, een agentschap of een startup runt die actief AI integreert in je werk, lees je misschien een verhaal als dit en concludeer je dat het niets met jou te maken heeft. De debatten over existentieel risico voelen ver weg. De governancediscussies voelen abstract. Je hebt een sprint om iets op te leveren.

Ik denk dat die framing een vergissing is, en hier is waarom.

De snelheid waarmee capaciteiten zich ontwikkelen, creëert al praktische problemen voor teams die bovenop deze systemen bouwen. Een modelgedrag waar je in Q1 omheen hebt ontworpen, bestaat misschien niet meer in Q3. Een API die je hebt geïntegreerd, kan verouderd zijn, bijgewerkt of opnieuw geprijsd met slechts enkele weken vooraf. De regelgevingsomgeving in jouw markt kan sneller verschuiven dan je productoadmap kan volgen. Dit zijn geen hypothetische risico's. Het zijn operationele realiteiten voor iedereen die heeft geprobeerd een duurzaam product te bouwen op een fundament dat zelf in beweging is.

Een geloofwaardig governanceframework zou niet alleen staartrisico's voor de mensheid in abstracto verminderen. Het zou onzekerheid verminderen voor elk team dat op basis van deze systemen bouwt. Voorspelbare capaciteitscurves en stabiele deployment-windows zijn goed voor productontwikkeling. Regelgevingshelderheid is goed voor investeringen. Het vertragen van de release-cadans, zelfs bescheiden, zou bouwers meer tijd geven om te begrijpen waarmee ze eigenlijk werken.

De onderzoekers vragen niet om langzamere AI omdat ze bang zijn. De meesten vragen omdat ze genoeg van de internals hebben gezien om te weten dat het huidige tempo van deployment vooruitloopt op het vermogen om te evalueren, te begrijpen en te besturen wat wordt uitgebracht.

De agencyhoek

Voor studio's en agentschappen verschijnt deze contradictie op een specifieke manier. Klanten vragen ons om sneller met AI te bouwen, terwijl de mensen die AI bouwen iemand vragen om te vertragen. Beide druk zijn echt. Beide komen van mensen die rationeel handelen binnen hun eigen context.

Het praktische antwoord is niet om te wachten tot governance bijtrekt. Het is om te bouwen met aannames die conservatiever zijn dan het optimistische scenario. Ontwerp voor modelsubstitueerbaarheid in plaats van strak aan één provider's API gekoppeld te zijn. Beschouw capaciteitsbenchmarks als snapshots, niet als contracten. Houd een mens in de lus niet omdat regelgeving het verlangt, maar omdat de kosten van falure op schaal hoger zijn dan de kosten van de check.

Dit is geen voorzichtigheidsadvies om zijn eigen wil. Het is basale architectuurdenken toegepast op een echt instabiele omgeving. De onderzoekers die die brief ondertekenen, hebben geen ongelijk dat iets structureels moet veranderen. Maar structurele verandering kost tijd. In het tussentijd moeten de teams die op basis van deze systemen bouwen, designbeslissingen nemen die rekening houden met instabiliteit, niet ervan uitgaan dat het verdwijnt.

De contradictie in het hart van het veld gaat zich niet netjes oplossen. Geen brief zal dat doen. Wat het wel kan doen is het Overtonraam verschuiven over wat regeringen en toezichthouders redelijk kunnen vragen van frontier labs. Dat is langzaam, onopvallend werk. Het is ook het soort werk dat meestal belangrijker is dan het er op dat moment uitziet.

Waar dit ons achterlaat

De open brief is een symptoom, geen oplossing. Wat het onthuld is dat de mensen die het dichtst bij de technologie staan, niet langer vertrouwen dat alleen competitieve dynamica aanvaardbare uitkomsten zal produceren. Dat is een significant signaal, ongeacht wat je van de specifieke beleidsaanvragen denkt.

Voor iedereen die momenteel producten, strategieën of organisaties rond AI bouwt, is de relevante vraag niet of je het met de brief eens bent. Het is of je planningsaannames rekening houden met een wereld waarin het huidige tempo van ontwikkeling op enig moment, zinvol wordt ingeperkt. Door regelgeving, door geopolitieke wrijving, door compute-limieten, of door een marktevenement dat de risicocalculatie voor inzenders verandert.

Geen van die scenario's zijn ver weg. Sommige zijn al in beweging. De onderzoekers die de brief ondertekenden, vragen je niet om te stoppen met bouwen. Ze vragen iemand met werkelijke autoriteit om de voorwaarden te scheppen waarin verantwoord bouwen geen competitief nadeel is.

Dat is iets redelijks om te willen. Het feit dat het vereist om overheden in plaats van werkgevers om hulp te vragen, zegt alles over waar het veld werkelijk staat.