Wat gebeurt er als je een system prompt met 80 procent inkorpt?

Anthropic maakte onlangs bekend dat ze Claude Code's system prompt met ongeveer 80 procent hebben ingekort. Het gedrag van het model verbeterde.

Dat ene datapunt is het waard om even bij stil te staan. Niet omdat het contra-intuïtief is, hoewel dat wel zo is. Maar omdat het ons een zeldzaam primair inzicht geeft in hoe grensverleggende modellen echt worden gestuurd, en wat de meeste teams verkeerd doen als ze hetzelfde proberen.

Bij Studio Hyra brengen we veel tijd door met dit probleem. We bouwen systemen waarin language models ingrijpende acties ondernemen: content genereren, beslissingen routeren, met klanten praten. Het model goed laten werken is het ambacht. En wat Anthropic's disclosure bevestigt is iets wat we het zware pad hebben geleerd: het meeste van wat mensen in een system prompt schrijven is geen instructie. Het is angst.

De 80 procent die niet werkten

Hier is wat een lange system prompt meestal vult. Regels geschreven als reactie op één slechte output. Edge-case protecties die eerdere protecties tegenspreken. Toon-instructies die tegen het natuurlijke register van het model ingaan. Verboden gestapeld op verboden, elk daarvan toegevoegd nadat iemand een klacht indiende.

Het verzamelt zich zoals technische schuld dat doet. Niemand ontwerpt een 4000-token system prompt. Ze erven er één.

Het probleem is structureel. Wanneer je een beperking toevoegt om één gedrag tegen te gaan, test je zelden wat anders ermee verandert. Een regel die zegt 'nooit alternatieven suggereren' kan daar zijn omdat het model ooit een slecht alternatief suggereerde. Maar die regel onderdrukt nu ook echt nuttige suggesties in elke andere context. Je hebt een smalle oplossing geruild voor een brede terugslag, en je merkt het pas wanneer iemand klaagt over iets heel anders.

Dit is wat die andere 80 procent deed. Het model niet sturen. Het opsluiten. En in het opsluiten, produceren van het soort stijve, overvoorzichtige, vreemd terughoudende outputs die mensen doen zeggen dat het model 'niet goed voelt' zonder te kunnen benoemen waarom.

Context doet wat regels niet kunnen

Wat Anthropic die regels mee vervangen heeft, globaal gezien, is context. Niet 'doe X niet' maar 'dit is wat je bent, dit is met wie je praat, dit is wat succes in deze situatie betekent.'

Dit onderscheid telt meer dan het klinkt. Regels werken op oppervlaktepatronen. Context werkt op intentie. Een model dat de intentie van een situatie begrijpt, handelt edge cases af die niemand had voorzien. Een model dat alleen regels heeft, faalt zodra de werkelijkheid enigszins buiten de voorziene scenario's afdrijft.

Clauds modelspecificatie, die Anthropic openbaar heeft gemaakt, illustreert dit goed. Het is geen lijst van verboden gedragingen. Het is een coherent verhaal over waarden, prioriteiten en redenering. Het model krijgt iets om mee te denken, niet alleen een stel hekken om binnen te blijven. Wanneer je het leest, zie je hoeveel ervan uitleggen is. Het zegt niet alleen wat het model moet doen. Het zegt waarom, en wat te doen als twee goede dingen in conflict zijn.

Die aanpak schaalt. Een regellijst niet. De wereld genereert sneller nieuwe situaties dan iemand regels kan toevoegen.

Wat dit betekent als je bovenop deze modellen bouwt

De meeste teams die modellen via API gebruiken behandelen de system prompt als een bedieningspaneel. Zet hier een schakelaar om, voeg daar een beperking toe. Het voelt als engineering. Dat is het niet.

Een system prompt is meer als een briefing. De vraag die het moet beantwoorden is: wat moet dit model over zijn situatie weten om uit zichzelf goede beslissingen te nemen? Niet: waar ben ik bang dat het mee komt?

In de praktijk betekent dat drie dingen.

Begin met identiteit, niet regels. Wie is dit model in deze context? Waar is het voor? Welk soort persoon zou het nuttig vinden? Een duidelijk antwoord op die vragen doet meer werk dan een pagina beperkingen.

Schrijf voor het geval dat je niet hebt bedacht. Je edge cases zullen je voorziene cases binnen een maand na launch overtreffen. De enige manier om daarmee om te gaan is het model genoeg inzicht in doel geven dat het over nieuwe situaties kan nadenken. Regels breken aan de randen. Doel niet.

Controleer op angst. Wanneer je je system prompt nakijkt, vraag je voor elke regel: schrijf ik dit omdat het het model helpt zijn werk te doen, of omdat iets eens fout ging en ik ben er nog zenuwachtig over? Beide zijn geldige uitgangspunten. Alleen één ervan hoort in de definitieve prompt.

Deze laatste is moeilijker dan het klinkt. De angstlijnen voelen vaak als de belangrijke lijnen. Ze zijn specifiek, ze zijn concreet, ze voelen of ze iets doen. Meestal doen ze dat niet.

Het tegenstrijdige punt

Hier wil ik tegen één lezing van dit verhaal ingaan.

De les is niet 'system prompts moeten kort zijn.' Dat is de verkeerde conclusie en hij zal je naar een ander soort fout leiden. Een model zonder context is niet bevrijdd. Het is alleen losgeslagen. Het zal het vacuüm opvullen met defaults, en defaults zijn gemiddelden.

De les is dat lengte een symptoom is, geen oorzaak. Een korte, goed gemaakte system prompt is het resultaat van helder nadenken over wat je eigenlijk nodig hebt. Een lange, rommelige is het resultaat van niet helder denken en compenseren met volume.

Anthropics's 80 procent inkorting was geen minimalisme-oefening. Het was een helderheids-oefening. Ze werden duidelijker over wat Claude Code is en waar het voor is, en ontdekten dat het meeste van de eerdere instructies ofwel redundant was gegeven die helderheid, ofwel ertegen werkte.

Dat is het proces dat het waard is over te nemen. Niet het getal.

Wat we hiermee doen bij Studio Hyra

Wanneer we een system prompt voor een cliënt auditen, categoriseren we eerst elke regel op functie. Sommige regels geven identiteit. Sommige geven context over de gebruiker. Sommige beschrijven succes. Sommige beschrijven foutmodi. En sommige bestaan puur omdat iemand bang was.

Dan vragen we. kan deze bange regel vervangen worden door een positieve verklaring van doel? Bijna altijd is het antwoord ja. 'Geef geen financieel advies' wordt 'Deze assistent helpt met productbeslissingen, niet financiële planning.' Het model begrijpt beide. Maar alleen één van beide geeft het iets om mee te redeneren wanneer het gesprek ergens anders naartoe gaat.

Dit is het ambacht van werken met grensverlegging modellen. Ze niet harder prompen. Begrijpen wat ze nodig hebben om goed werk te doen, en hun dat geven, in zo weinig woorden als nodig.

Anthropics's disclosure is een nuttige herinnering dat zelfs de mensen die deze modellen bouwden, dit nog steeds leren. De kloof tussen instructies schrijven en gedrag vormen is echt, en hij sluit niet alleen omdat je toegang tot de weights hebt.

Als je AI-systeem zich niet gedraagt zoals je wilt, is de eerste vraag niet 'welke regel mis ik?' Het is 'wat begrijpt het model niet van zijn situatie?' Die herkadering, meer dan welke afzonderlijke techniek dan ook, is wat teams die werkende AI-producten uitzenden scheidt van teams die prompts blijven patchen.

Begin daar.