De waarde van officiële documentatie
Er is een nuttige asymmetrie in hoe AI-bedrijven communiceren. De capabilityaankondigingen zijn marketing. De promptingdocumentatie is engineering. De ene zegt je wat het model kan doen onder ideale voorwaarden. De andere vertelt je welke voorwaarden het model daadwerkelijk nodig heeft.
OpenAI heeft nu genoeg richtlijnen gepubliceerd dat de foutpatronen niet moeilijk te zien zijn. Het model worstelt met ambiguïteit. Het heeft sterke defaults die actief moeten worden overschreven. Het presteert beter wanneer voorbeelden worden gegeven dan wanneer instructies abstract worden gesteld. Het heeft nodig dat format wordt ingesteld, publiek wordt benoemd, scope wordt begrensd.
Dit maakt Astra niet tot een slecht model. Het is een erg goed model. Maar zelfs goede modellen hebben plafonds, en de promptinghandleiding is eigenlijk een gepubliceerde kaart van waar die plafonds liggen.
Voor iedereen die serieus op deze systemen bouwt, zijn primaire bronnen waardevoller dan benchmarks. Benchmarks vertellen je hoe het model onder gecontroleerde voorwaarden presteert. De promptinghandleiding vertelt je welke voorwaarden het model nodig heeft om te presteren. Dat zijn verschillende vragen en de tweede matteert meer in productie.
Wat hier mee doen
Als je prompts in productie hebt draaien, check ze tegen de foutmodi in de documentatie. Voor elke prompt: specificeert het format? Grenst het scope af? Benoemt het het publiek? Splitst het de taak in stadia of vraagt het het model alles tegelijk vast te houden?
Als je een nieuwe workflow bouwt, lees de richtlijn voordat je de eerste prompt schrijft. Niet voor tips. Voor constraints. Ontwerp het systeem rond wat het model daadwerkelijk nodig heeft, niet rond wat je hoopt dat het kan afhandelen.
En als je een model voor een nieuw project evalueert, behandel de promptinghandleiding als onderdeel van de technische spec. De capabilitypagina zegt je wat de verkoper wil dat je gelooft. De promptinghandleiding zegt je wat de engineers weten.