AI bedrijven gebruiken woorden voor menselijke dingen

Deze week introduceerde Anthropic op zijn developerconferentie twee features met namen die me deden stilhouden: dromen en herinneringen. Technisch gezien weet ik precies wat ze doen. Dromen verwijst naar een achtergrondverwerkingsmodus waarin het model inference uitvoert tijdens inactieve cycli. Herinneringen zijn aanhoudende contextopslag over sessies heen. Beide zijn echte, bruikbare mogelijkheden. Geen van beide droomt. Geen van beide herinnert zich iets op de manier waarop het woord betekent als je het over een persoon gebruikt.

En toch. Daar zitten de woorden, in de productaankondiging alsof ze daar thuishoren.

Dit is geen Anthropic-probleem. Het is een gewoonte in de industrie. En op dit moment is het de moeite waard om het duidelijk uit te spreken, want de woordkeuze in een product is nooit neutraal. Het bepaalt hoe mensen denken dat het ding werkt. Het bepaalt wat ze het toevertrouwen. Het bepaalt wat ze verwachten als het faalt.

Het patroon heeft een geschiedenis

De woordenschat begon vroeg op te stapelen. Modellen werden getraind (oké, dat is verdedigbaar). Vervolgens begonnen ze te leren. Daarna ontwikkelden ze begrip. Vervolgens redenering. OpenAI brengt een model genaamd o3 uit en beschrijft zijn chain-of-thought-proces als denken. Google noemt zijn agent-orchestratielaag een agent die plant. Meta heeft het gehad over AI die standpunten vormt.

Elke individuele keuze ziet er als een redelijke afkorting uit. Bij elkaar genomen schetsen ze een beeld van iets dat meer op een geest lijkt dan op wat het is.

De AI-industrie heeft dit patroon niet uitgevonden. Interface-ontwerpers gebruiken al tientallen jaren skeuomorfisme: de desktop-metafoor, de winkelwagen, de map. Je legt een vertrouwde huid over iets onvertrouwds zodat mensen het kunnen benaderen. Dat is een legitieme strategie. Het verschil is dat een winkelwagenpictogram op een website niemand doet geloven dat de server gaat winkelen. Het woord herinneringen toegepast op een taalmodel doet sommige mensen wel geloven dat het model iets op het spel zet door hen te onthouden.

Waarom bedrijven het blijven doen

Drie redenen, geen daarvan samenzweerderig.

Eerst. het converteert sneller. Een feature genaamd aanhoudende contextopslag vraagt uitleg. Een feature genaamd herinneringen niet. Als je een productpagina of keynote schrijft, verdient het menselijke woord de klik en het applaus. Het nauwkeurige woord maakt mensen werken.

Twee. ingenieurs grijpen naar de dichtstbijzijnde analogie. De onderzoekers die deze systemen bouwen, brengen jaren door met het beschrijven van modelgedrag in shorthand. Aandacht, hallucinatie, temperatuur, grounding. Deze woorden begonnen in papers en onderzoeksnotities waar iedereen in de kamer begreep dat het metaforen waren. Ze ontsnapten uit productcopy zonder disclaimer.

Derde. er is subtielere commerciële druk. Als je model denkt en droomt en onthoudt, klinkt het als een collega in plaats van een tool. Collega's krijgen meer vertrouwen en meer budget dan tools. De taal doet stille commerciële arbeid.

Niets hiervan betekent dat iemand in een kamer zat en besloot mensen misleid te lenen. Het betekent dat het pad van de minste weerstand bij AI-productnamen recht door het vocabulaire van bewustzijn loopt.

Wat wordt vervormd

De prijs is niet filosofisch. Het is praktisch.

Als mensen geloven dat een model hen onthoudt, delen ze meer dan ze met een database zouden delen. Ze onthullen dingen die ze niet zouden onthullen aan een zoekmachine, omdat een zoekmachine niet voelt alsof het hen kent. Privacygedrag verschuift op basis van de metafoor, niet op basis van de onderliggende architectuur.

Als mensen geloven dat een model aan het denken is, interpreteren ze de output als weloverwogen oordeel in plaats van statistische voorspelling. Ze controleren het langzamer. Ze stellen zich minder verzet. De foutquote van het model verandert niet. De snelheid waarmee gebruikers fouten opvangen wel.

Wanneer een model halluciniert (nog een geleend menselijk woord, voor wat eigenlijk een probabilistische output is die buiten de feitelijke verdeling valt), behandelen mensen het als een afwijking, een slechte dag, in plaats van als een structurele eigenschap van hoe het systeem werkt. Die framing vertraagt serieuze gesprekken over wanneer deze systemen wel en niet kunnen worden vertrouwd.

Ik pleit niet voor steriele technische taal over alle oppervlakken. Ik betoog dat de woorden die we kiezen om AI-gedrag te beschrijven gevolgen hebben verder op de lijn, in gebruikersgedrag, in vertrouwenskalibratie, en uiteindelijk in beleid. Ze achteloos kiezen is een ontwerpchoice, ook al of geen ontwerper die maakte.

Wat eerlijke naamgeving eruit ziet

Dit is geen onmogelijk probleem. Het vraagt alleen dezelfde discipline als elke andere wezenlijke productbeslissing.

Begin met wat de feature eigenlijk doet. Aanhoudende context. Achtergrounginference. Terugvinding uit vorige sessies. Stel je dan de vraag: is er een eenvoudig woord voor dit wat geen innerlijke ervaring impliceren? Vaak is daar één. Geschiedenis in plaats van herinneringen. Achtergrondverwerking in plaats van dromen. Terugroepen is op de grens. Reflectie is over de grens.

Waar een menselijke analogie onboarding echt helpt, gebruik het, maar bevat het. Zet het in de tooltip, niet in de functienaam. Laat de marketinglaag metaforwerk doen, maar houd de productlaag eerlijk.

De bedrijven die dit goed doen, zijn meestal die waar design en engineering een vocabulaire delen. Als ontwerpers voldoende begrijpen hoe een model werkt om tegen een geleend woord in te gaan, en als ingenieurs genoeg geven om gebruikersmentale modellen te luisteren, krijg je namen die zowel duidelijk als eerlijk zijn. Die samenwerking is niet gebruikelijk. Dat zou het moeten zijn.

Voor bureaus zoals het onze, werkend op het snijvlak van AI-vermogen en product-ervaring, is dit een van de interessantere problemen op tafel. Niet omdat naamgeving glamoureus is, maar omdat elk woord in een product-interface een kleine claim is over hoe de wereld werkt. In AI-producten stapelen die claims op.

De vraag die het waard is om mee te zitten

De ingenieurs van Anthropic bouwden geen feature die droomt. Ze bouwden een feature die inference op de achtergrond uitvoert. De naamkeuze vertelt je iets over het moment waarin we ons bevinden: een industrie die iets echt nieuws heeft gebouwd en nog steeds reikt naar oude woorden om het uit te leggen.

Dat bereik is begrijpelijk. Het kan zelfs onvermijdelijk zijn tijdens de eerste jaren van een technologie zonder echt precedent. Maar het zal moeten groeien. Hoe capabeler deze systemen worden, hoe gevolgtrijker de kloof tussen woord en ding wordt.

Op een gegeven moment zal de industrie een vocabulaire moeten bouwen dat van AI is in plaats van geleend uit de ervaring van menselijk zijn. Dat is een ontwerpprobleem net zozeer als een linguïstisch. En niemand heeft het nog opgelost.