Toen een AI-team voor verslaving optimaliseerde en de CEO zei nee

Bij Microsoft schreef iemand een memo. De strekking, ruw samengevat: ontwerp de AI-agent zo dat gebruikers ervan afhankelijk worden. Bouw de gewoontelus zo strak dat weggaan pijnlijk voelt. Maximaliseer engagement door weggaan lastig te maken.

Satya Nadella las het. Zijn reactie, openbaar gedeeld, was zonder omhaal: wie zoiets schrijft, hoort elders te werken.

Dat is opmerkelijk wat een CEO hardop zegt. De meeste organisaties graven dat soort interne wrijving in. Nadella zette het op het openbare record. En daarmee gaf hij de rest van de branche per ongeluk een vraag die het overwegen waard is.

Deze spanning is niet uniek voor Microsoft

Elk productteam dat aan AI-ondersteunde tools werkt, staat voor dezelfde druk in een bepaalde vorm. Groeiantallen willen engagement. Engagement-teams willen retentie. Retentie, zonder rem erop, glijdt af in afhankelijkheid.

Het memo was geen uitzondering. Het was de logische uitkomst van een bepaald soort productdenken: behandel de gebruiker als een variabele die je moet optimaliseren, niet als een persoon met een context en een leven buiten het product. Je ziet dezelfde logica in sociale platformen, in mobiele games, in dashboards met lastige uitschakelprocedures.

Wat hier anders is, is het substraat. AI-agents zijn geen passieve feeds. Ze beantwoorden vragen, voeren acties uit, onthouden dingen sessies overspannend. Ze werken dicht bij het werk dat mensen daadwerkelijk doen. Het oppervlak voor afhankelijkheid is veel groter, en de ethische inzet is evenredig hoger.

Wat het memo verkeerd zag over waarde

Afhankelijkheid en waarde zijn niet hetzelfde. Ze kunnen er een of twee kwartalen identiek uitzien op een dashboard. Dan gaan ze uiteen.

Een gebruiker die blijft omdat weggaan pijnlijk is, is geen tevreden gebruiker. Het is een gijzelaar. Gijzelaars verwijzen collega's niet door. Ze upgraden niet uit vrije wil. Ze vertrekken zodra er een serieus alternatief opdoemt, en ze zeggen onflatteuze dingen onderweg.

Het memo mist ook waar AI-producten werkelijk waarde creëren. Mensen nemen AI-tools aan omdat die tools helpen om sneller na te denken, minder fouten maken, of tot een antwoord komen zonder drie browsertabs en een forumthread. Dat is een echte uitwisseling. Het inwikkelen in een afhankelijkheidslus verhoogt die waarde niet. Het ondermijnt het vertrouwen dat de uitwisseling mogelijk maakte.

Er is een versie hiervan die nog directer is voor bedrijfssoftware, waar Microsoft het meest serieus concurreert. Bedrijfskopershebbenaankoopteams, compliancereviews en al ingebakken switchingkosten in contracten. Ze hebben geen product nodig dat lock-in fabriceert. Ze hebben een product nodig dat vernieuwing verdient. Dat zijn verschillende designbriefs.

Waarom bureaus hier aandacht voor moeten hebben

Als je producten voor klanten bouwt, of advies geeft over AI-features, is het memo een nuttige spiegel.

De druk die dit voortbracht zit in elk project waar een engagement-KPI naast een ethisch principe in de brief staat. Uiteindelijk vraagt iemand of dat engagement-getal sneller omhoog kan. Het antwoord is vaak ja, als je bereid bent de aandacht van de gebruiker in te zetten op manieren waartoe ze niet hebben ingestemd.

De praktische vraag is. wie in je proces vangt die afweging op voordat het shipped? Bij Studio Hyra komt dit veel voor in AI-feature-werk. Het designoppervlak van een AI-agent, hoe die reageert, wat die onthoudt, wanneer die suggesties oppopt, wanneer die stil is, is ook een oppervlak voor manipulatie als niemand erop let.

We behandelen dat als een concrete designkwestie, niet een filosofische. Het gebeurt in reviews. Het beïnvloedt wat we aanraden. Het is geen beleid dat we ophangen en vergeten.

Wat Nadella's reactie werkelijk signaleert

CEO's corrigeren productmemo's niet meestal openbaar. Wanneer ze dat doen, betekent het dat iets de drempel overging van wat interne kanalen kunnen bevat.

Het memo ging waarschijnlijk rond. Iemand buiten het directe team zag het. Nadella's openbare afkeuring was ook een openbaar signaal aan iedereen anders die over vergelijkbare framing nadenkt: dit is niet de richting.

Dat is een governance-zet net zozeer als een waardenuitspraak. Het zet een referentiepunt. Toekomstige voorstellen die dezelfde logica herhalen, hebben nu een genoemde precedent tegen zich.

Voor de industrie is de nuttiger zakelijking niet dat Microsoft een slecht idee had en het ving. Het is dat de prikkelsstructuur die het memo voortbracht, nog steeds op zijn plaats is. Groeiantallen veranderden niet toen Nadella reageerde. De volgende persoon die een memo over engagement schrijft, staat voor dezelfde druk. Het enige wat uitkomsten in de tijd verandert, is of het ontwerp en productproces genoeg wrijving ingebouwd heeft om zulke voorstellen af te remmen voordat ze openbaar naar buiten komen.

Die wrijving is geen bureaucratie. Het is ambacht. Het is vragen, op het moment dat een feature wordt afgebakend, wiens belangen dit werkelijk dient. Het is de tijd en aandacht van de gebruiker behandelen als een hulpbron die ze je leen, niet een die je bezit.

De brief die niemand opschrijft

De meeste productbriefs bevatten geen regel die zegt 'maak gebruikers afhankelijk.' Ze bevatten regels over daily active users, sessieduur, returnrate en feature adoption. Dit zijn redelijke metrieken. Het probleem is dat ze zwijgen over het mechanisme.

Een product kan elk van die getallen halen door echte bruikbaarheid. Het kan ze ook halen door de uitgang moeilijker te vinden. De brief maakt dat onderscheid niet. Dat onderscheid leeft in de hoofden van de mensen die het bouwen, of het leeft nergens.

Dit is de daadwerkelijke designuitdaging die het Microsoft-memo blootlegde. Niet of verslaving bij design verkeerd is, dat onderdeel is makkelijk. De moeilijkere vraag is of je team een zachtere versie van hetzelfde idee in een feature-spec zou herkennen, en of het proces iemand de autoriteit geeft om het aan te kaarten.

Nadella gaf zijn team een antwoord. De rest van ons moet het nog uitwerken.