Ein KI-Team optimierte für Suchtpotenzial. Der CEO sagte nein.

Bei Microsoft schrieb jemand ein Memo. Der Vorschlag, vereinfacht zusammengefasst: Entwerfe den KI-Agenten so, dass Nutzer von ihm abhängig werden. Baue die Gewöhnungsschleife so eng, dass das Aussteigen schmerzhaft wirkt. Maximiere Engagement dadurch, dass Rückzug unangenehm wird.

Satya Nadella sah es. Seine öffentliche Antwort war deutlich. Wer so etwas schreibt, sollte woanders arbeiten.

Das ist eine bemerkenswerte Aussage für einen CEO. Die meisten Organisationen vergraben solche inneren Spannungen. Nadella machte es öffentlich. Und gab der restlichen Industrie damit versehentlich einen Gedanken, über den sich nachzudenken lohnt.

Diese Spannung existiert nicht nur bei Microsoft

Jedes Produktteam, das KI-gestützte Tools baut, sieht sich einer ähnlichen Drucksituation ausgesetzt. Wachstumsziele wollen Engagement. Engagement-Teams wollen Retention. Retention, ungezügelt, kippt in Abhängigkeit um.

Das Memo war keine Anomalie. Es war das logische Ergebnis einer bestimmten Art von Produktdenken: Behandle den Nutzer als Variable, die optimiert werden soll, nicht als Person mit einem Kontext und einem Leben außerhalb des Produkts. Man sieht dieselbe Logik in sozialen Plattformen, in mobilen Spielen, in Abo-Dashboards, die Kündigungen wie ein Labyrinth wirken lassen.

Was hier anders ist, ist das Substrat. KI-Agenten sind keine passiven Feeds. Sie beantworten Fragen, führen Aktionen aus, halten Kontext über Sessions hinweg. Sie arbeiten nah an der Arbeit, die Menschen wirklich tun. Die Angriffsfläche für Abhängigkeit ist viel größer, und die ethischen Einsätze sind proportional höher.

Was das Memo über Wert missverstanden hat

Abhängigkeit und Wert sind nicht dasselbe. Ein Quartal oder zwei können sie auf einem Dashboard identisch wirken. Dann divergieren sie.

Ein Nutzer, der bleibt, weil Gehen schmerzhaft ist, ist kein zufriedener Nutzer. Es ist eine Geisel. Geiseln empfehlen keine Kollegen weiter. Sie upgraden nicht freiwillig. Sie gehen, sobald eine glaubwürdige Alternative auftaucht, und sagen unterwegs unflattering Dinge.

Die Logik des Memos missversteht auch, wo KI-Produkte wirklich Wert schaffen. Menschen adoptieren KI-Tools, weil diese ihnen helfen, schneller zu denken, weniger Fehler zu machen oder eine Antwort zu finden ohne drei Browser-Tabs und einen Forum-Thread. Das ist ein echtes Geschäft. Es in eine Abhängigkeitsschleife zu wickeln erhöht nicht den Wert. Es zersetzt das Vertrauen, das den Austausch möglich gemacht hat.

Es gibt eine noch spitzere Version dafür im Enterprise-Bereich, wo Microsoft am stärksten konkurriert. Enterprise-Käufer haben Procurement-Teams, Compliance-Reviews und Switching Costs, die bereits in Verträgen verankert sind. Sie brauchen kein Produkt, das Lock-in konstruiert. Sie brauchen ein Produkt, das sich Renewals verdient. Das sind unterschiedliche Design-Briefings.

Warum Agenturen darauf achten sollten

Wenn du Produkte für Clients baust oder KI-Features berätst, ist das Memo ein nützlicher Spiegel.

Der Druck, der es erzeugt hat, steckt in jedem Projekt, das ein Engagement-KPI neben einem Ethics-Prinzip im Brief hat. Irgendwann fragt jemand, ob die Engagement-Zahl schneller bewegt werden kann. Die Antwort ist oft ja, wenn du bereit bist, mit der Aufmerksamkeit des Nutzers zu handeln, auf eine Weise, der der Nutzer nie zugestimmt hat.

Die praktische Frage ist. Wer in deinem Prozess fängt diesen Trade ab, bevor er shipped? Bei Studio Hyra passiert das bei KI-Feature-Work häufiger als überall sonst. Die Design-Oberfläche eines KI-Agenten, wie er antwortet, was er sich merkt, wann er Vorschläge anzeigt, wann er schweigt, ist auch eine Oberfläche für Manipulation, wenn keiner hinschaut.

Wir behandeln das als konkretes Design-Anliegen, nicht als philosophisches. Es zeigt sich in Reviews. Es wirkt sich darauf aus, was wir empfehlen. Es ist nicht eine Policy, die wir posten und vergessen.

Was Nadellas Antwort eigentlich signalisiert

CEOs korrigieren normalerweise keine Product-Memos öffentlich. Wenn sie es tun, bedeutet das, dass etwas die Schwelle überschritten hat, die interne Kanäle enthalten könnten.

Das Memo zirkulierte wahrscheinlich. Jemand außerhalb des unmittelbaren Teams sah es. Nadellas öffentliche Ablehnung war auch ein öffentliches Signal an jeden anderen, der ähnliche Framing erwägt: Das ist nicht die Richtung.

Das ist ein Governance-Move so viel wie eine Werteaussage. Es setzt einen Referenzpunkt. Zukünftige Vorschläge, die die gleiche Logik widerspiegeln, haben jetzt einen benannten Präzedenzfall gegen sich.

Für die Industrie ist der nützlichere Takeaway nicht, dass Microsoft eine schlechte Idee hatte und sie abfing. Es ist, dass die Anreizstruktur, die das Memo erzeugt hat, noch immer besteht. Wachstumsziele änderten sich nicht, als Nadella antwortete. Die nächste Person, die ein Memo über Engagement schreibt, sieht sich demselben Druck gegenüber. Das Einzige, das Ergebnisse im Laufe der Zeit ändert, ist, ob der Design- und Product-Prozess genug Reibung eingebaut hat, um solche Vorschläge zu verlangsamen, bevor sie öffentlich an die Oberfläche kommen.

Diese Reibung ist keine Bürokratie. Sie ist Handwerk. Sie ist die Frage, an dem Punkt, wo ein Feature gescoped wird, wessen Interessen es wirklich dient. Sie ist die Behandlung der Zeit und Aufmerksamkeit des Nutzers als Ressource, die er dir leiht, nicht eine, die du besitzt.

Das Brief, das niemand aufschreibt

Die meisten Product-Briefs enthalten keine Zeile, die sagt. "mache Nutzer abhängig." Sie enthalten Zeilen über Daily Active Users, Session Length, Return Rate und Feature Adoption. Das sind vernünftige Metriken. Das Problem ist, dass sie zum Mechanismus schweigen.

Ein Produkt kann jede dieser Zahlen durch echten Nutzen erreichen. Es kann sie auch erreichen, indem es den Off-Ramp schwerer zu finden macht. Der Brief unterscheidet nicht zwischen beiden. Diese Unterscheidung lebt im Kopf der Menschen, die es bauen, oder sie lebt nirgendwo.

Das ist die eigentliche Design-Herausforderung, die das Microsoft-Memo freigelegt hat. Nicht ob Sucht by Design falsch ist, das ist leicht. Die schwerere Frage ist, ob dein Team eine weichere Version derselben Idee in einem Feature-Spec erkennen würde, und ob der Prozess jemandem den Stand gibt, um sie zu flaggen.

Nadella gab seinem Team eine Antwort. Der Rest von uns muss noch die unsere herausarbeiten.