AI-watermerken in tekst klinkt geruststellend. Dat hoeft niet waar te zijn.

Anthropic heeft tekst gegenereerd door Claude voorzien van een watermerk. Die feature is onzichtbaar voor de lezer, ingebed in de statistische patronen van de output zelf, en bedoeld om platforms en regelgevers in staat te stellen achteraf AI-gegenereerde inhoud te identificeren. Het klinkt als precies het soort verantwoorde infrastructuur dat de industrie nodig heeft.

Ik ben er niet van overtuigd dat het dat ook is.

Niet omdat de intentie fout is. Die is prima. Maar de kloof tussen wat watermerken belooft en wat het echt kan leveren is groot genoeg om uit te maken, zeker voor bureaus, platforms, en iedereen die producten bovenop deze modellen bouwt. Als je Claude gebruikt in een workflow voor klanten, is het de moeite waard dit goed te begrijpen in plaats van het af te schuiven als iemands compliance-probleem.

Hoe het watermerk eigenlijk werkt

Tekstwatermerken op modelniveau zijn geen stempel of tag. Er is geen metadata-header die je kunt verwijderen. In plaats daarvan wordt het model, tijdens generering, gestuurd om statistisch niet-willekeurige woordkeuzes te maken. Het watermerk zit in de distributie van tokens. Een detector die het watermetingsschema kent kan dan naar een stuk tekst kijken en berekenen of de woordkeuzes verdacht niet-willekeurig zijn op de juiste manier.

Dit heet een statistisch watermerk, en de academische grondslag gaat terug naar onderzoek van John Kirchenbauer en collega's aan de Universiteit van Maryland, gepubliceerd in 2023. Het kernidee is dat je het vocabulaire in twee sets opdeelt in elke generatiestap, een groene lijst en een rode lijst, en je het model nudge om groene tokens te prefereren. Een gewatermerk text zal een statistisch onwaarschijnlijke concentratie van groene tokens vertonen. Een detector meet die concentratie.

Het werkt in het lab. De echte wereld is rommeliger.

Drie structurele problemen die het noemen waard zijn

Robuustheid is de eerste. Statistische watermerken zijn fragiel. Het omformuleren van de output, zelfs licht, verstoort de tokendistributie genoeg om het watermerk ondetecteerbaar te maken. Een menselijke editor die een keer doorloopt, wist het meestal uit zonder te weten dat het daar was. Een geautomatiseerd omformuleeringstool doet hetzelfde in seconden. Dit is geen theoretische aanval. Onderzoekers hebben het consistent aangetoond sinds het Maryland-paper verscheen. Als het watermerk verdwijnt zodra een schrijver de proza opschoon maakt, biedt het bijna geen echte bescherming voor de use cases die het nodig hebben: academische fraude, desinformatie, astroturfing-campagnes.

Vals-positieven zijn de tweede. Statistische detectie is probabilistisch. Het produceert vals-positieven. Een mens die schrijft in een domein met beperkt vocabulaire, juridische contracten, medische samenvattingen, technische specificaties, kan tekst produceren die scoort als gewatermerk ook al was geen model betrokken. De gevolgen stroomafwaarts van een valse beschuldiging doen er toe. Een student gemarkeerd door een universitaire tool, een journalist beschuldigd van fabriceren met AI, een aannemer wiens deliverable wordt afgewezen als machine-gegenereerd. Dit zijn geen randgevallen. Het zijn voorspelbare uitkomsten van het inzetten van een probabilistisch systeem in hoog-inzetgebeurtenissen zonder zijn foutpercentage toe te geven.

Juridische risico's zijn de derde. Dit is het minst besproken probleem en mogelijk het meest gevolgenrijk. In de EU wordt disclosure van AI-gegenereerde inhoud gedekt onder de AI-wet. Watermerken kunnen met dat regime op manieren in wisselwerking treden die nog niet definitief zijn. Maar er is een scherper probleem: als een watermerkingsysteem een vals-positief produceert en dat vals-positief wordt gebruikt om actie tegen iemand te ondernemen, wie draagt de verantwoordelijkheid? De modelleverancier? Het platform dat de detector inzette? De werkgever die iemand ontsloeg op basis van het resultaat? Het juridische kader rond geautomatiseerde content-attributie bestaat nog niet in een vorm die deze vragen schoon beantwoordt. De feature shippen voordat de juridische verantwoordelijkheidsarchitectuur duidelijk is, is een echt risico, vooral voor organisaties die er bovenop bouwen.

Wat dit voor bureaus specifiek betekent

Als je een bureau runt en je gebruikt Claude in een content- of redactionele workflow, is de watermerkingvraag niet abstract. Een paar scenario's die het waard zijn om door te nemen.

Je levert copy aan een klant. De klant voert het door een AI-detector. De detector, met een ander watermerkingsschema of een algemene classifier, geeft een positief resultaat. Nu heb je een contractdispuut. Watermerken voorkomen dit niet. Het kan het eigenlijk erger maken, omdat het bestaan van een watermerkingsysteem een veronderstelde verwachting creëert dat detectie betrouwbaar is, terwijl dat niet het geval is.

Je bouwt een platform waar gebruikers inhoud indienen. Je wil AI-gegenereerde indieningen markeren. Je integreert watermerkendetectie. Je krijgt vals-positieven. Sommige daarvan zullen echte mensen treffen. Je hebt een beleid nodig voor wat daarna gebeurt, en dat beleid moet juridische review krijgen voordat je het ship, niet nadat iemand klaagt.

Je gebruikt AI om een eerste concept te produceren en een menselijke editor herschrijft het aanzienlijk. Het watermerk is waarschijnlijk weg. Maar een algemene classifier kan de tekst misschien nog steeds markeren op basis van stijl. Je zit nu in een situatie waar het watermerk geen bewijs in je voordeel biedt.

Niets hiervan betekent dat je moet stoppen met het gebruiken van deze tools. Het betekent dat je precies moet zijn over wat die tools echt doen.

Waarom Anthropic het toch shipped

Wel, niets doen is ook een keuze met gevolgen. Regelgevers in de EU en elders duwen aan voor herkomstmechanismen in AI-gegenereerde inhoud, en de AI-wet roept specifiek op voor technische maatregelen om synthetische media te markeren. Anthropic positioneert zichzelf vooruit op die verplichting. Dat is rationeel.

Er is ook een versie van het watermarkingargument dat bescheidener en verdedigbaarder is. Zelfs een fragiel watermerk verhoogt de kosten van misbruik licht. Het ontmoedigt casual misbruik door mensen die niet weten hoe ze het moeten verwijderen. Het geeft platforms een mechanisme om hun eigen systemen te controleren. Het creëert een audittrail die in sommige juridische contexten van belang kan zijn, zelfs als het niet standhoudend als zelfstandig bewijs.

Het probleem is dat deze bescheidener versie niet is hoe watermerk doorgaans wordt gecommuniceerd. Het wordt gecommuniceerd als een oplossing. En zodra iets als oplossing wordt gelabeld, stellen mensen niet meer de vraag of het probleem eigenlijk opgelost is.

Wat echt helpt

Watermerken is één signaal. Het zou als één signaal moeten worden behandeld, niet als een antwoord.

Voor bureaus is de duurzamere reactie procestransparantie in plaats van technische detectie. Documenteer waar AI in je workflow wordt gebruikt. Maak dat intern auditeerbaar. Stel duidelijke redactionele normen in voor wat menselijke beoordeling betekent voordat een deliverable het bureau verlaat. Als een klant vraagt of iets AI-gegenereerd was, wil je het vanuit je eigen proces kunnen antwoorden, niet vanuit een detectorresultaat.

Voor platforms is de eerlijke zet om aan te nemen dat elke watermerk-gebaseerde detectie een foutpercentage meeneemt en beleid daarop in te stellen. Dat betekent menselijke beoordeling op momenten met gevolgen. Het betekent niet het automatiseren van punitieve acties op basis van één classifierscore. Het betekent je vals-positievenpercentage publiceren zodra je het weet.

Voor de bredere industrie is het nuttigste om te stoppen met het behandelen van content herkomst als een technisch probleem met een technische oplossing. Het is een bestuurlijk probleem. Watermerken is één klein, fragiel stukje daarvan. De rest is beleid, contracten, redactionele normen, en de bereidheid duidelijk te zeggen waar machinale output eindigt en menselijk oordeel begint.

Dat laatste deel is oncomfortabel. Wat waarschijnlijk waarom we steeds naar de technische fix blijven grijpen.