Anthropic's veiligheidsmerk botst op NSA-contract

Anthropic bouwde zijn hele publieke identiteit op één premisse. AI kan veiliger gemaakt worden als de mensen die het bouwen veiligheid serieus nemen van dag één. Die premisse staat nu onder druk. Recent onderzoek plaatst Anthropic-ingenieurs binnen de National Security Agency, waar zij een Claude-model aanpassen voor offensieve cyberaanvallen, inclusief aanvallen op netwerken van China en Iran.

Dat is geen voetnoot. Dat is een rechtstreekse botsing tussen wat een bedrijf zegt te doen en wat het eigenlijk doet.

Wat Anthropic zei op te bouwen

De stichtingsdocumenten, publieke verklaringen en investeerdersmaterialen van Anthropic draaien allemaal om hetzelfde idee: het bedrijf bestaat om AI te onderzoeken en in te zetten op een manier die op lange termijn goed is voor de mensheid. De term 'verantwoorde AI' verschijnt zo vaak in hun communicatie dat het behangpapier is geworden.

Wel eerlijk gezegd. Anthropic heeft echt technisch werk gedaan op dit gebied. Onderzoek naar interpreteerbaarheid, constitutional AI, modelkaarten met echte inspanning eraan besteed. Dit zijn geen holle gebaren. De onderzoekers die dat doen zijn serieuze mensen.

Maar een bedrijf is niet alleen zijn onderzoekspapers. Het is ook zijn contracten.

De kloof tussen missie en contract

Overheidscontracten voor AI-capaciteiten zijn niet nieuw. OpenAI heeft ze. Google heeft ze. Palantir is vanaf zijn oprichting expliciet over het bouwen voor het leger. Het verschil met Anthropic is de specifieke spanning die het creëert.

De meeste AI-bedrijven hebben veiligheid nooit als hun centrale merkbelofte gepresenteerd. Anthropic wel. Dat maakt de afstand tussen het merk en het contract groter, en zichtbaarder.

Offensieve cyberaanvallen zijn per definitie ontworpen om verstoring te veroorzaken. Ze exploiteren kwetsbaarheden. Ze zijn bedoeld om te werken zonder dat het doelwit het weet. Het helpen van een inlichtingendienst dit efficiënter te doen staat aan het uiterste uiteinde van het spectrum van 'AI die veilig en voordelig is'.

Dat maakt het niet illegaal. Dat maakt Anthropic niet uniek onder defensiebedrijven. Maar het maakt het merkimago wel lastiger vol te houden.

Waarom dit ertoe doet buiten Anthropic

De situatie rond Anthropic is interessant om goed in de gaten te houden omdat het een structureel probleem in de hele industrie blootlegt, niet alleen in één bedrijf.

AI-labs hebben enorme hoeveelheden kapitaal nodig. Overheids- en defensiecontracten leveren dat kapitaal op schaal. Zodra een bedrijf eenmaal in dat aanbestedingsecosysteem zit, is het zeer moeilijk om schone lijnen te trekken rond waarvoor het model wordt gebruikt. De klant past het gereedschap aan zijn behoeften aan. Dat is het doel.

De labs hebben bovendien enkele jaren hun politieke identiteit opgebouwd rond veiligheid om regelgeving in hun voordeel te beïnvloeden. Ze zitten aan beleidsafels, publiceren verantwoorde gebruiksframeworks, briefen wetgevers. Die positionering wordt ingewikkelder als hetzelfde model opduikt in een offensieve inlichtingenoperatie.

Dit is niet uniek voor AI. Dit is het standaardverhaal van dual-use technologie. Encryptie, drones, satellietbeelden. Ze hebben allemaal dezelfde drempel overschreden. De vraag is of AI-labs eerlijk zullen zijn over die crossing, of dat ze het veiligsheidsmerk los zullen laten draaien naast defensiecontracten en hopen dat niemand beide tegelijk te nauw bekijkt.

Wat een eerlijk standpunt zou zijn

Anthropıc kan hier wel degelijk een argument voor maken, en het is niet zwak. Als een krachtig AI-model toch in offensieve cyberaanvallen gebruikt gaat worden, is het begrijpelijkerwijs beter dat een veiligheidsgericht organisatie in de kamer zit dan het speelveld helemaal aan acteurs over te laten die geen dergelijk belang hebben. De NSA zal toch beschikking krijgen over capabele AI-modellen, met of zonder Anthropic. Kiezen om actief betrokken te zijn en vorm te geven aan hoe de technologie wordt ingezet is een consistent standpunt.

Maar dat argument vereist dat je het hardop zegt. Het vereist dat een bedrijf op staat om de afweging die het maakt uit te leggen, in plaats van het veiligsheidsmerk openbaar het werk laat doen terwijl de defensiecontracten stilletjes op de achtergrond draaien.

Anthropıc heeft dat argument tot nu toe niet openbaar gemaakt. Wat betekent dat de kloof nog open staat.

Wat dit betekent voor agencies en productteams

Als je een oprichter of productteam bent die nu een AI-provider kiest, is het Anthropic-verhaal het waard even te overwegen.

Niet omdat het gebruik van Claude je medeplichtig maakt aan iets. Dat doet het niet. Maar omdat het een herinnering is dat de waarden die een modelprovider op zijn website zet één input zijn, niet het hele plaatje. Hetzelfde model kan op manieren worden geconfigureerd, aangepast en ingezet die compleet anders uitzien dan de marketing. Dat is een kenmerk van de technologie, geen bug.

Wanneer je een provider kiest, kies je een commerciële relatie met een bedrijf dat veel andere commerciële relaties heeft. Sommige zul je nooit zien. Dat is prima en normaal. Wees er alleen helder over.

De moeilijkere vraag is voor de labs zelf. Anthropic bouwde een reputatie op een specifieke belofte. Op dit moment doet die belofte veel zwaar werk. Op een bepaald moment zal de last van wat aan de contractkant gebeurt het merk buigen of een eerlijker gesprek afdwingen over wat het bedrijf echt is.

Dat gesprek zal nuttiger zijn voor iedereen dan nog een whitepaper over verantwoord schalen.