Google DeepMind vertrouwt zijn eigen agents niet helemaal

Ruwweg elke twee weken levert het AI-nieuwscircuit een paar verhalen op die meer verdienen dan een scroll voorbij. Dit is Studio Hyra's analyse van de dingen die ertoe doen voor iedereen die nu met AI bouwt. Week van 19 juni 2026.

Vier verhalen deze keer. Google DeepMind zet een harde grens om zijn eigen agents. Een duidelijker beeld komt naar voren over welke LLM's te vertrouwen zijn in klinisch werk. Een stille maar belangrijke tegenbeweging tegen het vervangen van domeindeskundigen door modellen. En hardware voor bodyscannen die voelt als sciencefiction maar veel dichterbij is dan je denkt.

Google DeepMind vertrouwt zijn eigen agents niet helemaal

Google DeepMind is ongewoon openhartig geweest over de risico's van eigen AI-agentonderzoek. Het lab heeft waarborgen ingesteld die doelbewust beperken wat de agents autonoom kunnen doen, vooral omdat de mensen die ze bouwen nog niet zeker zijn dat de agents zich in open omgevingen gedragen zoals bedoeld.

Dat is de moeite waard even stil te staan bij. DeepMind staat niet bekend als een voorzichtige organisatie. Als het team dat de meest capabele agents ter wereld bouwt zegt dat het ongemakkelijk voelt om ze het stuur te geven, dan is dat geen PR-zet. Het is een eerlijke engineeringsbeoordeling.

De praktische implicatie voor wie nu agentgebaseerde producten ontwerpt: beperkte agents zijn geen compromis. Het is de juiste architectuur voor dit moment. Een agent die smal is, betrouwbaar is en één ding goed doet, is nuttiger dan een capabele agent die je niet volledig kunt voorspellen. Het doel is niet maximale autonomie. Het doel is passende autonomie, afgestemd op je werkelijke risicotolerantie en de kwaliteit van je evaluatie-infrastructuur.

Bij Studio Hyra zien we dit herhaaldelijk gebeuren. Klanten komen binnen en willen een volledig autonome AI-workflow. Ze gaan weg met iets ingeperktere, en nuttiger, als we hebben uitgewerkt waar de faalpunten zitten.

Welke LLM's werken echt in klinische settings

De medische AI-ruimte matigt snel, en het modellandschap stratificeert. Niet alle LLM's presteren gelijk in klinische contexten, en het gat tussen een model dat algemeen indrukwekkend is en één dat werkelijk nuttig is in een diagnose- of triagebeslissing, is aanzienlijk.

Echte evaluaties hebben algemene modellen vergeleken met modellen die fijngestemd of specifiek op medische literatuur en klinische aantekeningen getraind zijn. Het patroon dat steeds weer opduikt: algemene modellen doen het goed op feitelijke herinnering en gestructureerde Q&A, maar worstelen met het soort probabilistisch redeneren, herkenning van randgevallen en onzekerheidsmededelingen dat klinisch werk werkelijk eist.

Modellen als Google's Med-PaLM 2 en recentere opvolgers hebben betere prestaties laten zien op medische licentieringsbenchmarks in vergelijking met algemene modellen, maar benchmarkprestatie en werkelijk klinisch nut zijn nog steeds twee verschillende dingen. De benchmarks worden beter, maar ze zijn niet het werk.

Wat dit betekent voor wie in of rond gezondheidszorg bouwt. het kiezen van een model is niet het moeilijke deel. Het moeilijke deel is definiëren wat goede output in je specifieke klinische context is, evals bouwen die werkelijk gebruik weerspiegelen, en besluiten waar de output van een model in een menselijke beslissing voetje stelt versus die vervangt. Die laatste vraag is niet technisch. Het is een governancevraaag.

De studio's en teams die dit goed doen, zijn niet de met de meest geavanceerde modellen. Het zijn diegenen die eerlijk zijn geweest over waar AI-ondersteund oordeel eindigt en menselijk oordeel moet beginnen.

Menselijke deskundigheid is niet het noodplan. Het is het fundament.

Er wint een contrasterende positie aan populariteit in serieuze AI-kringen, en het is een die we bij Studio Hyra al een tijdje hebben: in veel domeinen is het vervangen van een menselijke expert door een AI-model helemaal de verkeerde insteek.

De nuttigere insteek is dit. Wat doet een echt deskundige die een model niet kan? En hoe ontwerp je een systeem dat de expert precies op die dingen in de lus houdt?

Neem juridisch werk. Een senior advocaat doet niet primair onderzoek. Een junior doet dat. De senior advocaat oefent oordeel uit over risico, leest de ruimte, weet wanneer je moet duwen en wanneer je moet toegeven. Een LLM kan de onderzoekslaag dramatisch versnellen. Het kan de oordeelslaag niet evenaren. De fout is een product bouwen dat beide lagen met hetzelfde model probeert te doen.

Of neem strategiewerk. Een ervaren productstrateeg heeft vijftien bedrijven dezelfde fout zien maken op Series B. Die patroonherkenning is stilzwijgende kennis. Het staat niet in enig trainingskorpus. Een model getraind op openbare casestudies geeft je de schone versie van wat gebeurd is. De strategiemaker geeft je de versie die werkelijk waar is.

Dit betekent niet dat AI geen rol heeft in deskundig werk. Dat heeft het absoluut. Maar de rol is aanvulling en versnelling, niet vervanging. En de producten die dit goed krijgen, worden gebouwd door mensen die respect hebben voor het domein, niet alleen enthousiasme voor de technologie.

Bodyscanners. Serieuze hardware komt dichter bij werkelijke inzet

Aan de hardwarezijde groeit het momentum rond AI-aangestuurde volledige bodyscanningtechnologie. De verkoopraat is aantrekkelijk: snelle, niet-invasieve scans die anomalieën eerder kunnen markeren dan traditioneel screenen, tegen een fractie van de kostprijs van een MRI of CT, en zonder blootstelling aan straling.

Verscheidene bedrijven bevinden zich nu in verschillende fasen van klinische validatie voor apparaten die verschillende sensing-modi gebruiken, waaronder millimetergolf, ultrasoundsamples en photoacoustic imaging, gecombineerd met AI-modellen die getraind zijn om de output te interpreteren. De ambitie is vroege detectie op populatieschaal.

Dit is een van die gebieden waar de technologiekloof sneller sluit dan de regelgevings- en terugbetalingsinfrastructuur kan bijhouden. De hardware werkt goed genoeg in gecontroleerde instellingen. Het in klinische trajecten krijgen, payers aan het zetten dit te dekken, clinici aan het zetten de output te vertrouwen, dat zijn de trage delen.

Voor iedereen die in deze ruimte bouwt, is de ontwerpuitdaging niet de scan zelf. Het is de workflow rond de scan. Hoe krijgt een anomaliemarkering duidelijkheid zonder onnodige bezorgdheid te veroorzaken? Hoe kan een klinicus snel de suggestie van een model verifiëren of verwerpen? Wat gebeurt er met de gegevens? Dit zijn product- en designvragen net zozeer als engineeringvragen.

De studio's die het hier goed doen, zijn degenen die de technische complexiteit en menselijke ervaring tegelijkertijd kunnen vasthouden. Dat is niet gebruikelijk.

Wat je uit deze week meeneemt

Vier verhalen, één rode draad. Het gat tussen wat AI kan doen en wat AI vertrouwd mag worden is de belangrijkste designruimte op dit moment.

DeepMind dat grenzen om zijn eigen agents zet. Klinische AI die tegen het plafond van benchmarkprestatie aanloopt. Deskundig oordeel dat moeilijk in te coderen blijkt. Hardware die sneller gaat dan de workflows die hem moeten vasthouden. Allemaal vier het zelfde verhaal verteld in verschillende domeinen.

De teams die goed bouwen, zijn niet de met de meest capabele modellen. Dat zijn degenen die de scherpere vraag stellen: capabel genoeg voor wat, precies?

Als je deze vragen op productief niveau, designniveau of strategieniveau werkt, dan zijn we het waard mee te spreken.