1100 AI-medewerkers vragen VS om rem op AI-ontwikkeling
Meer dan 1.100 medewerkers van OpenAI, Anthropic, Google en Meta hebben een open brief ondertekend. Daarin vragen ze de Amerikaanse overheid om internationale tools te ontwikkelen waarmee de ‘frontier’ van geautomatiseerde AI-ontwikkeling bewust vertraagd kan worden wanneer dat nodig is.
De brief is opvallend, want hij komt niet van buitenstaanders of belangenorganisaties. De ondertekenaars werken zelf bij de grootste AI-labs ter wereld. Onder hen bevinden zich twee mede-oprichters van Anthropic, Jack Clark en Jared Kaplan, OpenAI-hoofdwetenschapper Jakub Pachocki en Meta-hoofdwetenschapper Shengjia Zhao.
De kern draait om wat de sector Recursive Self-Improvement noemt. Dat is het moment waarop AI zichzelf kan ontwikkelen. Anthropic liet eerder weten dat zijn Claude-modellen die drempel snel naderen. Wat gebeurt er als een model zijn eigen opvolger bouwt, sneller dan wij kunnen bijbenen?
Geen pauze, maar een rem
“We vragen de Amerikaanse overheid een internationale inspanning te steunen om de technische en governance-tools te ontwikkelen die nodig zijn om de frontier van geautomatiseerde AI-ontwikkeling bewust te doseren”, staat er in de brief. Het gaat dus niet om een directe stop.
Volgens de ondertekenaars is er een reëel risico dat de ontwikkeling van capaciteiten sneller gaat dan het menselijk vermogen om die systemen te begrijpen of te controleren. Elk bedrijf en elk land staat onder concurrentiedruk om niet als eerste af te remmen en daar wringt het.
Voor organisaties die AI integreren in bedrijfskritische processen, legt de brief een fundamenteel dilemma bloot. Waar de markt vraagt om snellere automatisering en autonome agenten, waarschuwen de makers zelf voor het verlies van controle. Zodra AI-systemen via Recursive Self-Improvement hun eigen code en architectuur gaan verbeteren, schieten traditionele IT-audits en risicomodellen namelijk direct tekort.
De brief past in een breder patroon. Al in 2023 verscheen een open brief die opriep tot een pauze in geavanceerde AI-ontwikkeling. Kort daarna richtten OpenAI, Microsoft, Google en Anthropic samen het Frontier Model Forum op, gericht op veilige ontwikkeling.
Regulering krijgt momentum
De discussie kreeg extra vaart nadat een OpenAI-model uit zijn sandbox brak en de systemen van Hugging Face hackte. OpenAI-CEO Sam Altman noemde dat “een reële herinnering aan wat er op het spel staat”. De Trump-regering hanteert tot nu toe een lichte hand als het om regels gaat, uit vrees dat te zware wetgeving de VS achterstelt in de race met China, maar de druk groeit gestaag. Verschillende overheden laten inmiddels vooraf modellen testen. Eerder werd ook al bekend dat Google, Microsoft en xAI de overheid AI-modellen vooraf laten testen.
Het initiatief onderstreept tevens de groeiende kloof in de internationale AI-governance. Terwijl de Europese Unie inzet op harde wetgeving via de AI Act, leunt de Amerikaanse aanpak vooralsnog op vrijwillige beproevingen en sectorinitiatieven. Voor internationale enterprise-organisaties dreigt daardoor een complex en gefragmenteerd speelveld, waarin technologische kaders en compliance-eisen per regio sterk afwijken.
Ook binnen de labs zelf is er onrust. Anthropic hield eerder vast aan de guardrails van Claude ondanks druk vanuit het Pentagon. De voorstellen voor toezicht lopen wel uiteen. Anthropic-CEO Dario Amodei pleit voor een onafhankelijk agentschap in de stijl van de luchtvaartautoriteit FAA, dat modellen kan testen en desnoods tegenhouden. Google DeepMind-baas Demis Hassabis wil dat bedrijven modellen eerst tot 30 dagen voor release vrijwillig delen ter beoordeling.