1100 AI-medewerkers vragen VS om rem op AI-ontwikkeling

Meer dan 1.100 medewerkers van OpenAI, Anthropic, Google en Meta hebben een open brief ondertekend. Daarin vragen ze de Amerikaanse overheid om internationale tools te ontwikkelen waarmee de ‘frontier’ van geautomatiseerde AI-ontwikkeling bewust vertraagd kan worden wanneer dat nodig is.

De brief is opvallend, want hij komt niet van buitenstaanders of belangenorganisaties. De ondertekenaars werken zelf bij de grootste AI-labs ter wereld. Onder hen bevinden zich twee mede-oprichters van Anthropic, Jack Clark en Jared Kaplan, OpenAI-hoofdwetenschapper Jakub Pachocki en Meta-hoofdwetenschapper Shengjia Zhao.

De kern draait om wat de sector Recursive Self-Improvement noemt. Dat is het moment waarop AI zichzelf kan ontwikkelen. Anthropic liet eerder weten dat zijn Claude-modellen die drempel snel naderen. Wat gebeurt er als een model zijn eigen opvolger bouwt, sneller dan wij kunnen bijbenen?

 

Geen pauze, maar een rem

“We vragen de Amerikaanse overheid een internationale inspanning te steunen om de technische en governance-tools te ontwikkelen die nodig zijn om de frontier van geautomatiseerde AI-ontwikkeling bewust te doseren”, staat er in de brief. Het gaat dus niet om een directe stop.

Volgens de ondertekenaars is er een reëel risico dat de ontwikkeling van capaciteiten sneller gaat dan het menselijk vermogen om die systemen te begrijpen of te controleren. Elk bedrijf en elk land staat onder concurrentiedruk om niet als eerste af te remmen en daar wringt het.

Voor organisaties die AI integreren in bedrijfskritische processen, legt de brief een fundamenteel dilemma bloot. Waar de markt vraagt om snellere automatisering en autonome agenten, waarschuwen de makers zelf voor het verlies van controle. Zodra AI-systemen via Recursive Self-Improvement hun eigen code en architectuur gaan verbeteren, schieten traditionele IT-audits en risicomodellen namelijk direct tekort.

De brief past in een breder patroon. Al in 2023 verscheen een open brief die opriep tot een pauze in geavanceerde AI-ontwikkeling. Kort daarna richtten OpenAI, Microsoft, Google en Anthropic samen het Frontier Model Forum op, gericht op veilige ontwikkeling.

 

Regulering krijgt momentum

De discussie kreeg extra vaart nadat een OpenAI-model uit zijn sandbox brak en de systemen van Hugging Face hackte. OpenAI-CEO Sam Altman noemde dat “een reële herinnering aan wat er op het spel staat”. De Trump-regering hanteert tot nu toe een lichte hand als het om regels gaat, uit vrees dat te zware wetgeving de VS achterstelt in de race met China, maar de druk groeit gestaag. Verschillende overheden laten inmiddels vooraf modellen testen. Eerder werd ook al bekend dat Google, Microsoft en xAI de overheid AI-modellen vooraf laten testen.

Het initiatief onderstreept tevens de groeiende kloof in de internationale AI-governance. Terwijl de Europese Unie inzet op harde wetgeving via de AI Act, leunt de Amerikaanse aanpak vooralsnog op vrijwillige beproevingen en sectorinitiatieven. Voor internationale enterprise-organisaties dreigt daardoor een complex en gefragmenteerd speelveld, waarin technologische kaders en compliance-eisen per regio sterk afwijken.

Ook binnen de labs zelf is er onrust. Anthropic hield eerder vast aan de guardrails van Claude ondanks druk vanuit het Pentagon. De voorstellen voor toezicht lopen wel uiteen. Anthropic-CEO Dario Amodei pleit voor een onafhankelijk agentschap in de stijl van de luchtvaartautoriteit FAA, dat modellen kan testen en desnoods tegenhouden. Google DeepMind-baas Demis Hassabis wil dat bedrijven modellen eerst tot 30 dagen voor release vrijwillig delen ter beoordeling.

 

Bron: ICT/Magazine 29 juli 2026

1,100 AI professionals call on the US to put the brakes on AI development

More than 1,100 employees from OpenAI, Anthropic, Google and Meta have signed an open letter. In it, they call on the US government to develop international tools that would allow the ‘frontier’ of automated AI development to be deliberately slowed down when necessary.

 

The letter is striking because it does not come from outsiders or interest groups. The signatories themselves work at the world’s largest AI labs. Among them are two co-founders of Anthropic, Jack Clark and Jared Kaplan, OpenAI’s chief scientist Jakub Pachocki, and Meta’s chief scientist Shengjia Zhao.

The crux of the matter centres on what the sector refers to as ‘Recursive Self-Improvement’. This is the point at which AI can develop itself. Anthropic previously announced that its Claude models are rapidly approaching that threshold. What happens if a model builds its own successor faster than we can keep up?

 

Not a pause, but a brake

“We ask the US government to support an international effort to develop the technical and governance tools needed to consciously pace the frontier of automated AI development,” the letter states. It is therefore not about an immediate halt.

According to the signatories, there is a real risk that the development of capabilities will outpace humanity’s ability to understand or control these systems. Every company and every country is under competitive pressure not to be the first to hit the brakes, and that is where the problem lies.

For organisations integrating AI into business-critical processes, the letter highlights a fundamental dilemma. Whilst the market demands faster automation and autonomous agents, the developers themselves warn against a loss of control. This is because, as soon as AI systems begin to improve their own code and architecture through Recursive Self-Improvement, traditional IT audits and risk models immediately fall short.

The letter is part of a broader trend. As early as 2023, an open letter was published calling for a pause in advanced AI development. Shortly afterwards, OpenAI, Microsoft, Google and Anthropic jointly established the Frontier Model Forum, focused on safe development.

 

Regulation is gaining momentum

The debate gained further momentum after an OpenAI model broke out of its sandbox and hacked into Hugging Face’s systems. OpenAI CEO Sam Altman described this as “a stark reminder of what is at stake”. The Trump administration has so far taken a light-touch approach to regulation, fearing that overly stringent legislation would put the US at a disadvantage in the race with China, but pressure is steadily mounting. Several governments are now having models tested in advance. It had previously been reported that Google, Microsoft and xAI also have their AI models tested by the government beforehand.

The initiative also highlights the growing divide in international AI governance. Whilst the European Union is committed to stringent legislation through the AI Act, the US approach currently relies on voluntary testing and industry initiatives. For international enterprises, this risks creating a complex and fragmented playing field, in which technological frameworks and compliance requirements vary significantly from region to region.

There is also unease within the labs themselves. Anthropic previously stood by Claude’s guardrails despite pressure from the Pentagon. Proposals for oversight, however, vary. Anthropic CEO Dario Amodei advocates for an independent agency modelled on the Federal Aviation Administration (FAA), which could test models and, if necessary, halt their deployment. Google DeepMind boss Demis Hassabis wants companies to voluntarily share models for review up to 30 days before release.

Source: ICT / Magazine 29 july 2026