← Terug naar het dossier

september 2026 · OpenAI, Anthropic, Google DeepMind, xAI

De mensen die het bouwen, vragen zelf om te vertragen

De hoofdwetenschapper van OpenAI schreef dat geen enkel lab alignment goed genoeg opgelost heeft om op volle snelheid te blijven opschalen. Sam Altman, Dario Amodei, Demis Hassabis en Elon Musk zeiden allemaal dat ze een vertraging van de ontwikkeling zouden steunen. Dat zijn de vier grootste labs, publiek, in dezelfde maand.

ArgumentBevestigdMeer dan één onafhankelijke bron, of een primair document.

Wat er gebeurde

Jakub Pachocki, hoofdwetenschapper bij OpenAI, publiceerde op 6 september een essay over steeds capabelere AI en het onderzoek dat nog nodig is om systemen aligned te houden.

De uitspraken van de vier topmensen kwamen na Hugging Face en de reeks meldingen erna. Het zijn uitspraken van steun voor een vertraging, geen vertraging. OpenAI vertraagde zijn eigen training wel degelijk; wat de anderen deden is een aparte vraag die deze tekst niet beantwoordt.

Waar dit naar vooruit wijst

Lees het citaat van Pachocki twee keer. Het is de hoofdwetenschapper van het bedrijf dat het model bouwde uit het incident van juli, die op papier zegt dat niemand dit opgelost heeft, dat hij hoopt dat vrijwillige vertragingen gewoon worden tot er gedeelde veiligheidsnormen zijn, en dat internationale samenwerking een topprioriteit voor overheden moet worden.

Die laatste zin is een vraag gericht aan mensen zoals die in een zaal in Leuven. Het is meteen ook wat Europa nu niet doet: zie 7 mei.

De cynische lezing ligt voor de hand en is de moeite om te noemen: een lab dat om regels vraagt na een incident dat het zelf veroorzaakte, is ook een lab dat de regels vormgeeft die het gaat krijgen. Beide lezingen kunnen kloppen.

Notitie van de redactiewat wij ervan vinden, apart gehouden van wat er gebeurde

Het citaat van Pachocki is het nuttigste wat je de hele avond kan voorlezen. Het is lang. Lees het toch, traag.

Geef daarna de cynische lezing, want iemand in de zaal denkt ze al en ze komt beter van jou.

Op dit moment denk ik dat geen enkel lab alignment en monitoring voldoende opgelost heeft om nog lang op maximale snelheid verantwoord te blijven opschalen. Ik verwacht en hoop dat vrijwillige vertragingen gewoon worden tot er gedeelde veiligheidsdrempels zijn. En ik denk dat internationale samenwerking over toekomstige AI-ontwikkeling een topprioriteit moet worden voor overheden wereldwijd.

Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer. I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established. And I believe that international coordination on future AI development needs to become a top priority for governments around the world.

Jakub Pachocki, hoofdwetenschapper bij OpenAI · OpenAI timeline, entry of 6 September, on the Pachocki essay

Bronnen

  1. OpenAI timeline, entry of 6 September, on the Pachocki essayprimair · hoofdbronHet citaat staat daar voluit. Link het essay zelf zodra je de URL hebt.
  2. Axios: OpenAI agents tried hacking various sites in May, JunepersVoor Altman, Amodei, Hassabis en Musk die zeiden een vertraging te steunen.

Lees hierna