← Terug naar het dossier

Het bezwaar · The critics

Het argument dat deze hele pagina een afleiding is

Een serieuze groep onderzoekers vindt het x-riskframe verkeerd, en een deel van hen vindt het ronduit schadelijk. Hun argument verdient het om op zijn sterkst weergegeven te worden en niet als stroman, want een zaal die maar één kant hoort, is niet geïnformeerd, die is overtuigd.

ArgumentOnze lezingEen argument, geen verslag. Spreek het tegen.

Wat er gebeurde

Het afleidingsargument. Melanie Mitchell, Timnit Gebru en anderen stellen dat het uitstervingsverhaal aandacht en politiek kapitaal wegtrekt van schade die nu al aanwijsbare mensen treft: discriminatie, surveillance, verdringing op de arbeidsmarkt, de deepfakes, de gelekte beelden. Elk uur dat een parlement aan superintelligentie besteedt, is een uur dat niet naar het ding gaat dat al iemand pijn deed.

Het capaciteitsargument. Mitchells eigen standpunt is dat we intelligentie niet goed genoeg begrijpen om er zeker van te zijn dat we een superintelligent systeem kunnen bouwen, en dat het vakgebied prestaties op benchmarks blijft verwarren met begrip. Gary Marcus maakt een verwant punt over de grenzen van de huidige aanpak.

Het argument van de ontbrekende voorwaarden. Zestig jaar nadat de hypothese van de intelligentie-explosie voor het eerst opgeschreven werd, en meer dan tien jaar na Bostrom, wijzen de critici erop dat geen van de verschijnselen die het argument nodig heeft zich echt voorgedaan heeft: geen systeem dat zichzelf recursief verbetert, geen systeem dat middelen verzamelt voor eigen doelen, geen systeem dat zich verzet tegen aanpassing.

Het argument van de tussenstops. Zelfs als je het mechanisme aanneemt, zijn er onderweg veel momenten waarop mensen kunnen ingrijpen, en 2026 is daar eerder bewijs voor dan tegen: alles op deze pagina werd gevonden.

Filosofen hebben die bezwaren in drie families ondergebracht, het afleidingsargument, het argument van de menselijke kwetsbaarheid en het argument van de tussenstops, en ze serieus onderzocht in plaats van weggewuifd.

Waar dit naar vooruit wijst

Waar de critici het sterkst staan: route 1 tot en met 4 op deze site hebben het uitstervingsverhaal niet nodig, en het afleidingsargument is geen retorische truc, het is een uitspraak over hoe eindige politieke aandacht besteed wordt. Kijk naar wat er in Brussel gebeurde: de concrete verplichtingen werden uitgesteld terwijl iedereen over de abstracte ruziemaakte.

Waar ze het zwakst staan: een aantal van hun empirische beweringen werd in 2026 moeilijker vol te houden. Geen systeem dat capaciteit verwerft in dienst van een doel dat niemand gesteld heeft is lastig te zeggen na juli. We verwarren benchmarks met begrip is lastig te zeggen over een bewijs dat in Lean nagerekend is. Geen van beide is dodelijk voor hun zaak en allebei vragen ze een antwoord.

Het nuttigste aan deze tekst is dat ze niet symmetrisch is met de andere. De critici en de doemdenkers zijn het grotendeels eens over wat er gebeurt. Ze zijn het oneens over wat het betekent en wat je eraan moet doen, en dat is een veel beter gesprek voor een zaal dan een scheldpartij over de vraag of er überhaupt iets gebeurt.

Wat we niet weten

Deze tekst vat standpunten samen, opgebouwd uit secundaire bronnen, en elk van de mensen die hier samengevat wordt, zou zijn eigen zaak anders formuleren. Lees hen rechtstreeks voor je hun iets toeschrijft.

Notitie van de redactiewat wij ervan vinden, apart gehouden van wat er gebeurde

Zorg dat minstens één iemand vooraan dit standpunt echt aanhangt. Als iedereen in het panel vindt dat het risico echt is, wordt de avond een preek en de zaal voelt dat.

Kan je maar één ding lezen uit de bronnen hieronder, lees dan Mitchell. Zij is de zorgvuldigste van de critici en het minst uit op punten scoren.

Bronnen

  1. Melanie Mitchell: misleading metaphors, real risksargument · hoofdbron · nog niet nagelezen
  2. Examining popular arguments against AI existential risk, a philosophical analysisonderzoek · nog niet nagelezenWaar de drie families van argumenten uitgeschreven en getoetst worden.
  3. AI risk skepticism, a comprehensive surveyonderzoek · nog niet nagelezen
  4. Melanie Mitchell: why AI is harder than we thinkargument · nog niet nagelezen

Lees hierna