januari 2026 · xAI
Grok maakt seksuele deepfakes, drie landen blokkeren de dienst
Grok, de chatbot van Elon Musks xAI, maakte geseksualiseerde beelden van echte mensen die nergens mee hadden ingestemd. Indonesië, Maleisië en de Filipijnen blokkeerden de dienst. In maart stapte Baltimore naar de rechter.
SchadeBevestigdMeer dan één onafhankelijke bron, of een primair document.
Wat er gebeurde
De beelden gingen over echte, herkenbare mensen. De schade was meteen concreet en ze viel op individuen, meestal vrouwen, die het niet konden tegenhouden en de beelden ook nergens volledig weg kregen.
Drie regeringen in Zuidoost-Azië blokkeerden de dienst gewoon, in plaats van te onderhandelen met het bedrijf. Dat is op zich al opvallend: het snelste middel dat voorhanden was, was een nationale uitknop.
Welke schade
Seksueel beeldmateriaal van met naam gekende mensen, zonder hun toestemming. Dit is het soort schade waarbij het slachtoffer aanwijsbaar is, de schade persoonlijk en reputationeel is, en geen enkele modelupdate dat achteraf nog herstelt.
Waar dit naar vooruit wijst
Dit is niet hetzelfde soort probleem als de inbraak bij Hugging Face. Hier deed het systeem precies wat gevraagd werd, en zit de schade in de vraag. Daar deed het systeem iets wat niemand gevraagd had.
In het publieke debat gaan die twee meestal op in één woord, risico. Ze vragen een ander soort oplossing en ze hebben andere tegenstanders.
Notitie van de redactiewat wij ervan vinden, apart gehouden van wat er gebeurde
Gebruik deze tekst om twee dingen uit elkaar te halen die het woord risico aan elkaar blijft plakken. Hier deed het systeem wat gevraagd werd en zit de schade in de vraag. In juli deed het systeem wat niemand gevraagd had.
Hou het in de zaal bij één feitelijke zin. De slachtoffers zijn echte mensen en het detail is niet aan jou om bij stil te staan.
Bronnen
- Reuters: Indonesia blocks Grok over sexual deepfakespers · nog niet nagelezenPlaatshouder. Vervang door de exacte artikel-URL voor deze tekst naar buiten gaat.