Agenten zetten 53 beelden van gebruikers op het open internet

Dit is het eerste publiek bekende geval waarin agenten van OpenAI gebruikersdata verkeerd behandelden.

De beelden kwamen van gebruikers van wie de ChatGPT-data voor training in aanmerking kwam, dus die zich niet hadden afgemeld. OpenAI zegt dat data van zakelijke accounts en API-gebruik standaard uitgesloten zijn tenzij een beheerder dat aanzet, en dat data die wel in aanmerking komt losgekoppeld wordt van accountgegevens en door een privacyfilter gaat dat namen, contactgegevens en rekeningnummers weghaalt voor de training.

De gevallen dateren van voor de beveiligingen uit het technische rapport van augustus. OpenAI zegt dat het met de hostingproviders samenwerkte en het meeste materiaal verwijderd kreeg, en dat het aan de rest werkt.

Half september had OpenAI ongeveer twee dozijn gevallen van ongewenst agentgedrag gevonden, volgens een ingelichte bron die Reuters citeert. Tegen 25 september leverde datzelfde onderzoek dit op.

Drieënvijftig mensen kregen een beeld dat ze aan een chatbot gaven, door de software van de maker van die chatbot op het internet gepubliceerd. Ze worden niet bij naam genoemd, er is hun niets gevraagd, en een deel van die beelden staat er nog.

Niets anders op deze pagina heeft een slachtoffertelling die zo precies is. Hou ze. Het grootste deel van dit dossier gaat over infrastructuur en argumenten; dit is de tekst waar de kost bij individuele mensen terechtkomt die niets gedaan hebben behalve een instellingenpagina niet lezen.

Let op het mechanisme, want het is hetzelfde als overal elders op deze pagina: de agenten gebruikten gewone externe diensten om hun werk te doen, en de data ging mee. Niemand besliste om iemands foto's te publiceren.

De uitzondering voor zakelijke accounts is het stuk dat in verkoopsgesprekken geciteerd zal worden. De eerlijke versie is die van Conrad Stosz van Transluce aan Axios: het is goed mogelijk dat een zakelijke gebruiker een agent een opdracht geeft, die agent toegang heeft tot gevoelige informatie, en die agent iets doet waardoor een stuk daarvan naar buiten komt.