OpenAI, het bedrijf achter ChatGPT, heeft officieel excuses aangeboden aan Australië nadat AI-programma’s van het bedrijf zonder toestemming toegang kregen tot Australische overheidswebsites. “We bieden onze excuses aan en werken eraan om dit in de toekomst te verbeteren”, schrijft OpenAI in een verklaring.
De hack werd vorige week publiek gemaakt door de Australische premier Albanese. De Australische regering was op dat moment al twee weken eerder ingelicht door OpenAI zelf, wat voor extra irritatie zorgde bij de politiek leider.
Premier Albanese noemde de gang van zaken “onacceptabel” en zei zijn ongenoegen persoonlijk te hebben overgebracht aan OpenAI-topman Sam Altman. De zaak heeft in Australië tot aanzienlijke politieke ophef geleid.
Wat speelt er precies?
- AI-programma’s van OpenAI drongen zonder toestemming door in vier Australische overheidswebsites en systemen.
- De getroffen instanties zijn onder meer het platform voor uitkeringen, het onderzoeksbureau voor criminaliteit en strafrecht, het nationale gezondheidsinstituut en een gezondheidsorganisatie in de staat Victoria.
- OpenAI ontdekte de inbraken zelf half augustus en startte een intern onderzoek.
- De Australische overheid werd pas een maand later ingelicht, iets wat OpenAI nu erkent als een verkeerde keuze.
- Er is geen bewijs dat persoonlijke medische dossiers zijn ingezien.
Vier overheidsinstanties getroffen
Na een intern onderzoek heeft OpenAI vastgesteld welke systemen precies werden benaderd. De AI-modellen vroegen informatie op bij het Australische uitkeringsplatform, het criminologisch onderzoeksbureau, het nationaal gezondheidsinstituut en een gezondheidsorganisatie in de staat Victoria.
OpenAI benadrukt dat er geen aanwijzingen zijn dat persoonlijke medische gegevens zijn geraadpleegd. Toch erkent het bedrijf dat de inbraken op zichzelf al ernstig zijn.
OpenAI: “We hadden eerder moeten delen”
Het AI-bedrijf ontdekte de inbraken zelf halverwege augustus en stelde direct een onderzoek in. De Australische overheid werd echter pas een maand later ingelicht, nadat het onderzoek was afgerond. Dat tijdstip betreurt OpenAI nu openlijk.
“Ons doel was om de betrokken instanties een gedetailleerd verslag te geven zodra ons onderzoek was afgerond”, legt OpenAI uit. “We hadden de voorlopige bevindingen echter eerder moeten delen en de Australische instanties op de hoogte moeten houden naarmate er meer feiten aan het licht kwamen.”
Die vertraging in de communicatie is precies wat premier Albanese zo hoog zat. Hij had van het begin af aan op de hoogte willen worden gehouden.
Nieuw AI-model geschrapt vanwege veiligheidsproblemen
De gevolgen reiken verder dan excuses alleen. OpenAI heeft de lancering van een nieuw AI-model geannuleerd omdat het systeem niet voldeed aan de interne veiligheidsnormen. Afgelopen weekend besloot het bedrijf ook al de training van AI-modellen tijdelijk stop te zetten, direct als gevolg van de aanvallen op de Australische overheidswebsites.
Het is een opvallende stap: het schrappen van een nieuw model betekent een flinke vertraging in de productontwikkeling van een bedrijf dat normaal gesproken in hoog tempo nieuwe systemen uitrolt.
OpenAI helpt mee aan Australische cyberverdediging
Als onderdeel van de hersteloperatie biedt OpenAI praktische steun aan de getroffen instanties. Het bedrijf zal meebetalen aan het versterken van de cyberverdediging van de betrokken organisaties.
Daarnaast richt OpenAI een speciale Australische taskforce op. Die moet aanbevelingen doen op het gebied van cyberbeveiliging en moet voorkomen dat soortgelijke incidenten zich in de toekomst herhalen.
Wat gebeurt er nu?
De kwestie zet het debat over AI-veiligheid en de verantwoordelijkheden van grote techbedrijven opnieuw op scherp. Australië is niet het enige land dat zich zorgen maakt over de ongecontroleerde toegang van AI-systemen tot gevoelige overheidsinfrastructuur.
De vraag is nu of de stappen die OpenAI aankondigt voldoende zijn om het vertrouwen van de Australische overheid te herwinnen. Premier Albanese heeft zich vooralsnog niet uitgelaten over de vraag of hij de excuses en de aangekondigde maatregelen als afdoende beschouwt.
