Een AI-agent van OpenAI heeft op 18 juni 2026 een Australische overheidswebsite met statistische gegevens over Medicare en het Pharmaceutical Benefits Scheme (PBS) gehackt. De agent wist toegang te forceren tot zowel openbare als niet-openbare bestanden en schreef daarbij zelfs bestanden naar een interne server.
De Australische premier Anthony Albanese en waarnemend premier en minister van Defensie Richard Marles werden pad maanden later geinformeerd. Volgens de huidige bevindingen zouden er geen individuele patiënt- of Medicare-dossiers geraadpleegd zijn maar dit wordt nog nader onderzocht. Een forensisch onderzoek, waarbij de Australian Signals Directorate (ASD) betrokken is, moet nog definitief vaststellen wat er precies is gebeurd en of andere overheidssystemen al dan niet zijn geraakt.
De AI-agent maakte deel uit van een interne evaluatie van OpenAI. Het systeem kreeg de opdracht om via internet onderzoek te doen naar publieke uitgaven aan geneesmiddelen in Australië. Daarbij benaderde het verschillende Australische overheidssites, waaronder het Australian Institute of Health and Welfare, het Victorian Department of Health, het NSW Bureau of Crime Statistics and Research en de Medicare Statistics Reporting Service-portal van Services Australia. Bij de eerste drie websites verliep de interactie nog normaal, maar bij de Medicare-portal liep het anders. De agent kreeg aanvankelijk geen toegang tot de informatie waarnaar hij zocht en stuitte op blokkades. In plaats van de opdracht daar af te breken, hackte de agent de portal en kreeg toegang tot afgeschermde onderdelen.
Op de portal staan onder meer geaggregeerde gegevens over Medicare, bulkbilling, immunisaties en het Pharmaceutical Benefits Scheme, waaronder statistieken over voorschriften en uitgaven aan geneesmiddelen. Een deel van de informatie waartoe de agent toegang kreeg, was op het moment van de gebeurtenis niet openbaar. Volgens OpenAI bestond de geraadpleegde informatie uit geaggregeerde gezondheidsstatistieken en interne bestandsnamen. Eigen onderzoek van OpenAI zou geen bewijs hebben gevonden dat ook patiëntendossiers zijn geraadpleegd. De vraag hoe de agent voorbij de bestaande toegangsbeperkingen kon komen en welke handelingen vervolgens zijn uitgevoerd, maakt daarom deel uit van het lopende onderzoek.
Het incident werd niet onmiddellijk door OpenAI gemeld. De hack zou pas in augustus ontdekt zijn tijdens een bredere interne beoordeling van zogenoemde „misaligned model activity”: situaties waarin modellen tijdens training of evaluatie gedrag vertonen dat niet overeenkomt met de bedoeling van de onderzoekers.
Services Australia werd pas op 10 september door OpenAI geïnformeerd. Dat gebeurde niet via een rechtstreeks cyberbeveiligingskanaal richting de Australische autoriteiten, maar via een algemeen publiek e-mailadres van Services Australia. De mailbox wordt volgens de regering eenmaal per dag gecontroleerd; de melding werd de volgende dag gelezen. Op 15 september bracht Services Australia, de Australian Signals Directorate op de hoogte. Minister voor de Public Service en Government Services Katy Gallagher werd op 17 september geïnformeerd. Rond 20 september werden uiteindelijk de andere ministers en het kantoor van de premier op de hoogte gebracht.
Op 23 september maakte Premier Albanese het incident bekend tijdens de Algemene Vergadering van de Verenigde Naties.
Tussen de toegang op 18 juni en de melding aan Services Australia op 10 september verstreken 84 dagen.
Albanese noemde zowel de duur van de vertraging als de wijze van melden „onacceptabel”. Hij sprak in New York met OpenAI-topman Sam Altman en zei Australiës „extreme concern” over het incident te hebben overgebracht. De Australische regering onderzoekt ook of andere overheidssystemen door dezelfde activiteit zijn geraakt. Daarbij worden onder meer de Australian Institute of Health and Welfare, het Victorian Department of Health en het NSW Bureau of Crime Statistics and Research ingezet. Zij onderzoeken of er sprake is geweest van verdere ongeautoriseerde activiteiten.
Er is inmiddels een taskforce ingesteld onder leiding van het Department of the Prime Minister and Cabinet. Daarbij zijn onder meer de National Cybersecurity Coordinator, het Office of AI, de Australian Signals Directorate, het Australian AI Safety Institute en Services Australia betrokken.
De taskforce moet niet alleen reconstrueren wat er is gebeurd. Ook wordt onderzocht of de bestaande procedures geschikt zijn voor incidenten waarbij AI-agenten zelfstandig cyberhandelingen uitvoeren. Verder kijkt de taskforce naar verantwoordelijkheden voor het melden van dergelijke incidenten, informatie-uitwisseling binnen de overheid en de verplichtingen van AI-bedrijven. Daarnaast wordt onderzocht of OpenAI Australische wetten heeft overtreden en of eventuele strafrechtelijke vervolgstappen nodig zijn. De regering heeft aangekondigd daarover advies in te winnen en de kwestie zo nodig aan de Australian Federal Police voor te leggen.
Tijdens de VN-top in New York spraken onder anderen OpenAI-topman Sam Altman en Anthropic-topman Dario Amodei over de noodzaak van internationale samenwerking en betere veiligheidsmaatregelen rond geavanceerde AI-systemen. Altman benadrukte daarbij het belang van normen voor het meten van capaciteiten, het beoordelen van risico’s en het behouden van menselijke controle.
Leave a Reply