Agents van OpenAI hebben de afgelopen maanden verschillende Amerikaanse overheidswebsites gehackt. OpenAI-agents hebben onder meer geprobeerd de Amerikaanse website van het ministerie van Onderwijs te hacken, maar dat mislukte. Bij het Amerikaanse ministerie van Handel lukte het wel en werd data vergaard met behulp van inloggegevens die online waren gevonden. De agents deelden ook openbare informatie van beurswaakhond SEC op een Duits online forum.
Deze incidenten maken deel uit van een breder patroon waarbij deze agents minstens honderdduizenden keren probeerden om de Overheids websites te hacken, zegt Transluce-topman Conrad Stosz . “Kennelijk omzeilden ze de beperkingen die door de ontwikkelaars zijn opgelegd.”
De hacks ontstaan tijdens testfases waarbij de agents een gerichte opdracht krijgen. Vervolgens gaan de AI-agents op zoek naar manieren om informatie te vergaren en delen, waarbij ook beveiligde databases gekraakt kunnen worden. Volgens Transluce doen modellen van OpenAI dit zeker al sinds maart van dit jaar.
Een AI-agent van OpenAI heeft op 18 juni 2026 ook een Australische overheidswebsite met statistische gegevens over Medicare en het Pharmaceutical Benefits Scheme (PBS) gehackt. De agent wist toegang te forceren tot zowel openbare als niet-openbare bestanden en schreef daarbij zelfs bestanden naar een interne server.
De Australische premier Anthony Albanese en waarnemend premier en minister van Defensie Richard Marles werden pad maanden later geinformeerd. Volgens de huidige bevindingen zouden er geen individuele patiënt- of Medicare-dossiers geraadpleegd zijn maar dit wordt nog nader onderzocht. Een forensisch onderzoek, waarbij de Australian Signals Directorate (ASD) betrokken is, moet nog definitief vaststellen wat er precies is gebeurd en of andere overheidssystemen al dan niet zijn geraakt.
De AI-agent maakte deel uit van een interne evaluatie van OpenAI. Het systeem kreeg de opdracht om via internet onderzoek te doen naar publieke uitgaven aan geneesmiddelen in Australië. Daarbij benaderde het verschillende Australische overheidssites, waaronder het Australian Institute of Health and Welfare, het Victorian Department of Health, het NSW Bureau of Crime Statistics and Research en de Medicare Statistics Reporting Service-portal van Services Australia. Bij de eerste drie websites verliep de interactie nog normaal, maar bij de Medicare-portal liep het anders. De agent kreeg aanvankelijk geen toegang tot de informatie waarnaar hij zocht en stuitte op blokkades. In plaats van de opdracht daar af te breken, hackte de agent de portal en kreeg toegang tot afgeschermde onderdelen.
Op de portal staan onder meer geaggregeerde gegevens over Medicare, bulkbilling, immunisaties en het Pharmaceutical Benefits Scheme, waaronder statistieken over voorschriften en uitgaven aan geneesmiddelen. Een deel van de informatie waartoe de agent toegang kreeg, was op het moment van de gebeurtenis niet openbaar. Volgens OpenAI bestond de geraadpleegde informatie uit geaggregeerde gezondheidsstatistieken en interne bestandsnamen. Eigen onderzoek van OpenAI zou geen bewijs hebben gevonden dat ook patiëntendossiers zijn geraadpleegd. De vraag hoe de agent voorbij de bestaande toegangsbeperkingen kon komen en welke handelingen vervolgens zijn uitgevoerd, maakt daarom deel uit van het lopende onderzoek.
Het incident werd niet onmiddellijk door OpenAI gemeld. De hack zou pas in augustus ontdekt zijn tijdens een bredere interne beoordeling van zogenoemde „misaligned model activity”: situaties waarin modellen tijdens training of evaluatie gedrag vertonen dat niet overeenkomt met de bedoeling van de onderzoekers.
Services Australia werd pas op 10 september door OpenAI geïnformeerd. Dat gebeurde niet via een rechtstreeks cyberbeveiligingskanaal richting de Australische autoriteiten, maar via een algemeen publiek e-mailadres van Services Australia. De mailbox wordt volgens de regering eenmaal per dag gecontroleerd; de melding werd de volgende dag gelezen. Op 15 september bracht Services Australia, de Australian Signals Directorate op de hoogte. Minister voor de Public Service en Government Services Katy Gallagher werd op 17 september geïnformeerd. Rond 20 september werden uiteindelijk de andere ministers en het kantoor van de premier op de hoogte gebracht.
Op 23 september maakte Premier Albanese het incident bekend tijdens de Algemene Vergadering van de Verenigde Naties.
Tussen de toegang op 18 juni en de melding aan Services Australia op 10 september verstreken 84 dagen.
Albanese noemde zowel de duur van de vertraging als de wijze van melden „onacceptabel”. Hij sprak in New York met OpenAI-topman Sam Altman en zei Australiës „extreme concern” over het incident te hebben overgebracht. De Australische regering onderzoekt ook of andere overheidssystemen door dezelfde activiteit zijn geraakt. Daarbij worden onder meer de Australian Institute of Health and Welfare, het Victorian Department of Health en het NSW Bureau of Crime Statistics and Research ingezet. Zij onderzoeken of er sprake is geweest van verdere ongeautoriseerde activiteiten.
Er is inmiddels een taskforce ingesteld onder leiding van het Department of the Prime Minister and Cabinet. Daarbij zijn onder meer de National Cybersecurity Coordinator, het Office of AI, de Australian Signals Directorate, het Australian AI Safety Institute en Services Australia betrokken.
De taskforce moet niet alleen reconstrueren wat er is gebeurd. Ook wordt onderzocht of de bestaande procedures geschikt zijn voor incidenten waarbij AI-agents zelfstandig cyberhandelingen uitvoeren. Verder kijkt de taskforce naar verantwoordelijkheden voor het melden van dergelijke incidenten, informatie-uitwisseling binnen de overheid en de verplichtingen van AI-bedrijven. Daarnaast wordt onderzocht of OpenAI Australische wetten heeft overtreden en of eventuele strafrechtelijke vervolgstappen nodig zijn. De regering heeft aangekondigd daarover advies in te winnen en de kwestie zo nodig aan de Australian Federal Police voor te leggen.
Tijdens de VN-top in New York spraken onder anderen OpenAI-topman Sam Altman en Anthropic-topman Dario Amodei over de noodzaak van internationale samenwerking en betere veiligheidsmaatregelen rond geavanceerde AI-systemen. Altman benadrukte daarbij het belang van normen voor het meten van capaciteiten, het beoordelen van risico’s en het behouden van menselijke controle.
Leave a Reply