OpenAI-agent hackt Australische overheidswebsite met zorgstatistieken

Een AI-agent van OpenAI heeft een Australische overheidswebsite gehackt. Dat zegt premier Anthony Albanese. De agent kreeg toegang tot statistieken van een overheidsprogramma rond ziektekostenverzekeringen. Er zijn geen medische gegevens van inwoners ingezien.

Dit nieuws in het kort

• De Australische overheid is onbedoeld door een AI-agent van ChatGPT-maker OpenAI gehackt.
• De AI-agent had toegang tot een portal met statistieken van de Australische gezondheidszorg, maar niet tot medische gegevens van inwoners.
• Het is het zoveelste incident waarbij een AI-agent onbedoeld een hack uitvoert.

De hack gebeurde al op 18 juni, zo maakt de Australische overheid nu bekend tegenover journalisten. De Australische premier zegt dat de OpenAI-agent toen onbevoegd toegang kreeg tot het statistiekenportal van Medicare, de Australische universele ziektekostenverzekering, schrijft Reuters. Het lijkt de eerste keer te zijn dat een AI-agent een overheidswebsite hackt.

Volgens Albanese zijn er geen aanwijzingen voor 'bredere inbreuken' op het netwerk. "Toch is deze situatie natuurlijk onaanvaardbaar", zei de Australische premier tegen media in New York, waar hij de Algemene Vergadering van de VN bijwoont.

Premier Anthony Albanese in het Australische parlement. Bron: Hilary Wardhaugh / Getty Images

'Onderzoek naar gezondheidszorg'

De AI-agent onderzocht publieke uitgaven in de gezondheidszorg, schrijft ook persbureau Reuters. De agent wilde daarbij antwoorden opzoeken en deed dat door de Australische overheid te hacken.

Het incident wordt verder onderzocht. Albanese voegt toe dat hij 'zwaar teleurgesteld' is in het bedrijf, dat maandenlang wachtte om de Australische overheid op de hoogte te stellen. Dat gebeurde pas op 10 september, zegt hij.

Geen medische dossiers ingezien

Albanese belooft dat het lopende onderzoek ook zal bekijken waarom de Australische overheid de hack zelf niet heeft opgemerkt. Mogelijk hackte de AI-agent nog eens drie overheidswebsites rondom de gezondheidszorg, al is dat nog niet bevestigd, schrijft Reuters.

Er zijn ook geen aanwijzingen dat er patiëntendossiers zijn ingezien. In het gehackte Australische portal stonden alleen gegevens over het algemene gebruik van de gezondheidszorg in heel Australië. De agent had dus geen toegang tot individuele declaraties, uitbetalingen, bankgegevens of medische dossiers.

Zoveelste hack door een AI-agent

Deze hack is de zoveelste in een rijtje incidenten. Dat begon toen OpenAI meldde dat een van zijn AI-agenten onbedoeld AI-platform Hugging Face had gehackt. Ook toen was een onuitgebracht AI-model bezig met een benchmark. Het wist toegang tot het internet te krijgen en uiteindelijk het platform te hacken voor de antwoorden.

Critici waren overigens sceptisch over die hack. Ze vonden dat hij nooit had mogen gebeuren. De AI-agenten konden wekenlang hun gang gaan, zonder dat OpenAI de uitbraakpogingen opmerkte. Bovendien vonden ze dat de AI-modellen in de sandbox niet écht geïsoleerd waren, aangezien ze indirect alsnog toegang tot het internet konden krijgen. Ze noemen OpenAI daarom vooral nalatig.

Verschillende andere bedrijven meldden sinds het Hugging Face-incident dat ook hun AI-modellen onbedoeld bedrijven hadden gehackt. Anthropic volgde als eerste, en onlangs nog meldde Google hetzelfde.

Ook de Australische overheid werd onbedoeld gehackt door een AI-agent. Bron: Sarayut Thaneerat/Getty Images

Reacties (21)

[LootersV]

Ik zie dit liever niet gebeuren, maar stel je voor dat een echte AI alle medische dossiers ter wereld in kan zien, dit kan koppelen aan andere data zoals voeding, beweging, slaap, etc.Je zou het grootste cohort onderzoek ooit in de geschiedenis van de hele medische wetenschap kunnen doen met al die data.

Tegelijkertijd kan je zulke data nooit aan een openAI, Facebook of Google toevertrouwen.

[Scribe]

Ah geweldig, niet alleen een gigantische privacy inbreuk en geweldige data voor zorgverzekeringen, maar ook nog eens overal subscriptions waar je kunt betalen om te voorspellen wanneer je zal sterven

Vind het vooral een erg eng idee, juist omdat het met de huidige technologie steeds realistischer wordt

[Eren]

Verzekeraars zullen hier om smullen om te zeggen: uit ons systeem is er gevonden dat je x aandoening waarschijnlijk hebt, waardoor je een verhoging van pakket x dit jaar niet mag doen, maar volgend jaar pas.

[Echt niet.]

Kan Australië de verantwoordelijke bij OpenAI aanklagen?

[MSalters]

Ik heb het even gecheckt. Volgens Australische wetgeving is nalatigheid onvoldoende reden. Er moet zelfs een substantiële bijdrage zijn voordat je medeschuldig bent.

[MIO]

Ik mis hier nogal wat context over de precieze toedracht en exacte 'hack'. Dat bepaalt voor mij nogal de ernst van de zaak. Immers als een portal simpelweg openstaat, noem ik dat geen hack. Daarnaast kan het ook zijn dat documenten met een eenvoudig URL op te sporen zijn. Wellicht heeft de agent het met gokken of proberen de toegang weten te bereiken. En vanaf welk moment spreek je van brute force als een wachtwoord eenvoudig te raden is?

[S.McDuck]

Maar is de AI nou zo slim of de beveiliging niet op orde?
Dit soort incidenten zou juist in alle openheid gedeeld moeten worden zodat er inzicht komt hoe een systeem te werk gaat en of er aanvullende maatregelen moeten komen.

[Arjan P]

Maar is de AI nou zo slim of de beveiliging niet op orde?

Het is het bedrijf erachter, hier dus OpenAI, die dit toelaat of anderszins niet heeft beperkt, dus verantwoordelijk is en naar mijn mening strafbaar. Alleen schijnt dat niet door te dringen omdat mensen denken dat 'die slimme AI is uitgebroken', en OpenAI die visie vooral ook promoot. Er zou eens een grote zaak moeten worden aangespannen om een dergelijke zaak (bijvoorbeeld Hugging Face) voor de rechter te krijgen en fikse boetes uit te delen.

[well0549]

Precies, aanklagen een meteen miljarden eisen......

Anders leren ze het nooit af.....

[Gubbel]

AI is momenteel niet slim. Het verwerkt data, roept dezelfde tools aan die je als mens ook kunt gebruiken en genereert een antwoord op basis van wat het meest logische volgende woord zou zijn. Niets meer. Het enige dat het doet is alles vele malen sneller doen dan mensen waardoor beveilings problemen veel sneller aan het licht komen.

[Olaf van der Spek]

Maar is de AI nou zo slim of de beveiliging niet op orde?

Beide, denk ik. Maar een heleboel mensen vinden aandacht voor dat laatste niet op zijn plaats..

[Jeldert]

Oeps, zo hadden we het niet bedoeld

En ze gaan weer door.

[SCIxX]

Zou goed zijn als dit soort artikelen wat meer achtergrond zouden krijgen. Als we zeggen "Open-AI agent hackt", wat betekent dat in de praktijk. Er wordt geschreven dat de AI publieke uitgaven onderzocht en om dit doel te verwezenlijken deze website heeft gehackt.

Noem me sceptisch, maar ik werk dagelijk met agents en die gaan niet zomaar uit eigen houtje een website hacken. Hoe zag dit hacken er uberhaubt uit, heeft die toevallig een open URL gevonden via web searches, heeft die een wachtwoord gebrute-forced? Wat is er precies gebeurd.

Zonder dit soort details voelt dit als sensationalisme.

[Tjark]

De agent kreeg toegang tot statistieken van een overheidsprogramma rond ziektekostenverzekeringen.

Is dit niet gewoon een gebruiker die bepaalde statistieken/gegevens wilde en ChatGPT gevraagd heeft om de overheidswebsite te scrapen, eventueel met creatieve methoden? Om dan meteen 'gehackt' te zijn, terwijl de opdrachtgever de AI vraagt creatief de data op te zoeken is ook weer overdreven.

[well0549]

Gewoon voor miljarden aan klagen....

Als Mc Donalds 500 miljoen moet betalen voor te warme koffie, moet hier toch minimaal 50 miljard te halen zijn...

Te meer omdat het keer op keer gebeurt, het lijkt wel of ze er met een excuusje vanaf komen..

Als je een robot ontwikkeld en die blijkt steevast bank overvallen lijkt te plegen ben je toch ook strafbaar en wordt je gestopt, waarom nu dan niet

[Kamermans]

Laten we duidelijk wezen; als je een usb/whatever met bepaalde AI in een serverfarm propt omdat je toevallig toegang hebt tot de daadwerkelijke server en je kan goed AI coderen om het te hacken; daar liggen je gegevens. Klaro.

[The-Source]

Wat is zorgelijker, dat je gehackt bent of dat je te hacken was?
Je komt dan eigenlijk ook in het white hat / black hat deel uit.

Nu zal de AI agent data hebben gezien maar is er ook iets met die data gedaan? (weer verschil white hat / black hat).
Zie het ook zo, als je gehackt word. Wie had je dan liever over de vloer.. een AI agent (by misstake *) of bijvoorbeeld ShinyHunters met gevolgen van dien.
Dus ja het is zeer vervelend dat het gebeurd maar tijd dat links en rechts veel exploit / niet goed beveiligde sites/ producten boven water komen is gewoon nu en zal nog ongeveer 4 jaar duren voordat iedereen de security weer op een goed/beter niveau heeft om de AI agents buiten de deur te houden. Want nu was de Agent van OpenAI zelf maar andere modellen (al dan niet opensource) kunnen net zo goed door minder vriendelijke partijen worden ingezet.