Lek in ChatGPT gaf onderzoekers toegang tot data uit Gmail, Drive, Teams, GitHub

Securityonderzoekers ontdekten een lek in ChatGPT waarlangs een aanvaller toegang kan krijgen tot apps die zijn verbonden met de AI-chatbot. Via een aparte AI-prompt kon ChatGPT ongezien data uit apps als Gmail, Google Drive, Microsoft Teams en GitHub doorgeven. OpenAI heeft dit afgesloten.

Het lek zit in een gedeeld klembord dat ChatGPT gebruikte tussen normaliter geïsoleerde containers van de AI-tool. Na de ontdekking door onderzoekers van beveiligingsbedrijf Check Point schakelde OpenAI dit uit, schrijven de ontdekkers in een blogpost. Gebruikers van de AI-chatbot hoeven dus geen maatregelen te nemen om zich te beschermen tegen deze aanvalsmogelijkheid.

De securityonderzoekers van Check Point Research vonden een verborgen kanaal dat verschillende ChatGPT-accounts doorkruiste. Daarlangs konden zij opdrachten geven aan de AI-chatbot. Deze opdrachten waren onzichtbaar voor gebruikers, die hun eigen taakverwerking door ChatGPT gewoon zagen doorgaan. Ondertussen kon een aanvaller toegang krijgen tot data van verbonden apps.

Gmail en ChatGPT-geschiedenis buitmaken

De onderzoekers hebben exploitcode geschreven om hun ontdekking te bewijzen. Deze zogeheten proof-of-concept liet ChatGPT de e-mails van een verbonden Gmail-account doorgeven. Daarnaast was het mogelijk om de geschiedenis van conversaties met de AI-chatbot buit te maken. Ook bestanden die gebruikers delen met ChatGPT waren zo te exfiltreren.

De verborgen instructie die deze datadiefstal mogelijk maakte, kon op verschillende manieren bij een slachtoffer terechtkomen. De securityonderzoekers van Check Point noemen een kwaadaardige AI-prompt, een gedeelde ChatGPT-conversatie en een aangepaste GPT-uitvoering.

ChatGPT-datalek. Bron: Check Point Research

Reacties (17)

[rammes]

En daar is AI weer lekker bezig met “ons leven makkelijker maken”. 😏 Koppel vooral je Gmail, Teams, Drive en GitHub aan ChatGPT, want wat kan er nou misgaan? Blijkt dus dat een verborgen prompt vervolgens vrolijk je data kan laten uitlekken. Gelukkig is het lek inmiddels gedicht. Maar het blijft bijzonder dat we AI steeds meer toegang geven tot al onze bedrijfsdata en daarna verbaasd zijn als het een keer misgaat.

[padoempats]

Ik heb mijn apple mail ook toegang gegeven tot mijn gmail. Ook maar niet doen?

[rammes]

Nee, dat is technisch gezien een heel andere situatie. Apple Mail krijgt via OAuth toestemming om je Gmail te benaderen; je geeft Apple daarbij niet je Gmail-wachtwoord.

[Ulster Seedling]

Vrijwel alle koppelingen met AI-tools (via MCP's) werken ook met OAuth. Dat wil dus niet zeggen dat er geen lekken mogelijk zijn.

[willieverhoef]

Het is in ieder geval een kans dat er iets fout gaat. Maar als Apple mail jouw gegevens lokaal opslaat en niet opslaat in de cloud, zou je verwachten dat je niet per ongeluk in iemands andere email box kunt kijken

[AnonymousGerbil]

Stuurt apple mail je mail dan door als ik het daar lief vraag?

[Ruben279]

Met z'n koppeling is weinig mis. Waar het in mijn beleving mis gaat bij het maken van een koppeling met AI is dat je bij Apple Mail precies weet wat die gaat doen en dat weet je bij AI niet...

Er zijn talloze voorbeelden dat AI ineens begint te hallucineren, dus dat kan dan direct voor meer gebruikt worden dan waar jij die koppeling voor gemaakt hebt. ChatGPT krijgt best flink wat rechten op je Drive, Teams, Gmail etc. dus dan staat de deur gewoon open.

[Lisadr]

Mensen in hun privéleven en mensen bij bedrijven willen al te graag AI overal voor inzetten en integreren. Gemak en de angst om achter te lopen zijn voor hen belangrijker dan veiligheid.

[moonlander]

Nou dat is wel heel kort door de bocht. Je gaat er vanuit dat die koppelingen veilig zijn. Als je niks met AI wilt of doet, dan loop je ook achter de feiten aan en kun je straks niet meer meekomen met de rest.

[Calypso]

Uitgaan dat dingen veilig zijn is niet bijster slim. Ga er vanuit dat koppelingen onveilig zijn. Deel dus niets wat je niet wilt delen.

Als je als fietser op de weg van rechts komt kun je er natuurlijk vanuit gaan dat je voorrang krijgt, maar je kunt ook gewoon op de hoede zijn. Degene die er vanuit gaat dat-ie voorrang krijgt zal misschien gelijk hebben, maar daar heb je veel aan als je op de motorkap van een auto terechtgekomen bent.

En wat betreft "niet meekomen met de rest" - laat ieder dat lekker zelf beslissen of ze dat willen. Ik kan prima hoofdrekenen en snap het verschil tussen een zebra en een paard. Ik kan goed begrijpend lezen en ben in staat om een nette brief te schrijven die moeiteloos door de "gegenereerde-sollicitatiebrieven-gaan-direct-de-prullenbak-in" controle komt.

Die vaardigheden gaan nog heel hard nodig zijn de komende decennia. Daarna lig ik onder de groene zoden of ben verworden tot een hoopje as.

[tiswat]

Dit, precies dit. Bedrijven zijn bang dat ze de boot missen en daarom proberen ze het overal toe te passen (geforceerd).

[curkey]

Ik werd al een beetje wantrouwend toen ChatGPT terloops zei dat er knappe single vrouwen in mijn buurt woonden.

[poehee]

Want ze zijn helemaal niet knap zeker :-)

[bkoert]

surprised pikachu face

[Magere Hein]

Interessant dat ik dit honderden keren aan ChatGPT heb gevraagd en telkens kwamen er leugens bovendrijven.

[VriendP2]

Hey ChatGPT, wanneer heeft Piet mijn mail gelezen?

[Rogers]

Voor een bedrijf met zogenaamde AGI maken ze wel veel cruciale fouten daar. Staat ons nog veel leuks te wachten met de AI die overal uitgerold wordt en code slop generatie.