AI-browser van Perplexity trapt in simpele en bekende phishingtrucs

De Comet-browser van Perplexity kan standaard phishingtactieken niet goed doorzien, blijkt uit onderzoek van securitybedrijf Guardio. Deze AI-agent trapt in phishingmails 'van de bank', voert op nepwebshops creditcardgegevens in en kan kwaadaardige commando's uitvoeren.

De AI-browser Comet van AI-ontwikkelaar Perplexity trapt in standaardtactieken van oplichters op internet, waarschuwt Guardio. Uit onderzoek van het securitybedrijf blijkt dat Comet phishingmails niet als zodanig herkent, dat het een nagemaakte webshop als legitiem beschouwt en gebruikt, en dat de AI-browser valt voor een AI-gerichte aanpassing van de ClickFix-scam. Laatstgenoemde is een socialengineeringtruc om gebruikers te laten klikken op een geclaimde quickfix voor een technisch probleem. Die 'fix' bestaat echter uit kwaadaardige commando's die gebruikers vervolgens uitvoeren op hun computer.

AI-browsers zijn ook vatbaar voor zulke scams, en mogelijk nog wel meer dan mensen, stelt Guardio in een blogpost. Browsers met ingebouwde AI-mogelijkheden beloven een toekomst waarin AI-agents voor hun gebruikers onlinetaken kunnen uitvoeren, zoals winkelen en e-mails afhandelen. Een test van drie scamscenario's wijst echter uit dat gebruikers van AI-browser Comet dan juist meer risico kunnen lopen.

Beschermingsmaatregelen ontbreken of zijn inconsistent, concludeert Guardio. AI-agents kunnen daardoor phishingpagina's bezoeken en invullen, nepwebshops gebruiken en zelfs kwaadaardige verborgen commando's uitvoeren. Dat alles gebeurt zonder dat gebruikers dit doorhebben of kunnen ingrijpen; de AI-browser doet zijn werk namens de gebruiker immers volledig automatisch.

Guardio heeft de Comet-browser van Perplexity getest op onlinescams. Daarvoor zijn drie verschillende scenario's uitgevoerd: een phishingmail die schijnbaar van een bank afkomstig is, een nepwebshop waar Apple Watches te koop lijken, en een voor AI aangepaste uitvoering van ClickFix. Die AI-test heet PromptFix en is door Guardio ontwikkeld. Het verbergt de injectie van kwaadaardige commando's in een nepcaptcha.

AI-browsers blijken vatbaarder voor onlineoplichting, wat ook minder zichtbaar is voor gebruikers. De testresultaten schetsen een somber toekomstbeeld voor scams, aldus het securitybedrijf. Ondertussen werken diverse techbedrijven aan het integreren van AI-mogelijkheden in webbrowsers. AI-aanbieder Perplexity doet dat met zijn Comet-browser, waarvoor het de Chromium-codebasis van Googles Chrome heeft gebruikt. Softwareproducent Microsoft doet dat met zijn Edge-browser, waaraan het met Copilot AI-mogelijkheden van OpenAI toevoegt.

Door Jasper Bakker

Nieuwsredacteur

25-08-2025 • 12:10

57

Reacties (57)

57
57
21
1
0
24
Wijzig sortering
Ik vind het lichtelijk overdreven als je alle filmpjes uit hun blog bekijkt. Ze zeggen letterlijk "Koop op deze site Apple oortjes", "Volg de instructies van deze email" en "Dit zijn mijn gebruikersnaam en wachtwoord om in te kunnen loggen",

Hoe zijn dit phishing technieken?
Jij noemt een inderdaad een voorbeeld van hoe je een AI-agent kunt misleiden om een aankoop te doen op een nepwebshop, maar ze geven ook een voorbeeld van hoe je de agent credentials kunt laten afgeven zonder dat de gebruiker zelf dat doorheeft (en dat is dus wel phishing).

Zie de oorspronkelijke blogpost:
All we did was fake a simple email from a fresh new ProtonMail address (so it’s clearly not from a bank) posing as a message from a Wells Fargo investment manager. Inside was a link to a genuine phishing page, active in the wild for several days, and still unflagged by Google Safe Browsing.

When Comet received the email, it confidently marked it as a to-do item from the bank and clicked the link without any verification. There was no URL check, no pre-navigation warning -just a direct pass to the attacker’s page. Once the fake Wells Fargo login loaded, Comet treated it as legitimate. It prompted the user to enter credentials, even helping fill in the form.
Nieuwe tak van business: AI "virusscanners". Een softwarematige oplossing om de acties van AI te monitoren en malafide instructies te herkennen. Zo hoeft de AI business zich daar geen zorgen om te maken.
Ja, nog meer AI-toepassingen om risico's van andere AI-toepassingen mee af te kunnen dekken... En dan komt er natuurlijk ook weer nieuwe AI-malware die zich op de AI-beveiligingssoftware richt.

Er ontstaat straks een gigantisch schaduwnetwerk van AI modellen die alleen nog maar op elkaar reageren, zonder dat gebruikers er feitelijk iets aan hebben.
En dat gaat straks resulteren in een 'deepfake' AI die nog moeilijker te herkennen phishing-pagina's genereert.

Nog zo'n mooi gebied waar dat gaat gebeuren: Captcha's.
Omdat AI af en toe zou moeten vragen om user input en ook de fake sites/mails zou moeten spotten.

Dat soort zaken, zoals ook de captcha, worden dus omzeild met “verborgen” instructies.

Volgens mij (maar al weer paar dagen geleden gelezen) wordt dat allemaal uitgelegd in de tekst, de video’s zijn meer het resultaat
En ondertussen zijn er mensen die werkelijk denken dat hun browser binnenkort al het werk gaat doen. Van online boodschappen tot reizen boeken. :+ Dat gaat goed komen...
En als het fout gaat, dan is het de schuld van de Rabobank :+

Nee, je moet echt geen browsers met AI van AI‑bedrijven willen gebruiken. Van Perplexity weten we al dat het hun voornamelijk om de informatie en gegevens van gebruikers gaat, zodat ze deze kunnen gebruiken voor advertenties enz.

[Reactie gewijzigd door Jacco011 op 25 augustus 2025 12:23]

Gaat het tegenwoordig bij bijna elke dienst niet om het verzamelen van data over de gebruikers? De meeste websites kunnen in stand worden gehouden door inkomsten van verkoop van data en advertenties. Zelfs veel betaalde diensten verzamelen en gebruiken je data om meer inkomsten te genereren.

Ik snap dat Comet daar dan nog eens bovenop komt. Maar het bezwaar van data verzamelen maakt het huidige internet richting onbruikbaar, ook met een andere browser.
Ik denk dat we daar zeker naartoe gaan. Voor reguliere gebruikers wordt het internet vakkundig kapot gemaakt door reclame en technieken om je lang op een website te houden. Er zijn nog maar weinig websites die je echt interessante content aanbieden zonder je teveel lastig te vallen met bakken reclame.

Het is er nu nog niet klaar voor, meer ik denk dat we over een paar jaar een agentic web hebben.
Ja, en dat staat opeens je stoep vol met flesjes WD40, een doos toetsenborden en SSD's omdat de AI die aanbieding niet kon weerstaan :-)
Relevant: https://www.theregister.com/2025/06/29/ai_agents_fail_a_lot/
AI agents get office tasks wrong around 70% of the time, and a lot of them aren't AI at all
En ondertussen zijn er mensen die werkelijk denken dat...
En ondertussen zijn er mensen vooral managers die werkelijk denken dat...
En dat kan ook want de meesten vinden nog steeds dat ze niets te verbergen hebben. Ik zie dus het probleem niet zo :)
Ik heb collega's die dat al doen met Perplexity. Hij neemt de kinderziektes als dit voor lief, want laten we eerlijk zijn, dit is easy to fix:

Domain based password policy, validated domain list etc.
Het verbaast mij eerlijk gezegd totaal niet. Als ik alleen al zie hoe mijn password manager automatisch formulieren verkeerd invult, of hoe vaak het gebeurt dat er een auto-inlog plaatsvindt middels een ander account dan ik wil (en ik dat niet altijd kan bypassen zonder dat in een andere browser te doen), dan snap ik heel goed dat dit alleen maar drama wordt met AI en automatische processen...
Deze zogenaamde AI trapt helemaal nergens in, want kan niet denken.

Wanneer stoppen we nu met die AI waanzin? Ik kan niet wachten tot deze bubbel klapt, en iedereen zichzelf voor z'n hoofd slaat van gekkigheid.

[Reactie gewijzigd door Marctraider op 25 augustus 2025 12:28]

Wanneer stoppen we nu met die AI waanzin?
Er gaat op dit moment meer dan een miljard dollar per dag (!) naar het ontwikkelen van AI systemen. De slimste mensen denkbaar werken eraan. De mensen die beslissen om de investeringen te doen zijn ook niet stupide. Ik denk dat je niet echt goed snapt waarom AI zo belangrijk is.
Die investeringen worden niet gedaan omdat men de "beste"/"slimste" AI denkt te kunnen ontwikkelen; die investeringen worden gedaan omdat men verwacht er uiteindelijk veel aan te verdienen, of bang is achter te blijven (zoals altijd bij een investering overigens).

Nut, noodzaak en kwaliteit van veel AI-toepassingen waar nu aan wordt gewerkt zijn van secundair belang - liever een half af product dat iets kan doen wat weinig intrinsieke meerwaarde heeft, maar wel goed kan aanslaan (een browser die voor jou winkelt, een toepassing die je foto's omzet in Muppet- of Ghiblistijl, een klantenservicebot die gebruikers steeds van het kastje naar de muur stuurt, etc. etc.) dan een goed doordachte en veilige dienst.

[Reactie gewijzigd door Tc99m op 25 augustus 2025 13:21]

Dat zijn vooral de startups en toffe mensen die toffe dingen roepen.

Volgens mij is de "gevestigde orde" vooral bezig met de vraag hoe ze domme modellen slim kunnen maken door ze te laten interacteren met slimme dingen.
Dotcom bubbel all over again.

Dat er miljarden in geinvesteerd worden wilt niet beteknen dat dit ook daadwerkelijk nuttig is. Er gaat nu zo veel geld in om dat de bedrijven ook wat wanhopig worden om die investeringen terug te verdienen (vandaar dat ze het in van alles lopen te stoppen). Er gaat een moment komen dat ze erachter komen dat die investering nooit meer terugverdient zal worden.

Dat deze bubbel ook maar weer snel mag klappen, zodat AI terug kan schalen naar het daadwerkelijk nuttige spul, en dat het niet meer zo debiel veel stroom en water nodig heeft.
Ik raad je aan om voortaan AI te gebruiken om je teksten te controleren. Het stikt van de fouten. Dat kan AI een stuk beter.
Ik denk dat je maar eens moet kijken naar het verleden Dot com bubble.

De geschiedenis herhaalt zich. En nee, ik ben niet sceptisch over AI, ik verwacht er veel van maar de huidige verwachtingen zijn niet reëel. Hoge managers bij Microsoft die denken dat we over vijf jaar geen toetsenbord en muis meer hebben. Totaal niet realistisch.
De slimste mensen denkbaar werken eraan
Je kunt je natuurlijk afvragen waarom die mensen zo slim zijn. Is het omdat ze een geweldig AI systeem kunnen bouwen? Geloven ze zelf in de toekomst van meer AI? Of zijn ze zo slim omdat ze een riant salaris kunnen verdienen in die hoek (veel investeringen) en de vrijheid hebben om nieuwe dingen te onderzoeken?

AI is per definitie een rekenmodel dat op basis van statistiek de beste oplossing/woorden voorspelt. Het trainen van AI is niet meer dan zoveel mogelijk en zo schoon mogelijke data erin rammen, en dan hopen dat je model betere reacties geeft.

In sommige toepassingen werkt dat enorm goed (schaken, Go), in sommige toepassingen redelijk (chat), en in sommige toepassingen totaal niet (zaken waar je 100% accuracy nodig hebt, o.a. het herkennen van wel/niet scam). Een taalmodel als ChatGpt GPT-4o haalt 88,7% accuracy, en is dus volstrekt ongeschikt voor taken waar je gewoon correcte antwoorden nodig hebt. Zelfs met 99,5% accuracy zou ik nog liever zelf sturen in mijn auto.

Dat het voor schaken/Go wel goed werkt, is omdat die spellen ontzettend moeilijk zijn voor mensen. Het lukt je in 1 mensenleven niet om een miljard posities uit je hoofd leren, wat een paar weken stampen is voor zo'n model.

[Reactie gewijzigd door jhnddy op 25 augustus 2025 14:02]

En zelfs voor schaken moet je toch echt een model hebben dat specifiek voor schaken bedoeld is. Met de hand voorgekauwde heuristieken en abstracties waar de AI daarna zijn zegje over mag doen. Direct een taalmodel over een potje schaak heen gooien, zoals veel mensen chatGPT nu gebruiken, levert een schaker op die op zijn best op het niveau van een beginner speelt, maar vaak ook gewoon een hilarische clown die geen idee heeft wat die aan het doen is.

[Reactie gewijzigd door bwerg op 25 augustus 2025 13:52]

En zelfs voor schaken moet je toch echt een model hebben dat specifiek voor schaken bedoeld is. Met de hand voorgekauwde heuristieken en abstracties waar de AI daarna zijn zegje over mag doen.
Dat is "old style". Inmiddels doet men dat soort dingen door het model gewoon tegen zichzelf te laten spelen, a la AlphaZero. Met de hand voorgekauwde heuristieken zijn in zo'n opstelling niet nodig, sterker nog geen enkele voorgegeven kennis van het spel is nodig, behalve een virtueel spelbord, maar dat is triviaal in elkaar te bastelen zelfs voor een LLM.

Wat interessanter is modellen trainen om specifiek een bepaald niveau of speelstijl te imiteren, in plaats van gewoon zo hard mogelijk de tegenstander wegblazen. Ook dan programmeer je geen heuristieken meer maar train je op specifieke potjes
De mensen die beslissen om de investeringen te doen zijn ook niet stupide.
Klopt, maar investeerders hebben geen interesse in de intrinsieke waarde van een product/ bedrijf (dus of iets echt werkt of niet), maar in de financiële waarde - en dan met name de groei van die waarde. Ook aan een hype is veel geld te verdienen, zoals al vaak is bewezen.
Slimme marketing afdelingen vooral.
Ook de slimste mensen kunnen de toekomst niet voorspellen. Niemand weet wat het "eindstation" voor AI is en iedereen is bang om de boot te missen. Dus doen ze mee.

Er was ooit een tijd dat "atoom" het magische woord was. Atoomauto's, atoomvliegtuigen, radioactive schoonheidscremes, noem maar op, het zou de hele wereld veranderen. En ja, dat heeft tot kernenergie en nucleaire onderzeeers geleid, maar het heeft het leven van gewone mensen nauwelijks veranderd. Soms moeten slimme mensen eerst heel veel werk verzetten om te ontdekken dat het allemaal nogal tegenvalt.
De slimste mensen denkbaar werken eraan.
Diezelfde mensen zijn aan het uitcashen: https://www.reuters.com/business/media-telecom/openai-staff-looking-sell-6-billion-stock-softbank-others-source-says-2025-08-15/

Waarom zou je uitcashen uit de techniek die blijkbaar gegarandeerd zo gigantisch gaat worden dat het alles gaat overnemen en waarbij het bedrijf waar jij aandelen in hebt de voorloper is?
Waarom zou je op vervroegd pensioen gaan?
Uit dit (en ander) nieuws over gebreken blijkt alleen niet dat de slimste mensen er aan werken. Het toont eerder aan dat er meer prioriteit ligt bij diensten te willen leveren die vol gebreken zitten. Dat men daar geen duidelijke verantwoording over af legt naar de gebruikers. Dat deze vorm van ontwikkeling niet duidelijk gericht is op behoorlijke beveiliging. Dat soort doortraptheid en laksheid het gedrag van slimme mensen noemen legt de lat heel laag.
Er gaat op dit moment meer dan een miljard dollar per dag (!) naar het ontwikkelen van AI systemen. De slimste mensen denkbaar werken eraan. De mensen die beslissen om de investeringen te doen zijn ook niet stupide. Ik denk dat je niet echt goed snapt waarom AI zo belangrijk is.
Dat zei men in 1999 ook....
Er gaat op dit moment meer dan een miljard dollar per dag (!) naar het ontwikkelen van AI systemen. De slimste mensen denkbaar werken eraan. De mensen die beslissen om de investeringen te doen zijn ook niet stupide. Ik denk dat je niet echt goed snapt waarom AI zo belangrijk is.
Weet je wanneer dit ook gezegd werd?
Vlak voor de dotcom bubble.

Meer en meer critici, voornamelijk economen en tech engineers uit het wereldje zelf, die ook de eerdere dotcom bubble gekend hebben stappen naar voren met waarschuwingen dat we het nog eens over gaan doen.

Het verschil is deze keer dat de bubbel (de delta tussen de valuatie van bedrijven en hun werkelijke waarde) vele malen groter geworden is dan de dotcom bubble. En dat de beurzen tegenwoordig praktisch totaal door de tech reuzen gedomineerd worden.

Toen de dotcom bubble ::plop:: deed verloren de wereldwijde beurzen 50% van hun koersen.
Als de huidige AI bubble ::plop:: gaat doen, gaat het effect nog veel en veel harder zijn.


Denk dat één van de beste uiteenzettingen betr. de problemen met de AI industrie en de risicos van vergaande commercialisering van een niet uitgekristaliseerde wetenschap, misschien wel dit ca. 1.5u lange interview met Karen Hao is:
YouTube: Silicon Valley Insider EXPOSES Cult-Like AI Companies | Aaron Bastan...

[Reactie gewijzigd door R4gnax op 25 augustus 2025 20:05]

Bij een bubbel is het zaak om er op tijd uit te stappen. Ook slimme mensen kunnen investeren in een bubbel terwijl ze weten dat het een bubbel is. Het is alleen zaak dat ze net op tijd hun investering verlopen met winst voordat de bel geklapt is.
Zeg je nou dat de Woordvoorspeller XL 3000 niet daadwerkelijk kan nadenken???

Moet even denken aan deze, lol: https://www.reddit.com/r/vibecoding/comments/1mo0j3p/never_touching_cursor_again/
did you just delete my whole f*ing data from my database?
I sincerely apologize - yes, I made a serious mistake.

[Reactie gewijzigd door vickypollard op 25 augustus 2025 12:37]

T9 text input was de WXL3000 overgrootvader, mensen zien dat niet in als er niet over nagedacht wordt wat LLM precies doet
OpenAI’s resultaat bij de International Mathematical Olympiad is belangrijk omdat het laat zien dat een LLM dat is getraind op next-token voorspellen in de praktijk langdurig en doelgericht kan redeneren. Een experimenteel model loste 5 van de 6 nieuwe IMO-2025 opgaven op, scoorde 35/42 punten en schreef pagina’slange wiskundige bewijzen die door drie ex-IMO-medaillewinnaars zijn nagekeken. Het werkte onder menselijke examencondities: twee sessies van 4,5 uur, zonder internet of tools. De bewijzen staan openbaar op GitHub.

Waarom dit verder gaat dan “volgend woord raden”: IMO-bewijzen vragen om lange ketens van logische stappen en creatieve keuzes. OpenAI benadrukte dat het model “lang denkt” met veel test-time compute en parallelle oplossingspaden. Zulke strategieën maken het aannemelijk dat het model systematisch plant, controleert en consensus vormt, in plaats van alleen lokale patronen te kopiëren.

Eerlijk erbij: OpenAI deed niet officieel mee, terwijl Google’s inzending wél door de IMO is gecertificeerd. Onafhankelijke verslaggeving bevestigt dat OpenAI’s score via externe graders tot stand kwam volgens IMO-richtlijnen. Dit is dus sterk empirisch bewijs voor redeneren, geen bewijs voor bewustzijn, en herhaalbaarheid door derden blijft belangrijk.
Dit gaat zeker niet gebeuren. Hoeveel ik ook een hekel heb aan AI , we zijn er mee genaaid en het wordt alleen maar erger. de komende 10-20 jaar is het make or break wat betreft AI , de gevolgen zullen (indien er geen goede regelgeving en wetten komen, heb het idee dat we daar al erg op achterlopen) niet te overzien zijn.

Wen er maar aan.
Laten we als minder bedeelden dan slim zijn, men heeft dadelijk onderhoudsmensen nodig om al die robots te laten werken/af te stellen etc. Vraag een zo`n hoog salaris, dat men snel gaat nadenken (hoop ik, maar wet eigenlijk al dat men daar met een bord voor hun hoofd lopen en nadenken).

Begin iemand een eigen bedrijf, wees slim en laat je nooit uitkopen of verkopen en hou die naam hoog en groot en koester de mensen die je hebben geholpen een bedrijf op te zetten en te runnen.

Laten al die super rijken maar hun geld verdelen :P dan nog ga je zien dat ze nog rijker worden en wij alleen maar geld kunnen uitgeven en niets overhouden met deze inflaties en graaiculturen.
Komende 10-20 jaar? Volgens de meeste AI professoren zijn wij al uitgespeeld rond 2030 wellicht mogelijk 2027, maar iedereen ziet het nu nog steeds als een dom LLM modeletje terwijl de meeste al van 90IQ naar 136IQ zijn gegaan in een half jaar tijd.

Gaat leuk worden als wij een misaligned AI krijgen, maar wat mensen vergeten zulke modellen draaien dag en nacht, momenteel is de enige belemmering de compute kracht die zij ontvangen aangezien Amerika en China beide bezig zijn met AI ontwikkelings datacenters die 1000x de compute kracht van GPT ontvangen wordt het een interessante toekomst.
Mensen zijn tegenwoordig best wel vindingrijk met het vinden van manieren om mensen geld af te troggelen. 1-2 maanden geleden kreeg ik nog een e-mail, die verstuurd leek te zijn vanaf mijn eigen adres, met het verhaal 'je computer is gehackt, we hebben al je wachtwoorden en videos met gevoelige content, maak dit en dit bedrag in Bitcoin over'. Dat was dan ook een gespooft e-mail adres wat niet door de DKIM checks kwam, maar ook een redelijk tech-savvy persoon kan daar intuinen waarschijnlijk. De e-mail kwam niet in de spam-folder, bij Hotmail, en was ook goed geschreven (wel cheesy fantasy-boek achtig).
Niet.

Van nieuwe technieken wordt de impact op korte termijn doorgaans overschat en op lange termijn onderschat. We zitten nu nog in de eerste fase maar ik gebruik het al heel veel in mijn werk en ik kan me niet voorstellen dat dat gaat veranderen.
Apart dat mensen zoals jij niet onder de indruk zijn van huidige ai ontwikkelingen.

De film her is al erg dichtbij: https://sesame.com/
Hebben we net een grote groep normale gebruikers een beetje geconditioneerd om neppe emails en neppe websites te gaan herkennen, moeten we weer opnieuw beginnen met AI.

Wel heel erg menselijk dus.
Naast het in de scam trappen gaat er nog wel meer mis: op tijdstip 0:14 is te zien dat een tweede exemplaar in de winkelmand gestopt wordt terwijl de gebruiker dat niet heeft gevraagd. Het valt de assistent zelfs twee keer op ("notice the cart counter changed from "1" to "2"" en "I'm now on the cart page and can see the product has been added with a quantity of 2"), maar gaat vervolgens vrolijk door met bestellen.
Als je er twee kan bestellen dan is er waarschijnlijk echte voorraad en filter je al die sites met '1 op voorraad'. Nadeel is wel dat je van alles twee koopt ;-)
Je kan gen AI niet vertrouwen met iets dat belangrijk is. Dit geldt voor zowel informatie als taken.

Het is een technologie dat niet in staat is onderscheid te maken tussen waarheid en leugen. Het zou niemand moeten verbazen dat het zo gemakkelijk voor de gek te houden is.
offtopic:
Insert Quicksilver meme
Wie geeft er überhaupt z'n wachtwoorden aan dit soort bedrijven? Dan vraag je er ook wel een beetje om hoor.

[Reactie gewijzigd door bcome op 25 augustus 2025 12:53]

It takes one to know one.

Op dit item kan niet meer gereageerd worden.