Nieuwe AI-functie in Google Pixel-telefoons scant op oplichting

Google heeft een nieuwe AI-functie toegevoegd aan de Pixel-telefoons die gebruikers moet beschermen tegen oplichting via de telefoon. Het zogenaamde Scam Detection zet daar AI voor in op het apparaat zelf.

Scam Detection gebruikt AI om in real time te waarschuwen dat een telefoontje mogelijk van een oplichter komt, schrijft Google. Daarvoor wordt het gesprek gescand op patronen die veel voorkomen bij scams. Zegt de gesprekspartner bijvoorbeeld van de bank te zijn en vraagt diegene om geld over te maken omdat de rekening gehackt is, dan kan Scam Detection een visuele en haptische melding geven waarin gewaarschuwd wordt dat het mogelijk om oplichting gaat. De gebruiker kan dan ervoor kiezen om het gesprek te beëindigen of om aan te geven dat het niet om oplichting gaat.

Google zegt dat de functie met het oog op privacy standaard uitstaat. Gebruikers moeten deze dus zelf inschakelen voor toekomstige telefoontjes. Verder wordt de detectie en dataverwerking op het toestel zelf gedaan, 'wat betekent dat er geen audio- of transcriptiegegevens van het gesprek op het apparaat worden opgeslagen, naar Google-servers of ergens anders worden verzonden of na het gesprek kunnen worden opgehaald'.

Vooralsnog is Scam Detection nog een publieke bèta. De functie is op dit moment alleen beschikbaar voor Engelstalige gebruikers in de Verenigde Staten met een Pixel 6 of nieuwere Pixel-telefoon. Wanneer en of de functie naar andere landen komt en in andere talen beschikbaar wordt, is nog onduidelijk.

Google introduceert verder live threat detection in Google Play Protect, dat malafide apps opspoort die extra moeilijk te detecteren zijn. Daarvoor kijkt de dienst naar activiteitspatronen van apps op apparaten. De feature richt zich in eerste instantie op stalkerware en code die zonder toestemming van de gebruiker persoonlijke of gevoelige data verzamelt. Deze functie is nu alleen beschikbaar voor de Pixel 6 en nieuwer, maar wordt in de komende maanden ook naar apparaten van andere fabrikanten uitgerold.

Reacties (42)

[adje123]

Scam Detection gebruikt AI om in real time te waarschuwen dat een telefoontje mogelijk van een oplichter komt

Ik gebruik deze functionaliteit al jaren.
Alleen noem ik het "gezond verstand".

[com2,1ghz]

Iedereen is te scammen. Ik heb toevallig zelf een belletje van de bank gehad vorig week vanwege geblokkeerde transacties. Ging zo n 5 minuten goed want alle gegevens zoals mijn rekening en een aantal aankopen klopte.
Nou gaf ik geen informatie maar ik kon bevestigen wat zij mij vertelden. Pas toen hij zei dat ik even AnyDesk moest downloaden ging ik lacherig doen dat ik dat mooi niet ging doen en hing meteen op.

Gezien het feit dat ik een aantal keer eerder een legitiem gesprek heb gehad met de bank vanwege verdachte transacties en KYC leek dit gesprek mij ook aannemelijk.
Ik heb zelf bij een bank gewerkt dus alle signalen herken ik, maar dit is de eerste keer dat het gesprek zo lang heeft geduurd totdat ze door de mand vielen.

Als de partij voldoende gegevens hebben vanwege een of andere dataset die ze bemachtigd hebben via een of andere darknet markplaatsje dan komen ze aardig ver.

[GameNympho]

Ze hebben ook draaiboeken, er zijn genoeg docu`s erover en op YT staan ook genoeg waarschuwingsfilmpjes dat de scammers steeds geraffineerder om de hoek komen kijken/snuffelen.

Zelf heb ik het met de mail, hoeveel ik al geblokt hebt en gemeld, maar toch verzinnen ze weer iets nieuws en men blijft doorgaan.

[com2,1ghz]

Afgelopen zomer kreeg ik een mail met een lang ticketnummer als omschrijving met afzender van een rabobank domein. Bleek om een KYC onderzoek te gaan waarbij ze wat vragen gingen stellen over een aantal buitenlandse transacties. Was gewoon in plain tekst. Heb de e-mailheaders maar even gecheckt en alles klopte.
Dat was dus echt een legitiem e-mail. Het is dat ik het toevallig ging openen maar normaliter zou het zo de trash in gaan. Een gemiddeld phishing e-mail zag er professioneler uit dan dit.

Zelfs als IT professional zijn deze zaken moeilijk te onderscheiden. Het helpt ook niet als banken niet aan hun eigen regels houden.
Idem met ABN bij een maat van me. Plain tekst mailtje.

[jmmk]

Hmm, ik zit bij ING en die hebben mijn mailadres niet. Daar blíj́ven ze maar om vragen, laatst zelfs prominent in de app. Ze krijgen het niet; daarmee ben ik gevrijwaard van phishing mails. De echte bank heeft mijn mailadres niet, dus alles wat ik van een bank binnenkrijg, kan ongezien weg.
Het overwegen waard: je mailadres bij de bank intrekken. Dat geeft oplichters minder kans.

[HoppyF]

De scammers zijn goede acteurs die net doen of ze echt van de bank zijn.
Het principe blijft echter, ophangen en zelf je bank bellen als je twijfel hebt over fraude.
De echte fraude afdeling van mijn bank (Rabobank) heeft mij gezegd dat ze bij fraude mij niet zo zullen gaan bellen.
Lijkt mij ook logisch want anders zou de werkwijze van de bank en de scammers overeen komen en dat wil je nu juist vermijden.

[com2,1ghz]

Nou ik zit bij de Rabo en dat doen ze dus wel. Een keer deed ik brutaal en stelde ik vragen of dit wel een legitiem gesprek was en zei ze doodleuk dat ze anders mijn betaling en credit card kon blokkeren en ik maar een afspraak moest maken. Dat ging trouwens ook lastig tijdens de lockdown dus ik koos eieren voor mijn geld.
Ze dachten dat mijn credit card gestolen was omdat ik via Steam een aankoop deed van een paar cent en toevallig een dag erna op Amazon een Apple watch had besteld. Iets wat scammers ook doen om je credit card te testen om vervolgens voor een hoger bedrag aankopen te doen.

Sinds kort hebben ze iets waarbij ze een bericht sturen naar je Rabo app waarmee ze bevestigen dat het een legitiem gesprek is.

[HoppyF]

Merkwaardig.
De fraude helpdesk wist mij te vertellen dat de Rabobank nooit zo contact met je opneemt.
Ik vermoed dat ze hun werkwijze hebben aangepast.
Lijkt mij ook logisch om spammers zo te detecteren.
Een verdachte transactie met een creditcard lijkt mij niet zo gek. Dat de bank hier actie op neemt is juist goed. Beter een keer een onterechte actie dan dat je geld kwijt bent.

[HeraZeus]

NIet alleen datalekken maar ook inside jobs. Soms werken ze zelf bij de klantenservice van een bank en soms hebben ze iemand die voor geld informatie doorspeelt.

[d.jvan]

Niet alleen domme mensen trappen in scams. Je hebt ruzie met je partner, je bent te laat voor een afspraak, je stapt net in een plas water en je sok is nat. Vervolgens belt je bank. Netjes nederlands sprekende jongen heeft je naam, adres, en geboortedatum.

Het zijn juist de mensen die denken dat ze hier nooit in zouden trappen die erin trappen.

[adje123]

Als mijn bank belt, dan hang ik op en bel ik terug.

[Neelon]

Dat is bij heel veel mensen er al uit gepatched helaas.

edit: en inderdaad, gezond verstand is ook niet feilloos. En als het in je hoofd verkeerd staat, kan je eerder ergens in trappen.

[Reactie gewijzigd door Neelon op 14 november 2024 11:50]

[moonlander]

En toch zie je vaak bij mensen die ook gezond verstand hebben hier in trappen.

[guapper]

CI, oftewel common intelligence

[martin23]

Echt knap van jou

[adje123]

Dank je.
Het doet mij goed om anderen te inspireren.

[IamGrimm]

De reacties hier met hun "gezonde verstand" hebben niet door dat scammen zo lucratief is, dat het weinig uitmaakt of jij het wel of niet weet te herkennen. Als "hallo ik ben van de bank" bij jou niet werkt is er een andere tactiek die misschien wel werkt. Er zijn er genoeg.

Het is een ok initiatief, maar de target audience van Pixels zal iets minder overlap hebben met de target audience van scammers.

[Mr.Veng]

Ze moeten natuurlijk ergens beginnen met een nieuwe feature, en laat dat nu net hun eigen Pixel lijn zijn.
Zodra het voldoende getest is, wordt het gewoon een standaard onderdeel van Android en zal het op alle merken uitgerold worden en vanaf dan is het handig om deze feature aan te zetten voor je (groot)ouders e.d. Mij lijkt het dus een goed initiatief.

[IamGrimm]

Ja dat was ook mijn insteek, maar als het opt-in is zal het vooralsnog weinig animo vinden onder de huidige Pixel gebruikers. Dit lijkt een functie te zijn die in elk geval de bedoeling heeft om behulpzaam te zijn.

[87Dave]

Inderdaad. Iedereen heeft zijn zwakke plek. Bij de ene is dat de bank, bij de andere de email/brief van politie/gerecht, bij andere dan weer de (klein)kinderen waar met AI een huilend paniekerig gesprek komt.

Er zal zeker wel een Hannibal Lecter hier zitten zonder zwakke plek die kil alles bestudeerd en er altijd als psychologische winnaar bovenuit komt. Maar de meesten zijn zo niet en hebben een trigger waarmee je ze kan pakken.

[WillySis]

Als een scammer met het echte nummer van de bank belt en daadwerkelijk in perfect Nederlands de laatste drie betalingen met correcte datum, tijd, bedrag en tegenrekening weet te noemen (wat mij laatst overkwam) is het heel goed voorbereid met data die ergens van een recente hack moeten komen. Alleen als ze dan vragen om de computer erbij te pakken wordt het wel verdacht. De bank blokkeert gewoon de rekening en gaat je niet helpen om op jouw computer "een hacker op te sporen".
Zodra ze denken je door te hebben hangen ze op. Helaas was deze scammer via de provider op te sporen en heb ik het werkelijke telefoonnummer en locatie aan de politie door kunnen geven.

[HoppyF]

Dat is wel een heel opvallend lek.
Want waar halen ze die gegevens vandaan?
Meestal komen ze niet verder dan dat er een verdachte transactie is geweest bv van Bitvavo dat deze geblokkeerd is enz. en of je zelf een transactie hebt gedaan van rekeningnummer (ze noemen de laatste drie cijfers die correct zijn).
Maar inderdaad een echte bank zal je rekening gewoon gaan blokkeren.
Je trekt dan zelf wel aan de bel.
Ik hoop dat politie en het OM dit soort scammers nu eens zwaar aanpakt met lange gevangenisstraffen ipv met een boete naar huis te sturen.

[WillySis]

Waar dat lek zit ben ik nog niet achter. Er zijn wel meer aangiftes bij de politie gedaan die melding maken van zeer gedetailleerde gegevens. Er is ook melding gedaan bij de AP.
De politie heeft het serieus opgepakt. Ik kan er eigenlijk niets over zeggen, want dat kan het onderzoek schaden.

[pete4live]

Leuke functie, gaan we waarschijnlijk net als "call screening", "hold for me" en "direct my call" nooit zien in Nederland.

[debroervanhenk]

En toch heb ik vaak genoeg gehad dat ik werd gebeld en dat mijn telefoon “Mogelijk spamoproep” of iets dergelijks aangaf (in Nederland gekochte Pixel). Ik weet niet welke functie dat dan is, maar het werkt wel, ook hier.

[watercoolertje]

CallerID geloof ik. Niks meer dan het nummer in een digitaal telefoonboek te halen met labels (waar scammer dus een mogelijk label is).

[smoove]

"telefoontje mogelijk van een oplichter" telefoon nummers kunnen toch worden gespooft?

[DonChaot]

het gesprek wordt gescanned, niet het nummer. Daarvoor zijn er al andere tools.

[smoove]

gesprekken scannen en stiekem een profiel opbouwen van de gebruiker om ze door te verkopen?

[watercoolertje]

Als ze dat stiekem willen doen zullen ze dat nu al wel doen, hebben ze deze feature niet voor nodig

[Zilverdael80]

Het staat in verband met de privacy uit .... maar er worden ook geen gegevens verstuurd als het aangezet wordt ... Nu klinkt mij dat een beetje tegenstijdig...
Waarom niet standaard aan zetten dan? Dat zal ongetwijfeld weinig met privacy te maken hebben lijkt me.

Verder zie ik zelf weinig meerwaarde in zo'n dergelijke 'dienst', ik gebruik liever zelf mijn gezond verstand. Maar ik kan me zeker voorstellen dat dit bij de oudere populatie, of de wat naiefe mensen zeker bij zal dragen in het voorkomen van een scam.
Helaas weet deze groep dan weer niet van deze functie af en hoe het aan te zetten.

Alles lijkt dus een beetje een gemiste kans IMO

[bredend]

Ik denk dat het standaard uit staat omdat het nog in bèta is en om de reacties te polsen.

[Schway]

Ik vraag me af wat de omvang van de doelgroep is. De mensen die deze functie het meest nodig hebben, zullen deze waarschijnlijk niet activeren, terwijl degenen die het kunnen activeren, het waarschijnlijk niet nodig zullen hebben.

[Johnny D]

Als het van Google zelf is zal hij het wel door de vingers zien neem ik aan

[watercoolertje]

Waarom denk je dat? En sinds wanneer belt Google mensen om te scammen?

[Johnny D]

Nee Google is altijd lekker eerlijk

[watercoolertje]

Feit dat je geen antwoord hebt zegt meer over je eigen eerlijkheid. Je beschuldigd dus een partij zonder dat je ook maar iets weet of het terecht is...

[Johnny D]

Dus die boetes krijgen ze voor goed gedrag (dat is pas liegen)

https://nos.nl/artikel/25...misbruik-in-eu-definitief

[friss045]

gelukkig heb ik nog wel wat gezond verstand over. Ik zou het dus niet activeren. Voor mijn schoonvader zou het wel een uitkomst zijn. Dus dan zou ik het (uiteraard in overleg) wel op zijn telefoon activeren.

[Verwijderd]

Ik ben zeer benieuwd of dat het betrouwbaar genoeg is om niet voor te veel valse waarschuwingen te zorgen. Zoals bij het bekende fabeltje over het jongetje dat te vaak "wolf" riep.

[19RAW68]

Ik denk dat de meeste bezoekers op Tweakers niet de doelgroep zijn (althans dat vinden we zelf). Maar pas op, er worden echt veel mensen slachtoffer ondanks de maatregelen die banken nemen. En echt niet alleen oudere kwetsbare mensen, ook jongeren worden vaak getroffen.