Bot verspreidt 80.000 unieke spamberichten via OpenAI-api

Spammers hebben een bot gemaakt die met behulp van api's van OpenAI 80.000 unieke spamberichten verspreidde. De bot is al sinds september actief, zeggen beveiligingsonderzoekers van SentinelOne, die de bot ontdekte.

Het gaat om AkiraBot, een framework dat geautomatiseerd grote hoeveelheden berichten kan versturen om dubieuze seo-diensten aan te prijzen bij websites van kleine en middelgrote bedrijven, schrijven de onderzoekers. De berichten worden verstuurd via contactformulieren en chatwidgets op websites.

Het framework gebruikt op Python gebaseerde scripts om de geadverteerde domeinnamen in de berichten te roteren. Daarnaast gebruikt het de chat-api van OpenAI's GPT-4o mini-model om unieke berichten te genereren, die afgestemd zijn op de website waar het bericht naar verstuurd wordt. Het taalmodel krijgt daarvoor de volgende rol: "Je bent een behulpzame assistent die marketingberichten genereert." Vervolgens wordt het taalmodel via een prompt geïnstrueerd om de naam van de website in kwestie in het bericht te zetten, evenals een korte beschrijving van deze website. Op die manier wordt steeds een uniek bericht gegenereerd, 'waardoor het lastiger wordt om te filteren op spam dan wanneer er sprake is van een consistent berichtsjabloon', zeggen de onderzoekers.

SentinelLabs heeft logbestanden van AkiraBot in handen gekregen, die op een server waren achtergelaten. Daarin wordt de succesratio bijgehouden. Uit een van deze bestanden blijkt dat de bot tussen september en januari bij 80.000 websites succesvol unieke berichten heeft afgeleverd. Bij 11.000 domeinen mislukte dat.

SentinelLabs heeft zijn bevindingen gedeeld met OpenAI. OpenAI meldt dat de gebruikte api-sleutel is uitgeschakeld en dat er nog nader onderzoek gedaan wordt. Ook benadrukt het bedrijf dat het verspreiden van output van zijn diensten voor spamdoeleinden tegen zijn beleid indruist.

Reacties (28)

[RcsProst]

Helaas wordt van alles tegenwoordig een manier gevonden om het voor kwaadwillege doel einde te gebruiken. Wel knap om te zien dat die Chat-api GPT heeft kunnen gebruiken. Zou dat wel willen zien hoe die dat heeft gedaan.

[djiwie]

Dat is heel makkelijk hoor. Normaal stuurden dit soort bots altijd hetzelfde bericht, nu sturen ze een berichtje wat uniek gemaakt is voor de website waar het bericht gesubmit wordt. Dat is echt niet moeilijk met de ChatGPT-API

[RcsProst]

Oke, ja dat zo'n bot een hetzelfde bericht stuur weet ik wel en snap ik ook. Maar ik kan me niet voor me zien hoe zo'n api met gpt praat

[Kees]

Dat is niet heel erg moeilijk: https://platform.openai.com/docs/overview

Je zou waarschijnlijk zelfs chatgpt kunnen vragen om er een script voor te schrijven

[RcsProst]

Oke, dat is inderdaad heel simpel. Dankjewel

[ikbentomas]

Ik heb het recent zelf gebruikt en dat kom er op neer dat je twee berichten stuurt naar de API, bijna hetzelfde zoals je zelf werkt met ChatGPT.
Het eerste berichtje is de instructie "Je bent een behulpzame assistent die marketingberichten genereert".
Het tweede request is iets als "Verwerk {naam van website} in het volgende bericht evenals een korte beschrijving van deze website. {hier volgt standaard tekst}"

[RcsProst]

Klinkt als iets wat recuiters gebruiken op linkedin

[dakka]

Nou ja, gewoon via https://api.openai.com/v1/models met zn api key `o1-mini` als model meegeven en een prompt?

Om responses te genereren met GPT heb je echt letterlijk 3 regels aan code nodig.

from openai import OpenAI
client = OpenAI()
response = client.responses.create(model="gpt-4o",input="Write a one-sentence bedtime story about a unicorn.")

Thats it.

[Skit3000]

Er zijn genoeg modellen die je lokaal kunt draaien en goed genoeg zijn om unieke spamberichten te maken op hetzelfde niveau als GPT-4o mini. Het is een leuk rapportje van SentinelLabs, maar op het grote geheel stelt het natuurlijk niet veel voor.

[hiostu]

Het is mij niet helemaal duidelijk of de titel nu overeenkomt met de inhoud van het artikel. Als ik het artikel lees dan lijkt het er namelijk op dat er helemaal geen spamberichten zijn verspreid via de OpenAI-API, maar alleen teksten zijn gegenereerd. Het daadwerkelijke verspreiden gebeurd via andere kanalen. Dus het lijkt er eerder op dat OpenAI-api gebruikt is om gepersonaliseerde spam berichten te genereren. Niet om voor de verspreiding zelf.

[GameNympho]

Kan zoiets niet voor ons verzonnen worden met al die spammailtjes?
Vroeger kon je een mailbom terug sturen, nu kan je alleen melden en blokkeren
Het zou fijner voor ons zijn, die soort figuren of instellingen iets terug te kunnen sturen, waardoor hun netwerk overbelast, ik denk dat dan de serverprofiders snel zullen ingrijpen.
Maar dan komt het spelletje van nieuwe adressen/ip adressen etc. weer van voren af aan, gewoon ontmoedigend beleid snel invoeren

[Jaapvaak]

Websites moeten af van die contactformulieren, zorgt alleen maar voor spam.

[Bender]

Hoe reageer je dan nog op Tweakers? Dat is ook een formulier..

[xoniq]

Dat kan alleen als je ingelogd bent. Dus een account hebt.

Contactformulieren zijn altijd openbaar en toegankelijk om de drempel te verlagen. Hooguit met een reCAPTCHA ervoor van Google om het grootste gros van ellende buiten de deur te houden.

[Bender]

Wat het punt dus ook aangeeft, je kunt van een gemiddelde website niet verwachten dat je eerst een login gaat aanmaken voordat je een bericht kan sturen.

[MSalters]

Precies dit artikel hierboven is waarom je anno 2025 dus wel moet eisen dat je eerst een login maakt. En dan wil je ook dat de aanmaker ervan overtuigend een identiteit aantoont - bijvoorbeeld door een email account waarvan de DNS entry ouder dan 72 uur is.

[Bender]

Een e-mail account is geen enkele validatie op identiteit. Ik kan op fiverr/upwork voor een tientje 500 email accounts kopen voor een paar tientjes.
Allemaal op bekende e-mail domeinen.

[b12e]

En contactformulier kan uiteraard ook achter een login zitten.

Dat gebeurt echt vaker en vaker bij oa. e-commerce, met enkel een chatwidget voor mensen die niet ingelogd zijn welke dan rechtstreeks naar de dienst verkoop gaat (want niet ingelogd = nog geen klant).

[Yzord]

Gewoon mailtje sturen, of is dat ineens obsolete geworden?

[aadje93]

met de mailto: snelkoppeling zeker die dus ook een spam vangnet is

[DdeM]

Contactformulieren zijn juist de standaard omdat je je email juist niet op de website moet tonen, anders weet je zeker dat je tot het einde der tijden spam krijgt. Meeste formulieren sturen de info vervolgens overigens alsnog wel naar een emailadres, normaal gesproken nadat een vorm van recatpcha en mogelijke andere spam checks gepasseerd zijn.

Wat dat betreft lijkt het er op dat 80k websites hun spam filtering niet op orde hadden.

[Bender]

Dat is een klantonvriendelijke manier van werken.
Een ITer vind emailtjes sturen prima, daar wil je niet iedereen toe verplichten.

[DJ Henk]

Gewoon mailtje sturen, of is dat ineens obsolete geworden?

Ja, want dat is werk en daar houden brdijven niet van. Praat eerst maar eens een tijdje met de debiele chatbot en probeer die ervan te overtuigen dat je een echte medewerker nodig hebt.

[Reactie gewijzigd door DJ Henk op 11 april 2025 10:03]

[Groax]

Alleen hier zit een login achter en de websites die zijn geraakt zijn contact formulieren en dus door iedereen in te vullen.

[Bender]

Dat is ook het punt.
Je kunt van een gemiddelde website niet verwachten dat je eerst een login gaat aanmaken voordat je een bericht kan sturen.

[Groax]

Nee eens, is ook zo maar er zijn tegenwoordig wel handigheidjes om dit tegen te gaan.

[SvenHe]

Ik krijg het zelf te veel, wat mijn spamfilters overuren doet draaien (ikke zelf, die al die troep er uit mag vissen) maar inmiddels komt mijn eigen mail vaak niet meer aan, ook als de eerste mail door een mogelijke klant is gestuurd naar mijn mailadres.

Ook krijg ik spam naar mailadressen die niet zijn aangemaakt, naar een van mijn 3 actieve domeinen, met inhoud die verwijst naar een van de andere domeinen, terwijl die domeinen alleen dezelfde persoon en huisvesting gemeenschappelijk hebben, maar compleet verschillende activiteiten hebben, met websites in verschillende talen.

Hier valt toch niet tegen te verdedigen...?

[sam.o]

nu een ai trainen als spamfilter voor die spamberichten op te sporen