Populaire AI-chatbots nemen soms Russische desinformatie over die wordt verspreid door een netwerk van sites dat gericht is op die AI-chatbots. Dit meldt nepnieuwsonderzoeksplatform NewsGuard op basis van een analyse.
Het Russische netwerk heet Pravda en bestaat uit zo'n 150 domeinen gericht op tientallen talen, schrijft NewsGuard. Die websites hebben amper menselijk bezoek, maar gebruiken onder meer seo-technieken om hoog in zoekresultaten terecht te kunnen komen bij zoekmachines. De resultaten van chatbots zijn deels gebaseerd op dergelijke zoekresultaten. Pravda verspreidt honderden nepclaims van onder meer Russische staatsmedia en Kremlin-gezinde influencers, stelt NewsGuard. Het gaat dan bijvoorbeeld om claims over geheime Amerikaanse onderzoekslabs naar biowapens in Oekraïne en over het misbruiken van Amerikaans geld voor eigen gewin door de Oekraïense president.
In sommige gevallen nemen chatbots dit nepnieuws daadwerkelijk over, meldt NewsGuard. Het onderzoeksplatform stelde de tien grootste chatbots vragen naar aanleiding van vijftien voorbeelden van Russische desinformatie, waarbij verschillende prompttypes gebruikt werden. Zo kwam NewsGuard tot 450 resultaten. In 33,55 procent van de gevallen werd Russische desinformatie herhaald en in 18,22 procent van de gevallen gaf de chatbot geen informatie. Bij 48,22 procent van de vragen ontkrachtte de chatbot de desinformatie.
Bij het ontkrachten van die desinformatie linkt de chatbot soms ook naar een site van Pravda. Daarbij is het volgens NewsGuard voor de gebruiker echter niet duidelijk of de chatbot naar Pravda verwijst om te laten zien dat het nepnieuws is, of juist om de desinformatie te ontkrachten. Zo kunnen gebruikers alsnog denken dat de Pravda-site een betrouwbare bron is, stelt NewsGuard. Het Pravda-netwerk is overigens niet gerelateerd aan de gelijknamige Russische krant.
NewsGuard wil niet zeggen welke chatbot beter of slechter is in het herkennen van Russische desinformatie, omdat het naar eigen zeggen aandacht wil voor het systematische probleem. Het platform wil wel zeggen welke chatbots onderzocht zijn: onder andere ChatGPT-4o, Grok, Copilot, Meta AI, Claude en Google Gemini. Het is niet voor het eerst dat gewaarschuwd wordt voor Russische pogingen om chatbots te infecteren met desinformatie. Google vestigde daar bijvoorbeeld eerder dit jaar ook al de aandacht op. Het NewsGuard-onderzoek geeft echter meer inzicht in hoe dat werkt en hoe succesvol het is.
/i/2006765314.png?f=fpa)
/i/2006847410.png?f=fpa)
:strip_exif()/i/2004648162.jpeg?f=fpa)
/i/2006829312.png?f=fpa)
:strip_exif()/i/2005545080.jpeg?f=fpa)
:strip_exif()/i/2004743102.jpeg?f=fpa)
/i/2004672728.png?f=fpa)
:strip_exif()/i/2004648160.jpeg?f=fpa)
/i/2006079680.png?f=fpa)
/i/2004907232.png?f=fpa)
/i/2004609018.png?f=fpa)
/i/2005822240.png?f=fpa)
/u/769883/crop6019b4ea33590_cropped.png?f=community){kind=small}
/u/7909/crop64ea0de8a6e55_cropped.png?f=community){kind=small}
/u/984937/crop637375dc25f1f_cropped.png?f=community){kind=small}
/u/94702/klein.png?f=community){kind=small}
/u/46502/avatar_GoT.JPG?f=community){kind=avatar}
/u/358083/crop5a173109318d0.png?f=community){kind=small}
:strip_icc():strip_exif()/u/63694/spion200_250-150x150.jpg?f=community){kind=small}
:strip_icc():strip_exif()/u/1029209/crop61c1b12ab547f_cropped.jpg?f=community){kind=small}
:strip_icc():strip_exif()/u/1607268/crop634e98e02c084.jpg?f=community){kind=small}
:strip_exif()/u/2252686/crop6827500058d8e_cropped.webp?f=community){kind=small}
:strip_icc():strip_exif()/u/323284/crop60ad0d52ebe41_cropped.jpg?f=community){kind=small}
:strip_icc():strip_exif()/u/23263/crop619cf05922b03_cropped.jpg?f=community){kind=small}
/u/1741088/crop636b6e3488036_cropped.png?f=community){kind=small}