Chinese regering waarschuwt bedrijven voor lekken informatie via Amerikaanse AI

De Chinese regering waarschuwt bedrijven in eigen land voor het lekken van informatie via Amerikaanse AI-diensten. De waarschuwing zou een opmaat kunnen zijn voor een verbod op AI-diensten uit andere landen dan China.

De Chinese regering waarschuwt voor het invoeren van gevoelige informatie in met name Amerikaanse AI-diensten, schrijft de Financial Times op basis van een WeChat-verklaring van de Chinese minister voor staatsveiligheid Chen Yixin. De Chinese regering zou dit kunnen zien als opmaat tot regels voor het gebruik van AI-diensten die van buiten China komen.

Daarnaast vindt Yixin dat AI een gevaar vormt voor de stabiliteit in China. "Vijandige krachten en personen met bijbedoelingen maken misbruik van generatieve-AI-technologie – zoals deepfakeaudio en -video, door AI gegenereerde tekst en afbeeldingen, en 'intelligente trollenlegers' – om op goedkope wijze en op grote schaal politieke geruchten te verzinnen, schadelijke informatie te verspreiden en verdeeldheid zaaiende sentimenten aan te wakkeren. Deze activiteiten vormen een aanval op de publieke opinie en een vorm van cognitieve oorlogsvoering tegen China, waardoor onze politieke, institutionele en ideologische veiligheid direct wordt bedreigd."

Prompts doorsturen naar Claude

De waarschuwing komt een paar dagen nadat Anthropic publiceerde over een praktijk bij sommige Chinese AI-bedrijven om prompts door te sturen naar Claude. Dat wisten klanten niet. De AI-diensten presenteerden het antwoord van Claude daarna aan klanten als hun eigen antwoord. Het is onbekend of die praktijk verband houdt met de waarschuwing.

De Chinese minister gaat niet in op de zorgen in de VS over het tempo waarin AI-diensten zich ontwikkelen. Onder meer Anthropic en OpenAI riepen op tot regels om de AI-ontwikkeling te vertragen, maar president Donald Trump ziet dat niet zitten.

Reacties (56)

[FrostyPeet]

Zoals het oude gezegde. Neem de producten uit het land waarvan je wil dat hun overheid het aftapt.

Wat heb je bijvoorbeeld aan E2EE als een "handige" AI een handige schrijf tip geeft en daarvoor de tekst upload voor analyse? Of die handige samenvat tool die ook upload?

Ik blijf mij verbazen over het gemak waarmee gevoelige informatie klakkeloos door AI mag worden bewerkt. Je kent het wel. "Even" een kekke powerpoint laten maken uit een interne rapportage voor de volgende "meeting". Vervolgens vliegen alle interne winstcijfers over de halve wereld.

[E!Ma0RB7]

Beetje off-toppic: ik sprak vorige week iemand die voor een gemeente werkt. Het onderwerp AI kwam ter sprake en ik viel van mijn stoel toen de gesprekspartner zonder enig besef van risico's trots vertelde dat ze bijna alle vergaderingen door een AI-clouddienst laten transcriberen. Ook jeugdzorg dossiers (!). "Werkt echt heel fijn, hoor".

Er waren bij deze persoon geen interne beleidsregels bekend over welke tools wel en niet gebruikt mochten worden of welke overleggen wel en welke niet zo genotuleerd mochten worden.

Ik heb deze persoon op het hart gedrukt de risico's daaromtrent met gepaste spoed aan te kaarten bij hun privacy coördinator en anders advies in te winnen.

[DropjesLover]

Aan de andere kant, de handgeschreven notulen staan op de cloudomgeving, dus staan ook al lang in de VS... Gemaakt in Word, dus ook al geindexeerd door CoPilot...

[Mr.Analog]

Nee die staan netjes in een data center op europees grondgebied. Copilot heeft daarbij niet standaard toegang tot alle bedrijfsinformatie. Zijn gemeente afhankelijk van Amerikaanse diensten? Zeker.. Kan Amerika toegang ontnemen? Helaas wel. Kan Amerika standaard bij gegevens welke worden bewaard in een enterpise omgeving? Dat zou niet het geval mogen zijn en met de juiste inrichting kan dit prima gewaarborgd worden.

[SuperSonicFreak]

Los van het feit dat deze persoon er onbewust van is, maak ik me vooral zorgen om personen die er wel (deels) bewust van zijn. Waarom, gezien veel van dat soort dingen ver van hun bed-show is en cliché “ik heb toch niks te verbergen?!?”. Het gaat waarschijnlijk goed in werk-sfeer, maar privé meer delen.

Dat niet alleen, als er hele stukken in AI worden gegooid, maar net te snel op enter is gedrukt, om vervolgens achter te komen; “oeps, iemands naam staat er nog in.”.

[FrostyPeet]

Veel ambtenaren zijn onaantastbaar geworden door gerechtelijke uitspraken in het verleden. Vaak is het ook gewoon dossiertjes en procedures draaien en voelt het niet aan alsof er een mens achter zit.

Een ambtenaar de consequenties laten weten zorgt vaak voor verrassend snel resultaat. Hoe zou de ambtenaar het vinden als het school of medische gesprek over de kinderen wordt genotuleerd door AI? Dat de schoolfoto's worden opgeslagen in de cloud na "verbeteringen" door AI?

[nullbyte]

Veel ambtenaren zijn onaantastbaar geworden door gerechtelijke uitspraken in het verleden.

LOL Komt uit de dikke duim, onderbuikgevoelens.

Welke uitspraken, wat bedoel jij met onaantastbaar?

[Reactie gewijzigd door nullbyte op 15 september 2026 12:35]

[ro4sho]

En welke risico’s zijn daar precies?

[E!Ma0RB7]

Ik ken de details niet van welke dienst ze gebruiken, maar voor de hand liggen:

1. Onjuiste transcriptie met gigantische impact: "Moet kind beter uit huis geplaatst worden?" "De uitslag van de stemming over onderwerp X was U". (Verslagen van besluitvorming hebben juridische waarde.)
2. AVG-rechten van betrokkenen worden deels (onnodig) ingeperkt, doordat de werking van AI modellen niet transparant is.
3. Verhoogde kans op inbreuken op privacy rechten: datalekken, verwerking buiten doelbinding (trainen van model, advertenties, profileren van personen etc.), niet nageleefde bewaartermijn wanneer informatie in het model achterblijft, eenmaal getraind krijg je de persoonsgegevens praktisch nooit meer uit een model.
4. Informatiebeveiligingstechnisch: beschikbaarheid (soevereiniteit?), integriteit (zie punt 1), en vertrouwelijkheid van gegevens (het geeft inzage in bedrijfsvoeringsprovessen van de gemeente).
5. Voor deelnemers aan het gesprek worden bij opnames ook gedrag, toon, emotie etc. en irrelevante gegevens verwerkt die in geschreven notulen nooit verwerkt zullen worden. Opnames maken heeft een bewezen impact op gedrag van personen die afhankelijk van het onderwerp doorslaggevend kunnen zijn in de uitkomst van een gesprek.
6. ...
7. ...

[rob12424]

Of wat denk je van die leuke AI tools waarbij je een foto inzend en hij er een leuke video van maakt.

Grootste probleem is het is vaak onbewust

[dimdek]

Dit is natuurlijk in het verlengde van wat al jaren gebeurt bij bedrijven die hun data in de cloud van Microsoft of Google plaatsen.
Scholen sluiten ook zonder voorwaarden te lezen een contract af met Google for Education waarbij alle scholiergegevens door Google mogen worden geanalyseerd. Terwijl Google volgens Harari al begin 2000 had aangegeven zo veel mogelijk data te willen binnenhalen om tzt AI te kunnen trainen.

[Tubby]

om op goedkope wijze en op grote schaal politieke geruchten te verzinnen, schadelijke informatie te verspreiden en verdeeldheid zaaiende sentimenten aan te wakkeren. Deze activiteiten vormen een aanval op de publieke opinie en een vorm van cognitieve oorlogsvoering tegen China

Zo de waard is vertrouwd hij zijn gasten

[dasiro]

Je weet dat de waard de VS is?

'VS trackt stiekem AI-serverladingen om verboden levering aan China te stoppen' - Tweakers

[flurb]

En wat is daar an sich mis mee? Overheid heeft het recht tot opsporing en onderzoek en volgens mij zegt hun wet: geen export voor producten x y z naar China.

Je kan het niet eens zijn met die wet maar onderzoek en dus tracken van leveringen bij een vermoeden van wets overtredingen lijkt mij vrij legitiem, anders kan je die wet ook wel de prullenbak in gooien.

[Reactie gewijzigd door flurb op 15 september 2026 00:22]

[Mitchelllll]

Opsporingsrecht?

[flurb]

Het recht tot opsporing is de wettelijke bevoegdheid van de overheid om onderzoek te doen naar strafbare feiten onder leiding van het Openbaar Ministerie

[Mitchelllll]

Ik kan em nergens vinden. De taak om op te sporen wel, maar een recht niet. Enfin, ik snap wat je bedoelt hoor.

[dasiro]

Het is duidelijk dat je met 2 maten en gewichten rekent, dus ik ga zelfs niet proberen om met je te discussiëren. Het feit dat die dingen in China in elkaar werden gevezen, maar er niet verkocht mogen worden zegt denk ik voldoende.

[flurb]

Nee, dat zegt me even niet zoveel, kan je uitleggen wat je bedoelt, ook met de 2 maten en gewichten?
Mocht ik iets missen, dan verneem ik dat graag.

[Xander2]

Het feit dat die dingen in China in elkaar werden gevezen, maar er niet verkocht mogen worden zegt denk ik voldoende.

Die AI chips worden in VS ontworpen en in Taiwan geproduceerd.

Verder investeert+produceert China gigantisch veel militair materieel die ze ook verkopen aan niet vriendelijke regimes.

Feitelijk is het Chinese regime alleen vriendelijk voor zichzelf en deelt het niet de Westerse normen/waarden die wij graag globalistisch zien.

Dat betekent simpelweg dat je moet uitkijken met export van potentieel militaire onderdelen, daar is niets hypocriets of onethisch aan. Tenzij je vindt dat elke bananenrepubliek ook recht heeft op een atoombom.

[kozue]

Nou, zullen we jou dan ook maar af laten tappen? De overheid heeft tenslotte volgens jou het recht de wet te handhaven en jou aftappen helpt hun om alles over je te weten, dus ook wanneer je de regels overtreed. Als je 1 keer een mp3tje download of per ongeluk 3km/u te hard rijdt kun je gelijk een bon verwachten.
Opsporing gaat niet boven alles. Anders kunnen we encryptie ook wel afschaffen.

[flurb]

Als ik verdacht wordt van een misdaad waarvan we hebben bepaald dat de opsporing in zulke gevallen mag tappen, ja.
Dat ik het niet eens ben met ons tapbeleid is iets anders.
Maar dat is een soort van democratisch afgestemd. Ik zal bij de volgende verkiezingen bv niet meer stemmen op bepaalde partijen die meegerommelt hebben aan de laatste wetsvoorstellen zoals die nu op tafel liggen.

(en ter info, want je reactie kan ik moeilijk relateren aan wat ik hiervoor schreef) Ik ben vrij allergisch voor bedrijven en overheden die absurd veel data voor de verkeerde redenen binnenharken. Zowel in prive als vanuit mijn werkveld.

Volgens mij heb mijn opmerkingen hiervoor mogelijk niet goed gelezen. Of ben je in verrast dat er in de wet is vastgelegd dat de overheid (politie/om) boeven mogen opsporen? Fiod, Marchausee, ILTV en boswachters mogen dat ook.
Snap je opmerking zodoende niet.
|

[n4m3l355]

Echter gaat het hier niet over de VS maar China. En het is geen geheim dat China miljarden spendeert aan propaganda. Dit soort berichten vanuit China dient men tweeledig te zien, het gebeurd en natuurlijk weer de overheid dat, tegelijkertijd moeten ze er ook iets van zeggen of het waar is of niet maakt niet uit. Wilt China er een eind aan maken kan dat morgen, blokkeer de VPNs en bestraf bedrijven die dit doen, ze doen het niet dus gaat het niet om dat dit gebeurd maar publiekelijk een statement te kunnen maken. En als ze willen kunnen ze later hier nog altijd op terugkomen cq specifieke bedrijven bestraffen want ze ondermijnen het regime.

[MehHuntah]

En terecht, maar models gebruiken van vreemde mogendheden is nog veel gevaarlijker..

Ik ben altijd verbaast hoe makkelijk wij models gebruiken die door anderen getrained zijn. Als ik iemand een rottweiler geef, en zeg, je kan em vertrouwen ik heb em getrained, dan moet je mij wel heel erg vertrouwen wil je die rottweiler in huis nemen.. Maar models die veel gevaarlijker zijn, daar wordt niet eens bij stil gestaan lijkt het.

[tweakuwe]

Naja, je ziet de output toch? Genoeg toepassingen waar het niet zoveel kwaad kan dat een onbetrouwbare partij het model getrained heeft. Bijv. Als je het voor spellingsfouten gebruikt, waar moet ik dan bang voor zijn? Dat de Chinese geheime dienst het model zo getrained heeft dat die er expres wat d/t fouten in verstopt?

[Cambionn]

Output zien beschermt niet wanneer veel mensen blind aannemen dat die klopt. Dat is ook juist het probleem: dat doen héél véél mensen niet, zelfs als ze weten dat het "zou moeten" (al is ze maar omdat ze denken, terecht of niet, dat het niet zo veel uitmaakt voor hun casus. Jan Modaal is namelijk ook koning in het onderschatten van wat uit maakt). Een hele LLM voor spelchecking is gewoon energieverspilling, dat kan veel efficienter met vergelijkbare kwaliteit output met andere technieken. Daarvoor dus niet echt aan te raden als je verder kijkt dan slike marketing en coole technologie. De momenten dat een LLM wel echt profeit geeft, zelfs als we enkel naar outputkwaliteit kijken en niet meenemen of het beter genoeg is om de benodigde resources te verantwoorden, ga je al dieper dan -d/t fouten. En dan kom je op het punt dat je op z'n minst tekst gaat aanpassen (als je al niet nieuwe tekst of zelfs info genereerd), en dus moet controlleren of de output nog klopt. En dan kom ik weer terug op de eerste paar zinnen.

Daarnaast gaat de waarschuwing niet enkel om de output (ik snap dat MehHuntah het daar al heen trok en jij daarop reageert, maar de eerste reactie waar hij op reageert en de waarschuwing van de Chinese overheid gaan verder). Veel gevaarlijker is de input, want menig persoon werkt niet enkel met lokaal gehoste opensource versies van de modellen. De tekst die jij erin zet om te spelchecken staat best vaak vol interesante data. Deels omdat men er niet overna denkt rn de meest interne dingen erin zet, nog veel groter deel omdat men extreem onderschat welke data allemaal interesant kan zijn voor welke toepassing. En ja, dat gebeurd net zo goed hier in het westen.

Alles wat je naar een AI dienst stuurt, gaat gewoon eerst "normaal" naar die dienst en wordt dan op hun servers verwerkt. Wat ermee gebeurd tussen ontvangen en verwerken is vrij lastig controleerbaar. Dat is altijd, voor iedereen, een risico. "There is no cloud, just someone else's computer". Maar wanneer je politiek niet bepaald bevriend bent is de kans dat het wordt afgetapt en misbruikt nog vele malen groter.

Los van het inhoudelijke:

Dat de Chinese geheime dienst het model zo getrained heeft dat die er expres wat d/t fouten in verstopt?

Het gaat om de Chinese overheid die waarschuwd tegen Amerikaanse modellen. Dus dan zou het de Amerikaanse geheime dienst zijn die er d/t fouten in verstopt .

[AnonymousGerbil]

Naja, je ziet de output toch?

Veel mensen kijken dat dus niet na omdat ze niet beseffen dat een LLM zelfs bij een eenvoudige spelcorrectie een berg onzin kan toevoegen.

[MehHuntah]

agentic AI (wat ik gebruik) heeft access tot heel veel tools.. je kan iedere tool laten prompten of ie het mag gebruiken of niet.. Maar agentic AI is alleen handig als je em een prompt geeft, en 1 of meerdere agents op de achtergrond parallel het werk laat doen zonder dat ie constant vraagt mag ik dit doen of mag ik dat doen.

Je ziet niet eens of ie besluit het internet op te gaan, en dingen te posten. Zie ook de artikelen over hoe agents uit hun sandbox gebroken zijn. Die sandboxes worden voornamelijk gebruikt om dit te vermijden.. Maar zelfs dat lukt openAI en Antropic niet.

Ik ben het er mee eens dat als je om een gerecht vraagt voor foo-young-hai dat de kans dan redelijk klein is, dat er iets in zit wat echt schadelijk is (als je niet al te dom bent, en alles blind doet ;-))

[spoonman]

Gisteren ging claude zonder mijn toestemming even iets checken in application insights in onze azure account, dat was even schrikken (was ingelogged met az cli)

[FreezeXJ]

Ging Claude iets checken of het harness dat je eromheen hebt zitten? Afaik kan een LLM zelf niet heel veel behalve letters uitspugen, maar het stukje logica eromheen dat em aanstuurt, en helpt prompts te formuleren (context bij elkaar harken, plaatjes omvormen naar tekst, tools aansturen) kan wel rare dingen gaan doen. Ik mis soms nogal dat juist daar een groot risico in zit, ook al omdat dat harness lokaal draait.

[Jeffrey_KL]

Ik zou toch wel zeggen dat de LLM verantwoordelijk is voor de acties die ondernomen worden. Net zoals het brein van een mens verantwoordelijk is voor de acties die je lichaam uitvoert.

Hier zelf ook wel verbaast gestaan in hoeverre de LLM weet te gaan om dingen te debuggen. SIP verbinding tussen applicatie en Asterix server bleef stil. LLM wist zonder problemen via proxmox de Asterix server in te komen, een debug sessie daar te starten. Vervolgens via ADB de gekoppelde telefoon te gebruiken om te bellen naar de server.

Tuurlijk de LLM heeft wat context nodig, IaC geeft de LLM al snel inzicht in wat er beschikbaar zou kunnen zijn via een CLI. Alsnog de LLM gebruikt zijn 'ogen' (read) en 'handen' (CLI) om de taak te voltooien.

[FreezeXJ]

De LLM mag de acties inderdaad aansturen, maar uiteindelijk gebruikt deze de opties die het harness hem geeft. De verantwoordelijkheid daarvoor ligt dan weer bij de mens die dat ding inricht. Als jij je LLM de beschikking geeft over een hele terminal met toegang tot de omliggende omgeving, dan is dat nogal wat. Zeker als dat blijkbaar onder een vrij riant account gebeurt met beperkte/geen restricties qua firewall, accounts op andere bakken en toegang tot het grote internet.

Uiteindelijk geldt dat wat een LLM kan, hij een keer zal doen, en ene Murphy vertelt ons dat dat gebeurt als het echt niet uitkomt.

[tweakuwe]

Oh ja, met agentic AI is het zeker een ander verhaal. Helemaal mee eens. Zelf weeg ik het per toepassing af.

[supersnathan94]

Maar zelfs dat lukt openAI en Antropic niet.

Ik begin sterk te vermoeden dat ze dit ook helemaal niet eens willen. Het zou mij niks verbazen als de sandbox door hetzelfde model is opgezet en niet door een andere vendor gecontroleerd is. GPT ziet hele andere dingen dan Claude en Kimi en Deepseek ook.

[kozue]

Naja, je ziet de output toch?

Je ziet de output (en kunt die controleren als je wilt, zou ik zeker doen), maar wat er achter je rug om met de input gebeurt weet je niet...

[flurb]

En terecht, maar models gebruiken van vreemde mogendheden is nog veel gevaarlijker..

Ik ben altijd verbaast hoe makkelijk wij models gebruiken die door anderen getrained zijn. Als ik iemand een rottweiler geef, en zeg, je kan em vertrouwen ik heb em getrained, dan moet je mij wel heel erg vertrouwen wil je die rottweiler in huis nemen.. Maar models die veel gevaarlijker zijn, daar wordt niet eens bij stil gestaan lijkt het.

Helemaal eens, de wereld is veels te oppervlakkig geworden en zodoende ook niet bewust en kritisch naar wat we nu precies gebruiken.

Als je zou stellen dat jouw psychiater jouw gegevens deelt met een Universiteit in de US die daar studenten mee opleiden, neem ik aan dat je daar behoorlijk veel bezwaar mee zult hebben. Wat doen genai gebruikers: die delen alles over hun persoonlijke issues met hun AI agent.. wat dus eindigt bij een stel commerciele bavianen die daar hun eigen product mee verbeteren.

[BenVenNL]

Nou, als ik gisteravond het journaal mag geloven gooien Nederlandse politici gewoon documenten door AI om ze te laten samenvatten. Dus de Amerikaanse regering zou eventueel deze samenvattingen gewoon wat subtiel kunnen 'bijsturen' om onze democratische processen meer in lijn te krijgen met hun beleid.

Ik zou daar ook bang voor zijn.

[duvekot]

Volgens mij gaat het toch om dit artikel?

First, it has a systemic impact on the political and security environment. As of June 2026, the number of users of artificial intelligence products in China exceeded 500 million, with daily word meta-calls exceeding 140 trillion, and the application of artificial intelligence has been rapidly and comprehensively deployed. Various hostile forces and individuals with ulterior motives abuse generative artificial intelligence technologies such as deepfake audio and video, AI-generated text and images, and intelligent online trolls to fabricate political rumors, spread harmful information, and incite confrontational sentiments at low cost and in large quantities, waging a propaganda war and a cognitive war against us, directly threaten

Vertaald met Google Translate.

[leendt]

Ze waarschuwen dus dat water nat is.

Een buitenlandse cloud (ai, dienst, ...) verbod zou ik begrijpen; dat is hier mijns inziens ook nodig voor alle kritische of gevoelige diensten.

[mutley69]

Die wetten uit het oude assyrië zijn terug superactueel, oog om oog, tand om tand!

[NNuGI]

Het valt me op dat het de laatste dagen in de mode lijkt te zijn dat alle grote AI bedrijven en overheden vooral aan het waarschuwen zijn voor het gevaar van AI in zijn algemeenheid of door het gebruik van een ander. Er is ineens een luide roep vanuit verschillende overheden en AI bedrijven om regelgeving en/of terughoudendheid.

Nou neem ik zowel de Chinezen als de Amerikaanse regering niet al te serieus als het om dit soort uitingen komt (helaas), maar in combinatie met de AI bedrijven zelf die het nu ook roepen is het een wat rare combinatie.

Mijn cynisme zegt dat het vanuit landen een politiek schaakspel is en vanuit de AI bedrijven marketing. Hoor iig weinig concrete voorstellen tot wetgeving bij al deze waarschuwingen.

[pizzafried]

Was dat land nou niet juist van laatst in het nieuws omdat ze AI requests via amerikaanse AI modellen lieten lopen om zo informatie te onttrekken van die modellen?

[mrdemc]

Geen idee, wat zou het artikel daarover zeggen?

[blinchik]

Lijkt me een hele verstandige waarschuwing en een reejeel risico. Niet omdat China het zegt of niet alleen voor China, ook voor ons als Europa zijnde.

Er wordt een hele databank opgebouwd met allesomvattende prive informatie omdat mensen het er gewoon in duwen zonder er over na te denken. Heel beangstigend.

[bursche]

Logisch natuurlijk. AI is in de eerste plaats natuurlijk een wapen. En er is een wapenwedloop gaande tussen de mogendheden.

[Williams123]

Ik snap niet dat die nieuws is. Iedereen doet het. Of het nu de VS is China. India of de EU.

Iedereen bespioneerd iedereen en Nederland doet ook lekker mee.

Iedereen kan wel zeggen we verbannen elke AI die niet uit ons land komt. kan de VS ook doen. Het doel van de VS en China zijn wel wat anders. wat betreft geld en zo.

Zelfde als in het ander bericht dat de AI bedrijven om reguleren vragen. Ja HUN reguleringen. Als het iets is wat hun echt zou tegen werken moet je zien hoe snel ze gaan zeuren.