Alibaba en Tencent moeten details algoritmes met Chinese overheid delen

De Cyberspace Administratie China heeft details opgevraagd over de door Chinese techgiganten gebruikte algoritmes. De Chinese overheid probeert met dergelijke acties naar eigen zeggen misbruik op het gebied van datagebruik door grote techbedrijven te bestrijden.

Onder meer TikTok-moederbedrijf ByteDance, webwinkel Alibaba en houdstermaatschappij Tencent hebben details over hun algoritmes moeten delen met de CAC, zo weet Bloomberg te melden. De uitvoerende arm van de Centrale Commissie Cyberspace-affaires vereist vooralsnog niet het daadwerkelijke algoritme dat een bedrijf gebruikt. Er wordt onder meer een door de bedrijven opgestelde zelfreflectie op het gebied van cyberbeveiliging vereist, almede een beschrijving van het soort data dat verzameld wordt, of er biometrische of aan identiteit gerelateerde data van een gebruiker verzameld wordt en wat voor data er gebruikt wordt om algoritmes te trainen.

De CAC kan naar eigen inzicht meer informatie opvragen van Chinese techbedrijven. De maatregelen maken onderdeel uit van een algehele aanpak van de Chinese Communistische Partij om misbruik van gebruikersgegevens door techbedrijven aan banden te leggen. Hiervoor zijn recentelijk meerdere wetten aangenomen en richtlijnen uitgeschreven.

Algoritmes spelen daarbij een centrale rol, dergelijke code in elk geval deels gebruikmaakt van gebruikersgegevens. Algoritmes worden door de betreffende bedrijven doorgaans als bedrijfsgeheim gezien; de manier waarop een algoritme functioneert is mede bepalend voor het succes van een dienst. Hoe Alibaba bijvoorbeeld productsuggesties doet, bepaalt deels of en waaraan klanten geld spenderen. Ook op sociale media is het gebruikte algoritme bepalend voor de gebruikerservaring. Overigens heeft TikTok geen details over het algoritme hoeven delen, maar zusterapp Douyin, ook in handen van ByteDance, is wel onderhevig aan het directief. TikTok is namelijk exclusief in het buitenland beschikbaar, terwijl Douyin voor de Chinese markt bedoeld is.

Update, 20.50 uur: Er is duiding over de regels met betrekking tot ByteDances sociale media toegevoegd aan het artikel.

Reacties (62)

[zonglew00]

Overigens heeft TikTok geen details over het algoritme hoeven delen, maar zusterapp Douyin, ook in handen van ByteDance, is wel onderhevig aan het directief.

Een duidelijk lijn.

[YannickSpinner]

Daar hoorde nog een belangrijke duiding bij, die heb ik aan het bericht toegevoegd!

[MrMonkE]

Duiding.. altijd kudos
Echter geen enkele notificatie van wijziging onder het artikel. Is dat aan de auteur? Ik zie ze sporadisch onder artikelen die gewijzigd zijn. Dat zou eigenlijk beleid/automatisch moeten zijn. Open. Een link met diff erbij zou nog mooier zijn. Zelfs voor spelvoudten.

[YannickSpinner]

In principe zetten we dat er inderdaad altijd bij, mits het om een belangrijke toevoeging of verandering gaat. Wanneer het de gehele interpretatie van een bericht verandert zetten we het er ook in de titel bij, zodat men op de homepage al kan zien dat er meer (of andere) informatie bekend is.
Bij een spelfout of minutieuze aanpassing passen we het bericht gewoon aan zonder daar melding van te maken, anders zou praktisch ieder bericht een updatenotificatie krijgen, wat de lading een beetje wegneemt Ik heb 'm hier voor de goede orde wel toegevoegd

[obimk1]

Duidelijk, MAW, 5G apparatuur uit China ook voor 0,0000000000000% "vertrouwen."

[DigitalExorcist]

Ja nóg wel….

[perfection]

Tegen alle verwachtingen in

[BartOtten]

Een beetje “wij goed-zij slecht” gehalte volgens mij. Niets in dit artikel wijst op iets slechts van de overheid. Sterker nog: de EU zou hetzelfde moeten doen mijn inziens.

Dit is voor zover ik kan zien om consumenten (en kleinere concurrenten) te beschermen. Voorbeeld: als er staat “Amazon’s algoritme zorgt ervoor dat Amazon Basic producten 2.5x meer waarde toegewezen krijgen in de ranking” dan is dat belangrijke info voor een overheidsorgaan.

Edits: verduidelijkende woordkeuze

[Reactie gewijzigd door BartOtten op 23 juli 2024 12:14]

[Bender]

Hoewel ik het met je eens ben dat dit gecontroleerd zou moeten kunnen worden, is het ook zo dat de overheid niet in staat zal zijn dit als bedrijfsgeheim te kunnen behandelen.

[WillySis]

Bedrijfsgeheimen bestaan in China niet. De overheid heeft het recht om letterlijk alles op te vragen.

[Bender]

Ik reageerde op dat hij zegt dat ze dat in de EU ook zouden moeten doen, dat heeft niet zoveel met chinese bedrijfsgeheimen te maken.

[WillySis]

Men is al bezig om zoiets op te zetten:
https://www.allenovery.co...f-the-draft-ai-regulation
https://digital-strategy....h-artificial-intelligence

[CivLord]

Hoewel ik het met je eens ben dat dit gecontroleerd zou moeten kunnen worden, is het ook zo dat de overheid niet in staat zal zijn dit als bedrijfsgeheim te kunnen behandelen.

Hoe bedoel je dit?

[Bender]

Letterlijk hoe ik het zeg.
Een AI model is een bedrijfsgeheim, iets wat in sommige verhalen een bestaansrecht van een bedrijf bepaald.
Die kennis overdragen, of in bewaring geven van de overheid, lijkt me niet zo heel verstandig.

[CivLord]

Je zegt dat de overheid niet in staat is om dit als bedrijfsgeheim te kunnen behandelen.
Daarmee lijk je te willen zeggen dat de overheid niet in staat is om bedrijfsgeheimen geheim te houden. Het zal je dan misschien verbazen dat de overheid van heel veel bedrijven al allerlei bedrijfsgeheimen weet en deze ook goed geheim weet te houden.

Het gaat al om gedetailleerde omzetgegevens, waarderingen, afschrijvingen en reserveringen bij de belastingdienst (gedetailleerder dan de gepubliceerde jaarverslagen), inclusief plannen en prognoses. Dan heb je subsidies waarvoor bedrijven met de billen bloot moeten, inclusief subsidies voor de ontwikkeling van innovatieve technieken, waarvan concurrenten absoluut niets mogen weten (reken maar dat bedrijven als ASML en Philips daar ruim gebruik van maken). En dan heb je nog bedrijven als Microsoft die inzagen geven in hun broncode, zodat overheden zelf kunnen controleren dat hun gegevens veilig zijn wanneer ze gebruik maken van Windows en Office.

[WillySis]

Ik ben bang dat de Chinese overheid een heel andere definitie heeft van misbruik. Het recht van de consument heeft men daar niet zo hoog staan, maar van misbruik tegen de staat ben je al snel verdacht.

[PjotterP]

Exact. Overheidsbelang, van de partij en een stuk algemeen belang. Maar de individuele belangen en rechten van burgers en bedrijven is een ander verhaal. Dat gaat in alle landen wel eens mis (ook NL) maar in China is dat het startpunt.

[Wouterie]

En dan te bedenken dat we er zelf voor hebben gezorgd dat China zo'n hekel aan 'onze manier van doen' heeft gekregen. Twee opiumoorlogen hebben toch aan de basis gestaan van het succes van Mao. Maar goed, we moeten natuurlijk niet te ver terug in de tijd gaan met onze kritiek op overheden.
Zij zullen dit inderdaad onder staatsveiligheid kunnen schuiven. De Chinese overheid heeft het niet zo op de grootverdieners waar ze onvoldoende grip op hebben.

[CivLord]

Bij die opiumoorlogen is vooral de onwil van de toenmalige Chinese Keizers uitgebuit om aan iets anders dan hun eigen luxe uitspattingen te denken. Zo ligt er in het meer van het luxueuze Zomerpaleis bij Beijing een marmeren boot dat door de moeder van een van de laatste keizers is gebouwd met geld dat eigenlijk voor oorlogsschepen bedoeld was. Het zijn vooral dat soort uitspattingen en de desastreuze gevolgen daarvan die Mao mogelijk hebben gemaakt.

En ja. Dat was in een periode dat de westerse machten heel goed de vinger op de zere plekken wisten te leggen bij de heersende dynastieën van o.a. China en het Ottomaanse rijk en deze uit wisten te buiten. Maar dat konden ze alleen doen bij het gebrek aan sterke daadkrachtige leiders.

[FrankoNL]

Niet perse een wij goed zij slecht gehalte, hier loopt ook niet alles altijd even jofel, maar we kunnen met zijn alleen wel enigszins consensus bereiken over dat de Chinese overheid in ieder geval niet echt lekker om zal gaan met dit soort informatie. Of niet?

[Pianist1985]

Wanneer je communisten en niet-communisten met elkaar vergelijkt, is er wel degelijk een duidelijke tegenstelling tussen goed en slecht. De enige politieke ideologie die net zo boosaardig is, is het jihadisme.

[PrivatePerson]

@Pianist1985 Ik durf te stellen dat je het Fascisme hiermee enigszins tekort doet...

[Pianist1985]

Over het nationaalsocialisme zou je dat kunnen zeggen ja, maar in geval van het fascisme (dus de ideologie van Mussolini, niet Hitler) sla je dan de plank mis. Er zijn gradaties in boosaardigheid en Mussolini was absoluut geen Stalin, Mao, of Hitler.

[Reactie gewijzigd door Pianist1985 op 23 juli 2024 12:14]

[Vayra]

Dat is nog maar de vraag. We doen nu kennelijk hier de aanname dat de manier waarop de overheid zijn burgers gaat 'beschermen' een positief verhaal gaat zijn.

Dit is het land met een 'social credit rating'... en waar het op allerlei manieren een beetje wringt de laatste tijd. De timing is geen toeval.

Een ding weet je zeker: je wordt op sociale media gemanipuleerd en de overheid vindt dat ook interessant.

[Reactie gewijzigd door Vayra op 23 juli 2024 12:14]

[nDust]

De aankomende Europese AI-verordening zal soortgelijke regels in de EU stellen: bedrijven en overheden met 'hoog-risico' algoritmen zullen elk X-aantal jaar moeten evalueren en hierover rapporteren aan een nog in te stellen toezichthouder.

[Verwijderd]

Alle discussie hierover is verspilde moeite, de Chinese overheid eist dat alles pro-actief ook naar hun gaat. Andere overheden zien dat het zo gemakkelijk gaat en willen nu dat ook wel.

Het lijkt ertop dat de Chinese overheid zelf meeschrijft aan het algoritme va TikTok en zo hoeven zij dat ook dat algoritme niet op te vragen. De verkregen data gaat overigens wel naar de Chinese ovetheid.

Het beste is om jouw eigen online aanwezigheid tot het minimale te beperken!

[willemblans]

Ik hoorde dat google nog veel slechter is, hoe zit dat?

[Verwijderd]

Wat is er dan onduidelijk aan "minimale online aanwezigheid"?

[amigob2]

welke 70 miljoen man heb jij het over ?
En alle dode door de American is geen probleem ?

[Reactie gewijzigd door amigob2 op 23 juli 2024 12:14]

[pharmacist]

Nou nee, er zijn inderdaad tientallen miljoenen verhongerd, maar dat was geen bewuste moordpoging, echter het catastrofaal gevolg van een totaal mislukt en krankzinnig plan om de economie te moderniseren en door een campagne om alle mussen dood te meppen. Alle boeren moesten plotseling ijzer gaan smelten, terwijl ze totaal geen ervaring ermee hadden, waardoor er niet alleen uitermate slecht gietijzer werd geproduceerd, maar onttrekking van de werkkracht nodig om de landbouw op peil te houden en dat nog eens gecombineerd met de collectieve waanzin om met tromgeroffel alle vogels die de oogst zouden opeten (wat natuurlijk niet waar is) te verschrikken en dood te slaan. Het gevolg was wel dat vrijwel alle vogels bijna waren uitgeroeid, die normaal de insecten opaten en die dus ze opgezadeld waren met een sprinkhanenplaag die alle resterende graan opat: gevolg een gigantische hongersnood en tientallen miljoenen kwamen om door de honger. Nadien moest Mao noodgedwongen zijn beleid bijsturen.

[Reactie gewijzigd door pharmacist op 23 juli 2024 12:14]

[Pianist1985]

Bewust het gros van de boerenbevolking dwingen om te stoppen met het land bewerken, samen met het uitroeien van de natuurlijke vijanden van schadelijke insecten, en je ook nog eens zonder enige kennis van zaken bemoeien met hoe boeren wél het land moeten bewerken als het er al van kwam, betekent willens en wetens miljoenen hongerdoden op de koop toenemen. Dat is gewoon moord. Als hij berecht zou zijn geweest voor deze daden, volgens de precedenten geschept door o.a. Nürnberg, had hij 100% zeker de strop gekregen.

Mao was een door rancune en een godscomplex gedreven knetterwaus. Die, helaas voor zijn volk, alleen tegelijkertijd uitermate vaardig was in het bedrijven van machtspolitiek.

[Pianist1985]

En dan hebben sommigen nog steeds het lef om te ontkennen dat China daadwerkelijk een communistisch land is. Elk bedrijf staat als puntje bij paaltje komt gewoon onder controle van de staat.

[Fluttershy]

Elk bedrijf staat als puntje bij paaltje komt gewoon onder controle van de staat.

Onzin, dat is niet de definitie van communisme noch iets dat enkel is toe te schrijven aan autocratische regimes.

Dat bedrijven moeten conformeren aan nationale wetgeving is niks bijzonders aan.

Dat wetgeving soms primair bestaat ten bate van de huidige wetgever is, hoewel verwerpelijk, ook niets uniek aan China.

[Pianist1985]

De definitie van communisme in economische zin is de totale controle van het collectief over de productiemiddelen.

De wetgeving in China bestaat uit dictaten uitgevaardigd door massamoordende totalitaire tirannen die zonder met de ogen te knipperen tientallen miljoenen onderdanen hebben vermoord, waarvan het gros is omgekomen door de gevolgen van politieke controle over de landbouwsector - waardoor het volk massaal doodhongerde. Dat is niet te vergelijken met door democratisch gekozen volksvertegenwoordigers uitgevaardigde wetgeving in een open samenleving waar een (in redelijk mate) vrije markt opereert. Het is vergelijkbaar met een bende die mensen pistolen tegen de kop zet en benen breekt als ze niet doen wat ze willen. Want dat zijn het, communisten zijn geen haar beter dan gangsters.

Als het kwaakt als een eend en zwemt als een eend, is het gewoon een eend, klaar.

[Reactie gewijzigd door Pianist1985 op 23 juli 2024 12:14]

[Fluttershy]

Nogmaals, grove onzin.

Ieder bedrijf moet zich conformeren aan de lokale wetgeving waaronder de nationale wetgeving. Daarmee is niet ieder bedrijf onder volledige controle van de wetgevende macht van de staat. Het is absurd zwart-wit denken om te denken dat dit wel zo is; alsof er niets bestaat tussen de extremen communisme en anarchie.

[Pianist1985]

Je comment slaat op niets en getuigt van een serieus gebrek aan kennis van politiek en daarom gebruik je termen op een manier die op geen enkele wijze hout snijdt.

Communisme en anarchie zijn geen extremen. Extremen zijn 2 tegenpolen op hetzelfde spectrum. De tegenpool van anarchie is orde, en dan heb je het dus over een ander spectrum. Dat 2 dingen niet hetzelfde zijn, maar ze niet tot elkaars tegengestelden! Anarchie en communisme zijn niet alleen geen tegenpolen van elkaar, ze zijn niet eens 'mutually exclusive' - kijk naar de linkse doodseskaders in de Spaanse Burgeroorlog die opereerden in totale wetteloosheid en dood en verderf zaaiden onder priesters, kloosterlingen, en de hogere burgerij.

[GLaDTheresCake]

De tegenpool van anarchie is orde,

Jouw comment klopt hier ook niet, het omgekeerde van anarchie is hiërarchie, niet orde. Anarchisten geloven in orde en samenleving, ze geloven niet in (non consensuele) hiërarchie. Dus geen bazen maar coöperatieven, geen politici maar samenwerking, geen leraren maar coaches, zelfsturing van mensen in teams. Gelijkheid, solidariteit en samenwerking zijn de grondslag van anarchisme, niet wetteloosheid. Je kan prima regels hebben onder anarchisme.

[Pianist1985]

Nope. Weliswaar betekent hiërarchie het tegenovergestelde van anarchie indien je de betekenissen van het oorspronkelijke Griekse woord gaat vergelijken, maar in het Nederlands wordt hiërarchie specifiek gebruikt om organisatiestructuren met een gezagsrelatie mee te duiden, en voor algemeen goed functioneren van de maatschappij is het woord 'orde' gangbaar. Als je hier, en dat zou etymologisch gezien absoluut mogelijk zijn, het woord 'hiërarchie' zou gebruiken, gebruik je het in een context waarin het exact dezelfde betekenis heeft als 'orde'. Het maakt dus niets uit. Net zoals je ipv. 'anarchie' het over 'wetteloosheid' of 'chaos' had kunnen hebben.

Verder: ik heb het geen moment gehad over anarchisme, maar over anarchie, dwz. wetteloosheid, als reactie op andermans verwijzen hiernaar. Het anarchisme is in deze context niet direct van betekenis en omvat diverse stromingen die ver uit elkaar liggen. Mikhail Bakunin was een anarchist, en stond dicht bij het communisme. Je hebt echter ook libertarisch anarchisme, soms ook anarchokapitalisme genoemd, dat juist zeer ver van zowel communisme als links-anarchisme staat.

[Reactie gewijzigd door Pianist1985 op 23 juli 2024 12:14]

[CivLord]

De definitie van communisme in economische zin is de totale controle van het collectief over de productiemiddelen.

Is dat de definitie, als in: alles dat daar aan voldoet is automatisch communisme? Of is dat één meerdere, maar niet exclusieve, eigenschappen van communisme?
Wanneer dat de definitie is, dan is China geen communisme, want daar is het niet het collectief dat de controle uitoefent, maar een kleine heersende elite die dat naar eigen zeggen voor het belang van het collectief doet. Maar wanneer je dat al voldoende vind, dat controle wordt uitgeoefend námens het volk, dan is het fascisme eigenlijk ook communisme, want daar wordt ook totale controle uitgeoefend over de productiemiddelen in het belang van het volk. In WWII had Hitler en zijn partij volledige controle over het hele Duitse productie-apparaat en de allocatie van grondstoffen. Was hij daarmee een communist?

(Ik denk overigens dat je het wel om kan draaien. Elk land dat zichzelf communistisch noemt is in de praktijk een fascistische staat.).

[SuperDre]

Sorry om je dit dan te moeten zeggen, de VS heeft vergelijkbare regels.

[willemblans]

En Google geeft ook inzicht aan de chinezen hoorde ik in het winkelcentrum, en de stad heb je van die groepjes die alles weten over media en tech, alleen vertellen ze dat niet, ze zijn nog veel slechter met data van iedereen te verzamelen, zeiden ze

[Pianist1985]

Verder alles oké?

[IIIIIIIIIIII]

Kan iemand mij uitleggen of dit voor het algemeen belang goed is of slecht? Zouden jullie dit steunen als dat hier zou gebeuren en waarom wel/niet?

[DigitalExorcist]

Lastig. Dat de échte techreuzen transparanter moeten zijn over verzamelde data hebben we allemaal baat bij. Maar de uitvoering daarvan en wat er kan gebeuren met die data of algoritmes als die in handen van wetgevers komen, dát is nogal een riskant gebied.

We weten inmiddels hoe laks overheden omgaan met privacy, data, bescherming en cybersecurity in het algemeen - en daar hebben we allemaal weer last van.

De transparantie is prima maar wel onder verbeterde voorwaarden en die zijn er nu simpelweg nog niet.

[deregtx]

Ze hebben geen Keuze Helaas.. Toen Jack Ma een keer Kritisch was verdween hij voor langere tijd van de Aardbodem...

[willemblans]

die is nog steeds weg toch?, is toch te gek voor woorden

[zonglew00]

Hij was meerdere malen nog in Nederland... Op *handelsmissie*, met name voor landbouw.

[willemblans]

En die is nog steeds weg toch?, dat is toch te gek voor woorden

[theobril]

Kunt u aangeven waarom een overheid op de hoogte hoort te zijn van communicatie van social media? En dingen als email en briefgeheim, heeft een overheid daar geen recht op, en zo niet, waarom dan wel op wat ik chat op facebook, en niet op wat ik mail? Graag hoor ik waar u de lijn trekt van waar een overheid bij moet kunnen en waar niet meer.

[Verwijderd]

Het gaat over algoritmes. Ik denk/vind dat de politie pas uw chatberichten mag uitlezen wanneer er ernstig vermoeden van een misdrijf is.

[DigitalExorcist]

Er zijn alleen 2 kleine probleempjes:

1) De definitie van “ernstig vermoeden”
2) De definitie van “misdrijf”

Die definities blijken nogal eens aan inflatie onderhevig.

[Verwijderd]

Hoewel dat blijkbaar niet heel duidelijk was in mijn eerste bericht, is dat echter niet wat ik bedoelde.

Vanaf wanneer en onder welke hoedanigheid berichten door politie en justitie kunnen gelezen worden gaat niet echt over de algoritmes (waar ik het wel over had)

[DigitalExorcist]

Maar dat is natuurlijk wél de volgende stap. Het blijft niet bij wat info over de algoritmes..

[Yoshi]

Correctie, na goedkeuring van een rechter.

[Gladiator5]

Jij vind het normaal om dus continue getrackt te worden, ik niet.
wat je op social media gooit, is not tot daar aan toe, dan weet je dat het op het openbare internet terecht komt.

Waarom zou de overheid me berichtje tussen mij en me familie moeten kunnen onderscheppen? Dat is puur schendig van privacy.

En ja, die wil ik houden. En menig mens pas als het te laat is...

[Verwijderd]

Hoe social media je continue tracked is precies wat bekend moet zijn bij de overheid. De berichten tussen jou en je familie kunnen maar inleesbaar gemaakt worden voor oa. de politie wanneer er een ernstig vermoeden van een misdrijf is.

[Larmoth]

Ik denk dat we echt niet mogen klagen dat we hier (Nederland/Belgie of uitgebreid West Europa) wonen lol Als je ziet wat er andere landen gebeurt of aant gebeuren is.