‘Baidu ontwikkelt AI-tool voor partijconforme overheidsdocumenten’

Chinese ambtenaren krijgen ondersteuning van een nieuwe AI-assistent bij het opstellen van beleidsdocumenten. Technologiebedrijf Baidu heeft een systeem ontwikkeld dat automatisch controleert of documenten in lijn zijn met de officiële partijstandpunten.

Volgens berichtgeving van de Chinese media South China Morning Post en Sohu moet het systeem ervoor zorgen dat overheidscommunicatie consistent blijft met de partijlijn. De digitale assistent verifieert citaten en verwijzingen naar het gedachtegoed van president Xi Jinping en kan zelf teksten genereren met correcte verwijzingen naar overheidsstatistieken en -beleid.

Om de assistent te ontwikkelen werkte Baidu samen met Xuexi, een applicatie die zich richt op het leven en de ideeën van de Chinese president. Xuexi integreert de nieuwe functionaliteit in zijn bestaande platform. Het platform biedt gebruikers al de mogelijkheid om over staatsideologie te discussiëren.

Reacties (33)

[PrimusIP]

Ben wel benieuwd of het goed werkt. Ik heb tot nu toe niet echt volledig vertrouwen in hoe AI foutloos werkt.

Aan de ene kant klinkt het iets uit het Orwell - 1984 verhaal. Waar boeken en het nieuws ook worden aangepast aan de partijlijn, door the ministry of truth.
Aan de andere kant is het nou ook weer niet dat je als Nederlandse ambtenaar beleid moet willen opstellen waarbij je gewoon wet- en regelgeving en overheidsbeleid straal mag negeren. Zou best handig zijn een hulptool te hebben die aangeeft van "euh, dat staat in conflict met de AVG, de Woo", of weet ik wat meer.

[Reactie gewijzigd door PrimusIP op 10 december 2024 09:42]

[Renoir]

Aan de andere kant is het nou ook weer niet dat je als Nederlandse ambtenaar beleid moet willen opstellen waarbij je gewoon wet- en regelgeving en overheidsbeleid straal mag negeren. Zou best handig zijn een hulptool te hebben die aangeeft van "euh, dat staat in conflict met de AVG, de Woo", of weet ik wat meer.

Toevallig vorige week met een collega over gehad dat het mega handig zou zijn om tooling (lokaal, model onder eigen beheer) te hebben die precies hierbij helpt. Check op conflicten met wetgeving en beleid. Zou echt kunnen helpen. Want het is niet alsof we allemaal alle relevante wetgeving en jurisprudentie uit ons hoofd kennen.

[Lodd]

Nou ja, wetgeving en regelgeving en beleid moet je kunnen doorgronden en interpreteren. De huidige generatie AI houden zich vooral bezig met het voorspellen van het volgende woord, maar doorgronden niet echt. Je krijgt dan dus eerder een situatie waarin software triggert op bepaalde woorden en dan zegt: Denk je aan die en die wetgeving? Een soort clippy dus.

Maar een echte digitale jurist zie ik voorlopig nog niet gebeuren.

[DJ Henk]

Er is geen computerprogramma dat informatie kan doorgronden op de manier die jij bedoelt. Dat neemt niet weg dat zoekmachines enorm handig zijn. De huidige AI is vooral goed in het remixen van tekst (samenvatten, opstellen, enz.) en tegenwoordig kan er ook beter gezocht worden op betekenis van een fragment. (Zoeken op 'Amsterdam' geeft ook de teksten waar ze het hebben over 'de hoofdstad van Nederland')

Een echte digitale jurist wordt daar volgens mij enorm blij van. Nieuwe gereedschappen die zijn/haar werk makkelijker kunnen maken.

[toekie]

Bij defensie hebben ze nu 'Defgpt'. Is momenteel nog erg brak en er komen de domste antwoorden/opmerkingen uit (wel erg meme waardig check paxen be like mar eens ). Maar voor zover ik het had begrepen willen ze het vooral gebruiken voor zaken die jij beschrijft. Extra ondersteuning van de medewerker en verlagen van de werklast/druk bij het doorgronden of opstellen van documenten.

[separhim]

Zoals ik uit het artikel begrijp, controleert deze AI voornamelijk of dingen correct zijn geciteerd of naar verwezen van Xi, hetgeen wat beter te controleren is als AI dan tekst controleren op "partijconformiteit". Daarnaast heb je het over Orwell, maar ik denk dat dit gewoon een tool is om iets te gemakkelijk te maken wat ze al lang deden daar in China. Namelijk de grote leider niet tegenspreken in officiële documenten.

En dat tweede punt, ik denk dat een AI dit soort dingen zou kunnen, dus neutraal kan kijken of iets in conflict is met wet- en regelgeving best nuttig kan zijn voor veel partijen.

[_Eend_]

Tjee, dan zit zelfs Winston Smith straks zonder werk dankzij AI

[Keyb]

Eerst wat documentjes in lijn krijgen. Daarna met AI en camera's de mensen binnen de lijntjes laten kleuren. Als je buiten de lijntjes kleurt even heropvoeden. Handig hoor die AI.

[Dooxed]

Gewoon automatisch de autonome drones er op af sturen!
Edit: of de cyborgkakkerlakken, vandaag in het nieuws: https://www.nu.nl/313230/...kers-van-de-toekomst.html

[Reactie gewijzigd door Dooxed op 10 december 2024 10:30]

[Yalopa]

Het ene heeft totaal niets met het andere te maken.

Waneer er documenten gecheckt worden op consistentie met de wet (of partijlijn, in China is dat hetzelfde) dan is dat zeer goed, immers de kwaliteit van de overheidsdiensten gaat er op vooruit doordat er consistenter gecommuniceerd wordt met de burger. Wat mij betreft voeren ze dat bij ons onmiddellijk in, want hierdoor verminderd de rekbare interpretatie en gebruik van "bugs" om de wet te laten werken (al dan niet door middel van juridische veldslagen die de staat miljoenen kosten) op een manier die helemaal niet zo bedoeld was, omdat een ambtenaar een kleine non-conformiteit gemaakt heeft.

Het andere is orwelliaans en moeten we idd helemaal niet willen (maar ook in place in china)

[WillySis]

Volgende stap is dat alle media eerst gecontroleerd en herschreven worden. Het Orwelliaanse tijdperk lijkt nu echt aangebroken te zijn.

[Tintel]

Maar dat is niet perse afhankelijk van automatisch aanpassen...dat helpt als de hoeveelheden heel groot zijn, dat wel.
Het gaat er meer om of output wel/niet geilfterd dan wel aangepast, kan worden.
Dus dat nu AI wordt gebruikt om dat te doen is eigenlijk niet zo relevant - aangezien menselijke moderators het ook gewoon al konden doen (en ook deden).

[themadone]

In het land van de gezichtsherkenning en sociale krediet scores was dit natuurlijk al een tijdje aan de gang.

Ik kan me zo voorstellen dat dit op termijn ook handig kan zijn in het westen, maar dan meer als toetsing van beleidstukken tegen bepaalde wetgeving, scheelt weer een legertje ambtenaren.

[namelessness]

social krediet is een hoax. google maar https://youtu.be/Kqov6F00KMc?si=ruioBwYO162SJobl

[themadone]

ja ok, dus het is niet dat ze het niet willen, maar ze krijgen het (nog) niet voor elkaar. Ok, soort van verschil. Maar dan nog, de cameras laten die beelden toch ergens, nog niet actief betekend niet nooit actief.

[namelessness]

same als bij ons, genoeg camera's, het is zelfde. tel maar eens aantal camera's op straat.
iemand uit afrika ziet dit ook als surveillance. `het is maar hoe je het bekijkt.

[Tim AtSharp]

Minestry of truth is dat geloof ik...

[locke960]

Toch is het idee niet slecht. Als regering streven naar consistente en consequente beleidsstukken en communicatie, gebaseerd op officiële bronnen en standpunten is gewoon een goed idee. Zouden wij ook iets meer van kunnen gebruiken

Of die officiële bronnen en standpunten deugen is een andere discussie en heeft verder weinig te maken met of je de controle dmv. tooling automatiseert of niet.

[Reactie gewijzigd door locke960 op 10 december 2024 10:58]

[Tim AtSharp]

Ik snap wat je bedoelt, maar je ziet het fout. Dit is een extra middel om alle afwijkende ideeën (vroegtijdig) de kop in te drukken, en enkel het opgelegde narraief te volgen. Denk je nu echt dat dit enkel gaat om 'heldere communicatie' of zie je in dat dit een tool is waarmee voortijdig 'afwijkende meningen' van overheidsfunctionarissen gesignaleerd kunnen worden...?

Dat je het idee hebt dat 'wij ook maar eens zoiets moesten doen' is zorgwekkend...

[roelboel]

Er is bij ons gelukkig een groot verschil tussen partij, regering en overheid. In China niet.

[namelessness]

in China werkt het als 1 geoliede machine.
vergeet niet dat bureaucreatie een chinese uitvinding is. het westen heeft veel geleerd van China wbt bureaucratie.

[84hannes]

Technologiebedrijf Baidu heeft een systeem ontwikkeld dat automatisch controleert of documenten in lijn zijn met de officiële partijstandpunten.

offtopic:
Kan je je voorstellen hoe moeilijk het zou zijn zo'n tool voor de VS te ontwikkelen? Probeer maar eens een lijn te vinden in de standpunten van de verkozen president. Partijstandpunten passen zich daar volledig aan aan, dus daar heb je ook niets aan.

In aanvulling op wat @locke960 zegt
We hebben eerder op Tweakers mogen lezen dat de BBB ChatGPT gebruikte voor het verkiezingsprogramma. Als een AI/Taalmodel je kan helpen bij een consistent verkiezingsprogramma zie ik er eigenlijk geen problemen in. Als je enerzijds voor problemen op innovatie rekent, maar anderzijds geen plannen hebt om die innovatie te stimuleren, dan zou een AI die inconsistentie wellicht kunnen detecteren en voorkomen.

[Reactie gewijzigd door 84hannes op 10 december 2024 10:27]

[WillySis]

Onder Trump acht ik het zeker niet onwaarschijnlijk dat hij dat zou willen. Wat Trump denkt is niet zo moeilijk te voorspellen. Hij is zeer rechtlijnig en de waarheid zit hem nooit in de weg, al kan die wel behoorlijk verschillen van zijn perceptie daarvan.

[SacredRose]

een van de weinige keren dat het hallucineren van de AI een extra voordeel op kan leveren.

[Twpk]

Fictie wordt werkelijkheid ... war is peace, freedom is slavery, ignorance is strength ...

[vrije_vogel]

Dan moeten we hier eerst aan Bente Becker vragen wat de gewenste waarden en normen zijn.

[eheijnen]

De hele wereld aan de communistische dictatuur zonder dat mensen wat anders willen, daar zijn ze bij de partij ook al een tijdje achter dat dat niet gaat lukken.

Dat is waar de digitale "hulpmiddelen" een helpende hand bieden bij "die Gleichschaltung" van de bevolking.

[namelessness]

dictatuur? flat earther, je klinkt als je niet / nooit in China bent geweest.
ik zou zeggen neem even een tripje, en zie het jezelf. het is niet communisme zoals wij het denken.
het is eerder een socialistische staat.
Wij zijn gewoon erg allergisch als men "communisme" noemt, zij zien het daar anders.
wellicht is socialistische staat een betere benaming.
maar neen, dictatuur is het zeker niet.

[Jeffrey88]

Het uitvoeren van de wet en het gedachtengoed van een persoon klakkeloos naleven is toch iets heel anders,

Ik ben het eens dat ik mij houd aan de Nederlandse wet, maar ik heb zo mijn opvattingen over het overheidsbeleid en wil die ook graag vrij kunnen uiten.

Gezien je geen oppositie hebt heeft dit meer te maken met het manipuleren van iedere gedachte niet in lijn met XI Jinping dan de wet goed te interpreteren.

[Reactie gewijzigd door Jeffrey88 op 10 december 2024 14:42]