Regering Zuid-Afrika trekt voorstel AI-regulering in vanwege fictieve bronnen

De regering van Zuid-Afrika heeft een voorstel voor AI-regulering ingetrokken nadat bleek dat er fictieve bronnen in de tekst stonden. Die kwamen door het gebruik van AI zonder verificatie.

De regering had het voorstel een paar weken geleden online gezet voor consultatie, maar nu is het helemaal teruggetrokken, zo meldt de regering. Tijdens de consultatie bleek dat bronnen die de regering aanhaalde in het wetsvoorstel helemaal niet bestonden. Dat is een duidelijk teken van het gebruik van AI voor het schrijven van de tekst zonder grondige menselijke verificatie van de bronnen.

Met het voorstel had Zuid-Afrika leidend willen worden op het continent in het reguleren van kunstmatige intelligentie. "Deze tekortkoming is niet slechts een technisch probleem, maar heeft de integriteit en geloofwaardigheid van het ontwerpbeleid aangetast", aldus minister voor digitale zaken Solly Malatsi.

De minister ziet in de fout een reden waarom het AI-beleid hard nodig is. "Dit had niet mogen gebeuren. Sterker nog, deze onacceptabele misstap bewijst waarom waakzaam menselijk toezicht op het gebruik van kunstmatige intelligentie cruciaal is. Het is een les die we met nederigheid ter harte nemen. Ik wil het land geruststellen dat we deze zaak met de ernst behandelen die ze verdient. Er zullen consequenties zijn voor degenen die verantwoordelijk zijn voor het opstellen en de kwaliteitscontrole."

Het wetsvoorstel bevatte op zijn minst zes niet-bestaande bronnen, meldde News24 eerder. Daarbij gaat het om niet-bestaande papers van wetenschappers over AI. Dat is iets dat vaker gebeurt bij AI-chatbots, die bij gebrek aan echte papers met titels komen die echt klinken, maar die nooit zijn geschreven.

ChatGPT: vertrouw nooit op AI

Reacties (19)

[ErikT738]

Ik kan goed begrijpen dat je een AI gebruikt als hulpmiddel of zoekmachine "on steroids", maar je bent echt een dwaas als je de door de AI gegeven bronnen niet controleert.

[YGDRASSIL]

Het gaat toch vooral om de inhoud van je artikel dus ik zou de bronnen als laatste checken.

[Numbers6uy]

Zo'n artikel staaft juist met die bronnen. Als mijn argument gebouwd is op cijfers die niet bestaan, dan is het niet waarheidsgetrouw en dus nutteloos als argument voor de regulering van de echte wereld. Als de bronnen geen invloed hebben op het argument, dan had men ze niet moeten citeren.

[Calypso]

Ja. En nu het probleem: steeds meer content is AI gegenereerd - ik bedoel, als je al een voorstel voor regulering van AI onvoldoende controleert...

Nu al zie je content verschijnen zonder bronvermelding die overduidelijk AI gegenereerd is. Gevolg: deze content wordt weer als nieuwe bron gezien en foute informatie wordt ineens betrouwbaarder geacht. Je denkt een huis te bouwen op rotsgrond, maar het blijkt drijfzand.

Dit is ook 1 van de redenen dat bepaalde politici graag dingen blijven herhalen: hoe vaker iets gevonden wordt door AI, des te betrouwbaarder het beoordeeld wordt en hoe meer mensen het als waarheid gaan zien, want het staat toch op [vul maar in]

[Scriptkid]

of nog leuker , je komt in een AI chain terecht,

Source op source op source is door AI generated , en je moet tig levels diep om bij de bron te komen en we weten allemaal als je 1 persoon iets verteld en die dat door laat vertellen en zo 9 personen verder dat het eind verhaal totaal anders is dan de source

[Scriptkid]

ik denk dat er dan heel veel dwazen op deze aardbol leven.

[Wouterie]

Wel lollig dat ze doorgaans nog bij een overheid zitten ook!

[NaoPb]

Kun je dat onderbouwen? Of heb je dat uit je duim gezogen?

[Wouterie]

Dat heb ik van AI vernomen dus hoef ik dat niet te checken.

[hwopereis]

Die mensen zitten net zo goed in management lagen tot ceos bij bedrijven. En dan mogen de specifiek opgeleide mensen uitzoeken of de 8 paginas aan voorstellen/ ideeen ook ergens op slaan.

[bapemania]

Dat klopt, steeds meer ook.

[Lord Anubis]

klopt, grappig is dat sommige bronnen helemaal niet bestaan of vals “geïnterpreteerd “ worden; als je van enige vorm van interpretatie kan spreken.
Ik zoek wel eens naar vervangende elektronische onderdelen voor obsoleet onderdelen maar wat absoluut in een datasheet staat wordt gewoon mishandeld of dat nu bij claude, gpt of deepseek is maak niet uit. Moet wel zeggen hoe intelligenter de AI zoekmachine is hoe meer voutieve bron informatie er terug komt.

[ZwolschBalletje]

Voor Tweakers is dat iets wat logisch is, maar het probleem is precies dat de niet tech-savvy gebruikers het zien als ‘Google on steroids’. Want als je Google (of elke andere zoekmachine) de afgelopen jaren een onmogelijke vraag stelde, dan kreeg je soms gewoon géén zoekresultaten.
Dat is een stukje intelligentie dat bij AI ontbreekt: weten wat je niet weet. En dat maakt het voor de gemiddelde gebruiker die er niet verder bij stilstaat juist zo’n misleidende tool.
In principe dus juist goed dat Zuid Afrika met zo’n wet komt, waarin normen staan hoe AI toepassingen ten dienste moeten staan aan huidige en toekomstige inwoners (volgens de bron in dit artikel En dat het dan op zo’n manier misgaat, is misschien wel een heel mooie wake-upcall voor sommige amateur-AI gebruikers. Maar er zal nog veel voor nodig zijn om dit soort problemen verder te voorkomen.

[Kjoe_Ljan]

Uit recent onderzoek blijkt dat 92% van de bronnen op het internet nooit gecontroleerd worden.

[sIRwa3]

Ik erger me ook steeds meer aan content creators die LLM als wiki source of google gebruiken om vervolgens met dramatische koppen de ondergang van kennis en of geschiedenis te verkondigen.

CC slop noem ik het

het is een tool, je gebruikt het verkeerd!..

[Scriptkid]

Ach,

vroeger was het , als wiki pedia het zegt is het de waarheid, toen werd het want google says so, en nu is het AI is the new truth.

[CPV]

Haha, een AI onderzoek door AI laten doen.
Zoiets als "de slager zijn eigen vlees" en "Wij van WC-eend...".

[Scriptkid]

Ik heb daar maar een spreekwoord voor over , AI AI AI ai.

[konniksanders]

Volgens mij is zelfs hun respons met AI gegenereerd:

"Deze tekortkoming is niet slechts een technisch probleem, maar heeft de integriteit en geloofwaardigheid van het ontwerpbeleid aangetast"

Ik zet blikje Monster erop in dat dit met AI is geschreven. Echt heel lui.