Stad voert verordening in die achteraf door ChatGPT bleek te zijn geschreven

De Braziliaanse stad Porto Alegre heeft onlangs een experimentele verordening ingevoerd, waarvan achteraf is gebleken dat ze is geschreven door ChatGPT. Het gemeenteraadslid dat het voorstel had ingediend, had dit met opzet verzwegen.

In de stad moesten belastingbetalers opdraaien voor de kosten bij het vervangen van gestolen watermeters. Gemeenteraadslid Ramiro Rosário had de chatbot daarom gevraagd om met een voorstel te komen waarbij dat niet meer nodig is. Hij heeft daarvoor een prompt van 49 woorden gebruikt. Vervolgens presenteerde Rosário het voorstel aan zijn 35 collega's in de raad, zonder dat hij naar eigen zeggen de tekst had aangepast. Ook had hij niets gezegd over het gebruik van ChatGPT.

“Als ik het eerder had onthuld, zou er niet eens over het voorstel worden gestemd. Het zou oneerlijk zijn tegenover de inwoners van de stad dat het project niet zou worden goedgekeurd, alleen omdat het door kunstmatige intelligentie is geschreven”, zegt Rosário tegen persbureau AP. De raad keurde het unaniem goed en de verordening is op 23 november van kracht geworden.

“Ik ben ervan overtuigd dat de mensheid een nieuwe technologische revolutie zal meemaken”, zegt het raadslid. “Alle instrumenten die we als beschaving hebben ontwikkeld, kunnen voor kwaad en goed worden gebruikt. Daarom moeten we laten zien hoe het ten goede kan worden gebruikt.”

Uiteindelijk kwam gemeenteraadsvoorzitter Hamilton Sossmeier erachter dat Rosário ChatGPT had gebruikt om het voorstel te schrijven toen het raadslid dit op sociale media had onthuld. Sossmeier vertelde aanvankelijk aan de lokale media dat hij dacht dat het een ‘gevaarlijk precedent’ was. De voorzitter lijkt echter van gedachten te zijn veranderd. “Ik begon me verder te verdiepen en zag dat dit, op een goede of slechte manier, een trend gaat worden.”

Het is overigens vaker voorgekomen dat ChatGPT is ingezet om wetsvoorstellen of wijzigingen te schrijven. Zo heeft Barry Finegold, een senator namens de Democraten in de Amerikaanse staat Massachusetts, met behulp van ChatGPT een voorstel geschreven over het reguleren van kunstmatige intelligentie, schrijft onder meer Politico afgelopen juli. Finegold denkt dat de chatbot een goede tool kan zijn bij de lastigere aspecten van het opstellen van wetten, zoals het raadplegen van bestaande wetten.

De senator zegt er wel bij dat het belangrijk is om transparant te zijn over het gebruik van AI hierbij. “We willen dat werk dat door ChatGPT is gegenereerd, een watermerk krijgt”, zegt hij tegen AP. “Ik ben er voorstander van dat mensen ChatGPT gebruiken om voorstellen te schrijven, zolang het maar duidelijk is.”

Door Loïs Franx

Redacteur

01-12-2023 • 14:37

123

Submitter: Anonymoussaurus

Reacties (123)

Sorteer op:

Weergave:

“Ik ben er voorstander van dat mensen ChatGPT gebruiken om voorstellen te schrijven, zolang het maar duidelijk is.”
Je schrijft niks. Je bent gewoon lui, kopieert en plakt, maar wilt wel de loon opstrijken waarvoor je eigenlijk bent aangenomen.

Oftewel, je bent jezelf aan het wegbezuinigen in de toekomst.
Dat zei mijn leraar Economie ook 40 jaar geleden over robots in de industrie.
En ook dat is niet waar. Mensen zijn qua werk heel flexibel. Zeker als we dat per generatie bekijken.

[Reactie gewijzigd door Verwijderd op 25 juli 2024 07:17]

Dat klopt ten delen, maar als je kijkt wat voor impact ChatGPT heeft gehad in slechts 1 jaar, dan is dat een ontwikkeling welke veel niet kunnen bijhouden. Er zullen altijd oude banen verdwijnen en nieuwe terug komen, alleen nu verwijden er heel banen in een hoog tempo. Vaak banen van lager opgeleid personeel, terwijl er in het geval van AI juist banen voor hoger opgeleiden voor terug komen zoals prompt engineers.

De automatisering bij kantoren en fabrieken ging relatief langzaam omdat bedrijven ineens moesten investeren in mega dure mainframes. Echter AI systemen zijn zeer goedkoop geprijst. Voor consumenten is 20 dollar per maand wat prijzig, maar in een zakelijke context is het een investering welke je snel terug verdient. Vragen worden snel beantwoord, waardoor de productiviteit omhoog gaat. Uiteraard kun je om advies vragen bij een collega, maar voor je het weet zijn er ineens twee werknemers bezig met een enkele issue. Je kunt natuurlijk je vraag stellen op een forum, maar daar duurt het vaak even voordat je een (correct) antwoord krijgt, ondertussen kun je echter niet verder.

Wij hebben meerdere AI abonnementen voor ons personeel (MS Copilot en ChatGPT Plus). Zelf ben ik altijd aan het vechten met Excel, terwijl nu vertel ik gewoon CoPilot wat ik wil doen en CoPilot doet het voor mij. Ik denk dat ik met AI zeker 4 uur per week bespaar, dus ruwweg 16 uur per maand. Het minimum uurloon voor 21+ is 11,50, dus die 50 dollar per maand aan abonnementen levert dus op z'n minst een besparing van 120 euro per maand op, terwijl er niet veel mensen in de IT minimumloon zullen verdienen...
de kunst en het werk wordt dus goede prompts schrijven en het resultaat controleren. niks mis mee. Er is werk zat je kunt meer doen in je 40 uur per week. Er is helemaal geen besparing, je gaat gewoon meer werk verzetten en de verwachting van je werkgever verandert. Dat is een proces dat al eeuwen gaande is, van het telraam naar de rekenlineaal naar de rekenmachine naar de computer. Dit is totaal niet anders.
Er is een startrek aflevering waarin Spock teruggaat in de tijd en dan tegen een pc praat om een code te schrijven, tot hij erachter komt dat hij een toetsenbord moet gebruiken waardoor hij veel langer bezig is. Dat is wat we hier zien. Er wordt niets bespaard er wordt dadelijk gewoon meer werk gedaan en dat kost geen banen, de inhoud van het werk verandert.
Ik denk dat er mogelijk wel een fundamenteel verschil zit tussen het vervangen van fysiek werk, dat doen we al eeuwen, en denkwerk, dat nu met AI eigenlijk pas gebeurt.
Het denkwerk wordt niet zo zeer vervangen maar het uitzoekwerk. Het blijft uiteindelijk nog steeds de kwaliteit van de prompt en de kennis van degene die die heeft ingevoerd om te verifiëren of wat er bedacht is klopt met de strekking wens van de prompt.
Je economie leraar had gedeeltelijk gelijk, nog maar een fractie van de mensen die toen in productie van goederen werkte werkt daar nu nog in. We hebben geluk gehad dat daar een dienstensector voor in de plaats is gekomen. De vraag die we moeten beantwoorden is of deze revolutie anders is dan vorige revoluties. Wat komt er in de plaats van die dienstensector als die met AI is geautomatiseerd? En wat betekent dat voor de verdeling van welvaart? Wordt deze nog meer geconcentreerd bij de kapitaal houders (in dit geval de ontwikkelaars van AI)?
mijn antwoord was niet volledig.

Bedoelde te zeggen dat daardoor heel veel mensen werkloos zouden worden. Dat was zijn strekking.

En dat is niet het geval geweest
Er zijn tijdens de industriele revolutie bijzonder veel mensen werkloos geworden.
Zij moesten op zoek naar ander werk:
https://nl.m.wikipedia.org/wiki/Sociale_kwestie
Niet helemaal eens. my 2 cents: Ik ben van mening dat het hand in hand zal gaan. De complexiteit van een wetsvoorstel laten bekijken door bijv. een AI zodat je met de zaken kunt bemoeien die er echt toe doen.

Het zal zeker in bepaalde mate boekwormen doen laten verminderen. Echter zijn deze nog steeds nodig al ware het voor controle van AI (menselijke beslissing) en verder omdat de creatieve geest van een mens toch altijd (daar ben ik persoonlijk van overtuigd) altijd zal winnen van een AI.

(en dan doel ik weer op de menselijke onvoorspelbaarheid)
Maar een AI kan toch biased worden als er tegenstrijdige bestaande wetten zijn? Als er bijv. gekozen moet worden tussen het toepassen van twee tegenstrijdige wetten (dit gebeurt wel eens, een bekend voorbeeld wet discriminatie tegen wet vrjiheid van meningsuiting) hoe zorg je ervoor dat een AI neutraal blijft? Vaak kiest een AI het eerste (of het vaakst) wat opkomt in het model, en dat is dus problematisch.

[Reactie gewijzigd door MrFax op 25 juli 2024 07:17]

ja dan laat je het model een cross onderzoek doen naar bestaande wetsvoorstellen oid?
Ik bedoelde in mijn comment er ook mee dat het een vergezicht is in een idealere wereld waar dit soort dingen die je nu aangeeft afgevangen worden.

Ik kan verder geen antwoord geven op je vragen m.b.t. neutraliteit ik heb hier te weinig koek van gegeten.
Echter met een logisch redenerend brein komt men een heel eind is mijn eigen ervaring...
Een taalmodel kan geen onderzoek doen.
Dat ligt denk ik een beetje aan je definitie van onderzoek doen. Ik ben het niet geheel met je oneens, maar je zou kunnen zeggen dat OpenAI informatie vergaard, en op basis daarvan advies geeft, en dat is niet veel anders dan wat “echte” onderzoekers doen.
Of informatie "verzint" in plaats van vergaart (of zelfs zich baseert op verzonnen data) en op basis daarvan advies geeft, dat kan je het ook niet kwalijk nemen, het is maar een taalmodel. Op zoiets worden "echte" onderzoekers streng aangepakt en mogen dan leerstoelen/ toekomstige publicaties vergeten, OpenAI mag rustig verdoen.
Een voorbeeldje met gevolgen : "de Bodymap methode"

Meer dan 200 scholen en crèches in België gebruikten en betaalden voor de Bodymap methode.
Bodymap belooft via beweging de hersenen van jonge kinderen te stimuleren. Alleen blijkt de methode niet gebaseerd te zijn op wetenschap. De initiatiefnemers vroegen aan ChatGPT om een lijst aan wetenschappelijk bewijs te genereren. Ondertussen hebben tientallen ouders, scholen en therapeuten betaald voor een opleiding in de methode.

ref. https://www.knack.be/fact...enschappelijk-onderbouwd/

quote: "‘We hebben zorgvuldig bronnen en referenties verzameld die je in staat stellen om dieper in dit onderwerp te duiken en meer te leren over de wetenschap achter Bodymap’
"ChatGPT-4 zou juiste informatie geven als je via de juiste vragen op zoek gaat. En die werkwijze hebben we dan gehanteerd. (…)"

[Reactie gewijzigd door redzebrax op 25 juli 2024 07:17]

Als je daardoor meer kan doen, is het alleen maar mooi lijkt me. Als je jezelf en/of anderen wegbezuinigd is dat ook mooi, overal personeelstekort dus dan ben je zo weer aan de bak.
Zo werkt dat natuurlijk niet, bestaand personeelstekort is omdat de benodigde en opgedane vaardigheden en opleiding van vraag en aanbod niet overeenkomen. Kortom je wordt werkloos en valt in de uitkering en later ook bijstand, meer niet.
Omscholing is geen optie? :) Ik doe ook allang niet meer waarvoor ik opgeleid ben. M'n partner werkt in de IT zonder bijbehorende opleiding of ook maar enige (hobbymatige) ervaring; de intelligentie en wil om bij te leren was genoeg voor een leuke nieuwe (en goedbetaalde) baan. Je gaat toch niet decennia thuis op de bank zitten kniezen als je baan toevallig verdwijnt? Vaardigheden kun je altijd leren.
Dit soort argumenten werkt alleen maar als het je over omscholen tussen economisch gelijkwaardige functies hebt. Dus vooral voor functies die een laag opleidingsniveau vereisen, vervangbaar zijn, en daardoor vrijwel altijd laag betaald. Dan maakt het inderdaad weinig uit of je nu winkelbediende bent of magazijn medewerker. Maar als jij als notaris of jurist of sales medewerker of weet ik veel wat wordt wegbezuinigd vanwege ChatGPT, dan heb je er echt weinig aan dat er nog veel banen openstaan in de thuiszorg en de horeca, daar kan je dan namelijk meestal niet je rekeningen mee betalen zonder drastische aanpassingen.
Sommige specialismen kun je niet in korte tijd leren, tegelijk hoeft dat vaak ook niet. Meerdere mensen in mijn familie zijn van specialisme gewisseld, en dat kon best een paar jaar duren. Weer onderop beginnen en dan opklimmen en blijven bijleren.

Een notaris is waarschijnlijk slim genoeg om iets soortgelijks te vinden met voldoende inkomen, of vlot te studeren op wat nieuws zoals AI-expertises. Of als hij rijk genoeg is en kleiner wil wonen kan hij van z'n klushobby z'n beroep gaan maken. Beter dan thuiszitten met uitkering lijkt me.

Ik ben theoretisch opgeleid en doe nu ondertussen praktisch geschoold werk. Duurde ff om vaardigheden op peil te krijgen, maar daar moest ik mij maar even overheen zetten. Mijn twee linkerhanden ben ik wel kwijt door flink te oefenen.

Er zullen vast mensen buiten de boot vallen, dat is onvermijdelijk. Tegelijk is er vaak veel mogelijk, en kan de overheid inspringen als het te erg wordt. En banen verdwijnen nu eenmaal, na een overgangsperiode is dat niet erg meer.
Dat lijkt mij niet een realistische optie voor iedereen, nee. Bovendien, als dat zo goed werkte hadden we nu ook geen personeelstekort. Laat staan dat een liberale overheid niet 'onnodig' omscholing wil bevorderen, zo is NL Leert Door er ook niet meer.
" jezelf aan het wegbezuinigen in de toekomst"

Ik heb als developer geen geld voor copy, pm's, sales, onderzoekers, copywriters etc... ofwel pre-ChatGPT was concureren met grotere agencies lastig. Met ChatGPT heb ik zojuist binnen een uur een opmaat voorstel uitgestuurd voor een complex platform in woorden die leken begrijpen. Met budget, tijdlijn, planning en alles. In twee talen.

Ik zou eerder willen stellen dat ik op deze manier mijn kansen vergroot.
Stel dat er een fout ingeslopen is waardoor jij nu gebonden bent aan een voorstel dat erg nadelig is voor jou ? In sta er ongelooflijk van versteld hoe mensen blindelings gaan vertrouwen op AI.
Waar lees jij dat @xelagbs84 blindelings vertrouwt op AI? Anders moet je eens een reactie helemaal uit de context trekken zodat je er je conservatieve mening onder kwijt kan?
Hij zegt het toch zelf dat hij geen gebruik maakt van professionals maar het overlaat aan chatgpt, waardoor het voorstel op een uurtje klaar is …hoe kun je het anders interpreteren :?

[Reactie gewijzigd door klakkie.57th op 25 juli 2024 07:17]

Die teksten van "professionals" zijn meestal ook vol met fouten, en moet je ook zelf controleren. Geen echt verschil met chatgpt.
Das een dooddoener natuurlijk …
Dat zijn dat geen professionals wat mij betreft, en nalezen gebeurd natuurlijk opnieuw door een heel team van mensen , niet 1 persoon
Leuk dat het voor jou geen true scotsmen echte professionals zijn, maar dat waren de advocaten in mijn bedrijf, en de notaris die het kopen van een huis moest bevestigen.

Dat zijn voor mij de "professionals" op wie ik vertrouwen zou moeten kunnen maar die ik dus gewoon ook moet controleren.
Ja, dan zijn die dus onbekwaam en dan vertrouw je daar geen 2 maal op, zeker niet als je door hen een mogelijke deal misloopt.
Alle advocaten met wie ik in het bedrijfsleven te maken heb gehad maakten documenten met fouten. Het is echt niet één kneusje.
Dus ChatGPT is geen slecht alternatief.
Volgens mij is de strekking dat een grotere partij met allemaal disciplines documenten kan produceren die je nu zelf redelijk eenvoudig kunt maken met AI.

Dat wil niet zeggen dat je er blind op vertrouwt; ergens op schieten en aanpassen is altijd makkelijker dan het helemaal zelf te moeten verzinnen. En dat is precies waar zo'n taalmodel goed in is; het maken van leesbare teksten voor een doelgroep met de juiste input.

Zoals AI nu gebruikt wordt is het vooral een tool die zaken makkelijker maakt. Met een steen kun je ook hameren, maar met een hamer gaat dat meestal sneller en gemakkelijker.
Maar professionals kunnen toch even goed fouten maken?

Bovendien, ik lever liever iets op waar misschien een (paar) fouten inzitten dan dat je helemaal niets levert omdat je geen geld hebt om iemand in te huren.

Ik zeg hiermee niet dat AI altijd beter is, maar het punt dat het de kansen vergroot van @xelagbs84 kan ik best inkomen.

Edit: dit moest een reactie zijn op @klakkie.57th

[Reactie gewijzigd door DiederikvandenB op 25 juli 2024 07:17]

Hij praat over sales, onderzoekers, copywriters , meerdere talen dan heb je het niet over een voorstel van 1000euro.

Bij dit soort RFP’s is 1 misplaatste comma al dodelijk.
Net alsof het over meerdere schijven gaat dat er dan geen misplaatste komma in staat.

Ik review regelmatig documenten en ik vind altijd fouten. Dan is het al bekeken door meerdere mensen.
We mogen echt wel weer wat strenger worden en niet tevreden zijn met vijfjes en zesjes
Als je niet onberispelijk bent bij het indienen van je voorstel hoe kun je het dan zijn bij de uitvoering van de werken.
Hehe ja jij bent niet wegbezuinigd, de persoon die anders je sales zou doen wel.
Als het goed gebruikt wordt, worden er mss enkele mensen wegebezuinigd ja. Maar dat op zich is niet verkeerd, want dan kunnen die mensen weer voor iets anders ingezet worden.
Het gevaar zit hem (zoals bij elke technologie) erin dat er onvoldoende of zelfs geen controle gaat zijn.
Net zoals je een machine niet dag en nacht mag laten draaien zonder toezicht, mag je ook ChatGPT niet gebruiken zonder toezicht. Er zal immers sowieso wel eens iets verkeerd lopen.
En in dit specifieke geval wordt er gestemd over het voorstel, dus zou je zeggen dat de controle er wel is.
De dossierkennis van politici laat regelmatig te wensen over. En generatieve AI produceert regelmatig zaken die meer op een koortsdroom dan een idee lijken. Je hoopt dus maar dat mensen hun eigen voorstellen goed doorlezen als ze door ChatGPT gemaakt worden.

Resultaten uit het verleden bieden geen garantie voor de toekomst, maar als ik zie hoe vaak fouten door spellingscorrectie al doorslippen in een definitief voorstel hou ik mijn hart vast voor de inhoudelijke beoordeling, door zowel de indiener als de volksvertegenwoordigers.
Eens: gelaagde regelgeving zoals we die in Nederland kennen (wet, amvb, ministeriële regeling, alle over hetzelfde onderwerp) is complex. Ik heb even weinig vertrouwen in het vermogen van ChatGPT om de coherentie en de systematiek van de regelgeving te begrijpen als dat van een willekeurig kamerlid.
Daarom heeft ieder Kamerlid ook ondersteuning op dat vlak: een (beleids)medewerker, een griffier met verstand van de dossiers en besluitvorming, en een Bureau Wetgeving die precies de samenhang en bewoordingen van wetgeving snapt. Samen kunnen zij prima wetgeving maken, zolang ze ieder maar de ruimte krijgen om hun rol te spelen. Ieder voor zich komen ze niet ver.

ChatGPT en dergelijke kunnen een prima hulpmiddel zijn om in taaie dossiers snel tot een concreet voorstel te komen, waarbij ieder van die spelers niet meer alles hoeft te bedenken en samen uit te werken, maar vooral kan toetsen en corrigeren. Vooral als er al veel wetten en regelingen over een onderwerp bestaan, is het fijn als je de verwijzingen en context door AI laat inventariseren en daar vervolgens op inhaakt met een tekst. En dat is in dit voorbeeld volgens mij ook gebeurd.

Politicus: ja, de tekst beschrijft wat ik wil doen.
Beleidsmedewerker: ja, dit past binnen de lijn die we hebben ingezet.
Griffier: ja, dit kunnen we in behandeling nemen
Wetgevingsjurist: ja, dit is juridisch houdbaar
Raad: we gaan stemmen.
Oke laat ik het anders verwoorden dan:
"En in dit specifieke geval wordt er gestemd over het voorstel, dus zou je zeggen dat de controle door de raad minstens net zo goed is als gewoonlijk."

Als je die raad niet kan vertrouwen, dan zijn er veel problemen, maar is het feit dat zo'n voorstel geschreven is door AI wel het minste probleem.
Sowieso hebben menselijke politici ook nog wel eens de neiging om achter 5 pagina’s met “red de kinderen” 995 extra pagina’s met andere onzin te plakken die niemand leest.
Dat is toch meer een Amerikaans ding hoor, gebeurt hier niet zoveel.
Jouw opmerking heeft maar heel weinig te maken met de opmerking dat het in de VS gebruikelijk is om talloze amendementen achter een wet te plakken en hier tegelijk over te stemmen. En dat deze toevoegingen vaak zowel langer zijn dan de wet waar het initieel over ging, als zeer slecht worden gelezen. Iets wat hier helemaal niet gebruikelijke is.

Althans de comments boven je gaan over het stemmen over nieuwe voorstellen/wetten en niet een goed doel?

[Reactie gewijzigd door Thekilldevilhil op 25 juli 2024 07:17]

Je hoopt in ieder geval dat de auteur verantwoordelijkheid neemt voor wat er geschreven is. En met controle kan je geen kwaliteit in iets stoppen als het er niet in zit, je kan hoogstens het geheel tegenhouden.
Kan AI daar niet bij helpen, door wetsvoorstellen te taggen en van comments te voorzien?
Dat politici en ambtenaren hun wetsvoorstellen een beschrijving moeten meegeven over intentie en mogelijk relevante wetten. En de AI dan zelf die stukken erbij zoekt*, en soortelijke wetten uit andere gemeentes als template aanbied.
En ook passages onderstreept die mogelijk conflicten vormen. En woordkeuzes markeert die voor niet-juristen lastig kunnen zijn, of juist in juridische conflicten als onduidelijk zijn vernietigd.

Dan kunnen de politici stemmen over de conflicten, en de ambtenarij zich focussen op de juiste uitwerking.

Kan denk ik niet met ChatGPT maar zal op nationale data modellen moeten, zodat het model niet met buitenlandse wetgeving wordt vervuild die niet van toepassing is.

* van voorbeeld uit artikel over watermeters:
- aantal gestolen meters
- andere dingen die samen met de meters uit de huizen gestolen worden
- kosten van politie om de diefstal tegen te gaan / opsporing van de meters
- acte van het waterbedrijf of er door klanten al voor de meters betaald is, of dat ze eigendom van het water bedrijf blijven.
-
Zal wat zijn dat GPT op eigen houtje een voorstel kan schrijven, indienen, goedkeuren en invoeren. Beetje dystopisch en klinkt als iets uit een Wojak sketch.
En dan kmt skynet (chat GPT) in actie en wil alle mensen termineren.....
Moet er daarom maar geen ChatGPT gebruikt worden, zodat die man aan het werk gehouden kan worden en z'n papiertjes kan blijven typen? Gaat toch in tegen alle automatiseringsmissie die we laatste 30 jaar zijn ingeslagen.
Dat was al het geval bij de boekdrukkunst he.....
Oftewel, je bent jezelf aan het wegbezuinigen in de toekomst.
Dat is toch wat ik al 25 jaar lang doe als ITer... Mezelf overbodig maken. Waarom zou een raadslid dat ook niet doen? Ze moeten nog steeds inhoudelijk bekijken of wat er wordt voorgesteld wenselijk is.
Vandaag worden veel speeches en wetsvoorstellen gewoon door een kabinetsmedewerker geschreven. Die kosten handen vol geld en aanwerving gebeurt subjectief door de schepen/minister zelf.
Is gewoon gereedschap. Ik vermoed dat u ook niet het toetsenbord hebt gebouwd om dit berichtje mee te schrijven, of de webbrowser waarin het geschreven en verstuurd is, enzovoorts.

En zeg nou zelf, overheidsambtenaren kunnen zo nu en dan gerust iets gebruiken om sneller te kunnen werken.
De hoofd taak van een gemeenteraadslid is toch niet het expliciet schrijven van een voorstel. Zijn taak is het volk vertegenwoordigen en met ideeën komen die het volk helpt en z'n voorstellen verdedigen in de gemeenteraad. Als ChatGPT helpt om een idee van zo'n volks vertegenwoordiger op een begrijpelijke manier op papier te zetten waardoor andere gemeenteraadsleden dat idee beter begrijpen dan zie ik daar geen problemen in. Zolang wat ChatGPT schrijft goed na gecheckt word.
Dus jij gebruikt geen Google, want het opzoeken van content maakt je lui. Het schrijven van een voorstel met GPT vereist eigen denkwerk. GPT kan geen voorstellen maken die hout snijden. Waar het wel goed in is is het verder structureren van je voorstel en inconsistenties eruit te halen.

Noem mij maar lui maar ik gebruik GPT ook om mijn stukken te verbeteren en om aanbevelingen te doen.
Daarmee ben ik het niet eens. Het is niet zo dat een LLM 'zo maar' met een (bruikbaar) voorstel komt. Prompt engineering klinkt nu nog gehypet maar het model zodanig instrueren dat er een antwoord uitkomt dat je na je eigen controles en aanpassingen kan gebruiken begint gaat echt een nieuwe functie te worden in de zakelijk wereld. Ik heb onlangs met Bard een enquête gemaakt over het gebruik van GitHub Copilot. Eerst een uurtje prompt engineering, steeds de vraag op het antwoord verduidelijken en meer context meegeven en uiteindelijk kreeg ik een zeer bruikbare basis. Daarna nog een eer of anderhalf aanpassen en ik was klaar. Ik schat daarmee een uur of 5 werk te hebben bespaard en het eindresultaat bleek na reviews van wat peers spot on. De 100 developers die 'm moesten invullen waren na wat interviews ook blij met de diepgang en kwaliteit van het stuk. Het is nu onvermijdelijk, we zijn in een nieuw tijdperk beland.
politici en bestuurders die zichzelf wegbezuinigen ... dat klinkt aantrekkelijk!
Alleen als de vervanging dan commerciële partijen (of partijen met private investeerders) gaan zijn, weet ik niet of je er zo blij mee moet zijn. Want die partijen hebben wel belangen bij bepaalde uitkomsten.
Politici en bestuurders binnen de overheid zijn op de eerste en belangrijkste plaats een vertegenwoordiging en afspiegeling van de mensen in het land. Minder vertegenwoordigers betekend een minder goede afspiegeling, wellicht zelfs zover dat je niet meer van democratie kunt spreken.

Dat politici voor hun werk ook AI gaan inzetten lijkt me onontkoombaar, en ook niet direct onwenselijk. Als ze hun ideeën hiermee beter en sneller kunnen omzetten in wetten is het voor mij prima. Uiteindelijk worden wetten toch gelezen, getoetst en aangenomen of verworpen. Zolang dat lezen en stemmen maar door mensen van vlees en bloed gebeurd.
En wat is het volgende na de politici ook de rechtspraak maar automatiseren met AI ?
We zijn kompleet aan het doorslaan 8)7
Mooi zo 2/2. Ook deze reactie begin je met het initiële standpunt een bijzonder extreme invulling te geven om er dan een mening op te formuleren...
Nergens wordt er gezegd dat de politici en bestuurders verdwijnen uit het verhaal - ze kunnen met behulp van generatieve AI ook gewoon efficiênter worden en er dus minder van nodig hebben om hetzelfde werk met eenzelfde kwaliteit gedaan te krijgen.
“politici en bestuurders die zichzelf wegbezuinigen ... dat klinkt aantrekkelijk!”

Euh wegbezuinigen = verdwijnen, geen idee hoe je dit anders moet interpreteren hoor
“politici en bestuurders die zichzelf wegbezuinigen ... dat klinkt aantrekkelijk!”

Euh wegbezuinigen = verdwijnen, geen idee hoe je dit anders moet interpreteren hoor
Er staat nergens dat *alle* politici en bestuurders worden wegbezuinigd. Jij interpreteert het opzettelijk in z'n meest extreme vorm waardoor het natuurlijk een open doel wordt om te reageren.
Begrijpend lezen wilt ook zeggen dat je je best doet om een normale invulling te geven aan hetgeen je leest en als je er dan nog niet akkoord mee bent of een eigen mening op nahoudt, hou je dan vooral niet in.
Met die zin wordt er toch juist gesteld dat ChatGPT het heeft geschreven?
Wanneer ik mag kiezen tussen lui en dom, kies ik voor lui. Ik probeer full time zo lui mogelijk te zijn. En betekent voor mij anno 2023 dat ik nu ongeveer 5x zoveel werk verzet in hetzelfde aantal uren als in 2022 en daarvoor. Mijn inkomsten zijn dan ook explosief gestegen.

Het zou onvoorstelbaar dom zijn, om dit soort tools te negeren en niet te gebruiken.
Jij gebruikt geen rekenmachines om sommen uit te rekenen?
Je schrijft het zelf misschien niet maar bent nog steeds wel verantwoordelijk, die verantwoordelijkheid is ook een groot deel van je compensatie.

Zolang men bij het gebruik van AI wel critisch naar de inhoud blijft kijken ben ik opzich geen tegenstander van het gebruik.

Voor mijzelf is ChataGPT over het algemeen een hele goede bron van creativiteit en het uitproberen van nieuwe ideeën.
Ik zie AI toch meer als een tool & mits in goede handen, kan het waardevol zijn. Zolang mensen er maar transparant over zijn, dat ze het gebruiken, heb ik er persoonlijk geen moeite mee.
Dat is onzin!

Als je bestaande wetten moet quoten, dan ben je net zo hard aan het copy-paste.

Ik ben sterk van mening dat je naar het doel moet kijken. Óók ben ik van mening dat je de inhoud altijd goed/nauwkeurig zelf na moet kijken.

Maar als alles OK is, waarom niet? Wat is er mis met de inhoud door een 3e te laten maken??

Het werk zit hem in de controle. Je kan je beter bedenken dat we dadelijk een ambtenaren krijgen die écht werk doen ipv dom lange teksten schrijven. Nadenken en controleren is waar het geld zit.

Daarnaast zit er ook veel voorwerk in het bedenken en opstellen van de input. Immers kan je geen juist output krijgen zonder goed geformuleerde input!
Oftewel, je bent jezelf aan het wegbezuinigen in de toekomst.
Of je kunt meer voor elkaar krijgen uit in dezelfde tijd.
[...]


Je schrijft niks. Je bent gewoon lui, kopieert en plakt, maar wilt wel de loon opstrijken waarvoor je eigenlijk bent aangenomen.

Oftewel, je bent jezelf aan het wegbezuinigen in de toekomst.
Je gebruikt toch ook Excel in plaats van zelf hokjes te tekenen in Mspaint en alle functies uit je hoofd er in te berekenen?

ChatGPT is gewoon een tool waar jij de input aan geeft en het een output genereert.

Ps. Ik heb het zelf nog nooit gebruikt maar het lijkt me soms best handig als het goed gebruikt wordt

[Reactie gewijzigd door killerdemon op 25 juli 2024 07:17]

Ik zie het zo: je hebt een (goed) idee, weet niet precies hoe je het het best kan verwoorden, en gebruikt een tool om je daarbij te helpen.
Vroeger had je geen programmeertalen, maar alleen assembler (en dáárvoor had je alleen numerieke opcodes die je met ponskaarten of toggleswitches in moest voeren). Op het moment dat die programmeertalen wel beschikbaar kwamen, was je dan "lui" om die te gebruiken in plaats van zelf de moeite te nemen om de meest efficiënte reeks van opcodes te bedenken om jouw algoritme in executeerbare vorm te krijgen?
Nouja, degeen die het voorstel uit ChatGPT haalde mag blijven, de rest kan naar huis.
Is een boekhouder die bijvoorbeeld Excel en een rekenmachine gebruikt ook lui en zichzelf aan het wegbezuinigen?
Wie bedenkt wat er aan het LLM gevraagd moet worden?
Wie bedenkt de prompt?
Wie leest het resultaat na en verbetert het waar nodig?

Er zijn talloze taken die (nu nog) menselijk toezicht nodig hebben. Dat een taak efficiënter kan worden uitgevoerd met hulp van een LLM maakt niet dat die LLM de mens kan vervangen voor de uitvoer van die taak.
ChatGPT schrijft erg aannemelijk. Het is immers getraind op het gemiddelde van onze schrijfstijl. Een gevaar in het gebruik zit in dat mensen zelf niet meer nadenken of er nog iets mist, of het wel klopt en of het wel terecht is wat de ai schrijft.
Een gevaar in het gebruik zit in dat mensen zelf niet meer nadenken of er nog iets mist, of het wel klopt en of het wel terecht is wat de ai schrijft.
De raad keurde het unaniem goed en de verordening is op 23 november van kracht geworden.
De verordening is nog goedgekeurd, dus in dit geval is dat gevaar minimaal.
N=1 en je gaat er van uit dat omdat het goed gekeurd is de inhoud dus ook goed was? Misschien goed genoeg om de mensen die het moesten goedkeuren te overtuigen, maar dat zegt niets over de inhoud. Misschien worden er claims gemaakt en onderbouwd die helemaal niet correct blijken te zijn?

Als je zelf niet meer na denkt dan ben je ook niet meer nodig, en aangezien deze tools aantoonbare gebreken hebben bij het geven van daadwerkelijk correcte informatie is het wel nodig dat er nog iemand na denkt achteraf.
Misschien goed genoeg om de mensen die het moesten goedkeuren te overtuigen, maar dat zegt niets over de inhoud. Misschien worden er claims gemaakt en onderbouwd die helemaal niet correct blijken te zijn?
Dat geldt toch ook gewoon als het door een mens geschreven was?
N=1 en je gaat er van uit dat omdat het goed gekeurd is de inhoud dus ook goed was? Misschien goed genoeg om de mensen die het moesten goedkeuren te overtuigen, maar dat zegt niets over de inhoud.
Het wetsvoorstel is unaniem aangenomen. Als het dan 'goed genoeg' blijkt te zijn maar slechte inhoud heeft, dan is dat niet de schuld van ChatGPT, maar dan mogen al die raadsleden per direct de laan uit want die hebben dan niet nagedacht bij het doornemen en instemmen.

Daarnaast is dit helemaal geen N=1, maar juist N=<aantal raadsleden>. Mensen wiens taak het is om wetsvoorstellen door te lichten en er een mening over te hebben.
Het wetsvoorstel is unaniem aangenomen. Als het dan 'goed genoeg' blijkt te zijn maar slechte inhoud heeft, dan is dat niet de schuld van ChatGPT, maar dan mogen al die raadsleden per direct de laan uit want die hebben dan niet nagedacht bij het doornemen en instemmen.
Dat is toch exact het punt dat ik maak? De stelling was dat het gevaar minimaal zou zijn dat men de inhoud niet valideert, met als argument dat het is aangenomen.
Daarnaast is dit helemaal geen N=1, maar juist N=<aantal raadsleden>. Mensen wiens taak het is om wetsvoorstellen door te lichten en er een mening over te hebben.
Nee er is 1 wetsvoorstel geweest dat blijkbaar goed genoeg was om aan te nemen, dat zegt helemaal niets over eventuele andere wetsvoorstellen die ChatGPT genereerd. Dus N=1.
Maar daarom heb je normaal een hele horde ambtenaren met allerlei verschillende achtergronden die allemaal datzelfde voorstel te zien krijgen en zo een discussie op gang brengen.

Zo kan een raadsman een techneut wijzen op een fout en vice versa …
N=1
Ja ik zeg ook "in dit geval", dus je opmerking voegt verder niet veel toe.
je gaat er van uit dat omdat het goed gekeurd is de inhoud dus ook goed was?
Ja, een raad heeft gekeken naar deze verordening alsof het door een men was geschreven was. Je kunt erover in discussie gaan of dat genoeg is om te beoordelen of dit een goed voorstel was of niet, maar dat heeft in dit geval absoluut niks te maken met of het door een AI of door een mens geschreven is.
Als je zelf niet meer na denkt dan ben je ook niet meer nodig
Heeft niks te maken met mijn reactie, dus ga ik ook verder niks over zeggen :)
aangezien deze tools aantoonbare gebreken hebben bij het geven van daadwerkelijk correcte informatie
Dit is bij mensen ook nog steeds het geval
is het wel nodig dat er nog iemand na denkt achteraf.
Dit is dus precies wat de raad gedaan heeft door over de verordening te oordelen
De controle moet dan ook plaatsvinden op inhoud, niet op typefouten (naja ook natuurlijk) oid.

De persoon die het anders had moeten schrijven kan zijn kennis ook gebruiken om werk van een ander/ChatGPT na te kijken!
Maar hoeveel hebben ze ook effectief gelezen? En hoe zou deze standhouden in de rechbank? Want ChatGPT houdt 0 rekening met andere, relevante wetgeving, want dat kent het niet.
Tja, is dat niet een beetje de taak van de raad? Het hele verhaal laat pijnlijk zien dat de politiek van aannames aan elkaar hangt. Men neemt aan dat de stukken geschreven zijn door het raadslid, men neemt aan dat de raad de stukken leest en de details doorneemt, men neemt aan dat in de hele keten van verantwoordelijkheid er momenten van controle zijn.
Als dit tot een zaak komt dan wordt het lachen. De gehele keten zal tegen het licht gehouden worden, er zullen weer de nodige slappe smoesjes komen en wellicht krijgt het raadslid in kwestie een uitbrander.
Is dit echter niet één van de zaken waar Omtzigt zo over opwond? Dat de stukken simpelweg niet gelezen werden?
Ik snap het punt wat je wil maken, maar als je gaat twijfelen aan (de effectiviteit van) de raad, dan maakt het toch niet meer uit of zo'n tekst door een mens of AI geschreven is? Dan is je process kapot en moet je dat herstellen.

Ongeacht of zo'n tekst van een mens of AI af komt, het moet goed gecontroleerd worden.

Overigens vind ik ook dat AI (voorlopig in ieder geval) ver uit de buurt moet blijven van wetgeving en dergelijke
Ik heb een zaak gehad in een van de grootste steden van België.
De stad heeft een bepaalde verordening omtrent belastingen, die ze om de 6 jaar opnieuw goedkeuren.
In deze had de stad de nieuwe verordening doorgestuurd naar de gemeenteraadsleden, en had gezegd dat dit een "hervaststelling" is van het bestaande.
In realiteit hadden ze verschillende toevoegingen gedaan.

De gemeenteraad werd dus om de tuin geleid, maar deze had dit reeds goedgekeurd.
Toen het uitkwam was de gemeenteraad (en vooral de oppositie) natuurlijk bijzonder ontstemd. Maar ze konden ook niet té hard brullen, want ze hadden zelf ook niet gezien dat de ene verorderning gewijzigd was tov van de andere. (En laten we eerlijk zijn, als je vaak ellenlange documenten krijgt gestuurd en geen compleet wantrouwen hebt in het beleid, ga je deze echt beginnen vergelijken? Misschien iets voor software / AI om te doen....)

Maw, het is niet zo moeilijk om op verschillende niveau's mensen om de tuin te leiden, men kan niet alles aannemen alsof het malafide is.
Maw, het is niet zo moeilijk om op verschillende niveau's mensen om de tuin te leiden, men kan niet alles aannemen alsof het malafide is.
Ik ben het met je eens dat het niet moeilijk is om mensen om de tuin te leiden, maar ik zou geen beter alternatief kunnen bedenken voor alles als malafide te zien en goed te controleren. Je kunt er natuurlijk niet van uit gaan dat "alles wel goed zit" omdat je de capaciteit niet hebt om alles te controleren
Aan de andere kant zou ik verwachten dat degene die dit bekokstoofd heeft, daar wel iets van gaat merken, want die staat natuurlijk wel keihard te liegen. Acties hebben consequenties. Iemand heeft hier ongetwijfeld belang bij gehad.

Daarnaast zou de gemeente ook de regels kunnen aanpassen hierop. Namelijk dat als een verordening met valse informatie is aangeboden, de handtekening kan worden teruggetrokken. Mondelinge informatie is ook informatie.
Het blijven (Belgische) politici.
Tegen de getroffen sector die (zonder waarschuwing) opeens nieuwe belasting moest betalen (met terugwerkende kracht feitelijk, aangezien niemand wist dat er nieuwe regels waren; en toen we het te horen kregen het al maanden verder was) beweerden de gemeenteraadsleden (meerderheid) en schepenen dat ze dit schandalig vonden. Maar het is 'water onder de brug' waar niets mee gedaan werd.
Gemeentebestuur zelf wees op een miscommunicatie, maar nam geen verdere verantwoordelijkheid.

Wat dan gebeurd is, is dat ik àlle bedrijven van de sector in die stad heb overtuigd om in een belangenvereniging / VZW te stappen, en wij met een van de meest gespecialiseerde advocaten op vlak van overheidsfinanciën (de meeste van zijn klanten zijn de verschillende overheden zélf!) de verordening hadden aangevochten. Ze hadden verschillende wettelijke fouten gemaakt waardoor we de zaak hoogstwaarschijnlijk zouden winnen.

Daarnaast had ik een hiaat ontdekt in hun nieuwe regels, in de vorm van:
- "producten/diensten met een bedrag tussen 1,00-10,00€ is X belasting verschuldigd".
- "producten/diensten met een bedrag tussen 11,00-20,00€ is X belasting verschuldigd".
- "producten/diensten met een bedrag tussen 21,00-30,00€ is X belasting verschuldigd".
etc.
Heb je de hiaat tezien? Er is geen belasting verschuldig tussen 10,00-11,00€; tussen 20,00-21,00€; tussen ]sommen van 10€, sommen+ 1€[

Dus, terwijl de rechtzaak tegen de stad liep, hebben wij allemaal onze prijzen aangepast naar xx10,50€; xx20,50€; etc. Daarnaast heb ik zoveel mogelijk andere bedrijven (die wel reeds onder de oude verordening vielen), gecontacteerd en hen gewezen op de hiaat in de nieuwe regels, en velen maakten er dankbaar gebruik van.

Plots wilde het stadsbestuur praten met ons om tot een compromis te komen :-D
Onze advocaat gaf ons ook het advies, dat indien wij de rechtzaak zouden winnen, de stad gewoon een nieuwe verordening zou kunnen maken, die wel waterdicht zou zijn, en we dus baat hadden om dit in compromis te regelen.

We hebben bekomen dat het eerste jaar er geen belasting was (aangezien niemand op de hoogte was gebracht), en in de toekomst de belasting de helft lager was dan voorzien! Daarnaast is deze niet geïndexeerd op de koop toe.

Het heeft mij wel persoonlijk veel uren en veel eigen/ondernemingsgeld kost (mijn bedrijf heeft de advocaat betaald).
Toch nog een mooi eind aan je verhaal ;)
Bij alles van internet (of andere mensen) moet je nadenken of het klopt en/of volledig is, dus ook bij ChatGPT lijkt me. :)

Als mensen dat niet doen, dan is AI alsnog de beste keuze maar dan voor deze exacte reden.
Is dat gevaar ook niet aanwezig als mensen het zelf schrijven? Bullshit wordt ook door mensen geschreven, misschien wel meer zelfs.

En die senator blijft verantwoordelijk voor de tekst die hij indient, of hij m nu zelf schrijft, z’n pa dat doet of een ai.
Als het een goede verordening is, waarom niet. Kan mij nou schelen of ChatGPT het schrijft of een mens.

[Reactie gewijzigd door Jaapvaak op 25 juli 2024 07:17]

Ik snap persoonlijk in dit geval ook niet zo goed de noodzaak om wel/niet te vermelden dat ChatGPT of een ander LLM is gebruikt om te helpen bij het schrijven. Het gaat hier niet om huiswerk waarbij gecontroleerd moet worden of de schrijver de taak wel zelf heeft gedaan.
Zo heeft Barry Finegold, een senator namens de Democraten in de Amerikaanse staat Massachusetts, met behulp van ChatGPT een voorstel geschreven over het reguleren van kunstmatige intelligentie, schrijft onder meer Politico afgelopen juli.
Beetje tegenstrijdig zou ik zo denken.
Finegold denkt dat de chatbot een goede tool kan zijn bij de lastigere aspecten van het opstellen van wetten, zoals het raadplegen van bestaande wetten.
Dat is dan weer juist een reden om het niet te gebruiken. Sowieso heeft ChatGPT een outdated database, en volgens mij is er ook geen dekking van de hele wetgeving. En daarnaast, word dan ook nog gevalideerd of de eruit gerolde tekst inhoudelijk klopt?

Er was namelijk al een advocaat die ChatGPT gebruikt had voor exact zo een situatie maar dan voor het referen naar voorgaande rechtzaken. Uiteindelijk bleek dat ChatGPT alles had verzonnen inclusief referenties en dat de advocaat in kwestie 0 eigen onderzoek gedaan had en dus ook niet geverifieerd had wat hij had ingediend.
Er zit natuurlijk wel een risico in. Een voorgestelde tekst kan altijd sturend werken en chatgpt zou daarmee het beleid kunnen beïnvloeden. De controle door de raad is ook niet zaligmakend. Daar zitten zeker geen specialisten op ieder gebied. Een ambtelijke toetsing kan helpen, maar is niet verplicht (in Nederland tenminste)
Een kwaadwillende AI kan zo veel invloed krijgen, zeker als we er van uitgaan dat AI neutraal is. (Wat dat dan ook betekent)
Ben ik de enige die in het artikel zou willen zien wat het voorstel van de bot dan exact was? Kan geen oordeel of mening vormen zonder die informatie. Als het gewoon goed is, is het tenslotte gewoon goed.
Ik heb hier weinig problemen mee,
Als iemand ChatGPT voor zich laat schrijven,
**en daarna** het wel zelf goed begrijpend naleest en onderschrijft.
.
Zo'n verordening bestaat natuurlijk voor een groot gedeelte uit "boilerplate".
Of een mens nou de het initiele knippen en plakken doet of AI, is me om het even.
.
Als het begrijpend lezen er maar op volgt.
Want ChatGTP begrijpt niet echt wat het doet.
het is (vooralsnog) een slim knippen en plakken hulpmiddel.
In de stad moesten belastingbetalers opdraaien voor de kosten bij het vervangen van gestolen watermeters.
Dit klinkt ook wel als een pikant verhaal.
Inderdaad waarom worden die gestolen?
Zonder enige kennis van zaken maar gezond verstand; ik denk omwillen van het koper of iets wat in die meters gebruikt wordt.
ChatGPT
Er kunnen verschillende redenen zijn waarom watermeters worden gestolen in Porto Alegre, Brazilië. Hier zijn een paar mogelijke redenen:

Koperdiefstal: Watermeters bevatten vaak waardevol koper dat door dieven kan worden verkocht voor recycling. Koper is een waardevol metaal, dus dieven kunnen proberen watermeters te stelen om geld te verdienen.
Bewoners die geen waterkosten willen betalen: In sommige gevallen stelen bewoners watermeters om te voorkomen dat ze waterrekeningen ontvangen en betalen. Door de watermeter te verwijderen, kunnen ze illegaal water gebruiken zonder dat hun verbruik wordt geregistreerd.
Illegale praktijken: Watermeters kunnen ook worden gestolen voor illegale praktijken, zoals het omleiden van waterleidingen om water te stelen voor andere doeleinden, zoals illegale landbouw of illegale aansluiting op de watervoorziening.
Vandalisme: In sommige gevallen kan het gestolen van watermeters simpelweg het gevolg zijn van vandalisme of baldadigheid, waarbij individuen schade aanrichten aan de openbare watervoorziening.

Het is belangrijk op te merken dat de specifieke redenen kunnen variëren en dat dit slechts enkele mogelijke verklaringen zijn.
Kijk hier hebben we wat aan tenminste }>

Het is nu wel nog een beetje handmatig allemaal, maar binnenkort zijn corrigerende reacties volkomen overbodig geworden }:O 8-)
Ik denk fraude, dat je met het terugplaatsen van een meter met een lagere waarde minder hoeft te betalen. Beetje als het terugdraaien van de KM stand in een auto.
Wat is het probleem ermee een stuk te laten schrijven door een AI aan de hand van jouw voorschriften?
En waarom niet? Blijkbaar kan chatgpt met een voorstel komen dat interessant is, dus wat is het probleem? Er wordt in dit soort zaken vaak gebruikgemaakt van externe (betaalde) input. Blijkbaar kon een mens niet met dit goede voorstel komen.
En terecht dat het niet vermeldt werd voor het voorstellen, chatgpt is hier gewoon een tool geweest.

Op dit item kan niet meer gereageerd worden.