BBB gebruikt intern ChatGPT en eigen database bij schrijven verkiezingsprogramma

De BoerBurgerBeweging gebruikt als een van de weinige Tweede Kamer-partijen in Nederland kunstmatige intelligentie bij het schrijven van zijn verkiezingsprogramma. De partij licht aan Tweakers toe hoe dat precies werkt.

Het was een opmerkelijk bericht, vorige maand in NRC. Toen zei BBB-medeoprichter en -campagneleider Henk Vermeer in een duo-interview dat de partij 'ChatGPT gebruikt voor het verkiezingsprogramma'. "Alle rapporten die we relevant vinden, al onze debatbijdragen verwerken we erin", zei Vermeer. Het interview ging niet over tech, maar vooral over duurzaamheid en de rol van boeren en het artikel ging dan ook niet veel dieper in op de opvallende quote. Maar wat betekent 'ChatGPT gebruikt voor het verkiezingsprogramma' nou precies?

Vermeer benadrukt tegen Tweakers dat ChatGPT niet gebruikt wordt voor het daadwerkelijk schrijven van het verkiezingsprogramma; een eigen, lokaal gehoste versie van het large language model geeft in principe op basis van een eigen database intern informatie weer die gebruikt kan worden voor het schrijven van het verkiezingsprogramma.

Vermeer zegt: "We zijn een kleine organisatie en gebruiken deze tool om snel op te kunnen zoeken wat we de afgelopen jaren hebben gezegd." Hieronder vallen onder meer eerdere verkiezingsprogramma's, debattranscripties en Kamervragen en moties waar Caroline van der Plas bij betrokken was. Hij gaat verder: "Dat is in principe wat Google ook zou doen, aangezien transcripties van bijvoorbeeld debatten gewoon openbaar zijn. ChatGPT is daarentegen slimmer en kan ook alleen uit onze eigen gegevens informatie verzamelen."

Hallucineren

In verschillende media, waaronder BNR en de NOS, werd over de BBB-variant van ChatGPT geschreven en gesproken, maar volgens Bart Luttels, maker van de betreffende ChatGPT-variant en lid van de programmacommissie van de BBB, was lang niet al die informatie correct. Zo paste hij naar eigen zeggen verschillende 'trucjes' toe om ervoor te zorgen dat de kunstmatige intelligentie geen informatie zou verzinnen, bijvoorbeeld door de chatbot te dwingen om puur inhoudelijk en feitelijk te reageren. "ChatGPT kan heel creatief zijn, maar dat kun je ook uitzetten." Verder vermeldt de aangepaste versie van ChatGPT volgens hem altijd bronnen bij de gegeven antwoorden, op voorwaarde dat de vragen specifiek over de BBB gaan.

Via een interne website kunnen programmacommissieleden vervolgens vragen stellen aan 'ChatGPT'. Luttels stelde daarvoor een handleiding samen; de prompts die BBB-leden invoeren moeten specifiek de partij vermelden en aan bepaalde structuren voldoen. "Als je bijvoorbeeld vraagt 'wat vond Caroline van der Plas over het stikstofbeleid', dan zoekt de tool in onze eigen data. Als je Caroline niet specifiek noemt en juist een algemene vraag stelt, dan kan de tool gaan zoeken in de gebruikelijke OpenAI-database." In dat geval kan de informatie mogelijk niet kloppen, zo erkent hij, maar omdat er geen bronvermelding bij staat, is het voor de gebruikers duidelijk dat dit niet op basis van eigen data is geconcludeerd.

Vermeer voegt daaraan toe dat deze informatie niet per se wordt uitgesloten, aangezien de reguliere versie van ChatGPT volgens hem kan helpen als geheugensteuntje. "De chatbot kan bijvoorbeeld bepaalde argumenten voor en tegen een stelling genereren. Die gebruiken we dan om zelf een bredere kijk op een onderwerp te krijgen." Alle informatie die in het verkiezingsprogramma wordt verwerkt, wordt altijd door Vermeer, Van der Plas en beleidsmedewerkers bekeken en gecontroleerd op fouten. Volgens Vermeer en Luttels zijn er tot dusver geen fouten als resultaat van het gebruik van ChatGPT geconstateerd, al verkeert het schrijven van het aankomende verkiezingsprogramma nog in een vrij vroeg stadium.

Twee keer ChatGPT en LangChain

Luttels treedt nog verder in detail over het gebruikte systeem. "We gebruiken ChatGPT in twee stappen van het proces. Eerst heb ik alle data, de enkele duizenden pdf-pagina's, door ChatGPT opnieuw laten structureren." Bepaalde aanpassingen, bijvoorbeeld stukken dikgedrukt maken of punten op een bepaalde manier gebruiken, maken het volgens hem gemakkelijker voor de AI om de informatie te 'begrijpen'.

BBB gebruikt LangChain om een eigen lokale ChatGPT-instance te hosten.Hij vult aan: "Vervolgens zorgt ChatGPT voor antwoorden op onze vragen. Daarvoor moet onze database gekoppeld worden aan de tool, wat via opensourceprogramma LangChain gebeurt. Hiermee kunnen het taalmodel, ons interne vragenportaal waar partijleden hun vragen invoeren en de database gekoppeld worden." LangChain is een framework op basis van Python waarmee gebruikers software met llm-integratie kunnen bouwen.

Hij legt ook uit dat er van een externe vectordatabase gebruikgemaakt wordt. Deze specifieke manier van dataverzoeken verwerken, gebeurt in een speciale database waar datapunten als vectors worden opgeslagen en moet ervoor zorgen dat de vragentool nog sneller met antwoorden komt. "Zelfs de betaalde versie van OpenAI's taalmodel heeft een beperkte snelheid en kan maar een bepaald aantal woorden tegelijkertijd verwerken. Met een vectordatabase rek je de limiet aanzienlijk uit."

"We maken wel gebruik van de rekenkracht van OpenAI om de vragen te verwerken. Omdat we direct betalen voor api-verzoeken wordt onze ingevoerde data in tegenstelling tot bij de reguliere versie van ChatGPT niet met het bedrijf gedeeld." Hij benadrukt net als Vermeer dat het om openbare documenten gaat, dus over het eventueel 'lekken' van de ingevoerde documenten maakt de partij zich geen zorgen.

Hoe zit het met andere partijen?

Alleen Volt gebruikt verder ChatGPT om standpunten op te zoeken.Tweakers vroeg aan alle andere huidige partijen die nu een zetel in de Tweede Kamer hebben of zij een vorm van ChatGPT gebruiken bij het schrijven van het verkiezingsprogramma. Volt lijkt op basis van de reacties de enige andere Nederlandse politieke partij die intern gebruikgemaakt van een ChatGPT-tool om informatie over standpunten op te zoeken. Ook zegt een woordvoerder dat soms deelonderwerpen ingevoerd worden in de chatbot om de verschillende stukken informatie automatisch tot één tekst te combineren. Volt erkent dat het taalmodel fouten kan maken en dat teksten daarom nooit een-op-een gepubliceerd worden. De partij zegt zich aan de zelfgeformuleerde regels omtrent het gebruik van kunstmatige intelligentie te houden.

Verder zeggen Forum voor Democratie, JA21, de Partij voor de Dieren, D66 en de SP allemaal geen kunstmatige intelligentie te gebruiken bij het schrijven van het verkiezingsprogramma. De VVD, PVV, ChristenUnie en BIJ1 hebben een ontvangstbevestiging teruggestuurd, maar hebben voor publicatie van dit artikel niet gereageerd. Alle overige partijen uit de Tweede Kamer hebben überhaupt niet verduidelijkt of zij kunstmatige intelligentie toepassen bij het schrijven van het verkiezingsprogramma.

Reacties (113)

[Niet Henk]

een eigen, lokaal gehoste versie van het large language model

Nee, een eigen, lokaal gehoste client die een LLM van OpenAI gebruikt.

Zelf een LLM hosten is een enorme klus, en niet wat LangChain doet. En zelf één ontwikkelen, dan moet je aan honderden miljoenen en meerdere jaren ontwikkeltijd minstens denken.

Dit lijkt enigszins vaag verwoord, maar ze hebben echt geen eigen LLM. We hebben zelfs geen indicatie dat ze een bestaand LLM finetunen op een taak, volgens mij is het allemaal "standaard", voor hoeverre een eigen knowledge repo blootstellen aan de LLM standaard is.

[EldraziKlap]

Dat klopt ook, want ze zeggen later in het artikel ook dat als je vragen niet concreet genoeg stelt de AI gewoon dingen erbij haalt die niet uit hun eigen database komen.

[SPee]

Volgens mij is het maken van het LLM juist waar die tijd in zit. Niet in zelf lokaal een LLM draaien/hosten.
Je kan genoeg filmpjes op YT vinden hoe je zelf een LLM lokaal draait. Alleen hoe groter het model, hoe meer resources je moet hebben. En hoe meer gebruikers, hoe meer resources. Dit gebruik lijkt mij vrij beperkt.
Er zijn genoeg modellen van Hugging Face te downloaden, varierend in grootte. Ook van openAI.

[brekhof]

Hier is de handleiding voor zelf hosten: https://medium.com/@woyer...your-ai-apps-3e5f93314b54

Relatief eenvoudig zo te zien.

[Wobblier]

Zo paste hij naar eigen zeggen verschillende 'trucjes' toe om ervoor te zorgen dat de kunstmatige intelligentie geen informatie zou verzinnen, bijvoorbeeld door de chatbot te dwingen om puur inhoudelijk en feitelijk te reageren. "ChatGPT kan heel creatief zijn, maar dat kun je ook uitzetten." Verder vermeldt de aangepaste versie van ChatGPT volgens hem altijd bronnen bij de gegeven antwoorden, op voorwaarde dat de vragen specifiek over de BBB gaan.

Hoewel ik voorstander ben van het gebruik van machine learning of AI in bijvoorbeeld onderwijs of code generation vind ik het bovenstaande wel zorgelijk. Er is juist een mooi artikel verschenen op arshttps://arstechnica.com/s...rge-language-models-work/ over de werking van een LLM als chat-gpt. Lees ook even iets over neural networks https://arstechnica.com/s...od-at-recognizing-images/

Het idee dat je chat-gpt kan laten bronvermelden is absurd. Het idee dat je het LLM alleen feitelijk inhoudelijk kan laten reageren is even absurd en een research paper waard. Het is namelijk wetenschappelijk onbekend hoe LLM's precies aan resultaten komen: het hele idee is erachter is juist dat je logica los laat en een onlogisch neural network bouwd.

Niettemin kan er een goede functie zijn voor chatbots hoor. Maar chatbots hebben geen besef van juist of onjuist of überhaupt een notie van de output. Het is eerder een spiegel die wenselijk output showt.

[Reactie gewijzigd door Wobblier op 22 juli 2024 20:52]

[DJ Henk]

Dat hangt er maar net vanaf hoe je het inricht. Een gebruikelijk manier om dit soort tools op te zetten is door er een meertrapsraket van te maken. LLM's zijn niet goed in feiten, maar wel goed in het "remixen" van tekst. Dus je geeft eerst de hooiberg waar het antwoord in verstopt zit en laat vervolgens de LLM het antwoord daarin zoeken en netjes formuleren.

Echter, LLM's hebben een beperkte "context". Je kunt niet elke willekeurige hooiberg naarbinnen schuiven, alleen een kleintje. Om daar omheen te werken maak je eerst zelf een voorselectie van teksten die eventueel relevant kunnen zijn voor het antwoord. Dit gebeurt met die vectordatabase die genoemd wordt. Uit die kleinere berg documenten, met bronvermelding, laat je vervolgens de LLM het antwoord genereren.

Het stappenplan werkt dan zo:

• Gebruiker stelt een vraag
• Vraag wordt omgezet in een vector, een reeks getallen die de concepten in de vraag representeert. Dit gebeurt met vectorizers die je online, bijvoorbeeld bij OpenAI, kan huren, maar ook zelf kunt draaien.
• Uit de database worden de documenten gezocht met vectoren die het dichtst bij de vector van de vraag liggen. Die vectordabases zijn daar loeisnel in. (Alle documenten zijn dus al gevectorizeerd toen ze de DB in gingen.)
• De teksten plus de vraag worden aan de LLM gegeven met de prompt: Formuleer het antwoord op deze vraag an de hand van deze bronteksten. Geef een lijstje van de teksten die je hebt gebruikt.
• Antwoord van LLM wordt aan de gebruiker getoond. Het is prima mogelijk om in dat antwoord de referenties van de gebruikte teksten mee te geven.

Er zijn nog meer en ingewikkelde methodes om zoveel mogelijk hooi in een acceptabel kleine berg te persen. Je kunt bijvoorbeel ook denken aan samenvattingen van samenvattingen, al komt dat de nauwkeurigheid niet ten goede.

[Reactie gewijzigd door DJ Henk op 22 juli 2024 20:52]

[Anoniem: 80910]

Net een paper uit waarbij de context 1B tokens kan worden...

[Wobblier]

Met het door een ai vectoriseren van je bron laat je naar mijn idee een hoop, ofwel teveel, los.

Wat je in feite doet is LLM aanvullen met extra text die je bias meegeeft zodat LLM een uitkomst genereert die waarschijnlijk (hopelijk, afhankelijk van je vraag) voor inhoud je biased data houd en voor de taal de rest van de LLM.

Ik neem dit even aan, maar ik vermoed dat het aantal vectoren van de BBB input fors is, maar een vrijwel insignificant aantal ten opzichte van de data die de rest van de LLM nodig heeft om begrijpbare tekst te genereren.

Je omschrijving maakt het wel duidelijker wat ze doen (duidelijker dan het artikel zelf, dat spreekt over truukjes). Dank daarvoor.

Ik ben nog niet echt overtuigd van de betrouwbaarheid hoor. LLM’s neigen feiten te fabriceren, sociale bias te herhalen en rare antwoorden te genereren daar waar het onderwerp moeilijker te voorspellen is. En dat is precies wat de BBB aan de AI vraagt.

[Nibulez]

ChatGPT kan inderdaad niet direct bronnen vermelden. De methode die hier beschreven wordt werkt echter anders. Er wordt via een vector database gezocht in alle relevante documenten die semantisch overeenkomen met de vraag. Dit is de bronvermelding waar het om gaat. Dus bij het antwoord wat gegeven wordt, worden de relevante documenten genoemd die gebruikt zijn om tot dat antwoord te komen.

[Wobblier]

Wat je stelt is juist: een LLM en specifieker gpt-3 doet het volgende woord in een tekst voorspellen aan de hand van vectoren. Heel veel vectoren. Heel vaak en tegelijk. Welk woord het wordt bepaald de vector en een bias. De vector geef je niet op, maar leer je in. Het interessante aan machine learning is dat die vectoren voor mensen niet logisch zijn.

Dat gebeurd op meerdere lagen (tegelijk). Het volgende woord bepaald ook de bedoeling van de zin.

De lagen zijn parametiseren en afhankelijk van het model hergebruiken vectoren.

De “infinite monkeys on a typewriter” met een crutch. Dat je het volgende woord bepaald aan de hand van een gecontroleerde dataset (wat overigens sowieso is, of dacht je dat LLM met random texten werden geleerd?) maakt het nog niet dat je antwoord een bron.

Je kan (interessant) relevante teksten meegeven (context) en je antwoord sturen met feiten die verwerkt dienen te worden. De LLM verzint er passende woorden bij.

LLM is prima in staat bronvermelding te geven hoor. Net zoals de infinite monkeys dat kunnen.

[Dykam]

Ik denk niet dat Nibulez verwijst naar vectoren voor tekstgeneratie, maar naar de embeddings-vectoren. Soort van semantische vector-ruimte om stukken tekst in de ordenen.

Eventueel daarvoor (documenten samenvatten etc) en daarna (resultaten samenvatten) wordt idd. tekst-generatie gebruikt. Maar dan heb je het brondocument dus al buiten de LLM om.

[Reactie gewijzigd door Dykam op 22 juli 2024 20:52]

[BramVroy]

Dat is niet wat Nibulez zegt. In het artikel wordt er duidelijk verwezen naar het gebruik van een retrieval system waarbij er toegang is tot de data die ze hebben bezorgd. Dat wil dus niet zeggen dat ze ChatGPT hebben gefinetuned en dat het model zelf de antwoorden genereerd op basis van zijn parameters, maar dat het door middel van de user query kan zoeken in de gevectoriseerde documenten, daaruit relevante documenten kan selecteren, en deze dan zal samenvatten (abstractive summarization) of de nuttige elementen eruit zal halen (extractive summarization). Dit is een veel voorkomende opzet en is al enkele jaren de state-of-the-art voor verschillende human-in-the-loop oplossing waar een mens snel moet kunnen zoeken naar relevante informatie in grote datasets. Als je meer wil weten, kan je eens zoeken op RAG, oftewel retrieval-augmented generation.

[Skit3000]

Dat zijn dan de documenten die gevonden zijn, maar nog steeds bestaat de kans dat het taalmodel aan het ijlen is geslagen en met een tekst komt die niet in die bronnen terug te vinden is. Ik zou in dit geval dus nog steeds die bronnen openen en snel scannen of dat waar het taalmodel mee aan komt, overeen komt met de gegenereerde tekst.

[marcieking]

Het idee van bronnen vermelden is sowieso ook niet dat het er zo leuk uitziet, maar dat je de bron ook echt leest.

[Reactie gewijzigd door marcieking op 22 juli 2024 20:52]

[Wobblier]

Spijker op z’n kop wat mij betreft!

[ZinloosGeweldig]

Je zou de bronvermelding gebruiken voor een van de doeleinden waar bronvermelding voor bedoeld is? Revolutionair!

[Skit3000]

De meeste tijd gebruik je een bronvermelding om meer te weten te komen over een onderwerp, en niet om de schrijver van een artikel te controleren.

[ZinloosGeweldig]

Veelal is een bronvermelding inderdaad een goede bron voor meer leesvoer om je verder te verdiepen, maar dat betekent niet dat de controleerbaarheid niet een van de doelen van bronvermelding is.

[Skit3000]

Je hebt alleen geen leven over als je standaard altijd alle bronnen moet controleren, dus ga je meestal uit dat de auteur van een artikel de bronnen juist heeft gebruikt.

In het geval van BBB zouden ze redelijk simpel de zin(nen) uit het bronmateriaal kunnen halen en tonen die relevant zijn voor het gegenereerde antwoord.

[ZinloosGeweldig]

Ik zie als ik een bron check regelmatig redenen om ergens aan te twijfelen.

Het komt bijvoorbeeld regelmatig voor dat een bron een uitspraak over een specifieke situatie doet, en een daar naar verwijzend werk deze uitspraak veel breder trekt. Of de bron is zelf niet betrouwbaar vanwege het ontbreken van eigen bronvermelding of een ondeugdelijke onderzoeksmethode. En ja, soms is het letterlijk ook zo dat het beweerde uberhaupt niet in een bron vermeldt wordt.

Ik vind als er een bronvermelding is er maar van uit gaan dat het klopt een erg naieve instelling.

[Reactie gewijzigd door ZinloosGeweldig op 22 juli 2024 20:52]

[Skit3000]

Het is in de meeste gevallen ook een kwestie van gezond verstand. Op Tweakers staan bijvoorbeeld vaak berichten over batterijen, waarbij de bron/ontdekker claimt de opslagcapaciteit te kunnen verdubbelen of iets in die richting. Zelfs zonder naar de bron te kijken weet je eigenlijk al dat zelfs als het waar is, het waarschijnlijk alleen op laboratoriumschaal is uitgevoerd of dat grote productie niet kostendekkend kan zijn. Echter, als je ziet dat de bron een van de huidige grote spelers op de markt is, dan weet je al dat ze zo'n claim niet kunnen maken zonder het daadwerkelijk waar te maken.

Het BBB voorbeeld is natuurlijk anders en zelfs als de AI verkeerde antwoorden geeft is er nog geen man overboord want zonder die hele zoekfunctie zouden sommige partijleden waarschijnlijk meer dingen die uit de lijn met de lijsttrekker vallen zeggen dan dat deze AI-oplossing doet.

[langestefan|IA]

Veel van de hallucinaties van een LLM tool als ChatGPT komen juist voort uit het ontbreken van context. Dit kun je zelf makkelijk testen, als je bijvoorbeeld een vraag stelt over een software probleem (wat ik af en toe doe) en je geeft de context of een beschrijving van het probleem niet dan komt er vaak de grootste onzin uit, regelmatig zelfs inclusief libraries en functies die niet bestaan. Geeft je echter een stuk voorbeeld code, een duidelijk omschrijving en een verwachting van de output dan gaat het stukken beter. Dus zo absurd vind ik het niet, ChatGPT kan aan bronvermelding doen mits die informatie beschikbaar is.

[Crim]

Er staat in het artikel letterlijk een hele uitleg hoe dit werkt, dit is dus een aangepaste versie met een eigen dataset die is getraind/geprogrammeerd om data op een bepaalde manier terug te geven.

Je kan een taalmodel wel bronnen laten vermelden, je kan ook instellen dat het taalmodel zo dicht mogelijk bij de data moet blijven en niet "creatief" moet reageren. Vooral als de dataset niet extreem groot is. Het blijft gewoon software die je kan programmeren zoals je wilt.

Je kan hier al vrij makkelijk een paar variabelen aanpassen en bijvoorbeeld een "system message" meegeven. Dan zie je ook dat het gedrag behoorlijk kan veranderen: https://platform.openai.com/playground

[Sebazzz]

Het LLM wordt dus gebruikt om de standpunten en keuzes in stemmingen samen te vatten en als beginsel te gebruiken voor een verkiezingsprogramma. Dat is dus dan een verkiezingsprogramma gebaseerd op het gedrag uit het verleden. Ik waardeer wel de openheid van de BBB en Volt hierover

[Reactie gewijzigd door Sebazzz op 22 juli 2024 20:52]

[blorf]

Volgens mij gaat dit automatisch oninteressant worden omdat iedereen het kan. Het wordt een race waarbij partijen hun richting gaan bijstellen om beter te scoren, totdat de boel verzadigd is met onzin.

[Retrospect]

Een partij heeft een doelgroep die het wil vertegenwoordigen. Daar zal het moeten scoren anders behaalt het geen zetels. Zo werkt democratie. Het alternatief is een stuk onaantrekkelijker.

[blorf]

Zo is het al lang niet meer. Een enkele opmerking voor de camera kan bepalend zijn voor de toekomst van een partij. Populisme... Snel goedkoop scoren met weinig inhoud. Ik vermoed dat dit is waarom ik de BBB associeer met omgekeerde vlaggen en verder niet zo veel.

[Retrospect]

Een politieke partij moet in een democratie nou eenmaal stemmen verzamelen. Dat kan enkel als je je doelgroep voor ogen hebt en hun belangen vertegenwoordigd. Dat niet willen is de democratie bij het grof vuil zetten.

[Reactie gewijzigd door Retrospect op 22 juli 2024 20:52]

[blorf]

Wat is de doelgroep van de BBB? Ik kan me zo geen onderscheidende standpunten bedenken. Dat krijg je als je een andere agenda aanneemt als de wind draait...

[Basszje]

Ze vertegenwoordigen de agro-industrie en toevoerders . Door een idyllisch beeld te scheppen van een natuurlijk landbeheer dat vroeger zou hebben bestaan. Boeren bestaan nauwelijks meer en op deze weg blijven er maar enkelen over.

Resultaat voorlopig voor de bewoner buiten randstad is deze ze 9% meer gaan betalen voor het waterschap en dat het waterpeil wordt verlaagd: droge velden maar verzakte huizen.

Wat je mening verder is, ik vind het vooral zorgwekkend dat een marketingbureau zich in de politiek kan kopen. Dat zal wel vaker gaan gebeuren. Typetje creeeren, proberen gratis reclame te maken via hypes en talkshows .. Wat blijft er over van volksvertegenwoordigen?

[Reactie gewijzigd door Basszje op 22 juli 2024 20:52]

[brekhof]

Heb je het nu over Kaag en de NPO, Trump en Cambridge Analytica of ?

Het wordt pas grappig als iemand gaat vergelijken wat 'men' in verkiezingstijd beloofde en wat er inde praktijk daarna van terecht kwam.

[Retrospect]

Hun doelgroep is voornamelijk de niet randstadbewoner. Onderscheidene standpunten hebben ze zeker. Doe een oude kieswijzer of lees het programma uit 2021.

[blorf]

De niet-randstadbewoners? Goeie voor al de boeren in de randstad. (Er vanuitgaande dat boeren sowieso de doelgroep zouden moeten zijn, gezien de naam van de partij)
Dit is dus precies wat ik bedoel. Morgen doet vd Plas een opmerking en dan stijgen of dalen ze weer in de peilingen. Daar hangt alles vanaf. Als het baseren op AI nu de trend wordt komt dit in een stroomversnelling. Nog meer controverse, want daar gaat het om, en nog minder resultaat, want iedereen weet al dat we daar niks mee kunnen en gaan doen.

[Reactie gewijzigd door blorf op 22 juli 2024 20:52]

[PomPomPom]

@Retrospect Vorige verkiezingen stemden mensen bij ons in de straat BBB. Mij heeft het verbaasd, het gaat hier om jaren 50 rijtjeshuizen, MBO/HBO ambtenaren en kleine zelfstandigen en ver van het boerenbedrijf. Gezien de winst van BBB was dat op meer plekken zo.
En ik woon in het Westen des lands.

[Retrospect]

Niet alles in het westen is randstad natuurlijk. Maar je, BBB spreekt veel mensen aan. Waarschijnlijk door het falen van de middenpartijen.

[Proliges]

Dat is dan ook meteen het manco van een decocratie. Je kunt de meest grote onzin verkopen die feitelijk onjuist is maar als genoeg mensen je geloven dan wordt je nog beloond voor je kletskoek ook. De meeste mensen zijn gewoon niet intelligent genoeg om een goed afgewogen keuze te maken.

Zolang "Alle buitenlanders eruit en grenzen dicht" zonder enige nuance de ether in flikkeren zetels oplevert ben ik voorstander om het misschien eens op een andere manier te proberen.

[Retrospect]

Doe eens een voorstel.

[Proliges]

Nou bijv gekozen posities waarbij mensen uit een relevant vakgebied de personen kiezen. Of enkel stemmen als je basisdingen begrijpt. Of politici daadwerkelijk uitsluiten van deelname aan de verkiezingen als ze bewezen onzin verkondigen.

Er zijn genoeg manieren te bedenken.

[Retrospect]

Bewezen onzin blijkt achteraf toch wel eens de waarheid te zijn. Welke organisatie of persoon gaat bepalen wat onzin is en wat niet. En hoe voorkom je dat dat als politiek middel wordt gebruikt om politiek tegenstanders buitenspel te zetten?
Een miniserie van Waarheid zit helemaal niemand op te wachten.
Mensen op basis van wat uitsluiten van het democratische verkiezingsproces? Op basis van IQ, of diploma? Of moeten ze eerst een restje doen alvorens ze mogen stemmen. En wie gaat die test samenstellen en hoe voorkom je dat daar geen manipulatie plaatsvind voor politiek gewin?

[Proliges]

Als Thierry Baudet met droge ogen gaat beweren dat de aarde bestuurd wordt door reptielen dan lijkt het me verstandig om zo iemand niet in de kamer te hebben.

Het lijkt mij gewoon logisch dat mensen die niets van een onderwerp afweten zich daar ook niet over uitspreken. Dus laat gewoon mensen die kennis hebben van gezondheidszorg beslissingen nemen over de gezondheidszorg ipv een random figuur in het kabinet die er alleen maar zit omdat ie toevallig populair was. Laat mensen lekker beslissen welke kleur stoeptegel ze in de straat willen hebben en laat de belangrijke beslissingen niet afhangen van een populariteitswedstrijd waarbij de meeste mensen geen benul hebben waar ze nou eigenlijk voor stemmen en wat de gevolgen zijn.

[Retrospect]

Het is aan de kiezer of ze zo’n mafklapper in de Kamer willen. Massa’s mensen stemden op Rutte die bewezen en aantoonbaar herhaaldelijk heeft gelogen en wetten heeft overtreden en ermee weg kwam.

Wat jou logisch lijkt is een opmars naar een klassenmaatschappij, uitsluiting en verdere polarisatie. En zal uiteindelijk tot grote ongeregeldheden leiden. Ondanks je goede intenties.

[eggsforpedro]

Een politieke partij “moet” helemaal niks, toch? Het hele idee van een partij in een democratie is dat er op een gegeven moment een groep mensen is die allemaal min of meer hetzelfde denken en zich willen verenigen met een politiek doel. Dat wij inmiddels in een samenleving leven waarin het overleven/groeien van de partij een doel an sich is geworden, doet daar niks aan af. Een partij zou zich moeten laten leiden door haar idealen, niet het verzamelen van stemmen. Juist dat laatste is verwerpelijk, en dat is volgens mij waar blorf op doelt: AI gebruiken voor stemmen, ten koste van de inhoud. Dan wordt politiek gewoon hetzelfde als wie het meest effectief reclame kan maken (voor zover het dat niet al is).

[Batilan]

Op basis van welke informatie in bovenstaand artikel heb jij je conclusies getrokken? Het enige wat ik op kan maken uit het artikel is dat ze serieus aandacht besteden aan de standpunten van hun partij, en daarbij AI inzetten om ze daarbij te ondersteunen.

Of is je conclusie een weergave van je eigen vooringenomen houding t.a.v. de werking van de politieke partijen?

[Reactie gewijzigd door Batilan op 22 juli 2024 20:52]

[blorf]

Ehm, waarmee ben je het precies niet eens? Dat lijk je niet te kunnen vertellen.

[Batilan]

Ehm, nou daar gaat ie dan:

blorf: "Het wordt een race waarbij partijen hun richting gaan bijstellen om beter te scoren, totdat de boel verzadigd is met onzin".
BBB: "Alle rapporten die we relevant vinden, al onze debatbijdragen verwerken we erin", Wat de BBB doet zal juist leiden tot een meer consistent beleid.

blorf: "Een enkele opmerking voor de camera kan bepalend zijn voor de toekomst van een partij. Populisme... Snel goedkoop scoren met weinig inhoud."
BBB: "Deze specifieke manier van dataverzoeken verwerken, gebeurt in een speciale database waar datapunten als vectors worden opgeslagen en moet ervoor zorgen dat de vragentool nog sneller met antwoorden komt." het lijkt er dus op dat ze de antwoorden (binnen de partij en naar de media) dus willen baseren op hun eigen partijprogramma en het gevoerde beleid.

blorf: "Dat krijg je als je een andere agenda aanneemt als de wind draait...".
BBB: "Via een interne website kunnen programmacommissieleden vervolgens vragen stellen aan 'ChatGPT'." De aanpak om je nieuwe beleid te baseren op wat je in het verleden hebt gezegd en gedaan en de programmacommissieleden de gelegenheid geven om vragen te stellen op basis van het gevoerde beleid staat jouw suggestie behoorlijk in de weg.

blorf: "Morgen doet vd Plas een opmerking en dan stijgen of dalen ze weer in de peilingen. ", ook hier lijkt het dat BBB juist zijn best wil doen om een consistent beleid neer te zetten, mede ook gebaseerd op de mening van de reeds verworven achterban.

Ben overigens geen BBB lid of stemmer, heb alleen het artikel met interesse gelezen en geprobeerd me voor te stellen hoe dat het beleid van een partij zou kunnen beïnvloeden.

Maar ik sta open voor (op basis van de informatie uit het artikel) onderbouwde tegenargumenten. Je hebt een duidelijke mening, en dat mag. Alleen lijkt je mening op geen enkele wijze gevoed te zijn door de informatie uit het artikel. Maar wellicht vind je het artikel niet interessant en haal je meer voldoening uit het bashen van politieke partijen met bepaalde overtuigingen.

EDIT: het gaat er overigens niet over of ik het met je eens ben of niet, het punt is dat je reacties nauwelijks tot geen relatie hebben met de inhoud van het artikel, en op de meeste punten juist in tegenspraak zijn met wat de BBB lijkt na te streven met de inzet van generatieve AI .

[Reactie gewijzigd door Batilan op 22 juli 2024 20:52]

[blorf]

Mooie gish gallop. Maar wat zijn nou de vooringenomen posities? Dat klinkt als minimaal 2... Of is het een probleem dat ik BBB niet serieus genoeg neem naar jouw zin? Raar ook. Je partij-standpunten uit AI halen. Hoe verzin je het? Dan bewijs je eigenlijk gewoon dat de standpunten die je daarvoor had niks voorstellen.

Een "vooringenomen" positie is het idee dat BBB onder valse voorwendselen heeft geprofiteerd van ver rechts Nederland door de omgekeerde vlag als symbool aan te nemen. Dat is waarom ik persoonlijk ze nooit serieus zal nemen.

[Reactie gewijzigd door blorf op 22 juli 2024 20:52]

[gladius1983]

Je snapt het gewoon niet. Ze halen hun standpunten niet uit ai. Ze willen consistente standpunten formuleren dus toetsen ze die doormiddel van ai.

[blorf]

De boel systematisch dichttimmeren tegen kritiek.
Volgens mij is het vooral ideaal dat niemand naar bronnen kan vragen of worden verwezen.

[easydone]

Je snapt het niet of wil het niet snappen, iets wat je vaak ziet bij extremisten (veelal linkse)

[blorf]

Dit domme gepraat is meestel een signaal van het tegenovergestelde. Die houden niet zo van mensen die zelf denken. Jammer dat het niemand iets interesseert wat gehaktballen vinden van de pan.

[Batilan]

Ik zie in je antwoord weer geen enkele relatie tot de wijze waarop de BBB AI gebruikt zoals beschreven in het artikel. Je gebruikt dus inderdaad de comments in deze niet gemodereerde comment sectie om je vooringenomen oordeel over de BBB te ventileren. Dat is je goed recht maar nogal off-topic.

Gezien je stelling "Raar ook. Je partij-standpunten uit AI halen." toon je in ieder geval aan dat je het artikel niet (goed) gelezen hebt.

En inderdaad was 1 voorbeeld al genoeg geweest om al je stellingen te ontkrachten.

Fijne avond nog

[Reactie gewijzigd door Batilan op 22 juli 2024 20:52]

[Batilan]

Relax, een vooringenomen positie kàn soms ook waar zijn hoor
En ieder heeft recht op zijn eigen mening, ik zie in je reactie vooral meningen en stellingen over een partij waarbij je meningen en stellingen geen enkele relatie hebben met de inhoud van het artikel. Ik heb er nu wel genoeg aandacht aan besteed. Ons beider reacties voegen intussen niets meer toe aan de inhoud van het artikel

[Reactie gewijzigd door Batilan op 22 juli 2024 20:52]

[EldraziKlap]

Luister eens, ik heb helemaal niets met de BBB maar de manier waarop je dit gesprek voert voegt op geen enkele wijze toe aan het gesprek. Je haalt er telkens wat nieuws bij. Je riep een beetje in het wilde weg, je werd daarop aangesproken, en vervolgens draai je je in allerlei vreemde bochten om dat te rationaliseren.

Zeg gewoon ik vind de BBB niks en ik AI ook niet. Dan heb je je mening gegeven en kunnen we allemaal verder met onze dag.

[Bulls]

Met one issue partijen kun je nooit een land besturen. Tenzij elke one issue partij 1 zetel krijgt en er samen uit moet komen.

[bilgy_no1]

Democratie kan anders werken en heeft ooit anders gewerkt*. In mijn optiek gaat politiek om Visie. Hoe ziet ons land er idealiter uit? En van daaruit een verkiezingsprogramma: wat geven we de komende jaren prioriteit en hoe willen we dat doen?

Dat moet je eerst als partij bepalen en dan ga je het uitdragen naar de kiezers. De meeste partijen beginnen dit proces met een hoop inspraak vanuit de ledenbasis. Beginnen met commissies en uiteindelijk vaststellen op een Partijcongres.

Helaas gaat het tegenwoordig meer zoals jij zegt. Welke meme scoort goed in de social media? Met welke kamervraag halen we het journaal? Met welk relletje we op de voorpagina? Welk issue kunnen we pushen om ons te profileren?

De nadruk is daarmee ver doorgeschoven naar de politieke tactiek en incidenten ipv de visie op het land.

Burgers zijn te lui geworden en willen snel kunnen kiezen zonder zich echt te verdiepen. Misschien even ergens een stemwijzer invullen, alsof je in de Pricewatch wat specs filtert om een telefoon uit te zoeken.

In die ontwikkeling past het wel om ook het verkiezingsprogramma te laten opstellen door een AI toepassing. Geen bottom-up discussie over Visie en Waarden, maar gewoon een extrapolatie van wat we eerder hebben geroepen. Liefst nog afgemeten naar het aantal retweets en likes.

Nu vind ik zoals het hier wordt beschreven (handige search tool wat het schrijven van een nieuw programma ondersteunt) in principe wel een goede toepassing. Vraag is of dat zo gebeurt en ik denk dat andere partijen het nog wel luier kunnen gaan inzetten. Behalve misschien sommige partijen die alleen maar Google Translate "Russisch -> Nederlands" gebruiken. Dat is nog kwalijker...

*Bijv. de Arbeidersbeweging die in de 20e eeuw rechten heeft verworven als Algemeen Kiesrecht, fatsoenlijke werkomstandigheden, Woningwet (en het zelf opzetten van woningbouwverenigingen), toegang tot zorg en onderwijs, sociale voorzieningen etc.

[Mesmer_]

Ik zit in dit vakgebied en ik denk dat dit alleen maar interessanter wordt. Ik bereid door verschillende politici oa. standpunten voor, debatten, en andere politieke uitingen. Ik put uit databases en uit een shitload aan parate kennis. Wat dus ook een shitload aan tijd kost om bij te houden. Ik volg deze ontwikkeling nauwlettend.

[DropjesLover]

Eigenlijk is dit artikel dus een voorbeeld hoe jouw huidige baan bedreigd (kan) worden door AI. En ook wat je vervolgstap kan zijn, namelijk het controleren van de AI-output

[EldraziKlap]

Wat interessant! Kun je daar wat meer over vertellen? Ik vind dat reuze interessant. Ik wil altijd meer weten over de politiek maar niet elke keer 103942382 paperassen en transcripties van bijv. Pechtold vs. Wilders doorspitten. AI zou me hier enorm bij kunnen helpen, zeker als het in betrouwbare context kan.

[Di General]

Ik interpreteer vooral dat ze door die informatie uit het verleden te raadplegen proberen tegenstrijdigheden te vermijden in het heden, dat op deze manier ook nieuwe leden geen uitspraken doen tegen de partij in? Ik ben een Belg, dus niet helemaal op de hoogte van deze partij.

[n4m3l355]

Apart dat dit niet meer gebeurd vooral met vergeetachtige ministers. Dit is toch een uitstekend hulpje om direct voorgaande reacties op te halen mocht iemand its vreemd zeggen.

Maar ook richting burgers zou het mooi zijn als dit soort models publiekelijk beschikbaar zijn om snel standpunten van diverse kamerleden op te halen voor komende verkiezingen, ze zouden zelfs kunnen weergeven hoevaak iemand zwalkt.

[Di General]

Knap gevonden om dit op deze manier (hoofdzakelijk informatie verwerken) in te zetten bij een beginnende partij, lijkt me?

[MeMoRy]

Hoewel BBB een pas relatief jonge partij is, in het sort-of voortgekomen vanuit het mediabedrijf Agrio. Die zijn veel bekender met het inzetten van dit soort technologie.

[Annihlator]

Hoe controleren/testen ze of hun mitigaties tegen hallucineren effectief zijn?
Zonder een berg handwerk (unieke vraagstukken/stellingen vinden die je ook handmatig napluist) lijkt mij dat vrij onmogelijk.
Bij wetenschappelijke artikelen is het vrij makkelijk na te gaan of de AI raaskalt, de tekst is vrij makkelijk feitelijk te controleren. Maar hoe doe je dat bij een systeem waarvan het meest prominent genoemde voorbeeld betreft het navragen van iemands mening/standpunt?

Of gaat men volledig vertrouwen op "het vermelden van bronnen" als bewijs en heeft liggen slapen bij het voorbeeld van een amerikaanse rechtzaak waar ook de fout werd gemaakt dat een aantal juristen ChatGPT geloofden, omdat die juist een bronvermelding had gemaakt; maar niemand controleerde, tot de rechter zelf dit deed, of die bron zelf ook klopte.
In dit voorbeeld noemde de bot enkele precedent-gevallen met case-nummers en al, maar pas als je de cases poogte na te zoeken kwam je op een dood of totaal niet-kloppend spoor uit.

[EldraziKlap]

Met Ctrl+F ?
Ik snap wel wat je bedoelt met dat academische, empirische dingen makkelijker te controleren zijn maar het is nog steeds geen rocket science.

De kunst is om de temperature laag te zetten van zo'n LLM en met je input duidelijke vragen te stellen als; "Was <politicus> tijdens <debatnaam> op <datum debat> van mening dat <stelling>"

Dat is in ieder geval zoals ik het begrijp.

[Orgel]

Stedelingen die amper een boerderij hebben gezien stemmen op een boerenpartij

[Retrospect]

Klopt. En burgers die amper of geen kapitaal hebben stemmen al jaren neoliberaal.

[Orgel]

Ja inderdaad

[_naief]

Ik ben toch redelijk sceptisch hierover, maar het is wel een hele efficiënte manier om consistentere antwoorden te kunnen geven. Als het niet al te veel gaat hallucineren.

[Amanoo]

Het hallucineren is net de crux. En wat je het ook voert, al gooi je je compleet eigen model erin bestaande uit alleen jouw data, dan nog ligt hallucineren op de loer.

Op zijn allerminst zal het BoerenBedrijfBewind alles wat eruit komt moeten verifiëren. Maar goed, ik gebruik het zelf enorm veel als development tool, en voor mij is dat niet anders. Het is enorm nuttig maar er komt enorm veel onzin ook uit.

[Remc0_]

Je hebt iets genaamd 'temperature' bij LLM's hoe lager je die zet hoe kleiner de kans dat er een 'ander' antwoord uit de voorspellings vector met woorden wordt gekozen. Door deze waarde laag te zetten zou je in theorie meer een samenvatting moeten krijgen en minder hallucineren.

Maar ja de meeste dingen die nu voortkomen uit LLM's zijn gebaseerd op emergence dus het is uiteraard de vraag hoe goed bepaalde instellingen werken voor het beoogde doeleinde.

[SwaggyEggs]

Zinvolle en verantwoorde toepassing. Lijkt me niet heel simpel om op te zetten dus hulde daarvoor! Door nieuwe ontwikkelingen juist in te zetten kan je zo het verschil maken. Zeker als (politieke) start up. Top ook dat ze er zo open over zijn.

[Reactie gewijzigd door SwaggyEggs op 22 juli 2024 20:52]

[Mellow Jack]

Tegenwoordig kan je daar een vrij simpele tutorial voor volgen.

[Accretion]

ChatGPT invloed geven in de politiek is verantwoord?

[Sinester]

anders lees je het artikel eerst

[Zenomyscus]

Voor het genereren van tekst werkt het met de juiste input perfect. Geef de AI een goede rol met informatie en er komt een hoop zinnige tekst uit. Niet alles is perfect, dus nalezen een aanpassen is nodig, maar je hoeft je niet meer blind te staren opzoek naar een startpunt. Ik heb het nu meerdere keren gebruikt en ben sindsdien overtuigd geraakt van de toegevoegde waarde. Vooral als er een tekst uitkomt waarvan ik denk 'ja, dit is precies wat ik in mijn hoofd heb'. Fijn dat de partij er open over is. Leuk dat een nieuwe partij 'nieuwe' technologie inzet.

[Keypunchie]

Verder zeggen Forum voor Democratie, JA21, de Partij voor de Dieren, D66 en de SP allemaal geen kunstmatige intelligentie te gebruiken bij het schrijven van het verkiezingsprogramma.

Sterker nog, sommige partijen gebruikten in het geheel geen intelligentie bij het schrijven van hun programma!

<badoem> </tish>

[Falcon]

.. deze moet gewoon een +3 eigenlijk krijgen!

[Audii]

Gelukkig is het daarom ook einde oefening voor D66.