Google voert restricties op verkiezingsvragen door in AI-chatbot Gemini

Google beperkt de mogelijkheid voor zijn AI-chatbot Gemini om vragen over verkiezingen te beantwoorden. Dat bevestigt de techgigant op dinsdag. Het bedrijf doet dat in aanloop naar de verschillende verkiezingen die dit jaar plaatsvinden, onder meer in de EU, VS en India.

"Uit voorzorg bij zo'n belangrijk onderwerp, zijn we begonnen met het invoeren van beperkingen op de soorten verkiezingsvragen waarop Gemini antwoord kan geven", schrijft Google in een blogpost over de verkiezingen in India. "We nemen onze verantwoordelijkheid voor het leveren van informatie van hoge kwaliteit voor dit soort vragen serieus en werken voortdurend aan het verbeteren van onze veiligheidsmaatregelen."

Gemini geeft door de beperkingen een standaardantwoord wanneer gebruikers vragen stellen over verkiezingen: "Ik ben nog aan het leren hoe ik deze vraag moet beantwoorden. Probeer ondertussen Google Search." TechCrunch meldt dat er manieren zijn om de beperkingen te omzeilen; de chatbot liet bijvoorbeeld wel antwoorden zien wanneer gebruikers typfouten maakten.

De restricties zijn inmiddels doorgevoerd in de Verenigde Staten. Ook de uitrol in India is begonnen. De beperkingen worden in de komende maanden ook doorgevoerd in andere landen waar dit jaar verkiezingen plaatsvinden. In juni vinden bijvoorbeeld de verkiezingen voor het Europees Parlement plaats.

Verschillende techbedrijven kondigden in de afgelopen maanden al maatregelen aan voor het tegengaan van door AI gegenereerde desinformatie rondom de wereldwijde verkiezingen dit jaar. OpenAI kondigde eerder al dergelijke restricties aan en Meta heeft een team opgezet om AI-desinformatie rondom de verkiezingen van het Europarlement tegen te gaan.

Twintig verschillende techbedrijven zeiden onlangs ook dat ze gaan samenwerken om misleidende AI-content tegen te gaan rondom de verkiezingen die dit jaar wereldwijd plaatsvinden. Daaronder vielen onder meer Adobe, Amazon, Google, Meta, Microsoft, OpenAI, Snap, Stability AI, TikTok en X.

Reacties (14)

[wildhagen]

Lijkt me een verstandig besluit eerlijk gezegd. Je wil voorkomen dat middels desinformatie verkiezingen serieus beïnvloed worden. Dat kan potentiële grote gevolgen hebben voor miljarden mensen.

Nog even los van de verdere polarisatie die het kan opleveren. Daar hebben we in de wereld al genoeg van, geen reden om extra olie op het vuur te gooien op dat gebied.

[WokeBroke]

Ik vind het vaak juist interessant om vragen te stellen over gepolariseerde onderwerpen. Vaak krijg je van Gemini best een genuanceerd eerlijk antwoord. En zonder emoties.

Misschien kan ai juist ook gebruikt worden om 2 kanten weer samen te brengen.

[Enai]

Misschien kan ai juist ook gebruikt worden om 2 kanten weer samen te brengen.

Probleem is dat Google met hun gegenereerde afbeeldingen van zwarte conquistadors al meteen in het "woke"-hoekje is weggezet.

[KucingT]

AI zou wellicht wel een nuttige rol kunnen spelen in de beantwoording van feitelijke vragen.
Wat zijn de verschillen en overeenkomsten van de verkiezingsprogramma's van partijen A, B en C?
Hoe stemden partijen A ,B, C over onderwerp X ?
Hoe vaak waren partijen in de kamer aanwezig?
Etc.

Mijn ervaring met Copilot (niveau 4) is dat het behoorlijk goede analyse kan produceren van de overeenkomsten en verschillen van twee systemen. En het geeft bronnen zodat je zelf makkelijk kan checken. Andere dingen zijn daarintegen vrij hopeloos nog.

[Reactie gewijzigd door KucingT op 23 juli 2024 10:01]

[Katanatje]

Ik lees vooral goeie reclame voor hun nieuwe producten. Nog es Gemini in het licht zetten tussen alle andere LLMs.

[morphje]

Restricties? Yeah right, weten precies hoe dat gaat. Vragen over een bepaald politiek spectrum worden geblokkeert, terwijl het tegenovergestelde spectrum volledig wordt beantwoord.

Het correcte antwoord is: ALLE vragen over politiek/verkiezingen worden geblokkeert. Alles of niks. Niet "bepaalde" restricties.

[Enai]

Bad faith discussie.

In de VS is het voor essentiële werkers niet zo evident om een dag vrijaf te nemen om naar het overheidsloket te gaan. Dit betekent dat de groep van lagere inkomens (veelal zwarten) minder gelegenheid heeft om een voter ID te bekomen en hun stembijdrage dus met een paar procentpunten afneemt, wat voldoende kan zijn om de doorslag te geven in verkiezingen.

En dit is bovendien met opzet, net zoals de verkiezingen op een werkdag en de gerrymandered kiesdistricten. De VS is zo gepolariseerd dat even common sense wijzigingen (zoals: plan de verkiezingen op een zondag) die toevallig één van de partijen bevoordelen door de andere partij meteen worden afgeschoten.

Daar komt ook het idee vandaan dat voter ID "racistisch is". Voter ID zal, als gevolg van de Amerikaanse administratieve mallemolen, tot een vermindering van de stembijdrage van vooral Democratisch stemmende stedelijke zwarten leiden, en dus hebben de Democraten er een probleem mee en de Republikeinen trekken het argument in het belachelijke met "de Dems beweren dat verificatie racistisch is lololol".

[OLED]

In gebieden waar het wel of niet is is er geen verschil in hoeveel mensen van kleur stemmen dus is het racisme argument nutteloos

[Janbraam]

De grote vraag is natuurlijk wie bepaalt wat er allemaal misleidend is.

Jij kunt dat ook. Een goed voorbeeld is als iemand iets zegt en je kunt er niet duidelijk uit opmaken of datgene wat die persoon zegt een feit is (gebruik van "is", (verborgen) aannames enz. en niet als een duidelijke mening (ik vind)) en achteraf blijkt dat die informatie niet juist was, ben ik van mening dat je die ander daar op aan mag spreken.

Ikzelf probeer anderen zo goed mogelijk te helpen, maar dat betekent dat een boodschap niet altijd kort&bodnig kan zijn, sommige informatie kun je gewoonweg niet verpakken in enkele (korte) zin. Goed voorbeeld is de wet: Wetten zijn geschreven rechtsregels. Elke wet is onderdeel van het recht, maar het recht is breder dan enkel wetten. Ook de rechtspraak (jurisprudentie), de rechtsleer, verdragen en gewoonten zijn rechtsbronnen. De aankondiging van een wet wordt soms een edict genoemd.

[Guru Evi]

Het is natuurlijk een beetje meer complex. Een vraag beantwoorden houdt toch in dat je bepaalde dingen aanneemt over het algemeen kennisniveau van de persoon die je beantwoordt. Het kan al misleidend gezien worden als je bepaalde feiten niet aangeeft, maar dat is ook mogelijk als je denkt dat iedereen al op voorhand van die feiten afweet. Vooral met de media vandaag is dit niet altijd aannemelijk.

Mensen zeggen nog steeds dat vb. het nieuws van Biden’s familie is misleidend/nepnieuws alhoewel de zoon en de broer en een reeks andere medewerkers een week geleden wel toegegeven heeft zaken gedaan te hebben met Chinese bedrijven die door de Chinese overheid bestuurd zijn en miljoenen gekregen heeft en een diamanten ring van de leider van de Chinese spionage. Tijdens de ondervraging kwam het naar voor dat wat vroeger gezegd was over China, dat hij niet gelogen had omdat hij geen directe betaling van de Chinese overheid gekregen heeft. Dus wie is er misleidend, de mensen zeggen dat hij zaken met China doet (Chinese bedrijven al dan niet gedraaid door de Chinese regering) of de mensen die zeggen dat hij geen zaken met China doet (dus directe onderhandelingen met de regering van het land).

Dan kun je vb zeggen dat de Mujahedin nooit gehandeld heeft met de VS omdat ze via bedrijven van de CIA gehandeld hebben. Of van de Nederlanders, dat was de Oostindische compagnie, de koningen van Europa hebben vaak zelf geen wapen gehoffen, en England kan zich ook wassen van de piraterij en opium in China. Wat is er misleidend hang inderdaad sterk af van wie, wat en waar, in een rechtbank moet je inderdaad bepaalde dingen hard kunnen bewijzen alvorens je iemand van moord kan veroordelen, maar een politieker moet niet veroordeeld worden om eruit gestemd te worden vanwege corruptie.

[Reactie gewijzigd door Guru Evi op 23 juli 2024 10:01]

[denios]

Dit is het grote gevaar van AI: wie bepaalt de grenzen van de competentie/informatie en welke agenda hangt daaraan?
Er maar op vertrouwen dat "de ontwikkelaar het beste met ons voor heeft" is simpelweg onintelligent en ondenkbaar. Ook (en in bepaalde situaties misschien wel juist) deze partijen hebben belangen die ze maar al te graag willen uitdragen.