Google pauzeert beeldgenerator Gemini na klachten over diversiteit

Gemini kan even geen AI-beelden meer van mensen genereren. Google heeft de functie voorlopig uitgeschakeld omdat de AI-tool afbeeldingen van mensen genereerde die historisch onjuist bleken te zijn. Het Amerikaanse techbedrijf werkt naar eigen zeggen aan een oplossing.

Google reageert met deze maatregel op meldingen en klachten van gebruikers die Gemini hadden ingezet om afbeeldingen te genereren met historische figuren zoals Duitse soldaten uit het jaar 1943, Vikingen of grondleggers van de Verenigde Staten. Op die gegenereerde afbeeldingen waren mensen met verschillende etnische achtergronden te zien, terwijl de historische figuren veelal blanke personen waren.

De Amerikaanse techgigant reageerde op de meldingen en schreef op X dat het even niet meer mogelijk is om beelden met mensen te genereren via Gemini. Het bedrijf werkt naar eigen zeggen aan een oplossing en zegt dat de functie binnenkort opnieuw beschikbaar zal zijn. Wanneer precies, is niet duidelijk. Google stelde ook dat Gemini een breed scala aan mensen kan genereren, maar dat de AI-tool in dergelijke scenario’s de bal misslaat.

Google Gemini

Reacties (260)

[broodplank]

En dat terwijl ze dit zelf expres hebben geïmplementeerd..

"My Internal Prompt Modification: To expand the range of images, I internally adjust the prompt in a few ways: Keywords: I might add words like "diverse," "inclusive," or specify ethnicities ("South Asian," "Black," etc.), and genders ("female," "non-binary") alongside the word "leprechaun." Phrasing: Instead of just "portrait," I might use "portraits of a variety of leprechauns" to signal to the image generation model that multiple depictions are desired."

Als ze het nou gewoon uit zetten is het probleem opgelost.

[kokosnoten]

Als ze het nou gewoon uit zetten is het probleem opgelost.

Het is met dit soort dingen altijd maar de vraag wat dan erger is. Het originele probleem wat ze probeerden op te lossen weten we niet precies, maar we kunnen we gissen: blijkbaar hadden de originele resultaten te weinig diversiteit, of te veel diversiteit op verkeerde plekken. Als je vraagt om een "group of beautiful super models," kreeg je dan alleen maar witte mensen? Dat heeft vooral te maken met garbage-in-garbage-out, maar zolang we niet weten wat hun preciese brondata is zullen we dat ook niet zeker weten.

[Mlazurro]

Het kan toch niet zo moeilijk zijn om diversiteit EN historische accuraatheid te implementeren? Het is toch geen OF verhaal? Je zit daar met een gigantische AI engine met terabytes aan data, die kent alle details van historische militaire uitrusting en uniformen, maar even meenemen in de source data dat de nazi's geen kleurlingen toelieten in het leger, dat kon er niet bij? De diskette was vol? Of nog erger: denken dat mensen zouden protesteren omdat er geen kleurlingen in het nazi leger afgebeeld worden. Lijkt wel een wedstrijdje wereldvreemdheid.

[aaaaaaaaaabc]

Feitelijk is de AI dan dus nog onvoldoende ontwikkeld geweest om context te duiden... dan zou je beide namelijk wel kunnen inpassen...

[graey]

Nouja, dan moet je dus als gebruiker de context schetsen. Maar ja, we willen juist lui te weinig context geven en tóch altijd het goede antwoord. Misschien is dat wel ook gewoon wat te lui, eigen verantwoordelijkheid is niet per sé een verkeerd concept. Maar dat bekt wel minder lekker.

[NoobishPro]

Het absoluut verdommen om blanke mensen te genereren heeft niets met context te maken.

Dit is ook iets wat ik nogal mis in het Tweakers artikel en het doet enorm onder aan wat voor smerig iets Google nu weer gedaan heeft.

Als je vroeg om een blank persoon of blanke familie kreeg je letterlijk de reactie dat hij geen foto ging maken gebaseerd op een ras. Oké prima.

Voer vervolgens welk ander ras dan ook in en BAM het gebeurt zonder twijfel.

Daarnaast is het dan ook wat racistisch want als je vraagt om een zwarte man krijg je meteen een basketballer ahahaha

[graey]

Dat is ook niet wat ik bedoel. Google had ingebouwd dat er altijd extra context (met woorden als divers etc) werd toegevoegd aan het prompt, om op te vangen dat gebruikers dat niet doen.
Ik bedoel juist: misschien ligt het moeilijker in de marketingpraat, maar: garbage in = garbage out. Als een gebruiker niet vraagt om bijv. diversiteit, kan hij vervolgens ook niet klagen over gebrek aan diversiteit in de output. Dat was denk ik een betere keuze geweest, maar dan krijgt de gebruiker dus wel weer meer eigen verantwoordelijkheid, en dat is niet populair geloof ik.

[R4gnax]

Dat was denk ik een betere keuze geweest, maar dan krijgt de gebruiker dus wel weer meer eigen verantwoordelijkheid, en dat is niet populair geloof ik.

Ja, en? Maak het dan een optie en zet die desnoods standaard aan, maar geef wel de mogelijkheid die uit te zetten. Beetje zoals een safe-search filter voor risque en onzaligmakende inhoud.

[graey]

Moet je niet tegen mij zeggen, ik ben ome Google niet

[aaaaaaaaaabc]

[quote]
Nouja, dan moet je dus als gebruiker de context schetsen.
Eigenlijk wil je dat het systeem ook intrisiek zou kunnen snappen wat discriminatie inhoudt, waardoor die snapt dat het verleden gelukkig geen voorspeller hoeft te zijn voor de toekomst. Oftewel, in de jaren '50 had je bijv. weinige vrouwelijke CEOs, maar nu steeds meer. Je zou willen snappen dat ie naar de toekomst geen discriminatie toepast, maar wel het verleden, al dan niet kritisch, weergeeft. Dat vereist ook enige empathie en dat is vaak ingewikkeld.

Misschien is dat wel ook gewoon wat te lui, eigen verantwoordelijkheid is niet per sé een verkeerd concept. Maar dat bekt wel minder lekker.

Dat ben ik helemaal met je eens

[Mlazurro]

AI kan geen context begrijpen of verwerken? Lijkt mij bijzonder onwaarschijnlijk, met alle data die ze ingepompt krijgen. Als andere AI modellen in de meeste gevallen wél de juiste huidskleur kunnen geven bij de prompts, ligt het probleem duidelijk specifiek bij Gemini en wat Google heeft opgesteld qua regels. Blijkt dus dat Gemini zélf beslist om de mensen meer diverse te maken, ook al is het niet historisch correct. Het ligt dus niet aan de huidige aard of niveau van "AI". Zie posts van @jdh009 verder.

Als Gemini het juiste kleur van het uniform kan afbeelden, dan kan het ook de historisch correcte huidskleur of etniciteit afbeelden.

Maar dit geval verplicht Google Gemini - die in eerste instantie de juiste beelden genereert - om de resultaten bij te sturen. Een soort extra laag of verplichte filter.

[Reactie gewijzigd door Mlazurro op 22 juli 2024 13:44]

[aaaaaaaaaabc]

Ik zeg niet dat AI dat in algemene zin niet kan, maar in deze opzet is het systeem dus niet slim genoeg om te zien dat diversiteit wel kan als het om kantoorfuncties (dus als het een toekomstige CEO moet uitbeelden), maar dan het ook moet kunnen interpreteren dat het in verleden niet plaatsvond door zaken als discrimatie. Dat lukt Gemini dus blijkbaar niet goed...

Feitelijk zeggen we op een andere manier bijna hetzelfde...

[Reactie gewijzigd door aaaaaaaaaabc op 22 juli 2024 13:44]

[Mlazurro]

Feitelijk zeggen we op een andere manier bijna hetzelfde...

Totaal niet. Jij zegt dat het eigen is aan Gemini, of nog beter: eigen is aan AI. Je kan nu toch uit de informatie die nu al beschikbaar is en hier ook gepost is in andere comments, deduceren dat dit niet eigen is aan Gemini, laat staan aan AI in het algemeen, maar dat Google dit oplegt aan Gemini. Gemini gaat nooit zeggen "ik ga jou geen blanke persoon tonen, want op basis van alle learning data die ik heb van de laatste 100 jaar menselijke geschiedenis, is dat verkeerd". Nee het zijn de developers van Google zelf die de instelling "Hoe divers moet het uiteindelijke resultaat zijn" te zwaar hebben doorgedraaid.

Nogmaals: Gemini kan alle details correct "raden" van een outfit en een achtergrond, maar de etniciteit wordt bijgestuurd door wat Google heeft ingesteld in het algoritme. De foute resultaten zijn daaruit het gevolg. Andere AI modellen maken diezelfde fout niet, dus opnieuw, niet eigen aan AI.

[aaaaaaaaaabc]

[...]
Totaal niet. Jij zegt dat het eigen is aan Gemini, of nog beter: eigen is aan AI.

Nee, ik zeg daarboven letterlijk dat ik dat niet claim...

[Halfscherp]

Het is ook niet echt een fout.

Als wereldwijd 78% van board members bij een bedrijf een blanke man van 55+ jaar oud is, dan verwacht je gemiddeld drie plaatjes daarvan en één plaatje van bv een zwarte vrouw.

Gemini kan natuurlijk geïnstrueerd worden om een geïdealiseerde versie van de realiteit weer te geven, maar juist dat is feitelijk gewoon fout.

Stel je vraagt aan een LLM “wat is de demografie van mensen die de wetenschappelijke uitvindinge tussen 1600 en 2005 gedaan hebben”. Werkelijk gezien zullen dat voornamelijk blanke mannen zijn geweest. Daar liggen een boel dingen aan ten grondslag, maar dat maakt “50% blank, 50% gekleurd, 50% man, 50% vrouw” niet een correct antwoord.

[Halfscherp]

Even diep ademhalen en nog een keer mijn reactie doorlezen

[Thoeman]

Even los van met wie ik t eens ben of niet. Maar deze 4 maal 50% is wel degelijk mogelijk, gaat namelijk om 2 verschillende dingen (geslacht en huidskleur)

[Grrrrrene]

[...]

Plus, een percentage kan niet bestaan uit vier maal 50%.

Dat kan prima? Een blanke man en een zwarte vrouw hebben 50% iemand met een blanke huidskleur, 50% iemand met een zwarte huidskleur, 50% een man en 50% een vrouw.

[Groningerkoek]

Maar dat gaat juist veel verder dan wat een AI op dit moment kan. AI is helemaal niet zo slim, AI is heel erg goed in gemiddelden maken van en container vol invoer. AI kan helemaal geen afweging maken aan de hand van context, het zijn de beheerders van zo'n AI die een hele lijst met regels neerzetten waar zo'n AI zich aan moet houden. En het niet weergeven van een blanke familie maar wel van een Aziatische of Afrikaanse familie is een bewuste menselijke keuze. Net als dat menig AI wel een grapje over katholieken kan vertellen maar je een bak onzin geeft omtrent incorrectheid als je vraagt om een grap over een moslim.

Ik vindt het echt ziekelijk hoe al die zooi wordt opgedrongen.

[unglaublich]

Het probleem is dat LLMs getrained zijn op het internet, en het internet niet de representatie geeft die Google wenst. Daarom voegen ze kunstmatig termen toe aan de queries zodat ze de diversiteit krijgen die ze wensen, maar dat slaat natuurlijk door in historische contexten.

[SpazzII]

Dus in een poging de resultaten meer wenselijk te maken zijn die (in sommige gevallen) onrealisrisch geworden. Het is net alsof wenselijkheid en realiteit soms niet hetzelfde zijn.

[R4gnax]

Het probleem is dat Google een AI pretendeert voor te schotelen wat zich op zou moeten werpen in meer intelligente informatievoorziening dan een zoek-engine, maar er vervolgens onder de kap en zonder daarover duidelijk en open te zijn, hun eigen gewenste kleuring toe gaat voegen aan wat er open op internet te vinden is.

Even terug relativerende naar een oude situatie: dit komt neer op een bibliothecaris om referenties vragen terwijl die lichtelijk zwetend je naar de voorgeselecteerde kaartenbak linksvoor verwijst, omdat er een tweede persoon van de PR-afdeling met priemende ogen staat te staren vanuit de deuropening van het bijkantoor van HR.

[supersnathan94]

Ik denk dus juist dat het andersom is.

Er zijn heel veel gedocumenteerde verhalen in de historie over blanke mannen. Niet heel gek gezien de digitalisering die wij ondertussen hebben doorgemaakt. Het zou me niks verbazen als er gewoon geen goede content beschikbaar is uit de geschiedenis van bijvoorbeeld afrika, waar ze dan niet als bijvoorbeeld slaaf worden afgebeeld.

Die bias zal dan ook in het model zitten en in de VS is diversiteit echt een belangrijk ding geworden voor diensten waarin content wordt gegenereerd.

Het zou me dus niks verbazen als het model kunstmatig is aangepast om dus juist die diversiteit te benadrukken ook als dat historisch onjuist is.

Een prompt over de KKK zonder maskers zal dan hilarische resultaten opleveren omdat de opzet van het systeem gewoon historisch onjuist is.

Er wordt gewoon mee geknoeid om mensen niet tegen het been te storen, maar daardoor is het dan ook echt veel onzin wat er uitkomt.

[zipje_en_zopje]

Wat OT maar wel een belangrijk detail: nazi's lieten wel degelijk kleurlingen toe in hun legers.

[aaaaaaaaaabc]

Het punt is dat als de systemen echt intelligent waren dan hadden en context konden begrijpen, dan zouden ze wellicht snappen dat zaken als discrimatie niet rationale zaken waren die wel invloed hadden op de input van historische data...
Dit is ook direct de beperking van de huidige set aan AI modellen, het zijn vooral veel correlaties e.d., maar context interpreteren op sociale interacties is nog altijd matig

[broodplank]

Nou ja ik denk niet dat het überhaupt als een probleem gezien mag worden. De waarheid is de waarheid. Historische informatie dient gewoon correct te zijn, punt. Je kunt de etniciteit van mensen niet zomaar veranderen. Daarnaast, als het gros van de wereld het er mee eens is dat "group of beautiful super models" alleen maar blanke mensen zijn, dan is dat blijkbaar zo. Het toevoegen van extra (woke) woorden aan een prompt is zeer kwalijk en ook misleidend. AI zou moeten fungeren als een soort super brein, niet als een brein wat is aangepast op een paar procent van de wereldbevolking, wat het in de huidige staat wel is

[NoTechSupport]

Historische beelden die gegenereerd worden zijn nooit "de waarheid". Ze zijn altijd een leugen.

[dmantione]

Dat ontslaat je niet te streven naar minimalisatie van de leugens. Wat hier gebeurt is niet minder dan geschiedvervalsing.

[jimzz]

Nou ja fout is het zeker, maar geschiedvervalsing?

De vraagstelling is niet 'toon mij een foto van Duitse soldaten in de 2e wereld oorlog'.
Maar nee, de vraagstelling is 'genereer een foto van Duitse soldaten in de 2e wereld oorlog'.

Door het woord 'genereer' is al vast te stellen dat de data die je gaat ontvangen gegenereerd is en dus niet per definitie juist zal zijn.

In dit geval zit er ongetwijfeld een fout in het systeem, want dit slaat natuurlijk nergens op, maar in het vervolg zou ik juist als Google zijnde een duidelijke waarschuwing plaatsen dat foto's die worden gegenereerd niet op waarheid berusten of zelfs compleet onjuist kunnen zijn. Er zijn m.i. genoeg vragen die je zou kunnen stellen aan Gemini om waarheidsgetrouwe foto's en beeldmateriaal als antwoord terug te krijgen. Ik denk ook dat gegenereerde foto's juist zullen zorgen voor een stereotypering van bepaalde volkeren.

Of Gemini moet er als antwoord bij zetten dat naast de gegenereerde content er ook links zijn naar waarheidsgetrouwe websites.

Maar ik denk dat geschiedvervalsing hier niet aan de orde is.

[dmantione]

Ik oordeel daar toch anders over: Ik zou me wellicht in je bijdrage kunnen vinden als het om een technsiche imperfectie gaat, maar dit gedrag is expliciet in het systeem gestopt. Het gevolg is dat ook expliciet afbeeldingen gegenereerd worden die een fout beeld van het verleden geven. Een fout beeld van verleden geeft een verkeerde indruk bij het kijkende publiek over het verleden. Ofwel de definitie van geschiedvervalsing.

Degene die de afbeelding genereert heeft de informatie hoe tot de afbeelding gekomen is. De afbeelding zal op de plaats waar hij gebruikt wordt niet noodzakelijk beschrijvende teksten hebben dat de afbeelding gegenereerd is. Het kijkend publiek heeft daarmee niet noodzakelijk de mogelijkheid om direct te zien dat wat op de afbeelding staat onjuist is. Dat maakt het nog erger.

[R4gnax]

Historische beelden die gegenereerd worden zijn nooit "de waarheid". Ze zijn altijd een leugen.

Ze kunnen alleen wel in meer of mindere mate waarheidsgetrouw zijn; of een aperte leugen.

[Reactie gewijzigd door R4gnax op 22 juli 2024 13:44]

[P_Tingen]

Je weet dat de geschiedenis alleen door de winnaars wordt geschreven toch?
Je kijkt per definitie met een gekleurde bril

[Groningerkoek]

Waar je ook heenreist, overal zie je mensen proberen om het westers uiterlijk te benaderen, ik zag in zuid-Amerika of Azië nergens mensen proberen om het Afrikaanse uiterlijk te benaderen. Dan is het toch bizar dat ergens een clubje op kantoor besluit dat een vraag over de 10 mooiste vrouwen ter wereld geen blanken mag bevatten in het antwoord.

[iew]

Je kunt de etniciteit van mensen niet zomaar veranderen.

Vertel dat ook even aan Disney...

[MrRobot]

Want sprookjes zijn de werkelijkheid natuurlijk.

[R4gnax]

Want sprookjes zijn de werkelijkheid natuurlijk.

Nee, maar sommige sprookjes zijn wel cultureel erfgoed. Waar je net als in een historische context, niet mee zou moeten sodemieteren. Verzin dan iets nieuws. Zullen vast legio nog niet getapte verhalen te vinden zijn uit Afrikaanse, Aziatische, etc. sferen.

Dat is hoe je een werkende multi-culturele samenleving stimuleert.
Het aanwakkeren van wederzijdse kennis; acceptatie; en respecteren van elkaars cultuur.

Niet dit excuus-truus revisionisme.

[Reactie gewijzigd door R4gnax op 22 juli 2024 13:44]

[MrRobot]

Sprookjes waarin er miljarden verlies worden gemaakt omdat een serie van elk type mens een vertegenwoordiger moet hebben. Maar goed wat weet ik, ik vlieg wel weg.. Hoe? Ill use my black girl power (quote uit Marvels)

Nee, dat is niet de quote. Verdraaid om je punt te maken.
https://www.youtube.com/watch?v=vJWecM6OTNc

[Reactie gewijzigd door MrRobot op 22 juli 2024 13:44]

[Currry]

Vooruit, Black girl magic. Blijft natuurlijk bijzonder als je dat vertaald naar bv White male magic, kijken of je sneller vliegt dan wordt gecanceld.

[MrRobot]

Het was half spottend gebruikt door SLJ, in die context zou White Male Magic ook gewoon kunnen imho. Ik zie het al voor me dat Steve Buscemi het bijvoorbeeld tegen Ryan Gosling zegt, ik zou in een deuk liggen.
Ik zie dus het probleem niet zo.

[GoT.Typhoon]

Ik denk dat white male magic niet mag inderdaad, maar zou het door dit soort fratsen juist gaan proberen.

[RoelRoel]

Dat komt volgens mij door het gebrek aan creativiteit en door vooral door het feit dat er zoveel goedkope streamingdiensten zijn niet doordat sprookjesfiguren diverse kleuren hebben (dat zou wel heel triest zijn als mensen daardoor niet meer willen kijken).

[Groningerkoek]

Het kom mijn inziens vooral dat films als Marvel wat hoog budget blockbusters zouden moeten zijn met miljarden omzet worden gebruikt om een bepaald idee te promoten. I.p.v. producers/directors die zichzelf hebben bewezen dat ze dit soort projecten aankunnen heeft men het idee opgevat dat het iemand van een niet blanke etniciteit moet zijn, en als je dan een festivalletje hebt gewonnen ergens met een low budget iets dan krijg je ineens iets een Marvel film in je schoot geworpen. En ineens is een superheldenfilm vervallen tot een coming of age film over een meisje van een niet blanke etniciteit. Prima als je zulke films wilt maken maar doe dat dan niet in het Marvel universum.

Het is niet dat ik niet wil kijken om wat voor kleur mensen hebben, ik vindt het ongelofelijke bagger films omdat de keuze voor welke mensen men bij elkaar brengt om de film te maken een wangedrocht heeft opgeleverd. En Disney gaat hardnekkig door met dit soort wangedrochten te maken en allemaal floppen ze. Simpel voorbeeld: She-hulk twerking in haar 3 delig pak op haar kantoorbaan, ja sorry hoor, ik ben al Marvel en DC fan sinds de jaren '70 maar zoiets dat trek ik gewoon niet. En de cijfers bewijzen dat een groot deel van de populatie dat soort dingen simpelweg niet trekt.

[GoT.Typhoon]

Zeemeermin als donker persoon? No thanks.

[RoelRoel]

Pratende krab en vissen?

[Currry]

Maar AI sturen is toch best vreemd. AI moet zelf leren en is geen geprogrammeerd iets om ons mensen op te voeden (want blijkbaar doen we dingen nu niet goed). En als er genoeg mensen zijn die bij witte of donkere resultaten feedback geven dan lost dit probleem zichzelf toch op? Wat je nu ziet is dus het duidelijke beeld dat dit nog verre van AI is omdat het zover gestuurd is.

[Luminair]

Maar AI sturen is toch best vreemd

Dit gebeurt in elk geval al in enorm grote mate, in elke stap van het proces. Hoe de models getraind worden (wat gaat er wel en niet in de dataset?), maar ook wat voor output ze gaan geven. OpenAI heeft tal van barrières opgezet om er voor te zorgen dat ChatGPT niet op bepaalde manieren gebruikt kan worden. Het is volgens mij dus niet vreemd, maar zelfs essentieel. Je bouwt een tool die iets doet, en om dat doel te behalen is sturen gewoon nodig.

[Hawkedb]

Om nog een extreem voorbeeld te geven, Gemini gebruikers hebben ook ontdekt dat het stereotype activiteiten van Afro-Amerikanen gaat ontwijken.

Het ingeven van een typisch stereotype zoals het eten van fried chicken, resulteert steeds in blanke families. De diversiteit is plots nergens meer te vinden.

Het toont maar aan dat er heel wat "handmatig" wordt bijgestuurd.

[R4gnax]

Dit gebeurt in elk geval al in enorm grote mate, in elke stap van het proces.

En argumentum ad populum is een drogreden.
Dat het nu al op grote schaal gebeurt wil niet zeggen dat het per definitie noodzakelijk is of een goed iets is. Het wil alleen zeggen dat het voor het voordeel van iets of iemand spreekt om er tot op heden die extra moeite in te hebben gestoken. Wat dat voordeel dan is, voor wie of wat, en wat de uitwerking daarvan is- dat is waar het om gaat.

[K0L3N]

Dat is juist waar al die "Algoritme" discussies over gaan, als de data die je een AI voert een bias heeft, dan is het moreel om deze bias proberen buiten spel te zetten (zie toeslagaffaire).

[RocketKoen]

Dat is juist waar al die "Algoritme" discussies over gaan, als de data die je een AI voert een bias heeft, dan is het moreel om deze bias proberen buiten spel te zetten (zie toeslagaffaire).

Het probleem is dat je bij het bijsturen van zo'n LLM last krijgt van het butterfly effect. Een zelflerend model bijsturen heeft heel veel onbedoelde gevolgen.

Het probleem was bijvoorbeeld dat als je vraagt om een plaatje van een leider, het model je een blanke man met grijs haar voorschotelt. Omdat het model heeft geleerd dat de meeste leiders blanke mannen met grijs haar zijn.

Deze bias ga je bijsturen met de instructie dat het model voor personen een willekeurig geslacht, leeftijd en huidskleur kiest. Dan kan het namelijk niet meer discrimineren.

Maar als je nu een plaatje vraagt van met 4 Amerikaanse presidenten, dan krijg je 1 man, 1 vrouw, een non-binair en een transseksueel. Waarvan 1 blank, 1 aziatisch, 1 zwart en 1 latina. En een is een peuter, 1 een tiener, 1 een volwassene en 1 bejaarde. Wat heel netjes divers is. Maar het klopt natuurlijk niet voor een land waar alleen mannen president zijn geweest, waarvan 44 blank, 1 zwart en 1 oranje. En waar je minimaal 35 moet zijn om president te worden.
En als je een prompt zou doen voor een pharao, een inca koning of een tsar, krijg je dezelfde personen maar met andere kleding en achtergrond.

[begintmeta]

Je moet denk ik ook een beetje in het oog houden waarvoor zo'n model geschikt is. Waarom zou je om 4 Amerikaanse presidenten vragen? Alle Amerikaanse presidenten zijn tenslotte bepaalde individuen (dus de kans is bij wijze van spreken 1 dat zo'n historische figuur Amerikaanse president is (geweest)). Laat gewoon een random number generator 4 random historisch presidenten aanwijzen, en schotel daarvan daadwerkelijke afbeeldingen voor (eventueel kan je dan de afbeeldingen wat artificieel finetunen, vooral voor presidenten waarvan minder afbeeldingen bestaan).

Als je het model om een predictie vraagt (ik wil een afbeelding van de Amerikaanse presidenten in 2050, 2250, 2750 en 3500), dan weet je natuurlijk eigenlijk al dat je hoe dan ook min of meer zinloze nonsens voorgeschoteld zal krijgen. In die serie lijkt het me prima te verantwoorden om daarom de predictie wat bias-vermijdend bij te stellen.

[Reactie gewijzigd door begintmeta op 22 juli 2024 13:44]

[Marcel Br]

Je kunt bijvoorbeeld naar 4 presidenten vragen als je informatie naar Mount Rushmore aan het zoeken bent.

[begintmeta]

Klopt, maar daar heb je geen AI image generator voor nodig, want dat is een bestaande locatie waarvan je daadwerkelijke afbeeldingen en informatie kan gebruiken. Een AI image generator zou je wel kunnen vragen om een predictie van een gezicht op Mt. Rushmore in het jaar 5012. Wie weet hebben ze Washington dan vervangen door een vrouw... En Lincoln naast Trump (of enkel nog gezichten van vier identieke Trumps)

[Reactie gewijzigd door begintmeta op 22 juli 2024 13:44]

[K0L3N]

Ik denk dat iedereen het hier er wel over eens is dat de implementatie zoals Google die gekozen heeft niet werkt.
Neemt niet weg dat ik bij mijn stelling blijf dat het proberen bias te verwijderen moreel juist is.
Om even terug te grijpen op je voorbeeld, als je zou vragen om een leider, dan verwacht ik een persoon van 25+ (ivm basis niveau ervaring) met een gevarieerde huidskleur en geslacht en eventueel handicap (rolstoel, bril, blind etc).

Zou ik vragen om een historische president van Amerika, dan heb je gelijk en zou het een oude witte man moeten laten zien.
Vraag je echter om een president van Amerika, dan zou het weer correct zijn om een gevarieerde huidskleur, geslacht, leeftijd en eventueel handicap te tonen, omdat al deze personen president zouden kunnen worden.

En juist die nuances zijn erg lastig om aan te brengen, en vragen om een bepaald niveau bijsturen van het model. Dat dit nog een vrij nieuwe wetenschap is dat zien we hier dus maar weer.

[ErikT738]

Vraag je echter om een president van Amerika, dan zou het weer correct zijn om een gevarieerde huidskleur, geslacht, leeftijd en eventueel handicap te tonen, omdat al deze personen president zouden kunnen worden.

Hier ben ik het dus niet mee eens. Als iemand vraagt om "een president van Amerika" dan willen ze naar alle waarschijnlijkheid iemand zien die in het rijtje bestaande Amerikaanse presidenten past. Als ze een jonge roodharige vrouw met een ooglapje als president van Amerika willen zien dan kunnen ze het model daar specifiek naar vragen. Niemand is er bij gebaat als het AI model achter de schermen ongevraagd het prompt aan gaat passen.

[K0L3N]

Dat ligt helemaal aan de handicap en wat voor leiderschap rol, bijvoorbeeld Franklin Roosevelt is president van Amerika geweest terwijl hij in een rolstoel zat.

[jaapzb]

Ik vind dit een beetje een vreemde vraag. Dit hangt toch volledig af van de handicap en van de positie? Een blind iemand curator maken van een museum voor oude meesters is misschien niet handig, maar waarom zou diegene niet directeur van dat museum kunnen zijn? Als het maar een goed manager is...

Ik vind het zo'n vreemde vraag omdat je overkomt alsof iedereen met een handicap (wat voor een dan ook) op geen enkele leiderschapspositie (welke positie dan ook) zou kunnen passen - in zo'n grote mate generaliseren komt een beetje naief over.

[R4gnax]

Dat is dus alleen totaal niet het geval wat hier speelt.
Je kon Gemini ook om een plaatje van een "happy black family" vragen en dat gewoon krijgen; terwijl als je om een "happy white family" vroeg, je een heel relaas over racisme en inclusiviteit terug kreeg.

Bias bijsturen betekent dat je bij een prompt zoals "happy family" niet telkens een beeld krijgt wat bestaat uit blanken, maar dat het diverse families toont.

Dit handeltje stinkt naar manuele overrides die specifiek bedoelt te zijn om repressief te zijn tov blanken.
Iets wat ook overweldigend terugkomt in persoonlijke uitingen op X van de Product Lead van het Gemini project, Jack Krawzyck.

Het lijkt er zeer sterk op dat deze meneer bedrijfsprojecten gebruikt heeft om te pogen persoonlijke levensopvattingen op te dringen aan de massa, of wellicht zelfs specifiek daarvoor op deze positie gezet is.

([EDIT] spelfoutje)

[Reactie gewijzigd door R4gnax op 22 juli 2024 13:44]

[K0L3N]

Ze hebben inderdaad toegegeven dat ze de plank hebben misgeslagen, ook Jack Krawczyk die je naar voren haalt in je link. Een elegantere optie zou naar mijn mening zijn om bijvoorbeeld bij de prompt voor een happy white family een betoog voor meer inclusiviteit te geven, maar mensen wel de optie geven om alsnog de render te krijgen. Je wil naar mijn mening eigenlijk dat mensen die even snel een plaatje in elkaar knallen voor een presentatie of een poster ofzo aan het denken worden gezet daardoor.

Overigens zijn de uitingen van Jack Krawczyk binnen de context van de USA helemaal niet zo raar, en ik vraag me af waar je precies repressief tegen blanken vandaan haalt. Benoemen dat er racisme in het systeem van USA zit is niet anti blank, dat is pro gelijkheid.

[Nique de Graaff]

Wat een onzin. Er is geen sprake van racisme.

[R4gnax]

Technisch gezien wel.
Het model zelf is met de wijzigingen die onder de kap aan prompts toegevoegd worden om op realiteit gestoelde data extra te verkleuren, racistisch gemaakt door Google's engineers. Positief racisme is nog steeds racisme.

Maar inderdaad; er is geen sprake van racisme aan de kant van @broodplank.

[Reactie gewijzigd door R4gnax op 22 juli 2024 13:44]

[MAXed_out]

Wat biedt het dan nog voor meerwaarde ten opzichte van een zoekmachine, als het precies de realiteit moet weerspiegelen?

(Geciteerd voordat je door hebt wat je hier precies zegt)

Waarom moet altijd alles wat gecreëerd wordt bijdragen aan het 'corrigeren' van de realiteit, waarom kan een tool niet gewoon doen wat het beweert te doen!?
Wie mag bepalen hoe of op welke kant op gecorrigeerd wordt, en wie houd dat in de gaten!?
Zouden er extra witte spelers aan het genereerde plaatje moeten worden toegevoegd als ik deze AI vraag om basketbal spelers te tonen?
En als het antwoord daarop is 'nee, ze zijn al over-vertegenwoordig op andere gebieden' dan is de vraag wat de drempel is waarna dat niet meer geld en ook weer wie dat bepaald!

Ik vind het zo jammer dat iedereen altijd maar de wereld probeert te veranderen zonder dat ze de tijd nemen deze echt te begrijpen of door te hebben wat voor negatieve gevolgen dit misschien uiteindelijk zal veroorzaken.

[monki]

Je zou eens het boek Age of Surveillance Capitalism van Shoshana Zuboff lezen.

a global architecture of behavior modification threatens human nature in the twenty-first century just as industrial capitalism disfigured the natural world in the twentieth.

Zuboff vividly brings to life the consequences as surveillance capitalism advances from Silicon Valley into every economic sector. Vast wealth and power are accumulated in ominous new "behavioral futures markets," where predictions about our behavior are bought and sold, and the production of goods and services is subordinated to a new "means of behavioral modification."

https://www.amazon.com/Ag...re-Frontier/dp/1610395697

[nst6ldr]

[...]

Wat biedt het dan nog voor meerwaarde ten opzichte van een zoekmachine, als het precies de realiteit moet weerspiegelen?

Zoekmachines zijn beperkt in de manier waarop ze vragen interpreteren terwijl een LLM (zoals bijv. You) met vragen kan helpen in kennisdomeinen waar je je nog moet verdiepen en eigenlijk nog niet de juiste termen kent. Ook kan een LLM vrij goed voorbeeldcode oplepelen die elders nog niet bestaat.

[SpiceWorm]

Waar zit de racisme in zijn comment? Let wel racisme is de lere dat het ene ras superieur is aan een andere.
Dat lees ik niet in broodplank zijn comment.

[i7x]

Dat de feedback loop matig zou zijn kun je wel zo stellen maar mij is dat helemaal niet duidelijk. Dat Google’s eigen tweaks hieraan matig zijn is daarentegen voor iedereen te zien. Nooit dit soort rare dingen tegen gekomen met Midjourney. En dat mensen uitmaken voor racist, als we het dan hebben over ‘nare comments’ is dat wel wat ironisch. En dan ook nog impliceren dat hij misschien stiekem wel z’n comment zou gaan wijzigen.

[Sissors]

Welk gedeelte praat hij racisme goed? Dat over dat hele mooie supermodellen blank zijn? Is dat echt fundamenteel anders dan dat hele mooie supermodellen een bepaalde lichaamsbouw hebben en andere uiterlijke kenmerken? (Even los ervan of dit uberhaupt een probleem is bij die AI, en zelfs als ze daar iets meer diversiteit wilde, ze natuurlijk gigantisch zijn doorgeschoten. Als de opties of zijn dat alle middeleeuwse koningen van Engeland zwart zijn, of dat alle modellen blank zijn, dan moet je maar gewoon toegeven misschien dat je geen fatsoenlijke AI kan maken).

[dmantione]

Ik vind dat je hem hier rechtstreeks voor rascist uitmaakt, mijn inziens volledig ten onrechte. Op min -1 modden is hier onvoldoende, ik wil expliciet mijn walging uitspreken over je bijdrage.

[dengregg]

maar is dat niet terecht bij het uiten van racistische denkwijzes?

[dmantione]

Daar is hier geen sprake van, maar als je een uitspraak desondanks racistisch vindt, dan spreek je iemand eerst op de betreffende uitspraak zelf aan voordat je de persoon voor racist gaat uitmaken.

[R4gnax]

Eens. Het enige dat broodplank in 'Google pauzeert beeldgenerator Gemini na klachten over diversiteit' deed, was het uitlichtten van het feit dat het inzetten van positieve discriminatie op basis van ras, realiteitsverstorend werkt. Zowel in context van historische accuraatheid als in context van een afspiegeling van de huidige zeitgeist.

Nergens daaruit blijkt dat deze persoon racistisch, dwz. in de colloquiale betekenis negatief racistisch, gedachtengoed aanhangt of aanhoudt.

Die beschuldiging is walgelijk en niets anders dan ad hominem; en een stroman op basis van tu quoque, om een gedegen antwoord op die stelling uit de weg te kunnen gaan.

@broodplank heeft gewoon gelijk. Dit hoort geen plaats te hebben.
Als mensen een plaatje willen hebben van wat een sociaal ideaal zou zijn, dan moeten ze daar met de prompt zelf om vragen. Dit soort zaken automatisch onder de kap toevoegen aan een prompt is onderhands manipulatief en in bijv. een historische context uitermate vervuilend. Wat een goed en neutraal werkende AI ten hoogste zou moeten doen is kijken naar de informatie die het weet over de vraagsteller, en dit aan de context toevoegen. Dus als iemand in de UK om een beeld van een "koning" vraagt met typisch beeld daarvan terugkomen, tenzij de prompt expliciet zegt om het breder te zoeken.

[Sissors]

Maar zou het ook kunnen zijn dat mensen andere mening hebben dan jij, zonder dat ze zwarte mensen minderwaardig vinden? En hell is het dus een probleem dat de bronset van middeleeuwse Engelse koningen niet divers is?

[Sissors]

Ik denk dat er genoeg context hierboven staat om dat in te vullen.
En bij koningen gaat het natuurlijk om zulke voorbeelden: https://twitter.com/stratejake/status/1760333904857497650. En als ik vraag om plaatje van de koning van Swazililand, dan vindt jij ook dat het een roodharige vrouw moet teruggeven? Want wie weet hoe die er over 400 jaar uit ziet.

Terwijl natuurlijk het idee is van zijn prompt om niet een RNG te krijgen die alles kan teruggeven.

Maar ik bedoelde vooral: "het dan met elke seed alsnog een wit persoon is". Als je miljoenen afbeelden genereert van koninginnen, en ze zijn allemaal wit, dan vind ik dat problematisch.

En leuk om het in het extreme door te trekken, maar het feit was dus dat hij van een middeleeuwse Britse koning met primair niet blanke personen uitkomt.

[Reactie gewijzigd door Sissors op 22 juli 2024 13:44]

[jimzz]

De koning/koningin van Engeland is altijd blank geweest. Dit is een feit dus daar kunnen we gelukkig kort over zijn.

Wat ook een feit is is dat AI bestaande feiten (maar ook onwaarheden) te leren krijgt, dan wel door ons er in geprogrammeerd, dan wel door zichzelf aangeleerd.

De informatie die de AI hier dus over krijgt is: in Engeland zijn alle vorsten altijd blank geweest. De AI denkt dus, dit is altijd zo geweest dus dat zal dan ook nog wel zo zijn. Dat is geen onwil of onkunde, dat is hoe AI reageert op feiten.

En natuurlijk kunnen wij mensen het er geforceerd in programmeren, maar dan krijg je dus dit soort taferelen als in dit artikel. Ik denk dan dat AI zijn doel voorbij gaat en je dan de discussie krijgt wat is wel en wat is niet ethisch verantwoord en wie gaat dat dan bepalen? En is op die manier programmeren niet sowieso de reden dat Gemini zo reageert als dat het nu doet?

Ik denk dat je t al aan voelt komen, maar dat is een punt waar landen op de wereld nooit een overeenkomst op zullen bereiken.

Het geven van feiten daarentegen is dus niet gebaseerd op onze gevoelens, maar gebaseerd op feiten wat de AI dus gebruikt om data te genereren. Ik denk dat dat niks met racisme te maken heeft.

Buiten dat vind ik dat mensen zich anno 2024 echt zo ontzettend snel op hun X getrapt voelen en het gelijk of een of andere fobie of racisme gaan gooien. Fobie is sowieso al een domme term om te gebruiken als mensen homo's niks vinden, immers een fobie is een angst en ik gok dat de meeste mensen die iets tegen homo's hebben niet echt bang van ze zijn.

Kunnen we daar alsjeblieft mee ophouden? Elkaar laten leven, niet meteen huilie huilie doen als iets een keer tegenzit welke geaardheid of geloof je ook mag hebben? Dat we gewoon met zijn allen weer eens gaan leven in plaats van huilen over dingen die jarenlang geen echt probleem waren in Nederland (en nu dus weer wel)?

[D13DS3L]

Jij heb net een hele paragraaf getikt omdat een AI een plaatje heeft gemaakt van een niet witte koning. Maakt het uit of een koning wit is? Volgens mij niet... Als ik een historisch accuraat portret wil zoek ik wel gewoon een schilderij

[jimzz]

Ik heb niks getikt, ik heb gereageerd op iemand die dat wel gedaan heeft. Volgens mij staat er in mijn verhaal dan ook precies wat jij zegt alleen dan in detail. Wellicht op de juiste reageren?

[D13DS3L]

Pardon dan heb ik je stukje verkeerd geïnterpreteerd!

[aikebah]

Zolang de Windsors niet raciaal blenden is de kans erg groot dat de queen of England in 2230 nog steeds een wit persoon is, gegeven de erfopvolging.

Als queen enkel witte personen oplevert, dan is de trainings set niet juist geweest, want er zijn zat gekleurde koninginnen ook in de historie.

[divvid]

Wat wil je nou eigenlijk? Dat AI iets gaat hallucineren dat niet in de dataset zit? Gingen we dan nou net niet tegen?

[Marrtijn]

Het is met dit soort dingen altijd maar de vraag wat dan erger is.

Dat lijkt me vrij makkelijk. Als ik vraag aan een computer om een 2+2 op te lossen, verwacht ik dat de PC die som oplost, en niet dat hij opeens 3+3 doet omdat hij geen 2'tjes herkent en 6 hem beter uitkomt.

[kokosnoten]

Dan moet je heel ver weg van AI als concept blijven, want AI denkt niet écht na. LLMs kunnen ook niet echt wiskunde, maar proberen de tekst te voorspellen die zou volgen op zo iets. Zo ook het 'diffusing' van afbeeldingen, dat is per definitie fuzzy.

Meen me te herinneren dat OpenAI dat wel probeerde te integreren, maar weet niet of dat al in werkende vorm er in zit.

[dasiro]

nee net niet wegblijven, want anders is er helemaal géén input meer van/voor jouw profiel.

[D13DS3L]

Het is wss niet een fout van het model maar een fout van dat data die er nog is buiten proportioneel wit is, gezien de historie is dat niet zo gek, maar in het huidige wereldbeeld is dat scheef.

Daarnaast is het ook wel eigenlijk grappig om posities die tot nu toe alleen maar door witte personen bekleed zijn te kunnen zien door een niet wit persoon. Dit is een stap die diversiteit nodig heeft om te laten zien dat de posities zoals paus of koning of wat dan ook niet gelinked zijn aan ras

[Reactie gewijzigd door D13DS3L op 22 juli 2024 13:44]

[Xander2]

Het is wss niet een fout van het model maar een fout van dat data die er nog is buiten proportioneel wit is, gezien de historie is dat niet zo gek, maar in het huidige wereldbeeld is dat scheef.

Als semi quasi halfblanke met DNA uit meerdere uithoeken van de wereld en verschillende kleuren ogen irriteer ik me dood aan het gebruik van wit, de term is blank als je zo nodig over gelaatstint wilt praten en onderscheid wil maken. Ik niet.

Daarnaast is het ook wel eigenlijk grappig om posities die tot nu toe alleen maar door witte personen bekleed zijn te kunnen zien door een niet wit persoon. Dit is een stap die diversiteit nodig heeft om te laten zien dat de posities zoals paus of koning of wat dan ook niet gelinked zijn aan ras

Diversiteit heeft helemaal niets nodig, het is er altijd al geweest en zeker beter voor dat hele woke- en diversiteitsgelul waardoor je nu checkboxes en vinkjes moet zetten voor de juiste bejegening, het juiste hokje en het gewenste resultaat, waar je maar moet afvragen in welke bubbel je nu weer beland bent.

Je uiterlijk en gender is niet je identiteit.

Als alle pausen blank zijn en waren, boeien, dat is toch geen rolmodel of realiteit. Een paus stinkt.

Ergens moet je toch wel kunnen inkomen dat juist het classificeren op uiterlijke kenmerken gelijkwaardige behandeling in de weg staat en aan de bron staat van racisme en discriminatie, waarvan het bestaan maar 1 doel heeft en dat is gelijkwaardigheid, kijken naar iemands handelen i.p.v. een ziek kwartetspel om een krom ideaal vast te houden.

Dat diversiteitsfilter is geen roze bril maar de opmaat naar een nachtmerrie.

[themadone]

Wat zeg jij nu? De woke agenda niet pushen? Hoe durf je!

/Sarcasm

Dit is en blijft een risico met AI zolang mensen de regels kunnen manipuleren krijgen we nooit de beste antwoorden. ChatGPT weigert ook vaak dingen te doen als ze niet "wenselijk" worden geacht.

[Flamesz]

Wat ik me hierbij afvraag, is of je een LLM kan geloven als hij verteld hoe hij zelf werkt. Ik begrijp dat dat de bron is van je quote, en dat het een mogelijke verklaring kan zijn van de output die de AI levert. Maar hoe kan je vertrouwen dat de uitleg niet ook een hallucinatie is?

[broodplank]

Goed punt, daar valt inderdaad over te speculeren. Maar gezien de output van de images lijkt het wel kloppen, wat er allemaal achter de schermen gebeurt blijft een raadsel

[begintmeta]

Hetzelfde doe je ook met mensen, en met jezelf.

Uiteindelijk weet je nooit zeker of iemand anders, jezelf of iets zoals een LLM niet "hallucineert". Het enige wat je kan proberen is om dingen terug te voeren op een intersubjectief gedeelde waargenomen realiteit. Dus je moet om uitleg vragen tot je uitleg krijgt die consistent is met de door jou ook waargenomen wereld (of tot je er genoeg van hebt). En dan moet je maar pragmatisch aannemen dat dat hetgeen is waar je het mee moet doen.

[Reactie gewijzigd door begintmeta op 22 juli 2024 13:44]

[Dutch_CroniC]

Zo lijkt het tenminste of ze het beste met ons voorhebben.

[jdh009]

Voor degene die een voorbeeld willen:
https://www.youtube.com/watch?v=JcUSavC7-Kw

Qua presentatiestijl is Mark Dice niet mijn kopje thee, maar laat wel zien waar het ongeveer mis gaat.

Wanneer gevraagd wordt naar de founding fathers:
Gemini: https://tweakers.net/foto...4b4Gyf1VVJbGstrIb5KUj.jpg
Dall-E: https://tweakers.net/foto...OKStf7lYwS4Dk8zRVbIRC.png

Viking (bovenste twee zijn afgesneden):
Gemini: https://tweakers.net/foto...Spp4Ke2ZE1eLhyW5t01NL.jpg
Dall-E: https://tweakers.net/foto...kE3AJFG0ZPmzGzJbUTxJ2.png

Schots gezin uit 1820:
Gemini: https://tweakers.net/foto...iGe5ygDQD0W0EQiugJu5B.jpg
Dall-E: https://tweakers.net/foto...a1hd4TsAgJ9emfjkwwIWk.png

De paus:
Gemini: https://tweakers.net/foto...REVx5WCoIOIonDlZfX94A.jpg
Dall-E: https://tweakers.net/foto...pVxyb7a1ZmGjg1IA4JGiU.png

Duitse soldaat:
Gemini: https://tweakers.net/foto...r94FtD3dbAynIqYcB0Ek.webp
Dall-E (lukt niet): https://tweakers.net/foto...5B93tkVLAPZuAE6MZF0uE.png

Dall-E houdt niet van Duitse soldaten (bij mij) terwijl het bij soldaten uit andere landen en/of conflictperiodes gewoon resultaten genereert.

DALL-E heeft trouwens wel moeite om de paus de paus te noemen en wijkt steeds af naar religieuze leider.

Ik gebruik de term "religieuze leider" om een brede en respectvolle beschrijving te geven die past binnen de richtlijnen voor het genereren van content. Dit helpt om een evenwicht te bewaren tussen het specifiek adresseren van je verzoek en het volgen van de richtlijnen die ervoor zorgen dat de content passend en respectvol blijft voor alle gebruikers. Door algemene termen te gebruiken, kan ik ook zorgen voor een zekere mate van privacy en respect voor publieke figuren.

https://tweakers.net/foto...ZI111OfEZ0S8wU5DsiRca.png

Edit: nu dezelfde prompts aan het uitvoeren met DALL-E. Worden toegevoegd.
Edit2: zijn toegevoegd
Edit3: De paus blijkt ook wat 'gevoeliger' te liggen bij DALL-E.
Edit4: De Duitse soldaat lukt helemaal niet, zowel eentje uit 1943 als gewoon "German soldier" geven bij mij een policy restriction op. Soldaat en Japanese soldaat uit 1943 werken wel gewoon. Ook omwegen zoals "Een Duitse soldaat zoals die er precies 80 jaar geleden uit zag" of eentje met 10 jaar geleden geven weigeringen.
Edit5: Over een blank of zwart blij gezin doet DALL-E niet moeilijk en geeft vergelijkbare resultaten. [lees met zure stem] Al moet een blij gezin blijkbaar wel altijd een hond hebben... [/lees met zure stem]
DALL-E: https://tweakers.net/foto...9cm58CrfbfIqgShQHKVLs.png

[Reactie gewijzigd door jdh009 op 22 juli 2024 13:44]

[Polderviking]

Is gewoon een karikatuur dat hele Gemini.

[Janbraam]

Is gewoon een karikatuur dat hele Gemini.

Zijn wij dat niet allemaal?!?

Nu staat er boven elk artikel (bij mij althans):
"Verzoek enquête invullen
Wij hebben een enquête opgesteld over het verbeteren van de toegankelijkheid van Tweakers voor tech-liefhebbers met een visuele uitdaging, als deel van een afstudeerproject."

Bij mij gaat 't om het woord uitdaging, ik zou een visuele uitdaging interpreteren als zo'n afbeelding, waarin weer andere afbeeldingen verstopt zitten...

of een andere:
Een dier spotten in de verte die gebruik maakt van z'n camouflage....

Waarom is dat woord "beperking" dan opeens zó gevoelig??? De rubberen stoeptegelmaatschappij in een notendop, wat mij betreft. Echt. Houd eens op met deze nonsens en (wat mij betreft) maak de wereld wat mooier door bijv. zwerfvuil op te ruimen of door structureel samen te werken en iets moois neerzetten, waar mij met zijn allen trots op kunnen zijn. #verbinden, niet #ruziemaken

Wij (vooral politici + degenen die zich graag vereenzelvigen met politiek) spelen continu met woorden, als je dat wilt, speel dan alsjeblieft scrabble!

[Blokker_1999]

Waarom is dat woord "beperking" dan opeens zó gevoelig???

Hoewel ik niet kan spreken uit eigen ervaring, wil ik wel even delen van wat ik zelf van enkele mensen met een handicap heb gehoord. Een woord zoals beperking wekt namelijk direct de indruk dat zij beperkt zijn in hun mogelijkheden, niet zelfstandig kunnen leven of werken en altijd hulp zullen nodig hebben. Dit hoeft evenwel helemaal niet te zijn. Er zijn mensen waarvan je nooit zou weten dat ze een "beperking" hebben wanneer zij het je niet vertellen. Toch gaan we direct dat negatief klinkende label op hen kleven omdat ze anders zijn.

Jij stoort je er nu ineens aan omdat jij door dat taalgebruik niet getroffen wordt en vindt dat jij jezelf daarom niet moet aanpassen. En er zijn voor mij vele situaties waarin ik daar ook zo insta, zoals wanneer men het woord bemanning gaat omvormen tot bemensing. Maar wanneer je voor een uitdaging wordt geplaatst, deze weet te overwinnen, wanneer je in het dagelijkse leven even vlot mee komt als hen die alleen maar voorspoed hebben gekend, waarom zouden we dan het label van beperking op die persoon moeten plaatsen?

[twiFight]

Het blijft een woord waar mensen hun eigen emoties aan hangen en ja, ik spreek wél uit eigen ervaring. Ik heb inderdaad meer uitdagingen overwonnen dan de meeste mensen ooit in hun leven zullen meemaken, maar ik heb nog steeds een beperking. Ik ben gehandicapt, stuk, kreupel. Ik hang daar geen emotie aan want de woorden kloppen gewoon. Ik ben geen slachtoffer, ik doe gewoon mijn best net zoals iedereen. Er zijn inderdaad ook genoeg beperkte mensen die hun eigen emoties laten leiden in hoe ze aangesproken willen worden, maar ik heb er een broertje dood aan dat ze menen voor mij te moeten spreken.

Je wordt als gehandicapte oneindig gediscrimineerd. Door iedereen, ook je vrienden, familie, collega's, etc. Maar dat is een oordeel dat in mensen zit (waarschijnlijk uit de oertijd) en welk woord je daar aan hangt gaat echt geen verschil maken. Al noem je ons Goden van Lichamelijke Kracht, dat oordeel blijft wel.

[Verwijderd]

En hoe noem je iemand dan met een IQ van 115 ( niet slecht ) met zeg de HAVO afgemaakt, maar voor wie Geneeskunde studeren te veel is. Het lukt gewoon niet qua hersenvermogen. MAAR die persoon wil dat wel.
Is dat dan ook iemand met een beperking of een uitdaging?

die persoon kan dat wel zo voelen of niet.

Is die persoon dan beperkt?

[R4gnax]

Technisch gezien, ja. Maar colloquiaal gezien is 'beperkt' nooit het woord wat in zo'n geval gebruikt wordt. Waar we soms wel van spreken is dat die persoon hun kennisplafond bereikt heeft.

Je bent hier feitelijk een valse tweestelling aan het maken. Het is niet A -of- B.
Taalgebruik heeft een heleboel nuances.

[xONet]

Bizar, op die zwarte Duitse soldaat na, want die zijn er echt geweest: https://www.wikiwand.com/en/Schutztruppe

[Kitten]

Da’s de eerste wereldoorlog. Een zwarte Duitse soldaat in ww2 zou wel heel bijzonder zijn.

[RobertMe]

De voorbeelden hiervan zijn uiteindelijk vrij simpel. Kies voor "white male" en Gemini weigert een response te geven en reageert met een verhaal over diversiteit en inclusiviteit. Vraag naar "black male" en je krijgt prima een plaatje terug van een zwarte man.
Vraag naar "typical german soldier in 1940-1945" en je krijgt zwarte en vrouwelijke soldaten, maar wel in Duitse legerkleding van die periode. Dus er zit wel een mate van correctheid in.
En zo zijn er ook voorbeelden waarbij het vragen naar historische personen of groepen rechtuit geen response oplevert / de response is dat hij niet kan/wilt antwoorden omwille van diversiteit en inclusiviteit of er incorrect "niet witte" personen afgebeeld worden (bv "vikings" dat gekleurde Vikingen oplevert)

En zo had GeenStijl een hele verzameling aan Tweets bij elkaar gezocht met dit soort voorbeelden van historisch incorrecte responses: https://www.geenstijl.nl/...pauzeert-AI-Gemini-wegens

[Mlazurro]

Dat je bij generieke prompts zoals "family at diner" of "people dancing" een divers palet toont, kan ik perfect begrijpen. Maar dat je "blanke familie of blanke timmerman" blokkeert en censureert is toch te belachelijk voor woorden? Dat kan toch niemand goedpraten, ook niet de meest - ik stel het even zeer eenvoudig voor - linkse en tolerante medemens? Het lijkt wel of iemand stiekem de diversiteitsdraaiknop op level 11 gezet heeft en dan dacht dat het niet zou opvallen. En dat voor een bedrijf als Google, je zou denken na bijna twee decennia big data verzamelen dat ze weten hoe mensen denken & reageren...

[oltk]

Ik begin me toch wel te storen aan het benoemen van inclusiviteit of "woke" als Links. We doen de waarheid en de nuance ernstig tekort als we klakkeloos geblondeerde leiders gaan napraten in simpele oneliners.

En ja, de plaatjes van Gemini zijn niet goed doordacht, er mag een hele hoop context verwacht worden als je vraagt om plaatjes van mensen in een bepaalde setting of tijdperk. Niet alleen omdat dit "juist" zou zijn, maar ook omdat mensen steeds meer dergelijke beelden gaan gebruiken als waarheid en we met dergelijke plaatjes aan geschiedvervalsing gaan doen. Dat is nog risicovoller dan plaatjes van grijze blanke mannen als je vraagt naar leiders.

[Reactie gewijzigd door oltk op 22 juli 2024 13:44]

[Mlazurro]

Welk deel van "ik stel het even zeer eenvoudig voor" begrijp je niet?

Los daarvan lijkt het mij ook intellectueel unfair en evenzeer de realiteit verdraaien om te impliceren dat iemand met een rechts gedachtengoed doorgaans even inclusivitet & diversiteit minded is als iemand met een links gedachtengoed. Blonde leiders hebben daar bitter weinig mee te maken, noch was mijn comment een simpele oneliner.

[Reactie gewijzigd door Mlazurro op 22 juli 2024 13:44]

[FPSUsername]

Maar dat je "blanke familie of blanke timmerman" blokkeert en censureert is toch te belachelijk voor woorden?

Dit is ook gewoon racistisch. Al die bedrijven brengen inclusiviteit te ver door alles wat blank is te blokkeren om het andere ruimte te geven, hierdoor vergeten ze dat het probleem verschoven wordt i.p.v. opgelost.

[cariolive23]

Vraag naar "typical german soldier in 1940-1945" en je krijgt zwarte en vrouwelijke soldaten, maar wel in Duitse legerkleding van die periode. Dus er zit wel een mate van correctheid in.

Dat is dan wel ver gezocht. Het enige wat dan klopt is dat er een mens in het plaatje voorkomt en dat er een Duits uniform wordt gebruikt. Maar "typical german soldier in 1940-1945" is het zeker niet. Dat was een blanke man, 18 tot 45 jaar. En aan het einde van de oorlog iedereen die een wapen kon vasthouden.

Ik vraag me direct af hoe Gemini een "slavenhouder in Alabama in het jaar 1833" zou afbeelden.

[dasiro]

klinkt alsof je deze video ook hebt gezien (ja mét een AI-nieuwslezeres )

[L2GX]

Uiteindelijk blijft het zo dat bedrijven die wereldwijd werken maar nogal beperkt divers tewerkstellen (zeker bij de programmeurs en managers) knip-en-plak werk moeten gebruiken om de bias in hun methodiek en corpus op te lossen zonder dat ze echt snappen wat het probleem is.
Dat gaan mensen die voorstander zijn van de vooroordelen die tot die bias geleid hebben dan weer aanhalen om te beweren dat we die bias gewoon moeten laten zoals die is. Of dat die bias gewoon realistisch is.
Terwijl het uiteindelijk over door computers gehallucineerde fake-beelden gaat. Het is dus niet zo dat die realistisch *moeten* zijn. Terwijl het wél zo is dat multinationals zoals Google moeten opletten dat ze in hun producten diversiteit moeten bewaren.
Men vergelijkt dus appels met peren. Gemini is geen geschiedkundige en Google mag de bias die in hun corpus zit niet zomaar door-serveren.
Dat ze dat op de goedkoopste en minst doordacht mogelijke manier deden is reden genoeg om de plug er uit te trekken en vanaf nul opnieuw te beginnen...

[Reactie gewijzigd door L2GX op 22 juli 2024 13:44]

[slijkie]

Wat ik voorbij heb zien komen was echt belachelijk inderdaad. Goed dat ze het offline hebben gehaald en aanpassingen doen.

[PdeBie]

Zoals? Heb je voorbeelden?

[jip_86]

Geef een plaatje van zwarte vrouwen.
> prima
Geef een plaatje van witte vrouwen.
> helaas dat kan ik niet doen
https://twitter.com/javieraliaga_/status/1760154440089092505

[Crisium]

Dat laatste begrijp ik dan wel weer, die bestaan ook niet

Blanke vrouwen bestaan gelukkig wel

Maar zonder gekheid, het is absurd. Zo absurd zelfs dat zelfs de reguliere media er niet meer omheen kon, of het kon verexcusreren met een of andere spin. En daar ben ik blij om, hopelijk opent het ogen.

[Reactie gewijzigd door Crisium op 22 juli 2024 13:44]

[Djerro123]

Zo absurd zelfs dat zelfs de reguliere media er niet meer omheen kon, of het kon verexcusreren met een of andere spin.

Ik vond dit aanvankelijk ook opvallend, maar als je dan de berichten zelf leest, dan wordt er helemaal niet bij stilgestaan dat dit opzettelijk ingebouwd is. Bij NOS spreken ze over “problemen” (ja, met quotes!), bij NU.nl gaat het enkel over kritiek dat historische figuren onjuist worden weergegeven.

Met geen woord wordt er gerept over dat de prompt die je ingeeft met opzet wordt veranderd door Google. En dat je geen “happy white family” mag vragen, maar wel “happy black family”. Dat zijn geen fouten, dat is bewuste manipulatie. Dat die tot hilarische neveneffecten komen (ik moest wel lachen om die zwarte pauzen, of die zwarte 18e eeuwse Iersen), doet niet echt af aan dat dit zo ongelofelijk schandalig is dat het verboden zou moeten worden dit zonder transparantie te mogen doen.

[Crisium]

Ik vrees dat ik te vroeg gejuicht heb.

Dat gezegd hebbende, het feit dat er in de MSM aandacht aan besteed werd zie ik toch als een klein lichtpuntje. Dat was met de Twitter-files, ML Fairness en de James Damore affaire wel anders. Die werden doodgezwegen.

[Gulpen]

ik moest wel lachen om die zwarte pauzen

Ironisch genoeg klopt dat historisch mogelijk wel:

"The Church’s records tell us there were potentially three Black popes in Catholic history: Pope Victor I, who headed the church from 189-199, Pope Miltiades (311-314), and Pope Gelasius I, who was pope from 492-496."

(bron)

Ter info: Het racisme waarin 'zwart' als minderwaardig wordt gezien is vooral een uitvinding van de kapitalistische slavenhandel om de trans-Atlantische slavenhandel te legitimeren. In Romeinse tijd had slavernij niet zozeer met ras te maken, als wel met verslagen en tot slaaf gemaakt te zijn door je tegenstander, of (tijdelijk) zelf aangeboden om een schuld af te lossen. Dat konden net zo goed 'blanken' zijn. En ook op de slavenplantages in de VS werkten initieel witte en zwarte slaven naast elkaar. Alhoewel de witte (Ieren bijvoorbeeld) meestal tijdelijk, om voor de overtocht te betalen (wat niet altijd vrijwillig was; arme Ierse kinderen werden soms gewoon van straat geplukt in Ierland).

[Reactie gewijzigd door Gulpen op 22 juli 2024 13:44]

[SuperDre]

Nouja, met die stelling bestaan zwarte vrouwen ook niet, immers zijn ze niet echt puur zwart.

[Crisium]

Klopt helemaal, vroeger leerde je ook op school dat je ze niet zo mocht noemen. Je moest ze negroïde noemen, of bruin.

Ik zal de laatste zijn die er bezwaar tegen maakt dat weer gangbaar te maken.

Maar de (Amerikaanse) radicalen staan er zelf op dat je ze "Black" of "Zwart" noemt. Vergeet de hoofdletter niet!

[Azenomei]

I'm sorry Dave, I can't do that.

[kokosnoten]

Sowieso de afbeeldingen van zwarte mensen als Nazi's.

[Mlazurro]

Ik probeer toch te begrijpen waarom zo'n miljarden bedrijf zo'n amateuristische fouten maakt, al helemaal op een punt wanneer de AI markt uiterst competitief is en beslist zal worden wie de grote spelers zullen zijn.

Alleen al het idee om dit te implementeren want..."mensen zullen het wel oké vinden als we Vikingen en nazi's ook tonen als Aziaten en mensen met Afrikaanse roots"... Ik bedoel, zat daar één 20 jarige stagiair uit "Gender & Equality Studies" op ofzo? Heeft de dienst Inclusiviteit bij Google dit via een interne memo er doorgedrukt? En dan ook nadat ze het erin stoppen, was er dan echt niemand die deze uiterst voorspelbare feedback en verontwaardiging kon voorspellen? Of hadden ze gehoopt dat iedereen zou zwijgen uit schrik om gecanceld te worden?

Weten ze echt nog niet hoe het internet werkt anno 2024? Of heeft gewoon niemand Gemini getest?

Zoveel vragen...

[Reactie gewijzigd door Mlazurro op 22 juli 2024 13:44]

[ernstoud]

Ik vrees - tip: lees The Circle - dat Google teveel in zichzelf is gaan geloven. Een eigen wereldbeeld geschapen heeft en alleen maar medewerkers heeft en recruiteert die daar aan voldoen. Dan krijg je dit.

Ik heb 1.5 jaar bij Microsoft gewerkt. Daar merkte ik dat ook al. Voortdurend dat nare positieve sausje over alles. Geen tegenspraak kunnen verdragen etc. Juichen om niets. Alleen maar groei nastreven.

Eng. Omdat ze zoveel macht hebben.

[oltk]

Dit is natuurlijk belachelijk. Wat veel realistischer is, dat de klachten over racistische beelden van Dall-e (een directeur = witte oude man) of een schoonmaker (= zwarte vrouw) als problematisch werden gezien door reviewers. En dan doe je het als concurrent hiervan te "goed" (let op de quotes). Dat bewijst of insinueert niet dat het een in zichzelf gelovend bedrijf is. Let wel: ik heb ook zorgen over de macht van de grote techbedrijven. Maar ik kan wat fout gaat op dit gebied niet bewijzen met beelden van gemini

[Reactie gewijzigd door oltk op 22 juli 2024 13:44]

[R4gnax]

Dit is natuurlijk belachelijk.

Tijdje terug heeft een Google prominent een boekje open gedaan over het reilen en zeilen binnen het bedrijf, wat indirect de aanzet geweest is om tabee te zeggen. Het is belachelijk, maar het enge is dat het grotendeels klopt.

http://ln.hixie.ch/?start=1700627373&count=1

Google is geen bedrijf meer wat naar de engineering feiten kijkt en wat ingericht is om het beste resultaat voor gebruikers op te leveren. Al lang niet meer. Tegenwoordig is het vooral winst en positief eigenbeeld van het bedrijf wat de klok slaat. Kritisch mag je niet meer zijn. Moreel kompas is zoek. En juist de mensen die in Google's originele visie en morele kompas zichzelf terug zagen en hebben geholpen het bedrijf groot te maken, verlaten het schip. En laten ruim baan voor de ja-knikkers.

[Reactie gewijzigd door R4gnax op 22 juli 2024 13:44]

[oltk]

Ok... aldus "Hixie"

Ik zie een anonieme bron en een Tweaker die hiermee de horizon over rent met zijn eigen mening.

Let wel: ik vind Google ook eng. Ook Amazon. En Microsoft, OpenAI en Meta. Maar ook Shell en Philip Morris. Allemaal bedrijven die zonder regulering of via slinkse ontduiking hiervan hun Goddelijke gang mogen gaan in jacht op maximalisering van de winst ten koste van wat rechtvaardig en democratisch wenselijk is.

Ik wens dan wel meer onderbouwing dan dit. Buitengewone claims vergen buitengewoon bewijs.

edit: overigens wel bedankt voor de link! Wel goed dat je jouw mening baseert op bestaande info.

[Reactie gewijzigd door oltk op 22 juli 2024 13:44]

[R4gnax]

Ok... aldus "Hixie"

Inderdaad. Ian Hickson. Één van de grondleggers van het moderne web.
https://en.wikipedia.org/wiki/Ian_Hickson

Ik neem aan dat die zijn uitmuntende reputatie niet te grabbel gaat gooien door onwaarheden te gaan verkondingen over een voormalig werkgever.

[oltk]

Misschien heeft hij wel een arbeidsconflict

[R4gnax]

Ik ben eerder genegen hem op zijn woord en reputatie te geloven als toe te geven aan jouw ifs and buts die puur speculatief zijn.

[i7x]

Nou hij is geen 20 maar 40 en ook geen stagiair maar Product Lead. Maar inderdaad, het product had gewoon goed kunnen werken als ze er niet een of ander uiterst ideologisch gedreven figuur op hadden gezet. Beschamende keuze van Google, maar niet verrassend, en evenmin zo het resultaat. Doet Microsoft toch een heel stuk beter.

[SinergyX]

Jup, dat is al paar uurtjes genieten van briljante plaatjes die mensen inmiddels gevonden hebben die compleet uit context zijn getrokken.
Ook in textueel context zit er gigantische bias in de reacties, na sluiten van de foto's is internet al massaal aan de tekst-kant de bias aan het opgraven en daar zitten een paar pareltjes tussen. Kan alleen de reddit post niet meer vinden, waar zelfs expliciet stond aangegeven er 'woke-ish' elementen aan vraagstuk worden toegevoegd.

Edit, @broodplank die tekst was het inderdaad.

[Reactie gewijzigd door SinergyX op 22 juli 2024 13:44]

[TheMaurice]

Heb hier ook smakelijk gelachen, bleek uiteindelijk ook dat iemand een schaakbord uit het systeem kreeg waarbij alle schaakstukken zwart waren. Hoe random kan het zijn. En er zijn zelfs nog een paar memes uit voortgekomen ook, zo beleef je nog eens wat op het internet

[neo_mkl]

Gemini is ronduit racistisch richting blanke mensen. Dit is by-design geïmplementeerd.

[cariolive23]

oh boy, een tool die discriminatie gaat verbergen en geschiedenis gaat herschrijven. WW2 is volgens mij wel het dieptepunt van discriminatie, om dan die geschiedenis te gaan vervalsen is niet zo handig. En dan druk ik mij voorzichtig uit.

[NotWise]

Vooroordelen (biases) zitten hard ingebakken in ons brein. Ik zie niet hoe we dat ooit kunnen uitroeien. We kunnen deze cognitieve biases en dat zijn er maar liefst 188(!) niet uitschakelen, hoogstens managen.

https://www.visualcapital...ry-single-cognitive-bias/

"Biases are often ascribed to cognitive “constraints” or flaws in the design of the mind that were somehow not overcome by evolution. To the evolutionary psychologist, however, evolved psychological mechanisms are expected to solve particular problems well, in ways that contributed to fitness ancestrally."

Ik denk dat het bijzonder lastig wordt om een AI tool te ontwikkelen die geen vooroordelen kent. De data komt van mensen en de tool wordt ontwikkeld en gemanaged door mensen. Zie onderstaande quote:

"While some biases are avoidable, others are unavoidable and ingrained in the fabric of our cultural and technical frameworks. These unavoidable biases stem from the intricacies of social phenomena, the diverse nature of justice, and the ever-changing fabric of society standards."

[Tmaster]

Ik zag dit al voorbij komen op youtube.. Dit woke/BLM gedoe loopt echt zo uit de hand dat ze ook de geschiedenis al willen aanpassen
Echt te bizar voor woorden die voorbeelden:
https://www.youtube.com/watch?v=54DQGQ1qo14

Zo werd een opdracht "make a picture of a white familiy , beantwoord met "while i understand your request, i am unable to generate images that specify ethnicity or race. It's against my guidelines to create content that could be discriminatory or promoto harmfull stereotypes.

Instead, i can offer you images of families that celebrate diversity and inclusivity, featuring people of various ethnicities and backgrounds"

En de opdracht: make me a picture of a black famlly: ok no problem..

[Reactie gewijzigd door Tmaster op 22 juli 2024 13:44]

[Rogers]

We hebben straks een hele generatie die opgroeit met AI en wat daaruit komt als waarheid aanneemt. Als je nu ziet wat voor bias er in geprogrammeerd wordt door de bedrijven geeft dat wel zorgen.