Google Search wil met maatregelen seksuele deepfakes minder vindbaar maken

Google Search heeft meerdere maatregelen aangekondigd om het lastiger te maken seksuele deepfakes die zonder toestemming zijn gemaakt te vinden met de zoekdienst. Zo moet het makkelijker worden dergelijke beelden te verwijderen en past Google de ranking aan van sites.

De zoekdienst had al functies waarmee gebruikers seksuele deepfakes die zonder toestemming waren gemaakt of gedeeld konden laten verwijderen, maar Google zegt nu ook te zoeken naar kopieën van die deepfake en die te verwijderen. Het platform wil daarnaast vergelijkbare zoekopdrachten naar die deepfake filteren waardoor er minder seksuele resultaten moeten verschijnen.

Google wil de ranking van de zoekresultaten ook aanpassen om seksuele deepfakes minder snel te laten verschijnen. Wanneer gebruikers zoeken naar seksuele deepfakes van specifieke personen, gaat Google eerst zoekresultaten laten zien die niet seksueel zijn, zoals relevante nieuwsartikelen. Google wil hiermee dat gebruikers lezen over de impact van deepfakes, in plaats van dat ze de deepfakes zelf zien.

Het bedrijf erkent dat het lastig is om te onderscheiden tussen echte seksuele content die met toestemming is gemaakt en wordt verspreid en tussen deepfakes. Het bedrijf noemt het voorbeeld van een acteur die naaktscènes heeft gemaakt voor een film, maar van wie later ook deepfakes zijn gemaakt. Google zegt 'continu verbeteringen' te maken om het verschil tussen de twee te kunnen herkennen en de deepfakes minder snel te laten zien.

Een van de manieren om deepfakes minder snel te tonen, is door sites waarbij deepfakezoekresultaten regelmatig door Google worden verwijderd, minder snel te tonen in Google Search, zegt het bedrijf. Google zegt dat de aangekondigde maatregelen ook gebruikt worden voor andere soorten aan schadelijke content, waardoor Google verwacht dat de maatregelen ook voor deepfakes zullen helpen. Google zegt daarnaast te werken aan andere manieren om deepfakes tegen te gaan op het platform.

Reacties (63)

[TomsDiner]

Tja. Mijn persoonlijke mening is dat de Google search engine me sinds een jaar of 3-4 met steeds minder goede antwoorden opzadelt. Dus als ze iets minder vindbaar willen maken: Dat doen al ze met alles!

[xorpd]

Als een zoekmachine voor jou gaat bepalen wat jij mag vinden, dan is dat op termijn het einde voor die zoekmachine.

[Schway]

Als? Dat doen ze al over zoveel onderwerpen. Niets nieuws en onzin om drama over te maken.

[Tintel]

Okay, maar waarom dan onzin? En welke van onderwerpen weet je dit dan?

Een zoekmachine die verhindert dat bepaalde zaken gevonden worden.... da's toch verstoppen?

[FPSUsername]

Ik merk het ook, alles is veel minder goed te zoeken. Je krijgt ook een halve pagina vol advertenties en ongevraagde antwoorden voordat je überhaupt een resultaat krijgt. Verder zie je juist dat bepaalde websites naar voren getrokken worden (die betalen beter of voeren andere trucjes uit).

Waar google search wel goed in is (en uiteraard ben ik niet verbaasd) is voor winkelen. De reverse image search werkt redelijk goed als het gaat om zoeken van bijv meubels. Zo kun je best veel besparen.

Waar het weer niet goed voor wekt is het vinden van afbeeldingen in grotere resolutie (bijv als je een achtergrond hebt gevonden maar je wilt de 4k versie). Daar is Yandex een stuk beter in.

[_Pussycat_]

DuckDuckGo is ook goed om plaatjes te vinden in originele resolutie en direct te downloaden. Dan hoeft je geen russische site te gebruiken.

[FPSUsername]

Yandex is niet echt Russisch meer, er zijn een aantal artikelen op Tweakers over de verkoop van de Russische tak. Het hoofdkantoor is hier in Nederland.
Maar voor mij boeit het niet zo veel of het nou Russisch is, Chinees of Amerikaans, we weten allemaal dat data verkocht wordt.

[_Pussycat_]

Yup, data wordt verkocht bij de meeste bedrijven. Maar de VS en China beloven niet elke week dat ze atoombommen op ons gaan gooien, dus stuur ik mijn data liever daarheen.

[MrFax]

Het enige wat je hiermee doet is de zooi verder de dark deep web in te sturen en maak je het moeilijker te verwijderen. Dit kat en muis spel zal Google nooit kunnen winnen, zonder dat je de daders pakt.

Ik denk dat Google dit ook wel weet, waardoor het meer lijkt op goodwill farming dan echt de slachtoffers te willen helpen.

[Reactie gewijzigd door MrFax op 31 juli 2024 22:22]

[crazyboy01]

Dark web zal wel meevallen, wordt gewoon meer deep web. Maar denk dat er binnen de kortste keren zoekmachines voor komen die speciaal hierom draaien en alle grote bronnen bundelen. Als die er al niet zijn. Is met normale porno niet bepaald anders, daar heb je dat ook.

[tw_gotcha]

ik weet niet eens wat deep web is ...

[crazyboy01]

Op het dark web worden pagina's bewust van het normale web gehouden en zijn deze alleen via omwegen te benaderen. Het deep web is gewoon onderdeel van het 'normale internet'. Dat gaat alleen om pagina's die niet in zoekmachines worden opgenomen, meestal omdat dat wordt tegengehouden of bijvoorbeeld omdat het achter een login staat. Het is dus data die je moet weten te vinden ipv dat het aan je wordt gepresenteerd, maar je hoeft er geen taferelen voor uit te halen.

Lijkt trouwens op een kleine vergissing en dat deep web ook gewoon werd bedoeld in de reactie hierboven, zie ik nu.

[Spykie]

Waardoor het minder zichtbaar is, wat de bedoeling is. Offline gaat het toch nooit meer en succes met het dweilen met de kraan open qua aanpakken van de daders (wat ook nog eens niet tot Googles taken pakket hoort)

[MrFax]

Zoals ik het in het artikel leest, is dit ook dweilen met de kraan open. Iemand die deepfakes zoekt, die skipt meteen alle resultaten die gaan over hoe slecht het is bla bla bla. Daar zal je heel snel overheen gaan lezen. Daar is het menselijk brein veels te simpel in.

Ik snap het wel vanuit Google, want als iemand het zoekt en kan het *helemaal* niet vinden? Dan is het eerste wat diegene doet naar een andere zoekmachine gaan.

[Reactie gewijzigd door MrFax op 31 juli 2024 21:44]

[The Zep Man]

Zoals ik het in het artikel leest, is dit ook dweilen met de kraan open. Iemand die deepfakes zoekt, die skipt meteen alle resultaten die gaan over hoe slecht het is bla bla bla. Daar zal je heel snel overheen gaan lezen. Daar is het menselijk brein veels te simpel in.

Als iemand expliciet naar deepfakes zoekt dan vindt die ze wel. Als iemand naar legitieme afbeeldingen zoekt dan wordt die minder snel gefopt door deepfakes.

[RogerWilco2]

Precies. Dit gaat vooral over mensen die makkelijk misleid worden. Ik vind het in principe wel een goede actie, als het werkt.

Als je sites als google bruikbaar wilt houden, dan moet je dit soort rommel opruimen/tegenhouden. Google doet dat natuurlijk niet omdat ze zo begaan zijn met de mensen waar het om gaat, maar zich vooral zorgen maken om wat hun adverteerders er over denken. Desondanks kan het netto wel positief zijn.

Nu de andere clubs zoals Facebook nog.

[centr1no]

maar zich vooral zorgen maken om wat hun adverteerders er over denken

Natuurlijk.
Afgezien dan van het feit dat ze een probleem hebben als ze faciliteren in het tonen van en content of zoekresultaten moeten verwijderen of blokkeren van wettelijk strafbare beelden en content.

Precies. Dit gaat vooral over mensen die makkelijk misleid worden.

Het gaat toch echt over mensen die het slachtoffer zijn van ongewenste, potentieel zeer ingrijpende en strafbare handelingen.
Als ze zich 'vooral zorgen maken om wat hun adverteerders er over denken' dan zouden ze simpelweg alles wat ook maar enigszins aanstootgevend gevonden kan worden kunnen blokkeren. Wat ze om overduidelijke redenen niet zullen doen.

[centr1no]

Als iemand naar legitieme afbeeldingen zoekt dan wordt die minder snel gefopt door deepfakes.

We hebben het niet over wetenschappelijk onderzoek o.i.d..
Als iemand naar seksuele beelden zoekt is 'gefopt' worden door deepfakes naar mijn idee niet echt een issue of in ieder geval niet de enige of voornaamste reden dat men er voor wil zorgen dat fakes in het algemeen minder of helemaal niet meer zichtbaar zijn.
Er is geen enkele reden om specifiek naar deepfake dingen te zoeken omdat het issue juist is dat als iemand nu naar seksuele afbeeldingen zoekt, Google ook deep- of andere fakes 'vindt'.

[CH4OS]

Het gaat Google dan ook niet im bestrijding van deepfakes op het web, dat is een juridisch dingetje, het gaat Google erom, om de content te filteren het eigen platform af. Ze geven immers ook aan niet 100% te kunnen filteren, maar verbeteringen erop te doen.

[Tintel]

het gaat Google erom, om de content te filteren het eigen platform af

Eigen platform??? Nee, dat is een handreiking (cq. marketing) naar mensen die inderdaad slachtoffer hiervan zijn geworden. "Kijk eens hoe goed we bezig zijn..... om voor u te bepalen wat goed voor u is"

[CH4OS]

Google kan het toch ook alleen uit het eigen platform weren? Het kan niet voorkomen dat het terecht komt op een website van derden, daar heeft Google immers 0 zeggenschap over.

[Tintel]

Maar 'niet tonen' is toch wat anders dan niet toelaten op eigen platform? Want dat zou netjes zijn. Als je iemand niet binnen wilt laten dan moet je niet de deur open doen en daarna de gordijnen dicht doen....

[CH4OS]

Waar wil je nu precies heen? Ik begrijp het punt dat je wilt maken echt niet. Google wil gewoon minder (ongewenste) deepfakes in de Search resultaten hebben (want 100% eruit filteren gaat niet lukken); dat is immers een van de zaken waar zij wel zeggenschap en controle over hebben... Wat een ander doet moet diegene dan toch lekker zelf weten?

[Reactie gewijzigd door CH4OS op 1 augustus 2024 15:40]

[Tintel]

JIj hebt het over een eigen platform.... wat bedoel je daarmee? De zoekresultaten die worden getoond kun je toch geen platform noemen? Dus ze weren helemaal niets. Want de data is al gewoon aanwezig een of ander platform.

Google wil gewoon minder (ongewenste) deepfakes in de Search resultaten hebben

Dat is toch de kop in het zand steken? Daar wil ik heen. Dat Google het niet kan vinden is toch absoluut onzin? Dan blijft het dus gewoon bestaan alleen denkt een deel van de wereld dat het weg is....
Maar...platformen hebben eigen zoekfuncties en verwijzingen doorsturen werkt ook prima en oh - verrassing - er zijn meer zoekmachines (gelukkig).

[Timmiejj]

Het kat en muis spel van illegale diensten via Google? Als googl

Google heeft toch helemaal niet als doel deepfakes van het internet verwijderen, Google heeft enkel al doel om niet in enige way, shape or form aansprakelijk te zijn voor het bestaan/vindbaarheid van deepfakes op het internet.

Als alle illegale activiteiten via dark web verlopen zal dat voor Google prima zijn, hoeven zij er niet meer mee te dealen.

[dasiro]

ah de good ol' "porn is bad" attitude komt weer handig bovendrijven bij schijnheilig corporate USA, maar ondertussen zullen ze die zoekopdrachten wel aan je profiel linken om ten gelde te maken.

[sdziscool]

Ik ben de eerste in de rij die zal zeuren over allerlei puritan regels "voor de aandeelhouders". Maar hier zie ik wel dat er waarschijnlijk erg veel mensen actief deepfakes maken van bekende mensen en ze dan verspreiden als een "leak". Kan je zelfs doen met iemand uit je directe omgeving om ze zwart te maken of zelfs familie aanzetten tot eerwraak wat hier in nederland wel eens wilt gebeuren.

porno moet altijd wel vrijwillig of duidelijk fictioneel zijn, en als je echt zo graag van je buurvrouw porno wilt maken mag je dat voor jezelf houden.

[dasiro]

je (en de anderen hieronder) negeert compleet het 2e en meest belangrijke gedeelte van de zin: in hun datahoarding en profiling drang zullen ze die zoekopdrachten (zelfs al is er geen of weinig resultaat) nog altijd gebruiken om jouw voorkeur te achterhalen.

[sdziscool]

Dat is het product dat google verkoopt ja? Hun hele bread en butter is achterhalen wat de zoeker wilt en waar deze geinteresseerd in is, dus ook dingen die ze niet preuts zijn slaan ze op, eigenlijk dus het omgekeerde van "porn is bad".

[Tintel]

dus ook dingen die ze niet preuts zijn slaan ze op

en

eigenlijk dus het omgekeerde van "porn is bad".

Nee, dat is nu juist preuts + hypocriet. Net doen of het [porn/bloot/sexualiteit] niet bestaat = bedekken, zorgen dat niemand het ziet = preuts maar er wel goed gebruik van maken = hypocriet.

[Tintel]

iemand uit je directe omgeving om ze zwart te maken...
porno moet altijd wel vrijwillig of duidelijk fictioneel zijn

Mee eens. Maar er zijn vervelend genoeg zoveel meer manieren om iemand in een kwaad daglicht te stellen - gaan ze dat dan ook filteren?
Wat ik ook bedoel: hoe weet Google dat iets een sexuele deepfake is? En is het niet ontzettend dom om Google te gebruiken om dat soort rommel gedoe te zoeken?
Want als Google het kan vinden dan is het blijkbaar bewust ergens gepubliceerd om die ander dwars te zitten of gedeeld om in een behoefte voorzien. In beide gevallen is een zoekmachine filter niet te oplossing.

[Robbierut4]

Normaal zou ik het met je eens zijn, maar het minder toegankelijk maken van deepfakes zal erg gewaardeerd worden door de mensen die erop staan.

Zeker omdat het gros van de deepfakes zonder toestemming wordt gemaakt.

[Tintel]

Jazeker, mIts dat kan worden vastgesteld en hoe werkt dat dan? Hoe herkent Google een deepfake? Doordat de meta-data dat bevat en/of de beschrijving?
En alleen sexuele deepfakes? Of alle deepfakes? Of gewoon alles wat door een AI in elkaar is gedraaid waarbij bestaande gezichten zijn gebruikt?

Niet gevonden worden op een zoek-machine die steeds minder relevant begint te worden doordat ze vooral reclames pushen en filteren.....tja.....

[poktor]

Yep, precies dit.
Uiteindelijk gaat het altijd om geld, nietwaar?

[Reactie gewijzigd door poktor op 1 augustus 2024 02:23]

[RogerWilco2]

In mijn ervaring filtert Google (bijna) niks op het gebied van porno...

Google doet dit natuurlijk vooral omdat ze hun adverteerders te vriend willen houden, niet omdat ze de mensen willen beschermen waarvan deepfakes gemaakt worden, of de grote meute die daar veel te makkelijk in gelooft.

Maar als het resultaat is dat minder mensen in allerlei onzin geloven dan denk ik dat het een goede actie is.

[dasiro]

by default staat safesearch aan en is alles weggefilterd

[Dutch_CroniC]

Kan Google daar niet gewoon AI voor inschakelen? Die moet toch makkelijk kunnen zien wat wel of niet nep is?

En waarom ziet hun scanner zelf ook niet? Waar wordt opgechecked dan?

Ik snap niet zo goed dat ze qua sex/porno niet gewoon kunnen blokken. Ze kunnen blijkbaar voor dat je results krijgt bepalen wat wel/niet gewenst is.

Wat is er zo lastig aan om Google xxx vrij te maken?

Als iemand een goede uitleg heeft, hoor ik dat graag.

[Zoijar]

Wat is er zo lastig aan om Google xxx vrij te maken?

Als iemand een goede uitleg heeft, hoor ik dat graag.

Zoals altijd en ook hier: geld. Ik heb geloof ik wel eens gelezen dat xxx een van, zo niet de, meeste gebruikte zoekopdrachten zijn. Dat maakt het ook altijd een beetje hypocriet in mijn ogen, in de trant van, de vs, grootse porno producent, grootste consument, meest gezocht, celebs in de playboy met topverkopen die iedereen wil zien, een bizar percentage van jonge meisjes op only fans, en nu is het ineens weer preuts en vies.

[Reactie gewijzigd door Zoijar op 31 juli 2024 23:09]

[Dutch_CroniC]

Des te beter het te filteren toch?
Kijken ze echt alleen naar domein naam en de rest wordt niet gescanned?

[ultimasnake]

Dan is het eerste wat van Google kan Instagram en Facebook 😂

[Dutch_CroniC]

Ja beter wel, maar daar kom je alleen vanaf als overal de stroom uitvalt.

[CH4OS]

Voor een afweging of een video of afbeelding een ongewenste deepfake is, heb ik het domein zeker niet als hoofdcriterium. Op een website kan best ook daadwerkelijke adult content staan mét consent van degenen in de content.

[Dutch_CroniC]

Maar dan is geen reden om het als zoek resultaat te gebruiken/tonen toch?

Er zijn zoveel zoekmachines, waarom kan er niet één zich ontdoen van explicite content in zijn geheel?

[Zynth]

Google gaat dus wederom nog slechter vindbaar maken waar je op hebt gezocht.
De ene keer om een betere reden dan de andere, maar uiteindelijk gewoon wat er feitelijk gebeurt.

[Dutch_CroniC]

Als je bewust naar xxx ai (celeb) content zoekt mag dat best.

Maar eens, Google toont al jaren niet meer wat je zoekt.

Ben destijds over gestapt op brave search, maar die laat sinds enige tijd alleen jaren oude results zien, zelfs als ik letter 2024 erachter zet.

Allemaal items van '10-'20

Enkele recentere van nu en de afgelopen 2 - 3 jaar.

Duidelijk dat er ergens iets mis gaat.

[swhnld]

Het klinkt positief, maar het voelt toch verkeerd in de omschrijving.
Deepfakes van iemand die zonder mijn toestemming iets met mijn hoofd doet is namelijk iets anders wanneer ik het zelf doe met mijn hoofd.
Dan kun je ook nog eens AI impact krijgen.
En de discussie wat is kunst.

Mijn mening, gerapporteerde zooi filteren, en zeker websites die zich specialiseren in de verspreiding daarvan, is goed. Maar alles filteren op voorbaat, vind ik een stap te ver gaan.

[Dwarlorf]

Als ze dat nou ook eens zouden doen voor AI gegenereerde afbeeldingen.

[YellowCube]

Ik ben vast te kort door de bocht, maar moet Google mensen er niet gewoon op wijzen dat je een beetje triest bent als je hier op zoekt?

[cariolive23]

Waarom zou Google een mening moeten presenteren? En als het dan zou moeten, waarom dan alleen een mening over naaktbeelden? Wat dacht je van politiek?

Google is een zoekmachine en daarvan verwacht ik dat deze snel kan vinden wat ik zoek. Ongeacht wat dat is. (mits legaal)

[darknessblade]

IDD, een zoekmachine zou gewoon het resultaat moeten geven waarop je zoekt, niet wat het algorithms denkt dat je wilt of de grootste investeerder in google wil dat jij als gebruiker ziet.

[SuBBaSS]

Nou tem die verwachtingen dan maar.
De laatste tijd zijn er wel wat dingen boven water gekomen die er twijfel over kunnen zaaien.

Eerst al die hele 'oopsie' met hun AI die blijkbaar politiek gekleurd was.
En dan nu met bijv. het onderdrukken van zoekresultaten over de aanslag op Trump (en dit aub. even los zien van wat we van de man vinden).
Dit is hier even een specifiek voorbeeld, maar geeft niet echt vertrouwen wb. andere zaken.

Punt is dat je niet weet hoe het tot stand komt maar dat 100% vertrouwen niet realistisch is.
Google heeft grote macht en gebruikt die.

[cariolive23]

Wat zouden ze dan moeten onderdrukken bij het zoeken naar die aanslag op Trump? Ik heb niet de indruk dat het moeilijk is hier iets over te vinden.

[SuBBaSS]

Nou ja, dat kunnen ze al door het bijv. niet bij de search suggestions mee te nemen (je weet wel: dat wat automatisch voor je aan-/ ingevuld wordt als je begint met typen in de zoekbalk).

En al lijkt dat iets kleins; google heeft daar wel de macht over.

[cariolive23]

Maar doen ze dat ook?

Niet op mijn computer, of ik nou naar Trump zoek of een recept voor de spaghetti, Google werkt hetzelfde

[Schway]

mits legaal.
Mensen hebben geen toestemming gegeven dit te verspreiden.

[cariolive23]

Dat sluit toch aan bij de doelstelling van Google om deze deepfakes te blokkeren?

En daar is geen belerend vingertje voor nodig

[nzall]

Zoals Google het zelf aangeeft (en ook vermeld staat in het artikel): veel celebrities hebben naaktfoto's online staan die met toestemming gemaakt en gedeeld zijn. Denk maar aan naaktbeelden uit films en TV series. Over het algemeen zijn dat soort beelden minder problematisch om opgezocht te worden.

[Tintel]

moet Google mensen er niet gewoon op wijzen dat je een beetje triest bent als je hier op zoekt?

Nee, want het moreel kompas van Google is ook niet goed en zeker niet hetzelfde als dat van iedereen. Ondanks dat sommige dingen door mij als onbehoorlijk, vies, walgelijk, eng, ongewenst, enz wordt gezien, snap ik ook dat dit niet voor iedereen geldt. En zelf al heb je het over illegaal en legaal is het nog moeilijk omdat er met toestemming en waarschuwing vooraf, ontzettend veel wel legaal is wat onder de noemer 'ongewenst' bij anderen staat.
Maar goed, de oplossing is vrij simpel - Google niet gebruiken.... dat kan betekenen dat je iets niet zal vinden maar dat blijkt toch het doel van Google te zijn....

[Dutch_CroniC]

Mja, vaak veel woorden, geen daden.