Google Foto's krijgt mogelijk functie om AI-gebruik in foto's aan te geven

Google Foto's lijkt een functie te krijgen om weer te geven of voor een foto AI is gebruikt. In de code van een nieuwe versie staan verwijzingen naar diverse manieren om te laten weten of de foto door AI is gemaakt of aangepast.

De strings die daarnaar verwijzen staan in versie 7.3 van Google Foto's, meldt Android Authority. De site analyseert nieuwe versies van apps op zoek naar wijzigingen die kunnen wijzen op toekomstige functies. De IPTC-metadatavelden kunnen naast de reguliere credits van een foto ook AI-info gaan tonen.

Als een eigen dienst van Google, zoals Gemini of Google Foto's, de foto heeft gemaakt of aangepast, dan kan de app dat vermoedelijk zien in het bestand. Hoe dat gaat met bestanden die van andere bronnen komen, is onduidelijk. Vermoedelijk moet dat ergens in het bestand staan voordat de software kan claimen dat AI een rol speelde bij de totstandkoming van de foto.

Google Foto's heeft veel AI-functies ingebouwd, bijvoorbeeld om objecten te verwijderen uit een foto, objecten te verplaatsen of in te voegen of de achtergrond van een foto te wijzigen. De app laat relatief weinig toe op gezichten van mensen.

Reacties (50)

[adje123]

Ik zag vandaag een filmpje op Linkedin over een giraffe die op een cliff vast stond en gered moest worden. Met een kraan en heel veel mensen werd het klusje geklaard, maar, 90% van de mensen die reageerden vroeg zich af hoe de giraffe daar terecht is gekomen.
AI wordt op deze manier veel te gevaarlijk.

[Sebben]

Ik zag hem ook vandaag voorbij komen. Dit is het begin en ik denk dat mensen onderschatten hoe dicht we bij serieuze problemen zijn.

Straks weten we van geen enkel beeld meer of het echt is. Fake news van echt nieuws onderscheiden wordt een uitdaging. Audio gaat ook mee, je hebt dadelijk geen idee meer of het echt je moeder is aan de andere kant van de telefoon of een AI. Met beeld kan je het dus ook niet bevestigen. Met AI agents kunnen scam aanvallen massaal, zonder personeel 24/7 ingezet worden. Ik vraag me af of dat tegen te houden valt.

[Cloxxki]

Oh nee, moeten mensen dan gaan leren voor zichzelf te denken? Dat is er namelijk een beetje uitgegaan de laatste tijd...

Ik kan niet wachten op bruikbare AI film tools. Ik heb een stel films te maken naar ge-wel-di-ge boeken (Beyond the Himalayas is de eerste) waar misschien niet heel veel mensen op zitten te wachten tot het gemaakt is en goed blijkt. Het boek wordt amper gedrukt hoewel het rechtenvrij is. Als je een kopie vindt is het een 50 euro paperback meestal. En die worden uiteindelijk steeds verkocht.
Er zijn films die gemaakt moeten worden, ook educationeel. De mens blijft essentieel voor de promts en kwaliteitscontrole (negeer even dat Hollywood die laatste al jaren geleden afgeschaft heeft), maar een hoop van de productiekosten (transport, locaties, onderdak, catering figuranten, visagisten, dieren) vallen weg.
Als ik die films op de traditionele manier zou maken voor moderne bios kwaliteit, kost het waarschijnlijk meer dan Godzilla Minus One (15 miljoen dollar). Lastige locaties, veel acteurs, dieren, veel CGI, lastige cinematografie.
Met oude technieken is een goedkoop kladje gewoon bijna niet te doen, je moet nog steeds de bergen in of echt terug naar Sound of Music en slechter. De kwaliteit leidt dan teveel af. Tibet filmen in Canada om kosten te besparen. Shogun deed dat ook (in Japan kun je geen shot oud laten lijken, is volgebouwd), kwam er amper mee weg. Aanrader overigens. Kostte wel een kwart miljard voor 10 afleveringen.

Tot we makkelijk/goedkoop met AI kunnen maken wat we willen ipv een randsituatie die toevallig goed werkt, zijn er stylistische tussenvormen te bedenken die meer als animatie of grafische roman zijn en toch de sfeer goed raken. Misschien kan dat mijn stap 1 worden, maar liefst meteen dit verhaal de wereld in brengen met iets dat men in een bios zou willen gaan meemaken.

[Pannekoek17]

Het is wel erg makkelijk en naïef om reëele angsten voor zeer gevaarlijke situaties weg te wuiven met "ja maar we kunnen nu wel goedkoper entertainment maken".

Er zitten voordelen aan AI maar wegen die op tegen de nadelen? Je kan stellen er moeten regels komen, of mensen moeten maar weer kritisch leren denken, maar als AI op deze route doorgaat wordt het veel te krachtig voor ons mensen om daar weerstand aan te bieden ben ik bang.

[NoTechSupport]

Er zijn zeker verontrustende tendensen. We zullen strikte wetgeving moeten maken over waarvoor AI ontwikkeld en toegepast mag worden. Maar tegelijk zullen AI-modellen in de handen van mensen met slechte bedoelingen terecht komen. Dus we zullen kritisch moeten zijn als mensen ons contacteren, veiliger communiceren zodat we zekerder zijn dat de persoon waarmee je denkt te praten ook effectief de persoon is waarmee je praat. Echt nieuws gaat vaak af op vele lokale bronnen. Nieuws via niet-erkende bronnen zoals WhatsApp zal misschien wettelijk beperkt moeten worden.

[Sebben]

We hadden het over zorgen over AI. Afgezien van je eerste zin, heb je het over iets heel anders. Ik zat in een team dat zelf een image generation service had gemaakt. Mij hoef je niet uit te leggen dat er leuke dingen mee te doen zijn.

Maar het gaat wel iets verder dan 'we moeten voor onszelf nadenken'. De maatschappij is niet klaar voor wat er gaat komen en het maakt dan echt geen zak uit hoeveel ge-wel-di-ge boeken je gelezen hebt. Letterlijk elke vorm van communicatie is straks niet meer te vertrouwen. Dat gaan we pas accepteren zodra het ernstig fout is gegaan. En wat daarna? enkel nog face to face communiceren met de mensen in je directe omgeving?

Om nog even jouw topic te bespreken; leuk dat je filmpjes kan maken hoor. Dat bedoel ik nieteens sarcastisch, maar het gaat wel wat verder dan dat. Als iedereen zijn eigen films kan maken, blijft iedereen nog meer in zijn eigen bubbel. Mensen die wel open staan voor andere input, zijn dus ook veel makkelijker te manipuleren. De voordelen zullen even leuk zijn, maar het wordt snel bagger. Zie bijvoorbeeld alle social media.

[majic]

Uiteindelijk is het skeptisch zijn over beeld/video materiaal niet slecht. Want mensen geloofden vroeger letterlijk alles, iets waar scammers en propagandisten (staatspropaganda enz) veel baat bij hadden. Als alles nu in twijfel wordt gezet is dat eigenlijk best positief.

[Sebben]

Positief? Mensen zijn nu al amper in staat om echt van nep te onderscheiden. Dat vermogen om skeptisch te zijn is weinig mensen gegund. Zelfs nu het duidelijk te zien is.

Daarnaast, ik heb het niet over een Reddit post ofzo he.. Als een AI jou videobelt, met het telefoonnummer van je moeder (gespoofd), met exact haar stem, terwijl je haar live ziet op je telefoon ziet met een hoofdwond en vraagt of je alsjeblieft kan komen, hang je dan op? Of spring je dan in de auto? Onderhand kan in 5 minuten je huis geplunderd worden. De mens wordt heel makkelijk 'hackbaar'.

Je kan het gewoon niet meer van echt onderscheiden straks, ook jij niet met je skeptische bril. En dit is nog een relatief onschuldig voorbeeld. Zaken als cruciale infrastructuur, een wapendepot of kernraketten, worden ook allemaal bewaakt door mensen. Die zijn gewoon te hacken. Daar valt niet tegenop te trainen.

[Sinester]

Ik zag hem ook vandaag voorbij komen. Dit is het begin en ik denk dat mensen onderschatten hoe dicht we bij serieuze problemen zijn.

Ik heb hem ook gezien, en voor mij is het echt overduidelijk gemaakt met AI (echt zwaar overduidelijk als je op de mensen let)

Ik denk als je zelf wel eens AI images creeerd je heel snel door hebt wat AI is en niet, maar ik kan me wel voorstellen dat als je daar niet vaak mee in aanraking komt dat je er wellicht in kan trappen

[Sebben]

Ik denk als je zelf wel eens AI images creeerd je heel snel door hebt wat AI is en niet

Ik denk dat als je er op vertrouwt dat je het altijd kunt zien, dat je niet de nieuwste methodes geprobeerd hebt om images te genereren. Zelfs als je wel op een of andere manier nu een goede Flux output kunt herkennen (wat ik sterk betwijfel), over een halfjaar kan je het wel vergeten.

[Sinester]

Dat is goed mogelijk, maar het filmpje over die Giraffe is gewoon overduidelijk AI (voor mij)

Daar zie je gewoon zoveel kenmerken van AI gegenereerde dingen in, en ik vermoed dat je die dingen sneller herkend als je daar veel mee bezig bent

[Sebben]

Ik weet niet zo goed waar je op doelt. Wil je een compliment?
De discussie waar je deel aan neemt, gaat niet om jouw of mijn vaardigheid in het herkennen ervan. De giraffe video illustreert het feit dat erg veel andere mensen het verschil tussen werkelijkheid en ai nu al niet kunnen zien. Dat is op zich al een probleem, maar in de nabije toekomst zien de mensen met getrained oog het ook niet meer. De gevolgen daarvan laten zich nog raden.

Ik ben hier het afgelopen jaar erg veel mee bezig geweest, een goede Flux render is echt héél moeilijk van een echte foto te onderscheiden. Als ik dan zie hoe zelfbenoemde experts een foto op echtheid proberen te beoordelen op Reddit, dan is het echt lachwekkend en bedroevend tegelijk.

[Sinester]

Ik weet niet zo goed waar je op doelt. Wil je een compliment?

Echt? gaan we zo doen..

De discussie waar je deel aan neemt, gaat niet om jouw of mijn vaardigheid in het herkennen ervan

Ik reageer op een post die het over het filmpje van de Giraffe heeft, Dat jij er opeens tussen komt kan ik weinig aan doen, ik was niet eens in discussie met jouw, sterker nog ik was met niemand in discussie.. ik vertelde alleen me mening over wat @adje123 poste

Dus ja, leuk verhaal maar mensen zoals jouw heb ik weinig zin in om mee te discusseren

[Reactie gewijzigd door Sinester op 11 oktober 2024 09:07]

[Sebben]

Je herhaalt dat je het kon zien. Dat het voor jou zo overduidelijk was. Het ligt dan ongetwijfeld aan mijn gebrek aan interpretatievermogen, maar als je zoiets voor een 2e keer zegt na mijn eerste reactie daarop, ben je voor mijn gevoel opzoek naar iets anders dan wat ik je bied. Omdat je vanaf het begin al op een soort side-track zit van wat ik probeer te zeggen, weet ik niet waar je naartoe wilt, vandaar dat ik vraag of je erkenning zoekt voor je vaardigheid. Jammer dat je je zo makkelijk laat beledigen, want ik hoor graag wat je insteek was.

Ik reageer op een post die het over het filmpje van de Giraffe heeft, Dat jij er opeens tussen komt kan ik weinig aan doen

Dit is niet waar, jouw eerste comment was in reactie op de mijne. Aan mij gericht, waarbij je letterlijk mijn punt quote. Ik kom er dus niet "opeens tussen". Jij begint een gesprek, ik neem je reactie serieus en reageer daar op.

[tw_gotcha]

heb je een link, ik ben wel nieuwsgierig!

[adje123]

Was dit filmpje.

https://youtube.com/shorts/CMoHK8rm_Uk?si=lLL0u1OD1pOSkm-F

[Xypod13]

90% van de mensen dacht dat het echt was.. pff daar voel ik me wel een beetje verbaasd over. Mensen kijken echt niet naar details

[The Realone]

Nou zijn er hier nog aardig wat dingetjes waaraan je kunt zien dat er iets niet klopt, maar een groot deel is ook toe te schrijven aan het feit dat je dit al weet voordat je het filmpje kijkt.
Maar waar je "vroeger" alleen nog maar naar randjes om objecten hoefde te kijken om een green screen te zien, later moest focussen op schaduw en belichting, wordt dat toch steeds lastiger.
Ditzelfde filmpje over een jaar of 2 en je moet van goede huize komen om het nog te zien. En dat is wel degelijk gevaarlijk.

[TweakerCarlo]

Hoedan?! Is het eerste wat in me op kwam bij het kijken van die video. Is de rest echt zo ver dat ze het mogelijk als waarheid zien? Naja. Sta er niet van te kijken eigenlijk. Dat slag volk heeft gewoon een hele sterke mening. Het mag klaarblijkelijk nog stemmen ook.


... Met alle respect. Dit vind ik echt... Kom maar op met die ban als ik weer eens te ver ga.

[Nees]

Ik denk dat het grootste probleem is dat de meerderheid van de bevolking niet weet wat tegenwoordig met AI kan. Zij gaan niet nadenken of iets fake is, ze zien iets, dus het moet echt zijn, tenzij het duidelijk niet echt is. Ze zeggen misschien: hoe kan dat nu gebeuren? maar weten niet waarom het niet zou kunnen. Als je van iets geen bestaan weet, ga je er niet aan denken.

Wij volgen zoveel op als techneuten, dat het voor "ons" sneller duidelijk is en weten naar waar te kijken.

Het is net zoals een mail krijgen van de overheid waarvan wij weten dat het spam is, maar toch vele in trappen en geld kwijt zijn.

[Knijpoog]

Heel veel mensen geloven ook in de alle social media filmpjes.

Bvb: kijk ik heb een zwerf kitten/puppy gevonden en opgeknapt en verzorgd want kijk eens wat voor geweldig mens ik ben ik had geen besef dat bij elk moment de camera aanstond en ik geef al helemaal niks om likes en volgers.

[Jeffrey1908]

Dit vind ik ook echt heel zorgelijk als ik de reacties onder sommige filmpjes zie in de ramen zie je de lampen gewoon opgesteld staan en iedereen lijkt in de oprechtheid of de 'prank' te trappen dan zit ook ook wel eens met me hoofd te schudden ongelooflijk!

[tw_gotcha]

ik denk dat het echte filmpje van een ander dier is, een koe of zo.Dit lijkt me India op een of andere manier, die natuur.Dus de reacties van de menden zijn best natuurlijk waardoor je het geheel meer accepteert

[iqcgubon]

Oh kom op, dit is toch ZO overduidelijk AI? Ik hou oprecht mijn hart vast als mensen dat niet doorhebben.

[n4m3l355]

Een kleine anderhalf jaar geleden zat ik te knoeien met Midjourney en de resultaten waren duidelijk nep, maar nu krijg ik toch vaak resultaten die echt wel goed zijn. Er zijn nog bepaalde give aways in specifieke situaties maar denk je dat we 1-2 jaar later het verschil kunnen zien?

Ook dit filmpje ja we weten waar we op moeten letten maar tegelijkertijd is dit toch wel heel knap dat zoiets kan. Het verrast me dan ook helemaal niet dat mensen dit niet doorhebben.

Toevallig zag ik eergisteren op Reddit een search voorbij komen van een vogel en meer dan de helft was AI. Soms heel duidelijk, soms niet echt, dat Google dus resultaten kan filteren, kenmerken is alleen maar goed. Ik hoop dat Google dit dan ook overduidelijk doet en ook de mogelijkheid geeft om op termijn AI weg te filteren.

[Tim_bots]

Toevallig de mega sneeuwuil gezien die deze week uitkwam? (linkje https://x.com/gunsnrosesgirl3/status/1842997274630316477)
Als je niet weet dat dit mogelijk is (en dat uilen 3 tenen (vooraan) en 2 voeten hebben) is deze nog verassend lastig om te zien.

[iqcgubon]

Rare plooien onderaan het gezicht van de uil, onnatuurlijk onscherpe oorveertjes. Dat is op te maken uit de eerste stilstaande frame. Als het beest begint te bewegen wordt het nog duidelijker.

Het is knap allemaal, en het gaat in de toekomst nog beter worden. Maar nu is het er echt wel uit te halen.

[Tielenaar]

Je moet echt wel je best doen om dat te zien hoor, in de eerste instantie valt dat allemaal totaal niet op. En er zijn genoeg filmpjes waar geen enkele clue meer is te vinden. Letterlijk elke week komt er een nieuwe tool of service die het nog beter kan dan de concurrentie. Veel van die tools zijn heel goed in 1 specifieke taak, zoals bijvoorbeeld dingen laten exploderen of een catwalk video ofzo.

[SambalSamurai]

Leuke tip, haha, gelijk bekeken. Wat nog gevaarlijker is dan zulke domme videos, is het feit dat mensen erin hebben getrapt.

In de eerste seconde al zie ik een graafmachine (linker) zonder bovendeel.
In de tweede seconde heeft de giraffe twee hoofden.

"Maar dat kán!" zeg je "want twee hoofdigen komen weleens voor"
Maar dan zeg ik: wat is de kans dat al die fouten en het feit dat er soms meerdere schaduwen zijn van meerdere zonnen OF helemaal geen schaduw kort erna in één universum of multiversum?

Dat is pas gevaarlijk, als wij stoppen met kijken, zien en nadenken!

[Chrono Trigger]

Wat zegt dat dan op zijn beurt weer over het Facebook gehalte van LinkedIn tegenwoordig?

[TigerXtrm]

De domheid van mensen is van zichzelf al heel gevaarlijk. AI maakt die domheid nog veel gevaarlijker.

[Racer89]

Afgelopen week zag ik dit soort filmpje met een grote octopus die ze uit het water hadden gevist. In eerste instantie had ik echt niet in de gaten dat het AI was. Aangezien alles erom heen ook echt leek zoals de boot en de vissers.

[Bux666]

Ik zag vandaag een filmpje op Linkedin over een giraffe die op een cliff vast stond en gered moest worden.

Naast dat AI inderdaad heel gevaarlijk wordt, kaart je onbewust nog een groot 'probleem' aan: het verFacebooken van LinkedIn. Ik zie er steeds meer berichten voorbij komen die totaal niet op LI thuis horen. Zelfs tot aan vakantiekiekjes toe. LI = het nieuwe FB.
Ook de zogenaamde recruiters slaan de plank volledig mis. Wat ooit een goed en sterk platform was, is volledig aan het vervallen. Ik kom er daardoor steeds minder.

[McSnaddy]

Meteen gevonden via Google:-): giraff cliff ai
https://www.tiktok.com/@w...video/7422779340120771873
YouTube: Rescuing largest giraffe in the world in a mountain cliff with large...

[Meliscool]

En je post dit, want..?

On topic:
Ik vraag me af hoe dit gaat werken met foto's die niet door Google’s eigen diensten zijn aangeraakt. Je zult waarschijnlijk AI-info in de metadata moeten hebben, maar hoe zit het met foto’s die bijvoorbeeld via Photoshop of andere AI-tools zijn aangepast? Als dat niet standaard wordt, blijft het vooral een functie voor foto's die binnen het Google-ecosysteem zijn gemaakt of bewerkt....

[Oon]

Lijkt mij een reactie op adje123 in 'Google Foto's lijkt functie te krijgen om weer te geven of foto AI bevat'

[Roel1966]

Vraag mij eigenlijk af of er ook beveiligingen zijn voor foto's die het mogelijk maken dat het origineel niet door AI bewerkt kan worden. Of dat er in elk geval een mogelijkheid voor sites is dat ze AI gegenereerde foto's of met AI bewerkte foto's kunnen blokken. Zeker voor nieuwssites kan dit heel belangrijk zijn want hoe weet je anders nog of iets wel of niet echt is.

Blijf dat hele AI gebeuren dan ook maar gevaarljk vinden vooral voor fraude en je daarom bijna bang zou worden nog gefotografeerd te worden. Voor hetzelfde word jou gezicht ergens op een andere foto geplakt bij b.v. een misdrijf. Dan kan jij gaan bewijzen dat je niets met dat misdrijf te doen hebt, en tja, stel zoiets lekt uit op social media. Lekker, dan kan wel even je naam flink te grabbel gegooid worden.

[durian]

Canon had vroeger (misschien nog steeds) digitale camera's die de foto's in de camera konden signeren, dan wist je in ieder geval of de foto later gemanipuleerd was of niet.

[Roel1966]

Voor wat ik weet van b.v. de smartphone kan je dan wel datum en locatie instellen waar en wanneer dan de foto gemaakt is. En voor wat ik mij kan herinneren van mijn Panasonic gewone systeemcamera kon je daar ook dan de datum instellen. Maar geen idee of dit nog steeds bij 'gewone' camera's kan en tja ook dat valt dan denk ik wel weer te omzeilen.

[0b1]

Ik heb geen ervaring in het maken van AI video's of foto's maar zouden ze geen soort van watermerk erin kunnen verwerken of soort van vast patroon. Wegschrijven van bepaalde reeks bits/bytes in het bestand met een verwijzing naar gebruikt model. Er zijn wel genoeg methodes om dat dan weer ongedaan te maken. Iemand die hier kennis van heeft?

[fretnn]

Het probleem is dat elke AI generator hier zich dan moet aan houden

[Tielenaar]

Groot deel van de software is open source, en je kan zelf de boel trainen met je eigen afbeeldingen of video's. Succes met watermerken. Daarnaast kan je de watermerken door andere tools er weer uit laten halen. Dit is een gebed zonder eind en niet haalbaar.
Het enige wat zou kunnen is op social media een flag verplichten dat het om AI generated content gaat, net zoals je nu bijvoorbeeld de sponsormelding hebt die verplicht is. Of een age rating.

[Ciske]

Handig! Goed van Google om dit transparanter te maken.

[adje123]

Verkeerde persoon.

[Reactie gewijzigd door adje123 op 9 oktober 2024 22:01]

[Peter_Utrecht]

Google heeft (heel bewust) een doos van Pandora geopend in de vorm van hun 'ReImagine', en is misschien geschrokken van alle commotie.

Wat links die interessant zijn in dit verband

The AI photo editing era is here, and it’s every person for themselves: https://www.theverge.com/...magic-editor-ai-reimagine

No one’s ready for this: https://www.theverge.com/...is-reality-google-pixel-9

Google’s AI ‘Reimagine’ tool helped us add wrecks, disasters, and corpses to our photos: https://www.theverge.com/...xel-9-reimagine-ai-photos

En voor wat betreft een oplossing

This system can sort real pictures from AI fakes — why aren’t platforms using it?: https://www.theverge.com/...mages-content-credentials

The problem is interoperability. There are still huge gaps in how this system is being implemented, and it’s taking years to get all the necessary players on board to make it work. And if we can’t get everyone on board, then the initiative might be doomed to fail.

[Sailor69]

Ze kunnen zich beter richten op de dingen waar ze goed in waren en dat was het spam filter van Gmail. Heden ten dagen is het droevig gesteld door dit AI geweld in mijn email box.

[fep]

Als het maar niet zo irritant wordt als de Samsung Galerij app (op S24+). Want als je daar iets verwijderd, bijvoorbeeld net die hand van een voorbijganger in beeld, dat er dan een tekst linksonder op de foto komt: "Door Ai gegenereerde inhoud".
Betutteling!
Dit kan ook met Photoshop en ook met Google foto's en dan krijg je dit ook niet. Waarom hier wel.

[watercoolertje]

Wat zou hier dan een motief zijn om te liegen? Vindt het maar een vreemde suggestie omdat ik niet zou weten wat het nut is om hierover te liegen. Of liegen ze dan gewoon voor de lolz?

Als ze niet willen dat je weet of iets met AI gemaakt is hadden ze deze functie wel achterwege gelaten

[Reactie gewijzigd door watercoolertje op 10 oktober 2024 10:55]

[Macshack]

Ik stel gewoon een terechte vraag. Maar jij wilt zeggen dat Google nooit liegt 😂. Ik weet niet maar bedrijven liegen zoveel om niet slecht in het nieuws te komen of juist nog beter. Google bestaat uit mensen. Mensen hebben soms de neiging tegen beter weten in om zaken te manipuleren/beïnvloeden.

Jouw laatste opmerking is ook zeer opmerkelijk. Google is niet de enige die AI images kan genereren. Wat als er een schandaal naar boven komt door middel van een afbeelding of video dat Google zich op illegale wijze of om onethische redenen wetgeving heeft proberen te beïnvloeden? Dan kunnen ze toch verwarring zaaien door de video te kenmerken als (mogelijk) AI gegenereerd te zijn.