Snapchat gaat gedeelde AI-afbeeldingen van watermerk voorzien

Snapchat zal afbeeldingen die door eigen AI-tools zijn gemaakt met een watermerk uitrusten. Het watermerk bestaat uit een doorzichtig Snapchat-logo met daarnaast 'een twinkeling' en wordt enkel op geëxporteerde en gedeelde afbeeldingen toegepast.

Afbeelding met een AI-watermerk van Snapchat

Snap Inc. schrijft in een blogpost dat de ontvangers van dergelijke bestanden sneller op de hoogte zullen zijn over het feit dat het om AI-afbeeldingen gaat. Het Amerikaanse bedrijf schrijft dat het momenteel al maatregelen heeft genomen om gebruikers te informeren over content die met eigen AI-tools gegenereerd of bewerkt is en dat het ook extra tests zal implementeren om ervoor te zorgen dat de generatieve AI zo weinig mogelijk 'bevooroordeelde' resultaten genereert. Wanneer het AI-watermerk precies zal worden uitgerold, is niet duidelijk.

Snapchat heeft in februari van 2023 een AI-tool geïntroduceerd: My AI. Dat is een AI-chatbot die wordt aangedreven door ChatGPT van OpenAI en enkel te gebruiken is door Snapchat+-abonnees. In december van 2023 kwam Snapchat met enkele nieuwe AI-functies. Snapchat+-abonnees hebben toen onder andere de optie gekregen om te ver ingezoomde foto's van extra contextueel beeldmateriaal te voorzien waardoor ze minder ver ingezoomd lijken. Via een andere AI-functie, genaamd Dreams, kunnen Snapchat+-gebruikers ook AI-selfies laten genereren.

Reacties (11)

[goldstarflag]

Ik ben een beetje klaar met dat AI. Regelmatig krijg ik een foutmelding dat het plaatje dat ik wil genereren onveilig zou zijn. En dan probeer je een andere input maar dan krijg je dezelfde melding. Terwijl er niks onveiligs aan is. Voor een creatief persoon is dat erg irritant.

[Reactie gewijzigd door goldstarflag op 25 juli 2024 09:58]

[Yaksa]

Je hebt altijd nog de mogelijkheid om AI lokaal te draaien.
Doe ik ook, met Easy Diffusion. En ik ben niet de enige, kijk maar 'ns in dit topic hier op Tweakers.
Je hebt wel een redelijke computer nodig en een GPU met tenminste 6Gb aan geheugen, maar daarna staat niets je eigen creativiteit meer in de weg.

[ErikT738]

Dat krijg je er van als de AI door Amerikaanse techreuzen wordt gerund. Verdiep je eens in Stable Diffusion.

[slijkie]

Ik zie al heel snel tools aankomen op Github die met behulp van ander AI dit watermerk weer weghalen.

Daarna zie ik dat men er een iOS/Android app van maakt die dit vol automatisch doet, zal de appstore dat weren? Nee, want sideloaden kan nu he, dus de alternative appstores.

Zal vast een groot project komen die de watermarks enz van alle AI gegenereerde dingen kan halen, alles in 1 app. Beetje zoals die video-download tools/sites.

Hele nieuwe business, so to speak.

[Christoxz]

Beter dan niks, het blijft altijd een kat en muis spel.

Daarnaast voor een leek, zegt de watermerk/logo van Snap helemaal niks nuttigs.

Daarnaast valt zo'n watermark ook prima weg te knippen, met het voorbeeld van het artikel zou je alleen wat missen van de bovenkant, terwijl het hoofd onderwerp, de hond gewoon zichtbaar blijft.

Zal vast een groot project komen die de watermarks enz van alle AI gegenereerde dingen kan halen, alles in 1 app.

Verder bestaat dat al jaren in PS, al dan niet via 'AI'. Als iemand het wilt, lukt het die gene echt wel, met of zonder vol automatische app, daarnaast zal een groot deel de watermerk helemaal niks schelen.

[slijkie]

Het gaat erom dat het nu lastig is, als je de drempel vooral voor jongeren extreem laag maakt, foto export (sharen) naar andere app, en klaar, naar je foto-roll. Oftewel, 3 seconden werk. Dan zal dit natuurlijk veelvuldig gebruikt gaan worden.

Oftewel, watermarks zijn kansloos, vervelend (lelijk) voor niet kwaadwillenden, en totaal niet effectief voor kwaadwillenden, die zelfs meer dan 3 seconden ervoor over hebben om het watermerk weg te krijgen.

[lb2001]

Sideloaden is niks mis mee. Alleen jammer dat dit soort tools (lees: al die AI dingen) nu de kop opsteken.

Je doet er echter weinig aan. Ik denk dat mensen moeten bewuster worden van wat AI kan, aangezien mensen die ergens misbruik van willen maken dat toch wel doen. Je kunt alles nog zo goed proberen dicht te timmeren, maar waar een wil is, is immers nog steeds een weg.

[telenut]

Ik zie op facebook ook veel AI afbeeldingen voorbij komen, een watermerk hoeft niet direct, maar een automatische vermelding zou zeker niet slecht zijn... als ik de comments lees onder die posts zijn de meeste facebook gebruikers duidelijk niet in staat AI te herkennen, laat staan dat ze weten wat het is...

[bamboe]

Vergeet niet hoe je de jeugd kan manipuleren met foto's, laat ze een paar door ai gemaakte beelden zien van slechte dingen door amerikaanse soldaten, en daarna foto's van goede dingen door russische soldaten en je zult zien dat hun mening een kant op gaat.

[TheBlackbird]

In deze context past het recente gesprek tussen Brian Greene (theoretisch fysicus) en Eric Schmidt (ex-ceo Google). Dit stukje waarbij Schmidt kort uitwijdt over watermerken op door AI gegenereerde beelden: https://youtu.be/gZZan4JMwk4?feature=shared&t=2998

Interessant in zijn geheel trouwens.

Vandaag bestaat een trollenleger nog uit een groep mensen die fake content genereert, in de toekomst wordt dat volautomatisch AI-gestuurd met generatieve beelden die niet meer te onderscheiden zijn van de werkelijkheid. Als we ons daar als maatschappij niet tegen wapenen - watermarking is een van de opties - dan zitten we met een serieus probleem.

Ik kan me ook vinden in een andere opmerking hier dat het irritant is om zo gelimiteerd te worden door de grote commerciële AI-systemen. Zeer vervelend inderdaad. Maar ik besef ook dat het nodig is voor de Googles, Microsofts en Meta's van deze wereld dat hun technologie niet kan ingezet worden als wapen. Het is tof om idiote plaatjes te laten maken met Xi, Vladimir en Angela in de hoofdrol, maar het is duidelijk dat het potentieel voor misbruik gigantisch is. En we zitten nog maar aan het begin van de AI-revolutie.

[Reactie gewijzigd door TheBlackbird op 25 juli 2024 09:58]

[Ikke_Niels]

Niet om het een of ander, maar als je het watermerk weg wil hebben duw je het plaatje toch weer door AI, en poets je het watermerk weg met inpaint? Zeker als het zo'n miniem watermerk is?