YouTube krijgt label als video generatieve AI bevat

YouTube krijgt labels voor generatieve AI die zichtbaar worden in de interface. Dat heeft moederbedrijf Google bekendgemaakt. Makers moeten aan de achterkant aangeven of een video generatieve AI bevat.

Als een video elementen bevat die kijkers voor echt zouden kunnen aanzien, moeten makers aangeven dat deze is gemaakt met generatieve AI, zegt Google. Kijkers zien dan boven de titel van de video 'gewijzigde of synthetische content'. Ook bij de beschrijving komt het te staan. Google had de labels al in november aangekondigd, maar vanaf maandag kunnen makers het vinkje zetten in Creator Studio. Dan kunnen de labels ook verschijnen voor kijkers op YouTube.

Reacties (59)

[DdeM]

Niet aangeven of de content scenes bevat die gegenereerd zijn is onmogelijk, en nee zeggen terwijl het ja is, is tegen de policy van YT en kan dus leiden tot verwijderen van je account:

Do any of the following describe your content?
. Makes a real person appear to say or do something they didn't say or do
. Alters footage of a real event or place
. Generates a realistic-looking scene that didn't actually occur

Yes

No

To follow YouTube's policy, you're required to tell us if your content is altered or synthetic and
seems real. This includes realistic sounds or visuals made with Al or other tools. Selecting
"yes" adds a label to your content. Learn more

bron: afbeelding 3

[Oon]

Maar datzelfde geldt voor het labeltje voor gesponsorde content en dat doet ook bijna niemand, dus waarom zou dat hier anders zijn?

[Wraldpyk]

Als je dat labeltje niet gebruikt maar het wel van toepassing is, ben je in veel landen tegen de wet aan het gaan en kan het je boetes opleveren. Dus je kunt er vanuit gaan dat de meeste grotere Youtubers dit sowieso al goed doen.

[Oon]

Dus je kunt er vanuit gaan dat de meeste grotere Youtubers dit sowieso al goed doen.

Dat is dus heel dom om zomaar vanuit te gaan, want er zijn de afgelopen jaren veel onderzoeken geweest waaruit bleek dat dat absoluut niet het geval is. Sommigen daarvan kwamen zelfs op minder dan een derde uit, wat dus zou betekenen dat twee derde van de gesponsorde content helemaal niet correct wordt aangegeven.

Aangezien de pakkans enorm laag is en de impact groot is dat ook wel logisch, dus ik zie niet hoe dit anders zou zijn met AI-gegenereerde content waar helemaal geen wet achter zit.

[Mushroomician]

Krankzinnig natuurlijk.

Even omdraaien: wat doen we als een Nederlander vanuit Nederland met Chinees-talige content op het internet een Chinese wet overtreed? Helemaal niets.

[Arokh]

Nou en? Als in China je wel ongestraft AI in mag zetten om hun premier iets te laten zeggen wat niet klopt (dat mag Dara niet, en je komt niet met een boete weg) dan gaat dat toch alsnog tegen de voorwaarden van YouTube in?

Het maakt niet uit wat de wet in jouw land zegt, YouTube mag je account gewoon sluiten hoor.

[Mushroomician]

Ik volg je ff niet.
Het ging er om of dat labeltje (“adv.”) weglaten wel of niet legaal is. Dat verschilt per land/regio.

[Zoop]

En youtube zal daar niet moeilijk over doen om dat uit te gaan pluizen, die locken je account gewoon uit voorzorg. ik denk dat dit @Arokh's punt was.
Het gaat er dus wel om of zoiets in het algemeen legaal is of niet, maar het is niet die legaliteit dat voor gevolgen zorgt, dat doet youtube dan zelf.

Maar ook dat gebeurd niet bepaald altijd even zorgvuldig (zowel false positives als spul dat blijkbaar gewoon genegeerd wordt).

[Tjidde]

Altered content is beetje vaag beschreven.

Als ik een green screen gebruik en die verander in een beeld van en op Mount Fuji. Moet ik dan Ja of Nee invullen? Van beide is wat te zeggen. Zeker als ik echt weet wat ik doe met video bewerking.

Het is zeker lastig door het stukje or other tools. Als je Photoshop en premier ziet alles een other tool, dan moet je denk ik elke via zo wat als altered video zien.

[MSalters]

Het is inderdaad een vraag waarover je inhoudelijk moet nadenken. Je simpele voorbeeld van Mt Fuji is té simpel om de vraag te beantwoorden. Is het een video-edit waarbij het lijkt also jij Mt Fuji beklimt? Ja, dan is het altered content. De weerman die z'n praatje houdt voor een green screen met Mt Fuji op de achtergrond? Nee, geen altered content.

[SeenD]

Ja precies, in principe is elke geëdite video altered content.

[B64]

En hoe controleert Youtube of je terecht 'nee' hebt aangevinkt?

Daar hebben ze ongetwijfeld een algoritme voor ontwikkeld dat de nodige false positives zal op leveren, met allerlei vervelende consequenties voor de gebruiker. En Google kennende: vrijwel onmogelijk om daarover te communiceren of de beslissing aan te vechten.

[MSalters]

DIt is in 2024, dus Google heeft zich nu aan de Digital Services Act te houden. Het gaat misschien een paar miljardenboetes kosten, maar ze mogen niet langer zomaar video's verwijderen zonder dat jij bezwaar kan maken.

[Arnoud Engelfriet]

Eens. Maar "onze AI tool gaf deze 23 factoren die tezamen een synthetic content score van 87% gaven" is toch wel iets meer dan "zomaar". Deze plicht volgt ook uit de DSA (systemic risk assessment, nieuws: Europese Commissie verzoekt grote platforms om informatie over risico...) dus het spanningsveld is wel interessant zo.

[MSalters]

Het wordt inderdaad interessant hoe dat gaat uitpakken. Ik had de indruk dat " 23 factoren die samen een 87% score gaven" weliswaar een prima basis waren om content automatisch te verwijderen, maar dat een beroep alsnog door mensen inhoudelijk beoordeeld moet worden. En als Google dan zo'n complex model gebruikt, dan hebben ze zichzelf er ook wel mee. Die menselijke beoordeling zal dan ook die 23 factoren moeten heroverwegen. Zijn die factoren relevant, juist geëvalueerd, en volledig?

[Wouterie]

Hmmm... maar omgekeerd gaat dus niet op: als het label er niet staat dan zit het er dus niet in. Het is nog steeds aan de uploader om kleur te bekennen. Als aangetoond wordt dat het er dan toch inzit, dan mogen daar best sancties tegenover staan.

[hiostu]

Maar wat nou als de content maker dit niet weet? Stel je koopt via een stock site videobeelden om te gebruiken en die verkoper heeft met GenAI een video gemaakt.

[Arokh]

Dan wordt het zaak alleen in te kopen bij bronnen die dit netjes aangeven. Die komen echt massaal.

[FvdM]

https://edition.cnn.com/2...l-for-creators/index.html

Creators who consistently fail to use the new label on synthetic content that should be disclosed may face penalties such as content removal or suspension from YouTube’s Partner Program, under which creators can monetize their content..

Ik kan bij Youtube zelf geen duidelijke verwijzing in de community guidelines vinden, maar denk dat het om 'deceptive practices' gaat:

https://support.google.co...d=17494154890015478572-EU

If your content violates this policy, we may suspend your monetization or terminate your channel or account. [...]

For some violations, we may remove the content and issue a warning or a strike against your channel. If this happens, we’ll send you an email to let you know.

You can take a policy training to allow the warning to expire after 90 days. However, if your content violates the same policy within that 90 day window, the warning will not expire and your channel will be given a strike. If you violate a different policy after completing the training, you will get another warning. We may prevent repeat offenders from taking policy trainings in the future.

If you get 3 strikes within 90 days, your channel will be terminated.

[storchaveli]

Als een video elementen bevat die kijkers voor echt zouden kunnen aanzien, moeten makers aangeven dat deze is gemaakt met generatieve AI, zegt Google

Zul je zien dat niet iedereen dat gaat doen.

[Edrill]

Vrijwel zeker dat niet iedereen dat gaat doen. Hopelijk hebben ze ook nagedacht over een manier om dat aan te pakken.

[Neon Noodle]

Dit zie ik ook de verkeerde kant op gaan.
Als youtube iets markeert als AI wat geen AI is kan je waarschijnlijk heel wat views mislopen. (want ja AI=bad) YT kennende kan je dan een dispute aanmaken om de markering weg te halen, maar tegen die tijd dat die bekeken en goedgekeurd is is de schade al aangericht.

edit: domme spelfout

[Reactie gewijzigd door Neon Noodle op 24 juli 2024 17:57]

[storchaveli]

Precies dit!

[Sorcerer8472]

Ja, er zijn content provenance-standaarden in de maak waarmee dit deels automatisch gedetecteerd kan worden doordat grote aanbieders onzichtbare watermerken toevoegen. Dit gebeurt nu al, en bijv. OpenAI zal dat met Sora ook doen. Ook zijn er detectiemethodieken die men kan inzetten.

Grote creators zullen het risico om gedemonetized of gedeplatformd te worden niet willen nemen straks denk ik.

[DdeM]

Je kan het niet, niet, doen. Bj uploaden heb je nu een radio button met de optie ja of nee. Zie derde afbeelding of mijn post

[zaadstra]

Dus als de content maker de AI niet aangeeft en geen vinkje neerzet dan toont Youtube geen label.

Ik weet niet hoor maar het klinkt niet als een heel waterdicht waarschuwingssysteem.

[3raser]

Het is een begin. Op den duur zou je hier sancties aan kunnen knopen. En door als groot media platform deze stap te zetten kun je anderen aanmoedigen hetzelfde te doen.

[seez]

Wat mij betreft ook als het audiospoor AI Voice-overs bevat. Misschien ben ik er ietwat gevoelig voor. Als het kil en/of niet menselijk klinkt, haak ik vrij snel af. Misschien ook een soort uncanny valley effect maar dan voor mijn gehoor

[Reactie gewijzigd door seez op 24 juli 2024 17:57]

[Alxndr]

Idd binnen een seconde herken je het en dan is het voor mij direct het kanaal blokkeren, hetzelfde trouwens voor clickbait titels.

Ik zou het ook graag voor die clickbait thumbnails waar iedereen altijd z'n mond en ogen wagenwijd open heeft doe, maarja, dan blijft er geen vrijwel niets over om te kijken, dus dat laat ik maar.

Aan de andere kant, hele scripts worden nu al door AI geschreven en het wordt steeds moeilijker te herkennen. Wil ik dat soort content uit principe niet zien, of gaat het me om de entertainment waarde - als het vermakelijk/informerend genoeg is, maakt het dan uit dat het niet van een mens komt?

[hanskroll]

Wat mij betreft ook als het audiospoor AI Voice-overs bevat.

Afbeelding 3, eerste bullet point:

Makes a real person appear to say or do something they didn't say or do

[MSalters]

Ja, en wie is dan de real person? Een generieke AI voice-over imiteert geen specifiek persoon. Het wordt een ander verhaal als je een Arnold Schwarzenegger imitatie hebt, want dat is wél een echt persoon.

[Fiddle]

Exact, ik denk dat alle 3 de punten, maar dus ook deze over de Voice, over waarheids-manipulatie gaan, en niet zozeer over wat mensen als vervelend kunnen ervaren...

[Fiddle]

Ik interpreteer dit dus anders. Ik haal hieruit dat je met AI voicing niet mag doen alsof een "real person" iets gezegd heeft wat niet gebeurd/waar is. Een voiceover -op-zich-zelf- maakt zich hier niet schuldig aan: "appear to say or do something they didn't say or do"...

Ben heel benieuwd wat andere hieruit lezen....

[tronmedia]

Al een tijdje niets meer gepost op YouTube maar heb toen de tijd muziek ( achtergrond ) wat bewerkt met een pitch shifter en wat delay, filmpje staat na 10 jaar nog steeds op YouTube zonder vermelding van rechtmatige eigenaar ( auteursrechten ), ik heb het voor de goede orde maar zelf vermeld.

[Prince]

Makers moeten aan de achterkant aangeven of een video generatieve AI bevat

Ik neem aan dat dit is "makers 'kunnen' aangeven". Wat staat hen in de weg om het niet te doen; is het een optie of een verplichting? Indien verplichting, hoe snel moeten de oude video's deze tag krijgen?

gewijzigde of synthetische content

Deze voelt ook aan alsof het meer is dan enkel generatieve AI. In principe is een Picture in Picture ook een aanpassing, ook als je even iemand zo een "badass brilletje" op zet of zelfs onherkenbaar maakt door blokjes, balkje of wazig maken.

Moet dit dan ook voor een opname waar je een opleiding geeft voor een virtuele achtergrond of als je animaties laat zien om een opleiding beter uit te leggen? Klintk namelijk als synthetisch.

[DdeM]

Voor al die gevallen dien je ja aan te geven bij de upload, ze 3e afbeelding of mijn post

[MazeWing]

Hopelijk doen ze dit ook voor audio. Ik word echt gek van al die videos met een voiceover die duidelijk niet door een persoon is ingesproken...

[jarco5000]

Ik ben 1 van die mensen die een AI voice-over gebruikt, puur omdat mijn Engels accent vreselijk is. Puur uit nieuwsgierigheid, welke stoort je het minste? Een zwaar accent of een AI voice-over? En maakt de kwaliteit van de voice-over uit, of vind je ze echt allemaal irritant?

[MazeWing]

Als het redelijk "menselijk" klinkt qua intonatie, etc. vind ik dat nog niet zo erg. Het zijn vooral die nietszeggende videos die enkel gemaakt kijken voor de views en allemaal stock foto's/video's gebruiken. Als je dan meteen kan zien dat het AI gebruikt (vanwege de voiceover) kan ik die meteen skippen.

Maar als de content goed is dan heb ik liever dat het echt authentiek is en je eigen stem wordt gebruikt (ook al is het slecht) dan zo'n generieke AI-stem. Het voelt dan toch allemaal minder authentiek aan....

[jarco5000]

Bedankt voor de feedback, ik zal eens experimenteren ermee.

[Bahmi]

Ik kijk zat videos ingesproken door mensen met een zwaar accent, denk aan kanalen zoals EAstory of Military History Visualized. Zolang je een goede microfoon hebt en duidelijk spreekt dan kan ik me er niet zo aan ergeren, in sommige gevallen voegt een accent zelfs wat toe.

Enige uitzondering is misschien Marcel Vos die rollercoaster tycoon videos maakt met een vrij dik nederlands accent op z'n engels, maar zelfs dan vind ik het beter te doen dan ongeveer elk ander AI gegenereerde stem.

Als ik ook maar een halve zin hoor die door AI is ingesproken, dan is het gelijk video uit en kanaal blokkeren uit suggesties. Het is niet zozeer de kwaliteit, maar het voelt zo ongelovelijk low-effort als iemand dat doet, dat ik dan ook niet de effort neem om te kijken of het uberhaupt interessant is. En vooral omdat in mijn ervaring als de maker niet de moeite kan nemen om zelf een voice over te doen, de tekst zelf dan ook te wensen over laat.

En als je zelf het niet aan durft om het in te spreken, je zou ook kunnen overwegen om een voice actor via een klussenplatform (zoals fiverr) in te huren, een aantal andere kanalen die ik kijk doen dat (goed voorbeeld is HistoryMarche) en hoewel het een beetje raar is dat er soms een nieuwe spreker is, klinkt het een stuk aangenamer dan een AI stem. Plus je weet zeker dat het auteursrechtelijk helemaal goed zit, met AI is het nog maar af te wachten hoe dit gaat uitpakken en mag je misschien over een paar jaar al je videos verwijderen of je advertentieinkomsten afstaan.

[jaapstobbe]

Goede zaak

[Recursio]

Ik neem aan dat de desbetreffende video een label krijgt, niet het merk YouTube; dat zou weinig informatief zijn.

Wat mooi zou zijn, is als je zou kunnen filteren en die videos kunt uitsluiten van recommendations, playlists en zoekresultaten.

[Reactie gewijzigd door Recursio op 24 juli 2024 17:57]

[g_v_rijn]

Kort zinnetje - valt nauwelijks op.
Een [verplicht] icoontje zou het moeten zijn.