Kickstarter haalt crowdfundproject offline dat pornografie wil genereren met AI

Kickstarter heeft een crowdfundproject van Unstable Diffusion stopgezet omdat het bedrijf eerst wil kijken hoe moet worden omgegaan met kunstmatige-intelligentieprojecten. Unstable Diffusion wil geld ophalen voor het ontwikkelen van AI die pornografie kan genereren.

Het project van Unstable Diffusion is in ieder geval tijdelijk opgeschort door Kickstarter. In een blogpost schrijft Everette Taylor, de ceo van Kickstarter, dat het crowdfundingsplatform feedback heeft gekregen over projecten die gericht zijn op het genereren van AI-beelden. Vooral kunstenaars hebben kritiek op projecten die zonder toestemming gebruikmaken van hun kunst om nieuwe afbeeldingen te genereren.

Op de Kickstarter-pagina van het project schrijft Unstable Diffusion dat het met het geld van de crowdfunding een nieuw AI-model wil trainen. Hiervoor wil het bedrijf afbeeldingen gebruiken van anime en cosplay, foto's en beelden van kunstenaars op Artstation, DeviantArt en Behance. In totaal gaat het om 75 miljoen afbeeldingen waarop het model van Unstable Diffusion getraind moet worden.

Het project van Stable Diffusion had al de funded status bereikt en het dubbele opgehaald van de beoogde 23.000 euro. Als Kickstarter de opschorting van het project handhaaft, krijgt Unstable Diffusion dit geld niet en krijgen backers van het project hun geld automatisch terug. Unstable Diffusion is van mening dat het niets verkeerd doet en geen regels overtreedt.

Kickstarter lijkt daar anders over te denken. Taylor schrijft dat Kickstarter in deze discussie 'altijd de kant kiest van creatief werk en van de mensen die verantwoordelijk zijn voor dit werk'. Volgens de ceo is het belangrijk om niet alleen te kijken naar situaties waarin duidelijk inbreuk wordt gemaakt op auteursrecht, maar ook naar situaties waarin indirect werk wordt gebruikt van makers zonder hun toestemming. Het platform vraagt daarbij wel naar de mening van gebruikers, maar zegt niets specifieks over Unstable Diffusions projectstatus.

Kickstarter is niet het eerste online platform dat maatregelen neemt tegen met AI gegeneerde beelden. Het portfolioplatform ArtStation voegde onlangs een opt-outfunctie toe, waarmee makers hun projecten kunnen uitsluiten van gebruik in AI-tools zoals Dall-E.

Reacties (239)

De kunstenaars vind ik ook een heel goed punt hebben. Hun kunst wordt zonder compensatie of toestemming gebruikt in training data van technogie die hun deels probeert te vervangen. Deze technologie kan dan daardoor hun stijl en flair imiteren, en zij krijgen niks. Ik wil helemaal geen toekomst waarin het als kunstenaar nog onmogelijker wordt om je brood te verdienen omdat je moet concurreren met iets wat eventjes uit Stable Diffusion rolt. De schat aan training data die we nu hebben is er alleen maar omdat heel veel mensen heel veel mooie dingen gemaakt hebben en die vaak vrij gedeeld hebben. Dat moet niet afgestraft worden.

Volgens mij ligt de kern van het probleem in het feit dat naderhand niet meer na te gaan is welke beelden gebruikt zijn voor de training van de AI.

Men moet de makers/trainers van deze AI-generators op hun blauwe ogen geloven dat ze de waarheid vertellen over welke plaatjes als invoer gebruikt zijn. Zelfs als er plaatjes uitrollen die heel veel lijken op coyprighted plaatjes lijkt het me nog een hele toer om te bewijzen dat die copyrighted plaatjes gebruikt zijn; de AI kan tenslotte ook door andere plaatjes te combineren tot het resultaat gekomen zijn.

En dan is de vraag of en aan wie het copyright van een AI-geproduceerd plaatje toevalt ook nog een hele kluif voor de juristen.

Bij Midjourney zijn ze er zelfs open over dat ze de rechten niet hebben op de plaatjes die ze gebruiken:
https://petapixel.com/202...n-images-without-consent/

When asked: “Did you seek consent from living artists or work still under copyright?”

Holz replies: “No. There isn’t really a way to get a hundred million images and know where they’re coming from.

Kwalijke zaak.

Een mens kan evenzoveel plaatjes kijken en uiteindelijk een schilderij maken. Je bent dan 'geïnspireerd', maar je weet niet meer precies waardoor of welk beeld nou precies die doorslag gaf.

Bij oudere schilderijen zie je vaak een 'stroming', iets wat toentertijd in zwang raakte en je ofwel ergens leerde, of overnam van een andere kunstenaar. Elk van die werken kan je behandelen als deze techniek, toch zette die artiest zijn naam eronder en was het van hem of haar.

Bij kunst kijken de meeste mensen toch naar de artiest zelf, je kunt een Warhol kopen die origineel is of er een kopie van, maar de liefhebber wil de echte.

Deze computertechniek is hetzelfde als wat er destijds gebeurde met andere banen die door industrialisatie werden overgenomen (zoek de herkomst van het woord 'sabotage' maar eens op). Deze techniek brengt nu precies hetzelfde weer bij artiesten. We hebben al de 3D-print techniek, die zo'n beetje alles kan namaken, nu gaat dit ook gebeuren voor beeldmateriaal. De originele ambacht gaat verloren, de ambachtman/vrouw/persoon is de dupe, maar het kan niet gestopt worden

Persoonlijk? Ik zou best een origineel beeld van Aphrodite in mijn tuin willen hebben, maar een gegoten betonnen kopie ervan is al nauwelijks betaalbaar voor mij. Het verschil in de toekomst voor de techniek van dit artikel is hetzelfde als nu: De minder kapitaalkrachtigen hebben een kopietje, en de rijkeren het origineel.

Een mens kan evenzoveel plaatjes kijken en uiteindelijk een schilderij maken. Je bent dan 'geïnspireerd'

Dit is een onjuist argument van pro-AI evangelisten om het gebruik ervan goed te praten.

Een mens kan geïnspireerd raken, een machine learning algoritme niet. Als een mens naar duizend afbeeldingen van een banaan kijkt en vervolgens een eigen banaan tekent, is dat prima. Het is immers maar het opdoen van ideeën over hoe de banaan te tekenen. Zolang deze persoon geen gebruik maakt van de afbeeldingen (bijvoorbeeld details overnemen), is er puur sprake van inspiratie en dus geen plagiaat.

Een AI doet en kan dat niet. Het is geprogrammeerd om structureel informatie uit bestaande kunstwerken over te nemen en te verwerken tot een model. Hier komt geen inspiratie aan te pas, want een dergelijk algoritme kan niet nadenken, kan niet creatief en intellectueel te werk gaan, het kan enkel bestaande informatie verwerken. De manier waarop het dit doet omvat het veelvuldig overnemen van specifieke structuren (bijvoorbeeld ogen, t-shirts, schoenen, etc) uit vele afbeeldingen om zo tot een composietmodel te komen, dat vervolgens weer ingezet kan worden om deze composietstructuren te hercombineren in een nieuwe afbeelding. Als een mens iets vergelijkbaars zou doen met de hand, zou er niemand over twijfelen dat het plagiaat is.

Bij kunst kijken de meeste mensen toch naar de artiest zelf, je kunt een Warhol kopen die origineel is of er een kopie van, maar de liefhebber wil de echte.

Dit is niet relevant voor de discussie en komt over alsof je plagiaat goed wil praten onder het mom van "ach, de echte kunstliefhebber kiest voor de echte". Hierbij vergeet je dat veel mensen dus niet in dat zeer restrictief plaatje van je passen en genoegen nemen met niet-authentiek werk, als ze überhaupt al doorhebben waar ze mee te maken hebben. De echte artiesten worden tevens weggeconcureerd door de prompt operators, dus veel ruimte voor "liefhebben van de echte" is er niet meer over dan.

Deze computertechniek is hetzelfde als wat er destijds gebeurde met andere banen die door industrialisatie werden overgenomen

Ook dit is niet geheel juist. Het klopt dat de automatisering van kunst ervoor gaat zorgen dat kunstenaars hun banen gaan verliezen. Maar waar kunst verschilt van puur functionele beroepen, ligt in het feit dat op kunst auteursrecht berust. Ongeacht de techniek, is het illegaal om andermans werk over te nemen en hier afgeleiden van te maken, om deze vervolgens te verspreiden, zonder toestemming van en bronvermelding naar de oorspronkelijke artiest.

Een analoge analogie (heh) is technologie dat het mogelijk maakt om eenvoudig in te breken bij vele huizen, hier items van te ontvreemden en deze items vervolgens te deconstrueren en redistribueren naar gebruikers van de technologie. Niemand twijfelt erover dat het hier om grootschalige diefstal gaat. Maar wanneer het gebeurt met intellectueel eigendom vindt een groot aantal mensen dit prima, met name die personen die ook gebruik (willen) maken van dergelijke technologie. Behoorlijk zorgwekkend.

De minder kapitaalkrachtigen hebben een kopietje, en de rijkeren het origineel.

Wat is er mis met het aanschaffen van een betaalbaar origineel? Waarom moet je persé een kopietje hebben en andermans auteursrecht schenden?

AI werkt toch juist met verbindingen tussen verschillende nodes, zoals de synapsen in het brein?

Wat als wij helemaal niet 'geinspireerd raken' maar net zoals AI, ons brein een banaan kan 'genereren' op basis van dezelfde methodes?

Wellicht zijn we minder creatief dan we denken, of denken we creatief te zijn omdat we ons niet meer herinneren wat de input was.

Als AI een 'model' kan maken van een banaan; dan zijn de bananen die hij uit dat model genereerd net zo uniek als wanneer jij een banaan tekent op basis van alle andere bananen die je gezien hebt?

Het wordt een filosofische discussie, maar wetenschappelijk gezien is je brein een opeenstapeling van synapsen.
Creativiteit is iets wat aangeleerd is; een algoritme gevormd in jou brein.

Zelfs al zouden we negeren dat het complexe menselijke brein wel degelijk anders werkt dan een relatief eenvoudig machine learning algoritme, is er een cruciaal verschil tussen kunst gemaakt door mensen en door AI.

Mensen zijn namelijk in staat om inspiratie op te doen, om ideeën uit het echte leven te halen. Dit is waar de meeste echte kunst vandaan komt. AI algoritmen kunnen dat (nog) niet en werken uitsluitend op basis van bestaande kunstwerken, waarbij het gros auteursrechtelijk beschermd.

Jouw inspiratie komt ook van zaken uit de levende wereld waar de meeste dingen auteursrechtelijk beschermd zijn. Heb jij dan ook financieel afdracht daarvoor afgegeven of toestemming gevraagd? Ik wil graag dat je dit administratief bijhoud zodat dit gecontroleerd kan worden.

De meeste dingen in het echte leven zijn niet auteursrechtelijk beschermd. Ga nou niet dingen bij elkaar verzinnen. Bovendien ligt de bewijslast omgekeerd, als jij van iemand iets overneemt dat beschermd is moet JIJ aan bronvermelding doen.

Oh dus als het om jezelf gaat, dan geldt dat ineens niet meer. Hypocriet weer.

Een AI doet en kan dat niet. Het is geprogrammeerd om structureel informatie uit bestaande kunstwerken over te nemen en te verwerken tot een model. Hier komt geen inspiratie aan te pas, want een dergelijk algoritme kan niet nadenken, kan niet creatief en intellectueel te werk gaan, het kan enkel bestaande informatie verwerken.

En waar zit dan precies het verschil met een mens? Zijn de hersenen van de mens niet ook gewoon een machine die voortdurend allerlei informatie opslaat en verwerkt, zodat hij het later een keer kan toepassen? En dat laatste kan natuurlijk bewust of onbewust gebeuren.
Er zijn mensen die inspiratie een soort "Goddelijke vonk" noemen, dus iets dat uit het niets komt, of vanuit een andere dimensie of welja direct van God zelf. Ik geloof daar niet in, ik geloof dat onze hersenen niets meer zijn dan een hele geavanceerde carbon based machine.

Nee, een menselijk brein werkt degelijk niet zoals jij het voorstelt. Een mens gaat niet vooraf miljoenen afbeeldingen bij langs om verschillende structuren hieruit te analyseren op een exacte wijze middels statistische formules om vervolgens middels een prompt de verkregen informatie te herverdelen en recombineren.

Maar het is niet nodig om hier in detail op in te gaan, er is namelijk een ander argument van cruciaal belang dat dit hele argument onderuit haalt: Een mens kan inspiratie opdoen uit de echte wereld, zonder contact met kunstwerken van de betreffende onderwerpen. Dus zelfs al zou je gelijk hebben dat het enorm complexe menselijk brein hetzelfde werkt als een deterministische statistische formule, is het evident dat een mens kunst kan maken zonder inbreuk te maken op het werk van anderen, terwijl machine learning algoritmen per definitie gebaseerd zijn op het overnemen van informatie uit bestaande kunst.

Er zijn mensen die inspiratie een soort "Goddelijke vonk" noemen, dus iets dat uit het niets komt, of vanuit een andere dimensie of welja direct van God zelf. Ik geloof daar niet in, ik geloof dat onze hersenen niets meer zijn dan een hele geavanceerde carbon based machine.

En daarin ben ik het volledig met je eens. Uiteindelijk is alles in het universum verbonden. Niets komt uit het niets. Maar onze hele geavanceerde carbon based machine kan informatie uit 'de echte wereld' halen, waar je computerprogramma dat niet kan en het moet doen met informatie dat volgens het auteursrecht beschermd is.

Wat is er mis met het aanschaffen van een betaalbaar origineel? Waarom moet je persé een kopietje hebben en andermans auteursrecht schenden?

Elk museum verkoopt foto's en posters van werken die in het museum hangen, dat zijn kopietjes. Daar betaal je gewoon een gering bedrag voor aan de rechthebbende, in dit geval het museum. Ook Andy Warhol heeft divers werk waar je posters van kunt kopen, alles in licentie.

Waar trek je nu dan eigenlijk de grens van wat een kunstenaar is en wat gewoon plagiaat is? Andermans werk kopieren is plagiaat, maar een fotograaf maakt een foto van de natuur, en dat landschap is van niemand? En dan mag ik niet op exact dezelfde plek gaan staan en een eigen foto maken? Ik zie dat ook als een kopietje namelijk.

Ik ben overigens helemaal niet 'pro', ik geef gewoon mijn mening.

Ik zei overigens tegen mijn moeder enige tijd terug nog dat het niet lang duurt eer we thuis gewoon een verhaaltje en de cast kiezen, en dat een computer dan gewoon de film genereert. Daar denk ik aan bij deze nieuwe techniek.

Overigens denk ik ook dat jij er waarschijnlijk geen probleem mee hebt, als een mens zijn inspiratie haalt uit computergegenereerde kunst, of heb ik het daar ook mis?

[Reactie gewijzigd door Ramoncito op 24 december 2022 10:23]

Je voorbeeld van het museum ondersteunt juist het punt dat artiesten compensatie verdienen voor hun kunst. Waarom argumenteer je dan niet hetzelfde voor AI?

Andermans werk kopiëren is inderdaad plagiaat mits dit zonder toestemming gebeurt op auteursrechtelijk beschermd werk. Daarom is het namaken van kunst (al of niet gedeeltelijk) niet toegestaan maar het maken van een foto van de natuur wel. Op laatstegenoemde berust namelijk geen auteursrecht.

Als jij toevallig een foto van hetzelfde landschap maakt, zou dat geen enkel probleem moeten zijn. Als jij doelbewust delen van bestaande foto's overneemt is dat wel plagiaat.

Overigens denk ik ook dat jij er waarschijnlijk geen probleem mee hebt, als een mens zijn inspiratie haalt uit computergegenereerde kunst, of heb ik het daar ook mis?

Inderdaad heb je het daar ook mis, maar eerder omwille van het feit dat je hier inspiratie en derivatie expres door elkaar haalt. Inspiratie is nooit het probleem geweest, maar waar jij het over hebt is iets totaal anders. Een computeralgoritme kan namelijk geen inspiratie opdoen. Dit programma kan geen ideeën opdoen, hier creatief over nadenken en vervolgens zelf iets verzinnen, alsof het een wezen met een bewustzijn is. Dat is NIET hoe dergelijke software werkt.

In plaats daarvan haalt het op een complexe manier informatie uit bestaande werken om deze vervolgens te recombineren op een onherleidbare manier, hoewel het nieuwe werk dus voor 100% bestaat uit afgeleid materiaal zonder toestemming van de rechthebbenden. Als je denkt dat ik het daar mee eens zou zijn, heb je mijn voorgaande argumentatie volstrekt niet begrepen.

Maar als jij als kunstenaar een heleboel beschermde plaatjes bekijkt en daar vervolgens een eigen werk van maakt, is dat niet hetzelfde als nu gebeurd met AI-gegenereerde werken?

Is het hier niet de maker van het werk die mij probeert te vertellen wat ik wel of niet met het werk mag doen? Dat ik het niet mag kopieren is duidelijk, maar ik mag er toch naar kijken? Of mijn computer laten kijken? Ik mag er geen electronische kopie van maken, maar dat gebeurd niet als ik het gebruik om AI te trainen, dan worden alleen kenmerken van het werk opgeslagen.

Op de manier waarop jij het verwoordt is dat inderdaad hetzelfde, en pleegt men plagiaat. Dit duidt meteen het verschil tussen inspiratie opdoen (het krijgen van ideeën, voorbehouden aan de mens en niet mogelijk voor (huidige vormen van) AI) en het maken van afgeleiden (waarbij auteursrechtenwetgeving en plagiaat van belang zijn).

Je mag inderdaad naar werken kijken. Je mag er ideeën van opdoen. Je mag de werken NIET gebruiken om hier afgeleiden van te maken, zonder toestemming van de eigenaar. Dat je AI als tussenstap gebruikt maakt principieel gezien geen verschil: Je maakt een afgeleide van een beschermd werk. Bovendien klopt het niet dat er alleen 'kenmerken' van het werk worden opgeslagen, daar de algoritmen meermaals al hebben aangetoond de stijl van specifieke artiesten te repliceren, alsook handtekeningen. Wellicht niet 100% accuraat, maar genoeg om te bewijzen dat een dergelijk algoritme daadwerkelijk onderdelen van de kunstwerken overneemt.

Er zijn legio voorbeelden van fraudeurs die "in de stijl van" schilderijen maakten. Die mensen werden veroordeelt, want je mag niet zonder toestemming kopiëren.

Er is een groot verschil tussen inspiratie en direct afleiden. Als de techniek dat verschil niet haarscherp kan bewaken, is gewoon illegaal.

Ik weet niet of er in Europa al een vergelijkbare uitspraak gedaan is, maar volgens de USA Copyright Office kan er geen auteursrecht toegewezen worden aan afbeeldingen geproduceerd middels AI. Deze afbeeldingen vallen dus automatisch in het public domain.

https://www.smithsonianma...be-copyrighted-180979808/

https://www.copyright.gov...-entrance-to-paradise.pdf

Interessante uitspraak.

Helemaal ingewikkeld wordt het als ik een AI-gegenereerd plaatje nateken of naschilder of gebruik in mijn kunstuiting. Is het dan weer wel een origineel werk geworden?

Dan is het niet meer AI-gegenereerd, dus ja.

Ja en nee. Je zou kunnen argumenteren dat er op dit niveau geen sprake meer is van plagiaat daar je bron een public domain afbeelding is, maar het getraceerde werk dat hieruit voortvloeit valt onder dezelfde regelgeving ook direct in het public domain, dus ook op dat werk zou geen auteursrecht berusten. Pas als je zelf iets inbrengt, er voldoende eigen dingen aan toevoegt, kan je spreken van een origineel werk.

Neem als voorbeeld het © copyright logo. Een symbool dat vrij voor iedereen te gebruiken is. Als jij dit symbool overtrekt, heb je niet een nieuw werk gemaakt. Iedereen mag nog steeds jouw overgetrokken symbool gebruiken om opnieuw over te trekken, en jij kan dan geen beroep doen op het auteursrecht. Maar stel nu dat je een slang maakt van verschillende © logo's aan elkaar, op een zodanige wijze dat je het als kunstwerk kan beschouwen. Dan berust er wel auteursrecht op en mag een ander dit niet zonder jouw toestemming overnemen.

Of wanneer ik een AI-gegenereerd plaatje gebruik als trainingsdata voor een andere AI.

Volgens mij ligt de kern van het probleem in het feit dat naderhand niet meer na te gaan is welke beelden gebruikt zijn voor de training van de AI.

Dat kan je toch ook niet met mensen? Als mens met ezel, penseel, en verf, mag ik ook geen kopie maken van een beschermd werken die kopie dan verspreiden, maar een werk 'in de stijl van' mag wel, en zelfs als je dat niet bewust doet is jouw eigen werk altijd beïnvloed door andere werken (al dan niet beschermd) die je ooit zag, en dan kan je dus ook niet achterhalen of een bepaald 'geïnspireerd' is door een beschermd werk, en zo ja door welk.

Ik snap dat mensen dit eng vinden en we hier een discussie over meotne hebben, maar dit is wel een moment dat we even kritisch moeten kijken naar wat een kopie is, wat eigenlijk een beschermd werk is, en of de grenzen die we tussen menselijk en machinaal werk trekken niet arbitrair zijn.

Daarom zijn simpele uitspraken zoals "de artiesten wiens werk gebruikt is gaven geen toestemming dus het mag niet" niet echt nuttig: dat is vasthouden aan oude paradigma's die echt niet meer gelden, en als we daar echt aan vasthouden wil dat zeggen dat alles wat alle artiesten ooit deden nu ook verboden is.

[Reactie gewijzigd door kiang op 22 december 2022 15:34]

Iedereen zal het erover eens zijn dat een kopie maken van een beschermd werk niet mag, of dat nu een mens is of een machine.

De kwestie hier is of je beschermde werken mag gebruiken als invoer van de AI.

Als je de vergelijking met menselijke inspiratie wil doorzetten, zou je mensen/kunstenaars moeten verbieden naar beschermde plaatjes te kijken. En wat doe je als je ze toch gezien hebt?

De kwestie hier is of je beschermde werken mag gebruiken als invoer van de AI.

Maar dat gebeurt wel bij mensen, waarom mag het wel bij mensen maar niet bij een AI?

Als je de vergelijking met menselijke inspiratie wil doorzetten, zou je mensen/kunstenaars moeten verbieden naar beschermde plaatjes te kijken. En wat doe je als je ze toch gezien hebt?

Precies mijn punt. Waarom steigeren we als een AI het doet, maar wanneer 50 shades of grey geschreven werd, wat de begon als fanfiction van twilight, vonden we dat ok?

Alles is geïnspireerd door andere werken. Simpelweg zeggen "de AI leert van beschermde werken dus het is plagiaat" is daarom een te domme redenering.

[Reactie gewijzigd door kiang op 23 december 2022 10:56]

Niet alles is geïnspireerd door andere werken. De voornaamste inspiratiebron is het echte leven, niet bestaande auteursrechtelijk beschermde kunst. En daar komen we bij het zeer belangrijke verschil tussen inspiratie en derivatie: Inspiratie opdoen is oké. Het maken van afgeleiden van bestaande kunstwerken (zonder toestemming en bronvermelding) is plagiaat. Als je de mens en AI gelijk wil trekken, moet je de AI instrueren om rekening te houden met het auteursrecht.

Niet alles is geïnspireerd door andere werken.
De voornaamste inspiratiebron is het echte leven, niet bestaande auteursrechtelijk beschermde kunst

Onzin, bewust of onbewust maakt niemand content volledig uit eigen inspiratie. Je neemt altijd invloeden mee van werken die je al gezien hebt.

Een AI mist dan wel een 'eigen unieke leven' om aanvullende inspiratie uit te halen, maar heeft ook genoeg bronnen buiten beschermde werken: natuurlijk zijn er ook werken uit het openbaar domein, maar ook gewoon materiaal dat simpelweg openbaar is, zoals geschiedenisteksten, afbeeldingen uit de actualiteit, etc.

[Reactie gewijzigd door kiang op 23 december 2022 13:27]

Helemaal geen onzin, en niet relevant voor de auteursrechtenwetgeving. Met jouw redenering kan deze net zo goed afgeschaft worden. Het is alsof je stelt dat omdat alle objecten wel ergens vandaan komen, iedereen een dief is. Zo werkt het niet.

Wijzen naar wat de huidige wetgeving zegt is een absoluut zwaktebod van je in dit gesprek, want het probleem is net dat de wetgeving totaal niet voldoet. Dat is ook logisch want de huidige technologie was totaal ondenkbaar toen die wetten geschreven werden.

Ik heb het dus expliciet niet over wat de wet wel of niet zegt: dat is uitermate ononteressant en momenteel, nu er een technologie ontstaan is die alles verandert, totaal nutteloos.

We moeten het met hebben over wat we wel en niet wenselijk vinden, zodat we dan kunnen nadenken hoe nieuwe wetten er moeten uitzien. In die discussie zeggen "ja maar de meer dan honderd jaar oude wet zegt dat..." is nutteloos.

[Reactie gewijzigd door kiang op 23 december 2022 17:27]

De Europese Auteurswet is nog vrij jong, en het is strenger dan wat we voorheen hadden met de Nederlandse variant. Dat rietje waar je naar grijpt is dus nogal zwak.

Dat het niet 100% duidelijk is of deze vorm van afgeleiden maken valt onder het auteursrecht is één ding, maar om de wet volledig te negeren want "ja maar is oud" is nutteloos.

Er zijn al kunstenaar die hun eigen handtekening zagen (of een licht vervormde vorm ervan) op beelden die uit de AI molen kwam gerold. Nou... lekker dan! en wie is daar nu verantwoordlijk voor? lijkt mij dat je de AI maker flink kunt aanklagen zolang er geen duidelijker regels over gelden.

AI handtekeningen zijn over het algemeen onleesbaar, en komen enkel in de output terecht omdat de AI "weet" dat een schilderij vaak op een bepaalde plek een handtekening heeft. Als een artiest inderdaad zijn eigen handtekening herkent dan is dat of toeval, of is de trainingsdata vervuild met te veel werken van diezelfde artiest. Dat laatste zou je in een professioneel model niet terug moeten zien.

Hetzelfde kan overigens gebeuren met bijvoorbeeld het "Shutterstock" watermark. Als je de AI vraagt om een stock-achtige afbeelding zal de AI "denken" dat daar een watermark in hoort en dit "tekenen". Als je vervolgens "watermark" in je negatieve prompt zet komt er geen "Shutterstock" in de gegenereerde afbeelding te staan.

Volgens mij ligt de kern van het probleem in het feit dat naderhand niet meer na te gaan is welke beelden gebruikt zijn voor de training van de AI.

De kern is volgens mij ook niet geldig.
Kunstenaars baseren hun kunst namelijk ook op ervaringen en beelden die ze in hun leven hebben gezien.
Een AI is niet wezenlijk anders. Die kan alleen een leven aan ervaringen in een paar dagen doorlopen.
Maar bij beide is de situatie vergelijkbaar: ze hebben een grote dataset gezien, waar ze vaak geen "rechten" over hebben, en produceren iets dat daardoor beinvloed is, maar je weet nooit hoeveel.

[Reactie gewijzigd door Zynth op 22 december 2022 21:27]

Dit is een onjuiste redenering. Een AI doet namelijk geen ervaring op en kan niet geïnspireerd raken. Dergelijke deterministische algoritmen werken NIET zoals de mens, in tegenstelling tot wat AI-evangelisten willen dat je gelooft.

Het verschil tussen inspiratie en derivatie is tevens eenvoudig aan te tonen. Een mens kan door het zien van fruit geïnspireerd raken een banaan tekenen, zonder ooit kunstwerken van bananen gezien te hebben, op basis van eigen ervaringen met het fysieke object. Ook kan de mens dit wanneer deze wel kunstwerken ervan gezien heeft. Zolang er geen gebruik gemaakt wordt van bestaande werken, is er geen sprake van plagiaat.

Een AI kan dit niet. AI is geen bewustzijn dat creatief en intelligent kan nadenken, het functioneert enkel en exact volgens een voorgeprogrammeerde set instructies. Het maakt exclusief gebruik van bestaande kunstwerken, waar grotendeels het auteursrecht op berust, om een composietmodel te genereren en dit model vervolgens te gebruiken om onderdelen ervan samen te voegen volgens instructies van de gebruiker.

---

Een eenvoudiger tegenargument. Stel, een mens tekent een bestaande foto na. Duidelijk voorbeeld van plagiaat. Stel, een mens neemt structuren van meerdere portretten tegelijk over in een nieuw werk. Ook evident plagiaat. Nu dit: een mens past ditzelfde principe toe op duizenden auteursrechtelijk beschermde afbeeldingen tegelijk. Is het dan opeens geen plagiaat meer?

Nogmaals, let op het verschil tussen inspiratie opdoen het en het overnemen van bestaand werk. Dit verschil is cruciaal.

Nu dit: een mens past ditzelfde principe toe op duizenden auteursrechtelijk beschermde afbeeldingen tegelijk. Is het dan opeens geen plagiaat meer?

Ik ben geen juridisch expert, maar het is goed mogelijk dat het dan inderdaad geen plagiaat meer is. Naar mijn weten is het in Nederland belangrijk voor hoe groot deel je een werk overneemt en hoeveel je het nadien bewerkt om te bepalen of iets plagiaat is.

Er is inderdaad een overweging in hoeverre een nieuw werk bestaat uit bestaand werk, al of niet gewijzigd. Maar bij AI geldt dat de volledige afbeelding is opgebouwd uit informatie van verscheidene bronnen. Zelfs al zou je dit niet als plagiaat opmerken - wat erg discutabel is - heb je alsnog te maken met de fair use clausules die attributie verplicht stellen. Je moet op zijn minst alle gebruikte bronnen vermelden.

Je moet op zijn minst alle gebruikte bronnen vermelden.

Het lijkt me dat je daaraan kan voldoen door aan te geven dat je AI hebt gebruikt, en welk model.

AI is niet de bron. AI is het middel waarmee je de bronnen gebruikt hebt. Als jij informatie uit een wetenschappelijk artikel haalt, kan je niet af met het noemen van "NCBI" als bron, de website waarmee je het artikel gevonden hebt. Met bronvermelding verwijs je naar de daadwerkelijke origine van de informatie.

Het zou wel een kleine stap in de juiste richting zijn als iedere AI gebruiker verplicht zou moeten vermelden dat 'zijn' werk AI-gegenereerd is.

Ik ben geen AI evangelist, maar ben wel goed op de hoogte van hoe deze technieken werken, en er zitten in ieder geval een aantal onjuistheden in je verhaal. Zo is het trainen van een neuraal netwerk bijvoorbeeld geen deterministisch proces, en alhoewel de outputs van meerdere op dezelfde dataset getrainde neurale netwerken met dezelfde architectuur wel reproduceerbare patronen laten zien, is er geen correlatie tussen de coefficienten van deze netwerken. "Enkel en exact volgens een voorgeprogrammeerde set instructies" is dus te kort door de bocht.

Ook je betoog over het verschil tussen inspiratie en derivatie; je doet het voorkomen alsof een neuraal netwerk gewoon al die afbeeldingen opslaat en vervolgens een stukje van de ene afbeelding neemt, en dat combineert met een stukje van een andere afbeelding, alsof het intern een soort grote lookuptable heeft. Zo werken dit soort technieken niet.

Het is voor mij lastig te bevatten wat creativiteit precies is. Om bijvoorbeeld je laatste voorbeeld over het natekenen van portretten te gebruiken: ik denk dat er voor ieder getekend portret een aantal eerder getekende portretten te vinden zullen zijn die vergelijkbare structuren hebben.

Een mens kan nadenken. Een neuraal netwerk algoritme niet, hoe je het ook went of keert. Desalniettemin doet het er niet toe of je de beide gelijktrekt, het gaat er om dat een mens kunst kan maken zonder gebruik van bestaande kunst, terwijl een AI dat (nog) niet kan. Het maken van afgeleiden zonder toestemming kan je niet goedpraten onder het mom van "inspiratie", het is gewoon keiharde plagiaat. Dat is voor een AI niet anders dan voor een mens.

dat is waar ze voor vrezen. Ik ben ervan overtuigd dat er genoeg datasets te maken zijn waar beelden in zitten die volgens het platform waar ze op staan mogen gebruikt worden. Dat is dan ook een geschil tussen de maker en de hoster.

Als je als maker iets vrij deelt, dan moet je er rekening mee houden dat anderen er inspiratie uit kunnen halen om iets soortgelijks te maken en een AI dus ook. Als je dat niet wil, dan moet je een andere manier van delen kiezen en waarschijnlijk ook een ander platform, dat dat je dan minder exposure geeft zal je moeten meenemen in je beslissing.

Als je als maker iets vrij deelt, dan moet je er rekening mee houden dat anderen er inspiratie uit kunnen halen om iets soortgelijks te maken en een AI dus ook.

Let wel op het verschil tussen inspiratie en derivatie. Een mens kan na het zien van een afbeelding op het internet inderdaad geïnspireerd raken om iets vergelijkbaars te maken, zonder de hiervoor genoemde afbeelding te gebruiken. Een mens kan ook kunst maken zonder ooit in zijn leven een ander kunstwerk van het betreffende onderwerp gezien te hebben, zowel van dingen die hij in het echte leven gezien heeft als volledig originele concepten.

Een AI kan dit niet. Er komt geen inspiratie aan te pas bij een deterministisch algoritme dat op grote schaal afbeeldingen van het internet haalt, deze opdeelt in segmenten, de segmenten vervolgens combineert tot een set van composietmodellen en deze vervolgens combineert volgens instructies van de gebruiker. Er komt tevens geen creativiteit of intellect bij kijken, ondanks wat de term "AI" doet vermoeden.

Dat iemands iets deelt op het internet, betekent niet dat het anderen hier vrij gebruik van kunnen maken om welke manier dan ook. Het auteursrecht geeft de auteur namelijk het alleenrecht op publicatie, redistributie, het maken van afgeleiden, commercialisatie en een aantal vergelijkbare rechten die van toepassing zijn op zijn werk en afgeleiden hiervan. Pas als de auteur toestemming verschaft, mogen anderen hier gebruik van maken. Tevens dient er aan bronvermelding gedaan te worden.

Als je dat niet wil, dan moet je een andere manier van delen kiezen en waarschijnlijk ook een ander platform

Het platform is niet relevant voor de auteursrechtenwetgeving. Zonder expliciet een gesigneerd contract te ondergaan waarbij jij je rechten van een werk afstaat aan een ander, heeft geen enkel platform het recht om jouw auteursrecht aan te tasten. Het enige recht wat platformen zich mogen toe-eigenen zonder hierbij ditzelfde recht te ontnemen van de auteur, is het recht op publicatie en redistributie. Dit is puur vanuit functioneel oogpunt, om art-websites überhaupt te laten werken. Platformen kunnen geen rechten voor jouw werken ontlenen aan anderen. Jij blijft de rechtmatige eigenaar en anderen mogen deze en afgeleiden niet herpubliceren of commercialiseren.

Een dataset is iets anders dan scrapen of zoals jij het noemt "op grote schaal afbeeldingen van het internet halen". Het is niet per definitie zo dat segmenten herbruikt worden, eerder bepaalde eigenschappen en dan is het nog maar de vraag hoe groot de invloed is van de individuele originelen op de totale analyse. Bijvoorbeeld als er 500 kattenfoto's in een dataset van 500.000 zitten die 4% meer likes krijgen tov de overige 499.500 zonder katten, dan zal de AI uitvissen dat een render van iets dat op een kat lijkt mogelijks aantrekkelijker is. Jouw 501e foto zal dan misschien niets substantieels meer bijdragen. Dat is zowel het voor- als nadeel van big data: originele ideeën bestaan quasi niet en het kan zijn dat die overeen komen met analytische parameters waarop een AI zich baseert om iets nieuws te genereren, net zoals mensen dat ook doen (al dan niet onbewust).

jaxxil had het specifiek over "vrij delen" en daarom ook dat ik aangaf dat je daar rekening mee moet houden onder welke voorwaarden je een werk openbaar maakt (wat nog iets anders is dan wanneer je publiceert). Als je in zee gaat met een buitenlands bedrijf kan het ook zijn dat er een andere wetgeving van kracht is.

Wat veel mensen hier niet door schijnen te hebben, is dat AI helemaal niet kijkt. Computers kopiëren beelden en gaan er dan wat mee doen. Als een mens kijkt, voor inspiratie, dan slaan we direct een interpretatie op van het beeld. We kunnen onmogelijk uit ons brein een exacte kopie produceren. Zelfs de meest getalenteerde vervalsers kijken tijdens het schilderen in de minuut met een vergrootglas naar het orgineel.

Het is dus heel eenvoudig. Je mag je laten inspireren. Je mag niet een exacte kopie opnemen. Mensen niet. Computers niet.

Dit is met de huidige stand van zaken in AI niet zo heel anders; Bijvoorbeeld bij stable diffusion wordt gebruik gemaakt van autoencoders, technieken waarbij maps worden gemaakt van een afbeelding naar een een concept space (ook wel latent space genoemd), en weer terug naar een afbeelding. Bij synthese wordt alleen de decoder gebruikt, dus de map van latent space naar afbeelding. Dit is analoog aan het hebben van een interpretatie van een afbeelding. Uit deze maps kun je ook de originele afbeeldingen waarop het model is getraind niet reproduceren.

Bij synthese met dit soort technieken worden er dus geen kopieen gemaakt, of opgeslagen.

Die kopie wordt echt gemaakt. Ze lezen het beeld in. Verwerken dat. Natuurlijk wordt het orgineel direct verwijderd. Beetje dom om te suggereren dat alles permanent opgeslagen zou worden. Maar daar gaat het dus niet om. Het punt is de eerste absolute en reproduceerbare stap. Die is illegaal.

Grappig trouwens, ik ben 35 jaar geleden afgestudeerd op AI en er is principieel bijzonder weinig veranderd.)

[Reactie gewijzigd door tomvld op 25 december 2022 04:05]

Even goed lezen. Niemand suggereert dat.

Ik wil helemaal geen toekomst waarin het als kunstenaar nog onmogelijker wordt om je brood te verdienen omdat je moet concurreren met iets wat eventjes uit Stable Diffusion rolt. De schat aan training data die we nu hebben is er alleen maar omdat heel veel mensen heel veel mooie dingen gemaakt hebben en die vaak vrij gedeeld hebben. Dat moet niet afgestraft worden.

Je gaat dit niet tegen kunnen houden. De technologie is er. Theoretisch kan men ook een heel nieuw model maken waarin alleen wordt getraind met vrij te gebruiken afbeeldingen (bijvoorbeeld oude schilderijen) en zelf genomen foto's. Ik weet niet of we het dan over weken, maanden of jaren zouden hebben, maar de output zou gewoon hetzelfde niveau bereiken. Soms worden er gewoon uitvindingen gedaan die er voor zorgen dat er ineens veel minder mensen nodig zijn in een bepaald beroep, en nu/binnenkort zijn tekenaars aan de beurt.

Zelf ga ik hier als developer ook mee te maken krijgen, al hoop ik natuurlijk dat ik AI in mijn workflow op kan nemen en niet wordt vervangen.

Je gaat dit niet tegen kunnen houden. De technologie is er.

Ik heb een hekel aan dit argument. Er is echt een heel leger naieve techno-optimisten die gewoon technologie ontwikkelt en released, niet nadenkt over de sociale gevolgen of implicaties, en vervolgens terugkomt met "tja de technologie bestaat nu nu hebben we er helaas maar mee te leven". Die cyclus is onacceptabel. Bijvoorbeeld de mensen die AI gezichtsherkenning uitgerust hebben met ethniciteitsdetectie; waar ben je mee bezig? Hoe gaat dit de wereld beter maken?

Overigens kunnen we technologie prima stoppen. Mensen genetisch engineeren is al even mogelijk, maar alle genetici zijn samengekomen en hebben gezegd dat de sociale gevolgen daarvan zo onoverzichtelijk en onwenselijk zijn dat ze het in de ban gedaan hebben. Kunnen wij als techneuten nog wat van leren.

Soms worden er gewoon uitvindingen gedaan die er voor zorgen dat er ineens veel minder mensen nodig zijn in een bepaald beroep, en nu/binnenkort zijn tekenaars aan de beurt.

Als je een zaag maakt, dan wil je gewoon een goede zaag hebben die makkelijk een tak van een boom haalt. En machinerie die je helpt om meer zagen te maken, en consistenter zagen te maken, helpt daarbij. Het zorgt dat meer mensen zagen kunnen hebben en er gebruik van kunnen maken.

Kunst werkt niet zo, digitale afbeeldingen al helemaal niet. Ten eerste zijn digitale afbeeldingen al oneindig reproduceerbaar, iedereen kan alle jpeg's hebben die ze willen, dus dat voordeel van automatisering vervalt. Ten tweede kan AI niet innoveren, maar alleen maar reproduceren in nieuwe combinaties. Een samenleving waar alle kunst AI-generated is is een samenleving waarin de kunst stilstaat. Standaardisatie is geen probleem met zagen; als je een goede zaag hebt dan is het niet erg om 100000 keer dezelfde zaag te maken. Maar kunst wordt gedreven door innovatie en mensen die het constant veranderen als reflectie van een veranderende samenleving.

Dat is het verschil. Een samenleving met machinerie die meer zagen maakt leidt tot een samenleving met meer zagen voor iedereen om te gebruiken. Een samenleving met AI die bestaande kunst hercombineert, en zo alle tekenaars zonder baan laat zitten, leidt tot een samenleving met minder kunst.

[Reactie gewijzigd door jaxxil op 22 december 2022 13:36]

Het is een vrij lange post, maar ik zal proberen op al je punten in te gaan.

Ik heb een hekel aan dit argument. Er is echt een heel leger naieve techno-optimisten die gewoon technologie ontwikkelt en released, niet nadenkt over de sociale gevolgen of implicaties, en vervolgens terugkomt met "tja de technologie bestaat nu nu hebben we er helaas maar mee te leven". Die cyclus is onacceptabel. Bijvoorbeeld de mensen die AI gezichtsherkenning uitgerust hebben met ethniciteitsdetectie; waar ben je mee bezig? Hoe gaat dit de wereld beter maken?

Op welk punt in de ontwikkeling van deze technologie hadden de ontwikkelaars stil moeten staan bij de sociale gevolgen of implicaties? We hebben het niet over de ontwikkeling van de atoombom, of over de software voor gezichtsherkenning die je noemt, maar over een programma wat plaatjes maakt. Je zou nog kunnen beargumenteren dat een AI "onwenselijke" afbeeldingen kan maken zoals kinderporno of propaganda, maar letterlijk elke artiest met photoshop en voldoende tijd en ervaring zou hetzelfde kunnen doen. Het enige sociaal onwenselijke gevolg wat ik kan bedenken is dat artiesten niet, of in ieder geval minder makkelijk, hun brood kunnen verdienen met hun kunst. Als dat een argument zou zijn dan kunnen we de vooruitgang echter wel stoppen, omdat nieuwe technieken er altijd voor zullen zorgen dat bepaalde banen overbodig worden.

Als je een zaag maakt, dan wil je gewoon een goede zaag hebben die makkelijk een tak van een boom haalt. En machinerie die je helpt om meer zagen te maken, en consistenter zagen te maken, helpt daarbij. Het zorgt dat meer mensen zagen kunnen hebben en er gebruik van kunnen maken.

Kunst werkt niet zo, digitale afbeeldingen al helemaal niet. Ten eerste zijn digitale afbeeldingen al oneindig reproduceerbaar, iedereen kan alle jpeg's hebben die ze willen, dus dat voordeel van automatisering vervalt. Ten tweede kan AI niet innoveren, maar alleen maar reproduceren in nieuwe combinaties. Een samenleving waar alle kunst AI-generated is is een samenleving waarin de kunst stilstaat. Standaardisatie is geen probleem met zagen; als je een goede zaag hebt dan is het niet erg om 100000 keer dezelfde zaag te maken. Maar kunst wordt gedreven door innovatie en mensen die het constant veranderen als reflectie van een veranderende samenleving.

Dat is het verschil. Een samenleving met machinerie die meer zagen maakt leidt tot een samenleving met meer zagen voor iedereen om te gebruiken. Een samenleving met AI die bestaande kunst hercombineert, en zo alle tekenaars zonder baan laat zitten, leidt tot een samenleving met minder kunst.

Je lijkt het idee te hebben dat er enkel een prompt wordt ingevoerd en op de knop wordt gedrukt bij het maken van afbeeldingen met behulp van AI. Voor veel mensen die een portret voor hun D&D karakter of een vette bureaubladachtergrond willen maken zal dit inderdaad zo zijn, maar voor een artiest die een idee op papier wil zetten zijn er veel meer mogelijkheden. Kijk bijvoorbeeld naar deze afbeelding op Reddit, die met behulp van Stable Diffusion is gemaakt. Lees ook vooral het commentaar van de maker, waarin hij uitlegt wat hij allemaal heeft gedaan. De mens maakt hier de kunst, de AI is slechts een hulpmiddel om het idee vanuit iemands hoofd te vertalen naar een afbeelding.

Ik ben zelf dus van mening dat wat men met behulp van AI maakt net zo goed een uiting is van de intellectuele en creatieve vaardigheden van de mens. Kijk bijvoorbeeld eens naar deze afbeelding op reddit , en naar het proces wat de maker heeft doorlopen. Het gebruik van deze tools gaat zo veel verder dan enkel het invoeren van een prompt... Hoe is het gebruik van SD in dit geval anders dan het gebruik van allerlei andere handigheden in photoshop?

Ik ben blij dat je dit voorbeeld geeft. De voorbije weken heb ik veel mensen gezien die alle gebruikers van text-to-image AI software herleiden tot "domme mensen die op een knop klikken" of bv zeggen "Only virgins and losers use this". Spijtig...

Terwijl er echt wel leuke dingen gemaakt worden, zoals de music video van de band Disturbed - Bad Man om een voorbeeld te geven.

Dit is echt nog maar het prille begin. Aan het begin van dit jaar waren we samen aan het feesten omdat er een panda op een fiets tevoorschijn kwam op je scherm. Nu heb je inpainting/outpainting/embeddings/depth masks/Dreambooth/deformer/enz.. om maar een paar van de tools te noemen.

Mensen zullen deze technologie zeker op een hele creatieve manier leren gebruiken, we gaan een zeer interessant 2023 tegemoet. Fijne feestdagen allemaal.

Kijk hier kan ik het alleen maar mee eens zijn. Het AI doom denken en kunstenaars zelfprotectie discussie is maar tijdelijk. AI is gewoon niet te stoppen, maar wel goed reguleren. Het is en blijft een tool, net als een mes. Je kan er brood mee snijden, maar in verkeerde handen...

Dan is het toch vanzelfsprekend dat je argumenteert voor juist gebruik van de tool, en het onethisch handelen tegenspreekt? Ik zou het ook meer dan prima vinden als de algoritmes uitsluitend gebaseerd zijn op public domain afbeeldingen zonder auteursrecht. Maar helaas gebeurt dat (nog) niet. Waarom dan toch de inbreukmakende vormen van AI verdedigen?

Ik zou het ook niet "doom denken" willen noemen. Artiesten hebben legitieme zorgen over hun rechten en toekomst. Het is toch van de zotte dat iemand jouw toekomst als professioneel artiest kan vergallen door middel van je eigen kunstwerken? Dit hele zaakje stinkt en het is ronduit walgelijk hoeveel mensen blindelings AI verdedigen.

Ik zie het maar als dataset. Beetje overdreven reactie alsof hier ook maar iets van een onethische handeling plaatsvindt. We gaan toch naar een wereld toe waar de tooling zo slim wordt dat iedereen zijn eigen creatieve ideeën op een vrij eenvoudige manier kan realiseren. Je kan je idd dan afvragen of voor dat deel nog plek is voor de "professionele" kunstenaars. Tijd voor omscholing.nl en kijk verder dan je eigen bubbel om te constateren dat genoeg nieuwe uitdagingen zijn wat wel brood op de plank brengt.

Als iemand verschillende segmenten van muzieknummers samenvoegt tot een 'nieuw' nummer zonder toestemming en bronvermelding, kan je toch ook niet af met "ik zie het maar als dataset"? Waarom zou het dan met AI opeens anders zijn? Er is niets overdreven aan de reactie van artiesten wiens rechten geschonden worden om vervolgens door ditzelfde fenomeen hun baan te verliezen.

Tijd voor omscholing.nl

Victim blaming ten top. Het is alsof iemand je huis leegrooft en al je geld steelt, jij persoonlijk failliet gaat en een ander dan zegt dat je maar iets anders had moeten doen. Walgelijk patroniserende opmerking.

Er is hier niemand slachtoffer zoals jij beweert. De patronen zijn niet herleidbaar naar enig (kunst) werk en daarmee is je punt niet van toepassing. Vind wel dat dit in de voorwaarden van de site moet staan. Het is dan aan de uploader of die gebruik wil maken van dat platform.

Hier een leuk plaatje gevonden dat deze leugen keihard onderuit haalt: https://i.imgur.com/WFxTYdA.png

Er zijn WEL slachtoffers in dit verhaal: de artiesten wiens auteursrecht geschonden wordt. De artiesten die niet meer aan commissies komen daar particulieren en bedrijven overstappen op het veel snelle en veel goedkopere alternatief. De artiesten die hun inkomen verliezen ten gevolg van de opmars van AI.

Het is alsof je argumenteert dat er geen slachtoffers van diefstal kunnen zijn. Wat denk je nou zelf?

Leuk gegoogled, maar dat is duidelijk fake. Je kan bestaande plaatjes aanpassen met AI. Dat is hier bewust door iemand gebeurd en niet door ai zelf gegenereerd. Sterker nog ik kan een plaatje downloaden en met de hand aanpassen. Komt op hetzelfde neer. Je haalt verder twee dingen door elkaar. Het is prima dat er overgestapt wordt op goedkopere alternatieven. Welkom in de wereld van technologische vooruitgang. Het betreffende werk is echter op geen enkele wijze geschonden, dus er zijn daar geen slachtoffers.

[Reactie gewijzigd door drakiesoft op 23 december 2022 14:03]

Ja, zo kan ik het ook wel. Alle feiten die je niet aanstaan fake noemen. Welkom in de wereld van techonlogische vooruitgang! Al je bezit is nu van ons. Wil je er iets aan doen? Jammer dan!

[Reactie gewijzigd door Lapjespoes op 23 december 2022 14:05]

Fake is misschien het verkeerde woord, maar jouw voorbeeld is in deze discussie niet van toepassing.

Als je vind dat je auteursrecht is geschonden, dan kan je naar de rechter gaan en een fikse schadevergoeding vragen.

Het plaatje wat je linkt is een beetje flauw, Dall-E, Stable Diffusion en Midjourney gebruiken miljarden afbeeldingen en zullen geen rechtstreekse kopie teruggeven.

Dat kunstenaars straks minder werk hebben is niet relevant. De echte vernieuwers blijven toch wel interessant (misschien nóg interessanter). Het is hetzelfde als de mensen die klaagden bij de komst van de boekdrukkunst, de fotografie en meer recent automatisering en het internet. Veel mensen hebben ander werk moeten zoeken, maar er is ook erg veel nieuwe werkgelegenheid bijgekomen.

Vroeger waren portretten alleen voor rijke mensen weggelegd. Nu maakt iedereen zonder na te denken een foto met zijn mobieltje. Hetzelfde zal gebeuren met illustraties.

Hier een leuk plaatje gevonden dat deze leugen keihard onderuit haalt:
https://i.imgur.com/WFxTYdA.png

Ik weet niet wat de bron van deze afbeelding is, maar dit is wel degelijk heel makkelijk te simuleren.

Ik gebruik zelf de WebUI van Automatic1111 voor stable diffusion. Je gaat naar de Img2img tab waar je een parameter kan terugvinden dat 'denoising strength ' noemt. Hoe lager de value van deze parameter, hoe dichter bij de input afbeelding het resultaat blijft. Op deze manier kun je minieme veranderingen aanbrengen.

Maar nogmaals, ik ken de bron niet. Als je zo dicht bij het origineel komt door middel van een prompt zoals het alom bekende "afghani woman with green eyes", dan is er inderdaad een probleem.

Zelfs bij dat voorbeeld, zijn er toch vragen te stellen. Dit lijkt specifiek op Midjourney te slaan.

Muziek draait grotendeels om de ervaring van een live concert. We kunnen nu al automatisch muziek maken, echter luistert er niemand naar.

Verschil met afbeeldingen is dat daar de menselijke inbreng grotendeels irrelevant is. Je wil voor een advertentiecampagne een foto van een kikker op een fiets in de stijl van Marc Rutkowski en wie de afbeelding maakt, zal je worst wezen. Dit soort markt is rijp voor disruptie.

Overigens ben jij een van de velen die blijkbaar denkt dat er miljoenen foto’s in een model van 4GB zitten.

Jobverlies is nooit goed op korte termijn, maar indien we in 1830 het automatische weefgetouw hadden tegengehouden, dan was kleding nu een stuk duurder en zeldzamer, en dan zou ondermeer de hele mode-industrie met alle erbij horende jobs niet bestaan. Toen was een carrière voor het leven en waren alle wevers de pineut, tegenwoordig moet de jobmarkt toch wat beter in elkaar zitten…

Laten we eens denken wat we met deze technologie kunnen doen dat we tot nu toe niet konden, en hierop aansturen middels reglementering. Dan kunnen we zomaar eens eindigen met meer jobs ipv minder.

Je maakt een aantal aannames over mijn standpunt die volledig onjuist zijn. Nergens heb ik gezegd dat de afbeeldingen als zodanig worden opgeslagen. Het hele punt aan dergelijke algoritmen is dat ze composieten maken van objecten gehaald uit bestaande werken. Het is het digitale equivalent van kopiëren van onderdelen uit meerdere afbeeldingen tegelijk in een nieuwe afbeelding, en dat per object. Dus je gaat wel degelijk van vele afbeeldingen naar een enkel model dat dus minder ruimte inneemt.

Dat je nu het weefgetouw aanhaalt als argument duidt dat je totaal niet begrijpt waar het probleem daadwerkelijk om gaat: auteursrechtenschending. Dat automatisering bij elk beroep kan toegepast worden is duidelijk en niet tegen te gaan. Maar dat betekent niet dat je deze automatisering mag inzetten om de wet te overtreden. Als jij iets ontwikkelt waarmee je heel makkelijk iets van een ander steelt, kom je niet weg met het argument dat we nieuwe technologie maar moeten toelaten want ontwikkeling zus toekomst zo. Dit geldt net zo goed voor andere wettelijk bepaalde beschermingen, zoals voor intellectueel in plaats van fysiek eigendom.

Ik had een hele reply hier op geschreven, per ongeluk tegen de zijknop van mijn muis gestoten, browser doet automatisch vorige pagina, reply weg Ik doe de korte samenvatting (ja dit is de korte samenvatting, mijn excuses).

Op welk punt in de ontwikkeling van deze technologie hadden de ontwikkelaars stil moeten staan bij de sociale gevolgen of implicaties? [...] Het enige sociaal onwenselijke gevolg wat ik kan bedenken is dat artiesten niet, of in ieder geval minder makkelijk, hun brood kunnen verdienen met hun kunst.

Bij elke ontwikkeling van technologie moet je je afvragen, wat gebeurt er als dit ons lukt? Toen we aan het internet begonnen was iedereen intens positief. "Iedereen kan met iedereen in contact komen over de hele wereld! Iedereen kan bij alle kennis van de hele wereld! We worden zoveel socialer en geleerder door het internet!". Inmiddels merken we dat we ontzettende problemen hebben met allerlei bizarre complottheorieen en misinformatie die 100 keer sneller gedeeld kunnen worden dan de waarheid, en tieners die dysmorphie krijgen door het browsen van Instagram. Voorzichtigheid met technologie is inmiddels wel geboden.

Vragen die voortkomen uit image generation AI zijn bijvoorbeeld:
- Hoe kan je er voor zorgen dat de kunstenaars die geholpen hebben om deze technologie tot stand te laten komen, er niet direct de dupe van worden?
- Mag je eigenlijk wel in je training data images gebruiken waarvoor je geen copyright hebt, alleen maar omdat ze vrij verkrijgbaar zijn op het internet?
- Hoe toepasselijk is copyright eigenlijk? Is alleen het feit dat niemand dit voorzien had en er dus geen expliciete regels zijn over of je werken mag opnemen in AI training data genoeg "toestemming"? Als je gaten in je image laat opvullen door je AI, wiens creatief werk gebruik je dan? Mag je het werk/de stijl van deze persoon zomaar gebruiken?
- Hoe zorg je er voor dat je AI gebruikt kan worden als creatieve tool ter assistentie in het creatieve proces, en niet dat deze dingen doet zoals z'n training data gewoon weer ophoesten, ditmaal copyright-loos ter nadele van de kunstenaar?
- Hoe zorg je er voor dat je image generation AI geen vreselijke dingen genereert? Hoe zorg je er voor dat iemand geen honderden beelden van hun eigen moord in hun inbox krijgt bij een Twitter hate-raid?
- Hoe zorg je er voor dat beperkingen die je inbouwt in je technologie om de nadelige gevolgen tegen te gaan, er niet direct uit gesloopt worden door een derde partij (zie bovenstaand artikel)?
- Kortom, hoe kunnen we er voor zorgen dat deze technologie netto de mensheid vooruit helpt in plaats van ons alleen maar meer in de nesten te werken?

Je hoeft niet al deze problemen 100% op te lossen, maar er over nadenken is belangrijk. Dit zijn extreem lastige vragen, en we gaan er nu mee om door te zeggen "Kijk hoe tof deze nieuwe technologie is op basis van deze voorbeelden! Laten we hem snel ontwikkelen, dan zijn wij de eerste! Lekker goede publiciteit en weer een onderzoekspublicatie " Zoals gezegd, voorzichtigheid is geboden. Ik zeg niet dat AI image generation nooit ontwikkeld had mogen worden, maar AI is een technologie met extreme potentie, we kunnen het ons niet veroorloven om gewoon blind techno-optimistisch te varen.

Bijvoorbeeld, hier is een andere vraag. AI image generation kan bestaan omdat iedereen hun kunst vrij deelt op het internet zodat iedereen er van kan genieten. AI code completion bestaat doordat de open source community al jaren hun code deelt, wat iedereen in de tech wereld ten goede is gekomen. Gaan we nu een wereld in waar in iedereen hun werk en ideeen niet meer kan delen, uit angst om in een AI training dataset terecht te komen zodat ze geen credit voor hun werk kunnen krijgen en zichzelf overbodig maken, precies zoals nu gebeurt? Hoe kunnen we dat voorkomen?

Ik zeg niet dat we deze technologie niet kunnen ontwikkelen. Maar laten we niet doen alsof de moeilijke vragen niet bestaan, en niet heel zwaar op ons zouden moeten wegen. AI kan de mensheid dienen, of andersom. Laten we hier bewust mee omgaan.

[Reactie gewijzigd door jaxxil op 22 december 2022 15:36]

Op welk punt in de ontwikkeling van deze technologie hadden de ontwikkelaars stil moeten staan bij de sociale gevolgen of implicaties?

Om maar even niet te vergeten dat grote techbedrijven deze AI-revolutie alleen maar toejuichen en deels betalen. Er worden volgens mij veel ontwikkelaars betaald om dit te ontwikkelen. Van wie zou die impuls om dat _niet_ te doen dan moeten komen?

Ten tweede kan AI niet innoveren, maar alleen maar reproduceren in nieuwe combinaties.

Combineren is toch ook innoveren? Als een bepaalde vorm van ai-kunst succesvol is, dan zullen ze daarop verder gaan variëren, waardoor je wéér nieuwe soorten en genres kan genereren.

Alhoewel ik artiesten altijd een warm hart toedraag, kan ai zéker wel innoveren.

Alhoewel op een andere manier combineren ook een vorm van innoveren kan zijn (je kan je echter afvragen of er intentie achter moet zitten), is de manier waarop AI zo kan 'innoveren' heel beperkt. Om een voorbeeld te geven, je kan een AI een miljoen impressionistische schilderijen geven, er is geen enkel moment waarop AI denkt "Fuck dit, alles is zo ontzettend impressionistisch. Dit is niks, ik ga het kubisme uitvinden". Iets wat bij mensen juist wel gebeurt.

er is geen enkel moment waarop AI denkt

Er is NOG geen enkel moment waarop een ai denkt ftfy

er is geen enkel moment waarop AI denkt "Fuck dit, alles is zo ontzettend impressionistisch. Dit is niks, ik ga het kubisme uitvinden". Iets wat bij mensen juist wel gebeurt.

De AI denkt niet, de persoon die de AI aanstuurt wel. Als die persoon denkt "Fuck dit, alles is zo ontzettend impressionistisch" kan hij de input zodanig veranderen dat hij het kubisme (of een andere stijl) met behulp van AI maakt, ook zonder dat deze stijl reeds bestaat. Hier gaat natuurlijk wel meer werk in zitten dan puur het aanpassen van een prompt (denk aan img2img, het nabewerken en samenvoegen van output in photoshop en het trainen van een eigen model).

En dat is precies waarom AI nooit de mens zal vervangen. Standaardklusjes zijn te automatiseren, maar innovatie is (voorlopig) iets voor de mens.

Automatisch gegenereerde muziek is iets voor lage budgetten en winkelcentra. Ik vermoed dat automatisch gegenereerde afbeeldingen niet zozeer de mens zullen vervangen, maar het mogelijk zullen maken dat projecten die nu niet kunnen doorgaan omdat er geen budget is voor een artiest dan wel kunnen uitgevoerd worden, met AI-afbeeldingen van twijfelachtige kwaliteit maar veel beter dan niks.

Een samenleving met AI die bestaande kunst hercombineert, en zo alle tekenaars zonder baan laat zitten, leidt tot een samenleving met minder kunst.

Dan ga je er wel vanuit dat AI geen kunst kan maken. Daar zit net het duale van de zaak. Kunst is toch helemaal niet iets dat enkel en alleen door een menselijk brein kan gemaakt worden?

Ten tweede kan AI niet innoveren, maar alleen maar reproduceren in nieuwe combinaties. Een samenleving waar alle kunst AI-generated is is een samenleving waarin de kunst stilstaat.

Is dat zo? Waarom zou AI geen nieuw genre muziek kunnen uitvinden? AI heeft nu relatief gezien een beperkte rekenkracht maar dat is vandaag.

kunst wordt gedreven door innovatie en mensen die het constant veranderen als reflectie van een veranderende samenleving.

Ik begrijp niet waarom je het menselijke brein als het ultieme ziet. Dat AI nooit hetzelfde kan doen. Dat we onvervangbaar zijn en een monopolie hebben op kunst, cultuur, innovatie, denken, zijn...

Doet me een beetje denken aan de tijd dat een DSLR geen 'echte' camera was. Digitaal zou nooit het gevoel van analoog kunnen evenaren. Hetzelfde met het internet, of de slimme telefoon met 'glazen' toetsenbord. Het ging nooit het zelfde zijn als het origineel.

Is dat zo? Waarom zou AI geen nieuw genre muziek kunnen uitvinden?

Dat zit in hoe de techniek werkt. AI wordt nu getrained door een hele hoop bestaande input te krijgen, deze op een bepaalde manier samen te smelten, en dan een score te krijgen op basis van hoe goed de output is. Als een voorbeeld wat ik eerder genoemd heb: Hoe veel impressionistische schilderijen je ook voert aan je AI, deze zal nooit opeens het kubisme uitvinden. AI werkt volgens het garbage in, garbage out model, of in dit geval, bestaande kunststromingen in, bestaande kunststromingen out.

Het is zeker wel mogelijk dat iets als een nieuw muziekgenre in de toekomst uit bestaande AI techniek komt, maar alleen doordat mensen naar iets nieuws op zoek gaan, en de output van de AI gaan tweaken en sorteren en er iets uitkiezen wat spreekt naar de grotere culturele achtergrond. Maar dan is een AI meer een soort signal generator dan een artiest.

Ik begrijp niet waarom je het menselijke brein als het ultieme ziet. Dat AI nooit hetzelfde kan doen. Dat we onvervangbaar zijn en een monopolie hebben op kunst, cultuur, innovatie, denken, zijn...

Doet me een beetje denken aan de tijd dat een DSLR geen 'echte' camera was. Digitaal zou nooit het gevoel van analoog kunnen evenaren. Hetzelfde met het internet, of de slimme telefoon met 'glazen' toetsenbord. Het ging nooit het zelfde zijn als het origineel.

Ik begrijp niet waarom kritiek op nieuwe techniek altijd weggezet wordt alsof iemand reflexief zich aan het verzetten is tegen iets nieuws, zelfs als er duidelijk iets anders geargeerd wordt. Ik heb nooit beweerd dat het menselijk brein ultiem is, dat we monopolie hebben op kunst en innovatie, etc. Of wat dan ook maar over DSLR camera's. Ik heb kritiek op deze techniek, en de ondoordachtheid waarmee we hem door aan het drukken zijn puur omdat we kunnen.

AI wordt nu getrained door een hele hoop bestaande input te krijgen, deze op een bepaalde manier samen te smelten, en dan een score te krijgen op basis van hoe goed de output is. Als een voorbeeld wat ik eerder genoemd heb: Hoe veel impressionistische schilderijen je ook voert aan je AI, deze zal nooit opeens het kubisme uitvinden. AI werkt volgens het garbage in, garbage out model, of in dit geval, bestaande kunststromingen in, bestaande kunststromingen out.

Dat is helemaal niet het model waar AI naartoe gaat. Jij als mens leert toch ook? Uw brein is niet veel anders. Je bent toch ook geïnspireerd door iets en creëert iets anders. Een nieuwe genre in muziek is zoals kubisme bij schilderkunst.

AI vandaag is idd eerder 'dom' maar AI kan uiteindelijk uitgroeien tot een brein doordat de computerkracht toeneemt.

Kritiek hebben op de techniek aan zich kan zeker. Ik heb ook 100 ethische vragen bij AI. Zeggen dat AI altijd dommer zal zijn dan ons (geen kunst/innovatie) kan maken etc) is een visie die niet strookt met hoe AI zich aan het manifesteren is.

Volgens mij praten we langs elkaar heen. Met "AI-generated kunst" bedoel ik de huidige methodes van image generation zoals Stable Diffusion, niet alle mogelijke niet-menselijke intelligenties inclusief alle toekomstige. Voorspellen wat er mogelijk is over 50 jaar is en daar kritiek op hebben is natuurlijk onmogelijk, omdat we niet eens weten wat die techniek inhoudt.

Overigens is ons brein wel echt noemenswaardig anders dan huidige AI technieken.

[Reactie gewijzigd door jaxxil op 22 december 2022 22:36]

De tegenwoordige muziek die door mensen wordt geschreven is voor 99% ook een "hercompilatie" van dingen die al in de muziek zijn gemaakt. Ritmes, baslijntjes, akkoordenschema's, harmonieën. Juist omdat de set aan combinaties in de muziek die we "mooi" vinden vrij beperkt is kom je met het maken van nieuwe muziek, heel vaak uit op het hergebruiken van bestaande elementen.

Dat hoor je in muziek die als "hit" geschreven zijn heel duidelijk. Als mensen dat al op die manier doen omdat het voor hun catchy en aantrekkelijk is, waarom zou een AI dat dan niet kunnen?

En dan heb je nog het concept van cultuur, wat eigenlijk emergent gedrag is van groepen mensen die interactie met elkaar hebben. Dat kan natuurlijk ook onstaan wanneer je meerdere AI's aan elkaar gaat knopen.

Bijvoorbeeld de mensen die AI gezichtsherkenning uitgerust hebben met ethniciteitsdetectie

Mensen maken AI die een deur automatisch open kan maken.
Resultaat: gekleurde mensen worden niet goed herkend en deuren blijven dicht voor deze mensen -> Racisme.
Mensen maken AI die ethniciteitsdetectie heeft om dit probleem te verhelpen
Resultaat: "jaxxil: Hoe gaat dit de wereld beter maken?"
Nou zo dus.

Ik dacht dat dit duidelijk was, maar: Met ethniciteitsdetectie heb ik het niet over gezichtsherkenning compatible maken door van allerlei soorten gezichten individuen te kunnen herkennen, maar een systeem wat, gegeven een foto, mensen automatisch sorteert in verschillende ethnische groepen zoals oost-Europeaan, Arabier, etc.

Juist omdat de kunst met AI stilstaat behouden kunstenaars nog steeds hun inkomsten door nieuw werk te maken. De goede blijven, de slechte worden vervangen door een stukje software.

Zal dit voor allemaal gelden, nee tuurlijk niet. Een deel zal je hiermee kunnen vervangen. Nu is dit in iedere sector al gebeurt met automatisering, vervelend voor kunstenaars maar welkom in 2023

En een kunstenaar kan wel klagen over de foto's maar is er 1 kunstenaar die nog nooit naar andere kunst heeft gekeken en hier inspiratie uit heeft gehaald. Er worden veel schilderijen gemaakt maar niet elke schilder heeft het concept schilderij uitgevonden.

Veel schilders plegen plagiaat door het ontwerp v/e landschapsarchitect te kopiëren...

Juist omdat de kunst met AI stilstaat behouden kunstenaars nog steeds hun inkomsten door nieuw werk te maken. De goede blijven, de slechte worden vervangen door een stukje software.

Voordat je een goede kunstenaar bent ben je eerst een slechte kunstenaar. Het is vaak tientallen jaren werk voordat iemand als echt goed kunstenaar wordt gezien, hoe ga je dat doen als je voor dat moment, zoals jij zegt, vervangen wordt door een stukje software?

Voor elk ander beroep zou je gelijk hebben, hoe bot het ook klinkt. Maar op kunst berust het auteursrecht. Het is het digitaal equivalent van technologie dat structureel ingezet wordt om van vele mensen tegelijk dingen te stelen en herverdelen. Op dergelijk bezit - zowel fysiek als intellectueel eigendom - berusten wettelijke beschermingen.

Het is dus niet verwonderlijk dat artiesten hun rechten willen beschermen tegen anderen die hier inbreuk op willen maken. Het is toch van de zotte dat ze weggeconcureerd worden door technologie dat gebruik maakt van hun eigen kunst?

Ik lees in jouw berichten alleen maar protectionisme argumenten. Inbreuk e.d. is alleen maar een uiting en poging tot laatste middel ter verdediging? Ik vind het flauw om AI in kwaad daglicht te stellen alsof kunst een beschermt iets is waar AI geen rol in heeft of mag hebben.

Het hele principe van auteursrecht is bescherming van artiesten.

Ik vind het flauw om AI in kwaad daglicht te stellen, alsof kunst een beschermt iets is waar AI geen rol in heeft of mag hebben.

Vind je het ook flauw om dieven in een kwaad daglicht te stellen, alsof bezit een beschermd iets is waar dieven geen rol in hebben of mogen hebben?

Weer een overdreven reactie. Er is helemaal niets gestolen. Al het werk staat nog waar het staat. Gebruikte patronen zijn niet herleidbaar naar het origineel.

Zoals fysiek bezit wettelijk beschermd is, geldt hetzelfde voor intellectueel bezit. Er is niets overdreven aan de reactie, jij wil gewoon de werkelijkheid niet onder ogen zien en doet er alles aan om een daadwerkelijk probleem weg te zetten als verzonnen. Misschien als je zelf een artiest was dat je het probleem zou begrijpen.

Ik zie twee dingen:
De werkelijkheid is dat je bang bent voor AI als goedkope vervanger en dat is begrijpelijk. Dat er gebruik wordt gemaakt van "handmatige" niet AI kunst is een interessante en misschien wel juridische kwestie.

Je kunt nu ook tegengaan dat mensen jouw auteursrecht schenden, automatisch dingen genereren aan de hand van data die niet van jou is zou heel makkelijk verboden kunnen worden (of het is misschien al verboden).

Technisch kun je het niet tegenhouden misschien, maar we hebben wetten om dat te regelen lijkt me.

In een vergelijkbare rechtszaak waarbij Google auteursrechtelijk beschermde boeken heeft gebruikt om een AI te trainen heeft Google uiteindelijk gewonnen. Hierdoor ben ik geneigd te zeggen dat een zaak omtrent schilder- en tekenkunst ongeveer hetzelfde uit zou vallen als die van schrijfkunst.

Verder zou je (zoals ik in mijn post aangaf) prima een model kunnen maken wat geen gebruik maakt van auteursrechtelijk beschermd materiaal. Op dat moment heeft de wet er dus weinig meer over te zeggen, zelfs als inderdaad wordt besloten dat het gebruik van beschermd materiaal voor trainingsdoeleinden niet is toegestaan.

Je gaat dit niet tegen kunnen houden. [...] Soms worden er gewoon uitvindingen gedaan die er voor zorgen dat er ineens veel minder mensen nodig zijn in een bepaald beroep, en nu/binnenkort zijn tekenaars aan de beurt.

Hierin ben ik het met je eens. Het is een verliezende strijd. Maar ik ben het volstrekt oneens met de onderliggende redenering, met name vanuit ethische en legale standpunten. Dat technologie bestaat betekent niet dat het dan maar geaccepteerd moet worden. Het is om dezelfde reden dat niet iedereen in het bezit mag zijn van materiaal om atoombommen te maken, om maar even een extreem voorbeeld te noemen.

Nu het tweede onderdeel van je opmerking. Hoewel het gemakkelijk is om er op deze manier over te denken, is er een fundamenteel verschil tussen kunstgerelateerde beroepen en puur functionele beroepen. Kunst is namelijk wettelijk beschermd via het auteursrecht. Het bouwen van een auto bijvoorbeeld niet. Daar kan je inderdaad redelijkerwijs verwachten dat robots verscheidene taken zullen overnemen. En dit ook aanmoedigen, dit is immers technologische vooruitgang waar iedereen profijt van kan hebben.

Kunst is iets anders. Het is niet essentieel, en het is per definitie een uiting van de intellectuele en creative vaardigheden van de mens. Om te voorkomen dat iedereen het harde werk van anderen zou kunnen overnemen, is het auteursrecht in het leven geroepen. Het is het intellectuele equivalent van wetgeving tegen diefstal. Dus het is niet zozeer dat men tegen AI is omwille van het risico dat beroepen verdwijnen, maar eerder om de reden waarom dit gebeurt, namelijk het onethisch inzetten van deze AI om intellectueel eigendom te ontnemen en hiermee te concurreren tegen dezelfde rechthebbenden.

Een makkelijker begrijpbare analogie is een technologie dat van duizenden huishoudens tegelijk bezit kan stelen, de objecten vervolgens te ontleden en vervolgens nieuw samengevoegde objecten te herdistribueren naar gebruikers. Is het dan opeens geen diefstal meer? En zouden we dit moeten aanmoedigen omdat het een nieuwe technologische ontwikkeling is?

Theoretisch kan men ook een heel nieuw model maken waarin alleen wordt getraind met vrij te gebruiken afbeeldingen

Wat let ze? Waarom doen ze dit niet? Dan was deze hele discussie over auteursrecht toch niet nodig geweest? Ik zou het top vinden als er AI ontwikkelaars komen die hun model exclusief op public domain afbeeldingen gebaseerd heeft, zodat er geen auteursrecht van bestaande artiesten geschonden wordt.

Wat let ze? Waarom doen ze dit niet? Dan was deze hele discussie over auteursrecht toch niet nodig geweest? Ik zou het top vinden als er AI ontwikkelaars komen die hun model exclusief op public domain afbeeldingen gebaseerd heeft, zodat er geen auteursrecht van bestaande artiesten geschonden wordt.

Tijd, en het feit dat het helemaal geen (juridisch) uitgemaakte zaak is dat auteursrechtelijk beschermd materiaal niet mag worden gebruikt voor het trainen van een AI. Bij Stable Diffusion zie je bijvoorbeeld dat ze bij het trainen van het nieuwe model nu inderdaad rekening houden met de wensen van de artiest en zijn of haar werk niet meer meenemen.

Kunst is iets anders. Het is niet essentieel, en het is per definitie een uiting van de intellectuele en creative vaardigheden van de mens. Om te voorkomen dat iedereen het harde werk van anderen zou kunnen overnemen, is het auteursrecht in het leven geroepen. Het is het intellectuele equivalent van wetgeving tegen diefstal. Dus het is niet zozeer dat men tegen AI is omwille van het risico dat beroepen verdwijnen, maar eerder om de reden waarom dit gebeurt, namelijk het onethisch inzetten van deze AI om intellectueel eigendom te ontnemen en hiermee te concurreren tegen dezelfde rechthebbenden.

Ik ben zelf dus van mening dat wat men met behulp van AI maakt net zo goed een uiting is van de intellectuele en creatieve vaardigheden van de mens. Kijk bijvoorbeeld eens naar deze afbeelding op reddit, en naar het proces wat de maker heeft doorlopen. Het gebruik van deze tools gaat zo veel verder dan enkel het invoeren van een prompt... Hoe is het gebruik van SD in dit geval anders dan het gebruik van allerlei andere handigheden in photoshop?

Verder ben ik ook benieuw naar hoe je tegen fotografie aankijkt. Foto's worden over het algemeen aangemerkt als kunst en krijgen alle bescherming die daarbij hoort. De fotograaf doet echter weinig anders dan het kopen van wat leuke hardware en op het juiste moment op het knopje drukken. Wat maakt het gebruik van AI zo anders?

Een makkelijker begrijpbare analogie is een technologie dat van duizenden huishoudens tegelijk bezit kan stelen, de objecten vervolgens te ontleden en vervolgens nieuw samengevoegde objecten te herdistribueren naar gebruikers. Is het dan opeens geen diefstal meer? En zouden we dit moeten aanmoedigen omdat het een nieuwe technologische ontwikkeling is?

Je combineert hier meerdere dingen die er samen voor zorgen dat het fout is. Een apparaat wat duizenden objecten kan bestuderen en vervolgens met die kennis nieuwe objecten kan maken zou fantastisch zijn! In jouw voorbeeld is het enkel fout omdat er wordt ingebroken en de originele spullen worden ontvreemd. Ik begrijp dat jij van mening bent dat een AI dit inderdaad doet, maar zover ik weet is dat juridisch nog nergens bepaald. Bij het trainen aan de hand van boeken is in de VS besloten dat het wel degelijk is toegestaan.

[Reactie gewijzigd door ErikT738 op 22 december 2022 14:34]

Het is vooral vervelend dat de AI algoritmes ook prima getraind hadden kunnen worden met beeldmateriaal dat zodanig gelicenseerd is of tot het publieke domein behoort, maar dat is een overweging die de ontwikkelaars doelbewust genegeerd hebben.

Ergens wel ironisch, als het niet ontzettend zorgwekkend was, dat artiesten nu hun baan verliezen middels hun eigen kunstwerken. Nooit gedacht dat we in een dergelijk dystopisch heden terecht zouden komen, maar blijkbaar dachten mensen die geld ruiken daar anders over.

Ergens wel ironisch, als het niet ontzettend zorgwekkend was, dat artiesten nu hun baan verliezen middels hun eigen kunstwerken.

Aha daar komt de aap uit de mouw!
Zogenaamde kunstenaars, want ja wat is kunst, voelen zich dus bedreigt door AI. Ik heb je al horen zeggen dat je mensen die met een prompt iets "creëren" al wegzet als nepkunstenaars.
Ik ben niet zo van die verheven houding. Ben zelf amateur fotograaf, muzikant en zie de ai tooling in welke vorm dan ook meer als hulpmiddel dan als een bedreiging. Ik zie het ook niet als vervanging van 100% met de hand gemaakte kunst, want de liefhebbers en waardering hierop zal er altijd blijven.

Vanwaar deze beledigende opmerking? Dit probleem treft elke artiest, zowel de betere als de minder ervaren. Géén van hen zijn "zogenaamd" artiest. Dit is erg neerbuigend en respectloos.

AI kan inderdaad dienen als hulpmiddel, en bij uitstek is het principe van AI toepassen in de kunst het probleem niet. Maar wel wanneer AI gebruikt wordt om stelselmatig inbreuk te maken op het auteursrecht van anderen. Dat AI dan ook nog eens concureert met de echte artiesten middels hun eigen werken is zout in de wond strooien.

Als jij als artiest het geen probleem vindt dat anderen gebruik maken van jouw werk, kan je dat prima voor jezelf regelen met een CC licentie. Maar jij spreekt enkel voor jezelf. Jij kan niet voor anderen beslissen dat ze hun rechten maar moeten opgeven.

Ik zie nergens een belediging hoor.. beetje lachwekkend weerom.

Tegelijk kun je ook het omgekeerde volhouden: elke kunstenaar heeft andere kunst gezien, misschien les gehad, met diverse stijlen van anderen geoefend. Zouden bij reguliere kunst dan ook de docent-van moeten compenseren?

Ook is materiaal als input geven aan een algo geen afstraffing: als jij een algo nieuwe of andere dingen wil laten gebruiken als inspiratie, zul je vroeg of laat op zoek gaan naar nieuwe inputs. Daar ligt een kans voor kunstenaars. Je hebt het nu ook al, dat muzikanten samples of sample libraries maken en verkopen.

Als de student delen van werken van de docent overgenomen heeft zonder diens toestemming en/of betaling zou er sprake zijn van auteursrechtenschending. Compensatie is dan inderdaad op zijn plaats.

Dezelfde redenering geldt dus niet omgekeerd, daar steekt de auteursrechtenwetgeving een stokje voor. Je mag prima dingen leren van anderen. Maar je mag niet zomaar andermans werk overnemen, op welke manier dan ook.

Overigens is er een gigantisch verschil tussen derivatie en inspiratie. AI kan niet geïnspireerd raken, dat is de meest voorkomende mythe in dit hele gebeuren. AI kan enkel op een deterministische wijze informatie verwerken vanuit bestaande kunstwerken (waarvan de meeste auteursrechtelijk beschermd). AI kan niet nadenken. AI kan niet creatief zijn. AI heeft, in tegenstelling tot wat de naam doet vermoeden, geen intellect. Een mens daarentegen kan geïnspireerd zijn door zowel het echte leven als bestaande kunstwerken, zonder het auteursrecht van anderen te schenden. Inspiratie is namelijk het opdoen van ideeën, niet het kopieren van andermans werk.

Wetgeving is 1 ding, de praktische uitvoerbaarheid een tweede. Het komt _vaak_ voor, ditzelfde geschil tussen kunstenaars van vlees en bloed. Zo'n uitgemaakte zaak is dat dus niet.

AI art gebruikt plaatjes gevonden op het internet maar als ze het goed doen moet je niets herkenbaars terug kunnen zien

En dat maakt het dus zo'n vervelende kwestie. Artiesten zien zichzelf weggeconcureerd worden door een technologie dat hun eigen kunstwerken tegen ze gebruikt zonder legale consequenties.

Ja vervelend voor de kunstenaar. Maar als we ontwikkelingen gaan tegenhouden omdat het "vervelend" is voor een bepaalde beroepsgroep, dan zouden we nog in de Middeleeuwen leven.

Dan begrijp je niet waarom er ophef is over het gebruik van AI om afbeeldingen te genereren. Het gaat namelijk helemaal niet om de ontwikkeling an sich, maar hoe deze toegepast wordt. AI dikke prima, kan een behoorlijke aanwinst zijn voor de kunstwereld. AI om werk van anderen op grote schaal te verwerken met als doel deze anderen te vervangen, niet oké.

Als iemand technologie ontwikkeld die het makkelijk maakt om in duizenden huizen tegelijk in te breken en hier dingen van te jatten, zou je dat toejuichen en de slachtoffers belachelijk maken door te stellen dat ze het niet zo vervelend moeten vinden?

Maar andere kunstenaar doen dat toch ook? Of compenseren die een artiest wel als ze hun werk als inspiratie hebben gebruikt of geleerd hebben van hun technieken?

Inspiratie is niet hetzelfde als kopiëren of het maken van afgeleiden. Een mens kan geïnspireerd raken om een nieuw kunstwerk te maken, zonder hierbij gebruik te maken van bestaande kunstwerken. Een AI kan dit niet. Het kan in beginsel niet geïnspireerd raken omdat het geen cognitief wezen met een bewustzijn is, en doelbewust is geprogrammeerd om informatie uit bestaande kunstwerken te halen. Er komt, in tegenstelling tot wat de naam doet vermoeden, geen creativiteit of intellect aan te pas.

Hoe weet je dat ze geen gebruik maken van bestaande kunstwerken? Moet een kunstenaar die iets maakt dat lijkt op het werk van een andere kunstenaar of zijn technieken heeft overgenomen dus ook gaan betalen? Dus eigenlijk een kunstenaar die nooit in contact is geweest met iets van andere kunst en iets totaal unieks maakt is vrijgesteld?

[Reactie gewijzigd door Mirved op 22 december 2022 14:53]

Een vergelijkbare stijl is prima. Onderdelen van een bestaand kunstwerk overnemen is auteursrechtenschending. Hiervoor is dus toestemming van de auteur vereist en desgewenst betaling. Een kunstenaar die nooit in contact geweest is met andere kunst kan dus inderdaad geen plagiaat plegen.

Maar de ai image generators kopiëren ook niks er is geen 1 op 1 kopie het is gemaakt in dezelfde stijl wat je dus prima vindt.

Dit is fout, AI image generators kopiëren onderdelen van bestaande afbeeldingen en voegen deze samen volgens een statistisch algoritme. Ze maken een afgeleide van meerdere auteursrechtelijk beschermde werken. En nee, dat vind ik dus niet prima. Ik vind het niet prima dat men software geschreven heeft dat stelselmatig intellectuel eigendom steelt van anderen om er commerciële winst uit te halen.

Dit is dus fout en maakt duidelijk dat je, ondanks je grote aantallen reacties, de techniek niet snapt. Het neemt geen delen van bestaande werken over, het betekent statistische verbanden op basis van de hele set. Daarom kan het dingen produceren die niet in de training set zitten. Als het werkte zoals jij stelt zou dat niet kunnen.

Maar hoe aannemelijk is dat het dat die kunstenaars zelf ook niet inspiratie hebben opgedaan met andermans kunst?

Dat maakt niet uit, het gaat namelijk niet om inspiratie maar om het gebruik van auteursrechtelijk beschermd materiaal zonder toestemming van de rechthebbenden.

AI kan niet geïnspireerd raken, het is software geschreven met het doel om een composietmodel te bouwen op basis van bestaande kunstwerken. AI kan niet nadenken. AI kan niet kunstwerken maken op basis van ervaring of dingen uit het echte leven. AI kan enkel informatie verwerken uit bestaande kunst.

Maar hoe is mijn brein anders dan?
Als ik naar 10 werken en daar een idee op maak, hoe is dat anders dan een composietmodel?

Omdat het een idee is en niet een directe derivatie? Als jij die 10 werken traceert, is het wel degelijk plagiaat. En je brein werkt totaal niet hetzelfde als een algoritme dat afbeeldingen opdeelt in segmenten en deze samenvoegt met statistische formules. Het is niets anders dan een mythe (leugen) voortgebracht door pro-AI evangelisten die heel graag willen dat AI niet aan auteursrechtenschending doet.

De kunstenaars vind ik ook een heel goed punt hebben. Hun kunst wordt zonder compensatie of toestemming gebruikt in training data van technogie die hun deels probeert te vervangen. Deze technologie kan dan daardoor hun stijl en flair imiteren, en zij krijgen niks.

Valide punt, echter geldt dat eigenlijk voor alle AI content generation, en niet alleen bij porno.

Nou is het lullige (of het kutte, pun intended) dat porno nu net een industrie is waarbij er veel ellende bij kan komen kijken om het te maken.

Dus om het nu bij porno te verbieden, maar bij andere industrieën toe te staan, dat is wel gek.

Maargoed, ookal verbied je dit, je houdt het niet tegen, het gaat ondergronds verder. Het is daarvoor te krachtig.

En als kunstenaar houdt je altijd de optie om dus echt origineel te zijn (wat de meesten niet zijn imho), want dan kan een AI je niet voor zijn - die kan slechts imiteren.

Als kunstenaar kijk je naar andere kunstwerken om een eigen stijl te vormen. Wat is het verschil met een AI die in principe hetzelfde doet?

Een AI doet in principe NIET hetzelfde.

Mensen kunnen inspiratie opdoen uit bestaande werken, maar voornamelijk ook uit de echte wereld. Ze kunnen dan werken maken op basis van deze ideeën, zonder inbreuk te maken op het auteursrecht van andere artiesten. Doen ze dit wel, dan is er logischerwijs sprake van plagiaat.

AI algoritmes kunnen geen inspiratie opdoen. Dergelijke programma's hebben geen bewustzijn en dus geen creatief en intellectueel vermogen om ideeën op te doen. Deze machine learning algoritmen werken exclusief op basis van het verwerken van segmenten van afbeeldingen tot een composietmodel. Denk aan het veelvuldig kopiëren van T-shirts om tot een algemeen T-shirt composiet te komen, en ditzelfde principe voor alles waar een naam aan gegeven kan worden. Vervolgens combineert het de overgenomen details op basis van prompts van de gebruiker. Dit verklaart ook waarom er nog handtekeningen zichtbaar kunnen zijn in de resultaten. Je kan niet spreken van "een eigen stijl te vormen", want het is letterlijk overgenomen van anderen.

Misschien in de toekomst, als we te maken krijgen met echte kunstmatige intelligentie in plaats van 'simpele' machine learning algoritmes, dat we kunnen spreken over het maken van echte kunst. Zou een mooie maatstaf zijn zelfs, aangezien we nog niet weten hoe we bewustzijn moeten detecteren. Tot die tijd is het feitelijk onjuist om te stellen dat een AI op dezelfde manier werkt als een mens.

Wat ik beargumenteer is dat het “creatief proces” van de mens in feite het verwerken van segmenten van afbeeldingen is. Hieruit komt iets nieuws. Geen mens is in staat om zonder input iets te creëren. Kijk ook eens naar “a man and his symbols” van Jung. K ben het met je eens dat de ML modellen de steentijd zin in vergelijking wat een mens kan doen, maar het principe is daar.

Wat ik beargumenteer is dat het “creatief proces” van de mens in feite het verwerken van segmenten van afbeeldingen is.

Maar dat is dus niet waar. Het is een glasharde leugen van pro-AI evangelisten zonder enige vorm van bewijs.

Geen mens is in staat om zonder input iets te creëren.

Ook niet waar, maar zelfs al zou je hierin gelijk hebben, is er alsnog een onderscheid tussen input van de echte wereld en input van bestaande kunst. Een mens heeft laatstegenoemde niet nodig om nieuwe kunst te maken. Een mens hoeft geen plagiaat te plegen. Anders zou met jouw redenering iedereen plagiaat plegen bij alles wat ze doen, wat het hele concept van plagiaat teniet doet. Gelukkig heb je het volledig mis.

Ik ben geen pro-ai evangelist, k vind het gevaarlijke technologie. Ik gaf je een bron mee, heb je het gelezen?

Plagiaat is een glijdende schaal. Iedereen pleegt in principe ook plagiaat. Om te leren doen we “inspiratie” op van anderen. Dat is letterlijk hoe een kind leert, door te kijken naar anderen. Wij ervaren het creatieve proces dan als iets “nieuws”.

Je kunt 20 keer posten dat een AI enkel collages maakt, maar dat betekent nog steeds niet dat er miljoenen foto’s in een model ter grootte van een dvd zitten.

Dat kan ik inderdaad 20 keer doen, maar dat doe ik niet want dat is niet mijn argument. Verder ga ik niet op deze stroman in.

De kunstenaars vind ik ook een heel goed punt hebben. Hun kunst wordt zonder compensatie of toestemming gebruikt in training data van technogie die hun deels probeert te vervangen. Deze technologie kan dan daardoor hun stijl en flair imiteren, en zij krijgen niks.

Ik heb van weinig kunstenaars gehoord die in een vacuum opgegroeid zijn, en zeker kunstenaars die een opleiding aan een kunstacademie gevolgd hebben worden geforce-feed met werken van andere kunstenaars.

Zouden we daar dan eigenlijk ook geen stokje voor moeten steken?

Maar hoe werkt dit nu? Er zijn miljoenen kunstenaars die in de afgelopen duizenden jaren inspiratie leveren voor kunstenaars nu. Op wat voor manier wordt inspiratie op dit moment gecompenseerd?

Er gaat een heel hardnekkige mythe rond hier zie ik. Inspiratie opdoen is niet hetzelfde als overnemen van onderdelen van bestaande werken. Ideeën krijgen van bestaande kunst is niet hetzelfde als plagiaat plegen op basis van deze kunst.

En daarin zit het verschil tussen een AI en een mens. Een mens kan ideeën opdoen en kiezen om wel of niet gebruik te maken van bestaande werken, alsook het vragen van toestemming voor dergelijk gebruik. Een AI kan niet nadenken. Het is geen intelligent wezen. Het is een programma dat op een zeer specifieke manier geprogrammeerd is om onderdelen uit bestaande werken te combineren tot een composietmodel.

Dus nee, als je een plaatje van Picasso bekijkt en denkt "hee, zoiets wil ik ook doen", pleeg je geen plagiaat. Maar als jij een plaatje ziet van jaxxil en hier iets uit kopieert, pleeg je wel plagiaat. Inspiratie staat daar los van.

Nogmaals: Het auteursrecht heeft NIETS met inspiratie te maken.

je kan ook gewoon werken en daarnaast kunst maken omdat je het leuk vind.

project dat pornografie wil genereren met AI

De titel en het verhaal suggereert dat dit project bewust 'pornografie' wil laten genereren m.b.v. AI. Maar als ik het zo bekijk, is het enige wat zij willen doen NSFW beelden weer toe laten staan waar andere projecten deze bewust blokkeren. Wat er daadwerkelijke wordt gegenereerd is dan aan de maker. Als je naar de vele kunst bekijkt door de eeuwen heen, waren de kunstenaars zeker niet vies van naakt in hun werken. Dus waarom zou het met een AI ook niet kunnen?

Daarnaast, om een blote tiet gelijk pornografie te noemen vind ik ook erg overdreven.

Dit is wellicht het argument dat dit bedrijf aanhaalt om hun project te rechtvaardigen, maar waar het uiteindelijk om draait is het vullen van een gat in de AI-markt over de rug van artiesten. Unstable Diffusion wil geld verdienen met een algoritme dat automatisch werken (in dit geval van seksuele aard) van anderen verwerkt tot een composiet-model dat vervolgens op instructies van de gebruiker nieuwe beelden genereert.

Als het dit bedrijf daadwerkelijk te doen was om legitieme redenen (zoals het weer toe laten staan van pornografisch materiaal op een platform), hadden ze dit op tal van andere manieren kunnen doen, én zodanig dat er niet zonder toestemming gebruik wordt gemaakt van de auteursrechtelijk beschermde werken van anderen.

Bewerk: Unstable Diffusion zelf doet het voor niet-commerciële doeleinden. Dit doet echter niet af aan het feit dat hun algoritme gebruik maakt van auteursrechtelijk beschermd materiaal.

[Reactie gewijzigd door Lapjespoes op 22 december 2022 14:32]

Dat hun algoritme gebruikt maakt van auteursrechtelijk beschermd materiaal, lijkt gewoon toegestaan.

Training algorithms on copyrighted data is not illegal, according to the United States 2nd Circuit Court.

Het trainen van algoritmen an sich is toegestaan. Het gebruik van auteursrechtelijk beschermd materiaal om afgeleiden hiervan te maken is niet toegestaan, of dat nu handmatig of met een dergelijk getraind algoritme gebeurt. En dat is maar goed ook, anders zou elk algoritme voor een volledige vrijstelling van het auteursrecht zorgen en kan dit hele principe de prullenbak in.

Je mag prima leren van bestaande kunst. Maar je mag deze kunst niet namaken zonder toestemming. Rijden in een auto is toegestaan. Rijden in een gestolen auto niet. Fietsen mag, maar niet op de stoep. Het probleem is dus niet slechts het toepassen van een bepaalde handeling, maar de context waarin dit gebeurt en hoe dit zich verhoudt tot andere wetgeving.

Hoezo niet? Je mag toch ook een parodie maken, dat is een afgeleide van iets bestaands.

Alhoewel ik het moreel best met je eens ben, lijkt het juridisch ver van beklonken. Het is nog maar de vraag _of_ je auteursrechten schendt als je van AI-tools gebruik maakt (wat misschien van de AI-tool afhangt), en zo ja dan is het ook nog de vraag _wie_ dat doet (de trainer van de AI of de gebruiker van de AI.)

En gezien de verschillen tussen VS en EU, ook nog _waar_ je dat doet.

Parodie is een van de weinige uitzonderingsregels, en ook daar zijn een aantal voorwaarden aan verbonden. Dat gezegd, het meeste gebruik van AI algoritmen is niet om parodieën te maken maar 'nieuwe' afbeeldingen.

Juridisch is het inderdaad een nachtmerrie, want het komt aan op hoever je het principe van afgeleiden kan doortrekken, en of er een grens zit aan plagiaat wanneer een nieuw werk gebaseerd is op een groot aantal bestaande werken op een manier waarbij de oorspronkelijke werken niet meer te achterhalen is.

Unstable Diffusion wil geld verdienen

Unstable Diffusion is open source en gaat/ging alle gegenereerde modellen gratis beschikbaar stellen.

Je doet me terug denken aan wat mijn vader, ~30 jaar geleden zei, kijkend naar een reclame op TV van Fa (shampoo) : "30 jaar geleden was dat porno" : een jongedame die opduikt uit een golf met blote borsten.

Ergens is dit natuurlijk wel een heel tof project... je kan de gekste dingen laten genereren, dus voor ieder wat wils zonder dat er daadwerkelijk fysiek iets hoeft te gebeuren.. (nou ja, behalve de training van de AI dan). Anderzijds, wat je ziet, net als met nieuws. Als men voorbeelden geeft kan dat aanzet geven aan... en met wilde fantasiën... het is wel een heel lastig vaarwater. Stel dat onacceptabel materiaal word gevonden, maar het is totaal gegenereerd met AI, is het dan strafbaar? Denk dat het nog wat te vroeg is voor deze tak...

Yes zie https://www.rijksoverheid.../kinderporno-is-strafbaar stukje over virtueel

Raar eigenlijk.

Virtuele kinderporno is strafbaar want dat zou misbruik zou suggereren.

Maar de meeste gruwelijke schendingen van mensenrechten in bijvoorbeeld Rimworld of 4X spellen zijn helemaal prima.

Het is puur mijn invulling, maar het zou best wel kunnen dat dit is gedaan om te zorgen dat er niet ergens een maas in de wet te vinden is die het toch mogelijk maakt. Door het gewoon in alle vormen te verbieden kan je nooit zeggen 'ja maar dit specifieke geval valt onder virtuele kinderporno'.

Daarnaast heb je natuurlijk nog (maar weer mijn eigen invulling) de theorie dat dit dan weer mensen op ideeën kan brengen. Als je iets virtueels ziet en dan denkt 'dit ga ik eens echt proberen', dat wil je niet hebben natuurlijk. Bij 4X games is dat probleem een stuk minder groot, omdat een gemiddelde 4X speler niet de middelen heeft om opeens a la Ghandi in Civ een nucleaire oorlog uit te roepen zonder aankondiging.

Het is puur mijn invulling, maar het zou best wel kunnen dat dit is gedaan om te zorgen dat er niet ergens een maas in de wet te vinden is die het toch mogelijk maakt. Door het gewoon in alle vormen te verbieden kan je nooit zeggen 'ja maar dit specifieke geval valt onder virtuele kinderporno'.

Daarnaast heb je natuurlijk nog (maar weer mijn eigen invulling) de theorie dat dit dan weer mensen op ideeën kan brengen. Als je iets virtueels ziet en dan denkt 'dit ga ik eens echt proberen', dat wil je niet hebben natuurlijk. Bij 4X games is dat probleem een stuk minder groot, omdat een gemiddelde 4X speler niet de middelen heeft om opeens a la Ghandi in Civ een nucleaire oorlog uit te roepen zonder aankondiging.

Dat is natuurlijk een puur ethische discussie. Wanneer is iets 'gesuggereerd'? Computer gegenereerde beelden wel, maar volwassen acteurs die spelen dat ze misbruikt worden is dat niet? Of stukken tekst? Want op zo'n moment ben je niet meer aan het kijken naar het welzijn van de mensen die betrokken waren met het maken van de filmpjes, maar aan het kijken naar de handelingen van fictieve personen. Daar kun je enorm wat bomen over ophangen, om maar eens te beginnen met aardig wat stukken aan literatuur waarin de personages ook minderjarig waren.

Het argument dat het mensen "op ideeën brengt" is ook enorm dun. Van het kijken van homoseksuele porno krijg je ook niet spontaan zin om het met andere mannen te gaan doen. Als je er opgewonden van raakt, dan wás die behoefte er al, anders raakte je er immers niet opgewonden van.

Bij fictief geweld is dat zelfs anders: Daar gaat het niet om een inherente fysieke drift die er al was, maar om het normaliseren van dingen die we als niet ethisch beschouwen. En even daarop bekeken: Waarom mag ik wel een computerspel spelen waarin (getekende) kinderen op bloedige wijze worden vermoord, maar geen (getekende) kinderen seksueel afgebeeld?

Dat klinkt een beetje als willekeur.

Het argument dat het mensen "op ideeën brengt" is ook enorm dun.

Het best verkochte spel is, op dit moment, Minecraft. Dus als fictie mensen op ideeën zou brengen, zou de gemiddelde basisscholier ondertussen met 64 kuub aan kasseien rondlopen...

"If video games determined our lives, we'd all be running around in dark rooms, munching pills and listening to repetitive music."

[...]

Het argument dat het mensen "op ideeën brengt" is ook enorm dun. Van het kijken van homoseksuele porno krijg je ook niet spontaan zin om het met andere mannen te gaan doen. Als je er opgewonden van raakt, dan wás die behoefte er al, anders raakte je er immers niet opgewonden van.
....
Dat klinkt een beetje als willekeur.

Ik dronk nooit koffie. Wel eens geprobeerd, maar het beviel me niet. Tot ik op vakantie kennis maakte met een andere manier van koffie bereiden, een manier die ik niet kende maar die me wel beviel.

Als ik met die manier van koffie drinken geen kennis gemaakt had, zou ik koffie-loos door het leven gegaan zijn. Nu kijk ik uit naar een goede kop koffie.

Stel dat ik niet van kunst gehouden had; wel eens beeldhouwwerken bekeken had, maar ze me niet interesseerden. Totdat ik op vakantie een ivoorsnijderij bezocht, en om was?

In beide gevallen een latente behoefte, die nooit tot uiting zou zijn gekomen zonder kennis te maken met de ervaring dat het mogelijk is daar invulling aan te geven.

Het verschil tussen de koffie en het ivoor is dat er voor ivoor nog geen goed/diervriendelijk alternatief is.

Ik denk dat seksualiteit voor mensen die opgroeien in een traditionele bijbelse setting analoog daaraan beschreven kan worden: wat de boer niet kent daar heeft hij geen zin in.

Voor alle smaken regenboogsex is de aanname dat alle deelnemers zelf aan de ene kant beslissingsbevoegd zijn, en aan de andere kant ook de optie hebben om 'Nee' te zeggen. Hoewel daar de realiteit ook vast anders is, geldt voor kinderen vrijwel altijd dat ze weerloos zijn.

Dat laatste stukje maakt het volgens mij niet willekeurig.

[...]


Ik dronk nooit koffie. Wel eens geprobeerd, maar het beviel me niet. Tot ik op vakantie kennis maakte met een andere manier van koffie bereiden, een manier die ik niet kende maar die me wel beviel.

Als ik met die manier van koffie drinken geen kennis gemaakt had, zou ik koffie-loos door het leven gegaan zijn. Nu kijk ik uit naar een goede kop koffie.

Voor alle smaken regenboogsex is de aanname dat alle deelnemers zelf aan de ene kant beslissingsbevoegd zijn, en aan de andere kant ook de optie hebben om 'Nee' te zeggen. Hoewel daar de realiteit ook vast anders is, geldt voor kinderen vrijwel altijd dat ze weerloos zijn.

Dat laatste stukje maakt het volgens mij niet willekeurig.

Het verschil met jouw koffie is dat je ook toen je nooit koffie dronk, je niet de neiging had om stiekem een kopje espresso met veel melk klaar te maken, want gewone koffie vond je niet lekker.

Er zijn eigenlijk zelden tot geen verhalen van mensen die na het per ongeluk tegen komen van kinderporno, ineens een seksuele interesse krijgen in kinderen. En zelfs als dat wél zo zou zijn: Die interesse zit alleen maar in je hoofd. Het probleem met kindermisbruikers is dat ze geen ethisch besef hebben.

Kort door de bocht: Dat ik me seksueel aangetrokken voel tot vrouwen betekent niet dat ik losse handjes heb, of vrouwen ga manipuleren om te zorgen dat ik aan mijn behoeftes kan voldoen. Je kan dat seksuele verlangen ook prima voor je houden.

En van hetero-pornografie wordt iemand ook niet spontaan een verkrachter (hoe graag de conservatieve anti-porno lobby je dat ook wil doen geloven). Verkrachten en misbruiken is geen gevolg van een seksuele trigger, maar van moreel onaangepast zijn aan de samenleving en dus andere mensen niet als volwaardig beschouwen.

Exact, en dit is juist een goed voorbeeld daarvan.
Wanneer het om getekende anime gaat ofzo snap ik wel dat het grijs gebied is, maar wanneer een AI straks naakte kinderen in porno genereert (ook al is dat verzameld van niet-kp bronnen) wordt het al een stuk minder grijs. Het is nog steeds fictief maar al lastiger te onderscheiden van echt. En dan is de stap naar echt wel klein aan het worden. Lijkt mij het beste daar zo ver mogelijk vandaan te blijven.

de seksualisering van schoolmeisjes in anime (en specifieker dan in hentai al helemaal) grenst anders ook wel aan wat toelaatbaar is (zeker in bepaalde andere landen).

Volgens mij zijn we het allemaal eens hier. Net als met veel te lekkere kauwgom smaakjes om te vapen. Maak je iets te laagdrempelig, dan worden het opstapjes naar ernstiger ongewenst gedrag. Fantasie van werkelijkheid kunnen onderscheiden is ook een vaardigheid, die bijvoorbeeld ook sterk tussen de diverse leeftijdsgroepen verschilt, maar waar vast ook allerlei andere verschillen in zijn.

Het liefst heb ik een overheid die zo min mogelijk censureert. Wie bepaalt dan wat goed en slecht is?

Het liefst heb ik een overheid die onze samenleving beschermt tegen schendingen van onze grondwettelijke en mensenrechten.

De paradox is dat je als overheid om het ene grondrecht te beschermen soms helaas dingen moet doen die tegen het andere grondrecht ingaan. Wie bepaalt wat er dan moet gebeuren? Dat zijn wij, jij en ik, de stemgerechtigden, de mensen die niet op straat gaan omdat ze het eens zijn en de mensen die wel op straat gaan in protest.

De overheid kan ook niet zomaar "censureren", maar wordt gecontroleerd. Door de volksvertegenwoordiging, de rechter en de onafhankelijke pers.

Roep niet zomaar "censuur" als je het over een land als Nederland hebt.

Zie ook: https://www.mensenrechten...rijheid-van-meningsuiting

Wetten gemaakt door de volksvertegenwoordigers & rechters toetsen daaraan.

Rechters mogen de grondwet niet toetsen.

nog niet. komt als t goed is een verandering in. of ieder geval, ze willen dat gaan veranderen.

Met dank aan de toeslagenaffaire dat het nu bespreekbaar is geworden. Sowieso krom dat een rechter niet aan de grondwet kan toetsen, dat maakt onze grondwet namelijk vrij waardeloos.

het meest rare is dat deze bepaling *in* de grondwet staat...

Je hebt zeker een punt wbt gore en algeme oorlogsmisdrijven e.d.

Call of Duty had enorme oproer vanwege 'No Russian' (neerschieten v onschuldigen als terrorist), maar hoe erg je het maakt is natuurlijk vrij invulbaar.

Ik denk dat dit uiteindelijk een per-geval basis blijft. De wetvorming hiervan gaat over de mogelijkheid van het strafbaar stellen van duidelijk grensoverschrijdend gedrag.

De volgende vraag is waar die grens ligt. Voldoende hoogaangeschreven Anime hebben licht tot matig geseksualiseerde kinderen van 16+. Wordt het een 4-jarige straf om Kaguya sama (karakters 17 jaar) te kijken? Anderzijds, wordt er straks volledig onacceptabel materiaal onder dezelfde noemer geschreven?

Het ervaren van schenden van mensenrechten kan evenzeer door een geschiedenisboek/wikipedia te lezen. Ik zie niet hoe dat veel verschilt met dezelfde beleving in een game. Mensen die daar onredelijk/ongezond enthousiast van worden, hebben in beide situaties hulp nodig.

In japan is age of consent soortvan 14 jaar (volgens mij niet zo letterlijk hoor) en anime/hentai reflecteert dat, jij hebt het over 16+ maar dat ligt dus zelfs nog lager.

Wettelijk is age of consent in Japan zelfs 13 jaar, maar er zijn straffen op "Lewd acts with minors under 18". Dus hoewel 13-18 jarigen onderling niet per sé strafbaar zijn als ze zich met elkaar uitlaten, mag dit onder geen beding met iemand van buiten de bracket, of door iemand buiten die leeftijdsgroep worden geinstigeerd.

De wet in kwestie komt uit een wetboek van 120 jaar oud, en is nog niet bijgewerkt naar moderne standaarden.

Dit jaar is er een wetsvoorstel gekomen om de age of consent naar 16 jaar omhoog te zetten, en de trouwleeftijd naar 18 jaar.

In Nederland zijn die leeftijden redelijk hetzelfde, zou Japan naar 16 jaar gaan als minimum, is dat zelfs relatief streng ten opzichte van Nederland/België als ik je daarin goed begrijp, is onze bracket hier dan 14-18 ipv daar nu 13-18.
https://nl.wikipedia.org/wiki/Seksuele_meerderjarigheid
Niet ontuchtig, en dus niet strafbaar op minderjarige leeftijd wordt door rechtbanken gezien een 'niet-exceptionele verkenningstocht in het kader van een vrijwillig seksueel contact tussen twee jongeren die verkering met elkaar hebben en die in betrekkelijk geringe mate in leeftijd verschillen.
België: Voor seks tussen gewone minderjarigen (-18) geldt een minimumleeftijd van veertien jaar.

Ja ik snap het aan de ene kant wel. Maar als je een groep mensen zo in een hoekje duwt dat niemand er over durft te praten dan kom je vanzelf bij illegale dingen uit.

En dan zou dit een veel betere oplossing zijn dan echte KP.

Maar tja tegenwoordig moeten we respect hebben, maar praten over andere meningen of problemen blijven vaak in een taboe sfeer hangen. En dat zorgt er niet voor dat iets wordt opgelost.

Thanks voor de link. Het maakt zeker sense.

Dat is maar de vraag. Als je doel is om misbruik te voorkomen, dan kan materiaal dat wordt gemaakt zonder misbruik daarbij juist helpen. Want dan wordt aan de vraag voldaan zonder misbruik en wordt het foute materiaal hopelijk weggeconcurreerd.

Maar ik denk dat dit erg afhangt van hoe je denkt dat porno werkt. Sommige mensen denken dat het de seksualiteit van mensen stimuleert en dat kinderporno dus ervoor zorgt dat pedofielen juist meer kinderen gaan misbruiken. Anderen denken dat het juist echte seks kan vervangen en ervoor kan zorgen dat pedofielen hun seksualiteit vaker gaan beleven op een manier die anderen geen schade toebrengt.

Volgens mij gaat het bewijs meer richting dat laatste, al is er zeker geen hard bewijs.

Maar ik denk dat er de meeste mensen virtuele kinderporno eigenlijk vooral afwijzen omdat ze het smerig vinden. Wat ik echter in de meeste discussies over dit onderwerp mis is dat men concreet aangeeft hoe men het probleem echt wil oplossen. Verwacht men bijvoorbeeld dat pedofielen hun seksualiteit helemaal gaan onderdrukken, denkt men dat pedofielen hun seksualiteit kunnen veranderen, wil men deze mensen hun hele leven in de gevangenis gooien, of iets anders?

Maar ik denk dat er de meeste mensen virtuele kinderporno eigenlijk vooral afwijzen omdat ze het smerig vinden. Wat ik echter in de meeste discussies over dit onderwerp mis is dat men concreet aangeeft hoe men het probleem echt wil oplossen. Verwacht men bijvoorbeeld dat pedofielen hun seksualiteit helemaal gaan onderdrukken, denkt men dat pedofielen hun seksualiteit kunnen veranderen, wil men deze mensen hun hele leven in de gevangenis gooien, of iets anders?

Dat is ook het fundamentele probleem. Dit soort verboden zijn vooral meer bedoeld om de goede smaak te bewaken en heel hard te roepen dat je dingen niet wil zien, maar er niet echt nagedacht wordt over de gevolgen.

Verkrachten/misbruiken van kinderen was immers al strafbaar. Het denken aan kinderen misbruiken kun je met alle middelen van de wereld niet strafbaar maken. Dus wat gaan we doen? Alle afbeeldingen er van zo hard mogelijk verbieden, zodat we heel schijnheilig kunnen zeggen dat het niet bestaat. Daarvan wordt het internet spontaan veiliger.^{Let op: Satire.} Gordijntjes dicht, probleem opgelost.

Wat je dan over het hoofd ziet is dat mensen die al de neiging hebben om smerige dingen met kinderen uit te spoken, nu alleen maar dit in prakijk kunnen brengen achter gesloten deuren, en ze geen mogelijkheid meer hebben om hulp te zoeken, want dan lopen ze het risico dat ze vervolgd worden.

[Reactie gewijzigd door Stoney3K op 22 december 2022 12:51]

Jep, dat is exact ook mijn gedachte, enerzijds is het dus in de strekking van legalisering om misbruik tegen te gaan, maar dat is maar de vraag of het dan ook echt zo is. Mijn kennis hiervan is nihil natuurlijk.

Dat laatste, tja.. homosexualiteit word ook als ziekte gezien. Nu wil ik niet de vergelijking trekken, maar ik vind dat je voorkeuren niet als ziekte kan zien. Daarbij spreek ik ook duidelijk uit dat handelen erna ik niet goedkeur (pedofilie). Je kan iemand niet veroordelen voor hun voorkeuren, maar wel hun daden. Helaas is dan wel gebeurd wat er gebeurd is.

Ik vind het analogie tussen homoseksualiteit en pedofilie ook heel interessant. En daarmee bedoel ik niet dat deze gelijk zijn, maar omdat beide vaak afgewezen worden zie je dat er ook bij homoseksualiteit pogingen gedaan worden om het te onderdrukken of voorkomen (in het geval dat mensen denken dat je homo wordt door bepaalde ervaringen). Bijvoorbeeld, homogenezing, het cultureel onacceptabel maken van homoseksueel gedrag of relaties, mensen die zichzelf proberen om te vormen naar hetero door heteroseksuele porno te kijken, proberen voorkomen dat mensen in aanraking komen met homoseksuele porno omdat het mensen homo zou maken, etc.

Wat mij opvalt is dat er een breed gedeelde mening is dat al deze pogingen volstrekt kansloos zijn. Dan zou ik verwachten dat men dezelfde redenaties gaat toepassen bij pedofilie, want waarom zou je wel iemand kunnen genezen van pedofilie, maar niet van homoseksualiteit? Misschien is pedofilie geen vorm van seksualiteit waar mensen mee geboren worden, maar waarom lijkt niemand geïnteresseerd in die vraag of misschien beter gezegd, het antwoord?

Exact, dat. Waarin inhoudelijk verder natuurlijk niet te vergelijken valt. Even nadrukkelijk zeggen, wil hier niemand mee kwetsen.

Ik denk ook niet dat er een "genezing" is. En ik zou ook niet een pedofiel ziek willen noemen. Voor mensen die mij persoonlijk goed kennen zal dit wellicht verassend zijn. Maar hoe dan ook is handelen een tweede.

Ik weet ook niet of er een antwoord is. Gechargeerd; een voorkeur voor type partner, vrouw/man whatever, de ene vind blond, de ander brunette leuk, andere fysieke eigenschappen. In een hoop landen is het ook een ding om er zo jong mogelijk uit te zien, of (daar vind ik wel wat van) een kind juist weer er als een volwassene uit te laten zien. Die hele trend vind ik lastiger... Daar word ook gehandeld op een beeld, zij het op een andere manier. Ik denk dat ergens dit ook wel mee speelt. Maar misschien dwaal ik hier wat af. Modebeeld is natuurlijk geen pornografie, maar beide zijn wel onderhevig natuurlijk aan een vertoon. Maar wellicht ben ik hier wat kort door de bocht.

Wat een onzin weer van de Nederlandse regering. Het lijkt me een gevalletje vrijheid van kunst, wat in Nederland neerkomt op vrijheid van meningsuiting. Er zijn zoveel films en computerspellen met gesimuleerd geweld, gesimuleerd zinloos geweld, gesimuleerde verkrachting, gesimuleerde marteling, gesimuleerde massamoord, gesimuleerde genocide. Alle gruwelijkheden zijn toegestaan in drama, proza, de kunsten en simulaties, maar bij VCSAM zouden we opeens veranderen in daders alsof het een prionziekte betreft?

Volgens mij heb ik lang geleden A Serbian Film toch echt in een Nederlandse winkel gekocht. Ik wist niet dat zowel die winkel als ik nu strafbaar zijn. Ik ga maar snel de DVD weggooien.

Wel weer vreemd, RT kan zo maar de nek worden omgedraaid, per decreet.
Maar als je als per abuis "secret hentai ' intikt, draait je maag zowat om.
of zitten ze ( wie ze ook mogen zijn ) daar zelf alle dagen op te rukken.

Ik vind het eigenlijk maar vreemd dat virtueel ook niet mag. Waar het in de basis om gaat is kinderen beschermen tegen dit soort misbruik en uitbuiting, toch? Zou je de kinderen niet veel meer helpen door de virtuele variant legaal te maken, zodat het onaantrekkelijk wordt om nog echte kinderen daarvoor in te zetten? Zolang er vraag is, blijft er aanbod, en dan kun je maar beter zorgen dat dat aanbod zo onschadelijk mogelijk is. Eigenlijk een beetje als het drugs verhaal. Het is goed dat wiet hier legaal is, zodat mensen minder snel naar harddrugs gaan grijpen en het aanbod niet door criminelen geleverd wordt. Kan de VS nog wat van leren, met hun drugsproblematiek.

Het nare is, dat hoe illegaler het is, hoe meer er voor betaalt wordt en hoe grotere risico's "mensen" bereid zijn om te lopen bij de productie.

Het is in zekere zin hetzelfde als met drugs. Dus als je die markt kan ondermijnen met virtuele productie, dan is daar wat voor te zeggen. Net zoals dat je de illegale drughandel onderuit kan halen door de drugs gewoon legaal te maken. Dat is met kindermisbruik alleen geen optie.

Wel natuurlijk met als voorwaarde dat dit idd niet mensen op ideeën brengt. Maar virtuele productie zou netto prima een vermindering kunnen betekenen in het aantal kinderen wat in totaal misbruikt wordt.

(Mensen tussen aanhalingstekens want ik vraag mij oprecht af of je mens bent als je empathie, wat ons tot mens maakt, compleet niet hebt en dader in deze bent).

Stel dat onacceptabel materiaal word gevonden, maar het is totaal gegenereerd met AI, is het dan strafbaar? Denk dat het nog wat te vroeg is voor deze tak...

Dat verschilt per land. In Nederland: Ja, absoluut. Ook nep CSAM materiaal zoals cartoons is in Nederland verboden.

Ik denk dat daar ook met dit project wel een ban op zal blijven trouwens, juist vanwege de gevoeligheden en strafbaarheid. Maar gewone porno is natuurlijk totaal niet strafbaar.

[Reactie gewijzigd door GekkePrutser op 22 december 2022 10:36]

[...]Dat verschilt per land. In Nederland: Ja, absoluut. Ook nep CSAM materiaal zoals cartoons is in Nederland verboden.

De criteria om dat te bepalen zijn alleen verre van objectief. Wanneer is het precies geoorloofd en wanneer is het 'gesuggereerde' CSAM?

Gaat het om volwassen vrouwen met een wat kleinere cupmaat, zoals in Australië? Om vrouwen die afgebeeld worden in schattige jurkjes, strikjes en met knuffels op de slaapkamer maar die wel 18+ zijn? Om het stiefzusje wat zich weer eens vast heeft gezet in de wasmachine?

Dan kun je wel zeggen "Het gaat alleen om de obvious cases" maar de deur naar een hellend vlak en willekeur staat met dit soort regelgeving echt wagenwijd open.

De criteria om dat te bepalen zijn alleen verre van objectief. Wanneer is het precies geoorloofd en wanneer is het 'gesuggereerde' CSAM?

Dat weet ik niet. Er staat op de pagina van de overheid "is of lijkt" (dank aan @vdtweak voor de link).

Wat je daar dan precies onder rekent weet ik ook niet. Ik zou gezien de gevolgen echter het zekere voor het onzekere nemen. Zelf heb ik sowieso niks met dat soort materiaal overigens maar het is wel belangrijk om te weten voor als je het zomaar tegenkomt.

[Reactie gewijzigd door GekkePrutser op 22 december 2022 14:36]

[...]
(zelf heb ik sowieso niks met dat soort materiaal overigens).

Ik overigens ook niet, alleen wil ik duidelijk maken dat die verwoording het heel makkelijk maakt om de scope van zo'n wet heel snel op te schuiven zonder controle en het dus enorm veel mogelijkheden biedt tot machtsmisbruik als het niet goed is afgekaderd.

Een vergelijkbare situatie is in Australië aan de hand geweest. Een bekende erotische site (zonder iets van CSAM) werd op de zwarte lijst gezet omdat hun modellen wat kleiner waren uitgevallen (lees: Geen opgepompte pornotieten hadden) en uiteindelijk is zelfs het Wikipedia-artikel met de zwarte lijst van geblokkeerde sites, óók op de zwarte lijst gezet. Zonder mogelijkheid tot beroep.

In Puerto Rico is een man zelfs bijna tot een gevangenisstraf veroordeelt tot de betreffende pornoactrice zelf naar de rechtszaal kwam om te bewijzen dat ze ondanks haar uiterlijk toch echt meerderjarig was. Persoonlijk vind ik dit soort vage wetgeving behoorlijk eng, zeker omdat enkel een verdenking je hele leven al kan vernietigen.

Even terug naar de basis: ik wil de vraag "zou dit mogen" niet willen stellen, maar liever de vraag stellen "zouden we dit als maatschappij willen?"
We zien nu al dat er misbruik wordt gemaakt van machinelearning/deepfake om gezichten te misbruiken in bepaalde situaties.

En misschien kun je de losstaande elementen (zoals het leren van publiek beschikbaar beeldmateriaal), juridisch goedkeuren, moreel verwerpelijk is het zeker. Dan kun je de game-industrie als argument gebruiken om het goed te praten, want daar komen ook moreel verwerpelijke thema's voorbij (misdaad), maar dan gaat het om spellen en hier gaat het om technieken gericht op een realistische ervaring.

Of anders gevraagd: stel dat je de bevoegdheid zou krijgen om dit soort technieken goed te keuren. En je zou daarmee content kunnen maken die handelingen bevatten die in het echt maatschappelijk onaanvaardbaar zijn. Zou je, als je de technieken goedkeurt, slachtoffers die gedupeerd zijn in het echte leven, kunnen of willen uitleggen waarom je kan verantwoorden dat dit een goed idee is? Want ook al "is het niet echt", is het wel een signaal alsof er goedkeuring is naar zulk gedrag. En ik zou me in het geval van Kickstarter daar niet mijn handen aan willen branden.

Ja, dat vind ik een discussie apart, ik dacht die hier buiten te houden. En inhoudelijk hier goed op reageren weet ik niet of ik dat kan zonder daar heel lang en goed over na te moeten denken. Initieel zijn mijn gedachten wel de in de lijn van dat ik het moreel niet ok vind, zeker. Ik zou als Kickstarter hier ook liever niet iets als dit toelaten. Ik vind AI/deepfake echt een issue. Ik ben ook wel van mening dat niet alles hoeft te kunnen in een maatschappij. Men kan nauwelijks al onderscheid maken tussen slecht gefotoshopte afbeeldingen of willekeurige afbeeldingen met een clickbait tekst erop, etc. Nee, ik denk dat de wereld beter af is zonder deze dingen.

Echter, aan de andere kant denk ik, in een milde strekking aan het legaliseren van bepaalde drugs, zo hier kan dat natuurlijk ook. Zo word het minder interessant om echt foute dingen te maken,... want het gebeurd toch wel. Maar dat is een heel pittig vraagstuk,... wat werk je daarmee in de hand. Het is makkelijk gedacht, maar niet zo makkelijk in de praktijk. Te kort door de bocht, en geen kennis van materie. (Ik zeg dus ook niet dat we dit moeten doen, echter speel ik wel met de gedachte als: "zou dit kunnen helpen tegen misbruik?").

Stel dat onacceptabel materiaal word gevonden, maar het is totaal gegenereerd met AI, is het dan strafbaar?

Jazeker! Pornografisch materiaal van figuren die met enige redelijkheid een realistische weergave van kinderen geeft, wordt eveneens als kinderpornografie beschouwd. Er is ook een clausule over niet-realistisch materiaal dat wel echte kinderen moet voorstellen. Enkel duidelijk niet-realistische afbeeldingen van fictieve kind-achtige personen die dus niet gebaseerd zijn op echte kinderen worden niet als kinderporno aangemerkt.

Wat kun je nu doen met een budget van 23.000 dollar? Lijkt meer een marketingstunt dan ...

Een flinke bak (bakken) opspinnen met de juiste GPU's voor het trainen van het model, en waarschijnlijk ook zorgen dat alle afbeeldingen eerst netjes worden opgeslagen.

Gezien het budget lijkt het mij dat ze een subset aan afbeeldingen gingen trainen, hiervoor 23k nodig hadden om de capaciteit + storage te hebben. Vervolgens een basis ML op te zetten, en zodra dat loopt er meer data in stoppen zodat het nog meer verbetert.

23k is voor GPU's helaas helemaal niet meer zoveel tegenwoordig. Ik ben het wel eens met @uip . Lijkt meer een marketingstunt zoals de meeste kickstarters tegenwoordig.

Edit: Ik zie dat ze veel hogere doelen hebben dan dat.. Dus die 23k is niet hun einddoel.

Maar ik begrijp het gevoel wel, er zijn zoveel nep-kickstarters nu die gewoon commerciele projecten zijn maar alleen op kickstarter komen voor de gratis reclame.

[Reactie gewijzigd door GekkePrutser op 22 december 2022 10:32]

Vermoed dat het om huren, niet kopen gaat hè.

Maar dan nog.. Voor de prijs van een GPU heb je diezelfde GPU hooguit een maand of twee in de cloud.

Klopt, maar je hoeft je dan als start-up niet bezig te houden met je eigen HW.
En soms moet je dat ook niet willen, als je daarvoor niet de mensen hebt.

Maar niet de stroom om die GPU's ook een maand of 2 te laten draaien....

Klopt ja maar dat valt nog best in het niet bij zo'n GPU.

Let ook wel: In Nederland is de stroom nu extreem duur vanwege de opstapeling van Groningen-sluiting en Oekraine oorlog, maar dat geldt niet voor Amerika. Hier in Spanje betaal ik ook veel minder, nu zo'n 30 cent per kWh. Dat was 17 cent voor de Oekraine oorlog dus het is 2x zo duur geworden. Valt best mee. Nederland zit na het plafond op 1,15 ofzo?

Voor mij 82 cent per kwh vanaf januari. Blijft dat in Spanje die 30 cent? Dat is dan wel een flink verschil ja

en in de nachtelijke uren heb je ook contracten waar je in spanje 6 cent per kw betaald tussen 1 AM en 6 AM

Ja klopt! Ik heb dat dan weer niet, ik heb een ander tarief waarbij je voor alle uren wat meer betaalt (35 cent) maar dan 2 uur gratis per dag krijgt. In mijn geval tussen 7 en 9 's avonds. Dan zet ik de verwarming altijd helemaal vol aan. Aan goedkope stroom 's nachts heb ik niet zoveel want ik heb niet eens een wasmachine ofzo.

Als je die 'happy hours' niet neemt dan zit je wel aan de 30 cent. Maar in mijn geval is dit in elk geval in de winter voordeliger.

Huren is ook niet altijd zo goedkoop: https://www.youtube.com/watch?v=QvR48_vnv3Q

Op een publiek cloud platform als Azure kun je daarmee best een tijdje VMs met GPUs huren om een model te trainen.
Niet heel gek dit.

Als je geen salaris en andere standaard lasten voor een bedrijf hoeft te betalen kun je er inderdaad best wat mee doen.

Ja en dan nog 150K azure cloud credits, voor startups https://www.microsoft.com/en-us/startups?rtc=1

Amateur populaire categorie heb ik ooit gehoord.

Ik denk dat er genoeg redenen zijn om maar 23K te proberen op te halen. Je kan namelijk zelf ook al een paar 100K hebben, een goede investeerder die enkel investeerd indien meer dan 23K, ... En je kan ook doen zoals Flirc met hun Skip 1S deed: ondanks reeds het budget en de naam te hebben, toch een kickstarter op 500$ maken omdat je daar gestart bent en je je geschiedenis niet wilt verloochenen (hoewel 23K dan weer een wat vreemder bedrag is waar je risico gewoon 0 is, welke je in het flirc geval wel kan nemen)

Ze proberen geen 23k te halen, ze hebben stretch goals tot 100k en ook daarboven sluiten ze niet uit.

Je kan er een server mee huren en die van de nodige software voorzien. Met voldoende betalende accounts krijg je vanzelf de mogelijkheden om verder te groeien.

ik heb liever dat kleinere bedrijfjes voor bescheiden bedragen zo'n campagne opzetten, dan de belachelijk grote die al miljoenen hebben (ja chris roberts ik heb het over star citizen en dat half miljard dat blijkbaar nog altijd niet genoeg is )

Niet naar bedoeld, maar als zoiets als dit een scene met 2 tieners van 12 ‘genereert’, wat dan dus niet die ‘leeftijd’ is, maar lijkt.

Is dit dan ‘kinderporno’? Of? Hoe wordt daar dan mee om gegaan?

Lijkt mij ook heel vreemd om een (normaal volwassen) porno-scene te zien wat compleet door AI gemaakt is.

Vaak werd ook al gezegd dat de ‘echte’ hardcore porno al te heftig was in sommige gevallen. Door AI te gebruiken kan je natuurlijk 200 stappen verder gaan, geen idee of dit wel heel erg goed is voor bijvoorbeeld de jeugd.

Zeer lastige casus.

Niet naar bedoeld, maar als zoiets als dit een scene met 2 tieners van 12 ‘genereert’, wat dan dus niet die ‘leeftijd’ is, maar lijkt.

Is dit dan ‘kinderporno’? Of? Hoe wordt daar dan mee om gegaan?

Virtuele kinderporno is in Nederland in ieder geval verboden. Zie deze pagina op Rijksoverheid:

Naast kinderporno bestaande uit beeldmateriaal van echte kinderen, is ook virtueel materiaal strafbaar. Deze virtuele kinderpornografie bestaat bijvoorbeeld uit animaties. Virtuele kinderporno is strafbaar omdat dit soort materiaal seksueel misbruik van kinderen suggereert.

Ah, dat wist ik niet. Goed dat daar ook al over nagedacht is.

Dus wanneer een AI tool dat soort beelden per ongeluk uitspuugt, dan pleeg ik een misdrijf als eigenaar van die beelden? Of pleegt de AI een misdrijf? De eigenaar van de computer?

Wanneer een AI zoiets genereert als gevolg van een expliciete prompt, dan is het wat anders, maar de kans dat het bij toeval gegenereerd wordt is niet nul. Het is immers een AI en die genereert min of meer random beelden waarna gekeken wordt wat er wel en niet aan de prompt voldoet.

Artikel 240b gaat daar nog iets dieper op in:

Met gevangenisstraf van ten hoogste vier jaren of geldboete van de vijfde categorie wordt gestraft degene die een afbeelding - of een gegevensdrager, bevattende een afbeelding - van een seksuele gedraging, waarbij iemand die kennelijk de leeftijd van achttien jaar nog niet heeft bereikt, is betrokken of schijnbaar is betrokken, verspreidt, aanbiedt, openlijk tentoonstelt, vervaardigt, invoert, doorvoert, uitvoert, verwerft, in bezit heeft of zich door middel van een geautomatiseerd werk of met gebruikmaking van een communicatiedienst de toegang daartoe verschaft.

Ik ben geen jurist, dus ik wil ook geen uitspraken doen over hoe je dit moet interpreteren en toepassen op 'door een AI per ongeluk gegenereerde kinderporno.' Ergens kan ik me voorstellen dat de eigenaar van de computer zelf strafbaar is, maar ik heb geen idee of daar in deze wetgeving überhaupt rekening mee gehouden is.

Lijkt me een interessant gevalletje jurisprudentie, maar ik denk dat het vergelijkbaar gaat zijn met iemand die ongevraagd een kinderporno-foto toegestuurd krijgt en waarvan dan aangifte gedaan wordt.

Er zat immers helemaal geen bedoeling achter om kinderporno te verkrijgen/genereren.

In dit geval is het project niet ge-suspend vanwege het NSFW materiaal maar vanwege de onduidelijkheid omtrent het gebruik van auteursrechtelijk beschermde afbeeldingen om een AI te trainen.

Wacht even, het doel is hier niet specifiek pornografie. Het doel is alleen om geen (of weinig) beperkingen opleggen zoals andere Kunst-AI's wel doen.

Inderdaad zie ook; Stable Diffusion 2.0 verwijdert mogelijkheid om nsfw-beelden te genereren
nieuws: Stable Diffusion 2.0 verwijdert mogelijkheid om nsfw-beelden te gener...
Resultaten van Stable diffusion 2.0 laten nogal te wensen over, al komen ze met versie 2.1 deels op terug.
"you’ll be happy to discover that 2.1 supports the new prompting style and brings back many of the old prompts too! The differences are more data, more training, and less restrictive filtering of the dataset."
https://stability.ai/blog...sion2-1-release7-dec-2022

... verwijdert mogelijkheid om nsfw-beelden te genereren ...

Waarmee een art AI meteen de mogelijkheid verliest om heel veel kunststijlen te hanteren. Renaissance, Barok, klassiek Romeins en Grieks, veel Afrikaans, Japans, etc. mag allemaal niet meer.

Ze wordt kunst zo a priori beperkt tot Amerikaans puriteinse interpretaties van kunststijlen. Michelangelo en da Vinci zouden ze van kunst verbannen.

Ik denk dat we langzamerhand gaan wennen aan het idee dat tegenwoordig 'alles' verzonnen kan worden (door AI, maar ook door mensen). Het onderscheid tussen 'echt' en 'fantasie' gaat verdwijnen. Vraag is hoe we daarmee om moeten gaan. Wat als factcheckers ook niet meer betrouwbaar zijn?

"alles" wordt al sinds mensenheugnis verzonnen door mensen, de creatie en de uitwerking ervan was vaak het probleem dat nu wordt weggenomen door AI. Dit project zag een gat in de markt (sex sells) en wil daarom de gedwongen preutsheid niet opnemen in hun algoritmes, wetende dat het resultaat niet zou zijn wat opdrachtgevers vroegen.

De film Idiocracy geeft een algemeen beeld.

Hiervoor wil het bedrijf afbeeldingen gebruiken van anime en cosplay, foto's en beelden van kunstenaars op Artstation, DeviantArt en Behance. In totaal gaat het om 75 miljoen afbeeldingen waarop het model van Unstable Diffusion moet trainen.

Heel jammer dat het om afbeeldingen gaat, en nogwel anime en cosplay.
Persoonlijk denk ik dat het een een hele mooie ontwikkeling zou zijn als echte porno zoals de grote mindgeek sites laten zien ook met AI gegenereerd kon worden. Dat zou een heleboel mensenhandel, misbruik en andere narigheid die nu plaatsvind rondom de porno-industrie kunnen schelen.

Als je denkt dat de porno-industrie er beter op gaat worden door concurrentie te krijgen van AI die nauwelijks geld kost dan moet ik je teleurstellen. Dat wordt een race to the bottom, proberen om mensen nog minder te betalen, nog exploitatiever te zijn om in die markt nog geld te kunnen verdienen. Of mensen pushen om dingen te doen die de AI (nog) niet kan genereren.

Automatisering zonder steun voor de mensen die eerder hun geld verdiende met dit werk loopt nooit goed af voor de mensen. Al helemaal niet voor zo'n klasse die zo kwetsbaar is als mensen die verhandeld worden.

Extreem kortzichtig. Alsof je het potlood verbiedt omdat je er schunnige tekeningen mee kan maken.

Hmm, ik vind dat dan weer kortzichtig de andere kant op. Het is meer een potlood wat geautomatiseerd duizenden tekeningen per seconde uit kan spuwen, zonder echte controle.

Waarom moet overal maar controle op zitten? Er zit op het werk van een kunstenaar toch ook geen controle? Dit project gaat trouwens niet zozeer alleen om het maken van virtueel pornografisch materiaal, maar gewoon om een AI te hebben zonder creatieve beperkingen, net zoals een schilder ook een lichaam kan schilderen en niet totaal de weg kwijt is omdat ie zoiets nog nooit gezien heeft. Dit soort censuur strekt zich namelijk ver door in een AI's kunstmatige creativiteit.

Ongetwijfeld zijn er dan mensen die gaan zeggen dat er kinderporno in zo'n AI ingevoerd zal worden, maar dat is natuurlijk niet zo, in dit geval. Het gaat gewoon om algemeen publiekelijk beschikbaar nsfw-materiaal en publieke kunstwerken. (Al zullen er ongetwijfeld dat soort initiatieven komen op het dark web, maar op virtueel materiaal wat daar uit komt daar kan gewoon bestaande wetgeving op toegepast worden)

Nou de controle moet er in dit geval in mijn ogen opzitten omdat de AI in principe niks zelf maakt, maar alleen dingen gebruikt die door mensen zijn gemaakt. Er zijn genoeg voorbeelden van AI art die helemaal niks nieuws is, maar letterlijk een kopie van iets anders.
Zeker als je dan iets als porno gaat doen, de mensen die daar in spelen en waar dit model op wordt getraind hebben daar toestemming voor gegeven. Waar ze geen toestemming voor hebben gegeven is voor het namaken van hoe zij er uitzien door een AI, om ze dan in andere situaties te planten.

Natuurlijk is het hip om weer censuur te noemen, maar heeft hier weinig mee te maken. Door alles censuur te noemen zijn we aangekomen op het punt waar censuur niks betekent dan 'ik wil dat het anders is, censuur!!1'. Het is natuurlijk makkelijk roepen, maar niet alles wat controle is is censuur. Jij mag nu niet een supermarkt openen en die zomaar inrichten als een Albert Heijn, is dat in jouw ogen censuur? Want in mijn ogen is dat niet anders, je mag niet zomaar iets gebruiken wat iemand anders heeft gemaakt dus waarom zou een AI dat wel mogen. Waarom moet jij het recht hebben om met een commando een schilderij na te maken, terwijl je die AI hebt getraind op dingen die niet van jou zijn?

Je kan een AI prima vragen om sommige kunstwerken na te maken, maar dat is natuurlijk niet het doel. Je kan een schilder hetzelfde vragen. Op zo'n output kan natuurlijk auteursrecht zitten. Echter zit er geen auteursrecht op kunst dat geïnspireerd is door vergelijkbare kunst. Als dat wel zo was, dan hadden de meeste artists op Artstation een heel groot probleem. Verder klopt het gewoon niet dat AI niks zelf maakt. Ja, AI is getraind op bestaand materiaal, maar dat zijn mensen ook.

Je verhaal over waarom censuur goed is ga ik niet in mee. Ironisch genoeg klopt je voorbeeld over de supermarkt niet eens. Ik mag prima een supermarkt openen die heel erg lijkt op de Albert Heijn. Ander logo, ander kleurtje, en noem het de Bertus Willem, en klaar. Want de Jumbo is natuurlijk ook gewoon een Albert Heijn, en die meer dan 25 andere ketens in Nederland ook.

Verder klopt het gewoon niet dat AI niks zelf maakt. Ja, AI is getraind op bestaand materiaal, maar dat zijn mensen ook.

AI modellen zijn uitsluitend afgeleiden van bestaande kunstwerken, waarop merendeels het auteursrecht berust. De algoritmen bestaan uit de volgende onderdelen: een scraper, een interpreter, een composietmodel en een prompt-based generator. De scraper verzamelt afbeeldingen van het internet op massale schaal. De interpreter deelt de afbeeldingen op in segmenten en combineert deze segmenten middels statistische analyses tot een composietmodel. Het is een digitaal equivalent van het overtrekken van meerdere kunstwerken van een T-shirt om tot een 'universeel' T-shirt-model te komen, en dit te herhalen voor alle onderdelen waar je een naam aan kan geven. De prompt-based generator zorgt er vervolgens voor dat verschillende onderdelen uit het composietmodel gecombineerd worden in een nieuwe afbeelding.

Mensen zijn niet perse getraind op bestaand materiaal. Zij zijn in staat om kunstwerken te maken zonder ooit een ander kunstwerk van het betreffende onderwerp gezien te hebben. Dit kan zowel op basis van ervaring opgedaan uit het echte leven (bijvoorbeeld het tekenen van een banaan, ook al heb je hier nog nooit kunstwerken van gezien maar enkel echte bananen), alsook vanuit de chaotische creativiteit van ons brein (het maken van legitiem originele concepten die nog nooit eerder waargenomen zijn).

In tegenstelling tot de mens kan AI inderdaad dus niets zelf daadwerkelijk maken. Het is een determinisch programma dat structureer informatie uit miljoenen bestaande afbeeldingen haalt en consolideert zonder toestemming van de rechthebbenden, om deze informatie vervolgens op de juiste manier te combineren in een nieuwe afbeelding. Vanuit een fundamenteel opzicht is hier 0% nieuws aan. Dit in tegenstelling tot mensen, die wel degelijk originele werken kunnen produceren, al of niet door gebruik te maken van bestaande kunstwerken. Hierin ligt ook het verschil tussen inspiratie en derivatie: een mens kan geïnspireerd raken door zowel bestaande kunst als het echte leven om zelf iets te maken. Een AI algoritme kan dit niet. Er komt in een dergelijk systeem geen inspiratie te pas.

Er zijn genoeg voorbeelden van AI art die helemaal niks nieuws is, maar letterlijk een kopie van iets anders.

Dat valt nog vies tegen. Een goed getrainde AI zou geen letterlijke kopie van een originele afbeelding moeten kunnen maken. Huidige uitzonderingen hierop zijn hele bekende afbeeldingen die vaker in de trainingsdata voorkomen. Deze vervuilen als het ware het uiteindelijke model.

zonder echte controle.

Niemand controleert wat iemand met een potlood of in photoshop doet. Het enige wezenlijke verschil is de snelheid waarmee je content kan genereren.

Volgens mij heb je het artikel niet gelezen. Het soort materiaal dat ermee wordt gegenereerd is niet het probleem. AI gebruikt bestaand (copyright) werk om nieuw materiaal te genereren. Hiermee laait de discussie over schending van auteursrechten op en Kickstarter kiest de kant van artiesten/kunstenaars door deze projecten te weren.

Soortgelijke discussies spelen ook bij bijvoorbeeld teksten die door ChatGPT worden gegenereerd en code van GitHub copilot.

Volgens mij heb jij zelf de bron van het artikel niet gelezen. Ze hebben (nog) helemaal geen kant gekozen, maar hebben deze Kickstarter gestopt om de tijd te nemen om te bedenken wat ze aan moeten met AI-projecten.

Maar uiteindelijk is het voor deze anti-AI beweging een verloren wedstrijd, en gelukkig maar.

Hoe bedoel je, "en gelukkig maar"? Vind jij dat artiesten hun auteursrecht maar moeten opgeven voor software dat hun eigen werken gebruikt voor commerciële doeleinden en dezelfde artiesten hun baan doen verliezen? Het auteursrecht is juist in het leven geroepen om te voorkomen dat men misbruik kan maken van het harde intellectuele/creatieve werk van anderen.

Als jij op de universiteit informatie van een ander overneemt zonder deze te refereren, pleeg je plagiaat en vlieg je zo de deur uit zonder diploma. Als jij onderdelen van een Disney-film op YouTube pleurt, pleurt YouTube het er binnen no time weer vanaf en krijg je een officiele waarschuwing. Ga je een stap verder en doe je dergelijke dingen veelvuldig of op grote schaal, zeker voor commerciële doeleinden, kan je behoorlijke rechtzaken aan je broek krijgen. Waarom zou dat dan opeens anders moeten zijn voor software die doelbewust ontworpen is om op een indirecte manier exact hetzelfde te doen en hier geld aan te verdienen?

En wat is het verschil met hoe een mens tot zijn kunst kom komt ? Externe impressies opdoen en die vertalen naar papier.

Het verschil zit hem in het wel of niet gebruiken van auteursrechtelijk beschermd materiaal. Dat moet nu toch wel duidelijk zijn, ik heb het al heel vaak aangegeven.

de link naar "geen regels overtreedt"wijst nu naar :

nieuws: Hackers stelen broncode van Okta via GitHub-repository's

denk dat iets anders bedoeld is...