Deepfake-site MrDeepFakes stopt definitief na juridische druk Nederland en VK

Het platform MrDeepFakes heeft zijn diensten permanent beëindigd. De sluiting volgt na intensieve juridische druk vanuit Nederland en het Verenigd Koninkrijk, waar het maken en verspreiden van deepfakes als wraakporno wordt beschouwd.

"Door het permanent beëindigen van een kritieke serviceprovider en onherstelbaar dataverlies is hervatting van de dienst onmogelijk geworden", meldt de website in een afscheidsbericht dat een week zichtbaar blijft op de website. De beheerders zeggen dat ze de site niet zullen herstarten op een ander domein. Eerder verloor de website al verschillende hostingproviders, waaronder vorig jaar een Noorse partij die de dienstverlening staakte na confrontatie met Nederlandse aangiftes door AD.nl.

Het platform, dat maandelijks 6 miljoen bezoekers trok, waarvan 200.000 uit Nederland, huisvestte zo’n 55.000 AI-gegenereerde video's, onder meer van bekende Nederlanders. De site werd gerund door een consortium bestaande uit een 36-jarige Canadese beheerder en Russische cybercriminelen. De website had eerder al toegang geblokkeerd vanuit Nederland en het VK vanwege de strengere wetgeving in deze landen.

Reacties (61)

[X_pl0visi0n]

Op ars technica wordt er toch een geheel ander beeld geschept van het ondergaan van deze site.
Gebruikers uit het VK werden geweerd & is er geen woord over nederlandse juridiche druk gerept..
https://arstechnica.com/t...-site-shuts-down-forever/

[Zoijar]

Ik kan ook niks vinden hierover bij andere sites, maar misschien zoek ik niet goed.

De site werd gerund door een consortium bestaande uit een 36-jarige Canadese beheerder en Russische cybercriminelen.

Eigenlijk kan ik alleen David. D. vinden uit het Der Spiegel artikel. ( https://www.spiegel.de/in...e3-4237-9066-978cbed496cf )

[Reactie gewijzigd door Zoijar op 6 mei 2025 11:11]

[kodak]

Er worden wel meer personen in dat artikel genoemd. Meer zelfs dan de twee in dit nieuws. Het AD gaat er ook over.

[Reactie gewijzigd door kodak op 6 mei 2025 11:59]

[WillySis]

Het zijn ook journalisten van het AD die onderzoek hebben gedaan naar de mensen achter de site. Zij hebben ook heel veel take-down verzoeken gedaan.

volledige artikel: https://www.destentor.nl/...3A%2F%2Fduckduckgo.com%2F

[locke960]

Ik vermoed dat de juridische druk bij de dienstverleners ligt en dat die daarom steeds hun diensten beëindigen. De genoemde "kritieke serviceprovider" en de "eerder verloren hostingproviders" dus.

Het zou me ook niet verbazen als dat "onherstelbare dataverlies" ook met zoiets samenhangt. (Dienstverlener beëindigt de dienst en data kon niet op tijd gemigreerd worden oid.)

[Rhinosaur]

Dit noem ik het zogenaamde Faber-effect (Ergens een succes aan toekennen en winst claimen, terwijl het effect absoluut niks te maken heeft met de gene die het succes/de winst claimt). Het Nederlandse recht is hier compleet kansloos en heeft inderdaad te maken met hele andere zaken.

[mphilipp]

Volgens mij is dat een ontrechte conclusie. Als de hosting provider er de stekker uittrekt vanwege de (dreiging van) juridische druk, en daarmee de site ophoudt te bestaan, is het een juiste weergave dat de juridische druk tot het stoppen van de site heeft geleid.
Misschien kun je dit indirect noemen, maar linksom of rechtsom is het gelukt.

[InflatableMouse]

Daar hebben we geen nieuw woord voor nodig dat een van onze ministers belachelijk maakt.

Dat heet namelijk causaliteit; in dit geval het gebrek daaraan. En zij is niet de eerste die daar de fout mee ingaat. Ik denk dat vrijwel elke minister die we ooit gehad hebben de afgelopen eeuwen zich daar wel een keer aan gebrand heeft.

[3qu1n0x]

Wat is de bron voor de "Russische cybercriminelen"?
Alle andere nieuwswebsites refereren enkel naar het stuk van der spiegel over een 36 jarige man die bij Toronto woont, nergens worden deze Russische cybercriminelen elders genoemd (inclusief in het onderzoek van der spiegel).

[Reactie gewijzigd door 3qu1n0x op 6 mei 2025 11:12]

[Arnoud Engelfriet]

Tubantia meldde in maart "De expliciete filmpjes van BN’ers zijn vermoedelijk door Nederlanders geüpload, maar de website zelf is naar verluidt (deels) eigendom van een Canadese internetondernemer die connecties heeft met Russische cybercriminelen." Bron: https://www.tubantia.nl/t...ntig-aangiftes~a4679adde/

Elders (https://app.nieuwsblad.be/cnt/dmf20240403_95621808) wordt naar onderzoek van Sidenty verwezen waarin men spreekt van banden met "omstreden Russische internetbeveiligers".

[3qu1n0x]

Dat een 36 jarige canadees een connectie heeft met een omstreden Russische internetbeveiliger is iets anders dan dat deze site mede wordt gerund door Russische cybercriminelen. Er is ook nergens iets te vinden over welke connectie dat is.

De reden dat ik dit vraag is omdat deze dagen de "Russische cybercriminelen" altijd de zondebokken zijn van alles wat er op het internet verkeerd gaat, zonder dat daar verder op wordt ingegaan.

Dit artikel is daar een voorbeeld van, een onderzoek leidt naar een 36-jarige canadees die op een of andere manier een omstreden internetbeveiliger uit Rusland kent, de volgende nieuwssite maakt daar Russische cybercriminelen van, en nu meldt Tweakers dat zij ook meededen aan het runnen van deze site (en dus verantwoording dragen).

(edit: typo)

[Reactie gewijzigd door 3qu1n0x op 6 mei 2025 16:46]

[tormentor1985]

Dit gebeurt helaas aan de lopende band. Zo hoorde ik laatst ook een heel stuk op NPO / BNNVARA. Een vrouw vertelde laatst iets over meneer Trump.

- Hij wilde een babyboom, want het geboortecijfer is te laag.

- De "getrouwde" Amerikaanse vrouw moet het probleem oplossen, ook wel een "nationalistische voortplantingsfantasie" genoemd. Vrouwen zijn "nationale broedmachines" en er wordt benadrukt dat moeders wit, heteroseksueel, getrouwd en "gehoorzaam" moeten zijn.

- De New York Times onthulde deze "plannen", met onder andere "babybonussen" van 5000 dollar per bevalling en een Medal of Motherhood bij zes baby's of meer. Hierbij werd direct een schaamteloze vergelijking gemaakt met de nazi’s, die ook zo’n medaille hadden. Als luisteraar moest ik dan maar even nadenken wat ik daarvan moest vinden.

- Er moest een nationale ovulatie-app komen, zodat vrouwen zouden weten wanneer zij hun baarmoeder moesten “openstellen voor de Amerikaanse economie”, aangezien elke menstruatie werd gezien als een gemiste kans voor het bruto nationaal product. (Echt walgelijk hoe zij daarover sprak, gezien elke menstruatie voor velen keer op keer een enorm verdriet en teleurstelling is...)

- Een vrouw moest maar meer kinderen dan meningen hebben.

Ik kan nog wel even doorgaan. Geïnteresseerd naar de waarheid achter dit hele verhaal ging ik op zoek naar de bron van wat deze mevrouw de luisteraar probeerde over te brengen.

Uiteindelijk kon ik alleen vinden dat Trump het een "goed idee" vindt om vrouwen een financiële tegemoetkoming te geven als ze een kind op de wereld zetten. Op zich fantastisch nieuws lijkt mij, al is het slechts een kleine pleister op een open wond omdat 5000 dollar niets is vergeleken met de rekening die je van het ziekenhuis krijgt.

Maar goed, hier zal de media zelfs enigszins positief nieuws tot in het ziekelijke omvormen tot iets dat vooral heel slecht moet lijken. En daar worden mensen nog voor betaald ook (met belastinggeld). We zijn bijna op het punt dat alles wat niet Europees is "niet deugt". En dan hebben wij het over het feit dat we zo vrij zijn om onze mening te ventileren. De realiteit is dat die mening alleen vrij gedeeld mag worden als deze voldoet aan de nationalistische Europese manier van denken, want elke andere mening wordt verwijderd, gedownvote of gezien als fake news, desinformatie of propaganda.

[Reactie gewijzigd door tormentor1985 op 7 mei 2025 12:25]

[DefaultError]

Vergeet niet dat ook bestuurders in diskrediet worden gebracht. Puur leedvermaak en een manier om ‘iemands’ macht te vergroten.

Zo zijn onze manieren, en bestuur gerelateerde instanties kunnen ook nepnieuws gebruiken. Met behulp van sociale media en social-apps zijn mensen met achterban in staat om hun gelijk te verkrijgen. Ongeacht of het klopt of niet. Dat creëert indirect wantrouwen en levert precies het resultaat op van een mogelijk a-politiek-discours.

Vraag door naar het waarom, wie, wat, waar, wanneer en hoe. Op voorhand is de bias bepaald omdat mensen de uitkomst al raden, eh geen tijd hebben om door te vragen.

Bekende mensen in diskrediet zien we niet als mens. Iemand met een bestuurlijke taak kan met ‘sloppy’ beeldmateriaal in een slecht daglicht worden geplaatst. “Oh ja, waar rook is is vuur, haha”. Er zijn een aantal bij die er een rommeltje van maken maar dan beland je in de roddel.

Deepfeekporno is in dit item mogelijk bestuurlijk ondermijnend. Bekendere mensen en bestuurders worden uit hun verband getrokken en kunnen hierdoor moeilijker functioneren. Een enkeling heeft zoveel macht om dit te buigen naar zijn totaal gewenste waarheid.

Het is de geest van deze tijd en fact checken is inmiddels een kunst. Klopt het wat ik zie of wat er gedrukt staat. Meerdere bronnen raadplegen en onderzoek doen is geen overbodige luxe.

[trayracing]

Ik was ook benieuwd. Ik vind een artikel op headliner.nl (platte site die allerlei headlines scrapet, geen idee wat de kwaliteit is) - dat op diens beurt weer refereert naar Algemeen Dagblad:

https://www.ad.nl/binnenl...-en-ongrijpbaar~ad2582e8/

Daar wordt gesproken over 'omstreden Russische internetbeveiligers'. Maar door de paywall kom ik ff niet verder dan dat...

[Geim]

Uit de eerste alinea, Quote:"...waar het maken en verspreiden van deepfakes als wraakporno wordt beschouwd."

Niet elke deepfake hoeft toch meteen wraakporno te zijn?

[Arnoud Engelfriet]

Dit is verwarrend inderdaad. De term 'wraakporno' is de oudere verwijzing naar alle soorten porno die wordt gedistribueerd met het doel iemand te beschadigen, oorspronkelijk natuurlijk als wraak op je ex. De wettelijke definitie is een stuk breder en omvat ook het maken van een deepfake die sterk lijkt op een bestaand persoon, ongeacht je motief.

[Geim]

De wettelijke definitie is een stuk breder en omvat ook het maken van een deepfake die sterk lijkt op een bestaand persoon, ongeacht je motief.

Beetje raar, dus als ik een persiflage maak en Trumps hoofd op een gibbon plak wordt dat over dezelfde kam geschoren als wanneer ik het hoofd van een bekende Nederlander in een pornofilm plak.

Edit: Overigens maak ik dit niet op uit: artikel 139h Wetboek van Strafrecht, daar wordt expliciet gesproken over seksueel beeldmateriaal.

[Reactie gewijzigd door Geim op 6 mei 2025 15:40]

[Arnoud Engelfriet]

Excuses, ik had moeten zeggen "pornografische deepfake". Essentieel element is wel dat de afbeelding van seksuele aard is. Dus ik weet niet wat die gibbon aan het doen is?

[Geim]

Excuses, ik had moeten zeggen "pornografische deepfake"

Dan staat het dus onjuist in het artikel?

Dus ik weet niet wat die gibbon aan het doen is?

Touché

[Reactie gewijzigd door Geim op 6 mei 2025 17:02]

[Arnoud Engelfriet]

De focus van deze site was eigenlijk alleen deepfake porno, met een voorkeur voor bekende vrouwen als onvrijwillig model. Dus ik snap dat dat er niet bij gezegd wordt.

[magician2000]

Die gibbon probeert:

1) De macht over te nemen in de VS, een hele verbetering;
2) Zijn eigen kop weer terug te krijgen;
3) Heeft nergens tijd voor, vluchtend voor de overige gibbons;
4) Springt in een ravijn omdat hij niet meer tegen die kop kon...?

[Llopigat]

Goed punt, ze hoeven niet perse pornografisch te zijn. Of zelfs een wraakmotief te hebben. Sommigen zijn als grap bedoeld, of als politieke misleiding (ook slecht natuurlijk maar geen wraakporno)

[Reactie gewijzigd door Llopigat op 6 mei 2025 11:00]

[Electrowolf]

Even voor mijn beeld, maar kunnen ondertussen meeste gen-AI toepassingen dit niet? Dus er is geen behoefte meer aan een specifieke dienst?

[SuperDre]

Ware het niet dat andere diensten volgensmij safeguards ingebouwd hebben om niet misbruikt te worden voor deepfake porno. Maargoed, geen idee of dat ook zo is.

[crazyboy01]

Dit was geen dienst om te genereren maar gewoon een 'tube'. Maar die safeguards zijn idd aanwezig bij de doorsnee dienst, echter zijn er nu ook genoeg tools op de markt die juist specifiek draaien om pornografie en ook deepfakes in de vorm van foto en video. Soms lokaal, maar zelfs gewoon online. De 'focus' van die diensten ligt vaak op algemene XXX content met niet bestaande personen, maar zeker rond celebs wordt er best wat geboden wat het maken van expliciet materiaal mogelijk maakt.

[sdziscool]

Betreft dit niet meer het hosten van dergelijke materiaal ipv het maken ervan? Kan me voorstellen dat met de illegaliteit niet veel andere sites zo'n grote collectie hosten.

[DarkSunshine]

Weet niet of dit zal werken... Er zijn al behoorlijk wat ''Local'' A.i die worden gebruikt.
en elk jaar worden deze dingen meer geavanceerde, en ook minder heavy voor de processor of gpu.
Dat bijna elke persoon het wel kan doen.

[geert1]

Uiteraard, maar het maken van een deepfake is anders dan het massaal verspreiden ervan. Het maken van zulke afbeeldingen en video's is al bijzonder droevig, maar het verspreiden zorgt voor de schade aan het welzijn van de slachtoffers.

Ook de verspreiding kan niet geheel worden tegengegaan, omdat er andere sites bestaan en er meer kunnen beginnen. Maar de grotere platforms onder druk zetten en die laten sluiten, dat helpt toch. Hoe meer zoiets als dit in het verdomhoekje wordt geschopt, hoe beter.

Echt een treurige uitwas van AI dit. Jammer dat sommige mensen geen respect en zelfbeheersing hebben; dan was er geen markt voor deepfakes geweest.

[Grrrrrene]

Als het puur voor eigen gebruik is, moet iemand dat zelf weten wat mij betreft. Je kunt iemand ook niet tegenhouden om met Photoshop aan de gang te gaan, of een schilderij te maken van een pornografische setting die verzonnen is. Dat het treurig is, daar zijn we het over eens, maar het verbieden is praktisch onuitvoerbaar.

Het verspreiden is het echt schadelijke, zeker als AI zo goed wordt dat het niet meer van echt te onderscheiden is. Niet alleen herken je de fakes dan niet meer, maar je geeft een plausibele reden om echt beeldmateriaal te ontkennen.

[Aldy]

Niet alleen herken je de fakes dan niet meer, maar je geeft een plausibele reden om echt beeldmateriaal te ontkennen.

De leugen en de waarheid gaan zo door elkaar lopen dat je direct niet meer weet wat waar is en niet en als dan ook het onderwerp (lijdend voorwerp) een duit in het zakje doet, weet je het helemaal niet meer.
Bovenstaande heb ik niet geschreven, maar iemand die mijn account gehackt heeft. Droevig, want straks vertrouw je niemand meer, wat die ook te vertellen heeft.

[SinisterMurder]

Maareuh, zijn we dan niet gewoon op het punt waar we altijd al waren tot dit millenium? Nieuws haal je van min of meer betrouwbare media en die vrouw of vent aan de bar verteld sterke verhalen, waarvan de helft gelogen is en de andere helft niet helemaal waar.
Boeken zijn fictie, tenzij je weet dat het een betrouwbare bron is op het gebied waar het over gaat.
Tjemig, we moeten misschien weer zelf na gaan denken waar de informatie vandaan komt.

[Aldy]

Tjemig, we moeten misschien weer zelf na gaan denken waar de informatie vandaan komt.

Ik bedoelde juist dat dit ook niet meer betrouwbaar is. Iedereen kan alles bevestigen èn ontkennen. Je kunt alleen de feiten nog vertrouwen als je er zelf bij bent geweest en zelfs dan......

[Grrrrrene]

Dat is dus niet waar. Als iemand die ik vertrouw erbij was, kan ik de "feiten" ook vertrouwen. Dat is ook wat @SinisterMurder zegt: we gaan terug naar vroeger, waarin je zelf moest nadenken wie je vertrouwde en wie niet. Probleem is alleen dat we nogal een gepolariseerde samenleving hebben. Kijk naar de VS bijvoorbeeld, ondanks dat de economie krimpt en boeren het moeilijk hebben, blijven ze geloven dat Trump het tij gaat keren en dat het allemaal Biden's fout is dat de economie krimpt. Als straks zijn schandalen ook worden afgedaan als "fake, AI generated, lamestream media, etc", is er toch niks meer wat hem stopt?

Dat stoppen komt pas als zijn achterban zelf merkt dat het minder gaat en dan nog zal hij volhouden dat hij wordt tegengewerkt door de elite (die ironisch gezien in zijn regering zit, maar goed).

[Aldy]

Je begint te schrijven dat wat ik schrijft niet waar is, maar je haalt dit weer onderuit met je eigen vervolg. Al die mensen vertrouwen Trump, dus is wat hij zegt waar. En ik stel dus dat je alleen jezelf kunt vertrouwen. De rest zijn aannames, afhankelijk in welke bubbel je zit.

[Grrrrrene]

Nee, dat is jouw nauwe interpretatie van wat ik zeg. Als jij werkelijk alleen jezelf kunt vertrouwen en verder niemand, heb ik medelijden met de mensen in je omgeving die je dus allemaal wantrouwt. Ik denk dat het heel menselijk is om je naasten te vertrouwen, dat hoort eigenlijk ook zo in relaties. Als mijn vriendin zegt dat ze een rode auto heeft zien rijden, heb ik geen reden om haar te wantrouwen.

Dat met die bubbels is een heel ander probleem: mensen die vastzitten in een bubble hebben helemaal geen behoefte om geconfronteerd te worden met feiten die tegen hun overtuiging ingaan. Sowieso wordt er nauwelijks nog gediscussieerd, zeker online, want we luisteren toch niet naar elkaars argumenten en willen alleen de ander overtuigen van hun ongelijk. Mensen in een bubble zijn geprogrammeerd om "feiten" te verwerpen als ze niet uitlijnen met hun geloof.

En als echt niet meer van nep te onderscheiden is, is het argument dat Trump vanaf zijn eerste verkiezing al gebruikt (fake news media) nog makkelijker toe te passen. Want wie zegt dat de beelden van zijn schandalen niet gemanipuleerd zijn? Als je dat wil geloven, kan dat.

Maar dat staat los van of je alleen dat wat je zelf ziet kunt geloven. Als je zo zwart-wit wil denken, ook dat kun je niet geloven. Het is algemeen bekend dat de mens een heel onbetrouwbare getuige is. Iedereen herinnert zich een voorval weer anders. Je ogen bedriegen je, daar komt nu alleen AI nog bij met deepfakes.

[Reactie gewijzigd door Grrrrrene op 8 mei 2025 08:06]

[Aldy]

Zoals ik al eerder schreef, val je mij aan en je haalt je eigen argumenten weer onderuit in de laatste alinea. Het komt er op neer dat je hetzelfde schrijft wat ik schrijf, alleen met veel meer woorden. Vooral de laatste drie regels wijken in niets af van wat ik geschreven heb:

Ik bedoelde juist dat dit ook niet meer betrouwbaar is. Iedereen kan alles bevestigen èn ontkennen. Je kunt alleen de feiten nog vertrouwen als je er zelf bij bent geweest en zelfs dan......

[Tintel]

Ja hebt gelijk daar niet van maar....
Het feit dat steeds meer 'filmpjes' worden gemaakt waarbij de situatie niet echt is maar de beelden an sich nog wel, is net zo goed een probleem. Bijv. dieren redden nadat ze eerst in een uiterst slechte conditie zijn gebracht (de beruchte schildpadden met aangeplakt afval). Of 'arme' mensen geld geven (die dus gewoon goed kunnen acteren) maar dus helemaal niet echt iemand helpen. Of het geld wat binnen wordt geharkt gebruiken om dure objecten te slopen (zoals Ferrari's en omdat we dat zelf niet snel zullen doen, trekt het kijkers maar het is dus pure verspilling). Of allerlei eigenlijk bijzonder onverstandige 'challenges'.

Natuurlijk bestond dit al lang; dat is tenslotte waar de filmindustrie op gebaseerd is. Maar daarbij weet je dus dat het allemaal gespeeld is (al zal de verspilling ook van toepassingen kunnen zijn) en zijn er veel strictere regels van toepassingen tijdens het maken.

Het hele idee is dus gebaseerd op emotie ontlokken aan de kijker (oa. voor de engagement) en dat kan dus op vele manieren. Deep fake is daar 1 van.
En dankzij de technische vooruitgang is het verschil tussen echt en namaak steeds minder goed te zien.

Dus moet men dit dan aanpakken? Het enige wat ik kan bedenken is de bron aanpakken maar dat lijkt op het moment onmogelijk want de bron is dus emotie => engagement => clicks/views => meer geld door meer advertentie inkomsten (of direct: via een abonnement).

[jumbos7]

Het maken van zulke afbeeldingen en video's is al bijzonder droevig

Waarom is enkel al het maken van zulke afbeeldingen en video's per definitie bijzonder droevig? Mij lijkt dat een deepfake waarbij je Daniel Craig vervangt door een jonge Sean Connory in de recentere Bond-films vrij onschuldig.

Het verspreiden van die James Bond-films met deepfake zal net als de onaangepaste films in strijd zijn met het auteursrecht en bij de deepfake ook het portretrecht, maar dat geldt niet als je het in beperkte kring (vrienden en familie) doet.

Seksuele content vind ik het net als de AVG een ander geval, de gevolgen als toch iemand binnen de beperkte kring het verspreid is te groot voor de betrokkenen om dat zo maar toe te staan. Al valt er iets voor te zeggen dat dit misschien niet of minder geldt voor het enkel maken van deepfakes van acteurs die in een genre actief zijn die seksueel expliciet is.

[Reactie gewijzigd door jumbos7 op 6 mei 2025 14:07]

[geert1]

Met "droevig" doelde ik op seksuele deepfakes. Je hebt gelijk dat er onschuldige voorbeelden bestaan, maar daar zit het probleem niet. De website waar dit artikel over gaat stond vol met neppe naaktfoto's. Vandaar "droevig".

[maali]

ik ga ervanuit dat het verdienmodel via reclame inkomsten was, ik vind het dan bijzonder dat dat geen probleem was/werd? of misschien liep dat ook terug vanwege al het juridische gesteggel en is dat de echte reden ermee te stoppen? louche hosting vinden lijkt me geen probleem als je daar echt werk van maakt

[Ome Cor]

> ik ga ervanuit dat het verdienmodel via reclame inkomsten was
Dat lijkt me naïef. Wat denk je van afpersing? Een beetje Russische cybercrimineel schrikt daar vast niet voor terug. Toch?

[maali]

huh? mrdeepfakes is toch gewoon een pr0n plaatjes site maar dan met AI celebs? daar zit geen afpersing noch Russische cybercriminelen achter

[crazyboy01]

Videos waren het vooral, maar inderdaad - het draaide om celebs en AI beelden van hun. Dat was echt gewoon om kijkers te trekken die daar interesse in hadden, niet om mensen af te persen. Soms waren het ook gewoon onbewerkte videos van lookalikes die werden gepresenteerd als deepfakes overigens.

[RRRobert]

Er zullen ongetwijfeld alternatieve diensten opstaan om het vaandel over te nemen. Met 6 miljoen bezoekers per maand is daar ongetwijfeld een goed verdienmodel aan te hangen.

[kondamin]

Je moet adverteerders vinden en die zijn iets makkelijker onder druk te zetten omdat ze iets willen slijten.

[FrostyPeet]

Dit gaat veel verder dan menigeen zich voorstelt. Neem dit voorbeeld:

YouTube: The Disturbing World of Catfish Streamers

Ik vind het aan de ene kant fascinerend hoe ver AI beeldfilters zijn qua techniek. Oogafstand, oog grootte, huidskleur, haarmodel, weghalen van bril en baard, stemverandering.

Aan de andere kant krijg ik koude rillingen hoe ontmenst deze wereld is.

[centr1no]

AI heeft z'n weg gevonden naar enorm veel toepassingen en dit soort live-stream filters zijn niets anders dan een evolutie van de app die je een hondensnuit en oren gaf bij het videobellen.
En hoewel deze techniek de potentie heeft mensen voor de gek te houden vind ik mensen die op deze manier hun eigen uiterlijk veranderen heel iets anders dan AI andere, bestaande, al dan niet bekende mensen dingen in een video te laten doen die ze in werkelijkheid niet zouden doen, zonder dat ze daar weet van hebben en ook waarschijnlijk niet goedkeuren.

De term 'ontmenst' is gewoon vreemd. Het zijn mensen die het ontmenst maken.
Het is, ondanks duizenden jaren van samenleven in groepen, nog steeds niet natuurlijk om iedere handeling (laat staan iedere gedachte) af te zetten tegen het belang of welzijn van anderen.
Mensen zijn altijd al 'onmenselijk' geweest omdat ze hun eigen belangen voorop stellen en de consequenties niet zien, niet correct kunnen inschatten of er simpelweg maling aan hebben.
Of dat nu gaat over het platbombarderen van een land of met AI een pornofilmpje maken van een aantrekkelijke tv-persoonlijkheid. Het is helaas allemaal 'menselijk'.

[ymmv]

De link naar "Russische cybercriminelen" is in mijn optiek vergezocht. Die bestaat er nl enkel uit dat de MrDeepFakes-site zich beschermde tegen DDOS-aanvallen via het Russische bedrijf DDdos-guard. Op basis daarvan kun je gewoon niet stellen dat "de site werd gerund door een consortium bestaande uit een 36-jarige Canadese beheerder en Russische cybercriminelen."

[Simon Weel]

intensieve juridische druk Poepoe. Daar ben je als cyber-crimineel natuurlijk dermate van onder de indruk dat je je zaak sluit. Toch?

[Grrrrrene]

Blijkbaar. Wat is je punt precies? Er staat letterlijk geschreven dat ze stoppen en niet onder een andere naam doorgaan. Hosting providers zullen hun vingers ook niet willen branden aan zo'n toko, lijkt me.

[Simon Weel]

Wat is je punt precies?
Nouja, een 'dienst' met cybercriminelen in het beheer die zegt zijn zaakje op te doeken omdat de 'juridische druk' te hoog wordt klinkt toch enigszins lachwekkend. OF het gaat niet om cybercriminelen, OF men verplaatst de 'dienst' richting darkweb.

[CivLord]

Het kan zijn dat die cybercriminelen hun crimineel verdiend vermogen en hun kennis hebben ingezet om een legale dienst op te zetten. Het geld dat daar mee verdiend wordt is makkelijker uit te geven dan crimineel verdiend geld dat eerst witgewassen moet worden voordat je de Belastingdienst en justitie op je nek krijgt wanneer je het uit wilt geven.

Wanneer die legale dienst juridische problemen krijgt, zal die cybercrimineel inderdaad weinig morele bezwaren voelen om daar illegaal mee door te gaan, eventueel op het darkweb. Maar dan is het geld dat daarmee verdiend wordt ook weer illegaal verkregen en zal dat ook weer witgewassen moeten worden. Dan kan die cybercrimineel net zo goed zijn ransomware weer inzetten. En op het darkweb is het verdienmodel weer anders, daar zal je niet zo snel adverteerders vinden en hoeveel zullen gebruikers er voor over hebben om deepfake porno te bekijken? En hoeveel gebruikers zullen daar zo'n behoefte aan hebben dat ze daarvoor op het darkweb gaan zoeken?

Er kan nog wel een kanttekening gezet worden bij 'cybercriminelen'. Het zal hier niet gaan om veroordeelde cybercriminelen. Die zullen geen geld hebben wat ze in dit soort diensten kunnen investeren. Het zal dus gaan om verdachten van cybercriminaliteit waarvan de criminele zaken wel vermoed worden maar niet bewezen kunnen worden of die in een buitenland opereren waar ze buiten bereik van justitie zitten.

[thomas_n]

Misschien niet als cybercrimineel, maar wel als dienstverlener die hosting e.d. aanbiedt. Ars Technica berichtte eerder dat een dienstverlener plotseling is gestopt, waarna deze criminelen moeilijk verder konden omdat ze kennelijk geen goede backups hadden:

According to a notice posted on the platform, the plug was pulled when "a critical service provider" terminated the service "permanently."

"Data loss has made it impossible to continue operation," Mr. Deepfakes confirmed (...)

Het lijkt me trouwens heel goed dat dit soort sites aangepakt worden. Ja, het is onmogelijk om tegen te houden dat mensen thuis dit soort afbeeldingen van beroemdheden en kennissen maken zonder hun toestemming, met open source A.I., maar het delen, verkopen en grootschalig verzamelen hiervan voegt toch nog een extra laag "creepiness" toe die wél aangepakt kan worden.

[Loller1]

Dus ze houden er mee op omdat ze geen goede data hygiene hadden? Dat had het artikel wel eens mogen vermelden. Leuk feitje als je het mij vraagt.

[uiltje]

Kan me voorstellen dat ze wel een backup bij de hosting provider hadden, maar dat de data alsnog weg was door het compleet afsluiten van de dienstverlening.

[Alfa1970]

Als de crimineel bekend is, en in het vizier is van justitie, dan zal die crimineel zeker wel stoppen, als die slim is.
In ieder geval voor een tijdje totdat die weer onder de radar kan vliegen.