Apple verbiedt uitkleedapps nadrukkelijk in nieuwe App Store-regels

Apple heeft zijn App Store-regels aangescherpt. Er staat nu nadrukkelijk dat apps waarmee gebruikers seksueel expliciete beelden van echte mensen kunnen genereren, zonder hun toestemming niet toegestaan zijn.

Uitkleedapps waren onder de App Store-regels al niet toegestaan, maar nu wordt dat explicieter gemeld, schrijft Apple. Eerst stond er dat apps die voornamelijk worden gebruikt voor 'pornografische content' niet in de App Store thuishoren. Nu zegt Apple nadrukkelijk dat apps waarmee gebruikers 'intieme beelden zonder toestemming' kunnen genereren, de regels schenden.

Als blijkt dat het mogelijk is om echte mensen uit te kleden met een app, krijgt de ontwikkelaar eerst de mogelijkheid om zijn app aan te passen. Pas als de veiligheidsmaatregelen ook daarna niet robuust genoeg blijken, verwijdert Apple de app.

Verder verduidelijkt Apple dat apps die 'ongedocumenteerde functies' verbergen, bijvoorbeeld via code obfuscation, de App Store-regels schenden. Daardoor kan Apple het ontwikkelaarsaccount schorsen. Via die methode zouden apps met verboden functies, zoals de mogelijkheid om mensen uit te kleden, toch langs het beoordelingsproces kunnen glippen.

Uitkleedapps?

Er is de laatste tijd veel te doen geweest om uitkleedapps. Dergelijke apps kunnen kleding van mensen op foto's verwijderen. Dat was bijvoorbeeld enige tijd mogelijk met chatbot Grok van SpaceXAI. Onder meer Amerikaanse senatoren en kinderbeschermingsorganisaties riepen Apple op om die app te verwijderen. Het bedrijf deed dat niet, maar vroeg SpaceXAI naar eigen zeggen wel om zijn chatbot aan te passen.

Ook zou Apple een platform bieden voor andere uitkleedapps. De non-profitorganisatie Tech Transparency Project ontdekte 47 iOS-apps waarmee dat mogelijk was. In juli zei Apple dat het 'veel van dergelijke apps' actief heeft geweigerd en 'vele andere' heeft verwijderd na klachten. De Europese Unie werkt aan een wet die uitkleedtools gedeeltelijk moet verbieden.

Twee AI-gegenereerde afbeeldingen, waarvan de rechter door Grok is uitgekleed. Offlimits en Fonds Slachtofferhulp gebruikten deze afbeeldingen in hun rechtszaak tegen het toenmalige xAI.

Reacties (13)

[console]

Ben benieuwd wanneer tools als Photoshop worden geweerd, daar kan je immers hetzelfde resultaat mee bereiken met wat 'handwerk'.

[smooc]

"genereren" is het sleutelwoord

[Nairu777]

Natuurlijk is Photoshop niet puur een GenAI tool, zoals wat Apple nu weert, maar de app bevat wel degelijk GenAI: GenAI in Photoshop

Ik heb niet getest (en ga dat ook niet doen) wat je wel of niet kunt genereren, maar Apple moet dan goed nadenken over hoe ze hier onderscheid in gaan aanbrengen.

Ik stel me wel voor dat Adobe ook wel redelijke vangrails om het model heeft gezet om dit soort prompts te voorkomen.

[WillySis]

Plakken en knippen of zelf tekenen is wat anders dan automatisch laten genereren.

[CapnCrinkle]

Ik vind het persoonlijk niet zo spannend eerlijk gezegd. AI plakt er vaak een of ander supermodellen lijf onder wat totaal niet overeenkomt met hoe iemand er realistisch uit zou zien. Puntje bij paaltje is het nog steeds niet veel anders dan een hoofd op een lichaam photoshoppen.

Maar goed, denk dat het weren uit appstores en easy access voor zoiets minimaliseren wel positief is. Het zal vooral rondom kinderen belangrijk zijn dat het niet ultra toegankelijk is denk ik. (Cyberbullying etc).

[Oon]

Tja, en dan?
Los van Grok en bijv. Photoshop waar je met creatief selecteren en genereren hetzelfde mee kunt doen zijn er ook legio websites die gewoon in Google of DuckDuckGo resultaten terugkomen waarmee je gratis zonder ook maar in te loggen iemand uit kunt kleden. Zolang die websites bestaan heb je toch geen app nodig?

[WillySis]

X is een social media app die niet zelf al die rommel genereert, maar content die door gebruikers wordt geplaatst en daardoor net in het grijze gebied valt. Maar ik zie het wel gebeuren dat Apple de regels verder gaat aanscherpen en X uiteindelijk ook uit de appstore wordt verwijderd.

Facebook en Instagram hebben overigens ook een behoorlijk portie racistische content.

[19JM81]

Daar geldt exact hetzelfde voor, Apple lijkt nogal selectief te zijn met het toepassen van de regels.

[WillySis]

Nee, het gaat om eigen functies van app's en content die door derden via die apps wordt aangeboden. Door dat laatste komen de app's in het grijze gebied. Ook is er gewoon nog sprake van vrijheid van meningsuiting en daarbij racisme is in Amerika normaler dan bij ons in Europa.

Maar Apple is altijd al selectief in het accepteren/weigeren van app's. Wij maken boekjes en folders met fiets en wandelroutes die via een app (middels een QR-code) gedownload kunnen worden en elke update wordt geweigerd omdat we een niet toegestane betaalwijze zouden gebruiken.