Instagram begint met AI om tieners op te sporen die liegen over leeftijd

Instagram is in de Verenigde Staten begonnen met het gebruik van kunstmatige intelligentie om minderjarigen op te sporen die liegen over hun leeftijd. Dat gebeurt onder meer aan de hand van hun gebruik en berichten die ze krijgen.

Instagram tieneraccounts

Als er van gebruikers het sterke vermoeden is dat het eigenlijk minderjarigen zijn, krijgen die automatisch een Teen Account met restricties, meldt Instagram. Als het systeem een gebruiker onterecht voor minderjarig aanziet, is dat te wijzigen in de instellingen. Het inzetten van het systeem gebeurt vooralsnog alleen in de Verenigde Staten.

Het systeem kijkt onder meer naar hoe gebruikers reageren op bepaalde content, omdat dat vaak in leeftijdsgroepen overeen komt. Bovendien let Instagram op berichten die gebruikers krijgen, bijvoorbeeld felicitaties. Moederbedrijf Meta is al jaren bezig met AI die de leeftijd van gebruikers kan inschatten. Volgens het bedrijf is het systeem daar steeds beter in geworden.

Reacties (35)

[GoogleWave]

Dan kunnen ze straks ook als de EU het afdwingt alle tieneraccounts blokkeren totdat ze oud genoeg zijn, goede ontwikkeling.

[OruBLMsFrl]

Als dat volgens EU wetgeving, specifiek privacywetgeving wel mag natuurlijk. Zal best wat kunnen als het enkel tot doel heeft om de leeftijd vast te stellen voor die pubers hun digitale veiligheid, maar nu lees je dat ze analyses doen waaruit ze (ook) de leeftijd kunnen vaststellen voor het instellen van Teen profile. Als ze op de achtergrond veel meer doen met diezelfde analyses, dan kan dat nog altijd vloeken met EU wetgeving en het proportionaliteitsbeginsel daarin.

[Aaargh!]

De EU krijgt een digitale wallet, daar kan je je identiteitsgegevens in opslaan en selectief delen. Een van de standaard attributen hierin is `over_18`. Deze attributen zijn dan ondertekend door b.v. de Nederlandse overheid. Je hoeft dan dus niks met zo'n partij te delen anders dan het feit dat je 18+ bent.

[OruBLMsFrl]

En dan moet die diensten verplicht worden daar gebruik van te maken, want zitten talloze Europeanen zonder dat het goed werkt bij hen. Dat mag snel komen van mij, maar zal in praktijk nog heel lang duren voor al die landen, verschillende id methodes, platformen en id document geldigheden van soms 10 jaar... anders jaag je de burger op kosten

[Aaargh!]

Elke EU lidstaat moet dit uiterlijk 2026 aan haar burgers aanbieden.

[OruBLMsFrl]

Dat is maar een eerste stap. Let wel een goede en noodzakelijke stap, maar wel maar een eerste.
Wanneer hebben alle burgers zonder aanvullende kosten dit tot hun beschikking en is 90% ook in staat dit met hun apparatuur uit te voeren zelfstandig, dat is namelijk nodig voor algemene acceptatie door platformen om niet als barrière ervaren te worden.

[Indy81]

Oneens. Het is in feite een soort van leugen detector die ook voor andere dingen ingezet gaan worden en dat kan behoorlijk uit de hand lopen.

Er zijn best scenario's te bedenken waarbij een leugentje voor bestwil prima is.
Bijvoorbeeld, ik heb een slapende chronische ziekte die mij totaal niet belemmerd in werk. Dit meld ik natuurlijk niet in mijn CV. Dat hoef ik ook niet, en een werkgever mag er niet naar vragen.
Maar als een werkgever wèl een AI mag inzetten op dit soort dingen, dan is dat best eng.

In feite hebben we het hier over een breuk van privacy door analyse op gedrag.

[RM-rf]

https://eur-lex.europa.eu/eli/reg/2024/1689

De EU heeft al vorig jaar (13 juni 2024) een regulering ingevoerd die stelt dat een partij die een AI-toepassing inzet hierbij gehouden is aan alle privacy-regels... dus een werkgever mag ook geen AI tool inzetten om naar informatie te laten zoeken die ze niet mogen vragen bij werknemers.

In het geval waarin en dienst bv controleert of informatie die ze zelf ook bij hun gebruikers navragen (en zelfs _moeten_ opvragen, zoals in geval van een minimum leeftijd van hun gebruikers) ook klopt, mag dit natuurlijk wel.

[Reactie gewijzigd door RM-rf op 23 april 2025 09:58]

[jimh307]

Dat is zeker een goede zaak, maar er 100% op vertrouwen is ook een dingetje. Er moet nog veel verfijnd worden in zulke algoritmes. Het zal nog wel even duren dat bijvoorbeeld supermarkten nog om een id vragen bij twijfel. Verder vind ik voorzichtigheid wel op zijn plaats want het kan ook nadelen teweeg brengen als het algoritme het mis heeft. Zo makkelijk is dit allemaal nog niet.

[michelb76]

Want dit is natuurlijk een groter issue dan alle zeer goed herkenbare spammers aanpakken.

[DiaZ_1986]

Uiteraard, want hoe moeten ze anders hun AI trainen de kinderen beschermen.

[Xbeek]

Het grootte probleem van AI: AI gebruiken om op te sporen...
Maar dan automatisch oordelen, blokken en als het onterecht was bijna onmogelijk maken om bezwaar in te dienen.

Net als de Nederlandse overheid moeten we AI en algoritmes wel gebruiken om te selecteren, maar het uiteindelijke oordeel kan wat mij betreft het beste gedaan worden door mensen.

Schuldig om dat een algoritme dat meent, lijkt me geen ideale manier om een samenleving op te (be)oordelen...

[Decalies]

Snap wat je zegt. In dit geval gaat het terugveranderen wel eenvoudig (direct uit dit artikel) :
"Als er van gebruikers het sterke vermoeden is dat het eigenlijk minderjarigen zijn, krijgen die automatisch een Teen Account met restricties, meldt Instagram. Als het systeem een gebruiker onterecht voor minderjarig aanziet, is dat te wijzigen in de instellingen."

[MikeyMan]

"Als het systeem een gebruiker onterecht voor minderjarig aanziet, is dat te wijzigen in de instellingen."

Dus het staat binnen twee seconden weer uit.

[laptopleon]

Vast wel, maar ik begrijp ook wel dat ze heel voorzichtig beginnen met zoiets. Als het bij 1% mis gaat, hebben ze een probleem want ze hebben nauwelijks mensen bij de helpdesk, dus handmatig corrigeren van (bijvoorbeeld, als het meevalt) 1% van de pakweg 142 miljoen Amerikaanse Instagram-accounts wordt een duur en lang grapje. Het systeem weer terugtrekken wordt ook als een nederlaag gezien, dus dan kom je op zoiets uit als de gebruiker het zelf handmatig weer aan laten zetten, tot de ai beter is.

Bijkomend voordeel is dat het juridisch gezien beter is dan niets doen.

[Blizz]

Als ze je Facebook login blokkeren tot je een foto van je ID-kaart uploadt omdat iemand je rapporteert vanwege het hebben van een nepnaam, dan kunnen ze dit ook doen met je Instagram.

[eazyq]

Black mirror nose dive schiet me binnen. Het belang van sociale media. Dat is er gewoon niet. En meta beschermd de kinderen niet maar bouwt profielen op om ze straks te targeten met adds. Maar goed dat is niets nieuws. Maar dit doen om zogenaamd de kinderen te beschermen is echt hypocriet ten top.

[Die_ene_gast]

Dus blokkeren ze alle gebruikers? Dat zou wel goed zijn voor de volksgezondheid.

[Dark Angel 58]

Precies... ik zou ze wel blokkeren, iedereen ook volwassen
Dan zien we iets meer van de wereld... zoals hee wie ben je alweer? geen wonder na jarenlang op telefoon turen...

[Die_ene_gast]

Ik zag een tijdje terug op een verjaardag van een nichtje van mij dat ze allemaal aan de tafel zaten op hun telefoon, die vriendinnen hadden echt niet langs hoeven komen hoor, ze hebben elkaar 0 keer aangekeken.... Bijzonder.

[cracking cloud]

Zou andersom niet veel beter zijn? Volwassenen die zich voor doen als minderjarige

[xorinzor]

En straks gaat iedereen elkaar berichten sturen om ze met hun 11e verjaardag te feliciteren.
Dit gaat echt een disaster worden om nog maar te zwijgen over het privacy concern.

[onuro]

Social media moet beperkt worden want de kids lijden eronder en dat horen we vaak laatste tijden.

Ik snap niet zo goed waarom de overheid niet keiharde kaders in zet. Totdan dicht die handel, en hoppa en de kids spelen weer buiten of klink ik te oud nu 😂

[Chris4554]

in theorie is het een goed idee om jongeren te beschermen op en tegen dit platform. Ik moet er voor mijn werk soms op en ik vind het niet veel soeps. Zoals alle social media eigenlijk. Maar ik ben te cynisch over Meta/Zuckerberg om dit als iets anders dan verplichte kost tegen minimal effort te zien. Dus... hopen dat dit ze veel populariteit gaat kosten.