Instagram-algoritme toonde gewelddadige content, Meta biedt excuses aan

Instagram-gebruikers zagen enige tijd per ongeluk allerlei gewelddadige en andere schokkende beelden op hun Reels-pagina. Instagram-moederbedrijf Meta zegt dat het om een fout ging, die inmiddels is opgelost. Ook biedt het bedrijf zijn excuses aan.

Diverse Instagram-gebruikers klaagden online dat er plots allerlei gruwelijke beelden verschenen in hun Reels-feed, schrijft CNBC. Het ging bijvoorbeeld om beelden van dode lichamen, ernstige verwondingen en geweld. De posts werden gelabeld als 'gevoelige content'. Een aantal van de getroffen gebruikers had naar eigen zeggen de hoogste moderatie-instelling aan staan, waardoor alle gevoelige content juist uit de feed geweerd moet worden.

"We hebben een fout opgelost waardoor sommige gebruikers content in hun Instagram Reels-feed zagen die niet aanbevolen had moeten worden. We verontschuldigen ons voor deze fout", zegt een woordvoerder van Meta tegenover CNBC.

Reacties (50)

[Heaget]

Ligt misschien aan mij, maar wat doet gruwelijke content in eerste plaats op social media? Ik begrijp natuurlijk dat er een dunne lijn is tussen verslaglegging, nieuws en feitelijkheden, maar ik betwijfel zomaar of het in dit geval daarom ging?

Behoort deze content niet weg gefilterd/gemodereerd te worden voordat het in Reels te zien is?

[Vexxon]

Kost teveel geld om te modereren. Want je er moet natuurlijk wel belachelijk veel geld verdiend worden

[Lisadr]

META heeft een netto marge van 43% na belasting. Vorige jaar hadden ze 20,8 miljard winst. Hun hebzucht is waarom ze geld besparen en niet omdat het noodzakelijk is voor het voortbestaan van de organisatie.

[Jaldea]

De content is toch ook gelabeld met een waarschuwing "gevoelige content, mogelijk 18+ waarschuwing" dat zou al een trigger moeten zijn om door te scrollen, deze content bestaat gewoon wat jij of ik er ook van vinden.

[Superstoned]

En Meta heeft natuurlijk net belooft om de 'censuur' flink te verminderen. Dat is dan vooral op Facebook, maar dat zal ook wel naar andere platformen komen.

[bmwgozer]

Er staat op social media echt heel veel content die jij nooit te zien krijgt. Mensen zijn heel bijzonder wat dat betreft, ze uploaden foto’s en video’s waar jij en ik niet eens aan zouden denken.

Zo upload ieder persoon zijn of haar visie op de wereld.

[iqcgubon]

Paar maanden geleden nog een tiener aangereden door een bus aan een station in België. Tientallen mensen stonden vrolijk te filmen en te sharen op socials. Empathie is vaak heel ver te zoeken bij velen die hun leven enkel via een schermpje beleven.

[gimbal]

Je zou kunnen stellen dat als iemand niet in het vermogen is om bezwaar te maken tegen het feit dat je ze op beeld vast legt, dat dit per definitie verboden zou moeten zijn om te doen. Hufter-boete erop.

[Superstoned]

Eens, maar dat is erg Europees denken en de Trump regering heeft al duidelijk gemaakt dat ze het afdwingen van Europese regels op de big tech bedrijven hard gaan aanvechten. Zie https://www.whitehouse.go...fair-fines-and-penalties/

Zie 3D, het is een beetje verstopt:

The Secretary of the Treasury, the Secretary of Commerce, and the United States Trade Representative shall investigate whether any act, policy, or practice of any country in the European Union or the United Kingdom has the effect of requiring or incentivizing the use or development of United States companies’ products or services in ways that undermine freedom of speech and political engagement or otherwise moderate content, and recommend appropriate actions to counter such practices under applicable authorities.

[sapphire]

Volgens mij is het al dat tenzij je aangeeft dat het wél mag het gewoon niet mag

[kodak]

Zoals je in het nieuws kan lezen was het ook niet de bedoeling om deze content te tonen. Maar het is wel een prima vraag onder welke omstandigheden ze deze content dan wel tonen, aangezien ze dit kennelijk niet duidelijk uitsluiten.

Het probleem lijkt er op dat er bij het prioriteiten stellen welke content wel naar gebruikers verzonden zal worden er fouten zijn gemaakt. Ik noem het opzettelijk prioriteiten stellen omdat wat gebruikers te zien krijgen hoe dan ook al door filters heen gaat om als bedrijf te bepalen welke content de gebruikers allemaal niet te zien krijgen, ongeacht of het geweld enz bevat.

Het verdienmodel is vooral laten zien wat gebruikers meer en langer laat kijken. Het zal me niets verbazen als ze de prioriteiten voor deze content gewoonlijk slechts wat lager stellen om de mogelijkheid te behouden het toch te kunnen tonen als er behoefte is. Het verdienmodel heeft content nodig, ook in de toekomst. 'Legitieme' content verwijderen staat daar haaks op.

[Reactie gewijzigd door kodak op 27 februari 2025 10:33]

[lenwar]

Ligt misschien aan mij, maar wat doet gruwelijke content in eerste plaats op social media?

Wat doet iedere niet-natuurlijke-persoon op 'social media'. Wat was begonnen als een methode om met elkaar in contact te blijven op een laagdrempelige manier is nu een smeltkroes geworden van clickbait en commerciële zooi, aangevuld met politieke statements en elkaar aftroeven door te doen dat we het allemaal zo geweldig hebben, bij voorkeur door een ander zwart te maken of wat bij elkaar te bluffen. Het woordje 'Social' is in elk geval erg breed getrokken in de diensten. Alles voor de advertentie-inkomsten.

[kid1988]

Precies wat META beloofde toch? Minder censuur, minder content moderation, minder controle. Mocht je problemen hebben met de content kun je volgens mij nog steeds een melding maken.

Het is ook nooit goed. /s

[Lord Anubis]

En AI laten trainen hierop.

[gordian]

Hier nog een mooie analyse op Last Week Tonight show over facebook en Mark en de contentmoderatie: YouTube: Facebook & Content Moderation: Last Week Tonight with John Oliver (HBO)

[Reactie gewijzigd door gordian op 27 februari 2025 10:10]

[lenwar]

Het valt of staat wat mij betreft volledig met de context in dit artikel. Instagram is vanaf 13 jaar. Puur afhankelijk van wat de aard is van de voorgestelde 'gewelddadige en grafische' content vind ik dit wel heel kort door de bocht.

Daarnaast zit lang niet iedereen te wachten op dit soort content. Er zullen (denk ik?) zat mensen zijn die gewoon daadwerkelijk voornamelijk updates van hun kennisenkring willen zien en niet zitten te wachten op die robot-accounts die een continue stroom aan onzinposts met clickbait genereren. (voor mij was dit toentertijd de reden om te stoppen met dit soort diensten. De overhand was al die clickbait en tussendoor is wat van m'n kennissenkring, tot op het niveau dat de aankondiging van een zwangerschap niet werd geplaatst op een 'nieuwsoverzicht' ten faveure van wat clickbait van allerlei derden die me niet interesseerden)

N.B. Ik gebruik zelf geen social media (in de vorm van Instragram en dat soort zaken), dus ik zou niet precies weten wat voor soort content die reels bevatten.

Overigens is een feed met geweld e.d. wel wat anders dan een homo nu wel ziek mogen noemen. (los van wat we hier van vinden)

[Dennahz]

Dat dus. Maak gewoon een melding en ga door met je leven?

[iqcgubon]

Dat was volgens mij niet hun punt.

De gemiddelde tiener die door IG Reels scrollt wil echt niet ongevraagd geconfronteerd worden met rotten.com content.

[CivLord]

De tiener wel, maar de ouders niet.

[iqcgubon]

Neen, toch niet. De gemiddelde tiener zit daar ECHT niet op te wachten op IG. Genoeg sites voor dat soort content als je daar echt nood aan hebt.

[hoepstoep]

Dat zou je kunnen zeggen, maar niet iedereen ziet dagelijks dergelijke beelden. Nu gebruiken wij gelukkig geen Instagram, maar ik hoorde deze week op het schoolplein meerdere ouders klagen dat ze filmpjes voorbij zagen komen van schietpartijen met dodelijke afloop en ernstige dierenmishandeling. Terwijl ze dat normaal gesproken nooit te zien kregen.

[Luchtbakker]

META mag op Facebook ook eens wat doen aan alle half-naakte vrouwen die ineens op je tijdlijn verschijnen terwijl je ze nooit gevolgd, geliked of gezocht hebt. En wanneer je het rapporteert valt het binnen hun richtlijnen, maar wanneer je zelf iets te bloot op Facebook staat krijg je een ban van 24 uur.

Facebook is geen plek meer voor jongeren als ik zie wat er tegenwoordig op te zien is. (als het gaat om 18+ naaktheid)

[Reactie gewijzigd door Luchtbakker op 27 februari 2025 10:04]

[lenwar]

gevolgd, geliked of gezocht hebt.

Maar Facebook heeft natuurlijk wel z'n tracking-pixels. Dus mogelijk gebaseerd op je overige internetgebruik?

Maar helemaal met je eens. Het zou fijn zijn als de Social Media, je zelf laten bepalen wat je ziet. Het persoonlijk maken zegmaar. Maar goed. De marketeers denken daar natuurlijk anders over.

[Luchtbakker]

[...]
Maar Facebook heeft natuurlijk wel z'n tracking-pixels. Dus mogelijk gebaseerd op je overige internetgebruik?

Ik heb genoeg fantasie in huis rondlopen

[Tc99m]

Daar is wel echt een dubbele standaard in te merken. Ik volg een aantal accounts op Instagram die ook wel eens (mannelijk) getekend naakt posten. Dat is volgens de richtlijnen van Instagram/Meta toegestaan, maar toch hebben ze continu te maken met shadowbans, content die onterecht verwijderd wordt, tijdelijke bans of zelfs een permanent geblokkeerd account. Of dat automatisch wordt gemodereerd door een AI die niet snapt waar hij mee bezig is, of dat er gewoon etters zijn die het rapporteren om iemand dwars te zitten laat ik dan even in het midden, maar feit is wel dat vergelijkbare content met vrouwen veel minder streng wordt gemodereerd.

Britney Spears die een naaktfoto post waarop haar tepels en schaamstreek met piepkleine emojis zijn afgedekt? Geen probleem! Een tekenaar die een potloodschets van een naakte man deelt? Post verwijderd + shadowban.

[Reactie gewijzigd door Tc99m op 27 februari 2025 11:43]

[Bas-w]

Punt wat ik idd ook wou maken. Al die gruweLIJKheden zijn wel toegestaan, maar een tepel op een artistieke foto niet. Maar ja, Amerikaans platform natuurlijk, "preuts en wapens".

[SunnieNL]

Ik zie tegenwoordig 1 post van vrienden en dan 5 posts van groepen/mensen die ik niet volg met daartussen 3 of 4 reclame posts van bedrijven die nep zijn of van dropshippers.

[KingKingsons]

Ik gebruik de Reels nooit en vandaag maar eens gekeken en de helft was halfnaakte vrouwen en gewelddadige videos. Na op veel videos te hebben aangegeven niet geïnteresseerd te zijn, veranderde het niet echt.

De tijdlijn en de zoekpagina vallen nog wel mee, alhoewel daar nu wel ineens rechtste posts tussen zitten en ik daar niet in ben geinteresseerd.

[ValentinoA]

Krijg al maanden dit soort content... Zojuist de eerste 4 filmpjes van Reels bekeken en bij 2 filmpjes zag je alweer mensen overlijden zonder waarschuwing...
Me tijdlijn laat leuke memes en plaatjes zien maar Reels zijn echt duister op mijn account.

[Kwakmeister]

Bij mij komt dit de laatste tijd ook vaker langs.
En als je maar iets te lang kijkt naar zon reel geeft het Algoritme je meer in dezelfde categorie.

[FiXeR.nl]

Ik had hier ook ineens last van in mijn feed, het leek vaak om content uit India te gaan voor mijn gevoel. Ik denk dat iemand het algoritme door had en het op deze manier kon manipuleren.

Het gekke was wel dat op een ander (persoonlijke) instagramaccount met een andere doelgroep ik er geen last van had en wel mijn normale "bubbel" te zien kreeg.

[TheGraphic]

Ja hier ook, ik heb een olifant gezien die iemand dood trapte... en nog wat gekke onzin, toen toch maar even een pauze genomen Maar ik zag in de comments al staan dat mensen ook zeiden van wtf is met mijn feed vandaag aan de hand, er waren ook meerdere schiet partijen te zien enzovoort

[youridv1]

Degene die mij t meest bij bleef gisteren waren beelden van een tankstation in de verenigde staten. Een of andere meid was woedend en sloeg op auto's in. Uit het niks verschijnt er een andere meid in beeld met een getrokken pistool die meerdere rake schoten lost op meid nummer 1

[Reactie gewijzigd door youridv1 op 27 februari 2025 09:56]

[jbbt]

Ben ik even blij dat ik toevallig, paar dagen geleden even klaar was met doomscrollen en de app tijdelijk had verwijderd.

[Hobbit13]

Is deze content ook aan gebruikers getoond die netjes aangegeven hadden onder de 16/18 te zijn?
Zo ja, is dit dan niet strafbaar?

[Baserk]

En Grijsbaard maar denken dat Instagram voor mode-popjes was, die de hele dag foto's van een kunstige cappuccino posten, naast hun nieuwe dagelijkse outfit.
Maar het is dus ook rotten.com voor de 'liefhebbers'...

Nou ja, niet echt verbazingwekkend.
Ook liefhebbers van executies, marteling et cetera kijken naar advertenties, dus ka-ching voor Zuckerberg.