Microsoft verwerft patent op realtime spraakcensuurfilter

Het Amerikaanse patentbureau heeft Microsoft een patent voor een realtime censuurfilter voor spraak toegekend. Het patent is al in oktober 2004 door het bedrijf in Redmond ingediend.

Het toegewezen patent beschrijft een methode waarbij een audiostream via spraakherkenning in realtime wordt vergeleken met een database waarin ongewenste woorden of zinsnedes zijn opgeslagen. Indien een match in de fonemen of woorden wordt gevonden, zorgt het systeem ervoor dat de spraak in gewijzigde vorm wordt doorgegeven. Het systeem kan aan de hand van kansberekening en een drempelwaarde besluiten of een woord of zinsnede ongewenst is. Indien de hoeveelheid ongewenste spraak toeneemt, kan de drempelwaarde dynamisch worden aangepast, zodat meer spraak wordt weggecensureerd. Het bijkomende effect is dat hierdoor ook foutieve signalering van ongewenste spraak - 'false positives' - vaker voor zal komen.

Het patent beschrijft een viertal manieren om een ongewenst woord in de spraak te veranderen. Zo kan een stilte worden ingelast, het geluidsvolume kan tijdelijk worden teruggedraaid, het woord kan worden 'overschreven' door een ander geluid zoals een pieptoon, of het ongewenste woord kan vervangen worden door een ander woord waartegen geen bezwaar is.

Microsoft zou het in realtime censureren van spraak goed in kunnen zetten voor de Xbox Live, waar bijvoorbeeld een vloekende en tierende enkeling een multiplayer-potje voor anderen kan verstieren. Hoewel Microsoft de realtime spraakcensuurtechnologie nog niet heeft geïntroduceerd voor Xbox Live, hebben gebruikers al wel de mogelijkheid om de spraak van bepaalde spelers uit te schakelen.

Reacties (45)

[Verwijderd]

Mischien is het technisch verhaal in dit soort gevallen minder interesant dan de angst voor een stap richting een 1984 achtige wereld.
De slechtste dingen gebeuren met de beste intentie's.

Daarbij zal deze software overbodig moeten zijn als wij allemaal een stukje meer respect voor elkaar gingen hebben.
Laten we eensch massaal bezig gaan met onze kinderen die onze toekomst zijn op te gaan voeden.

Maar ach nee software die bad words vervangt door wat minder slechte woorden gaat onze kinderen en hun kinderen verzekeren van een toekomst

[Rob Coops]

Heel erg eng.

Dat zou dus betekenen dat je binnen kort dus ook niet meer kan vertrouwen wat je over de telefoon hoort, want het vervangen van worden. Balkenende is dom slim. Is dan zo maar op eens mogenlijk

Dat je zo iets via een Xbox life dienst zou doen kan ik me wel eenig zins voor stellen al is het maar omdat je inderdaad af en toe mensen hebt die het gewoon vinden om tijdens een potje gamen ook even flink te gaan zitten vloeken en schelden, en dat kan toch best vervelend zijn. Maar je ook die audio stream blokkeren en hoef je niet tot dit soort dingen over te gaan, want mischien zijn er wel mensen die het gezellig vinden om met zijn alle even fijn te vloeken tijdens het gamen, en je mag hun hun lol toch niet ontnemen.

Ik hoop heel erg dat dit een patent wordt wat noot gebruikt zal worden maar ik vrees dat we met een paar jaar dit soort software ook in telefoon centrales in Nederland tegen gaan komen, gewoon omdat het van goede waarden en normen getuigt om vloeken over de telefoon niet toe te laten of zo iets...

[wizzkizz]

Dat de technologie "ongewenste uitingen" kan herkennen en een alternatief laat horen, betekent niet direct dat de gesprekspartner niet weet dat er wordt gecensureerd. Dan zou het ook exact in de stem (met alle intonatie en nuances) van de gesprekspartner gezegd moeten worden, en het lijkt me dat dat een dermate grote hoeveelheid rekenkracht kost dat het (voorlopig) sowieso niet op deze wijze ingezet kan worden.

De suggestie dat Microsoft deze technologie vooral gebruikt cq. zal gaan gebruiken voor Xbox Live klinkt erg aannemelijk. Welk voordeel zouden instanties erbij hebben om alle telefoongesprekken te censureren? Dan zorg je er alleen maar voor dat mensen alternatieven gaan gebruiken, versleuteld VoIP bijvoorbeeld. Dan kun je ze nog veel moeilijker onder elektronische surveillance houden, dus schiet je jezelf in je eigen voet.

Ik ben het wel met je eens dat het huidige kabinet wel kampioen moraliseren-voor-burgers is, maar je kunt ook te allergisch reageren op een patent-toekenning voor iets dat al vier jaar geleden aangevraagd is.

Maar je ook die audio stream blokkeren en hoef je niet tot dit soort dingen over te gaan, want mischien zijn er wel mensen die het gezellig vinden om met zijn alle even fijn te vloeken tijdens het gamen, en je mag hun hun lol toch niet ontnemen.

Je kunt ook de gamers zelf laten kiezen of ze het audio-filter wel of niet aanzetten. Hou je alle partijen tevreden: mensen die er geen moeite mee hebben zetten het filter niet aan, mensen die zich er wel aan storen stellen het filter lekker streng in.

[Reactie gewijzigd door wizzkizz op 23 juli 2024 05:49]

[Teigetje!]

Nou dat is wel erg naief, ook de stem is uiteindelijk door een pc te emuleren op een manier dat jij niet door hebt dat er gecensureerd word. En zelfs al is dat nu NOG niet het geval is dan is het dat in de nabije toekomst wel.

Dat het 4 jaar geleden is aangevraagd doet niets aan het patent af. In jouw redenering betekent het dat als er 4 jaar geleden stilletjes een wet was aangenomen die het de overheid toestaat jou ten alle tijde zonder proces op te sluiten dan mag je er nu ook niks van zeggen als het bekend wordt.

Verder ben ik het eens met je stelling dat mensen zelf de audiostream af kunnen zetten. MS bepaalt de fatsoensnorm niet.

[Verwijderd]

No problem. Dan versleutel je het gesprek maar, geen last van censurerende providers.

[Inflatable]

Lang leve de censuur.. Ik snap het trouwens sowieso niet dat bepaalde mensen meer moeite hebben met gevloek tijdens gamen dan geweld of erotiek.. Typisch weer, je mag wel iemand op de meest gruwelijke manieren overhoop knallen, maar fuck zeggen of een blote tiet kan echt niet.. Velen vinden het kennelijk prima dat jongeren de meest geweldadige games spelen zolang er maar niet in gevloekt wordt.. Ik blijf dat raar vinden..

Achja, als ze het echt invoeren dan ga ik gewoon van 'recreatie' naar 'underground' op Xbox Live.. Vloeken (op een lollige manier) hoort erbij voor mij hoor..

[Reactie gewijzigd door Inflatable op 23 juli 2024 05:49]

[BarôZZa]

Ik denk eerder dat mensen zich storen aan puisterige 12-jarige kiddies die non-stop mensen uitschelden door hun headsetje.
Dat gaat dus niet puur om het gebruik van de woorden, maar meer om het overdreven irritante gebruik ervan. Ik zit ook niet te wachten op een 'OMG FUCK YOU FAGGOT' in een pre-puberale stem door de speakers.

Bovendien lijkt het me dan de bedoeling dat je het gewoon kan aan of uitzetten.

[Reactie gewijzigd door BarôZZa op 23 juli 2024 05:49]

[Inflatable]

Daar heb je zo'n filter niet voor nodig, want daar heb je de mute-knop al voor..

[Corrit]

Of je bant de betreffende persoon gewoon

[The Reeferman]

Ik vind die leeftijdsgrens echt veel te hoog. Toen ik tussen de 12 en de 18 was vond ik die games(en films) juist het leuks. De horror films of andere lugubere genres ben ik al lang beu en de spellen beginnen me ook steeds minder te boeien.
Dus die grens naar maximaal 13 jaar.

[Verwijderd]

'T is niet omdat je kinderen in een virtuele wereld laat moorden dat ze ook echt tegen elkaar moeten schelden.

Nu youtube nog een tekstvariant hiervan overnemen op hun comments.

[Inflatable]

Dat bedoel ik dus, jij vind het kennelijk ook minder erg dat kinderen geweldadige games spelen i.p.v. dat ze een keer een scheldwoord horen..

Ik vind dat het hand in hand gaat.. Als je niet tegen schelden kan heb je ook niks te zoeken in een geweldadige game.. Jongeren onder de 18 horen bepaalde games sowieso niet te spelen, ik blijf me erover verbazen dat ik soms lagereschool jongeren tegenkom online in bepaalde games..

[Verwijderd]

Nee ik vind dat schelden in games moet kunnen zolang het het spel is. Online rennen kinderen rond die je gewoon uitschelden omdat ze hun vervelen en te weinig aandacht krijgen van mama en papa. Met aandacht bedoel ik slaag.
Als je je vriend afknalt en die zegt "shit" dan is het gewoon taalgebruik. Als een vreemde je echter de huid begint uit te schelden hoor ik liever tuuuuuuuuuuuuuuuuuuuuuuuuut.

[ATS]

Levert dit geen enorme lag op in je audiostream? Normaal gesproken is het idee van real time audio dat die ook daadwerkelijk zo snel mogelijk aankomt op de plaats van bestemming. Ik geloof best dat de analyse snel kan, maar je hebt altijd een lag nodig om woorden of zinssnedes te kunnen wegfilteren als deze hetzelfde beginnen als onschuldige varianten.

[locke960]

Ja, de software moet eerst het hele woord in zijn buffer hebben, dan analyseren en dan pas doorgeven. Verwaarlozen we de de tijd die nodig is voor het analyseren dan is de vertraging dus minimaal de lengte van het te analyseren woord.

Als er in een zin van een reeks korte woorden in een keer een lang woord voorkomt dan zal er dus in een keer een onnatuurlijk lange stilte vallen waarna het lange woord pas komt. Alle woorden na het lange woord komen met dezelfde grote vertraging aan.
De enige manier om dit te voorkomen is een relatief grote, constante lag van pak hem beet een seconde. Als je tenminste langere "kleurrijke" woorden wilt onderscheppen. Het wordt nog meer als je hele zinsneden wilt onderscheppen.

Daarom is dit idee ook redelijk kansloos voor gebruik in games. Het zou misschien wel iets kunnen zijn voor (Amerikaanse) live televisie en radio uitzendingen.

[Reactie gewijzigd door locke960 op 23 juli 2024 05:49]

[DarkTemple]

In theorie kan het dus niet real-time zijn. Er kan dus ook nimmer een patent op REAL-TIME worden gegeven, omdat dit niet mogelijk is. Er moet met vertraging worden doorgegeven. Normaal als iemand een woord begint met uitspreken zal het al worden doorgegeven, maar hier moet men eerst wachten tot het gehele woord is uitgesproken en dan moet het nog geanalyseerd worden.

[ronny]

Als ik het artikel goed heb begrepen hoeft niet het hele woord te worden uitgesproken maar kan een er berekend en gegokt worden wat voor woordt er op dat moment wordt uitgesproken. Er zal altijd een kleine lag in zitten maar er hoeft niet een heel woord te worden gebufferd.

[ultrapreventive]

Dus een lag, anders wordt een woord onbedoeld want op de gok gecensureerd.
Blij trouwens dat de belangrijkste prioriteit, het beschermen van de tere kinderziel avast is afgedekt. Pheww! Mooi op tijd.

[Reactie gewijzigd door ultrapreventive op 23 juli 2024 05:49]

[bartvb]

Het gaat dus eigenlijk om een meer geavanceerde versie van dit?

http://www.viddler.com/explore/i1no/videos/10/

Het geheel komt in ieder geval weer over als een redelijk triviaal iets. Spraakherkenning koppelen aan een lijstje met 'verboden' woorden klinkt niet echt als een 'stroke of genius'. Maar goed, je ziet wel vreemdere patenten langs komen

[jbr]

Nee, waarschijnlijk krijg je iets zoals dit:
http://www.youtube.com/watch?v=Qc6w4SzIUN0&NR=1

[Reactie gewijzigd door jbr op 23 juli 2024 05:49]

[Fireshade]

@bartvb

Spraakherkenning koppelen aan een lijstje met 'verboden' woorden klinkt niet echt als een 'stroke of genius'. Maar goed, je ziet wel vreemdere patenten langs komen

Dat is ook niet gepatenteerd. Het patent gaat om een methode (logic) om dat te doen.
Maar ik vraag me af of er niet al prior art voor bestaat op een vergelijkbaar gebied zoals spamfiltering. Dat kan in principe ook "realtime" en het gaat om herkennen van ongewenste data op basis van kansberekening (Bayesian filters).

[Tribbin]

Dit is een wiskundige formule die voor spam-filters wordt gebruikt.

http://en.wikipedia.org/wiki/Bayesian_spam_filtering

[rijk0214]

Onder andere de TU-Delft doet hier op dit moment onderzoek naar. Ze zijn bezig met het ontwikkelen van een eigen spraakherkenningsysteem op basis van Bayesiaanse netwerken. Dit natuurlijk zodat ze er onderzoek op kunnen doen .

[PhiRo]

Leuk, dat wordt dan een complete evolutie in het schelden.
Dit idee is een abject constructie gemaakt door hen die zijn voorgebracht door dames van lichte zeden. Wat een externe voorplantings organen repositories. ik hoop dat deze Vrouwelijke honden in verteerd voedsel mogen zakken.

[Verwijderd]

Ik weet dat het niet past, om te reageren met instemming, maar ik moest wel lachen om deze opmerking PhiRo en vind dat het indirect wel degelijk terzake doet voor dit topic, waar iets verboden wordt zal men altijd wel weer een manier vinden om iets uit te drukken. Zoals Koefnoen doet met de Nieuws Lezers: Hank Ankerman, en Niels Leeser

[ronny]

Het komt dan wel op het zelfde neer, maar als je het probeert zal het toch heel anders klinken en op moment van frustratie krijg je dit niet zo snel uit gesproken. Dus dan is het doel al bereikt.

[Jeanpaul145]

Ik vins het heel toepasselijk dat ik nu een verslag zit te schrijven over o.a. de toepassing van nieuwe technologie (de basisstelling is dat wanneer technologie wordt ontwikkeld, het meestal wordt gezien als de oplossing va 1 specifiek probleem, terwijl in de praktijk blijkt dat dit helemaal niet klopt, zie bijvoorbeeld maar uitvindingen als het internet, de mobiele telefoon, de pc of zelfs de auto).
Ik zit gewoon te wachten (en te huiveren) op de toepassingen waar de meeste mensen niet op rekenen (zoals bijvoorbeeld grootschalige toepassing in Windows, of misschien zelfs in gemodificeerde vorm in de telecomsector).

[Verwijderd]

een beetje 1984

en euhm, je zal maar dick heten en graag internationaal spelen.

[Reactie gewijzigd door Verwijderd op 23 juli 2024 05:49]

[LessRam]

Zullen ze voor Dick Chaney / Dick van Dijck niet al oplossingen hebben bedacht?

[TheCapK]

Aanvulling: Je zal maar Dick de Kok heten!

[David Mulder]

Dat het realtime is betekend dus dat het costant voorspeld wat de gebruiker zegt en daarop reageerd...? Of is er gewoon een lag tussen, want als het word voorspeld kunnen ze het goed gebruiken voor telecom bedrijven...