Microsoft roept Amerikaanse overheid op gezichtsherkenning te reguleren

Microsoft heeft de Amerikaanse overheid opgeroepen om regels te introduceren rond het gebruik van gezichtsherkenning. Dat zou de enige manier zijn om het gebruik van de technologie in goede banen te leiden.

Microsoft-voorzitter Brad Smith schrijft in een blogpost dat de competitie tussen bedrijven die gezichtsherkenningstools ontwikkelen ervoor kan zorgen dat overheden producten aanschaffen en gebruiken die volgens de bevolking niet door de beugel kunnen. Daarom zou het nodig zijn dat er regels worden gesteld, in plaats van dat bedrijven die zelf moeten vaststellen.

Het bedrijf noemt voorbeelden als regels voor het gebruik door opsporingsdiensten, maatregelen tegen racial profiling, minimumeisen voor nauwkeurigheid en prestaties, en het geven van toestemming voordat biometrische gegevens verwerkt mogen worden. Dit laatste is bijvoorbeeld opgenomen in de algemene verordening gegevensbescherming, die sinds eind mei in de EU geldt.

Smith zegt dat de gevolgen van gezichtsherkenning groot zijn en dat de technologie een snelle ontwikkeling doormaakt. Desalniettemin is deze nog verre van perfect, bijvoorbeeld als er wordt gekeken naar bias. Het Redmondse bedrijf zegt zelf 'langzamer aan te doen' bij de ontwikkeling van gezichtsherkenning, omdat de aanpak van 'move fast and break things' op dit gebied schadelijk zou zijn.

Specifiek roept Microsoft het Amerikaanse Congres op een expertcommissie samen te stellen die over regulering gaat nadenken. Het belooft in de toekomst een aantal principes te publiceren over het gebruik van gezichtsherkenning. Deze techniek is niet de enige die tot debat heeft geleid over de inzet en de rol van de overheid, zo heeft kunstmatige intelligentie in de bredere zin tot soortgelijke discussies gevoerd.

Reacties (37)

[0arf]

Biometrische gegevens stellen ons in staat om prachtige diensten te ontwikkelen, maar het moet wel vreselijk goed beveiligd zijn. Anders dan wachtwoorden zijn biometrische eigenschappen niet even aan te passen als er iets mis is.
Als die inmiddels je toegangsbewijs zijn voor vele aspecten in je leven, kunnen er erg enge situaties ontstaan.
De ontwikkelingen in China en Rusland vind ik dan ook erg enge ontwikkelingen. Zijn levensbedreigend.
De wereld is niet uitsluitend goed, dus we moeten rekening houden met misbruik.
Daarom een goede oproep om hier voorzichtig mee om te gaan. Of de overheid de autoriteit is die hierbij kan helpen, betwijfel ik helaas.

[postbus51]

Tot nu toe zijn er alleen in china duidelijk voorbeelden die werkelijk alle verbeelding met stomheid slaan
Facial-recon om te checken of je wel bij oma-opa op bezoek gaat ,dit en nog meer "toepassingen" die de grote leider toestaat om te kijken hoe een individu in "zijn" maatschappij een (voorbeeld)rol speelt
Dit wordt straks nog gekoppeld met uitgaven/aankopen of je dingen in de maatschappij doet die gewenst/aangeduid zijn (en denk hierbij aan het 10cm naast het zebrapad lopen ! )
Dit alles gekoppeld aan een database zodat je als in een spelletje karma punten kan verzamelen
Wat uiteindelijk een individu tot pion van de wenselijkheid maakt , let welop die door de leider wordt gewenst
Na stalin/hitler/mao dus een nieuwe vorm van leidraadje in de massa-projectie om de kudde te beheren cq aan te sturen
En via de alom aanwezige media (gecontroleerd/gestuurd ! ) is dit een na een paar jaar gemeengoed
We zullen zien hoe dit in "onze" democratische-waarden een plek krijgt , zie hoe trump en anderen door
verdraaien van woorden mensen beinvloeden
En uit eindelijk de "massa" masseren voor maatregelen

Een ding hoe cru dit ook klinkt , 'ik ben blij dat de rode en de nazi revolutie geweest zijn als voorbeeld hoe een id(i)eologie in zijn engste vormen een werkelijkheid werden
En niet over deze middelen die vandaag de dag beschikbaar zijn konden gebruiken
Terwijl in de geschiedenis meerdere vormen van absurditeit een vorm aannamen , zelfs vandaag de dag of recent werden uitgevoerd
Hetzij in naam van een religie of het zogenaamd "het beste voor hebben" door een dictoriaal systeem
En ja Democratie heeft zijn fouten , maar perfectie is alleen perfect in chaos

[Elefant]

Sommige mensen blijven de staat maar als gevaar aanmerken terwijl de totalitaire ideologieen behalve in een paar landen als Noord Korea nauwelijks nog een rol spelen. En ook bij Korea kun je je afvragen of het juist niet de Westerse vijandigheid is die matiging tegenhoudt. Want een land/regime dat zich bedreigd voelt zal juist beperkende maatregelen aanscherpen. Oorlogsdreiging schept nu eenmaal een denken dat sterk op angst is gebaseerd. Op die gedachte was in het verleden ook de detente gebaseerd.

Wij moeten erg uitkijken voor het zwartwit denken dat de propaganda van idelogische groeperingen oproept. In de VS heeft dit bijvoorbeeld tot onoverbrugbare tegenstellingen geleid en is er nu een permanente loopgravenoorlog, waarbij men er vooral op uit is om elkaar af te breken, desnoods ten koste van het land en zijn bevolking. Het lijkt sterk op een oorlogstoestand, voor nuance en compromis is weinig ruimte meer.

Tijdens WW2 werden we met propaganda overspoeld en dat is eigenlijk nooit meer opgehouden, de propagandamachine van de VS is gewoon door blijven draaien. Een van de minder bekende voorwaarden van de Marchall-hulp was bijvoorbeeld dat wij Hollywoord films vrij zouden toelaten en we werden ook verplicht om Amerikaanse TV-series uit te zenden. Daarmee kreeg ook de bevolking in Europa de propaganda met de paplepel binnen gegoten. Het werkt net als met religieuze doctrine waar je in opgroeit, het wordt zo vanzelfsprekend dat het een soort basiszekerheid wordt in het denken waarop mensen hun wereldbeeld bouwen.

In dit oversimplistische wereldbeeld zijn "de Amerikanen" de "good guys" (onze vrienden en bondgenoten) en degenen waarmee zij in conflict komen de "bad guys". Dit borduurt voort op duizenden jaren van religieuze propaganda waarin andere religies als vijandig en duivels werd voorgesteld. Iets wat nog steeds intens en breed geloofd word in bepaalde kringen.

Een genuanceerde kijk is lastig geworden voor de moderne mens omdat daarnaast ons onderricht heel sterk de nadruk is gaan leggen op rechtlijnig denken en falisificeren. Ook de wetenschap is een zwartwit denken waarin wat niet als waar wordt aangenomen (bewezen) verworpen wordt. Dat kan echter alleen binnen een streng afgebakend onderzoeksgebied en allerlei voorwaarden. Dat in de complexe wereld om ons heen dingen een stuk genuanceerder liggen waardoor sjablonen (zoals democratie=goed) niet werken, en waardoor iedereen er zijn eigen waarheid op nahoudt, verliezen we zo gemakkelijk uit het oog.

Daarom is het goed om het beeld van de "good guy" te relativeren en terug te brengen tot meer realisme. Je bent niet de "good guy" omdat je de juiste ideogie aanhangt (democratie, kapitalisme, christendom) en van daaruit anderen negatieve labels opplakt, maar omdat je goed handelt. Een voorbeeld. Zie wikipedia

Critici wijzen erop dat gemeten naar de maatstaven die de VS hanteert, de VS zelf ook een schurkenstaat is. Ze wijzen erop dat de VS vaak unilateraal handelt en een groot aantal internationale verdragen niet ondertekend of geratificeerd heeft, zoals het Verdrag inzake de Rechten van het Kind, het Kyoto-protocol en het Internationaal Strafhof. Verder menen critici dat de term ' schurkenstaat' ook opgaat voor enkele VS-bondgenoten, zoals Israël en Pakistan.

Nu de "bad guy". China is volgens de media steevast een totalitair regime zonder enige vorm van democratie, Nou lees dan eens dit stuk van de Universiteit Leiden: "Democratische verkiezingen in een eenpartijstaat". Dat relativeert toch het beeld, bijvoorbeeld:

Wereldwijd fenomeen

Het is gunstig voor de relaties tussen het Westen en China, meent Wang , als we begrijpen hoe democratische instituties werken in een non-democratie. ‘Het is bovendien een wereldwijd fenomeen, denk aan Egypte, Venezuela of Rusland.’ De politicoloog was vooral verrast door de nadruk die de Chinese overheid legt op de periode ná de verkiezingen, het bijna dwingen van verkozen bestuurders om hun achterban goed te vertegenwoordigen. ‘Het spreekt voor zich dat verkiezingen belangrijk zijn, maar prestaties na de verkiezingen zijn van even groot belang. In zekere zin zouden politici in de Westerse wereld wel iets kunnen leren van China’s aandacht voor representatie na de verkiezingen. Hier horen we tegenwoordig toch vaak verwijten dat politici eenmaal verkozen, hun electoraat vergeten.’

Eerlijk gezegd vind ik China een heel interessant en hoopvol fenomeen en ik ben ook heel beniewd hoe het land zich politiek maatschappelijk verder ontwikkelt. De VS zijn op dit moment ook een buitengewoon interessant fenomeen en ik ben ook benieuwd hoe de democratie zich daar verder ontwikkeld. Wordt de republiek toch weer een keizerrijk? Zal er na de mislukte pogingen van de Kennedy's, Bushen en Clintons een echte dynastie komen? We zullen het zien.

Persoonlijk ben ik geneigd te geloven dat de Chinezen een uitstekend bestuur hebben gehad sinds de pragmaten aan de macht gekomen zijn, ik denk dat zij verder zullen gaan met een geleidelijke democratisering van het land in overeenstemming met het stijgende ontwikkelingsniveau van de bevolking.

Ik vind niet dat je van een kind kan eisen dat hij meteen volwassen wordt, maar dat je hem een geestelijke groeiperiode moet gunnen. Ik ben eerder bevreesd voor deze opgelegde volwassenheid. In de Soviet Unie is dat geprobeerd met desastreuze gevolgen. Ook Putin vind ik de aangewezen persoon voor deze fase in de geschiedenis van Rusland, zoals als ook onze Koningen ooit een positieve rol hebben gespeeld in de ontwikkeling van ons land, waarbij geleidelijk macht is overgedragen naarmate de democratische instituties volwassener werden.


Verder ben ik vol lof voor het initiatief van Microsoft. Het wordt tijd dat de overheid zijn verantwoordelijkheid neemt en de bedrijven maatschappelijk verantwoorde, veilige, ethische wettelijke kaders geeft waarbinnen ze kunnen opereren. We moeten dat niet aan de technische mogelijkheden en commerciele belangen overlaten.

[Reactie gewijzigd door Elefant op 29 juli 2024 11:50]

[rjberg]

Ik ben het met je eens dat het de goede kant op gaat, en dat wij in het westen ook van andere landen kunnen leren. Het idee echter dat totalitaire ideologieen nu geen rol spelen hier, betekent niet dat het dat nooit meer ergens hier zal doen.

Aan elke crisis komt een eind, (behalve ons uitsterven, maar dat is dan ook de laatste) maar aan elke gouden eeuw ook. Geschiedenis is nooit af, en we zullen continu nieuwe ontwikkelingen meemaken.

Daarom ben ik het wel met je eens dat Microsoft een goed initiatief toont. (Al doen ze dat misschien alleen omdat ze zelf achter lopen.) Omdat we nooit weten wat de toekomst brengt, hoeveel we ook van de geschiedenis leren, moeten we altijd waakzaam blijven om te proberen te voorkomen dat dingen grondig misgaan. Dingen gaan namelijk altijd een keer mis, en je moet dat wel zolang mogelijk uitstellen, maar ook maatregelen nemen voor als het wel misgaat.

[Kefke]

Tot nu toe zijn er alleen in china duidelijk voorbeelden die werkelijk alle verbeelding met stomheid slaan
Facial-recon om te checken of je wel bij oma-opa op bezoek gaat ,dit en nog meer "toepassingen" die de grote leider toestaat om te kijken hoe een individu in "zijn" maatschappij een (voorbeeld)rol speelt
Dit wordt straks nog gekoppeld met uitgaven/aankopen of je dingen in de maatschappij doet die gewenst/aangeduid zijn (en denk hierbij aan het 10cm naast het zebrapad lopen ! )
Dit alles gekoppeld aan een database zodat je als in een spelletje karma punten kan verzamelen

Dat doembeeld doet me denken aan de Black Mirror aflevering Nosedive.

[Six9]

In Alkmaar alleen geeft de gemeente per jaar haast een 400.000 uit aan het herstellen van graffiti en vandalisme. China gaat wat mij betreft te ver, maar ik ben het wel eens met de visie dat er een verrotte karakter trek in de mens zit, die als het kans krijgt en als niemand kijkt tot veel negatiefs in staat is.

[dasiro]

ga er maar van uit dat er in elk land wel iemand een idee heeft dat jou als burger kan afschrikken, vaker zal je het zelfs niet weten dan wel. Wat je van negatiefs hoort over andere landen waar bepaalde overheden of media geen goeie band mee hebben, zal in eigen land of de "vriendschappelijke" landen ook wel gebeuren.
Ter illustratie zo loopt dit project waarschijnlijk op dezelfde manier af als jouw doemscenario, namelijk dat het te spoofen is. Of worden deze twee ideeën gecombineerd en kan je daar weel allerlei ongewenste situaties bij gaan bedenken. Niet dat ik zeg dat je daar niet over moet nadenken, maar als je elk scenario moet bestuderen en uitsluiten, dan zitten we binnen 20 jaar nog te wachten

[Verwijderd]

Biometrische gegevens stellen ons in staat om prachtige diensten te ontwikkelen

Wat maakt biometrie dan mogelijk wat op andere manieren niet mogelijk is?

[Verwijderd]

Het probleem is niet de techniek, het probleem is de politiek. Hoe lang voordat bepaalde partijen die 'recht en veiligheid' hoog in het vaandel hebben willen dat alle camera's die er hangen ook gezichtsherkenning gaan doen om de criminaliteit (kinderporno en terrorisme) aan te pakken? Ik voorspel niet lang!

In het VK is het zelfs al ingevoerd.

[Marzman]

In België is het ook meegenomen in de aanbesteding, het staat alleen nog niet aan.

[dasiro]

ik lees hier enkel over zelfregulering door de overheid, maar niet wat privé-bedrijven zoals de techgiganten zelf in toom moet houden.

[kodak]

Dit soort Amerikaanse zorgen over details vinden hun oorsprong in een veel groter gebrek: het gebrek aan wetgeving over omgang met persoonsgegevens in de USA.

In de EU hadden veel landen al privacy wetten en is er nu voor de hele EU wetgeving. Welke gegevens je ook verwerkt, zodra het persoonsgegevens zijn moet je voldoen aan extra regels. Dus of het namen betreft, gezichten of andere kenmerken die over personen gaan, dat is in de EU al afgedekt.

In de USA kennen ze nauwelijks privacy als een recht. Je moet het vooral zelf beschermen en als een ander jou gegevens wil gebruiken om er aan te verdienen dan is dat prima. Er zijn staten waar er wel enige wetgeving is of het in de maak is, maar als gevolg krijg je dus discussies over details hoe je met specifieke persoonsgegevens zou moeten omgaan. Het is misschien ook de makkelijke weg, want de economie heeft er met de huidige businessmodellen geen voordeel bij privacy wetten over persoonsgegevens in brede zin.

[selena81]

Ik vind het in Nederland soms ook slecht geregeld hoor: denk bijv aan het niet publiceren van de namen van criminelen maar wél (ongevraagd) die van slachtoffers. Dat vind ik behoorlijk absurd.

[Verwijderd]

Kan Microsoft de overheid oproepen om iets te doen?
Hebben ze een lamp waar ze op kunnen wrijven?
Jammer dat de belastingbetaler dat niet kan.

[polthemol]

jij kan de overheid ook oproepen iets te doen hoor Of ze iets met je oproep gaan doen is een tweede, maar die vlieger gaat ook voor Microsoft op.

[Lt.Data]

Omdat veel bedrijven die dit ontwikkelen in de VS zitten, kan zo'n beperking ook gevolgen hebben voor landen als China, Noord-Korea en Iran.
Dat zijn landen waar ik mij van afvraag of ze het wel verantwoord zouden inzetten. Controleren van de massa is hiermee wel heel makkelijk. En als er in VS regels zijn die bepaalde toepassingen verbieden, dan is het voor die landen in ieder geval moeilijker.

En ik wil niet graag een samenleving waar ik langs een reclamezuil loop en die ineens een persoonlijk bericht toont op basis van mijn aankopen.
In Europa zal dat nog wel tegen gehouden worden, maar in de VS is alles mogelijk.

[Clifdon]

China doet al niet echt anders. Ik heb even een random link gezocht en hier geplaatst. Er zijn vele films te vinden, de ene schokkender dan de andere.

https://youtu.be/OQ5LnY21Hgc

De xinjiang provincie gebruiken ze als testkamer hiervoor. Om even een indruk te geven het gebied is 66 keer groter dan Nederland.

De mens is daar onderdeel van een machine die leven heet. Terwijl er geen enkele vrijheid meer is.

[selena81]

Als de westerse media daarover berichten gaan ze in 9 vd 10 gevallen praten met het lokale equivalent van SP/PVV/ChristenUnie: een groepje chronisch ontevredenen met beperkte aanhang.
Ik heb uit mijn eigen interacties met Chinezen het idee dat de gemiddelde Chinees er gewoon veel minder mee zit dat hij wordt bespioneerd dan dat onze media het voorstellen (wat dus _niet_ betekent dat ze het blind eens zijn met alles wat hun overheid doet, maar wel dat ze in z'n algemeenheid vinden dat hun land het toch best goed doet)

En zowiezo wil ik nu even de stelling op tafel gooien: wat is er zo erg aan om bespioneerd te worden? om je gedrag te moeten verantwoorden?
Ik heb serieus het idee dat we hier zijn geïndoctrineerd met 'bespioneren is slecht', maar als je dan vraagt waarom krijg je imo eigenlijk nooit een serieus antwoord, lijkt het wel heel erg dat mensen films napraten en vooral heel heel erg bang zijn om raar te zijn als ze zeggen dat een beetje sociale controle zo erg nog niet is.

[erik_bies]

Vraag het de dieren in de dierentuin... die hebben evenveel vrijheid

[reflex1967nl]

vaste ip geven lijkt me veel beter
gezichtsherkenning is je privacy in gevaar

[Tweddy]

Oh de overheden zullen gezichtsherkenning en andere K.I. zeker reguleren. In ieder geval zodat zij er gebruik van kunnen blijven maken en de massa onder controle kunnen houden.
Kijk naar China waar dit al toe leidt; een puntensysteem voor goed gedrag. Ik voorzie op werkplekken ook dit soort systemen en het wordt alleen maar slimmer en slimmer met meer toepassingsmogelijkheden.

[selena81]

Op je werk beloond worden voor goed gedrag. En dat is anders dan de huidige promotieladder omdat.....?

[Tweddy]

Meer het afstraffen van menselijk gedrag vrees ik.

[Frogmen]

Lijkt mij een hele goede zaak want nu staat het een bedrijf vrij om een zoekmachine op internet los te laten en van iedere foto de namen van de personen erop te vermelden. Dit in het kader van een zoek machine en combineren van data. Lijkt mij een hele enge ontwikkeling het geeft namelijk potentieel wel heel veel inzicht in iemands prive leven.
Dus ja beetje triest dat de overheid zelf niet op het idee komt of waarom staat het niet in de GDPR?

[totaalgeenhard]

Wat heeft GDPR te maken met Amerikaanse overheid?

Bovendien als jij expliciet toestemming geeft mag men gewoon gezicht matchen.

[Frogmen]

Misschien wel omdat het een wereldwijd probleem gaat worden maar helaas zijn er teveel overheden die maar wat graag deze technologie gebruiken.

[Origin64]

Microsoft zelf is een van de bedrijven die facial recognition ontwikkelt in de VS, als je cynisch genoeg bent kun je dit zien als een poging van MS om invloed op hun eigen regulatie uit te oefenen en de concurrentie te beperken

[Reactie gewijzigd door Origin64 op 29 juli 2024 11:50]

[WillySis]

Wat MicroSoft roept is eigenlijk een schot voor open doel.

In Europa valt gezichtsherkenning onder de noemer biometrische data. Die data mocht je in de meeste landen al voor de AVG niet eens opslaan. Met de AVG is dat netjes voor heel Europa gelijkgetrokken.
In Amerika is er niets voor geregeld. Nu speelt Microsoft even het braafste jongetje van de klas, maar op de achtergrond is het gewoon marketing om de eigen techniek aan de man te brengen en concurrenten als FaceBook en Google gelijk de duimschroeven aan te draaien.

Ik ben hiermee geen MS hater. Sterker nog, MicroSoft heeft hiermee (ondanks de verborgen agenda) groot gelijk!

[Six9]

Perfect thx😉

Nog niet zo lang geleden zat deze zelfde Brad Smith in het congres met een typmachine uit 1900 om duidelijk te maken hoe oud de wetten zijn die over het delen van persoonsgegevens