Alphabet-ceo wil dat overheden kunstmatige intelligentie reguleren

Alphabet-ceo Sundar Pichai vindt dat er vanuit de overheid regelgeving moet komen rondom kunstmatige intelligentie. Pichai schrijft in een opiniestuk dat politici maatregelen zoals de AVG moeten nemen om dat te doen.

Pichai schrijft in een ingezonden brief in de Financial Times over goede dingen die het bedrijf met kunstmatige intelligentie heeft gedaan. Zo noemt hij een ai die doktoren helpt met het opsporen van borstkanker en een model waarmee vliegmaatschappij Lufthansa vertragingen kan verminderen. "Tegelijkertijd is de geschiedenis vol voorbeelden van hoe de voordelen van technologie niet gegarandeerd zijn", schrijft Pichai. Hij noemt daarbij de ontwikkeling van het internet, die naast het verbinden van mensen ook zorgde voor het verspreiden van misinformatie. Pichai zegt dat overheidsregulering een belangrijke rol moet en zal spelen in het ethisch inzetten van kunstmatige intelligentie, maar ook gezichtsherkenning. Hij verwijst daarbij naar de AVG, de Europese privacywet. "Bestaande regels kunnen als een goede basis dienen", schrijft Pichai. Ondertussen is wel internationale samenwerking nodig. "Om daar te komen hebben we overeenstemming nodig over kernwaarden. Bedrijven zoals de onze kunnen geen veelbelovende technologie bouwen en de markt laten bepalen hoe het gebruikt gaat worden."

Pichai roept overheden op om met wetgeving te komen, maar kijkt ook naar de rol van techbedrijven zelf. Hij wijst daarbij op Googles eigen regels voor kunstmatige intelligentie. Het bedrijf stelde in 2018 richtlijnen op om technologie ethisch te ontwikkelen en te gebruiken. Pichai noemt daarbij specifiek het feit dat Google niets ontwikkelt voor gebieden waar massasurveillance of mensenrechtenschendingen voorkomen.

Google is niet het eerste bedrijf dat zelf met ai bezig is en tegelijkertijd vraagt om regulering. Microsoft deed die oproep jaren geleden al. Ondertussen zijn nationale en internationale overheden al bezig met het opstellen van regels. Zo wil de Europese Commissie een verbod op gezichtsherkenning in de openbare ruimte instellen.

Reacties (53)

[Fidesnl]

Typisch Google, kleine nieuwkomers uit de markt drukken voordat ze überhaupt bestaan.

Regulering zorgt ervoor dat je als startups direct juristen in dienst moet hebben anders doe je illegale dingen en maak je geen schijn van kans om op de markt te komen.
Google heeft natuurlijk een gigantisch team dat zal "helpen" om deze Regulering op te zetten* waardoor ze ook precies de mazen van de wet kennen.


*het is heel normaal in de wereld dat dit soort wetten worden opgesteld met de hulp van grote bedrijven. Omdat wetgevers dan voorzien worden van "de laatste stand der techniek" en ook wetgeving opzetten die ook realistisch en werkbaar is.

[Reactie gewijzigd door Fidesnl op 23 juli 2024 18:21]

[PuzzleSolver]

Ja dit soort startups:

https://www.nytimes.com/2...y-facial-recognition.html

Die dus al een database met foto's van iedereen ge-scraped hebben van twitter facebook linked-in etc. en er vervolgens gezichtsherkenning op los laat voor opsporingsinstanties. Leuk dat ze nu de dieven kunnen pakken, maar als dit niet gereguleerd wordt dan loopt het uit de hand en lopen we straks rond met een bril die informatie geeft over iedereen waar we naar kijken. Straks kan iedereen voor burger opsporingswacht gaan spelen met de problemen die daar van gaan komen.

Ik vind het prima dat er regels voor gaan komen, maar ik ben bang het moeilijk wordt om tegen te houden omdat het moeilijk te controleren valt, alle informatie is nl. al publiekelijk beschikbaar en wordt al massaal ge/misbruikt door bedrijven die er een voordeel mee willen halen. Alleen de grote bedrijven doen het vaak niet zelf omdat ze te veel in de spotlights staan. Kijk b.v. maar naar facebook en Cambridge Analytica.

[T-men]

Is kunstmatige intelligentie eigenlijk niet net zoiets als genetische modificatie ?

Als in: ja het kan ons super veel goeds brengen, maar ook een soort übermensch (über-AI) die de gewone mens zou kunnen gaan overvleugelen.
Door daar ethische regels voor te hanteren kán bepaalde technologie wel, maar moet je die gewoon niet wíllen !

Je wíl geen hyper-intelligente mensen die het gewone 'klootjesvolk' gaan overheersen, net zo min als dat je een gewapende AI wil die de mensheid gaat overheersen.

Ik ben het helemaal met je eens en ook voor een set basisregels waar iedereen (in de hele wereld) zich aan moet houden. Dan weet je ook als kleine startup vooraf waar je aan toe bent.

Of heb ik nou teveel science fiction gekeken ?

Edit: typo. basisregels is met een 'a'

[Reactie gewijzigd door T-men op 23 juli 2024 18:21]

[jeroen79]

Dat Google graag regulering ziet betekent niet dat alleen Google daar baat bij zal hebben.

Als pakjesbezorger zal het me dan misschien niet uitmaken hoe de routeplanner precies werkt maar als bij de overheid een black box besluit dat ik misschien een fraudeur ben des te meer.

Als burger en consument die met AI te maken kan krijgen wil ik wel wat rechten hebben zoals de AVG die mij over mijn data geeft.

Een recht op inzicht:
-Of een bepaalde actie of besluit voortkomt uit AI.
-Hoe is een AI ontwikkeld en getraind?
-Waar en hoe in een proces wordt AI toegepast?
-Welke delen van die AI zijn oncontroleerbaar?
Op welke punten heeft die AI een bias of zwakheid?

Een recht op menselijke intelligentie:
Als ik meen dat AI mij verkeerd beoordeeld dan moet ik kunnen vragen dat er alsnog een menselijke medewerker naar mijn zaak kijkt en daar een goed onderbouwde uitspraak over doet.

[Darude1234]

Probleem is alleen: In hoeverre is de mening van die menselijke medewerker niet ook al beïnvloed door een AI. De menselijke medewerker kan dit nog zo goed zelf onderbouwen, maar hoe weet je dat die onderbouwde mening niet voortvloeit uit de mening van diezelfde AI. We worden immers dagelijks beïnvloed door AI door de zoekresultaten en advertenties die we voorgeschoteld krijgen.

Hooguit zou je alle textuele analyse van de AI kunnen krijgen met een opsomming waarom de AI tot dat besluit is gekomen, maar dat zegt nog niets over of dit een juist besluit en of de AI niet uit nog 100 andere variabelen had kunnen kiezen met een andere uitkomst.

[still_the_same]

Misschien begrijp ik je opmerking verkeerd, maar als je je macht gebruikt om nieuwe kleine partijen uit de markt te drukken denk ik dat je verkeerd bezig bent als groot bedrijf. Echter, nieuwkomers die nog niet bestaan uit de markt drukken lijkt me lastig. Hoe moet je dan ooit als bedrijf nog innoveren?

[blorf]

AI is zwaar over het paard getilde "technologie" en vooral een methode om computers met resultaten te laten komen die niet controleerbaar zijn. Overheden zouden er juist alert op moeten zijn dat dat geen deel van het systeem gaat uitmaken. Dat Google dat wel leuk vind ligt voor de hand. Dat is een stuk interessanter dan tracking cookies.

[Ryen]

AI is zwaar over het paard getilde "technologie" en vooral een methode om computers met resultaten te laten komen die niet controleerbaar zijn.

Dat resultaten van AI moeilijk te controleren zijn ben ik met je eens, maar om nu te stellen dat dat het voornaamste doel is vind ik een beetje te kort door de bocht. Dat die oncontroleerbaarheid overheden en bedrijven soms goed uit komt sluit ik dan weer niet helemaal uit.

[Sharkoon]

Ze drukken nieuwkomers helemaal niet uit de markt. Vind het juist goed dat ze zich hiermee bemoeien.
Google heeft ervaring met AI en weet wat ze er mee kunnen. De overheid heeft die kennis niet in huis op de schaal dat google dat heeft.

[Vlad86]

Precies dat, het is meer van. Jullie mogen hiet niet doen, alleen wij wel: https://www.theguardian.c...-project-maven-tensorflow

[Fjoerfoks]

De benadering van Mozilla: https://foundation.mozill...tificial-intelligence-ai/

[Honbrifcl]

Mooi idee, maar de geschiedenis bewijst ook dat alles wat uitgevonden wordt, ook toegepast wordt, massavernietigingswapens, genetische manipulatie etc.. Er hoeft er maar één te zijn die zich niet aan de regels houdt. En de kans dat er regulering ontstaat waar alle overheden en alle bedrijven het mee eens zijn, én zich aan houden, acht ik nihil...

[Zynth]

Ach, er zijn vermoedelijk weinig beschavingen geweest die hun Great Filter zagen aankomen. Wij zijn misschien de gelukkige uitzondering

[RJG-223]

Ach, er zijn vermoedelijk weinig beschavingen geweest die hun Great Filter zagen aankomen. Wij zijn misschien de gelukkige uitzondering

Er is een verschil tussen dat mensen hem aan zien komen, en dat ze er wat aan kunnen doen. Zo lang het nader komen van de 'Great Filter' niet erkend wordt door de overheden (dat heet: 'niet bewezen'), of dat die teveel onder de invloed zijn van andere machtige partijen (bedrijven) omdat dat tegen hun belang is, of dat er een of twee hele grote groepen liever voor hun korte-termijn voordeel gaan, dan kunnen we het met z'n allen wel aan zien komen, maar dan gebeurt het toch.

Kijk naar het CO2 verhaal. De VS / Trump boeit het niet, en dus doen ze niets. En hebben ze jarenlang niets of weinig gedaan. Misschien is het inmiddels wel al te laat.

[Finder]

Of je bent een van de velen beschavingen geweest die overal onheil zagen aankomen.

Er zijn genoeg technische oplossingen om het energie-probleem op te lossen, en de aarde overleeft; ook met 4x zoveel CO2, het is alleen niet in zijn huidige vorm.

[RJG-223]

Of je bent een van de velen beschavingen geweest die overal onheil zagen aankomen.

Het lijkt er niet op dat onze beschaving van het type is dat overal onheil ziet aankomen, en zich daardoor niet, of te weinig, ontwikkelt. Gegeven dat feit is het beter voorzichtiger te zijn. Het hoeft maar een keer mis te gaan, en dan is er voor ons geen tweede kans.

Er zijn genoeg technische oplossingen om het energie-probleem op te lossen

Technische oplossingen voor het energie-probleem wellicht wel. Maar kunnen we die ook snel genoeg doorvoeren ? De maatschappij past zich maar langzaam aan. En het is ook fysiek onmogelijk om binnen 10 of 20 jaar geheel op niet-fossiele energiebronnen over te stappen. En dan is de vraag of we het CO2 probleem wat we nu al hebben op kunnen lossen voordat het tot onomkeerbare problemen leidt. En dáárvoor zijn nog géén technische oplossingen. Onze enige optie is nu om onze uitstoot zeer sterk te verminderen.Op dit moment groeit die echter nog steeds...

en de aarde overleeft; ook met 4x zoveel CO2, het is alleen niet in zijn huidige vorm.

Over de aarde en het leven erop maak ik me niet zoveel zorgen. Die hebben wel grotere problemen gekend. Vraag is of de mensheid dan ook deel zal uitmaken van die toekomst...

[Verwijderd]

"Of je bent een van de velen beschavingen geweest die overal onheil zagen aankomen."
Zoals?

Nee, dit is eigenlijk nooit het probleem geweest. Elke beschaving gaat uiteindelijk ten onder, meestal aan iets dat sommigen/velen aan konden zien komen, maar wat niet kon worden voorkomen vanwege gedachtegoed zoals het jouwe - 'het zal wel meevallen'/'het valt wel tijdig op te lossen'.

[360Degreez]

Misschien zijn we gewoon te intelligent. Ik bedoel; de krokodil is er al 200 miljoen jaar en is nauwelijks veranderd.

Wij komen net kijken met zo'n 200 duizend jaar, draaien de planeet in de vernieling en maken er nu al een potje van met onze gekke dingetjes als haat, hebzucht, religie, het concept "overheid" en Tell-Sell reclames met gekke plastic dingetjes die je bij Ali-Express voor een fractie van de prijs kunt kopen.

Misschien is onze soort gewoon een de soort waarvan een volgende over een paar miljoen jaar de resten opgraaft en ons als de eerste mislukte proef van intelligent leven bestempelt.

En niets mis mee he, het komen en gaan van soorten is aan de orde van de dag. Maar misschien als we het onszelf collectief beseffen kunnen we wat pro-actiever handelen om het niet zo ver te laten komen. We hebben die slimme hersens tenslotte niet voor niets.

[svenk91]

Ach, als volgende intelligente soorten lessen leren van onze fouten en het beter gaan doen is het ook niet voor niets geweest, dan kan je zelfs zeggen dat wij nog steeds een beetje voort leven in de collectieve hive mind van onze planeet, always look on the bright side

[AmigaWolf]

Ach, als volgende intelligente soorten lessen leren van onze fouten en het beter gaan doen is het ook niet voor niets geweest, dan kan je zelfs zeggen dat wij nog steeds een beetje voort leven in de collectieve hive mind van onze planeet, always look on the bright side

Ach, ik ben geen eens intelligente leven op aarde tegen gekomen, en leren van onze fouten, dat is lachwekkend.

[TabCam]

Of er zijn al vier soorten intelligent leven geweest en telkens roeien die zichzelf uit door overgebruik van de aanwezige bronnen. Één lijkt een komeet te zijn geweest

Iets serieuzer, waarom gokken met wat we nu hebben? 4x zoveel CO2 als nu is voor de mensheid al teveel, bij de 1000 ppm krijgen we al concentratieproblemen. En evolutie gaat niet zo snel!

[Blue-eagle]

Is onszelf genetisch aanpassen ook niet onderdeel van de evolutie? Onze hersenen zijn namelijk hetgeen wat ons in staat stelt zo'n stap te ondernemen; volkomen natuurlijk dus. Dat gaat zo meteen in razendsnel tempo. De eerste kinderen die genetisch zijn bewerkt zijn al ruim 10 jaar geleden geboren in China. De vraag is eigenlijk: welke genetisch gemanipuleerde mensen zijn in de tussentijd geboren en wat maakt deze mensen bijzonder(der)?

[Verwijderd]

Ik ben het half met je eens, maar wat me enige hoop geeft, is dat we al vele decennia lang atoombommen genoeg hebben om de mensheid uit te roeien, maar dat het nog steeds niet gebeurd is. Dus ergens is er genoeg collectieve terughoudendheid om net niet over de grootste grenzen heen te gaan.

Gegeven genoeg tijd zou dit vanzelf een keer mis moeten gaan natuurlijk, maar vooralsnog gaat het goed

[buzz]

Mensenrechten schending en surveillance niet, maar waren er laatst niet een hele set engineers weggelopen omdat ze een van Google's defensiecontracten ver over de lijn vonden?

[Zoijar]

Ja klopt. Beetje hypocriet overigens. "Oh, nee, daar werken we niet aan mee, want dat is evil!" Maar ondertussen wel van de veiligheid en voordelen genieten die defensie (indirect) biedt. Zolang maar een ander zijn ziel ervoor verkoopt, en een ander als soldaat wordt uitgezonden, dan is het allemaal prima. Dan ben je als Valley-medewerker nobel.

[Verwijderd]

Lekker argument hoor: "Je woont in een land wat een leger heeft, dus als je dan nee verkoopt aan het leger ben je hypocriet" ! Je moet toch wat als je het er niet mee eens bent?

[360Degreez]

Goed initiatief en zeker nodig, maar overheden kennende zal passende regelgeving pas geïntroduceerd worden lang nadat de eerste AI al zelfbewust is.

Daarnaast kan je de commerciële (openbare) ontwikkeling van AI wel willen reguleren, maar als de technologie "out there" is, kan je er donder op zeggen dat zowel geheime overheidsdiensten als terroristische organisaties compleet los gaan met de ontwikkeling met alle gevaren van dien.

Op het moment dat een goede AI wordt losgelaten en zijn (haar?) weg vindt naar het publieke internet krijgen we serieuze problemen met desastreuze gevolgen.

Mijns inziens is de enige manier om dit te voorkomen om fabrikanten hardwarematige kill-switches en beperkingen te laten inbouwen in CPU's en GPU's om de ontwikkeling van een AI te remmen en een halt te kunnen toeroepen.

Alu-hoedje? Misschien wel; maar kijk eens hoever we de afgelopen 50 jaar gekomen zijn en extrapoleer dat naar de komende 100 jaar..

[Zoijar]

Mijns inziens is de enige manier om dit te voorkomen om fabrikanten hardwarematige kill-switches en beperkingen te laten inbouwen in CPU's en GPU's om de ontwikkeling van een AI te remmen en een halt te kunnen toeroepen.

Het gaat niet om de AI zelf, maar wat mensen ermee doen; die zijn veel beter in wantoestanden bedenken en uitvoeren dan enige vorm van AI zal zijn

[TimMer]

AI zal daar vele malen intelligenter in zijn en wordt voorgeprogrammeerd door mensen.

Kortom: daar moeten inderdaad veiligheidsmaatregelen voor komen, maar graag door een internationaal orgaan met werkelijke macht en geen bergen trage bureaucratie en eigenbelang, zoals overheden.

[Baardmeester]

Ik denk dat dit vooral komt, omdat AI van zowel Microsoft en Google tot nu toe niet van de politieke correctheid zijn geweest. Paar dagen geleden was er nieuws dat Google intern problemen had dat deze racistisch en sexistisch zou zijn. En Microsoft had met Tay ook al dat probleem. Het verrast mij niet dat nu ze merken dat AI niet hun politieke doelen ondersteunen ze voor regulering vragen.

[Auredium]

Colour me crazy maar is het niet enigszins veelzeggend als een bedrijf zoals Alphabet regulatie door overheden wilt hebben op AI?
Dit geeft aan dat iig Alphabet voorziet dat AI enorm (potentieel) gaat worden gebruikt om de samenleving te ontwrichten.

Ik denk dat deep-fakes pas het topje van de ijsberg zijn. Sterker nog; ik vermoed dat wij wellicht binnenkort geen enkele informatie meer kunnen vertrouwen zonder eerst een complete universitaire cursus te moeten volgen. Dat deep-fakes zo goed onderbouwt worden door AI dat nieuwsartikelen worden geback-upped met verdere deep-fake bronnen en personen die ook gewoon e-mail adressen hebben en bots die wat realistisch inkomende e-mails beantwoorden alsof de mensen echt bestaan. Dat is nu al, maar dan op een nog dieper, realistischer ogend niveau.

[Iblies]

AI is minder complex dan menigeen partij wil laten geloven en juist daar ligt het grote probleem van partijen als oa Google.


Voor oa deepfake en fake-news is google deels verantwoordelijk. Daar kan Google voor de bühne zich heel druk om maken, maar denk aan het verleden met mp3, videos, bittorrents, etc. Google moest inzet tonen om dat te weren. Alleen kan een AI relatief dusdanig veel rommel het internet opstuwen zodat die wordt opgepakt door logaritmes van Google en Co. En dat opstuwen leren ze van oa zogeheten trollenfabrieken.


Mijn inziens wil google haar verantwoordelijkheid ontlopen door overheidspartijen, en dus belastinggeld hierbij te betrekken. Maar mij lijkt dat niet welkom. De kans dat google openheid gaat geven hoe ze te werk gaan en welke normen en waarden hanteren is vrijwel nihil. Samenwerken met overheidsdiensten wordt helemaal twijfelachtig, zie alleen hoe partijen in de VS met elkaar omgaan en hoever ze bereid zijn te gaan om macht te behouden.


Gezond verstand lijkt me meest voor de hand liggende, alleen zit hier zoveel kapitaal achter dat dat ondergeschikt is.

[5pë©ïàál_Tèkén]

Leuk idee, hoe ga je dat handhaven? Komt de overheid langs om een code review te doen? In mijn sceptische oren klinkt dit voorstel net iets te nobel. Zulke wetten zijn een schitterende drempel om concurrentie in de kiem te smoren. Een dik pak regels waar elke ondernemer koude rillingen van krijgt. Behapbaar voor de big boys, awfully convenient.
Voor mijn gevoel lijkt een dergelijke regulering op de regulering van biologische wapens. Fout, evil, vreselijk etc etc, tot het oorlog is. Dan is het verdomd handig om te hebben. Of om in ieder geval genoeg kennis te hebben om je er op voor te bereiden. Gevolg - iedereen gaat het stiekem ontwikkelen waardoor de gewone burger niet weet wat voor invloed het kan hebben op hun leven. Ook zullen mensen het niet herkennen als ze het tegen komen simpelweg omdat ze het niet kennen.
Kijk naar de geschiedenis van elk groot tech bedrijf. 'Oh mocht dat niet? Tja we zijn nu al ~7 jaar verder door al het procederen, hebben een grote positie en veel poen. Ok we betalen de boete doei'.
Wanneer een bedrijf/sector roept om regulering, dan mag je best kritisch naar die oproep kijken. Bedrijven willen gewoon geld verdienen, ethisch gedoe is voor de marketing & lobbyisten.

[Smuey]

Ik begrijp deels de stelling van meneer Pichai, maar we hebben wel een probleem. Je vraagt daarmee om regelgeving over bijzonder complexe materie aan mensen die nauwelijks snappen hoe ze een computer aan moeten zetten en helaas maar al te vaak gebruik maken van foutieve, eenzijdige voorlichting als het aankomt op onderwerpen waar ze geen kaas van hebben gegeten. Vooral IT-gerelateerd, dus. Zou je die mensen werkelijk willen laten beslissen over deze materie?

[brigada]

Google vraagt alleen om regulering om later deze te kunnen misbruiken/omzeilen.

"Pichai noemt daarbij specifiek het feit dat Google niets ontwikkelt voor gebieden waar massasurveillance of mensenrechtenschendingen voorkomen."

Dus niet voor de VS?

Wat een onzin allemaal