Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Directeur Google: maak wereldwijde afspraken over kunstmatige intelligentie

Er moeten wereldwijde afspraken komen over het gebruik van ai. Daarvoor pleit de directeur van Google, Sundar Pichai, in een interview met het Algemeen Dagblad. Dergelijke wereldwijde afspraken bestaan bijvoorbeeld voor het tegengaan van klimaatverandering.

Pichai toont zich in het AD-interview over het algemeen optimistisch over de toekomst van technologie, maar toont zich bezorgd over de opkomst van kunstmatige intelligentie. "Als maatschappij moeten we ons in een vroeg stadium voorbereiden op de komst van intelligente machines", betoogt Pichai. De focus moet daarbij liggen op het minimaliseren van de nadelen. "Oogst de voordelen, minimaliseer de nadelen. Maak wereldwijde afspraken, zoals bij het klimaatverdrag van Parijs. Benader het ethisch en verantwoordelijk. Als Google stoppen we daar veel energie in."

Het is niet voor het eerst dat medewerkers van Google zich op deze manier uitlaten over kunstmatige intelligentie. Wetenschapper Douglas Eck, die voor Google onderzoek doet naar machine learning, zei vorig jaar dat het nodig is om onderzoek in een bepaalde richting te sturen. Er zijn uitdagingen die we moeten aangaan en ik denk dat we het besef hebben als wetenschappers op het gebied van kunstmatige intelligentie dat we de juiste modellen moeten bouwen, de juiste soorten technologie mogelijk moeten maken.” Dat is mogelijk, omdat veel onderzoek naar kunstmatige intelligentie in het openbaar plaatsvindt.

De Google-directeur meent dat de ontwikkelingen in kunstmatige intelligentie niet zo snel gaan als mensen denken. "De intelligentste systemen kunnen nog niet lezen als een basisschoolleerling van zeven tot negen jaar oud. Als we dat niveau in het komende decennium bereiken, is dat een grote doorbraak."

Pichai reageert in het interview ook op onderzoeken van de Europese Commissie naar machtsmisbruik van de techgigant. "Met schaalgrootte komen kritiek en meer controle. Europa en de VS kennen verantwoordelijke instituten die alle recht hebben ons onder het vergrootglas te leggen. Het is aan ons om juist te handelen. Soms doen we iets verkeerd, pakken we dat aan en veranderen we dingen."

Pichai tijdens het interview. Foto: AD

Door Arnoud Wokke

Redacteur mobile

11-01-2018 • 10:35

93 Linkedin Google+

Reacties (93)

Wijzig sortering
Tja... leuk om te roepen maar wij als mensheid zijn nog nooit in staat geweest om wereldwijde afspraken te maken over wat dan ook. Er zijn altijd partijen die het anders zien en zich om die reden niet aan dergelijke regels willen conformeren. Mooie utopische uitspraak, veel succes ermee maar ik zie het niet gebeuren.
... als mensheid zijn nog nooit in staat geweest om wereldwijde afspraken te maken over wat dan ook.
Dat is wel heel negatief / fatalistisch gedacht, en bovendien niet waar; klimaatproblemen zoals zure regen en het gat in de ozonlaag zijn wel degelijk succesvol aangepakt doordat veel landen afspraken hebben gemaakt en hebben samengewerkt om deze problemen aan te pakken.
Dergelijke zaken zijn door een aantal economische grootmachten opgepakt maar zeker nooit 'wereldwijd' aangepakt... er zijn tot de dag van vandaag nog genoeg landen die ontzettend veel uitstoten en geen positieve bijdrage hebben geleverd.

Google wil nu dat echt alle techbedrijven en overheden ter wereld zich aan die afspraken gaan houden en dat zie ik niet gebeuren... dat gebeurd nu al niet over heel belangrijke zaken (kijk naar landen als China en Noord-Korea of bepaalde landen in het midden-oosten) en dat zal ook niet snel veranderen. Het is eenvoudig gezegd onmogelijk om alle neuzen dezelfde kant op te krijgen.

[Reactie gewijzigd door MicGlou op 11 januari 2018 10:56]

Je moet altijd voor het ideaal gaan. De helft ervan bereiken is meer de helft van het niet proberen.
In dit geval is 'de helft bereiken' dus niet genoeg. En daarmee is het probleem dus heel anders als met klimaatproblematiek. Daar is elk land dat zich houdt aan de afspraken pure winst, maar in het geval van kunstmatige intelligentie is de schade mogelijk juist groter wanneer 1 land zich niet aan de afspraken houdt, in vergelijking tot een situatie zonder afspraken.

Als iedereen vrij kan handelen krijg je misschien een wapenwedloop, maar wanneer één land doorontwikkeld waar de rest zich keurig aan afspraken houdt, krijg je een enorm scheve machtsbalans. Dat is mogelijk nog slechter.

Wat je ook aan afspraken maakt, landen als de VS, China, Noord-Korea en Iran zullen zich er niet aan houden.
Als de ene helft A doet, en de andere partij B doet en elkaar wil overtreffen, dan heb je toch een wapenwedloop? Die hele wedloop is gebaseerd op grootmachten die elkaar in balans houden.

Door de discussie te starten en het in ieder geval te proberen heb je een kans dat je in ieder geval afspraken kunt maken die een verschil kunnen maken. Zeker als het om onderwerpen gaat waar meerdere partijen bij gebaat zijn. Natuurlijk zullen machten als China, Iran etc hier niet zo happig op zijn omdat/als Google (VS) ermee komt. Maar als het iets is waar ze zelf ook wijzer van worden wordt 't wellicht alweer een ander verhaal en kan het zelfs nog diplomatieke voordelen hebben.

De dialoog is altijd goed. En dat hoeven geen harde afspraken te zijn, maar kan ook gewoon goed zijn voor de onderlinge verstandhouding. Het gaat hier om klimaatverandering. Ik zie niet in hoe de helft die zich hier voor inzet negatief kan zijn op het klimaat?

Al blijkt na de dialoog dat een wedloop de beste oplossing is, dan kan daar toch gewoon voor gekozen worden? Niks doen lijkt me geen betere oplossing in ieder geval.

[Reactie gewijzigd door xs4me op 11 januari 2018 12:21]

Waarom zou je de schijn proberen te creëren dat een afspraak op dit vlak iets waard is? Dit gaat over heerschappij en dan doet iedereen toch wat hij zelf wil. Steek die tijd maar in dingen waar het wel zin heeft om over te praten.
Ik zeg ook niet afspraken, ik heb 't over dialoog. Daar kunnen evt. afspraken uit voort komen.
Jij gaat uit van schijn, ik ga er vanuit dat het wel degelijk een verschil maakt en het dus geen verspilde moeite is. Dialoog is altijd goed en zelden nutteloos. Zelfs als het nergens op uitloopt. Je kunt er namelijk ook veel van leren (elkaars input, zien hoe 't niet moet e.d.) of diplomatieke mogelijkheden creëren zoals handel etc.

Dat de mensheid weinig reden geeft om hier vertrouwen uit te halen begrijp ik best, maar dan kun je dus eigenlijk concluderen dat je niks meer met elkaar hoeft te doen en iedereen zelf maar gaat doet waar die zin in heeft. Ook wel anarchie genoemd. Ik geloof er al helemaal niet in dat een platgeslagen samenleving meer voor elkaar krijgt. Bovendien is dat nu eenmaal onderdeel van de mensheid, dat je die gelaagdheid hebt. Altijd al zo geweest. Heb je al in een groep met 5 man. Dat is net zo goed een ideaal wat niet realistisch is.

Hoe je 't ook went of keert. Het klimaat is een globaal probleem, niet van een individu. Je zult het dus wel met elkaar moeten doen wil je er wat aan veranderen. Of dat in de vorm van een wedloop kan is wat mij betreft prima. Hoe dan ook, met elkaar in dialoog gaan om, al is het maar deels, samen te werken is niet nutteloos. Al is het maar bepaalde tech ergens te kunnen plaatsen wat anders niet lukt en je jouw doel niet bereikt. Daar heb je toch diplomatieke samenwerking voor nodig. Zelfs als het om een wedloop gaat bijv. Deze issue gaat nu eenmaal voorbij de grenzen zoals die ooit getekend zijn en constant veranderen.

[Reactie gewijzigd door xs4me op 11 januari 2018 15:06]

Hoe je 't ook went of keert. Het klimaat is een globaal probleem, niet van een individu. Je zult het dus wel met elkaar moeten doen wil je er wat aan veranderen. Of dat in de vorm van een wedloop kan is wat mij betreft prima. Hoe dan ook, met elkaar in dialoog gaan om, al is het maar deels, samen te werken is niet nutteloos. Al is het maar bepaalde tech ergens te kunnen plaatsen wat anders niet lukt en je jouw doel niet bereikt. Daar heb je toch diplomatieke samenwerking voor nodig. Zelfs als het om een wedloop gaat bijv. Deze issue gaat nu eenmaal voorbij de grenzen zoals die ooit getekend zijn en constant veranderen.
Vandaar ook dat ik aangeef dat het klimaat een onderwerp is waarop met elkaar praten echt zin heeft. Zoals aangegeven, elk land dat zich aan de klimaatafspraken houdt is pure winst.

Maar het probleem van AI, of andere potentieel apocalyptische wapensystemen, is dat het geen enkel nut heeft als een paar zich er wel aan houden en de rest er schijt aan heeft. Met clusterwapens is dat anders, bijvoorbeeld, omdat je het daar hebt over een relatief klein wapen waarvan de schade vooral individueel is. AI kan (en in de verkeerde handen: zal) de wereld ontwrichten op een schaal vergelijkbaar met nucleaire wapens (of erger). Dan wil je dus juist niet dat die macht in 1 of 2 landen gecentreerd is.

Dus als je gaat praten, dan is dat vooral om het op zo'n manier te organiseren dat iedereen er vooral volle bak mee doorgaat in de ontwikkeling, zonder dat men van elkaar weet hoe ver men is. Want dan is het afschrikkende effect het grootst. Zoals ik wel eens eerder heb aangegeven, er is maar één reden waarom er nog geen Derde Wereldoorlog is uitgebroken en dat is de dreiging van de atoomwapens.
Ah ok, ja, je trekt het al wat breder. Ik hield me beperkt tot het onderwerp klimaat. En kijken wat daar aan AI voor ingezet kan worden. Daar kun je best wel wat afspraken voor maken die niet direct belanden in de discussie van AI wapensystemen. Al besef ik natuurlijk wel dat die raakvlakken er zijn en deze tech waarschijnlijk wel degelijk gebruikt kunnen worden voor wapensystemen in een andere vorm.

Ik vind het ook al veel te vroeg om zo ver te gaan. Laat ze eerst maar 's gaan praten over wat voor AI ze 't dan hebben in de praktijk tbv klimaat en kijken wat daar mogelijk is. Dat daarnaast een veel grotere discussie gaande is over AI in allerlei vormen die bijzonder complex is heb ik me bewust maar niet over uitgelaten :-)

Ik denk dan aan systemen die afval opruimen of slimmer om kunnen gaan met het weer, wereldwijd opruim molens in de zee plaatsen, ecologische metingen en analyses e.d. Niet direct in Terminators die de wereld gaan vernietigen :-) Op dat vlak ben ik het met je eens.

[Reactie gewijzigd door xs4me op 11 januari 2018 15:14]

Ik denk eerlijk gezegd dat dat stadium al voorbij is. Landen als China en de VS zetten AI niet in voor milieu, dat is echt wishfull thinking. Daar zullen universiteiten en specifieke instanties misschien mee bezig zijn, maar in de praktijk zijn de overheden in een aantal landen, als puntje bij paaltje komt, maar geïnteresseerd in één ding: Hoe kan ik nieuwe techniek inzetten om meer macht en drukmiddel te creëren. En in een aantal van die landen zijn overheid, bedrijfsleven en universiteiten meer één orgaan dan je zou willen.

Daar richten ze zich op het kraken van elkaars beveiligingssystemen, het verbeteren van oorlogsvoering op afstand. Op die vlakken is AI ook al veel verder dan op andere vlakken en dat is niet voor niets.

Maar goed, op die andere terreinen is praten misschien nog wel interessant. Dat ben ik met je eens.
Google moet er nog mee beginnen zo te horen ;-)
Ik ben inderdaad niet zo naïef om te denken dat overheden niet bezig zijn met hoe ze zoveel mogelijk macht kunnen verwerven en welke technieken daarbij kunnen helpen.

Tegelijkertijd, elke munt heeft 2 kanten. Iets dat goed is kan slecht gebruikt worden en vice versa. Dus aangezien het slechte al gebeurt kun je net zo goed ook maar wat goeds doen. Anders wordt het helemaal zo'n duistere wereld. Ik vond het nogal een dooddoener van de TS waar ik op reageerde dat dit soort pogingen nutteloos zijn. Wat is dan nog het nut om überhaupt iets (goeds) te doen?

Maargoed, volgens mij zijn we 't behoorlijk eens geworden :-)
Ja, mooi hè. Volgens mij is dat ook het uiteindelijke doel van discussie. Dat je er beide wijzer van wordt en dichter tot elkaar komt. Lukt niet altijd, geloof ik. ;)
Ik heb sundar pichai nooit gemogen, hij is een blanke mannen hater, Google is jammer genoeg heel erg links aan het woorden.

https://www.youtube.com/watch?v=z1YGS9rvhvg

https://www.youtube.com/watch?v=Qrkbev0nPnQ

https://www.youtube.com/watch?v=ZdkS2HOeFTY

https://www.youtube.com/watch?v=DLt0ch13oWc

[Reactie gewijzigd door AmigaWolf op 11 januari 2018 17:50]

Vraag me af waarom Iran in dat rijtje thuis hoort. Volgens mij houden die zich vrij aardig aan de gestelde regels. Als je dan toch een land uit die regio wil noemen dat zich zelden aan regels houdt, noem dan Israel.

En nee, ik ben geen antisemiet.
Ow, Israël kan ook in dat rijtje. Ik geloof alleen niet zo in Iran dat zich aan de regels houdt. Dat wil de VS je doen geloven (net als met Israël).
Ik geloof alleen niet zo in Iran dat zich aan de regels houdt. Dat wil de VS je doen geloven
Dat zou ik een uiterst discutabel punt vinden voor de VS onder Obama, maar voor de VS onder Donald T. is het compleet andersom. Al zegt Iran 2 + 2 = 4, dan nog kun je wachten op een speech van de idiot in chief dat "everybody knows", "people have told me", ... dat 2 + 2 = 5 en Iran dus evil is en Hillary een slechte deal gesloten heeft, "trust me" :r

Tja, Poetin heeft je sextape, je maakt al je producten in China en je olie komt uit Saudi Arabië. Logisch dat Iran het moet ontgelden, wie ga je anders als zondebok aanwijzen? Want ja, de schuld geven aan degene die daadwerkelijk wat misdaan heeft, dat is echt zo ontzettend ouderwets...
De enige manier om iedereen met de neus dezelfde kant op te krijgen is een extinction level event, welke niet door een of een aantal machten op te lossen zal zijn en echt alle mankracht en resources van overal ter wereld nodig zal hebben. Mensen zijn nou eenmaal te egoïstisch van nature om daar zonder directe noodzaak/incentive vanaf te stappen. Die evolutionaire stap is nog lang niet gezet.

Ook al zou je op een dergelijke manier iedereen dezelfde kant op krijgen, als het gevaar geweken is zal de status quo van 'ik is ik' gewoon weer terugkeren in plaats van de utopie van één volk één taak die je vaak in series en films tegen komt. Nogmaals, evolutionair gezien gaat de drang om zelf te overleven voor op andere te laten overleven. Als overleven een voordeel te behalen voor jezelf te opzichte van alle (toekomstige) anderen betekend, dan zal dat bij de meerderheid automatisch gekozen worden.
En zelfs tijdens zo'n "event" zijn er mensen die egoïstisch blijven en voor zichzelf/eigen gezin kiezen.
Elk traumatisch evenement heeft zijn momenten van verbroedering. En kort daarna gaat iedereen weer zijn eigen weg, een enkeling daargelaten.

Overigens klopt je uitleg van de evolutie niet echt, maar dat terzijde. Die uitleg is echt veel te simpel. Dat zou namelijk niet verklaren waarom het merendeel van de ouders zich op zou offeren voor hun kinderen wanneer zij die keuze moeten maken. Kennelijk is er dan iets waardoor het 'ik' opzij geschoven kan worden.
Allicht een beetje simpel verwoord, maar ik is ik omvat ook de directe omgeving. Het sleutelwoord is hier 'anderen' met wellicht de toevoeging onbekenden.
De enige manier om iedereen met de neus dezelfde kant op te krijgen is een extinction level event
Zoiets als de Koude Oorlog (lees: potentiële kernoorlog)?
als het gevaar geweken is zal de status quo van 'ik is ik' gewoon weer terugkeren
Zoiets als de wereld van vandaag de dag?

Ergens lacht een alien zich helemaal de pleuris dat wij onszelf een "intelligente" soort durven te noemen... :(
China neemt op een aantal vlakken nu meer maatregelen dan de VS. Noord-Korea is bijna geen informatie over.

Verder maken we als westen de fout om telkens maar aan te nemen dat we van iedereen volledige medewerking mogen verwachten. Wij zelf zijn rijk genoeg om inbouw van roetfilters op dieselmotoren af te dwingen (hoewel je nog steeds vrachtwagens met Euro 3-motor op kenteken mag zetten in NL blijkbaar)... maar in andere landen is een roetfilter iets dat geld kost en de prijs van een voertuig een stuk hoger maakt, terwijl ze maar net rondkomen.

Dit zijn landen waar wij als westen flink van hebben geprofiteerd in het verleden (in ons koloniale verleden onze rijkdom waar wij nu nog van profiteren over hun rug opgebouwd), en waar we van profiteren in het heden (Chinese mobieltjesproducenten zoals Oppo en Huawei doen erg goede zaken in arme Aziatische landen met hun massageproduceerde cheape toestellen).

Ik durf dus te stellen dat het eigenlijk als je naar deze zaken kijkt en let op jj71's reactie, het erg goed gaat met samenwerking wereldwijd. Naar omstandigheden dus.

Overigens is AI alsnog iets dat keihard mis kan gaan vrees ik, zelfs als je het goed doet.
Een 'grotmacht' die iets aanpakt kan zeker wereldwijd van voor elkaar krijgen. De EU verbant lood uit elektronica, China volgt onmiddelijk (want wil blijven leveren) en uiteindelijk gingen ook de VS om.
Bij CFC's (ozon) is het ook zo dat de industrie wat anders gaat doen als geheel - en kleine spelers wel mee moeten gaan.
Ik vind dat eerder realistisch. Landen gaan verdragen aan om opportunistische redenen. Ze denken dat het meer voordelen heeft dan nadelen om iets op te geven. Het probleem is dat er altijd iemand is voor wie dat niet zo is, of die alleen maar denkt dat het niet zo is. Terecht of onterecht doet er dan niet toe.

De Noord-Koreaanse kernwapens is zo een voorbeeld. Die vinden de dreiging van een Zuid-Koreaanse/VS invasie groter dan de risico's van het zelf hebben van kernwapens, en het daardoor mogelijk belanden in een vernietigende oorlog. Ze zien de afschrikkende werking van het hebben van kernwapens en intercontinentale aflevermechanismen als het grotere voordeel / kleinere risico.

Er is geen enkele reden om aan te nemen dat het voor het toepassen van AI anders zou werken, vooral niet als een partij in het nauw komt.
Je hebt gelijk, maar hij gebruikt als voorbeeld " klimaatverdrag van Parijs" is ongeveer het slechtste voorbeeld wat je kunt geven ...
Veel landen dus niet allemaal precies wat @MicGlou zegt.
100% is het natuurlijk ook helemaal niet mogelijk. Je kan het nooit voor iedereen goed doen, maar we kunnen wel met de landen waar we banden mee hebben proberen om afspraken te maken waar al deze landen zich in kunnen vinden.
Misschien voor dit moment het slechte voorbeeld, maar voor nucleaire wapens zijn ook afspraken gemaakt met een groot aantal landen. (op dit moment is daar natuurlijk het een en ander aan het veranderen , maar dat is weer een ander verhaal).
Zonder deze afspraken zag het er nu toch allemaal anders uit. :o
Misschien voor dit moment het slechte voorbeeld, maar voor nucleaire wapens zijn ook afspraken gemaakt met een groot aantal landen. (op dit moment is daar natuurlijk het een en ander aan het veranderen , maar dat is weer een ander verhaal).
Zonder deze afspraken zag het er nu toch allemaal anders uit. :o
Dat is helemaal geen ander verhaal, in tegendeel zelfs... het is juist een sprekend voorbeeld van dat afspraken maken niet werkt omdat landen zich als het 'ze niet meer uitkomt' niet meer aan die afspraken houden. Even los van het feit dat de afspraken rondom nucleaire wapens sowieso al ontzettend krom zijn, maar als we in die details gaan treden zijn we nog wel even bezig... ;)
En die landen die zich er niet aan handen krijgen allemaal internationale sancties aan hun laars. Juist DOOR deze internationale afspraken.
Alleen de kleintjes hè, alleen de kleintjes. Wie sanctioneert de VS voor het niet nakomen van hun afspraken op dit vlak?
Dat klopt, maar als mensen in de top veranderen heb je dat al snel.
Het nieuwe kabinet kan dingen van tafel vegen die het eerder kabinet heeft gemaakt.

Maar als je zegt dat het geen zin heeft, dan kunnen beter nergens afspraken over maken en iedereen en elk land maar laten doen wat ze willen. Dat zou pas krom zijn.
Dat klinkt nogal negatief en kortzichtig.

Er blijven altijd criminelen rondlopen die zich niet aan de voor iedereen geldende afspraken (wetten) houden. Moeten we dan maar ophouden om die te maken?
Misschien als er een vernietigende komeet op de aarde afkomt dat er eenheid komt.
Hoewel dat vanuit religie misschien wel weer tegengehouden wordt.
Behalve dan de wereldwijde afspraken over tijdzones, afspraken over gewicht (met name de grammen), temperatuur (kelvin, celsius), en afstand (meters), en zo nog wel een paar dingen :+
Mooie cynisme om zijn punt te maken.
Als dat je instelling is kan je beter maar overal mee stoppen. Zelfs op het allerlaagste (bestuurs-)niveau speelt dit. In de gemeente zou je al het liefste zien dat oplossingen voor bepaalde problemen door iedereen worden gedragen. Dat lukt ook niet, maar dan kan je nog altijd beter een krappe meerdeheid hebben, dan helemaal niks doen.
Kleuren van een stoplicht? In ieder geval rood=stoppen en groen=rijden, tenzij er landen zijn waar andere kleuren gebruikt worden?
En de internationale verdragen met betrekking tot de rechten van de mens en kinderen dan? Denk ook is aan de afspraken omtrent bewapening van de ruimte en de Haagse en Geneefse oorlogsconventies.

Allemaal afspraken die lessen van eerdere decennia vast legden voor grote delen van de wereld. Daarnaast vind je in deze verdragen ook indrukwekkende stukken vooruit kijken en lessen waarop geanticipeerd wordt. Dat ze niet altijd netjes worden gevolgd betekent niet dat we als mensheid niet gezamenlijk tot afspraken kunnen komen.

On-topic:
Dat bedrijven als Google 'nu al' begint met het optuigen van een frame voor internationale afspraken is met het oog op eerdere internationale afspraken een erg voorspoedig teken.
Vermindering uitstoot CFK's.Check.
Ik vind het allemaal zeer uitstekende ideeen, maar niet onder leiding van een van de allergrootste financieel belanghebbenden bij de techniek. Iets met belangenverstrengeling. Ik heb een voorstel: als Google zich nu gewoon lekker blijft richten op het profileren van elk levend wezen op aarde en het voorschotelen van gepersonaliseerde advertenties aan eerdergenoemde wezens - dan maken wij ons zelf middels de politiek of andere maatschappelijke bewegingen wel zorgen over ethische aspecten, en dan trekken wij wel aan de bel met wetgeving om jullie voortdenderende techniek een halt toe te roepen. De roep om internationale afspraken mbt A.I. bestaat namelijk al een paar decennia.

Ethische afwegingen staan op gespannen voet met zakelijke belangen. Het is goed dat het bedrijf haar zorgen kenbaar maakt, maar haar rol moet daar ook zeer zeker bij blijven.

Ik zou zeggen: bedankt voor uw suggestie. We zijn op de hoogte van het probleem en de ernst van de zaak is bekend. We houden uw bedrijf nauwlettend in de gaten, want u zult de eerste waarschijnlijk zijn waarvoor de regels nodig worden.

[Reactie gewijzigd door Znorkus op 11 januari 2018 11:25]

Google is de grootste research-tank op vlak van AI.

Als Google dit initiatief niet neemt, doet niemand het.
Er bestonden al universitaire opleidingen over AI voordat Google bestond hoor. Ze zijn niet de eerste, niet de enige, en niet de grootste, al vinden ze het natuurlijk machtig leuk als ze hun consumenten dat kunnen laten denken. Het laat maar weer eens zien hoe beeldvorming werkt.

Waar je naar luistert in dit nieuwsartikel is marketing.
Ik ben momenteel op post-doc niveau met AI bezig en een groot deel cutting-edge papers die ik onder handen krijg zijn op een of andere manier wel met hen in verband te brengen.

Dat ze niet de eerste en de enige zijn is zeker waar.
Maar ontkennen dat ze momenteel zo goed als marktleider zijn in AI, AI-research en data analytics is waanzin.


Trouwens, nogmaals, als Google het niet doet, wie wel?
Welke en hoeveel overheden staan op dit moment ver genoeg om iets betekenisvol te kunnen zeggen omtrent AI? En wiens belangen dienen die overheden dan?


Je skepticisme tegenover bedrijven is trouwens niets betekenend als je het niet koppelt aan dezelfde kritische blik tegenover overheden en onderzoeksinstituten. Ze zijn namelijk allen op hetzelfde uit en dat is machtsuitbouw. Op dat vlak vertrouw ik bedrijven nog steeds meer dan (een collectief aan) overheden zelfs.

[Reactie gewijzigd door BieBiepGTR op 11 januari 2018 13:36]

Die laatste vind ik wel interessant. Welk mechanisme maakt volgens jou dat overheden eerder geneigd zijn om AI te misbruiken dan bedrijven? Of zit het hem meer in de gevolgen van een dergelijk misbruik?

Ik ben namelijk geneigd om het tegenovergestelde uitgangspunt te hebben, al vind ik beide kanten per definitie onbetrouwbaar wanneer de machtsbalans doorslaat. Bij overheden is nog altijd een (beperkte) vorm van openheid over de wijze van besturen en heb je in ieder geval een vorm van schijninspraak. Bij bedrijven is dat veel minder, die opereren nog meer achter gesloten deuren en zijn niet beïnvloedbaar door verkiezingen.
Op dat vlak vertrouw ik bedrijven nog steeds meer dan (een collectief aan) overheden zelfs.
Ik denk dat je je dan een beetje verkijkt. Bedrijven hebben uiteindelijk enkel zelfbelang als leiddraad.
Ik denk dus dat bedrijven uiteindelijk meer motivatie hebben om jou om de tuin te leiden, om jou uit te buiten, dan overheden.
Daarbij moet je mischien ook onderscheid maken in soorten bedrijven.
Ik vind een bakker om de hoek iets heel anders dan een multinational dat meer geld heeft dan menig land.
En vooral die laatste entiteiten kunnen zich buiten de regels die wij opgesteld hebben bewegen. En nog steeds zonder enig moreel besef.

Bedenk ook eens goed wat er zou gebeuren als we geen overheid hadden die dingen als wetten zouden kunnen invoeren. Hoe hadden bedrijven zich dan gedragen? Denk je dat er dan bijvoorbeeld (relatief) veilig voedsel in de schappen zou liggen? Denk je dat banken dan nog enigzins moreel accepteerbare deals zouden sluiten met burgers? Ik denk het niet.
Hoe je het wendt of keert (met alle voor- en nadelen), we hebben overheden nodig. Onder andere om bedrijven tot orde te roepen. Maar in bredere zin simpelweg om onze maatschapij op de rails te houden.
Niemand zei dat we overheden niet nodig hebben.
Ik zei enkel dat ik relatief meer bedrijven vertrouw dan overheden.
Mee eens

Lang niet iedereen snapt de potentiële impact van AI. Kijk bijvoorbeeld naar eerdere reacties van Facebook over dit onderwerp.

Wanneer AI zelfstandig beslissingen gaat maken die direct of indirect over leven en dood gaan (of anderszins zeer ingrijpend zijn), dan is regulering zeker op zijn plaats. Net zoals dat er afspraken zijn over oorlogsvoering, kernwapens, mensenrechten, klimaatverdragen, etc.
Zeer zeker!

Stel je voor dat er een zelfrijdende humvee bestaat van het amerikaanse een leger met deze AI in de geschutskoepel.
Dit is geen science-fiction meer. Dit zijn dingen die volgend jaar kunnen uitrollen.
Hier moeten afspraken rond gemaakt worden. Net zoals men afgesproken heeft om de ruimte een DMZ te houden.

Of het dan Google, een overheid of een universiteit is die hier het voortouw in neemt, dat maakt helemaal niets uit. Dit is sowieso nodig.

[Reactie gewijzigd door BieBiepGTR op 11 januari 2018 13:59]

Ik heb een voorstel: als Google zich nu gewoon lekker blijft richten op het profileren van elk levend wezen op aarde en het voorschotelen van gepersonaliseerde advertenties aan eerdergenoemde wezens - dan maken wij ons zelf middels de politiek of andere maatschappelijke bewegingen wel zorgen over ethische aspecten, en dan trekken wij wel aan de bel met wetgeving om jullie voortdenderende techniek een halt toe te roepen. De roep om internationale afspraken mbt A.I. bestaat namelijk al een paar decennia.
En dan loop je er tegenaan dat de politiek in deze niets doet. De technieken gaan veel te snel voor politiek. Tegen de tijd dat ze zich hebben ingelezen én enigzins begrijpen waarover het gaat, zit hun termijn er alweer op. Dan ben ik blij dat de grote techbedrijven en de Musks van deze wereld zich er wél mee bezig houden.

[Reactie gewijzigd door Dennisdn op 11 januari 2018 10:49]

Geloof de praatjes maar niet al te snel. Vergeet niet dat er maar 1 reden is waarom Google bestaat en dat is geld verdienen. Als Google geld kan verdienen door meer AI in de markt te zetten dan doen ze dat. Google is een beursgenoteerd bedrijf en aandeelhouders zullen altijd, altijd, altijd, altijd, altijd, altijd aansturen op winst, en als er een te softe CEO zit met wat teveel linkse gutmenschideeen over ethische grenzen die opgerekt worden, dan vliegt die eruit.

Ik vind het een leuke gedachte hoor, 'do no evil'-mensen bij google, maar als ik kijk naar hoe nietsontziend aggressief ze zich gedragen met tracking en commercialisering van hun zoekresultaten, dan moet je je hele, hele, hele grote zorgen gaan maken als zo'n gigant A.I. technieken aan het ontwikkelen is waarvan de consequenties nog niet te overzien zijn.

Dus goed dat deze meneer het nu roept, maar als het straks kiezen is tussen voorzichtig zijn en geld verdienen, dan hoef je je niet af te vragen naar welke kant het beleid uitgaat.

Deze man kan best vol goede bedoelingen zijn, maar dat is iets anders dan de keuzes die het hoger management gaat maken, straks als de bio-engineered gevechtsdrones ingezet gaan worden in oorlogsgebieden. Als Google daarvoor een winstgevende deal kan sluiten met defensie en het kan legaal - dan mag je nog in 2018 zo hard geroepen hebben dat je je zorgen maakt, maar dan is er geen land mee te bezeilen. AI-techbedrijven zijn NIET de bedrijven die moeten gaan bepalen hoe de internationale regelgeving eruit moet komen te zien, het is een contradictio in terminis.

[Reactie gewijzigd door Znorkus op 11 januari 2018 11:23]

En een overheid is hier wel capabel voor?
Politici hebben 1 doel en dat is de volgende verkiezingen herverkozen worden.
Niets stabiliteit, niets ondernemersklimaat, niets voor vooruitgang, niets voor sustainability.

Enkel wat leeft bij de meerderheid van de bevolking uitvergroten en de volgende verkiezingen winnen.
Dat is het doel.
Om dan bij de volgende verkiezingen nog meer van een groter geworden koek te kunnen inpalmen.


Politieke partijen zijn ook bedrijven en zij doen ook aan winstmaximalisatie. Laat dat maar even inzinken voor je jezelf faliekant als tegenstander van corporations opstelt.


(ja, ik stel deels een karikatuur op van de realiteit, maar zeggen dat alle bedrijven enkel voor winst gaan is dat evenzeer)

[Reactie gewijzigd door BieBiepGTR op 11 januari 2018 13:43]

Waarom zou Google zich geen zorgen mogen maken over ethiek ?
Het zijn juist bedrijven en organisaties die los staan van ethiek en moraal die onze wereld verneuken.
Nee het tegendeel is juist veel beter, net zoals er nu banken zijn die zich profileren door ethisch te bankieren.
Bedrijven die zich hierom zorgen maken , en op een ethisch verantwoorde manier geld willen verdienen moeten er net veel meer zijn.
dat is bvb het verschil tussen Google & Facebook, Facebook trekt zich nergens van aan en stopt maar met praktijken eens ze zwaar beboet worden en alle mogelijk vertragingsmechanismen en afweer geschut opgebruikt zijn.
Er zijn gelukkig meer mensen bij Google die nog met "do no evil" in hun gedachten zitten en daarmee bezig zijn, ook al wordt het steeds vaker verdrongen door mensen die vinden dat dit enkel iets voor de politiek is.
dat is bvb het verschil tussen Google & Facebook, Facebook trekt zich nergens van aan en stopt maar met praktijken eens ze zwaar beboet worden en alle mogelijk vertragingsmechanismen en afweer geschut opgebruikt zijn.
Nou dan heb je het nieuws niet echt gevolgd de laatste jaren geloof ik.
Precies. Google heeft zelf al het 'do no evil'-mantra uit hun dna geschrapt vanwege het feit dat het niet te verenigen valt met steeds meer geld moeten verdienen voor de aandeelhouders.
Daarom zou het zeker goed zijn dat overheden het op zich nemen om dit in de gaten te houden, maar ik ben bang dat overheden veel te traag zijn.
Ethische afwegingen staan op gespannen voet met zakelijke belangen": Het is veel erger:
In plaats van CO2 uitstoot te voorkomen, gaan rechtse partijen voor "oplossingen" als in de grond pompen etc, waarom: omdat dat multinationals als Shell er dubbel aan kunnen verdienen, terwijl voorkomende maatregelen in verhouding vele malen goedkoper, en zeker duurzamer.
Ik pleit er voor dat we binnen 10 - 50 jaar bijna alles open-source moeten gooien.. Dit omdat software toch geschreven zal worden door/met AI en al zou je de AI kunnen hacken, kans is groot dat je dat 1x lukt en daarna weet ie het en lukt het je nooit weer..

Er is vanuit Apple en hele discussie gestart over 'wel of geen keys' maar ik denk dat dat extreem simpel manier van denken is als je kijkt naar het grote plaatje.. Iets kan wel 'versleuteld' zijn, maar AI en software worden zo slim, dat al zou je er geen sleutel zijn, via weg-camera's, winkel metingen en je foto's die je dom genoeg online zet, weet AI binnen 2 seconden wie je bent en wat je graag doet (en dus die hele key is totaal nutteloos).. Daarnaast kan AI gewoon naar een chip layout kijken en zoeken naar security leaks of design flaws, iets wat wij mensen nooit zouden kunnen.

Dus ja ben het helemaal met google eens.. Er moeten publieke afspraken komen en wat mij betreft, en zodra AI de overhand heeft moet alles wat maar invloed heeft op ons leven en niet geschreven / bewerkt is door een echt 'persoon' open-source gemaakt worden zodat we in iedergeval kunnen kijken wat er zoal gebeurd.. Dit geeft mij persoonlijk een veel veiliger gevoel dan een 'sleuteltje over mijn whatsapp' berichten die haast totaal nutteloos is als je kijkt naar hoe sterk AI word in komende decennia..

But thats my 2 cents
Zolang er financiele belangen zijn, is er geheimhouding.
Ja true zo werkt het nu wel inderdaad... Hoop gewoon dat AI genoeg reden is om die 'economische circel' eens te doorbreken ter behoeve van alle luxe die we krijgen door AI en met zicht op veiligheid dat geen 1 land / bedrijf hun 'super einstein' in kunnen zetten voor iets slechts, want immers de code is open-source

(wel vergezocht I know, maar toch)
technologie, in welke vorm dan ook, kun je altijd voor goed of slecht inzetten. Technologie heeft geen ethische visie, het 'doet' gewoon 'iets'. Waarvoor jij of wie dan ook het wil inzetten heeft technologie geen mening over :) Buiten het punt dat goed of slecht een uiterst subjectief iets is.
Zelfs als de code open source is zonder enige backdoor van die AI en iedereen erbij kan, je gaat nog steeds gigantische hoeveelheden rekenkracht nodig hebben. Dus alsnog zullen alleen de grootste landen/bedrijven zo'n AI kunnen draaien.
Waarom over 10-50 jaar? TensorFlow is gewoon Open Source, nu al.

Niet dat AI ook maar iets uitmaakt voor security van algoritmes als AES. Uiteindelijk is dat ook maar een tak van wiskunde, en we hebben nog 0 voortgang geboekt in de toepassing van AI op enig wiskundig vakgebied.

Het concrete risico van AI is dat 90% van de mensen niet heel erg intelligent werk verrichten. AI's zijn goed in patroonherkenning en robot-aansturing, en daarmee heb je een groot aantal beroepen al beschreven.
Oogst de voordelen, minimaliseer de nadelen
Wel weer grappig dat een Google dit zou moeten zeggen.

Maar nadelen dan voor wie? Voor de bedrijven die AI maken, of voor de burger/consument? De belangen van bedrijven staan lang niet altijd in lijn met die van burgers/gebruikers. En als we dan wereldwijd gaan, als we terugkijken naar de afgelopen eeuw kan je redelijk stelling dat wereldwijde afspraken niet bepaald een succes zijn geweest, of lang niet altijd door iedereen werd opgevolgd.
Afspraken moeten daarnaast te controleren zijn.

In het artikel staat leuk: "Dergelijke wereldwijde afspraken bestaan bijvoorbeeld voor het tegengaan van klimaatverandering"

Waar Trump dus al een einde aan wil maken. Uitstoot is nog redelijk te controleren. AI lijkt me totaal niet te controleren.

Daarnaast heb je belangen van bedrijven maar eerder die van overheden die het nut van aI wel inzien voor eigen gebruik. Afspraken maken lijkt me totaal onmogelijk. Wat als sommigen zich er niet aan willen houden.
Heel belangrijk is het vraagstuk van aansprakelijkheid. Voor huisdieren (ook een soort intelligentie) is doorgaans het baasje (en die term gebruik ik in een genderneutrale betekenis) aansprakelijk voor wat het beestje aanricht.

Een AI is echter gefabriceerd. Als die iets doet wat niet goed is, dus bijvoorbeeld als het koffiezetapparaat de koelkast om zeep helpt, wie draait dan op voor de schade? Als ik een AI beursbelegger in de arm neemt, en die verkwanselt mijn pensioen, is dan de leverancier daarvoor aan te klagen?

Als mijn hond de postbode in zijn ballen bijt, dan ben ik daarvoor aansprakelijk. Als mijn Google Assistant (met AI) de postbode in zijn ballen schopt, ben ik dan aansprakelijk omdat ik mijn assistant niet goed opgevoed heb, of Google omdat ze een gevaarlijk apparaat hebben gemaakt?

[Reactie gewijzigd door cdwave op 11 januari 2018 13:21]

Ik kan niet wachten tot jij AI dan omschrijft voor ons sugarlee89 want blijkbaar is een voorbeeld als AI om de beurskoers te voorspellen volgens jou hetzelfde als een cruise control uit je 40 jaar oude auto.
Er zijn niet veel onderzoekers die dat met je eens zijn. Of beter, ik denk dat niemand het met je eens is.

En ja, een koelkast kan best gebruik maken van AI om energiezuiniger te worden. Bijvoorbeeld door te voorspellen wanneer zijn gebruikers gaan koken en de deur vaak open zal zijn. Je kan daarop anticiperen door een koudebuffer aan te leggen door de temperatuur iets te verlagen.

Ik denk dat jij tijdens het kotsen, niet erg goed begrijpt wat AI allemaal is. Het is inderdaad een zeer wijd begrip. met opzet. Net als bijvoorbeeld 'IT'.
...
En ja, een koelkast kan best gebruik maken van AI om energiezuiniger te worden. Bijvoorbeeld door te voorspellen wanneer zijn gebruikers gaan koken en de deur vaak open zal zijn. Je kan daarop anticiperen door een koudebuffer aan te leggen door de temperatuur iets te verlagen...
Da's waarschijnlijk al geen AI maar gewoon een voorgeprogrammeerd algoritme. Mijn thermostaat uit de vorige eeuw heeft ook geleerd hoe lang de vloerverwarming erover doet om de kamer op 20 graden te krijgen, en zorgt dat die al om 4 uur ofzo begint met stoken als ik om 5 uur thuis kom. Komt absoluut geen intelligentie bij kijken, is puur algoritme. De vloerverwarming ligt er pas twee jaar in, en de eerste dagen was het vaak te koud of te warm bij binnenkomst. Het ding "leert" wel, maar is niet intelligent.

En als mijn thermostaat de hond om zeep brengt, dan sta ik heel snel bij Nefit op de stoep. Geen twijfel over mogelijk wie er aansprakelijk is.

(En in muggenzift mode, die koudebuffer is goed voor de levensmiddelen, maar verhoogt wel het energiegebruik.)

[Reactie gewijzigd door cdwave op 11 januari 2018 13:26]

Voor mij geld dit ook voor AI:
https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.
Stel je hebt een algoritme dat speculeren op de beurs beter doet dan welk mens dat ook. Het neemt mensen dus geld af. Is dat 'to injure'?

Stel je hebt een robot die een betere boer is dan welke mens ook. Boeren zullen hun banen kwijt raken. Is dat 'to injure'?

Stel je bent een artificiële piloot van een auto en je hebt een bumperklever terwijl er precies iemand de straat over steekt. Er zijn geen waarschijnlijke oplossingen die beide mensen (bestuurder auto achter je en de voetganger) geen schade berokkenen, wat moet je doen?

Het derde geval lijkt me evident, tenminste ik vermoed dat vrijwel alle menselijke bestuurders hetzelfde zouden doen en dat is dan ook ethisch gezien de juiste oplossing. Je moet het risico nemen de bumperklever schade te berokkenen.

Anyway, veel te simplistisch die Three Laws...
Die conclusie trok Asimov ook in zijn boeken, en er kwam ook nog een "nulde" wet bij. Goed leesvoer, aanrader.
Ik zou deze serie boeken ook aanraden, dat geeft je een goed beeld van de wetten waaraan wijzelf moeten voldoen.

Het lijkt me evident dat we robots gewoon in dezelfde context willen plaatsen: ze hebben grofweg dezelfde plichten als wij, maar niet dezelfde rechten. Ik ben bang dat je dit zo 10.000+ pagina's aan text op gaat leveren in plaats van drie/vier lange zinnen.
Moeten nu echt in elk topic over AI of robots deze fictieve hersenspinsels van een SF-auteur naar boven worden gehaald, nota bene uit het (voor AI begrippen) stenen tijdperk? Het wordt een beetje vervelend.

Deze 'wetten' bestaan niet, zijn in 1942 opgeschreven en als je ze gaat ontleden in deze tijd slaan ze ook gewoon nergens meer op. Al was het alleen maar omdat de term 'come to harm' op verschillende wijze kan worden geïnterpreteerd, zeker door een AI die onze verstandelijke vermogens overstijgt. Zelfs in een domme serie als MARVEL's Agents of S.H.I.E.L.D. is dat al duidelijk uitgebeeld.
Je hebt duidelijk weinig van Asimov gelezen - in de meeste boeken is juist het thema dat zulke wetten niet triviaal toepasbaar zijn. Dat is waarom je met meerdere boeken eindigt en niet 1 A4tje.
Des te meer reden om te stoppen met ze steeds aan te halen.
Er is altijd wel iemand die de voorgaande 100 keer niet gezien heeft en denkt origineel te zijn helaas... Maar eens, het is al bijna net zo vervelend als de skynet comment.

Alleen gezien bovenstaande zijn we nog lang niet van deze comments af ben ik bang.

[Reactie gewijzigd door ro8in op 11 januari 2018 13:51]

Wordt een beetje lastig allemaal met die wetten want je hebt een mens nodig om ze helemaal goed te begrijpen en uit te voeren.
Het probleem is dat het uitgedrukt wordt in onze hoogcomplexe en vrij abstracte taal.

Hoe weet een computer wat 'harm' betekent? Daar is zoveel context (en inlevingsvermogen) voor nodig dat elke robot een haast menselijk nivo van intelligentie zou moeten hebben om alleen al de strekking van die regels tebegrijpen.
En als dat al zo is, is het dan nog wel ethisch om die robots als slaven te houden? Ze zitten dan op menselijk nivo van begrijpen.

Het is dus niet voor niks dat deze wetten uit de science fiction komen. In het echt zijn ze niet implementeerbaar.

[Reactie gewijzigd door koelpasta op 11 januari 2018 15:55]

Om nog maar te zwijgen van wat een AI vindt van dat soort terminologie op het moment dat hij het menselijke verstand overstijgt. Misschien interpreteert hij de situatie op aarde, en de mens zelf, wel als dusdanig gevaarlijk dat de mensheid alleen beschermd kan worden als ze in een diep gelegen bunker in slaap worden gebracht. Dan is er geen sprake van 'come to harm', maar de situatie is toch verre van wenselijk.

Het zijn domme wetten. Leuk voor in de context van een verhaaltje, maar verder totaal nutteloos om te posten.
Leuk voor in de context van een verhaaltje, maar verder totaal nutteloos om te posten.
Precies. Het is leuk om over deze wetten na te denken en te speculeren over de gevolgen enzo. Maar echt praktisch zijn ze niet.
"Dergelijke wereldwijde afspraken bestaan bijvoorbeeld voor het tegengaan van klimaatverandering".

Waar meneer Trump zich dus totaal niet aan houdt!
Maar meneer Trump is dan ook een pathologische narcist. Die beschouwen afspraken en regels als zaken die gelden voor anderen.
Ik roep dit al jaren, en zie dit vraagstuk steeds groter worden.
Somige media besteden gelukkig wel aandacht hier aan in Nederland (VPRO, VARA)
Maar Google nu ook ? Kunnen we dit vraagstuk niet bij beter bij Skynet neer leggen.. :+
We zijn al lang over genomen door A.I. ,kijk eens naar al die zombies in de westerse samenleving kijkend en levend op/van hun smartphone.
Het probleem is de mensheid zelf, eerst iets uitvinden en daarna over de gevolgen praten/nadenken.
/

[Reactie gewijzigd door davidschep op 11 januari 2018 10:49]

Wat een kul weer! Ik begrijp wel dat mensen heeeeel graag willen denken dat de mens al in staat is om een soort van AI te ontwikkelen, en dat we ons daar op moeten voorbereiden, maar werkelijkheid is mijlen mijlen ver.

Bedrijven als Google verwarren constant het ouwerwets programmeren met AI. Jammer genoeg trappen de meeste tweakers daar ook in, met ogen open!

Zo’n nitwit bij Google weet waarschijnlijk niet eens wat een programmeur doet, en hoe bepaalde beslissingen worden gemaakt door algoritmes en beslissingstabellen. Ik kan hem vast een rekenmachine voorhouden en wijsmaken dat het een groot AI bewustzijn is en dat ie de wereld gaat overnemen....hahaha!
AI zoals we dat nu zien is inderdaad grotendeel programmeerwerk in de betere ifttt categorie. Maar goed, grote gedeeltes van jouw handelen worden daardoor (al dan niet instinctief) ook door bepaald.

Het is niet dat mensen een soort allesoverheersende ziel hebben, ofzo.

Op dit item kan niet meer gereageerd worden.


Call of Duty: Black Ops 4 HTC U12+ dual sim LG W7 Google Pixel 3 XL OnePlus 6 Battlefield V Samsung Galaxy S9 Dual Sim Google Pixel 3

Tweakers vormt samen met Tweakers Elect, Hardware.Info, Autotrack, Nationale Vacaturebank en Intermediair de Persgroep Online Services B.V.
Alle rechten voorbehouden © 1998 - 2018 Hosting door True