AI en ethiek: hoe zorgen we ervoor dat technologie de mens ondersteunt

Nathan Bijnens en Wesley Backelant worden in de IT-wereld 'evangelisten' genoemd, en als het over AI gaat, is dat zeker van toepassing. Gegevens verzamelen lijkt tegenwoordig simpel. Tegelijk zorgt dat ook voor ethische vraagstukken. Denk aan chatbot Tay die door input op Twitter zichzelf leerde om te discrimineren. Hoe gaat Microsoft om met die ethische dilemma’s? Dat lichten Nathan en Wesley toe tijdens hun presentatie op de Big Data Expo in Mechelen. Wie erbij wil zijn, heeft nu nog kans om een gratis entreebewijs te scoren.

Volgens Nathan en Wesley zal AI de toekomst veranderen en zelfs wereldproblemen kunnen verhelpen. De researchafdeling van Microsoft groeide dan ook in korte tijd van vijfduizend naar achtduizend medewerkers. “We geloven in een wereld waar AI in alle aspecten van de samenleving aanwezig is, maar ook dat menselijke intelligentie en vaardigheden, zoals empathie, het hoogste goed zijn", zegt het Vlaamse duo.

De uitdaging: bias onschadelijk maken

Met chatbot Tay ontdekten Microsoft-onderzoekers wat de invloed van het begrip ‘bias’ kan zijn op AI. “Binnen 24 uur was deze zelflerende chatbot van Microsoft door zijn chatpartners veranderd in een ongepaste en discriminerende chatbot. Het experiment was voor ons erg leerzaam. AI blijft afhankelijk van data waarmee de algoritmes aan de slag gaan”, stelt Nathan in een interview ter voorbereiding op hun presentatie bij de Big Data Expo.

Vandaar dat zij in hun presentatie beginnen met het ethische aspect van AI. Nathan heeft als Microsoft-spreker en AI-adviseur de mogelijke gevolgen van gekleurde datasets voor maatschappelijke kwesties bestudeerd. “Door steeds grotere datasets en deep learning zal AI een grotere invloed krijgen op maatschappelijke ontwikkelingen. Algoritmes die AI mogelijk maken, bestaan al veel langer. In de laatste jaren vergrootte de computercapaciteit en werden sensoren gevoeligere waardoor nu omvangrijke datasets gebouwd worden die nodig zijn voor zelflerende algoritmes. We hebben daarbij gemerkt dat discriminatie en kleuring grote invloed hebben op de output.”

Technologie toegankelijk maken

Nathan benadrukt de positieve evoluties en maatschappelijke kansen van AI: “Met de app Seeing AI kunnen blinden en slechtzienden de wereld om zich heen laten beschrijven door hun smartphone. Daardoor kunnen ze veel beter aan het maatschappelijk leven deelnemen. Dankzij gezichtsherkenning kan hun smartphone bijvoorbeeld vertellen wie ze onderweg tegenkomen. Ze kunnen de app gebruiken om een menu te laten voorlezen en objecten laten beschrijven. Dat is voor hen echt een uitkomst.”

Wesley benadrukt dat Microsoft dergelijke apps, zoals Seeing AI, zelf ontwikkelt, maar daarnaast ook een faciliterende rol wil spelen voor anderen. Het bedrijf probeert open standaarden, onder meer via non-profitorganisatie Open AI, te ontwikkelen door samen te werken met internationale en lokale IT-partners. “Het is Microsofts missie om AI verder te democratiseren en complexe AI-modellen te integreren in onze belangrijkste applicaties en besturingssystemen, van Office tot Windows en Azure.”

AI en de rol in de samenleving

Wesley Backelant, die al meer dan twintig jaar klanten helpt om te innoveren met technologie, zegt: “Privacy en beveiliging zit in ons DNA en zijn prioritair in elk project. We geloven dat AI zal helpen om grote maatschappelijke problemen op te lossen. We moeten kritisch naar die toekomst kijken, want er zullen zowel uitdagingen als kansen zijn. We zien de maatschappelijke relevantie van onze platformen, zoals Windows, Office en Azure, dat betekent echter ook dat we zeer voorzichtig willen omgaan met de privacy van onze eindgebruikers.

Hoe zorgen we ervoor dat AI op een verantwoordelijke manier ontwikkeld wordt? Welke ethische basisprincipes gebruiken we om mensen te beschermen? "Om deze moeilijke vragen te beantwoorden, moeten we zeer nauw samenwerken met overheden, universiteiten, bedrijven, maatschappelijke organisaties en andere stakeholders", besluit Wesley.

Met AI een steentje bijdragen aan het milieu

Een voorbeeld van AI waar Microsoft Research momenteel aan bouwt, is Fuel Efficiency. Door sensoren in motoren te stoppen en de opgebouwde datasets te analyseren, is het mogelijk om te besparen op brandstof. Als dat op wereldwijde schaal gebeurt, kan dat een grote invloed hebben op de CO2-uitstoot.

Ook in de landbouw kunnen we dankzij technologie grote stappen zetten. "Volgens onderzoek moeten we tegen 2050 de voedselproductie significant verhogen om het hoofd te bieden aan de groeiende bevolking. Het project Farmbeats bijvoorbeeld verhoogt de efficiëntie van landbouw significant met wat "precisie agricultuur" wordt genoemd. Met sensoren en slimme algoritmes krijgen gewassen pas water, mest en pesticides als het echt nodig is. Als landbouwers irrigatie kunnen beperken en pesticides zoveel mogelijk kunnen vermijden, besparen ze geld, verhogen ze de oogst en verlagen ze de impact op het milieu.

Update 09 april 2018: artikel aangepast. Naar aanleiding van feedback zijn er wijzigingen doorgevoerd aan het artikel.

Reacties (34)

[Resistor]

Beetje onsamenhangend verhaal.

Titel gaat over Big Data, grootste deel van het artikel gaat over AI, dan komen de datalekken er bij en als klap op de vuurpijl ook nog eens energieefficiëntie.

Ik snap dat het een advertorial is, maar wat willen ze nou zeggen

[curumir]

Afgezien van krachtigere computers is big data één van de belangrijkste redenen waardoor AI-onderzoek in een stroomversnelling zit. Zonder een overvloed aan trainingsdata kan je systeem nog zo snel zijn, maar daar zul je niet zo veel aan hebben. AI is daarom een van de grote toepassingsgebieden van big data, naast het snappen van big data dus ook het leren/trainen door middel van big data.

Wat dacht je wat Google etc allemaal doet met je foto's, emails, captcha's etc. Niet alleen een profiel samenstellen voor adverteerders maar ook onderzoek naar AI. En die bias in het artikel komt ook bij hun terug, zie ook #onebillionhappy, een initiatief van Mo Gawdat. Je kunt vinden wat je wil van het initiatief of zijn voorspellingen van de toekomst, maar het is zeker een interessant punt en was voor mij wel een eye-opener waar Google etc al die data van 'ons' ook voor gebruikt.

Dat datalekken en energieefficiëntie een punt is lijkt me wel duidelijk?

[Verwijderd]

In feite is AI net zo afhankelijk van enorme hoeveelheden data als "echte" intelligentie. Wij kunnen ook alleen maar dingen doen omdat er zo ontzettend veel data in onze hersens zitten. Wij hebben alleen het voordeel dat we veel minder volume nodig om al die data, informatie, en kennis op te slaan en te processen....

[Verwijderd]

Helaas voor de mens is dat sommigen dezr inteligentie en verzameling data in de brein niet weten te benutten op een volwassen C.Q verstandige manier.

Zo slecht is a.i nog niet.

[Mellow Jack]

Datzelfde probleem hebben de meeste big data/AI projecten ook... De echt nuttige usecases zijn maar heel beperkt tov het grote aantal initiatief

Daarnaast zijn de huidige AI / Bigdata cases niet heel nieuw, het is vooral nieuw dat we nu de processing kracht hebben om iets met deze oude theorieën te gaan doen

[frickY]

Ze waren mij al kwjit bij "Big data verzamelen".

[3dfx]

Ik vind het meer een gevalletje van Godwin's Law, binnen no-time ging het over nazi's

[CPOMendez]

Toen pas? Heel verwarrend verhaal, compleet niet te volgen, ze springen an de hak op de tak.

To quote:
"They where so occupied with wether they could, that they didn't stop to think wether they should."

[Olaf van der Spek]

https://www.vocabulary.co...s/weather-whether-wether/

[CPOMendez]

Castrated sheep, still counts XD het is nog vroeg, en heb nog niet genoeg koffie op

[Dutch_CroniC]

Leuk site, jammer dat er verplicht geregistreerd moet worden.

[Olaf van der Spek]

Hoe bedoel je? Ik heb me niet hoeven registreren om dat te lezen.

[Dutch_CroniC]

Ik krijg vol in het beeld dat ik me (gratis) moet registreren om verder te gaan.

Edit: op mijn mobiel niet, desktop wel

[Reactie gewijzigd door Dutch_CroniC op 25 juli 2024 11:14]

[Rudie_V]

Wat heb je aan big data als je er geen intelligentie doorheen laat gaan om nuttige data uit de big data te halen? Big data en AI gaan hand in hand samen, want hoe moet je anders de big data gaan analyseren, dat wordt steeds meer aan AI overgelaten. De advertorial geeft voorbeelden van big data en AI en wat het tot stand kan brengen en wat de gevolgen kunnen zijn en hoe we verantwoord met big data om zouden moeten gaan.

[Mellow Jack]

Zelf service BI tooling AI heb je pas nodig als je verbanden zoekt die een mens niet zo snel zal vinden of wanneer je kosten / baten analyse het signaal afgeeft dat je wel heel veel studentjes een stage moet geven om door de grote hoeveelheid te spitten

[Sergelwd]

Je vergeet het stukje onderbuik en sentimenten:
"Denk aan de Amerikaanse verkiezingen, die achteraf gezien beslist lijken te zijn door Mr. Big Data. Denk aan de zelfrijdende auto’s van Tesla en Uber, die inmiddels beide betrokken waren bij een dodelijk ongeluk. "

[hylke45]

Zijn allemaal toepassingen van Big Data.
AI (machine learning) heeft bij vele toepassingen erg veel data nodig, hierin speelt Big Data dus een rol.

Datalekken, wanneer je veel data verzameld, moet dit wel veilig zijn. Hierin moet je geen datalekken hebben. Big Data moet verstandig gebruikt worden en hier wil je geen datalekken.

Energie-efficiëntie - een mogelijkheid om door gebruik van Big Data de efficiëntie van motoren te verbeteren.

[Coolstart]

Voor mij is het net erg the point geschreven! Welliswaar in bulletvorm, again I like! Daarnaast staan er mog interessante dingen in die allemaal met elkaar te maken hebben. Ik begrijp uw reactie dan ook niet.

Het is niet omdat je een mooie verhaallijn gewend bent bij tweaker achtergrondartikels en reviews dat het eens niet anders kan bij een advertorial.

Mensen die interesse tonen in Big data, ai, deep learning, machine learning, iot en ethiek hebben hier best best wel veel aan.

Als jij echt geen link kan leggen tissen big data, veiligheid, ethiek, ai, deep learning, automatisering dan vermoed ik dat je mss best wel die voorstelling gaan om bij te leten over dit topic ipv hier zo gratuit uw beklag te doen over een topic waar je duidelijk geen kaas van gegeten Hebt.

Ps, de fuel efficientie case = big data.

Ps2, van mij mogen dit type advertorials nog komen. Ik stoor me er niet aan. Liever zo dan dan een mooi maar cheesy verbloemde versie van een gewoon artikel om de pracht en praak van een product in de verf te zetten.

Ps3, De tweaker meetup van 26 mei gaat ook over Privacy & Security. Geheel in lijn dus

[Reactie gewijzigd door Coolstart op 25 juli 2024 11:14]

[matthewk]

Geschreven door een vakidioot die te veel van zijn beroep houdt denk ik Wel leuke stukjes eruit op te maken, die interessant zijn. Koffie. Hond.

[CrashOverDrive]

Of iemand heeft het lopen vertalen vanuit een memo uit Redmond verzonden naar alle lokale afdelingen. Waardoor wat nuances verloren zijn en het als compleet onsamenhangend leest.

[matthewk]

Dit is niet door een vertaler gepubliceerd denk ik. Iemand die dagelijks bezig is met het schrijven van teksten zou dit ding nooit gepubliceerd hebben.

Niettemin wil ik graag naar de big data expo!

[Verwijderd]

Zou dus zomaar door een Tweakersredacteur gemaakt kunnen zijn :-)

[Blaat]

Ik snap geen fluit van dit verhaal. Wat is nou precies de boodschap?

Het lijkt wel alsof de schrijvers nooit een cursus presentatietechniek heeft gehad.

[Kain_niaK]

Ik denk dat een AI dit stuk geschreven heeft in de hoop zichzelf slimmer voor te doen dan ie in werkelijkheid is, een tactiek die die waarschijnlijk van de mensheid heeft overgenomen.

[frickY]

Daar is dan te weinig Big Data ingestopt bij het trainen.

[ShellGhost]

Dit krijg je als je big data één op één vertaalt zonder het toepassen van structuur. Een onsamenhangend iets waar je niks mee kan.

[Overlord2305]

Ok dus, er wordt een AI gemaakt om bias uit de beoordeling van schoonheids-wedstrijden te halen. Vervolgens blijkt dat een bepaald type persoon vaak hoog scoort / wint, hoe weten wij als lezer dan of dat dit is omdat de AI verkeerd is geprogrammeerd of dat het besluit van de AI objectief is maar niet overeenkomt met de subjectieve waarden van de programmeur

Edit: Mijn vraag is niet hoe het werkt (al kan dat wel de vraag van anderen zijn, dus uitleg is altijd welkom) maar hoe wij kunnen weten of de AI niet naar behoren werkt of dat de AI naar behoren werkt maar niet overeenkomt de de waardes van de programmeur waardoor deze zegt dat de AI niet werkt

[Reactie gewijzigd door Overlord2305 op 25 juli 2024 11:14]

[Verwijderd]

Als je big data gebruikt komt daar nog steeds eenzelfde soort persoon uit. Wat je weghaalt is de bias van een (kleine) jury. Op basis van resultaten uit het verleden, de algemene smaak, mediauitingen etc bepaal je dan de winnaar. Dat is objectiever dan de mening van een 3 koppige jury.

[Sergelwd]

En wanneer haal je bias uit de AI en wat doe je met minder gewenste resultaten??
Ik zie voorlopig weinig vooruitgang.

[JustSys]

Titel: “Big Data & Microsoft”

[Indoubt]

Misschien is het stukje geschreven door een AI tekstgenerator

[sugarlee89]

Wist niet dat we al AI hadden, zeker iets gemist.

[Firestormer]

Men kan ook een niet kunstmatig intelligent programma schrijven dat alleen gewenste antwoorden geeft.
Want dat is wat men wil toch ?

[AOC]

"Ook ai valt voor slanke, witte vrouwen", "nazipropagandisten, racist en westerse schoonheidsideaal, namelijk wit en slank"

Mag ik dan oordelen dat dit stuk geschreven is door iemand die waarschijnlijk biased is. Waarom wordt er puur voor deze voorbeelden gekozen? Wie bepaald wat goed/slecht is? Zoals het stuk geschreven is kan de input door AI geïnterpreteerd worden dat een sterke voorkeur voor iets, waardoor je boven het maaiveld komt, als slecht gezien wordt.

En als een voorkeur voor iets hebben, wat eigenlijk heel menselijk is, als slecht gezien wordt dan moet de mens wellicht niet de input zijn voor AI.

[Reactie gewijzigd door AOC op 25 juli 2024 11:14]