Drie deskundigen over de macht van het algoritme

Het gaat niet altijd mis door menselijk toedoen. Mathijs de Weerdt, sectieleider van de vakgroep algoritmiek aan de TU Delft, legt uit dat de meeste moderne algoritmen uit twee delen bestaan. “Een deel bestaat uit instructies die de computer moet opvolgen. Deze worden inderdaad door de mens gemaakt en ingevoerd. Het tweede deel wordt gevormd door de modellen die ontstaan uit de aangeleverde data.” Volgens De Weerdt is al lang bekend dat mensen fouten kunnen maken in het instructiegedeelte: “Sinds het begin van het informaticatijdperk weten we dat er bugs voorkomen. Hoewel het nog steeds weleens misgaat, denk ik toch dat we inmiddels goed weten hoe we hiermee moeten omgaan. Ik zou het in ieder geval niet meer als een gevaar willen classificeren.”

Weinig inzicht in modellen

Het gevaar zit vooral in het tweede gedeelte: de data. Er wordt namelijk lang niet altijd begrepen hoe de modellen die op die data gebaseerd zijn, precies werken. “Het meestgebruikte en succesvolste model is het diepe neurale netwerk”, vertelt De Weerdt. “Zo’n model heeft vele variabelen die worden ingevuld, zodat het zo goed mogelijk past bij de data. Dit noemen we het trainen van een model.” De "Er is momenteel nog geen goede methode om foutieve inschattingen te controleren en te voorkomen."getallenmatrixen die hieruit voortkomen, zijn voor de mens nauwelijks te begrijpen en dat is problematisch, want we weten dan niet waar en waarom dingen verkeerd gaan. Dit is bijvoorbeeld het geval bij modellen die gezichten leren herkennen op basis van foto’s. De Weerdt: “Daarbij is er altijd een kans dat er een fout antwoord uitkomt. Er is momenteel nog geen goede methode om dergelijke foutieve inschattingen te controleren en te voorkomen.”

Binnen het onderzoek wordt daarom hard gewerkt aan het inzichtelijk maken van de modellen en het verbeteren van algoritmen. “In de vakgroep werken we met name aan algoritmen die iets te maken hebben met planning en logistiek”, vertelt hij. “Dit gaat bijvoorbeeld om plannings- en optimalisatieproblemen waarbij verschillende partijen betrokken zijn, zoals in het energiedomein.” Binnen dat domein onderzoeken De Weerdt en zijn collega’s algoritmen voor een efficiënt en eerlijk gebruik van

het elektriciteitsnetwerk. Nu de momenten van vraag en aanbod elkaar door de energietransitie steeds minder overlappen, is dat hoognodig. “We proberen daarbij modellen te ontwikkelen die duidelijk maken wat er precies gebeurt, bijvoorbeeld door relaties tussen variabelen expliciet te maken.” Zo kan er een relatie zijn tussen de elektriciteitsprijs en de wind: “Stel, de elektriciteitsprijs daalt als het harder waait. Wij proberen deze relatie uit te drukken in een wiskundige functie die begrijpelijk is. Dat geeft veel meer inzicht dan een matrix vol getallen en is effectiever voor het oplossen van optimalisatieproblemen.”

Verkeerde data

Naast een foutieve respons op basis van correcte data schetst De Weerdt, net als Ghebreab, nog een ander mogelijk probleem. “Het kan ook zijn dat er verkeerde data wordt ingevoerd.” Een bekend voorbeeld is de discriminerende sollicitatierobot van Amazon, die mannen boven vrouwen verkoos. “Dat kwam doordat er data uit het verleden werd gebruikt. En in het verleden werden er meer mannen dan vrouwen aangenomen”, zegt De Weerdt.

Hoewel er steeds meer aandacht komt voor deze bias en mensen zich bewuster worden van de soms rampzalige gevolgen, zoals bij de toeslagenaffaire, worden algoritmen nog vaak gehanteerd als neutrale, objectieve maatstaven. Rasch: “In de praktijk zie je dat men toch geneigd is de uitkomst van een algoritme te vertrouwen. Dat komt doordat data in de ogen van veel mensen inherent objectief en neutraal is.” Daarnaast is het volgens Rasch lastig om aan te wijzen waar een bias zich bevindt. “Zelfs Google geeft toe dat het niet precies kan aanwijzen op welke plek in het algoritme iets misgaat. Het is onzichtbaar en daardoor moeilijk om er wat aan te doen.”