Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Raad van Europa komt met ethisch raamwerk voor ai bij wetgeving en rechtspraak

De Raad van Europa heeft een handvest ge´ntroduceerd met daarin een aantal regels en principes die bedoeld zijn als een raamwerk voor beleidsmakers, wetgevers en juridische professionals. Dit raamwerk is een gids om hen te sturen bij het nemen van beslissingen.

De European Commission for the Efficiency of Justice heeft het handvest opgesteld, omdat in hun ogen de toepassing van kunstmatige intelligentie kan bijdragen aan het verbeteren van de efficiŰntie en kwaliteit in het juridische werkveld. Een belangrijke gedachte daarbij is dat ai op een verantwoordelijke manier moet worden ingezet, in overeenstemming met het Mensenrechtenverdrag en het Verdrag tot bescherming van personen met betrekking tot de geautomatiseerde verwerking van persoonsgegevens.

De commissie van de Raad van Europa vindt het van groot belang dat ai een tool blijft die in dienst staat van het algemeen belang, en dat de toepassing niet de rechten van individuen schendt. De commissie wil ervoor zorgen dat dit soort principes in acht worden genomen als juridische besluiten of data door algoritmes worden verwerkt.

Daartoe zijn er enkele kernprincipes uiteengezet, zoals: de ai moet in overeenstemming zijn met fundamentele rechten en ze mag niet leiden tot of bijdragen aan discriminatie tussen individuen of groepen. Verder moeten gebruikte dataverwerkingsmethodes toegankelijk en begrijpelijk zijn en onderzocht kunnen worden. Ook moeten gebruikers in controle zijn en ge´nformeerd worden: iemand moet bijvoorbeeld duidelijk worden ge´nformeerd als oplossingen die door ai worden aangedragen, bindend zijn en dat er een recht bestaat op juridisch advies of een gang naar de rechter.

Het European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment betreft geen raamwerk met regels of principes die bindend zijn voor de 53 lidstaten van de Raad van Europa. De Raad van Europa staat los van de Europese Unie en is gevormd door bijna alle Europese landen, Turkije en Rusland. Het bekendste verdrag dat onder de hoede van de organisatie tot stand is gekomen, is het EVRM, ook wel het Mensenrechtenverdrag genoemd.

Door Joris Jansen

Nieuwsredacteur

04-12-2018 • 18:14

18 Linkedin Google+

Reacties (18)

Wijzig sortering
Staat er ook in dat het opensource moet zijn? De rechtsgang zoals deze nu is werkt vanwege de "duidelijkheid" en controle waar iedereen met kennis kan bestuderen.
Bij het principe van transparantie staat dat dit bereikt kan worden door volledig technische transparantie, waarbij tussen haakjes als voorbeeld het gebruik van een volledig openbare broncode wordt genoemd. Maar aan dit transparantieprincipe kan ook worden voldaan door een toegepast systeem in duidelijke en begrijpelijke taal te omschrijven, dus uitleggen hoe er tot bepaalde resultaten is gekomen. Dus het opensource kan een middel zijn voor transparantie, maar is geen absolute verplichting of een principe op zichzelf.
Inhoudelijk vind ik het "in duidelijke en begrijpelijke taal omschrijven" niet voldoende. Ik denk dat zoiets gecompliceerds als de beslissing van een AI niet in duidelijke, begrijpelijke taal uit te leggen valt.
In ieder geval niet zodanig dat het een veroordeelde in een controversiŰle en politiek beladen zaak zal overtuigen van de eerlijke gang van zaken.

Daarom is reproduceerbaarheid gewenst. Dat betekent wat mij betreft niet alleen open source, maar ook open data. D.w.z. alle data waarmee de AI getraind is.

Natuurlijk hebben we die reproduceerbaarheid nu ook niet. Het is mensenwerk, we hebben gen keus. Maar ik zie niet in waarom we het niet beter zouden doen als die mogelijkheid zich aanbied.
Je zegt 'deze voorwaarde is onvoldoende', maar je uitleg waarom stelt 'het is onmogelijk om aan de voorwaarde te voldoen'. Zo'n redeneringsfout zou bij een AI niet snel gebeuren lijkt me.

Net als het voorbeeld. Je doet alsof de voorwaarde stelt dat reproduceerbaarheid niet mag, maar dat is helemaal niet zo. AI geeft juist die mogelijkheid!
Op zich is dat logisch, aangezien je met een gedetailleerde beschrijving ook kunt bepalen of het resultaat klopt.
Je kan toch een open-source ai applicatie trainen op basis van data en dan dezelfde applicatie nogmaals trainen met net iets andere data. En als je dan een beslissing laat nemen dan zegt net die ene applicatie wat anders dan die andere... en dan? Ga je die hele datasets uitpluizen? Dat heeft imho weinig meer te maken met ‘Efficiency of justice’
Even voor een ieder: raad van Europa is bijv ook Rusland lid van. Is opgericht na de 2e w.o. Is dus wat anders dan de Europese raad. Is ook geen onderdeel van de EU.
Dat had ik al geschreven, maar altijd goed om dat nog even te benadrukken ;)
Meer inzicht in AI en de huidige stand van zaken en zorgen... Neem de tijd en kijk hier eens naar:
https://youtu.be/aV_IZye14vs
AI juridisch in de geest of in de letter van de wet ?
Nee dat is niet zinloos omdat je net als met een wet pas kan zeggen dat iets niet mag als ook daadwerkelijk is vastgelegd dat het niet mag.

Nu is het niet bindend maar het is goed dat er afspraken worden gemaakt waar we elkaar aan kunnen houden.

En je moet ergens beginnen.

[Reactie gewijzigd door RoamingZombie op 4 december 2018 19:12]

Ik geloof dat er afspraken moeten worden gemaakt omdat het anders helemaal een wilde westen wordt.

Zo moeilijk is het toch niet om dat principe te begrijpen? Negeren gaat zeker geen misbruik voorkomen.

[Reactie gewijzigd door RoamingZombie op 4 december 2018 19:16]

Precies, het is dan ook een ethisch framework. Geen bindende wet, al kan ik me voorstellen net als in de GDPR dat uiteindelijk een principe als privacy by design nu ook een zeg ethisch by design verplicht wordt.
Dat is per definitie subjectief, nu wel nog, maar het principe bij een nieuwe dienst of applicatie die vanuit de grond gebaseerd is op waarden van de mens en in dienst staat van de mens lijkt me zeer wenselijk en haalbaar.
Vorige week werd de ethicis in AI ook aangehaald in het eurpean data protection congres, het staat gelukkig hoog op de agenda. De european data protection board heeft ook een grote werkgroep erop gezet.
Blijft apart om te zien dat mensen er altijd weer met open ogen intrappen en werkelijk lijken te geloven dat regeringen en multinationals het beste met ons voor hebben...
De mens zal nooit leren van het verleden.


Om te kunnen reageren moet je ingelogd zijn


Apple iPhone XS Red Dead Redemption 2 LG W7 Google Pixel 3 XL OnePlus 6T (6GB ram) FIFA 19 Samsung Galaxy S10 Google Pixel 3

Tweakers vormt samen met Tweakers Elect, Hardware.Info, Autotrack, Nationale Vacaturebank en Intermediair de Persgroep Online Services B.V.
Alle rechten voorbehouden © 1998 - 2018 Hosting door True