Onderzoekers maken versimpelde visualisatie van gebruiksvoorwaarden met ai-bot

Onderzoekers van de Zwitserse technische Universiteit EPFL hebben een ai-bot online gezet die gebruiksvoorwaarden leest en omzet in een overzichtelijk stroomdiagram. Daarnaast kunnen gebruikers vragen over de voorwaarden stellen aan een chatbot.

De kunstmatige intelligentie zet de teksten om in korte stukken informatie die over verschillende tabbladen verdeeld worden, een systeem dat de onderzoekers Polisis noemen. Die tabbladen zijn onder andere dataverzameling, beveiliging, delen met derden, dataretentie en beleidswijzigingen. Waar dat van toepassing is, wordt de informatie in stroomdiagrammen gezet, maar sommige tabjes citeren alleen de relevante onderdelen van de voorwaarden. De ai-routine doet ongeveer dertig seconden over het analyseren van een nieuwe set voorwaarden. Ook zijn er browserextensies voor Chrome en Firefox.

De ai-chatbot, genaamd PriBot, is in staat om vragen over de voorwaarden te beantwoorden, waardoor gebruikers niet zelf op zoek hoeven te gaan naar een specifiek onderdeel waar ze nieuwsgierig over zijn. De bot geeft bij zijn antwoorden een 'confidence score' en er is een optie om het antwoord nog verder te comprimeren en versimpelen, hoewel deze functie experimenteel is.

Om de ai te trainen, zijn 115 sets met voorwaarden geanalyseerd door rechtenstudenten. Verder zijn 130.000 sets met voorwaarden van de Google Play Store gehaald met een scraper, die ook gebruikt zijn om de ai aan te scherpen. Het resultaat is dat de interpretatie van Polisis 88 procent van de tijd overeenkomt met de interpretatie van de rechtenstudenten. Het gehele proces staat beschreven in een onderzoeksrapport. De Zwitsers werkten samen met onderzoekers van de Amerikaanse Universiteiten van Wisconsin en Michigan. De onderzoekers benadrukken wel dat bepaalde onduidelijkheden niet opgelost kunnen worden, als zelfs een menselijke deskundige daar ook niet uit kan komen.

Zoals Wired ook aantekent, is het niet de eerste keer dat onderzoekers proberen met behulp van ai de gebruiksvoorwaarden van online diensten inzichtelijker te maken. Zo kwamen de Universiteiten van Columbia en Carnegie Mellon met UsablePrivacy.org. Ook menselijke operaties om dergelijke documenten doorzichtiger te maken bestaan al langer. Een voorbeeld daarvan is Terms of Service; Didn't Read.

Polisis en PriBot over de voorwaarden van Twitter

Reacties (33)

De onderzoekers benadrukken wel dat bepaalde onduidelijkheden niet opgelost kunnen worden, als zelfs een menselijke deskundige daar ook niet uit kan komen.

Als een menselijke deskundige er al niet uit komt...dan had dat natuurlijk nooit in de gebruikersvoorwaarden terecht mogen komen. Hoe kan een gebruiker dan nog snappen waar hij mee akkoord gaat...

Ondanks dat ik dit een leuke tool vind, hoort het toch eigenlijk overbodig te zijn.

Als de tool zou kunnen concluderen dat "The EULA doesn't compute" zou dat misschien ertoe kunnen leiden dat hij daardoor automatisch als ongeldig gemarkeerd wordt. Dat zou pas een echte winst van een dergelijke tool zijn. Hij zou hem ook eventueel kunnen checken tegen wetteksten waardoor hij hem ongeldig of zelfs illegaal zou kunnen verklaren(voor een bepaald land natuurlijk).

[Reactie gewijzigd door MN-Power op 10 februari 2018 13:01]

Dat zou een volgende stap kunnen zijn. Dat moet de tool echter wel zogoed als feilloos werken.

De bot hoeft niet feilloos te zijn. Bij een "does not compute" laat je de bot dat gewoon rapporteren met bijlage van wat er dan niet logisch is naar zowel de user als de opsteller van de EULA. Indien dat bv op het privacy vlak is kun je de bot ook instrueren dat deze automatisch de relevante privacy waakhond informeert zodat deze daar actie op kan ondernemen.

Een actieve inzet van een fatsoenlijk functionerede bot zoals dit door privacy waakhonden zou hun werk ook flink kunnen verlichten terwijl het tegelijkertijd de scope flinkt uitbreidt. Nu worden de meeste EULA's nooit door dat soort instanties onder de loep genomen tenzij er veel klachten komen. Indien je met scraping en zo'n bot de hele iOS, Windows & Android app store zou kunnen doorlichten zou dat een goede manier zijn om veel idiote situaties uit de wereld te helpen.

Wat ik me verder afvraag is of ze de bot ook op de EULA van W10 hebben losgelaten en hoeveel "does not compute" situaties dat opleverde.......

U vraagt, wij draaien

https://i.imgur.com/LffCCHW.png Windows EULA

https://i.imgur.com/oILDm4V.png Microsoft EULA

Deze tool staat gewoon online, als je op de naam Polisis klikt in het nieuws bericht, kom je er vanzelf en kun je het testen.

"unspecified data" ja zo kom je er wel mee weg natuurlijk

Wat had je verwacht? Als een EULA goed in elkaar had gezeten hadden we zo'n tool niet nodig gehad, tuurlijk zit er een hoop "covering our asses" stukken in.

Het kan ook een flagging-proces zijn, wat daarna door een mens wordt nagekeken.

De persoon die het geschreven heeft zal er wel aan uit kunnen en een verklaring aan kunnen geven. Dan is het de kunst om de rechter mee te laten gaan in die redenering mocht het ooit tot een rechtzaak komen.

Mwah.. je gaat toch elke keer verder en dieper qua techniek wetenschap en alles wat daarbij hoort.. politiek psychologie zijn ook wetenschappen imho .
Het systeem van nu is ook niet hoe het vroeger werkte.. stilstand is achteruitgang...

Dit zijn gewoon manieren die uiteindelijk heel veel bureaucratie uit de wereld gaat helpen.
Het zijn misschien kleine stapjes maar dit soort toepassingen verbinden aan een blockchain zal de nieuwe standaard gaan worden.

Je kunt niet alles beschrijven op een manier dat iedereen het kan snappen. Als jij een technische specificatie schrijft moet de lezer ook enige deskundigheid hebben om dat te begrijpen. Is het daardoor een slechte specificatie? Nee.

Het gaat er nou juist om dat de lezer juist een deskundige is volgens het artikel en er niet uit komt

"Als een menselijke deskundige er al niet uit komt.."
Het gaat om vakdeskundigen die het zelfs niet begrijpen.
Een dubbelzinnige technische specificatie (voor deskundigen) is evenzeer nutteloos.

De manier waarop je iets schrijft moet toegespitst zijn op de doelgroep. Een EULA moet dan ook begrijpelijk zijn voor de gemiddelde consument. Het gebruik van veel wetstermen of een gecompliceerde structuur van vele naar elkaar verwijzende artiklen/documenten zorgt ervoor dat dit niet het geval is. In zo'n situatie is het dus gewoon een slecht document.

Als ik het me goed herinner staat in de Nederlandse wetgeving zelfs expliciet vermeld dat EULA's duidelijk en begrijpbaar moeten zijn. Ik weet niet zeker wat het gevolg is indien een EULA niet aan deze eis voldoet maar het meest ogische zou zijn dat de desbetreffende EULA niet rechtsgeldig is (zelfs niet als de gebruiker er gewoon mee instemt).

Gaat deze bot dan ook aangeven of je je eerstgeborene moet overhandigen?

Leesvoer als je de grap niet snapt:
https://www.google.nl/amp...-born-as-payment/%3famp=1

Ik heb wel eens gelezen over een TOS waarin de eerste die een mailtje stuurde 10.000 dollar beloofd werd waar ook nooit op gereageerd werd.

Zou het rookmeisje ook geen ToS lezen?

Linkje zonder Google's AMP rotzooi: https://arstechnica.com/t...nd-first-born-as-payment/

Handig als je daarmee ook de wetgeving kunt structureren.

Dat zou een goede actie zijn. Dan ga je echt gigantisch veel "does not compute" scenario's tegenkomen. Wetgeving zit namenlijk zelden logisch in elkaar door allerlei amendementen, aanpassingen en correcties op basis van compromissen, verdragen en veranderende inzichten.

Misschien dat zo'n AI juist wat orde in de chaos kan brengen?
Wellicht is het zelfs voor de wetgever interessant hiaten op te sporen!

Helemaal mee eens. De grote vraag blijft wel hoe je die AI programmeert en hoe deze vervolgens leert. Dat zal grote impact hebben op wat er dan als logische structuur uitkomt.

Er zijn bijvoorbeeld verschillende gedachtengangen over hoe zwaar straffen moeten zijn en hoe deze straffen zich onderling moeten verhouden (bv in geval van geweldsdelicten vs. vermogensdelicten). Ook is er veel onenigheid over effectiviteit van bepaalde type straffen en zelfs over hoe de gegevens van onderzoeken hiernaar geinterpreteerd dienen te worden.

Kortom, verdomd ingewikkeld allemaal. Maar uiteindelijk denk ik wel dat een echt goed ontworpen AI hier een betere structuur in kan aanbrengen dat opeenvolgende generaties van wetgevers.

Uiteindelijk kom je tot een zeer filosofische vraag, en dat is of je een AI de macht wilt geven om wetten voor mensen op te stellen.

Kijk, daar hebben we wat aan.

Nou ik probeer een paar engelstalige sites die ik regelmatig bezoek, osnews, spectrocoin, bbc, maar hij kan hun policies niet parsen. Dus of we er wat aan hebben?

Ik heb met de eerste site meteen success namelijk die van LineageOS (had ik toevallig openstaan). Helaas zegt de AI dat vrijwel alles unspecified is...

Het lijkt ingeleerd op een paar "app-store" sites. Ik ben bang dat daar behoorlijk veel copy(-paste) tussen zit. Gaat iets of iemand een rechtsgeleerde inhuren die iets origineels schrijft wordt het verhaal denk ik anders

Ik weet het niet.. Je krijgt als antwoord "het best passende antwoord" en het antwoord is ook al "vaak", 2 uitspraken die niet een absoluut geven... Dit is al tricky genoeg zonder AI, maar nu?

Ik weet het niet. Als the shit the fan hits kan je je niet verschuilen achter een AI chatbot interpretatie.

Moet ik dan ook denken aan het analyseren van een willekeurige TOS bijv of meer cookie of privacy achtige zaken?

Aangezien de gemiddelde smartphonegebruiker steeds dommer wordt omdat hij zowat elke actie waarbij enige hersenactiviteit vereist is volledig uit handen geeft en overlaat aan een of andere "gemakkelijke" app die voor hem nadenkt en rekent, zal dit soort zaken mijns inziens alleen maar in populariteit toenemen. Het vervult in ieder geval een groeiende behoefte, want volgens mij zijn er nog maar weinig millennials die zonder een of ander elektronisch hulpje geheel zelfstandig een verjaardag kunnen onthouden of een vergadering kunnen plannen.

Ale je daarmee kan voorkomen dat mensen akkoord gaan met voorwaarden die Apple het recht geven jouw lippen vast te naaien aan iemands anus...

Voor degenen die het niet snappen: South Park, seizoen 15 aflevering 1 (Humancentipad)

Overgekocht door Oracle en toegevoegt aan hun Policy Automation tool in 3...2...

Jongens, ik weet het, je houdt van vulgaire meisjes
Hoe zit het met online-communicatie met hen zonder grenzen? Hier http://sexbado.tk kun je geile echte meisjes uit verschillende landen vinden.