AP stelt vragen aan 'techbedrijf' vanwege kinderchatbot, vermoedelijk Snapchat

De Autoriteit Persoonsgegevens start een onderzoek naar een niet nader genoemd techbedrijf vanwege het gebruik van kunstmatige intelligentie in een chatbot. Vermoedelijk gaat het om Snapchat, waarvan de chatdienst onlangs onder vuur kwam te liggen.

De Nederlandse privacytoezichthouder 'heeft vragen gesteld' aan 'een techbedrijf'. De AP noemt de naam van dat bedrijf niet. Dat is bewust, zegt een woordvoerder van de privacytoezichthouder. "Ik kan je helaas niet vertellen om welk bedrijf het gaat."

De vragen van de AP gaan over 'de werking van de chatbot die werd geïntegreerd in hun app die populair is bij kinderen'. De AP stelt vragen over de transparantie van die chatbot, onder andere in hoe die met gebruikersgegevens omgaat. "De AP stelt het betreffende techbedrijf onder meer vragen over hoe transparant de app is over het gegevensgebruik, en of er goed is nagedacht over een bewaartermijn voor de verzamelde gegevens", schrijft de toezichthouder. Het gaat nog slechts om vragen. Op basis van de antwoorden kan de AP bepalen wat het als eventuele vervolgstappen zet. Het kan zijn dat het bedrijf een paar veranderingen doorvoert in het privacybeleid en het probleem daarmee is opgelost, maar een boete of last onder dwangsom is ook een optie.

Hoewel de AP niet expliciet zegt over welk bedrijf het precies gaat, lijkt de kans groot dat het over Snapchat gaat. Die app, die relatief jonge gebruikers heeft, introduceerde eerder dit jaar een chatbotfunctie. Die kwam al snel onder vuur te liggen toen de chatbot echte afspraken wilde maken en andere rare dingen begon te zeggen.

De AP noemt geen voorbeelden van waar het op gaat controleren of welke vragen de toezichthouder heeft gesteld, dus is niet duidelijk of het daadwerkelijk gaat om de My AI-functie in Snapchat. Wel schrijft de toezichthouder: "De AP ziet grote risico’s bij het aanbieden van toepassingen zoals AI-chatbots aan kinderen, omdat zij zich onvoldoende bewust zijn van deze risico’s. Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon."

Reacties (5)

[Game-Over]

"De AP stelt het betreffende techbedrijf onder meer vragen over hoe transparant de app is over het gegevensgebruik, en of er goed is nagedacht over een bewaartermijn voor de verzamelde gegevens"

Dat is meer een vraag voor de wetgever, want met AI is de definitie van bewaren nog niet duidelijk.
Sommige mensen stellen dat AI dingen jat en copyright aan de virtuele laars lapt.
Andere mensen stellen dat leren en de opgedane kennis gebruiken niet gelijk staat aan jatten.

Dus AP stelt eigenlijk 2 vragen. Wat is de bewaartermijn van de ingevoerde data en die van de geleerde data. Omdat dit een grijs gebied is kan de eigenaar v/d chatbot heel creatief zijn met antwoorden zodat AP weer indut.

[bun00b]

Wat er ook mooi (/s) is aan deze AI, is dat 'ie standaard bovenaan gepind staat als je #1 chat, en wanneer je er op klikt krijg je een mooie popup (heb een verse screenshot genomen) die zegt wat de AI met je data doet. Het vervelende is dat je die popup niet weg kan klikken, en enkel op "Okay" kan klikken om het te aanvaarden. Wanneer ik er dan per ongeluk op tik, wat vaak gebeurt omdat de chat na een halve seconde delay je #1 chat naar beneden duwt, moet ik de app dus afsluiten en opnieuw openen om het niet te moeten accepteren.
Is daar ook niks tegen te doen? Je kan de AI niet verbergen en als je de chat opent ben je UX-gewijs verplicht te accepteren dat 'ie je data verwerkt. Zou niet mogen toch?

[Tweakez]

Nou sowieso als dit snapchat betreft, dan mogen ze daar die gasten wel even goed aanpakken.
De laatste tijd (en ik heb echt de machtiging uit!) weten ze om de "toegang tot contacten" restrictie heen te komen, heb ik altijd gezegd geen sync met contacten en ik zie ineens al mijn contacten als voorgestelde vrienden staan op Snapchat. Echt te bizar voor woorden.

Pauperbedrijf.

[Reactie gewijzigd door Tweakez op 23 juli 2024 18:46]

[pookie79]

Kan het zijn dat jouw contacten zelf die machtigingen niet uit hebben staan en dus snapchat hebben laten weten dat ze je kennen?

[bun00b]

Aangezien ik hetzelfde doe als Tweakez hier, denk ik dat dit het geval is. Je kan je data zoveel dichttimmeren als je wil, uiteindelijk ben je niet zelf de zwakke schakel en zal er wel ergens iemand zijn die je data toch deelt.