UWV heeft AI-tool aangekocht die mogelijk niet aan AVG voldoet

Het Nederlands Uitvoeringsinstituut Werknemersverzekeringen heeft een AI-systeem aangekocht dat mogelijk niet voldoet aan de AVG. Het systeem werkt niet met gegevens van burgers die bij het UWV een traject hebben lopen, maar de AI verzamelt mogelijk onterecht data van internet.

Het UWV schrijft in een jaarlijkse evaluatie over het nieuwe AI-systeem dat het eerder heeft aangeschaft, maar waarvoor mogelijk privacyobstakels zijn. Het gaat om een systeem dat het UWV wil gebruiken voor de Bemiddelingsservice. Daarbij worden werkzoekenden aan mogelijke werkgevers gekoppeld. Dat gebeurt sinds vorig jaar met nieuwe kunstmatige intelligentie, maar daarover zijn onlangs 'vragen opgekomen'. Het UWV zegt niet welke vragen dat zijn. Het is ook niet duidelijk of de tool al in gebruik is of niet.

De vragen zouden betrekking hebben op de manier waarop de AI omgaat met gegevens die van internet zijn verzameld. Het UWV geeft daar verder geen uitleg bij. Mogelijk houden die vragen verband met een recente uitspraak van de Autoriteit Persoonsgegevens rondom scraping. De privacytoezichthouder zei begin vorige maand dat scrapen van informatie van internet in vrijwel alle gevallen illegaal is. Dat is ook van toepassing op kunstmatige-intelligentiemodellen, die vaak getraind worden op zulke informatie.

Het UWV zegt dat de leverancier van de software verantwoordelijk is om aan de AVG te voldoen. "UWV vindt het belangrijk dat de AVG-compliance van de aangeschafte software geborgd is en is hierover met de leverancier in gesprek", zegt de instantie.

Opvallend is dat de software is aangeschaft terwijl er nog een andere toetsing loopt. Voorafgaand aan de inzet ervan is er een commissie 'Data-ethiek' geweest, die de software heeft beoordeeld. Er loopt echter nog steeds een ander traject: dat van een 'impact assessment voor mensenrechten bij de inzet van algoritmes'. Sinds 2022 is het voor overheidsinstanties verplicht zo'n iama uit te voeren voorafgaand aan de inzet van algoritmes die mogelijk gegevens van Nederlandse burgers verwerken. Het UWV zegt nu dat dat onderzoek nog loopt.

Update: in het artikel stond aanvankelijk dat het UWV de tool in gebruik heeft, maar het is niet duidelijk of dat het geval is. De tool is in ieder geval aangekocht. Dat is aangepast.

Reacties (65)

[Tyrian]

Eerst aankopen en dan pas onderzoeken of je het wel mag gebruiken. Dat lijkt me niet de beste manier om met gemeenschapsgeld om te gaan.

[m_snel]

En u vindthet vreemd dat AI op internet gaat rond snuffelen. Even AI zou natuurlijk alle mogelijkheden benutten zolang de informatie vrij beschikbaar is.
Maar Ai is in veel gevallen natuurlijk niet meer dan een algoritme met machine learning.
Het mag misschien niet maar het is toch vreemd dat je gewoon op duizenden kilometers afstand zonder verlof aanvraag de verplichte trainingen kon volgen.
Niks mis mee natuurlijk als het volgens de wet mag. Als ict’er kan je natuurlijk al snel gewoon overal werken als je een goede internet verbinding en sto voorziening hebt.

[My Tec Master]

Ik zie het al voor me. De kandidaat lijkt de perfecte match op basis van het Cv in de database. Maar op het web heeft de ai de volgende foto's en tweetal gevonden. Waardoor er toch twijfel is over de match

[DJanmaat]

Als ik het artikel mag geloven lijken onze centjes onbezonnen besteed te zijn.

Laten we er eens op inzoomen :

AI
Artificiële intelligentie (AI) biedt nieuwe mogelijkheden en kan een belangrijke impact hebben op UWV. Om duidelijkheid te krijgen over de mogelijkheden met generatieve AI (zoals ChatGPT) heeft UWV in het najaar van 2023 een proeftuin ingericht. Hierin kunnen organisatieonderdelen verantwoord experimenteren. UWV is voortdurend alert op de risico’s van voor ingenomenheid en desinformatie conform het ethisch beleid. We zetten moderne technologieën op verantwoorde wijze in, waarbij het borgen van publieke waarden centraal staat en passen security en privacy-by-design en responsible-design als uitgangspunten toe.

UWV heeft software aangekocht voor de Bemiddelingsservice waarmee werkgevers en werkzoekenden bij elkaar worden gebracht, die met behulp van AI matching suggesties doet. De Bemiddelingsservice is beoordeeld door de commissie data ethiek en loopt er een Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA). Over de AVG-compliance in relatie tot de totstandkoming van de matching software. Over de AVG-compliance in relatie tot de totstandkoming van de matching software zijn recentelijk echter vragen opgekomen die geen betrekking hebben op cliëntgegevens van UWV, maar op gegevens die op internet zijn verzameld. De verantwoordelijkheid hiervoor ligt bij de leverancier van de software. UWV vindt het belangrijk dat de AVG-compliance van de aangeschafte software geborgd is en is hierover met de leverancier in gesprek.

Na lezen van de publicatie krijg ik niet dat gevoel. Ze hebben een proeftuin ingericht, en er loopt een Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA) waar buiten de scope een probleem is geconstateerd waarvoor ze met de leverancier in overleg zijn.

[Reactie gewijzigd door DJanmaat op 22 juli 2024 14:23]

[uiltje]

"Het UWV zegt dat de leverancier van de software verantwoordelijk is om aan de AVG te voldoen."

Uh, pardon? De UWV is zelf verantwoordelijk voor het omgaan met gegevens die ze gebruiken. Dat dit in het systeem van een derde partij is maakt niet uit. Ik kan toch ook niet een DB van persoonsgegevens kopen en dan zeggen dat dit verantwoordelijkheid is van de verkoper? Dit is op een ander niveau natuurlijk, maar het principe blijft hetzelfde, zeker als er door de AI persoonlijke gegevens kunnen lekken.

Zo makkelijk komen ze er niet vanaf, en ik zie een NL rechter ook niet snel een uitspraak doen die in die richting gaat.

[kvdveer]

Je kunt in een koopovereenkomst afspreken dat het de taak is van de leverancier om AVG-compliant gebruikt mogelijk te maken. Zulke afspraken zijn niet eens ongebruikelijk.

Striktgenomen is UWV natuurlijk eindverantwoordelijke, maar is het goed mogelijk dat de leverancier verantwoordelijk is om dit probleem op te lossen.

[latka]

De leverancier moet het oplossen maar is nooit verantwoordelijk om AVG compliant te zijn. Dat is het UWV. Die moeten dan dus tegen de leverancier zeggen: doe X, Y en Z zodat het UWV weer AVG compliant is. De leverancier is dan verantwoordelijk voor X, Y en Z tegen een fatsoenlijk tarief en kwaliteit op te pakken.

[scsirob]

Je kan nog zoveel in een koopovereenkomst afspreken, de wet is leidend. UWV is data processor en draagt verantwoordelijkheid. Mochten ze daar andere afspraken over gemaakt hebben dan zal dat nu mogelijk nog binnen de randjes van de wet passen, maar zodra NIS2 in werking treedt dan is UWV ketenverantwoordelijk voor haar toeleveranciers, ongeacht wat het contract zegt,

[Fly-guy]

Ook dan blijft UWV verantwoordelijk. Ik kan mijn garage opdracht geven mijn auto weer te laten voldoen aan de wegenwet, maar als ik na de reparatie ga rijden terwijl dat toch niet het geval is, krijg ik de boete, want ik ben verantwoordelijk.

Dat ik dan achter de schermen het op ga nemen met de garage, ontslaat mij daar niet van, net zoals het UWV ook niet vrijuit gaat.

[Vaevictis_]

Helemaal mee eens UWV is altijd eindverantwoordelijk. Aan de leverancier om de tool avg compliant te maken maar realisatie is altijd op basis van inrichting die uwv kiest en die moet avg proof zijn.

[The Operator]

Die hele AVG stinkt en bemoeilijkt de evolutie en progressie van het benutten en inzetten van technologie, als je het mij vraagt.

Nu hebben ze dus software aangekocht die dus scraping gebruikt en dat is dus strafbaar. Iedereen kan scrapen met zeer simpele tools. Een vlugge search geeft je al gratis soluties, dus hoe kun je zoiets verbieden terwijl a.i. een reguleerde interface heeft die die altijd doet? En je de nodige resultaten geeft? Zijn we dan strafbaar om A.i te gebruiken en daar daadwerkelijk resultaten en inzet uit te putten?

Dus het stinkt! Aan alle kanten. Nu kunnen ze er progressie mee boeken en bijv. meerdere mensen aan adequaat werk en een baan helpen en raad eens wat? Nu is het strafbaar!

[morphje]

Een mens die zelf internet searches doet kan de informatie beter inschatten op waarde per individuele bron. Een samengesteld AI resultaat kan je als medewerker niet beoordelen op waarde, omdat je niet perse de bronnen kent.

Als je niet de waarde van informatie kan inschatten, dan ben je geen goede onderzoeker en moet je een andere baan zoeken. Afhankelijkheid van AI in dit soort kritische beroepen is volstrekt ongewenst. Ja dit soort tools worden ingezet om goedkopere ongekwalificeerde medewerkers hetzelfde werk te laten verrichten en ook dat is ongewenst, zoals te zien was aan het toeslagenschandaal. AI versterkt dat soort gevallen alleen maar meer.

[damylen]

Als je als mens 'zoekt'? Zoekmachine heeft de data ook gescraped en met een algoritme gesorteerd.

[morphje]

Ik denk dat een mens toch iets beter waarde kan inschatten als een AI je een recept met lijm geeft.

Ja het was/is een simplistisch voorbeeld, maar het schetst wel het beeld hoe AI tot zijn antwoorden komt en wat de bijbehorende waarde van de informatie is. Een mens (en zeker een UWV onderzoeker) moet de kwaliteiten bezitten om een beter waarde oordeel te geven over de informatiebronnen, een kwaliteit die een AI nooit zal bezitten.

Hoe complexer de AI wordt om dergelijke simplistische lijm antwoorden op te lossen, hoe complexer de problemen worden op het moment dat het om grijze gebieden gaat. Die zullen niet of heel moeizaam opgepakt gaan worden. Je zag al hoe eenvoudig de toeslagenfraude tot stand kwam en dat was een algoritme op basisniveau.

[Aldy]

Het produceren en distribueren van drugs kan een heleboel mensen aan een baan helpen, maar is strafbaar. Die wet die dit verbiedt, om met jouw woorden te spreken, stinkt aan alle kanten.
De wet is er o.a. om mensen te beschermen en beide wetten doen dit. Jij vindt dat het stinkt, maar ik vind het heerlijk ruiken.

[n4m3l355]

Tuurlijk als opdrachtgever stel je eisen en is het normaal te verwachten dat de opdrachtnemer of product voldoet aan de regelgeving. Echter als gebruiker betekend niet dat je je achter dergelijke overeenkomst kunt verbergen, laat staan als klaarblijkelijk dat product niet voldoet. Zeker bij een partij zoals het UWV die met veel privacy gevoelige data werken hebben die een afdeling die zich bezighoudt met nagaan of ze zelf conform de regelgeving functioneren. We hebben geen inzicht in wat er nou precies gebeurd maar het lijkt weer een gevalletje waar een leidinggevende weer moedwillig een rapport dat hem niet aanstaat in de lade laat liggen.

Het wordt hoogtijd dat individuen persoonlijk verantwoordelijk worden gehouden, het moedwillig breken van de wet is toch niet acceptabel, waarom zouden wij als burger nog de wet volgen als een overheidorgaan dit blijkbaar niet hoeft te doen?

[SunnieNL]

Als eerste moet je de vragen daarvoor eerst stellen. De uwv heeft een onderzoeksplicht.
Het zomaar opnemen in een koopovereenkomst kun je doen, maar ontslaat je er niet van eerst of ook zelf te onderzoeken.
Als bedrijf ben jij verantwoordelijk dat je leveranciers zich aan de geldende wetgeving houden.

[Leemeijer]

Het Uwv, niet de Uv

[WillySis]

Zelfs zo'n regel in de overeenkomst ontslaat de opdrachtgever (in dit geval het UWV) niet van zijn verantwoordelijkheid. Wettelijk gezien blijft het UWV aansprakelijk, maar de regel zorgt er wel voor dat het UWV de leverancier op zijn beurt weer verantwoordelijk kan stellen voor de gevolgen van het niet voldoen aan de voorwaarden.

[RobbieB]

Dat zijn van die waaiboom afspraken, want ieder bedrijf is verplicht om aan de wet te voldoen, daar gaat een contract niks aan veranderen.

[Zoop]

"Ik zet altijd al mijn klantgegevens in Excel en als dat documentje uitgelekt raakt, ga ik Microsoft aanklagen"-vibes

[tja]

klopt helemaal, einde van de dag is het UWV verantwoordelijk. maar je ziet in dit al waar het fout gaat, in het opstellen van de eisen.

[Lord Anubis]

Inderdaad; anders mag ik ook te hard rijden want de leverancier of fabrikant heeft het zo gemaakt.

[kodak]

Het een sluit het ander natuurlijk niet uit.

Uit het artikel blijkt niet dat ze het in gebruik hebben. Terwijl een betaling niet zomaar zorgt voor verwerken voor de organisatie. Al lijkt het me nogal vreemd als de toezichthouder een betaling niet ziet als een besluit tot gebruik, aangezien er zowel voorwaarde gaan gelden bij betalen en er ook regels zijn om als overheid te gaan betalen. Ik lees niet dat je het oneens met de voorwaarden kan zijn, geen duidelijkheid over de wettigheid van verwerking kan hebben en dan alsnog alvast maar gaat betalen.

[kokosnoten]

Dit is volgens mij wel geparaphraseerd, want de opvolgende zin met het citaat heeft iets neemt meer verantwoordelijkheid: "UWV vindt het belangrijk dat de AVG-compliance van de aangeschafte software geborgd is en is hierover met de leverancier in gesprek"

[uiltje]

Dat is in ieder geval meer dan het afschuiven of onder de tafel stoppen. We zullen het vast gaan horen. Hopelijk houden ze niet te veel aan "sunk cost" als het niet opgelost kan worden.

[dimdek]

UWV is een overheidinstelling en die komen tegenwoordig overal mee weg ook al zou dat niet zo moeten zijn. Als ze het heel bont maken kan er wel eens een commissie komen en dan komt er een advies dat ze iets moeten gaan veranderen.

[UnanyMoose]

Iedereen lijkt hier aan te nemen dat de AI software de AVG overtreed door data van het internet te plukken, maar dat is niet hoe het in het document van het UWV staat. Niet dat ze er daar heel gedetailleerd op in gaan, maar ze hebben het er daar alleen over de totstandkoming van het model. En dat slaat natuurlijk gewoon op de recente uitspraak van de Autoriteit Persoonsgegevens rondom scraping.

Mijn gok is dat het gewoon een LLM tool is, en dat die leverancier aan de hand van die uitspraak naar het UWV zal moeten verantwoorden hoe het model tot stand is gekomen. En ja, dat is de verantwoordelijkheid van de software leverancier

[uiltje]

Heh, ja, maar UWV is verantwoordelijk voor hoe ze de dienstverlening en controle etc. uitvoeren. Dat UWV daarna bij de leverancier aan kan kloppen maakt ze zelf niet minder verantwoordelijk. Het zou wat moois worden.

[Arnoud Engelfriet]

Enige excuus is dat de AP vrij recent en vrij onverwacht met dit keiharde standpunt is gekomen. Zulke software aanschaffen duurt máánden en kan dus prima al besloten zijn voordat iemand kon weten dat de AP zich zo zou opstellen.

[Kevinp]

Na de toeslagen affaire zou je toch mogelijk wel verwachten dat dergelijke tooling erg, heel erg, strict bekeken wordt.

IMHO zou je zelf het AP hierin willen betrekken zodat je direct feedback krijgt ipv achteraf.

[Raymond Deen]

Ik weet alleen niet of de UWV de verantwoordelijkheid kan leggen bij die derde partij als leverancier.

Jij als werkzoekende ("klant" van UWV dus) hebt toch alleen te maken met UWV, net als de bedrijven waarmee jij in contact wordt gebracht?

[latka]

Er is sinds de introductie van ChatGPT meer dan een jaar terug twijfel over het al dan niet legaal zijn van de brondata. Ik vind niet dat iemand zich kan verschuilen achter de 'ja, maar ik wist het niet' opstelling.

[uiltje]

Ja, daar kan ik me wel enigszins in vinden. Maar zelfs dan zijn ze nog steeds verantwoordelijk. En de rechter legt vooral de wetten uit. Er is natuurlijk iets als jurisprudentie, maar dat moet ook ergens op gestoeld zijn.

[McBacon]

Aan de andere kant, er staat wel dit bij:

Opvallend is dat de software is aangeschaft terwijl er nog een andere toetsing loopt. Voorafgaand aan de inzet ervan is er een commissie 'Data-ethiek' geweest, die de software heeft beoordeeld. Er loopt echter nog steeds een ander traject: dat van een 'impact assessment voor mensenrechten bij de inzet van algoritmes'. Sinds 2022 is het voor overheidsinstanties verplicht zo'n iama uit te voeren voorafgaand aan de inzet van algoritmes die mogelijk gegevens van Nederlandse burgers verwerken.

Dus iets alvast aankopen terwijl er nog onderzoeken lopen of waarvan je wist dat die gedaan moesten gaan worden, dan lijkt het mij eigenlijk niet meer dat je een geldig excuus kunt hebben ook al kwam de AP "ineens" met hun standpunt. Dat assessment is sinds 2022 verplicht dus ze hadden echt gewoon beter moeten weten imo.

[Gwaihir]

Hmm.. nee. Dit gaat - denk ik - om een zekere tool die volledig leunt op het scrapen van LinkedIn. En daarmee de leverancier ervan ook. Die kan dus alleen maar zeggen 'dit is vast wel ok', want die is failliet zodra anders blijkt.

UWV had hier z'n eigen mini-Snowden: een (externe) medewerker die het ethisch niet trok, niet gehoord maar gewipt werd, en toen uit de school is geklapt naar een of andere journalist toe.

Ik vermoed naar Computable, want zij schreven al meer over deze aanschaf, maar ik kan het specifieke artikel niet meteen vinden. (Ze schrijven nogal veel over UWV.)

Afijn hij / zij lijkt wel succes te hebben al met al, want zo komt het heel langzaamaan toch in de openbaarheid en onder bredere evaluatie.

[WillySis]

Uit de het artikel en met name de rapportage en reactie van het UWV blijkt niet dat ze de software alg gebruiken, nog dat het juist niet gebruikt wordt. Het UWV is zo vaag als het maar kan.

De betrouwbaarheid van het UWV is al jaren ver onder de maat. Ik heb vaker meegemaakt dat men mondeling het één zegt en schriftelijk het tegenovergestelde concludeert. Ik nam daarom al mijn gesprekken met UWV medewerker op, wat mij als gevolg van een gerechtelijke uitspraak levenslang een gedeeltelijke arbeidsongeschiktheidsuitkering plus een bedrag voor "emotionele schade" opleverde.

In dit geval is met (vermoedelijk opzettelijk) zo vaag dat je niets met de uitspraak kunt.

[The Operator]

Wees er trots op je levenslange uitkering...

De betrouwbaarheid in het westen is heel ver te zoeken door het volk.
En nu het opgesommeerd wordt door Jan en alleman wordt dat steeds duidelijker dat het dus snode motieven heeft en/of niet goed uitgezocht en ingezet is, en dat hevig misbruikt wordt door het volk en kwaadwillenden. Allemaal om geld het welzijn van het kapitalisme.
Het volk moest daarvoor opdraaien en konden zij niet slapend in "the Matrix" houden! En nu barst de bom dus.

[WillySis]

Op zich zijn de regels duidelijk, maar onder de rechtse kabinetten zijn er steeds meer instanties gekomen die de menen de regels voor zichzelf op te kunnen rekken. Het Forum voor Democratie (of in elk geval een aantal leden daarvan) meent ook dat zij niet aan de regels van de Tweede kamer hoeven te voldoen en geven daarmee helemaal geen openheid over hun inkomsten en eventuele verbintenissen met bedrijven of andere mogendheden.

Met het UWV heb ik heel wat ellende gehad. De eerste keer moest ik daags na een zware hernia operatie weer aan het werk. Een tweede keer was ik mondeling afgekeurd, maar kreeg ik een brief dat ik weer volledig was goedgekeurd. Een week daarna kreeg ik de diagnose dat ik opnieuw aan een hernia moest worden geopereerd. Werken was onmogelijk. Ik slikte bijna een doosje Oxicondon per dag.

[Webgnome]

Het UWV zegt dat de leverancier van de software verantwoordelijk is om aan de AVG te voldoen. "UWV vindt het belangrijk dat de AVG-compliance van de aangeschafte software geborgd is en is hierover met de leverancier in gesprek", zegt de instantie.

Dat zegt heel veel. Dit is een mooi staaltje 'over de schutting'. Het is nou niet alsof, oa Argos, nog nooit onderzoek heeft gedaan naar gebruik van algoritmes bij de overheid. Dus je zou toch open dat er ergens bij het UWV een helder lampje zit die denkt. He.. dit zou eigenlijk niet zomaar moeten kunnen.

[Reactie gewijzigd door Webgnome op 22 juli 2024 14:23]

[BCC]

Mijn ervaring is dat zeker overheden heel zwaar leunen op ICT softwareleveranciers, omdat ze zelf weinig tot geen kaas gegeten hebben van de materie en bijvoorbeeld de privacy impact van dingen. De uitkomst van het gesprek kan zomaar zijn dat Argos een extra budgetje krijgt om "hun fout" op te lossen.

[Lord Anubis]

Tuurlijk weten ze dat; het is niet de eerste keer dat ze de fout ingaan.

[Mellow Jack]

Dat is niet perse het echte probleem. Tenminste o.b.v. mijn ervaring. Het is een standaard checklist. Prima om te hanteren. Maar in de praktijk wordt die lijst niet altijd gebruikt. Als ze wel gebruikt worden is het maar de vraag of een "must have" ook zo hard wordt afgedwongen en als laatste krijgen de personen die het uitvoeren niet voldoende vertrouwen om het juiste te doen. Mja das mijn persoonlijke ervaring.

Had al op plaatsten geklikt maar de onderliggende reden is dat we het helemaal niet kunnen betalen. In Nederland (en Europa) verzint de politiek allemaal constructies om ons te beschermen. Allemaal goede intenties maar de praktijk is dat je dan alleen maar producten en leveranciers kan kiezen die hierin voldoen en daar betaal je flink voor

[Reactie gewijzigd door Mellow Jack op 22 juli 2024 14:23]

[willieverhoef]

Het is een model dat getraind/ geleverd is door een leverancier. Het is niet zo dat UWV deze gegevens van internet haalt. Vind dat mischien in de vorm van heling komen, maar ja dan moet je het wel weten.

[The Zep Man]

Het is een model dat getraind/ geleverd is door een leverancier. Het is niet zo dat UWV deze gegevens van internet haalt. Vind dat mischien in de vorm van heling komen, maar ja dan moet je het wel weten.

Wat UWV koopt is een AI-systeem met daarin persoonsgegevens.

"Vind dat mischien in de vorm van heling komen, maar ja dan moet je het wel weten."

Opnieuw, UWV heeft het gekocht. Met andere woorden: UWV wordt (ook) verwerker van die persoonsgegevens, en moet zichzelf daarover (ook) verantwoorden. Kennelijk heeft er iemand bij UWV geslapen, want het is onduidelijk waar de leverancier die gegevens vandaan heeft gehaald. Dat zoek je uit voordat je zoiets koopt.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 14:23]

[Lord Anubis]

Denk dat stiekem het UWV het zo georkestreerd heeft.

[The Operator]

Ze kopen helemaal geen systeem met persoonlijke gegevens. Ze hebben een systeem gekocht die scraped op internet. Waarschijnlijk via Linkedin of dergelijken.

[Orangelights23]

Dus ze hadden het idee om een probleem op te lossen door het aanschaffen van een tool, waarbij geen risico's zijn geïdentificeerd omtrent het gebruik hiervan? Een commissie Data Ethiek klinkt leuk, maar je hebt gewoon met standaard risico's te maken als je van plan bent dergelijke tooling aan te schaffen. En je dient je te houden aan wet- en regelgeving. En dan zegt het UWV nog dat de leverancier aan de AVG moet voldoen? Heel apart dit.

[cariolive23]

Dus eerst kopen en daarna pas valideren of het aangekochte product wel voldoet aan alle (eigen) regels.

Incompetentie is een kwaliteit op zich.

[Powersoft744]

1: De ai-tool an sich heeft geen problemen. Naar verwachting voldoet deze volledig aan de AVG. Dat heeft alles te maken met hoe de openbare data verwerkt en bewaard is.
Er wordt hier iets door elkaar gehusseld. Je traint een AI-model met data. Als dat klaar is heb je geen nieuwe data nodig. Nieuwe data is nodig bij aanpassingen aan het model. In dit geval heeft de AI-tool geen herleidbare persoonsgegevens nodig om getraind te worden. De AI-tool wordt echter door verschillende marktpartijen gebruikt. Daarbij kan het zijn dat een partij de tool inzet om tegelijk openbare data en prive data te gebruiken om personen te matchen op openstaande vacatures. Daar zou dan overigens weer een gerechtvaardigd belang kunnen liggen. Dat is echter wel afhankelijk van de implementatie. Gebruik je de data eenmalig tijdens de matching en sla je deze niet op of bewaar je deze data voor later gebruik? Dat staat dan los van de AI-tool zelf.
Inhoudelijk valt hier veel meer aan toe te voegen. Dat is echter niet aan mij. Gezien de onderzoeken die nu lopen kan en wil ik me daar niet te veel over uitweiden. Ik adviseer de redactie als ze hier meer over wil weten contact op te nemen met 8vance.

2: Als je naar de uitspraak van de AP kijkt kunnen ook in feite de zoekmachines zich de borst nat maken. Want scrapen mag niet meer. Echter lijkt de AP daar een uitzondering voor te maken. Wat als je naar de strikte uitleg kijkt enigszins opvallend is. Ergens lijkt daar dus een gerechtvaardigd belang te zijn. Er lijkt wel direct een probleem met websites van zzp-ers. Dat zou dan ook gelden voor openbare informatie van medewerkers die op bedrijfswebsites staan. In principe zou google die niet meer mogen indexeren. Want scrapen (van persoonsgegevens) mag niet meer.

[m_snel]

Oh even gecontroleerd en ik ben nog steeds via Google te vinden bij LinkedIn.

[dez11de]

Dus de software zoekt op internet naar vacatures en dat zou niet mogen?

Mogen ze mij uitleggen waarom niet.

[MSteverink]

Stap 1: klik op de link in het artikel waarop je reageert.
Stap 2: Lees het artikel.

[Ludewig]

Ik vermoed dat de software vacatures zoekt die bij een CV/persoon passen. Dan kan ik mij voorstellen dat daar bepaalde vragen over zijn, met name over welke vacatures de software vindt passen bij een persoon. Het is vervelend als de software dat voor bepaalde mensen niet goed kan, maar ze van de UWV wel verplicht worden om op dergelijke vacatures te solliciteren.

Aan de andere kant krijg je van een UWV-medewerker ook niet per se goede suggesties, en kun je als werkzoekende natuurlijk altijd ook zelf zoeken. Dus zo ernstig lijkt het mij in principe niet als het niet helemaal optimaal werkt.

[kaas-schaaf]

Het probleem komt vanzelf, als je na verloop van tijd niet langer de keuze krijgt om een vacature te verwerpen (op dit moment 6 maanden als ik het goed heb). Je kan dus een vacature krijgen, die door het UWV verplicht wordt om serieus op te solliciteren, die voor geen meter aan sluit bij jouw kunnen of achtergrond. Reële kans dat je de WW-uitgegooit wordt door een koeienfeces beredenering van een AI tool.

Gaat helemaal leuk worden als het LLM's zijn met slecht gesaniteerde input (lees vrijwel alles) icm promptinjectie.

[Ludewig]

Het voordeel is dan wel dat je de sollicitatiebrief ook door een LLM kunt laten schrijven. En de werkgever wijst je ook af met een LLM.