Britse marktwaakhond start onderzoek naar AI-modellen zoals generatieve AI

De Britse markttoezichthouder CMA is met een eerste onderzoek gestart naar foundationmodels zoals largelanguagemodels en generatieve AI. Met het onderzoek kijkt de CMA onder meer naar de mogelijkheden en risico's van deze modellen voor consumenten en concurrentie.

"Foundationmodels hebben de potentie om veel van wat mensen en bedrijven doen, te veranderen", schrijft de Competition and Markets Authority. "Om er zeker van te zijn dat innovatie in kunstmatige intelligentie zo gaat dat consumenten, bedrijven en de Britse economie er voordeel van hebben, heeft de overheid toezichthouders als de CMA gevraagd te onderzoeken hoe de innovatieve ontwikkeling en uitrol van AI kan worden ondersteund." Daarbij wordt er naar vijf principes gekeken; veiligheid en robuustheid, transparantie en verklaarbaarheid, eerlijkheid, verantwoordelijkheid en bestuur, en voldoende klacht- en beroepsmogelijkheden.

Met het onderzoek wil de CMA beter begrijpen hoe de foundationmodels ontwikkelen. Daarnaast moet het duidelijker worden welke voorwaarden er nodig zijn om deze ontwikkeling en het gebruik te kunnen sturen. Daarbij focust de markttoezichthouder voornamelijk op welke gevolgen AI-ontwikkeling kunnen hebben op concurrentie en consumentenbescherming. Andere Britse overheidsorganen kijken weer naar bijvoorbeeld veiligheid, privacy, mensenrechten en auteursrecht, meldt de CMA.

Belanghebbenden kunnen zich tot 2 juni bij de autoriteit melden als ze bewijs of hun visie willen delen. De CMA wil in september zijn rapport uitbrengen. Voorbeelden van tools die gebruikmaken van largelanguagemodels en generatieve AI zijn ChatGPT, Bing Chat en Google Bard. Eerder werd ChatGPT in Italië verbannen vanwege privacyzorgen, al is de chatbot sinds eind vorige maand weer in het land beschikbaar.

Door Hayte Hugo

Redacteur

04-05-2023 • 14:44

7

Lees meer

Reacties (7)

Sorteer op:

Weergave:

Ik wens ze veel succes in het bepalen van 'veiligheid en robuustheid, transparantie en verklaarbaarheid, eerlijkheid, verantwoordelijkheid en bestuur, en voldoende klacht- en beroepsmogelijkheden' in een model waarvan de ontwikkelaars zelf niet eens weten hoe (of waarom) het werkt... :+

Klinkt als een mooie overheidsklus voor dure jongens als PricewaterhouseCoopers-McKinsey-Deloitte & partners...

/s = dit betekend dat ik wel snap dat deze zaken ook ergens anders kunnen worden afgebakend maar het gaat om het principe.
Zie hier een mooi overzichtje waarom het onmogelijk is om zaken als prompt injectie te voorkomen: https://simonwillison.net/2023/Apr/14/worst-that-can-happen/
Exactly my thoughts.
Snap alleen niet hoe je "concurrentie" kan onderzoeken zonder IP zaken zoals auteursrecht hierin mee te nemen. Misschien alleen onderlinge concurrentie en toegang tot gegevensbronnen?
Die brexiteers die op Reddit oeverloze kritiek leverden op de EU-maatregelen in shambles... lol.
Als ze maar niet ChatGPT of midjourney gaan verbieden of zwaar limiteren is het prima
Lijkt me makkelijk om het VK via IP uit te sluiten.

Op dit item kan niet meer gereageerd worden.