Nextcloud stopt met zijn bugbountyprogramma door het grote aantal ingezonden rapporten dat volledig is gegenereerd door AI. Inzendingen die vanaf woensdag worden ingediend, komen niet in aanmerking voor financiële beloningen.
In een e-mail, die onder meer op Privacy Guides is gedeeld, schrijft Nextcloud dat het steeds meer 'generieke AI-beveiligingsrapporten' krijgt via platforms als HackerOne. Daardoor wordt het steeds lastiger om goede rapporten te identificeren. "Ons doel is om het aantal door AI gegenereerde rapporten van lage kwaliteit te verminderen en ons te richten op wat er echt toe doet. Daarom hebben we besloten ons bugbountyprogramma per 22 april stop te zetten en geen financiële beloningen meer uit te keren voor inzendingen, ongeacht de ernst", aldus Nextcloud.
Complete onzin
Medeoprichter Jos Poortvliet laat aan Tweakers weten dat het aantal AI-gegenereerde beveiligingsrapporten de afgelopen maanden enorm is gestegen. "Het is echt snel gegaan. Engineering heeft intern aangegeven dat het echt onhoudbaar is. We zijn twintig tot dertig keer zoveel tijd kwijt aan reports als hiervoor en het is allemaal dubbel, ongeldig of echt complete onzin."
Poortvliet zegt dat het project eerst andere oplossingen heeft gezocht: "Daarbij hebben we ook gekeken naar veel andere projecten. Op een zeker moment gingen we vragen om een screenshot als bewijs om toch weer een menselijkheidscheck toe te voegen. Dan moesten gebruikers screenshots of een video van het probleem delen. Toen kregen we natuurlijk weer AI-gegenereerde screenshots."
Poortvliet hoopt op maatregelen van HackerOne
HackerOne, het platform dat Nextcloud gebruikte voor zijn bugbountyprogramma, is op de hoogte van het besluit. Poortvliet hoopt dat zulke platforms uiteindelijk maatregelen gaan nemen tegen AI-slop: "Die platforms zullen wellicht ook op zoek moeten gaan naar een oplossing. Het helpt natuurlijk ook hun businessmodel om zeep. HackerOne verdiende natuurlijk geld aan ons en nu niet meer. Maar in de tussentijd hebben we het gewoon even stopgezet. Het geld is niet het probleem, maar het behandelen van alle rapporten was niet te doen."
Nextcloud is niet het eerste opensourceproject dat worstelt met AI-slop. Eerder zette ook curl zijn bugbountyprogramma stop door het grote aantal rapporten dat was gegenereerd met AI. Tweakers schreef eerder al een achtergrondartikel over de problemen die AI-meldingen opleveren voor opensourceprojecten.