Protons AI Paper Trail analyseert wat ChatGPT en Claude over gebruikers weten

Proton heeft een tool uitgebracht waarmee gebruikers kunnen achterhalen wat concurrerende AI-modellen van hen weten. De tool, AI Paper Trail, is in de eerste plaats een marketingtruc om gebruikers naar Lumo over te halen, maar geeft desondanks wel inzicht in wat large language models (llm's) over hun gebruikers weten.

Proton zegt dat de tool bedoeld is om gebruikers inzicht te geven in hoeveel privacygevoelige gegevens llm's over gebruikers hebben. "Een enkele prompt geeft niet veel over je prijs. Maar weken of maanden ervan kunnen onthullen wie je bent met oncomfortabele nauwkeurigheid", schrijft Proton.

AI Paper Trail is onderdeel van Lumo, Protons eigen llm die volgens het bedrijf veel privacyvriendelijker werkt. Dat is uiteraard ook de reden om AI Paper Trail uit te brengen. Proton wil zich met al zijn software afzetten tegen bigtechbedrijven die leven van gebruikersdata en wil met AI Paper Trail aantonen dat Lumo wél privacyvriendelijk werkt.

ChatGPT en Claude

De tool werkt met data van ChatGPT of Claude, zegt Proton. Gebruikers kunnen hun gebruikersdata exporteren uit die twee diensten en de exportbestand vervolgens weer uploaden naar AI Paper Trail. Die analyseert de data en genereert een rapport. In dat rapport staat onder meer welke data ChatGPT en Claude hebben over de gebruiker, maar ook scores die aangeven hoeveel de llm binnen bepaalde onderwerpen weet. Iemand die ChatGPT bijvoorbeeld veel voor school gebruikt, geeft meer weg over diens opleiding.

In het rapport staat verder een score die aangeeft hoe eenvoudig het was om de gebruiker te profileren. Er staat ook een 'datawaarde' in, al is onduidelijk op basis waarvan die is bepaald.

Proton zegt dat de geüploade gebruikersdata direct na het analyseren wordt gewist, vergelijkbaar met hoe Lumo zelf werkt. Vooralsnog werkt de tool alleen met data van ChatGPT en Claude, maar Proton wil daar later 'meer AI-platforms aan toevoegen'.

Dit is niet AI Paper Trail, maar alleen een beeld ter illustratie

Reacties (19)

[jellevanderpal]

Ik heb een zeer waardevolle feedback gekregen. Ja, AI (Claude) weet veel van mijn handel en wandel. Hoewel ik transparantie voor-sta - en dat vooral en alleen voor mijzelf beoog te implementeren en vooral niet namens klanten of leveranciers, laat ik hier toch wel steken vallen. Ik ga er mee aan de slag. Handige awareness tool
Maar inderdaad, het is dat dit van Proton komt, en niet door Proton wordt opgeslagen, anders is nog een extra verwerker toevoegen aan je chain natuurlijk ridicuul.

[SinergyX]

Maar bij chatgpt moet je dan memory/geheugen toch aanzetten?

[Zoijar]

Geloof je het nog dat men daadwerkelijk dingen niet record en opslaat? Ik niet echt namelijk...

[sdziscool]

tsja als je zo gaat denken kun je beter je pen en papier erbij halen en de computer nooit meer aanzetten.

[Zoijar]

Of controleren wat je online zet en wat niet, en ervan uitgaan dat wat je online zet openbaar is.

[Dnbr]

Ik zie de meerwaarde hier niet van in. Als alle gebruikersdata geimporteerd moet worden in Lumo, dan is er dus nog een chatbot meer die alles van je weet.

[SpaceDok]

Dat valt wel mee. Zodra je Lumo afsluit is het weer verwijderd.

Proton zegt dat de geüploade gebruikersdata direct na het analyseren wordt gewist, vergelijkbaar met hoe Lumo zelf werkt.

[kondamin]

verschil is dat proton de data weg gooit, en ik geloof proton meer dan de rest.

[Shinji]

Niet per se, Lumo houdt dat juist niet bij (in elk geval naar eigen zeggen). Dus aan het eind van je sessie zou dat weg moeten zijn.

[La1974]

Misschien nog even de laatste alinea lezen?

[SpoekGTi]

Ging bij mij al fout, exportje gemaakt van Claude.Ai netjes instructies gevolgd, foutmelding dat hij niet kan analyseren.

[InflatableMouse]

Hier hetzelfde. Beetje jammer dit.

[theobril]

Beetje off-topic, maar ik gebruik de lumo-light-version. Die bevalt best goed voor het kruimelwerk wat ik vraag. Heeft een van jullie ook ervaring met de betaalde versie, is die heel veel beter?

[meowmofo]

Ik heb die hele optie niet in ChatGPT. Zou dat wellicht zijn omdat ik een businessaccount heb?

[Nightjar]

Je hebt in ChatGPT deze optie ook. D.w.z. in mijn teams abo heb ik die optie. Is idd griezelig nauwkeurig. Gebruik het voor werk en ongemerkt worden er toch privé vragen gesteld, want steeds wisselen van account, doe je simpelweg niet.

Vraag mij overigens wel af, als ik alle privé gesprekken wis, hoeveel info er dan nog achter blijft. Want als ik nu een vraag binnen een chat stel waar enige tijd tussen zit, dan snapt ChatGPT het niet of moet ik meer context geven. Dus hoe lang bewaard een LLM zijn (mijn) gegevens?

[Inproba]

Ik weet dat de AI tool die ik gebruik zaken van mij afweet, en dat is een bewuste keuze want dan hoef ik niet telkens altijd alles te vertellen. Maar baseert het de antwoord ook op wat het al weet, en dat is vaak goed. En voor die dienst betaal ik dan ook, en probeer de instellingen zo in te stellen dat als het goed is die gegevens niet hergebruikt wordt elders. Dus vooral dat laatste is interessant of dat gebeurt of niet.

Als je een "gratis" AI gebruikt kan het me eerder voorstellen dat die jouw data gebruikt voor LLM training. Want niets is gratis.

[Scadro]

Dit is totaal irrelevant.