ChatGPT kan in Europa bij betalende klanten nu ook gesprekken onthouden

ChatGPT heeft in Europa bij betalende klanten de functie gekregen om gesprekken te onthouden. De functie Memory, of Geheugen in het Nederlands, was elders al langer beschikbaar.

ChatGPT: Memory of Geheugen
ChatGPT: Memory of Geheugen

De functie is te vinden onder Instellingen-Personalisatie, zo merken diverse klanten op. Tweakers heeft met een eigen account kunnen verifiëren dat de functie beschikbaar is. Het was al langer duidelijk dat de functie ook in Nederland beschikbaar zou worden gesteld. De Britse ontwikkelaar Mike Grant ontdekte enkele weken geleden dat de faq alleen nog vermeldde dat de functie in 'Korea' niet beschikbaar is, waar voorheen Europa daar nog bij stond. OpenAI heeft niets gezegd over het beschikbaar stellen van de functie, die het mogelijk maakt om gesprekken te onthouden en zo voorkeuren en informatie mee te nemen in nieuwe gesprekken. Dat moet de antwoorden relevanter maken. De functie is niet beschikbaar voor gebruikers van de gratis versie.

Door Arnoud Wokke

Redacteur Tweakers

05-09-2024 • 15:12

31

Submitter: IMarks

Reacties (31)

31
31
6
2
0
24
Wijzig sortering
Aldus OpenAI:
How does memory work?

Memory works similarly to Custom instructions, except that we’ve trained our models to update the memories rather than requiring users to manage them. That means that when you share information that might be useful for future conversations, we’ve trained the model to add a summary of that information to its memory. Like custom instructions, memories are added to the conversation such that they form part of the conversation record when generating a response.

The model has been trained to also manage memories, including by intelligently updating pre-existing memories, consolidating memories where appropriate, and forgetting memories when instructed by the user.
Beetje mooier gemaakt dan het daadwerkelijk is door dit 'geheugen' te noemen dus. Het is wat extra context die als tokens toe worden gevoegd aan de prompt, enige vershil is nu dat deze context afhangt van eerdere prompts. Dat wil ik nog geen geheugen noemen zoals je dat van een mens verwacht.

[Reactie gewijzigd door langestefan op 5 september 2024 16:33]

Inderdaad.

Aanvulling:
Net even getest (web/desktop) en tijdens het chatten wordt een aparte melding in de UI getoond met de tekst "Memory updated". Daar kun je overheen hoveren om te zien welke tekst onthouden wordt. Je kunt er ook naar een ander stuk in de interface springen (settings) waar je alle "Memories" kan zien en kan verwijderen.

In zekere zin is het vooral een meer organische manier om je custom instructions op te bouwen.
Dat doet ChatGPT al weken hier. Als ik die memories terugkijk dan gaat dat ook echt een heel eind terug.

Ik had hier laatst een discussie over (met ChatGPT :+ ) en die beweerde dat er geen memory systeem was. Wist echter desgevraagd wel te vermelden wat voor werk ik deed en daar hadden we het in die chat nog niet over gehad.

Ik heb 'm echter nooit kunnen betrappen op het gebruik van die informatie als ik er niet specifiek om vroeg. Misschien is dat nu anders geworden.

[Reactie gewijzigd door doltishDuke op 5 september 2024 17:27]

Ik heb nog geen informatie over wat voor werk je hebt gedaan. Als je meer wilt delen, kan ik dat onthouden voor toekomstige gesprekken!

Gelukkig, mij heeft hij nog niet via via.
Zou ook naief zijn te denken dat een taalmodel ook maar in de buurt zou komen van de werking van het brein.
Nouja dat is wel het doel. Maar een geheugen zoals een mens dat heeft is 'passief' in de zin dat je het niet opnieuw hoeft op te nemen bij ieder nieuw gesprek. Dat is bij ChatGPT dus wel zo, bij ieder nieuw gesprek moet eerst die hele geleerde context er weer doorheen. Lekker efficiënt
Gratis ChatGPT gebruiker hier, ik heb net een optie gekregen om het aan te zetten, dus blijkbaar is deze functie wel beschikbaar voor gratis gebruikers, of wordt beperkt uitgerold voor gratis gebruikers
Hier ook. Ik kreeg de vraag of ik het in wilde schakelen. Ik heb nee gezegd zodat mijn ene gesprek niet 'vervuild' wordt door het andere gesprek.

Wat dat betreft komt die laatste zin wat onjuist over @arnoudwokke:
De functie is niet beschikbaar voor gebruikers van de gratis versie.
Gesprekken werden al onthouden; de inhoud van deze gesprekken wordt nu alleen gebruikt om bij nieuwe gesprekken te 'weten' wat voor voorkeuren en kennis je al over onderwerpen hebt.
OpenAI heeft niets gezegd over het beschikbaar stellen van de functie
Overigens kreeg ik bij inloggen vanmorgen netjes een melding dat deze functionaliteit nu beschikbaar is.
Als het wat langer geleden was leek chatgpt toch zaken te zijn vergeten binnen dezelfde thread. Ik kreeg bijvoorbeeld errors toen ik een tabel opnieuw wilde wijzigen terwijl ik dat in die thread al 5x had gedaan een week eerder.
Op een gegeven moment is het geheugen gewoon vol, dan worden oudere berichten weer vergeten. Voor 8000 woorden is volgens mij al minimaal 80GB geheugen nodig.
Het ging mij niet over dat ze je chathistorie als basis gebruikten voor nieuwe gesprekken, maar dát ze je chathistorie bewaren.

Het enige foefje dat ze nu doen, is deze historie analyseren en samenvatten (waarschijnlijk allebei gewoon via ChatGPT zelf) en dat bij elk nieuw gesprek inladen samen met de system prompt.
Zoek voor de grap Context Window eens op, geeft veel inzicht in hoe deze dingen nou echt werken.
Nieuwe functie werkt vele malen beter. Voor de update werden mijn voorkeuren amper tot niet meegenomen en dit werkt nu vele malen beter en heel fijn dat het belangrijke punten onthoudt
Mwah...
Vraag ChatGPT om een recept in het Engels, komt ie met cups en lbs. Vraag em om hetzelfde recept metrisch te gebruiken. Klets wat door. Vraag recept en voilà, wederom imperial.
Vraag ChatGPT maar eens naar de politieke situatie in bijv. Congo en je krijgt op het eind een disclaimer. Vraag deze niet te gebruiken. Vraag vervolgens naar de politieke situatie in een ander land en je raad het al, wederom disclaimer....
Weet iemand of ChatGPT persoonlijke data zoals namen etc. doorspeelt naar derde partijen? Anders laat ik dit mooi uit.
Je kan iig via een opt out aangeven dat je input niet gebruikt wordt om het model te trainen. Of dat gehonoreerd wordt, moet je maar op vertrouwen. Denk dat een goede richtlijn is om dingen die je niet wilt dat doorgespeeld zou kunnen worden geanonimiseerd in de chatbot te gooien, maar dat geld natuurlijk net zo voor een zoekopdracht op Google.

dit is wat ze er zelf over zeggen:
One of the most useful and promising features of AI models is that they can improve over time. We continuously improve our models through research breakthroughs as well as exposure to real-world problems and data. When you share your content with us, it helps our models become more accurate and better at solving your specific problems and it also helps improve their general capabilities and safety. We don’t use your content to market our services or create advertising profiles of you—we use it to make our models more helpful. ChatGPT, for instance, improves by further training on the conversations people have with it, unless you opt out.
https://help.openai.com/e...improve-model-performance

[Reactie gewijzigd door Bartske op 5 september 2024 15:23]

Het is een Amerikaans bedrijf, dus alle data is in handen van de Amerikaanse overheid, wat bij wet is geregeld. Dit staat helemaal los van de memory functionaliteit.

OpenAI heeft een aantal security mensen in dienst en ze hebben een SOC verklaring beschikbaar. Ik heb namens verschillende bedrijven contact met OpenAI en uit hun procedures en processen (third part risk management / due diligence) komt naar voren dat OpenAI even betrouwbaar is als bijvoorbeeld een Google.

Let wel: er zijn verschillende klokkenluiders bij OpenAI die zeggen dat ze onethisch omgaan met de data en bijbehorende modellen. Dit zijn geruchten op dit moment. Belangrijk om mee te nemen in je overwegingen.
Als je gegevens van anderen (voor een organisatie) verwerkt zou ik deze uit Chat GPT laten, tenzij je toestemming hebt van de personen om dat te doen.Autoriteit persoonsgegevens waarschuwt ervoor.

Het invullen van persoonsgegevens in een LLM als ChatGPT is in de ogen van de AVG gewoon persoonsgegevens verwerken en vereist een grondslag.
Ik ben geen betalende klant, maar kreeg vandaag wel de pop-up met de vraag of ik dit wilde aanzetten.
Zelfde hier. Die optie kreeg ik ook en ben ook geen betalende klant.
Ik ben ook geen gebruiker met een abo, maar heb wel een betaalmethode gelinkt om 'pay-as-you-go' de api te gebruiken. Wellicht dat dat al voldoende is, want ik heb ook deze feature.
Dat is volgens mij niet nodig: ik kreeg dezelfde melding zonder de "pay-as-you-go"-betaalmethode te hebben gelinkt.
Ik:
Wat was het vorige onderwerp waar ik over met je gepraat heb?

ChatGPT:
Het laatste onderwerp waar we het over hadden, ging over je vijfjarige stiefdochter die van roerei houdt.


Dit slaat helemaal nergens op, maar ik heb wel gelachen :')
Ik had weken terug dat ChatGPT ineens iets zei wat het niet kon weten op basis van het huidige gesprek. Nu de Memory-feature beschikbaar is, zie ik dat ik al een Memory had en dat was precies datgene dat toen gebruikt werd. Het voelt dus alsof ik er al eerder gebruik van heb gemaakt, zonder dat het expliciet aan stond.
Ik heb het uit laten staan.

Ik gebruik ChatGPT in veel verschillende contexten en dit "geheugen" is globaal voor je account.

Als het geheugen weet dat:
- Ik houd van pannenkoeken

Dan lijkt dat mij alleen maar onrelevante ruis in de context als ik ChatGPT vraag om een stuk code te herschrijven.

Of als ik het gebruik voor inspiratie voor mijn dungeons and dragons campaign, dan hoef ik niet op eens een pannenkoeken gerelateerde side quest te krijgen (zou wel grappig zijn nu ik er zo over nadenk)

De functie die ik echt mis id dat ik conversaties niet kan groeperen or orderenen. Dan zou zo een contextueel geheugen wel relevant zijn binnen de groep van conversaties.
Bij de introductie van 4o werden meerdere toepassingen opengesteld voor de gratis gebruikers (o.a. GPT-store). Ook memory is toen beschikbaar gesteld voor de gratis gebruikers (behalve in Europa en Korea). Bij tussentijdse updates of bij gebruik van VPN was het in de afgelopen maanden soms mogelijk om gebruik te maken van memory in Europa. Meestal was dit slecht van korte duur. Tot nu dan: Iedereen die ik vandaag sprak heeft toegang tot memory (zowel gratis als betaald gebruikers).
Ik betaal niets, en ik heb het ook aangeboden gekregen. Wel in het verleden ooit betaald.. misschien maakt dat nog uit.

Op dit item kan niet meer gereageerd worden.