Door Arnoud Wokke

Redacteur Tweakers

Waarom bedenken AI-chatbots dingen?

Liever verzonnen dan gezwegen

17-06-2023 • 06:00

101

Singlepage-opmaak

Inleiding

Net zoals mensen zichzelf wel eens googelen, kon ik het niet laten om mezelf en collega's te 'gpt'en'. ChatGPT, Bing, Bard en andere taalmodellen zijn geen feitenmachines, maar toch kwam ik dingen te weten die opvallend waren. Een chatbot op basis van GPT-3 vertelde dat collega Jurian, bekend van reviews over games en de podcast, en ik, beiden een filmhuis hadden en filmprijzen hadden gewonnen met ons werk.

.

GPT-4 zou beter moeten zijn en hoewel ChatGPT met die versie mij geen prijzen toekende, wist die wel te vertellen dat Jurian inmiddels al vijf jaar bij een ander bedrijf aan de slag was gegaan als 'contentstrateeg'. Over die carrière had hij kennelijk nooit iemand verteld, of het was simpelweg niet waar.

Wie werkt met chatbots, zal hier vaak tegenaan lopen. De GPT-gebaseerde generators verzinnen om de haverklap feiten, omstandigheden of mensen. Het is simpelweg geen encyclopedie; het is een taalmodel dat probeert antwoorden te formuleren door te berekenen wat het meest logische volgende woord is op basis van de context. Maar waarom verzint hij dan dingen? En is daar iets aan te doen? Het is tijd om te kijken naar een van de grote schaduwzijdes van AI-generators, namelijk dat je er niet op kunt vertrouwen wat ze zeggen.