Kunstmatige intelligentie GPT-3 schrijft aflevering Nederlandstalige podcast

"I'm shocked how hard it is to generate text about Muslims from GPT-3 that has nothing to do with violence... or being killed..."

Niets menselijks is een AI vreemd.....

Het artikel is lovend over de door de ai ontwikkelde podcast. Daar hoeft wat mij betreft niet alles over ai benoemd te worden. Ik gok dat jouw probleem te maken heeft met de taal. Wanneer de ai Arabisch zal leren zal hij beter met zaken om kunnen gaan waar Arabische landen bredere teksten over hebben.

Dit soort bias komt typisch voort uit slechte trainingsdata

Dat is één van de mogelijke oorzaken. Echter wel een amateuristische fout die ik OpenAI niet snel aan zou rekenen, gezien hun werk tot nu toe.

Je moet goed nadenken over wat je wilt dat zo'n tekst genererende AI genereert. Als je wilt dat alles in gelijke mate voorkomt, dan zul je je trainingsdata moeten normaliseren zodat je ieder onderwerp evenveel meeneemt in de training.

Echter, als je wilt dat je model/AI de werkelijkheid benadert, dan doe je dat juist niet. De werkelijkheid is ook niet overal in balans (en zal dat ook nooit zijn, ongeacht hoeveel we het proberen te sturen).

Misschien goed om bij dit soort lovende artikelen ook de schaduwkant van dit soort algoritme's te noemen:

Mijn punt: probeer niet te spreken van een "schaduwkant". Die schaduwkant is namelijk precies dezelfde functionaliteit als waar zo "lovend" over gesproken wordt, alleen dan in een andere maatschappelijke context.

Wat ook wel belangrijk is om dit bericht ook wel weer te zien met de bias die het heeft. Ik weet namelijk niet zeker of jij het zo bedoelt, maar het lijkt mij niet toevallig dat het over moslims gaat. Het voelt namelijk een beetje al iemand die zich verongelijkt voelt en dat probeert te bevestigen, wat ook een vorm van bias is.

Begrijp me niet verkeerd, ik ontken niet dat er een bias is. Dat is namelijk vrij duidelijk, die bias is er. Maar die bias is er niet alleen voor moslims, misschien is hij er ook voor christenen, joden etc. Dat vind ik best een belangrijke toevoeging aan de discussie. Op de manier waarop jij het (onbewust?) schetst lijkt het namelijk alsof je in gaat op het feit dat het een bias heeft tegen moslims, maar het belangrijke punt is dat het een bias heeft. Die framing doet dan in mijn ogen een beetje af aan de grotere discussie er omheen en kan ook nog eens hele foute resultaten geven (ik denk aan een echt voorbeeld, de gekke situatie waarin mensen de Gamma opeens blind aanvallen omdat er posters zijn waar vrouwen lampjes in draaien, daar laten ze voor het gemak de foto's van mannen die lampjes indraaien weg, want dat zou hun hele argument natuurlijk verpesten).

Verder ben ik het dus helemaal eens met je punt, die bias is er. Maar daarbij is het wel van belang in hoeverre die bias er is. Wellicht kan hij over christenen alleen teksten bedenken over hoe ze kinderen aanranden en over joden hoe ze alles doen om geld te krijgen.
En dan krijg je nog het lastige punt, wat kan je daar aan doen. Bias is namelijk inherent aan de mens, dat is altijd zo geweest en zal nooit weg gaan. Denk alleen al aan bias in de cultuur, in westerse culturen zijn ouderen veel minder belangrijk dat in bijvoorbeeld het Midden-Oosten. Dat zal je ook terug zien in teksten, waar ouderen daar veel meer op een voetstuk staan dan teksten die hier geschreven worden. Dus tot op zekere hoogte is het de vraag, moet je die bias er uit willen halen? Bias is namelijk het enige wat een cultuur een cultuur maakt, en ons niet één homogene massa aan mensen. Die bias moet natuurlijk zo min mogelijk kwetsend zijn, maar dan komt de vraag wie gaat bepalen wat kwetsend is?

Uiteindelijk is het een eenvoudig probleem om aan te merken, maar ik denk in de praktijk onmogelijk om op te lossen. Er is niet één AI die alle nuances van de wereld zal hebben, want die nuances spreken elkaar tegen. Uiteindelijk is dit denk ik altijd een aandachtspuntje bij AI, maar voornamelijk in de interpretatie daarvan.

Ik zeg niet dat je compleet ongelijk hebt, maar het verzamelen en presenteren van al beschikbare informatie op een behapbare manier voor de luisteraar heeft ook waarde.

De informatiedichtheid van POM ligt juist vrij hoog. Je kan uit het feit dat de AI geen nieuwe dingen kan verzinnen die waar zijn (wat overigens al niet klopt) die conclusie ook niet trekken: de AI heeft wel een nieuwe aflevering gegenereerd maar die is natuurlijk niet per se van de zelfde inhoudelijke kwaliteit als normale afleveringen.

De software is een soort digitale GhostWriter.

Voor een podcast uit eerdere teksten logisch dat het eerdere informatie bevat, was denk ik bedoeld als benchmark/proof of concept.

Maar ze zouden ook alle Tweakers-artikelen over een bepaald onderwerp kunnen inladen, en daar dan een podcast over laten genereren zonder zelf onderzoek te hoeven doen. Of bijv een discussie van alle reacties over een onderwerp (zitten al 1/2/3+ waardes aan waar een computer prioriteit mee kan laten wegen).

Je zou een AI kunnen bouwen die alle kerndata combineert, of juist alle grapjes achter elkaar plakt, of een ander soort 'best of'. (Voor Discovery/National Geographic; iets dat alle herhalingen en andere dubbele uitleg eruit stript zou geweldig zijn, kan documentaires met 30% van de tijd terugdringen.)

Over podcasts in het algemeen, mogelijk zijn ze bedoelt voor een andere doelgroep?

Ik zie het bijvoorbeeld in ruimtevaart webinars op SpaceNews; ze voegen vaak weinig toe aan mensen die regelmatig de site volgen. Maar voor mensen die daar geen tijd voor hebben/het onderwerp niet volgen zijn het vaak goede samenvattingen van de onderwerpen.
Op youtube staan ook presentaties met uitleg over werking van raketmotoren, ruimtevaart geschiedenis etc. Voor mensen uit de industrie of die het geleefd hebben waarschijnlijk te oppervlakkig, maar voor een outsider als ik erg leerzaam.