Baidu brengt in maart zijn generatieve AI-bot uit met groter model dan ChatGPT

De Chinese webgigant Baidu brengt in maart een publieke versie van zijn AI-chatbot uit. Die maakt gebruik van een groter taalmodel dan ChatGPT. De AI-chatbot krijgt de naam Ernie, een afgeleide van het taalmodel dat Baidu gebruikt.

Baidu bevestigt de komst van de chatbot tegenover The Register, nadat daar eerder in Chinese media over werd gesproken. De naam Ernie is gebaseerd op het naturallanguageprocessingmodel dat onderzoekers bij Baidu hebben ontwikkeld. Het Ernie-model staat voor Enhanced Representation through Knowledge Integration en stamt uit 2019. De broncode van dat model is inmiddels ook op GitHub gezet. Het model maakt onderdeel uit van meerdere grote modellen, zoals die voor het begrijpen en schrijven van taal, dat Baidu Ernie 3.0 Titan noemt. Een ander model van Baidu heet Ernie-ViLG en is bedoeld voor het genereren van afbeeldingen op basis van tekst.

Het is niet bekend wat de AI-chatbot precies kan en waartoe die in staat is. Baidu heeft in de loop der jaren een onderzoeksafdeling opgezet met ambitieuze plannen op het gebied van generatieve kunstmatige intelligentie. Ernie 3.0 Titan, dat in 2021 uitkwam, heeft 260 miljard parameters. Dat zijn de voorspellende waarden van een generatief chatmodel. Dat zijn meer parameters dan bijvoorbeeld ChatGPT, dat er 175 miljard gebruikt. Ernie zou zich volgens een woordvoerder van Baidu onderscheiden ten opzichte van de rest van de AI-chatbots: "Ernie heeft het vermogen om uitgebreide kennis te integreren met een enorme hoeveelheid data, wat resulteert in uitzonderlijke prestaties in het begrijpen en genereren van taal", zegt een woordvoerder van Baidu.

Het Chinese Baidu is een van de vele grote techbedrijven die momenteel in een wapenwedloop op AI-gebied verwikkeld lijken te zijn. ChatGPT van OpenAI kreeg onlangs een investering van 10 miljard dollar van Microsoft, dat hoogstwaarschijnlijk van plan is de chatbot te integreren in zoekmachine Bing. Google presenteerde daarnaast op maandagavond een eigen chatbot genaamd Bard, al is die nog niet publiekelijk beschikbaar. Het is enigszins opvallend dat Baidu als Chinees bedrijf een chatbot uitbrengt die naast het Chinese schrift ook is getraind op het Westerse schrift. Het is niet duidelijk of Baidu plannen heeft om de chatbot uiteindelijk voor Westerse gebruikers uit te brengen en in welke vorm dat gebeurt.

Dat Baidu en Google al plannen hebben gepresenteerd voor een eigen chatbot zonder die daadwerkelijk te tonen, geeft aan dat de bedrijven de concurrentie van ChatGPT voelen. Google zou inmiddels ook weer de hulp van Larry Page en Sergey Brin hebben ingeschakeld om met een antwoord op ChatGPT te komen.

Reacties (65)

[Auredium]

Vraag 1 aan de ChatAI's is natuurlijk of ze hun eigen code kunnen verbeteren/optimaliseren en dan het daaruit voort komende nieuwe ChatAI programma de opdracht kunnen geven om hetzelfde te doen.

De ChatAI wars zijn begonnen. Ik ben benieuwd wat de gevolgen zullen zijn voor ons als maatschappij over zeg 10 of 20 jaar. Ik denk overigens dat Google de grootste datapool heeft voor hun AI training.

[killani64]

ChatAIs zijn nog steeds vooral taalmodellen. Ze kennen iets van code voor zover iemand ooit een stuk code heeft gepost en erbij (in taal) uitgelegd heeft wat het doet. Probeer maar eens een uniek stuk code naar ChatGPT te sturen en zonder meer te zeggen "Optimaliseer dit even". Buiten voor de hand liggende dingen als loops uitrollen of een bekend sorteeralgoritme door radix sort te vervangen gaat de AI de bal (heel zelfzeker) volledig mis slaan.

Nog steeds vreemd dat mensen de ChatGPT al zien als een denkend wezen ipv een stochastisch model.

[teun95]

Natuurlijk zijn het taalmodellen, maar taal is ook het enige medium waarmee wij met een Chat AI communiceren. Reden bestaat niet uit taal, maar kan wel uitgelegd worden in woorden. Zo lang de hoeveelheid data en rekenkracht groot genoeg zijn zie ik niet in waarom een taalmodel beperkt zou moeten zijn in haar capaciteit om reden te gebruiken en bijvoorbeeld code te optimaliseren.

Dat ChatGPT beperkingen heeft is duidelijk, maar het is dan ook de eerste versie van een taalmodel wat goed genoeg is om de aandacht van de mainstream te trekken. Voor alsnog zijn de capabilities van ChatGPT geen goed argument om de limitaties van taalmodellen mee aan te duiden.

[Black Phoenix]

Ik denk dat je je daar wel eens in zou kunnen vergissen. Alle Chinezen gebruiken Baidu. Dat is ook indrukwekkend veel data van heel veel gebruikers. Zeker als je bedenk dat de Chinese overheid veel minder restricties oplegt op het gebied van gebruikersdata verzamelen.

[The_Woesh]

ja, alleen vraag ik mij wel af of deze AI het hele vrije internet mag rondstruinen of alleen het deel achter de firewall....
zodra deze AI dingen gaat roepen over politiek gevoelige onderwerpen zijn de rapen snel gaar daar en is het over en uit.

[SkyStreaker]

Natuurlijk voorbij de firewall. China laat toch herhaaldelijk blijken hypocriet te zijn? IP van jullie, kopieer, kopieer maar oh wee als je iets van hun pakt, dan is de wereld te klein.

[BlaDeKke]

Leuk als je een Chinees bent. Maar hebben wij er dan nog iets aan?

[Parrotmaster]

Gaat alle data dan niet redelijk biased zijn richting Chinese standaarden?
Is natuurlijk niet inherent iets mis mee, maar zou voor problemen kunnen zorgen in de westerse markt.

[g4wx3]

Dan faal je weer door gebrek aan diversiteit. Als je een hoop boomers gaat interviewen over de het afschaffen van kindergeld om pensioenen te verhogen ga je steeds hetzelfde antwoord krijgen.
Om een mening te vormen moet je daarom je onderzoeksgroep diversifiëren.

[SmokingSig]

Ik ben vooral benieuwd wanneer we het Point of singularity zullen meemaken. Dan wordt het pas echt interessant.

[redslow]

Ben wel benieuwd in hoeverre deze AI chat de aandelenbeurs zou kunnen voorspellen.

[Verwijderd]

Ik voorspel dat iedereen koopt wat gpt zegt dat je moet kopen. En dat hij daarom gelijk krijgt .

[Simyager]

ChatGPT weigert dat te doen. Aan de ene kant snap ik het wel, maar aan de andere kant zou het je wel enorm helpen

[redslow]

Tja de vraag word dan. Komt het door de kennis van de AI of door de invloed van de AI op de mensen?

[djack]

De race naar nieuwe top is begonnen.
Ofdat dit een goede zaak is moet nog blijken.

[Jaapvaak]

Elke innovatie blijkt uiteindelijk toch goed? Probleem is nog dat de toepassingen nog grotendeels onbekend zijn en er geen regelgeving op verzonnen en toegepast kan worden.

[mongkut]

Aan elke innovatie zijn niet alleen maar voordelen, uiteraard zijn hier ook nadelen aan verbonden.
Met dit soort revolutionaire tools als chatgpt kan dat een ingrijpende uitwerking op de samenleving hebben.
De grote vraag is willen we dit nu wel?

[Jaapvaak]

Hebben we überhaupt de keuze om te kiezen of we dit willen. Volgens mij schieten deze systemen nu als paddenstoelen uit de grond.

[veltnet]

Een innovatie hoeft geen verbetering te zijn, er bestaan ook slechte innovaties.

[Hobbit13]

Ook kunnen innovaties op lange termijn negatief blijken terwijl ze in eerste instantie fantastisch leken. Bv de lange termijn effecten van de verbrandingsmotor op ons milieu.

[GRDavies75]

'We' zijn er nog lang niet, maar persoonlijk ervaar ik de resultaten van nu als toch wel indrukwekkend (genoeg, maar er moet zeker nog heel veel gebeuren) en ik denk dat we aan de vooravond staan van een mooie periode (waar ik tijdens mijn leven nog de vruchten van ga plukken).

[machiel]

ik vraag me af wat 'de top' precies is. Een 'groter' model klinkt leuk maar is natuurlijk voor mij als gebruiker irrelevant. Hoe bepalen we of Ernie beter is dat chatgpt?

[mphilipp]

Ofdat dit een goede zaak is moet nog blijken.p

Elke vooruitgang is in principe goed, op welk gebied dan ook. Het is de mens die steeds van iets goeds iets slechts kan maken. Een bezemsteel is een goede uitvinding, maar wij maken er dan weer een wapen van.

Het is nooit de technologie an sich die goed of slecht is; het is wat wij ermee doen/van maken.

[veltnet]

Vooruitgang is niet hetzelfde als innovatie.
Innovatie = vernieuwing
Vooruitgang = verbetering

[mphilipp]

Er staat precies wat ik bedoel. Jij haalt er andere woorden bij die ik niet gebruikt heb.

[MotorLum]

Weet iemand of die indrukwekkende 200 mio plus parameters daadwerkelijk nuttig zijn? Ik heb er te weinig verstand van maar de logica zou zeggen dat de extra rekenkracht niet meer opweegt tegen de nauwkeurigheid achter de komma. Juist omdat in taalolbouw en Grammatica het menselijk is fouten te maken.

[sdziscool]

valt eigenlijk niet te zeggen, meeste mensen hebben evenveel hersencellen maar dat betekend niet dat we ze allemaal evengoed toepassen. Zelfde met AI.

[williammorren]

One-shot-Learning en Few-Shot-Learning taken gaan exponentieel veel nauwkeuriger zijn als ik het goed begrijp.

[Verwijderd]

Aan de ene kant betekent het dat er 200mln extra beïnvloedingen van de uitkomst plaats kunnen vinden.
Maar aan de andere kant proberen researchers de modellen juist zo compact mogelijk te maken, door nietszeggende parameters weg te laten.

Zegt op zichzelf dus heel weinig.

[kraanwagen]

Ik ben benieuwd hoe een groepsgesprek tussen Ernie, Bard en ChatGPT zal verlopen.

[Mcboogerballs]

Redelijk stil, een chatprogramma neemt meestal niet het initiatief tot een gesprek, maar beantwoord degene die een vraag stelt.

[P_Tingen]

Hey Bard, er zit een banaan in je oor....

[SuperVeloce]

Bard & Ernie

[AW_Bos]

Bard en Ernie

Wel grappig dat het AI-project vroeger door Google juist BERT (Bidirectional Encoder Representions from Transformers) genoemd werd.

[Reactie gewijzigd door AW_Bos op 23 juli 2024 13:53]

[dollyking]

nu nog een progje dat ze met elkaar laat chatten,
zijn we daar ook weer vanaf. of er komt iets heel bijzonders uit.

[tedades]

Voor het geval je veel tijd hebt en wat meer achtergrond wilt hebben hoe ChatGPT werkt doordat iemand het probeert na te maken: https://www.youtube.com/watch?v=kCc8FmEb1nY
Met uitleg over het verschil tussen een taalmodel die alleen tekst kan aanvullen en een chatbot.

[sucramabu]

Zeer interessante video, bedankt voor het delen!

[pim]

Benieuwd hoeveel jaar nog totdat we de chatbot uit de film HER hebben.
Ik zie het best gebeuren binnen 10 jaar.

[Mitchelll010]

Meesterlijke film.

[mphilipp]

Goed dat ie ook getraind wordt op Westers schrijft. Kan ie misschien eindelijk zorgen voor leesbare manuals bij Chinese producten. Meestal zijn die woord voor woord vertaald met een woordenboek op schoot lijkt het wel. Er klopt in ieder geval nooit heel veel van.