Baidu stelt AI-chatbot open voor grote publiek na toestemming Chinese overheid

Baidu en enkele andere Chinese techbedrijven stellen hun generatieve-AI-chatbots open voor het grote publiek na toestemming van de Chinese overheid. De app van Baidu's Ernie Bot werd daardoor al snel de meest gedownloade app in de App Store van Apple.

De Chinese overheid heeft inmiddels aan elf bedrijven goedkeuring gegeven om hun product publiek beschikbaar te maken, meldt Reuters op basis van Chinese berichtgeving. In het land dienen techbedrijven toestemming te krijgen van de regering voordat AI-producten beschikbaar mogen worden gesteld aan de massa.

Door de techbedrijven toestemming te geven om hun AI-tools open te stellen voor het grote publiek, wil China de concurrentiestrijd op het gebied van kunstmatige intelligentie aangaan met de Verenigde Staten, waar populaire AI-chatbots zoals ChatGPT, Bard en Bing Chat vandaan komen.

Onder meer Baidu, SenseTime en de startups Baichuan Intelligent Technology, Zhipu AI en MiniMax maakten donderdag hun ChatGPT-achtige tools beschikbaar voor het grote publiek. De aandelenkoers van Baidu steeg na de aankondiging met meer dan 3 procent. Ook TikTok-moederbedrijf ByteDance en Tencent hebben groen licht gekregen voor hun AI-tools. Het is niet duidelijk of Alibaba ook toestemming heeft gekregen voor de publieke uitrol van diens chatbot.

Ernie Bot, de chatbot van Baidu, werd in maart van dit jaar al voor een beperkt publiek opengesteld. Nu het model publiek vrij is gegeven, kan het een enorme hoeveelheid menselijke feedback verzamelen, wat de basismodellen volgens ceo Robin Li aanzienlijk moet verbeteren, meldt Associated Press.

Reacties (28)

[Kvanhemert]

Hoe zit dat nu eigenlijk?

Er wordt altijd een hoop commotie gemaakt over chinese apps en software omdat deze vrij agressief data verzamelen en doorloodsen naar chinese servers. Ik baar mij hier wel zorgen bij en sta daarom ook zeer kritisch tegenover dit soort applicaties.

Een AI-chatbot is gebaseerd rondom het principe waarin er o.a. informatie wordt verkregen waarop het model zichzelf weer aanpast en dus getraind wordt. De regulering hierin is vrij ver te zoeken. Die is er enigzins wel, want als je zal vragen om hoe je een bom kan maken zal je waarschijnlijk niet het antwoord op je vraag krijgen. Maar de menslijke input die tot dit antwoord heeft geleid zal doodleuk worden opgenomen in het model. In feite kan ik dus een hele hoop informatie in dit model proppen waar Nederland en Europa continue voor aan het vechten zijn dat bedrijven en instituten deze informatie niet mogen vergaren.

Nu komt er dus een AI-chatbot om de hoek zetten die hetgeen waar wij dus ansich al vrij kritisch naar kijken leuk overdoet maar vervolgens ook nog eens naar China verstuurd.

Mijn vraag is daarom ook;

Zijn de praktijken die Baidu uitvoert waarin het onder deze omstandigheden informatie vergaard én naar China verstuurd wettelijk toegestaan.
Wat is de kans dat dit in de toekomst wordt aangepakt het zij vanuit Nederland, Europa of zelfs de Verenigde staten.

P.S. Ernie bot, leuke naam.

Ter verduidelijking gewijzigd: "de praktijken die Baidu uitvoert waarin het informatie vergaard" naar "de praktijken die Baidu uitvoert waarin het onder deze omstandigheden informatie vergaard"

[Reactie gewijzigd door Kvanhemert op 23 juli 2024 01:18]

[SpoekGTi]

Maar waarom zou het model verschillen in dit geval van de Ernie Bot als dat van ChatGPT, in basis sluist die ook gegevens weg en leert er van maar omdat het een EU of US bedrijf is het geen probleem voor je?

[Kvanhemert]

Omdat er in Nederland, de EU en US een sterke toeleving wordt gedaan naar wetten die streng zijn in het omgaan met persoongegevens en data in het algemeen.

Een regulering op het gebied waarop een Ernie bot of ChatGPT opereert zal daarom in alle waarschijnlijkheid door al deze partijen worden gehonoreerd.

China is tot dusver altijd een beetje ongrijpbaar gebleven. Zij honoreren dit soort wetten die wij stellen niet. Je kan ze niet terechtstellen want zij doen daar niets mee. In die zin vind ik mijn data veiliger onder de eerder genoemde landen, unies en staten dan onder China.

Wat het lastig maakt is dat er dus landen zijn die leukweg doorgaan met dit soort praktijken omdat zij functioneren in een blackbox. Wij weten niet hoe met onze data wordt omgegaan. Vanuit dat oogpunt is het noodzaak om er kritisch mee om te gaan.

[dindr]

Grote vriend, ik zal je uit je droompje helpen, hetzelfde word momenteel gedaan door de Amerikanen, Russen, Fransen, in het verleden door Nederlanders..

Het is maar aan wie je de vraag stelt. Voor mij is het allemaal 1 pot nat. Als we dit collectief doen dan kunnen we onze eigen ambities misschien versterken en afhankelijkheden van Oosten of Westen afbouwen en op zoek gaan naar onafhankelijkheid in nieuwe technologieën.

[bommel]

Spionage ja dat doen ze/we allemaal dat snap ik, maar ik zie in bijv. Frankrijk uit jouw voorbeeld geen schurkenstaat. Ook met de VS is van alles mis maar voor ons een (veel) kleiner gevaar dan China.

Wel eens met je conclusie dat we onze afhankelijkheid moeten afbouwen niet alleen qua technologie maar vooral qua grondstoffen en productie van elementaire zaken zoals bijv. medicijnen.

[Verwijderd]

Spionage ja dat doen ze/we allemaal dat snap ik, maar ik zie in bijv. Frankrijk uit jouw voorbeeld geen schurkenstaat.

Kiijkt naar de Fransen hun gedrag op het afrikaanse continent.. uuh ok

[bommel]

Ehm wat doet Frankrijk daar dan? Je bedoelt in het verleden? Ja dan is vrijwel geen enkel land "schoon", ons eigen land incluis.

[Verwijderd]

Ehm wat doet Frankrijk daar dan?

Simpel, een vorm van kolonialisme en uitbuiting.

Je bedoelt in het verleden?

Nee, jij hebt het over het oud kolonialisme toen westerse machten er de bevolking vnl. op militaire manier onderdrukte. Het is de 21ste eeuw en er zijn veel efficiëntere manieren om dat vandaag de dag te doen.

Ik hoef zelf geen andere voorbeelden aan te kaarten. Kijk gewoon naar het nieuws van vandaag over de coup in Gabon. Het leger heeft er eindelijk de familie, die 40j geleden door Frankrijk geïnstalleerd werd en nog nooit een verkiezing heeft uitgeroepen over die periode, van de troon gestoten (of dat een goede zaak is voor de bevolking is nog maar de vraag).

Laat me je ff een lijstje voorschotel van Gabonese bedrijven die volgens Jeune Afrique magazine in 2013 tot de top 500 Afrikaanse bedrijven behoorden:

• Total Gabon (96ste plek, FR)
• Shell Gabon (116de plek, NL)
• Sogara (155ste plek, partnerschap staat, Shell & Total)
• Comilog (184ste plek, FR)
• Maurel & Prom Gabon (261ste plek, FR)
• Ceca Gadis (334ste plek, FR)
• SEEG (376ste plek, FR)
• ...

Soit allemaal bedrijven die daar grondstoffen zitten te ontginnen ten voordele van Frankrijk/Franse bedrijven. Zal wel een toeval zijn al die Franse bedrijven zo present zijn in een land dat sinds 1960 "volledig onafhankelijk" is geworden /s.

[Reactie gewijzigd door Verwijderd op 23 juli 2024 01:18]

[kodak]

Het toepassen van welk middel dan ook is niet zomaar toegestaan, dus ook niet van AI en ook niet zomaar op basis van waar geografie. Het hangt vaak af van de omstandigheden waarvoor je het wil gebruiken en welke eisen daarbij gelden. Daarbij is het hoe dan ook al niet zomaar verstandig om willekeurig een middel te gaan gebruiken zonder te beseffen welke nadelen het heeft. Zeker niet als je geen benul hebt wat ze precies met jou of andermans gegevens doen en je nauwelijks tot geen inspraak of controle hebt over wat de dienstverlener wil, doet of laat doen.

[Kvanhemert]

Nou dat is dan ook inderdaad een beetje wat ik bedoelde.

Ik ben mij ervan bewust dat IT geen wilde westen is waarin van alles zomaar is toegestaan. Vandaar dat ik vragen had over hedendaagse of in de nabije toekomst houdbaarheid van dit soort AI-Chatbots.

Dat je zegt dat het niet verstandig is om dit soort applicaties te gebruiken als je geen benul hebt wat ze met je gegevens doen bent ik het volledig mee eens.

Dit is ook min of meer mijn punt.

Wij weten niet hoe er met deze data wordt omgegaan en ik zou niet durven stellen dat wij China legaal kunnen aanspreken of ook maar enigzins sterk invloed kunnen uitoefenen als zij niet met deze data omgaan zoals wij verwachten.

Als overheid moet je je burgers kunnen beschermen door ze te weren van gevaren van buitenaf.

In die zin was ik erg benieuwd naar wat de huidige regelgeving hierin is en wat er mogelijk in de toekomst aan veranderd gaat worden.

[Marctraider]

Waarom baar jij je er zorgen over dan?

[honey]

Ik ben benieuwd wat het zal antwoorden op: “wat gebeurde er op 4 juni 1989”?

[TweakTwitch]

Ik weet nog dat ik dat als les kreeg op de basisschool met zoeken op Google. dat de resultaten anders waren als je .nl gebruikte of .ch Dat was een goede les die ik nu meer dan 20 jaar later nog steeds weet en veel aan heb gehad.

Ben inderdaad ook wel benieuwd wat er zal staan als antwoord op die vraag.

[Jaaps2]

Dan worden al je gegevens gelogd voor lange tijd

[Z100]

Je krijgt een 0 door sommigen die het ongemakkelijk vinden om het hier over te hebben, maar absoluut valide vraag.

Stel je voor dat wij resultaten zouden censureren als "wat zijn politionele acties". De wereld zou op zijn achterpoten staan. En wij zijn nog niet eens een supermacht. Of het is juist dat omdat wij geen supermacht zijn misschien.

[blorf]

Geprobeerd bij iask.ai. Ook Chinees maar niet in de lijst. Die geeft gewoon het hele verhaal gebaseerd op Amerikaanse kranten. Misschien wordt het iets anders door een Chinese proxy...

[Reactie gewijzigd door blorf op 23 juli 2024 01:18]

[Horatius]

Ze kunnen op 2 niveaus deze blokkades hebben ingebouwd (of beide).

1. Invoer data, als je de LLM nooit data voert over 4 juni 1989 zal deze ook nooit met een antwoord kunnen komen wat daar gebeurt is. Alleen is al je data zo filteren wel lastig en best veel werk (alhoewel ik China dat best zie doen). Voordeel is wel dat China het waarschijnlijk op Chinese datasets heeft getraind waardoor deze informatie er sowieso al weinig tot niet inzit.
Mogelijkheid is wel altijd dat de LLM zelf wat draadjes verbindt, zo niet per ongeluk.

2. Gewoon de output filteren op alles dat met dit soort dingen te maken heeft, zie je momenteel ook bij ChatGPT etc dat daar veel werk in zit om te zorgen dat ze gepaste antwoorden geven.

Ik vermoed dat het een combinatie is van beide, ze zullen een LLM nooit vertrouwen want het is immers een gigantische blackbox dus methode 2 zal altijd toegepast worden.

[MrMonkE]

2. Gewoon de output filteren op alles dat met dit soort dingen te maken heeft, zie je momenteel ook bij ChatGPT etc dat daar veel werk in zit om te zorgen dat ze gepaste antwoorden geven.

En natuurlijk een aantekening in de sociaal credit score van de prompter.

[Stoney3K]

"An internal error has occured. Your location has been registered. Chinese correction forces are being deployed. Please remain in your seat."

[Verwijderd]

Welke chips gebruiken zij?

[wildhagen]

Ernie Bot van Baidu gebruikt iig APUs van MediaTek, zie dit persbericht: https://corp.mediatek.com...perience-on-edge-devices#

Van de overige genoemde partijen weet ik het niet.

[majic]

Benieuwd wat het ding zegt als je hem blijft vragen over Taiwan haha!

[jpsch]

Gewoon een onderdeel van China, zal er best info over hebben.

[majic]

Je weet best wat ik bedoel, en is niet 'gewoon' onderdeel van China maar een eigen staat met een eigen leger, politieke partijen, grondwet, een uniek schrift, andersoortige voeding en algehele cultuur (véél westerser). Niet alleen dat maar de mensen voelen zich ook niet onderdeel van China, of iig, niet het China wat er nu op de kaart staat.

Taiwan is minder Chinees dan Oekraiene Russisch is, of is dat ook voor jou maar een onzinnige oorlog?

[kuurtjes]

Ik denk dat @jpsch bedoelde dat dit ding gewoon gaat zeggen dat het onderdeel van China is, terwijl wij allemaal weten dat dat niet zo is.

[FrostyPeet]

De Chinezen zijn fanatiek bezig op AI terrein. Kijk b.v. eens bij "WeSign.com", waar AI op spam controleert. Dit is een app voor e-mail encryptie en elektronische handtekeningen (soort van notaris functie op ondertekenen). Of het veilig is, geen idee, het is maar een voorbeeld.

Na mijn ervaringen met "You.com" kan ik die AI hype niet begrijpen. Het ding is zo moreel en politiek correct en vrij "dom". In GTA-V vragen hoe je een ATM moet hacken? Nee, daar kreeg ik een moraal antwoord op. Het is een spel nota bene! Even had ik de schrik dat You.com automatisch een melding zou maken bij de politie, dat ik op Schiphol altijd uit de rij zal worden gehaald, of dat de deur open staat als ik boodschappen haalde. Nee, ik blijf er ver van weg.

Als ik dan ook nog een Chinese AI mag gebruiken die vermoedelijk een Chinese moraal heeft wordt ik voorzichtig. Ik vond mijn 30 euro Chinese "smart"watch wel erg nieuwsgierig, een tijdje wilde de app niet eens opstarten zonder internet verbinding.

Het kan zo mooi zijn, AI. Kijk bijvoorbeeld eens naar Microsoft "Seeing AI". Daar zit ook een (beperkte) offline functie op, naast een werkende internet verbinding. Ook die AI zal best het een en ander uitwisselen met een cloudserver. Heeft toch een nobeler doel in mijn oordeel dan zo'n opgepompte chatbot AI hype.