'OpenAI wil ChatGPT upgraden naar superapp met tools die meer geld opleveren'

OpenAI zou een grote upgrade van zijn AI-bot ChatGPT voorbereiden om meer inkomsten te genereren en de bedrijfswaarde te verhogen met het oog op de geplande beursgang. Dit meldt The Financial Times op basis van bronnen binnen het AI-bedrijf.

De vernieuwing waar OpenAI nu aan werkt, is de grootste herziening van ChatGPT sinds het de AI-hype startte, schrijft The Financial Times. De bekende AI-chatbot kwam eind 2022 publiekelijk beschikbaar. Dat was toen niet alleen een verrassing voor het grote publiek, maar ook voor het eigen bestuur, onthulde een voormalig bestuurslid twee jaar terug. Nu zijn de nieuwe ambitieuze plannen van OpenAI uitgelekt via de zakenkrant.

De krant meldt dat het AI-bedrijf een superapp van ChatGPT wil maken. Die combineert programmeertools met AI-agents en producten die volgens OpenAI-directieleden meer omzet opleveren. Het is nog niet duidelijk wat dat laatste precies omvat. AI-bedrijven als OpenAI staan onder flinke financiële druk, terwijl er zorgen leven dat de AI-hype een zeepbel is die uiteenspat.

Hoge en nog hogere kosten

Het trainen van AI-modellen en het draaien van AI-toepassingen kost veel geld. De enorme investeringen in AI verdienen zich tot op heden niet terug. Bovendien stijgen de kosten flink in de 'wapenwedloop' voor nieuwere, krachtigere AI-modellen en -toepassingen. Eerder bleek AI-gegenereerde video te duur voor OpenAI om aan te houden. Eind maart schrapte het bedrijf zijn AI-videoapp Sora. Toch wil OpenAI naar de beurs, wat het snel hoopt te doen om afzwakkende groei voor te zijn.

ChatGPT. Bron: SOPA Images/LightRocket

Reacties (200)

[machiel]

Niet alleen is de waarde van grootschalige LLM inzet nog niet overtuigend bewezen en zijn er in ieder geval ook nadelen aan zoals verlies van vaardigheden bij gebruikers - de werkelijke kosten zijn tot nu toe niet transparant. We hebben gesubsidieerde LLMs mogen proeven maar die subsidie gaat er nu in stappen vanaf en dan wordt de business case snel lastiger. Zeker LLMs die in processen meedraaien en duizenden keren per dag aangeroepen worden, zullen MI vervangen worden door gewone code.

[Skit3000]

Zeker LLMs die in processen meedraaien en duizenden keren per dag aangeroepen worden, zullen MI vervangen worden door gewone code.

Wat draait dan duizenden keren per dag, bijvoorbeeld iets voor het verwerken van inkomende mails zodat (een deel) alvast automatisch beantwoord wordt en de klant minder lang hoeft te wachten? Dat valt natuurlijk niet in code te vatten; elke mail is weer anders.

[ro4sho]

De automatische antwoorden zijn juist de grootste ergernis. Hoe vaak moet jij je prompt verbeteren omdat het model he net verkeerd heeft begrepen? E-mails van klanten zijn geen prompt, de context wordt niet zo goed beschreven als dat je zou willen. Als 40% van de e-mails onvolledig/verkeerd wordt beantwoord kan dat voor nog meer werk zorgen.

[Skit3000]

Als 90% van de mails van klanten gaat over het opvragen van de status of het annuleren van hun bestelling, kan je denk ik best wel een LLM gebruiken om die er uit te filteren, de gevraagde actie uit te voeren en een (standaard) mail terug te sturen.

[ro4sho]

Ik denk dat je dan geen LLM nodig hebt. Dit kun je afdoen met automatisering. Goedkoper.

[Skit3000]

Kan je uitleggen hoe je "automatisering" zou doen? Als een klant mailt moet je er toch achter zien te komen wat de vraag is en om welke bestelling het gaat. Ik heb jarenlange ervaring met het handmatig parsen van (door mensen geschreven) teksten om intenties etc te achterhalen, maar ben het gouden ei nog niet tegengekomen. Het is niet zomaar even kijken of het woord "annuleren" in de tekst voorkomt, plus een ordernummer, want dan gaat het helemaal verkeerd als iemand zegt "Ik ga nu een bestelling bij mijn andere leverancier annuleren, wil je bij mijn bestelling ORD-1234 nog even voor €50.000 aan schroeven toevoegen?"

[svenM]

Ik weet niet of ze het nog hebben maar voor veel het AI verhaal had Microsoft de cognitive services en dan specifiek LUIS om intent te bepalen. Dat werkte met machine learning ipv LLMs , dus dat is wel iets wat je makkelijker lokaal zou kunnen draaien.

[Barsonax]

Wat voor automatisering dan? Wil je gaan checken op keywords ofzo? Hoe ga je dat betrouwbaar genoeg maken?

En die LLM hoeft geen geen claude opus ofzo te zijn he. Intent eruit halen kan een klein model die lokaal draait ook wel en dat scheelt bakken met geld. Die intent laat je vervolgens afhandelen door een deterministisch systeem. Als de intent niet duidelijk is dan stuur je het door naar een mens om naar te kijken.

[ro4sho]

Dat is een goede, zo had ik er nog niet over nagedacht. Op die manier is het inderdaad wel te doen

[foobar79]

En dan vraag ik me af waarom je dan niet een fatsoenlijke webinterface maakt waar dit allemaal in kan ipv dit via een (chat) bot te laten afhandelen.
Als je enigszins volume hebt zal het al snel goedkoper zijn, nog even los van de gevaren van het loslaten van een LLM (zie ook de account takeovers bij Meta recentelijk)

[Skit3000]

Met een webinterface dwing je jouw klanten zich te verdiepen in jouw werkwijze, moeten ze een account aanmaken, en blijven er altijd nog dingen over die klanten niet kunnen doen en waarna ze alsnog (nu nog gefrustreerder) mailen.

Of ze slaan dat allemaal over en mailen je gewoon direct.

[ro4sho]

Dat kan, maar ik denk dat je daar niet eens LLM voor nodig hebt.
Het opvragen van een status van een bestelling (of annuleren van) kun je vrij gemakkelijk automatisch herkennen en dan een automatisch antwoord terugsturen. Daarmee heb je niet een extra aanvalsvector (prompt attack).

Ik ben het wel met @foobar79 eens, dit soort zaken verwacht ik niet via de mail af te handelen. Ik zou dat persoonlijk zelfs heel vervelend vinden. Wellicht voor een kleine webshop of iets dergelijks.

Veel bedrijven regelen hun zaken ook via Whatsapp nu. Ook daar is geen LLM voor nodig. Je kunt een status opvragen of bestelling annuleren met je ordernummer.

[Teun!]

Grappig, ik heb echt nog nooit iets via whatsapp of facebook met een bedrijf gehad. Maarja FB gebruik ik niet en ik vermijd bedrijven die geen fatsoenlijke manier van communiceren hebben, voor zover mogelijk.

[ro4sho]

Whatsapp gebruik ik met lichte tegenzin, ik moet toegeven dat het wel handig is. Veel vliegtuigmaatschappijen sturen vluchtinformatie via Whatsapp. In het buitenland, India bijvoorbeeld, is dat nog meer gemeengoed.

Helemaal eens om bedrijven die niet fatsoenlijk communiceren te vermijden. Daarom ben ik ook weg bij Odido :)

[Teun!]

Ik zit letterlijk nog maar op whatsapp omdat 1 iemand net iets eigenwijzer is dan ik :p(te eigenwijs om signal te installeren). Ben al jaren niet met het vliegtuig gegaan dus daar heb ik inderdaad geen ervaring mee.

[Skit3000]

Hoe kan Whatsapp een vraag als "wil je mijn order annuleren als de producten niet voor eind van de week worden verzonden" verwerken?

[foobar79]

Het opvragen van een status van een bestelling (of annuleren van) kun je vrij gemakkelijk automatisch herkennen en dan een automatisch antwoord terugsturen

Daarmee heb je niet een extra aanvalsvector (prompt attack).

Als je rechten geeft aan de ai om zaken in je order systeem te lezen en aan te passen kan er altijd wat mis gaan. Meest simpele voorbeeld is een datalek door lekken van gegevens van andere klanten of het wijzigen/annuleren van bestellingen van andere klanten door de AI.

Ook zou je bv een bedrijf flink op kosten kunnen jagen door het te gebruiken om “gratis” hun AI te gebruiken (dus ipv een bestelling te checken vragen om bv een stuk code te schrijven die anders zelfs zelf zou moeten betalen aan claude/chatgpt/whatever)

Als zelfs een grote partij als Meta volledig de mist in gaat bij het beperken van wat de AI met de accounts mag doen lijkt het me duidelijk dat dit soort dingen “even snel” implementeren wel degelijk met risico’s komt.

[Cybje]

Maar antwoorden van mensen zijn ook zelden juist. Als ik 3 vragen stel per e-mail aan een klantenservice, wordt er vrijwel altijd 1 overgeslagen en dan vaak ook nog 1 half beantwoord. Het lijkt net alsof mensen zich maar op 1 vraag focussen op dat moment. Inmiddels stel ik dus maar 1 vraag per mail in dat soort gevallen. Maar een AI doet dit over het algemeen gewoon goed, die mist geen enkele letter. En in een langere conversatie is AI ook veel beter in alle context gebruiken, terwijl een menselijke klantenservicemedewerker dingen vergeet (wat niet gek is, want diegene behandelt misschien wel 50 klanten op een dag).

[ro4sho]

Dat mensen zelden juist antwoorden lijkt mij wat overdreven. Wellicht in jouw ervaring, maar in het grotere plaatje (ik heb zelf op een aantal klantenservices gewerkt) worden vragen wel juist beantwoord.

Ik weet niet wat jouw ervaring met AI is, maar wat ik vaak zie gebeuren is dat juist niet alle context op alle momenten wordt gebruikt (voor zover die al wordt gegeven door veel klanten). Een model kiest voor de weg van de minste weerstand, wat soms tot suboptimale oplossing leidt.

Als je 3 vragen in een mail moest stellen aan een bedrijf, dan zou ik me afvragen of je daar nog wel klant moet zijn. Dan is de klantenservice het minste van je problemen.

[jadjong]

Een leverancier meldt zonder enige context via mail dat de afgesproken leveringsdatum niet gehaald wordt.
In een kort mailtje stel ik de volgende vragen:
- Zijn jullie al wel begonnen met fabricage?
- Wat verwacht je dat de nieuwe leveringsdatum wordt?
- Mocht je nog niet begonnen zijn, kunnen we dan nog iets aanpassen in de configuratie?

Hier verwacht ik een antwoord wat neer komt op: 'we zijn wel/niet begonnen, we verwachten te leveren in de laatste week van juni en als je voor vrijdag beslist kunnen we x, y of z nog aanpassen zonder dat de leverdatum verder opschuift.

Wat ik krijg is:
- We zijn nog niet begonnen met fabricage.
De andere twee niet beantwoord, daar moeten nog twee mailtjes achteraan voordat daar ook reactie op komt.

[ro4sho]

Dat is dan een goed voorbeeld van een bedrijf om te vermijden in de toekomst. Aangezien de processen hier niet op orde zijn, denk je dan dat het introduceren van een LLM hier dan soelaas zou bieden?

[orvintax]

Het is misschien niet nodig om het hele bedrijf te vermijden als de klantenservice het specifieke probleem is.

[Cybje]

Ik gebruik dagelijks AI voor coding projecten en voor privé zaken. Ik heb zeker de laatst 6-12 maanden echt goede ervaringen met AI, zeker als je AI zichzelf laat controleren/reviewen. Nee, het is niet foutloos, maar mensen zijn ook niet foutloos. Maar ik merk niet dat een model voor de weg van de minste weerstand kiest. Dit was misschien het geval voor de 'thinking' modellen, maar tegenwoordig gaat dat echt veel beter. Sterker nog, bij coding valt me juist op dat menselijke developers relatief lui zijn, bijv. doordat ze het schrijven van tests afraffelen, terwijl AI simpelweg alle tests schrijft die bij een change horen.

En mede door personeeltekorten en dat alles steeds massaler wordt, merk ik wel de laatste 5 jaar dat de klantenservice significant is verslechterd overal. Dit gaat gewoon om normale bedrijven/organisaties, zoals DPG (hadden een fout gemaakt bij een proefabonnement op de Donald Duck), of de gemeente, of KPN die een opzegging niet had verwerkt (zelfs al had ik een email waar letterlijk de opzegdatum in stond), of ABN AMRO waar ik klant werd met een welkomstactie maar waar ik continu onjuiste antwoorden kreeg waarom die actie niet juist werd toegepast op mijn account (ook ondanks dat ik wel een automatische bevestiging had). Bij 3 van de 4 in die rijtje ben ik geen klant meer natuurlijk. De gemeente is lastiger: ik ga niet verhuizen om deze reden.

Zie het niet als persoonlijke aanval. Ik kan mij voorstellen dat jij wel gewoon goed werk afleverde op de klantenservice. Maar dat is tegenwoordig echt niet meer vanzelfsprekend.

[ro4sho]

Ik zie het niet als aanval hoor, het is een interessante discussie.

Hieronder een voorbeeld van Claude vanochtend.

How come you recommended deleting before?          

Fair to call that out. Honestly, my first recommendation was the safe-default reflex rather than the best-reasoned one.  

When I see a units_changed repair, "delete the statistics and let it re-initialize" is the generic, always-works answer — it clears the warning regardless of the situation. So I reached for it without fully reasoning through your specific case.

  Dit gedrag zie je nu veel terugkomen. Dut keer komt het uit omdat ik altijd scherp naar de output kijk en er vragen over stel. Maar sommige dingen zie je niet, je gaat niet alle code line bij line checken. Dit soort assumpties zitten er ook in de tests die de LLM schrijft.
Het blijft natuurlijk een mooie innovatie, maar om op productie een LLM klantcontact te laten afhandelen is een risico. Genoeg voorbeelden de afgelopen tijd (Meta, PostNL etc.)

En goed dat je kritisch bent over waar jij klant blijft!

[bzuidgeest]

Ik ben een grote fan van AI gebruik om mijn werk te versnellen, maar automatisch mail laten beantwoorden? Dat gaat voor nu een stap te ver. Je weet maar nooit wat de AI tegen een klant zegt of belooft.

[Marve79]

Inderdaad, mooi stukje van Lubach ging daarover, 9 keer zegt AI netjes goedendag en de tiende keer ineens Heil Hitler.

Ik zou AI echt niks automatisch laten doen, ik gebruik het extreem veel. Ik beheer infrastructuren en ik gebruik AI echt voor het merendeel van mijn werkzaamheden maar ik controleer toch alles. Af en toe zegt hij echt dingen die nergens op slaan en moet je toch bijsturen. Wat bijv Claude kan is echt indrukwekkend maar ik zou hem echt niet autonoom zijn gang laten gaan.

Wat ChatGPT betreft denk ik dat ze al links en rechts zijn ingehaald door Gemini en Claude. Ik denk dat die beursgang een disaster gaat zijn.

[bzuidgeest]

Ik denk dat die beursgang een disaster gaat zijn.

Weet ik niet zo zeker. Kan ook de bubbel verder opblazen.

[familyman]

Ik heb een worldonline gevoel erbij, for sure.

[bzuidgeest]

Kan ik begrijpen, maar er zijn wel wat verschillen. O.A. Dat nina brink de wereld over haar aandelen aan het voorliegen was. De hele dotcom markt ging ook op zijn plaat in het algemeen op dat moment. Natuurlijk kan dat voor AI ook gebeuren. Maar AI heeft echte uses cases en het internet is met de dotcom bubbel ook niet verdwenen.

[familyman]

Voor mij was dotcom op het einde een soort grote pump and dump. Met nieuwe manieren die werden bedacht om bedrijven te valueren en geld dat te goedkoop was om niet over risico's na te denken. Men vond ook dat winst maken niet echt nodig was.

Ik zie hier veel parallellen. Zoals bv capex beschrijven in termen van ingekochte megawatts. En bedrijven die weinig meer doen dan hun eigen logo om chatgpt heen zetten.

De hoeveelheid mensen die ineens al jaren in de ai zitten, is verbazingwekkend.

[bzuidgeest]

We gaan het zien. Een paar grote klappen zou de markt een goede reset kunnen geven.

[HDoc]

Nou dat zou verfrissend zijn.

[Mathijs Kok]

Ik zie hier veel parallellen.

Ik denk dat veel AI bedrijven dat prachtig vinden. Na een diepe crash is vrijwel iedereen die stevig in 'dotcom' investeerde er uiteindelijk krankjorum rijk van geworden. Blijf onthouden dat op de tulpen na vrijwel elke bubble uiteindelijk een grandioos succes is geworden.

[jhellingman]

Ook de tulpen leveren Nederland tegenwoordig miljarden op... Helaas zijn wel vaak de kleine investeerders van het eerste uur het haasje, en pakken de grote jongens het op nadat de bel gebarsten is en de gigantische investeringen gemaakt.

[FalconerHG]

Ook BNR geluisterd vanochtend?

[familyman]

Nee, geheel niet vandaag, hoezo?

[Atlantis1995]

Ik zie het nu al bij de IPO van SpaceX. De koers loopt uit andere aandelen omdat kapitaal wordt gealloceerd.

[bzuidgeest]

Ik denk dat ik een paar extra voegwoordjes nodig heb om je antwoord te begrijpen...

[FalconerHG]

Er is wel wat meer aan de hand dat dat. De grootste impact vrijdag was het bericht dat de Fed waarschijnlijk de rente ging verhogen. Direct daarop stortte de Nasdaq naar beneden, en de rest sloot ook behoorlijk rood.

Neemt niet weg dat er zeker investeerders zijn die zich nu (her)positioneren voor de IPO.

[Luchtbakker]

Het ligt er sterk aan wat je chatgpt laat doen. Bij claude ligt de focus vooral op programmeren en daar zijn ze heer en meester in momenteel. Gemini is best goed een alles in 1 tools alleen komt er nog steeds regelmatig de grootste onzin uit hem.

Chatgpt is heel erg krachtig in research, image generation en logisch nadenken. Daar kunnen claude en Gemini echt nog van leren.

Ik zou ze dus niet te snel weg schuiven.

[betwetor]

Dat maakt binnenkort ook niet meer uit. Geen mens leest de mail nog. En wel gaan allemaal vissen terwijl er email-slop rondgestuurd wordt door AI.

[bzuidgeest]

Veel mensen maken ergere slop dan AI. De mensheid heeft AI nooit nodig gehad om troep rond te mailen.

[Zonder]

Als iemand met wansmaak kan ik dit bevestigen.

[betwetor]

Absoluut. Sterker nog, dit is precies wat AI naar mijn idee blootlegt.

Ik moet veel mailen in het Duits. Maar mijn Duits is eigenlijk niet goed genoeg voor officiële dingen.

Dus daar is AI perfect voor.

Meerdere keren dat iemand me complimenteert op mijn mooie mail.

Naar mijn gevoel omdat het gewoon langdradig is.

Het dient niet zozeer het communiceren, maar eerder te laten zien dat je wil investeren in een lange mail.

Wanneer we allemaal AI gaan gebruiken, dan is dat nog meer stupide dan het al was.

Misschien stoppen we er dan wel mee.

[Wimmish]

Klopt en dat is een heel goed voorbeeld. Ik werk aan een toepassing die met een klein lokaal LLM e-mails analyseert en dan de juiste workflow start. Dat kun je niet met wat "simpele" code vervangen. De combinatie van kleine modellen met aanvullende code werkt wel heel goed.

[TheJVH]

En dat is dan ook waar het gevaar zit voor OpenAI en dergelijke. Hun waarde is er vooral omdat ze modellen hebben die grote context windows hebben, veel verschillende dingen kunnen doen en die dingen beter kunnen doen dan de concurrent / open source. Echter voor die kleine taken (zoals mails categoriseren) heb je helemaal geen grote modellen nodig. Sterker nog, voordat de LLM's zoals we ze nu kennen in opmars kwamen, hadden we hele andere machine learning technieken om dit voor elkaar te krijgen. Die kleine, gespecialiseerde modellen zullen veel beter beschikbaar komen en kan je vaak gewoon lokaal draaien waardoor je geen enorme kosten hoeft te maken door OpenAI te betalen.

[Reactie gewijzigd door TheJVH op 8 juni 2026 10:28]

[bzuidgeest]

openAI heeft gewoon gpt-mini en nano voor kleinere zaken. Het is niet alleen GPT 5.5...

Net als claude nog steeds haiku. sonnet en opus heeft. Klein naar groot.

[pietvelleman]

Precies.

Het is nog een vrij jonge techniek waarbij niet altijd duidelijk is welk model je waarvoor het beste (efficient/goedkoop) kunt gebruken. De kosten beginnen voor bedrijven soms te hoog te worden, waardoor de zoektocht naar efficientere modellen vanzelf gaat komen.

En daarbij gaan de ontwikkelingen razendsnel.... Sneller dan bedrijven kunnen veranderen
Straks is er een klein model dat je lokaal kunt installeren, die razendsnel en goedkoop taak X uitvoert.
Bedrijven gaan dat vervolgens inbouwen. Om er daarna achter te komen dat GPTX in een nieuwe versie bijzonder efficient switched tussen goedkope en dure modellen...
En zo zal de wedloop nog wel een tijdje doorgaan...

De komende jaren gaat er een hoop veranderen....

[bzuidgeest]

De techniek zelf is niet zo jong meer. Maar het krijgt nu veel meer ontwikkel resources omdat we (net aan) genoeg compute hebben om een model te trainen op dit moment in een commercieel aantrekkelijke tijd.

[Wietsee.]

De komende jaren gaat er een hoop veranderen....

Ach, een dooddoener.

[familyman]

Ik heb voor veel toepassingen het gevoel, hier is een hamer, ga spijkers zoeken.

In veel bedrijven is machine learning amper toegepast, laat staan veel rule based werk. om nog maar te zwijgen over het belang van het beschikbaar zijn voor juiste, begrepen data.

Ai kan best helpen om dat ingericht/op orde te krijgen, maar veel mensen zie ik die stap overslaan en zonder kennis verwachten dat de ai het allemaal maar oplost.

[copi]

De grap is natuurlijk dat je daar openAI of wat dan ook helemaal niet voor nodig hebt. Die pompen miljarden in het trainen van de modellen maar of dat nu de gewenste waarde op gaat leveren is de vraag.

Het gebruiken van de modellen kost een fractie en daar zit het verdienmodel. Ik zou denken dat er andere partijen met de winst van door gaan die modellen hosten danwel in de cloud danwel zorgen voor lokale implementaties. Ik zie echt niet hoe een openAI het hoofd boven water gaat houden of mis ik iets?

[Skit3000]

Het zou mij ook niet verbazen als OpenAI een keer onderuit gaat, maar tot op heden zijn de beste modellen nog steeds wel ontwikkelt door de partijen die er het meeste geld tegenaan gooien. Ze gokken er allemaal op dat ze uiteindelijk een manier vinden om tegen exponentieel lagere kosten een model kunnen trainen dan nu (en dat met dezelfde hardware doen, dus daarmee een model maken dat "tientallen" keren beter is dan dat van de concurrent zodat ze als enige speler overblijven).

Ik vind het allemaal prima; hoe meer geld er nu naar onderzoek gaat (door wie dan ook), hoe groter de kans dat er straks inderdaad enorm goede modellen zijn die je bij wijze van spreken op je smartwatch nog kunt draaien.

[NoTechSupport]

100%, LLMs worden idd vaak ingezet op plaatsen waar code beter zou zijn. Als je pas de hamer ontdekt hebt is alles een nagel 😃.

Verlies van vaardigheden kan een issue zijn, al moet daarbij gezegd worden dat je andere vaardigheden kweekt (ben persoonlijk als ontwikkelaar meer gefocust op kwaliteit, structuur, probleemstelling en validatie, minder op "handwerk").

Als je ziet wat LLMs kunnen is de vraag vooral hoe de revolutie eruit zal zien, niet of ze zal plaatsvinden. Dat gaat, zoals alle grote veranderingen, in horten en stoten gaan. Ik verwacht dus wel correcties op korte termijn. Of het ten goede zal zijn is nog een groot vraagteken. Massaal jobverlies is een optie, economische depressies zijn een optie, zowel binnen als buiten de AI-wereld. Ik vrees dat het de wereld een pak ongelijker kan maken en veel werkloosheid kan veroorzaken.

[PjotterP]

Als je al een ervaring hebt is het meer het managen van de-skilling risk. Dat kan een uitdaging zijn maar je hebt in elk geval ervaring. Spannender is misschien de brug voor jonge mensen die uberhaupt nog niet een base skill level hebben (kennis en ervaring) die ze kunnen multiplien met LLM, en mogelijk ook lastiger op kunnen bouwen omdat de ‘grind’ waarvan je later leert abstraheren als leerweg minder beschikbaar wordt. We moeten niet vergeten dat we nu een gigantische groep aan pre-AI era mensen hebben met goede ervaring. Dat is niet een gegeven voor de langere termijn. Leuk als iedereen wat conceptuele kennis heeft, maar als het echt heel ingewikkeld wordt is er meer nodig on kritisch naar AI output te kijken.

[Jefrey Lijffijt]

OpenAI biedt geen eindoplossingen en daarom hebben ze een probleem.

De waarde van LLMs is wel degelijk kristalhelder, je kunt daarmee informatie verwerken tegen een snelheid, prijs en (vaak ook) kwaliteit die je met personeel totaal niet zou kunnen halen. Veel van die verwerking kun je niet regelgebaseerd doen, dus dat is helemaal geen alternatief. De grote waarde haal je inderdaad niet eruit via een chatinterface, wel via complexere automatisering. Door de grote innovatiesnelheid zie je dat er maar een beperkte waarde zit in hogere kwaliteit aanbieden dan de rest, want 12 maanden later kun je hetzelfde doen met open weights. Daarom heeft OpenAI een probleem, niet omdat LLMs uberhaupt geen waarde hebben.

[Martinspire]

Mja eens. Momenteel ben ik al na een week door de limieten heen van Github Copilot, waar ik voorheen prima een maand ermee kon doen. En ik verwacht eigenlijk niet dat dit de laatste prijsstijging is. Zolang ze nog bepaalde zaken goedkoper kunnen houden, heb je dat mensen er nog wel geïnteresseerd in zijn, maar zodra je een bepaald limiet bereikt qua kosten, gaan veel mensen toch echt wel minderen en kijken naar alternatieven.

[valvy]

Ik weet niet helemaal hoe dit zit met chatgpt. Maar Claude code en NotebookLM zijn echt magisch. Voor beide instrumenten zou ik een hoop voor willen betalen als dat nodig is. Waarbij ik eerder een lijvig wetenschappelijk verslag moest lezen, kan Ik dit nu in podcast vorm tijdens het hardlopen doen. Tevens kan ik mijn eigen mini apps maken om dingen te automatiseren en te prototypen

het zal wellicht (voor nu) software ontwikkelaars en creatievelingen niet helemaal vervangen. Maar als leek kan ik zoveel meer dingen (of makkelijker) doen dan een paar jaar geleden. Er is echt meerwaarde in enkele vormen van ai.

maar ja, of dit de huidige beurs waarderingen rechtvaardigt.. dat weet ik niet. Vliegtuigen zijn ook heel waardevol voor individuen, maar de meeste vliegtuig maatschappijen maken ook praktisch altijd verlies en zijn zeer slecht voor het milieu.

[meowmofo]

Hier alvast een mooi kijkje in wat data over de daadwerkelijke kosten: https://isaiprofitable.com/

Vooralsnog is er 1 bedrijf die er schathemeltje rijk van wordt, naar de geheugenfabrikanten die daar niet meegenomen zijn.

[Gamebuster]

Zeker LLMs die in processen meedraaien en duizenden keren per dag aangeroepen worden, zullen MI vervangen worden door gewone code.

Onzin. Zelfs lokale modellen zijn nu al prima geschikt voor taken die "gewone code" niet (makkelijk) kunnen oplossen, en binnen een paar jaar heeft ieder smart-device voldoende hardware aan boort voor lokale modellen.

Ook "cloud modellen", zoals de goedkopere flash-lite/haiku modellen zijn prima geschikt voor vele taken. Ik voer complete log-dumps aan LLMs voor analyze voor nog geen dollar per dag.

[locke960]

en zijn er in ieder geval ook nadelen aan zoals verlies van vaardigheden bij gebruikers

Dat is een voordeel in de ogen van AI bedrijven. Het maakt klanten afhankelijker.

[bzuidgeest]

Voor mij persoonlijk is de waarde wel degelijk bewezen. Zeker als je het lokaal zou kunnen draaien.

Niet om mijn werk over te nemen, maar om het enorm te versnellen en op plekken te brengen waar ik anders tijd nog geld voor zou hebben.

Voor mij persoonlijk zijn de winsten assistentie bij reverse engineering met ghidra. De AI leest assembly met gemak. Kost dat ding veel minder tijd en ik hoef alleen het resultaat te bekijken. Patroon herkenning in onbekende formats zijn ze ook nog al geweldig voor. Ze herkennen veel makkelijker compressie en wat al niet dan ik. En ze kennen er veel meer obscure vormen van.

Dan met code porten naar een ander platform. je zet de machine aan het werk en laat het werken tot de testen allemaal groen licht geven. In de tussentijd kan ik iets anders doen.

Image AI kan ik "generatief upscalen" laten doen. Afbeeldingen uit het dostijdperk van QVGA naar 4K omzetten met invullen van detail zonder bij te verzinnen. Doen ze ook prima. Geen artiest met kosten en eigen ego meer nodig.

AI vervangt mij niet, maar het versterkt mijn werk enorm. Het neemt al het grunt werkt weg en laat mij de creativiteit en het denkwerk overhouden. Je hoeft je er niet aan over te geven, je kan het je ook laten versterken. Een augmentatie.

[Darksteel83]

Gebruik jij nu AI om oude games of andere hele oude applicaties om te zetten naar moderne code en moderne systemen?

Heb je daar veel token voor nodig? Ik vermoed dat je dit ruim niet meer af kunt met de gratis limieten.

[bzuidgeest]

Ja dat doe/probeer ik.

Ik heb ghidra met ghiddrassistMCP en ik heb "zelf" een export plugin voor ghidra ontwikkeld die een tegenhanger heeft in vscode dit alles uit ghidra functies, symbols etc naar markdown files in vscode exporteert. In vscode kan de llm lekker indexen en makkelijk overzicht krijgen. En na analyse instructies via mcp naar ghidra terugsturen, waarna export komt etc, cirkel....

Het succes is wisselend. Ik kan zeker de AI werkende speelbare dingen maken. Maar voor de 100% is begeleiding nodig, controle op werking (code bijna nooit). Games gemaakt met een c of pascal etc compiler gaan makkelijker dan handcrafted assembly.

Ik heb nog niets volledig af via deze methode, maar het geeft wat (voor mij als RE noob) indrukwekkende toch wel werkende resultaten.

En tokens, ja dat red je zowel in kwaliteit als kwantiteit niet met gratis. Maar met laten we zeggen 40 euro in een copilot pro abbo kon (oude afrekenmodel) heel ver komen. Ik ben nog voorzichtig onder het nieuwe model. Maar ik had andere abbo's waar al per token werd afgerekend. En je moet gewoon subtiel zijn met je gebruik. Bijvoorbeeld besteden aan reverse enginering van formats die je zelf kan implementeren.

Microsofts gewone copilot kan ook "gratis" vragen beantwoorden en uitleg geven. Die voer je losse functies of assembly waar je vragen over hebt en die geeft dan uitleg zonder grotere context. Dat is soms zelfs wenselijk dat er niet te veel bijgehaald word.

Tactisch gebruik is alles. Ik zou graag een local llm hebben, maar de hardware is niet te betalen.

[A Lurker]

Zeker LLMs die in processen meedraaien en duizenden keren per dag aangeroepen worden, zullen MI vervangen worden door gewone code.

Code handmatig maken kan al decennia, als er voor een bepaalde usecase een goede business case was om het te automatiseren was die normaalgezien al ontwikkeld. Nu gebruiken we LLMs voor allerhande meer taken; het is een uitbreiding van de productiviteit. Stellen dat we daarna toch maar weer code zullen gaan schrijven voor de repetitieve of intensieve LLM taken is daarmee nog niet gestaafd; waarom was die usecase dan vóór de introductie LLMs niet ondervangen met code?

Door te stellen dat als uiteindelijk de duimschroeven qua winstgevendheid aangedraaid worden de innovatie weer (deels) teruggedraaid wordt door die kosten is simpelweg maar een kant van het verhaal. Je hebt namelijk productiekosten (wat kost het de fabrikant) en de vraagprijs (wat vraagt ie voor zijn product of dienst). In geval van LLMs is daar inderdaad een grote discrepantie en is er veel verlies.

En zodra die meer in lijn komen zijn -op dit moment- de productiekosten nu nog te hoog voor menig toepassing, maar datzelfde geldt voor elke tech. Vrijwel niemand kocht een dure OLED tv van 15000 euro.

Maar door je conclusie "Zeker LLMs die in processen meedraaien en duizenden keren per dag aangeroepen worden, zullen MI vervangen worden door gewone code." te baseren op enkel de vraagprijs die gaat stijgen en niet mee te nemen dat de productiekosten even goed gaan dalen als natuurwet van innovatie suggereert dat we ons met LLMs in een volledig statische wereld begeven.

Anders gezegd: De subsidie-fase is simpelweg een business model (het amazon-model; grow first, then profit) en hoe de early adoption verloopt (free samples) en zegt niks over de mate van levensvatbaarheid van het concept an sich voor de lange termijn.

[Reactie gewijzigd door A Lurker op 8 juni 2026 10:31]

[chris_0611]

Een calculator is accuraat. Als mijn calculator 60% van de tijd dingen vol overtuiging hallucineert, dan zou ik inderdaad pen en papier gebruiken ja.

[bzuidgeest]

Je zou ook gewoon een betere rekenmachine kunnen kopen.

[chris_0611]

Als de auto 60% van de tijd willekeurig naar een verkeerde bestemming zou rijden, zou ik een paard pakken inderdaad.

[chris_0611]

Als de telefoon waar in ik het opsla 60% van de tijd een fout nummer zou bellen (en me vol overtuiging zou gaslighten dat hij toch echt het juiste nummer belt), dan zou ik inderdaad weer telefoonnummers uit mijn hoofd gaan leren ja.

Snap je het nu bijna?

[lighting_]

ja ik snap het. Het is vooral als, als, als. En vooral richten op 60% situatie. Goede argumenten. Als er 60% kans is op winnen loterij was ik rijk. Zoiets?

[Reactie gewijzigd door lighting_ op 8 juni 2026 12:04]

[chris_0611]

Nee, jij noemt steeds dingen die beter zijn dan het oude dat ze vervangen. Maar LLM's zijn gewoon niet goed genoeg, omdat ze te vaak vol overtuiging fouten maken. Daarom zijn LLM's en genAI compleet onbruikbaar

Zodra LLM's ook daadwerkelijk betrouwbaar en accuraat zijn, DAN zal ik het vaker gebruiken.

Ik weet alleen niet of dat (technisch gezien) uberhaupt mogelijk is met de huidige transformer architecture van LLM's. Zo lang dit probleem niet opgelost is, en er ECHT een doorbraak komt die hallucinaties oplost, kan alles met LLM's wel een enorme bubble zijn.

[pietvelleman]

"Maar LLM's zijn gewoon niet goed genoeg, omdat ze te vaak vol overtuiging fouten maken. Daarom zijn LLM's en genAI compleet onbruikbaar"

Vanochtend met Claude een tool in Rust gebouwd die CSV files analyseert. Ipv 2 minuten duurt het nu 4 seconden per file. En ja, er zaten fouten in de eerste versies (zoals ik zelf ook fouten maak met programmeren). En dan ga je testen, hertesten en optimaliseren.
En dan heb je in bijzonder weinig tijd een perfect werkende tool. Dankzij een LLM.

"Daarom zijn LLM's en genAI compleet onbruikbaar"

Echt! Hoe kreeg je een dergelijke zin zo vol overtuiging uit je vingers? Het is pure nonsense!

[chris_0611]

Yep. Klopt. De hele wereld is aan het vibecoden en tools aan het bouwen en mails aan het schrijven met LLM's. Ok.

Wordt er opeens enorm veel sneller wetenschappelijk onderzoek gedaan? Ik zie het niet. Worden er opeens ontzettend snel veel gave games gebouwd? Ik zie het niet. Worden er veel betere en bugvrije apps of software gebouwd dan vroeger? Ik zie het niet.

Voor jou zou het vandaag misschien even handig zijn, omdat je snel een tooltje in elkaar kan flansen. Maar als het echt een grote 'doorbraak' voor de maatschappij zou zijn, dan zou daar na X aantaal jaar LLM's toch nu inmiddels wel iets merkbaar van moeten worden?

Neem, bijvoorbeeld Microsoft. De koning van LLM's die zelf Copilot en een aandeel in OpenAI hebben, right? Is de ontwikkeling van Windows sneller gegaan? Hebben we in de afgelopen 2 jaar enorme doorbraken gezien in productiviteit bij Microsoft? Is Windows in een klap bugvrij geworden omdat LLM's enorm snel zijn in code (her)schrijven? Nee, eigenlijk niet echt he. Misschien is het juist alleen allemaal maar slechter geworden.

Als zelf Microsoft het niet voor elkaar krijgt om daarwerkelijk tastbaar een beter product te bouwen met LLM's.... Sorry, nogmaals, iedereen is aan het vibecoden en mails aan het schrijven met LLM's. Maar in het dagelijks leven zie ik eigenlijk niet dat 'dingen' daadwerkelijk beter worden...

[pietvelleman]

Je zegt 'OK'. Maar eerst schreef je dat LLM's en genAI compleet onbruikbaar zijn...

"Wordt er opeens enorm veel sneller wetenschappelijk onderzoek gedaan?"

Antwoord: ja. Dat ga je alleen niet op Tweakers lezen.... Die schrijven alleen zure artikelen over AI.

"Merck is using AI agents to cut drug discovery cycles by a third"
https://venturebeat.com/infrastructure/merck-and-mastercard-are-seeing-real-agentic-ai-results-both-say-the-plumbing-came-first


"We've already seen how AI can be used to help uncover the structure of proteins and discover new materials, so it would follow naturally that a specially trained AI model could also use data of previous drug molecular structures to find new drugs and accelerate treatments for some of the toughest diseases and medical conditions out there. "
https://venturebeat.com/ai/can-ai-increase-the-pace-and-quality-of-pharmaceutical-research-verisim-life-says-yes

Maar goed, de vorige keer dat ik dit soort artikelen postte was de reactie: "dat is alleen maar marketing. Want AI kan niks en is volkomen onbruikbaar."
Een beetje zoals jouw reactie dus.

"na X aantaal jaar"??

Waar heb je het over? Echt bruikbare AI is pas een paar jaar beschikbaar. We staan aan het begin.

Sorry, dat ik het zeg: maar je hebt geen idee waar je het over hebt. Hoe breed AI al wordt ingezet. En dan doel ik niet alleen op 'grootse' dingen. Maar bijv. ook bij kleine, embedded systemen. Bijv. camera's met automatische kenteken-herkenning of gezichtsherkenning, waarbij AI en machine-learning in elkaar overvloeien....

En ja, ook Microsoft heeft zijn producten beter gemaakt door AI.
Ik kan je daar ook wel links van geven...
Maar dat zal ook wel afgedaan worden als marketingpraat...
Want AI is immers compleet onbruikbaar!

[chris_0611]

Of jij hebt gelijk, een we krijgen een utopische en geweldige samenleving over een paar jaar, of ik heb gelijk en de bubbel barst en we komen in een enorme economische crisis. Ik hoop echt echt dat jij gelijk hebt.

Een jaar geleden zat ik ook in het eerste kamp trouwens, maar ik ben behoorlijk pessimistisch geworden het laatste jaar

Tot ik het met mijn eigen ogen zie.... ben ik bang dat dat soort artikelen over wetenschappelijk onderzoek ook hype zijn en/of dat het weer typisch llm gelul is waar de llm zegt hij hij een doorbraak vonden heeft

[Reactie gewijzigd door chris_0611 op 8 juni 2026 14:28]

[pietvelleman]

"Een valse tegenstelling (ook wel vals dilemma of valse dichotomie) is een drogreden waarbij twee uitersten of alternatieven worden gepresenteerd als de enige twee opties"

Ik geloof helemaal niet dat we afstevenen op een utopische samenleving. AI zal heel veel ellende tot gevolg hebben en ik verwacht dat in de toekomst veel mensen liever met AI praten dan met een medemens. Maar goed..ik heb te veel dystopische literatuur gelezen wellicht...
Maar ik zit dus ook in het pessimistische kamp.

"Tot ik het met mijn eigen ogen zie...."

Nee hoor. Ook daarna zal je het ontkennen. Want je zag die artikelen met je eigen ogen. En je hebt het afgedaan als hype/marketing. Logisch als je van mening bent dat AI compleet waardeloos is.
Dat kun je nog best een tijdje volhouden!

Wellicht ook leuk:
https://www.philips.nl/a-w/about/news/archive/standard/about/news/articles/2026/rtl-nieuws-snellere-scherpere-mri-scans-met-ai-bij-antoni-van-leeuwenhoek-in-amsterdam.html

Ook gelul? MRI's worden helemaal niet met behulp van AI ontdaan van ruis? Dat is alleen reclame? En die radioloog die ze aan het woord laten, is slechts puppet van BigTech?

[chris_0611]

Absoluut met je eens dat AI toepassingen heeft, maar ik kom ook uit de wetenschappelijke wereld en dat soort persberichten (zoals die over MRI) zijn ook vaak heel heel overdreven en hebben als enorm doel om subsidies binnen te krijgen of als resultaat/oplevering van een subsidie project. Maar goed, een soort 'sharpening filter' op basis van een AI algorithme is iets van totaal andere orde als LLM's / genAI / 'AGI' waar de hele bubble over gaat en waar 100-en miljarden in gepompt worden.

Sure, een AI algoritme kan beeldherkenning doen, of andere nuttige toepassingen hebben. Daarmee kan de bubble nog wel barsten en deze aankondiging van OpenAI is daar een van de stuiptrekkingen van (IMO).


En er wordt wel zoveel geld in die bubble gepompt dat die 2 uitersten inmiddels de enige 2 mogelijke uitkomsten zijn trouwens..... Niemand pompt daar zoveel geld in om een beter sharpening filter voor MRI te maken....

[Reactie gewijzigd door chris_0611 op 8 juni 2026 14:58]

[pietvelleman]

Beste Chris,

Je schreef eerst "LLM's en genAI compleet onbruikbaar"

En nu schrijf je "Absoluut met je eens dat AI toepassingen heeft".

Dan heeft een zinvolle discussie toch geen enkele zin?
Ik wordt hier zo verdrietig van. Vroeger zat ik op Tweakers en las ik vaak alleen de reacties, aangezien zoveel mensen zinvolle en interessante toevoegingen hadden...

En nu lijkt het 1 grote reaguur-echo-kamer te worden!

Anyway...

[chris_0611]

AI = Fruit

LLM = Appel


Ik heb nooit gezegd dat alle fruit (AI) onbruikbaar is, alleen dat de huidige (transformer based) LLM's (Appel) een fundamentele inherente flaw hebben (hallucinaties) die niet opgelost kan worden zonder een significante wetenschappelijke doorbraak (zoals transformers dat was voor LLM's) waarvan niemand weet wanneer en OF die er wel komt

En ALS die doorbraak er niet komt, knapt de hele bubbel en komen we in een dikke economische crisis omdat er dan een aantal enorme techbedrijven met enorme enorme investeringen omvallen

duidelijk??

Omdat JIJ het verschil tussen AI-in-general en de LLM/genAI bubbel niet snapt hoef je me niet met 'beste Chris' aan te spreken. Bah.

[Reactie gewijzigd door chris_0611 op 8 juni 2026 15:20]

[pietvelleman]

"LLM's en genAI compleet onbruikbaar"

Ik snap het verschil tussen AI en LLM's. In de praktijk loopt het inmiddels natuurlijk volledig in elkaar over. De ChatGPT's van tegenwoordig zijn natuurlijk geen LLM's meer. En daarbij had jij het ook over genAI... Is dat voelsel in je vergelijking? Nog meer hoogover dan fruit? Of is genAI een peulvrucht?

Dus nee... niet duidelijk.

Je maakt er een soepzooitje van! Maar ga vooral verder met je reaguursels over bubbels en economische crisisen.

Maar persoonlijk ben ik meer geinteresseerd in je ervaringen met AI in de wetenschappelijke wereld.

[chris_0611]

Ok, ik probeer m'n mening goed te verwoorden:

De grootste differentiatie is niet eens genAI/LLM, maar meer de grootschaligheid. Kleinschalige AI, zoals image filters, datafiltering hebben zeker nuttige toepassingen.

Het probleem zit hem in de grootschalige AI's (en dat zijn de LLM's / genAI's). Die worden niet getraind om nu positieve kosten/baten te hebben. Die zijn zwaar verliesgevend, en wordt disproportioneel veel resources in gepompt enkel en alleen om de belofte dat ze ooit heel goed worden. Maar mijn mening is nu juist dat die modellen nooit aan hun 'bovenmenselijke' verwachtingen kunnen voldoen omdat er dus fundamentele inherente beperkingen aan zitten. Er wordt alleen 100-en miljarden in gepompt om 'de eerste' te zijn in het bereiken van die bovenmenselijke AI. Zonder dat, kunnen die modellen realistisch gezien nooit hun investeringen terugverdienen (iets waar OpenAI nu tegenaan loopt, zie dit artikel).

GenAI voor persoonlijk gebruik vind ik echt totaal waardeloos. LLM's om mee te brainstormen of als vraagbaak voor informatie is compleet waardeloos en onbruikbaar. Een fatsoenlijke RAG applicatie die gewoon betrouwbaar wat informatie kan opzoeken in een folder met bedrijfsdocumenten? Bestaat niet!!! En dat zou echt de meeste simpele nuttige toepassing van een LLM zijn en blijkbaar krijgt niemand DAT fatsoenlijk voor elkaar. Vooral hier komt mij statement 'compleet onbruikbaar' vandaan. Microsoft, OpenAI, iemand, geef me een fatsoenlijk werkende RAG applicatie!! (na al die jaren en 100-en miljarden lukt zelfs DAT ze niet).

Voor vibe-coden heeft het wellicht nog een klein beetje een nuttige toepassing, maar dat gaat never nooit die 100-en miljarden terugverdienen en zelfs het klein beetje praktisch nut dat LLM's daadwerkelijk hebben wordt zwaar over-hyped. En zelfs vibe-coded software sucks. Microsoft vibe-code Windows en Windows van nu sucks meer dan Windows van 10 jaar geleden, dus zelfs Microsoft zelf lukt het niet om vibe-coding op een betrouwbare manier te gebruiken.

Ik kan nog wel even doorlullen. Over het misbruik dat mensen van LLM's maken, hoe ze het als absolute feitelijke bron gebruiken, als halve psycholoog, hell als complete vervanging van een godsdienst. Compleet detrimenteel voor de samenleving.

Mijn wetenschappelijke ervaring met AI is heel kleinschalig, denk simpele object recognition, specifieke soorten weefsels uit multispectrale data halen, etc. Allemaal niet zo boeiend. Daar is de AI meer een soort black box filter. En zelfs dat werkt allemaal niet so supergeweldig eigenlijk, vooral omdat het zo'n oninzichtelijke black box is allemaal. Mijn ervaring met medische AI was een aantal jaar terug, maar toen was het simpelweg onmogelijk om een black-box AI medisch gecertificeerd te krijgen (puur omdat het niet inzichtelijk was). Eg net als die media-release over MRI, heeel misschien puur als hulp voor de arts om aan te geven: hier zit misschien iets. Je kunt geen plaatje op basis van AI aan een chirurg laten zien die zegt: dit is tumorweefsel en dit niet, ga maar snijden

[Reactie gewijzigd door chris_0611 op 8 juni 2026 16:03]

[pietvelleman]

thx (en excuus voor mijn felheid).

"Compleet detrimenteel voor de samenleving."
Geheel mee eens. Ik zie de toekomst bijzonder somber tegemoet...

"en wordt disproportioneel veel resources in gepompt enkel en alleen om de belofte dat ze ooit heel goed worden."

Niet mee eens. Het zoekgedrag van mensen is grondig - en m.i. blijvend - veranderd. Goolge moet zich doodgeschrokken zijn. De miljarden die vanuit Google worden geinvesteerd zijn een bittere noodzaak.

En veel van die miljarden zijn m.i. niet erin gepompt om als eerste bovenmenselijke AI te bereiken, maar simpelweg om marktaandeel te behalen.

Of dat slim is, dat is een tweede. M.i. kan het zomaar zo zijn dat een relatief nieuwe speler (bijv. Cursor met Composer 2.5) zomaar iedereen gaat inhalen. En mensen switchen makkelijker van AI tools dan van bijv. SocMedia platform of messenger...

Ik zou mijn geld iig niet op ChatGPT inzetten....

"Voor vibe-coden heeft het wellicht nog een klein beetje een nuttige toepassing"

Ik weet ook niet of AI (of hoe je het ook noemt) echt veel beter zal worden in de toekomst, of dat dit zo'n beetje de max is die behaald kan worden. Maar.... als er ergens een toekomst ligt, dan ligt die bij het programmeren.

Tegenwoordig schrijf ik mijn code vaak met Claude Code. Waarbij voor alle functies aparte tests worden geschreven + veel expliciete aandacht voor performance verbeteringen en (cpu/mem) profiling. En daarna laat ik codex alles opnieuw runnen/builden/controleren. Alles gaat zeker niet foutloos... Maar ik ben vaak bijzonder onder de indruk van het resultaat. Een goede programmeur kan hetzelfde in bereiken en ongetwijfeld met beter resultaat. Maar ik ben geen goede programmeur (en wij zijn in de meerderheid). Natuurlijk zit daar een gevaar in... .maar met checks en balances ook heel veel mogelijkheden!

[lighting_]

Als de telefoon waar in ik het opsla 60%

Als de auto 60%

Als mijn calculator 60%

[A Lurker]

Nee jij komt met achterlijke voorbeelden.

Voorbeelden die je laten uitzoomen en kijken naar de utiliteitsfactor van nieuwe tech in isolatie ipv in relatie tot de productieprijs? Eerste calculatoren waren ook onbetaalbaar. Zegt niks over de toekomstige adoptie. Prijs is een tijdelijke fenomeen, geen fundamenteel probleem. Verreweg de meeste kritiek op AI hier is cognitieve dissonantie in de puurste vorm.

"AI is duur, ze maken fouten en daarom kunnen we nu al concluderen dat ze ongeschikt zijn en blijven voor dure usecases. Beter schrijf je gewoon code."
(Geparafraseerde semi-samenvatting van de strekking van veel critici. Gebaseerd op foute aannames als stagnatie van voortgang op efficiënte van LLMs, en op het feit je het totale kwaliteitsbeoordeling van LLMs kunt reduceren tot het percentage perfecte antwoorden)

[Reactie gewijzigd door A Lurker op 8 juni 2026 12:54]

[chris_0611]

Gebaseerd op foute aannames als stagnatie van voortgang op efficiënte van LLMs

Oh, maar niemand weet daadwerkelijk of het hallucinatie probleem opgelost kan worden met de huidige LLM's, of dat dat inherent is aan de transformer architectuur. Ik ben bang voor het laatste, en dat er inderdaad eerst weer een fundamentele doorbraak nodig is. Niemand weet of kan voorspellen of en wanneer zo'n doorbraak er komt. Mijn persoonlijke mening is dat als de hallucinaties opgelost kunnen worden in de transformer LLM's, door bijvoorbeeld brute-force de modellen harder te trainen, dat dat afgelopen jaar wel gebeurd zou zijn. Zelfs de nieuwste modellen hebben daar nog ontzettend last van, dus ik ben bang dat hallucinaties gewoon inherent zijn aan Transformer modellen en dat de huidige AI's dus een dead-end ontwikkeling zijn

Een AI die zoveel hallucineert en zoveel fouten maakt als de huidige AI's is simpelweg onacceptabel. Blijkbaar is het met de huidige modellen niet mogelijk om hem zo te maken dat hij een 'ik weet het niet' antwoord, en dat is echt echt een probleem

[Reactie gewijzigd door chris_0611 op 8 juni 2026 12:53]

[A Lurker]

Het probleem in de discussie is niet het benoemen van problemen van AI maar de absolute gevolgtrekkingen over hun nut en toekomstige toepassingen daaruit.

Deze reactie die je hier op mij schrijft vind ik mooi. Je eerdere strekking "AIs zijn niet goed genoeg" is enkel een persoonlijke oordeel en dat wordt niks meer dan een wellus nietes want ik persponlijk vind AI als klankbord al fantastisch in hun huidige vorm.

Evenzo zijn argumenten uit kostenoogpunt tijdelijk. Of die van kwaliteitsborging tijdelijk zijn moet zich nog uitwijzen, maar een absoluut oordeel over dat het nu nutteloos is dient niet tot samen debatteren en spiegelen, enkel tot ventileren.

[Reactie gewijzigd door A Lurker op 8 juni 2026 13:04]

[chris_0611]

ik persponlijk vind AI als klankbord al fantastisch in hun huidige vorm.

JUIST daarin vind ik ze enorm tegenvallen. 'Vroeger', zo rond GPT3.5 was ik daarmee ook enorm hyped. Maar hoe meer ik het gebruik, hoe verschrikkelijk slecht die LLM's eigenlijk zijn, vooral als 'klankbord' of om mee te brainstormen. VOORAL omdat ze zo zo verschrikkelijk vaak fout zijn. Het meest verschrikkelijk is argumenteren met mensen die een LLM als klankbord gebruiken trouwens, omdat die LLM je altijd gelijk zal geven en/of er dingen bij zal hallucineren, waardoor een LLM als klankbord volledig onbruikbaar is.

Als een LLM veeel vaker feitelijk juist zou zijn, zou het veel beter als klankbord bruikbaar zijn. En juist DAT probleem zie ik niet opgelost worden met de Transformer LLM's.

[Reactie gewijzigd door chris_0611 op 8 juni 2026 13:13]

[A Lurker]

Alsjeblieft, hou daar mee op. De huidige LLM's als klankbord gebruiken zal de ondergang van de huidige maatschappij zijn. Een LLM is 'nuttig' als klankbord voor domme mensen zonder kritisch denkvermogen. Gatverdamme wat heb ik een hekel aan mensen die LLM's als klankbord gebruiken. Het is zo, zo, verschrikkelijk slecht.

En dit is precies het probeem waarom discussies over AI volledig failliet zijn. Je hebt al een extreem onbeweegbaar fatalistisch oordeel geveld over wat wel en niet kan en bent enkel aan het uitdragen over wat ik (of Jantje) MOET doen met de technologie.

Juist DAT is het failliet van de community en het debat; jij bent gesloten voor leren en spiegelen en hebt een ultimatum klaar en een belediging van jewelste. Met enkel als overtuiging jouw eigen bril; chatGPT was goed maar nu is het slecht.

"Een LLM is 'nuttig' als klankbord voor domme mensen zonder kritisch denkvermogen."

Dit is zo'n extreme tekortkoming dat je dit neerpent. Hier heb je de bingokaart van drogredenen volledig vol in een zin. Ik vind ze nuttig als klankbord, en het is volgens jou onomstotelijk enkel nuttig als klankbord voor domme mensen, dus je hebt hier je superioriteitscomplex volledig laten gelden; de direct hieruit volgende logische conclusie is dat ik dom ben! Chapeau.

Het bevat verder de keiharde impliciete aanname dat een slim persoon geen feedback loop heeft die een AI overstijgt; ik spiegel meerdere iteraties en corrigeer de AI vaker dan andersom. Nog steeds extreem nuttig is AI hier in compileren van ideeen, benoemen van jargon, en toevoegen van feiten.
En verder de keiharde impliciete aanname dat ik dezelfde kwaliteit van AI ontvang als jij; een teleurstellende chatGPT die wel gezien MOET worden als een waardeloos klankbord.

Heb je je ooit gerealiseerd dat ik wellicht meerdere AIs probeer en de beste gebruik?
Dat de AI zich aanpast aan je stijl etc etc.

Als laatste is het domein waar je vragen over stelt crucial voor het kunnen destileren van nuttige verbindignen bij een AI; overal waar veel wetenschappelijke papers over bestaan kan veel beter en correcter aggregeert worden dan bij dingen die enkel op reddit worden besproken. Papers zijn namelijk getoetst en peer gereviewed, reddit niet.

Wederom; dit is cognitieve dissonantie in extremus wat je vertoont goedgepraat door oppervlakkigheden en je ervaring met chatGPT als unaniem geldende voldongen feiten voor alle AIs en LLMs algemeen.

[Reactie gewijzigd door A Lurker op 8 juni 2026 13:36]

[chris_0611]

Heb je je ooit gerealiseerd dat ik wellicht meerdere AIs probeer en de beste gebruik?
Dat de AI zich aanpast aan je stijl etc etc.

I know, I know. Ik heb 1000'en uren LLM's gebruikt. Zelf RAG apps gebouwd, veel gevibecode, localLLM's gedraait, de nieuwste beste ontwikkelingen gevolgd. Persoonlijk was ik mega mega hyped over de capabilities van LLM's, zoals jij nu ook bent. Maar helaas ben ik vooral afgelopen jaar behoorlijk pessimistisch geworden...

Ik denk echt dat er geen toekomst zit in Transformer LLM's, en ik vraag me inderdaad af of ze iets goeds voor de samenleving brengen.

jij bent gesloten voor leren en spiegelen en hebt een ultimatum klaar en een belediging van jewelste.

Ontzettend niet. Compleet het tegendeel. Ik was enorm hyped en na VEEL ervaring en gebruik van LLM's is mijn mening juist veranderd. Ik ben dus wel degelijk open om te 'leren'. Misschien zul jij ooit ook 'leren' dat de huidige LLM's echt helemaal niet zo bruikbaar zijn?

Met enkel als overtuiging jouw eigen bril; chatGPT was goed maar nu is het slecht.

Niet helemaal. ChatGPT was baanbrekend maar had nog wat problemen, maar de belofte was dat het nog veel beter zou worden en dat de problemen met hallucinaties wel opgelost zouden worden. Helaas blijkt dit niet het geval. Eg -> een bubble die leeft op hype van 'wat het zou kunnen zijn/worden'. Nogmaals, ik denk dat de problemen met LLM's inherent zijn, en niet opgelost kunnen worden.

[A Lurker]

Ik ga niet na een van de grootste beledigingen die ik ooit ontvangen/gelezen heb op Tweakers weer inhoudelijk met je praten.

Je schrijft nu "Misschien zul jij ooit ook 'leren' dat de huidige LLM's echt helemaal niet zo bruikbaar zijn?"
Dit kan niet in een groter constrast kan zijn dan je belediging van een paar minuten eerder:
Alsjeblieft, hou daar mee op. De huidige LLM's als klankbord gebruiken zal de ondergang van de huidige maatschappij zijn. Een LLM is 'nuttig' als klankbord voor domme mensen zonder kritisch denkvermogen. Gatverdamme wat heb ik een hekel aan mensen die LLM's als klankbord gebruiken. Het is zo, zo, verschrikkelijk slecht.

Hier is simpelweg met de beste wil geen motivatie meer over bij mij om je nog uit te leggen of ik kan leren.

Succes met praten met anderen over AI, ik ben genezen van praten over AI en blijf het gebruiken als psychologisch en filosifisch klankbord.

Einde discussie

[Reactie gewijzigd door A Lurker op 8 juni 2026 14:08]

[chris_0611]

Kijk, en daarom zijn AI gebruikers meer een soort cult. Het is echt echt ontzettend slecht inderdaad. Succes met je LLM. Wel jammer voor de maatschappij. Tastbaar betere ideeen maken met je LLM als klankbord doe je in elk geval niet. Ondanks dat de LLM je overtuigd dat je ideeen daadwerkelijk briljant zijn. Sommige mensen hebben dat nodig.

[Reactie gewijzigd door chris_0611 op 8 juni 2026 13:46]

[A Lurker]

Ah nu toch weer een superioriteitscomplex. Ongelooflijk wat ben jij ziekelijk verbolgen om andere meningen, en alleen maar omdat het op jouw expertise-terrein is en de rest zijn meningen dus impliciet inferieur zijn en enkel neergesabeld dienen te worden.

Je kunt niet keihard beledigen en daarna de morele hogere grond vereisen als de ander stopt met een boksbal zijn.

[Reactie gewijzigd door A Lurker op 8 juni 2026 13:47]

[chris_0611]

Klopt.
Vroeger hadden mensen godsdienst, tegenwoordig hebben ze een LLM nodig. Inherent aan mensen om iets fantastisch te hebben om in te kunnen geloven.

Wel ongemakkelijk om iets van buiten je eigen bubble te horen he? Misschien moet je het met een LLM 'klankborden'. Die geeft je tenminste altijd gelijk en zegt wat je horen wil! Damn, die stomme echte mensen op tweakers.net. Snel weer met je LLM chatten.

Ooit zul je het licht zien. Of waarschijnlijk niet.

[Reactie gewijzigd door chris_0611 op 8 juni 2026 14:03]

[icecreamfarmer]

Ik ben bang van niet. Ik schrik eigenlijk ook van de cultbeweging zou er vanuit gaan dat mensen ook nog wel zelf zouden nadenken voor dit zo te posten en zich beledigd te voelen.

[icecreamfarmer]

Amen x2. Het is mooi om te zien hoe hij aan het fulmineren is en daarmee juist zijn eigen ongelijk aantoont.

[A Lurker]

Als "fulmineren -> ongelijk" dan zijn we hier onherroepelijk in een dominante primaat-niveau echokamer belandt. De bavianen staan nog niet niet de stampen in de dierentuin.

Directe gevolgtrekking hiervan is ook dat meer ad hominems je argumentatie sterker maken. (Als je tenminste even de menselijke stap ertussen zet dat het bombarderen van iemand met ad hominems hem inderdaad meer zal laten fulmineren). Je hebt dan ook je huiswerk gedaan en het woord fulmineren wel opgezocht in het woordenboek, maar je verwart hier een soort "chemische reactie" in een lab met correctheid in verbale menselijk omgang.

De intussen enige onlosmakelijke conclusie voor mij is dat er helemaal geen discussie is, of mogelijk is, met mensen als jij en chris, op gebied van AI. Als het gebruik van een hele soep aan drogredenen gevolg wordt door een toetje van het demoniseren van iemand tot cult-aanhanger, is de enige logische premissie van "is AI slecht" namelijk dat er dus blijkbaar in de premisse al "AI is slecht" staat.

Anders zou het gebruik van zo'n enorme bak drogredenen (ad hominem, doelpaalverplaatsing, autoriteitsargument, poortwachterij om er maar een paar te noemen) simpelweg niet aangemoedigd worden door toeschouwers als jij en zou je door de bovengenoemde premisse heen kunnen kijken om echt te zien wat zich voltrekt.

Dit is precies het fundament wat ik blootleg, er is geen sprake van een menselijk debat, in tegendeel wat hier gaande is is niks minder dan het failliet van het debat.

[icecreamfarmer]

Je blijft maar bezig met hele lappen tekst zonder inhoud. Dat is juist het grappige eraan. Je voelt je aangevallen terwijl daar geen enkele reden toe is.


Dat bedoel ik met fulmineren.

[Reactie gewijzigd door icecreamfarmer op 8 juni 2026 19:09]

[icecreamfarmer]

Amen.

[icecreamfarmer]

Dat is toch de huidge status. En heel eerlijk gezegd is het het afgelopen jaar alleen maar slechter ipv beter geworden.

Ze kunnen handig zijn maar het kost mij tegenwoordig net zoveel tijd aan controle dan om het zelf te doen.

Ik heb liever dat ze zeggen ik weet het niet ipv deze foutieve shit.

[icecreamfarmer]

Waarom blijf jij achterlijek vergelijkingen maken, is de vraag die jij jezelf beter kan stellen.

Ja dat zou ik doen wanneer email bij een random persoon aankwam en gods onbetrouwbaar was.

[lighting_]

Weet jij wel waar de discussie over gaat? Als je geen argumenten op tafel kan leggen moet je niet reageren en gewoon stil zitten Dit is een tech forum mocht je het vergeten.

[Reactie gewijzigd door lighting_ op 8 juni 2026 17:14]

[icecreamfarmer]

Blijf je nu als een bot de hele tijd hetzelfde herhalen en nog onrelevante shit erbij plaatsen .

[lighting_]

wat jij typt is relevant? Ik vraag of je nog argumenten heb. Gezien je vele reacties heb ik niet de indruk dat je op basis van argumenten reageert

[icecreamfarmer]

Ik stel jou een vraag waarom je met kromme vergelijkingen blijft komen.


Jouw antwoord: kom dan met argumenten. Vervolgens begin je er allerlei irrelevante zooi bij te halen.

[Zoijar]

Dat het nuttig is betekent niet dat er geen bubbel is. We hebben ook nog steeds internet. Natuurlijk kan je ontzettend nuttige dingen doen met AI en gaat dat nooit verdwijnen; de vraag is alleen of het "een paar duizend miljard" nuttig is, zeker als ondanks die dure abonnementen van bedrijven nu er nog steeds geen cent winst wordt gemaakt, en de competitie ten overvloede gelijk-krachtige modellen heeft die vaak zelfs gratis zijn.

[Zoijar]

Ja daar ben ik het wel mee eens. Ik moet de ontwikkelingen meestal via linkedin, of all places, binnen krijgen...

[LittleKiller]

Wij gebruiken inmiddels door het gehele bedrijf agentic AI. Daar zit echt veel waarde in.

Wat altijd door mijn hoofd spookt is dat op een gegeven moment de wet van dimishing returns toch echt om de hoek zal komen.

Ik ben echt benieuwd hoe open source modellen zich dan verhouden tot de frontier modellen. Hardware zal goedkoper en meer dedicated AI worden, local AI zal denk ik echt een grote concurrent zijn voor openai.

Ik ben benieuwd of ze het hoofd boven water kunnen houden, het zelfde geldt voor anthropic overigens.

Dus deze stap, om minder AI focussed te zijn, maar meer service, kan ik wel begrijpen.

[DeNachtwacht]

Helaas gaat die vlieger niet op. Goede lokale modellen zullen zeker steeds beter worden, maar de cloud modellen zijn (geschat) enkele terabytes groot. Dat zijn natuurlijk bedrijfsgeheimen, maar je ziet dus als dat dat totaal andere koek is dan zelfs een model van 26 gigabyte wat je kan draaien op een RTX 5090 met 32 GB VRAM. Een optie is het taalmodel in dedicated ram te draaien, dan kun je als consument tot 128 of zelfs 256 gb gaan maar houdt het ook op (en is je bankrekening leeg met 32GB voor €400 momenteel ). Nadeel van dedicated ram is ook dat het zelfs in de beste gevallen (macbooks) 3 tot 4x langzamer is dan vram en je dus flink langer op antwoord moet wachten.

Grote bedrijven en/of onderwijsinstellingen zijn al actief met eigen setups met bijvoorbeeld de "redelijk betaalbare" RTX Blackwell 6000 pro met 96GB vram (+/- €9000), maar je ziet al dat je daar dus ook voor meerdere GPU's moet gaan voordat je echt in de buurt van de grote cloudmodellen komt.

Tel daarbij het nadeel op dat dat dus betekent dat als Piet van de administratie nu aan het prompten is, de hele afdeling financieën dus moet wachten tot hij klaar is bij lokale modellen: je kan alleen samen aan de slag op zo'n ding als het vram gesplitst wordt door kleinere modellen te gebruiken en we hebben net gezien dat je dat niet wil.

Kortom, Lokale AI wordt zeker steeds leuker, maar dat kan pas echt zakelijk interessant gaan worden als iedereen op zijn eigen device die terabytes aan vram heeft, en daar zijn we nog wel even vandaan zullen we maar eufemistisch zeggen

[Reactie gewijzigd door DeNachtwacht op 8 juni 2026 09:09]

[siggy]

Mwoa valt reuze mee hoor. Het complete MKB heeft geen mega modellen nodig voor 90% wat op dit moment uitbesteed kan worden aan agentic AI modellen.

Als je naar high tech industrie gaat kijken, ja vast. Specialistische industrie, vast. Maar voor het mkb is een dgx of 2 al meer dan genoeg. En het is gewoon fte-besparend, danwel omzet verhogend.

Wat is nou de prijs van een dgx tov een (extra) medewerker? Zelfs een paar honderd euro per maand aan een model in de cloud is peanuts vergeleken met wat een medewerker zou kosten.

Open source gaat echt het ding worden voor mkb, maar voor de grote jongens die zullen vast en zeker in de cloud blijven. En dat is beide prima.

[thePiett]

Op de lange termijn "wint" het bedrijf misschien wel wat closed-source modellen lokaal draaibaar maakt. Goed getrainde modellen met recente traininggegevens. Even afgezien van hoe je dat technisch oplost. Bedrijven willen gewoon hun (gevoelige) data niet delen. Maar de echte waarde zit in het meesturen van je data in context. En ik denk dat de cloud onhoudbaar is. Er zit een rem op de bouw van nieuwe datacenters. Anthropic heeft nu al moeite met de capaciteit. Het wordt onbetaalbaar.

En als je erover nadenkt: AI hoeft helemaal niet in een datacenter te draaien. AI vereist vooral krachtige hardware, niet de volledige set voorzieningen die een datacenter biedt. Redundantie, fysieke beveiliging en noodstroom zijn nodig voor de continuïteit van de dienstverlening voor een cloudprovider, maar niet voor de werking van het AI-model zelf.

[DeNachtwacht]

Waar heb ik gezegd dat ik kies voor een extra medewerker? De discussie ging over lokaal of cloudgebruik. En juist bij lokaal gebruik komt het inhuren van die extra medewerker al snel in het zicht ;)

En daarom gaat dat MKB massaal voor cloudmodellen. Hardware moet je onderhouden, kost geld in aanschaf, moet een ruimte voor worden ingericht en veroudert elke paar jaar waardoor je het hele riedeltje weer opnieuw kan doen.

Het verbaast mij ergens dat er zoveel geloof is in eigen zakelijke modellen draaien, we zijn net éindelijk zover dat ook elke MKB'er ziet dat met je mail en data echt het veiligst en goedkoopst in de cloud kan zitten (mag natuurlijk wel een europese cloud worden, maar verder... ) in plaats van dat je dat op een servertje in de meterkast draait. En nu we eindelijk zover zijn begint bij AI ineens iedereen weer te denken dat het handig is het thuis zelf te doen.

Ik voorspel echt dat ook hier cloudmodellen de toekomst zijn en blijven. Alleen al door de enorm prijzige hardware die je ervoor nodig hebt.

[Reactie gewijzigd door DeNachtwacht op 8 juni 2026 09:49]

[batjes]

Voor specialistische industrie zou je prima een lokaal model zelf kunnen trainen dat qua resources nog binnen de perken blijft.

[ManIkWeet]

Tel daarbij het nadeel op dat dat dus betekent dat als Piet van de administratie nu aan het prompten is, de hele afdeling financieën dus moet wachten tot hij klaar is bij lokale modellen: je kan alleen samen aan de slag op zo'n ding als het vram gesplitst wordt door kleinere modellen te gebruiken en we hebben net gezien dat je dat niet wil.

Dat klopt niet helemaal, het is wel degelijk mogelijk om meerdere gebruikers op 1 model te draaien. De enige extra (V)RAM dat je dan nodig hebt, is de context.

Er zijn dus wel winsten te behalen op "consumenten"hardware bij het draaien van meerdere queries tegelijk. Dit kan interessant zijn voor multi-agent workflows (dus 1 LLM die kleine taakjes maakt, en meerdere agents die de taakjes afhandelt)

[DeNachtwacht]

Ehm, je hebt gelezen welk voorbeeld ik noemde qua grootte? Een 26GB model draaien op een 32GB gpu is dus per gebruiker 6 GB aan context. En ik kan je vertellen dat is nog aan de krappe kant. Dus als er 6 man gaan zitten prompten kun je dus zelfs in dit krappe voorbeeld nog 6x6GB vram = 36GB vram erbij reken naast je model van 26GB. Dan zit je dus sowieso al aan die RTX 6000 Pro blackwell van €9000 (en vergeet het systeem er niet omheen te bouwen).

Ik heb zelf inmiddels aardig wat ervaring met Qwen 3.6 27B en Gemma 4 27B, op een RTX 5090. In beide gevallen rond de 24GB groot en dan zit mijn VRAM in beide gevallen net in de veilige marge met 30-31.5GB in gebruik. Deze twee modellen zijn de eerste die vrij aardig werken voor programmeren, maar ook op een RTX 5090 is een cloudmodel gewoon flink sneller, en daarnaast is het kwalitatief echt niet vergelijkbaar. Flink grote prompts met vibecoden leiden helaas toch nog tot echt aantoonbaar fout uitgevoerde opdrachten (dat is dus iets anders dan een cloudmodel dat iets niet goed doet omdat je het zelf niet duidelijk omschrijven hebt).

Dus nee, ik denk niet dat lokale AI echt de toekomst op lange termijn gaat zijn voor zakelijk gebruik.

[Zoijar]

Zo werkt een llm niet, ze zijn stateless. Je verbruikt niet ineens meer vram met groeiende context. (Het zijn matrix vermenigvuldigingen, wanneer de dimensie vast staat blijft alles constant, enige is de attention masking bij padded sequences)

[Reactie gewijzigd door Zoijar op 8 juni 2026 10:20]

[DeNachtwacht]

Hmm dit is voor mij nieuw, die context is toch per actieve sessie per gebruiker? Als ik naar mijn ollama server van (bijv) 4 verschillende PC's prompts verstuur zeg jij dus dat de context net zo groot blijft (en ongeacht de lengte van de chat) vergeleken met wanneer dat maar vanaf 1 pc gebeurt?

[Zoijar]

Heel simpel gezien input je een vector van tokens met vaste, vooraf vastgestelde lengte/dimensie. Als je prompt/context te kort is dan wordt die vector aangevuld met "nullen". Je hebt bijvoorbeeld een 4096x4096 matrix dat is je model, en daar vermenigvuldig je een vector mee die altijd 1x4096 moet zijn.

Nou zijn er wel wat truuks om bijvoorbeeld 4 prompts van 1024 token in deze ene vector van 4096 te proppen, en wat dingen om anders die 3072 nullen op het eind over te slaan, maar uiteindelijk blijf je die 4096x4096 matrix moeten laden in je geheugen.

(dit is extreem gesimplificeerd, zo zijn ze in theorie stateless, maar in de praktijk worden er wat dingen als KV cache gebruikt om bepaalde berekeningen te versnellen. Maar in principe neemt je geheugen gebruik dus niet toe, dat is altijd het maximum, en kan je geen dingen tegelijk doen alleen elke keer weer sequentieel met hetzelfde geheugen... op dus wat truukjes na van meerdere dingen in 1 prompt plakken)

[Reactie gewijzigd door Zoijar op 8 juni 2026 12:14]

[DeNachtwacht]

Ah dank, zo leer ik ook weer wat. Interessante materie. Weet je toevallig ook nog een youtube filmpje of iets waar dit uitvoeriger te lezen wordt uitgelegd? Het blijft een interessante wereld die techniek erachter.

[Zoijar]

Nee niet echt. Ik heb een LLM gevraagd om wat hoofdstukken uiteen te zetten om uit te leggen hoe een LLM werkt, en die toen de hoofdstukken laten schrijven met diagrammen en voorbeeld code.

[DeNachtwacht]

Haha ja dat is tegenwoordig ook wel vaak een mooie oplossing. Ik zal er nog eens induiken zelf op die manier dan, nu hopen dat het geen hallucinatie was dat antwoord =)

[rjd22]

Dit is ook de reden waarom er vaak meerdere GPU's ingezet worden. Ikzelf draai lokale modellen (nu qwen 3.6 35B-A3B) voor programmeren en deze werkt met opencode echt ruim voldoende op mijn AMD 64GB workstation. Het meerdeel van de taken die ik hem laat doen kan hij zonder interventie gewoon uitvoeren.

Het voordeel van programmeren is dat je niet een heel groot model nodig hebt om dit goed te doen. Zolang je hem maar genoeg info geeft over je architectuur.

Wel let ik zelf heel erg op mijn eigen brainrot. Dus ik werk naast het model ook gewoon nog zelf en doe gedegen onderzoek. Want het verlies van kennis en kunde is echt reëel.

[Reactie gewijzigd door rjd22 op 8 juni 2026 09:58]

[DeNachtwacht]

Tip: Qwen 3.6 27B werkt fijner

Maar ik vind het dus (ook Gemma 4) nog geen waardige vervangers voor cloudmodellen, en zie dat ook bij programmeren nog niet snel gebeuren.

[Zoijar]

Is dat zo? Ik las juist overal (en zo vertelde chatgpt mij) dat 35B MoE iha sneller en precies even goed was vergeleken met die dense 27B. Zal het eens proberen.

[DeNachtwacht]

Ja het is dus inderdaad kennelijk ook een soort eigen voorkeur. Maar bij de 35B heb je dus feitelijk maar 3B echt actief, daarom kan hij zo snel zijn... wat voor mijn gevoel dan uiteindelijk toch leidt tot minder rijke / genuanceerde antwoorden / code. Maar het is, zeker omdat elk antwoord natuurlijk uiteindelijk een loterij is, misschien toch ook meer een gevoel dan feitelijk. Zelf vind ik deze dus iig het prettigst.

[Zoijar]

Ja ik weet het ook niet precies. Maar er is iets voor te zeggen dat je ook niet alle parameters nodig hebt: stel je vraagt iets over programmeren, dan hoeft hij niet alle kennis van geschiedenis en scheikunde erin te verwerken. Dus die mixture of experts heeft eerst geleerd welke subsets van 3B parameters ertoe doen voor je specifieke vraag en welke weinig toevoegen. Is ook wel wat voor te zeggen.

[DeNachtwacht]

Het ding is dat Qwen 3.6 van zichzelf een model is dat specifiek is getraind op coding.

[Zoijar]

Zelfs geen context die gaat er altijd helemaal in (sequence length). Je kan meerdere prompts in 1 sequence packen, of sowieso sequences batchen. Dat doen de ai boeren zelf ook, men denkt toch niet dat die 1 gpu per gebruiker allocaten?

[W!mpix]

Momenteel zijn ze terabytes groot, zouden nieuwe compressietechnieken en optimalisaties op software en algoritme niveau er niet voor kunnen zorgen dat ze niet langer zoveel ruimte in beslag nemen?

[DeNachtwacht]

het probleem is hier het aantal virtuele neuronen. Opensource modellen zijn vaak 12B - 27B soms max 35B groot (ofwel "neuronen"). Van de cloudmodellen
- zijn de schattingen dat ze minstens 800-900B groot zijn
- is van chatGPT 5.2 een schatting gemaakt dat deze ongeveer 10% van het aantal digitale neuronen van menselijke hersenen heeft. Neem om dat even te beseffen mee dat ze daar dus al een jaar of 10 aan werken.

Nu gaan de ontwikkelingen snel, maar het zal dus nog rustig 10 jaar duren voordat zo'n cloudmodel 50-60% van de menselijke hersenen is qua capactiteit. En je ziet hierbij dus ook dat dat lokaal gaan draaien voorlopig echt out of the question is.

[xbeam]

Voor het automatiseren van taken binnen bedrijven heb juist helemaal niet grote modellen nodig. Kost alleen maar veel verloren comput en langzaam en.

hoe kleiner hoe beter

[Zoijar]

Precies. Waarom als ik C++ wil programmeren zou iets ook de volledige aziatische geschiedenis en literatuur moeten hebben geleerd

[therazo]

Zeker wel. Bijvoorbeeld quantization helpt hier al enorm mee en er zijn talloze versies van de open-weight modellen. Je kan op Huggingface 'Quantizations` selecteren om deze versies voor een specifiek model te vinden. Ook standaardondersteuning voor Multi-Token Prediction (MTP) helpt, bijvoorbeeld in Gemma 4.

[watercoolertje]

Niet helemaal want die pas je dan ook toe in het datacenter. Dus stel dat we lokaal met een truucje 10x betere modellen kunnen draaien, dan kan je dat truucje in een datacenter natuurlijk ook toepassen.

Het is een beetje het laptop-gpu vs desktop-gpu verhaal, elk truucje wat de laptop-gpu op zou krikken naar een desktop-gpu kan je ook toepassen op de desktop-gpu, dus die zal altijd zijn voorsprong behouden.

Wat wel zo is is dat de lokale modellen 'voldoende' kunnen zijn voor bepaald gebruik (zijn ze in zekere zin nu ook al), maar ze zullen altijd achterlopen op een datacenter. Een beter model is echter niet altijd nodig.

[Reactie gewijzigd door watercoolertje op 8 juni 2026 10:14]

[De Vliegmieren]

open-weight modellen zijn net zo goed met zulke grote datasetten getrained en lopen helemaal niet ver achter op de frontier models.

Je kan zelfs open source modellen zelf trainen (een redelijk dure grap als je geen serieus doeleinde nastreeft), en de datasets van bijv. Allen AI's Olmo 2 zijn gewoon te downloaden.

Natuurlijk ga je die dingen niet lokaal draaien op je gamer hardware, maar een cluster inference GPUs met HBM is prima door grotere bedrijven en organisaties aan te schaffen, of anders toegang ertoe te huren.

[bzuidgeest]

Terrabytes is gewoon te behappen als je echt wil. Zeker in de toekomst. En die echt grote modellen draaien zelden op 1 GPU. Het grootste deel is MoE, multiple of expert. Betekend dat een model van 80B bestaat uit allemaal kleine agents/experts van 3B of zo en die draaien apart. Die kan je dus over kleinere GPU's load balancen.

[Oon]

Zal nog héél lang duren voor lokale LLM's relevant zijn hoor. Zelfs de nieuwste hardware is enorm traag in vergelijking met de resources die achter zo'n ChatGPT sessie hangen, en waar die hosted modellen zich in prijzen is het harnas waar ze in hangen dat een legio aan tools heeft die uitgevoerd kunnen worden.
Je kunt prima een beetje model lokaal draaien, maar de ervaring is verre van hetzelfde, en de output is gewoon van nóg lagere kwaliteit

[therazo]

Oneens. We zien nu overal dat de verliezen voor de AI bedrijven te groot worden, en limieten- en prijzen flink aangescherpt worden. Bijvoorbeeld GitHub Copilot met usage-based billing is een groot discussiepunt bij ons. De enige reden dat cloud-LLMs voor consumenten nu gratis/goedkoop zijn, is vanwege geld van investeerders. Met mijn RTX 3060 12GB kan je hele leuke modellen lokaal draaien, die snel- en slim genoeg zijn voor simpele dagelijkse taken. Agent harness van bijvoorbeeld Claude Code of GitHub Copilot is inmiddels ook publiek bekend.

Het gat tussen lokaal- en cloud is echt kleiner geworden afgelopen jaar.

[n4m3l355]

Grote partijen gaven aan dat ze deze gigantische investeringen nodig hadden om een moat te creeeren. En hoewel ze een horde opwerpte in de eerste instantie, zien we nu meer en meer modellen die best goed zijn en tegelijkertijd zullen de GPU's steeds beter worden dus de huidige hardware gaat gigantisch hard afschrijven. Die honderden miljarden die geinvesteerd zijn, zijn in een paar jaar geen drol meer waard terwijl de inkomsten nu al afvlakken. Er is ook geen reden dat dit in de toekomst gaat veranderen, immers waarom zou ik meer bij OpenAI betalen als ik naar Claud of Deepseek of een ander kan die nagenoeg even goed zijn? En al worden ze allemaal een stuk duurder, over een jaar of 1-2 draai ik het thuis wel.

Deze bedrijven zijn totaal kansloos, stuk voor stuk draaien ze verliezen zonder toekomst en dat zien de grote investeerders, die zijn er wel klaar mee om weer miljarden uit te trekken. "Wij" zijn de laatste optie, maar al haalt morgen Musk 50-70 miljard op (moet nog zien of dat gaat gebeuren) is er geen reden dat als dit wordt ingevesteerd, er over 1-2 jaar een winstgevend bedrijf bestaat. Het geld is op terwijl men nog steeds geen winstgevend model heeft. "Wij" moeten wel gek zijn om hier geld in te investeren.

[Martinspire]

Wat ik zelf merk is dat ik lokaal wel 1 groot model kan draaien, maar je dan dus niet echt meerdere agents aan het werk kunt zetten. En dat is toch wel waar je veel kracht kunt halen. Meerdere kleine agents is niet echt een optie, want dan zijn ze vaak weer te dom of te foutgevoelig of te traag.

[Reactie gewijzigd door Martinspire op 8 juni 2026 12:39]

[Willem_D]

Ik kan me voorstellen dat er specifieke LLM modelen komen die geschikt zijn om lokaal op bijvoorbeeld een Apple M4 te draaien, of in de toekomst op een NVidia RTX Spark, of een andere processor waar CPU, GPU, TPU (AI cores) en geheugen op één chip zitten gebakken.

Die processoren hebben een bekende hoeveelheid AI/CUDA cores, en een bekende hoeveelheid geheugen. Het moet mogelijk zijn om een LLM model te maken die precies op zo'n processor past. Of zo'n model groot genoeg is om zinvolle dingen te doen weet ik niet.

[RobertPeterson]

Hangt er toch wel vanaf waarvoor je het gebruikt denk ik? Qwen 3.6 is een goed bruikbaar model voor eigenlijk alles.

Daarnaast is Qwen 3 coder een echt goed coder. Hang het aan open router en je mcp servers en je hebt een prima proffesioneel workflow. Alleen het echte Agentic werk is lokaal niet te doen op consumenten hardware.

Prima om in VScode te draaien, prima om webdevelopment en software development met grote repos lokaal te draaien.

[Oon]

Tja, andere verwachtingen misschien?
Ik heb voorbeelden gezien van o.a. Qwen maar ik was nou niet echt onder de indruk, ligt toch nog ver achter op bijv. Claude Code en daar ben ik in kwaliteit en snelheid ook al niet echt van onder de indruk.
Ik ben nog geen LLM tegengekomen die aan mijn eisen voor een junior voldoet, maar er zijn genoeg mensen die er zo ongetest mee in productie gaan

[RobertPeterson]

Ja ik denk dat het dan inderdaad verwachting is. Als je verwacht dat een LLM zelfstandig developed, Nee dan kom je bedrogen uit. Maar dat komt je ook bij Claude. Die kan misschien de façade beter ophouden. Maar voor proffesionele (lees: verkoopbare, en ondersteunbare) applicaties, Nee.

Als ondersteuning en debugger is local AI echt al heel goed. Los van de benchmarks, een upgrade vanaf GPT 4o 1M context window en reasoning, chain of thoughts en Agentic workflows (doet nog wel echt onder aan de cloudmodellen)

Naast Qwen heb je ook ministral die echt goed presteert lokaal en privacy focussed is (EU based)

[De Vliegmieren]

Zover lopen open-weight models niet achter op de frontier models hoor.

Als het loont kan een bedrijf/organisatie ook zelf een cluster GPUs met HBM kopen. En indien gewenst, kan het natuurlijk ook toegang gehuurd worden zonder dat je voor de softwarelaag betaalt zoals bij LLM aanbieders.

Het draait nu dus voor de grote LLM aanbieders vooral om innovatie en subsidiëring van tokens om klanten te binden, maar ik ben niet overtuigd dat de huidige markt reeds een captive audience is van deze aanbieders.

[Reactie gewijzigd door De Vliegmieren op 8 juni 2026 10:54]

[themadone]

Als we even de splitsing maken tussen de meest recente reddit posts in het model hebben zitten en gewoon een simpele agentic workflow willen uitvoeren kan dit laatste prima lokaal.

Je moet niet verwachten dat je met een single prompt alles gaat fixxen met lokale modellen, echter is dat ook bij de cloud modellen een ongelooflijke token waste. Als je kleine werkprocesses wil automatiseren zijn een paar nette blackwells echt meer dan zat om tot een mooi resultaat te komen.

Zelf bijvoorbeeld al een meeting notulist, RAG set up(praat met je docs) en een zooi andere random taken volledig weggeautomatiseerd op deze manier en ik kan je melden dat het tot nu toe zeer goed werkt en eigenlijk geen fouten maakt(na tuning uiteraard).

Er zit veel waarde in kleine gerichte LLM's die hebben geen mega cloud infra nodig en ook niet de daar bijbehorende resource waste.

[Scribe]

Ben benieuwd waar jullie agentic AI voor gebruiken, tot nu toe zijn de meeste toepassingen die ik gezien heb een leuk nieuwtje maar niet echt professioneel toepasbaar

[Kloppendlid]

Zelf gebruik ik Cursor i.c.m. Opus 4.6 om de meeste(bijna alle) van mijn programmeer taken over te nemen. Met de juiste instructies maakt hij een plan om bepaalde functionaliteiten aan mijn best grote(Python / Javascript / Vue gebaseerde) applicatie toe te voegen.
De structuur van de applicatie bepaal ik, hoe componenten opgebouwd zijn en hoe alles functioneel aan elkaar geknoopt zit. Dit weet hij prima te analyseren en als er iets nieuws toegevoegd moet worden gaat dat in 90% van de gevallen zonder problemen.

Ik gebruik LLM's nu een jaar en sinds Opus 4.6 begin dit jaar is uitgekomen is mijn productiviteit enorm omhoog gegaan. Als een klant een bepaalde toevoeging wil in de applicatie is dit met een duidelijk plan binnen een paar uur te realiseren (wat eerst wel een paar dagen tijd kostte) en allemaal in de juiste structuur en opmaak.

[Martinspire]

En wat als Opus daadwerkelijk kost wat de werkelijke kosten zijn + winst? Want nu is het nog heel erg gesubsidieerd. Je ziet bij de uitrol van de nieuwe Github Copilot prijzen al dat de kosten ineens een veelvoud zijn van je voorgaande prijzen, dus hoe meer je eraan verslaafd raakt om het duurste model te gebruiken, hoe harder de klap is als je vanwege financiële redenen ineens wat anders moet gaan gebruiken...

[Kloppendlid]

Uiteindelijk is het een rekensommetje natuurlijk, wat kost het t.o.v. wat het oplevert en wat kun je doorberekenen aan klanten.

Stel dat het gebruik 1k per maand(wat het nu bij lange nog niet kost) zou kosten en het verdubbeld mijn productiviteit dan heeft het al een positieve impact voor mij.

[wiseger]

Maar wat als het over vijf jaar vier keer zo duur is als jij kost en nog altijd tot een verdubbeling van je productiviteit leidt. Kan je dan nog terug schakelen? Is er nog voldoende personeel over om weer zelf aan de slag te gaan of wordt je gedwongen om toch maar de hogere prijs gewoon te betalen want de organisatie kan niet meer zonder.

Er zitten echt wel paralellen met de grootschalige outsourcing projecten die 20 jaar geleden begonnen. Op een gegeven moment was er helemaal geen optie meer om nog terug te gaan en moest je gewoon betalen wat er gevraagd werd na afloop van een contract.. De rekensommetjes werden daarna ook niet langer gemaakt.

[Kloppendlid]

Ik denk dat je altijd flexibel moet blijven en er voor moet zorgen dat je nooit afhankelijk bent van 1 ei in je mandje. Maar je moet ook niet uit angst voor eventuele toekomstige veranderingen het agentic AI gebeuren links laten liggen.

Probeer zoveel mogelijk alle voordelen te benutten van de mogelijkheden die geboden worden. Een jaar geleden was ik nog best sceptisch over wat het deed en kon maar dat is de afgelopen maanden wel omgedraaid.

En misschien is het over een jaar wel weer allemaal anders maar dan pas ik mij wel weer aan.

[wiseger]

Je bent wel erg optimistisch ingesteld merk ik. Waarom zou iemand straks nog een dure prompter inhuren als de volgende generatie AI dat zelf veel beter kan?

Nu moet de business nog de gewenste functionaliteit uitleggen aan anderen die weinig kennis van de business processen hebben. Een proces waar vaak interpretatie verschillen ontstaan. Laat de AI gewoon rechtstreeks werken met de business waarna de AI vervolgens andere AI aan het werk zet.

Als de prijs maar laag genoeg blijft, zal de automatisering met AI echt geen harde grenzen kennen. De enige vraag die overblijft, wat zijn straks de kosten van AI voor een bedrijf?

[Kloppendlid]

Als de volgende generatie dat prima kan, waarom niet. De toekomst blijft altijd koffiedik kijken.
De wereld veranderd continu (in de IT misschien wel bizar veel de afgelopen 25-30 jaar) maar zolang je flexibel kunt blijven kun je hopelijk gewoon meebewegen met de meeste golven.

En er zal ongetwijfeld werk verdwijnen, er zullen vast ook nieuwe deuren open gaan.
Is het goed, is het slecht? Geen flauw idee. Maar ik ben liever positief dan negatief over de toekomst en ik ga er vanuit dat alles wel goedkomt.

[wiseger]

Dat is heel mooi. Maar er is wel meer aan de hand. Een positieve kijk is altijd heel mooi maar het moet je niet verblinden voor de realiteit. Op dit moment is er bar weinig regelgeving omtrent AI, we zitten in een rat-race en steeds meer landen laten alle regelgeving varen om maar te zorgen dat ze de AI race niet gaan verliezen.

Zo is men in Japan bezig de privacy wetgeving (APPI) aan het verzwakken omdat de AI race vraagt om data. Waarbij ook privacy gevoelige databanken van de overheid ter beschikking gesteld worden aan AI bedrijven. Kan je uiteraard positief zien, leidt tot betere AI. Maar er zitten ook grote gevaren aan, de APPI was immers niet voor niets ooit ingevoerd.

Zomaar aannemen dat alles wel goed komt, ik zie dat toch echt heel anders.

[oCe]

Precies dit inderdaad. Heb je een solide codebase? Goede documentatie/structuur? Omschrijf duidelijk de taken, de wensen, de beperkingen, etc: enorme productiviteitsboost te behalen.

[robinofski]

Er zal ook best veel animo zijn voor deze bedrijven om juist die local modellen de kop in te duwen. Op wat voor manier dan ook.

[Oon]

Zolang ze hun modellen groter (en hopelijk beter) blijven maken kan een lokaal model dat niet bijhouden. Die moeten zoveel efficienter zijn dat je gewoon heel veel verliest tot er veel rondes aan optimalisatie zijn geweest

[The-Source]

Je kan lokaal ook naast publiek draaien. Waarbij je lokaal gebruikt voor (niet uitsluitend) simpelere taken. Maar je kan lokaal 'verplicht' zijn om te gebruiken wanneer je met gevoelige data werkt die het bedrijf nooit mogen verlaten.

Je moet gewoon goed begrip hebben van het landschap, wat er mogelijk is maar ook welke limitaties erzijn binnen AI model maar ook bedrijfspolicy / gebruikersdata.
Daarom is het nooit zo zwart wit tussen lokaal is beter of publiek is beter. Het kan gewoon zo zijn dat je soms geen keus hebt tussen de 2 ivm andere factoren.

[Alfa1970]

Het hangt er vanaf wat je wil doen met die lokale modellen.

Wij gebruiken een combinatie van, in wezen laten we de kleine lokale variant de grote dure, online variant aansturen met een vertaal laag zodat het aantal tokens dat we verbruiken drastisch omlaag gaat.

Chinees is véél efficiënter voor een LLM om in te communiceren qua aantal tokens dat heen en weer geschoven word, dus de kleine lokale LLM zorgt voor de vertaling Engels-Chinees en omgekeerd. Het resultaat daarvan wordt gebruikt om met de grote dure online LLM te communiceren.

[Keypunchie]

Ik ben echt benieuwd hoe open source modellen zich dan verhouden tot de frontier modellen. Hardware zal goedkoper en meer dedicated AI worden, local AI zal denk ik echt een grote concurrent zijn voor openai.

Zou je zeker hiermee bezig houden, om de heel simpele reden: agentic AI van de grote providers gaat duurder worden: al die miljarden moeten terugverdiend.

Binnen ons bedrijf maken we zeker ook veel gebruik van AI, maar vanwege de onvolwassenheid kan het nog zeker niet op het kritieke pad, maar alleen maar ondersteunend ingezet worden.

[Blokker_1999]

Iedereen droomt ervan om een superapp te bouwen na het zien van deze apps in China. Maar ze vergeten dat wij in een andere wereld leven. De superapps in China zijn kunnen ontstaan omdat er niet echt alternatieven waren tijdens de opkomst van die apps, daar staat tegenover dat de superapps die we nu in het westen zien opkomen moeten opboksen tegen gevestigde waardes, en dat maakt de kans op slagen natuurlijk veel kleiner.

[Oon]

Niet alleen is er in China geen alternatief, de Chinese techsector hangt grotendeels samen met de overheid en die apps zijn zo goed als verplicht.
Als de Nederlandse overheid ook ineens wereldwijd techbedrijven gaat opkopen zoals de Chinese overheid doet via bijv. Tencent dan kunnen wij ook ooit een totalitaire app hebben waar we alles van betalen en identificeren tot chatten mee doen, zodat de overheid alles dat we zeggen kan controleren

[NoTechSupport]

Daarnaast is ook een Amerikaans model mogelijk waarbij wij lokale winnaars kiezen via investor funding die we dan volgens Europees model via wetgeving kunnen dwingen via open standaarden met elkaar te integreren.

[Reactie gewijzigd door NoTechSupport op 8 juni 2026 12:04]

[Zwarte_os]

Iedereen Het MT die ingefluisterd worden door consultants die elkaar vooral napraten. Ik heb weinig mensen en product teams gezien die enthousiast worden van het idee van een super app.

[Mol_1248163264]

Zeggen zie hier eigenlijk dat ze de AI strijd aan het verliezen zijn en wanhopig andere manieren zoeken om geld te kunnen verdienen? Per maand stroomt er bij OpenAI miljarden dollars uit aan kosten terwijl de opbrengsten te laag zijn om deze kosten te dekken.

Het bedrijf verwacht dat ze rond 2029 winstgevend zullen zijn als het bedrijf enorm gegroeid is. (wat niet waarschijnlijk is vanwege de concurrentie)

[Jedotw]

Je benoemt één van de grote problemen: vooralsnog is het schuiven met honderden miljarden, op basis van niet onderbouwde toekomstige inkomsten. Daarnaast is er een enorm tekort aan datacenters, dat zeker niet gerealiseerd gaat worden in de tijdspanne die de AI-bedrijven communiceren. Onderzoek wijst uit dat slechts 22% van de projecten met AI in het bedrijsfleven succesvol is, waarbij dan nog eens het overgrote deel "chatdiensten" zijn. Consumentengebruik zal enorm afnemen op het moment dat er betaald moet gaan worden en dat is dichterbij dan we allemaal denken.

Het is te schandalig voor worden dat de AI-bedrijven niet aan de GAAP-regels hoeven te voldoen en maar incorrecte informatie blijven publiceren. Mooiste voorbeeld is toch wel OpenAI: (gechargeerd) we hebben dit jaar 50 miljoen geïnvesteerd in een nieuwe LLM. We verwachten dat die in 2027 100 miljoen gaat opbrengen dus dit jaar een winst van 50 miljoen...

[Mol_1248163264]

Dit verhaal met deze grote AI bedrijven begint ook steeds meer op "The Big Short" uit 2015 te lijken. Veel analisten zien dat OpenAI nooit winstgevend gaat worden vanwege de hoge kosten/concurrentie en uiteindelijk failliet gaat. Maar de investeringen gaan intussen door want "AI is de toekomst" totdat het straks fout gaat.

Probleem met AI is dat op dit moment de schaalvoordelen niet van toepassing zijn. Naarmate de modellen groter/slimmer worden, neemt het aantal berekeningen en dus kosten ook met dezelfde verhouding toe.

Eerst zal de wetenschap de AI modellen efficiënter moeten maken, voordat de schaalvoordelen van toepassing kunnen zijn.

[Reactie gewijzigd door Mol_1248163264 op 8 juni 2026 10:08]

[Wolfos]

Ik denk dat OpenAI er wel komt met de winstgevendheid. Ze geven momenteel twee keer zoveel uit als binnen komt, maar ze zijn nog niet echt aan het bezuinigen geslagen. Er word nog volop ontwikkeld. Daarnaast word hardware per regel steeds efficienter. Geef het tien jaar en ze gebruiken de helft van de elektriciteit en de helft van de servers voor hetzelfde resultaat.

[Jedotw]

En met die laatste zin geef je precies het probleem aan: binnen de IT kennen we de zogenaamde Wet van Moore. In de AI-wereld worden verbruik en kosten van de onafhankelijke onderdelen maar marginaal minder terwijl ook het resultaat niet veel beter wordt.

[Sjaakys]

Bij ons wordt er ook veel gebruik gemaakt van de betaalde business licentie. Wij betalen nu € 21 per maand per user, dat is peanuts maar er wordt dan ook verlies gemaakt.

Vanaf welk prijspunt gaat OpenAI echt verdienen aan hun dienst? Ik heb werkelijk geen idee. €50, €100, €300? Ik vind dat belangrijk om te weten want dan kan je preventief keuzes maken om juist niet te investeren omdat je weet dat de kosten ooit veel hoger gaan worden.

Heeft iemand daar een beetje een idee van? Als ik het ChatGPT zelf vraag krijg ik geen fatsoelijk antwoord.

[svennd]

Ik vermoed dat geen enkel abbo op dit moment de kosten draagt. Pas nu zie ik managers voor heel het team een subscription nemen, waarvan ik dan vermoed dat er wel een paar weinig gebruik zullen van maken.

[wiseger]

Het is nauwelijks te bepalen. Er wordt enorm geinvesteerd in hardware om modellen te ontwikkelen maar wat nu exact de afschrijvingstermijn van die hardware is?

[mocean]

6 maanden tot 1 jaar? Als de hardware enorm snel innoveert dan is hardware die teveel energie slurpt echt heel snel 'op'. En aangezien de energiekosten echt huge zijn, denk ik niet dat die hardware zomaar een 2e leven kan krijgen.

[wiseger]

Ik weet het niet, ik heb er echt geen idee van maar uiteindelijk is het de vraag, van die 600 miljard USD aan investeringen in OpenAI, hoeveel is daar op dit moment nog van over als daadwerkelijke productie middelen en welk deel daarvan is er 'verbrand', geld wat uitgegeven is maar waar geen opbrengsten meer van te verwachten zijn?

[mocean]

Ja de verhouding training/gebruik is m.i. onbekend; maar ik vrees dat de huidige abo-bedragen nog niet de variabele kosten drukken....

[Jefrey Lijffijt]

De modellen hebben verschillende groottes en daarmee energieverbruik. Het is dus een vraag die niet beantwoord kan worden. Ze kunnen aan abonnementen voor 20 euro ook winst maken, maar ze zijn blijkbaar te bang dat als ze niet iets bieden dat beter is dan de rest tegen dezelfde prijs, dat ze dan gebruikers kwijt zouden raken. Verder gaat er geen limiet komen aan kwaliteit, maar des te meer kwaliteit je nodig hebt des te meer geld het je gaat kosten. De innovatiesnelheid is wel heel hoog, volgens NVIDIA is er in de afgelopen twee jaar 100x zoveel performance/watt gehaald en dan is er ook nog winst binnen de modelarchitecturen, training en datakwaliteit. Moeilijk om een getal op te plakken, maar wat nu frontier is aan 200 euro/maand is volgend jaar waarschijnlijk al nog maar 20 euro/maand. Ik zou zelf prima durven investeren in use cases die nu wat te duur lijken, want dat is in no time veel goedkoper. Iets moeilijker is als de vereiste kwaliteit totaal niet gehaald wordt, want de 'jagged frontier' houdt in dat het vrij onvoorspelbaar is waar taalmodellen wel en niet goed in zijn.

[Jedotw]

Op dit moment wordt het merendeel van het gebruik gesubsidieerd. Zo wordt bijvoorbeeld bij Anthropic voor elke dollar die besteed wordt 8 dollar gesubsidieerd. Bij OpenAI ligt dat hoger, tot zelfs 13.5 dollar per bestede dollar.

En dit wordt momenteel al aangepakt: door het aanpassen van abonnementsprijzen maar ook voor hoe tokens gebruikt worden.

[thePiett]

Ik krijg hier een beetje het "Metaverse gevoel" bij: ik vraag me af wie hier nu echt op zit te wachten. Er wordt veel geld in gepompt zonder dat het duidelijk is of er wel genoeg vraag is. Ik denk dat ze moeten oppassen dat het niet te invasief of privacy gevoelig wordt.

[GameNympho]

Ik heb hetzelfde gevoel en ook, waarom gaat er zoveel subsidie (belastingcenten) naar toe?

Wij, de normale mensen en werknemers, zien er niets van, niets wordt goedkoper en er zijn meer graaiers dan voorheen, waarom zoveel € en waarom zoveel aandacht, terwijl het niet eens een echte AI is, maar een bibliotheek algoritme wat in verschillende talen werkt.

[Jedotw]

Met de hoeveelheid aan negatieve publicaties de afgelopen periode hebben de AI-bedrijven door dat ze moeten veranderen. Als bijvoorbeeld de COO van Uber het volgende zegt: "It is becoming harder to justify AI costs within the company" en iemand anders: "If you can’t measure how good something is, how much it might cost, or what your return on investment might be, it’s fair to ask why you’re even paying for it in the first place."

Beiden (maar ook anderen) geven dus aan dat de ROI minimaal is of zelfs niet bestaat. En dat geldt dan voor de gebruikers. Maar ook de bedrijven zien in dat de huidige inkomsten niet voldoende zijn, De gevolgen zie je al: abonnementen veranderen (voornamelijk minder tokens voor meer geld, het beëindigen van "gesubsidieerd gebruikt)), kwaliteit van de output vermindert door beperkingen.

[Steven Klink]

Oja natuurlijk! Meer geld was de reden voor AI

[CelisC]

tools die meer geld opleveren

• De gebruikerservaring
• Duurzame oplossingen voor een extreem vervuilend product
• Gebruikers informeren over hoe ze de tools juist wél en juist níét moeten gebruiken
• Geld verdienen

Ik voel me een labrat met hoe vooral Amerikaanse tools toch redelijk door onze strot gedrukt worden. De tech heeft absoluut toegevoegde waarde in bepaalde velden, maar de beweegredenen achter deze corporate tools zijn extreem zorgwekkend. Ik blij er dan ook ver vandaan totdat duidelijk is wat nu écht de kosten zijn van chatbots e.d.

[Reactie gewijzigd door CelisC op 8 juni 2026 10:44]

[Pasteis]

Ik zie dezelfde beweging met AI die Cloud ook eerst had.

Cloud werd (misschien nog wel steeds) aangeboden voor een heel aantrekkelijk bedrag. Zeker het management is gevoelig voor grote kostenbesparingen en gaan daarom mee dat cloud voor het bedrijf veel beter is. Vervolgens worden prijzen stapsgewijs verhoogd en zeker als je een vendor lock hebt hebben deze bedrijven je goed te pakken. Exitplan? Nee, daar hebben ze nog nooit van gehoord.

Nu hetzelfde met AI. Personeel wordt ontslagen, er wordt gekeken naar de snelle opbrengsten om vervolgens achter je oren te krabben, want er zijn een aantal scenario's waar onvoldoende rekening mee is gehouden:

- Grotere limitaties in de cloudmodellen;
- Duurdere abonnementen en tokens;
- Klant verlangt naar persoonlijk contact, maar er is doorgeschoten in automatisering met als gevolg dat communicatie onpersoonlijk wordt.

Netzoals met cloud moet je zoeken naar een goede balans, ook met AI.

Ik snap dat OpenAI deze stap zet, maar ik zou als bestuurder toch echt minder snel geneigd zijn om afhankelijk te worden van een "superapp" die is uitgegeven door een bedrijf wat bovendien ook nog eens Amerikaans is en met Altman een opvallende CEO heeft (zoek zijn achtergrond en verleden maar uit).

Ik ben veel gevoeliger om meerdere diensten te combineren, afhankelijkheid te minimaliseren en goede hybride designs te bedenken met goede exitstrategieën.

[Speedster]

" Ik snap dat OpenAI deze stap zet, maar ik zou als bestuurder toch echt minder snel geneigd zijn om afhankelijk te worden van een "superapp" die is uitgegeven door een bedrijf wat bovendien ook nog eens Amerikaans is"

Wat is er mis met Amerikaanse bedrijven?

"en met Altman een opvallende CEO heeft (zoek zijn achtergrond en verleden maar uit)."

Krijgen we nu huiswerk? Dan willen we ook een overhoring.
Even een linkje naar het opvallende aan Altman is teveel?

[Pasteis]

Wat is er mis met Amerikaanse bedrijven

Ik denk dat de afhankelijkheid van Amerikaanse bedrijven al een ruim voldoende besproken onderwerp is op dit moment om hier zelf ook een redenering aan te verbinden. Een vendor lock lijkt me daarin niet wenselijk.

Krijgen we nu huiswerk? Dan willen we ook een overhoring. Even een linkje naar het opvallende aan Altman is teveel?

Bewust geen bron gedeeld, maar begin met het lezen van het boek Empire of AI om zelf een mening te vormen over hem als persoon. En hoe je hiertegenover staat. Het meest genoemde voorbeeld dat je op internet vindt is natuurlijk dat hij OpenAI als non-profit is gestart, maar nu gewoon als een commercieel bedrijf leidt.