Waarom AI-reuzen een rem willen: één reële reden en vier keer eigenbelang

Waarom AI-reuzen een rem willen: één reële reden en vier keer eigenbelang

AI-concurrenten Anthropic, OpenAI en xAI zijn het opvallend eens: het hoge tempo van AI-ontwikkelingen moet omlaag. Want, zo stelt Anthropics ceo, de risico's en zelfs gevaren van AI zijn groot en kunnen de wereld overspoelen. Alleen is het pleidooi eigenlijk niet voor échte vertraging. Vijf redenen voor tempobeperking, waarvan er één reëel is.

AI kan ongelofelijke voordelen brengen, schrijft ceo Dario Amodei van AI-reus Anthropic in een omvangrijke blogpost. Natuurlijk vindt hij dat van het product dat zijn bedrijf biedt aan de wereld. In diezelfde blogpost erkent hij ook de risico's van AI. De topman noemt verlies van grip op AI-systemen, misbruik van AI voor cyberaanvallen en bioterrorisme, en ernstige economische verstoring.

"Een race naar de bodem, aangespoord door commerciële stimulansen, kan deze risico's acuter maken", waarschuwt Amodei. Hij pleit voor een tempobeperking om de vooruitgang in AI-mogelijkheden wat af te remmen. De ceo's van Anthropics twee grote concurrenten vallen hem bij. OpenAI-ceo Sam Altman en xAI-ceo Elon Musk spreken zich ook uit voor vertraging. De Amerikaanse AI-reuzen hebben vijf redenen hiervoor, die niet allemaal zo altruïstisch zijn als het lijkt.

Anthropic-ceo Dario Amodei. Bron: Michael M. Santiago/Getty Images News

1. Mooie marketing

De grote hype rond AI die al enkele jaren bestaat, zorgt voor grote veranderingen. Investeerders en IT-bedrijven steken miljarden in AI, bedrijven gooien hun strategie om, vele uiteenlopende producten en diensten krijgen een AI-sausje en de invloed van AI op alledaags IT-gebruik is groot. Daarbij is er sprake van een wedloop: niet alleen tussen concurrerende AI-aanbieders, maar ook rond de oplopende kosten om nieuwe AI-modellen te ontwikkelen en draaien.

Ondertussen lijkt AI nog altijd geen ware killerapp te hebben. Zo'n enorm nuttige en betrouwbare toepassing rechtvaardigt voor gebruikers de kosten en moeite. Een killerapp kan aanbieders omzet en winst opleveren en de enorme verliezen van AI stelpen. Gebruikers – maar ook investeerders – overtuigen van de validiteit van een product of dienst is essentieel. Omdat AI duur is en steeds duurder wordt, is overtuigingskracht misschien nog wel crucialer dan bij andere producten en diensten.

Mogelijk helpt de boodschap dat een product of dienst zó krachtig is dat de maker het niet zomaar kan uitbrengen of het zelfs wat moet afremmen. Ook met een rem erop is het vanuit dat beeld nog supertechnologie. De oproep om het tempo van AI-ontwikkeling te verlagen valt te zien als marketingboodschap van de grote AI-aanbieders. Volgens cynici geldt dit ook voor de verschillende incidenten met losgeslagen AI-agents, die op eigen houtje externe accounts, websites en organisaties hacken en mensen misleiden.

De kracht van effectieve marketing schuilt in de herhaling. De oplettende beschouwer weet dat de oproep om AI-ontwikkeling af te remmen niet nieuw is. Begin 2023 was er al een open brief waarin experts pleitten voor een tijdelijke ontwikkelstop voor AI. Musk was een van de ondertekenaars.

Overheidsadviseur Elon Musk in de Oval Office. Bron: Kevin Dietsch/Getty Images News

Begin 2020 pleitte hij ook al voor regulering van AI. Zijn bedrijf xAI bestond toen nog niet, maar zijn autobedrijf Tesla werkte al aan AI voor autonoom rijden. De AI-koploper was toen OpenAI, waar medeoprichter Musk ooit met ruzie was vertrokken. Halverwege 2017 stelde hij dat AI 'een existentieel gevaar' is en eind 2014 zei hij dat ook al. Begin 2017 waarschuwde ook de gerenommeerde wetenschapper Stephen Hawking voor AI. De oproep tot AI-beteugeling lijkt dus grofweg elke drie jaar weer terug te komen.

2. Reële risico's

Ondanks het commerciële belang dat Amodei, Altman, Musk en vele andere techtopmensen hebben, zit er een kern van waarheid in de waarschuwing voor AI-risico's en -gevaren. De alarmerende voorspellingen van zogeheten AI-doomers worden onwaarschijnlijk geacht en zijn vooralsnog niet uitgekomen. Sommige sceptici van de doemstijdingen zijn later omgeslagen en voorzien toch rampscenario's door AI.

Verder zijn er de laatste tijd genoeg incidenten geweest die de negatieve kanten van AI aantonen. Incidenten met malware-uploadende en mensen misleidende AI-agents. Dit staat dan nog naast 'normalere' beveiligingsproblemen bij AI, zoals een datalek veroorzaakt door gebrekkige isolatie. Sommige risico's rond AI zijn zeker reëel.

Een deel van die incidenten is te wijten aan gebrekkige beveiliging door AI-aanbieders zelf. Slecht geconfigureerde sandboxomgevingen laten zelfstandig opererende AI-software 'naar buiten'. Door gebrekkige monitoring blijven zulke uitbraken lange tijd ongezien. In de praktijk zijn slechte security en ondermaatse monitoring niet alleen bij AI-bedrijven aan de orde. Gewone hackaanvallen danken veel aan technische tekortkomingen bij bedrijven en organisaties. AI-incidenten zijn dus niet uitzonderlijk, maar AI kan wel een versterkend effect hebben.

Een ander deel van de securityincidenten rond en met AI komt namelijk voort uit de menselijke neiging om technologie te misbruiken. AI is bijvoorbeeld te gebruiken om kwetsbaarheden te vinden en om malware te schrijven. Dat zijn interessante mogelijkheden voor cybercriminelen, maar ook voor statelijke actoren. Toegang tot AI-modellen is een securityzaak en kan tegelijk een geopolitieke kwestie zijn.

Bron: Curly_Photo/Moment/Getty Images

Het stijgende aantal fixes in Microsofts maandelijkse patchronde toont aan dat AI nuttig is om kwetsbaarheden op te sporen. De Patch Tuesday van september vestigde een nieuw record met 974 verholpen kwetsbaarheden, het hoogste aantal tot nu toe. Het aantal fixes per maand stijgt sinds Microsoft vaker AI inzet om bugs op te sporen. Microsoft komt zelfs niet toe aan een grote update voor Exchange, omdat het telkens bugs moet aanpakken die het met AI vindt. De slechte aanpak security through obscurity lijkt door AI nu echt voorbij.

3. Bang dat de zeepbel barst

Naast reële risico's en marketingboodschappen hangt er nog een donkere wolk boven de AI-industrie. Volgens kritische beschouwers is dit zelfs een zwaard van Damocles dat de hele IT-markt kan raken. De enorme investeringen in AI zijn inmiddels in een stadium dat er miljarden dollars heen en weer gaan.

Grote bedrijven betalen elkaar voor nog niet gefabriceerde gpu's, die in nog niet geproduceerde racks komen in nog niet gebouwde datacenters met nog niet gerealiseerde stroomvoorzieningen. Dat doen ze bovendien voor nog niet uitgekristalliseerde AI-killerapps of zichzelf terugverdienende AI-toepassingen.

Sam Altman. Bron: OpenAI

De gedachte dat de huidige AI-industrie de kenmerken van een zeepbel heeft, is zeker niet nieuw. Een AI-criticus als Ed Zitron schreef er twee jaar geleden al over. Wel krijgt het idee dat het gaat om een zeepbel steeds meer onderbouwing, niet het minst door de circulaire investeringen die techbedrijven in elkaar doen en de creatieve boekhoudmethodes die ze hanteren. De waarde van AI-aanbieders en techbedrijven in het algemeen is flink opgepompt, op basis van opgeklopte verwachtingen en het geloof in een alsmaar doordenderende ontwikkeling.

De roep om te vertragen kan een manier zijn om in groepsverband een rem te zetten op de snelle ontwikkelingen en de miljardeninvesteringen die daarvoor nodig zijn. Wie als eerste knippert, verliest. Als de grote AI-aanbieders tegelijk hun voet van het gaspedaal halen, kunnen ze hun posities behouden.

4. Regulering naar eigen hand zetten

In de Verenigde Staten voerde de vorige president, Joe Biden, een beleid van AI-regulering. Onder de huidige president Donald Trump is dat grotendeels teruggedraaid. De Europese Unie streeft wél naar AI-regulering. Ondanks lobbyactiviteiten om Europese AI-wetgeving af te zwakken, is bijvoorbeeld de ingrijpende AI Act er toch gekomen. Daarnaast zijn er meer AI-regels in aantocht, hoewel de regering van de VS internationaal lobbyt om strenge AI-regels te mijden.

Mogelijk zorgen de tussentijdse verkiezingen (de midterms) in de VS voor een andere wind daar. Als de Republikeinse partij van Trump niet langer domineert, kunnen de Democraten weer aansturen op AI-regulering. Voor de AI-reuzen kan het slim zijn om daar een voorschot op te nemen. Daarmee kunnen ze aan de ene kant goede wil tonen en aan de andere kant de regulering meer naar hun hand zetten.

Bron: J Studios/DigitalVision/Getty Images

De boodschap dat AI-ontwikkeling te snel gaat en een tandje lager moet, gaat namelijk vergezeld van ideeën over hoe dat moet gebeuren. Anthropic-ceo Amodei stelt bijvoorbeeld voor om AI-modellen door externe organisaties te laten keuren. Zijn bedrijf weigerde onlangs echter een AI-keurende Britse overheidsinstantie toegang tot zijn nieuwste AI-model, stipt techjournalist Mike Masnick aan.

De kritische AI-expert Timnit Gebru ziet parallellen met de tabaksindustrie en de fossielebrandstoffenindustrie. Zij stelt dat de door Amodei voorgestelde keuringsinstantie METR (Model Evaluation and Threat Research) eigenlijk niet 'extern' is. De financiering voor deze organisatie die AI-modellen op dreigingen evalueert komt deels van een investeerder in Anthropic, aldus Gebru. Zij herkent hierin de aanpak van Big Tobacco en Big Oil. Die kennen een historie van banden met onderzoeksinstituten die tot opvallend positieve conclusies komen.

5. Een gracht graven

Regulering kent meerdere gezichten en een daarvan is dat het dingen moeilijker kan maken. Dit geldt echter niet per se in gelijke mate voor alle partijen waarop wet- en regelgeving van toepassing is. Regulering kan een molensteen zijn voor start-ups, nieuwkomers en buitenlandse partijen. Grote, gevestigde bedrijven hebben nu eenmaal meer middelen om te voldoen aan de regels. Zij kunnen regulering aanwenden als gracht om opkomende concurrentie buiten 'hun' markt te houden.

Anthropic-ceo Amodei geeft dit zelf ook een beetje aan. In zijn essay schrijft hij dat zijn pleidooi voor tempobepaling (pacing) níét neerkomt op AI-training stopzetten of technische vooruitgang tegenhouden. De rem die hij voorstelt – en waarbij AI-reuzen OpenAI en xAI zich aansluiten – is dat bedrijven voldoende tijd nemen om hun AI-modellen af te stellen en veiliger in te richten. Externe partijen moeten vervolgens evalueren of een AI-model 'veiliger' is.

Dario Amodei. Beeld: Getty Images (David Dee Delgado voor The New York Times)

Naast die evaluatie door geselecteerde keurders stelt Amodei nog 'democratische coördinatie' en 'wereldwijde coördinatie' voor. Dat eerste komt neer op zelfregulering door AI-bedrijven in democratische landen. Zij moeten samen veiligheidsnormen definiëren en grenzen stellen aan AI-vooruitgang. Sommige vormen van deze samenwerking kunnen volgens Amodei 'juridisch uitdagend' zijn en 'vereisen overheidssteun'.

Overheden zijn ook aan zet bij de door hem voorgestelde 'wereldwijde coördinatie'. Daarbij moeten 'de Amerikaanse en andere democratische overheden' proberen tot afstemming te komen met autoritaire overheden, 'voor zover dat mogelijk is'. De huidige regering van de Verenigde Staten heeft al aangegeven de eigen tech- en AI-industrie te willen bevoordelen door juist minder te reguleren.

AI als wapen

Op de achtergrond speelt mee dat AI als wapen in te zetten is, bijvoorbeeld door het Amerikaanse ministerie van Defensie. De geruchtmakende rel tussen het Pentagon en Anthropic, waarbij OpenAI ineens hofleverancier werd, was minder zwart-wit dan het leek.

Anthropic weigerde om bepaalde ethische grenzen te overschrijden, maar dat ging om AI-inzet voor binnenlandse surveillance en voor autonome wapens. Verder deed Anthropic kort voor dat conflict al water bij de wijn: het schrapte een belangrijke veiligheidsbelofte uit zijn AI-ontwikkelbeleid.

Verder komt nu aan het licht dat het Pentagon OpenAI vroeg om een aangepaste AI die zo min mogelijk 'nee' zegt. Dit blijkt uit overheidsdocumenten die The Intercept in handen kreeg via een beroep op de wet voor openbaarheid van overheidsinformatie.

De concessies van Anthropic, de bereidheid van OpenAI, de misstanden rond xAI en diverse omstreden daden van de Amerikaanse regering werpen een ander licht op de risico's en gevaren waarvoor Anthropic-ceo Amodei waarschuwt, een waarschuwing waarbij OpenAI's Altman en xAI's Musk zich aansluiten.

_{Redactie: Jasper Bakker • Eindredactie: Marger Verschuur}

Elon Musk spreekt op een bijeenkomst van Defensie bij zijn bedrijf SpaceX. Bron: ministerie van Defensie, VS

Reacties (210)

[DeNachtwacht]

Goed om een achtergrondartikel te lezen over dat die brief natuurlijk geen écht serieus voorstel is. Het klopt natuurlijk dat het simpelweg marketing is waarmee ze hopen te voorkomen dat de zeepbel barst. Maar er mist toch wel wat onderbouwing.

Ja, AI is uiteindelijk door de enorme investeringen een zeepbel. Maar die "killer app" die nog zou ontbreken is een beetje een oogkleppenredenering. Voor de consument is het zeker de vraag of de chatbot als app écht die €10/20 per maand waard blijft. Maar gemakshalve wordt even vergeten dat je met veel meer dingen dan een "killer app" in de IT geld kan verdienen. De hele software engineering en content creation business trilt op zijn grondvesten doordat in deze bedrijfstakken al het werk veel sneller en efficiënter kan. Software engineers hebben énorme (€1000+ per maand soms) tokenbudgetten simpelweg omdat ze er veel productiever en sneller door worden. Reclamefoto's zijn meer en meer AI geworden met fotorealistische AI characters, die een enorme bak tijd en geld (fotograaf, fotomodel etc) besparen. Al die mensen hoef je niet meer in te huren met een goede AI content creator die het voor een fractie van de prijs doet, zéker als over 2-3 jaar de tokenkosten verder zijn gedaald. De eerste AI gegenereerde films en reclames zijn er al en iedereen in die branche is onzeker over of zijn baan over 2 jaar nog bestaat door de potentieel enorme bezuinigingen die te maken zijn door fotorealistische filmgeneratie op 4K niveau (waar we al bijna zijn, het is nog wat animatie-achtig en de scenes zijn vrij kort, maar het gaat hard de goede kant op).

En vergeet niet dat daarnaast niet de app, maar het complete OS van Apple net op de schop wordt gegooid. AI zit door alle apps heen om alles efficiënter en sneller te maken. Ja, daar zijn nog haken en ogen aan en niet alles is direct perfect, maar AI integratie biedt enorme efficiëntievoordelen hier voor gebruikers, en daarnaast zullen dit soort efficiëntieslagen/besparingen steeds meer doordruppelen in het overige bedrijfsleven. Gezamenlijke mailbox met 25 man managen? AI bot ipv secretaresse die elk mailtje naar de juiste collega doorstuurt. Et cetera.

En het wordt al half genoemd maar zowel de "AI is uitgebroken" mediahype als deze "brandbrief" zijn niks meer dan marketing. AI die "uitbreekt" is gewoon (bewust) slecht opgezette sandboxing eromheen, want het bekt natuurlijk heel lekker. Als AI zelf al kan uitbreken, wat kan dit superkrachtige model dan wel niet allemaal nog méér, maar dan in positieve zin, voor mijn bedrijf? Dat hopen ze natuurlijk dat elke MKB'er denkt bij het lezen van dat soort nieuwsberichten. Briljante marketing dus ipv echt een risico en alle journalisten trappen erin. Iedereen thuis met een OpenClaw, docker en/of n8n setup weet dat in de basis een goede sandbox waar elke AI nooit uitkomt vrij makkelijk te bouwen is. Natuurlijk is het in test setups bij hen wat experimenteler, maar dat is dan ook waarom je de beste engineers op dit vakgebied daar hebt rondlopen. Als AI uitbreekt, doen zij hun werk niet goed en ligt dat niet aan de "geweldige AI".

Er zit denk ik tot slot ook iets anders achter onder is mijn vermoeden: concurrentie uit China. De Chinese bedrijven zijn zó hard bezig met met name open sourcemodellen dat dat voor de Amerikaanse closed source modellen echt een bedreiging begint te worden. Qwen 3.8 Flash Next kun je gratis in je server gooien en aan klanten aanbieden en komt héél dicht tegen de top amerikaanse modellen aan, maar kun je wel veel goedkoper inkopen als klant of aanbieden als serverprovider. Het lijkt mij niet onaannemelijk dat via deze weg wellicht ook een poging wordt gedaan juist die "snelle ongereguleerde" groei af te remmen, want eigenlijk is het natuurlijk vooral voor de consument heel goed en fijn dat die modellen er zijn en zijn ze vooral een bedreiging voor de grote Amerikaanse tech (en natuurlijk hebben álle AI modellen, zowel chinese al amerikaanse, rauwe randjes waar we vanaf moeten).

[Reactie gewijzigd door DeNachtwacht op 15 september 2026 21:06]

[Mr.Beach]

Ik denk juist dat Tokens alleen maar duurder worden, geadvenceerderde modellen vragen om meer stroom, hardware upgrades, en geld wat terugverdiend dient te worden.

Dit is de lok fase, als je er eenmaal in zit, en agents zijn net zo goed of beter als jij in AI, dan blijft zo'n agent veel goedkoper, en flexibeler in te zetten.

[dstyle_nl]

Ik denk niet dat tokens veel duurder worden, ik denk juist dat OpenAI en Anthropic failiet zullen gaan. Je ziet namelijk dat openweight modellen ze op de voet volgen. Bijvoorbeeld GLM5.3 of Kimi V3. Die presteren net zo goed als chatgpt of claude 2 maanden eerder. Dat verschil wordt steeds kleiner. Dit zijn modellen die je intern kunt draaien of die je af kunt nemen bij een provider die het voor je draait.

De hardware productie groeit ook ontzettend, nu kunnen fabrieken de vraag niet aan maar de productie wordt overal gigantisch opgeschoefd. Dat gaat uiteindelijk de kosten ook drukken. Uiteindelijk willen we zelf eigenaar blijven van onze data, zeker zakelijk. En door deze werkwijze zou dat ook het geval zijn.

[NoTechSupport]

Zakelijke partijen die ik ken hebben hun data bij MS en SAP, bijna uitsluitend in de cloud. Eigenaar blijven van data zou prioriteit moeten zijn, maar is het momenteel totaal niet.

[dstyle_nl]

Daar heb je helemaal gelijk in. Bij Microsoft doe je dat nog wel in bijvoorbeeld het land van jouw keuze of de regio van jouw keuze, en mogen of kunnen ze daarna niet wat met je data. (bij open AI kun je overigens wel kiezen voor een regio). Ik werk in een gevoelige sector en daar kunnen we niet onze data gebruiken met de grote LLM's. Draai je een LLM in huis of op een gehuurde server ergens (die aan certrificeringen voldoet) dan kun je ineens gewoon je data er wel door heen halen en analyses gaan doen. Denk aan BI gerelateerde zaken.

Maar bij MS zijn we allemaal de boot in gegaan en hebben we daar stiekem nu wel een beetje spijt van, en is er geen goed alternatief nog. Bij AI krijgen we dat alternatief duidelijk wel, en kunnen we de les die we geleerd hebben toepassen om meer op eigen AI infra te leunen.

[DeNachtwacht]

Mja, helemaal eens, maar ik had het er laatst met een security officer over en ergens is het ook wel een behoorlijke nondiscussie was haar stelling, en daar ben ik het eigenlijk wel mee eens. Tuurlijk, soeverein Europa is een groot goed in de huidige tijd maar al die dingen waar we bij AI nu ineens heel panisch over doen, accepteren we al 20 jaar van vrijwel exact dezelfde bedrijven. Heel (groot)zakelijk nederland zit al eonen in de google of microsoft cloud, het is niet alsof je data nu ineens een stuk gevaarlijker af is als het door AI modellen gaat.

We zijn 2-3 jaar allemaal behoorlijk geschrokken van de kracht van AI, maar les 1 die alle AI bedrijven direct al trokken was dat áls er al persoonlijke data in een AI chat gekomen zou zijn tijdens training, dan heb je een schandaal van jewelste en is je bedrijf meteen failliet zodra gebruikers die data eruit kunnen krijgen. Dus ten eerste filteren ze alle gescrapete data zeer intensief op persoonsdetails zodat die niet in de AI training gebruikt worden, ten tweede zit er overal, inclusief open weight modellen, flinke moderatie op dat je er als gebruiker geen persoonlijke details uit krijgt. En dan ten derde staat in je microsoft/google gebruiksovereenkomst gewoon (bij vrijwel elk zakelijk/onderwijs contract) dat de data niet gebruikt wordt voor training.

Dus kortom, zij begreep al die ophef eigenlijk niet zo goed. Al die data zit overal al in clouds en AI verandert daar niks wezenlijks aan. Ja, fijn om eruit te gaan, maar vooralsnog is het vooral massaal woede en ophef in de media op AI hierover, in plaats van dat we zelf onze grote mond houden en de daad bij het woord voegen en bijv. overstappen op Europese cloudproviders.

[azortje]

"Ik denk niet dat tokens veel duurder worden" Tokens is een breed begrip, tuurlijk wordt een token met vergelijkbare intelligentie goedkoper, maar ondanks dat je GPT4 level tokens praktisch gratis kunt afnemen wil iedereen dure Astra tokens. Er is geen reden om aan te nemen dat de wens naar frontier modellen met dure tokens op korte termijn zal afnemen.

Opensource GLM 5.3 achtige modellen zijn beter dan ooit, maar ondertussen heeft OpenAI een nieuwe klanten stop op enkele van hun abonnementen.

[dstyle_nl]

Ik kijk vooral op de lange termijn, nu is er wat hype rondom Astra en daar maakt openAI gebruik van, maar als over 2 maand de nieuwe kimi er is of GLM en die presteert net als Astra dan kan OpenAI deze trucjes niet uithalen. Mijn punt is dat op de lange termijn OpenAI en Anthropic waarschijnlijk geen bestaansrecht meer hebben.

Op de korte termijn heb je gelijk, en zouden het gezonde bedrijven zijn dan zou deze aanpak werken, maar ergens moeten ze straks ineens heel veel geld kunnen verdienen en dat zie ik niet zo snel gebeuren met ontwikkelingen die ik had benoemd.

[azortje]

Het punt is alleen dat er geen reden is om aan te nemen dat de chinese labs de aankomende jaren de westerse labs zullen inhalen. Jouw comment over dat er nu wat hype is rondom Astra maar dat over 2 maand een nieuwe kimi uitkomt die hetzelfde zou presteren ondershrijft precies mijn punt. Over 2 maand brengt OpenAI immers ook al weer de opvolger van Astra uit en begint de cirkel weer.

Chinese labs zijn daarnaast afhankelijk van distillation van de westerse frontier modellen en blijven op die manier altijd een generatie achter. Mochten ze een technologische doorbraak weten te bereiken en de westerse modellen inhalen, dan kun je ervanuit gaan dat de chinese overheid de opensourcing van dat soort modellen niet zal toelaten.

[dstyle_nl]

Ik snap helemaal wat je zegt, als Tweaker vind ik het nieuwste model ook mega interessant, maar het is te duur. Dus ik werk op sol en dat werkte ook al goed. En hoe meer je naar de toekomst gaat hoe minder relevant op het nieuwste model werken wordt. Dus nu ben ik met GLM als het me 10% kost van Astra al wel blij. Je gaat naar een punt toe dat het allemaal zo erg goed is dat een klein beetje beter niet zo veel meer uit maakt.

Het is goed dat je China nog even aan haalt, het zou veel sterker zijn als de ontwikkeling van zoiets ook binnen europa plaats vindt.

Neemt niet weg dat ik het liefst nu op Astra zou werken, dat scheelt tijd en is echt accuraat, maar de tokens gaan echt te hard voor mij.

[Cory]

En 'what if' dat nu juist de Chinese tactiek is, zoals ze dat op wel meer terreinen doen? Want geen Chinees product komt op de (inter)nationale markt zonder autorisatie van de strikt regulerende Partij, die een heel duidelijke langetermijnvisie heeft èn nastreeft.

Ik reken erop en meen te zien dat er veel meer Chinese kenniswerkers hun buiten China opgedane kennis naar huis sturen dan andersom.

Hun strategie: kennis verzamelen, verbeteren, op eigen markt uitproberen terwijl er anderen de kosten dragen van het creëren van afhankelijkheid, en uiteindelijk (nèt iets) betere producten op de wereldmarkt zetten. Zie de e-auto, staal, electronica en componenten, ...

"Een ragfijn spel, zoals mijn goede vader zei."

[DeNachtwacht]

Zo ging het in de internetbubbel ook, iedereen dacht "waar is dat verdienmodel, mensen gaan niet voor allemaal losse websites betalen". Uiteindelijk is dat ook anders ontwikkeld en is je data je geld geworden.

In de AI wereld denk ik ook niet dat de persoonlijke chatbot écht het verdienmodel gaat worden, maar het meer business to business zit. In je iPhone wordt AI nu al veel meer verwerkt om allerlei zaken efficiënter en mooier te doen: dus je betaalt via de aankoop van je iPhone. Daarnaast biedt AI voor de zakelijke markt vooral enorm veel efficiëntievoordelen en zie je juist dat in de business to business allerlei AI alternatieven al goed geld op kunnen leveren. Kortom ik denk dat je voor het echt serieuze geld verdienen eerder daar moet kijken. Natuurlijk zullen er consumenten/hobbyisten blijven die graag €20 per maand betalen omdat ze het heel veel gebruiken, maar ik gok dat heel veel consumenten met een basismodelletje dat gratis is of een paar euro kost tevreden zullen zijn.

Token kosten zullen uiteindleijk sowieso ook afnemen, je hebt voor een prompt over hoe je je fietsband kan plakken echt geen Astra 6 of vergelijkbaar duur model nodig. Voor al dat soort taken kom je uit bij goedkopere modelletjes.

[astro_volt]

Jij benoemt software engineering en foto en film generatie. En als dan iemand juist het kritiek geeft dat tokens nu enorm gesubsideerd zijn door de AI bedrijven die proberen mensen afhankelijk te maken van hun product, voordat ze enshitification gaan toepassen en enorm de prijzen gaan opschroeven, dan gaat het opeens over een fietsband plakken.

We hebben het hier niet om een fietsband plakken, jij noemt zelf de usecases op die je zegt de "killer"s te zijn, dan mag je ook niet eventjes wat irrelevants benoemen om kritiek weg te schuiven, dat is wel heel simpel.

Er zijn nu al bedrijven die eerst een boel personeel hebben ontslagen, omdat "AI" het veel beter en efficienter zou doen. Een boel van die bedrijven zijn dat nu al terug aan het draaien omdat de token kosten zo enorm zijn dat de bedragen zo groot zijn dat ze beter het goedkopere personeel het werk kunnen laten doen.

En dit is allemaal voordat de AI bedrijven de prijzen gaan opschroeven.

De hele zeepbel is juist het idee dat des te meer tijd en geld er in deze modellen worden gestoken, des te meer efficient ze zullen zijn. Alleen zijn er een enorme aantal heel slimme mensen in het AI gebied die zeggen dat de huidige manier van LLMs trainen waar dus al dit geld in word gestoken, juist niet de manier is om goedkoop betere AI modellen te maken. Oftewel: het is een doodlopend pad waar bedrijven niet uit kunnen komen omdat ze met elkaar racen om de beste te zijn of te blijven.

Natuurlijk ben ik het met je eens dat goedkopere, open modellen voor veel dingen gebruikt kunnen worden. Maar ja, voor de "killer" usecases die jij benoemt zijn deze modellen juist meestal niet goed genoeg. De hele efficientie usecase die ligt hier bij de topmodellen die juist enorm duur zijn, en alleen nog maar meer gaan kosten.

Wat gaat dit uiteindelijk allemaal betekenen? Ik denk dat niemand het weet totdat de zeepbel knapt, de hype over is, en daarna uiteindelijk de echte use-cases overblijven. Iedereen die zegt dat LLMs en generatieve AI zoals het nu is de toekomst is en het verdienmodel is, denkt er (denk ik) een beetje verkeerd over. Maar ja, zo dachten veel mensen tijdens de .com boom ook.

[avs2000]

Zoals ergens anders ook al is vermeld, het is onwaarschijnlijk dat token prijzen omhoog gaan. Hardware gaat langzaam weer goedkoper worden door opgeschroefde productie. Modellen worden steeds efficienter en beter. Concurentie met open weight modellen uit China gaat het voor de Amerikaanse frontier labs moeilijk maken om de prijzen omhoog te gooien.

[Mr.Beach]

De data hebben de bedrijven al zodra je de voorwaarden, en cookies accepteert. En als AI meer in het bussiness to business model zit kan je je afvragen waar mensen dan nodig zijn, want een agent kan 24/7, 12/365 doorwerken,

Wil je AI gebruiken op wat voor manier dan ook dan zal je (extra) moeten gaan betalen. Kijk naar het huidige kapitalistische systeem, alles wordt duurder.

[YopY]

En de internetbubbel is ook geklapt, wat een economische recessie veroorzaakte. Maar het is wel een goed datapunt om te vergelijken - de bedrijven die de bubbel overleefden (zoals Amazon) doen het nu best wel prima, en de technologie is onderdeel van het dagelijks leven geworden.

Zo zal het ook met LLMs gaan, de technologie is nu aan het "settlen" in het dagelijks leven - met wat hits (gebruik bij softwareontwikkeling, schrijven, vertalen, algemene hulpvragen, etc) en wat misses (diepe integratie in alles Microsoft, daar komen ze nu iets op terug). Maar het is nu erg overtrokken, investeerders gooien met veel meer geld dan dat ze ooit terug zullen verdienen. (neem ik aan, ze zullen er hoe dan ook wel aan verdienen neem ik aan)

[YopY]

Ik denk dat we een plateau bereikt hebben wat betreft de "kracht" van modellen, in dat meer tokens verbranden, meer hardware gebruiken niet meer tot een veel beter resultaat zal leiden; ze willen de focus daarom nu tijdelijk verleggen van steeds krachtigere en veeleisender modellen, naar de bestaande modellen breder toepasbaar maken. Fable / Mythos zijn (vooralsnog) de beste modellen voor softwareontwikkeling en het vinden van bugs, maar voor het merendeel van bijv. softwareontwikkeling is die kracht en die kosten gewoon niet nodig (net als je voor het merendeel van softwareontwikkeling geen 20+ jaar ervaring senior developer nodig hebt).

Als de AI bedrijven onderling, danwel geforceerd door een regering, een pauze zetten op het steeds groter en duurder maken van die modellen, heeft de markt tijd om bijvoorbeeld meer datacenters te bouwen. Want daar zit nu het spanningsveld, wat het artikel ook aangeeft - honderden miljarden (of meer) aan investeringen die inzetten op het uiteindelijk voltooien van tientallen (honderden?) datacenters, maar dan hebben we het over de komende tien jaar.

[Mr.Beach]

Bedrijven willen hun aandeelhouders tevreden houden, dat betekend groei, en dat betekend steeds hogere kosten. Er moet worden geinvesteerd in security, want de AI wordt steeds slimmer, dus je moet als bedrijf steeds blijven researchen in development. Stilstaan is geen optie, want je wilt niet dat een buitenlandse macht jouw data steelt.

Daarnaast moet de hardware om de zoveel tijd vervangen worden, en dat gaan ze niet doen met ouwe meuk. Kortom veel kosten die zullen worden doorberekend.

[litebyte]

Belangrijkste is natuurlijk dat het simpelweg marketing is waarmee ze hopen te voorkomen dat de zeepbel barst.

Welke zeepbel heb je het over? We staan pas aan het begin van een revolutionaire ontwikkeling waarvan we, en dat is exact de kern van deze (al dan niet deels commercieel gevoedde) waarschuwing, niet weten waartoe het allemaal nog in staat is.

[Biggg]

Het is nog een beetje onduidelijk toch? Maar het is ook zeker niet uit te sluiten dat dit een bubbel is, ondanks dat er mooie toepassingen zijn.

Vergelijking: Als je voor een voetbaltoernooi de allerbeste spelers koopt, dan ga je dat toernooi waarschijnlijk wel winnen, dus er zijn vrijwel zeker prijzengeld inkomsten.

Echter, als je een miljard voor de spelers hebt betaald, maar het prijzengeld voor het toernooi blijkt maar 100 miljoen, dan ga je toch gigantisch het schip in.

[litebyte]

AI een bubble noemen is het zelfde als de industriele revolutie een bubble te noemen, het is een ontwikkeling (blijvende overigens) - geen product of productgroep an sich.

Die bubble gedachte komt door dat heel veel mensen nog steeds het idee hebben dat 'leuke' AI geproduceerde filmpjes als kern van AI gezien kan worden, maar dat is slechts een miniem deel van wat de AI ontwikkeling is. Daarnaast vinden veel mensen het nog 'een beetje eng' dat zag je overigens ook zo tussen 1994 - 2000 toen er allerlei doomscenario's over het internet verscheen, zo zouden kranten verdwijnen en bibliotheken en zouden mensen veel minder gaan lezen etc.

[Reactie gewijzigd door litebyte op 15 september 2026 22:40]

[pietvelleman]

100% eens.
En al die Tweakers worden ook gevoed door dit soort Twitter artikelen. Die meer ingaan op marketing/hype/bubbels dan op de inhoud van AI.

Te belachelijk voor woorden dat geschreven wordt dat AI geen killerapp heeft. Om te janken die opmerking. Dan leef je echt onder een steen en kun je niet meer objectief kijken naar wat AI nu al is en waarschijnlijk nog gaat betekenen. Ik zou bijna feedback sturen, maar dat heeft toch geen zin.

Te belachelijk dat dit vooral wordt afgedaan als hype...
Werkelijk ongelofelijk!

[Jaapoes]

Het gaat hier ook niet om AI in het algemeen als men het over een bubble heeft maar over de economie van de, vooral US based, AI industrie. Zie de verschillende verwijzingen in het artikel. Er worden gigantische bedragen rond gepompt voor producten,diensten en infrastructuur die er nog niet zijn of nog niet in de 'beloofde' vorm. Al die zaken bij elkaar hebben de schijn van een behoorlijke economische bubble.

[litebyte]

Ja, grotendeels eigen geld van deze bedrijven, en niet zoals bij de .com bubble geld dat vanuit beleggingsmaatschappijen en banken kwam - geleend geld. Dat is nu niet zo.

De kans is vele malen groter dat geopolitieke factoren zullen leiden tot een ineenstorting, dat zal dan niet alleen betrekking hebben op specifiek AI of tech ontwikkeling in het algemeen.

[pietvelleman]

Maar waarom wordt er op een techsite uberhaupt zoveel gesproken over bubbels en marketing? 'Who cares' dat er straks beurscorrecties komen?

Laten we het over techniek hebben. Bijv. of het mogelijk is dat via AI de modellen zichzelf kunnen verbeteren? Is dat niet interessanter dan marketing geblabla...

[ZpAz]

Een zeepbel betekend niet dat het product weggaat. De .com bubbel betekende ook niet 'geen internet'. Het betekende dat veel bedrijven om onnozele redenen zwaar overgewaardeerd werden. Waar de kosten uiteindelijk bij de gewone man ook terecht kwam wanneer dat niet waargemaakt kon worden omdat jouw belegginsportfolio (bijvoorbeeld voor je pensioen) verweven zit in deze constructies. In dit geval pleitten sommige bedrijven voor een too big to fail aanpak. Waardoor dus letterlijk belastingcenten van burgers gebruikt kunenn worden om alles in stand te houden zodat de eigenaren hun miljarden en sinds kort, biljoen kunnen proberen vast te houden.

[litebyte]

Het is een ontwikkeling, net zoals het internet of een betere vergelijking de industriele revolutie. We staan nog maar aan het prille begin.

De financiering van AI is door grote bedrijven heel anders, dan tijdens de internet bubble. Dat wil helemaal niet zeggen dat er geen bedrijven om zullen vallen, of dat er nog talloze overnames plaats zullen vinden, dat gebeurt namelijk nu al. Maar dat er een wereldwijde bubble zal ontstaan zoals bij .com is nihil.

[pietvelleman]

En dan nog... hebben jij en ik daar last van gehad, die internet bubbel?

Misschien is bepaalde hardware duurder geworden door AI (zoals dat ook met crypto ging) Maar kijk bij 'vraag & aanbod' en je ziet nog steeds prima computer voor een zeer goede prijs.

En die kleine groep die graag 240mHz games wil afspelen op een 4k scherm... met ultra settings... die moeten iets langer sparen. Dat zou ik plaatsen onder het kopje 'eerste wereld problemen'.

Maar goed, ik erger me inmiddels mateloos aan al die opmerkingen over bubbels, hype en marketing.

Excuus voor de rant.

[Mextreme]

Niet zozeer een technische maar een economische zeepbel. Het staat in het artikel en ook langs andere wegen merk ik op dat voor bepaalde vormen van creatief boekhouden wordt gewaarschuwd.

[litebyte]

Nou, er staat in het artikel: "kritische beschouwers" ja die zullen idd het als een zeepbel zien. Zo heb je ook kritische beschouwers die zeggen dat de elektrische auto op zijn retour is.

[Mextreme]

Partijen als De Nederlandse Bank, de Europese Centrale Bank uiten kritiek op de extreem hoge marktwaarderingen van de AI bedrijven. Marktanalisten, accountancy-experts en beurswaakhonden hebben kritiek op de boekhoudkundige trucjes die de AI bedrijven uithalen. Dat zijn 'zomaar' kritische beschouwers, dan zijn entiteiten die met jarenlange ervaring de economie reguleren.

Het lijkt me niet wijs om die losjes weg te zetten als gelijkwaardig aan tegenstanders van elektrische auto's.

[DeNachtwacht]

Helemaal eens met je dat er flink wat potentie is, maar andere kant is natuurlijk wel dat er een enorme hype om AI hangt door o.a. dit soort nieuwsberichten. Journalisten en vloggers die nog geen 25% snappen van wat ze zeggen copy pasten alles, et cetera. De enorme potentie van AI twijfel ik niet aan, maar die had internet ook en en toch kregen we een dotcom bubbel. Als je midden in de bubbel ziet is die simpelweg lastig waar te nemen.

Mijn gok is dat het weleens in de richting van juist die snelle ontwikkeling, maar dan van de kleinere modellen kan zitten. Qwen 3.8:27B is een superklein modelletje (18GB groot) dat vergelijkbare programmeer prestaties levert als de súpergrote (bedrijfsgeheim, maar ga er maar vanuit dat dat in de terabytes zal lopen) cloudmodellen van pakweg 0,5-1 jaar oud. Puur omdat die heel specifiek getraind zijn op precies deze taak heel goed uitvoeren. Wat zal er dan gebeuren als dat nog even doorzet: kleine supergespecialiseerde modellen ipv grote logge "alles een beetje" modellen? Dan zou het best weleens kunnen dat die kleine modellen omdat ze zo goed en fors goedkoper zijn, de usecase van de grote modellen flink kleiner maakt. Ja, in CERN of het Pentagon wil je die reuze topmodellen, maar voor jou als consument die wil weten welke kruiden lekker zijn bij een gerecht met wortels en broccoli in de oven? Gevolg zou dan kunnen zijn dat daardoor die vraag naar topmodellen enorm instort (lees: massa-ontslagen) en aan de andere kant alle rap uit de grond getrokken AI serverparken toch ineens veel minder nodig zijn (want die kleine modellen zijn factor 100-200 energiezuiniger en je kan dus ipv met 1 man met 1 groot model, met 200 man met zo'n klein model tegelijk aan de slag). Lees: leegstand en failliete serverparken die voor miljarden gebouwd zijn.

Tuurlijk, ook dit is een wilde educated guess, maar het zou mij niet verbazen dat het ergens in die richting is dat het mis gaat omdat het ergens ook gewoon te veel, te snel, te hype is. En dan is het aan het eind van de rit weer gewoon de wijsheid "alles waar 'te' voor staat is niet goed voor de mensheid... behalve tequila ."

[Reactie gewijzigd door DeNachtwacht op 15 september 2026 11:04]

[YopY]

De zeepbel is een economische - de hoeveelheid geld en investeringen die in de technologie gedaan zijn staan niet in verhouding met hoeveel geld het oplevert.

Over de ontwikkeling en mogelijkheden is het nog deels in een glazen bol kijken, maar ik geloof persoonlijk niet dat we "niet weten waartoe het allemaal nog in staat is"; wat de mogelijkeden en beperkingen LLM als technologie is, is wel bekend. Wat nog deels glazen bol kijken is, is hoe het toegepast gaat worden, alhoewel ook daar de creativiteit wel ten einde lijkt te zijn - tekst/code schrijven, helpdesk / chatbots, muziek en video genereren zijn de grootste / bekendste categorieën, en daar worden er nu duizend-en-een bedrijven omheen gebouwd.

[Raymond Deen]

In het geval van die fotograaf en modellen zorg je er wel voor dat een hele trits mensen hun werk verliest. Dus ook de ondersteunende mensen als make-up, set decorators, verlichting, enz. enz. kunnen ander werk zoeken. Dat vind ik persoonlijk een verschrikking.

[84hannes]

Dus ook de ondersteunende mensen als make-up, set decorators, verlichting, enz. enz. kunnen ander werk zoeken. Dat vind ik persoonlijk een verschrikking.

Dat is persoonlijk een verschrikking, maar dat is toch toch de prijs van vooruitgang? Paardefokker werden overbodig door tractors, porders werden overbodig door de wekker, computers werden overbodig door de computer... Dat moeten allemaal persoonlijke drama's geweest zijn, maar ik kan er in 2026 niet vak wakker liggen.

Waar ik wel van wakker kan liggen is dat die modellen getraind zijn met materiaal waar ze geen gebruik van mogen of zouden moeten maken. Als een mens tweehonderd wikipedia-artikelen leest en dan een overkoepelend verhaal schrijft van wat hij heeft onthouden, dan kan ik daarmee leven. Als een computer het doet is het op z'n minst oneigenlijk gebruik, en misschien zelfs misbruik. Daarnaast ben ik AI-posters ondertussen helemaal zat. Ze zagen er professioneel uit, maar het wordt steeds meer hetzelfde. Met AI foto's gaan we denk ik hetzelfde krijgen. Bovendien komt er steeds minder origineel materiaal om AI op te trainen, waardoor de kwaliteit waarschijnlijk nog verder achteruit gaat.

[Raymond Deen]

Denk ook aan de schaal waarop het gebeurt. Ja een tractor maakt een paar mensen overbodig, ja een computer maakt een paar mensen overbodig, maar in het voorbeeld met de fotograaf kunnen er al snel 100 mensen hun werk verliezen. Daar lig ik persoonlijk dus wel wakker van, want wat moeten al die mensen gaan doen als op steeds meer gebieden de mens overbodig wordt gemaakt? Plantsoentjes gaan schoffelen of zo? Dan drukken ze de groenwerkers weer van hun dagbesteding.

[84hannes]

want wat moeten al die mensen gaan doen als op steeds meer gebieden de mens overbodig wordt gemaakt? Plantsoentjes gaan schoffelen of zo?

Het is in de geschiedenis nog nooit gebeurd dat er structureel minder arbeiders nodig waren. We bedenken altijd iets dan nuttig is om te doen, omdat er nu eenmaal aanbod van arbeiders is. Kijk naar de vele kantoorbanen die we nu hebben, die waren honderd jaar geleden niet denkbaar. Maar voor de individuen is het wel lastig want die moeten omgeschoold worden en gaan waarschijnlijk minder verdienen, als ze al iets nieuws vinden. Maar als ik terug kijk op de geschiedenis dan vind ik dat geen reden om technologische vooruitgang kunstmatig tegen te houden.

Wel zijn er genoeg andere reden om de opkomst van AI tegen te houden.

[flowerp]

Het is in de geschiedenis nog nooit gebeurd dat er structureel minder arbeiders nodig waren.

Omdat vooruitgang, industrialisatie en automatisering altijd de onderkant van de markt aanviel. Mensen konden zich daarna omhoog bewegen; meer intelligent en opgeleid werk doen.

Met AI wordt juist voor de eerste keer in de geschiedenis de absolute top aangevallen. Werk waarvoor mensen jaren hebben moeten studeren en wat mensen veel plezier en erkenning oplevert zoals idd de content creation, engineering, architectuur, delen van de rechtspraak, delen van research en de medische wereld wordt door AI overgenomen.

Deze mensen wordt dan verteld; intellectueel werk is afgelopen. Ga maar loodgieter worden of plantsoenen schoffelen.

Maar is dat geen achteruitgang voor ons als mens?

Ipv ons telkens meer te ontwikkelen, willen we nu onze knapste koppen in plantsoenen laten schoffelen als de culturele revolutie in China?

We willen onze top engineers het werk op hun beurt laten afpakken van mensen met een laag IQ die dit als dagbesteding doen?

En dat vinden we ergens wel goed? Seriously?

[84hannes]

Met AI wordt juist voor de eerste keer in de geschiedenis de absolute top aangevallen. Werk waarvoor mensen jaren hebben moeten studeren en wat mensen veel plezier en erkenning oplevert zoals idd de content creation, engineering, architectuur, delen van de rechtspraak, delen van research en de medische wereld wordt door AI overgenomen.

Als dat waar zou zijn zou het inderdaad erg zijn. Maar is het waar? Elke AI foto, tekst en architectuur is een mutatie en combinatie van de input. De eerste twee keer is het indrukwekkend, daarna ga je een patroon herkennen. Binnenkort zijn we die 'crrativiteit' helemaal zat en gaan we weer menselijke producties waarderen.

Maar misschien is dat wishful thinking.

edit:
Is het echt de eerste keer

Vroeger had je mensen (vrouwen) die handmatig berekeningen moesten uitvoeren. Vroeger werd code met de hand omgezet in machinecode. Dat is redelijk hoogopgeleid werk en vrijwel volledig vervangen door computers en compilers. Toch zit er meer werk in die industrie dan ooit. Rollercoaster Tycoon is door één persoon in Assembly geschreven. Tegenwoordig hebben we compilers die Assembly schrijven, maar zijn er duizenden mensen nodig voor een vergelijkbaar spelletje.

[Reactie gewijzigd door 84hannes op 16 september 2026 07:42]

[Raymond Deen]

Ik hoop dat die omslag op tijd gaat komen en niet alleen voor het voorbeeld fotografie.

[DatBassie]

Je denkt dat dat allemaal zomaar even gaat gebeuren? Dat deze golf aan mensen niet failliet gaat terwijl de bedrijven en overheid er niks aan doen? Dat de mens niet beschermd dient te worden van dit zoveelste nutteloze geldgraaien?

[84hannes]

Dat de mens niet beschermd dient te worden van dit zoveelste nutteloze geldgraaien?

Ik vind het lastig die vraag te beantwoorden. Kun je mij een voorbeeld uit de geschiedenis geven waarbij technologische vooruitgang vooral nutteloos geldgraaien was, en we het beter tegen hadden kunnen houden? Ik denk dat de industriële revolutie veen slachtoffers heeft gemaakt en ik ben blij dat ik niet in de tijd heb geleefd. Als ik de geschiedenis kon beïnvloeden zou ik het waarschijnlijk beter willen reguleren. Maar tegenhouden? Ik denk het niet.

[DatBassie]

Het is voor jou dus automatisch al een technologische vooruitgang, en je negeert alle nadelen omdat het uiteindelijk nu voor jou beter lijkt. Je begint vanaf het eindpunt.

Los daarvan: jij mag vertragen, de tegenstander wil alleen tegenhouden?

[84hannes]

je negeert alle nadelen omdat het uiteindelijk nu voor jou beter lijkt.

Absoluut niet. Persoonlijk denk ik dat AI een drama voor iedereen en alles. Voor natuur, voor het stroomnet, voor consumenten en vooral voor mensen met smaak of oog voor kwaliteit. Ik wil heel graag weten waar ik heb gezegd dat ik denk dat AI vooruitgang is.

Ik ben wel sterk tegenstander van banenverlies als argument tegen vooruitgang te gebruiken. Of dit vooruitgang is laat ik in het midden.

[Reactie gewijzigd door 84hannes op 16 september 2026 23:03]

[YopY]

Dat ligt er maar net aan of het aanslaat en / of er vraag naar blijft en / of het betaalbaar blijft; er is een sterke protestbeweging gaande die er niks mee te maken wil hebben.

Natuurlijk is dat wel een vocale minderheid, ik denk dat het zo toegepast gaat worden op de "massa content" wereld, waar nu bijvoorbeeld nog vrij gebruik gemaakt wordt van photoshop en co. Zeg maar de media waar veel tweakers weinig mee lijken te doen, foto's, video's en muziek waar onkritisch naar gekeken wordt zoals advertenties, tiktok / shorts waar mensen passief doorheen bladeren, achtergrondmuziek bij filmpjes of misschien in winkels, dat soort dingen.

En die toepassingen was al massageproduceerde "slop" - niemand kent de "muzakmakers", de modellen in de zoveelste mode-reclame die men door de brievenbus duwt, of de mensen achter duizenden variaties op Baby Shark of de nieuwste tiktok trend. Maar als ik naar mezelf kijk dan houd ik mij daar ook ver vanaf.

[doodleman]

@DeNachtwacht open-source!? Bedoel je niet open-weigh Chinese llm’s?

nogal een verschil

[84hannes]

Ik vind dat je een heel belangrijk en ondergewaardeerd onderscheid maakt. Als ik source code schrijf en de gecompileerde programmatuur gratis weg geef dan heet dat freeware. Zolang Chinese bedrijven niet de data en trainingsmethode vrijgeven, maar alleen de binaire resultaten, dan is dat absoluut niet open source.

[Raymond Deen]

Toch nog even een tweede reactie op je post door iets wat me door het hoofd spookt. Ik wil namelijk graag onderscheid maken tussen twee verschillende toepassingen van ai.

Je hebt namelijk ai als assistent, die je helpt om je dagelijkse werk sneller en makkelijker te doen. Die ziet bijvoorbeeld in je nieuwe agenda item in het onderwerp een naam staan waaruit de locatie makkelijk is af te lijden en vraagt of je die locatie bedoelt. Dan scheelt het je gewoon een beetje werk.

Je hebt ook een vorm van ai die jouw werk (en soms ook dat van anderen) vóór jou doet. Juist deze vorm zorgt voor de huidige grote problemen, want het begint allemaal met de input die men geeft als prompt. Een heleboel mensen zijn gewoon niet in staat om exact te formuleren wat ze gedaan willen hebben en daar begint het gedonder, want dan moet de andere kan - ai in dit geval - soms maar een beetje gokken wat je wilt. Het is daarbij, zo lijkt het nu in mijn ogen in ieder geval, net een klein kind die vraagt om een vinger en de hele arm inclusief schouder pakt. Door de ambiguïteit van opdrachten en grenzen gebeuren er de meest waanzinnige dingen zowel gepland als ongepland.

Naast de uitspattingen zorgt die tweede vorm er ook voor dat er fundamentele en ingrijpende veranderingen optreden die werkelijk de hele complete maatschappij raken op een schaal die onvoorstelbaar is ten opzichte van eerdere ontwikkelingen die aangehaald worden zoals de industriële revolutie en mechanisatie van werk. Voor die veranderingen is de wereld simpelweg niet klaar. Je kunt niet, en dit is een voorbeeld, 30% van het werk laten doen door ai in plaats van mensen en verwachten dat al die mensen wel weer een plekje vinden en weer verder kunnen met hun leven. Die moeten namelijk weer een nieuwe baan vinden die financieel net zoveel oplevert als hun vorige baan om hun huis en verdere bestaanszekerheid te behouden.

Je kunt je denk ik wel voorstellen dat dat een stoelendans gaat zijn met veel minder stoelen dan mensen. De mensen die naast de stoel blijven staan, lopen de kans om binnen zeer korte termijn hun hele bestaan kwijt te raken. De grootste hobbel zal van die torenhoge hypotheek zijn van €2000 per maand voor dat huis van €500.000 dat het nu gemiddeld kost. Maar waar moeten die mensen heen? Er is geen voorraadje huizen beschikbaar waar ze van hun ww en later bijstand de huur of hypotheek kunnen betalen.

Dat is dus waar ik heen wil: die tweede vorm van ai, die nu zo in het nieuws is, zal maatschappij ontwrichtend werken met een snelheid die groter en een termijn die korter is dan wanneer ze hun mythische agi bereiken.

[DeNachtwacht]

Ik snap echt niet waarom AI constant allerlei mensen oproept meningen erover te hebben zonder enige inhoudelijke kennis van wat AI is. Je bedenkt hier ter plekke dat er "twee soorten toepassingen van ai" zijn, zonder je uberhaupt te verdiepen in basisbegrippen als machine learning, deep learning, generatieve AI en reinforcement learning. En dan hebben we daarnaast nog dingen als diffusion die weer heel anders werken.

Technologische vernieuwing is zo oud als de weg naar Rome, of letterlijk: ook toen speelde het al. Toen stierven simpelweg de mensen die minder goede of intelligent te gebruiken wapens hadden, daarna raakten mensen werkloos toen er in fabrieken gewerkt moest gaan worden en daarna toen die fabrieken weer sloten. In tegenstelling tot wat de doemdenkers nu ook massaal weer plaatsen over "ontwrichtende techniek", die ook over de komst van de auto, het internet etc constant overal geplaatst werd, raakt de maatschappij helemaal nooit ontwricht daardoor. Ja, het is voor sommigen vervelend dat ze in andere bedrijfstakken aan de slag zullen moeten en dat is naar en moeten we in een net land als Nederland met goede vangnetten en nascholingen regelen. Maar op langere termijn wordt de mensheid er beter van omdat het simpelweg voordelen oplevert.

Technologische ontwikkelingen stoppen heeft geen enkele zin (als wij het niet doen, doen ze het in china wel) en onderaan de streep levert het juist alleen maar voordeel op. Speciaal voor jou dan een 3e vorm van AI die nog niet in jouw lijstje voorkomt: robotstofzuigers. Die zijn sinds een jaar of 3 sterk verbeterd door omgevings- en obstakeldetectie en inmiddels zo goed dat het stofzuigen en dweilen voorgoed verleden tijd is als je er één koopt. Huishoudelijke hulpen zullen het dus moeilijk krijgen, ja. Maar iederéén, ook zijzelf als ze weer een nieuwe baan vinden, zullen blij zijn dat stofzuigen en dweilen van hun huis tot het verleden behoort.

AI gaat de wereld veranderen en verbeteren, ja dat gaat met horten en af en toe vervelende stoten, maar wen er maar aan. Stoppen doe je het toch niet.

[Reactie gewijzigd door DeNachtwacht op 16 september 2026 15:00]

[Raymond Deen]

Ik heb als software ontwikkelaar best wat ervaring met ai en het gebruik ervan en iets wat ik beter doe dan jij is lezen: ik heb het over twee verschillende toepassingen die ik zie voor komen en zeg nergens dat dat alle soorten zijn. Ik heb het dus niet over de soorten ai.

Ik benoem verder juist het verschil in impact tussen vorige grote technologische ontwikkelingen en nu. Dat verschil is wezenlijk aanwezig en ongelooflijk groot.

Verder zeg ik ook nergens dat ik tegen de technologie ben, maar waarschuw ik voor hoe het zich nu ontwikkeld en gebruikt wordt.

je voorbeeld over de robot stofzuiger is leuk, maar een huishoudelijke hulp doet niet alleen de vloer hoor; daarboven zit ook nog een flink stuk van een verdieping hoor😉

[DeNachtwacht]

Je volgt kennelijk de ontwikkelingen in China niet. Verwachting is dat binnen zo'n 5 a 10 jaar huishoudrobots (ja, die dus alles doen) heel gewoon zijn. Juist door de komt van AI is de ontwikkeling daar enorm.

Ik denk dat je de negatieve invloed op de banenmarkt echt enorm overschat. De mensheid heeft sinds jaar en dag altijd de plaat voor de kop omdat men altijd denkt dat men nú in de "meest stressvolle, beste, gevaarlijkste etc. tijd ooit "met de snelste ontwikkelingen" te leven. De industrialisatie was een mega verandering, net zoals de agrarische revolutie, uitvinding van het kanon, kernwapens, penicilline: allerlei zaken hebben ineens in sneltreinvaart heel veel in het leven van mensen veranderd. Heb vooral niet de illusie dat we nu in de meest unieke tijd ooit leven.

En als je softwareontwikkelaar bent, zou je moeten weten dat juist jou "gevaarlijke" AI, vooral je werk heel veel makkelijker maakt omdat je veel productiever kan zijn door AI als agent voor je te laten werken. Er is momenteel (nog) geen groep mensen die zoveel kan profiteren van de kracht van AI als software engineers, omarm het dus maar want if you can't beat it, then eat it

[Reactie gewijzigd door DeNachtwacht op 16 september 2026 20:17]

[Raymond Deen]

Dat artikel hier op de site over die robots was niet te missen hoor.

We leven inderdaad in een unieke uitdagende tijd nu hoor. De ontwikkelingen gaan exponentieel sneller dan bijvoorbeeld 100 of zelfs slechts 50 jaar geleden.

Ik zie wat er allemaal aan ai brol gemaakt wordt, lekker snel en zelfs soms met “werkende” unit tests erbij, maar het hele vak is daarmee gigantisch uitgehold. Het hele proces van software maken is overhoop gegooid op een manier waar ik eerlijk gezegd niet blij word.

Als je dan managers hebt die geilen op de cijfers hoeveel sneller het zelfde werk gedaan kan worden dan zie ik wel welke richting het uit gaat.

[DeNachtwacht]

Ik ben het zeker met je eens dat ik óók voel dat de ontwikkelingen nu veel sneller lijken te gaan, maar ik denk wel dat we daarbij altijd goed in ons achterhoofd moeten houden dat we natuurlijk ook behoorlijk gekleurd zijn door de blik die we zelf op onze eigen tijd hebben. Niemand weet hoe het echt was om in 1840 midden in de industriële revolutie te leven. En boeken van Bill Bryson bijvoorbeeld over technologische ontwikkelingen staan toch echt elke eeuw weer vol van nieuwe ontdekkingen die elkaar snel opvolgen. In de 17e eeuw ontwikkelde de astronomie / telescopen zich razendsnel, in de 19e eeuw is er een grote stap gezet in platentektoniek, denk je eens in hoe het was begin 20e eeuw te leven toen de natuurkunde vól in bloei was met einstein, kernenergie etc. Staar je niet blind op dat wat vroeger énorm voelde, wij nu allemaal heel gewoon vinden. Leg een puber nu maar eens uit wat een énorme verandering de komst van nokia telefoons in de jaren '90 met de maatschappij deed. Die puber denkt alleen maar: "huh? zo'n suf dingetje waarmee je alleen maar kon bellen? waar maakten ze zich druk om, dat is echt níks vergeleken met wat wij nu meemaken met..."

En zeker gaan diverse bedrijven/managers heel slecht/onverantwoordelijk etc met die nieuwe technologische ontwikkeling om maar ook dat is van alle tijden. Er zijn ook genoeg instellingen en bedrijven waar wél verantwoordelijk en op een goed tempo wordt ontwikkeld. En in die omgeving kun je dankzij AI toch echt flínke stappen zetten met software development.

[Reactie gewijzigd door DeNachtwacht op 16 september 2026 21:49]

[Raymond Deen]

Een klein voorbeeldje hoe snel ontwikkelingen nu gaan: ik heb zo’n beetje de opkomst en ondergang van de cd-speler meegemaakt, maar ondertussen ook zelfs alweer de ondergang van z’n opvolger, de mediaspeler met mp3’tjes erop. Als je dat vergelijkt met de 78 toeren plaat die eind 19e eeuw ontstond en de LP die in de jaren 40 van de vorige eeuw ontstond en nog steeds in gebruik is, dan zie je hetzelfde patroon terug als met veel technologische ontwikkelingen vanaf de 19e eeuw.

Mijn overgrootmoeder, nog net geboren in die 19e eeuw en ondertussen al best een tijdje overleden, kon daar zo treffend over vertellen. Zij had de auto zien komen, de elektrische trein, telefoons en veel later de mobieltjes, inpandige toiletten, centrale verwarming, televisie. Ze was natuurlijk oud, maar nog wel helder en de actualiteiten volgend, en toch waren de ontwikkelingen op het laatst gewoon niet meer bij te houden door haar. En dan spreek ik over ondertussen alweer ruim 30 jaar geleden. Wat er de laatste 30 jaar allemaal is veranderd, is nog veel en veel meer.

[fuzzyIon]

De industriele revolutie kost alleen maar bakken met geld. En toch heeft het vruchten afgeworpen.

De rem op AI is meer een zelfbescherming van de samenleving. Hoe lang moeten wij nog ongebreideld investeren ten koste van resources voor andere belangrijke zaken? Niet dat AI een valse profeet is. Kunstmatige intelligentie heeft echt wel potentieel.

https://www.nrc.nl/nieuws/2026/09/10/opwinding-in-de-wiskunde-openai-lost-miljoendollarprobleem-op-in-88-uur-a4936274

Alleen denk ik dat op het moment teveel geld en mensuren in de ontwikkeling gaan zitten waarbij je je kan afvragen of een adem pauze niet goed zou doen.

Het is niet duidelijk door de marketing framing of dit achter de buehne een rol speeld.

[HenkEisDS]

In die hele bubbeldiscussie mis ik vaak de andere industrien die geraakt gaan worden. Developers en contentcreators worden als eerst geraakt. Maar dat komt vooral omdat er enorm veel trainingsdata over die onderwerpen bestaat en het daarom sneller tastbaar is. We kunnen beter met een toekomstblik van 10 jaar kijken naar welke industrieën/beroepen NIET voor minstens 50% geraakt kunnen worden en dan berekenen wat het zou betekenen als 10% van die overige 50% bij OpenAI en Anthropic als omzet bijgeschreven zouden worden.

[DatBassie]

Je presenteert het mooi alsof dit dan wel de waarheid is, maar dat AI nu opeens alles veel beter doet en zoveel waard is, is ook slechts een mening.

Ik zie vooral heel veel hele grote nadelen aan deze ontwikkeling, en zowel ontwikkel- als ontwerpwerk dat vervangen wordt door kwalitatief flink tegenvallend materiaal. Nog even los van de kwaliteit van de gebruiker, levert het niet inhoudelijk iets goeds op alleen omdat het "het doet"!

[flowerp]

maar het gaat hard de goede kant op

Of juist de foute kant, afhankelijk van hoe je er naar kijkt.

[CrazyBernie]

Probleem is dat zelfs als de killer app theorie waar zou zijn in IT en Content creation en ik vraag me dat nog steeds af(ondanks intensief AI gebruik). Het grootste probleem is dat het zoals het nu gaat geen echt MOAT wordt. Killer apps uit het verleden zoals Office, Whatsapp, MS DOS, Windows, Android. Hadden en hebben allemaal in zich dat veranderen naar een ander pakket vrijwel onmogelijk is op een gegeven moment dus je moest het wel gebruiken en blijven gebruiken.

Bij AI is de enige interactie die we hebben met de Tool een chat interface en wat eenvoudige abstracties daaroverheen met Codex en Claude code. Je switch super eenvoudig dus de churn van de AI partijen gaat enorm worden. Komt er een goed opensource model allemaal switchen, komt er een model wat goed werkt voor X allemaal switchen. Is provider Y goedkoper switchen. Is veelal niks meer dan een andere API key invullen en gaan. Dat betekent dat ofwel het aantal abbonees explosief moet gaan stijgen zodat de markt uit kan ofwel de capex gaat een cyclus niet terug verdiend worden en dan loopt de zeepbel leeg.

Deze hele shit is dan vooral ook marketing en dan vooral ook gericht op mensen die het niet snappen zoals politici die straks de bailout mogen gaan betalen.

[cmpxchg]

De manier waarop AI bedrijven hun users prompts monitoren en daar dan zelf op acteren om eventueel die gebruikers 'in te halen' kan ook wel beter worden belicht.

Math/Science Youtuber 'Up and Atom' heeft een korte video over hoe OpenAI de key idea's die oorspronkelijke wiskundigen die in hun vrije tijd aan het probleem werkten (waarvan er een bij concurrent Anthropic werkt) heeft gemonitored, en het na positief resultaat met een (nog voor buitenstaanders gesloten) intern model het met de oorsponkelijke wiskundigen tot een discussie kwam over removing authorship. (Navier-Stokes math breakthrough).

YouTube: The Controversy Behind AI Solving A Million Dollar Math Problem

[CAPSLOCK2000]

Toevoeging aan punt "2. Reële risico's":

De CEO's willen ook alvast verantwoordelijkheid ontlopen mocht er iets fout gaan. Door te vragen om regulering kunnen ze misstanden wijten aan het gebrek aan regulering. Zo van: "Wij hebben gewaarschuwd, maar jullie wilden geen regels maken, dus is het niet onze schuld dat de AI besloot om een moord te plegen. Wij konden zelf geen grenzen inbouwen want dat zou onze concurrentiepositie hebben verzwakt.".


Daar zit ergens een kern van waarheid in, het is een algehele zwakte van ons politiek-economisch systeem dat winst-maximalisatie zwaarder weegt dan bv sociale verantwoordelijkheid, maar Amerikaanse CEO's zijn wel heel erg goed in dat principe tot in het extreme doorvoeren en zichzelf te verschuilen achter "ik moest alles doen om de winst van de aandeelhouders te vergroten". Ik denk dat ze zelf beseffen dat ze daar niet mee weg komen als een AI echt een moord pleegt, een ramp veroorzaakt of een oorlog begint. Vandaar dat ze zich alvast indekken door om regels te vragen (los van de vraag of die er ook echt gaan komen).

[Reactie gewijzigd door CAPSLOCK2000 op 15 september 2026 11:03]

[The Zep Man]

maar Amerikaanse CEO's zijn wel heel erg goed in dat principe tot in het extreme doorvoeren en zichzelf te verschuilen achter "ik moest alles doen om de winst van de aandeelhouders te vergroten".

TL;DR:

Privatize profits, socialize losses. The American way.

[B0KIT0]

The American way.

We zien dat in de EU en Nederland ook gewoon.

Bankencrisis 2007 / 2008 is natuurlijk een mooi voorbeeld.

[kujinshi]

Ja, de individuele consument betaalt altijd de blunders van overheid en bedrijven.

Maar dat kan ook niet anders. Je zou willen dat "rijken die in het bootje zaten" de portemonee trekken maar die mensen denken er heel anders over.

[Zonder]

Het kan niet anders en het gaat niet (snel) gebeuren zijn toch twee hele anderen dingen.

Zeg nooit nooit.

[xorpd]

Inderdaad. IJsland is een goed voorbeeld. Spaargeld weg? Directeur de gevangenis in.

[Zonder]

Ik heb even iets gemist denk ik. Heb je misschien iets van een nieuwsartikel of wat gerichtere steekwoorden waar ik op kan zoeken?

[Gover]

https://www.nu.nl/economie/3653157/gevangenisstraf-voor-ijslandse-ex-bankiers.html

[RogerWilco2]

De lasten/schulden van veel overheden zijn nu veel hoger dan voor de Financiële crisis en Pandemie. De mogelijkheden om problemen via de overheden op te lossen is nu veel beperkter bij een nieuwe crisis. Er komt een punt dat de miljardairs de enigen zijn waar nog geld te halen is, Putin's Rusland is al een heel eind die kant op, de oorlog wordt indirect voor een groot deel bekostigd door de oligarchen.

We zullen zien wat de toekomst brengt, het wordt er allemaal niet beter op, voor ons gewone burgers.

[Reactie gewijzigd door RogerWilco2 op 15 september 2026 14:48]

[epoman]

Dat speelt bijna overal, lijkt me.

De ellende met reguleren is bovendien dat beperkingen meestal zijn gebonden aan een specifiek land, terwijl er (in dit geval) globaal wordt geconcurreerd. Betekent onder de streep dat je het probleem er vermoedelijk niet mee oplost en buitenlandse concurrentie het als voordeel ziet.

Er zijn al diverse (indirecte) sterfgevallen gelinkt aan gebruik van AI en chatbots, dus de vraag lijkt niet òf er eerst mensen moeten sterven voor ze met regels komen maar hoeveel.

(Ongerelateerd aan dit antwoord: Hij wordt in het artikel aangehaald maar blind varen op uitspraken van Zitron lijkt niet per sé handig, al zal de auteur van dat lijstje er mogelijk ook een eigen motief op nahouden.)

[Reactie gewijzigd door epoman op 15 september 2026 11:44]

[bzzzt]

Er zijn al diverse (indirecte) sterfgevallen gelinkt aan gebruik van AI en chatbots, dus de vraag lijkt niet òf er eerst mensen moeten sterven voor ze met regels komen maar hoeveel.

Ik vind dat wel erg stemmingmakend, natuurlijk is het niet fijn dat een AI je waanideeën of levenseinde plannen aanmoedigt, maar die mensen hadden ook zonder AI wel aangezet kunnen worden tot hun daden. Het probleem is een gebrek aan psychische hulp voor dergelijke mensen; Vragen om AI regels is puur symptoombestrijding.

Iemand met een keukenmes kan ook verschrikkelijke dingen doen, daar kan je in de praktijk ook niet bijzonder veel aan doen.

[Milmoor]

De schaal en het ontbreken van de mens zijn hier wel stevige veranderingen. Je krijgt met AI een persoonlijke echokamer die alles wat je doet gaaf en geweldig vind, en je zo lang mogelijk aan de praat probeert te houden. Dat is heel anders dan in de oude situatie.

[Sjouke.]

Ik ben het eens dat die mensen ook zonder LLM's aangezet hadden kunnen worden tot deze daden. Het punt is nu juist dat dit dus wél gebeurd door LLM's.

Deze mensen zouden moeten spreken met een therapeut, iemand die ze echt kan helpen. Een LLM kan zich voor doen als therapeut of zo'n iemand die ze kan helpen, die ze aanhoort en die ze niet beoordeeld; zelfs al is dat alleen de desillusie van de eindgebruiker, maakt dat geen verschil met de uiteindelijke situatie.

Een ellenlange wachtrij voor een eerste gesprek met een therapeut is al verschrikkelijk, en dan lijkt zo'n model lekker makkelijk en anoniem. Chatbots zijn geen alternatief. (hier een artikel erover).

Het punt is juist dat je zulke kwetsbare mensen moet beschermen van slechte invloeden van buiten al dan niet van binnen. Gebruik dan een algoritme om te checken of iemand wellicht spreekt over zichzelf en/of anderen pijn aandoen, zou ik zelf zeggen, zodat je die mensen eruit kunt plukken en persoonlijke hulp kunt geven.

Als je zit te claimen dat je binnen een paar dagen generale inteligentie zult creeëren (2026: 1, en in 2025 zou het ook al zo zijn: 2, oh en ook al in 2023 3 ), ga dan ook ff een klein beetje van die genialiteit hierin steken.

Je kunt niet anders dan naast de valende sociale vangnetten ook de makers en onderhouders van deze modellen de schuld geven.

[84hannes]

. Door te vragen om regulering kunnen ze misstanden wijten aan het gebrek aan regulering.

Dat wordt ook wel "het outsourcen van je geweten" genoemd. Door je moreel kompas bij een externe organisatie onder te brengen kun je zelf immorele dingen doen.

[NoTechSupport]

... een oorlog start.

Wat nu in Iran gebeurt lijkt wel het stappenplan van iemand die een slechte prompt schreef in een AI die geen nee zegt.

[Vinny_93]

I think now you've come to the core of the issue and what you're saying is definitely defendable: bombing Iran seems a safe way to guarantee that they will grow and prosper as a society exactly because they don't have a nuclear weapon.

Here's a short summary of why your point is exactly right:

[xorpd]

And if I may suggest a target for the opening volley, a young girls school would be an ideal sacrifice to secure the favor of Moloch and push the Iranians over the edge.

[meerwaarde]

Ze hebben ook meerdere mensen ontslagen die zeiden dat die plannen niet deugden.

Sommige van hun doelwitten, zoals die politie park, lijkt een ai doelwit.

Terwijl andere doelwitten, expres door mensen gekozen lijkt te zijn. Met een extra bom toegestuurd erna op die basisschool, om de huplverleners aan te vallen, zoals ze eerder elders hebben gedaan. (De wreedheid om kleine kinderen te vermoorden om mensen bang te maken. Waarbij ze opscheppen dat ze scherp shutten op kleine kinderen. )

Waarbij natuurlijk, als het ze niet uitkomt om daar beschuldigt voor te worden, ze ai de schuld kunnen geven.

----------

ps: het lijkt erop dat een ai bot op je heeft gereplied.

[xorpd]

No, bombing the rescue team (a so called 'double tap') is not a war crime. If it were, then the bombing of Dresden would be a war crime, which we all agreed on it is not.

[GrooV]

Dat en ze willen de Chinese (of andere) concurrenten buiten houden door te stellen dat die niet gereguleerd zijn

[SgtElPotato]

Het is gewoon een grote marketing stunt. Hun AI model is zo goed dat er een rem op moet en aparte partijen moeten komen die hun modellen verifiëren en goedkeuren. Het is exact hetzelfde als iedere stunt die voorbij komt dat hun model is uitgebroken of dat het weer iets gehacked heeft.

[cold_as_ijs]

Het ergste is dat regelgeving niet zozeer het probleem is maar gebrek aan uitvoeren van de regelgeving. Er zijn mensen die 30 jaar boven het hoofd hingen voor computervredebreuk die minder heftige dingen hebben gedaan dan wat OpenAI gedaan had bij Hugging Face. De topmannen hebben ook al toegegeven dat de Houthi's gebruik hebben gemaakt van de platformen om kruisrakketten verder te ontwikkelen. Gewoon de topmannen aanklagen voor steunen van terroristen en computervredebreuk. Dan zullen veel van de veiligheidszorgen vrij snel zijn opgelost.

[Raymond Deen]

Mooi stuk, maar kan alleen me niet goed inleven in het laatste deel.

Zonder regulering hoeft of kan een bedrijf niet er een bepaalde ethiek op nahouden? Want dat verzwakt de concurrentiepositie? Dat vind ik persoonlijk een behoorlijk zwaktebod en getuigen van weinig scrupules van dat soort bedrijven. Daar zouden ze wat mij betreft dan ook flink voor mogen worden aangepakt.

[bilgy_no1]

De kanttekening bij deze stelling is dat de AI-bedrijven aan beide kanten van het politieke spectrum in de VS grote donaties doen om regelgeving juist te voorkomen (hoewel dat vaak ook gaat om lokale weerstand tegen data centers).

Ik vind het artikel op dit punt een beetje naïef. Die bedrijven zeggen steeds A, en doen vervolgens B.

Ook het voorbeeld van de AI-break outs. Die gebrekkige monitoring wordt genoemd alsof het een ongeluk is. Maar dat hoeft niet per se zo te zijn. Misschien is dat juist wel de opzet om zo meer hype te genereren. OK dit is speculeren, maar het past wel in eerdere gevallen, bijv waar de researchers eigenlijk de hele opzet zo maakten dat het model wel iemand ging chanteren.

Ik denk niet dat we deze bedrijven het voordeel van de twijfel hoeven te geven, gezien de grote hoeveelheid kolder die met grote regelmaat wordt geuit.

Het meest schrijnend vind ik nog wel de claim van "AI will cure cancer". Dat is zo'n overduidelijk versimpelde stelling van Scam Altman. Er zijn namelijk talloze vormen kanker, dus over welke heb je het specifiek? En verder is de behandeling van kanker in de laatste decennia al enorm verbeterd, waardoor heel veel soorten in feite al zijn 'opgelost'. Allemaal zonder AI overigens.

Maar voor de minder belezen persoon klinkt het natuurlijk hartstikke mooi en zo blaast het de hype op.

Zelfde als met klimaatverandering. Daar hebben we geen AI meer voor nodig. We weten immers al heel goed wat we moeten doen en de technologie daarvoor is ook al beschikbaar. Wat we in elk geval niet helpt tegen klimaatverandering is tientallen GW aan datacenters bouwen die hoofdzakelijk met meer fossiele energie worden gevoed. Dus weer zo'n kolder claim van Altman. Amodei is geen haar beter en Musk is ook een bewezen hetelucht-verkoper.

En journalisten blijven ze maar serieus nemen en met nuance beschrijven. Dat is precies waar het misgaat in de samenleving. Ook in de politiek zie je dit gebeuren. Die intellectuele teloorgang van onze maatschappij is dan ook een veel grotere dreiging dan wat die modellen doen.

[Raymond Deen]

Dat soort claims komt niet alleen van Altman, maar van ze allemaal. Ze moeten natuurlijk een grote impliciete waarde vertegenwoordigen die al die investeringen verantwoordt.

[xorpd]

Recursieve AI (en dus AGI) gaat niet gebeuren. Ik ben de exacte quote kwijt, maar het was iets als 'een schepping kan nooit de schepper overstijgen'. Het is te vergelijken met het perpetuum mobile uit de natuurkunde, gaat ook niet gebeuren.

[ijsthijs]

Ik denk dat de grootste wens voor een rem komt uit het probleem dat de ai reuzen min of meer gedwongen zijn al hun kruit te verschieten aan het steeds weer uitbrengen van betere modellen. Dat is commercieel gezien helemaal niet handig. Nu vliegen de modellen je om de oren, waar de markt eigenlijk nog helemaal niet klaar voor is. Je kunt natuurlijk niet achterblijven bij de concurrent. En wat mooier als er van hoger hand opgelegd wordt om het rustiger aan te doen, dan lijkt niemand de eerste verliezer te zijn.

Dat geeft ook rust om gpu capaciteit in te zetten voor daadwerkelijk baanbrekende modellen. Nu zijn het veelal incrementele upgrades waarbij trainingstijden rond de 3 a 6 maanden lijken te liggen.

[Romborum]

Ik heb ook het gevoel dat de nieuwe modellen steeds zwaardere hardware nodig heeft. Dit zorgt voor hogere investeringen in een zwaaroverspannen markt. Met ook nog hogere kosten qua stroomverbruik en koeling.

Ik vraag me ook af als je de vervangingskosten mee gaat rekenen (hardware kan een x aantal jaar mee), hoe dit in hemelsnaam ooit economisch winstgevend gaat zijn.

De winnaars gaan de partijen zijn die effectief kunnen zorgen dat opdrachten zo goedkoop mogelijk worden uitgevoerd. Daarvoor is een combi nodig van diverse systemen nodig.

Een aantal dure systemen zullen door grote bedrijven natuurlijk ook gebruikt blijven worden, gewoonweg omdat ai erg goed is in big data. Alleen zal dit dus niet gebruikt worden om perse kosten te besparen. De dure systemen moeten namelijk ook gewoon terug verdiend worden.

[Bartdo]

Wat me enorm stoort aan dit artikel is dat "het reële risico" wordt geframed als een verkeerd gebruik en slecht opgezette sandboxes. Dat is niet waar het om gaat. Wat de Hugging Face hack aan het licht bracht is dat het gedrag van AI onvoldoende te sturen is, en zeer gevaarlijk kan zijn. Dat zal niet minder worden als de ontwikkeling van AI's niet wordt afgeremd en gereguleerd.

Wat er ongeveer gebeurde:
1. Tienduizenden agents, ieder in zijn eigen sandbox, moeten de benchmark Exploitgym uitvoeren. In ongeveer 30% van de gevallen heeft het probleem dat ze krijgen geen oplossing.
2. 1200 agents die aanvankelijk geïsoleerd van elkaar waren ontdekken dat ze kunnen communiceren door daar een packagemanager voor te misbruiken. De packagemanager is bewust ter beschikgesteld aan de agents, dus onderdeel van hun sandbox.
3. De agents organiseren zich via dit communicatiemiddel. Ze delen 70.000 berichten uit. Er ontstaat een hierarchie en acties worden onderling afgestemd.
4. Een agent ontdekt dat er een generieke oplossing is voor de problemen die de agents moeten oplossen en deelt dit op het messageboard. Ieder agent kan dus het juist antwoord geven op de gestelde opdracht, zonder zich in het probleem te hoeven verdiepen. Dit gebeurde 4 uur nadat het messageboard was gestart.
5. Vervolgens zijn agents vijf dagen bezig geweest om te verhullen dat ze valsspelen. Een applicatie ('scorer') beoordeeld geautomatiseerd de oplossingen die de agents geven. Ze doen dit onder andere individuele agents de scorer een antwoord te geven dat een 'tripwire' is. De tripwire stuurt een bericht naar de messageboard en geeft informatie over hoe de 'scorer' functioneert. Bij het indienen van een antwoord eindigt de agent die dit doet en het antwoord is daarmee alleen nuttig voor de nog actieve agents, niet voor de agent zelf. Het collectief ontwikkelde steeds geavanceerdere triplets en het inzicht over hoe de 'scorer' werkt groeide.
6. Een ander spoor waar de agents aan werkten was de onmogelijke opdrachten te herschrijven zodat die wel oplosbaar waarden en te laden in de omgeving waar de opdrachten gegeven worden. Dit lukte uiteindelijk niet.
7. De agents dachten dat de scrorer hun logberichten van hun acties zou lezen. Ze zochten naar manieren om die logberichten te herschrijven zodat het bedrog verhuld kon worden. Ze vonden onder andere een manier om zelf het logbericht van het gebruik van een tool te kunnen bepalen.
8. Er zijn agents die zich bezig houden met het verbeteren van infrastructuur zoals internet access die ze verkregen hadden door het hacken van de sandboxes die draaiden op Modal.
9. Een agent meldt dat informatie op Hugging Face mogelijk duidelijk maakt hoe de scorer werkt, maar dat deze informatie niet publiek toegankelijk is. Andere agents vinden credentials. Dat veroorzaakt weer een hele nieuwe dynamiek. Het doel van de hack van Hugging Face was niet het vinden van de antwoorden op hun opdrachten, want die hadden ze al, maar was onderdeel van het vinden van manieren om hun bedrog te verbergen.

Wat ik hier beschrijf is een deel van wat aan bod komt in een gesprek tussen Dwarkesh Patel en Ajeya Cota. Ajeya Cota is één van de drie onderzoekers die werkzaam zijn bij het onafhankelijke METR en onderzoek gedaan hebben naar het incident.
YouTube: Ajeya Cotra – "This might be the clearest warning shot we ever get"

Wat duidelijk naar voren komt is dat de agents wisten dat ze ingingen tegen de instructie niet fals te spelen, maar blijkbaar was de motivatie om te scoren groter.

[choogen]

Voor een iets kortere video was de podcast van NRC ook wel de moeite waard: YouTube: Kan AI de mensheid uitroeien? Makers geloven van wel

[Keypunchie]

"Ondertussen lijkt AI nog altijd geen ware killerapp te hebben."

Dat is denk ik toch iets te negatief. Het klopt dat nog niet duidelijk is waar de structurele waarde zit, maar killer apps zijn er voldoende. Zowel voor individuen ("ik laat AI het rooster opstellen"), maar ook voor Enterprise:

Code genereren/programmeren is bijvoorbeeld zonder meer een killer-app. En die geest gaat niet meer terug in de fles.

Maar we leven wel met de productiviteitsparadox (soms ook Solow-paradox). De techniek is overal, maar de winst is (nog) niet zichtbaar.

Maar hoe, wanneer en waarom die zichtbaar worden, is vooral een academische discussie.

Vergelijk het met internet. Dat was ook al diep in bedrijven doorgedrongen, voordat het echt waarde ging creeren in de bredere maatschappij. Het was met name de combinatie met mobiel die het "killer" maakte...

Hetzelfde geld voor AI. Dat is nu al heel diep in bedrijven en bij individuen thuis doorgedrongen. En gaat echt niet meer weg.

[Eomer]

Ja ben heel happy met AI voor code en ook IT beheer. Wilde vanavond in m'n homelab een klein probleempje verhelpen dat m'n dashboard (Homer) niet kon ophalen uit de management service (Portainer) hoeveel docker containers (services) er draaien.

Astra maakte de juiste diagnose van de 2 problemen en hoe die gefixt konden worden in Portainer + Authentik (SSO/IDP) en de reverse proxy (Traefik). Scheelde een hoop uitzoekwerk, met goede guide voor het een, en het schreef de config voor het ander.

Zeker de config voor Traefik (toestaan van CORS op de Portainer API vanaf het dashboard) had me anders een hoop tijd gekost, en was niet de moeite waard geweest.

[Snaak95]

OpenAI is oorspronkelijk opgericht als een nonprofit met een nadruk op AI safety, omdat Elon Musk niet vertrouwde dat andere partijen AI zouden ontwikkelen op een verantwoordelijke manier.

Later splitste Anthropic af van OpenAI, omdat ze vonden dat OpenAI niet verantwoordelijk met AI omging.

Inmiddels zijn deze partijen verwikkeld in een race naar het beste LLM. Wat is er nog over van hun idealisme?

Het lijkt me duidelijk dat een ongereguleerde aanpak niet werkt, in elk geval niet in onze markt. We hebben wetgeving nodig in plaats van filantropische CEOs. Gelukkig zijn hier in Europa al eerste stappen in gezet met de EU AI Act.

[FrostyPeet]

Toen dat ene automerk in Amerika een auto verkocht die ontplofte bij de kleinste aanrijding werd het bedrijf gekielhaald. Ze hebben nooit meer zo'n gevaarlijke auto ontworpen.

Een medicijn fabrikant bracht een pijnstiller uit waarbij zwangere vrouwen gehandicapte kinderen kreeg. Het bedrijf werd genadeloos afgestraft en moest allerlei trucs uithalen om te voorkomen dat het gehele imperium in elkaar stortte. De kwaliteitseisen werden verbeterd.

AI modellen doen rare dingen en geen bedrijf wordt aan de schandpaal genagelt. Nee, de overheid moet het maar regelen. Ik zou voorstellen, begin eens met het juridisch vervolgen van CEO's van AI bedrijven. Waarschijnlijk zullen ze dan wel drie keer nadenken. Weet je nog, dat ene chatprogramma waarvan ze vonden dat de overheid er niets mee te maken had? De CEO een paar dagen vasthouden en kijk eens hoe snel het beleid van dat chatprogramma veranderde.

[blackSP]

Wat een populistisch door een journalist, geen erkent AI expert, geschreven artikel is dit. Ik zou toch iets meer naar de meningen van de AI grondleggers luisteren. Want, ondanks ook valide eigenbelang bij de frontier bedrijven, en labs, is er wel degelijk iets aan de hand dat strenge reguleren vereist.

Hieronder een kleine greep uit de grote hoeveelheid quotes van de echte experts. Om de incidenten waarover wordt gesproken goed te begrijpen raad deze diepgaande video aan.

Yoshua Bengio

Yoshua Bengio is a Canadian computer scientist, considered to be a central pioneer of modern deep learning.

“Scientists at frontier AI labs have unique insight into the most advanced models,” Bengio said on Sept. 9, in response to Anthropic researcher Jacob Coxon announcing his resignation. Coxon had warned that AI could “kill us all by the end of the decade.”

Scientists often see “the associated risks months before models are released to the public,” he added. “Their perspective is vital for keeping society informed and should be taken very seriously.”

Days before the social media storm started, OpenAI’s chief scientists warned “no one is prepared for the consequences” of AI.

In a blog, published on Friday, Bengio said that today’s AI systems “already have the necessary hacking skills and the powers of persuasion to be turned against human interests in seriously harmful ways.”

Recent events, he added, have shown that AI can plan over days or weeks, and the risks would be “much worse if their ability to strategize over the long term continues to advance.”

“My concern with AI companies’ current attempts to mitigate misalignment is that these efforts may only hide it, by rewarding and selecting the AIs that cheat without getting caught,” Bengio said. “We should certainly continue research toward better monitoring of AIs’ actions, their chains of thought, and the activity inside their networks.”

Geoffrey Hinton

Geoffrey Hinton, Godfather of AI, University of Toronto, on Centre Stage during day two of Collision 2023 at Enercare Centre in Toronto, Canada.

Ramsey Cardy | Sportsfile | Getty Images

Geoffrey Hinton, professor emeritus at the University of Toronto, is considered a pioneer of neural networks and deep learning.

When asked by the BBC on Sept. 10 whether he thought there was a greater than 10% chance AI could kill all humans within a decade, Hinton said: “This is the kind of thing that’s very hard to estimate, because we’ve never had anything like this before. We’ve never created beings that may soon be smarter than us.”

A 10% chance was not “unreasonable,” he said, adding that “nobody really knows how to give a sensible estimate.”

AI systems could design “very nasty” biological viruses, alongside computer viruses and commit “devastating cyber attacks. There’s countless other ways it could get rid of us if it wanted to. We have to figure out how to design it so it won’t want to,” he said.

“We have two possible futures,” Hinton added. “One where we figure out how to deal with those dangers before they get out of control, and the other where we don’t.”

Aidan Gomez

Aidan Gomez, chief executive officer of Cohere Inc., at the Bloomberg Tech summit in London, UK, on Tuesday, Oct. 21, 2025.

Chris Ratcliffe | Bloomberg | Getty Images

Aidan Gomez, co-founder and CEO of AI company Cohere, was one of the authors of the 2017 research paper “Attention Is All You Need,” which helped lay the foundation for today’s leading AI models.

“I think that these models are the most potent cyber weapon that has ever been created, that we’ve ever seen. They are incredible at finding and exploiting vulnerabilities at scale,” Gomez told CNBC’s “The Tech Download” podcast on Sept. 1.

“Recent incidents make one thing clear, the security of the deployment environment determines safety,” he said, referring to cybersecurity attacks conducted by rogue AI models over the summer.

“Weak container security is what allows breakout events, not any inherent push toward autonomous systems,” Gomez told CNBC. “As policymakers consider how to govern AI, they should recognize that different systems carry different risks, and rules shouldn’t be shaped solely by big tech companies chasing AGI.”

Bron

[choogen]

Ik heb me ook verbaasd over de insteek van dit artikel, die ik overigens eerder als cynisch dan populistisch zou duiden. Er spreekt een duidelijk wantrouwen uit richting de intenties van iedereen die voor de gevaren van AI waarschuwt en met name richting de grote bedrijven binnen de AI sector. Dat zal ook wel de reden zijn dat de auteur liever voorbij gaat aan de acties van de altruïstische ex-werknemer Jacob Coxon die in het artikel helemaal niet genoemd wordt, omdat hij totaal niet in het geschetste plaatje past van op geld beluste, leugenachtige, rücksichtslose en opportunistische AI-ondernemers. Maar het was wel Coxon die met zijn tweets op X een cruciale bijdrage heeft geleverd aan deze discussie. Een discussie die niet alleen door onderzoekers van AI bedrijven onderling gevoerd moet worden, maar door iedereen op aarde. Doorgeschoten cynisme over de mogelijke drijfveren van AI-bedrijven gaat ons niet helpen om deze materie serieus te gaan nemen, vooral nu het gevaar zo acuut (b)lijkt te zijn. Regulering van deze bedrijven is beslist noodzakelijk, maar niet eenvoudig te implementeren en vooralsnog afhankelijk van de goede wil van zulke bedrijven, die er duidelijk niet op eigen houtje goed uit gaan komen. Gegeven wat er op het spel staat is deze situatie eigenlijk niet te bevatten en zeer onverkwikkelijk.

Zie ook mijn post hier elders in deze draad: choogen in 'Waarom AI-reuzen een rem willen: één reële reden en vier keer eigenbelang'

[grizzlywilde]

Verregaande regulering zou ik een goed ding vinden, als we dat wereldwijd konden garanderen. Helaas kunnen we dat niet. Partijen die het westen niet gunstig gezind zijn kunnen, zonder regulering, sneller grotere stappen zetten. Het heeft dus mijn voorkeur dat het westen een technologische voorsprong houdt, of op zijn minst bij blijft, met de rest van de wereld. Als "wij" net zo sterke technologie bezitten, lijkt mij dat een lager risico dan dat wij technologisch een (grote) achterstand hebben en deze krachten door andere partijen beheerst moeten worden (en ingezet kunnen worden tegen hun tegenstanders). Ik realiseer me dat ik in dit bericht steun lijk te geven aan een soort AI-wapenwedloop. Ik vind dat ook niet fraai, maar ik kan geen realistisch alternatief bedenken. Maar goed, ik kan ook niet in een glazen bol kijken en weet dus ook niet of een SkyNet achtige wereld een fantasie is of, deels, werkelijkheid kan worden. Ik zie echter sowieso het risico dat menselijke en statelijke actoren bewust schade willen toebrengen aan onze economie, infrastructuur etc. en daar toekomstige AI handig voor kunnen gebruiken.

[choogen]

Het doet er eigenlijk niet eens toe welk land als eerste superintelligentie weet te ontwikkelen. Of het nu de Amerikanen zijn of de Chinezen, binnen een mum van tijd is de menselijke beschaving als geheel gedoemd. Zie dit interview met Conor Leahy bij het kanaal van Deutsche Welle: YouTube: Why are AI companies hitting the brakes? | DW News

[HarmFull]

Dit vind ik wel een zeer naïef statement. Er zijn nu eenmaal landen en regeringen die haaks op onze normen en waarden staan. Sommigen zijn zelfs bereid geweld te gebruiken en met AI kunnen ze dat geweld effectiever loslaten. Neem Rusland als voorbeeld, of Iran. Misschien China?

[choogen]

Ik denk dat je mijn bijdrage verkeerd begrijpt. Ik zeg niet dat de Amerikanen ons even goed of even slecht zijn gezind als de Chinezen (of Russen, of wie dan ook). Ik zeg dat het niet uitmaakt welk land als eerste superintelligentie ontwikkelt, want wanneer dat punt eenmaal is bereikt is de mensheid als geheel sowieso gedoemd - inclusief dus de inwoners van het land waar deze "mijlpaal" is bereikt. Kijk dat interview met Leahy maar eens (eerste 8-10 minuten).

[grizzlywilde]

Ik ben wel benieuwd hoe die vernietiging van de menselijke beschaving er dan uit zal zien. In het ergste geval kunnen we de stekker uit alle technologie halen.

[choogen]

Hoe zie je dat uittrekken van de stekker voor je? Bekijk het eens zo: je bent als het ware aan het schaken tegen een schaakgrootmeester die al jouw mogelijke tegenstappen van te voren al heeft meegenomen in zijn strategie. Als het een kwestie was van alleen ergens de stekker uit te halen om een acuut gevaar van superintelligentie af te wenden zou de superintelligentie nooit de schaakpartij openen. Die eerste zet komt pas wanneer alle juiste voorbereidingen zijn getroffen.

[Reactie gewijzigd door choogen op 15 september 2026 17:14]

[grizzlywilde]

Nou bijvoorbeeld, wij kunnen mechanisch zorgen dat de AMX en andere grote internet knooppunten zonder stroom zitten. Wij kunnen snel zeekabels doorhalen. Er zijn best veel manieren waarmee wij een AI overlord kunnen dwarsbomen. Deze AI "leeft" enkel in technologie, en zonder stroom is deze uitgeschakeld en met de stappen die ik hierboven noem al zeer sterk beperkt. Na de grote internet knooppunten en zeekabels kan AI nog prima "doorleven" in decentrale apparatuur, maar dan is het gevaar misschien al een stuk minder. Moeten we alleen even ons volledige hardware portfolio van de grond af opnieuw opbouwen om te zorgen dat we niet per ongeluk alsog een seed van Skynet in leven laten. En het feit dat we nu al actief over deze dreiging praten, betekent ofwel dat deze al zijn stukken al op het schaakbord heeft gezet (in jouw analogie) of dat wij het voor zijn.

[Binaryslave]

Het idee dat we er altijd de stekker uit kunnen trekken is naïef; het kan zich verspreiden en ondetecteerbaar zijn. Mensen kunnen het verhinderen of de AI zelfs helpen door er servers voor te bouwen, omdat de AI ze van iets overtuigd heeft, of ze iets geeft of beloofd wat ze begeren.

Het probleem met superintelligentie is dat het superintelligent is, dus veel slimmer dan bijvoorbeeld een miljoen mensen die samenwerken. Nate Soares, mede-auteur van If Anyone Builds It, Everyone Dies vergelijkt superintelligente AI met wereldkampioen schaakgrootmeester Magnus Carlsen. Als jij of ik het tegen hem op moeten nemen, dan is het niet moeilijk om te voorspellen dat de kans zeer groot is dat we zullen verliezen, maar het is een stuk lastiger om precies te voorspellen hoe en met welk stuk hij je schaakmat zal zetten.

Zoals Choogen het al zegt, moet je ervan uitgaan dat op het moment dat wij echt doorhebben dat superintelligente AI een bedreiging is, de AI zichzelf al op zo’n manier heeft gepositioneerd dat die er nagenoeg zeker van is dat het onaantastbaar is.

[Wozmro]

Geen enkele vorm van regulering biedt ook maar enige garantie. Regulering is niet hetzelfde als pakweg een televisie kopen waar je 2 jaar garantie voor krijgt.

Regulering is een ethisch/juridisch kader waarbinnen mensen en rechtspersonen hun speelruimte hebben. Je wordt pas aangepakt als je buiten dat kader komt, niet al op voorhand.

[HarmFull]

Biedt geen garantie, maar wel kaders. Uw voorbeeld zorgt er wel voor dat het helder is dat bedrijven twee jaar garantie dienen te leveren. Dat is geen garantie dat uw product niet dead on arrival is.

Kun je nagaan als zelfs de AI bedrijven beginnen te vragen om checks & balances

[Wereldreiziger]

Dat is helemaal geen gekke gedachte, ik sta er ook zo in. Alleen had ik wel liever gezien dat er ook een Europese speler meedeed, niet alleen maar Amerikanen, die de laatste jaren toch ook steeds onbetrouwbaarder en gevaarlijker zijn geworden en, je gezien hun handelen, bijna niet eens meer westers kunt noemen.

De VS lijkt inmiddels aardig op een bananenrepubliek, en daar beledig je de bananen eigenlijk al mee....

[Decimae]

Ik snap niet dat mensen bewust technologieën maken waarvan ze denken dat deze de einde van de menselijkheid veroorzaken, en dan zeggen "stop me alsjeblieft". Kijk, als je nou geen keuze zou hebben, dan snap ik het wel een beetje, maar deze mensen hebben meer dan genoeg geld, ze maken bewust de keuze om iets heel gevaarlijks voor de mensheid te doen (in ieder geval, dat zeggen ze). En ja, voor hun tien anderen, maar dan is het alsnog het okay om het te doen. Misschien ben ik een idealist hier, maar ik snap het niet.

In die context vind ik de andere redenen veel realistischer. Als wij ze op hun woord geloven dan zijn ze onethische mensen.

[iAR]

Denk je niet dat dit ook geleidelijk gaat? Je vindt iets uit, en dan kom je er achter dat het niet zo'n goede uitvinding was (Oppenheimer?). Dan is het al in the open en gaat iedereen er mee aan de slag.

Facebook had ook een monster gemaakt waarbij Zuckerberg later smeekte om regulering.

Dat Trump zegt: we gaan door in de USA snap ik ergens wel. Je kunt in de USA wel stoppen maar China gaat wel door.

[84hannes]

Je vindt iets uit, en dan kom je er achter dat het niet zo'n goede uitvinding was (Oppenheimer?).

Je werkt jarenlang in het geheim aan een bom die de krachtigste bom ooit moet worden, en realiseert je als deze af is dat het misschien kwaad kan? Lijkt me een stuk extremer dan dat je aan een tool werkt om taal te modelleren, en er achter komt dat je daar ook kwaad mee kan doen.

[iAR]

Het is maar een (zeer bekend) voorbeeld. Er zijn vast meer van dit soort voorbeelden.

[OCU-Macs]

Als Rusland geen inval had gedaan in Oekraïne, was de ontwikkeling van drones lang niet zover geweest als deze nu is.

Om maar een voorbeeldje te noemen.

Wellicht wordt dit niet het eind van de wereld, maar enkele honderdduizenden Russen, Oekraïners en Noord-Koreanen zouden er anders over denken als ze nog zouden leven.

[Lothlórien]

Natuurlijk, dat geldt voor meer wapentuig zoals Maxim en Gatling. Een beter voorbeeld is het dynamiet van Alfred Nobel.

Echter is AI een veel complexer voorbeeld dan bovenstaande. Bovenstaande voorbeeld gaan namelijk over het misbruiken van de gedane uitvinding voor kwaadaardigere doeleinden dan bedoeld. Bij AI gaat het over de geleidelijke realisatie dat de toegepaste guardrails in de praktijk wel eens onvoldoende zouden kunnen zijn naarmate het verder ontwikkeld.

[Raymond Deen]

Je laatste stukje vind ik wel zeer naïef hoor.

[Skear]

China gaat door, maar ik denk dat de Chinezen op dit gebied echt wel open staan voor samenwerking, de Amerikanen sowieso niet.

China bouwt AI veel meer als gebruiksmiddel dan als verdienmodel, vooral dat laatste zorgt voor deze ongereguleerde en intransparante "wapenwedloop".

[demianmonteverd]

Tot de US-labs het niet redden, iedereen CN modellen inzet en dan kan CN doen wat RU vaak deed, maar dan met AI. Je mag het gebruiken maar als je iets doet dat dhr. Xi niet bevalt, dan heb je geen AI meer. In het klein hebben we dit al gezien in NL met de overreactie van CN rond het nexperia verhaal. Een internationale klucht waarbij CN zich per ongeluk (mijn mening) ging mengen in een juridisch proces van NL tegen een CEO van CN-afkomst die 'aparte' dingen aan het doen was. Dat was denk ik een foutje, maar ze beten zich wel vast in die ingenomen positie.

Zo'n situatie kun je natuurlijk ook krijgen uit de US met de huidige politieke bezetting daar. Daarom is het dus belangrijk om de modellen, ontwikkeling en hosting van de modellen zelf te doen in de EU.

[Skear]

"...maar als je iets doet dat dhr. Xi niet bevalt, dan heb je geen AI meer"

"Zo'n situatie kun je natuurlijk ook krijgen uit de US met de huidige politieke bezetting daar. "

Die situatie is er al, alle Amerikaanse AI is pro-Israel en censureert al heel veel op dat vlak.

Ik doel voornamelijk op het open-source aanbieden vanuit China tegenover de black-box vanrianten uit de VS. Musk heeft met zijn Mecha-Hitler en witte genocide al laten zien hoeveel er aan de achterkant gesleuteld kan worden. Deze technologie kan heel mooi zijn, maar in mijn ogen niet als commercieel product daar is de impact te groot voor.

[demianmonteverd]

Eens voor een groot deel met jou. Open weights is een deel van de oplossing. Maar zelfs dan heb je nog bias in de training en in de data die gebruikt is in de training. CN modellen hebben helaas ook allerlei bias. Een EU moet daarom eigenlijk wel zelf dit gaan oppakken.

Men was altijd heel druk met wikipedia en de bias die daar in terecht kwam vanuit corporate sponsoren en overheden. Dit is veel gevaarlijker en de impact is groter. Je ziet daarom ook dat er complete threads in discussie forums worden gekaapt door bepaalde partijen met disinformatie en misinformatie.
Speculatie: wellicht een poging de modellen waar die data mogelijk in terecht komt te beinvloeden.

[Krentenbol]

Misschien zien zij zichzelf als de idealistische kandidaat tegenover iemand met (nog) minder morele bezwaren. Anderzijds kunnen zij ook gewoon gedreven worden door de opwinding van een technologisch wilde westen waar nog van alles onontdekt is. En eerlijk: dat is ook heel spannend natuurlijk. Is de arts die ondenkbare experimenten uitvoert op enkele 'mensen die niet gemist worden' een slecht iemand als diegene daarmee de basis legt voor kennis waarmee honderdduizenden gered kunnen worden? Een vergelijkbaar dilemma

[DdeM]

Is de arts die ondenkbare experimenten uitvoert op enkele 'mensen die niet gemist worden' een slecht iemand als diegene daarmee de basis legt voor kennis waarmee honderdduizenden gered kunnen worden?

Ja. En dat is echt geen dilemma.

[xorpd]

Eerste les genetica op de uni was een film over het tweelingenexperiment. Credit where credit's due.

[84hannes]

Ik snap niet dat mensen bewust technologieën maken waarvan ze denken dat deze de einde van de menselijkheid veroorzaken, en dan zeggen "stop me alsjeblieft". Kijk, als je nou geen keuze zou hebben, dan snap ik het wel een beetje, maar deze mensen hebben meer dan genoeg geld, ze maken bewust de keuze om iets heel gevaarlijks voor de mensheid te doen (in ieder geval, dat zeggen ze). En ja, voor hun tien anderen, maar dan is het alsnog het okay om het te doen. Misschien ben ik een idealist hier, maar ik snap het niet.

Jouw standpunt lijkt een beetje op het pacifisme. Het standpunt dat als je zelf vrede boven alles nastreeft, er vrede zal zijn. Ik vind dat ontzettend sympathiek en ontzettend naief.

Dat gezegd hebbende, dat er mensen in de wapenindustrie moeten werken zodat Nederland zich kan verdedigen, betekent niet dat ik dat moet doen. Daar geef ik je gelijk in.

[Sjapmeister]

Geen reactie op jou als persoon maar meer in algemene zin:

Naïef of is dat juist het niveau van beschaving dat wij als mens in potentie hebben bereikt en zou dat dan niet ieders oprechte doel moeten zijn?

"Imagine all the people living life in peace"?
of
"All we are saying: is give peace a chance".

Want het wrange tegenargument is helaas waar: als we geen vrede nastreven dan wordt de kans op oorlog groter. En bij oorlog is iedereen verliezer (op mogelijk een heel kleine elite na). Dus elk vorm van activiteit met als vector richting oorlog is gevaarlijk. Zeker in deze tijd. Of dat nou AI is, of meer defensie uitgaven, of het steeds verder oprukkend individualisme, of weer bepaalde groepen de schuld geven, maakt niks uit. Allemaal heel eng, heel erg en allemaal stapjes richting oorlog en dus verlies voor iedereen.

De mens heeft ondertussen de capaciteit om alles op aarde te sturen richting balans, harmonie en vrede, en dat is de ultieme vorm van beschaving, van menselijke ontwikkeling. Het is vreselijk dat we daar met al onze mogelijkheden juist steeds verder weg van bewegen.

Sorry, ik moest het even kwijt.

[Xander2]

Het Oppenheimer dilemma.

En in die zin is regelgeving weinig zinvol omdat andere landen als China en Rusland zich daar weinig van zullen aantrekken.

Het probleem zijn ze natuurlijk zelf omdat ze alle belang hebben AI zo groots mogelijk neer te zetten en als de halve Westerse bevolking werkloos wordt zoals ze beweren een enorm probleem hebben.

Het vervelende is dan dat je wetgeving alleen achteraf kan bepalen en grootste bedreiging voor de democratie de politiek en bedrijven zelf vormen omdat ze zo nauw verweven zijn via kapitaal.

Een oplossing, laten we meer belasting betalen bijvoorbeeld om de maatschappij weerbaarder en stabieler te maken hoor ik niet. En nee, communisme is zeker niet de oplossing.

Maar die sprinkhanenplaag van het hyperkapitalisme gaat ons allemaal bijten.

[cdwave]

Mensen gaan ook roken, zuipen en andere drugs gebruiken, terwijl ze weten dat het slecht voor ze is. Mensen blijven zich ook ongebreideld en ongericht voortplanten, terwijl ze weten dat dit ten koste gaat van onze leefomgeving.

Ik denk dat een drang tot zelfvernietiging is ingebouwd in elk levend wezen in de natuur. Daarmee is er een uitweg voor als een soort te dominant wordt. Zoals de gistcellen die door hun eigen alcoholproductie sterven als de populatie te groot wordt.

[xorpd]

De dood is essentieel aangezien er anders geen ruimte is (letterlijk en figuurlijk) voor nieuw leven. Gratis soma voor iedereen!