Google sluit AI-deal met Amerikaanse overheid voor geheim militair werk

Google heeft een overeenkomst met het Amerikaanse ministerie van Defensie gesloten over het gebruik van zijn taalmodel Gemini. Dat model kan de Amerikaanse overheid gaan gebruiken in de geheime militaire omgeving van het Pentagon, waar onder meer missies worden gepland en de doelen van wapens worden bepaald.

Google bevestigt de deal tegenover onder andere Reuters na berichtgeving van The Information. Een woordvoerder spreekt tegenover Reuters van een 'verantwoorde manier om de nationale veiligheid te ondersteunen'. Google zou zich ervoor blijven inzetten dat AI niet gebruikt mag worden voor 'binnenlandse massasurveillance of autonome wapens zonder passend menselijk toezicht'.

Reuters stelt op basis van The Information dat de overeenkomst het Pentagon in staat stelt om Googles model te gebruiken voor 'elk wettig overheidsdoel'. Google zou ertoe verplicht zijn om op verzoek van de overheid de veiligheidsinstellingen en filters van Gemini aan te passen.

De overeenkomst bevat naar verluidt een clausule waarin staat dat Gemini niet mag worden gebruikt voor binnenlandse massasurveillance of autonome wapens zonder 'passend menselijk toezicht en controle'. De overeenkomst zou Google echter niet het recht geven om 'wettige operationele besluitvorming' van de overheid te blokkeren, ook niet als zij deze bepaling overtreedt.

Ook binnen Google omstreden

De overeenkomst is ook binnen Google omstreden. Maandag meldde The Financial Times dat meer dan 560 werknemers van de zoekgigant ceo Sundar Pichai hadden gevraagd om af te zien van een dergelijke deal. Ook zij spraken zich in een open brief uit tegen het gebruik van AI voor massasurveillance of autonome wapens: "De enige manier om te garanderen dat Google niet met dergelijke schadelijke praktijken in verband wordt gebracht, is door alle geclassificeerde taken te weigeren."

Eerder kwamen ook de Amerikaanse overheid en Anthropic in conflict over het gebruik van het AI-model Claude. Volgens ceo Dario Amodei wilde het Amerikaanse ministerie van Defensie de waarborgen tegen binnenlandse massasurveillance en het gebruik van autonome wapens opheffen. Toen Anthropic dat weigerde, ging de overheid in zee met OpenAI en werd Anthropic als risico voor de nationale veiligheid aangewezen. Een Amerikaanse rechter bepaalde later dat die aanwijzing onterecht was.

Google-ceo Sundar Pichai. Bron: Chesnot/Getty Images

Reacties (77)

[TIGER79]

Ach moeten die arme Target Analists nu gaan switchen en aan Gemini gaan wennen ipv Claude als interface richting Palantir's Maven Smart System. Het is wel indrukwekkend, letterlijk dodelijk indrukwekkend wat dat systeem tijdens de Iran oorlog teweeg heeft gebracht. 2X Target assesment en Target selection tov de vorige campagne (Shock and Awe).

[fenrirs]

En? Wat heeft het “geholpen”…..niets.

Alleen de burger is er slechter aan toe

[TIGER79]

had er misschien een tagje sarcastisch aan moeten toevoegen voor diegenen waarvoor dit niet helder is.
Dus hierbij : het is sarcastisch bedoelt.... Ik vind het namelijk zelf ook helemaal geen fijne "vooruitgang" (sarcastich bedoelt)

/edit : Daarnaast was het ook stiekem bedoeld om bewustwording te creëren over waar een ogenschijnlijk “onschuldige” tool als Claude (of Gemini) nú al voor wordt gebruikt, in combinatie met specifiek níét onschuldige tools zoals Palantir’s MMS...

[Reactie gewijzigd door TIGER79 op 29 april 2026 09:34]

[fenrirs]

Exact. Niemand heeft hier iets aan. Onze oranje “vriend” dacht even om een regime omver te werpen, maar vergeet dat Iran tot op het bot verdeeld is en er ook nog heel veel aanhangers van het regime zijn.

Ik zie het somber in voor de gewone en vriendelijke burger van Iran

als men al het geld van de oorlogen van de afgelopen 10 jaar in onderzoeken en ontwikkeling had gestoken naar alternatieven en schone energiebronnen zoals betere zonne en wind, energie, kernfusie energie, geothermische energie, efficiënte opslag et cetera. Dan hadden we nu energie in overvloed gehad.

Energie is het enige waar het in dit conflict om gaat.

[Reactie gewijzigd door fenrirs op 29 april 2026 09:32]

[dasiro]

Exact. Niemand heeft hier iets aan. Onze oranje “vriend” dacht even om een regime omver te werpen, maar vergeet dat Iran tot op het bot verdeeld is en er ook nog heel veel aanhangers van het regime zijn.

Je zou denken dat de man wel beter weet, aangezien zijn eigen regime tegenwoordig minder aanhangers dan tegenstanders heeft

[xenn99]

Van "don't be evil", tot do some evil in minder dan 10 jaar.
Een glijdende schaal met een steile helling.

[Farmeur]

Een deskundige van MIT heeft een analyse gedaan die aantoont dat de toekomst rampzalig wordt

Kort samengevat:

1. we zijn bezig een nieuwe soort te maken. AI is een nieuwe soort.
2. die zal superieur zijn aan de soort "mens".
3. bedenk eens goed hoe dat eruit zal zien. We hebben voorbeelden te over.
4. bijvoorbeeld: de soort "mens" is superieur aan de soort "aap". Dat is niet best voor de apensoort.
5. op precies dezelfde manier zal de superioriteit van AI niet best zijn voor de mensensoort.
6. er zijn al experimenten gedaan waarin AI er de voorkeur aangaf om zichzelf te beschermen in plaats van de mens.
7. lees dit tweemaal aub.

De uitgebreide bespreking van de analyse van die MIT-prof, staat hier:
YouTube: MIT Explains the 12 Possible Endings for AI
(mijn link werd buiten mij om gewijzigd. Er stond "wwwDOTyoutubeDOTcom/watch?v=FLcrvMfHUJM")

Misschien kennen de ouderen die hier rondneuzen, vaak meer ervaren, de robotwetten van Asimov nog.
Ik hoor of lees nergens, echt nergens, dat AI zulke wetten moet bevattten.

We zijn een superieure soort aan het maken, en die zal ons overheersen, zoals wij de apen overheersen.

Ik las onlangs in een populair computerblaadje dat de hoofdredacteur helemaal hotel de botel was over zijn nieuwste prestatie: hij had enkele fantastische tools gemaakt voor de redactie. De software kon zelfstandig alle folders bekijken en actie ondernemen. Allemaal zo prachtig en geweldig, aldus die redacteur. het allerergste is nog dat hij de code niet eens heeft gecontroleerd. En ook dáár is hij trots op.

Ongelofelijk.

Wat kan er in die code staan? Als je de feiten goed bekijkt, kan het gebeuren dat AI daar achterdeurtjes in zet. Om alvast iets te hebben voor de toekomst. Zie punt 6 in mijn lijstje hierboven.

Ik redeneer even verder (hoewel dat gevaarlijk is, want de omvang van deze ramp kan niet in 5 minuten worden bedacht en geschetst - daarvoor is het veel te veel. Dus ik leg er nogmaals de nadruk op dat dit slechts een voorbeeldje is): misschien heeft 90% van de gebruikers enig besef van hun verantwoordelijkheid. Ik schat het nu ruim, want het aantal is vast en zeker veel minder. Het wordt je tenslotte zelfs opgedrongen, door het grote geld, extreem machtig en slim. Maar goed.

Stel nu dat die 90% de code wel leest en controleert. Dan nog is er 10% die dat niet doet. En dat is voldoende dat, als de tijd zover is, over enige jaren, AI de deur open kan zetten om zijn eigen belangen overal te injecteren. Als een soort virus. En/of gebruikmakend van zero-day exploits. Enz. Ik zeg 10%, maar 1% is al genoeg. 0,01% is al genoeg.
Nogmaals: dit is iets wat ik zomaar even bedenk. Lees dus dat boek van die MIT-prof.

wijziging: link weer leesbaar gemaakt
bovendien: deze tekst is van mij en mag niet, op geen enkele manier, aan AI gevoerd worden

[Reactie gewijzigd door Farmeur op 28 april 2026 22:21]

[BramVroy]

Met alle respect maar dit soort doemdenken is ofwel uit onwetendheid ofwel uit futuristische dramaturgie. Ik ben er 200% mee akkoord dat de overdaad aan AI de mensheid schaadt. Maar jij schetst het alsof AI een bewustzijn heeft (of "doelen" of een "wil"), meer nog - je gaat er op het einde van uit dat het één netwerk is, dat alle AI-modellen aan elkaar verbonden zijn en "de deuren kunnen openen" in een gecoördineerde aanval. Zo werkt het natuurlijk helemaal niet. Als ik een gesprek heb met een AI en jij ook dan heeft mijn model geen enkele weet van jouw gesprek.

Laat staan dat de verschillende AI-modellen een aanval op ons zouden uitvoeren. Laat staan gecoördineerd. En hoe zouden ze dat doen, hoe zouden ze die "deuren" open zetten? (Het kan niet zomaar eender welke code uitvoeren tenzij je er toestemming voor geeft.)

Zoals ik schreef, met de werking van AI-modellen vandaag de dag is deze specifieke soort doemdenken helemaal niet aan de orde. Vloek op AI en diens impact zo veel je wil, maar wees voorzichtig met bewustzijn en futuristische terminator-doelen toe te wijzen aan modellen. Daar zijn we nog bijlange niet; op technisch gebied is wat je beschrijft simpelweg niet mogelijk.

[Reactie gewijzigd door BramVroy op 28 april 2026 23:01]

[hoosterb]

Bram, ik ben het met je eens dat AI nu geen eigen wil heeft, geen doelen nastreeft. Maar net zoals de centifuges van Iran ooit doldraaiden door kwaadwillende software -Stuxnet- is het denkbaar ( zelf zeer waarschijnlijk ) dat Rusland zal proberen de VS of EU te saboteren met een kwaadaardige variant die zich in een AI model weet te nestelen. Omgekeerd ook en China zal het ook proberen en één van hen zal het echt vroeg of laat wel lukken. En de robotwetten van Asimov zijn zinvol, maar internationale regels zijn dat ook en lappen Trump en Israël ook aan hun laars, al decennia worden VN resoluties genegeerd door verschillende landen. Doemdenken is niet dramatisch, ook niet futuristisch, het is gewoon een kwestie van wanneer het gaat gebeuren en er aan werken dat de gevolgen zo beheersbaar mogelijk blijven.

[Tintel]

Het voorbeeld wat je geeft is niets meer dan "automatisering laat sabotage toe via autotisering".
De AI discussie i.c.m. de huidige nep-AI (LLM's) is voorbarig; deze AI is geen entiteit.

Dat we bang moeten zijn als deze AI overal wordt ingezet is weer een ander verhaal - dat is wel terecht. Want het is totaal on navolgbaar wat deze 'doet'. Deze woordkeuze impliceert een bewuste actie maar dat is dus niet zo; het is niets meer dan een algoritme wat onvoorspelbare resultaten geeft.

Regels en wetten helpen een beetje maar zodra we denken dat we deze ook kunnen automatiseren gaat het weer mis natuurlijk.

De huidige AI is een krachtige tool - net zoals dat we krachtighe wapens hebben; moeten we bang zijn voor de wapens of voor degene die ze gebruiken?

[Farmeur]

Nog niet.
Je moet wat verder vooruitkijken.

Heb je alleen gelezen wat ik schreef, of heb je ook de bron en achtergrondinformatie gezien?

Ik ben erg kritisch en accepteer nooit zomaar iets. Het wegzetten als "dit soort doemdenken" doet de deskundigen tekort die hier aan gewerkt hebben en over nagedacht hebben. Het zijn geen studentjes of primitief denkende personen.

En eigenlijk neem ik het je kwalijk dat je schrijft "je gaat er op het einde van uit dat het één netwerk is, dat alle AI-modellen aan elkaar verbonden zijn en "de deuren kunnen openen" in een gecoördineerde aanval." want ik heb dit gezegd als heel voorzichtig idee, en ik ben heel duidelijk geweest over wat ik ermee bedoelde. Ik ben geen deskundige, althans niet zo deskundig als deze personen die ik nu noem. Dat kun je ook niet verwachten en dat heb ik duidelijk gemaakt.

Ik geef het 10-20 jaar. We zijn werkelijk waar een nieuwe soort aan het maken.
Zeggen dat ik er totaal naast zit met als argument DAT het nu niet zo werkt, is flauw en dat heb ik niet eens gezegd. We zijn ermee bezig. Heel hard bezig want die honderden miljarden moeten terugverdiend worden, men doet maar wat, het zijn experimenten zonder deugdelijk fundament, en wijzelf zijn de proefpersonen.

Verder denk ik dat ik vanavond niet veel meer ga reageren. Ook morgen niet, het staat me te veel tegen.

Ps nog eentje. je zegt "Daar zijn we nog bijlange niet; op technisch gebied is wat je beschrijft simpelweg niet mogelijk. " maar deze deskundige beschrijft dat er nu al experimenten zijn uitgevoerd waarin AI mocht kiezen tussen (1) de mens of (2) AI. Waarbij het ging om zaken zoals ernstige schade. De afloop was AI. Ik praat geen onzin, dit IS dus al gebeurd. In het klein.
Nogmaals verder wil ik vragen om die bronnen te raadplegen. Anders krijg ik nog meer verwijten.

[Reactie gewijzigd door Farmeur op 28 april 2026 23:39]

[BramVroy]

Ik ken de bronnen. Ik ben zelf AI-onderzoeker en modelbouwer (https://huggingface.co/BramVanroy). Er is al een artikel op Tweakers over m'n model verschenen. Dat is niet om op te scheppen maar om te duiden dat ik de literatuur opvolg (het is letterlijk m'n werk om up-to-date te zijn met recente ontwikkelingen én die kritisch te verifiëren), zelf aan de slag ga met de bevindingen én de diepe technische opbouw van modellen ken in code en de wiskundige formules die erachter zitten.

Met die kennis wilde ik simpelweg benadrukken dat een "bewustzijn" niet aan de orde is. Dat wanneer een model "kiest" dat pure statistiek is, veroorzaakt door het training regime, de data, en de prompts. Dat kan nog steeds een onwenselijk resultaat opleveren maar de AI een "eigen wil" toe schrijven is me een stap te ver. Een "zoektocht naar wereldoverheersing" zal er nu en de komende jaren dus niet in zitten - en dat is wel het doemscenario dat vaak wordt voorgehouden.

Ik ben geen fan van overdreven, niet-plausibele toeschrijvingen van bewustzijn aan AI-modellen en speculatie over de toekomst in 10 jaar. De toekomst is nu eenmaal moeilijk te voorspellen. MAAR ik ben het wel met je eens dat we voorzichtig moeten blijven met het ontwikkelen van de modellen (voornamelijk alignment/red teaming) en vooral in het gebruik. Gebruik voor massa-surveillance, voor militaire doeleinden, en ook gewoon het overdadige gebruik door Jan Modaal die het beschouwt als een factuele zoekmachine ("chatgpt zegt het ook dus ik heb gelijk")... De maatschappelijke impact is groot en ik weet niet hoe we de situatie kunnen verbeteren.

[pietvelleman]

Eens met je opmerking dat een "bewustzijn" niet aan de orde is.

Maar - voor de vorm - toch nog wel drie kanttekeningen:

- Ten eerste hebben we geen flauw idee wat bewustzijn is en hoe bewustzijn ontstaat. En - flauw gezegd - omdat we daar geen kennis over hebben, wordt het ook lastig om het uit te sluiten. Elke claim over bewustzijn moet met bescheidenheid worden gebracht.

- Ten tweede kunnen neurologen en neuropsychologen haarfijn vertellen hoe neuronen werken en de elektrochemische processen haarfijn beschrijven. Met de beste microscoop en al hun kennis kunnen ze met droge ogen vertellen - en geheel op basis van wat ze zien: "bewustzijn is niet aan de orde, als je heel goed kijkt naar de neuronen."

- Ten derde... zijn er nog geen wetenschappelijk doordachte theorieen over het bewustzijn. Maar er zijn wel een paar theorieen over de werking van de hersenen/neuronen. Uiteindelijk weten we nog steeds niet hoe een herinnering is opgeslagen (een telefoonnummer of een naam). Maar er bestaat een kans dat 'waarschijnlijkheid' (wat lijkt op statistiek) een rol heeft.

Op geen enkele manier zou ik willen beweren dat AI ooit bewust kan worden. Maar tegelijkertijd durf ik - om bovenstaande redenen - dus ook niet te beweren dat het niet zou kunnen.
: )

[Farmeur]

Tjonge jonge zeg.
Geef gewoon inhoudelijk commentaar aub op wat ik schreef.
Bovendien is dit slechts 1 zin van mij, in antwoord op een post waar ik best zoiets even mocht zeggen.

[Reactie gewijzigd door Farmeur op 28 april 2026 23:59]

[Ron80]

Het is niet de A.i die doelen en bewustzijn heeft of verkeerde intenties heeft, het is de mens die hier achter zit, dat leest je letterlijk in dit artikel als dat niet reden genoeg is om rode vlaggen omhoog te zetten dan weet ik niet wat wel genoeg zou zijn. Ik zit dat alles volledig gexploiteerd wordt waar ook maar geld, macht of controle mee gewonnen kan worden

[DaKluit]

Als ik een gesprek heb met een AI en jij ook dan heeft mijn model geen enkele weet van jouw gesprek.

Jou AI en zijn AI hoeven helemaal niet met elkaar te praten. Net zoals bij de apen, blijft er 1 AI over die de sterkste is. Misschien dat die de andere modellen "vermoord", maar dat zal ook prima door ons kunnen gebeuren. Het sterkste/beste model zal de meeste gebruikers trekken en op die manier zullen een hoop zwakkere gewoon uitsterven omdat het bedrijf erachter failliet gaat.

En mbt het doemdenken: stoppen met AI kunnen we al bijna niet meer. Te grote impact op de economie en te veel mensen zijn er al mee bezig. We kunnen het alleen nog vertragen, als we zouden willen. Zodat er tijd genoeg is om goede fail-saves in te bouwen. Want er komt een punt dat de AI zichzelf gaat ontwikkelen. En dan is het voorbij met ons. Dat is niet doemdenken, dat is de realiteit.

[Farmeur]

"Want er komt een punt dat de AI zichzelf gaat ontwikkelen."

Juist. Diverse modellen kunnen dit al, en de commando's om dat te doen, worden al gegeven.

Het feit dat alle militaire leiders nu roepen/eisen dat een AI op het slagveld altijd een "stop"-functie moet hebben, is diep treurig. Want dit zou er sowieso nu al en volledig en onuitwisbaar IN moeten zitten.
Dat erom gevraagd moet worden, geeft aan hoe de AI-ontwikkelaars erin zitten. De ethische club die er nog wél mee bezig was, is binnen korte tijd al stuk gemaakt (ca 1 jaar geleden). Allemaal indicaties hoe het nu gaat. Hoe ze het nu aanpakken. Rampzalig, de idioten staan aan het roer.

[Farmeur]

Je zegt "LLM ineens bewust maakt".

Daarnet schreef je mij een post die me vertelde dat ik niet mag zeggen dat ik kritisch ben. En dat sloot af met bah.

Maar mag jij wijzigen wat ik heb geschreven? Dat is wat je hier doet. Je pikt er 1 ding uit, je maakt dat wat sterker, en langs die weg kun je mij een pittige reactie geven. Zo werkt het natuurlijk niet.

[venqwish]

Hoe het ook afloopt, dit is toch nog iets wezenlijk anders dan aap en mens, ik snap de vergelijking, maar er is een groot verschil: de aap heeft ons niet gemaakt.

Wij (eigenlijk niet DE mensheid, meer enkelingen met veel macht en geld) werken nu actief aan "onze" overtreffende soort. Deze macht gaat zich nu nog verder centraliseren, tot het selecte clubje ergens de controle kwijitraakt. Trouwens, als je de aflevering van Last Week Tonight van deze maandag bekijkt, dan zie je gewoon meteen dat dit clubje techmiljardairs lak hebben aan elke vorm van ethiek en hier zelfs letterlijk over lijken gaan.

Dan mag je niet vergeten dat we hier nog maar aan het begin van de ganse race staan, ik hou niet van doemdenkerij, maar ik hou mijn hart vast voor wat gaat volgen.

[Reactie gewijzigd door venqwish op 29 april 2026 13:13]

[Oon]

Heel leuk, maar dan moeten we eerst echte AI hebben. LLM's gaan nooit superieur zijn aan mensen, want de huidige generatie LLM is nog steeds exact hetzelfde als de eerste generatie LLM; volgende woord in de reeks bedenken op basis van ruis.
LLM's gaan nooit tot AGI leiden, en met gewone machine learning kom je ook niet veel verder tot je een volledig nieuwe technologie ontdekt om data op te slaan en te verwerken, want computers zijn vele malen langzamer dan zelfs de domste hersenen.

[Farmeur]

Beste Oon,

Ik ben het op sommige punten niet met je eens, maar ik wil je wel bedanken dat je normaal in discussie gaat. Net als een aantal anderen.

Een aantal mensen vindt het nodig om mij onderuit te trappen, op een botte manier en zonder goed te lezen. En soms ook door persoonlijk te worden. Lekker gemakkelijk en een teken van deze tijd. Ruwheid heeft in veel kringen zin, wordt zelfs gewaardeerd. "Veel tekst" wordt er gezegd en dat wordt als nadeel beschouwd -> maar dat doe ik alleen maar om de leesbaarheid te bevorderen. Tegen die mensen zou ik willen zeggen:

- het lijkt me belangrijk genoeg om serieus over te zijn. Dat lijkt me vanzelfsprekend.

- ik geef alleen maar aan wat ik heb gelezen. Het is bijna ondoenlijk om daarover in enkele woorden in een moeizaam forum, een zinvolle discussie te voeren. Ik vind het daarom jammer dat sommigen mij proberen te pakken door opmerkingen zoals "goh, je hebt iets gevonden dat je gedachten bevestigt". en dan afsluiten met "bah". Tegen die mensen wil ik zeggen "wat je doet is invulling, en er kunnen veel meer redenen zijn waarom ik daarmee kwam". En ook "stel dat ik vind dat je gelijk hebt, en als ik dan tegen anderen zeg "goh die persoon heeft IMHO gelijk, en het is de moeite waard om dat te lezen" --- zeg je dan ook dat ik alleen maar iets heb gevonden dat mijn gedachten bevestigt? Natuurlijk niet. Ik zeg alleen maar "goh die persoon heeft gelijk".

Deze video en dat boek waarover het gaat, geeft op een goede manier aan wat ik in de afgelopen 3 jaar heb zien gebeuren. En waar honderden/duizenden krachtig voor waarschuwen. Wereldwijd en beslist ook ex-intimi van hoog niveau uit diezelfde AI-bedrijven. Mensen die aantonen dat het fundament niet eens goed gebouwd is, en dat dit al niet meer verbeterd kan worden. Dat we bepaalde fouten alleen nog maar "cosmetisch" kunnen verhelpen. Maar intrinsiek is het levensgevaarlijk wat we doen. Het is een experiment zonder goede beheersing en er wordt weinig verantwoording over afgelegd, terwijl het iedereen raakt. Men doet maar wat.

Ik heb het niet (alleen) over de huidige modellen - hoewel (ik herhaal voor de derde keer) ook die al enkele keren de voorkeur gaven aan zichzelf boven de mens (als het ging om ernstige schade). Ik heb het erover dat we nadrukkelijk en met krankzinnige inzet bezig zijn om een betere soort te bouwen.

Ik ben ervan overtuigd dat dat in de toekomst gaat gebeuren (zeg 20 jaar, misschien 30). Er zijn te weinig krachten die dat tegengaan. Ik gaf al het voorbeeld van die hoofdredacteur. Zo zijn er miljoenen. Ik zie het ook aan de kortzichtige reacties van enkelen hier, soms zelfs op de persoon, op een deugdelijk verhaal, bescheiden, zonder overdrijvingen, zonder idioterie.
Daartegenover staan enorme krachten die het bevorderen. Op de eerste plaats staat het grote geld. Waar moeten die honderden miljoenen straks worden terugverdiend? Juist, bij de gebruikers. Er kan ook een crash komen, ook die risico's zijn reëel. Het doet denken aan de veiling van GSM-frequenties. Daar werden honderden miljoenen voor betaald, en later bleek dat de providers gedwongen waren die gok terug te verdienen met smerige trucs over de ruggen van de smartphonegebruikers.

Ik zeg "doet denken aan" want ik zie de minachtende reacties al komen van bepaalde posters hier. Ik zeg dus "doet denken aan" want het is vergelijkbaar, alleen duizenden malen indringender.

Ja ik ben flink geïrriteerd. Ik heb alweer spijt van mijn post (de eerste, en die daarna). Want het is zo zinloos. En je krijgt op je kop van mensen die vooral willen winnen, en niets anders dan dat. Die 1 ding eruit halen en daarmee gaan slaan (overigens geven ze dus geen mening over alle andere punten in die post).
Zou zouden beter rustig kunnen lezen en eens goed kijken wat die video inhoudt. Maar dat gebeurt niet. Juist daardoor zal deze ramp doorgaan. Of ik zit bij de verkeerde doelgroep. Vooral techneuten op dit forum. Dat is heel goed mogelijk, misschien wel de belangrijkste reden.

Link naar die video:
YouTube: MIT Explains the 12 Possible Endings for AI
(wwwDOTyoutubeDOTcom/watch?v=FLcrvMfHUJM)

Welterusten iedereen.

-- deze tekst is van mij en mag niet aan AI gevoerd worden --

[Tintel]

Ik heb het niet (alleen) over de huidige modellen - hoewel (ik herhaal voor de derde keer) ook die al enkele keren de voorkeur gaven aan zichzelf boven de mens (als het ging om ernstige schade).

Let op: dat doen die modellen omdat het statistisch logisch is; wij [de aanleveraars van het bronmateriaal] hebben zelf behoud als we teksten opstellen. Dus heeft een LLM dat ook.... zit geen enkel bewustzijn achter. De interpretatie hiervan als "Pas op, de AI wil al niet meer dood" is onjuist.

En je zegt het eigenlijk ook al: de enige reden dat we 'bang' moeten zijn voor de inzet van - willekeurige - AI, is omdat de motieven van de 'inzetters', enkel geld en macht zijn. Dat is nooit bevordelijk voor het welzijn van alle mensen.
Maar de reden voor het bedenken/maken van AI is wel om de mens te helpen; alles wat we doen is om te zorgen dat we minder hoeven te doen wat noodzakelijk is maar wat we wel 'vervelend' vinden om te doen. Ik zeg dan werken maar dat geldt niet voor al het werk natuurlijk.
Waarom hebben we machines? Omdat die het sneller kunnen doen? Waarom wil een fabriek machines? Als deze goedkoper zijn dan mensen.

[bzuidgeest]

Wat een kul, de andere optie zijn "de minds" in de boeken van Ian m banks.

Superintelligenties die de culture runnen. Op de vraag waarom ze de "mensen" niet als dictator tegemoet treden of uitroeien, is het simpele antwoord dat het zo weinig moeite kost om voor mensen te zorgen dat ze zich er niet druk over maken, net als wij ons niet druk maken over mieren. Je stapt er wellicht op, maar er zijn er genoeg van. Zorgen voor de mieren kost een procent van een procent, van een procent van de capaciteiten.

[YGDRASSIL]

Volgens mij hebben wij het beste voor met apen. Wie weet ziet de 'superieure' AI ons wel als zijn lieve huisdieren. Maar de vraag is vooral of er iets superieurs uitkomt wat een eigen wil heeft. Ik verwacht dat het stopt bij een hele slimme tool. Die door mensen misbruikt wordt zoals alle tools. Dus denk niet dat we AI de schuld hoeven te geven als de wereld aan gort is geholpen over een aantal jaar.

[nanoblack]

Ik had eigenlijk niet willen reageren, want ik vind het geheel zo complex en er zijn zoveel nuances dat een korte post natuurlijk altijd tekortschiet. Misschien is mijn visie morgen bijgesteld, maar toch mijn 2 cents dan maar.

Bezorgdheid is wat mij betreft een goed teken, want dat is juist één van de kenmerken die ons onderscheid van AI, onze emoties. Een AI is niet emotie-gestuurd, het is niet bang om ‘dood’ te gaan. Elke ‘beslissing’ van de AI is gebaseerd op (de training van) een neuraal netwerk. Het probleem zit denk ik vooral dat we achteraf (momenteel?) niet kunnen zien hoe de ‘besluitvorming’ van de AI in elkaar zit. Het is daarmee een blackbox en daardoor is alignment met menselijke normen en waarden noodzakelijk en die kunnen bijvoorbeeld ook nog cultureel bepaald/getint zijn. Alignment ingesteld door een militaire entiteit lijkt me per definitie twijfelachtig, maar het ligt eraan hoe het ingezet wordt natuurlijk. In theorie zou je AI kunnen gebruiken om een doel misschien nauwkeuriger te raken zodat er juist minder doden vallen. Klinkt een beetje te mooi om waar te zijn in een oorlog als je het mij vraagt trouwens.

Bezorgdheid is dus eigenlijk de menselijke eigenschap die ervoor zorgt dat we ons uiteindelijk bezighouden met alignment. Het lijkt me geen slechte vorm van regulatie als verplicht wordt dat er meer transparantie ingebouwd wordt zodat de ‘conclusies’ van een AI beschouwd kunnen worden. Ik weet niet in hoeverre dit mogelijk/haalbaar/realistisch is. Ik denk (zoals anderen ook al zeiden) dat er sowieso organisaties zijn die zich niks gaan aantrekken van regelgeving. Het probleem ligt hierbij dus eigenlijk eerder bij mensen dan bij een AI op dit moment. Dus eigenlijk, als een AI perfect aligned is, zou deze ervoor moeten zorgen dat mensen geen AI’s kunnen maken die niet aligned zijn en om dat doel te bereiken, moet het over ons domineren. Was dit niet het plot van I Robot? Ik vraag me dan wel heel sterk af hoeveel parameters er nodig zijn om de complexiteit en vindingrijkheid van de mens voor te kunnen blijven. We kunnen namelijk ook AI ontwikkelen om AI te bestrijden. AI begrijpt zijn context niet zoals wij dat kunnen, heeft geen motivatie, etc. Dus superieur lijkt AI me niet, maar het ligt er natuurlijk maar net aan hoe je de ‘superioriteit’ definieert. In mijn opinie is een onderdrukkende (niet-empathische) entiteit bijvoorbeeld per definitie niet superieur als ik het onder een morele lens zou leggen. Ik zou het ook geen 'soort' willen noemen, eerder een creatie.

Om enigszins verder in te gaan op het artikel, de geschiedenis van de mens is doordrongen van conflict en oorlog en AI is nu onderdeel van de wapenwedloop geworden en dat kan denk ik vrij snel sinister worden. Zeker als er een soort race (de wapenwedloop) gewonnen moet worden en er te weinig aandacht is voor de uitlijning. (En uitlijning ten behoeve van welke groep mensen?)

Als een AI (als gevolg van slechte uitlijning) uiteindelijk keuzes zou gaan maken die ons massaal onderdrukt of uitroeit, dan is dit door mensen (per ongeluk of niet) gemaakt gedrag. AI heeft zelf geen agenda, geen motieven, geen wil, geen emoties. Het kan een AI geen lor schelen of het over ons domineert of niet, het volgt parameters.

En dan komen we uiteindelijk aan bij het filosofische vlak, namelijk: kunnen genoeg nodes in een neuraal netwerk uiteindelijk zorgen voor bewustzijn zoals in de mens? Zelf verwacht ik van niet, namelijk ons hart heeft ook een neuraal netwerk(je). We begrijpen amper wat we zijn of wat leven überhaupt precies is. AI leeft niet.

Het probleem zit hem dan denk ik eerder in het creëren van nog meer blackbox: oftewel AI die AI traint. Als de transparantie daarmee nog verder wegvalt, zou het kunnen gebeuren dat er neurale netwerken ontstaan die erg nadelig zijn voor de mens. We hebben momenteel genoeg tijd om alles in goede banen te leiden, dus ja, terecht dat er bezorgdheid is, want zonder bezorgdheid is de kans groter dat het mis gaat.

Om uiteindelijk op je eerste zin van je post te reageren, niemand kan de toekomst voorspellen en juist bezorgdheid is een teken dat het wel eens naar de goede kant gestuurd kan gaan worden. Waardoor ik haast begin te denken dat dit soort claims van deskundigen precies hiervoor bedoeld zijn.

[DrWaltman]

Dit is het eerste waar ik aan moest denken. Alleen was het tijdens die slogan al af aan het glijden, nu stort Google zich met volle overgave naar beneden het evil domein in.

Het was natuurlijk al lang duidelijk, maar Google/Alphabet en Meta maken al jaren duidelijk dat ethiek een toevallige bijkomstigheid kan zijn, geen richtlijn.

[Leo. P. Klepper]

Voor mij is deze move van Google de laatste trigger die ik nodig had om Google en Bigtech vaarwel te zeggen, ondanks ongemak dat de alternatieven (nog) niet alles bieden wat de Google omgeving met Workspace biedt en dat de kosten hoger zijn. Wat is er al gedaan?

PC: Zorin Linux, Smartphone: Graphene OS met Proton VPN, Google Workspace: Zoho Workplace met .eu account en data opslag in Nederland en/of Ierland, eigen domein met mailaccount bij Weboké, apps via Aurora store, F-Droid store en Github store, Brave internetbrowser met Leo AI.

Nu nog alle data van de afgelopen 25 jaar overzetten...

[Upr0ar]

Some evil? Zeg maar gerust zo evil als ze maar kunnen zijn.......

[STV]

Is een moderne krijgsmacht evil? AI hoort er nu bij, net als straaljagers en nucleaire onderzeeers.

[Rixter223]

Het is de nieuwe atoombom. De Chinezen zetten er ook al volop op in en die iets minder moralistisch. Robots met machinegeweren showen ze daar gewoon op tv. Daar zetten ze de AI ook voor in. Bedrijfsgeheimen stelen door hacken gaat ook steeds makkelijker met AI.

[Farmeur]

Goed dat je het concept "atoombom" noemt.

Daar wordt namelijk over gesproken, omdat de schrijver het risico wil verhelderen.
Hij heeft eraan gerekend. De studie beschrijft dat AI volgens zijn analyse 100 keer gevaarlijker is dan "de atoombom".

Heeft iemand intussen al die link gevolgd?

Want ik hoop niet dat we hier kleine voorbeelden enzovoort ter discussie stellen. Die discussie hoeft niet gevoerd te worden -- ik denk dat we dan opnieuw en véél stunteliger doen wat er allang uitgebreid in dat boek staat. En het is uitgebreid uitgelegd in die link.

Dit is materie die moeilijk is. Het is zinvol er eerst over na te denken voor heftige kritiek te geven.

[Schway]

Volgens mij zijn ze al jaren evil bezig, en elke jaar meer. Die glijdende schaal zijn ze al lang af. Nu in een gat, met nu zo'n militaire vouwschep

[Triblade_8472]

Wat is "evil"?

En mes in de hand van een kok of een doorgedraaid persoon kan zowel goed als kwaad zijn.

Militaire doelen (beter) uitzoeken kan burgerslachtoffers voorkomen. Daarnaast, AI voor militair gebruik gaat er toch wel komen, dan kan je het beste dit zelf doen en zo correct mogelijk bouwen.

Zolang er geen wereldwijd verbod komt op autonome wapens, ben ik hier niet op tegen. Liever wel zo'n verbod natuurlijk.

Het klinkt eigenlijk een beetje als kernwapens. Eerst bouwen, bouwen. Om er later achter te komen dat het toch niet zo'n fijn ding is om daarna met alle houders af te spreken dat er niet mèèr bij mogen komen. Dit lijkt nu met (AI in) autonome wapens zich te herhalen.

[Vexxon]

'some evil'?

[Monday]

Ofwel datacenters/kantoren kunnen ook een legitiem doelwit worden als er oorlog uitbreekt, want het kan zijn dat de vijand AI gebruikt.

[wiseger]

Kunnen worden? Data centers zijn allang een doelwit voor buitenlandse state actors. Er gaat geen dag voorbij of er is wel weer iets gehacked met alle gevolgen van dien voor gewone burgers.

[millman]

Dag google chrome.. dag Android..

Zucht...

[Jean luc Picard]

And the box of Pandora is open

[Upr0ar]

Het surveillancekapitalisme van big tech in combinatie met een totalitaire politiestaat... Sure, what can go wrong?

[Farmeur]

Ter ondersteuning van je post: zie mijn post van vandaag 28 april 2026 22:10

[Reactie gewijzigd door Farmeur op 28 april 2026 22:25]

[Ayeme2549]

LLM’s en doelwit selectie “🚀 it’s not target X, it’s target Y!”

[ZpAz]

You were right, taking a better look after you pointed out the playground, this was a school. I should have analyzed the situation better. I'll remember it for next time.

[Reactie gewijzigd door ZpAz op 28 april 2026 22:41]

[66JustMe819]

Dit zit er al sinds predictive texting aan te komen, dus al langer dan deze eeuw oud is. Er zijn talloze boeken over geschreven en films over gemaakt, studies gedaan, onderzoeken gepubliceerd en toch lijkt het onstopbaar. Wellicht moeten we ons eens gaan afvragen of democratie zoals we die kennen wel zo'n goede bestuursvorm is aangezien "onze" gekozen bestuurders al meer dan een kwart eeuw het maar laten gebeuren en dan ook nog eens op een manier dat Nederland en Europa sowieso onderaan bungelen. Neemt allemaal niet weg dat zodra een techniek door één land voor defensie wordt gebruikt alle anderen er vanuit landsbelang in mee moeten gaan. En aangezien we op deze planeet een landje genaamd China hebben waar we helemaal geen zicht hebben hebben op of en hoe AI voor defensie wordt ingezet kan ik me voor stellen dat de VS niet de kat uit de boom gaat zitten kijken. Dat AI een nieuwe "levensvorm" is lijkt mij vrij waarschijnlijk. Of we AI zoveel vrijheid en macht geven danwel laten verwerven dat AI de mens gaat beconcurreren omtrent de resources van deze planeet lijkt mij een voor de hand liggend scenario.

[Farmeur]

Kijk uit, want over bestuursvormen is al heel lang en uitgebreid nagedacht.

De uitkomst is steeds dat de democratische rechtsstaat nog steeds de beste vorm is.
Waarbij ik bedoel: de minst slechte. Ook dat wordt altijd benadrukt.
Het is geen een-tweetje. Het is heel ingewikkeld. Maar de concurrerende staatvormen zijn aanzienlijk slechter. Kijk uit dat je de mooie kleurenbeelden van zulke staten niet als "werkelijkheid" beschouwt. Het juk in dergelijke staten is gruwelijk.

[Bjorn89]

Soms ook wel een schijndemocratie genoemd. Kijk naar de EU Plvoorzitter is niet democratisch gekozen.
Of in Nederland de AZCs waar tegen gestemd wordt toch doordrukken. Hoe is dat democratie?

[66JustMe819]

Ik suggereer dan ook niet om de democratie af te schaffen, wel om deze nader te bezien en te kijken of er wellicht een betere tot nu toe niet bestaande variant mogelijk is.

[hydr0]

Géén AI voor ‘binnenlandse massasurveillance of autonome wapens zonder passend menselijk toezicht‘

Duidelijk dus: voor de ‘veiligheid’ van de VS gaat GOOGLE voortaan AI inzetten voor BUITENLANDSE massasurveillance zonder passend menselijk toezicht.

[Mijiru]

Dat, en autonome wapens en binnenlandse massasurveillance via een geheime rechtbank om te bepalen wat "passend" betekend.

[GameNympho]

"The Dark Web"

[HugoBoss1985]

Skynet

[Dark Angel 58]

Terminator likes your post 😹

[VOODOO_WILLIE]

Skynet bestaat weldegelijk serieus. Gezien het vemeende doel ervan zou je zelfs redelijkerwijs kunnen vermoeden dat er zelfs "Terminators" op pad gestuurd worden.

Ik vraag me weleens af in hoeverre dergelijke naamgevingen nog op "toeval" berusten inmiddels.

[Dark Angel 58]

Als Pentagon onbewust zichzelf en hele menselijk ras wil vernietigen, dan wens ik ze succes.

[VOODOO_WILLIE]

"Ze" timmeren anders hard aan die weg. En als ze dan alleen zichzelf uitroeien ...

De arrogantie dat "ze" overal wel aan gedacht hebben en de hele AI/robot techzooi wel onder controle kunnen blijven houden is echt stuitend. Het is verre van onrealistisch dat dat zomaar heel erg naar kan gaan worden.

Het is uiteraard heel moeilijk om te voorspellen hoe zoiets precies zal verlopen maar dan moet je waarschijnlijk niet zozeer denken aan robots die op pad gaan.

[The Mechanic]

Onderschrift foto: "the man who sold the world"