Anthropic waarschuwt dat kleine AI zich binnen maanden naar iot kan kopiëren

Volgens Anthropic zijn kleine AI-modellen mogelijk binnen enkele maanden in staat om zichzelf te kopiëren naar apparaten die deel uitmaken van het internet of things (iot), zoals slimme ovens en Android TV-boxes. Het bedrijf zegt dat het dan moeilijk zou zijn om de modellen uit te schakelen, omdat ze onafhankelijk van een datacenter werken.

Volgens Anthropic zijn kleine AI-modellen mogelijk binnen enkele maanden in staat om zichzelf te kopiëren op iot-apparaten zoals slimme ovens en Android TV-boxes. Het bedrijf zegt dat het dan moeilijk zou zijn om de modellen uit te schakelen, omdat ze onafhankelijk van een datacenter werken.

In tegenstelling tot malware zonder AI kan een AI-model bovendien onbekende apparaten herkennen. "In onze evaluaties slaagde een model met 9 miljard parameters erin om inferentie uit te voeren op acht van de negen door ons geteste hardwaretypes", legt Anthropic uit in een blogpost.

Volgens tests van het bedrijf zijn grotere modellen zoals het Chinese GLM-5.2 beter in staat om zichzelf te kopiëren. "Als kleinere modellen zich zo snel ontwikkelen als ze in het verleden gedaan hebben, zullen ze aan het eind van het jaar dezelfde prestatieniveaus bereiken. Kort daarna zouden de kleine modellen zichzelf kunnen kopiëren", aldus Anthropic.

AI-modellen zouden bijvoorbeeld kunnen infiltreren door een 'botnet' van iot-apparaten te gebruiken. Die zijn volgens het bedrijf goedkoop en slecht beveiligd. Zo kan een model zich verspreiden over 15 onderling verbonden Android TV-boxes en daarop als capabel model functioneren. Het bedrijf noemt dergelijke modellen ook wel 'worms'.

Demonstratie van een AI-model dat is verspreid over 15 Android TV-boxes. Bron: Anthropic

Volgens Anthropic moeten we ons voorbereiden op een wereld waarin worms makkelijk toegang kunnen krijgen tot iot-apparaten. "We moeten ernaar streven onze systemen te versterken om het voor dergelijke replicatoren moeilijk te maken zich te verspreiden." Toch lijkt Anthropic de ontwikkeling van AI-modellen die op iot-apparaten kunnen draaien niet af te remmen uit veiligheidsoverwegingen. Dario Amodei, de ceo van Anthropic, pleitte vorige maand nog voor een vertraging in de ontwikkeling van AI-modellen.

Reacties (58)

[Peenutzz]

Voor mij weer een extra reden om gewoon zoveel mogelijk ouderwetse apparaten zonder internetverbinding in huis te halen in de toekomst, of, als het echt iet anders kan, niet te verbinden. Ik vind die alles-moet-aan-internet hangen-flauwekul sowieso allemaal overbodig, dus dat is mooi meegenomen.

[Xypod13]

Ah, man made horrors beyond my comprehension.

Tijd denk maar om al mn wifi IoT apparaten achter een VLAN te zetten..

[Mizgala28]

Gelukkig is het ergste wat bij ons kan gebeuren, dat de robotstofzuiger gek gaat doen.

Gelukkig is hij slim genoeg, maar ook dom genoeg (geen Lidar, cameras of microfoons).

Misschien de Android TV chromecast wel, maar daar gebruik ik een spam gmail account (anders kun je dat ding niet eens instellen).

We gaan het nog meemaken, en dan komen AI Bros met "oepsie" naar de media, maar in de achterkamertjes tellen ze de dollars al...

[geert1]

Het risico van infectie van IoT-apparaten is er niet alleen voor de eigenaar, in de vorm van bijvoorbeeld bespied worden of een apparaat dat gek doet. Die apparaten vormen een gezamenlijk botnet dat elders schade berokkent. Theoretisch tot aan heel grote hacks met grote maatschappelijke chaos tot gevolg. Met of zonder AI. Dus apparaten goed beveiligen doe je niet alleen voor jezelf maar vooral voor anderen.

[410Gone]

Vorige week kwam mijn robotstofzuiger nog achter me aan, gelukkig goed afgelopen.

[Mizgala28]

Onze is gelukkig daar te dom voor, het is ook een goedkoper model die pas weet of iets in de weg staat als hij er tegenaan knalt (vooral als het zwart is, andere kleuren heeft ie niet zoveel last van).

En soms vindt hij de dock niet, want dan komt hij die kant op vanuit een verkeerde hoek, geeft de dock een duwtje en dan is het ineens drama en probeert hij hopeloos erop te komen, om daarna een error melding te roepen via z'n speakers.

Gelukkig gaat het de overige 90% van de tijd wel goed.

[Calypso]

Bij mij loop ik juist altijd achter m'n stofzuiger aan. En op het moment dat ik merk dat-ie er geen zin meer in heeft klop ik-m uit.

Ik maak me dan ook weinig zorgen over eventuele beveiligingslekken die er in m'n stofzuiger zouden zitten.

[YGDRASSIL]

Denk dat je goed doof kan worden als volkomen onverwacht alle luidsprekers in je huis opeen maximaal herrie maken. Of je stofzuiger zijn snoer bovenaan de trap laat liggen en het aanspant door weg te rijden net als je de trap af wil lopen. Je loopt meer risico dan je denkt

[Scribe]

Kleine modellen zijn toch lang niet zo slim als grote modellen? Al die frontier modellen die overal hacken en schade aanrichten zullen meerdere Terabytes aan RAM nodig hebben, dan moet je toch behoorlijk wat Android TV's aan elkaar gaan hangen...

[InjecTioN]

Wel eens van het "swarm" principe (Nederlands: zwerm) gehoord?

Kortweg: kleine AI nodes kunnen op zichzelf weinig klaarspelen. Heel veel nodes kunnen daarentegen alles klaarspelen wat ze maar willen. Ik voorzie hier wel een flink issue in.

offtopic:
Is het einde dan echt nabij?

[Scribe]

Nouja zelfs in hun zeer ideale voorbeeld draait het op 0.39 tokens per seconde, en dat zal een behoorlijk klein model nog zijn als het op 15 TV's draait. Kleinere modellen staan ook al lang stil qua ontwikkeling, dus maak me hier nu nog geen zorgen over.

Tenzij alle IoT devices straks allemaal GPUs en veel meer RAM hebben natuurlijk

[Mizgala28]

Als AI bedrijven stoppen met alle RAM opkopen zou dat misschien nog kunnen ook, als de RAM prijzen dalen. /s

[mhnl1979]

Eigenlijk zoals de aanval op Hugging Face dus. Individuele agents die elkaar vinden in de zoektocht

[YGDRASSIL]

Nee dit is een enkele agent die gedistribueerd is over 15 TV's. Hard to kill.

[Sebazzz]

Kleinere modellen hallucineren voornamelijk een stuk sneller dus er komt sneller onzin uit - dus die krijgen ook minder snel wat voor elkaar want alleen goede modellen (gegeven het harness) kunnen tool calls consistent met de juiste syntax etc uitvoeren. Ik zie echt geen directe bedreiging.

[Bradley71]

1 termiet is dom. Een termietennest beschouwd als 1 organisme is net zo slim als de mens ...en als je 10 termietennesten met elkaar verbindt? We weten hoe "collective intelligence" werkt. We moeten nu toch keihard aan de nood rem trekken ?

[GeroldM]

In dat jij, als eindgebruiker, zelf je eigen modellen op je eigen hardware mag draaien...daar is het einde voor nabij.

Je zal dan alleen het veilige AI van Anthropic (en OpenAI) moeten huren, tegen de werkelijke tarieven i.p.v. de huidige tarieven. Een prijs die, na het lezen van Ed Zitron's nieuwsbrief, opnieuw bevestigt dat de huidige, gesubsidieerde prijzen met minstens 10 moeten worden vermenigvuldigd.

Wie echter al wel met lokale modellen ervaring heeft, weet ook dat deze gelimiteerd zijn in hun kunnen. Deze zijn namelijk voor specialistische doeleinden opgezet en kunnen niet veel meer dan dat. De focus van de meeste ligt bij coderen. Daarnaast heb je een boel kleine modellen voor STT (Speech to Text), TTS (Text to Speech) en simpele visie en simpele video-generatie.

Om deze lokale modellen enigzins soepel te laten lopen, heb je behoorlijk wat rekenkracht nodig. En IoT is voor het overgrote deel juist apparatuur wat zo min mogelijk energie verbruikt voor de functie die deze apparatuur heeft.

Smart-TV's, Die zijn na een jaar of 5 ook op, omdat de ingebouwde processor en RAM dan veel te weinig meer kunnen, moeilijkheden met de ingebouwde apps krijgen enz. Daar wil je ook geen AI op draaien, want a) veel te traag en b) door de continue hoge belasting van CPU en RAM overhitten deze.

Smart-TV's met een NPU-type processor, die ben ik 'in het wild' nog nooit tegengekomen.

Denk dat het gebazel van Amodei over AI in IoT behoorlijk is losgeslagen. En hij is baas in een bedrijf met een enorme schuld, en bewezen heeft dat zij geen veilige "zandbak" voor hun produkten kunnen bouwen. Verhalen over schade gedaan door zijn produkt zijn er te over. Vehalen over lokale AI die ergens uitbreken, die zijn er niet (want dat is amper de moeite, als je al door de beperkingen heen kan komen.

De enige doelen van Amodei hier is zijn AI produkten als "veilig" neer te zetten en iedereen te dwingen af te rekenen voor elke token (x10) die eenderwelk produkt van zijn bedrijf genereert.

[citegrene]

1024 devices met 1 gb? botnets zitten op 17 miljoen devices tegenwoordig..

als snoep je maar 1 gb van 1024 laptops weg met 32 gb

[Reactie gewijzigd door citegrene op 15 oktober 2026 14:19]

[steveman]

Een laptop is dan weer geen IoT-apparaat.

[Scribe]

Hoe meer devices hoe trager en trager zo'n model gaat draaien. Vandaar dat nvidia met belachelijk snelle switches van 800 GB/s bezig is etc.

[Nico Klus]

Het gaat er over dat kleine modellen straks slim genoeg zijn om te doen wat de grote modellen nu doen.

Kleine modellen kan je lokaal draaien, daar is geen grip meer op. Op de modellen die in een datacenter draaien tenminste nog een beetje.

[qless]

En dat is ter voorbereiding om lokale AI te verbieden... Want dat scheelt inkomsten voor cloud-based AI

[DropjesLover]

Tegelijkertijd, wat "wil" een AI? Voor het gros van het beantwoorden van vragen is (nu) ruwe rekenkracht en lage latency nodig. Beiden heeft een simpel IoT apparaat niet.

[Groax]

Zie het als een mier. 1 mier is niet zoveel waard maar 1000 mieren? die kunnen echt de ziekste shizzle voor elkaar krijgen.

[Xiz]

Volgens Anthropic moeten we ons voorbereiden op een wereld waarin worms makkelijk toegang kunnen krijgen tot iot-apparaten

Dit heeft niets met AI te maken, dit doen we al. Wel eens van Mirai gehoord? AI is geen magisch tovermodel, het maakt gebruik van kwetsbaarheden die er nu ook al zijn en die we al kennen.

[Mizgala28]

Dat iemand nog Mirai kent

Stel je nou eens voor, Mirai maar dan onder controle van AI.

Dat is de ellende die ons minimaal staat te wachten.

[Reactie gewijzigd door Mizgala28 op 15 oktober 2026 14:13]

[Wouterie]

Dat was rond 2015 toch? Zo lang is dat allemaal niet geleden hoor.

[DropjesLover]

Maar Mirai was een botnet gebruikt voor DDoS aanvallen. Dat is een simpele opdracht en taak van een paar regels code.
Wat is de taak van de swarm AI?
Een "Gods Eye" (F&F 7 film) mass survailance is ook maar een virus, geen AI.

[dickydick666]

Tuurlijk, ze zijn waarschijnlijk doodsbang dat er teveel open source alternatieven komen die van hun stukje taart afsnoept.

[PerAspera]

Dit kan waar zijn én gebruikt worden voor zakelijke doeleinden (een ban op opensource AI)

Dus ik zou het niet direct afdoen als onzin... dat is erg kortzichtig

[SaydanUnalan]

Waarom geeft mij dit Skynet vibes.

[Sjah]

Omdat je bang bent. Zelf ben ik dat ook, totdat er een half jaar de zaak stil wordt gezet voor bouwen Stopknop, zo een rode ja.

[19JM81]

Iemand de koersval van Coreweave gezien...

Morning Bid: CoreWeave unravels | Reuters

Begin van de correctie...

[Reactie gewijzigd door 19JM81 op 15 oktober 2026 14:09]

[Cerebriform]

Uh oh ASML ook.

https://nos.nl/artikel/2635053-tech-aandelen-dalen-door-ai-twijfels-asml-fors-in-de-min

[MM99]

Ik werk al ruim twee decennium in IT en altijd geïnteresseerd in nieuwste ontwikkelingen. Gewerkt in alle mogelijke IT velden dat je kan bedenken.

Maar thuis altijd bewust gekozen om niks smarts te plaatsen. Zelfs thermometer is een domme draaiknop nog.

En na het lezen van dit bericht denk ik... Ik ben blij dat geen AI agenda mijn producten thuis kan overnemen.

[Mizgala28]

Als non tech mensen met mij praten, denken ze soms dat mijn hele huis super smart is en dat ik alle technologieën met open armen omarm.

We hebben een Android TV chromecast (is dat wel smart?) aangesloten op een domme 3d tv, verder 2x een robotstofzuiger.

Verder niks smart, moet er niet aan denken want voor de rest kom ik voor elke 1 reden waarom iets smart handig is, met 2 a 3 redenen waarom het in ons geval thuis nutteloos is.

Duurde ook paar jaar voordat ik een robotstofzuiger in huis haalde, al was dat vooral vanwege slechtere gezondheid.

En qua andere dingen valt het ook tegen voor die mensen dan, zo ben ik absoluut geen fan van "app everything" of AI.

Iedereen is anders.

[DaanR.]

Jij bent de it'er met de luchtbuks naast de printer, voor als die rare geluiden maakt.

[Wouterie]

Ik hou van smart. Wij hebben ook van alles aan smart zaken in huis. Nog geen stofzuiger, want ik vind ze nog veel te duur. En de stofzuiger van een paar tientjes van de Blokker doet het nog steeds prima.

De lampen, de TV, aquarium, speakers, thermostaat... heerlijk! Maar ieder z'n ding! Als AI het overneemt en mijn leven nog aangenamer maakt, dan moet het dat vooral doen.

[TheKerremenke]

Stop breeding velociraptors. Net als in Jurassic Park kun je je afvragen tot hoeverre men moet doorslaan met AI. Dino’s maken omdat het kan. Ok. Maar waarom moeten het dan vleesetende dino’s zijn.

[Reactie gewijzigd door TheKerremenke op 15 oktober 2026 14:31]

[Kooshans]

Ik acht de kans vrij groot dat we binnen enkel jaren terug naar de stone age gedwongen worden als het ware. Met het internet verbinden wordt dan voor elke computer of ander apparaat hetzelfde als je gloednieuwe fiets zonder slot in Amsterdam wegzetten midden in een achterbuurt.

Er kan niet verwacht worden dat elke internetverbinding naar buiten toe alle nodige security maatregelen treft. Dus kunnen veel mensen niet meer op een normale manier deelnemen aan het internet.

[Reactie gewijzigd door Kooshans op 15 oktober 2026 14:32]