De RTX Spark is er voor mensen die graag AI-modellen lokaal willen draaien. Dat gaat perfect op deze laptop, die in de duurste uitvoering 128GB unified geheugen heeft. Die chip maakt van deze laptop een allrounder waarop je ook kunt gamen. Dat kan niet op de grote concurrent van Apple. Maar hij is niet op alle vlakken het snelst. De laptop die ASUS rond het Spark-platform heeft gebouwd, is stevig en mooi afgewerkt. Voor beeldbewerkers heeft hij een uitstekend scherm met een hoge helderheid. Ook de accuduur valt niet tegen, waardoor je hem onderweg kunt gebruiken. Het grootste nadeel is de geluidsproductie van de koeling. Dat is de keerzijde van het dunne ontwerp. Als je veel AI lokaal draait, ga je dat wel horen.
Het is vandaag een historische dag in de pc-wereld. AMD en Intel maken sinds jaar en dag de dienst uit in processorland en Qualcomm sloot zich een paar jaar terug aan bij het feestje. Nu krijgen we er opeens een absolute grootmacht bij als cpu-fabrikant: Nvidia.
Nu is Nvidia niet compleet nieuw in processorland. Het maakte eerder al mobiele socs en processors voor servers. De Nvidia RTX Spark-processors, die vanaf morgen verschijnen in laptops en mini-pc's, bouwen daarop voort. Nvidia kiest bijvoorbeeld opnieuw voor cpu-cores op basis van de Arm-architectuur in plaats van de x86-architectuur die AMD en Intel gebruiken.
Vandaag testen we een van de eerste laptops met de Nvidia RTX Spark: de ASUS ProArt P16 (H7607). In Nederland verkoopt ASUS versies met 48GB, 64GB en 128GB ram, voor respectievelijk 4199, 4999 en 6499 euro. België krijgt vooralsnog alleen de 64GB-versie met een azertytoetsenbord, voor dezelfde prijs.
In deze review lees je alles wat je wilt weten over de RTX Spark-processors. Wat maakt ze anders? Hoe presteren de cpu en gpu – zowel in games als lokale AI-workloads – en hoe zit het met hun energiegebruik en accuduur?
Voor wie is de RTX Spark?
Met die prijzen is de RTX Spark dan ook buiten bereik van de doorsneegebruiker. Je kunt voor het aankoopbedrag van een RTX Spark-laptop met 128GB ram bijvoorbeeld net zo goed een RTX 5090 kopen met véél meer rekenkracht (al kun je je afvragen hoelang dat zo blijft). Op papier biedt zelfs een RTX 5070-videokaart vergelijkbare of zelfs betere prestaties. Je kunt voor dit geld prima een complete desktop-pc met zo'n RTX 5070 in elkaar zetten.
Toch richt Nvidia zich met zijn RTX Spark-chips op een breder publiek dan de DGX Spark. Die eerdere mini-pc's waren speciaal bedoeld voor ontwikkelaars die lokale AI-modellen wilden draaien. Ook bij de RTX Spark ligt een grote nadruk op lokale AI-modellen. Daar gaan we zo dieper op in. Daarnaast moeten de nieuwe socs geschikt zijn voor algemener gebruik.
Dat komt mede door het gebruikte besturingssysteem. De DGX Spark draaide uitsluitend Linux, maar de RTX Spark draait gewoon op Windows 11. Voor sommige gebruikers zal dat eerder een nadeel zijn, maar voor velen zal Windows een stuk bekender zijn, wat de instapdrempel natuurlijk fors verlaagt.
Gaat de RTX Spark ook Linux ondersteunen?
Al sinds de aankondiging van de RTX Spark vragen gebruikers zich af of de chips op termijn ook Linux-distributies gaan ondersteunen. Een terechte vraag, aangezien ze technisch vrijwel identiek zijn aan de GB10 uit de eerdere DGX Spark-mini-pc's, die alleen Linux draaien.
We vroegen het aan Nvidia, maar een woordvoerder kon er nog weinig over zeggen. Het bedrijf werkte voor de RTX Spark-release samen met Microsoft en richt zich voor nu vooral op Windows. Nvidia vroeg ons wel om zijn 'aankondigingen in de gaten te houden'. Dat kan wijzen op Linux-ondersteuning in de toekomst, hoewel we daarvoor ook onze handen niet in het vuur durven te steken.
Windows on Arm
De RTX Spark heeft een Arm-cpu en dat betekent dat het platform Windows on Arm gebruikt. Dat hoeft niet per se een nadeel te zijn, maar kan wel zorgen voor softwareproblemen. Arm is een andere instructiesetarchitectuur dan het traditionelere x86, dat je terugvindt in de processors van AMD en Intel.
Traditioneel zorgde dat weleens voor gebrekkige softwareondersteuning. Niet iedere app kan standaard overweg met Arm-cpu's, waardoor ze zijn aangewezen op emulatie. Vaak werkt dat goed, maar dat kan ook zorgen voor prestatieproblemen of helemaal niet werken.
Daar staat tegenover dat Nvidia het grootste bedrijf ter wereld is en dus meer gewicht in de strijd kan gooien. Van veel populaire (creatieve) apps komen dan ook specifieke RTX Spark-versies, zoals die van Adobe, naast bijvoorbeeld DaVinci Resolve, Blender en meer.
In de gevallen waarin een app niet beschikbaar is, moet de RTX Spark gewoon weer terugvallen op emulatie. Dat gaat, net als bij de chips van Qualcomm, via de Prism-emulator in Windows, die wel enkele optimalisaties voor de RTX Spark moet meekrijgen.
Van veel apps zijn al versies voor de RTX Spark beschikbaar.
Cpu: N1X Pro en Max
De RTX Spark-chip zelf is niet geheel nieuw. Vorig jaar al kwam Nvidia namelijk met de DGX Spark, een mini-pc die speciaal bedoeld was voor AI-ontwikkelaars. Die DGX Spark bevatte een chip met vrijwel dezelfde specificaties, maar dan in een Linux-pc, terwijl deze RTX Spark-systemen Windows 11 draaien.
Een groot verschil: de RTX Spark-soc komt beschikbaar in twee 'N1X'-varianten. Het gaat in beide gevallen in feite om dezelfde chip: een topmodel en een deels uitgeschakelde 'instapper'. Van de DGX Spark was slechts één variant beschikbaar.
Een diagram van de cpu-chiplet in de Nvidia RTX Spark. Beeld: Nvidia
Cpu: tot twintig cores en een npu
Beide modellen worden opgebouwd uit twee chiplets: kleine chips die ieder een specifiek deel van het chipontwerp op zich nemen. Bij de RTX Spark gaat het om een losse cpu-chiplets en een gpu-chiplet.
De cpu-chiplet heeft Nvidia ontwikkeld in samenwerking met MediaTek, bekend van onder andere de chips in sommige Android-telefoons. De RTX Spark krijgt daarmee een cpu met maximaal twintig Arm-cores. Tien daarvan zijn performancecores met zo hoog mogelijke prestaties. De overige tien worden efficiencycores die vooral bedoeld zijn voor een lager energiegebruik.
De cpu-chiplet bevat daarnaast een 'Nvidia-npu'. Hoewel het bedrijf weinig details kon geven over de bedoeling van die npu, zal hij vermoedelijk ingezet worden voor de welbekende Copilot+-functies in Windows 11. Nvidia bevestigde dan ook dat de RTX Spark-laptops allemaal gecertificeerd zijn voor Copilot+.
Tijd om te zien hoe de Spark zich staande houdt tegenover andere laptops. Er is ondertussen veel keuze. Daarom vergelijken we de Spark niet alleen met Intel- en AMD-chips, maar ook met Qualcomm- en Apple-processors.
In Cinebench Multi zie je dat de Nvidia-cpu sneller is dan Intel Panther Lake- en AMD Zen 5-processors. Een kanttekening daarbij is dat de N1X zijn resultaat behaalt met twintig cores, terwijl een MacBook Pro met M5 Max sneller is met achttien cores. In de singletest zie je dan ook dat de Apples vlotter zijn en de snelste core van de Snapdragon X2-chip het ook beter doet dan de Spark.
In Geekbench zie je dat de Spark ook goed meekomt, maar opnieuw niet de snelste is. Dat is ergens ook wel logisch. De Intel-gamelaptops draaien op een veel hoger vermogen (piek op 253W!) dan de Spark, die op 80W werkt. Aan de andere kant is de Spark op dit moment al enigszins verouderd. De DGX Spark, die vrijwel dezelfde hardware gebruikt, is immers al een jaar op de markt.
In de Basic-test van videobewerkingsprogramma DaVinci Resolve speelt vooral de processor een grote rol. Dat is niet de sterkste kant van de Nvidia N1X-processor, waardoor hij het aflegt tegen de Ryzen AI Max+ 395. In de Standard- en Extended-tests wordt de gpu meer aan het werk gezet en dan is de N1X Max wel vlotter. Hij komt niet in de buurt van de MacBook Pro met M5 Max, die bijna twee keer zo snel is.
We hebben ook naar de prestaties van de ssd gekeken. In de ProArt P16 zit een Samsung PM9C1b-ssd, maar die doet het minder goed dan in veel andere laptops, waaronder ASUS' eigen Zenbook A16. Misschien moet Nvidia de ssd-aansturing in zijn nieuwe processors nog verbeteren.
Gpu: 'RTX 5070'
De cpu-chiplet wordt verbonden met een losstaande gpu-chiplet. Die is gebaseerd op de Blackwell-architectuur die we ook kennen uit de videokaarten uit de RTX 50-serie. Ook hiervan zijn twee varianten, maar het topmodel krijgt 6144 CUDA-cores.
Dat komt technisch overeen met de RTX 5070-desktopvideokaart. Ook die gpu is gebaseerd op de Blackwell-architectuur en beschikt over 6144 CUDA-cores.
De gpu-chiplet in de RTX Spark. Beeld: Nvidia
Rekenkracht
Dat wil niet zeggen dat de RTX Spark even goed presteert als de RTX 5070. In elk geval mag deze laptopchip véél minder stroom gebruiken dan die desktopvideokaart, waardoor hij in de praktijk een stuk minder goed zal presteren. Daarbij heeft de RTX Spark ook een stuk minder L2-cache: 24MB in plaats van 48MB.
Het RTX Spark N1X-topmodel moet tot '1 petaflop' aan AI-rekenkracht bieden, wat neerkomt op 1000 teraflops. Daar valt het een en ander op af te dingen. De chip haalt dat alleen met Nvidia's eigen NVFP4-dataformaat, dat speciaal is geoptimaliseerd voor Nvidia-gpu's. Dat kan weliswaar betere prestaties leveren, maar alleen bij AI-modellen en workloads die specifiek zijn geoptimaliseerd voor NVFP4.
Dit soort Tflops zijn bovendien niet vergelijkbaar met de prestatiecijfers die vaak bij gaming-gpu's worden getoond. Die zijn gebaseerd op aanzienlijk zwaardere fp32-berekeningen. Als je die vergelijking wilt maken: de RTX Spark N1X-gpu haalt in theorie zo'n 28Tflops aan fp32-rekenkracht, blijkt uit data van TechPowerUp.
Nvidia RTX Spark-gpu's
Model
RTX Spark N1X Pro 650
RTX Spark N1X Max 675
Gpu-architectuur
Nvidia RTX Blackwell
Nvidia RTX Blackwell
CUDA-cores
5120
6144
L2-cache
24MB
24MB
AI-rekenkracht
~833Tflops (NVFP4)?
1000Tflops (NVFP4)
Productieproces
TSMC 3nm
TSMC 3nm
Tot 128GB unified geheugen en meer
Wat de RTX Spark vooral onderscheidt, is zijn ondersteuning voor unified geheugen. Spark-hardware krijgt maximaal 128GB Lpddr5X-ram, dat zowel de cpu als de gpu kunnen aanspreken. Zelfs de RTX 5090 komt met zijn 32GB niet in de buurt van zo'n gigantische geheugenpool.
Daar staat tegenover dat het Lpddr5X-geheugen een stuk trager is dan normaal vram. Een RTX 5070 haalt zo'n 672GB/s, terwijl de RTX Spark-geheugenbandbreedte maximaal 300GB/s bedraagt. De geheugenprestaties liggen dan wat lager, maar de gigantische hoeveelheid maakt het mogelijk om grotere AI-modellen lokaal te draaien.
De RTX Spark kan geleverd worden met 24 tot 128GB, afhankelijk van het model en de formfactor. Beeld: Nvidia
Spijtig genoeg moet je het geheugen wel handmatig verdelen tussen cpu en gpu. Bij een model met 128GB kun je bijvoorbeeld 96GB aan de gpu toewijzen, met de overige 32GB voor de cpu. Dat lijkt vooral aan Windows te liggen, aangezien de DGX Spark op Linux wél alles op één hoop kan gooien. Ook Windows-systemen met de AMD Strix Halo-chip hebben dezelfde beperking.
De cpu en gpu van de RTX Spark communiceren verder met elkaar via NVLink-C2C. Die interconnect zorgt ervoor dat de twee onderdelen in feite werken als één grote chip, zelfs al zijn het eigenlijk losse chiplets. Dat gaat dan met bandbreedtes van 600GB/s in beide richtingen.
De gemiddelde RTX Spark-laptop heeft een volledige HDMI 2.1-aansluiting, naast een aantal USB4-poorten die ook schermen kunnen aansturen. De tdp's van beide chips zijn configureerbaar tussen de 45 en 80W. Laptopfabrikanten kunnen zelf kiezen hoe hoog ze de tdp instellen, voor betere prestaties in ruil voor hogere temperaturen en een kortere accuduur.
Model
RTX Spark N1X Pro 650
RTX Spark N1X Max 675
Geheugen
Max. 32GB Lpddr5X-9400
Max. 128GB Lpddr5X-9400
Geheugeninterface
256bit, 16 kanalen
256bit, 16 kanalen
Geheugenbandbreedte
Tot 300GB/s
Tot 300GB/s
NVLink-C2C-bandbreedte
600GB/s bidirectioneel
600GB/s bidirectioneel
Displayondersteuning
HDMI 2.1a; DisplayPort 2.0 (via USB4)
HDMI 2.1a; DisplayPort 2.0 (via USB4)
Tdp
45 tot 80W (configureerbaar door oem)
45 tot 80W (configureerbaar door oem)
AI-tests: geen decodemonster, wel grote modellen
Voor deze review nemen we een vernieuwde testmethode voor AI-modellen in gebruik, met de nieuwste lokale modellen zoals Qwen 3.8 en GLM 5.3. Helaas betekent dit wel dat we minder vergelijkingsdata hebben dan voorheen, omdat sommige eerder geteste producten al naar de fabrikant zijn teruggestuurd.
Naast de ASUS ProArt-laptop met RTX Spark hebben we de volgende systemen kunnen hertesten met de nieuwe benchmarks:
Systeem
Hardware
Geheugen
Geheugenbandbreedte
ASUS ProArt P16
Nvidia RTX Spark
128GB Lpddr5-9400
301GB/s
ASUS Ascent GX10
Nvidia DGX Spark
128GB Lpddr5-8533
273GB/s
Apple Mac Studio
M5 Ultra
256GB Lpddr5-9600
1200GB/s
Framework Desktop
AMD Strix Halo
128GB Lpddr5-8000
256GB/s
AMD Ryzen 7 9800X3D
Nvidia RTX 5090
32GB GDDR7
1792GB/s
Lees meer over onze testmethode voor AI-benchmarks
We draaien drie taalmodellen: Qwen 3.8 27B, Qwen 3.8 Flash Next en GLM 5.3 Flash. Modellen met meer parameters zijn doorgaans slimmer en nauwkeuriger, maar nemen ook meer geheugenruimte in beslag.
Het AI-model moet binnen de geheugencapaciteit van het systeem passen. Anders zakken de prestaties in elkaar of werkt het model helemaal niet.
Taalmodel
Maker
Type model
Parameters
Geteste variant
Grootte
Qwen 3.8 27B
Alibaba
Dense
27 mld
Q4_K_M
16,5GB
Qwen 3.8 Flash Next
Alibaba
MoE
125 mld (6 mld actief)
IQ3_XXS
82GB
GLM 5.3 Flash
Z.ai
MoE
320 mld (18 mld actief)
IQ1_S
93,1GB
We voeren de tests uit met llama.cpp, een crossplatform backend voor het draaien van llm's. We beginnen met een lege context, oftewel zonder geheugen van eerder gestelde vragen, Vervolgens voeren we de context in stappen van 10.000 tokens op tot een contextlengte van 90.000 tokens. Een verder gevulde context vereist meer rekenkracht en bovendien meer ruimte in het (video)geheugen.
We rapporteren uiteindelijk de time to first token en de decodesnelheid.
De time to first token wordt bepaald door de relatief korte prefillfase. Hierin wordt de prompt geïnterpreteerd en gaat het vooral om rekenkracht, specifiek die voor matrixvermenigvuldigingen. De tensorcores in Nvidia-gpu's en de neural accelerators in de socs van Apple helpen hier bijvoorbeeld bij.
Tijdens de decodefase genereert het model het antwoord. Deze fase duurt, afhankelijk van de lengte van het antwoord, vaak veel langer dan de prefillfase. Hierbij draait het vooral om de geheugenbandbreedte. Traditioneel zijn videokaarten hier in het voordeel, maar ook de M5 Ultra-soc komt boven de 1TB/s uit.
Decode
Time to first token
Het Qwen 3.8 27B-model weegt zo'n 16GB en past dus in het vram van een RTX 5090-videokaart, zelfs als de contextlengte oploopt. Met zijn enorme geheugenbandbreedte blijft die gpu de koning bij zowel de decodesnelheid als de time to first token.
De Mac Studio volgt op gepaste afstand en de Sparks spelen in een heel andere divisie. Relatief is het verschil tussen de RTX Spark met Windows en de DGX Spark met Linux wel groot: bij een lege context zo'n 60 procent.
De RTX Spark-laptop met 9400MT/s heeft wel wat sneller geheugen dan de DGX Spark met 8533MT/s. Dat verschil is lang niet groot genoeg om zo'n flink prestatieverschil te verklaren. Het model lijkt dus ook gewoon efficiënter te draaien op de RTX Spark met Windows.
De RTX Spark en DGX Spark zijn bij de time to first token praktisch even snel.
Decode
Time to first token
Qwen 3.8 Flash Next is een veel groter model dat niet langer in het vram van de RTX 5090 past. Die ontbreekt dus in deze grafieken. Met 33t/s bij een lege context is de RTX Spark best rap; de Mac Studio is nog ongeveer 40 procent sneller. Opnieuw wint de RTX Spark duidelijk van de DGX Spark als het op decode aankomt. Wel is het verschil van ongeveer een kwart wel kleiner dan we bij het dense 27B-model zagen.
Bij de time to first token wint de DGX Spark juist duidelijk van de RTX Spark. Verder zie je in die grafiek dat de AMD Strix Halo-chip het zwaar krijgt bij een verder gevulde context.
Decode
Time to first token
GLM 5.3 Flash heeft nog veel meer parameters dan Qwen 3.8 Flash Next. Om binnen de 128GB aan geheugen van de meeste geteste AI-systemen te blijven, testen we een van de kleinste varianten.
Ook bij dit model presteert de RTX Spark bij het decoderen beter dan de DGX Spark, al wordt het verschil wel kleiner naarmate de context verder wordt gevuld. Bij de time to first token zijn de verhoudingen juist omgedraaid. De AMD Strix Halo-chip in de Framework Desktop verslikt zich daar overigens totaal in; het kan soms minuten duren voor er een antwoord verschijnt. Dit buggy gedrag zien we vaker als het vram van een Strix Halo-machine bijna vol zit.
Lokale agents in de praktijk
Nvidia heeft zich de afgelopen jaren ontpopt tot een AI-bedrijf. Dat is dan ook de usecase waar Nvidia vol op inzet: llm's en AI-beeldgenerators en -agents draaien. Agents kunnen zelfstandig je pc besturen, taken uitvoeren en actief allerlei handelingen doen, zonder dat je dat zelf hoeft te prompten.
Denk aan automatische samenvattingen samenstellen, handelingen uitvoeren in allerlei apps, je webbrowser bedienen en meer. Volgens de techgigant zijn er al veel Windows-apps beschikbaar die geschikt zijn voor AI-agents.
Je zult dat soort agents zelf moeten installeren, al zijn daarvoor wel de nodige hulpjes beschikbaar. Gebruikers krijgen straks een startscherm in Windows te zien, waarmee ze automatisch een agent kunnen installeren. Vooralsnog zijn daar drie opties zichtbaar: OpenClaw, Hermes Agent en Perplexity.
AI-agents die op de RTX Spark draaien, kunnen volgens Nvidia overweg met veel verschillende apps. Beeld: Nvidia
Lokale AI-agent in Hermes
We gingen aan de slag met Hermes, waarin je met een paar klikken een lokaal model als Qwen 3.8 27B kunt laden. Na een korte set-up kun je allerlei integraties opzetten. We koppelden bijvoorbeeld een Google-account, zodat de agent agenda-afspraken kon maken en e-mails kon versturen. Voor aansturing van de agent maakten we een Telegram-bot aan.
In Hermes Agent download je in een paar klikken een lokaal AI-model.
Vervolgens kun je de agent aan het werk zetten. We stuurden bijvoorbeeld via Telegram wat csv-bestanden met testdata door, die we de agent lieten analyseren. Daarna wilden we een samenvatting versturen per e-mail. Bij zo'n grote prompt met meerdere stappen is de agent soms tientallen minuten bezig. Dat geldt zeker als een van de taken niet in één keer lukt en de agent moet gaan troubleshooten.
Wat je ziet van een uitgevoerde taak in de Hermes-software en in de Telegram-chat (rechtsboven)
Soms stuurt de agent wat informatie over een tussenstap, maar in principe krijg je alleen een melding als de taak is voltooid. Een uitzondering is dat je toestemming moet geven als de agent een stukje zelfgeschreven code wil uitvoeren, bijvoorbeeld om data te verwerken. Na een paar keer wordt het wel heel aanlokkelijk om voor de optie 'altijd toestaan' te kiezen. De agent kan dan echter code uitvoeren die je niet eerst zelf gecontroleerd hebt.
Voordelen van lokale AI: soeverein en goedkoop per token
De voordelen van een lokaal AI-model mogen duidelijk zijn: je data gaat niet naar de servers van grote techbedrijven. Dat mes snijdt aan twee kanten, want je behoudt je privacy – extra relevant als je met gevoelige data werkt – en je bent niet afhankelijk van de grillen van buitenlandse bedrijven en hun overheden.
Het tweede grote voordeel is dat je geen dure tokens hoeft te betalen, maar enkel je stroomrekening. Bij intensief gebruik kan dat honderden tot wel duizenden euro's per maand schelen – in dat laatste geval heb je een RTX Spark toch best snel terugverdiend.
Nadelen van lokale AI: niet geruisloos en veel geheugen nodig
In de praktijk zijn er toch ook wat nadelen. Lokale taalmodellen als Qwen 3.8 en GLM 5.3 kunnen zich op sommige punten meten met wat begin dit jaar nog de beste cloudmodellen waren, maar inmiddels zijn de Claudes en ChatGPT's van deze wereld alweer een stuk slimmer. De lokale modellen hebben daardoor soms meer moeite met taken of meer tokens nodig om tot het juiste resultaat te komen.
Een lokaal AI-model belast je laptop continu zwaar. Een AI-workload slurpt makkelijk de volledige tdp van zo'n 80W op, vergelijkbaar met wanneer je zou gamen. Daardoor gaan de fans duidelijk hoorbaar draaien en loopt de accu snel leeg. In mijn ervaring moest de laptop na twee uur AI'en toch echt weer aan de lader.
Om krachtige llm's lokaal te kunnen draaien, heb je bovendien veel geheugen nodig. Nvidia zelf raadt minimaal 48GB aan voor lokale agents, al zul je voor de allerbeste llm's van dit moment, zoals Qwen 3.8 Flash Next en GLM 5.3, toch echt de volle 128GB nodig hebben.
Nvidia's aanbevelingen voor gebruiksdoelen per hoeveelheid werkgeheugen
De toekomst: hybride AI, lokaal en in de cloud
Het idee van de nieuw aangekondigde Windows-functies is dat je kunt kiezen voor een hybride aanpak. Met Hybrid Intelligence draaien AI-toepassingen waar mogelijk lokaal, maar kan de agent voor complexere taken terugvallen op de cloud.
Veiligheid speelt daarbij ook een belangrijke rol. Voorheen hadden gebruikers twee opties in Windows: een agent onbeperkt toegang geven tot een systeem, met potentieel rampzalige gevolgen, of de rechten sterk beperken. In dat laatste geval moet vrijwel iedere actie handmatig worden goedgekeurd, wat een beetje voorbijschiet aan het doel van een AI-agent, die juist werk uit handen moet nemen.
Windows krijgt daarom Microsoft Execution Containers (MXC). MXC isoleert agents in afgekaderde containers om te voorkomen dat ze te veel schade kunnen aanrichten als ze onbedoelde acties uitvoeren of proberen bestanden te verwijderen. Nvidia zelf bouwt daar OpenShell bovenop, een optionele runtime om agents gemakkelijker in zulke containers te stoppen en te beveiligen.
Agents worden voortaan bovendien gezien als aparte Windows-gebruikers, met eigen (ingeperkte) systeemrechten. Tot nu toe voerden ze acties namens de gebruiker zelf uit, vaak met beheerdersrechten.
AI-agents op Windows kunnen voortaan in containers draaien. Beeld: Nvidia
Gamen, met een 'maar'
Dan zijn er nog gamers, tot nu toe altijd de grootste doelgroep voor Nvidia's RTX-producten. Ook de RTX Spark kan overweg met veel games, levert dat de nodige uitdagingen op.
Die zitten vooral in de cpu-architectuur. Het eerdergenoemde softwareprobleem speelt namelijk ook met games: veel spellen zijn niet standaard bedoeld voor Arm en dus aangewezen op emulatie.
In veel gevallen werkt dat prima, zegt Nvidia, al komen er ook steeds meer games die native op Arm draaien beschikbaar, zoals Kingdom Come: Deliverance II. Vooral bij multiplayergames ligt dat vaak anders. Anticheat op kernelniveau kan niet geëmuleerd worden en moet dus écht Arm-cpu's ondersteunen.
Nvidia zegt dat veel populaire multiplayertitels uiteindelijk naar de RTX Spark komen, al zal dat niet in alle gevallen direct bij release zijn. Onder andere Riot Games en EA Games voegen ondersteuning voor hun titels toe aan de RTX Spark. Volgend jaar volgt Call of Duty.
Dan zijn er nog de prestaties. Nvidia pronkt met framerates van ruim boven de 100fps op 1440p. Die cijfers worden wel genoteerd met DLSS-upscaling en 3x-framegeneration, dus zonder die hulpmiddelen zullen de framerates in de praktijk lager liggen.
Cyberpunk 2077 kun je prima spelen op 1080p- of 1440p-resoluties, waarbij de prestaties rond het niveau van de laptop-RTX 5070 liggen. Die heeft een kwart minder cores dan de RTX Spark, dus de emulatie kost wel wat prestaties. Voor gamen op 4k, de resolutie van het scherm in de ASUS ProArt P16, is de RTX Spark wat te langzaam. Daarvoor zul je DLSS-upscaling moeten inschakelen. Hetzelfde geldt als je raytracing wil gebruiken.
Metro Exodus is al een wat oudere game, waardoor de framerate zelfs op 4k Medium nog boven de 60fps blijft. Deze game heeft nog geen ondersteuning voor een moderne DLSS-versie, dus dat is geen uitweg, al biedt de Enhanced Edition meer mogelijkheden.
We zijn Metro Exodus langzaam aan het vervangen door de veel nieuwere game Avatar: Frontiers of Pandora. De hoeveelheid vergelijkingsmateriaal is dus nog beperkt. Dat het een zwaardere game is merk je ook wel, want op 1080p Ultra zakt de RTX Spark-processor al onder de 60fps. Voor een fijne game-ervaring zul je dus zeker upscaling willen gebruiken.
Het strategiespel Total War: Pharaoh haalt op alle resoluties en settings meer dan 60fps, behalve op 4k Ultra. Je kunt dus prima proberen om je positie in het oude Egypte uit te breiden op deze laptop.
Exterieur: Spark à l'ASUS
De RTX Spark staat niet op zichzelf. In dit geval huist de chip in een ASUS-laptop uit de ProArt-serie. Om specifiek te zijn: de ProArt P16. Die naam zou je bekend kunnen voorkomen, want we testten al eens eerdere versies van dezelfde laptop, maar dan met anderehardware. In de benchmarks verderop in de review tref je de ProArt met Ryzen-processor en RTX 5090-videokaart ook aan als vergelijkingsmateriaal.
De Spark-P16 lijkt op eerdere ProArt P16-laptops van ASUS, maar is dan wat dunner. De vergelijking met de grote concurrent MacBook Pro is makkelijk gemaakt. Net als de MacBook Pro heeft deze laptop een toetsenbord in het midden met daarnaast speakergrilles en loopt het touchpad van de onderkant van het toetsenbord tot de rand van de behuizing.
We hadden de luxe om over twee P16-laptops te beschikken: een in het zwart en een in het wit. In vergelijking met eerdere ASUS P16-laptops valt op dat ASUS de eigen (propriëtaire) laadstekker niet gebruikt en deze laptop via USB-C oplaadt. Deze laptop heeft daarvoor een 140W-lader nodig en die levert de fabrikant niet mee.
Verder zag je op oudere P16's geen SD-kaartlezer, maar die zit er nu wel op. Wil ASUS graag de creatievelingen voor zich winnen? Misschien, maar het lijkt erop dat Nvidia het poortontwerp heeft afgedwongen, want bijna alle Spark-laptops hebben dezelfde lay-out. Links zitten een HDMI-aansluiting, twee USB4-poorten en een mini-jackaansluiting. Rechts zit nog een USB4-aansluiting, een USB-A-poort op 10Gbit/s en de genoemde SD-kaartlezer.
De behuizing voelt stevig aan, zoals je mag verwachten van een laptop van 6500 euro, en het scharnier draait soepel, maar wiebelt niet. Dat ASUS deze versie van de P16 dunner heeft weten te maken dan andere versies is niet gek. In de ProArt P16 met Ryzen 9-processor en RTX 5090-videokaart was het gecombineerde vermogen 135W. De Spark werkt op maximaal 80W.
De P16 heeft net als eerdere modellen een erg fijn toetsenbord. De toetsen hebben veel travel en een duidelijke aanslag. De overstap naar een haptisch touchpad is ook welkom. De 'dial', een configureerbaar cirkeltje in de bovenhoek van het touchpad, ontbreekt en weinigen zullen die missen.
Je merkt dat ASUS niet voor het eerst een premiumlaptop bouwt, want ook de speakers klinken goed. Er komt een flink volume uit en ze produceren voor een laptop best wat lage tonen. Het geluid is nog niet zo goed als dat van een 16"-MacBook Pro, maar het komt in de buurt. Voor videogesprekken ben je aangewezen op de camera, die ook gezichtsherkenning ondersteunt. Een vingerafdrukscanner is daarom afwezig.
Interieur: upgrades
De N1X maakt gebruik van ingebouwd Lpddr5-geheugen en dat kun je dus niet upgraden. ASUS biedt je wel de mogelijkheid om een tweede ssd te installeren, links van de draadloosnetwerkkaart.
Prachtig, scherp oledscherm
ASUS bouwt de ProArt P16 met verschillende schermen. Er is een versie met een resolutie van 2880x1800 pixels, maar die is in Nederland en België niet beschikbaar. Bij ons krijg je standaard 3840x2400 pixels en 120Hz. Samsung maakt het oledpaneel. Voor de schermmetingen gebruiken we Portrait Displays' Calman Color Calibration-software en een SpectraCal C6-colorimeter.
ASUS heeft een prachtig scherm ingebouwd in de ProArt P16. Het kan met meer dan 650cd/m² lekker fel, waardoor je er ook naast een raam prima op kunt werken. Het is een touchscreen. Bij weinig omgevingslicht en een hoge schermhelderheid wordt de digitiser enigszins zichtbaar als een soort korreleffect, wat vooral opvalt op effen oppervlakken.
Sdr-modus
De kalibratie in sdr-modus is zeer goed, met een gemiddelde sRGB-afwijking van maar 2,3ΔE volgens de strenge ITP-normen. Ook de grotere Display P3-kleurruimte geeft het volledig en accuraat weer.
Hdr-modus
Je krijgt als lezer van deze review ook nog een kleine primeur, want we hebben de metingen voor het eerst in de hdr-modus gedaan. Tot een witoppervlakte van 10 procent kan het scherm een helderheid van wel 1550cd/m² halen. Als een groter deel van het scherm wit is, daalt die tot 644cd/m² bij een volledig wit scherm.
De P3-kleurruimte wordt keurig afgedekt en ook de kleurafstelling is met 3,3ΔE best aardig. In vergelijking met de ideale lijn (eotf-curve) geeft de ProArt het hdr-beeld wat te helder weer. Met de helderheid meegerekend klopt het beeld daardoor niet echt.
Geluidsproductie: helaas erg luidruchtig
Zo meten we geluid
Om de geluidsproductie van de koeling te meten, gebruiken we een Larson Davis 831C-geluidsmeter met een 378A04-microfoon en een voorversterker. De microfoon heeft eennoisefloor van 5,5dB(A). Door onvermijdelijk omgevingsgeluid is de noisefloor van onze geluidarme ruimte ongeveer 10dB(A). Als we een veilige marge nemen, kunnen we vanaf 12dB(A) consistent meten. We meten de geluidsdruk op 50cm afstand onder een hoek van 45 graden. We testen in drie scenario's: WebXPRT simuleert webbrowsen, PCMark 10 Express simuleert dagelijks gebruik en Blender is een zware multithreaded belasting voor de cpu. We meten de geluidsdruk tijdens iedere test en drukken het resultaat uit in een gemiddelde, LAeq, in dB.
In rust hoor je de ProArt P16 nauwelijks, al zijn sommige laptops dan nog wat stiller. Ook bij lichte belasting met PCMark zijn we tevreden met de geluidsproductie van 24dB.
Dat verandert tijdens zwaardere belasting. Bij volledige cpu-belasting in Blender of tijdens het gamen behoort de ProArt P16 tot de luidruchtigste laptops met een geluidsproductie van 52dB.
We hebben buiten de reguliere tests om ook een meting tijdens het draaien van een lokaal AI-model gedaan. Daarbij kwam de geluidsproductie ook uit op 52dB. Als je met deze laptop in de trein of het vliegtuig gaat zitten om met lokale AI te werken, word je ongetwijfeld raar aangekeken.
Indrukwekkende accuduur
We testen de accuduur van laptops tijdens webbrowsen en diverse taken via PCMark. Daarnaast meten we de prestaties in PCMark op de accu en vergelijken die met de reguliere score op netstroom.
Accutest browsen
Accutest PCMark 10
Relatieve prestaties op accu
Accutest browsen 2013 (180cd/m²)
Laptop
Cpu/soc
Videochip
Accucapaciteit (Wh)
Gemiddelde tijd in uren en minuten (hoger is beter)
Bij een lichte belasting met webbrowsen houdt de ProArt P16 het 13,5 uur vol. Dat is een keurige score, zelfs als je meeweegt dat er een forse accu in deze laptop zit. Veel gaminglaptops gaan zelfs in zo'n licht scenario veel korter mee op een acculading.
Ook tijdens wat zwaardere belasting met PCMark scoort de ASUS-laptop met RTX Spark erg goed. Pas na vijfenhalf uur houdt hij ermee op. Dat is extra indrukwekkend als je ziet dat de laptop op de accu nog altijd meer dan 80 procent van zijn prestaties op netstroom haalt, wat eveneens bovengemiddeld goed is.
Een AI-model lokaal draaien is nog aanzienlijk zwaarder, ongeveer vergelijkbaar met gamen. Na een dikke twee uur AI'en hield de laptop ermee op. Dat is nog altijd langer dan veel gaminglaptops het tijdens het gamen volhouden, maar als je lokale AI wilt gebruiken, kun je dus maar beter je oplader meenemen.
Goedkopere modellen op komst?
De eerste lichting RTX Spark-chips is uitsluitend bedoeld voor high-end apparaten. Zelfs de goedkoopste modellen met 'slechts' 24GB ram gaan over de toonbank voor minstens 2999 euro. Wil je 128GB geheugen? Verwacht dan meer dan 6000 euro neer te tellen.
Op termijn komt daarin waarschijnlijk verandering. Nvidia hint al langer op de komst van een N1-variant, zonder een 'X' achteraan. Ook tijdens de RTX Spark-aankondiging in juni noemde ceo Jensen Huang tussen neus en lippen door een minder krachtige variant met 400Tflops aan AI-rekenkracht.
MediaTek bevestigde bovendien al tegenover Tweakers dat er een goedkoper RTX Spark-model aankomt. Dat zou maximaal twaalf cpu-cores krijgen en een kleinere gpu met minder dan de helft van de rekenkracht.
De vraag blijft alleen: wanneer? Een woordvoerder van Nvidia zegt tegen Tweakers dat de komst van een goedkopere N1-chip 'geen geheim' is. Tegelijkertijd richt de chipmaker zich voorlopig op de duurdere N1X-modellen. Het bedrijf kon geen releaseplannen voor de betaalbaardere varianten delen.
Juni 2026: Nvidia-baas Jensen Huang kondigt RTX Spark aan. Linksonderin de goedkopere N1-chip: de 'Grace Blackwell Spark 400Teraflops'. Foto: Tweakers
Conclusie
ASUS heeft met de nieuwe ProArt P16 een mooie laptop gebouwd, maar het draait vooral om het kloppende hart: de nieuwe N1X-processor. Die is, zeker in de 6500 euro kostende 128GB-laptop die we hier getest hebben, perfect om lokale AI en agents te draaien.
Lokale AI en agents
Het zal je niet verbazen, maar de AI-prestaties van de RTX Spark zijn ruwweg vergelijkbaar met die van de DGX Spark. Daar zat immers dezelfde chip in. Bij een antwoord genereren is de Windows-versie meestal wat sneller, terwijl de DGX Spark wint op de tijd tot de eerste token.
De kracht van de RTX Spark blijft daarmee liggen bij de mogelijkheid om grote modellen te draaien. Zijn brute rekenkracht en geheugenbandbreedte kunnen niet op tegen die van een losse videokaart als de RTX 5090, maar hij kan grotere en slimmere modellen draaien. Dat past prima bij gebruik als agent, waarbij het niet zoveel uitmaakt dat hij wat langer bezig is om een taak uit te werken terwijl je zelf iets anders doet.
Lokaal modellen draaien heeft voor de hand liggende voordelen: het is goed voor je privacy en soevereiniteit en je betaalt je niet blauw aan tokens. Wel merk je dat je dit lokaal doet, want de fans gaan hard draaien en de accu loopt snel leeg. Bovendien moet je eenmalig wel flink je portemonnee trekken, want de beste AI-modellen vereisen een flinke sloot werkgeheugen.
Spark in een laptop
Voor al deze taken kon je al een DGX Spark kopen, dus waarom nu de RTX-versie? Je kunt nu Windows draaien en dat maakt een groot verschil. Als je klaar bent met je AI-modellen, kun je een potje gamen met een gpu die het niveau van een mobiele RTX 5070 blijkt aan te tikken. Je kunt er foto's en video's op bewerken, zoals je dat op een gewone laptop zou doen.
Je zou in specifieke situaties tegen compatibiliteitsproblemen aan kunnen lopen, omdat het een Arm-processor is en niet het oude vertrouwde x86. Door de prima emulatie is dat nauwelijks meer een probleem. Je loopt daar alleen nog tegenaan als software op kernelniveau moet draaien, zoals sommige anticheatsoftware.
Of toch een MacBook?
Je kiest dus voor een Spark, en zeker deze versie, omdat je het grote unified geheugen wilt gebruiken. Welke andere laptops hebben dat? Er is een handjevol laptops met een Ryzen AI Max+ 395-processor, die wat minder kosten, maar in al onze tests het onderspit delven.
Wat zou wel sneller zijn? Een MacBook Pro met M5 Max – een kleine 8000 euro met 128GB ram. We hebben hem in deze vergelijking helaas niet mee kunnen nemen, maar hij was in vergelijking met de DGX Spark aanmerkelijk sneller. Dat blijkt hij ook te zijn in de cpu-benchmarks die je wél in deze review terugvindt.
Op dit moment kán het op het Apple-platform dus nog sneller, als je daarop zit te wachten. Misschien draai je liever Windows dan macOS en wil je graag af en toe gamen, wat op het Apple-platform nog altijd niet echt van de grond komt. Ben je op zoek naar een dergelijk systeem met idioot veel geheugen, dan gaan wij de knoop niet voor je doorhakken. In ieder geval is duidelijk dat Nvidia als cpu-maker een verrijking is voor het Windows-platform.
Reviews op Tweakers zijn onafhankelijk. ASUS heeft de ASUS ProArt P16 aan Tweakers in bruikleen gegeven voor deze review. Daarnaast is Tweakers op uitnodiging van Nvidia afgereisd naar San Francisco om deel te nemen aan briefings. De reis- en verblijfkosten zijn door het bedrijf betaald. Na de testperiode worden producten geretourneerd of in ons testlab bewaard voor gebruik als referentiemateriaal bij volgende tests. De fabrikant heeft de publicatie vooraf niet ingezien en geen invloed uitgeoefend op de inhoud.
het blijft toch wel erg jammer dat deze N1X cpu/sock de X925 arm cores gebruikt...
Want dat is een 2 generaties ouwe core, we hadden vorig jaar de Arm C1-ultra al en dit jaar de Arm C2-ultra, die allebei een flinke stap maken in single threaded performance tov de X925..
en daarnaast ook een eigen flinke verbetering in AI heeft met SME2 unit(s), maar de vraag is of dat in combinatie met de GPU gebruik zou kunnen worden...
Dat geeft alleen maar vertrouwen voor de volgende iteraties van deze chip
Ik hoef geen laptop van 6000 euro, maar dit is ook veelbelovend voor de ontwikkelingen mbt gaming laptops wat vaak een compromis is tussen grootte, lawaai en performance.
Als we dadelijk een generatie of twee verder zijn, dan heb je bijzonder veel power voor 100-140 watt zonder een laptop met het formaat stoeptegel of met stofzuiger lawaai tijdens het gamen.
Als dat gaat lukken tussen 2000-2500 (zoals strix halo 1.5 jaar geleden), dan is dat een grote stap voorwaarts naar mijn inziens.
Ik heb zelf de Zephyrus G16 2026 met 5090 / 64 GB Ram, die dus grappig genoeg vrijwel dezelfde behuizing heeft als deze Proart P16.
Alleen is er simpelweg geen reden om voor de P16 te gaan als ik het zo lees. De prijs is nagenoeg hetzelfde, maar de 5090 is vrijwel 2x zo snel. Batterijduur soortgelijk, gewicht soortgelijk.
We moeten nog wel flink wat iteraties verder zijn wil de P16 interessant worden.
Prijzen van 2000-2500 lijken helaas echter voor nu totaal voorbij voor dergelijke specs.
Ik verwacht dat deze laptops over een jaar of 2 ook in de uitverkoop gaan, zodat je er goedkoop een kunt aanschaffen. Zo heb ik dit jaar een laptop en een mini-PC met Snapdragon X1-26-100 aangeschaft met respectievelijk 16 en 32 GB werkgeheugen.
Ik vind het niet erg om een paar jaar achter te lopen op de state of the art, als ik daar honderden of duizenden euro's mee bespaar.
Wat ik ook wel weer snap, want deze hardware pronken ze nu al ruim een jaar mee. Ok, dit is nu een laptop package en niet een "gracewell" oplossing, maar die setup gebruikt eindelijke dezelfde generatie cores.
Het ziet er vooral naar uit dat het zakenleven niet echt happig is op "medium" lokale AI oplossingen. En dat de "MKB" markt internationaal gezien ook gewoon SaaS diensten blijft gebruiken ipv lokale oplossingen.
En nu dus (eindelijk?) in een laptop van een normaal consumentenmerk te vinden. Maar met dergelijke prijzen kunnen we natuurlijk al voorspellingen doen van hoeveel ze er gaan verkopen.
Vermoedelijk gaat het voor blackwell GPU architectuur bij deze combinate blijven. Maar als Nvidia één ding doet is dat de markt volgen aan de kant van de grote jongens. Dat betekend waarschijnlijk heel mooie dingen voor de volgende generatie hiervan, die er misschien al over een jaar aan kan komen, met alleen waarschijnlijk tegen die tijd nog hogere prijzen.
Interessante release, maar voor die prijs (€ 6.499,-!) is dit voor de gewone consument natuurlijk onbetaalbaar. Je koopt hier puur een specialistische machine mee voor lokale AI-modellen dankzij die 128GB unified memory.
Als je puur kijkt naar de rauwe CPU-prestaties, valt het tegen dat Nvidia nog niet mee kan komen met Apple of Intel. Tel daar de luide koeling en het gebrek aan Linux-ondersteuning bij de lancering bij op, en het voelt nog echt als een eerste-generatieproduct. Een indrukwekkende techdemo, maar ik wacht nog even een paar generaties af tot het platform wat volwassener en betaalbaarder wordt.
Maar dit is toch ook geen consumenten product? Er zullen vast mensen zijn die het leuk vinden, maar dit is nou bij uitstek een professioneel product met ook nog eens een specifieke doelgroep.
Ik heb een Proart P16, ouder type met RTX4070, maar ben er nog steeds erg blij mee. Onwijs degelijk apparaat.
Offtopic: Licht er aan wat je letterlijk vind er zijn mensen die dit willen
Ook is hij enkel te koop op aan consumenten gerichte websites...
Misschien is dit gewoon een meningsverschil
Dan volg je het nieuws misschien niet goed. Er is een internet gezegde 'AMD never misses a chance to miss a chance'. Bij elk product dat ze uitbrengen mankeert wel iets; té hoge prijs (Nvidia prijs -$50), refresh met een nieuwe naam (letterlijk 90% van AMD's mobiele chips), waardeloze configs (ahem, RX 9050 4GB), of producten alleen uitbrengen voor OEMs (ik wacht nog steeds op een RX 7400), producten alleen op papier uitbrengen (het hele fiasco rond the 9070 (XT) launch). AMD komt prima mee met Nvidia als het gaat om klanten naaien.
Ik zit zelf te wachten op Intel's Nova Lake AX, niet omdat ik Intel een goed bedrijf vind, die hebben behoorlijk hun best gedaan om hun reputatie te vernietigen, maar omdat ze de underdog zijn en ik hoop dat we een derde speler krijgen in de GPU duopolie.
Ik wacht rustig de M5 Ultra 256GB af. En die kan best wel gamen. Er is zat beschikbaar tegenwoordig en het aantal decompilation ports naar native Apple silicon neemt alsmaar toe. En dat allemaal in een stille box op je bureau. Het enige meh met Apple in dit geval is dat de 128GB alleen met M5 Max bestaat. Die kost trouwens ook zo'n 6000€, dus die zou je met deze nvidia laptop kunnen vergelijken. De M5 Ultra met 96GB (6400€) sjeest deze aan alle kanten voorbij, maar dan zit je met 'slechts' 96GB RAM.
[Reactie gewijzigd door salipander op 15 oktober 2026 14:20]
Ik snap niet goed waarom dit naar meer smaakt? Het underperformed vergeleken met concurrerende laptops, en is veel duurder dan die laptops. Hier heb je een laptop die half zo goed is als deze concurrerende laptop, die een derde meer kost??? Dit is toch gewoon een sales pitch voor een product die geen hond verkocht krijgt?
Dit is de eerste generatie van een nieuwe productlijn met volgende generaties die moeten verschijnen in 2028 en 2030. AMD Ryzen was in de eerste generaties ook niets bijzonders, maar vanaf Zen 3 begon het concurrerend te worden tegen de producten van Intel.
Dus er is inderdaad hoop dat ze snel kunnen itereren en de prestaties flink omhoog kunnen krikken binnen een paar jaar. We zullen zien in hoeverre dat in de praktijk het geval zal zijn. Ik hoop dat Nvidia op een gegeven moment de eigen Olympus cores gaat gebruiken in zijn eigen SoC's in plaats van cores van ARM.
Hoeveel zou zo’n ding nou gekost hebben voor de geheugenmadness? Deze prijzen zeggen mij niks meer, net als gewone videokaarten. Wachten op betere tijden, lees normale prijzen voor geheugen.
Deze toch maar gepreordered. De order is nog in verwerking. Ik geloof in lokale AI als dagelijkse assistent. Geen afhankelijkheid van diensten die uit de lucht kunnen gaan of opeens hun abonnementsstructuur omgooien. Privacy. Onbeperkte tokens. Niet de slimste, maar voor dagelijks gebruik hopelijk voldoende.
In Cinebench Multi zie je dat de Nvidia-cpu sneller is dan Intel Panther Lake- en AMD Zen 5-processors.
Uhh, is de 395+ niet een klein beetje sneller in de specifieke test die je noemt?
Dit soort Tflops zijn bovendien niet vergelijkbaar met de prestatiecijfers die vaak bij gaming-gpu's worden getoond. Die zijn gebaseerd op aanzienlijk zwaardere fp32-berekeningen. Als je die vergelijking wilt maken: de RTX Spark N1X-gpu haalt in theorie zo'n 28Tflops aan fp32-rekenkracht, blijkt uit data van TechPowerUp.
De grap hiervan is dat Nvidia z'n "AI tops" definieert als sparse 4bit AI werk. Die definitie kan veranderen, maar op het moment is 1 tflop (fp4 sparse) = 1 top.
5090: 3352 AI TOPS
5080: 1801 AI TOPS
5070 TI: 1406 AI TOPS
5070: 988 AI TOPS
Als we er van uit gaan dat "meer dan 1 pf" van de Spark ongeveer gelijk is aan 1001 AI tops, (want de spark is ongeveer even krachtig als de 5070), dan is een 5090 factor 3.3 sneller in prefill. Decode hangt idd af van memory GB/s, dus dat verschil is nog veel groter.
Overigens het vermelden waard dat een Q4_K (S/M/XL) quant aanzienlijk minder snel is dan bijv. een BF16 of NVFP4 versie van hetzelfde model, omdat er meer compressie op zit. Je kunt met je 5090 of DGX/RTX Spark veel meer total throughput krijgen als je bijvoorbeeld VLLM of ninfer gebruikt.
:fill(white):strip_exif()/i/2008443632.jpeg?f=thumblarge)
:strip_exif()/i/2008458780.jpeg?f=imagegallery)
/i/2008454392.png?f=imagegallery)
:strip_exif()/i/2008458198.jpeg?f=imagegallery)
:strip_exif()/i/2008458200.jpeg?f=imagegallery)
:strip_exif()/i/2008458202.jpeg?f=imagegallery)
:strip_exif()/i/2008458204.jpeg?f=imagegallery)
/i/2008458190.png?f=imagegallery)
/i/2008458192.png?f=imagegallery)
/i/2008454374.png?f=imagegallery)
:strip_exif()/i/2008458206.jpeg?f=imagegallery)
:strip_exif()/i/2008458762.jpeg?f=imagegallery)
:strip_exif()/i/2008458770.jpeg?f=imagegallery)
:strip_exif()/i/2008458778.jpeg?f=imagegallery)
:strip_exif()/i/2008458754.jpeg?f=imagegallery)
/i/2008458178.png?f=imagegallery)
/i/2008458176.png?f=imagegallery)
/i/2008458180.png?f=imagegallery)
/i/2008458182.png?f=imagegallery)
/i/2008458184.png?f=imagegallery)
/i/2008458186.png?f=imagegallery)
/i/2008458188.png?f=imagegallery)
:strip_exif()/i/2008197078.jpeg?f=imagegallery)
:strip_exif()/i/2008458826.jpeg?f=imagegallery)
:fill(white):strip_exif()/i/2008443652.jpeg?f=thumbmedium)
:strip_icc():strip_exif()/i/2008381462.jpeg?f=fpa_thumb)
:strip_icc():strip_exif()/i/2008113238.jpeg?f=fpa_thumb)
:strip_icc():strip_exif()/i/2008022874.jpeg?f=fpa_thumb)
/i/2008197398.png?f=fpa)
:strip_exif()/i/2005044018.jpeg?f=fpa)
:strip_exif()/i/2008328348.jpeg?f=fpa)
:strip_exif()/i/2007690972.jpeg?f=fpa)
:strip_icc():strip_exif()/u/30256/right_of_way_065.jpg?f=community)
:strip_icc():strip_exif()/u/422157/crop5e31b76d02d1e_cropped.jpeg?f=community)
/u/244207/crop5c38ae2351fe1.png?f=community)
/u/286848/crop5893df624a917.png?f=community)
:strip_icc():strip_exif()/u/222663/crop61f28ed7aa3a6_cropped.jpg?f=community)
/u/468821/crop594848c6b86e5.png?f=community)
:strip_exif()/u/284473/crop598caffe294d9.gif?f=community)
/u/595478/crop60bfdcb4ab66e_cropped.png?f=community)