Framework wilde de laptopwereld veranderen met repareerbaarheid en upgradebaarheid, en trekt dat nu door naar zijn eerste desktop-pc. De gebruikte AMD Ryzen AI Max+ 395-processor is razendsnel en heeft een geïntegreerde gpu die ongeveer net zo snel is als een RTX 4060. Ook kunnen configuraties met veel ram grote AI-modellen draaien, al gaat dat wel traag. Met een vaste processor en gesoldeerd geheugen komt het onderscheidende Framework-concept alleen niet echt goed uit de verf, terwijl de prijzen die het bedrijf vraagt voor zowel de pc zelf als alle accessoires stevig zijn.
De wereld van consumentenelektronica was kapot en Framework ging dat fixen. Met die belofte bracht de Amerikaanse fabrikant in 2022 zijn Laptop op de markt, die volledig te configureren en makkelijk te repareren was – en zoals later bleek ook te upgraden naar nieuwe hardwaregeneraties. Kan Framework ook de markt voor pc's opnieuw uitvinden met zijn nieuwe – je raadt het nooit – Framework Desktop?
Dat is een pittige opgave, want het grootste deel van wat de Framework Laptop uniek maakte, is in de desktopwereld gemeengoed. Modulair zijn vrijwel alle pc's: misschien niet tot op het punt dat je zelf kunt kiezen welke aansluitingen er op de voorkant zitten, maar je kunt natuurlijk wel een kast uitzoeken die precies de poorten heeft die jij wilt hebben. Upgrade- en repareerbaarheid is ook niets nieuws. In een zelfbouwdesktop zijn alle onderdelen per definitie vervangbaar en ook in mini-pc's is het eerder regel dan uitzondering dat je het geheugen, de ssd('s) en het wifikaartje kunt vervangen.
In de doos
De Framework Desktop wordt geleverd in een ongebleekte kartonnen doos en is intern onderverdeeld met kartonnen inlays. Het is deels een zelfbouwpakket: het zijpaneel, eventuele bijbestelde ssd's, fans, tiles en poortmodules installeer je zelf. In de doos zit de benodigde schroevendraaier. Naar eigen zeggen is 30 procent van het voor de pc gebruikte plastic en de helft van het aluminium gerecycled.
Als basis voor zijn desktop heeft Framework gekozen voor de Ryzen AI Max-processors van AMD. Deze megachip bevat naast zestien Zen 5-cores ook een enorme geïntegreerde gpu met maximaal veertig compute-units. Ons testexemplaar bevat het topmodel, de Ryzen AI Max+ 395, en die processor kwamen we eerder al tegen in onze reviews van de ROG Flow Z13 en de GMKtec EVO-X2. Zeker die laatste mini-pc is uitstekend vergelijkingsmateriaal.
De vanafprijs van de Framework Desktop is 1279 euro. Voor dat bedrag krijg je de wat minder snelle Ryzen AI Max 385-cpu en 32GB ram. De Desktop met de 395-cpu kost 1859 euro met 64GB ram of 2329 euro met 128GB ram. Dan ben je er alleen nog niet, want er zijn een hoop zaken die je in de configurator kunt toevoegen. Sommige daarvan zijn noodzakelijk om er een complete en werkende pc van te maken, zoals een ssd, een ventilator voor op de cpu-koeler, een stroomkabel, tiles en poortmodules voor op de voorzijde, en als je Windows gebruikt een licentie voor het OS. Effectief belandt de vraagprijs voor ons testmodel met een 2TB-ssd daarmee op 2899 euro. Framework geeft in onze regio twee jaar garantie.
Specificaties
Framework Desktop - Max 385
Framework Desktop - Max+ 395
Processor
AMD 'Strix Halo' Ryzen AI Max 385 (8 Zen 5-cores, boost 5,0GHz)
AMD 'Strix Halo' Ryzen AI Max+ 395 (16 Zen 5-cores, boost 5,1GHz
Gpu
Radeon 8050S 32 CU's (geïntegreerd)
AMD Radeon 8060S 40 CU's (geïntegreerd)
Geheugen aanwezig
32GB Lpddr5x-8000
64GB of 128GB Lpddr5x-8000
Opslag aanwezig
Geen
Opslagslots
2x M.2 2280 (PCIe 4.0 x4)
OS
Geen
Afmetingen
22,6x20,6x9,7cm (4,5L)
Aansluitingen voorkant
2x Framework-poortmodule keuze uit: USB-C (10Gbit/s), USB-A (10Gbit/s), (micro)SD-kaartlezer, ethernet, 3,5mm-jack of opslaguitbreiding (250GB of 1TB)
Wi-Fi 7 (160MHz) + Bluetooth 5.3 (Mediatek MT7925)
Basisprijs zonder ssd, fan, OS, stroomkabel en tiles
32GB ram: 1279 euro
64GB ram: 1859 euro 128GB ram: 2329 euro
Upgrades
Ssd's: vanaf 79 euro (500GB) Cpu-fan: vanaf 20 euro Stroomkabel: 6 euro Doorzichtig zijpaneel: 45 euro Tiles voorzijde: vanaf 36 euro Aansluitingen voorzijde: vanaf 20 euro Windows: vanaf 145 euro (Home)
Garantie
2 jaar
Buitenkant, binnenkant en software
De Framework Desktop meet 22,6 bij 20,6 bij 9,7 centimeter, wat neerkomt op een inhoud van 4,5 liter. Om het wat praktischer te illustreren: denk aan drie literpakken melk achter elkaar, maar dan een paar centimeter breder. Dat is een aardig stuk forser dan de GMKtec EVO-X2 die ik laatst reviewde en waarin dezelfde cpu zat. Met een volume van 2,8 liter was die bijna veertig procent kleiner.
Framework heeft de extra ruimte vooral nodig omdat het de standaard mini-ITX-formfactor gebruikt voor het moederbord. Hoewel ietwat ongebruikelijk in de zelfbouwwereld, is ook de Flex-ATX-voeding gestandaardiseerd en worden gewone 24- en 8-pinsvoedingsaansluitingen gebruikt. Framework verkoopt het moederbord ook los en je zou dat dus in ieder ITX-kastje kunnen installeren, maar de prijzen daarvoor zijn wel stevig. Je krijgt als je alleen de printplaat koopt steeds 350 euro korting ten opzichte van het complete systeem.
Tiles, poortmodules en aansluitingen
De voorkant van de Framework Desktop bestaat voor een groot deel uit een afneembare plastic tray, waarin je eenentwintig tiles kunt monteren. Je kunt die zelf 3d-printen of meebestellen. Leeg laten is niet echt een optie, want dan kijk je tegen het kale stalen frame van het chassis aan. De goedkoopste manier om het voorpaneel op te vullen is met drie setjes van zeven zwarte tiles, wat je 12 euro per pakje oftewel 36 euro in totaal kost. Voor toffere kleurtjes betaal je 18 euro per pakje van zeven tiles en speciale, dichte tiles met bijvoorbeeld een Framework- of AMD-logo kosten zelfs 6 euro per stuk. Plaats die liever niet in de bovenste drie rijen, want daarachter zit een grote ventilatieopening.
Helemaal onderaan de voorkant zijn in een aluminium rand twee openingen voor de karakteristieke poortmodules van het bedrijf aangebracht. Je kunt bij het bestellen van een Desktop kiezen uit alle modules, zolang ze genoeg hebben aan de 10Gbit/s-USB-interface die van de poortmodules naar het moederbord loopt. HDMI of DisplayPort kan dus niet, maar USB-C (voor data), USB-A, ethernet, een audiojack, een kaartlezer of een opslaguitbreiding behoren dus wel tot de mogelijkheden. Ethernet zit al achterop en voor het uitbreiden van opslag kun je beter aan de binnenkant van de pc zijn. USB-poorten, een makkelijker bereikbare audiojack of een kaartlezer zijn dus de meest logische opties. Wat mij betreft zijn de poortmodules alleen wel erg dicht op de onderkant geplaatst; met een beetje een dikke USB-stick leunt de pc al gauw half op de flashdrive in plaats van zijn erg bescheiden pootjes.
Framework liet ons vlak voor publicatie weten dat de USB-C-poorten op dit moment maximaal 1,5A leveren, wat voor sommige apparaten te weinig kan zijn en maakt dat je telefoon ermee opladen erg langzaam gaat. Een toekomstige update moet de maximale stroomsterkte verhogen naar 3A.
De achterkant van het mini-ITX-moederbord is uitgerust met reguliere vaste aansluitingen. De snelste daarvan zijn twee volwaardige USB4-poorten, maar je krijgt ook tweemaal USB-A, drie monitoraansluitingen en 5Gbit/s-ethernet (Realtek). Ten slotte zijn er een 3,5mm-jack en een aansluiting voor een stroomkabel aanwezig. Dat is een reguliere C13-kabel die ook in pc-voedingen gaat, dus als je er daarvan nog een hebt liggen, kun je daarop alweer 6 euro besparen bij het bestellen.
Het zijpaneel aan de linkerkant is gemaakt van plastic en voorzien van perforaties waar de cpu-fan zit. Dat geldt ook voor het duurdere doorzichtige zijpaneel, dat is gemaakt van acrylglas. Het rechter zijpaneel, eveneens van plastic, is volledig gesloten. Dat geldt ook voor het bovenpaneel, al kun je de twee schroeven daar straks vervangen door een beugel om de pc makkelijk mee op te tillen. Die komt pas later dit jaar beschikbaar en het montagemechanisme van het door ons ontvangen prototype maakte op mij nog geen heel stevige indruk. Bij het vastschroeven aan de kast schroef je in feite aan de kant van het handvat weer een beetje los – vast niet ver genoeg om hem echt los te laten gaan, maar voor je gevoel zit hij toch niet helemaal vast.
In elkaar zetten
Voor het in elkaar zetten van de Framework Desktop heeft de fabrikant een 45 stappen tellende handleiding beschikbaar. Dat klinkt afschrikwekkender dan het is: veel van de stappen zijn erg klein en repetitief. Zo doet de handleiding vier stappen over het loshalen van de twee schroeven op het bovenpaneel en verderop vijf stappen over het weer vastschroeven daarvan.
Dat kan een stuk sneller. Om te beginnen moet je de ssd installeren in het primaire slot aan de voorkant van het moederbord, waarop alvast een mooie heatsink zit. Een eventuele tweede ssd plaats je in het secundaire slot op de achterkant van de printplaat, waar ook het voorgemonteerde wifikaartje zit. De lowprofile-cpu-koeler zit ook al voorgeïnstalleerd, alleen de fan nog niet – daarvan kun je immers bij het bestellen kiezen welke je exact wilt. Je plaatst de fan, daarbovenop leg je de meegeleverde fanduct, die de ventilator laat aansluiten op de openingen in het zijpaneel, en dat geheel schroef je vast. Na het aansluiten van de fanconnector en indien van toepassing het rgb-kabeltje – waar je bij komt via een opening in de bovenkant, vandaar dat het bovenpaneel los moest – ben je klaar met de binnenkant. Het plaatsen van de poortmodules aan de voorkant is ten slotte een kwestie van ze op hun plek klikken.
Het moederbord is overigens wat atypisch vormgegeven. Zo zitten de voedingsconnectors aan de onderkant, wat vooral handig is als de voeding zich onder het moederbord bevindt, zoals in de Framework Desktop het geval is. Daarnaast valt op dat er een PCIe x4-slot is aangebracht, dat in de Desktop niet gebruikt kan worden vanwege de geringe breedte. Dit zit er dus puur voor als je het losse moederbord koopt en dat plaatst in een andere, grotere behuizing. Geheugenslots zijn er niet, want de gebruikte Ryzen AI Max+-processors ondersteunen uitsluitend gesoldeerd Lpddr5x-geheugen. De snelheid daarvan ligt meestal hoger dan die van SO-DIMMs, dus dat is een voordeel. Je moet echter bij aanschaf een hoeveelheid geheugen kiezen waar je vervolgens aan vastzit.
Bios en software
Voor de Framework Desktop gebruikt de fabrikant, net als voor zijn laptops, een UEFI-bios van het Taiwanese Insyde. Het bios biedt mogelijkheden om de bootvolgorde aan te passen, wake-on-lan aan te zetten, de fancurve te veranderen en de hoeveelheid ram die als vram wordt gereserveerd te verhogen. Dat laatste kan overigens ook via de AMD-software, dus daarvoor hoef je niet per se het bios in. Opties om de powerlimit van de processor aan te passen, zoals in het bios van de GMKtec EVO-X2 kon, zijn bij de Framework Desktop niet toegankelijk.
Er staat geen OS voorgeïnstalleerd. Je moet dus zelf Windows of een Linux-distro installeren vanaf een USB-stick. Framework biedt anders dan een driverbundel geen eigen software aan.
Cpu-, gpu- en ssd-benchmarks
In de grafieken vind je ter vergelijking diverse recent geteste mini-pc's terug. Daarbij hebben we vooral de wat krachtigere apparaten uitgezocht met de nieuwste generaties cpu's. Ook vind je ter referentie enkele desktop-cpu's terug in grafieken waarbij dat mogelijk is.
De Framework Desktop presteert in Cinebench net wat beter dan de eerder geteste GMKtec EVO-X2, die gebruikmaakt van dezelfde processor. De multithreaded score komt ruim 3 procent hoger uit, de singlethreaded score slechts één punt, wat eigenlijk binnen de foutmarge is. De multithreaded prestaties blijven duidelijk het sterke punt van de AMD Ryzen AI Max+ 395-processor: hij is dan net zo snel als een Ryzen 9 9900X. Singlethreaded laat hij ten opzichte van die AM5-cpu 16 procent aan prestaties liggen.
Framework weet meer uit de gpu te persen dan ASUS en GMKtec deden. De 3DMark Night Raid-score komt uit op bijna 124.000 punten. Verderop in deze review vind je veel meer gamebenchmarks.
PCMark 10 test de algemene systeemprestaties. In de meeste deeltests is de GMKtec nipt sneller; alleen in de Gaming-test doet de Framework Desktop het bijna 6 procent beter.
Bij ons testexemplaar kregen we een WD Black SN7100-ssd van 2TB. Dat is een vlotte ssd, maar ook GMKtec had in zijn mini-pc met deze cpu een snelle ssd geïnstalleerd.
Gamebenchmarks
Omdat de geïntegreerde gpu in de AMD Ryzen AI Max+ 395-processor veel sneller is dan normale geïntegreerde graphics, vergelijken we in games voornamelijk met desktopvideokaarten. Die zijn getest in combinatie met de 9800X3D-cpu van ons standaard gpu-testplatform. Uiteraard staat ook de GMKtec EVO-X2 met dezelfde cpu als de Framework Desktop in de grafieken.
In twee van de games vind je daarnaast testresultaten van de Minisforum UM890 Pro met een extern gpu-dock, een andere manier om aan goede gameprestaties in een mini-pc te komen.
Avatar: Frontiers of Pandora
1920x1080 - Medium
1920x1080 - Ultra
2560x1440 - Medium
2560x1440 - Ultra
3840x2160 - Medium
3840x2160 - Ultra
Avatar: Frontiers of Pandora - 1920x1080 - Medium
Videokaart
Minimum- / Gemiddelde framerate in fps (hoger is beter)
In Avatar: Frontiers of Pandora is de Framework Desktop op alle resoluties en settings sneller dan de GMKtec EVO-X2, behalve op 1080p Medium. Gemiddeld genomen liggen de prestaties zo'n 15 procent hoger. Toch blijft het een zwaar spel voor deze hardware; veel verder dan 1080p Ultra of 1440p Medium moet je niet willen gaan.
Cyberpunk 2077
1920x1080 - Medium
1920x1080 - Ultra
2560x1440 - Medium
2560x1440 - Ultra
3840x2160 - Medium
3840x2160 - Ultra
Cyberpunk 2077 - 1920x1080 - Medium
Videokaart
Minimum- / Gemiddelde framerate in fps (hoger is beter)
In Cyberpunk 2077 liggen de gemiddelde framerates meestal iets hoger dan bij de GMKtec, terwijl de naar minimale fps omgerekende 99p-frametimes juist iets slechter zijn. Over het algemeen zijn de framerates een stuk comfortabeler dan in Avatar: Frontiers of Pandora. Op 1440p gamen lukt prima, al zou je FSR kunnen gebruiken voor nog net wat betere prestaties.
1920x1080 - DXR
2560x1440 - DXR
3840x2160 - DXR
Cyberpunk 2077 - 1920x1080 - Ultra (DXR - Ultra)
Pc
Minimum- / Gemiddelde framerate in fps (hoger is beter)
De RDNA 3.5-gpu in de Ryzen AI Max+ heeft nog niet de verbeterde raytracingcores van de Radeon RX 9000-serie. De prestaties met DXR ingeschakeld vallen daarom tegen, maar je kunt je afvragen in hoeverre een gpu met dit prestatieniveau eigenlijk geschikt is voor raytracing.
F1 24
1920x1080 - Medium
1920x1080 - Ultra
2560x1440 - Medium
2560x1440 - Ultra
3840x2160 - Medium
3840x2160 - Ultra
F1 24 - 1920x1080 - Medium
Videokaart
Minimum- / Gemiddelde framerate in fps (hoger is beter)
In F1 24 doet de Framework Desktop het wederom net wat beter dan de GMKtec EVO-X2. Op 1080p Ultra meten we gemiddeld 120fps en ook op 1440p Ultra kun je met gemiddeld 94fps nog uitstekend gamen. Zelfs een potje racen op 4k is mogelijk, al is de hoogste Ultra-preset net wat te veel gevraagd om nog gemiddeld 60fps te halen.
1920x1080 - DXR
2560x1440 - DXR
3840x2160 - DXR
F1 24 - 1920x1080 - Ultra - DXR
Videokaart
Minimum- / Gemiddelde framerate in fps (hoger is beter)
Op full-hd-resolutie kun je F1 24 eventueel nog spelen met raytracing aan, al valt op dat de frametimes minder goed zijn dan die van desktopvideokaarten met een vergelijkbaar prestatieniveau in gemiddelde fps. Op 1440p en 4k kun je raytracing vergeten, tenzij je upscaling gebruikt.
Stalker 2: Heart of Chornobyl
1920x1080 - Medium
1920x1080 - High
2560x1440 - Medium
2560x1440 - High
3840x2160 - Medium
3840x2160 - High
Stalker 2: Heart of Chornobyl - 1920x1080 - Medium
Videokaart
Minimum- / Gemiddelde framerate in fps (hoger is beter)
In Stalker 2: Heart of Chornobyl presteert de Framework Desktop juist wat minder goed dan de GMKtec-pc met dezelfde processor. Zelfs op 1080p Medium wordt de 60fps net niet gehaald. De game ondersteunt wel FSR, dus daarmee kun je toch nog een beter speelbare ervaring krijgen.
AI-benchmarks
Dankzij de grote hoeveelheid ram die Framework koppelt aan de Ryzen AI Max+ 395-processor, 128GB in het geval van ons testmodel, zou de Desktop zich ook goed kunnen lenen voor het lokaal draaien van AI-modellen. Dat werkgeheugen dubbelt immers als vram voor de geïntegreerde gpu.
De testresultaten van losse videokaarten zijn afkomstig uit mijn eerdere artikel met AI-benchmarks op videokaarten. Hoewel er inmiddels natuurlijk nieuwere drivers zijn en ook sommige van de gebruikte AI-tools inmiddels geüpdatet zijn naar een nieuwe versie, bleek uit een check met een RTX 5070 Ti-videokaart dat de resultaten van MLPerf Client, Procyon AI Image Generation en de geteste llm's nog altijd goed vergelijkbaar zijn.
Voor de AI-benchmarks hebben we gebruikgemaakt van de nieuwste AMD-driverupdate, die de prestaties in AI-toepassingen zou moeten verbeteren, vooral bij het draaien van zeer grote modellen.
MLPerf is een gestandaardiseerde AI-benchmark op basis van een Llama2-taalmodel. De Framework Desktop haalt een totaalscore van 40,0t/s, waarmee hij 9 procent langzamer is dan de andere geteste systemen met een Ryzen AI Max+ 395-processor. Ook de gemiddelde time to first token is net wat langer dan bij de GMKtec EVO-X2.
Stable Diffusion
Stable Diffusion 1.5 (FP16)
Stable Diffusion XL (FP16)
Procyon AI Image Generation - Stable Diffusion 1.5 (FP16)
Met Procyon AI Image Generation testen we het maken van plaatjes met twee Stable Diffusion-algoritmes. Zowel het snellere SD1.5-model als het zwaardere SDXL-model zijn op de Framework Desktop net wat sneller dan op de EVO-X2. De ROG Flow Z13 kon de SDXL-test niet draaien, omdat die in totaal maar 32GB ram heeft.
Llm's via LM Studio (Gemma 3, DeepSeek R1 Qwen, Llama 3.3)
Via LM Studio testen we diverse taalmodellen. Die variëren in grootte, waardoor ze soms wél binnen het vram van een bepaalde gpu passen en soms niet.
Tokens per seconde
Time to first token
Gemma 3 4b is het kleinste taalmodel dat we testen. Omdat dit zo'n klein taalmodel is, maakt de grootte van het vram niet uit. De Framework Desktop is hier net zo snel als de GMKtec EVO-X2.
Tokens per seconde
Time to first token
Het grotere 12b-model uit de Gemma 3-familie is inclusief overhead te groot voor het vram van bijvoorbeeld de RTX 4070 Super en RTX 5070. Die presteren daarom nauwelijks nog beter dan de geïntegreerde gpu in de systemen met een Ryzen AI Max+ 395. De Framework Desktop is net wat sneller dan de GMKtec EVO-X2 en ROG Flow Z13 bij het genereren van een antwoord, maar de time to first token van de GMKtec was wel iets beter.
Tokens per seconde
Time to first token
Bij het 27b-model begint de hoeveelheid vram zwaar te tellen. De RTX 5090 blijft de andere kaarten en pc's mijlenver voor, maar de Framework Desktop weet wel bijna de RTX 4090 te evenaren, een kaart die eind vorig jaar nog het absolute topmodel van Nvidia was. Houd er wel rekening mee dat de snelheid van zo'n groot model beperkt is. Met de behaalde 9,2t/s duurt het bijna anderhalve minuut voordat een antwoord van 800 woorden compleet is. Voor sommige usecases is dat bruikbaar, maar als je iteratief wil werken met een chatbot, moet je dus wel erg lang wachten.
Tokens per seconde
Time to first token
Thought for ...
Het op Deepseek R1 gebaseerde Qwen 14B-model past in het vram van meer losse videokaarten, die door hun grotere rekenkracht en hogere geheugenbandbreedte beter scoren. De Framework Desktop komt wederom net iets boven de andere pc's met dezelfde cpu uit als het op doorvoersnelheid aankomt, maar de GMKtec blijft vlotter als het om de time to first token gaat.
Tokens per seconde
Time to first token
Bij het grote Llama 3.3-model met 70 miljard parameters zijn de grafieken een stuk korter: met 42,5GB is ook de Q4-versie te groot voor het vram van zelfs een RTX 5090. Dit type taalmodellen draait alleen op supercomputers in datacenters of op systemen met heel veel vram. De Framework Desktop is net zo snel (of langzaam) als de GMKtec en het eerste woord komt pas na een wachttijd van twintig seconden tevoorschijn.
Tokens per seconde
Time to first token
De volledige Q8-versie van Llama 3.3 is nog beter en preciezer, maar daardoor ook nog groter: 75GB. Het model werkt, maar dan wel tergend traag met een snelheid van iets meer dan 1 token per seconde. Dit is leuk als je precies weet wat je wil hebben en in de tussentijd een kop koffie gaat zetten. Het eerder genoemde voorbeeld met een antwoord van 800 woorden duurt bijna 11 minuten op deze pc.
Duurtest
Vaak vormen de stroomtoevoer en de koeling beperkingen voor de prestaties van een mini-pc op de lange termijn. Daarom voeren we onze duurtest uit, waarin we de processor maximaal belasten met de Cinebench R23 MT-test.
Kloksnelheid
Temperatuur
Packagepower (verbruik)
De processor mag van Framework kort naar 120W boosten, maar stabiliseert vervolgens op 100W. Dat is 15W meer dan bij de GMKtec mini-pc met dezelfde processor, die daarin continu 85W mocht verbruiken. Desondanks weet Framework de temperatuur van de processor beter in bedwang te houden. In de behaalde kloksnelheid zien we echter nauwelijks verschil.
We doen ook een duurtest in Blender, waarin we ook een goede vergelijking kunnen maken tussen Windows-gebaseerde systemen en Macs. Na enkele renders stabiliseert de tijd per render op 8,4 seconde, waarmee de Framework Desktop iets sneller is dan de GMKtec EVO-X2, die 9 seconde per render nodig heeft. Daarmee is de Framework Desktop duidelijk vlotter dan de Mac mini met M4 Pro (9,8 seconde), maar blijft de Mac Studio met M3 Ultra met 5 seconde per render aanzienlijk sneller.
Energiegebruik, temperatuur en geluidsproductie
Naast de prestaties is het uiteraard ook van belang hoeveel stroom de Framework Desktop verbruikt, hoe warm de onderdelen worden en hoeveel geluid de ventilators produceren.
Uitgeschakeld verbruikt de Framework Desktop nog 0,4W. Alleen Apple doet dat nog net iets beter. In idle meten we 11,6W en in vergelijking met de GMKtec mini-pc is dat keurig. Onder belasting piekt de Desktop op 187W, vergelijkbaar met wat die mini-pc met dezelfde cpu deed.
De maximale temperatuur ligt met 88 graden wat lager dan bij de EVO-X2. Bovendien zagen we in de duurtest dat die piektemperatuur slechts zeer kortstondig wordt bereikt en de stabiele temperatuur bij een continue belasting nog ruimschoots lager ligt.
Framework weet de Ryzen-chip beter in bedwang te houden dan GMKtec als het om de geluidsproductie gaat, in elk geval met de Cooler Master Mobius 120-ventilator waarmee ons testmodel was uitgerust.
Bij lichte workloads is de Desktop haast onhoorbaar: we meten 18dB in de browserbenchmark WebXPRT 3 en ook de relatief lichte PCMark 10 Express-test levert met 23dB nog een nauwelijks uitslaande geluidsmeter op. Wel zul je de fan duidelijk horen wanneer de processor langere tijd zwaar wordt belast, zoals in onze Blender-test. De 41dB die we dan meten is echter nog altijd lager dan bij de EVO-X2 van GMKtec. Bovendien blijft de Framework Desktop tijdens het gamen ook een stuk stiller.
Voor de subjectieve geluidsbeleving maakt het daarnaast ook uit dat Framework een grotere 120mm-ventilator gebruikt, die een rustiger, dieper geluid maakt dan de kleinere radiale fans in de GMKtec.
Conclusie
In de laptopwereld was het concept van Framework gerust baanbrekend te noemen. In een wereld van gesoldeerd geheugen en vaak modelspecifieke, lastig verkrijgbare onderdelen was de modulaire, repareerbare en upgradebare aanpak van Framework voor veel tweakers een welkome toevoeging.
Framework probeert datzelfde label te plakken op zijn eerste desktop-pc en dat lukt toch minder goed. Desktops zijn doorgaans al upgradebaar en repareerbaar, zelfs mini-pc's met een vaste processor. Hoewel de Strix Halo-cpu's van AMD een bijna onverslaanbare optie zijn als het gaat om heel veel cpu- en gpu-prestaties in een kleine formfactor, zijn ze met hun bga-package en vastgesoldeerde geheugen eigenlijk een beetje een gekke keuze als goede upgrade- en repareerbaarheid het doel is.
Wankel upgradepad
De enige manier om bij de Framework Desktop na aanschaf nog de cpu of het ram te upgraden, is het vervangen van het complete moederbord – een beetje zoals het bij Framework-laptops ook werkt. Dan moet er natuurlijk wel een opvolger voor de Ryzen AI Max+-cpu's komen. Publiek heeft AMD daar nooit iets over gezegd en vorige maand dook het gerucht op dat AMD de beoogde opvolger heeft geannuleerd.
Dan rijst direct de vraag waarnaartoe Framework nog zou kunnen upgraden; een normale mobiele cpu van de volgende generatie betekent dan per definitie ook een grote stap terug in grafische prestaties en een losse videokaart past er vanzelfsprekend niet in. De tijd zal het leren; hoewel Framework een standaard formfactor gebruikt, kun je er dus niet zomaar van uitgaan dat er over een tijdje een logische upgradeoptie klaarstaat.
Je kunt je bovendien afvragen hoe nuttig de keuze voor een ITX-moederbord is als de cpu en het ram toch niet upgradebaar zijn en een losse videokaart niet past – het maakt de pc immers groter dan strikt noodzakelijk.
Ryzen AI Max+ blijft een indrukwekkende chip
De AMD-chip in de Framework Desktop blijft voor nu een razendsnelle processor en ook voor de niet al te veeleisende gamer is het een mooie optie. Het is alleen jammer dat de gpu-architectuur net te oud is voor FSR 4.
De mogelijkheid om grote AI-modellen te draaien is er dankzij de grote hoeveelheid ram, maar de rekenkracht daarvoor ontbreekt eigenlijk, zoals ik vorige maand ook al concludeerde in mijn review van de GMKtec EVO-X2 met dezelfde processor. Er zijn usecases te bedenken waarvoor dat niet zo'n probleem is, bijvoorbeeld als je dezelfde prompt steeds op andere data wilt loslaten en daarop prima kunt wachten, maar voor het gebruikelijke heen en weer chatten met een llm is zo'n enorm taalmodel zelfs op deze pc in de praktijk weinig bruikbaar.
De Framework Desktop naast de eerder geteste GMKtec EVO-X2
Tof en stil, maar ook groot en duur
Met dezelfde cpu, evenveel ram en een net zo grote ssd, is die EVO-X2 het meest logische vergelijkingsmateriaal voor de Framework Desktop. Het alternatief van GMKtec is fysiek een maatje kleiner, doordat de printplaat niet groter is dan nodig, en vooral veel goedkoper: voor dezelfde configuratie scheelt het 900 euro. Bovendien krijg je bij Framework minder poorten. Daar staat tegenover dat het koelsysteem van de Framework Desktop stiller werkt en je langer garantie krijgt, wat bij zo'n grote uitgave zeker prettig is.
De Framework Desktop is onder de streep vooral gewoon een toffe game- en AI-pc die makkelijk mee te nemen is. Hij is wat groter dan alternatieven en bovendien prijzig, maar zet daar enkele unieke features tegenover. Juist de zaken die Framework uniek zouden moeten maken, komen echter in de desktopformfactor wat minder goed uit de verf.
Ja idd, ik vraag me af hoe geoptimaliseerd de LLM software uit deze benchmark is. Was niet het grote voordeel van het unified memory hier dan je een 128GB GPU soort van hebt? Of het valt dus idd erg tegen, dat maakt t dan een weinig aantrekkelijke machine.
De bottleneck in LLM inference is RAM bandwidth. Ik weet niet precies wat voor soort optimalisaties FastFlowLM of Ryzen AI hebben die llama.cpp niet heeft, maar gewone DDR5 RAM gebruiken voor inference, of je het nou doet met een CPU er aan gekoppeld of een GPU maakt weinig verschil uit voor de snelheid.
De voornaamste reden dat het wél goed werkt bij Apple is omdat hun RAM ongelooflijk snel is.
Wat cool is aan de framework desktop is dat ze LPDDR5 RAM gebruiken en uitkomen op een bandwidth van 256GB/s
Als je een GPU koopt voor inference dan is bijvoorbeeld de 3090 erg populair, ik zal ter vergelijking ook de 4090, 5090 en 7900xtx er bij zetten. De meest populaire GPU op dit moment volgens de steam survey is de RTX 3060, die nemen we er voor het idee ook bij:
Je kan zo dus goed zien waarom zelfs deze coole AI-branded PC niet per sé zo geschikt is voor LLM inference. Het is zeker sneller dan wanneer je gebruik maakt van een CPU-only inference op een gemiddelde high-end desktop PC.
Het grote voordeel van een PC zoals deze is dat je meer RAM hebt om een groter model op te laden dan bij GPU setups. Veel modellen heb je wel meer dan 24GB RAM nodig om een daadwerkelijk nuttige LLM te hebben (afhankelijk van je taak.).
Ik gebruik persoonlijk een 7900xtx met een GPU-offloading d.m.v. llama.cpp, als je gebruik maakt van MoE modellen dan kan je het grootste gedeelte van het model op je gewone RAM zetten en het belangrijkste deel van het model op je GPU RAM. Dit kan bij de recent uitgebrachte OpenAI modellen, of bijvoorbeeld bij Qwen3-30B-instruct, welke echt geweldig is als locale coding assistent.
Heb diverse benchmarks gezien met quantized models die 1000 tokens per second generen. Daarnaast maakt het een enorm verschil of een model op vulkan of rocm draait.
Was interessant geweest om de Mac Mini in de AI benchmarks mee te nemen. Een stuk goedkoper dan deze desktop (en sommige videokaarten), maar een stuk sneller. Voor AI blijft dat echt een onwaarschijnlijk goede prijs/performance product en ben erg benieuwd hoe die zich tussen deze benchmarks schaalt.
De Mac Mini is toch gelimiteerd tot 32GB RAM maximaal? Dat staat een beetje scheef in verhouding tot de Framework, waar 32GB het minimale model is. Daarom zijn ze niet echt vergelijkbaar, de modellen die de Framework aan kan zullen niet op de Mac Mini kunnen draaien.
De M4 Pro Mac Mini gaat tot 64GB. De standaar M4 Mac Mini gaat tot 32 GB. Dus het had gekund. En helemaal als je naar de prijs kijkt is de Mac Mini een goede concurrent voor deze pc.
Volgens mij zijn deze amd chips niet voor losse verkoop. Enkel pc-bouwers. En volgens mij kun je nog geen processors met geheugen kopen op de chip wat bepaalde voordelen in bepaalde workloads zou hebben.
Dus een repareerbare pc met toch zo'n chip (waarbij je dus de chip+geheugen in de toekomst missschien kan upgraden) lijkt het unique selling point. Repareerbaar waarbij je bij andere OEM's zo'n beetje alles proprietary hebt. Niet enkel deze chip en waar repareerbaarheid al helemaal laag is, als het überhaupt kan.
[Reactie gewijzigd door Waah op 7 augustus 2025 21:30]
Klopt. Dat zeg ik ook. Maar er is meer te repareren in zo'n pc. Framework bied voor laptops ook upgrade-combinaties aan, waarbij je de rest behoud. Dat kunnen ze hier ook doen.
Bij Dell en consorten zijn het allemaal proprietary voedingen, moederborden en form factors waardoor upgraden niet mogelijk is tenzij je met een dremel aan de weer gaat. Laat staat dat je iets wil repareren...
Oh 100% ja, een 265k + 4070/5070 zijn qua cpu (los) en gpu (los) flink sneller, en goedkoper.
Echter kun je de unified memory niet verslaan met sommige toepassingen. Je kunt tot 120gb toekennen als vram voor de gpu, iets waar de 5070ti met 16gb absoluut niet aan kan tippen. Je kunt hiermee dus bijvoorbeeld volledige datasets in vram laden, en de gpu erop laten werken in 1 keer.
Dit kan significant sneller zijn dan constant dram <--> vram traffic te hebben, ookal heb je in theorie een 5090. Ervanuit gaande dat je de dataset überhaupt op kunt delen, wat niet altijd kan, en waarbij de 395+ dus de enige optie is (of je moet met nvlink meerdere gpu's aaneen zetten).
Belangrijker nog is de vraag voor wie is die niche. Bedrijven die AI professioneel willen doen gaan zo’n traag product niet kopen. Consumenten die wat willen rommelen kunnen dat in de regel beter doen met videokaarten want echt alle gangbare modellen hebben vrij compacte varianten die je in 12GB VRAM doorgaans al heel aardige dingen kan laten doen, en tweakers laat hier toch mooi zien dat je grote modellen gewoon als hobbyist niet moet willen draaien: het gaat gewoon veel te traag om leuk mee te rommelen.
korte samenvatting; het is volgens mij dus vooral een processor voor mensen die zich niet verdiepen in hoe AI werkt maar wel met de hype mee willen ;)
20 euro per 32GB chip Edit. dit moet zijn 32Gb tray. Volgens mij zijn het 8 losse chips samen 32Gb. Dit is dan wel 5500 MT/s. Dus je mag het van me verdubbelen in prijs. Kijkend naar de verschillen met vergelijkbare snelheid in DDR-5 modules voor de desktop.
kom je op 80 euro extra kost prijs uit. Ik heb geen problemen als Framworks 150 euro extra zou vragen. Denk niemand hier niet. Maar €470,- is gewoon Apple sap.
[Reactie gewijzigd door BarnET op 8 augustus 2025 13:36]
Nee, dat is een 32Gb chip dus 4GB. De topologie van de ryzen chip laat 8 chips toe, dus voor 128GB hebben we 8x 128Gb chips nodig. Op digikey vind ik wel de volgende die 128Gb is en de juiste snelheid (zelfs iets sneller).
62 per stuk excl BTW. Maal 8: 500 euro. Goed, dat is dan een totaalprijs zonder BTW, zonder winst en niet voor de upgrade van 64 naar 128, maar het geheel.
Dat van die tray lijkt me over verpakking te gaan, niet dat het goedkoper is.
Het goedkoopste afgewerkte DDR5-setje in de pricewatch is 370 euro per 128GB 6400MT/s incl BTW (4 latjes)
500 euro excl BTW (dus 600 incl, zonder afwerking/montage) voor een hogere nichesnelheid lijkt me niet eens zo overdreven. De laatste procenten kosten altijd extra.
Dat framework een meerprijs vraagt klopt, maar het is niet alsof het hun 60 euro kost. De helft van die 128GB kost dus al pakweg 300 euro aan materiaal. De resterende 180 zit dan in R&D, productielijn en winst. Eventuele (kleine?) kortingen vanwege grotere bulkaankoop daargelaten.
Als je het correct vergelijkt vind ik het niet eens absurd.
Er was zeker een embargo van 7 augustus, want ineens hebben meerdere techsites een review. Opvallend: tweakers is 1 van de weinige sites die daadwerkelijk aan het werk is geweest met AI modellen. Complimenten daarvoor!
Als de grote AI modellen toch praktisch te traag zijn ondanks de 128 geheugen, dan zou ik voor de 64 versie gaan en het verschil in de zak houden.
Qua prijs/performance in de context van lokale LLMs krijg ik het idee dat Radeon 9700 XT een soort sweet spot is? Maar dan ga je weer naar iets dat meer herrie maakt. Keuzes. Keuzes,
[Reactie gewijzigd door mbrb op 8 augustus 2025 01:16]
Dank voor het toevoegen van de LLM benchmarks, die zijn erg nuttig en waarvoor ik deze op het oog had! Lijkt er op dat het geen ideale optie is voor grote modellen, helaas. Nog even wachten op andere opties.