Frameworks eerste desktop-pc heeft een Ryzen AI Max-cpu en maximaal 128GB ram

Framework komt met zijn eerste desktop-pc. Het betreft een compact systeem dat gebruikmaakt van een AMD Ryzen AI Max-processor. Daarmee krijgt het systeem maximaal zestien AMD Zen 5-cores en een Radeon 8060S-gpu. De pc wordt vanaf het derde kwartaal geleverd.

De Framework Desktop komt beschikbaar in verschillende varianten. Het topmodel krijgt een Ryzen AI Max+ 395, en beschikt daarmee over zestien Zen 5-cores en een Radeon 8060S-igpu, die is gebaseerd op de RDNA 3.5-architectuur en over 40 compute units beschikt. Deze variant van het systeem wordt geleverd met 64 of 128GB aan Lpddr5x-geheugen. Er komt ook een goedkopere versie met AMD Ryzen AI Max 385-chip. Die heeft acht Zen 5-cores, een AMD Radeon 8050S-gpu met 32 RDNA 3.5-compute-units en standaard 32GB ram.

Framework zegt dat zijn desktop-pc zoveel mogelijk gebruikmaakt van standaard hardware. Zo is de gebruikte AMD Ryzen AI Max-apu, die eigenlijk is bedoeld voor laptops, geïntegreerd op een mini-ITX-moederbord. Daarmee wordt de desktop, net als de laptops van Framework, upgradebaar met toekomstige moederborden. De desktop wordt van stroom voorzien met een semi-custom Flex-ATX-voeding van FSP, hoewel het moederbord zelf gewoon gebruikmaakt van standaard 24- en 8-pinsaansluitingen. Het mini-ITX-bord krijgt daarnaast gewone fanheaders, twee M.2-slots en een PCIe 4.0 x4-slot voor een kleine uitbreidingskaart.

Tegelijkertijd kiest het bedrijf wel voor vastgesoldeerd Lpddr5x-geheugen. Het bedrijf zegt dat dit komt omdat de Ryzen AI Max-chips hier standaard gebruik van maken. Daar staat tegenover dat het geheugen een hoge bandbreedte van 256GB/s heeft, zo zegt het bedrijf. Het bedrijf zegt intern 'geworsteld' te hebben met het gebruik van vastgesoldeerd geheugen, maar dat er geen alternatieven waren voor verwisselbaar geheugen met diezelfde 256GB/s-bandbreedte. Verwisselbaar Lpddr5x-ram bestaat wel in de vorm van Lpcamm2-modules, maar die halen lagere snelheden.

De desktop wordt verder voorzien van een cpu-koeler die is gemaakt in samenwerking met Cooler Master. Volgens Framework kan deze koeler de cpu met een tdp van 120W koelen terwijl die 'stil' blijft. Gebruikers kunnen kiezen uit drie verschillende 120mm-ventilators als ze hun desktop bestellen, waaronder één van Noctua.

Framework zegt dat de desktop met zijn Ryzen AI Max 395 geschikt is voor pc-gaming op 1080p en 1440p. Het bedrijf deelt daarbij verschillende prestatiecijfers op 1080p met hoge grafische presets, zowel met als zonder FSR-upscaling en -framegeneration. Zonder die opties haalt de pc bijvoorbeeld 53 fps in Starfield, 95 fps in Call of Duty: Black Ops 6 en 95 fps in Cyberpunk 2077. De pc kan ook de AMD ROCm-softwarestack draaien en is volgens Framework geschikt voor het lokaal draaien van llm's.

Framework begint vandaag, op dinsdag 25 februari, met het aannemen van pre-orders voor zijn desktop-pc. Het systeem wordt 'in het begin van het derde kwartaal geleverd'. Het instapmodel met Ryzen AI Max 385 en 32GB geheugen komt beschikbaar vanaf 1279 euro. De versie met Ryzen AI Max 395 en 64GB ram kost 1859 euro, terwijl de 128GB-variant 2329 euro gaat kosten. Die prijzen zijn exclusief ssd's, 120mm-fan voor de cpu-koeler, besturingssysteem en C13-stroomkabel. Het mini-ITX-moederbord komt ook los beschikbaar, zodat gebruikers die in een eigen systeem kunnen stoppen. De prijs daarvan is nog niet bekend.

Update, 21.27 uur - De europrijzen van de Framework Desktop zijn toegevoegd aan het artikel.

Reacties (107)

[sdziscool]

Wat dit ding dus mooi maakt tov meeste andere PCs is het "shared" RAM, je kan dus 96GB aan RAM nemen die ook als VRAM fungeert, wat geweldig is voor als je je eigen LLMs wil draaien omdat die helemaal in de VRAM moeten staan en de gemiddelde GPU maar 16GB heeft (en dan betaal je al 800+ euro voor de GPU zelf).
Apparaat wat hetzelfde doet zijn macs M chips, maar Apple vraagt 200 euro per ~10GB RAM dus het wordt al snel erg duur!

[Olaf van der Spek]

Alle integrated graphics heeft toch 'shared' RAM?

[iCore]

Het probleem dat dit gewoon DRAM is dus niet dezelfde bandwith heeft als soldered 'unified' RAM vandaar dat je door het gesoldeerde LPDDR5X (8000MT/s) 256GB/s kan behalen net zoals de bandwith van VRAM op kaarten een generatie of 2 geleden, (tegenwoordig zitten high-end GPU's al dicht/over de grens van 1TB/s of zelfs 2TB/s met GDDR7 op een 512bit bus.)

Vergelijking; met normale DDR5 5600MT/s 'reepjes' heb je max ~69GB/s bandwith, te langzaam in vergeleking met VRAM voor bijv gaming en andere gpu-heavy tasks

[locke960]

Het grootste deel van de bandbreedte winst komt omdat deze CPU's quad channel memory ondersteunen. Dat is een feature die je normaal gesproken alleen tegenkomt in servers of workstation PC*.

Reguliere desktop en laptops gebruiken dual channel. Door quad channel te gebruiken verdubbelen ze in een keer de beschikbare bandbreedte. Door vast gesoldeerd LPDDR5X (8000MT/s) te gebruiken wordt de bandbreedte nog verder verhoogt, tot de genoemde 256GB/s.

Dit is waarom die iGPU zo goed presteert.

*Omdat het duur is. Het vereist meer aansluitingen, en complexere verbindingen, op de printplaat. Dat is waarom ik niet verwacht dat PC's/laptops op basis van deze chips ooit echt goedkoop zullen worden.

[Hans1990]

Dat is iets te kort door de bocht. Gedeeld geheugen is dat 2 componenten compleet hun eigen geheugenspace beheren, en de scheidingslijn wordt in de BIOS bij boot bepaald. Je ziet dan bijvoorbeeld een systeem met 14GB geheugen (of 13,5GiB in taakbeheer), omdat er 16GiB fysiek is geinstalleerd met 2 GiB toegewezen als VRAM.

Unified Memory waar Apple mee aan kwam zetten is 1 stap verder dan "gedeeld geheugen". Het is ook bedoeld om meerdere onderdelen (bvb GPU&NPU) toegang te geven tot geheugen ruimte. Maar ook 1 die live kan wijzigen, dus zowel CPU en GPU kunnen toegang hebben tot de volledige bak geheugen, maar niet tegelijkertijd.

In theorie kan zo'n systeem ook efficienter werken. De CPU en GPU communiceren met dezelfde geheugenchips. Als een CPU klaar is met een texture decomprimeren, dan kan die zonder extra kopieerwerk dat aan de GPU geven en kan die meteen aan de slag. Normaliter moet al die data over PCIe, wat snel is, maar altijd weer extra tijd (en geheugenbandbreedte) kost.

[Kahlan]

30+ jaar vooruitgang, en we zijn weer terug bij de Amiga architectuur: 1 bak geheugen die te gebruiken is door zowel de CPU (680x0) als de GPU (Paula/Denise/Agnus, waarvan 1 de sound processor was)

Natuurlijk is de bandbreedte wel meer dan vertwintigvoudigd, maar mooi om te zien dat het allemaal terug komt :-)

[procyon]

De laatste (68040) had een bandbreeddte van +/- 25mb/s, dat is nu met deze Ryzen A.I. max 256GB/s.

Dat is ongeveer 10.000 keer sneller.

[Raphire]

Verschil is dat deze integrated graphics (vergeleken met andere PC/Laptop chips) ook nog eens hoge performance heeft (laptop RTX4060 niveau als ik me niet vergis), in combinatie met een krachtige CPU en hoge geheugenbandbreedte.

[Reactie gewijzigd door Raphire op 25 februari 2025 22:55]

[OruBLMsFrl]

Hogere geheugenbandbreedte dan DDR5, maar 256GB/s is alsnog een niveau lager dan de 400-800GB/s van de snellere Mac's. Laat staan 700-1800 GB/s van actuele AI gebruik videokaarten.

[iCore]

Zeker, al gaan de nieuwse Apple Silicon niet hoger dan 600GB/s, M4 Max is up-to 546GB/s

Klein overzichtje:

M4: 120GB/s
M4 Pro: up to 273GB/s - Maximaal wat je in een Mac Mini kan stoppen
M4 Max: up to 546GB/s

Verder zijn Apple's M4 chips wel van een hele andere prijsklasse, zo ook new-gen GPU's (5090 etc). Een MacBook Pro is met een M4 Max en 128GB Storage (verder geen upgrades) al €5.899,00

Source

Edit: M Ultra series bestaat uiteraard ook , die gaat welt it 800GB/s en wellicht hoger als de current gen ultra uitkomt, thanks voor de correcties @DLeijen en @OruBLMsFrl

[Reactie gewijzigd door iCore op 26 februari 2025 11:47]

[DLeijen]

M4 Ultra voor de Mac Studio en Mac Pro moet nog komen, die zal het dubbele van de M4 Max doen (1192GB/s).

[OruBLMsFrl]

Overzichtje wordt interessanter voor AI als je dit meeneemt, even snel, niet geverifieerd:

SKU Name, Maximum Memory Bandwidth, Maximum Memory Size
M1 Ultra, 800GB/s, 128GB
M2 Max, 400GB/s, 96GB
M2 Ultra, 800GB/s, 192GB
M3 Max, 400GB/s, 128GB
M3 Ultra, 800GB/s, 192GB -> cancelled/not released

Kan zomaar dat ergens alweer M2 Max of M1 Ultra vrijkomt 2e hands, want die systemen worden natuurlijk ook voor veel andere zaken gebruikt. M3 ultra is nu wel nog verkrijgbaar ook? Thanks @praseodymium

[Reactie gewijzigd door OruBLMsFrl op 26 februari 2025 11:29]

[praseodymium]

M3 Ultra is helemaal niet te koop, de Mac Studio en Mac Pro gebruiken nog M2 Max en M2 Ultra.

[the_shadow]

Ik zag onlangs wat vergelijkingen langskomen in performance van M4 machines t.o.v. deze AMD mini PCs. Het kwam neer op iets meer dan de helft van de performance van een M4 (5 vs 2.7 t/s, iets in die orde grote), maar wel een kwart van de prijs.

[Reactie gewijzigd door the_shadow op 26 februari 2025 11:59]

[Xfade]

volgens mij niet op zo'n hoeveelheid.

[SkyStreaker]

Correct, maar ook "maar" maximaal 16GB, dat is iig wat vrijwel elke standaard BIOS toelaat.

[Hans1990]

Mijn vraag is wel wat de inference speed van zulke grote modellen is.

Bvb leuk dat je LLama of Deepseek 70B kan inladen op een Mac Mini 64GB vanwege zijn unified memory, maar als ik op Reddit rondsnuffel zie ik inference speeds van 5-9 tokens/sec. Dat is altijd nog beter dan de "enkele" tokens/sec op een RTX4090, maar beide zijn nou niet echt zo bijzonder dat je er live voor wilt gaan zitten wachten.

De neural engine is simpelweg niet snel genoeg om zoveel parameters te verwerken, ondanks dat het nu deze wel kwijt kan in zijn "VRAM" buffer. De M4 chip heeft maar 38TOPS meen ik, en deze AMD AI chip zo'n 50TOPS. Ik hoop dat de 8060S GPU nog iets kan bijspringen, anders vrees ik het ergste.

Als we NVIDIA mogen geloven, dan zit een doorsnee RTX4070/5070 al op 500-1000 "AI TOPS". Dat mag ook wel, want als ik kleiner LLama model draai op mijn RTX3080 gaat die over de 200W verbruik heen (deze past in VRAM dus GPU is continu bezig). Terwijl zo'n NPU op een CPU vaak niet meer dan een paar Watt verbruikt.

[Reactie gewijzigd door Hans1990 op 26 februari 2025 01:40]

[kftnl]

Bvb leuk dat je LLama of Deepseek 70B kan inladen op een Mac Mini 64GB vanwege zijn unified memory

Llama/Deepseek 70B is allebei Llama 3.3. Die is getrained op FP16, dus 2 bytes per parameter. Dat komt dan neer op 140GB. Dat past niet in 64GB. Je kunt modellen (tegen een hoge prijs qua kwaliteit) kleiner maken zodat het in je VRAM past, het quantitizen. Als we verkleinen naar een grootte die zowel bij de Mac Mini als bij de RTX4090 in het geheugen past zal die 4090 veel sneller presteren.

[Emielio]

Llama/Deepseek 70B is allebei Llama 3.3. Die is getrained op FP16, dus 2 bytes per parameter. Dat komt dan neer op 140GB.

Volgens mij is de originele Llama 3.3 70B 43GB. Uit ervaring kan ik overigens zeggen dat die niet zo vlot is op een mac mini met 64GiB, maar wel stabiel draait.

Als we verkleinen naar een grootte die zowel bij de Mac Mini als bij de RTX4090 in het geheugen past zal die 4090 veel sneller presteren.

Een 4090 zal flink veel sneller zijn, maar tegelijkertijd kan je op de 4090 een flink aantal modellen niet draaien die die op een mac mini met 64GiB wel te draaien zijn. Op mijn Mac mini kan ik geforceerd 55GiB toewijzen aan de GPU.

Je kunt modellen (tegen een hoge prijs qua kwaliteit) kleiner maken zodat het in je VRAM past, het quantitizen.

In hoeverre je bij quantitizen inboet aan kwaliteit ligt heel erg hoe extreem je dat doet.

[kftnl]

Volgens mij is de originele Llama 3.3 70B 43GB.

Het is echt een hele simpele berekening, 70 miljard parameters, 16bit float per parameter. 2 bytes keer 70 miljard is 140GB. Je kunt het hier zelf optellen: https://huggingface.co/me....3-70B-Instruct/tree/main

In hoeverre je bij quantitizen inboet aan kwaliteit ligt heel erg hoe extreem je dat doet.

Zeker, het is een afweging. Ik gebruik zelf ook vaak de Q4 omdat dat voor veel usecases een goed model is. Het ging me puur om dat als we zeggen dat een 70B model erop draait wel goed dat mensen in gedachten houden dat dat wel een wat mindere versie is met kwaliteitsverlies.

[Reactie gewijzigd door kftnl op 27 februari 2025 21:26]

[SG]

Elke M soc tier heeft bij elke stap hoger meer memory en soms ook opslag.
M4-pro 24GB is dan je start punt. M4-max dubbel de memory bandbreedte 48GB
1 upgrade mem is dan nog wel te doen. Al zal dit Mac studio zijn die nog moet uitkomen. Basis macbook pro met M4-max is indicatie wat kan verwachten nu is de instap macstudio M2-max soc.ook rededelijke indicatie. Wat zal zo instap zijn 2500€

Leuk die 50Tops. Maar win PC zal voor mij toch meer voor het gamen zijn naast Mac mini/studio.
En daar moet uiteindelijk 9070XT ook in dus klein ATX kast waar full size G-kaart in kan. 8 core AM5 CPU.

[StefandeGroot]

De europrijzen zijn ook bekend:

- Max 385 - 32GB - €1,279
- Max+ 395 - 64GB - €1,859
- Max+ 395 - 128GB - €2,329

Dit is zonder opslag en uitbreidingskaarten en tiles van de voorkant.

[Uruk-Hai]

Ziet er allemaal leuk uit, maar hoe lang duurt het eigenlijk voordat je een bestelling van Framework binnen hebt?

[Mila1994]

Gebaseerd op eerdere launches: de eerste batches worden razendsnel verkocht (en die worden ook snel geleverd), maar zodra de eerste stampede over is is Framework best goed in opschalen van leveringen.
De gewone producten (FW 13 en 16) zijn prima leverbaar op dit moment.
Edit: blijkbaar wordt deze desktop pas vanaf derde kwartaal uitgeleverd, dus dat is erg lang wachten. Ook is er blijkbaar giga veel verkeer naar de website, dus voor deze desktop zou er nog wel eens een behoorlijke wachttijd kunnen komen voordat die vanuit voorraad leverbaar is.

[Reactie gewijzigd door Mila1994 op 25 februari 2025 22:54]

[ocf81]

Het gaat inderdaad als een malle. Batch 1 is al uitverkocht.

[retrey]

Begin derde kwartaal.

[Uruk-Hai]

Ik bedoelde meer in het algemeen. Je besteld "iets" bij Framework... iets dat ze al langere tijd verkopen en dan? Hoe lang moet je dan wachten?

[ritsl]

Ze hebben sinds vorig jaar een distributiecentrum in Europa - in Nederland zelfs. Dus als dingen eenmaal op voorraad zijn, gaat dat snel. In mijn geval in het weekend iets besteld, werd dinsdag verzonden.

[cazzie]

Dat betekent wel of geen import tax op zijn desktop model ?

[kwetterpletter]

Een paar dagen. Ik heb 30 december een framework 16 besteld en 3 januari had ik hem binnen. Ik had apart ram en een ssd bij Amazon besteld en die deden er langer over.

[Uruk-Hai]

Bedankt. Dat is het soort antwoord waar ik om verlegen zat. Zo'n 3-5 dagen wachten vind ik goed te doen. Als het langer duurt dan dat begin ik me altijd wat zorgen te maken.

[SilentDecode]

Oh kijk! Een desktop die je helemaal zelf kunt bouwen! Dat heb ik nog nooit eerder gezien! Oh wacht..

[Waah]

Ook ter grootte van je hand? Mijn desktop is toch beduidend groter... En de NUC die wel dit formaat is kan ik de CPU Niet van upgraden hoor. Enkel het geheugen en opslag. De rest is gesoldeerd en kan je dus niet repareren. En een nieuw moederbord en chip is er niet ter reparatie (tegen normale prijzen) en een nieuw moederbord en chip als upgrade al helemaal niet.

[Reactie gewijzigd door Waah op 25 februari 2025 21:25]

[SilentDecode]

Als je een écht kleine PC wil, heb je altijd nog een NUC of vergelijkbaar..
Met wat ze aan bedragen vragen, bouw ik liever een zieke mini-ITX met betere specs..

[WillySis]

Als je betere spec wilt, zit je al snel aan een grotere kast en een behoorlijk hoger stroomverbruik.
Voor de grootte van dit kastje zijn de specs verbluffend goed en het stroomverbruik is ook nog eens laag.

De voeding is voor 400 Wh gecertificeerd, maar het is eigenlijk een 600 Wh voeding die een nieuw certificaat heeft gekregen. Voeding heeft ook nog eens een eigen luchtstroom voor de koeling. Je kan dus echt het maximale uit dit ding halen.

[aikebah]

Ik mag toch hopen dat je een 400W respectievelijk 600W voeding bedoelt en niet een voeding die na 400 of 600 Wattuur de geest geeft omdat ie het wel welletjes vindt en eerst weer bijgeladen wil worden.

[WillySis]

Je hebt gelijk.

[Waah]

Maar een nuc is niet te upgraden en slecht te repareren (if at all) en dat is het unique selling point.

En een mini itx zit gemiddeld rond de 15 liter volume. Deze onder de 5.... Een stuk kleiner dus dan de gemiddelde mini itx.

Dat het niets voor jou is snap ik. Tis ook niets voor mij. Maar er is wel degelijk een markt voor.

[SilentDecode]

Maar een nuc is niet te upgraden en slecht te repareren

Weet niet waar jij deze informatie vandaan haalt, maar zeg dat eens tegen de 3 NUCs die ik in dienst heb die allemaal upgradebaar zijn..

En een mini itx zit gemiddeld rond de 15 liter volume. Deze onder de 5.... Een stuk kleiner dus dan de gemiddelde mini itx.

Als je het gemiddelde pakt van 15 liter, snap ik dat zo'n ding van Framework kleiner is ja...

Maar er is wel degelijk een markt voor.

Ik heb ook nooit beweerd dat er geen markt voor is hé. Als je me dat ergens ziet typen, dan mag je mij daarop quoten. Ik heb er in ieder geval geen herinnering aan dat ik zoiets heb gezegd.

[Waah]

Hoe is je nuc dan upgradebaar? Extra ram is niet een upgrade. Nieuwe processor is upgradebaar?

Last time i checked was dat niet mogelijk bij de nucs. Maar misschien hebben ze wat veranderd. Voor zover Intel überhaupt de nuc nog maakt.

[SilentDecode]

Extra ram is niet een upgrade

Op welke planeet is RAM geen upgrade dan?! Wel op planeet Aarde namelijk.

Nieuwe processor is upgradebaar?

Zoek letterlijk EEN machine op van de afgelopen 10 jaar, behalve desktops, waar dit überhaupt nog kan dan.. Ik wacht wel.. Enne.. Wat dacht je van storage.. En (soms) WiFi adapters. Dat zijn ook gewoon allemaal upgrades.

Voor zover Intel überhaupt de nuc nog maakt.

Niet dat het daar over gaat, maargoed. ASUS heeft die hele handel vorig jaar overgenomen. Alle NUCs die ik heb draaien, zijn nog Intel NUCs.

[Waah]

Bij Framework kun je in de laptops een upgrade van de processor krijgen, icm nieuw mobo. Kan je dus zo bestellen en vervangen.

Dus daar is je voorbeeld

[SilentDecode]

Bij Framework kun je in de laptops een upgrade van de processor krijgen, icm nieuw mobo. Kan je dus zo bestellen en vervangen.

Dus daar is je voorbeeld

Nee, jij zei 'Nieuwe processor is upgradebaar'. Kortom, jij wil graag alleen de CPU vervangen. Kom met een voorbeeld waarbij je een laptop CPU kan vervangen van de afgelopen 10 jaar.

Kijk, als jij nitpicky gaat zijn met dit soort shit, krijg je nitpicky terug.

[Waah]

De enige die nitpickyndoet ben je zelf. Fijne avond

Enne, Clevo verkoopt al jaren laptops met desktop cpu's die gewoon vervangbaar zijn.
https://www.notebookcheck...desktop-CPU.631019.0.html

[Reactie gewijzigd door Waah op 25 februari 2025 23:16]

[heuveltje]

Nee, dat is een bijkomstigheid.

Het USP is dat het geleverd word met Een Ryzen AI processor, en veel unified geheugen.
Wat Ideaal is voor AI LLM, en andere GPU compute taken. Dat kun je momenteel alleen in mac's krijgen, er is nog niemand die dit aanbied in een pc vorm.

[latka]

Het grootste pluspunt is de cpu/geheugen combi. Zelf bouwen betekent losse dimms en dus maar een kwart van de geheugen bandbreedte van dit ding.

[SG]

Die 256GB/s doet igpu goed is iets minder dan M4-pro. Wat grof weer de helft is van PS5

[Olaf van der Spek]

En de NUC die wel dit formaat is kan ik de CPU Niet van upgraden hoor.

Kan bij Framework toch ook niet? CPU zit gesoldeerd.

[Waah]

Klopt, maar Framework zal waarschijnlijk nieuwe mobos uitbrengen die in dezelfde case etc passen. Zo doen ze dat met de laptops dacht ik ook?

[SilentDecode]

Als je écht wil, zou je dit met een NUC ook wel kunnen doen.. Maarja, voor het geld voor een los moederbord, kan je net zo goed de behuizing erbij kopen. Dat is makkelijker én sneller..

Maargoed, moederborden van NUCs kan je ook gewoon los kopen. Dus als je geen NUC behuizing wil, voor welke reden dan ook, dan kan dat.

[un1ty]

(Intel) NUC's varieren best vaak van moederbord formaten (hanteren geen standaardisatie), echter bij framework hebben ze het ITX formaat gehanteerd (en zullen deze waarschijnlijk ook blijven hanteren voor nieuwere/andere versies). Dit maakt wel een verschil in de bruikbaarheid van het moederbord (of eigenlijk SoB). Je kan dus beiden je eigen kast kiezen en/of een ander moederbord plaatsen/vervangen.

Voor AI toepassingen lijkt mij dit systeem erg tof echter het enige wat mij (voor nu) tegenstaat is dat de beste interconnect tussen de systemen een 5Gb ethernet connectie is. NetworkChuck Heeft al laten zien dat dit een limitatie is wanneer je de systemen wilt clusteren.

Wat voor mij interessanter is, is wanneer framework een NAS systeem gaat ontwikkelen. Dat lijkt mij een veel interessantere oplossing dan een standaard SFF desktop vervanger.

[Reactie gewijzigd door un1ty op 25 februari 2025 23:49]

[Zeerob]

Klopt, maar Framework zal waarschijnlijk nieuwe mobos uitbrengen die in dezelfde case etc passen. Zo doen ze dat met de laptops dacht ik ook?

Tja, de prijs van het mobo, inclusief gesoldeerde CPU en RAM zal de prijs van het hele systeem aardig benaderen. Dan kan je moeilijk van een upgrade spreken. Dan koop je in feite een geheel nieuw systeem, en kan je misschien het oude kastje met voeding nog gebruiken.

[Waah]

Hoe het voor desktops gaat uitpakken is inderdaad de vraag. Maar voor laptops zijn de prijzen voor mobo+cpu niet exorbitant duur tov de laptop.

Ik kan bijvoorbeeld de nieuwe laptop met de Ryzen™ AI 5 340 bestellen voor 1,059.00
Ik kan mijn oude laptop ook upgraden met de Ryzen™ AI 5 340 voor €529

Bij andere laptopfabrikanten heb je gelijk: die vragen zoveel geld, dat je beter een nieuwe laptop kan halen. Maar dat is niet het Framework-model.

Voor een desktop zal de mainboard een groter deel van de kosten zijn van het geheel. Maar voor een desktop heb je nog steeds een case nodig + voeding + fan. En als je die kosten niet hoeft te betalen is dat mooi meegenomen lijkt me. En bij Framework weet je dat je waarschijnlijk over een aantal generaties nog steeds kan upgraden.

[Zeerob]

Ja, ok. Ik zou wel een systeem met Ryzen AI Max 395 en 128 GB Ram willen hebben. Dat kost EUR 2329. Daarvan zal maar een heel klein deel voor het kastje + voeding + fan zijn. Omdat RAM vastgesoldeerd zit, kan je dat bij een upgrade ook niet hergebruiken.
Ik vind het nadeel van zo'n duur systeem waarop alles is vastgesoldeerd ook wel dat als er iets stuk gaat, dat je dan alles kwijt bent.

[Waah]

Dat begrijp ik heel goed. Dat is ook jammer en dat vind Framework ook. Echter hebben die dit gevraagd aan AMD en na testen van AMD krijgen ze het niet goed voor elkaar om dezelfde snelheden te krijgen zonder het dicht bij de CPU te solderen.

De kracht van de AMD ai zit juist aan dat de snelheid van het geheugen zo hoog ligt waardoor het geheugen als vram kan dienen. Zolang ze dat niet oplossen is het inderdaad geen ideale oplossing.

[Die_ene_gast]

Hier kan je de CPU ook niet upgraden. Het ram zit ook gesoldeerd. Dus hoe is dit anders?

[Waah]

Dat er upgradekits zijn (mobo+CPU+ram) die je vervolgens in deze case kan gebruiken.
Dat hebben ze met de laptops ook. De eerste generatie laptops kan nog steeds een upgrade krijgen met de nieuwste chips die ze nu introduceren. Dat is ook mobo+cpu.

Voor een laptop misschien interessanter dan een desktop ;-)

[Reactie gewijzigd door Waah op 26 februari 2025 14:13]

[Die_ene_gast]

Tjah, zo kan je alles wel goed praten. Ik heb mijn hele huis laten slopen en vervangen door een grotere, ik heb nog dezelfde voordeur, dus het is een upgrade!

[Die_ene_gast]

En dan de nadelen van gesoldeerd ram enzo.

[R3m3d7]

Leuk bakje voor lokale LLM’s.

[iqcgubon]

Iedereen en zijn kat op deze website zit blijkbaar lokaal LLM's te draaien, maar waarom? Zodat je offline kan vragen om een mail op te stellen of een mop te tappen? Ik snap het blijkbaar allemaal niet zo goed.

[R3m3d7]

Ik gebruik lokale modellen om mij te ondersteunen met code schrijven, het netjes formatten van door mij geschreven teksten, het opstellen van samenvattingen en agendapunten. Ik gebruik het om logs te analyseren en hier vragen over te kunnen stellen. Ik upload dus veel naar dit soort modellen en soms staat er gevoelige data in van een klant, dat ga ik niet naar OpenAI sturen maar naar een lokaal model is prima. Ook weet ik hoeveel stroom ik hiermee verbruik en dus wat mijn impact is, dat vindt ik met de online modellen lastig en ik krijg geen lekker gevoel bij de werkelijk enorme hoeveelheid stroom en water die deze kosten.
Je moet wel de beperkingen van dit soort modellen kennen, het is niet alsof je op je lokale laptopje iets hebt draaien wat je echt kan vergelijken met OpenAI.

Daarnaast is het leuke tech, elke week komt er een nieuwe versie van een model uit en kan je daar weer mee spelen, kleinere modellen worden steeds beter in specifieke taken waardoor je met een heel klein model lokaal met een 16GB GPU al hele goede ondersteuning voor code kan krijgen. Dus het spelen met verschillende modellen en tools als Ollama en LM studio speelt ook een rol, het is (voor mij) redelijk nieuwe techniek.

[Crazy_Dutch]

Interessante combinatie hardware in een schappelijk 'kastje'.
Ze hebben stiekem mijn interesse wel gewekt en blijkbaar ben ik niet de enige. Website is onbereikbaar en via Cloudflare sta ik al zeker 5 minuten in de virtuele wachtrij

[101br03k]

bij mij is de wait time nu geschat op 52min

[thomas_n]

Het mini-ITX-moederbord komt ook los beschikbaar, zodat gebruikers die in een eigen systeem kunnen stoppen.

Ik weet niet of andere fabrikanten ook met losse moederborden met Ryzen AI Max-cpu komen, maar ik heb ze nog niet gezien.

Dit kan erg interessant zijn voor zelfbouwprojectjes, bijvoorbeeld om een verrassend krachtige multimedia-/game-computer onzichtbaar in te bouwen in een tv-meubel o.i.d.

[bwerg]

Zeker, 40 CU's is meer dan een RX7600. Dat is geen high-end game-PC, maar voor een ITX-systeempje is dat behoorlijk aardig.

De pre-order-prijzen staan al op de website, daar loop ik helaas nog niet heel erg warm voor. 1000-2000 euro (afhankelijk van de precieze uitvoering) voor enkel mobo+RAM+APU is wel een beetje gortig... Ik ben bang dat de klassieke gebruiker voor multimedia/gaming hier te lijden hebben onder de AI-gekte. De verwachte levertijd is ook Q3 2025.

[Reactie gewijzigd door bwerg op 26 februari 2025 13:56]

[Dirk J]

Dit apparaat verwachten ze pas ergens in het derde kwartaal te kunnen leveren.

[Westpjotr]

"Beste Sinterklaas (of kerstman), dit jaar wil ik...."

[SpaceDok]

In het FrameWork event was aangegeven dat deze desktop ook 5Gb/s ethernet heeft.
Ze hadden er een leuke opstelling van 4 van deze 128GByte desktops gemaakt en via die 5 Gb met elkaar verbonden om serieus LLM modellen lokaal te kunnen draaien.

https://event.frame.work/...ail&utm_source=Newsletter

[Reactie gewijzigd door SpaceDok op 25 februari 2025 22:40]