Gigabyte AI TOP Atom krijgt Nvidia GB10-chip met 20 Arm-cores en Blackwell-gpu

Gigabyte heeft tijdens Computex zijn AI TOP Atom-mini-pc aangekondigd. Het is een aangepaste versie van de DGX Spark-mini-pc die Nvidia eerder dit jaar presenteerde. In deze pc zit een Nvidia GB10-chip waarop een Arm-cpu is gecombineerd met een Blackwell-gpu.

De Gigabyte AI TOP Atom is een van de eerste aangepaste DGX Spark-ontwerpen. Het apparaat heeft een eigen ontwerp, maar lijkt verder exact dezelfde specificaties als Nvidia's eigen mini-pc te hebben. De versie van Gigabyte heeft bijvoorbeeld een behuizing met een relatief open voorkant voor de airflow. Bovendien heeft deze AI TOP Atom upgradebare ssd's via M.2-slots aan de achterkant van het moederbord, in tegenstelling tot de DGX Spark.

Het systeem draait verder op een GB10-soc, die door Nvidia en MediaTek is ontwikkeld. De chip heeft twintig Arm-cores, verdeeld over tien Cortex-X925-kernen en tien Cortex-A725-cores. Deze kernen worden bijgestaan door een Nvidia Blackwell-gpu met een onbekend aantal CUDA-cores, die wel tot 1000Tops aan fp4-rekenkracht moet leveren.

Het apparaat heeft verder een ConnectX-7-switch met bijbehorende poort aan de achterkant. Daarmee kunnen gebruikers meerdere AI TOP Atom-systemen clusteren met een bandbreedte van 400Gbit/s. Aan de achterkant zitten ook USB-poorten, een HDMI-aansluiting, een ethernetpoort met 10Gbit/s-ondersteuning en de aan-uitknop.

De AI TOP Atom is, net als de Nvidia DGX Spark, niet zozeer bedoeld voor consumenten. In plaats daarvan is deze pc vooral bedoeld voor het draaien en finetunen van AI-modellen. Gigabyte zegt dat het systeem AI-modellen van maximaal 200 miljard parameters kan draaien en tot 70 miljard parameters kan finetunen. Het apparaat zal dan ook niet goedkoop worden, hoewel Gigabyte nog geen concrete prijzen noemt. Nvidia DGX Spark-apparaten kosten doorgaans rond de 3000 euro.

Foto's: Tweakers

Reacties (16)

[Scribe]

@AverageNL De CUDA-core specificaties zijn uitgelekt mocht je ze in het artikel willen zetten

https://videocardz.com/newz/nvidia-dgx-spark-features-6144-cuda-cores-just-as-many-as-rtx-5070

[Osiummaster]

Dus een 5070 met 128GB aan "langzamer" GDDR5x geheugen?

[Scribe]

Minder bandbreedte ja, alleen een grote hoeveelheid meer. Daar zit het hem meer in, als je een hele snelle CPU hebt en daar 128GB RAM bijprikt dan is de bandbreedte van de RAM de bottleneck.

Tldr is dat voor AI het fijn is omdat je lekker grote modellen kan draaien, maar in principe is en blijft het
"maar" een 5070 met ander geheugen ja!

[MSalters]

Minder bandbreedte? Per GB wel natuurlijk, maar in totaal zou het alsnog meer bandbreedte kunnen opleveren.

Het is ook wel logisch: GDDR7 is nogal kritisch. Een 256 bits bus voor GDDR7 gaat nog wel, maar 1024 bits is praktisch onmogelijk. Op GDDR5x is dat prima te doen.

[MPIU8686]

Je hebt dan ook vrij veel geheugen nodig om een grotere LLM te kunnen draaien, snelheid is dan van minder belang.

[nout77]

Power consumption 170 watt zie ik daar, dat valt heel erg mee als je daar 1000 Tops voor terugkrijgt! Dat hebben ze netjes gedaan met 20 arm cores in de GB10

Ik weet niet of 3k USD heel goedkoop is voor dit apparaat maar de Intel Arc B60 met Xeon-W gaat waarschijnlijk voor 5k - 10k over de toonbank. Een enkele B60 gpu heeft 200 tops. Als er daar 8 van inzitten (max aantal) dan zit je op 1600 tops (ongeveer) met 192GB vram.

[Reactie gewijzigd door nout77 op 19 mei 2025 17:19]

[retrey]

Waren er niet geruchten dat Nvidia vandaag arm cpu's voor consumenten ging aankondigen?

[Scribe]

Daar zit ik ook lekker geduldig op te wachten...

[MPIU8686]

Een relatief trage GPU, maar wel gekoppeld aan vrij veel geheugen. Er is 128GB unified memory en tot 4TB NVMe-opslag bij de DGX Spark, wordt waarschijnlijk ook overgenomen bij de Gigabyte AI TOP Atom aangezien de specs bijna hetzelfde zijn ..

[imqqmi]

Hoeft niet, Asus (of was het msi?) biedt er ook een aan met 1TB nvme, maar voor $3000 terwijl nvidia 4TB voor $4000 aanbiedt. Maar even afwachten wat de specs gaan zijn van andere fabrikanten die dit bordje ook in hun systemen verwerken.

[MPIU8686]

De "ASUS Ascent GX10 AI Supercomputer​" kan je krijgen voor €2999 met 1TB, maar komt ook met een 4TB M.2 NVMe voor $3999.

Ook Dell en HP komen met soortgelijke versies

[DeTeraarist]

Ik was wel bekend met Asus, Dell en HP die een Spark apparaatje gingen maken. Deze Gigabyte had ik niet aan zien komen. Iemand die weet of er nog meer fabrikanten met een Spark apparaatje gaan komen? Ik wil eigenlijk zo'n dingie naast m'n server zetten, die is met een n305 niet heel krachtig, dus AI taken gaan nu via m'n desktop met een rx6800xt en das natuurlijk niet zo handig. Dan kan ik voor 3k een 5090 kopen en in m'n server hacken(gaat niet passen ) of voor 3k een Spark er naast zetten.

[thijsjek]

Op het werk wil ik vaker gebruik maken van AI, helaas wil ik niet bedrijfsgeheimen of gevoelige informatie delen met megacorp.
Tevens zou het fijn zijn als we de locale AI toegang tot onze documentatie en rapportage kunnen geven en informatie eruit filteren.
Ja, AI is nog niet perfect, maar zie het als de smartphone, die was ook niet perfect op het begin.

[djwice]

@AverageNL De bordjes zijn in alle GB10 PC's gelijk. Hamvraag die tot nu toe niet beantwoord is is: is de ssd / nvme vervangebaar?

Kun je dat achterhalen?
Dat is namelijk het enige verschil in hardware afgezien van de koeling en de kast.

Naast NVIDIA maken deze leveranciers er een:
Acer, ASUS, Dell Technologies, GIGABYTE, HP, Lenovo and MSI.

[Reactie gewijzigd door djwice op 19 mei 2025 23:37]

[AverageNL]

Goeie vraag! Ik ben net nog even naar Gigabyte geweest, en de ssd is inderdaad verwisselbaar - er zitten M.2-slots aan de achterkant van het mainboard. Los daarvan nog even om bevestiging gevraagd van een woordvoerder, en de ssd's zijn inderdaad verwisselbaar en er zit ook geen primaire ssd-opslag vastgesoldeerd of iets dergelijks. Ik zet het in het artikel, thanks!

[djwice]

Wow dank je! Dat is heel waardevolle informatie. Want dan kan ik gewoon de gene kiezen die met losse super snelle nvme de goedkoopste is.

Het verschil in vraagprijs tussen de Asus (1TB) en de Nvidia (4TB) is €929,- daar kun je twee extreem snelle 4TB nvme's of een zeer snelle 8TB nvme voor kopen.

Er kan ook een kabel tussen de twee kastjes om ze als 1 GPU te laten werken. In Amerika is de meerprijs $50,- als je twee kastjes plus label koopt. Kun je achterhalen of die kabels breed beschikbaar komen en voor welke prijs?

Nu zit er nog een software limiet op dat je maximaal 2 kastjes kunt koppelen, ze hebben fysiek echter 2 poorten. Kun je achterhalen wanneer die soft-limiet er af gaat en of je dan bijvoorbeeld 8 of 16 kastjes kunt verbinden (en of dat wat opleverd).
En of als je twee kabels tussen twee kastjes doet of het dan sneller is (ik vermoed van niet, aangezien nvidia er 1 leverd bij twee kastjes).

En of er plannen zijn voor kastjes met meer geheugen (bijvoorbeeld 192GB - 3Gbit i.p.v. 2Gbit modules) want de gpu kan geloof ik 448GB(?) of zo iets aan.

Gaaf dat je het bent gaan navragen! Super bedankt. Is een wereld primair, nog op geen andere site of video gevonden. NVIDIA medewerkers hadden hier eerder een NDA.

[Reactie gewijzigd door djwice op 20 mei 2025 06:03]