Nvidia heeft een compacte AI-computer onthuld die draait op de nieuwe GB10 Grace Blackwell-chip. Het systeem, genaamd Project Digits, kan volgens het bedrijf AI-modellen met tot 200 miljard parameters verwerken.
De GB10-chip combineert een Blackwell-gpu met vijfde generatie Tensor-cores met een Arm-gebaseerde Grace-cpu met twintig cores. Deze zijn via Nvidia’s eigen NVLink-C2C-interconnect met elkaar verbonden. Het systeem levert volgens Nvidia één petaflop aan AI-rekenkracht bij FP4-precisie van zwevendekommagetallen. De computer beschikt over 128GB geheugen en maximaal 4TB NVMe-opslag. Door twee systemen via ConnectX-netwerktechnologie te koppelen, kunnen ontwikkelaars AI-modellen met tot 405 miljard parameters draaien. Het system draait op een Linux-gebaseerd besturingssysteem.
Het systeem is volgens ceo Jensen Huang bedoeld om AI-ontwikkeling toegankelijk te maken voor datawetenschappers, onderzoekers en studenten. Ontwikkelaars kunnen onder meer gebruikmaken van Nvidia’s AI-software, waaronder het NeMo-framework voor het finetunen van modellen, Rapids voor datawetenschap en frameworks als PyTorch. Project Digits komt in mei op de markt voor een vanafprijs van 3000 dollar.