Nvidia werkt aan CUDA-ondersteuning voor RISC-V-processors

Nvidia gaat zijn CUDA-softwareplatform integreren in de processorarchitectuur RISC-V. Daardoor kunnen RISC-V-cpu's CUDA-systemen aansturen, net zoals onder andere x86- en Arm-processors momenteel al kunnen.

RISC-V krijgt native CUDA-ondersteuning. Dat heeft Nvidia bekendgemaakt op het evenement RISC-V Summit China. Met deze ondersteuning kunnen cpu's die gebruikmaken van de RISC-V-architectuur dienen als hoofdprocessor in systemen met Nvidia-gpu's, bijvoorbeeld in datacenters. De processor moet dan onder meer de CUDA-drivers aansturen.

RISC-V is een opensource alternatief voor instruction set architectures als x86 en Arm. Daardoor hoeven klanten geen dure licentie af te nemen en zijn ze niet voor de langere termijn afhankelijk van een extern bedrijf. Nvidia gebruikt momenteel al tussen de tien en veertig custom cores voor zijn gpu's die gebaseerd zijn op de RISC-V-architectuur, maakte het bedrijf afgelopen oktober bekend.

Reacties (33)

[The Zep Man]

Dit is geen verrassing gezien China hard inzet op RISC-V, net als de EU. Voor Nvidia is de ondersteuning van een extra architectuur voor het aansturen van CUDA relatief weinig moeite en risico, terwijl het potentieel veel vruchten daarvan kan plukken.

Ik ben benieuwd of dit een hint is naar een toekomst waarin RISC-V populair wordt in datacenters, net zoals dat ARM de afgelopen jaren een stevige opmars heeft gemaakt.

[Reactie gewijzigd door The Zep Man op 21 juli 2025 19:40]

[RobertMe]

Ik ben benieuwd of dit een hint is naar een toekomst waarin RISC-V populair wordt in datacenters, net zoals dat ARM de afgelopen jaren een stevige opmars heeft gemaakt.

Een en ander zal ook wel afhankelijk ziin van het totaal plaatje. Performance, kosten, operationele kosten, software ondersteuning, ....

De sterke opkomst van ARM hangt denk ik voornamelijk op aan Android en de SBCs (Raspberry Pi etc). Daardoor werkt Linux solide op ARM en is er veel software al geschikt voor ARM (incl Docker images etc die al beschikbaar zijn). x86 vs ARM is daardoor vanuit een systeembeheerder hoogtepunt redelijk onverschillig. Vele distro's zijn al voor ARM beschikbaar en zo te installeren, veel software is beschikbaar.
En vervolgens is ARM ook nog eens zuiniger, betere performance per Watt. Eenvoudige keuze dus.

Terwijl RISC-V nu nog relatief zeldzaam is. Zie alleen vandaag al het artikel hier dat Debian 13 de eerste versie met RISC-V ondersteuning wordt. En ik zou zo ook geen hardware weten te benoemen waar een RISC-V CPU in zit (laat staan dat beschikbaar/betaalbaar is, zoals een RPi was).

En ja, uiteraard is er ook echt exotische hardware. Maar die zal vaker in bv supercomputers etc zitten waarbij het fixen van (software) support ook geen probleem is en de nadelen daarvan kleiner zijn dan de voordelen van die hardware.

[yevgeny]

Milk-V mars 42 euro. StarFive JH7110 64bit SoC with RV64GC, up to 1.5GHz

https://milkv.io/mars#buy

[RobertMe]

Online te bestellen via webshops uit Hongkong, China en India. Niet heel "toegankelijk" dus. En ~€16 verzendkosten.

Maar inderdaad, dit bordje (/merk) heb ik een paar maanden terug ook gezien / bekeken. Dus er bestaat iets. Maar het heeft nu niet de marketing achter zich die een RPi had bij introductie. * RobertMe heeft nog een RPi model B ergens liggen, gekocht meteen toen de RPi uit kwam (via UK verkoper). En uiteraard is de markt van SBCs intussen sowieso redelijk verzadigd, met RPi en de vele soortgelijke bordjes vaak van Chinese komaf (OrangePi, BananaPi, ...). En x86 snoept ook aan de bovenkant van die markt. Want een volledige RPi 5 met adapter, opslag, ... betaal je ook ruim 100 voor. En uit China haal je voor die prijs mini PCs met een Intel N100 of soortgelijk en heb je veel meer performance. Voor "server" toepassingen dus veel interessanter. Waar vroeger een Home Assistant / ... op een RPi werd gedraaid is dat nu niet meer heel interessant.

Een nieuwe toetreder, al dan niet op basis van een nieuwe architectuur (RISC-V in deze dan) zal nog maar lastig voet aan de grond krijgen gezien er nu veel meer opties zijn dan ~15 jaar geleden toen de RPi geïntroduceerd werd.
Betekent overigens niet dat het perse slecht is, maar maakt het wel minder interessant. En over een jaar of zo bestellen we RISC-V wellicht wel eenvoudig online. En is de software support vast ook beter op basis van de toch veelal kleinere merken die er nu wel iets mee maken (zie dus Debian die nu met een officiële RISC-V versie komen. En doordat het Debiab is zijn er ook vele Debian afgeleide distros die deze basis weer kunnen gebruiken, zoals Ubuntu & Linux Mint etc).

[xTmPizzaMan]

Chinese minipcs bestellen is ook niet heel toegankelijk.. Raspberry pi zijn wel goed verkrijgbaar

[Bas-w]

Het is wachten op een octa-core RPi, telefoons hebben al jaren 8 cores, dus hoop dat het er bij RPi eindelijk ook van gaat komen.

Maar er zal dan ongetwijfeld ook weer een chip van Intel komen die dan weer net iets meer perfomance biedt, tegen een hoger stroomverbruik.

Door de betere performance per watt zal ARM nog wel blijven groeien voor professioneel server gebruik. Of dat ook doorsijpelt naar homeservers is afwachten. Laten we hopen van wel. Meer smaken is meer beter.

[Nico Klus]

RISC V is dichterbij dan je denkt. In je Seagate of WD hdd

[TheVivaldi]

En Apple niet te vergeten: https://www.tomshardware.com/news/apple-looking-for-risc-v-programmers

[rjmno1]

tja het is goed schaalbaar en best goedekoop om zo een systeem in elkaar te zetten.

[JSBach]

Mooi. Dat kan leiden tot sneller en vooral zuinige systemen, geschikt voor local AI. Ik draai nu ook zeer zuinig een 8b LLM op een arm-met-Cuda ondersteuning systeem: een Nvidia Jetson Orin Nano. 11 tokens per second met 26 watt!

[Die_ene_gast]

Ik weet dat die modellen als ze vakspecifiek goed zijn, maar hoe zijn ze in het algemeen?

[SuperDre]

RISC-V zal daar niet zozeer naar leiden.

[Sissors]

Precies. Ik zou verwachten dat behalve dat riscv niet ineens veel zuiniger is dan alternatieven, simpelweg het verbruik van de host processor niet dominant is.

[SuperDre]

Men vergeet ook nog eens dat RISC-V alleen een instructieset is en niet een ontwerp van een chip zelf, vele denken dat het een compleet chip ontwerp is.

[RoyReyn]

Laat dit in de toekomst dan ook gaming toe op ARM processoren in combinatie met bijvoorbeeld een NVIDIA GPU? Als we bijvoorbeeld kijken naar de Apple Silicon Mac Pro, er kan geen GPU worden aangestuurd maar er is wel ruimte voor zo’n kaart in deze kast.

[hcQd]

Voor Linux zijn er al drivers voor AArch64, mogelijk is het in principe al wel, maar niet op een Apple.

[TheVivaldi]

Mogelijk achter de schermen wel, daar Apple bezig is met RISC-V: https://www.tomshardware.com/news/apple-looking-for-risc-v-programmers

[evers97]

Kan zomaar 10+ jaar duren of helemaal nooit uitkomen. Afgaan op vacatures is niet zo betrouwbaar en het kan net zo goed voor exploraties zijn.

[downtime]

Dat zegt niets. Misschien is Apple wel met z'n eigen koffiezetapparaat bezig. Of zien ze RISC-V als oplossing voor goedkopere producten als airtags. Ik weet niet hoe het licentiemodel van ARM in elkaar zit maar ik kan me voorstellen dat een RISC-V CPU voor zo'n ding goed genoeg en nog net wat goedkoper is.

[TheVivaldi]

Daarom zei ik ook “mogelijk”. ;)

[The Zep Man]

Laat dit in de toekomst dan ook gaming toe op ARM processoren in combinatie met bijvoorbeeld een NVIDIA GPU?

• RISC-V is geen ARM.
• CUDA heeft niets te maken met gaming.

Dus nee.

[oef!]

Een volledige gpu heeft andere hardware, andere functionaliteit en andere drivers. Nvidia zal die moeten aanbieden en het host OS zal het moeten ondersteunen.

[dasiro]

dit is puur een datacenter-move zoals de afgelopen jaren al verschillende stappen zijn genomen. Ik zou er zelfs niet van versteld staan dat ze gewoon uit de gaming-markt stappen als er niet genoeg productie-capaciteit is om aan de datacenter-vraag te voldoen.

[downtime]

Ik zou er zelfs niet van versteld staan dat ze gewoon uit de gaming-markt stappen als er niet genoeg productie-capaciteit is om aan de datacenter-vraag te voldoen.

Ik betwijfel of Nvidia dat zou doen. Vol inzetten op 1 markt brengt ook groot risico met zich mee als die markt zich niet zo ontwikkelt als je dacht. En je kunt dat probleem op termijn ook omzeilen door de videokaarten op andere (oudere) procede's te maken dan de datacenter-producten. Dat heeft natuurlijk ook consequenties maar dan blijf je wel een speler in die markt, hooguit een speler die steeds een generatie op de concurrent achter loopt, maar dat probleem heeft AMD met z'n videokaarten al jaren en die overleven ook.

[dasiro]

Cru gezegd denk ik dat NVIDIA in gaming blijft, is omdat ze AMD de markt niet willen gunnen die hén de kansen heeft gegeven om in datacenter zo te kunnen boomen.

[sjekneck]

Ik wel, want dit is hoe ze groot zijn geworden en gebracht waar ze nu staan. Mocht de voorsprong op AI ooit verdwijnen of de markt in elkaar storten, dan kunnen ze de deuren wel sluiten. De omzet die ze nu draaien gaan ze niet volhouden op de lange termijn. Dat weten ze zelf ook wel. Alles wat ze nu kunnen pakken zullen ze graag maximaal uitwringen, maar hun core business verspillen zullen ze nooit doen.

Ik zie Nvidia eerder werken aan een product die op zichzelf staat en geen Intel of AMD meer nodig heeft als complete Nvidia oplossing. De CPU markt kan met de huidige gigantische stroom aan cash namelijk echt betreden worden. Reken maar dat een Nvidia CPU + GPU dan een flink stuk kan gaan pakken van Intel/AMD mocht dit echt goed zijn.

[Frietsaus]

Dat kan al (niet op Mac, maar wel op Linux):
https://system76.com/desktops/thelio-astra-a1.1-n1/configure

[Annihlator]

Dat de GPU niet aangestuurd kan worden heeft vooral van-doen met het fijt dat Apple het geweldige besluit had genomen om enkel METAL te ondersteunen voor gpu-instructiesets; Dat blijft m.i. onveranderd

[Blaze85]

Toch wel cudas voor Nvidia dat ze dit nu gaan ondersteunen.

[BlueBird022]

Dit moet AMD nu ook gaan organiseren als ze dat al niet hebben gedaan!

[Bkim]

Dacht dat ik het nooit zou doen maar na jaren toch op AMD overgestapt met een 9070xt. Nvidia bekijkt het naar met hun idiote prijzen.

[necessaryevil]

"Nvidia gaat zijn CUDA-softwareplatform integreren in de processorarchitectuur RISC-V."
Hoe moet ik deze onderkop lezen? Het lijkt me toch niet dat RISC-V aangepast gaat worden door nVidia?

Van wat ik lees en bedenk: ik neem aan dat het toch met name (alleen?) om software gaat?

[Raindeer]

Wat ik niet wist en veel mensen in deze thread ook niet lijken te weten, is dat iedere NVIDIA chipset 10 tot 40 RISC-V cores bevat. NVIDIA is in 2016 naar RISC-V gegaan voor haar microcontrollers. Deze vervullen allerlei taken op de chipsets en het is eenvoudiger om hierbij aan te sluiten op een standaard architectuur.


Bron met veel plaatjes en technische uitleg: https://riscv.org/blog/2025/02/how-nvidia-shipped-one-billion-risc-v-cores-in-2024/:

Background: NVIDIA From Zero to One Billion RISC-V Cores Shipped

NVIDIA’s history with RISC-V dates back to 2016, when the company began transitioning its internal Falcon microprocessor, used as a logic controller for GPU products, to a new alternative. After evaluating available architectures, NVIDIA opted for the RISC-V ISA and since then has been adding RISC-V microcontrollers to their product and switching out the legacy Falcons. 

Over its 10-year lifespan, NVIDIA estimated to have shipped around 3 billion Falcon processors and that the transition would eventually lead to billions of RISC-V processors being shipped.  Typically, each NVIDIA chipset includes between 10 and 40 RISC-V cores depending on the configuration. In 2024, based on the total number of chips shipped, they exceeded the 1 Billion RISC-V processors mark.