Nvidia komt met Quadro GV100 en maakt interconnect om 16 gpu's te koppelen

Nvidia heeft de Quadro GV100 aangekondigd. De videokaart voor workstations beschikt over de volledige GV100-gpu op basis van de Volta-architectuur en is voorzien van 32GB hbm2. Nvidia introduceert ook NVSwitch, voor het koppelen van maximaal zestien gpu's in servers.

De Nvidia Quadro GV100 is per direct te koop voor 8699 euro via de Nvidia-website. De videokaart is gebaseerd op de Tesla V100-accelerator, die Nvidia vorig jaar aankondigde. Het betreft de nieuwe variant, die uitgerust wordt met 8GB-hbm2-stacks, waardoor het totale geheugen op 32GB hbm2 komt.

Nvidia voorziet de Quadro GV100 van de volledige GV100-gpu, die met de Tesla V100 geïntroduceerd werd. Dat is een chip van 815mm² groot, met 21,1 miljard transistors, gemaakt op het 12nm-finfet-procede van TSMC. De Volta-gpu beschikt over 5120-cudacores.

Met NVLink2 kunnen twee Quadro GV100's gekoppeld worden en daarmee wordt een virtuele gpu gecreëerd die twee maal zo krachtig is. Klanten kunnen echter maximaal één Quadro GV100 bestellen bij Nvidia. Fabrikanten van professionele workstations brengen volgens Nvidia binnenkort modellen uit met de nieuwe kaart.

In tegenstelling tot de Tesla V100-accelerator kan de Quadro-variant ook gebruikt worden voor grafische weergave. De kaart is echter voornamelijk bedoeld voor het uitvoeren van berekeningen. De Volta-gpu heeft daarvoor 640 speciale tensor cores aan boord die gespecialiseerd zijn in het trainen van neurale netwerken.

Nvidia kondigde de Quadro GV100 aan op zijn GPU Technology Conference. Op dat evenement maakte de fabrikant ook de komst van NVSwitch bekend. Dat is een nieuwe interconnect, die voortbouwt op NVLink, waarmee Nvidia de pci-e-schakel uit de keten haalt. De eigen interconnect biedt een veel hogere bandbreedte, waardoor videokaarten sneller met de cpu kunnen communiceren.

De nieuwe NVSwitch maakt het volgens Nvidia mogelijk om zestien gpu's met elkaar te laten communiceren, per paar doen ze dat met 300GB/s, wat voor een totale doorvoersnelheid van 2,4TB/s zorgt. De interconnect combineert zestien gpu's als het ware tot één grote gpu. Door zestien Tesla V100-accelerators te gebruiken, levert dat 81.920 cudacores en 512GB hbm2 op, wat werken met grote datasets mogelijk moet maken.

Helaas!
De video die je probeert te bekijken is niet langer beschikbaar op Tweakers.net.

Nvidia gaat de NVSwitch zelf gebruiken in zijn nieuwe DGX-2-server, die is voorzien van zestien Tesla V100-accelerators. Dat is een verdubbeling ten opzichte van voorganger DGX-1, dat systeem had acht Tesla P100-accelerators. De DGX-2 bestaat bestaat verder uit twee Intel Xeon Platinum-cpu's, 30TB aan nvme-ssd's en 1,5TB aan werkgeheugen. Het systeem kost 399.000 dollar en moet in het derde kwartaal beschikbaar zijn.

Reacties (36)

[Twieeker]

Oprecht niet sarcastisch bedoeld en uit pure nieuwsgierigheid.

Wat kun je hier allemaal in praktische zin mee?

Lijkt mij toch dat een hoop interessante dingen mogelijk zijn, maar weet er zelf niet veel over.

[Reactie gewijzigd door Twieeker op 22 juli 2024 18:29]

[Webber]

Voor wanneer er veel parallelle berekeningen gedaan moeten worden. Kaarten aan elkaar koppelen op zeer hoge snelheden zorgt voor nog hogere parallellisering.

Zie deze lijst als voorbeeld lijst van software/frameworks die effectief gebruik kunnen maken van deze parallellisering.

[Verwijderd]

Zeer grote ML modellen draaien, helemaal nu de kaarten het dubbele geheugen hebben.

Ik had helaas geen Titan V geld, dus ik moet dat nu met een 1080Ti doen. Dat scheelt in omvang van model door het geheugen en scheelt een hoop in snelheid doordat ik nu geen tensor cores heb.

[jimzz]

Tja en dat is ook helemaal niks die kaart he . Haha grapje he (ik weet dat veel tweakers niet tegen een grapje kunnen). Maar het is een mooie kaart, maar niet echt geschikt om mee te gamen (buiten het feit om dat het voor een game PC veel te duur is en waarschijnlijk nul extra performance levert).

Als ze het nou zo zouden maken dat ik er ook “normaal” mee kan gamen (lees: alles op max) en dit virtueel, zoals Linus ooit gedaan heeft met zijn 7 gamers, 1 PC, dan zou het ook voor mij wel eens interessant kunnen zijn.

[Reactie gewijzigd door jimzz op 22 juli 2024 18:29]

[Dennism]

Je moet een Titan V inderdaad niet kopen voor het gamen, maar zo even snel uit mijn hoofd is hij toch +-15% sneller dan een 1080Ti op 4K, heb je er dus een voor het zakelijke gebruik kan je na werktijd rustig een spelletje spelen zonder een flater te slaan

[djoprel]

Er is best mee te gamen, het biedt verbeterde framerates, dat heeft Linus in een video onderzocht. (https://youtu.be/G1ueDkb_S6Q)
En streamer shroud heeft even een Titan V geprobeerd, kreeg er duidelijk betere FPS mee, maar hij was nog niet stabiel genoeg voor de meeste games, hij wacht dus nog op driver updates.

[Verwijderd]

De DGX-serie is gefocust op deep learning, dus denk aan kunstmatige intelligentie en zeer complexe neurale netwerken.

[dasiro]

staat al in het artikel: "wat werken met grote datasets mogelijk moet maken."
bvb analyse van data die in de LHC wordt gegenereerd of simulaties van verkeersstromen in grotere steden, naast de standaard weermodellen en dergelijke

[Rnej]

vanuit mijn vakgebied: dit is goedkoper dan een renderfarm bouwen uit meerdere workstations. of gewoon om enorm complexe CAD-modellen op 1 workstation te kunnen weergeven in VR, of op hoge resolutie op hoge FPS

niet exact waar de kaart voor bedoeld is, maar doet het waarschijnlijk wel heel goed

[majetta]

Big Data, Machine Learning, Business Intelligence maar dan voor bedrijven die Terabytes of Petabytes aan data verwerken.

[Ayporos]

"Met NVLink2 kunnen twee Quadro GV100's gekoppeld worden en daarmee wordt een virtuele gpu gecreëerd die twee maal zo krachtig is. Klanten kunnen echter maximaal één Quadro GV100 bestellen bij Nvidia"

Dit snap ik niet? Hoezo adverteren dat dit ding een link mogelijkheid heeft om meerdere GPU's te koppelen maar vervolgens klanten maar één kaart laten bestellen?????

Kan iemand dat uitleggen?....

[Arcticwolfx]

Dat zal wel alleen in de beginfase zijn totdat productie op gang komt. Ik denk dat als je een groot-afnemer bent je vast wel een deal kan sluiten met nvidia.

[Ayporos]

Ik snap je punt.. maar dat maakt het nog steeds niet een acceptabel antwoord.

Dit is een dusdanig dure, specifieke en 'professionele' kaart dat het % mensen dat zo'n kaart als deze in een single-GPU systeem zou draaien SIGNIFICANT lager is dan het aantal mensen dat 2 of meer van zulke kaarten in hun workstation/server zet.

Gezien ze dat hele 'NVLink2' promoten, of iig dat is de indruk die Tweakers' artikel achter laat, laat mensen dan op zijn minst 2 van die kaarten bestellen?...

[k0enf0rNL]

Helaas nog geen aankondiging van de GTX 2080/1180. Dat besturen van een auto in real-time via VR is wel echt cool, dit zou zomaar eens het nieuwe racen kunnen worden waarin je niet fysiek in de auto hoeft te zitten.

[J8S]

Wat is dan nog het verschil met racen in realistische racegames als iRacing of Project Cars? De ontwikkelingen in die sector gaan ook heel hard en dat is een stuk goedkoper schat ik zo.

[t link]

De graphics zijn toch een stuk betere kwaliteit IRL

[J8S]

Dat wordt nog steeds gigantisch beperkt door de resolutie van je VR bril en de kracht van je GPU. Ik denk dat heel veel mensen zich hier in vergissen.

[secretqwerty10]

wilt dit zeggen dat je ook 16 x het aantal schermoutputs kunt hebben?
want anders zal het project van linus om een zo'n groot mogelijke resolutie te hebben vele malen interessanter worden

[Fab1Man]

Het eerste wat ik dacht toen ik dit artikel zag. Ik zie Linus er inderdaad voor aan om een "16 Gamers, One CPU" build te gaan maken. Echter is dat met 8700 euro per kaart een "bullshit" project, maar mocht het zo ver komen dan zal dat ook wel naar voren komen, dat het feitelijk totaal onzinnig is op die hardware. Waar het Linus om zou gaan is die NVSwitch .

[Sandor_Clegane]

Het lijkt erop dat Nvidia weer terug naar zijn SGI roots gaat, het lijkt wel een Infinite Reality server.

Full circle.

[MeMoRy]

Ik heb twee jaar geleden gekeken naar het DGX-1 systems voor een real-time DSP voor multimode optical fibers. Zo'n systeem goedkoper dan een FPGA setup met dezelfde performance.
Uiteindelijk toch voor FPGA's gegaan, omdat hoewel de interne bandbreedte 300Gb/s-2.4Gb/s is, zijn de in- en outputs (pcie) dat niet. We kregen de data er dus niet snel genoeg in.
Ik hoop dat ze dat bij de DGX-2 opgelost hebben.

[freekvandeven]

dat dit ding ziet er wel heel erg klein uit voor iets van 400000 dollar, kan zo een server rack bouwen van een paar miljoen dollar

[Mealatus030]

Haha, zat precies hetzelfde te denken, wat zal die zijn, 4U? Wel kicken zo'n rack

[Delib1t]

Stel, welke voordelen heeft dit dan voor een reguliere gamer.

[Pim0377]

waarschijnlijk ergens tussen 0 en niks...gezien ze:

1: niet bedoeld zijn voor gamers
2:als een gamer ze haalt, hij niet moet verwachten extra performance te krijgen over een gelijksoortige GeForce ivm driver optimalisatie
3: een gamer 99% van de tijd geen geld uitgeeft aan een kaart die 3 a 4x zoveel kost als de rest van de setup

[Verwijderd]

Weinig of zelfs geen.

[A87]

Word moe van Nvidia, een HELEboel PROF kaarten blablabla ditjes en datjes, en helemaal niets aan consumer varianten.
In de tussentijd is de 1080ti oud geworden met een prijskaart van 2x te hoog

[Reactie gewijzigd door A87 op 22 juli 2024 18:29]

[DeArmeStudent]

Deze volta kaarten waren eigenlijk de opvolger van de 1080ti, totdat de vega niet zo veel beter dan de 1080(ti) bleek te presteren en de prijzen van gpu's door mining, de lucht in schoten...

Geen concurentie en hoge monopoly prijzen = geen Volta als consumenten gpu...

[A87]

ja dankzij Nvidia kunnen fabrikanten nog steeds geen 144hz 4k schermen verkopen!

[d1kk3]

Ik zeg: effe een paar van die DGX-2'tjes bestellen en coins minen maar