Nvidia introduceert A800-gpu voor China die niet onder exportrestricties VS valt

Nvidia introduceert nieuwe A800-datacenter-gpu's voor de Chinese markt. De A800-serie is in grote lijnen gelijk aan de bestaande A100, hoewel de bandbreedte van de NVLink-interconnect is beperkt tot 400GB/s. Daarmee hebben de gpu's geen last van de exportrestricties van de VS.

De Nvidia A800 is onlangs voor het eerst verschenen bij een Chinese distributeur, schrijft persbureau Reuters. Het grootste verschil met de bestaande A100-gpu is de lagere bandbreedte voor de NVLink-interconnect, die wordt gebruikt om grote aantallen gpu's met elkaar te verbinden voor gebruik in datacenters. Bij de A800 ligt de bandbreedte op 400GB/s, waar dat bij de A100 600GB/s is. De Amerikaanse exportregels slaan op chips met een interconnectbandbreedte van 600GB/s en hoger, schrijft Reuters. De A800 mag hierdoor wel in China verkocht worden.

Los van de lagere NVLink-bandbreedte lijkt de A800 identiek aan de A100. Nvidia noemt het aantal CUDA-cores van de A800 en welke kloksnelheden ze halen, maar de vermelde prestaties zijn dezelfde als die van de A100-serie. De gpu maakt daarbij gebruik van dezelfde Ampere-architectuur en beschikt eveneens over maximaal 80GB HBM2e-geheugen, net als de A100. Ook de tdp's van 300W voor de PCIe-variant en 400W voor het SXM-model zijn ongewijzigd.

De A800 is een reactie op de nieuwe restricties voor de export van geavanceerde chips naar China die de Amerikaanse president heeft ingesteld. Deze regels stellen dat bepaalde geavanceerde AI-chips voor datacenters en supercomputers niet naar China geëxporteerd mogen worden als ze een bepaalde prestatielimiet overschrijden.

De regels gelden voor producten van Amerikaanse bedrijven als Nvidia, maar ook voor producten van buitenlandse partijen die gebruikmaken van Amerikaanse technologie. Volgens Bloomberg is TSMC eerder al gestopt met het produceren van gpu's voor het Chinese chipbedrijf Biren Technology. Een soortgelijke maatregel werd eerder genomen door voormalig president Donald Trump om chipleveringen aan Huawei te beperken. Amerikaanse bedrijven mogen ook niet langer productieapparatuur voor geavanceerde logic- en geheugenchips leveren aan fabrieken in China, tenzij fabrikanten daarvoor een licentie van de VS krijgen.

Specificaties van de Nvidia A800 (links) naast de A100

Reacties (33)

[Source90]

Bij de A800 ligt de bandbreedte op 400GB/s, waar dat bij de A100 600GB/s is. De Amerikaanse exportregels slaan op chips met een interconnectbandbreedte van 600GB/s en hoger, schrijft Reuters. De A800 mag hierdoor wel in China verkocht worden.

Vraag me af waarom er dan helemaal naar 400GB/sec wordt teruggeschroefd en niet naar 599GB/sec. Beetje terugschroeven en hij valt eveneens onder de uitzonderingen?

[Thekilldevilhil]

Een NVlink connectie bestaat uit een X aantal links met een Y aantal paren.
NVlink, zoals op Ampere bestaat uit 3 links van 4 paren voor een totaal van 600GB/s. Nividia heeft dus simpelweg een link uitgezet waardoor je op 400GB/s uit komt. Waarschijnlijk is dit veel makkelijker dan bijvoorbeeld het aantal paren van een enkele link uitzetten.
Zie het een beetje als met PCIe. Het is veel makkelijker om van 16x naar 8x terug te schalen dan om bijvoorbeeld een enkele link uit te schakelen om er 15 over te houden.

Edit: typo

[Reactie gewijzigd door Thekilldevilhil op 22 juli 2024 22:50]

[itcouldbeanyone]

Ik zie het meer als van 8 bit naar 7 bit wat dus niet mogelijk is.
Van 16 pcie lanes naar 15 is juist heel erg makkelijk

[nzall]

Zou het in principe mogelijk zijn voor Chinezen om die uitgeschakelde link opnieuw aan te zetten?

[davince72]

Moest ik ook aan denken. Zal binnenkort wel online verschijnen. Of met een stukje software en anders wel met een extra jumpertje oid ;-)

[e_balk]

Ik denk dat er 1 chip vervangen is die die interconnect beschikbaar maakt en die is dan waarschijnlijk maximaal 400GB/s ipv die 600GB/s.

Ben het wel met je eens dat het een beetje een vreemde actie lijkt, geeft meer een idee dat de exportrestrictie niet echt geweldig doordacht is....

[Reactie gewijzigd door e_balk op 22 juli 2024 22:50]

[Dirk1221996]

ik denk dat de mannen van Nvidia mee mochten denken, en dat dit het resultaat is.
en dan doen ze nu alsof ze heel goed zijn, door er toch flink onder te zitten...

dan wordt er in de politiek geen vraag meer over gesteld, en is de business back als usual

[watercoolertje]

Vind @e_balk redenatie logischer. Chippie van het vorige model oid die maar 400GB/s kon en je bent klaar.

In beide gevallen is het gewoon je product aanpassen zodat het binnen de regels valt. Dus in beide gevallen kun je dezelfde vragen stellen of dat discutabel is of niet.

Je klinkt een beetje zoals mijn vader die stelde dat ik beter niet voor de volle hypotheek kon gaan die ik kon nemen omdat ze dan misschien wel eens lastiger gaan doen, maar je voldoet of je voldoet niet, veel meer smaken zijn er niet.

[Barreljan]

Is het echt nieuw, hardwarematig anders of later een andere (gehackte desnoods) firmware erop en dan wel de volle bandbreedte? Zou me niets verbazen.

[Tommy_K]

losse gok is dat de bus is opgebouwd uit 3x200, dus lijn uitschakelen zorgt voor 2x200

[CAPSLOCK2000]

Bij de A800 ligt de bandbreedte op 400GB/s, waar dat bij de A100 600GB/s is. De Amerikaanse exportregels slaan op chips met een interconnectbandbreedte van 600GB/s en hoger, schrijft Reuters. De A800 mag hierdoor wel in China verkocht worden.

Vraag me af waarom er dan helemaal naar 400GB/sec wordt teruggeschroefd en niet naar 599GB/sec. Beetje terugschroeven en hij valt eveneens onder de uitzonderingen?

Misschien omdat ze het risico niet willen nemen dat het ding af en toe hoger piekt?
Misschien dat ze bang zijn dat ze direct worden overgeklokt als ze te dicht bij die grens zitten en dan alsnog gedoe krijgen met de exportregels?
De makkelijkste verklaring lijkt me dat ze een goedkoper onderdeel gebruiken dat maar tot 400 gaat.
Het is niet alsof er heel veel competitie is die ze dwingt het onderste uit de kan te halen.

[hooibergje]

Of omdat ze 1 van de 3 [dingesen die bandbreedte regelen] uit hebben gezet.

[Yzord]

Vraag me sowieso af waar het uberhaupt op slaat. Je hebt of wel of niet exportregels. Dat deze dan afhangen aan de interconnectbreedte slaat helemaal nergens op.

Deze regels stellen dat bepaalde geavanceerde AI-chips voor datacenters en supercomputers niet naar China geëxporteerd mogen worden als ze een bepaalde prestatielimiet overschrijden.

Alsof het nut heeft. Deze gpu's worden aan elkaar gelinkt, dus ipv 1 linken ze er nu 2 om een bepaalde prestatie te halen. Die hele regel is compleet nutteloos. Voor de wereld doen alsof je China op de vinger tikt, maar achter de schermen gewoon toestaan dat China vrolijk door kan gaan met supercomputers te bouwen. Ja, het kost ze meer centen en ruimte, maar het zal China echt niet storen hoor.

[djexplo]

Voedselhulp ondermijnt prijs- en marktstructuur

Het werkt hier het zelfde. Op het moment dat je een land compleet afsluit van een product, heeft een lokaal bedrijf de kans om die markt te pakken met een veel duurder en slechter te product, en dan langzaam toe te werken naar een goed of zelfs beter product.
Vandaar dat wat slechtere producten wel toe zijn gestaan, dan voorkom je dat er een lokale speler opkomt en er overheen gaat.

[maratropa]

klinkt idd als een marketing regel zodat er gewoon nog centjes verdiend kunnen worden. Zodat als het mis gaat de Chinese suicide drone-tjes goed getraind ten velde komen en de amerikaanse/taiwanese units er zo uitpikken.

[CAPSLOCK2000]

Alsof het nut heeft. Deze gpu's worden aan elkaar gelinkt, dus ipv 1 linken ze er nu 2 om een bepaalde prestatie te halen. Die hele regel is compleet nutteloos. Voor de wereld doen alsof je China op de vinger tikt, maar achter de schermen gewoon toestaan dat China vrolijk door kan gaan met supercomputers te bouwen.

Ik denk niet dat iemand de illussie heeft dat dit China gaat tegenhouden, volgens mij is dat het doel ook niet. Het doel is volgens mij meer zorgen dat de VS een grotere supercomputer kan betalen dan China.

Ja, het kost ze meer centen en ruimte, maar het zal China echt niet storen hoor.

Ik denk het toch wel. Alle moderne supercomputers worden vooral begrensd door de geld. Het ontwerp van supercomputers schaalt heel makkelijk meer. Als je meer geld hebt dan koop je meer onderdelen is je computer dus sneller. Als China meer geld zou kunnen betalen dan deden ze dat al.

[Vlizzjeffrey]

Dus een Amerikaans bedrijf die actief handelsrestricties met China omzeild ten behoeve van winst?

Mag je je afvragen wat die handelsrestricties waard zijn?

[watercoolertje]

In basis is het gewoon conformeren/voldoen aan de handelsrestricties. Dan kan je het negatief proberen te maken door het omzeilen te noemen, maar het voldoet simpelweg aan de gestelde eisen en daar is dus niks mis mee.

Als de VS dat niet wil zullen ze de eisen strenger moeten maken en misschien eisen dat je geen producten speciaal voor die markt mag maken oid.

Als ik 100 ga rijden waar dat moet omzeil ik dan een boete? Of conformeer ik daarmee gewoon aan de regels waardoor ik geen boete krijg? Omzeilen zou zijn als ik 120 ga rijden maar waar de flitspalen staan maar 100

[Reactie gewijzigd door watercoolertje op 22 juli 2024 22:50]

[davince72]

Helemaal eens, maar dat veranderd zodra blijkt dat je de kaart eenvoudig kunt hacken waardoor die gelijk aan A100-gpu wordt....dan kun je wel spreken van omzeilen ;-)

Of in jouw voorbeeld. Auto mag niet harder dan 100. Dan zet ik als Porche fabrikant een simpele begrenzer op de auto zodat ik hem mag verkopen. Vervolgens kun je heel eenvoudig de begrenzer eraf halen en loopt die 250 ;-)

[Reactie gewijzigd door davince72 op 22 juli 2024 22:50]

[SuperDre]

Ze omzeilen geen handelsrestricties want deze mogen ze (voorlopig) gewoon leveren.

[slamhk]

Als ik kijk naar de nieuwsbericht van de onlangs gelanceerde GPU's door Moore Threads en de grootte van de afzetmarkt dat China is, is het toch wel te begrijpen dat NVIDIA een aparte SKU uitbrengt. Ze hebben nog een grote voordeel en komt mthreads er nog niet in de buurt, maar een lokale GPU OEM met directe support en agressieve pricing is toch wel een gevaar voor nvidia/amd/intel.
https://www.tomshardware....eads-unveils-chunxiao-gpu

[Osiummaster]

Laten we eerdst maar wat benchmarks zien.

Tevens is AI een gigantische use-case en hun driver support zal waarschijnlijk bagger zijn.

[k995]

Die titel is een copy pasta? Bedrijf is een 2jaar oud met amper producten/klanten/omzet maar word omschrvene als "mayor" ? grappig

[Roel1966]

Ergens wel apart dat Amerikaanse bedrijven nu exportrestricties proberen te gaan omzeilen, toch wel een teken dat de Chinese markt belangrijk voor hun is. Dan vraag ik mij af of ze hun eigen ruiten niet inslaan door dit soort restricties op te leggen. Blijkbaar dat de Chinese markt dus ook voor Amerikaanse bedrijven belangrijk blijft en het niet alleen andersom is.

[MrMonkE]

Niet 'omzeilen' maar 'voldoen aan'.

[Roel1966]

Nu ja, ik denk als er niets aan te verdienen viel dat Nvidia die moeite niet zou gaan nemen om dan een aparte chip te ontwikkelen voor de Chinese markt. Je kan het als 'voldoen aan' bestempelen maar in feite is het gewoon omzeilen van de restricties zodat ze toch gpu's kunnen leveren aan China.

[MrMonkE]

ach ja, Snap wat je zegt, zo kun je het ook stellen.

[Roel1966]

Of het ook zo is laat ik in het midden maar ja Nvidia doet de laatste tijd wel meer vreemde dingen....

[Alxndr]

Als de Chinese markt niet belangrijk was, was een restrictie helemaal niet nodig? Bovendien, iedere export restrictie doet financieel pijn, iedere dollar minder omzet leidt tot minder winst.

Daarnaast zal er naar alternatieven gezocht worden, als die goed genoeg blijken (of grote aanpassingen gedaan moeten worden) zullen ze nooit meer terugkomen ook niet nadat de restricties zijn opgeheven.

Het is dus volgens mij helemaal niet zo heel gek om ze op deze manier wel als klant te houden, maar enigszins gekortwiekt. Een zoals iedereen al zegt, ze zouden ook voor een totaal verbod kunnen gaan.

[Roel1966]

En zoals iedereen al zegt, ze zouden ook voor een totaal verbod kunnen gaan.

Doel is voor zover ik begrepen heb dat ze willen voorkomen dat China supercomputers kan bouwen, maar ja, Chinezen zijn ook niet gek en best wel innovatief. Ze zijn al bezig met eigen chips te ontwikkelen en je je kan afvragen of dat dan wel een goede ontwikkeling is.

Wat ik ook vaker wel hoor van Amerikaanse vloggers en dan vooral de autokanalen is dat die het best wel vervelend vinden dat ze niet meer zo gemakkelijk in China kunnen bestellen. Vaak als die aan oude barrels werken dan zetten ze er liever Chinese imitatie in wat veel goedkoper is.

[cappie]

wat ik me afvraag wat het nut van deze restrictie nou daadwerkelijk is.. gaat het ze er nou daadwerkelijk om dat de Chinezen 33% langzamere kaarten hebben qua data transfer? is dat alles?

[Reactie gewijzigd door cappie op 22 juli 2024 22:50]

[MilanSxD]

Nee. Daarnaast zijn de kaarten niet 33% langzamer.
Dit is vooral economisch getinte geopolitieke beïnvloeding van de ontwikkeling van Supercomputers in China. Ze moeten meer betalen voor een kaart die met minder kaarten kan koppeling via NV-Link. Namelijk 8 in plaats van 16. Daardoor zullen ze meer kaarten moeten kopen om dezelfde aantal NV-Links te kunnen bereiken. Een compleet verbod zou zorgen voor versnelde lokale ontwikkeling door Chinese bedrijven. Als die net zo ver komen met reverse engineering gevolgd door innovatie, dan zijn de Chinese niet meer afhankelijk van Nvidia/AMD/Intel en kunnen ze zelf hardware bouwen voor de ontwikkeling van Supercomputers. Hiermee wordt het een compleet andere race and kost het de VS ook nog eens inkomsten, terwijl China er kwa uitgaven op voorruit gaat.

In het kort is de VS gewoon bang dat China een betere, snellere supercomputer kan bouwen dan de VS zelf.