Nvidia gaat Tesla-gpu's voorzien van 64bit ARM-cpu's

Vrijwel alles en iedereen in de wetenschap heeft 64 bits floating point of 64 bits integers nodig of 32 bits integers nodig.

De geciteerde gflops van gpu's zijn voor single precision (32 bits) meestal en niet double precision. Single precision flops is alleen voor het spelen van spelletjes interessant.

Gros van de publieke wetenschap op universiteiten doet aan double precision berekeningen, met name matrix berekeningen en FFT achtige transforms. Hier gaat het gros van de supercomputer tijd aan op. De meerderheid.

Dan is er nog een actief integer gebied waar nauwkeurig rekenen belangrijk is (denk aan NSA maar ook allerlei soortgelijke gebieden met soortgelijke berekeningen).

Die 2 bij elkaar vreten zo'n 95% van alle systeemtijd van wetenschappers.

De hele 'biologie' bijvoorbeeld vreet bijzonder weinig (afgezien van dat het berekenen van DNA sequences weer double precision nodig heeft - en dus in groep 1 hierboven valt van die 95%), maar dan nog vreeet dat bij elkaar minder dan 0.5% van alle systeemtijd.

Dit alles lukt *enkel en alleen* heel goed op Nvidia's Tesla.

En die is duur.

Voor AMD's gpu's bestaat geen goede transform. Een paar Pakistani hebben dat geprobeerd op te zetten voor AMD, maar dat is een vrij lachwekkende efficiency die zij behalen. Die doen het op de trage manier.

Nvidia's eigen library is daar enorm superieur. Dan ben je er nog niet op supercomputers, want het moet nog geparallelliseerd worden over de machines.

Op het moment dat je heel veel machines in de strijd gooit, is kans op bitflips een stuk groter, als je het middelt over zoveel machines. Dus nauwkeurige gpu's zijn dan nodig.

Gamer gpu's zijn veel te hoog geklokt en onnauwkeurig. Als je een keer een foutief berekend pixel hebt dan is dat no big deal, maar het kan een maandenlange matrixberekening compleet in de war gooien.

Dus je hebt een onderklokte gpu nodig die ook nog eens nauwkeurig werkt. Met andere woorden ECC is geen luxe. Het is een requirement.

Alleen de Tesla heeft dus ECC. Dit gaat verder dan alleen de RAM. Het gaat met name ook om de compute units zelf.

Dat zijn requirements - niet dingen waar je 'over kunt onderhandelen'.

In quantum mechanica reken je al ver achter de komma. Afrondingsfouten zijn al desastreus voor de uitkomst van je berekening - de ellende van bitflips door overklokte gpu's kun je je gewoon niet veroorloven.

Ook Nvidia's Tesla heeft al moeite om dit alles 'bugvrij' te doen. De gamers gpu's zijn onbruikbaar hiervoor simpelweg.

Dus single precision lukt dit alles niet. Wat je eigenlijk zou willen is alles met integers representeren, want dat rekent veel accurater en bij de grote transforms is accurater rekenen beter. Sterker nog, je kunt dan lossless rekenen. Dus zonder afrondingsfouten te riskeren.

Een double precision multiplicatie op de Tesla's is echter veel sneller dan een 64x64 bits integer vermenigvuldiging (om te beginnen hebben ze die 64x64 bits vermenigvuldiging niet).

De AMD gpu's afgezien van het missen van ECC wat ze al onbruikbaar maakt voor supercomputers en afgezien van feit dat ze te hoog overklokt zijn door AMD voor ze op de markt gegooid worden, die zijn enorm traag in 32 bits integer vermenigvuldigingen.

Beide instructies (je hebt er 2 voor nodig) hebben dus 4 cores nodig, dus je hebt 8 clockcycles nodig so to speak (verdeeld over 4 cores) om een enkele vermenigvuldiging uit te voeren (uitgaande van throughput en niet latency natuurlijk).

Dat is heel traag op AMD dus. Die is alleen snel voor spelletjes spelen, waar af en toe een bit omflippen in de resultaten niet zo belangrijk is natuurlijk.

Nvidia is veel sneller voor 32 bits integers dan AMD. 1 cycle voor de highbits en 1 ccle voor de lowbits. 2 cycles in totaal dus. Dan heb je 32x32 = 64 bits in totaal als output.

Double precision is even snel, ook 2 cycles, maar dan heb je 53 bits mantissa * 53 bits == 53 bits output (even theoretisch gerepresenteerd). In werkelijkheid heb je meer bits.

Het gaat in al deze gevallen enkel en alleen om vermenigvuldigen dus.

Vandaar dat de meeste transforms double precision gebruiken - want dat werkt sneller op de hardware. Bij sommige echt grote transforms ontkom je niet aan integers gebruiken overigens, simpelweg omdat ook double precision dan tekort schiet en te veel afrondingsfouten veroorzaakt.

Correct rekenen is ontzettend belangrijk.

Overigens CPU's leggen het enorm af tegen GPU's als het gaat om vermenigvuldigen. Om een simpele reden. Om het simpel te representeren:

Van die 4 instructies per cycle die een intel i7 kan decoden per cycle,
Kun je er maar maximaal 1 aanbieden bij de vermenigvuldigingsunit.

Die was dan ook nog niet eens enorm snel. Pas bij de laatste i7 revisies is dat wat sneller geworden (qua throughput). Die andere executie units doen dus niks nuttigs in die tijd voor de meeste wetenschappelijke software. Dan is het wel gevectoriseerd natuurlijk in AVX ondertussen, maar dat is weer heel ander verhaal. Het principe is en blijft dat men vermenigvuldigen wil en niks anders en CPU's zijn daar gewoon TRAAG mee en dat met zo weinig cores ook nog.

[Reactie gewijzigd door hardwareaddict op 3 november 2012 11:35]