Hyperthreading en de Xeon dual-processor

De volgende generatie Xeon-processors zullen dubbel zien. InfoWorld laat weten dat Intel zo hun hyperthreadingtechnologie zal verkopen. Hyperthreading maakt het mogelijk om twee virtuele processors te laten werken op één kern. De twee processors, met elk hun eigen IA-32 architectuur, kunnen tegelijkertijd en onafhankelijk van elkaar hun instructies uitvoeren. Daarbij maken ze wel gebruik van dezelfde uitvoerhulpmiddelen als: caches, systeembus en firmware.

Hyperthreading is ontworpen om de IA-32 architectuur beter te laten werken onder multithreading-besturingssystemen. Intel zegt dat de klant een prestatieverbetering kan verwachten van rond de 30 procent. De auteur van het artikel claimt echter een veel grotere verbetering te hebben waargenomen. Met een proefopstelling van twee Xeon DP zag het besturingssysteem vier processors van 2GHz. Bij het draaien van SQL namen de prestaties toe met 46 procent:

With hyperthreading, Intel effectively replicates many of the internal components of the Pentium 4 micro architecture, creating a virtual image of a second processor running within the same silicon. Through a clever manipulation of the CPU's internal "architecture state" (the contents of various control registers and external interfaces), a hyperthreading CPU can execute two unrelated code paths in parallel, with instructions from each path vying for resources in a shared execution core.

Fooling the OS is one thing. Wringing more performance out of an otherwise unmodified processor core is a little more difficult. Intel says that customers can expect a boost of 10 percent to 30 percent, depending on the application type, thanks to the more efficient use of core resources by the dual virtual CPUs, which are treated as separate processing units by SMP (symmetrical multiprocessing)-aware operating systems such as Windows 2000 and XP.

Dank gaat uit naar Goodiem4n voor het submitten van de tip.

Reacties (28)

Met een proefopstelling van twee Xeon DP zag het besturingssysteem vier processors van 2GHz. Bij het draaien van SQL namen de prestaties toe met 46 procent:

Was het niet zo dat programma's op een bepaalde manier moet zijn geschreven wil je echt een performancewinst krijgen? Want het kan best zijn dat de SQL server zo is geschreven dat die optimaal gebruik maakt van HTT terwijl andere software, die niet optimaal is geschreven, misschien 10% sneller zal lopen. Ik denk dat Intel bedoeld dat je gemiddeld 30% snelheidswinst zal behalen, en dan vooral met servertaken.

Voor thuisgebruik (als de P4 straks ook komt met ingeschakeld HTT), zal de winst denk ik minder zijn.

edit:

Ik heb het ff opgezocht, en optimalisatie voor multithreading in het algemeen werkt dus in het voordeel van systemen die aan HyperThreading doen.

HyperThreading is niet bepaald iets waar een stuk software direct mee te maken heeft. HyperThreading verplaatst slechts het schedulen van threads van het OS naar de processor.

Normaal gesproken is het zo dat een processor alleen kennis heeft van een proces. Deze processen worden door het OS gescheduled op de beschikbare processoren. Als een OS kennis heeft van threads kan deze ook meerdere threads uit eenzelfde proces schedulen over meerdere processoren. Als er maar 1 processor is, zal het OS moeten gaan vogelen om verschillende threads allemaal tot hun recht te laten komen.

Nu er echte virtueel meerdere processoren zijn, kan het OS verschillende threads gewoon schedulen op deze extra beschikbare processoren. Dit verandert eigenlijk niets aan een situatie wanneer er nu al meerdere processoren in een computer zitten. Ook dan kunnen threads al over verschillende processoren worden verdeeld.

Dat er bij HyperThreading eigenlijk maar 1 processor achter zit is voor de applicatie niet relevant en eigenlijk denk ik geeneens voor het OS. Het schijnt simpelweg voordeliger te zijn om de processor deze scheduling zelf te laten regelen dan software-matig in het OS. Ik kan mij goed voorstellen dat het performance verschil zelfs nog tussen verschillende OSsen behoorlijk groot kan zijn.

Als je een normale applicatie dus multi-threaded schrijft profiteer je automatisch van de HyperThreading technologie. Op dit moment wordt software meestal alleen multi-threaded gemaakt als dit ook echt noodzakelijk is omdat er simpelweg meerdere executies naast elkaar moeten kunnen draaien (denk aan downloaden met een cancel button). In de toekomst zal je er wellicht meer rekening mee moeten houden dat je ook om performance redenen aan multi-threading zou moeten doen. Hiervoor gebruik je dan echter geen speciale HyperThreading technologie. Je gaat er gewoon vanuit dat er een grotere kans is dat een systeem meerdere processoren heeft.

Dat is het mooie technische verhaal dat Intel verteld ja. Alleen zo jammer dat het in de praktijk zo rottig werkt.

Was het niet vorige week dat er de nodige benchmarks stonden waaruit bleek dat hyperthreading in een heel reut SMP enabled software totaal geen prestatie winst geeft?

Wellicht dus alleen maar nuttig voor SQL en dat soort databases, maar niet voor workstations?

Een toename van 46...
Dan is de eerste vraag die bij mij opkomt: met welk programma is hier getest?

[edit]
Bedankt voor de reacties. Ik zal de volgende keer eerst ff zelf kijken

Lees de tekst:

Met een proefopstelling van twee Xeon DP zag het besturingssysteem vier processors van 2GHz. Bij het draaien van SQL namen de prestaties toe met 46 procent

Gezien dat hier getest is met SQL-queries is mijn eerste vraag hoe groot de Data-base is waarmee hier getest is. Dat word helaas nergens beantwoord. Zodat in mijn ogen de test nietszeggend is.

when serving SQL transaction data to a series of Windows 2000-based clients, our hyperthreading-enabled Xeon DP test bed delivered round-trip throughput an average of 46 percent faster than the same system with hyperthreading disabled (a simple BIOS switch controls the feature). Likewise, when we ran a similar scenario using a Web-based, three-tier application simulation we saw a boost of more than 31 percent when we enabled hyperthreading. (For our test methodology, see "Hyperthreading Xeon DP: How we tested," right.)

Ik kan wel het hele artikel gaan quoten maar het is de bedoeling dat je het artikel leest als het je wat boeit

(edit: typo)

en dan nog 30% meer met PC1066 RDRam ipv. PC800 RDRam.
Volgens Anandtech te zien op IDF2002.

Ik vraag me toch af hoe ze aan die hoge performance boost komen. Normaal gesproken heeft het weinig zin om een snellere cpu te plaatsen, als de bottleneck bijvoorbeeld het geheugen is. (P4 met 32mb o.i.d.)

Dus nu krijg je dus 2 cpu's die gebruik maken van de zelfde. Dan zou je toch theoretisch gezien een performance verslechtering krijgen? Een Xeon met 2Mb cache presteert over het algemeen beter dan een met 512Kb cache.

Misschien is het zo, dat niet altijd de bottleneck in het zelfde deel van de processor/het systeem zit. Als deze dus iedere keer een proces na elkaar afhandeld, dan heeft ie iedere keer NA elkaar last van iedere bottleneck.
Bij HTT is het dus mogelijk om meerdere processen parallel te starten, dan kan tijdens het "wachten" op de eerste bottleneck kan het 2e proces (soms) al iets anders doen.

Simpelweg omdat in dit geval het geheugen niet de bottleneck is.
Je ziet bv ook regelmatig 4-way SMP systemen gebruikt worden voor SQL.

En Intel zorgt er natuurlijk wel voor dat ze de gunstige situaties aanwenden voor benchmarks.

BTW een Xeon met 2MB cache presteert maar amper beter dan eentje met 512Kb cache. 12% snelheidswinst in de meest gunstige situatie in Exchange. Dat is dus diep triest als je kijkt hoeveel duurder die Xeon dan is.

Exchange is niet de meest ideale toepassing voor de grotere cache, SQL is daar beter voor geschikt.

Bij applicaties die veel gebruik maken van je FPU schijnt de performance alleen maar omlaag te gaan.
bijv. Quake III

Dus voor alle thuisgebruikers/gamers is dit niet echt functioneel

Maar wel leuk als je een servertje gaat bouwen

Bij applicaties die veel gebruik maken van je FPU schijnt de performance alleen maar omlaag te gaan.
bijv. Quake III

Dus voor alle thuisgebruikers/gamers is dit niet echt functioneel

dan wordt het wel een heel erug dure game computer.

Meestal wordt dit gebruikt voor back-end machines zoals Exchange servers of SQL servers. Die hoeven niet zoveel te rekenen ook.

* 786562 boner

Dan moet je toch nodig eens een keer assembly gaan leren programmeren. Dan weet je dat dat soort applicaties wel degelijk veel rekenen, alleen in integer formaat.

[quote] Maar wel leuk als je een servertje gaat bouwen[\quote]
Thuisgebruikers hebben alleen meestal niet zo'n brute server. Meestal wordt daarvoor juist een oude (goedkope) PC voor gebruikt.

Ach, is toch leuk als je ziet dat je servertje ($10000) nog net niet 100% van zijn tijd gebruikt om virtueel snot uit zijn virtuele neus zit te vreten (leuk voor een screensaver trouwens)

Xeon niet voor performance van snelheid?

Ik las anders laats een test van workstations met grafische applicaties en de snelste machine was er 1 met een dual Xeon. Ik heb de test nu effe niet bij mij maar zo uit mijn hoofd deed een dual800+ mac er 86minuten over om een 3d filmpje in Lightwave te renderen terwijl de Xeon machine er ongeveer 44 minuten over deed en wanneer hyperthreading aanstond deed de xeon machine er slechts 21minuten over.
Dus ga maar na als je flinke 3D filmpjes wil gaan renderen dat het dan in snelheid behoorlijk uit zal gaan maken! Het spelen van een game als quake gaat wellicht minder snel maar het MAKEN ervan gaat waarschijnlijk wel veel sneller ;-)

Met een dual Xeon setup 46% performancewinst bij SQL.

Is dat niet een beetje weinig? Het OS ziet nl. 4 (quad) processors in plaats van 1.

Met mijn dual Athlon XP heb ik al meer dan 46% performancewinst in vele geoptimaliseerde applicaties, t.o.v. 1 processor...

Het OS ziet wel 4 verschillende CPU's, maar dat zijn het dus niet. Het zijn twee CPU's die allebei HTT aan hebben staan. HTT wil dus niet zeggen dat het twee fysiek verschillende core's zijn, want ze gebruiken dus dezelfde registers en dergelijke. Daardoor krijg je dus geen lineare stijging van de performance.

En op een gegeven moment is de CPU kracht geen beperking meer, maar is dat de bandbreedte van het geheugen o.i.d. Want de data moet wel verplaatst worden en de CPU kan nog zo snel zijn, als het geheugen op een geveven moment niet sneller kan werken, houd het ook op.

edit:

Ik had graag gezien dat de reviewer ook een test had gedaan met een single Xeon met HTT ingeschakeld, want dan hadden we mooi kunnen zien wat het effect is tussen 1 of twee HTT Xeon's en ook waar eventueel een bottleneck zit. Het kan best zo zijn dat 1 HTT Xeon voor 40% zorgt ten opzichte van een HTT loze Xeon en dat een extra HTT Xeon dus maar voor een paar % extra zorgt.

Je snapt het niet, ze vergelijken 2 xeon processors zonder hyperthreading met 2 xeon processors met hyperthreading, dus die 46% winst komt nog is bovenop de winst van dat het 2 processors zijn...

HAha. jeetje. ik zag daar iets staan over Quake 3 en Xeon.. nou ik heb zelf een wat ouder systeem staan:
Dual P3-Xeon 500. met dual SCSI onboard, (beetje uitgebreid) en ik vind dat 't SUPERRRR stabiel loopt. ik heb niet zo'n hoge FPS met quake, maar vastlopen??? was dat? jah als ik met de services begin te klooien, daar kan win2k ni tegen haha..

maargoed. ja is wel errug duur... maargoed.. ik zou gewoon een athlon ofzo nemen voor quake 3, met leuke videokaart erin.. da werk perfect..

Xeon is niet voor de preformance van snelheid, maar meer om het systeem stabiel en betrouwbaar te maken.. (en ja das bij quake 3 ook nodig)

maargoed., dacht laat ik ff reageren.. Hey mazzels.

En in welk opzicht maakt een Xeon het systeem dan stabieler en betrouwbaarder dan een dual P3 of P4?

Die Xeon is net zo stabiel als die P3 of P4. Wel kan het zo zijn dat je systeem stabieler is omdat Xeon mobo's gemiddeld meer high-end zijn dan dual P3 en dual P4 borden. Maar dat heeft dus helemaal niets met je CPU te maken en alles met je mobo. Als je van dezelfde prijs/kwaliteit klasse een dual P3 of P4 mobo koopt heb je weer dezelfde stabiliteit.

Wow, 46% performance winst ?

Nice Dat is best veel en helemaal lekker voor SQL servers... ben benieuwd of Oracle dit ook doet (die performance ZO verhogen).

Ze moesten eigenlijk wat meer van dat soort server-apps testen.

Hoe gaat dit nu eigenlijk met die Oracle lisences?? Die zijn toch per processor?
Ik bedoel als het OS niet kan zien of er nu 4 normale of 2 multi-treading cpu's kan zien, kan oracle dat lijkt mij ook niet...

Dan moet je dokken voor 4 cpu's vermoed ik... of valt dit wel mee?

Het is wel de week voor de servermarkt .

als ik dat bestand bekijk, denk ik zelf dat de Pentium4 Xeon helemaal niet zo snel is.
Want hij is maar iets sneller als een Pentium3 xeon's, terwijl die een veel lager aantal Mhz hebben. En eigenlijks zijn het vier Pentium's4 tegen 2 pentium's3 dus zo snel zijn ze niet.