Gigabyte komt met AI TOP-componenten die geoptimaliseerd zijn voor trainen AI

Gigabyte introduceert een AI TOP-serie met componenten die geoptimaliseerd zijn voor het trainen van AI-modellen. Het betreffen moederborden, gpu's, voedingen en ssd's. Ze zijn volgens de fabrikant geoptimaliseerd voor een lager stroomgebruik en gevalideerd voor AI-workloads.

Gigabyte introduceert verschillende producten in zijn AI TOP-serie. Zo komt het bedrijf met drie verschillende videokaarten. Die krijgen onder andere een dualslotontwerp met blowerkoeler, zodat gebruikers vier van dergelijke gpu's in een normale behuizing kunnen installeren. Er komt een Nvidia GeForce RTX 4070 Ti Super-gpu beschikbaar in de AI TOP-serie. Bij AMD verschijnen Radeon PRO W7800- en W7900-videokaarten die gebaseerd zijn op de RDNA3-architectuur van het bedrijf.

De fabrikant toont daarnaast twee moederborden. Eén daarvan ondersteunt AMD's Threadripper 7000-serie op basis van Zen 4. Dit moederbord, de TRX50 AI TOP, beschikt over twee 10Gbit/s-lanpoorten, ondersteunt tot 2TB aan DDR5-geheugen, vier dualslotvideokaarten en vier ssd's. De W790 AI TOP werkt met de Xeon W-processors van Intel. Dat model krijgt twee Thunderbolt 4-connectors en ondersteunt vier videokaarten en maximaal zes ssd's.

Daarnaast komt het bedrijf met een 1600W-voeding in zijn AI TOP-serie, die ondersteuning moet bieden voor vier van de genoemde gpu's en voorzien is van een 80 Plus Titanium-certificering. Er komen tot slot ssd's van 1TB en 2TB beschikbaar, met lees- en schrijfsnelheden tot respectievelijk 7200MB/s en 6500MB/s.

Gigabyte zegt dat de verschillende producten geoptimaliseerd zijn voor lager stroomgebruik en worden gedekt met een garantie van vier jaar. Daarnaast heeft de fabrikant deze componenten gevalideerd met de daadwerkelijke AI-workloads waarvoor ze bedoeld zijn. De fabrikant deelt geen concrete prijzen, maar noemde wel verschillende sets die gezamenlijk 6500 tot 36.000 dollar kosten voor een compleet systeem.

Daarbij toonde Gigabyte een AI TOP Utility. Gebruikers kunnen deze software gebruiken om gemakkelijk AI-modellen te trainen, zonder dat daarvoor code nodig is. Gebruikers kunnen daarin zelf eigen data invoeren, deze voorzien van een backbone, zoals de opensource-Llama-modellen van Meta, en enkele andere specificaties doorvoeren. In de software kan ook gemeten worden hoeveel systeemresources gebruikt worden en hoe het trainen vordert.

Reacties (23)

[Snowfall]

Gigabyte introduceert een AI TOP-serie met componenten die geoptimaliseerd zijn voor het trainen van AI-modellen.

We hebben het labeltje AI toegevoegd en noemen het AI geoptimaliseerd.

[slamhk]

Ja haha, workstation components met een "AI" marketing label.

[Snowfall]

Dat is ook gewoon letterlijk wat dit is. Niets meer niets minder.

Net zoals die AI TOP utility. Ben benieuwd op welke basis dit gebouwd is en of ze het überhaupt zelf gebouwd hebben of gewoon een of ander framework van de plank hebben genomen en er zelf een likje verf aan gegeven hebben.

[blorf]

Het is meer. Het nog verder obscuur / oncontroleerbaar maken van computerhardware, en daarmee ook de prijs.
Ik wil wel eens een proof of concept zien van dat 'optimaliseren'. Als er op die manier een prestatie-verbetering gemaakt zou worden betekent dat een tekortkoming van bestaande architectuur. Vooral op een moederbord moet dat vast iets voorstellen, dat een PCIe-kaartje met die chips erop te ver weg is...

[Reactie gewijzigd door blorf op 23 juli 2024 06:31]

[slamhk]

Net zoals die AI TOP utility. Ben benieuwd op welke basis dit gebouwd is en of ze het überhaupt zelf gebouwd hebben of gewoon een of ander framework van de plank hebben genomen en er zelf een likje verf aan gegeven hebben.

Ja, ik denk dat het gewoon een high-level interface is, waarbij je bepaalde modellen kan importeren en trainen. Niet echt iets waar gigabyte zelf van de grond af heeft opgebouwd.
Het ziet er wel leuk uit, maar er zijn genoeg betere alternatieven waar je niet afhankelijk bent van Gigabyte. Ik kan me niet voorstellen dat je checkpoints b.v. verloren gaan door bepaalde bugs en dan is het maar wachten voor updates van gigabyte.

Vooral voor de gebruikers van zulke workstations, dit schaf je niet zomaar aan.

[Snowfall]

Beetje ML of Deeplearning specialist gaat echt geen modellen trainen met zoiets als hun TOP AI Utility. Die zijn meer bezig met frameworks zoals Keras en Apache Sparks. Dat is wat mij betreft weer zo schuurt. Berg AI hype om allemaal een graantje mee te kunnen pikken.

[MSalters]

Nuttig. Ik heb lang moeten zoeken naar een Zen4 moederbord met twee PCIe sloten voor videokaarten, uiteraard voor AI doeleinden. Dan is dit handiger.

[Olaf van der Spek]

Twee PCIe x16 sloten is toch niks bijzonders?

[MSalters]

Je zou zeggen van niet. Maar met AM5 heb je maximaal 2x8 voor Graphics, en de standaard config is 1x16.

Dit artikel is natuurlijk geen AM5 maar een Threadripper, die hebben sowieso meer PCIe lanes.

[Olaf van der Spek]

Werken GPUs voor AI gebruik niet in sloten die via de chipset gerouteerd zijn?

[MSalters]

Enigzins een gok, en omdat het B2B is heb je geen 14 dagen bedenktijd.

[Wolvganger]

Mining-hype, nu weer een AI-hype… Wat heb ik hier als gewone consument nou aan? Ja, fijn dat Windows straks om de seconde een screenshot maakt zodat AI kan opzoeken welk restaurant nou in een bepaald mailtje is genoemd. Moet je dat überhaupt willen?

Het maffe is dat de gemiddelde gebruiker dit gaat gebruiken en zelf daardoor alleen maar dommer wordt, want zoeken etc. daar is AI voor. Plak vooral overal ondertussen AI op, dan verkoopt het goed en zijn de managers en aandeelhouders ook weer dolgelukkig.

Ik gebruik mijn eigen brein wel ipv AI…

PS: misschien begin ik een oude kerel te worden, maar dit AI geneuzel is gewoon moderne flauwekul.

[PrimeTinus]

Mijn gigabyte laptop is ook een cutting-edge Microsoft Azure AI notebook, aldus Gigabyte. Maar deze optie is echt heel simpel... hij zoekt gewoon het meest geschikte energieprofiel op basis van de toepassing op het scherm. Een hele fancy benaming voor een vlookup in een tabelletje.

[Audione0]

Wacht maar tot er AI.X op de doos geplakt wordt dan worden mensen helemaal wild. Vooral mannen die zeer gevoelig voor de letter X zijn.😆

[Reactie gewijzigd door Audione0 op 23 juli 2024 06:31]

[lezzmeister]

Ik koop alleen als het een XFX XXX editie is.

[Audione0]

[kamen]

Dit is de nieuwe crypto mining epidemie

[adje123]

Videokaarten inslaan dus en straks dik winst pakken?

[Navi]

Kan veel makkelijker, koop NVDA en AMD aandelen.

[thePiett]

Ik ben een beetje AI tAIred.

[NeverSettle]

AI is leuk en aardig, maar waarom lanceren bedrijven niet zulke mooie moederborden en GPUs voor reguliere consumenten? Zo'n strakke GPU shroud met twee of drie fans mis ik. ARGB vind ik prima, zolang je het uit kan zetten, maar wat er nu te koop is alleen maar "gamers" design.

[Tikkels]

Mee eens, alhoewel die AI labels naar mijn inziens onzinnige marketing bs is, vind ik het design wel echt wat hebben.

Mocht je opzoek zijn naar een moederbord met niet zo'n gamer design kan je ook kijken naar de ProArt boards van Asus. Die vind ik zelf ook heel mooi.

[slamhk]

Asus heeft wel mooiere producten met hun ProART lineup, maar inderdaad meer GPU designs die "saai" of esthetisch minimaal eruitzien.