Gigabyte claimt dat AI TOP 100E-ssd tot 219.000 geschreven terabytes meegaat

Gigabyte heeft meer specificaties bekendgemaakt van zijn komende AI TOP 100E-ssd. Deze ssd, die volgens de fabrikant bedoeld is voor workstations die AI-modellen trainen, gaat volgens de fabrikant tot 219 geschreven petabytes mee.

Gigabyte claimt op zijn website dat de 2TB-variant van de AI TOP 100E een garantie krijgt van vijf jaar of 219.000 geschreven terabytes, afhankelijk van wat eerder wordt bereikt. Bij de 1TB-variant is dat de helft. Die hoeveelheid geschreven terabytes, ook wel aangeduid als TBW, is daarmee aanzienlijk hoger dan andere NVMe-ssd's. Gigabytes eigen Aorus Gen4 7000s 2TB heeft bijvoorbeeld een TBW van 1400 terabyte. Bij de Samsung 990 Pro 2TB ligt die garantie op 1200 terabyte.

In een systeem dat 24 uur per dag aan staat, zou de Gigabyte AI TOP 100E 2TB volgens de fabrikant dagelijks 120 geschreven terabytes aan data moeten kunnen verwerken, oftewel zestig keer de capaciteit van de ssd. De garantieperiode van vijf jaar komt wel overeen met die van andere ssd's.

Gigabyte voorziet de AI TOP 100E verder van een PCIe 4.0-interface, met sequentiële lees- en schrijfsnelheden van respectievelijk maximaal 7000 en 5900MB/s bij de 2TB-variant, of tot 7200MB/s en 6500MB/s bij het model van 1TB. De fabrikant deelt geen willekeurige snelheden. Het apparaat beschikt daarnaast over 1GB of 2GB aan Lpddr4-dram-cache, afhankelijk van de totale opslagcapaciteit van de ssd. Gigabyte meldt niet wat voor nandgeheugen wordt gebruikt. De fabrikant zegt ook niet wat de ssd gaat kosten of wanneer die precies uitkomt.

De AI TOP-serie van Gigabyte werd tijdens de Computex officieel aangekondigd. Deze serie bestaat uit moederborden, videokaarten, voedingen en ssd's die bedoeld zijn voor intensief gebruik. Volgens de fabrikant zijn de producten vooral bedoeld voor workstations die gebruikt worden voor het lokaal trainen van AI-modellen.

Specificaties Gigabyte AI TOP 100E
Opslagcapaciteit	1TB of 2TB
Interface	PCIe 4.0 x4
Nandgeheugen	'3d-nand' (type nog onbekend)
Dram-cache	1TB: 1GB Lpddr4 2TB: 2GB Lpddr4
Sequentiële leessnelheden	1TB: tot 7200MB/s 2TB: tot 7000MB/s
Sequentiële schrijfsnelheden	1TB: tot 6500MB/s 2TB: tot 5900MB/s
Garantie	1TB: 5 jaar of 109.500 geschreven terabytes 2TB: 5 jaar of 219.000 geschreven terabytes
Mean time between failures	1,6 miljoen uur
Releasedatum en adviesprijs	Nnb

Reacties (43)

[DvanRaai89]

Mijn gedachtes:
Ai TOP is niet echt een supercomputer/server productlijn; het is dus niet gericht op een systeem met 8 A100's o.i.d. Ik verwacht dat de prijs hier ook naar is een dus een stuk lager dan waar iemand als @wildhagen aan denkt, al toch wel drie keer de prijs van andere high-end PCIe SSD's, dus ik gok op minimaal zo'n €300 á €400 voor het 1TB model. Dat is aan de prijs, maar de enige andere SSD's die een enigsinds vergelijkbaar zijn en ook zo'n hoge endurance hebben zijn dingen als de Intel 900P, waarvan het 2TB model zo'n €2400 gekost zou hebben. Dat is wel totaal andere type geheugen. Geen NAND flash maar PCM. SLC NAND kan zo'n 100k P/E cycles aan, terwijl 3D XPoint wel (tientallen) miljoenen aan zou moeten kunnen. Verder is 3D XPoint bit-addressable en heeft het véél lagere lees- en schrijflatenties.
219.000 TBW voor het 2TB model (109.500 schrijfcycli exclusief write amplification?) kan eigenlijk niet met (e)MLC of TLC; dan kom je al snel op SLC (bijvoorveeld Samsung Z-NAND) of phase change memory (zoals 3D XPoint, wat in Optane SSD's van intel zat) uit.
Ik vermoed dat ze "normaal" TLC NAND gebruiken en dat enkel als SLC programmeren, net als de pseudo SLC cache op consumenten SSD's. Maar in plaats van een cache blijft het permanent SLC. Dat zou er ook voor moeten zorgen dat de snelheid niet inkakt na x seconden, zoals we gewend zijn bij TLC en QLC SSD's. (M.u.v. van de controller die z'n hitte niet kwijt kan en gaat throttlen, maar dat heeft niets met pSLC cache exhaustion te maken.)
Jammer dat het geen PCIe 5.0 product is: nu wordt de continue schrijfsnelheid flink beperkt door de controler.
Ook lees ik dat een snelheden voor het 2TB model (een stuk) lager zijn, wat opmerkelijk is, aangezien bij andere (gen 4) SSD's (zoals de Seagate FireCuda 530 of Corsair MP600 Pro XT) het 2TB model een tweemaal zo hoge continue schrijfsnelheid hebben.

[Reactie gewijzigd door DvanRaai89 op 23 juli 2024 02:12]

[Irsu85]

Waarom heet het eigenlijk AI? Is dit pure marketing omdat het kan?

[Coolstart]

Waarom heet het eigenlijk AI? Is dit pure marketing omdat het kan?

Uw antwoord staat letterlijk in de titel van het artikel. Mogelijk achteraf toegevoegd maar

“Deze ssd, die volgens de fabrikant bedoeld is voor workstations die AI-modellen trainen”

Dat komt omdat AI modellen gigantische hoeveelheden data versluizen. Dit is helemaal anders dan de server load van bijv een webserver met caching. AI workloads zijn dus erg datahongerig en gewone ssd’s zouden hier vermoedelijk te snel slijten.

Conclusie: Er zit geen AI in, het is een tool om AI te trainen en ja dan plak je daar een AI sticker op net zoals veel gaming gear het woord ‘game’ bevatten maar op zich geen game zijn.

Los van dat, wat je tegenwoordig ziet is dat 95% van alle bijdragen in de reacties geen meerwaarde meer hebben. Mensen gaan direct AI-bashen op een titel met AI.

Zonder technische kennis hoe AI juist werkt knallen ze er op los richting een conclusie. Dat is echt problematisch aan het worden. Niet dat jij dat doet maar wel de reacties op uw vraag waarvan het antwoord heel uiteengezet staat in het artikel.

[MSalters]

Nu moet er gezegd worden dat op workstations die AI trainen de bulk van de data helemaal niet geschreven wordt. Onze workstations hier hebben allemaal SSD's met een lokale cache van de trainingsdata, maar die data wordt vrijwel nooit aangepast - we voegen alleen nieuwe files toe. De IO load is meer dan 95% read.

[Jonathan-458]

Computex gezien? Alles was AI, een PSU, SSD, Cooler, Case en moederborden.

Het was echt belachelijk.

[Reactie gewijzigd door Jonathan-458 op 23 juli 2024 02:12]

[Polderviking]

Gaming plakken ze ook nog steeds op van alles en nog wat zodat er twintig procent bij de prijs op getikt kan worden zonder een tastbaar voordeel te leveren.
Als je nog steeds in deze marketingtroep trapt ben je ook gewoon stiekem echt niet aan het opletten.

[Blokker_1999]

Is het voordeel van gaming niet dat je RGB verlichting erbij krijgt?

[jurroen]

"Voordeel"? Doe mij maar gewoon hardware zonder RGB verlichting. Als ik dat wil plak ik die er wel bij of op.

Maar ja. Vroeger was het pro en military grade, toen werd het gaming en nu ongetwijfeld ai. Alles voor die extra marge

[Bongoarnhem]

Nvm

[Reactie gewijzigd door Bongoarnhem op 23 juli 2024 02:12]

[Zyphlan]

Je vergeet dat om de nettowinst hoog te houden, het wel van hard plastic gemaakt moet worden in plaats van duurdere en luxere materialen.

[Irsu85]

Op zich als je AI op je moederbord plakt omdat je PWM voor je fan temperature controlled is, wat inderdaad een vorm is van nagemaakte intelligentie (als de CPU koud is hoef je geen stroom te verspillen aan je ventilator) kan ik dat nog wel snappen, maart een SSD? Nee bedankt

[_Thanatos_]

Dat is geen AI, dat is gewoon eenvoudige control flow logic. Dat ongeveer net zo intelligent als een bacterie.

Of een beetje hetzelfde als een bal - als je die laat vallen dan stuitert ie een paar keer. Dat is geen intelligentie van de bal, dat is gewoon actie-reactie.

[Reactie gewijzigd door _Thanatos_ op 22 juli 2024 21:34]

[Cergorach]

Maar heeft een LLM dan ook niet net zoveel intelligentie als een bacterie? En dat wordt wel Als AI bestempeld...

Don't get me wrong, overal AI op plakken is heel erg nuts, maar de marketing engines hebben vreemdere ongein uitgehaald met marketing termen...

[Irsu85]

Als dat geen AI is dan is ML ook geen AI, want beide gaan uit van statestieken. In het geval van die temperature controlled fan, gaat het over statestieken als, hoe snel moet de ventilator waarschijnlijk draaien om een CPU koel te houden die zo warm is, en in het geval van ML is het exact hetzelfde maar dan iets algemener bruikbaar (afhankelijk van je data die je erin stopt)

[flaskk]

Ik ben benieuwd wanneer mijn eerste biertje AI infused is.

[bapemania]

Wanneer je maar wil:
https://nos.nl/artikel/25...gische-biertjes-lekkerder

[Audione0]

RGB hype/race is voorbij, nu weer naar de volgende.. en het wordt verkocht als een malle.

Maar je komt er niet onderuit, het staat op elke doos geplakt.. En erom bitchen helpt ook niet, want de AI sneltrein blijft toch wel rijden.

[_Thanatos_]

Ik denk eigenlijk dat RGB nog steeds doorwoest, vooral bij alles met het labeltje "gaming". Want gamers zijn het enige volk dat niét knettergek wordt van die kermis

[Audione0]

Ik denk wel dat je daar een punt hebt

En als je geen RGB wilt val je onder de niche denk ik en worden de onderdelen allemaal prijziger

[Reactie gewijzigd door Audione0 op 23 juli 2024 02:12]

[Boerenlater]

Uiteraard.

[Irsu85]

dus eigenlijk zit er helemaal geen AI in?

[Jaran]

De verwachting is inderdaad dat er geen zelflerend algoritme in zit noch wordt meegeleverd.

[faxityy]

Nee ze doen het allemaal onder het mom van 'mijn hardware is goed voor AI'
YouTube: This Nonsense MUST STOP!

[Anoniem: 334725]

Dat is wat er gebeurd wanneer je een term als AI misbruikt voor alle hype rondom LLMs.

AI is nog niet uitgevonden.

[MiesvanderLippe]

Ik heb het idee dat ze claimen dat het trainen van een AI model veel van je schijf vraagt.

Nou vraag ik me af of je als je dit thuis doet een 990 o.i.d. zal verslijten en als je dit in een server doet je niet liever een 2.5" PCI SSD hebt maar goed.

[Navi]

Staat gewoon in het artikel:

Deze ssd, die volgens de fabrikant bedoeld is voor workstations die AI-modellen trainen

Dus nee er zit geen AI in, het is voor AI workloads bedoeld.

[JJDN]

Als ik AI (container term) training doe, dan kan het zo zijn dat ik in extreme gevallen elke minuten een nieuw model wegschrijf van bijvoorbeeld 100Mb-1Gb.

Liever doe ik dat zelf niet juist omdat hierdoor je SSDs dus snel stuk gaan en gebruik ik bijvoorbeeld een RamDisk als tussenoplossing. Maar vaak heb je ook weer veel RAM nodig om je datatsets in te laden waardoor die oplossing ook weer sub optimaal is.

Met deze SSDs zou je het wegschrijven tussendoor met minder zorgen kunnen doen.

[GokuSan]

Perfecte ssd voor de data hoarder?

[wildhagen]

Gezien de specificaties en de beoogde doelgroep van AI learning en workstations, verwacht ik persoonlijk dat dit dermate dure SSDs zullen worden dat ze voor gewone consumenten eigenlijk niet echt aantrekkelijk zullen zijn.

Als je data wil hoarden denk ik dat je momenteel dan beter naar een NAS met conventionele disks in een RAID opstelling kunt kijken.

Voor gewone datahoarding heb je dit soort rauwe performance ook eigenlijk niet tot zelden nodig.

[Xfade]

Met 2TB valt er niet veel te hoarden

[JayPe]

Met 2TB valt er niet veel te hoarden

ASCII art!

[Rmaxx]

Een hoarder gooit niets weg, dus dan kun je beter iets goedkopers pakken

[GokuSan]

Ja dus je kan continue blijven hoarden updates downloaden etc. zonder te veel zorgen te maken over wear en tear.

[Rmaxx]

Ja maar vol=vol.. dus dan heb je niet veel aan rewrites

[bugcyber]

Met zulke hoge TBW cijfers moet het bijna om MLC geheugen gaan. TLC cellen halen dit gewoon niet en QLC al helemaal niet.

[flaskk]

Beetje bullshit marketing, zeg dan onze ssd heeft een garantie tot en met zoveel tbw.

Beetje t zelfde dat de fietsenmaker zegt, deze ebike kan de accu 2 miljoen kilometer mee! Daar krijg je garantie zelfs op! Garantie verloopt trouwens na 3 weken of de 2 miljoen kilometer!

Snap dat gigabyte na die GPU PCIe crack en ontploffende psu's zich betrouwbaar moet laten voorkomen.

[Reactie gewijzigd door flaskk op 23 juli 2024 02:12]

[Zoidberg_AvG]

Beetje bullshit marketing, zeg dan onze ssd heeft een garantie tot en met zoveel tbw.

Beetje t zelfde dat de fietsenmaker zegt, deze ebike kan de accu 2 miljoen kilometer mee! Daar krijg je garantie zelfs op! Garantie verloopt trouwens na 3 weken of de 2 miljoen kilometer!

Snap ook niet dat als de SSD zoveel Writes aan kan ze niet gewoon de hele limiet laten vervallen en gewoon 5 jaar garantie geven.
Je moet 5 jaar lang 24/7 1.4GB/s schrijven om over de Write grens heen te gaan, een 10Gbit netwerk aansluiting kan al niet voldoende data aanleveren om over deze grens heen te gaan.

[SilentDecode]

tot 219.000 geschreven terabytes meegaat

Eerst zien, dan geloven. Ik wacht wel tot een Amerikaans reviewplatform aan het werk gaat met zoveel data naar het ding te schrijven. Dan geloof ik het pas.

AI

Ah yes, de veelgebruikte marketing bullshit. Waarom ook niet, smijt er maar bij. Kan mooi op dezelfde stapel als "Gaming".

[pauldaytona]

De fabrikant deelt geen willekeurige snelheden

Ik moest toch even nadenken wat daar nu mee bedoeld wordt.
Tot ik dacht in het Engels, random reads en random Writes

[karakan1453]

Voormij is alle elektronica AI.

[SiGNe]

Het lijkt me een beetje een loze belofte, ze weten vast ook wel dat de kans dat er zoveel data op de schijf wordt geschreven binnen 5 jaar is miniem.

[jb044]

Heb zelf een samsung pm9a3 pcie 4 ssd van 3.76TB, was iets van 400 euro destijds en heeft een tbw van dacht ik 8PB. Heel bewust gekocht vanwege het laatste. Het is niet de allersnelste maar je kunt m tenminste intensief gebruiken 😀

Dit is wel next level, maar ook ik verwacht niet dat ie exorbitant duur zal zijn. Daar is gigabyte het merk niet voor.