Nvidia toont EGX-computingplatform voor grote hoeveelheden dataoverdracht

Nvidia heeft zijn EGX-platform geïntroduceerd. Het supercomputingplatform is specifiek bedoeld voor bedrijven die grote hoeveelheden data moeten verwerken. Via het platform kunnen bedrijven meer dan 1,6 terabyte aan data per seconde verwerken.

Nvidia presenteerde het platform tijdens het Mobile World Congress in Los Angeles. Het bedrijf kondigde tegelijkertijd ook aan dat verschillende grote bedrijven inmiddels met EGX werken. Zo maken Samsung, Walmart en BMW er inmiddels gebruik van. Ook grote steden zoals Las Vegas en San Francisco gebruiken EGX om data te verwerken. Zij gebruiken dat bijvoorbeeld om voetgangers- en verkeersstromen te optimaliseren. In Walmart wordt EGX ingezet om werknemers te kunnen vertellen welke taken zij het beste op een bepaald moment kunnen uitvoeren.

EGX is een platform waarbij Nvidia's eigen Cuda-X-software wordt gedraaid op servers van gecertificeerde partners. Nvidia werkt daarvoor samen met Microsoft, Ericsson en Red Hat. Dat moeten servers zijn met krachtige gpu's erin; Nvidia zegt in het certificeringsprogramma dat er een Nvidia T4-, Quadro RTX 8000- of V100 Tensor Core-gpu in de server moet zitten. De EGX-softwarestack noemt Nvidia 'GPU Operator' en deze bevat de driver en monitoringsoftware voor de gpu, maar ook de tools die nodig zijn om Kubernetes-systemen uit te rollen.

Het platform is bedoeld om grote hoeveelheden data in real time te verwerken. Nvidia mikt daarmee op ontwikkelingen zoals 5g, het internet-of-things, smart cities en andere projecten waarbij steeds meer gegevens moeten worden verstuurd. Het gaat dan bijvoorbeeld om fabrieken of warenhuizen waar steeds meer geautomatiseerd werk plaatsvindt, of steden die van slimme technieken gebruikmaken. Nvidia wil die processen, en de beveiliging daarvan, vanuit de cloud laten draaien.

Het platform kent meerdere softwarepakketten die voor verschillende applicaties worden gebruikt. Zo is er Metropolis, waarmee gemeenten smart cities kunnen bouwen. Met de Aerial-sdk kunnen telecomproviders gevirtualiseerde 5g-netwerken opzetten om bijvoorbeeld cloudgamingprocessen op te zetten. In het geval van Walmart, zegt Nvidia, wordt er meer dan 1,6 terabyte aan gegeven per seconde verstuurd via het platform.

Reacties (19)

[Micahve]

Met 1,6 Terabyte/s aan data verwerken, hoe bedoelen ze dat?
1,6 Terabyte aan data opslaan / verplaatsen of echt de Data analyseren en gebruiken?

[ro8in]

Je hebt helemaal gelijk. De term verwerken kan letterlijk van alles betekenen. Ik vroeg het mij ook al af. En als er echt iets met de data wordt gedaan tot welk eind?

[Reactie gewijzigd door ro8in op 22 juli 2024 14:17]

[RedPixel]

Using EGX’s advanced AI and edge capabilities, Walmart is able to compute in real time more than 1.6 terabytes of data generated each second and can use AI to automatically alert associates to restock shelves, open up new checkout lanes, retrieve shopping carts and ensure product freshness in meat and produce departments.

Blijkbaar krijgt Walmart 1.6 Terabyte per seconde er doorheen, dus analyse en gebruik, zonder het op te slaan (al moet ik toegeven dat dat een interpretatie van mij is).

[Micahve]

Dan neem ik aan dat die 1,6 Terabyte per seconde voor Walmart dan voor het hele bedrijf is en niet per winkel.

[Reactie gewijzigd door Micahve op 22 juli 2024 14:17]

[Rudie_V]

Gezien:

... and can use AI to automatically alert associates...

begrijp ik het als inderdaad 1,6 TB/s aan data uit alle winkels van walmart.

[Honnou]

Wat een heerlijke giga hoeveelheden data.
Enige wat een beetje jammer is dat dit waarschijnlijk alleen toepassing heeft op de 1% grootste bedrijven van de wereld.

[SuperDre]

Hoeveel data denk jij dat jijzelf verwerkt per seconde? Dit is zeker interessant voor de toekomst wat betreft AI, robots etc.. Autonoom rijden vereist ook heel veel dataverwerking, en zal in de toekomst rustig dit soort groottes aan data te verwerken krijgen..

[Verwijderd]

De mens verwerkt geen 'data', dat is volledig een manke vergelijking. Onze sensorische informatie is niet te vergelijken met binaire informatie, er zijn geen enen en nullen.

[SuperDre]

Uhh, de mens verwerkt wel data.. data is niet per definitie enen en nullen.. je hersenen verwerken al die data die oa van je ogen, oren etc komen.. De mens is niets meer dan een biologische computer, niet meer, niet minder..

[sympa]

Aan de hoeveelheid energie kan je zien dat het minder data is. 1.6 TB/s is overigens belachelijk veel - je moet je alleen al afvragen wat voor databron zo'n stream aanlevert.
Ik denk eerder dat het om een simulatie gaat, waarbij er X simulaties van Y MB gedaan kunnen worden per seconde.
Walmart heeft 5000 winkels - die zouden dan elk 320MB/sec produceren. Dan verkoop je wel erg veel artikelen.

[Siebelouis]

En onze spionerende overheden niet te vergeten

[Rabliep]

Zou jij als overheid niet spioneren dan? Lijkt me een vrij simpele keuze.

[Micahve]

Ik denk dat hij bedoelt dat de Overheid op haar burgers spioneerd en niet spionage buiten Nederland

[Bob de Slager]

En eigen inwoners zijn allemaal onberispelijke modelburgers ofzo.

[Micahve]

Hoe bedoel je?
Tuurlijk is niet iedereen een brave model burger.
Maar dat betekent niet dat het wenselijk is dat er overal camera's of politie mannen/vrouwen op straat staan.

Er is een punt waar je tussen 2 waarde moet kiezen:

Het beschermen van de rechten van privacy van gewone brave burgers.

Of het pakken van minder brave burgers en forceren van de wet.

De meerderheid van de Nederlanders past in de 'Brave burgers' categorie
Dus dan lijkt het me meer dan logisch dat men dan de grond rechten respecteert.
Soms is het pakken van criminelen niet belangrijker dan het volgens van de regels.
Die regels zijn er om te garanderen dat de politie fatsoenlijk hanteert en niet zelf een grote boeven partij wordt.

Ik snap compleet je punt, alleen de kwestie is niet zo simpel... Helaas is het niet simpel, zou alles een stuk gemakkelijker maken.

Hoe dan ook denk ik niet dat de Nederlandse overheid of andere EU overheden deze systemen gaan kopen om ons te bespioneren.
Aangezien ze dan ook ongemerkt heel wat extra camera's moeten aanleggen en dat is niet gemakkelijk of goedkoop.

Ik neem aan dat je het zo bedoelde, zo niet hoe dan persies?

[Reactie gewijzigd door Micahve op 22 juli 2024 14:17]

[Byron010]

Zou jij als groot bedrijf niet spioneren?
/semi sarcasme

[sympa]

Waarom sarcasme? Wat denk je dat ze doen met die data? Jou de beste deal geven Het meeste geld uit je persen natuurlijk.
Je oude schoenen aantrekken voor je naar de winkel gaat werkt niet meer. Scan je klantenkaart voor je persoonlijke aanbieding...

[Stidge]

Mooi toch? Betalen zij voor de nieuwste technieken en krijgen wij een aantal jaar later goedkopere nieuwere opslag en verwerkingstechnieken.

[THA_ErAsEr]

Dat zal eerder een 1 achter een aantal nullen achter de komma zijn.