Intel brengt ai-accelerator op stickformaat uit

Intel heeft de Movidius Neural Compute Stick aangekondigd. De accelerator is een usb-stick met een vision processing unit voor deep learning-toepassingen bij een laag verbruik. De vpu in de stick zit ook in de DJI Spark-drone.

De Movidius Neural Compute Stick is volgens Intel te gebruiken voor tal van machinelearning­toepassingen. Het bedrijf noemt onder andere het gebruik voor testen en tunen van neurale netwerken. Daarnaast is de stick te gebruiken om een op het Caffe-framework gebaseerd convolutional neural network om te zetten in een embedded neuraal netwerk met een bijbehorende api. Voordeel daarbij zou zijn dat de stick werkt op tal van hostsystemen, die ook geen internetverbinding of toegang tot een cloudomgeving hoeven te hebben.

De stick is snel in te zetten en meerdere sticks kunnen voor verdere acceleratie van het draaien van neurale netwerken zorgen. De basis van de stick is de vision processing unit van Movidius. Deze vpu is een soc met twaalf 128bit-vectorprocessors en twee 32bit-risc-processors voor het afhandelen van berekeningen voor machine vision. Onder andere de DJI Spark-drone is hiermee uitgerust. De drone gebruikt de soc voor de herkenning van gebaren voor de bediening.

Het verbruik van de stick ligt op ongeveer 1W volgens Intel. De connector is usb 3.0 Type A. De prijs bedraagt 79 dollar, omgerekend en met btw is dat 82 euro. Intel nam het Ierse Movidius vorig jaar september over. Intel wil met de machine vision-technologie de ontwikkeling van zijn RealSense-camera's ondersteunen voor toepassing op het gebied van vr, augmented reality, drones, robots en beveiligingscamera's.

Helaas!
De video die je probeert te bekijken is niet langer beschikbaar op Tweakers.net.

Reacties (28)

[vinx77]

Heb gewerkt met deze chip, enkele jaren geleden. hier wat achtergrond-info die buiten de NDA valt.
Movidius heeft jaren geleden een eigen chip ontworpen dat zich laat typeren als aan DSP gespecialiseerd in computer vision. Het bleek dat deze chippies ook erg goed waren in Inference (toepassen van en neuraal netwerk), met verkoop van het bedrijf aan Intel als gevolg. Zie https://www.movidius.com/solutions/vision-processing-unit voor meer info over de Myriad 2 processor.
De stick is er al langer trouwens: http://www.ubergizmo.com/2016/04/movidius-fathom/ - dit lijkt de publieke versie van de Fathom.

[MSalters]

Meteen maar eentje besteld. 72 euro ex BTW bij Mouser. Wij hebben al een hele verzameling 1U servers in het veld staan voor AI werk, en een GPU erbij duwen bleek lastig. Dit zou een effectief alternatief kunnen zijn. Toegegeven, zo'n USB stick in een server is wat ongebruikelijk, maar een stuk goedkoper dan een complete hardware swap.

[Damic]

Powered USB hub en nog een aantal eraan hangen. http://simplecore.intel.c...17/07/Quad_laptop_web.jpg

of een usb pci-e kaart ontwikkelen waar zo van die stick inpassen

[Reactie gewijzigd door Damic op 23 juli 2024 07:05]

[N8w8]

Nadeel van hub is natuurlijk dat de snelheid dan wordt gedeeld.
Met zoiets kan je 8 USB3.0 ports op volle snelheid krijgen, of 16 op halve snelheid, PER PCIe-x8 slot! (als ik het goed heb).

[Damic]

Awel zoiets bedoelde ik over zelf ontwikkelen maar die firma heeft dat al gedaan, dit lijkt me een leuk kaartje http://www.ioiusb.com/Host-Adapter/U3X4-PCIE4XE312.htm

[N8w8]

Begrijp ik, vandaar de tip
Die van jouw link heeft echter maar 4x 5Gb/s, verdeeld over 16 ports, vandaar dat die ook genoeg heeft aan PCIe x4.
Voor 8x 5Gb/s per port moet je deze PCIe x8 kaart hebben (of deze voor 16 ports op halve snelheid).
Geen idee hoeveel deze sticks werkelijk nodig hebben. Maar sowieso, hoe meer USB bandbreedte, hoe meer sticks per PC (al dan niet via hubs).

[Barryke]

Wat voor werk als ik vragen mag?

[Drexz]

Puur op profiel zou ik gokken AI werk ivm HD mapping / autonoom rijden bij TomTom

[Reactie gewijzigd door Drexz op 23 juli 2024 07:05]

[MSalters]

Niet meer. Ik heb bij TomTom R&D wel gekeken naar de detectie van wegwerkzaamheden aan de hand van het -ontbreken- van verkeersstromen. Files zijn makkelijk, is geen AI voor nodig. Als auto's stilstaan is er een file. Maar als er geen auto's (met TomTom HD Traffic) zijn, is dat dan toeval of met reden?

[MSalters]

Ik ben technische directeur van Sound Intelligence.

PS. wij zoeken nog een (web) developer

[MrVegeta]

/me Bekijkt website, dat lijkt mij een goed idee .

[gekkie]

Hopen dat het een beetje stabiel is in de long run.
Toch wel regelmatig bijvb met camera's dat USB na de nodige runtime toch vage errors gaat geven in de USB stack.

[RAMillu]

Heb hier niet heel veel verstand van maar is dit interessant voor deepdream projecten ? Ik was ooit begonnen mij daar in te verdiepen maar de kosten van nieuwe hardware of zelfs het huren van tijd op een cloudcomputer waren een te grote drempel voor mij toen.

[Mr_gadget]

Voor deep learning kan je ook klein beginnen. Gewoon met een kleinere set neuronen.
Als je er nog niet veel kennis van hebt zoals je aangeeft kan je beter klein beginnen en dan opschalen.

Je kan de stick met Caffe-framework gebruiken dus hij is zeker geschikt voor deep learning. Dit is een van de meest toegepaste frameworks voor deep learning.

[Mirr0r]

Ik ben benieuwd wat voor projecten er zullen komen voor DIY met een RaspberryPi i.c.m. met deze stick. Zou het best leuk vinden om er is mee te experimenteren. Sinds ik nog wel een RaspberryPi heb liggen die stof ligt te happen.

[Nahata]

Helaas werkt dat niet, het heeft een x86/x64 systeem nodig.
https://developer.movidius.com/ zie Technical Specifications onderaan.

[MSalters]

Dat is in elk geval de officiële eis van Intel. Gek he, van Intel?

[Durandal]

In zoverre gek dat hij in het reclamefilmpje (0:34) wel in een (volgens mij) Pi wordt gestoken.

[itcouldbeanyone]

Hmm, wel aantrekkelijk voor die prijs , om er iets meer mee te experimenteren , hopelijk wordt dit nu ook voor diy toepassingen in handberijk

[blorf]

Geen idee wat hier allemaal mee kan maar het moet sowieso iets zijn wat niet is te simuleren op een Raspberry of vergelijkbare hardware, anders is het te duur.

[mutley69]

Intel lijkt me niet meer die stabiele partner te zijn van welleer - ze stoppen met IoT-produkten - dus hoe zeker is dit. Bij mij komt 't er dus niet in - ik kies voor stabiliteit en continuiteit.

[Nico Klus]

Zou je hier ook (relatief) goed mee kunnen minen?
10 van die stickies aan m'n PC.

[uknowSam]

Nee niet relatief... En er moet wel een miner geschikt voor zijn

[TunderNerd]

Nee, voor minen wil je parallelle processing, Deze stick heeft 12 + 2 kernen: een videokaart of ASIC heeft er veel en veel meer: los van het lage energieverbruik ga je de aanschafprijs er nooit uit halen door de minimale minecapaciteit. Door de intrede van ASIC's zijn veel videokaarten ook niet heel rendabel meer.

[ro8in]

Das ook niet waar. Asics en gpu's hebben maar een korte lifespan om relevant te minen. Een gpu is veelal gewoon nog te verkopen na dat hij niet meer opbrengt bij het minen. Asics zijn vrijwel direct waardeloos. Vandaag dat gpu's nog steeds de voorkeur genieten. Zie hoe momenteel de nvidia 1080 bijna overal uit verkocht is. Miners kopen alle voorraad al op voordat deze uberhaupt de winkels bereiken.

[Damic]

De niet beschikbaarheid van nVidia volgde pas als al de RX 470/480/570/580 kaarten waren uitverkocht, AMD is voor zo'n zaken nog altijd heer en meester.

[JannyWooWoo]

Je kan natuurlijk in principe met alles minen als er een miner is die de hardware kan adresseren.

We hebben hier voor de grap een Scrypt miner gebouwd met 4 Intel compute sticks die over waren. Deze is momenteel vrolijk op 18 Khash/s $Gulden (NLG) aan het minen. Gewoon om dat het kan!

We hebben er ongeveer 6 euro meer verdiend. Waarschijnlijk meer aan stroom ingestoken ;-)

[SkyStreaker]

Ik denk ff creatief in de ruimte, maar... Werkt zoiets ook voor AI in games?