Samsungs volgende soc voor midrange-smartphones heeft chip met neuraal netwerk

Samsung heeft de volgende soc voor midrange-smartphones gepresenteerd. De Exynos 7 9610, in naam de opvolger van de soc uit de Galaxy A8-smartphone van eerder dit jaar, heeft een vision image processing unit met neuraal netwerk voor ai-taken.

Die vision image processing unit bestaat uit een reguliere dsp en een chip met dsp die door de fabrikant is toegespitst op taken die bedrijven anno 2018 onder kunstmatige intelligentie scharen. Het neurale netwerk moet de software helpen om gezichten in foto's te herkennen die deels zijn bedekt door bijvoorbeeld een hoed en moet assisteren bij foto's waarvan gebruikers de achtergrond willen vervagen, claimt Samsung. De isp biedt ondersteuning voor het opnemen van beelden op 4k-resolutie met 120fps of op 480fps met full-hd-resolutie.

De soc heeft vier Cortex A73-kernen op een maximale kloksnelheid van 2,3GHz en vier A53-kernen op 1,6GHz. Samsung produceert de processorkernen op de tweede generatie van zijn 10nm-FinFet-procedé. De gpu is een Mali G72MP3 en de specs vermelden dat de soc alleen lpddr4x-geheugen ondersteunt. Op het gebied van 4g ondersteunt de modem lte cat 12, met een maximale downloadsnelheid van 600Mbit/s en een upload van 150Mbit/s. Samsungs high-end socs ondersteunen 4g met een maximale verbinding van 1,2Gbit/s.

Samsung zegt dat de soc in de tweede helft van dit jaar in massaproductie gaat. De 9610 valt in de Exynos 7-serie. Samsung heeft die serie in de afgelopen jaren gebruikt in de Galaxy A-serie van duurdere midrangetelefoons, zoals de A8, en daarvoor de A5 2017 en A5 2016. Het is onbekend of dat nu weer zal gebeuren.

Reacties (13)

[sebastienbo]

Heeft de s9 chip ook dit neuraal netwerk?

[MiesvanderLippe]

Het probleem met dit soort dingen is dat de marketing taal te generiek is en de technische taal niet te begrijpen is. Het is sowieso niet een heel bijzonder 'neuraal netwerk' hoor, gewoon een stukje van een chip dat goed is in plaatjes herkennen. We kunnen er gewoon geen duidelijke specificatie aan binden (geen ghz, geen bandbreedte en zelfs niet perse een IPC).

Even tussendoor trouwens, het bericht gaat over mid-range telefoons. De S9 en S8 zijn high-end.

[MSalters]

We kunnen best duidelijke specificaties eraan binden. Al dit soort chips doen neuraal netwerk inference. Dat betekent dat de belangrijkste operatie een matrix vermenigvuldiging is, en vervolgens dus dat de belangrijkste individuele operatie een Fused Multiply and Add (FMA) is. De relevante specificatie is dus biljoenen FMA's per seconde, en dat kun je behoorlijk goed vergelijken tussen chips. Je wil wél weten op welke breedte die FMA gedaan wordt. FP32 is de standaard, maar zelfs INT8 is mogelijk.

Op een hoger nivo heb je nog genoeg uitdaging hoe je die matrixen precies organiseert, maar dat staat los van de hardware. Die werkt niet op dat hoge nivo. En dat is maar goed ook, want op dat hogere nivo is er nog steeds snelle innovatie.

[kidde]

Het probleem met dit soort dingen is dat de marketing taal te generiek is en de technische taal niet te begrijpen is.

Een kant en klaar ontwerpje voor DSP, meer is het idd niet, vermoedelijk weer van ontwerpbureau CEVA (de ARM onder de DSP's). Zit ook gewoon in de nieuwe iPhone, en ja Apple adverteert ook met AI voor hun CEVA-uit-het-schap DSP'tje

Leuke "intermediate" uitleg (Niet te moeilijk niet te makkelijk hopelijk) bijv hier:

https://www.embedded.com/...-embedded-neural-networks

Zoals @MSalters al uitlegt, zijn die DSP's goed met vectoren, dus beeldtransformaties.

Dat ze van CEVA komen is publiek geheim, Apple, Qualcomm en Samsung
adverteren daar niet mee maar volgt meestal uit de teardown. Tensilica (Cadence) DSP zou ook nog kunnen.

Specs (TOPS is de eenheid) bijv hier:

https://www.ceva-dsp.com/product/ceva-neupro/

[Reactie gewijzigd door kidde op 25 juli 2024 19:03]

[bjp]

"neural network" en AI zijn leuk tegenwoordig, beetje zoals "blockchain", maar de mening van deze woorden kan al eens afwisselen.

Zelf IBM zijn computer van 1mm op 1mm doet "basic AI tasks"... en dat was dan data sorteren.

ref: https://mashable.com/2018...st-computer/#.vU9_8teEgqz
gevonden via slashdot.org.

[AMD and INTEL]

De s8 had dit al.

[Balance]

Jep, volgens mij gebruiken ze beide gewoon de Mali-G72 GPU. De S9 met Exynos 9810 heeft een Mali-G72 met 18 clusters, de Exynos 9610 heeft een Mali-G72 met drie clusters.

[BramVroy]

Jammer dat er zo met modewoorden gegooid wordt. Om je even een beeld te geven hoe on-hip neurale netwerken *eigenlijk* zijn: in 1958 kwam Rosenblatt al met het idee van een Perceptron, in feite een neuraal network met een enkele (hidden) layer. Verschillende inputs gaan naar een al dan niet bekende functie (layer) en geven output. (Heel simpel voorgesteld.)

Wat ik hiermee bedoel, is dat bedrijven deze woorden zo "mis"-bruiken en helemaal niet zoals we dat zouden verwachten. Uiteraard kan je er 'een neuraal netwerk' op draaien, dat kan je op een Pentium II vast ook! Het gaat echter om de complexiteit van de taken die kunnen worden uitgevoerd. Kan het modellen trainen en hertrainen (met welk algoritme?), of enkel toepassen? Hoeveel hidden layers spreken we hier? Hoeveel features? Hoeveel dimensies? Daar spreekt men niet over, omdat zulke chips simpelweg de kracht niet hebben om merkwaardige dingen uit te voeren.

Hoe bedrijven het woord neurale netwerken en AI gebruiken doet afbreuk aan wat een geweldige wetenschap en techniek er EIGENLIJK beschikbaar is.

[Dorstlesser]

in 1958 kwam Rosenblatt al met het idee van een Perceptron,

Het idee van een neuraal netwerk is niet nieuw, maar specialistische hardware in massaproductie bestaat nog maar een paar jaar.

Wat ik hiermee bedoel, is dat bedrijven deze woorden zo "mis"-bruiken en helemaal niet zoals we dat zouden verwachten.

Dan vraag ik me af over welke woorden je het precies hebt hier. Samsung heeft het zelf over 'deep learning based image processing' en over een 'neural network engine'; over kunstmatige intelligentie heeft samsung het zelf niet en een neural network engine is geen neuraal netwerk, maar een stukje hardware dat softwarematig een neural netwerk simuleert.

Uiteraard kan je er 'een neuraal netwerk' op draaien, dat kan je op een Pentium II vast ook!

Klopt, maar er was nog geen enkele smartphone SOC waarmee je een neuraal netwerk kon draaien dat ook echt bruikbaar was voor, onder andere, het verwerken van camerabeelden. Neurale netwerken kunnen afschuwelijk goed beelden bewerken en herkennen en je kan er gif op innemen dat over 3 jaar elke nieuwe GPU toegewijde hardware bevat voor het simuleren van neurale netwerken.

Het gaat echter om de complexiteit van de taken die kunnen worden uitgevoerd. Kan het modellen trainen en hertrainen (met welk algoritme?), of enkel toepassen? Hoeveel hidden layers spreken we hier? Hoeveel features? Hoeveel dimensies? Daar spreekt men niet over, omdat zulke chips simpelweg de kracht niet hebben om merkwaardige dingen uit te voeren.

De hoeveelheid layers hangt bij mijn weten niet af van de complexiteit van de hardware maar van de hoeveelheid RAM die je tot je beschikking hebt. Wat betreft trainen vs. toepassen; computationeel verschillen die twee helemaal niet zoveel van elkaar (als ik het goed begrijp); het verschil is dat je bij trainen heel veel lees- en schrijfbewerkingen naar je geheugen hebt. Intel heeft bv. zo'n AI USB stick die voorgetrainde neurale netwerken kan toepassen; ik denk dat trainen daarbij niet echt een optie is omdat je daarvoor geheugen en bandbreedte mist. In principe, als er genoeg geheugen en bandbreedte is zou je met deze SOC prima kunnen trainen; je zegt het zelf al: ook met een pentium II kan je waarschijnlijk een neuraal netwerk draaien.

NVidia's laatste accelerator haalt ongeveer 10x de performance van de vorige accelerator van één of twee jaar geleden; dat soort sprongen in prestaties kennen we niet meer sinds de eeuwwisseling. Ik vind dit best een spannende ontwikkeling, vooral omdat juist smartphones en laptops veel baat hebben bij efficiëntere hardware, en we met neural netwerken waarschijnlijk wel meer dan alleen beeldbewerkingen zullen kunnen verbeteren.

[MSalters]

Intel heeft bv. zo'n AI USB stick die voorgetrainde neurale netwerken kan toepassen; ik denk dat trainen daarbij niet echt een optie is omdat je daarvoor geheugen en bandbreedte mist.

Klopt - wij hebben ook dat ding in ons lab liggen. De prestaties vallen nogal tegen, om eerlijk te zijn. Dat is al bij inference een probleem, trainen is kansloos.

Fundamenteel is het algoritme niet heel erg verschillend tussen trainen en inference. Bij training biedt je een input aan, rekent alle lagen door, vergelijkt het resultaat met het gewenste resultaat, en rekent de fout terug richting input, om zo de gewichten aan te passen. Inference stopt simpelweg na stap 2.

[Iblies]

die door de fabrikant is toegespitst op taken die bedrijven anno 2018 onder kunstmatige intelligentie scharen.

Wel fijn dat ze zo eerlijk zijn. Google laat het namelijk een beetje in het midden.

Het wordt door verschillende partijen groter gemaakt dan het is. De chips zijn in het algemeen een stuk minder complex dan een gpu of CPU. Ze zij bedoeld voor een specifiek aantal taken en dat voeren ze gruwelijk snel uit.

[caipirinha]

Neurale netwerken zijn technisch gezien niet zo bijzonder, hoe ze uitgevoerd zijn maakt het interessant, bijv zelf te programmeren of vast geprogrammeerd en de interfacing er naar toe en er vanaf.
Dit is ongetwijfeld een (semi) vast geprogrammeerd ding zoals iblies ook al suggereert en daarom eigenlijk niet echt interessant.

[Tusk]

Hebben ze Miles Dyson aangenomen bij Samsung?