Qualcomm teaset goedkopere Snapdragon X-processors voor instap-AI-laptops

Qualcomm teaset een nieuwe soc die bedoeld is voor instapmodellen van AI-laptops. De goedkopere Snapdragon X-processor moet op een nog onbekend moment verschijnen in systemen vanaf 600 dollar.

Snapdragon X Entry
Bron: XDA Developers

Op het moment van schrijven biedt Qualcomm twee Snapdragon X-series met uiteenlopende varianten aan. De X Elite is er in vier varianten, allemaal met twaalf cores. De X Plus-reeks heeft ook vier varianten, met acht dan wel tien cores. De geteasede goedkopere Snapdragon X krijgt mogelijk zes cores, zo schrijft XDA Developers.

De instapprocessor krijgt waarschijnlijk cores met lagere kloksnelheden en een minder krachtige Adreno-gpu, maar volgens Qualcomm krijgt de chip in ieder geval dezelfde neural processor unit als duurdere modellen uit de Snapdragon X-serie. Dit heeft naar alle waarschijnlijkheid te maken met het feit dat Microsoft voor zijn Copilot+-merknaam soc's vereist met een npu met een rekenkracht van tenminste 40Tops.

De Qualcomm Snapdragon X-soc's waren in eerste instantie de enige processors die voldeden aan Microsofts vereisten voor Copilot+-laptops. Intussen zijn er ook dergelijke op AI-toepassingen gerichte systemen met AMD- en Intel-processors verkrijgbaar. Desondanks zijn de meeste Copilot+-laptops nog relatief duur. In de Tweakers Pricewatch kost de goedkoopste laptop met Microsofts keurmerk op het moment van schrijven zo'n 700 euro. Met een goedkopere Snapdragon X-chip zou de prijs van een instapmodel-Copilot+-laptop mogelijk nog lager worden.

Door Yannick Spinner

Redacteur

21-11-2024 • 17:25

20

Reacties (20)

20
20
15
1
0
3
Wijzig sortering

Sorteer op:

Weergave:

Voor de leek: wat is een ai-laptop?
Ik heb er een. Het idee is dat de NPU die 45.000.000.000.000 INT8 berekeningen kan maken per seconde, kan worden ingezet om -lokaal zonder cloud of internet verbinding, met weinig energieverbruik - AI modellen te draaien.

Qualcomm heeft een website met meer dan 100 modellen voor hun X Elite computers, van stable diffusion tot modellen die in minder dan 20ms objecten herkennen in een foto of filmpje en modellen die een animatie maken van twee afbeeldingen, door de projecten in de foto's tot 3D modellen om te zetten.

Het gebruik er van is nog vrij technisch, het is niet click klaar, het vereist verdiepen in Python en meerdere dagen (week?) inzet om te leren hoe je het aan de praat krijgt De juiste python versie, de juiste compiler etc.

Maar daarna gaat het werken en kun je andere modellen steeds makkelijker gebruiken. En kun je zelfs gratis de Qualcomm cloud gebruiken om nieuwe modellen te optimaliseren en te compileren voor je laptop (code is ook gratis beschikbaar).

Een Windows laptop met Nvidia kaart is dus makkelijker; daar zijn de meeste open source tools initieel op gebouwd. Die laptops gebruiken alleen meer stroom, hebben luidere ventilatoren en de batterij is zo leeg.

Dus: als je het geen probleem vindt om een deep dive te nemen en een week te leren hoe je AI modellen moet aansturen en integreren: Qualcomm it is. Voor €1649,- heb je een Lenovo met 32GB intern geheugen, waarvan 16GB (!) voor je grafische kaart en de NPU gebruikt kan worden.

Geen zin/tijd? Wel AI? Kies dan een laptop met moderne NVIDIA kaart met zo veel mogelijk VRAM. Hoe meer VRAM hoe groter de modellen die je kunt draaien; 8GB is voor gave dingen te klein. Alles wat niet past draait extreem traag; vele minuten voor 1 plaatje geneteren in plaats van een paar seconden.

Bij AI geldt zo snel mogelijk en veel mogelijk VRAM: dat is wat de snelheid geeft.

En ja, je las het goed de NPU maakt 45 miljoen keer een miljoen berekeningen per seconden, naast de GPU en CPU die hun werk doen. De NPU is dus zeer goed en energie efficiënt in het rekenen met gehele getallen tussen -128 en 127.
De accu gaat meer dan een werkdag mee.
uitvoering: Lenovo Yoga Slim 7 14Q8X9 (83ED001RMH)
https://aihub.qualcomm.com/get-started

[Reactie gewijzigd door djwice op 21 november 2024 23:55]

"De Qualcomm Snapdragon X-soc's waren in eerste instantie de enige processors die voldeden aan Microsofts vereisten voor Copilot+-laptops. Intussen zijn er ook dergelijke op AI-toepassingen gerichte systemen met AMD- en Intel-processors verkrijgbaar."
De nieuwste Microsoft strategie om mensen een reden te geven een nieuwe laptops te kopen met als voordeel dat ze een gedeelte vd processing kracht kunnen verschuiven naar de devices zelf.

Als je nu iets aan co pilot vraagt gaat je verzoek direct naar de servers van Microsoft. Je zal steeds meer zien dat de eerste poging om een antwoord te creëren verschuift naar het device zelf zodat de centrale servers minder load krijgen.
Een laptop met een NPU die minstens 45 teraflops kan doen.
Een AI laptop is windows copilotplus waar de hardware een 40+ AI NPU accelerator heeft, wat eis is voor copilot+.
Ander windows of linux third party software of api kunnen cpu gpgpu npu gebruiken.
Copilot is windows AI hot feature.

Alle M-Soc macbooks zijn tegen hanger van windows AI laptops. Macos met apple inteligence feature ook AI Laptops. Geen idee of dat ook zo hard gemarket wordt door apple.
De eliteX (hun topmodel!) haalt vergelijkbare prestaties als de M4 (basismodel).
Maar die eliteX is duurder en verbruikt meer....
Ze hebben ook geen grote groep liefhebbers.

En hun oplossing is dan een serie (nog) tragere chips?
Dit is toch teleurstellend hoor.

[Reactie gewijzigd door Elminster op 21 november 2024 17:48]

Maar ja, niet iedereen kan wennen aan macOS...
Ze moeten toch marketshare winnen wil je dat er ooit serieuze concurentie komt

[Reactie gewijzigd door DamirB op 21 november 2024 18:08]

Precies dit. En daarbovenop denk ik dat mensen met minimale wensen een goede markt zijn. Mijn beeld is dat het draaien van x86 apps (zoals games) veelal flink minder presteert (tot wel 20%).
Dan zou ik liever Lunar lake of Ryzen AI 3xx serie copilot+ laptop gaan. Die doen ook niet zo extreem onder kwa batterij duur tov qualcom.
En anders Macbook Air.
Maar laptop staat niet op planing, of ergens ver achteraan mijn verlanglijst.
Misschien 1 ding vooraan op lijst dit jaar, of stel dat ook uit naar 2025.
De M4 verpletterd de EliteX, de M3 is single core nog sneller, het is alleen ietjes sneller multicore dan de basis M3 vanwege meer P cores.
De Snapdragon X Elite is voor veel mensen overdreven, er is absoluut niets teleurstellend aan een chip die goedkoper in de markt gezet kan worden. Wat een onzin. Niet iedereen heeft nood aan een SoC die meerde 4K feeds kan bewerken.

Daarbij is de Snapdragon X Elite is dan ook gebouwd op een 3 jaar oud platform, terwijl de M4 van dit jaar is. Dit bericht gaat echter over Qualcomm's 3de generatie Oryon (de Snapdragon X is gemaakt met het 3 jaar oude 1ste generatie, terwijl de Snapdragon 8 Elite gebouwd wordt met de 2de generatie), niet de huidige 1ste. En volgens deze zelfde presentatie hebben ze van de 1ste naar de 2de generatie al een prestatiewinst geboekt van 30% met een 57% lager energieverbruik, laat staan wat ze nog met de 3de generatie kunnen bereiken die volgend jaar uit moet komen. Met gemak dus kans dat deze geteasde "Snapdragon X" beter presteert dan de huidige Snapdragon X Plus of zelfs Elite.
de M4 is enorme overkill voor een doorsnee laptop, dus je hoeft niet noodzakelijk dat performance niveau te halen.
De eliteX (hun topmodel!) haalt vergelijkbare prestaties als de M4 (basismodel).
Maar die eliteX is duurder...
De goedkoopste laptop met M4 is momenteel een MacBook pro 14" aan 1929€. Nadat de MacBook air vernieuwd is zal dit een MacBook air zijn aan 1299. (Dat gezegd zijnde zal een M3 muv de NPU ook concurrentieel zijn qua snelheid, al verandert dat niets aan de prijs)

De goedkoopste laptop met Snapdragon X Elite in de pricewatch kost 1049€ (en er zijn in totaal 6 modellen die niet duurder zijn dan de basis-prijs voor een MacBook air).

Het punt is dat 1000+ € een hoge drempel is voor veel mensen. Die willen of kunnen die bedragen niet neer leggen voor een laptop. Voor die mensen is het goed dat er ook een goedkoper segment komt.
Hopelijk duurt het dan niet zo lang om Linux ondersteuning voor deze nieuwe laptops upstream te krijgen, omdat er eigenlijk alleen een lager aantal cores in zit in vergelijking met Qualcomm Snapdragon X Plus en Elite. Maar ik ben bang dat deze ook met maximaal 8 of 16 GB geheugen gaan komen en dat is dan weer minder interessant.
Als ze echt gericht zijn op ondersteuning van copilot+, dan zijn ze van microsoft verplicht tot minimaal 16gb. Dat is dan wel positief
Ik draai al een tijdje linux op mijn asus vivobook s15 met de snapdragon chip, er zijn nog wel een paar significante pijnpuntjes voordat het bij de doorsnee gebruiker gaat werken.

Ik ben er in ieder geval al blij mee.
Benieuwd hoe de Qualcomm Tea Set eruit gaat zien. Of heeft een belg teased geschreven als teaset omdat iemand van de :+ taalunie :+ vind dat je het zo moet schrijven?
Engelse leenwoorden worden in het Nederlands volgens Nederlandse regels vervoegd. Dit is de tegenwoordige tijd, dus stam + t.

(Net als vindt in jouw tweede zin)
Lijkt me een prima positionering in de markt: kan me voorstellen dat gebruikers voor een goedkopere computer, vaak juist alleen office en browser gebruiken en dus niet x86 belangrijk vinden. Ik zou zelf prima tevreden zijn met een 11" laptop op ARM naast mijn workstation (maar wil geen Google laptop).

Enige waarvan ik echt me afvraag wat Qualcom er aan heeft is die CoPilot-certificering. Subsidieert Microsoft dat of zijn gebruikers er echt naar op zoek?

Op dit item kan niet meer gereageerd worden.