Gerucht: Samsung integreert eigen lokaal draaiende AI in Galaxy S24

Samsung zou zijn eigen AI-model Gauss voor een deel lokaal willen gaan gebruiken op zijn Galaxy S24-telefoons. AI-diensten zijn er wel op telefoons, maar veel draaien op een server en vereisen een internetverbinding.

Samsung kondigde Gauss recent aan en volgens Korea Times is het de bedoeling om een deel van het AI-model lokaal op Galaxy S24-telefoons te laten draaien voor het genereren van plaatjes of concepten van e-mails. Ook digitale assistent Bixby krijgt functies van generatieve AI voor hulp bij het begrijpen van de context van commando's.

De stap klinkt logisch. Bij de aankondiging van de Snapdragon 8 Gen 3 hamerde Qualcomm erop dat de soc geschikt is om taalmodellen met miljarden parameters lokaal te draaien. Een deel van de Galaxy S24-modellen wereldwijd zal vermoedelijk draaien op die soc. Een ander deel zal waarschijnlijk een eigen Exynos-soc van Samsung hebben. De fabrikant kan de eigen soc aanpassen op de vereisten van het AI-model.

AI speelt een steeds grotere rol bij softwarefuncties van telefoons. Google legde daar de nadruk op met zijn Pixel 8-telefoons, die onder meer audiosporen van elkaar kunnen scheiden en die de mogelijkheid hebben om objecten in foto's te verplaatsen. Sommige van de AI-functies van Google, zoals het verbeteren van nachtvideo's, werken op een server en vereisen een internetverbinding. Het is onbekend of Samsung op dezelfde manier AI-functies zal splitsen.

Door Arnoud Wokke

Redacteur Tweakers

08-11-2023 • 19:34

24

Lees meer

Reacties (24)

Sorteer op:

Weergave:

Ik hoop dat het niet standaard aan staat of uit kan, want het vreet vast een berg stroom en levensduur terwijl het mega zinloos spul is (voor mij).

Ik koop Samsung telefoons omdat ze degelijk zijn, niet de Samsung bloatware!
Je weet nog niet eens wat het kan doen, dus hoe kun je nu al zeggen dat het zinloos is?
Staat letterlijk in de tekst...
is het de bedoeling om een deel van het AI-model lokaal op Galaxy S24-telefoons te laten draaien voor het genereren van plaatjes of concepten van e-mails.
concept emails lol, daar ga je de oorlog wel mee winnen |:(

genereer een email met de woorden prins Nigeria lening miljoen

[Reactie gewijzigd door tw_gotcha op 25 juli 2024 00:22]

En dat zijn niet alle functies. 1 zin verderop staat al weer:
Ook digitale assistent Bixby krijgt functies van generatieve AI voor hulp bij het begrijpen van de context van commando's.
En dit zijn ook nog lang niet alle functies, als je kijkt wat copilot bijv. al kan
Ik denk dat het wel mee valt qua stroom.
Ik heb ooit een image recognition programma gemaakt die kon detecteren of er een mes of een pistool in een afbeelding zat. Een plaatje scannen duurde enkele milliseconden. Zo heel veel processing kost het niet, het trainen is wat veel rekenkracht kost.
Ik weet niet hoe het met generatieve AI is, maar ik vermoed dat dit ook niet heel veel energie hoeft te kosten. Waarschijnlijk is het alleen on-demand (zoals bij een tekst schrijven of een afbeelding genereren)
Meevallen is meer dan 0 verbruik. Daarnaast kost het ontwikkeling en hardware.

En dat alles betaal ik.

Mijn telefoon loopt al sneller leeg dan ik wil, alles wat weggelaten kan worden doordat het echt zinloos is, ben ik voor. Tot nu toe is alles wel zinvol volgens mij, maar dit... Laat AI lekker in de cloud!

En waarvoor? Om mailtjes voor mij te tikken omdat de scholen tegenwoordig zo slecht zijn dat de AI dit moet opvangen?
Volledig mee eens. Ik zet nu ook alles rondom AI uit. Totaal niet nodig en vind het idee ook niet prettig.
Nee zodat je minder hoeft te typen en je dus je scherm veel korter aan hebt om dat te doen en dus juist stroom kunt besparen. Maar je kan ook alleen maar het negatieve kijken, dat mag!
Zoiets belachelijks. "Zodat je minder hoeft te typen (....) en juist stroom kunt besparen". Dus, volgens jouw redenering ga je een stroomverbruikende feature - AI - gebruiken om op een ander vlak stroom te besparen. Sorry hoor, maar dat is dus echt mental. Denk nou eens na over dat AI. Jij wilt alleen maar datgene geloven wat je wilt geloven. Tunnelvisie heet dat.
Dit is de toekomst van software. Dit wordt de volgende innovatiegolf. Toestellen van een lager segment zullen beperkte tot geen AI mogelijkheden hebben, ondanks dat ze kwalitatief alles aan kunnen. De volgende stap in de enshittification is dat je moet gaan betalen voor functies in je OS die vandaag de dag nog gebruikelijk zijn.
Voor beetje goede AI lokaal te draaien heb je wel wat meer draaien dan nu gangbaar. Het liefst 64gb gpu gegeugen en zon 1tb aan diskruimte. Duurt wel eventjes voordat dat standaard is op een tel. 5 jaar denk ik.
Hoeft niet per se het geval te zijn. Hieronder een simpel voorbeeld van generatieve AI die met redelijk beperkte resources lokaal kan draaien op smartphone chip icm met een AI chip. Volgens mij is simpele AI ook al mogelijk lokaal in de vorm van text prediction.

https://www.theverge.com/...-android-qualcomm-fastest

Ik vraag me wel af wat dit betekent voor het stroomverbruik van Nederland. Daarnaast, heel veel datacenters zijn CPU based en transformeren naar een GPU based raakt echt het complete datacenter (meer warmte is meer koeling nodig, hoger stroomverbruik, andere racks en opstellingen, etc.). Dat is nu ook een van de bottlenecks voor Europa ten aanzien van de grote Amerikaanse reuzen.

In de nabije toekomst zal het ook veel gaan over optimaliseren en meer doen met dezelfde resources. Dat streept wellicht de vraag naar hoge gpu performance en opslag weg.

[Reactie gewijzigd door Rhinosaur op 25 juli 2024 00:22]

Vraag me af wat die Exynos er van gaat bakken. Ik ben bang dat ook bij AI modellen het snapdragon model veel betere snelheden zal laten zien.
Dat is al het geval, Samsung krijgt SOC productie maar niet in orde: altijd langzamer en tegen veel hoger verbruik.
We gaan steeds meer AI tegenkomen. Blijkbaar helemaal hip.
Onder een steen geleefd de afgelopen 4 jaar?
Zolang hij ook nog belt en op internet kan zien ze maar wat ze er mee doen…

[Reactie gewijzigd door Sparks.nl op 25 juli 2024 00:22]

Definieer ‘op internet kan’, dat klinkt als mijn moeder die altijd internet start door via MSN naar Hotmail te gaan om de browser te openen 😂
Tja dat kan ook natuurlijk, er zijn waarschijnlijk wat snellere methodes…
Samsung is goed in hardware maar niet in software. Bij Google is dit precies andersom.
Zolang ik de AI onzin maar kan uitzetten. En dat zal gods onmogelijk zal zijn omdat de hoofdtaak van de AI het verzamelen en doorsturen van persoonlijke data zal zijn zonder dat de gebruiker daar weet van heeft (slim). Dat wordt het nieuwe verdien model van Samsung. Dat gebeurt nu ook al maar straks nog beter, meer en zogenaamd slimmer.
omdat de hoofdtaak van de AI het verzamelen en doorsturen van persoonlijke data
Waar basseer je dat op?

Dat is nou juist bij deze expliciet niet de bedoeling gezien die offline moet werken...

Maar jij weet meer? Kom maar op met die onderbouwing en bronnen waarom dat zo is!

[Reactie gewijzigd door watercoolertje op 25 juli 2024 00:22]

Ik herinner me Bixby.

Op dit item kan niet meer gereageerd worden.