Apples AI-model op iPhones, iPads en Macs heeft drie miljard parameters

Het AI-model dat komt te draaien op iPhones, iPads en Macs heeft drie miljard parameters. Daarmee is het een relatief klein model. Apple claimt dat gebruikers er iets tevredener over zijn dan over Microsoft Phi-3-mini.

De tevredenheid over de output is iets hoger dan bij onder meer Mistral-7B, claimt Apple. Bij 46 procent van de prompts prefereerden gebruikers het antwoord van het Apple-model tegenover de 28 procent voor Mistral-7B. Bij Phi-3-mini liggen die waardes iets dichter bij elkaar: 43 tegenover 32 procent. Beide modellen zijn weinig krachtig en flexibel. Vooral Phi-3-mini is ook bedoeld om op beperkte hardware te kunnen functioneren. Het gebruik van kleinere modellen leidt ertoe dat de output van mindere kwaliteit is en dus minder nuttig voor gebruikers. Het is onbekend of het model op het apparaat alleen Engels kan, maar gezien de beperkte grootte ligt dat wel voor de hand. Hoe, of en wanneer Apple ondersteuning voor Nederlands toevoegt, is vooralsnog onduidelijk.

Apple heeft de modellen getraind met AxLearn, dat het bedrijf vorig jaar al publiceerde. AI in Apples besturingssystemen is opgedeeld in drie delen: eerst probeert de software het op het apparaat zelf, en als dat model de vraag niet aankan, schakelt die over naar Apples Private Cloud Compute. Dit zijn datacenters met Apple-chips die alleen deze taken uitvoeren en die de data van gebruikers niet kunnen inzien. Onafhankelijke onderzoekers kunnen de broncode checken om beveiligingsgaten te vinden.

Als Apples cloud ook niet goed genoeg werkt, kunnen gebruikers antwoord vragen aan GPT-4o van OpenAI, dat ook is ingebouwd. Apple stript gegevens zoals het IP-adres weg, zodat OpenAI geen privédata van Apple-gebruikers in handen krijgt.

De fabrikant noemt zijn AI-functies 'Apple Intelligence'. Siri krijgt een upgrade om gebruikers beter te bedienen door een dieper begrip van apps en hun features, waardoor de assistent onder meer features kan vinden als de gebruiker de naam is vergeten. Na de upgrade kunnen iPhones en iPads vooral veel zaken samenvatten, zoals webpagina's, gemiste notificaties en notulen van vergaderingen.

De generatieve AI kan ook antwoorden op e-mails suggereren of herschrijven, waarna gebruikers die met een druk op de knop kunnen overnemen. Berichten krijgt een functie om eigen emoji's te maken op basis van tekstprompts, wat Meta doet met stickers in WhatsApp. Ook komt er een Focus-modus waarbij de AI bepaalt welke notificaties doorkomen.

In Berichten wordt het mogelijk om Genmoji's te gebruiken, emoji's op basis van een tekstprompt. Ook komt er een Image Playground om te spelen met gegenereerde afbeeldingen, wat ook mogelijk wordt in Notities.

Apple iOS 18 AI samenvattingen

Door Arnoud Wokke

Redacteur Tweakers

11-06-2024 • 16:19

66

Submitter: Cebby

Lees meer

Apple kondigt iOS 18 aan
Apple kondigt iOS 18 aan Nieuws van 10 juni 2024

Reacties (66)

66
64
30
5
1
22
Wijzig sortering
a mixed 2-bit and 4-bit configuration strategy — averaging 3.5 bits-per-weight
Dat betekent dat het model 3*3.5/8 = ~1.3 GB geheugen inneemt voor de transformer block weights. Daar komen nog wat word embeddings and positional embeddings bij, voor waarschijnlijk zo rond de ~1.5 GB geheugengebruik.

Echter, je wilt verschillende modellen voor verschillende taken. Dat zou natuurlijk een ramp worden voor geheugengebruik, als je tien(tallen) modellen van ~1.5GB zou hebben. Die nemen dan opslaggeheugen in, en moeten elke keer in het werkgeheugen geladen worden.

Apple heeft daar een trucje voor toegepast:
By fine-tuning only the adapter layers, the original parameters of the base pre-trained model remain unchanged, preserving the general knowledge of the model while tailoring the adapter layers to support specific tasks.

We represent the values of the adapter parameters using 16 bits, and for the ~3 billion parameter on-device model, the parameters for a rank 16 adapter typically require 10s of megabytes. The adapter models can be dynamically loaded, temporarily cached in memory, and swapped — giving our foundation model the ability to specialize itself on the fly for the task at hand while efficiently managing memory and guaranteeing the operating system's responsiveness.
Oftewel, ze slaan alleen het "verschil" tussen het basis model en het gefinetunede model op. Dat kost dus blijkbaar tientallen megabytes, wat dus slechts een paar procent van de originele 1.5 GB is.

Desondanks lijkt Apple een harde grens te trekken bij minimaal 8GB geheugen. Zowel de iPhone 14 Pro als de iPhone 15 hebben beide 6 GB geheugen en een A16 SoC, maar ondersteunen Apple Intelligence niet. Oudere iPad Air's en Pro's met M1 SoC hebben wel 8GB werkgeheugen en ondersteunen Apple Intelligence.

We kunnen ook nog even naar geheugenbandbreedte kijken. Dat legt namelijk een maximum op qua performance. Apple claimt:
With this set of optimizations, on iPhone 15 Pro we are able to reach time-to-first-token latency of about 0.6 millisecond per prompt token, and a generation rate of 30 tokens per second.
De iPhone 15 Pro heeft de minste geheugenbandbreedte van alle ondersteunde apparaten, omdat het een 64-bit geheugenbus heeft i.p.v. de 128-bit die de M-series processoren hebben. 6400MHz LPDDR5 geeft 51.2 GB/s aan bandbreedte. Daarmee is theoretische maximum van 51.2 / 1.5 = ~34 tokens per seconden mogelijk.

Bij de M1 (68.25 GB/s) is dat ~45.5 tokens/s, bij de M2 en M3 (102.4 GB/s) ~68.3 token/s en bij de M4 (120 GB/s) is het ~80 tokens/s.

De A16 uit de iPhone 14 Pro en iPhone 15 heeft dezelfde 51.2 GB/s bandbreedte, maar blijkbaar vond Apple het geheugengebruik daar te groot. Of hadden ze een andere, mogelijk niet-technische reden om het te beperken tot de iPhone 15 Pro.

De hoeveelheid geheugen en geheugenbandbreedte zijn dus interessante getallen om bij te houden als Apple toekomstige producten onthult, naast natuurlijk de NPU-rekenkracht.
Als iemand die vrij weinig af weet van machine learning - kan iemand mij uitleggen hoe het kan dat een functie/algoritme zo'n 3 MILJARD parameters heeft?

Als ik dit vergelijk naar software development, een grote functie kan 15-30 parameters hebben - maar daarna begint het al snel onoverzichtelijk te worden. Hoe kan zo'n model drie miljard inputs hebben? En zijn deze ingevoerd door mensen?
Ik geloof dat er programma's zijn met 2 miljard lines of code, gemaakt door mensen... Tsja... Overzichtelijk ging, lang, lang geleden het raam al uit. Maar dergelijke modellen worden juist getrained op data (automagisch of tot op zekere hoogte curated door mensen). Daarnaast is 3 miljard parameters niet zo heel veel vergeleken met andere LLMs...

GPT-3 => 175 miljard parameters
GLaM (Generalist Language Model) => 1200 miljard parameters
Hoeveel parameters GPT-4 exact heeft is niet helemaal duidelijk, maar zou wel eens meer dan GLaM kunnen zijn, 50%-100% meer...

Bron:
Wikipedia: Large language model
Hoeveel parameters GPT-4 exact heeft is niet helemaal duidelijk
Volgens deze bron op basis van gelekte informatie:
GPT-4 has ~1.8 trillion parameters across 120 layers, which is over 10 times larger than GPT-3.
Ik weet niet hoe betrouwbaar de bron is, ben niet zo thuis in de technische kant van AI.
Een parameter in deze context is heel wat anders. Als je het toch zou willen vergelijken of omschrijven in termen van een functie dan zijn de parameters van het model eerder een constante array met een grootte van 15-30 miljard items die gebruikt wordt in de functie.
Conceptueel heb je een "neural netwerk", dit wil zeggen een node (zenuwcel) die heel veel verbindingen heeft met andere neuronen. Ik heb de indruk dat ze elke verbinding als 1 parameter beschouwen. Er zijn dus een paar miljard verbindingen.

Je komt daar redelijk snel aan. Wiskundig kan je het zien als een matrix vermenigvuldiging met extra stappen.
Stel, jouw input heeft 10.000 nodes (bv 10.000 pixels van een foto, als je 1 input per pixel neemt). Dit vormt een vector of matrix van 1 kolom met 10.000 getallen. In jouw programma is dat 1 variabele (array met 10.000 getallen). Om dit om te vormen naar de volgende stap van nodes vermenigvuldig je dit met een matrix, en je krijgt een nieuwe matrix van 1 kolom.
Die matrix is groot: 1 rij per input node, 1 kolom per output node. Dus als je van 10.000 input nodes vertrekt en naar 10.000 nodes gaat, dan heb je al 100.000.000 parameters in 1 stap.
Dan wordt er nog een extra bewerking van het resultaat gedaan, voor het door de volgende laag van het neuraal netwerk gaat -> matrix vermenigvuldigingen met extra stappen.

Een AI trainen is een programma er op los laten om de juiste matrices te vinden tot er iets zinnigs uit komt (en eventueel ook die tussenfuncties).
Het resultaat is een set matrices en functies die dat neural netwerk voorstellen.

Nog altijd aan het lezen? Dan ga ik verder! Dit is ook waarom GPU's goed zijn in AI en AMD en NVidia zo snel AI chips konden ontwikkelen.
Veel grafische bewerkingen kunnen herleid worden tot matrix bewerkingen. Het soort chip dat je hiervoor nodig hebt is het omgekeerde van een CPU.
Een CPU is ijzersterk in complexe taken en complexe bewerkingen - je zou dit kunnen bekijken als logica in de diepte. Maar matrix bewerkingen zijn redelijk eenvoudig. Je hebt er gewoon enorm veel kleine berekeningen voor nodig. Je kan dit zien als logica in de breedte. Een CPU en GPU staan dus wat tegenover elkaar in architectuur en doel: diepte vs breedte.
GPU's en AI chips zijn dus gespecialiseerd in berekeningen zoals matrix bewerkingen, en tonen redelijk wat gelijkenissen.

Wat leuk is - Quantum Mechanica en bepaalde chemische processen kunnen ook a.d.h.v matrix bewerkingen gesimuleerd worden. Deze werden ook af en toe op GPU's (en nu misschien op AI chips) gesimuleerd.
Als ik wild mag gokken, is dit waarom DeepMind er in geslaagd om de plooiing van eiwitten te berekenen - zie alphafold.

En fin - nu ben ik waarschijnlijk heel vervelend aan het worden. Sorry!
Een AI-model is natuurlijk niet één-op-één te vergelijken met een functie in een willekeurige programmeertaal. Wat er met het woord "parameter" wordt bedoeld is in een AI-model iets anders dan een parameter van een functie of method in een programmeertaal zoals C++, Python of Java.

[Reactie gewijzigd door jj71 op 22 juli 2024 13:20]

Ik denk dat Apple wel een goede weg inslaat met dit verhaal.

Ze gebruiken AI op deze manier vooral voor het begrijpen van spraak en tekst en het genereren van spraak en tekst en blijven weg van het genereren van content waarbij hallucinaties kunnen optreden.

Door deze (sporadische) hallucinaties is het huidige ChatGTP en de concurrentie eigenlijk niet echt praktisch bruikbaar in die gevallen waar je niet al veel kennis over het onderwerp hebt zodat je doorhebt wanneer iets onzin is.
het genereren van spraak en tekst
blijven weg van het genereren van content waarbij hallucinaties kunnen optreden.
Volgens mij spreek je jezelf tegen hier.
Nee hoor. Misschien leg ik het niet goed uit.

Ik bedoel dat als je chatgtp vraagt om feiten of uitleg dan gaat ie vaak de fout in. Een tekst samenvatten, omschrijven of vertalen gaat daarentegen echt heel goed. Spraak transcriberen gaat ook echt verrassend goed.

Ik denk dus dat de kracht nu vooral ligt in dat het systemen kan verbinden. Dus spraak of tekst omzetten naar een formaat waar systemen zoals Siri er wat mee kunnen en het teruggeven van data in makkelijk begrijpbare tekst en spraak (zodat wij er weer wat mee kunnen).

Maar ook op een ander niveau is er veel mogelijk wat eerst echt lastig was. Zo heb ik zelf een systeem gemaakt waarbij ik binnenkomende facturen kan doormailen naar een speciaal mail adres. De pdf van de factuur wordt automatisch geclassificeerd en data wordt geparsed (zoals bedrag, btw, factuurnummer). Vervolgens wordt de pdf geupload naar google drive en en details in een sheet gezet.
Ik vraag me af hoe dat gaat dat controleren van hun transparantie voor derden. Privacy is belangrijk en daar hoort ook een transparante manier van toegankelijk maken bij. Ik ben benieuwd...

[Reactie gewijzigd door oks op 22 juli 2024 13:20]

Staat letterlijk in de tekst: "Onafhankelijke onderzoekers kunnen de broncode checken om beveiligingsgaten te vinden"
Wat kwalificeert een onafhankelijke onderzoeker? Geen idee als je er over nadenkt. Dan ben je een gekwalificeerde onderzoeker waar moet je dan zijn bij Apple? Moet je je inschrijven als developer? Wat? Opnieuw geen idee wat deze woorden betekenen. Kortom er moet nog veel duidelijk worden.
Ik heb bijna altijd iPhones en MacBooks gehad, maar ik merk dat de aantrekkingskracht ervan voor mij steeds minder wordt. Elke iPhone lijkt op de vorige. Misschien dat zoiets logisch is omdat ze soort van zijn uitontwikkeld, maar het maakt wel dat ik eigenlijk niet de meerwaarde meer zie van een upgrade. Zeker niet als ze ook met nieuwe futures zoals AI weer achter de meute aanlopen, en je niet alleen het nieuwste model telefoon nodig hebt, maar ook weer jaren mag wachten tot het is uitontwikkeld en ook eindelijk de Nederlandse taal beschikbaar is.
Ik heb bijna altijd iPhones en MacBooks gehad, maar ik merk dat de aantrekkingskracht ervan voor mij steeds minder wordt.
Dat is met Microsoft Windows en Android (telefoons) toch niet anders?

Er zijn de afgelopen 10 jaar veel veranderingen geweest, maar de enige echte hardware improvement is imho 5G geweest. Dat heeft het mogelijk gemaakt om mobile devices écht alles te laten doen, wat je eerder op je computer deed. AI en cloud zijn de andere grote doorbraken, maar worden niet primair op jouw device uitgevoerd.

ARM is natuurlijk ook doorgebroken, maar RISC is al zo oud als de weg naar Rome.
Nee dat is inderdaad denk ik niet anders. Maar ik persoonlijk gebruikte nauwelijks Windows en nooit android. Ik vond iPhone ook altijd het mooiste model telefoon. Maar nu heb ik dat niet meer. Ik zie vaak zat telefoons met Android uitkomen waarvan ik het ontwerp veel aansprekender vind dan de iPhone die al vele jaren nauwelijks is veranderd.
Wat zou er dan aan moeten veranderen?
- Scherm moet een formaat hebben tussen X en Y
- Bepaalde dikte
- Accu moet ongeveer een dag mee gaan
- Sterk genoeg voor dagelijks gebruik
- Camera
- IP rating

Dit bepaalt hoe zo'n ding er uit komt te zien. Gebruik van een metaal, glas of kunststof ligt voor de hand. De rest is software, wat je niet aan de buitenkant ziet. Vroeger gebruikte je een ouderwets keyboard voor je telefoon, nu maakt dat deel uit van het scherm. Opvouwbaar scherm lijkt leuk, maar maakt de telefoon dikker zodra je hem dicht doet en in je broekzak wilt doen.

Veel variatie zie ik de komende jaren niet ontstaan. Misschien m'n bril gebruiken als scherm en alles met voice control, maar dat laatste gaat op veel plaatsen problemen opleveren.
Ik zou niet weten wat er moet veranderen. Dat is niet mijn expertise.
Ik merk echt geen enkel merkbaar verschil tussen 4g en 5g. Wat mij betreft is 5g nauwelijks een upgrade te noemen (heb zelf een 15 ProMax met Vodafone 5g, vorig jaar Odido 5g). Alleen de ping is lager maar zoals gezegd geeft dat geen enkel merkbaar voordeel.
Dat ligt meer aan het huidige 5G in NL dan aan je telefoon, voor een echt oordeel zou ik wachten tot de uitrol van de 3,5 GHz later dit jaar.
Aantrekkingskracht? Het is een smartphone, het is een laptop. Persoonlijk zit ik echt niet altijd op verandering te wachten. En ik niet alleen m'n 77 jarige moeder heeft issues bij elke major Windows update, maar geheel geen bij de iPhone/iPad/AppleTV. De UI blijft consistent en elke verandering is makkelijk op te vangen door een device gebruiker die niet is opgegroeid met computers. Ik stelde laatst de vraag, maar ze had niet door dat ze jaarlijks een nieuwe versie van iOS kreeg...

En wat betreft Nederlands, we zijn een klein pokke landje, zelfs als je de Benelux rekent. Dat ze andere talen een hogere prioriteit geven en beginnen met US English vind ik geen issue, momenteel zal toch alleen m'n iPad het ondersteunen. Ik zal voor Apple Intelligence geen nieuwe hardware kopen, ook al is het erg cool. Dat het straks gaat werken op andere devices wanneer deze natuurlijk worden vervangen na 5-6 jaar, hey bonus!

Het enige wat ik kan zeggen over Apple Intelligence is dat het veel 'functioneler' en normale gebruiker focused is ingesteld dan de meeste diensten AI/LLM hebben aangeboden. Wat ik een voordeel en een nadeel vind, voordeel voor de doorsnee gebruiker, nadeel voor de heavy AI/LLM gebruiker...
Voor jouw situatie is consistentie misschien het beste. Ik zou zelf wel eens wat verandering willen, bijvoorbeeld zelf bepalen waar een icoon mag zijn. Maar dat heeft Apple ons sinds ios1 al verboten.

Ieder mens is anders gelukkig.
*shrugs*
Het zou fijn zijn als je allerlei zaken zelf kan instellen als je dat echt wil, terwijl de standaard gewoon hetzelfde kan blijven. De WWDC24 van gister liet zien dat Apple daar tot op zekere hoogte in mee gaat in iOS18, het kan natuurlijk nog veel meer customized worden en wellicht dat we dit in de toekomst gaan zien. Ik zou er alleen m'n adem niet voor inhouden.

Ik wordt echt niet 'gelukkig' van de onveranderbaarheid van Apple devices, ik heb echter gewoon meer werk aan constante verandering, puur voor de verandering. Elke verandering is geen verbetering. En dat gaat veel verder dan alleen Apple... Zowel in werk als prive. Dit zijn gebruikersvoorwerpen, ik hoef niet elk jaar een ander model hamer. Verandering verwerken kost tijd en tijd is kostbaar, als ik 0,0 voordeel heb bij verandering, dan heb ik geen zin om daar kostbare tijd aan te verdoen. Ik kom van het tijdperk van net PDA af en de eerste smartphones, waarbij je of zat met bagger telecom OSen of via XDA developers custom ROMs draaide, dat was in beide zo onstabiel als de pest en allebei evenveel werk om de boel enigszins draaiende te houden (voor vrij basic ongein zoals wifi, BT, etc.). Dat er een no-nonsense mobile OS is, waar ik prima binnen kan werken, scheelt mij vrij veel frustratie en werk, maar echt gelukkig wordt ik er niet van...

De tijd dat doorsnee computers de hobby was, is allang voorbij, als ik dag in dag uit bezig ben voor klanten de gein en ongein uit te zoeken voor Apple en MS, zit ik echt niet te wachten om dat in m'n vrije tijd nog eens te gaan doen. Af en toe spelen met een Linux bakje/VM is leuk, omdat het niet mijn main machine is. Af en toe spelen met een Raspberry Pi is leuk om wat ik er mee kan... Als ik al speel met een smartphone, dan zijn dan spelletjes. Maar echt niet meer met het OS. Tools uit de toolbox.
Je hebt duidelijk niet opgelet. Wanneer AI de intrede doet met iOS 18 lopen ze niet achter maar maken meteen juist een flinke sprong vergeleken met de concurrentie, voornamelijk door hoe het in het OS is geïntegreerd en de interactie tussen apps.
Ik heb eenzelfde gevoel. En nu met dat AI gedoe stop ik er ook mee om elke keer maar het nieuwste van het nieuwste te moeten hebben (want roulatie in het gezin). Ik wil geen AI, maar om elke keer alle settings na te lopen welke Apple na een update vrolijk weer aanzet en het kwalificeert als een bug wanneer teveel mensen klagen is echt super vervelend (dit ging om lokatievoorzieningen die vrolijk alle rechten kregen na een update terwijl ik ze allemaal uit had gezet).

En het utizetten van AI zal wel steeds moeilijker worden. Want ook al had ik Siri uitgezet, je moet bij elke app ook handmatig aangeven dat het niet mag leren van de app. Leuk joh, als je 200 apps hebt. Apple begint gewoon echt vervelend te worden met het opdringen van features die je niet wilt. Nee, mijn plezier is redelijk gedaald vwb het gebruik van hun software.
Klopt ik ben ook afgehaakt na 10/15 min van de stream van gisteren tijdens de AI, zo happy en blij over deden kwam gewoon mijn keelgat uit bah.

Kijk hoe snel je even kan vragen hoe laat vliegtuig aan komt , hierna het eten tijdstip te checken en vervolgens de route te plannen te kijken hoe lang je onderweg ben.
Je bespaard hier zoveeeeeeel tijd mee enzo, ach die toch effe normaal.

Of die nieuwe notificaties je alleen ziet wat belangrijk voor jou is, hallo mag ik dat even zelf betalen ?.
De mail het zelfde eigenlijk zelfde net als Focus in Outlook, op het werk ook meteen uitgezet.
Ik bepaal wat ik wil zien en niet het systeem voor mij, van mij hoef dat hele AI ook niet.
Foto app nu ook echt een gedrocht, vol met slidehows en alles van momenten in plaats van een simpele foto app met een paar albums.
Maar eens kijken hoelang we alles uit kunnen krijgen, of vervangen voor wat anders.

Ik heb de beta gisteren gezet op mijn werk mobiel, dus kan ik een beetje kijken en spelen voor dat het in september uit komt voor mijn privé mobiel en iPad.

[Reactie gewijzigd door Carlos0_0 op 22 juli 2024 13:20]

die AI features kunnen je echt ziek veel tijd besparen op jaarbasis. ik kan dit soort ontwikkelingen alleen maar toejuichen. het word gewoon steeds meer een echt persoonlijke assistent
Klopt, ik had ook wel op wat meer gehoopt eigenlijk. Zo'n extra breed beeldscherm met de Vision Pro is cool (niet dat ik er een heb overigens), en fijn dat ik eindelijk geen extra app meer nodig heb om gewoon een venster links/rechts/volledig op m'n scherm wil hebben, maar dat had men 10 jaar terug ook al wel mogen implementeren. Verder niet heel veel indrukwekkends gezien.

Had zelf gehoopt op een wat meer uniforme en minder platte interface overal, maar op de kleurtjes na is daar niets gewijzigd. Tja, het is ook wel waar dat het grotendeels uitontwikkeld is. Op Windows gebeurt op de AI features na ook weinig spannends. Windows 11 is, als je even door de schil heen kijkt, eigenlijk niet heel veel anders dan XP. Ik gebruik XP nog wel eens (en 11 voor werk), dus het is niet dat ik het mij enkel zo herinner.

Zelfde verhaal met Android heb ik het idee. De specs in al die apparaten van tegenwoordig zijn vrij bizar, maar wat heb je er nu eigenlijk helemaal aan?
Naar mijn mening is dat met alle elektronica op dit moment. Als ik nu door de Mediamarkt loop dan vind ik alles er hetzelfde uitziet tegenwoordig. Alle tvs lijken bijvoorbeeld tegenwoordig op elkaar qua scherm, ontwerp en bediening. Witgoed ook eigenlijk.

Ik vind overigens Android en iOS steeds meer op elkaar gaan lijken. Het is allemaal lang zo spannend niet meer als 15 jaar geleden met grote verschillen tussen de os-en en tussen os versies.

Hopelijk zorgt AI voor weer wat vernieuwing.
Niets is echt spannend meer inderdaad. En er zijn zoveel soorten en types tv’s dat je je ook echt afvraagt waarom het allemaal geproduceerd wordt.
En het enige waar ze zich nog in kunnen onderscheiden, doen ze niet: verschillende poten. Heb je net een goeie tv gevonden heb je zo’n lelijke voet.

Overigens klinkt dat Apple AI leuk, maar het is wèèr alleen English only. Blijkbaar mogen we Apple danken dat we 3 jaar na introductie ook fietsroutes hebben… als f*cking fietsland.
verschillende poten. Heb je net een goeie tv gevonden heb je zo’n lelijke voet.
Compleet off-topic, maar heel herkenbaar :). En waarom die tv zo ook zo moet balanceren op die veel te kleine poten is mij al helemaal een raadsel. Een kleine stoot er tegen en hij gaat al om.
English only is net een plus voor mij !!
Dat we ooit andere talen hebben geïntroduceerd is iets dat nog steeds mateloos irriteert en nooit de meerwaarde van heb begrepen en al helemaal,als je weer eens support moet leveren.
Andere talen? Siri in hiërogliefen lijkt me vrij lastig. Of wat bedoel je?
Jij zegt toch dat het een beperking is dat het weer English only is ..,

En ik zeg als er iets is waar in een grondige hekel aan heb, het wel software is in een andere taal dan Engels.
Al die devices is formfactor rondom een paneel dat rechthoekig is dus wat ze ook makken je krijgt plank design is hoe hoekig rond je het wilt hebben.
Apple is 1 merk dus 1 design stijl. Android Microsoft hebben partners die elk hun eigen styl doen hoe zo plank er uit gaat zien.
Ik heb 2018 iphone ipad mac mini. Het is niet de bedoeling ivm milieu e-waste om elke gen te kopen ik sla paar gens over. En end dit en begin komende jaar A17 /M4 soc. Dan krijg soc met NPU die apple intelligence voldoende rekenkracht daarvoor geeft. Goede tijd om upgraden. Met die A12 heb 5TOP NPU beetje hardware versnelling. Geen idee of dat genoeg is of IOS18 ipados18 op die apparaten kan.
Heb niks met design moet functioneel zijn. Blijft plankje.
Ik vraag me af of die 3 manieren waarop je verzoek kan behandeld worden een snelheidsimpact zal hebben. Kan me voorstellen als eerst je iPhone dit moet bekijken en mss daarna de private cloud je een tijd kan wachten op een antwoord.
Ik verwacht dat dat allemaal wel mee zal vallen. ChatGPT is op dit moment ook vrij direct als je er tegen gaat praten en vragen gaat stellen. Kan me voorstellen dat Apple wel een contract heeft afgesloten waardoor er enige vorm van voorrang is bij aanvragen die vanaf de apparaten van Apple komen.
Kan me ook voorstellen dat ze daar wat slims op hebben bedacht. ChatGPT is ook aardig snel. Een klein model op je iPhone zou best snel moeten kunnen inschatten of het lokaal kan of beter online en die extra tijd verwaarloosbaar wordt. Het is maar een hypothese
Ik vraag me af of die 3 manieren waarop je verzoek kan behandeld worden een snelheidsimpact zal hebben. Kan me voorstellen als eerst je iPhone dit moet bekijken en mss daarna de private cloud je een tijd kan wachten op een antwoord.
Andersom kan het natuurlijk ook juist sneller werken. Het verzoek kan direct op de iPhone afgehandeld worden en hoeft niet voor internet verpakt, verzonden en weer opgehaald te worden.
Meeste wat je doet zal betrekking hebben op je eigen data dus snel
Meeste wat men vraagt zal getraind zijn in locale language model.
Ook snel. Als je iets specifieks complex of zeldzaams unieks vraagt dan kan wat vertraging verwachten. Wat ook reuze kan mee vallen. Maar dat hangt ook af hoe vaag je zelf prompt want antwoord kan dan ook niet voldoen aan je verwachtingen.
Als er een optie is om het overschakelen naar de cloud, of nog erger openai, uit te schakelen, zodat je alleen het ondevice model gebruikt, dan is het best cool.
Siri krijgt een upgrade om gebruikers beter te bedienen door een dieper begrip van apps en hun features, waardoor de assistent onder meer features kan vinden als de gebruiker de naam is vergeten.
Wel jammer dat Siri pas jaren na introductie eindelijk wordt verbeterd.

Siri en Maps behoren vermoedelijk tot Apple's grootste missers. Maps is nog steeds belachelijk slecht en Siri heeft nog nooit iets nuttigs kunnen doen. Ook al zou Siri nu wel nuttig worden, dan zal het jaren duren voordat de slechte nasmaak van Siri weg is. Ik ga het een kans geven, maar ook ik proef nog steeds de nasmaak.
Waarschijnlijk moeten we nog heel veel geduld hebben, misschien wel anderhalf jaar, voordat Apple Intelligence in het Nederlands beschikbaar is.

In de presentatie van Apple flitste er aan het einde een scherm langs met kleine lettertjes waarin werd genoemd dat het in het eerste instantie alleen beschikbaar zal zijn als je je apparaten op Engels instelt.

En Nederland is voor Apple, net als voor de andere techreuzen, een klein en onbelangrijk landje wat achteraan de rij staat voor ondersteuning voor dit soort grote nieuwe features.

Voorbeeld: Ik heb een jaar of twee geleden een iPad Pro gekocht met Apple Pencil, en de handschriftherkenning is pas sinds kort beschikbaar in het Nederlands.

Dus het is waarschijnlijk nog lang geduld hebben, of je apparaten op Engels instellen (en dan nog heb je er alleen wat aan als je ook je teksten in het Engels schrijft).
Apple die potentieel gevoelige bedrijfsinformatie gaat opsturen naar Microsoft eh OpenAI. Wat kan er mis gaan :+
Juist aan het security en privacy gedeelte hebben ze veel gewerkt.
Daarom krijg je dus een vraag of je het wilt sturen. Ik ga er vanuit dat dit ook uit te zetten is, net zoals ze straks andere AI / LLM ook zullen toelaten (zoals gezegd in de WWDC keynote).
Ik ben zeer benieuwd wat voor controle (of het ontbreken van controle) in JamF Pro gaat zitten (wat door veel bedrijven gebruikt wordt voor het beheer van oa. Macs). Want dit zal in de eerste instantie toch echt wel een dingetje gaan worden. Als dit niet fatsoenlijk beheerd kan worden zal dat een doodsteek zijn voor Apple of het zakelijke vlak. Het zou me zelfs niets verbazen dat voorlopig upgrades naar de nieuwe MacOS/iOS geblokkeerd gaan worden terwijl security, beheer en legal dit bekijken.

Op dit item kan niet meer gereageerd worden.