WSJ: Apple voerde gesprekken met Meta over integreren AI-model in iPhones

Apple en Meta hebben gesprekken gevoerd over het integreren van het generatieve-AI-model Llama in Apple Intelligence, een reeks AI-functies die later dit jaar onder meer naar bepaalde nieuwere iPhones komt. Dat zeggen ingewijden tegen The Wall Street Journal.

Het is vooralsnog niet duidelijk wat de uitkomsten zijn van de onderhandelingen tussen de twee techgiganten. Waarschijnlijk gingen de gesprekken over het integreren van Llama 3 in iPhones. Het AI-model werd onlangs aangekondigd en wordt onder meer geïntegreerd in WhatsApp en Instagram. Apple heeft naar verluidt ook gesprekken gevoerd met de AI-bedrijven Anthropic en Perplexity, meldt WSJ. Eerder toonde Apple ook interesse voor Google Gemini. Dat bevestigde Craig Federighi, hoofd software binnen Apple, eerder deze maand tijdens de ontwikkelaarsbeurs WWDC. Voor de Chinese markt zou Apple volgens geruchten met Baidu en Alibaba onderhandelen.

Tijdens de WWDC kondigde Apple een samenwerking aan met OpenAI, waardoor ChatGPT beschikbaar wordt voor bepaalde toepassingen voor bepaalde iPhones met het nog te verschijnen iOS 18. Er wordt verwacht dat de iPhone-maker in de toekomst nog meer AI-samenwerkingen aankondigt. Als dat het geval is, kunnen gebruikers kiezen welke AI-modellen ze willen gebruiken op hun apparaten. Hoewel Apple zelf kleinere AI-modellen heeft ontwikkeld, kiest het bij complexere en specifieke taken voor de modellen van concurrenten.

De meeste AI-processen binnen Apple Intelligence worden lokaal uitgevoerd op het apparaat. Apple zegt dat alleen noodzakelijke data naar Apples eigen servers wordt gestuurd, die draaien op hun eigen chips. Door Apple Intelligence kan Siri bijvoorbeeld geavanceerde taken uitvoeren, zoals het vinden van functies waarvan gebruikers de exacte naam vergeten zijn. Ook kan de stemassistent helpen bij het samenvatten van onder meer webpagina's. Andere onderdelen zijn onder meer een nieuwe AI-Focus-modus en de mogelijkheid om emoji's te genereren op basis van tekstprompts.

Apple Intelligence komt later dit jaar beschikbaar voor de nieuwere iPhone Pro's die op iOS 18 draaien en zal bij release grotendeels alleen de Engelse taal ondersteunen. De AI-functies zijn dit jaar waarschijnlijk nog niet te gebruiken in de Europese Unie. Apple Intelligence en andere functies zoals iPhone Mirroring en SharePlay Screen Sharing voldoen volgens de fabrikant mogelijk niet aan de Digital Markets Act. Die Europese wet moet er net als de Digital Services Act voor zorgen dat de macht van grote techbedrijven wordt ingeperkt.

Reacties (36)

[ben2513]

Als ze alleen het model krijgen en op hun eigen devices/servers draait is er natuurlijk niets mis mee. Ik dacht meteen aan privacy, maar het maakt mij eerlijk gezegd niets uit waar ze de LLM vandaan halen zodra het maar lokaal (of bij Apple) draait.

Tenzij ik iets over het hoofd zie?

[Robkazoe]

Ze lopen nu behoorlijk te borstkloppen dat hun AI-oplossing zo privacyvriendelijk is en dat de data niet gebruikt wordt om modellen te trainen. Maar als ze daadwerkelijk met Meta in zee waren gegaan, dan zouden ze een datamodel gebruiken/krijgen waarvan de basis een bedrijf is/diensten zijn die zwaar privacyschendend zijn.

Dat zou wel een behoorlijk hypocriet zijn.

[Me_Giant]

Gaat het je nou om de beeldvorming of dat het werkelijk privacyschendend is of niet?

[Llopigat]

llama3 kan 100% lokaal draaien. Zo gebruik ik het zelf ook. Ik mis alleen een beetje een tussen versie, 8b is een beetje klein voor mijn videokaart (dus ik benut die niet optimaal), 70b is weer veel te groot. Llama2 had er nog een 13b tussen. Dat was voor mij net ideaal.

Maar goed, dat terzijde, als je dit model draait dan gaat er geen bit naar meta toe. Dus heel privacybewust. Het enige dat je er tegen kan stellen is dat meta er voor betaald heeft om het model te maken, maar dat is met andere privacybewuste tools ook zo. Bijvoorbeeld Firefox wordt voornamelijk betaald door Google.

[Reactie gewijzigd door Llopigat op 23 juli 2024 03:28]

[willieverhoef]

Zonder dat te gebruiken kun je ook niet trainen. Modellen die jij dus gebruikt zijn getraind. En dan kun je wel schreeuwen dat je niet mee doet. Maar ondertussen geeft je geld aan bedrijven om een model te kopen wat wel getraind is met data. Maar in dit geval data van andere gebruikers?

[Pinkys Brain]

Dit wil Apple nou precies niet volgens mij.

Beslissing door het hoofdsgerechtshof in de VS over Fair Use voor trainen is nog ver weg, tot die tijd wil Apple grote modellen die semi-legale trainingsdata gebruiken op afstand houden. Dus juist niet op eigen servers.

Afhankelijkheid creeren van OpenAI willen ze ook niet, want dan gooit OpenAI volgend jaar de prijzen omhoog. Dus nou is het een kwestie van tegen elkaar uit spelen. Ik denk dat Google en Anthropic geen zin hadden in het gratis doen, en Google is zowiezo een imago probleem. Meta is een beetje een zwakte bot van Apple, alleen de zwakkere spelers zijn nu over. X zal het ook niet worden voor PR redenen.

[Reactie gewijzigd door Pinkys Brain op 23 juli 2024 03:28]

[ben2513]

Het ging mij niet om het trainen van LLM op Apples servers. Ze kunnen gewoon een al getraind LLM kopen en implementeren.

[Pinkys Brain]

Als het trainen zodirekt illigaal word verklaart gaan miljarden of zelfs billoenen gegaart worden door recht hebbenden. De modellen zelf draaien is nog steeds oncomfortabel dichtbij en waarschijnlijk verhoogd aansprakelijk, "contributory infringement".

[Matt Young]

Ja, want bij geavanceerde vragen wordt toch echt de vraag/data door gestuurd nu naar openAI.

[SgtElPotato]

Dat is een mogelijkheid, je krijgt de vraag of je de vraag door wilt sturen.

[temvdb]

Klopt niet helemaal, alles wat met text en eigen context te zien heeft wordt door Apple’s eigen modellen afgehandeld. Maar als je vragen stelt in de Trent van ik heb 10 scampies, 5 tomaten, room en kruiden, dan gaat het local of server model je de optie geven om dat door ChatGPT te laten beantwoorden. Local grounded context eigen modellen, belangrijk voor Privacy, world knowledge vragen ChatGPT na confirmatie en anoniem als je niet bent ingelogd met betalende GTP account.

[Vexxon]

Uiteindelijk probeert Apple natuurlijk, net zoals met Google destijds, een sloot geld te krijgen als ze de AI van een bepaald bedrijf gaan gebruiken op hun toestellen. Daar moet wat tegenover staan.
Dat gold destijds voor Google en dat zal nu niet anders zijn.

[Pinkys Brain]

Google verdient ook echt met search, gratis AI diensten zijn verliesdraaiende lokkertjes.

OpenAI wil interesse omdat Altman een IPO wil, ik denk dat er voor Google&Anthropic veel minder te halen valt door Apple gratis diensten aan te bieden.

[msetten]

Ik denk dat Apple juist alle verschillende LLM makers de mogelijkheid wil bieden om met hen samen te werken om weer allerlei anti-trust rechtszaken in de toekomst te voorkomen. Als er met maar een partij wordt samengewerkt of alleen een eigen LLM integreren, dan zal dat waarschijnlijk gezien worden als anti-competitief met problemen met vooral de EU tot gevolg. Maar ook andere landen, zelfs de VS, kijken daar steeds meer naar.

[willieverhoef]

Denk dat dit positiever klink dan het in werkelijkheid is. Waarschijnlijk wil het bedrijven verplichtingen om locaal of in de apple cloud te draaien willen ze het op de iPhone gebruiken. Of ze willen luisteren wat ze ban plan zijn met de modellen om informatie op te pakkrn zodat ze het zelf kunnen ontwikkelen en dan de concurrentie aan te kunnen gaan.
Tot nu toe zie ik geen verandering bij Apple zonder daarvoor een wet is. En dan ook bog minimaal en op hun manier.

[oscar oscar]

Ik snap niet waarom dit nieuws is, het tegenovergestelde zou vreemd zijn. Het is niet omdat je met partijen praat dat je daarom met ze in zee wil. Niemand denkt toch dat een partij als Apple enkel naar OpenAI stapt en een overeenkomst negotieert op basis van wat OpenAI vraagt?
Je spreekt met alle belangrijke partijen en hoopt zo een zo goed mogelijke deal te maken door ze tegen elkaar uit te spelen, er bestaat zelfs een term voor (benchmarking).
Het gerucht gaat zelfs dat Apple niets aan OpenAI betaalt voor de overeenkomst.

[justinkb]

Wordt wel een mini llama modelletje dan. Neem aan dat Apple de opslag op hun devices niet gaat uitbreiden om vele tientallen gigabytes aan pretrained zooi op te kunnen slaan.

[slijkie]

Als dit serieus door gezet was, had ik van Apple alles overgeschakeld naar een ander OS.

Meta komt met geen enkel product over mijn deurpost.

Natuurlijk voor iedereen vrij om dat zelf te beslissen natuurlijk.

[Dark Angel 58]

Ah, dus niet volledig AI, maar slechts een paar functies? Kan dat naast Apple AI?

[klonic]

Wat Apple doet is echt ontzettend slim. Op hun Apple Developer youtube account zie je wat ze aan developers laten zien van de opties die AI biedt. En dat gaat veel verder dan wat de meeste consumenten zien. Denk bijvoorbeeld aan X Code integratie voor troubleshooting en het afmaken van Code. Apple doet al jaren (sinds 2017) Neural cores in haar A en M processors. En op het bredere AI vlak is apple natuurlijk behoorlijk ver (niet op Generative AI).

In plaats van dat Apple nu zoals Google en Facebook probeert om een eigen model te bouwen werken ze dus samen met de partijen die dit erg goed kunnen. En Apple zal waarschijnlijk op de achtergrond gewoon alle data verzamelen om een AI model te kunnen voeden. Volgens mij waren er al een heel aantal voorstellen uitgelekt waarbij Apple eigenaren van data om toestemming vroeg.

Ze zijn nu dus even afhankelijk van OpenAI (en misschien later van Meta of Google) maar Apple heeft natuurlijk een schat aan data met Siri, iPhone, iPad, Mac, Apple Watch, Vision, Carplay als mensen hun productverbeteringsvinkjes aan hebben staan. Maar ook eigen content in Apple TV etc.

het geinige is ook dat het voor investeerders allemaal te langzaam ging. Waardoor Apple iets van 20% marktwaarde was verloren. Inmiddels is dat weer goedgemaakt. Echter is het business model nog altijd onduidelijk, hoe men precies zoveel geld gaat verdienen met Generative AI is onbekend en staat vooralsnog niet in verhouding tot de koersstijgingen.Het is dus vooral de verwachting dat men hier echt veel geld mee gaat verdienen.

Erger is dat Europa alweer hopeloos achterloopt. Dit is met Computers, Internet, Film en muziekindustrie Sociale media, Cryptocurrency (ten opzichte van een aantal Amerikaanse staten), en nu ook AI. Well done!

[Reactie gewijzigd door klonic op 23 juli 2024 03:28]

[mutley69]

Het voorspelt weinig goeds voor zij die opgesloten zitten in het eco-systeem van Apple. Na de al te dure hardware (met tussen 30 à 50% marge) - zit je met een app-taks van 30% - en daar komt voor IA nog 's een privacy-belasting bij die uw gegevens gratis gaat weggeven aan derde partijen met een superbedenkelijke reputatie (we lezen gisteren nog dat AI-scrapers gewoon de robots.txt negeren en dat het er meer dan één is die dat doet). Waarom zou u met zo'n malafied bedrijf in zee willen gaan?

[Liquid_Bisquit]

Dus als ik een iPhone koop (in de toekomst), koop ik eigenlijk ook Meta... Ik ben niet voor niets bij alle some's weggegaan om ze dan nadien toegang tot mijn persoon te verschaffen via een achterpoortje...
Bij Apple gaan ze toch moeten nadenken over hun marketing hierrond, was dit is toch een akelige evolutie van verstrengeling.

[lasharor]

Ik snap niet waarom dat niemand het heeft over Apple zelf, ik koop een iPhone, ik zit helemaal niet te wachten op een LLM van Apple die ik er verplicht bij krijg.

[temvdb]

Nee je gaat de mogelijkheid krijgen om te kiezen, eigen context met eigen modellen via Siri, als je dat niet wil zet je Siri uit, geen eigen modellen en geen third party modellen.
Wil je wel eigen modellen van Apple dan zet je Siri aan, die gaat dan aan het werk met je locale context, privacy gevoelig dus die handelt Apple zelf af als je dat al wil. Wil je geen andere modellen die world knowledge vragen kunnen beantwoorden kan je die volgens mij gewoon uitzetten (je kan ze alleszins als bedrijf beheren en die apart uitzetten, dwz je kan eigen context vragen door Apple laten behandelen, maar geen queries naar derde partijen sturen, je zal trouwens altijd de keuze hebben om dat niet te doen als je het toch hebt aanstaan …)