OpenAI: Musk was het eens met closed source en wilde ons samenvoegen met Tesla

OpenAI heeft diverse mails tussen het bestuur van het bedrijf en Elon Musk geopenbaard waarin Musk aangeeft het eens te zijn met een closedsourcestrategie. Daarnaast wilde hij het bedrijf samenvoegen met Tesla. Musk klaagde OpenAI vorige week aan om contractbreuk.

"Als het eenvoudiger is om een onveilige AI te maken dan een veilige AI, dan maken we het voor mensen met slechte bedoelingen en toegang tot veel hardware makkelijk om een onveilige AI te maken als we alles opensource maken", schreef medeoprichter Ilya Sutskever aan onder meer Elon Musk. Het zou daarom 'totaal oké zijn' om 'de wetenschap' niet te delen met iedereen. Medeoprichter Elon Musk reageerde daarop met 'yup', blijkt uit de door OpenAI geopenbaarde mails.

De mail is opvallend omdat Musk OpenAI eerder deze week heeft aangeklaagd. Het bedrijf zou 'winst boven zijn missie' hebben verkozen, onder meer door GPT-4 niet volledig opensource te maken. Musk klaagde mede daarom het bedrijf aan voor contractbreuk en oneerlijke bedrijfspraktijken. Het is opvallend dat Musk het bedrijf aanklaagt vanwege een gebrek aan open source, terwijl hij het in de mail van januari 2016 eens lijkt te zijn met het idee dat niet alles opensource hoeft te zijn. Twee jaar na deze mail trok Musk zich terug uit het bestuur van OpenAI.

In de aanklacht hekelt Musk ook de innige samenwerking tussen OpenAI en Microsoft, omdat OpenAI hiermee 'de oorspronkelijke missie, om kunstmatige intelligentie te ontwikkelen voor het welzijn van de mensheid en niet voor winst, in gevaar heeft gebracht'. In de door OpenAI geopenbaarde mails stelt Musk in 2018 juist voor om OpenAI aan Tesla 'te koppelen'. In Musks voorstel zou OpenAI werken aan de zelfrijdende functies en het neurale net van Tesla-auto's. Tesla werkt hier zelf aan, maar OpenAI's expertise 'zou dit significant versnellen'.

"Met volledig werkende, zelfrijdende auto's in zo'n twee tot drie jaar, zouden we heel veel voertuigen kunnen verkopen", schreef Musk in 2018. Tesla's omzet moet op die manier significant groeien, waardoor OpenAI met die gegroeide omzet AI zou kunnen ontwikkelen. Het koppelen van OpenAI aan een ander bedrijf was volgens Musk juist cruciaal, vanwege het benodigde geld om een artificial general intelligence te kunnen maken, het uiteindelijke doel van OpenAI. Musk zag geen andere optie om te kunnen concurreren met Google dan het koppelen van OpenAI aan een ander bedrijf, waarbij er geen betere optie zou zijn dan Tesla, aldus Musk.

Voordat Musk voorstelde om OpenAI aan Tesla te koppelen, wilde hij 'volledige controle over OpenAI', stelt OpenAI. Dit wordt niet duidelijk in de mails die door het bedrijf worden gedeeld. Volgens OpenAI besloot het bedrijf samen met Musk dat OpenAI for-profit moest worden, waarbij Musk een meerderheidsaandeel en controle over het bestuur wilde, en ceo wilde zijn. Gedurende deze discussie eind 2017 stopte Musk met het financieren van OpenAI, claimt het bedrijf. Toen deze discussies niet tot Musks gewenste resultaat kwamen, verliet hij OpenAI. Hij wilde zelf een algemene kunstmatige intelligentie in Tesla ontwikkelen, zonder OpenAI.

De mails en brief van OpenAI, die zijn ondertekend door het bestuur van het bedrijf, zijn een reactie op Musks aanklacht. Het bedrijf wijst dan ook de claims van Musk af en zegt deze te zullen aanvechten.

Door Hayte Hugo

Redacteur

06-03-2024 • 13:05

98

Submitter: parsnep

Lees meer

Reacties (98)

98
97
38
0
0
40
Wijzig sortering
Alleen het woord "yup" betekent niet zo veel.

Het was een antwoord op een mogelijke uitkomst van hoe het zou kunnen gaan als het blijkt dat het maken van AGI makkelijker en sneller gaat dan verwacht.

Hier wordt gewoon ge-cherry-picked uit waarschijnlijk een hele berg communicatie wat puur als verdediging gezien moet worden tegen de rechtszaak.

De hele waarheid zullen we waarschijnlijk nooit horen en ik verwacht nog wel wat meer modder-gooien tussen OpenAI en Musk.
Mja dat lijkt me dus wel veel betekenen. Het bewijst dat hij de e-mail heeft gelezen en dat hij het met de inhoud eens is. Als hij het specifiek niet met een deel eens zou zijn, dan zou hij een langere e-mail hebben geschreven. Dan had hij absoluut niet enkel yup geschreven.
Hoeft niet. Kan ook dat hij het punt begrijpt, maar geen uitspraak doet of hij het wel of niet persoonlijk eens is
Het is zegmaar een redelijk belangrijke discussie. Als men binnen OM bijvoorbeeld heeft over Promes naar Nederland halen en OvJ zegt yup dan is dat niet 'het punt begrijpen' maar 'toestemmen'. Is de OvJ het er niet mee eens is dan moet hij of zij toch echt duidelijker communiceren. Je wilt bij dergelijke belangen geen ruimte overlaten voor interpretatie.
Ik lees de emails toch heel anders. Er staat geen een duidelijke vraag of echte uitspraak in.

Mischien was het
(even though sharing everything is definitely the right strategy in the short and possibly medium term for recruitment purposes)
Yup. It definitely is the right strategy medium term to share everything.

Of
extolling the virtues of open sourcing AI, but I presume you realise that this is not some sort of panacea that will somehow magically solve the safety problem?
Yup. I realise it's not a magic solution; nonetheless it is the one I want to keep following.
Congratulations on landing the Falcon 9, what an amazing achievement. Time to build out the fleet now!
Yup!

Immers
Subject: Fwd: congrats on the falcon 9
Subject was immers niet: "On making openAI closed source"

Als dit het beste is waar ze mee kunnen komen...

[Reactie gewijzigd door Zoijar op 22 juli 2024 23:11]

Aangezien de schrijver specifiek is, mag de lezer aannemen dat de schrijver het geheel eens is met alle stellingen :)
Dat slaat natuurlijk nergens op. Dan moet je elk mailtje uitspitten voor elke mogelijke uitspraak. Het is heel gebruikelijk om op een deel van een conversatie even "ja" te zeggen. Het is iets anders als het enige berichtje is "Dus we zijn het eens over de deal, je gaat akkoord?" en je dan een duimpje omhoog geeft op dat bericht.
Dan moet je elk mailtje uitspitten voor elke mogelijke uitspraak.
Nee, je moet goed quoten.

Doe je dat niet, dan is het jouw verantwoordelijkheid wanneer anderen iets in hun voordeel interpreteren.

Dat wil je niet. Dus duidelijk communiceren, niets overlaten aan interpretatie.

Als het gaat of iemand 5 minuten eerder weg mag of de vraag of Henk op vrijdagmiddag werkt, who cares. Maar dit is hoog niveau.
iemand die het zo druk heeft kan niet elke woord wikken en wegen, open ai is hier wel degelijk aan het cherry pikken, en yup is multi interpretable en niet heel veel zeggend
Iemand die het zo druk heeft moet juist elk woord wikken en wegen. De man heeft miljarden, dat doet hij niet door achteloos 'Yup' in een mail te tikken. Hij weet donders goed dat, zeker voor zijn overname van Twitter, hij door een enkel woord op Twitter te posten, hij in staat is/was om koersen te beïnvloeden.
ik denk dat als je elk woord wikt en weegt je nooit miljarden gaat krijgen, ondernemen is risico nemen
Die persoon krijgt er ook naar betaald om ieder woord te wikken en te wegen, juist vanwege deze verantwoordelijkheden.
Space Karen is nooit geschikt geweest als CEO, maar dat weerhoudt hem er niet van om toch CEO te spelen; derhalve zal hij ook de lasten moeten dragen als zijn laksheid hem een keer terugbijt.

Dat gezegd hebbende is Yup natuurlijk wel zo summier en als antwoord op een mail die ook andere onderwerpen aansnijdt zal dit hoogstens als onderdeel van de bewijsvoering gebruikt kunnen worden om een ander punt aan te sterken. Als dit de "main defense" is van OpenAI dan vrees ik dat ze geen gelijk krijgen.
Maar er hebben het hier over 2016 en het is nu 2024. Standpunten veranderen, met name over open source. Blijkt toch uiteindelijk wel de motor te zijn achter veel innovatie.
Alleen zal Musk het nu waarschijnlijk nodig hebben, dus spreekt hij zichzelf tegen. :-)
Niet alle e-mails zijn belangrijke beslissingen. Het is ook mogelijk dat Elon over de laatste 10 jaar zijn gedacht veranderd heeft, dus een brief waar het zelfs niet duidelijk is als hij akkoord is aan de context kan weinig zeggen.

Als iemand zegt ik wil zo-en-zo aankopen, en jij antwoord met “ja, maar …” dan kun je niet zeggen dat je toegestemd hebt, de ‘maar’ houdt in dat iemand voorwaardelijk akkoord is. En het is niet alsof dat als jij denkt dat je aan die voorwaarden voldoen hebt dat de andere partij daar ook mee akkoord is.
Als iemand zegt ik wil zo-en-zo aankopen, en jij antwoord met “ja, maar …” dan kun je niet zeggen dat je toegestemd hebt
Uiteraard, maar... in deze e-mail staat geen 'maar'.

Het zou heel goed kunnen zijn dat achteraf de discussie verder nog is gevoerd per e-mail. Daar hebben we geen inzicht op. Ik ga uit van de openbare bron die we hebben. Mocht jij andere hebben, dan hoor ik dat graag.

Tot die tijd blijf ik bij het standpunt. Met de kanttekening dat de rechtszaak nog moet beginnen.
Je hebt maar één kant gehoord, en die kant is nu ook niet echt te vertrouwen. We weten zelf toen OpenAI eerst op het toneel verschijnen ze zelf zeggen dat het een non-profit is en ‘open source’ AI ging zijn, daarom de naam “Open” AI. Dit gedacht hebben ze twee jaar geleden verlaten met GPT3 en een samenwerking met Microsoft maar GPT1/2 was gewoon beschikbaar en downloadbaar en werd aangeboden aan wetenschappers, met duidelijke aanmerkingen dat ze open en non-profit zullen blijven. En dat is ook een van de redenen van de hele Sam Altman affaire, een deel van het bedrijf wou open source blijven, een deel wou profijt maken en blijkbaar hebben bepaalde mensen genoeg geld gekregen van Microsoft om hun gedacht te veranderen.

Dus als OpenAI nu zegt dat ze al 8 jaar geleden geen zin hadden om open source te zijn, dat was dan wel een vervalsing van zowel hun marketingmateriaal alsook wat er toen naar investeerders toe gezegd was en dat zal de marktregulators ook wel eens onder de loep nemen. Mensen zoals Elon en anderen hebben geïnvesteerd blijkbaar omdat het open en non-profit ging zijn.

[Reactie gewijzigd door Guru Evi op 22 juli 2024 23:11]

Zelfs als je zoveel ruimte neemt om het op die manier te interpreteren. Zwijgen is toestemmen in dit geval.

Maar ik vind beide partijen nu niet bij uitstek de meest betrouwbare entiteiten. Ze maken beide mooi spul, maar ik zou NOOIT beide op hun woord vertrouwen.
Het gaat er om hoe het juridisch te interpreteren is. Niet hoe betrouwbaar beide partijen zijn. (Musk is voor mij onbetrouwbaar geworden sinds zijn fittie mbt Thailand.)
op stel je dus dat je het eens bent met alle spam in je mailbox want zwijgen is instemmen
en ik denk niet dat Musk wakker ligt van op jij hem vertrouwd, er zijn genoeg mensen die een tesla kopen blijkbaar, en onze overheid batterijen door het hele land...
Zo werkt de wet niet. En hier is ook niet gezwegen. Er is wel zoiets als stilzwijgend verlengen. Bij spam is echter geen sprake van een contract maar equivalent aan random nummers bellen.
Ik wist niet dat er wel een wet van Yup was. Is dat vergelijkbaar met de ridders die Ni zeggen?
Volgens 'Oxford Languages' is het een niet standaard spelling van yes, dus er is 'ja' op gezegd. Hoe dat geïnterpreteerd moet worden zal aan de rechter/jury liggen gok ik zo....
Oh, ik interpreteer 'yup' als een knikje in een dialoog, waarin je de ander ruimte geeft om verder te praten.

Dus meer een bevestiging dat je luistert, in plaats van een bevestiging of je het eens of oneens bent met de inhoud.
Oh, ik interpreteer 'yup' als een knikje in een dialoog, waarin je de ander ruimte geeft om verder te praten.

Dus meer een bevestiging dat je luistert, in plaats van een bevestiging of je het eens of oneens bent met de inhoud.
Als jij een mail ontvangt stuur je gewoon "yup" terug om te bevestigen dat de zender je nog een mail mag sturen en je bent dan volledig in de veronderstelling dat die persoon dat niet gaat opvatten als "er wordt akkoord gegaan met de inhoud van de mail"?
Misschien is dat zo in een face-to-face gesprek, maar via email is dat echt niet nodig, en kan je een reactie als "yup", "yep", "yes" of soortgelijk zien als instemming. Een email als "we moeten die en die ontslaan want x, y en z" en je reageert met "yup", dan is dat niet "ik luister maar ben het er niet mee eens".

En ook zonder deze mails was het ook wel duidelijk dat Musk deze stappen zet met andere motieven. Hij doet dat niet als goedheid voor de mensheid, maar als goedheid voor zijn eigen belangen. Ik zie Musk ook niet zijn eigen AI systemen compleet open source maken. Hij zal daar vast genoeg excuses voor weten te verzinnen om dat niet te hoeven doen.
Musk heeft natuurlijk honderden mails, Ik zelf zou een yup interpreteren als, ik heb het gelezen en wat je zegt klinkt als aannemelijk. Maar als hij een uur later iemand anders gesproken heeft kan hij ook van mening veranderen. Een "yup" is dus wat anders als, ik heb mij verdiept in het onderwerp, ik heb alle stakeholders die ik wilde spreken gesproken, ik heb mij door experts laten adviseren en dit is mijn visie.

Als je Musk visie wilt weten, kijk dan naar bv zijn Master plans voor Tesla, maar niet naar een "Yup"

[Reactie gewijzigd door The_Woesh op 22 juli 2024 23:11]

Ah ja. Kijk vooral naar wat hij wel goed aangekocht heeft maar vooral niet naar de overige zaken waar hij een rommeltje van gemaakt heeft. Hij is, zoals meerdere hier al zeggen, pissed omdat zij het beter doen dan hij met AI. Laatste acties van hemzelf zij redelijk kansloos dus probeert hij nu net te doen alsof hij het beste met de wereld voor heeft. Hij denkt alleen maar aan zichzelf en zijn gekrenkte ego.
De drijfveren van Musk op dit moment staan totaal los van het interpreteren van een 'yup' reactie jaren geleden.

Als je die vermengt kun je elke kant op redeneren en wordt de bewijslast zo zacht als boter.
Het gaat er om dat Musk hypocriet bezig is. Toen hij nog belang had in OpenAI vond hij het prima om het dus (gedeeltelijk) closed-source te maken. Nu hij er zelf baat bij heeft het open-source te maken, moet dat ineens van hem gebeuren op laste van een rechtszaak.

Dus die "yup" staat er niet totaal los van, het laat zien dat Musk hypocriet bezig is, en er andere belangen spelen dan wat hij publiekelijk zegt.
Musk vist achter het net nu MS tientallen miljarden investeert en kan blijven investeren terwijl Musk op papier heel rijk is, niet mee kan in die investering stonden. Hij had gehoopt er vroeg bij te zijn en daarmee Tesla van kennis had kunnen voorzien waar Tesla zelf al jaren geen vooruitgang weet te boeken, sterker nog de concurrentie is zelfs Tesla ruim voorbij. Voor een bedrijf dat zichzelf als een tech bedrijf verkoopt lopen ze gewoon achter en de enigste weg uit, openai, is nu voor zijn neus weggesnaait. Dit heeft voor Tesla grote gevolgen op termijn en daarmee voor musk zelf ook die zijn miljarden ziet verdampen nu de wereld langzaamaan Tesla meer realistisch begint te waarderen. Slechte investeringen zoals Twitter helpen daar zeker niet bij mee.
Ach, ik denk, maak je niet druk of die man zich X of Y gedraagt. Dit is tussen hem en OpenAI, beide geld zat om elkaar een bakkie koffie aan te bieden en met elkaar in gesprek te gaan.

[Reactie gewijzigd door djwice op 22 juli 2024 23:11]

Het onderwerp van de discussie ging niet over wel of niet Musk geloven.

Ik weet niet waarom je dat er bij sleept.

Wat ik.van het standpunt van Musk vind kan je bij een ander artikel lezen.

Het verbaast me in dit geval wel dat OpenAI deze informatie publiek naar buiten brengt. - buiten de rechtbank om - In de EU lijkt mij zo iets niet mogen i.v.m. de AVG.

Maar goed. Ik was Musk niet aan het verdedigen. Ik probeerde alleen een ander mogelijk perspectief te geven.

[Reactie gewijzigd door djwice op 22 juli 2024 23:11]

In spreektaal misschien. Binnen bedrijfsvoering of slowchat zoals email wil je duidelijkheid. Op hoog niveau des te meer.
Dit is ook spreektaal. En aangezien Musk dyslectisch is, is bondig of juist heel uitvoerig een logische communicatie stijl, er tussen in niet echt.

En wie zegt dat deze e-mail niet vluchtig is gescand op een telefoon en met duimen is beantwoord, na het lezen van de eerste stelling/vraag?

Hoe "hoger in de boom" hoe minder onderwerpen je per e-mail wil. Eén vraag, één onderwerp, dat al af te leiden iss uit de subject, anders heeft de ontvanger kans dat een deel ongezien blijft. Je scant op wat er van je wordt verwacht, geen actie, continue. Niet nu van belang i.v.m. andere prioriteiten, kan later ook, skip, let it go.

[Reactie gewijzigd door djwice op 22 juli 2024 23:11]

Dyslexie wat een slecht excuus. Dat is zijn probleem. Dan huurt hij maar een secretaresse in.

Vluchtig scannen kan allemaal wel zo zijn dat is het probleem van de zender, niet de ontvanger. Bovendien kun je ook dat communiceren.

Wat betreft je laatste punt en daarom moet je goed quoten of duidelijk schrijven.
De zender was hier toch openAI? Die na jaren de reactie van 3 letters van een oud-bestuurslid heel breed interpreteert.

Een secretaresse maakt van jup ook niet veel meer. En zal hooguit inkomende email kunnen gaan herschrijven en dat voorlezen. Maar dat zie je niet vaak gebeuren in de praktijk.

Waarom ben je van mening dat als iemand een persoon met dyslexie inhuurt vanwege diens sterktes, dat hij zijn werk zo moet aanpassen dat zijn zwaktes (die samen hangen met de sterktes) worden onderdrukt? Dat werkt toch niet? Of verwacht je dat mensen in een rolstoel ook zelf regelen dat ze toch trap kunnen lopen of iemand inhuren die ze de trap op draagt?
De zender is degene die een e-mail schrijft en verstuurt. De lezer is degene die de e-mail ontvangt en leest. Iemand die een e-mail schrijft als reactie op een e-mail is eerst een lezer, en daarna een schrijver. Een ieder is juridisch verantwoordelijk voor hetgeen hij of zij leest en[ schrijft. Niet het een of het ander.

Als iemand met een ernstige handicap mee wil draaien in de maatschappij dan zal diegene daar hulp bij moeten krijgen. Dat lukt niet altijd, de middelen zijn niet altijd financieel haalbaar bijvoorbeeld, of ze bestaan niet (mijn vader had een ernstige handicap; ik heb het van dichtbij mee mogen maken). Echter iemand als Musk kan een secretaresse kinderlijk eenvoudig betalen. Dus dan vind ik tja ik ben dyxlescties wel een zwak excuus, ja.

Een kundige secretaresse of anderzijds moderator kan stellen dat het antwoord 'yup' te vaag is. Dat had trouwens de lezer ook kunnen doen. Maar dat laat onverlet dat de schrijver in beginsel verantwoordelijk is, en als een uitspraak redelijkerwijs interpretabel is in het voordeel van de lezer dan heb je het juridisch niet goed gekaderd. Eigen schuld.
Ik las/interpreteerde jouw vorige reactie dus andersom. Dat de uitgebreide e-mail van OpenAI anders geschreven had moeten worden, om een duidelijke inhoudelijke reactie te kunnen krijgen.

In de zin
Vluchtig scannen kan allemaal wel zo zijn dat is het probleem van de zender, niet de ontvanger

[Reactie gewijzigd door djwice op 22 juli 2024 23:11]

Klopt ik had het onduidelijk verwoord.

Geestig genoeg de manier waarop wij hier communiceren (zonder elkaar te quoten) was vloeken in de kerk op Usenet. Dat was echt not done. Ook inaccuraat quoten of de quote onder de reactie zetten zorgde voor gefronste wenkbrauwen.

Dus als iemand wil beargumenteren dat OpenAI niet helder communiceerde waardoor Musk niet goed de conversatie voort kon zetten -- be my guest.
Volgens mij is er een relatie met hoe hoog iemand in de boom zit, hoe onduidelijker reacties op langere mails geïnterpreteerd moeten worden. Ze zijn nu eenmaal wat minder van stof. Of de reactie te begrijpen is, is voor hun niet relevant. Zegje is gedaan.

Maar dat merk ik vooral in management lagen qua communicatie naar beneden.

Ik volg dus de beredenering van dutchruler in 'OpenAI: Musk was het eens met closed source en wilde ons samenvoegen met Tesla'

[Reactie gewijzigd door mgizmo op 22 juli 2024 23:11]

De inhoud van het mail gaat over veiligheid en niet over winstbejag.
Ik interpreteer het als "het moet niet open zijn voor iedereen, maar wel voor degene die aangesloten zitten bij het project".

Als investeerders toegang krijgen op basis van hoeveel ze betalen kan ik de klacht van Elon wel begrijpen.
Helaas behoor ik niet tot hoog vermogen, maar recentelijk wel een documentaire over mensen gezien die dat wel zijn. Daarin werd verteld dat de top het altijd vreselijk druk hebben en grotendeels enkel reageren met ja, nee en 👍. Daarnaast een jaartje geleden rechtsdocumenten gelezen met verschillende chat en email gesprekken tussen oud twitter en Musk waarin Musk ook maanden lang alleen antwoorden met ja’s, nee’s, bellen? en 👍👍
Ik zag een YouTube-video over een zaak waar een duim-omhoog-emoji als contractueel bindend werd beoordeeld door een rechter. "Yup" kan een bindende mondelinge afspraak betekenen. Of dat hier ook geldt is maar de vraag, natuurlijk, maar niets is uitgesloten tot de rechter een beslissing heeft gemaakt.
De onderstaande reactie gaat puur over mijn mening over het woord “yup” als reactie op een e-mail. Hieronder ga ik dus niet in op de inhoud van de rechtszaak.

Ik ben het compleet met je eens, op basis van de inhoud van de e-mail zou ik het er ook mee eens zijn.
Belangrijk blijft dat de e-mail eigenlijk neerkomt op “als dit, dan dat”

Maar de “als dit” factor al niet klopt, dan wordt de complete inhoud onderuit gehaald.
Waarbij musk ook nog eens kan aanvoeren dat hij in 2 jaar nog veel meel heeft geleerd over open en closed source, waardoor zijn mening bijgedraaid is. Hij kan dus makkelijk verweren dat hij onvoldoende goed is geïnformeerd hierover.
Na ja, als ie het met een onderdeel uit de mail oneens zou zijn zou hij niet met 'yup' reageren maar dat moeten aankaarten.
Yup als antwoord zegt wel degelijk wat.
Dat is waar. Ik vind wel dat het argument onderhoud haalt van dat het niet zou mogen samenwerken met MS. Er moet ergens geld vandaan komen lijkt me.
En hij heeft publiekelijk gewaarschuwd voor AI. Alles open source gooien lijkt dan inderdaad niet een goed idee.
Musk die liegt wat een verassing.
Niet zo zeer liegen, maar wel super hypocriet.
Irritante is dat hij wel een punt heeft, maar dat het punt is onderbouwd met van alles behalve met "om kunstmatige intelligentie te ontwikkelen voor het welzijn van de mensheid en niet voor winst" te maken heeft.
Volgens mij is het vanuit beide partijen doorgestoken kaart om te misleiden. Ze leggen de focus op het query-algoritme dat "open" zou moeten zijn om wat voor reden dan ook. Ondertussen zijn ze op ongekende schaal vrijwel willekeurig data aan het harvesten om een centrale machtspositie binnen informatie-verstrekking te bereiken. Zowel privacy- als copyrightwetgeving wordt daarbij creatief omzeild.

[Reactie gewijzigd door blorf op 22 juli 2024 23:11]

Dit is pas liegen als Musk stelt dat hij het nooit geclaimed of beweert heeft.

Nu is het gewoon een geval Van Mening Veranderen. Eerst de mening toebedeeld zijn dat OpenAI closed source mag zijn, met een winstbejag, en nu het tegendeel aanhangen, dus wél open source en non-profit.

Het is nogal een 180°, en mogelijk als hypocriet te bestempelen, maar het is géén liegen.
Op het moment dat Musk stelt dat OpenAI contractbreuk pleegt door te vertellen dat zij het Musk anders hebben verteld, dan is dit liegen. Of hij vergeet gewoon veel, maar daar hebben meer mensen last van. En daarvan zeggen we ook dat ze liegen. :)
Elon Musk is gewoon boos dat Microsoft aan het langste eind trekt en niet hij.
Als ik feiten verkeerd interpreteer maakt dat het nog neit meteen leugen. Het is pas liegen als je weet dat iets een feitelijke onjuistheid is en deze toch verkondigd als waarheid.

Musk interpreteert het nodige aan e-mail met Altman als contract. In Amerikaanse rechtspraak is dat op zich erkend als legitiem, je kan afspraken contractueel dus vastleggen in een e-mail keten.

Een Amerikaanse rechter zal zeer waarschijnlijk, op basis van de inhoud van dit specifieke akkefietje, oordelen dat het niet geldig is als contract. Daarmee is het niet meteen een leugen van Musk.
Als jij denkt dat Elon Musk achterlijk is, dan heb je gelijk. Maar Musk weet heel goed dat wat nu gebeurt met Microsoft hij graag had willen doen met Tesla. Daardoor is het geen gewone leugenaar, maar zelfs een hypocriete leugenaar. Die mailtjes is hij echt niet vergeten.
In 7 jaar van mening veranderen, dat is geen liegen. Zeker niet als de hardware en software van toen in de verste verte niet lijken op wat we nu kennen.

In 2016 dacht hij dat gesloten broncode een beter idee was. Nu, zo'n 7 jaar later, met daadwerkelijk bruikbare AI die beelden voor je maakt, teksten schrijft en nu zelfs video's kan genereren, is hij blijkbaar een andere mening toegedaan. Nu denkt hij dat open broncode een beter idee is.

Het is absoluut hypocriet. Toen OpenAI nog mogelijk door Tesla gekocht zou worden was gesloten broncode zeker in het belang van Musk. Maar nu de mening verkondigen dat open broncode beter is? Op andere gedachten komen maakt je eerdere mening geen leugen.
Nee, je hebt gelijk dat van mening veranderen geen leugen is. Het is zelfs te prijzen als je tot andere inzichten komt als de situatie daartoe aanleiding geeft.
Het leugenachtige zit in het ontkennen dat hij vroeger een andere mening had en dat wordt nu gestaafd door de mailtjes.
Hoe kun je nu vol blijven houden dat hij niet liegt. Hij spant een rechtzaak aan omdat OpenAI nu met closed source werkt terwijl Musk beweert dat hem toegezegd zou zijn dat ze dat niet zouden doen. Nu komen er mails naar buiten waarin hij aangeeft het eens te zijn met deze strategie en jij blijft volhouden dat hij niet liegt. Waar haal jij je normen en waarden vandaan, niet te spreken over begrip van taal? Uit de Donald Duck?
In 2016, dus een goede 7 jaar geleden (!!!), dacht hij er overduidelijk anders over dan nu. Toen leek hij achter het idee te staan van AI op basis van gesloten broncode. Hij denkt nu echter dat het beter is om AI broncode openbaar te maken. Mag je niet van mening veranderen? Mag je geen nieuwe inzichten krijgen en daardoor je ideeën aanpassen?

Van mening veranderen, zeker na een paar jaar ontzettend rappe ontwikkeling van AI ten opzichte van 2016, is geen liegen. Voortschrijdend inzicht noemen ze dat.

Is het hypocriet? Ja, volmondig! Is Musk verbitterd en jaloers op Microsoft, gezien de mislukte deal tussen OpenAI en Tesla? Ligt voor de hand. Is het kinderachtig wat hij doet? Behoorlijk! Maar liegen? Dat is het niet.

Pas als Musk claimt altijd voor open broncode geweest te zijn (wat niet het geval is) dan heb je hem op een leugen betrapt.
Waar haal jij je normen en waarden vandaan, niet te spreken over begrip van taal? Uit de Donald Duck?
Kom op zeg. Is dit de manier om je argument kracht bij te zetten? Echt? :X
Hoe is het relevant wat hij nu denkt, als de (vermeende) leugen gaat over wat hij zeven jaar geleden dacht?
Het gaat mij om welk labeltje hij nu opgeplakt krijgt dankzij deze stunt. Van mening veranderen is géén liegen. Dat zijn 180° draai op dit punt wel heel toevallig perfect aansluit op zijn huidige situatie maakt het 100% hypocriet.

Musk zet zichzelf vooral de laatste jaren neer als een klootzak. Pedogate met het drama van dat voetbalteam in die grot. Twitter overnemen en de moderatie er effectief uitslopen. De omstandigheden in de fabrieken van Tesla schijnen behoorlijk triest te zijn. Ik gok dat zijn steun aan de republikeinen en Trump hier ook tegen de spreekwoordelijke haren inwrijft. Musk geeft genoeg redenen om gebashed te worden.

Wat hij probeert met het aanspannen van deze rechtzaak is ronduit schofterig: Musk de huichelaar. Musk de schijnheilige. Musk de hypocriet. (Dat zijn allemaal synoniemen trouwens.) Maar het is geen liegen wat hij doet. Feiten op bepaalde manier interpreteren (een mailwisseling als contract beschouwen, iets wat in Amerika geldig kan zijn!) is nog geen liegen.
Maar hij wordt niet een leugenaar genoemd omdat ie van mening is veranderd over of closed source acceptabel is. Dat is m'n punt: ik denk dat je de premisse van de beschuldiging van liegen mist. Maar dat heeft Aldy al gezegd, dus wat ik verder zou toevoegen is enkel vervuiling. :)
Hij heeft er gewoon geen actieve herinnering van :+
Het gooien op contractbreuk terwijl er geen contracten liggen, vind ik dan wel echt liegen.
Onder Amerikaans recht is een "contract" niet per sé een door beide partijen ondertekend document.
Some legal experts said Musk's allegations of breach of contract, based partly on an email between Musk and Altman, might not hold up in court.

While contracts can be formed through a series of emails, the lawsuit cites an email that appears to look like a proposal and a "one-sided discussion," said Brian Quinn, a law professor at Boston College Law School.

"To the extent Musk is claiming that the single e-mail in Exhibit 2 is the 'contract,' he will fall well short," Quinn said.
Dus het is geen keiharde leugen als Musk het een "breach of contract" noemt. Een rechter zal zeer waarschijnlijk wel oordelen dat het in dit geval geen geldig contract is, maar dat maakt het nog geen leugen.
OpenAI had anders wel publieke beloftes gedaan vroeg in het bedrijf over open blijven en geen winst te maken. Onderzoekers konden gewoon hun modellen downloaden. Dat is niet in private brieven, dat stond hier op Tweakers en Slashdot wel gepubliceerd, maar na het success van GPT3 hebben ze dit allemaal overboord gesmeten en met Microsoft in bed gegaan, nu maken ze grof geld en willen niets openbaren, dus “Open” AI zijn ze al een paar jaar niet meer.

[Reactie gewijzigd door Guru Evi op 22 juli 2024 23:11]

Een businessplan waar Musk het grondig mee eens was aldus alle gepubliceerde mails.
Als dit waar is (en we horen nu maar van 1 kant), dan zal dit wel een probleem zijn dat Musk en anderen bij de SEC kunnen aankaarten. Je kunt investeerders niet zomaar misleiden, als ze 10 jaar geleden al wisten en intern overlegd om OpenAI gesloten te houden, dan is dat een zwaar probleem voor OpenAI adhv wat publiek gezegd is.
Openai heeft een blog post gemaakt en meerdere mails vrijgegeven die Musk heeft geschreven.
Laten we even heel duidelijk zijn in het feit dat hij absoluut niet van mening is veranderd. Als dat zo was zou hij het met zijn andere bedrijven wel hebben gedaan. We hebben het hier over de man die zat te roepen dat de wereld alle ontwikkeling van AI moest stil leggen terwijl hij zelf wel gewoon vrolijk door mag doen.

Nee, hij is gewoon kwaad omdat hij hoopte te kunnen forceren dat ze OpenAI zouden overhandigen aan hem en dreigde weg te lopen als ze dat niet deden, terwijl hij liep te roepen dat OpenAI zonder hem nooit een kans zou maken.

[Reactie gewijzigd door Loller1 op 22 juli 2024 23:11]

Het lijkt wel een freudiaanse verspreking: verassing (het verbranden van een lijk tot as) ipv verrassing. Misschien een stille wens richting Musk :) ?
"Als het eenvoudiger is om een onveilige AI te maken dan een veilige AI, dan maken we het voor mensen met slechte bedoelingen en toegang tot veel hardware makkelijk om een onveilige AI te maken als we alles opensource maken"
Dat is toch gewoon security through obscurity.
Nee want voor security hoef je maar een kwetsbaarheid te vinden om iets te kunnen doen.

Hier moet je dan zelf eventjes een enorm complex en kostelijk project parrallel op poten zetten.
Dat is toch gewoon security through obscurity.
Wellicht. Zoals de kennis om een atoombom te maken ook security trough obscurity is; ik zou graag een andere manier hebben om te voorkomen dat `schurkenstaten` een atoombom kunnen maken, maar bij gebrek aan die methodes houdt ik het graag geheim.

Je kunt dit niet zomaar vergelijken met bijvoorbeeld cryptografie, waar de veiligheid ligt in het geheim houden van de sleutel; in dit geval is de source code de sleutel.
De enige manier om misbruik van een technologie te voorkomen, is de technologie in beginsel al niet in het leven te roepen.
Interne documenten openbaren in plaats van inzetten in de rechtbank lijkt mij vooral een manier om de publieke opinie te beïnvloeden zodat zelfs als je de zaak verliest, je in de ogen van de mensen toch gelijk hebt. Meestal doen partijen dit alleen als ze inschatten een zaak te zullen verliezen.

Bovenstaande staat wat mij betreft los van of er überhaupt een rechter is die een uitspraak kan doen over dit geschil, want volgens mij mag het bestuur van een organisatie op elk moment dat ze willen eerder gemaakte afspraken of beslissingen aanpassen (mits wordt voldaan aan de eisen die de statuten op dat moment stellen).
Standaard zijn bewijsstukken in rechtzaken openbaar, iedereen kan namelijk een rechtzaak bijwonen. Tenzij deze achter gesloten deuren plaats vind natuurlijk of andere zwaarwegende redenen zijn om dingen geheim te houden.
Oh dat snap ik, maar als je bewijsstukken al op je eigen site publiceert voordat je ze bij de rechter aan hebt geboden dan doe je dat niet om de rechter te overtuigen, maar het publiek.
Dus het is wat tegenwerk ten opzichte van Musk.

Hij heeft heel veel volgers die hem geloven op zijn woord.

Hij is bovendien erg luidruchtig op twitter. En veel hiervan wordt overgenomen door een deel van de pers.
Dat hoort ook bij 'het publiek overtuigen'.
Je beschuldigt OpenAI van iets wat Musk constant doet, beinvloeden van publieke opinie. Of beide zijn fout of voor beide is het geen probleem.
Ik heb het niet over het verspreiden of weerleggen van beschuldigingen, maar het integraal publiceren van bewijsstukken (die overigens niet eens dienen om de beschuldiging te weerleggen, maar om te laten zien dat de persoon die ze uit hier in het verleden zelf anders over dacht).

Het maakt nu niet eens meer uit wie die rechtszaak wint, want tot die tijd kan iedereen lezen dat Musk een zure verliezer is. De andere reden dat ik dit niet chique vind is dat er maar een paar emails zijn vrijgegeven in plaats van integraal alle emails en communicatie tussen Musk en OpenAI. Er is niet eens vast te stellen of de mails wel authentiek zijn (al gok ik van wel, maar toch).

Kortaf; je kunt wat mij betreft best zeggen dat je iets van iemand vindt, maar zodra hier al een rechtszaak over speelt daar buitenom gaan om nu alvast je gelijk te halen in plaats van de rechter haar werk te laten doen ruikt een beetje apart.
Ik lees hier vooral: Musk wil OpenAI inzetten om zijn andere bedrijf (Tesla) te bevoordelen en de technologie weg te houden bij mogelijke concurrentie.

En daarna: Musk kreeg zijn zin niet, dus gooide hij een temper tantrum.

En daarna: Musk kon toch zelf geen OpenAI alternatief ontwikkelen binnen tesla en wil nu de sourcecode van OpenAI hebben en doet daarom een frauduleuze aanklacht om publiciteit te creëren.
Dat is een beetje kort door de bocht.

Het probleem ontstond vanuit OpenAI zelf, waar alle betrokkenen het over eens waren: er was niet genoeg financiering binnen handbereik om koploper Google in te kunnen halen.

Één van de mogelijke manieren dit op te lossen is een samenwerking tussen OpenAI en een bedrijf dat pre-AGI technologie van OpenAI gebruikt voor een heel lucratief verdienmodel, waar OpenAI dan haar giga-financiering aan ontleent. Dit had autonomiesoftware/Full Self-Driving ('FSD') voor Tesla kunnen worden. (Uiteindelijk hebben ze een betaalde chatbot op de markt gebracht; en tech aan Microsoft gegeven).

De precieze manier waarop dit bedrijfstechnisch georganiseerd zou worden is mij niet duidelijk uit deze blog en emails - alhoewel juist dat erg belangrijk is om hierover te oordelen, én cruciaal om dat idee (waar Musk wél voor te porren was) te kunnen vergelijken met de soort samenwerking die OpenAI uiteindelijk is aangegaan met Microsoft (een “for-profit” onder het “non-profit” OpenAI moederbedrijf hangen; waar Microsoft niet alleen een licentie heeft voor gebruik, maar als enige partij volledige toegang heeft tot alles onder de motorkap - dit baseer ik op uitspraken van Microsoft zelf, zie paragraaf 32/p.9 uit Elon Musk's aanklacht). The devil is in the details.

Elon Musk is toen opgestapt bij OpenAI en heeft met Tesla:
  • Een eigen neural net inference computer ontwikkelt (FSD computer 3/HW 3 e.v.) die sinds 2019 in elke Tesla zit ingebouwd en met internet verbonden is. Zie de oorspronkelijke presentatie.
  • Real-world AI ontwikkelt (een soort mix tussen GPT-4 en videogeneratiemodule Sora) waar ze vorig jaar al een demo van hebben laten zien, en wat is toegepast in autonomiepakket FSD versie 12, die zojuist uitgerold begint te worden en waar testers lyrisch over zijn (zie wat eerste voorbeelden afgelopen week in dit kanaal).
  • En, misschien wel het belangrijkste, een eigen supercomputer ontwikkelt (Dojo) op basis van een eigen chip (D1) geoptimaliseerd voor het trainen van zo’n real-world AI systeem. Zie Tesla's AI-Day presentaties over de Dojo supercomputer in deel 1 in 2021 en deel 2 in 2022)
Ik volg dit al vele jaren, en alhoewel Elon Musk vaak te bizar voor woorden optimistische tijdlijnen schetst, ben ik er op dit moment (sinds het zien van FSD v12) van overtuigd dat Tesla nog vóór het eind van dit jaar zelfrijdende auto’s op niveau L3+ (di Tesla neemt aansprakelijkheid op zich) op de weg kan hebben, op basis van real-world AGI (zie twee verdere analyses hier: deel 1 en deel 2) . Áls dat zo is, dan gaat alle opbrengst daarvan nu naar de kas van Tesla, in plaats van wat mogelijk ook had kunnen gebeuren: grotendeels naar OpenAI.

Anyway, the proof is in the pudding natuurlijk, maar als dit waar blijkt, dan is het Elon Musk met Tesla wel degelijk gelukt een competitieve AI te ontwikkelen, niet alleen qua software, maar misschien nog wel het belangrijkste (want grootste bottleneck mbt AGI) qua hardware! Sterker nog: OpenAI hééft geen eigen hardware programma, althans niet voor zover wij publiekelijk weten.

En als volgende stap is de software en hardware ook te kopiëren naar de Tesla Optimus bot. Ook dat kan zeer lucratief worden.

[Reactie gewijzigd door Gulpen op 22 juli 2024 23:11]

Ik volg dit al vele jaren, en alhoewel Elon Musk vaak te bizar voor woorden optimistische tijdlijnen schetst, ben ik er op dit moment (sinds het zien van FSD v12) van overtuigd dat Tesla nog vóór het eind van dit jaar zelfrijdende auto’s op niveau L3+ (di Tesla neemt aansprakelijkheid op zich) op de weg kan hebben
Dan zul je ook hebben gemerkt dat Tesla elk jaar de bewering doet dat ze echt dit jaar FSD hebben. Die belofte doen ze elk jaar, zeker sinds 2014. Jij geeft aan dat het dit jaar echt gaat lukken, waarom ben je hier zo zeker van?

Daarnaast, Tesla heeft er een handje van om FSD een microseconde voor een ongeluk uit te schakelen. om vervoglens te claimen dat het een bestuurdersfout is en geen FSD. Ik kan mij niet voorstellen dat Tesla de verantwoordelijkheid zal nemen voor zo'n brak product, daar gaan ze zeker op failliet!

[Reactie gewijzigd door wimschim op 22 juli 2024 23:11]

Dan zul je ook hebben gemerkt dat Tesla elk jaar de bewering doet dat ze echt dit jaar FSD hebben
Ik niet. (Sterker nog - ik heb het even teruggezocht - februari 2023 heb ik voorspeld dat het nog twee jaar zou duren... Ik ben aardig consistent!)
Jij geeft aan dat het dit jaar echt gaat lukken, waarom ben je hier zo zeker van?
In de FSD-versies t/m v11 werkte de planning van de ego (hoe de auto rijdt) met door mensen geschreven code. Er waren hiervoor ca. 330.000 regels code. Maar FSD v12 werkt met een geheel nieuwe architectuur, namelijk volledig met 'neural nets' (zie in mijn post geciteerde filmpje van een jaar terug met uitleg). Hiermee is in één klap ca. 300.000 van de code geschrapt en vervangen door neural nets (net zoals GPT werkt). Het trainen gaat daarom vanaf nu door het laten zien van videobeelden van hoe goede chauffeurs rijden in allerlei situaties, en de neural nets daarop trainen. Het trainen zelf wordt dan ineens de bottleneck in plaats van het schrijven van code. Dat wil zeggen: het wordt ineens een hardware-gelimiteerd probleem (hoeveel GPUs heb je) dat daarmee heel makkelijk 10x, 100x of 1000x op te schalen is in kwantiteit - en dientengevolge kwaliteit. Dit werkt net zoals ChatGPT ineens vanaf een bepaalde omvang data en hoeveelheid neural nets wél super intelligent wordt; dat heb ik voor mijn ogen zien gebeuren met FSD v12 (alle beta testers beamen dit; je kan dit horen in de filmpjes die ik deelde), en het hele programma laat nu een totaal andere progressie zien dan voorheen. Dit is onder andere te zien aan dat FSD v12 bijna alle grote problemen oplost waar FSD al sinds het begin last van had.
Daarnaast, Tesla heeft er een handje van om FSD een microseconde voor een ongeluk uit te schakelen
Ik citeer uit je eigen bron:
  • "The finding is raising more questions than answers, but don't jump to any conclusions yet"
  • "Tin-foil-hat types are already claiming this indicates Tesla knowingly programs its Autopilot system to deactivate ahead of an impending, unavoidable impact so that data would show the driver was in control at the time of the crash, not Autopilot. So far, NHTSA's investigation hasn't uncovered (or publicized) any evidence that the Autopilot deactivations are nefarious"
  • "So, where does that leave the mysterious half-second-or-so Autopilot shutoff just before these crashes? In all likelihood, it's probably a simple protocol to shut off the system because a crash is about to occur. Plenty of new cars feature last-ditch shutoffs and other preemptive actions that occur just before or during impact"

[Reactie gewijzigd door Gulpen op 22 juli 2024 23:11]

Musk en dubbele standaarden, het verbaast allemaal niets. Als het van Musk is of in zijn straatje past, dan mag het allemaal. Als het Musk in de weg zit, dan moet het kapot.
De email waarop Musk met "yup" reageerde
The article is concerned with a hard takeoff scenario: if a hard takeoff occurs, and a safe AI is harder to build than an unsafe one, then by opensorucing everything, we make it easy for someone unscrupulous with access to overwhelming amount of hardware to build an unsafe AI, which will experience a hard takeoff.

As we get closer to building AI, it will make sense to start being less open. The Open in openAI means that everyone should benefit from the fruits of AI after its built, but it's totally OK to not share the science (even though sharing everything is definitely the right strategy in the short and possibly medium term for recruitment purposes).
Het gaat er niet direct om of openAI wel of niet 'open' is maar of het gekozen pad door openAI ten goede van de mensheid is en daar controle op kan houden bij een 'hard take-off'

Nu kun je beargumenteren dat het niet uitmaakt of Microsoft of Tesla profiteert van OpenAI en de rechtzaak hypocriet is van Musk

Maar... ik snap het ergens wel.
Er zit wel een verschli in tussen kennis en technologie delen met verwante bedrijven waar je deeleigenaar van bent en hoge mate controle hebt op de bedrijfsvoering en alles doorverkopen aan de hoogste bieder.

Of microsoft de redder of de boeman is natuurlijk verder optiek en de rechtzaak zelf gaat over de overeenkomst die afgesproken is met Musk bij het ophalen van de financiering.

Begrijpelijk van beide kanten natuurlijk want OpenAI heeft gewoon een geldschieter nodig.

[Reactie gewijzigd door lmartinl op 22 juli 2024 23:11]

Het komt er dus gewoon op neer dat Musk wou dat ze OpenAI aan hem overhandigden, hij de geldkraan van zijn eigen bedrijf vervolgens dicht draaide omdat de rest het niet met hem eens was waarna zij dat gat moesten vullen, vervolgens roepend en tierend verkondigde dat OpenAI zonder hem nooit een kans zou maken, maar nu overduidelijk is dat hij is weggelopen van een gigantisch succesverhaal dat hij nu alles wilt doen om het kapot te maken (want dit is niet de eerste keer dat hij oproepen maakt (naar anderen) om OpenAI tegen te houden).

Vreemd, ik dacht dat Grok de betere AI was?

Met andere woorden; zijn ego staat hem weer eens in de weg.
In de aanklacht hekelt Musk ook de innige samenwerking tussen OpenAI en Microsoft, omdat OpenAI hiermee 'de oorspronkelijke missie, om kunstmatige intelligentie te ontwikkelen voor het welzijn van de mensheid en niet voor winst, in gevaar heeft gebracht'
Lekker hypocriet. Hij zou zijn eigen kinderen nog verkopen als het genoeg oplevert. Helemaal nu hij weer terug gezet is op nummer 2 van de rijkste man ter wereld.
Elon heeft een idee, maar zijn ideeen komen meestal neer op "Ik word jullie baas, en dan luisteren jullie allemaal naar mij...uhm, voor de mensheid! Yup."
Men wil dat vaak niet, want Elon heeft een verleden vol blufpoker en megalomane plannen zonder goede basis.
Elon hoort niet graag nee, dan wordt hij boos en gaat hij rare dingen doen; hij noemt je een pedofiel, komt terug op z'n woord, koopt je hele toko met financiering van nog megalomanere mensen.
En dan krijg je dus de OpenAI situatie, iemand verbeterd zijn idee, en Elon is boos en gooit met grof geld richting een rechtzaak die niet te winnen is voor hem.

Op dit item kan niet meer gereageerd worden.