Vicepresident onderzoek en beveiliging OpenAI neemt ontslag

Lilian Weng, de vicepresident van de afdeling onderzoek en beveiliging bij OpenAI, heeft ontslag genomen. Weng was sinds 2018 aan de slag bij het Amerikaanse AI-onderzoeksbedrijf en wil naar eigen zeggen een nieuwe weg inslaan. Haar laatste dag is op 15 november van dit jaar.

Weng heeft het nieuws op X bekendgemaakt. Ze vertelt dat haar carrière bij OpenAI op de robotica-afdeling is begonnen, waar ze samen met collega’s een robothand heeft aangeleerd om een Rubiks kubus op te lossen. Dat project nam twee jaar tijd in beslag. Weng heeft daarna een team opgericht dat zich met toegepast onderzoek bezighield.

Na de introductie van GPT-4 werd ze naar verluidt gevraagd om de beveiligingsafdeling van OpenAI te helpen vormgeven en leiden. Dat team zou nu 80 werknemers bevatten en is verantwoordelijk voor de volledige safety stack van de producten van OpenAI. Ze vermeldt GPT-4, de Turbo-varianten, AI-beeldgeneratoren, de GPT Store, de spraakfunctionaliteit van de AI-tools en het o1-taalmodel dat in september van dit jaar werd aangekondigd.

Weng is niet de eerste hooggeplaatste medewerker die OpenAI dit jaar verlaat. Ilya Sutskever, medeoprichter en voormalig chief scientist bij OpenAI, besloot in mei van dit jaar om te vertrekken. John Schulman, een van de medeoprichters van het bedrijf, heeft OpenAI in augustus verlaten om bij concurrent Anthropic te gaan werken. Mira Murati, de voormalige cto en tijdelijke ceo van OpenAI, stapte in september op. Chief research officer Bob McGrew en vicepresident posttraining Barret Zoph kondigden op hetzelfde moment ook hun ontslag aan. Tweakers schreef een achtergrondartikel over OpenAI waarin de opkomst van het Amerikaanse AI-onderzoeksbedrijf wordt besproken.

After working at OpenAI for almost 7 years, I decide to leave. I learned so much and now I'm ready for a reset and something new.

Here is the note I just shared with the team. 🩵 pic.twitter.com/2j9K3oBhPC

— Lilian Weng (@lilianweng) November 8, 2024

Reacties (18)

[Roel1966]

Misschien hebben ze te goed werk geleverd en is hun baan nu vervangen door AI

[dasiro]

blijkbaar trekken ze allemaal een voor een hun handen af van OpenAI om terug iets te doen rondom de originele doelstellingen en niet zozeer winst waar het sinds de omvorming om te doen is. Spijtig dat het allemaal bij verschillende (zelf opgerichte) bedrijven is, want deze groep heeft voor een groot deel mee de opgang van OpenAI bezorgd.

[Gwaihir]

Conclusie gebaseerd op?

Dat specifieke aspect zal vast meespelen voor sommigen, maar in het algemeen zie je vaak een verschuiving van mensen wanneer (een deel van) een bedrijf een nieuwe fase in gaat. Zoiets vormt al snel een logisch moment om het stokje door te geven, wanneer je eenmaal met die gedachte speelt. 'Avontuurlijke oprichterstypes' beleven simpelweg geen lol aan het institutionaliseren van hun kindje. Tegen die tijd proberen ze vaak liever weer wat nieuws.

[supe]

En waar baseer jij jouw conclusie op?
Als je een beetje op hebt gelet de afgelopen jaren dan had je denk ik geen vraagtekens gezet bij de opmerking van Dasiro.
Het is algemeen bekend dat in de afgelopen 5 jaar de roadmap van OpenAI gigantisch veranderd is, met natuurlijk als kers op de taart het besluit om closed source te gaan (OpenAI is nu dus eigenlijk ClosedAI) en de verschuiving in strategie naar $$$ farmen.

Dat kun je institutionaliseren noemen, als je dat wilt, maar het is eigenlijk gewoon graaierig gedrag.

[WillySis]

In dit geval niet.

Lilian Weng is gezien haar blog geen echte leidinggevende en de beveiliging ligt ook niet helemaal in haar interessegebied. Ze is liever zelf aan het ontwikkelen. Als je haar achtergrond ziet ligt haar hart veel meer bij de hardwarematige robots en de kunstmatige leeromgeving daarvan.

Dat het bij OpenAI rommelt klopt wel. De omvorming van een non-profit organisatie naar een commercieel bedrijf is niet iets waar iedereen even gelukkig mee is.

[dasiro]

in welk opzicht komt dat niet overeen? Ze schrijft het zelf:

I was asked to take on a new challenge, reconsidering the vision for OpenAI's safety systems... It has been one of the most difficult, stressful and exciting things I have done.
...
I feel ready to reset

Er worden haar dingen gevraagd waar ze het moeilijk mee heeft, stress opleveren en ze wil terug opnieuw beginnen. De druk van externe partijen en investeerders zorgen ervoor dat het bedrijf de oorspronkelijke werknemers boven het hoofd is gegroeid en het feit dat Altman is terug kunnen komen bewijst dat hij er vrede mee heeft genomen om die originele groep mensen op te offeren in ruil voor een grote zak geld.

[WillySis]

Je schrijft in andere woorden eigenlijk precies wat ik aangaf. Lilian Weng is meer een ontwikkelaar dan een leidinggevende. Als leidinggeven (in een vakgebied waar je hart niet ligt) geeft dat stress. Vandaar dat het me niet verwondert dat ze haar functie opzegt.

[dasiro]

dat was mijn punt ook: beide komen overeen zij het op een ander niveau: enerzijds functioneel anderzijds inhoudelijk.

[colossos]

Moet de kop niet zijn "Vicepresident Onderzoek en Beveiliging OpenAI neemt ontslag"?

[Lamith]

Mogelijk wel, maar daarvoor moet je al jarenlang naar het forum gaan ipv een reactie onder het bericht.
forum: Geachte redactie

[DrPoncho]

Dat is al jarenlang veel te omslachtig.

[Gwaihir]

Dat was ik met je eens. Maar sinds kort zet de 'feedback' knop bij het artikel keurig een topicstart voor je klaar. Je hoeft alleen nog maar je daadwerkelijke feedback toe te voegen .

[SherlockHolmes]

Je hebt -1, maar ik ben het wel met je eens.

[supe]

Omdat die discussie hier niet thuishoort. Heel simpel.

-1 hoeft nou ook weer niet maar jullie horen beide op een nette '0' te staan (net als ik met dit bericht overigens).

[Lamith]

Dat ben ik met je eens hoor, maar ze gaan er niets mee doen als je onder het artikel een comment achterlaat .

[Dark Angel 58]

Inderdaad, maar het gaf ook een suggestie dat een auteur de reacties niet leest

[Frame164]

Ja.

[ddt15]

Vraag het eens aan ChatGPT.