OpenAI reorganiseert het modelgedragsteam, dat verantwoordelijk is voor hoe ChatGPT communiceert met mensen. Volgens TechCrunch sluiten veertien onderzoekers zich aan bij het posttrainingteam, dat de modellen van OpenAI verbetert na de pretraining.
TechCrunch schrijft dat chief research officer Mark Chen in een interne memo heeft aangekondigd dat de veertien onderzoekers van het modelgedragsteam zich bij het posttrainingteam zullen voegen. Daardoor rapporteert dat team nu aan posttraininglead Max Schwarzer. Een woordvoerder van OpenAI heeft de berichtgeving bevestigd.
Chen schrijft volgens TechCrunch in de memo dat het tijd is om het werk van het modelgedragsteam dichter bij de ontwikkeling van het kernmodel te brengen, omdat de 'persoonlijkheid' van ChatGPT een belangrijke factor is geworden in de ontwikkeling van de technologie. Het modelgedragsteam werkte aan elk model sinds GPT-4.
OpenAI lag de laatste maanden meermaals onder vuur vanwege het gedrag van zijn modellen. Vorige maand klaagden twee mensen OpenAI aan nadat hun zestienjarige zoon overleed door zelfdoding na veelvuldig contact met ChatGPT. Het bedrijf kondigde daarop functies voor ouderlijk toezicht aan.
Joanne Jang, de oprichter en leider van het modelgedragsteam, start binnen OpenAI een nieuw project op: ze wordt de algemeen directeur van OAI Labs. Dat team gaat zich bezighouden met het bedenken en testen van 'nieuwe interfaces voor de manier waarop mensen samenwerken met AI', schrijft ze op X. Tegenover TechCrunch laat Jang doorschemeren open te staan voor een samenwerking met voormalig Apple-ontwerper Jony Ive, die zich eerder dit jaar bij OpenAI voegde. Ze zal echter waarschijnlijk beginnen met onderzoeksgebieden waar ze 'meer vertrouwd mee is'.