OpenAI maakt GPT-4o-beeldgenerator beschikbaar voor gebruikers zonder abo

Gebruikers van de gratis versie kunnen vanaf dinsdag ook gebruikmaken van de native ChatGPT-afbeeldingengenerator. Voorheen was hier een abonnement voor nodig. Zij kunnen maximaal drie afbeeldingen per dag maken.

OpenAI-ceo Sam Altman meldt dat de GPT-4o-beeldengenerator nu voor alle gebruikers beschikbaar is. De geavanceerdere beeldgenerator werd vorige week aangekondigd, maar Altman gaf toen aan dat de functie voor gratis gebruikers 'vertraagd' was. Het gebruik van de beeldgenerator was volgens hem 'veel populairder' dan verwacht, zonder details te geven.

Onder de aankondiging van Altman op dinsdag geven betalende gebruikers aan dat ze nu al tegen beperkingen van de beeldgenerator aanlopen vanwege capaciteitsproblemen. Daardoor zou het maken van beelden lang duren. Altman erkent dit in een later bericht, maar zegt ook dat gebruikers dit 'moeten verwachten' bij een nieuwe ChatGPT-functie. Daarbij geeft hij aan dat OpenAI vooral meer gpu's nodig heeft.

Door Hayte Hugo

Redacteur

01-04-2025 • 20:10

60

Reacties (60)

60
58
28
1
1
22
Wijzig sortering
Het zal misschien wel aan mij liggen. Ik ben een betaalde gebruiker, maar het 4o model is echt onwijs langzaam. Het duurt (zeker in de avond) geregeld minimaal een seconden of 10 totdat hij begint met het genereren van antwoorden, waar je soms ook een minuut op kan wachten tot het uitgeschreven is bij langere teksten.

Kunnen ze de capaciteit van 4o niet beter gunnen aan betaalde gebruikers, dan gratis gebruikers dit soort features cadeau te doen?
Komt dat niet omdat het super druk / populair is? Ze zullen wel een cloudprovider gebruiken om te kunnen op- en afschalen maar daar zitten ook limieten aan.
Ze gebruiken capaciteit van Microsoft, die ook de ChatGPT diensten als (minder gefilterde!!!) API aanbieden.
Maar daar zit natuurlijk inderdaad gewoon een limiet op
Een trucje wat soms werkt is je antwoord stoppen en vragen of hij opnieuw antwoord wil geven
Ik heb de betalende en geen vertraging. In het begin van het GPT tijdperk was dat wel een ding. Nu niet meer zo gemerkt. Af en toe misschien een hapering maar zeker niet elke dag.

Ik stoot soms nog wel eens op een dag-maand-limiet van voice en Deep research maar is meestal sneller weg dan wat ze vooropstellen.

Wat mij wel opvalt dat 4o nu vaker met internetbronnen komt dan een maar maanden geleden. Dus ze hebben hun cloudmodel nog meer verbonden met het internet, ook al heb ik de optie (internet) search uitstaan.
Kunnen ze de capaciteit van 4o niet beter gunnen aan betaalde gebruikers, dan gratis gebruikers dit soort features cadeau te doen?
Dat kunnen ze best, maar ze zijn bezig met een nieuwe investeringsronde en dan kun je maar beter net doen alsof je te populair bent om goede service te kunnen verlenen.
Ik weet niet hoor, maar ik heb geen abonnement, maar heb er wel al ruim een week toegang toe. Volgens mij bedoelt Sam Altman dan ook dat de progressive rollout is afgerond, niet dat het nu pas voor free users beschikbaar is. Progressive rollout is voor OpenAI van belang om de load te kunnen reguleren op hun GPU's.
Dat gevoel heb je, totdat je de betaalde variant gebruikt. Ik dacht namelijk precies hetzelfde. Ik wilde voor Home Assistant een digitale versie (afbeelding) van bijvoorbeeld de keuken maken. Met de betaalde variant was de output veel beter.
Nou nee hoor, dit was toch echt GPT 4o Image Generation en geen DALL-E meer.
Het gekke is, bij mij stond ook niets geen referentie over DALL-E. :)
Ik als gratis gebruiker gebruikte het gisteren.
Ik ook, en eergisteren ook al, het werkt al wel even. Maar idd 2 of 3 afbeeldingen per 24 uur, en ik heb het idee dat fotos uploaden nog minder vaak mag.
Ik gebruikte het al van vorige week donderdag. Als gratis gebruiker.
OK. Maar waarom eigenlijk? Welk bestaansrecht heeft dit buiten memes en fakes news?
mooi alternatief voor stockfoto's voor kleinere projectjes
Heel erg makkelijk voor marketing, plaatjes voor de socials, web, etc
Ik gebruik dit nu een paar dagen; dit is wel serieus beter dan de vorige implementatie.
klopt, tekst komt er nu ook echt uit zoals je het hebt ingevoerd en niet meer als een random garble
Heb het nieuwe image genereren al een tijdje in gebruik met plus abbo.

Ik gebruik hem als het kan liever dan mijn lokale SDXL en flux modellen. Zeker text en andere prompts , heel makkelijk, en echt ontzettend goede resultaten.

Het enige mega irritante van ChatGPT en ook de image generator, is dat het extreem snel in de rem springt bij het genereren van content die hij als “ongepast “ of “copyright “ vind. Terwijl ik met een ander prompt echt 20 afbeeldingen kan maken, en hij dan “ineens” wakker lijkt te worden, en niet meer wil generen met deze meldingen.

Echt mega irritant, want anders zou ik het al bijna als stable difussion replacement gebruiken voor mijn doeleinden.

[Reactie gewijzigd door PredCaliber2 op 1 april 2025 22:45]

Het is ook heel random dat hij gaat weigeren, ook als de afbeeldingen niet ongepast zijn. Ik maak dan maar een melding, maar je komt helaas niet verder.
Juj! Nu kan iedereen z’n familie fotos Ghibli-ficeren en op de socials kwakken. Great times! :)
Ik vraag me vooral af hoeveel energie het nu kost om een afbeelding te genereren. Ik kan me bij een ouder model herinneren dat het evenwel energie kostte als het opladen van een mobiele telefoon...

Edit: voor de doubters wat meer info. Zie deze video https://youtu.be/0ZraZPFVr-U

Dit is wat ouder onderzoek (1 jaar), maar rechtvaardig mijns inziens de vraag.

[Reactie gewijzigd door Benjamin1987 op 2 april 2025 00:19]

Over het algemeen kost het maken niet zo veel energie, de energie zit typisch in het trainen van het model.
Zie de inmiddels toegevoegde link bij mijn post. Waar baseer jij je op?
De basis van de video waarnaar je refereerde is dit onderzoek : https://arxiv.org/html/2311.16863v3
(zie referentie in de beschrijving bij de video).

De context waar we het hier over hebben is een plaatje genereren met een diffusion model, plus een text render (zoals ook in je browser zit) model.

In het onderzoek zijn de experimenten op één GPU gedraaid, en werd het energieverbruik van alle GPU's op de 8 NVIDIA A100-SXM4-80GB GPU's gehost op Amazon Web Services (AWS) gemeten.

Het onderzoek gaat uit van 297,6 gram CO₂-equivalent per kWh voor het us-west-2 data centrum.
Deze bron https://www.cloudcarbonfootprint.org/docs/methodology/ heeft het over 0.000322167 ton/kWh ~= 87.85 gram per kWh voor het zelfde data centrum.

De onderzoekers geven aan dat hun meting met Stable Diffusion XL 1.0 1000 plaatjes maken 2,9 kWh kost.

Stable Diffusion XL 1.0 heeft iets minder dan 12GB geheugen nodig om haar werk te doen, als je het niet gekwantificeerde model gebruikt.
De onderzoekers draaide dit model enkelvoudig op een machine met 8x80GB GPUs.

Het idle energie gebruik van deze GPU's is volgens https://massedcompute.com/faq-answers/ ongeveer 250W per GPU.
In dit onderzoek waren 7 van de 8 GPU's idle en werd het idle gebruik meegenomen in de berekening.

Doordat we een wachtrij hebben bij OpenAI lijkt het er op dat er nagenoeg geen idle gebruik optreedt en dat elke GPU niet slechts 1 plaatje maar minimaal floor(80/12) = 6 plaatjes te gelijk aan het maken is, en de 8 GPU versie minimaal 48 plaatjes.

Het is niet onwaarschijnlijk dat OpenAI haar model heeft gekwantificeerd zodat het compacter is en er dus meer instances op elke GPU kunnen draaien en ze minder energie gebruiken.

___
Mijn indruk is dat de 1,6 gram CO₂ uitstoot per plaatje die het onderzoek berekend heeft een ruime overschatting is.
Op basis van de huidige footprint van het stroomnet in die regio, zou het 0,42 kg CO₂ per plaatje zijn.
Gaan we uit van maximale load van 1 GPU en idle van 7 van de 8: 400W+7x250W. tijdens de test en halen we de idle GPU's er af: dan moet het antwoord vermenigvuldigd met 400W/2150W ~= 0.078 gram CO₂ per plaatje.

De ook dit is nog een overschatting, want de gebruikte GPU kan met die 400W zes in plaats van één plaatje maken in dezelfde tijd.

Een zuinige benzine auto - Toyota - stoot 103 g CO₂ uit per kilometer.

Als je 8 kilometer van je werk woont en een keer niet de lease auto neemt maar de fiets, kun je daarvoor in de plaats ruim 21 duizend foto's genereren.

___
Mijn 70Wh laptop kan met een int8 gekwantificeerd Stable Diffusion 1.5 model ongeveer 10 uur lang plaatjes genereren zonder dat de stroom adapter aangesloten hoeft te worden. De laptop heeft een oled scherm. De laptop maakt een plaatje in 11 seconden.

[Reactie gewijzigd door djwice op 2 april 2025 06:20]

Mja als ik de auto niet neem dan scheelt het hier co2 uitschot. Maar als ik een foto maak in plaats daarvan dan ben ik een plek elders op de wereld aan het vervuilen.
Klinkt als een win voor jouw omgeving.
Met dit weer dus zeker even de fiets pakken.

[Reactie gewijzigd door djwice op 2 april 2025 07:50]

Dank! Dan ben ik blij dat het heel veel efficiënter lijkt te zijn geworden
Wel echt tof om te zien dat er gelukkig nog steeds mensen zijn die kunnen rekenen en dat is wel belangrijk als je ai vraagt om iets uit te rekenen. Dat is nog niet zo eenvoudig en als je niet oppast gaat ie ook echt een foutief antwoord geven. Maar wel echt heerlijk zo'n next level rekenmachine. :)
Het is een beetje lastig om te berekenen wat 1 afbeelding kost. Ik gok dat chatgpt uit jouw vraag/omschrijving onder water een gedetailleerde prompt samenstelt, tel je die actie ook mee? En het trainen van het model? En als het genereren van mijn plaatje 50 seconden kost voor 1 server, hoe zou dat dan zijn als ik de enige persoon op die server was?
Als een GPU idle draait, gebruikt ie minder stroom dan wanneer die gebruikt wordt.

Is dat antwoord op je vraag?
Maar als er 10 taken tegelijk lopen duurt 1 van die 10 taken waarschijnlijk langer dan als er maar 1 taak was.
De data center GPU virtualisatie toe, dat betekent dat hij opgedeeld wordt in meerdere kleinere GPU's, bijvoorbeeld 6 GPU's met elk 13GB geheugen.
De reken eenheden worden daarbij ook verdeeld om te voorkomen dat de processen elkaar kunnen beïnvloeden en data van de ene berekening lekt naar de andere.
Je locale GPU in je PC of laptop kan dat niet.

Even een voorbeeld voor je eigen PC:
Je start een YouTube video. En dan nog een, en nog een, etc.
Je zult merken dat de meeste moderne PC's zonder elkaar te vertragen, en zonder kwaliteitsverlies meerdere HD video's tegelijk kunnen afspelen.
Video afspelen is voor jouw GPU een kleine taak.

Dit is vergelijkbaar met wat de onderzoeker deed op de super GPU; een hele kleine taak uitvoeren.

[Reactie gewijzigd door djwice op 2 april 2025 08:10]

Dan nog is het niet goed te specificeren in geld. Als gebruiker kan het zijn dat een image taak 50 seconden "duurt" maar wellicht is daarvan wel 40 seconden dat hij in de queue staat.
Het gaat hier niet om geld maar om optimaal benutten van een server om zo een zo laag mogelijke carbon footprint per plaatje te realiseren.

[Reactie gewijzigd door djwice op 2 april 2025 17:10]

Zie de inmiddels toegevoegde link. Het gaat/ging om het daadwerkelijk genereren, niet het trainen.
@Hayte
...Gratis gebruikers kunnen maximaal drie afbeeldingen per dag maken...
Gratis gebruikers?
Waarschijnlijk bedoeld als het is gratis, maar je moet je wel registreren. Meeste AI tools vereisen wel registratie en zijn niet gratis te gebruiken zonder enige vorm van registratie.
Tekstueel klopt het niet. Gratis gebruikers. De juiste verwoording zou iets moeten zijn van, gebruikers die van het gratis abbonement gebruik maken oid.
Gratis gebruiker vind ik dan toch duidelijker, dan gebruikers die van het gratis abbonement gebruik maken. Een gratis gebruiker heeft geen abonemment toch? Niet betalende gebruiker is dan nog beter, maar goed.
Gratis gebruikers? Ik wil er graag 10; wanneer worden ze geleverd?
Je hoeft je niet te registreren. Installeer de app en gaan: 3 pogingen om plaatjes te maken per 24 uur.
Als je de app niet op de voorgrond hebt, faalt het plaatje genereren en ben je je credit kwijt.

[Reactie gewijzigd door djwice op 1 april 2025 23:29]

AuteurHayte Redacteur @Recursio2 april 2025 09:21
Volgens onze eindredactie is dit niet per se fout, maar aangezien er verwarring over is, heb ik het aangepast :)
Ha @Hayte,

Dank je voor je reactie, dat waardeer ik!

Het is grammaticaal niet fout; mits er bedoeld wordt dat de gebruikers niets kosten klopt het.

Omdat het mij leek dat dat hier niet bedoeld wordt viel er volgens mijn (computationeel) taalkundige opvoeding iets op af te dingen - semantisch is het wel fout :)

[Reactie gewijzigd door Recursio op 2 april 2025 11:23]

laat het eerst goed werken voor de betalende klanten...
Zal Facebook nog ondragelijker maken..

Op dit item kan niet meer gereageerd worden.