OpenAI kondigt Dall-E 3 aan, wordt geïntegreerd in ChatGPT

OpenAI heeft Dall-E 3 aangekondigd. De derde iteratie van de afbeeldingengenerator wordt geïntegreerd in ChatGPT. Die tool kan worden ingezet om prompts te verbeteren. Dall-E 3 maakt volgens OpenAI betere afbeeldingen en heeft meer waarborgen voor algoritmische biases.

OpenAI heeft de tool aangekondigd, maar die komt pas in oktober uit. Dan is Dall-E 3 bruikbaar voor abonnees met een ChatGPT Plus- of Enterprise-pakket. Momenteel is de tool al beschikbaar als bèta. De tool onderscheidt zich met name door zijn integratie in ChatGPT. Gebruikers kunnen daar straks een prompt opgeven om direct een afbeelding te laten maken. Gebruikers kunnen ook via de chat verbeteringen of wijzigingen doorgeven aan de afbeelding als ze daar aanpassingen aan willen hebben.

Volgens OpenAI moet dat ervoor zorgen dat gebruikers met minder tekst een betere afbeelding kunnen genereren. Op het moment is de vuistregel bij Dall-E 2 of andere afbeeldingengenerators dat de afbeelding beter of scherper wordt als de prompt uitgebreider is. Door de integratie met ChatGPT hoeft dat niet meer. "Moderne tekst-naar-afbeeldinggeneratoren hebben de neiging om woorden of beschrijvingen te negeren", schrijft OpenAI. "Gebruikers worden daarom gedwongen om prompt engineering te leren." Bij Dall-E 3 hoeft dat volgens de makers niet meer.

De makers van de generator hebben in versie 3 ook meer aandacht besteed aan veiligheid op het platform. Zo is het moeilijker om gewelddadige, haatdragende of 'volwassen' afbeeldingen te maken. OpenAI heeft een red team ingezet voor verbeteringen op 'risicogebieden'. Daarbij zijn ook biases in het algoritme meegenomen; het gaat om 'biases gerelateerd aan visuele over- of onderrepresentatie'.

Het wordt verder ook niet meer mogelijk om prompts op te geven rondom publieke figuren. OpenAI hoopt daarmee propaganda en desinformatie tegen te gaan. Verder test OpenAI een interne tool die moet herkennen wanneer een afbeelding door Dall-E 3 is gemaakt. "We hopen deze tool te kunnen gebruiken om te begrijpen hoe gegenereerde afbeeldingen worden gemaakt", zegt het bedrijf.

OpenAI zegt daarnaast dat het maatregelen neemt waarmee kunstenaars hun eigen intellectuele eigendom kunnen beschermen. Dall-E 3 weigert prompts waarbij afbeeldingen worden gemaakt in de stijl van bepaalde kunstenaars. Ook kunnen artiesten zorgen dat hun kunst niet door AI wordt gebruikt voor trainingsdoeleinden. Dat proces is echter omslachtig en niet erg uitgebreid. Het gaat om een opt-out waarbij kunstenaars afbeeldingen samen met een formulier moeten insturen. OpenAI gaat dat dan 'bestuderen' en kan pas daarna beslissen of het de afbeeldingen niet meer meeneemt voor toekomstige trainingsmodellen.

Reacties (97)

[Stelsol]

We zijn een nu een tijdje onderweg met deze varianten van AI en ik moet zeggen dat het inmiddels al vrij 'normaal' voelt. En het blijkt een stuk minder bedreigend dan ik eerst dacht...

[Menesis]

Ja ik ben het er soort van mee eens dat het allemaal vrij snel erg normaal voelt. Ik kan ChatGPT niet meer wegdenken bij mijn werk.
Maar toch, alleen al bij het voorbeeldje hier van Larry the Hedgehog denk ik dan *Boem*, daar gaat het werk voor alle kinderboeken-illustrators en auteurs.
Alle artiesten die afbeeldingen maken beginnen overbodig te worden, straks het ook animatie en film en kan Hollywood inpakken. Het gaat wel hard hoor, deze ontwikkelingen.

Tegelijkertijd zal er misschien een reactie ontstaan. Dat mensen alleen maar 100% human made films of boeken willen, dat lijkt me niet onwaarschijnlijk. Steam laat al geen games toe met AI gegenereerde inhoud, al is de achterliggende reden daar onduidelijkheid over copyright.

[Reactie gewijzigd door Menesis op 24 juli 2024 09:13]

[Rob Coops]

Het grote probleem is dat je echt niet kunt zien voelen of op welke andere manier dan ook detecteren dat een tekst is gemaakt door een AI in plaats van een mens. Zeker als een mens als editor optreed en hier en daar wat bijstuurt is het simpel weg onmogelijk om te bepalen of het door een mens is geschreven of door een AI.
Met afbeeldingen tenzij er een watermark in de afbeelding zit is het niet mogelijk om te zien of het een mens of een AI was die de afbeelding heeft gemaakt. Zelfs met film is het steeds moeilijker en voor de leek vaak al niet meer te doen om AI en menselijke content te onderscheiden.

Ja er zullen vast mensen zijn die alleen echte mensen boeken en films etc willen maar anders dan content van voor de AI revolutie zal het niet mogelijk zijn om met zekerheid te zeggen dat iets echt door mensen gemaakt is en niet door een AI. Zeker als er goed geld mee te verdienen is is het praktisch onmogelijk om te voorkomen dat mensen liegen over wie het product heeft gemaakt. Ik vermoed dan ook dat we als we echt een 100% mens stempel op dingen gaan plakken we redelijk wat schandalen tegen zullen komen. Kijk voor de grap naar FSC hout om een heel simpel voorbeeld te geven, hoe vaak daar niet blijkt dat het toch echt gewoon illegale kap was die via een omweg een FSC label kreeg en voor een veel hogere prijs verkocht wordt. Zo lang er geld mee te verdienen valt zullen mensen een manier vinden om dat stempel op hun product te krijgen.

[jaenster]

Als je het onderscheid niet kan maken, maakt het dan uit? Het is meer een filosofische vraag dan een praktische vraag. In 1800 was 80% van de mensen bezig met de voedsel industrie, nu nog geen 20%.

Ik vraag mij dan ook af of mensen ooit hebben gezegd dat ze niet kunnen zien of een appel helemaal menselijk gemaakt is, of met behulp van machines. En of er mensen zijn geweest die principeel die appels niet aten, of iets dergelijks.

Het lijkt mij sterk dat een revolutie die de opkomende AI te weeg brengt, ook maar iets doet met werkgelegenheid. Het gaat het ongetwijfeld veranderen (zie voedsel industrie), maar we komen nu mensen te kort op de arbeidsmarkt. Terwijl vrijwel niemand zich nog bezighoud met de beroepen die er waren t.o.v. 1800.

[nokie]

Er is wel een verschil. Ik kreeg laatst de vraag van mijn baas om mijn advies omtrent de impact van AI op de werkvloer. Ik zie persoonlijk geen groot verschil. We hebben altijd al “handenarbeid” geautomatiseerd en doen het nog steeds, AI gaat daar niets wereldschokkends doen, we weten al lang dat een robot/machine bepaalde zaken veel beter kan dan een mens. En eerlijk, dat zijn vaak geen jobs waar veel voldoening uit te halen is.

Maar er is wel een hele nieuwe groep die door AI bedreigd wordt: de mensen die “hersenarbeid” doen. Hele managementteams kunnen wet mij betreft op de schop want het grootste deel van hun toegevoegde waarde is beslissingen nemen op basis van de data die ze verzamelen. Een AI kan zoiets stukken beter. Maar dit zijn wél jobs waar mensen voldoening uit halen. Dus dit raakt hun persoonlijkheid veel dieper.

Ik weet niet of dat uiteindelijk een impact gaat hebben op werkgelegenheid. Tot nu toe hebben we werkkrachten tekort. Maar of die managers nog iets anders kunnen/of we voor hen nog iets anders kunnen vinden om te doen??

[rvt1]

Hele managementteams kunnen wet mij betreft op de schop want het grootste deel van hun toegevoegde waarde is beslissingen nemen op basis van de data die ze verzamelen. Een AI kan zoiets stukken beter. Maar dit zijn wél jobs waar mensen voldoening uit halen. Dus dit raakt hun persoonlijkheid veel dieper.

Op zich zou dit wel mooi zijn. Dan krijgen we eindelijk te maken met beslissingen die goed zijn voor een project in zijn algeheel, ipv goed zijn voor het carrière pad van een manager. Dus war dat betreft kom maar op met het vervangen van een manager voor AI

[Artimunor]

Hoe weet je zeker dat die A.I. geen carrière wil maken?
Of zichzelf waardevoller wil laten lijken om niet als redundant te zijn?

[rvt1]

Door het the trainen door mensen die zicht voor het project inzetten ipv carrière en loopbaan types. Dan komt dat goed..

[StCreed]

Hele managementteams kunnen wet mij betreft op de schop want het grootste deel van hun toegevoegde waarde is beslissingen nemen op basis van de data die ze verzamelen

Oh, you sweet summer child...

[Cergorach]

Tegelijkertijd zal er misschien een reactie ontstaan. Dat mensen alleen maar 100% human made films of boeken willen, dat lijkt me niet onwaarschijnlijk.

Dat zie ik een beetje als hetzelfde als mensen die veel liever een fysiek boek lezen dan een digitale. Dat was in het 'begin' zo een beetje de standaard, maar met bredere acceptatie en betere devices is dat al heel lang niet meer de standaard. Men leest niet alleen digitaal, maar ook (digitale) luisterboeken zijn nu veel meer 'standaard' dan fysieke boeken. Dat is een trend die al 20+ jaar in ontwikkeling is (ik las al primair digitaal op een hele oude pda).

Een ander voorbeeld is digital effects, vroeger waren die zeldzaam, tegenwoordig is dat standaard en klagen mensen er niet meer over omdat ze het verschil niet meer zien. Het resultaat van decennia lang kwaliteit verbeteringen en steeds lagere prijzen (aka. makkelijker bruikbaar).

Dit gaat ook gewoon gebeuren met dit soort AI (diensten). We zitten nu eigenlijk nog steeds een beetje in het 'wilde westen' van AI. En dat merk je heel erg aan de grote bedrijven die de diensten aanbieden, zoals een MS die nog steeds hun M365 Copilot nog steeds bij 600 bedrijven in trial draait en het nog steeds niet in Global Availability. Als je weet hoe MS omgaat met nieuwe producten en hoe vaak die eigenlijk nog niet productie klaar zijn, dan geeft dat enige indicatie hoe MS zelf denkt over de productie readiness van hun (op OpenAI gebaseerde) AI. Sure, Bing is out, maar dat is over het algemeen gratis en volgens mij nog steeds in Open Preview (aka. gratis testers).

[BvdW1978]

Doet me een beetje denken aan 3D in videogames. Ik heb zelf moord en brand geschreeuwd rond de komst van de Nintendo 64 en PlayStation 1. Het was niet om aan te zien vergeleken bij de 2D-games van een generatie daarvoor. Dat vind ik overigens nog steeds. Maar 20 jaar later is de hardware zodanig capabel dat 3D wel degelijk betere graphics oplevert dan de sprites en bitmaps van weleer. ChatGPT zit in hetzelfde schuitje momenteel. De resultaten zijn nog wat wiebelig, maar dat gaat niet heel lang meer duren.

Waar ik me meer zorgen om maak, is om wie bepaalt welk veiligheidshek waar precies komt te staan.

[bzuidgeest]

Die auteurs kunnen natuurlijk ook gebruik gaan maken van die nieuwe AI tools om nieuwe content te maken. Het ding word uiteindelijk beter van onze input, zowel in het model als bediening.

Als auteur kan je, jezelf afsluiten en boos doen, of je kan de nieuwe tool gebruiken om je werk naar een hoger niveau te krijgen. Het is maar hoe je er mee omgaat.

Leven is verandering.

[BlaDeKke]

Haha, leven is verandering. Dan toch maar de laatste 100 jaar sinds het ontstaan van de mensheid. Normaal veranderde er helemaal niets in een mensenleven.

[bzuidgeest]

Wouw, ik zou maar eens de boeken in duiken als je dat denkt. Zelfs als het wat langzamer gaat op het geheel dan heeft ieder individu te maken met verandering.

[BlaDeKke]

Heb je boeken dat je me kan aanraden dan?

In mijn opinie ging het niet wat langzamer vroeger. Het stond nagenoeg stil. De kans dat je een noemenswaardige verandering in je omgeving in je leven meemaakte was vrij klein. Misschien dat men 100 jaar wat kort is.

[Reactie gewijzigd door BlaDeKke op 24 juli 2024 09:13]

[bzuidgeest]

Als je dat moet vragen denk dat je maar moet beginnen met "History of the World, Part I"

[BlaDeKke]

Ja blijkbaar. Ik lees al 25 jaar non fictie en ik ken blijkbaar niks van onze geschiedenis dus… kom je met een comedy aanzetten…

[bzuidgeest]

Laten we stellen dat jou definitie van geen verandering anders is dan de mijne. Zo ook met gevoel voor humor.

[BlaDeKke]

Wat een humor

[bzuidgeest]

Blijkbaar weet je ook niet dat humor tussen mensen verschilt. Britse humor is niet hetzelfde als franse of Amerikaanse etc. Zelfs binnen een land is het niet universeel.

[BlaDeKke]

Het is goed met je aannames.

Blijkbaar denk jij mensen snel te kunnen inschatten. Alhoewel ik me daar ook schuldig aan kan maken probeer ik dat voor mezelf te houden.

[Reactie gewijzigd door BlaDeKke op 24 juli 2024 09:13]

[Bossie]

!remind me 1 day

[Rolf]

Als je 1820 vergelijkt met 1920
Daarna 1920 met 2020

Bij die eerste verandert er zo waanzinnig veel voor het leven van de mensen. Van toch vooral agrarische samenleving, naar een samenleving met treinen, zware industrie.

[BlaDeKke]

Neem eender welke datum van het jaar 70000v.c. tot het jaar 1800 en kijk wat er over 70 jaar heen veranderd. Kijk dan naar de laatste 70 jaar.

[JmCm]

Teleporteer een 'normaal' persoon van het jaar 1000 naar het jaar 1500 en er lijkt voor hem niet veel veranderd te zijn. Stuur hem dan weer 500 jaar vooruit en het lijkt of hij in een ander universum is beland.
Verandering lijkt voor ons heel normaal ( en dat is ook zo). Maar voor de meeste mensen die ooit in de geschiedenis geleefd hebben, veranderde er in hun leven helemaal niks substantieels aan de wereld.

[bzuidgeest]

Misschien niet in de wereld om hun heen, maar er waren plagen, oorlogen, schaarste. Verandering hoeft niet eens wereldschokkend te zijn. Buiten de technologie denk ik dat jou persoon van het jaar 1000 een hoop dingen vlug gaat herkennen. Menselijk gedrag bijvoorbeeld lijkt vaak weinig veranderd.

[klakkie.57th]

Volgens mij begrijp jij niets van een “creatief” brein en waar zo iemand voldoening uithaalt.

Je zal maar een zoon of dochter hebben die een opleiding volgt in een of andere creatieve richting.

[bzuidgeest]

Ik ben zelf zeer creatief. Ik kijk uit naar creatief gebruik van dit nieuwe gereedschap. Het geeft mij nieuwe mogelijkheden. Mensen die dat niet zien, die zijn pas echt niet creatief. Ik kan niet schilderen, maar wel bedenken, deze tool kan mij helpen schilderen wat ik kan bedenken. Een heel nieuw veld aan mogelijkheden gaat voor mij open.

En wat betreft kinderen die opleidingen doen in "creatieve" richting. Die hadden toch al weinig kans op een baan. Doe een opleiding in Techniek. Daar kan je ook creatief in zijn, maar dan met een salaris. Verder is het zoals ik al aangaf een goede opleiding leert ze creatief gebruik van deze nieuwe tools. Die kunnen niets zonder menselijke input.

[Reactie gewijzigd door bzuidgeest op 24 juli 2024 09:13]

[klakkie.57th]

Dit “gereedschap” heeft niets meer met jouw creativiteit te maken. Een paar prompts in een inputveld stoppen is geen creativiteit.

En hoe je reageert om iemand die een creatieve opleiding volgt is al helemaal “eng” , “doe toch gewoon wat anders” . Hoeveel mensen wil je in de psychiatrie hebben
Jij bent waarschijnlijk ook voorstander dat we AI inzetten voor menselijke selectie, wat niet in het rijtje past ; weg ermee

[Basjuh84]

Schijnbaar is deze vorm van 'creativiteit' het meest eenvoudige om na te maken met een simpel AI algoritme, dus hoe waardevol dat nu daadwerkelijk is... ;-)
Wie ben jij om te bepalen wat creativiteit is? Ik heb toch echt wel een flink aantal voorbeelden voorbij zien komen waar AI (gegenereerde content) behoorlijk creatief werd ingezet. Ik vind het in ieder geval wel handig - we gebruiken het regelmatig in workshops om snel wat geinige variaties te maken van bepaalde concepten / producten en soms komen daar best leuke ideeën uit voort. Ik vind dat toch best creatief?

[klakkie.57th]

Daar verschillen we van mening.
Jij doet helemaal niks creatiefs meer. Als je creatief was geweest had jezelf die variaties moeten bedenken.

[Basjuh84]

Ik moet natuurlijk helemaal niets - ik heb eerder de indruk dat u nogal stellig bent over wat uw versie van wat creativiteit is.

[StCreed]

Een paar prompts in een inputveld stoppen is geen creativiteit.

En een wit doek inleveren of een banaan op de muur plakken wel? Of shit-in-a-can?

En ja, voor mij is dat kunst. Maar het belangrijkste onderdeel daarvan is het concept - de prompt, dus. En artiesten als Damien Hirst werken niet zelf hun kunstwerken uit, dat laten ze doen door assistenten. Ze geven dus alleen de prompt. Zijn zij dus niet creatief?

De prompt is, mits goed gebruikt, de plek waar je je creativiteit kan gebruiken. De rest is vaak alleen maar techniek. En zometeen beheerst iedereen de techniek.

[klakkie.57th]

Tegen een computer zeggen “bedenk” een figuurtje voor een kinderboek met of de voorgrond dit en op de achtergrond dat en het moet lijken op het werk van Sven Nordqvist en vervolgens achteruit gaan leunen en aan je koffie slurpen is NIET creatief zijn.

[svennd]

Alle hoefsmids nog aan toe, ik rij enkel met paard en kar.

Alle technology vervangt jobs, van de schuifdeur tot computers... keer op keer zijn er andere taken die er bij komen. ipv van kinderboeken 'auteur', zal dat nu AI generated auteur worden...

[Roharas]

Bij vernieuwing zijn mensen vaak bang voor het verloren gaan van werk.
Tot op zekere hoogte is dit altijd terecht geweest maar ook onterecht afhankelijk van hoe je het bekijkt.
De ontdekking van brandstoffen, de industriele revolutie, voertuigen, drukpersen/printers, allemaal hebben ze drastisch veranderd hoe de wereld werkt en allemaal hebben ze er voor gezorgd dat er een boel specifieke banen zijn komen te vervallen. Ze hebben er echter ook voor gezorgd dat er veel, en misschien nog wel meer nieuwe aanverwante banen zijn bij gekomen. Mensen die de veranderingen omarmen en er in mee gaan komen altijd wel goed terecht. Het issue zit bij mensen die niet meer kunnen of willen veranderen en hun oude vertrouwde baantje in hun huidige routine willen blijven doen. Het vasthouden aan die routines zal uiteindelijk een issue worden.
Bij AI zal dit niet anders zijn.

Blijf je bij jij voorbeeld van kinderboeken-illustrators dan zal je bijvoorbeeld voor een nieuw personage of voor een heel nieuw wezen toch eerst echt een data-set moeten geven aan de AI zodat op basis van die plaatjes een wezen in de richting van je wens wordt gegenereerd. Bij nieuwe wezens is die "data" er nog niet en zal misschien een illustrator concept art of een paar echte schetsen moeten maken zodat de AI er mee aan de slag kan. In mijn beeld zal een illustrator daarmee nog steeds veel elementen uit zijn/haar huidige werk blijven gebruiken maar deze veel meer inzetten om de AI te leiden totdat die een goed beeld heeft van het gewenste personage zodat de AI vervolgens zelf een heel boek kan illustreren op basis van het verhaal dat een schrijver heeft verzonnen (al dan niet met hulp van AI).
Bij grote producties kon het dan misschien wel zo wezen dat er meerdere illustrators werkten om uiteindelijk alles in te tekenen ofzo, dat werk zal dan inderdaad niet meer nodig zijn. Wel wordt het veel eenvoudiger voor een enkel persoon of een klein teampje om zelf ook grootse producties te gaan produceren dus wellicht zullen veel van die mensen die alleen tekenden of afwerking deden nu zelf ook hun eigen producties kunnen maken.

[w8nC]

AI kan perfect gebruikt worden om meer realistische details aan te brengen in games, bv. stable diffusion.
Dit doet niets af aan de originaliteit en creativiteit van een game.
Een ander voorbeeld zou kunnen zijn het inkleuren van stripverhalen.
Bij deze klussen kan AI het monnikenwerk verrichten.

[Rixos]

Het is tragisch voor mensen die voorheen hun geld hiermee verdienden.

Maar tegelijkertijd is productiviteitstoename: meer kunnen produceren per uur, het fundament voor welvaartstoename.

De geschiedenis is natuurlijk vol met beroepen die uiteindelijk verdwenen omdat er technologie beschikbaar kwam waarmee we sneller en goedkoper producten en diensten konden produceren.

Het is begrijpelijk ellende voor mensen die hun skillset overnight waardeloos zien worden. Maar je houdt het niet tegen, en dat moet je ook niet willen, tenminste, als we willen dat onze welvaart toeneemt.

Je kan twee dingen doen, het proberen tegen te houden (kansloos op de lange termijn).

Of omarmen, er zijn ook een hoop grafische designers die dat momenteel doen.

Nogmaals, het is makkelijk gesproken, ik snap dat het voor sommige mensen echt een drama is, die hun hele leven geïnvesteerd hebben in een bepaalde skillset, maar op zicht is dit fenomeen niet nieuw.

[Morkatog]

Persoonlijk kan ik niet wachten tot deze technologie echt explodeert. Ik zou heel graag de Star Wars expanded universe boeken aan een dergelijke tool voeren om dan een serie te krijgen gebaseerd op die boeken ipv het werk waar Disney zelf mee komt (enkele degelijke werken daargelaten), of een (correcte) verfilming van de Sword of Truth series... Om maar een paar voorbeelden te noemen.

[jerisson]

Nu ben ik benieuwd of daar een uniek Star Wars verhaal uit zou komen, of dat de AI - op basis van terugkerende elementen en statistiek - beslist om het zoveelste verhaal over één of andere bolvormige planetenverslinder te schrijven. (Uiteraard valt dat bij te sturen. Iets kubusvormigs misschien?)

[RobbieB]

Totdat je erachter komt dat er al daadwerkelijke incidenten zijn waarbij AI is gebruikt voor social engineering om bv mensen/bedrijven geld afhandig te maken.

Dus minder bedreigend als je het ook voor legale doeleinden gebruikt.

Gigantisch bedreigend als je het inzet t.b.v. illegale doeleinden.

Maar net zoals een mes gebruikt kan worden om brood te snijden of iemand te vermoorden geldt dit ook voor AI. Het verschil is alleen dat onze samenleving er totaal nog niet op is ingericht om hier aan te denken of uberhaupt rekening mee te houden dat dit kan.

[Reactie gewijzigd door RobbieB op 24 juli 2024 09:13]

[ThomasG]

Je kunt bij bijvoorbeeld ChatGPT wel merken dat het nu anders is dan maanden geleden. In het begin gaf ChatGPT feitelijke antwoorden (soms wel gebaseerd op verzonnen bronnen). Hoewel die antwoorden te controleren waren en vaak ook gewoon klopte, lagen ze soms politiek gevoelig (of was het illegaal). Toen hebben ze daar een restrictie op gemaakt waarbij ChatGPT antwoord gaf in de zin van dat hij over zulke dingen geen uitspraken kan/mag doen. Maar dat was te omzeilen door aan ChatGPT te vragen of te doen als het Pietje was, en wat Pietje zou antwoorden. Tegenwoordig werkt dát ook niet meer, of in ieder geval minder goed. AI als ChatGPT lijkt dus met opzet op een slimme manier "dommer" te zijn gemaakt. Dat zelfde geld voor (een aantal) voorbeelden die jij aanhaalt.

[RobbieB]

Mwoa.. er zijn genoeg (open-source) LLM's en voice/image generator tools beschikbaar die om al die limitaties heen werken. Daarnaast wordt het ook steeds makkelijker om dit soort zaken lokaal of op een cloud VM te draaien.

[Orangelights23]

Helaas blijkt de realiteit anders.

Ik ben als CISO samen met een groep andere CISO's een werkgroep gestart en zijn we in de cyberrisico's van AI gedoken, een voortlopend project. Ondanks dat ChatGPT iets minder slim is gemaakt, zijn er genoeg dark web varianten waar het wel mogelijk bij is (plus het is nog steeds te doen via ChatGPT via prompts die we zeer recentelijk schreven).

Dus nee, het is nog steeds gevaarlijk en een groot risico. Mensen moeten zich bewust zijn van deze risico's en andere manieren vinden om informatie te verifiëren.

[Cergorach]

Totdat je erachter komt dat er al daadwerkelijke incidenten zijn waarbij AI is gebruikt voor social engineering om bv mensen/bedrijven geld afhandig te maken.

Security is een wapenrace, altijd al geweest. AI wordt ook gebruikt in beveiliging en deze ontwikkeling in taalmodellen zal ook worden gebruikt om beveiliging makkelijker/beter te maken.

[cariolive23]

Totdat je erachter komt dat er al daadwerkelijke incidenten zijn waarbij AI is gebruikt voor social engineering om bv mensen/bedrijven geld afhandig te maken.

Noem eens iets wat nog nooit is gebruikt als wapen... Schroevendraaier, baksteen, koekenpan, pen, allemaal dingen waarmee moorden zijn gepleegd. Auto's, fietsen, wegen en snelwegen worden dagelijks gebruikt door criminelen, ook daar heeft niemand moeite mee.

En ja, ook AI wordt gebruikt en misbruikt. Zolang de mensheid bestaat, zullen gereedschappen voor en tegen anderen worden gebruikt. Dat is nu eenmaal een eigenschap van de mens.

[Devion]

Omdat er al een stigma heerst rondom 'Oh is door AI gemaakt' en dat betekend nu in de ogen van de normale mens 'waardevermindering'. Maar de bedreiging is er nog steeds voor veelal designers, in mijn kring zijn er al diverse die nu minder opdrachten per maand binnen krijgen (op basis van voorgaande jaren) simpelweg omdat 'n opdrachtgever nu zelf ook wel iets simpels in elkaar kan knutselen en daar mee tevreden kan zijn.

[dj_ryow]

Komt vermoedelijk ook door de opkomst van een tool als Canva.

[Atmosfeer]

Dat heeft idd meer impact dan AI denk ik. En tegelijk is er nu ook een hele markt ontstaan voor canva templates, die bijvoorbeeld op Etsy verkocht worden. Valt best veel geld mee te verdienen.

[Cergorach]

Zou de huidige economische situatie daar niet een veel groter aandeel van zijn? Designers zijn niet de meest essentiële tak van 'sport' en als er ergens op geknabbeld kan worden zal het al vlot iets dergelijks zijn. Maar dat ligt natuurlijk geheel aan in welke business je bezig bent en wat je klanten zijn. Maar de doorsnee opdrachtgever/MKB zal niet zelf kunnen designen, maar ook niet zelf met AI kunnen werken om de designer te kunnen vervangen. Net zoals er nu opeens niet veel minder IT personeel wordt aangenomen doordat ze zijn vervangen door AI...

Het enige wat ik me nog zou kunnen voorstellen is dat men overflow werk uitbestede en dat door AI gebruik, interne designers of de primaire design bureaus productiever zijn en het niet verder hoeven uit te besteden.

[Some12]

Trek dit iets breder: gewetenloos bouwen van beslissings-strcturen (code, algoritmes) en dan zomaar even “klikketie-klik-enter” implementeren.

Men gaat er natuurlijk juridisch van uit dat men altijd zelf eerst even alles controleert, maar zodra mensen “er wel op vertrouwen” gebeurt zoiets natuurlijk niet meer altijd.
Dus wat als zo’n systeem iets doet wat men niet bedoeld had? Oepsie, overheen gelezen.

Ik denk serieus dat we naar een wereld terug moeten waarin mensen gewoon altijd aan het roer staan, daar waar er beslissingen genomen worden over mensen.

Natuurlijk kan een AI wel een goede raadgever zijn, maar daar gaan mensen dan ook weer teveel op leunen, daar waar AI wel degelijk fouten kan maken.

[Anomnomnomymous]

Natuurlijk kan een AI wel een goede raadgever zijn, maar daar gaan mensen dan ook weer teveel op leunen, daar waar AI wel degelijk fouten kan maken.

En mensen maken geen fouten?
Ik denk dat je naïef bent om te denken dat er de afgelopen 20 jaar al niet ongelooflijk veel keuzes gemaakt werden dóór AI/computers (zoals bv. risico modellen), en dat deze Pandora’s box nooit meer gesloten gaat worden.

[Some12]

Er zit een verschil tussen fouten maken en spontaan dingen verzinnen.

PS: maar diep filosofisch gezien heb je wel een punt.

PS2: maar bij nader inzien denken denkt een mens dan niet meer met het geweten dat een AI niet heeft.

[Reactie gewijzigd door Some12 op 24 juli 2024 09:13]

[Anomnomnomymous]

Mbt je laatste punt; ik denk zelf dat het gebrek aan een “geweten” juist een voordeel is van een LLM - ik ken genoeg gevallen waar mensen resultaten óók zelf verzinnen (of zo verbuigen), omdat het gebrek aan geweten hen leidde tot het aanpassen van de resultaten voor bijvoorbeeld eigen financieel gewin, of omdat de resultaten hen niet beviel.

Dit neemt niet weg dat ik wel vind dat er nog meer dan genoeg ruimte is om LLMs te verbeteren, zodat het totaal verzinnen van resultaten niet meer tot de uitkomsten kan behoren.

[Some12]

ik ken genoeg gevallen waar mensen resultaten óók zelf verzinnen (of zo verbuigen), omdat het gebrek aan geweten hen leidde tot het aanpassen van de resultaten voor bijvoorbeeld eigen financieel gewin, of omdat de resultaten hen niet beviel.

Maar wat nou als (A) je macht van mensen overneemt door dingen voor ze te bepalen en…

Dit neemt niet weg dat ik wel vind dat er nog meer dan genoeg ruimte is om LLMs te verbeteren, zodat het totaal verzinnen van resultaten niet meer tot de uitkomsten kan behoren.

… (B.) “the computer still says no”… Wie ga je dan aanklagen? Diegene die de AI heeft gestart, terwijl die enkel de AI geautoriseerd heeft en niet zelf fout gehandeld heeft.

Ik zou dan investeren in mensen met een geweten.
PS: die kan je tot verantwoording roepen.

[Reactie gewijzigd door Some12 op 24 juli 2024 09:13]

[alexrins]

Behalve als dit ook een bericht blijkt te zijn, dat door een bot is geschreven. Dan is zelfs dit beïnvloeding van de publieke opinie!

[Coolstart]

En het blijkt een stuk minder bedreigend dan ik eerst dacht...

Ik denk dat uw gevoel er helemaal naast zit. In Hollywood zijn ze al weken aan het stuk aan het staken omdat iedereen inkomstenverlies van hun auteursrechten vreest door het toepassen AI. (bron)

AI kan natuurlijk in eerste instantie gezien worden als een verrijking maar hoe meer ik in contact kom met AI hoe meer ik denk dat het onze economie/maatschappij hard gaat veranderen. We gaan bijvoorbeeld efficiënter worden en meer kwalitatieve code kunnen produceren per persoon, makkelijker een foto laten genereren ipv een hele shoot te organiseren, een brochure vertalen duurt nu 5u, straks 5min omdat het ingebakken zit in Adobe indesign, AI gaat bijvoorbeeld vrachtverkeer autonoom maken. Het einde is niet in zicht en het gaat enkel maar harder gaan.

Dat AI een blijvende disruptieve impact gaat hebben ben ik vrij zeker van, ik vraag me enkel af hoe democratisch de voordelen en nadelen verdeeld zullen worden. Wie zal er rijker van worden? De kleine man of de grote baas? Daar gaat de staking in Hollywood ook over.

Zal AI een gemiddelde programmeur overbodig maken of zullen er gewoon meer apps gebouwd worden met hetzelfde aantal developpers? Dat antwoord heb ik niet maar bij elke iteratie van GPT lijkt het wel of we na 10 jaar nooit een illustrator, programmeur of copywriter meer gaan nodig hebben.

[MK-us]

Klein vraagje als oldtimer: moet je altijd maar betalen als je gebruik wilt maken van chatgpt / dale-3 en nog meer van dit soort programma's ?
Ik vind het er waanzinnig mooi uitzien en lees dat kinderen en ook heel veel tijd aan besteden, maar als ik zie dat er betaald dient te worden voor een plaatje dan vind ik dit dan weer vreemd ( kinderen en geld ? )
WIe kan mij hiermee helpen / onderbouwen omdat ik het zo waanzinnig gaaf vind en er ook uren mee zou kunnen verdwijnen.
Alvast bedankt !

[Tom-Z]

Waarom vind je het "vreemd" dat er voor betaald moet worden? Er gaat enorm veel mensenwerk én rekenkracht in het ontwikkelen van dit soort modellen zitten, en de servers waarop het draait zijn natuurlijk ook niet gratis.

[MK-us]

Vreemd als zijnde kinderen die er gebruik van maken en het moet geld kosten.
Ja een fiets kost ook geld maar is noodzakelijk om naar school te kunnen, dit soort software is niet noodzakelijk vandaar dat ik het feit dat het geld moet kosten vreemd.
Hopelijk zo iets duidelijker.
Wellicht dat ik de helft van m'n verhaal heb overgeslagen maar heb meerdere infarcten gehad met dit soort nadelen er van opgelopen.
Wil het nooit als excuus gebruik maken, echter werpt dit iets meer licht op mijn vraag(stelling)

[Mirved]

Dus een pretpark, games, films etc moet ook gratis zijn want kinderen gebruiken het? Je geeft zelf al aan dat het niet noodzakelijk is. Dus waarom zou het dan gratis moeten zijn. Is toch aan de kinderen/ouders of ze ervoor willen betalen. Daarnaast wordt dit net zoveel gebruikt door volwassenen.

[Reactie gewijzigd door Mirved op 24 juli 2024 09:13]

[MK-us]

Dat het geld moet kosten mag van mij hoor ( vind het wat dat betreft ook logischer ), echter als ik hoor hoeveel kinderen in deze tijd er gebruik van maken dan vraag ik mij af van hoe kan dat dan?
Hoorde paar dagen geledend dat een kind een laptop oid op school moet hebben, boeken moet kopen, shirts en broekjes met een bepaald logo moet dragen. Dit kost allemaal vreselijk veel geld.
Ik heb zelf het geluk dat ik een goede baan had voordat ik werkloos werd verklaard door het UWV en mij zelf dus niet zo druk hoef te maken over geld.
Varen de kinderen dan alleen mee op het gekochtte programma van hun ouders?
Sorry maar dat geloof ik dus niet helemaal, vandaar mijn vraag / vragen.

[BlaDeKke]

Nee die kinderen verdienen mooi hun kost in de mijnbouw zodat ze AI gegenereerde afbeeldingen kunnen maken.

[svenk91]

Voor deze Dall-e 3 zal je moeten gaan betalen, maar er zijn gratis alternatieven zoals Stable Diffusion.

[MK-us]

Stable Diffusion, dank je voor je informatie, ga hier mee aan de slag !

[Scriptkid]

hoe kom je daar bij,

Dall-E is momenteel ook gratis te gebruiken in bing , je mag 100 generaties doen per week voordat je getrottled wordt op tragere responses.

[svenk91]

Eerdere versies ja, maar als je het artikel leest merk je dat je voor Dall-E 3 een chatGPT subscription moet nemen. Ik benoemde ook specifiek Dall-E 3. Daarnaast bieden oudere Dall-E versies een stuk minder opties dan Stable Diffusion en heb je inderdaad die limitaties op aantal voor ze je throttlen. Het is een optie maar geen goede naar mijn mening.

[ASNNetworks]

maar als ik zie dat er betaald dient te worden voor een plaatje dan vind ik dit dan weer vreemd ( kinderen en geld ? )

ChatGPT en Dall-E zijn dan ook helemaal niet gemaakt voor kinderen. Dat ze er gebruik van maken is wat anders. Daarnaast zie ik niet wat er vreemd aan is als ook er betaald dient te worden voor dingen die wel voor kinderen zijn gemaakt. Speelgoed is ook niet gratis toch?

[Reactie gewijzigd door ASNNetworks op 24 juli 2024 09:13]

[Dark Angel 58]

Daar ben ik niet mee eens... ChatGPT is in de toekomst wel geschikt voor de kinderen, zodat ze met iemand kunnen praten. Denk maar aan robot-kind contact, ik heb het vaak in de SF films/tv series gezien dat ze het wel leuk vinden, en denk dat het wel klopt.

[ASNNetworks]

Het is geen mening. ChatGPT is niet gemaakt voor kinderen, wil nier zeggen dat ze er geen gebruik voor mogen maken. Als het voor kinderen was gemaakt, zou het ook andere opties bevatten en kindvriendelijk zijn. Dus precies wat ik zeg: het is niet "gemaakt" voor kinderen (als in primaire doel).

[svenk91]

Waarom is het nog niet voor kinderen? Eerste keer dat ik dat hoor.
Het is echt niet complex om te gebruiken.

[ASNNetworks]

Kinderen kunnen het gebruiken, maar het is niet "gemaakt voor kinderen". Het is niet kindvriendelijk en mist opties die je wel verwacht als het echt voor kinderen was gemaakt, dat is mijn punt (omdat op wie ik reageer het vreemd vind dat ChatGPT-4 en Dall-E betaald is).

[Nystran]

Kinderen kunnen het gebruiken, maar het is niet "gemaakt voor kinderen".

Klopt, als het "gemaakt was voor kinderen" was het wel in een roze en blauwe variant uitgebracht.

[MK-us]

Dank je wel !

[Anomnomnomymous]

De LLMs die je zelf lokaal kan installeren zijn op dit moment nog niet goed genoeg (in vergelijking met bijvoorbeeld een ChatGPT).
Maar op image generatie vlak zijn er meerdere alternatieven waar je min of meer gratis afbeeldingen kan genereren; maar hiervoor moet je wel een beetje redelijke computer hebben, zodat je niet superlang hoeft te wachten voordat de afbeelding gegenereerd is.
Maar goede (open source) programma’s die lokaal draaien zijn Stable Diffusion (in combinatie met bijvoorbeeld Automatic1111) - en in feite is dit geheel gratis te gebruiken (ik gebruik het zelf met een al wat oudere grafische kaart/computer, maar doe het échte werk op Google Collab servers die ik huur).

[MK-us]

Dank je wel voor je informatie.
Weer wat informatie waar ik mij in kan verdiepen.
WOW, best fijn dit soort informatie !

[nzall]

Hetgeen ik minder vind is dat, omdat het een Amerikaans bedrijf is, ze weer enorm preuts zijn. Ik kan begrijpen dat je geen haatdragerij wilt, maar gewelddadige of "volwassen" afbeeldingen lijken mij veel minder problematisch. Als ik AI zou willen gebruiken om porno te genereren omdat mijn kink vrij weinig nieuwe content krijgt, dan zou dat in feite geen probleem mogen zijn.

[Reactie gewijzigd door nzall op 24 juli 2024 09:13]

[HajoK]

puur hypothetisch uiteraard

[DeTeraarist]

Pak je gewoon stable diffusion of 1 van de afgeleide daarvan. 2 klikken en een vraag beantwoorden over de hardware die je in wilt zetten en je bent klaar om te beginnen met een lokale instantie.

[nzall]

Is een RTX 4070 toereikend voor zoiets? En daarnaast natuurlijk ook de bedenking dat het model dan moet getraind worden, en dat ik niet in de mogelijkheid ben om dat model langdurig te trainen, tenzij ik een training in kleinere stappen kan doen.

Daarnaast ook: het gaat bij mij niet alleen over afbeeldingen, maar ook tekst, en ik denk dat daarvoor Stable Diffusion niet geschikt is.

[DeTeraarist]

Daar kun je prima mee vooruit. Nvidia wordt goed ondersteund, met de juiste instellingen kun je met 4gb vram al aan de slag. Ook AMD krijgt inmiddels betere ondersteuning middels directml, opencl en vulkan.

Voor tekst kun je gebruik maken van talloze modellen van hugginface.

Zelf klooien ik wat rond met een rx6800xt, een plaatje van 512x512 kost me per stap nu minder dan een seconde.

[nzall]

Goed om te horen. Rest me alleen nog de vraag wat de beste manier is om een dataset te bemachtigen...

[DeTeraarist]

http://huggingface.co of http://civit.ai

Edit:nare typo in link

[Reactie gewijzigd door DeTeraarist op 24 juli 2024 09:13]

[TimTurbo2]

Mijn ervaring met stable diffusion is erg goed, weliswaar maak ik gebruik van een 4090 wat het allemaal flink wat sneller maakt, maar een 4070 moet ook prima lukken, weliswaar met wat lagere resoluties of meer geduld. Verder hoef je zelf niks te trainen als je dat niet wilt, ik download mijn ai models van civitai, daar zijn talloze voor getrainde ai models te vinden met een goed overzicht van wat ze allemaal doen en wat hun specialiteiten zijn, allemaal te downloaded in 1 klik.

Als je gebruik maakt van de Automatic1111 UI kan je ook gemakkelijk gebruik maken van Lora's, dat zijn voor getrainde AI models die je kan toevoegen aan je huidige prompt, deze Lora's zijn vaak gespecialiseerd in specifieke concepten, styles, personen, of wat je dan ook kan verzinnen, deze kan je dan combineren om zo dicht bij wat je in gedachten had te komen als mogelijk.

En dan heb je nog control net, dit is beschikbaar via een extensie voor Automatic1111, dit maakt het mogelijk om bijvoorbeeld een 3d pose aan te leveren die het figuur dat je genereert zal aannemen, maar het kan nog veel veel meer. Een oude, lage resolutie, zwart wit afbeelding her-genereren in kleur in de style van een pixar film? Geen probleem. De opties voor stable diffusion zijn eindeloos, de controle over de gegenereerde afbeeldingen is erg goed.

Text is nooit zo geweldig, maar je kan dat natuurlijk altijd later toevoegen met photoshop, paint, of welke andere tool die je wilt. Als je stilistische text wilt genereren is Stable Diffusion XL in combinatie met control net een goede optie, en als je text op iets wilt laten verschijnen, zoals een reclame bord of zo, dan kan je altijd control net met in-painting gebruiken om het achteraf toe te voegen en toch de style te behouden.

Al met al ben ik van mening met de hoeveelheid open source tools en models die er zijn voor stable diffusion, dat het kwalitatief misschien nog geen dall-e is, maar 10 maal betere controle over het eindresultaat geeft. En nu met de release van Stable Diffusion XL een paar maanden terug gok ik dat dat alleen maar exponentieel beter gaat worden.

[nzall]

wat ik bedoelde met tekst was niet tekst toevoegen aan een AI afbeelding, maar eerder volledig nieuwe teksten genereren als dusdanig. dus geen foto maken met daarop een logo, maar effectief een stuk tekst genereren rond een bepaald thema.

[Reactie gewijzigd door nzall op 24 juli 2024 09:13]

[StGermain]

Ik draai een lokale stable diffusion op een 3060ti, gaat sneller dan via de websites iets genereren.

[sander1095]

Je hoeft niks te trainen.

Installeer Invoke AI met 2 clicks en je kan aan de slag.

[cotix]

Voor trainen is dat wel karig, al kan dat misschien wel met kleinere modellen. Voor alleen inference is het prima

[McTipper]

Goede stap van OpenAI om het te integreren in ChatGPT. Hiermee zullen ze een hoop potentiële nieuwe gebruikers wegkapen bij Midjourney. Ik blijf het bizar vinden dat Midjourney geen officiële API heeft of een web interface, maar voet bij stuk blijft houden met het gebruik van Discord om afbeeldingen te genereren.

[Oon]

Dall-E 3 weigert prompts waarbij afbeeldingen worden gemaakt in de stijl van bepaalde kunstenaars.

Dat is dan wel weer jammer, maar tegelijkertijd logisch want ze kunnen die stijl niet aanbieden zonder het model te trainen op de afbeeldingen van die kunstenaars. Maar aan de andere kant is het dus opt-out, niet opt-in, dus het trainen op die afbeeldingen doen ze alsnog.

[Jan Onderwater]

Ik vind deze AI gegenereerde plaatjes geheel niet interessant, het herinnerd mij vooral aan de "Kunst" die op de zwarte mark in Beverwijk verkocht wordt of wat bij mensen aan de muur hangt die ook zwaarden hebben hangen en alleen maar fantasy boeken lezen.
Wat mij veel meer interesseert is bijvoorbeeld dat wanneer ik een technisch probleem heb, een AI die duizenden technische documenten kent en daar de oplossing weet te vinden.

[BvdW1978]

Dat doet ChatGPT best aardig, al is het in kleine niches niet heel goed. Ik vraag hem wel eens code in Rust te genereren en dat gaat goed, al moet je het niet klakkloos copy-pasten. Vraag hem om 6502 Assemblercode te genereren, en er komt compleet verzonnen nonsens uit. Het ding kent wel heel veel handleidingen van buiten.

[svenk91]

Ik zou niet alle AI afbeeldingen over één kam scheren. Je kan inderdaad snel iets kitsch maken met een simpele prompt, maar je kan ook meerdere dagen of zelfs weken in één afbeelding stoppen om je visie te verwerkelijken en echt iets heel moois maken met AI.

[MarvinJames]

Ik probeer zojuist afbeeldingen te genereren via Chat GPT in combinatie met Dall-E maar ik krijg telkens een melding van imgur te zien met de tekst "The image you are reqesting does not exist or is no longer available. "

Hebben meer mensen hier last van?

[Rhaegar1]

Ziet er tof uit hoor. Ik zit de laatste tijd veel te spelen met bing AI image generator en waar ik vooral tegenaan loop is dat (tenzij ik het verkeerd doe) bing zelf de afbeeldingen niet echt 'ziet'. Dat beperkt wel de mogelijkheden om na het generen van een afbeelding deze verder te refinen op basis van de afbeelding die er al is.

Als ik bijv. probeer om een coole afbeelding van mijn dragonborn DnD character te maken dan krijg ik mooi de 4 opties. ik kan dan alleen niet de 3e optie pakken en Bing heel gericht van die afbeelding het character pakken en er een zwaard en schild aan toevoegen o.i.d. Nu genereert Bing dan gewoon doodleuk weer 4 nieuwe opties als je een zwaard en schild aan de prompt toevoegt. terwijl je juist heel iteratief met het programma zou willen tweaken.

Als ik het een beetje begrijp is dat juist wat met deze slag wel moet gaan kunnen toch?