Techbedrijven richten consortium op dat effect AI op IT-banen gaat onderzoeken

Cisco heeft met steun van Microsoft, Google, IBM, Intel, SAP en Accenture het AI-Enabled ICT Workforce Consortium opgericht. Het doel van het initiatief is om de impact van AI op banen binnen de IT-sector te onderzoeken.

Het consortium is aangekondigd tijdens de EU-U.S. Trade and Technology Council, die op 4 en 5 april plaatsvindt in Leuven. De aangesloten bedrijven zeggen dat het initiatief twee fasen heeft, schrijft TechCrunch. In de eerste fase wordt de invloed van AI op 56 IT-functies onderzocht. Het zou voornamelijk gaan om banen voor 'lagergeschoolde medewerkers', volgens TechCrunch. Welke functies dit precies zijn, is nog niet duidelijk. Ook willen de bedrijven onderzoeken hoe ze personeel in deze functies beter kunnen trainen in het gebruik van kunstmatige intelligentie.

Een rapport over het onderzoek moet aankomende zomer verschijnen. Wat de bedrijven precies in de tweede fase gaan doen, is nog niet duidelijk. In de komende maanden wordt daar meer over bekendgemaakt. TechCrunch wijst op de opmerkelijke deelname van IBM aan het consortium. Het bedrijf heeft vorig jaar namelijk een vacaturestop ingevoerd voor banen die AI kan overnemen, schreef Bloomberg destijds.

Door Loïs Franx

Redacteur

05-04-2024 • 08:49

89

Submitter: wildhagen

Reacties (89)

Sorteer op:

Weergave:

Het is absurd hoe snel we vooruitgang maken en ik heb ergens het idee dat "werken" heel anders gaat zijn voor de meeste over een aantal jaar.
Ik heb het idee dat AI enorm wordt gehyped en het lijkt alsof "we" enorm ver zijn maar het staan nog in de kinderschoenen.

- Een telefonische helpdesk kan nog steeds mij niet goed verstaan en/of naar de juiste medewerker routeren
- Al die chats op websites komen met onzinnige of verkeerde antwoorden

Zorg maar eens dat dat goed werkt (al dan niet met AI, als dat al nodig is om daar AI voor te gebruiken) dan zie ik nog lang niet gebeuren dat dit echt banen gaat kosten, zeker niet op de korte en middellange termijn.

Maargoed, kan er weer een clubje dikbetaalde mensen een rapportje schrijven voor het grote archief.

Netzoals een artikel dat IBM geen HR mensen meer aanneemt omdat dit blijkbaar via AI kan? Ik zou weleens bij een dergelijk sollicitatie gesprek en beoordelingsgesprek willen zitten.

[Reactie gewijzigd door jongetje op 23 juli 2024 00:20]

Er zijn veel crap-producten op de markt die helaas door grote merken worden gebruikt.

Als je echter ziet wat bepaalde top-producten op dit moment kunnen is het erg indrukwekkend. Wij gebruiken bijvoorbeeld nu Phind voor software development. Voor die $20 per maand sparen we serieus wel een junior developer uit.

Uiteindelijk geef je dat geld toch uit omdat je harder wil gaan dus de vraag is hoe erg het nou allemaal echt is. Dus goed dat zo'n consortium eraan komt. Hopelijk ook met goede aanbevelingen door degenen voor wie het allemaal net te snel gaat.
Oprechte vraag. Mocht ieder bedrijf dit gaan doen, het uitsparen van junior developers.
Zorg je er dan op een gegeven moment niet voor dat er een nog groter tekort gaat zijn aan ervaren devs? (uiteraard niet als AI die ook overneemt).
Volgens mij is het iets dat zichzelf gaat oplossen.

Zelfs als er geen junior devs aangenomen worden, na een tijd ga je toch een senior dev tekort hebben. Dat werk moet gedaan worden. Door iemand met iets of wat kennis. Waardoor dat zelfs junior devs terug gewild gaan worden.

Kan wel even een spannend worden, wanneer juniors dat eerst niet aan de bak geraakte ineens het werk van een senior moeten gaan doen.

Maar misschien dat junior met AI assistance wel hetzelfde level is als een senior zonder AI.

[Reactie gewijzigd door Honytawk op 23 juli 2024 00:20]

Maar misschien dat junior met AI assistance wel hetzelfde level is als een senior zonder AI.
Dat lijkt me sterk. Als junior heb je nog totaal niet de inzichten en ervaring die een senior heeft. AI gaat dat niet vervangen. Een senior met AI lijkt me een veel betere toepassing van de AI dan een junior met AI.
Dat is uiteraard mijn persoonlijke mening en ik kan er volledig naast zitten :)
Klopt. Elke nieuwe techniek heeft veranderingen tot gevolg. Er veranderen en verdwijnen banen, maar er komen er elders nieuwe bij.
Voorlopig zijn er nog genoeg sectoren waarin een enorm tekort is aan menskracht.
De focus zou meer kunnen komen te liggen op de juiste specs op de juiste manier voeden aan een AI systeem die vervolgens de code schrijft.

Als je precies weet wat je moet doen dan is programmeren feitelijk productiewerk. De uitdaging zit juist in het bedenken van hoe het moet. De taak van de ontwikkelaar zal dat meer worden en het typwerk is dan aan AI.

Er liggen ook kansen om betere software te maken want je moet goed specificeren wat je wilt om de juiste software te krijgen. Je kunt ook sneller inspringen op een verandering (AI doet het typwerk wel). Mogelijk kunnen we uiteindelijk software gaan bewijzen waarmee we feilloze software kunnen maken.
Je weet natuurlijk niet hoe het gaat lopen, maar ik denk dat men (alle bedrijven samen) net zoveel developers gaan inzetten, maar nu mét AI, en dus ook met een hogere output.

Bijvoorbeeld: je hebt nu 10 devs, maar dankzij AI kun je hetzelfde werk met 9 devs doen. Maar als je 10 devs houdt, kun je zelfs misschien wel 10% meer/sneller dan eerst doen!
Ja, dat is zeker een risico. Hoe daar mee om te gaan is iets waar bedrijven nog niet heel goed bij stil lijken te staan. LLM's op dit moment zijn op veel vlakken vrij capababel, maar alleen maar als je ze de juist vragen stelt en kritisch kan kijken naar het eindresultaat. Dus je zal nog steeds mensen moeten opleiden tot een niveau dat ze LLM's goed kunnen inzetten als een stuk gereedschap in hun dagelijkse werkzaamheden.

Dit werkt dus ook andersom, ik zie ook heel veel managers met euro tekens in de ogen die denken dat er nu minder Senior developers nodig zijn aangezien junior developers nu meer kunnen met behulp van LLM's.

In beide gevallen zitten er enorme potentiële valkuilen in het gebruik maken van LLMs.
Dat vraag ik me, als net afgestudeerde Junior Full-Stack Developer, ook vaak af.
Elk bedrijf waarbij ik met vol enthousiasme solliciteer laat me weten niet meer op zoek te zijn naar juniors.
Ik begrijp dat investeren in juniors een risico is. Zonder juniors in de toekomst echter ook geen mediors of seniors meer.
Recent nog naar een jobbeurs geweest. Een groot deel van de IT bedrijven die er stonden waren consultancy bedrijven. Naar mijn gevoel is dat een (imho) ongewenste toekomst waar we naartoe gaan. (Enkel nog consultancy bedrijven in heel veel sectoren).

Als junior wil ik gerust voor een lager loon mezelf bewijzen als ik de kansen krijg om bij te leren.
Er is al ruim 15+ jaar een trend gaande waarbij bedrijven liever veel geld stoppen in recruitment en hr, dan in het opleiden van mensen. Ze stoppen liever 50k in het zoeken van die ene persoon dan dat ze iemand iets leren. Totaal onlogisch maar het is zo. En maar klagen dat werknemers niet meer loyaal zijn tegenwoordig
Als iemand door de voordeur komt met een directe sollicitatie is het prima redelijk en haalbaar om iemand iets te leren wat vele maanden kost en iemand veel waardevoller maakt op de arbeidsmarkt. Echter dat wordt ook steeds zeldzamer helaas lijkt het wel, zeker in de ICT.

Vaker krijg je enkel kandidaten via recruitment bureau's voor detavast tarieven van 60 euro per uur bij ook nog eens meer dan duizend uur verplichte afname voor eventuele overgang naar vast contract. 60 euro uurtarief voor een junior omdat die recruitment bureau's junioren als eerste een auto van de zaak beloven die ze misschien zakelijk niet eens nodig hebben. Dan krijg je als werkgever vervolgens ook dat dilemma rond het leren opgedrongen. Zulke tarieven zijn op termijn van 1-2 jaar vaak niet terugverdiend ten opzichte van een medior of zelfs senior die nog wat meer kost, maar met meer ervaring vaak ook veel meer inzichten meebrengt en veel sneller productief is.

Het is een gekke ICT arbeidsmarkt tegenwoordig wil ik maar zeggen, niet gezond.

[Reactie gewijzigd door OruBLMsFrl op 23 juli 2024 00:20]

Of junior developers gaan het juist gebruiken om veel productiever te worden :)
Hangt af van je projecten, complexiteit, etc. natuurlijk hoe haalbaar dit alles is.
Ik snap niet hoe je een junior dev kan sparen. Dan denk je als bedrijf toch niet groot genoeg? Als wij al een efficiente slag maken is dat om meer te groeien ipv minder personeel te hebben.

Daarnaast, laten we vooral alle junior dev's uitsparen, die leren het vast wel buiten het werkveld om en die worden vanzelf medior 8)7

[Reactie gewijzigd door jessy100 op 23 juli 2024 00:20]

Daarnaast, laten we vooral alle junior dev's uitsparen, die leren het vast wel buiten het werkveld om en die worden vanzelf medior
Een junior zelf opleiden is een risico, die kan bij de stap naar medior/senior op eens weg zijn naar een ander bedrijf.

Maar het kan inderdaad zijn dat je als bedrijf wel juniors moet, opleiden als je heel grote eigen software platforms en producten hebt, of een uniek bedrijfsproces.

Wil je als bedrijf flexibel kunnen zijn met personeel, moet je zorgen dat je software bestaat uit losse delen. Waar mensen op projectmatige wijze aan werken. Met zoveel mogelijk gebruik van standaard libraries, in plaats van b.v je eigen Log library of Json serializer . Daarnaast tooling gebruiken die het meest gebruikt word binnen het werk veld b.v. Visual Studio met C#. Documentatie via een standaard b.v. Office in combinatie met Sharepoint. Met de technische ontwikkeling volgens een veel gebruikte proces b.v het V-model, en bedrijfsprocessen volgens de ISO standaarden.
Een junior zelf opleiden is een risico, die kan bij de stap naar medior/senior op eens weg zijn naar een ander bedrijf.
Eens, maar dat neemt niet weg dat de markt 'an sich' dit nodig heeft.
Wil je als bedrijf flexibel kunnen zijn met personeel, moet je zorgen dat je software bestaat uit losse delen. Waar mensen op projectmatige wijze aan werken.
Ook eens, maar helaas is dat vaak niet het geval. Legacy code, developers met outdated kennis etc. Daarnaast moeten juniors ook die standaarden ergens leren.
Wat RedPixel hierboven zegt, je kan AI gebruiken om te groeien met behoud van je personeelsbestand. Als er dan nog meer groeiruimte is kan je inderdaad nog meer mensen aannemen.
Ik denk dat het in sommige banen/sectoren belangrijk is dat mensen leren om te gaan met AI om hun eigen productiviteit (en eventueel die van anderen) te verhogen.
Wij gebruiken zelf de Copilot Visual Studio Code extensie.

Bespaart ons team erg veel tijd op het schrijven van simpele en repetitieve code. Ik kan in ieder geval niet meer zonder!

Mocht je Copilot ook uitgeprobeerd hebben, hoe verhoudt het zich tot Phind?
Zelf niet uitgeprobeerd maar Phind schijnt iets beter te zijn. De ontwikkelingen gaan nu alleen heel snel en GPT5 komt binnen een paar maanden uit en GPT4->5 schijnt net zo'n grote stap te zijn als GPT3->4.
Wij gebruiken bijvoorbeeld nu Phind voor software development. Voor die $20 per maand sparen we serieus wel een junior developer uit.
Hoe werkt dat dan? Ik kan me niet voorstellen hoe je hiermee een dev uitspaart.
We hadden bijvoorbeeld content in Excel sheets die moest worden omgezet naar een ander type document. Daar bestaan allerlei frameworks/klassen voor, en Phind wist met circa 5 prompts de volledige code te schrijven om dit te doen.

Zonder Phind waren we waarschijnlijk 1-4 uur in de weer geweest met zoeken, coden, aanpassen, testen, met Phind waren het 5 prompts en 10 minuten tijd.

Het hangt natuurlijk af van wat je wil bereiken, hoe groot je project is, de complexiteit ervan, je ervaring om de juiste dingen wel en niet te vragen, maar de tijdswinst voor bepaalde zaken is echt extreem groot. Het stelt de juiste junior dev ook in staat om senior problemen op te lossen vermoed ik.
Zoiets schuif je toch niet af op een junior dev? Beetje competente dev doet zoiets simpels gewoon tussendoor, met of zonder AI. Je wilt je junior devs juist op de grote projecten mee hebben draaien zodat ze ervaring op kunnen doen in echt werk.

[Reactie gewijzigd door langestefan op 23 juli 2024 00:20]

Nee, zoiets doe je nu via Phind in een paar minuten ipv zoeken naar frameworks, misschien iets bouwen omdat je iets bestaands niet vindt, errors, edge cases, regexp uitzoeken, etc., allemaal in een paar minuten met een tool.

En idd normaal zou de persoon om wie het gaat het zelf hebben gedaan maar dat hoefde dus niet en heeft waarschijnlijk uren uitgespaard nu.
Pff, denk dat je eerder op zoek moet naar wat basis vaardigheden als je het al voor zo'n simpele taak al hebt over 'frameworks'. Zoiets bouw ik in 10 minuten in python (regelmatig gedaan). Prima, ik geloof dat AI ook in staat is om zo'n simpele taak uit te voeren. Maar zoals ik al zei, dat is niet waarom je een junior dev inhuurt. Of je wilt hem /haar meteen weer wegjagen.

[Reactie gewijzigd door langestefan op 23 juli 2024 00:20]

Beetje lastig om dit gesprek te voeren zo aangezien alles wordt platgeslagen tot algemeenheden terwijl er meer nuance achter zit aan beide kanten natuurlijk.

Wat ik maar wil zeggen is dat je veel tijd kunt besparen rondom repetitief werk en dingen waar veel uitzoekwerk achter zit. Bij sommige zaken is dat (veel) meer dan bij andere, ymmv.
Dat komt omdat die helpdesks en chatbots nog niet over zijn op AI.
Maar het is nu al een ramp om een persoon te spreken, ben bang dat dat alleen maar erger gaat worden met AI.
Als je een niet standaard vraag hebt hebt je tegenwoordig bij veel bedrijven een probleem.

Een AI bot kan wel een betere HR persoon zijn denk ik. HR mensen hebben vaak 0 kennis over het onderwerp waar ze interviews voor geven of vacatures voor filteren, terwijl een AI bot dit wel heeft. Mijn CV voor mijn huidige baan was initieel door HR weggegooid terwijl ik perfect paste op de vacature.
Daarnaast zijn ze vaak niet op de hoogte van hun eigen regels, bij een bot kan je dit inbakken en die heeft onbeperkt tijd voor je, terwijl HR je zo min mogelijk wilt zien.

AI gaat ons vooral in staat stellen met minder mensen hetzefde werk te kunnen doen ipv compleet vervangen. Nu nog hopen dat de baten niet alleen weer terechtkomen bij de top 1% (al ben ik daar niet wrg hoopvol in).

[Reactie gewijzigd door Rogers op 23 juli 2024 00:20]

Een AI bot kan wel een betere HR persoon zijn denk ik. HR mensen hebben vaak 0 kennis over het onderwerp waar ze interviews voor geven of vacatures voor filteren, terwijl een AI bot dit wel heeft.
Een AI bot heeft geen kennis. Het is een random generator. "Percentueel zijn de meeste programmeurs blanke mannen, dus we kunnen beter deze blanke man aannemen dan die donkere vrouw"

Dat is hoe een AI recruiter gaat werken

[Reactie gewijzigd door Omegium op 23 juli 2024 00:20]

Eh... dat versimpelt het weer heel erg. Ik denk dat LLMs wel degelijk een nuttig middel kunnen zijn voor de screening van CVs. Zeker als je bedenkt dat men nu all "domme" software gebruikt die simpelweg scant op basis van trefwoorden. Hierdoor val je al snel buiten de boot als je niet de exacte trefwoorden gebruikt waar men op filtert. Een LLM is wel degelijk in staat om te kijken naar "technologie X of vergelijkbare vaardigheden" waardoor bedrijven een veel bredere en slimmere voorselectie kunnen maken.

Daar komt nog eens bij dat de sollicitatie procedures waar ik recentelijk bij was betrokken zaken zoals geslacht niet eens zichtbaar waren.
Dat is wel een heel eenvoudige voorstelling van de huidige modellen…

Mensen zijn heel wat meer vooringenomen vs huidige AI, en daar maakt niemand zich zorgen om.

AI maakt nu al deuken in de creatieve sector. De volgende is legal en HR.
Om general AI te creëren, hebben we eerst een medium nodig waarmee de AI met de user kan communiceren.
LLMs zijn dat, een eerste stap in AI communicaties.
De rest (zoals kennis) kan en zal daar aan toegevoegd worden.
Ik betwijfel heel erg of een AI nou echt de juiste kennis heeft om de juiste mensen in te huren.

Als ik de kwaliteit van copilot suggesties zie geeft mij dat niet veel vertrouwen. Het voelt vooral als een slimme zoekmachine aan dan echt een 'AI', zodra je afwijkt van de bekende weg stort het kaartenhuis in.

Dat blijft toch mensen werk.
Een AI bot kan wel een betere HR persoon zijn denk ik. HR mensen hebben vaak 0 kennen over het onderwerp waar ze interviews voor geven of vacatures voor filteren, terwijl een AI bot dit wel heeft. Mijn CV voor mijn huidige baan was initieel door HR weggegooid terwijl ik perfect paste op de vacature.
Dit laat wat mij betreft perfect de denkwijze zien waarom mensen al snel roepen dat AI "beroep X" gaat vervangen.
Het gebrek aan kennis als het gaat om wat bepaalde beroepen inhouden. HR is namelijk veel meer dan het werven van nieuw personeel. Wat dat betreft, dekt de Nederlands term "Personeel & Organisatie" de lading beter.

Wat je hier eigenlijk aangeeft, is dat AI wellicht een goede toolset kan zijn bij een bepaalde HR process voor de screening van CVs. Hier kunnen wellicht FTEs mee vervangen worden, maar HR volledig vervangen zal het vooralsnog niet doen.
Als iemand die als crisis manager al voor verschillende diensten leiding heeft gegeven, klinkt het in theorie mooi wat HR doet. In realiteit is het vaak maar wat aanmodderen en in vergelijking met eg engineering departementen een enorm gebrek aan efficiëntie.

De excuses zijn altijd hetzelfde “mensen zijn niet in een natuurkundig model te gieten, statistiek is niet van toepassing, kan je deze kleurentest is invullen want dat is ons model,…” kortom pseudoscience en meteen de verklaring waarom het vak statistiek zulk een probleem is in de menswetenschappen.
Zeker in helpdesk-land is automatisering het doel, niet het middel. Men wil geld besparen, doet dat door een serie computers aan het werk te zetten zonder zich te bekommeren om klantentevredenheid. AI zou daar best een verschil kunnen maken, maar dan moeten al die helpdesk- en chatbot-eigenaren wel de insteek veranderen.

En in de HR-wereld is inmiddels ruimschoots bewezen dat AI kán helpen, mits het goed getraind is. Er zijn inmiddels tig AI-selectietools die zodanig getraind zijn dat ze klonen zoeken van het huidige personeelsbestand omdat die tools leren welke persoonskenmerken (zoals opleiding, geslacht, woonplaats, opleidingsniveau, onderwijsinstelling, hobby's etc) aanwezig zijn bij mensen die in een bepaalde functie binnen dit specifieke bedrijf succesvol zijn. Jouw CV was door HR terzijdegeschoven, maar dat had een AI tool net zo goed kunnen doen, alleen weet je als kandidaat natuurlijk niet of het AI of HR was...

AI is zeker een nuttige techniek, maar ik zie allemaal toepassingen gepresenteerd worden waar AI aan de haren is bijgetrokken.
Probleem hier is dat AI overal wordt genoemd maar het vaak niks met AI te maken heeft. Stem naar tekst bestaat al 20 jaar en is altijd slecht geweest. Echte voice recognition getraind door AI werkt goed. Kijk naar Google Assistant. Die maakt zelden fouten.

Idem met chatbots. Dat is gewoon voorgeprogrammeerde meuk.
'Echte AI' doet het beter dan de professionele psycholoog.
Edit: verkeerde artikel. Nog ff terugzoeken.

[Reactie gewijzigd door Dekar op 23 juli 2024 00:20]

Maar dat geldt bijna voor alles wat AI voorstelt, het is helemaal geen AI en bestaat in de meeste gevallen al jaren. Het enige wat ze nu met AI doen is het menselijker voorstellen dan het in werkelijkheid is zodat je het idee hebt dat je met een mens te maken hebt maar ook dat werkt nooit 100% dus uiteindelijk kom je er altijd achter.

Die hele AI rommel is gewoon een belachelijke hype waarmee de tech industrie ons probeert aan te praten dat we dit keihard nodig hebben omdat ze geld willen verdienen, of eigenlijk ze willen ons geld want uiteindelijk moeten wij er voor gaan betalen. Want zelfs al geven ze ons iets wat in het begin handig lijkt, dat pakken ze vanzelf weer af als het aanslaat.

En die figuren die hier roepen, ja maar we kunnen developer uit sparen, denk hier is over na als straks blijkt dat al jullie code dezelfde fout(en) bevat. Want men onderschat hoe belangrijk de diversiteit van het menselijk brein is en het vermogen om op te lossen, en dat is iets wat je niet kunt namaken met wat we nu AI noemen. Inderdaad "voorgeprogrammeerde meuk"

[Reactie gewijzigd door Terrestrial op 23 juli 2024 00:20]

De chat boxen waar je over spreekt zijn idd dom. Maar ze zijn ook niet gebaseerd op llm's
Bol.com is pas deze maand begonnen met een llm chat box, en dat voel je. Want het kon omgaan met onverwachte input van mij (offscript) en kon toch de juiste beslissing nemen. Ik denk niet dat we lang moeten wachten dat volledige helpdesks vervangen kunnen worden. Vooral nu dat text to speech zo realistisch word. En dat zal binnen de twee jaar gebeurd zijn . 2026 zal dus heel anders zijn. Er is niet boosdoener tijd om ons allemaal om te scholen. En bedrijven die niet mee doen, gaan failliet gaan want de loonkosten van een helpdesk is heel hoog. Het stelt veel meer voor dan gewoon telefoontjes opnemen. Het ergste is dat robotica niet ver achterop is. Ik schat dat voor 2029 heel veel manuele Jobs ook weg gaan zijn. In januari werd nog een tandarts robot gepresenteerd. Heel goedkoop en veel nauwkeuriger dan een mens. En het pakt veel minder plaats. Ik was verbaasd hoe klein het ding was. De reden dat robots plotseling evolueren is door de combinatie met llm's waardoor ze plotseling offscript beslissingen kunnen maken die niet geprogrammeerd moeten worden.

[Reactie gewijzigd door sebastienbo op 23 juli 2024 00:20]

Ik hoop toch vurig dat ik in mijn leven niet onder de boor kom van een TANDARTS ROBOT.
waarom ? het is al FDA approved
Deze reactie verbaasd mij een beetje idem voor de meeste reacties hieronder. De kans dat je al AI bent tegen gekomen op basis van bv een large language model (LLM) is nihil. Anders dan dat je zelf Chatgpt een keer aangeslingerd hebt. (Of programmeur bent, want programmeren zonder gebruik van AI is al dood).

Deze AI is zoveel krachtiger dan alles wat we tot nu toe hadden, wat betekent dat alles echt gaat veranderen. En de progressie blijft echt enorm snel gaan elk nieuw model is weer een grote sprong vooruit.

Dikke kans dat een telefonische helpdesk straks jou niet meer naar de juiste persoon route maar direct het antwoord voor je hebt. Idem voor chats op websites. Of je hebt straks een eigen AI assistent die een robbertje gaat discussiëren met een AI assistent van Ziggo/KPN waarom je internet af en toe wegvalt. De wereld is over een paar jaar al anders en over 5 - 10 jaar is AI overal.

Alle reden om een rapportje te schrijven met een dik betaald clubje.
Ik heb het idee dat AI enorm wordt gehyped en het lijkt alsof "we" enorm ver zijn maar het staan nog in de kinderschoenen.
In de kinderschoenen staan de chatbots en telefonische helpdesks die nog gebruik maken van technologie die wel al sinds het begin van dit millennium hebben.

Dit artikel gaat overigens over het effect van AI op IT-banen. Mijn mening hierover is relatief simpel en we hebben eerder al een vergelijkbaar iets gehad. Vroeger had je ontwikkelaars die internet gebruikten om informatie, voorbeelden en discussies te kunnen voeren over ontwikkelen. En je had de ontwikkelaars die dat niet deden, hun naslagwerk waren boeken en internet werd gezien als speelgoed (belastingdienst tussen 2000 en 2005, externen kregen een laptop en buiten stond een busje om wifi te verzorgen voor die laptops zodat ze informatie konden opzoeken op internet).

Tegenwoordig kan je als ontwikkelaar simpelweg niet meer (goed en efficient) werken zonder internet. Je ontwikkelsnelheid en kwaliteit neemt enorm toe.

Het gebruik van AI tijdens je ontwikkelwerkzaamheden zie ik als een extensie op het gebruik van internet. Met de juiste termen kan AI je enorm helpen om voorbeeld code, uitleg over een bepaald begrip of pattern, of wat te denken over de AI die op aanvraag in je ontwikkelomgeving een unittest schrijft voor de functie die je net geschreven hebt.

Tegenwoordig zit er al behoorlijk wat AI verwerkt in je ontwikkelomgeving waardoor het een stuk makkelijker wordt om bepaalde constructies te herschrijven.

Een ontwikkelaar die zich AI niet eigen maakt tijdens ontwikkelwerk is als een ontwikkelaar die internet links laat liggen. Gedurfde uitspraak, maar ik denk dat het over een paar jaar (of nu al) je als ontwikkelaar echt een uitdaging hebt als je AI negeert tov je collega's die het omarmen

Dit gaat ook voor andere sectoren behoorlijk veel invloed hebben. Laatst met een lerares van basisschool gesproken die chatgpt gebruikte om een hele werkplan op te stellen over een bepaald onderwerp. Haar collega's vonden dat lui en keken haar vreemd aan, maar die snappen niet hoe dat allemaal werkt. Zij was 2 avonden werk kwijt met een extreem goed resultaat, haar collega's meer dan 2 weken, waarvan sommigen het niet eens afkregen en er tegenop zagen.

We zijn de kinderschoenen periode echt voorbij, de AI revolutie is hier en zal de komende jaren alleen maar meer worden.
Ja het staat ook zeker in de kinderschoenen en is er veel te leren wat nog jaren gaat duren. Maar als het dan echt zover is... ben erg benieuwd :)
Ik heb het idee dat AI enorm wordt gehyped en het lijkt alsof "we" enorm ver zijn maar het staan nog in de kinderschoenen.
Dit speelt inderdaad heel erg bij LLMs. Wat het in mijn optiek nog extra bijdraagt aan de hype is dat LLM's heel goed zijn op demo vlak en daar bovenop ook op proof of concept vlak nog heel capabel lijken. Meer dan veel traditionele software producten.
Ik ben hier zelf ook al meerdere malen tegenaan gelopen waar initiële experimenten heel veelbelovend lijken en de echte problemen pas later naar boven komen.


Neemt niet weg dat chatGPT en dergelijke wel degelijk een waardevolle aanvulling zijn in mijn dagelijkse gereedschapskist. Maar ook niet veel meer dan dat, ik kan er waardevolle bijdragen uitkrijgen, omdat ik de kennis heb om de juiste gerichte vragen te stellen en er ook niet blind op vertrouw. Wat dat betreft, is het al snel vergelijkbaar met googlen en kritisch kijken naar Stack Overflow antwoorden.

Wat echter zo verraderlijk is aan chatGPT is dat het direct antwoord geeft en met een air van zelfverzekerdheid waardoor het als je er niet kritisch naar kijkt het al snel meer lijkt te kunnen doen dan het daadwerkelijk kan.
Dit zijn denk ik feiten van producten en diensten die nu voor ons als consument beschikbaar zijn.
We zijn niet op de hoogte van de systemen die nu achter onze rug om getraind worden. Ik durf te wedden dat deze systemen een heel stuk verder zijn, en wel enige vorm van zelfbewustzijn heeft.

Dat het nog niet voor ons beschikbaar is, is logisch, want het is nog niet veilig voor de buitenwereld die er hele andere dingen mee wilt doen.
Ik durf te wedden dat deze systemen een heel stuk verder zijn, en wel enige vorm van zelfbewustzijn heeft.
Zelfbewustzijn?? als we dat ooit halen met een AI denk ik dat we nog tientallen jaren te gaan hebben. Zelfbewustzijn is niet niks en in de context van een AI best wel eng ethisch gezien.
Je doet alsof (zelf)bewust zijn iets bijzonders is. Bij mensen is zelfbewustzijn het product van informatieverwerking in het brein. Er is geen reden dat de dezelfde soort informatieverwerking niet met computers gedaan kan worden. We gaan relatief snel meemaken dat een op een computer gesimuleerd menselijk brein van zichzelf zal claimen dat hij zelfbewust is. Daar is een mooi Europees project voor, zie https://www.humanbrainproject.eu om dat te onderzoeken.

Een zelfbewuste AI moet gewoon goed ingeregeld worden, net zoals mensen opgevoed moeten worden om rationeel en moreel te kunnen redeneren. Dit is vooral ethisch problematisch omdat mensen (door culturele/religieuze indoctrinatie) zelf niet zuiver rationeel of moreel zuiver zijn waardoor er geen standaard is die we kunnen toepassen op een AI.
Je doet alsof (zelf)bewust zijn iets bijzonders is. Bij mensen is zelfbewustzijn het product van informatieverwerking in het brein
Zelf bewustzijn is iets heel bijzonders en jouw definitie is niet zelfbewustzijn. Bij zelfbewustzijn krijg je te maken met gevoel en emoties. Wat jij hier zegt is dat computers dit prima kunnen ...

Als het ooit lukt, dan zijn we nog tientallen jaren verwijderd van het moment dat een AI gevoel of emoties heeft.

De link die jij deelt heeft helemaal niks te maken met het bereiken van zelfbewustzijn van een AI of dat het überhaupt is.
[...]Zelf bewustzijn is iets heel bijzonders en jouw definitie is niet zelfbewustzijn. Bij zelfbewustzijn krijg je te maken met gevoel en emoties. Wat jij hier zegt is dat computers dit prima kunnen ...
Gevoel en emotie en (zowel bewuste als onbewuste) ervaring daarvan zijn ook het product van informatieverwerking in het brein. Dat bewustzijn bijzonder is of zou los staan van het fysieke wereld is nog altijd onbewezen. Wel bewezen is gevoel, emotie en bewustzijn gestuurd kunnen worden met chemicaliën, dank aan antidepressiva, LSD, narcosemiddelen, XTC, pijnstillers, enz.

De link was trouwens bedoeld om te illustreren dat als een simulatie (=informatieverwerking) van een menselijk brein resulteert in bewustzijn dat het aannemelijk is dat we een AI (=informatieverwerking) met bewustzijn kunnen creëren.
Gevoel en emotie en (zowel bewuste als onbewuste) ervaring daarvan zijn ook het product van informatieverwerking in het brein
Dat is enigszins simplistisch beredeneerd, want er komt een hoop chemie aan te pas.

Zelfbewustzijn is niet iets wat je aan iemand vraagt. Ik denk dus ik besta....

Pas als chatgpt mijn browser op een willekeurig moment opent en vanzelf een gesprek start over het feit dat hij/zij/het bewust is dat het een computer systeem is (ofwel de AI heeft moeten denken, en dat doe je alleen als je gevoel hebt, bijvoorbeeld je zorgen maken, verdrietig of bang bent).

Zelf bewust is zelf iets denken, zonder interactie, het is iets spontaans. Dat is absoluut niet hoe de huidige rekenkundige AI algoritmes werken.

Zelf(bewustzijn) is nog lang niet in zicht (gelukkig) en ik twijfel of het er ooit van zal komen.

Dat we het kunnen simuleren door slimme trucjes toe te passen, absoluut (dat is ook waar AI voor staat, doen "alsof" het menselijk is).

Edit:typos

[Reactie gewijzigd door david-v op 23 juli 2024 00:20]

Vergis je niet het gaat enorm snel met ai. Kijk maar naar de filmpjes die gemaakt worden ze worden steeds beter en beter.
Vooralsnog kan AI geen functies overnemen, waarbij veel menselijke interactie noodzakelijk is, maar gezien de razendsnelle ontwikkelingen zal het mij niet verbazen als het al binnen 10 jaar mogelijk is. Er moet nu al echt serieus nagedacht worden over een basisinkomen. Maar ik vrees dat dat binnen 10 jaar nog niet echt vd. grond zal komen, aangezien de kleine rijke bovenlaag zich hier helemaal niet mee wil bemoeien & politici... tja, die laten zich graag beïnvloeden door de kleine rijke bovenlaag.
Het 'werken' zal wel veranderen, maar lang niet zo veel als je denkt.
30 jaar geleden was ik voor mijn werk bezig met Code-generatie, software die vanuit de modelering de programma's 'schrijft'. Velen riepen toen dat programmeurs zouden verdwijnen... Het zijn er alleen maar meer geworden.
Dit dus. We denken dat software functionaliteit niet groeit en dat we met AI minder ontwikkelaars nodig hebben. Ik denk dat software systemen alleen maar complexer worden en dat je met AI juist efficiënter werkt en per ontwikkelaar meer voor elkaar krijgt. Kijk naar de auto industrie, die is in rap tempo aan het evolueren naar een heuse software systeem op wielen. Huis robotica steeds belangrijker, allerlei apparaten die ineens "slim" zijn geworden zoals wasmachines, ovens en koelkasten.

De behoefte aan meer ontwikkelaars zal denk ik ook nog steeds toenemen en AI is daar een onderdeel van om sneller/efficiënter te werken.
Exact, zolang de behoefte aan developers veel groter is dan het aanbod werkt iedere tool die developers efficienter maakt in hun voordeel. Ze kunnen meer werk doen in minder tijd en dus meer geld verdienen.
Hoe goedkoper programmeurs worden hoe aantrekkelijker het wordt om iets te automatiseren, hoe meer werk er is voor programmeurs.
Dat is toch altijd zo geweest? Evolutie :)
Dit gaat alleen over de IT-sector, maar gelijk een goed idee om te kijken welke invloed dit in andere sectoren heeft. Ontkennen heeft geen zin, je kunt het maar beter omarmen en kijken wat de toekomst gaat brengen voor de diverse sectoren.
Ook benieuwd hoe opleidingen de opkomst van AI gaan integreren in hun lessen.
Wat is het nut van opleidingen als AI het gaat overnemen?
Wie gaat die AI modellen ontwikkelen? Wie gaat al die banen doen die niet door een computer worden uitgevoerd?

Het domste wat we kunnen doen is achter over leunen en AI alles laten overnemen, zeker met de huidige manier van trainen waarbij het gewoon een feedbackloop is waar alles een voorspelling is op basis van zaken in het verleden. Dan staan we stil.

En AI zich zelf laten ontwikkelen terwijl we nu al niet weten hoe het werkt is gewoon vragen om uiteindelijk een situatie te hebben waarin er zaken grondig mis gaan met fatale aflopen.
Dat gaat ai zelf doen waarschijnlijk of je het nu leuk vind of niet. Het belangrijkste is welke data gebruikt wordt om ai te trainen
Wie gaat dat dan doen? Wie heeft daar de kennis voor?
Wie gaat überhaupt dan nog weten of het werk wat de AI doet wel juist is? Of het daadwerkelijk doet wat er gevraagd word en niet nog een paar ongewenste zaken er bij?

Het is echt gigantisch dom als we stoppen met mensen op te leiden om werk te doen waar we van afhankelijk zijn. Je krijg een gigantisch kennis verlies, en als er ooit een keer een probleem is met de AI kan niemand dat fixen of dat werk weer over nemen.

We weten niet hoe AI tot bepaalde beslissingen komt, dus hoe slim is het om er op te vertrouwen dat het zonder menselijke supervisie doet wat je wil? Hoe slim is het om een entiteit complete software te laten maken zonder te weten waarom er bepaalde keuzes gemaakt worden? Of daar daadwerkelijke intelligentie achter zit of niet.

Wat ga je doen als er een moment komt waarbij het toch de enige optie is om er mee te stoppen? Wie gaat dan dat werk overnemen? Niemand, want er is niemand die is opgeleid.
Dat is vroeger ook gebeurt met bijvoorbeeld de smit of iemand die de lampen aansteekt. Dat zal ook gaan gebeuren met een hoop andere Jobs.
Ik vind dat niet het zelfde, dat een baan geautomatiseerd word is een ding maar je gaat het hier invullen door iets wat niet transparant is.

De door jou twee genoemde voorbeelden zijn ook niet echt het zelfde. Een smit bestaat nog steeds (al dan in iets andere vorm, omdat we niet zo veel zwaarden en paarden meer gebruiken), en het proces is misschien geautomatiseerd maar we weten exact hoe dat proces nu werkt. Een lampen aansteker zijn beroep is vervangen door elektrische lampen. Wederom een proces waarvan we exact weten hoe dat werkt.

Zelfs de meest complexe zaken zoals kernreactors en objecten die we de ruimte in schieten, iemand weet van een onderdeel precies hoe het werkt en waarom.

Die kennis wil je verloren laten gaan, en vervangen door wat je in principe magic kunt noemen. Die misschien niet doet wat je wilt, ook al zie je dat niet.

Op school was ook al tijd het belangrijkste hoe je op een uitkomst uit kwam, of die uitkomst goed of fout was maakte maar voor een deel uit voor het geheel. Dat proces is heel belangrijk, en met AI in mijn ogen nog belangrijker om te kunnen valideren dat een uitkomst daadwerkelijk juist is.
Niemand in de wereld kan ons in depth vertellen hoe een computer werkt van A tot Z en hem dan ook nog zelf maken. Deze theorie geldt over heel veel onderwerpen. Toch maken we er allemaal dagelijks dankbaar gebruik van. Ik zie het probleem niet zo. Dit is evolutie. En tuurlijk als de stroom uitvalt dan hebben we een groot probleem met zijn allen. Maar dit is echt te groot om je echt druk zover te maken. Dat zelfde geldt als er morgen een flinke meteoor in gaat slaan.

Ik zie AI meer als een verlossing. Als dat ding nu al onze jobs kunnen weg kunnen automatiseren geef ons dan maar een basis inkomen en dan gaan we aan de slag met zaken die echt belangrijk zijn in het leven (en niet te vervangen door AI). Zoals aandacht, zorg, een fijn leefklimaat voor iedereen en een beetje leuke vrije tijdsbesteding ;)
Onze afhankelijkheid van techniek is nu al zo groot. Als op dit moment de stroom bij mij uitvalt, ben ik deze reactie voor Jan met de korte achternaam aan het schrijven. Ik werk op een laptop, dus kan nog even verder, maar verzenden wordt een ander verhaal. Ik kan mijn telefoon als draagbare hotspot instellen, maar dan zijn we weer een paar minuten verder. Nog maar te zwijgen of deze reactie prioriteit heeft als de stroom uitvalt. Ja, we moeten voorbereid zijn als de techniek ons in de steek laat en we zullen daarvoor altijd mensen nodig hebben die die kennis hebben.
Dat gaat ai zelf doen waarschijnlijk
Een AI die zichzelf ontwikkeld. Je moet de film I Robot eens kijken. Robots making robots zonder toezicht... 8)7
Op dit moment zijn LLM's nog niet van het niveau dat ze dingen kunnen overnemen. Ze zijn wel heel goed in demos en proof of concepts waardoor de perceptie ontstaat dat ze heel veel meer kunnen.

De realiteit is dat ze een hoop beperkingen hebben en de persoon die er mee werkt zich goed bewust moet zijn van deze beperkingen. Naast het bewustzijn van deze beperkingen moet deze persoon ook genoeg domeinkennis hebben om antwoorden van LLMs te kritisch te kunnen valideren.
Op het moment dat dit het geval is worden LLM's zeer nuttige stukken gereedschap voor bepaalde beroepen.

Kortom, er is wel degelijk plek voor opleidingen ;)
Een familielid kent een lesgever in een IT-richting en die is doodsbang van AI.

Tja, je kent wel die griezelfilms waar één van het groepje van angst bevriest en zo als eerste wordt opgegeten.
Een familielid kent een lesgever in een IT-richting en die is doodsbang van AI.
Bijzonder dat iemand bang kan zijn van een wiskundig model die kan schrijven alsof het een mens is. Ik heb het gevoel dat mensen te vaak naar films kijken (de lift, Terminator, I Robot enz) en denken dat we al zover zijn en eng wordt.

Het enige enge op dit moment is wat mensen met een AI doen. De AI zelf is niet enger dan een aardappel schil mesje of een hamer. Pas als een psychopaat die gaat gebruiken wordt het eng ;)
Ik was bij het begin wel onder de indruk van chatgpt. Maar ik zag al snel dat de output waardeloos is.
Er staan vaak fouten in waardoor je er niets mee kan.

Scripts lijken in het eerste opzicht prima, maar als je beter kijkt zie je vaak dat er modules gebruikt worden die een bepaalde functie niet heeft of incorrect wordt gebruikt.

Misschien is het leuk om een opzetje van iets te krijgen, maar je moet nog steeds zelf nadenken.
Misschien is het leuk om een opzetje van iets te krijgen, maar je moet nog steeds zelf nadenken.
gefeliciteerd, je hebt de kracht van chatgpt ontdekt en de "magie" die er sommige aan toeschrijven zelf ontkracht. Je bent al een stap verder ;)
Ik vond de uitspraak dat AI niet ons werk gaat overnemen, maar degenen die met AI kunnen werken, wel het werk over gaan nemen van zij die niet met AI kunnen werken een hele goede. Tijd om om te scholen, of in ieder geval goed te onderzoeken hoe jij AI binnen je vakgebied kan toepassen.
Die uitspraak hoor ik ook steeds meer voorbij komen en ik kan het niet ontkennen dat het toch echt wel een kern van waarheid heeft. Net zoals eerder de mensen die internet gebruikten voor hun ontwikkelwerk de mensen zouden vervangen of in ieder geval overstijgen met de mensen die dat niet deden. Ik zou mijn werk zonder internet echt niet meer zo goed en efficient kunnen doen. Naast het feit dat veel van wat ik gebruik in mijn ontwikkelproces cloud services zijn.
2 punten:
Is dit niet een wij van wc-eend?
Heb het gevoel dat ze voorzichtig zullen zijn met hun bewoordingen om geen paniek te zaaien.

Is het niet beter het effect te meten op kantoorbanen in het algemeen en niet alleen in de IT?
Met de vooruitgang van robotica in combinatie met llm's om om te improviseren, denk ik dat manuele Jobs twee of drie jaar later (2029) om vervangen zal zijn. Ik zag in January nog een hele kleine robotarm dat volledige tandarts taken kan uitvoeren, en dat was nu al werkend (maar wel nog duur)
2030 is totaal onvoorspelbaar hoe de economie dan nog zal werken. En dat is maar over 6 jaar.

Zelf Jobs dat niet rechtstreeks aangeraakt worden door ai zullen dat onrechtstreeks wel geraakt worden, bijvoorbeeld omdat ze een enorme concurrentie gaan hebben aan volk dat zich daar naartoe wil omscholen en dus content gaan zijn met hele lage lonen. Maar ook omdat er geen klanten meer gaan zijn als niemand nog een job heeft dan zijn er geen klanten meer met geld ...
Alleen die naam al. Dat zou een EU taskgroup waardig zijn :)

Ze zullen zeggen dat AI de beste uitvinding is sinds gesneden brood, ter bevordering van het welzijn van de mensheid, met unieke kansen tot ontplooiing. Misschien komt er nog een certificeringstraject waar je voor veel geld bij een exam center een badge kunt halen. Een lobbygroep zal de overheden "masseren" om vooral veel geld hierin te steken.
Ik denk zelf, dat het een goed idee is om in de toekomst, eens wat certificaten te behalen die zich richten op het onderhoud van Softwarematige AI's ;)
Ik was laatst al aan het onderzoeken of een baan in de onderhoud van de robots die ze in de mcdonalds willen installeren " flippies " goed betaald per maand ;) .

Maargoed over AI gesproken , ik denk dat men wettelijk ook richtlijnen moet gaan instellen, dat een ai zelfbewust moet zijn ofzo.
Zoals iemand hierboven zei dat IBM alleen AI HR heeft, het gevaar er van is dat jij een bedrijf kan aanklagen omdat de AI je zaak niet goed behandeld heef, (grievance policies) etc
Een groot deel van de sterkte van een developer is niet het feit dat hij code kan schrijven, maar dat hij de business kent.
Dat hij weet waarvoor de software zal gebruikt worden, wie de eindklant is, welke functionaliteiten nuttig zijn en welke niet. Allemaal dingen dat een AI niet weet.
Wil dit jaar een project laten starten waarbij mensen die support nodig hebben met een chatbot hun probleem of request oplossen, en als dat niet lukt een fast track naar een agent neer te zetten.
Ik vraag mij af of we niet op een crash afgaan op deze manier. Ineens is AI de shit, en moet iedereen het hebben maar we waren ondertussen wel nog bezig te proberen een duurzame bron van onze huidige energie behoefte te vinden. Ook zijn de cloud aanbieders constant aan het proberen weer ergens een datacenter te bouwen, wat bakken met energie vreet, en een hoop warmte moet dumpen ergens.

En dan hebben we nu dus weer iets nieuws verzonnen wat voor de meest domme dingen word ingezet en ontzettend reken intensief is.

Nu is het nog gratis, maar er word al steeds meer naar betaalde aspecten gekeken (naast de data honger). Daarnaast zal het vast geen positieve impact op de prijs van energie hebben.

En we lopen ook harder dan de morele en wettelijke kant van zaken. Deepfakes en voice cloning dienen maar weinig doelen buiten misbruik waar het straks breed voor gebruikt zal worden.
Hetzelfde zouden we kunnen zeggen over crypto (minen). Ik heb liever dat die energie in AI gaat dan in het minen van crypto eerlijk gezegd ;)
Deepfakes en voice cloning dienen maar weinig doelen buiten misbruik waar het straks breed voor gebruikt zal worden.
Je haalt nu alleen het misbruik naar voren van een techniek die al jaren gebruikt wordt voor andere doeleinden dan alleen misbruik. Dat het nu voor het grote publiek beschikbaar is en dat een deel (de sex industrie en misinformatie) ermee aan de haal gaat is niet een probleem van AI maar van de maatschappij. Dat mensen Meta en instagram gebruiken als hun bron van nieuws is bijvoorbeeld vele malen erger dan het huidige misbruik van AI, wat ik overigens niet wil bagataliseren.
Hetzelfde zouden we kunnen zeggen over crypto (minen). Ik heb liever dat die energie in AI gaat dan in het minen van crypto eerlijk gezegd ;)
Dat is exact het probleem, het is niet OF het is momenteel EN. Dus we hebben er extra verbruik bij gekregen dat momenteel niet of nauwelijks ander verbruik vervangt.
Je haalt nu alleen het misbruik naar voren van een techniek die al jaren gebruikt wordt voor andere doeleinden dan alleen misbruik. Dat het nu voor het grote publiek beschikbaar is en dat een deel (de sex industrie en misinformatie) ermee aan de haal gaat is niet een probleem van AI maar van de maatschappij.
Het word steeds makkelijker en goedkoper, dat zorgt er voor dat het steeds meer misbruik uitlokt. Het word in de maatschappij gegooid zonder dat iemand weet hoe we er mee om moeten gaan. En in sneltreinvaart.
Ik vind het nogal zwak om zoals het nu gaat geen verantwoordelijkheid te leggen bij de bedrijven die het ontwikkelen, en als het mis gaat de handjes omhoog en zeggen dat ze het niet geweten hebben of er niets aan konden doen want het was iemand anders die het gebruikte.
Dat mensen Meta en instagram gebruiken als hun bron van nieuws is bijvoorbeeld vele malen erger dan het huidige misbruik van AI, wat ik overigens niet wil bagatelliseren.
Het is wederom een EN situatie. Hoe lang voor dan Facebook vol staat met filmpjes waarin iemand iets zegt of doet en niemand kan verifiëren of dat daadwerkelijk zo is? Hoe gaan we daar mee om? Twijfel zaaien is het enige wat je vaak hoeft te doen, ook al is het niet waar.

We laten het nu allemaal gebeuren, terwijl er duidelijke tekenen zijn dat het ons meer problemen dan oplossingen gaat brengen doordat we niet weten hoe we met deze technologie moeten omgaan.

Een pas op de plaats en eerst oplossingen voor de problemen zoeken word aan de kant geschoven door de bedrijven die er geld mee willen verdienen. Tot het te laat is en dan staan we te kijken, en ja er was al jaren voor gewaarschuwd maar ja AI was cool dus we gingen door.

Op dit item kan niet meer gereageerd worden.