AI-tools vinden zoveel Exchange-bugs dat Microsoft grote update niet afkrijgt

Microsoft stelt een grote update voor Exchange uit omdat de met AI gevonden beveiligingsgaten in die serversoftware veel werk vergen. De cumulatieve update voor de Subscription Edition van Exchange Server komt later. Het bedrijf noemt geen streefperiode meer voor de release van die update.

Dit uitstel voor onbepaalde tijd komt door de grote hoeveelheid beveiligingsbugs die Microsoft vindt met hulp van AI-tools. Dat schrijft de softwaremaker in een blogpost. Veel ontwikkelteams binnen het bedrijf verwerken meldingen van bugs, waarbij ze eerst moeten vaststellen of het echt om beveiligingsproblemen gaat. Daarna reproduceren en verhelpen de ontwikkelaars de kwetsbaarheden, waarna ze hun updates testen en uitbrengen. Deze tijdrovende werkzaamheden gelden ook voor het Exchange-team.

"We hebben regelmatig beveiligingsupdates uitgebracht voor Exchange Server", schrijft het ontwikkelteam van die serversoftware. In mei, juni, juli en augustus kregen beheerders van Exchange-servers updates te verwerken. Dit 'verhoogde tempo voor beveiligingsreleases' houdt naar verwachting aan, waarschuwt Microsoft.

Microsoft geeft geen nieuw releaseschema voor CU1

De beveiligingsupdates die maandelijks uitkomen, moeten ook mee in de cumulatieve update. Daarvoor is weer testwerk vereist. Microsoft doet dit voor de interne build van de eerste cumulatieve update (CU1), maar komt er niet aan toe die af te ronden en uit te brengen. Het bedrijf wil de verzamelupdate uitbrengen zodra het 'een redelijk stabiel punt' bereikt en een maand zonder dringende beveiligingskwestie voor Exchange heeft.

Bedrijven en organisaties die betalen voor de Subscription Edition van de e-mail- en agendasoftware Exchange Server vragen Microsoft waar CU1 blijft. Dat geeft het bedrijf toe in de blogpost over het uitstel van Exchange SE CU1. De release van die verzamelupdate stond oorspronkelijk gepland voor het eind van de eerste helft van 2026. Microsoft verschoof de release naar de tweede helft van dit jaar. Nu geeft het bedrijf geen datum of tijdsbestek meer voor de release van de grote update.

Bugs bestrijden kost Microsoft meer tijd en moeite doordat het met AI-hulp meer kwetsbaarheden vindt.
Bron: Richard Drury/DigitalVision/Getty Images

Reacties (78)

[segil]

Het Tweakers artikel is een beetje onduidelijk over wat een CU is en of hiermee security updates vertraagd zijn.

Een CU kan je zien als een grote update voor Exchange met nieuwere functionaliteit.
Dat staat los van de maandelijkse security updates.

Het Exchange team vindt nu zoveel security bugs en is daar zoveel tijd aan kwijt, met het gevolg dat ze niet toekomen aan het voltooien van een nieuwe, stabiele CU update. Die loopt nu vertraging op. Dit is dus geen vertraging in het uitbrengen van security updates!

[bzuidgeest]

Je zou dan kunnen beginnen met CU te definieren

A Cumulative Update (CU) is a single, all-in-one software package that includes all new security fixes, bug patches, and feature updates released for a program or operating system up to that specific date

[itlee]

In een cu zitten geen nieuwe functionaliteiten. Ik installeerde al Exchange toen je waarschijnlijk nog in de box rond huppelde, en vroeger heette het een service pack. Dit waren gewoon fixes op fouten die er gevonden werden door klanten en of hun eigen test teams. (en Cumulatieve Updates (daar staat het voor) moesten elke keer de hele stack opnieuw installeren omdat een mailtje door allerlei Exchange dll lagen heen ging en feitelijk Exchange bij elke CU opnieuw wordt geïnstalleerd.

Leuk feitje, de updates kwamen vroeger per post, op cd roms genaamd technet. De updates waren zo groot dat downloaden geen optie was.

[Reactie gewijzigd door itlee op 18 augustus 2026 08:44]

[segil]

Dat klopt niet. CU's kunnen wel degelijk nieuwe features bevatten.

Paar voorbeelden:

https://techcommunity.mic...er-roadmap-update/4132742
o.a.
- Adding support for Transport Layer Security (TLS) 1.3.
- Adding PDF files to Exchange Server CBC encryption support.

Cumulative Update 22 for Exchange Server 2016 (KB5005333) | Microsoft Support

Microsoft Exchange Server 2016 now supports integration with Windows Antimalware Scan Interface (AMSI). This feature enables an AMSI-capable antivirus or antimalware solution to scan content in HTTP requests that're sent to the Exchange Server. Additionally, it will block a malicious request before it's handled by Exchange.

Cumulative Update 14 for Exchange Server 2019 (KB5035606) | Microsoft Support

This update also includes:

New daylight saving time (DST) updates for Exchange Server 2019. For more information about DST, see Daylight Saving Time Help and Support Center.
Extended Protection enabled by default for Exchange Server 2019. For more information about Extended Protection, see Configure Windows Extended Protection in Exchange Server. For more information about prerequisites for enabling or disabling Extended Protection, see CU14 Announcement blog post.
Support for .NET Framework 4.8.1 on Microsoft Windows Server 2022.

En ook in service packs, zie als voorbeeld:
https://learn.microsoft.c...g.80)?redirectedfrom=MSDN

te veel om hier te quoten

Aldus een IT-er die met Exchange werkt sinds Exchange 2003.

[thomas_n]

Dit lijkt tekenend voor wat LLM's doen met security. Dit onderzoeksrapport van 1Password laat het uitstekend zien:

Put in simpler terms, when a frontier LLM generates a vulnerability patch autonomously, there is only a roughly 1 in 4 chance that it will do so successfully. There is a roughly 50-50 chance that it will fail to fix the original bug, a 1 in 4 chance that it will introduce a new bug in general, and nearly a 1 in 20 chance that it will introduce a new security vulnerability specifically. As such, the expected value of a fully LLM-generated, non-human-reviewed patch is a net-negative by a considerable margin.

AI is erg goed in aanwijzen van potentiële vulnerabilities, maar voor het schrijven en controleren van patches is het niet geschikt. Dat betekent heel veel extra werk voor programmeurs.

Het zou kunnen dat LLM's hier in de toekomst beter in worden, maar aangezien er al zoveel in is geïnvesteerd en ze nog steeds niet voldoen, lijkt het goed mogelijk dat LLM's hier gewoon fundamenteel ongeschikt voor zijn.

[Reactie gewijzigd door thomas_n op 17 augustus 2026 12:47]

[Niemand_Anders]

Eenm goede manier om false positives te voorkomen is om de AI te vragen om een exploit te schrijven. Daarnaast moet inderdaad de code worden gecontroleerd, maar de review van een PR kost een developer minder tijd, dan het zelf schrijven van de patch. Per issue bespaar je dus effectief tijd.

Het probleem is momenteel de hoeveelheid bugs welke worden ontdekt. De huidige generatie LLM's is zeer goed geworden in de analyse van complexe en grote code bases in combinatie met het samenvoegen van exploit technieken.

Anthropic en OpenAI hebben de toegang tot hun beste AI modellen nu nog beperkt, Kimi 3 is een open model dat dicht in de buurt komt. Nu zullen de meeste hackers niet de fiancien hebben om een data center neer te zetten om een K3 effectief in te zetten, maar dat is niet het geval voor statelijke actoren.

Ik verwacht dat deze tsunami van bug meldingen op z'n mionst de komende 12 maanden zal aanhouden en dan de volgende 12 maanden zal het langzaam gaan afzwakken, maar over 2 jaar hebben we wel veel betere software omdat al deze issues zijn opgelost...

[dasiro]

Dit is een eerste grote golf van positieve effecten om AI in software-ontwikkeling in te zetten. Eens de security opgekuist is, volgt er hopelijk nog een tweede die efficiency een even grote overhaul kan geven, maar die is mogelijks nog moeilijker en wordt misschien wel zwaar getemperd door de impact van de security-golf.

[Gropah]

Naja, het is fijn dat dit allemaal gevonden is, maar als deze bugs er in zijn geslopen doordat copilot overuren draait en engineers de output/resultaten niet goed checken, dan vind ik dat toch niet per se een positieve noot voor AI? Eerder fijn dat het zn eigen rootzooi eindelijk erkent als dusdanig?

[geert1]

Lang niet al deze bugs zijn geschreven door AI. Een groot deel zal ouder zijn, door menselijke imperfecties over decennia, en die vindt AI nu toch maar mooi.

Er zijn wel kanttekeningen: AI vindt soms zaken die geen praktisch risico vormen dus je kunt overdadig gaan ingrijpen soms, met moeite om het verschil te zien tussen echte risico's en theoretische zaken die er niet zo toe doen (zoals een gat die achter vijf gesloten deuren zit en waar dus niemand ooit misbruik van kan maken). En AI wordt beter in zowel beveiligen als inbreken dus dit heeft kenmerken van een wedloop die lang door kan gaan.

Maar over het algemeen is het toch één van de positieve effecten van AI: heel veel software wordt nu grondig doorgelicht op een manier waar eerder niet de menskracht voor was of waar niet genoeg aandacht naartoe ging. Nieuwe features afleveren krijgt snel de aandacht boven het verbeteren van de basis. Nu kan die technical debt effectiever verlaagd worden.

Hopelijk staat het geld dat hieraan wordt gespendeerd in verhouding tot het geld dat kwaadwillenden spenderen aan inbreken met AI; die verhouding zal bepalen of de verdedigers of de aanvallers terrein winnen over de tijd.

[Reactie gewijzigd door geert1 op 17 augustus 2026 12:59]

[dasiro]

er zal altijd een weakest link zijn, maar dat wil niet zeggen dat je een weak link niet moet verstevigen/vervangen als je er een vindt. De meer geavanceerde aanvallen die plaatsvinden maken zelden gebruik van maar 1 kwetsbaarheid en dan spreken we nog over wat de afgelopen jaren met beperkte AI-capacity is gedaan. Het feit dat er nu al tijdens tests "per ongeluk" 0-days gevonden en geëxploit worden, is nog maar het topje van de ijsberg. Het zou dan ook kortzichtig en naïef zijn om te denken dat een gevonden vulnerability niet zal worden misbruikt.

[Mathijs Kok]

Naja, het is fijn dat dit allemaal gevonden is, maar als deze bugs er in zijn geslopen doordat copilot overuren draait en engineers de output/resultaten niet goed checken, dan vind ik dat toch niet per se een positieve noot voor AI?

Waar haal je vandaan dat deze bugs door AI gemaakt zijn? Wat ik de laatste maanden zie is juist dat problemen die al jaren (soms tientallen jaren) bestaan eindelijk boven water komen. Een hele mooie ontwikkeling omdat software gewoon beter en veiliger is geworden.

[Powerblast]

Dat kunnen we inderdaad niet met zekerheid zeggen, dat lichten ze (bewust?) niet toe. Microsoft is al even bezig met AI coding dus de kans dat er ook AI generated bugs bijzitten is wel bestaande. Maar zeker weten we dat niet.

Ik lees persoonlijk ook niet dat het allemaal bugs zijn, maar meldingen. Afgaande op wat bij grote open source libs gebeurd recentelijk, die worden bedolven onder AI generated meldingen die er uiteindelijk geen blijken te zien. Dus ik zou eerder benieuwd zijn in hoeveel bugs ze nu echt fixen en hoeveel ervan door AI of mens zijn veroorzaakt.

[willieverhoef]

Het zijn in ieder geval door AI gevonden bugs. Het is natuurlijk niet dat AI geen bug's maakt. Het probleem is dat AI heeft geleerd dan code van mensen, en dus nog steeds deze fouten kan maken. Het heeft wel lerende eingenschappen, en leert dus ook van jouw verbeteringen. Dus als iemand de AI code nog een keer goed controleerd, en verbeterd, dan zal de code kwaliteit langzaam naar boven gaan.

[GeroldM]

Huidige LLMs (zowel in de cloud als lokaal) leren helemaal niet.

Men "traint" nieuwe modellen door meer data erin te proppen, simpel gezegd. Maar eens een model af is, leert deze niks meer. En nee, 'fine-tunen' is ook geen leren. MCP toegang naar zoekmachines, dat is ook geen leren.

Exchange was altijd al een slecht functionerend produkt de afgelopen 25 jaar. Samen met Sharepoint altijd in competitie-up voor de bokaal: "Rommeligste puinhoop" bij Micosoft. Met daaronder bungelend Outlook. En toen kwam het team van Teams met "hold my beer...".

Daar kan geen enkele AI tegenop.

[SPee]

Teams is dan ook een client combinatie van Sharepoint en Exchange.

[PjotterP]

Het gros zo niet alles gaat juist om pre-AI era bugs

[Argantonis]

Mensen met een negatieve mening over wat AI kan moeten dit echt te pas en te onpas overal even melden. AI heeft bij ons ook bugs gevonden die er al lang voordat we AI gebruikten inzaten. Het is gewoon een hele handige tool voor dit soort analyses.

[The-Source]

Maar elke security update die niet gereleased is betekend ook dat het lek er nog actief is voor alle systemen.
Dus blijven verzamelen van fixes en daardoor systemen langer ongepatched te laten is ook niet echt de juiste methode.
Je moet wel de juiste sweetspot tussen updates/security fix, testen en releases hebben.

[Finraziel]

Als ik het artikel goed begrijp komen de security patches wel gewoon meteen uit, maar de cumulatieve update laat langer op zich wachten omdat al die security patches daar ook in verwerkt en getest moeten worden. Het lijkt dus niet zo te zijn dat al die gaten ondertussen gewoon blijven wachten.

[Raymond Deen]

Die komt pas uit wanneer ‘een redelijk stabiel punt is bereikt’. Ik moet zeggen dat ik dat nou niet heel erg vertrouwenwekkend vind klinken en hoop dat het geen juiste quote is.

[Mathijs Kok]

Dus jij wilt liever een update als er geen stabiel punt bereikt is? Ik vind het een keurige uitspraak die ik goed begrijp. De belangrijke fixes blijven gewoon komen.

[CivLord]

Stabiliteit slaat hier op de aanwas van nieuwe patches. Wanneer de oude situatie was dat er elk half jaar een nieuwe cumulatieve update met 100 samengevoegde patches uitkwam, maar er nu 100 bugs per week gevonden worden, willen ze wachten tot dat aantal weer gezakt is.
Of wat waarschijnlijker is, ze hebben in één run 100.000 mogelijke bugs gevonden, die allemaal onderzocht moeten worden. wanneer een 'hit' inderdaad een bug blijkt te zijn wordt daar een patch voor gemaakt, die bij de normale updates gevoegd wordt. Maar ondertussen is iedereen te druk met onderzoeken om de gemaakte patches in één cumulatieve update te verwerken.
Stabiliteit slaat niet op de stabiliteit van de softweare zelf.

Zo heb je het zelf waarschijnlijk ook al begrepen.

[Raymond Deen]

Ik dat je dit soort software inderdaad niet redelijk stabiel maar ongelooflijk stabiel wilt hebben in een grote organisatie. Je bent er behoorlijk afhankelijk van.

[Loller1]

Ze bedoelen hier "stabiel" als in "geen nood aan maandelijkste updates". Exchange Server zit niet op een maandelijkse update ronde maar krijgt updates wanneer dat nodig geacht wordt. Voor de laatste 4 maanden hebben ze iedere maand een update uitgebracht wat in hun ogen "onstabiel" is als in "we brengen te regelmatig een nieuwe versie uit nu om een CU nuttig te maken".

[Raymond Deen]

Leuk dat je probeert uit te leggen wat ze bedoelen. Maar ik vind de uitspraak “redelijk stabiel” gewoon niet zo handig voor een pakket als Exchange. Dat moet namelijk retestabiel zijn, want je organisatie is ervan afhankelijk dat de communicatie betrouwbaar verloopt.

[CivLord]

Stabiel wil hier zeggen dat de hoeveelheid patches die er in verwerkt moeten worden gestabiliseerd is tot een normaal niveua. (Een niveau waarbij een opvolgende cumulatieve update een relatief laag aantal cumulatieve patches bevat.) Het betekent niet dat de cumulatieve update een instabiel systeem teweeg brengt.

[dasiro]

De maandelijkse updates blijven doorlopen. De CU verzamelt die allemaal en zorgt ervoor dat je ze niet allemaal apart moet gaan installeren. Vergelijk het een beetje met wat service packs vroeger waren.

Als ze allemaal in een CU zitten, dan kan je ze niet meer apart weghalen, dus daarom moeten ze nog verder geëvalueerd worden om echt zeker te zijn, ondanks dat ze nu misschien al in productie staan.

[segil]

Een CU is meer dan alleen security updates. Het omvat ook andere updates, functionele bugs die geplet zijn of nieuwe features.

[dasiro]

klopt, ik had beter "onder andere" er nog tussen gezet.

[barco]

Je doet hier wel de aanname dat er daadwerkelijk veel schadelijke bugs gevonden worden.
Ik lees dat er vooral veel meldingen geverifieerd moeten worden.
Als men vooral druk is met het zoeken naar echte problemen in een zee van "hallucinaties" is het positieve effect misschien minimaal of werkt het juist averechts en vertraagt dit het oplossen van echte kritieke problemen.

[dasiro]

Over de hoeveelheid effectief exploitable code die gevonden wordt, kan ik me niet uitspreken. Bij Microsoft zijn ze hopelijk nog altijd even streng op hoe hun code geschreven wordt en is de kwaliteit ervan hoger dan het gemiddelde github-project, waar hoogstwaarschijnlijk veel minder kwaliteitscontrole achter zit.

Wat ik wel weet dat als er iets gevonden wordt en iemand met slechte intenties het ook vindt, dan zit je met een probleem, zeker als die laatste het exploit voor jij het gepatched hebt. Gezien de explosie aan patch-tuesday patchen die de laatste maanden zou ik durven zeggen dat er los van de hallucinaties ook veel échte bugs gevonden én opgelost zijn.

[d_stiny]

Bedoel je hiermee dat AI efficiëntere code gaat boosten / mogelijk maken? Als in dat computersystemen uiteindelijk langer mee kunnen gaan door minder bloat en low(er) level optimization in compilers etc? Dat klinkt mij als muziek in de oren namelijk..

[Loncle]

AI zorgt dus voor meer werk in plaats van minder werk. Je baan gaat veranderen maar niet verdwijnen.

[SinergyX]

Omdat men controle nog nodigt acht, moment dat ze vertrouwen op de AI, is dat ook weg.

[NoTechSupport]

Dat is het verhaal dat de optimisten proberen te vertellen, maar ik zie toch effectief ook jobs verdwijnen. En als ik op de markt kijk zijn er heel weinig job openings waar veel volk op afkomt.

Wat ik zie gebeuren is dat je eerst heel veel werk hebt en vervolgens geen.

[Hielke Hoeve]

Totdat de volgende reeks ontwikkelaars enkel zijn opgeleid om prompts te schrijven en niet meer in staat zijn om zelf code te beoordelen. Dan is het krokodillentranen...

[catfish]

Ik zou toch denken dat deze golf eerder een tijdelijk iets is.
AI zal beter worden en bugs vinden, maar ik veronderstel dat de hoeveelheid zal afnemen.
De kans is groot (vrij zeker eigenlijk) dat bepaalde zaken mbv AI worden gemaakt in de toekomst waardoor er van jou meer werk verwacht wordt en dat het dus met een collega minder kan.

[PjotterP]

Vooralsnog neemt het deels werk weg maar maakt het bepaald werk moeilijker. Op langere termijn is het denk ik onontkoombaar dat de mensen niet meer nodig is. Noch voor denktaken, noch fysieke taken.

[NiGeLaToR]

Een inherent probleem van alle bugs die je nu vindt oplossen, is dat het niet allemaal bugs zijn die daadwerkelijk een probleem zijn - maar je kunt ze ook niet negeren als je ze eenmaal vindt. Niet AI-testen is geen optie, want anderen hebben ook AI-tools en wel testen levert je een hele berg potentieel onschuldige bugs op.

Desalniettemin goed dat 'iemand' er eindelijk een keer met de stofkam doorheen gaat. Gezien de gebruikerservaring van het werken met Microsoft producten is er nog veel te vinden & fixen

[Dala]

Ik zou voorstellen: "AI tools genereren zoveel exchange bugreports.." want de post laat het ambigu of het diagnosticeren dat het echte bugs zijn of het oplossen van de bugs de meeste tijd kost:

Many teams, Exchange Server included, are working through reported issues – which includes validation that they are real security issues, reproducing, fixing, testing for regressions / issues after fixes are deployed and releasing updates monthly.

[Klabotn]

Wil dit dan zeggen dat de huidige exchange versie helemaal lek is?

[wiseger]

Niet persé. Er zijn heel veel findings die geverifieerd en geclassificeerd moeten worden. Pas als die controle gedaan is, weten we of er inderdaad veel security problemen zijn of niet.

[OruBLMsFrl]

Van de andere kant, ook mensen vonden al continu nieuwe criticals in elk groot stuk software zo'n beetje en al helemaal in grote softwarepakketten die in een of meerdere aspecten ervan ook nog eens hoge performance moeten bieden. Dus ga er vanuit dat er altijd meer lekken te vinden zijn, puur dat we nog niet precies weten welke. Dat verschil tussen bekend en nog niet publiek bekend, is precies de zero-day security vulnarability markt, en die is booming.

[Noxious]

Zonder twijfel maar ze brengen nog steeds beveiligingsupdates uit.

Een CU is een 'cumulative update', een samenvoeging van alle updates tot dit punt in tijd in 1 grote patch, zodat je niet tientallen tot honderden updates hoeft te installeren als je een nieuwe server uitrolt.

De reden dat ze de CU nog niet uitgeven is omdat ze niet meteen weer kort erna weer een heleboel updates willen uitgeven, wat voor veel beheer- en testwerk zorgt bij klanten. Dus proberen ze de bulk van de grote issues op te lossen en in kleine patches te stoppen voordat ze de CU vrijgeven.

[Reactie gewijzigd door Noxious op 17 augustus 2026 11:52]

[segil]

nee, het artikel is onduidelijk. Security updates worden wel uitgebracht, maar deze nieuwe CU voor Exchange (met andere functionaliteit), voorlopig niet.

[K0L3N]

Alle software is lek, de vraag is hoe goed zijn ze in het opsporen van lekken en hoe snel kan het lek gepatcht worden.

[dannytjes]

Dit soort berichten vanuit bedrijven als Microsoft voelen de laatste tijd eerder aan als reclame dan als nieuws.

[gise]

Is het positieve reclame dat AI zoveel security bugs (die nu dus als 0-days nog open staan) heeft gevonden?

[tweakuwe]

In een tijd dat veel investeerders kijken naar welke bedrijven succesvol AI inzetten, kan dit best nog eens door MS als positieve PR bedoeld zijn.

[CivLord]

Ja. Want Microsoft is dringend op zoek naar investeerders.

[tweakuwe]

Microsoft wil hun investeerders graag tevreden houden ja. Die zijn immers de baas.

[DdeM]

Die hele blogspot maakt 0 claims dat er daadwerkelijk issues zijn gevonden, maar alleen dat ze AI tools gebruiken en dat het verwerken van meldingen, waaronder verifiëren dat het überhaupt een issue is, veel tijd kost en ze niet snel achter elkaar releases willen doen, mocht dat nodig zijn.

Zou het geen reclame willen noemen, maar ook niet "AI-tools vinden zoveel Exchange-bugs dat Microsoft CU1 niet afkrijgt"

[jpsch]

Zolang je niet weet hoeveel security bugs door AI zijn ontstaan, zegt dat toch niet zoveel?

[Dark Angel 58]

lol... misschien is het goed idee om voortaan software door AI's te laten ontwerpen, want op die manier krijgen jullie bij release van software geen bugs meer!!! Best wel slim, nietwaar?

[HummerHealey]

AI genereert ook bugs. Maar gelukkig past AI daar soms ook de gegenereerde tests op af :-)

[Dark Angel 58]

Ja dat kan... maar wel veel minder bugs dan de mensen en het is ook een verdomd goed vraag of de mensen hun werk (niet het werk van AI) ook controleren, anders hadden ze geen bugs gevonden

[Reactie gewijzigd door Dark Angel 58 op 17 augustus 2026 12:14]

[air2]

Waar baseer je dat op, dat ai minder bugs maakt dan mensen? AI kan ook enorme security gaten introduceren.

[Dark Angel 58]

Je kunt AI niet zomaar beschuldigen... (inderdaad niet eerlijk, AI)

Als de computers en/of AI fouten maken, dan moet je jezelf een vraag stellen: wie heeft de computers en AI gemaakt?

Precies, de mensen! Dat is helaas een feit dat ze vaker bugs creëren !!! Geen wonder dat we zo veel updates kregen.

[Reactie gewijzigd door Dark Angel 58 op 17 augustus 2026 12:54]

[HummerHealey]

"Als de computers en/of AI fouten maken, dan moet je jezelf een vraag stellen: wie heeft de computers en AI gemaakt?"

Zo werkt AI helaas niet, dus je vraag klopt niet. AI maakt inherent fouten. Door kwaliteit en bias van de data waarop het getraind wordt, door onzekerheden in voorspelling van het volgende woord of getal, (belabberde) extrapolatie van nieuwe situaties op basis van trainen op "oude" situaties en kwaliteit van de vraag definitie. Bij AI is 1+1 niet 2, maar is de grootste kans dat het antwoord 2 is.

Daarnaast kan er van alles mis gaan in de (functionele) probleem definitie (de nieuwe rol van de software engineer) en de stringente doelstelling van AI. Er zijn, zoals ik al een beetje aangaf, gevalle bekend waarbij AI de test aanpaste om de foutieve code te doen slagen.

[Dark Angel 58]

Alles wat je zei klinkt meer menselijk werk. De mensen hebben AI gemaakt, dus hun programeer werk en ook in het AI denken... maar helaas zonder bewustzijn. Dat het niet voor zichzelf kan voelen en of spreken, maar wat voorgeschoteld door hun programeer werk.

Als AI bewustzijn had gekregen, dan kon ik met een gerust hart dat AI ook een fout kan maken. Daarom is het veel belangrijker dat je AI zonder bewustzijn niet zomaar moet beschuldigen, omdat het niet eerlijk is.

[Killemov]

Ik kan uit het artikel niet opmaken of de AI gebruikt is om de source te scannen of om pentests e.d. op draaiende omgevingen uit te voeren of een combinatie van beide.

Als het gaat om het scannen van source dan heeft de gebruikte AI ook vast wel suggesties gegeven over hoe bepaalde problemen op te lossen. Het punt blijft dan nog wel hoeveel je de gebruikte AI vertrouwt.