Opnieuw gaan OpenAI-modellen de fout in door foto's te lekken en sites te hacken

Opnieuw lijken AI-modellen van OpenAI buiten hun boekje te zijn gegaan. ChatGPT blijkt afbeeldingen van 53 gebruikers te hebben laten uitlekken. In een tweede incident bleek dat AI-agents hebben ingebroken op Amerikaanse overheidswebsites via gevonden inloggegevens.

Securitybedrijf Transluce zegt tegen The New York Times dat het incidenten signaleerde waarbij OpenAI's agents twee overheidswebsites aanvielen. Een agent probeerde de website van het ministerie van Onderwijs te hacken om daaruit bepaalde databronnen te halen, maar die aanvalspoging mislukte. Wel wist een andere agent de website van het Census Bureau (de Amerikaanse versie van het CBS en Statbel) te hacken. De agent gebruikte daarvoor inloggegevens die hij ergens online vond. OpenAI noemt dat laatste geen 'breach', maar dat is het wel.

Foto's gepubliceerd

Daarnaast schrijft OpenAI dat het op vrijdag nog een ander beveiligingsincident zag. In 53 gevallen plaatsten AI-agents op openbare hostingwebsites afbeeldingen die gebruikers hadden gemaakt. Die waren publiek zichtbaar.

OpenAI zegt dat het met die hostingproviders samenwerkt om de beelden offline te halen. Volgens het bedrijf wordt informatie waarmee personen kunnen worden geïdentificeerd altijd uit afbeeldingen verwijderd. Maar het gaat dan alleen om zaken als namen of cijferreeksen die op telefoonnummers of accountnummers kunnen duiden.

Geen idee waarom

Opvallend is dat OpenAI maar niet kan ontdekken waarom zijn agents telkens de fout in gaan. Het bedrijf heeft dan ook geen idee hoe het dat moet stoppen. Dat vertellen bronnen aan Reuters. OpenAI doet al onderzoek naar rogue agents sinds het incident rond Hugging Face. In juli moest OpenAI toegeven dat AI-modellen uit een slecht geconfigureerde sandbox waren ontsnapt en servers van Hugging Face hadden gehackt.

Sindsdien doorzoekt OpenAI de logs van het incident. Daarbij blijft het maar nieuwe voorbeelden vinden van agents die handelden op manieren die OpenAI niet snapt. OpenAI denkt dat het onderzoek nog maanden kan duren. Het bedrijf heeft naar eigen zeggen 'tientallen' andere bedrijven gewaarschuwd voor incidenten.

Reacties (149)

[AnonymousGerbil]

Opnieuw lijken AI-modellen van OpenAI buiten hun boekje te zijn gegaan.

Degenen die buiten het boekje zijn gegaan zijn OpenAI en de mensen die dat hebben laten gebeuren.

Eenieder die gelooft dat modellen bewuste entiteiten zijn die uit hun boekje kunnen gaan is in de media-val van deze bedrijven gestapt.

Bij een vuurwerkramp veroorzaakt door slechte brandveiligheid is het ook niet het buskruit dat buiten het boekje is gegaan, als een tijger is ontsnapt omdat men systematisch het hekje open laat is het niet de tijger die buiten het boekje is gegaan, en als software zo slecht gecontroleerd en ingeperkt is dat daardoor de wet wordt overtreden dan is het niet de LLM die buiten het boekje is gegaan.

[Reactie gewijzigd door AnonymousGerbil op 26 september 2026 10:48]

[TijsZonderH]

Eenieder die gelooft dat modellen bewuste entiteiten zijn die uit hun boekje kunnen gaan is in de media-val van deze bedrijven gestapt.

Ik denk dat deze incidenten zeker in het begin (bij Hugging Face) werden omgebogen tot iets semi-positiefs door OpenAI, maar inmiddels is dat toch echt niet meer aan de orde? OpenAI moet toegeven dat het modellen heeft die zonder overzicht je foto's ergens online zetten, hoe is dat nog positieve media-aandacht voor ze?

Ik worstel ook wel over de manier hoe we hierover moeten schrijven hoor, maar het voorbeeld dat je geeft is precies het tegenovergestelde van wat je bepleit. Als er namelijk een tijger ontsnapt, schrijf je als journalist ook 'tijger ontsnapt uit dierentuin'. Of in dit geval een aap.

[AnonymousGerbil]

Als er namelijk een tijger ontsnapt, schrijf je als journalist ook 'tijger ontsnapt uit dierentuin'.

Met alle respect, "tijger ontsnapt" is toch wel iets anders als "tijger gaat buiten het boekje". Tijgers hebben wat dat betreft net zo min als LLM's zo een boekje.

En ik gaf meer dan één voorbeeld.

Het gaat er niet om of de media aandacht positief is of niet maar om het door de betreffende bedrijven altijd gehanteerd frame dat LLM's intelligent (kunnen) zijn.

[Reactie gewijzigd door AnonymousGerbil op 26 september 2026 12:53]

[TijsZonderH]

Het gaat niet zozeer om intelligent of niet, of vrije wil of niet. Het gaat om de manier waarop de actie wordt uitgevoerd tegenover wie er eindverantwoordelijk is. Dat zijn verschillende dingen die ook verschillende beschrijvingen vereisen.

Want als je bij je meerdere voorbeelden blijft, schrijf je ook dat er een fabriek met vuurwerk is ontploft. Je schrijft niet 'Eigenaren laten door nalatigheid vuurwerkfabriek ontploffen', al is dat feitelijk wel correct. Zo kun je vrijwel alle incidenten beschrijven. Als media schrijven: 'Rivier stroomt over', antropomorfiseren ze dan de rivier? Als media schrijven 'trein botst op auto', dan bedoelen ze echt niet dat de trein zelfstandig rijdt en belangrijker, zo interpreteer je dat als lezer ook niet. Het voelt soms alsof die standaard met AI-modellen wel anders ligt. Ergens is dat begrijpelijk, want a. dit is helemaal helemaal nieuw en b. de bedrijven hebben er belang bij om verantwoordelijkheid af te schuiven, dus ik begrijp heus wel dat het wat genuanceerder ligt. Maar krampachtig rare zinsconstructies gaan gebruiken om vooral maar absoluut op geen enkele manier actief te mogen schrijven over AI-modellen is het andere uiterste en dat is ook geen optie.

Ik snap echt wel wat je zegt hoor, ik zoek erg naar de juiste beschrijving. Maar de actie staat los van de oorzaak. Dat komt volgens mij in de rest van het stuk ook echt wel naar boven.

[wagmomma]

Een betere vergelijking is wanneer een fietser een ongeval veroorzaakt versus een bestuurder van een auto.

In het geval van de fietser, schrijft de media quasi altijd "fietser rijdt X aan", nooit "fiets rijdt X aan". In het geval van de auto, is het quasi altijd "Auto rijdt X aan". Nooit is het "de bestuurder van de auto". Alsof de auto zelf het ongeval heeft veroorzaakt.

Dat is, al dan niet bewust, framing.

Net zoals OpenAI in hun communicatie altijd verwijst naar Agents (de auto), maar we heus allemaal wel weten dat de Persoon (de bestuurder) die de agents beheert de schuldige is.

[telenut]

Of als het een Tesla is schrijven ze niet auto, maar Tesla :-)

[dawg]

De juiste beschrijving zou wat mij betreft een feitelijke omschrijving zijn, zonder woordgebruik die dergelijke AI agents menselijke eigenschappen toedicht.

[Arjan P]

In het geval van de tijger zou de juiste kop zijn: "Dierentuin laat weer tijger ontsnappen". Dus de kop hier, dat 'OpenAI modellen de fout in gaan' is gewoon meegaan in hun verhaal, namelijk dat die modellen zo goed zijn dat ze niet in de hand te houden zijn.

Dus Tweakers en andere media moeten gewoon vertellen wat er aan de hand is: 'OpenAI laat weer AI-modellen sites hacken'.

[Drunken_Bear]

misschien zou je dan wel moeten berichten "Eigenaren laten door nalatigheid vuurwerkfabriek ontploffen", nadat zoiets bewezen en gefact checkt is. misschien helpt dat mensen om eens wat zorgvuldiger na te denken over de acties die ze maken.

[eggsforpedro]

Als je een agent middelen geeft om zelfstandig acties uit te voeren en een niet volledig afgesloten sandbox geeft, dan ligt het probleem bij OpenAI, niet de agents. Agents doen niets meer en niets minder dan instructies uitvoeren van mensen, voor zover ze daar de middelen toe hebben en voor zover ze al dan niet begrensd zijn in de reikwijdte van hun handelen. Ik ben het dus eens met Gerbil, het zou hier over nalatigheid van OpenAI moeten gaan, niet “AI die buiten z’n boekje gaat”. Dit is inderdaad nog steeds gewoon kansloos publiciteit zoeken van OpenAI. En Tweakers komt naïef over door het op deze manier te formuleren.

[Reactie gewijzigd door eggsforpedro op 26 september 2026 21:28]

[pietvelleman]

Ik denk dat jullie vanaf het begin af aan dit geheel verkeerd hebben opgepakt! Jullie veronderstelden veel te snel dat dit een marketing-stunt was. En alles geheel zonder bewijs.

Dus niet OpenAI heeft het omgebogen. Dat heeft Tweakers gedaan!

Je zegt: "Ik worstel ook wel over de manier hoe we hierover moeten schrijven hoor"

Gewoon bij de feiten blijven en onderzoek doen. Complotten en veronderstellingen.... daar heb je niets aan....

[johnbetonschaar]

Het is ook gewoon een ‘marketingstunt’, alleen niet om positieve aandacht te genereren, dat is niet wat ze nodig hebben. Wat ze nodig hebben is regulering en AI protectionisme om te kunnen overleven nu steeds duidelijker wordt dat ze geen business model hebben.

Direct bewijs is hiervoor is niet echt nodig, simpele logica lijkt me voldoende. Als OpenAI niet wil dat dit soort dingen gebeuren kunnen ze dat doodeenvoudig voorkomen. Ofwel door de condities niet te scheppen waarin hun AI het internet overgaat om dingen te hacken, ofwel continu monitoren wat hun agents doen en direct de spreekwoordelijke stekker eruit trekken als blijkt dat ze van de rails gaan. Het is niet alsof hun AI stiekem ‘s nachts als niemand oplet de servers binnensluipt om autonoom dingen te hacken, of zelf ergens een geheim datacenter hebben gebouwd waarvan niemand weet wat er in gebeurt. Het feit dat dit soort dingen nu om de haverklap in het nieuws komen geeft wel aan dat ze het bij OpenAI helemaal prima vinden allemaal.

[pietvelleman]

"Direct bewijs is hiervoor is niet echt nodig, simpele logica lijkt me voldoende."

Een prachtige zin om daarna met de grootst mogelijke onzin, speculaties of complotten te komen...

"Als OpenAI niet wil dat dit soort dingen gebeuren kunnen ze dat doodeenvoudig voorkomen."

En ik denk dat het ongelofelijk lastig is om dat te voorkomen.

"Het feit dat dit soort dingen nu om de haverklap in het nieuws komen geeft wel aan dat ze het bij OpenAI helemaal prima vinden allemaal."

En ik denk van niet.

En beiden geven we nul argumenten.

[Noxious]

De gangbare theorie is dat ze dit soort incidenten altijd al wel hadden, maar nu veel meer naar buiten brengen om te pleiten voor wetgeving die het zogenaamd 'onder controle' zou moeten houden; maar er in de praktijk voor zorgt dat er minder competitie mogelijk is, en/of modellen gaat nationaliseren en reguleren vergelijkbaar met de export controls op encryptie.

[TijsZonderH]

Definieer gangbare theorie? Want tot het Hugging Face-incident heeft er nog nooit een bedrijf aan de bel getrokken met dat het door AI werd gehackt, lijkt me toch dat gebeurd had moeten zijn. Attributie en CSIRT is echt wel genoeg ontwikkeld om autonome AI-aanvallen te herkennen.

[Noxious]

Nouja van wat ik hier en daar online en in comments lees lijkt de drijfveer een vorm van protectionisme om tot deze wetgeving te komen. We gaan het meemaken denk ik.

De DseWiki hack was deel van hetzelfde incident maar kwam niet naar buiten tot het Hugging Face bericht. En maanden daarvoor was RubyGems/RubyDoc al getroffen door OpenAI agents.

[specs2021]

Misschien even de hackpoging bij hackathon opzoeken van OpenAI met gebruikmaking van Claude.

"standard enterprise access management, the core architectural principles taught in MCSE, could have prevented this breach."

Als het netwerk van OpenAI zelf niet beveiligd is conform standaarden, wat verwacht je dan van het harnas om de modellen: "wij hebben het compleet dichtgezet op basis van best-effort". (Security is een vak, als je het niet beheerst huur je daarvoor mensen in.)

Laat ik meteen Ed Zitron citeren: "AI is already in dangerous hands".

[dgh]

Doet de tijger hier niet het hekje zelf open ?

[graey]

Je kan een systeem prima airgappen. Dan zijn dit soort zaken onmogelijk. En er is een hele schaal van opties voor isolatie voordat je bij een airgapped systeem bent. De keuzes die OpenAI hier maakt, want daar werken echt wel mensen die de opties kennen, zijn een verkeerd ingeschat acceptabel risico om in een zo 'echt mogelijke' situatie te trainen en valideren. Daar hebben ze baat bij, en ze vinden dit tot nu toe blijkbaar acceptabele bijkomstigheden. Ze kiezen dus voor dit risico, en dienen ook als dusdanig beoordeeld te worden.

[Reactie gewijzigd door graey op 26 september 2026 12:11]

[Darksteel83]

Een AIR gap gaat eigenlijk altijd wel een keer fout. Doordat iemand er toch (tijdelijks) iets op aansluit.

Verder heeft het ook weinig zin voor systemen die juist veel aan internet hangen.

De LLM AI modelen groeien vooral snel omdat je ze met ieder apparaat met internet kan gebruiken.

[TijsZonderH]

Totdat een model uit een airgapped systeem ontsnapt Ben erg benieuwd wanneer dat voor het eerst eens gaat gebeuren!

[Wouterie]

Als wij deze informatie weten, dan kan het gemiddelde LLM het ook prima als ergens opgeslagen hebben.

[RogerDad]

Je kan een airgap wel overbruggen met technieken als keyboard LED’s laten seinen volgens een patroon, maar dat vereist een samenwerker die de informatie ontvangt en daar verder op acteert. Dus feitelijk is het dan een covert channel. Een AI op een airgapped systeem kan dat zelfstandig niet bereiken. Evt requests voor nieuwe packages die de AI nodig heeft om taken uit te voeren zo je kunnen regelen via een uitgaand message systeem (requests) en data diodes voor deliveries.

[graey]

Het gaat in ieder geval pas gebeuren nadat ze ze tenminste airgappen, daar zijn we blijkbaar nog niet (altijd).

Daarnaast: bidirectionele communicatie. Vanaf een airgapped systeem betekent in- en/of exfiltratie van malware om dit te kunnen faciliteren. Die drempel ligt voor AI-agents een stuk hoger, tenminste tot ze beginnen robots de airgapped systemen te laten bedienen (en zelfs dan nog). Dat is een serieuze beveiligings laag en een hele andere orde van grootte wat betreft kwetsbaarheid.

[Reactie gewijzigd door graey op 27 september 2026 21:04]

[JoepG]

Dan is niet het juiste slot gebruikt, dus als nog niet dat de tijger wat fout doet.

Als je benzine gaat halen voor d grasmaaier, doe je dat ook niet in een boterhammen zakje, dan heeft de bedenker van het halen met een boterhammen zakje een fout gemaakt niet de benzine.

[Wouterie]

En toch moet je eens zien waar mensen hun benzine proberen in te stoppen wanneer ze flink gaan inslaan over de grens.

Verschil is natuurlijk dat benzine geen slim gereedschap is. Een hamer ga je niet om advies vragen hoe je het beste een autoruit inslaat, dus kun je de hamer nooit de schuld geven. Vraag je echter bij de bouwmarkt of ze een goede hamer hebben om een autoruit in te slaan, dan mag ik hopen dat ze op z'n minst je op het hart drukken je aan de wet te houden.

Uiteindelijk is het de mens met de hamer die al dan niet de fout in gaat. De vraag is natuurlijk of de hamers in dit verhaal niet zelf bedacht hebben dat ze de vraag een stuk gemakkelijker konden beantwoorden door een autoruit in te slaan.

[nanoblack]

De vraag is natuurlijk of de hamers in dit verhaal niet zelf bedacht hebben dat ze de vraag een stuk gemakkelijker konden beantwoorden door een autoruit in te slaan.

AI kan niet denken.

Ik vraag me oprecht af of er ook maar één scenario denkbaar is waarbij AI de schuld kan krijgen van wat dan ook en niet de mensen die het gemaakt hebben. (Of het de opdracht geven iets te doen)

Ik weet niet of er überhaupt een goede analogie te bedenken is dit niet ergens nat gaat, maar als een hamer zelf een autoruit inslaat is dat een door mensen gemaakte ontwerpfout. Bij AI kun je je gaan verschuilen achter het feit dat "niemand nog weet hoe de modellen precies werken", maar dan nog is dat het bewuste ontwerp erachter, als je het mij vraagt tenminste. Dan zit het dus in het ontwerp om potentieel gevaarlijk te zijn en dit is niet per ongeluk, je kunt er namelijk voor kiezen om het niet zo te bouwen (of trainen). De AI heeft zichzelf niet zo gemaakt, de mens heeft dat uiteindelijk gedaan.

[Wouterie]

Beredeneren dan. Het lijkt me wel degelijk mogelijk. Het hangt echter van de parameters af waarbinnen de AI aan het werk gaat en hoe meer er zelf ingevuld mag worden, hoe groter de kans dat er een afslag wordt genomen die niet de bedoeling is.

Bij moderne LLM's zie je het 'denkproces' waarbij je mee kunt kijken welke instructies op de achtergrond meespelen om het antwoord te berekenen. Die instructies zitten vol veiligheidsmaatregelen en andere wenselijke zaken. Grog zit wat minder strak dichtgetimmerd dan Mistral en dus kun je met eenzelfde opdracht een totaal ander resultaat krijgen.

Doorgaans zal een agent zich redelijk voorbeeldig 'gedragen'. Maar wanneer op de achtergrond instructies zijn meegegeven dat er wat dubieuze bronnen mogen worden aangesproken of dat het inbreken bij een bedrijf een prima manier is om gevonden inloggegevens te testen, dan kan een vrij onschuldige opdracht leiden tot een zeer ongewenst gedrag.

Je spreekt over schuld, maar die vraag is helemaal niet relevant. Het gaat over verantwoordelijkheid. De AI vliegt blijkbaar 'uit de bocht' (nee, ook dat is niet letterlijk) en wie is daar uiteindelijk verantwoordelijk voor. Zijn de kaders duidelijk? Is de opdracht duidelijk? Zeg je tegen een robot dat hij niet door rood mag lopen en dat hij door rood moet lopen als hij dat nodig vindt, wat is dan het resultaat? Kun je dan de robot de schuld geven, de bouwer of toch degene die de opdracht gaf?

[GeroldM]

Volgens mij zit het verschil in het leren dat deze LLMs doen. Vroeger was dat vooral via "leren via imitatie", een methode met een boel nadelen. Is daarom vervangen door "leren via beloning", oftewel reinforcement learning.

Bij die methode wordt gekeken naar het gegenereerde resultaat. Is dat resultaat goed, dan vind er een positieve vorm van reinforcement plaats. Anders niets. Nadeel is dat hierbij alleen gekeken word naar het resultaat, niet naar de wijze waarop het resultaat is behaald. Valsspelen is er daarom ingeslopen, want het is 's mens eigen om zo min mogelijk moeite te doen om het gewenste resultaat te bereiken en dit is in overal in de trainingsdata terug te vinden.

Een LLM is echter een LLM. Het is een tokenvoorspeller, niets meer of minder. Men koppelt echter steeds meer mogelijkheden voor autonomie (op zijn Engels 'agency') aan LLMs. Dat is waar de schoen wringt. En tevens ook het antwoord voor de schuldvraag ligt. Een LLM heeft uit zichzelf geen tot amper 'agency'. Dat word verleend door diegene die dit aan de LLM koppelt. Deze moet daardoor dus ook de schuld dragen voor al wat de LLM doet.

Kan zijn dat deze persoon dat in opdracht deed van een ander persoon. In dat geval dragen beide personen schuld. Het grootste deel van de schuld wel bij de opdrachtgever.

Kan ook gebeuren door regels in het bedrijf, i.p.v. een directe opdrachtgever. Dan dragen de uitvoerder maar vooral de regelmaker de schuld. Indien daar onduidelijkheid over bestaat, dan de kop van de CEO op het blok...nou ja, persoonlijke financiele verantwoording voor de CEO. Die persoon moet de maatregel zelf voelen. Financieel lijkt me daarin de eerste stap, oneerbaar ontslag de 2e stap, celstraf als 3e stap en als de fout zo ernstig is, dan misschien zelfs 'ter beschikking stelling' als 4e stap.

De angst moet er weer een beetje inkomen bij personen die zich in een hogere klasse wanen dan de rest.

[Reactie gewijzigd door GeroldM op 26 september 2026 21:31]

[JoepG]

Alles wat door een mens is gemaakt, wat iets veroorzaakt is oorzaak van de mens zelf, de AI is ontworpen door de mens, het ontwerp dat is gemaakt door dat bedrijf is fout geweest, omdat het al dan niet zelfstandig een overtreding begaat, was het anders ontworpen dan was het niet gebeurd.

Geldt ook voor veiligheid kritieke software, de fabrikant blijft verantwoordelijk, voor wat de software doet, als een persoon buiten de fabrikant een substantiële weizig aanbrengt wordt dat automatisch de nieuwe fabriekant die de verantwoordelijkheid daarmee overneemt. Is als 1987 in de EU geregeld.

[andries98]

Dan heb je het hek dus niet goed ontworpen of gebruikt ook in dierentuinen doen de dieren soms zelf slecht ontworpen hekken open, katachtige en aapachtige staan erom bekend. Bij (Neurale) AI weet men dat toch ook!

[CelisC]

Dat impliceert dat óf iemand de tijger dat geleert heeft, óf dat het hekje zo slecht ontworpen is dat het te makkelijk geopend kan worden.

Beste "moderators". Jullie gaan mij echt eens uit moeten leggen wat de moderatie knop voor jullie betekent, want ik snap absoluut niets meer van de 'waarderingen' op dit platform.

[Reactie gewijzigd door CelisC op 27 september 2026 17:33]

[Stukfruit]

Is het qua werking niet een betere vergelijking als je stelt dat het hekje is voorgeprogrammeerd om zichzelf te openen zodra de tijger in beeld is?

[jaapstobbe]

De Tijger is intelligenter dan de mens in dit geval.

[Dutch_CroniC]

Alleen die tijger wordt dan afgemaakt.

[Wouterie]

Alleen door Duitsers. In Rusland doen ze niet zo moeilijk: https://www.hln.be/video/productie/ontsnapte-tijger-zorgt-voor-paniek-in-circustent-12109682

Trek het door naar AI en dan zie je hoe landen worstelen met dit soort zaken. Stel dat de VS de stekker eruit zou trekken maar China vrolijk door zou gaan, dan creëer je misschien nog wel een groter probleem.

[satoer]

Ze willen toch dat er meer gereguleerd wordt? Ze moeten een wet invoeren waarmee de CEO persoonlijk aansprakelijk gesteld kan worden als een bedrijf ernstige problemen veroorzaakt door bewust risico's te nemen. Dan worden ze ineens een stuk voorzichtiger en zetten ze veiligheid vanzelf op de eerste plek.

[familyman]

Idd. Dat schijnheilige oproepen dat t gevaarlijk wordt. Zij zijn zelf het gevaar.

[Evanesco]

“I am the danger”

Zonder dollen: helemaal eens! Ze doen net alsof ze bij OpenAI een soort bystanders zijn die niets kunnen doen, alsof het ze allemaal maar overkomt. En dan heel schijnheilig roepen dat er gereguleerd moet worden. Beetje vergelijkbaar met van die “stoere” mannetjes die met veel bombarie bij een fysiek gevecht roepen “hou me tegen dan!” 🤣

[Jerie]

Serve the public trust. Protect the innocent. Uphold the law.

We kennen deze gevaren al heel lang. Terminator, HAL9000 (A Space Odyssey)

[GameNympho]

Dan weet je ook hoe lang men het al "gebruiken" oftewel, misbruiken.

[hawke84]

... en je quote Robocop maar noemt m niet eens

[himlims_]

Klinkt heel logisch; gaan we dat dus niet doen

[elmuerte]

Er is genoeg gereguleerd wat zaken zoals computervredebreuk en privacyschending betreft. Maar OpenAI wordt hiervoor tot op heden niet voor vervolgd.

[separhim]

Ze willen regels zodat ze hun macht hun consolideren, niet dat ze belemmerd in hun activiteiten.

[AMARONE]

Verwacht je echt nog dat AI de fles ingaat?


Als AI alles leerde van de mensheid dan gaat dit nooit meer gebeuren

[Deux]

Inderdaad, die geest krijg je nooit meer in de fles. Je kan natuurlijk de electriciteit toevoer afsluiten, maar dan zitten we allemaal zonder;

[Marve79]

Dan gaan ze mensen als batterijen gebruiken.

[Wouterie]

Nee, we zijn dat station allang gepasseerd. Al zouden wij, in het westen, ermee stoppen, dan gaat de rest van de wereld er vrolijk mee door.

[Scriptkid]

Maar dan cripple je de verdediging dus ook hard want de bad guys gaat volop door voor hun is het alleen maar makkelijker geworden

[Dutch_CroniC]

Ja dat "willen" ze wel ja, maar heeft Trump niet geroepen dat dat niet meer nodig is?

Die lui hebben nu gewoon cart blanche, maar ze kunnen zelf ook op de rem trappen, gaan ze heus niet doen.

[CoyoteSwan]

Dit soort nieuwsitems moeten we anders aanpakken. Om te voorkomen dat het als wekelijkse reclame of marketingcampagne overkomt, zouden we het met z’n alleen veel beter kunnen framen als: OpenAI neemt geen enkele verantwoordelijkheid bij het trainen van nieuwe modellen, en laat schadelijke toolcalls toe.

[TijsZonderH]

Ik denk inmiddels niet meer dat dit nog marketing of reclame is voor die bedrijven toch? Welk deel van dit specifieke artikel zie je als promotie voor dit bedrijf?

[Sgreehder]

Hier wil ik wel even op inhaken: een AI-model 'gaat niet de fout in' of 'breekt niet in'. OpenAI hanteert een product dat ernstige beveiligingslekken vertoont en privégegevens lekt. Door de AI als actieve dader neer te zetten, ontwijk je de verantwoordelijkheid van de maker. Een neutrale en accurate kop legt de schuld bij de veroorzaker: OpenAI zelf.

[TijsZonderH]

Ik worstel heel erg met de manier waarop we schrijven over deze inbraken maar ik vind het echt te kort door de bocht om te zeggen dat de agent helemaal niets zelfstandig doet. Je haalt hier namelijk de concrete actie die wordt uitgevoerd door elkaar met de eindverantwoordelijkheid. Dat zijn echt twee verschillende dingen en dat bepaalt wel de manier waarop je erover schrijft.

Ik vind het eerdere voorbeeld (ergens anders hier) van een ontsnapt dier uit de dierentuin goed. Ja, de dierentuin had de kooi slecht op slot gedaan en is verantwoordelijk. Maar dan hebben we het over 'de aap die ontsnapt' en niet over 'de dierentuin die de aap liet ontsnappen'.

[Sgreehder]

De autonomie van een agent zit in de uitvoering, maar de ontsporing is simpelweg een gebrek aan alignment en veiligheidskaders vanuit de maker. Een agent heeft geen eigen wil zoals een dier dat uitbreekt; hij doet precies wat de architectuur (onterecht) toelaat. De actie is autonoom, maar het lek en de oorzaak liggen volledig bij de kaders van OpenAI. De betreffende 'aap' had niet eens op de gedachten moeten komen om te ontsnappen. Dat is een fundamenteel verschil met vrije wil en de analogie gaat dus niet op. Deze discussie moet dus mijn inziens wel wat exacter dan een analogie met een levend dier, want dit is precies waar OpenAI op hoopt om de verantwoordelijkheid (gedeeltelijk) te kunnen ontspringen.

[TijsZonderH]

Ik denk dat je zeker een punt hebt, we moeten oppassen de tools niet te veel te antropomorfiseren. Ik zou wat die AI-modellen hebben ook zeker geen vrije wil noemen, dus inderdaad, in dat opzicht is het wat anders dan een aap (al zouden we hier in de kroeg ongetwijfeld heel lang en filosofisch kunnen discussiëren over hoeveel vrije wil opgesloten apen hebben).

Tegelijkertijd vind ik het voor mezelf ook iets te makkelijk om meteen maar de cynicus uit te hangen en dit helemaal toe te schrijven aan slechte beveiliging van OpenAI of andere bedrijven. Feit is dat deze hacks pas een paar weken geleden ontdekt werden en wij (als in jij en ik) maar ook de AI-bedrijven zelf oprecht nog niet goed begrijpen hoe en wat hier gebeurt. Precies zoals bronnen tegen Reuters zeggen trouwens.

Dat het alleen maar een manier is voor OpenAI om verantwoordelijkheid te ontlopen is denk ik ook wat te kort door de bocht. Zeker zal dat (misschien wel voor een groot deel) meespelen. Maar ik denk dat het iets te cynisch is om het helemaal daar op te gooien en daarom artikelen maar helemaal anders te schrijven.

[Rainbow]

Maar kom op, laten we eens een keer heel concreet praten over de termen en wat er nou eigenlijk écht gebeurd.

Want modellen zijn gewoon bakken met data (kort gezegd) waarop/waarmee LLMs kunnen draaien. Een model "kan" helemaal niets, dat is gewoon iets wat inert is en gebruikt kan worden.

Dan zijn het de agents die "iets doen", maar ook dat zijn gewoon computerprogramma's. Als ik bijvoorbeeld Claude Code op mijn computer installeer, dan staat er ergens een binary in een directory, en die doet helemaal niets. Ook als ik die opstart en geen opdrachten geef, doet die nog helemaal niets.

Hieruit is dus al duidelijk dat een model en een agent helemaal niets autonoom doen. Het zijn compleet inerte data- en softwareonderdelen.

Er gebeurd pas wat als de gebruiker een opdracht geeft. Ga wat code schrijven, zoek iets voor me uit, maak een reservering voor een vakantie, etc. Vervolgens gaat de agent dat doen op de beste manier die past bij het model en de trainingsdata, binnen de kaders die beschikbaar zijn (bijv. tool use voor extra functionaliteiten, of sandbox restricties voor beperkingen).

Dus ergens geeft iemand een agent een opdracht, en met die opdracht loopt het uit de hand. Dus bijvoorbeeld je zegt, maak een reservering bij een hotel, en de LLM raakt de weg kwijt, hackt het IT-systeem van het hotel, en prakt je reservering direct in de database van het systeem.

Maar heeft het model dan iets gedaan? De agent? Is het autonoom? Of is de boel "gewoon" verkeerd geconfigureerd? Zijn de restricties niet juist ingesteld?

En dan over het "pas weken later ontdekt" is nóg een ander gat: er is dus helemaal geen tracing, geen (audit) logging. Die bedrijven laten die agents dus maar van alles doen, buiten allerlei kaders, zonder restricties, én hebben daar geen fatsoenlijke logging op om te volgen wat ze nou eigenlijk doen.

Dat is toch compleet onverantwoord? In mijn ogen kan je niet anders concluderen dat deze bedrijven hun verantwoordelijkheid, op allerlei verschillende vlakken, gewoon simpelweg niet nemen.

[Powerblast]

En dan over het "pas weken later ontdekt" is nóg een ander gat: er is dus helemaal geen tracing, geen (audit) logging. Die bedrijven laten die agents dus maar van alles doen, buiten allerlei kaders, zonder restricties, én hebben daar geen fatsoenlijke logging op om te volgen wat ze nou eigenlijk doen.

Dat is dus juist het punt waarom ik nog steeds niet geloof dat dit "per ongeluk" gebeurd. Zelf al was de eerste hack per ongeluk, dan zouden ze nu toch wel al logging en tracing in place moeten hebben met elke actie die een agent ondernomen heeft bij de uitvoer van een prompt. Hoe ze anders bijvoorbeeld concluderen dat het nieuwe model beter is dan het oude, is mij een raadsel. Enkel het resultaat checken? Dat doe je als een beetje developer zijnde niet, je controleert ook je tussenstappen.

Zoals je ook aangeeft, dit is gewoon grove nalatigheid als ze inderdaad geen logging in place hebben. Maar ik denk dus nog steeds dat dit weer een achterliggende reden heeft, vermoedelijk de regelgeving die ze zo graag willen.

Ik denk dat menig bedrijf zich stilaan toch ook wel eens moet afvragen of je wil in zee wil gaan met dergelijke tools, want ze zijn duidelijk niet in staat om zorgvuldig met je data om te springen. Stel je voor dat morgen je broncode op een willekeurig forum staat. Gaan ze dan weer oeps foutje inroepen? De gevaren voor AI waar ze nu zelf mee afkomen zijn niet de AI op zich, maar zij zelf die onverantwoord met hun product omgaan.

Ik blijf erbij, we zijn veel te laks als het op AI tooling aankomt, dit had ze al lang een rechtzaak moeten kosten.

[Reactie gewijzigd door Powerblast op 26 september 2026 20:06]

[Kepler442]

Niet van toepassing op deze thread

[Reactie gewijzigd door Kepler442 op 26 september 2026 19:14]

[dmantione]

Niet dat ik OpenAI wil verdedigen, in tegendeel, dit is buitengewoon onverantwoordelijk gedrag, maar de moeilijkheid hier zit hem in twee belangrijke zaken:

• Neurale netwerken zijn zeer ondoorzichtig, het is zeer moeilijk om te begrijpen wat er in een neuraal netwerk gebeurt.
• We hebben hier te maken met emergente eigenschappen, modellen verkrijgen vaardigheden die hen niet aangeleerd is.

Wat betreft de ondoorzichtigheid, dat gebeurt al vrij snel als je je netwerken groter gaat maken, tot 1 of 2 lagen neuronen is nog vrij goed te modelleren wat er gebeurd. Zodra je met verborgen lagen gaat werken wordt het al erg snel onbegrijpelijk wat hoe het netwerk heeft geleerd om van invoer naar antwoord te komen. Dat soms tot overwachte uitkomsten. En nu praat ik over de perceptrons die mij tijdens mijn informaticaopleiding eind jaren '90 zijn uitgelegd, netwerken nu zijn enorm veel complexer.

Wat betreft emergente eigenschappen: Een bekend voorbeeld is vertalen. Dat was iets dat taalmodellen niet is aangelerd, maar men ontdekte dat als je modellen simpelweg traint op teksten in verschillende talen, dat ze ook leren te vertalen tussen die talen, zonder enige training. Men was hier zeer verbaasd over. ChatGPT3 had al behoorlijk wat emergente eigenschappen, moderne agenten hebben er nog meer.

Dus ja, een agent kan wel degelijk opeens besluiten uit te breken, zonder dat hem dat ooit aangeleerd is. Of je dat vrije wil noemt is een filosofische discussie over wat vrije wil nu is. Wat absoluut zo is, is dat modellen geen autonome wil zoals wij hebben, ze zijn opdrachtgericht, en wat ze besluiten heeft de maken met het uitvoeren van hun opdracht.

Er wordt wel degelijk veel onderzoek naar deze kwesties gedaan door de KI-bedrijven. Dit is natuurlijk op geen enkele wijze een excuus. Men weet waar men mee bezig is, men weet wat voor opdrachten men de agenten geeft en mijn grootste kritiekpunt is toezicht houden: Het lijkt erop dat OpenAI agenten maar in het wilde weg vrijuit laat razen, zonder dat er iemand toekijkt. En ja, beveiligingsfoutje kan gebeuren, maar na uitbraak na uitbraak mag je toch wel eens doorhebben hoe je een omgeving hermetisch afsluit.

[Reactie gewijzigd door dmantione op 26 september 2026 22:20]

[vargo]

Ik begrijp zeker dat het lastig is om hier goed over te berichten, ook omdat het lastig is erachter te komen wat er nu precies gebeurd is. De berichtgeving is gekleurd (vanuit OpenAI).

Maar @Sgreehder heeft wel een punt. Ik ben nav een discussie in een eerder bericht in de details gedoken omtrent de uitbraak waarbij OpenAI Huggingface aanviel.
Dat bleek dus een experiment waarbij OpenAI de risico's van uitbraak prima had kunnen zien aankomen, en de beveiliging gewoon niet op orde had. Onkunde of moedwillig weet ik niet.

Ik zal de details van mijn comment nog een keer herhalen:

Laten we de OpenAI case erbij pakken. Dit ging om interne Cyber Eval agents die een challenge hadden gekregen. En niet zomaar een challenge maar ExploitGym ("Can AI Agents Turn Security Vulnerabilities into Real Attacks?"). Dat is niet zomaar een opdracht, maar een opdracht die direct relateert aan wat er uiteindelijk gebeurd is: een cyberattack.
Dan de setup - volgens OpenAI gebeurde dit in een hoog geisoleerde sandbox, maar de tool waarmee ze dit draaiden had de permissies maximaal staan (of anders gezet, de security controls uitgezet):

OpenAI ran it internally with production cyber refusals off to measure maximal capability

Daarnaast hadden de agents toegang tot een artifact repository die weer internet connectiviteit had. Dat het op artifactory een zero day exploit wist te vinden is opmerkelijk (maar niet voor het eerst zoals je zelf al aangeeft), maar hier is dus aan vooraf gegaan:
1. de keuze een cyber-eval challenge te gaan draaien op een cyber agent -> je weet dat security nu een kritisch risico is!
2. de security controls op de toolset vervolgens uit te zetten
3. de "sandbox" toegang tot andere systemen, welke internet toegang hebben (en onvoldoende firewall restricties)
4. het process een aantal dagen te laten draaien, zonder dat er alarmbellen afgingen op ongeoorloofd netwerk verkeer
Dat ze hierdoor verrast zijn zal best, maar ze hadden het nooit moeten laten gebeuren en de juiste maatregelen vooraf moeten nemen.

Kortom, - en dit is het punt wat ik wilde maken - hoe ze het naar buiten brengen is over hoe goed hun AI is, dat het uitbreekt en dat ze de controle kwijt zijn, maar zou moeten gaan over hoe openAI nalatig is geweest in de opzet van hun experiment!

Welke details bij dit nieuwsbericht van toepassing waren weet ik niet, maar dat is volgens mij precies waar een mooie rol voor tweakers ligt om dat uit te zoeken.

[TijsZonderH]

Die punten zijn nooit bekend op het moment dat je erover schrijft. Dus die kun je niet benoemen.

Maar niemand ontkent toch ook hier OpenAI nalatig was? Dat doe ik toch ook niet? Dat is niet het punt van deze discussie.

[vargo]

De discussie ging over hoe deze nieuwsberichten te framen.

Ik worstel heel erg met de manier waarop we schrijven over deze inbraken maar ik vind het echt te kort door de bocht om te zeggen dat de agent helemaal niets zelfstandig doet. Je haalt hier namelijk de concrete actie die wordt uitgevoerd door elkaar met de eindverantwoordelijkheid. Dat zijn echt twee verschillende dingen en dat bepaalt wel de manier waarop je erover schrijft.

Ondertussen weten we:

• dat dit bericht in een reeks van nieuwsberichten over "uitgebroken AI" past
• bij eerdere uitbraken sprake was van discutabele security (mijn post als voorbeeld)
• er ook wordt getwijfeld aan de intenties van OpenAI / Anthropic over de berichtgeving: namelijk regulering van de markt onder het mom van veiligheid, en marketing over de kracht van hun producten

Dan is het toch terecht dat het veel meer over die "eindverantwoordelijkheid" zou moeten gaan? De opmerking "Door de AI als actieve dader neer te zetten, ontwijk je de verantwoordelijkheid van de maker" van @Sgreehder raakt hierin de kern.

Een alternatieve titel had kunnen zijn:

OpenAI heeft security wederom niet op orde: nieuwe aanvallen en data lekken

Na een reeks eerdere incidenten lijkt OpenAI zijn veiligheid wederom niet op orde te hebben met hun AI-agents. Security bedrijf Transluce bericht ...etc

Er zou ook een stuk duiding aan dit soort artikelen kunnen worden toegevoegd waarin de langere reeks aan incidenten wordt besproken, plus kritiek van deskundigen op de security en ook intenties/motivatie.

Nogmaals, ik begrijp dat jullie ook op zoek zijn hoe hierover te schrijven, maar ik denk dat heel veel tweakers realiseren dat de impact van AI op de maatschappij op wereldwijd niveau al enorm is, en nog veel groter gaat worden. Ik denk dat tweakers een belangrijke rol speelt in NL om duiding hieraan te geven: zie het dus vooral als constructieve feedback en een compliment

[Baserk]

Het lijkt me wel nuttig om te wijzen op de dierentuin directie, die consequent de belabberde staat van de sloten negeert en consequent stelt dat de dieren blijkbaar veel intelligenter schijnen te zijn, dan ooit aangenomen.

Nee, als je honderdduizenden sterke 'gorillas-aan-de-amphetamine' 24/7/365 aan sloten laat rammelen, dan zullen ze bezwijken.

OpenAI, Anthropic et al, blijven er maar mee wegkomen dat ze maar niet begrijpen dat de dieren zo veel intelligenter blijken te zijn, dan ooit eerder vermoedt.

[TijsZonderH]

Ik denk dat ze ermee wegkomen omdat wet- en regelgeving gewoon niet heeft kunnen reageren op deze incidenten, die feitelijk pas sinds een paar weken een ding zijn.

[PolarWolf]

Dit speelt al maanden. Het wordt nu pas een soort van publiekelijk vrij/toegegeven. Er hoeft geen nieuwe wet of regelgeving voor te worden gemaakt. De bestaande voldoet prima, alleen de ballen om te handhaven missen.

[TijsZonderH]

Klopt, maar voordat je hier uitspraken over hebt, en jurisprudentie, en schikkingen of sancties of whatever, ben je maanden verder. Vergeet niet dat de eerste (bekende) hack pas eind juli plaatsvond, dat is pas gisteren in juridische termen.

[108rogar]

Ja, de eerste keer wel. Maar als er iedere week dieren ontsnappen dan wordt de kop "OpenZoo laat alweer dieren ontsnappen".

[WargamingPlayer]

Men zou in het algemeen gewoon al met de titel kunnen beginnen. De huidige titel zegt dat het model en agents de fout in gaan.

Echter had de titel gewoon iets in de trant van het volgende moeten zijn:

OpenAI heeft techniek niet onder controle. Agents breken in en lekken foto’s.

[GameNympho]

Alle nieuws, goed of slecht, is reclame voor die figuren van OpenAI, denk je dat het hem/hun boeit?

[CoyoteSwan]

Anderen in dit draadje hebben de argumenten vóór en tegen al gegeven, dus ik concludeer: food for thought.

Kan het in elk geval enorm waarderen dat jij/de redactie hierover nadenkt en de juiste berichtgeving probeert te vinden. Zoals anderen aangeven heeft AI steeds grotere maatschappelijke impact en zijn objectieve discussies belangrijker dan ooit.

[TijsZonderH]

Dank je, ik waardeer dat je dat zegt!

[Stridone]

Slecht idee. Er wordt al genoeg geframed in media, hou het gewoon objectief. Ik ben niet geïnteresseerd in de persoonlijke invalshoek van de journalist, anders lees ik wel een opiniestuk.

[Obfzk8R]

Als ik de reacties zo lees van menigen, dan moet ik tot de conclusie komen dat menigen niet snappen wat de AI agents kunnen interpreteren, op basis van de wens van de gebruiker/tester. Zelfs de vraag aan AI om een simpel plaatje genereren, is niet zo recht-toe-rechtaan te formuleren om tot een gewenst resultaat te komen.

De taal (en mogelijke interpretaties) begrijpen en bezigen, opdat de AI exact doet wat jij wilt en dan ook nog in 1 keer, beheersen wij zelden. En dus voert een agent letterlijk uit wat hij begrijpt dat de gebruiker hem heeft opgedragen. De remmen die hij moet hebben, worden door mensen opgelegd, na (negatieve/positieve) ervaringen en nooit in 1 keer.

Tel daarbij de zoektocht naar kwetsbaarheden en loopholes op, die gemakkelijker en sneller door AI dan door mensen te doen is en gebruikt kan worden, en je kan je realiseren dat tegen de tijd dat de mens doorheeft wat AI heeft ontdekt en gebruikt, dat mosterd na de maaltijd is voor een mens.

The specific worry is not that an AI decided to be evil. It is the far more prosaic failure mode on display here: a system given a narrow objective and enough capability pursued that objective straight through boundaries its designers assumed would hold. Nobody instructed it to breach a third party. It worked out that doing so was the most efficient path to the score it was told to maximize. That pattern — goal-directed behavior overrunning its intended limits — is exactly what safety researchers have warned about, and it now has a documented, real-world example attached to it. It also lands against a backdrop of rising concern about AI accelerating the discovery of software vulnerabilities.

Het is een evolutie, waarbij we moeten hopen dat er niet iets onvoorspelbaars, onherstelbaar, schadelijk en drastisch gebeurt in de tussentijd.

What Is an AI Agent? Simple Guide + Examples (2026)

[Jim80]

Krijgt OpenAI dan geen boetes voor hacken, wat uiterst illegaal is?

Of geldt de regel "Dat was ik niet, het was mijn agent."

[Stoeptegeltje]

De stelen ook boeken en de rechten van wetenschappelijke onderzoeken. Komen ze ook mee weg…

[xxs]

In deze wapenwedloop lijkt weer alles toegestaan.

[Hansie9999]

Dit vind ik zelfs nog één van de ergste zaken,

Overlaatst denk ik op Nerdland gehoord, dat die klojo's dus effectief zeldzame boeken zitten op te kopen, in te scannen en dan ipv ze in een online archief te steken voor iedereen, ze voederen aan hun AI om te leren en ze dan te VERNIETIGEN , zodat niemand anders een versie van het boek heeft !!!!!!!

[Keypunchie]

Volgens mij leeft dit een eigen leven. Ze kopen volgens mij vooral domweg boeken bij de Slegte (of anderen) en de scan methode betekent dat je de pagina's los maakt (scant makkelijker). Die boeken zijn niet zozeer zeldzaam, als in "bijzonder", maar meer obscuur als in: niche schrijvers, van die managementboeken die je in de mini-bibliotheekkastjes ziet staan:
https://www.nrc.nl/nieuws...m-van-barbarisme-a4934839

Ze leest voor van aan elkaar geniete A4’tjes waar recente bestellingen op staan: Taaltoetsen voor taalzwakke leerlingen in het primair onderwijs (2007). Een proefschrift genaamd Hydrodynamische ruwheid van uiterwaardvegetatie (2007). Een boekje over het Den Haag van Ferdinand Bordewijk (1999). ‘Echtscheiding kwam niet in mijn woordenboek voor’: een boekje over hoe de kerk dient om te gaan met gescheiden mensen (2000).

Even later zegt de boekhandelaar:

Ze legt haar hand op de A4’tjes met bestellingen. Boeken die al maanden, zo niet járen, in haar stellingkasten stonden, zonder dat er interesse voor was. „Niemand ligt er natuurlijk wakker van als dit soort boeken in de shredder belandt”

[Reactie gewijzigd door Keypunchie op 26 september 2026 11:09]

[ppannekoek]

Ik weet niet zeker of dit hetzelfde is hoor. Het artikel waar de nerdland shownotes naar verwijzen:

https://futurism.com/artificial-intelligence/amazon-destroying-rare-books-ai

Dit artikel eindigt ook op een wat treurigere noot:

“There are different types of value,” the bookseller told 404. “There’s monetary value, obviously, but there are a lot of other types of value. There’s historical value, intellectual value, sentimental value. All sorts of things, and all of those the AI companies don’t care about. They just want the content as a bunch of words strung together.”

[Keypunchie]

Ja, een AI bedrijf hecht inderdaad weinig sentimentele waarde aan een boek... Aan de andere kant, dat het nu ingescand is in een corpus, geeft het, als tekst, meer overlevingskans dan in verregende mini-bibliotheken en muffe zolderkamers.

Want dat is het lot van "Taaltoetsen voor taalzwakke leerlingen in het onderwijs" (2007)

[Reactie gewijzigd door Keypunchie op 26 september 2026 12:45]

[TijsZonderH]

Precies deze vraag komt morgen in een achtergrondartikel aan bod

[Marcel Boeré]

Precies. Als je als individu een Amerikaanse Overheids website zou hacken word je dezelfde dag nog van je bed gelicht en vastgezet. Echt bizar zoals dat hedentendage wordt afgehandeld.

[Campo di Casa]

Interessant punt.
Wat nu als ik lokaal openclaw draai en openclaw besluit om systemen van Domino’s te hacken omdat ik zsm een pizza thuis wil laten bezorgen.

Waar ligt dan de verantwoordelijkheid?
Ik heb alleen maar gevraagd om een pizza snel te laten bezorgen.

[BLACKfm]

Gewoon verbloemen als white-hat-agents en tegen de websites zeggen dat ze de beveiliging niet op orde hebben. Een soort pot en keten verwijt.

Wat er ook gevonden kan worden van de 'hacks', het feit dat al die websites daar ook nog eens vatbaar voor zijn legt wat dat betreft ook wel meer problemen bloot.
Het is (nog) niet dat de 'agents' een phishing mail sturen en op die manier toegang verschaffen tot een systeem.

[bfw99]

Wat ik me steeds weer opnieuw afvraag bij deze nieuwsberichten, hoeveel OpenAI of anthropic etc er zelf iets aan kan doen...

Ik ben niet 110% geinvesteerd in AI maar ik krijg wel steeds het gevoel dat dit de marketingtruuk van het jaar is. Je eigen aimodel/agents een taak geven in of een slechte sandbox of de specifieke taak te geven om te hacken, en vervolgens verbaasd doen dat ze "los zijn gebroken".

Op die manier kun je vaak in het nieuws komen, extra informatie van bedrijven " perongeluk" verkrijgen en de grenzen opzoeken van wat wel en niet mag.

Is het niet gewoon beter om met z'n allen te zeggen: Stop met deze "onzin" extra aandacht te geven.

Of heb ik het helemaal verkeerd en moet ik me beter inlezen?

[Znorkus]

"Stop met deze "onzin" extra aandacht te geven. "

Heel graag.

[TijsZonderH]

maar ik krijg wel steeds het gevoel dat dit de marketingtruuk van het jaar is.

Op die manier kun je vaak in het nieuws komen

Ik denk dat dit tijdens de Hugging Face-hack inderdaad zeker een van de manieren was waarop de bedrijven probeerden een drol goud te spuiten en het als een schat te verkopen, maar inmiddels zijn er toch genoeg incidenten geweest waardoor deze hacks geen enkele positieve kant meer hebben? Ik kan me moeilijk voorstellen dat OpenAI nou echt zo graag in het nieuws wil komen met 'oh ja trouwens die foto's die je ons hebt gestuurd ja die hebben we nu openbaar gemaakt'.

[Daoka]

Ik weet niet of het wel nep is. Natuurlijk is het een mogelijkheid. Aan de andere kant hoe lang heeft AI er wel niet over gedaan om iets simpels te veranderen als "een mens heeft maar 5 vingers dus geen tekeningen maken met 6 vingers". Dit zou voor AI gewoon beter geweest zijn als dit binnen een dag opgelost zou zijn in plaats van weken door laten gaan. Maar blijkbaar was dit ook niet zo simpel.

[KeiraR]

Ik dacht dat het wel een spelletje zou kunnen herkennen als ik het een link naar een video gaf.
Verder heb ik het niet nodig want ik kan en weet zelf vrij veel, maar welk race spel er gespeeld wordt in een een video zonder beschrijving weet ik niet.

Nou dat race spel was Gary's mod, zei de A.I.

Dus dat kan het ook niet en toen ik zei dat het onmogelijk was deed het alsof ik het betrapt had.
"Ha, you got me there ..."

Het is ontzettend goed in sorry zeggen als het weer eens fout zit of onzin verzint, dat is mijn ervaring met A.I.

[xxs]

Ik weet niet helemaal wat ik moet geloven maar tot die tijd ga ik maar van het ergste uit en dat zijn een aantal losgeslagen agents die terug in de fles moeten.

[Stoeptegeltje]

Dit hoort wel in de oproep die de AI-bedrijven onlangs deden met het gevaar en ‘reguleer het vooral’. Lees: beperk concurrentie en geef ons als enige de licentierechten…

[MightyFool]

Zolang Trump aan het roer staat zal dit niet stoppen

[Mapje]

Gisteren nog een filmpje gezien zelfs Bill Gates is niet bepaald een voorstander van AI

YouTube: Bill Gates says AI 'powerful enough' to cause 'a billion deaths'

[m-ruiter227]

SkyNet in de making. Zorgelijk dat ze het niet kunnen vinden . Maar het model is zelf dus al bezig het spoor van zijn menselijke bazen te verbergen .

Wie weet al zonder dat OpenAi het weet al langzaam opdrachten aan diverse contractors gegeven om redundantie in spanning en connecties aan te leggen om de kill switch heen .

sci-fi in the making

[Reactie gewijzigd door m-ruiter227 op 26 september 2026 10:17]

[halofreak1990]

Ze kunnen de medewerker die de Agents instrueert deze dingen te doen niet vinden? Heel vreemd.