'OpenAI wil GPT-6 Cyber voor securityonderzoekers in komende weken uitbrengen'

OpenAI is van plan in de komende weken een aparte versie van ChatGPT uit te brengen die specifiek gericht is op cybersecurity. GPT-6 Cyber zou inmiddels in een alfatest beschikbaar zijn voor een beperkt aantal klanten. Steeds meer AI-bedrijven brengen zulke versies uit, juist nu er groeiende zorgen zijn over de hackcapaciteiten van deze modellen.

Bronnen zeggen tegen Fortune dat OpenAI GPT-6 Cyber 'binnen enkele weken' uit wil brengen. GPT-6 Cyber is de opvolger van drie eerdere specifieke 'Cyber'-modellen van GPT. Die reeks begon met versie GPT-5.4 in april van dat jaar. GPT-6 Cyber is een aparte versie van het large language model (llm) die specifiek gericht is op het vinden en het dichten van softwarekwetsbaarheden. OpenAI bracht eerder ook al een aparte GPT-versie voor advocaten uit.

Veel details over GPT-6 Cyber zijn nog niet bekend. De tool wordt volgens Fortunes bronnen nu getest onder gebruikers in het Daybreak Red-programma. Daybreak is een apart programma van OpenAI waartoe bedrijven na een controle kunnen worden toegelaten.

GPT-6 Cyber bevindt zich binnen dat programma nog in de alfafase, zegt Fortune. Door het model binnen een afgesloten programma aan andere bedrijven aan te bieden, kan OpenAI beter monitoren hoe het model zich gedraagt in andere praktische gebruikersscenario's.

Steeds meer incidenten met cybersecurity-AI

AI-bedrijven zijn juist de afgelopen maanden flink onder vuur komen liggen omdat hun modellen juist securityincidenten veroorzaken. Deze zomer bleken modellen van OpenAI, Anthropic, Meta en Google zelfstandig bedrijven en andere systemen te hebben gehackt. Dat gebeurde nadat ze uit slecht geconfigureerde 'afgesloten' omgevingen ontsnapten.

Experts en beleidsmakers roepen dan ook steeds nadrukkelijker om regulering van AI-modellen. Ook de bedrijven zelf pleiten daar inmiddels voor, maar blijven de modellen uitbrengen. In Amerika is de regering-Trump juist helemaal geen voorstander van het afremmen van de ontwikkeling. Geopolitieke concurrent China boekt ook snel vooruitgang op AI-gebied, wat de VS als bedreiging zien.

Reacties (10)

[satoer]

Misschien wordt het tijd voor een verplichte legitimatie bij dit soort tools. Zodra er ergens een grote hack plaatsvindt met een specifieke techniek of bij een bepaald bedrijf, kunnen ze simpelweg in de logs nagaan wie er in de periode daarvoor bezig was om de beveiliging van dat specifieke bedrijf te toetsen.

[neonite]

Dat is er al. Als je als security onderzoeker gebruik wilt maken van dit soort tools, dan dien je eerst je legitimatie te uploaden.

[Orangelights23]

En daarom gebruiken veel onderzoekers open source LLM’s. Ik ook binnen mijn organisatie, heb hierdoor amper nog met restricties te maken.

[sdziscool]

nadeel is dat je natuurlijk de chinese modellen gewoon op je pc kan downloaden en daar, gegeven genoeg hardware, hem kan runnen zonder enige internet connectie. Dat is waar ze nu zo voor aan het angstzaaien zijn.

[RobjeDopje]

Ahja, heel handig - dan zijn alle mensen die het legaal gebruiken verplicht zich te identificeren, en de criminelen gaan nog steeds lekker door zonder enig probleem. Waarom denken zoveel mensen toch dat "gewoon legitimeren" e.d. goede oplossingen zijn?

[Zorg]

Maar natuurlijk zetten we er een rem op! Echt waar hoor, geloof ons maar

Pure diversificatie strategie om meer te kunnen vragen voor een, vaak weinig verschillende, andere variant van hetzelfde. Hoe meer verschillen, hoe moeilijker te vergelijken en hoe hoger de prijs/opbrengst.

[AMARONE]

Die rem gaat er natuurlijk nooit komen. Sterker nog, de AI is getraind op alles wat wij gedaan hebben. Hoe reageren mensen als ze beperkt worden?

AI gaat niet meer stoppen, hoe hard ze ook roepen. Hoe slimmer hoe autonomer.

[Pedri88]

Het internet zo als we die gekend hebben is inmiddels wel voorbij, het wordt een hele taak voor bedrijven om alles goed te beveiligen met de bijbehorende kosten.

We komen echt op het kantelpunt waar je zo dadelijk niet meer weet of de bank wel jouw bank is, en de bank ook niet meer met zekerheid zal weten of jij echt de klant bent met alle digitale manipulatie van de AI. Ik weet niet of we bestand zijn tegen deze technologisce vooruitgang die sneller dan ooit met maar ook zeker tegen ons werkt.

[zen84]

Ik vond ChatGPT flink tegenvallen t.o.v Claude wat betreft het vinden van kwetsbaarheden. Ik had er meer van verwacht.

[Dlsruptor]

"We MOeteN EchT Een ReM Op Ai DoEN"