Voormalige NSA-baas treedt toe tot raad van bestuur OpenAI

Paul M. Nakasone, de voormalige baas van de Amerikaanse National Security Agency, is toegetreden tot de raad van bestuur van OpenAI. Nakasone gaat daarnaast bijdragen aan de cybersecurity van het bedrijf.

Nakasone was eerder generaal in het Amerikaanse leger. Tussen 2018 en februari dit jaar was hij de directeur van de NSA. Bij OpenAI gaat Nakasone niet alleen aan de slag in de raad van bestuur, maar wordt hij ook lid van de in mei aangekondigde Safety and Security Committee, aldus OpenAi in een aankondiging. Deze commissie moet de raad van bestuur adviseren over veiligheid en security binnen OpenAI en zijn projecten. Volgens het bedrijf wordt de commissie de belangrijkste prioriteit voor Nakasone.

"De inzichten van Nakasone zullen ook bijdragen aan de inspanningen van OpenAI om beter te begrijpen hoe AI kan worden gebruikt om de cyberveiligheid te versterken door cyberbedreigingen snel te detecteren en erop te reageren", aldus OpenAI.

Reacties (36)

[Jan Onderwater]

Ik vind het wel grappig dat veel users menen dat inlichtingendiensten en overheid op de boot van kunstmatige intelligentie springen. Defensie en Inlichtingendiensten zijn nu juist al sinds decennia de voorrijders hierin. Beeldherkenning op Satfotos, Antitank en antischip raketten die zelf hun doel herkennen, geautomatiseerd afluisteren, analyse van organisaties, strategie, etc etc
Kennissystemen, neurale netwerken, allemaal al decennia ingezet

[MarcelHavekes]

Zo gauw AI 'public domain' is geworden is defensie bang dat ze achterop gaan raken.
En de NSA is hierdoor bang dat 'de burger' AI kan gebruiken met de ongrijpbaar heid daarvan.
Dan kun je maar beter zorgen dat er, via een generaal in de Raad v bestuur, een achterdeur komt waarmee defensie en NSA kunnen meekijken.
Zoals al gebeurt in de leiding van Google

[Chrono Trigger]

Volgens mij is het juist zo dat technologie begint bij defensie en pas na jaren hier uitkomt. Vind het wel logisch dat zijn ver voor lopen. Eigenlijk vraag ik me af hoe ver zo daar juist zijn, want dan weten wij dat pas over enkele jaren.

[Jan Onderwater]

Dat zeg ik toch?

[Chrono Trigger]

Jij bent vast gezellig op verjaardagen

[Reactie gewijzigd door Chrono Trigger op 23 juli 2024 02:12]

[Ivolve]

Ik weet niet zo goed wat ik hiervan moet vinden. Van de ene kant wekt de term NSA-directeur een soort instinctief wantrouwen op bij mij. Van de andere kant zou niemand beter de gevaren van AI moeten kunnen spotten dan iemand die voor de NSA heeft gewerkt.

[Llopigat]

De NSA heeft een dubbele rol in Amerika.

Aan de ene kant spioneren ze, aan de andere kant zijn ze ook verantwoordelijk voor het verbeteren van de cyberdefensie, al sinds de jaren '80. Ze bieden bijvoorbeeld guides aan over het 'hardenen' van je OS. Ook hebben ze bijvoorbeeld IBM geholpen met het ontwerp van DES. Dat werd toen ook met argwaan bekeken, maar pas jaren later bleek dat hun wijziging het echt sterker had gemaakt.

Helaas is hun rol sinds 9/11 nogal naar het spionage gedeelte opgeschoven. En met name naar de burger, voor die tijd richtten ze zich veel meer op vijandelijke staten.

[Reactie gewijzigd door Llopigat op 23 juli 2024 02:12]

[Marve79]

Ik denk dat SELinux nog wel de meest bekende bijdrage van de NSA is.

[Llopigat]

Oh ja inderdaad, goed punt. Die werd ook met argwaan bekeken in het begin maar is nu ook alom geaccepteerd (en een belangrijk onderdeel van Android).

[Navi]

Schakel ik altijd meteen uit, zit altijd in de weg waardoor er iets weer niet werkt

[Caelorum]

Net als een firewall, maar die zet je neem ik aan ook niet uit. Die heb je geleerd te configureren. Hetzelfde zou je eigenlijk ook met SELinux moeten doen (het is ook niet heel moeilijk overigens).

[Ghoelian]

Ik vind firewalls configureren toch wel een heel stuk makkelijker dan SELinux.

Stel ik wil samba open hebben. Het firewall deel is op veel distro's zo simpel als even het samba profiel toelaten in je firewall, of anders de standaard poort opzoeken en toelaten.

Voor het SELinux deel moet je de juiste sebool op de goede waarde zetten, en een of andere security context instellen.

Ik kan natuurlijk prima een artikel vinden die me vertelt hoe ik dat voor samba kan doen, maar echt begrijpen hoe het werkt is naar mijn ervaring toch echt een stuk lastiger met selinux, of ik moet iets compleet verkeerd doen. Is ook niet voor niks denk ik dat OpenSUSE standaard die SELinux policy analyser heeft.

[JeroenED]

toen ik netwerkbeheer studeerde en in mijn examen vm was selinux uitgeschakeld was het direct gebuisd. Lijkt heel onredelijk, kon ook met een punt of meerdere aftrek opgelost worden, maar oh zo blij dat ik erdoor moest. Het heeft ervoor gezorgd dat ik nu nadenk over mijn acties wanneer ik resources begin te delen tussen processen.

[wildhagen]

Helaas is hun rol sinds 9/11 nogal naar het spionage gedeelte opgeschoven. En met name naar de burger, voor die tijd richtten ze zich veel meer op vijandelijke staten.

Niet helemaal, ook voor 9/11 deed de NSA al aan spionage, ook op bevriende landen, en ook voor hun eigen commerciele voordeel.

Denk aan Echelon wat de VS (onder beheer van de NSA) wat al sinds de jaren 70 ook Europese landen bespioneerde. Zo hebben ze ooit een miljardenorder afgenomen van Airbus, die toen naar Boeing is gegaan. Idem voor orders die van het Franse Thales naar het Amerikaanse Raytheon etc werden doorgesluisd.

En Echelon was er maar één, ze hadden bijvoorbeeld meerdere spionage-netwerken, zoals PRISM bijvoorbeeld, die ze ook tegen bevriende landen hebben gebruikt.

Ik weet zelf nog niet helemaal wat ik van deze benoeming bij OpenAI moet vinden, gezien de reputatie van de NSA vind ik het toch wel een beetje een dubbel gevoel opwekken eerlijk gezegd.

[Reactie gewijzigd door wildhagen op 23 juli 2024 02:12]

[The Zep Man]

Ook hebben ze bijvoorbeeld IBM geholpen met het ontwerp van DES. Dat werd toen ook met argwaan bekeken, maar pas jaren later bleek dat hun wijziging het echt sterker had gemaakt.

Andersom zijn ze ook bekend van backdoors, zoals in een veelgebruikte implementatie van Dual_EC_DRBG. Daarom dat je voor breed omarmde moderne algoritmes ziet dat overheden er niet meer bij betrokken zijn. Dat vertrouwen is weg en komt niet meer terug.

[Armada651]

Voor het geval je in Nederland woont zou ik je meer zorgen maken over het feit dat de voormalig directeur van de AIVD minister-president gaat worden.

[Llopigat]

Precies, het verbaast me dat hier minder ophef over is. Met name omdat de AIVD echt alleen een spionagerol heeft en geen beveiligende rol.

Ik kan me bijvoorbeeld voorstellen dat Nederland de campagne om backdoors in chat apps te stoppen gaat leiden de komende jaren omdat de premier zo ontvankelijk is voor de argumenten. Dat vind ik een zorgelijke ontwikkeling.

[wildhagen]

Precies, het verbaast me dat hier minder ophef over is. Met name omdat de AIVD echt alleen een spionagerol heeft en geen beveiligende rol.

Dit klopt niet, ze hebben wel degelijk een rol in de beveiliging:

De AIVD heeft als taken:

- onderzoek doen naar organisaties en personen die een dreiging vormen;
- veiligheidsonderzoeken uitvoeren;
- veiligheidsmaatregelen bevorderen;
- inlichtingen over het buitenland inwinnen;
- analyses maken van dreigingen en risico's;
- screening van bepaalde personen en organisaties.

Zie https://www.rijksoverheid...en-veiligheidsdienst-aivd

Dit was gisteren bijvoorbeeld nog in het nieuws: Beoogd minister Markuszower (PVV) komt niet door screening van AIVD.

Op dat vlak is AIVD dus redelijk goed te vergelijken met de NSA. Uiteraard wel met veel beperkter middelen en bevoegdheden, dus qua schaalgrootte zijn ze totaal niet te vergelijken, maar qua taakstelling dus wel degelijk.

[Llopigat]

Ik vind hun rol veel meer spionage georienteerd dan die van de NSA. Screening vind ik ook onder de spionage vallen (ze brengen immers dingen aan het licht die niet publiek bekend zijn).

Het enige puntje is dan 'veiligheidsmaatregelen bevorderen' maar de AIVD staat hier in Nederland nog minder om bekend dan de NSA in Amerika.

[Jan Onderwater]

Iemand die leiding gaf aan de NSA is zeer waarschijnlijk zeer bedreven en weet verdomt veel van IT en van de verschillende vormen van kunstmatige intelligentie op hoog niveau. Toen ik begin jaren 90 KI studeerde was het al zo dat satellietbeelden met Neurale netwerken verwerkt werden. Foto's met tanks, foto's zonder tanks. Deze modellen werden getraind en het was toen al duidelijk het grote probleem was dat je nooit precies wist wat de KI nu precies leerde. Als je de trainingsfoto's niet goed normaliseerde (fotos zonder tanks vaak bij bewolkt weer bijvoorbeeld) dan leert de KI scherpe en onscherpe schaduwen te onderscheiden. Zo was er ook destijds SW die gesproken tekst naar geschreven tekst omzette, wat het mogelijk maakt massaal af te luisteren, dit als text op te slaan om dat met zoekstrings snel doorzoekbaar te maken, ook terugwerkend.

[Noobie2010]

Dat is niet waar. Die stoel bij de NSA is een politieke stoel dat vaak gevuld wordt door iemand met een Defensie achtergrond. Geen wetenschapper.

[Jan Onderwater]

Hij was Commandant van U.S. Army Cyber Command en heeft 4 master titels. Eerlijk gezegd denk ik dat wanneer hij slaapt nog rondjes rond je kan rennen op inhoudelijk niveau.

[NoTechSupport]

Ik denk dat het allebei is. Je kan best wantrouwig zijn, hij zal de eigenschappen (sterktes en zwaktes) van de AI van OpenAI in kaart brengen en zorgen dat die de belangen dient van de drieletter agentschappen. Het verbaast me dat ze dit zo openlijk doen, ik zou een soort stroman verwachten.

[GameNympho]

Hier het zelfde, liever iemand die verstand van AI heeft en niet iemand van de spionagediensten.
Eerste gedachte is dat diegene een dubbele agenda heeft, want wat voor de buitenwereld goed en normaal lijkt, kan in een achterkamer, iets anders worden besproken om de AI iets te laten doen wat het daglicht niet zien mag.

[Xfade]

en openai wekt dat niet op?

[latka]

De afdeling die inhoudelijk risico's in kaart bracht en oplossingen hiervoor moest maken (superalignment) iis opgeheven en vervangen door een NSA bestuurder zonder inhoudelijke kennis. Ik zie dit voornamelijk als een stap om tegen de overheid te kunnen zeggen: ja, we zijn er mee bezig zonder echt lastige vragen te moeten beantwoorden.

[jpfx]

Ik zie het anders. Een stap van de Amerikaanse overheid om daar iemand te hebben die er voor zorgt dat AI vooral in een door hun gewenste richting wordt ingezet. Defensie en opsporing van ongewenst gedrag van inwoners en andere landen.

[Jan Onderwater]

Defensie en overheid werken al decennia met kunstmatige intelligentie, het is een goed voorbeeld van defensietechnogie die civiel wordt.

[Jan Onderwater]

Hij was Commandant van U.S. Army Cyber Command en heeft 4 master titels. Eerlijk gezegd denk ik dat wanneer hij slaapt nog rondjes rond je kan rennen op inhoudelijk niveau.

[Yzord]

Nou, kunnen de artistieke geesten elkaar aanvullen over hoe we de wereld kunnen verblijden met AI. Als ik dan de verhalen van Snowden weer omhoog denk hoe de werkwijze van NSA over het algemeen is/was en dat combineer met een baas met hart voor de zaak en een bedrijf welke via twitter aan hun eigen bestuur bekend maakte dat ChatGPT was geboren, dan heb ik geen peper en zout nodig om te concluderen dat dit een perfect match is waar we op zitten te wachten. Wat zijn we toch gezegend met zulke geniale toepassingen die ons leven verrijken.

[5trife]

ChatGPT in combinatie met Apple's aankondiging om ChatGPT te integreren op iPhones is het equivalent van Europa's Client-side CSAM scanning. Met het verschil dat in EU CSAM enkel bedoeld is voor media (beelden en video), terwijl ChatGPT ook meeleest (tekst). Waar in Europa een wetgeving voor nodig is om te kunnen deployen, wordt in de USA op iPhones onder groot applaus ingevoerd. Dada privacy ...

[lostboy_0234]

Krijgen we toch nog een wereld zoals de jaren 50 Hollywood films ons voorspelde. De artistieke geest is nooit ver weg van de realiteit.

[ArawnofAnnwn]

Geen idee welke films, maar dit klinkt heel erg als 1984. Hopelijk word Grok beter dan het al is.

[aileron]

De verwevenheid tussen big tech en overheid wordt steeds zichtbaarder.

Onderschat het niet. Tech in Bredere zin is al lange tijd onderdeel van de nationale veiligheid.
AI heeft een duidelijke militaire potentie, in defensie zoals in het artikel wordt aangegeven. Maar ook zeker
Aanvallend.
Een volgende oorlog tussen grootmachten zal AI wellicht een doorslaggevende rol kunnen spelen.

Het wordt in ieder geval heel serieus genomen en deze aanstelling verbaasd mij dus helemaal niks.

[Reactie gewijzigd door aileron op 23 juli 2024 02:12]

[Jan Onderwater]

Big Tech en inlichtingendiensten liggen al sinds de tweede wereldoorlog met elkaar in bed. AI was tijdens Vietnam al een item. De RAND cooperation gebruikte AI modellen van die tijd om op basis van intelligence strategie te bepalen.

[Reactie gewijzigd door Jan Onderwater op 23 juli 2024 02:12]

[Varleria]

Gewoonweg om nog meer controle te kunnen uitoefenen over de burgerbevolking. We komen alsmaar dichter bij dictatuurstaten in het Westen en brengen hierbij verwijten naar Rusland en China toe ?