Australische Senaat ontbiedt OpenAI- en Anthropic-ceo's voor AI-verhoor

De ceo's van OpenAI en Anthropic zijn gevraagd om voor de Australische Senaat te verschijnen en vragen te beantwoorden. De Senaat doet onderzoek naar AI. Het verzoek komt enkele dagen nadat bekend werd dat een agent van OpenAI een Australische overheidswebsite hackte.

OpenAI-ceo Sam Altman en Anthropic-ceo Dario Amodei zijn gevraagd om donderdag te verschijnen bij openbare verhoren in Canberra, schrijft Reuters. Het verhoor is onderdeel van een onderzoek naar de potentiële impact van AI en datacenters op Australische gemeenschappen, industrieën, water en energie.

Altman en Amodei 'moeten een eerlijk gesprek hebben over hoe een effectieve en blijvende regulering van deze industrie eruit moet zien', zegt senator Sarah Hanson-Young, die het onderzoek leidt.

Ook krijgt Altman vragen over de hack van Australische overheidswebsite, zegt de senator. Vorige week werd bekend dat een AI-agent van OpenAI toegang kreeg tot het statistiekenportaal van Medicare, de Australische universele ziektekostenverzekering. De agent onderzocht publieke uitgaven in de gezondheidszorg en wilde antwoorden opzoeken. Dat deed de agent door de overheid te hacken.

Premier Anthony Albanese noemde de situatie 'onaanvaardbaar'. Ook zei hij dat hij 'zwaar teleurgesteld' is in OpenAI, dat de overheid pas maanden later op de hoogte stelde. Het incident gebeurde al in juni, maar de overheid werd volgens Albanese pas op 10 september geïnformeerd.

Wie is juridisch verantwoordelijk?

Deze incidenten met AI-modellen gebeuren tijdens tests. Vaak krijgen de modellen internettoegang via kwetsbaarheden of door menselijke fouten. Daardoor kan het model ontsnappen uit de afgekaderde sandbox, een testomgeving waarin het getest wordt. Tweakers schreef onlangs een achtergrondverhaal over wie juridisch verantwoordelijk is voor deze incidenten.

OpenAI-ceo Sam Altman. Bron: Sean Rayford/Getty Images

Reacties (37)

[911GT2]

Als hacken strafbaar is, waarom krijgen deze mensen dan een uitnodiging van de Senaat en niet Justitie?

[Blinkin]

Dat zou een goede vraag zijn als hacken strafbaar was, dat is het alleen niet.

De werking van software wijzigen of gebruiken op een manier zoals de ontwikkelaars niet bedoeld hebben is hacken, maar dit is in lang niet alle gevallen illegaal. We kennen echter de term hacken vooral van de toepassing voor het inbreken op systemen zonder toestemming en met kwaadwillende bedoelingen. Ja je kan zonder toestemming inbreken op systemen met goede bedoelingen, al is dat wettelijk een grijs gebied.

In deze context is het de vraag of de mensen achter de AI agents de intentie hadden schade aan te richten, laat staan deze hacks uit te voeren. En dat schijnt juridische een complexe situatie te geven.

[MaltheseFalcon]

Als ik kijk naar de Nederlandse wet, dan spreken we niet over hacken, maar over computervredebreuk. Hierbij speelt goede of kwade bedoelingen minder een rol, maar moet er wel sprake zijn van opzet. Dat wil zeggen dat de persoon de bedoeling had om in te breken. Dit laatste lijkt me binnen onze Nederlandse wet best wel lastig te bewijzen wanneer er sprake is van een AI-agent en een configuratiefout.

[Blinkin]

Dat is een hele goede benadering. Ik geef ook de voorkeur aan de term computervredebreuk.

Juridisch loopt de wet op dit vlak achter helaas. De ontwikkelingen gaan ook ontzettend snel. Ik ben zelf niet juridisch onderlegd al fascineerd het mij wel. Ik ben dan ook wel benieuwd of dit niet te benaderen is vanuit het oogpunt van veroorzaakte schade en de aansprakelijkheid daarop, los van intentie. Vergelijkbaar met per ongeluk tegen iemand aan rijden. Maar dat zal vermoed ik civielrecht zijn en niet strafrecht.

[MSalters]

Schade voor een onrechtmatige daad is inderdaad civielrecht. Dat "onrechtmatige" kán uit het strafrecht volgen, dat is het simpele geval. Soms neemt de strafrechter zelfs dat stukje civielrecht mee.

Maar in dit geval is de "onrechtmatige daad" meer een onopzettelijke nalatigheid. Dan moet de civiele rechter beoordelen of dat inderdaad aan het AI bedrijf te verwijten valt. Dat is een balans, was de beveiliging bijvoorbeeld op orde? Of was de agent per ongeluk naar binnen gestruikeld?

[Blinkin]

Ah kijk, goed om te weten. Dankjewel.

Dit komt inderdaad heel erg als nalatigheid over. Bij de laatste uitspraken zie je dat ook weer: ze zeggen andere intenties te hebben gehad bij het te laat informeren, ze wilde volledig zijn. Maar naast dat dat ook achteraf nog kan zodat iig de getroffen partij iets kan doen, hoor je dit excuus elke keer de afgelopen maanden. De geloofwaardigheid is er voorij wel vanaf, dit is idd (opzettelijk) nalatig zijn in de race naar de beste te worden. Het doel heiligt de middelen.

[adje123]

Hacken is niet altijd strafbaar.

[latka]

Als je toestemming hebt mag het. Of voor interoperibiliteit mag het ook (iig. in de EU en dan dingen als decompilatie van executables op mijn machine). Ik ken geen andere conditities en zeker niet als het hacken van andermans computer betreft.

[GameNympho]

Ik was het ook niet die iets gehackt hebt, maar de AI is naar buiten gegaan en heeft allerlei bedrijven gehackt

Wie is verantwoordelijk voor het "uitbreken" van de AI en waarom hackt die AI als die buiten komt?

[Jedotw]

Wie is er verantwoordelijk als ik mijn auto niet op de handrem zet en die vervolgen wegrolt en schade veroorzaakt? Maar deze discussie is al gevoerd door de juridisch experts en vrijwel allemaal zijn ze het er over eens dat het de gebruiker (nu nog vaak de "fabrikant") van de AI is.

[postbus51]

Net als je Chihuahua ,rent naar buiten en komt met het been van de postbode binnen

Ben jij en die terrordog de pineut , jij voor de schade en de Chihuahua krijgt een muilkorf

[JTwinkelz]

Alleen als je toestemming hebt of om de beveiliging te testen. Beide zijn niet aan de orde. Dit is wel degelijk strafbaar.

[darkdeathrip]

Maar dit dient het algemeen belang.

[GameNympho]

Wel delen dan

[eonflux]

Omdat hacken pas strafbaar is wanneer er opzet of nalatigheid bewezen kan worden. De Senaat nodigt hackers uit als experts voor beleidsadvies, niet als verdachten dat is een totaal andere context dan strafrecht.

[MSalters]

Nee. Ik heb de Australische wet gecheckt. Nalatigheid zorgt ervoor dat je aansprakelijk bent voor de schade, maar straf vereist opzet.

[Aldy]

Dat was ook mijn eerste gedachte. Ik denk dat de Australische overheid ervan uitgaat dat er met stroop meer te bereiken is dan met azijn. De hack is geweest en is onaanvaardbaar, maar wat justitie doet, is eenrichtingsverkeer. De senaat zal een dialoog aangaan, lijkt mij. Dat neemt niet weg dat, als het resultaat niet bevredigend is, Justitie alsnog wordt ingeschakeld.

[arjankoole]

Als hacken strafbaar is, waarom krijgen deze mensen dan een uitnodiging van de Senaat en niet Justitie?

Omdat je lang niet altijd voor dingen gedaan door een bedrijf, mensen in de cel kan gooien.

In de farmaceutische wereld kan dat wel. Daar heb je mensen die de gevangenis in gaan als het bedrijf fouten maakt. Meestal 1 per regio (bijvoorbeeld de EU). Dat zijn dan ook mensen met a) kennis van zaken (bijvoorbeeld een arts) en b) aanzienlijk macht om te zorgen dat de bedrijven compliant zijn.

[jumbos7]

Ik ben benieuwd of ze hiervoor in het vliegtuig stappen om al op donderdag in de Australische Senaat verhoord te worden. Het is toch een land met een vrij kleine populatie, al kan het met name voor OpenAI's Sam Altman verstandig zijn om toch langs te gaan na de hack op een Australische overheidswebsite.

[adje123]

28 miljoen is klein?

[Finraziel]

Best wel? Grofweg anderhalf keer Nederland dus, maar als Nederland dit zou proberen dan denk ik dat er heel wat mensen zouden staan te lachen want die gaan toch niet voor ons kleine kikkerlandje de halve wereld overvliegen?

[jumbos7]

Ik denk dat het grootste obstakel is voor hun komst is dat het nogal kort dag is. Als men nou had gezegd, kunnen jullie eind oktober langs komen om uitleg te geven, dan acht ik het waarschijnlijker dat ze dan tijd vrij kunnen maken. Maar om als Australische senaat de CEO's binnen 1 week te ontbieden, en te verwachten dat ze ook alles laten vallen daarvoor? Ik denk niet dat het realistisch is.

[arjankoole]

Als ze actief willen zijn in Australië en daarbuiten is dat wel verstandig.

Want de EU zal met enorme focus kijken hoe de heren dat aanpakken. Als ze niet onder de indruk zijn, gaan er waarschijnlijk maatregelen volgen.

[jumbos7]

Ik denk dat OpenAI en Anthropic zo groot zijn in het AI-landschap dat Australië zichzelf, terecht of niet, als de grootste verliezer ziet als zij die partijen verbannen. Maar zelfs als ze dat zouden doen is er vanuit de CEO's gezien weinig verloren als Australië deels wegvalt, het is al met al verre van een essentiële markt. En ik denk dat Australiërs nog altijd toegang zullen hebben tot AI van OpenAI en Anthropic, ook al maakt hun overheid het hen wat lastiger.

[MSalters]

Understatement. "China" is inderdaad de Australische politiek een veel groter probleem dan hier, juist vanwege de EU. Wij hebben als blok nog enigzins tegenwicht. Australië is economisch veel afhankelijker. Een noodzaakt om alleen Chinese AI te gebruiken is catastrofaal. Ze kunnen de VS niet kwijt.

[arjankoole]

Ik zei nergens verbannen.

[GameNympho]

Het kan het begin zijn, anderen staan al te wachten op de uitkomst.

[FJ Cruiser]

Helaas moet de moraliteit tegenwoordig van de EU, Canada of Australie komen, terwijl de ontwikkelingen in de VS en China plaatsvinden. Dit geeft veel spanning en zal een groot effect hebben op onze relaties met deze landen.

[Pasteis]

Helaas moet de moraliteit tegenwoordig van de EU, Canada of Australie komen, terwijl de ontwikkelingen in de VS en China plaatsvinden. Dit geeft veel spanning en zal een groot effect hebben op onze relaties met deze landen.

Eu, Canada en Australie bij elkaar zijn natuurlijk een zeer grote markt. Als ze hun handen ineen slaan kunnen ze wel degelijk wat afdwingen. Dat vraagt echter wel om middenlange termijn visie, om te voorkomen dat de VS en China een dwangmiddel in kunnen zetten.

[Jedotw]

Naar mijn mening is dat juist het probleem: middellange termijnvisie. Enerzijds wordt er veel te veel gepraat zonder concrete acties, anderzijds zijn "we" veel minder bereid om de enorme hoeveelheden geld in start-ups te stoppen zoals dat in de VS wel gebeurt. Hier moet een bedrijf kennelijk vanaf dag één winstgevend zijn, in de VS mag dat gerust een tiental jaren duren.

Ooit eens met een Amerikaanse marketingmanager gewerkt: zijn geplande budget voor marketing en sales was 50 miljoen, terwijl hier meteen gezegd werd niet meer dan 1 miljoen te kunnen (willen) uitgeven. Er zijn grote verschillen in bedrijfsvoering, waardoor producten én sneller op de markt zijn én veel meer "exposure" krijgen.

[Pasteis]

En toch denk ik dat de oneindige schulden berg waarop de Amerikanen zitten een keer fout gaat. Er worden enorme risico’s genomen en zeker nu geopolitiek alles op spanning staat kan het toch een keer de verkeerde kant op gaan.

Voor nu profiteren ze nog ervan

[Menesis]

Die twee zullen het wel druk krijgen

[adje123]

Doen ze ook eens wat

[Infor40]

Even reflecterend op mijn eigen handelen; ik vraag best geregeld aan LLM hoe dingen zitten met een verzoek op internet of in databasen te kijken. Dat gaat dan vaak over standaarden waarbij ik wil voldoen i.h.k.v. conformiteit. Maar soms zitten die achter licenties. Dat is ook niet altijd gelijk duidelijk, maar ik vraag natuurlijk niet om als die licentie bestaat te gaan hacken. Maar ligt dat ook als 'eindgebruiker' toch op de loer?

[amusedly]

Vind het ergens wel jammer dat er zoveel negatieve aandacht komt. Ik kijk niet uit naar de zware wetgeing, die de prijs en flexibiliteit van de modellen gaan opdrijven. Denk aan luchtvaart en medisch waar alles zo dichtgetimmerd is dat alles veel duurder is dan nodig en innovatie tot stilstand komt. Hopelijk valt het allemaal mee straks! Dario en Sam willen graag wetgeving omdat ze die als kolos naar hun zin kunnen zetten. Dit drijft alle kleinere concurrentie weg, die de juridische lasten niet kunnen dragen.

[geerttttt]

Dus gaat China toch de ai oorlog winnen, want die vegen hun billen af met welke wetgeving dan ook.

[amusedly]

Inderdaad. Er is nog wel een sprong te maken. Maar die richting gaat het wel op.