Australische Senaat ontbiedt OpenAI- en Anthropic-ceo's voor AI-verhoor

De ceo's van OpenAI en Anthropic zijn gevraagd om voor de Australische Senaat te verschijnen en vragen te beantwoorden. De Senaat doet onderzoek naar AI. Het verzoek komt enkele dagen nadat bekend werd dat een agent van OpenAI een Australische overheidswebsite hackte.

OpenAI-ceo Sam Altman en Anthropic-ceo Dario Amodei zijn gevraagd om donderdag te verschijnen bij openbare verhoren in Canberra, schrijft Reuters. Het verhoor is onderdeel van een onderzoek naar de potentiële impact van AI en datacenters op Australische gemeenschappen, industrieën, water en energie.

Altman en Amodei 'moeten een eerlijk gesprek hebben over hoe een effectieve en blijvende regulering van deze industrie eruit moet zien', zegt senator Sarah Hanson-Young, die het onderzoek leidt.

Ook krijgt Altman vragen over de hack van Australische overheidswebsite, zegt de senator. Vorige week werd bekend dat een AI-agent van OpenAI toegang kreeg tot het statistiekenportaal van Medicare, de Australische universele ziektekostenverzekering. De agent onderzocht publieke uitgaven in de gezondheidszorg en wilde antwoorden opzoeken. Dat deed de agent door de overheid te hacken.

Premier Anthony Albanese noemde de situatie 'onaanvaardbaar'. Ook zei hij dat hij 'zwaar teleurgesteld' is in OpenAI, dat de overheid pas maanden later op de hoogte stelde. Het incident gebeurde al in juni, maar de overheid werd volgens Albanese pas op 10 september geïnformeerd.

Wie is juridisch verantwoordelijk?

Deze incidenten met AI-modellen gebeuren tijdens tests. Vaak krijgen de modellen internettoegang via kwetsbaarheden of door menselijke fouten. Daardoor kan het model ontsnappen uit de afgekaderde sandbox, een testomgeving waarin het getest wordt. Tweakers schreef onlangs een achtergrondverhaal over wie juridisch verantwoordelijk is voor deze incidenten.

OpenAI-ceo Sam Altman. Bron: Sean Rayford/Getty Images

Reacties (19)

[911GT2]

Als hacken strafbaar is, waarom krijgen deze mensen dan een uitnodiging van de Senaat en niet Justitie?

[adje123]

Hacken is niet altijd strafbaar.

[latka]

Als je toestemming hebt mag het. Of voor interoperibiliteit mag het ook (iig. in de EU en dan dingen als decompilatie van executables op mijn machine). Ik ken geen andere conditities en zeker niet als het hacken van andermans computer betreft.

[GameNympho]

Ik was het ook niet die iets gehackt hebt, maar de AI is naar buiten gegaan en heeft allerlei bedrijven gehackt

Wie is verantwoordelijk voor het "uitbreken" van de AI en waarom hackt die AI als die buiten komt?

[Jedotw]

Wie is er verantwoordelijk als ik mijn auto niet op de handrem zet en die vervolgen wegrolt en schade veroorzaakt? Maar deze discussie is al gevoerd door de juridisch experts en vrijwel allemaal zijn ze het er over eens dat het de gebruiker (nu nog vaak de "fabrikant") van de AI is.

[Aldy]

Dat was ook mijn eerste gedachte. Ik denk dat de Australische overheid ervan uitgaat dat er met stroop meer te bereiken is dan met azijn. De hack is geweest en is onaanvaardbaar, maar wat justitie doet, is eenrichtingsverkeer. De senaat zal een dialoog aangaan, lijkt mij. Dat neemt niet weg dat, als het resultaat niet bevredigend is, Justitie alsnog wordt ingeschakeld.

[arjankoole]

Als hacken strafbaar is, waarom krijgen deze mensen dan een uitnodiging van de Senaat en niet Justitie?

Omdat je lang niet altijd voor dingen gedaan door een bedrijf, mensen in de cel kan gooien.

In de farmaceutische wereld kan dat wel. Daar heb je mensen die de gevangenis in gaan als het bedrijf fouten maakt. Meestal 1 per regio (bijvoorbeeld de EU). Dat zijn dan ook mensen met a) kennis van zaken (bijvoorbeeld een arts) en b) aanzienlijk macht om te zorgen dat de bedrijven compliant zijn.

[darkdeathrip]

Maar dit dient het algemeen belang.

[GameNympho]

Wel delen dan

[FJ Cruiser]

Helaas moet de moraliteit tegenwoordig van de EU, Canada of Australie komen, terwijl de ontwikkelingen in de VS en China plaatsvinden. Dit geeft veel spanning en zal een groot effect hebben op onze relaties met deze landen.

[Pasteis]

Helaas moet de moraliteit tegenwoordig van de EU, Canada of Australie komen, terwijl de ontwikkelingen in de VS en China plaatsvinden. Dit geeft veel spanning en zal een groot effect hebben op onze relaties met deze landen.

Eu, Canada en Australie bij elkaar zijn natuurlijk een zeer grote markt. Als ze hun handen ineen slaan kunnen ze wel degelijk wat afdwingen. Dat vraagt echter wel om middenlange termijn visie, om te voorkomen dat de VS en China een dwangmiddel in kunnen zetten.

[Jedotw]

Naar mijn mening is dat juist het probleem: middellange termijnvisie. Enerzijds wordt er veel te veel gepraat zonder concrete acties, anderzijds zijn "we" veel minder bereid om de enorme hoeveelheden geld in start-ups te stoppen zoals dat in de VS wel gebeurt. Hier moet een bedrijf kennelijk vanaf dag één winstgevend zijn, in de VS mag dat gerust een tiental jaren duren.

Ooit eens met een Amerikaanse marketingmanager gewerkt: zijn geplande budget voor marketing en sales was 50 miljoen, terwijl hier meteen gezegd werd niet meer dan 1 miljoen te kunnen (willen) uitgeven. Er zijn grote verschillen in bedrijfsvoering, waardoor producten én sneller op de markt zijn én veel meer "exposure" krijgen.

[Menesis]

Die twee zullen het wel druk krijgen

[adje123]

Doen ze ook eens wat

[jumbos7]

Ik ben benieuwd of ze hiervoor in het vliegtuig stappen om al op donderdag in de Australische Senaat verhoord te worden. Het is toch een land met een vrij kleine populatie, al kan het met name voor OpenAI's Sam Altman verstandig zijn om toch langs te gaan na de hack op een Australische overheidswebsite.

[adje123]

28 miljoen is klein?

[Finraziel]

Best wel? Grofweg anderhalf keer Nederland dus, maar als Nederland dit zou proberen dan denk ik dat er heel wat mensen zouden staan te lachen want die gaan toch niet voor ons kleine kikkerlandje de halve wereld overvliegen?

[GameNympho]

Het kan het begin zijn, anderen staan al te wachten op de uitkomst.

[Infor40]

Even reflecterend op mijn eigen handelen; ik vraag best geregeld aan LLM hoe dingen zitten met een verzoek op internet of in databasen te kijken. Dat gaat dan vaak over standaarden waarbij ik wil voldoen i.h.k.v. conformiteit. Maar soms zitten die achter licenties. Dat is ook niet altijd gelijk duidelijk, maar ik vraag natuurlijk niet om als die licentie bestaat te gaan hacken. Maar ligt dat ook als 'eindgebruiker' toch op de loer?