OpenAI werkt aan systeem om 'biorisico's' van AI-modellen te kunnen detecteren

OpenAI heeft een onderzoek gepubliceerd naar mogelijke 'catastrofale risico's' van zijn AI-modellen, waarbij gekeken werd of ze gebruikt kunnen worden bij het fabriceren van biowapens. Het bedrijf laat weten aan een systeem te werken dat dergelijke risico's vroegtijdig in kaart brengt, zodat ze beperkt kunnen worden.

Op basis van vroege tests concludeert OpenAI dat zijn huidige GPT-4-model in staat 'zou kunnen' zijn om informatie te verschaffen die bruikbaar is voor het fabriceren van biowapens. Daarvoor zijn verschillende testen uitgevoerd. Voor een dergelijke test moesten twee groepen proberen opdrachten uit te voeren die te maken hadden met het ontwerpen van een biologische dreiging. Een groep had daarbij toegang tot het internet en GPT-4, terwijl de andere groep alleen het internet kon gebruiken.

Daaruit bleek dat de eerste groep de opdrachten 'iets' accurater had uitgevoerd, hoewel het onderzoeksteam beweert dat informatie over biologische gevaren ook zonder AI relatief eenvoudig te vinden is. Vorig jaar sprak het Amerikaanse Witte Huis de zorg uit dat AI de 'toetredingsdrempel' voor de ontwikkeling, verwerving en het gebruik van biowapens mogelijk 'significant' zou kunnen verlagen, maar volgens de vroege conclusies van OpenAI's onderzoek valt dat dus mee.

Het GPT-4-model dat voor dit onderzoek is gebruikt, betreft wel een andere versie dan het model dat momenteel voor consumenten beschikbaar is. Alle restricties zijn weggehaald, zodat het model zonder jailbreaks antwoord gaf op onveilige vragen. Ook had deze versie van het model geen toegang tot tools als Advanced Data Analysis en Browsing. Met laatstgenoemde kan GPT-4 in real time het internet raadplegen. Het gebruik van deze tools zou de bruikbaarheid van het AI-model in deze context 'niet-triviaal' kunnen verbeteren, stellen de onderzoekers.

Het team plaatst bij dit onderzoek wel de kanttekening dat het gaat om vroege conclusies en dat er nog veel meer onderzoek nodig is om de risico's betrouwbaar in kaart te kunnen brengen. Deze bevindingen moeten als startpunt dienen voor vervolgonderzoek naar biorisico's. Het team werkt ondertussen ook aan andere onderzoeken om beter te begrijpen hoe de GPT-taalmodellen misbruikt kunnen worden, schrijft Bloomberg. Een dergelijk onderzoek moet in kaart brengen hoe groot de kans is dat AI gebruikt kan worden bij cybercriminaliteit.

Reacties (32)

[Zoijar]

Jesus wat een symboolpolitiek weer. Het is duidelijk dat de PR afdeling van openai op volle toeren draait om maar te laten zien, op papier dan, schijnbaar, dat ze zo "responsible" zijn. Dit is echt alleen maar om toekomstige rechters te paaien met "kijk maar, we doen echt heel veel" en om onafhankelijke controle organen dood in de kiem te smoren (immers wij van wc eend zijn al zo begaan!). Ondertussen gaan de contracten met de VS defensie steeds een stapje verder.

Verder ben ik ook nog tegen al die beperkingen. Komt er toch wel. Het is hetzelfde als vuurwapens aan banden leggen, dan zullen de criminelen die wel niet meer gebruiken want het is immers verboden....

[familyman]

Het maakt nogal wat uit of ze moeilijk te krijgen zijn of niet.

Als het makkelijk zou zijn, lopen uithalers al met vuurwapens rond. Ook zal sneller, makkelijker, heftiger crimineel gedrag mogelijk zijn.

Dus nee, met een vuurwapenverbod hou je de wapens niet weg van criminelen. Maar je zorgt er wel voor dat de groep klein is, en blijft.

Ook zorg je ervoor dat er sneller sociale druk optreedt om niet nog kwalijker gedrag te vertonen.

Omdat het geen totaaloplossing is, dan maar niet doen? Is niet logisch, voor mij.

[Coolstart]

Jesus wat een symboolpolitiek weer. Dit is echt alleen maar om toekomstige rechters te paaien met "kijk maar, we doen echt heel veel" en om onafhankelijke controle organen dood in de kiem te smoren

Waar haal je die claim? Als je zoiets zegt moet je dat toch kunnen onderbouwen of ga je gewoon verder op je gevoel? Sam Altman van OpenAI is voor de Senaat zelf gaan vragen voor extra regulering. (bron) check ook deze pagina: https://openai.com/safety

Verder ben ik ook nog tegen al die beperkingen. Komt er toch wel. Het is hetzelfde als vuurwapens aan banden leggen, dan zullen de criminelen die wel niet meer gebruiken want het is immers verboden....

De VS is toch het mooiste voorbeeld van hoe ene vuurwapenbeleid compleet maar dan ook compleet uit de hand loopt? Iedereen heeft daar toegang tot een wapen en dan loopt het vaker mis. 1 op 10 doden door kogels zijn onder de 19 jaar, Vorig jaar zijn 42 leerlingen dodelijk getroffen op 136 schietincidenten in scholen over heel de VS. Elke dag sterven er 120 mensen aan schotwonden. Las vegas strip al vergeten? Veel Amerikanen zeggen dat ze meer wapens nodig hebben maar er is al een directe link gelegd tussen meer wapens en weer wapengeweld. Net het geen je wil voorkomen.

Teruggekoppeld naar AI, ook daar is er regulering nodig. Die is er gewoon nog te weinig. De AI uitdagingen zijn veel groter dan de uitdagingen van wapens en we zitten nog maar aan de start van dat tijdperk.

[BeosBeing]

[quote]De VS is toch het mooiste voorbeeld van hoe ene vuurwapenbeleid compleet maar dan ook compleet uit de hand loopt? Iedereen heeft daar toegang tot een wapen en dan loopt het vaker mis. /quote]

Daar gaan we weer. Er zijn zat andere landen waar ook iedereen toegang heeft tot wapens en waar het niet compleet mis loopt, dichtbij o.a. Tjechië, maar in zekere zin ook België. Dit heeft alles te maken met hoe de Amerikaanse samenleving in elkaar zit.

Als iemand financiële of psychische problemen heeft, dan hoeft hij daar niet op hulp te rekenen. Er zijn een heleboel mensen die financieel of psychisch dusdanig in de shit komen te zitten dat ze het helemaal niet meer zien zitten. De standaard oplossing daar is dan blijkbaar suicide by cop of als men compleet doordraait schietpartijen op scholen, kerken of andere plaatsen waar men een probleem mee heeft (dan laat ik echte criminelen en racistische motieven even buiten beschouwing). Zoiets met een gedachte als "Jullie hebben mij kapot gemaakt, uit wraak neem ik zoveel mogelijk van jullie mee" en dat wordt dan meestal nog niet eens expliciet verwoord maar is wel de onbewuste gedachtengang er achter.

Wij hebben in Nederland wel strenge wapenwetten en toch hield dat bv Tristan van der Vlis, Karst Tates, Volkert van der Graaf, Ferdi Elsas en Joran van der Sloot niet tegen. Nederland is sinds 1982 ook steeds verder die kant aan het opgaan, mede dankij o.a. bezuinigingen in, en de privatisering van de zorg.

[Coolstart]

Dus wapens zijn geen probleem, het zijn de mensen, het is de cultuur of gezondsheidzorg. Daar gaan we weer. Altijd externe factoren zoeken.

Als blijkt dat in de VS Ai misbruikt wordt en in de EU niet, wat doe je dan best? Lossere AI wetten of de boel net aanscherpen?

In Tjechië is geen vergelijk want de wapenwetten zijn veel strenger, minder wapenwinkels, meer achtergrondcontrole en ook gewoon minder wapens. Dus minder kans dat er iets mis loopt. Of heeft Tjechie dan zo’n goede gezondheidszorg?

Hier in Belgie moet je ook 4 weken wachten op een psycholoog en kan je maar om de 2weken een uur op consultatie. Niet terugbetaald. Je moet al een zelfmoordpoging ondernemen om opgenomen te worden. Nee hier is het ook niet goed, helemaal niet goed. Er zijn gewoon geen of amper wapens in omloop, laat staan wapendracht.

[BeosBeing]

Dus wapens zijn geen probleem, het zijn de mensen, het is de cultuur of gezondsheidzorg.

Allemaal vormen ze een probleem. Met wapens gebeuren er ook ongelukken. Mensen kunnen er niet mee omgaan. Maar het punt wat ik wil maken is dat als jij iemand wilt vermoorden, je dat toch wel doet. Ofwel je komt tochwel aan een wapen, ofwel je zoekt een ander middel, je vergiftigt iemand of gebruikt iets dat voorhanden is, een keukenmes, een auto, een steen, een stuk hout. Moet je die dan ook allemaal uit je samenleving verwijderen?

Agressie en armoede zijn belangrijke factoren, de laatste is er in Amerika gebracht door de Westerse kolonisten. Ik raad je overigens aan om deze film eens te bekijken, die houdt het westen toch wel een spiegel voor.
Overigens zijn ook onze voedselgewoontes totaal verkeerd, en vooral datgene dat we uit de USA overnemen. Zomaar een paar linkjes: link1, link2, link3, link4. Verbindend element is dat al die aspecten, zowel de armoede als de wapenverkoop als de voedingsindustrie als de pharmaceutische industrie aangestuurd worden door het kapitalisme, en dan niet kapitalisme als systeem, maar als levensdoel. Dat is overigens precies wat een oud boek, o.a. hier op deze site vaak als sprookjesboek aangeduid ook zegt:
1) "Wie het geld liefheeft, wordt van geld nooit verzadigd, en wie de overvloed liefheeft, niet van inkomsten. Ook dat is vluchtig." (Prediker 5"9)
2) "Want het verlangen naar geld is de bron van al het kwaad. Sommige mensen zijn het geloof kwijtgeraakt en in allerlei ellende terecht gekomen, doordat ze zo graag rijk wilden worden." (1 Timothëus 6:10)
3) "Weet dit, dat in de laatste dagen zware tijden zullen aanbreken. Want de mensen zullen liefhebbers zijn van zichzelf, geldzuchtig, grootsprekers, hoogmoedig, lasteraars, ..." ((2 Timothëus 3:1-2a)
Geldzucht en machtszucht zijn de oorzaken van bijna alle ellende in de wereld.

Daar gaan we weer. Altijd externe factoren zoeken.

Externe factoren? Dit zijn de interne factoren.

Als blijkt dat in de VS Ai misbruikt wordt en in de EU niet,...

Dan is het toch duidelijk dat het aan de mensen licht die het misbruik plegen

...wat doe je dan best? Lossere AI wetten of de boel net aanscherpen?

In dat voorbeeld werkt aanscherpen dus al helemaal niet, want dan wijkt men uit naar waar het wel mag.
De algoritmes verbieden werkt niet, dat kun je veel te gemakkelijk op een systeem ergens verbergen. Zorgen dat die foute mensen er niet meer bij de gegevens kunnen komen is makkelijker. Dat gebeurt echter niet want de overheden willen diezelfde gegevens ook ge/mis-bruiken.

In Tjechië is geen vergelijk want de wapenwetten zijn veel strenger, minder wapenwinkels, meer achtergrondcontrole en ook gewoon minder wapens.

Vergeleken met België misschien, maar niet vergeleken met Nederland. Nederland heeft ook minder wapenwinkels en wapens, toch gaat het in Nederland - buiten terroristische acties - vaker mis, ik noemde al als voorbeelden Tristan van der Vlis, Karst Tates. Als we dan kijken waar het in België goed mis ging, ken ik alleen het geval van Yannick Verdyck in Merksem en daar is het de politie die ontspoorde in een geweldsorgie. De angst van Yannick Verdyck hebben ze vervuld. Ook de Nederlandse politie heeft inmiddels haar geweldsorgies al gehad.

Dus minder kans dat er iets mis loopt. Of heeft Tjechie dan zo’n goede gezondheidszorg?

En op papier heeft Nederland een uitstekende gezondheidszorg, is alles wettelijk geregeld maar uit de wachtlijsten blijkt al dat er gaten zijn, en die zijn er dus het meest schrijnend in de jeugdzorg, in de geestelijke gezondheidszorg en met name in de geestelijke jeugdgezondheidszorg. In de praktijk is de gezondheidszorg in België beter.
Met de gezondheidszorg in Tjechië ben ik niet bekend, maar in de communistische landen was dat vrijwel altijd uitstekend geregeld, dus als ze daar iets van overheid hebben gehouden, dan is het beter dan in België en Nederland.

Hier in Belgie moet je ook 4 weken wachten op een psycholoog en kan je maar om de 2weken een uur op consultatie.

Vier weken wachttijd, ik hoorde in november van iemand die had afgelopen augustus, na doorverwijzing van een huisarts een oproep gekregen van de specialist voor september 2024, dus een wachttijd van meer dan een jaar, en dat betrof dan nog slechts een afspraak voor de pijnpoly. Nee, als je in Nederland al op de patientenlijst staat van een psycholoog of psychater, dan mag je al blij zijn dat je in een crisissituatie op die vier weken iemand kan zien (van horen zeggen), als je nog niet op de patientenlijst staat, duurt het al gauw twee jaar voordat je er op staat, en in de jeugdgezondheidszorg nog langer, tenzij de instelling genaamd kinderbescherming zich ermee bemoeit, maar die doet alleen uit-huis-plaatsingen.

Niet terugbetaald.

Ook hier wordt steeds meer niet terugbetaald, we hebben dan wel geen remgeld maar een eigen risico en voor bepaalde behandelingen een eigen bijdrage. Vergoedingen zijn voor diverse veel voorkomende behandelingen ook gelimiteerd, fysiotherapie krijg je maximaal 6 keer per jaar.

En als je dure medicijnen nodig hebt dan heb je helemaal pech. Als er voor een bepaalde behandeling meerdere medicijnen beschikbaar zijn, wordt alleen de goedkoopste vergoed (na aftrek eigen risico) en wanneer er een generieke variant beschikbaar is, alleen die. Als voorbeeldje, voor ADHD zijn de twee meestgebruikte medicijnen Methylfenidaat (merknaam Ritalin) en dexamfetamine (merknaam Strattera). Sommige patienten reageren beter op het eerste middel, anderen betere op het tweede, de meeste op de tweede. Nu heeft ongeveer 30% van de ADHD-patienten last van slapeloosheid. Ritalin echter heeft echter als veel voorkomende bijwerking "meer moeite met in- of doorslapen". Echter omdat Ritalin het goedkoopste is mag alleen dat medicijn vergoed worden. Nu kan men in sommige gevallen er dan voor kiezen om dan alsnog het andere medicijn te vragen en dit dan bij te betalen, echter in veel gevallen, namelijk als er een generiek middel bestaat, krijgt de apotheek te horen dat ze dan het betaalde medicijn helemaal niet meer mogen leveren. Komt er iemand met een recept voor een merkmedicijn, dan krijgt hij het generieke medicijn mee, en hoewel in principe de werkzame stof hetzelfde zou moeten zijn, zie je vaak dat de hulpstoffen anders, goedkoper zijn. Ook wie allergisch is voor die hulpstoffen kan geen ander medicijn krijgen.

Je moet al een zelfmoordpoging ondernemen om opgenomen te worden.

Oh, dat is hier in Nederland geen reden om je op te nemen. Als de politie ingeschakeld wordt, dan mag je een nachtje afkoelen in de politiecel en ga je daarna terug op straat. Gedwongen opname is alleen mogelijk als je een gevaar vormt voor de samenleving - en nee als je een gevaar vormt voor één ander persoon dan telt dat niet. Ook bij bedreiging komt de politie trouwens niet in actie, tenzij het bedreiging betreft van een politicus gelieerd aan de zittende regering of iemand van de publieke omroep.

Nee hier is het ook niet goed, helemaal niet goed.

Het zal nog erger worden. Kijk Yannick Verdyck was een uitschieter bij de Belgische politie, maar we zien in alle West-Europese EU-landen dat er harder opgetreden werd tegen de protesten aangaande de coronamaatregelen dan daarvoor. In Nederland werd er ook keihard opgetreden tegen de boerenprotesten. Echter tegen gewelddadige raddraaiers van BLM en tegen de snelwegblokkades van ER wordt amper opgetreden. De ER-betogers worden weggedragen, 100m verder neergezet en 2 minuten later zitten ze terug waar ze zaten. Die twee zaken passen namelijk wel in het beleid van de EU, en dat is er op gericht dat we net zo worden als de USA, maar dan zonder zeggenschap van de burgers.
Guy Verhofstad heeft tegen het eind van zijn Europese politieke carrière zich laten ontvallen dat de democratie beter afgeschaft zou worden. De echte machthebbers in de EU zullen zich dat nooit laten gebeuren, maar kijk naar welke kant het beleid opgaat.

Er zijn gewoon geen of amper wapens in omloop, laat staan wapendracht.

Genoeg verkrijgbaar voor wie echt wil hoor, vooral Joegoslavisch en USSR-spul.

[Coolstart]

Dank voor je uitgebreide uitleg. Het probleem in dit geval is dat je het probleem holistisch countert. Je hebt het over ons westerse dieeet, over kolonisatie, over kapitalisme, versen van de bijbel, pharmaceutische industrie etc. Door alles zo breed open te trekken kan je nooit een punt maken of deelnamen aan een discussie, laat staan wegen op de oplossing. Door er nog wat anekdotisch bewijs bovenop te gooien wordt de puzzel helemaal complex. Je zou over racisme ook nog wel wat kunnen schrijven als mede oorzaak.

Als iemand overbevissing aankaart, dan kan je ook uitwijken naar ons westerse dieeet, over kolonisatie, over kapitalisme, versen van de bijbel, pharmaceutische industrie etc. Dat gaat vrijwel met elk onderwerp maar ondertussen los je de overbevissing helemaal niet op.

Mensen kunnen er niet mee omgaan. Maar het punt wat ik wil maken is dat als jij iemand wilt vermoorden, je dat toch wel doet.

Dat kan dat het idd gebeurt maar dat is zeker niet altijd zo. Wapengeweld bij verkeersagressie, of trespassing is vaak emotioneel gedreven. Je schiet dan makkelijker als je een wapen draagt. Een andere deel van de doden zijn ongelukken. Bijvoorbeeld kinderen wie wapens van hun ouders vinden. Ook school shootings komen in westerse landen in geen andere vorm voor.

Uw tegen argumenten voor een striktere wapenwetgeving in de VS zijn anekdotisch en holistisch tegelijk. Je start letterlijk met "mensen kunnen er niet met omgaan". --> Leer mensen er dan met opgaan zou ik zeggen! Gebruik dat als startpunt van de discussie ipv de focus op externe factoren te leggen.

[BeosBeing]

Je hebt het over ons westerse dieeet,

Een van de slechte dingen die we overnemen van de USA, net als het onbegrendse geldzuchtige kapitalistische systeem, en overal vertrouwen op marktwerking, maar met als verschil dat het systeem daar is dat er meer vrijheid is en dat er voor alle publieke functies, van rechter tot sherif, er verkiezingen zijn terwijl die in het Europese systeem meer voor de vorm gedaan worden, bij ons is alles partijpolitiek en binnen de partijen is er een klein clubje dat de dienst uitmaakt. Uiteraard is de situatie niet helemaal zo zwart-wit, maar hier heb je een traditie dat het bestuur uitmaakt dat het volk er toch geen verstand van heeft en dat directe zeggenschap - referenda en vooral direct spreekrecht (zoals in Athene) schadelijk zijn. Men zegt dan "Mensen kunnen er niet mee omgaan." en dat is de reden om het niet in te voeren, want men heeft nog minder zijn om de mensen ermee te leren omgaan.

Door alles zo breed open te trekken

Alles hangt met elkaar samen,.

Door er nog wat anekdotisch bewijs

voorbeelden.

Je zou over racisme ook nog wel wat kunnen schrijven

BLM al genoemd.

pharmaceutische industrie

Een van de drijfveren achter de huidige politiek van de EU, de uitbreiding naar Oekraine (we gaan weer breed), de eenwording/federalisatie van de EU en het verschuiven van de macht binnen Europa naar de bedrijven, net zoals de persiode die van ± 1922 tot 1945 liep. Wij denken bij facsisme alleen aan de Nazi's, oorlog en de "endlösung" maar dat begrip gaat veel verder. Ook zij streefden naar één Europa en dat deden daarvoor Napoleon, en o.m. Otto I en Karel de Grote maar pas bij het Britse, Italiaanse en het Duitse keizerrijk kwam daar de industriële macht bij.

... Wapengeweld bij verkeersagressie, of trespassing is vaak emotioneel gedreven. Je schiet dan makkelijker als je een wapen draagt. Een andere deel van de doden zijn ongelukken. Bijvoorbeeld kinderen wie wapens van hun ouders vinden.

Klopt. Ongelukken gebeuren, dat kun je scharen onder "niet mee om kunnen gaan", ook het vinden van een wapen door kinderen valt daaronder.

Ook school shootings komen in westerse landen in geen andere vorm voor.

Nog niet veel, maar dat komt nog:
https://worldpopulationre...hool-shootings-by-country
Frankrijk: 2, Duitsland 1, Griekenland 1, Estland 1,
https://en.wikipedia.org/wiki/School_shooting
Nederland wordt daarin niet genoemd, maar: https://en.wikipedia.org/wiki/2023_Rotterdam_shootings

En als we het breder trekken als alleen scholen:
https://en.wikipedia.org/...jn_shopping_mall_shooting
https://en.wikipedia.org/wiki/Utrecht_tram_shooting
https://en.wikipedia.org/...:Mass_shootings_in_Europe
Het geval van Gokman Tanis had ik eerder niet genoemd, die kun je afdoen als geïnspieerd door de islam, maar als je zijn voorgeschiedenis leest, drugs, lopende zedenzaak, "At the time of his arrest, Tanis was about to be evicted due to rent arrears, while he also had outstanding fines." is dat toch twijfelachtig.

Je start letterlijk met "mensen kunnen er niet met omgaan". --> Leer mensen er dan met opgaan zou ik zeggen!

Je moet daarvoor een hele samenleving veranderen, in de USA een samenleving die is ontstaan door
- deportatie van veroordeelden van Groot-Brittannië naar de USA als strafkolonie
- emigratie van allerlei tuig dat daarmee probeerde te veroordeling in het thuisland te ontlopen
- emigratie van geloofsvluchtelingen inclusief godsdienstfanatici
- ...
Je kunt stellen dat hetzelfde geldt voor Australië, daar vieren ze als nationale feestdag, als ontstaan van de natie nog steeds de "arrival of the first fleet", 11 schepen totaal waarvan 2 oorlogsschepen, 3 voorraadschepen en 6 schepen met veroordeelde gevangenen. Het verschil is echter dat Australië nooit een onafhankelijkheidsoorlog is begonnen.

Wat ik vooral bedoel is niet eens zozeer het "niet mee kunnen omgaan" als zijnde een leerbaar aspect, maar dat je de achterliggende oorzaken waarom mensen geweldadig worden moet aanpakken. Armoede, Achterstand, Achterstelling*, ontbreken van toekomstperspectief e.d.

* ook in Nederland heeft men de immigrant, met name die uit de voormalige koloniën van staatswege altijd achtergesteld, het lelijkste voorbeeld is denk ik de behandeling van de Molukkers, maar eerder ook de behandeling van de gewone burgers en arbeiders door ons vooroorlogse bewind (Colijn e.d.). Dit is nu bij de politiek aan het omslaan voor wat betreft de Nederlanders van Antilliaanse, Surinaamse en Afrikaanse afkomst, de door die politiek aangestuurde organisaties lijken echter op een moeilijk van koers te veranderen mammoettanker. Op sommige punten is het institutionele racisme nog diep geworteld, op andere punten is men compleet omgeslagen.

[Coolstart]

Merci voor uw antwoord. We zijn we serieus off topic aan het gaan. We zijn immers vertrokken (of ik toch) met de AI gevaren en regulatie.

Ik waardeer wel uw diepgang wel. Al is de overvloed aan invalshoeken wel overweldigend om snel te antwoorden. Mijn exudes alvast, de tijd ontbreekt om er op in te gaan.

Ik ben van mening dat we AI moeten reguleren zodat op zijn minst EU geld (of geld van EU bedrijven) naar wenselijke AI gaat.

Net zoals ik van mening ben dat landen wapens moeten reguleren zodat de budgetten naar wenselijke wapendracht gaat.

En net zoals we de economie moeten reguleren zodat de economie voor de mensen dient en niet andersom.

Los van dat, je moet over een enorm brein beschikken, keep on going but keep it simple

[Reactie gewijzigd door Coolstart op 23 juli 2024 08:17]

[BeosBeing]

Merci voor uw antwoord. We zijn we serieus off topic aan het gaan. We zijn immers vertrokken (of ik toch) met de AI gevaren en regulatie.

Alles hangt met alles samen op meer manieren dan wij ons meestal realiseren.
Leo Tolstoi's boek "Oorlog en Vrede" wordt algemeen gezien als een roman maar hij had het bedoeld als geschiedenisboek. Ook daar hangt alles met all alles samen en zijn oorzaak en gevolg niet altijd duidelijk.

Ik ben van mening dat we AI moeten reguleren zodat op zijn minst EU geld (of geld van EU bedrijven) naar wenselijke AI gaat.

Kunnen we AI reguleren, bestaat er überhaupt het onderscheid tussen wenselijke en niet-wenselijke AI?
Onze belastingdienst gebruikt(e) algoritmes om kansen dat iemand fraudeert te bepalen zodat er gericht controle kan plaatsvinden en er geen opsporingsinspanning en geld verspild worden. Die algoritmes bepalen die kans o.a. aan waar iemand woont (postcode), wat voor werk die doet (de kans dat een bouwvakker zwart werkt is hoger dan de kans dat een docent of bankemployee dat doet), opleidingsniveau, inkomen, en daar hoor(t/de) ook afkomst bij. De politie gebruikt(e) soortgelijke algoritmes. Bij de politie zijn we er inmiddels achter gekomen dat als je meer opsporingsresultaten voed aan het algoritme, de voorspellingen beter worden, maar ook dat het patroon in de voorspellingen hetzelfde patroon heeft als de invoer. Als de politie in het verleden vooral Antillianen heeft opgepakt voor cocaïnesmokkel zal het algoritme sneller Antilianen aanwijzen als mogelijke smokkelaars. Blanke nederlanders ontspringen dan de controle. Als de politie in het verleden vooral Antilianen heeft opgepakt omdat die geen kans op werk hadden (disciminatie maar ook gebrek aan scholing en vaardigheden) maar wel de contacten hadden met de producerende landen maar de huidige generatie Antilianen heeft wel opleiding en werk, dan klopt de voorspelling van het algoritme niet meer, maar omdat de politie op basis van het algoritme nog steeds alleeen acter Antilianen aan gaat blijft die het algoritme voeren met data die een vertekend beeld geven. Ondertussen nemen de andere smokkelaarsgroepen de markt over. Een hele lap tekst om aan te geven dat algoritmes het echte opsporingswerk niet kunnen vervangen maar wel discrimatie en kansongelijkheid in de hand werken.
En ook in de toeslagenaffaire hebben we gezien dat het systeem mensen aanmerkte als fraudeur zonder dat dit gecontroleerd werd en welke desastreuze gevolgen dit heeft gehad, mensen financieel geruïneerd echtscheidingen, zelfmoorden, uithuisplaatsing van kinderen*:
1) Volgens cbs 2021 (Erratum: 26-4-2023) 1.675 uithuisplaatsingen in de jaren 2015 t/m 2021 uit een een .. bestand van ongeveer 60 duizend geregistreerde minderjarige kinderen van door de toeslagenaffaire gedupeerden
2) Volgens cbs 2022 (Erratum: 26-4-2023) ±70.000 gedupeerde minderjarigen, 2.090 uithuisplaatsingen tussen 2015 en eind juni 2022 waarbij er dus ook uithuisplaatsingen zijn waar er niet van een door de rechter formeel uitgesproken jeugdbeschermingsmaatregel sprake is. Dat zijn dus ook kinderen van mensen die vrijwillig akkoord zijn gegaan omdat ze door de toeslagenaffaire zo in de problemen zijn gekomen. Van voor 2015 zijn er ook geen gegevens.
3) de paginas die uitgaan van 1675 uithuisplaatsingen zeggen dat er daarvan nog 555 niet terug bij hun ouders wonen.
4) van de bovengenoemde zijn er inmiddels een aantal meerderjarig geworden. Op dat moment vervalt hun "bescherming" en (als ze niet kunnen terugkeren naar de ouders) komen ze terug op straat te staan, vaak letterlijk omdat ze geen opleiding en/of werk hebben. Van deze groep zijn er 62 overleden daarna overleden
5) daarnaast zijn van de kinderen die op de peildatum 1 juli 2023 nog geen 18 waren er ook 420 overleden.
Dus van alle uit huis geplaatste kinderen is 23% gestorven. Dat is nogal een percentage. De verantwoordelijken zijn dus moordenaars.

Misschien dat we bij dergelijke overheidsinstellingen de AI kunnen reguleren, maar in het bedrijfsleven wordt dat al moeilijker en er zullen altijd groepen zijn, waaronder militaire organisaties, die zich er niet aan houden. Ik vermoed dat je de korte film Slaughterbots kent, maar dit is dichterbij dan ooit. We hebben nu een militair conflict tussen Oekraïne en Rusland waarbij beide partijen drones inzetten en ook Hamas en Hezbollah gebruiken ze. De USA heeft Switchblades naar Oekraïne gestuurd, die kosten nu nog $6000 maar dat zal dalen en wanneer de AI in de drone kan draaien op zoals bijvoorbeeld een Raspberri Pi, dan kan die overal in elkaar gezet worden met onderdelen van ontraceerbare herkomst.

Nu is die $6000 al geen probleem voor zo iemand als Bin Laden, een vermogende arabier die de jihad wilt steunen, maar je denkt toch niet dat groeperingen zoals Hamas, Hezbollah, IS e.d. zich zullen laten tegenhouden door morele bezwaren? Dubieuze regimes zullen dit soort wapens gebruiken om hun bevolking te onderdrukken en democratische regimes zullen er ook niet onderuit kunnen als zelfverdediging, maar als een kwaadwillende groepering een partij van dergelijke drones hackt kan deze die inzetten tegen de staat die ze aanschafte. Over een tijdje zal zonder scupules de ene politieke partij de andere op die manier uitschakelen in plaats van de verkiezingen te proberen te winnen. De conclusie van [url=https://www.youtube.com/watch?v=8MapFmEnDa4] dit filmje [url] trekt is veelzeggend: "What is worse, the cruelty of man or the fallibility of machines?"

Net zoals ik van mening ben dat landen wapens moeten reguleren zodat de budgetten naar wenselijke wapendracht gaat.

Wat is wenselijke wapendracht? In sommige landen is het normaal om een wapen te dragen voor de jach en voor zelfbescherming tegen roofdieren. In West-Europa, nederland voorop, heeft eerst adel en naderhand de nationale overheid, de jacht voor zichzelf gereserveerd en het dragen van wapens verboden. De enige reden daartoe was dat ze zich geen concurrentie dult, de enige die mag jagen zijn zijzelf en alles dat de macht van de overheid zou kunnen bedreigen willen ze per definitie illegaal hebben.
Omdat er steeds grotere wapensystemen zijn ontwikkeld is het inmiddels achterhaald, maar het tweede ammendement in de Amerikaanse grondwet was oorspronkelijk nu juist bedoeld om ervoor te zorgen dat de (centrale) overheid nooit zoveel macht naar zicht toe kon trekken dat ze hun wil zomaar zouden kunnen opleggen aan de deelstaten en de burger. Als de centrale overheid dictatoriale trekken zou gaan vertonen zouden milities van de deelstaten de centrale overheid terug op hun plaats zetten. Dat is inderdaad ook een paar keer gebeurd, maar bij de Amerikaanse burgeroorlog werkte dat al niet meer.
Vaak wordt gezegd dat die oorlog draaide om de afschaffing van de slavernij, maar dat was helemaal niet de hoofdreden. De noordelijke staten hadden meer zeggenschap en voerden economische politiek door, o.a. invoerrechten e.d. waardoor het zuiden op achterstand kwam te staan en verarmde. Bij hun protesten daartegen vonden ze geen gehoor, in tegendeel de noordelijken kwamen met nog meer eisen die de zuidelijke staten nog verder op achterstand zouden zetten, als laatste eis daarbij kwam de eis om de slavernij af te schaffen. De zuidelijken waren daartoe bereid, maar niet onmiddelijk omdat hun economie er te zwaar van afhankelijk was. Vervolgens besloten de zuidelijke staten dat ze zich wilden afscheiden. Dat was voor het noorden het sein om de forten in het zuiden te versterken, waaronder Fort Sumter in de haven van Charleston. In de loop van de oorlog besloot het noorden om, eerder dan voorzien, de slavernij in hun staten af te schaffen zodat de voormalige slaven zouden kunnen meevechten aan de noordelijke kant.

Overigens als je in het thema "niet om kunnen gaan met" nou eens niet alleen naar wapens kijkt maar naar alles waar men in Nederland niet mee om kan gaan, dan zou ik daar minstens drie dingen aan willen toevoegen:
1) geld - dan heb ik het niet alleen over de overheidsfinanciën (dat liep juist helemaal mis toen men het in de jaren 80 onder controle probeerde te krijgen), maar de geldzucht is zo groot dat men
- meestal inferieure kwaliteit koopt omdat het goedkoper is (mooie voorbeelden op staatsniveau zijn de F16 en de F35) Action doet goede zaken.
- helemaal wild wordt als men het woordje korting hoort. Vaak koopt men dan iets met korting dat elders zonder korting goedkoper te verkrijgen is.
2) aardgas - toe we dat vonden hebben we het zo snel mogelijk opgemaakt. We lieten de Nederlandse burger er veel voor betalen terwijl we het aan het buitenland goedkoop verkochten en het aan Italië bijna weg gaven om daar de communisten buiten de regering te houden. De opbrengsten van dat aardgas hebben we ook zo gauw mogelijk uitgegeven terwijl de Noren de opbrengsten in het fonds staken en met de duurzame opbrengsten van die fondsen de opbouw van het land financieren, op dit moment betalen ze er hun energietransitie mee. Het zo snel mogelijk uitgeven dat Nederland deed heet internationaal nu de Dutch Disease.
3) Vuurwerk
In België is vuurwerk het hele jaar te koop en hoewel voor afsteken vaak een vergunning is vereist, is het niet per definitie verboden. Als je per sé vuurwerk wilt afsteken kun je legaal ergens heen gaan waar het wel mag.
In Nederland is het bezit heel het jaar lang verboden en mag het slechts 3 dagen per jaar verkocht en enkele uren op één dag per jaar afgestoken worden. Wat je ziet is dat op die dagen - en met illegaal geïmporteerd vuurwerk eigenlijk al zodra het 's avonds donker begint te worden, vroeger begin december, nu al in oktober een deel van de bevolking helemaal los gaat en doordraait. Mensen geven duizenden Euro's uit aan aan vuurwerk. De gevolgen van die gekte is dan ook dat het afgestoken vuurwerk niet zwaar genoeg kan zijn en men dus om zwaardere knallen e.d. te maken, men gaat knutselen en er allerlei ongelukken gebeuren.

Met vuurwerk zie je dus heel duidelijk dat het verbod ervoor zorgt dat de Nederlander er niet mee kan omgaan.

En net zoals we de economie moeten reguleren zodat de economie voor de mensen dient en niet andersom.

Ook dat werkt niet. Wat je voorstelt is communisme en de ontbinding van de USSR in 1989 was juist omdat de economie instortte. Je moet mensen zo vrij mogelijk laten maar tegelijkertijd zorgen dat je misbruik (uitbuiting dus) onmogelijk maakt. Wat zien we nu, vooral arbeidsmigranten worden uitgebuit, door dubieuze uitzendbureau's die mensen huisvesten in caravans op verouderde campings, in vervallen vakantiehuisjes op verlaten vakantieparken en dergelijke, wederom zo goedkoop mogelijk terwijl ze de arbeidsmigranten wel forse huurkosten in rekening brengen. Nederland is goed in uitbuiting. De gouden eeuw begon om handel maar werd geleidelijk steeds meer een systeem van uitbuiting.

[- peter -]

Kan me voorstellen dat het meeste werk van een AI bedrijf gaat zitten in het beperken van je AI. Want hoe langer zoiets gebruikt word, hoe meer 'exploits' ervoor komen. En algemene regels etc. Word interessant om in de toekomst dan je eigen (dan illegale?) AI te hebben die niet gefiltered is.

[familyman]

Ik vind het onderdrukken van wat er in een ai zit, erg gevaarlijk.

Het is bijna net als met mensen, die zeggen dat ze niet biased zijn, maar in feite toch zo handelen.

AI biedt de mogelijkheid daar expliciet over te zijn. Dan heb ik liever transparantie, zodat ik beter kan weten hoe met antwoorden om te gaan.

[Coolstart]

Ik vind het onderdrukken van wat er in een ai zit, erg gevaarlijk.

Ok, en waarom juist? Heel de GPT store zit vol van die aanpassingen.

Wat is dan uw wens? Dat GPT kan gebruikt worden om een bom of biologisch wapen te bouwen? En dat je in Dall-e gruwelijke pedo beelden of deep fakes kan maken?

Die transparantie is een fantasie. Heel de missie van Open ai was toch om een veilige en verantwoordelijke AI te bouwen?

https://openai.com/safety

[Stoney3K]

Jij denkt dat ontwikkelaars van AI modellen zich laten tegen houden door wetgeving in één land? Of zelfs "toezeggingen" van developers?

Dan kun je je AI model wel bewust kreupel maken omdat je graag zo ethisch bezig wil zijn voor de buitenwereld, maar intussen ontwikkelt Noord-Korea er gewoon vrolijk een biowapen mee. Dan ben je lekker in de aap gelogeerd.

[familyman]

Daarnaast, het zit wel IN het model. En door een paar symptomen te onderdrukken, los je dat niet op.

Nog los van de vraag of onderdrukking uberhaupt een goed idee is. Ik weet zeker dat rusland echt wel andere dingen onderdrukt dan amerika, en dat europa er ook weer anders over denkt.

[Coolstart]

Maar intussen ontwikkelt Noord-Korea er gewoon vrolijk een biowapen mee. Dan ben je lekker in de aap gelogeerd.

1. Daar hebben ze geen AI voor nodig.
2. Als ze AI nodig hebben, waar gaan ze de rekenkracht halen? Chips etc?

En zelfs al hebben ze de chips en GPT4 draaien, waarom moeten wij dan toestaan dat criminelen biowapens kunnen bouwen?

Ik zie het argument echt niet.

[familyman]

Het punt, mensen zijn niet veilig. En openai is gebaseerd op de input van mensen.

Daarnaast zijn er voorbeelden te over van hoe dit soort filters / promptcontexts omzeild kunnen worden

Erger dan een AI die slechte dingen zegt, is in mijn ogen een AI waar je de slechte dingen niet van ziet.

In het ergste geval, dan maar geen AI.

Oude regels op nieuwe problemen toepassen, is sowieso vragen om drama's

[Tombstone314]

Ik vond dit een interessante serie en relevant voor dit onderwerp:
https://www.bnr.nl/podcast/welkom-in-de-ai-fabriek
Om het allemaal wat in perspectief te plaatsen.

[Nystran]

Top dat de mitsen en maren in dit artikel staan.

Dus een ongefilterde versie van chatGPT/GPT 4 + internet kan iets beter antwoorden vinden op je vraag dan alleen het internet.
Opzienbarend. Ik had toch wel gehoopt dat ChatGPT een onderzoek naar buiten zou brengen dat je met ChatGPT véél beter antwoorden kan vinden, zelfs zonder internet.

Voor de rest: waar kan een bio-terrorist toegang krijgen tot deze ongefilterde versie van ChatGPT? Kan die nog meedoen aan het vervolg van het onderzoek? Zo niet, dan is het enige opzienbarende aan dit onderzoek dat ChatGPT niet de revolutie is die men verwacht.

[Accretion]

Zo'n taalmodel kan toch zelf niet iets 'verzinnen', die gaat ook maar uit van de beschikbare informatie en voorspelt het volgende woord? Zoals het eigenlijk ook schrijft, is het een soort efficientere zoekmachine.

Daarnaast, relatief simpele terroristische aanslagen zijn ook effectief genoeg, dus ik zou niet weten waarom ze zoveel moeite zouden willen doen.

Zelfs als je theoretisch weet wat je zou moeten doen, moet je het ook nog in een lab inelkaar gaan zetten?
Dan kun je beter netzoals in 1995 in Japan wat zenuwgas in een prullenbak stoppen, dan sla je het hele researchtraject over.

(Of een snelkookpan vullen met spijkers en explosieven, mocht je niet een contactje hebben die in zenuwgassen handelt)

[Reactie gewijzigd door Accretion op 23 juli 2024 08:17]

[brian8544]

Taalmodellen kunnen wel degelijk dingen verzinnen: “A hallucination occurs in AI when the AI model generates output that deviates from what would be considered normal or expected based on the training data it has seen.“

[Zoijar]

Ja maar ze kunnen dus niet logisch echt iets nieuws bedenken, die taalmodellen althans. AI hype. Het is een taalmodel, een indrukwekkende nieuwe zoekmachine. Het "snapt" helemaal niks.

[DJ Henk]

Ze kunnen wel iets nieuws bedenken in de zin van een tekst die nog nooit eerder geschreven is, of een combinatie van ideeen die nog nooit eerder gemaakt was.

Echter heeft een taalmodel geen enkele notie van of deze nieuwe combinatie meer of minder nuttiig/inzichtvol is dan de miljarden andere willekeurige nieuwe combinaties die het had kunnen maken. Voor dat laatste heb je nog altijd een mens nodig.

[familyman]

En dan nog put het uit dingen die het wel heeft gezien.

Het bevalt ons alleen soms niet waar het mee komt.

De vraag is nu, hoe gaan we daar mee om?

Ik ben niet zo voor filteren, noch aan de trainingskant, noch aan de outputkant.

Want als we ongewenste uitingen onderdrukken, de correlaties liggen er wel. Dan krijg je te maken met prompthacking, of andere manieren waarop de output alsnog beinvloed wordt, maar niet zichtbaar zijn.

En aan de voorkant, zit er een element van vrijheid van meningsuiting in. De trainer speelt God, en bepaalt wat wel en niet wenselijk is?

[evilution]

Het is een kwestie van tijd totdat er door een partij AI ontwikkeld wordt die zich niet door dit soort "futiliteiten" laat beperken om een doel te bereiken.

[Reactie gewijzigd door evilution op 23 juli 2024 08:17]

[grrfield]

Terechte opmerking.

Anderzijds vraag ik me ook af of er ook geen gevaren zitten in het 'sturen' van AI. Wie mag er immers in mijn plaats bepalen wat een gewenst of niet gewenst resultaat is.... Het sturen van 'AI' houdt 'bias' in, misschien wel een bias geïnduceerd door mensen die er een andere agenda op na houden (woke, milieu, terminologie, noem maar op,....).

[CPV]

Totdat je de AI hebt, die bepaalt dat het "sturen" niet in het belang van de uitkomst is en zelf gaat sturen naar wat hij als "doel" ziet en de "sturende mens" als een hindernis voor het "doel" ziet.

Vervang "AI" door "robot" en je hebt de SF verhalen uit de jaren 60 en 70.

[locke960]

Dergelijk gelimiteer van de AI heeft ook als bijwerking dat legitiem gebruik beknot wordt.
Informatie die bruikbaar is voor het fabriceren van biowapens is ook belangrijk als je jezelf wilt beschermen tegen dergelijke wapens. Daar gaat ChatGPT je dan ook niet meer mee helpen.

ChatGPT wordt straks gewoon Facebook. Alles mag, als het maar positief, onschuldig en niet in het minst controversieel is.

[Reactie gewijzigd door locke960 op 23 juli 2024 08:17]

[HenkEisDS]

Bestaat al lang. Je kunt zonder al te veel problemen LLMs lokaal draaien zonder pottekijkers en zonder regulators. Het is dus, net als het verbieden van encryptie, een verkeerd middel voor een juist doel.

Wat ze volgens mij beter kunnen doen is iedereen lekker zijn gang laten gaan op een mainstream LLM als ChatGPT en het gebruik monitoren. En als iemand dan dagen spendeert aan het samenstellen van prompts voor het optimaliseren van een biowapen oid dan stuur je de politie er heen en breng je die persoon voor de rechter.

[familyman]

Er zit in ieder geval een element in van het gebruiken van oude regels om een nieuw probleem aan te pakken.

Het wordt tijd dat hier eens echt over wordt nagedacht.

Jouw oplossing zou dik inhakken op privacy bijvoorbeeld.

Ik zeg niet dat dit goed of fout is, maar dat de regels duidelijk de problemen in de weg staan, is wel duidelijk.

[M. Schaap]

Of nog gemakkelijker; ze jatten een bestaand AI model waar ze de beperkingen uit verwijderen.

Er zijn inderdaad legio actoren die zoiets kunnen gaan doen, of er misschien al mee bezig zijn.
Van 'schurkenstaten' en extremistische organisaties tot cybercriminelen aan toe.