Verenigde Naties nemen Nederlandse resolutie over militair gebruik van AI aan

De Verenigde Naties hebben de allereerste resolutie over het militaire gebruik van AI aangenomen. De resolutie werd ingediend door Nederland en Zuid-Korea. De resolutie moet de basis leggen voor internationale normen rondom het militaire gebruik van AI.

Krijgsmachten wereldwijd investeren in AI-technologie, onder meer om sneller besluiten te nemen, gedrag te voorspellen of om vijanden te herkennen, schrijft de VN. Daaraan kleven echter ook risico's en dilemma's. Zo is niet altijd duidelijk wie verantwoordelijk is voor fouten die gemaakt worden door het gebruik van AI en is het nog de vraag hoe een AI-wapenwedloop voorkomen kan worden.

Nederland en Zuid-Korea willen dat er betere wereldwijde afspraken gemaakt worden over het militaire gebruik van AI. Met de nu aangenomen resolutie wordt in kaart gebracht welke risico's en kansen landen zien, waarmee volgens de VN de basis gelegd wordt voor internationale normen waaraan landen zich moeten houden. "Dat is extra belangrijk nu er veel conflicten in de wereld zijn – waarin AI ook al volop wordt gebruikt."

Reacties (75)

[Pannekoek17]

Volgens mij is het niet de vraag óf maar wanneer de wereld hierdoor vernietigd wordt. Misschien wat pessimistisch, en ik hoop dat zo'n resolutie als dit een begin legt hier verandering in te brengen, maar ik denk niet dat een AI wapenwedloop voorkomen gaat worden. Daarvoor zijn de belangen te groot en hebben de autoriteiten die uiteindelijk gaan over wat ze wel en niet doen met AI een te korte-termijn denken / zijn ze bang om te weinig te doen.

Bedenk dat de wereld in 1983 gered is door Stanislav Petrov, doordat hij geen kernwapen afvuurde omdat hij aanvoelde dat de waarschuwingen die zijn systemen gaven niet klopte. Als zo'n situatie weer voorkomt maar er zit een AI aan de knoppen, dan ben ik bang dat dat niet met een sisser afloopt...
Nee, nu kunnen we het ons nog niet voorstellen dat een AI dat gaat kunnen maar als je nu al de grens gaat verschuiven wat normaal is, hoe eerder we daar zijn.

[Juggernaut1987]

Wargames (1983) is een aanrader om te zien wat er kan gebeuren met een AI aan de knoppen van de kernwapens

[Jarno99]

Je kan zelf ook aan de knoppen zitten:

YouTube: DEFCON scares me and science says it will scare you too

https://store.steampowered.com/app/1520/DEFCON/

[Aldy]

Wat je schrijft, is helemaal waar, maar ik wil daar nog aan toevoegen dat, zolang er een veiligheidsraad bestaat waarvan sommige leden een vetorecht hebben, dit een inhoudsloze resolutie is.

[Welck]

Je moet even je doemdenk pet afdoen; AI bestaat al jaren op het slagveld en er bestaan al afspraken over om het leven van onschuldige slachtoffers te beperken van, bijvoorbeeld, smart bombs.

Omdat het een hype nu is betekent niet dat er opeens nu allerlei problemen ontstaan. Technologie verandert veel dingen maar was altijd ter ondersteuning van mensen...opnieuw, opnieuw en opnieuw.

[Xander2]

Angst is een slechte raadgever..

[Wolfos]

Maar waarom zou je een computer de macht geven over kernwapens? Er is flinke goedkeuring van bovenaf nodig om kernwapens te lanceren, en omdat ze eigenlijk nooit gebruikt worden is er absoluut geen noodzaak om dit proces te automatiseren.

We hebben het over drones die zelf beslissingen maken.

[YGDRASSIL]

'de wereld gered doordat hij geen kernwapen afvuurde'. Als ie t wel had gedaan hadden we misschien een miljard mensen minder gehad. Dat zou objectief gezien een stuk beter zijn voor de wereld denk ik.

[Cowamundo]

Lekker naïef weer om te denken dat landen zich hier allemaal strikt aan gaan houden.
Worden weer van die congressen waar iedereen ja knikt, netwerkt en kapitalen uitgeeft aan eten en drinken om vervolgens weer vrolijk verder te gaan met ontwikkelen en regels aan hun laars lappen.

[Hagdos]

Ik denk dat niemand zo naïef is. Wat is het alternatief? Niets doen, en alles toestaan?

Nu kun je in ieder geval proberen regels te maken, waar landen op aangesproken kunnen worden bij misbruik, of die een voorzet kunnen zijn voor economische maatregelen.

Natuurlijk is het allemaal niet waterdicht en perfect. Maar alleen vanuit een hoekje "het werkt toch niet" roepen is geen betere oplossing.

[Sandor_Clegane]

Is al te laat:
https://www.972mag.com/lavender-ai-israeli-army-gaza/

During the early stages of the war, the army gave sweeping approval for officers to adopt Lavender’s kill lists, with no requirement to thoroughly check why the machine made those choices or to examine the raw intelligence data on which they were based. One source stated that human personnel often served only as a “rubber stamp” for the machine’s decisions, adding that, normally, they would personally devote only about “20 seconds” to each target before authorizing a bombing — just to make sure the Lavender-marked target is male.

Ben benieuwd of het gevolgen heeft.

[Wouterie]

Natuurlijk is het te laat. De VN loopt doorgaans niet op de muziek vooruit. En, zoals gebruikelijk, werkt een resolutie niet met terugwerkende kracht.

[jmsaow]

De beslissingen van de VN geleden alleen voor landen die zich hieraan conformeren, alle anderen lappen die gewoon aan hun laars. Beste voorbeeld is Israel, die lacht ze gewoon uit.

[Wouterie]

Nou, de beslissingen genomen in de Algemene Vergadering zijn over het algemeen juridisch niet bindend voor de leden, de beslissingen vanuit de Veiligheidsraad doorgaans wel. Beste voorbeeld is overigens niet Israël aangezien resolutie 181 keihard werd genegeerd. De houding van Israël is dat elke resolutie daarna dus ook met voeten getreden mag worden. Weinig constructief als je het mij vraagt, maar het moet natuurlijk wel van twee kanten komen.

[84hannes]

Is al te laat

Dat staat ook in het artikel:

"Dat is extra belangrijk nu er veel conflicten in de wereld zijn – waarin AI ook al volop wordt gebruikt."

Het is ook al te laat om klimaatverandering tegen te voorkomen, het is ook al te laat om oorlog te voorkomen: de VN is inadequaat en te laat in alles dat het doet of moet doen. Maar zoals @Hagdos als stelt: wat is het alternatief? Accepteren dat de wereld naar de klote gaat en het ongeremd laten escaleren? De VN is helaas het beste wat we hebben om mondiale problemen te beperken.

[Klaus_1250]

Zolang er mensen aan te pas komen en AI niet automatisch de opdrachten geeft, denk ik niet dat er gevolgen zijn. Niet dat het goed is, maar ja, als een AI elke X seconde een potentieel doel identificeert, dan kan je ook weer niet een uur uittrekken om het te valideren.

Het hele conflict daar blijft voor mensen en AI problematisch, omdat niet alle partijen identificeerbare strijders en ook geen duidelijke militaire infrastructuur. Regels mbt oorlogsrecht zijn vooral geschreven met het idee dat er twee duidelijk onderscheidbare en identificeerbare partijen zijn in het conflict.

Hier is dat niet het geval.

Als je het omdraait - er word nu ieder geval gepoogd om strijders te identificeren en met enige precisie uit te schakelen. Er zijn ook tijden geweest dat men die stap oversloeg en gewoon een tapijtbombardement neerlegde. Of dat er gewoon inlichtingen werden verzonnen.

[Sandor_Clegane]

Nah, het geeft een schijn van legitimiteit, als iedereen aangemerkt kan worden is het eindresultaat hetzelfde maar kan je de verantwoordelijkheid afschuiven op "het systeem".

[BartOtten]

972Mag? Is dat de meest neutrale bron die je kon vinden of was dat geen vereiste?

+972 Magazine is a left-wing news and opinion online magazine

Geen vereiste dus. Terug naar de UvA.

[Reactie gewijzigd door BartOtten op 7 november 2024 10:56]

[walletje-w]

Een bron hoeft niet neutraal te zijn om ook nog steeds betrouwbaar te zijn. Het kan kleur bekennen aan bepaalde uitspraken maar als je de richting weet kun je daar zelf een inschatting van maken. Hier is het gehele artikel: https://www.972mag.com/ma...-calculated-bombing-gaza/

En hier is de wikipedia pagina over AI gebruik in de Gaza strook: Wikipedia: AI-assisted targeting in the Gaza Strip daar komt het artikel van 972Mag ook in terug maar zie je ook dat het door gerespecteerde (neutrale) kranten gebruikt is, die goed aan achtergrond checks doen zoals the Guardian. En andere bronnen over AI gebruik door de IDF.

Daarnaast heeft je reactie een beetje een onaangename toon, ik weet niet waardoor dat komt, maar ik denk ik geef het even mee mocht je je daar niet bewust van zijn.

[BartOtten]

Veel van de bronvermeldingen op Wikipedia noemen de auteur van het bericht waar je naar linkt of 972 als bron of zijn afgeleiden. Yuval Abraham is dus veelal zelf de originele bron.

Als hij maar genoeg gequote wordt kan hij verwijzen naar artikelen van anderen; maar het blijft één en dezelfde bron.

Multiple sources familiar with the IDF's targeting processes confirmed the existence of the Gospel to +972/Local Call

En uit het veelvuldig gebronde Guardian artikel:

This article also draws on testimonies published by the Israeli-Palestinian publication +972 Magazine and the Hebrew-language outlet Local Call

En dan over de auteur:

Yuval Abraham […]gave an anti-occupation and anti-apartheid speech at the 2024 Berlinale.

Kortom: al staan er 50 bronnen op Wikipedia, als de bron van al die bronnen dezelfde persoon is en ook nog eens (semi)activistisch dan kunnen we stellen dat er misschien iets niet zuiver is.

[Reactie gewijzigd door BartOtten op 7 november 2024 12:33]

[walletje-w]

Wat ik tot dusverre kan vinden over 972 of de zusterorganisatie local call is dat ze betrouwbaar zijn. Zie bijvoorbeeld https://mediabiasfactcheck.com/972-magazine/

Je probeert nu heel hard de inzichten vanuit dit artikel onderuit te halen maar waarom?
- Omdat ze naar centrum-links zijn?
- Omdat ze activistisch zouden zijn?

[Sandor_Clegane]

omdat ze niet aansluiten bij je wereldbeeld?

[BartOtten]

They often publish factual information that utilizes loaded words (wording that attempts to influence an audience by using appeal to emotion or stereotypes) to favor progressive/liberal causes

+972 Magazine utilizes emotionally loaded words in their headlines such as “Netanyahu will do all he can to destroy Jewish-Arab alliances” and “’For many young American Jews, the Trump-Bibi axis is the enemy’”, and

Nogmaals: kon je geen neutralere bron vinden?

Overigens kan het een site zin. die vaak betrouwbare artikelen publiceert; je mediabias-link toont aan dat niet alles feitelijk correct is. Bijvoorbeeld (naar alle schijn) het artikel van Yuval.

However, when we looked at the Rockefeller Brothers grants, according to the Rockefeller site, they received four grants from the Rockefeller Brothers Fund totaling $390,000 (2012-2018) which contradicts +972’s report of $320,000.

Ik ben een aardig persoon zullen ook mijn vrienden zeggen. Dat wil niet zeggen dat ik altijd aardig ben.

[Reactie gewijzigd door BartOtten op 7 november 2024 15:45]

[walletje-w]

Nogmaals: kon je geen neutralere bron vinden?

Wellicht kan ik dat niet, wellicht kan ik dat wel, hoe dan ook is dat niet mijn doel. Mijn vraag blijft het volgende:

Je probeert nog steeds de inzichten vanuit dit artikel onderuit te halen maar waarom?
- Omdat ze centrum-links zijn?
- Omdat ze activistisch zouden zijn?
- ?

Mocht je zo geven om perfecte neutraliteit voordat je iets aan wilt nemen dan zou het eerlijk zijn om je eigen argumenten langs diezelfde schaal te leggen, anders is het selectief uitzoeken wat toevallig past bij je wereldbeeld, en dat mag je zeker doen, maar is ook een beetje flauw.

[dasiro]

de vereiste is dat wat wordt geschreven/gezegd op waarheid is gestoeld. Netanyahu zal nooit zoals Jack Nicholson in een rechtzaal verschijnen, kwaad worden en roepen dat het zo gebeurd is, dus er zal door andere partijen naar gezocht moeten worden en dat zullen niet uitsluitend neutrale actoren zijn.

[BartOtten]

de vereiste is dat wat wordt geschreven/gezegd op waarheid is gestoeld

Probleem is dat sommigen dat erg ruim nemen. Zo dicht mogelijk bij de waarheid noemen we daarin neutraal of ‘niet vooringenomen’.

“Dasiro schreef een reactie op Tweakers.net waarin hij BartOtten aanviel”. Op waarheid gestoeld en toch weten we allebei dat het niet de waarheid is.

[Reactie gewijzigd door BartOtten op 7 november 2024 15:47]

[dasiro]

Er is een verschil tussen waarheid en onwaarheid. Je kan niet zomaar dingen er bij verzinnen, want op dat moment is het niet meer op waarheid gestoeld. In het geval van deze droneaanvallen kan er wel een correlatie gevonden worden tussen "De IDF vallen terroristen aan" en "er zijn burgers aangevallen", omdat ze elkaar niet per definitie uitsluiten en zelfs perfect kunnen overlappen.

[Sissors]

Ik denk dat niemand zo naïef is. Wat is het alternatief? Niets doen, en alles toestaan?

Beetje binnen normale limieten van oorlogsrecht: Ja?

Want wie gaat precies China aanspreken? Of Rusland? Of de VS? Als je regels gaat maken waar een gedeelte zich wel netjes aan moet houden, en de rest negeert, zet je je zelf vooral op een achterstand.

[Hagdos]

Het is zaak om de regels zo te stellen dat je jezelf er toch aan wilt houden (om ethische redenen).

"Het normale oorlogsrecht" is precies wat hier geschreven wordt.

[emeralda]

Hoe is Israel aan kernwapens gekomen? Of Pakistan?

Daar is nooit iemand voor veroordeeld.

[kalikatief]

Ik denk niet zo zeer dat het er om zal gaan wie zich waar aan houdt.

Het belangrijkste is dat we basislijnen stellen waar de verantwoordelijkheid is. Als we een ziekenhuis bombarderen dan willen de politici de programmeurs te schuld geven, de programmeurs de soldaten vanwege het klakkeloos overnemen van voorgestelde aanvallen, de soldaten de inlichtingendiensten vanwege foutieve informatie, en de inlichtingendiensten zeggen gewoon zo goed mogelijk hun werk te doen en dat de verantwoordelijkheid bij de ministers liggen.

Keihard zeggen 'je controleert niet wat je bombardeert, dus de soldaten en de overheid zijn hier internationaal verantwoordelijk voor' zorgt dat je een hele hoop vingergewijs kunt voorkomen onder het geschreeuw van 'dit is onze verantwoordelijkheid niet!!'... een dergelijke resolutie maakt dus zeer duidelijk dat ja, deze personen en groepen zijn verantwoordelijk voor de explosieven die rondvliegen en de beslissingen die worden geautomatiseerd worden gemaakt.

Politiek gezien is een gebrek aan gedocumenteerde verantwoordelijkheid een doodszonde. Als je AI en dergelijke algoritmen niet specifiek benoemt kun je met het schuld belasten alleen terugvallen op vage termen als 'onzorgvuldig', 'nalatig' en andere dergelijke termen waar duizenden excuses voor bestaan om aan te tonen dat ze op verschillende manieren wel zorgvuldig waren die helaas niet op deze situatie toepasbaar waren vanwege een of andere reden.

[Frame164]

Het is niet naïef maar als je niets hebt vastgelegd kan je ook geen maatregelen nemen. Moordenaars kan je ook alleen maar opsluiten omdat wij in de wet hebben gezet dat moorden niet mag. Voor de veiligheidsraad geldt hetzelfde. Ze kunnen pas iets doen als een afspraak is geschonden.

[Dooxed]

Pff ik heb hier geen vertrouwen in. Denk je nou echt dat de VS en China openheid van zaken geven rond AI en militair gebruik? Is gewoon een geheim voor national security. VS en ook China zijn helden in A zeggen en B doen, zeer onbetrouwbaar en losgeslagen van enig moreel besef.

[Reactie gewijzigd door Dooxed op 7 november 2024 09:15]

[Botmeister]

Inderdaad. Dus simpel gezegd krijg je zo twee kampen. Die landen die eerst helderheid willen en gevaren willen identificeren. En die landen die zo gauw mogelijk militair sterker willen worden. Met als resultaat een wapenwedloop net als bij kernwapens.

Fast forward 10 jaar. Er is AI geschikt voor burgers en 'echte' AI. Burger AI mag i.i.g. nooit sterker worden dan defensie AI, dat moge duidelijk zijn. Ook denk ik dat bepaalde techbedrijven van nu, de militaire bedrijven van de toekomst kunnen worden. Rolls Royce heeft ook een automobiele tak en een tak voor defensie, om maar een voorbeeld te noemen.

[Reactie gewijzigd door Botmeister op 7 november 2024 10:24]

[NielsLvdD]

Saab ook, Mitsubishi ook, etc etc..

[PolarBear]

. Rolls Royce heeft ook een automobiele tak en een tak voor defensie, om maar een voorbeeld te noemen.

Dat is wel een slecht voorbeeld, want alleen qua naam heeft het met elkaar te maken. Rolls Royce is qua auto's volledig onderdeel van BMW. En Rolls Royce qua andere zaken (en dat is meer dan alleen een defensietak) is een apart bedrijf. En die scheiding is er al sinds de jaren 70.

[Stronk]

Zo pessimistisch

Nederland en Zuid Korea ondernemen actie, en dat is beter dan niks doen en je erbij neerliggen. Vechten voor het goede is nooit verloren energie.

[moonlander]

Dus loopt iig Nederland en Zuid Korea hard achter de feiten tov andere landen die zich hier niet aan gaan houden. En AI is niet iets van de afgelopen jaren, dat is echt al heel ver terug te vinden.

[84hannes]

Dus loopt iig Nederland en Zuid Korea hard achter de feiten tov andere landen die zich hier niet aan gaan

Denk je dat Nederland en Zuid-Korea zich er aan gaan houden? Ik waardeer je optimisme

[moonlander]

[Dooxed]

Jij noemt dit 'vechten' voor het goede?
Ik ben zeker pessimistisch over de effectiviteit van deze actie. Of realistisch, time will tell.

[Reactie gewijzigd door Dooxed op 7 november 2024 10:12]

[Botmeister]

Pessimisme is vaak beter. Of je hebt gelijk, of het resultaat valt mee. En v.w.b. het onderwerp oorlog, kun je maar beter uitgaan van het allerslechtste wat er in de mensheid schuilt. We kunnen geen militaire/veiligheidsrisico's mitigeren met een optimistische blik. Zo werken dingen helaas niet. Ik zou graag willen dat het anders was, dat wel.

[McNeils]

Optimisme over pessimisme

[sambalbaj]

De Verenigde Naties in een notendop;
Het creëren van een papieren werkelijkheid met goede bedoelingen waar iedereen braaf ja op zegt maar vervolgens zelf zijn plan trekt.

[Blinkin]

En wat stel je als beter alternatief voor?

[Bruin Poeper]

De Verenigde Naties in een notendop;
Het creëren van een papieren werkelijkheid met goede bedoelingen waar iedereen braaf ja op zegt maar vervolgens zelf zijn plan trekt.

Als de resolutie in het oorlogsrecht komt dan zal die massaal worden overtreden.
Het zal veel werk opleveren voor het Internationaal gerechtshof.
Die zitten in Den Haag.
Dan is het goed voor de Nederlandse werkgelegenheid.

[Elorad]

Mijn vermoeden is dat niet iedereen zich aan deze resolutie zal houden, en dan gaat de rest er ook mee verder. Maar dit is slechts mijn vermoeden en weerspiegelt mijn lage dunk die ik van veel overheden heb mbt dit soort zaken. Alles voor de veiligheid, tegen terrorisme, tegen kinderporno (weet nog niet hoe de koppeling met oorlog wordt gelegd, maar dat lukt ze vast) en wij zijn de sjaak.
Maar ik hoop echt dat ik ongelijk krijg.

[svenk91]

De grotere landen en de meer isolationistische landen kunnen het prima naast zich neer leggen. Het zal dus zeker niet in elke oorlog het gebruik van AI voorkomen (niet dat de resolutie nu al AI verbied trouwens). Maar kleinere landen kunnen er wel aan gehouden worden, op straffe van sancties. Dat maakt het voor wapenleveranciers ook minder interessant om in te investeren waardoor ook de grote landen minder voordeel aan de techniek hebben. En er zijn ook zat oorlogen tussen kleinere spelers.

De vraag is of je een clausule maakt om ‘vuur met vuur’ te bestrijden. Je ziet nu ook dat Oekraïne en Israel een groot nadeel ondervinden in hun oorlogen omdat ze aan strengere standaarden worden gehouden. Je moet uitkijken dat resoluties over AI niet grote landen in de kaart spelen.

[Wouterie]

Ik zit even te kijken waar dit besluit is genomen, maar als het in de Algemene Vergadering is en niet in de Veiligheidsraad, dan is de resolutie niet per se bindend voor de leden.

[3raser]

Er zijn ook regels in het voeren van oorlog. Daar komen de oorlogsmisdaden dan ook uit voort. Natuurlijk houdt niet iedereen zich aan de regels maar dat is nog altijd beter dan helemaal niets afspreken toch? Nu heb je in ieder geval een basis om iemand op aan te spreken.

[Elorad]

Ja dat ben ik met je eens, maar ik heb het idee dat het ongebreideld inzetten van ai meer strategisch voordeel oplevert dan het plegen van genocide (wat wordt gezien als een oorlogsmisdaad) bijvoorbeeld.
Overigens vind ik het een goed idee hoor, ik ben alleen sceptisch over de naleving ervan. Maar een stok(je) om mee te slaan is beter dan geen

[YopY]

Dit is de uitdaging die er op dit moment ligt; men kan regels neerzetten over bijvoorbeeld het gebruik van AI, kernwapens, etc maar degene die zich daar niet aan houdt heeft mogelijk een militair voordeel. Het werkt alleen als er consequenties aan liggen voor de partijen die zich daar niet aan houden, bijvoorbeeld dat ze uitgesloten worden van de wereldmarkt (zoals Noord-Korea tot op zekere hoogte).

Maar hetzelfde geld op economisch gebied; de EU en de landen daarin hebben allerlei regels omtrent uitstoot, concurrentie, marktwerking, privacy, staatssteun, etc, maar daardoor beginnen ze wel achter te lopen op landen die dat niet hebben, op economisch gebied dan (de VS en China bijvoorbeeld). De enige manier waarop de EU die kan bijbenen of inhalen is als hun minder gereguleerde of staats-ondersteunde aanpak instort, maar ik zie dat niet zo snel gebeuren - de 2000 internet bubbel en 2008 huizenbubbel kwamen beide uit de VS, maar de economische terugslag was van korte duur.

[Bender]

Rusland en China gaan zich hier sowieso niet aan houden.
Wat maakt dat Amerika zich er ook niet aan kan houden.

Dus echt veel waarde heeft het niet.

[SuperDre]

Je ziet het verkeerd,Amerika gaat zoch hier sowieso niet aan houden. Wat maakt dat Rusland en China zich er ook niet aan kunnen houden.

[SunnieNL]

Er zijn zo veel zaken waar mensen zich niet aan houden, zoals door rood lopen. Zullen we dan alle voetgangerslichten maar weghalen, veel waarde hebben die toch niet. Net als verlichting op de fiets. Links blijven rijden terwijl rechts alles vrij is (gewoon wel toestaan, net als rechts inhalen).

Het alternatief is niets doen en kijken waar het op uit loopt. Maar dat lijkt me ook niet zo'n goed idee. Nu kun je in ieder geval met een vingertje wijzen en met het ondertekende papiertje wapperen en kun je er terecht schande van praten als ze zich er niet aan houden.

[djack]

AI in conflicten is gewoon een drama en dat zie je nu in het Midden-Oosten (zonder een waarde oordeel te vellen want daar gaat het hier niet over) maar de mens heeft vaak nog een moreel kompas en AI is een model waar je wel kan zeggen dat je daar rekening mee gaat houden maar modellen reageren anders dan hersenen die echte (on) schuldige slachtoffers zien, het resultaat van de acties ...
Doet me toch beetje bang krijgen. En eerlijk gezegd weet ik niet of de VN voldoende draagkracht daadkracht heeft tegenover landen als de VS/China/Rusland/Israël/Noord Korea/Iran/....
De toekomst ziet er voor de komende tijd toch wat donkerder uit en AI in het militaire speelveld maakt dat niet beter

[YopY]

AI is een volgende tool om oorlog nog onpersoonlijke te maken, het was al zo dat de technologisch geavanceerde legers zoals de VS al de oorlog vanuit een bunker mijlenver zien in digitaal geoptimaliseerd en geabstraheerd beeld (bvb drones), maar zoals de aanval van Gaza waar de computers een lijst met namen gaven, in combinatie met een oordeel "dit is een terrorist / doel" en een tactiek "deze persoon is nu thuis". Er zat een persoon achter de knop die het commando gaf om dat huis te bombarderen, maar deze nam maar een paar seconden per doelwit. En zo wordt de keuze tussen leven en dood nog meer teruggebracht. Natuurlijk was die al makkelijk, aangezien de Palestijnen, burger of niet, niet als mensen gezien worden.

[Mol_1248163264]

Dit zijn mooie intenties. Maar in tijden van crisis en oorlog, gaan alle regels en menselijkheid overboord. Kijk maar naar de oorlog in Ukraine. De Oekraïners zijn al bezig om drones te ontwikkelen die met AI automatisch doelen selecteren en aanvallen. Dit wordt uiteindelijk een nieuwe wapenwedloop.

[YopY]

Maar dat is het al jaren, het enige wat veranderd is is dat er nu het AI label opgezet wordt en er bepaalde nieuwere algoritmes op losgelaten worden. Maar automatisering in legervoering is al tientallen jaren gaande.

[meowmofo]

Als er 1 ding wel is gebleken is dat de VN een tandeloze tijger is, en je alleen maar in het nadeel bent als je aan de resoluties van de VN houd. De andere grote spelers doet dit namelijk niet, en dat zet jou automatisch op afstand.

[Heaget]

Weer een stapje dichter bij Skynet?

edit:

Ik bedoelde het niet zo. Dit is eigenlijk een van de eerste berichten waarin ik lees dat AI wordt gebruikt voor oorlogvoering. Daarmee doelde ik op, weer een stapje dichter bij Skynet.

Dat er nu resoluties komen is alleen maar goed.

[Reactie gewijzigd door Heaget op 7 november 2024 09:21]

[ErikT738]

Eerder een stapje van Skynet af, aangezien we hiermee de risico's van AI in ieder geval onderkennen.

Hierbij ook nog de benodigde disclaimer dat de "AI" die we nu hebben helemaal geen AI is.

[svenvbins]

Nee, het tegenovergestelde.

Met de nu aangenomen resolutie wordt in kaart gebracht welke risico's en kansen landen zien, waarmee volgens de VN de basis gelegd wordt voor internationale normen waaraan landen zich moeten houden.

Zonder resolutie zou er minder inzicht zijn in de risico's en zou Skynet dus een stapje dichterbij zijn.

[Xm0ur3r]

Dat is niet hoe ik het lees. Dit zou juist moeten helpen hierover duidelijkere afspraken te kunnen maken en het te voorkomen.
Ja we komen misschien elke dag een stapje dichterbij, maar niet door deze resolutie. Wat je reactie doet impliceren.

[StefanJanssen]

Veel reacties geven aan dat landen zich hier niet aan zullen houden. Ik denk wel dat als een bedrijf (Boeing, Microsoft, Samsung) dit zou ontwikkelen ze hun afzetmarkt in andere landen zal afnemen en er dus terughoudend op zullen zijn.