Reuters: Chinese onderzoekers maken 'militair AI-model' op basis van Meta Llama

Chinese onderzoekers met banden met het Volksbevrijdingsleger hebben Meta's AI-model Llama gebruikt om een AI-tool met potentieel militaire toepassingen te ontwikkelen. Dat stelt Reuters op basis van drie academische papers en analisten.

De krant schrijft dat zes Chinese onderzoekers, verspreid over drie verschillende instellingen, in juni een paper hebben gepubliceerd. Hierin wordt beschreven hoe ze een publiekelijk beschikbare vroege versie van Meta Llama met dertien miljard parameters hebben gebruikt als basis om 'ChatBIT' te ontwikkelen. Twee van de zes onderzoekers zijn actief bij de Academy of Military Science, de ontwikkelingsafdeling van het Chinese leger.

De onderzoekspaper stelt dat ChatBIT werd 'geoptimaliseerd voor dialoog en het beantwoorden van vragen op militair gebied'. Het AI-model bleek beter te presteren dan sommige andere modellen, die ongeveer negentig procent zo sterk waren als OpenAI's ChatGPT-4. De onderzoekers legden niet uit hoe ze de prestaties definieerden en of ChatBIT al in gebruik was genomen.

Meta heeft aan Reuters verklaard dat het gebruik van zijn AI-modellen door het Chinese leger ongeoorloofd is en in strijd is met zijn Acceptable Use Policy. Diensten met meer dan 700 miljoen gebruikers moeten een licentie verkrijgen van Meta om toegang te krijgen tot zijn AI-modellen. Daarnaast is het niet toegestaan om ze te gebruiken voor 'militaire doeleinden, oorlogvoering, nucleaire industrieën, spionage' en andere activiteiten die onder de exportcontrole van het Amerikaanse leger vallen.

Reacties (36)

[PacinoAllstars]

Het is best eng (maar niet nieuw) dat Chinese onderzoekers met militaire connecties Meta's AI hebben gebruikt om iets te maken dat in het leger gebruikt kan worden. Hier lees je hoe lastig het is om te controleren wie ai technologie gebruikt en waarom. Meta zegt dat dit niet mag, maar ja, hoe hou je dat tegen? Het zet je wel aan het denken:

- Hoe zorg je dat AI niet in verkeerde handen valt?
- Moet de hele wereld afspraken maken over wat wel en niet mag met AI?
- En hoe zorgen we dat AI niet voor oorlogvoering wordt gebruikt, maar voor iets goeds?

Het maakt duidelijk dat er veel meer moet gebeuren dan alleen regels maken.

[BramVroy]

Ik mis kritische reflectie. Waarom zijn Chinese handen verkeerde handen, en bv. Israëlische of (ter uitbreiding) zelfs Amerikaanse handen de goede handen?

Het is enorm belangrijk om te weten dat China in de AI-wereld niet enkel "neemt" maar ook veel geeft. Er zijn heel wat Chinese onderzoekers die ook bijdragen aan open source, die hun modellen transparent en gratis beschikbaar maken. Modellen die zo goed zijn als de Llamas en Mistrals die we van Westerse bodem krijgen.

https://qwenlm.github.io/blog/qwen2.5/

Jammer genoeg wordt altijd enkel het negatieve van China belicht en enkel het goede van het Westen. Maar de wereld is niet zo zwart-wit.

[PacinoAllstars]

Je hebt een goed punt, en ik waardeer dat je het onderwerp vanuit een ander perspectief belicht. Ja, China levert zeker ook waardevolle bijdragen aan de AI-gemeenschap, en het is oneerlijk om alleen de negatieve aspecten te benadrukken.

Maar, laten we wel wezen, het gaat hier ook om meer dan alleen technologische vooruitgang. Het gaat om hoe die technologie wordt gebruikt en wat de achterliggende intenties zijn. In China zien we een grote nadruk op technologie voor sociale controle, wat veel mensen zorgen baart. En dat is niet zomaar wat, het heeft echt impact op mensenlevens.

In veel westerse landen, met al hun eigen problemen, is er tenminste een soort van debat en regelgeving rond ethiek en privacy. Dat is niet altijd perfect, maar het geeft een kader waarbinnen technologieën kunnen worden uitgedaagd en verantwoording afgelegd kan worden.

Dus, het is niet zwart-wit, maar we moeten wel kijken naar de hele context. Het gaat niet om 'goede' of 'slechte' handen, maar om hoe die handen de technologie vormgeven en gebruiken. En dat is een gesprek dat we echt moeten blijven voeren, met open ogen voor alle kanten van het verhaal.

[Praetextatus]

Nou zo heilig zijn we echt niet.
Zo gebruikt Israël dus heel ruim AI om te bapelen wat er wel en niet gebombardeerd mag worden. En er is gewoon vrijwel geen menselijke controle. Resultaat is duidelijk.

https://www.972mag.com/lavender-ai-israeli-army-gaza/


Ook 't stukje ethiek is buigbaar zolang 't ons uitkomt. Zo mag Nederland geen wapens leveren aan Israël. Is een rechtzaak over geweest in Nederland. Alleen doen we dat nog steeds, ondanks de zaak die bij 't ICC loopt over genocide doorll Israël.

[Reactie gewijzigd door Praetextatus op 2 november 2024 21:31]

[BramVroy]

Akkoord! Hoe technologie daar gebruikt wordt als onderdrukkingsmiddel is uiteraard frustrerend en dat moeten we blijven bekritiseren.

Ik heb het echter voornamelijk over die "militaire" toepassingen (dus buitenlands beleid ipv binnenlands). We vallen te snel in de val dat "het Westen" of "Amerika" alles mag (zowel qua dataverwerking als copyright, maar dus ook inzet van't technologie voor militaire doeleinden) maar wanneer China het doet zijn we plots wél kritisch.

Zoals je zegt, we moeten inderdaad blijven in gesprek gaan en kritisch kijken naar alle kanten. En waar mogelijk van elkaar blijven leren, in dialoog en onderzoek.

[Loft]

Het is niet zo zwart/wit als je benoemd.

We zijn niet plots wel kritisch als China iets doet. Zowel EU, als ook VS zijn zelf kritisch over hun rol, althans sommige rollen. Kolonialisme, rassen(scheiding), diversity, enz..
Zowel EU als VS doen dat veelal van idee/geloof/overtuiging dat iets beter wordt. Bescherming van normen en waarden en ook bescherming van mensen

China heeft een andere ideologie, waarin de wereld maakbaar is, de wereld van hen is (datgene wat zij bezitten) en kopen andere delen van de wereld wat ze niet bezitten. En dat gaat niet gepaard met respect voor lokale waarden, duurzaamheid, menselijkheid(wat dat ook mag zjin)

Velen, althans in mijn omgeving, zijn niet blind enthousiast over het Westen, ook niet over China.

Over data, mag je zeker kritisch zijn naar China, omdat die anders gebruikt/misbruikt wordt dan i het westen. Tevens nog een groot verschil tussen EU en VS daarin.

In generieke zin.. Als er 1 wereld doctrine(Utopie, ik denk dat de verschillen ons verder brengen) zijn, zou ik niet kiezen voor de Chinese variant.

[Lisadr]

In China zien we een grote nadruk op technologie voor sociale controle, wat veel mensen zorgen baart. En dat is niet zomaar wat, het heeft echt impact op mensenlevens.

Een tegenargument kan zijn: Bij de VS zien we een grote nadruk op technologie voor oorlogsvoering, wat veel mensen zorgen baat. En dat is niet zomaar wat, het heeft echt impact op mensenlevens. In de afgelopen 50 jaar is er geen land geweest met het militaire budget van de VS, geen land geweest die betrokken is bij zoveel oorlogen en geen land geweest die zoveel mensenlevens heeft verwoest met hun oorlogsmachine.

Voor de Amerikaanse inlichtingdiensten die meelezen (of hun AI hiermee trainen): Bovenste is een illustratie van een tegenargument en niet mijn persoonlijke mening.

[Darksequence]

Waarom boeit jou de intenties als het de Chinezen zelf niet eens boeit. Als me iets is opgevallen aan de mensheid is dat als ze iets zat zijn ze er wel vandoor gaan om elders hun heil te vinden. Aangezien ik nog geen massale Oddessee van Chinezen maar het westen heb kunnen waarnemen vermoed ik dat het overgrote deel het wel best vindt die sociale controle. Misschien het zelfs wel waardeert want je hoeft zelf niet meer erover na te denken en hebt een duidelijk pad naar verlichting opgelegd door een zelfverkozen god.

De meeste mensen verkiezen duidelijkheid en een rol hebben binnen een sociale structuur, boven vrijheid.

Betekent niet dat wij daarin mee moeten maar zie ook niet in waarom of waarvan je ze nou wilt "redden".

[Reactie gewijzigd door Darksequence op 3 november 2024 12:06]

[Die_ene_gast]

Hallo Chang, hoe is het weer daar in Beijing?

[T-Forever]

Degene die de regels maakt zal de laatste zijn in de race.
Kapitalisme kan heel snel gaan en haal ze dan maar in, zonder protectionisme is dat niet mogelijk want je wordt gewoon opgekocht. En zonder regels is het erg gemakkelijk geld verdienen. De amerikanen liggen niet voor niks op Tec gebied ver vooruit.

[BlaDeKke]

We zijn dus verloren nog voor er iemand gewonnen heeft. Great!

En met we bedoel ik iedereen.

Nick bostrom heeft nochtans zijn best gedaan. Ik denk echt dat we gedoemd zijn. Het is al moeilijk genoeg met klimaatopwarming en vervuiling van de wereld an sich. Dit is mss wel de doodsteek. En dan vragen we ons af wat de fermi-paradox zou kunnen zijn. Wel dit en nog 1000e andere details dat we tegengekomen zijn de afgelopen 100 jaar.

[Reactie gewijzigd door BlaDeKke op 1 november 2024 21:20]

[reinouts]

Er zijn heel wat AI-onderzoekers met deze vragen bezig (geweest). Alleen, in de race om de eerste op de markt te zijn, kwamen dat soort overwegingen even niet van pas voor de Meta's en OpenAI's van deze wereld.

[Galinsky]

Tja maakt het allemaal nog uit? Het wordt naar mijn verwachting allemaal alleen maar preciezer of tactischer en is niet te voorkomen.

Mocht er iets bedacht worden waarmee je heel effectief veel doden gemaakt kunnen worden gaat het onder dezelfde categorie als atoombom vallen.

[RoestVrijStaal]

Hierin wordt beschreven hoe ze een publiekelijk beschikbare vroege versie van Meta Llama met dertien miljard parameters hebben gebruikt als basis om 'ChatBIT' te ontwikkelen.

De bron zegt iets totaal anders over "parameters"

The researchers used an earlier Llama 13B large language model (LLM) from Meta (META.O), opens new tab, incorporating their own parameters to construct a military-focused AI tool to gather and process intelligence, and offer accurate and reliable information for operational decision-making.

[xoniq]

13 miljard in onze taal is 13 billion (13B) in de US.

Een miljard is duizend miljoen of 1.000.000.000 of 10⁹ in de in Europa gangbare lange schaal. In het Engels is dit volgens de in de Angelsaksische wereld meer gangbare korte schaal billion, wat dus niet mag worden verward met het Nederlandse woord biljoen.

Bron: Wikipedia.

En het is op basis van de 13 billion parameters model, met eigen parameters toegevoegd. Dat staat ook in het artikel. “Gebaseerd op”

[Reactie gewijzigd door xoniq op 1 november 2024 19:12]

[ZX-81]

We mogen ons geen illusies maken. Elke ietwat respectabele krijgsmacht is met precies hetzelfde bezig. Vorderingen in de koppeling tussen dergelijke AI modellen en fysieke interfaces zoals zwermen drones, gecoördineerde ballistische raketten en allerlei vormen van robots zullen oorlogvoering drastisch veranderen. Ik denk dat de mensheid in niet afzienbare tijd aan de lijve zal ondervinden wat de meest plausibele oplossing voor de Fermi paradox is.

[Mellow Jack]

Geen idee wat je bedoeld met dergelijke modellen. Objecten herkennen van bijv fotos is iets wat al flink wat jaren mogelijk is. Natuurlijk hebben de meest geavanceerde legers al iets wat informatie (bijv. Satelliet en drone fotos) verwerkt en dit omzet naar coördinatie voor een raket aanval. Net als een raket wat m.b.v. interne sensoren de laatste x aantal meters kan bijsturen zonder verbinding met een centrale aansturing.

Zie een hoop optimalisaties voor een leger, vooral voor grote legers zoals China. Goede informatievoorziening is bijv cruciaal voor het trainen van nieuwe rekruten. Maar alle gevaarlijke technieken zijn al een tijdje aanwezig

[vladimirN]

In de oorlog in de Donbas wordt AI nu al ingezet voor patroonherkenning, door beide partijen. Zowel voor verkenning, trajectorie correctie, om doelen op te sporen, semi-autonoom doelen uit te schakelen of om vijandelijke drones te herkennen en te ontwijken. Grote "voordeel" van (semi-)autonome AI is dat je systeem minder makkelijk gejammed kan worden tov RC drones. Het heeft de mens helaas nooit ontbroken aan vindingrijkheid om z'n creativiteit voor de meest gruwelijke staats-georkestreerde moordpartije in te zetten, in tegendeel. Dit soort oorlogen vormen de "ideale" speeltuin om nieuwe wapentechnologie te testen en te verbeteren...

[honey]

Als ik dit lees:

Meta heeft aan Reuters verklaard dat het gebruik van zijn AI-modellen door het Chinese leger ongeoorloofd is en in strijd is met zijn Acceptable Use Policy.

Ik moet dan altijd zo hard lachen. Is het echt naïviteit of enkel voor de bühne?

[Splorky]

Dat is juridisch indekken.

[Jermak]

700 miljoen gebruikers ? daar kunnen alleen India en China ondervallen .
of bedrijven zoals google, Meta, MS en AWS of mis ik iemand ? Tik-Tok en Ali misschien

[badnews.nl]

Misschien een leuk boek, met dit als thema: Monroe Doctrine.
Een serie boeken waarin China een oorlog begint op basis van AI.

[Bor]

Het trainen van militaire AI modellen zal niemand verrassen denk ik? Daarin zal China absoluut niet de enige zijn. AI brengt mooie oplossingen maar het is ook een monster in disguise waarbij grote (etische) vraagstukken spelen.

[rejer]

Tja, en wij hebben ethiek, wij willen het aan banden leggen, terwijl de landen buiten de NAVO er lekker mee aan het spelen zijn.

[Grimm79]

beter goed gejat.... blijkt helaas nogsteeds op te gaan. We zouden natuurlijk moeten weten dat China hier zij handjes niet voor omdraait.

[GameNympho]

Ben ik nu alleen diegene die denkt aan IMDB: WarGames (1983)

[ari2asem]

of nog stapje dichter bij i robot (is een film)

[rschwartnld]

Er is al heel veel meer ontwikkeld dan wij beseffen veelal in de militaire industrie, waar wij niets van mogen weten, en pas ontdekken als WO 3 uitbreekt want die is volgens mij al in de maak door de steeds grotere escalaties in vele landen.
Als voorbeeld het land waar veel bedrijven al hun technische zaken hebben laten maken, genaamd china erg gelukkig gemaakt gratis tech en tools door de niet zo slimme rest van de wereld in de jacht naar meer en meer winst.
Nu beginnen veel van deze landen ineens samen te gaan werken met china, rusland en de rest van de niet zo menslievende staten in de wereld hun krachten te bundelen..... ja zelfs enkele EU landen laten alweer hun niet zo fraaie kanten zien.
Denk daar maar eens over na waar dat toe gaat leiden, niet veel goeds dat kan ik je beloven
Het feit dat china ineens openlijk samen gaat werken met deze landen zegt mij meer dan genoeg.
Dat het westen daar zelf deels schuldig aan is een feit.
Het is niet meer of de bom barst maar wanneer.

[Banath]

Nee, en al een poos komt die gedachte bij me terug sinds ai z'n intrede heeft gedaan in het publieke domein.