WASHINGTON—Robotische moordmachines jagen over land, lucht en zee. Ze zijn volledig geautomatiseerd, zoeken naar en gaan de strijd aan met vijandige robots in elk oorlogsdomein. Hun menselijke begeleiders zijn verbannen naar de achterhoede en houden op afstand toezicht op de actie, terwijl conflicten worden uitgevochten en gewonnen door machines.
Dit is verre van science fiction, is de visie van de voorzitter van de Joint Chiefs of Staff, Gen. Mark Milley.
Volgens Milley zijn de Verenigde Staten bezig met een van de talloze revoluties op militair gebied die de geschiedenis heeft doorkruist.
Dergelijke revoluties hebben zich uitgestrekt van de uitvinding van de stijgbeugel tot de invoering van het vuurwapen, de inzet van gemechaniseerde manoeuvreoorlogsvoering en, nu, de massale inzet van robotica en kunstmatige intelligentie (AI).
Het is een verschuiving in het karakter van oorlog, gelooft Milley, die groter is dan alle voorgaande.
“Vandaag bevinden we ons in … waarschijnlijk de grootste verandering in de militaire geschiedenis,” zei Milley tijdens een gesprek op 31 maart met Defense One.
“We bevinden ons op een cruciaal moment in de geschiedenis vanuit militair oogpunt. We staan voor een fundamentele verandering van het karakter van oorlog.”
Robotlegers in 10 jaar
Velen zouden zich ongetwijfeld prettiger voelen bij het idee van robots die strijden om de controle over de aarde als het in een science-fiction roman of op een filmscherm stond in plaats van op de prioriteitenlijst van de hoogste militaire officier.
Milley gelooft echter dat ‘s werelds machtigste legers in de komende tien jaar overwegend robotisch zullen zijn, en hij wil dat de Verenigde Staten als eerste over die cybernetische Rubicon gaan.
“In de komende tien tot vijftien jaar zul je zien dat grote delen van het leger van geavanceerde landen robotachtig worden,” zei Milley. “Als je robotica toevoegt met kunstmatige intelligentie en precisiemunitie en het vermogen om op afstand te zien, heb je de mix van een echte fundamentele verandering.”
“Dat komt eraan. Die veranderingen, die technologie … we kijken naar binnen 10 jaar.”
Dat betekent dat de Verenigde Staten “vijf tot zeven jaar hebben om een aantal fundamentele wijzigingen in ons leger aan te brengen,” zegt Milley, omdat de tegenstanders van de natie robotica en AI op dezelfde manier willen inzetten, maar dan met Amerikanen in hun vizier.
De natie die daar als eerste bij is, die robotica en AI op een samenhangende manier inzet, zal de volgende oorlog domineren, zegt hij.
“Ik zou zeggen dat het land, de natiestaat, dat deze technologieën gebruikt en ze het meest effectief aanpast en optimaliseert voor militaire operaties, dat land waarschijnlijk een beslissend voordeel zal hebben aan het begin van het volgende conflict,” zei Milley.
De wereldwijde gevolgen van een dergelijke verschuiving in het karakter van de oorlog zijn moeilijk te overschatten.
Milley vergeleek de voortdurende strijd om een nieuwe manier van oorlog voeren met de concurrentie tussen de wereldoorlogen.
In die tijd, zegt Milley, hadden alle Europese naties toegang tot nieuwe technologieën, van gemechaniseerde voertuigen tot radio en chemische wapens. Ze hadden allemaal het uniforme concept van manoeuvre-oorlogsvoering kunnen ontwikkelen dat de uitputtingsoorlog die de Eerste Wereldoorlog had bepaald, verving.
Maar slechts één, zei hij, integreerde eerst hun gebruik in een bonafide nieuwe manier van oorlogvoeren.
“Dat land, Nazi Duitsland, veroverde Europa in een zeer, zeer korte periode … omdat zij in staat waren deze technologieën samen te voegen in een doctrine die wij nu kennen als Blitzkrieg,” zei hij.
Blitzkrieg 2040
Milley, en met hem het Pentagon, hoopt nu hetzelfde te doen door opkomende capaciteiten zoals robotica, AI, cyber- en ruimteplatforms en precisiemunitie samen te brengen in een samenhangende oorlogsdoctrine.
Door als eerste deze technologieën te integreren in een nieuw concept, aldus Milley, kunnen de Verenigde Staten het toekomstige slagveld beheersen.
Daartoe experimenteert het Pentagon met nieuwe onbemande lucht-, grond- en onderzeese voertuigen en probeert het de alomtegenwoordigheid van niet-militaire slimme technologieën, van horloges tot fitnesstrackers, te benutten.
Hoewel de inspanningen net op gang komen, beweert Milley al sinds 2016 dat het Amerikaanse leger tegen 2030 aanzienlijke robotische grondtroepen en AI-capaciteiten zal hebben.
Over slechts enkele weken zal dat idee echt vorm krijgen, wanneer de uitnodigingen van het ministerie van Defensie (DoD) uitgaan naar leiders van defensie, technologie en de academische wereld voor de allereerste conferentie van het Pentagon over het opbouwen van “vertrouwde AI en autonomie” voor toekomstige oorlogen.
Het Pentagon is bezig met een overeenkomstige wervingsgolf, waarbij het jaarlijks zes cijfers wil betalen voor deskundigen die bereid en in staat zijn technologieën te ontwikkelen en te integreren, waaronder “augmented reality, kunstmatige intelligentie, human state monitoring en autonome onbemande systemen”.
Ook het U.S. Army Futures Command, opgericht in 2018, heeft als cruciaal doel het ontwerpen van wat het “Army 2040” noemt. Met andere woorden, het AI-afhankelijke, robotachtige leger van de toekomst.
Hoewel iets verder weg dan Milley’s veronderstelling van 10 tot 15 jaar, gelooft Lt. Gen. Ross Coffman, plaatsvervangend bevelhebber van het Futures Command, dat 2040 de echte intrede van de Verenigde Staten in een tijdperk zal markeren dat wordt gekenmerkt door kunstmatig intelligente moordmachines.
In een toespraak tijdens een top van DoD-leiders en technologiedeskundigen op 28 maart beschreef Coffman het partnerschap tussen mens en machine dat hij voor de toekomst voor ogen heeft, door het te vergelijken met de relatie tussen een hond en zijn baasje.
Maar in plaats van dat AI soldaten helpt in de strijd, gelooft Coffman dat mensen machines naar het slagveld zullen helpen.
“Ik denk dat we in 2040 een omslag zullen zien,” zei Coffman, “waarbij mensen die functies uitvoeren die de machine in staat stellen om in een positie van relatief voordeel te komen, en niet de machine die mensen in een positie van relatief voordeel brengt.”
‘Alles loopt uit de hand’
Het Amerikaanse leger hervormen en een nieuwe, samenhangende manier van oorlog voeren is een hele opgave. Niettemin lijkt het Pentagon bereid er voor te betalen.
Het DoD vraagt alleen al voor het komende jaar een recordbedrag van 1,8 miljard dollar voor AI-projecten. Dat bedrag is hoger dan de geschatte 1,6 miljard dollar aan AI-investeringen van het Chinese leger.
Een groot deel is ook bestemd voor initiatieven om de besluitvorming van autonome wapensystemen te verbeteren.
De inspanning lijkt op zijn minst een echt begin in de richting van Milley’s visie om massaal autonome systemen in te zetten. Het roept ook grote zorgen op over hoe de volgende oorlog eruit zou kunnen zien, en of de zeer menselijke DoD-leiding voldoende is voorbereid op het beheer van haar autonome creaties.
John Mills, voormalig directeur cyberbeveiligingsbeleid, strategie en internationale zaken bij het bureau van de Amerikaanse minister van Defensie, meent dat deze weg vol onbedoelde gevolgen zit.
“Het is Skynet,” zei Mills tegen The Epoch Times, verwijzend naar de fictieve AI die de wereld verovert in de film “The Terminator”. “Het is de realisatie van een Skynet-achtige omgeving.”
“De vraag is, wat kan er misgaan in deze situatie? Veel.
Mills gelooft niet dat AI alle mystiek verdient die het in de populaire cultuur heeft gekregen, maar hij is bezorgd over de duidelijke trend in de militaire besluitvorming om systemen te bouwen met echte autonomie. Dat wil zeggen, systemen die de beslissing om te doden kunnen nemen zonder eerst menselijke goedkeuring te vragen.
“AI] klinkt duister en mysterieus, maar het zijn eigenlijk grote gegevens, het vermogen om die gegevens op te nemen en te analyseren met grote analyses, en het belangrijkste is nu om die gegevens te gebruiken, vaak zonder menselijke interactie”, aldus Mills.
Het verlies van deze “man-in-the-loop” in vele voorgestelde toekomstige technologieën is dus een reden tot bezorgdheid.
Het trainen van mensen om vriend en vijand correct te identificeren voordat ze overgaan tot kinetische actie is al ingewikkeld genoeg, meent Mills. Dat geldt nog veel meer voor machines.
“Wat nu anders is, is de mogelijkheid om deze ongelooflijke datasets autonoom en zonder menselijke interactie te handelen,” zei Mills.
“De integratie van AI met autonome voertuigen, en ze zelfstandig laten optreden zonder menselijke besluitvorming, dat is waar alles uit de hand loopt.”
In dat verband uitte Mills zijn bezorgdheid over hoe een toekomstig conflict tussen de Verenigde Staten en hun bondgenoten en China in de Indo-Pacific eruit zou kunnen zien.
Stel je voor, zei hij, een onderzeese gevechtsruimte waarin autonome onderzeeërs en andere wapensystemen de zeeën bezaaien.
Met Chinese, Amerikaanse, Koreaanse, Australische, Indiase en Japanse strijdkrachten zou de resulterende chaos waarschijnlijk eindigen met autonome systemen die overal in de regio oorlog voeren, terwijl bemande schepen zich terughoudend opstellen en proberen de volgende groep robotische oorlogsmachines zo goed mogelijk te lanceren. Iets anders zou echte levens in de weg kunnen staan van de geautomatiseerde moordenaars.
“Hoe plan je gevechtsscenario’s met autonome onderzeese voertuigen?” zei Mills.
“Dit wordt een absolute chaos in ondergrondse oorlogsvoering.”
Geautomatiseerd doden
Het voorkomen van het automatisch doden van strijders door kunstmatig intelligente systemen is zeker iets waar het Pentagon al lang over nadenkt.
De 2018 Artificial Intelligence Strategy, bijvoorbeeld, wilde de invoering van AI in het DoD versnellen en tegelijkertijd zoeken naar ethische benaderingen om “onbedoelde schade te beperken”.
De 2020 Ethical Principles for Artificial Intelligence wilden er eveneens voor zorgen dat alleen “betrouwbare” en “bestuurbare” AI-technologieën door het leger werden gebruikt.
De 2022 Responsible Artificial Intelligence Strategy and Implementation Pathway (pdf) schetst een plan om de onbedoelde gevolgen van de toepassing van AI in militaire systemen te beperken.
Geen van deze inspanningen zal echter de invoering van volledig autonome moordmachines voorkomen. Dat was ook nooit de bedoeling.
Dat komt omdat al deze documenten zijn opgesteld onder leiding van DoD Directive 3000.09 (pdf), de leidraad van het Pentagon voor de ontwikkeling van autonome wapensystemen.
“Dat is fundamenteel,” zei Mills over het document. “Het is heel belangrijk omdat het de ontwikkeling stuurt.”
Het document werd oorspronkelijk uitgegeven in 2012, maar kreeg in januari een grote herziening, bedoeld om het Pentagon voor te bereiden op wat DoD-directeur van Emerging Capabilities Policy Michael Horowitz toen zei dat het een “dramatische, uitgebreide visie was voor de rol van kunstmatige intelligentie in de toekomst van het Amerikaanse leger.”
Er is slechts één voorbehoud bij die ethische, betrouwbare, bestuurbare inzet van dodelijke AI-systemen: Het Pentagon heeft geen harde en snelle regels om autonome systemen te verbieden om te doden.
Hoewel voorstanders van man-in-the-loop-technologieën vaak naar 3000.09 verwijzen, bevordert het document dergelijke technologieën niet, en verbiedt het evenmin het gebruik van volledig geautomatiseerde dodelijke systemen.
In plaats daarvan schetst het document een reeks strenge beoordelingen die voorgestelde autonome systemen moeten doorlopen. En hoewel er nog geen onafhankelijke AI-wapensystemen door dat proces zijn gekomen, zullen er in de toekomst waarschijnlijk veel van dergelijke systemen komen.
Dit is niet in het minst te wijten aan het feit dat het communistische regime van China snel werkt aan zijn eigen geautomatiseerde moordmachines, en het DoD zal zich moeten voorbereiden om die dreiging het hoofd te bieden, terwijl het probeert de Amerikaanse waarden te behouden.
“[China] probeert ook deze moeilijke problemen aan te pakken, om [AI] zonder menselijke tussenkomst te laten werken,” zei Mills.
“Ik denk dat ze geneigd zijn het toe te staan, zelfs als ze per ongeluk hun eigen mensen doden.”
De volgende oorlog zou dan ook wel eens een oorlog kunnen zijn die voornamelijk wordt uitgevochten tussen kunstmatig intelligente robots, met menselijke begeleiders aan de zijlijn die hun best doen om de actie te sturen.
Of de Verenigde Staten daarin slagen zonder de controle over hun creaties te verliezen, valt nog te bezien.
Mills heeft goede hoop dat als iemand het kan, het de Verenigde Staten zijn. Tenslotte, zegt hij, hebben wij het beste menselijke talent.
“Ik denk dat we nog genoeg vangrails hebben om het iteratief te maken, zodat we slimmer kunnen worden en leren om voorzorgs- en controlemaatregelen in de algoritmen in te bouwen,” zei Mills.
“Ik denk dat we goede teams en mensen op hun plaats hebben.”
The Epoch Times heeft het Pentagon om commentaar gevraagd.
Gepubliceerd door The Epoch Times (20 april 2023): IN-DEPTH: ‘It Is Skynet’: Pentagon Envisions Robot Armies in a Decade
