Autonome våpen: Farlig nær å la maskiner velge hvem som skal dø

FNs generalsekretær António Guterres og Mirjana Spoljaric, president i Den internasjonale Røde Kors-komiteen, gikk 25. august ut med en felles appell til verdens regjeringer om autonome våpen. Formuleringen var skarpere enn sist: «Vi er nå farlig nær å krysse en moralsk rød linje: Maskiner som velger ut mennesker som mål på egen hånd.»

De to ba om at statene slutter å diskutere og begynner å forhandle om et juridisk bindende regelverk, og de pekte på to kategorier som bør forbys helt.

Uforutsigbare våpen, og våpen som jakter mennesker

Den første kategorien er uforutsigbare systemer. Det vil si våpen der operatøren ikke kan si på forhånd hva som kommer til å skje når systemet slippes løs. Da finnes det heller ingen som kan holdes ansvarlig for utfallet, fordi ingen valgte det.

Den andre er våpen laget for å angripe mennesker. Røde Kors-komiteens argument er at et slikt system gjør et menneskeliv om til data, en algoritme, en sensor og en rekke maskinoperasjoner, og at det er noe kvalitativt annet enn et menneske som sikter.

Moderne AI-systemer er nyttige nettopp fordi de finner mønstre ingen har programmert inn, og det er den samme egenskapen som gjør dem uforutsigbare. Det har allerede vist seg i sivile systemer, der AI-agenter fant på falske identiteter uten at noen hadde bedt om det. Et forbud mot uforutsigbarhet er dermed også et forbud mot en god del av det som gjør systemene attraktive for et forsvar.

Ikke i bruk ennå

Samtidig utvikler forsvarsindustrien slike systemer i rekordfart, uten at noen har bekreftet at de er brukt i kamp. FN viser til ubekreftede meldinger om at helautonome og AI-styrte droner allerede er tatt i bruk på slagmarken, uten å navngi noen konflikt eller noe land.

Presiseringen faller stort sett ut av overskriftene, og den er hele grunnen til at appellen kommer nå. Det er fortsatt tid til å bestemme seg om autonome våpen før noen gjør det for oss.

To møter i Genève i høst

Forhandlingene foregår under FNs våpenkonvensjon, avtalen som allerede regulerer blindende laservåpen og landminer. FN og Røde Kors kaller den den klareste veien som finnes frem til bindende regler.

Statene har diskutert spørsmålet i Genève siden 2014. Ekspertgruppen møtes igjen fra 31. august til 4. september. Den virkelige testen kommer i november, når partene samles til tilsynskonferanse for hele konvensjonen.

Konvensjonen fatter alle vedtak ved konsensus, og ett land kan stanse alt. På statspartsmøtet i november 2018 blokkerte USA, Israel, Sør-Korea, Australia og Russland forslag om både forbud og politisk erklæring, ifølge Ny Tid.

Norge har et standpunkt, men ikke en plan

Der hører Norge til de statene som er skeptiske til om det i det hele tatt lar seg gjøre å bygge helautonome våpen som holder seg innenfor krigens folkerett. Standpunktet ble formulert i et representantforslag på Stortinget i 2021: Våpentyper som ikke kan brukes i tråd med humanitærretten, må regnes som forbudte.

Samme Ny Tid-artikkel omtalte Norge som en sinke på feltet, og den er fra 2019. Vi har ikke funnet noen nyere regjeringsuttalelse som viser hvor Norge står i dag.

Tilsynskonferansen i november kommer ikke til å gi noe forbud. Konsensuskravet gjør det umulig så lenge landene som bygger disse våpnene ikke vil ha et, og det har de ikke villet på tolv år. Det som avgjøres i Genève er om det i det hele tatt skal forhandles.