Ekspertene møttes i Genève, men ingen avtale kunne oppnås: USA og Russland blokkerte alt arbeid. Kanskje dette er den eneste gangen hegemoner fungerer så harmonisk.
Møter med eksperter i form av konvensjonen om umenneskelige våpen endte i Genève for å avgjøre skjebnen til de såkalte kamprobotene - autonome våpen som bruker kunstig intelligens for å beseire mål. Imidlertid kunne ingen avtaler oppnås. USA, Russland, Sør-Korea, Israel og Australia var blant minoritetsnasjonene som har lykkes med å blokkere følelsen mot et fullstendig forbud mot mordereoboter.
Så selv om det fremdeles ikke er noe fungerende autonomt våpen i verden, forblir teknologien så å si human - den kan utvikles og undersøkes. Interessant er at USA og Russland, ifølge Stockholm Peace Research Institute (SIPRI), topper listen over de største våpeneksportørene. Sør-Korea, Israel og Australia kommer heller ikke bak i denne rangeringen - de er blant de 20 beste markedsaktørene.
Og selv om Kina (den femte våpeneksportøren i verden, et permanent medlem av FNs sikkerhetsråd, tar til orde for et forbud mot kamproboter, klarte det ikke å tilpasse skalaen i sin retning under møtene. I dag støtter 26 land åpent forbud mot bruk av kunstig intelligens i krig. Andre viker unna en klar posisjon) Frankrike og Tyskland (den tredje og fjerde våpeneksportørene) tilbyr å signere et dokument som vil konsolidere menneskets forrang fremfor kunstig intelligens, men de er mer sannsynlig på siden av de som ønsker å utvikle autonome kampvogner.
"Det er absolutt skuffende at en liten gruppe militære giganter kan holde flertallets vilje tilbake," kommenterte Mary Verhem, koordinator for Kampanjen for å stoppe Killer Robots, om resultatet av møtene i Genève.
Faktisk ser situasjonen ut som en sammensvergelse av væpnede monopoltyconer, gitt at USA og Russland vanligvis ikke kan nå i det minste en slags kompromiss om viktige spørsmål. Ta den syriske: Washington og Moskva blokkerte gjensidig hverandres resolusjoner etter å ha brukt kjemiske våpen i Syria i vår. Kvelende gasser og andre giftige stoffer for militære formål var forresten tidligere forbudt av konvensjonen om umenneskelige våpen.
Neste møte om skjebnen til morderroboter vil finne sted i Genève i november.
Hvorfor vil de forby autonome våpen
Talsmenn for robotkrigsforbudet insisterer på at slagmarken ikke er et sted for kunstig intelligens. Etter deres mening utgjør slike teknologier en enorm trussel. I det minste er det i dag ikke klart hvordan maskinen vil skille mellom stridende (de som er direkte involvert i fiendtligheter) fra ikke-stridende (hærtjenestepersonell som bare kan bruke våpen til selvforsvar) og sivile generelt. Det er en mulighet for at arbeidet vil drepe de sårede og de som overgir seg, noe som er forbudt av gjeldende krigsføringsregler.
Hva hindrer arbeidet i å forstyrre alle parter i konflikten, til og med eierne av slike våpen? Kunstige intelligenselementer er allerede vellykket brukt i militært utstyr, missiler; roboter tiltrekkes for rekognosering, men det siste ordet hviler fortsatt på mennesker. Autonome våpen vil ikke adlyde befalene fra sjefene - det er derfor de er autonome. Det er grunnen til at militærgeneraler fra forskjellige land er skeptiske til innføringen av maskiner i rekken av personell.
Og et åpent spørsmål er internasjonal terrorisme. Autonom våpenteknologi kan falle i feil hender, og den kan til slutt bli hacket. For et år siden sa Russlands president Vladimir Putin at verdens hersker vil være den som vil bli leder i utviklingen av kunstig intelligens. Når det gjelder autonome våpen, vil den som får tilgang til slike teknologier bli verdens hersker. Og for dette trenger du faktisk bare en datamaskin og en dodger som vil passere gjennom sikkerhetssystemene. Pentagon har forresten blitt hacket mer enn en gang. Derfor kan ingen gi garantier for at autonome våpen forblir ukrenkelige.
Det er også uklart hvem som vil være juridisk ansvarlig hvis en krigsforbrytelse begås som et resultat av funksjonen til det autonome våpensystemet. “Ingeniøren, programmereren, produsenten eller sjefen som brukte våpenet? Hvis ansvar ikke kan defineres som påkrevd av internasjonal humanitær rett, kan da utrulling av slike systemer bli anerkjent som juridisk eller etisk begrunnet?”, Noterer Den internasjonale Røde Korskomiteen.
Interessant, forskere gikk også inn for et forbud mot kamproboter. I juli i år signerte mer enn to tusen forskere, spesielt skaperen av Tesla og SpaceX Elon Musk og medstifterne av DeepMind, et dokument om at de ikke ville utvikle dødelige autonome våpen. Google gjorde det samme. Teknologigiganten har gitt opp arbeidet med Pentagons Maven-prosjekt. Og i 2017 har en rekke forskere allerede oppfordret FN til å forby opprettelsen av drapsmessige roboter.
Forresten, spørsmålet om kunstig intelligens i krig dukket opp på dagsordenen til FN i slutten av 2013, men praktisk talt ingenting har endret seg siden den gang. Først i år begynte ekspertmøter i form av konvensjonen om umenneskelige våpen. Det vil si at det tok mer enn fire år å komme til et mer eller mindre praktisk plan.
Hvorfor de ikke vil forby autonome våpen
Uansett hvor banalt det kan høres ut, er våpenkappløpet hovedårsaken til at de ikke vil forby drapsmotroboter. Putin har rett: den som får autonome våpen først, vil dominere verden. Offisielt uttrykkes denne grunnen.
Hovedargumentet til motstanderne av forbudet er umuligheten av å skille sivil kunstig intelligens fra militæret. Som, vi vil ikke forby kjøkkenkniver bare fordi terrorister kan bruke dem. Det er faktisk praktisk talt umulig å skille sivil utvikling av kunstig intelligens fra militæret. Men nå snakker vi om forbudet mot dette våpenet, som vil være i stand til uavhengig å bestemme og angripe mål. Dette kan være Maven-prosjektet, som det amerikanske forsvarsdepartementet jobber med i samarbeid med Booz Allen Hamilton (Google nektet kontrakten).
Maven-utviklerne ønsker å lære droner å analysere bilder, spesielt fra satellitter og - potensielt - identifisere mål for angrep. Pentagon begynte å jobbe med prosjektet i april 2017 og håpet å få de første arbeidsalgoritmene innen utgangen av året. Men gjennom demarchen til Google-ansatte ble utviklingen forsinket. I juni i år kunne systemet ifølge Gizmodo skille mellom elementære gjenstander - biler, mennesker, men det viste seg å være helt ubetydelig i vanskelige situasjoner. Hvis forbudet mot autonome våpen likevel blir vedtatt på FN-nivå, må prosjektet skrotes, mens Pentagon hevder at deres utvikling kan redde liv, fordi det kan programmeres til å fungere mer nøyaktig og pålitelig sammenlignet med mennesker.
"Du må forstå at vi snakker om teknologi, at den ikke har prøver som vil fungere. Ideen om slike systemer er fremdeles veldig overfladisk," bemerket før kvelden for møtet i Genève i det russiske utenriksdepartementet. - Etter vår mening kan folkeretten, særlig den humanitære sektoren, brukes på autonome våpen. De trenger ikke modernisering eller tilpasning til systemer som ennå ikke eksisterer."
Vel, og en mer ekte, men ikke uttrykt, grunn er penger. I dag er markedet for militær kunstig intelligens teknologi anslått til mer enn seks milliarder dollar. Men innen 2025 vil tallet tredoble seg - til nesten 19 milliarder, ifølge analytikere fra det amerikanske selskapet MarketsandMarkets. For de største våpeneksportørene er dette en god motivasjon for å blokkere eventuelle restriksjoner på utvikling av drapsmotorroboter.
Fremgang kan ikke stoppes
Talsmenn for et forbud mot autonome våpen bemerker at teknologien utvikler seg veldig raskt og kunstig intelligens vil etter hvert bli et våpen - et spørsmål om tid. Det er logikk i deres ord. Kunstig intelligens er en integrert del av den fjerde vitenskapelige og teknologiske revolusjonen, som fortsetter nå. Man bør huske på at teknisk fremgang på en eller annen måte er knyttet til militære operasjoner. Den tredje vitenskapelige og teknologiske revolusjonen varte til midten av 50-tallet av det 20. århundre, det vil si at høydepunktet falt i perioden andre verdenskrig.
I 1949 vedtok Genève konvensjonen for beskyttelse av sivile personer i krigstid. I etterkrigstiden supplerte de også IV Haagkonvensjonen fra 1907, som bestemte reglene for krigens gjennomføring. Det vil si at gruene fra andre verdenskrig ble katalysatoren for denne prosessen. Så menneskerettighetsforkjempere vil ikke vente på den tredje verdenskrig for å beskytte menneskeheten mot autonome våpen. Det er derfor det nå er nødvendig å bestemme skjebnen til morderroboter, insisterer de.
Ifølge eksperter fra Human Rights Watch strider bruken av kamproboter mot Martens-erklæringen - innledningen til Haag-konvensjonen fra 1899 om krigens lover og toll. Med andre ord bryter morderroboter menneskehetens lover og kravene til offentlig bevissthet (stillingen ble bekreftet i IV Haagkonvensjonen).
"Vi må samarbeide om å innføre et forebyggende forbud mot slike våpensystemer før de sprer seg over hele verden," sa Bonnie Doherty, seniorforsker i våpenavdelingen ved Human Rights Watch.
Vel, det fungerte ikke å forby draproboter denne gangen. Forutsigbart vil møtene i november også være fruktløse. Det er sant at nesten alle land er enige - teknologien kan ikke få strøm av tyngdekraften, og kamproboter trenger en slik stoppkran. Men det er fortsatt ikke klart om menneskeheten vil ha tid til å trekke det når behovet oppstår.
