Tento týždeň zasadá v Ženeve OSN, aby prejednalo autonómne zbrane.

Štáty sa púšťajú do rozvinutých technológií vďaka umelej inteligencii, ale vyvolávajú znepokojenia.

Čo sú to autonómne letálne zbrane – skratka SALA – alebo /hovorovo/ zabijácke roboty?

OSN práve vo Švajčiarsku zasadá, aby dalo na to odpoveď. V hre je určiť definíciu, kedy je stroj schopný rozhodovať sám o zabití a či sa mu to povolí.

Otázka zamestnáva už dlho vedecký svet v prvej línii s Elonom Muskom, majiteľom Tesly, ktorý neprestáva oponovať nebezpečenstvá UI: „Pre UI neexistuje smrť. UI bude žiť stále, zato vy by ste nemohli byť nikdy zachránený!“, vyhlásil v dokumente „Veríte tomuto komputeru?“, ktorý vyšiel  5. apríla.

Musk už podporil žiadosti Future of Life Institute “ Inštitút budúcnosti života“, žiadajúc zákaz autonómnych zbraní v rokoch 2015 a 2017. Prvýkrát veľké mená ako sú fyzik Stephen Hawking  a Noam Chomsky, lingvista na MIT, tiež prispeli pod ne svojím podpisom.

Začiatkom tohto apríla 50 výskumníkov oznámilo svoj zámer bojkotovať juhokórejskú univerzitu Kaist z dôvodu jej účasti vo vojenských programoch: „Autonómne zbrane dovolia zrýchliť vojnu do stupňa ešte nikdy nepoznaného. Budú mať potenciál  byť zbraňami teroru. Despoti a teroristi by ich mohli použiť proti nevinnej populácii.“

Nakoniec, tento mesiac požiadalo 3100 zamestnancov Googlu /z celkových 70 000/ Sundara Pichaia prerušiť spoluprácu firmy s Pentagonom v rámci projektu „Maven“. „Tento projekt rozvíja systémy UI , ktoré majú rozoznávať obrázky. Nemôžeme delegovať morálnu zodpovednosť našich technológií na tretiu stranu“, napísali vo vyhlásení.

Výskum a rozvoj

Tieto zbrane však už existujú. Južná Kórea nainštalovala na svojej hranici so Severnou Kóreou ozbrojený robot, ktorý skáče. Detekuje siluety postáv ľudí a pohyby v pásme nikoho medzi krajinami, čo je demilitarizovaná zóna a ale je pod tlakom a už zamínovaná. Zariadenie reaguje na meno SGR-A1 alebo „neúnavný“ a bolo vyrobené v Samsungu. Operátor musí autorizovať stroj k streľbe, ale je možné ho uviesť do autonómneho režimu.

Rusko, čo sa jeho týka, už použilo diaľkovo riadené roboty v Sýrii v Lattakii, podľa inžiniera zo Saint-Cyr  Gérarda de Boisboissela.

Rusi tiež vytvorili tank T-14 Armata, ktorý by sa mohol stať v najbližších rokoch robotom-človekom.

USA tiež už vytvorilo autonómne plavidlo Sea Hunter, ktoré sa riadi samo. Nie je ešte vyzbrojené, ale ako pripomína Jody Williams, nositeľ Nobelovej ceny za mier, v jednom dokumente na stránke Motherboard: „Všetko to, čo USA rozvíjajú na vojenskom poli, počítajú aj vyzbrojiť.“ A história mu dáva za pravdu: roboty sa rozšírili v armáde USA počas druhej vojny v Iraku, boli však len pre odmínovanie. Teda nemali žiadnu ofenzívnu funkciu a boli diaľkovo riadené. Boli vyzbrojené jedným samopalom.

Už v roku 2001 dron pôvodne určený len na pozorovania, eliminoval jeden poručík v Bin Ládinovej jednotke.

So SALA nastáva nová etapa, pretože stroj môže sám vyberať možnosť, že zabije človeka. Už nie je diaľkovo riadený. Definícia je ešte nekompletná, ale to na čo je zacielené,  je veľká možnosť stroja vyberať si svoje ciele.

Pozície krajín

USA, ktorý participuje v súčasnoti na diskusiách v Ženeve, vidí skôr v týchto zbraniach “konvergenciu vojenskej účinnosti a humanitárnej ochrany“ podľa  prípravného dokumentu, ktorý poslali do OSN.  Dávajú do popredia odmínovanie a asistenciu pri rozhodovaní stroja: „Počítače, ktoré sú sofistikovanejšie, by mohli pomáhať dôstojníkom lepšie odhadovať prítomnosť civilov a predvídať efekty, ktoré by mohla zbraň vytvoriť počas jej útoku.“  A dodávajú: „Namiesto skúšať stigmatizovať alebo zakazovať  také nebezpečné technológie na poli SALA, USA by mali podporovať inovácie.“

Rusko dodáva, že „zodpovednosť používania SALA by mala byť prisúdená človeku, ktorý operuje alebo programuje robota a ktorý nariadil jeho použitie.“ Ale Moskva sa nestavia proti spusteniu autonómneho módu.

Na konci marca sa vyjadril Emanuel Macron „kategoricky proti“ tomu, aby stroj mohol prevziať iniciatívu strieľať, zatiaľčo v jednom interview pre časopis Wired uviedol: „Rozhodnutie dať zelenú musí byť urobené ľudskou bytosťou“. Hlásenie Villaniho o UI o niekoľko dní neskôr  apelovalo na to, aby sa vytvoril pozorovateľ  pre otázky non-proliferálnych autonómnych zbraní, ale zostal nesmelý v otázke medzinárodnej zmluvy.

Treba pochopiť , že krajiny  nesmerujú ani k zákazu ani k moratóriu. Treba pripomenúť, čo povedal Drew Cukor, americký dôstojník, že „ sme v kurze k vyzbrojeniu umelou inteligenciou“. Zostáva pochopiť ako tieto zbrane budú používané, či autonómny mód bude aktivovaný.

Etická stránka

Pre Gérarda de Boisboissela, spoluautora knihy “La Guerre robotisée”, ktorá vyšla v roku 2012, toto bude možné v určitých konfiguráciách typu “hrozba naplnená”. Napríklad, ak severná Kórea rozhodne o invázii do Južnej Kóree, kde sú inštalované slávni “ neúnavní” a ak dôstojník stráže v napadnutej krajine “odhadne čo s prostriedkami, ktoré má a nemôže donútiť nepriateľa k ústupu, môže aktivovať tento stroj do módu autonómnej sterľby”,  vyhlásil pre France 24.

“To by bolo zlé” odpovedal pre Les Échos” Raja Chatila, profesor a riaditeľ „Inštitútu inteligentných a robotických systémov“ /ISIR/ na Sorbonne. “Je veľmi ťažké predvídať  kolektívne postoje autonómnych strojov. Možno prísť k čomusi náhodnému a neovládateľnému. “ Chatila naznačuje tiež, že stroj nemôže rozumieť dobre kontextu ako človek, menovite kontextu kultúrnemu.

Iné riziko je “zriedenie zodpovednosti”. Amnesty International rozvíja podobný argument: “Dôstojníci alebo programátori  neschopní rozumne predvídať reakciu robota-zabijaka, ako je nepripustiť aby ich zodpovednosť bola oslabená…”, pýta sa Aymeric Elluin poverený obhajovacou rečou v časopise ONG. Poznamenáva o inej ťažkosti: “Vyšetrovania nelegálnych vrážd pripočítateľných k útokom ronov  sú zriedkavé a nikto alebo skoro nikto nie je donútený skladať  účty.”

Ako teda definovať tieto zbrane? Aká je reťaz velenia? Kto je zodpovedný? Tieto otázky sú kladené v súčasnosti v OSN, ak sa hovorí o zákaze, morátóriu alebo zmluve o zabíjaní? /: pozn. prekl.elegantne technokraticky je to non-proliferácia/.

Zdroj: Les Échos

Je treba zakázať roboty čo zabíjajú?https://svetvpreklade.sk/wp-content/uploads/2018/04/science-fiction-2523448_960_720-e1523669197436.jpghttps://svetvpreklade.sk/wp-content/uploads/2018/04/science-fiction-2523448_960_720-e1523669197436.jpgadminPolitikaVedaTento týždeň zasadá v Ženeve OSN, aby prejednalo autonómne zbrane. Štáty sa púšťajú do rozvinutých technológií vďaka umelej inteligencii, ale vyvolávajú znepokojenia. Čo sú to autonómne letálne zbrane – skratka SALA – alebo /hovorovo/ zabijácke roboty? OSN práve vo Švajčiarsku zasadá, aby dalo na to odpoveď. V hre je určiť definíciu, kedy je stroj...