Válka algoritmů

Když dojde na využití umělé inteligence v armádě, okamžitě se probudí noční můra sci-fi, vzpurná a smrtící AI, která povstane proti lidstvu, aby ho zničila. Obavy armády a vůdců, že nás „nepřítel dohoní“, jsou bohužel stejně silné při vývoji válečných algoritmů.

Algoritmické válčenícož by podle mnohých mohlo zásadně změnit tvář bojiště, jak ho známe, hlavně proto, že by válčení bylo rychlejší, daleko před schopnostmi lidí rozhodovat se. americký generál Jack Shanahan (1), vedoucí amerického Joint Center for Artificial Intelligence, však zdůrazňuje, že před zavedením umělé inteligence do arzenálů musíme zajistit, aby tyto systémy byly stále pod lidskou kontrolou a nezačínaly války samy od sebe.

"Pokud má nepřítel stroje a algoritmy, prohrajeme tento konflikt"

Řidičské schopnosti algoritmické válčení je založena na využití pokroků výpočetní techniky ve třech hlavních oblastech. za prvé desetiletí exponenciálního růstu výpočetního výkonuto výrazně zlepšilo výkon strojového učení. Druhý rychlý růst zdrojů „Big data“, tedy obrovské, obvykle automatizované, spravované a průběžně vytvářené datové sady vhodné pro strojové učení. Třetí se týká rychlý rozvoj technologií cloud computingu, prostřednictvím kterého mohou počítače snadno přistupovat k datovým zdrojům a zpracovávat je k řešení problémů.

Válečný algoritmusjak je definováno odborníky, musí být nejprve vyjádřeno s počítačový kód. Za druhé, musí být výsledkem platformy schopné jak shromažďovat informace, tak činit rozhodnutí, činit rozhodnutí, která, alespoň teoreticky, nevyžadují lidský zásah. Za třetí, což se zdá samozřejmé, ale ne nutně, protože teprve v akci se ukáže, zda technika určená k něčemu jinému může být užitečná ve válce a naopak, musí být schopna fungovat v podmínkách. ozbrojený konflikt.

Analýza výše uvedených směrů a jejich interakce to ukazuje algoritmické válčení nejedná se o samostatnou technologii jako např. energetické zbraně nebo hypersonické střely. Jeho účinky jsou široké a postupně se stávají všudypřítomnými v nepřátelských akcích. Poprvé vojenských vozidel stávají se inteligentními, což potenciálně činí obranné síly, které je implementují, efektivnějšími a efektivnějšími. Takové inteligentní stroje mají jasná omezení, která je třeba dobře pochopit.

"" Shanahan řekl loni na podzim v rozhovoru s bývalým generálním ředitelem Google Ericem Schmidtem a viceprezidentem Google pro mezinárodní záležitosti Kentem Walkerem. "".

Návrh zprávy Rady národní bezpečnosti USA o AI se více než 50krát zmiňuje o Číně a zdůrazňuje oficiální cíl Číny stát se světovým lídrem v oblasti AI do roku 2030 (viz také: ).

Tato slova zazněla ve Washingtonu na speciální konferenci, která se konala poté, co zmíněné centrum Shanakhan představilo Kongresu svou předběžnou zprávu připravenou ve spolupráci s renomovanými odborníky v oblasti umělé inteligence, včetně ředitele výzkumu Microsoftu Erica Horwitze, generálního ředitele AWS Andyho Jassy a Andrew Moore, hlavní výzkumník Google Cloud. Závěrečná zpráva bude zveřejněna v říjnu 2020.

Zaměstnanci Googlu protestují

Před pár lety se do toho vložil Pentagon. algoritmické válčení a řada projektů souvisejících s umělou inteligencí v rámci projektu Maven, založených na spolupráci s technologickými společnostmi, včetně Googlu a startupů, jako je Clarifai. Bylo to hlavně o práci na umělá inteligencepro usnadnění identifikace objektů na.

Když se na jaře 2018 dozvědělo o účasti Google na projektu, tisíce zaměstnanců gigantu Mountain View podepsaly otevřený dopis protestující proti účasti společnosti na nepřátelských akcích. Po měsících pracovních nepokojů Google přijal vlastní sadu pravidel pro umělou inteligencijehož součástí je i zákaz účasti na akcích.

Google se také zavázal dokončit smlouvu Project Maven do konce roku 2019. Odchodem společnosti Google Project Maven neskončil. Koupil ho Palantir Petera Thiela. Letectvo a americká námořní pěchota plánují v rámci projektu Maven využít speciální bezpilotní letouny, jako je Global Hawk, z nichž každý má vizuálně monitorovat až 100 kilometrů čtverečních.

U příležitosti toho, co se děje kolem Projektu Maven, vyšlo najevo, že americká armáda nutně potřebuje svůj vlastní cloud. Toto řekl Shanahan během konference. To bylo evidentní, když musely být videozáznamy a aktualizace systému převezeny do vojenských zařízení roztroušených po poli. V budově unifikovaný cloud computing, která pomůže problémy tohoto typu řešit, v rámci projektu jednotné IT infrastruktury pro armádu Jedi, Microsoft, Amazon, Oracle a IBM. Google není kvůli jejich etickým kodexům.

Z prohlášení Shanahana je jasné, že velká revoluce umělé inteligence v armádě teprve začíná. A role jejího centra v ozbrojených silách USA roste. To je jasně vidět na odhadovaném rozpočtu JAIC. V roce 2019 to bylo necelých 90 milionů dolarů. V roce 2020 by to již mělo být 414 milionů dolarů, tedy asi 10 procent rozpočtu Pentagonu na AI ve výši 4 miliard dolarů.

Stroj rozpozná odevzdaného vojáka

Americké jednotky jsou již vybaveny systémy, jako je Phalanx (2), což je typ autonomní zbraně používané na lodích amerického námořnictva k útoku na přilétající rakety. Když je detekována střela, automaticky se zapne a zničí vše, co jí stojí v cestě. Podle Forda dokáže zaútočit čtyřmi nebo pěti střelami za půl vteřiny, aniž by musel procházet a dívat se na každý cíl.

Dalším příkladem je semi-autonomní Harpyje (3), komerční bezpilotní systém. Harpyje se používá k ničení nepřátelských radarů. Například v roce 2003, kdy USA zahájily úder na Irák, který měl vzdušné radarové záchytné systémy, izraelské drony pomohly je najít a zničit, aby Američané mohli bezpečně vletět do iráckého vzdušného prostoru.

3. Vypuštění dronu systému IAI Harpyje

Dalším známým příkladem autonomních zbraní je Korejský systém Samsung SGR-1, která se nachází v demilitarizované zóně mezi Severní a Jižní Koreou, určená k identifikaci a odpalování narušitelů na vzdálenost až čtyř kilometrů. Podle popisu systém „dokáže rozlišit mezi osobou, která se vzdává, a osobou, která se nevzdává“ na základě polohy rukou nebo rozpoznání polohy zbraně v rukou.

4. Ukázka detekce vzdávajícího se vojáka systémem Samsung SGR-1

Američané se bojí, že zůstanou pozadu

V současné době minimálně 30 zemí světa používá automatické zbraně s různou úrovní rozvoje a využití AI. Čína, Rusko a Spojené státy považují umělou inteligenci za nepostradatelný prvek při budování své budoucí pozice ve světě. „Kdo vyhraje závod AI, bude vládnout světu,“ řekl ruský prezident Vladimir Putin studentům v srpnu 2017. Prezident Čínské lidové republiky Si Ťin-pching nepronesl v médiích tak výrazná prohlášení, ale je hlavním hybatelem směrnice, která požaduje, aby se Čína do roku 2030 stala dominantní silou v oblasti umělé inteligence.

Ve Spojených státech narůstají obavy z „satelitního efektu“, který ukázal, že Spojené státy jsou extrémně špatně vybaveny na to, aby čelily novým výzvám, které představuje umělá inteligence. A to může být pro mír nebezpečné, už jen proto, že země ohrožená nadvládou může chtít eliminovat strategickou výhodu nepřítele jiným způsobem, tedy válkou.

Přestože původním účelem projektu Maven bylo pomoci najít islámské bojovníky ISIS, jeho význam pro další vývoj vojenských systémů umělé inteligence je obrovský. Elektronický boj založený na rekordérech, monitorech a senzorech (včetně mobilních, létajících) je spojen s velkým množstvím heterogenních datových toků, které lze efektivně využít pouze pomocí algoritmů AI.

Hybridní bojiště se stalo vojenská verze IoT, bohaté na důležité informace pro hodnocení taktických a strategických hrozeb a příležitostí. Schopnost spravovat tato data v reálném čase má velké výhody, ale neschopnost poučit se z těchto informací může být katastrofální. Schopnost rychle zpracovávat tok informací z různých platforem působících ve více oblastech poskytuje dvě hlavní vojenské výhody: rychlost i dosažitelnost. Umělá inteligence vám umožňuje analyzovat dynamické podmínky bojiště v reálném čase a udeřit rychle a optimálně a zároveň minimalizovat riziko pro vaše vlastní síly.

Toto nové bojiště je také všudypřítomné a. Umělá inteligence je jádrem takzvaných dronových rojů, kterým je v posledních letech věnována velká pozornost. S pomocí všudypřítomných senzorů umožňuje dronům nejen proplouvat nepřátelským terénem, ​​ale může případně umožnit vytvoření složitých formací různých typů bezpilotních vzdušných prostředků operujících v mnoha oblastech, s přídavnými zbraněmi, které umožňují sofistikovanou bojovou taktiku, okamžitě se přizpůsobující nepřítel. manévry k využití bojiště a hlášení měnících se podmínek.

Pokroky v zaměřování a navigaci za pomoci umělé inteligence také zlepšují vyhlídky na účinnost v široké řadě taktických a strategických obranných systémů, zejména protiraketové obrany, a to zlepšením metod detekce, sledování a identifikace cílů.

neustále zvyšuje sílu simulací a herních nástrojů používaných k výzkumu jaderných a konvenčních zbraní. Hromadné modelování a simulace budou zásadní pro vývoj komplexního vícedoménového systému cílových systémů pro bojové řízení a komplexní mise. AI také obohacuje interakce mezi více stranami (5). Umělá inteligence umožňuje hráčům přidávat a upravovat herní proměnné, aby prozkoumali, jak dynamické podmínky (zbraně, spojenecké zapojení, další jednotky atd.) mohou ovlivnit výkon a rozhodování.

Pro armádu je identifikace objektů přirozeným výchozím bodem umělé inteligence. Za prvé, je zapotřebí komplexní a rychlá analýza rostoucího počtu snímků a informací shromážděných ze satelitů a dronů, aby bylo možné najít objekty vojenského významu, jako jsou rakety, přesuny vojsk a další údaje související se zpravodajskými službami. Dnes bojiště pokrývá všechny krajiny – moře, zemi, vzduch, vesmír a kyberprostor – v celosvětovém měřítku.

Kyberprostorjako inherentně digitální doména se přirozeně hodí pro aplikace AI. Na útočné straně může umělá inteligence pomoci najít a zacílit jednotlivé síťové uzly nebo jednotlivé účty za účelem shromažďování, narušování nebo dezinformací. Kybernetické útoky na vnitřní infrastrukturu a velitelské sítě mohou být katastrofální. Pokud jde o obranu, umělá inteligence může pomoci odhalit takové průniky a najít destruktivní anomálie v civilních a vojenských operačních systémech.

Očekávaná a nebezpečná rychlost

Rychlé rozhodování a rychlé provedení vám však nemusí dobře posloužit. pro efektivní krizové řízení. Výhody umělé inteligence a autonomních systémů na bojišti možná nedají čas na diplomacii, která, jak víme z historie, byla často úspěšná jako prostředek prevence nebo zvládání krize. V praxi může být zpomalení, pauza a čas na vyjednávání klíčem k vítězství nebo alespoň odvrácení katastrofy, zvláště když jsou v sázce jaderné zbraně.

Rozhodnutí o válce a míru nelze ponechat prediktivní analýze. Existují zásadní rozdíly v tom, jak jsou data využívána pro vědecké, ekonomické, logistické a prediktivní účely. lidské chování.

Někdo může vnímat AI jako sílu, která oslabuje vzájemnou strategickou citlivost a zvyšuje tak riziko války. Náhodně nebo úmyslně poškozená data mohou vést systémy umělé inteligence k provedení nezamýšlených akcí, jako je chybná identifikace a zacílení na nesprávné cíle. Rychlost akce postulovaná v případě vývoje válečných algoritmů může znamenat předčasnou nebo dokonce zbytečnou eskalaci, která brání racionálnímu řízení krize. Na druhou stranu algoritmy také nebudou čekat a vysvětlovat, protože se od nich také očekává, že budou rychlé.

Znepokojující aspekt fungování algoritmů umělé inteligence také námi nedávno prezentované v MT. Ani odborníci přesně nevědí, jak AI vede k výsledkům, které vidíme ve výstupu.

V případě válečných algoritmů si nemůžeme dovolit takovou neznalost přírody a toho, jak je „myslí“. Nechceme se uprostřed noci probouzet do jaderných erupcí, protože „naše“ nebo „jejich“ umělá inteligence se rozhodla, že je čas hru konečně urovnat.