Elon Musk a odborníci na umělou inteligenci poslali vážný dopis OSN. Bojí se o budoucnost lidstva
Elon Musk společně s vedoucími pracovníky v oblasti robotiky a umělé inteligence (AI) podepsal dopis vyzývající OSN k zákazu autonomních zbraňových systémů. Skupina zahrnující špičky oboru uvádí, že rozvoj takových technologií by mohl vést k “třetí válečné revoluci”, která by navázala na objev střelného prachu a jaderných zbraní.
„Jakmile se rozvinou (autonomní zbraně), umožní, aby se ozbrojený konflikt odehrával v měřítku větším, než kdykoli předtím v historii lidstva a v mnohem rychlejších časových úsecích, jaké si vůbec dokážeme představit. Mohou to být zbraně teroru, které budou chtít využít teroristé či despotové proti nevinnému obyvatelstvu,“ uvádí signatáři v dokumentu zaslaném OSN.
Dopis podepsali zakladatelé 116 technologických firem z 26 zemí celého světa. Jeho zveřejnění proběhlo těsně před mezinárodní konferencí o umělé inteligenci (IJCAI). Drtivá většina členských zemí OSN souhlasila s rozhovory na podobné téma již v roce 2015, ovšem ke skutečné diskuzi nakonec nedošlo. Odborníci tvrdí, že autonomní zbraně, které dokážou zabíjet bez lidského zásahu, jsou morálně špatné a jejich použití by mělo být pod tvrdou kontrolou podle úmluvy CCW z roku 1983. Ta má za cíl regulovat používání řady zbraní v čele s chemickými látkami.
Nebavíme se o hypotetickém scénáři, ale o velmi skutečné hrozbě, která vyžaduje okamžitou akci.
Signatáři dopisu upozorňují, že je potřeba jednat rychle s odvoláním na zvýšenou poptávku ze strany vzdušných sil po stále lepších a především v boji účinnějších dronech. „Nebavíme se o hypotetickém scénáři, ale o velmi skutečné hrozbě, která vyžaduje okamžitou akci,“ uvedl v tiskovém prohlášení Ryan Gariepy, který je zakladatelem společnosti Clearpath Robotics. Řada národů v čele s USA, Čínou, Ruskem a Izraelem vyvíjí autonomní zbraňové systémy, které zvládnou likvidovat protivníky bez nutnosti lidského operátora. Zástupci z řad zbraňových výrobců se hájí tím, že podobné technologie mohou snížit ztráty na bojišti a životech civilistů. Kritici ovšem kontrují chybějící regulací a poukazují na vývoj bombardovacích kampaní na Blízkém východě, kde autonomní systémy sehrály důležitou roli.
Přestože byl otevřený dopis OSN vypracován těmi nejlepšími mozky z oboru umělé inteligence a robotiky, je nepravděpodobné, že by jakákoli země zastavila či alespoň zpomalila vývoj pokročilých zbraní v obavě o ztrátu výhody. Americké ministerstvo obrany dokonce vyzvalo ke zvýšení investic do autonomní zbraňové technologie za účelem zvýšení bojeschopnosti USA vůči potencionálním hrozbám.
Právě tento druh mentality zbrojení je aktuálně noční můrou, která trápí experty na AI a robotiku z celého světa. Nejlépe to vysvětluje část petice, která o situaci hovoří jako o Pandořině skříňce, kterou po jejím otevření bude nesmírně těžké uzavřít.
