AI ve válce: Kdo rozhoduje o limitech?

Sedmadvacátého února 2026 se stalo něco, co v historii amerického obranného průmyslu nemá obdobu. Prezident Spojených států nařídil federálním úřadům, aby okamžitě přestaly používat technologii jedné z předních amerických AI laboratoří — společnosti Anthropic. O několik hodin později oznámila konkurenční OpenAI, že podepsala dohodu s americkým ministerstvem obrany o nasazení své AI v utajovaných sítích.

Mezi těmito dvěma událostmi stála jediná věta ve smlouvě. Pentagon podle dostupných informací trval na formulaci, která by jeho AI dodavateli povolila „jakékoli zákonné použití". Anthropic tuhle formulaci odmítl — protože podle jeho výkladu otevírala dveře k nasazení modelu Claude pro plošné sledování občanů i pro autonomní zabíjení bez člověka v rozhodovací smyčce. OpenAI formulaci přijala.

Za tím sporem se skrývá otázka, která bude definovat příští dekádu: kdo vlastně rozhoduje o tom, kde jsou hranice nasazení umělé inteligence ve válce? Laboratoře, které modely staví? Armády, které je kupují? Vlády, parlamenty, nebo mezinárodní právo, jež zatím neexistuje? Tento článek mapuje mocenský zápas, který se odehrává právě teď — a jehož pravidla nastavuje hrstka aktérů za zavřenými dveřmi.

Spor, který rozdělil AI průmysl

Vyřazení Anthropicu z americké státní správy nebyl technický, ale hodnotový konflikt. Šlo o to, jestli si smí dodavatel AI vymínit, že jeho model nesmí být použit na některé účely — i když jsou formálně „zákonné". Pentagon řekl ne. A tím rozštěpil dvě nejsilnější laboratoře světa na dva odlišné přístupy.

Renegociace kontraktu v hodnotě až 200 milionů dolarů podle reportáží ztroskotala v únoru 2026 na jediné klauzuli. Pentagon prosazoval jazyk opravňující Claude k „jakémukoli zákonnému použití" — zastřešující formulace, která by v Anthropicově čtení dovolovala nasazení pro plošné domácí sledování a pro smrtící zásah v plně autonomních zbraních bez smysluplného lidského schválení.

Šéf Anthropicu Dario Amodei postoj firmy shrnul věcně: autonomní zbraňové systémy „mohou být klíčové pro naši národní obranu, ale dnešní špičkové AI systémy prostě nejsou dost spolehlivé na to, aby poháněly plně autonomní zbraně". Amodei zároveň deklaroval, že Claude nebude použit ke sledování amerických občanů bez soudního dohledu ani k autonomnímu smrtícímu zaměřování bez člověka v rozhodovací smyčce.

OpenAI zvolila opačnou cestu. Veřejně uvedla, že její dohoda zachovává dva zákazy — proti plošnému domácímu sledování a proti smrtící autonomii bez lidského schválení. Jenže je zarámovala jako závazek dodržovat platné právo, nikoli jako smluvně vymahatelné zákazy. Právě tenhle rozdíl vysvětluje, proč OpenAI dohodu uzavřít mohla, zatímco Anthropic ne. Nešlo o to, kdo je „hodný" a kdo „zlý", ale o to, kam každá firma položila svou červenou linii.

Pro politiku velkých AI laboratoří je to zlomový precedens. Ukázalo se, že etické mantinely, které si firma sama nastaví, mají v konfrontaci se státní zakázkou omezenou životnost. Kdo je nedrží smluvně, drží je jen do první renegociace.

Autonomní zbraň a tři úrovně „člověka ve smyčce"

Autonomní zbraňový systém je podle americké směrnice DoD 3000.09 zbraň, která po aktivaci dokáže vybrat a zasáhnout cíl bez dalšího zásahu lidského operátora. Právě míra, do jaké je do tohoto řetězce zapojen člověk, je jádrem celé debaty o limitech.

Odborná diskuse rozlišuje tři režimy. Ne jako akademickou hru, ale proto, že mezi nimi leží hranice mezi nástrojem a autonomním zabijákem. Nejde o to, jestli je v systému AI, ale kde přesně sedí lidské rozhodnutí zmáčknout spoušť.

Klíčový háček je, že směrnice DoD 3000.09 nevyžaduje manuální „ovládání" zbraně. Požaduje, aby systémy umožňovaly velitelům a operátorům uplatnit „odpovídající úroveň lidského úsudku" nad použitím síly. To zní rozumně — dokud si člověk neuvědomí, jak pružné to slovní spojení je. „Odpovídající" definuje ten, kdo zbraň nasazuje.

Matematický problém dohledu při rojích

Lidský dohled dobře funguje u jedné zbraně. U tisíce současně řízených systémů se láme. Když velitel orchestruje roj dronů, „člověk ve smyčce" se stává spíš rituálem než reálnou kontrolou — jeden operátor nedokáže smysluplně posoudit stovky zásahů za minutu.

Přesně tady narůstá znepokojení v americkém Kongresu. Objevují se obavy, že základní politika Pentagonu pro AI zbraně — směrnice 3000.09 — není na takový rozsah nasazení připravená. Mandát „odpovídající úrovně lidského úsudku" dává smysl u jednotlivého systému. U orchestrace tisíců autonomních jednotek se lidský dohled stává matematickou nemožností. Člověk se z rozhodovatele mění na razítko.

Tenhle problém spolehlivosti není teoretický. Špičkové AI systémy stále dělají chyby, halucinují a selhávají nepředvídatelně v okrajových situacích — což je přesně důvod, proč autonomní AI agenti tak často selhávají i v neškodném firemním prostředí. Rozdíl je v ceně chyby. Špatně zaúčtovaná faktura se opraví. Špatně zaměřený cíl ne.

Sázka Pentagonu na autonomní válčení se přitom podle odhadů blíží 54 miliardám dolarů a předseda Sboru náčelníků štábů označil autonomní zbraně za „klíčovou součást" budoucího amerického válčení. Směr je jasný. Otevřená zůstává jen otázka mantinelů.

Kdo skutečně rozhoduje o limitech

Neexistuje jeden vypínač. O hranicích AI ve válce rozhoduje vrstva aktérů, z nichž každý má jinou páku a jiný slepý úhel. Pochopit, kdo drží kterou brzdu, je předpoklad k jakékoli smysluplné debatě o regulaci.

Ta tabulka odhaluje nepříjemnou pravdu. Aktér s nejsilnějšími etickými mantinely — laboratoř — má nejslabší páku. Může říct ne, ale stát si najde jiného dodavatele, jak ostatně ukázala celá kauza. A aktér s nejsilnějším mandátem chránit hodnoty — mezinárodní právo — je v praxi nejméně vymahatelný.

Mezinárodní vakuum a nemožnost verifikace

Zatímco laboratoře a Pentagon vyjednávají o klauzulích, mezinárodní právo mlčí. Neexistuje jediná závazná smlouva, která by autonomní zbraně zakazovala nebo regulovala — přestože se o to OSN pokouší roky a přestože pro regulaci hlasovala drtivá většina států.

Podporu rezoluci Valného shromáždění OSN k autonomním zbraním vyjádřilo přibližně 156 států. Generální tajemník OSN António Guterres a Mezinárodní výbor Červeného kříže opakovaně vyzvali k uzavření právně závazného nástroje do roku 2026. Skupina vládních expertů měla připravit prvky takového instrumentu pro revizní konferenci Úmluvy o konvenčních zbraních (CCW) právě letos.

Proč to tedy nikam nevede? Kvůli pravidlu konsenzu. Jednání v rámci CCW soustavně blokuje hrstka silně militarizovaných států — mezi nimi podle dostupných informací Rusko, USA, Izrael, Indie, Austrálie a Jižní Korea. Stačí jeden hlas proti a formální vyjednávání o závazné smlouvě se nepohne. Většina 156 států nemá jak menšinu přehlasovat.

Realita bojiště přitom předběhla papír. Na Ukrajině se dron stal běžnou zbraní a autonomní prvky do něj pronikají překvapivě rychle — od navádění na cíl po odolnost vůči rušení signálu. Už v roce 2023 se objevila tvrzení, že jsou nasazovány drony schopné zasáhnout cíl bez lidského dohledu. Zbraně, o jejichž zákonnosti diplomaté teprve diskutují, jsou tak fakticky ve výzbroji.

Etické mantinely a co to znamená pro Evropu a Česko

Evropa má nejpřísnější regulaci AI na světě — a na vojenskou AI se skoro nevztahuje. To je nepohodlný detail, který v diskusích často zapadne. EU AI Act s plnou účinností od 2. srpna 2026 z působnosti explicitně vyjímá systémy používané výhradně pro vojenské, obranné a národně-bezpečnostní účely.

Jinými slovy: přísná evropská pravidla pro vysoce rizikovou AI, známá z debaty o českém právu a regulaci AI, se na autonomní zbraně nevztahují. Ochrana lidského dohledu, kterou EU vyžaduje u náboru nebo zdravotnictví, u smrtící síly chybí. Vojenskou AI v Evropě neřeší civilní regulátor, ale národní vlády a aliance jako NATO — a tam je transparentnost výrazně nižší.

Pro Česko to není abstraktní. České zbrojní a dronové firmy jsou součástí dodavatelských řetězců NATO a autonomní funkce se do jejich produktů dostávají stejným tempem jako všude jinde. Otázka „kdo definuje odpovídající lidský úsudek" se tak dřív nebo později přesune i do českých projektových zadání. A stejně jako u kybernetické bezpečnosti platí, že kdo si nenastaví pravidla sám, dostane je od někoho jiného.

Jak by měl vypadat minimální etický mantinel, pokud stát nebo firma s vojenskou AI pracuje? Debata o etice umělé inteligence se sbíhá do několika opakujících se červených linií.

Žádná z těchto linií není technicky nemožná. Všechny jsou ale nepohodlné pro toho, kdo chce operační převahu za každou cenu. A právě proto se o nich rozhoduje spíš v zasedačkách a smluvních klauzulích než na veřejnosti.