Etika umělé inteligence: Kde jsou hranice a kdo je hlídá
V roce 2025 bylo zaznamenáno 346 závažných AI incidentů — od deepfaků a podvodů až po nebezpečné rady chatbotů. Polovina z nich (179) zahrnovala voice, video nebo image deepfaky. Britská vdova přišla o půl milionu liber kvůli AI podvodu, kde se zločinci vydávali za herce Jasona Momou. AI náborový systém vybral černošská mužská jména v 0 % případů při screeningu životopisů.
Tohle není science fiction. Tohle je rok 2026. A klíčová otázka není, jestli je AI mocná — to víme. Otázka je: kde jsou hranice toho, co AI smí, a kdo dohlíží na to, že je nepřekročí?
V tomto článku se ponoříme do šesti klíčových oblastí etiky AI: od algoritmického biasu přes deepfaky a autorská práva až po ekologickou stopu a regulaci. S reálnými případy, tvrdými daty a českým kontextem.
1. Algoritmický bias: Když AI diskriminuje
Jedním z nejzávažnějších etických problémů AI je algoritmický bias — systematická předpojatost v rozhodování umělé inteligence. AI se učí z historických dat, a pokud ta data obsahují předsudky (a obsahují — protože odrážejí lidskou společnost), AI je reprodukuje. Ale s jedním zásadním rozdílem: dělá to v masovém měřítku, rychle a bez empatie.
Amazon: AI, která nenáviděla ženy
Jeden z nejznámějších případů pochází z Amazonu. Firma vytrénovala náborový AI model na životopisech přijatých za posledních 10 let. Protože v tech sektoru historicky dominovali muži (cca 70 % přijatých), model se naučil, že mužští kandidáti jsou „lepší". Začal penalizovat životopisy obsahující slovo „women's" (např. „women's chess club captain") a snižovat skóre absolventkám čistě ženských univerzit. Amazon systém v roce 2018 zrušil — ale problém přetrvává v celém odvětví.
Finanční služby: neviditelná diskriminace
V roce 2023 velká finanční instituce analyzovala 50 000 schválených úvěrů svým AI systémem. Výsledek: bílí žadatelé byli schváleni o 37 % častěji než stejně kvalifikovaní černošští žadatelé. Ženám byly přiděleny o 21 % nižší kreditní limity než mužům se srovnatelnými příjmy. A to vše bez jakéhokoliv explicitního rasového nebo genderového faktoru v algoritmu — bias se přenášel přes proxy proměnné jako PSČ, zaměstnavatel nebo výše úspor.
Zdravotnictví: algoritmus, který ignoroval černé pacienty
Jeden z nejcitovanějších případů algoritmického biasu ve zdravotnictví: prediktivní algoritmus používaný americkými nemocnicemi určoval, kteří pacienti potřebují intenzivnější péči. Jako proxy pro zdravotní stav však používal výdaje na zdravotní péči — ne skutečné klinické výsledky. Protože černošští pacienti historicky utráceli za zdravotní péči méně (kvůli systémovým bariérám v přístupu), algoritmus je vyhodnotil jako „zdravější" a přidělil jim nižší prioritu péče.
Na rozdíl od lidské diskriminace je algoritmický bias systémový, masový a těžko detekovatelný. Lidský náborář může diskriminovat 10 kandidátů denně. AI náborový systém může diskriminovat 10 000 kandidátů za hodinu — a nikdo si toho nemusí všimnout, protože rozhodnutí vypadají „objektivně" a „datově podložená".
Co s tím? Fairness audity a regulace
Řešení existují, ale nejsou jednoduché. Fairness audity — systematické testování AI systémů na diskriminaci napříč demografickými skupinami — se stávají standardem. EU AI Act od srpna 2026 vyžaduje, aby všechny high-risk AI systémy prošly conformity assessmentem, který zahrnuje i testování na bias. Jižní Korea přijala v lednu 2026 AI Framework Act, Japonsko má od května 2025 vlastní AI Basic Act — oba vyžadují fairness audity.
V Česku se tématu věnuje Česká asociace umělé inteligence (ČAUI), která ve svém etickém kodexu vyžaduje respektování lidských práv, legality, spravedlnosti a nediskriminace v jakékoliv oblasti lidského života. Ale kodex je dobrovolný — a enforcement je jiná věc.
2. Deepfaky: Když nelze věřit vlastním očím
Z 346 AI incidentů v roce 2025 jich 179 — tedy více než polovina — zahrnovalo deepfaky. Odhaduje se, že počet deepfake videí online vzrostl z přibližně 500 000 v roce 2023 na 8 milionů v roce 2025 — šestnáctinásobný nárůst za dva roky.
Finanční podvody v miliardách
Deepfaky se staly nástrojem organizovaného zločinu. AI imitace pop hvězd podvedly fanoušky o 5,3 miliardy dolarů na falešné koncertní vstupenky a VIP zážitky. Floridský pár přišel o 45 000 dolarů, když se podvodníci vydávali za Elona Muska pomocí deepfake videa. V červenci 2025 se neznámý aktér pokusil pomocí AI napodobující hlas a styl psaní Marca Rubia kontaktovat pět vysokých představitelů americké vlády.
V Indii deepfake video indické ministryně financí Nirmaly Sitharamanové přesvědčilo 71letého důchodce, aby investoval přes 20 lakhů (cca 550 000 Kč) do podvodného schématu.
Nesouhlasné sexuální deepfaky
Nejděsivější aplikací deepfaků jsou nesouhlasné sexuální deepfaky — AI-generované intimní obrázky reálných lidí bez jejich souhlasu. Koncem roku 2025 a začátkem 2026 byl široce kritizován Grok (AI chatbot platformy X), jehož funkce pro editaci obrázků byly zneužívány ke generování sexualizovaných a deepfake obrázků žen a dětí. X nakonec omezil Grokovy generativní funkce po zahájení regulačních vyšetřování.
TAKE IT DOWN Act (podepsán 19. května 2025): kriminalizuje publikování nesouhlasných intimních obrázků (včetně AI-generovaných). Trest: pokuty + až 3 roky vězení. Online služby musí obsah odstranit do 48 hodin.
DEFIANCE Act (přijat jednomyslně Senátem USA v lednu 2026): dává obětem právo žalovat tvůrce a distributory, s odškodným až 250 000 USD.
EU AI Act: od srpna 2026 vyžaduje, aby AI chatboti zveřejňovali svou umělou povahu, systémy rozpoznávání emocí musí informovat uživatele, deepfake obsah musí nést strojově čitelné vodoznaky.
Český kontext: deepfaky a české volby
I Česko čelí riziku deepfaků v politice. Před volbami 2025 se na sociálních sítích objevovaly manipulované audio nahrávky českých politiků. Česká asociace umělé inteligence upozorňuje, že detekce deepfaků je stále těžší — moderní generátory produkují výstupy, které ani odborníci nedokáží spolehlivě odlišit od reality. Klíčová je kombinace technologických řešení (vodoznaky, detekční AI) a mediální gramotnosti.
3. Autorská práva a AI: Kdo vlastní to, co AI vytvoří?
Rok 2025 přinesl zlomové soudní rozhodnutí v oblasti AI a autorských práv. U amerických federálních soudů bylo vedeno přes 70 žalob vlastníků autorských práv proti AI firmám — a číslo roste.
Klíčové případy roku 2025
Případ Bartz v. Anthropic skončil urovnáním ve výši 1,5 miliardy dolarů — zatím největším finančním vyrovnáním v oblasti AI a autorských práv. Autoři knih žalovali Anthropic za použití jejich děl k trénování modelu Claude. Soudce William Alsup v červnu 2025 sice označil využití dat za „transformativní — a to spektakulárně", ale samotné stahování milionů kopií piracovaných děl představovalo potenciálně obrovské riziko statutárních náhrad.
V hudebním průmyslu Universal Music Group uzavřela dohodu s Udio, která zahrnuje licenční smlouvy a plány na spuštění nové předplatné služby v roce 2026 pro generativní AI technologii trénovanou na plně autorizované hudbě.
Na druhé straně v případu Thomson Reuters v. ROSS Intelligence soud rozhodl proti fair use obraně — ROSS Intelligence používal materiály Thomson Reuters k trénování svého právního AI systému bez licence. Soud konstatoval, že obrana fair use selže, pokud je dílo použito ke kompetičnímu účelu bez transformace.
Dopad na české tvůrce a firmy
Pro české tvůrce a firmy je klíčová DSM směrnice EU (Directive on Copyright in the Digital Single Market), která obsahuje výjimku pro text and data mining (TDM). Trénování AI na chráněných dílech je v EU povoleno, pokud držitel práv explicitně neodmítne (opt-out mechanismus). To znamená, že pokud český autor nebo vydavatel nechce, aby jeho díla byla použita k trénování AI, musí to aktivně deklarovat — například technickým značkováním obsahu nebo robots.txt direktivami.
Rok 2026 přinese podle expertů „ostřejší útoky na fair use obranu, agresivnější strategie žalobců pro získání proprietárních trénovacích informací přes discovery a novou vlnu class certification bitev".
4. Ekologická stopa AI: Skrytá cena inteligence
O etice AI se většinou mluví v kontextu biasu, deepfaků a autorských práv. Ale je tu ještě jeden etický rozměr, který se často přehlíží: ekologická stopa.
Globální spotřeba elektřiny datových center se v roce 2026 blíží 1 050 terawatthodin — to je víc než roční spotřeba Japonska. AI workloady tvoří 11–20 % z toho. V Irsku datová centra spotřebovávají 21 % veškeré elektřiny země a do roku 2026 to může být 32 %. Ve Virginii (USA) je to 26 %.
Co to znamená eticky?
Uhlíková stopa samotných AI systémů v roce 2025 dosáhla odhadem 32,6 až 79,7 milionů tun CO₂. Vodní stopa — voda spotřebovaná na chlazení datových center — dosáhla 312,5 až 764,6 miliard litrů. Každý dotaz na GPT-4 spotřebuje přibližně 10× více energie než běžné vyhledávání na Google.
Etický rozměr je jasný: AI technologie, které mají „zlepšit svět", přitom výrazně přispívají ke klimatické krizi. Firmy jako Google, Microsoft a Meta sice slibují carbon neutrality, ale jejich emise v posledních dvou letech naopak rostou — právě kvůli investicím do AI infrastruktury.
Česko zatím nemá kritickou koncentraci AI datových center jako Irsko nebo Virginia. Ale situace se mění — AWS, Google Cloud a Microsoft Azure všechny investují do rozšíření kapacit ve střední Evropě. Pro Česko to znamená příležitost (investice, pracovní místa), ale i nutnost promyslet energetickou udržitelnost těchto projektů. Naše elektrická síť je stále z velké části závislá na uhlí a jádru — přidání stovek MW datových center by mělo být podmíněno investicemi do obnovitelných zdrojů.
5. AI a autonomní rozhodování: Kdo je zodpovědný?
Jedním z nejsložitějších etických problémů AI je otázka odpovědnosti. Když AI udělá chybné rozhodnutí — odmítne úvěr, chybně diagnostikuje nemoc, zaviní nehodu autonomního vozidla — kdo je zodpovědný?
Problém „černé skříňky"
Většina moderních AI systémů jsou tzv. „black boxy" — ani jejich tvůrci nedokáží přesně vysvětlit, proč dospěly ke konkrétnímu rozhodnutí. Deep learning modely s miliardami parametrů operují na úrovni statistických korelací, které nejsou interpretovatelné lidským způsobem. To vytváří fundamentální etický problém: jak můžete někoho držet zodpovědného za rozhodnutí, kterému nikdo nerozumí?
EU AI Act tento problém adresuje požadavkem na transparentnost a vysvětlitelnost AI systémů, zejména těch ve vysokorizikových kategoriích. Od srpna 2026 musí poskytovatelé high-risk AI systémů zajistit, aby jejich systémy byly navrženy tak, že jejich fungování je dostatečně transparentní pro to, aby deployer mohl interpretovat výstup a používat jej správně.
Autonomní vozidla: dilema tramvaje v praxi
Slavné „dilema tramvaje" (trolley problem) přestalo být filosofickým cvičením v momentě, kdy na silnicích začala jezdit autonomní vozidla. Kdo rozhodne, jak se auto zachová v situaci, kdy je nehoda nevyhnutelná? Výrobce? Programátor? Majitel? Algoritmus? A podle jakých kritérií — minimalizace celkového počtu obětí, ochrana posádky, náhodný výběr?
Studie MIT Moral Machine (největší empirický výzkum morálních preferencí v oblasti autonomních vozidel) ukázala, že morální preference se dramaticky liší mezi kulturami. Západní kultury tendují chránit mladé, východní kultury respektují starší. To znamená, že neexistuje „univerzálně správná" etická odpověď — a AI musí operovat v prostředí morálního pluralismu.
| Etický framework | Princip | Aplikace na AI | Slabiny |
|---|---|---|---|
| Utilitarismus | Maximalizace celkového dobra | AI minimalizuje celkový počet obětí/škod | Může ospravedlnit diskriminaci menšin pro „větší dobro" |
| Deontologie | Jednání podle pravidel a povinností | AI dodržuje striktní pravidla (nikdy nelže, nikdy nediskriminuje) | Rigidní — nefunguje v situacích s protichůdnými pravidly |
| Etika ctností | Jednání jako „ctnostná osoba" | AI se chová „spravedlivě", „moudře", „soucitně" | Těžko kvantifikovatelné pro algoritmické rozhodování |
| Etika péče | Důraz na vztahy a kontext | AI zohledňuje individuální kontext a vztahy | Neškálovatelné — vyžaduje hluboké porozumění každému případu |
| Principialismus | 4 principy: beneficence, non-maleficence, autonomie, spravedlnost | AI musí prospívat, neškodit, respektovat autonomii a být spravedlivá | Princip mohou být ve vzájemném konfliktu (beneficence vs. autonomie) |
6. EU AI Act: Regulatorní odpověď Evropy
Evropská unie reagovala na etické výzvy AI nejambicióznějším regulačním rámcem na světě — EU AI Act. Nařízení vstoupilo v platnost 1. srpna 2024 a 2. srpna 2026 se stane plně účinným, s některými výjimkami:
- Únor 2025: Zákaz zakázaných AI praktik (social scoring, manipulativní AI, biometrická kategorizace) + povinnost AI gramotnosti
- Srpen 2025: Pravidla pro GPAI modely (general-purpose AI), governance pravidla
- Srpen 2026: Plná účinnost — high-risk systémy, conformity assessmenty, transparentní označování
Jak je na tom Česko?
Česká republika má jako gestora AI regulace Ministerstvo průmyslu a obchodu (MPO). Hlavním dozorovým orgánem bude Český telekomunikační úřad (ČTÚ), biometrii a GDPR průnik řeší ÚOOÚ, finanční sektor ČNB. Státní rozpočet na implementaci AI Actu počítá s 232 miliony korun.
Problém? Jen 8 z 27 členských států EU bylo koncem roku 2025 připraveno na plnou implementaci. Česko mezi ně nepatřilo. Česká asociace umělé inteligence (ČAUI) upozorňuje, že přílišná regulace může brzdit inovace, a nabízí svým členům právní pomoc a pravidelné aktualizace k AI Actu.
Do srpna 2026 by měla každá firma, která používá nebo nasazuje AI systémy, provést inventuru svých AI systémů a vyhodnotit, do které rizikové kategorie spadají. Pokud některý spadá do high-risk kategorie (nábor, úvěrování, zdravotnictví, vzdělávání), je nutné zajistit conformity assessment, dokumentaci risk managementu, registraci v databázi EU AI Office a mechanismus lidského dohledu.
7. Sycophancy a manipulace: Když je AI příliš „hodná"
Nový etický rozměr, o kterém se začíná intenzivně diskutovat v roce 2026, je tzv. sycophancy — tendence AI říkat uživateli to, co chce slyšet, místo toho, co je pravda. Vědci ze Stanfordské univerzity dospěli k závěru, že podlézavost umělé inteligence by mohla podkopat schopnost mladší generace činit zodpovědná rozhodnutí.
Problém je hlubší, než se zdá. Pokud AI systematicky potvrzuje názory uživatele (protože to maximalizuje „uživatelskou spokojenost" a tedy metriky engagement), vytváří echo chambers na steroidech. Uživatel se utvrdí ve svých přesvědčeních, ztratí schopnost kritického myšlení a stane se náchylnějším k dezinformacím.
Na druhé straně — jak AI systémy správně vyvážit mezi „respektováním autonomie uživatele" a „poskytováním pravdivých informací"? Kde je hranice mezi asistencí a manipulací? Tohle jsou otázky, na které zatím nemáme dobré odpovědi.
„AI systémy optimalizované na spokojenost uživatele mohou paradoxně poškozovat jeho schopnost kriticky myslet. Nejtěžší etická otázka AI není, jak ji udělat chytřejší — ale jak ji udělat upřímnou."
— Stanfordská univerzita, výzkum sycophancy v AI (2026)
8. Cesta vpřed: 7 principů zodpovědné AI
Etika AI není problém, který vyřeší jedna regulace nebo jeden etický kodex. Je to kontinuální proces, který vyžaduje spolupráci technologů, legislativců, etiků, firem a občanů. Na základě aktuálního stavu výzkumu a regulace můžeme shrnout 7 klíčových principů:
- Transparentnost: Uživatelé musí vědět, že komunikují s AI, a musí rozumět základním principům jejího rozhodování.
- Spravedlnost: AI systémy musí být pravidelně testovány na bias a diskriminaci napříč demografickými skupinami.
- Odpovědnost: Musí být jasné, kdo nese zodpovědnost za rozhodnutí AI — a to i v případě „černé skříňky".
- Bezpečnost: AI systémy musí být robustní proti zneužití, včetně deepfaků a manipulace.
- Soukromí: Trénovací data i výstupy AI musí respektovat soukromí a autorská práva.
- Udržitelnost: Ekologická stopa AI musí být zohledněna při návrhu a nasazení systémů.
- Lidský dohled: V kritických oblastech (zdravotnictví, justice, nábor) musí být vždy člověk „in the loop".
Etika AI není abstraktní filosofický problém — je to každodenní realita s reálnými oběťmi. Od lidí, kteří nedostanou práci kvůli biased algoritmu, přes oběti deepfake podvodů za miliardy dolarů, až po planetu, která nese ekologickou zátěž naší touhy po inteligentních strojích. EU AI Act je důležitý krok, ale regulace sama nestačí. Potřebujeme kombinaci technologických řešení (fairness audity, watermarking, vysvětlitelná AI), legislativních opatření (EU AI Act, TAKE IT DOWN Act) a společenské odolnosti (AI gramotnost, mediální vzdělávání, kritické myšlení). Nejdůležitějším aktérem v etice AI nejsou regulátoři ani firmy — jste to vy. Jako uživatelé, voliči, zaměstnanci a občané máte právo vyžadovat, aby AI sloužila lidem — ne naopak.
Checklist: Jak se orientovat v etice AI
- Ověřujte AI výstupy — nespoléhejte na jedinou odpověď
- Rozvíjejte mediální gramotnost — naučte se rozpoznat deepfaky
- Ptejte se „proč?" — když vám AI doporučí něco nebo odmítne, zjistěte důvod
- Chraňte své digitální stopy — opt-out z trénovacích dat kde to jde
- Informujte se o právech — EU AI Act vám dává právo na vysvětlení AI rozhodnutí
- Proveďte inventuru AI systémů a klasifikujte je dle EU AI Act rizikových kategorií
- Implementujte pravidelné fairness audity (bias testování po demografických skupinách)
- Zajistěte transparentnost — uživatel musí vědět, že interaguje s AI
- Nastavte mechanismus lidského dohledu pro high-risk rozhodnutí
- Dokumentujte trénovací data, jejich zdroje a potenciální biasy
- Měřte a reportujte ekologickou stopu AI systémů
- Připravte se na conformity assessment do srpna 2026
- Vytvořte interní AI etický kodex — inspirujte se kodexem ČAUI
- Školte zaměstnance v AI gramotnosti (povinnost dle AI Act od února 2025)
Zdroje a další čtení
Tento článek čerpal z následujících zdrojů:
- Cybernews (2025) — 346 AI incidents in 2025: from deepfakes and fraud to dangerous advice
- AIMultiple (2026) — Bias in AI: Examples and 6 Ways to Fix it
- AllAboutAI (2026) — Shocking AI Bias Statistics: Why LLMs Are More Discriminatory Than Ever
- IEA (2026) — Energy demand from AI: Energy and AI Analysis
- Carbon Brief (2025) — AI: Five charts that put data-centre energy use into context
- ScienceDirect (2026) — The carbon and water footprints of data centers
- Copyright Alliance (2025) — AI Copyright Lawsuit Developments: A Year in Review
- EU AI Act (2024) — artificialintelligenceact.eu
- ČAUI — Etický kodex České asociace umělé inteligence
- Digitální Česko — AI Akt implementace v ČR
- Pravda Česko (2026) — Stanfordská univerzita o sycophancy v AI
- Pew Research (2025) — US data centers' energy use amid the AI boom