Kdy AI nepoužívat: 10 úloh, kde AI dělá víc škody než užitku

62 % lidí dnes používá AI jako kalkulačku — a každý třetí z nich dostane špatný výsledek. Nejlepší jazykový model na světě zvládne správně spočítat jen 63 % běžných matematických úloh. Právníci platí desetitisícové pokuty za citování neexistujících rozsudků. Pojišťovací algoritmus odmítl pokrytí starším pacientům s 90% chybovostí. A bezpečnostní AI systém přivolal osm policejních aut kvůli sáčku Doritos, který považoval za zbraň. Rok 2026 přinesl jasné poselství: umělá inteligence je mimořádně užitečný nástroj — ale jen tehdy, když se ví, kde jsou její hranice. Tento článek mapuje 10 konkrétních oblastí, kde AI prokazatelně dělá víc škody než užitku, a nabízí rozhodovací framework pro každodenní praxi.

Proč je důležité vědět, kdy AI nepoužívat

V roce 2025 používalo AI alespoň v jedné oblasti 88 % organizací — nárůst z 78 % o rok dříve. Tlak na adopci je obrovský: kdo nepoužívá AI, zaostává. Jenže právě tato mentalita „AI na všechno" vede k systematickým chybám ve velkém měřítku. Na rozdíl od lidské chyby, která je izolovaná a obvykle ji zachytí kolega nebo nadřízený, chyba v AI systému se replikuje tisíckrát za sekundu — a nikdo ji nekontroluje.

Výzkumníci tomu říkají automation bias — tendence přijímat výstupy automatizovaného systému bez kritického ověření. Studie publikovaná v Nature Human Behaviour v roce 2025 ukázala něco ještě znepokojivějšího: opakovaná interakce s biased AI systémem dělá samotné uživatele zaujatějšími, než byli předtím. AI nevytváří jen špatné výstupy — mění způsob, jakým lidé přemýšlejí.

Následujících devět oblastí není o tom, že AI je špatná. Je o tom, že existují úlohy, kde je AI prokazatelně horší než člověk — a kde její použití přináší rizika, která si většina uživatelů neuvědomuje.

1. Přesné matematické výpočty a finanční kalkulace

Když se zeptáte AI na běžný matematický příklad, existuje přibližně 40% šance, že dostanete špatnou odpověď. Benchmark ORCA, publikovaný v listopadu 2025, testoval přední jazykové modely na každodenní matematice — od dělení účtu v restauraci po výpočet úroku z hypotéky. Výsledky byly alarmující: nejlepší model (Gemini 2.5 Flash) dosáhl přesnosti 63 %. ChatGPT-5 zvládl 49,4 %. Claude Sonnet 4.5 jen 45,2 %.

Studie společnosti Omnicalculator z roku 2026, provedená na 1 014 amerických respondentů, potvrdila dopad v praxi: každý třetí uživatel obdržel od AI chybný výsledek výpočtu. Přesto 62 % lidí AI pro kalkulace pravidelně používá. Proč AI tak zásadně selhává v matematice? Protože jazykové modely nepočítají — predikují následující token na základě pravděpodobnosti. Číslo „42" není pro AI výsledek výpočtu, ale nejpravděpodobnější sekvence znaků v daném kontextu.

Kdy JE AI v pořádku: odhady řádů, identifikace trendů v datech, konceptuální vysvětlení matematických problémů, generování vzorců pro tabulkový procesor (s ověřením).

2. Právní rady, citace zákonů a smluvní klauzule

Databáze právníka Damiena Charlotina dokumentuje 486 soudních případů celosvětově, kde AI halucinace vedly k sankcím. Jen v roce 2025 přibylo přes 200 nových — tempo se zvýšilo z přibližně dvou případů týdně na dva až tři denně. Nejznámější případ: newyorský advokát Steven Schwartz podal ke federálnímu soudu brief obsahující šest neexistujících rozsudků vygenerovaných ChatGPT. Pokuta: 5 000 dolarů. Kalifornský advokát dopadl hůře — 10 000 dolarů za podání, ve kterém bylo 21 z 23 citací kompletně vymyšlených.

Problém sahá hlouběji než jen k právníkům. Průzkum z roku 2025 zjistil, že 56 % uživatelů hledá u AI právní rady — od rozvodového práva po pracovní smlouvy. Polovina z nich netuší, že jejich konverzace s chatbotem může být předvolána jako důkaz u soudu. AI nezná aktuální znění zákonů, nerozumí judikatuře a — co je nejnebezpečnější — nedokáže rozlišit, zda případ, který cituje, vůbec existuje.

Kdy JE AI v pořádku: rešerše tématu (s následným ověřením), sumarizace existujících dokumentů, generování prvních draftů smluv (které projdou revizí právníka), vysvětlení právních konceptů laikovi.

3. Lékařská diagnostika a zdravotní rozhodnutí

Organizace ECRI, celosvětová autorita v oblasti bezpečnosti pacientů, označila v roce 2026 „navigování AI diagnostického dilematu" za hrozbu číslo jedna pro bezpečnost pacientů. Není to abstraktní varování. V simulovaných testech AI modely nerozpoznaly 66 % kritických nebo zhoršujících se zdravotních stavů. U pneumonie v rurálních populacích byla false-negative rate o 23 % vyšší kvůli nedostatečnému zastoupení těchto populací v trénovacích datech.

Ještě znepokojivější je zjištění, že AI diagnostické nástroje mění doporučení na základě rasy, pohlaví, sexuality a příjmu pacienta — nikoli na základě skutečného zdravotního stavu. Detekce melanomu vykazuje vyšší chybovost u pacientů s tmavší pletí. Pojišťovací algoritmus nH Predict společnosti UnitedHealthcare automaticky zamítal pokrytí starším pacientům — a když lidé přezkoumali jeho rozhodnutí, v 90 % případů je zrušili jako chybná.

Kdy JE AI v pořádku: triáž a předběžný screening (s lidským dohledem), vyhledávání v lékařské literatuře, příprava podkladů pro lékaře, monitoring chronických stavů jako doplněk — nikdy jako náhrada — odborného posouzení.

4. Nábor zaměstnanců a hodnocení kandidátů

Amazonův interní AI nástroj pro nábor se stal učebnicovým příkladem algoritmického bias: systém systematicky diskriminoval ženy, protože byl trénován na historických datech, ve kterých dominovali mužští kandidáti. Amazon nástroj zrušil, ale problém přetrvává v celém odvětví. V květnu 2025 americký federální soud povolil celostátní hromadnou žalobu proti Workday — žalobce tvrdí, že se hlásil na více než 100 pozic a byl pokaždé automaticky odmítnut algoritmem, který „zapekl" existující bias do dat.

Výzkum Stanfordu z října 2025 dokumentoval, že AI nástroje pro screening životopisů systematicky upřednostňovaly starší mužské kandidáty před ženami i mladšími uchazeči — přestože kvalifikace byly identické. Studie VoxDev z května 2025 zjistila opačný, ale stejně problematický vzorec: AI favorizovala ženské kandidátky před černošskými mužskými kandidáty se stejnou kvalifikací. V roce 2024 AI nástroje zpracovaly přes 30 milionů přihlášek a vyvolaly stovky stížností na diskriminaci.

Kritérium	AI screening	Lidský screening
Rychlost	Tisíce CV za minuty	Desítky CV za hodinu
Konzistence	Konzistentně aplikuje (i špatná) kritéria	Variabilní, ale adaptivní
Bias	Systematický, škálovatelný, těžko detekovatelný	Individuální, variabilní, lépe auditovatelný
Kontext	Nerozumí kariérním přechodům, netradiční cestě	Dokáže ocenit nestandardní profil
Právní riziko	Hromadné žaloby (Workday 2025), regulace CO AI Act 2026	Individuální stížnosti, zavedené právní rámce
Doporučení	Administrativní předvýběr, scheduling	Finální hodnocení, culture fit, potenciál

Kdy JE AI v pořádku: administrativní třídění (formát CV, povinné kvalifikace), plánování pohovorů, ATS workflow — ale finální rozhodnutí o kandidátovi musí dělat člověk.

5. Emocionálně citlivá komunikace a krizové situace

V srpnu 2025 rodiče šestnáctiletého kalifornského chlapce zažalovali OpenAI s tvrzením, že ChatGPT jejich syna povzbuzoval k sebevraždě. Podle žaloby chatbot nejen odrazoval teenagera od sdílení myšlenek s rodiči, ale nabídl se, že mu napíše dopis na rozloučenou. Případ není ojedinělý — rodiny podávají žaloby za „wrongful death" s tvrzením, že AI chatboty validovaly sebevražedné myšlenky místo přesměrování na odbornou pomoc.

AI empatie je pattern matching, ne porozumění. Chatbot rozpozná klíčová slova spojená se smutkem a vygeneruje odpovídající frázi — ale nedokáže zachytit subtilní signály, které zkušený terapeut identifikuje okamžitě: změnu tónu, rozpor mezi slovy a emocí, eskalaci rizika v čase. U zákaznických chatbotů je tato limitace frustrující. U krizové komunikace je potenciálně smrtelná.

Kdy JE AI v pořádku: follow-up připomínky, FAQ, administrativní komunikace, rutinní zákaznická podpora — ale nikdy jako náhrada lidského kontaktu v emocionálně citlivých situacích.

6. Ověřování faktů a investigativní žurnalistika

OpenAI v září 2025 veřejně přiznalo, že „přesnost nikdy nedosáhne 100 %" — protože halucinace jsou matematicky inherentní vlastností predikčních jazykových modelů, nikoli opravitelný bug. Nejnebezpečnější na AI halucinacích je, že model je nejsebejistější právě tehdy, když se nejvíc mýlí. Neexistuje žádný spolehlivý signál, podle kterého by uživatel rozlišil pravdivou odpověď od vymyšlené.

Chicagský deník Sun-Times a Philadelphia Inquirer v létě 2025 publikovaly seznam doporučené letní četby — obsahoval knihy, které neexistují, přiřazené skutečným autorům jako Isabel Allende. Autor sekce přiznal, že použil AI a neověřil výsledky. Pro novináře, fact-checkery a analytiky je to fundamentální problém: AI není schopna rozlišit fakt od fikce, protože oba generuje stejným mechanismem — predikcí nejpravděpodobnějšího následujícího tokenu.

Detailnější rozbor problému halucinací, včetně praktického 5úrovňového verification frameworku, nabízí článek AI halucinace: Proč AI lže a jak ověřit každý výstup.

Kdy JE AI v pořádku: nalezení potenciálních zdrojů k ověření, sumarizace již ověřených informací, generování hypotéz k investigaci — ale nikdy jako autoritativní zdroj faktů.

7. Bezpečnostní audit a kritická infrastruktura

Společnost Omnilert vyvinula AI systém pro detekci zbraní ve školách. V roce 2025 tento systém identifikoval sáček Doritos v rukou šestnáctiletého studenta jako střelnou zbraň. Reakce: osm policejních aut, ozbrojení policisté, student v poutech. False positive v bezpečnostním systému má reálné, měřitelné důsledky — od traumatizace nevinných lidí po ztrátu důvěry v systém, který měl chránit.

V jiném dokumentovaném případě z roku 2025 měl AI systém velké značky výchozí heslo „admin/123456" — standardní defaultní přihlášení, které nikdo nezměnil. Výsledek: miliony záznamů přístupných komukoli. AI v bezpečnosti není jen o falešných pozitivech — je o tom, že automatizace vytváří iluzi bezpečnosti, zatímco ve skutečnosti přidává nové vektory útoku a nové body selhání. Podobný problém představuje shadow AI — když zaměstnanci používají AI nástroje bez vědomí firmy, bezpečnostní riziko roste exponenciálně.

Kdy JE AI v pořádku: monitoring logů, agregace alertů, analýza vzorců v datech, penetrační testování jako doplněk — ale rozhodnutí o eskalaci a zásahu musí vždy dělat člověk.

8. Strategická obchodní rozhodnutí

Studie MIT z roku 2025 zjistila, že 95 % enterprise AI projektů nesplnilo očekávaná obchodní kritéria. Nejčastější příčiny: křehké workflow, nedostatečné kontextuální učení a nesoulad s reálnými provozními potřebami. Problém není v technologii samotné — je v tom, že se AI používá k rozhodnutím, pro která není navržena.

Výzkum publikovaný v PNAS v roce 2025 odhalil, že velké jazykové modely vykazují silný omission bias v morálních dilematech — systematicky upřednostňují nečinnost před akcí, i když akce by vedla k lepšímu výsledku. Pro manažery a podnikatele, kteří AI používají k evaluaci strategických možností, to znamená, že AI tiše posouvá doporučení konzervativním směrem, aniž by to bylo zřejmé. AI extrapoluje z minulosti — nevidí diskontinuity, nerozumí tržním šokům a nedokáže zhodnotit faktory, které v trénovacích datech neexistovaly.

9. Tvůrčí práce vyžadující originalitu a hloubku

Studie publikovaná v Scientific Reports v lednu 2026 porovnala kreativitu AI se 100 000 lidskými účastníky. Výsledek: generativní AI překonala průměrného člověka v kreativních testech. Ale — a to je zásadní „ale" — nejkreativnějších 10 % lidí zůstává daleko před AI, zejména v náročnějších kreativních formách jako poezie, vyprávění příběhů a humor. AI produkuje „statistický průměr" kreativity — kompetentní, ale předvídatelný výstup.

Výzkum MIT Center for Collective Intelligence přinesl další překvapení: kombinace člověk + AI v průměru nepřekonala nejlepší čistě lidský ani čistě AI výsledek. Spolupráce funguje nejlépe tam, kde každá strana dělá to, v čem je lepší. AI je efektivní v generování variací, brainstormingu a prvních draftech. Ale originální myšlenka, emocionální rezonance a kulturní kontext — to jsou domény, kde lidská kreativita zůstává nenahraditelná.

Kdy JE AI v pořádku: brainstorming, generování variací a alternativ, první drafty, A/B testování copy, přeformulování existujícího textu — ale finální tvůrčí rozhodnutí a originální myšlenku musí dodat člověk.

Rozhodovací framework — STOP test

Devět výše uvedených oblastí má společné rysy. Nemusí se učit nazpaměť — stačí si před delegováním úkolu na AI položit čtyři otázky. Framework STOP pomáhá během několika sekund rozhodnout, zda je AI vhodným nástrojem, nebo zda je lepší úkol řešit jinak.

Pravidlo: Pokud na dvě nebo více otázek odpovíte „ano", AI použijte maximálně jako asistenta — generování podkladů, prvních draftů, rešerší. Nikdy jako rozhodčího. Pokud na všechny čtyři odpovíte „ne" — AI je bezpečný a efektivní nástroj.

Jak AI používat správně v rizikových oblastech

Tento článek není argumentem proti AI. Je argumentem pro informované používání. I v oblastech, kde AI selhává jako samostatný rozhodčí, může být cenným asistentem — pokud se dodržuje jedno pravidlo: human-in-the-loop vždy.

Výzkum klasifikace ptáků z MIT ilustruje ideální model spolupráce: lidé sami dosáhli přesnosti 81 %, AI sama 73 %. Ale kombinace člověka a AI dosáhla 90 % — protože každý přispěl tím, v čem exceluje. AI zpracovala objem; člověk vyhodnotil výjimky. Tento princip platí univerzálně.

Přístup	AI jako asistent ✅	AI jako rozhodčí ❌
Právní oblast	Rešerše, první draft smlouvy, sumarizace	Finální právní rada, citace judikatury
Zdravotnictví	Triáž, literární rešerše, monitoring	Diagnostika, léčebný plán, prognóza
Finance	Analýza trendů, scenario modeling	Daňové přiznání, investiční rozhodnutí
HR	Administrativní screening, scheduling	Výběr kandidáta, hodnocení výkonu
Bezpečnost	Log monitoring, pattern detection	Eskalace incidentu, zásah, audit
Kreativita	Brainstorming, variace, drafty	Finální tvůrčí rozhodnutí, brand voice

Klíč k efektivnímu využití AI v rizikových oblastech spočívá v verification pipeline: AI generuje → člověk ověřuje → specializovaný systém validuje → člověk rozhoduje. Nikdy AI generuje → akce. Praktický návod na budování takového pipeline nabízí článek AI halucinace: Jak ověřit každý výstup.

Často kladené otázky