AI halucinace: Proč AI lže a jak ověřit každý výstup

OpenAI v roce 2025 matematicky dokázalo, že halucinace AI jsou nevyhnutelné. Nejsou to chyby, které se opraví další verzí modelu — jsou to přímý důsledek toho, jak predikční jazykové modely fungují. Nejlepší modely v roce 2026 dosahují chybovosti 0,7 % na jednoduchých úlohách, ale na komplexních otázkách halucinují ve 3–18 % odpovědí. A nejnebezpečnější na tom je, že AI je nejsebejistější právě tehdy, když se nejvíc mýlí. V reálném světě to už stálo právníky statisíce dolarů na pokutách, výzkumníky kariéru a firmy důvěru zákazníků. Tento článek vysvětluje, proč k halucinacím dochází, jak často, a hlavně — jak vybudovat systém, který je odchytí dřív, než způsobí škodu.

Co jsou AI halucinace (a proč jim říkáme „lhaní")

AI halucinace nastává, když model vygeneruje informaci, která zní sebejistě a věrohodně, ale je fakticky chybná nebo zcela vymyšlená. Termín „halucinace" převzala AI komunita z psychiatrie — stejně jako člověk s halucinací vnímá něco, co neexistuje, AI „vidí" fakta, která nikdy nebyly součástí jejích tréninkových dat. Říkat, že AI „lže", je technicky nepřesné — lhaní vyžaduje záměr klamat. AI nemá záměr. Ale pro praktické účely je to užitečný mentální model: výstup vypadá jako pravda, není to pravda, a AI to neví.

Halucinace se dělí do tří kategorií. Fabrication (fabrikace) — model si vymyslí kompletní fakt, citaci nebo událost, která nikdy neexistovala. Typický příklad: vymyšlené judikáty v právních podáních. Confabulation (konfabulace) — model smíchá reálné informace z různých zdrojů do nové, nesprávné kombinace. Přiřadí citát špatnému autorovi nebo statistiku špatnému roku. Unfaithfulness (nevěrnost kontextu) — model dostane správné podkladové dokumenty, ale vygeneruje závěr, který z nich nevyplývá. Zvlášť zákeřné, protože zdroje existují — jen odpověď neodpovídá.

Klíčové je pochopit, že AI negeneruje fakta — generuje pravděpodobnosti. Velký jazykový model je v jádru predikční stroj: na základě vstupního textu odhaduje, jaké slovo má s nejvyšší pravděpodobností následovat. Nepracuje s databází ověřených faktů. Pracuje se statistickými vzorci z tréninkových dat. Když má „mezeru" — informaci, na kterou tréninková data nestačí — zaplní ji tím nejpravděpodobnějším, co najde. A to nejpravděpodobnější nemusí být to nejpravdivější.

Proč AI halucinuje — matematický důkaz z OpenAI

V září 2025 publikovalo OpenAI výzkumný paper „Why Language Models Hallucinate", který prokázal, že halucinace jsou matematicky nevyhnutelné. Ne pravděpodobné, ne časté — nevyhnutelné. To je zásadní posun v chápání problému. Halucinace nejsou bug, který opraví další verze modelu. Jsou přímým důsledkem způsobu, jakým jazykové modely trénují a jak jsou hodnoceny.

Argument má dvě části. Část první: trénink. LLM se učí predikovat další slovo v textu — nikdy nevidí štítky „pravda/nepravda". Tréninkový korpus obsahuje miliardy vět, ale žádná z nich není explicitně označena jako fakticky správná nebo chybná. Model se učí generovat plynulý, pravděpodobný text — ne pravdivý text. Pokud se v tréninkových datech nedá odlišit správné tvrzení od chybného (což se u většiny dat nedá), pak halucinace vzniknou čistě ze statistických tlaků.

Část druhá: hodnocení. 9 z 10 hlavních AI benchmarků používá binární hodnocení — správná odpověď dostane bod, odpověď „nevím" nedostane nic. To vytváří perverzi motivací: hádat se vyplatí víc než přiznat nejistotu. Model, který na 100 otázkách 80× odpoví správně a 20× sebejistě špatně, dostane skóre 80. Model, který 80× odpoví správně a 20× řekne „nevím", dostane totéž. Ale model, který 90× odpoví správně, 5× řekne „nevím" a 5× se mýlí, dostane 90 — přestože je ve skutečnosti nejdůvěryhodnější.

Jak moc AI halucinuje — čísla za rok 2026

Míra halucinací se od roku 2021 zlepšila o 96 % — z 21,8 % u nejlepších modelů na 0,7 % u Gemini 2.0 Flash (Vectara Hallucination Leaderboard, duben 2025). To je působivý pokrok. Zároveň ale záleží na tom, CO měříte a JAKÝM modelem. Rozdíly mezi modely, benchmarky a typy úloh jsou propastné.

Historický kontext je důležitý: od roku 2021 došlo k 96% zlepšení. Čtyři modely v roce 2025 prolomily hranici 1 %. To je enormní pokrok. Ale i 0,7 % při tisících dotazech denně znamená desítky halucinací. A reasoning modely — ty, které firmy používají pro nejsložitější úlohy — paradoxně halucinují víc. Vyšší inteligence modelu neznamená vyšší spolehlivost. (Pro srovnání jednotlivých modelů doporučujeme náš detailní test ChatGPT vs. Claude vs. Gemini.)

Reálné katastrofy — když halucinace stojí peníze a kariéry

Halucinace AI přestaly být akademickým problémem v okamžiku, kdy právníci začali kopírovat AI výstupy do soudních podání. Databáze vedená Damienem Charlotinem eviduje k roku 2025 celkem 486 soudních případů celosvětově, z toho 324 v amerických federálních, státních a kmenových soudech. Za těmito čísly stojí 128 právníků a 2 soudci, kteří citovali neexistující judikáty vygenerované AI.

V České republice zatím nebyl veřejně dokumentován případ soudní sankce za AI halucinace. To ale neznamená, že k nim nedochází — spíše to odráží nižší míru adopce AI v právní praxi a absenci systematického monitoringu. Je to otázka kdy, ne jestli. S rostoucím používáním ChatGPT a Claude v české advokátní praxi se první český případ blíží.

Mimo právní sféru mají halucinace dopady všude, kde se na AI výstupy spoléhá bez ověření: chybné finanční projekce ve strategických dokumentech, vymyšlené vědecké reference v akademických pracích, neexistující produktové specifikace v nabídkách zákazníkům. Společným jmenovatelem je, že halucinace vypadala důvěryhodně — a nikdo ji nezkontroloval. Jedním z nejznámějších případů je chatbot Air Canada, který vymyslel neexistující pravidla pro slevu při úmrtí v rodině — tribunál rozhodl, že firma je plně odpovědná za výstupy svého chatbotu. (O rizicích AI v právních dokumentech více v našem průvodci AI analýzou smluv. Kompletní přehled oblastí, kde AI prokazatelně selhává, najdete v článku Kdy AI nepoužívat: 10 úloh, kde AI dělá víc škody než užitku.)

Verification Framework — 5 úrovní ověřování AI výstupů

Otázka není „halucinuje AI?" — halucinuje vždy, v různé míře. Otázka je: „Mám systém, který to odchytí dřív, než to způsobí škodu?" Následující framework definuje pět úrovní ověřování. Každá úroveň přidává vrstvu kontroly a hodí se pro jiný typ použití.

Level 0 — Slepá důvěra. Kopírování AI výstupu bez jakékoliv kontroly. Stále nejběžnější způsob práce s AI — a přesně ten, který vede k pokutám a ostudě. Přijatelný: nikdy.

Level 1 — Plausibility check. Rychlá kontrola: dává to logicky smysl? Odpovídá to obecným znalostem? Trvá 10–30 sekund. Odchytí hrubé nesmysly (špatné roky, nerealistická čísla, logické rozpory). Neodchytí subtilní chyby. Přijatelný pro: interní brainstorming, kreativní návrhy, neformální komunikaci.

Level 2 — Source verification. Ověření konkrétních tvrzení, statistik a citací proti nezávislým zdrojům. Google Scholar pro akademické zdroje, oficiální stránky pro statistiky, zdrojové dokumenty pro citace. Trvá 2–10 minut na stránku textu. Přijatelný pro: blog posty, prezentace, marketingové materiály, interní dokumenty.

Level 3 — Cross-validation. Položení stejné otázky 2–3 různým modelům (ChatGPT + Claude + Gemini/Perplexity). Porovnání odpovědí — shoda zvyšuje důvěru, rozpory signalizují potřebu hlubšího ověření. Plus: nezávislý lidský review. Přijatelný pro: právní dokumenty, finanční analýzy, regulatorní podání, akademické práce.

Level 4 — Automated pipeline. RAG (Retrieval-Augmented Generation) s přístupem k ověřeným databázím. Confidence scoring na úrovni každého tvrzení. Automatický flagging tvrzení s nízkou důvěrou. Lidský review na flagged items. Přijatelný pro: produkční AI systémy, enterprise deployments, zdravotnictví.

Praktické techniky pro snížení halucinací

Halucinace nelze eliminovat, ale dají se dramaticky snížit. Kombinace správných prompting technik, RAG a strukturovaného výstupu může redukovat chybovost o 60–80 % oproti výchozímu stavu. Každá technika funguje na jiné úrovni — a nejefektivnější přístup je jejich kombinace.

Prompting techniky (20–40 % redukce). Jednoduché úpravy promptu mají překvapivý vliv. Instrukce „Pokud si nejsi jistý, řekni, že nevíš" nebo „Ke každému tvrzení uveď zdroj" v benchmarcích snižují míru halucinací o 20–40 %. Chain-of-thought (krokové uvažování) pomáhá modelu „přemýšlet nahlas" a odhalit vlastní nejistotu.

Odpověz na následující otázku. Dodržuj tato pravidla:

1. Ke každému faktickému tvrzení uveď zdroj (autor, organizace, rok)
2. Pokud si nejsi jistý nebo nemáš dostatečné informace, explicitně řekni „Nemám dostatek dat k odpovědi na tuto část"
3. Rozlišuj mezi:
   - FAKT (ověřitelné tvrzení se zdrojem)
   - ODHAD (tvoje inference na základě dat)
   - SPEKULACE (nemáš přímá data)
4. Na konci uveď sekci „Důvěra": pro každé klíčové tvrzení uveď úroveň důvěry (vysoká / střední / nízká)
5. Pokud existují protichůdné informace, uveď obě strany

Otázka: [VAŠE OTÁZKA]

RAG — Retrieval-Augmented Generation (40 %+ redukce). RAG propojuje LLM s databází ověřených dokumentů. Místo „vzpomínej" model „hledej a odpovídej na základě nalezených dokumentů". Výzkum MEGA-RAG ukázal snížení halucinací o více než 40 % oproti baseline. Výhoda: kratší vývoj a nižší náklady než fine-tuning. Nevýhoda: ani RAG není stoprocentní — model může vygenerovat závěr, který z nalezených dokumentů nevyplývá. (Kompletní průvodce RAG technologií najdete v našem článku o RAG.)

Strukturovaný výstup (JSON schema). Vyžadování výstupu v přesné JSON struktuře omezuje prostor pro „kreativní" halucinace. Model nemůže volně fantazírovat — musí naplnit definovaná pole. Zvlášť efektivní pro extrakci dat, klasifikaci a analytické úlohy.

Temperature control. Nižší temperature (0.0–0.3) = deterministický výstup s menší variabilitou = méně halucinací. Vyšší temperature (0.7–1.0) = kreativnější, ale méně spolehlivý. Pro faktické úlohy vždy nastavte temperature co nejníže.

Multi-model comparison (Perplexity Model Council princip). Položit stejnou otázku 2–3 modelům a porovnat odpovědi. Kde se modely shodují, je důvěra vysoká. Kde se liší, je potřeba ověření. Perplexity v roce 2026 automatizovalo tento princip v „Model Council".

Nástroje pro detekci halucinací v roce 2026

Ruční ověřování je účinné, ale neškáluje. Kdo zpracovává desítky AI výstupů denně, potřebuje automatizované nástroje. V roce 2026 existuje několik specializovaných řešení — od jednoduchých detektorů po enterprise platformy.

Perplexity je v současnosti nejpoužívanějším nástrojem pro ověřené AI odpovědi. Každé tvrzení obsahuje inline citaci s klikatelným odkazem na zdroj. Model Council (2026) porovnává odpovědi z více modelů a zvýrazňuje shody i rozpory. Není dokonalý — i Perplexity halucinuje ve 37 % citací (CJR benchmark) — ale transparentnost zdrojů umožňuje rychlou kontrolu.

GPTZero Hallucination Detector automaticky analyzuje text a identifikuje tvrzení bez opory ve zdrojích. Zaměřuje se na akademické a profesionální texty — eseje, reporty, výzkumné práce. Vrací skóre důvěryhodnosti per odstavec.

Vectara HHEM (Hughes Hallucination Evaluation Model) je open-source model specificky trénovaný na detekci halucinací v sumarizaci. Porovnává generovaný text se zdrojovým dokumentem a skóruje věrnost. Ideální pro RAG pipeline — automaticky flaguje odpovědi, které neodpovídají zdrojům.

DIY: „Second opinion" model. Nejdostupnější přístup: vložte AI výstup do jiného modelu s promptem „Zkontroluj následující text. Identifikuj tvrzení, která mohou být nepřesná, a vysvětli proč." Překvapivě efektivní — LLM je lepší v hodnocení cizího textu než ve generování vlastního bezchybného. Stojí 2× víc tokenů, ale žádnou infrastrukturu.

Kdy se na AI nespoléhat — červené a zelené zóny

Ne každé použití AI nese stejné riziko halucinací. Existují oblasti, kde halucinace mohou mít katastrofální následky, a oblasti, kde jsou benigní nebo kde je riziko minimální. Rozlišení mezi nimi je základem zodpovědného používání AI.

Mezi červenou a zelenou zónou existuje široká šedá zóna — psaní blog postů, příprava prezentací, odpovídání na e-maily, analýza dat. Zde záleží na kontextu: interní brainstorm = Level 1 stačí. Veřejně publikovaný článek = Level 2 minimum. Nabídka zákazníkovi s konkrétními čísly = Level 3. Pravidlo palce: čím vyšší jsou důsledky chyby, tím vyšší úroveň ověření. Specificky pro datovou analýzu existuje 7 systematických chyb, které AI v analýze dat dělá — od halucinovaných vzorců po Simpsonův paradox — a framework VERIFY pro jejich odhalení.