Když AI počítá špatně: 7 chyb v analýze dat

Globální ztráty způsobené halucinacemi umělé inteligence dosáhly v roce 2024 částky 67,4 miliardy dolarů. Podle průzkumu Deloitte téměř polovina firemních uživatelů AI učinila v tom samém roce alespoň jedno zásadní rozhodnutí na základě vymyšlených dat. A výzkum MIT z roku 2025 odhalil paradox, který by měl znepokojit každého, kdo pracuje s AI analýzami: jazykové modely jsou o 34 % sebejistější právě tehdy, když se mýlí. ChatGPT s naprostou jistotou oznámí, že průměrný měsíční příjem činí 127 450 dolarů — skutečná hodnota je 98 230 dolarů. Gartner predikuje, že do roku 2026 selže 60 % AI projektů s problémy v datech. AI přitom nepočítá špatně náhodně. Má sedm systematických, predikovatelných vzorců chyb, z nichž každý má jinou příčinu a jiné řešení. Tento článek je první česky psaný systematický rozbor těchto chyb — a přináší framework VERIFY pro ověření jakéhokoli AI výstupu.

Proč AI počítá špatně (a proč si toho nevšimnete)

Jazykové modely jako ChatGPT, Claude nebo Gemini nepočítají v tradičním smyslu. Předvídají, jak by výpočet měl vypadat, na základě vzorců v trénovacích datech. Technicky: text se rozloží na tokeny pomocí Byte Pair Encoding (BPE), což efektivně komprimuje jazyk, ale zcela ničí matematickou strukturu čísel. Číslo 127 450 se pro model rozpadne na fragmenty typu „127", „ ", „450" — a model s nimi pracuje jako se slovy, ne jako s hodnotami.

Proto ChatGPT dokáže spolehlivě sečíst 23 + 47, ale při násobení čtyřciferných čísel klesá přesnost pod 30 %. Nejde o bug — jde o fundamentální vlastnost architektury. Model doslova hádá, jaký výsledek „vypadá správně", místo aby ho spočítal.

Situaci komplikuje to, co MIT výzkumníci označili za paradox sebejistoty. Analýza tisíců výstupů ukázala, že AI modely používají slova jako „jednoznačně", „data jasně ukazují" nebo „bez pochyby" o 34 % častěji v odpovědích, které jsou fakticky chybné. Čím víc se model mýlí, tím přesvědčivěji zní. Pro člověka, který AI výstup čte bez ověření, je to past — nejsebejistější závěry jsou statisticky ty nejméně spolehlivé.

Některé modely nabízejí režim Advanced Data Analysis (dříve Code Interpreter), který spouští skutečný Python kód. To eliminuje výpočetní chyby — ale pouze pokud model tento nástroj správně zavolá. V praxi modely často přeskočí kód a „počítají v hlavě", zejména u dotazů, které vypadají jednoduše. A právě jednoduché dotazy bývají nejzrádnější.

Chyba č. 1 — Halucinované vzorce

AI dokáže v náhodných datech „objevit" trendy, které neexistují. Když model dostane časovou řadu tržeb, hledá vzorce — protože to je přesně to, k čemu byl trénovaný. Problém nastává, když žádný vzorec neexistuje, ale model ho přesto najde. Oznámí sezónní trend v datech, která jsou čistě náhodná. Identifikuje „rostoucí tendenci" v šumu. Vytvoří příběh kolem koincidence.

Halucinované vzorce jsou obzvlášť nebezpečné, protože vypadají přesvědčivě. AI neprezentuje závěr s varováním „toto může být náhoda". Vytvoří koherentní analytický příběh s čísly, procenty a doporučeními — a celý příběh stojí na vzorci, který v datech objektivně není. Výzkum z roku 2025 potvrzuje, že v obecném měření halucinují modely přibližně v 9,2 % odpovědí. U analytických úloh s nestrukturovanými daty může být tento podíl výrazně vyšší.

Jak to poznat: pokud AI identifikuje trend, požádejte o statistický test signifikance. Skutečný analytik by řekl „p-hodnota je 0,03, efekt je statisticky signifikantní". AI často vynechá testy a skočí rovnou k závěru. Absence statistického testu je varovný signál.

Chyba č. 2 — Vymyšlené výpočty

V dokumentovaném případě dostala AI otázku: „Jaký je průměrný měsíční příjem?" Odpověď: „Na základě dat činí průměrný měsíční příjem $127 450." Skutečná hodnota po manuálním přepočtu: $98 230. Rozdíl 30 % — a AI číslo neprezentovala jako odhad, ale jako faktickou odpověď odvozenou z dat.

Kořen problému je vždy stejný: model predikuje, jak by výsledek měl vypadat, místo aby ho vypočítal. U jednoduchých operací (2 + 2, 10 × 5) to funguje spolehlivě, protože trénovací data obsahují tisíce příkladů. U složitějších výpočtů — průměr z 50 hodnot, vážený průměr, medián s odlehlými hodnotami — model improvizuje. A improvizace produkuje čísla, která jsou přibližně ve správném rozsahu, ale přesně špatně.

Zvlášť zákeřné jsou situace, kdy AI výpočet vypadá plauzibilně. Rozdíl 30 % v průměrném příjmu je odhalitelný — ale co když je odchylka 3 %? V takovém případě číslo projde testem selského rozumu, ale stále je špatně. A na 3% chybě v predikci cash flow se dá ztratit miliony. V průzkumu Gartner 75 % vedoucích pracovníků uvedlo, že svým datům nedůvěřuje při rozhodování — a to ještě před érou AI-generovaných analýz.

Obrana je přímočará: každý klíčový výpočet přepočítat nezávisle. Stačí otevřít Excel, Google Sheets nebo spustit jednořádkový Python skript. Pokud se výsledky shodují — výborně. Pokud ne, AI odpověď je automaticky podezřelá. Trvá to minutu a může ušetřit měsíce práce s chybnými daty. Důležitý tip: požádejte AI, aby ukázala kód, který použila pro výpočet. Pokud model přeskočil Code Interpreter a počítal „v hlavě", uvidíte to okamžitě — odpověď nebude obsahovat žádný spustitelný kód. Více o tom, jak AI modely halucinují a jak ověřovat jejich výstupy, v článku AI halucinace: Proč AI lže a jak ověřit každý výstup.

Chyba č. 3 — Špatná agregace dat

Agregace dat vypadá triviálně: spočítej průměr, sečti sloupec, seskup podle kategorie. Ale v reálných datasetech je agregace minové pole. Duplicitní řádky, prázdné hodnoty (NULL/NaN), nesprávné datové typy, souhrnné řádky zamíchané mezi daty — a AI s nimi pracuje, aniž by na problém upozornila.

Gartner odhaduje, že špatná kvalita dat stojí organizace v průměru 15 % ročního příjmu — tedy 9,7 až 15 milionů dolarů ročně. A 62 % organizací reportuje neúplná data, 58 % nekonzistentní sběr a 57 % problémy s integrací. Tyto problémy existovaly před AI. AI je ale zhoršuje tím, že na ně neupozorní a produkuje výstupy, které vypadají autoritativně, přestože stojí na vadných základech.

Řešení: před jakoukoli AI analýzou spustit základní data profiling. Počet řádků, počet unikátních hodnot, podíl NaN v každém sloupci, distribuce klíčových proměnných. Zabere to pět minut a odhalí 80 % problémů dřív, než je AI zamaskuje přesvědčivým výstupem.

Tento prompt donutí AI spustit skutečný kód pro profiling a odhalí problémy jako špatné datové typy, neočekávané NULL hodnoty nebo duplicity ještě předtím, než se dostane k samotné analýze. Je to ekvivalent toho, co profesionální datoví analytici dělají automaticky — a co AI bez pokynu přeskočí.

Chyba č. 4 — Korelace vydávaná za kauzalitu

Prodej zmrzliny koreluje s počtem utonutí. Znamená to, že zmrzlina způsobuje utonutí? Samozřejmě ne — obě proměnné rostou v létě. Tuto triviální logiku lidský analytik rozpozná okamžitě. AI ne. Jazykový model je trénovaný na hledání vzorců a korelací. Nemá mechanismus pro rozlišení korelace od kauzality — to vyžaduje doménové znalosti a kauzální uvažování, které současná architektura LLM neumožňuje.

V business kontextu je to obzvlášť nebezpečné. Manažer nahraje data o tržbách a marketingových výdajích do AI a zeptá se: „Co ovlivňuje naše tržby?" AI najde korelaci mezi ad spendem a revenue a prezentuje ji jako kauzální vztah. Na základě toho firma zvýší marketingový rozpočet — ale skutečným faktorem byl sezónní efekt, změna produktového mixu nebo jednorázová událost.

Další častý příklad: firma sleduje, že zákazníci, kteří používají prémiovou funkci, méně odcházejí. AI to vyhodnotí jako „prémiová funkce snižuje churn". Realita: zákazníci, kteří si platí prémium, jsou inherentně loajálnější — funkce není příčina, ale symptom. Firma na základě AI doporučení investuje miliony do marketingu prémiové funkce místo toho, aby řešila skutečnou příčinu odchodu zákazníků.

Obrana: u každého tvrzení o příčině a důsledku se zeptat — existuje experiment nebo A/B test, který to potvrzuje? Pokud AI odvozuje kauzalitu z pozorovaných dat bez experimentálního designu, jde o spekulaci, ne o analýzu. Kauzální inference vyžaduje specifické statistické metody — difference-in-differences, instrumental variables, regression discontinuity — které současné LLM nemohou spontánně aplikovat. A spekulace za milionové rozpočty je risk, který si žádná firma nemůže dovolit.

Chyba č. 5 — Simpsonův paradox

Simpsonův paradox nastává, když trend viditelný v agregovaných datech zmizí nebo se obrátí při rozdělení do podskupin. Není to akademická kuriozita — je to reálná past, do které AI padá pravidelně, protože její výchozí chování je agregovat.

V tomto příkladu ženy v obou odděleních uspěly s vyšší mírou. Ale stačí změnit poměr přihlášek — pokud se většina žen hlásí na konkurenční oddělení Finance — a agregovaná čísla mohou ukázat opak. Přesně to se stalo na UC Berkeley v 70. letech: celkově byly ženy přijímány méně, ale v každém jednotlivém oddělení měly stejnou nebo vyšší šanci.

AI standardně analyzuje data v agregované podobě. Pokud se explicitně nepožádá o segmentaci, nikdy nezjistí, že agregát lže. To je kritické u jakékoli analýzy, kde existují podskupiny — geografické regiony, produktové linie, zákaznické segmenty, časová období.

V praxi se Simpsonův paradox projevuje častěji, než by se zdálo. E-shop zjistí, že nový design stránky snížil konverzní poměr o 5 %. Ale po rozdělení na segmenty vyjde najevo, že konverze vzrostla u desktopových i mobilních uživatelů — celkový pokles způsobil posun v traffic mixu směrem k mobilním uživatelům, kteří konvertují celkově méně. AI tento kontext bez explicitního pokynu neodhalí. Řešení: u každé AI analýzy se zeptat — platí tento závěr i po rozdělení na segmenty? Pokud ne, pravda je v segmentech, ne v celku.

Chyba č. 6 — Přežívající bias (survivorship bias)

Během druhé světové války analyzovali inženýři poškození bombardérů, které se vrátily ze svých misí. Navrhli posílit nejpoškozovanější části trupu. Statistik Abraham Wald upozornil na fatální chybu: analyzovali pouze letadla, která přežila. Ta, která byla sestřelena, chyběla v datech. Posílit bylo třeba místa, kde vrátivší se letadla poškozená nebyla — protože zásah do těchto míst znamenal zkázu.

V business praxi se survivorship bias projevuje například v analýze zákaznického chování. Pokud AI analyzuje pouze aktivní zákazníky, chybí jí data o těch, kteří odešli. Závěr „naši zákazníci jsou spokojení" je triviálně pravdivý — nespokojení už nejsou zákazníci. Stejně tak analýza „nejlepších obchodníků" bez zahrnutí těch, kteří odešli, vede k zavádějícím doporučením.

Tento bias je v AI kontextu dvojnásobně problematický. Samotná trénovací data LLM trpí publikačním biasem — studie s pozitivními výsledky se publikují, studie s negativními výsledky končí v šuplíku. Články o úspěšných firmách se sdílejí, případy bankrotů a selhání mizí z internetu. Když se pak AI zeptáte „jaké faktory vedou k úspěchu startupu", odpověď je zkonstruována z nereprezentativního vzorku — pouze z příběhů přeživších. McKinsey zjistil, že dvě třetiny firem nedokázaly škálovat AI právě proto, že rozhodovaly na základě neúplných dat o úspěšných případech, aniž by zohlednily podmínky, které k úspěchu vedly.

Obrana: při každé AI analýze se zeptat — kdo v datech chybí? Jaká data nebyla zachycena? Které záznamy byly vyřazeny a proč? Článek Kdy AI nepoužívat popisuje další situace, kde AI systematicky selhává kvůli nedostatku kontextu.

Chyba č. 7 — Sebejistá dezinformace

Stanfordská studie ukázala, že jazykové modely při odpovídání na právní otázky halucinovaly minimálně v 75 % případů, přičemž vytvořily více než 120 vymyšlených soudních rozhodnutí s realistickými názvy, detailními citacemi a fiktivní právní argumentací. Nebyly to vágní odpovědi — byly to precizně vypadající podvody.

Paradox sebejistoty má přímý dopad na datovou analýzu. Když AI oznámí „data jednoznačně ukazují rostoucí trend", je statisticky pravděpodobnější, že se mýlí, než když řekne „data naznačují možný trend". Lidský analytik s roky praxe ví, kdy být opatrný. AI opatrnost nezná — nebo přesněji, její „opatrnost" nemá korelaci s realitou.

V kontextu firemního rozhodování je to devastující. Prezentace s tvrzením „AI analýza jednoznačně prokázala, že…" zní autoritativně. Ale absence nejistoty je varovný signál, ne důkaz kvality. Skutečná analýza vždy obsahuje intervaly spolehlivosti, p-hodnoty a upozornění na omezení dat. Pokud AI nic z toho neuvádí, je to důvod k podezření, ne k důvěře.

Framework VERIFY — jak ověřit každý AI výstup

Sedm chyb popsaných v tomto článku sdílí jednu vlastnost: všechny se dají odhalit, pokud se na ně člověk podívá. Problém není, že chyby jsou neviditelné — problém je, že lidé přestávají ověřovat, jakmile si na AI zvyknou. Framework VERIFY je šestikrokový checklist navržený tak, aby ověření trvalo minuty, ne hodiny.

Celý VERIFY checklist zabere u běžné analýzy 5–15 minut. V porovnání s hodinami práce na základě chybných dat je to zanedbatelná investice. Klíčové je udělat z VERIFY rutinu — ne jednorázovou kontrolu, ale standardní součást každého workflow, kde AI produkuje čísla.

Praktická implementace: vytvořte si VERIFY jako šablonu v Notion, Google Docs nebo interním wiki. Ke každé AI analýze přiložte vyplněný checklist. V týmu analytiky přidejte VERIFY jako povinný krok v review procesu — obdobně jako code review v softwarovém vývoji. Firmy, které systematické ověřování AI výstupů zavedly, reportují výrazné snížení chybovosti a zároveň zvýšení důvěry v AI-asistované analýzy. Pro komplexnější přístup k ověřování AI výstupů doporučujeme článek o AI halucinacích a metodách ověření.

Kdy AI analýze věřit — a kdy ne

AI není v datové analýze nespolehlivá. Je nespolehlivá specifickým, predikovatelným způsobem. Jakmile se tyto vzorce pochopí, je možné AI používat efektivně — ve správných situacích a se správnými kontrolami.

Rozdíl mezi AI a lidským analytikem není v tom, kdo dělá méně chyb. Lidé chybují v koncentraci, přehlédnou řádek, špatně kliknou ve filtru. AI chybuje v porozumění — neví, co čísla znamenají, nerozpozná nesmysl, nevidí kontext. Ideální setup: AI zpracuje data a identifikuje vzorce, člověk validuje, interpretuje a rozhoduje. Informace o měření návratnosti AI investic — včetně analýzy dat — najdete v článku ROI umělé inteligence.