Představ si situaci: necháš si od AI připravit podklady do prezentace pro klienta. Na jednom slajdu stojí, že krátká videa zvyšují konverze o 38 %, s odkazem na „studii renomované marketingové agentury z roku 2023“. Klient se na konci schůzky zeptá, jestli mu ji můžeš poslat. Otevřeš odkaz a stránka vrátí chybu 404. Studie s takovým číslem nikdy nevyšla.
AI v takovém případě nelže záměrně. Jen vytvoří větu, která zní přesně tak, jak by zněla pravdivá věta. Právě proto potřebuješ jednoduchý postup, kterým odpověď zkontroluješ dřív, než ji pošleš dál. Níže ho najdeš v 7 krocích, i s grafickým checklistem ke stažení a tipy, které používáme při vlastní práci s AI.
Proč AI tvrdí nepravdy s takovou jistotou
Jazykový model nehledá pravdu, ale nejpravděpodobnější pokračování textu. Pokud se v trénovacích datech často objevuje kombinace „studie + procento + známá firma“, model ji umí poskládat i tehdy, když konkrétní údaj nikdy nevznikl. Americký institut NIST to ve svém profilu rizik generativní AI (NIST AI 600-1) nazývá konfabulace. Běžně se používá i výraz halucinace AI.
V praxi nejčastěji narazíš na čtyři typy chyb:
Vymyšlený zdroj - studie, článek nebo kniha, které neexistují, často s důvěryhodným autorem a rokem.
Skutečný zdroj, jiné číslo - odkaz funguje, ale údaj v něm není nebo zní jinak.
Zastaralá informace - cena, funkce nebo zákon, které platily v době trénování modelu.
Správný fakt ve špatném kontextu - údaj z USA podaný jako český, výsledek malého vzorku podaný jako obecné pravidlo.
Nejčastější chyby AI: vymyšlený zdroj, špatné číslo, zastaralá informace a špatný kontext
Checklist: ověř si odpověď AI v 7 krocích
Celý postup máš shrnutý na obrázku. Ulož si ho nebo vytiskni a měj ho po ruce, dokud se kontrola nestane zvykem. Jednotlivé kroky rozebíráme níže.
Checklist: ověř si odpověď AI v 7 krocích
1. Označ tvrzení, na kterých něco stojí
Neověřuješ celý text, ale věty, které by tě ztrapnily, kdyby byly špatně. Projdi odpověď a zvýrazni:
čísla, procenta, částky a data,
jména lidí, firem a institucí,
citace a odkazy na výzkumy,
tvrzení o funkcích a cenách nástrojů,
slova jako „nejvíc“, „prokazatelně“, „vždy“ nebo „podle výzkumů“.
Tip z praxe: zkopíruj odpověď do dokumentu a každé tvrzení, které jdeš ověřovat, označ barvou. Zelenou to, co už máš ověřené, červenou to, co se ti nepodařilo potvrdit. Na konci hned vidíš, co musíš vyhodit nebo přeformulovat.
2. Otevři zdroj a najdi přesnou větu
Odkaz u odpovědi je jen tvrzení, že zdroj existuje. Otevři ho a přes Ctrl+F (na Macu Cmd+F) vyhledej konkrétní číslo nebo klíčové slovo. Hledej ho v různých zápisech, například „38 %“, „38%“, „0,38“ i „38 procent“, případně v angličtině.
Pokud AI cituje vědeckou studii:
vlož celý název studie v uvozovkách do Google Scholar,
pokud má studie DOI, ověř ho na stránce doi.org,
zkontroluj, jestli sedí autor, rok i časopis.
Varovné signály vymyšleného zdroje: URL adresa vypadá logicky, ale stránka neexistuje. Odkaz vede jen na hlavní stránku webu. U knihy je uvedené přesné číslo strany, které nejde ověřit. Citace má formát „Novák et al., 2022“ bez názvu práce.
Když údaj najdeš, přečti si i větu před ním a za ním. Často se ukáže, že se týká jiné skupiny, jiného roku nebo že ho autor sám zpochybňuje.
3. Ověř, jestli informace ještě platí
Každý model má datum, po kterém už nemá trénovací data. Pokud nástroj nevyhledává na webu, o novějších změnách neví. Nejrychleji zastarávají ceny, funkce aplikací, limity bezplatných verzí a legislativa.
U cen a funkcí jdi na oficiální ceník nebo do dokumentace nástroje.
U novinek se podívej na stránku s release notes nebo changelogem.
Pokud potřebuješ vědět, co bylo na stránce v minulosti, použij Wayback Machine (web.archive.org).
Tip z praxe: zeptej se AI přímo: „K jakému datu je tahle informace platná a vyhledal jsi ji na webu, nebo vychází z tréninkových dat?“ Odpověď ti neprozradí pravdu, ale napoví, kde je potřeba být opatrnější.
4. Zkontroluj, jestli údaj sedí na tvou situaci
I přesný údaj může být pro tebe nepoužitelný. Průměrná mzda v USA neříká nic o mzdách v Česku a průzkum mezi 200 startupy není obraz celého trhu.
U českých údajů sáhni po primárních zdrojích:
Český statistický úřad (Veřejná databáze ČSÚ) pro mzdy, ceny, obyvatelstvo a firmy,
Eurostat pro srovnání zemí EU,
Česká národní banka pro úroky, inflaci a finanční trh,
e-Sbírka pro zákony v aktuálním znění.
5. Přepočítej čísla
AI umí s čísly zacházet překvapivě nešikovně, hlavně u více kroků za sebou. Výpočet zopakuj v kalkulačce nebo v Excelu a zkontroluj vstupy i jednotky.
Nejčastěji se pletou procenta a procentní body. Když míra prokliku (CTR) stoupne ze 2 % na 3 %, vzrostla o 1 procentní bod, ale relativně o 50 %. Obě čísla jsou správně, každé ale říká něco jiného. Když je v reportu zaměníš, závěry z reportu budou úplně jiné, než jaké ukazují data.
Tip z praxe: pokud ti AI připraví tabulku se součty, sečti aspoň jeden řádek a jeden sloupec sám. Chyby v součtech jsou častější, než bys čekal.
6. Shrnutí porovnej s originálem
U shrnutí PDF, smlouvy nebo zápisu z porady AI ráda vynechá podmínky a výjimky. Z věty „výsledky naznačují možné zlepšení“ se snadno stane „výzkum prokázal účinnost“.
Pomůže, když si rovnou v zadání vyžádáš doslovné citace s číslem strany. Pak je přes Ctrl+F najdeš v původním dokumentu za pár vteřin. Nástroje, které u odpovědi odkazují na konkrétní místo v dokumentu, například NotebookLM, kontrolu urychlí, ale nenahradí. Klikni na citaci a přečti si, co opravdu říká.
7. Odděl fakta od odhadů a doporučení
Jedna odpověď AI často míchá tři různé věci. Každou ověřuješ jinak:
Fakt, odhad a doporučení ověřuješ jinak
Doporučení může být užitečné, i když neplatí pro každého. Potřebuješ ale vědět, z čeho vychází a jestli sedí na tvé cíle, rozpočet a čas.
Jak důkladně kontrolovat: semafor podle rizika
Ověřovat každé slovo by trvalo déle, než napsat text sám. Rozsah kontroly proto přizpůsob tomu, co se stane, když bude odpověď špatně.
Rozsah kontroly přizpůsob riziku
Zelená - nápady a formulace. Názvy prezentací, osnova článku, návrh e-mailu. Stačí tvůj úsudek.
Oranžová - interní podklady. Report pro šéfa, e-mail klientovi, podklady na poradu. Ověř všechna čísla a jména.
Červená - veřejné a citlivé věci. Článek na web, smlouva, rozhodnutí o penězích, zdraví nebo právu. Každé tvrzení si najdi v primárním zdroji a zapoj odborníka.
Speciální případy, kde se AI plete nejčastěji
Paragrafy a zákony
AI ráda cituje paragrafy, které už neplatí, nebo zaměňuje české a slovenské předpisy, protože jsou si podobné a v datech se míchají. Paragraf si vždy ověř v e-Sbírce v aktuálním znění a podívej se i na datum účinnosti. U důležitých rozhodnutí ať znění zkontroluje právník.
Kód a knihovny
Kód od AI spusť a otestuj na malém příkladu dřív, než ho nasadíš. Pozor i na názvy balíčků. Modely si někdy vymyslí knihovnu, která neexistuje, a útočníci tyto vymyšlené názvy zaregistrují se škodlivým kódem. Tento typ útoku se jmenuje slopsquatting. Před instalací ověř balíček na npm nebo PyPI: kdo ho vydal, kolik má stažení a jak dlouho existuje.
Citáty známých lidí
Vlož citát v uvozovkách do vyhledávače. Pokud ho najdeš jen na webech s citáty a nikde v rozhovoru, knize nebo projevu, ber ho jako nepotvrzený.
Nejčastější chyby při ověřování
Ověřuješ AI další otázkou „Jsi si jistý?“ Model se často přizpůsobí tvé pochybnosti a odpověď změní, i když byla původně správně. Nebo naopak trvá na chybě. Ani jedno není důkaz.
Porovnáváš dva chatboty. Když se ChatGPT a Gemini shodnou, mohly se naučit stejnou chybu ze stejných dat.
Spoléháš na odkaz, aniž bys ho otevřel. Funkční odkaz ještě neznamená, že v něm údaj je.
Cituješ sekundární zdroj. Článek o studii není studie. Novináři i blogeři čísla zaokrouhlují a zkracují.
Ověříš jedno číslo a zbytek odstavce necháš být. Kde je jedna chyba, často bývají i další.
Prompt, který ti usnadní kontrolu
Když už máš odpověď, pošli AI tento prompt. Nepotvrdí ti pravdivost, ale připraví seznam, co je potřeba ověřit:
Rozděl svou předchozí odpověď na ověřitelná fakta, odhady a doporučení. Ke každému faktu uveď zdroj, pokud ho máš, a jasně označ tvrzení, ke kterým zdroj nemáš. Nevymýšlej odkazy ani citace. U každého bodu navrhni, kde ho mohu nezávisle ověřit.
Tip z praxe: ještě lepší je předejít chybám už v zadání. Dej AI vlastní podklady (PDF, tabulku, odkazy) a napiš: „Odpovídej pouze na základě přiložených dokumentů. Pokud tam odpověď není, napiš, že ji nevíš.“
Otevři odkaz a vyhledej v něm konkrétní údaj přes Ctrl+F. U studie vlož její název v uvozovkách do Google Scholar nebo ověř DOI na doi.org. Pokud stránka neexistuje, odkaz vede jen na hlavní stránku webu nebo citaci chybí název práce, ber zdroj jako nepotvrzený.
Stačí se AI zeptat, jestli si je jistá?
Ne. Model se často přizpůsobí tvé pochybnosti a odpověď změní, i když byla správně, nebo naopak trvá na chybě. Otázka může pomoct najít nesrovnalost, ale pravdivost ověříš jen v původním zdroji.
Je odpověď správně, když se shodnou dva různé AI nástroje?
Ne nutně. Různé modely se učí z podobných dat, takže mohou opakovat stejnou chybu. Shoda dvou chatbotů nenahrazuje kontrolu primárního zdroje.
Které informace od AI je potřeba ověřovat vždy?
Čísla a procenta, jména, citace, odkazy na výzkumy, ceny a funkce nástrojů a vše, co se týká práva, zdraví nebo financí. U nápadů a formulací stačí tvůj úsudek.
Kde si ověřím české statistiky a zákony?
Statistiky najdeš ve Veřejné databázi Českého statistického úřadu, srovnání zemí EU na Eurostatu a údaje o úrocích a inflaci na webu České národní banky. Zákony v aktuálním znění ověř v e-Sbírce.
Jak mohu halucinace AI omezit už při zadání?
Dej AI vlastní podklady a napiš, ať odpovídá jen na jejich základě a přizná, když odpověď neví. Vyžádej si doslovné citace s číslem strany a nástroj, který vyhledává na webu, nech uvést zdroje.
Som kreatívna a cieľavedomá študentka so záujmom o marketing, tvorbu videí a vizuálne rozprávanie príbehov. Rada sa učím nové veci, rýchlo sa prispôsobujem a nebojím sa výziev, ktoré mi pomáhajú rásť.
