V březnu 2024 Lisa Messeri a Molly Crockett publikovaly přelomový článek v Nature, který představil mocný nový koncept: „iluze porozumění" vytvářené AI. Jejich argument je klamně jednoduchý, ale hluboce důležitý: AI nástroje nás mohou přimět cítit, že něčemu hluboce rozumíme, zatímco ve skutečnosti se spoléháme na povrchní shrnutí vytvořené systémem, který sám nerozumí ničemu (Messeri & Crockett, 2024).
Autorky identifikují tři specifické iluze. „Iluze orákula" nastává, když AI vnímáme jako vševědoucí autoritu a jejím výstupům důvěřujeme bez kritického hodnocení. „Iluze zástupce" se objevuje, když zaměňujeme analýzu AI za naše vlastní porozumění — „AI analyzovala data, takže já datům rozumím." „Iluze zesílení" vzniká, když schopnost AI zpracovávat obrovské množství informací vytváří falešný pocit, že věda komplexně zkoumá všechny relevantní otázky.
Důsledky pro vědecký výzkum jsou obzvláště znepokojivé. Pokud se výzkumníci stále více spoléhají na AI při identifikaci vzorců, generování hypotéz a interpretaci výsledků, diverzita vědeckých perspektiv by se mohla zúžit. Různé AI systémy trénované na podobných datech mají tendenci konvergovat k podobným výstupům, potenciálně vytvářejíce intelektuální monokultury, kde jsou alternativní interpretace a kreativní skoky potlačovány.
Tento fenomén přesahuje vědu do každodenního života. Když ChatGPT shrne složitou politickou otázku, mnoho uživatelů cítí, že jí nyní „rozumí" — ale vstřebali jedno možné zarámování, ne skutečné pochopení. Emily Bender a kolegové na toto varovali ve svém vlivném článku z roku 2021 o „stochastických papoušcích": jazykové modely produkují plynulý text, který napodobuje porozumění, aniž by ho měly, a toto napodobování může klamat uživatele i vývojáře (Bender et al., 2021).
Řešením není odmítat AI nástroje, ale rozvíjet to, co výzkumníci nazývají „AI gramotnost" — schopnost efektivně používat AI při zachování povědomí o jejích limitacích. To znamená zacházet s výstupy AI jako s výchozími body, ne závěry, aktivně hledat alternativní perspektivy a zachovávat náročné kognitivní procesy, které skutečné porozumění vyžaduje. Jak uzavírají Messeri a Crockett: „Největší riziko není, že se AI mýlí, ale že nás přiměje přestat klást otázky."
Klíčové zdroje
- Messeri L., Crockett M.J. (2024). AI and illusions of understanding. Nature, 627.
- Bender E.M. et al. (2021). On the Dangers of Stochastic Parrots. FAccT '21.
- Frontiers in Psychology (2025). Cognitive offloading or cognitive overload?