Automatizační zkreslení — tendence nadměrně spoléhat na automatizované systémy i přes jejich chyby — je jedním z nejdokumentovanějších rizik interakce člověk-AI.
- Skitka et al. (1999): Piloti přehlédli kritické chyby kvůli důvěře v automatizaci
- Goddard et al. (2012): Systematický přehled klinických systémů zjistil konzistentní chyby opomenutí a komise
- Automatizační zkreslení roste s důvěrou
- Ani odborníci nejsou imunní
Zesílení AI
Moderní LLM zesilují automatizační zkreslení, protože prezentují informace sebevědomým, autoritativním jazykem — i když halucinují.