Huang et al. (2023) publikovali komplexní přehled problému halucinací u LLM:
Typy halucinací
- Faktické halucinace: Generování falešných faktů s vysokou jistotou
- Halucinace věrnosti: Rozpory se zdrojovým materiálem
- Vstupní konflikty: Výstupy odchylující se od vstupu
Proč záleží
- LLM halucinují v 3-27 % odpovědí
- Halucinace jsou plynulé a sebevědomé
- Ve zdravotnictví a právu mohou mít vážné důsledky
Zdroj
Huang, L. et al. (2023). arXiv:2311.05232.