Словарь — Безопасность
Галлюцинация
Галлюцинация — это когда AI уверенно утверждает то, что просто не соответствует действительности: выдуманный источник, неверную цифру, несуществующий закон.
5 токеновГаллюцинация
Проще говоря#
Модель не отличает правду от правдоподобного текста. Она предсказывает то, что звучит верно. Обычно правдоподобное и есть верное — но не всегда, и модель не знает, какой случай сейчас.
Пример#
Попросите ссылки — и получите ссылки, которые выглядят как настоящие: автор, год, журнал. Некоторых из них может не существовать.
Почему это важно#
Цифры, имена, даты, нормы закона и ссылки всегда проверяйте сами. Уверенный тон — не доказательство.