Галлюцинация
Галлюцинация — когда LLM уверенно выдаёт ложный факт: несуществующую цифру, ссылку, цитату. Главный риск AI-контента без проверки.
Галлюцинация — это когда модель отвечает уверенно и складно, но факт ложный. Выдуманная статистика, несуществующая ссылка, цитата, которой никто не говорил. Опасность именно в уверенности: галлюцинация выглядит ровно как правда.
Для маркетолога это прямой риск. AI написал пост с «исследованием, по которому 73%…» — а исследования нет. Опубликовал — поймал репутационный удар. Поэтому у меня правило: любая цифра, имя, ссылка из-под AI проверяется руками. Текст AI пишет — факты подтверждаю я.
Что снижает галлюцинации: давать модели факты в контекст (RAG), просить ссылаться на источник, не задавать вопросы «из воздуха». Что не помогает — просто попросить «не галлюцинируй».