Примеры галлюцинаций ИИ: 4 реальных случая и как их заметить

Галлюцинация ИИ: это ответ, который звучит уверенно, но неверен или ничем не подкреплен: дело, которого никогда не рассматривали, цитата, которую никто не произносил, дата, сдвинутая на два года. Модель не врет намеренно. Она подбирает правдоподобные слова, и выдуманная деталь выглядит точно так же, как настоящая. Ниже четыре задокументированных случая, то, что их объединяет, и короткая проверка, которую можно сделать с любым ИИ-черновиком перед отправкой.

Четыре реальных примера галлюцинаций ИИ

1. Юридический документ с выдуманными делами (2023). Двое нью-йоркских юристов подали в деле Mata v. Avianca документ, где цитировались судебные решения, придуманные ChatGPT. 22 июня 2023 года судья P. Kevin Castel оштрафовал юристов и их фирму на 5000 долларов и признал недобросовестность: они сознательно закрыли глаза на признаки подделки и вводили суд в заблуждение. Судья отметил, что в использовании надежного ИИ-инструмента для помощи нет ничего недопустимого. Проблема была в том, что результат никто не проверил.

2. Чат-бот, придумавший правило возврата (2024). Чат-бот Air Canada сказал клиенту, что он может оформить скидку на билет по случаю утраты близкого уже после поездки. На самом сайте авиакомпании было написано, что возврат за уже состоявшиеся поездки невозможен. В феврале 2024 года трибунал Британской Колумбии возложил на Air Canada ответственность за слова ее чат-бота и отверг идею, что бот является отдельным субъектом. Галлюцинация в инструменте, который общается с клиентами, становится вашим собственным заявлением.

3. Консалтинговый отчет с фальшивыми источниками (2025). Deloitte Australia подготовила для Министерства занятости и трудовых отношений обзор, в котором оказались выдуманные ссылки и цитата из несуществующего судебного решения. Один из ученых заметил, что некоторых из упомянутых работ не существует. Deloitte переработала отчет, признала, что использовала генеративную ИИ-модель, и согласилась вернуть последний платеж по контракту на 440 000 австралийских долларов. Даже профессиональные команды с процедурами проверки это пропустили.

4. Демо продукта с неверным "первым" (2023). В рекламном ролике запуска чат-бота Bard от Google бот заявил, что космический телескоп James Webb сделал самый первый снимок планеты за пределами Солнечной системы. Астрономы указали, что первый снимок экзопланеты сделал другой телескоп в 2004 году, и в тот же день акции Alphabet подешевели. Фраза была гладкой, конкретной и легко принималась на веру, а именно поэтому такие ошибки так трудно заметить.

Что объединяет эти случаи

Каждая ошибка пряталась в обычном на вид тексте. Снова и снова повторяются четыре схемы:

Конкретика с названием. Названия дел, отчетов, авторы и цитаты. Ссылка выглядит правдоподобно независимо от того, существует ли она.
Превосходная степень и "первые". "Первый", "единственный", "крупнейший". Звучит авторитетно и легко ошибиться.
Правила и условия. Условия возврата, юридические ограничения, сроки. Модель заполняет пробел тем, что такое правило могло бы говорить.
Никто не открыл источник. Во всех случаях утверждение не прошло бы двухминутную проверку.

Пятиминутная проверка вашего черновика

Для этого не нужен специальный инструмент. Метод работает с любым черновиком, написанным с помощью ИИ, от письма до отчета.

Выделите каждое проверяемое утверждение. Имена, цифры, даты, цитаты, фразы вроде "первый/единственный/самый", правила, цены и все, к чему привязан источник.
Отметьте те, ошибка в которых обойдется дорого. Цифра для клиента или юридическая ссылка важнее общего наблюдения.
Откройте источник для каждого. Найдите точное название, имя дела или цитату. Если модель дала ссылку, откройте ее и прочитайте строку, которая якобы подтверждает утверждение.
Считайте "не нашлось" результатом. Если вы не нашли источник, где сказано то же самое, уберите утверждение, переформулируйте его как неподтвержденное или замените тем, на что можно сослаться.
Перечитайте исправленный текст. После правок часто остаются неловкие швы, а точный черновик к тому же должен звучать как вы.

Более подробный вариант с промптом, в котором модель сама перечисляет свои сомнения, есть в нашем чек-листе из 6 шагов для проверки фактов в ChatGPT. А если вас волнует не правдивость, а то, как текст читается, о другой стороне вопроса рассказывает чек-лист из 10 пунктов для поиска ИИ-привычек в вашем тексте.

Как это сделать в Unflag

Когда утверждений много, первый проход за вас сделает Проверка фактов. Она входит в Unflag Plus, поэтому бесплатные аккаунты ею пользоваться не могут.

Откройте Проверку фактов и войдите в аккаунт. В вебе нужно не меньше 50 слов, а Plus принимает до 10 000 символов за один раз.
Вставьте ИИ-черновик и запустите проверку.
Unflag выделяет утверждения в вашем тексте и ищет в интернете подтверждение каждому. Вы получаете общую оценку уверенности, краткую сводку, анализ по каждому утверждению и источники.
Каждое утверждение получает вердикт: Правда, Ложь, Частично правда, Вводит в заблуждение или Невозможно проверить.
Откройте источники для всего важного. "Невозможно проверить" значит ровно это, а не "ложь", и вердикт это лишь зацепка для проверки, а не замена чтению источника.
Исправьте черновик, затем используйте Переписать или Очеловечить ИИ, чтобы текст звучал естественно. Очеловечить ИИ старается сохранять цифры, например цены и проценты, но после любой переработки проверьте числа еще раз.

По состоянию на октябрь 2026 года Unflag Plus стоит 8,99 доллара в месяц или 45,99 доллара в год в вебе. В приложениях оплата идет еженедельно или раз в год через магазины приложений.

Галлюцинируют ли новые модели ИИ?

Да, хотя как часто, зависит от модели, темы и того, может ли она искать в интернете. Модели, которые умеют просматривать сайты или читать предоставленные вами источники, делают меньше неподтвержденных утверждений, чем модель, отвечающая по памяти. Никто из разработчиков не говорит, что проблема решена, поэтому привычка проверять имена, цифры и цитаты по-прежнему нужна. Любые приводимые цифры о частоте ошибок это данные самого разработчика или исследователя по одному тесту, а не обещание насчет вашего черновика.

Где галлюцинации прячутся в повседневных текстах

Рабочие письма и отчеты: статистика, факты о конкурентах и утверждения про "отраслевой стандарт".
Сопроводительные письма и био: даты, должности и награды, которые модель дописала сама.
Посты в блоге и рекламные тексты: фразы "исследования показывают" и выдуманные цитаты экспертов.
Пересказы: мысль, которую в источнике никто не высказывал.
Медицина, право и деньги: используйте ИИ, чтобы подготовить вопросы, а за ответом идите к квалифицированному специалисту или в официальный источник.

Чего эта проверка не умеет

Ни один инструмент, включая Unflag, не обещает поймать все ошибки. Проверка фактов через интернет ограничена тем, что удалось найти, а утверждение может быть и непроверяемым, и верным. Если у вашего учебного заведения, работодателя или издателя есть правила по использованию ИИ, следуйте им, в том числе если нужно сообщать, что ИИ помогал.

Как мы это готовили

Мы прочитали опубликованные материалы по каждому случаю (Bloomberg Law, Daily Hive, TechRadar и Space.com, по состоянию на октябрь 2026 года), сверили шаги с тем, как работает Проверка фактов в самом продукте Unflag и в его коде, и проверили цены Unflag на октябрь 2026 года. В источниках есть расхождения по некоторым деталям, например по точным суммам в историях с Air Canada и Deloitte, поэтому мы приводим только те цифры, в которых источники сходятся. Чек-лист написан специально для этой статьи, результатов работы какого-либо инструмента к нему не прилагается.

Коротко: галлюцинация выглядит как любое другое предложение, поэтому имена, цифры, цитаты и "первые" проверяйте сами, а когда их слишком много для ручной проверки, подключайте Проверку фактов.

Часто задаваемые вопросы

Что такое галлюцинация ИИ?

Галлюцинация ИИ: это уверенно звучащий ответ, который ложен или ничем не подкреплен: выдуманная ссылка на источник, неверная дата, цитата, которую никто не говорил, или несуществующее правило. Модель подбирает правдоподобные слова, поэтому выдуманная деталь выглядит точно так же, как настоящая.

Какой есть пример галлюцинации ИИ?

В 2023 году двое нью-йоркских юристов подали в суд документ со ссылками на дела, которые выдумал ChatGPT, и федеральный судья оштрафовал их на 5000 долларов. В 2025 году консалтинговая фирма вернула часть гонорара после того, как в отчете для правительства нашли выдуманные ссылки и цитату из несуществующего судебного решения.

Почему ИИ выдумывает?

Языковая модель пишет наиболее вероятные следующие слова, а не проверенные факты. Если твердого ответа у нее нет, она все равно выдает гладкий текст. Чаще всего она ошибается в ссылках на источники, точных цифрах, цитатах, свежих событиях и узких темах, о которых у нее мало данных.

Как понять, что ChatGPT галлюцинирует?

По тону этого не понять: неверные ответы звучат так же уверенно, как верные. Ищите то, что можно проверить: имена, цифры, даты, цитаты и источники. Проверьте каждый пункт поиском вне чата. Если не нашлось источника, где сказано то же самое, считайте утверждение неподтвержденным.

Можно ли полностью исправить галлюцинации ИИ?

Полностью нельзя. Реальные источники и доступ к поиску снижают число ошибок, но не убирают их совсем. Надежное решение: шаг, который делает человек: найти важные утверждения, сверить их с первоисточниками, а то, что подтвердить не удалось, исправить или убрать.

Находит ли Unflag галлюцинации ИИ?

Проверка фактов в Unflag, часть Unflag Plus, выделяет утверждения в тексте, ищет в интернете подтверждение каждому и возвращает вердикт, оценку уверенности и источники. Она может что-то пропустить или ошибиться, поэтому для важных утверждений откройте источники сами, прежде чем на них полагаться.