Почему ChatGPT выдумывает источники? Как распознать фейковые цитаты (2026)

ChatGPT создает фейковые цитаты, поскольку генерирует наиболее вероятную последовательность слов, а не ищет информацию по индексированным академическим базам данных. Когда вы просите большую языковую модель общего назначения предоставить источники, она не проверяет реальные статьи в JSTOR, PubMed или Crossref. Вместо этого модель формирует ссылку, соответствующую статистическим шаблонам академического оформления, регулярно придумывая правдоподобные названия, подлинные имена авторов и абсолютно несуществующие выходные данные.

Если вставить черновик от ИИ прямо в эссе, обзор литературы, юридический документ или бизнес-отчет без проверки источников, возникает серьезный риск сослаться на статьи-призраки, которых в природе нет. Ниже подробно объясняется, почему языковые модели фабрикуют ссылки, как эти ошибки ускользают от беглого взгляда, замечают ли их академические детекторы, а также приводится практический чек-лист из пяти шагов для проверки любого сгенерированного ИИ списка литературы.

Почему ChatGPT придумывает источники вместо поиска реальных?

Чтобы понять, почему ChatGPT генерирует вымышленные ссылки, важно посмотреть на то, для чего модель обучалась на самом деле:

Прогнозирование токенов вместо поиска по каталогу. Языковые модели общего назначения созданы для генерации связного, контекстуально подходящего текста. Когда вы отправляете запрос вроде «Приведи три рецензируемых исследования о депривации сна и когнитивных функциях», модель предсказывает, как обычно выглядит библиография в этой области: фамилии авторов, инициалы, год в скобках, научный заголовок с тематическими ключевыми словами и название авторитетного журнала.
Стремление быть полезной (конфабуляция). Базовые модели оптимизированы так, чтобы давать прямой ответ, а не признавать собственное незнание. Если конкретной публикации нет в параметрах модели, она просто синтезирует подходящий по смыслу вариант.
Феномен «цитаты Франкенштейна». ИИ редко генерирует бессмыслицу из случайных символов. Напротив, модель комбинирует реальные данные. Она берет настоящего исследователя, регулярно публикующегося в области нейронаук, подбирает подлинный журнал (например, The Journal of Cognitive Neuroscience) и придумывает правдоподобное название статьи вроде «Prefrontal Cortex Activation Deficits in Acute Sleep Deprivation». Каждый элемент звучит убедительно, но такая конкретная статья никогда не выходила.
Сфабрикованные цифровые идентификаторы (DOI). Стандартный идентификатор DOI строится по узнаваемой структуре: 10.xxxx/.... ChatGPT знает этот шаблон и нередко формирует строку, внешне неотличимую от корректного DOI. Однако при вводе в глобальный резолвер DOI такая ссылка возвращает ошибку 404 или ведет на совершенно постороннюю публикацию двадцатилетней давности.

Подробнее о том, как большие языковые модели генерируют убедительные искажения в различных отраслях, читайте в нашем руководстве 4 задокументированных примера галлюцинаций ИИ.

Чем опасны фейковые цитаты сегодня?

Сфабрикованные ссылки: один из самых быстрых способов подорвать академическую и профессиональную репутацию:

Разбирательства по академической добропорядочности. Университеты и колледжи расценивают вымышленные источники как академическое мошенничество или грубое нарушение, даже если студент не знал о выдумке ИИ. Аргумент «мне это выдал чат-бот» не освобождает автора от ответственности за представленный список литературы.
Юридические и правовые риски. В судебной практике уже зафиксированы случаи, когда адвокаты полагались на подготовленные ИИ материалы и передавали в суд состязательные бумаги с несуществующими прецедентами и фальшивыми цитатами, что привело к судебным штрафам и публичным дисциплинарным взысканиям.
Доверие клиентов и партнеров. В консалтинге, журналистике и маркетинговых исследованиях отчеты с несуществующими ссылками полностью подрывают доверие клиентов, приводят к расторжению контрактов и требованиям вернуть гонорары.

Когда вы сдаете статью или отчет, под списком источников стоит именно ваше имя. Относиться к ссылкам от ИИ как к непроверенным гипотезам: абсолютная необходимость.

Способны ли Turnitin или детекторы ИИ распознать фейковые цитаты?

Многие авторы полагают, что проверка документа через Turnitin или автоматический детектор ИИ сразу покажет подлинность ссылок. Реальность сложнее:

Отчеты о совпадениях Turnitin

Turnitin сопоставляет студенческие работы с масштабным репозиторием опубликованных статей, веб-страниц и ранее сданных материалов.

Если ИИ генерирует вымышленное название статьи, Turnitin покажет 0% совпадений по этому заголовку в отчете о подобии.
Как ни парадоксально, 0% совпадений по якобы фундаментальной научной работе служат немедленным тревожным сигналом для преподавателя или рецензента. Научные статьи цитируют признанные труды, которые практически всегда присутствуют в индексе Turnitin.

Детекторы текстов ИИ

Детекторы ИИ анализируют текст на предмет статистической регулярности: перплексии (предсказуемости выбора слов) и порывистости (вариативности длины предложений).

Библиографические списки подчиняются строгим, повторяющимся правилам оформления (APA, MLA, Chicago). Из-за такого единообразия детекторы часто помечают стандартные списки литературы как сгенерированные ИИ либо вовсе исключают библиографию из алгоритма оценки.
Детектор ИИ не способен определить подлинность источника, он лишь оценивает вероятность машинного происхождения текста. Рекомендации по разбору автоматических оценок можно найти в нашем материале Чек-лист из 10 признаков текстов от ИИ.

Как на самом деле выявляют фейковые цитаты

Преподаватели, рецензенты журналов и редакторы выявляют поддельные источники с помощью простой ручной проверки:

Они переходят по ссылке или DOI из библиографии и наталкиваются на неработающий URL.
Они ищут заголовок статьи в Google Scholar, PubMed или каталоге университетской библиотеки и получают нулевой результат.
Они обращают внимание на имя автора, открывают его научную биографию или страницу исследовательской лаборатории и видят, что ученый никогда не публиковал работ по данной узкой теме.

Чек-лист из 5 шагов для проверки цитат от ИИ

Прежде чем включать любую ссылку, предложенную ChatGPT, Claude, Gemini или другим ИИ-ассистентом, потратьте пять минут на этот протокол проверки.

Шаг 1: Проверьте DOI через официальный резолвер

Не полагайтесь на гиперссылку из ответа ИИ. Вместо этого:

Скопируйте буквенно-цифровую строку DOI (например, 10.1016/j.jneumeth.2023.109876).
Перейдите напрямую к официальному резолверу по адресу https://doi.org и вставьте строку в поле поиска.
Если система выдает «DOI Not Found» либо перенаправляет на статью с совершенно другим названием, автором или тематикой, ссылка сфабрикована.

Шаг 2: Найдите точное название в Google Scholar и Crossref

Заключите название статьи в кавычки (например, "Neural correlates of spatial memory under stress") и выполните поиск в Google Scholar и Crossref.
Если статья существует и проиндексирована, она появится мгновенно со статистикой цитирования и полными метаданными.
Если точных совпадений нет, повторите поиск без кавычек. Если публикация по-прежнему не находится, считайте ее несуществующей.

Шаг 3: Проверьте список публикаций автора

Введите в поиск имя автора вместе с названием университета или института, указанного в ссылке.
Проверьте официальный профиль ученого или его страницу в Google Scholar.
Убедитесь, что исследователь действительно работает в названной дисциплине и что упомянутая работа присутствует в списке его публикаций за указанный год.

Шаг 4: Проверьте том, выпуск и номера страниц журнала

Модели ИИ часто подбирают правдоподобные номера томов и выпусков (например, Volume 48, Issue 3, pp. 214-230).
Откройте официальный архив журнала за соответствующий год и том.
Проверьте оглавление выпуска на предмет наличия статьи на указанных страницах. Если эти страницы занимает совершенно другая публикация, перед вами вымышленный источник.

Шаг 5: Прочтите аннотацию для подтверждения тезиса

Найти реальную статью: это лишь половина дела. Модели ИИ часто приписывают конкретные статистические показатели или выводы существующим публикациям, авторы которых никогда не делали подобных заявлений.
Откройте проверенный полный текст или аннотацию.
Найдите конкретную цифру, процент или вывод, на который вы хотите сослаться. Если авторы не озвучивали такого заключения, ссылка превращается в искажение фактов.

О том, как с помощью интерактивных промптов побудить модель самостоятельно оценить фактическую основу ответов, читайте в нашем чек-листе из 6 шагов по проверке фактов в ChatGPT.

Что делать, если ИИ привел фальшивый источник?

Если вы обнаружили, что в черновике от ИИ указано несуществующее исследование, не паникуйте:

Выделите ключевое фактическое утверждение. Определите тезис, которому действительно требуется подтверждение (например: «Регулярные аэробные нагрузки увеличивают объем гиппокампа у пожилых людей на 2 процента»).
Ищите в авторитетных научных базах данных. Сформулируйте поисковый запрос по сути утверждения и проверьте его в Google Scholar, PubMed, ScienceDirect или JSTOR.
Найдите исходное первоисточник-исследование. Отыщите настоящую рецензируемую работу, где был зафиксирован данный результат (в этом примере: известное исследование Эриксона и соавторов 2011 года в журнале PNAS).
Замените цитату на подлинный источник. Оформите ссылку на настоящую публикацию в требуемом стандарте (APA, MLA, Chicago).
Перечитайте окружающий контекст. Убедитесь, что текст точно отражает методологию, размер выборки и ограничения реального исследования, а не шаблонный пересказ чат-бота.

Проверка утверждений и доработка черновиков в Unflag

Ручная проверка фактов в объемных текстах от ИИ отнимает много времени, особенно когда в материале фигурируют десятки статистических показателей, утверждений и исследований. Инструмент Fact Check в Unflag берет на себя первый этап этой работы.

Извлечение и проверка утверждений. Откройте Fact Check (доступно в Unflag Plus) в браузере или мобильном приложении. Вставьте черновик (от 50 слов, до 10 000 символов на тарифе Plus). Unflag разбивает текст на отдельные смысловые факты, выполняет поиск в интернете по каждому утверждению и формирует общий балл достоверности, ссылки на источники и четкие вердикты: True (Правда), False (Ложь), Partially True (Частично правда), Misleading (Вводит в заблуждение) или Unverifiable (Невозможно проверить).
Анализ найденных источников. Изучите утверждения со статусом False или Unverifiable. Откройте прикрепленные веб-источники, чтобы лично убедиться в достоверности данных перед тем, как делать выводы.
Фиксация проверенных данных при перефразировании. Когда факты и источники подтверждены, воспользуйтесь инструментами Rewrite или Humanize AI, чтобы избавиться от шаблонных речевых оборотов ИИ. Функция Fact Lock в Unflag защищает ключевые числа, проценты и имена от изменений при перефразировании, гарантируя сохранность выверенной информации.

Вы можете работать с Unflag прямо в браузере или скачать мобильные приложения для iPhone и Android, чтобы проверять и доводить до совершенства исследовательские тексты в любом месте.

Часто задаваемые вопросы

Почему ChatGPT дает фейковые цитаты?

ChatGPT генерирует текст, предсказывая следующий наиболее вероятный токен на основе статистических языковых закономерностей. По умолчанию модель не просматривает научные библиотеки или базы индексации. Когда вы запрашиваете источники, она соединяет известные имена авторов, правдоподобные названия журналов и подходящие годы публикации, даже если конкретная статья никогда не существовала.

Что такое «цитата Франкенштейна» в текстах от ИИ?

«Цитата Франкенштейна» объединяет реальные элементы с выдуманными. Например, инструмент ИИ может указать известного профессора университета в качестве автора и сослаться на авторитетный журнал вроде Nature или The Lancet, но при этом придумать название статьи и несуществующий DOI. Из-за наличия подлинных деталей такая ссылка на первый взгляд кажется полностью достоверной.

Определяет ли Turnitin фейковые цитаты?

Turnitin сопоставляет отправленный текст со своей базой веб-страниц, научных статей и книг, а отдельный модуль обнаружения ИИ оценивает лингвистическую предсказуемость. Однако Turnitin не делает автоматических запросов в Crossref или PubMed для проверки подлинности источника. Преподаватели и рецензенты выявляют поддельные ссылки вручную: проверяют DOI, открывают ссылки в базах и обнаруживают несуществующие страницы.

Как проверить, существует ли источник на самом деле?

Вставьте цифровой идентификатор объекта (DOI) на сайте doi.org. Если DOI открывает официальную страницу издателя, убедитесь, что название статьи, список авторов и год публикации совпадают с вашей цитатой. Затем найдите точное название в Google Scholar или PubMed. Наконец, прочтите аннотацию или выводы, чтобы подтвердить, что статья действительно содержит указанное утверждение.

Как Unflag помогает проверять сгенерированный ИИ текст?

Инструмент Fact Check в Unflag (доступный с подпиской Unflag Plus) извлекает отдельные фактические утверждения из вашего черновика и проверяет каждое через поиск в интернете. Он выдает общий балл уверенности, список источников и вердикты: True (Правда), False (Ложь) или Unverifiable (Невозможно проверить). Затем вы можете использовать инструмент Rewrite в Unflag с функцией Fact Lock, чтобы улучшить формулировки с сохранением проверенных фактов.