Когда ИИ придумывает «факты»: анатомия кризиса вымышленной статистики

Учёные подсчитали, что в 2025 году в рецензируемых журналах могло оказаться более 100 тысяч публикаций с недействительными библиографическими ссылками — и это лишь «верхушка айсберга» в масштабах целой индустрии. Но проблема гораздо глубже: языковые модели генерируют не только несуществующие цитаты, но и целые массивы вымышленных данных, фальшивые результаты опросов и кликбейтный новостной контент, который маскируется под реальную журналистику.

Как это происходит, к каким последствиям уже привело и что можно сделать, чтобы защититься от «цифрового обмана»? Подробно разбираем ключевые проявления кризиса, объективную статистику и практические инструменты, доступные уже сегодня.

В научной литературе: эпидемия «цитат Франкенштейна»

Начнём с самого тревожного направления — академических публикаций. В конце 2025 года журнал Nature совместно с компанией Grounded AI провёл масштабный анализ более 4 тысяч научных работ от крупных издателей. Ручная проверка подтвердила: в большинстве подозрительных статей действительно содержатся ссылки на несуществующие исследования.

В чем же коварство ИИ-галлюцинаций применительно к цитированию? Модели редко выдумывают библиографию «с нуля» (так называемые Total Fabrications). По данным анализа престижной конференции NeurIPS 2025, 66% сгенерированных галлюцинаций — именно полностью сфабрикованные ссылки. Однако чаще LLM комбинирует реальные элементы: имена авторов, части названий, названия журналов. Так рождаются «цитаты Франкенштейна» — убедительные на вид, но не ведущие ни к одной реальной работе.

Исследование, охватившее 2,2 миллиона цитат из 56 381 работы в ведущих конференциях по ИИ и кибербезопасности за 2020–2025 годы, показало: 1,07% статей содержат недействительные или сфабрикованные цитаты — это 604 публикации, причём только в 2025 году рост составил 80,9%.

Но даже когда ссылка ведёт к реальной статье, в ней часто обнаруживаются серьёзные ошибки. В одном из экспериментов почти 20% сгенерированных ИИ ссылок оказались полностью вымышленными, а ещё около 45% содержали неточности — неправильный DOI, искажённое название или неверных авторов. Эти данные хорошо соотносятся с более поздним мета-анализом: в шести независимых расследованиях в среднем 51% из 732 проанализированных ИИ-цитат были сфабрикованы.

Общий масштаб шокирует: экстраполяция результатов исследования Nature показывает, что только за один год речь может идти более чем о 100 тысячах публикаций с недействительными ссылками. А отдельное исследование выявило по меньшей мере 146 932 сфабрикованные ссылки, появившиеся в научной литературе только в 2025 году. Причём почти 78,8% этих фальшивых цитат прошли модерацию arXiv, крупнейшего репозитория научных препринтов.

Показательна и динамика загрязнения научной литературы: в 2023 году лишь одна из 2 828 статей содержала сфабрикованную цитату, а к 2025 году ситуация ухудшилась до одной из 458.

Редакции научных журналов ужесточают политику. Некоторые конференции, включая NeurIPS, отклоняют до 30% работ из-за ИИ-галлюцинаций в библиографии. В ответ на растущую угрозу престижный репозиторий arXiv начал блокировать авторов на год за использование не проверенных ИИ-материалов со сфабрикованными цитатами.

Заражение опросов и маркетинговых данных

Если в науке проблема касается в первую очередь академического сообщества, то загрязнение социологических опросов и маркетинговых исследований сказывается на решениях в бизнесе и политике. Здесь цифры также впечатляют.

Статистические подсчеты показывают, что от 4 до 90% ответов в онлайн-опросах (в зависимости от популяции) могут быть ложными или сфабрикованными. Критический порог, по данным экспертов, достигается уже при 3–7% фальшивых ответов — их достаточно, чтобы полностью исказить статистические выводы.

У этого явления есть понятная экономическая причина. Человек-респондент получает за участие в опросе в среднем 1,5 доллара, в то время как ИИ-бот может выполнить ту же работу бесплатно или примерно за 5 центов. И проблема материализуется в реальных цифрах: исследование 2024 года показало, что 34% респондентов использовали ИИ для ответа на открытые вопросы в анкетах.

Исследование PNAS (апрель 2026) подтверждает, что загрязнение опросов ИИ — это не «потенциальная угроза», а измеримая реальность. В одной выборке платформы Prolific более 4% респондентов демонстрировали явные признаки использования ИИ-помощников.

Что касается чистоты самих моделей, исследование SSDataBench, специального бенчмарка статистического реализма сгенерированных LLM данных в социальных науках, показало, что модели значительно упрощают сложные статистические паттерны, что вводит исследователей в заблуждение.

Дартмутское исследование пришло к не менее тревожному выводу: созданный специально ИИ-«бот-респондент» смог пройти 99,8% стандартных проверок качества опросов, маскируясь под человека.

Особенно опасна ситуация в медицинской сфере. В исследовании, опубликованном в JAMA Ophthalmology, доказывается, что GPT-4 способен фабриковать целые синтетические медицинские наборы данных, призванные подтверждать ложные научные выводы. Эксперимент с умышленно сфальсифицированным набором данных обманул стандартные детекторы аномалий.

Дезинформация от технологических гигантов

Проблема не ограничивается научными кругами. Meta* (признана экстремистской организацией и запрещена в РФ) в своем приложении Meta* AI протестировала ленту «For You», целиком сгенерированную искусственным интеллектом. Результат оказался предсказуемо плачевным: тексты представляли собой кликбейтную «пухлятину» без источников, а изображения публичных людей содержали грубые деформации рук и тел — классические признаки низкокачественной генерации. Алгоритм также использовал «упреждающие карточки» (proactive cards), самостоятельно подбрасывая темы, а не отвечая на запросы.

Отдельные статьи, например, о «поддельных Rolex», оказывались полной фабрикацией от первого лица без указания автора и ссылок на источники.

Это не просто неудачный тест — это симптом системного сбоя в подходе корпораций к созданию контента с помощью нейросетей.

Экономические и этические последствия

Цифры экономического ущерба также начинают приобретать осмысленные масштабы. По оценкам McKinsey, в 2024 году глобальные потери, вызванные галлюцинирующими выходами ИИ, составили 67,4 миллиарда долларов. По данным исследования Searchlight Institute, 45% людей считают, что чат-боты генерируют факты по запросу, не осознавая риск выдумки. Ещё более тревожный вывод: почти половина компаний принимали критически важные решения, основываясь исключительно на недостоверной информации, сгенерированной ИИ.

Есть и судебное измерение проблемы. Только в 2026 году зафиксировано более 700 судебных дел, связанных с ИИ-галлюцинациями, включая случаи сфабрикованных цитат и вымышленных правовых стандартов. Исследования показывают, что LLM галлюцинируют в диапазоне от 69% до 88% в специфических юридических запросах, и 83% опрошенных юристов уже сталкивались со сфабрицированной судебной практикой в ответах ИИ.

Что делать: защита и инструменты верификации

Ситуация требует немедленных ответных мер, и они уже разрабатываются:

• Маркировка ИИ-контента. В Минцифры России предложили ввести обязательную маркировку материалов, созданных искусственным интеллектом, чтобы восстанавливать доверие граждан к публикациям в интернете.
• Инструменты детекции. Созданы специализированные библиотеки: «IntelFlow» для защиты от «инъекций синтетических данных» через валидацию потоков данных на соответствие физической реальности; «Veridex» для вероятностного детектирования ИИ-контента в тексте, изображениях и аудио; и расширение «Resemble AI Deepfake Detector» для мгновенной проверки медиа.
• Методологии верификации. Российская разработка: команда учёных из Университета Решетнева создала методику, позволяющую бороться с «галлюцинациями» нейросетей.
• Эволюция LLM. Современные модели демонстрируют способность обнаруживать сфабрикованную статистику при изолированной проверке (показатели правильной идентификации от 0,76 до 1,00 для изолированной методологии), но не задействуют эту способность при многоисточниковом синтезе. Это указывает на направление дальнейшего совершенствования.

Прогноз и предупреждение

Количество публикаций о галлюцинациях ИИ выросло на 377% за три года (с 2022 по 2025) — и это не случайно. Проблема действительно выходит на первый план технологической повестки.

В то же время способность людей отличать ИИ-контент от человеческого все еще невысока: по данным ВЦИОМ, российские интернет-пользователи в среднем правильно определяют источник текста лишь в шести из десяти случаев.

Это означает, что бремя проверки не может полностью лежать на пользователях — необходимы системные решения на уровне технологий, законодательства и академической этики. Иначе риск подмены реальных данных искусственной статистикой будет только нарастать с каждым новым поколением языковых моделей.

Статьи по теме

Куки и трекеры: какую информацию о вас собирают сайты и как это отключить

Каждый раз, когда вы заходите на любой сайт, почти всегда можно увидеть всплывающее окно: «Продолжая использовать наш сайт, вы да...

2026-07-15

Как Яндекс передал площадкам управление собственным контентом

В начале июня 2026 года «Яндекс» представил инструмент, который кардинально меняет правила игры для российских сервисов объявлен...

2026-06-05

7 причин медленной работы сайта: почему уходят клиенты и как это исправить

Если ваш сайт загружается слишком долго, пользователи не будут ждать — они просто закроют вкладку. В итоге вы теряете не только по...

2026-05-15

Почему сайт работает медленно: проблема может быть не в хостинге, а в нагрузке

Под нагрузкой на хостинг обычно понимают процентное соотношение ресурсов сервера, задействованных в конкретный момент для выпол�...

2026-03-27

5 главных ошибок при разработке сайта и способы их предотвращения

Когда встает вопрос о создании нового интернет-проекта, приходится учитывать множество деталей: платформа, визуальное оформлен�...

2026-03-13

Микроанимация и UX/UI: как движение элементов влияет на конверсию

Статичный визуальный дизайн уходит в прошлое. Современный пользовательский опыт строится на динамике. В мире, где внимание стал�...

2026-02-22

Подписная модель: стратегия, риски и эффективность

Подписная модель обеспечивает стабильный и предсказуемый денежный поток за счёт регулярных (рекуррентных) платежей клиентов. Для одн...

2025-12-23

Интеграция госсайта с внешними системами: от визитки к цифровому сервису

Госсайт должен работать, а не просто существовать. Сейчас люди приходят за услугой, а сталкиваются с ручным вводом данных и невозможно...

2025-12-17

Когда ошибка молчит: как бессмысленные сообщения ломают пользовательский опыт

...

2025-12-02

Оценка эффективности контента: превращаем информационный балласт в рабочий актив

Создание сотен статей и вложение существенных бюджетов в контент-маркетинг еще не гарантирует результат. Если материалы не работают �...

2025-11-26

Когда и зачем обновлять структуру сайта

Ваш сайт можно сравнить с крупным торговым центром: если покупатели постоянно теряются среди бессистемно расположенных отделов �...

2025-11-26

Цифровые двойники: от концепции к практической реализации в бизнесе

Цифровые двойники перешли из категории модной терминологии в разряд реально функционирующих технологий, используемых крупными ...

2025-09-26

Признаки и опасность фейковых компаний

Новые технологии дают бизнесу не только инструменты для развития, но и для скрытых манипуляций. В ход идут фейковые компании — «digital-при�...

2025-09-26

Копирование файлов scp

Если у вас есть домашний сервер или сервер в интернете, то вам понадобится способ для безопасного перемещения файлов между машинами. Ме...

2024-01-25

Core Web Vitals и новая метрика INP: ускорение сайта актуальными методами

Работающие способы оптимизировать сайт для Google Core Web Vitals. Обновленный материал. В статье: Что такое Core Web Vitals от Goog...

2023-12-28