Рубрика: ИИ · Формат: Ликбез
---
Анонс
В редакции «Цифры» каждый текст проходит через пять ИИ-агентов. Рассказываем, как устроен конвейер и почему машина ловит ошибки, которые пропускает человек.
---
Тело
Одна цифра — и всё рухнуло
Февраль 2023 года. Крупное европейское издание выпустило разбор финансовых показателей технологической компании. В тексте стояло «рост на 17%». В пресс-релизе источника — «рост на 71%». Разница в одну цифру. Опечатка превратила сенсацию в катастрофу: акции отреагировали, читатели написали жалобы, редактор ушёл на больничный от стресса.
Этот случай не уникальный — он типичный. По данным Reuters Institute Digital News Report 2024, около 59% редакций в мире называют фактические ошибки одним из главных поводов для потери доверия аудитории. При этом большинство ошибок — не выдумки, а именно механические промахи: перепутанные цифры, неверные даты, неточные имена.
Человек читает текст в темпе. Он устаёт. Он «знает» правильный ответ и подсознательно пропускает то, что ему кажется знакомым. ИИ-фактчекер не знает ничего заранее — он сравнивает каждый символ с источником. Именно поэтому машина в рутинной проверке точнее человека.
---
Если совсем просто
ИИ-фактчекинг — это автоматическая проверка утверждений в тексте по базе источников. Программа разбивает текст на отдельные факты, ищет каждый факт в верифицированных источниках и выдаёт вердикт: совпадает, расходится или не найдено.
>
Человек может проверить 10–15 фактов за час. ИИ-фактчекер — за секунды.
---
Как работает ИИ-фактчекинг: три слоя
Современный ИИ-фактчекер — это не одна программа, а конвейер из нескольких компонентов. Разберём по слоям.
Слой 1: Извлечение утверждений
Текст поступает в языковую модель (LLM), которая разбивает его на список проверяемых утверждений. Например, из предложения «В 2024 году Яндекс выручил 1,1 трлн рублей» извлекается факт: «Яндекс, 2024 год, выручка, 1,1 трлн рублей». Тривиальные утверждения — «небо синее», «Москва — столица России» — в список не включаются, чтобы не перегружать систему.
Слой 2: Поиск по источникам (RAG)
Здесь вступает технология RAG — Retrieval-Augmented Generation, то есть «генерация с опорой на найденные документы». Система берёт каждое утверждение и ищет релевантные источники: пресс-релизы, официальную отчётность, новостные агентства, Wikipedia. Найденные фрагменты подаются в языковую модель вместе с утверждением.
Без RAG модель работала бы «по памяти» — то есть по своим обучающим данным, которые могут быть устаревшими. С RAG она работает с актуальными первоисточниками.
Слой 3: Верификация и вердикт
LLM сравнивает утверждение из текста с тем, что нашла в источниках, и выносит один из вердиктов:
- Подтверждено — цифра или факт совпадает с источником
- Расхождение — зафиксировано конкретное несоответствие (с указанием, что именно не совпало)
- Не найдено — источник по данной теме не обнаружен
- Спорно — источники противоречат друг другу
Вердикт «Расхождение» — это не обвинение в фальсификации. Чаще всего это опечатка, устаревшие данные или неверно прочитанная таблица.
---
Конвейер «Цифры»: пять агентов
В редакции «Цифры» выстроен конвейер из пяти ИИ-агентов — специализированных программ, каждая из которых отвечает за свой этап:
1. Юрист-А — проверяет исходный источник: нет ли в нём дефамации, нарушений 152-ФЗ, скрытой рекламы. Работает независимо.
2. Юрист-Б — делает то же самое, но с другой инструкцией и другим контекстом. Два независимых вердикта снижают вероятность ошибки. Если Юрист-А и Юрист-Б расходятся — текст уходит на ручную проверку редактора.
3. Автор — пишет текст строго из предоставленного источника. Ключевое ограничение: агент не имеет права добавлять факты из «общих знаний» — только из переданного документа.
4. Фактчекер — сравнивает каждое утверждение в готовом тексте с исходником. Если автор написал «17%», а в источнике «18%» — фиксируется расхождение. Фактчекер не исправляет сам, а составляет список замечаний.
5. Редактор — проверяет стиль, структуру, соответствие редакционным стандартам. Финальный текст уходит главному редактору — человеку — на утверждение.
Среднее число итераций на текст: 1,9. Среднее число вызовов LLM: 9. Среднее время от источника до публикации: 8 минут.
---
Реальный кейс: DeepSeek-R1
В январе 2025 года редакция «Цифры» готовила новость о выходе модели DeepSeek-R1. В черновике стояло: «разработка обошлась в 17 миллионов долларов». Фактчекер сравнил это с первоисточниками (публикации самой DeepSeek, материалы Reuters и Bloomberg) и выдал расхождение: источники указывают сумму 6 миллионов долларов.
Без фактчекера статья ушла бы с неверной цифрой. Исправление заняло 30 секунд — одно нажатие кнопки «Применить правку».
Этот кейс описан в документации PIPELINE-TEST.md и использовался для первичной валидации системы.
---
Человек vs ИИ-фактчекер: честное сравнение
| Параметр | Человек-фактчекер | ИИ-фактчекер |
|---|---|---|
| Скорость проверки 12 фактов | 20–40 минут | 30–60 секунд |
| Усталость | Нарастает за смену | Отсутствует |
| Охват источников | Ограничен временем | Тысячи документов одновременно |
| Понимание контекста | Высокое | Среднее |
| Работа с нюансами | Высокое | Зависит от модели |
| Обнаружение опечаток в цифрах | Среднее | Высокое |
| Обнаружение манипуляций | Высокое | Низкое |
| Стоимость | Высокая | Низкая при масштабе |
Вывод из таблицы очевиден: ИИ не заменяет человека, а берёт на себя рутинный слой — проверку фактических совпадений. Человек остаётся незаменимым для анализа манипуляций, оценки тона, работы с контекстом.
---
Инструменты: российские и международные
Международные:
- Full Fact (Великобритания) — старейший автоматизированный фактчекер, работает с 2010 года. С 2020 года использует ИИ для мониторинга заявлений политиков в реальном времени. Open-source компонент доступен на GitHub.
- ClaimBuster (США, University of Texas) — классифицирует утверждения как «проверяемые» или «непроверяемые» ещё до верификации. Экономит ресурсы: из 100 утверждений реальной проверки требуют лишь 20–30.
- Google Fact Check Tools — агрегатор верифицированных фактчеков от ведущих организаций. API доступен для редакций.
Российские:
- АНО «Диалог Регионы» — система мониторинга фейков в регионах, работает с 2020 года. Использует машинное обучение для классификации ложной информации в социальных сетях. Интегрирована с платформами Вконтакте и Одноклассники.
- Яндекс.Новости — встроенные механизмы проверки достоверности источников на основе рейтинга издания и перекрёстных ссылок.
- Собственные решения крупных редакций — «Коммерсантъ», РБК, «Медуза» (иностранный агент) используют внутренние системы на базе open-source LLM для предпубликационной проверки.
---
Ограничения и риски
Честный разговор об ИИ-фактчекинге невозможен без признания его слабых сторон.
Галлюцинации модели. LLM иногда «уверенно» сообщает о совпадении там, где его нет, или наоборот — фиксирует расхождение в несуществующем. Решение: обязательная ссылка на конкретный фрагмент источника в вердикте. Если ссылка есть — проверить можно. Если нет — вердикт недействителен.
Устаревшие данные. Если в базе источников нет актуальных документов, фактчекер выдаёт «Не найдено» — и это не значит «ложь». Это значит «у нас нет данных». Редакции должны регулярно обновлять базу источников.
Тонкие манипуляции. ИИ плохо улавливает ситуацию, когда каждый факт формально верен, но их сочетание создаёт ложную картину. Классический пример: «В стране зафиксировано 1000 случаев болезни Х» (правда) + «В соседней стране — 950» (правда) = подразумевается, что у нас хуже. ИИ-фактчекер пропустит эту конструкцию.
Зависимость от качества источников. Если в базе только пресс-релизы компаний — фактчекер будет их подтверждать. Мусор на входе — мусор на выходе. Это требует тщательного отбора источников редакцией.
Языковые барьеры. Большинство качественных инструментов заточены под английский язык. Русскоязычный фактчекинг — это нишевая и пока слабо развитая область. Модели типа GigaChat и YandexGPT улучшают ситуацию, но до уровня GPT-4 или Claude по точности работы с фактами пока не дотягивают на специализированных задачах.
---
Как редакции внедряют это сейчас
По данным Reuters Institute 2024, около 23% крупных мировых редакций уже используют какой-либо вид автоматизированной проверки фактов — хотя бы на уровне проверки цифр в пресс-релизах.
Типичная схема внедрения выглядит так:
Шаг 1: Определить область применения. Начинать со 100% автоматизации — ошибка. Лучше взять один тип контента: например, финансовые новости или официальные пресс-релизы. Там числа верифицируемы, источники официальны.
Шаг 2: Выбрать архитектуру. Большинство редакций используют RAG поверх существующей LLM (GPT-4, Claude, GigaChat) плюс собственная база источников. Это дешевле, чем дообучение модели.
Шаг 3: Встроить в пайплайн, не заменить его. Фактчекер — это дополнительный экран перед публикацией, а не замена редактора. Все вердикты «Расхождение» и «Не найдено» должны видеть живые люди.
Шаг 4: Измерять. Сколько расхождений найдено? Сколько из них реальные ошибки? Сколько — ложные срабатывания? Без метрик невозможно улучшать систему.
В «Цифре» каждое срабатывание фактчекера логируется. Читатель может открыть AI-протокол статьи и увидеть, какие факты были проверены и какой вердикт вынесен. Это не маркетинговый ход — это часть редакционной политики прозрачности.
---
Запомни
- ИИ-фактчекинг — это автоматическая сверка фактов в тексте с базой источников
- Он быстр и точен в рутинных проверках цифр и дат, но не заменяет редактора
- Ключевая технология — RAG: поиск по актуальным документам перед ответом модели
- Главные риски: галлюцинации модели, манипулятивные конструкции из верных фактов, языковые ограничения
- Внедрять лучше поэтапно — начинать с одного типа контента, измерять результат
---
Подвал
- Термины: фактчек, LLM, ИИ-агент, RAG
- Связанные: Протокол ИИ, PIPELINE-TEST.md, статья «Что такое RAG»
- ТЗ картинка: Схема конвейера — 5 кругов (агентов) соединённых стрелками, от «Источник» до «Публикация». ЧБ, оранжевый акцент на фактчекере.
---
Источники: внутренняя документация редакции «Цифра» (PIPELINE-TEST.md), Reuters Institute Digital News Report 2024, Duke Reporters' Lab (автоматизированный фактчекинг, 2023), Full Fact (fullfact.org), АНО «Диалог Регионы».
AI Protocol: материал подготовлен редакцией «Цифра».