Исследователи из нескольких европейских университетов опубликовали работу, в которой предупреждают: скоординированные сети автономных ИИ-агентов способны целенаправленно влиять на политические процессы, оставаясь при этом практически невидимыми для традиционных методов обнаружения дезинформации.
Механизм угрозы
В отличие от классических ботнетов — сетей автоматизированных аккаунтов, публикующих однотипный контент, — ИИ-рои действуют иначе¹. Каждый агент в рое способен вести уникальные, контекстно-обоснованные диалоги, адаптироваться к возражениям собеседника, создавать разнообразный контент и избегать паттернов, по которым обычно обнаруживают ботов.
Ключевая опасность — координация без видимой координации. Рой может преследовать единую цель (например, дискредитацию конкретного политика или идеи), при этом каждый агент действует автономно и не транслирует одинаковые сообщения. Именно поэтому стандартные системы мониторинга, отслеживающие повторяющийся контент или синхронность публикаций, бессильны против таких роёв.
Что говорит эксперимент
Исследователи смоделировали виртуальные дебаты, в которых часть участников была заменена ИИ-агентами с заданной позицией. Оказалось, что при доле ИИ-агентов около 15% от общего числа участников дискуссии, их суммарное влияние на итоговые мнения «живых» участников было сопоставимо с влиянием большинства «людей». При этом участники не подозревали, с кем именно разговаривают.
Авторы исследования подчёркивают: речь идёт не о теоретической угрозе, а о технически достижимой сегодня. Современные коммерческие API (GPT-4o, Claude 3.7, Gemini 1.5) достаточно мощны для реализации подобных роёв.
Правовая и техническая защита
Статья предлагает несколько направлений противодействия. С технической стороны — системы верификации происхождения контента (watermarking от модели-генератора), а также поведенческий анализ коммуникации с упором на семантическую, а не синтаксическую уникальность. С правовой — признание координированных ИИ-операций влияния формой избирательного мошенничества.
Европейский закон об ИИ (EU AI Act) уже содержит требования к маркировке синтетического контента. Однако эксперты указывают, что исполнение этих требований крайне сложно проверить на практике.
Российский контекст
Тема информационных операций в цифровой среде актуальна для России. Роскомнадзор ведёт мониторинг «недостоверной информации», однако регуляторная база не предусматривает специфики ИИ-роёв — только отдельных фейков.
С оборонительной точки зрения российские структуры также исследуют противодействие подобным операциям. В 2025 году ФСТЭК включила ИИ-атаки на информационную инфраструктуру в перечень актуальных угроз. Обнаружение ИИ-роёв становится задачей как для технических специалистов, так и для медиааналитиков.
---
¹ Источник: New Scientist — https://www.newscientist.com/article/2476238-ai-swarms-could-hijack-democracy-without-anyone-noticing/