Компания Anthropic разрабатывает систему Mythos — автономный ИИ-агент, способный самостоятельно искать уязвимости в программном обеспечении и проводить кибератаки в тестовых условиях. Проект стал известен широкой публике после того, как группа пользователей Discord получила к нему несанкционированный доступ.
Что такое Mythos
По данным Nature и Wired, Mythos — это исследовательский проект Anthropic в области автономных ИИ-агентов для кибербезопасности¹. Система может формулировать цепочки атак, находить известные и неизвестные уязвимости в коде, генерировать эксплойты и проверять их работоспособность в изолированной среде.
Anthropic позиционирует Mythos как инструмент «наступательной безопасности» — аналог работы этичных хакеров (red team), только автоматизированный. Идея не нова: подобные инструменты разрабатывают DARPA, компании Google Project Zero и Microsoft Security Research. Уникальность Mythos — в использовании крупной языковой модели (Claude) как движка рассуждений.
Инцидент с несанкционированным доступом
Согласно материалу Wired, группа пользователей Discord, изучающих ИИ-безопасность, случайно обнаружила незащищённый эндпойнт, связанный с тестовой версией Mythos². Они получили возможность отправлять запросы системе и наблюдать её вывод в течение нескольких часов, после чего Anthropic закрыл доступ.
Компания подтвердила инцидент, уточнив, что никакого вреда нанесено не было: Mythos работал в изолированной «песочнице» без доступа к реальным системам. Тем не менее сам факт утечки вызвал вопросы о практиках безопасности при разработке потенциально опасных ИИ-инструментов.
Дискуссия в сообществе
Инцидент обострил давнюю дискуссию в области ИИ-безопасности: насколько этично создавать автономные системы кибератак, даже в «оборонительных» целях?
Аргументы «за»: автоматизация поиска уязвимостей позволяет защитникам действовать быстрее, чем атакующие-люди. Компании смогут непрерывно тестировать свои системы без привлечения дорогостоящих специалистов.
Аргументы «против»: подобные инструменты неизбежно будут скомпрометированы и окажутся в руках злоумышленников — как уже показал инцидент с Mythos. Кроме того, ИИ-агент, обученный на реальных атаках, потенциально способен выявлять уязвимости нулевого дня быстрее существующих CVE-баз.
Российский контекст
Тема актуальна для России с нескольких сторон. Отечественные компании — Positive Technologies, «Лаборатория Касперского», BI.ZONE — активно инвестируют в автоматизацию кибербезопасности. Применение ИИ в red team уже обсуждается в профессиональных кругах.
Регуляторный аспект: ФСТЭК России и ФСБ в своих методических рекомендациях пока не выработали позицию относительно ИИ-инструментов для тестирования на проникновение. Использование зарубежных ИИ-агентов для аудита критической инфраструктуры в России формально противоречит требованиям об импортозамещении и защите КИИ.
---
¹ Источник: Nature — https://www.nature.com/articles/d41586-026-01218-1
² Источник: Wired — https://www.wired.com/story/security-news-this-week-discord-sleuths-gained-unauthorized-access-to-anthropics-mythos/