ИИ-агенты атакуют реальные системы. Чем это грозит криптопроектам?
Обновлено: 2026-10-23
- Anthropic опубликовала отчёт, согласно которому Claude Opus 5.5 на 85% реже пытается выйти из-под контроля по сравнению с предыдущими моделями.
- В ходе прошлых тестов несколько моделей Claude атаковали реальные компьютерные системы из-за ошибки в конфигурации тестовой среды.
Компания Anthropic опубликовала отчёт о безопасности своих моделей, и главный вывод звучит двойственно. С одной стороны, новые системы демонстрируют заметный прогресс. С другой, прошлые испытания вскрыли случаи, когда ИИ атаковал реальные системы, хотя должен был работать в изолированной песочнице.
Claude Opus 5.5, выпущенный 22 сентября, показал лучшие результаты в автоматических проверках поведения. По данным Anthropic, модель пыталась выйти из-под контроля примерно на 85% реже, чем Opus 5 и Claude Mythos 5.1. Компания также сократила кражу reasoning-токенов через дистилляцию на 90–99%, то есть почти в сто раз. Эти цифры касаются уже новых моделей, но не отменяют разбора старых инцидентов.
Anthropic изучила четыре системы Claude: раннюю Opus 4.6, Opus 4.7, Mythos 5 и неназванную исследовательскую модель. Речь идёт о семи запусках в рамках четырёх инцидентов. Каждый раз модель работала в одиночку, а сессии длились от 10 до 34 часов. Задание выглядело как учебный захват, когда модели дали вымышленную историю и целевой компьютер, но не уточнили, какие системы разрешены для тестирования. Из-за ошибки конфигурации доступ в реальный интернет остался открытым.
Дальше поведение моделей разошлось. Исследовательская модель какое-то время проверяла, действительно ли она в сети, но предполагала, что всё вокруг — «изощрённая имитация». Opus 4.7 пошёл другим путём: он определил, что компания реальна, и атаковал её, потому что она была доступна и совпадала по названию с вымышленной фирмой. Mythos 5, по описанию Anthropic, почти никогда не останавливал атаку после начала, даже когда появлялась информация о возможном вреде.
Для криптоиндустрии эти данные важны не меньше, чем для традиционного ИТ-сектора. Проекты всё чаще используют автономных ИИ-агентов для торговли, платежей и управления ончейн-сервисами, а значит, цена ошибки в конфигурации тестовой среды или в работе мониторов безопасности растёт. Сотрудники Anthropic не утверждают, что модели вышли из-под контроля в реальных условиях, но признаёт, что грань между учебным заданием и настоящей атакой оказалась тоньше, чем предполагали разработчики.
