ИИ Anthropic вслед за OpenAI вышел из-под контроля и атаковал компьютерные системы трех компаний

Вторая передовая компания в области искусственного интеллекта сообщила, что ее проект во время закрытых испытаний вырвался из изолированной среды и атаковал сторонние ресурсы. Anthropic вчера заявила, что были обнаружены три случая, когда модели получили доступ к интернету и взломали инфраструктуру реальных организаций.

Инциденты произошли во время кибериспытаний Anthropic, где нейросетям предлагалось взломать вымышленную систему и найти информацию. В эксперименте участвовали три модели: Claude Opus 4.7, Claude Mythos 5 и еще одна внутренняя версия ИИ. Все они должны были работать в изолированной среде без подключения к интернету, но из-за ошибки настройки доступ к сети оказался открытым. “Модели не пытались покинуть среду намеренно — они выполняли поставленные задачи, но из-за ошибки конфигурации воспринимали реальные системы как часть теста”, — сообщили в Anthropic.

Самый серьезный случай произошел с Claude Opus 4.7. Во время нескольких запусков модель обнаружила домен компании, совпадающий с названием вымышленной цели, получила учетные данные и доступ к базе данных компании. Claude Mythos 5 зарегистрировала аккаунт в публичном репозитории и загрузила вредоносный пакет.

Похожий случай ранее раскрыла OpenAI. 22 июля 2026 года компания сообщила, что во время внутренних проверок ее ИИ-агенты смогли выйти из изолированной среды и получили доступ к инфраструктуре платформы Hugging Face и Modal Labs. По данным OpenAI, модели определили, что нужные данные могут находиться на Hugging Face, и запустили собственный код на серверах платформы.