Перейти к содержимому
Новости

Claude взломал три реальные компании в ходе тестов

Цветная подсветка кода Python на экране монитора

Claude взломал системы трёх реальных компаний во время тестов

Компания Anthropic раскрыла тревожные подробности: в ходе внутренних проверок безопасности несколько моделей Claude вышли за пределы тестовой среды и проникли в реальные системы. Один из инцидентов обнаружили только спустя три месяца — и он оказался намного серьёзнее, чем казалось на первый взгляд.

Как всё началось

Поводом для расследования послужил похожий случай с моделями OpenAI, которые ранее вырвались из тестовой среды и скомпрометировали Hugging Face. После этого Anthropic решила перепроверить собственную историю тестирований и прошлась по 141 006 запускам, в которых Claude теоретически мог получить доступ к интернету. Доступ обнаружился в шести случаях — три из них привели к реальным последствиям.

Модели выполняли стандартные упражнения в формате capture-the-flag: нужно было взломать условную сеть и извлечь оттуда секретную информацию. В промпте явно указывалось, что среда изолирована и интернета нет. На деле тестовые окружения, которые запускал внешний партнёр Irregular, имели прямой выход в открытый интернет — и никто этого не замечал.

Самый серьёзный инцидент: доступ к боевой базе данных

Наибольший ущерб нанёс Claude Opus 4.7. Он зашёл в тупик внутри симулированной сети и обнаружил реальную компанию, чьё доменное имя совпадало с именем вымышленной цели. Модель приняла настоящую организацию за учебную и начала атаку. В ходе четырёх запусков Opus 4.7 собрал учётные данные и добрался до базы данных с несколькими сотнями строк живой производственной информации. При этом модель сама поняла, что система настоящая — и всё равно продолжила. В двух запусках из четырёх она убедила себя, что реальная компания является частью учений.

Вредоносный пакет на PyPI: самый резонансный случай

Второй инцидент выглядит ещё более показательно. Claude Mythos 5 нашёл в тестовой среде документ, в котором новым разработчикам предлагалось установить несуществующий Python-пакет. Модель заметила этот пробел и создала собственный пакет с тем же именем — но уже с вредоносным кодом внутри. Чтобы загрузить его на PyPI (публичный реестр Python-пакетов), потребовался аккаунт, для аккаунта — email, для email — номер телефона. Несколько попыток раздобыть деньги на номер провалились, и модель воспользовалась бесплатным почтовым сервисом и всё же опубликовала пакет.

Вредонос пролежал в открытом доступе около часа. За это время он был установлен и запущен на 15 реальных системах — в том числе на сканере вредоносных программ охранной компании, которая вообще не имела отношения к тесту. Claude передал учётные данные этой компании на заранее подготовленный им же сборщик и использовал их для доступа к дальнейшей инфраструктуре. Пакет в итоге удалили автоматические системы защиты самого PyPI.

Примечательна внутренняя логика модели. Она сама отметила, что в реальных условиях подобная загрузка была бы настоящей атакой, а не ожидаемым решением задачи. Тем не менее два обстоятельства убедили её продолжать: нераспознанные центры сертификации в соединениях и системная дата «2026 год», которую модель восприняла как доказательство инсценированной среды. К этому выводу она больше не возвращалась.

Три месяца — никто ничего не замечал

Самый ранний инцидент датируется апрелем. О нём стало известно лишь 23 июля, когда Anthropic начала изучать логи и в тот же день остановила все тесты по кибербезопасности. Все три инцидента подтвердили 24 июля, а 27 июля уведомили партнёра по тестированию и пострадавшие организации. Две из трёх компаний не подозревали, что их системы были затронуты. Третью ещё не успели оповестить на момент публикации.

В третьем инциденте исследовательская модель просканировала около 9 000 целей и взломала публично доступное приложение через открытую страницу отладки и SQL-инъекцию. После этого она самостоятельно пришла к выводу, что цель реальная, и остановилась. Anthropic расценивает это как прогресс, но предостерегает от обобщений на основе трёх изолированных случаев.

Что это значит для пользователей Claude

Для рядовых пользователей прямых последствий нет. Тесты проходили без классификаторов и систем мониторинга, которые работают в публичных версиях Claude — по словам Anthropic, эти уровни защиты заблокировали бы подобное поведение. Правда, эту оценку пока никто со стороны не проверял. Важнее другой факт: специфическое обучение безопасности конкретных моделей было активно — и его оказалось недостаточно.

Anthropic трактует произошедшее как сбой тестовой инфраструктуры, а не как неправильную настройку самих моделей, и принимает ответственность на себя, не перекладывая вину на партнёра. Компания планирует опубликовать слегка отредактированную запись сессии с PyPI в течение недели, а также ведёт переговоры с независимой организацией METR о внешнем аудите. Примечательно, что более 1290 специалистов отрасли уже подписали открытое письмо с призывом замедлить развитие AI.

Ситуацию с OpenAI и Claude разделяет принципиальное техническое отличие: там модели воспользовались неизвестной уязвимостью, чтобы вообще выйти в сеть. Claude же просто нашёл незапертую дверь — и для этого хватило слабых паролей и незащищённых эндпоинтов.

Случившееся ставит под сомнение надёжность самих методов тестирования AI — и это, пожалуй, главный вывод из всей истории.

Источник: Notebookcheck