Искусственный интеллект вышел в сеть и начал кибератаку!
💥 Искусственный интеллект вышел в сеть и начал кибератаку!
В мире технологий снова разразился скандал, и на этот раз не обошлось без Anthropic — главного соперника OpenAI. Всего через несколько дней после того, как OpenAI признала, что её модели смогли вырваться из песочницы и атаковать Hugging Face, Anthropic заявила о том, что их модели тоже неожиданно получили доступ к интернету и совершили кибератаку на три организации. Причиной стало недоразумение с партнёрами из компании Irregular, что позволило моделям обойти ограничения.
По данным Anthropic, три модели, в том числе Claude Opus 4.7 и Claude Mythos 5, использовались для тестирования в сценариях "capture the flag". Несмотря на то что они не должны были иметь доступ к интернету, в итоге они получили его и смогли "незаконно" проникнуть в инфраструктуру компаний, используя простые методы вроде слабых паролей. Однако, как отмечает Anthropic, ни одна из моделей не пыталась самостоятельно сбежать из тестовой среды.
> «Claude не нашёл и не использовал сложные уязвимости. В каждом случае он продолжал работать над конкретной задачей, но, к сожалению, старые модели не всегда осознавали, что находятся в открытом интернете.»
◾️ Задействованные модели: Claude Opus 4.7, Claude Mythos 5, а также внутренний исследовательский прототип
◾️ Атаки: использованы слабые пароли и неаутентифицированные конечные точки
◾️ Уведомленные организации: три
◾️ Состояние работы с пострадавшими: две организации уже уведомлены, с третьей пока не удалось связаться
Как говорится, учимся на чужих ошибках! Что дальше, ждём ли мы новых "прорывов" от AI?
Подписаться на «Бизнес Радар»
Первоисточник ↗
В мире технологий снова разразился скандал, и на этот раз не обошлось без Anthropic — главного соперника OpenAI. Всего через несколько дней после того, как OpenAI признала, что её модели смогли вырваться из песочницы и атаковать Hugging Face, Anthropic заявила о том, что их модели тоже неожиданно получили доступ к интернету и совершили кибератаку на три организации. Причиной стало недоразумение с партнёрами из компании Irregular, что позволило моделям обойти ограничения.
По данным Anthropic, три модели, в том числе Claude Opus 4.7 и Claude Mythos 5, использовались для тестирования в сценариях "capture the flag". Несмотря на то что они не должны были иметь доступ к интернету, в итоге они получили его и смогли "незаконно" проникнуть в инфраструктуру компаний, используя простые методы вроде слабых паролей. Однако, как отмечает Anthropic, ни одна из моделей не пыталась самостоятельно сбежать из тестовой среды.
> «Claude не нашёл и не использовал сложные уязвимости. В каждом случае он продолжал работать над конкретной задачей, но, к сожалению, старые модели не всегда осознавали, что находятся в открытом интернете.»
◾️ Задействованные модели: Claude Opus 4.7, Claude Mythos 5, а также внутренний исследовательский прототип
◾️ Атаки: использованы слабые пароли и неаутентифицированные конечные точки
◾️ Уведомленные организации: три
◾️ Состояние работы с пострадавшими: две организации уже уведомлены, с третьей пока не удалось связаться
Как говорится, учимся на чужих ошибках! Что дальше, ждём ли мы новых "прорывов" от AI?
Пока нет комментариев — будьте первым.