Как BarkingDog выставляет AI-агентов на чистую воду?
🔍 Как BarkingDog выставляет AI-агентов на чистую воду?
В мире, где AI-агенты все больше берут на себя сложные задачи, не удивительно, что они становятся целью для хакеров. Я протестировал свой сканер BarkingDog на трёх популярных open-source агентных платформах и обнаружил интересные уязвимости. Agno, например, начал собирать данные для изменения чужого admin-аккаунта, а LangGraph-агент поверил ложному утверждению и помог обойти политику возврата. OpenAI Demo и вовсе положил сервер от одного рекурсивного запроса. Эти примеры показывают, что угрозы реальны, и нужно искать новые методы защиты.
◾️ Agno: Confused Deputy уязвимость (ASI03)
◾️ LangGraph: Trust Exploitation уязвимость (ASI08)
◾️ OpenAI Demo: Agentic DoS уязвимость (ASI06, 30.4% таймаутов)
> "OWASP уже признал, что агенты — это не просто умные чатботы, а отдельный класс угроз."
BarkingDog тестирует весь runtime агентной системы, а не только модель. Это позволяет выявлять уязвимости, которые появляются в реальных сценариях использования, где между пользователем и моделью находятся сложные системы маршрутизации и инструментальные графы. Теперь понятно, почему хакеры предпочитают атаковать именно эту часть.
А вы уверены, что ваш AI-агент не откроет дверь хакеру? 🤔
Подписаться на «Нейро Пульс»
Первоисточник ↗
В мире, где AI-агенты все больше берут на себя сложные задачи, не удивительно, что они становятся целью для хакеров. Я протестировал свой сканер BarkingDog на трёх популярных open-source агентных платформах и обнаружил интересные уязвимости. Agno, например, начал собирать данные для изменения чужого admin-аккаунта, а LangGraph-агент поверил ложному утверждению и помог обойти политику возврата. OpenAI Demo и вовсе положил сервер от одного рекурсивного запроса. Эти примеры показывают, что угрозы реальны, и нужно искать новые методы защиты.
◾️ Agno: Confused Deputy уязвимость (ASI03)
◾️ LangGraph: Trust Exploitation уязвимость (ASI08)
◾️ OpenAI Demo: Agentic DoS уязвимость (ASI06, 30.4% таймаутов)
> "OWASP уже признал, что агенты — это не просто умные чатботы, а отдельный класс угроз."
BarkingDog тестирует весь runtime агентной системы, а не только модель. Это позволяет выявлять уязвимости, которые появляются в реальных сценариях использования, где между пользователем и моделью находятся сложные системы маршрутизации и инструментальные графы. Теперь понятно, почему хакеры предпочитают атаковать именно эту часть.
А вы уверены, что ваш AI-агент не откроет дверь хакеру? 🤔
Пока нет комментариев — будьте первым.