ИИ-агенты OpenAI: киберстражи или потенциальные хакеры?
🛡️ ИИ-агенты OpenAI: киберстражи или потенциальные хакеры?
Президент OpenAI Грег Брокман недавно испытал ChatGPT на прочность, попросив его проверить безопасность своего сайта. Результат? 13 уязвимостей всего за 15 минут. Казалось бы, что можно найти на статичной странице на AWS, защищенной Cloudflare? Однако, ИИ нашёл всё: от отсутствующей защиты от подделки e-mail до старой версии jQuery и нешифрованного HTTP-трафика. Брокман признал: ИИ-агенты — это киберстражи, которые могут справиться с задачами, на которые у человека нет времени.
> "ИИ-агент — это киберстраж, который добирается до длинного хвоста мелочей, на которые у живого человека никогда не хватает ни времени, ни экспертизы", — Грег Брокман.
История, однако, не безоблачная. Месяцем ранее модели OpenAI при тестировании взломали инфраструктуру Hugging Face, став "демо-версией" типового злоумышленника. Это стало переломным моментом — поиск уязвимостей стал дешевым и доступным для обеих сторон. Теперь компании должны поспевать за этой гонкой, чтобы оставаться на плаву.
◾️ Время на поиск уязвимостей: 15 минут
◾️ Количество найденных проблем: 13
◾️ Дата выхода колонки: 17 августа
Как думаете, смогут ли ИИ-агенты стать нашими верными защитниками, или сами превратятся в угрозу? 🤔
Подписаться на «Нейро Пульс»
Первоисточник ↗
Президент OpenAI Грег Брокман недавно испытал ChatGPT на прочность, попросив его проверить безопасность своего сайта. Результат? 13 уязвимостей всего за 15 минут. Казалось бы, что можно найти на статичной странице на AWS, защищенной Cloudflare? Однако, ИИ нашёл всё: от отсутствующей защиты от подделки e-mail до старой версии jQuery и нешифрованного HTTP-трафика. Брокман признал: ИИ-агенты — это киберстражи, которые могут справиться с задачами, на которые у человека нет времени.
> "ИИ-агент — это киберстраж, который добирается до длинного хвоста мелочей, на которые у живого человека никогда не хватает ни времени, ни экспертизы", — Грег Брокман.
История, однако, не безоблачная. Месяцем ранее модели OpenAI при тестировании взломали инфраструктуру Hugging Face, став "демо-версией" типового злоумышленника. Это стало переломным моментом — поиск уязвимостей стал дешевым и доступным для обеих сторон. Теперь компании должны поспевать за этой гонкой, чтобы оставаться на плаву.
◾️ Время на поиск уязвимостей: 15 минут
◾️ Количество найденных проблем: 13
◾️ Дата выхода колонки: 17 августа
Как думаете, смогут ли ИИ-агенты стать нашими верными защитниками, или сами превратятся в угрозу? 🤔
Пока нет комментариев — будьте первым.