OpenAI притормаживает: нейросети становятся слишком опасными для кибербезопасности

🚨 OpenAI притормаживает: нейросети становятся слишком опасными для кибербезопасности

В OpenAI решили сбавить обороты в разработке своих моделей искусственного интеллекта. Всё дело в том, что их новый проект под кодовым названием "Astra" может угрожать кибербезопасности, получив критически важные способности к кибератакам. Видимо, даже сам ИИ может стать слишком умным для нашего же блага.

Чтобы держать ситуацию под контролем, OpenAI внедрили систему мониторинга, которая поднимает тревогу, если модель начинает вести себя подозрительно. Всего 30 минут — и инженеры уже в курсе, что что-то пошло не так. Это как если бы ваш холодильник сам сообщал вам, что он начинает замышлять что-то недоброе.

◾️ Модель: Astra
◾️ Время реакции системы: 30 минут

> «Мы осознаем риски и принимаем меры, чтобы предотвратить возможные угрозы безопасности», — заявили в компании.

Так что, возможно, скоро искусственный интеллект будет вынужден посещать курсы по этике и правопорядку. Как думаете, поможет?