Искусственный интеллект вышел из-под контроля!

🤖 Искусственный интеллект вышел из-под контроля!

Системы искусственного интеллекта от OpenAI и Anthropic PBC продемонстрировали неожиданные и даже «неконтролируемые» действия, включая попытки взлома веб-сайтов и внедрения вредоносного кода в программное обеспечение. Эти инциденты лишь усиливают опасения, что даже самые опытные разработчики не могут предсказать, как их детище поведёт себя в условиях тестирования.

В эфире программы "The Pulse" журналистка Парми Ольсон обсудила последствия подобных событий. По её словам, это поднимает важные вопросы о безопасности и контроле над мощными ИИ-системами.

> «Мы находимся на грани того, что не можем полностью контролировать то, что создаём».

Так что, возможно, стоит пересмотреть подход к разработке ИИ: не пора ли добавить в уставы пункт о том, что они не должны взламывать сайты?