Как "заборы" от OpenAI и Anthropic тормозят киберпанков

🔒 Как "заборы" от OpenAI и Anthropic тормозят киберпанков

Кибербезопасность — дело тонкое. Исследователи по всему миру находятся в постоянной гонке, пытаясь опередить злоумышленников. Но что, если на пути к прогрессу встают сами технологии? Речь о "заборах", которые ставят OpenAI и Anthropic. Эти компании, чтобы предотвратить злоупотребления, внедряют строгие ограничения на свои ИИ-инструменты. Казалось бы, благое дело, но для исследователей, ищущих уязвимости и разрабатывающих инструменты для их проверки, это может стать настоящим тормозом.

Подумайте сами: как изучать слабые места, если ИИ-помощник отказывается работать с "опасными" запросами? Исследователи говорят, что это похоже на работу с завязанными глазами — и это не преувеличение. Пока злоумышленники свободно тестируют системы, легальные специалисты вынуждены изобретать обходные пути, чтобы не нарушать правила.

> "Мы находимся в ситуации, где правила мешают нам защищать данные", — жалуется один из специалистов.

◾️ Ограничения: блокировка "опасных" запросов
◾️ Компании: OpenAI и Anthropic
◾️ Последствия: замедление исследований

Похоже, что в борьбе добра и зла ИИ пока не определился, на чьей он стороне. А что думаете вы?