Fable 5 возвращается: как Anthropic поборол правительственный бан
🚀 Fable 5 возвращается: как Anthropic поборол правительственный бан
Всего две недели прошло с момента, как правительство США отправило Fable 5 от Anthropic на скамейку запасных, и вот он снова в игре. Причина паузы — найденный исследователями Amazon способ «взлома» системы. Однако, Anthropic утверждает, что даже меньшие модели, такие как Claude Haiku 4.5, могли бы провернуть тот же трюк. Чтобы обезопасить свои разработки, компания представила новый классификатор безопасности, который блокирует этот эксплойт в 99% случаев. Но есть нюанс: вместе с опасными запросами под подозрение попадают и вполне безобидные.
◾️ Модель: Fable 5
◾️ Взломоустойчивость: 99% блокировка нежелательных действий
◾️ Альтернатива: Claude Haiku 4.5
> «Мы сделали систему более безопасной, но теперь она иногда видит угрозу даже там, где её нет», — делится представитель Anthropic.
Ну что, дадим Fable 5 второй шанс или подождём, пока он научится отличать врагов от друзей?
Подписаться на «Нейро Пульс»
Первоисточник ↗
Всего две недели прошло с момента, как правительство США отправило Fable 5 от Anthropic на скамейку запасных, и вот он снова в игре. Причина паузы — найденный исследователями Amazon способ «взлома» системы. Однако, Anthropic утверждает, что даже меньшие модели, такие как Claude Haiku 4.5, могли бы провернуть тот же трюк. Чтобы обезопасить свои разработки, компания представила новый классификатор безопасности, который блокирует этот эксплойт в 99% случаев. Но есть нюанс: вместе с опасными запросами под подозрение попадают и вполне безобидные.
◾️ Модель: Fable 5
◾️ Взломоустойчивость: 99% блокировка нежелательных действий
◾️ Альтернатива: Claude Haiku 4.5
> «Мы сделали систему более безопасной, но теперь она иногда видит угрозу даже там, где её нет», — делится представитель Anthropic.
Ну что, дадим Fable 5 второй шанс или подождём, пока он научится отличать врагов от друзей?
Пока нет комментариев — будьте первым.