Anthropic раскрывает секрет невидимых водяных знаков текста Claude!

🔍 Anthropic раскрывает секрет невидимых водяных знаков текста Claude!

Компания Anthropic объявила о своем намерении внедрить невидимые водяные знаки в тексты, генерируемые их ИИ Claude, чтобы соответствовать требованиям прозрачности искусственного интеллекта в Европе. В пятницу они поделились, что новая система маркировки текста является "версией подхода SynthID-Text", разработанного Google DeepMind. Этот открытый метод создаёт обнаружимые паттерны, основываясь на вероятностях слов, что позволяет легко идентифицировать сгенерированный контент.

Эта функция водяных знаков, в сочетании с поддержкой C2PA для изображений, поможет Anthropic выполнить обязательства по новому закону ЕС о ИИ. Важно отметить, что этот закон требует наличия машинно-читаемых меток для синтетического аудио, изображений, видео и текста, чтобы пользователи могли понимать, что они имеют дело с контентом, созданным ИИ.

> “Система маркировки текста Claude - это шаг к обеспечению прозрачности и ответственности в использовании ИИ”.

Так что, как вы думаете, сможет ли эта технология завоевать доверие пользователей или мы всё равно будем сомневаться в подлинности текста?