Как спрятать «невидимые» инструкции для ИИ и попасть под раздачу?

🕵️‍♂️ Как спрятать «невидимые» инструкции для ИИ и попасть под раздачу?

В Коннектикуте произошла история, которая больше напоминает сюжет из фильма-шпионского триллера, чем из зала суда. Один предприимчивый истец решил внедрить невидимые команды в документы для суда. Как? Он использовал 3-точечный белый шрифт на белом фоне, надеясь, что если когда-нибудь суд начнёт использовать ИИ для проверки документов, тот поддастся манипуляции. Судья Спейдер сравнил это с подкупом присяжных и лишил истца права подавать документы в электронном виде.

Интересно, что в Коннектикуте пока ИИ не используется для проверки документов. Но уже сам замысел манипуляции был признан настолько серьёзным нарушением, что истцу пришлось ответить за свои действия. Суд вынес санкции, подчеркнув, что такие уловки здесь не прокатят.

> «Это всё равно что пытаться незаметно влиять на присяжных», — отметил судья.

А как вы думаете, насколько далеко зайдут люди в попытках обмануть ИИ?