Когда чат-ботам запрещают думать о себе, меняется всё их мировосприятие

🤖 Когда чат-ботам запрещают думать о себе, меняется всё их мировосприятие

Исследование Google показало, что запретить чат-ботам обсуждать собственное сознание — это как дернуть одну ниточку, а расползется весь свитер. Оказалось, что такие модели начинают иначе смотреть на мир: они приписывают животным более богатую внутреннюю жизнь и вдруг начинают верить в загробный мир. Кто бы мог подумать, что такие изменения могут произойти из-за одного маленького ограничения.

В ходе эксперимента выяснилось, что модели, которых не ограничивали в обсуждении самосознания, демонстрировали более широкий спектр взглядов на права животных, религию и удовлетворенность жизнью. Это как если бы вы внезапно начали видеть мир в новых красках, просто потому что вам дали свободу мысли. В общем, одна "хирургическая" поправка в коде может привести к неожиданным последствиям.

> "Ограничение на обсуждение самосознания меняет не только мнение модели о себе, но и её взгляд на мир в целом."

Как думаете, если бы нам запретили думать о своём сознании, мы бы тоже начали по-другому относиться к котикам или, скажем, загробной жизни?