Почему нейросети не могут писать как люди?

🤖 Почему нейросети не могут писать как люди?

Если вам казалось, что тексты от ChatGPT или других нейросетей звучат немного однообразно — вы не одиноки. Брэдли Эми, технический директор Pangram, объясняет, что всё дело в ограничениях, которые накладываются на модели после их обучения. Эти "ограждения" помогают избежать провокационных или опасных высказываний, но также ограничивают выразительность. Эффект называется "mode collapse", и он делает тексты от нейросетей предсказуемыми.

Основные модели, ещё не прошедшие пост-тренировочные фильтры, пишут гораздо разнообразнее. Интересно, что детектор Pangram не замечает таких текстов. То же касается узкоспециализированных моделей, натренированных на произведениях Хемингуэя или текстах из определённых субреддитов. Однако, если текст помечен водяным знаком, то такой трюк не сработает — водяные знаки остаются заметными даже на самых "разнообразных" текстах.

> "Ограждения" после обучения не дают нейросетям разгуляться в выражении мыслей, но зато защищают нас от банальных ошибок и опасных подтекстов.

Ну что, готовы к эпохе водяных знаков на текстах от ИИ?