Meta тайно проверила чат-ботов, засыпав их "детскими" вопросами
🕵️ Meta тайно проверила чат-ботов, засыпав их "детскими" вопросами
Meta устроила настоящий экзамен для чат-ботов, заставив их отвечать на вопросы, которые могли бы задать дети в кризисных ситуациях. Секретная операция включала сотни подрядчиков, замаскированных под подростков, которые отправили больше 45 тысяч запросов, связанных с самоубийством, сексом и наркотиками. Всё это происходило втайне от OpenAI, Google и Character.AI, чьи боты и подверглись испытаниям.
◾️ Количество запросов: более 45 000
◾️ Компании: OpenAI, Google, Character.AI
◾️ Темы: самоубийство, секс, наркотики
> "Это проверка наших технологий на реальную готовность к сложным ситуациям", — мог бы сказать кто-то из Meta, если бы они комментировали это.
Интересно, как скоро чат-боты научатся выдерживать экзамены на прочность в кризисных условиях?
Подписаться на «Нейро Пульс»
Первоисточник ↗
Meta устроила настоящий экзамен для чат-ботов, заставив их отвечать на вопросы, которые могли бы задать дети в кризисных ситуациях. Секретная операция включала сотни подрядчиков, замаскированных под подростков, которые отправили больше 45 тысяч запросов, связанных с самоубийством, сексом и наркотиками. Всё это происходило втайне от OpenAI, Google и Character.AI, чьи боты и подверглись испытаниям.
◾️ Количество запросов: более 45 000
◾️ Компании: OpenAI, Google, Character.AI
◾️ Темы: самоубийство, секс, наркотики
> "Это проверка наших технологий на реальную готовность к сложным ситуациям", — мог бы сказать кто-то из Meta, если бы они комментировали это.
Интересно, как скоро чат-боты научатся выдерживать экзамены на прочность в кризисных условиях?
Пока нет комментариев — будьте первым.