OpenAI распустила команду, следившую за катастрофическими рисками ИИ

😮 OpenAI распустила команду, следившую за катастрофическими рисками ИИ

В OpenAI решили закрыть команду "Preparedness", которая занималась оценкой потенциальных катастрофических рисков от их же моделей ИИ. Задачи этой команды теперь распределены между другими группами, а некоторые сотрудники, отвечавшие за безопасность, покинули компанию. Внутри компании нарастает чувство тревоги. Один из сотрудников описал ситуацию как "нарастающее чувство ответственности и страха", считая, что OpenAI недостаточно внимания уделяет вопросам безопасности.

> "Нарастающее чувство ответственности и страха" — не то, что хотелось бы слышать от компании, разрабатывающей передовые ИИ.

Вопрос на засыпку: а вы бы доверили ИИ безопасность, когда сами разработчики переживают за её уровень?