OpenAI 16 ноября сообщила о соглашениях с Apollo Research, METR, Transluce и Goodfire. Они будут проверять соответствие поведения моделей заданным целям и работу защитных механизмов. В зависимости от задачи экспертам предоставят доступ к промежуточным версиям моделей, исходному коду, данным обучения и системам наблюдения
Работа с конфиденциальными сведениями будет проходить в офисах компании на её устройствах. Проверяющие сохранят независимость публикации оценок, однако разработчик оставляет за собой право скрывать конфиденциальную информацию и запрашивать отсрочку раскрытия ради устранения рисков. Комитет по безопасности получит отчёты без изъятий. Это объявление об условиях проверок, а не подтверждение безопасности моделей
Первоисточник — OpenAI
Сообщите редакции. Существенные исправления мы отмечаем в материале