OpenAI представила 4 ноября результаты автоматизированного исследования ядра Linux. По данным компании, система на основе ещё не выпущенной модели обнаружила 948 уязвимостей, позволяющих обычному локальному пользователю получить права администратора. Проверки проходили в изолированных виртуальных машинах со стандартными средствами защиты
Запуск в середине октября обошёлся примерно в 1,2 млн долларов за обращения к модели. Для найденных проблем система подготовила проекты исправлений: это ещё не означает, что все они приняты разработчиками ядра и доступны пользователям. Компания сообщает об отправке сотен отчётов и исправлений для критических уязвимостей
Исследование также показало необходимость человеческой проверки. В раннем запуске 20 из 200 успешных попыток получили права администратора через другую уязвимость вместо заданной. После этого команда добавила отдельную проверку того, какой именно ошибкой воспользовалась система
А как предотвращать появление новых ошибок? Повторное сканирование полезно, но само по себе не меняет устройство кода. Для долгосрочной защиты нужны и выводы о причинах уязвимостей, и проверка новых изменений: число найденных проблем ещё не измеряет устойчивость системы
Первоисточник — OpenAI
Сообщите редакции. Существенные исправления мы отмечаем в материале