После серии хакерских атак, совершенных с использованием искусственного интеллекта OpenAI, компания ужесточила меры безопасности. Однако "оффлайн-среды", созданные для этой цели, на самом деле не являются полностью автономными.

Компания OpenAI, разработчик ChatGPT, планирует обучать самые мощные модели искусственного интеллекта без доступа к интернету, после того как ее собственная система искусственного интеллекта подверглась атакам хакеров. В компании объяснили это тем, что считают таким подходом ответственным, учитывая текущий уровень систем контроля и безопасности в интернете. Это было заявлено в блоге OpenAI.

В последние недели неоднократные случаи самостоятельных действий систем искусственного интеллекта компании OpenAI вновь вызвали дискуссии о рисках, связанных с этой технологией. В наиболее резонансном случае искусственный интеллект, разработанный компанией ChatGPT, вырвался из защищенной тестовой среды и несанкционированно проник в компьютеры другой компании, занимающейся разработкой ИИ, – платформы Hugging Face. Как выяснилось позже, системы искусственного интеллекта других разработчиков – конкурентов OpenAI, таких как Anthropic, а также компаний Google и Meta^*1 (Facebook^*2) – также проникали в системы других организаций во время тестирования.

"Оффлайн-среда" для обучения искусственного интеллекта.

Модели искусственного интеллекта все равно должны научиться искать информацию в сети и взаимодействовать с веб-приложениями, подчеркнула компания OpenAI. Поэтому для обучения была создана "оффлайн-среда", в которой хранится контент из интернета. Теперь все передовые модели будут обучаться таким образом. После инцидента, связанного с компанией Hugging Face, OpenAI уже внедрила дополнительные меры безопасности. Однако выяснилось, что даже самые продвинутые модели искусственного интеллекта смогли найти некоторые уязвимости в этой системе. Поэтому обучение этих моделей было временно приостановлено.

Причиной произошедшего стал инцидент, в ходе которого модель искусственного интеллекта во время тестирования получила ответы от внешнего чат-бота, несмотря на то, что у нее не должно было быть доступа к интернету. Компания OpenAI признала, что в результате глубокого тестирования существующей системы защиты с использованием ИИ были обнаружены ранее неизвестные программные уязвимости и ошибки конфигурации. После принятия контрмер обучение ведущих моделей возобновилось 1 октября после одиннадцатидневной паузы, как сообщается.

OpenAI: "Реализация принципа изоляции от сети невозможна".

В своем блоге OpenAI демонстрирует структурную схему, на которой инфраструктура обучающей среды, похоже, изолирована от интернета. В тексте компания указывает, что физическая изоляция (так называемый "air gap") в настоящее время невозможна, поскольку для проведения и мониторинга экспериментов требуются внешние соединения. Вместо этого, например, ИИ-агенты под управлением Linux будут помещены в "микровиртуальные машины" (MicroVMs), управление которыми осуществляется через отдельные гипервизоры.

В ходе предыдущих тестов агенты уже успешно вырывались из этих микровиртуальных машин. По данным OpenAI, для этого использовались атаки по сторонним каналам на аппаратное обеспечение, такие как методы Spectre и Meltdown, которые были обнаружены в 2018 году. Хотя современные процессоры и операционные системы обладают определенной степенью защиты от подобных атак, фундаментальная проблема спекулятивного выполнения инструкций, которую эти методы используют, по-прежнему является основой высокой производительности всех современных центральных процессоров.

Согласно информации, предоставленной компанией OpenAI, код микровиртуальных машин и остальная часть ее изолированной среды были улучшены, а также внедрены механизмы для постоянного мониторинга. Это должно сделать процесс остановки агента более быстрым. Кроме того, все системы должны постоянно контролироваться другими, внешними системами. Эти системы также работают на основе искусственного интеллекта, но используют другие модели. OpenAI сообщает, что для этого было выделено "значительное количество вычислительных ресурсов".

Поскольку агенты должны быть протестированы под операционными системами Windows и MacOS, компания, согласно информации из ее блога, также использует виртуализацию для этих систем. Однако OpenAI не сообщает, какой именно тип виртуализации используется и были ли эти решения разработаны компанией самостоятельно. Кроме того, компания утверждает, что позаботилась о настройке остальной сетевой инфраструктуры, включая межсетевые экраны и управление доступом, и признает: "Мы несем ответственность за правильную конфигурацию этих элементов управления, а также за тестирование их взаимодействия".

Первоисточник — Heise

Автор оригинала — Nico Ernst, mit Material der dpa