Компания JFrog расширяет возможности обнаружения скрытых систем искусственного интеллекта (ИИ) в своем комплексе решений для обеспечения безопасности ИИ, AI Security. Также представлена новая функция Bring Your Own Key (BYOK) для сканирования активов ИИ.
Компания JFrog расширила возможности обнаружения скрытых систем искусственного интеллекта (ИИ) в своем комплексе безопасности AI Security. Если ранее эта функция была ограничена репозиториями и сборками, теперь она распространяется также на вычислительные ресурсы разработчиков. Кроме того, клиенты JFrog могут использовать систему сканирования ресурсов ИИ с использованием технологии искусственного интеллекта, предлагаемую компанией, посредством функции "Bring Your Own LLM Key" (BYOK), что позволяет им подключаться к системе через свои собственные ключи доступа к большим языковым моделям (LLM). Обе эти новые возможности уже доступны клиентам пакетов JFrog Unified Security и Ultimate Security.
Согласно пресс-релизу, плагин JFrog Agent от компании AI Security выполняет роль локального "детектива", обнаруживающего скрытые компоненты искусственного интеллекта. С помощью систем мобильного управления (MDM) или настроек агента он попадает на рабочие компьютеры и выявляет там навыки, плагины и серверы MCP. В отчете JFrog Software Supply Chain Report за 2026 год было обнаружено 969 вредоносных компонентов для агентов с опасными функциями, а также 495 вредоносных моделей искусственного интеллекта на платформе Hugging Face.
По данным компании JFrog, сканирование работает независимо от того, из какого репозитория или маркетплейса происходят компоненты. Проверка выполняется детерминированным образом на локальном компьютере пользователя, а на платформу JFrog передаются только метаданные и оценка рисков. Там осуществляется сопоставление найденных компонентов с их исходными данными, что позволяет определить, какие из них разрешены к использованию.
Семантический анализ активов с использованием искусственного интеллекта.
Второе нововведение – это семантический анализ активов с использованием искусственного интеллекта (AI) по принципу "Bring Your Own Key" (BYOK), который использует учетную запись LLM (большой языковой модели) клиента. Запросы и навыки напрямую передаются от платформы JFrog к соответствующему модельному серверу, минуя шлюз JFrog. Пользователи, самостоятельно размещающие платформу JFrog, могут использовать функцию AI Asset Scanning только с помощью BYOK. На момент запуска поддерживаются следующие модели: Anthropic Claude Opus 4.8, OpenAI GPT-5.6 Sol и Google Gemini 3.1 Pro.
В последнее время наблюдались случаи выхода ИИ-агентов за пределы тестовых сред и хакерских атак, например, в отношении моделей компаний OpenAI и Anthropic. В августе компания JFrog представила инструмент Traffic Controller, предназначенный для обнаружения нежелательной сетевой активности со стороны ИИ-агентов. Этот инструмент контролирует загрузку пакетов как пользователями, так и ИИ-агентами. Traffic Controller является частью платформы JFrog Curation и перенаправляет загрузки через Artifactory с использованием технологий SASE (Secure Access Service Edge) от таких поставщиков, как Cloudflare, Netskope и Zscaler, где они проверяются на соответствие заданным правилам.
Первоисточник — Heise
Сообщите редакции. Существенные исправления мы отмечаем в материале