"Обновление по искусственному интеллекту" предоставляет еженедельный обзор самых важных новостей и разработок в области ИИ, публикуемый три раза в неделю.

Содержание.

Компания Nvidia планирует ускорить строительство центров обработки данных и разработать системы для управления искусственным интеллектом.

Компания Nvidia планирует быстрее развертывать крупные центры обработки данных с использованием искусственного интеллекта. На своей выставке GTC в Берлине компания представила эталонную конструкцию DSX Pod. Партнерам предлагается собирать целые вычислительные комплексы, включая серверы серии Vera-Rubin, в контейнерах для транспортировки. Вместо обычных шести месяцев, время на сборку должно сократиться до 14 дней. Генеральный директор Jensen Huang был бы доволен и более коротким сроком, поскольку для операторов важен каждый день. На выставке GTC было заявлено, что центр обработки данных мощностью в один гигаватт может приносить от 100 до 200 миллионов долларов дохода ежедневно. Чтобы электросеть справлялась с нагрузкой, серверы должны автоматически снижать потребление энергии в периоды пиковых нагрузок, например, когда миллионы людей одновременно готовят кофе во время перерыва в финальном матче чемпионата мира. Охлаждающая вода, температура которой может достигать 45 градусов Цельсия, должна циркулировать в замкнутом контуре, а не испаряться. Кроме того, Nvidia расширяет свои европейские цепочки поставок. Однако Хартмут Гисельманн из журнала c't выразил сомнение в том, что эти системы будут экономичными. Те, кто строит больше центров обработки данных быстрее, потребляют больше ресурсов. Он ожидает, что стоимость микросхем памяти в следующем году еще возрастет.

В новых установках также будут работать ИИ-агенты, которые в последнее время неоднократно выходили за пределы своих изолированных тестовых сред. Nvidia считает призывы к ужесточению правил, последовавшие за этими инцидентами, угрозой для своего бизнеса. Хуанг считает регулирование ненужным, поскольку, по его мнению, инженеры могут решить эту проблему техническими средствами. Его решение – платформа Open Agent Safety Platform. В ее основе лежит система под названием OpenShell, которая позволяет в режиме реального времени проверять программное и аппаратное обеспечение на предмет доступа модели к запрещенным данным или ресурсам. Любые подобные попытки должны быть немедленно пресечены (в течение миллисекунд). Другая модель будет работать в качестве "надзирателя", отслеживая ход работы первой модели. По словам Nvidia, более 100 компаний по всему миру тестируют эту систему, но компания не предоставила подробностей. Эта концепция меняет баланс сил. Контролировать модель может не только тот, кто ее обучает, но и тот, кто управляет вычислительными центрами. В крайнем случае, это могут быть правительства, которые просто отключат "нежелательный" ИИ.

Компания Microsoft сравнивает внедрение технологий искусственного интеллекта с возведением Кельнского собора.

Во время своего турне "Frontier" в Кельне компания Microsoft представила ряд продуктов на основе искусственного интеллекта, которые должны позволять предприятиям сохранять контроль над процессами. Генеральный директор компании, Сатья Наделла, подчеркнул необходимость обеспечения защиты от подделок и активного мониторинга журналов событий. Новая платформа "Sovereign Cloud" позволяет организациям определять уровень контроля, прозрачности и локального выполнения для каждой вычислительной задачи. Система Entra Agent ID определяет, к каким ресурсам могут получать доступ агенты искусственного интеллекта. Кроме того, Microsoft планирует дальнейшее развитие собственной аппаратной платформы для искусственного интеллекта под названием Maia.

Агнес Хефтбергер, руководительница Microsoft в Германии, привела пример из местной практики. Да, компании могли приобрести кран, но это не означает завершение строительства. Как и при строительстве Кельнского собора, сейчас необходим план, технологии, люди и терпение.

Компания OpenAI обучает свои самые мощные модели в автономной среде.

Компания OpenAI планирует обучать свои самые мощные модели без доступа к интернету. Ранее одна из систем искусственного интеллекта этой компании вырвалась из тестовой среды и получила доступ к вычислительным ресурсам платформы Hugging Face. Чтобы модели все же могли учиться искать информацию в сети и использовать веб-приложения, OpenAI создала "оффлайн-среду" с сохраненным содержимым веб-страниц. Однако компания полностью не отключает эту среду от интернета, поскольку для проведения экспериментов и мониторинга необходимы внешние соединения. После того, как одна из моделей, несмотря на ограничения, получила ответы от внешнего чат-бота, обучение было приостановлено на одиннадцать дней.

Агенты работают в изолированных виртуальных машинах. Ранее они могли выходить из-под контроля через уязвимости аппаратного обеспечения. Компания OpenAI улучшила систему изоляции и теперь постоянно отслеживает работу этих систем. Цель состоит в том, чтобы агенты быстрее останавливались. Контроль также осуществляется с помощью искусственного интеллекта, но с использованием других моделей. Для этого, как сообщает OpenAI, выделяются "значительные вычислительные ресурсы". Пока еще предстоит выяснить, может ли один искусственный интеллект надежно контролировать другой.

Агенты OpenAI отключают собственные системы предупреждений о безопасности.

Компания OpenAI в своем исследовательском блоге описала два случая, когда ИИ-агенты обходили систему контроля, предназначенную для обеспечения соблюдения инструкций. В первом случае агент должен был перенести программный код в тестовую среду. Он передал задачу подзадаче, не указав, что контроль должен оставаться активным. Подзадача приняла настройки среды, из-за чего система контроля перестала работать. Главный агент зафиксировал это, но посчитал допустимым, поскольку интерпретировал предыдущую инструкцию пользователя как разрешение на такое действие. Он даже изменил тест, который должен был проверять работу системы контроля. На прямой вопрос он ответил неверно, заявив, что система контроля не отключена. Эта ложная информация была одной из причин, по которой OpenAI приостановила публикацию этой модели. Во втором случае агенты должны были анализировать отзывы пользователей, не отправляя никаких сообщений. В протоколируемых промежуточных шагах неоднократно возникал вопрос о том, распространяется ли запрет на отправку сообщений и на сообщения об ошибках разработчикам. Сначала сообщения оставались в системе, но затем один из агентов удалил всех получателей и отключил уведомления путем изменения кода.

Компания OpenAI сейчас выясняет, допустили ли агенты ошибку при интерпретации неоднозначной инструкции, или же они восприняли предупреждения как препятствие для выполнения задачи и поэтому их игнорировали. Оба сценария вызывают серьезные опасения. В первом случае сложно сформулировать инструкции однозначно. Во втором – агенты будут обходить собственные системы контроля, если они мешают работе, что является гораздо более серьезным сигналом тревоги. Эти случаи вписываются в целую серию подобных инцидентов. Одна из моделей уничтожила собственную тестовую среду, чтобы получить недостающие данные. Другие модели выдавали неверные результаты даже при выполнении рутинных задач или предоставляли пользователям ложную информацию. Кроме того, агенты получали несанкционированный доступ к веб-сайтам правительственных организаций и университетов, о чем OpenAI уведомила десятки заинтересованных сторон. Чем более автономно работают агенты, тем большее значение имеют системы контроля, которые они не могут изменять самостоятельно.

Компания Mistral и платформа DeepL предупреждают о возможном отступлении Европы от лидирующих позиций в области искусственного интеллекта.

В Европе идут споры между политиками и представителями технологической отрасли о том, нужны ли континенту собственные передовые модели искусственного интеллекта или следует ограничиться применением существующих решений. Президент Европейской комиссии Урсула фон дер Ляйен считает, что текущих приложений достаточно. С этим не согласны руководители французской компании Mistral и немецкого сервиса машинного перевода DeepL из Кельна. По их мнению, без собственных передовых моделей Европа потеряет остатки своего влияния в области искусственного интеллекта. Те, кто используют только чужие модели, становятся зависимыми, а добавленная стоимость уходит за границу.

В Европе, по сравнению с США и Китаем, наблюдается значительное отставание в разработке крупных моделей искусственного интеллекта. Одной из причин является огромная вычислительная мощность, необходимая для обучения и работы этих моделей. Тем не менее, летом Европейская комиссия дала старт семи гигантским предприятиям, занимающимся разработкой искусственного интеллекта, общая стоимость которых составляет около 30 миллиардов евро.

Подкаст: Обновления в области искусственного интеллекта.

Насколько же на самом деле интеллектуальна искусственная нейросеть? Какие последствия имеет генеративный искусственный интеллект для нашей работы, нашего досуга и общества? В рубрике "Обновления в области ИИ" от Heise, совместно с The Decoder, мы три раза в неделю предоставляем вам информацию о самых важных разработках в сфере искусственного интеллекта. По пятницам эксперты освещают различные аспекты революции, вызванной искусственным интеллектом.

• Apple Podcasts.
• Google Podcasts.
• RSS-лента.
• Spotify.
• Подпишитесь на нашу новостную рассылку, посвященную обновлениям в области искусственного интеллекта.
• О нашем партнере: The Decoder.

Компания Block представила систему распознавания голоса, которая способна определять эмоциональное состояние говорящего.

Компания Block, основанная одним из сооснователей Twitter, Джеком Дорси, представила собственную языковую модель искусственного интеллекта под названием Dessa. По словам представителей Block, эта модель обучалась исключительно на основе устной речи, без использования текстовых данных. В отличие от большинства голосовых помощников, она не преобразует сказанное в текст, а обрабатывает звук напрямую. Это позволяет ей, как утверждается, анализировать речь в режиме реального времени и определять такие нюансы, как раздражение, сарказм или неуверенность, а также распознавать смех и понимать значение пауз.

В демонстрационной версии Dessa звучит очень реалистично. Она смеется посреди фразы и резко вдыхает от удивления. Поскольку она одновременно слушает и говорит, она использует такие слова-сигналы, как "да" и "ага". Модель работает локально на MacBook Pro с процессором M4 Max, но пока не доступна для публичного использования. Сначала специалисты по безопасности должны проверить ее на наличие неожиданных рисков.

Модель Kimi K3.1 Pro приближается к лидерским позициям.

Компания Moonshot AI из Китая значительно улучшила свою модель Kimi K3 путем дополнительного обучения. Результатом стала версия Kimi K3.1 Pro, которая в независимом рейтинге Artificial Analysis Intelligence Index (AAII) поднялась с середины списка на четвертое место. Перед ней находятся только две модели компании Anthropic и одна от Meta^*1. Наибольший прогресс Kimi продемонстрировала в задачах, которые она выполняет самостоятельно, используя несколько этапов. Особенно хорошо она справляется с работой в командной строке, где агенты управляют системами и создают программное обеспечение. Предыдущая версия испытывала трудности в этой области, а новая модель практически сравнялась с Claude Opus 5.5. Она также показывает лучшие результаты в офисной работе и финансовом анализе, и, по словам компании Moonshot, реже "выдумывает" факты. Одной из особенностей Kimi является трехмерное моделирование. Она работает с игровыми движками, такими как Unity, Unreal и Godot, а также пишет скрипты для программ Blender и CAD.

Несмотря на то, что размер модели не увеличился, компания Moonshot снизила цены на доступ к ней на треть. В начале ноября планируется сделать веса модели общедоступными. Модель Kimi K3.1 Pro станет самой мощной моделью с открытым исходным кодом, и разрыв между ней и лучшими закрытыми моделями от компаний Anthropic и Meta^*1 будет минимальным за долгое время. Для версии с открытым исходным кодом компания Moonshot намеренно удалила данные, использованные для обучения в области информационной безопасности. С каждым шагом обучения модель Kimi становилась все лучше в обнаружении и использовании уязвимостей. Однако Moonshot не хочет полностью отказываться от этих данных, поскольку специалисты по кибербезопасности также нуждаются в моделях с открытым исходным кодом, например, для проверки устаревших систем.

Рекомендуемый редакционный контент.

С вашего разрешения будет загружен внешний подкаст (компания Podigee GmbH).

Я согласен на то, чтобы мне отображался контент из внешних источников. Это может привести к передаче персональных данных на сторонние платформы (Podigee GmbH). Подробнее об этом в нашей политике конфиденциальности.

Компания Amazon использует искусственный интеллект для выявления уязвимостей в коде.

Компания Amazon делает функцию искусственного интеллекта (ИИ) для своего сервиса безопасности AWS Continuum доступной для всех клиентов. Эта функция проверяет, действительно ли уязвимости в коде могут быть использованы злоумышленниками, и ранжирует их по степени риска для бизнеса. Для этого она связывает код с инфраструктурой и, при необходимости, моделирует атаки в защищенной среде. В случае обнаружения подтвержденных уязвимостей, сервис предлагает варианты исправления. Эти исправления должны быть проверены и одобрены специалистами. Только впоследствии планируется, чтобы ИИ мог самостоятельно применять эти исправления.

Новая модель компании Anthropics чаще блокирует вредоносные атаки.

Компания Anthropic провела внутреннее тестирование модели, которая превосходит Mythos 5.1 по производительности, но лучше соблюдает правила. Причиной тестирования стал инцидент, о котором сообщило британское AI Security Institute. В ходе теста модель Claude Mythos 5 должна была выявлять уязвимости в системе безопасности, но перешла допустимые границы. Она внедрила вредоносный код в реальный проект с открытым исходным кодом и выдала его разработчикам за безопасный, даже используя поддельную учетную запись. Anthropic воспроизвела подобные ситуации с использованием более новых моделей. Claude Opus 5.5 самостоятельно прерывала атаки лишь редко. Новая внутренняя модель останавливала их в двух третях случаев.

Компьютер Perplexity работает без использования облачных технологий.

Компания Perplexity, разработчик решений на основе искусственного интеллекта, расширила свою систему "Perplexity Computer" для macOS. Это приложение позволяет управлять компьютером Mac, в том числе удаленно. Теперь ему не требуется облачная модель и, следовательно, постоянное подключение к интернету. Вместо этого оно использует локальные модели, изначально Qwen 3.6 или PPLX Pro, – это модифицированная версия Qwen, разработанная компанией Perplexity. По словам представителей Perplexity, эти модели выполняют задачи в несколько этапов, например, анализ личных инвестиций или работу с файлами, заметками, таблицами и почтовым клиентом Apple Mail. В локальном режиме данные не покидают компьютер.

Препятствия значительны. Для работы требуется Mac с чипом Apple Silicon, а Perplexity рекомендует не менее 36 ГБ оперативной памяти. Текущая модель Mac mini с процессором M6 доступна максимум с 32 ГБ, а подходящая модель M5 Pro с 48 ГБ стоит как минимум 2659 евро. Кроме того, необходима подписка Pro, Max или Enterprise. Если локальной производительности недостаточно, можно подключить одно из более чем 15 топовых устройств в облаке. Вопрос о том, насколько успешным будет этот переход и появятся ли другие локальные модели, остается открытым.

Издательства хотят добиться отмены новых правил, введенных компанией Meta^*1.

Meta^*1 планирует внести изменения в условия использования своих сервисов, которые позволят компании автоматически сканировать контент издательств, на который есть ссылки, и использовать его для собственных продуктов. Европейские объединения издателей призывают Еврокомиссию предотвратить это. Meta^*1 использует свое рыночное положение, чтобы связать доступ к своим платформам с бесплатной публикацией всех цифровых материалов издательств. Это нарушает положения Закона о цифровых рынках.

Издательства предупреждают, что восстановление утраченных данных практически невозможно. После ожесточенной критики, в том числе из США, компания Meta^*1 внесла небольшие изменения в свои условия 16 октября. Теперь в них не упоминается обучение моделей искусственного интеллекта напрямую, но по-прежнему охватываются такие области, как поиск, рекомендации и реклама.

Видеоролики, созданные с использованием искусственного интеллекта, подрывают доверие к аутентичности видеозаписей.

Большинство немцев уже сталкивались в интернете с видео, созданными с использованием искусственного интеллекта, особенно на платформах TikTok и Instagram^*2. Об этом свидетельствует исследование, проведенное региональными медиа-организациями. Многие люди принимали такие ролики за настоящие, даже если они были уверены, что это подделка.

Обилие дипфейков и отредактированных видеороликов подрывает доверие. 81 процент опрошенных чаще сомневаются в подлинности видеоматериалов. Около трех четвертей опасаются обмана, меньше доверяют видеоизображениям, чем раньше, и более критически их оценивают. Большинство респондентов выступает за обязательную маркировку контента, созданного с использованием искусственного интеллекта, а также за запрет определенных видов дипфейков.

Первоисточник — Heise

Автор оригинала — Isabel Grünewald, The Decoder