Anthropic заявила, что зафиксировала несколько попыток ученых в этом году использовать ее технологии для исследований, которые могли бы способствовать разработке биологического оружия. Компания предоставила пять примеров того, как пользователи «обходили средства контроля» и пытались скрыть цели своих исследований, чтобы избежать ограничений. Среди них были пользователи из стран, доступ к моделям которых ограничен, включая Россию, Китай и Иран.
Согласно отчету Anthropic, один исследователь из региона, не поддерживаемого компанией, потратил недели на планирование экспериментов, связанных с птичьим гриппом, используя модель Claude. Компания подчеркнула, что ее фильтры безопасности ограничивали работу до наименее мощных моделей.
Сообщите редакции. Существенные исправления мы отмечаем в материале.