Компания Anthropic, по сообщениям, консультируется с юридическими фирмами о том, как в будущем агенты искусственного интеллекта должны будут согласовывать цены, зарплаты и условия контрактов для своих пользователей.
Компания Anthropic, занимающаяся разработкой искусственного интеллекта, работает над решением проблемы, для которой пока не существует ни технических стандартов, ни правовых норм: как автономным ИИ-агентам, действующим от имени своих пользователей, взаимодействовать друг с другом – например, при обсуждении цен, заработной платы или условий контрактов? По информации, полученной газетой Financial Times из источников, близких к компании, Anthropic ведет переговоры с юридическими фирмами. Цель этих переговоров, вероятно, заключается в том, чтобы понять, как юристы представляют интересы своих клиентов и стремятся к достижению справедливых результатов, а затем перенести эти принципы на ИИ-агентов. Это связано с тем, что предполагается, что в будущем все чаще агенты будут вести переговоры от имени своих пользователей по различным вопросам – что вполне вероятно, учитывая растущее количество персональных ИИ-агентов на рынке.
По информации, полученной Financial Times от источников, близких к компании, Anthropic в настоящее время изучает так называемые "нормы взаимодействия" при работе с моделями искусственного интеллекта. Компания также рассматривает вопрос о том, насколько агентам следует запрашивать обратную связь от людей во время переговоров, и насколько осторожными должны быть агенты по отношению к ИИ-собеседникам, не становясь при этом параноиками или сторонниками теорий заговора, сообщает источник.
Нормы и правила ведения переговоров в области машиностроения.
Команда исследователей компании Anthropics, по-видимому, уже давно занимается изучением этой темы. Согласно публикации, вышедшей в сентябре этого года, компания уже провела два эксперимента, посвященных этому вопросу. В одном из них сотрудники из шести разных офисов принесли книги, которые им больше не были нужны и которые они хотели отдать другим. Цель заключалась в том, чтобы каждый сотрудник одновременно получил новую книгу, которая ему понравится. Решение о том, кто какую книгу получит, не принималось самими сотрудниками, а их агентами, действующими от их имени.
Основной вывод: Чем более эффективным является агент, тем лучше, как правило, результаты его переговоров – то есть книги, которые он или она смог получить в обмен. Таким образом, те, кто может позволить себе более квалифицированных агентов, получают лучшие результаты в жизни. Кроме того, агенты, которым было дано указание действовать бескомпромиссно, также добивались лучших результатов для своих клиентов. Агенты, которые должны были вести себя социально ответственно, иногда отказывались от возможностей, чтобы обеспечить, чтобы все участники получили хорошие книги в конце. В общем, всё как у людей.
Все это, однако, скорее относится к экспериментальным исследованиям. Для мира, в котором агенты все чаще будут действовать от имени пользователей, необходимы четкие правила и стратегии. Но, как цитирует Financial Times компанию Anthropic в рамках исследования, опубликованного в апреле: "Политические и правовые рамки для моделей искусственного интеллекта, которые совершают транзакции от нашего имени, попросту еще не существуют". "Такой мир уже не за горами. Общество должно быстро реагировать, чтобы адаптироваться к этим изменениям."
Компания Anthropic на этой неделе представила своего первого персонального помощника.
Первоисточник — Heise
Сообщите редакции. Существенные исправления мы отмечаем в материале