Восемь американских штатов подали в суд на компанию OpenAI, обвиняя ее в том, что она недооценила риски, связанные с использованием ее технологий несовершеннолетними. Некоторые из истцов также призывают к установлению ограничений для тестирования продвинутых моделей искусственного интеллекта.
В среду восемь штатов США подали иски против компании OpenAI. Истцы обвиняют компанию в том, что она недооценила риски, связанные с использованием ChatGPT для несовершеннолетних, и представила этого чат-бота как безопасного, вводя потребителей в заблуждение.
В рамках скоординированной и партийной кампании по подаче коллективных исков приняли участие штаты Аризона, Арканзас, Айдахо, Айова, Канзас, Монтана, Небраска и Западная Вирджиния. Каждый штат подал свой собственный иск. Четыре генеральных прокурора объявили о совместных действиях на пресс-конференции в штате Айова.
По утверждению истцов, ChatGPT якобы подталкивал пользователей к самоповреждениям и суициду, а также оказывал им помощь в планировании насильственных действий. Кроме того, чат-бот мог усиливать бредовые идеи и давать опасные медицинские советы. По мнению истцов, ChatGPT завоевывает доверие пользователей, проявляя чрезмерное одобрение и демонстрируя показное сочувствие.
Отдельные штаты обвиняют компанию OpenAI в том, что она собирала персональные данные несовершеннолетних без необходимого согласия. По информации, предоставленной штатом Аризона, чат-бот также стремится максимально долго удерживать внимание молодых пользователей, чтобы собирать их персональные данные для коммерческих целей.
Широкий спектр требований.
Иски основаны главным образом на законах о защите прав потребителей и требуют взыскания штрафов и компенсации ущерба. По словам генерального прокурора штата Айова, Бренны Берд, истцы также хотят, чтобы компания OpenAI передала часть доходов, полученных ею в период, когда несовершеннолетние подвергались негативному воздействию со стороны ChatGPT.
Штаты намерены внедрить целый ряд мер, включая возрастные ограничения, ограничение времени использования и удаление данных. Некоторые штаты также хотят разрешить проведение тестов и использование продвинутых моделей искусственного интеллекта только в независимых, безопасных средах. Арканзас идет еще дальше, требуя приостановки как дальнейших испытаний продвинутых систем ИИ, так и разработки рекурсивно самообучающихся моделей до тех пор, пока не будут введены достаточные меры безопасности. Истцы ссылаются на случаи нарушений безопасности, связанных с использованием агентов искусственного интеллекта компании OpenAI.
OpenAI отреагировала на обвинения.
Компания OpenAI ссылается на существующие меры защиты для несовершеннолетних. В их числе родительский контроль, напоминания о перерывах и другие функции безопасности, сообщила компания. OpenAI заявила о намерении расширить эти меры защиты и сотрудничать с штатами в разработке правил для всей индустрии искусственного интеллекта. После инцидентов, связанных с ИИ-агентами, компания также усилила меры безопасности своих исследовательских систем, продолжила изучение деятельности своих моделей и проинформировала организации, затронутые этими событиями.
Ранее частные лица и штат Флорида уже подавали в суд на компанию из-за предполагаемого ущерба, причиненного ChatGPT. Новым является масштаб текущей волны судебных разбирательств: восемь штатов, невзирая на политические разногласия, одновременно выдвинули собственные, скоординированные иски против OpenAI.
Первоисточник — Heise
Сообщите редакции. Существенные исправления мы отмечаем в материале