OpenAI 16 ноября представила классификатор изображений для выявления возможных материалов сексуального насилия над детьми. Проверенным организациям его предоставляют бесплатно через программный интерфейс. По заявлению компании, инструмент распознаёт визуальные признаки насилия, включая ранее неизвестные изображения, и отдельно оценивает, мог ли такой материал быть создан искусственным интеллектом

Система выдаёт оценки для специалистов, проверяющих материалы. По расчётам OpenAI, в испытании на загруженных пользователями изображениях новый инструмент мог бы отправлять на проверку на 48% меньше снимков, выявляя примерно столько же материалов насилия, сколько прежняя защита. Это оценка разработчика, а не результат независимой проверки

Как разбирать ошибочные срабатывания, если для оценки изображения необходим контекст? Снижение нагрузки на специалистов полезно, но само по себе не отвечает на этот вопрос. Качество такой защиты зависит и от того, сможет ли человек пересмотреть решение системы

Первоисточник — OpenAI

Нашли неточность?

Сообщите редакции. Существенные исправления мы отмечаем в материале