В последнее время ведущие лаборатории в области ИИ действовали так, будто участвуют в гонке за мировое господство благодаря сверхмощному искусственному интеллекту или, как минимум, искусственному общему интеллекту. На этой неделе отрасль в целом начала отходить от такой позиции, призывая к координации усилий по замедлению разработки ИИ, который, по их мнению, вскоре может стать слишком опасным и непредсказуемым для контроля.
Дарьо Амодей из Anthropic выступил инициатором изменения тональности, опубликовав обширный доклад, в котором утверждается, что «необходимо снижать темпы улучшения возможностей моделей ИИ», чтобы избежать «гонки на дно», вызванной коммерческими стимулами и усугубляющей потенциальные риски. Сам Altman, сооснователь и генеральный директор OpenAI, поддержал эту позицию в социальных сетях и сообщил о проведении аналогичных обсуждений внутри компании.
Сообщите редакции. Существенные исправления мы отмечаем в материале.