Компания Anthropic, являющаяся разработчиком чат-бота Claude, предостерегает о возможном скором появлении искусственного интеллекта, демонстрирующего значительное ускорение собственного развития. Данное предупреждение содержится в разделе, посвященном факторам риска, обновленного проспекта эмиссии (форма S-1/A), который стартап направилнаправил в Комиссию по ценным бумагам и биржам США (SEC) в преддверии выхода на биржу.
В документе обсуждается концепция рекурсивного самосовершенствования – этап, когда нейронные сети начинают настолько эффективно содействовать инженерам в процессе обучения новых алгоритмов, что технологический прогресс получает резкий импульс к ускорению. В Anthropic подчеркивают, что уже используют собственные модели для проведения исследований и разработок, однако выражают обеспокоенность тем, что подобный подход может представлять угрозу для будущего человечества.
Согласно внутренним прогнозам, касающимся будущих поколений моделей, компания потенциально способна в ближайшее время преодолеть порог «резкого ускорения прогресса благодаря ИИ», который зафиксирован в ее собственной политике ответственного масштабирования. На текущий момент ни одна из существующих версий Claude официально не достигла этого рубежа – эксперты продолжают анализ данных и обещают представить результаты в отдельных отчетах.
При этом в AnthropicПредставители компании утверждают, что не намерены предоставлять своим системам искусственного интеллекта полную независимость при создании последующих версий алгоритмов. В настоящее время организация проводит пересмотр внутренних правил с целью обеспечения поддержания существенного контроля со стороны человека над разработкой инновационных систем.
Заявления такого рода могут показаться тревожными, однако мы не советуем воспринимать их слишком буквально. Следует учитывать: Anthropic готовится к первичному публичному размещению акций и рассчитывает на привлечение внушительного объема инвестиций. Соответственно, необходимо активно продвигать свою компанию.
Фактически, проспект к биржевому размещению предназначен не только для обязательного информирования о потенциальных рисках, но и для привлечения внимания инвесторов в преддверии первичного публичного предложения акций, поэтому заявления о скором технологическом прогрессе могут иметь маркетинговую составляющую.
Примечательно, что это лишь один из аспектов подготовки к предстоящему IPO. Недавно Anthropic также начала удалять нежелательных пользователей из своей клиентской базы. В течение нескольких дней были заблокированыДанные о тысяче аккаунтов россиян и граждан других государств, которым по идее не следует использовать модели Anthropic, были обнародованы. По всей видимости, таким образом компания стремится продемонстрировать свою надежность, чтобы привлечь инвестиции в бизнес с весьма неопределенными финансовыми прогнозами.