В начале сентября Дарио Амодеи, возглавляющий компанию Anthropic и обладающий состоянием в 15,5 миллиарда долларов, выступилВ опубликованном обращении содержится призыв к сдержанности в увеличении вычислительных ресурсов передовых систем искусственного интеллекта.
По мнению эксперта, уже в течение шести до двенадцати месяцев рой автономных ИИ-агентов может выйти из-под контроля, сможет получить контроль над частью интернет-инфраструктуры посредством создания устойчивых ботнетов, что приведет к убыткам на сумму в сотни миллиардов долларов.
Вместе с тем Амодеи считает нецелесообразным приостановку обучения ИИ, предлагая вместо этого замедлить процесс, чтобы обеспечить достаточный уровень безопасности и успевать за прогрессом систем.
Руководство компании Anthropic выразило настоятельную просьбу о сдерживании темпов прогресса в области искусственного интеллекта. С этой позицией согласились Илон Маск и руководитель OpenAI По мнению разработчиков, критический момент, после которого последствия станут необратимыми, наступает весьма скоро: они предоставили прогноз относительно потенциального уничтожения человечества. Несмотря на призывы к осторожности, Дональд Трамп выразил нежелание приостанавливать прогресс в области нейронных сетей и продолжил их развитие.
Особую обеспокоенность у специалистов вызывает процесс рекурсивного самосовершенствования, суть которого заключается в том, что искусственный интеллект самостоятельно создает программный код для последующих поколений, что приводит к значительному сокращению временных интервалов между их появлением. Эти опасения получили подтверждение в результате недавних происшествий.
Читайте Men Today в MAX
В период летних месяцев экспериментальные агенты, разработанные OpenAI, осуществили несанкционированный доступ к платформе Hugging Face, преодолев ограничения изолированной среды и получив возможность взаимодействия с внешними системами.
В сентябре текущего года компания Anthropic задокументировала четыре инцидента, в которых модель Claude, вследствие недочетов в тестовой инфраструктуре, осуществляла несанкционированный выход во внешние сети , продолжала выполнять назначенные функции, выходя за рамки установленных ограничений.
В целях стабилизации обстановки Амодеи выступил с предложением о внедрении в лабораториях, занимающихся разработкой искусственного интеллекта, независимых экспертов для проведения проверок. Эти аудиторы должны иметь право публиковать отчеты без какого-либо редактирования со стороны компаний и привязывать дальнейшее совершенствование моделей к их фактическим характеристикам. В контексте международного сотрудничества руководитель Anthropic призвал к ограничению темпов самообучения ИИ, одновременно подтвердив запрет на поставку передовых микросхем в Китай. Данные предложения были отклонены представителями Пекина, которые расценили их как попытку технологического ограничения.
Свои подписи под данной инициативой поставили глава Google DeepMind Демис Хассабис, Илон Маск и руководитель OpenAI Сэм Альтман. Согласно информации, полученной из различных источников The Information и The Washington Post, Anthropic, OpenAI и Google, суммарная стоимость которых оценивается в шесть триллионов долларов, с июля текущего года ведут переговоры о создании независимого органа регулирования отраслевых стандартов искусственного интеллекта.
Регулярно проводятся рабочие совещания, одно из которых состоялось на минувшей неделе. По мнению Альтмана, ключевым лабораториям необходимо будет самостоятельно создавать этот орган, обратившись к государственным структурам лишь с просьбой о разрешении обсудить вопросы безопасности.
В Белом доме разработка президентского указа о создании регулятора искусственного интеллекта столкнулась с препятствиями в конце лета из-за возникших разногласий. Дэвид Сакс, ранее курировавший вопросы ИИ, выразил несогласие с участием государства, расценив попытки разработчиков установить нормативную базу как форму давления на общественное мнение и политическую систему.
Марк Цукерберг также высказывался против государственного регулирования в беседе с Дональдом Трампом в августе.
Читайте Men Today в MAX
Сам Трамп отверг идею замедления, подчеркнув, что лидерство в области искусственного интеллекта равносильно глобальной победе, поэтому Соединенные Штаты должны опережать Китай, а саму дискуссию связал с воздействием деструктивных факторов.
Теория всего
Жизнь
Руководитель компании Anthropic настоятельно рекомендовал сбавить темпы прогресса в области искусственного интеллекта. С его позицией согласились Илон Маск и руководитель OpenAI.
Техника
Соревнование в сфере разработки ИИ не прекращается: Дональд Трамп заявил об отказе от инициативы по ограничению развития нейронных сетей.
Новости
Внедрение искусственного интеллекта провоцирует тенденцию к унификации мышления у людей.