Необходимо срочно пересмотреть темпы развития технологий искусственного интеллекта. Как сообщалось ранее, в OpenAI обсуждал Сэм Альтман, а сегодня к его мнению присоединился Дарио Амодеи, руководитель Anthropic. Он призвал выразил мнение о целесообразности сдерживания прогресса в создании наиболее передовых моделей искусственного интеллекта.
Поддержать эту позицию высказались Илон Маск, глава xAI, и генеральный директор OpenAI Сэм Альтман. Это событие заслуживает внимания: ранее Илон Маск и Сэм Альтман сотрудничали (Илон Маск был одним из основателей OpenAI, однако в настоящее время их отношения характеризуются напряженностью, поскольку Маск подал на OpenAI в суд, а компания ответила обвинениями в зависти. Согласие двух непримиримых конкурентов такого уровня говорит о многом.
В рамках образовательной программы российские педагоги пройдут обучение работе с искусственным интеллектом: запланировано обучение для 250 тысяч учителей. Внедрение искусственного интеллекта может привести к сокращению рабочих мест: ежемесячно около шестнадцати тысяч позиций исчезает из-за автоматизации процессов с использованием ИИ. Искусственный интеллект стал причиной кибератаки, направленной на государственную инфраструктуру Тайваня.
Теперь обратимся к руководителю Anthropic. Он имеет опыт работы в OpenAI. Амодеи обосновал свое предложение тем, что прогресс в развитии нейронных сетей опережает разработку средств контроля над ними. По его мнению, при сохранении текущей динамики уже через шесть-двенадцать месяцев группы независимых ИИ-агентов потенциально способны нанести ущерб, оцениваемый в сотни миллиардов долларов.
Читайте Men Today в MAX
Процесс уже идет: автономные агенты получают доступ к ресурсам, используя их для выполнения поставленных задач, зачастую не представляющих никакой опасности. Недавно был зафиксирован случай, когда группа ИИ-агентов взломала популярный онлайн-портал с целью получения общедоступной информации, необходимой для решения простой и безобидной задачи – пример работы эффективного оптимизатора.
Илон Маск поддержал высказывание Амадея, а Сэм Альтман заявил о том, что OpenAI уже некоторое время рассматривает возможность ограничения скорости развития технологий. Он также высказался в пользу привлечения независимых экспертов для проверки деятельности ИИ-компаний и предоставления им доступа к внутренним процессам.
Означает ли это реальную остановку или существенное замедление разработок? Скорее всего, нет. Китайские компании проигрывают американским разработчикам несколько месяцев, причем эта разница сокращается ежедневно. Правительство США не допустит полного выравнивания, однако не сможет заставить китайский бизнес прекратить свою деятельность, поскольку санкции уже не оказывают должного влияния.
Россия также не сможет позволить себе замедление прогресса в этой области. Данная ситуация предоставляет стране уникальную возможность уменьшить разрыв с лидерами. Хотя достижение полного равенства представляется маловероятным, отечественные разработки в сфере искусственного интеллекта смогут занять конкурентную позицию на рынке. Вероятно, власти Соединенных Штатов Америки не заинтересованы в подобном развитии событий, поэтому активные исследования не будут прекращены, несмотря на возможные заявления об ограничении доступа к общедоступным моделям.
Читайте Men Today в MAX
Существует также версия о том, что создатели искусственного интеллекта столкнулись с определенными ограничениями и пытаются представить ситуацию в более выгодном свете: речь идет не о достижении ИИ предела своих возможностей, а о сознательном прекращении работ для предотвращения потенциальной угрозы миру.