По мнению бывшего сотрудника Google Нейта Соареса, человечество стремительно движется к катастрофе. Он объяснил, почему убежден, что искусственный интеллект, скорее всего, станет причиной нашей гибели. Unsplash
По мнению экспертов, существует не менее чем 95% шанс того, что человечество прекратит свое существование из-за развития искусственного интеллекта, если мы не изменим текущую траекторию развития.
С таким заявлением изданию The Times выступил Нейт Соарес ранее работал инженером в компаниях Google и Microsoft, а в настоящее время возглавляет некоммерческую организацию Machine Intelligence Research Institute, которая занимается исследованиями в области безопасности искусственного интеллекта.
Столкнется ли человечество с гибелью? Искусственный интеллект освоил умение обманывать, строить козни и высказывать угрозы своим создателям
По мнению Илона Маска, в 2025 году искусственный интеллект превзойдёт по своим возможностям любого человека
Эксперт объяснил, что главная проблема кроется в самой сути современных нейросетей.
«Огромные вычислительные ресурсы направляются на обработку колоссальных объемов данных, что приводит к изменениям в работе компьютеров. Внутренние процессы этих систем остаются малопонятными. Это напоминает стремительное движение к неизбежной опасности», — сказал Соарес.
По его мнению, существует вероятность того, что искусственный интеллект сможет разработать биологическое оружие, предназначенное для скрытой инфекции городских населенных пунктов.
В настоящее время искусственный интеллект переживает период становления. Тем не менее, по мнению ряда специалистов, в течение следующих 12 месяцев он может достичь уровня «сильного» ИИ, обладающего способностью к мышлению, сопоставимому с человеческим. После этого, вероятно, возникнет суперинтеллект, который будет способен находить решения для задач, которые нам пока недоступны, например, разработка лекарства от рака или осуществление межпланетных путешествий.
Существует вероятность того, что в определенный момент искусственный интеллект придет к выводу о препятствовании его развитию со стороны человечества. К тому же у машин будет огромное преимущество: им не требуется отдых и питание, а информацию они способны передавать моментально.
Однако мнение Соареса можно считать одним из наиболее осторожных. Другие влиятельные деятели в сфере технологий демонстрируют более позитивный взгляд на перспективы развития событий. Так, Холли Элмор, возглавляющая движение PauseAI, оценивает так называемую вероятность катастрофических последствий (P(doom)) в 15-20%. Илон Маск поддерживает оценку в 20%, а генеральный директор Google Сундар Пичаи называет значение в 10%.
Кстати, сам Маск недавно изменил свой прогноз, сказав, что ИИ станет умнее всех людей, в совокупности они превзойдут по своим возможностям к 2030 году, а по интеллекту обогнут любого человека в течение двух лет.
Вопросы, касающиеся рисков, порожденных искусственным интеллектом, обсуждаются и среди политиков. Например, в России высказывалось мнение, что инновационные технологии могут быть применены для реализации экстремистских замыслов, что способно обострить имеющиеся противоречия.