Чего боится Крестный отец искусственного интеллекта? Лучше бы эта технология не появлялась
Джеффри Хинтон — ученый, который внес огромный вклад в развитие ИИ. Он стоял у истоков многих современных разработок, поэтому его часто называют одним из «крестных отцов искусственного интеллекта».
С 2013 по 2023 год Хинтон работал в Google, занимаясь разработкой инновационному ИИ, разум которого работает по тому же принципу, что и человеческий. Неизвестно, насколько глубоко компания продвинулась в развитии технологии, однако уже сегодня всем очевидно, что полноценный искусственный интеллект — дело нескольких лет. В крайнем случае, десятилетий. И это очень сильно пугает ученого.
Он считает, что человечеству было бы лучше без этой технологии: «Это того не стоит. Точно так же, как нам было бы лучше без ископаемого топлива. Да, мы были бы куда примитивнее, но риски не стоят того уровня развития, что у нас есть».
Но что страшного есть в искусственном интеллекте, что так пугает ученого? Джеффри Хинтон считает, что даже если искусственный интеллект будет обладать теми же когнитивными способностями, что и человек (в реальности ИИ в тысячи раз умнее) у него есть важное конкурентное преимущество, которое лишает человека смысла в существовании: ИИ не умирает.
Все знания, что были собраны искусственным интеллектом, могут быть в полном объеме переданы его копии. Человечество так не может. Мы постоянно теряем важные секреты и технологии из-за природных катастроф и других бедствий.
А у искусственного интеллекта такой проблемы нет, а значит он обязательно вытеснит человека с Земли. Это неизбежный сценарий и уже почти ничего не изменить: «Из-за особенностей общества и конкуренции между разными странами ИИ не остановить. Если бы ООН действительно работала, возможно, что-то подобное могло бы остановить искусственный интеллект. Мы не можем этого отрицать. Мы должны быть реалистами. Нам нужно подумать: как нам сделать будущее не таким ужасным для человечества, как оно могло бы быть?»
Опасения Джеффри Хинтона может быть и оправданы, но едва ли нам стоит опасаться за свое будущее в ближайшее десятилетие. Пока что современные языковые модели еще далеки от сильного искусственного интеллекта.современные языковые модели еще далеки от сильного искусственного интеллекта.