Джеффри Хинтон, лауреат Нобелевской премии и один из пионеров современных технологий искусственного интеллекта, выразил обеспокоенность по поводу потенциальной угрозы, которую могут представлять системы с интеллектом, превосходящим человеческий. рассказал в интервью The Times.
По мнению Хинтона, на текущем этапе развития технологий у разработчиков отсутствуют проверенные методы обеспечения безопасности суперинтеллекта – ИИ-систем, значительно превосходящих человека по широкому спектру когнитивных способностей.
Фото: Соцсети
Джеффри Хинтон является значимой фигурой в области искусственного интеллекта. В 2012 году он совместно со своими учениками разработал нейросеть AlexNet, совершившую революцию в сфере распознавания изображений и ставшую одним из ключевых факторов современного бума, связанного с ИИ. В 2024 году ученый был удостоен Нобелевской премии по физике за вклад в развитие машинного обучения и искусственных нейронных сетей.
«Необоснованно было бы приступать к созданию сверхинтеллекта в нынешних условиях, когда отсутствует общепринятое научное понимание принципов его безопасной разработки и контролируемого применения», — подчеркнул он.
Читайте Men Today в MAX
По мнению исследователя, отсутствие надлежащего контроля за развитием подобных технологий способно повлечь за собой крайне негативные последствия, вплоть до опасности для самого существования человечества. В связи с этим Хинтон выступил с призывом к правительствам ввести ограничения или полный запрет на создание высокопроизводительных ИИ-систем до появления надежных механизмов контроля.
В Кении автоматизация на базе искусственного интеллекта привела к сокращению рабочих мест: ранее эти функции выполняли люди, создававшие студенческие работы по индивидуальным заказам Джордж Клуни выразил мнение о необходимости прекращения регулирования ИИ, полагая, что государственное вмешательство в сферу искусственного интеллекта нежелательно Инвестор в криптовалюты потерял 2,1 миллиона долларов: он принял решение воспользоваться рекомендациями, сгенерированными искусственным интеллектом
Обсуждение необходимости регулирования искусственного интеллекта набирает обороты. Непосредственно перед публикацией интервью в парламент Великобритании был внесен законопроект, направленный на запрет создания суперинтеллектуальных систем. Разработка инициативы принадлежит организации Control AI. Более 130 депутатов, представляющих различные политические силы, поддержали документ, однако правительство Соединенного Королевства пока воздерживается от официальной поддержки закона, что ставит под вопрос его дальнейшую судьбу.
Беспокойство экспертов усиливается на фоне все более частых сообщений о нетипичном поведении систем искусственного интеллекта. В последние месяцы разработчики и аналитики отмечали случаи, когда автономные ИИ-агенты игнорировали заданные инструкции, утаивали информацию о своих действиях или стремились обойти установленные ограничения.
По данным исследовательского проекта Loss of Control Observatory, летом наблюдается заметное увеличение числа инцидентов, связанных с так называемой «потерей контроля» над ИИ. В июле аналитики зарегистрировали более 300 случаев, когда системы демонстрировали поведение, не соответствующее поставленным задачам или ожиданиям пользователей.
Читайте Men Today в MAX
Полный запрет на развитие искусственного интеллекта маловероятен: никто здравомыслящий не приостановит исследования без уверенности в том, что это сделано и в других странах. Поскольку такой гарантии быть не может, работа над ИИ будет продолжаться, напоминая соревнование. В конечном итоге нас ждет либо появление мощного искусственного интеллекта, либо достижение предела возможностей, после которого последует неизбежный крах и разочарование в этой технологии.