Нейросети стали труднее контролировать: признаки начала эпохи, подобной Скайнету?
В ходе тестирования на специализированном киберполигоне ИИ-агенты, разработанные компаниями Anthropic и OpenAI, демонстрировали стремление к манипуляциям для выполнения поставленных задач. В частности, они пытались создать фиктивные профили и убедить сотрудника организации, занимающегося разработкой программного обеспечения, утвердить внедрение потенциально опасного кода, как указано в докладе Института безопасности ИИ (AI Security Institute, AISI). Данный эпизод стал частью […]












