Раскрытие информации показало не только личные данные пользователей, но и выявило существенные недостатки в защите нейросетей.
Unsplash
Чат-бот Grok, созданный компанией xAI Илона Маска, стал участником значительного инцидента, повлекшего за собой утечку данных сообщило издание Forbes, в открытом доступе в интернете оказались стенограммы более 370 тысяч диалогов пользователей с этой нейросетью.
По информации специалистов, личные переписки пользователей, ставшие общедоступными через поисковые системы, например Google, распространялись без их согласия и уведомления.
Перед тем, как давать ответы на вопросы политической тематики, искусственный интеллект, разработанный Илоном Маском, требует согласования с его создателем
Выход из Матрицы»: кто скрывается за термином «ИИ-веганы» и каковы причины их опасений по отношению к ChatGPT
Проблема возникла с функциональностью кнопки «Поделиться» в интерфейсе чат-бота. При нажатии на нее пользователем для отправки кому-либо свою беседу с Grok, система генерировала уникальные веб-ссылки. Однако выяснилось, что эти ссылки не являются конфиденциальными. Поисковые системы могли свободно индексировать их и включать в свои каталоги. Кроме того, в самом сервисе отсутствовали предупреждения о том, что сгенерированная ссылка сделает переписку доступной для публичного просмотра.
В Google поисковой выдаче теперь можно найти тысячи обсуждений на самые разные темы. В основном пользователи обращались к нейросети с просьбами помочь составить твит, решить несложную бизнес-задачу или придумать заголовок для публикации.
Среди опубликованных данных также присутствовало значительное количество конфиденциальной информации. Пользователи задавали Grok вопросы, касающиеся их здоровья, и обсуждали психологические проблемы делились личными переживаниями.
В отдельных чатах пользователи указывали свои имена и фамилии, а в одном случае журналисты Forbes даже получили доступ к паролю от аккаунта. Помимо текста переписки, в сеть были выложены файлы, которыми обменивались участники чата — фотографии, документы и таблицы.
Переписки, в которых пользователи запрашивали информацию, противоречащую правилам использования Grok, вызвали особое беспокойство. Несмотря на запрет компании на создание оружия, чат-бот, например, предоставлял инструкции по изготовлению взрывных устройств. Кроме того, он давал информацию о том, как производить наркотики, создавать вредоносное программное обеспечение или совершать несанкционированный доступ к криптовалютным кошелькам.
Нейросеть в одном из взаимодействий разработала подробный план покушения на Илона Маска, своего создателя, и создала изображения, иллюстрирующие вымышленный теракт. Эта информация, в том числе способы самоуничтожения, была обнародована и стала доступна в сети благодаря функции «Поделиться.
Не впервые чат-бот сталкивается с подобной ситуацией. До этого пользователи ChatGPT от OpenAI также выражали свое удивление обнаруживали свои переписки в результатах поиска Google. Однако в том случае для индексации нужно было активировать специальную опцию, и даже при этом OpenAI в итоге признала эксперимент неудачным и отключила эту возможность.
С Grok обновился функционал незаметно для пользователей, и этот процесс, судя по всему, был автоматическим.