OpenAI оказалась перед сложной дилеммой: в отличие от обычных мессенджеров, чат-боту необходимо анализировать входящие сообщения, чтобы сформировать ответ. Это исключает возможность использования стандартного сквозного шифрования. Как решить эту проблему?
Unsplash
Для усиления защиты пользовательских данных OpenAI намеревается добавить шифрование в чаты своего нейросетевого сервиса ChatGPT.
Как сообщил изданию Axios генеральный директор компании Сэм Альтман, первым шагом в этом направлении станет шифрование временных чатов — функции, которая позволяет вести диалоги, не сохраняя их в истории и не используя для обучения языковых моделей.
Новая версия ChatGPT предоставляет пользователям возможность делегировать боту выполнение задач и принятие решений: какие улучшения были реализованы?
Выход из Матрицы: кто такие «ИИ-веганы» и почему они опасаются ChatGPT
По сведениям издания, это решение было принято в результате анализа OpenAI, который показал, насколько важна конфиденциальность данных пользователи делятся с чат-ботом. Альтман отметил, что пользователи обращаются к ChatGPT для обсуждения конфиденциальных вопросов, включая медицинскую информацию и семейные проблемы, по сути, наделяя его функциями нелицензированного психотерапевта.
Первоначально конфиденциальность не считалась важной, однако, как заявил глава OpenAI, сейчас компания уделяет ей большое внимание. В связи с этим даже рассматривается концепция «AI privilege», которая представляет собой некий аналог врачебной тайны для общения с ИИ.
Внедрение полноценного шифрования в ChatGPT представляет собой непростую задачу. В отличие от мессенджеров, использующих сквозное шифрование, при котором ключи хранятся исключительно на устройствах пользователей, архитектура ChatGPT предполагает доступ OpenAI к тексту запроса на серверах для его обработки. Это создает определенное противоречие: компания выступает одновременно в роли посредника и собеседника. В качестве потенциального решения рассматриваются технологии, аналогичные Private Cloud Compute от Apple, которые позволяют обрабатывать данные без прямого доступа к ним.
Недавние события, в частности связанные с OpenAI, усилили обеспокоенность по поводу конфиденциальности данных. В рамках судебного разбирательства о нарушении авторских прав федеральный суд США обязал компанию хранить все чаты пользователей, включая удаленные и временные, на неопределенный срок. OpenAI планирует обжаловать это решение, которое, по сути, отменяет статус временных чатов.
Сэм Альтман подчеркнул, что количество запросов от правоохранительных органов о предоставлении данных пока остается небольшим — не превышает двузначные числа в год. Тем не менее, он считает, что одного резонансного дела может быть достаточно, чтобы пользователи начали требовать принципиально нового подхода к обеспечению защиты.
Помимо судебного разбирательства с OpenAI, технологический гигант Google также начал индексировать общедоступные чаты ChatGPT, которые можно получить через функцию «Поделиться». Эта проблема была быстро устранена, однако она вновь подчеркнула вопросы, связанные с защитой данных.
В случае успешной реализации надежного шифрования, OpenAI может задать новый стандарт для всей отрасли. Однако в настоящее время проект находится на этапе обсуждения, и вопрос доверия к искусственному интеллекту снова остается открытым.
Вы применяете нейросети для решения задач?