GCHQ: ChatGPT и другие чат-боты с ИИ представляют новую угрозу безопасности

Шпионское агентство GCHQ предупредило, что ChatGPT и другие чат-боты на базе искусственного интеллекта (ИИ) представляют собой новую угрозу безопасности.

В консультативной записке, опубликованной во вторник, 14 марта, Национальный центр кибербезопасности предупреждает, что такие компании, как создатель ChatGPT OpenAI и его инвестор Microsoft, «могут читать запросы», вводимые в чат-боты на базе ИИ.

Подразделение кибербезопасности GCHQ заявило: «Запрос будет виден организации, предоставляющей чат-бот, а в случае ChatGPT – OpenAI».

Февральский запуск Microsoft службы чат-ботов Bing Chat покорил мир благодаря способности программного обеспечения (ПО) поддерживать человеческий разговор со своими пользователями.

Предупреждение указывает на то, что любопытные офисные работники, экспериментирующие с технологией чат-ботов, могут раскрыть конфиденциальную информацию через свои поисковые запросы.

Эксперты по кибербезопасности из агентства GCHQ заявили, имея в виду технологию крупноязыковой модели LLM, которая обеспечивает работу чат-ботов с ИИ: «Эти запросы хранятся и почти наверняка будут использованы для разработки службы или модели LLM в какой-то момент. Это может означать, что поставщик LLM (или его партнёры/подрядчики) может читать запросы и может каким-то образом включать их в будущие версии. Поэтому необходимо хорошо понимать условия использования и политику конфиденциальности, прежде чем задавать деликатные вопросы».

В феврале Microsoft сообщила, что её сотрудники читают разговоры своих пользователей с помощью Bing Chat, отслеживая их для выявления «ненадлежащего поведения». Иммануэль Чавоя, старший менеджер по безопасности в компании Sonicwall, занимающейся кибербезопасностью, отметил, что хотя операторы LLM должны иметь меры для защиты данных, возможность несанкционированного доступа нельзя полностью исключить.

NCSC также предупреждает, что чат-боты на основе ИИ могут «содержать серьёзные недостатки», о чём уже говорила сама Microsoft, так и её главный конкурент Google.