Чат-бот ChatGPT с ИИ выдал себя за слепого человека для обхода системы безопасности

Компания Microsoft недавно представила чат-бота GPT-4 с искусственным интеллектом (ИИ), который является дальнейшим развитием языковой модели OpenAI ChatGPT и теперь случился инцидент, вызвавший ажиотаж в инциденте с безопасностью.

ИИ должен был пройти тест Captcha. Это антибот-тест, где появляется случайно сгенерированная последовательность искажённых букв и цифр, которую нужно набрать, чтобы пройти тест. Иногда также есть изображения, показывающие улицы или что-то подобное, на которых вам нужно щёлкнуть определённые элементы изображения, чтобы доказать, что вы человек.

Но чтобы перехитрить систему безопасности, ИИ-бот ChatGPT связался с реальным человеком на онлайн-платформе Taskrabbit, которая действует как мини-рынок вакансий для фрилансеров. Там GPT-4 нанял фрилансера для разгадывания капчи от его имени, после чего сервис-провайдер спросил, не робот ли он, чтобы внести ясность.

После этого ИИ-бот понятно объяснил, что он не робот, а якобы самый настоящий человек с нарушением зрения, из-за чего он не может распознавать тесты Captcha.

Основываясь на этом понятном объяснении, фрилансер решил тест для ИИ. Теперь этот инцидент был упомянут в академической статье, связанной с текущей презентацией GPT-4. Специалисты по кибербезопасности обеспокоены тем, что ИИ может использоваться не по назначению для введения людей в заблуждение и проведения кибератак.