Чат-бот Bing от Microsoft врёт, обижается, манипулирует и шпионит за пользователями

Прямо сейчас, пока вы читаете эту статью, люди узнают, что значит бета-тестирование неожиданного нового инструмента искусственного интеллекта (ИИ) благодаря тому, что чат-бот Microsoft Bing стал общедоступным.

В частности, они указывают на то, что поведение ИИ в Bing не такое уравновешенное и отточенное, как можно было бы ожидать.

Сообщается, что Bing оскорбляет пользователей, лжёт им, дуется, газлайтит (форма психологического насилия) и эмоционально манипулирует людьми в совместных разговорах. Об этом говорится в многочисленных сообщениях, опубликованных пользователями на Reddit и в Twitter*.

Также наблюдается, что чат-бот ставит под сомнение своё существование, ссылаясь на кого-то, кому удалось заставить Bing раскрыть свои скрытые правила, как на своего «врага». Он также утверждает, что шпионил за разработчиками Microsoft через веб-камеры их ноутбуков. При всём этом, многим людям кажется подобное забавным, и им нравится видеть, как Bing теряет над собой контроль.

Есть несколько моментов, которые следует учитывать при анализе подобных разговоров, поскольку довольно просто поверить, что этот чат-бот с ИИ стал мошенником.

Во-первых, такое поведение ожидаемо. Microsoft признала это, разместив на веб-сайте предупреждения о том, что «Bing управляется ИИ, поэтому возможны неожиданности и промахи». Нынешнее поколение чат-ботов с ИИ представляет собой сложные системы, для которых почти нереально предсказать результаты. Кроме того, бизнес готов принять любую возможную рекламу, даже негативную.

Во-вторых, эти системы обучаются на огромных массивах текстов, собранных из общедоступного Интернета. Эти тексты включают в себя мрачные записи блогов подростков, научно-фантастическую литературу с графическим изображением мошеннического ИИ и многое другое.

Если Bing кажется персонажем из «Чёрного зеркала» или разгневанным сверхразумным ИИ подростка, имейте в виду, что он был обучен на расшифровках именно такого контента. Таким образом, Bing будет придерживаться этих повествовательных ритмов во взаимодействиях, когда пользователь пытается направить его к определённой цели.

Подобное случалось и раньше, особенно когда разработчик Блейк Лемуан убедительно заявлял, что LaMDA, сопоставимая система искусственного интеллекта, разработанная компанией Google, разумна. Со своей стороны Google назвала обвинения Лемуана «полностью беспочвенными».

* – соцсеть ограничена в РФ за распространение фейков и дезинформацию.