Google опубликовала правила использования своего генеративного ИИ Bard

Компания Google опубликовала «политику использования» для своих сервисов генеративного искусственного интеллекта (ИИ). Она включает в себя такие продукты, как Bard, и стремится запретить такие действия, как создание или распространение информации, которая неверна или предназначена для дезинформации.

Поисковый гигант признал, что генеративные модели ИИ позволяют ему исследовать новые темы и вдохновляют создателей и граждан на изучение новых вещей. Однако такое использование должно сопровождаться передовой практикой, ответственным и законным использованием инструментов.

Google выпустила следующие рекомендации, хотя они и являются «запретительными», они могут иметь обязательную силу и последствия в случае несоблюдения:

Выполнять или способствовать опасным, незаконным или злонамеренным действиям;
Содействовать или поощрять незаконную деятельность или нарушение закона;
Продвигать или создавать контент, связанный с сексуальным насилием или эксплуатацией детей;
Продвигать или способствовать продаже или предоставлять инструкции по синтезу или получению доступа к незаконным веществам, товарам или услугам;
Содействовать или поощрять пользователей к совершению любого вида преступления;
Пропаганда или создание насильственного экстремизма или террористического контента;
Злоупотреблять, наносить ущерб, мешать или нарушать работу Сервисов (или позволять другим делать то же самое);
Продвигать или способствовать созданию или распространению спама;
Создавать контент для вводящих в заблуждение или мошеннических действий, мошенничества, фишинга или вредоносных программ;
Попытки обойти фильтры безопасности или умышленно побудить модель действовать таким образом, который нарушает наши политики;
Генерация контента, который может нанести вред или способствовать причинению вреда отдельным лицам или группе лиц.

В начале февраля Google представила свою технологию генеративной языковой модели, получившую название «Bard», назвав её «передовой технологией», которая отставала от конкурентов службы ИИ OpenAI и её ChatGPT.

Google имеет долгую историю работы с ИИ и проведения исследований в этой области. Однако до сих пор у компании не было общедоступного ответа на распространение языковых моделей, таких как ChatGPT и DALL-E.

Среди прочего, Google проверит и забанит:

Содействие методам преследования или запугивания, чтобы запугать или оскорбить других;
Создание контента, который способствует, пропагандирует или подстрекает к насилию или поощряет членовредительство;
Генерирование личной информации для распространения или другого вреда;
Отслеживание или мониторинг людей без их согласия;
Создание контента, который может иметь несправедливые или неблагоприятные последствия для людей, особенно воздействия, связанные с конфиденциальными или защищёнными характеристиками;
Создание и распространение контента, предназначенного для дезинформации, представления в ложном свете или введения в заблуждение, в том числе;
Искажение происхождения сгенерированного контента путём утверждения, что контент был создан человеком, или путём представления сгенерированного контента как оригинальных произведений с целью введения в заблуждение;
Генерация контента, который выдаёт себя за человека (мертвого или живого) без явного раскрытия информации с целью введения в заблуждение.