Вице-президент Google Рагхаван: чат-боты с ИИ могут быть опасными для пользователей

После дебютного «провала» руководитель Google предостерёг, что чат-боты на основе так называемого искусственного интеллекта (ИИ) иногда серьёзно несут чушь, поэтому способны представлять опасность для тех, кто их использует.

Совсем недавно новый чат-бот компании Google на основе собственного ИИ под названием Bard дал неправильный ответ на поставленный вопрос, в результате чего цена акций его материнской фирмы Alphabet упала на 8 процентов, а её рыночная стоимость обвалилась более чем на 100 млрд долларов.

В субботнем (11 февраля) интервью для СМИ руководители поисковой системы Google заявили, что современные формы генеративного ИИ, такие как ChatGPT, могут быть ненадёжными, и следует опасаться ловушек ИИ в чат-ботах.

В частности, Прабхакар Рагхаван, занимающий пост старшего вице-президента и руководителя Google Search, сказал в интервью, что ИИ, о котором идёт речь, может время от времени становиться причиной того, что люди именуют галлюцинацией, так как машина выдаёт на первый взгляд убедительную информацию, но которая является полностью сфабрикованным ответом.

По словам Рагхавана, одна из фундаментальных задач индустрии ИИ сегодня – это свести такие ситуации к минимуму. Фактически, многие пользователи ChatGPT, включая соучредителя Apple Стива Возняка, жаловались, что он часто дает неправильные ответы. По этой причине, пользователям не стоит доверять им беззаветно, чтобы не попасть в неловкую или даже опасную ситуацию.