Google создала первую в мире «конституцию робота» для контроля действий ИИ

Продолжающееся развитие технологий привело к инновациям, но риск того, что искусственный интеллект (ИИ) выйдет из строя или примет нежелательные решения, вызывает серьёзные опасения с точки зрения безопасности и контроля.

Поэтому компания Google DeepMind, занимающаяся ИИ, предложила идею создания «конституции робота» в качестве меры, позволяющей не допустить того, чтобы технологии стали неуправляемыми.

Недавно компания запустила три инновационные технологические системы, направленные на повышение интеллекта и автономности роботов. Однако предоставление большей автономии нечеловеческим технологиям несёт в себе значительные риски.

В этом смысле Google как раз и представила руководство по безопасности под названием «конституция робота». Оно устанавливает ряд правил, которые в идеальном сценарии искусственный интеллект (ИИ) мог бы понять и применить на практике.

«Конституция робота» вдохновлена законами, сформулированными Айзеком Азимовым, выдающимся автором научной фантастики и научно-популярных работ.

Вот законы, налагаемые на ИИ:

• Робот не причинит вреда человеку и своим бездействием не допустит причинения вреда человеку.
• Робот должен выполнять приказы человека, за исключением тех, которые противоречат первому закону.
• Робот должен защищать своё существование в той степени, в которой эта защита не противоречит первому или второму закону.

Эти стандарты призваны регулировать и контролировать действия новых технологий, особенно учитывая способность роботов Google понимать, адаптироваться и принимать решения в различных ситуациях. «Конституция роботов» направлена на предотвращение принятия ИИ автономных решений в задачах, связанных с людьми, животными, острыми предметами и различными электронными устройствами.

Компания DeepMind позаботилась о том, чтобы её роботы были запрограммированы на автоматическую остановку при приложении чрезмерной силы к их суставам. Кроме того, они включили физическую кнопку выключения, которую каждый может нажать, чтобы отключить робота в нужный момент.