Microsoft, NVIDIA, Google и другие компании создали Коалицию за безопасный ИИ

Сегодня (18 июля) на форуме безопасности в Аспене было объявлено о создании Коалиции за безопасный искусственный интеллект (CoSAI), новой отраслевой организации.

В число главных спонсоров-основателей CoSAI входят Google, IBM, Intel, Microsoft, NVIDIA и PayPal. Спонсорами-основателями также являются Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI и Wiz.

Эта инициатива с открытым исходным кодом направлена ​​​​на предоставление рекомендаций с помощью методологий с открытым исходным кодом, стандартизированных инфраструктур и инструментов, позволяющих разработчикам создавать системы искусственного интеллекта (ИИ), защищённые при проектировании.

CoSAI будет уделять особое внимание безопасной разработке, интеграции, развёртыванию и эксплуатации систем ИИ, снижая такие риски, как кража моделей, отравление данных, оперативное внедрение, масштабное злоупотребление и атаки на основе логических выводов.

Подобно другим проектам сообщества с открытым исходным кодом, CoSAI создаст Совет управления проектом для продвижения и управления своей общей технической повесткой дня, а также Технический руководящий комитет, состоящий из экспертов в области ИИ из академических кругов и промышленности, для наблюдения за направлениями работы.