В США создают консорциум для регуляции AI

Новый Американский консорциум по безопасности искусственного интеллекта (AISIC), входящий в состав Национального института стандартов и технологии, обязаны разработать рекомендации для проведения красных команд (red-teaming) система искусственного интеллекта, оценки их способностей, обеспечении безопасности и защиты, а также внедрения водяных знаков для контента созданного с помощью AI.

В список организацией участвует 200 компаний, среди них гиганты Apple, Google, Microsoft, OpenAI и другие. Данный консорциум поможет создать стандарты необходимые для ответственного создания искусственного интеллекта.

Правительство Байдена обозначила некоторые цели для реализации регулирования:

• Требование от разработчиков ИИ-систем предоставить результат тестирования безопасности правительству США;
• Разработка стандартов, инструментов и тестов для обеспечение безопасности и доверительности AI;
• Защита жителей США от мошенничества и обмана с помощью AI;
• Создание программы кибербезопасности для разработки инструментов AI для выявления и устранения уязвимостей в критичном ПО.

Несколько личностей, включая Илона Маска и Стивена Хокинга, высказывали опасения относительно AI, включая долгосрочную угрозу, что AI в конечном итоге захватит контроль над миром. Ближайшие опасения включает использование AI для создания биологического оружия, дезинформации и кибератаки. Хотя некоторые высказываются иначе, как капиталист Марк Андриссен о том, что все опасения преувеличены. Также он призывал к отсутствию каких-либо барьеров и регуляции на разработку AI т.к. считает, что регуляторные барьеры будут созданы для того, чтобы у крупных игроков не было конкурентов.