Во вторник правительственные чиновники и руководители в сфере искусственного интеллекта договорились внедрить базовые меры безопасности в этой стремительно развивающейся отрасли. Кроме того, они планируют создать международную сеть для исследований в области безопасности ИИ.
Почти шесть месяцев спустя после первого глобального саммита по безопасности ИИ в Блетчли-парке, Великобритания и Южная Корея на этой неделе проведут в Сеуле новый саммит, посвященный этой теме. Это мероприятие призвано осветить новые вызовы и возможности, связанные с развитием технологий искусственного интеллекта.
Во вторник британское правительство объявило о новом соглашении, заключённом между 10 странами и Европейским Союзом. Это соглашение направлено на создание международной сети, аналогичной британскому Институту безопасности ИИ, первой в мире государственной организации, способствующей ускорению исследований в области безопасности ИИ. В сеть войдут Австралия, Канада, ЕС, Франция, Германия, Италия, Япония, Сингапур, Южная Корея, Великобритания и США, что позволит согласовывать исследования, стандарты и тестирование в этой сфере.
В первый день саммита в Сеуле мировые лидеры и ведущие компании в области искусственного интеллекта собрались на виртуальную встречу под председательством премьер-министра Великобритании Риши Сунака и президента Южной Кореи Юн Сук Ёля. Они обсудили вопросы безопасности, инноваций и инклюзивности в сфере ИИ. Итогом встречи стало принятие Сеульской декларации, направленной на расширение международного сотрудничества для решения глобальных проблем с помощью ИИ, защиты прав человека и устранения цифрового неравенства. В декларации подчеркивается важность создания технологий, ориентированных на человека, заслуживающих доверия и ответственных.
«ИИ – это чрезвычайно перспективная технология, и Великобритания возглавляет глобальные усилия по её безопасному развитию, проведя в прошлом году первый в мире саммит по безопасности ИИ», — отметил Сунак. «Чтобы извлечь все выгоды, мы должны убедиться в её безопасности. Поэтому я рад объявить о создании международной сети институтов безопасности ИИ».
В прошлом месяце Великобритания и США подписали меморандум о взаимопонимании для сотрудничества в исследованиях, оценке безопасности и разработке рекомендаций по ИИ. Новое соглашение подкрепляется первыми в мире обязательствами по безопасности ИИ, принятыми 16 компаниями, занимающимися разработкой ИИ, включая Amazon, Google, IBM, Meta, Microsoft и другие.
Компании из США, Китая и ОАЭ обязались не разрабатывать и не развертывать модели ИИ, если меры по снижению рисков не обеспечивают их безопасное использование. «Это первый случай, когда так много ведущих компаний в сфере ИИ из разных уголков мира согласились с одинаковыми обязательствами по безопасности ИИ», — подчеркнул Сунак. «Эти обязательства обеспечат прозрачность и подотчетность в разработке безопасного ИИ».
Компании, поддержавшие новые обязательства, включают таких гигантов, как Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, OpenAI, Samsung Electronics, Technology Innovation Institute, xAi и Zhipu.ai (поддерживаемую Alibaba, Ant и Tencent). Эти организации согласились внедрять меры по снижению рисков и обеспечивать прозрачность в своих разработках.
В своём заявлении Риши Сунак отметил, что такие международные усилия являются важным шагом на пути к безопасному использованию искусственного интеллекта. Он подчеркнул, что обязательства, принятые ведущими компаниями, помогут установить стандарты, которые обеспечат надежность и ответственность в развитии ИИ.
Саммит в Сеуле стал важной платформой для обмена знаниями и опытом между странами и компаниями. Обсуждения включали темы, касающиеся правовых и этических аспектов ИИ, а также способы предотвращения потенциальных угроз. Участники саммита также обсудили возможность создания единых стандартов и протоколов, которые будут регулировать использование ИИ на международном уровне.
Кроме того, лидеры стран и руководители компаний договорились о необходимости продолжения диалога и сотрудничества в области ИИ. Планируется проведение регулярных встреч и конференций, где будут обсуждаться последние достижения и вызовы, связанные с искусственным интеллектом. Это поможет обеспечить постоянный обмен информацией и координацию усилий на глобальном уровне.
Заключительным аккордом саммита стало подписание совместного заявления о намерениях, в котором участники выразили готовность продолжать работу над обеспечением безопасности ИИ и его ответственным использованием. Они также договорились о необходимости инвестирования в исследования и разработку технологий, которые помогут сделать ИИ более безопасным и эффективным инструментом для решения глобальных проблем.
Таким образом, саммит в Сеуле стал важным шагом на пути к созданию международной системы безопасности ИИ, которая поможет минимизировать риски и максимально использовать потенциал этой технологии для блага человечества.
