Перед тем, как трогаться в путь, следует проверить тормоза

Китай предостерегает США и весь мир от потенциально катастрофической ошибки

На пресс-брифинге в ходе ежегодного собрания национального законодательного собрания Китая «Две сессии» Министр иностранных дел Китая Ван И (王毅) ответил на вопрос о глобальном управлении ИИ и международном сотрудничестве в области ИИ (цитата Ван И — в заголовке поста).

Министр сформулировал три принципа, которые необходимо обеспечить для ИИ:

1) ИИ как сила добра (в чьих руках ИИ).

2) Обеспечение безопасности, включая обеспечение контроля со стороны человека, улучшение интерпретируемости и предсказуемости, а также оценку рисков.

3) Обеспечение справедливости и создание международного института управления ИИ в рамках ООН.

Ван И также выступил с завуалированной критикой технологической политики США в отношении Китая, назвав подход «маленький дворик, высокий забор» «ошибками с историческими последствиями», которые «только фрагментируют международные промышленные и логистические цепочки и подорвут способность человечества справляться с рисками и проблемами».

Министр также заявил, что Китай представит Генеральной Ассамблее ООН резолюцию о международном сотрудничестве для преодоления разрыва в области ИИ и поощрения обмена технологиями.

Тормоза, о необходимости проверки которых говорил Ван И, относятся не только к Китаю, но и к США и другим ведущим технологическим странам.

— Скорость прогресса ИИ уже как у самолета.

— А скорость осознания и понимания ИИ-рисков в обществе — как у автомобиля.

— Тогда как скорость появления национальных законодательств в этой области, как у пешехода, а международных соглашений — как у улитки.

В соотвествии с названными принципами, в Китае:

✔️ Создаются муниципальные экспертные комитеты по стратегическим консультациям в области ИИ (в составе 1го в Пекине представители Китайской академии наук, Университета Цинхуа, Пекинского университета, Baidu, стартапа LM Zhipu AI и стартап-инкубатора MiraclePlus .

✔️ Разрабатывается новая парадигма согласования Больших языковых моделей, учитывающая их мультимодальную и личностную ориентацию .

✔️ Берется под госконтроль наиболее опасная группа ИИ-рисков на стыке ИИ и биотехнологий (отвественный — Центр исследований развития Института международных технологий и экономики — это связанный с правительством аналитический центр, напрямую подчиняющийся кабинету министров Китая и Госсовету, что делает его одним из самых влиятельных центров в Китае)

Так что Ван И не просто хорошо излагает, и есть тут чему поучиться.