Наука оказалась бессильной

На Земле появилась новая глобальная квазирелигия

Уникальный мета-опрос 480 топовых академических и индустриальных специалистов дал весьма печальный результат.

Пути создания ИИ человеческого уровня (AGI) и спорные вопросы этики ИИ, по сути, перестали быть вопросами науки.

Теперь это лишь вопрос веры. А доли верующих и неверующих в эту новую квазирелигию среди наиболее известных исследователей и инженеров примерно 50 на 50. Похоже, что основания считать дальше исследования в этой области наукой таят.

За последнюю пару лет раскол мнений по спорным вопросам исследований и развития ИИ-технологий нарастал. И это не может не тревожить. Ведь совершенствование ИИ-технологий — наиболее перспективная и в то же время рискованная область развития современной науки. Последствия прогресса в этой области для человечества могут быть соизмеримы с последствиями появлением у людей электричества и ядерной бомбы.

Необходимость понять за и против в вопросах перспектив и рисков ИИ-технологий еще более возросла после недавней революции в NLP (обработка естественного языка). Интеграция моделей трансформеров, давшая за последние годы такие прорывы, как GPT3, PaLM, Chinchilla и т. д., переводит вопросы создания ИИ человеческого уровня и спорные вопросы этики ИИ из разряда теоретических в практические. Следовательно, пришла пора расставить точки над i в этих вопросах.

С этой целью исследователи 3-х университетов США с мая по июнь 2022 г провели уникальный по масштабу и репрезентативности опрос специалистов в области NLP. Они опросили 480 спецов, т.е. опрос охватил около 5% от общей численности исследователей, у которых было как минимум 2 публикации ACL (Ассоциация компьютерной лингвистики) в период с 2019 по 2022 год.

Результаты опроса удручают поляризацией мнений и тем, что оба полюса опираются не на научные воззрения, а на индивидуальную веру опрошенных.

К вопросам веры относятся такие важнейшие вопросы:

• При наличии ресурсов (вычислений и данных), которые могут появиться в этом столетии, масштабирование существующих методов будет достаточно для решения «практически любой важной проблемы» в НЛП: 47% — да, 53% — нет.
• Будет ли новая ИИ-зима на горизонте в 30 лет: 51% — да, 49% — нет.
• Большинство исследований, публикуемых в журнале NLP, имеют сомнительную научную ценность: 48% — да, 52% — нет.
• Способны ли большие языковые модели (LLM) в принципе хоть что-то понимать из текста: 51% — да, 49% — нет.
• Есть ли за последние годы хоть какое-то продвижение к AGI: 57% — да, 43% — нет.
• Должен ли AGI быть предметом беспокойства для исследователей NLP: 58% — да, 42% — нет.

Исследователи могут иметь сколь угодно противоречивые мнения. Но частному бизнесу и правительствам принимать решения об инвестициях в важнейшую область в ситуации орёл-решка не разумно и безответственно.

Полагаю, что в такой ситуации приоритетными целями инвестиций должны быть не конкретные проекты, а тщательный анализ и обоснование выбора дальнейших направлений исследований и разработок в ИИ.

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях