Машинное обучение — это современная алхимия

Т.е. полезная инженерная практика, ведущая, при этом, науку в никуда

Image for post
Image for post
Градиентный спуск — алгоритм оптимизации поиска минимума в 3D ландшафте методом проб и ошибок. ALEXANDER AMINI, DANIELA RUS.MIT, ADAPTED BY M. ATAROD/SCIENCE

Машинное обучение — это полезный инженерный навык решения широкого спектра задач, но:

не способный дать научное объяснение таким фундаментальным понятиям, как интеллект и сознание,

и, что гораздо хуже, уводящий научные исследования этих понятий в ложном направлении.

Приятно констатировать, что это уже не только моя точка зрения, многократно изложенная в постах. Али Рахими из Google и Бен Рехт из Калифорнийского университета (оба — весьма известные спецы в области машинного обучения) приводят конкретную и вполне убедительную аргументацию в пользу вышесказанного.

Выступление Рахими на конференции NIPS 2017 в декабре прошлого года на эту тему сорвало долгие овации зала (видео 27 мин, текст)

А сказал он следующее.

1) Бурный прогресс технологий машинного обучения, казалось бы, не оставляет шансов для сомнений в правильности избранного технологического направления. Миллиарды вкладываемых в это направление долларов заставляют верить, что «машинное обучение — это новое электричество».

2) Но на самом деле, это совсем не так. Альтернативная метафора — машинное обучение стало алхимией. Ведь, на самом деле, алхимия вовсе не была лженаукой.

Image for post
Image for post

Алхимия работала и принесла массу пользы — алхимики изобрели металлургию, способы приготовления лекарств, методы обработки текстиля и наши современные стекольные процессы. Т.е. все то, без чего бы не произошла промышленная революция.

Но с другой стороны, алхимики также полагали, что они смогут превращать металлы в золото и что пиявки — прекрасный способ лечения болезней.

И чтобы достичь истинного понимании окружающего мира и всей вселенной, которое принесли человечеству физика и химия 1700-х годов, от большинства теорий, разработанных алхимиками, пришлось отказаться.

3) Тоже самое происходит с машинным обучением. Оно здорово работает. Оно реально полезно. И если вы создаете онлайн сервис обмена фотографиями, машинное обучение прекрасно для этого подходит.

4) Но машинное обучение никогда не позволит нам «превращать металлы в золото», поскольку также, как и алхимия, не строится на строгих, надежных, проверенных знаниях.

5) Мы зашли в этом алхимическом направлении уже слишком далеко. Сейчас перед нами:

✔️ уже не просто «Проблема воспроизводимости ИИ» (невозможность тиражировать результаты друг друга из-за несогласованных экспериментальных и публикаторских практик);

✔️ и даже не просто «Проблема черного ящика» и интерпретируемости результатов работы алгоритмов (interpretability);

Теперь мы имеем не просто «черный ящик» машинного обучения.
В «черный ящик» превратилась вся область исследований технологий ИИ.

Цель науки — генерировать знания, а не создавать все новые массовые гаджеты. Сейчас же мы имеем лишь последнее. А знаний практически не прибавляется.

Пора, если не менять направление, то, по крайней мере, срочно начать развивать и альтернативные.

Для профессионалов, желающих познакомиться с подробностями аргументации — вот подборка документов «Проклятие победителя? О скорости, прогрессе и эмпирической строгости»

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store