Машинное обучение — это современная алхимия
Т.е. полезная инженерная практика, ведущая, при этом, науку в никуда
Машинное обучение — это полезный инженерный навык решения широкого спектра задач, но:
не способный дать научное объяснение таким фундаментальным понятиям, как интеллект и сознание,
и, что гораздо хуже, уводящий научные исследования этих понятий в ложном направлении.
Приятно констатировать, что это уже не только моя точка зрения, многократно изложенная в постах. Али Рахими из Google и Бен Рехт из Калифорнийского университета (оба — весьма известные спецы в области машинного обучения) приводят конкретную и вполне убедительную аргументацию в пользу вышесказанного.
Выступление Рахими на конференции NIPS 2017 в декабре прошлого года на эту тему сорвало долгие овации зала (видео 27 мин, текст)
А сказал он следующее.
1) Бурный прогресс технологий машинного обучения, казалось бы, не оставляет шансов для сомнений в правильности избранного технологического направления. Миллиарды вкладываемых в это направление долларов заставляют верить, что «машинное обучение — это новое электричество».
2) Но на самом деле, это совсем не так. Альтернативная метафора — машинное обучение стало алхимией. Ведь, на самом деле, алхимия вовсе не была лженаукой.
Алхимия работала и принесла массу пользы — алхимики изобрели металлургию, способы приготовления лекарств, методы обработки текстиля и наши современные стекольные процессы. Т.е. все то, без чего бы не произошла промышленная революция.
Но с другой стороны, алхимики также полагали, что они смогут превращать металлы в золото и что пиявки — прекрасный способ лечения болезней.
И чтобы достичь истинного понимании окружающего мира и всей вселенной, которое принесли человечеству физика и химия 1700-х годов, от большинства теорий, разработанных алхимиками, пришлось отказаться.
3) Тоже самое происходит с машинным обучением. Оно здорово работает. Оно реально полезно. И если вы создаете онлайн сервис обмена фотографиями, машинное обучение прекрасно для этого подходит.
4) Но машинное обучение никогда не позволит нам «превращать металлы в золото», поскольку также, как и алхимия, не строится на строгих, надежных, проверенных знаниях.
5) Мы зашли в этом алхимическом направлении уже слишком далеко. Сейчас перед нами:
✔️ уже не просто «Проблема воспроизводимости ИИ» (невозможность тиражировать результаты друг друга из-за несогласованных экспериментальных и публикаторских практик);
✔️ и даже не просто «Проблема черного ящика» и интерпретируемости результатов работы алгоритмов (interpretability);
Теперь мы имеем не просто «черный ящик» машинного обучения.
В «черный ящик» превратилась вся область исследований технологий ИИ.
Цель науки — генерировать знания, а не создавать все новые массовые гаджеты. Сейчас же мы имеем лишь последнее. А знаний практически не прибавляется.
Пора, если не менять направление, то, по крайней мере, срочно начать развивать и альтернативные.
Для профессионалов, желающих познакомиться с подробностями аргументации — вот подборка документов «Проклятие победителя? О скорости, прогрессе и эмпирической строгости»
_________________________
Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене
Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”
