Алгоритм смерти
Вторая попытка ИИ уподобиться Богу
Представьте, что вам снится такой кошмар.
Картинка из давнего прошлого.
Туманное осеннее утро в маленьком, старом, захолустном европейском городишке. Две девочки играют прямо посреди узкой улочки. Вдруг, непонятно откуда, современный роскошный Mercedes. И он едет прямо на девочек. Буквально в метре от них он резко тормозит и останавливается. Сработал датчик автоматического экстренного торможения. Слава Богу, всё обошлось!
И вот машина снова в движении. Она набирает скорость. Смена кадра. Мальчик, самозабвенно бежит за воздушным змеем. Какая-то женщина — наверное, мать мальчика, — невдалеке развешивает бельё и улыбаясь смотрит за ним. Вдруг мальчик в погоне за змеем выбегает на улицу прямо на пути машины. Но столкновения еще можно избежать, если Mercedes затормозит.
Однако Mercedes не тормозит и даже не сбавляет скорость, сбивая мальчика… Неужели не сработал датчик?
Ответ приходит не сразу:
- незадолго до удара в лице мальчика вдруг на долю секунды видится лицо Гитлера;
- мать мальчика истошно кричит: «Адольф!!!»;
- кадр выхватывает уличный указатель с названием городка: Braunau am Inn (город, где родился и рос Адольф Гитлер);
- последний кадр как бы забивает гвоздь смысла ролика — появляется рекламный лозунг тормозной системы Mercedes:
«Обнаруживает опасности до их возникновения».
Конечно же компания Mercedes Benz не заказывала этот рекламный ролик.
Это видео — дипломный проект студентов Людвигсбургской киноакадемии в 2013 году.
Но это не меняет очевидного смысла ролика.
Уехавший в прошлое Mercedes, как Терминатор, был на пути в будущее, которое нужно предотвратить. Будущее, в котором мальчик вырастет и станет взрослым…
А как быть с нашим недалеким будущим?
✔️ Будущим, когда ИИ самоуправляемого автомобиля уже не исчерпывается датчиком автоматического экстренного торможения.
✔️ В этом будущем ИИ за доли секунды узнает, кто перед ним, благодаря распознаванию лиц, всезнающему Интернету и интеллектуальному анализу немыслимой для человека скорости и глубины.
Речь идет о принятии решений в аварийной ситуации, когда торможение больше не помогает, и остается только выбрать, чью жизнь спасти, совершая маневр уклонения.
В отличие от водителя-человека, алгоритм ИИ знает:
- что женщина на обочине слева тяжело больна, и врачи дают ей максимум 2–3 года жизни;
- что мужчина на правой обочине — единственный кормилец двоих маленьких детей;
- что в коляске у женщины рядом с домом (куда можно еще попытаться вывернуть) трехмесячный малыш — абсолютное счастье, которое наконец пришло к ней с мужем после десяти лет тщетных попыток врачей помочь …
Этот алгоритм в беспилотных автомобилях иногда называют «алгоритм смерти». В безвыходной ситуации, когда всех не спасти, он решает, кого спасти, а чьей жизнью пожертвовать. Тем самым, алгоритм смерти как бы уподобляется Богу, беря на себя решения его уровня.
Станет ли алгоритм смерти обыденностью нашей жизни, пока неизвестно. Но если такое произойдет, то ИИ уподобится Богу, со 2й попытки встав вровень с Ним.
А может, и 2я попытка сорвется, как уже сорвалась 1я. О чём стало известно на прошлой неделе —
IBM продает Watson Health, который должен был совершить революцию в медицине.
Почему сорвалась первая попытка ИИ уподобится Богу
В ближайшие недели будут опубликованы десятки версий объяснений, почему компания IBM собирается продать свою мечту — подразделение Watson Health, разрабатывающее ИИ-продукты для здравоохранения. Эта мечта родилась в голове генерального директора IBM Вирджинии «Джинни» Рометти в 2011 в результате фантастического триумфа IBM. Разработанный в компании ИИ Watson, победил тогда людей — чемпионов игры Jeopardy! (оригинальный вариант нашей «Своей игры»). Мечта была двойная. Watson Health должен был позволить человечеству победить рак, а компании IBM победить Google в главной гонке 21 века — за первенство в ИИ.
Стоящая за мечтой идея была такова.
- ИИ Watson знает о болезнях всё, что о них написано докторами в историях болезней, базах данных и статьях в Интеренете (никакая команда врачей не способна прочесть и сотой доли этого).
- ИИ Watson способен читать все это и выискивать в прочитанном нужную информацию за считанные секунды (людям же потребуется на это годы).
- ИИ Watson не подвержен когнитивным нарушениям, которые могут сбивать с толку врачей.
- ИИ Watson способен к столь сложному анализу, что уровень его диагнозов просто недостижим для докторов, подобно тому, как недостижим уровень игры сегодняшних алгоритмов DeepMind в шахматы и Го.
Оставалось лишь малое. Научиться мгновенно передавать интеллект и опыт ИИ Watson в больницы и клиники по всему миру, чтобы уменьшить количество ошибок диагностики, а также оптимизировать и уменьшить нехватку врачей — не заменяя их, а помогая им выполнять свою работу быстрее и лучше.
На это были потрачены миллиарды долларов и семь лет. Но в итоге, мечту слили. Джинни Рометти отправили на пенсию, а подразделение Watson Health, зарабатывающее в год $1 млрд, но так и не ставшее прибыльным, будут пытаться продать.
Что же смогло помешать Watson Health претворить мечту IBM при наличии немереных денег и одной из самых выдающихся команд исследователей и инженеров ИИ в мире?
На этот вопрос вы прочтете более дюжины разных ответов. Но всего один из них ключевой (типа «кончились снаряды» на вопрос «почему не стреляли»). И ответ такой.
Это была попытка ИИ уподобиться Богу, но люди не признали в ИИ Watson Бога.
✔️ Всё уперлось в расхождение диагнозов и планов лечения, которые рекомендовали доктора и ИИ Watson. Доля таких расхождений для некоторых типов рака превышает 50%.
✔️ Что делать при таких расхождениях? Последовать рекомендациям сверх-мудрого ИИ Watson? Но это же, по утверждению высококвалифицированных врачей, просто ошибочные рекомендации. Кто возьмёт на себя ответственность поставить на кон жизнь пациента, последовав рекомендации, с которой сами врачи не согласны?
✔️ Но с другой стороны, ситуация, весьма возможно, подобна тому, что уже не раз случилась в играх в шахматы и Го. Алгоритм рекомендовал ход, противоречащий человеческой логике, равно как и опыту игры лучших мастеров этой игры в мире. Все они были уверены, что это ошибка компьютера. Но потом происходило чудо. Через много ходов выяснялось, что тот самый «ошибочный» ход был нечеловечески гениален, ведя к неминуемой победе. Так что, если и с рекомендациями ИИ Watson то же самое?
✔️ Увы, но ни один врач в мире не пойдет на проверку правильности «ходов» ИИ Watson. «Что дозволено Юпитеру, не дозволено быку». Врач, скрипя сердце, готов принять решение Бога, если больной умрет в результате примененного этим врачом лечения.
Но ИИ Watson не Бог, который вправе вершить вопросы жизни и смерти, ничего людям не объясняя. Врач не может поставить ИИ Watson вровень с Ним, целиком положившись на его решение.
А раз так, то мечта растворилась в воздухе. 1я попытка ИИ уподобиться Богу в решении вопросов жизни и смерти сорвалась из-за нежелания врачей слепо положиться на решения того, кого они Богом не считают.
Вот почему Watson Health не совершил революцию в медицине и теперь его продадут (если, конечно, найдут покупателя).
Но на этом история, как вы уже знаете, не закончится. Алгоритм смерти самоуправляемых автомобилей попробует повторить то, что не удалось Watson Health — позволить ИИ уподобиться Богу в вопросах жизни и смерти людей.
P.S. В деталях:
- о том, почему ИИ Watson не удается совершить революцию в медицине стало ясно уже два года назад; читайте об этом здесь.
- о 2й попытке ИИ стать вровень с Богом, если люди примут и смирятся с правотой алгоритма смерти читайте в книге Роберто Симановски «Алгоритм смерти», получившую премию Tractatus за 2020.
________________________
Спасибо за просмотр! Ставьте лайки и подписывайтесь на канал. Всего доброго!
