Ошибки ИИ хуже преступлений

Это главная современная проблема человечества при использовании ИИ.

Как только ИИ перестает быть инструментом (повышающим скорость и эффективность решений людей) и автоматизирует (полностью берет на себя) выполнение каких-то функций, люди оказываются в ловушке. Большинство ошибок современных автономных ИИ систем практически неподконтрольны и неисправимы.

Представьте, что банкоматы время от времени не выдают вам деньги, а лишь списывают с вашего счета средства с пометкой о якобы произошедшей выдаче наличных. При этом реальных способов опротестовать этот ужас и вернуть свои деньги нет.

Если это пока не происходит, то лишь потому, что банкоматами пока что не управляет ИИ, принимающий решения о выдаче наличных.

А вот решения о штрафах на дорогах система уже принимает самостоятельно. И результат известен любому водителю. Можно, конечно, судиться. Но кто пробовал, знает, насколько это бесперспективно.

Практически всюду, где люди переложили на ИИ ответственность за принятия решений (автоматизировали этот процесс), подобное происходит налево и направо.

  • Более 20 000 случаев ложных обвинений людей алгоритмом MIDAS в мошенничестве с пособиями по безработице.
  • А вот пример работы алгоритма RealPage, отвечающего на проверку надежности потенциальных арендаторов:
    — кража со взломом и домашнее насилие в Миннесоте;
    — продажа метамфетамина и уклонение от залога в Кентукки;
    — вождение без страховки в Арканзасе;
    — в еще хулиганство, кража, ложь полицейскому, множество обвинений в наркотиках и какие-то «неуточненные преступления».
    И вся эта 100%ная ложь и ахинея — результат работы алгоритма RealPage, отказавшего в аренде Саманте Джонсон. А таких как она — ошибочно оклеветанных алгоритмом, — тысячи.
  • Людей арестовывают по ложному совпадению распознавания лиц.
  • Люди теряю критический доступ к медицинским пособиям.
  • Алгоритмы распределения больничных коек ставят в очереди здоровых пациентов выше больных.
  • ИИ неправильно распределяют рецепты, неправильно интерпретируют медицинские снимки, неправильно ставят диагнозы …

Проблема не в том, что ИИ системы ошибаются. Все системы могут ошибаться.

Проблема в том, что по большинству протоколов внедрения и эксплуатации ИИ систем, их ошибки остаются практически неподконтрольными и неисправимыми.

✔️Именно функциональность ИИ систем — сегодня главная проблема политики в области ИИ.

✔️Именно функциональность ИИ систем должна быть первым шагом в защите конкретных людей и всего общества от алгоритмического вреда при их внедрении.

✔️Сегодняшние главные приоритеты при внедрении ИИ — справедливость, подотчетность и прозрачность, — являются вторичными приоритетами.

✔️Главным приоритетом внедрения ИИ должна быть его функциональность.

Подробней в одном из центральных докладов крупнейшей международной организации в IT «Ассоциация вычислительной техники (ACM)», посвященной справедливости, подотчетности и прозрачности ИИ.

Хотя бы взгляните на перечень из 207 ссылок этого исследования, отсылающего к вопиющим примерам ошибочных решений алгоритмов ИИ, которые люди годами пытаются опротестовать по суду.

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях

--

--

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Love podcasts or audiobooks? Learn on the go with our new app.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store
Сергей Карелов

Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации