Мир погубят не ИИ системы, а интересы их владельцев

Чтобы выжить, цивилизации нужно менять свои экономические стимулы

Со мной повторилась история, о которой Остап Бендер рассказывал так.

“Слушайте, что я накропал вчера ночью при колеблющемся свете электрической лампы: «Я помню чудное мгновенье, передо мной явилась ты, как мимолетное виденье, как гений чистой красоты». Правда, хорошо? Талантливо? И только на рассвете, когда дописаны были последние строки, я вспомнил, что этот стих уже написал А. Пушкин. Такой удар со стороны классика! А?”

Вот и я, давно собираясь компактно упаковать ключевую мыслью о перспективах цивилизации с распространением ИИ, вчера прочел ее прекрасно упакованной в Твиттере Джека Кларка.

И поскольку к сказанному ни убавить, ни прибавить, — то просто процитирую.

«ИИ системы решают задачи математических олимпиад, соревнуются с людьми в чемпионатах по программированию, ускоряют науку, предсказывая структуры белка, пишут стихи и художественную литературу, которые нравятся людям, и революционизируют нашу способность отслеживать изменение климата.

Но также ИИ системы значительно усиливают возможности государств по слежке за своими гражданами, учатся взламывать любую защиту в системах компьютерной безопасности, управляют уникально эффективными дронами-убийцами, идеально подделывают фото и видео, значительно упрощая массовое производство дешевой дезинформации.

Дело в том, что каждое положительное использование ИИ имеет двойное назначение, порождая и отрицательную возможность его использования. И в соответствии со структурой экономических стимулов современной цивилизации, весьма вероятно, что ИИ будет иметь больше негативных применений, чем позитивных. А поскольку развитие ИИ систем требует все больше и больше капитала, большинство таких систем будет пытаться максимизировать выгоду для их владельцев путем глобального применения».

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях