Изучайте историю будущего — мать вашу!

Image for post
Image for post
Иллюстрация с обложки книги https://www.amazon.com/Dark-Forest-Remembrance-Earths-Past/dp/0765386690

Кавалерия Чингисхана атаковала со скоростью мотопехоты XX века. Стационарный лук династии Сун бил на полторы тысячи метров — не меньше, чем современный мне автомат. Но всадники древности и луки не могут соперничать с современной армией. Фундаментальные науки — залог успеха. Исследователи истории будущего это четко обосновали.

Вы же ослеплены сиянием умирающих примитивных технологий; вы изнежились в яслях цивилизации. Вы даже не пытаетесь собраться с духом и подготовиться к грядущему судьбоносному сражению …

Это слова Чжан Бэйхая — героя «Темного леса» Лю Цысиня, — заплатившего жизнью за непонимание этой его мысли человечеством.

Но о каком сражении идет речь?

О сражении с будущим. Ибо оно уничтожит большинство из того, что мы ценим и что нам дорого в настоящем.

А чтобы понять это — см. заголовок.

Вот всего лишь тройка примеров, чему учит история будущего.

1. Скоро на Земле будет два мира: нормальный мир и мир, управляемый ИИ.

Этот 2й мир уже формируется. Им управляют не люди, а классификаторы поисковиков, работающих на основе ИИ. Именно ИИ здесь решает, что люди заметят (узнают, поймут), а что нет. ИИ делает это запросто, все лишь маркируя триллионами ярлыков экзобайты информации о мире и о самих людях. Но в конечном счете, именно ИИ принимает решения, отдавая предпочтения всего лишь некоторым доминирующим культурам / языкам / стереотипам современного мира.

Вот почему в мире будущего — мире «Темного леса» Лю Цысиня, — будет лишь один язык — англокитайский.

  • И что ж, в этом будущем мире все остальные культуры, языки, мировоззрения будут забыты?
  • Хоть кто-то пытается этому противостоять?

Да, пытаются. Проект Kannada-MNIST пытается сохранить в новом управляемом ИИ мире, хоть что-то от мира одного из старейших на Земле языков — дравидийского языка Каннанда, на котором сейчас говорят 40 млн. жителей юго-западной Индии.

2. Как узнать, когда прогресс реален, а когда — лишь иллюзия?

Это вопрос, в частности, сводится к измерению способности людей выявлять причины прогресса в конкретной научной области (см. цитату в начале).

Взять к примеру область эксплуатации технических средств (от стиралок и посудомоек до авто и самолетов). Согласно истории будущего, весьма возможно, что управляющий всеми техническими средствами ИИ будет предсказывать их выход из строя по звуку. Наборы звуковых данных для машинного обучения уже формируются, а ИИ уже вовсю выявляет аномальные звуки, предсказывающие неисправности. Пока для игрушек. А в перспективе и прочих механизмов.

А теперь вопрос — это прогресс? Как узнать это?

Чтобы помочь людям измерять и оценивать прогресс ИИ, исследователи из DeepMind разработали Behavior Suiteпрограммный пакет, помогающий проверять возможности все более сложных агентов для обучения с подкреплением.

Чтобы помочь людям оценить, насколько умны ИИ агенты, нужно выявить и измерить конкретные факторы роста их интеллекта. Здесь мы сталкиваемся с фундаментальной проблемой, — как измерить рост конкретных показателей ИИ так, чтобы это можно было легко проверить и повторить. Для решения этой задачи авторы Behavior Suite предлагают использовать измеримые и фальсифицируемые гипотезы, которые затем можно было бы оформить в доказуемые гарантии.

3. А как узнать, когда ИИ уже близок к универсальным «сверхчеловеческим» способностям?

Behavior Suite из предыдущего пункта будет способен это заранее определить.

Так что проблемы со срочным «выдергиванием компа из розетки», дабы остановить назревающего в нем Терминатора, в будущем просто не будет.

Так считают разработчики Behavior Suite из DeepMind, опираясь на свое знание истории будущего.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store