Изучайте историю будущего — мать вашу!
Кавалерия Чингисхана атаковала со скоростью мотопехоты XX века. Стационарный лук династии Сун бил на полторы тысячи метров — не меньше, чем современный мне автомат. Но всадники древности и луки не могут соперничать с современной армией. Фундаментальные науки — залог успеха. Исследователи истории будущего это четко обосновали.
Вы же ослеплены сиянием умирающих примитивных технологий; вы изнежились в яслях цивилизации. Вы даже не пытаетесь собраться с духом и подготовиться к грядущему судьбоносному сражению …
Это слова Чжан Бэйхая — героя «Темного леса» Лю Цысиня, — заплатившего жизнью за непонимание этой его мысли человечеством.
Но о каком сражении идет речь?
О сражении с будущим. Ибо оно уничтожит большинство из того, что мы ценим и что нам дорого в настоящем.
А чтобы понять это — см. заголовок.
Вот всего лишь тройка примеров, чему учит история будущего.
1. Скоро на Земле будет два мира: нормальный мир и мир, управляемый ИИ.
Этот 2й мир уже формируется. Им управляют не люди, а классификаторы поисковиков, работающих на основе ИИ. Именно ИИ здесь решает, что люди заметят (узнают, поймут), а что нет. ИИ делает это запросто, все лишь маркируя триллионами ярлыков экзобайты информации о мире и о самих людях. Но в конечном счете, именно ИИ принимает решения, отдавая предпочтения всего лишь некоторым доминирующим культурам / языкам / стереотипам современного мира.
Вот почему в мире будущего — мире «Темного леса» Лю Цысиня, — будет лишь один язык — англокитайский.
- И что ж, в этом будущем мире все остальные культуры, языки, мировоззрения будут забыты?
- Хоть кто-то пытается этому противостоять?
Да, пытаются. Проект Kannada-MNIST пытается сохранить в новом управляемом ИИ мире, хоть что-то от мира одного из старейших на Земле языков — дравидийского языка Каннанда, на котором сейчас говорят 40 млн. жителей юго-западной Индии.
2. Как узнать, когда прогресс реален, а когда — лишь иллюзия?
Это вопрос, в частности, сводится к измерению способности людей выявлять причины прогресса в конкретной научной области (см. цитату в начале).
Взять к примеру область эксплуатации технических средств (от стиралок и посудомоек до авто и самолетов). Согласно истории будущего, весьма возможно, что управляющий всеми техническими средствами ИИ будет предсказывать их выход из строя по звуку. Наборы звуковых данных для машинного обучения уже формируются, а ИИ уже вовсю выявляет аномальные звуки, предсказывающие неисправности. Пока для игрушек. А в перспективе и прочих механизмов.
А теперь вопрос — это прогресс? Как узнать это?
Чтобы помочь людям измерять и оценивать прогресс ИИ, исследователи из DeepMind разработали Behavior Suite — программный пакет, помогающий проверять возможности все более сложных агентов для обучения с подкреплением.
Чтобы помочь людям оценить, насколько умны ИИ агенты, нужно выявить и измерить конкретные факторы роста их интеллекта. Здесь мы сталкиваемся с фундаментальной проблемой, — как измерить рост конкретных показателей ИИ так, чтобы это можно было легко проверить и повторить. Для решения этой задачи авторы Behavior Suite предлагают использовать измеримые и фальсифицируемые гипотезы, которые затем можно было бы оформить в доказуемые гарантии.
3. А как узнать, когда ИИ уже близок к универсальным «сверхчеловеческим» способностям?
Behavior Suite из предыдущего пункта будет способен это заранее определить.
Так что проблемы со срочным «выдергиванием компа из розетки», дабы остановить назревающего в нем Терминатора, в будущем просто не будет.
Так считают разработчики Behavior Suite из DeepMind, опираясь на свое знание истории будущего.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь
