Полное переосмысление супер-ИИ

Меняется всё — понимание феномена, сценарии развития, оценка рисков и перспективы безопасности

Image for post
Image for post

Отчет Кима Эрика Дрекслера, опубликованный в январе 2019 FHI и University of Oxford, содержит 208 стр. и называется «Переосмысление Суперинтеллекта. Комплексные ИИ-сервисы, как Искусственный Общий Интеллект».

Этот отчет — плод 3х летней работы Дрекслера, чей визионерский дар был с блеском доказан еще 30+ лет назад, когда он стал «отцом молекулярной нанотехнологии», предложив концепцию нанотехнологического механосинтеза и разработав теорию создания молекулярных нанороботов (в 1992 его книга «Наносистемы: производство и вычисление молекулярных машин» получила награду Ассоциации американских издателей за лучшую книгу по компьютерным наукам).

Не смотря на феноменальную важность новой работы Дрекслера, мало кто прочтет 200+ страничный отчет.

Не готовым посвятить пару дней на этот подвиг, рекомендую краткое изложение отчета, выполненное Рохин Шахом на AI ALIGNMENT FORUM.

Тем же, кому достаточно моего резюме, — вот оно.

1) На лицо парадокс.
• Все дискуссии о супер-интеллекте (общем ИИ, сильном ИИ и т.п.) ведутся, исходя из представления о нем, как о некоем интеллектуальном «супер-агенте», — возможно, и не имеющем сознания в человеческом понимании, но располагающем неким целеполаганием, пониманием доступных ему ресурсов и прочими атрибутами интеллектуального агента.

• В то же время, никто такого «супер-агента» не разрабатывает, поскольку никто пока толком не понимает, как лучше это делать, да и с практических соображений, — не больно это и нужно, чтобы зарабатывать в наши дни миллиарды на ИИ-технологиях.

• Вместо хоть каких-то попыток разработки интеллектуальных «супер-агентов», десятки самых крутых корпораций мира вбухивают огромные средства только в одно — разработку ИИ-сервисов (AI services), автоматизирующих решение конкретных задач, используя ограниченные вычислительные ресурсы (локальные, а чаще всего облачные).

2) Достигнув некоего уровня развития, ИИ-сервисы смогут выполнять проектирование и разработку новых ИИ-сервисов. Подобно тому, как пределом совершенствования шахматных ИИ систем, в итоге, стала передача этого на откуп самим ИИ-системам, аналогичная передача будет происходить во все новых и новых областях автоматизации интеллектуальных задач. Автоматизация R&D процессов создания новых ИИ-сервисов приведет к рекурсивному технологическому усовершенствованию. Важно понимать, что это будет не рекурсивное самосовершенствование интеллектуальных супер-агентов, поскольку усовершенствования будут появляться в результате автоматизации процессов создания улучшенных строительных блоков ИИ-сервисов и/или их новых интеграционных возможностей.
Главное же в том, что это должно произойти, прежде чем мы получим каких-либо супер-интеллектуальных агентов (общего ИИ, сильного ИИ и т.п.), способных на произвольные общие рассуждения и решение неограниченного круга задач.

3) Можно характеризовать такой уровень развития созданием «комплексных ИИ-сервисов» (comprehensive AI services — CAIS). И он существенно отличается от привычной нам картины Общего/Сильного ИИ.

Суть отличия в том, что

CAIS в совокупности будет обладать супер-интеллектуальными возможностями, вовсе не являясь интеллектуальным агентом или даже единой системой.

Последующее развитие модели CAIS ведет к переосмыслению не только перспектив развития и природы возникновения машинного супер-интеллекта, но также и путей проблемной ориентации ИИ, а также фундаментальных соображений в области безопасности и стратегии минимизации ИИ-рисков.

Т.о. меняется вся диспозиция в области ИИ, заставляя задуматься о совсем иных новых рисках и возможностях.

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store