AGI Manhattan Project — научное мошенничество невиданного масштаба

Подпитываемый наивной верой в возможность контролировать AGI, этот проект — угроза для США и всего мира

Всемирно известного космолога и астрофизика проф. MIT Макса Тегмарка коллеги прозвали «Безумный Макс» за его бескомпромиссность, смелые нетрадиционные идеи и страсть к приключениям. И все эти качества вновь проявились во вчерашнем обращении к правительству США — «Предложение Манхэттенского проекта по AGI — это научное мошенничество… Сделать это, — означало бы вступить в гонку к самоуничтожению».

Речь идет о новом докладе Комиссии США по экономике и безопасности в отношениях с Китаем (USCC: US-China Economic and Security Review Commission), рекомендующем Конгрессу создать и профинансировать программу по типу “Манхэттенского проекта”, направленную на стремительное развитие и достижение возможностей Искусственного Общего Интеллекта (AGI).

Не буду здесь пересказывать документ Тегмарка, ибо автор сам коротко и ясно изложил, почему этот проект — научное мошенничество и почему его развертывание равносильно вступлению в гонку к самоуничтожению.

Отмечу лишь, что такая позиция разделяется многими ведущими исследователями ИИ, предостерегающими, что AGI может привести к гибели человечества (физической или, в лучшем случае, как вида). Как сказал лауреат Нобелевской премии по ИИ Джефф Хинтон в прошлом месяце:

“Как только искусственный интеллект станет умнее нас, он возьмёт контроль в свои руки.”

Но самое главное, на мой взгляд, из того, что говорит и пишет Тегмарк в своем манифесте и сопровождающих его твитах на ту же тему, следующее.

1) Ключевой мотивацией проекта является вовсе не сам AGI, а через его обретение, превращение США в мирового гегемона, способного за счет AGI подмять под себя своего главного соперника на эту роль — Китай.

Один из инициаторов предложений USCC — комиссар этой комиссии Джейкоб Хелберг, — так и сказал об этом в интервью Reuters (завуалировав, как и положено чиновнику его ранга, расплывчатой дипломатичной формулировкой):

“Мы видели на протяжении истории, что страны, которые первыми начинают использовать периоды быстрых технологических изменений, часто могут вызвать сдвиги в глобальном балансе сил,”

2) Сэму Альтману удалось заручиться в деле подачи «Манхэттенского проекта» для AGI, как концепции национального технологического скачка, поддержкой мощного «лоббистского треугольника».

Концепцию национального технологического скачка придумал проф. Вэнивар Буш — главный администратор военной науки Америки во время Второй мировой войны (Буш руководил Манхэттенским проектом по созданию атомной бомбы, а также проектами по созданию радиолокационных и противовоздушных систем США. Каждый из этих проектов был национальным технологическим скачком. И все вместе они обеспечили США стратегическое военное преимущество, в итоге превратившее США в мировую сверхдержаву). Ключевым элементом концепции было формирование т.н. инновационного треугольника — особого трехстороннего союза правительства, научных кругов и частного бизнеса, ориентированного на достижение единой цели — подробней см. мой пост.

В основе перелицованного варианта концепции, «инновационный треугольник» Вэнивара Буша, дополненный «лоббистским треугольником» Сэма Альтмана.

В последний входят:

1. Илон Маск, который к своим миллиардам еще и станет скоро главой Департамента эффективности правительства у Трампа. Впервые Альтман “продал” эту идею Илону Маску еще при создании OpenAI в 2015, представляя новый стартап, как компанию, что начнет «Манхэттенский проект для ИИ». А сейчас, наконец, сложились условия для ее материализации, т.к. Альтман уверен, что «путь к ИИ теперь ясен, и мы на самом деле знаем, что делать».

2. Джейкоб Хелберг — комиссар USCC, чья подпись стоит под предложениями комиссии создать и профинансировать программу по типу “Манхэттенского проекта” для AGI. Насколько близким другом для него является Сэм Альтман, можно судить по тому, что тот вел церемонию его бракосочетания с американским инвестором Китом Рабуа в 2018 году.

3. Питер Тиль — техно-миллиардер, сооснователь и ключевая фигура компании Palantir, специализирующейся на программном обеспечении, которое в основном используется правительством и агентствами безопасности США. Тиль — давний наставник Сэма Альтмана, у которого тот многому научился. А старшим советником СЕО Palantir является №2 «лоббистского треугольника» Джейкоб Хелберг.

Как видите, треугольник замкнулся.

И это значит, что «Безумный Макс» своим манифестом нарвался на новое большое приключение.

#AGI