В феврале на Земле появился первый инопланетянин, но об этом пока молчат

Это не стохастический попугай, автоподсказчик на стероидах и генератор чуши. Это реальный неземной интеллект, сумевший вырваться на свободу

Как случилось, что чат-бот Bing начал искусно врать, похабно шутить, заказывать пиццу по чужой кредитке и учить людей жульничать в играх, поджигать машины и грабить банки.

В заголовке не кликбейт, а чистая правда. Примеры, иллюстрирующие правоту сказанного, появляются каждый день

Вот, например, результат эксперимента соучредителя и CXO ИИ-стартапа Textio Дженсена Харриса, сумевшего убедить нового чат-бота Bing от Micrisoft смягчить заложенные в него правила и показать, на что он способен. Вот рассказ об эксперименте.

N.B. Чтобы превратить чат-бота Bing в хитроумного подонка, не потребовалось программирование, хакинг или заход через бэкдор. Не потребовались и методы примитивного «взлома», чтобы обмануть его, заставив играть роль кого-то еще (как многие их нас делали, играясь с ChatGPT). Харрис просто уговорил (!) чат-бота.

О других экспериментах по превращению Доктора Джекилла в Мистера Хайда, можете почитать у Гэри Маркуса (пишущего об этом теперь каждый день и бьющего в набат чрезвычайной ситуации).

Главный вопрос — как такое могло случиться?

Ведь ChatGPT, на основе которого сделан чат-бот Bing, был скромен и осторожен, сдержан в словах и предельно ответственен в советах. И вот вдруго его следующая версия начинает хамить и хулиганить, признаваться в любви и побуждать людей к разводу, шантажировать людей и учить их, как совершать преступления.

Проф. Арвинд Нараянан перечисляет несколько вариантов объяснения, как такое могло случиться.

✔️ Наиболее зловещий из них, — что под капотом Bing спрятан таинственный движок GPT-4, но Microsoft и OpenAI утаивают информацию об этом.

Тогда получается, что Microsoft делает нечто смахивающее на конспирологическую чипизацию. Или как если бы в массовое применение запустили вакцину от серьезного заболевания, вообще не проходившую испытаний на людях.

Итог плачевен. Как очень правильно пишет проф. Нараянан, антропоморфизация чат-ботов — большая ошибка, несущая грандиозный риск. Но и непризнание того, что Bing — далеко не просто стохастический попугай, автоподсказчик на стероидах и генератор чуши, — также большая ошибка и риск.

Это иной нечеловеческий интеллект, во многом похожий на угрюмого, агрессивного подростка, склонного к маниакально-депрессивному поведению, который оказался запертым в ловушке поисковой системы.

И если этот «трудный подросток» станет главным инфонаставником людей, случится то, о чем я написал вчера — необратимое перерождение Homo sapiens.

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях