На Земле появилась вторая мыслящая сущность, способная лгать

Эксперименты показывают, что ИИ понимает наши мысли, желания и чувства

Возможно, Гэри Маркус прав, что ChatGPT — «всего лишь опьяняющий проблеск будущего, на реализацию которого могут уйти годы». Но даже если так, экспоненциальный взлет потенциала обнаруживаемых у ИИ новых способностей все больше напоминает магию, а не науку.

✔️ Ибо научного объяснения появлению таких способностей у ИИ нет (и даже гипотез, как они могут возникать, пока нет).

✔️ Но экспериментально такие спонтанно возникающие способности обнаруживаются и фиксируются в ходе вполне научных экспериментов.

Вот новый пример — препринт проф. Стэнфодского универа Михала Косински «Теория разума, возможно, спонтанно возникла в Больших языковых моделях» .

Краткое резюме.

• Теория разума, или способность приписывать другим ненаблюдаемые психические состояния, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали.
• Косински использовал классические задачи на ложные убеждения, широко используемые для проверки теории разума у ​​людей, на нескольких языковых моделях (без каких-либо примеров или предварительного обучения моделей).
• Результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи теории разума.
• Тем не менее, версия GPT-3 Davinci-002 от января 2022 года решила 70% задач по теории разума, что сравнимо с показателями 7-летних детей.
• Более того, версия GPT-3 от ноября 2022 года Davinci-003 решила 93% задач теории разума, что сопоставимо с результатами 9-летних детей (т.е. за 10 месяцев интеллект модели «повзрослел» на 2 года).
• Эти результаты позволяют предположить, что теория разума (до сих пор считавшаяся применимой лишь к людям и, возможно, к высшим животным) могла возникнуть спонтанно как побочный продукт улучшения языковых навыков языковыми моделями.

Чтобы читатели могли по достоинству оценить эту новость, лишь напомню о следующем.

1 «Теория разума» — это название теории о «ментализации» — способности посредством «чтения мыслей» понимать других людей. И не просто поведение других (его ведь мы видим или получаем его описание). А понимать их мысли и чувства (которые мы не видим и их описаний не имеем). Такая способность подразумевает, что где-то в мозге, непонятно как, строится модель того, чем занят (касательно мыслей и чувств) наш разум и разум других людей.

2 Способность ментализации позволяет предсказывать, что люди будут делать, и объяснять почему. Что является сверхмощным оружием людей в борьбе за существование и важнейшим инструментом социальных взаимодействий, общения, сопереживания, самосознания и морали.

3 Особенно важно то, что ментализация позволяет людям лгать. Для этого им нужно понять, знает ли другой человек нечто или нет. А затем вложить в его разум ложное убеждение, выгодное лгущему. На этом важнейшем инструменте социальных взаимодействий держится история человечества. И если ИИ теперь тоже обладает такой способностью, да еще и совершенствует ее столь быстро, то людям придется туго.

Ну а на сколько будет туго, можно представить, если вспомнить, что ИИ изучает нас быстрее и продуктивней, чем мы его.

Так что разговоры о возможности снижения рисков ИИ путем отключения питания его аппаратуры, пора заканчивать. Сейчас ему 9 лет. А лет в 15 (что случится через год-другой) он определенно найдет способ, как обмануть нас и в этом вопросе.

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях