Инопланетянин оказался зеркалом интеллекта его интервьюеров

Через сто лет люди забудут, что были единственными носителями высшего разума

Лекция пионера в области ИИ Терри Сейновски «ChatGPT и говорящая собака» отвечает на 2 важнейших вопроса начавшейся «революции ChatGPT».

1. Что такое ИИ больших языковых моделей (LLM):
   — ничего не понимающий стохастический попугай, имитирующий человеческий интеллект, перебирая и комбинируя осколки осмысленных текстов людей?
   — соперник человеческого разума, способный его превзойти?
   — «интеллект инопланетянина» с иными (нечеловеческими) механизмами мышления и понимания, позволяющими решать интеллектуальные задачи, не имея картины мира, а исключительно за счет обладания гигантской информационной емкостью и вычислительной производительностью?
2. Каково будущее развития ИИ LLM и его сосуществования с людьми?

В своих ответах на эти вопросы, Сейновски выступил для трёх спорящих групп в роли лесника из анекдота (который пришел и к черту разогнал красных, белых и зеленых).

Можно было бы подивиться такой смелости, уверенности и решительности. Но Сейновски, возможно, единственный эксперт на Земле, наиболее глубоко понимающий происходящее ныне в исследованиях на стыке нейронауки и ИИ.

• Он проф. Фрэнсиса Крика в Институте биологических исследований Солка, где руководит Лабораторией вычислительной нейробиологии и является директором центра теоретической и вычислительной биологии Крика-Джейкобса.
• Он автор многочисленных новаторских исследований в областях нейронных сетей, вычислительной нейронауки и ИИ; член многих Национальных академий (медицинской, инженерной, изобретательской) и обладатель многочисленных премий и наград (вкл. Премию Грубера в области неврологии за 2022 г.)

Ответы профессора на два важнейших вопроса «революции ChatGPT» таковы.

1. Все три варианта ответа ошибочные.
   • Сама постановка вопроса об интеллекте некой самостоятельной сущности (LLM или человека) неверна. То, что кажется интеллектом LLM, на самом деле может быть зеркалом, отражающим интеллект интервьюера, — что можно рассматривать как обратный тест Тьюринга.
   • Способность людей проникнуть в чужую голову и понять, что они воспринимают, думают и чувствуют, является одним из величайших достижений нашего вида. Когда мы моделируем других, которые, в свою очередь, моделируют нас, мы должны выполнять процедуру более высокого порядка: что они думают, что мы думаем. С началом «революции ChatGPT» это социальное моделирование высокого порядка стало доступно для LLM.
   • Формальную проверку зеркальной гипотезы и обратного теста Тьюринга можно провести, попросив оценщиков-людей оценить интеллект интервьюера и интеллект LLM. Согласно зеркальной гипотезе, они будут сильно коррелировать (подробней см. здесь)
   • Общий интеллект людей берет начало в способах, которыми люди взаимодействуют в обществе, а язык появляется как поздняя эволюция, чтобы повысить социальность.
   • Для формирования интеллекта LLM необходимо, чтобы:
   - пройдя через 7 названных Сейновски этапов, LLM достигли искусственной общей автономии (AGA), тем самым превратившись в подобие «дигитантов» — цифровых питомцев, о которых я рассказывал на видео ниже;
   - обладающие AGA «дигитанты» прошли через этап «детства» (о чем я рассказывал там же на видео ниже), вбирая в себя алгоритмически несжимаемый опыт и основы “выравнивания” с людьми.

2. Три элемента будущего ИИ LLM
• LLM станут окончательным информационным гаджетом людей, заменив все предыдущие
• Примерно через 10 лет личные LLM-помощники колоссально превзойдут Siri и Alexa и станут повсеместны, а образование будет основано на LLM-преподавателях
• Лет через 15 возникнут «убойные LLM-приложения» (вообразить которые мы сегодня не можем), и люди поймут, что «революция ChatGPT» стала историческим поворотным моментом для человечества.

#ИИ #LLM #Вызовы21века #AGI

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях