Есть ли у «рассуждающих» моделей родной язык
И почему их представления о мире — искаженная реальность масскульта
Выяснилось, что у самых крутых “рассуждающих” моделей (типа о1 от OpenAI) совершенно неожиданно прорезался таинственный и необъяснимый сюрприз:
«Рассуждая в уме» (в случаях сложных вопросов, требующих от модели сложных цепочек мыслей), эти модели стали переходить с языка постановки задачи или вопроса на другие языки. Причем, выбирая новый язык совершенно необъяснимым образом.
Что заставляет модель делать такое?
Ведь она не знает, что такое язык, и что языки различаются… Для нее это просто последовательность токенов.
· Может это из-за того, что у моделей, как у людей, снижается чувствительность к логике и точность рассуждений на иностранном языке?
· Или переход с языка на язык может быть непроизвольным — подобно случившемуся с радисткой Штирлица Кет, которая спалилась на том, что во время родов закричала на русском?
· Но применимо ли вообще к моделям понятия родной и иностранный язык?
А еще выяснлось, что самые крутые “рассуждающие” модели — эти полиглоты, энциклопедисты и полиматы, — видят мир в искаженной реальности масскульта: незатейливые, но простые и вирусные анекдоты, мемы, шуточки и прочие тексты с максимально несложным для понимания смыслом и, зачастую, не соответствующие действительности.
И что дальше будет только хуже из-за триллионов петель обратной связи, которые будут неуклонно повышать степень идиотизма и людей, и ИИ-алгоритмов, искажая представления о мире и у тех, и у других.
Об этом подписчики моих лонгридов могут прочесть на Patreon, Boosty, VK и Дзен.
#АлгокогнитивнаяКультура #Язык #HumanAIcoevolution #Вызовы21века
https://www.patreon.com/posts/est-li-u-modelei-120049146
https://boosty.to/theworldisnoteasy/posts/877691ea-6de4-49dc-a675-78911b9402ca
https://vk.com/@-226218451-est-li-u-rassuzhdauschih-modelei-rodnoi-yazyk
