Наняли бы вы на работу Океан Соляриса?
Три капкана на пути внедрения генеративного ИИ
Этот пост полезно прочесть всем руководителям, обдумывающим перспективы «найма» генеративного ИИ для задействования его мощного интеллектуального ресурса в своей работе.
Представьте себе ситуацию:
• Вы — руководитель.
• Ваши кадровики предлагают вам кандидатуру чрезвычайно компетентного нового сотрудника — по внешним отзывам и описанию кадровиков, разносторонне способного полимата, обладающего знаниями в широчайшем спектре областей и навыками многих профессий.
• Но и на солнце есть пятна. У этого кандидата есть три настораживающих «пунктика». Эдакие три инаковости, кардинально отличающие его от всех известных вам людей.
1) Его метрика сложности задач (определяющая, какие задачи для него сложные, а какие простые) абсолютно не соответствует ни вашей, ни кого-либо из ваших сотрудников. Это, в частности, значит, что сложнейшее в вашем понимании задание он может выполнить на раз-два, а наипростейшее для вас задание он запросто может запороть.
2) Для него не существует ответа «я не знаю». Это значит, что даже при категорической нехватке исходных данных для решения задачи и полном отсутствии у него необходимых для решения таких задач знаний и умений, он не признается в этом и будет биться головой о стену сколь угодно долго в безуспешных попытка решить задачу, подсовывая вам все новые ошибочные решения.
3) Правильность решения им поставленной вами задачи в значительной степени зависит от того, как вы ему эту задачу сформулируете. И, что самое неприятное, заранее неизвестно, какая из ваших формулировок поспособствует правильному решению, а какая ошибочному. Получается, как повезет.
Что думаете? Стоит вам нанять на работу такого сверхспособного полимата с тремя «пунктиками»?
Я бы нанял.
• Но не для заполнения каких-либо вакансий или замены сотрудников
• А для выполнения особых ролей (каких — расскажу)
А теперь вот вам такая информация к размышлению.
Новая статья в Nature на сотнях убедительных примеров доказывает, что современные модели генеративного ИИ обладают тремя вышеописанными кардинальными инаковостями, принципиально отличающими их «разум» от нашего. Т.е. лучшие современные модели генеративного ИИ — и есть такие сверхспособные полиматы с 3 пунктиками.
Заинтересованный читатель моих лонгридов может прочесть по приведенным ссылкам:
1 (https://boosty.to/theworldisnoteasy/posts/4fa6102b-b5ce-42ed-94b8-ae81d91904f7),
2 (https://www.patreon.com/posts/naniali-by-vy-na-112992156),
3 (https://vk.com/@-226218451-nanyali-by-vy-na-rabotu-okean-solyarisa)
• мой анализ значения трех названных кардинальных инаковостей «разума» LLM при их использовании на практике,
• мои размышления о том, как, даже при наличии общего языка (что в случае LLM кажется очевидным), истинное понимание нами LLM может оставаться недостижимым, и это делает наше сотрудничество в важных вопросах непредсказуемо рискованным (что иллюстрируется примером попыток взаимодействия людей и Океана в романе Станислава Лема «Солярис»).
#ИнойИнтеллект #LLMvsHomo
* * * * *
P.S. Примерно неделю канал будет на осенних каникулах. И вместо нового малоизвестного-интересного, рекомендую вам:
• освежить в памяти 3 важных предсказания годичной давности (дабы проверить их актуальность сегодня)
• а также подивиться, насколько близко к предсказанному «Эффектом Ленина-Трампа» шли события в США (и не только) с 2016 по сегодня.
- Сбывшийся важный прогноз.
В посте «Китай строит гигантский завод по производству чипов, управляемый ускорителем частиц (https://t.me/theworldisnoteasy/1813)» приведен прогноз, что это не поможет Китаю вырваться из «удушающего захвата» экспортного контроля США.
Все так пока и получается. - Предсказание двух грядущих глобальных ловушек.
• К «Ловушке Гудхарта (https://t.me/theworldisnoteasy/1821)» мир продолжает неотвратимо приближаться.
• Выбор развилки на пути к «Ловушке Фукидида (https://t.me/theworldisnoteasy/1825)» (или от нее) скоро определится по результатам президентских выборов в США. - Из авторов трёх возможных сценариев ближайшего будущего, (https://t.me/theworldisnoteasy/1809) все более засеваемого минами ИИ-рисков, похоже, прав оказался, не алармист Юваль Харари или оптимист Мустафа Сулейман, а прагматик Питер Тиль.
- Подумайте, как скажется «Эффект Ленина-Трампа (https://www.ng.ru/stsenarii/2016-09-27/9_effect.html?fbclid=IwY2xjawFnUE1leHRuA2FlbQIxMQABHTzK8VMMLBrtdtCQKrnN6pArSA2g86O1cQ3eiRd-c4PnR4N_t7o0kWrtgQ_aem_1HOHxcBOKhAxS1rIgd18-g)» на предстоящие выборы.
Счастливо!
