Ложь и пропаганда станут повсеместны, неопределимы и непреодолимы

Как будет выглядеть падение человечества в пропасть AICG

Опубликован большой отчет Center for Security and Emerging Technology, OpenAI и Stanford Internet Observatory «Генеративные языковые модели и автоматизированные операции влияния: ввозникающие угрозы и потенциальные меры по их смягчению». Отчет содержит стратегическую аналитику катастрофического сценария, описанного в обращении Кай-Фу Ли к мировому сообществу разработчиков ИИ.

Напомню читателям. Перед самым НГ ИИ-гуру Китая Кай-Фу Ли рассказал, что уже в 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии.
Это риск того, что технологии AICG (генерация контента с помощью ИИ) сделают неотличимыми правду и ложь, как для индивидов, так и для социумов любых масштабов.

Новый отчет расписывает в деталях, как, скорее всего, будет происходить процесс падения человечества в пропасть AICG.

Кардинально изменятся:

✔️ Доступность и эффективность любых операций влияния (как на индивидов, так и на социумы)

✔️ Три ключевых фактора появления, распространения и принятия лжи за истину в мире:

• акторы, ведущие кампании пропаганды лжи;
• способы и тактика такой пропаганды;
• пропагандистский контент.

В результате применения все более совершенных больших моделей, LLM и ИИ-генераторы образов станут:

• более удобными для использования (упрощая их применение в операциях влияния),
• сильно надежными (уменьшая вероятность того, что модели выдают выходные данные с очевидными ошибками),
• и сильно эффективными (повышая экономическую эффективность применения LLM и ИИ-генераторов образов для операций влияния).

Как будет происходить этот прогресс, иллюстрирует рисунок, сопровождающий данный пост.

✔️ Вверху: как с 2014 по 2021 менялось качество фейковых образов людей, генерируемых моделями.

✔️ Внизу: как в 2022 произошел революционный прорыв, в результате которого стала возможна предельно точная и убедительная генерация чего-угодно (например, фейковых образов по таким описаниям «Енот в официальной одежде с цилиндром, тростью и мешок для мусора. Картина маслом в стиле Рембрандта (результат слева) и Ван-Гога (справа)».

Итогом (А) предельного упрощения процесса стирания границы правды и лжи в сочетании с (Б) неспособностью критического мышления людей бороться с ИИ-пропагандой, — станет доминирование и в политике, и в бизнесе повсеместных, неопределимых и непреодолимых операций влияния.

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях