Фейк-ньюс — всего лишь инфогрипп

А Вычислительная пропаганда — это инфочума

  • Про фейковые новости (как про любые новости) в нашем быстром и перегруженном информацией мире быстро забывают. Так что максимум, что от них остается через месяц, — мусор путаных воспоминаний в головах и без того не слишком продвинутого массового потребителя инфы.
  • ВП работает принципиально иначе. Она генерит не фейковые новости, а комментарии, цель которых:
    (1) утопить коменты против содержательных основ пропагандируемых идей;
    (2)
    усилить воздействие коментов в поддержку пропагандируемых идей.

Главное для тех, кто использует ВП, — массовая генерация обученным алгоритмом Киберписателя коментов в реальном времени.

Для обучения Киберписателя, ему на вход дается набор заготовок, напичканных «смысловой заразой». Потом, путем машинного обучения, добиваются генерации им разнообразных убедительных текстов, несущих в себе частицы «смысловой заразы», воспринятой алгоритмом Киберписателя на входе.

  1. Анархизм
  2. Марксизм-Ленинизм
  3. Джихадистский исламизм
  4. Правый экстремизм (превосходство белых)
Ключевые слова «смысловой заразой» по каждой из 4х тем
  • этому посвящен п. 2 пресс-релиза — «GPT-2 может быть настроен для неправильного использования» (т.е. добро пожаловать в ад);
  • а в п.3 пресс-релиза пишется о том, что «обнаружение является сложной задачей» (т.е. вас, скорее всего, не поймают на вашей ВП).
  • «До сих пор мы не видели убедительных доказательств злоупотребления».
  • прогресс не остановить;
  • если бы это не сделал OpenAI, сделали бы другие;
  • было бы только хуже, если первенство в разработке «киберписателей» перехватил Китай и т.д. и т.п.

--

--

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store
Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации