Интернет-манипуляции - Internet manipulation

Под манипуляциями в Интернете понимается использование цифровых технологий, таких как алгоритмы социальных сетей и автоматизированные сценарии, в коммерческих, социальных или политических целях. Такая тактика может использоваться с явным намерением манипулировать общественным мнением, поляризовать граждан, заставить замолчать политических диссидентов, нанести вред корпоративным или политическим противникам и улучшить личную репутацию или репутацию бренда . Сообщается, что хакеры, наемные профессионалы и частные лица участвовали в манипуляциях в Интернете с помощью программного обеспечения  - обычно Интернет-ботов, таких как социальные боты , боты для голосования и боты для кликов .

Когнитивный взлом - это кибератака , цель которой - изменить восприятие и соответствующее поведение пользователей.

Интернет-манипуляции иногда также используются для описания выборочной Интернет-цензуры или нарушения сетевого нейтралитета .

Проблемы

  • Манипуляции с поведением : фейковые новости, дезинформация и искусственный интеллект могут тайно влиять на поведение. Это другая проблема, чем влияние на когнитивные убеждения, так как это может действовать за пределами осознания, что затрудняет обнаружение.
  • Виральность эмоций с высоким уровнем возбуждения : было обнаружено, что контент, который вызывает эмоции с высоким уровнем возбуждения (например, трепет, гнев, беспокойство или скрытый сексуальный смысл), является более вирусным, а контент, который содержит один или несколько из этих элементов: удивительный, интересный, или полезное принимается во внимание.
  • Простота важнее сложности : предоставление и увековечение простых объяснений сложных обстоятельств может использоваться для онлайн-манипуляций. Часто в такие сообщения легче поверить, они возникают до проведения каких-либо адекватных расследований и имеют более высокую вирусность, чем любые сложные, детализированные объяснения и информация. (См. Также: Малоинформационная рациональность )
  • Влияние сверстников : предварительные коллективные рейтинги веб-контента влияют на его собственное восприятие. В 2015 году было показано, что воспринимаемая красота произведения искусства в онлайн-контексте зависит от внешнего влияния, поскольку на рейтинги конфедерации манипулировали мнение и доверие участников эксперимента, которых попросили оценить произведение искусства. Кроме того, на Reddit было обнаружено, что контент, который изначально получил несколько голосов против или за него, часто продолжает становиться отрицательным или наоборот. Пользователи и администраторы Reddit называют это «победившим голосованием / голосованием снежным комом».
  • Пузырьки фильтров : эхо-камеры и пузыри фильтров могут создаваться администраторами или модераторами веб-сайта, блокируя людей с изменяющимися точками зрения, или путем установления определенных правил, или с помощью типичных точек зрения членов онлайн-сообществ или интернет-«племен».
  • Предвзятость подтверждения и манипулирование распространенностью : фальшивые новости не нужно читать, но они имеют количественный и эмоциональный эффект только за счет заголовков и звуковых фрагментов . Конкретные точки, взгляды, проблемы и очевидное преобладание людей могут быть усилены, стимулированы или смоделированы. (См. Также: Эффект простой экспозиции )
  • Своевременность и невозможность исправления информации : разъяснения, разоблачение заговора и раскрытие фальшивых новостей часто происходит с опозданием, когда ущерб уже нанесен и / или не достигает основной части аудитории связанная дезинформация.
  • Психологический таргетинг : активность в социальных сетях и другие данные можно использовать для анализа личности людей и прогнозирования их поведения и предпочтений. Д-р Михал Косински разработал такую ​​процедуру. Их можно использовать для СМИ или информации, адаптированной к психике человека, например, через Facebook . Согласно сообщениям, это могло сыграть неотъемлемую роль в победе Дональда Трампа. (См. Также: Таргетированная реклама , Персонализированный маркетинг )

Алгоритмы, эхо-камеры и поляризация

Из-за переизбытка онлайн-контента платформы социальных сетей и поисковые системы использовали алгоритмы для адаптации и персонализации лент пользователей на основе их индивидуальных предпочтений. Однако алгоритмы также ограничивают доступ к различным точкам зрения и содержанию. Это обычно называют «эхо-камерами» и « пузырьками-фильтрами ».

С помощью алгоритмов пузыри фильтров влияют на выбор пользователей и восприятие реальности, создавая впечатление, что определенная точка зрения или представление широко разделяется. После референдума 2016 года о членстве в Европейском союзе в Соединенном Королевстве и президентских выборов в США это привлекло внимание, поскольку многие люди признались, что их удивили результаты, которые казались очень далекими от их ожиданий. На диапазон плюрализма влияет индивидуальная индивидуализация услуг и то, как она ограничивает выбор. В медиатекстах обнаружено пять манипулятивных вербальных влияний. Есть самовыражение, семантические речевые стратегии, стратегии убеждения, салфетки и манипуляции с информацией. Лексический набор инструментов для манипулирования речью включает эвфемизм, лексику настроения, ситуативные прилагательные, слоганы, словесные метафоры и т. Д.

Исследования эха камер от Флаксмана, Goel и Рао, Паризера и Grömping предполагают , что использование социальных медиа и поисковые системы имеет тенденцию к увеличению идеологического расстояния между отдельными лицами.

Сравнение онлайн и офлайн сегрегации показало, что сегрегация, как правило, выше при личном общении с соседями, коллегами или членами семьи, а обзоры существующих исследований показали, что имеющиеся эмпирические данные не подтверждают большую часть пессимистические взгляды на поляризацию . Например, исследование, проведенное исследователями из Facebook и Мичиганского университета , показало, что алгоритмическая фильтрация определяется собственным выбором людей, ограничивая доступ к определенному диапазону контента. Хотя алгоритмы могут не вызывать поляризацию, они могут усиливать ее, представляя значительный компонент нового информационного ландшафта.

Исследования и использование спецслужбами и военными ведомствами

Некоторые из утекших методов / приемов работы JTRIG

Подразделение Объединенной разведывательной группы по изучению угроз при правительственном штабе связи (GCHQ), британское разведывательное агентство, было раскрыто в рамках раскрытия информации о глобальном слежении в документах, опубликованных бывшим подрядчиком Агентства национальной безопасности Эдвардом Сноуденом, и его миссия включает использование "грязных уловок" «уничтожать, отрицать, унижать [и] разрушать» врагов. Основные тактики включают в себя внедрение ложных материалов в Интернет с целью подрыва репутации целей и манипулирование онлайн-дискурсом и активизмом, для чего используются такие методы, как размещение материала в Интернете и ложное приписывание его кому-то другому, выдавая себя за жертву цели. лицо, репутация которого предполагается разрушить, и размещение «негативной информации» на различных форумах может быть использовано.

Работа JTRIG, известная как операции «Эффекты», к 2010 году стала «основной частью» операций GCHQ. В своей пропагандистской деятельности в Интернете (названной «Скрытые действия в сети») используются «массовые сообщения» и «продвижение историй». "через Twitter , Flickr , Facebook и YouTube . Операции «под ложным флагом » в режиме онлайн также используются JTRIG против целей. JTRIG также изменила фотографии в социальных сетях , а также отправила коллегам и соседям по электронной почте и в текстовых сообщениях «сомнительную информацию» о целевой персоне. В июне 2015 года файлы АНБ, опубликованные Гленном Гринвальдом, раскрыли новые подробности о работе JTRIG по тайному манипулированию онлайн-сообществами. Раскрытие информации также раскрыло технику "сбора учетных данных", при которой журналисты могут использоваться для распространения информации и выявления небританских журналистов, которые после манипуляций могут предоставить информацию намеченной цели секретной кампании, возможно, предоставляя доступ во время интервью. . Неизвестно, знали ли журналисты о том, что ими манипулировали.

Более того, Россию часто обвиняют в финансировании «троллей» для размещения пророссийских мнений в Интернете. Агентство интернет-исследований стало известно тем, что нанимает сотни россиян для размещения пропаганды в Интернете под вымышленными именами, чтобы создать иллюзию массовой поддержки. В 2016 году Россию обвинили в изощренных пропагандистских кампаниях по распространению фейковых новостей с целью наказать демократа Хиллари Клинтон и помочь республиканцу Дональду Трампу во время президентских выборов 2016 года, а также подорвать веру в американскую демократию.

В отчете за 2017 год Facebook публично заявил, что его сайт использовался правительствами для манипулирования общественным мнением в других странах, в том числе во время президентских выборов в США и Франции. В нем определены три основных компонента, задействованных в информационной кампании: целевой сбор данных, создание контента и ложное усиление, а также кража и раскрытие информации, которая не является общедоступной; распространение ложных или реальных историй третьим лицам через поддельные аккаунты; и фальшивые аккаунты, координируемые с целью манипулирования политической дискуссией, например, для усиления одних голосов при подавлении других.

В политике

В 2016 году Андрес Сепульведа раскрыл, что он манипулировал общественным мнением, чтобы сфальсифицировать выборы в Латинской Америке. По его словам, с бюджетом в 600000 долларов он возглавил команду хакеров, которые украли стратегии кампании, манипулировали социальными сетями, чтобы вызвать ложные волны энтузиазма и насмешек, и установили шпионское ПО в офисах оппозиции, чтобы помочь Энрике Пенья Ньето , кандидату справа от центра. , выиграть выборы.

В преддверии выборов 2014 года в Индии и партию Бхаратия Джаната (БДП), и партию Конгресса обвинили в найме «политических троллей», чтобы они положительно отзывались о них в блогах и социальных сетях.

Также считается, что китайское правительство управляет так называемой « 50-центовой армией » (указание на то, сколько им, как говорят, платят) и « водной армией Интернета », чтобы укрепить благоприятное мнение о нем и Коммунистической партии Китая. (КПК), а также для подавления инакомыслия.

В декабре 2014 года украинское министерство информации было создано для противодействия российской пропаганде, и одной из его первых задач было создание учетных записей в социальных сетях (также известных как i-Army ) и сбор друзей, выдающих себя за жителей востока Украины.

Twitter приостановил ряд бот - счетов , которые , как представляется, распространение про- Саудовской Аравии твиты об исчезновении Саудовской диссидент журналист Джамал Хашогги .

В бизнесе и маркетинге

Троллинг и другие приложения

В апреле 2009 года интернет-тролли из 4chan проголосовали за Кристофера Пула , основателя сайта, как самого влиятельного человека в мире в 2008 году, набрав 16 794 368 голосов по результатам открытого интернет-опроса, проведенного журналом Time . Результаты были подвергнуты сомнению еще до завершения опроса, поскольку автоматизированные программы голосования и ручное вброс бюллетеней использовались, чтобы повлиять на голосование. Вмешательство 4chan в голосование казалось все более вероятным, когда было обнаружено, что при чтении первой буквы первого 21 кандидата в опросе была прописана фраза, содержащая два мема 4chan : «Marblecake. Также, The Game ».

Шутники и политически ориентированные хактивисты могут делиться сложными знаниями о том, как манипулировать Интернетом и социальными сетями.

Контрмеры

В Wired отмечалось, что правила национального государства, такие как обязательная регистрация и угрозы наказания, не являются адекватными мерами для борьбы с проблемой онлайн-ботов.

Чтобы не допустить, чтобы предыдущие рейтинги влияли на восприятие, несколько веб-сайтов, таких как Reddit , предприняли такие шаги, как скрытие подсчета голосов на определенное время.

Обсуждаются и другие возможные меры: пометить посты как сатиру или фальшивку. Например, в декабре 2016 года Facebook объявил, что оспариваемые статьи будут отмечены с помощью пользователей и сторонних проверщиков фактов. Компания ищет способы выявления «информационных операций» и поддельных учетных записей и приостановила действие 30 000 учетных записей перед президентскими выборами во Франции в знак протеста против информационных операций.

Изобретатель всемирной паутины Тим Бернерс-Ли считает, что возложение на несколько компаний ответственности за принятие решений о том, что является правдой, а что нет, является рискованным, и заявляет, что открытость может сделать Интернет более правдивым. В качестве примера он указывает на Википедию, которая, хотя и не идеальна, позволяет любому редактировать, причем ключом к ее успеху является не только технология, но и управление сайтом. А именно, у него есть армия из бесчисленных добровольцев и способов определить, что правда, а что нет.

Кроме того, для борьбы с этой проблемой могут использоваться различные виды программного обеспечения, такие как поддельное программное обеспечение для проверки или добровольные расширения браузера, которые хранят каждый прочитанный веб-сайт или используют историю просмотров для доставки поддельных откровений тем, кто прочитал поддельную историю после того, как был достигнут определенный консенсус. обнаружил на лживости рассказа.

Кроме того, Даниэль Суарес просит общество ценить критическое аналитическое мышление и предлагает реформы образования, такие как введение «формальной логики» в качестве дисциплины в школах и обучение медиаграмотности и объективной оценки.

Ответы правительства

Согласно исследованию Оксфордского института Интернета, по крайней мере 43 страны по всему миру предложили или внедрили правила, специально разработанные для решения различных аспектов кампаний влияния, включая фальшивые новости, злоупотребления в социальных сетях и вмешательство в выборы.

Германия

В Германии в период, предшествующий выборам в сентябре 2017 года, все основные политические партии, за исключением АдГ, публично заявили, что они не будут использовать социальных ботов в своих кампаниях. Кроме того, они решительно осудили такое использование онлайн-ботов.

Были предприняты шаги в направлении регулирования социальных сетей: три немецких штата Гессен, Бавария и Саксония-Анхальт в начале 2017 года предложили закон, который означал бы, что пользователи социальных сетей могут столкнуться с судебным преследованием, если они нарушат условия платформы. Например, использование псевдонима в Facebook или создание поддельной учетной записи карается лишением свободы на срок до одного года.

Италия

В начале 2018 года итальянское коммуникационное агентство AGCOM опубликовало на своем веб-сайте свод правил, нацеленных на выборы в марте того же года. Шесть основных тем:

  1. Равное обращение с политическими субъектами
  2. Прозрачность политической пропаганды
  3. Незаконное содержание и деятельность, распространение которой запрещено (например, опросы)
  4. Аккаунты государственных администраций в социальных сетях
  5. В день выборов и накануне политическая пропаганда запрещена
  6. Рекомендации по усилению служб проверки фактов

Франция

В ноябре 2018 года во Франции был принят закон против манипулирования информацией. Закон гласит, что в период избирательной кампании:

  • Цифровые платформы должны раскрывать сумму, уплаченную за рекламу, и имена их авторов. После определенного порога трафика платформы должны иметь представителя во Франции и публиковать используемые алгоритмы.
  • Временный судья может издать судебный запрет, чтобы быстро остановить распространение фейковых новостей. «Фейковые новости» должны удовлетворять следующим требованиям: (а) они должны быть очевидными; (б) он должен распространяться в массовом масштабе; и (c) привести к нарушению общественного порядка или поставить под угрозу исход выборов.

Малайзия

В апреле 2018 года парламент Малайзии принял Закон о борьбе с фейковыми новостями. В нем фальшивые новости определяются как «новости, информация, данные и отчеты, которые являются или являются полностью или частично ложными». Это касается граждан или тех, кто работает над электронным изданием, и возможно лишение свободы на срок до 6 лет. Однако закон был отменен после резкой критики в августе 2018 года.

Кения

В мае 2018 года президент Ухуру Кеньятта подписал закон о компьютерных и киберпреступлениях, который криминализирует киберпреступления, включая киберзапугивание и кибершпионаж. Если лицо «намеренно публикует ложные, вводящие в заблуждение или вымышленные данные или дезинформирует с намерением, чтобы данные считались достоверными или действовали в соответствии с ними», оно подлежит штрафу и тюремному заключению на срок до двух лет.

Исследовать

Канцлер Германии Ангела Меркель поручила бундестагу бороться с возможностями политического манипулирования социальными ботами или фейковыми новостями.

Смотрите также

Источники

Определение логотипа бесплатных произведений культуры notext.svg Эта статья включает текст из бесплатного контента . Лицензировано в соответствии с заявлением / разрешением CC BY SA 3.0 IGO на Wikimedia Commons . Текст взят из Всемирного доклада о мировых тенденциях в области свободы выражения мнений и развития СМИ за 2017/2018 гг. , 202, Оксфордский университет, ЮНЕСКО. Чтобы узнать, как добавить открытый текст лицензии в статьи Википедии, см. Эту страницу с инструкциями . Информацию о повторном использовании текста из Википедии см. В условиях использования .

использованная литература

внешние ссылки