Закажите пилотный проект
Phishman бесплатно
Заполните форму, чтобы получить
консультацию экспертов Phishman
Я хочу получать рекламную информацию об услугах ООО «Фишман» по любым доступным каналам коммуникации, в том числе в виде смс-сообщений на указанный мной номер сотового телефона
  • /
  • /

Цифровая гигиена: фантастические фейки, и где они обитают (Часть 1)

Дата публикации: 14.07.2022
Время на чтение: 5 мин.
Алексей Горелкин
Генеральный директор Phishman
Содержание статьи:

Как определялась ценность информации в доиндустриальную эпоху?

Во все времена людям важно было получать релевантную информацию, которая отражает реальность. Из-за того, что большую часть человеческой истории значительная часть человечества была неграмотной (сложно представить, но это – факт), критерием «реальности» была записанная о ней информация.


Записанная информация – это текст. До 19 века включительно за всю историю человечества было записано меньше текста, чем сегодня пишется людьми за один день. То, что информация доходила сквозь века, показывало её ценность. А ценность заключалась в том, что с помощью этих текстов люди выживали и осваивали реальность.


С появлением печатного станка количество людей, которые освоили грамотность и научились писать, выросло по экспоненте. И с тех пор сам факт того, что информация записана, стал с каждым днём все меньше обеспечивать факт достоверности.

Почему первыми фейками были тексты?

Тексты стали подделывать, и так появились одни из первых фейков. Фейковая библия, фейковые жизнеописания великих людей, фейковые истории побед и поражений. Археологи, лингвисты, антропологи тратили годы своей жизни на то, чтобы подтверждать достоверность того или иного текста.

Потом появилась фотография, и люди на время смогли фиксировать реальность такой, какой её видит глаз. Но потом даже фотографии научились подделывать.

Потом случилось кино. И это была революция – потому что с помощью приёмов монтажа и съемки можно было снять то, чего глаз не смог бы увидеть в реальности.

Deepfake-революция: подделать можно даже голос

Дольше всех продержалась аутентичность человеческого голоса. Голос каждого человека – уникален, идентичными являются лишь голоса близнецов. Но сейчас даже голос любого человека можно подделать, и условный Ургант может рассказывать вам небылицы, которые будут убедительными в силу его авторитета.

Сейчас мы стоим на пороге deepfake-революции, когда у человека появляется возможность в реальном времени накладывать на свое лицо высокодетализированную маску, которая ничем не будет отличаться от лица знаменитости или политика. Вместе с имитацией чужого голоса мы стоим на пороге эпохи, где можно будет «рисовать» любую картинку, которая не будет отражать реальный мир.

Рациональная VS эмоциональная информация: смена приоритетов потребления новостей

Но кроме появления фейковых новостей, которые могут по объему вытеснить «реальные» новости, перед человеком стоит другая проблема: ценность информации поменялась с рациональной на эмоциональную. Вместо полезных для выживания и жизни фактов мы ищем эмоциональный заряд, который мотивирует двигаться дальше в течение дня. Эмоциональный заряд сам по себе не несет ничего вредного, даже если это – отрицательный заряд. Но когда мы заряжаемся эмоцией после фейковой новости, мы начинаем двигаться в ложном направлении и из ложной предпосылки.

«Подсесть на ленту»: как фейки формируют привычку проявлять интерес к цепляющей, но ложной информации?

Всё усугубляется тем, что с каждым днём новостей и информации становится всё больше, а привычка фильтровать её самостоятельно появляется далеко не у каждого.

И несмотря на то, что информации становятся всё больше, от неё не происходит «насыщения». И мы в ситуации, в которой из-за фейковой информации и эмоциональных крючков, каждого может настигнуть информационный голод, и это становится реальной угрозой.

И дело не в том, что информации не будет. Мы уже написали, что с каждым днём её становится всё больше. Дело в том, что она окажется некачественной, то есть совершенно не отражающей реальность.
О ней, об информации, которая плохо отражает или искажает картину реальности - о фейках - наша статья.

Можно провести аналогию между едой и новостями. Если упростить, у еды есть два измерения – вкусно/невкусно и полезно/вредно.

Информацию можно делить по такому же принципу. В нашем случае «вкус» можно заменить на «интерес». А «польза/вред» - это «правда/фейк». И как существует вредная, но вкусная еда – вокруг человека сейчас огромное количество интересной, но фейковой информации.

Искажения в информационном потоке могут накапливаться месяцами и годами, выливаясь в деструктивное мировоззрение, полное эмоций на пустом месте, которые мешают рабочему процессу и приводят к ошибкам, которые ведут к убыткам.

Эффект доктора Фокса, или почему мы доверяем авторитетам и распространяем за ними фейки?

Сейчас покажем вам пример. И Билл Гейтс, и Стив Джобс в свое время говорили, что к концу 21 века каждый человек будет способен обрабатывать в 10 раз больше информации в битовом выражении (с дополнительным пересчетом в количество строк информации с ограниченным количеством символов в секунду) и при этом тратить на это в 10 раз меньше энергии в пересчете на джоули. Они оба проводили исследования в кооперации с крупными институтами (Гарвард и Беркли), и пытались понять, почему детям вообще не нужно учиться для того, чтобы в прямом смысле слова воспринимать в 10 раз больше информации в битовом выражении, скорость восприятия вырастала за месяцы с правильной учебной программой, и, главное, при прохождении этой программы за компьютером, а взрослые принципиально не могли повысить свою «пропускную способность», при том, что понимали, что за высокой скоростью обработки диджитальной информации – будущее.

Поверили? А это - фейк. Просто мы лаконично апеллировали к двум авторитетам и рассказали вам «вкусную» (то есть интересную, вызывающую эмоции информацию), и вы нам поверили.

Почему мы путаем интересную и полезную информацию?

О том, что мы больше склонны верить крупным авторитетам говорил Карнеги. А тенденция доверять больше интересной информации, чем скучной называют эффектом доктора Фокса (ссылка).

Увы, мозг человека устроен так, что он путает «интересную» и «полезную» информацию. Если вы любите машины, то будете готовы читать про них днями напролёт. Но если вы живете в заснеженной тундре и у вас заканчивается запас еды – продолжать интересоваться машинами только из-за личного интереса будет неразумно.

Как авторитет источника обуславливает работу нашей памяти?

Путаница между интересной и полезной информации еще проявляется в том, что мы лучше запоминаем факты от знакомого источника и авторитетного лица - даже если наши собственные аргументы говорят против этих фактов.

И, соответственно, наоборот: если новые факты приходят от нового источника, который не является для нас авторитетом то они будут с запоминаться труднее, и мы будем испытывать к ним бОльшее недоверие.

Куда может привести фейк, или как незаметно для самого себя распространять дезинформацию

Резюмируя: если нам нравится то, что мы видим и читаем, то, скорее всего, мы в это поверим. Пример: мы очень хотим новый телефон, и видим ссылку на товар со скидкой. То есть новый телефон стал дешевле! У нас повышается настроение, и мы делимся ссылкой на распродажу с друзьями. Но в итоге вместо «спасибо» от друзей получаем письмо от отдела информационной безопасности касательно того, что вы распространяли фишинговую ссылку направо и налево.

Неприятно, да? Но если бы кто-то воспользовался вашей ссылкой и отправил деньги мошенникам «за покупку» было еще неприятней.

Почему отсутствие привычки проверять фейки делает нас уязвимыми перед фишерами?

Так и работает фишинг, который скрывается за фейковой информацией: если информация подается в знакомом читателю контексте, то его, читателя, можно убедить практически в чем угодно, образно, если он не будет проверять информацию альтернативными источниками.

Но если фишинговый сайт можно определить невооруженным глазом, то новости надо проверять наличием нескольких источников. Но в 2022 году, когда где все тиражируют «горячие» новости, добраться до первоисточника невозможно. И если это так (когда во время поиска вы видите лишь одну «новость-копипасту») – скорее всего, вы столкнулись с фейком.
Cтатья была для вас полезной?

Читайте по теме

02.11.2021
Свобода слова в сети
29.10.2020
Способы защиты от кибератак на предприятии
05.08.2020
Как обезопасить себя в интернете?