О возможностях «больших братьев»: манипуляция или контроль
Возможно ли установление тотального контроля над населением с помощью новых информационно-коммуникационных технологий в отсутствии теории социального и политического поведения?
В последнее время ведётся достаточно много разговоров о возможности использования новых цифровых коммуникаций, «больших данных» и прочих искусственных интеллектов для порабощения человечества и манипуляции им. Буквально на днях активно обсуждалась якобы осуществляемая Китаем политика по установлению полного цифрового контроля за китайским сегментом человечества. Ясное дело, что в современном транскоммуникационном мире никаким локальным фрагментом ограничиться невозможно. Следовательно, угроза не может быть ограничена никаким отдельным регионом, государством, если, конечно, не попытаться построить нечто вроде цифровой крепости, каким-то радикальным образом разграничить страны и регионы между собой.
Спору нет, цифровой вызов есть, и последствия стремительного развития цифровых и коммуникационных технологий могут быть весьма серьёзными и очень опасными. Мне уже доводилось писать о том, что современные коммуникации делают ситуацию более прозрачной, а человека в ней более открытым и беззащитным. Ни один шаг человека ли, социального, политического или экономического института ли, сделанный в новой информационно-коммуникационной среде, никуда не исчезнет, а останется практически навечно. И положение подпольщика в оккупированной нацистами стране во время Второй мировой войны было куда безопаснее, чем положение нынешнего блоггера. Расклеивание листовок с антифашистскими призывами в те времена ещё можно было осуществить тайно. Ныне – при желании, конечно, – отследить можно всё и вся.
Но в то же время не надо впадать в крайности и запугивать себя всемогуществом мировой информационно-цифровой паутины. Всего-то пару-тройку месяцев все с воодушевлением обсуждали удивительные информационно-коммуникационные технологии, которые якобы обеспечили победу Трампа. Ссылались на таинственную «Кембридж Аналитика», на мистических сингапурцев, на использование «больших данных», на то, что по профилю человека в Фейсбуке или Твиттере можно установить все его черты, ранжировать пользователей интернета и научиться манипулировать людьми с помощью, например, специально сконструированных посланий. Якобы Хиллари Клинтон был нанесён большой ущерб сообщениями, адресованными специально афроамериканцам о её спорных или откровенно неудачных высказываниях по поводу расовых проблем.
Наверное, какой-то эффект от подобной активности и был. Но уже во время дискуссии возник вопрос: если такие манипулятивные возможности новых технологий существуют, то почему они никак не проявляют себя на обычном рынке? Реальное положение дел с влиянием на потребителей, например, шоколада или владельцев автомобилей никак не свидетельствует о существовании сколь-нибудь развитой новой технологии, опирающейся на анализ больших данных и использование их в управлении потребительским поведением. Конечно же, умные и творческие люди рекламы умеют влиять и достигают больших успехов в деле продвижения товаров и брендов, но вот следов качественного прорыва, каких-то революций пока нет. Хотя, повторю, перспективы велики. К тому же люди любят обманываться и очень склонны к отказу от свободы и самостоятельности в пользу защиты и подчинённости.
Дискуссия о чудесах больших данных слегка затихла. Тем более что тема загадочных и всемогущих хакеров захватила умы преимущественно ведущих политиков, людей, замечу, как правило, немолодых и не очень просвещённых. И потому разговоры о таинственных злодеях, «хакающих» всё подряд, оказались высаженными на благодатную ментально-политическую почву, удобренную ещё Яном Флемингом и его вездесущим Джеймсом Бондом.
Так что неудивительно, что вот опять «большие данные» и их страшное могущество снова ворвались в смятённые умы современников. Теперь, правда, не в виде угрозы манипуляции, а в виде пугающего призрака тотального контроля. Если «Кембридж Аналитика» и какие-то сингапурцы якобы всем и вся манипулировали исподтишка, то теперь китайцам приписывается попытка всё контролировать с помощью так называемой системы «социального кредита» или «социального доверия». Смысл затеи предельно прост – все следы человека, оставленные им так или иначе в цифровой среде, будут собираться, обобщаться и систематизироваться. К таким следам могут относиться покупки, заказанные услуги – от спортивных до сексуальных, поездки, тексты, написанные в соцсетях, посещаемые сайты, отзывы и доносы окружающих и так далее. На основании обобщения люди будут ранжироваться и – вознаграждаться или наказываться тем или иным способом. В общем, тотальный контроль и над людьми, и над институтами.
Хочу сразу сказать, что любые власти склонны к обретению исчерпывающего знания и полного контроля над гражданами. Это не новость.
Новостью, и достаточно неожиданной, был бы успех этих попыток на основе цифровых технологий. Для этого успеха требуется много и прежде всего – умение действительно что-то определять по следам в цифровой среде. Пока что реальные успехи сводятся или к предложению рекламы, связанной с предыдущими запросами пользователя, или же к установлению традиционного полицейского контроля за теми, кто, например, активно коммуницирует с предполагаемыми террористами или же их сторонниками. В первом случае тому, кто искал информацию о велосипедах, предлагают их купить, во втором – любопытствующему маргиналу предстоит познакомиться с полицейскими, возможно, ближе, чем хотелось бы.
Причина моего скепсиса относительно применимости всех чудес цифровизации к построению эффективного тотального контроля или созданию устойчивой системы манипулирования заключается в том, что мне неизвестно о создании действительно приемлемой новой модели социальной стратификации. Я хочу ещё раз оговориться: создать систему тотального контроля и подавления можно. Тому тьма подтверждений: советская система, фашистская Германия, режим Пол Пота и Йен Сари в Камбодже, Северная Корея и так далее. В той или иной степени все эти системы были успешны в организации контроля и управления гражданами. Но инструментами этого контроля были вполне традиционные пропаганда, тайная полиция, доносы… И опирались все эти системы на вполне определённую систему социальной стратификации: род занятий, этническая принадлежность, образовательный уровень и тому подобное. Новый контроль предполагает куда более тонкие способы различения и классификации граждан.
А вот с этим пока проблемы. Так, например, велось и ведётся множество разговоров про относительно новую систему стратификации, основанную на пяти личностных чертах (факторах) – OCEAN (CANOE) – Openness to experience, Conscientiousness, Extraversion, Agreeableness, Neuroticism (открытость опыту, сознательность, экстраверсия, доброжелательность, нейротизм – перевод достаточно условен). Теоретически – а эта модель появилась далеко не вчера – умение измерять эти личностные характеристики может позволить предсказывать поведение и даже влиять на него. Вопрос, однако, в том, а насколько это верно и практически применимо? Даже если допустить, что это так – верно и применимо, – совершенно неясно, а можно ли эти параметры вычислить, опираясь на анализ совокупности данных о человеке, данных, собранных прежде всего в цифровой среде.
Грубо говоря, тонкий и изощрённый контроль/манипуляция требует столь же тонкой и изощрённой теории, сложной и многомерной матрицы, в которую это всё будет укладываться. К примеру, люди и в античности много знали о звёздном небе, назвали созвездия, увидели связь между движениями светил и изменением времён года. Но до появления ньютоновой механики и иных теорий никакое глубокое понимание устройства вселенной, никакая космонавтика не были возможны. Точно так же и мириады терабайт информации о поведении человека без новой теории его поведения могут быть или бессмысленны, или просто служить ширмой для довольно традиционной манипуляции и подавления.
Так что стоит, конечно, бояться тотальной несвободы, но цифровые технологии в её организации могут сыграть только вспомогательную роль.
В заключение хотел бы сказать, что угрозы-то, конечно, есть. И одна из самых существенных – проблема поведения людей в мире информационного потопа. Никогда ещё столько информации не обрушивалось на человека, никогда прежде люди не потребляли и не производили столько информации, как сегодня. И, похоже, завтра её будет ещё больше. И мы, как мне представляется, видим последствия этого: люди массово запутываются в потоках информации, с трудом отделяют правду от лжи, едва улавливают связи между явлениями. Конечно, эта проблема не нова: люди и прежде жили в тумане сомнительных фактов, вздорных теорий, глупых иллюзий, предвзятости и страхе новизны, подрывающей сложившуюся картину мира. Просто сегодня всё это как бы мультиплицировалось в силу необыкновенной лёгкости коммуникаций всех со всеми. И это привело к разрушению информационной иерархии и сокрушению большинства авторитетов. Как ни странно, площадь общего знания – в силу невероятного увеличения количества источников информации – только сократилась.
Ещё до недавнего времени профессиональные СМИ играли очень важную роль в создании и поддержании более или менее достоверной и понимаемой картины мира. Сегодня их роль существенно скромнее. И в этом виноваты во многом сами СМИ. Вместе с тем нужда в авторитетных информационных институтах велика. Я уже неоднократно писал, что вообще-то нужен своего рода журналистский ренессанс, если, конечно, он возможен.
Проблема манипуляции, усиления тоталитарных тенденций очень тесно связана именно с ослаблением иерархии, с падением институтов, поскольку нет ничего более податливого на манипуляции и доступного контролю, чем толпа. Информационный хаос, затопляющий мир, превращает всё человечество в ту самую толпу. А чем опасна толпа, объяснять не надо.