Игра в диктаторов

Мы говорим “диктатура” — подразумеваем Китай. Мы говорим “диктатор” — подразумеваем Си Цзиньпина. 

Пожалуй, нет ни одного медиа, которое бы не осветило внедрение в Китае “системы общественного доверия”, и нет комментатора, который не сравнил бы эту систему с тоталитарным государством будущего из оруэлловской антиутопии. Однако ситуация гораздо сложнее. Угроза “цифровой диктатуры” не связана с национальными границами и какой-либо конкретной культурой. Она буквально “вшита” в настройки современного общества. Игра в диктаторов стартовала практически по всему миру. Дрейф в эту сторону уже слишком заметен, чтобы его игнорировать. Вопрос лишь в том, способны ли мы этому противостоять.

Оруэлл. Возвращение

“Система общественного доверия” в полную силу заработает в Китае лишь в 2020-м, сегодня реализуется пилотный проект в 30 городах, но замысел и в самом деле поражает своим масштабом, глубиной государственного контроля над жизнью человека, а кроме того — удивительным для западного мира симбиозом “освобождающих технологий” цифровой эпохи с диктаторскими режимами. 

В рамках системы государство собирается оценивать благонадежность и благонамеренность своих граждан и “укреплять доверие в обществе”. Причем, будет делать это инновационным путем. Собирать персональные данные о поведении китайцев на улицах, в общественных местах, в банках и университетах, на работе и в общении с родственниками — в общем, везде, где сможет отследить и оцифровать “поведенческий след” человека. А на основе анализа этих данных (уже сегодня правительственные органы способны собирать их по 160 тысячам параметров) будет складываться персональный общественный рейтинг каждого человека. 

Уже с мая с.г. низкорейтинговым участникам пилотных проектов не будут продавать билеты на самолеты и поезда, выпускать за границу, давать кредиты и отказывать в доступе к другим социальным благам. То есть жизнь каждого китайца будет зависеть от того, списывал ли он домашние задания, навещал ли бабушку по выходным, обладает ли преступными наклонностями, включая недовольство правящим режимом. Оценки будет ставить искусственный интеллект, хотя доносы на ближнего своего традиционно будут поощряться и, разумеется, влиять на общий результат. 

Главная “прелесть” системы в том, что критерии благонадежности и благонамеренности в официальных документах выписаны очень туманно. Это даст чиновникам широкие возможности для маневра и позволит эффективнее управлять поведением. Ведь когда не знаешь, какое поведение сегодня одобряется, ведешь себя вдвойне осторожно. В общем, китайскую “неблагонадежность” от оруэлловского “мыслепреступления” действительно отделяет всего один шаг, состоящий в умении машины читать мысли. Впрочем, и этот шаг будет вскоре пройден. 

“Система общественного доверия” — конечно, наиболее масштабный, но далеко не первый китайский проект управления поведением больших человеческих коллективов. В 2004-м пекинский район Дунчэн условно поделили на полторы тысячи квадратов, поставив в каждом “ответственного”. Сначала отслеживали состояние объектов инфраструктуры, но очень скоро начали отслеживать перемещения и поведение людей. Это позволило снизить как общий уровень преступности, так и вероятность социальных волнений. В 2011-м сетевое управление было внедрено в проблемном для Китая Тибетском автономном районе. В 2014-м — в провинции Синьцзян, где живут уйгуры-мусульмане. Она всегда была источником проблем для китайских властей, очагом терроризма и протестов. Синьцзян стал живым воплощением киберпанка — каждый житель там проходит через сканирование радужной оболочки, на автомобили ставятся датчики геолокации, и даже на кухонные ножи наносится лазерная гравировка с QR-кодом, позволяющая отследить нож, где бы он и с какой бы целью ни был применен. 

Для любого западного человека велико искушение указать на Китай как на страну, которая стремительно продвигается к диктатуре. Большинство комментаторов так и делают, констатируя с сожалением, что Китай больше не хочет быть похожим на Запад и возвращается к авторитарным традициям.

Однако к диктатуре цифровой эпохи продвигается не только Китай. В Индии, например, уже восемь лет действует биометрическая система Aadhaar, в которой уже зарегистрировано 92% населения страны — это 1,11 млрд чел. Эквадор два года назад внедрил национальную систему видеонаблюдения, разместив камеры во всех 24 провинциях. Оборудование для системы предоставило, кстати, китайское правительство — причем бесплатно. Россия, которая смогла развернуть в Европе и США сеть хакеров, троллей и ботов, чтобы повлиять на результаты выборов и референдумов, сегодня ставится в один ряд с Китаем среди угроз, связанных с новыми технологиями и искусственным интеллектом. И даже повышенное внимание Александра Лукашенко к IT-отрасли, которое выражается в создании благоприятного для айтишников делового климата, в контексте ситуации наводит на невеселые мысли. 

Попытки включить всех граждан в общенациональную базу данных предпринимались даже в Шотландии и Англии. До уровня китайской системы дойти не удалось — гражданский сектор и политическая оппозиция забили тревогу и добились отмены программ. 

И это лишь несколько примеров. Складывается впечатление, будто к “цифровой диктатуре” движется сегодня весь мир. Темпы продвижения и заинтересованные стороны отличаются от китайских. Но направление, по сути, то же самое. 

“Экономика кнута”

Если литературной метафорой для китайского социального эксперимента послужила антиутопия Оруэлла, то для протекающих на Западе процессов идеально подходит “Сфера” Дэйва Эггерса, в которой IT-корпорация борется с остатками приватности, организует тотальную слежку за всеми и делает “окольцованных” политиков президентами. 

Любители конспирологии наверняка рыдают от счастья: их самые смелые предположения о том, что “технологические монстры управляют нашим сознанием”, теперь можно запросто прочесть в ленте новостей рядом с сообщениями о свадьбе какого-нибудь принца и прогнозом погоды: допрос Марка Цукерберга в Конгрессе и стрельба блогера-самоубийцы в офисе YouTube, расследование против гигантов индустрии в ЕС. 

Джордж Сорос, выступая в Давосе в январе с.г., обвинил технологических гигантов практически во всем — начиная от монопольного положения на рынке и препятствия инновациям до роста неравенства и лишения людей свободы разума. Самая большая угроза, по его мнению, — будущий альянс интернет-гигантов с диктаторскими режимами, на который лидеры индустрии якобы пойдут ради того, чтобы получить доступ на новые и безграничные рынки России и Китая. Однако, по мнению Сороса, “их дни сочтены”: налоговые претензии и антимонопольные расследования разрушат их господство в экономике. 

Сложно судить о том, насколько обвинения Сороса обоснованы. Ясно одно: “цифровой капитализм”, создающий и эксплуатирующий платформы взаимодействия между людьми, построен на анализе человеческого поведения, предсказании поведенческих изменений и — в конечном итоге — на управлении этим поведением. 

Конечно, в самом широком смысле так можно сказать о любом бизнесе. Однако впервые у больших корпораций появился уникальный ресурс — цифровая “копия” человека. Которая, как показывает практика, может сказать о нем и его поведении гораздо больше, чем ближайшие родственники и даже он сам. Причем этот ресурс изымается и приватизируется не по принуждению, а добровольно. В обмен на комфорт общения в Сети, бесплатное или почти бесплатное получение продуктов и даже прохождение какого-нибудь дурацкого квеста либо теста. 

С помощью “больших данных” компании получают возможность “подталкивать” людей к выбору (продукта, услуги, стиля жизни, политики). В чем принципиальное отличие такого типа экономики от китайской системы общественного доверия? Парадокс в том, что принципиального отличия нет. Просто китайская система откровенно заявляет людям о том, что их поведение контролируют и, в общем-то, даже не обещает им формальной свободы принятия решений.

Впрочем, помимо манипулирования, новая экономика от непосредственного и откровенного “подталкивания” с помощью технологий тоже не отказывается. В конце марта The Economist рассказал о том, как искусственный интеллект может трансформировать рабочее место. В частности, речь шла о запатентованном Amazon браслете для складских рабочих. Умный браслет будет анализировать движения рук рабочего и — с помощью вибраций — заставлять его двигаться более эффективно. Или о стартапе Humanyze, который продает умные бейджи, отслеживающие передвижения сотрудников по офису и эффективность их общения с коллегами. Доживи Джордж Оруэлл до наших дней, он бы наверняка позавидовал таким сюжетам. Тем более что речь идет не только о новом modus operandi бизнеса.

Государство в этом противостоянии тоже не является “белым рыцарем”, который несет спасение всем. Передать государству контроль над искусственным интеллектом и платформенной экономикой, чтобы избавиться от угроз, которые они несут, — все равно что пытаться тушить пожар керосином. Государства внедряют технологии тотальной слежки и контроля. Даже в крупнейших демократиях власть получает на это одобрение граждан, прикрываясь локальными или международными угрозами, ставя людей перед старым, как мир, выбором “свобода или безопасность”. 

Не брезгуют в овально-прямоугольных кабинетах и применением технологий “подталкивания”. Вспомнить хотя бы Behavioural Insights Team — команду бихевиористов, работа которой оплачивалась британским правительством в течение четырех лет. Специалисты разрабатывали решения по оптимизации государственного управления. Например, отправляли неплательщикам автопошлины фотографии их автомобилей, налогоплательщикам — письма с фразой “большинство граждан страны платят налоги вовремя” и даже… использовали лотереи для повышения явки на выборах (даже на постсоветском пространстве это считается “серой” электоральной технологией). “Группу социальных и поведенческих наук” с аналогичными функциями основал в 2015-м и Барак Обама.

А самое главное в том, что после истории с Cambridge Analytica легитимность режимов и их опора на волю граждан поставлена под сомнение в самых что ни на есть демократичных демократиях. Если манипуляцию можно было провести однажды, нельзя исключить ее повторения в будущем. Действенных институциональных рецептов против этого пока нет. 

В поисках антител

Приходится признать: продвижение к диктатуре — тренд сегодня достаточно сильный и глобальный по масштабу. Наступления ее в том или ином виде избежать будет очень сложно. Вакцину от нее не содержат ни культурные традиции, ни даже демократические институты и процедуры. Страховкой от нее не смогут служить ни компании, ни государство, ни тем более сетевые структуры даркнета. Скорее наоборот — все они могут стать субъектами, желающими сыграть в глобальную “игру в диктатора”. 

В последующие два-три десятилетия мы будем наблюдать борьбу между этими субъектами: корпораций с государством, легальных институтов с пиратскими сетями, “свободного мира” с Китаем. Но это будет схватка не “за или против диктатуры”, а за то, кому быть диктатором, кому аккумулировать функцию контроля над поведением человеческих множеств. Поэтому любой исход схватки для человечества не является позитивным.

Диктатура XXI в. не нуждается в “инсталляционном пакете” в виде тоталитарной идеологии. Она может прийти незаметно для большинства и даже оставить людям иллюзию свободного выбора в качестве рождественского подарка. Новая диктатура не будет нуждаться даже в системном терроре, как это было с тоталитарными режимами прошлого века. Она может сколько угодно эксплуатировать настоящую или иллюзорную угрозу, чтобы укреплять управление поведением человека, переводить послушание на сознательный уровень. Причем не важно, кто или что будет выступать такой угрозой: украинские “бандеровцы” или режим Си Цзиньпина, “популисты” или “националисты”, интернет-гиганты или Джордж Сорос. Но угроза должна обязательно быть: новая диктатура будет ею подпитываться и ею оправдываться. И если угрозы не будет, ее нужно будет создать. Или попросту выдумать. 

Искать конкретного “виновника”, который бы сыграл роль “абсолютного зла” и вынашивал планы установления диктатуры, — занятие бесперспективное. “Назначить” можно, но не найти. Поворот к диктатуре имеет свои причины, которые лежат за пределами мотивов конкретных действующих лиц. Скорее всего, мы наблюдаем инстинктивную реакцию различных институтов господства на процессы, которые происходят в мире в течение последних двух десятилетий.

Лучше всего эти процессы были описаны в книге Мойзеса Наима “Конец власти”. Людей стало больше, они стали более информированными о ситуации в различных уголках мира. Люди получили возможность связываться друг с другом без посредников, решая экономические и политические задачи. Общество существенно усложнилось, и это стало проблемой. Традиционным институтам власти бросают вызов мелкие игроки: активисты-одиночки, люди на Майдане, стартаперы из гаража, гроссмейстеры-самоучки. Власть стало проще получить, но сложнее удержать и совсем уж сложно — воспользоваться ею. Хоть для реализации благих намерений и стратегических планов, хоть для удовлетворения властных инстинктов, хоть для личного обогащения. Непредсказуемые, самоорганизующиеся, спонтанные акторы мешаются под ногами, путают расчеты и постоянно подрывают господство любого типа: политического, экономического, религиозного. Многие из них и сами не прочь сыграть в диктаторов. 

Оптимальным выходом из ситуации могла бы стать разработка новой системы общественных отношений, которая была бы способна создать новый баланс между индивидуальностью и общностью. Но для обладающих властью этот путь слишком долгий, чтобы его пройти. Слишком затратный, чтобы на него решиться. А главное — слишком непривычный, чтобы его увидеть. Движение к диктатуре на этом фоне выглядит для институций господства понятным и достаточно простым выходом. 

На что же стоит надеяться нам? Можно ли предотвратить неизбежный поворот к диктатуре или придется выбирать лишь между “мягким” и “жестким” ее вариантом? 

Очень показательна в этом отношении история поиска лекарства от СПИДа. В течение почти 40 лет медики бились над обузданием вируса, который постоянно мутировал. И наконец ухватились за ниточку: лучше всех антитела может вырабатывать сам человек. 

Точно так же обстоит и с угрозой диктатуры. Если что-то и можно ей противопоставить, то только нашу осознанность в отношениях с технологиями и друг с другом. Сотрудничество людей между собой, основанное на взаимном уважении и отказе от доминирования, насилия и манипуляций. Отказ от делегирования человеческих способностей и функций цифровым алгоритмам и социальным машинам — например, нашей способности выбирать, доверять, взаимодействовать и общаться. Критическая фильтрация угроз, о которых нам навязчиво сообщают через традиционные и социальные медиа. Ну, и конечно — куда без этого? — постоянное напоминание себе о том, что бесплатный сыр бывает только в мышеловке, и что даже за участие в дурацком квесте в соцсетях в конечном итоге приходится платить частичкой своей свободы. Перспектива такого изменения мышления и отношений выглядит сегодня фантастикой. Но альтернатива в виде диктатуры выглядит хуже. Гораздо хуже. 

Украина в этом движении отнюдь не на отшибе. Скорее наоборот: открывшись миру, мы сразу попали в водоворот влияния всех трендов. Пока система не зацементировалась, у нас есть возможность как нырнуть в диктатуру, так и построить что-то новое. Все зависит от осознанности. Наше государство пока не оседлало тему цифровых угроз, наша технологическая архаичность не позволяет внедрить системы контроля в национальном масштабе, а наши корпорации слишком заняты распилом материального, чтобы думать о тонкостях поведенческой экономики. Но это не значит, что мы застрахованы от влияния трендов. Как раз наоборот — мы восприимчивы к ним. И то, что на Западе сегодня считают опасностью, у нас пока воспринимается как знаки “прекрасного нового мира”. 

Нас сложно объединить под крылом любой идеи, своей диктатуры у нас никогда не было. Могла инсталлироваться только чужая, которая тут же вызывала сопротивление — на “черных радах”, в повстанческих лесах и на майданах. Но это не значит, что наш иммунитет против диктатуры — вечный и “безлимитный”. Посмотрите на наши дискуссии в социальных сетях, и вы поймете, что потенциальных диктаторов у нас — около 40 млн чел. Пока что это делает диктатуру невозможной. Но мы не можем предсказать те изменения в сознании, которые несут нам новые технологии и глобальные тренды. Надежной защитой от глобального диктаторского цунами может стать только осознанность действий и решимость создавать свое, изобретать “украинский велосипед”. Как любят говорить футурологи, будущее в любом случае создается. И если ты не создаешь свое будущее сам, кто-то другой создает его за тебя прямо сейчас.

Денис СЕМЕНОВ