Эра надзорного капитализма — ключевые идеи книги Шошаны Зубофф

В последние десятилетия все большую силу набирает цифровой капитализм, который ассоциируется в первую очередь с Google, Apple, Amazon, Microsoft и Facebook. Воспользовавшись доверием пользователей, эти компании, анализируя большие массивы данных, следят за нами, проникая во все сферы жизни, как личной, так и общественной.

Они эксплуатируют человеческие стремления и эмоции, отслеживают наши вкусы, поведение, предпочтения с помощью алгоритмов. Доступ к этим данным могут получить любые желающие, от производителей товаров до политических деятелей.

Механизмы цифровой экономики настроены на тонкое, практически незаметное влияние, которое, тем не менее, способно нас поработить. На заре цифровой эры высокие технологии казались обещанием прекрасного будущего. Но сегодня, по мнению Шошаны Зубофф, мы видим, что эти представления оказались утопией: на сцену выходит ненасытный капитализм слежки.

Рассмотрим главные идеи книги “Эра надзорного капитализма”.

Надзорный капитализм превращает в данные все стороны человеческой жизни и монетизирует их

Что представляет собой надзорный (шпионящий) капитализм? Он жаждет заполучить человеческий опыт, все стороны человеческой жизни в качестве сырья для перевода в поведенческие данные. Некоторые из них действительно используются для улучшения продукта или услуги, но все они используются в работе алгоритмов, которые превращают их в инструмент прогнозирования поведения.

С помощью массива данных алгоритм может просчитать, что человек будет делать сейчас, вскоре и в более далеком будущем. Он составляет прогнозы поведения, которые очень востребованы на недавно образовавшемся рынке. Следящие за нами компании новой формации чрезвычайно обогатились благодаря этим продажам, которые позволяют многим компаниям уверенно прогнозировать спрос на свою продукцию.

В качестве данных используется все, чем мы готовы поделиться в цифровом мире: наши мнения, предпочтения, события, эмоции, вкусы — все, что составляет нашу жизнь. И это еще не все: алгоритмы не только просчитывают наше поведение, но и умеют его формировать. Таким образом, не мы управляем автоматизированными потоками, а они начинают управлять нами.

На заре своего существования Google использовала поведенческие данные пользователей, чтобы улучшить поисковую систему. Но со временем, особенно после краха доткомов, когда молодые руководители Google Пейдж и Брин опасались за свое будущее, они нашли другое применение для массива данных пользователей.

Они превратились в актив, сырье для прогнозирования, которое продавалось рекламодателям, обеспечивая создателям Google доходы от слежения. Вдохновившись идеями экономиста Хэла Вэриана, “гуглеры” изучали запросы пользователей и их поведение. Затем эти данные продавались по высокой цене.

В 2008 году Шерил Сэндберг, бывший исполнительный директор Google, перешла на работу в Facebook, ознакомив его руководителя с методами работы своих прежних работодателей. Они пришлись по душе Цукербергу, располагавшему огромным массивом пользовательских данных. Позднее на те же методы перешли Amazon и Microsoft. Именно на этих китах и покоится капитализм слежки.

Возникновению надзорного капитализма предшествовали два исторических этапа

Автор называет эти этапы первой и второй современностью (modernity). Первая современность зародилась в начале ХХ века и была основана на подавлении индивидуальности, когда человек не мог позволить себе роскошь жить так, как ему нравится и хочется, и вынужден был приспосабливаться к большинству.

У второй современности были свои недостатки: постепенно богатство и власть стали сосредотачиваться в руках немногих, оставляя других довольствоваться остатками. К этому привели неолиберальные экономические модели свободного рынка, который должен сам все отрегулировать.

Сокращалось количество государственных предприятий, росли частные компании, зародился культ частного предпринимателя — дерзкого, хитрого и богатого. Общество США и Европы при этом становилось все более разделенным из-за экономического и социального неравенства.

В XXI веке на наших глазах формируется третья современность — слияние капитализма и цифровых технологий. На первых порах казалось, что Google и Facebook будут облегчать жизнь людей, давая им доступ к информации, позволяя найти то, что они хотели, познакомиться с новыми людьми.

Apple, давая доступ к музыкальным каналам, предлагал пользователям доверительные отношения, удовлетворяя их вкусы и потребности. Люди привыкали к этой новой цифровой реальности и все больше зависели от нее. Они бежали от реальности в мнимую виртуальную свободу, но не попали ли они в еще худшее рабство?

Данные пользователей — это их собственность, но надзорный капитализм отбирает ее с помощью целого цикла действий.

У цикла 4 стадии: вторжение, формирование привыкания, адаптация и перенаправление.

На первом этапе происходит вторжение в незащищенное пространство: телефон, ноутбук, страницу в Интернете, электронную почту, социальные сети, а вместе со всем этим — вторжение в ваши чувства и мысли.

После окончания первого этапа наступает второй: противник игнорируется, подавляется или соблазняется. Это происходит, когда против Google пытаются действовать общественные или антимонопольные организации. Компания может предложить доступ к данным, или эксклюзивной информации, или другие соблазны.

При подавлении Google изматывает противника, ускользая и вывертываясь, заставляя его напрасно тратить время и силы. На компанию заведено много дел по всему миру, которые инициированы и группами лиц, и отдельными людьми, но пока Google успешно сопротивляется.

Протесты юристов и общества вызывают сбор личной информации с помощью Wi-Fi и камер Street View, контроль голосовой связи, пренебрежение к конфиденциальности, манипулирование поисковой системой, хранение пользовательских запросов, отслеживание геолокации смартфонов, камеры с распознаванием лиц и тому подобное во всех сервисах и устройствах Google.

Постепенно в обществе начинает развиваться привыкание к действиям Google, благо у людей перед глазами много примеров ухода компании от ответственности. Слишком многие заинтересованы в доступе к данным, и оказывают ему негласную поддержку.

Люди начинают относиться к ее деятельности как к чему-то само собой разумеющемуся, смиряясь с неизбежным и находясь в растерянности. Пиратская деятельность цифровых гигантов становится частью реальности, и в условиях нарастающего равнодушия общества довольно трудно действовать сторонникам конфиденциальности.

На третьей стадии цикла руководители Google производят отвлекающие косметические изменения в своей работе, чтобы от них отстали проверяющие органы, и не возмущалось общественное мнение.

На четвертой стадии они так перенаправляют сбор данных, что он кажется вполне законным. Но сбор и продажа никогда не останавливаются.

Данные собирают не только интернет-гиганты, но и телекоммуникационные и кабельные компании, предоставляющие услуги людям и домохозяйствам. По сбору данных им не перегнать Facebook или Google, но они действуют в той же манере — полное пренебрежение к конфиденциальности.

Некоторые компании предоставляют услуги видеонаблюдения. Есть приложения, которые определяют кредитоспособность человека на основе его смартфона и поведения в Интернете. Они анализируют тексты, написанные пользователем, электронную почту, GPS-координаты, сообщения в аккаунте Facebook, розничные покупки и прочее.

Подобные приложения позволяют отслеживать частоту зарядки аккумулятора телефона, количество входящих сообщений, ответы на телефонные звонки, количество контактов в телефоне и расстояние, на которое перемещается владелец смартфона. Эти поведенческие данные превращаются в модели поведения, оценивающие кредитоспособность человека при помощи алгоритма, который благодаря все новым и новым данным постоянно совершенствуется.

Другие компании осуществляют глубокую проверку потенциальных сотрудников работодателям или арендодателям, если человек хочет снять жилье или офис. Арендодатель просит его предоставить доступ ко всем аккаунтам в социальных сетях. Затем специальная программа обрабатывает все содержимое аккаунта и выдает полный аналитический отчет о личности человека, финансовых возможностях, статусе, физическом состоянии, например, о беременности.

Сегодня интернет-гиганты, мобильные операторы и компании, специализирующиеся на интернете вещей, не только собирают данные пользователей, но и пытаются влиять на них. Они встраивают в страницы шпионские программы, выявляют с помощью алгоритмов наши привычки, улавливают наши эмоции, чтобы превратить всю нашу жизнь в бесплатное сырье, которое потом с выгодой продадут.

Facebook многими воспринимается как убежище, место, где можно общаться с друзьями и единомышленниками, рассказывать о своей жизни, вкусах и предпочтениях. Но он устроен намного сложнее. Это огромный источник предсказательного поведенческого избытка.

Все стороны личности, которые отражены в аккаунтах, можно преобразить в измеримое поведение. Машинный интеллект превращает эти данные в продукты прогнозирования. С такими возможностями можно адаптировать рекламу к личности пользователя и представлять информацию таким образом, чтобы человек был наиболее к ней восприимчив.

Пользователи Facebook в большинстве своем не знают, насколько уязвимыми они становятся, сообщая в социальной сети информацию о себе.

Один из способов воздействия — это настройка. Она способна включать подсознательные сигналы для формирования нужного поведения в нужном месте и в нужное время. Один из видов настройки — подталкивание, когда поведение людей изменяется предсказуемым образом. Например, в классе все места учеников обращены к учителю — это сигнал, что все внимание должно быть сосредоточено на нем.

Менеджер кафетерия ставит на видное место главное блюдо или выделяет его в меню более крупным шрифтом, чтобы подтолкнуть посетителей его попробовать. В сети используется цифровое подталкивание в коммерческих целях, которое незаметно воздействует на людей, навязывая им определенное поведение.

Подсознательное воздействие определенного эмоционального контента в сети может заставить людей изменить свое поведение, реагируя на этот контент. Чем больше человек склонен к эмпатии, тем восприимчивее он к эффекту заражения эмоциями — об этом хорошо знают и психологи, и команда Facebook. Эмпатия ориентирует людей на других, заставляя разделять их переживания.

В США законы Конгресса защищают шпионящий капитализм, вместо того чтобы ограничить его влияние. Раздел 230 Закона о коммуникациях 1996 года охраняет права не пользователей, а владельцев сайтов от судебных исков и государственного преследования за пользовательский контент. Пользователь или поставщик интерактивных услуг не рассматривается как издатель, это скорее посредник между источником информации и тем, кто в этой информации нуждается.

Поэтому компании надзорного капитализма не отвечают за последствия своей деятельности. Например, сайт TripAdvisor свободно включает негативные отзывы об отелях, и он не обязан проверять, соответствуют ли они действительности. Интернет-компании рассматриваются как “саморегулируемые” и никому не подотчетные.

В Европе дело обстоит по-другому. В 2011 году в испанское Агентство по защите данных обратилось 90 человек, протестующих против нарушения конфиденциальности. У каждого из этих людей были свои причины. Одна женщина скрывалась от терроризировавшего ее бывшего мужа, боясь, что он найдет ее адрес в Интернете. Другая боялась, что работодатель узнает о том, что в студенческие годы она была арестована за незначительное нарушение. Адвокат пострадал от того, что в Интернет попали данные о том, что он потерял право на выкуп своего дома.

Он давно решил эту проблему, но запрос Google продолжал выдавать ссылки на устаревшую информацию, что вредило его репутации. Испанское агентство по защите данных решило, что Google несет ответственность за то, что делает доступными личные данные без спроса, не заботясь о том, насколько актуальна информация в момент обращения. Оно пришло к выводу, что Google должна удалить ссылки.

У каждого человека есть право на забвение, как всей его жизни в целом, так и ее отдельных эпизодов.

И сейчас, и в будущем отдельные люди и демократические общества могут бороться за свои права против частной власти, чтобы защитить права человека в цифровую эпоху.

Если мы хотим свободно существовать в цифровом будущем, мы должны за это бороться, сделав его безопасным.

Главное достоинство книги Шошаны Зубофф “Эра надзорного капитализма” в том, что она говорит о вещах, о которых мы предпочитаем не задумываться, а чаще всего просто не замечаем.

Вдали от наших глаз кипит бурная, но практически незаметная деятельность, укрепляя и совершенствуя шпионящий капитализм.