Соціальна автократія. Чому модератори компанії Meta настільки вимогливі до українських користувачів

Масові блокування українських екаунтів у Facebook, тіньові бани зірок у Instagram — тимчасові й більш тривалі — це проблеми, з якими зустрілись українські користувачі в останні тижні. Попри заявлені послаблення щодо “мови ненависті” на початку війни, модератори компанії Meta продовжують бути занадто вимогливими до україномовних користувачів. Існує версія, що причина такого прискіпливого ставлення до нас пов’язана з тим, що нібито контент українців модерують росіяни. Насправді ж подібні історії з українськими екаунтами є лише виявом глобальних проблем модерації Facebook. А ще дається взнаки залежність платформи від грошей рекламодавців, заради яких компанія вимушена видаляти будь-який “проблемний” контент: від оголених фото до “надто жорсткої” полеміки українців із російськими окупантами.

Україна під прицілом модераторів

В останні тижні багато українських відомих користувачів Facebook були заблоковані компанією на різний час. У деяких були видалені дописи, деяким заборонили публікувати щось на сторінках соцмережі. Такі блокування українців почастішали з початком російського вторгнення, проте в останні тижні ця проблема набула величезних масштабів. До списку жертв модераторів Facebook потрапили бізнесмени Гарік Корогодський (154 тис підписників), Євген Черняк (232 тис), Дмитро Дубілет (171 тис), Олег Гороховський (121 тис). І це лише у Facebook. Набагато частіше такі історії трапляються з користувачами Instagram — там у звичайному чи тіньовому бані побували чи не всі українські зірки.

Найбільш відомою історію щодо Instagram останнього часу стало блокування сторінки Асоціації родин захисників “Азовсталі”. Спочатку у її авторів забрали можливість розміщувати контент, потім сторінку взагалі видалили. Це відбулося 9 серпня. Проте менше як через дві доби профіль знову став доступний користувачам та підписникам.

Звичайний бан передбачає обмеження для власника екаунта публікувати контент (весь або певні його види). Тіньовий бан означає, що автор може робити публікації, а ось знайти його контент в пошуку чи побачити у себе в стрічці інші користувачі не можуть — система алгоритмів Instagram його просто приховує. Через це власники заблокованих сторінок часто просять своїх підписників “накидати реакцій” на дописи, щоб таким чином переконати модераторів, що екаунт “живий” і що в ньому зацікавлені люди.

Люди проти алгоритмів

Втім, було б не зовсім точно стверджувати, що до блокувань українських активістів не доклали руку росіяни. Загальні правила того, як працює система модерування Facebook, не є секретом. Відомо, що при великій кількості скарг на контент — на допис, коментар, фото чи відео, система модерування спрацьовує автоматично і блокує його. Такий підхід зрозумілий і виправданий. До прикладу, якщо хтось розмістить на платформах Meta відео вбивств чи знущань, то, зрозуміло, що користувачі почнуть скаржитися на такий допис. Велика кількість скарг означає, що контент дійсно є проблемним. І якщо число скарг активно збільшується, алгоритми Meta автоматично блокують його, а вже потім модератори зможуть передивитись вміст і зрозуміти, чи дійсно опубліковане варто прибрати з платформи.

Логіку в діях модераторів доволі часто використовують зловмисники у різних схемах. До прикладу, масові скарги на екаунт, його блокування та створення профілю-копії — це популярний спосіб зламу Instagram-сторінок з подальшою вимогою викупу.

Саме такі дії ще до війни використовували російські боти (напівавтоматичні акаунти, якими управляли співробітники компаній, схожих на всім відому російську фабрику тролів). Великою кількістю скарг вони запускали автоматичне спрацьовування системи модерації Meta у вигляді блокувань екаунтів.

Але не лише через скарги юзерів Meta блокує користувачів. Компанія давно розвиває систему автоматизованої модерації, заснованої на штучному інтелекті, який самонавчається. Вивчивши причини блокування людьми окремих дописів, штучний інтелект Meta може сам заблокувати окремі дописи зі схожими критеріями. До прикладу, якщо протягом місяця користувачі скаржилися на дописи зі словом “москаль” чи “русня”, а модератори підтверджували ці скарги і не знімали блокування з такого контенту, то штучний інтелект сформулює для себе правило, згідно з яким він теж обмежуватиме такі дописи в автоматичному режимі, ще до надходження скарг з боку інших користувачів.

На захист спільноти

Наприкінці липня міністр цифрової трансформації Михайло Федоров звернувся до віце-президента Facebook Ніка Клегга з приводу масових блокувань українських блогерів. У дописі в Telegram-каналі Мінцифри розповідається, що команда відомства час від часу звертається до Meta і допомагає розблоковувати контент українців, проте ці дії — виключно точкові і вони не вирішують проблему глобально.

Понад те, у міністерстві розуміють, що деякі блокування відбуваються через надмірну активність російських ботів — їх масові скарги на публікації. У листі до Ніка Клегга Федоров пропонує поділитися з українськими користувачами своїми списком правил з модерації нашого регіону. Окрім того, міністр готовий познайомити компанію з українськими лінгвістичними інститутами та організувати експертне обговорення того, що в компанії Meta вважається мовою ворожнечі.

Модерація Meta: неефективно і збитково

Модерація контенту соціальних платформ є необхідним злом для власників цих сервісів. Як тільки платформа для користувацького контенту стає популярною, вона починає вимагати модераторів, тобто людей, які слідкуватимуть за дотриманням правил спільнотою юзерів. Які в більшості не читають правила платформ.

Про систему модерування Цукерберг задумався після президентських виборів 2016 року, коли Facebook звинуватили у маніпулюванням вибором американців за допомогою російської фабрики тролів. “Російські тролі використовували Facebook саме так, як це було задумано. Вони встановлювали зв’язки з людьми по всьому світу і спілкувалися з ними в рамках спільних інтересів”, — розповідають Сесілія Канг і Шира Френкель, авторки книги “An Ugly Truth: Inside Facebook's Battle for Domination”. Після розслідування тієї історії в компанії почали працювати модератори. Проте система модерування була більш ніж недосконалою, а робота спеціалістів з контенту була виснажлива. До прикладу, журналісти The Guardian виявили, що на вирішення, що робити з конкретним дописом, модератори мусили витрачати не більше 10 секунд, зважаючи на колосальний обсяг роботи.

У 2020 році модератори щодня аналізували більше 3 млн дописів — і це після того, як штучний інтелект уже відреагував на окремий контент. Не меншою проблемою було і залишається модерування національних сегментів — у 2021 році стало відомо, що україномовні модератори виявилися одними з найменш оплачуваних в компанії. Але й на цю роботу компанії складно знайти людей. До прикладу, при вивченні ролі Facebook у геноциді рохіджа у М’янмі виявилося, що в компанії на той момент працювало лише 5 модераторів, які розуміли мову дописів жителів цієї країни — це на кількамільйонну аудиторію цього сегменту.

Коли на початку війни з Росією компанія Meta анонсувала послаблення правил щодо мови ненависті і заявила, що дозволятиме українцям бажати смерті російським солдатам, було зрозуміло, що таким оновленням правил платформа спрощує життя насправді не українцям, а власним модераторам, які б просто не справилися з обробкою великої кількості контенту з мовою ненависті до загарбника. Проте через декілька місяців ситуація змінилась і дописи українців, які ненавидять окупанта, перестали бути бажаними на платформі. Причина полягала не у впливі умовного російського офісу, який модерує українців, а у простому бажанні компанії заробляти.

Рекламодавці не люблять понівечені танки

Meta потрібно, щоб її користувачі дотримувалися так званих правил спільноти і не розміщували складний контент та не сварилися на платформі зовсім не тому, що компанія дбає про психічне здоров’я своєї аудиторії. Насправді проблема контенту тісно пов’язана із способом монетизації, який використовує Facebook, тобто з об’ємами розміщуваної реклами.

Рекламодавці зацікавлені у співпраці з соціальним сервісом, користувачі котрого почуваються комфортно, проводять багато часу з користю чи приємністю. Фотографії спалених танків чи прокляття загарбникам — це не той контент, поряд з яким вигідно розміщувати рекламу — навіть у країні, що воює. Саме тому у Meta існують так звані правила спільноти, в яких чітко прописано, що саме дозволяється, а що заборонено на платформі. Серед заборон немає прямої вимоги не розміщувати фото палаючого танку, але є, до прикладу, строгі вимоги щодо знімків мертвих людей. Саме цим вимогам не відповідали фотографії з Бучі на початку квітня, коли компанія просто заблокувала хештег, яким позначалися докази бучанської різні.

Так сталося, що Марк Цукерберг, який створював платформу для об’єднання та спілкування людей у всьому світі, винайшов найбільшу платформу для поширення контенту. Його задум не передбачав, що цю платформу використовуватимуть для того, щоб повідомити світ про воєнні злочини. Або для маніпулювання результатами майбутніх виборів. Коли Facebook стали використовувати “не за призначенням”, з’явилися модератори, правила спільноти і обурливі історії щодо видалення дописів та блокувань активістів.

Хай там як, проблеми Facebook щодо суперечливого контенту та спроби вберегти рекламодаців — не унікальні. У 2019 році деякі рекламодавці (HP, Deutsche Bank, BT и Sky, Mars, Lidl, згодом до них долучились Disney, Nestle, McDonald's) відмовились від YouTube як рекламної платформи через те, що компанія не змогла захиститись від секс-коментарів під дитячими відеороликами. Тоді ж стало відомо, що оголошення деяких рекламодавців розміщувалися у відео з екстремістським змістом, що ще більше зменшило кількість бажаючих купувати рекламу на YouTube. Схожі проблеми мав й Facebook. Внаслідок кампанії Stop Hate for Profit, спрямованої на бойкот соцмережі як платформи, що поширює мову ненависті, Facebook покинула майже сотня великих замовників.

Продукти Meta зараз знову переживають складні часи, в першу чергу, через втрату молодої аудиторії. Доля американських підлітків, що користуються Facebook, за останні сім років впала з 71% до 32%. Дітище Цукерберга поки тримається за рахунок Instagram, але й ця соцмережа лише третя в списку інтересів тінейджерів — після YouTube та TikTok.

Недосконала система модерування контенту, бажання заробляти на рекламі і гонитва за аудиторією — війна в Україні лише заважає Meta справлятися з цими її викликами. То ж проблеми з модеруванням українського контенту продовжуватимуться, не дивлячись на спроби захисту українців з боку міністра Федорова. В основі цих спроб лежить різне сприйняття Facebook / Instagram — як платформи для спілкування та заробітку для компанії Meta і як інструменту донесення правди про війну, часто незручної і непривабливої, для українців.

Проблема могла б бути вирішена появою альтернативної соціальної платформи, проте BigTech зробили все, щоб цього у найближчі роки не сталося. 

Надія БАЛОВСЯК