По ряду причин соцсеть "Фейсбук" оказалась неспособной быстро удалять разжигающие ненависть посты на бирманском языке.

Теперь международные организации напрямую обвиняют ее в разжигании ненависти к мусульманам-рохинджа, что впоследствии привело к их изгнанию из Мьянмы.

"Боюсь, что "Фейсбук" теперь превратился в чудовище, хоть изначально компания совсем этого не хотела", - заметил специальный докладчик ООН по правам человека в Мьянме Янги Ли.

Компания Facebook признает неудачи и перешла к решению проблем. Но как ее мечта о том, чтобы построить более открытое и единое общество, провалилась в одной конкретной южноазиатской стране?

...И пришёл "Фейсбук"

"Сейчас все пользуются интернетом", - говорит Тет Свей Вин, директор организации Synergy, целью работы которой является гармонизация отношений между различными этническими группами в Мьянме.

Еще пять лет назад в стране все было иначе.

Внешнее влияние было сведено к минимуму в течение более чем 20 лет, пока у власти находились военные.

Когда в прошлом опальная правозащитница Аун Сан Су Чжи стала де-факто лидером Мьянмы, в стране многое изменилось: правительство начало либерализацию бизнеса, в том числе - сектора телекоммуникаций.

По словам Элизабет Марнс из благотворительного фонда при Би-би-си, перемены удивили своей скоростью.

"SIM-карта стоила около 200 долларов, - говорит Марнс. - Когда в 2013 году власти открыли рынок для международных телекоммуникационных компаний, SIM-карты упали в цене до 2 долларов. Все стало невероятно доступным".

Правообладатель иллюстрации

GETTY IMAGES

После того, как люди стали массово покупать недорогие телефоны и дешевые симки, бирманцам резко понадобилось одно приложение - "Фейсбук".

Почему? Дело в том, что Google и некоторые другие крупные интернет-порталы не поддерживали бирманский алфавит, а у "Фейсбука" с этим проблем с самого начала не было.

"Покупая смартфоны с доступом в интернет, бирманцы выходят из салонов связи уже с фейсбучным приложением в телефоне", - отмечает Марнс.

Как говорит Тет Свей Вин, у не привыкших к цифровым технологиям жителей страны не было иммунитета к дезинформации и навыков безопасного пользования интернетом.

Межэтнические столкновения

Из 50 млн населения около 18 млн бирманцев являются постоянными пользователями "Фейсбука".

Но эта соцсеть и телекоммуникационные компании, которые открыли гражданам Мьянмы окно в мир, не учитывали сложную межэтническую и межконфессиональную обстановку в стране - по крайней мере, на первых порах.

Например, мусульмане-рохинджа не имеют бирманского гражданства, и многие представители буддийского правящего класса намеренно называют их бенгальцами.

Прошлогодняя военная операция в северо-западном штате Ракхайн, по словам правительства, была направлена на борьбу с боевиками.

Это привело к тому, что более 700 тысяч человек бежали в соседнюю Бангладеш: согласно ООН, это самый быстрорастущий кризис в мире.

В докладе ООН сказано, что генералитет бирманской армии должен быть привлечен к ответственности за преступления против человечности в Ракхайне. Но правительство Мьянмы отвергает все обвинения.

"Facebook как оружие"

Сочетание этнической напряженности и быстро развивающихся социальных сетей оказалось взрывным.

Тет Свей Вин пришел в ужас от постов, в которых он видел призывы к насилию над рохинджа.

Правообладатель иллюстрации

REUTERS

В августе расследование Рейтер нашло более тысячи бирманских постов, комментариев и даже порнороликов, пронизанных ненавистью к рохинджа.

"Честно говоря, я думал, мы найдём не более пары сотен картинок", - говорит репортер Рейтер Стив Стеклоу, который работал над этой темой с бирманскими коллегами.

По словам Стеклоу, некоторые из материалов были чрезвычайно жестокими, и он даже спрашивал у других журналистов, не хотят ли они прервать работу над материалом.

"Когда я отправил материал в компанию Facebook, я написал предупреждение по электронной почте, что это очень тревожные вещи, которые следовало бы удалить", - говорит журналист.

В некоторых из собранных Рейтер постах о рохинджа говорилось как о собаках и свиньях.

"Это дегуманизация людей, - приходит в ужас Стеклоу. - Это путь к геноциду, некоторые из комментаторов мусульман за людей не держат".

Нехватка персонала

Все примеры, собранные агентством Рейтер, явно противоречат правилам соцсети "Фейсбук".

Все эти сообщения были удалены после расследования, хотя Би-би-си с тех пор удалось обнаружить другой подобный контент.

Так почему же в социальной сети не сразу поняли, что она используется для разжигания вражды?

Одна из причин, по мнению Марнса, Стеклоу и других, заключалась в том, что компания испытывала трудности с толкованием определенных слов.

Правообладатель иллюстрации

REUTERS

Например, одно конкретное расистское оскорбление - "калар" - может быть весьма уничижительным термином, используемым в отношении мусульман, или же иметь другое, невинное значение.

В 2017 году корпорация внесла этот термин в список обсценной лексики, подлежащей удалению, но позже отозвала запрет из-за двойного значения слова.

Были также проблемы с программным обеспечением: многим пользователям мобильных телефонов в Мьянме непросто было отправить в компанию жалобу на оскорбительный контент.

Но была и гораздо более фундаментальная проблема - отсутствие модераторов, знающих бирманский язык.

Согласно Рейтеру, в 2014 году у компании был только один такой сотрудник, через год их стало четыре.

В настоящее время у компания уже 60 модераторов, а к концу этого года их число должно увеличиться до 100.

Тревожные звонки

После резкого роста бирманского сегмента "Фейсбука" компания получила несколько предупреждений от пользователей о том, что платформа используется для разжигания ненависти к рохинджа.

В 2013 году австралийский режиссер и автор документальных фильмов Эла Кэллан подняла вопрос на встрече с топ-менеджером Facebook.

В следующем году докторант Мэтт Шисслер также общался с сотрудниками компании, в результате чего некоторые посты были удалены.

А в 2015 году предприниматель Дэвид Мэдден отправился в штаб-квартиру Facebook в Калифорнии, чтобы рассказать руководству о разжигании ненависти в Мьянме.

"Их предупреждали много раз, - сказал Мэдден в беседе с Рейтер. - Это звучало яснее некуда, но они не предприняли необходимых шагов".

Удаление аккаунтов

Facebook не ответил на запросы Би-би-си, но с прошлого года компания предприняла некоторые меры.

В августе соцсеть удалила 18 учетных записей бирманских чиновников. Также была закрыта одна учетная запись в "Инстаграме".

Компания тогда сообщила об обнаружении доказательств того, что многие из этих лиц и организаций совершили серьезные нарушения прав человека в стране или потворствовали им.

Правообладатель иллюстрации

FACEBOOK SCREENGRAB

На заблокированные страницы в общей сложности были подписаны почти 12 миллионов человек.

В январе был удален аккаунт радикального буддистского монаха-исламофоба Ашина Вирату.

"Слишком медленно"

Руководство компании Facebook признало, что в бирманском секторе соцсеть слишком медленно предотвращала дезинформацию и ненависть.

Тема разжигания ненависти на платформе снова стала актуальной в начале сентября, когда главный исполнительный директор корпорации Шерил Сандберг предстала перед сенатом США.

Правообладатель иллюстрации

DREW ANGERER

"Ненависть противоречит нашей политике, и мы принимаем решительные меры для ее устранения. Мы очень заботимся о гражданских правах", - утверждала она.

Когда в апреле перед конгрессом выступал основатель компании Facebook Марк Цукерберг, его спросили о событиях в Мьянме.

Он ответил, что помимо найма большего количества бирманских модераторов компания также работает с местными интернет-активистами для определения "конкретных показателей борьбы с ненавистью" на будущее.

Элизабет Марнс, считает, что, хотя "Фейсбук" в Мьянме сейчас находится под пристальным вниманием общественности, это лишь часть гораздо более широкой проблемы.

"Мы живём в мире, в котором контент в социальных сетях напрямую влияет на реальную жизнь людей. Это влияет на то, как люди голосуют. Это влияет на то, как люди ведут себя по отношению друг к другу, и это может порождать насилие и конфликты", - говорит она.

"Международное сообщество сейчас понимает, что необходимо просчитывать последствия применения технологий и понимать, что и как происходит в социальных сетях в разных странах", - резюмировала Марнс.