Как я была модератором Фейсбука: через восемь месяцев пришлось идти к психологу

Эта статья содержит описания сексуального насилия над детьми и другихдействий, которые могут шокировать читателей.

Сара Кац, некогда модерировавшая материалы в сети "Фейсбук", рассказала, что после восьми месяцев работы ей захотелось обратиться за психологической помощью, пишет bbc

"Это была преимущественно порнография", - рассказывает Сара, вспоминая о своём труде.

В позапрошлом году девушка была в числе сотен модераторов, которые работали на агентство в Калифорнии, которому компания Facebook отдала на аутсорсинг услуги по модерации.

"Работодатель очень чётко предупреждал нас о контенте, с которым мы можем столкнуться, поэтому нельзя сказать, что нас не проинформировали", - делится впечатлениями Кац.

Её работа заключалась в проверке жалоб от пользователей "Фейсбука" на неприемлемый контент.

О своём опыте Сара рассказала в эфире BBC Live 5 с Эммой Барнетт. Ниже приведены избранные моменты из её интервью.

***

Изображения вне закона

"Нам давали примерно одну минуту на один пост, чтобы решить, спам ли это и следует ли его удалять. Иногда мы также могли удалить профиль, отправивший сообщение.

Руководство не требовало от нас работать больше восьми часов в день. За это время мы обрабатывали по 8 тыс. постов - это примерно тысяча публикаций в час.

Вы очень многому учитесь на работе, особенно в первый день. Если бы мне пришлось описать эту работу одним словом, то это было бы "напряженно". Вы должны быть готовы увидеть что-то шокирующее после одного клика мыши, без предупреждения.

Часть контента, с которым мне приходилось сталкиваться, составляла откровенная детская порнография. На одном из изображений было двое детей - мальчик примерно 12 лет и девочка около восьми лет от роду. Они стояли лицом к лицу, на них не было штанов, и они трогали друг друга.

Казалось, будто кто-то взрослый с камерой указывает им, что делать. Это выглядело очень пугающе, потому что происходило в реальности".

Посты повторяются снова и снова

"Многие из таких откровенных публикаций распространяются моментально. Мы наблюдали, как они появляются у примерно шести разных пользователей в день, и это очень осложняет поиск первоисточника.

В то время нам было не с кем поговорить об этом, получить психологическую помощь. Возможно, сейчас такая возможность есть, но я не уверена".

Сара говорит, что если бы ей предложили услуги психолога, то она скорее всего ими бы воспользовалась.

"Конечно, они нас предупреждали, но предупреждения и то, что ты реально видишь, - совершенно разные вещи.

Некоторые люди думают, что они могут справиться с этим, но на практике оказывается, что нет или что это хуже, чем они ожидали".

Безжалостное насилие

"Со временем вы теряете чувствительность. Я бы не сказала, что становится проще, но вы, безусловно, привыкаете.

Попадалось много порнографии со взрослыми людьми, добровольно вступающими в половой акт, и это не вызывало большой тревоги. Иногда встречалась и зоофилия. Был один пост с конём, который всё не удавалось удалить окончательно, поскольку его продолжали распространять.

Также встречалась масса изображений насилия. Например, фото убитой женщины. Ей стреляли в голову, и часть ее тела свешивалась со стула.

Правила модерации были более жёсткие по отношению к порнографии, чем к изображениям насилия."

Фейковые новости

"Я думаю, фейковые новости застали "Фейсбук" врасплох. Накануне американских выборов им не уделялось особо много внимания, по крайней мере, когда я там работала.

Не могу вспомнить, чтобы мы когда-нибудь слышали на работе термин "фейковые новости".

"Мы видели много новостей, которые распространяли пользователи, но руководство никогда не просило нас просматривать новостные статьи, чтобы убедиться в точности всех фактов из тех публикаций.

Это была очень монотонная работа. Можно быстро привыкнуть различать, что спам, а что нет. Просто работа превращается в массу кликов.

Порекомендовала бы я свою тогдашнюю работу кому-нибудь? Если вам есть чем заняться, я бы сказала "нет".

***

Ответ отFacebook

Би-би-си поделилась рассказом Сары с самой компанией.

В ответ представитель Facebook заявил: "Наши модераторы играют важную роль в том, чтобы сделать соцсеть безопасной и открытой. Это очень сложная работа, и мы хотим быть уверены, что они чувствуют нашу поддержку".

"Это одна из причин, почему мы устраиваем регулярные тренинги, консультации и оказываем психологическую помощь всем нашим работникам и всем, кто работает на нас через наших партнеров", - говорилось в ответе.

"Хотя мы используем искусственный интеллект там, где можем, у нас также модерируют контент в соцсети более семи тысяч человек, и их благополучие действительно является нашим приоритетом", - добавили в пресс-службе компании.

А как "Вконтакте" справляется?

В самой популярной в России сети "ВКонтакте" нередко встречаются изображения порнографии и насилия.

Достаточно вбить в поиске по сообществам, например, "красивые девушки" или "красивые парни", и до откровенных фотографий вас будет отделять один клик. А в некоторых сообществах на похожие темы есть тысячи подписчиков.

Подобно своему заокеанскому конкуренту, соцсеть сталкивается с массовым копированием и перепостом изображений, что делает модерацию и удаление запретного контента крайне непростым делом.

Как замечают в пресс-службе VK.com, в российском интернет-гиганте также используют гибридный метод модерации.

"Первый этап - входящие жалобы пользователей. Время реакции команды модерации "ВКонтакте" не превышает одного часа, а обычно составляет несколько минут", - сообщила пресс-служба VK.com в ответ на запрос Би-би-си.

"Второй этап - внутренняя проактивная модерация. Модераторы запускают машинный поиск запрещённого правилами контента на всем сайте, который блокируется и делает невозможным загрузку копий в будущем", - описывают во "Вконтакте" процесс модерирования.

Что до психологической помощи сотрудникам, то она, согласно пресс-службе VK.com, предоставляется в соцпакете.