Эта статья содержит описания сексуального насилия над детьми и другихдействий, которые могут шокировать читателей.

Сара Кац, некогда модерировавшая материалы в сети «Фейсбук», рассказала, что после восьми месяцев работы ей захотелось обратиться за психологической помощью, пишет bbc

«Это была преимущественно порнография», — рассказывает Сара, вспоминая о своём труде.

В позапрошлом году девушка была в числе сотен модераторов, которые работали на агентство в Калифорнии, которому компания Facebook отдала на аутсорсинг услуги по модерации.

«Работодатель очень чётко предупреждал нас о контенте, с которым мы можем столкнуться, поэтому нельзя сказать, что нас не проинформировали», — делится впечатлениями Кац.

Её работа заключалась в проверке жалоб от пользователей «Фейсбука» на неприемлемый контент.

О своём опыте Сара рассказала в эфире BBC Live 5 с Эммой Барнетт. Ниже приведены избранные моменты из её интервью.

***

Изображения вне закона

«Нам давали примерно одну минуту на один пост, чтобы решить, спам ли это и следует ли его удалять. Иногда мы также могли удалить профиль, отправивший сообщение.

Руководство не требовало от нас работать больше восьми часов в день. За это время мы обрабатывали по 8 тыс. постов — это примерно тысяча публикаций в час.

Вы очень многому учитесь на работе, особенно в первый день. Если бы мне пришлось описать эту работу одним словом, то это было бы «напряженно». Вы должны быть готовы увидеть что-то шокирующее после одного клика мыши, без предупреждения.

Часть контента, с которым мне приходилось сталкиваться, составляла откровенная детская порнография. На одном из изображений было двое детей — мальчик примерно 12 лет и девочка около восьми лет от роду. Они стояли лицом к лицу, на них не было штанов, и они трогали друг друга.

Казалось, будто кто-то взрослый с камерой указывает им, что делать. Это выглядело очень пугающе, потому что происходило в реальности».

Посты повторяются снова и снова

«Многие из таких откровенных публикаций распространяются моментально. Мы наблюдали, как они появляются у примерно шести разных пользователей в день, и это очень осложняет поиск первоисточника.

В то время нам было не с кем поговорить об этом, получить психологическую помощь. Возможно, сейчас такая возможность есть, но я не уверена».

Сара говорит, что если бы ей предложили услуги психолога, то она скорее всего ими бы воспользовалась.

«Конечно, они нас предупреждали, но предупреждения и то, что ты реально видишь, — совершенно разные вещи.

Некоторые люди думают, что они могут справиться с этим, но на практике оказывается, что нет или что это хуже, чем они ожидали».

Безжалостное насилие

«Со временем вы теряете чувствительность. Я бы не сказала, что становится проще, но вы, безусловно, привыкаете.

Попадалось много порнографии со взрослыми людьми, добровольно вступающими в половой акт, и это не вызывало большой тревоги. Иногда встречалась и зоофилия. Был один пост с конём, который всё не удавалось удалить окончательно, поскольку его продолжали распространять.

Также встречалась масса изображений насилия. Например, фото убитой женщины. Ей стреляли в голову, и часть ее тела свешивалась со стула.

Правила модерации были более жёсткие по отношению к порнографии, чем к изображениям насилия.»

Фейковые новости

«Я думаю, фейковые новости застали «Фейсбук» врасплох. Накануне американских выборов им не уделялось особо много внимания, по крайней мере, когда я там работала.

Не могу вспомнить, чтобы мы когда-нибудь слышали на работе термин «фейковые новости».

«Мы видели много новостей, которые распространяли пользователи, но руководство никогда не просило нас просматривать новостные статьи, чтобы убедиться в точности всех фактов из тех публикаций.

Это была очень монотонная работа. Можно быстро привыкнуть различать, что спам, а что нет. Просто работа превращается в массу кликов.

Порекомендовала бы я свою тогдашнюю работу кому-нибудь? Если вам есть чем заняться, я бы сказала «нет».

***

Ответ отFacebook

Би-би-си поделилась рассказом Сары с самой компанией.

В ответ представитель Facebook заявил: «Наши модераторы играют важную роль в том, чтобы сделать соцсеть безопасной и открытой. Это очень сложная работа, и мы хотим быть уверены, что они чувствуют нашу поддержку».

«Это одна из причин, почему мы устраиваем регулярные тренинги, консультации и оказываем психологическую помощь всем нашим работникам и всем, кто работает на нас через наших партнеров», — говорилось в ответе.

«Хотя мы используем искусственный интеллект там, где можем, у нас также модерируют контент в соцсети более семи тысяч человек, и их благополучие действительно является нашим приоритетом», — добавили в пресс-службе компании.

А как «Вконтакте» справляется?

В самой популярной в России сети «ВКонтакте» нередко встречаются изображения порнографии и насилия.

Достаточно вбить в поиске по сообществам, например, «красивые девушки» или «красивые парни», и до откровенных фотографий вас будет отделять один клик. А в некоторых сообществах на похожие темы есть тысячи подписчиков.

Подобно своему заокеанскому конкуренту, соцсеть сталкивается с массовым копированием и перепостом изображений, что делает модерацию и удаление запретного контента крайне непростым делом.

Как замечают в пресс-службе VK.com, в российском интернет-гиганте также используют гибридный метод модерации.

«Первый этап — входящие жалобы пользователей. Время реакции команды модерации «ВКонтакте» не превышает одного часа, а обычно составляет несколько минут», — сообщила пресс-служба VK.com в ответ на запрос Би-би-си.

«Второй этап — внутренняя проактивная модерация. Модераторы запускают машинный поиск запрещённого правилами контента на всем сайте, который блокируется и делает невозможным загрузку копий в будущем», — описывают во «Вконтакте» процесс модерирования.

Что до психологической помощи сотрудникам, то она, согласно пресс-службе VK.com, предоставляется в соцпакете.

Как я была модератором Фейсбука: через восемь месяцев пришлось идти к психологу