Эта статья содержит описания сексуального насилия над детьми и другихдействий, которые могут шокировать читателей.
Сара Кац, некогда модерировавшая материалы в сети «Фейсбук», рассказала, что после восьми месяцев работы ей захотелось обратиться за психологической помощью, пишет bbc
«Это была преимущественно порнография», — рассказывает Сара, вспоминая о своём труде.
В позапрошлом году девушка была в числе сотен модераторов, которые работали на агентство в Калифорнии, которому компания Facebook отдала на аутсорсинг услуги по модерации.
«Работодатель очень чётко предупреждал нас о контенте, с которым мы можем столкнуться, поэтому нельзя сказать, что нас не проинформировали», — делится впечатлениями Кац.
Её работа заключалась в проверке жалоб от пользователей «Фейсбука» на неприемлемый контент.
О своём опыте Сара рассказала в эфире BBC Live 5 с Эммой Барнетт. Ниже приведены избранные моменты из её интервью.
***
Изображения вне закона
«Нам давали примерно одну минуту на один пост, чтобы решить, спам ли это и следует ли его удалять. Иногда мы также могли удалить профиль, отправивший сообщение.
Руководство не требовало от нас работать больше восьми часов в день. За это время мы обрабатывали по 8 тыс. постов — это примерно тысяча публикаций в час.
Вы очень многому учитесь на работе, особенно в первый день. Если бы мне пришлось описать эту работу одним словом, то это было бы «напряженно». Вы должны быть готовы увидеть что-то шокирующее после одного клика мыши, без предупреждения.
Часть контента, с которым мне приходилось сталкиваться, составляла откровенная детская порнография. На одном из изображений было двое детей — мальчик примерно 12 лет и девочка около восьми лет от роду. Они стояли лицом к лицу, на них не было штанов, и они трогали друг друга.
Казалось, будто кто-то взрослый с камерой указывает им, что делать. Это выглядело очень пугающе, потому что происходило в реальности».
Посты повторяются снова и снова
«Многие из таких откровенных публикаций распространяются моментально. Мы наблюдали, как они появляются у примерно шести разных пользователей в день, и это очень осложняет поиск первоисточника.
В то время нам было не с кем поговорить об этом, получить психологическую помощь. Возможно, сейчас такая возможность есть, но я не уверена».
Сара говорит, что если бы ей предложили услуги психолога, то она скорее всего ими бы воспользовалась.
«Конечно, они нас предупреждали, но предупреждения и то, что ты реально видишь, — совершенно разные вещи.
Некоторые люди думают, что они могут справиться с этим, но на практике оказывается, что нет или что это хуже, чем они ожидали».
Безжалостное насилие
«Со временем вы теряете чувствительность. Я бы не сказала, что становится проще, но вы, безусловно, привыкаете.
Попадалось много порнографии со взрослыми людьми, добровольно вступающими в половой акт, и это не вызывало большой тревоги. Иногда встречалась и зоофилия. Был один пост с конём, который всё не удавалось удалить окончательно, поскольку его продолжали распространять.
Также встречалась масса изображений насилия. Например, фото убитой женщины. Ей стреляли в голову, и часть ее тела свешивалась со стула.
Правила модерации были более жёсткие по отношению к порнографии, чем к изображениям насилия.»
Фейковые новости
«Я думаю, фейковые новости застали «Фейсбук» врасплох. Накануне американских выборов им не уделялось особо много внимания, по крайней мере, когда я там работала.
Не могу вспомнить, чтобы мы когда-нибудь слышали на работе термин «фейковые новости».
«Мы видели много новостей, которые распространяли пользователи, но руководство никогда не просило нас просматривать новостные статьи, чтобы убедиться в точности всех фактов из тех публикаций.
Это была очень монотонная работа. Можно быстро привыкнуть различать, что спам, а что нет. Просто работа превращается в массу кликов.
Порекомендовала бы я свою тогдашнюю работу кому-нибудь? Если вам есть чем заняться, я бы сказала «нет».
***
Ответ отFacebook
Би-би-си поделилась рассказом Сары с самой компанией.
В ответ представитель Facebook заявил: «Наши модераторы играют важную роль в том, чтобы сделать соцсеть безопасной и открытой. Это очень сложная работа, и мы хотим быть уверены, что они чувствуют нашу поддержку».
«Это одна из причин, почему мы устраиваем регулярные тренинги, консультации и оказываем психологическую помощь всем нашим работникам и всем, кто работает на нас через наших партнеров», — говорилось в ответе.
«Хотя мы используем искусственный интеллект там, где можем, у нас также модерируют контент в соцсети более семи тысяч человек, и их благополучие действительно является нашим приоритетом», — добавили в пресс-службе компании.
А как «Вконтакте» справляется?
В самой популярной в России сети «ВКонтакте» нередко встречаются изображения порнографии и насилия.
Достаточно вбить в поиске по сообществам, например, «красивые девушки» или «красивые парни», и до откровенных фотографий вас будет отделять один клик. А в некоторых сообществах на похожие темы есть тысячи подписчиков.
Подобно своему заокеанскому конкуренту, соцсеть сталкивается с массовым копированием и перепостом изображений, что делает модерацию и удаление запретного контента крайне непростым делом.
Как замечают в пресс-службе VK.com, в российском интернет-гиганте также используют гибридный метод модерации.
«Первый этап — входящие жалобы пользователей. Время реакции команды модерации «ВКонтакте» не превышает одного часа, а обычно составляет несколько минут», — сообщила пресс-служба VK.com в ответ на запрос Би-би-си.
«Второй этап — внутренняя проактивная модерация. Модераторы запускают машинный поиск запрещённого правилами контента на всем сайте, который блокируется и делает невозможным загрузку копий в будущем», — описывают во «Вконтакте» процесс модерирования.
Что до психологической помощи сотрудникам, то она, согласно пресс-службе VK.com, предоставляется в соцпакете.
Подпишитесь на главное за день
Telegram-канал PRESS.LV — срочные новости и эксклюзивы.
Будьте первым, кто прокомментирует
Для участия в обсуждении нужен аккаунт PRESS.LV.