Модераторы соцсетей. Как сохранить психику в работе с жутким контентом

  • 16 октября 2018
Офис модераторов в Эссене, Германия Правообладатель иллюстрации Facebook
Image caption Офис модераторов в Эссене, Германия

"Уволившись, я три года никому не пожимала рук. Я увидела, на что способны люди и насколько они отвратительны. Я не хотела ни к кому прикасаться. Люди вызывали у меня отвращение".

Роуз Боуден рассказывает о своем опыте работы модератором контента в MySpace, где она должна была просматривать худшее, что было в этой соцсети, - чтобы всего этого не увидели остальные.

Ее бывшая профессия стала еще важнее теперь, когда соцсети стали чрезвычайно влиятельными, а пользовательский контент заполонил интернет.

В "Фейсбуке" работают 7,5 тыс. модераторов - круглосуточно, по всему миру. Они вынуждены просматривать фото и видео с детским порно, зоофилией, обезглавливаниями, пытками, изнасилованиями и убийствами.

Селена Скола, одна из таких модераторов, сейчас судится с соцсетью из-за психологической травмы, нанесенной ей просмотром тысяч часов шокирующего контента.

Скола утверждает, что Facebook и его подрядчик Pro Unlimited не смогли обеспечить ее психологическую безопасность.

По ее словам, сейчас она страдает от посттравматического стрессового расстройства из-за всего, что ей пришлось увидеть в сети.

Ее дело, вероятно, прольет некоторый свет на скрытый для наших глаз мир модерации контента и поставит вопрос о том, должны ли люди вообще заниматься такой работой.

Сара Робертс, доцент из Университета Калифорнии, изучала модерацию контента восемь лет. Она считает, что такая профессия - прямой путь к психическим расстройствам.

"Нет публичных исследований долгосрочных последствий этой работы, - говорит Сара Робертс. - Количество людей, работающих в этой сфере, растет в геометрической прогрессии, и нам уже пора начать беспокоиться".

"Нет никакого долгосрочного плана поддержки этих людей после увольнения. Ожидается, что они просто вернутся к нормальной жизни", - добавляет она.

"Только с цифрами"

Роуз Боуден работала в финансовой компании, пока в 2005 году не устроилась в MySpace. Уже в 2008 году она с радостью вернулась в свою прежнюю профессию, потому что работать в соцсети стало невозможно.

"Теперь я работаю только с цифрами", - рассказала она на конференции в прошлом году.

Но Роуз хочет знать, что случилось с командой модераторов, которых она тренировала на своей предыдущей работе.

"Что случилось со всеми этими людьми, которые по ночам смотрели видео отрубания голов? Важно это знать",- говорит она.

Когда Роуз начинала работать в ночные смены в MySpace, почти не было инструкций о том, как модерировать соцсеть.

"Мы сами придумывали правила. Смотрели порно и думали: бикини на тонких бретельках - это обнаженка? А сколько секса - слишком много для MySpace? Изобретали правила по ходу работы", - вспоминает она.

"Должны ли мы разрешать видео, где кто-то кому-то отрезает голову? Нет, а если это мультфильм? Если это "Том и Джерри"?"

Сотрудникам не предлагали никакой эмоциональной поддержки, и она всегда говорила своей команде: "Это нормально - выйти, прогуляться. Можно и поплакать. Главное, чтоб вас не стошнило прямо на рабочем месте".

И когда дело доходило до просмотра контента, ее совет коллегам был: "Просто закройте на это глаза и тогда вы сможете все это как бы не видеть".

Психологическая помощь

Компания Facebook в прошлом году в своем блоге написала о своих модераторах контента как о непризнанных героях, которые сохраняют соцсеть безопасной для нас всех.

Компания признала, что эта работа - не для всех и что нанимают на нее только тех, кто сможет справиться с "неизбежными вызовами профессии".

Но несмотря на обещания позаботиться об этих людях, Facebook отдает эту работу внешним подрядчикам.

Профессор Робертс считает, что такая практика - способ снять с себя ответственность.

"В IT-индустрии работу часто передают подрядчикам. Это снижает издержки, но и допускает определенную организационную дистанцию, когда такие случаи, как со Скола, неизбежны", - говорит он.

Правообладатель иллюстрации Getty Images
Image caption Чем больше люди делятся онлайн-контентом, тем важнее его квалифицированная модерация

Facebook проверяет кандидатов в модераторы на психологическую устойчивость еще на этапе отбора. Все они проходят минимум 80 часов работы под руководством инструктора в симуляции системы, прежде чем им дадут работать с реальной соцсетью.

Компания наняла четверых клинических психологов, и у всех модераторов контента есть к ним доступ.

Питер Фридман руководит компанией LiveWorld, которая уже 20 лет предоставляет услуги модерации контента таким гигантам как AOL, eBay и Apple.

По его словам, сотрудники крайне редко пользуются психологической помощью. Профессор Робертс не удивлена.

"Если условие работы - умение справляться со стрессом, они не хотят, чтобы наниматель думал, что они на это неспособны, - говорит профессор Робертс. - Сотрудники опасаются, что на них тут же навесят ярлык, если они воспользуются этими услугами".

Правообладатель иллюстрации Getty Images

У LiveWorld сейчас за плечами уже больше миллиона часов модерации контента, и Фридман может дать несколько советов.

  • Важно, какая в компании культура вокруг модератора. Они должны чувствовать уверенность в себе. Если давать стажерам изображения с насилием над детьми, это может испортить атмосферу во всей компании.
  • В компании должна быть спокойная атмосфера, а не как в колл-центре. Модераторы должны чувствовать нашу круглосуточную поддержку.
  • Смены должны быть относительно короткими. Для самого отвратительного контента - от 30 минут до 3,5 часов.
  • Работа может не подойти религиозным или слишком консервативным людям, которым сложнее иметь дело с таким контентом.
  • Идеальный кандидат - тот, кто уже принимает соцсети со всеми их плюсами и минусами и кто может честно сказать: "Мне нужен перерыв - на день, на неделю или на месяц".
  • Нужна эмоциональная зрелость. Студент колледжа справится хуже, чем женщина, успевшая стать матерью.

Компания Facebook признает, что модерация контента в сегодняшних масштабах - это все еще во многом неизведанная территория.

"В какой-то степени мы вынуждены учиться на ходу", - признала администрация этой соцсети в своем блоге.

Новости по теме