Facebook будет выявлять потенциальных самоубийц

Facebook Копірайт зображення Facebook
Image caption Новые алгоритмы сети Facebook будут обнаруживать сообщения, где упоминается о самоубийстве. Текст на фото: "Мне так грустно и больно. Я больше не выдерживаю и не вижу другого выхода. От меня нет никакой пользы. Пожалуйста, скажите моим родным, что мне очень жаль"

Facebook начал использовать возможности искусственного интеллекта для выявления пользователей, которые, возможно, планируют покончить с собой.

Программисты этой социальной сети разработали алгоритмы, которые находят в сообщениях пользователей и комментариях их друзей сигналы об опасности.

Находки отправляют на проверку, которую выполняет уже не компьютер, а "живые" представители компании. Если они видят риск того, что человек может нанести себе вред, ему отправляют сообщение, в котором рассказывают, как получить помощь.

По словам руководителя линии поддержки для тех, кто думает о самоубийстве, такое нововведение "не просто полезно, а крайне необходимо".

Сейчас новые алгоритмы тестируются только в США.

Это первый пример применения искусственного интеллекта в Facebook, с тех пор как в прошлом месяце основатель сети Марк Цукерберг объявил, что надеется выявлять с помощью таких алгоритмов сообщения террористов и другие тревожные сообщения.

Копірайт зображення ВВС
Image caption Пользователи Facebook, проживающие в США, теперь могут обсудить свои мысли о самоубийстве с профессиональными психологами в программе Facebook Messenger

Facebook также объявил о новых способах борьбы с суицидальным поведением в модуле видеотрансляций Facebook Live и договорился с несколькими американскими психологическими службами о том, что они будут помогать людям из групп риска через чаты в Facebook Messenger.

Распознавание сигналов

Facebook уже много лет дает советы потенциальным самоубийцам, но до сих пор полагался на отчеты других пользователей - только они могли привлечь внимание модераторов к тревожным сообщениям, нажав кнопку "Сообщить".

Сейчас же запущены в работу специальные опознавательные алгоритмы, которые сами находят проблемных пользователей. Навыки распознавания вырабатываются на основе анализа большого количества сообщений, ранее отмеченных как "тревожные".

Сигналом опасности считается, например, частое употребление таких слов, как "печаль" и "боль".

Другой сигнал - комментарии от друзей примерно такого содержания: "С тобой все в порядке?", "Напиши мне, я волнуюсь" и другие.

Найдя такой контент, компьютер отправляет его на рассмотрение работникам отдела правил поведения в сообществе.

Копірайт зображення Facebook
Image caption Пользователи, которых относят к группе риска, получают сообщение о том, куда обратиться за помощью

"Мы понимаем, что в таких ситуациях нужно действовать очень быстро", - сказала корреспонденту ВВС Ванесса Келлисон-Берч, менеджер по продукции Facebook.

Д-р Джон Дрейпер, директор Национальной линии доверия по предотвращению суицида, одобрительно отозвался об этой инициативе, но выразил надежду, что скоро Facebook не будет ограничиваться общими советами, а начнет самостоятельно обращаться к специалистам, чтобы те предлагали пользователям свою помощь.

"Мы уже обсуждаем эту возможность с уполномоченными лицами в Facebook", - говорит Дрейпер.

"Чем более широкую сеть поддержки мы сможем задействовать, тем вероятнее, что человек в беде получит необходимую помощь. Вопрос в том, как это лучше делать, чтобы не выглядеть слишком навязчивыми. По моему мнению, то, что предлагает Facebook - огромный шаг вперед", - считает директор Национальной линии доверия по предотвращению суицида.

Келлисон-Берч признает, что забота друзей и родных обычно эффективнее, чем сообщение от Facebook, но добавляет, что информировать третьих лиц не всегда этично.

"Мы высоко ценим конфиденциальность и не столь знакомы с динамикой личных отношений между людьми. Поэтому мы стараемся предложить человеку в беде различные пути получения поддержки и помощи", - говорит она.

После смерти 14-летней девушки из Майами, которая в январе совершила самоубийство в прямом эфире на платформе Facebook Live, там произошли нововведения, направленные на помощь авторам трансляций.

Копірайт зображення Facebook
Image caption Пользователи Facebook Live, которые будут делиться мыслями о самоубийстве в прямом эфире, будут немедленно получать советы без прерывания их трансляции

Впрочем, представители компании говорят, что их запустили в разработку еще до трагедии.

Цель нововведений - оказать помощь пользователям из группы риска еще во время трансляции, не дожидаясь ее завершения.

Теперь, когда зрителей трансляции смущает что-то из увиденного, они могут выбрать специальный пункт в меню и мгновенно получить советы, как помочь автору трансляции.

Трансляцию также отправляют на немедленную проверку для работников Facebook, которые могут отправить автору или зрителям собственные рекомендации, если считают это целесообразным.

"Возможно, кто-то думает, что мы должны оборвать трансляцию, как только услышим там намеки на суицид", - говорит Дженнифер Гваданьо, работница Facebook и ведущий исследователь этого проекта.

"Но наши консультанты единодушны: если слишком рано оборвать трансляцию, мы лишим зрителей возможности помочь этому человеку", - считает сотрудница Facebook.

"Если же трансляция будет продолжаться, друзья и родные смогут связаться с автором здесь и сейчас - во время, когда этому человеку больше всего нужна помощь".

Копірайт зображення Facebook
Image caption Встревоженным зрителям трансляций в Facebook Live посоветуют, как помочь другу в беде

Новую систему уже запускают по всему миру.

Однако возможность связаться с линией доверия через Facebook Messenger пока доступна только пользователям в США.

Прежде чем открывать ее в других странах, Facebook должен приобщить к проекту другие службы, которые смогут удовлетворить спрос пользователей на психологическую поддержку.

"Имеющиеся усилия и планы на будущее вселяют в меня надежду, что мы сможем спасти от самоубийства еще больше людей во всем мире", - говорит д-р Дэн Рэйден, исполнительный директор службы Save.org, которая участвует в проекте.

"Сейчас мы имеем больше возможностей предотвратить суицид, чем когда-либо прежде, даже если речь идет о платформе Facebook Live", - заключает он.

Новости по теме