Facebook виявляє потенційних самовбивць

Facebook Копирайт изображения Facebook
Image caption Нові алгоритми мережі Facebook виявлятимуть дописи, де згадується про самогубство. Текст на фото: "Мені так сумно й боляче. Я більше не витримую і не бачу іншого виходу. Від мене немає жодної користі. Будь ласка, перекажіть моїм рідним, що мені дуже шкода"

Facebook почав користуватися можливостями штучного інтелекту для виявлення користувачів, які, можливо, планують накласти на себе руки.

Програмісти цієї соціальної мережі розробили алгоритми, що знаходять в дописах користувачів та коментарях їхніх друзів сигнали про небезпеку.

Знахідки відправляють на перевірку, яку виконує вже не комп'ютер, а "живі" представники компанії. Якщо вони теж бачать ризик того, що людина може завдати собі шкоди, їй відправляють повідомлення, в якому вказують, як отримати допомогу.

Копирайт изображения ВВС
Image caption Користувачі Facebook, які мешкають у США, тепер можуть обговорити свої думки про самогубство з професійними психологами у програмі Facebook Messenger

За словами керівника лінії підтримки для тих, хто думає про самогубство, таке нововведення "не просто корисне, а вкрай необхідне".

Наразі нові алгоритми випробовуються лише у США.

Це перший приклад застосування штучного інтелекту у Facebook, відколи минулого місяця засновник цієї мережі Марк Цукерберг оголосив, що сподівається виявляти за допомогою таких алгоритмів дописи терористів та інші тривожні повідомлення.

Копирайт изображения Facebook
Image caption Користувачі, яких зараховують до групи ризику, отримують повідомлення про те, куди звернутися по допомогу

Facebook також оголосив про нові способи боротьби з суїцидальною поведінкою у модулі відеотрансляцій Facebook Live і домовився з кількома американськими психологічними службами про те, що вони допомагатимуть людям з груп ризику через чати в Facebook Messenger.

Розпізнавання сигналів

Facebook уже багато років дає поради потенційним самовбивцям, але досі покладався на звіти інших користувачів - лише вони могли привернути увагу модераторів до тривожних дописів, натиснувши кнопку "повідомити".

Копирайт изображения Facebook
Image caption Користувачі Facebook Live, що ділитимуться думками про самогубство у прямому ефірі, негайно отримуватимуть поради без переривання їхньої трансляції

Нині ж запущено в роботу спеціальні розпізнавальні алгоритми, які самі знаходять проблемних користувачів. Навички розпізнавання виробляються на основі аналізу великої кількості дописів, раніше відмічених як "тривожні".

Сигналом небезпеки вважається, наприклад, частий вжиток таких слів, як "сум" і "біль".

Інший сигнал - коментарі від друзів приблизно такого змісту: "З тобою все гаразд?"; "Напиши мені, бо я хвилююсь" тощо.

Копирайт изображения Facebook
Image caption Стривоженим глядачам трансляцій у Facebook Live порадять, як допомогти другові в біді

Знайшовши такий контент, комп'ютер відправляє його на розгляд працівникам відділу правил поведінки у спільноті.

"Ми розуміємо, що в таких ситуаціях слід діяти дуже швидко", - сказала кореспондентові ВВС Ванесса Келлісон-Берч, менеджер продукції Facebook.

Д-р Джон Дрейпер, директор Національної лінії довіри з запобігання суїциду, схвально відгукнувся про цю ініціативу, але висловив сподівання, що скоро Facebook не обмежуватиметься загальними порадами, а почне самостійно звертатися до фахівців, щоб ті пропонували користувачам свою допомогу.

"Ми вже обговорюємо цю можливість з уповноваженими особами у Facebook", - каже пан Дрейпер.

"Чим ширшу мережу підтримки ми зможемо задіяти, тим імовірніше, що людина в біді отримає необхідну допомогу. Питання в тому, як це краще робити, щоб не видаватися занадто нав'язливими. На мою думку, те, що пропонує Facebook, - величезний крок уперед", - вважає директор Національної лінії довіри з запобігання суїциду.

Пані Келлісон-Берч визнає, що турбота друзів та рідних зазвичай ефективніша, ніж повідомлення від Facebook, але додає, що інформувати третіх осіб не завжди етично.

"Ми високо цінуємо приватність і не настільки обізнані з динамікою особистих стосунків між людьми. Тому ми намагаємось запропонувати людині в біді різні шляхи отримання підтримки й допомоги", - каже вона.

Після смерті 14-річної дівчини з Маямі, яка в січні вчинила самогубство в прямому ефірі на платформі Facebook Live, тут запровадили окремі нововведення, спрямовані на допомогу авторам трансляцій.

Втім, представники компанії кажуть, що їх запустили в розробку ще до трагедії.

Мета нововведень - надати допомогу користувачам з групи ризику ще під час трансляції, не чекаючи на її завершення.

Тепер, коли глядачів трансляції бентежить щось з побаченого, вони можуть обрати спеціальний пункт у меню і миттєво отримати поради, як допомогти авторові трансляції.

Трансляцію також відправляють на негайну перевірку до працівників Facebook, які можуть відправити авторові чи глядачам власні рекомендації, якщо вважають це доцільним.

"Можливо, хтось думає, що ми маємо обірвати трансляцію, щойно почуємо там натяки на суїцид", - каже Дженніфер Ґваданьо, працівниця Facebook і провідний дослідник цього проекту.

"Та наші консультанти одностайні: якщо надто рано обірвати трансляцію, ми позбавимо глядачів можливості допомогти цій людині", - вважає працівниця Facebook .

"Якщо ж трансляція триватиме, друзі та рідні зможуть зв'язатися з її автором тут і тепер - у час, коли цій людині найбільше потрібна допомога".

Нову систему вже запускають по всьому світу.

Однак можливість зв'язатися з лінією довіри через Facebook Messenger поки що доступна лише користувачам у США.

Перш ніж відкривати її в інших країнах, Facebook має долучити до проекту інші служби, які зможуть задовольнити попит користувачів на психологічну підтримку.

"Наявні зусилля та плани на майбутнє вселяють в мене надію, що ми зможемо врятувати від самогубства ще більше людей у всьому світі", - каже д-р Ден Рейден, виконавчий директор служби Save.org, яка бере участь у проекті.

"Нині ми маємо більше можливостей запобігти суїциду, ніж будь-коли раніше, навіть якщо йдеться про платформу Facebook Live", - підсумовує він.

Якщо ви почуваєтесь пригнічено й потребуєте допомоги, ось куди ви можете звернутися доBBC Advice

Новини на цю ж тему