"Гонка вооружений" Facebook: тысячи модераторов против российских троллей

Марк Цукерберг Правообладатель иллюстрации Reuters
Image caption На второй день слушаний в конгрессе Марк Цукерберг уже не упоминал Россию

Во вторник и среду основатель Facebook Марк Цукерберг давал показания в конгрессе США. Среди прочего, его много спрашивали и том, что компания делает для нейтрализации деятельности троллей, действующих, как сообщали многие СМИ, в интересах Кремля.

Российские официальные лица всегда отрицали всякую причастность государства к деятельности "фабрик троллей".

Однако Цукерберг, прежде сомневавшийся в значимости фактора троллей, теперь заявил, что сотрудники Facebook ведут настоящую "гонку вооружений" со спонсируемыми Россией группами, которые пытаются эксплуатировать соцсеть с целью оказать влияние на исход выборов и общественное мнение.

Последней мерой, на которую пошли в Facebook, было внедрение искусственного интеллекта, который способен идентифицировать фальшивые аккаунты, замеченные в попытках влиять на политические настроения, добавил он.

"Это - гонка вооружений. Они будут учиться работать лучше, то же самое следует сделать и нам", - заявил Цукерберг.

По его словам, к концу года компания наймет около 20 тысяч новых сотрудников в отдел по обеспечению безопасности.

Эксперты, опрошенные Русской службой Би-би-си, согласились, что у корпорации есть достаточный инструментарий для войны с троллями, но не уверены, куда это заведёт сам Facebook.

Правообладатель иллюстрации AFP
Image caption Правозащитная организация Avaaz провела свою акцию с сотней картонных изображений Цукерберга в преддверии его выступления в Сенате

Илья Шарапов, руководитель аналитического подразделения по информационной безопасности ООО "ТСС":

Соцсети обладают таким инструментарием для вычисления и удаления неугодной информации, что даже в кино представить боязно.

Несколько лет назад "Яндекс" указывал в "Яндекс.Новостях" первоисточник новости - пост в "Твиттере" или "Фейсбуке", сайт МЧС или правительства России, - и её "дубликаты" за авторством других СМИ или блогеров.

Аналогичными опциями обладают и современные соцсети, которые способны моментально находить первоисточник или автора оригинального сообщения.

После чего в дело могут включаться дополнительные - как машинные, так и редакторские - опции, например, проверка тональности/агрессивности/оскорбительности сообщения с точки зрения словарного запаса и интонационного исполнения.

Не секрет, что теоретически соцсети способны удалить не только профайл любого пользователя, но и более избирательные моменты - например, посты на стене, фотографии (система распознавания лиц позволяет знать, где, кто и с кем был сфотографирован), а также личные сообщения, как это наблюдалось на днях, когда пользователи стали жаловаться на исчезновение сообщений от Цукерберга.

Айдар Гузаиров, генеральный директор компании-провайдера кибербезопасности "ICL Системные Технологии":

Социальные сети уже успешно применяют разработки в области искусственного интеллекта - в основном, для решения различных задач, но в частности и для поиска террористической пропаганды, удаления этой информации.

Они уже учатся автоматически выделять откровенно ненавистнические (hate speech) посты пользователей, распознавать реальные лица на фото и видео, идентифицировать круг общения и даже выявлять агентов влияния, а также активно взаимодействуют с дата-брокерами, которые собирают информацию о пользователях для рекламных целей.

Думаю, действительно крупные социальные сети через пять-семь лет смогут искать, обрабатывать и реагировать автоматически вообще на всю информацию на их платформах.

Сейчас российские и иностранные команды определяют новую систему приоритетов. Приоритет сохранности данных пользователей - это не новый, но теперь может стать очень мощным трендом, чтобы предотвратить подобные утечки в будущем.

Однако в ближайшее время потребуется тысячи модераторов для мониторинга и реагирования, и только в следующем десятилетии будет проверен и запущен искусственный интеллект.

Новости по теме