Нейросеть «ВКонтакте» защитит пользователей от хейтеров

Скоро Ольга Бузова будет спать спокойно. Социальная сеть «ВКонтакте» озаботилась защитой своих пользователей от хейтеров. Как сообщает пресс-служба популярной соцсети, сейчас они работают над искусственным интеллектом, который будет автоматически распознавать материалы с хейтспичем, то есть с негативными, даже враждебными, высказываниями.

Это не значит, что пользователь вообще не будет получать гневных сообщений. Однако «ВКонтакте» собирается с помощью робота быстрее обрабатывать жалобы, чтобы помочь людям справляться с проявлениями нетерпимости.

«Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию», — поясняет пресс-служба «ВКонтакте».

Нейросеть будет определять ксенофобские высказывания, проявления расизма, гомофобии, сексизма и других предрассудков. Также защитят пользователей от оскорблений на почве религиозной принадлежности.

Еще нейросеть будет бороться с эйджизмом, нетерпимости к больным и блокировать тех, кто просто привык оскорблять людей даже по поводу их внешности.

Теперь во «ВКонтакте» есть категория жалоб под названием «Враждебные высказывания». Пользователь нажимает «Пожаловаться» под комментарием и отправляет в эту категорию неприятные высказывания. После этого жалоба уходит на модерацию. Дальше работает нейросеть. Но ее контролируют и сами сотрудники соцсети из техподдержки.

«Модераторы «ВКонтакте» ежедневно обрабатывают огромный объём контента, в том числе с использованием искусственного интеллекта — большинство опасных материалов удаляются ещё до того, как их кто-то увидит», — комментирует руководитель команды модерации соцсети Иван Корнеев.

По данным «ВКонтакте», за первую половину этого года они удалили на своей платформе 520 комментариев и постов, которые разжигали вражду  и ненависть, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

ПОХОЖИЕ СТАТЬИ

ОСТАВЬТЕ ОТВЕТ

Please enter your comment!
Please enter your name here

Новые статьи