Нейросеть «укоротит» язык агрессии

Для контента, вызывающего негативную реакцию, существует термин «хейтспич». Призывы к агрессии, провокации, высказывания во враждебном тоне — скоро всего этого не будет в соцсети «ВКонтакте». Сейчас там работают над технологией, которая расчистит платформу от подобного мусора.

Заниматься этой грязной работой будет искусственный интеллект. Его научат находить подобные высказывания и делать это очень быстро. К тому же, нейросеть должна мгновенно обрабатывать жалобы на нежелательный контент.

Для обучения ИИ в соцсети привлекают пользователей. Появился новый тип жалобы: «Враждебные высказывания». Чтобы отправить её модераторам, нужно выделить  текст и нажать кнопку «Пожаловаться». С помощью большого объёма информации, полученной от пользователей, нейросеть накопит ориентировочную «базу данных» и поймёт, на что нужно реагировать.

В данный момент ИИ осваивает такие сферы, как все виды оскорблений, в том числе на почве ксенофобии, а также любые проявления расизма, сексизма, нетерпимость к религии, угнетение из-за возраста, внешности и других признаков.

Лидер команды модераторов «ВК» Иван Корнеев заявил, что их соцсеть  полностью разделяет мнение своих пользователей и партнёров в данном вопросе. С проявлением насилии и враждебности в интернете нужно бороться.

Специалисты команды не только реагируют на полученные «сигналы», но и сами мониторят весь массив контента. Каждый день сотрудникам службы приходится вручную модерировать большой объём информации, чтобы опасные или провокационные публикации не попали в публичное пространство.

Только за первое полугодие 2020 года в сети «ВК» было удалено 520 тысяч сообщений. Они содержали высказывания по теме разжигания ненависти и вражды. Профили пользователей, распространяющих подобный контент, блокируются. Всего «в блок» было отправлено 1340 личный аккаунтов, а кроме них 2470 групп и сообществ.

Искусственный интеллект отлично помогает в этой работе, но его возможности нужно использовать эффективнее. Нейросети вполне по силам распознавать хейтспич автоматически, а значит, гораздо быстрее и тщательнее очищать «ВК», делая её ещё более комфортной платформой.

При этом активная помощь пользователей только приветствуется.  Они могут заметить какой-то оскорбительный материал и сообщить о нём. Это позволит усовершенствовать и откалибровать действующие алгоритмы и собрать данные для развития нейросети.