Учёные ТГУ разработали алгоритм для выявления студентов, которые подписаны на опасный контент

Учёные ТГУ разработали алгоритм для выявления студентов и школьников, которые подписаны «ВКонтакте» на сообщества с потенциально опасным контентом: ненависть, насилие, экстремизм и другим. Они составили список из 3050 групп с подобным содержанием, а также проанализировали подписки российских школьников и студентов. Оказалось, что у 37% пользователей в возрасте 14-17 лет встречаются подписки на группы с потенциально опасным для психики содержанием, а в возрасте 18-23 года – у 42%, сообщает пресс-служба ТГУ.

Фото: ТГУ

К первому виду опасного контента(запрещенному) относятся сообщения, побуждающие к причинению вреда своему здоровью, употреблению одурманивающих веществ и подобным действиям. Ко второму виду - вредному контенту относятся изображения или описания жестокости, физического или психического насилия. Также выделяют третью категорию – «преступный контент», размещение которого образует состав преступления и влечет уголовную ответственность.

Первичный поиск сообществ с «вредным» контентом осуществлялся при помощи системы мониторинга социальных медиа «Крибрум» с использованием лингвистических маркеров, например, «колумбайн», «наркотики», «депрессия», «одиночество», «боль», «ненависть» и других. Таким образом, учёные выявили 436 сообществ, затем при помощи метода «снежный ком» (найденные в сообществах администраторы и активисты, ведущие к другим потенциальным опасным группам) их число было расширено до 3050.

В результате анализа групп учёные сформулировали 12 тематических направлений, среди них «жесть» (кровь, избиение, окровавленные органы, эстетика безобразного в культуре), «национализм» (превосходство своей нации над другими, шовинизм, ксенофобия, фашизм), «оружие» (покупка и продажа оружия, описание характеристик, изображение пистолетов, револьверов, винтовок) и другие.

«Наиболее анонимными оказались администраторы сообщества категории «Скулшутинг». Из 45 сообществ только в одном удалось получить контактные данные организатора. В остальных сообщества либо заблокированы администрацией «ВКонтакте», либо закрыты для входа без приглашения. Тем не менее, даже по этой табуированной теме, относящейся по нормам российского законодательства к категориям «преступного» контента, удаётся найти большое количество потребителей и, возможно, распространителей контента среде активистов, – рассказал участник проекта, зав. лабораторией компьютерных средств обучения Института дополнительного образования ТГУ Артем Фещенко.

Прототип для выявления среди подписок пользователя сообществ с потенциально «вредным» контентом, разработанный в ТГУ, представлен на портале Университетского консорциума исследователей больших данных. Этот инструмент находится в открытом доступе и может быть использован школьниками и студентами для самоанализа, а также их родителями, педагогами и тьюторами, сотрудниками психологических служб образовательных организаций.

Для справки: проект реализует команда психологов, социологов, историков и программистов ТГУ, руководитель – доцент факультета психологии Валерия Мацута. Исследование поддержано грантом РНФ (№ 19-78-10122 «Разработка алгоритма идентификации факторов риска безопасности пользователей социальных сетей на основе анализа контента и психологических характеристик его потребителей») до 2022 года, на его реализацию выделено 5 миллионов рублей.

Рассказываем о том, что важно. ПОДДЕРЖИ ТВ2

Источник