Министерство науки и высшего образования
Российской Федерации
  •        

Ученые ТГУ разработали алгоритм выявления подростков, подписанных на опасные сообщества

Команда психологов, социологов, историков и программистов Томского государственного университета разработала алгоритм для выявления студентов и школьников, которые подписаны "ВКонтакте" на сообщества с потенциально опасным контентом, это должно помочь выявлять пользователей, которым может быть необходима психологическая помощь.

Ученые ТГУ разработали алгоритм для выявления студентов и школьников, которые подписаны "ВКонтакте" на сообщества с потенциально опасным контентом: ненависть, насилие, экстремизм и другим. Они составили список из 3050 групп с подобным содержанием, а также проанализировали подписки российских школьников и студентов.

Согласно Федеральному закону "О защите детей от информации, причиняющей вред их здоровью и развитию", выделяется информация, запрещенная для распространения среди детей, и информация, распространение которой ограничено среди детей определенного возраста. Также есть третья категория – "преступный контент", размещение которого влечет уголовную ответственность.

"Доступ к обнаруженному запрещенному и преступному контенту оперативно блокируется, в отличие от вредного. Последнее – материалы ограниченного доступа, не являющиеся прямым нарушением норм права, но способные причинить вред пользователям... Контроль за распространением и потреблением вредного контента подростками является актуальной задачей для специалистов по профилактике правонарушений и психологической безопасности в образовательных организациях", - рассказал участник проекта, заведующий лабораторией компьютерных средств обучения Института дополнительного образования ТГУ Артем Фещенко.

Отмечается, что первичный поиск сообществ с вредным контентом ученые провели при помощи системы мониторинга "Крибрум" с использованием лингвистических маркеров, так были выявлены 436 сообществ. Затем при помощи метода "снежный ком", когда за через администраторов и активистов таких сообществ выходят к другим потенциальным опасным группам, число было расширено до 3050 сообществ. В результате анализа групп ученые сформулировали 12 тематических направлений, среди которых "жесть" (кровь, избиение, эстетика безобразного в культуре), "национализм", "оружие" и другие.

Разработанный классификатор вредного контента можно использовать для обнаружения пользователей, которые предположительно нуждаются в психологической помощи. Для этого достаточно сравнить список подписок из профиля конкретного человека с со списком выявленных в ТГУ. Прототип диагностического инструмента для этого разработан участниками Университетского консорциума исследователей больших данных.

При помощи разработанного алгоритма ученые проанализировали около 60 тысяч пользователей "ВКонтакте" – это школьники 14-17 лет и группа в возрасте 18-23 года. Для сравнения степени интереса была рассчитана доля вредного контента. Индикатором интереса является подписка на одно сообщество из любой категории, если же число подписок превышает 10% от общего числа, то человеку может понадобиться психологическая помощь. 

"Потребления потенциально "вредного" контента пользователями в возрасте 14-23 года является достаточно распространенным явлением, так как у 37% наблюдаемых людей в возрасте 14-17 лет встречаются подписки на сообщества с токсичным для психики содержанием. При этом девушки чаще интересуются вредным контентом, чем юноши. В возрастной группе 18-23 года 42% пользователей подписаны на опасные сообщества, и уровень интереса у девушек снижается, а у юношей, наоборот, возрастает", - добавил Фещенко.

Разработанный инструмент представлен на портале Университетского консорциума исследователей больших данных и находится в открытом доступе.

РИА Новости

Дата публикации: 08.06.2020 16:15
Дата последнего изменения: 08.06.2020 16:15