Исследование социальных сетей
для выявления потенциально опасных групп Аманжолова С.Т., Масалович А.И., Ахметова Д.Т.

Проведен анализ групп социальной сети «ВКонтакте», содержащих потенциально опасный контент. Обоснована перспективность и актуальность интернет-разведки. Описаны особенности работы с таким приложением, как Avalanche Online и методы применения данного приложения для целей интернет-разведки. Названы социально опасные сообщества, найденные путем использования данного приложения. Показаны методы нахождения подобных групп через приложение Avalanche Online. Полученные результаты исследования были проанализированы и приняты соответствующие меры по блокировке групп, содержащих несоответствующий контент согласно правилам использования социальной сети «ВКонтакте». Показаны проблемы предотвращения появления социально опасных групп, а также предложены варианты их решения.

Введение
Интернет-разведка – организованный на регулярной основе сбор и мониторинг любой значимой для компании информации в сети Интернет. Ряд методов и инструментов Интернет-разведки позволяют извлекать из сети важную для ведения бизнеса информацию, не доступную при использовании стандартных методов поиска в Интернет, например, с помощью поисковых систем. Поэтому стоит выбрать мощные поисковики, правильно подобрать слова и вот она – интернет-разведка в действии.

Интернет-разведка включает в себя:
 поиск (мониторинг) информации в сети Интернет с целью выявления деятельности конкурентов, деловых партнеров;
 исследование сайтов (технические данные, анализ контента и многое другое);
 мониторинг деятельности сотрудников компании Заказчика в сети Интернет;
 мониторинг наличия в сети Интернет информации о фирме, объекте;
 мониторинг появления в сети коммерческой информации компании;
 поиск информации по заданному объекту, теме в форумах, блогах, гостевых книгах, досках объявлений, дневниках [1].

Практически все читали или слышали, что 90 % информации даже государственная разведка добывает из открытых источников, которые в настоящее время главным образом сосредоточены в WEB. Поэтому такое внимание приковано к Интернет-разведке.

Приложение «AVALANCHE ONLINE»

Программный комплекс Avalanche предназначен для мониторинга изменений, происходящих в Интернете. Он собирает информацию с веб-страниц по заданному алгоритму и складывает эту информацию в собственную базу данных.

Помимо этого, комплекс обладает гибкими настройками параметров поиска, позволяет осуществлять накопление информации и хранить ее в удобной форме (создание информационных карточек объектов). Также реализован механизм определения связей между объектами и графическая визуализация диаграммы связей.

Перечень функциональных возможностей:
а) автоматизированный мониторинг различных внешних информационных ресурсов, в том числе RSS лент, форумов и поисковых систем (Google, Yandex);
б) автоматизированный мониторинг социальных медиа:
   1)«ВКонтакте» (vk.com);
   2) Facebook (facebook.com);
   3) Твиттер (twitter.com);
   4) Livejournal (livejournal.ru);
   5) Яндекс. Блоги (blogs.yandex.ru);
в) осуществление поиска по «невидимому» интернету (поиск интернет-страниц, которые не были проиндексированы поисковыми системами);
г) возможность подписки на источник из общей базы знаний;
д) сбор, рубрикация, хранение в централизованной базе данных, подготовка и представление для анализа больших объемов текстовой информации о любых заданных объектах поиска;
ж) возможность резервного копирования проектов;
з) возможность задания регламента обхода источников;
и) предоставление собранной информации в виде новостей и рубрик, а также в контексте объектов мониторинга в виде карточек персоны, организации, события и т.д.;
к) быстрый полнотекстовый поиск на базе технологии Sphinx;
л) автоматическое определение нечетких дублей новостей;
м) предоставление возможности ведения информационных карточек (досье) на объекты мониторинга;
н) автоматизированный сбор данных из социальных сетей;
о) быстрый полнотекстовый поиск по объектам мониторинга;
п) возможность построения связей между объектами мониторинга с графической визуализацией;
р) возможность прикрепления различных документов (файлов) к конкретному объекту мониторинга;
с) возможность генерации отчетов. Возможность многопользовательской работы и разграничение прав доступа к проектам.

Особенности работы с «AVALANCHE ONLINE»

В ходе исследования потребовалось создание новых объектов, групп, а также построение графа участников, друзей и выборка групп. Далее приведен принцип использования приложения. Главное меню является основным навигационным элементом внутри проекта. Переход в главное меню осуществляется с любого экрана, путем нажатия соответствующей кнопки на панели инструментов (рисунок 1).

Рис. 1 – Главное меню приложения

Для создания нового объекта необходимо нажать кнопку «Создать» и выбрать тип создаваемого объекта. Для создания объекта типа «Персона», необходимо выбрать его из списка и заполнить поля накопленной информацией об объекте интереса (рисунок 2). Аналогичным образом создаются объекты других типов.

Рис. 2 – Создание объекта типа «Персона»

1 Автозаполнение. При выполнении действия происходит автозаполнение карточки по анкетным данным профиля (рисунок 3).

Рис. 3 – Действие «Автозаполнение»

2 Граф друзей. (Только для социальной сети «ВКонтакте»). При выполнении данного действия сервер AvalancheOnline строит граф социальных связей относительно исследуемого объекта (профиля социальной сети) (рисунки 4, 5).

Рис. 4 – Выполнение действия «Граф друзей»

После открытия графа в веб-браузере, к нему можно применять различные фильтры (в правой части экрана).

Рис. 5 – Отрисовка графа друзей

Имеются фильтры по:
 полу;
 количеству друзей;
 группе Вконтакте;
 городу;
 образованию (ВУЗ).

Диаметр круга на диаграмме сообщает о количестве связей у пользователя. Чем больше круг, тем больше у данного профиля друзей в социальной сети «ВКонтакте». Пользователи с большим числом связей расположены ближе к центру графа. При одноразовом клике мышью по любому объекту на графе, в левой части экрана откроется информация о профиле «ВКонтакте».

Также, на данном графе имеется возможность проверить наличие связи между двумя объектами и найти между ними кратчайший маршрут (рисунок 6) [2].

Рис. 6 – Отрисовка связей между двумя объектами

Вышеописанные действия были использованы для анализа.

Нахождение потенциально опасных групп

«Группы смерти», склоняющие детей к суициду в соцсети «ВКонтакте», активизировали свою деятельность. Самыми многочисленными смертельно-опасными играми прошлого года в социальных сетях являлись: синий кит, море китов, тихий дом, млечный путь, разбуди меня в 4:20, f57, f53, f58, D28, распространявшиеся с невероятной скоростью. В январе этого года по итогам анализа тегов, типичных для подобных групп в публичных сообщениях на стенах групп в соцсети «Вконтакте», обнаружено около 4 тысяч тегов этих групп за день.

Как сообщил пресс-секретарь «ВКонтакте» Евгений Красников, сообщества, посвященные описанию способов суицида или оправданию этой темы, «Вконтакте» блокирует на регулярной основе. По его словам, такие сообщества блокируются навсегда и без права обжалования. Кроме того, в мониторинге социальной сети с целью выявления и ограничения доступа к профилям и сообществам, оказывающих негативное и опасное влияние на детей и подростков, участвуют специалисты «Твоей территории». Психологи помогают оперативно оказывать поддержку подросткам, находящимся в критической психологической ситуации [3].

Как сообщается в новостях, на Украине среди детей набирает обороты новая суицидальная игра «Красная сова». Принцип опасной игры такой же, как и во всем известной уже игры «Синий кит» [4].

Также описан механизм, согласно которому злоумышленники заманивают детей в эту смертельную игру. Так, сначала дети в сети получают ссылку, по которой нужно перейти (она якобы выбрасывает ошибку). Благодаря этой ссылке «кураторы» узнают ориентировочный адрес, где проживает участник игры. А потом, если ребенок отказывается выполнять какое-то задание, злоумышленники его шантажируют тем, что знают адрес и приедут к нему на «разборки».

В «Красную сову» играют так: в личные сообщения «ВКонтакте» пишет загадочный куратор и говорит, что нужно «не спать 12 дней». Во время игры куратор проверяет игрока сообщением «Сова не спит?». Отвечать нужно «Сова никогда не спит». Игрок должен быть всегда онлайн, а когда куратор скидывает видео – его нужно сразу посмотреть. Выполняешь задание, не спишь 12 дней – получаешь приз [5].

Поиск участников игры

В первую очередь, участников очень легко можно определить по тегам, связанным с данной игрой (рисунок 7).

Рис. 7 – Поиск участников игры

Далее необходимо выбрать профиль участника игры «Красная сова», создать объект типа «Персона», сделав автозаполнение, построить граф друзей данного пользователя (рисунки 8–10).

Таким образом, через действие «Построение графа друзей» можно определить профили других участников опасной игры, также группы, в которых они состоят и город места жительства, согласно данным анкеты пользователей.

Наиболее опасные группы

Как было показано на предыдущем примере, удалось найти следующие потенциально опасные группы в социальной сети «ВКонтакте», контент которых не соответствовал правилам Сайта, а именно: правонарушения п. 5.13.3 раздела «Создание и использование Сообществ», содержащего п. 6.3.4. (д) «содержит описание средств и способов суицида, любое подстрекательство к его совершению» (рисунок 11)

Рис. 8 – Социальная страничка «ВКонтакте» одного из участников игры

Рис. 9 – Действие «Построение графа друзей»

Рис. 10 – Профиль участника игры через поиск по связям участников

Рис. 11 – Правила сайта социальной сети «ВКонтакте»

Именно таким образом были определены следующие группы:
 «собери мои крокодильи слезы» [6];
 «мы встретимся, я обещаю» [7];
 «brotherly cemetery» [8];
 «я нашел твою тульпу» [9].

Выявлены наиболее активные участники данных сообществ и города проживания участников.

Способы предотвращения возникновения потенциально опасных групп

Как сообщает руководитель отдела модерации «ВКонтакте» Иван Корнеев: «Со своей стороны «ВКонтакте» принимает глобальные меры по мониторингу и пресечению противоправного контента, который в конечном итоге бьет по нашей репутации и по площадке в целом. У нас есть ряд мер, собственных технических наработок с использованием искусственного интеллекта. Это помогает нам анализировать тексты, искать в них какие-то общие зацепки, общий подход к формированию слов в противоправном и потенциально опасном контенте. В совокупности это позволяет нам отслеживать тему подстрекательства к суициду и удалять этот контент в случае необходимости. Мы блокируем конкретные группы, где аккумулируется такая информация.

Они постоянно меняются, размываются какими-либо символами. Отслеживать их становится сложнее. За этим всплеском мы видим целенаправленную атаку ботов. Это очевидно, потому что появляется несколько тысяч страниц, созданных исключительно для того, чтобы публиковать такие хештеги. То есть вот новые аккаунты зарегистрировались, и первое, и единственное, что сделали, написали: «Тихий дом. Возьми меня в игру. Разбуди меня в 4.20». И всё, больше на этих страницах ничего не происходит.»[6].

Таким образом, необходимо вовремя отслеживать и предотвращать появление подобных «групп смерти», проверяя наиболее активных участников, что, например, можно сделать через приложение Avalanche. Данное приложение дает возможность видеть связи участников групп между собой, собирать статистику по пользователям, выбирая определенные фильтры, такие, как: «образование», «группы» и «города». Далее, определив, в каких группах состоят потенциальные участники подобных суицидальных игр, выполнить «построение графа друзей» данных пользователей, имеющих наибольшее количество связей, по страницам которых в дальнейшем необходимо выполнить соответствующий анализ и проверить на активность пользователя на участие в «группах смерти».

Заключение
В заключение хотим еще раз напомнить, что Всемирная Сеть – мощный инструмент в работе специалиста интернет-разведки, хотя и не главный, который содержит массу полезной информации, но легко может и дезинформировать. Понимание сильных и слабых сторон интернет-разведки позволяет использовать Интернет с целью мониторинга различных Интернет-ресурсов (различных сайтов, в том числе сайтов конкурентов, блогов и форумов, социальных сетей), мониторинг информационного поля вокруг интересующего объекта, отслеживания фактов утечки критически важной информации в сеть, а также выявление каналов таковых утечек.

Литература:
1. Интернет-разведка – http://www.informnn.ru/info/it_exploration/.
2. http://start.avalancheonline.ru/static/docs/user_manual.pdf.
3. Вести.Ru –https://www.vesti.ru/doc.html?id=2845217Интерпресс/Елена Пальм/ТАСС.
4. https://24tv.ua/ru/ukraina_tag1119.
5. http://www.ellegirl.ru.
6. https://vk.com/zelinovdaniil.
7. https://vk.com/urn0t41one.
8. https://vk.com/public120972856.
9. https://vk.com/ya_nashel_tvou_tulpu.
10. Мурсалиева Г. – https://www.novayagazeta.ru/articles/2017/03/05/71692-vidite-prizyv-k-suitsidusrochno-zhmite-na-knopku-pozhalovatsya.

Проведен анализ групп социальной сети «ВКонтакте», содержащих потенциально опасный контент. Обоснована перспективность и актуальность интернет-разведки. Описаны особенности работы с таким приложением, как Avalancheonline и методы применения данного приложения для целей интернет-разведки. Названы социально опасные сообщества, найденные путем использования данного приложения. Показаны методы нахождения подобных групп через приложение Avalancheonline. Полученные результаты исследования были проанализированы и приняты соответствующие меры по блокировке групп, содержащих несоответствующий контент согласно правилам использования социальной сети «ВКонтакте». Показаны проблемы предотвращения появления социально опасных групп, а также предложены варианты их решения.
Ключевые слова: интернет-разведка, социальные сети, Avalancheonline, контент, группы «ВКонтакте», сообщества, сайты.

Ықтимал қауіпті контент бар «ВКонтакте» әлеуметтік желісінің топтарын талдау жүргізілді. Интернет-барлаудың болашағы мен өзектілігіне негізделген. Интернетте Avalanche онлайн және осы қосымшаны Интернет ақыл-ойының мақсаттары үшін қолдану әдістері сияқты қолданудың ерекшеліктері сипатталған. Осы қосымшаның көмегімен табылған әлеуметтік қауіпті қоғамдар аталды. Осындай топтарды табуға арналған әдістер «Avalanche» онлайн өтінімі арқылы көрсетіледі қорытындылар талданды және керекті шаралар орынсыз мазмұнды қамтитын топтарды блок-тауға алынады, әлеуметтік желі «ВКонтакте» пайдалану ережелеріне сәйкес. Әлеуметтік қауіпті топтардың пайда болуын болдырмау проблемалары, сондай-ақ оларды шешу жолдары көрсетілген.
Тірек сөздер: интернет-барлау, әлеуметтік желілер, қалдықтарды онлайн, контент, VKontakte топтары, қауымдастықтар, сайттар.

The analysis of groups of the social network «VKontakte» containing potentially dangerous content was carried out. The prospects and relevance of Internet intelligence have been grounded. Features of work with such application as Avalanche online and application methods of this application for the purposes of Internet intelligence are described. The socially dangerous communities found by using this application are named. The methods for finding similar groups are shown through the Avalanche online application. The results of the research were analyzed and appropriate measures were taken to block groups containing inappropriate content, according to the rules for using the social network «VKontakte». The problems of preventing the emergence of socially dangerous groups are shown, as well as solutions for their solution.
Keywords: Internet intelligence, social networks, Avalanche online, content, «VKontakte» groups, communities, sites.

1 Международный университет информационных технологий, Алматы, Республика Казахстан

2 Компания «Лавина Пульс», Москва, Российская Федерация