Все новости
Система для выявления экстремистов в соцсетях появилась в России
Пермский национальный исследовательский университет (ПГНИУ) создал математическую модель, позволяющую идентифицировать экстремистские идеологии в социальных сетях. Газета "Известия" со ссылкой на сайт Пермского государственного национального исследовательского университета сообщила, что новый сервис обучен анализировать профили, посты и комментарии и распознавать тревогу по их поводу.
Уникальный датасет создал доцент Института компьютерных технологий Андрей Рабчевский. При этом одна из пермских компаний разработала специальную поисковую систему. Пособие, описывающее методику применения, стало победителем конкурса Российской академии внутренних дел.
Созданный Рабчевским датасет может выявить роль пользователей социальных сетей, причастных к деструктивным социальным явлениям, пояснил он в интервью газете. По его словам, созданная в университете модель универсальна, поскольку ее можно использовать для выявления потенциально опасных аккаунтов не только в сфере экстремизма, но и терроризма, изготовления самодельных взрывных устройств и нападений на школы.
«Система работает просто: она постоянно отслеживает и идентифицирует новостные ленты, затем классифицирует их по разделам, таким как терроризм, политика, бизнес и т. д., а затем смотрит, как эти новостные ленты заполняются, причем чрезмерная активность проявляется как признак информационная атака «Из новостной ленты мы узнаем, кто причастен к этой атаке, какую роль они играют, к какой атакующей структуре относятся, каких целей пытаются достичь, а затем принимаем решение о ответных мерах», — сказал собеседник агентства. объяснил.
При этом в основу этого механизма легла поисковая система Seus, специально созданная для работы с социальными сетями. Рабчевский пояснил, что он содержит гораздо больше информации, чем новостной канал. Система может изучать публикации, которые появляются в публикациях, открывать профили, группы, лайки и комментарии, а затем анализировать поведение пользователей.
При поиске алгоритм выделяет ключевые слова. Поэтому для каждого прорывного направления был создан соответствующий список терминов и словосочетаний. При обнаружении «подсказки» программа откладывает сообщение и затем начинает исследование.
В настоящее время поисковая система используется более чем в половине территориальных подразделений МВД РФ, подчеркнул Рабчевский. По его словам, его использование могло бы предотвратить до 12 преступлений, связанных со стрельбой в школах в России. В частности, благодаря этой системе удалось ликвидировать разрушительный феномен «синего кита».
По словам Рабчевского, сейчас в социальных сетях проводятся скрытые операции с целью вовлечения пользователей в экстремистскую идеологию. Эксперты применяют новые методы после того, как поисковые системы генерируют данные о коллекциях публикаций, авторах и социальных связях. Эта система позволяет сотрудникам правоохранительных органов автоматически идентифицировать пользователей, участвующих в этой операции, роль, которую они играют в этом процессе, и какие пользователи представляют наибольший риск.
Выявлением экстремизма в соцсетях занимаются МВД и ФСБ. Однако огромный объем информации делает эту задачу сложной и трудоемкой, поэтому есть риск что-то упустить. В принципе, для разведчиков не менее важно выполнять эту задачу вручную, поэтому для автоматизации и ускорения процесса необходимо использовать искусственный интеллект, подчеркнул доцент Пермского университета.
Дмитрий Овчинников, директор Института стратегического развития продуктов кибербезопасности одного из аналитических центров, подчеркнул, что вопрос блокировки экстремистских сообщений важен, поскольку Интернет и социальные сети стали инструментом воздействия на общественное сознание общества. . По его словам, сеть можно использовать для формирования общественного мнения, его изменения и подталкивания людей к противоправным действиям.
Однако в современную эпоху развитие систем хранения данных и искусственного интеллекта позволило проверить большие объемы информации за короткий период времени. На этом фоне, пояснил Овчинников, стали появляться инструменты, аналогичные поисковой системе, разработанной Рабчевским.
Экстремистов сейчас идентифицируют в Интернете несколькими способами. Таким образом, заинтересованные читатели могут сообщить о подозрительных пользователях и группах в правоохранительные органы. При этом правоохранительные органы самостоятельно проводят расследования в отношении экстремистских группировок и задерживают подозреваемых, собирая материал для возбуждения уголовных дел.
Но этих мер было достаточно даже во времена расцвета Интернета. На данный момент важно как можно быстрее реагировать на подобные инциденты, отметил Овчинников. По его словам, многие преступления можно было бы предотвратить на ранней стадии, если бы такие действия фиксировались в социальных сетях.
«Эти и подобные программы уже созданы для мониторинга ситуации в регионах и городах, с помощью которых можно было выявить недовольство местных жителей и скорректировать работу менеджеров. Эта система реализована, но в целом направление идеи цифрового управления вполне логично и вписывается в парадигму цифровизации окружающего пространства», — подчеркнул собеседник газеты.
Подобные системы используются и в других странах, рассказал эксперт по аналитическим системам Петр Иванов. Поэтому в США и странах Евросоюза технологии мониторинга социальных сетей используются для выявления экстремистских угроз и предотвращения террористических атак. Эксперт пояснил, что эти системы постоянно развиваются с использованием машинного обучения и анализа больших данных.
Ранее Госдума предложила заблокировать публикацию в социальных сетях видео убийств и пыток. По мнению создателей инициативы, такой контент разрушает психику людей всех возрастов, будь то взрослые или подростки. Также, глядя на такие данные, у детей могут сформироваться неправильно ценности и отношение к жизни.