Un système d'identification des extrémistes sur les réseaux sociaux est apparu en Russie

L'Université nationale de recherche de Perm (PGNIU) a créé un modèle mathématique permettant d'identifier les idéologies extrémistes sur les réseaux sociaux. Le journal Izvestia, citant le site Internet de l'Université nationale de recherche de Perm, a rapporté que le nouveau service est formé pour analyser les profils, les publications et les commentaires et reconnaître l'anxiété à leur sujet.

L'ensemble de données unique a été créé par Andrei Rabchevsky, professeur agrégé à l'Institut des technologies informatiques. Parallèlement, l'une des sociétés de Perm a développé un système de recherche spécial. Le manuel, qui décrit la méthode de candidature, a remporté le concours de l'Académie russe des affaires intérieures.

L'ensemble de données créé par Rabchevsky peut révéler le rôle des utilisateurs des réseaux sociaux impliqués dans des phénomènes sociaux destructeurs, a-t-il expliqué dans une interview au journal. Selon lui, le modèle créé à l'université est universel, car il peut être utilisé pour identifier des comptes potentiellement dangereux non seulement dans le domaine de l'extrémisme, mais aussi du terrorisme, de la fabrication d'engins explosifs improvisés et des attaques contre des écoles.

« Le système fonctionne simplement : il surveille et identifie en permanence les fils d'actualité, puis les catégorise en sections telles que le terrorisme, la politique, les affaires, etc., puis surveille la manière dont ces fils d'actualité se remplissent, une activité excessive apparaissant comme le signe d'un manque d'information. attaque d'information "À partir du fil d'actualité, nous découvrons qui est impliqué dans cette attaque, quel rôle ils jouent, à quelle structure d'attaque ils appartiennent, quels objectifs ils tentent d'atteindre, puis nous décidons des mesures de réponse", a déclaré l'interlocuteur de l'agence. dit. expliqué.

Parallèlement, ce mécanisme s'appuie sur le moteur de recherche Seus, spécialement créé pour travailler avec les réseaux sociaux. Rabchevsky a expliqué qu'elle contient beaucoup plus d'informations qu'une chaîne d'information. Le système peut étudier les publications qui apparaissent dans les publications, ouvrir des profils, des groupes, des likes et des commentaires, puis analyser le comportement des utilisateurs.

Lors de la recherche, l'algorithme met en évidence les mots-clés. Par conséquent, pour chaque direction révolutionnaire, une liste correspondante de termes et d'expressions a été créée. Lorsqu'un « indice » est trouvé, le programme retarde l'envoi du message puis commence à enquêter.

Actuellement, le système de recherche est utilisé dans plus de la moitié des divisions territoriales du ministère de l'Intérieur de la Fédération de Russie, a souligné Rabchevsky. Selon lui, son utilisation pourrait empêcher jusqu'à 12 crimes liés aux fusillades dans les écoles en Russie. Grâce à ce système, il a notamment été possible d’éliminer le phénomène destructeur de la « baleine bleue ».

Selon Rabchevsky, des opérations secrètes sont désormais menées sur les réseaux sociaux afin d'impliquer les utilisateurs dans une idéologie extrémiste. Les experts appliquent de nouvelles méthodes après que les moteurs de recherche génèrent des données sur les collections de publications, les auteurs et les liens sociaux. Ce système permet aux forces de l'ordre d'identifier automatiquement les utilisateurs impliqués dans l'opération, le rôle qu'ils jouent dans le processus et quels utilisateurs présentent le plus grand risque.

Le ministère de l'Intérieur et le FSB participent à l'identification de l'extrémisme sur les réseaux sociaux. Cependant, l’énorme quantité d’informations rend cette tâche complexe et chronophage, il existe donc un risque de manquer quelque chose. En principe, il est tout aussi important que les agents du renseignement effectuent cette tâche manuellement, c'est pourquoi l'intelligence artificielle doit être utilisée pour automatiser et accélérer le processus, a souligné un professeur agrégé de l'Université de Perm.

Dmitri Ovchinnikov, directeur de l'Institut pour le développement stratégique des produits de cybersécurité de l'un des groupes de réflexion, a souligné que la question du blocage des messages extrémistes est importante, car Internet et les réseaux sociaux sont devenus un outil pour influencer la conscience publique de la société. . Selon lui, le réseau peut être utilisé pour façonner l’opinion publique, la changer et pousser les gens à commettre des actes illégaux.

Cependant, à l’ère moderne, le développement des systèmes de stockage de données et de l’intelligence artificielle a permis de vérifier de grandes quantités d’informations en peu de temps. Dans ce contexte, a expliqué Ovchinnikov, des outils similaires au système de recherche développé par Rabchevsky ont commencé à apparaître.

Les extrémistes sont désormais identifiés en ligne de plusieurs manières. Ainsi, les lecteurs intéressés peuvent signaler les utilisateurs et groupes suspects aux autorités chargées de l’application de la loi. Dans le même temps, les forces de l'ordre mènent des enquêtes indépendantes sur les groupes extrémistes et arrêtent des suspects, collectant ainsi des éléments permettant d'engager des poursuites pénales.

Mais ces mesures étaient suffisantes même à l’apogée d’Internet. Pour le moment, il est important de réagir le plus rapidement possible à de tels incidents, a noté Ovchinnikov. Selon lui, de nombreux crimes pourraient être évités à un stade précoce si de tels actes étaient enregistrés sur les réseaux sociaux.

« Ces programmes et d'autres similaires ont déjà été créés pour surveiller la situation dans les régions et les villes, à l'aide desquels il a été possible d'identifier le mécontentement des résidents locaux et d'ajuster le travail des gestionnaires. Ce système a été mis en œuvre, mais en général, l’orientation de l’idée du contrôle numérique est tout à fait logique et s’inscrit dans le paradigme de la numérisation de l’espace environnant », a souligné l’interlocuteur du journal.

Подобные системы используются и в других странах, рассказал эксперт по аналитическим системам Петр Иванов. Поэтому в США и странах Евросоюза технологии мониторинга социальных сетей используются для выявления экстремистских угроз и предотвращения террористических атак. Эксперт пояснил, что эти системы постоянно развиваются с использованием машинного обучения и анализа больших данных.

Ранее Госдума предложила заблокировать публикацию в социальных сетях видео убийств и пыток. По мнению создателей инициативы, такой контент разрушает психику людей всех возрастов, будь то взрослые или подростки. Также, глядя на такие данные, у детей могут сформироваться неправильно ценности и отношение к жизни.

Источник: Сетевое издание M24.ru