Скачать статью (PDF)

Классификация цифровой обработки контента в корпоративном мессенджере

ТЕТЕРИН Николай Николаевич, КЛЕНИКОВ Павел Сергеевич

Авторы
  • ТЕТЕРИН Николай Николаевичассистент кафедры прикладной математики ИИТ, ФГБОУ ВО РТУ МИРЭА, Москва, Россия
  • КЛЕНИКОВ Павел Сергеевичстудент кафедры прикладной математики ИИТ, ФГБОУ ВО РТУ МИРЭА, Москва, Россия
Поступление в редакцию:
04.03.2026
Принятие в печать:
21.03.2026
Опубликовано:
25.03.2026
Аннотация и ключевые слова

Аннотация. В данной статье рассматривается проблема выявления деструктивного поведения пользователей в корпоративных мессенджерах. Предложен метод классификации цифровой обработки контента, сочетающий первичную обработку на основе NLP-моделей и байесовский классификатор. Метод поддерживает мультимодальность данных, что позволяет анализировать сообщения различного формата. Экспериментальные результаты демонстрируют высокую точность классификации до 99% и эффективность в обнаружении скрытых форм негативного поведения. Подход способствует повышению безопасности корпоративных коммуникаций.

Ключевые слова: корпоративный мессенджер, классификация контента, деструктивное поведение, NLP, мультимодальные данные, модерация.

Текст статьи

Современные корпоративные коммуникации все чаще перемещаются в цифровую среду, в частности мессенджеры, что создает потребность в эффективных инструментах модерации для поддержания здоровой рабочей атмосферы и предотвращения токсичности и иных форм деструктивного поведения [1].

Существующие подходы зачастую ограничены анализом текстовых данных и не учитывают мультимодальность современного контента, а также контекст публикации [2].

На рисунке 1 представлен процесс распознавания контекста голосовых сообщений в мессенджере чат ботом.

Рисунок 1. Распознавание контекста на примере голосового сообщения.

Представленный пример демонстрирует корректное распознавание голосового сообщения в контексте цифровой обработки данных разрабатываемого подхода [3].

В таблице 1 описаны признаки для оценки контекста голосового сообщения пользователя. На рисунке 2 продемонстрирован результат обработки аудио сообщений в корпоративном мессенджере.

Таблица 1. Контекстные признаки для оценки пользователя на примере голосового сообщения — см. PDF статьи.

Компонент анализа Результат обработки Значение для классификации Текстовая расшифровка «Здравствуйте! Какие сегодня цели?»

Анализ содержания сообщения Эмоциональная классификация Тип: положительный Доброжелательный характер коммуникации Рисунок 2. Результат обработки данных на примере аудио сообщений.

Результат показывает корректное определение по типу «вопрос» с вероятностью 0.90. Особенно важно отметить положительный результат в проанализированном сообщении, несмотря на незначительную вероятность деструктивного подтекста, что подтверждает эффективность байесовского подхода при оценке условных вероятностей различных классов контента.

В контексте данного подхода сохраняется принципиальная важность выявления действительно деструктивных форм поведения, маскирующихся под безобидные на первый взгляд сообщения [4].

На рисунке 3 отображен результат обработки и условная вероятность голосовых сообщений пользователя корпоративного чата. Рисунок 3. Результат обработки данных на примере голосового сообщения одного из пользователей в корпоративном чате. Результат показывает корректное определение по типу «вопрос» с вероятностью 0.60 у первого сообщения и категорию «деструктивный» с вероятностью 0.57 у второго сообщения.

На рисунке 4 отображен результат обработки и условная вероятность текстовых сообщений пользователя корпоративного чата Рисунок 4. Результат обработки данных на примере текстового сообщения одного из пользователей в корпоративном чате. Результат показывает корректное определение по типу «вопрос» с вероятностью 0.98 у первого сообщения и категорию «деструктивный» с вероятностью 0.80 у второго сообщения.

На рисунке 5 представлен фрагмент интерфейса о пользовательской активности, отображающий статистику на примере трех учетных записей.

Рисунок 5. Фрагмент интерфейса управления пользователями.

Разработанный метод с вероятностью 99% идентифицирует сообщение деструктивного поведения, что особенно важно для корпоративных коммуникационных платформ [5].

Таким образом, разработанный метод определяет результат, что контент относится к деструктивному поведению пользователя и повышает точность выявления потенциально деструктивного пользователя цифровой платформы.

В перспективе планируется улучшение контекстуального анализа сообщений и учет истории коммуникаций.

Список литературы

  1. Босенко Т. М. Интеграция мультимодальных технологий в образовательный процесс на примере разработки модели машинного обучения на платформе Apache Spark // Вестник МГПУ. Серия: Информатика и информатизация образования. – 2025. – № 1(71). – С. 80-89.
  2. Наумов О. В., Билых А. М. Метод и средства для сбора мультимодальных данных с помощью различных нейроинтерфейсов // StudNet. – 2022. – Т. 5, № 6. – С. 72.
  3. Перцев Ю. В. Методы анализа текста на естественном языке в задаче экстрактивного информационного поиска // Успехи кибернетики. – 2024. – Т. 5, № 4. – С. 67-74.
  4. Путинцева А.В. Механизмы защиты личности от кибербуллинга в Российской Федерации // Вопросы российского и международного права. – 2020. – Том 10. – № 6А. – С. 108-115.
  5. Тетерин, Н.Н. Общие вопросы анализа деструктивного поведения пользователей в социальных сетях // Актуальные проблемы деятельности подразделений уголовно-исполнительной системы: Сборник материалов Всероссийской научно-практической конференции. В 3-х томах, Воронеж, 24 октября 2024 года. – Воронеж: ООО Издательско-полиграфический центр «Научная книга». – 2024. – С. 96-99.

Скачать

English summary

Classification of digital content processing in the corporate messenger

TETERIN Nikolay Nikolaevich, KLENIKOV Pavel Sergeevich

Authors
  • TETERIN Nikolay NikolaevichAssistant at the Department of Applied Mathematics of IIT, RTU MIREA, Moscow, Russia
  • KLENIKOV Pavel SergeevichStudent of the Department of Applied Mathematics of IIT, RTU MIREA, Moscow, Russia

Annotation. This article addresses the problem of detecting destructive user behavior in corporate messaging applications. It proposes a digital content classification method that combines primary processing based on NLP models and a Bayesian classifier. The method supports multimodal data, allowing for the analysis of messages in various formats. Experimental results demonstrate high classification accuracy of up to 99% and effectiveness in detecting hidden forms of negative behavior. This approach contributes to enhancing the security of corporate communications.

Key words: corporate messenger, content classification, destructive behavior, NLP, multimodal data, moderation.

References

  1. Bosenko T. M. Integration of Multimodal Technologies into the Educational Process: A Case Study of Developing a Machine Learning Model on the Apache Spark Platform // Bulletin of Moscow State Pedagogical Univ. Series: Computer Science and Informatization of Education. – 2025. – No. 1(71). – Pp. 80-89.
  2. Naumov O. V., Bilykh A. M. Method and Tools for Collecting Multimodal Data Using Various Neural Interfaces // StudNet. – 2022. – Vol. 5, No. 6. – Pp. 72.
  3. Pertsev Yu. V. Methods of Natural Language Text Analysis in Extractive Information Retrieval // Advances in Cybernetics. – 2024. – Vol. 5, No. 4. – Pp. 67-74.
  4. Putintseva A.V. Mechanisms for Protecting Individuals from Cyberbullying in the Russian Federation // Issues of Russian and International Law. – 2020. – Vol. 10. – No. 6A. – Pp. 108-115.
  5. Teterin, N.N. General Issues of Analyzing Destructive User Behavior on Social Networks // Current Issues in the Activities of Penal System Units: Collection of Materials from the All-Russian Scientific and Practical Conference. In 3 volumes, Voronezh, October 24, 2024. – Voronezh: OOO Publishing and Printing Center «Scientific Book». – 2024. – Pp. 96- 99.

DOI: 10.24412/2076-2828-2026-1-44-47 · С. 44–47 · Научно-правовой журнал «Экономика и право. XXI век» № 1 2026

Creative Commons Attribution 4.0 License Контент доступен под лицензией Creative Commons Attribution 4.0 License.