МЕТОД ВИЯВЛЕННЯ ДЕПРЕСИВНОГО СТАНУ ПОВ'ЯЗАНОГО ІЗ НАВЧАННЯМ У ЗАКЛАДАХ ОСВІТИ ІЗ ВИКОРИСТАННЯМ НЕЙРОМЕРЕЖІ ДУАЛЬНОЇ АРХІТЕКТУРИ
DOI:
https://doi.org/10.35546/kntu2078-4481.2024.4.41Ключові слова:
нейромережі трансформери, NLP, BERT, дуальна нейромережева архітектураАнотація
У статті визначено актуальність проблеми автоматизованого виявлення депресивного стану, пов'язаного із навчанням у закладах освіти актуальність, в сучасному соціальному та академічному середовищі, коли тиск, стрес і тривожність стали розповсюдженими явищами, що можуть сприяти розвитку депресії. Це особливо актуально в умовах інтенсивного навчального процесу, високих вимог і обмеженого часу для відпочинку та саморегуляції. Виявлення депресивних станів на ранніх етапах може суттєво вплинути на своєчасну підтримку та профілактику більш серйозних психічних розладів, тому дана проблематика з області ментальне здоров’я знайшла широке поширення у наукових дослідженнях й корелює із цілями сталого розвитку ПРООН. У роботі пропонується метод виявлення депресивного стану, пов'язаного із навчанням у закладах освіти із використанням нейромережі дуальної архітектури, що призначений для перетворення вхідних даних у вигляді тексту та навченої нейромережевої моделі у вихідні дані у вигляді числової оцінки наявності депресивного стану. Запропонований метод відрізняється від аналогів тим, що поєднує двопоточну архітектуру, яка базується на використанні двох паралельних нейронних мереж архітектури трансформер, кожна з яких спеціалізується на аналізі різних аспектів тексту – синтаксичного та семантичного. Потік синтаксичного аналізу спрямований на виявлення синтаксичної структури тексту, а потік семантичного аналізу – на розуміння змісту та контексту тексту. Проведене дослідження ефективності розробленого методу у формі програмної реалізації виявило, що у порівнянні з відомими аналогами, наведеними у попередніх дослідженнях, було досягнуто значення площі ROC-кривої 0.98, що є на 0.1 вище від аналогової реалізації нейромережі BERT та на 0.12 вище від аналогової реалізації нейромережі RedditBERT. Імплементація методу виявлення пов'язаного з навчанням депресивного стану за допомогою нейромережі дуальної архітектури сприяє реалізації Цілей сталого розвитку № 3 та № 4. Це дозволяє забезпечити здоровий спосіб життя та добробут учасників навчального процесу (Ціль № 3) через своєчасне втручання в їх психічний стан, а також сприяє забезпеченню якісної, всеохоплюючої та справедливої освіти (Ціль № 4) шляхом створення підтримуючого навчального середовища.
Посилання
Krak I., Zalutska O., Molchanova M., Mazurets O., Bahrii R., Sobko O., Barmak O. Abusive Speech Detection Method for Ukrainian Language Used Recurrent Neural Network. CEUR Workshop Proceedings. 2024. Vol. 3688. С. 16-28 https://doi.org/10.31110/COLINS/2024-3/002.
Як це жити та навчатися з депресією. DW. 2019. URL: https://www.dw.com/uk/як-це-жити-та-навчатись-з-депресією/a-50137399 (дата звернення: 24.11.2024).
Молчанова М. О., Мазурець О. В., Собко О. В., Віт Р. В., Назаров В. В. Алгоритм виявлення аб’юзивного вмісту в україномовному аудіоконтенті для імплементації в об'єктно-орієнтовану інформаційну систему. Науковий журнал «Вісник Хмельницького національного університету». Технічні науки. 2024. № 1 (331). С. 101-106 https://doi.org/10.31891/2307-5732-2024-331-17.
Jain P., Srinivas K. R., Vichare A. Depression and suicide analysis using machine learning and NLP. Journal of Physics: Conference Series. 2022. Vol. 2161 (1). С. 012034 https://doi.org/10.1088/1742-6596/2161/1/012034
Mali A., Sedamkar R. R. Prediction of Depression Using Machine Learning and NLP Approach. In: Balas V. E., Semwal V. B., Khandare A. (eds) Intelligent Computing and Networking. Lecture Notes in Networks and Systems. 2022. Vol. 301. Springer https://doi.org/10.1007/978-981-16-4863-2_15.
Молчанова М. О., Мазурець О. В., Собко О. В., Кліменко В. І., Андрощук В. І. Метод нейромережевого виявлення кібербулінгу з використанням хмарних сервісів та об'єктно-орієнтованої моделі. Науковий журнал «Вісник Хмельницького національного університету». Технічні науки. 2024. № 2 (333). С. 200-206 https://doi.org/10.31891/2307-5732-2024-333-2-32.
Lorenzoni G., Tavares C., Nascimento N., Alencar P., Cowan D. Assessing ML Classification Algorithms and NLP Techniques for Depression Detection: An Experimental Case Study. arXiv preprint arXiv:2404.04284. 2024 https://doi.org/10.48550/arXiv.2404.04284
Мазурець О. В., Молчанова М. О., Кліменко В. І., Собко О. В., Супрун П. К. Даталогічна модель бази даних для виявлення гендерної приналежності за SVM-аналізом дописів інтернет-мереж з використанням об'єктноорієнтованого проєктування. Науковий журнал «Вісник Хмельницького національного університету». Технічні науки. 2024. № 3, Т. 2 (337). С. 197-204. https://doi.org/10.31891/2307-5732-2024-337-3-29.
van Buchem M. M., de Hond A. A., Fanconi C., Shah V., Schuessler M., Kant I. M., … & Hernandez-Boussard T. Applying natural language processing to patient messages to identify depression concerns in cancer patients. Journal of the American Medical Informatics Association. 2024. Vol. 31, No. 10, С. 2255-2262 https://doi.org/10.1093/jamia/ocae188.
Mazurets O., Tymofiiev I., Dydo R. Approach for Using Neural Network BERT-GPT2 Dual Transformer Architecture for Detecting Persons Depressive State. Ricerche scientifiche e metodi della loro realizzazione: esperienza mondiale e realtà domestiche. Raccolta di articoli scientifici con gli atti della VI Conferenza scientifica e pratica internazionale. 2024. С. 147-151 https://doi.org/10.36074/logos-15.11.2024.036.
Tymofiiev I., Mazurets O., Hardysh D., Molchanova M. Neural Network Dual Architecture for Depression Detection Using Cloud Services. Scientific Research in the Era of Digital Technologies: Challenges and Opportunities. 2024. С. 84-88. https://doi.org/10.70286/ISU-06.11.2024
Student Depression Text Dataset. Kaggle. 2024. URL: https://www.kaggle.com/datasets/nidhiy07/studentdepression-text (дата звернення: 24.11.2024).