ДОСТОВІРНИЙ ШІ В ІНТЕЛЕКТУАЛЬНИХ СЕНСОРНИХ СИСТЕМАХ IOT: ВИКЛИКИ ТА РІШЕННЯ
DOI:
https://doi.org/10.35546/kntu2078-4481.2025.3.2.19Ключові слова:
Достовірний ШІ, Розумні Сенсорні Системи, Інтернет Речей, Пояснюваний ШІАнотація
У статті розглядаються ключові виклики та перспективи впровадження надійного штучного інтелекту (AI) в інтелектуальні сенсорні системи Інтернету речей (IoT), з особливим акцентом на принципи довіри, безпеки, пояснюваності та правової відповідності. Інтеграція AI з сенсорними мережами дозволяє досягати автономного, контекстно-чутливого прийняття рішень у реальному часі, що є критично важливим для галузей охорони здоров’я, промисловості, транспорту та екологічного моніторингу.В роботі представлено міждисциплінарний огляд сучасних наукових підходів, включаючи використання федеративного навчання (Federated Learning), пояснюваного AI (XAI), методів безпечної обробки даних на периферії (Edge Intelligence), а також оцінку ризиків і забезпечення етичної відповідності згідно з міжнародними стандартами – такими як GDPR, ISO/IEC 42001, NIST AI RMF, IEEE 7000 та інші. Проведений аналіз також охоплює проблеми якості та цілісності даних, безпеки, прозорості, упередженості, надійності, а також нормативно-правових невизначеностей, які виникають при впровадженні AI в IoT-системи. Запропоновано концептуальну модель довіри до AI, яка базується на семи взаємопов’язаних факторах: якість даних, надійність, безпека, захист конфіденційності, пояснюваність, справедливість і правова відповідність.Модель дозволяє кількісно оцінити рівень довіри до системи, адаптуючи вагові коефіцієнти під специфіку конкретного застосування.Окрім аналізу проблем, автори надають практичні рекомендації для подолання викликів, таких як впровадження перевірки якості даних у реальному часі, побудова безпечної архітектури за принципом «безпека за задумом» (secure-by-design), застосування XAI-алгоритмів (SHAP, LIME), проведення аудитів справедливості та відповідності нормативним актам. Таблиця відповідностей між викликами і рішеннями дозволяє системно підійти до реалізації довіреного AI у складних розподілених системах.Таким чином, дана робота формує основу для формування політик, стандартів та стратегій впровадження довіреного штучного інтелекту в середовищах Інтернету речей, підтримуючи баланс між технологічною інновацією та етично-правовою відповідальністю.
Посилання
Са́нчес П. М. С., Сельдра́н А. Х., Сє Н., Бове́ Ж., Пе́рес Г. М., Шті́ллер Б. (2024). Федеративна довіра: Рішення для надійного федеративного навчання. Future Generation Computer Systems, 152, 83–98. https://doi.org/10.1016/j.future.2023.10.013
Джагатісаперума́л С. К., Фам К’ю. Ві., Рубі Р., Ян Ч., Сюй Ц., Чжан Ч. (2022). Пояснюваний ШІ через Інтернет речей (IoT): Огляд, сучасний стан та майбутні напрямки. IEEE Open Journal of the Communications Society, 3, 2106–2136. https://doi.org/10.48550/arXiv.2211.01036
Насім, М. Д., Бісвас, П., Рашид, А., Бісвас, А., та Гупта, К. Д. (2024). Надійний XAI та його застосування. Препринт arXiv arXiv:2410.17139. https://doi.org/10.48550/arXiv.2410.17139
Лі, Б., Ці, П., Лю, Б., Ді, С., Лю, Дж., Пей, Дж., … та Чжоу, Б. (2023). Надійний ШІ: від принципів до практики. ACM Computing Surveys, 55(9), 1–46. https://doi.org/10.1145/3555803
Ван, Х., Ван, Б., Ву, Ю., Нін, З., Го, С., та Ю, Ф. Р. (2024). Опитування щодо надійного периферійного інтелекту: від безпеки та надійності до прозорості та сталого розвитку. IEEE Communications Surveys & Tutorials. https://doi.org/10.1109/COMST.2024.3446585
Раданлієв, П., Де Рур, Д., Мейпл, К., Нерс, Дж. Р., Ніколеску, Р., та Ані, У. (2024). Безпека штучного інтелекту та кіберризики в системах Інтернету речей. Frontiers in Big Data, 7, 1402745. https://doi.org/10.3389/fdata.2024.1402745
Черданцева, Ю., Бернап, П., Наджм-Техрані, С. та Джонс, К. (2022). Конфігурована модель залежностей SCADA-системи для цілеспрямованої оцінки ризиків. Appl. Sci. 12, 1–29. https://doi.org/10.3390/app12104880
Ерола, А., Аграфіотіс, І., Нерс, Дж. Р. К., Аксон, Л., Голдсміт, М. та Кріз, С. (2022). Система для розрахунку кіберцінності під ризиком. Comput. Secur. 113:102545. https://doi.org/10.1016/j.cose.2021.102545
Попеску, С. М., Мансур, С., Вані, О. А., Кумар, С. С., Шарма, В., Шарма, А., … & Чунг, Ю. С. (2024). Технології на основі штучного інтелекту та Інтернету речей для моніторингу та управління забрудненням навколишнього середовища. Frontiers in Environmental Science, 12. https://doi.org/10.3389/fenvs.2024.1336088
Ай, В., Чен, Г., Юе, Х., та Ван, Дж. (2023). Застосування гіперспектрального та глибокого навчання у виявленні мікропластику в ґрунті сільськогосподарських угідь. J. Hazard. Mater. 445, 130568. https://doi.org/10.1016/j.jhazmat.2022.130568
Аша, П., Натраян, Л., Гіта, Б., Беула, Дж. Р., Сумати, Р., Варалакшмі, Г. та ін. (2022). Інтернет речей, що дозволяє використовувати екологічну токсикологію для моніторингу забруднення повітря за допомогою методів штучного інтелекту. Environ. Res. 205, 112574. https://doi.org/0.1016/j.envres.2021.112574
##submission.downloads##
Опубліковано
Номер
Розділ
Ліцензія
Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License.
