TRUSTWORTHY AI IN SMART SENSOR SYSTEMS IN IOT: CHALLENGES AND SOLUTIONS
DOI:
https://doi.org/10.35546/kntu2078-4481.2025.3.2.19Keywords:
Trustworthy AI, Smart Sensor Systems, Internet of Things, Explainable AIAbstract
This article discusses the key challenges and prospects for implementing reliable artificial intelligence (AI) in intelligent sensor systems of the Internet of Things (IoT), with a special focus on the principles of trust, security, explainability, and legal compliance. The integration of AI with sensor networks allows for autonomous, context-sensitive real-time decision- making, which is critical for healthcare, industry, transportation, and environmental monitoring.The paper presents an interdisciplinary review of current scientific approaches, including the use of Federated Learning, Explainable AI, secure data processing methods at the edge, Edge Intelligence, as well as risk assessment and ethical compliance in accordance with international standards such as GDPR, ISO/IEC 42001, NIST AI RMF, IEEE 7000, and others. The analysis also covers the issues of data quality and integrity, security, transparency, bias, reliability, and regulatory uncertainties that arise when implementing AI in IoT systems.The author proposes a conceptual model of trust in AI based on seven interrelated factors: data quality, reliability, security, privacy protection, explainability, fairness, and legal compliance. The model allows to quantify the level of trust in the system by adapting the weighting factors to the specifics of a particular application.In addition to analyzing the problems, the authors provide practical recommendations for overcoming challenges, such as implementing real-time data quality checks, building a secure architecture based on the secure-by-design principle, using XAI algorithms (SHAP, LIME), and conducting fairness and compliance audits. The table of correspondences between challenges and solutions allows a systematic approach to the implementation of trusted AI in complex distributed systems.Thus, this work forms the basis for the development of policies, standards, and strategies for the implementation of trusted artificial intelligence in IoT environments, maintaining a balance between technological innovation and ethical and legal responsibility.
References
Са́нчес П. М. С., Сельдра́н А. Х., Сє Н., Бове́ Ж., Пе́рес Г. М., Шті́ллер Б. (2024). Федеративна довіра: Рішення для надійного федеративного навчання. Future Generation Computer Systems, 152, 83–98. https://doi.org/10.1016/j.future.2023.10.013
Джагатісаперума́л С. К., Фам К’ю. Ві., Рубі Р., Ян Ч., Сюй Ц., Чжан Ч. (2022). Пояснюваний ШІ через Інтернет речей (IoT): Огляд, сучасний стан та майбутні напрямки. IEEE Open Journal of the Communications Society, 3, 2106–2136. https://doi.org/10.48550/arXiv.2211.01036
Насім, М. Д., Бісвас, П., Рашид, А., Бісвас, А., та Гупта, К. Д. (2024). Надійний XAI та його застосування. Препринт arXiv arXiv:2410.17139. https://doi.org/10.48550/arXiv.2410.17139
Лі, Б., Ці, П., Лю, Б., Ді, С., Лю, Дж., Пей, Дж., … та Чжоу, Б. (2023). Надійний ШІ: від принципів до практики. ACM Computing Surveys, 55(9), 1–46. https://doi.org/10.1145/3555803
Ван, Х., Ван, Б., Ву, Ю., Нін, З., Го, С., та Ю, Ф. Р. (2024). Опитування щодо надійного периферійного інтелекту: від безпеки та надійності до прозорості та сталого розвитку. IEEE Communications Surveys & Tutorials. https://doi.org/10.1109/COMST.2024.3446585
Раданлієв, П., Де Рур, Д., Мейпл, К., Нерс, Дж. Р., Ніколеску, Р., та Ані, У. (2024). Безпека штучного інтелекту та кіберризики в системах Інтернету речей. Frontiers in Big Data, 7, 1402745. https://doi.org/10.3389/fdata.2024.1402745
Черданцева, Ю., Бернап, П., Наджм-Техрані, С. та Джонс, К. (2022). Конфігурована модель залежностей SCADA-системи для цілеспрямованої оцінки ризиків. Appl. Sci. 12, 1–29. https://doi.org/10.3390/app12104880
Ерола, А., Аграфіотіс, І., Нерс, Дж. Р. К., Аксон, Л., Голдсміт, М. та Кріз, С. (2022). Система для розрахунку кіберцінності під ризиком. Comput. Secur. 113:102545. https://doi.org/10.1016/j.cose.2021.102545
Попеску, С. М., Мансур, С., Вані, О. А., Кумар, С. С., Шарма, В., Шарма, А., … & Чунг, Ю. С. (2024). Технології на основі штучного інтелекту та Інтернету речей для моніторингу та управління забрудненням навколишнього середовища. Frontiers in Environmental Science, 12. https://doi.org/10.3389/fenvs.2024.1336088
Ай, В., Чен, Г., Юе, Х., та Ван, Дж. (2023). Застосування гіперспектрального та глибокого навчання у виявленні мікропластику в ґрунті сільськогосподарських угідь. J. Hazard. Mater. 445, 130568. https://doi.org/10.1016/j.jhazmat.2022.130568
Аша, П., Натраян, Л., Гіта, Б., Беула, Дж. Р., Сумати, Р., Варалакшмі, Г. та ін. (2022). Інтернет речей, що дозволяє використовувати екологічну токсикологію для моніторингу забруднення повітря за допомогою методів штучного інтелекту. Environ. Res. 205, 112574. https://doi.org/0.1016/j.envres.2021.112574
