Дослідження особливостей систем штучного інтелекту з високим рівнем ризику

Abstract

У роботі досліджено особливості систем штучного інтелекту з високим рівнем ризику. Проаналізовано основні сфери застосування таких систем, потенційні ризики їх використання та ключові механізми їх мінімізації. Особливу увагу приділено ризик-орієнтованому підходу до регулювання штучного інтелекту, закріпленому в Регламенті Європейського Союзу 2024/1689 (Artificial Intelligence Act). Визначено основні проблеми, пов’язані з алгоритмічною дискримінацією, якістю даних, непрозорістю алгоритмів, захистом персональних даних, кібербезпекою та недостатнім людським контролем. Обґрунтовано необхідність комплексного управління ризиками протягом усього життєвого циклу високоризикової системи штучного інтелекту. This paper examines the characteristics of high-risk artificial intelligence systems. It analyzes the primary areas of application for such systems, the potential risks associated with their use, and key mechanisms for risk mitigation. Particular attention is given to the risk-based approach to artificial intelligence regulation, as established in European Union Regulation 2024/1689 (the Artificial Intelligence Act). The study identifies major challenges related to algorithmic discrimination, data quality, algorithmic opacity, personal data protection, cybersecurity, and insufficient human oversight. Furthermore, it substantiates the necessity for comprehensive risk management throughout the entire lifecycle of a high-risk artificial intelligence system.