Минздрав утвердил Кодекс этики применения ИИ в сфере охраны здоровья
Кодекс, состоящий из четырех глав, разработан при участии главных внештатных специалистов в декабре 2024 года. Он должен применяться «на всех этапах жизненного цикла системы искусственного интеллекта (СИИ), включая этапы планирования, проектирования, построения модели, апробации, верификации и валидации, экспертизы, развертывания, эксплуатации и мониторинга с учетом обязательного определения критериев вывода из эксплуатации». Его основные задачи – определение прав и обязанностей субъектов ИИ, а также механизмов регулирования применения кодекса.
Под субъектами ИИ понимаются физические и юридические лица – пациенты, медорганизации всех форм собственности, образовательные учреждения, органы управления здравоохранением, компании-разработчики, производители, уполномоченные представители производителей, операторы и владельцы ИИ, некоммерческие организации (НКО), профессиональные сообщества и другие.
В права и обязанности физлиц входит право на защиту персональных данных, своих прав и поддержку со стороны профсообществ и государственных органов в случае возникновения этических конфликтов или выявления нарушений, доступ к достоверной информации о СИИ и их влиянии на здоровье и общество, обязанность соблюдать рекомендованные меры по обеспечению конфиденциальности и безопасности персональных данных и другое.
Юридические лица должны иметь право на доступ к информации о характеристиках, возможностях и ограничениях СИИ, осуществлять сотрудничество с международными организациями и научными центрами, обеспечивать конфиденциальность и безопасность персональных данных, учитывать и защищать права всех физических лиц, обеспечивать безопасность и прозрачность разработки системы, соблюдать требования и рекомендации законодательства, принципы честности и объективности.
В тематическом документе отмечается, что субъекты СИИ должны обеспечивать контроль над системой, которая, в свою очередь, обязана позволять субъектам проверять и/или санкционировать решения, отказаться от автоматических решений и изменять предложенные решения.
Для повышения уровня защищенности пользователя и доверия к СИИ разработчики (производители) должны обеспечивать доступность информации о применяемых в СИИ алгоритмах работы ИИ. Данные пациентов должны быть конфиденциальны и безопасны на всех этапах жизненного цикла СИИ. Обеспечивать это обязаны субъекты СИИ. Применение системы не должно приводить к стигматизации и дискриминации субъектов СИИ из-за их состояния здоровья, пола, возраста, национальности или иных характеристик. Все субъекты СИИ должны иметь равный доступ к системе с учетом целей и задач.
«Проведение этической экспертизы и апробации СИИ определено законодательством Российской Федерации», – прописано в кодексе.
Применение систем в сфере здравоохранения будет подотчетным и контролируемым. Для каждого из этапов жизненного цикла СИИ должны быть определены субъекты ИИ, принимающие на себя ответственность за воздействие СИИ на общество.