人工智能医疗器械软件现场检查指导原则发布！

点评：值得学习！

来源：广东局

各有关单位：

       根据国家重点研发计划专项课题《人工智能医学信息系统软件审评指导体系构建》的要求，由我中心负责起草的《超声影像人工智能诊断软件技术审评指导原则》等11项人工智能医学信息系统软件指导原则（见附件）已经完成制定流程，并通过专家组审定，现予以发布，供参考。

       附件：

       1.超声影像人工智能诊断软件技术审评指导原则

       2.心电图人工智能软件技术审评指导原则

       3.CT影像人工智能软件技术审评指导原则      

       4.DR影像人工智能软件技术审评指导原则

       5.病理诊断人工智能分析软件技术审评指导原则 

       6.前列腺肿瘤MRI图像辅助检测软件注册审查指导原则

       7.阿尔茨海默病MRI图像辅助检测软件注册审查指导原则     

       8.PET图像人工智能降噪及增强软件注册审查指导原则

       9.肿瘤PET图像辅助检测软件注册审查指导原则

       10.人工智能医疗器械软件现场检查指导原则

       11.人工智能医学软件网络安全技术审评指导原则

广东省药品监督管理局审评认证中心

2022年12月13日

人工智能医学软件产品现场检查指导原则

第一部分  范围和原则

1.1 本指导原则是人工智能医学信息系统软件审评指导体系构建的组成部分，基于医疗器械生产质量管理规范、医疗器械生产质量管理规范附录独立软件、医疗器械生产质量管理规范独立软件现场检查指导原则、人工智能医疗器械审评指导原则的通用要求，细化了人工智能医学软件生产质量管理体系的特殊要求。

1.2 本指导原则适用于第二类、第三类人工智能独立软件以及软件组件（软件组件参照执行）。

1.3 本指导原则遵循软件生存周期过程和网络安全的基本原则和通用要求，用于指导人工智能医学软件的生产质量管理体系现场检查，不涉及相关行政审批事项，亦不作为法规强制执行，应在遵循相关法规的前提下使用本指导原则。

本指导原则是在现行法规和标准体系以及当前认知水平下制定的，随着法规和标准的不断完善，以及科学技术的不断发展，在使用过程中应对相关内容适时进行调整。

第二部分  特殊要求

2.1 人员

2.1.1 软件开发、测试、维护人员应当具备与岗位职责要求相适宜的专业知识、实践经验和工作能力。人工智能软件健康数据采集人员、人工智能算法测试人员应经培训及考核通过后方可进行数据采集或测试。

2.1.2 黑盒测试应当保证同一软件项的开发人员和测试人员不得互相兼任。

2.1.3 用户测试人员应当具备适宜的软件产品使用经验，或经过培训具备适宜的软件产品使用技能。

2.1.4应明确数据采集人员、标注人员、审核人员、仲裁人员的选拔、培训、考核等要求。

2.2 设备

2.2.1 应当在软件生存周期过程持续提供充分、适宜、有效的软件开发和测试环境，包括软硬件设备、开发测试工具、网络等资源以及病毒防护、数据备份与恢复等保证措施。

2.2.2 软件开发和测试环境维护应当形成文件，确定软件开发和测试环境定期验证、更新升级、病毒防护等活动要求，保持相关记录。

2.2.3数据采集设备管理应明确兼容性和采集特征等要求。

2.2.4数据标注基础设施管理应明确标注场所、标注环境条件、标注软件等要求。

2.3 设计开发

2.3.1 应当结合软件生存周期模型特点建立软件生存周期过程控制程序并形成文件，确定软件开发策划、软件需求分析、软件设计、软件编码、验证与确认、软件更新、风险管理、缺陷管理、可追溯性分析、配置管理、文件与记录控制、现成软件使用、网络安全保证、软件发布、软件部署、软件停运等活动要求。

2.3.1.1人工智能医学软件应结合质量管理体系要求，参考软件、人工智能相关标准和良好工程实践，建立人工智能医学生存周期过程，开展与软件安全性级别相匹配的产品质量保证工作，将风险管理、可追溯分析贯穿于生存周期全程，形成记录。

2.3.2 软件生存周期过程质量保证活动要求应当与软件安全性级别相适宜。软件安全性级别应当在采取风险控制措施之前，结合软件的预期用途、使用场景和核心功能进行综合判定，并仅可通过外部风险控制措施降低级别。

2.3.3 应当依据风险管理控制程序实施软件风险管理活动，结合产品识别、分析、评价、控制和监测软件功能、接口、用户界面、现成软件、网络安全等风险，并贯穿于软件生存周期全过程。

2.3.3.1人工智能医学软件应明确算法的软件安全性级别（轻微、中等、严重）并详述判定理由。应形成算法风险管理资料，明确过拟合与欠拟合、假阴性与假阳性、数据污染与数据偏倚（如数据扩增）等风险的控制措施。

2.3.4 软件配置管理应当建立控制程序并形成文件，规范软件版本、源代码、文件、工具、现成软件、算法模型、数据库等控制要求，确定配置标识、变更控制、配置状态记录等活动要求。使用配置管理工具保证软件质量，并贯穿于软件生存周期全过程。

2.3.5 软件版本控制应当基于合规性要求确定软件版本命名规则，涵盖软件、现成软件、网络安全的全部软件更新类型，各字段含义应当明确且无歧义无矛盾。软件版本变更应当符合软件版本命名规则的要求。

2.3.5.1人工智能医学软件版本控制应涵盖软件算法更新类型（算法驱动型更新或数据驱动型更新），明确并区分重大软件更新和轻微软件更新。

2.3.6 软件可追溯性分析应当建立控制程序并形成文件，涵盖现成软件、网络安全的控制要求，形成软件可追溯性分析报告以供评审。使用可追溯性分析工具保证软件开发、软件更新过程满足可追溯性要求，并贯穿于软件生存周期全过程。

2.3.7 现成软件使用应当形成文件，确定风险管理、验证与确认、缺陷管理、可追溯性分析、软件更新、配置管理、文件与记录控制、网络安全保证等活动要求。遗留软件还应当确定现有文件、上市后使用情况、用户投诉、不良事件、召回情况等评估活动要求。使用开源软件应当遵循相应开源许可协议。

2.3.8 软件开发策划应当确定软件需求分析、软件设计、软件编码、验证与确认、风险管理、缺陷管理、可追溯性分析、配置管理、文件与记录控制、现成软件使用、网络安全保证、评审等活动计划，形成相关文件和记录，并适时更新。软件开发策划应当保证软件开发和测试的人员及环境与软件开发要求相适宜。

2.3.9 软件需求分析应当综合分析法规、标准、用户、产品、功能、性能、接口、用户界面、网络安全、警示提示等软件需求，确定风险管理、可追溯性分析、现成软件使用评估、软件确认测试计划创建、评审等活动要求，形成软件需求规范和评审记录并经批准，适时更新并经批准。可追溯性分析此时应当分析软件需求与风险管理、软件需求与产品需求的关系。

2.3.9.1人工智能医学软件需求分析应包括数据收集、算法性能、使用限制等要求。

2.3.10 软件设计应当依据软件需求规范实施软件体系架构、功能、性能、算法、接口、用户界面、单元、网络安全等设计，确定风险管理、可追溯性分析、现成软件使用评估、软件验证测试计划创建、评审等活动要求，形成软件设计规范和评审记录并经批准，适时更新并经批准。可追溯性分析此时应当分析软件设计与软件需求之间的关系。

2.3.10.1人工智能医学软件算法设计应当明确算法选择、算法训练、算法性能评估等要求。

2.3.11 软件编码应当依据软件设计规范实施，确定源代码编写与注释、现成软件使用、可追溯性分析、各级测试用例创建、评审等活动要求，形成评审记录，并适时更新。源代码编写与注释应当符合软件编码规则文件的要求。测试用例应当保证软件验证与确认测试的充分性、适宜性、有效性。可追溯性分析此时应当分析源代码与软件设计、源代码与测试用例的关系。

2.3.12 软件验证应当确定源代码审核、静态分析、动态分析、单元测试、集成测试、系统测试、评审等活动要求，涵盖现成软件、网络安全的验证要求，并保持相关记录。白盒测试应当确定语句、判定、条件、路径等测试覆盖率要求，并与软件安全性级别相适宜。

2.3.13 单元测试、集成测试、系统测试应当依据相应测试计划实施，涵盖现成软件、网络安全的测试要求，确定缺陷管理、风险管理、可追溯性分析、评审等活动要求，形成相应软件测试记录、测试报告以及评审记录，并适时更新。可追溯性分析此时应当分析各级测试用例与软件设计、系统测试与软件需求、系统测试与风险管理的关系。

2.3.14 软件确认应当确定用户测试、临床评价、评审等活动要求，涵盖现成软件、网络安全的确认要求，并保持相关记录。保证软件满足用户需求和预期目的，且软件已知剩余缺陷的风险均可接受。

2.3.14.1人工智能医学软件确认测试应当基于用户需求，由预期用户在真实或模拟使用场景下予以开展，亦可基于测评数据库予以开展。

2.3.15 用户测试应当依据用户测试计划在真实使用环境或模拟使用环境下实施，涵盖现成软件、网络安全的测试要求，确定缺陷管理、风险管理、可追溯性分析、评审等活动要求，形成用户测试记录、测试报告以及评审记录并经批准，适时更新并经批准。可追溯性分析此时应当分析用户测试与用户需求、用户测试与风险管理的关系。

2.3.16 软件更新应当形成文件，涵盖现成软件、网络安全的变更控制要求，确定软件更新请求评估、软件更新策划、软件更新实施、风险管理、验证与确认、缺陷管理、可追溯性分析、配置管理、文件与记录控制、评审、用户告知等活动要求，形成相关文件和记录并经批准，适时更新并经批准。软件版本变更应当与软件更新情况相匹配。验证与确认应当根据软件更新的类型、内容和程度实施相适宜的回归测试、用户测试等活动。

2.3.16.1人工智能医学若发生算法更新、软件更新，均应当按照质量管理体系的要求，开展与算法更新、软件更新的类型、内容和程度相适宜的验证与确认活动，将风险管理、可追溯分析贯穿于更新全程，形成记录。

2.3.16.2对于训练集调整后的软件更新，应当进行回归测试并形成相应的验证记录。

2.3.17 软件缺陷管理应当形成文件，确定软件缺陷评估、软件缺陷修复、回归测试、风险管理、配置管理、评审等活动要求，形成软件缺陷分析报告以供评审。使用缺陷管理工具保证软件质量，并贯穿于软件生存周期全过程。

2.3.18数据收集应明确数据采集、数据整理、数据标注、数据集构建等活动的质控要求，以保证数据质量和算法训练效果。

2.3.18.1数据采集应明确采集设备、采集过程、数据脱敏等质控要求，并建立数据采集操作规范。数据采集亦可使用历史数据，需结合样本规模、采集难度等影响因素合理选择数据采集方式。若适用，数据采集需经伦理委员会批准。

2.3.18.2采集的数据应进行数据脱敏以保护患者隐私，数据脱敏需明确脱敏的类型（静态、动态）、规则、方法以及脱敏内容的确定依据。

2.3.18.3数据整理应基于原始数据库明确数据清洗、数据预处理的质控要求。

2.3.18.4数据标注需建立数据标注操作规范，明确标注资源管理、标注过程质控、标注质量评估等要求。

2.3.18.5数据集构建明确训练集、调优集、测试集的划分方法、划分依据、数据分配比例。训练集原则上需保证样本分布具有均衡性，测试集、调优集原则上需保证样本分布符合真实情况，训练集、调优集、测试集的样本应两两无交集并通过查重予以验证。

2.3.18.6应对第三方数据库的应用管理形成文件，明确来源、保存、确认和使用要求，包括预期目的、来源、版本、数据库容量、更新情况、使用情况等。

2.4 采购

2.4.1 现成软件采购应当形成文件，根据现成软件的类型、使用方式、对产品质量影响程度，确定分类管理、质量控制、供应商审核等活动要求。

2.4.2 应当与供应商签订外包软件质量协议，明确外包软件需求分析、交付形式、验收方式与准则、设计开发文件交付、知识产权归属、维护等要求以及双方质量责任承担要求。

2.4.3 云计算服务协议应当明确网络安全保证、患者数据与隐私保护等责任承担要求。

2.4.4数据来源应当形成文件，应当明确数据来源的合规性，必要时应形成科研合作协议或伦理批件，明确数据收集活动要求。

2.5 生产管理

2.5.1 软件发布应当形成文件，确定软件产品文件创建、软件产品与文件归档备份、软件版本识别与标记、交付形式评估与验证、病毒防护等活动要求，保证软件发布的可重复性。

2.5.2 物理交付方式应当确定软件产品复制、许可授权以及存储媒介包装、标记、防护等要求，网络交付方式应当确定软件产品标记、许可授权、网络安全保证等要求。

2.6 质量控制

2.6.1 软件产品放行应当形成文件，确定软件版本识别、安装卸载测试、产品完整性检查、放行批准等活动要求，保持相关记录。

2.7 销售和售后服务

2.7.1 软件部署应当形成文件，确定交付、安装、设置、配置、用户培训等活动要求，保持相关记录。

2.7.2 软件停运应当形成文件，确定停运后续用户服务、数据迁移、患者数据与隐私保护、用户告知等活动要求，保持相关记录。

2.7.3在中国境内收集和产生的重要数据、个人信息和人类遗传资源信息应当在中国境内存储，因科学研究开发活动、业务需要向境外提供的，应当遵守国务院科学技术行政部门制定技术规范，按照国家网信部门会同国务院有关部门制定的办法进行安全评估。

2.7.4软件远程维护与升级应明确远程维护与升级的实现方法、所用电子接口情况、设备数据所含内容、设备数据与医疗数据的隔离方法、网络安全保证措施等技术特征。

2.8 不良事件监测、分析和改进

2.8.1 数据分析控制程序应当涵盖软件缺陷、网络安全事件要求。

2.8.2 网络安全事件应急响应应当形成文件，确定网络安全事件风险管理、应急响应措施验证、用户告知、召回等活动要求。     

2.8.3应对缓解网络安全风险采用的技术措施的有效性进行验证，保持相关记录。

第三部分 术  语

3.1 下列术语的含义是：

独立软件：具有一个或多个医疗目的，无需医疗器械硬件即可完成自身预期目的，运行于通用计算平台的软件。

软件组件：具有一个或多个医疗目的，控制、驱动医疗器械硬件或运行于医用计算平台的软件。

人工智能医学软件：采用人工智能技术的医疗器械独立软件和医疗器械软件组件。

软件安全性级别：基于软件风险程度分为轻微、中等和严重，其中轻微即软件不可能产生伤害，中等即软件可能直接或间接产生轻微伤害，严重即软件可能直接或间接产生严重伤害或导致死亡。

软件验证：通过提供客观证据认定软件开发、软件更新某一阶段的输出满足输入要求。

软件确认：通过提供客观证据认定软件满足用户需求和预期目的。

软件可追溯性分析：追踪软件需求、软件设计、源代码、软件测试、软件风险管理之间的关系，分析已识别关系的正确性、一致性、完整性和准确性。

软件更新：生产企业在软件生存周期全过程对软件所做的任一修改，亦称软件变更或软件维护。

软件停运：生产企业在软件生存周期过程末期终止对软件的售后服务和销售，亦称软件退市。

现成软件：生产企业未进行完整生存周期控制的软件，包括遗留软件、成品软件、外包软件。

遗留软件：生产企业以前开发但现在不能得到足够开发记录的软件。

成品软件：已开发且通常可得到的，但生产企业未进行完整生存周期控制的软件。

外包软件：生产企业委托第三方开发的软件。

网络安全：保持医疗器械相关数据的保密性、完整性和可得性。

算法驱动型更新：人工智能医疗器械所用算法、算法结构、算法流程、算法编程框架、输入输出数据类型等发生改变，通常属于重大软件更新。此外，算法重新训练即弃用原有训练数据而采用全新训练数据进行算法训练，亦属于算法驱动型更新。

数据驱动型更新：仅由训练数据量增加而发生的算法更新。数据驱动型更新是否属于重大软件更新原则上以算法性能评估结果（基于相同的测试集和算法性能评估指标）为准，算法性能评估结果若发生显著性改变则属于重大软件更新，即算法性能评估结果与前次注册（而非前次更新）相比存在统计学差异，反之属于轻微软件更新。

过拟合：指算法对于训练数据过度学习而将非普遍规律作为重要特征。

欠拟合：算法对于训练数据学习不充分而遗漏重要特征，均会降低算法泛化能力。

假阴性即漏诊，可能导致后续诊疗活动延误，特别是要考虑快速进展疾病的诊疗活动延误风险，而假阳性即误诊，可能导致后续不必要的诊疗活动。

附1：

人工智能医学软件现场检查要点

附2 ：编写单位

广东省药品监督管理局审评认证中心

附3 ：参考文献

[1]医疗器械生产质量管理规范[Z].

[2]医疗器械生产质量管理规范独立软件现场检查指导原则[Z].

[3]人工智能医疗器械注册审查指导原则[Z].

[4]医疗器械软件注册审查指导原则（2022年修订版）[Z].

[5]医疗器械网络安全注册审查指导原则（2022年修订版）[Z].

[6]YY/T 1833.1-2022人工智能医疗器械 质量要求和评价 第1部分：术语[S] .

[7]YY/T 1833.2-2022人工智能医疗器械 质量要求和评价 第2部分：数据集通用要求[S] .

[8]YY/T 1833.3-2022人工智能医疗器械 质量要求和评价 第3部分：数据标注通用要求[S] .

医咖网上课堂介绍

我们开设医咖网上课堂的初心就是为了方便大家学习，特别是利用零碎的时间利于上下班路上，饭后睡前的时间，能够随时随地系统性地学习医疗器械法规知识。医咖网上课堂开播四年多来，先后开设了GMP体系、13485、FDA、无菌、有源、注册、软件合规、器械英语、审评报告、全面质量管理、职场等600多节课程，深受业界欢迎！我们强烈建议大家加入医咖网课会员，仅需399元会员费就可以免费学习网上课堂已经开设地所有课程以及未来一年新增的所有课程。

医咖网上课堂学习有何优势，我们简单列几条供大家参考：

所有课程配套课件及音频，课件和讲解随动播放；

播放速度可调，从0.8-2倍，听不懂可慢放，快放则可节省时间；

听到一半有事走开，课程可随时暂停，回来后记忆位置可继续播放；

课程内容深入浅出，语言通俗易懂，保证能听懂；

一个人学太孤独，加入打卡学习群，有浓厚的学习氛围，还可讨论；

课代表每天督促按时打卡，坚持完成打卡可获得培训证书；

使用千聊APP，听课不影响使用微信，适合上下班路上或开车时听

已上线的课程较多，医咖为大家梳理出课程体系帮助理解学习

点击后可查看清晰大图

为了帮助大家更系统、更科学、更快捷地学习我们对课程体系进行了梳理和归并，形成了近20个学习营课程体系。每个学习营课程体系涵盖10节课！

来源：医疗人咖啡