美国发布人工智能/机器学习独立软件更新监管框架草案

为解决持续学习型人工智能（AI）/机器学习（ML）独立软件（SaMD）更新是否需要提交上市前申报这一关键问题，美国食品药品监督管理局（FDA）于2019年4月发布了AI/ML独立软件更新监管框架草案，公开征求公众意见。

一、依据基础

该框架草案的依据基础包括国际医疗器械监管机构论坛（IMDRF）独立软件工作组的独立软件风险框架、FDA受益-风险评估框架、FDA软件更新申报指南风险管理原则，以及FDA软件预认证（Pre-Cert）试点项目的全生命周期管理方法。

该框架草案适用于现有上市前申报途径，包括上市前通告（510k）、重新分类（De novo）、上市前批准（PMA）。

二、AI/ML独立软件分类

AI/ML独立软件的风险水平依据IMDRF SaMD风险框架可分为四类，即从风险最低（I类）到风险最高（IV类）。

AI/ML独立软件在学习方式上可分为锁定算法与自适应算法。其中，锁定算法是指每次提供相同的输入时都能得到相同结果，软件更新及确认需要手动处理；自适应算法（如持续学习算法）会利用既定学习进程来改变自身行为表现，相同输入在软件更新前后可能会得到不同输出结果，软件更新及确认通常会自动处理。

算法锁定是FDA长期以来对于AI/ML独立软件的监管要求，考虑到持续学习的特性，该框架草案重点关注自适应算法的监管要求。

三、AI/ML独立软件更新类型

AI/ML独立软件更新类型包括：（1）与性能相关的修改，但不改变预期用途或输入；（2）与输入相关的修改，但不改变预期用途；（3）与预期用途相关的修改。不同更新类型对于用户影响是不同的。

四、AI/ML独立软件全生命周期管理方法

FDA希望AI/ML独立软件制造商能够遵循质量与组织卓越文化以及良好机器学习实践（GMLP）的原则开发、维护软件。GMLP是与良好软件工程实践类似的AI/ML最佳实践规范，包括数据管理、特征提取、训练和评价等方面。

FDA拟采用“预定变更控制计划”方法实现自适应算法的有效监管，其建议制造商在AI/ML独立软件上市前申报时提交软件更新预期规范（SPS）和算法变更方案（ACP）。其中，SPS是指制造商计划在软件上市后实施的与性能、输入、预期用途相关的软件更新规格说明，ACP是指制造商为控制SPS所述软件更新风险而采取的具体方法。

FDA计划通过SPS和ACP实现AI/ML独立软件上市后软件更新的有效监管。若软件更新属于经批准的SPS和ACP的范围之内，制造商通过质量管理体系进行控制，无需提交上市前申报；反之，制造商需要针对软件更新提交新上市前申报。

AI/ML独立软件上市后监管工作重点关注公开透明原则和真实世界性能监测。公开透明原则要求制造商要向FDA、用户、公众等利益相关方发布软件更新报告，确保标签变更能够准确全面阐明SPS和ACP的修改内容，建立确保公开透明的用户沟通机制。真实世界性能监测可以通过Pre-Cert试点项目、年度报告等方式予以实现。

参考文献：

[1] FDA.Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback.