人工智能医疗器械的监管会面临哪些挑战（人工智能医疗器械监管）

人工智能医疗器械是利用人工智能技术实现医疗目的的医疗器械，所以，人工智能医疗器械的监管会面临人工智能技术的特点。

因为人工智能涉及到版本、数据、算法等升级需求，所以人工智能技术就拥有了快速迭代特性。而算法更新对于人工智能医疗器械安全性和有效性的影响具有不确定性，可能会提升产品性能，也可能会降低产品性能，甚至导致产品召回。若每次算法更新均需变更注册，不仅会大幅增加注册人负担，而且会占用大量监管资源。如何规范人工智能医疗器械算法更新的监管要求，是监管研究的重点。

人工智能技术需要高质量医学数据进行算法训练，尤其是基于数据的算法。由于受多方面客观条件的限制，算法训练所用数据存在数据质量不高、数据量不足、数据多样性不够、数据分布不合理等问题，易引入算法偏倚，降低算法泛化能力，导致产品难以在临床落地。如何控制人工智能医疗器械的算法偏倚以保证算法泛化能力，也需要深入研究。

人工智能技术包含黑盒算法，黑盒算法可解释性差。由于医疗决策路径复杂，存在不确定性和开放性，故因果性对于医疗决策至关重要。而黑盒算法仅是反映输出与输入的相关性而非因果性，难以与现有医学知识建立有效关联，用户知其然不知其所以然，不利于后续医疗决策。如何提升人工智能医疗器械所用黑盒算法的透明度以增强可解释性，亦需加强研究。

此外，人工智能技术包含多种算法，虽然不同的算法具有不同的技术特点，但它们之间存在交叉和包含关系，没有明确严格的分界线。 同时，不同算法在医疗场景中的应用和程度也不同。 有单独使用和组合使用的情况，分界线不明确。 这些模糊性使得人工智能医疗器械的监管范围难以确定。