简介
人工智能医疗器械在临床使用时须关注算法适用边界、数据安全与人工复核。本文说明算法验证与再验证、患者隐私保护、风险提示设置、人员培训记录与持续监测的具体做法,帮助医疗机构防范算法误判与数据泄露风险。
人工智能医疗器械走进临床后,带来了传统设备管理手册中没有的新问题:算法会随数据与场景变化而表现漂移,输出结论带有概率属性,模型训练所用的数据还涉及患者隐私。把这类产品管好,既要沿用医疗器械临床使用管理的基本框架,也要针对算法与数据特性补充新要求。
一、适用范围与产品属性
法规依据:《医疗器械临床使用管理办法》(国家卫生健康委员会令第8号,2021年3月1日施行)要求医疗机构规范医疗器械临床使用管理;人工智能医疗器械若按医疗器械管理,须取得相应注册或备案,其说明书载明的适用范围与禁忌是使用的基本依据。
核心要求:临床科室必须严格在注册批准的适用范围与使用条件下使用,不得擅自扩大适应证或改变预期用途。
实操做法:在院内建立人工智能医疗器械清单,逐台登记注册信息、适用范围与部署方式,明确临床使用科室与责任人。
- 梳理院内人工智能医疗器械台账;
- 核对其注册批准适用范围;
- 明确使用科室与操作责任。
检查要点:核查是否存在超适用范围使用、软件版本与注册信息不一致、台账遗漏等情况。
二、算法性能验证与再验证
法规依据:《医疗器械临床使用管理办法》要求遵循安全、有效原则并对临床使用实施评价,人工智能产品的性能表现需要在本机构真实环境中得到验证。
核心要求:部署前应在本地数据上开展验证,确认算法在本机构人群与设备条件下的表现符合预期,不得直接沿用厂家宣传指标。
实操做法:选取回顾性样本开展本地验证,记录灵敏度、特异度等指标,形成验证报告后方可投入临床辅助使用。
- 确定本地验证样本与评价指标;
- 开展回顾性测试并记录结果;
- 形成验证报告并提交审批。
检查要点:关注验证样本是否具有代表性,指标是否与临床实际关注点一致,软件更新后是否重新验证。
三、数据安全与隐私保护
法规依据:使用人工智能产品涉及患者健康信息处理,须遵守《中华人民共和国个人信息保护法》《中华人民共和国网络安全法》以及医疗健康数据管理相关规定。
核心要求:数据采集、传输与存储应符合最小必要原则,涉及向外部传输或云端处理时须完成评估与授权。
实操做法:明确数据流向图,落实去标识化处理,与供应商签订数据安全协议,禁止未经批准将影像或病历数据外传。
- 绘制数据流向与存储位置图;
- 完成去标识化与访问权限设置;
- 签署数据安全与保密协议。
检查要点:核查终端设备是否安装未经批准的数据导出工具,供应商远程维护是否留痕并受控。
四、风险提示与人工复核
法规依据:《医疗器械临床使用管理办法》要求医疗机构保障临床使用安全,对可能产生误判的辅助决策类产品应设置必要的复核环节。
核心要求:明确人工智能输出仅为辅助意见,最终诊疗结论须由具备资质的医师作出,不得以算法结果替代医师判断。
实操做法:在系统界面标注辅助性质与置信度提示,对低置信度结果强制提示人工复核,形成双签记录。
- 界面标注辅助定位与提示语;
- 对异常或低置信度结果强制复核;
- 记录医师采纳或否定的意见。
检查要点:抽查运行日志,确认是否存在直接采纳算法结论未经医师审核的情形。
五、培训、记录与持续监测
法规依据:《医疗器械临床使用管理办法》要求医疗机构加强人员培训与安全管理,使用中发现问题应纳入监测报告范围。
核心要求:操作人员须经培训考核后方可使用,使用过程应留存记录,运行异常与疑似误判应及时报告。
实操做法:建立培训与授权台账,按周期评估算法在实际使用中的准确率与告警情况,异常波动时暂停使用并联系持有人处理。
- 开展培训并记录考核结果;
- 持续监测输出准确率与异常情况;
- 发现风险及时上报并处置。
检查要点:核对培训授权记录与实际操作人员是否匹配,风险处置要求可对照官方来源核实。
结语:人工智能医疗器械不会削弱人的责任,反而要求更清晰的权责划分。守住适用范围、做实本地验证、管好数据流向、坚持人工复核、持续跟踪表现,新技术才能真正成为临床的助力而非隐患。
