首页> 纪检纪实 >正文

法庭内外 | 人工智能介入医疗诊断，是“久旱甘霖”还是“洪水猛兽”？

时间：2023-10-25 来源：上海政法综治网 作者：佚名

　　随着人工智能的迅猛发展，其在医疗领域的发展吸引众多关注。医疗资源不足、医疗资源配置不均衡是当前面临的难题，人口老龄化、慢性病群体扩张加剧了医疗供需不足的矛盾，医疗人工智能的发展有望使上述问题得到改善。

　　一、人工智能在医疗场景中如何运用？

　　目前，人工智能已在智能诊疗、人工智能影像识别、医疗辅助设备、健康管理和药物开发等医疗场景中得到运用。其中，人工智能识别影像在实践中运用广泛、认可度高。

　　我国已批准肺结节CT影像辅助检测软件、冠脉CT造影图像血管狭窄辅助分诊软件、糖尿病视网膜病变眼底图像辅助诊断软件等医疗产品上市。这类人工智能识别影像通过对B超、X光片、CT等各类医疗影像数据的深度处理，使用卷积、汇集等操作将输入图像的顺序转换为扁平向量，以输出向量的元素表示疾病存在的概率，生成疾病诊断的建议。

　　我国人均拥有医生数仅为0.0021人，影像和病理学医生人才缺口已达10万，深度学习后的人工智能识别影像诊断技术可以极大提高诊断效率，同时人才培养成本上优势显著。

　　此外，医疗辅助设备的研发与推广也取得显著成效。如“达芬奇手术AI”（内窥镜手术器械控制系统），可以在医生的操作下，利用手术器械模拟医生的手术过程，完成精细化的手术操作。其辅助成像系统可以将手术的视觉放大10倍至15倍，机械臂能进行大角度自由旋转，达到医生手术刀不能及的位置，且不会出现人工操作时颤抖的情况，减小伤口创伤面，减轻病人痛苦，加快术后恢复。

　　当前，智能诊疗是人工智能在医疗产业的核心应用场景，其利用计算机强大的学习能力，在积累学习足够多的医疗案例后模拟医生思维，给出准确的诊疗方案。如IBM公司的癌症诊断系统沃森（Watson），可以为肺癌、乳腺癌、直肠癌、胃癌等多种癌症的患者推荐个性化的治疗方案。

　　一是拥有深度学习与自我迭代的能力。

　　智能诊断是在现有医疗数据的基础上进行整合学习获得智能诊断能力。现有医疗数据库越大，其可供人工智能吸收学习的内容便越多，其所获得的诊断水平也就越接近最高水平的医务人员。Watson能够在17秒内阅读3469本医学专著、248000篇论文、69种治疗方案、61540次试验数据、106000份临床报告。

　　二是具有高诊断效率，这种高效率是人类所无法企及的。

　　人工智能通过学习海量的医学数据和专业知识，模拟医生的诊断方式，可在短时间内提供出高效、精准的诊断结果和个性化的治疗方案。

　　如在Watson系统中，输入患者的电子病历等信息，Watson能够快速挖掘医学知识和患者的个人记录，在不到3秒钟的时间内完成诊断，曾用10分钟将病人的基因变化信息与2000万篇癌症科研论文的数据进行比较，准确鉴定了罕见白血病类型。

　　三是拓宽医疗影像诊断应用场景。

　　人工智能医疗可以拓宽传统医疗机构在空间和级别上的接诊范围。

　　如医疗资源相对补充分的地区医院影像诊断专家不足，可申请与会诊医院、区域影像服务中心共同完成远程会诊；小型医院、社区卫生服务中心诊断也可委托大型医院、区域医学影像服务中心或第三方独立医学影像中心进行诊断。

　　二、责任承担：人还是机器？

　　人工智能诊疗不同于医生，无法照顾到病人的情绪与文化背景，无法对病患进行人文关怀与特殊群体保护。在设置智能诊疗程序时，应该尤其关注人工智能可能存在的偏见，特别是涉及种族、民族、性别等敏感话题，以及老年人、儿童、妇女、残障人士和数字贫民等弱势群体。

　　当人工智能发生误诊等医疗侵权行为时，责任判定往往存在争议。

　　当前学术界持有三种观点：

　　“肯定说”认为，机器人获得人类所具备的情感、智慧和思维，具备一定表达能力和自我决定能力是一种应然状态，理应享有相应法律人格与法律地位。

　　“否定说”认为，人工智能是为人所创造并为人服务，依附于人的存在，无法超越人现有经验的经验，故不具备独立的法律人格。

　　“折中说”认为，现阶段的人工智能包括机器人等，确是作为一种工具存在，但随着技术更新发展也具备了人的很多特性，从某种意义上说也超越了工具的局限性，但总体而言仍无法达到智慧人感性与理性的高度，故应赋予其有限法律人格为宜。

　　当下处于弱人工智能时代，医疗人工智能的定位是辅助医生进行疾病诊疗的医疗设备和软件系统，不能独立承担法律责任，但仍会产生侵权损害赔偿责任由软件开发者、制造商、销售者、所有者，还是使用者来承担的问题。

　　我国食品药品监督管理局2018年8月1日施行的新版《医疗器械分类目录》规定，若诊断软件通过其算法，提供诊断建议，仅具有辅助诊断功能，不直接给出诊断结论，按照第二类医疗器械管理；如果对病变部位进行自动识别，并提供明确的诊断提示，按照第三类医疗器械管理。

　　2017年2月，原国家卫生计生委印发的《人工智能辅助诊断技术管理规范（2017年版）》就明确规定：“人工智能辅助诊断技术为辅助诊断和临床决策支持系统，不能作为临床最终诊断，仅作为临床辅助诊断和参考，最终诊断必须由有资质的临床医师确定”。

　　当到达强人工智能阶段，可能会出现具有法律人格或类法律人格的智能机器人，其可能作为独立主体进行诊断或治疗，医疗人工智能如达到作为主体“医生”的各项要求，那么在出现医疗损害时，可能需要法院在具体案件中就其能否成为承担法律责任主体作出回答。

　　三、未来构想：以事前合规管控破解算法“黑箱”

　　医疗人工智能最令人生惧的是其“黑箱”属性——

　　医生无法获知算法给出某一诊断建议的依据或者逻辑，也就难以判断该诊断建议是否正确、是否可以采纳。

　　智能诊疗基于对以往诊断数据的学习分析，给患者提出诊疗方案，但如果医疗数据出现虚假、不完整等瑕疵，人工智能判断可能会出现误差甚至错误，危及患者人身安全。

　　在当前技术阶段，破解算法“黑箱”面临两难困境：

　　一方面，目前医疗人工智能的研发者、生产者、应用者，无法解决其算法的可靠性、透明性、可解释性及可问责性问题；

　　另一方面，全面公开算法接受监督则可能会遇到知识产权问题。

　　因此，创新医疗人工智能算法的合规管理手段，需要绕开“黑箱”技术限制。事前合规管控或许是破解两难问题的有效路径。在算法的研发、生产、应用过程当中，设置医疗人工智能应遵循的正当程序，以识别、预防、杜绝可能发生的违法犯罪风险。

　　探讨该正当程序的涉及的范围与细节标准，则有待“未来法学”作进一步探索。面对日新月异的技术更迭，“先行一步”的法学探讨给规则社会带来更多的容错空间与稳定预期。

　　参考文献

　　1.刘建利：《医疗人工智能临床应用的法律挑战及应对》，载于《东方法学》2019年第5期。

　　2.胡卫华、徐青松：《弱人工智能时代医疗损害的法律困惑与对策建议》，载于《中国卫生法制》2023年5月第31卷第3期。

　　3.何炼红、王志雄：《人工智能医疗影像诊断侵权损害赔偿法律问题》，载于《政治与法律》2020年第3期。

　　4.郑志峰：《诊疗人工智能的医疗损害责任》，载于《中国法学》2023年第1期。

　　5.霍俊阁：《刑事合规视角下医疗人工智能算法管理体系建构》，载于《医学与社会》2023年7月第36卷第7期。

原文链接：http://www.shzfzz.net/node2/zzb/n4484/n4490/n4509/u1ai1666316.html
[免责声明] 本文来源于网络转载，仅供学习交流使用，不构成商业目的。版权归原作者所有，如涉及作品内容、版权和其它问题，请在30日内与本网联系，我们将在第一时间处理。