医疗人工智能算法的法律规制识别

• 영문명: Legal identification of medical artificial intelligence algorithm
• 발행기관: 원광대학교 법학연구소(의생명과학법센터)
• 저자명: 위안 쯔쑤안(Yuan Zixuan)(袁梓旋)
• 간행물 정보: 『의생명과학과 법』제30권, 63~87쪽, 전체 25쪽
• 주제분류: 법학 > 민법
• 파일형태: PDF
• 발행일자: 2023.12.31

국문 초록

의료인공지능의 알고리즘을 적용하는 과정에서 진료행위의 투명성 부족, 의료 알고리즘의 편견 유도, 보안 부족으로 인한 문제 등이 발생한다. 이러한 문제로 인한 위험을 예방하는 과정에서 전통적 규제 결함을 비롯하여 의료인공지능의 민사주체로서 지위의 모호함과 의료 알고리즘 권한에 대한 통제의 불균형, 그리고 의료행위 책임주체의 추적에 대한 어려움 등 현실적으로 해결해야 할 것들이 나타난다. 이는 의료인공지능에 대한 기술적 도전으로 법적 구제수단을 명확히 할 필요가 있다. 즉, 의료인공지능에 대해 기존의 의료불법행위에 기초하여 새로운 의료행위의 개념을 세워야 한다. 이에 본 연구는 의료인공지능의 알고리즘에 대해 어떻게 규제할 것인지를 중점으로 의료인공지능의 발전를 위한 입법적 해결방안을 제시하고자 하였다. 우선, 알고리즘 규제의 관점에서 의료 알고리즘의 발전 현황을 바탕으로 의료인공지능 알고리즘을 하나의 제품으로 간주하였다. 즉, 의료인공지능 알고리즘을 인공지능기술의 응용 발전에 대한 방향성 지침을 명확히 하기 위함이다. 의료인공지능이 궁극적으로 과학기술의 발전으로 실현될 수 있는지는 여러 요인에 의해 영향을 받는다. 이에 관련법의 역할은 (1) 환자의 권리를 보호하고, (2) 의료사고를 통제 또는 회피하는데 중점을 두는지, (3) 의료 알고리즘의 활용에 있어 R&D 설계자가 의료데이터의 규범성 및 의료 알고리즘 제품 운영의 안전성을 검토하도록 하고, (4) 의료행위로 인한 침해행위에 대해 책임을 부담하도록 하는 것이다. 이러한 법적 보장을 통해 의료 알고리즘의 안전성과 신뢰성을 제고할 수 있다. 본 연구에서는 이러한 점에 기초하여 의료인공지능의 알고리즘 규제에 대한 입법에 있어 환자의 권리보호를 중심으로 검토함으로써 향후 의료인공지능이 의료분야에서 긍정적 발전을 촉진할 수 있는 좋은 자료가 될 것이라 본다.

영문 초록

In the application of medical artificial intelligence algorithm, there are risks such as limited autonomy of diagnosis and treatment activities, lack of transparency in diagnosis and treatment process, biased induction of medical algorithm and lack of security. In the process of risk prevention, there are some practical challenges, such as the defects of traditional supervision, the vague definition of subject qualification, the imbalance of algorithmic power control, and the difficulty in tracing the responsible subject, which urgently need to be relieved by legal means. Based on the integrity of the legal system and the particularity of medical application scenarios. This paper studies the regulation of medical artificial intelligence algorithm from the perspective of algorithm regulation. Based on the development status of artificial intelligence algorithm, it regards medical artificial intelligence algorithm as a product and provides directional guidance for the application and development of medical artificial intelligence. Whether the medical artificial intelligence can finally realize the improvement of science and technology will be affected by many factors. The role of law in it focuses on preventing, controlling or avoiding the algorithm risks to patients' rights. When using the medical artificial intelligence algorithm, the R&D designer needs to review the standardization of medical data and the safety of medical algorithm products and bear the tort liability to ensure the safety and reliability of medical algorithms. For the effective prevention and control of medical artificial intelligence algorithm risk, it is necessary to clarify the dilemma of medical artificial intelligence algorithm risk prevention and control in order to make accurate policies. This paper holds that the legislation of medical artificial intelligence algorithm regulation in China should focus on the protection of patients' rights. Legislation should choose to improve the relevant content of algorithm regulation in the existing legislation related to patient rights protection and algorithm regulation on the basis of maintaining the integrity and systematization of legislation, so as to promote the benign development of artificial intelligence algorithm in the medical field. 医疗人工智能算法应用过程中存在诊疗活动自主性受限、诊疗过程透明性匮乏、医疗算法偏见性诱导以及安全性缺失风险。在风险防治过程中出现了传统监管缺陷、主体资格界定模糊、算法权力控制失衡、责任主体追溯难等现实挑战，迫切需要运用法律手段予以纾解。基于对法律体系完整性和医疗应用场景的特殊性。本文对医疗人工智能算法的规制研究以算法规制为视角，基于人工智能算法发展现状，将医疗人工智能算法视为产品，对医疗人工智能的应用发展提供方向性指引。医疗人工智能最终能否实现科技向善将受到多种因素影响，法律在其中的作用集中于预防、控制或避免算法风险对患者权利，医疗人工智能算法使用时，研发设计者需要对医疗数据的规范性和医疗算法产品运行的安全性进行审查并承担侵权责任，以确保医疗算法的安全可靠。对于医疗人工智能算法风险的有效防治，需要厘清医疗人工智能算法风险防治的困境，以便精准施策。本文认为，我国医疗人工智能算法规制立法应当以患者权利保障为核心。立法应当选择在保持立法的完整性和体系性的基础上，针对算法风险，将算法规制的相关内容在已有的患者权利保障和算法规制相关的立法当中进行完善，从而促进人工智能算法在医疗领域良性发展。

목차

一、序言

二、医疗人工智能算法的规制缺位

三、医疗人工智能算法规制的法律正当性

四、完善医疗人工智能算法的权责界定

五、结语

키워드

플랫폼 거래주체 플랫폼 권한 불법행위책임 의료 알고리즘 법적 관리감독 platform trading subject Platform power Tort liability Medical algorithm Legal supervision 平台交易主体 平台权力 侵权责任 医疗算法 法律监管