調(diào)研背景隨著人工智能技術(shù)的進步,其在醫(yī)療領(lǐng)域的應(yīng)用越來越廣泛,如診斷、治療、護理等多個環(huán)節(jié)。但是在法律與監(jiān)管層面,當前針對醫(yī)療人工智能的相關(guān)法律法規(guī)還不夠完善,缺乏具體規(guī)定和標準,使得在認定侵權(quán)責(zé)任主體、歸責(zé)原則等方面缺乏明確法律依據(jù)。醫(yī)療人工智能產(chǎn)業(yè)發(fā)展迅速,為保障產(chǎn)業(yè)的健康可持續(xù)發(fā)展,需要明確侵權(quán)責(zé)任等問題,以規(guī)范市場秩序,保護各方合法權(quán)益。對此武漢大學(xué)法學(xué)院醫(yī)療人工智能侵權(quán)實踐隊的隊員們從患者、醫(yī)院、法院等多個角度展開了18次個人實踐。
組織保障為了深入研究醫(yī)療人工智能侵權(quán)責(zé)任認定問題,學(xué)習(xí)貫徹習(xí)近平總書記系列重要講話精神和重要回信精神,發(fā)揚共青團員的優(yōu)秀品質(zhì),實踐隊成立臨時團支部,由李紫瑤擔(dān)任臨時團支部書記,李靜珊擔(dān)任組織委員,胡文卿擔(dān)任宣傳委員,為實踐的順利進行提供了保障。
01患者角度的思考2025年1月21日,蘇丹陽選擇個體經(jīng)濟從業(yè)者、心臟搭橋手術(shù)患者蘇良軍作為實踐對象,進行了一次深入的訪談?wù){(diào)研。了解到醫(yī)療人工智能的應(yīng)用效果顯著:在心臟搭橋手術(shù)中,人工智能系統(tǒng)能夠精確分析患者的心臟狀況,制定科學(xué)的手術(shù)方案,并在手術(shù)過程中實時監(jiān)測,確保手術(shù)的精準性和安全性。但也需要加強監(jiān)管和規(guī)范使用,以防止數(shù)據(jù)泄露、誤診誤治等侵權(quán)問題的發(fā)生。隊員蘇丹陽從患者的角度出發(fā),了解到醫(yī)療人工智能潛在的缺陷,為相關(guān)法律問題的研究提供的切口。
02醫(yī)院角度的思考1月17日:陳卓汐前往協(xié)和醫(yī)院調(diào)研隊員陳卓汐前往福建醫(yī)科大學(xué)附屬協(xié)和醫(yī)院,對基本外科副主任醫(yī)師林賢超醫(yī)生進行了關(guān)于醫(yī)療人工智能應(yīng)用情況和侵權(quán)責(zé)任問題的訪談。她了解到醫(yī)院已引進兩臺內(nèi)窺鏡手術(shù)器械控制系統(tǒng),廣泛應(yīng)用于外科手術(shù);骨科配備專用手術(shù)臺;影像科利用人工智能進行影像初篩;胸外科也借助VR技術(shù)進行肺結(jié)節(jié)手術(shù)。醫(yī)療AI的運用已經(jīng)十分廣泛。但是相關(guān)的侵權(quán)問題尚且沒有解決辦法。目前醫(yī)院尚無明確細則,醫(yī)療人工智能相關(guān)事故與普通醫(yī)療糾紛共同處理。林主任認為,除非完全由機器人故障導(dǎo)致事故,否則責(zé)任主體應(yīng)為醫(yī)生。人工智能的診斷建議僅供參考,最終診斷責(zé)任仍由醫(yī)生承擔(dān)。
總而言之,醫(yī)療人工智能在臨床實踐中展現(xiàn)出顯著優(yōu)勢,但也面臨技術(shù)故障、信息泄露等風(fēng)險。未來需進一步明確責(zé)任劃分,優(yōu)化工作流程,推動醫(yī)療人工智能的廣泛應(yīng)用與發(fā)展。
1月22日:項馨嬋前往兩地進行調(diào)研隊員項馨嬋前往上海市閔行區(qū)精神衛(wèi)生中心、浙江大學(xué)第四附屬醫(yī)院進行調(diào)研。她發(fā)現(xiàn)在醫(yī)療AI的應(yīng)用實際方面,閔行區(qū)精神衛(wèi)生中心主要在醫(yī)療服務(wù)層面引入人工智能技術(shù),在治療層面目前應(yīng)用還不深入,僅有引入虛擬現(xiàn)實脫敏治療設(shè)備進行心理干預(yù)的打算。而浙江大學(xué)第四附屬醫(yī)院作為一所綜合性醫(yī)院,在服務(wù)與治療層面,都對醫(yī)療AI有進一步的深入應(yīng)用。引入醫(yī)療AI進行輔助前,兩所醫(yī)院都有對醫(yī)護人員進行技術(shù)培訓(xùn)的意識,但引入醫(yī)療AI系統(tǒng)后的管理與風(fēng)險規(guī)范制度,在兩所醫(yī)院都有所欠缺。
目前,兩所醫(yī)院均未針對醫(yī)療AI安排醫(yī)院內(nèi)部的專門管理人員與科室,且并未制定針對醫(yī)療AI的管理、風(fēng)險規(guī)范制度。如若不幸發(fā)生與醫(yī)療AI相關(guān)的醫(yī)療事故,制度的欠缺將會為責(zé)任歸因帶來隱患。
醫(yī)療AI的應(yīng)用為患者帶來了切實的好處。但醫(yī)療AI在實際應(yīng)用中仍然存在法律與倫理上的風(fēng)險精神健康領(lǐng)域,AI的應(yīng)用在倫理上存在較大隱患。同時,人工智能技術(shù)體現(xiàn)著背后的語料庫與開發(fā)者的價值觀。當醫(yī)療AI被有心之人利用,可能會進一步引導(dǎo)心理疾病患者走向絕望的深淵。
另一方面,在醫(yī)療事故的法律責(zé)任歸因上,目前醫(yī)院存在“一刀切”問題,將責(zé)任歸于醫(yī)師以求迅速平息輿論。人工智能技術(shù)本身與技術(shù)開發(fā)商或許是技術(shù)故障的主要責(zé)任方,但現(xiàn)存制度較難對技術(shù)進行進一步的追責(zé)。此時,使用醫(yī)療AI的醫(yī)護人員將會面臨較大的壓力與風(fēng)險。
項馨嬋認為,制度制定的欠缺導(dǎo)致事故、侵權(quán)的責(zé)任歸因存在隱患,包括技術(shù)管理制度、應(yīng)急處理制度、責(zé)任歸因制度的明確制定。預(yù)防未來潛在的責(zé)任歸因難題,需要社會各界包括學(xué)界、政府、醫(yī)院一同努力,推動醫(yī)療AI配套制度的完善,為人民群眾生命財產(chǎn)權(quán)利把好關(guān)。
1月21日:徐沈胤前往人民醫(yī)院調(diào)研隊員徐沈胤前往無錫市人民醫(yī)院進行實地調(diào)研,從醫(yī)生和護士兩個不同的角度提出了思考。在采訪中,肝膽外科的主治醫(yī)師詳細介紹了機器人手術(shù)在肝葉切除、膽道修復(fù)、胰十二指腸切除等高精度手術(shù)中的應(yīng)用。他指出,機器人手術(shù)具備三大優(yōu)勢:手術(shù)精準度更高、術(shù)中出血量減少、術(shù)后恢復(fù)更快。然而,醫(yī)生也坦言,機器人手術(shù)仍存在三大挑戰(zhàn):設(shè)備依賴風(fēng)險、高昂的設(shè)備成本、法律責(zé)任歸屬不明確。醫(yī)生強調(diào),雖然AI 提升了手術(shù)質(zhì)量,但醫(yī)生的經(jīng)驗和判斷力依然是決定手術(shù)成敗的關(guān)鍵。
手術(shù)室護士長的訪談更側(cè)重于護士的角色變化。她表示,機器人手術(shù)并未減少護士的工作量,反而讓護士的職責(zé)更復(fù)雜化。此外,護士長提到,醫(yī)院已對護士團隊開展專項培訓(xùn),幫助她們適應(yīng)機器人手術(shù)的節(jié)奏。
同時,醫(yī)療人工智能的發(fā)展也對現(xiàn)行法律提出了挑戰(zhàn)。一方面是醫(yī)療責(zé)任主體的界定,目前,醫(yī)療侵權(quán)責(zé)任通常由醫(yī)生或醫(yī)院承擔(dān),但當手術(shù)由人工智能輔助完成時,責(zé)任主體可能涉及多個層面。但是目前,我國現(xiàn)行法律尚未對此做出明確規(guī)定,這也是醫(yī)療人工智能發(fā)展中亟待解決的問題之一。
另一方面,是患者權(quán)益保護問題。尤其是知情同意與數(shù)據(jù)安全。訪談中,醫(yī)生和護士均提到,醫(yī)院會在術(shù)前向患者詳細說明機器人手術(shù)的優(yōu)勢和風(fēng)險,并簽署知情同意書。然而,現(xiàn)實中,患者往往對 AI 手術(shù)的潛在風(fēng)險認知不足,是否真正實現(xiàn)了“充分知情”仍存疑問。
徐沈胤結(jié)合訪談經(jīng)驗和相關(guān)學(xué)術(shù)研究,對此提出了自己的思考:構(gòu)建人工智能醫(yī)療責(zé)任劃分體系,明確醫(yī)生、醫(yī)院、設(shè)備廠商、算法開發(fā)者的責(zé)任邊界;優(yōu)化手術(shù)事故處理機制,建立AI 手術(shù)事故專家評審制度,科學(xué)界定事故責(zé)任;加強患者知情權(quán)保護,確;颊哒嬲私釧I手術(shù)的利弊及可能風(fēng)險。
03法院角度的思考侵權(quán)責(zé)任問題的研究不僅要看到目前醫(yī)院里存在的問題,更要看到法律的匡正。隊員們走進各大法院去實地調(diào)研目前的法律監(jiān)督力度以及未來的發(fā)展情況。
1月23日,隊員劉藝然前往邵陽市中級人民法院進行調(diào)研在與民事審判庭第三庭副庭長王彥懿的訪談過程中,她了解到該法院暫未受理過醫(yī)療人工智能相關(guān)案件,但持續(xù)關(guān)注著醫(yī)療人工智能的發(fā)展,認為未來可能引起糾紛但頻率不高。但糾紛大概率是新型醫(yī)療損害糾紛,涉及多個責(zé)任主體,因果關(guān)系判斷仍然適用傳統(tǒng)方法。對于行業(yè)發(fā)展與前景展望,王彥懿指出法律框架需要完善,建議立法先行,法院借助專家?guī)斓刃问脚c專家合作,提高審判質(zhì)量;與行業(yè)部門合作,通過合議庭與培訓(xùn)進行法律與數(shù)據(jù)素養(yǎng)的跨學(xué)科協(xié)作來保證司法公平。
綜上所述,面對醫(yī)療人工智能這一新領(lǐng)域,法院并未做好充分的準備。一是受目前的經(jīng)濟條件和地域條件制約。二是受法律法規(guī)的滯后性制約,訪談中醫(yī)院和法院的受訪者均表示需要立法先行,才能保證醫(yī)院應(yīng)用醫(yī)療人工智能的規(guī)范性和法院審理人工智能相關(guān)案件的公正性。
對于醫(yī)療人工智能侵權(quán)責(zé)任認定,本次訪談中,受訪者表示傳統(tǒng)的因果關(guān)系認定方法仍然適用,即相當因果關(guān)系說:首先判斷行為和損害結(jié)果之間是否存在事實上的因果關(guān)系,在事實因果關(guān)系確定之后,再進一步判斷該條件是否具有“相當性”,即是否有效增加了損害發(fā)生的可能性。但不可否認的是,醫(yī)療人工智能侵權(quán)可能涉及多個責(zé)任主體,行為的歸屬因此難以認定,可能需要根據(jù)比例原則來劃分責(zé)任比例。人工智能是輔助性工具,醫(yī)務(wù)人員需負擔(dān)適當?shù)脑倥袛嗔x務(wù),但不能以此義務(wù)是否履行為標準來判斷醫(yī)務(wù)人員診療過失,醫(yī)務(wù)人員很可能因為條件限制得出錯誤的判斷,但并不存在診療過失。不排除存在醫(yī)務(wù)人員沒有診療過失,但診療人工智能不符合理性算法標準、存在缺陷的情形。在此情形中,考慮到醫(yī)療人工智能屬于醫(yī)療產(chǎn)品,可以適用產(chǎn)品質(zhì)量法。
總之,醫(yī)療人工智能侵權(quán)責(zé)任涉及多個責(zé)任主體和多種部門法,在責(zé)任認定方面可能需要制定新的標準,或進一步完善司法鑒定機制。
1月23日,隊員聶凡婧前往重慶市南川區(qū)人民檢察院進行實地調(diào)研在與檢察官的訪談中,討論的焦點是醫(yī)療AI侵權(quán)案件中的法律問題。檢察官表示,醫(yī)療AI的迅速普及確實給法律體系帶來了許多新的挑戰(zhàn)。在醫(yī)療AI產(chǎn)生的侵權(quán)糾紛中,最復(fù)雜的問題是責(zé)任的劃分。根據(jù)現(xiàn)有的法律框架,醫(yī)療侵權(quán)案件通常需要明確責(zé)任主體,而在AI的應(yīng)用中,問題變得復(fù)雜。檢察官認為,若AI系統(tǒng)本身存在設(shè)計缺陷或算法問題,AI的開發(fā)者應(yīng)當承擔(dān)一定的責(zé)任。而如果AI的使用過程中出現(xiàn)錯誤,且醫(yī)生在合理范圍內(nèi)依賴了AI的診斷結(jié)果,責(zé)任則應(yīng)由醫(yī)生和醫(yī)院共同承擔(dān)。檢察官還提到,醫(yī)療AI的責(zé)任劃分還沒有完全明確的法律框架,這也導(dǎo)致了在實際案例中,侵權(quán)責(zé)任的界定可能因具體情況而異,法院的判決往往會依據(jù)實際情況和具體證據(jù)做出裁定。因此,檢察官呼吁,相關(guān)法律法規(guī)應(yīng)及時更新,以適應(yīng)醫(yī)療AI技術(shù)的發(fā)展。
對此,聶凡婧進行了自己的思考。首先,需要明確開發(fā)者、醫(yī)生、醫(yī)院在醫(yī)療AI中的法律責(zé)任。其次,針對醫(yī)療AI的法律法規(guī)應(yīng)盡快出臺,尤其是對于AI在醫(yī)療領(lǐng)域的具體應(yīng)用進行規(guī)范。最后,醫(yī)學(xué)和法律的跨學(xué)科合作顯得尤為重要。通過醫(yī)生、律師、法律專家和AI開發(fā)人員的共同努力,可以為醫(yī)療AI的法律風(fēng)險提供更具前瞻性的解決方案。
實踐總結(jié)科技日新月異地發(fā)展,法律作為匡扶的工具也應(yīng)該與時俱進地發(fā)展。作為新時代青年的大學(xué)生們將繼續(xù)秉持著實事求是的精神。走進各層級的法院中,走進大大小小的醫(yī)院中,走進千家萬戶的患者家中,為提高醫(yī)療人工智能侵權(quán)責(zé)任問題的認定準度、推進建設(shè)社會主義現(xiàn)代化法治體系貢獻的青春力量。