錨定技術(shù)、數(shù)據(jù)、倫理三輪驅(qū)動(dòng)，近年來猶如雨后春筍般涌現(xiàn)的醫(yī)療大模型，表明醫(yī)療領(lǐng)域正成為人工智能最具應(yīng)用潛力的商業(yè)藍(lán)海之一。受訪業(yè)內(nèi)人士表示，由于模型生成內(nèi)容的準(zhǔn)確性直接關(guān)系患者生命安全，推動(dòng)醫(yī)療大模型落地應(yīng)用，仍需增強(qiáng)決策透明度和可解釋性，打破數(shù)據(jù)整合與質(zhì)量瓶頸，以確保診斷建議的可靠性。同時(shí)，在隱私保護(hù)與倫理規(guī)范等方面也需要做更多工作。

  從“可用”邁向“可靠” 逐步解決“幻覺”難題

  “醫(yī)療大模型應(yīng)用空間廣泛，其落地方向包括：做醫(yī)生的成長(zhǎng)工具，通過醫(yī)療大模型的使用降低醫(yī)生的培訓(xùn)成本；做患者的管理工具，借助醫(yī)療大模型打造直接面向消費(fèi)者的AI健康智能體；釋放醫(yī)生時(shí)間和精力，讓醫(yī)生更多參與到審核環(huán)節(jié)，而非全流程操作。”京東健康探索研究院首席科學(xué)家王國(guó)鑫說。

  醫(yī)療大模型的“可用”與“幻覺”問題的逐步解決密切相關(guān)。在技術(shù)層面，傳統(tǒng)AI大模型由于數(shù)據(jù)噪聲和知識(shí)盲區(qū)容易產(chǎn)生“幻覺”，一旦模型在生成內(nèi)容時(shí)出現(xiàn)偏差，醫(yī)療場(chǎng)景中的錯(cuò)誤推斷將導(dǎo)致嚴(yán)重后果。

  對(duì)此，技術(shù)人員正在通過多種方式消除大模型“幻覺”：一是設(shè)立“安全圍欄”，限制模型處理超出能力范圍的問題；二是廣泛使用外部工具，以實(shí)時(shí)內(nèi)容為核心，補(bǔ)充人工智能對(duì)當(dāng)前情境的理解；三是從模型底層能力入手，例如在推理過程中不斷自我驗(yàn)證，從不同的角度交叉驗(yàn)證自己的結(jié)論。

  “前兩種方式是抑制幻覺，后一種是實(shí)現(xiàn)推理過程白盒化，即便有錯(cuò)誤也可以被人識(shí)別。”王國(guó)鑫向記者介紹，目前，這三種方式相互配合，可在一定程度上抑制“幻覺”問題。

  以國(guó)家兒童醫(yī)學(xué)中心、復(fù)旦大學(xué)附屬兒科醫(yī)院推出的全新升級(jí)版DS-小布醫(yī)生2.0系統(tǒng)為例，復(fù)旦大學(xué)附屬兒科醫(yī)院副院長(zhǎng)張曉波介紹，在抑制大模型“幻覺”方面，依托自建的“兒科增強(qiáng)檢索知識(shí)庫”，能夠精準(zhǔn)匹配權(quán)威醫(yī)學(xué)知識(shí)，提升診療推理能力。

  如何進(jìn)一步提高醫(yī)療大模型在復(fù)雜臨床環(huán)境中的安全性和可信度？北京大學(xué)信息科學(xué)技術(shù)學(xué)院研究員楊仝建議，可從模型內(nèi)外組合防御。

  “通過對(duì)抗訓(xùn)練提高模型魯棒性、利用數(shù)據(jù)預(yù)處理削弱對(duì)抗攻擊效果、引入公平性約束減少算法偏差等方式，提升模型自身安全性。同時(shí)，在模型與用戶間部署獨(dú)立的安全互聯(lián)系統(tǒng)，實(shí)時(shí)檢測(cè)并攔截異常輸入數(shù)據(jù)，過濾敏感或惡意請(qǐng)求，并對(duì)模型輸出進(jìn)行審核和糾錯(cuò)。”楊仝說。

  DeepSeek助力 高質(zhì)量數(shù)據(jù)成關(guān)鍵支撐

  降低技術(shù)門檻、優(yōu)化模型部署效率……作為國(guó)產(chǎn)開源大模型，DeepSeek為醫(yī)療大模型落地提供了重要突破口：醫(yī)院可采用“大模型基座+小樣本微調(diào)+專業(yè)知識(shí)融合”的方式，直接基于DeepSeek進(jìn)行微調(diào)。

  “這并非傳統(tǒng)意義上從零訓(xùn)練，而是僅需較小數(shù)據(jù)和計(jì)算資源就能快速開發(fā)適用于自身場(chǎng)景的AI應(yīng)用。”張曉波介紹。但她也認(rèn)識(shí)到，想要訓(xùn)練出高質(zhì)量醫(yī)療大模型，仍需綜合運(yùn)用大規(guī)模高質(zhì)量數(shù)據(jù)資源。

  為提高對(duì)復(fù)雜病例的精準(zhǔn)識(shí)別和推理能力，DS-小布醫(yī)生2.0系統(tǒng)依托醫(yī)院大數(shù)據(jù)管控平臺(tái)，整合電子病歷、實(shí)驗(yàn)室檢查、醫(yī)學(xué)影像、基因組學(xué)數(shù)據(jù)、可穿戴設(shè)備監(jiān)測(cè)等多模態(tài)數(shù)據(jù)，實(shí)現(xiàn)標(biāo)準(zhǔn)化存儲(chǔ)、統(tǒng)一管理與高效調(diào)用。通過數(shù)據(jù)治理技術(shù)，如數(shù)據(jù)清洗、語義解析和智能標(biāo)注等，確保數(shù)據(jù)的準(zhǔn)確性、時(shí)效性和一致性，并結(jié)合專家審校，精準(zhǔn)提取臨床關(guān)鍵信息。

  作為同樣致力于將AI技術(shù)應(yīng)用于三甲醫(yī)院的科技企業(yè)，麒麟合盛網(wǎng)絡(luò)技術(shù)股份有限公司董事長(zhǎng)兼首席執(zhí)行官李濤表示，DeepSeek是通用模型，要使其具備醫(yī)療能力，必須利用大量專業(yè)知識(shí)進(jìn)行增量訓(xùn)練，特別是結(jié)合醫(yī)院自身病例、知識(shí)庫，如特定醫(yī)院的罕見病病例數(shù)據(jù)、特定地區(qū)的特殊病例數(shù)據(jù)等，進(jìn)一步優(yōu)化與微調(diào)模型，使其能夠更好地適應(yīng)特定場(chǎng)景需求。

  受訪業(yè)內(nèi)人士表示，醫(yī)療大模型最需要的真實(shí)醫(yī)療數(shù)據(jù)是臨床專家的應(yīng)用數(shù)據(jù)以及臨床醫(yī)生的培訓(xùn)數(shù)據(jù)，這部分?jǐn)?shù)據(jù)往往是以多模態(tài)的形式存放在不同的醫(yī)療機(jī)構(gòu)。

  “先進(jìn)的數(shù)據(jù)蒸餾技術(shù)能大幅提升模型表現(xiàn)。”楊仝建議，統(tǒng)一數(shù)據(jù)格式，提高數(shù)據(jù)互操作性，并請(qǐng)醫(yī)學(xué)專家深度參與數(shù)據(jù)蒸餾過程。

  “專家團(tuán)隊(duì)要準(zhǔn)確記錄患者的癥狀、體征、診斷過程、治療方案以及治療效果等信息，并對(duì)其中的關(guān)鍵信息進(jìn)行標(biāo)注和解讀，通過人機(jī)協(xié)同優(yōu)化模型診斷能力。”李濤表示，可通過開展醫(yī)學(xué)研究項(xiàng)目，邀請(qǐng)專家共同參與，收集更多有價(jià)值的醫(yī)療數(shù)據(jù)。

  完善治理體系 筑牢安全與倫理防線

  在將大模型應(yīng)用于醫(yī)療的過程中，倫理風(fēng)險(xiǎn)始終受到業(yè)界重點(diǎn)關(guān)注。中國(guó)工程院院士、清華大學(xué)臨床醫(yī)學(xué)院（北京清華長(zhǎng)庚醫(yī)院）院長(zhǎng)董家鴻分析，大模型本質(zhì)上是一種統(tǒng)計(jì)模型，難免會(huì)產(chǎn)生事實(shí)錯(cuò)誤、邏輯錯(cuò)誤等，模型的“黑箱”特性使醫(yī)療決策邏輯難以被理解，增加了倫理審查的難度。

  受訪業(yè)內(nèi)人士表示，醫(yī)療大模型倫理風(fēng)險(xiǎn)治理的復(fù)雜性源于其需要同時(shí)考慮醫(yī)學(xué)倫理與科技倫理兩個(gè)維度，所處視角不同，且均涉及復(fù)雜而廣泛的問題，并存在彼此交叉，亟待“多維”規(guī)范。

  第一，在醫(yī)療等需要透明度的領(lǐng)域，大模型需提高解釋性，幫助用戶理解決策過程和建立信任，并通過使用多樣化的數(shù)據(jù)集和開發(fā)新算法，確保模型在不同人群中的公平表現(xiàn)，消除潛在的偏見與歧視。

  楊仝表示，最新的大模型具備強(qiáng)大的思維鏈能力，可將診斷推理過程逐步細(xì)化并清晰呈現(xiàn)。借助這一能力，可要求模型輸出詳細(xì)且結(jié)構(gòu)化的推理步驟，解釋每個(gè)診斷或建議背后的邏輯依據(jù)。同時(shí)，基于細(xì)化后的思維鏈，模型可與醫(yī)生、患者展開多輪互動(dòng)式溝通，進(jìn)一步解釋診斷邏輯與決策理由。

  第二，應(yīng)構(gòu)建貫穿技術(shù)全生命周期的倫理治理閉環(huán)，以“科技向善”為原則打造智慧醫(yī)療新范式。

  “在搭建DS-小布醫(yī)生2.0系統(tǒng)中，我們將倫理治理深度嵌入技術(shù)創(chuàng)新鏈條的實(shí)踐范式，構(gòu)建了醫(yī)療AI臨床應(yīng)用的知信行量表，通過對(duì)332名醫(yī)務(wù)工作者的抽樣調(diào)研，系統(tǒng)梳理倫理治理議題。在實(shí)際運(yùn)行中構(gòu)建接受度和滿意度的雙向反饋通道，使系統(tǒng)迭代與患者信任間形成正向循環(huán)。”張曉波說。

  第三，醫(yī)療數(shù)據(jù)大多涉及患者隱私，大模型未來的發(fā)展趨勢(shì)必將強(qiáng)化數(shù)據(jù)隱私保護(hù)措施。

  “應(yīng)提升醫(yī)療人員對(duì)數(shù)據(jù)合規(guī)性和隱私保護(hù)的意識(shí)，確保在AI應(yīng)用過程中遵循倫理標(biāo)準(zhǔn)。”董家鴻建議，利用數(shù)據(jù)加密、匿名處理和差分隱私技術(shù)，防止未授權(quán)訪問和數(shù)據(jù)泄露，并采用區(qū)塊鏈、隱私計(jì)算等新興技術(shù)，增強(qiáng)數(shù)據(jù)治理的透明性和可追溯性。

關(guān)鍵詞：