AI 找到文獻，答案就可信嗎？讀懂 RAG 的查找與核對
大語言模型機率生成天生具備幻覺。檢索增強生成（RAG）增加外部事實依據，但若檢索斷章取義或語義漂移仍可能給出錯誤處方；分開檢查找得對不對與文字忠不忠實，才是臨床核對之道。
看似專業的醫學引述：大語言模型幻覺與 RAG 的本質
大型語言模型在醫學問答中常展現令人驚豔的流暢度，但其底層機制是基於機率預測下一個字詞，天生具備生成虛構文獻或事實錯誤的「幻覺（Hallucination）」傾向。為了解決這個問題，工程界發展出「檢索增強生成（Retrieval-Augmented Generation, RAG）」，透過外部專業文獻庫先檢索出真實段落，再由模型據以生成回答。
許多臨床醫療人員因此產生新的盲信：以為「只要系統標註了 RAG、列出了正式的文獻出處與章節編號，給出的臨床指引就一定正確無誤」。在實際應用中，檢索模組可能抓取了「動物實驗而非人體試驗」的段落、混淆了不同世代的指引版本，或是模型在生成時將指引中的「證據等級低、僅供個別考慮（Class 2b）」擅自改寫為「強烈推薦必須常規執行（Class 1）」。
RAG 是一套「檢索（Retrieval）」與「生成（Generation）」串聯的兩階段工程系統，它增加了外部事實錨點，但絕非醫學真理的保證者。任何一個階段的資訊遺漏、切片斷章取義或語義漂移，都會導致生成的臨床建議產生顯著偏差。臨床核對的真諦，是「逐一檢視原文檢索片段（Chunks），比對證據等級與適用族群」，而非盲信系統的自信言論。
RAG 是兩個階段，不是一個保證
RAG 系統通常會先將長篇臨床指引或文獻切分為數百字的文本片段（Chunks），透過向量語義比對檢索出相似度居前的片段，再將這些片段作為上下文輸入給模型生成回答。若分塊過程把關鍵的否定句切斷、檢索到過時版本，或是抓取了不同年齡層的治療標準，這些錯誤都會被模型流暢地編織進生成的結論中。NIST AI RMF 亦將「自信但事實錯誤的生成內容」列為必須嚴加管控的核心風險。[1，NIST AI RMF 生成式 AI Profile]
在設計提示詞時，可以嚴格要求系統在回答中逐一列出：研究涵蓋族群、疾病亞型、指引原始推薦強度、臨床禁忌限制以及確切的來源章節；如果檢索到的參考片段中缺乏特定資訊，必須強制模型輸出「檢索來源未提供」。這是一種提高透明度的工程防呆設計，絕非保證百分之百免除幻覺的靈丹妙藥。
研究支持技術用途，也沒有替臨床決策背書
Lewis 等人（2020）提出 RAG 架構的開創性研究，在開放領域知識問答與多項知識密集型基準測試中，證實檢索增強相較於傳統無檢索模型能顯著提升回答的事實準確率；但該研究屬於基礎自然語言處理（NLP）任務驗證，絕非針對神經復健或臨床決策結局的臨床試驗，絕不能宣稱 RAG 系統已具備獨立改善病患預後的能力。[2，Lewis 等人]
Liu 等人（2024）發表於 ACL 的長文本研究（Lost in the Middle）更揭露了驚人現象：當相關關鍵資訊位於檢索上下文的中段位置時，大語言模型提取該資訊並正確推理的成功率會發生顯著雪崩。這項研究結果深刻支持臨床工程人員在測試 RAG 時，必須嚴密評估文本切片長度與檢索排序對臨床決策產生的潛在干擾。[3，Liu 等人]
保留原文片段，才知道錯在哪一段
- 在向系統發出臨床提問時，詳細寫明目標病患的病程分期、核心功能障礙、待比較的治療方案以及預期改善的具體生活活動。
- 檢驗系統回答時，要求系統後台同步保存並展示檢索到的原文切片（Source Chunks），親自核對結論中的每一句話是否真正有引文支持。
- 若發現檢索引文斷章取義、疾病族群明顯不符或結論與指引相悖，應立即在系統中標記為待查並點入原始論文連結進行人工審查。
即使 AI 輸出的格式工整、條理分明，其內容依然必須經過專業人員的嚴謹批判。經過嚴格人工核對的文獻摘要可以作為跨專業團隊討論的有效輔助，但絕不能直接未經審閱就複製貼上成為個別病患的臨床復健處方。
參考文獻
- Autio C, Schwartz R, Dunietz J, et al. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. 2024. 跨領域風險管理文件。
- Lewis P, Perez E, Piktus A, et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS. 2020;33:9459–9474.
- Liu NF, Lin K, Hewitt J, et al. Lost in the Middle: How Language Models Use Long Contexts. Transactions of the Association for Computational Linguistics. 2024;12:157–173.
留言
張貼留言