臨床 AI 要不要能自己動手？從 Agent 與 MCP 看授權

返回上一頁
數位學習AI應用
蔡泓恩 職能治療師約 4 分鐘閱讀
智慧自動化技術與外部工具整合架構概念
AI Agent 搭配模型上下文協議（MCP）賦予外部工具調用能力，必須落實唯讀、草稿與寫入之權限嚴格分離；圖片：Unsplash。
本篇要回答的決策

大語言模型正在長出手腳。AI Agent 與模型上下文協議（MCP）擴展了外部工具呼叫能力，但絕不等於具備臨床執業資格；讀取、草稿與正式寫入權限嚴格分離，才能防範自動化脫軌。

當 AI 長出手腳：從對話框走向自主行動的系統風險

人工智慧正從單純的「文本問答」迅速演進為具備工具呼叫（Tool Calling）與環境互動能力的「自主代理人（AI Agent）」。透過「模型上下文協議（Model Context Protocol, MCP）」等標準化通訊介面，AI 系統能夠串接資料庫、發送電子郵件、調度感測器，甚至向外部醫療系統發送請求。

許多臨床專案開發者熱衷於追求「全自動化」，希望打造出一個「能自主閱讀病歷、自主下達醫囑、自動給病患寄送復健排程」的自主代理人（Autonomous Agent）。開發者在未建立嚴密授權防護的情況下，賦予 AI 系統過高的操作權限；一旦遭遇提示詞注入、網路逾時或解析錯誤，Agent 便可能在後台引發排程重複洗版、將錯誤病患資料寄出，甚至對正式病歷庫產生難以回復的破壞。

「工具調用能力」絕不等於「臨床執業資格與法律責任能力」。Agent 與 MCP 擴展的是系統間通訊的靈活性，但責任的錨點永遠在於人類。在醫療健康領域，系統架構必須遵循「人機協同（Human-in-the-Loop, HITL）」與「權限限縮原則（Least Privilege）」，將讀取查詢、生成待審草稿與正式寫入權限嚴格分離，絕不能讓 AI 在缺乏人類監督下直接執行具備外部影響的敏感動作。

Agent 和 MCP 各自做什麼？

AI Agent 是能夠根據複雜任務目標，自主將任務拆解為子步驟、動態選擇適當外部工具執行並依據工具回傳結果調整後續行動的軟體實體；而 MCP 則是由產業開源推動的標準協議，旨在建立大語言模型與本地檔案、外部資料庫或專用 API 之間的一致通訊規範。必須認清：MCP 本身是一套通訊協議，並不會自動為系統建立身分驗證或存取權限控管機制。[1，MCP Security Best Practices]

權限管理必須由伺服器端底層硬性實施，建議避免寄託於模型會遵守提示詞的引導。系統應強制將「只讀查詢」、「生成待審草稿」與「正式寫入資料庫」切分為獨立的權限金鑰，且任何敏感金鑰不應暴露於前端瀏覽器代碼中。NIST SSDF 框架同樣要求在開發初期便確立明確的安全邊界與漏洞處置計畫。[2，NIST SSDF]

工具使用研究，不等於醫療自主性

Yao 等人（2023）發表的 ReAct 框架研究，在多項問答、事實驗證與文字冒險遊戲等基準測試中，證實了結合「推理（Reasoning）」與「行動（Acting）」能顯著提升模型解決多步驟複雜問題的成功率；然而該研究僅在受控的虛擬模擬環境中進行，並未涉及病歷寫入、臨床醫療責任或病患人身安全，絕不能將學術基準的成功率直接等同於臨床操作的自主權。[3，ReAct]

針對間接提示詞注入（Indirect Prompt Injection）的資安研究進一步證實，被檢索到的外部不受信任資料可以輕易劫持 Agent 的控制流程、迫使其調用非預期的工具。單純在架構中多加一層「AI 審查 Agent」，絕無法構成真正可靠的防護線，因為兩個模型可能讀取到相同的污染資料或陷入相同的邏輯盲區。[4，Greshake 等人]

把每個工具的行動範圍列出來

  • 白紙黑字明確規範每項工具的讀取範圍、寫入權限、調用所使用的憑證身分，以及遭遇網路連線失敗時的重試退避演算法。
  • 對於發送衛教信件、修改病歷排程或扣款等具備外部影響的高風險操作，系統必須強制彈出確認視窗，將收件人與內容完整呈現並由合格醫事人員點擊確認（HITL）。
  • 一旦發生 API 逾時未回應、傳回資料格式衝突或權限校驗失敗，Agent 必須立刻終止自走循環並將控制權安全歸還給人類工作人員。

在網路環境中，請求逾時往往只代表「回覆尚未抵達」，背後的寫入操作可能早已在伺服器端完成；缺乏冪等性設計的盲目自動重試，容易造成多重預約或資料覆蓋事故。在正式導入任何 Agent 流程前，工程團隊必須完成嚴密的冪等性（Idempotency）與狀態回滾測試。

參考文獻

  1. Model Context Protocol. Security Best Practices. 2025-11-25 規格對應文件；查閱 2026-09-12。
  2. Souppaya M, Scarfone K, Dodson D. Secure Software Development Framework (SSDF) Version 1.1. NIST SP 800-218. 2022. 技術框架，非臨床指引。
  3. Yao S, Zhao J, Yu D, et al. ReAct: Synergizing Reasoning and Acting in Language Models. ICLR. 2023.
  4. Greshake K, Abdelnabi S, Mishra S, Endres C, Holz T, Fritz M. Not what you’ve signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection. arXiv:2302.12173. 2023. 此連結為預印本版本。

作者：蔡泓恩 職能治療師。本文為專業教育與證據整理；個別處置仍需完整評估、當事人參與及適當跨專業合作。

留言

張貼留言

這個網誌中的熱門文章

復健要在醫院做多久？回家前先確認這些支持是否接得上

圖片
返回上一頁 首頁 / 專業文章 / 動作復健 / 復健要在醫院做多久？回家前先確認這些支持是否接得上 中風復健 動作復健 蔡泓恩 職能治療師 更新：2026-09-12 約 4 分鐘閱讀 中風復健照護層級決定需綜合評估個案功能潛力、家庭支持能耐與出院後無縫社區資源銜接；非本文研究受試者或研究結果。圖片：Unsplash。 本篇要回答的決策 提早出院不是把繁重照顧丟給家屬。輕中度個案需要有組織的跨專業團隊、具體訓練計畫與社區服務銜接，才能真正把醫院復健延伸進生活。 醫院是避風港，還是回家的跳板？ 中風急性期的住院治療，首要任務是搶救缺血半影區、控制生命徵象並預防次發性腦損傷。當醫療狀況達到穩定後，復健的核心目標便轉向神經塑性誘發與日常生活自理能力的重建。醫療團隊通常以個案在病房走廊走幾步、或在治療室完成幾項量表動作，作為評估病況穩定的重要指標。 然而許多家庭在面臨健保住院天數上限或病床輪動時，常陷入深層的矛盾焦慮：一方面渴望早日回到熟悉的家庭環境，另一方面又深怕「一出院就沒人照顧、復健進度瞬間停滯」。有的家庭盲目要求住滿每一天，有的則在毫無配套的情況下匆忙返家，導致照護者在數天內迅速耗竭、個案再次跌倒送醫。 「能不能出院」與「回家後能否安全生活」是兩個不同層次的評估。個案可能已經能在復健室獨立走幾步，卻還需要旁人大力協助洗澡、上下床移位或分類複雜藥物；家屬也可能滿懷熱忱，卻缺乏安全轉位的物理力學技巧，更不知如何求助。提早出院的成效，從來不取決於離院日期的早晚，而取決於出院後是否有一套「早期支持性出院（Early Supported Discharge, ESD）」團隊與服務網絡能夠即時接手。 指引支持有團隊接手的提早出院 AHA/ASA 2026 對輕至中度障礙、醫療狀況穩定且有跨專業團隊支持的中風個案，支持早期支持性出院（ESD）；這是一項第 1 類、B-NR 級建議。這類安排能讓個案在真實居家環境中延續有強度的復健，但前提是職能治療、物理治療、護理、醫療追蹤與緊急聯絡窗口都已在出院前規劃妥當。 [ 1，§2.1 ] 這項處置主要適合神經功能穩定、具備基本自主活動潛力且家庭具備基本支持條件者；對於神經功能受損明顯或無人同住的高依賴度個案並不適用。家屬願意陪伴照護固然重要，卻不能取代具備專業評估與訓練能力的跨專業團...
閱讀完整內容

泡茶總是做錯一步，問題可能出在哪裡？從失用症到認知評估

圖片
返回上一頁 首頁 / 專業文章 / 認知復健 / 泡茶總是做錯一步，問題可能出在哪裡？從失用症到認知評估 中風復健 認知復健 蔡泓恩 職能治療師 更新：2026-09-12 約 4 分鐘閱讀 泡茶等複雜日常生活職能（IADL）需要完整的大腦概念網絡、動作計畫與知覺回饋協同；非本文研究受試者或研究結果。圖片：Unsplash。 本篇要回答的決策 中風破壞大腦動作計畫網絡，同樣是泡不出一杯茶，卡住的神經環節截然不同。認知篩檢能指出方向，但治療決策還要把動作、語言、知覺與真實活動放在一起看。 熟悉的動作突然卡關：中風後的動作計畫與失用症 中風是腦血管受阻或破裂對神經網絡的直接破壞。在日常生活中，看似信手拈來的泡茶、備餐或梳洗，高度依賴頂葉、額葉與運動輔助區協同完成「動作概念形成、步驟時序排列與空間物件操作」。即使個案的手臂肌力與感覺在急性期後逐漸好轉，大腦高階的動作計畫迴路仍可能處於受損狀態。 然而在康復過程中，家人經常感到困惑的卻是：「他手明明拿得起茶壺，為什麼連泡茶都做不好？是不是腦袋變笨、失智了？」這種直覺的歸因，常讓照護者急於指責或過度代勞，卻忽略了個案可能正面臨中風後常見的「失用症（Apraxia）」，或是注意力、動作順序與空間知覺的局部卡關。 同樣是「泡不出一杯茶」，卡住的神經環節截然不同：有人能正確拿著湯匙，卻忘了先把水倒進杯子（步驟排序與計畫障礙）；有人知道每個步驟，卻因關節僵硬或肩膀無力而中途卡住；也有人是在真實廚房中被過多雜物干擾了注意力。評估的核心不是急著貼上退化標籤，而是透過真實活動的系統性觀察，拆解出「到底是在哪一個神經與動作步驟卡住」。 失用症不是「不想做」，也不等於全面退化 失用症是指在沒有足夠的肌力減退、感覺喪失或語言理解障礙可以完整解釋的情況下，個案難以依指令或情境完成原本熟悉的熟練動作。它可能和語言障礙、視知覺問題、執行功能困難或動作控制不足重疊出現，所以不能只靠單一一次紙筆測驗分數做出斷定。 對某些個案來說，治療師示範動作比口頭下指令更容易模仿；對另一些人來說，雖然心裡知道完整流程，卻在真實廚房裡被物品位置和多個步驟弄亂。這些微小的表現差異，都需要帶回日常活動情境中仔細辨識，才能確定大腦卡在概念層次、計畫層次還是執行層次。 篩檢能提醒方向，不能單獨決定治療 AHA/ASA 20...
閱讀完整內容

為什麼總是漏掉左邊？看懂空間忽略與視野缺損的差別

圖片
返回上一頁 首頁 / 專業文章 / 認知復健 / 為什麼總是漏掉左邊？看懂空間忽略與視野缺損的差別 中風復健 認知復健 視覺復健 蔡泓恩 職能治療師 更新：2026-09-12 約 4 分鐘閱讀 單側空間忽略涉及大腦注意力網絡崩解，常透過劃線測驗與紙筆消除作業鑑別其空間探索偏向；非本文研究受試者或研究結果。圖片：Unsplash。 本篇要回答的決策 中風改變大腦空間知覺建構。同樣是漏看左側，可能是注意力網絡崩解的空間忽略，也可能是視神經路徑受損的視野缺損；分清病理機制，訓練工具才能發揮作用。 「看不到左邊」背後的神經機制大不同 中風（尤其是右大腦半球頂葉或額頂網絡受損）常會明顯干擾個案對周遭空間知覺的整體建構。人類之所以能在複雜環境中自由活動，依賴兩大視覺神經基石：負責傳遞外界光學訊號的「視覺傳導路徑」，以及負責將大腦意識焦點主動導向周遭事物的「空間注意力網絡」。 在日常照護中，家屬經常觀察到的現象是「個案吃飯永遠只吃盤子右半邊的菜」、「走路老是擦撞左側門框」，並直覺簡稱為「他左眼瞎了、左邊看不到了」。這種認知落差常導致錯誤的處置——例如以為只要把字體放大或強行把頭扳向左側就能解決，結果個案依然頻繁漏看，並對復健產生深重的挫折感。 事實上，「看得到卻沒注意到」與「視覺路徑中斷看不到」是本質相異的兩件事：前者是大腦注意力資源無法分配到患側空間的「單側空間忽略（Spatial Neglect）」，後者則是視神經路徑實質受損造成的「同向偏盲（Hemianopia）」。有人在安靜房間中經口頭提醒能找到左邊的物品，走到吵雜街頭就全面漏掉；有人即便努力集中精神，視野特定區域仍存在物理性盲區。兩者可以單獨存在，也可能在中風後合併發生，必須透過系統性鑑別才能制定精準的處方。 先確認問題本質，再談訓練工具 AHA/ASA 2026 建議使用表現導向的認知與知覺評估，並將日常真實活動表現納入臨床綜合判斷。評估時需要整合視野檢查、眼球運動追蹤、持續性與選擇性注意力、身體基模覺察，以及實際閱讀、進食與行走移動的任務表現，避免單憑一張紙筆劃線測驗就草率定論。 [ 1，§4.4、§5.9 ] 在介入方面，主動的眼球運動掃視訓練對空間忽略屬第 2a 類、A 級建議；鏡像治療合併常規復健屬第 2a 類、B-R 級建議。稜鏡適應、患側肢體主動啟動...
閱讀完整內容