全球智點·全球發展倡議丨世衛組織呼吁加強對醫療AI技術的監管

2024-02-17 11:29

來源：澎湃新聞·澎湃號·政務

編者按：百年未有之大變局，全球風險急劇上升。各個國家和地區如何求生存，謀發展，搞競合，爭未來？誰來指南找北？2021年，中國提出全球發展倡議，聚焦減貧、糧食安全、抗疫和疫苗、發展籌資、氣候變化和綠色發展、工業化、數字經濟、互聯互通等八大領域國際合作，是對上述問題提出的“中國答案”。在八大領域內，世界各國智庫各顯神通，仰觀俯察，深思熟慮，出謀劃策。北京大學區域與國別研究院特開辟全球智點·全球發展倡議卡片專欄，以極簡方式提煉要點，為促進全球發展倡議下各領域國際合作提供智力支持。同時，也歡迎讀者循例投稿，形成全球智點·全球發展倡議的爆炸式擴散效應。

標簽：#多模態大模型/醫療衛生/人工智能

今日熱詞：多模態大模型（large multi-modal models, LMMs）

LMM 是一項發展快速的生成式人工智能技術（generative artificial intelligence）。它可以接受一種或多種類型的數據輸入，例如文本、視頻和圖像，并生成不限于輸入數據類型的多種輸出。LMM的獨特之處在于其具備模仿人類溝通方式以及執行未明確任務的能力。LMM可以被廣泛應用于醫療衛生領域，它的普及速度很快，能夠像ChatGPT一樣快速流行。

觀點：AI技術在整個醫療衛生領域應用前景廣闊，但同時也需要各國、各主體對其中可能出現的風險加以防范。

背景：在充分識別相關風險的情況下，生成式人工智能技術有潛力改善醫療保健。世衛組織發布了關于LMM的道德和治理指南，該指南概述了40多項建議，供政府、科技公司和醫療保健提供商參考。

圖源：世界衛生組織（World Health Organization），https://www.who.int/news/item/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-models

內容：LMM能夠被廣泛應用于醫療衛生領域。

1. LMM在健康方面有五大應用場景：協助診斷和臨床護理；提供就醫指導；處理文書和行政任務；參與醫療和護理教育以及科學研究和藥物開發。

2. LMM的應用也存在風險。例如，LMM可能會提供不準確、不完整的信息。除此之外，和其他形式的人工智能一樣，LMM也容易受到網絡攻擊，導致患者信息泄露或有損算法可信度。

3. 為了創建安全有效的LMM，世衛組織認為需要各利益攸關方參與。政府、技術公司、醫療保健提供商、患者和民間社會應該參與此類技術開發和部署的所有階段，并為技術的應用過程提供監督。

建議：各國政府應加強合作，有效監管LMM技術的開發和使用。

對政府部門的建議：

1. 投資或建設數字公共基礎設施。遵守道德原則的基礎上，公共、私營和非營利部門的開發人員可以訪問的計算能力和公共數據集。

2. 使用法律、政策和法規來確保醫療保健和醫學中使用的LMM和應用程序，使這一技術的使用符合保障個人尊嚴或隱私的道德義務和人權標準。

3. 在資源允許的情況下，指派一個現有或新的監管機構來評估和審批計劃應用于醫療保健領域的LMM。

4. 當大規模部署LMM時，由獨立第三方引入強制性審計和影響評估，包括數據保護和人權評估，并對評估結果予以公布。

對LMM開發人員的建議：

1. 在人工智能發展的早期階段就需要進行結構化、包容、透明的設計，并適時對道德問題表達擔憂。