**劃重點:**

- ? 醫(yī)生已經(jīng)開始使用未受監(jiān)管和少經(jīng)測試的AI工具來輔助診斷患者，引起監(jiān)管機構(gòu)的擔憂。

- ? 如何在技術(shù)已經(jīng)應(yīng)用于醫(yī)療實踐的情況下，進行有效監(jiān)管和規(guī)范，成為當前面臨的緊迫問題。

- ?? 報道指出，AI模型的不斷更新和變化，以及機器學(xué)習(xí)系統(tǒng)創(chuàng)造者難以解釋其工作原理，增加了監(jiān)管的難度。

站長之家(ChinaZ.com) 2月19日 消息:日前，Politico報道稱，醫(yī)生們已經(jīng)開始使用未受監(jiān)管和少經(jīng)測試的AI工具來輔助診斷患者，這引起了監(jiān)管機構(gòu)的擔憂。這并非遙遠的未來的假設(shè)性討論，而是一個正在發(fā)生的現(xiàn)象，可能僅一起醫(yī)療事故訴訟之遙，就有可能演變成一場重大的醫(yī)療和監(jiān)管丑聞。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

"推車已經(jīng)遠遠超過了馬，我們?nèi)绾卧诓粌A覆到峽谷的情況下，將其拉回來呢?"加利福尼亞大學(xué)公共衛(wèi)生研究員圣地亞哥約翰·艾爾斯在接受《政治學(xué)》采訪時如此問道。

“車遠遠領(lǐng)先于馬，我們?nèi)绾尾拍芸刂谱∷?，而不至于翻過峽谷呢?”加州大學(xué)圣地亞哥分校公共衛(wèi)生研究員約翰·艾爾斯向Politico詢問。

顯而易見的答案是，這項技術(shù)需要監(jiān)管，這一概念得到了從白宮到OpenAI 的所有利益相關(guān)者的名義認可。

當然，問題在于，實際上這樣做說起來容易做起來難。正如Politico指出的那樣，一個關(guān)鍵問題是大多數(shù)醫(yī)療產(chǎn)品（例如藥品、手術(shù)設(shè)備或其他醫(yī)療設(shè)備）都可以一次性獲得批準，并且通?？梢韵嘈趴梢詿o限期地以同樣的方式發(fā)揮作用。

人工智能模型則不然，隨著其創(chuàng)建者對其進行調(diào)整并添加更多數(shù)據(jù)，人工智能模型會不斷變化，這意味著有一天能夠給出完美診斷的人工智能在常規(guī)更改后可能會給出糟糕的診斷。請記住，機器學(xué)習(xí)系統(tǒng)的一個核心現(xiàn)實是，即使是它們的創(chuàng)建者也很難準確解釋它們是如何工作的。

Politico指出，像 FDA 這樣的政府監(jiān)管機構(gòu)已經(jīng)分散到了崩潰的邊緣。要求他們創(chuàng)建和維護工作流程來持續(xù)測試醫(yī)療人工智能系統(tǒng)將需要政治上不可能的資金。因此，如果這些人工智能系統(tǒng)已經(jīng)進入常規(guī)醫(yī)療實踐，那么誰來監(jiān)管它們呢?

據(jù)媒體報道，一個想法是，醫(yī)學(xué)院和學(xué)術(shù)健康中心可以創(chuàng)建實驗室，不斷審核人工智能醫(yī)療保健工具的性能。

但即使是這個想法也需要一些揮手。所有這些資源從哪里來?這些大多是城市和富裕機構(gòu)的患者群體之間的互動是否能夠準確反映人工智能在不同且更具挑戰(zhàn)性的社區(qū)中的工作方式?

從長遠來看，人工智能有可能為醫(yī)療系統(tǒng)帶來難以置信的福音。科技領(lǐng)導(dǎo)者當然喜歡利用這種可能性。例如，OpenAI 首席執(zhí)行官薩姆·奧爾特曼 （Sam Altman）公開表示，未來的人工智能可以為買不起醫(yī)生的人提供高質(zhì)量的醫(yī)療建議。

然而，目前人工智能對醫(yī)療系統(tǒng)的混亂嘗試突顯了該技術(shù)的某些現(xiàn)實將是多么令人不舒服——即使是在生死存亡的環(huán)境中。

（舉報）