能源經濟及策略、新及再生能源、火力、核能及核設施除役、原子科技及民生應用的專業資訊平台



AI惡意軟體出沒!放射科醫師注意!

出處 AuntMinnie.com 作者 劉聖哲 年份 2019/06/12
報告類型 能源新聞 分類 能源新聞 資料時間 2019年6月
原始連結 原始連結

  AI惡意軟體竟能竄改3D CT掃描影像中肺部腫瘤的外觀!根據華盛頓郵報4月3日的一篇報導,由以色列Ben-Gurion大學Yisroel Mirsky博士領導的研究小組利用AI演算法開發出惡意軟體,以突顯CT和MRI等醫療設備之網路安全標準有改進之必要!例如:必須對醫院的醫學影像儲傳系統(Picture Archiving and Communication System, PACS) 加密、所有的醫學影像都必須加上數位簽章等等。

  Mirsky在給華郵的一份聲明中說:「醫院對於病患的隱私和醫療記錄都有嚴格的規定,但是對一般人不得任意存取的醫院系統其內部發生了什麼事卻顯得寬容。其實醫院並非真的不關心系統安全,只不過他們把注意力優先放在其他方面的事情上。」

  這個惡意軟體靠一種叫做生成對抗網絡(Generative Adversarial Networks, GAN)的AI機器學習技術,能在3D CT掃描中竄改影像 (in-painting),將假的肺結核添加到3D CT掃描影像上,或者自影像中消除掉事實上存在的腫瘤。

  Mirsky和同事在最近發佈於arXiv.org且在RSNA 2018上發表的一篇論文中描述他們如何利用888次CT掃描得到的影像資料來訓練惡意軟體。他們將此惡意軟體用於70次3D CT掃描,請三位放射科醫師判讀影像,結果醫師們幾乎誤判了所有的病例:99%的肺癌病例沒被診斷出來,還錯誤地指出94%的掃描影像上沒有顯示腫瘤。接著醫師們被告知設備中其實有惡意軟體作怪,然後再請他們去判讀另外20次的CT掃描影像,這時醫師們也只能辨識出40%被竄改的影像。

  研究小組還進行了一項額外測試:他們對一家醫院發動網路攻擊(醫院已事先允許,但不讓員工知道網攻於何時何地發生),並植入含有惡意軟體的假冒軟體。結果該小組能輕易地駭入放射科,並在30秒內連上已被惡意軟體入侵的設備。

  根據華郵報導,前述AI惡意軟體的研究結果引起專家們的關注。美國食品藥物管理局(FDA)科學和策略合作夥伴部副主任Suzanne Schwartz博士回應該研究指出:「許多醫院沒有財力來投資更安全的設備,他們多半還在使用無法支援最新網路安全技術的20年前老舊網路。醫院只更新醫療設備是不夠的,更需要將網路基礎設施升級。」她還說道:「這還有賴其他有關當局之共同參與,更需要將整個社會集結起來群策群力。」