發布日期：2016-12-09

谷歌旗下的人工智能部門DeepMind最近在英國醫療界引起了不小的風波，風波的焦點是DeepMind與倫敦免費國家醫療服務體系信托（London Royal Free National Health Service Trust）旗下的三家醫院所簽訂的兩個協議。

在這兩個協議中，第一個是在2015年9月簽署的。在這個協議下，NHS信托（National Health Service Trust）把超過200萬倫敦市民的醫療記錄轉給了DeepMind。而DeepMind也在今年2月份正式推出DeepMind Health，主攻醫療相關的技術。作為一家人工智能公司，DeepMind Health的首個產品反而與人工智能無關。此產品是一款名為Streams的移動應用，功能是向醫生和護士推送急性腎損傷患者的消息，減少患者等待治療的時間。

根據今年4月《新科學家》雜志所做的一項調查顯示，DeepMind擁有相當驚人的數據：它擁有在過去5年內所有通過皇家免費醫院進行治療的患者的信息，而相關的商業條約：無。

對于如此大尺度的數據分享，DeepMind的回應則是“數據分享包含在對腎損傷進行治療的協議里”。但問題在于，DeepMind所收到的信息不止于腎損傷的患者，醫院的所有病人都被劃在了協議的范圍之內。因此，此項協議中數據保護、隱私以及醫療記錄保密等重要問題在英國引起了極大的爭議。在此之外，NHS信托在簽署此協議之前沒有進行廣泛的民意調查，也沒有與谷歌之外其他的競爭者或者開源機構進行交流，英國人對這種做法也表示了不滿。

因此，英國信息專員公署（UK Information Commissioner’s Office）現在正在對此協議進行調查，國家健康和醫療數據守護者（National Data Guardian for Health and Care, NDG）也在進行審查。此外，DeepMind也邀請了一些“獨立審查員”進行審查。

而在一年后，為了避免來自管理機構的影響，DeepMind簽署了第二個，為期5年的協議。通過對NHS巨量數據的分析，DeepMind開發出一款可以監視數種疾病的軟件，還提供了一款“開放式生態圈”平臺。“開放”之所以有引號，是因為該平臺處于DeepMind的嚴格掌控之下。而且在使用許可的協議下，皇家免費信托也不可以直接與其他公司進行合作。DeepMind的目的似乎是為從第一個協議中所獲得的信息上發展出一個新的開發者社區。

雖然DeepMind在好幾個方面盡全力確保信息的安全和隱私的保障，但私人公司不應該在與公共機構簽署信息協議時受到特殊待遇。DeepMind卻受到了特殊待遇，這一點從DeepMind一直到現在都沒有受到來自敏感信息管理機構的任何評論就可以看出。

這種協議將會成為國家政府能否遵守合法過程、保護人權的一種考驗。推進機器學習技術的主要限制就是數據和計算能力。簽署這兩個協議的皇家免費信托，由于低估了來自公眾的信息的價值，以及沒有考慮到為私人公司提供獨家渠道的后果，這對公眾所帶來的傷害很有可能比福利要大很多。

DeepMind也許是個可靠的合作者，但是它必須證明，它所帶來的未來會有競爭、開源、公平以及對公眾利益的保護。

來源：DeepTech深科技（微信號 mit-tr）