谷歌人工智能DeepMind获取医疗数据尺度太大引风波

谷歌旗下的人工智能部门DeepMind最近在英国医疗界引起了不小的风波，风波的焦点是DeepMind与伦敦免费国家医疗服务体系信托（London Royal Free National Health Service Trust）旗下的三家医院所签订的两个协议。

在这两个协议中，第一个是在2015年9月签署的。在这个协议下，NHS信托（National Health Service Trust）把超过200万伦敦市民的医疗记录转给了DeepMind。而DeepMind也在今年2月份正式推出DeepMind Health，主攻医疗相关的技术。作为一家人工智能公司，DeepMind Health的首个产品反而与人工智能无关。此产品是一款名为Streams的移动应用，功能是向医生和护士推送急性肾损伤患者的消息，减少患者等待治疗的时间。

根据今年4月《新科学家》杂志所做的一项调查显示，DeepMind拥有相当惊人的数据：它拥有在过去5年内所有通过皇家免费医院进行治疗的患者的信息，而相关的商业条约：无。

对于如此大尺度的数据分享，DeepMind的回应则是“数据分享包含在对肾损伤进行治疗的协议里”。但问题在于，DeepMind所收到的信息不止于肾损伤的患者，医院的所有病人都被划在了协议的范围之内。因此，此项协议中数据保护、隐私以及医疗记录保密等重要问题在英国引起了极大的争议。在此之外，NHS信托在签署此协议之前没有进行广泛的民意调查，也没有与谷歌之外其他的竞争者或者开源机构进行交流，英国人对这种做法也表示了不满。

因此，英国信息专员公署（UK Information Commissioner’s Office）现在正在对此协议进行调查，国家健康和医疗数据守护者（National Data Guardian for Health and Care, NDG）也在进行审查。此外，DeepMind也邀请了一些“独立审查员”进行审查。

而在一年后，为了避免来自管理机构的影响，DeepMind签署了第二个，为期5年的协议。通过对NHS巨量数据的分析，DeepMind开发出一款可以监视数种疾病的软件，还提供了一款“开放式生态圈”平台。“开放”之所以有引号，是因为该平台处于DeepMind的严格掌控之下。而且在使用许可的协议下，皇家免费信托也不可以直接与其他公司进行合作。DeepMind的目的似乎是为从第一个协议中所获得的信息上发展出一个新的开发者社区。

虽然DeepMind在好几个方面尽全力确保信息的安全和隐私的保障，但私人公司不应该在与公共机构签署信息协议时受到特殊待遇。DeepMind却受到了特殊待遇，这一点从DeepMind一直到现在都没有受到来自敏感信息管理机构的任何评论就可以看出。

这种协议将会成为国家政府能否遵守合法过程、保护人权的一种考验。推进机器学习技术的主要限制就是数据和计算能力。签署这两个协议的皇家免费信托，由于低估了来自公众的信息的价值，以及没有考虑到为私人公司提供独家渠道的后果，这对公众所带来的伤害很有可能比福利要大很多。

DeepMind也许是个可靠的合作者，但是它必须证明，它所带来的未来会有竞争、开源、公平以及对公众利益的保护。

来源：DeepTech深科技（微信号 mit-tr）