根据IBM内部资料,多名使用IBM沃森肿瘤治疗系统的医学专家发现,IBM沃森多次为患者提供不准确且不安全的建议。目前为止,尚未有病人因沃森的失误受到伤害。
内部资料包括IBM沃森前健康副主管安德鲁诺登(Andrew Norden)于2017年6月和7月两场报告的文件。文件中有这样一个例子,一名65岁患者被诊断患有肺癌且伴有严重出血,沃森建议该男子进行化疗,且开了名为“贝伐珠单抗”的药物。但这种药会导致严重或致命大出血,实则不应用于伴有严重出血的患者。
纪念斯隆凯特琳癌症中心的发言人表示:这样的建议目前还是假设阶段,只是系统测试的一部分。但许多人反对称,这种不准确的建议实则说明技术与内容上存在严重的问题。

据Stat News称,佛罗里达州某医院的一名医生直言此产品差强人意。他表示:“当时听信推销人员购买了产品,但大多数情况下没办法使用。”此医院的医生都表示:在治疗意见不统一时,除了沃森提供建议外,他们还会听取超级计算机的建议。
如今,人们不仅对沃森的建议持怀疑态度,同时也好奇在此项目上沃森如何接受训练。其实AI系统分析的都是真实病例,而非虚拟数据,即医生接收到的建议都是其他医生真实的建议,并非通过合成虚拟数据得到的结论。

IBM的发言人回应称:根据客户的不断反馈、新的科学证据以及新的癌症治疗方案,我们不断学习,已经作出进一步改进。目前已用于全球230家医院,为84000多名患者提供了帮助。IBM于6月发布报告称, 如今沃森准确识别肿瘤的成功率已达93%。
凡《网络安全与数据治理》(原《信息技术与网络安全》)录用的文章,如作者没有关于汇编权、翻译权、印刷权及电子版的复制权、信息网络传播权与发行权等版权的特殊声明,即视作该文章署名作者同意将该文章的汇编权、翻译权、印刷权及电子版的复制权、信息网络传播权与发行权授予本刊,本刊有权授权本刊合作数据库、合作媒体等合作伙伴使用。同时,本刊支付的稿酬已包含上述使用的费用,特此声明。