联系我们

邮箱:admin@baidu.com
地址:广东省广州市天河区88号
传真:+86-123-4567
手机:13988999988
电话:400-123-4567

澳门葡京赌场官网网址

当前位置:葡京赌场官网_葡京赌场网址 > 产品展示 > 澳门葡京赌场官网网址 >

卢清君:人工智能在医疗领域应用风险很大

时间:2019-06-12 12:14 来源:网络整理 作者:http://www.m-dm.cn

  卢清君:从目前AI界存在的一些瓶颈问题来看,第一,它采取的深度学习方式目前已经到了天花板。深度学习的前提是需要有大规模的、规范化的、客观的、正确的数据去支撑,也就是说要有很好的教材。而我们现在医疗界是不可能有这种教材的,因为都是过去式,很多过去的病例又未必具有普遍性,每个病人都是个性化的。所以在这种情况下,AI是没有学习材料的,至少没有一个合格的学习材料。

  从生物学上来说,我们对人的这些跳跃性思维还不完全掌握,我们看到科学界有很多报告也对AI的一些优点和弊端做了相关鉴定。一方面,AI具备大规模的运算能力、存储能力、深度搜索能力以及快速学习能力。它目前解决的包括精确控制和远程操控,都是劳动密集型问题,也就是重复性的、简单逻辑很明确的工作关系。但是对临床诊断来说,它需要逻辑推理能力,这是AI的短板。所以目前整个AI的运用还有很大风险。

  所以在医疗的AI应用上,我不太建议从深度学习做起,不应该从过去发生的案例来进行深度学习,而是应该从我们已经确定的知识结构开始,这是两个方向。中国科学院的几名院士也提出,目前的AI深度学习不适合在医疗上应用。

  从AI发展的技术上来说,技术本身存在很多缺陷,比如说鲁棒性的问题。鲁棒性是系统面临决策产生的干扰因素时表现出来的稳健性。人在判断错误的时候会有一些其他因素来补偿,人会及时终止自己的逻辑,会有一些潜意识的反应去防范一些恶性问题的发生。所以科学界说,人的鲁棒性是好的,后果不是很严重。但机器的鲁棒性是差的,它出现错误时自己都不知道是错的,会继续错下去,带来的后果很严重,因为它没有修正的过程。所以我们目前对AI的认识必须要看到背后的风险。

  卢清君:首先人工智能要一分为二地看待。一方面,从积极的态度看,医学人工智能目前是发展大趋势。大数据技术的发展使得AI已成为一个行业发展的必经之路和重要方向。从需求上来说,无论是大医院的医生,还是基层医生,都需要一些辅助用具,都需要一些用以决策的数据依据。按照人的记忆能力,是没法完成数字化大规模运算和大规模记忆存储的,这是人脑的局限性,而机器正好弥补了人类的短板。所以在很大程度上,我们对AI有很大的期待,将来在各个领域,AI都会产生重要的作用。

  第一财经:那你觉得当前的AI技术能够在医疗界哪些领域应用呢

  第一财经:也就是说,在医疗领域大面积铺开使用AI,除了风险很大之外,还存在很多制约?

  所以在目前这个状态下,AI用在基层医疗上是不行的,是一个风险所在。或许很多大专家有判断能力,但是基层医生是没有判断能力的,你把这样一个机器给他,他无法判定是采取机器的建议还是拒绝机器的建议,这对诊断疾病来说就会有潜在风险。

  你不知道结果的可信性,你就无法判断这个结果在临床上是不是可以使用,这是目前AI最大的一个风险。所以我们要研究到底在医疗上采用什么样的方式去建立AI模型,这是当下科学界最紧迫的一个议题。

  第二,现在的AI是基于国际开源的一些公用的模型和算法,所以它局限在我们的语音识别、图像识别,对于很多其他逻辑数据的建立,目前还很难建造一个非常符合临床医学规律的数据模型。所以,这就需要更多的数学家参与到医学AI的开发中来。我们的医学数据模型没有建立的话,将来AI的应用场景就会非常受限,会很肤浅。

  简介:虽然医学人工智能是发展的大趋势,但目前AI还有很多不成熟的地方,如果大规模在临床应用的话是很危险的。

  卢清君:目前在一些浅显的模型上是可以做的,比如一些临床路径和常规的诊疗方案,就像大众指导、简单的医学知识咨询,因为这些知识我们是可以通过行业专家共识、行业标准以及一些国际规范等来建立疾病模型,AI可以摈弃那些错误的数据。但另一些深度学习领域,比如临床病例,很多都没有经过数据清洗。

卢清君:人工智能在医疗领域应用风险很大

  卢清君:确实是这样,现在AI的整个设计逻辑还存在短板。它是基于一种完全可控的、可知的、可预测的数学逻辑去建立的模型,换句话说,它是符合现代简单数学逻辑的,比如“1+1=2”的这种。但我们的临床疾病很多情况下不是如此清楚的数学逻辑,它是因果关系,其中会涉及很多潜在的干扰因素,还有未知因素,所以目前建立起来的AI模型还无法模拟临床上的这种因果关系。简单一句话就是,目前的AI不具备逻辑推理能力,因为人还不知道自己的逻辑推理是怎么算出来的。

  但回过头来说,我们要清醒地看待AI现在发展的历程。