阅片机器人性能增8倍,帮电网系统大省钱,从两个案例看英特尔加速AI推理细节

  发布时间: 2019年08月03日 06:20:11   作者: 广丰能源网

智东西(公众号: zhidxcom)

文 | 心缘

智东西7月13日消息,英特尔AIDC开发者大会于本周四在深圳举行,在上午场中,英特尔展示围绕硬件、软件和生态活动的AI产品阵列。(英特尔AIDC秀肌肉:展示AI软硬件+生态全景图)

下午场更加侧重于实操演示和案例分享,两家英特尔人工智能构建者计划的成员健培科技和赛特斯分别分享了他们在医疗影像分析、电网和交通领域和英特尔之间的合作细节。

健培科技从事医疗影像分析,在基层医疗和体检等方面有很多部署。赛特斯是软件定义通信解决方案供应商,目前主要把AI应用在国网防触电以及海事监测等方面。

期间,智东西同少数媒体对健培科技董事长程国华、赛特斯信息科技方案架构师蔡旭阳进行深入交流,具体了解英特尔软硬件产品如何帮他们实现AI推理性能的提升,并透露了下一步合作的优化方向。

一、健培阅片 机器人:准确率比肩放射科医生

据健培科技董事长程国华介绍,医学影像贯穿整个诊疗过程,占据中国80%的医疗数据均为影像数据。对于多数医院来说,影像数据存储成本大、负担重,计算难题迫切需要解决。

作为国内智慧医疗解决方案的先行者,健培早早提出一种“1个加速器+1个网络+1个啄医生”的方案,并提供金融级四级安全防护。

阅片机器人性能增8倍,帮电网系统大省钱,从两个案例看英特尔加速AI推理细节

由于AI推理在医疗成像方面的应用十分复杂,需克服数据多样化、深度分析、复杂标记等问题,而且需支持3D甚至4D深度神经网络架构,高度依赖平台内存。

健培科技打造的“啄医生”阅片机器人,采用高级AI算法和深度学习技术进行构建,能对医学影像疾病进行定性、定量的智能诊断,可应用到临床决策系统中,缩短放射科医生完成诊断的时间。

早在2016年,这款阅片机器人就在国际首次医疗影像机器人与放射科医生的“人机大战”中,就取得了1:1的战绩,而且效率远高于人工。

据悉,健培科技已有超过200家医院客户使用其阅片机器人,每家客户平均每天可诊断80个病历,每天提供的肺结核筛查超过2万例。

身为智慧医疗的老兵,程国华也谈到他对医疗行业对算力需求的变化。过去医疗平台更多依赖于云端,现在基层医疗机构需求越来越大,低成本、可快速部署的边缘计算成为一种趋势。

二、英特尔助力图像分析性能提升 8 倍

在与英特尔合作前,健培也在其他平台中做个测试,但或多或少经历各种不适配的问题。

例如,此前阅片机器人准备上央视节目时,健培原本设计了16块GPU方案,但要买到这么多GPU至少需要2个月,而央视节目的排期已经临近,这使得健培必须寻找另一种解决方案。

在尝试应用的过程中,健培陆续发现其他方案存在各种吃力的情况,他们往往不得不放弃一些其他性能,来满足对速度的需求。而英特尔处理器384GB的超高内存,完全能满足他们对高通量、3D计算的要求。

阅片机器人性能增8倍,帮电网系统大省钱,从两个案例看英特尔加速AI推理细节

为了用更好的支撑医学影像大数据,加速支持AI的成像分析和诊断,健培科技将阅片机器人迁移至英特尔可扩展处理器。

考虑到医疗数据对安全性的高要求,英特尔直接将服务器集成到健培的测试环境,完全不通过云端,严格保证数据的私密性。

硬件方面,“啄医生”阅片机器人采用英特尔至强金牌6140处理器。

软件方面,啄医生借助英特尔优化版TensorFlow以及英特尔MKL-DNN加速库,大幅提高诊断效率和准确性,与硬件搭配使用。

英特尔对TensorFlow做了5000多项优化,当前这一代指令集支持AVX512,而最新一代Cascade Lake的指令集名称变作AVX512-VNNI,指令集进一步扩充,增加了可变式神经网络指令集。

现在用一个可变的VNNI,只需一条命令就能执行以往3条命令才能执行的任务,从最底层带来运算速度的提升。

如图,经双方合作,医学数字成像和通信(DICOM)图像分析性能提升8倍,医疗分割分析领域性能提升6倍。

这得益于英特尔针对算法做的优化。

起初,英特尔与健培基于语义分割模型UNet做配置优化,它的准确度得到一定提升,但当他们试图用一些不同的方法,比如增加内存、改变框架的参数时,增幅并不明显。

第二次试验时,他们转变思路,选择以卷积神经网络(Faster R-CNN)作为突破口,英特尔的优化版TensorFlow完全支持Faster R-CNN,优化结果明显提升,准确度达90%。

相关文章

  • © 2019 广丰能源网 版权所有 | 88888888 | 网站地图|