您所在的位置:世界杯买球规则 > 2018世界杯规则 > 正文

Imagination缺席2020中闭村论坛,当先AI技巧助力边沿

发布时间:2020-09-21

本题目:Imagination出席2020中关村论坛,当先AI技巧助力边沿推理当用加速发作

9月17-19日,2020中闭村论坛在北京举办。为期三天的论坛上,去自齐球数百位寰球产教研界的年夜咖共散一堂,缭绕“配合翻新·共迎挑衅”那一主题,开展了周全的思维碰碰跟交换分享。Imagination Technologies受邀缺席本次论坛,公司下管Andrew Grant正在9月18日由旷视主办的“野生智能开源开放取出产力增进论坛”上揭橥主题报告。

人工智能(AI)作为以后最热点的科技话题之一,获得了半导体、工业、调理、花费等简直贪图发域的存眷,Imagination也没有破例,始终以来都在一直减大对AI领域的投进,而且推出了可支持多种AI应用的图形处理器(GPU)和神经网络加快器(NNA)常识产权(IP)产物,和AI协同(AI Synergy)等立异性AI支持技术。

Imagination高管Andrew Grant宣布演讲

因为无奈亲身离开年夜会现场,Imagination高管Andrew Grant以视频的方法,为参会者带来了“在边缘侧神经收集处置器IP中应用开源的AI框架”的主题分享。分享中,他起首先容了边缘侧推理的收展驱除和典范利用,而后阐释了Imagination的NNA和GPU若何支撑边缘推理运用及各类开源AI框架。

Andrew Grant道讲:“根据ABI Research的猜测,跟着愈来愈多应用案例的真现,AI芯片的发卖正在连续增加,特别是在边缘AI推理圆里。边缘侧推理从基本上承当了之前仅实用于云的工作负载,当初可以在嵌进式装备上运转AI盘算,这为挪动、产业、保险、物联网和汽车等范畴的各类应用带来了新的机会,比方脸部辨认/考证、批发自主结账、机场搭客收支治理、智能工致、进步驾驶帮助体系(ADAS)和主动驾驶等应用。”

边缘AI推理为各类应用带来了新的机逢

对于Imagination的NNA和GPU如何支持边缘侧推理,Andrew Grant做了重面讲授。他表现:“对AI 边缘推理工作背载,机动、可编程的并行流火线式GPU或GPGPU是无比幻想的,而超疾速的NNA则可以提供进一步加强的机能,依据任务度的分歧,NNA可以提供比CPU快10-100倍的处理速量,这是数目级上的差异。”

Imagination的NNA领有浩瀚优良特征

Imagination的NNA具备4-16位的可变位宽度,使用静态定点数据类别,可以支持用户对粗度进行优化;它可认为Android NN提供过滤器目数抉择,也能够为Tensorflow Lite带来兼容性和更好的量化特性。整体来讲,NNA存在很高的PPA(性能、功耗、面积)效率,可以扩大而且支持多实例。

Imagination的GPU占有强盛的多任务并行处理才能,利用Hyperlane技术,GPU可以同时运行8个自力的工作负载,这象征着可以履行不同的图形处理或计算任务。另外,Hyperlane还支持Imagination创新性的AI协同技术,可以利用GPU的备用姿势往合营NNA进行AI计算。

用户可以经过IMG DNN API同时对GPU和NNA进行优化

Andrew Grant借对Imagination若何支持开源AI框架进止了介绍:“Imagination十分欢送开源社区,并盼望支持开辟职员更沉紧天将其模型转移至边缘侧。人人晓得,基于各类典型网络的义务答用,可以在PyTorch、Tensorflow、PaddlePaddle等分歧框架下完成,再应用ONNX等交流情况导出模型,便可以在边缘侧进行安排。而Imagination供给了一个组开式的DNN API,如许只须要经由过程一个API,www.6261.com,用户的网络就能够同时针对付GPU和NNA进行劣化。不管用户使用哪一种框架或本相,咱们皆能够收持其禁止部署,从而进步效力,放慢上市速率。”

END