![](http://imgsrc.baidu.com/forum/w%3D580/sign=98924b8578d98d1076d40c39113eb807/b61444039245d68862706fdda0c27d1ed31b2447.jpg?v=tbs)
回答下楼主的问题,AI手机芯片里有没有NPU其实区别挺大的,主要体现在处理AI运算的性能和效率上。
移动AI处理是一个软硬结合的多层次系统项目。最上层是应用层,其下是API作为应用层和硬件层的交互应用接口。目前Android平台中AI加速的API主要有两个:一个是Google官方的Android AI Runtime,类似Windows下的Direct Compute,软硬件兼容性好,是行业规范;另一个是华为的HiAI,这个是麒麟970独有的API。类似NVIDIA的CUDA,虽然硬件上有限制,但效率更高。在API层下面还有一个HiAI异构资源管理系统,分配任务给下面的硬件层。下面的硬件层可以是NPU,也可以是GPU、CPU、DSP,甚至是ISP。
![](http://imgsrc.baidu.com/forum/w%3D580/sign=b168b0b3f1faaf5184e381b7bc5594ed/c80fd9f9d72a60595a5ef98f2434349b023bbadd.jpg)
这说明AI不是一定只能跑在NPU上,其他CPU,GPU、DSP什么也都可以,但在性能和效率上却有着根本性差别:GPU性能是CPU的4倍,而NPU则是CPU的25倍。除开绝对性能,能耗比的差距更为明显,NPU相比GPU和CPU有高达8倍和50倍的差距。这对于电量捉襟见肘的移动设备而言,这完全可以说是有本质的差距。
目前业界在处理AI手机芯片时,也分为NPU和非NPU两大阵营。其中华为麒麟970和苹果A11集成AI专用的硬件处理单元,而高通骁龙845采用CPU/GPU/DSP调度的解决方案,主要通过Hexagon 685实现AI运算。但Hexagon 685只是之前Hexagon 682的小改,严格来说还是一个DSP,只是简单化的向量处理单元,并且这个DSP计算能力还有可能被其他任务占用。骁龙845中更为复杂的AI机器学习任务依然需要GPU甚至是CPU来实现,这样的代价是巨大的。
相比之下,集成NPU的麒麟970在对物体进行识别时,性能可以达到16GFlops的运算能力,单个处理耗时仅为32ns,而工作电流仅为300mA,相比动辄几瓦的CPU和GPU而言十分的绿色。
所以,AI手机芯片里有没有NPU差别还是很明显的,集成NPU还真像是请专家来解决专业问题,既解放了CPU/GPU/DSP,还能提升运算效率,对手机用户来说确实是好事。
移动AI处理是一个软硬结合的多层次系统项目。最上层是应用层,其下是API作为应用层和硬件层的交互应用接口。目前Android平台中AI加速的API主要有两个:一个是Google官方的Android AI Runtime,类似Windows下的Direct Compute,软硬件兼容性好,是行业规范;另一个是华为的HiAI,这个是麒麟970独有的API。类似NVIDIA的CUDA,虽然硬件上有限制,但效率更高。在API层下面还有一个HiAI异构资源管理系统,分配任务给下面的硬件层。下面的硬件层可以是NPU,也可以是GPU、CPU、DSP,甚至是ISP。
![](http://imgsrc.baidu.com/forum/w%3D580/sign=b168b0b3f1faaf5184e381b7bc5594ed/c80fd9f9d72a60595a5ef98f2434349b023bbadd.jpg)
这说明AI不是一定只能跑在NPU上,其他CPU,GPU、DSP什么也都可以,但在性能和效率上却有着根本性差别:GPU性能是CPU的4倍,而NPU则是CPU的25倍。除开绝对性能,能耗比的差距更为明显,NPU相比GPU和CPU有高达8倍和50倍的差距。这对于电量捉襟见肘的移动设备而言,这完全可以说是有本质的差距。
目前业界在处理AI手机芯片时,也分为NPU和非NPU两大阵营。其中华为麒麟970和苹果A11集成AI专用的硬件处理单元,而高通骁龙845采用CPU/GPU/DSP调度的解决方案,主要通过Hexagon 685实现AI运算。但Hexagon 685只是之前Hexagon 682的小改,严格来说还是一个DSP,只是简单化的向量处理单元,并且这个DSP计算能力还有可能被其他任务占用。骁龙845中更为复杂的AI机器学习任务依然需要GPU甚至是CPU来实现,这样的代价是巨大的。
相比之下,集成NPU的麒麟970在对物体进行识别时,性能可以达到16GFlops的运算能力,单个处理耗时仅为32ns,而工作电流仅为300mA,相比动辄几瓦的CPU和GPU而言十分的绿色。
所以,AI手机芯片里有没有NPU差别还是很明显的,集成NPU还真像是请专家来解决专业问题,既解放了CPU/GPU/DSP,还能提升运算效率,对手机用户来说确实是好事。