01
AI,从数据中心
到手机和 PC
「我们刚刚见证了下一个转型的开始,而它的深远意义。」高通公司总裁兼 CEO,克里斯蒂亚诺·安蒙 Cristiano Amon 在描述了手机从功能机到智能机,再到未来时,对终端和云端结合的「混合式 AI」,做出了这样的预言。02
终端 AI 进化史
如果说以数据中心为场景的云端 AI 硬件进化,标志是英伟达的图形显卡;那么终端侧 AI 的发展,具有标志意义的则是高通 AI 引擎,当然其中硬件层面最关键的部分就是不断进化的骁龙 Hexagon NPU 处理器。早在 2007 年,高通便在骁龙平台上推出了首个 Hexagon 处理器。2015 年,高通已经将 AI 技术集成到其处理器之中,用 AI 来增强图像、音频和传感器的运算。2017 年,高通在骁龙 845 芯片中引入了 Hexagon 685 DSP,它使智能手机更快速地执行复杂的 AI 任务,如图像识别和语音处理。接下来的 2018 年,骁龙 855 升级了第四代 AI 引擎,为 Hexagon 处理器增加了张量加速器,在 AI 处理方面有了 3 倍的性能提升。骁龙 865 中,引入了 Hexagon 698 DSP,提供了更多的 AI 性能和效率。这一版本强调了 AI 加速,并优化了 AI 模型的执行,从而在智能手机中更快速地运行 AI 应用。2020 年年底的骁龙 888 中的 Hexagon 780 DSP,提供了高达 26TOPS 的 AI 性能。03
「混合式 AI」的未来
在浏览器中,在手机端的 App 里,很多人都在使用生成式 AI 应用,看起来这种「云端 AI」似乎已经能满足人们的需求。相对于云端 AI,终端侧 AI 有什么优势?首先就是即刻响应。之前曾经有开发者尝试将 Stable Diffusion 模型压缩,在 Mac 笔记本上生成图片,结果生成速度以小时计。而如果在终端进行本地运算,高通展示的 Demo 中,FastStable Diffusion 生成图片的速度已经降到了 1 秒以下。尤其是像虚拟人、实时虚拟背景这样对于延迟要求较高的场景,终端 AI 本地运算的即时性就凸显出来。另外,在网络不良的情况下,本地设备的 AI 能力就成了用户的唯一选择。热点视频
在 AI+ 大时代背景下,新的范式已经诞生,技术创业者和开发者面临的挑战和机遇都有哪些?点赞关注极客公园视频号,观看更多精彩视频更多阅读