让智能计算无处不在，高通ChinaJoy AIGC大会展望终端侧AI行业赋能

2024年7月26日，中国国际数字产业大会(CDEC)旗下的ChinaJoy AIGC大会在ChinaJoy活动期间于上海盛大举行。本次大会从技术和应用等全方位生态视角，共同探讨了AIGC技术驱动下的内容产业新形态及未来走向，重点聚焦AIGC如何助力产业升级、如何拓展AIGC场景应用，以及如何推动人机深度融合等议题。

高通技术公司产品管理、合作伙伴及技术市场全球负责人Mike Roberts在大会上发表了主题演讲。他强调，终端侧生成式AI的时代已经来临。高通公司作为终端侧AI的领军者，在AI领域深耕超过15年，依托强大的硬件与软件支持体系、异构计算优势，以及全球领先的边缘侧布局，高通的产品和技术已助力超过25亿台AI赋能终端出货，广泛赋能各行各业及生成式AI体验，正稳步推进“让智能计算无处不在”的愿景。

以下为演讲全文：

大家好，非常高兴能第四次参加ChinaJoy。我深感荣幸能代表高通，与大家分享我们如何助力实现智能计算的普及。作为终端侧AI的领导者，高通在人工智能领域已投入超过15年，拥有行业领先的硬件和软件解决方案，覆盖广泛的边缘终端，并具备跨NPU、CPU和GPU的卓越异构计算能力、领先的软件优化及能效表现。此外，我们在全球范围内拥有无与伦比的边缘侧布局和庞大的用户设备基础，涵盖智能手机、PC、汽车、XR、边缘网络设备等多个领域。同时，我们还与微软、谷歌、百川、字节跳动等众多生态合作伙伴携手，共同推动AI技术的创新与应用。

生成式AI不仅成为个人不可或缺的助手，还在多个领域展现出巨大价值。据预测，其每年可带来2.6万亿至4.4万亿美元的经济效益，相当于2023年上海GDP的5倍。然而，推动生成式AI的规模化发展面临诸多挑战。以成本为例，基于生成式AI的搜索单次推理成本约为传统网络搜索的10倍。目前，我们仍处于生成式AI应用的初期阶段，新应用不断涌现，包括图像创作、文本摘要、对话聊天机器人等。考虑到未来数十亿用户将使用AI推理，总体需求量将极为惊人。预计2024年至2028年，生成式AI相关的token生成量将增长150倍，云端的推理需求将超过训练需求。若维持当前AI处理方式，到2030年AI可能消耗全球3.5%的电力，这足以支撑上海这样的大城市运行约35年。

那么，我们该如何应对这一挑战？为实现规模化扩展，AI处理的重心正逐步向边缘侧转移，最终目标是实现混合AI，让云端和边缘侧终端协同处理工作负载，并通过高性能连接实现更强大、高效、优化的AI。若将20%的生成式AI工作负载转移至终端侧，预计到2028年将节省160亿美元的计算资源成本。

让我们分别审视终端侧和云端的AI处理。终端侧主要支持100亿参数级别的大模型。终端侧AI处理具有诸多优势，不仅能提升性能和效率，还能确保隐私和安全，同时提供个性化、低时延、高可靠性的用户体验。而中心云则能支持运行参数超过千亿级别的超大模型。在中心云上，用户可轻松进行模型的开发、部署和训练，实现资源聚合和极致性能。

基于此，面对各垂直领域对生成式AI用例日益增长的需求，高通推出了面向计算性能优化的系统级解决方案。提供系统级解决方案的理念深植于高通公司的基因之中，也是我们应对诸多挑战的关键。这一解决方案包括我们专为生成式AI打造的神经网络处理器(NPU)，同时将NPU与CPU、GPU整合。例如，我们已在PC端推出高通Oryon CPU，未来还将扩展至手机、汽车等更多终端品类；此外，我们推出了高通Adreno GPU，并在这款定制化GPU上投入了超过十年的研发。

我们针对不同计算需求，灵活运用适宜的处理器，以提升系统性能，实现异构计算。异构计算使我们能够实现最佳应用性能、能效和电池续航。如今，终端侧AI已广泛应用于各类消费终端和各行各业，包括边缘网络设备、汽车，以及制造车辆的工业机器人等。在此，我想重点谈谈两种主要的终端类型：智能手机和PC。

我们最新的第三代骁龙8旗舰移动平台已助力众多手机厂商合作伙伴推出丰富的终端侧AI体验。上个月，我们的合作伙伴微软及其他领先PC厂商推出了20多款搭载骁龙X Elite和骁龙X Plus平台的最新Windows 11 AI+ PC，这些设备已实现实时翻译、实时转译、AI照片编辑、文本总结、写作辅助等丰富功能。

让我们先从智能手机的角度探讨这些终端侧AI用例。我们与合作伙伴携手，在他们推出的旗舰智能手机上为用户带来生成式AI功能，将骁龙的AI能力直接呈现给消费者。三星Galaxy S24系列借助终端侧AI，以先进的实时翻译功能，将手机通话实时翻译成用户首选语言，打破语言障碍，促进无缝跨文化交流。此外，OPPO Find X7 Ultra集成了出色的终端侧AI特性，让用户能够移除照片中不需要的物体或人物，且无需连接互联网。荣耀Magic6系列的“智慧成片”功能则能利用相册中的照片和文本提示生成视频。

接下来，让我们聊聊PC领域的应用。在PC方面，我们与djay Pro等众多公司展开了合作。djay Pro是一款全球领先的混音应用，经过我们双方的合作优化，现在可以在骁龙X Elite的NPU上运行，让用户能够利用Neural Mix实时分离和操作人声、乐器、鼓等不同音轨。

现在，让我们将目光转向汽车制造商和其他服务提供商，他们可以根据需求提供特性升级和新服务。中国的汽车市场发展速度全球领先。在网联汽车中使用生成式AI服务，能够赋能我们的合作伙伴打造全新特性，扩展他们的产品，并为驾驶员和乘客提供更佳体验。网联汽车能够支持各种软件定义特性和服务，也将重新定义出行体验。

高通还在引领终端侧AI在物联网领域的应用。一个具体用例是工厂车间，其中数据处理的低时延至关重要，因为即使是最微小的错误也需要即刻关注。通过多模态AI助手，我们可以利用视觉、文本和处理技术为工厂车间的工人提供实时帮助。

我们还提供了高通AI软件栈这一全面的统一解决方案，以支持广泛的垂直领域和合作伙伴。高通AI软件栈旨在帮助开发人员优化和部署AI模型，它集成了我们自主的高通神经网络处理SDK，以及模型压缩和量化——高通AI模型增效工具包(AIMET)。

综上所述，凭借强大的硬件和软件支持组合，高通的产品和技术已助力超过25亿台AI赋能终端出货。随着我们不断缩小云端和终端侧AI之间的差距，未来这一数字将继续快速增长。最后，非常欢迎大家来到ChinaJoy骁龙主题馆E4参观体验。谢谢大家!