生成式AI(GAI)正以前所未有的速度蓬勃发展,成为引领新一轮科技革命和产业变革的核心引擎,为用户创造多样化、个性化的内容体验开辟了无限可能。近期,联发科携手百度共同发起飞桨和文心大模型硬件生态共创计划,致力于推动联发科硬件平台与这两大领先AI技术的深度适配。这一合作不仅将优化文心大模型在终端设备上的运行效率,更将实现大模型在终端与云端的无缝协同,为用户带来突破性的生成式AI应用体验。
与单纯依赖云端部署的生成式AI应用相比,终端侧部署具有显著优势:不仅能够大幅降低服务器成本,更能有效保障用户信息安全,同时提升实时响应能力,实现高度个性化的用户体验。通过这一合作,联发科与百度将支持基于联发科芯片的智能手机、汽车、智能家居、物联网等终端设备运行文心大模型,为用户带来更安全、可靠且差异化的使用体验。
联发科与百度的合作由来已久,双方已成功完成Paddle Lite轻量化推理引擎基于MediaTek NeuroPilot人工智能通用软件平台的适配。NeuroPilot是MediaTek为开发者提供的本地端侧AI运算解决方案,为内置CPU、GPU和APU(独立AI处理器)等异构运算单元的MediaTek SoC平台提供全面而强大的软件支持。联发科无线通信事业部副总经理李彦辑博士表示:”百度飞桨深度学习平台和文心大模型在AI领域处于领先地位,我们将聚焦AI大模型在终端侧的部署,为用户提供更安全可靠、更个性化、更低成本的端侧生成式AI解决方案,赋予终端设备更强大的AI能力。MediaTek携手百度飞桨和文心大模型,通过AI端云融合,将为广大开发者和终端用户带来更多令人兴奋的AI创新机遇和产品体验。”
此外,联发科还宣布运用Meta Llama2大语言模型和自家的先进AI处理器(APU)以及完整的AI开发平台(NeuroPilot),构建完整的终端侧AI计算生态,加速智能手机、物联网、汽车、智能家居等边缘设备的AI应用开发。联发科资深副总经理暨无线通信事业部总经理徐敬全博士强调:”生成式AI的普及是数字化转型的重要趋势,我们的愿景是为Llama2的开发者和终端用户提供工具,创造更多令人兴奋的AI创新机遇和产品体验。通过与Meta的伙伴关系,MediaTek可提供更强大的硬件和软件整体解决方案,为终端设备带来远超以往的功能和体验。”
要在终端设备上充分释放生成式AI的潜力,设备制造商必须采用高算力、低功耗的AI处理器(APU),并通过更快速、更可靠的网络连接增强设备的整体算力。目前,每一颗联发科5G智能手机SoC均搭载AI处理器,已成功应用于AI降噪(AI-NR)、AI超级分辨率(AI-SR)以及AI运动补偿(AI-MEMC)等多个领域。预计年末,联发科将推出新一代旗舰移动芯片,该芯片将采用针对Llama2模型优化的软件栈(NeuroPilot),搭配支持Transformer模型骨干网络加速的升级版AI处理器(APU),有效减少动态随机存取内存(DRAM)的读写消耗和带宽占用,进一步强化大语言模型和生成式AI应用的性能,助力开发者打造令人惊艳的AI应用,加速终端设备AI应用落地发展。
面向生成式AI技术和应用浪潮,联发科将持续投资技术并携手行业伙伴,通过先进科技和海量伙伴推动生成式AI在终端侧的布局和发展,加速生成式AI市场的规模化进程,为智能手机、汽车、智能家居、物联网等终端设备用户带来振奋人心的生成式AI应用体验。