2023年8月23日，由电子发烧友网与elexcon深圳国际电子展联合主办的2023第七届人工智能大会在深圳隆重举行。本届大会以”智向远大，能者千面”为主题，汇聚了行业顶尖专家、学者及企业代表，共同探索人工智能产业发展的新机遇。爱芯元智AI推理引擎总监唐琦受邀出席，发表了题为《Transformer视觉大模型在边缘侧的部署》的主题演讲，分享了基于爱芯通元混合精度NPU部署Transformer视觉模型的落地实践，并正式发布了开发者套件——爱芯派Pro。同期颁发的第四届人工智能卓越创新奖中，爱芯元智AX650N凭借在边缘AI赛道的卓越自研实力和突出落地成果，荣膺”最具创新价值产品奖”。
端侧智能快速普及 Transformer视觉模型应用迈向新高度
自2015年AI模型在ImageNet图像分类比赛中首次超越人类水平以来，人工智能行业正式迈入新航海时代。近年来，随着芯片制造工艺的持续进步以及AI模型的小型化、轻量化趋势，AI模型在扫地机器人、家用摄像头、智能音箱等产品的本地化部署成为现实，端侧智能得到广泛普及。”截至目前，基于传统CNN模型的云、边、端三角互补算力架构已经基本完善”，唐琦在演讲中强调。在AI模型从云端向端侧迁移的过程中，Transformer网络结构也在不断演进，并随着ChatGPT的火爆成为业界焦点。回顾Transformer视觉模型的发展历程，从基于Transformer网络结构的语义分割模型应用于自动驾驶场景，到分割万物的SAM和基座视觉大模型DINOv2，Transformer视觉模型的应用正迈向全新高度。
爱芯元智专注打造领先的人工智能视觉芯片
作为致力于打造领先人工智能视觉芯片的企业，爱芯元智专注于高性能、低功耗的边缘侧、端侧人工智能处理器芯片开发，业务布局涵盖智慧城市、智能驾驶和AIoT三大市场。基于智慧城市的升级改造需求，L2/L2+智能驾驶的规模化落地，以及终端设备智能化需求的持续扩大，爱芯元智将在边缘感知智能芯片领域持续投入，不断提升感知和计算基础能力。
爱芯元智的三大应用场景全覆盖依托于自研的爱芯智眸AI-ISP和爱芯通元混合精度NPU两大核心技术
爱芯智眸AI-ISP将深度学习算法与传统ISP处理单元相结合，作为万物智能的”眼睛”感知更多信息，尤其满足暗光全彩的刚需。其六大技术亮点包括AI星光全彩、AI HDR成像、AI多光谱融合、AI防抖、AI场景增强、AI多传感器融合，在暗黑道路、隧道出口、颠簸路段等行车场景下全面提升画质，实现更优质的视觉效果。
爱芯通元混合精度NPU作为爱芯元智的另一大核心自研技术，支持INT4/INT8/INT16三种计算精度，具有高性能、低成本、易使用的突出优势。第三代爱芯通元混合精度NPU在汲取前两代产品市场反馈的基础上，进一步增强了算子支持种类和不同精度的混合计算能力，优化了内部内存调度机制，同时高效支持CNN网络和Transformer网络模型。针对爱芯通元3.0 NPU研发的工具链——Pulsar2，则进一步完善了工具链的功能和易用性，支持主流深度学习训练框架的模型部署，支持PTQ、QAT两种量化操作，满足各种场景的量化调优需求。
Transformer模型在爱芯元智NPU上部署简单高效
以SwinT模型为例，从PyTorch官方ModelZoo直接下载SwinT的ONNX模型，无需任何模型或算子修改，即可实现SwinT的量化压缩和编译，达到199 FPS/W的高能效比。会上获评”最具创新价值产品奖”的AX650N作为爱芯元智今年推出的高性能芯片产品，基于第三代NPU，在边缘侧、端侧部署Transformer具有高性能、高精度、易部署、低功耗等特性，是业内领先的Transformer落地平台。
爱芯派Pro助力视觉大模型落地
大会上，爱芯元智正式推出开发者套件”爱芯派Pro”，这款联合硬件生态伙伴共同打造的开发者套件，旨在为社区开发者低成本体验视觉大模型在边缘侧、端侧的便捷部署。爱芯派Pro搭载AX650N，拥有高算力和超强编解码能力，可满足行业对高性能边缘智能计算的需求，实现视频结构化、行为分析、状态检测等应用，高效支持CNN模型和Transformer视觉大模型。
爱芯元智发布新一代AI工具链Pulsar2社区版
在爱芯派Pro发售的同时，爱芯元智还发布了集成模型量化、模型编译、模型部署三合一功能的新一代AI工具链Pulsar2社区版以及丰富的开发文档，方便用户快速进行产品原型验证和二次开发，帮助用户在智慧城市、智慧交通、智慧教育、智能制造等领域发挥更大价值。
爱芯元智持续创新 打造全栈式解决方案
目前，爱芯元智已量产四代多颗应用于不同行业领域的视觉感知芯片，并坚持基于算法、芯片、产品的垂直整合，为合作伙伴提供全栈式解决方案，帮助客户实现最新技术的快速落地。面向人工智能产业的高速发展，爱芯元智将通过持续的技术创新，提高芯片性能、降低成本，让边端智能更加普惠，最终实现”普惠AI造就美好生活”的使命。