其他Available now on iPhone 17, Apple M series devices, and flagship Android phones
SME2
规格参数
- Fps
- 30
- Lux
- 1
- Power (w)
- 1
- Speed up factor
- 5
- Pipeline speed up factor
- 2.5
- Inference speed up factor
- 6
- Vision audio speed up factor
- 3
产品介绍
SME2是Arm Lumex CSS上的最新CPU扩展,旨在直接在设备上加速矩阵导向的计算工作负载。它提高了AI和ML模型的性能,特别是那些依赖矩阵乘法的模型,常见于Transformer、CNN和LLM。它提供高达5倍的AI性能提升、完全设备端推理,并通过Arm KleidiAI实现无缝框架支持,跨平台支持iPhone 17、Apple M系列和旗舰安卓手机。
主要特点
- ▸相比上一代AI性能提升5倍
- ▸完全设备端AI推理,保障隐私和低延迟
- ▸通过Arm KleidiAI无缝支持框架(PyTorch、LiteRT等)
- ▸跨平台支持iPhone 17、Apple M系列、旗舰安卓手机
- ▸支持低精度神经网络(4位和2位)
- ▸从入门级到旗舰移动设备可扩展
- ▸大语言模型推理速度提升6倍,视觉/音频处理提升3倍
- ▸无需修改代码即可集成PyTorch、ONNX Runtime、XNNPACK
