VS680是一款高性能的片上多媒体系统(SoC),用于新一代智能显示器消费类物联网设备,结合了增强人工智能功能的智能扬声器/本地触摸显示器。这款SoC的目标是将传感、视频和音频领域的边缘应用结合到单个消费设备中。为了实现边缘计算AI应用,它集成了一个高性能神经网络处理单元(NPU),支持每秒数万亿次 操作。 该款SoC附带了NPU工具包,使客户能够为视频、视觉和音频AI构建优化的ML/AI应用程序。集成的MIPI-CSI2和ISP为基于边缘的视觉推理提供相机输入,最大限度地减少对外部组件的需求。远场语音和关键词检测算法提供基于边缘的语音处理。VS680集成了高性能四核CPU子系统以及最新一代GPU 、超高清视频编解码器处理器、显示管道和安全处理器,以实现具有内容保护功能的强大视频/音频应用程序核心。这种高性能设备经过优化,可将功耗和散热降至最低,使制造商能够保持较小的外形尺寸。
优势
- 安全, 一流的人工智能性能
- 使人工智能的快速开发、移植和优化成为可能。
- 内部集成的ISP适用于支持摄像头的高级用例
应用
- 智慧显示器
- 回音壁
- 多摄像头平台
- 机顶盒及直播设备
特性
CPU
- 四核 Arm® Cortex® A73处理器,带安全扩展。
- 每个CPU最高可达 2.1 GHz,提供高达 40000 DMIPS
- 支持功率门控单个核心以及动态电压和频率调节
- 每个处理器都有 64KB指令缓存和 32KB数据缓存。
- 每个处理器都有专用的 Arm NEON™技术/VFPU
- 32个128位 SIMD寄存器,加密指令。
- 1 MB共享二级缓存。
- Arm CoreSight™ 技术兼容的调试接口,带4KB跟踪缓冲区。
- TrustZone® 技术。
- 支持标准工具链(ARM、GNU)。
存储器接口
- DRAM 控制器
- 64位 LPDDR4/LPDDR4x-3733
- 支持可选的32位DDR配置。
- 支持最高4 GB的内存空间。
- 支持事务乱序发布,以最大限度地提高DRAM利用率。
- 安全控制。
- eMMC 5.1 控制器
- x1, x4 or x8位 接口
神经处理单元(NPU)
- 专门为本地化神经网络/机器学习应用程序设计的硬件。
- 最高 6.75 TOPs (INT 8)
- 最高 1.69 TOPs (INT 16)
- 支持多个DNN框架,并通过NPU工具包优化 TensorFlow™ Lite推理。
多标准视频解码
- 视频解码
- AV1 Main Profile (8位或10位, YUV 4:2:0) 2160p60
- H.265 main 8位和10位 (ITU-R BT.2020)
- VP9 Profiles 0和2 (8位或10位, YUV 4:2:2)
- H.264 Baseline, Main 和 High Profiles; MVC (多视图视频编码)
- MPEG-2 Simple 和 Main Profiles
- VP8
- 灵活支持PIP(2160p60/2160p60)和多视图(1 x 2160p60和3 x 1080p60)。
- 支持单流2160p H.265/VP9解码,最高90-100帧/秒。
- 支持高达1080p120的单流解码。
- 静止图像 – H.264、MPEG2 I 图像解码。
多标准视频编码/转码
- 最多支持两个流编码:
- 1080p60: H.264 or VP8 (每条流)
- 支持同时进行2160p60解码和1080p60转码。
音频解码/处理
- 远场语音(FFV)和关键词检测。
- 支持麦克风输入处理。
- 支持各种格式的音频解压缩。
- 音频后处理。
二维和三维图形
- 基于GPU的图形引擎(Imagination™ PowerVR™ 系列 9XE GE9920):
- HDR-enabled。
- 包括几何体着色器和镶嵌着色器。
- 支持 OpenGL® ES™ 1.1/2.0/3.0/3.1/3.2/ DirectFB/OpenCL™ 1.2 / Vulkan® 1.1。
- 支持Android扩展包。
- 分辨率高达3840×2160。
- 支持3D。
- 5.6 G像素/秒。
- 200 M多边形/秒。
- 89.6个16位GFLOPS,44.8个32位GFLOPS。
QDEO™ 视频/图形显示管道
- 两条独立的显示器输出路径。
- 显示路径 #1:
- MP/GFX0(或PIP)/GFX1叠加后的输出。
- 通过HDMI Tx(高达2160p60)/DSI(高达21.60p30)输出。
- 支持伽玛校正和低延迟模式(适用于源/汇设备)。
- 显示路径 #2:
- GFX0(或PIP)/GFPX/GFX2选择的输出。
- 仅通过DSI输出1080p60。
- 支持伽玛校正。
- MP:
- Dolby Vision™ (仅限源) / HDR10+ (仅限源) / HDR10 / HLG。
- SDR和HDR之间的任何转换(HDR10、HLG)。
- 缩放。
- 细节和边缘增强。
- 肤色检测。
- 亮度过渡增强。
- 色度过渡增强。
- 自适应对比度增强。
- 智能色彩重映射器(色度增强)。
-
- 90/180/270 旋转。
- 水平和垂直翻转。
- 压缩失真抑制。
- 局部调光。
- 伽玛校正。
- GFX0(或 PIP)/GFX1: 支持 Dolby Vision™
- 仅按比例放大。
- SDR和HDR之间的任何转换(HDR10、HLG)。
- GFX2:
- 仅按比例放大。
- 离线视频管道(OVP):
- 离线影像解交错器
- 离线缩放器(缩小和放大)
- 显示路径 #1:
安全
- 250MHz Secure CPU (Arm Cortex®-M3)。
- 使用eMMC和 SPI NOR Flash的RSA数字签名验证进行安全引导。
- 片上32Kbit OTP。
- 真随机数生成器。
- DRM 引擎 支持:
- AES, DES, 3DES, RSA, ECC。
- 支持以下内容保护方案:
- Widevine™ (Google)
- PlayReady™ (Microsoft)
- 通过身份验证禁用/启用JTAG。
- 内存和I/O空间访问控制。
- 支持DRAM加扰。
音视频输出
- MIPI DSISM v1.2 输出:
- 1 x 4-lane。
- 支持最高 2160p30。
- 1个 HDMI v2.1 输出:
- 支持遵循 HDMI 2.1的HDR方案, 包括 HDR10+。
- 支持最高 2160p60 YUV 4:4:4。
- 支持高达 1080p60的12b深彩色。
- 支持 HDCP 2.2。
- 支持 HBR 输出。
- 支持 CEC。
- 支持 ARC Rx 和 eARC Rx。
- 支持 Variable Refresh Rate (VRR)。
- 支持 Auto Lip Sync Correction。
- 支持 Quick Media Switching (QMS)。
- 支持 Quick Frame Transport (QFT)。
- 支持 Auto Low-Latency Mode (ALLM)。
- 8通道 I2S 输出。
- 2通道 I2S/PCM 输出 或 8通道 TDM 输出。
- S/PDIF 输出。
音视频输入
- MIPI CSI2SM v1.2 输入:
- 1 x 2-lane, 1 x 4-lane。
- 最多支持 2160p60(单摄像头)或 2 x 2160p30(双摄像头)。
- 支持 8MP + 4MP 双传感器。
- 内部集成ISP:
- 最多支持双摄像头。
- 输入像素格式:RAW(RGGB),每像素10/12位。
- 输出像素格式:YUV420/422/444,8/10位;RGB444,8/10位;RAW,10/12位。
- 1个 HDMI v2.1 输入:
- 支持 HDR10 和 HLG。
- 支持最高 2160p60 YUV 4:4:4。
- 支持高达 1080p60 的12b深彩色。
- 支持HDCP 2.2。
- 支持 HBR 音频输入。
- 支持 CEC。
- 支持动态 HDR Metadata 功能 / HDR10+。
- 支持可变刷新率(VRR)。
- 支持 Auto Lip Sync Correction。
- 支持 Quick Media Switching (QMS)。
- 支持 Quick Frame Transport (QFT)。
- 支持 Auto Low-Latency Mode (ALLM)。
- 8通道 I2S。
- 2通道 I2S/PCM 输入或 8通道 TDM 输入。
- 4 个 2通道 PDM (麦克风) 输入。
- S/PDIF 输入。
待机模式系统管理器
- 25MHz Arm® Cortex®-M3 (ARMv7-M 兼容)。
- 128KB TCM 用于指令/数据,4KB安全RAM。
- 带有前面板控制I/O、ADC、SPI、UART、温度传感器和唤醒事件逻辑的独立供电区。
- 多个GPIO处于待机模式。
- Always-on 电源域 支持系统唤醒功能:
- Wake-on-Voice
- Wake-on-LAN
- Wake-on-CEC
- IR remote
- Front-panel key presses through ADC or GPIO
- Wake-on-Wi-Fi through GPIO
- Wake-on-Bluetooth® through GPIO
- ZigBee through GPIO
- Timer
外设
- 1个 dual-lane PCI Express® 2.0 root complex。
- 1个千兆以太网MAC:
- RGMII接口,用于连接到外部千兆以太网PHY或G.hn。
- 1个 USB 3.0 host 接口。
- 1个 USB 2.0 On-The-Go (OTG) 接口。
- 1个SDIO 3.01 host接口,高达200 MHz。
- 4条 TWSI 2-wire 总线 (I2C兼容)。
- 2个高速 UART 接口。
- 2个低速 UART 接口(在Always-on电源域中)。
- 2个 SPI 接口(其中1个带有 DMA)。
- 32位管脚复用的备用域 GPIO。
- 96位管脚复用的标准模式 GPIO。
- 4个 PWM。
- 单通道100KHz前面板ADC。
- IR接收器输入。
- 2个片上温度传感器。
电源、封装和布局
- 满载功耗:待定。
- 封装: 17mm x 17mm FCBGA, 球距 0.4mm:
- Ball pattern支持标准的 PCB fab 规则(无需HDI规则)。
VS680 高级框图
图 1. VS680 高级框图
2024年5月23日
Categories: