华为海思在人工智能领域有诸多重要专利成果,部分如下:
- 人工智能模型量化方面:“人工智能模型的量化方法、处理系统和量化单元” 专利,量化单元能够基于运行 AI 模型的计算设备中各计算单元的处理粒度,将量化矩阵分割为多个适配的分块量化矩阵,然后对分块量化矩阵进行量化处理并存储,可减少 AI 模型占用的内存,且无需基于张量级别进行离群值统计就能实现对权重矩阵和激活矩阵的实时量化,提升了 AI 模型的运行效率。
- 神经网络芯片及数据调度方面:“一种神经网络芯片以及数据调度方法” 专利,芯片结构包括可配置模块、多个计算节点以及高度灵活的互联拓扑,可根据模型层的配置信息控制数据传输的启闭,通过多个通路的并行调度将数据传输瓶颈问题最小化,大幅提升了计算速度与准确度,在图像识别、大规模数据分析等应用领域优势明显。
- 人工智能模型处理方面:“一种人工智能模型处理方法及相关设备” 专利,第一节点确定第一 AI 模型并发送包含模型信息和辅助信息的第一信息,使接收方能够基于辅助信息对模型信息进行 AI 模型处理,如训练、融合等,从而提升接收方基于该模型进行处理得到的 AI 模型的性能。
- 数据处理方面:“数据处理方法、交互方法、介质和设备” 专利,有利于提高大语言模型确定出的目标应用的准确性,通过大语言模型训练简化电子设备处理用户请求流程,提升用户体验。