在基础研究领域持续发力,深入通信与计算的理论本质,解决基础理论问题,突破产业演进瓶颈
数学是一切科学的基础,更是打开通信、计算、人工智能新世界的金钥匙,为此华为持续开展基础数学及应用的研究。在随机矩阵理论和算法学中,创新地提出了一种估计随机矩阵的最小奇异值的方法,对n x n规模的稀疏线性方程组,应用该理论得到
(ω表示矩阵乘法的指数)复杂度的求解算法,论文被计算机科学理论A类学术会议STOC 2022收录。在二进制领域构建和训练深度模型中,提出布尔逻辑反向传播方法,以数学原理层的突破,解决超维二进制变量优化的问题,使得深度学习算法可以直接在布尔域中完成,仿真验证可达全精度训练模型的性能。在拓扑斯理论和语义学中,面向语义学习提出一种全新的数学理论,构建出代数拓扑和逻辑命题的公共框架,并第一次提出基于群、偏序集合以及广群的语义信息空间,实现对Roger N. Shepard、Carl I. Hovland、Herbert M.Jenkins实验结果的完美解释,实验显示新型神经网络模型可摆脱“统计鹦鹉”模型的能力约束,获取更接近动物/人类的智力。
深入通信与计算的理论本质,不断探索、挑战、逼近理论极限。在信息论领域,提出了基于多边耦合图的编码方法,在Tbit/s x 千km级长途光通信场景下实现性能提升约0.5dB,进一步逼近香农极限。不断挑战熵编码极限,提出快速非线性变换和轻量级上下文预测的非结构化数据编码算法HZU,突破LZ压缩范式,压缩率提升30%左右。在网络优化领域,面对十万级节点千万级链路网络流求解难题,提出网络拓扑感知的定价NPP模型和自适应稀疏优化方法,实现求解速度数量级的提升;基于生物同化机制,提出CLIModel模型,网络配置效率提升超5 倍,获得ACM SIGCOMM 2022最佳论文奖。在计算和AI领域,提出一种加权最小化通信代价和最大化任务并行的分配和调度的方法,以此构建的三维并行训练框架 Fold3D,相比业界主流系统,可实现性能提升25%以上;首次理论证明DPM的KL散度目标和反向过程的最优方差存在解析解,可实现采样效率20-80倍的提升,获得ICLR 2022杰出论文奖。
坚持技术创新,促进产业快速发展,助力万兆体验、千亿联接、内生智能的新世界到来