东南大学崇志宏:深度学习的近似算法

大数据和大模型以及大计算使得深度学习技术得到广泛的应用和一系列成功案例。模型的表达能力必然导致算法复杂度的上升，必然使得近似算法成为研究的热点。深度学习的近似算法有自己的特色：通过深度神经网络表示后验推理，将推理问题简化为优化问题；通过判别神经网络表示分布距离以及通过联合训练最小化分布距离；通过向神经网络注入噪声而产生样本来估计期望。这些一系列技术方法大大丰富深度神经网络技术的发展。