高效视频编码(high efficiency video coding,HEVC)具有较高的计算复杂度,而快速编码算法不能在给定编码时间下完成视频编码,因此提出了一种基于随机森林的HEVC复杂度控制方法。首先训练得到3种不同预测准确率的随机森林分类器,实现编码树单元(coding tree unit,CTU)的多种编码配置;然后,通过建立平均深度—复杂度模型为CTU分配复杂度;最后通过平坦度、平均深度、比特和CTU级累计编码误差确定的CTU编码配置完成复杂度控制。实验结果表明,本文算法复杂度控制精度较高,在率失真性能方面优于当前复杂度控制方法。