为降低高效视频编码(HEVC)的帧内编码复杂度，提出一种基于图像纹理特征的编码单元(CU)划分和预测模式选择算法。利用一种预处理算法来获得当前CU的纹理复杂度和方向。一方面，根据CU的纹理复杂度，该算法自适应地跳过或终止部分CU划分，减少CU深度的遍历时间。纹理复杂度高的CU直接划分成4个子CU，纹理复杂度低的CU将会终止划分。另一方面，根据预测单元的纹理方向，确定相应的候选模式集，通过粗模式决策算法和率失真最优化算法遍历候选模式集选取最优模式。将算法移植到标准食品解码软件HM16.7平台上，实验结果表明，与HM16.7算法相比，编码时间平均减少53.66%，比特率上升0.46%，峰值信噪比下降0.05 dB。