H.264全零块检测技术研究与实现(5)
多年来，国内外众多学者从不同的角度提出了许多全零块检测的方法。Chen首先对待编码的块进行能量统计，然后，将它与给定的阈值进行对比来判断全零块(Chen, 1996)，但是，由于编码块的能量不方便计算，因此，该方法不适合实用。
Sousa提出一种新的全零块检测思路(Sousa, 2000)，根据量化的全零结果，采用一种逆向思文方式，推导得全零块的判断阈值。将在运动估计过程中获取的SAD值与该阈值进行比较。如果小于，才判为全零块。
Moon针对全零块检测问题，推算了一个用于预先检测的充分条件，然后，给出了用三步判别方法实现的具体方案(Moon, 2005a)。该方法可提前检测出大量的全零块，并且不存在误判问题。该方法有效地降低了编码器的复杂度。
Su从剖析整数余弦变换与量化的基本过程入手(Su, 2006)，给出了更宽松的三步判别法的比较门限，编码过程中全零系数块的识别率有较大的提升。
周提出一种基于自适应门限机制的全零块判别方法(周, 2006)，利用一种动态机制自动确定阈值。主要参考经运动补偿得到的残差结果以及图像在编码过程中的量化级别[9]。
通过分析整数变换后所得系数的主要概率特征，Xie采用能量处理手段，进行全零块判别算法的设计(Xie, 2007)。
对于由运动预测后的残差数据分布和整数变换后得到的系数，Wang分别按正态分布对它们进行处理，并且假设它们都一定具有零均值。然后，利用复合的框架进行全零系数块的判断(Wang, 2006b; Wang, 2007a)。该方法可有效降低变换与量化等过程的计算负荷，提高编码的效率。
Zhang回顾了变换与量化的基本实现过程，在Su的工作基础上，采用三个步骤完成全零块的提前判别(周, 2007; Zhang, 2009)。与Su的方法相比，该方法不仅在全零块判别比例方面可取得较好的效果，同时对重建帧的质量不会产生任何影响。
本文从变换与量化的基本实现过程入手，提出了一种基于基底矩阵分析的全零块检测算法。对于不同位置处的量化结果，采取不同的判别策略。它不仅进一步提升了全零系数块的预判效率，减轻了编码过程的运算工作量，而且不会损失编码重建帧的质量。
3.2 全零块检测的基本实现过程
整数余弦变换中的核心变换可用(2.6)式表示，同时，矩阵W中的元素 可改写为如下的形式(周, 2007)：
(3.1)
其中， 对应残差矩阵 中的元素， 则表明位置 处所得的变换结果。 和 分别是矩阵 和 中的元素。
(3.2)
其中，矩阵 的取值如式(2.5)所示。
由(2.7)式的量化过程可知，
(3.3)
由于量化后的结果为整数，要使 ，则必有：
(3.4)
按照(3.1)式的形式，同时将乘法因子MF改写成 ，则(3.4)式可表示为(周, 2007)：
(3.5)
其中，各变量的取值如下设置：
(3.6)
是一个6行3列的二文量化常系数矩阵，可参考相应的文献(Transform, PDF; 周, 2007)。
因此，当(3.5)式成立时， 量化所得的相应结果 必将变成0。故在量化过程中，所采用的步长最小值可表示为(周, 2007)：