[0041] 以下结合附图实施例对本发明作进一步详细描述。
[0042] 本发明提出的一种无参考立体图像质量评价方法,其总体实现框图如图1所示,其包括训练阶段和测试阶段两个过程。
[0043] 所述的训练阶段过程的具体步骤如下:
[0044] ①_1、选取N幅宽度为W且高度为H的原始的无失真立体图像,将第u幅原始的无失真立体图像记为 将 的左视点图像和右视点图像对应记为 和 然后采用现有的技术获取每幅原始的无失真立体图像的独眼图,将 的独眼图记为 接着对每幅原始的无失真立体图像的左视点图像和右视点图像及每幅原始的无失真立体图像的独眼图分别进行L个不同失真强度的失真,将所有原始的无失真立体图像的左视点图像及各自对应的L个失真强度的失真左视点图像构成第一组 训练图像集 ,记为
并将所有原始的无失真立体图像的右视点图像及各自对应
的L个失真强度的失真右视点图像构成第二组训练图像集,记为
将所有原始的无失真立体图像的独眼图及各自对应的L个失
真强度的失真独眼图构成第三组训练图像集,记为 其中,N>
1,在本实施例中取N=200,1≤u≤N,L>1,在本实施例中取L=5,1≤v≤L, 表示 对应的第v个失真强度的失真左视点图像, 表示 对应的第v个失真强度的失真右视点图像, 表示 对应的第v个失真强度的失真独眼图,符号“{}”为集合表示符号。
[0045] ①_2、将 中的每幅失真左视点图像划分成 个互不重叠的尺寸大小为16×16的子块;然后采用现有的两种不同的自然场景统计(natural scene statistics)方法获取 中的每幅失真左视点图像中的每
个子块的图像特征矢量,将 中的所有失真左视点图像中的第k
个子块的图像特征矢量记为 再将 中的所有失真左视点
图像中的所有子块各自的图像特征矢量构成的集合记为
[0046] 并将 中的每幅失真右视点图像划分成 个互不重叠的尺寸大小为16×16的子块;然后采用现有的两种不同的自然场景统计(natural scene statistics)方法获取 中的每幅失真右视点图像中的
每个子块的图像特征矢量,将 中的所有失真右视点图像中的
第k个子块的图像特征矢量记为 再将 中的所有失真右视
点图像中的所有子块各自的图像特征矢量构成的集合记为
[0047] 将 中的每幅失真独眼图划分成 个互不重叠的尺寸大小为16×16的子块;然后采用现有的两种不同的自然场景统计(natural scene statistics)方法获取 中的每幅失真独眼图中的每个子块的
图像特征矢量,将 中的所有失真独眼图中的第k个子块的图像
特征矢量记为 再将 中的所有失真独眼图中的所有子块
各自的图像特征矢量构成的集合记为
[0048] 其中, 1≤k≤M, 和 的维数均为72×1。
[0049] 在本实施例中,步骤①_2中的两种不同的自然场景统计方法分别为BRISQUE(Blind/Referenceless Image Spatial QUality Evaluator)方法和LBP(local binary pattern)方法。步骤①_2中的 的获取过程为:采用BRISQUE方法获取中的所有失真左视点图像中的第k个子块的第一图像特征矢
量,并采用LBP方法获取 中的所有失真左视点图像中的第k个
子块的第二图像特征矢量,其中,第一图像特征矢量和第二图像特征矢量的维数均为36×
1;然后将 中的所有失真左视点图像中的第k个子块的第一图像
特征矢量和第二图像特征矢量按序组合成 步骤①_2中的 的获取过程为:采用
BRISQUE方法获取 中的所有失真右视点图像中的第k个子块的
第一图像特征矢量,并采用LBP方法获取 中的所有失真右视点
图像中的第k个子块的第二图像特征矢量,其中,第一图像特征矢量和第二图像特征矢量的维数均为36×1;然后将 中的所有失真右视点图像中的第k个
子块的第一图像特征矢量和第二图像特征矢量按序组合成 步骤①_2中的 的获
取过程为:采用BRISQUE方法获取 中的所有失真独眼图中的第
k个子块的第一图像特征矢量,并采用LBP方法获取 中的所有
失真独眼图中的第k个子块的第二图像特征矢量,其中,第一图像特征矢量和第二图像特征矢量的维数均为36×1;然后将 中的所有失真独眼图中的第k
个子块的第一图像特征矢量和第二图像特征矢量按序组合成
[0050] ①_3、采用现有的六种不同的全参考图像质量评价方法分别获取中的每幅失真左视点图像中的每个子块的客观评价预测值;然
后将 中的每幅失真左视点图像中的每个子块的6个客观评价预
测值按序组成该子块的图像质量矢量,将 中的所有失真左视点
图像中的第k个子块的6个客观评价预测值按序组成的图像质量矢量记为 再将
中的所有失真左视点图像中的所有子块各自的图像质量矢量
构成的集合记为
[0051] 并采 用现有的六 种不同的全 参考图像 质量评价方 法分别获 取中的每幅失真右视点图像中的每个子块的客观评价预测值;
然后将 中的每幅失真右视点图像中的每个子块的6个客观评
价预测值按序组成该子块的图像质量矢量,将 中的所有失真
右视点图像中的第k个子块的6个客观评价预测值按序组成的图像质量矢量记为 再将中的所有失真右视点图像中的所有子块各自的图像质量矢量
构成的集合记为
[0052] 采 用 现 有的 六 种不 同 的 全 参 考图 像 质量 评 价 方 法 分 别 获 取中的每幅失真独眼图中的每个子块的客观评价预测值;然后将 中的每幅失真独眼图中的每个子块的6个客观评价预测值
按序组成该子块的图像质量矢量,将 中的所有失真独眼图中
的第k个子块的6个客观评价预测值按序组成的图像质量矢量记为 再将
中的所有失真独眼图中的所有子块各自的图像质量矢量构成
的集合记为
[0053] 其中, 和 的维数均为6×1。
[0054] 在本实施例中,步骤①_3中采用的六种不同的全参考图像质量评价方法分别为公知的PSNR(peak signal to noise ratio)、SSIM(structural similarity index)、PC(phase congruency from feature similarity index)、GM(gradient magnitude from feature similarity index)、VIF(visual information fidelity)和UQI(universal quality index)全参考图像质量评价方法。步骤①_3中的 的获取过程为:采用六种不同的全参考图像质量评价方法分别获取 中的所有失真左视点图像中的第k个子块的客观评价预测值,共得到 中的所有失真
左视点图像中的第k个子块的6个客观评价预测值;然后将 中的
所有失真左视点图像中的第k个子块的6个客观评价预测值按序组合成该子块的图像质量矢量 步骤①_3中的 的获取过程为:采用六种不同的全参考图像质量评价方法分别获取 中的所有失真右视点图像中的第k个子块的客观评价
预测值,共得到 中的所有失真右视点图像中的第k个子块的6
个客观评价预测值;然后将 中的所有失真右视点图像中的第k
个子块的6个客观评价预测值按序组合成该子块的图像质量矢量 步骤①_3中的
的 获取 过程 为 :采 用六 种不同 的全 参考图 像 质量 评价 方法分 别获 取中的所有失真独眼图中的第k个子块的客观评价预测值,共得
到 中的所有失真独眼图中的第k个子块的6个客观评价预测
值;然后将 中的所有失真独眼图中的第k个子块的6个客观评
价预测值按序组合成该子块的图像质量矢量
[0055] ①_4、采用现有的K-SVD方法对由和 构成的集合
进行联合字典训练操作,构造得到
和 各自的图像特征字典表和图
像质量字典表,将 的图像特征字典表和图像质量字典表对应
记为DL和WL,将 的图像特征字典表和图像质量字典表对应记为
DR和WR,将 的图像特征字典表和图像质量字典表对应记为DC和
WC;其中,DL、DR和DC的维数均为72×K,WL、WR和WC的维数均为6×K,K表示设定的字典的个数,K≥1,在本实施例中取K=256。
[0056] 在此具体实施例中,步骤①_4中的DL、DR、DC、WL、WR和WC是采用现有的K-SVD方法求解 得到的,其中,min()为取最小值函数,符号“|| ||F”为求取矩阵的弗罗贝尼乌斯(Frobeniu)-范数符号,符号“|| ||1”为求取矩阵的1-范数符号,
XL、XR和XC的维数均为72×M,
表示 中的所有失真左视点图像中的第1个子块的图像特
征矢量, 表示 中的所有失真左视点图像中的第M个子块的
图像特征矢量, 表示 中的所有失真右视点图像中的第1
个子块的图像特征矢量, 表示 中的所有失真右视点图像
中的第M个子块的图像特征矢量, 表示 中的所有失真独
眼图中的第1个子块的图像特征矢量, 表示 中的所有失
真独眼图中的第M个子块的图像特征矢量,
YL、YR和YC的维数均为6×M, 表示
中的所有失真左视点图像中的第1个子块的6个客观评价预测
值按序组成的图像质量矢量, 表示 中的所有失真左视点
图像中的第M个子块的6个客观评价预测值按序组成的图像质量矢量, 表示
中的所有失真右视点图像中的第1个子块的6个客观评价预测
值按序组成的图像质量矢量, 表示 中的所有失真右视点
图像中的第M个子块的6个客观评价预测值按序组成的图像质量矢量, 表示
中的所有失真独眼图中的第1个子块的6个客观评价预测值按
序组成的图像质量矢量, 表示 中的所有失真独眼图中的
第M个子块的6个客观评价预测值按序组成的图像质量矢量,AL、AR和AC均为稀疏矩阵,L R C L L
A、A 和A的维数均为K×M, 为A中的第1个列向量, 为A中的第k个列向量, 为
AL中的第M个列向量, 为AR中的第1个列向量, 为AR中的第k个列向量, 为AR中的第M个列向量, 为AC中的第1个列向量, 为AC中的第k个列向量, 为AC中的第M个列向量, 和 的维数均为K×1,符
号“[]”为矢量表示符号,α为加权参数,在本实施例中取α=0.5,λ为拉格朗日参数,在本实施例中取λ=0.15。
[0057] 所述的测试阶段过程的具体步骤如下:
[0058] ②_1、对于任意一幅宽度为W'且高度为H'的测试失真立体图像Stest,将Stest的左视点图像和右视点图像对应记为Ltest和Rtest;然后采用现有的技术获取Stest的独眼图,记为Ctest;接着将Ltest、Rtest和Ctest分别划分成 个互不重叠的尺寸大小为16×16的子块;其中,W'与W、H'与H可以相同,也可以不同。
[0059] ②_2、按照步骤①_2中获取 和 的过程,以相同的操作获取Ltest、Rtest和Ctest各自中的每个子块的图像特征矢量,将Ltest中的第t个子块的图像特征矢量记为将Rtest中的第t个子块的图像特征矢量记为 将Ctest中的第t个子块的图像特征矢量记为 然后将Ltest中的所有子块各自的图像特征矢量构成的集合记为
并将Rtest中的所有子块各自的图像特征矢量构成的集合记为
将Ctest中的所有子块各自的图像特征矢量构成的集合记为
其中, 和 的维数均为72×1。
[0060] ②_3、根据在训练阶段过程构造得到的DL、DR和DC,通过联合优化得到和 各自中的每个图像特征矢量的稀疏系数矩阵,将 中的第t个图像特征矢量的稀疏系数矩阵记为
将 中的第t个图像特征矢量的稀疏系数矩阵记为 将
中的第t个图像特征矢量的稀疏系数矩阵记为 和 是通过
求解 得到的;再将 中的所有图像特征矢
量的稀疏系数矩阵构成的集合记为 将 中的所有图
像特征矢量的稀疏系数矩阵构成的集合记为 将
中的所有图像特征矢量的稀疏系数矩阵构成的集合记为 其中,
和 的维数均为K×1,min()为取最小值函数,符号“|| ||F”为求取矩阵的弗罗贝尼乌斯(Frobeniu)-范数符号。
[0061] ②_4、根据在训练阶段过程构造得到的WL,估计Ltest中的每个子块的图像质量矢量,将Ltest中的第t个子块的图像质量矢量记为 并根据在训练阶段过程构造得到的WR,估计Rtest中的每个子块的图像质量矢量,将Rtest中的第t个子块的图像质量矢量记为 根据在训练阶段过程构造得到的WC,估计Ctest中的每个子块的图
像质量矢量,将Ctest中的第t个子块的图像质量矢量记为 其中,
和 的维数均为6×1。
[0062] ②_5、计算Ltest的图像质量客观评价预测值,记为qL, 并计算R
Rtest的图像质量客观评价预测值,记为q , 计算Ctest的图像质量客观评
价预测值,记为qC, 其中, 表示Ltest中的第t个子块中的所有像素点
的像素值的标准差, 表示Rtest中的第t个子块中的所有像素点的像素值的标准差, 表示Ctest中的第t个子块中的所有像素点的像素值的标准差,符号“|| ||1”为求取矩阵的1-范数符号。
[0063] ②_6、根据 和 中的所有图像特征矢量的稀疏系数矩阵,获取Ltest、Rtest和Ctest各自的权重系数,对应记为和 然后计算Stest的图像质量客观评价预测值,记为Q,
[0064] 在此具体实施例中,步骤②_6中的 和 的获取过程为:
[0065] a1、计算 中的所有图像特征矢量的稀疏系数矩阵的直方图,记为
[0066] 并计算 中的所有图像特征矢量的稀疏系数矩阵的直方图,记为
[0067] 计算 中的所有图像特征矢量的稀疏系数矩阵的直方图,记为
[0068] 其中,1≤g≤K,P表示 中的直方图节点的总数,亦表示中的直方图节点的总数,亦表示 中的直方图节点的总数,在本实施例中取P=
50,log()表示以2为底的对数函数,1≤p≤P, 表示 中属于第g个字典
分量的概率密度函数, 表示 中属于第g个字典分量的概率密度函数,
表示 中属于第g个字典分量的概率密度函数, 表示
中属于第p个直方图节点的概率密度函数, 表示 中属于
第p个直方图节点的概率密度函数, 表示 中属于第p个直方图节点的概
率密度函数, 表示 中的第g个字典分量经量化后的系数值, 表示 中的第g个
字典分量经量化后的系数值, 表示 中的第g个字典分量经量化后的系数值,
[0069] a2、计算 和 中的所有图像特征矢量的稀疏系数矩阵的联合直方图,记为
其中,P亦表示 中的
直方图节点的总数,1≤p1≤P,1≤p2≤P, 表示 和
中属于第g个字典分量的联合概率密度函数, 表示
中属于第p1个直方图节点和第p2个直方图节点的联合概率密度函数,
[0070] a3、计算Ltest、Rtest和Ctest各自的独立熵,对应记为H(Ltest)、H(Rtest)和H(Ctest),然后计算Ltest和Rtest的联合熵,记为H(Ltest,Rtest),
[0071] a4、计算Ltest、Rtest和Ctest各自的权重系数,对应为 和
[0072] 在此,采用宁波大学立体图像库、LIVE立体图像质量评价库I和LIVE立体图像质量评价库II来分析本实施例得到的失真立体图像的图像质量客观评价预测值与平均主观评分差值之间的相关性。取宁波大学立体图像库由12幅无失真立体图像在不同失真程度的JPEG压缩情况下的60幅失真立体图像、JPEG2000压缩情况下的60幅失真立体图像、高斯模糊情况下的60幅失真立体图像和高斯白噪声情况下的60幅失真立体图像。取LIVE立体图像质量评价库I中由20幅无失真立体图像在不同失真程度的JPEG压缩情况下的80幅失真立体图像、JPEG2000压缩情况下的80幅失真立体图像、高斯模糊情况下的45幅失真立体图像和高斯白噪声情况下的80幅失真立体图像。取LIVE立体图像质量评价库II中由8幅无失真立体图像在不同失真程度的JPEG压缩情况下的72幅失真立体图像、JPEG2000压缩情况下的72幅失真立体图像、高斯模糊情况下的72幅失真立体图像和高斯白噪声情况下的72幅失真立体图像。这里,利用评估图像质量评价方法的2个常用客观参量作为评价指标,即非线性回归条件下的Pearson相关系数(Pearson linear correlation coefficient,PLCC)、Spearman相关系数(Spearman rank order correlation coefficient,SROCC),PLCC反映失真立体图像的客观评价结果的准确性,SROCC反映其单调性。
[0073] 利用本发明方法计算宁波大学立体图像库、LIVE立体图像质量评价库I和LIVE立体图像质量评价库II中的每幅失真立体图像的图像质量客观评价预测值,再利用现有的主观质量评价方法获得宁波大学立体图像库、LIVE立体图像质量评价库I和LIVE立体图像质量评价库II中的每幅失真立体图像的平均主观评分差值。将按本发明方法计算得到的失真立体图像的图像质量客观评价预测值做五参数Logistic函数非线性拟合,PLCC和SROCC值越高,说明客观评价结果与平均主观评分差值之间的相关性越好。表1给出了采用本发明方法得到的失真立体图像的图像质量客观评价预测值与平均主观评分差值之间的Pearson相关系数,表2给出了采用本发明方法得到的失真立体图像的图像质量客观评价预测值与平均主观评分差值之间的Spearman相关系数。从表1和表2中可以看出,采用本发明方法得到的失真立体图像的图像质量客观评价预测值与平均主观评分差值之间的相关性是很高的,表明客观评价结果与人眼主观感知的结果较为一致,足以说明本发明方法的有效性。
[0074] 表1利用本发明方法得到的失真立体图像的图像质量客观评价预测值与平均主观评分差值之间的Pearson相关系数比较
[0075]
[0076] 表2利用本发明方法得到的失真立体图像的图像质量客观评价预测值与平均主观评分差值之间的Spearman相关系数比较
[0077]