説明

映像品質推定装置、方法、およびプログラム

【課題】映像の動き量を考慮した映像品質値を少ない処理負担で算出する。
【解決手段】平均量子化パラメータ算出部15により、品質推定区間に対応する対象映像通信の各フレームに関する量子化パラメータの平均値を示す平均量子化パラメータを算出し、代表量子化パラメータ算出部14により、対象映像通信の量子化パラメータを代表する代表量子化パラメータを算出し、パケット損失変化指標算出部16により、これら平均量子化パラメータと代表量子化パラメータとに基づいて、対象フレーム間での映像の動き量を示すパケット損失変化指標を算出し、映像品質推定部17により、対象映像通信に関する符号化映像品質値、無効フレーム数、およびパケット損失変化指標に基づいて、対象映像通信の映像品質値を算出している。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、通信品質推定技術に関し、特にインターネットなどのIPネットワークを経由して行う、IPTVサービス、映像配信サービス、映像コミュニケーションサービスなどの映像通信に関する品質を推定する技術に関する。
【背景技術】
【0002】
インターネットへ接続するアクセス回線の高速化・広帯域化に伴い、音声や映像を用いた映像通信サービスが期待されている。インターネットは必ずしも通信品質が保証されているネットワークではないため、音声や映像の通信を行う場合、ユーザ間を結ぶネットワークの回線帯域が狭かったり、回線が輻輳したりすると、音声や映像に対してユーザが知覚する品質、すなわちユーザ体感品質(QoE:Quality of Experience)が劣化してしまう。具体的には、映像に品質劣化が加わると、ぼけ、にじみ、モザイク状の歪み、ぎくしゃく感などとして知覚される。
したがって、このような映像通信サービスを品質良く提供するためには、サービス提供に先立った品質設計やサービス開始後の品質管理が重要となり、このためには、ユーザが享受する品質を適切に表現でき、しかも簡便かつ効率的な映像品質評価技術が必要となる。
【0003】
上記映像品質評価技術として、パケット損失したフレームとそのフレームを参照するフレームからなる無効フレームの総量に基づいて、映像の劣化量を推定する映像品質推定技術が提案されている(特許文献1など参照)。しかしながら、上記技術は、映像コンテンツの依存性を考慮せず、フレーム構造のみから映像品質を推定しているため、適切に映像品質を推定することができない。
一般に、無効フレーム数が同じであっても、映像の動き量が大きいほど、ユーザが知覚する品質劣化は大きくなるという傾向がある。したがって、映像の動き量を考慮しない場合には、例えば、映像Aと映像Bのフレームが同数フレーム損失した場合、映像Aは動きが小さいため品質劣化として検知されにくいが、映像Bは動きが大きいため品質劣化として検知されやすい、といった現象を映像品質に反映させることができない。
【0004】
従来、このような映像品質評価技術に対して、品質推定の対象となる映像の動き量を予め算出しておき、この動き量と無効フレームとから映像品質を推定する技術が提案されている(特許文献2など参照)。
【0005】
【特許文献1】特開2006−033722号公報
【特許文献2】特開2008−005108号公報
【非特許文献1】ITU-T Rec. P.910, "Subjective video quality assessment methods For multimedia applications".
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、このような従来技術では、映像品質推定に用いる映像の動き量として、隣接する2つのフレームの画素値をそれぞれ比較して算出する、Temporal Index(例えば非特許文献1など参照)などの指標値を用いているため、指標値を算出するために膨大な処理負担が必要となる。このため、映像の動き量を予め算出している場合のみ、映像の動き量の影響を考慮した映像品質を推定することができ、映像の動き量が予めわからない大多数の映像については、映像の動き量の影響を考慮した映像品質をリアルタイムで推定することができないという問題点があった。
本発明はこのような課題を解決するためのものであり、映像の動き量を考慮した映像品質値を少ない処理負担で算出できる映像品質推定装置を提供することを目的としている。
【課題を解決するための手段】
【0007】
このような目的を達成するために、本発明にかかる映像品質推定装置は、フレーム内およびフレーム間予測符号化方式に基づき対象映像を複数のフレームに圧縮符号化してIPパケットで送信する対象映像通信の映像品質を推定する映像品質推定装置であって、入力されたIPパケットを分析して、対象映像通信の映像品質に関する各種品質パラメータと、圧縮符号化の量子化ステップ幅に関する量子化パラメータとを抽出するIPパケット分析部と、品質パラメータに基づいて、パケット損失のあったフレームと復号時に当該フレームのパケット損失の影響を受ける他のフレームとからなる無効フレームの数を算出する無効フレーム数算出部と、品質パラメータに基づいて、圧縮符号化による映像劣化のみを考慮した、対象映像通信の符号化映像品質値を算出する符号化映像品質算出部と、品質推定区間に対応する対象映像通信の各フレームに関する量子化パラメータの平均値を算出する平均量子化パラメータ算出部と、対象映像通信の量子化パラメータを代表する代表量子化パラメータを算出する代表量子化パラメータ算出部と、平均量子化パラメータと代表量子化パラメータとに基づいて、対象フレーム間での映像の動き量を示すパケット損失変化指標を算出するパケット損失変化指標算出部と、符号化映像品質値、無効フレーム数、およびパケット損失変化指標に基づいて、対象映像通信の映像品質値を算出する映像品質算出部とを備えている。
【0008】
この際、パケット損失変化指標算出部で、平均量子化パラメータと代表量子化パラメータとの差分を示す差分量子化パラメータの増加に応じてパケット損失変化指標が単調減少する特性を示す関数に基づいて、パケット損失変化指標を算出するようにしてもよい。
【0009】
また、代表量子化パラメータ算出部で、符号化レートの増加に応じて量子化パラメータが単調減少する特性を示す関数に基づいて、品質パラメータに含まれる符号化レートに対応する量子化パラメータを代表量子化パラメータとして算出するようにしてもよい。
【0010】
また、代表量子化パラメータ算出部で、無効フレーム数が0のとき符号化映像品質値を映像品質値の最大値とし、無効フレーム数の増加に応じて映像品質値が単調減少する特性を示す関数に基づいて、符号化映像品質値、無効フレーム数、およびパケット損失変化指標に対応する映像品質値を算出するようにしてもよい。
【0011】
また、本発明にかかる映像品質推定方法は、フレーム内およびフレーム間予測符号化方式に基づき対象映像を複数のフレームに圧縮符号化してIPパケットで送信する対象映像通信の映像品質を推定する映像品質推定装置で用いられる映像品質推定方法であって、IPパケット分析部が、入力されたIPパケットを分析して、対象映像通信の映像品質に関する各種品質パラメータと、圧縮符号化の量子化ステップ幅に関する量子化パラメータとを抽出するIPパケット分析ステップと、無効フレーム数算出部が、品質パラメータに基づいて、パケット損失のあったフレームと復号時に当該フレームのパケット損失の影響を受ける他のフレームとからなる無効フレームの数を算出する無効フレーム数算出ステップと、符号化映像品質算出部が、品質パラメータに基づいて、圧縮符号化による映像劣化のみを考慮した、対象映像通信の符号化映像品質値を算出する符号化映像品質算出ステップと、平均量子化パラメータ算出部が、品質推定区間に対応する対象映像通信の各フレームに関する量子化パラメータの平均値を算出する平均量子化パラメータ算出ステップと、代表量子化パラメータ算出部が、対象映像通信の量子化パラメータを代表する代表量子化パラメータを算出する代表量子化パラメータ算出ステップと、パケット損失変化指標算出部が、平均量子化パラメータと代表量子化パラメータとに基づいて、対象フレーム間での映像の動き量を示すパケット損失変化指標を算出するパケット損失変化指標算出ステップと、映像品質算出部が、符号化映像品質値、無効フレーム数、およびパケット損失変化指標に基づいて、対象映像通信の映像品質値を算出する映像品質算出ステップとを備えている。
【0012】
また、本発明にかかるプログラムは、フレーム内およびフレーム間予測符号化方式に基づき対象映像を複数のフレームに圧縮符号化してIPパケットで送信する対象映像通信の映像品質を推定する映像品質推定装置のコンピュータに、IPパケット分析部が、入力されたIPパケットを分析して、対象映像通信の映像品質に関する各種品質パラメータと、圧縮符号化の量子化ステップ幅に関する量子化パラメータとを抽出するIPパケット分析ステップと、無効フレーム数算出部が、品質パラメータに基づいて、パケット損失のあったフレームと復号時に当該フレームのパケット損失の影響を受ける他のフレームとからなる無効フレームの数を算出する無効フレーム数算出ステップと、符号化映像品質算出部が、品質パラメータに基づいて、圧縮符号化による映像劣化のみを考慮した、対象映像通信の符号化映像品質値を算出する符号化映像品質算出ステップと、平均量子化パラメータ算出部が、品質推定区間に対応する対象映像通信の各フレームに関する量子化パラメータの平均値を算出する平均量子化パラメータ算出ステップと、代表量子化パラメータ算出部が、対象映像通信の量子化パラメータを代表する代表量子化パラメータを算出する代表量子化パラメータ算出ステップと、パケット損失変化指標算出部が、平均量子化パラメータと代表量子化パラメータとに基づいて、対象フレーム間での映像の動き量を示すパケット損失変化指標を算出するパケット損失変化指標算出ステップと、映像品質算出部が、符号化映像品質値、無効フレーム数、およびパケット損失変化指標に基づいて、対象映像通信の映像品質値を算出する映像品質算出ステップとを実行させる。
【発明の効果】
【0013】
本発明によれば、映像の動きを示すパケット損失変化指標を、隣接する2つのフレームの画素値を演算処理することなく、対象映像通信の各フレームに記載されている量子化パラメータから算出することができる。したがって、映像の動き量を考慮した映像品質値を少ない処理負担で算出でき、映像の動き量が予めわからない大多数の映像についても、映像の動き量の影響を考慮した映像品質をリアルタイムで推定することができる。
【発明を実施するための最良の形態】
【0014】
次に、本発明の実施の形態について図面を参照して説明する。
[第1の実施の形態]
まず、図1を参照して、本発明の第1の実施の形態にかかる映像品質推定装置について説明する。図1は、本発明の第1の実施の形態にかかる映像品質推定装置の構成を示すブロック図である。
【0015】
この映像品質推定装置1は、入力された情報を演算処理するコンピュータなどの情報処理装置からなり、複数のフレームに符号化した映像信号をフレーム内およびフレーム間予測符号化方式に基づき圧縮符号化した後、通信端末2Aから通信端末2B端末へ、インターネットなどのIPネットワーク3を介してIPパケットで送信する映像通信について、その映像通信のIPパケットを入力として、通信端末2Bで復号されて再生された当該映像から視聴者が実感する主観映像品質の推定値を映像個別品質として算出する装置である。
【0016】
この映像品質推定装置1には、主な機能部として、演算処理部10、記憶部20、通信インターフェース部(以下、通信I/F部という)31、操作入力部32、画面表示部33が設けられている。また、演算処理部10には、主な処理部として、IPパケット分析部11、無効フレーム数算出部12、符号化映像品質算出部13、代表量子化パラメータ算出部14、平均量子化パラメータ算出部15、パケット損失変化指標算出部16、および映像品質推定部17が設けられている。
【0017】
[発明の原理]
一般に、フレーム内およびフレーム間予測符号化方式に基づき映像を複数のフレームに圧縮符号化してIPパケットで送信する映像通信では、IPパケットが損失した際、損失IPパケットが含まれるフレームに品質劣化が生じるとともに、当該フレームを用いてフレーム間予測符号化方式で符号化された他のフレームに、その品質劣化が伝搬する。
この際、映像の品質劣化には、ユーザが品質劣化を知覚しやすい劣化と知覚しにくい劣化があり、このようなユーザによる映像品質の主観評価に対する影響度は、映像の動き量に応じて変化する。
【0018】
図2は、映像の動き量と無効フレーム数−主観評価値特性との関係を示す説明図である。図2に示すように、無効フレーム数IFと主観評価値V(MOS)の関係は、特性51に示すように、動き量が小さいほど無効フレーム数IFの増加に対する主観評価値Vの劣化が小さく、特性52に示すように、動き量が大きいほど無効フレーム数IFの増加に対する主観評価値Vの劣化は大きくなる。
【0019】
映像品質推定において映像の動き量を考慮しない場合、これら無効フレーム数IFと主観評価値Vの関係を示す各プロットが、特性53に示すように、すべて一元的に捉えられるため、推定した映像品質値Vと実際の主観評価値Vとの誤差は大きい。したがって、品質推定対象となる対象映像通信から、当該対象映像の動き量を算出して、無効フレーム数−主観評価値特性を特定すれば、無効フレーム数IFから映像の動き量を考慮した映像品質値Vを精度良く推定することが可能となる。
【0020】
一方、MPEG2やH.264などのフレーム内およびフレーム間予測符号化方式を用いた映像通信では、映像をI,B,Pフレームなどのフレームに符号化することにより映像情報を圧縮する。
この際、動き量が大きい映像については、Iフレームの精細度を低くする代わりに、Iフレームの間に送信されるBフレームやPフレームの精細度を高くして、映像全体の品質を高めるように圧縮符号化処理が制御される。
【0021】
また、動き量が小さい映像については、Iフレームの精細度を高くする代わりに、Iフレームの間に送信されるBフレームやPフレームの精細度を低く制御される。
したがって、動き量が大きい映像ほど、Iフレームの情報量が低下する代わりに、BフレームやPフレームの情報量が増大する。また、動き量が小さい映像ほど、Iフレームの情報量が増大する代わりに、BフレームやPフレームの情報量が低下する。
【0022】
本発明では、このようなIフレームの情報量と映像の動き量との関係に着目し、Iフレームの情報量から映像の動き量に応じたパケット損失の変化を示すパケット損失変化指標Dを導出し、この指標および無効フレーム数に基づいて、映像の動き量を考慮した映像品質を推定している。
【0023】
また、本発明では、対象映像の圧縮符号化の際に用いる量子化ステップ幅に関する量子化パラメータが、各フレームの情報量と相関があることに着目し、この量子化パラメータからパケット損失変化指標Dを導出している。
この際、量子化パラメータは、映像通信の種類に応じてその値にばらつきがあることから、対象映像通信と同種の映像通信に関する代表量子化パラメータQPtと、対象映像通信から算出した平均量子化パラメータQPとの差分を示す差分量子化パラメータΔQPを中間パラメータとして用いている。
【0024】
図3は、パケット損失変化指標算出特性を示す説明図である。パケット損失変化指標特性は、差分量子化パラメータΔQPとパケット損失変化指標Dとの関係を示す特性であり、図3にような線形関数などの近似関数で表すことができる。本発明では、近似関数を特定する係数を、映像通信の種類ごとに予め算出しておき、対象映像通信から算出した差分量子化パラメータΔQPに基づいて、パケット損失変化指標Dを算出している。
【0025】
[第1の実施の形態の構成]
次に、図1を参照して、本発明の第1の実施の形態にかかる映像品質推定装置の構成について詳細に説明する。
図1の映像品質推定装置1において、通信I/F部31は、専用の通信回路部からなり、IPネットワーク3を介してIPパケットを送受信することにより任意の通信端末とデータ通信を行う機能と、IPネットワーク3を介して通信端末2A,2B間でやり取りされる映像通信用のIPパケットを受信する機能とを有している。
【0026】
操作入力部32は、キーボードやマウスなどの操作入力装置からなり、オペレータの操作を検出して演算処理部10へ出力する機能を有している。
画面表示部33は、LCDやPDPなどの画面表示装置からなり、演算処理部10からの指示に応じて操作メニューや映像品質推定値などを画面表示する機能を有している。
【0027】
記憶部20は、ハードディスクやメモリなどの記憶装置からなり、演算処理部10での映像品質推定処理に用いる各種処理情報やプログラム29を記憶する機能を有している。
プログラム29は、演算処理部10により読み出されて実行されることにより、映像品質推定処理に必要な各種処理部を実現するプログラムであり、通信I/F部31などの入出力インターフェース部を介して外部装置(図示せず)や記録媒体から読み込まれて記憶部20に予め保存されている。
【0028】
記憶部20で記憶する主な処理情報としては、映像通信特定パラメータ21、符号化映像品質情報22、代表量子化パラメータ情報23、パケット損失変化指標特性情報24、および映像品質情報25がある。
【0029】
映像通信特定パラメータ21は、映像品質の推定対象となる映像通信に関する各種パラメータのうち、映像品質に関するパラメータからなる。映像通信特定パラメータ21としては、H.264,MPEGなどのコーデック(CODEC)種別情報、Full HD,HD,SDなどの映像フォーマット情報、IPTV,VoD,TV電話などのサービス種別情報を用いる。映像通信特定パラメータ21は、予め操作入力部32などを用いて外部から入力され記憶部20に記憶される。
【0030】
映像通信特定パラメータ21については、上記の他、イントラリフレッシュレート,GOPなどのフレーム情報、DCT係数,整数変換係数,ウェーブレット係数などの動き補償後の誤差信号に関する情報、パケット損失率,パケット損失パターン,パケット遅延時間などのパケット損失情報などを用いてもよい。
【0031】
符号化映像品質情報22は、映像通信特定パラメータ21と各種品質パラメータの組み合わせと、圧縮符号化による映像劣化のみを考慮した符号化映像品質値との関係を示す情報である。図4は、符号化映像品質情報の構成例である。ここでは、映像通信のフレームレートFRおよび符号化レートBRに対応する符号化映像品質Vcが、映像通信特定パラメータ21のCODEC、映像フォーマット、映像通信種別の組み合わせごとに登録されている。符号化映像品質情報22における、映像通信特定パラメータ21および各種品質パラメータの組み合わせと符号化映像品質Vcとの対応関係は、各種映像通信から予め算出しておけばよい。
【0032】
代表量子化パラメータ情報23は、映像通信の映像通信特定パラメータ21および各種品質パラメータの組み合わせと、圧縮符号化の量子化ステップ幅に関する量子化パラメータの代表値である代表量子化パラメータとの関係を示す情報である。図5は、代表量子化パラメータ情報の構成例である。ここでは、映像通信の符号化レートBRに対応する代表量子化パラメータQPtが、映像通信特定パラメータ21のCODEC、映像フォーマット、映像通信種別の組み合わせごとに登録されている。
【0033】
代表量子化パラメータ情報23における、映像通信特定パラメータ21および各種品質パラメータの組み合わせと代表量子化パラメータとの対応関係は、各種映像通信から予め算出しておけばよい。この際、動き量の異なる典型的な映像vを複数用意し、後述する式(1)を用いて、これら映像vごとに平均量子化パラメータQPを算出し、それぞれの映像vの映像通信特定パラメータ21および各種品質パラメータの組み合わせごとに、平均量子化パラメータQPの平均値を求め、代表量子化パラメータQPtとして用いればよい。
【0034】
パケット損失変化指標特性情報24は、映像通信の映像通信特定パラメータ21と、パケット損失変化指標算出特性を特定する係数a,bとの対応関係を示す情報である。図6は、パケット損失変化指標特性情報の構成例である。
パケット損失変化指標特性は、差分量子化パラメータΔQPとパケット損失変化指標Dとの関係を示す特性であり、前述した図3にような線形関数などの近似関数で表すことができる。パケット損失変化指標特性情報24には、図6に示すように、このような線形関数を特定する係数が、映像通信特定パラメータ21のCODEC、映像フォーマット、映像通信種別の組み合わせごとに登録されている。パケット損失変化指標特性情報24における、映像通信特定パラメータ21と係数a,bとの対応関係は、各種映像ごとに導出したパケット損失変化指標特性から予め算出しておけばよい。
【0035】
映像品質情報25は、映像通信の映像通信特定パラメータ21、および符号化映像品質値Vc、無効フレーム数IF、パケット損失変化指標Dの組み合わせと、映像品質値Vとの対応関係を示す情報である。図7は、映像品質情報の構成例である。ここでは、符号化映像品質値Vc、無効フレーム数IF、およびパケット損失変化指標Dに対応する映像品質値Vが、映像通信特定パラメータ21のCODEC、映像フォーマット、映像通信種別の組み合わせごとに登録されている。
映像品質情報25における、映像通信特定パラメータ21、および符号化映像品質値Vc、無効フレーム数IF、パケット損失変化指標Dの組み合わせと、映像品質値Vとの対応関係は、各種映像通信から予め算出しておけばよい。
【0036】
演算処理部10は、CPUなどのマイクロプロセッサとその周辺回路とを有し、記憶部20のプログラム29を読み込んで実行することにより、上記ハードウェアとプログラム29とを協働させることにより、映像品質推定処理に必要な各種処理部を実現する機能を有している。
演算処理部10で実現される主な処理部として、IPパケット分析部11、無効フレーム数算出部12、符号化映像品質算出部13、代表量子化パラメータ算出部14、平均量子化パラメータ算出部15、パケット損失変化指標算出部16、および映像品質推定部17がある。
【0037】
IPパケット分析部11は、通信I/F部31で受信した、対象映像通信のIPパケットから、映像品質に関する各種品質パラメータと、当該映像の圧縮符号化の量子化ステップ幅に関する量子化パラメータとを抽出する機能を有している。
無効フレーム数算出部12は、IPパケット分析部11で抽出された品質パラメータのフレーム種別情報ft、フレーム番号fn、および損失フレーム情報fdに基づいて、パケット損失のあったフレームと復号時に当該フレームのパケット損失の影響を受ける他のフレームとからなる無効フレームの数を算出する機能を有している。
【0038】
符号化映像品質算出部13は、IPパケット分析部11で抽出された品質パラメータのフレームレートFRおよび符号化レートBRと、記憶部20の映像通信特定パラメータ21および符号化映像品質情報22に基づいて、圧縮符号化による映像劣化のみを考慮した符号化映像品質値Vcを算出する機能を有している。
代表量子化パラメータ算出部14は、IPパケット分析部11で抽出された品質パラメータの符号化レートBRと、記憶部20の映像通信特定パラメータ21および代表量子化パラメータ情報23とに基づいて、品質推定対象となる映像通信と同種の映像通信を代表する代表量子化パラメータQPtを算出する機能を有している。
【0039】
平均量子化パラメータ算出部15は、IPパケット分析部11で抽出された、品質推定区間に対応する各フレームの量子化パラメータに基づき、その平均値を示す平均量子化パラメータQPを算出する機能を有している。
パケット損失変化指標算出部16は、記憶部20の映像通信特定パラメータ21、平均量子化パラメータQP、および代表量子化パラメータQPtに基づいて、対象映像の動き量を示すパケット損失変化指標Dを算出する機能を有している。
映像品質推定部17は、符号化映像品質値Vc、無効フレーム数IF、およびパケット損失変化指標Dに基づいて、対象映像通信の映像品質値Vを算出する機能と、この映像品質値Vを記憶部20や画面表示部33へ出力する機能とを有している。
【0040】
[第1の実施の形態の動作]
次に、図8および図9を参照して、本発明の第1の実施の形態にかかる映像品質推定装置の動作について説明する。図8は、本発明の第1の実施の形態にかかる映像品質推定装置の映像品質推定動作を示すフロー図である。図9は、本発明の第1の実施の形態にかかる映像品質推定装置の映像品質推定処理を示すフローチャートである。
映像品質推定装置1の演算処理部10は、操作入力部32により映像品質推定処理の開始を示すオペレータ操作が検出された場合、図9の映像品質推定処理を開始する。
【0041】
演算処理部10は、まず、映像品質の推定対象となる対象映像通信のIPパケットを通信I/F部31で受信し、IPパケット分析部11により、当該IPパケットから、映像品質に関する各種品質パラメータと、当該映像の圧縮符号化の量子化ステップ幅に関する量子化パラメータとを抽出する(ステップ100)。
IPパケット内には、IPヘッダ、UDP(User Datagram Protocol)ヘッダ 、RTP(Real-time Transport Protocol)ヘッダ、TS(Transport stream)、ES(Elementaly stream)などの情報が存在し、これら情報から各種パラメータを抽出する。
【0042】
符号化レート(ビットレート)BRについては、品質推定区間内に含まれる対象映像の符号化に必要とした符号量(ビット数)を計数し、その符号量から算出した単位時間当たりの符号量を符号化レートBRとすればよい。なお、本実施の形態では、品質推定区間内の符号化レートBRを用いたが、品質推定区間内のIPパケット数など、符号量を示す他の統計情報を用いてもよい。また、対象映像通信のサービス種別が決まっている場合には、固定の符号化レートで送出されることが多いため、IPパケットから算出するのではなく、対象映像通信に対応する符号化レートBRを、映像通信特定パラメータ21として外部入力するようにしてもよい。
【0043】
フレームレートFRについては、IPパケット内の記載から取得すればよい。具体的には、IPパケット内の映像符号化情報が記載されている箇所に、フレームレートが直接記載されているものや、フレームレートに変換できる情報が記載されており、これら情報を用いてフレームレートを特定できる。圧縮符号化方式H.264の場合、timing_info_present_flag,Num_units_in_tick,Time_scale,Fixed_frame_rate_flagにより指定されており、これらパラメータがそれぞれ1,1001,60000,1の場合、フレームレートFRは29.97fpsとなる。
【0044】
フレーム種別ftについては、IPパケット内の記載から取得すればよい。具体的には、圧縮符号化方式H.264の場合、primary_pic_typeというビット列がある。このprimary_pic_typeは、当該フレームが取り得るフレームの種類を示しており、このパラメータが0,1,2の場合、それぞれI,P,Bフレームと判定すればよい。
フレーム番号fnについては、品質推定区間内の各フレームに、便宜上の番号を付与すればよい。圧縮符号化方式H.264のIPパケットやTSパケットの場合、Nal_unit_type内のAccess unit delimiterにより、フレームの開始位置が判定できるので、Access unit delimiterを識別するごとに、フレーム番号fnを1ずつカウントして付与すればよい。但し、スライス構造を持つ場合は、スライスの数だけAccess unit delimiterが存在する。例えば、スライス数が6の場合、Access unit delimiterも6個存在する。このような場合には、スライス数を考慮してフレームを計数すればよい。
【0045】
損失フレーム番号fdについては、品質推定区間内のフレームのうち、パケット損失が発生しているフレームのフレーム番号fnからなる。
量子化パラメータqpについては、IPパケット内の符号化情報には、フレームを構成するブロックごとに量子化パラメータqp(Quantization parameter)が記載されており、これらを取得すればよい。
【0046】
演算処理部10は、このようにしてパケット分析部11により、各種品質パラメータと量子化パラメータとを抽出した後、無効フレーム数算出部12により、パケット損失のあったフレームと復号時に当該フレームのパケット損失の影響を受ける他のフレームとからなる無効フレームの数を算出する(ステップ101)。
無効フレーム数算出部12は、パケット分析部11により抽出した各種品質パラメータのうち、フレーム種別情報ft、フレーム番号fn、および損失フレーム情報fdに基づいて、無効フレームを特定する。
【0047】
図10は、フレーム種別と劣化知覚範囲との関係を示す説明図である。フレーム間予測符号化方式を用いた場合、パケット損失が発生したフレームのフレーム種別に応じて、フレーム劣化の伝搬が異なり、結果として、知覚される劣化知覚範囲が異なる。例えば、図10に示すように、Iフレーム(f3)でパケット損失が発生した場合、そのフレーム劣化は、最後に受信したPフレーム(f0)の直後フレーム(f1)から次に受信したIフレーム(f18)の直前フレーム(f17)まで劣化が伝搬する。
【0048】
また、Pフレーム(f12)でパケット損失が発生した場合、そのフレーム劣化は、最後に受信したPフレーム(f9)の直後フレーム(f10)から次に受信したIフレーム(f18)の直前フレーム(f17)まで劣化が伝搬する。一方、Bフレーム(f15)でパケット損失が発生した場合、そのフレーム劣化は、自フレーム(f15)のみとなる。このような、フレーム種別ごとの劣化知覚範囲に基づいて、劣化したフレームと劣化が伝搬したフレームを無効フレームとして特定し、これら無効フレーム数を計数する。
【0049】
続いて、演算処理部10は、符号化映像品質算出部13により、圧縮符号化による映像劣化のみを考慮した符号化映像品質値Vcを算出する(ステップ102)。この符号化映像品質値Vcは、圧縮符号化直後の各フレームを復号して得られる映像の映像品質値に相当する。
符号化映像品質算出部13は、記憶部20の符号化映像品質情報22を参照し、パケット分析部11により抽出した各種品質パラメータのうち、フレームレートFRおよび符号化レートBRと記憶部20の映像通信特定パラメータ21とに対応する符号化映像品質値Vcを取得する。
【0050】
次に、演算処理部10は、代表量子化パラメータ算出部14により、対象映像通信と同種の映像通信を代表する代表量子化パラメータQPtを算出する(ステップ103)。
代表量子化パラメータ算出部14は、記憶部20の代表量子化パラメータ情報23を参照し、パケット分析部11により抽出した各種品質パラメータの符号化レートBRと記憶部20の映像通信特定パラメータ21とに対応する代表量子化パラメータQPtを算出する。
【0051】
続いて、演算処理部10は、平均量子化パラメータ算出部15により、品質推定区間内の各フレームの平均量子化パラメータQPを算出する(ステップ104)。
品質推定区間は、例えば10秒や300フレームなどの時間長を持ち、品質推定区間内における各フレームについて、当該フレームを構成するブロックごとに量子化パラメータがIPパケット分析部11で抽出される。ブロックは、個々のフレーム内における圧縮符号化の処理単位であり、フレームごとに任意に設定される。
【0052】
図11は、各ブロックの量子化パラメータを示す説明図である。品質推定区間内のフレーム数をF、各フレームを構成する水平方向のブロック数をN、各フレームを構成する垂直方向のブロック数をM、品質推定区間内に存在するフレームのフレーム番号をf、当該フレームf内の任意のブロックの水平ブロック番号をn、当該フレームf内の任意のブロックの垂直ブロック番号をm、水平ブロック番号nで垂直ブロック番号mのブロックの量子化パラメータをqpmnfとした場合、当該フレームfの量子化パラメータQPは、次の式(1)で算出できる。
【数1】

【0053】
この後、演算処理部10は、パケット損失変化指標算出部16により、対象映像の動き量を示すパケット損失変化指標Dを算出する(ステップ105)。
パケット損失変化指標算出部16は、まず、代表量子化パラメータ算出部14で算出した代表量子化パラメータQPtと平均量子化パラメータ算出部15で算出した平均量子化パラメータQPとの差分により、次の式(2)に基づき、差分量子化パラメータΔQPを算出する。
【数2】

【0054】
続いて、パケット損失変化指標算出部16は、記憶部20のパケット損失変化指標特性情報24を参照して、記憶部20の映像通信特定パラメータ21に対応する、パケット損失変化指標特性の係数a,bを取得する。そして、この係数a,bと差分量子化パラメータΔQPとから、次の式(3)に基づき、パケット損失変化指標Dを算出する。
【数3】

【0055】
この後、演算処理部10は、映像品質推定部17により、対象映像通信の映像品質値Vを算出する(ステップ106)。
映像品質推定部17は、記憶部20の映像品質情報25を参照し、記憶部20の映像通信特定パラメータ21と、無効フレーム数算出部12で算出した無効フレーム数IF、符号化映像品質算出部13で算出した符号化映像品質値Vc、およびパケット損失変化指標算出部16で算出したパケット損失変化指標Dとに対応する映像品質値Vを取得する。
【0056】
[第1の実施の形態の効果]
このように、本実施の形態では、品質推定区間に対応する対象映像通信の各フレームに関する量子化パラメータの平均値を示す平均量子化パラメータと、対象映像通信の量子化パラメータを代表する代表量子化パラメータとに基づいて、対象フレーム間での映像の動き量を示すパケット損失変化指標を算出し、対象映像通信に関する符号化映像品質値、無効フレーム数、およびパケット損失変化指標に基づいて、対象映像通信の映像品質値を算出している。
【0057】
これにより、映像の動きを示すパケット損失変化指標を、隣接する2つのフレームの画素値を演算処理することなく、対象映像通信の各フレームに記載されている量子化パラメータから算出することができる。したがって、映像の動き量を考慮した映像品質値を少ない処理負担で算出でき、映像の動き量が予めわからない大多数の映像についても、映像の動き量の影響を考慮した映像品質をリアルタイムで推定することができる。
【0058】
[第2の実施の形態]
次に、図12および図13を参照して、本発明の第2の実施の形態にかかる映像品質推定装置について説明する。図12は、代表量子化パラメータ特性を示す説明図である。図13は、代表量子化パラメータ特性情報を示す説明図である。
【0059】
第1の実施の形態では、代表量子化パラメータQPtを算出する際、代表量子化パラメータ算出部14により、記憶部20の代表量子化パラメータ情報23を参照し、パケット分析部11により抽出した各種品質パラメータの符号化レートBRと記憶部20の映像通信特定パラメータ21とに対応する代表量子化パラメータQPtを算出する場合について説明した。
【0060】
本実施の形態では、代表量子化パラメータ特性を示す関数に基づいて、代表量子化パラメータQPtを算出する。
図12に示すように、符号化レート−代表量子化パラメータ特性は、映像通信の符号化レートBRが増加するにしたがって、代表量子化パラメータQPtが減少する特性を有している。映像通信の符号化レートをBRとし、代表量子化パラメータ特性関数を特定する係数をt1,t2,t3とした場合、代表量子化パラメータQPtは次の式(4)により表される。
【数4】

【0061】
この代表量子化パラメータ特性関数は、映像通信の種類によって変化する。本実施の形態では、映像通信特定パラメータ21ごとに係数t1,t2,t3を予め導出しておき、図13に示すような、映像通信特定パラメータ21と係数t1,t2,t3との対応関係を示す代表量子化パラメータ特性情報26を記憶部20に保存しておく。
【0062】
これにより、前述した図9のステップ103において、代表量子化パラメータ算出部14は、記憶部20の代表量子化パラメータ特性情報26を参照し、記憶部20の映像通信特定パラメータ21に対応する係数t1,t2,t3を取得し、これら係数t1,t2,t3とパケット分析部11により抽出した各種品質パラメータの符号化レートBRとから、前述した式(4)に基づいて、対象映像通信と同種の映像通信を代表する代表量子化パラメータQPtを算出する。
【0063】
[第2の実施の形態の効果]
このように、本実施の形態によれば、第1の実施の形態で説明した代表量子化パラメータ情報23を用いる場合と比較して、大きな情報量の代表量子化パラメータ情報23を予め用意することなく、対象映像通信の符号化レートBRが細かく変化する場合でも、映像の動き量を考慮した映像品質値を少ない処理負担で算出できる。
【0064】
[第3の実施の形態]
次に、本発明の第3の実施の形態にかかる映像品質推定装置について説明する。
第1の実施の形態では、映像品質値を算出する場合、映像品質推定部17により、記憶部20の映像品質情報25を参照し、記憶部20の映像通信特定パラメータ21と、無効フレーム数算出部12で算出した無効フレーム数IF、符号化映像品質算出部13で算出した符号化映像品質値Vc、およびパケット損失変化指標算出部16で算出したパケット損失変化指標Dとに対応する映像品質値Vを取得する場合について説明した。
【0065】
本実施の形態では、映像品質特性を示す関数に基づいて、映像品質値Vを算出する。
前述した図2に示すように、パケット損失変化指標Dを考慮した、無効フレーム数IFと映像品質値Vとの関係を示す映像品質特性は、前述した図2に示すように、無効フレーム数IF=0のとき符号化映像品質値Vcを映像品質値の最大値とし、無効フレーム数IFの増加に応じて指数関数的に映像品質値が減少する。この映像品質特性は、指数関数を用いて次の式(5)で近似することができる。
【数5】

【0066】
映像品質推定部17は、無効フレーム数算出部12で算出した無効フレーム数IF、符号化映像品質算出部13で算出した符号化映像品質値Vc、およびパケット損失変化指標算出部16で算出したパケット損失変化指標Dから、上記式(5)に基づき、対象映像通信の映像品質値Vを算出する。
【0067】
[第3の実施の形態の効果]
このように、本実施の形態によれば、第1の実施の形態で説明した映像品質情報25を用いる場合と比較して、対象映像通信のパケット損失変化指標Dが細かく変化する場合でも、大きな情報量の映像品質情報25を予め用意することなく、映像の動き量を考慮した映像品質値を少ない処理負担で算出できる。
【図面の簡単な説明】
【0068】
【図1】本発明の第1の実施の形態にかかる映像品質推定装置の構成を示すブロック図である。
【図2】映像の動き量と無効フレーム数−主観評価値特性との関係を示す説明図である。
【図3】パケット損失変化指標算出特性を示す説明図である。
【図4】符号化映像品質情報の構成例である。
【図5】代表量子化パラメータ情報の構成例である。
【図6】パケット損失変化指標特性情報の構成例である。
【図7】映像品質情報の構成例である。
【図8】本発明の第1の実施の形態にかかる映像品質推定装置の映像品質推定動作を示すフロー図である。
【図9】本発明の第1の実施の形態にかかる映像品質推定装置の映像品質推定処理を示すフローチャートである。
【図10】フレーム種別と劣化知覚範囲との関係を示す説明図である。
【図11】各ブロックの量子化パラメータを示す説明図である。
【図12】代表量子化パラメータ特性を示す説明図である。
【図13】代表量子化パラメータ特性情報を示す説明図である。
【符号の説明】
【0069】
1…映像品質推定装置、10…演算処理部、11…パケット分析部、12…無効フレーム数算出部、13…符号化映像品質算出部、14…代表量子化パラメータ算出部、15…平均量子化パラメータ算出部、16…パケット損失変化指標算出部、17…映像品質推定部、20…記憶部、21…映像通信特定パラメータ、22…符号化映像品質情報、23…代表量子化パラメータ情報、24…パケット損失変化指標特性情報、25…映像品質情報、26…代表量子化パラメータ特性情報、29…プログラム、31…通信I/F部、32…操作入力部、33…画面表示部、2A,2B…通信端末、3…IPネットワーク。

【特許請求の範囲】
【請求項1】
フレーム内およびフレーム間予測符号化方式に基づき対象映像を複数のフレームに圧縮符号化してIPパケットで送信する対象映像通信の映像品質を推定する映像品質推定装置であって、
入力された前記IPパケットを分析して、前記対象映像通信の映像品質に関する各種品質パラメータと、前記圧縮符号化の量子化ステップ幅に関する量子化パラメータとを抽出するIPパケット分析部と、
前記品質パラメータに基づいて、パケット損失のあったフレームと復号時に当該フレームのパケット損失の影響を受ける他のフレームとからなる無効フレームの数を算出する無効フレーム数算出部と、
前記品質パラメータに基づいて、前記圧縮符号化による映像劣化のみを考慮した、前記対象映像通信の符号化映像品質値を算出する符号化映像品質算出部と、
品質推定区間に対応する前記対象映像通信の各フレームに関する量子化パラメータの平均値を算出する平均量子化パラメータ算出部と、
前記対象映像通信の量子化パラメータを代表する代表量子化パラメータを算出する代表量子化パラメータ算出部と、
前記平均量子化パラメータと前記代表量子化パラメータとに基づいて、前記対象フレーム間での映像の動き量を示すパケット損失変化指標を算出するパケット損失変化指標算出部と、
前記符号化映像品質値、前記無効フレーム数、および前記パケット損失変化指標に基づいて、前記対象映像通信の映像品質値を算出する映像品質算出部と
を備えることを特徴とする映像品質推定装置。
【請求項2】
請求項1に記載の映像品質推定装置において、
前記パケット損失変化指標算出部は、前記平均量子化パラメータと前記代表量子化パラメータとの差分を示す差分量子化パラメータの増加に応じてパケット損失変化指標が単調減少する特性を示す関数に基づいて、前記パケット損失変化指標を算出することを特徴とする映像品質推定装置。
【請求項3】
請求項1に記載の映像品質推定装置において、
前記代表量子化パラメータ算出部は、符号化レートの増加に応じて量子化パラメータが単調減少する特性を示す関数に基づいて、前記品質パラメータに含まれる符号化レートに対応する量子化パラメータを前記代表量子化パラメータとして算出することを特徴とする映像品質推定装置。
【請求項4】
請求項1に記載の映像品質推定装置において、
前記代表量子化パラメータ算出部は、無効フレーム数が0のとき符号化映像品質値を映像品質値の最大値とし、無効フレーム数の増加に応じて映像品質値が単調減少する特性を示す関数に基づいて、前記符号化映像品質値、前記無効フレーム数、および前記パケット損失変化指標に対応する映像品質値を算出することを特徴とする映像品質推定装置。
【請求項5】
フレーム内およびフレーム間予測符号化方式に基づき対象映像を複数のフレームに圧縮符号化してIPパケットで送信する対象映像通信の映像品質を推定する映像品質推定装置で用いられる映像品質推定方法であって、
IPパケット分析部が、入力された前記IPパケットを分析して、前記対象映像通信の映像品質に関する各種品質パラメータと、前記圧縮符号化の量子化ステップ幅に関する量子化パラメータとを抽出するIPパケット分析ステップと、
無効フレーム数算出部が、前記品質パラメータに基づいて、パケット損失のあったフレームと復号時に当該フレームのパケット損失の影響を受ける他のフレームとからなる無効フレームの数を算出する無効フレーム数算出ステップと、
符号化映像品質算出部が、前記品質パラメータに基づいて、前記圧縮符号化による映像劣化のみを考慮した、前記対象映像通信の符号化映像品質値を算出する符号化映像品質算出ステップと、
平均量子化パラメータ算出部が、品質推定区間に対応する前記対象映像通信の各フレームに関する量子化パラメータの平均値を算出する平均量子化パラメータ算出ステップと、
代表量子化パラメータ算出部が、前記対象映像通信の量子化パラメータを代表する代表量子化パラメータを算出する代表量子化パラメータ算出ステップと、
パケット損失変化指標算出部が、前記平均量子化パラメータと前記代表量子化パラメータとに基づいて、前記対象フレーム間での映像の動き量を示すパケット損失変化指標を算出するパケット損失変化指標算出ステップと、
映像品質算出部が、前記符号化映像品質値、前記無効フレーム数、および前記パケット損失変化指標に基づいて、前記対象映像通信の映像品質値を算出する映像品質算出ステップと
を備えることを特徴とする映像品質推定方法。
【請求項6】
フレーム内およびフレーム間予測符号化方式に基づき対象映像を複数のフレームに圧縮符号化してIPパケットで送信する対象映像通信の映像品質を推定する映像品質推定装置のコンピュータに、
IPパケット分析部が、入力された前記IPパケットを分析して、前記対象映像通信の映像品質に関する各種品質パラメータと、前記圧縮符号化の量子化ステップ幅に関する量子化パラメータとを抽出するIPパケット分析ステップと、
無効フレーム数算出部が、前記品質パラメータに基づいて、パケット損失のあったフレームと復号時に当該フレームのパケット損失の影響を受ける他のフレームとからなる無効フレームの数を算出する無効フレーム数算出ステップと、
符号化映像品質算出部が、前記品質パラメータに基づいて、前記圧縮符号化による映像劣化のみを考慮した、前記対象映像通信の符号化映像品質値を算出する符号化映像品質算出ステップと、
平均量子化パラメータ算出部が、品質推定区間に対応する前記対象映像通信の各フレームに関する量子化パラメータの平均値を算出する平均量子化パラメータ算出ステップと、
代表量子化パラメータ算出部が、前記対象映像通信の量子化パラメータを代表する代表量子化パラメータを算出する代表量子化パラメータ算出ステップと、
パケット損失変化指標算出部が、前記平均量子化パラメータと前記代表量子化パラメータとに基づいて、前記対象フレーム間での映像の動き量を示すパケット損失変化指標を算出するパケット損失変化指標算出ステップと、
映像品質算出部が、前記符号化映像品質値、前記無効フレーム数、および前記パケット損失変化指標に基づいて、前記対象映像通信の映像品質値を算出する映像品質算出ステップと
を実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate


【公開番号】特開2010−11112(P2010−11112A)
【公開日】平成22年1月14日(2010.1.14)
【国際特許分類】
【出願番号】特願2008−168319(P2008−168319)
【出願日】平成20年6月27日(2008.6.27)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】