映像品質推定方法、装置およびプログラム
【課題】予め映像の動き量が分かっていない場合であっても、映像コンテンツ依存性を考慮した映像品質を軽い演算処理量で推定する。
【解決手段】映像品質推定装置は、評価映像のIフレームに含まれる情報量を導出するパケット分析部101と、Iフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出部102と、差分Iフレーム情報量から、損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表すパケット損失変化指標を求めるパケット損失変化指標算出部105と、評価映像の無効フレームの量を求める無効フレーム推定部108と、無効フレームの量とパケット損失変化指標に基づいて、評価映像の品質を推定する映像品質推定部106とを備える。
【解決手段】映像品質推定装置は、評価映像のIフレームに含まれる情報量を導出するパケット分析部101と、Iフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出部102と、差分Iフレーム情報量から、損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表すパケット損失変化指標を求めるパケット損失変化指標算出部105と、評価映像の無効フレームの量を求める無効フレーム推定部108と、無効フレームの量とパケット損失変化指標に基づいて、評価映像の品質を推定する映像品質推定部106とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、インターネットのようなIPネットワーク経由で行うIPTVサービス、映像配信サービス、映像コミュニケーションサービスなどの映像通信の品質を推定する技術に関するものである。
【背景技術】
【0002】
インターネットアクセス回線の高速・広帯域化に伴い、音声信号や映像信号などを送受信する映像通信サービスが期待されている。インターネットは必ずしも通信品質の保証されていないネットワークであるため、音声通信や映像信号などを送受信する場合、ユーザ間のネットワークの回線帯域が狭かったり、回線が輻輳したりすると、音声信号や映像信号などに対してユーザが知覚するユーザ体感品質(QoE:Quality of Experience)が劣化してしまう。具体的には、映像に品質劣化が加わると、ぼけ、にじみ、モザイク状の歪、ぎくしゃく感などとして知覚される。映像通信サービスを品質良く提供するためには、サービス提供に先立った品質設計やサービス開始後の品質管理が重要となり、このためには、ユーザが享受する品質を適切に表現でき、しかも簡便かつ効率的な品質評価技術が必要となる。
【0003】
従来、国際標準化機関ITU−T(International Telecommunication Union Telecommunication Standardization Sector)が勧告した非特許文献1には、映像品質客観評価法が記載され、同じくITU−Tが勧告した非特許文献2には、テレビ電話の品質設計を行うための品質推定法が記載されている。
【0004】
また、パケット損失したフレームとそのフレームを参照するフレームの総量に基づき映像の劣化量を推定する無効フレーム映像品質推定方法がある(例えば特許文献1〜特許文献7参照)。さらに、特許文献8には、映像の動き量と無効フレームを考慮して映像品質を推定する方法が提案されている。以上の客観評価技術によれば、ある一定の条件下で主観品質の統計的曖昧さと同程度の推定誤差で主観品質を推定可能である。
【0005】
【特許文献1】特開2006−33722号公報
【特許文献2】特開2007−019802号公報
【特許文献3】特開2007−060475号公報
【特許文献4】特開2007−135040号公報
【特許文献5】特開2007−258919号公報
【特許文献6】特開2007−329771号公報
【特許文献7】特開2007−329772号公報
【特許文献8】特開2008−005108号公報
【非特許文献1】“Objective perceptual video quality measurement techniques for digital cable television in the presence of a full reference”,ITU-T Recommendation J.144,2003
【非特許文献2】“Opinion model for video-telephony applications”,ITU-T Recommendation G.1070,2007
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、非特許文献1で規定された技術は、映像信号(画素信号)を用いる品質推定方法であり、品質推定に関する計算量が膨大である。そのため、ネットワーク間から品質情報を抽出し、大規模ネットワークにおける品質を管理する場合には適していないという問題点があった。
【0007】
また、特許文献1〜特許文献7に開示された無効フレーム映像品質推定方法では、映像信号を用いず、IPパケットの情報から映像フレームの情報を読み出すか、もしくは映像フレームの情報を推定(予測)し、フレーム情報に基づいて映像品質を推定するようにしている。しかしながら、特許文献1〜特許文献7に開示された方法では、映像コンテンツの依存性を考慮せず、フレーム構造のみから映像品質を推定しているため、適切に映像品質を推定することができないという問題点があった。一般に、無効フレーム数が同じであっても、映像の動き量が大きいほどユーザの知覚する品質劣化が大きいという傾向がある。しかし、特許文献1〜特許文献7に開示された方法では、映像の動き量がユーザ体感品質に与える影響を考慮することができない。例えば、映像Aと映像Bのフレームが共に10フレーム損失した場合でも、映像Aは動き量が多いためにユーザが劣化を検知し易く、映像Bは動き量が少ないためにユーザが劣化を検知しにくい、といった現象を考慮することはできない。
【0008】
また、特許文献8に開示された方法では、映像の動き量をあらかじめ算出しておくことを前提としており、具体的にはメディア信号を利用してTI(Temporal Information)値を算出し、算出した値に基づき品質推定するようにしているため、リアルタイムに品質推定する用途に適していないという問題点があった。つまり、特許文献8に開示された方法では、映像の動き量があらかじめ分かっている場合のみ、映像の動き量がユーザ体感品質に与える影響を考慮することができる。
以上のように、従来の方法では、映像品質の映像コンテンツ依存性を考慮することができず、映像品質の推定精度が著しく低下する。
【0009】
本発明は、上記課題を解決するためになされたもので、その目的とするところは、予め映像の動き量が分かっていない場合であっても、映像コンテンツ依存性を考慮した映像品質を軽い演算処理量で推定することができる映像品質推定方法、装置およびプログラムを提供することにある。
【課題を解決するための手段】
【0010】
本発明の映像品質推定方法は、品質推定したい評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手順と、このIフレーム情報量導出手順で得られたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手順と、この差分Iフレーム情報量算出手順で得られた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手順と、前記評価映像の無効フレームの量を求める無効フレーム推定手順と、前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手順とを備えることを特徴とするものである。
また、本発明の映像品質推定方法の1構成例において、前記損失変化指標導出手順は、前記評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて、前記損失変化指標を算出することを特徴とするものである。
また、本発明の映像品質推定方法の1構成例は、さらに、前記評価映像の符号化レートから符号化品質を推定する符号化品質推定手順を備え、前記映像品質推定手順は、前記無効フレームの量と前記損失変化指標と前記符号化品質に基づいて、前記評価映像の品質を推定することを特徴とするものである。
また、本発明の映像品質推定方法の1構成例において、前記Iフレーム情報量導出手順と差分Iフレーム情報量算出手順と損失変化指標導出手順と無効フレーム推定手順と映像品質推定手順とは、所定の品質推定区間を区切った小区間ごとに前記評価映像の品質を推定し、前記映像品質推定手順は、さらに前記小区間ごとの映像品質に基づいて前記品質推定区間の映像品質を求める手順を含むことを特徴とするものである。
【0011】
また、本発明の映像品質推定装置は、品質推定したい評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手段と、このIフレーム情報量導出手段が求めたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手段と、この差分Iフレーム情報量算出手段が求めた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手段と、前記評価映像の無効フレームの量を求める無効フレーム推定手段と、前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手段とを備えることを特徴とするものである。
また、本発明の映像品質推定装置の1構成例において、前記損失変化指標導出手段は、前記評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて、前記損失変化指標を算出することを特徴とするものである。
また、本発明の映像品質推定装置の1構成例は、さらに、前記評価映像の符号化レートから符号化品質を推定する符号化品質推定手段を備え、前記映像品質推定手段は、前記無効フレームの量と前記損失変化指標と前記符号化品質に基づいて、前記評価映像の品質を推定することを特徴とするものである。
また、本発明の映像品質推定装置の1構成例において、前記Iフレーム情報量導出手段と差分Iフレーム情報量算出手段と損失変化指標導出手段と無効フレーム推定手段と映像品質推定手段とは、所定の品質推定区間を区切った小区間ごとに前記評価映像の品質を推定し、前記映像品質推定手段は、さらに前記小区間ごとの映像品質に基づいて前記品質推定区間の映像品質を求める手段を含むことを特徴とするものである。
【0012】
また、本発明は、評価映像の品質を推定する映像品質推定装置としてコンピュータを動作させる映像品質推定プログラムにおいて、評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手順と、このIフレーム情報量導出手順で得られたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手順と、この差分Iフレーム情報量算出手順で得られた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手順と、前記評価映像の無効フレームの量を求める無効フレーム推定手順と、前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手順とを、コンピュータに実行させることを特徴とするものである。
【発明の効果】
【0013】
本発明によれば、品質推定したい映像のIフレーム情報量と複数の基準映像のIフレーム情報量の平均値とから差分Iフレーム情報量を求め、この差分Iフレーム情報量から、無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求め、この損失変化指標を映像品質の推定に用いるようにしたので、予め映像の動き量が分かっていない場合であっても、映像コンテンツ依存性を考慮した映像品質推定を行うことができる。また、本発明では、映像メディアの画素情報を用いることなく、ネットワーク内から抽出可能なパケット内に記述されている情報から映像品質を推定することができるので、映像品質を軽い演算処理量で推定することができる。
【0014】
また、本発明では、評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて損失変化指標を算出することにより、差分Iフレーム情報量と損失変化指標との関係がコーデックとサービス種別と映像フォーマットに依存するという性質を、損失変化指標の算出に反映させることができる。
【0015】
また、本発明では、所定の品質推定区間を区切った小区間ごとに評価映像の品質を推定し、小区間ごとの映像品質に基づいて品質推定区間の映像品質を求めることにより、局所的に映像品質が著しく低下した場合にも追従することができ、局所的な低下を加味した映像品質を求めることができる。
【発明を実施するための最良の形態】
【0016】
[発明の原理]
映像品質を推定する場合、IPパケットに記述される情報から映像品質を左右するパラメータを解析し、利用できる全てのパラメータを用いて品質を推定することが望ましい。しかしながら、品質を推定する手段の演算量が膨大になるため、全てのパラメータを演算に利用することはできず、一般的には一部のパラメータから映像品質を推定するようにしている。また、IPパケット内の映像情報や音声情報に関してはしばしば暗号化されていることがあるので、直接、解析に利用できないケースが多々ある。そこで、本発明の実施の形態では、映像情報に関するペイロード情報を推定することにより、映像品質を推定する方法を提供する。
【0017】
MPEG2(Moving Picture Experts Group 2)やH.264などの映像符号化方式では、映像信号はI,B,Pフレームなどのフレームに符号化され圧縮される。Iフレームは、それだけで完結しており、Iフレームの情報だけで元のフレーム画像を復元できる。このようにIフレームでは、フレーム内圧縮のみしか行わないため、I,B,Pの3種類のフレームの中で、圧縮率は最も低い(すなわちデータ量が最も多い)。
【0018】
Pフレームは、該当フレームの画像とその直前のIフレームやPフレームの画像との差分情報である。Pフレームをデコードするためには、直前のIフレームやPフレームの情報が必要となる。Pフレームは、Iフレームに比べると、圧縮率が高くなる(すなわちデータ量は削減される)。
Bフレームは、前のフレームだけでなく後のフレームとの差分も使って圧縮されたものである。Bフレームをデコードするためには、前後のIフレーム、Pフレームの情報が必要となる。Bフレームは、Pフレームよりもさらに圧縮率が高くなる(すなわちI,B,Pの3種類の中で最もデータ量が少ない)。
【0019】
MPEG2やH.264などの映像符号化方式では、上記I,B,Pの各フレームが独立してではなく、GOP(Group of Picture)という固まり単位で圧縮、伸長が行われる。例えば、MPEG2の場合、GOPは、IBBPBBPBBPBBPBB、のように、15フレーム単位(0.5秒)で構成される。上のケースでは、1GOPの中に、Iフレーム1個、Pフレーム4個、Bフレーム10個が存在する。Iフレームの数は1GOPの中に必ず1個と決まっているが、Pフレーム、Bフレームの数は、映像の動き量等によって変わる。
【0020】
一般に、動き量の大きい映像ほど、Iフレームに含まれる情報量が小さいことが知られている。つまり、動き量の大きい映像に対しては、Iフレームの情報を減らし(Iフレームの精細度を落とす)、BフレームやPフレームの情報を増やし(BフレームやPフレームの精細度を上げる)、映像全体の品質を高めるように符号化される。動き量の小さい映像に対しては、その逆の処理が行われる。
本発明の実施の形態は、このような映像の動き量に応じてI,B,Pフレームの情報量が変動するという事実に基づいて、Iフレームの情報量をIPパケット内に記述されている情報から抽出し、フレーム情報を考慮して、リアルタイムな品質推定を実現する。
【0021】
具体的には、パケット損失が発生してフレームが損失し、他のフレームに劣化が伝搬した場合、映像の動き量(つまり、Iフレームの情報量)に応じて、主観評価値の変化の度合いが異なる。図1は無効フレーム数と主観評価値との関係を示す図である。図1において、m1は映像の動き量が大きいときの特性、m2は映像の動き量が小さいときの特性である。
【0022】
図1に示すように、無効フレーム数と主観評価値との関係は、映像の動き量が大きいほど無効フレーム数の増加に対する主観品質の低下が早く、動き量が小さい場合は無効フレーム数の増加に対する主観品質の低下が鈍くなるという特性がある。また、前述のように、映像の動き量とIフレームの情報量には相関がある。
【0023】
そこで、図2に模式的に示すように、無数に存在する映像の集合20の中から例えば8つの基準映像21を予め選び出す。基準映像としては、例えば動き量の大きい映像や動き量の小さい映像などのいくつかの典型的な映像をサンプルとして用意すればよい。この基準映像のIフレームの情報量(例えば、Iフレームに使われたビット数や、Iフレームを構成するIPパケットの数やTSパケットの数)を映像毎に求め、その平均値である平均Iフレーム情報量を求める。そして、品質を推定したい映像のIフレーム情報量と平均Iフレーム情報量とから、差分Iフレーム情報量(平均された基準映像の品質値とのずれ、すなわち映像コンテンツ依存性を表す量)を求め、この差分Iフレーム情報量からパケット損失変化指標を計算し、無効フレームの量とパケット損失変化指標に基づいて映像品質を推定する。
【0024】
これにより、映像メディアの画素情報を用いることなく、ネットワーク内から抽出可能なIPパケット内に記述されている情報から、映像コンテンツ依存性を考慮した映像品質を軽い演算処理量で推定することができる。
【0025】
[第1の実施の形態]
以下、図面を用いて本発明の実施の形態を説明する。図3は本発明の第1の実施の形態に係る映像品質推定装置の構成を示すブロック図、図4は図3の映像品質推定装置の動作を示すフローチャートである。
映像品質推定装置は、受信したIPパケットから品質パラメータを抽出するパケット分析部101と、パケット分析部101が求めたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出部102と、平均Iフレーム情報量を求める平均Iフレーム情報量推定部103と、パケット分析部101が求めた符号化レートから符号化品質を推定する符号化品質推定部104と、差分Iフレーム情報量算出部102が求めた差分Iフレーム情報量からパケット損失変化指標を算出するパケット損失変化指標算出部105と、無効フレームの量とパケット損失変化指標と符号化品質に基づいて映像品質を推定する映像品質推定部106と、映像のフレームの種別をフレームごとに判別するフレーム種別推定部107と、フレーム種別に基づいて無効フレームの量を求める無効フレーム推定部108と、平均Iフレーム情報量を求めるための平均Iフレーム情報量特性係数を記憶する平均Iフレーム情報量特性係数記憶部203と、符号化品質を求めるための符号化品質特性係数を記憶する符号化品質特性係数記憶部204と、パケット損失変化指標を求めるためのパケット損失変化指標特性係数を記憶するパケット損失変化指標特性係数記憶部205と、映像品質推定装置の各構成に映像品質推定を行うためのパラメータを入力する品質特性係数特定パラメータ記憶部301とを有する。
【0026】
まず、図示しない受信部は、IPネットワークからIPパケットを受信する。IPパケット内には、IPヘッダや、TS(Transport stream)、ES(Elementaly stream)などが存在する。
【0027】
次に、受信部からパケット分析部101に、受信したIPパケットを入力する。パケット分析部101は、映像品質推定を行うために映像品質推定関数に入力する品質パラメータをIPパケットから抽出し、これらの品質パラメータを差分Iフレーム情報量算出部102、平均Iフレーム情報量推定部103、符号化品質推定部104、フレーム種別推定部107、無効フレーム推定部108へ入力する(図4ステップS1)。
【0028】
本実施の形態では、品質パラメータとして、Iフレーム情報量、符号化レート、フレーム情報量、シーケンス番号を用いている。
Iフレーム情報量については、Iフレーム情報量の増加とともに映像の動き量が少なくなり、逆にIフレーム情報量が低下すると映像の動き量が多くなる特性を有することを利用する。
【0029】
品質パラメータとしては、本実施の形態で用いたものの他、IPパケット内に記述される映像フォーマット、フレーム情報(イントラリフレッシュレート、GOP、フレームタイプ)、動き補償後の誤差信号に対する情報(量子化ステップ幅、変換係数(DCT係数/整数変換係数/ウエーブレット係数など))、パケット損失情報(パケット損失率、パケット損失パターン、パケット遅延時間など)などを用いてもよい。
【0030】
以下に、本実施の形態において、具体的にどのように各品質パラメータを抽出し、差分Iフレーム情報量算出部102、平均Iフレーム情報量推定部103、符号化品質推定部104、フレーム種別推定部107、無効フレーム推定部108へ入力するかを説明する。
【0031】
[Iフレーム情報量の導出]
パケット分析部101は、IPパケット内に含まれる、Iフレームを構成するTSパケットをカウントし、Iフレームの情報量Iqを次式のように単位フレームあたりの情報量として計算し、計算したIフレーム情報量Iqを差分Iフレーム情報量算出部102に入力する(ステップS1)。
【0032】
【数1】
【0033】
式(1)において、Fは所望の品質推定区間(例えば10秒)に存在するIフレーム数、fは所望の品質推定区間(例えば10秒)に存在するIフレームの番号、ifはIフレームの番号fに対応したIフレームのTSパケット数である。
【0034】
ここで、どのフレームがIフレームであるかを判別する手法は、文献「牛木一成,富永聡子,林孝典,“TSヘッダ情報を用いた映像フレーム種別推定法の有効性検証”,信学技報,vol.107,no.312,CQ2007−74,p.15−19」に記載されている。以下、この判別手法について説明する。
【0035】
図5はフレームの切れ目を説明するための図であり、50はRTP(Real-time Transport Protocol)ヘッダ内のマーカービット(Marker bit)か、あるいはTSヘッダ内のペイロードユニットスタートインジケータ(Payload unit start indicator)のフラグが立っているパケット、51はマーカービットおよびペイロードユニットスタートインジケータのフラグが立っていないパケットである。
【0036】
図5に示すように、IPパケット内にあるマーカービットもしくはペイロードユニットスタートインジケータは、フレームの切れ目を示すフラグである。パケット分析部101は、このフラグを利用して、どのパケットからどのパケットまでが1フレームを構成するかを判断することができる。次に、パケット分析部101は、フラグが立っているパケット50から次のフラグが立っているパケット50までの間のパケット数、すなわちフレームあたりのパケット数をカウントする(例えば、1フレーム目は500パケット、2フレーム目は50パケットなど)。
【0037】
一般に、映像フレーム内にある情報量は、I,P,Bフレームの順に多いことが知られている。パケット分析部101は、この特徴を利用して、パケット数からフレーム種別を判別する。例えば、GOP(M=3、N=15)で構成されるフレーム構造(MはI,Pフレームの間隔、NはIフレームの間隔)の場合は、15フレームに1つIフレームがあるので、15フレームの中で一番パケット数が多いものをIフレームとする。また、GOP長が可変である場合は、17フレームの中から2つパケット数の多いものを抽出し、これらをIフレームとすればよい。以上のような手法により、パケット分析部101は、Iフレームを判別することができる。
【0038】
なお、本実施の形態では、Iフレーム情報量をTSパケットに基づき算出しているが、Iフレーム情報量として、Iフレームを構成するビットレートやIPパケット数などを用いてもよい。
【0039】
[符号化レートの導出]
パケット分析部101は、IPパケット内に含まれる、映像符号化に必要とされた符号量(つまり、ビット数)をカウントして、その符号化レート(ビットレート)を求め、符号化レートの情報を平均Iフレーム情報量推定部103と符号化品質推定部104に入力する(ステップS1)。ただし、符号量ではなく、他のビット量と相関の高い、映像を構成するパケット数などのパラメータをカウントして、このパケット数を符号化レートを表す情報として用いてもよい。
【0040】
[フレーム情報量の導出]
パケット分析部101は、フレーム情報量をフレームごとにカウントしてフレーム種別推定部107に入力する(ステップS1)。フレーム情報量は、図5で説明したとおりマーカービットやペイロードユニットスタートインジケータに基づき、フレームあたりのビット数やフレームあたりのTSパケット数などをカウントすることによって求めることができる。
【0041】
[シーケンス番号]
パケット分析部101は、RTPヘッダ内のシーケンス番号やTCP(Transmission Control Protocol)ヘッダ内のシーケンス番号などのパケットの順番を示す値を無効フレーム推定部108に入力する(ステップS1)。
【0042】
次に、品質特性係数特定パラメータ記憶部301は、予め定められた品質特性係数特定パラメータを平均Iフレーム情報量推定部103、符号化品質推定部104、パケット損失変化指標算出部105、フレーム種別推定部107、平均Iフレーム情報量特性係数記憶部203、符号化品質特性係数記憶部204、パケット損失変化指標特性係数記憶部205に入力する(図4ステップS2)。
【0043】
品質特性係数特定パラメータとしては、コーデック(CODEC)を示す情報、映像フォーマットを示す情報、映像通信種別を表す情報、表示解像度を示す情報、符号化品質特性係数(映像フォーマットごとおよび符号化レートごとの符号化品質の値)、平均Iフレーム情報量特性係数(映像フォーマットごとおよび符号化レートごとの平均Iフレーム情報量、あるいは平均Iフレーム情報量を算出する関数の係数)、パケット損失変化指標特性係数(パケット損失変化指標を算出する関数の係数)などがある。なお、品質推定したい評価映像のコーデックと映像フォーマットと映像通信種別(サービス種別)とを示す情報は、外部から入力され、品質特性係数特定パラメータ記憶部301に記憶される。
【0044】
品質特性係数特定パラメータ記憶部301は、コーデックを示す情報、映像フォーマットを示す情報、映像通信種別を表す情報、および表示解像度を示す情報を平均Iフレーム情報量推定部103、符号化品質推定部104、パケット損失変化指標算出部105、フレーム種別推定部107に入力する。また、品質特性係数特定パラメータ記憶部301は、平均Iフレーム情報量特性係数を平均Iフレーム情報量特性係数記憶部203に入力し、符号化品質特性係数を符号化品質特性係数記憶部204に入力し、パケット損失変化指標特性係数をパケット損失変化指標特性係数記憶部205に入力する。
【0045】
コーデックとしては、例えばH.264、H.263、H.261、MPEG2、MPEG4などがある。映像フォーマットとしては、例えばHD(High Definition)、SD(Standard Definition)、VGA(Video Graphics Array)、QCIF(Quarter Common Intermediate Format)などがある。映像通信種別としては、例えばIPTV、TV電話、VoD(Video On Demand)などがある。
【0046】
次に、平均Iフレーム情報量推定部103は、ステップS1で抽出された符号化レートから複数の基準映像のIフレーム情報量の平均値Iaveを導出し、導出した平均Iフレーム情報量Iaveを差分Iフレーム情報量算出部102に入力する(図4ステップS3)。具体的には、平均Iフレーム情報量推定部103は、平均Iフレーム情報量特性係数記憶部203に保持された図6のような平均Iフレーム情報量データベース2030を参照し、ステップS1で抽出された符号化レート(ビットレート)とコーデックと映像フォーマットと映像通信種別に対応した平均Iフレーム情報量Iaveの値を取得すればよい。
【0047】
なお、図6の例では、複数のコーデック、複数の映像フォーマットおよび複数の映像通信種別に対応する平均Iフレーム情報量データベースの例が記載されているが、実際に符号化品質を推定するのは、既知の1種類のコーデック、1種類の映像フォーマットおよび1種類の映像通信種別に対してなので、品質特性係数特定パラメータ記憶部301から平均Iフレーム情報量特性係数記憶部203に入力される平均Iフレーム情報量データベースは、1種類のコーデック、1種類の映像フォーマットおよび1種類の映像通信種別に関するものでもよい。
【0048】
また、平均Iフレーム情報量推定部103は、符号化レートと平均Iフレーム情報量との関係が数式化された所定の式に、ステップS1で抽出された符号化レートの値を代入して、平均Iフレーム情報量Iaveを算出するようにしてもよい(ステップS3)。図7に示すように、ビットレートの増加と共に平均Iフレーム情報量は増加する。このビットレートと平均Iフレーム情報量Iaveとの関係は、コーデックなどに依存する。そこで、平均Iフレーム情報量Iaveを算出する関数のみを予め一般化し、関数の係数を品質特性係数特定パラメータ記憶部301から平均Iフレーム情報量特性係数記憶部203の関数係数データベース2031に保存する。
【0049】
平均Iフレーム情報量推定部103は、平均Iフレーム情報量特性係数記憶部203に保持された図8のような関数係数データベース2031を参照して、コーデックと映像フォーマットと映像通信種別に対応した関数の係数t1,t2,t3を取得し、以下のような式を用いて平均Iフレーム情報量Iaveを算出する。
Iave=t1+t2・exp(−BR/t3) ・・・(2)
【0050】
式(2)において、BRはステップS1で抽出された符号化レート(ビットレート)である。関数の係数t1,t2,t3をコーデックなどに応じて切り替えることで、コーデックなどに依存する、ビットレートと平均Iフレーム情報量との関係を加味できることになる。
【0051】
差分Iフレーム情報量算出部102は、パケット分析部101から入力されたIフレーム情報量Iqと平均Iフレーム情報量推定部103から入力された平均Iフレーム情報量Iaveから、次式のように差分Iフレーム情報量ΔIを算出し、この差分Iフレーム情報量ΔIをパケット損失変化指標算出部105に入力する(図4ステップS4)。
ΔI=Iq−Iave ・・・(3)
【0052】
次に、パケット損失変化指標算出部105は、図9に示すように差分Iフレーム情報量ΔIが増加するとパケット損失変化指標Dが増加する関係があることを利用し、パケット損失変化指標Dを算出して映像品質推定部106に入力する(図4ステップS5)。ここで、パケット損失変化指標とは、パケット損失が発生したときに、損失したフレームの量に基づき映像品質が低下する程度を表す量である。
【0053】
差分Iフレーム情報量ΔIとパケット損失変化指標Dとの関係は、コーデックなどに依存する。そこで、パケット損失変化指標Dを算出する関数のみを予め一般化し、関数の係数を品質特性係数特定パラメータ記憶部301からパケット損失変化指標特性係数記憶部205の関数係数データベース2050に保存する。
【0054】
パケット損失変化指標算出部105は、パケット損失変化指標特性係数記憶部205に保持された図10のような関数係数データベース2050を参照して、コーデックと映像フォーマットと映像通信種別に対応した関数の係数a,bを取得し、以下のような式を用いてパケット損失変化指標Dを算出する。
D=a+bΔI ・・・(4)
【0055】
関数の係数a,bをコーデックなどに応じて切り替えることで、コーデックなどに依存する、差分Iフレーム情報量ΔIとパケット損失変化指標Dとの関係を加味できることになる。
【0056】
次に、符号化品質推定部104は、ステップS1で抽出された符号化レートから符号化直後の符号化品質を推定し、この符号化品質を表す情報を映像品質推定部106に入力する(図4ステップS6)。具体的には、符号化品質推定部104は、符号化品質特性係数記憶部204に保持された図11のような品質データベース2040を参照し、ステップS1で抽出された符号化レート(ビットレート)とコーデックと映像フォーマットと映像通信種別に対応した符号化品質の値を品質データベース2040から取得すればよい。
【0057】
なお、図11の例では、複数のコーデック、複数の映像フォーマットおよび複数の映像通信種別に対応する品質データベースの例が記載されているが、実際に符号化品質を推定するのは、既知の1種類のコーデック、1種類の映像フォーマットおよび1種類の映像通信種別に対してなので、品質特性係数特定パラメータ記憶部301から符号化品質特性係数記憶部204に入力される品質データベースは、1種類のコーデック、1種類の映像フォーマットおよび1種類の映像通信種別に関するものでもよい。
【0058】
また、符号化品質推定部104は、符号化レートと符号化品質との関係が数式化された所定の式に、ステップS1で抽出された符号化レートの値を代入して、符号化品質の値を求めるようにしてもよい(ステップS6)。
【0059】
次に、フレーム種別推定部107は、IPパケット内に記述される情報からフレーム種別を読み込み、フレームごとにフレーム種別を表す情報を無効フレーム推定部108に入力する(図4ステップS7)。ただし、メディア情報が著作権保護の観点から暗号化されている場合、フレーム種別推定部107は、パケット分析部101から入力されたフレーム情報量から、フレーム種別を判別する必要がある。
【0060】
Iフレームを判別する手法については、上記で説明したとおりである。次に、IPパケット内に含まれる、複数のフレームのうち、判別したIフレームを除いたものの中からPフレーム、Bフレームを判別する手法を説明する。フレーム種別推定部107は、事前に定められた閾値を利用し、フレーム情報量が閾値より大きいか小さいかで、フレームの種別を判別する。例えばフレーム情報量としてパケット数を用いる場合、フレーム種別推定部107は、パケット数閾値よりもフレームあたりのパケット数が多いものをPフレーム、パケット数閾値よりもフレームあたりのパケット数が少ないものをBフレームとする。この閾値は、事前に数種類の映像ストリームを作成し、映像ストリームからPフレームとBフレームを構成する平均的なパケット数を求め、このパケット数を基に決定すればよい。
【0061】
無効フレーム推定部108は、パケット分析部101から入力されたシーケンス番号とフレーム種別推定部107から入力されたフレーム種別に基づき、無効フレームの量IFを導出し、無効フレームの量IFを表す情報を映像品質推定部106に入力する(図4ステップS8)。ここで、無効フレームとは、パケット損失が発生したときに損失したフレーム、および損失したフレームを参照しているために劣化が伝搬したフレームのことを言う。例えば、損失したフレームの数が2で、損失したフレームを参照しているために劣化が伝搬したフレームの数が10であれば、無効フレーム数は12となる。
【0062】
具体的には、図12に示すように、パケット損失が発生したフレームに応じて、劣化の伝搬が異なり、結果として、ユーザが知覚する劣化範囲が異なる。なお、図12の例は、GOP(M=3、N=15)の場合を示している。図12のIlossで示すようにIフレームにパケット損失が発生すると、次のIフレームまでの区間、劣化が伝搬する。図12の200は、このときの劣化伝搬範囲を示す。図12の例では、劣化が17フレーム存在したように知覚される。
【0063】
図12のPlossで示すようにPフレームにパケット損失が発生すると、次のIフレームまでの区間、劣化が伝搬する。図12の201は、このときの劣化伝搬範囲を示す。図12の例では、劣化が11フレーム存在したように知覚される。
一方、図12のBlossに示すように、Bフレームにパケット損失が発生しても、ユーザが知覚する劣化範囲は当該Bフレームのみとなり、他のフレームに劣化が伝搬することはない。無効フレーム推定部108は、この図12で説明したような現象を利用して、無効フレームの量をカウントすればよい。
【0064】
なお、無効フレームの量IFを、特定区間(例えば、品質測定区間300フレームなど)内のフレームがどの程度の割合で損失しているかを示す無効フレーム率で表現してもよい。例えば、300フレームのうち損失したフレームと劣化が伝搬したフレームとの総数が30であれば、無効フレーム率は10%となる。
【0065】
最後に、映像品質推定部106は、ステップS5でパケット損失変化指標算出部105が求めたパケット損失変化指標Dと、ステップS6で符号化品質推定部104が求めた符号化品質Vcと、ステップS8で無効フレーム推定部108が求めた無効フレームの量IFから、次式により映像品質Vを推定する(図4ステップS9)
V=1+(Vc−1)・exp(−IF/D) ・・・(5)
【0066】
なお、映像品質推定部106は、パケット損失変化指標Dと符号化品質Vcと無効フレームの量IFと映像品質Vとを予め対応付けた品質データベースを保持し、このデータベースにアクセスすることで、映像品質Vを導き出すようにしてもよい。
【0067】
本実施の形態によれば、映像品質に関するパラメータにより、映像通信サービスの映像品質値を推定することが可能となるため、サービスを利用するユーザに対してある一定以上の品質を保っているかどうかを容易に判断することができる。これにより、上記サービスで用いる品質パラメータの設計や、提供中のサービスの品質実態を把握・管理することが可能となる。
【0068】
そして、本実施の形態では、映像の動き量が大きくなるほど、Iフレームの情報がBフレームやPフレームに配分されるため、Iフレームに含まれる情報量が相対的に少なくなるという特徴を利用し、品質推定したい映像のIフレーム情報量と複数の基準映像のIフレーム情報量の平均値とから差分Iフレーム情報量(映像コンテンツ依存性を表す量)を求め、この差分Iフレーム情報量から、無効フレームの量と映像品質低下の程度との関係を表すパケット損失変化指標を求め、このパケット損失変化指標を映像品質の推定に用いるようにしたので、映像コンテンツ依存性を考慮した映像品質推定を行うことができる。また、本実施の形態では、映像メディアの画素情報を用いることなく、ネットワーク内から抽出可能なIPパケット内に記述されている情報から映像品質を推定することができるので、映像品質を軽い演算処理量で推定することができる。
【0069】
[第2の実施の形態]
次に、本発明の第2の実施の形態について説明する。本実施の形態においても、映像品質推定装置の構成は第1の実施の形態と同様であるので、図3の符号を用いて説明する。図13は本実施の形態の映像品質推定装置の動作を示すフローチャートである。
【0070】
本実施の形態では、所望のある区間の品質を推定する場合(例えば、10秒間の品質を推定する場合)、この所望の品質推定区間を例えばGOP単位や1秒間などの小区間に区切り、小区間ごとの映像品質を推定し、これら小区間ごとの映像品質から所望の品質推定区間の映像品質を推定する。例えば、品質推定区間を10秒間とし、小区間をGOP単位とする。GOP単位の映像品質は、第1の実施の形態の方法を用いて推定することができる。つまり、図13のステップS1〜S9の処理は、第1の実施の形態と同様である。第1の実施の形態と異なる点は、第1の実施の形態ではステップS1〜S9の処理が品質推定区間の単位で行われていたのに対し、本実施の形態ではステップS1〜S9の処理が10秒間の品質推定区間ではなく、品質推定区間を区切るGOPごとに行われることである。
【0071】
次に、本実施の形態の映像品質推定部106は、品質推定区間内のGOPごとに推定した映像品質を次式のように平均し、品質推定区間の映像品質Vを得る(図13ステップS10)。
【0072】
【数2】
【0073】
ここで、Gは品質推定区間内のGOP数、gはGOPの番号、Vgは各GOPの映像品質を示す。
本実施の形態によれば、局所的に映像品質が著しく低下した場合にも追従することができ、局所的な低下を加味した映像品質を求めることができる。また、上記の例では、GOP単位の映像品質の平均により品質推定区間の映像品質を推定したが、各GOP単位の映像品質の重み付け平均をとって品質推定区間の映像品質を推定したり、各GOP単位の映像品質のうち最低値を品質推定区間の映像品質としたりすることも有効である。
【0074】
なお、第1、第2の実施の形態の映像品質推定装置は、CPU、記憶装置および外部とのインタフェースを備えたコンピュータとこれらのハードウェア資源を制御するプログラムによって実現することができる。このようなコンピュータにおいて、本発明の映像品質推定方法を実現させるための映像品質推定プログラムは、フレキシブルディスク、CD−ROM、DVD−ROM、メモリカードなどの記録媒体に記録された状態で提供される。CPUは、記録媒体から読み込んだプログラムを記憶装置に書き込み、プログラムに従って第1、第2の実施の形態で説明したような処理を実行する。
【産業上の利用可能性】
【0075】
本発明は、IPTVサービス、映像配信サービス、映像コミュニケーションサービスなどの映像通信の品質を推定する技術に適用することができる。
【図面の簡単な説明】
【0076】
【図1】無効フレーム数と主観評価値との関係を示す図である。
【図2】予め用意する基準映像について説明するための図である。
【図3】本発明の第1の実施の形態に係る映像品質推定装置の構成を示すブロック図である。
【図4】本発明の第1の実施の形態に係る映像品質推定装置の動作を示すフローチャートである。
【図5】フレームの切れ目を説明するための図である。
【図6】本発明の第1の実施の形態における平均Iフレーム情報量特性係数記憶部の平均Iフレーム情報量データベースの例を示す図である。
【図7】ビットレートと平均Iフレーム情報量との関係を示す図である。
【図8】本発明の第1の実施の形態における平均Iフレーム情報量特性係数記憶部の関数係数データベースの例を示す図である。
【図9】差分Iフレーム情報量とパケット損失変化指標との関係を示す図である。
【図10】本発明の第1の実施の形態におけるパケット損失変化指標特性係数記憶部の関数係数データベースの例を示す図である。
【図11】本発明の第1の実施の形態における符号化品質特性係数記憶部の品質データベースの例を示す図である。
【図12】無効フレームの概念を示す図である。
【図13】本発明の第2の実施の形態に係る映像品質推定装置の動作を示すフローチャートである。
【符号の説明】
【0077】
101…パケット分析部、102…差分Iフレーム情報量算出部、103…平均Iフレーム情報量推定部、104…符号化品質推定部、105…パケット損失変化指標算出部、106…映像品質推定部、107…フレーム種別推定部、108…無効フレーム推定部、203…平均Iフレーム情報量特性係数記憶部、204…符号化品質特性係数記憶部、205…パケット損失変化指標特性係数記憶部、301…品質特性係数特定パラメータ記憶部。
【技術分野】
【0001】
本発明は、インターネットのようなIPネットワーク経由で行うIPTVサービス、映像配信サービス、映像コミュニケーションサービスなどの映像通信の品質を推定する技術に関するものである。
【背景技術】
【0002】
インターネットアクセス回線の高速・広帯域化に伴い、音声信号や映像信号などを送受信する映像通信サービスが期待されている。インターネットは必ずしも通信品質の保証されていないネットワークであるため、音声通信や映像信号などを送受信する場合、ユーザ間のネットワークの回線帯域が狭かったり、回線が輻輳したりすると、音声信号や映像信号などに対してユーザが知覚するユーザ体感品質(QoE:Quality of Experience)が劣化してしまう。具体的には、映像に品質劣化が加わると、ぼけ、にじみ、モザイク状の歪、ぎくしゃく感などとして知覚される。映像通信サービスを品質良く提供するためには、サービス提供に先立った品質設計やサービス開始後の品質管理が重要となり、このためには、ユーザが享受する品質を適切に表現でき、しかも簡便かつ効率的な品質評価技術が必要となる。
【0003】
従来、国際標準化機関ITU−T(International Telecommunication Union Telecommunication Standardization Sector)が勧告した非特許文献1には、映像品質客観評価法が記載され、同じくITU−Tが勧告した非特許文献2には、テレビ電話の品質設計を行うための品質推定法が記載されている。
【0004】
また、パケット損失したフレームとそのフレームを参照するフレームの総量に基づき映像の劣化量を推定する無効フレーム映像品質推定方法がある(例えば特許文献1〜特許文献7参照)。さらに、特許文献8には、映像の動き量と無効フレームを考慮して映像品質を推定する方法が提案されている。以上の客観評価技術によれば、ある一定の条件下で主観品質の統計的曖昧さと同程度の推定誤差で主観品質を推定可能である。
【0005】
【特許文献1】特開2006−33722号公報
【特許文献2】特開2007−019802号公報
【特許文献3】特開2007−060475号公報
【特許文献4】特開2007−135040号公報
【特許文献5】特開2007−258919号公報
【特許文献6】特開2007−329771号公報
【特許文献7】特開2007−329772号公報
【特許文献8】特開2008−005108号公報
【非特許文献1】“Objective perceptual video quality measurement techniques for digital cable television in the presence of a full reference”,ITU-T Recommendation J.144,2003
【非特許文献2】“Opinion model for video-telephony applications”,ITU-T Recommendation G.1070,2007
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、非特許文献1で規定された技術は、映像信号(画素信号)を用いる品質推定方法であり、品質推定に関する計算量が膨大である。そのため、ネットワーク間から品質情報を抽出し、大規模ネットワークにおける品質を管理する場合には適していないという問題点があった。
【0007】
また、特許文献1〜特許文献7に開示された無効フレーム映像品質推定方法では、映像信号を用いず、IPパケットの情報から映像フレームの情報を読み出すか、もしくは映像フレームの情報を推定(予測)し、フレーム情報に基づいて映像品質を推定するようにしている。しかしながら、特許文献1〜特許文献7に開示された方法では、映像コンテンツの依存性を考慮せず、フレーム構造のみから映像品質を推定しているため、適切に映像品質を推定することができないという問題点があった。一般に、無効フレーム数が同じであっても、映像の動き量が大きいほどユーザの知覚する品質劣化が大きいという傾向がある。しかし、特許文献1〜特許文献7に開示された方法では、映像の動き量がユーザ体感品質に与える影響を考慮することができない。例えば、映像Aと映像Bのフレームが共に10フレーム損失した場合でも、映像Aは動き量が多いためにユーザが劣化を検知し易く、映像Bは動き量が少ないためにユーザが劣化を検知しにくい、といった現象を考慮することはできない。
【0008】
また、特許文献8に開示された方法では、映像の動き量をあらかじめ算出しておくことを前提としており、具体的にはメディア信号を利用してTI(Temporal Information)値を算出し、算出した値に基づき品質推定するようにしているため、リアルタイムに品質推定する用途に適していないという問題点があった。つまり、特許文献8に開示された方法では、映像の動き量があらかじめ分かっている場合のみ、映像の動き量がユーザ体感品質に与える影響を考慮することができる。
以上のように、従来の方法では、映像品質の映像コンテンツ依存性を考慮することができず、映像品質の推定精度が著しく低下する。
【0009】
本発明は、上記課題を解決するためになされたもので、その目的とするところは、予め映像の動き量が分かっていない場合であっても、映像コンテンツ依存性を考慮した映像品質を軽い演算処理量で推定することができる映像品質推定方法、装置およびプログラムを提供することにある。
【課題を解決するための手段】
【0010】
本発明の映像品質推定方法は、品質推定したい評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手順と、このIフレーム情報量導出手順で得られたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手順と、この差分Iフレーム情報量算出手順で得られた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手順と、前記評価映像の無効フレームの量を求める無効フレーム推定手順と、前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手順とを備えることを特徴とするものである。
また、本発明の映像品質推定方法の1構成例において、前記損失変化指標導出手順は、前記評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて、前記損失変化指標を算出することを特徴とするものである。
また、本発明の映像品質推定方法の1構成例は、さらに、前記評価映像の符号化レートから符号化品質を推定する符号化品質推定手順を備え、前記映像品質推定手順は、前記無効フレームの量と前記損失変化指標と前記符号化品質に基づいて、前記評価映像の品質を推定することを特徴とするものである。
また、本発明の映像品質推定方法の1構成例において、前記Iフレーム情報量導出手順と差分Iフレーム情報量算出手順と損失変化指標導出手順と無効フレーム推定手順と映像品質推定手順とは、所定の品質推定区間を区切った小区間ごとに前記評価映像の品質を推定し、前記映像品質推定手順は、さらに前記小区間ごとの映像品質に基づいて前記品質推定区間の映像品質を求める手順を含むことを特徴とするものである。
【0011】
また、本発明の映像品質推定装置は、品質推定したい評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手段と、このIフレーム情報量導出手段が求めたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手段と、この差分Iフレーム情報量算出手段が求めた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手段と、前記評価映像の無効フレームの量を求める無効フレーム推定手段と、前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手段とを備えることを特徴とするものである。
また、本発明の映像品質推定装置の1構成例において、前記損失変化指標導出手段は、前記評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて、前記損失変化指標を算出することを特徴とするものである。
また、本発明の映像品質推定装置の1構成例は、さらに、前記評価映像の符号化レートから符号化品質を推定する符号化品質推定手段を備え、前記映像品質推定手段は、前記無効フレームの量と前記損失変化指標と前記符号化品質に基づいて、前記評価映像の品質を推定することを特徴とするものである。
また、本発明の映像品質推定装置の1構成例において、前記Iフレーム情報量導出手段と差分Iフレーム情報量算出手段と損失変化指標導出手段と無効フレーム推定手段と映像品質推定手段とは、所定の品質推定区間を区切った小区間ごとに前記評価映像の品質を推定し、前記映像品質推定手段は、さらに前記小区間ごとの映像品質に基づいて前記品質推定区間の映像品質を求める手段を含むことを特徴とするものである。
【0012】
また、本発明は、評価映像の品質を推定する映像品質推定装置としてコンピュータを動作させる映像品質推定プログラムにおいて、評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手順と、このIフレーム情報量導出手順で得られたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手順と、この差分Iフレーム情報量算出手順で得られた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手順と、前記評価映像の無効フレームの量を求める無効フレーム推定手順と、前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手順とを、コンピュータに実行させることを特徴とするものである。
【発明の効果】
【0013】
本発明によれば、品質推定したい映像のIフレーム情報量と複数の基準映像のIフレーム情報量の平均値とから差分Iフレーム情報量を求め、この差分Iフレーム情報量から、無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求め、この損失変化指標を映像品質の推定に用いるようにしたので、予め映像の動き量が分かっていない場合であっても、映像コンテンツ依存性を考慮した映像品質推定を行うことができる。また、本発明では、映像メディアの画素情報を用いることなく、ネットワーク内から抽出可能なパケット内に記述されている情報から映像品質を推定することができるので、映像品質を軽い演算処理量で推定することができる。
【0014】
また、本発明では、評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて損失変化指標を算出することにより、差分Iフレーム情報量と損失変化指標との関係がコーデックとサービス種別と映像フォーマットに依存するという性質を、損失変化指標の算出に反映させることができる。
【0015】
また、本発明では、所定の品質推定区間を区切った小区間ごとに評価映像の品質を推定し、小区間ごとの映像品質に基づいて品質推定区間の映像品質を求めることにより、局所的に映像品質が著しく低下した場合にも追従することができ、局所的な低下を加味した映像品質を求めることができる。
【発明を実施するための最良の形態】
【0016】
[発明の原理]
映像品質を推定する場合、IPパケットに記述される情報から映像品質を左右するパラメータを解析し、利用できる全てのパラメータを用いて品質を推定することが望ましい。しかしながら、品質を推定する手段の演算量が膨大になるため、全てのパラメータを演算に利用することはできず、一般的には一部のパラメータから映像品質を推定するようにしている。また、IPパケット内の映像情報や音声情報に関してはしばしば暗号化されていることがあるので、直接、解析に利用できないケースが多々ある。そこで、本発明の実施の形態では、映像情報に関するペイロード情報を推定することにより、映像品質を推定する方法を提供する。
【0017】
MPEG2(Moving Picture Experts Group 2)やH.264などの映像符号化方式では、映像信号はI,B,Pフレームなどのフレームに符号化され圧縮される。Iフレームは、それだけで完結しており、Iフレームの情報だけで元のフレーム画像を復元できる。このようにIフレームでは、フレーム内圧縮のみしか行わないため、I,B,Pの3種類のフレームの中で、圧縮率は最も低い(すなわちデータ量が最も多い)。
【0018】
Pフレームは、該当フレームの画像とその直前のIフレームやPフレームの画像との差分情報である。Pフレームをデコードするためには、直前のIフレームやPフレームの情報が必要となる。Pフレームは、Iフレームに比べると、圧縮率が高くなる(すなわちデータ量は削減される)。
Bフレームは、前のフレームだけでなく後のフレームとの差分も使って圧縮されたものである。Bフレームをデコードするためには、前後のIフレーム、Pフレームの情報が必要となる。Bフレームは、Pフレームよりもさらに圧縮率が高くなる(すなわちI,B,Pの3種類の中で最もデータ量が少ない)。
【0019】
MPEG2やH.264などの映像符号化方式では、上記I,B,Pの各フレームが独立してではなく、GOP(Group of Picture)という固まり単位で圧縮、伸長が行われる。例えば、MPEG2の場合、GOPは、IBBPBBPBBPBBPBB、のように、15フレーム単位(0.5秒)で構成される。上のケースでは、1GOPの中に、Iフレーム1個、Pフレーム4個、Bフレーム10個が存在する。Iフレームの数は1GOPの中に必ず1個と決まっているが、Pフレーム、Bフレームの数は、映像の動き量等によって変わる。
【0020】
一般に、動き量の大きい映像ほど、Iフレームに含まれる情報量が小さいことが知られている。つまり、動き量の大きい映像に対しては、Iフレームの情報を減らし(Iフレームの精細度を落とす)、BフレームやPフレームの情報を増やし(BフレームやPフレームの精細度を上げる)、映像全体の品質を高めるように符号化される。動き量の小さい映像に対しては、その逆の処理が行われる。
本発明の実施の形態は、このような映像の動き量に応じてI,B,Pフレームの情報量が変動するという事実に基づいて、Iフレームの情報量をIPパケット内に記述されている情報から抽出し、フレーム情報を考慮して、リアルタイムな品質推定を実現する。
【0021】
具体的には、パケット損失が発生してフレームが損失し、他のフレームに劣化が伝搬した場合、映像の動き量(つまり、Iフレームの情報量)に応じて、主観評価値の変化の度合いが異なる。図1は無効フレーム数と主観評価値との関係を示す図である。図1において、m1は映像の動き量が大きいときの特性、m2は映像の動き量が小さいときの特性である。
【0022】
図1に示すように、無効フレーム数と主観評価値との関係は、映像の動き量が大きいほど無効フレーム数の増加に対する主観品質の低下が早く、動き量が小さい場合は無効フレーム数の増加に対する主観品質の低下が鈍くなるという特性がある。また、前述のように、映像の動き量とIフレームの情報量には相関がある。
【0023】
そこで、図2に模式的に示すように、無数に存在する映像の集合20の中から例えば8つの基準映像21を予め選び出す。基準映像としては、例えば動き量の大きい映像や動き量の小さい映像などのいくつかの典型的な映像をサンプルとして用意すればよい。この基準映像のIフレームの情報量(例えば、Iフレームに使われたビット数や、Iフレームを構成するIPパケットの数やTSパケットの数)を映像毎に求め、その平均値である平均Iフレーム情報量を求める。そして、品質を推定したい映像のIフレーム情報量と平均Iフレーム情報量とから、差分Iフレーム情報量(平均された基準映像の品質値とのずれ、すなわち映像コンテンツ依存性を表す量)を求め、この差分Iフレーム情報量からパケット損失変化指標を計算し、無効フレームの量とパケット損失変化指標に基づいて映像品質を推定する。
【0024】
これにより、映像メディアの画素情報を用いることなく、ネットワーク内から抽出可能なIPパケット内に記述されている情報から、映像コンテンツ依存性を考慮した映像品質を軽い演算処理量で推定することができる。
【0025】
[第1の実施の形態]
以下、図面を用いて本発明の実施の形態を説明する。図3は本発明の第1の実施の形態に係る映像品質推定装置の構成を示すブロック図、図4は図3の映像品質推定装置の動作を示すフローチャートである。
映像品質推定装置は、受信したIPパケットから品質パラメータを抽出するパケット分析部101と、パケット分析部101が求めたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出部102と、平均Iフレーム情報量を求める平均Iフレーム情報量推定部103と、パケット分析部101が求めた符号化レートから符号化品質を推定する符号化品質推定部104と、差分Iフレーム情報量算出部102が求めた差分Iフレーム情報量からパケット損失変化指標を算出するパケット損失変化指標算出部105と、無効フレームの量とパケット損失変化指標と符号化品質に基づいて映像品質を推定する映像品質推定部106と、映像のフレームの種別をフレームごとに判別するフレーム種別推定部107と、フレーム種別に基づいて無効フレームの量を求める無効フレーム推定部108と、平均Iフレーム情報量を求めるための平均Iフレーム情報量特性係数を記憶する平均Iフレーム情報量特性係数記憶部203と、符号化品質を求めるための符号化品質特性係数を記憶する符号化品質特性係数記憶部204と、パケット損失変化指標を求めるためのパケット損失変化指標特性係数を記憶するパケット損失変化指標特性係数記憶部205と、映像品質推定装置の各構成に映像品質推定を行うためのパラメータを入力する品質特性係数特定パラメータ記憶部301とを有する。
【0026】
まず、図示しない受信部は、IPネットワークからIPパケットを受信する。IPパケット内には、IPヘッダや、TS(Transport stream)、ES(Elementaly stream)などが存在する。
【0027】
次に、受信部からパケット分析部101に、受信したIPパケットを入力する。パケット分析部101は、映像品質推定を行うために映像品質推定関数に入力する品質パラメータをIPパケットから抽出し、これらの品質パラメータを差分Iフレーム情報量算出部102、平均Iフレーム情報量推定部103、符号化品質推定部104、フレーム種別推定部107、無効フレーム推定部108へ入力する(図4ステップS1)。
【0028】
本実施の形態では、品質パラメータとして、Iフレーム情報量、符号化レート、フレーム情報量、シーケンス番号を用いている。
Iフレーム情報量については、Iフレーム情報量の増加とともに映像の動き量が少なくなり、逆にIフレーム情報量が低下すると映像の動き量が多くなる特性を有することを利用する。
【0029】
品質パラメータとしては、本実施の形態で用いたものの他、IPパケット内に記述される映像フォーマット、フレーム情報(イントラリフレッシュレート、GOP、フレームタイプ)、動き補償後の誤差信号に対する情報(量子化ステップ幅、変換係数(DCT係数/整数変換係数/ウエーブレット係数など))、パケット損失情報(パケット損失率、パケット損失パターン、パケット遅延時間など)などを用いてもよい。
【0030】
以下に、本実施の形態において、具体的にどのように各品質パラメータを抽出し、差分Iフレーム情報量算出部102、平均Iフレーム情報量推定部103、符号化品質推定部104、フレーム種別推定部107、無効フレーム推定部108へ入力するかを説明する。
【0031】
[Iフレーム情報量の導出]
パケット分析部101は、IPパケット内に含まれる、Iフレームを構成するTSパケットをカウントし、Iフレームの情報量Iqを次式のように単位フレームあたりの情報量として計算し、計算したIフレーム情報量Iqを差分Iフレーム情報量算出部102に入力する(ステップS1)。
【0032】
【数1】
【0033】
式(1)において、Fは所望の品質推定区間(例えば10秒)に存在するIフレーム数、fは所望の品質推定区間(例えば10秒)に存在するIフレームの番号、ifはIフレームの番号fに対応したIフレームのTSパケット数である。
【0034】
ここで、どのフレームがIフレームであるかを判別する手法は、文献「牛木一成,富永聡子,林孝典,“TSヘッダ情報を用いた映像フレーム種別推定法の有効性検証”,信学技報,vol.107,no.312,CQ2007−74,p.15−19」に記載されている。以下、この判別手法について説明する。
【0035】
図5はフレームの切れ目を説明するための図であり、50はRTP(Real-time Transport Protocol)ヘッダ内のマーカービット(Marker bit)か、あるいはTSヘッダ内のペイロードユニットスタートインジケータ(Payload unit start indicator)のフラグが立っているパケット、51はマーカービットおよびペイロードユニットスタートインジケータのフラグが立っていないパケットである。
【0036】
図5に示すように、IPパケット内にあるマーカービットもしくはペイロードユニットスタートインジケータは、フレームの切れ目を示すフラグである。パケット分析部101は、このフラグを利用して、どのパケットからどのパケットまでが1フレームを構成するかを判断することができる。次に、パケット分析部101は、フラグが立っているパケット50から次のフラグが立っているパケット50までの間のパケット数、すなわちフレームあたりのパケット数をカウントする(例えば、1フレーム目は500パケット、2フレーム目は50パケットなど)。
【0037】
一般に、映像フレーム内にある情報量は、I,P,Bフレームの順に多いことが知られている。パケット分析部101は、この特徴を利用して、パケット数からフレーム種別を判別する。例えば、GOP(M=3、N=15)で構成されるフレーム構造(MはI,Pフレームの間隔、NはIフレームの間隔)の場合は、15フレームに1つIフレームがあるので、15フレームの中で一番パケット数が多いものをIフレームとする。また、GOP長が可変である場合は、17フレームの中から2つパケット数の多いものを抽出し、これらをIフレームとすればよい。以上のような手法により、パケット分析部101は、Iフレームを判別することができる。
【0038】
なお、本実施の形態では、Iフレーム情報量をTSパケットに基づき算出しているが、Iフレーム情報量として、Iフレームを構成するビットレートやIPパケット数などを用いてもよい。
【0039】
[符号化レートの導出]
パケット分析部101は、IPパケット内に含まれる、映像符号化に必要とされた符号量(つまり、ビット数)をカウントして、その符号化レート(ビットレート)を求め、符号化レートの情報を平均Iフレーム情報量推定部103と符号化品質推定部104に入力する(ステップS1)。ただし、符号量ではなく、他のビット量と相関の高い、映像を構成するパケット数などのパラメータをカウントして、このパケット数を符号化レートを表す情報として用いてもよい。
【0040】
[フレーム情報量の導出]
パケット分析部101は、フレーム情報量をフレームごとにカウントしてフレーム種別推定部107に入力する(ステップS1)。フレーム情報量は、図5で説明したとおりマーカービットやペイロードユニットスタートインジケータに基づき、フレームあたりのビット数やフレームあたりのTSパケット数などをカウントすることによって求めることができる。
【0041】
[シーケンス番号]
パケット分析部101は、RTPヘッダ内のシーケンス番号やTCP(Transmission Control Protocol)ヘッダ内のシーケンス番号などのパケットの順番を示す値を無効フレーム推定部108に入力する(ステップS1)。
【0042】
次に、品質特性係数特定パラメータ記憶部301は、予め定められた品質特性係数特定パラメータを平均Iフレーム情報量推定部103、符号化品質推定部104、パケット損失変化指標算出部105、フレーム種別推定部107、平均Iフレーム情報量特性係数記憶部203、符号化品質特性係数記憶部204、パケット損失変化指標特性係数記憶部205に入力する(図4ステップS2)。
【0043】
品質特性係数特定パラメータとしては、コーデック(CODEC)を示す情報、映像フォーマットを示す情報、映像通信種別を表す情報、表示解像度を示す情報、符号化品質特性係数(映像フォーマットごとおよび符号化レートごとの符号化品質の値)、平均Iフレーム情報量特性係数(映像フォーマットごとおよび符号化レートごとの平均Iフレーム情報量、あるいは平均Iフレーム情報量を算出する関数の係数)、パケット損失変化指標特性係数(パケット損失変化指標を算出する関数の係数)などがある。なお、品質推定したい評価映像のコーデックと映像フォーマットと映像通信種別(サービス種別)とを示す情報は、外部から入力され、品質特性係数特定パラメータ記憶部301に記憶される。
【0044】
品質特性係数特定パラメータ記憶部301は、コーデックを示す情報、映像フォーマットを示す情報、映像通信種別を表す情報、および表示解像度を示す情報を平均Iフレーム情報量推定部103、符号化品質推定部104、パケット損失変化指標算出部105、フレーム種別推定部107に入力する。また、品質特性係数特定パラメータ記憶部301は、平均Iフレーム情報量特性係数を平均Iフレーム情報量特性係数記憶部203に入力し、符号化品質特性係数を符号化品質特性係数記憶部204に入力し、パケット損失変化指標特性係数をパケット損失変化指標特性係数記憶部205に入力する。
【0045】
コーデックとしては、例えばH.264、H.263、H.261、MPEG2、MPEG4などがある。映像フォーマットとしては、例えばHD(High Definition)、SD(Standard Definition)、VGA(Video Graphics Array)、QCIF(Quarter Common Intermediate Format)などがある。映像通信種別としては、例えばIPTV、TV電話、VoD(Video On Demand)などがある。
【0046】
次に、平均Iフレーム情報量推定部103は、ステップS1で抽出された符号化レートから複数の基準映像のIフレーム情報量の平均値Iaveを導出し、導出した平均Iフレーム情報量Iaveを差分Iフレーム情報量算出部102に入力する(図4ステップS3)。具体的には、平均Iフレーム情報量推定部103は、平均Iフレーム情報量特性係数記憶部203に保持された図6のような平均Iフレーム情報量データベース2030を参照し、ステップS1で抽出された符号化レート(ビットレート)とコーデックと映像フォーマットと映像通信種別に対応した平均Iフレーム情報量Iaveの値を取得すればよい。
【0047】
なお、図6の例では、複数のコーデック、複数の映像フォーマットおよび複数の映像通信種別に対応する平均Iフレーム情報量データベースの例が記載されているが、実際に符号化品質を推定するのは、既知の1種類のコーデック、1種類の映像フォーマットおよび1種類の映像通信種別に対してなので、品質特性係数特定パラメータ記憶部301から平均Iフレーム情報量特性係数記憶部203に入力される平均Iフレーム情報量データベースは、1種類のコーデック、1種類の映像フォーマットおよび1種類の映像通信種別に関するものでもよい。
【0048】
また、平均Iフレーム情報量推定部103は、符号化レートと平均Iフレーム情報量との関係が数式化された所定の式に、ステップS1で抽出された符号化レートの値を代入して、平均Iフレーム情報量Iaveを算出するようにしてもよい(ステップS3)。図7に示すように、ビットレートの増加と共に平均Iフレーム情報量は増加する。このビットレートと平均Iフレーム情報量Iaveとの関係は、コーデックなどに依存する。そこで、平均Iフレーム情報量Iaveを算出する関数のみを予め一般化し、関数の係数を品質特性係数特定パラメータ記憶部301から平均Iフレーム情報量特性係数記憶部203の関数係数データベース2031に保存する。
【0049】
平均Iフレーム情報量推定部103は、平均Iフレーム情報量特性係数記憶部203に保持された図8のような関数係数データベース2031を参照して、コーデックと映像フォーマットと映像通信種別に対応した関数の係数t1,t2,t3を取得し、以下のような式を用いて平均Iフレーム情報量Iaveを算出する。
Iave=t1+t2・exp(−BR/t3) ・・・(2)
【0050】
式(2)において、BRはステップS1で抽出された符号化レート(ビットレート)である。関数の係数t1,t2,t3をコーデックなどに応じて切り替えることで、コーデックなどに依存する、ビットレートと平均Iフレーム情報量との関係を加味できることになる。
【0051】
差分Iフレーム情報量算出部102は、パケット分析部101から入力されたIフレーム情報量Iqと平均Iフレーム情報量推定部103から入力された平均Iフレーム情報量Iaveから、次式のように差分Iフレーム情報量ΔIを算出し、この差分Iフレーム情報量ΔIをパケット損失変化指標算出部105に入力する(図4ステップS4)。
ΔI=Iq−Iave ・・・(3)
【0052】
次に、パケット損失変化指標算出部105は、図9に示すように差分Iフレーム情報量ΔIが増加するとパケット損失変化指標Dが増加する関係があることを利用し、パケット損失変化指標Dを算出して映像品質推定部106に入力する(図4ステップS5)。ここで、パケット損失変化指標とは、パケット損失が発生したときに、損失したフレームの量に基づき映像品質が低下する程度を表す量である。
【0053】
差分Iフレーム情報量ΔIとパケット損失変化指標Dとの関係は、コーデックなどに依存する。そこで、パケット損失変化指標Dを算出する関数のみを予め一般化し、関数の係数を品質特性係数特定パラメータ記憶部301からパケット損失変化指標特性係数記憶部205の関数係数データベース2050に保存する。
【0054】
パケット損失変化指標算出部105は、パケット損失変化指標特性係数記憶部205に保持された図10のような関数係数データベース2050を参照して、コーデックと映像フォーマットと映像通信種別に対応した関数の係数a,bを取得し、以下のような式を用いてパケット損失変化指標Dを算出する。
D=a+bΔI ・・・(4)
【0055】
関数の係数a,bをコーデックなどに応じて切り替えることで、コーデックなどに依存する、差分Iフレーム情報量ΔIとパケット損失変化指標Dとの関係を加味できることになる。
【0056】
次に、符号化品質推定部104は、ステップS1で抽出された符号化レートから符号化直後の符号化品質を推定し、この符号化品質を表す情報を映像品質推定部106に入力する(図4ステップS6)。具体的には、符号化品質推定部104は、符号化品質特性係数記憶部204に保持された図11のような品質データベース2040を参照し、ステップS1で抽出された符号化レート(ビットレート)とコーデックと映像フォーマットと映像通信種別に対応した符号化品質の値を品質データベース2040から取得すればよい。
【0057】
なお、図11の例では、複数のコーデック、複数の映像フォーマットおよび複数の映像通信種別に対応する品質データベースの例が記載されているが、実際に符号化品質を推定するのは、既知の1種類のコーデック、1種類の映像フォーマットおよび1種類の映像通信種別に対してなので、品質特性係数特定パラメータ記憶部301から符号化品質特性係数記憶部204に入力される品質データベースは、1種類のコーデック、1種類の映像フォーマットおよび1種類の映像通信種別に関するものでもよい。
【0058】
また、符号化品質推定部104は、符号化レートと符号化品質との関係が数式化された所定の式に、ステップS1で抽出された符号化レートの値を代入して、符号化品質の値を求めるようにしてもよい(ステップS6)。
【0059】
次に、フレーム種別推定部107は、IPパケット内に記述される情報からフレーム種別を読み込み、フレームごとにフレーム種別を表す情報を無効フレーム推定部108に入力する(図4ステップS7)。ただし、メディア情報が著作権保護の観点から暗号化されている場合、フレーム種別推定部107は、パケット分析部101から入力されたフレーム情報量から、フレーム種別を判別する必要がある。
【0060】
Iフレームを判別する手法については、上記で説明したとおりである。次に、IPパケット内に含まれる、複数のフレームのうち、判別したIフレームを除いたものの中からPフレーム、Bフレームを判別する手法を説明する。フレーム種別推定部107は、事前に定められた閾値を利用し、フレーム情報量が閾値より大きいか小さいかで、フレームの種別を判別する。例えばフレーム情報量としてパケット数を用いる場合、フレーム種別推定部107は、パケット数閾値よりもフレームあたりのパケット数が多いものをPフレーム、パケット数閾値よりもフレームあたりのパケット数が少ないものをBフレームとする。この閾値は、事前に数種類の映像ストリームを作成し、映像ストリームからPフレームとBフレームを構成する平均的なパケット数を求め、このパケット数を基に決定すればよい。
【0061】
無効フレーム推定部108は、パケット分析部101から入力されたシーケンス番号とフレーム種別推定部107から入力されたフレーム種別に基づき、無効フレームの量IFを導出し、無効フレームの量IFを表す情報を映像品質推定部106に入力する(図4ステップS8)。ここで、無効フレームとは、パケット損失が発生したときに損失したフレーム、および損失したフレームを参照しているために劣化が伝搬したフレームのことを言う。例えば、損失したフレームの数が2で、損失したフレームを参照しているために劣化が伝搬したフレームの数が10であれば、無効フレーム数は12となる。
【0062】
具体的には、図12に示すように、パケット損失が発生したフレームに応じて、劣化の伝搬が異なり、結果として、ユーザが知覚する劣化範囲が異なる。なお、図12の例は、GOP(M=3、N=15)の場合を示している。図12のIlossで示すようにIフレームにパケット損失が発生すると、次のIフレームまでの区間、劣化が伝搬する。図12の200は、このときの劣化伝搬範囲を示す。図12の例では、劣化が17フレーム存在したように知覚される。
【0063】
図12のPlossで示すようにPフレームにパケット損失が発生すると、次のIフレームまでの区間、劣化が伝搬する。図12の201は、このときの劣化伝搬範囲を示す。図12の例では、劣化が11フレーム存在したように知覚される。
一方、図12のBlossに示すように、Bフレームにパケット損失が発生しても、ユーザが知覚する劣化範囲は当該Bフレームのみとなり、他のフレームに劣化が伝搬することはない。無効フレーム推定部108は、この図12で説明したような現象を利用して、無効フレームの量をカウントすればよい。
【0064】
なお、無効フレームの量IFを、特定区間(例えば、品質測定区間300フレームなど)内のフレームがどの程度の割合で損失しているかを示す無効フレーム率で表現してもよい。例えば、300フレームのうち損失したフレームと劣化が伝搬したフレームとの総数が30であれば、無効フレーム率は10%となる。
【0065】
最後に、映像品質推定部106は、ステップS5でパケット損失変化指標算出部105が求めたパケット損失変化指標Dと、ステップS6で符号化品質推定部104が求めた符号化品質Vcと、ステップS8で無効フレーム推定部108が求めた無効フレームの量IFから、次式により映像品質Vを推定する(図4ステップS9)
V=1+(Vc−1)・exp(−IF/D) ・・・(5)
【0066】
なお、映像品質推定部106は、パケット損失変化指標Dと符号化品質Vcと無効フレームの量IFと映像品質Vとを予め対応付けた品質データベースを保持し、このデータベースにアクセスすることで、映像品質Vを導き出すようにしてもよい。
【0067】
本実施の形態によれば、映像品質に関するパラメータにより、映像通信サービスの映像品質値を推定することが可能となるため、サービスを利用するユーザに対してある一定以上の品質を保っているかどうかを容易に判断することができる。これにより、上記サービスで用いる品質パラメータの設計や、提供中のサービスの品質実態を把握・管理することが可能となる。
【0068】
そして、本実施の形態では、映像の動き量が大きくなるほど、Iフレームの情報がBフレームやPフレームに配分されるため、Iフレームに含まれる情報量が相対的に少なくなるという特徴を利用し、品質推定したい映像のIフレーム情報量と複数の基準映像のIフレーム情報量の平均値とから差分Iフレーム情報量(映像コンテンツ依存性を表す量)を求め、この差分Iフレーム情報量から、無効フレームの量と映像品質低下の程度との関係を表すパケット損失変化指標を求め、このパケット損失変化指標を映像品質の推定に用いるようにしたので、映像コンテンツ依存性を考慮した映像品質推定を行うことができる。また、本実施の形態では、映像メディアの画素情報を用いることなく、ネットワーク内から抽出可能なIPパケット内に記述されている情報から映像品質を推定することができるので、映像品質を軽い演算処理量で推定することができる。
【0069】
[第2の実施の形態]
次に、本発明の第2の実施の形態について説明する。本実施の形態においても、映像品質推定装置の構成は第1の実施の形態と同様であるので、図3の符号を用いて説明する。図13は本実施の形態の映像品質推定装置の動作を示すフローチャートである。
【0070】
本実施の形態では、所望のある区間の品質を推定する場合(例えば、10秒間の品質を推定する場合)、この所望の品質推定区間を例えばGOP単位や1秒間などの小区間に区切り、小区間ごとの映像品質を推定し、これら小区間ごとの映像品質から所望の品質推定区間の映像品質を推定する。例えば、品質推定区間を10秒間とし、小区間をGOP単位とする。GOP単位の映像品質は、第1の実施の形態の方法を用いて推定することができる。つまり、図13のステップS1〜S9の処理は、第1の実施の形態と同様である。第1の実施の形態と異なる点は、第1の実施の形態ではステップS1〜S9の処理が品質推定区間の単位で行われていたのに対し、本実施の形態ではステップS1〜S9の処理が10秒間の品質推定区間ではなく、品質推定区間を区切るGOPごとに行われることである。
【0071】
次に、本実施の形態の映像品質推定部106は、品質推定区間内のGOPごとに推定した映像品質を次式のように平均し、品質推定区間の映像品質Vを得る(図13ステップS10)。
【0072】
【数2】
【0073】
ここで、Gは品質推定区間内のGOP数、gはGOPの番号、Vgは各GOPの映像品質を示す。
本実施の形態によれば、局所的に映像品質が著しく低下した場合にも追従することができ、局所的な低下を加味した映像品質を求めることができる。また、上記の例では、GOP単位の映像品質の平均により品質推定区間の映像品質を推定したが、各GOP単位の映像品質の重み付け平均をとって品質推定区間の映像品質を推定したり、各GOP単位の映像品質のうち最低値を品質推定区間の映像品質としたりすることも有効である。
【0074】
なお、第1、第2の実施の形態の映像品質推定装置は、CPU、記憶装置および外部とのインタフェースを備えたコンピュータとこれらのハードウェア資源を制御するプログラムによって実現することができる。このようなコンピュータにおいて、本発明の映像品質推定方法を実現させるための映像品質推定プログラムは、フレキシブルディスク、CD−ROM、DVD−ROM、メモリカードなどの記録媒体に記録された状態で提供される。CPUは、記録媒体から読み込んだプログラムを記憶装置に書き込み、プログラムに従って第1、第2の実施の形態で説明したような処理を実行する。
【産業上の利用可能性】
【0075】
本発明は、IPTVサービス、映像配信サービス、映像コミュニケーションサービスなどの映像通信の品質を推定する技術に適用することができる。
【図面の簡単な説明】
【0076】
【図1】無効フレーム数と主観評価値との関係を示す図である。
【図2】予め用意する基準映像について説明するための図である。
【図3】本発明の第1の実施の形態に係る映像品質推定装置の構成を示すブロック図である。
【図4】本発明の第1の実施の形態に係る映像品質推定装置の動作を示すフローチャートである。
【図5】フレームの切れ目を説明するための図である。
【図6】本発明の第1の実施の形態における平均Iフレーム情報量特性係数記憶部の平均Iフレーム情報量データベースの例を示す図である。
【図7】ビットレートと平均Iフレーム情報量との関係を示す図である。
【図8】本発明の第1の実施の形態における平均Iフレーム情報量特性係数記憶部の関数係数データベースの例を示す図である。
【図9】差分Iフレーム情報量とパケット損失変化指標との関係を示す図である。
【図10】本発明の第1の実施の形態におけるパケット損失変化指標特性係数記憶部の関数係数データベースの例を示す図である。
【図11】本発明の第1の実施の形態における符号化品質特性係数記憶部の品質データベースの例を示す図である。
【図12】無効フレームの概念を示す図である。
【図13】本発明の第2の実施の形態に係る映像品質推定装置の動作を示すフローチャートである。
【符号の説明】
【0077】
101…パケット分析部、102…差分Iフレーム情報量算出部、103…平均Iフレーム情報量推定部、104…符号化品質推定部、105…パケット損失変化指標算出部、106…映像品質推定部、107…フレーム種別推定部、108…無効フレーム推定部、203…平均Iフレーム情報量特性係数記憶部、204…符号化品質特性係数記憶部、205…パケット損失変化指標特性係数記憶部、301…品質特性係数特定パラメータ記憶部。
【特許請求の範囲】
【請求項1】
品質推定したい評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手順と、
このIフレーム情報量導出手順で得られたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手順と、
この差分Iフレーム情報量算出手順で得られた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手順と、
前記評価映像の無効フレームの量を求める無効フレーム推定手順と、
前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手順とを備えることを特徴とする映像品質推定方法。
【請求項2】
請求項1記載の映像品質推定方法において、
前記損失変化指標導出手順は、前記評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて、前記損失変化指標を算出することを特徴とする映像品質推定方法。
【請求項3】
請求項1または2項に記載の映像品質推定方法において、
さらに、前記評価映像の符号化レートから符号化品質を推定する符号化品質推定手順を備え、
前記映像品質推定手順は、前記無効フレームの量と前記損失変化指標と前記符号化品質に基づいて、前記評価映像の品質を推定することを特徴とする映像品質推定方法。
【請求項4】
請求項1乃至3のいずれか1項に記載の映像品質推定方法において、
前記Iフレーム情報量導出手順と差分Iフレーム情報量算出手順と損失変化指標導出手順と無効フレーム推定手順と映像品質推定手順とは、所定の品質推定区間を区切った小区間ごとに前記評価映像の品質を推定し、
前記映像品質推定手順は、さらに前記小区間ごとの映像品質に基づいて前記品質推定区間の映像品質を求める手順を含むことを特徴とする映像品質推定方法。
【請求項5】
品質推定したい評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手段と、
このIフレーム情報量導出手段が求めたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手段と、
この差分Iフレーム情報量算出手段が求めた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手段と、
前記評価映像の無効フレームの量を求める無効フレーム推定手段と、
前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手段とを備えることを特徴とする映像品質推定装置。
【請求項6】
請求項5記載の映像品質推定装置において、
前記損失変化指標導出手段は、前記評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて、前記損失変化指標を算出することを特徴とする映像品質推定装置。
【請求項7】
請求項5または6記載の映像品質推定装置において、
さらに、前記評価映像の符号化レートから符号化品質を推定する符号化品質推定手段を備え、
前記映像品質推定手段は、前記無効フレームの量と前記損失変化指標と前記符号化品質に基づいて、前記評価映像の品質を推定することを特徴とする映像品質推定装置。
【請求項8】
請求項5乃至7のいずれか1項に記載の映像品質推定装置において、
前記Iフレーム情報量導出手段と差分Iフレーム情報量算出手段と損失変化指標導出手段と無効フレーム推定手段と映像品質推定手段とは、所定の品質推定区間を区切った小区間ごとに前記評価映像の品質を推定し、
前記映像品質推定手段は、さらに前記小区間ごとの映像品質に基づいて前記品質推定区間の映像品質を求める手段を含むことを特徴とする映像品質推定装置。
【請求項9】
評価映像の品質を推定する映像品質推定装置としてコンピュータを動作させる映像品質推定プログラムにおいて、
評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手順と、
このIフレーム情報量導出手順で得られたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手順と、
この差分Iフレーム情報量算出手順で得られた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手順と、
前記評価映像の無効フレームの量を求める無効フレーム推定手順と、
前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手順とを、コンピュータに実行させることを特徴とする映像品質推定プログラム。
【請求項1】
品質推定したい評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手順と、
このIフレーム情報量導出手順で得られたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手順と、
この差分Iフレーム情報量算出手順で得られた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手順と、
前記評価映像の無効フレームの量を求める無効フレーム推定手順と、
前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手順とを備えることを特徴とする映像品質推定方法。
【請求項2】
請求項1記載の映像品質推定方法において、
前記損失変化指標導出手順は、前記評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて、前記損失変化指標を算出することを特徴とする映像品質推定方法。
【請求項3】
請求項1または2項に記載の映像品質推定方法において、
さらに、前記評価映像の符号化レートから符号化品質を推定する符号化品質推定手順を備え、
前記映像品質推定手順は、前記無効フレームの量と前記損失変化指標と前記符号化品質に基づいて、前記評価映像の品質を推定することを特徴とする映像品質推定方法。
【請求項4】
請求項1乃至3のいずれか1項に記載の映像品質推定方法において、
前記Iフレーム情報量導出手順と差分Iフレーム情報量算出手順と損失変化指標導出手順と無効フレーム推定手順と映像品質推定手順とは、所定の品質推定区間を区切った小区間ごとに前記評価映像の品質を推定し、
前記映像品質推定手順は、さらに前記小区間ごとの映像品質に基づいて前記品質推定区間の映像品質を求める手順を含むことを特徴とする映像品質推定方法。
【請求項5】
品質推定したい評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手段と、
このIフレーム情報量導出手段が求めたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手段と、
この差分Iフレーム情報量算出手段が求めた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手段と、
前記評価映像の無効フレームの量を求める無効フレーム推定手段と、
前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手段とを備えることを特徴とする映像品質推定装置。
【請求項6】
請求項5記載の映像品質推定装置において、
前記損失変化指標導出手段は、前記評価映像の符号化に使用されるコーデックの種類とサービス種別と映像フォーマットに応じて決定される関数を用いて、前記損失変化指標を算出することを特徴とする映像品質推定装置。
【請求項7】
請求項5または6記載の映像品質推定装置において、
さらに、前記評価映像の符号化レートから符号化品質を推定する符号化品質推定手段を備え、
前記映像品質推定手段は、前記無効フレームの量と前記損失変化指標と前記符号化品質に基づいて、前記評価映像の品質を推定することを特徴とする映像品質推定装置。
【請求項8】
請求項5乃至7のいずれか1項に記載の映像品質推定装置において、
前記Iフレーム情報量導出手段と差分Iフレーム情報量算出手段と損失変化指標導出手段と無効フレーム推定手段と映像品質推定手段とは、所定の品質推定区間を区切った小区間ごとに前記評価映像の品質を推定し、
前記映像品質推定手段は、さらに前記小区間ごとの映像品質に基づいて前記品質推定区間の映像品質を求める手段を含むことを特徴とする映像品質推定装置。
【請求項9】
評価映像の品質を推定する映像品質推定装置としてコンピュータを動作させる映像品質推定プログラムにおいて、
評価映像のIフレームに含まれる情報量を導出するIフレーム情報量導出手順と、
このIフレーム情報量導出手順で得られたIフレーム情報量と、複数の基準映像のIフレームに含まれる情報量の平均値である平均Iフレーム情報量との差を求める差分Iフレーム情報量算出手順と、
この差分Iフレーム情報量算出手順で得られた差分Iフレーム情報量から、評価映像フレームのうち損失によって劣化したフレームおよびその劣化が伝搬したフレームである無効フレームの量と映像品質低下の程度との関係を表す損失変化指標を求める損失変化指標導出手順と、
前記評価映像の無効フレームの量を求める無効フレーム推定手順と、
前記無効フレームの量と前記損失変化指標に基づいて、前記評価映像の品質を推定する映像品質推定手順とを、コンピュータに実行させることを特徴とする映像品質推定プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2009−273010(P2009−273010A)
【公開日】平成21年11月19日(2009.11.19)
【国際特許分類】
【出願番号】特願2008−123356(P2008−123356)
【出願日】平成20年5月9日(2008.5.9)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】
【公開日】平成21年11月19日(2009.11.19)
【国際特許分類】
【出願日】平成20年5月9日(2008.5.9)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】
[ Back to top ]