説明

画像復号装置、画像復号方法及び画像復号プログラム

【課題】動き補償予測を使用する際の符号化効率を向上させる。
【解決手段】加算部604は、動き情報復号部606により復号された復号対象ブロックの動き情報をもとに生成される予測信号と、予測差分情報復号部602により復号された復号対象ブロックの予測誤差信号を加算して復号対象ブロックの画像信号を再生する。動き情報復号部606は、復号対象ブロックの動き情報から復号対象ブロックの動きベクトルと参照ブロックの動きベクトルとの差分ベクトルを復号して参照ブロックの動きベクトルを修正し、復号対象ブロックの動きベクトルを生成する。動き情報復号部606は、参照ブロックの動き情報から取得される予測種別が単予測の場合、双予測の動きベクトルを生成するために、単予測の動きベクトルを第1予測の動きベクトルとし、第1予測の動きベクトルを整数倍することにより第2予測の動きベクトルを生成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動き補償予測を用いた動画像復号技術に関し、特に動き補償予測に利用する画像復号装置、画像復号方法及び画像復号プログラムに関する。
【背景技術】
【0002】
MPEG−4 AVC/H.264(以後、AVC)等に代表される動画像符号化では、時間方向の相関を利用した情報圧縮として、符号化対象となる画像信号である符号化対象ピクチャに対して、既に符号化され復号された局部復号信号を参照ピクチャとして用い、所定の符号化処理単位で、対象ピクチャと参照ピクチャとの間での動き量(以後、動きベクトル)を検出し、予測信号を生成する動き補償予測が用いられる。
【0003】
AVCでは、動き補償予測において1つの参照ピクチャから1本の動きベクトルを利用して単一の予測信号を生成する単予測と、2つの参照ピクチャから2本の動きベクトルを利用して2つの予測信号を生成する双予測が用いられる。これらを所定の符号化処理単位となる16×16画素の2次元ブロック内で処理対象となっているブロック(以後、予測対象ブロック)の大きさを可変にする手法や、複数の参照ピクチャの中から予測に用いる参照ピクチャを選択する手法に適用することで、予測信号の情報量を削減している。符号化側では、予測モード情報や参照画像を指定する情報を選択して伝送し、復号側では、伝送された予測モード情報や参照画像を指定する情報に従って動き補償予測処理が施される。
【0004】
動きベクトルについては、処理対象ブロックに隣接する符号化済みのブロックの動きベクトルを予測動きベクトル(以降、予測ベクトル)とし、処理対象ブロックの動きベクトルと予測ベクトルとの差分を求め、差分ベクトルを符号化ベクトルとして伝送することで圧縮効率を向上させている。
【0005】
更に、AVCにおいては、予測対象ブロックと同一位置にある参照ピクチャのブロックの符号化に用いられた動きベクトルを利用して、符号化ベクトルを伝送することなく動き補償予測を実現するダイレクト動き補償予測が知られている。
【0006】
また、他の符号化ベクトルを伝送しない手法として、処理対象ブロックに隣接するブロックの動き情報を利用して、動き補償予測を実現する動き補償予測が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平10−276439号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
上述したダイレクト動き補償予測は、予測対象ブロックと同一位置にある参照ピクチャのブロックにおける時間方向の動きの連続性に着目し、上述した符号化ベクトルを伝送しない動き補償予測は、予測対象ブロックと予測対象ブロックに隣接する符号化済ブロックにおける空間方向の動きの連続性に着目することで、他のブロックの動き情報をそのまま利用する。これにより、差分ベクトルを符号化ベクトルとして符号化せずに符号化効率を向上させている。
【0009】
しかしながら、動きの連続性が十分保たれていない場合や、他ブロックの動き情報における動きベクトルが正確な動きを示していない場合などに、他のブロックの動き情報をそのまま利用する方式を用いた際には、ずれの生じた動き情報を用いた予測画像が生成される。その場合、精度良い動き補償予測画像を生成できず、符号化効率が向上しないという難しい面がある。
【0010】
また、差分動きベクトルを符号化せずに動き補償を行わない場合には、差分動きベクトルを符号化する従来の動き補償予測が用いられるが、従来の動き補償予測を行う際には、予測モード情報や参照画像の指定情報、更に指定された参照画像に対して用いられる動きベクトルを予測ベクトルとの差分ベクトルとして、それぞれ符号化する必要がある。この場合、動き補償予測手法を指定する符号量が増大し、十分に符号化効率が向上しないという難しい面がある。
【0011】
本発明はこうした状況に鑑みてなされたものであり、その目的は、動き補償予測を使用する際の符号化効率を向上させる技術を提供することにある。
【課題を解決するための手段】
【0012】
上記課題を解決するために、本発明のある態様の画像復号装置は、動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化された符号列を復号する画像復号装置であって、前記符号列に多重化された予測誤差信号の符号化データと動き情報の符号化データを分離する多重分離部(601)と、前記予測誤差信号の符号化データを復号する予測誤差信号復号部(602)と、前記動き情報の符号化データを復号する動き情報復号部(606)と、前記動き情報復号部(606)により復号された復号対象ブロックの動き情報をもとに生成される予測信号と、前記予測誤差信号復号部(602)により復号された復号対象ブロックの予測誤差信号を加算して前記復号対象ブロックの画像信号を再生する加算部(604)とを備える。前記復号対象ブロックの動き情報には、前記復号対象ブロックに隣接する参照ブロックのインデックス、及び前記復号対象ブロックの動きベクトルと前記参照ブロックの動きベクトルとの差分ベクトルが符号化されており、前記動き情報復号部(604)は、前記差分ベクトルを復号して前記参照ブロックの動きベクトルを修正し、前記復号対象ブロックの動きベクトルを生成し、前記動き情報復号部(604)は、前記参照ブロックの動き情報から取得される予測種別が単予測の場合、双予測の動きベクトルを生成するために、前記単予測の動きベクトルを第1予測の動きベクトルとし、前記第1予測の動きベクトルを整数倍することにより第2予測の動きベクトルを生成する。
【0013】
本発明の別の態様は、画像復号方法である。この方法は、動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化された符号列を復号する画像復号方法であって、前記符号列に多重化された予測誤差信号の符号化データと動き情報の符号化データを分離する多重分離ステップと、前記予測誤差信号の符号化データを復号する予測誤差信号復号ステップと、前記動き情報の符号化データを復号する動き情報復号ステップと、前記動き情報復号ステップにより復号された復号対象ブロックの動き情報をもとに生成される予測信号と、前記予測誤差信号復号ステップにより復号された復号対象ブロックの予測誤差信号を加算して前記復号対象ブロックの画像信号を再生する加算ステップとを備える。前記復号対象ブロックの動き情報には、前記復号対象ブロックに隣接する参照ブロックのインデックス、及び前記復号対象ブロックの動きベクトルと前記参照ブロックの動きベクトルとの差分ベクトルが符号化されており、前記動き情報復号ステップは、前記差分ベクトルを復号して前記参照ブロックの動きベクトルを修正し、前記復号対象ブロックの動きベクトルを生成し、前記動き情報復号ステップは、前記参照ブロックの動き情報から取得される予測種別が単予測の場合、双予測の動きベクトルを生成するために、前記単予測の動きベクトルを第1予測の動きベクトルとし、前記第1予測の動きベクトルを整数倍することにより第2予測の動きベクトルを生成する。
【0014】
なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。
【発明の効果】
【0015】
本発明によれば、動き補償予測を使用する際の符号化効率を向上させることができる。
【図面の簡単な説明】
【0016】
【図1】本発明の実施の形態1に係る動画像符号化装置の構成を示す図である。
【図2】符号化対象画像の一例を示す図である。
【図3】予測ブロックサイズの詳細な定義を示す図である。
【図4】図4(a)〜(d)は、動き補償予測の予測種別について説明するための図である。
【図5】本発明の実施の形態1に係る動画像符号化装置における符号化処理の動作の流れ示すフローチャートである。
【図6】本発明の実施の形態1に係る動画像復号装置の構成を示す図である。
【図7】本発明の実施の形態1に係る動画像復号装置における復号処理の動作の流れを示すフローチャートである。
【図8】図8(a)、(b)は、本発明の実施の形態1における動き補償予測において使用される動き情報を符号化するための3つの予測モードを説明するための図である。
【図9】動き補償予測および動き補償予測を実施しない画面内予測における、動き補償の予測の数と、参照画像を定義する情報、及び符号化する動きベクトル数の関連に関して説明するための図である。
【図10】実施の形態1の動画像符号化装置におけるモード判定部の詳細な構成を示す図である。
【図11】予測ベクトル算出部の構成を示す図である。
【図12】結合動き情報算出部の構成を示す図である。
【図13】結合動き修正動き補償予測生成部の構成を示す図である。
【図14】図10の予測モード判定部を介して動作する、図5のステップS502である動き補償予測モード/予測信号生成の動作について説明するためのフローチャートである。
【図15】図14のステップS1400における結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。
【図16】空間結合動き情報候補リスト生成に用いる空間候補ブロック群を示す図である。
【図17】空間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。
【図18】時間結合動き情報候補リスト生成に用いる時間候補ブロック群を示す図である。
【図19】時間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。
【図20】時間結合動き情報に対する基準動きベクトル値ColMvに対する、L0予測、L1予測に対して登録する動きベクトル値mvL0t、mvL1tの算出手法を説明するための図である。
【図21】図19のステップS1401における結合予測モード評価値生成の詳細動作を説明するためのフローチャートである。
【図22】図14のステップS1402における結合動き修正予測モード評価値生成の詳細動作を説明するためのフローチャートである。
【図23】図23(a)〜(c)は、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の概念を示す図である。
【図24】各結合動き情報に対して存在するスケーリングされて生成した動きベクトル数を示す図である。
【図25】図25(a)〜(c)は、実施の形態1における差分動きベクトル伝送参照画像確定アルゴリズムを示す概念図である。
【図26】図22のステップS2203の詳細動作を説明するためのフローチャートである。
【図27】図26のステップS2601の詳細動作を説明するためのフローチャートである。
【図28】図27のステップS2702の詳細動作を説明するためのフローチャートである。
【図29】図14のステップS1403の詳細動作を説明するためのフローチャートである。
【図30】図29のステップS2901の詳細動作を説明するためのフローチャートである。
【図31】空間動き情報利用予測ベクトル候補リスト生成の詳細動作を説明するためのフローチャートである。
【図32】時間動き情報利用予測ベクトル候補リスト生成の詳細動作を説明するためのフローチャートである。
【図33】図14のステップS1404の詳細動作を説明するためのフローチャートである。
【図34】図5のステップS504の詳細動作を説明するためのフローチャートである。
【図35】実施の形態1における動き予測フラグの一例を示す図である。
【図36】図34のフローチャートで示した、動き情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す図である。
【図37】図6に示した実施の形態1の動画像復号装置における動き情報復号部の詳細な構成を示す図である。
【図38】図7のステップS701の詳細動作を説明するためのフローチャートである。
【図39】図38のステップS3802の詳細動作を説明するためのフローチャートである。
【図40】図38のステップS3807の詳細動作を説明するためのフローチャートである。
【図41】図38のステップS3811の詳細動作を説明するためのフローチャートである。
【図42】図38のステップS3810の詳細動作を説明するためのフローチャートである。
【図43】図43(a)〜(d)は、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の概念を示す図である。
【図44】実施の形態2における参照画像リストの一例を示す図である。
【図45】結合動き修正動き補償予測生成部の構成を示す図である。
【図46】結合動き修正動き補償予測生成部の構成を用いた結合動き修正予測モード評価値生成の詳細動作を説明するためのフローチャートである。
【図47】図7のステップS701の詳細動作を説明するためのフローチャートである。
【図48】図47のステップS4711の詳細動作を説明するためのフローチャートである。
【図49】CurrL0DistおよびCurrL1Distの絶対値から、除算結果を得るテーブルである。
【発明を実施するための形態】
【0017】
以下、図面とともに本発明の実施の形態に係る動画像符号化装置、動画像符号化方法、動画像符号化プログラム、並びに動画像復号装置、動画像復号方法、動画像復号プログラムの好適な実施の形態について詳細に説明する。なお、図面の説明には同一要素には同一符号を付与して重複する説明を省略する。
【0018】
(実施の形態1)
[動画像符号化装置全体構成]
図1は、本発明の実施の形態1に係る動画像符号化装置の構成を示す図である。以下、各部の動作について説明する。実施の形態1に係る動画像符号化装置は、入力端子100、減算部101、直交変換・量子化部102、予測誤差符号化部103、逆量子化・逆変換部104、加算部105、復号画像メモリ106、動きベクトル検出部107、動き補償予測部108、予測モード判定部109、動き情報符号化部110、動き情報メモリ111、多重化部112、及び出力端子113を備える。
【0019】
入力端子100より入力される画像信号から符号化処理対象の予測ブロックの画像信号が、予測ブロックの位置情報と予測ブロックサイズに基づいて切り出され、予測ブロックの画像信号は、減算部101、動きベクトル検出部107及び予測モード判定部109に供給される。
【0020】
図2は、符号化対象画像の一例を示す図である。実施の形態1に係る予測ブロックサイズに関しては、図2に示すように符号化対象画像が64×64画素の符号化ブロック(CU)単位で符号化処理され、予測ブロックは符号化ブロックが更に分割された単位で構成される。最大予測ブロックサイズは符号化ブロックと同じ64×64画素で、最小予測ブロックサイズは4×4画素である。符号化ブロックの予測ブロックへの分割構成は、非分割(2N×2N)、水平・垂直への分割(N×N)、水平方向のみへの分割(2N×N)、垂直方向のみへの分割(N×2N)が可能である。水平・垂直への分割の場合のみ、更に分割された予測ブロックを符号化ブロックとして階層的に予測ブロックに分割でき、その階層をCU分割数で表現する。
【0021】
図3は、予測ブロックサイズの詳細な定義を示す図である。CU分割数が0であって最大の予測ブロックサイズである64画素×64画素から、CU分割数が3であって最小の予測ブロックサイズである4画素×4画素までの13の予測ブロックサイズが存在することになる。
【0022】
本発明の実施の形態1に係る予測ブロックの分割構成に関して、この組み合わせに限定されない。また、動画像符号化装置における予測ブロックサイズの選択は、符号化ブロック単位で符号化効率のより良い構造を適応的に選択することが可能であるが、実施の形態1は予測ブロック単位での画面間予測及び画面間動き情報の符号化に注目したものであるため、最適な予測ブロックサイズの選択に関する構成要素及び説明を省略する。以降の動画像符号化装置の動作に関しては、選択した予測ブロックサイズ単位で施される動作を説明する。
【0023】
図1に戻り、減算部101は、入力端子100より供給される画像信号と予測モード判定部109より供給される予測信号を減算して予測誤差信号を算出し、予測誤差信号を直交変換・量子化部102に供給する。
【0024】
直交変換・量子化部102は、減算部101より供給される予測誤差信号に直交変換及び量子化を施し、量子化された予測誤差信号を予測誤差符号化部103及び逆量子化・逆変換部104に供給する。
【0025】
予測誤差符号化部103は、直交変換・量子化部102より供給される量子化された予測誤差信号をエントロピー符号化して、予測誤差信号に対する符号列を生成して、多重化部112に供給する。
【0026】
逆量子化・逆変換部104は、直交変換・量子化部102より供給される量子化された予測誤差信号に対して、逆量子化や逆直交変換などの処理を行い、復号予測誤差信号を生成し加算部105に供給する。
【0027】
加算部105は、逆量子化・逆変換部104より供給される復号予測誤差信号と、予測モード判定部109より供給される予測信号を加算して、復号画像信号を生成し、復号画像信号を復号画像メモリ116に供給する。
【0028】
復号画像メモリ106は、加算部105より供給される復号画像信号を格納する。また、画像全体の復号が完了した復号画像については参照画像として1以上の所定画像数記憶し、参照画像信号を動きベクトル検出部107と動き補償予測部108に供給する。
【0029】
動きベクトル検出部107は、入力端子100より供給される予測ブロックの画像信号と、復号画像メモリ106に記憶された参照画像信号の入力を受けて、各参照画像に対する動きベクトルを検出し、動きベクトル値を予測モード判定部109に供給する。
【0030】
一般的な動きベクトルの検出方法は、画像信号と同一位置より所定の移動量だけ移動させた参照画像に相当する画像信号について誤差評価値を算出し、誤差評価値が最小となる移動量を動きベクトルとする。誤差評価値としては、画素毎の差分絶対値の総和SAD(Sum of Absolute Difference)や、画素毎の二乗誤差値の総和SSE(Sum of Square Error)等を利用する。さらに、動きベクトルの符号化に関わる符号量も誤差評価値に含めることも可能である。
【0031】
動き補償予測部108は、予測モード判定部109より指定される参照画像指定情報と、動きベクトル値に従って、復号画像メモリ106内の参照画像指定情報で示される参照画像を、動きベクトル値だけ予測ブロックの画像信号と同一位置より移動させた位置の画像信号を取得して予測信号を生成する。
【0032】
予測モード判定部109より指定される予測モードが単予測の場合には、1つの参照画像から取得した予測信号を動き補償予測信号とし、予測モードが双予測の場合には、2つの参照画像から取得した予測信号を重みづけ平均したものを動き補償予測信号とし、動き補償予測信号を予測モード判定部109に供給する。ここでは双予測の重みづけ平均の比率を1:1とする。
【0033】
図4(a)〜(d)は、動き補償予測の予測種別について説明するための図である。単一の参照画像からの予測を行う処理を単予測と定義し、単予測の場合はL0予測の参照画像リストまたはL1予測の参照画像リストの2つの参照画像管理リストに登録された参照画像のいずれか一方を利用する。
【0034】
図4(a)は単予測であってL0予測の参照画像(RefL0Pic)が符号化対象画像(CurPic)より前の時刻にある場合を示している。図4(b)は単予測であってL0予測の参照画像が符号化対象画像より後の時刻にある場合を示している。同様に、図4(a)および図4(b)のL0予測の参照画像をL1予測の参照画像(RefL1Pic)に置き換えて単予測を行うこともできる。
【0035】
2つの参照画像からの予測を行う処理を双予測と定義し、双予測の場合はL0予測とL1予測の双方を利用してBI予測と表現する。図4(c)は双予測であってL0予測の参照画像が符号化対象画像より前の時刻にあって、L1予測の参照画像が符号化対象画像より後の時刻にある場合を示している。図4(d)は双予測であってL0予測の参照画像とL1予測の参照画像が符号化対象画像より前の時刻にある場合を示している。このように、L0/L1の予測と時間の関係は、L0が過去方向、L1が未来方向とは限定されずに用いることが可能である。
【0036】
実施の形態1では、参照画像及び符号化対象画像の時刻を示す情報としてPOC(Picture Order Count)を用いる。POCはAVCで定義された画像の表示順序を示すカウンタである。画像の表示順序が1増加するとPOCも1増加する。したがって、画像間のPOC差から画像間の時間差(距離)を取得できる。
【0037】
図1に戻り、予測モード判定部109は、動きベクトル検出部107より入力される各参照画像に対して検出された動きベクトル値と、動き情報メモリ111に格納された動き情報(予測種別、動きベクトル値、及び参照画像指定情報)をもとに、実施の形態1において定義した動き補償予測モードのそれぞれに対して用いられる、参照画像指定情報と動きベクトル値を動き補償予測部108に設定する。設定した値によって、動き補償予測部108から供給される動き補償予測信号と、入力端子100より供給される予測ブロックの画像信号を用いて、最適な動き補償予測モードを決定する。
【0038】
予測モード判定部109は、決定した予測モード、及び予測モードに応じた予測種別、動きベクトル、及び参照画像指定情報を特定する情報を、動き情報符号化部110に供給し、決定した予測モード及びその予測モードに対する、予測種別、動きベクトル値、及び参照画像指定情報を動き情報メモリ111に供給すると共に、減算部101及び加算部105に決定した予測モードに対応する予測信号を供給する。
【0039】
動画像符号化装置において、基準とする参照画像を符号化するために同一画面内の符号化済画像を用いて予測を行う画面内予測が行われるが、実施の形態1は画面間予測に注目したものであるため、画面内予測に関連する構成要素は省略する。予測モード判定部109の詳細な構成については後述する。
【0040】
動き情報符号化部110は、予測モード判定部109より供給される予測モード、及び予測モードに応じた予測の種類、動きベクトル、及び参照画像指定情報を特定する情報を所定のシンタックス構造に従って符号化することで、動き情報の符号列を生成し、多重化部112に供給する。動き情報符号化部110の詳細な構成については後述する。
【0041】
動き情報メモリ111は、予測モード判定部109より供給される動き情報(予測種別、動きベクトル、及び参照画像インデックス)を、最小予測ブロックサイズ単位を基準として所定画像分記憶する。処理対象の予測ブロックの隣接ブロックの動き情報を空間候補ブロック群とし、処理対象の予測ブロックと同一位置にあるColPic上のブロックとその周辺ブロックの動き情報を時間候補ブロック群とする。
【0042】
ColPicとは、処理対象の予測ブロックとは別の復号済みの画像であって、復号画像メモリ106に参照画像として記憶されている。実施の形態1では、ColPicは直前に復号した参照画像とする。なお、実施の形態1では、ColPicは直前に復号した参照画像としたが、表示順で直前の参照画像や表示順で直後の参照画像でもよく、符号化ストリーム中に、ColPicに用いる参照画像を直接指定することも可能である。
【0043】
動き情報メモリ111は、空間候補ブロック群と時間候補ブロック群の動き情報を、候補ブロック群の動き情報として予測モード判定部109に供給する。多重化部112は、予測誤差符号化部103から供給される予測誤差の符号化列と、動き情報符号化部110から供給される動き情報の符号化列を多重化することで符号化ビットストリームを生成し、出力端子113経由で、記録媒体・伝送路等に当該符号化ビットストリームを出力する。
【0044】
図1に示した動画像符号化装置の構成は、CPU(Central Processing Unit)、フレームメモリ、ハードディスクなどを備える情報処理装置等のハードウェアによっても実現可能である。
【0045】
図5は、本発明の実施の形態1に係る動画像符号化装置における符号化処理の動作の流れ示すフローチャートである。予測ブロック単位毎に、入力端子100より処理対象の予測ブロック画像を取得する(S500)。動きベクトル検出部107は、処理対象の予測ブロック画像と復号画像メモリ106に格納された複数の参照画像より、参照画像毎の動きベクトル値を算出する(S501)。
【0046】
続いて、予測モード判定部109は、動きベクトル検出部107より供給される動きベクトルと、動き情報メモリ111に格納された動き情報を用いて、実施の形態1において定義した動き補償予測モードのそれぞれに対する予測信号を、動き補償予測部108を用いて取得し、最適な予測モードを選択し、予測信号を生成する(S502)。ステップS502の処理の詳細については後述する。
【0047】
続いて、減算部101は、処理対象の予測ブロック画像と予測モード判定部109より供給された予測信号との差分を予測誤差信号として算出する(S503)。動き情報符号化部110は、予測モード判定部109より供給される予測モード、及び予測モードに応じた予測種別、動きベクトル、及び参照画像指定情報を特定する情報を所定のシンタックス構造に従って符号化し、動き情報の符号化データを生成する(S504)。ステップS504の処理の詳細については後述する。
【0048】
続いて、予測誤差符号化部103は、直交変換・量子化部102で生成された量子化された予測誤差信号をエントロピー符号化して、予測誤差の符号化データを生成する(S505)。多重化部112は、動き情報符号化部110から供給される動き情報の符号化データと、予測誤差符号化部103から供給される予測誤差の符号化データを多重化し、符号化ビットストリームを生成する(S506)。
【0049】
加算部105は、逆量子化・逆変換部104より供給される復号予測誤差信号と、予測モード判定部109より供給される予測信号を加算して、復号画像信号を生成する(S507)。加算部105によって、生成された復号画像信号が復号画像メモリ106に供給、格納され、以降に符号化する符号化画像の動き補償予測処理に用いられる(S508)。動き情報メモリ111は、動きベクトル検出部107より供給される動き情報(予測種別、動きベクトル、及び参照画像指定情報)を最小の予測ブロックサイズ単位で格納する(S509)。
【0050】
[動画像復号装置全体構成]
図6は、本発明の実施の形態1に係る動画像復号装置の構成を示す図である。以下、各部の動作について説明する。実施の形態1に係る動画像復号装置は、入力端子600、多重分離部601、予測差分情報復号部602、逆量子化・逆変換部603、加算部604、復号画像メモリ605、動き情報復号部606、動き情報メモリ607、動き補償予測部608、及び出力端子609を備える。
【0051】
入力端子600より符号化ビットストリームが多重分離部601に供給される。多重分離部601は、供給された符号化ビットストリームの符号列を予測誤差情報の符号化列と、予測モード、並びに予測モードに応じた予測の種類、動きベクトル、及び参照画像指定情報を特定する情報で構成される動き情報の符号化列に分離する。当該予測誤差情報の符号化列を予測差分情報復号部602に供給し、当該動き情報の符号化列を動き情報復号部606に供給する。
【0052】
予測差分情報復号部602は、多重分離部601より供給された予測誤差情報の符号化列を復号し、量子化された予測誤差信号を生成する。予測差分情報復号部602は、生成した量子化された予測誤差信号を逆量子化・逆変換部603に供給する。
【0053】
逆量子化・逆変換部603は、予測差分情報復号部602より供給される量子化された予測誤差信号を逆量子化や逆直交変換などの処理を行って予測誤差信号を生成し、復号予測誤差信号を加算部604に供給する。
【0054】
加算部604は、逆量子化・逆変換部603より供給される復号予測誤差信号と、動き補償予測部608より供給される予測信号を加算して復号画像信号を生成し、復号画像信号を復号画像メモリ605に供給する。
【0055】
復号画像メモリ605は、図1の動画像符号化装置における復号画像メモリ106と同じ機能を有し、加算部604から供給された復号画像信号を格納し、参照画像信号を動き補償予測部608に供給する。また、復号画像メモリ605は、格納された復号画像信号を再生時刻に合わせて、画像の表示順序に従い出力端子609に供給する。
【0056】
動き情報復号部606は、多重分離部601より供給される動き情報の符号化列より、予測モード、並びに予測モードに応じた予測種別、動きベクトル、及び参照画像指定情報を特定する情報を動き情報として復号する。復号した動き情報と、動き情報メモリ607より供給される候補ブロック群の動き情報より、動き補償予測に用いる予測種別、動きベクトル及び参照画像指定情報を再生し、動き補償予測部608に供給する。また、動き情報復号部606は再生した動き情報を、動き情報メモリ607に供給する。動き情報復号部606の詳細な構成については後述する。
【0057】
動き情報メモリ607は、図1の動画像符号化装置における動き情報メモリ111と同じ機能を持ち、動き情報復号部606より供給される再生した動き情報を最小予測ブロックサイズ単位を基準として所定画像分記憶する。また、動き情報メモリ607は、空間候補ブロック群と時間候補ブロック群の動き情報を、候補ブロック群の動き情報として動き情報復号部606に供給する。
【0058】
動き補償予測部608は、図1の動画像符号化装置における動き補償予測部108と同じ機能を持ち、動き情報復号部606より供給される動き情報に基づいて、復号画像メモリ605内の参照画像指定情報が示す参照画像を、動きベクトル値だけ予測ブロックの画像信号と同一位置より移動させた位置の画像信号を取得して予測信号を生成する。動き補償予測のが双予測であれば、各予測の予測信号を平均したものを予測信号として生成し、予測信号を加算部604に供給する。
【0059】
出力端子609は、復号画像メモリ605より供給された復号画像信号を、ディスプレイなどの表示媒体に出力することで、復号画像信号が再生される。
【0060】
図6に示した動画像復号装置の構成も、図1に示した動画像符号化装置の構成と同様に、CPU、フレームメモリ、ハードディスクなどを備える情報処理装置等のハードウェアによっても実現可能である。
【0061】
図7は、本発明の実施の形態1に係る動画像復号装置における復号処理の動作の流れを示すフローチャートである。多重分離部601は、入力端子600より供給された符号化ビットストリームを予測誤差情報の符号化列と、動き情報の符号化列に分離する(S700)。分離された動き情報の符号化列は動き情報復号部606に供給され、動き情報メモリ607より供給される候補ブロック群の動き情報を用いて、復号対象ブロックの動き情報を復号する(S701)。
【0062】
分離された予測誤差情報の符号化列は、予測差分情報復号部602に供給され、量子化された予測誤差信号として復号され、逆量子化・逆変換部603で逆量子化や逆直交変換などの処理を施されることで、復号予測誤差信号が生成される(S702)。ステップS702の処理の詳細については後述する。
【0063】
動き情報復号部606より、復号対象ブロックの動き情報が動き補償予測部608に供給され、動き補償予測部608は動き情報にしたがって動き補償予測を行い予測信号を算出する(S703)。加算部604は、逆量子化・逆変換部603から供給された復号予測誤差信号と、動き補償予測部608から供給された予測信号とを加算し、復号画像信号を生成する(S704)。
【0064】
加算部604より供給された復号画像信号は、復号画像メモリ605に格納される(S705)と共に、動き情報復号部606より供給された復号対象ブロックの動き情報が動き情報メモリ607に格納される(S706)。これで、予測ブロック単位の復号処理が終了する。
【0065】
[実施の形態1の詳細機能説明]
本発明の実施の形態1に係る動画像符号化装置の予測モード判定部109及び動き情報符号化部110の動作、図5のフローチャートにおけるステップS502及びステップS504の処理、並びに本発明の実施の形態1に係る動画像復号装置における動き情報復号部606の動作、図7のフローチャートにおけるステップS702の処理の詳細動作を、以下説明する。
【0066】
[実施の形態1における動き補償予測モードの定義]
図8(a)、(b)は、本発明の実施の形態1における動き補償予測において使用される動き情報を符号化するための3つの予測モードを説明するための図である。第一の予測モードは、予測対象ブロックと当該予測対象ブロックに隣接する符号化済ブロックにおける時間方向や空間方向の動きの連続性を用いて、当該予測対象ブロックは自身の動き情報を直接符号化せずに、空間及び時間的に隣接するブロックの動き情報を符号化に使用する手法であり、結合予測モード(マージモード)と呼ぶ。
【0067】
結合予測モードの場合には、複数の隣接ブロック候補より選択的に結合する動き情報が定義でき、動き情報は使用する隣接ブロックを指定する情報(インデックス)を符号化することで、指定情報をもとに取得した動き情報をそのまま動き補償予測に用いる。更に、結合予測モードにおいては、予測差分情報を符号化伝送せずに、結合予測モードで予測された予測信号を復号ピクチャとするSkipモードを定義し、結合した動き情報のみの少ない情報で復号画像が再生できる構成を有する。Skipモードにおいて伝送する動き情報は、結合予測モードと同様に隣接ブロックを定義する指定情報となる。
【0068】
第二の予測モードは、動き情報の構成要素を個別にすべて符号化し、予測ブロックに対して予測誤差の少ない動き情報を伝送する手法であり、動き検出予測モードと呼ぶ。動き検出予測モードは、従来の動き補償予測の動き情報の符号化と同様に、参照画像を特定するための情報(参照画像インデックス)と、動きベクトルを特定するための情報が別々に符号化される。
【0069】
動き検出予測モードには、単予測と双予測のどちらを使用するか予測モードで指示し、単予測の場合には1つの参照画像に対する参照画像を特定する情報と、動きベクトルの予測ベクトルとの差分ベクトルを符号化する。双予測の場合には2つの参照画像に対する参照画像を特定する情報と、動きベクトルがそれぞれ個別に符号化される。動きベクトルに対する予測ベクトルは、AVCと同様に隣接ブロックの動き情報から生成されるが、結合予測モードと同様に、複数の隣接ブロック候補より予測ベクトルに用いる動きベクトルを選択でき、動きベクトルは予測ベクトルに使用する隣接ブロックを指定する情報(インデックス)と差分ベクトルの2つを符号化することで伝送される。
【0070】
第三の予測モードは、隣接ブロックの動き情報に対して、動きベクトル値を修正するための差分ベクトル値を追加で符号化することで、隣接ブロックから生成される動き情報に対して一部の動きベクトルに対する修正を行い、動き情報として符号化する手法であり、結合動き修正予測モード(マージMVDモード)と呼ぶ。結合動き修正予測モードにおいて伝送する動き情報は、結合予測モードと同様に、隣接ブロックを指定する情報に加えて、修正する動きベクトルに対する差分ベクトル値となる。実施の形態1における、結合動き修正予測モードでは、差分ベクトル値は常に1つ伝送され、動き補償予測は双予測となる。
【0071】
この結合動き修正予測モードを有する構成が、結合動き修正予測モードを有さない従来の構成に対して符号化効率を向上させる要因となる。つまり、結合動き修正予測モードでは、結合予測モードにおいて符号化する情報に対して、動きベクトルを修正するための差分ベクトルを符号化して追加する。これにより、動きの連続性が十分保たれていない場合や、他ブロックの動き情報における動きベクトルが正確な動きを示していない場合などに、隣接ブロックから生成される動き情報に対して、動きベクトルのみを修正することで、予測残差が少ない動き補償予測信号を生成する動き情報を、少ない情報で表現することができる。
【0072】
図9は、動き補償予測および動き補償予測を実施しない画面内予測における、動き補償の種類と、参照画像を定義する情報、及び符号化する動きベクトル数の関連に関して説明するための図である。
【0073】
動き検出予測モードの内、予測が単予測である単予測モード(UniPred)の場合は、符号化する動き情報として1つの符号化ベクトル、1つの参照画像インデックス、1つの予測ベクトルインデックスが伝送される。
【0074】
同様に予測が双予測である双予測モード(BiPred)の場合は、符号化する動き情報として2つの符号化ベクトル、2つの参照画像インデックス、2つの予測ベクトルインデックスが伝送される。
【0075】
結合予測モード(Merge)の場合には、1つの結合動き情報インデックスのみが符号化する動き情報として伝送され、動き情報に基づいて単予測もしくは双予測の動き補償予測が施される。
【0076】
結合動き修正予測モード(MergeMvd)の場合には、1つの結合動き情報インデックスと1つの符号化ベクトルが符号化する動き情報として伝送され、動き情報と動きベクトルの修正情報に従って、双予測が施される。
【0077】
動き補償予測を実施しない予測符号化モードであるイントラモード(Intra)においては、動き情報は符号化されない。
【0078】
隣接する動き情報との時間的・空間的な相関性が非常に高い場合には、結合予測モードが有効な動き補償予測モードとして選択される。相関性が低い場合もしくは一部の動き情報のみが有効に予測ブロックの動き情報として利用できる場合には、動き検出予測モードが有効な動き補償予測モードとして選択される。相関性が高いが動きに微小なずれを生じている場合や、隣接するブロックの動き情報が正確な動きを示していない場合、また大部分の動き情報が有効であるが一部の動き情報のみ相関性が十分でない場合などに、結合動き修正予測モードが有効な動き補償予測モードとして選択される。このように、結合予測モード、動き検出予測モードに加えて、結合動き修正予測モードを具備することで、さまざまな動き情報相関性の状況に応じて、符号化効率の高い動き補償予測を選択できる。
【0079】
[実施の形態1における動画像符号化装置における予測モード判定部の詳細動作説明]
図10は、実施の形態1の動画像符号化装置における予測モード判定部109の詳細な構成を示す図である。予測モード判定部109は、最適な動き補償予測モードを決定する機能を有する。
【0080】
予測モード判定部109は、動き補償単予測生成部1000、動き補償双予測生成部1001、予測誤差算出部1002、予測ベクトル算出部1003、差分ベクトル算出部1004、動き情報符号量算出部1005、予測モード評価部1006、結合動き情報算出部1007、結合動き補償予測生成部1008、及び結合動き修正動き補償予測生成部1009を含む。
【0081】
図1における予測モード判定部109に対して、動きベクトル検出部107より入力された動きベクトル値が、動き補償単予測生成部1000、動き補償双予測生成部1001、及び結合動き修正動き補償予測生成部1009に供給され、動き情報メモリ111より入力された動き情報が、予測ベクトル算出部1003、及び結合動き情報算出部1007に供給される。
【0082】
また、動き補償予測部108に対して、動き補償単予測生成部1000、動き補償双予測生成部1001、結合動き補償予測生成部1008、及び結合動き修正動き補償予測生成部1009から、動き補償予測に用いる参照画像指定情報と動きベクトルが出力される。また、動き補償予測部108より、生成された動き補償予測画像が予測誤差算出部1002に供給される。予測誤差算出部1002には更に、入力端子100より符号化対象となる予測ブロックの画像信号が供給される。
【0083】
また、予測モード評価部1006から、動き情報符号化部110に対して符号化する動き情報と確定した予測モード情報を供給し、動き情報メモリ111に動き情報を供給し、動き補償予測信号を減算部101及び加算部105に供給する。
【0084】
動き補償単予測生成部1000は、単予測に使用可能な各参照画像に対して算出された動きベクトル値を受信し、参照画像指定情報を予測ベクトル算出部1003に供給し、参照画像指定情報と動きベクトルを動き補償予測部108に出力する。
【0085】
動き補償双予測生成部1001も同様に、双予測に使用可能な各参照画像に対して算出された動きベクトル値を受信し、それぞれの参照画像に対する参照画像指定情報を予測ベクトル算出部1003に供給し、それぞれの参照画像に対する参照画像指定情報と動きベクトルを動き補償予測部108に出力する。
【0086】
予測誤差算出部1002は、入力された動き補償予測画像と処理対象の予測ブロック画像より、予測誤差評価値を算出する。誤差評価値を算出するための演算としては、動きベクトル検出における誤差評価値と同様に、画素毎の差分絶対値の総和SADや、画素毎の二乗誤差値の総和SSE等を使用できる。更に、予測残差の符号化を行う際に施される、直交変換・量子化を行うことによって復号画像に生じる歪成分の量を加味することで、より正確な誤差評価値が算出可能である。この場合には、予測誤差算出部1002内に、図1における減算部101、直交変換・量子化部102、逆量子化・逆変換部104、加算部105の機能を有することで実現できる。予測誤差算出部1002は、各予測モードにおいて算出された予測誤差評価値と、動き補償予測信号を予測モード評価部1006に供給する。
【0087】
予測ベクトル算出部1003は、動き補償単予測生成部1000及び動き補償双予測生成部1001より参照画像指定情報を供給され、動き情報メモリ111から供給される隣接ブロックの動き情報における候補ブロック群より、指定された参照画像に対する動きベクトル値を特定する。そして、複数の予測ベクトルを予測ベクトル候補リストと共に生成し、差分ベクトル算出部1004に、参照画像指定情報と共に供給する。
【0088】
図11は、予測ベクトル算出部1003の構成を示す図である。予測ベクトル算出部1003は、予測ベクトル候補リスト生成部1100及び予測ベクトル候補リスト削除部1101を含み、候補ブロック群より所定の順番で予測ベクトルの候補を作成し、その中から同一の動きベクトル値を示す候補を削除することで、有効な予測ベクトルのみを予測ベクトル候補として登録する。予測ベクトル算出部1003の詳細動作に関しては、後述する。
【0089】
図10に戻り、差分ベクトル算出部1004は、予測ベクトル算出部1003より供給された、予測ベクトル候補のそれぞれに対して、動き補償単予測生成部1000及び動き補償双予測生成部1001から供給される動きベクトル値との差分を計算し、差分ベクトル値を算出する。算出された差分ベクトル値と予測ベクトル候補に対する指定情報である予測ベクトルインデックスを符号化した際の符号量が最も少ない情報量で、動きベクトル値を表現出来る差分ベクトルとなる。従って、最も少ない情報量である予測ベクトルに対する予測ベクトルインデックスと差分ベクトル値を参照画像指定情報と共に、動き情報符号量算出部1005に供給する。
【0090】
動き情報符号量算出部1005は、差分ベクトル算出部1004より供給される、単予測モード及び双予測モードの差分ベクトル値、参照画像指定情報、予測ベクトルインデックス、予測モードより、各予測モードにおける動き情報に要する符号量を算出する。また、動き情報符号量算出部1005は、結合動き補償予測生成部1008より、結合予測モードにおいて伝送する必要がある、結合動き情報インデックスと予測モードを示すための情報を受け取り、結合予測モードにおける動き情報に要する符号量を算出する。
【0091】
同様に、動き情報符号量算出部1005は、結合動き修正動き補償予測生成部1009より、結合動き修正予測モードにおいて伝送する必要がある、結合動き情報インデックスと差分ベクトル値と予測モードを示すための情報を受け取り、結合動き修正予測モードにおける動き情報に要する符号量を算出する。動き情報符号量算出部1005は、各予測モードにおいて算出された動き情報及び動き情報に要する符号量を予測モード評価部1006に供給する。
【0092】
予測モード評価部1006は、予測誤差算出部1002より供給された各予測モードの予測誤差評価値と、動き情報符号量算出部1005から供給された各予測モードの動き情報符号量を用いて、各予測モードの総合動き補償予測誤差評価値を算出し、最も少ない評価値である予測モードを選択し、選択した予測モードと選択した予測モードに対する動き情報を、動き情報符号化部110及び動き情報メモリ111に出力する。また、予測モード評価部1006は同様に、予測誤差算出部1002より供給された動き補償予測信号に対して、選択した予測モードにおける予測信号を選択して減算部101及び加算部105に出力する。
【0093】
結合動き情報算出部1007は、動き情報メモリ111より供給される隣接ブロックの動き情報における候補ブロック群を用いて、単予測であるか双予測であるかを示す予測種別、参照画像指定情報、動きベクトル値で構成される動き情報として、複数の動き情報を結合動き情報候補リストと共に生成し、結合動き補償予測生成部1008及び結合動き修正動き補償予測生成部1009に供給する。
【0094】
図12は、結合動き情報算出部1007の構成を示す図である。結合動き情報算出部1007は、結合動き情報候補リスト生成部1200及び結合動き情報候補リスト削除部1201を含む。結合動き情報算出部1007は、候補ブロック群より所定の順番で動き情報の候補を作成し、その中から、動き情報の各要素(予測種別、参照画像指定情報、及び動きベクトル値)が全て同一の値を示している候補を削除することで、有効な動き情報のみを結合動き情報候補として登録する。結合動き情報算出部1007の詳細動作に関しては、後述する。
【0095】
図10に戻り、結合動き補償予測生成部1008は、結合動き情報算出部1007より供給された結合動き情報候補リストより、登録された結合動き情報候補のそれぞれに対して、動き情報より、予測種別に応じて1つの参照画像(単予測)もしくは2つの参照画像(双予測)の参照画像指定情報と動きベクトル値を動き補償予測部108に指定して、動き補償予測画像を生成すると共に、それぞれの結合動き情報インデックスを動き情報符号量算出部1005に供給する。結合動き補償予測生成部1008の詳細動作に関しては、後述する。
【0096】
図10の構成では、それぞれの結合動き情報インデックスにおける予測モード評価は、予測モード評価部1006で施されるが、予測誤差評価値及び動き情報符号量を予測誤差算出部1002及び動き情報符号量算出部1005より受け取り、結合動き補償予測生成部1008内で、最適な結合動き補償予測の結合動きインデックスを確定させた後に、他の予測モードを含めた最適予測モードの評価を行う構成を取ることも可能である。
【0097】
結合動き修正動き補償予測生成部1009は、結合動き情報算出部1007より供給された結合動き情報候補リスト、登録された結合動き情報候補に対して、双予測の動き情報を算出する。そして、その中で動きベクトル値を修正する参照画像を特定し、特定した参照画像の参照画像指定情報に対して、動きベクトル検出部107で検出された動きベクトル値を入力し、差分ベクトル値を計算する。そして、双予測の参照画像指定情報と修正した動きベクトル値を含む、動き補償予測に用いる動きベクトル値を動き補償予測部108に指定して、動き補償予測画像を生成すると共に、それぞれに結合動き情報インデックスと伝送する差分ベクトル値を動き情報符号量算出部1005に供給する。
【0098】
図13は、結合動き修正動き補償予測生成部1009の構成を示す図である。結合動き修正動き補償予測生成部1009は、基準参照画像・動き修正参照画像選択部1300、動き修正参照画像動きベクトル取得部1301、結合動き情報修正動き補償予測生成部1302、及び差分ベクトル算出部1303を含む。
【0099】
基準参照画像・動き修正参照画像選択部1300は登録された結合動き情報候補に対して、双予測の動き情報を算出して動きベクトル値を修正する参照画像を特定する機能を有する。動き修正参照画像動きベクトル取得部1301は特定した参照画像の参照画像指定情報に対する動きベクトル値を入力する機能を有する。結合動き情報修正動き補償予測生成部1302は動き補償予測に用いる動きベクトル値と参照画像指定情報を動き補償予測部108に出力する機能をする。差分ベクトル算出部1303は基準参照画像・動き修正参照画像選択部1300で算出された動き情報の動きベクトル値と、動きベクトル検出部107から入力された動きベクトル値の差分ベクトル値を算出する機能を有する。結合動き修正動き補償予測生成部1009の詳細動作は後述する。
【0100】
図14は、図10の予測モード判定部109を介して動作する、図5のステップS502である動き補償予測モード/予測信号生成の動作について説明するためのフローチャートである。最初に、結合動き情報候補リスト生成を行い(S1400)、結合予測モード評価値を生成する(S1401)。
【0101】
続いて、ステップS1400で生成された結合動き情報候補リストを用いて、結合動き修正予測モード評価値を生成し(S1402)、単予測モード評価値を生成し(S1403)、双予測モード評価値を生成し(S1404)、生成した評価値を比較することで最適な予測モードを選択する(S1405)。ただし、ステップS1401、ステップS1402、ステップS1403、及びステップS1404の評価値生成の順序はこの順序に限らない。
【0102】
選択された予測モードに従い予測信号を出力し(S1406)、選択された予測モードに従い動き情報を出力する(S1407)ことで、予測ブロック単位の動き補償予測モード/予測信号生成処理が終了する。ステップS1400、ステップS1401、ステップS1402、ステップS1404、及びステップS1404の詳細動作に関しては後述する。
【0103】
図15は、図14のステップS1400における結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。この動作は、図10の結合動き情報算出部1007における構成の詳細動作を示している。図12の結合動き情報候補リスト生成部1200は、動き情報メモリ111より供給される空間候補ブロック群から領域外である候補ブロックやイントラモードである候補ブロックを除いた候補ブロック群から、空間結合動き情報候補リストを生成する(S1500)。空間結合動き情報候補リスト生成の詳細な動作は後述する。
【0104】
結合動き情報候補リスト生成部1200は、続いて動き情報メモリ111より供給される時間候補ブロック群から領域外である候補ブロックやイントラモードである候補ブロックを除いた候補ブロック群から、時間結合動き情報候補リストを生成する(S1501)。時間結合動き情報候補リスト生成の詳細な動作は後述する。
【0105】
続いて、結合動き情報候補リスト削除部1201において、生成された空間結合動き情報候補リストと時間結合動き情報候補リストを統合した結合動き情報候補リストより、重複している動き情報を持つ結合動き情報候補が複数存在する場合には1つの結合動き情報候補を残して削除して動き情報候補リストを更新する(S1502)。
【0106】
最後に、上記処理において隣接ブロックに有効な動き情報が存在せず、結合動き情報候補が存在しない場合(S1503:YES)、固定の動き情報を結合動き情報候補リストに追加して(S1504)、処理を終了する。実施の形態1における固定の動き情報としては、予測種別が双予測で、参照画像指定情報(インデックス)が0、2つの動きベクトル値が共に(0,0)の値を設定する。実施の形態1における固定の動き情報としては、上記設定には限定されず、暗黙的に指定できる手法で設定されることにより、動画像復号装置においても同じ動き情報が再現できる。なお、上記処理において隣接ブロックに有効な動き情報が存在し、結合動き情報候補が存在する場合(S1503:NO)、ステップS1504をスキップして、処理を終了する。
【0107】
動き情報メモリ111より、結合動き情報算出部1007に供給される動き情報の候補ブロック群には、空間候補ブロック群と時間候補ブロック群が含まれる。まず、空間結合動き情報候補リスト生成について説明する。
【0108】
図16は、空間結合動き情報候補リスト生成に用いる空間候補ブロック群を示す図である。空間候補ブロック群は、符号化対象画像の予測対象ブロックに隣接している同一画像のブロックを示す。ブロック群は、その管理が最小予測ブロックサイズ単位で行われ、図16に示すようなA1〜A4、B1〜B4、C、D、Eの位置のブロックが隣接するブロック群となる。候補ブロックの位置は、最小予測ブロックサイズの単位で管理されるが、隣接ブロックの予測ブロックサイズが最小予測ブロックサイズよりも大きな場合には、予測ブロックサイズ内の全ての候補ブロックに同一の動き情報が格納される。実施の形態1においては、これら隣接するブロック群の内、空間候補ブロック群をブロックA1、ブロックB1、ブロックC、ブロックDの4ブロックとする。
【0109】
図17は、空間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。空間候補ブロック群に含まれる4つの候補ブロックであるブロックA1、ブロックB1、ブロックC、ブロックDについて以下の処理を繰り返し行う(S1700からS1703)。
【0110】
最初に候補ブロックの有効性を検査する(S1701)。候補ブロックが領域外でなくイントラモードでない場合(S1701:YES)、候補ブロックは有効となる。候補ブロックが有効であれば、候補ブロックの動き情報を空間結合動き情報候補リストに追加する(S1702)。
【0111】
ここでは、空間結合動き情報候補リストには4以下の候補ブロックの動き情報が含まれるとしたが、空間候補ブロック群は、処理対象の予測ブロックに隣接する少なくとも1以上の処理済みのブロックであり、候補ブロックの有効性によって空間結合動き情報候補リストの数が変動すればよく、これに限定されない。なお、候補ブロックが領域外またはイントラモードの場合(S1701:NO)、ステップS1702をスキップし、次の候補ブロックの有効/無効判定が行われる。
【0112】
続いて、時間結合動き情報候補リスト生成について説明する。図18は、時間結合動き情報候補リスト生成に用いる時間候補ブロック群を示す図である。時間候補ブロック群は、予測対象ブロックとは別の復号済みの画像ColPicにおける予測対象ブロックと同位置及びその周辺にあるブロックを示す。図18におけるA1〜A4、B1〜B4、C、D、E、F1〜F4、G1〜G4、H、I1〜I16の位置のブロックが、時間的に隣接するブロック群となる。実施の形態1においては、これら時間的に隣接するブロック群の内、時間候補ブロック群をブロックHとブロックI6の2ブロックとする。
【0113】
図19は、時間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。時間候補ブロック群に含まれる2つの候補ブロックであるブロックHとブロックI6について(ステップ1900、ステップS1905)、候補ブロックの有効性を検査する(S1901)。候補ブロックが有効である場合(S1901:YES)、ステップS1902〜ステップS1904の処理が行われ、生成された動き情報が時間結合動き情報候補リストに登録され、処理が終了する。候補ブロックが画面領域外の位置を示す場合や、候補ブロックがイントラ予測ブロックである場合(S1901:NO)、候補ブロックが有効でなく、次の候補ブロックの有効/無効判定が行われる。
【0114】
候補ブロックが有効である場合(S1901:YES)、候補ブロックの動き情報をもとに結合動き情報候補に登録する参照画像選択候補を確定する(S1902)。実施の形態1ではL0予測の参照画像を、L0予測の参照画像のうち処理対象画像に最も近い距離にある参照画像とし、L1予測の参照画像を、L1予測の参照画像のうち処理対象画像に最も近い距離にある参照画像とする。
【0115】
ここでの参照画像選択候補の確定手法は、L0予測の参照画像とL1予測の参照画像が決定できればよく、これに限定されない。符号化処理と復号処理で同一の手法で参照画像を確定することで、符号化時に意図した参照画像を確定できる。他の確定手法としては、例えばL0予測の参照画像及びL1予測の参照画像の参照画像インデックスが0である参照画像を選択する手法や、空間隣接ブロックが使用しているL0参照画像及びL1参照画像で、最も多く使用されている参照画像を予測対象ブロックにおける参照画像として選択する手法や、符号化ストリーム中でL0予測およびL1予測の参照画像を指定する手法を用いることが可能である。
【0116】
次に、候補ブロックの動き情報をもとに結合動き情報候補に登録する動きベクトル値を確定する(S1903)。実施の形態1における、時間結合動き情報は、候補ブロックの動き情報で有効な予測種別である動きベクトル値をもとに、双予測の動き情報を算出する。候補ブロックの予測種別がL0予測もしくはL1予測の単予測の場合には、予測に用いられている参照画像リスト(L0予測の参照画像リスト或いはL1予測の参照画像リスト)に対する動き情報を選択し、その参照画像指定情報と動きベクトル値を双予測動き情報生成の基準値とする。
【0117】
候補ブロックの予測種別が双予測である場合には、L0予測或いはL1予測のどちらか一方の動き情報を基準値として選択する。基準値の選択方法は、例えばColPicと同じ予測種別に存在する動き情報を選択する、候補ブロックのL0予測、L1予測のそれぞれの参照画像でColPicとの画像間距離が近い方を選択する、或いは候補ブロックのL0予測、L1予測のそれぞれの動きベクトルが符号化処理対象画像と交差する方を選択する等が挙げられる。
【0118】
双予測動き情報生成の基準とする動きベクトル値が確定したら、結合動き情報候補に登録する動きベクトル値を算出する。
【0119】
図20は、時間結合動き情報に対する基準動きベクトル値ColMvに対する、L0予測、L1予測に対して登録する動きベクトル値mvL0t、mvL1tの算出手法を説明するための図である。基準動きベクトル値ColMvに対するColPicと候補ブロックの基準とする動きベクトルの対象となる参照画像との画像間距離をColDistとする。L0予測、L1予測の各参照画像と処理対象画像との画像間距離をCurrL0Dist、CuurL1Distとする。ColMvを、ColDistとCurrL0Dist、CurrL1Distの距離比率でスケーリングした動きベクトルを、それぞれに登録する動きベクトルとする。具体的には、登録する動きベクトル値mvL0t、mvL1tは、下記式1、2で算出される。
mvL0t=mvCol×CurrL0Dist/ColDist ・・・(式1)
mvL1t=mvCol×CurrL1Dist/ColDist ・・・(式2)
となる。
【0120】
図19に戻り、このようにして生成された、双予測の参照画像選択情報(インデックス)と、動きベクトル値を結合動き情報候補に追加し(S1904)、時間結合動き情報候補リスト作成処理が終了する。
【0121】
図21は、図19のステップS1401における結合予測モード評価値生成の詳細動作を説明するためのフローチャートである。この動作は、図10の結合動き補償予測生成部1008を用いた構成の詳細動作を示している。
【0122】
最初に予測誤差評価値を最大値に設定し、予測誤差が最小となる結合動き情報インデックスを初期化(例えば、−1などのリスト外の値)する(S2100)。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をnum_of_indexとすると、i=0からnum_of_index−1までの結合動き情報候補について以下の処理を繰り返し行う(S2101からS2109)。
【0123】
先ず、結合動き情報候補リストよりインデックスiに格納された動き情報を取得する(S2102)。続いて動き情報符号量を算出する(S2103)。結合予測モードにおいては、結合動き情報インデックスのみが符号化されるので、結合動き情報インデックスのみが動き情報符号量となる。結合動き情報インデックスの符号列としては、実施の形態1では、Truncated Unary符号列を用いる。
【0124】
続いて、動き情報の予測種別が単予測である場合(S2104:YES)、1つの参照画像に対する参照画像指定情報と動きベクトルを、図1における動き補償予測部108に設定して、動き補償単予測ブロックを生成する(S2105)。動き情報が単予測でない場合(S2104:NO)、2つの参照画像に対する参照画像指定情報と動きベクトルを動き補償予測部108に設定して、動き補償双予測ブロックを生成する(S2106)。
【0125】
続いて、動き補償予測ブロックと予測対象ブロックの予測誤差と動き情報符号量より、予測誤差評価値を算出し(S2107)、予測誤差評価値が最小値である場合には評価値を更新すると共に、予測誤差最小インデックスを更新する(S2108)。
【0126】
全ての結合動き情報候補についての予測誤差評価値が比較された結果、選択された予測誤差最小インデックスを、結合予測モードで用いる結合動き情報インデックスとして、予測誤差最小値、動き補償予測ブロックと共に出力し(S2110)、結合予測モード評価値生成処理を終了する。
【0127】
図22は、図14のステップS1402における結合動き修正予測モード評価値生成の詳細動作を説明するためのフローチャートである。この動作は、図10の結合動き修正動き補償予測生成部1009を用いた構成の詳細動作を示している。
【0128】
最初に予測誤差評価値を最大値に設定し、予測誤差が最小となる結合動き情報インックスを初期化(例えば、−1などのリスト外の値)する(S2200)。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をnum_of_indexとすると、i=0からnum_of_index−1までの結合動き情報候補について以下の処理を繰り返し行う(S2201からS2210)。
【0129】
先ず、結合動き情報候補リストよりインデックスiに格納された動き情報を取得する(S2202)。続いて、取得した動き情報より双予測の動きベクトル値と参照画像指定情報、及び差分ベクトルを伝送する参照画像となる動き修正参照画像を確定する(S2203)。ステップS2203の詳細動作に関しては、後述する。
【0130】
次に、ステップS2203により確定された動き補正参照画像に対して、図1の動きベクトル検出部107より動き補正参照画像に対する検出した動きベクトル値を入力する(S2204)。入力された動きベクトル値を動き補償予測に用いるため、結合動き情報候補より算出された動き情報における、動き補正参照画像の動きベクトル値との差分ベクトルが生成される(S2205)。
【0131】
続いて、動き情報符号量を算出する(S2206)。結合動き修正予測モードにおいては、結合動き情報インデックスと差分ベクトル値が符号化されることで、必要な動き情報が伝送される。そのため、結合動き情報インデックスの符号量と差分ベクトル値の符号量が加算され、結合動き修正予測モードにおける動き情報符号量となる。
【0132】
結合修正動き予測モードの場合に、結合動き情報より生成された双予測の動きベクトルと参照画像選択情報に対して、動き修正参照画像に対する修正した動きベクトルのみを入れ替えた動き情報を、図1における動き補償予測部108に設定して、動き補償双予測ブロックを生成する(S2207)。
【0133】
動き補償予測ブロックと予測対象ブロックの予測誤差と動き情報符号量より、予測誤差評価値を算出し(S2208)、予測誤差評価値が最小値である場合には評価値を更新すると共に、予測誤差最小インデックスを更新する(S2209)。
【0134】
全ての結合動き情報候補についての予測誤差評価値が比較された結果、選択された予測誤差最小インデックスを、結合予測モードで用いる結合動き情報インデックスとして、予測誤差最小値、動き補償予測ブロックと共に出力し(S2211)、結合動き修正予測モード評価値生成処理を終了する。
【0135】
次に、ステップS2203の詳細動作を説明する前に、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の説明を行う。図23(a)〜(d)は、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の概念を示す図である。結合動き情報としては、図23(a)に示す空間隣接ブロックから算出された予測種別が双予測である空間BiPredと、図23(b)、(c)に示す空間隣接ブロックから算出された予測種別が単予測である空間UniPredと、図23(d)に示す時間連接ブロックから算出された時間BiPredが存在する。
【0136】
実施の形態1における、結合動き情報に対するスケーリング処理は、双予測の動き情報が取得できる空間BiPred及び時間BiPredにおいては、結合動き情報算出時に施された動きベクトルをそのまま用い、空間UniPredに関しては、単予測で定義されている動きベクトル値を、符号化対象画像とL0の参照画像、L1の参照画像との時間的な位置関係に応じて1倍または−1倍することで、使用されていなかった参照画像リストの動きベクトルを生成する。
【0137】
すなわち、図43(b)に示すように、符号化対象画像に対して、L0の参照画像とL1の参照画像が時間方向で反対の方向にある場合には、単予測で定義されている動きベクトル値を、−1倍、すなわち動きベクトル値の正負の符号を反転することにより、既に使用している参照画像リストの動きベクトルと反対方向の動きベクトルを生成する。なお、符号化対象画像に対して、L0の参照画像とL1の参照画像が反対の方向に存在する条件判定に関しては、下記の条件判定を用いる。
L0の参照画像のPOCの値<符号化対象画像のPOCの値、かつ、符号化対象画像のPOCの値<L1の参照画像のPOCの値
【0138】
一方、図43(c)に示すように、符号化対象画像に対して、L0の参照画像とL1の参照画像が時間方向で同じ方向にある場合には、単予測で定義されている動きベクトルを1倍、すなわち同じ動きベクトル値を他方の動きベクトル値として用いる。なお、符号化対象画像に対して、L0の参照画像とL1の参照画像が同じ方向に存在する条件判定に関しては、下記の条件判定を用いる。
L0の参照画像のPOCの値<符号化対象画像のPOCの値、かつ、L1の参照画像のPOCの値<符号化対象画像のPOCの値
または
符号化対象画像のPOCの値<L1の参照画像のPOCの値、かつ、符号化対象画像のPOCの値<L0の参照画像のPOCの値
【0139】
以上の処理を単予測で定義されている動きベクトルに対して行うことにより、単予測で定義されている動きベクトルから使用されていなかった他方の参照画像リストの参照画像動きベクトルを生成することができる。この点が本実施の形態において符号化効率を向上する特徴的な構成であり、処理対象ブロックに隣接するブロックの動き情報が単予測の場合においても、複雑な処理を行うことなくより簡易な方法で他方のベクトルを生成して双予測を行うことが可能である。
【0140】
本発明の符号化装置においては、最大で結合予測モードの候補数分だけ使用されていない他方の参照画像リストの動きベクトルを生成する可能性があるため、既に使用している参照画像リストの動きベクトル値に対して演算を施すことなく他方の参照画像リストの動きベクトルを生成できる本手法により処理量を削減できる。
本発明の復号装置においては、修正予測モード選択時に、結合予測リスト生成後に必要となる可能性がある動きベクトル値の演算を削減でき、結合予測モード選択時とほぼ同等の演算負荷で修正予測モードの動き情報算出処理が可能となる。
【0141】
図44にL0予測およびL1予測の参照画像リストに登録されている参照画像の例を示す。図44は符号化対象画像のPOCが10である場合の参照画像の例である。通常、参照画像は符号化対象画像に時間的に近い画像から順に登録される。また、L0予測の参照画像は符号化対象画像よりも時間的に前の画像が時間的に後の画像より優先して登録され、L1予測の参照画像は符号化対象画像よりも時間的に後の画像が時間的に前の画像に優先して登録されることから、各参照画像リストの最初の画像は符号化対象画像に対して同一距離に設定してあることが多い。また、符号化対象画像に近い画像は符号化対象画像と相関が高いことから、参照画像として用いられる確率が高く、すなわち、参照画像リストの最初の画像が参照画像として用いられる頻度が高い。よって、単予測の動きベクトルを参照画像の位置に応じて1倍また−1倍して他方の動きベクトルを生成しても、通常の画像間距離に応じたスケーリング演算を行った場合と比較して大きな誤差が生じることはなく、より少ない処理量で双予測を行う結合動き修正予測モードを使用することができる。
【0142】
図24は、各結合動き情報に対して存在するスケーリングされて生成した動きベクトル数を示す図である。空間UniPredが上記スケーリング処理における1個、空間BiPredは結合動き情報算出時にスケーリング処理が施されていないため0個、時間BiPredは結合動き情報算出時の2つの動きベクトル値の算出時にスケーリング処理が施されているため2個となる。
【0143】
上記スケーリング処理が施された動きベクトル値は、隣接ブロックで使用された動きベクトル値をそのまま動きベクトル値として採用した結合動き情報と比較すると、スケーリングによる演算誤差の影響や、動き量の時間変化が一定でない場合の影響があり、その動き情報の精度にずれが生じている可能性が高い。また、隣接ブロックに使用された動きベクトル値は、符号化対象から時間的に離れた参照画像になるほど画面の変化が大きくなるため、その値の精度が低下する。
【0144】
実施の形態1においては、これらの結合動き情報に登録された動きベクトルの算出時の特性を利用して、差分ベクトルを送って動きベクトルを修正する必要のある動きベクトルを、付加情報を伝送することなく特定し、差分ベクトルのみを追加で符号化する。これにより、動き補償予測の予測精度が高い動き情報を、少ない動き情報の伝送で実現することができる。
【0145】
実施の形態1においては、スケーリングされて算出された動きベクトル値を持つ参照画像を優先的に、差分ベクトルを伝送する動き修正参照画像に設定する。2つの動きベクトルが共にスケーリングされている場合や、共にスケーリングされていない場合には、予測対象画像からの時間的距離が離れた参照画像を、差分ベクトルを伝送する動き修正参照画像に設定する。
【0146】
図25(a)〜(c)は、実施の形態1における差分動きベクトル伝送参照画像確定アルゴリズムを示す概念図である。図25(a)に示す空間BiPredでは、スケーリングされた動きベクトルが0個のため、時間的距離の遠い参照画像の動きベクトルに差分ベクトルを追加する。図25(b)に示す空間UniPredでは、スケーリングされた動きベクトルが1個のため、スケーリングされた動きベクトルに差分ベクトルを追加する。図25(c)に示す時間BiPredでは、スケーリングされた動きベクトルが2個のため、時間的距離の遠い参照画像の動きベクトルに差分ベクトルを追加する。
【0147】
図26は、図22のステップS2203の詳細動作を説明するためのフローチャートである。図22のステップS2203では、上記差分ベクトルを伝送する参照画像の確定処理が行われる。
【0148】
最初に、取得した結合動き情報の予測種別が単予測である場合には(S2600:YES)、空間UniPredで導出された結合動き情報であり、双予測の動き補償予測を行うための第2参照画像と第2参照画像の動きベクトル値を確定する処理を行う(S2601)。ステップS2601の詳細動作に関しては、後述する。
【0149】
続いて、双予測の参照画像の動きベクトル値のうちスケーリングされた動きベクトルが単予測の1つの動きベクトルのみである場合(S2602:YES)、スケーリングされた動きベクトル値を持つ参照画像を動き修正参照画像に設定する(S2603)。
【0150】
スケーリングされた動きベクトルが単予測の1つの動きベクトルでない場合(S2602:NO)、符号化対象画像、L0参照画像、L1参照画像の時間情報を示すPOC値を取得し、それぞれPOCcur、POC_L0、POC_L1に設定する(S2604)。
【0151】
符号化対象画像と2つの参照画像の間での時間的距離を下記式3で比較する。
abs(POCcur−POC_L0)>abs(POCcur−POC_L1)
・・・(式3)
【0152】
上記式3を満たす場合(S2605:YES)、L0参照画像が遠い参照画像と判断し、L0参照画像を動き修正参照画像に設定する(S2606)。上記式3を満たさない場合(S2605:NO)、L1参照画像を動き修正参照画像に設定する(S2607)。以上で、双予測の動きベクトル値と差分ベクトルを伝送する参照画像を確定する処理が終了する。
【0153】
図27は、図26のステップS2601の詳細動作を説明するためのフローチャートである。最初に、結合動き情報に格納されている動き情報がL0予測であった場合(S2700:YES)、第2参照画像としてL1予測の参照画像インデックスを確定する(S2701)。L0予測でない場合(S2700:NO)、第2参照画像としてL0予測の参照画像インデックスを確定する(S2702)。ステップS2702における参照画像インデックスの確定処理に関しては、後述する。
【0154】
続いて、符号化対象画像、結合動き情報に格納されている参照画像、第2参照画像のPOC値を取得し、POCcur、POC_Lx、POC_Lyに設定する(S2703)。上記POC値を用いて、結合動き情報に格納されている動きベクトル値を2つの参照画像と符号化対象画像との距離比率でスケーリングする(S2704)。
【0155】
結合動き情報に格納されている動き情報がL0予測であった場合(S2705:YES)、スケーリングして生成された動きベクトル値をL1予測の参照画像に対する基準動きベクトル値として設定する(S2706)。L0予測でない場合(S2705:NO)、スケーリングして生成された動きベクトル値をL0予測の参照画像に対する基準動きベクトル値として設定し(S2707)、処理を終了する。
【0156】
図28は、図27のステップS2702の詳細動作を説明するためのフローチャートである。図27のステップS2702では、参照画像インデックスを確定する処理が行われる。
【0157】
最初に、結合動き情報に格納されている参照画像を基準参照画像として取得するとともに、第2参照画像を設定する予測種別における参照画像リストを第2参照画像候補リストとして取得する(S2800)。
【0158】
次に、符号化対象画像を挟んで基準参照画像と反対方向の時間位置に存在する参照画像が第2参照画像候補リスト内に存在するかを調べる(S2801)。存在する場合(S2801:YES)、その中で最も符号化対象画像に近い時間位置に存在する参照画像を第2参照画像に対する参照画像インデックスとして確定する(S2802)。存在しない場合(S2801:NO)、符号化対象に最も近い時間位置に存在する参照画像を第2参照画像候補と設定し(S2803)、基準参照画像と第2参照画像候補が同一画像であるかを調べる(S2804)。
【0159】
基準参照画像と第2参照画像候補が同一画像でない場合(S2804:NO)、第2参照画像候補を第2参照画像に対する参照画像インデックスとして確定する(S2805)。基準参照画像と第2参照画像候補が同一画像である場合(S2804:YES)、他の参照画像が第2参照画像候補リストに存在するかを調べる(S2806)。存在する場合(S2806:YES)、時間位置で次に符号化対象画像に近い参照画像を取得し、第2参照画像に対する参照画像インデックスとして確定する(S2807)。他の参照画像が存在しない場合(S2806:NO)、ステップS2805に進み、第2参照画像候補を第2参照画像に対する参照画像インデックスとして確定する。以上で全ての場合における第2参照画像に対する参照画像インデックスが確定し、処理を終了する。
【0160】
実施の形態1における第2参照画像の確定アルゴリズムは、動き補償予測処理が双予測において符号化対象画像を挟んで反対方向に存在する参照画像で構成される補間型(内挿型)の双予測の方が、符号化対象画像を挟まずに同一方向に存在する参照画像で構成する補間(外挿型)の双予測よりも、動きや物体の時間変化の影響を平均化できるために予測精度が良い点、符号化対象画像から近い参照画像の方が動きや物体の時間変化の影響が少なく動き補償予測の精度が良い点、同じ参照画像を重ね合わせて生成する予測画像よりも、2つの異なる参照画像より生成される双予測画像の方が動きを正しく捉えた場合の予測画像の予測精度が高い点の3つの知見に基づく確定アルゴリズムである。この手法により、双予測に適した参照画像を第2参照画像として設定できる利点がある。
【0161】
しかしながら、上述した参照画像インデックスの確定処理に関しては、第2参照画像の参照画像インデックスが確定できればよく、異なる確定アルゴリズムを用いることも可能である。符号化処理と復号処理で同一の手法で参照画像を確定することで、符号化時に意図した参照画像を確定できる。他の確定方法として、他ブロックの動き情報における動きベクトルが正確な動きを示していない場合に、同じ参照画像を重ね合わせて生成する予測画像を用いることで、参照画像に微小な変化を加えた動き補償予測信号を新たな候補として加えることが出来る効果を重視して、図28のフローチャートにおける、基準参照画像と第2参照画像候補が同一画像であるかを調べる処理であるステップS2804を無くして、同一画像であっても第2参照画像候補として確定する方法を用いることができる。
【0162】
更に他の確定方法として、第2参照画像として確定する予測種別の参照画像の中で、単純に符号化対象画像に最も近い距離にある参照画像を選択する方法や、常に参照画像インデックスが0で示される参照画像を取得する方法や、空間隣接ブロックが使用しているL0参照画像及びL1参照画像で、最も多く使用されている参照画像を予測対象ブロックにおける参照画像として選択する方法などの、時間BiPredにおける参照画像確定処理に用いた確定手段を用いることも可能である。また、図28に示したアルゴリズムを用いて、時間BiPredにおける参照画像確定処理に応用することも可能である。
【0163】
図29は、図14のステップS1403の詳細動作を説明するためのフローチャートである。図14のステップS1403では、単予測モード評価値生成処理が行われる。
【0164】
最初に、単予測に対する参照画像指定情報(インデックス)と動きベクトル値を取得する(S2900)。続いて、予測ベクトル候補リストを生成し(S2901)、予測ベクトルの中から最適予測ベクトルを選択し、差分ベクトルを生成する(S2902)。最適予測ベクトルの選択手法は、予測ベクトルと伝送する動きベクトルの差分ベクトルを実際に符号化する際の符号量が最も少ないものを選択することが望ましいが、単純に差分ベクトルの水平・垂直成分の絶対値の総和が小さいものを選択するなどの手法で、簡易的に算出してもよい。ステップS2901の詳細動作については、後述する。
【0165】
続いて、動き情報符号量を算出する(S2903)。単予測モードの場合に、符号化する動き情報としては、1つの参照画像に対する、参照画像指定情報、差分ベクトル値、及び予測ベクトルインデックスの3要素となり、各々符号化された符号量の総量が動き情報符号量として算出される。実施の形態1における予測ベクトルインデックスの符号列生成手法としては、結合動き情報インデックスの符号列と同様にTruncated Unary符号列を用いるものとする。
【0166】
続いて、1つの参照画像に対する参照画像指定情報と動きベクトルを図1における動き補償予測部108に設定して、動き補償単予測ブロックを生成する(S2904)。さらに、動き補償予測ブロックと予測対象ブロックの予測誤差と動き情報符号量より、予測誤差評価値を算出し(S2905)、予測誤差評価値と、1つの参照画像に対する動き情報である、参照画像指定情報と差分ベクトル値と予測ベクトルインデックスを動き補償予測ブロックと共に出力し(S2906)、単予測モード評価値生成処理を終了する。
【0167】
図30は、図29のステップS2901の詳細動作を説明するためのフローチャートである。図29のステップS2901では、予測ベクトル候補リスト生成が行われる。この動作は、図10の予測ベクトル算出部1003における構成の詳細動作を示している。
【0168】
図11の予測ベクトル候補リスト生成部1100は、動き情報メモリ111より供給される空間候補ブロック群から領域外である候補ブロックや、イントラモードである候補ブロックを除いた候補ブロック群から空間動き情報利用予測ベクトル候補リストを生成する(S3000)。空間動き情報利用予測ベクトル候補リスト生成の詳細な動作は後述する。
【0169】
予測ベクトル候補リスト生成部1100は、続いて動き情報メモリ111より供給される時間候補ブロック群から領域外である候補ブロックやイントラモードである候補ブロックを除いた候補ブロック群から時間動き情報利用予測ベクトル候補リストを生成する(S3001)。時間動き情報利用予測ベクトル候補リスト生成の詳細な動作は後述する。
【0170】
続いて、予測ベクトル候補リスト削除部1101は、生成された空間動き情報利用予測ベクトル候補リストと時間動き情報利用予測ベクトル候補リストを統合した予測ベクトル候補リストより、重複している動きベクトルを持つ予測ベクトル候補が複数存在する場合には1つの予測ベクトル候補を残して削除して予測ベクトル候補リストを更新する(S3002)。
【0171】
最後に、上記処理において隣接ブロックに有効な動き情報が存在せず、予測ベクトル候補が存在しない場合(S3003:YES)、固定ベクトル値(0,0)を予測ベクトル候補リストに追加して(S3004)、処理を終了する。
【0172】
図31は、空間動き情報利用予測ベクトル候補リスト生成の詳細動作を説明するためのフローチャートである。動き情報メモリ111より、予測ベクトル算出部1003に供給される動き情報の候補ブロック群には、空間候補ブロック群と時間候補ブロック群が含まれる。空間候補ブロック群と時間候補ブロック群の概念は、図16や図18に示した、結合動き情報に対する動き情報の候補ブロックと同様である。
【0173】
実施の形態1においては、空間候補ブロック群としては図16におけるブロックA1、ブロックB1、ブロックC、ブロックDの4ブロックとする。実施の形態1において、候補ブロックの数や位置に関しては限定されず、また結合動き情報において用いる候補ブロックの数や位置と、予測ベクトルにおいて用いる候補ブロックの数や位置は、一致しても一致しなくてもかまわない。
【0174】
最初に、空間候補ブロック群に含まれる4つの候補ブロックであるブロックA1、ブロックB1、ブロックC、ブロックDについて以下の処理を繰り返し行う(S3100からS3103)。
【0175】
最初に候補ブロックにおいて指定した参照画像における動きベクトル値の有効性を検査する(S3101)。候補ブロックが領域外でなくイントラモードでない場合だけでなく、単予測で指定した参照画像が使用されない場合や、参照インデックスが異なる場合に、動きベクトル値は無効となる。ただし、実施の形態1においては、単予測で指定した参照画像が使用されない場合や、参照インデックスが異なる場合に、他の参照画像の動きベクトル値をスケーリングして動きベクトルを求めるなどの追加の処理を行い、有効な動きベクトルとして扱うことも可能であり、上記動きベクトル値の有効/無効判断手法は、実施の形態1の手法に限定されない。
【0176】
続いて、動きベクトル値が有効であれば(S3101:YES)、候補ブロックの動きベクトル値を予測ベクトル候補リストに追加する(S3102)。動きベクトル値が無効であれば(S3101:NO)、ステップS3102をスキップし、次の候補ブロックの動きベクトル値の有効/無効判断を行う。
【0177】
図32は、時間動き情報利用予測ベクトル候補リスト生成の詳細動作を説明するためのフローチャートである。実施の形態1においては、図18における時間的に隣接するブロック群の内、時間候補ブロック群をブロックHとブロックI6の2ブロックとする。時間動き情報利用予測ベクトル候補リスト生成においても、候補ブロックの数や位置に関しては限定されず、また結合動き情報において用いる候補ブロックの数や位置と別に設定することが可能である。
【0178】
時間候補ブロック群に含まれる2つの候補ブロックであるブロックHとブロックI6について(ステップ3200、ステップS3204)、候補ブロックの有効性を検査する(S3201)。候補ブロックが有効である場合(S3201:YES)、ステップS3202〜ステップS3203の処理が行われ、生成された動きベクトル値が予測ベクトル候補リストに登録され、処理が終了する。候補ブロックが画面領域外の位置を示す場合や、候補ブロックがイントラ予測ブロックである場合には、候補ブロックが有効でなく(S3201:NO)、次の候補ブロックの有効/無効判定が行われる。
【0179】
候補ブロックが有効である場合(S3201:YES)、候補ブロックの動き情報をもとに予測ベクトル候補に登録する動きベクトル値を確定する(S3202)。確定した動きベクトル値を予測ベクトル候補リストに追加して(S3203)、時間動き情報利用予測ベクトル候補リスト生成が終了する。
【0180】
図33は、図14のステップS1404の詳細動作を説明するためのフローチャートである。図14のステップS1404では、双予測モード評価値生成処理が行われる。
【0181】
最初に、L0予測に対する参照画像指定情報(インデックス)と動きベクトル値を取得する(S3300)。続いて、L0予測ベクトル候補リストを生成し(S3301)、予測ベクトルの中からL0予測における最適予測ベクトルを選択し、差分ベクトルを生成する(S3302)。これらの処理は、図29のフローチャート内の単予測モード評価値生成処理における、ステップ2900〜ステップS2902までの処理と同じ処理である。
【0182】
続いて、L1予測に対する参照画像指定情報(インデックス)と動きベクトル値を取得する(S3303)。続いて、L1予測ベクトル候補リストを生成し(S3304)、予測ベクトルの中からL1予測における最適予測ベクトルを選択し、差分ベクトルを生成する(S3305)。これらの処理も同様に、図29のフローチャート内の単予測モード評価値生成処理における、ステップ2900〜ステップS2902までの処理と同じ処理である。
【0183】
続いて、動き情報符号量を算出する(S3306)。双予測モードの場合には、符号化する動き情報としては、L0とL1の2つの参照画像に対する、参照画像指定情報、差分ベクトル値、及び予測ベクトルインデックスの計6要素となり、各々符号化された符号量の総量が動き情報符号量として算出される。そのため、結合予測モードや結合動き修正予測モードと比較して、符号化される動き情報の符号量は大きくなる。
【0184】
続いて、2つの参照画像に対する参照画像指定情報と動きベクトルを図1における動き補償予測部108に設定して、動き補償双予測ブロックを生成する(S3307)。さらに、動き補償予測ブロックと予測対象ブロックの予測誤差と動き情報符号量より、予測誤差評価値を算出し(S3308)、予測誤差評価値と、L0、L1の2つの参照画像に対する動き情報である、2つの参照画像指定情報と2つの差分ベクトル値と2つの予測ベクトルインデックスを動き補償予測ブロックと共に出力し(S3309)、双予測モード評価値生成処理を終了する。
【0185】
以上の処理が、実施の形態1における動画像符号化装置における予測モード判定部109の詳細動作となる。
【0186】
[実施の形態1における動画像符号化装置における動き情報符号化部の詳細動作説明]
図34は、図5のステップS504の詳細動作を説明するためのフローチャートである。図5のステップS504の処理は、実施の形態1の動画像符号化装置の動き情報符号化部110における、各動き補償予測モードに対する動き情報を符号化する処理を示す。
【0187】
動き情報符号化部110には、予測モード判定部109において決定された動き補償予測モードにおける、予測モードを示す情報と、各予測モードの動き情報を表現するために必要な情報が供給され、動き情報符号化部110は動き情報符号化データ生成処理を開始する。
【0188】
最初に、予測モードが結合予測モードである場合(S3400:YES)、ステップS3401に進み、対象となる予測ブロックで予測誤差信号を符号化しない(Skipモード)状態である場合(S3401:YES)、Skipフラグを符号化し(S3402)、そうでない場合(S3401:NO)、マージフラグを1として符号化する(S3403)。
【0189】
Skipフラグ或いはマージフラグを符号化した後、結合動き情報候補リストが1より大きい場合(S3404:YES)、結合動き情報インデックスを符号化し(S3405)、処理を終了する。結合動き情報候補リストが1の場合(S3404:NO)、結合動き情報が特定できるため、結合動き情報インデックスは伝送されない。
【0190】
次に、予測モードが結合予測モードでない場合(S3400:NO)、マージフラグを0として符号化し(S3406)、動き予測フラグを符号化する(S3407)。動き予測フラグは、予測種別が単予測であるか双予測であるかを指示する情報として符号化される。
【0191】
図35は、実施の形態1における動き予測フラグの一例を示す図である。動き予測フラグ(inter_pred_flag)として、単予測を示す値(Pred_LC)が0、双予測を示す値(Pred_BI)が1で符号化される。結合動き修正予測モードに関しては、動き補償予測の構造は双予測となり、Pred_BIとして動き予測フラグが送られる。
【0192】
続いて、動き予測フラグで示された予測種別が単予測である場合(S3408:YES)、単予測モードの動き情報伝送が行われる。最初に、参照画像指定情報(インデックス)を符号化し(S3409)、続いて、差分ベクトルを符号化する(S3410)。予測ベクトル候補リストが1より大きい場合(S3411:YES)、予測ベクトルインデックスを符号化し(S3412)、処理を終了する。予測ベクトル候補リストが1の場合(S3411:NO)、予測ベクトルが特定できるため、インデックスは伝送されない。
【0193】
一方、動き予測フラグで示された予測種別が単予測でない場合(S3408:NO)において、予測モードが結合動き修正予測モードである場合(S3413:YES)、結合動き修正予測モードの動き情報伝送が行われる。
【0194】
最初に、結合動き修正予測モードを特定するためのマージMvdフラグを1で符号化する(S3414)。続いて、結合動き情報候補リストが1より大きい場合(S3415:YES)、結合動き情報インデックスを符号化する(S3416)。結合動き情報候補リストが1の場合(S3415:NO)、結合動き情報インデックスは伝送されない。最後に、結合動き修正予測モードで特定された動き修正参照画像の動きベクトル値に対して、結合動き情報の動き修正参照画像の修正前動きベクトルとの差分ベクトル値を符号化し(S3417)、処理を終了する。
【0195】
予測モードが結合動き修正予測モードでない場合(S3413:NO)、予測モードは双予測モードとなり、双予測モードの動き情報伝送が行われる。最初に、結合動き修正予測モードでないことを示すためにマージMvdフラグを0で符号化する(S3418)。続いて、L0予測の動き情報であるL0参照画像指定情報を符号化し(S3419)、L0差分ベクトル値を符号化する(S3420)。L0予測の予測ベクトル候補リストが1より大きい場合(S3421:YES)、L0予測ベクトルインデックスを符号化する(S3422)。L0予測の予測ベクトル候補リストが1の場合(S3421:NO)、L0予測ベクトルインデックスは伝送されない。
【0196】
続いて、L1予測の動き情報であるL1参照画像指定情報を符号化し(S3423)、L1差分ベクトル値を符号化する(S3424)。L1予測の予測ベクトル候補リストが1より大きい場合(S3425:YES)、L1予測ベクトルインデックスを符号化する(S3426)。L1予測の予測ベクトル候補リストが1の場合(S3425:NO)、L1予測ベクトルインデックスは伝送されない。以上の処理により、動き情報符号化データの生成が終了する。
【0197】
図36は、図34のフローチャートで示した、動き情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す。図36の符号化シンタックスにおいては、Skipフラグの伝送は予測ブロック単位での動き情報の符号化より上の階層での符号化ブロック単位で選択される。従って、上位の符号化ブロックの単位で、図34の予測誤差信号を符号化しない(Skipモード)状態であるか否かの判定(S3401)が行われる。
【0198】
[実施の形態1における動画像復号装置における動き情報復号部の詳細動作説明]
図37は、図6に示した実施の形態1の動画像復号装置における動き情報復号部606の詳細な構成を示す図である。動き情報復号部606は、動き情報ビットストリーム復号部3700、予測ベクトル算出部3701、ベクトル加算部3702、動き補償単予測復号部3703、動き補償双予測復号部3704、結合動き情報算出部3705、結合動き補償予測復号部3706、及び結合動き修正動き補償予測復号部3707を含む。
【0199】
図6における動き情報復号部606に対して、多重分離部601より入力された動き情報ビットストリームが、動き情報ビットストリーム復号部3700に供給され、動き情報メモリ607より入力された動き情報が、予測ベクトル算出部3701、及び結合動き情報算出部3705に供給される。
【0200】
また、動き補償予測部608に対して、動き補償単予測復号部3703、動き補償双予測復号部3704、結合動き補償予測復号部3706、及び結合動き修正動き補償予測復号部3707から、動き補償予測に用いる参照画像指定情報と動きベクトルが出力され、予測種別を示す情報を含めた復号された動き情報が、動き情報メモリ607に格納される。
【0201】
動き情報ビットストリーム復号部3700は、多重分離部601より入力された動き情報ビットストリームを符号化シンタックスに従って復号していくことで、伝送された予測モードと、予測モードに応じた動き情報を生成する。生成した動き情報の中で、結合動き情報インデックスは、予測モードに応じて結合動き補償予測復号部3706、もしくは結合動き修正動き補償予測復号部3707に供給され、参照画像指定情報が予測ベクトル算出部3701に供給され、予測ベクトルインデックスがベクトル加算部3702に供給され、差分ベクトル値が予測モードに応じてベクトル加算部3702、もしくは結合動き修正動き補償予測復号部3707に供給される。
【0202】
予測ベクトル算出部3701は、動き情報メモリ607より供給された隣接ブロックの動き情報と、動き情報ビットストリーム復号部3700より供給された参照画像指定情報から、動き補償予測の対象となる参照画像に対する予測ベクトル候補リストを生成し、参照画像指定情報と共にベクトル加算部3702に供給する。予測ベクトル算出部3701の動作に関しては、図10の動画像符号化装置における予測ベクトル算出部1003と同一の動作が行われ、符号化時の予測ベクトル候補リストと同一の候補リストが生成される。
【0203】
ベクトル加算部3702は、予測ベクトル算出部3701より供給された予測ベクトル候補リスト及び参照画像指定情報と、動き情報ビットストリーム復号部3700から供給された予測ベクトルインデックス及び差分ベクトルより、予測ベクトルインデックスで示された位置に登録された予測ベクトル値と差分ベクトル値を加算することで、動き補償予測対象となる参照画像に対しての動きベクトル値が再生される。再生された動きベクトル値は、参照画像指定情報と共に、予測モードに応じて動き補償単予測復号部3703、もしくは動き補償双予測復号部3704に供給される。
【0204】
動き補償単予測復号部3703は、ベクトル加算部3702より1つの参照画像に対する、再生された動きベクトル値と参照画像指定情報が供給され、動きベクトル値と参照画像指定情報を動き補償予測部608に設定することで、動き補償予測信号を生成する。
【0205】
動き補償双予測復号部3704は、ベクトル加算部3702より双予測の2つの参照画像に対する、再生された動きベクトル値と参照画像指定情報が供給され、動きベクトル値と参照画像指定情報を動き補償予測部608に設定することで、動き補償予測信号を生成する。
【0206】
結合動き情報算出部3705は、動き情報メモリ607から供給される隣接ブロックの動き情報より、結合動き情報候補リストを生成し、結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値を、予測モードに応じて結合動き補償予測復号部3706、もしくは結合動き修正動き補償予測復号部3707に供給する。
【0207】
結合動き情報算出部3705の動作に関しては、図10の動画像符号化装置における結合動き情報算出部1007と同一の動作が行われ、符号化時の結合動き情報候補リストと同一の候補リストが生成される。
【0208】
結合動き補償予測復号部3706は、結合動き情報算出部3705より供給される結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値と、動き情報ビットストリーム復号部3700より供給される結合動き情報インデックスより、結合動き情報インデックスで示された結合動き情報候補リストにおける参照画像指定情報と動きベクトル値を再生し、動き補償予測部608に設定することで、動き補償予測信号を生成する。
【0209】
結合動き修正動き補償予測復号部3707は、結合動き情報算出部3705より供給される結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値と、動き情報ビットストリーム復号部3700より供給される結合動き情報インデックスより、結合動き修正予測モードに対する動き情報を算出し、動き修正参照画像を確定する。そして、動き修正参照画像の動きベクトル値に対して差分ベクトル値を加算することで、双予測の参照画像指定情報と動きベクトル値を再生し、動き補償予測部608に設定することで、動き補償予測信号を生成する。
【0210】
図38は、図7のステップS701の詳細動作を説明するためのフローチャートである。動き情報ビットストリーム復号部3700、予測ベクトル算出部3701、結合動き情報算出部3705、及び結合動き修正動き補償予測復号部3707により、図7のステップS701における動き情報復号処理が行われる。
【0211】
動き情報復号処理は、図36のシンタックス構造で符号化された符号化ビットストリームより動き情報を復号する処理である。最初に符号化ブロックの所定単位でSkipフラグを復号する(S3800)。以降は予測ブロック単位の処理となる。SkipフラグがSkipモードを示している場合(S3801:YES)、結合予測動き情報復号を行う(S3802)。ステップS3802の詳細処理については、後述する。
【0212】
Skipモードでない場合(S3801:NO)、マージフラグを復号する(S3803)。マージフラグが1を示している場合(S3804:YES)、ステップS3802の結合予測動き情報復号に進む。
【0213】
マージフラグが1でない場合(S3804:NO)、動き予測フラグを復号する(S3805)。動き予測フラグが単予測モードである場合(S3806:YES)、即ち図35におけるinter_pred_flagがPred_LCを示す場合、単予測動き情報復号を行う(S3807)。ステップS3807の詳細動作については、後述する。
【0214】
動き予測フラグが単予測モードを示していない場合(S3806:NO)、マージMvdフラグを復号する(S3808)。マージMvdフラグが1である場合(S3809:YES)、結合動き修正予測動き情報復号が行われ(S3810)、マージMvdフラグが1でない場合(S3809:NO)、双予測動き情報復号が行われる(S3811)。ステップS3810、及びステップS3811の詳細動作については、後述する。
【0215】
図39は、図38のステップS3802の詳細動作を説明するためのフローチャートである。図38のステップS3802では、結合予測動き情報復号処理が行われる。
【0216】
最初に予測モードに結合予測モードを設定し(S3900)、結合動き情報候補リストを生成する(S3901)。ステップS3901の処理は、図14のフローチャート内の、動画像符号化装置における結合動き情報候補リスト生成であるステップS1401と同一の処理である。
【0217】
結合動き情報候補リストが1よりも大きい場合(S3902:YES)、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し(S3903)、結合動き情報候補リストが1つの場合(S3902:NO)、結合動き情報インデックスに0を設定する(S3904)。
【0218】
続いて、結合動き情報候補リストより、結合動き情報インデックスで示す位置に格納されている動き情報を取得する(S3905)。取得する動き情報としては、単予測/双予測を示す予測種別、参照画像指定情報、動きベクトル値となる。生成された動き情報は、結合予測モードの動き情報として格納され(S3906)、結合動き補償予測復号部3706に供給される。
【0219】
図40は、図38のステップS3807の詳細動作を説明するためのフローチャートである。図38のステップS3807では、単予測動き情報復号処理が行われる。
【0220】
最初に参照画像指定情報を復号し(S4000)、差分ベクトル値を復号する(S4001)。次に、予測ベクトル候補リストを生成し(S4002)、予測ベクトル候補リストが1より大きい場合(S4003:YES)、予測ベクトルインデックスを復号し(S4004)、予測ベクトル候補リストが1の場合(S4003:NO)、予測ベクトルインデックスに0を設定する(S4005)。
【0221】
ここで、ステップS4002では、動画像符号化装置における図29のフローチャートのステップS2901と同様の処理が行われる。次に、予測ベクトル候補リストより、予測ベクトルインデックスで示す位置に格納されている動きベクトル値を取得する(S40006)。復号した差分ベクトル値と動きベクトル値を加算することで動きベクトルを再生する(S4007)。生成された動き情報として、1つの参照画像に対する参照画像指定情報と動きベクトル値が、単予測モードの動き情報として格納され(S4008)、動き補償単予測復号部3703に供給される。
【0222】
図41は、図38のステップS3811の詳細動作を説明するためのフローチャートである。図38のステップS3811では、双予測動き情報復号処理が行われる。
【0223】
最初にL0予測の参照画像指定情報を復号し(S4100)、差分ベクトル値を復号する(S4101)。次に、L0予測の予測ベクトル候補リストを生成し(S4102)、予測ベクトル候補リストが1より大きい場合(S4103:YES)、L0予測の予測ベクトルインデックスを復号する(S4104)。予測ベクトル候補リストが1の場合(S4103:NO)、L0予測の予測ベクトルインデックスに0を設定する(S4105)。ステップS4102では、動画像符号化装置における図33のフローチャートのステップS3301と同様の処理が行われる。
【0224】
次に、予測ベクトル候補リストより、L0予測の予測ベクトルインデックスで示す位置に格納されている動きベクトル値を取得する(S4106)。復号した差分ベクトル値と動きベクトル値を加算することで動きベクトルを再生する(S4107)。
【0225】
続いて、同様の動き情報復号処理がL1予測の参照画像に対して行われる。L1予測の参照画像指定情報を復号し(S4108)、差分ベクトル値を復号し(S4109)。L1予測の予測ベクトル候補リストを生成し(S4110)、予測ベクトル候補リストが1より大きい場合(S4111:YES)、L1予測の予測ベクトルインデックスを復号する(S4112)。予測ベクトル候補リストが1の場合(S4111:NO)、L1予測の予測ベクトルインデックスに0を設定する(S4113)。ステップS4113では、動画像符号化装置における図33のフローチャートのステップS3304と同様の処理が行われる。
【0226】
次に、予測ベクトル候補リストより、L1予測の予測ベクトルインデックスで示す位置に格納されている動きベクトル値を取得する(S4114)。復号した差分ベクトル値と動きベクトル値を加算することで動きベクトルを再生する(S4115)。生成された動き情報として、2つの参照画像に対する参照画像指定情報と動きベクトル値が、双予測モードの動き情報として格納され(S4116)、動き補償双予測復号部3704に供給される。
【0227】
図42は、図38のステップS3810の詳細動作を説明するためのフローチャートである。図38のステップS3810では、結合動き修正予測動き情報復号処理が行われる。
【0228】
最初に予測モードに結合動き修正予測モードを設定し(S4200)、結合動き情報候補リストを生成する(S4201)。ステップS4201では、動画像符号化装置における図14のフローチャートのステップS1401と同一の処理が行われる。
【0229】
結合動き情報候補リストが1よりも大きい場合(S4202:YES)、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し(S4203)、結合動き情報候補リストが1つの場合(S4202:NO)、結合動き情報インデックスに0を設定する(S4204)。
【0230】
続いて、結合動き情報候補リストより、結合動き情報インデックスで示す位置に格納されている動き情報を取得する(S4205)。取得する動き情報としては、単予測/双予測を示す予測種別、参照画像指定情報、動きベクトル値となる。
【0231】
次に、取得された結合動き情報インデックスと動き情報をもとに、結合動き修正動き補償予測復号部3707において、双予測動きベクトル値と差分ベクトルを伝送する参照画像確定処理を行う(S4206)。ステップS4206では、動画像符号化装置における図22のフローチャートのステップS2203と同一の処理が行われる。更に詳細な処理内容に関しては、図26、図27、図28に示されるフローチャートの処理が施され、動画像符号化装置と同じ双予測動きベクトル値と差分ベクトルを伝送する参照画像の確定が行われる。
【0232】
次に、確定した差分ベクトルを伝送する参照画像である動き修正参照画像に対して、動き情報として格納された修正前の動きベクトル値に対する、差分ベクトルを復号し(S4207)、修正前の動きベクトル値に差分ベクトルを加算することで、動き修正参照画像の動きベクトル値を算出する(S4208)。
【0233】
結合動き情報インデックスで示す位置に格納されている動き情報に対して、予測種別は双予測に設定されると共に、動き情報が単予測であった場合の第2参照画像を指定する参照画像指定情報と動き修正参照画像における更新された動きベクトル値が、動き情報として格納され(S4209)、結合動き修正動き補償予測復号部3707より、図6における動き補償予測部608及び動き情報メモリ607に出力される。
【0234】
実施の形態1における、動画像符号化装置及び動画像復号装置においては、従来の動画像符号化手法であるAVCにおける動き補償予測に対して、より多くの隣接ブロックの動き情報を選択候補として用いることで、周囲の動き情報をより有効に利用できる候補として登録し、周囲の動き情報に対して動きベクトル値の修正情報を差分ベクトルとして符号化する構成を取る新規の予測モードである結合動き修正予測モードを用いた。これにより、動き情報の相関性が高いが動きの連続性が十分保たれていない場合や、他ブロックの動き情報における動きベクトルが予測残差を符号化した際の歪などの要因で正確な動きに対してずれを生じている場合などに、隣接ブロックから生成される動き情報に対して、少ない情報で適切な動きベクトルの修正が出来、少ない付加情報で予測残差が少ない動き補償予測信号を生成する、符号化装置及び復号装置を実現できる。
【0235】
また、実施の形態1における、動画像符号化装置及び動画像復号装置においては、動きベクトルを修正する参照画像の設定を、周囲の動き情報に格納された予測モードや周囲の動き情報から結合する動き情報を取得する際の取得方法を基準に、結合する動き情報における動きベクトルの信頼度を評価し、修正する必要のある参照画像を特定する。これにより、符号化時に伝送する指定情報を追加せずに、適切な動きベクトルの修正を可能とする効果を有する。
【0236】
また、実施の形態1における、動画像符号化装置及び動画像復号装置においては、結合予測モードと共用して結合動き修正予測モードの基準参照画像及び基準動きベクトルが決定・算出される。これにより、結合動き修正予測モード用の新たな処理を最小限に抑制しつつ、付加情報を少なく符号化できる結合動き修正予測モードを具備することができる。
【0237】
また、実施の形態1における、動画像符号化装置及び動画像復号装置においては、周囲の動き情報における動きベクトルが単予測の動きベクトルしかない場合においても、参照画像の位置に応じて1倍または−1倍することにより、より少ない負荷と符号量で双予測を行う結合動き修正予測モードを使用することができ、以降に符号化・復号するブロックで参照する隣接ブロックの動き情報を増やすことができるため、符号化効率を向上させることができる。
【0238】
(実施の形態2)
次に、本発明の実施の形態2についての説明を行う。実施の形態2は、実施の形態1に対して、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理が異なる。結合動き情報に対するスケーリング処理以外の構成および処理は実施の形態1と同一であるので、ここでは図10の予測モード判定部109における結合動き情報に対するスケーリング処理の実施の形態1との差異のみ説明する。
【0239】
図43(a)〜(c)は、実施の形態2における結合動き情報に対するスケーリング処理の概念を示す図である。結合動き情報としては、図43(a)に示す空間隣接ブロックから算出された予測種別が双予測である空間BiPredと、図43(b)に示す空間隣接ブロックから算出された予測種別が単予測である空間UniPredと、図43(c)に示す時間連接ブロックから算出された時間BiPredが存在する。
【0240】
実施の形態2における、結合動き情報に対するスケーリング処理は、双予測の動き情報が取得できる空間BiPred及び時間BiPredにおいては、結合動き情報算出時に施された動きベクトルをそのまま用い、時間UniPredに関しては、単予測で定義されている動きベクトル値を、符号化対象画像とL0の参照画像、L1の参照画像との符号化対象画像とL0の参照画像、L1の参照画像との距離比率を整数にしてスケーリングすることで、使用されていなかった参照画像リストの動きベクトルを生成する。
【0241】
すなわち、図23(b)に示すように、L0予測の動きベクトル値mvL0のみが定義されている場合、符号化対象画像のPOCの値からL0の参照画像のPOCの値を減算して得られる画像間距離をCurrL0Dist、符号化対象画像のPOCの値からL1の参照画像のPOCの値を減算して得られる画像間距離をCurrL1Dist、スケール係数をScaleFactorとすると、スケール係数ScaleFactorおよび他方の動きベクトル値mvL1は下記式3、式4で算出される。
ScaleFactor=Int(CurrL1Dist/CurrL0Dist)
・・・(式3)
mvL1=ScaleFactor×mvL0
・・・(式4)
ここで、式3のInt( )は、整数値を示す。
【0242】
ここで、スケール係数ScaleFactorの導出は、式3の演算を行う代わりに予め計算して記録された図49のテーブルから導出し、除算は行わない。図49はCurrL0DistおよびCurrL1Distの絶対値から、除算結果を得るテーブルである。CurrL0DistおよびCurrL1Distの正負の符号が異なる場合には、図49のテーブルを参照して得られた値の符号を反転する。なお、CurrL0Dist、CurrL1Distの値が図49のテーブルの範囲外の値である場合は、スケール係数ScaleFactorは1とする。
【0243】
以上の処理を単予測で定義されている動きベクトルに対して行うことにより、単予測で定義されている動きベクトルから他方のベクトルを生成することができる。この点が本実施の形態において符号化効率を向上する特徴的な構成であり、処理対象ブロックに隣接するブロックの動き情報が単予測の場合においても、複雑な処理を行うことなく他方のベクトルを生成して双予測を行うことが可能である。
【0244】
特に、実施の形態2における、結合動き情報に対するスケーリング処理は、L0の参照画像、L1の参照画像との距離比率を用いて整数値であるスケール係数を導出しているので、通常の画像間距離に応じたスケーリング演算を行った場合と比較して大きな誤差が生じることはなく、また、符号化対象画像とL0の参照画像、L1の参照画像との距離に応じたスケール係数を予めテーブル化しておくことにより、少ない処理量で双予測を行う結合動き修正予測モードを使用することができ、以降に符号化・復号するブロックで参照する隣接ブロックの動き情報を増やすことができるため、符号化効率を向上させることができる。
【0245】
(実施の形態3)
次に、本発明の実施の形態3についての説明を行う。実施の形態3は、実施の形態1に対して、結合動き修正動き補償予測生成部1009の構成が異なる。結合動き修正動き補償予測生成部1009の構成および結合動き修正動き補償予測生成部1009における結合動き修正予測モード評価値生成処理およびステップS701における動き情報復号処理以外の構成および処理は実施の形態1と同一であるので、ここでは結合動き修正動き補償予測生成部1009における結合動き修正予測モード評価値生成処理の実施の形態1との差異のみ説明する。
【0246】
図45は、結合動き修正動き補償予測生成部1009の構成を示す図である。結合動き修正動き補償予測生成部1009は、結合動き情報確定部4504、基準参照画像・動き修正参照画像選択部4500、動き修正参照画像動きベクトル取得部4501、結合動き情報修正動き補償予測生成部4502、及び差分ベクトル算出部4503を含む。
【0247】
結合動き情報確定部4504は、登録された結合動き情報候補に対して1つの結合動き情報を確定させる機能を有し、基準参照画像・動き修正参照画像選択部4500は確定した1つの結合動き情報に対して、双予測の動き情報を算出して動きベクトル値を修正する参照画像を特定する機能を有する。この結合動き情報確定部4504を設けた構成が、本発明の実施の形態3における特徴的な構成であり、動き情報候補の選択に要する処理の負荷も最小限に抑制しつつ、付加情報を少なく符号化を行うことが可能である。
【0248】
図46は、図45の結合動き修正動き補償予測生成部1009の構成を用いた結合動き修正予測モード評価値生成の詳細動作を説明するためのフローチャートである。
【0249】
最初に結合動き情報リストより動き情報を利用するインデックスiを決定する(S4600)。実施の形態3においては、結合動き情報候補リスト生成処理により生成された結合動き情報候補リストの数をnum_of_indexとした場合に、リストの先頭であるi=0の結合動き情報候補を確定した動き情報として用いる。このステップS4600における動作が、図45における結合動き情報確定部4504の詳細な動作であり、これ以降の各ステップの動作は実施の形態1における図22の対応する各ステップの動作と同様であるから説明を省略する。
【0250】
図47は、図7のステップS701の詳細動作を説明するためのフローチャートである。動き情報ビットストリーム復号部3700、予測ベクトル算出部3701、結合動き情報算出部3705、及び結合動き修正動き補償予測復号部3707により、図7のステップS701における動き情報復号処理が行われる。
【0251】
動き情報復号処理は、図36のシンタックス構造で符号化された符号化ビットストリームより動き情報を復号する処理である。最初に符号化ブロックの所定単位でSkipフラグを復号する(S4700)。以降は予測ブロック単位の処理となる。SkipフラグがSkipモードを示している場合(S4701:YES)、結合予測動き情報復号を行う(S4702)。
【0252】
Skipモードでない場合(S4701:NO)、マージフラグを復号する(S4703)。マージフラグが1を示している場合(S4704:YES)、ステップS4702の結合予測動き情報復号に進む。
【0253】
マージフラグが1でない場合(S4704:NO)、マージMvdフラグを復号する(S4705)。マージMvdフラグが1でない場合(S4706:NO)、動き予測フラグを復号する(S4707)。動き予測フラグが単予測である場合(S4708:YES)、即ち図35におけるinter_pred_flagがPred_LCを示す場合、単予測動き情報復号を行う(S4709)。
【0254】
動き予測フラグが単予測を示していない場合(S4708:NO)、双予測動き情報復号が行われる(S4710)。また、マージMvdフラグが1である場合(S4706:YES)には、結合動き修正予測動き情報復号が行われる(S4711)。このステップS4711における結合動き修正予測動き情報復号処理が実施の形態3と実施の形態1との差異である。
【0255】
図48は、図47のステップS4711の詳細動作を説明するためのフローチャートである。図47のステップS4711では、結合動き修正予測動き情報復号処理が行われる。
【0256】
最初に予測モードに結合動き修正予測モードを設定し(S4800)、結合動き情報候補リストを生成する(S4801)。ステップS4801では、動画像符号化装置における図14のフローチャートのステップS1401と同一の処理が行われる。
【0257】
続いて、結合動き情報候補リストより動き情報を使用するインデックスiを暗黙で指定する(S4802)。インデックスiに関しては、実施の形態3の動画像符号化装置における図46のフローチャートのステップS4600と同様の指定を行い、結合動き情報候補リスト生成処理により生成された結合動き情報候補リストの数をnum_of_indexとした場合に、リストの先頭であるi=0の結合動き情報候補を確定した動き情報として用いる。以降の各ステップの動作は実施の形態1の図42の対応する各ステップの動作と同様であるから説明を省略する。
【0258】
以上の構成および動作により、結合予測モードで用いられる結合動き情報候補リストより所定の規則に従い1つの動き情報を特定し、結合動き修正予測モードの基準参照画像及び基準動きベクトルが決定・算出される。そのため、結合動き修正予測モードでは、結合動き情報候補リスト生成処理における、図12の結合動き情報候補リスト削除部1201及び図15のS1502の処理が不要になり演算量が削減できるとともに、動き情報候補を生成するための新たな処理を最小限に抑制し、動き情報候補の選択に要する処理の負荷も最小限に抑制しつつ、付加情報を少なく符号化できる。
【0259】
結合動き情報候補リストには、優先順位が高い順に、少なくとも一つの結合動き情報候補が登録されている。例えば、複数の結合動き情報候補のうち、符号化対象ブロックに対する隣接度が相対的に高い順に結合動き情報候補が選択され、結合動き情報候補リストに登録される。また、空間候補ブロックが時間候補ブロックより先に選択される。実施の形態3の結合動き修正予測モードにおける、動き情報を使用するインデックスiを黙示的に指定する処理(動画像符号化装置:図46のS4600、動画像復号装置:図48のS4802)は、結合動き情報候補リスト生成処理により生成された結合動き情報候補リストの数をnum_of_indexとした場合に、リストの先頭であるi=0の結合動き情報候補を、動き情報を使用するインデックスとして確定する処理になっているが、1つのインデックスを特定する機能を有すればよく、他の確定アルゴリズムを用いてもよい。
【0260】
例えば、結合動き情報候補リストの最後の結合動き情報候補であるi=num_of_index−1の結合動き情報候補をインデックスとして確定するアルゴリズムや、結合動き情報候補リストのインデックスの小さい順に結合動き情報の内容を確認し、最初に空間BiPredもしくは時間BiPRedの動き情報(即ち、双予測の動き情報)が格納されたインデックスを結合動き修正予測モードにおけるインデックスとして確定してもよい。
【0261】
インデックスi=0を暗黙のインデックスとして特定する場合には、結合予測モードにおいて優先度の高い動き情報を用いることで、有効な動き情報を使用できる可能性が高くなると共に、リストの最初の動き情報を固定で取得することができるため、動き情報の取得処理がシンプルに構成できる利点がある。
【0262】
インデックスi=num_of_index−1を暗黙のインデックスとして特定する場合には、結合予測モードにおいて優先度の低い動き情報を用いることで、結合予測モードにおいて選択されにくい動き情報に差分ベクトルを加え、有効な動き情報として伝送することが可能となり、結合予測モードとの選択における情報量における重複度を少なくすることが出来る利点がある。
【0263】
結合動き情報候補リストのインデックスの小さい順に結合動き情報の内容を確認し、最初に空間BiPredもしくは時間BiPRedの動き情報が格納されたインデックスを、暗黙のインデックスとして特定する場合には、有効な動き情報がより多く格納されている可能性の高いBiPredの動き情報を優先的に用いることにより、結合動き修正予測モードにおいて、品質の良い動き補償予測ブロックを生成する可能性を高めることが出来る利点がある。
【0264】
これらのインデックスを特定するアルゴリズムに関しては、1つの手法を固定的に適用する構成に加えて、所定単位に上記アルゴリズムを特定する情報を符号化することで、選択的にインデックスの取得アルゴリズムを切り替えることも可能である。
【0265】
以上述べた実施の形態の動画像符号化装置が出力する動画像の符号化ストリームは、実施の形態で用いられた符号化方法に応じて復号することができるように特定のデータフォーマットを有しており、動画像符号化装置に対応する動画像復号装置がこの特定のデータフォーマットの符号化ストリームを復号することができる。
【0266】
動画像符号化装置と動画像復号装置の間で符号化ストリームをやりとりするために、有線または無線のネットワークが用いられる場合、符号化ストリームを通信路の伝送形態に適したデータ形式に変換して伝送してもよい。その場合、動画像符号化装置が出力する符号化ストリームを通信路の伝送形態に適したデータ形式の符号化データに変換してネットワークに送信する動画像送信装置と、ネットワークから符号化データを受信して符号化ストリームに復元して動画像復号装置に供給する動画像受信装置とが設けられる。
【0267】
動画像送信装置は、動画像符号化装置が出力する符号化ストリームをバッファするメモリと、符号化ストリームをパケット化するパケット処理部と、パケット化された符号化データをネットワークを介して送信する送信部とを含む。動画像受信装置は、パケット化された符号化データをネットワークを介して受信する受信部と、受信された符号化データをバッファするメモリと、符号化データをパケット処理して符号化ストリームを生成し、動画像復号装置に提供するパケット処理部とを含む。
【0268】
また、以上の符号化及び復号に関する処理は、ハードウェアを用いた伝送、蓄積、受信装置として実現することができるのは勿論のこと、ROM(Read Only Memory)やフラッシュメモリ等に記憶されているファームウェアや、コンピュータ等のソフトウェアによっても実現することができる。そのファームウェアプログラム、ソフトウェアプログラムをコンピュータ等で読み取り可能な記録媒体に記録して提供することも、有線あるいは無線のネットワークを通してサーバから提供することも、地上波あるいは衛星ディジタル放送のデータ放送として提供することも可能である。
【0269】
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
【符号の説明】
【0270】
100 入力端子、 101 減算部、 102 直交変換・量子化部、 103 予測誤差符号化部、 104 逆量子化・逆変換部、 105 加算部、 106 復号画像メモリ、 107 動きベクトル検出部、 108 動き補償予測部、 109 予測モード判定部、 110 動き情報符号化部、 111 動き情報メモリ、 112 多重化部、 113 出力端子、 600 入力端子、 601 多重分離部、 602 予測差分情報復号部、 603 逆量子化・逆変換部、 604 加算部、 605 復号画像メモリ、 606 動き情報復号部、 607 動き情報メモリ、 608 動き補償予測部、 609 出力端子、 1000 動き補償単予測生成部、 1001 動き補償双予測生成部、 1002 予測誤差算出部、 1003 予測ベクトル算出部、 1004 差分ベクトル算出部、 1005 動き情報符号量算出部、 1006 予測モード評価部、 1007 結合動き情報算出部、 1008 結合動き補償予測生成部、 1009 結合動き修正動き補償予測生成部、 1100 予測ベクトル候補リスト生成部、 1101 予測ベクトル候補リスト削除部、 1200 結合動き情報候補リスト生成部、 1201 結合動き情報候補リスト削除部、 1300 基準参照画像・動き修正参照画像選択部、 1301 動き修正参照画像動きベクトル取得部、 1302 結合動き情報修正動き補償予測生成部、 1303 差分ベクトル算出部、 3700 動き情報ビットストリーム復号部、 3701 予測ベクトル算出部、 3702 ベクトル加算部、 3703 動き補償単予測復号部、 3704 動き補償双予測復号部、 3705 結合動き情報算出部、 3706 結合動き補償予測復号部、 3707 結合動き修正動き補償予測復号部、 4500 基準参照画像・動き修正参照画像選択部、 4501 修正参照画像動きベクトル取得部、 4502 情報修正動き補償予測生成部、 4503 差分ベクトル算出部、 4504 結合動き情報確定部。

【特許請求の範囲】
【請求項1】
動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化された符号列を復号する画像復号装置であって、
前記符号列に多重化された予測誤差信号の符号化データと動き情報の符号化データを分離する多重分離部と、
前記予測誤差信号の符号化データを復号する予測誤差信号復号部と、
前記動き情報の符号化データを復号する動き情報復号部と、
前記動き情報復号部により復号された復号対象ブロックの動き情報をもとに生成される予測信号と、前記予測誤差信号復号部により復号された復号対象ブロックの予測誤差信号を加算して前記復号対象ブロックの画像信号を再生する加算部とを備え、
前記復号対象ブロックの動き情報には、前記復号対象ブロックに隣接する参照ブロックのインデックス、及び前記復号対象ブロックの動きベクトルと前記参照ブロックの動きベクトルとの差分ベクトルが符号化されており、前記動き情報復号部は、前記差分ベクトルを復号して前記参照ブロックの動きベクトルを修正し、前記復号対象ブロックの動きベクトルを生成し、
前記動き情報復号部は、前記参照ブロックの動き情報から取得される予測種別が単予測の場合、双予測の動きベクトルを生成するために、前記単予測の動きベクトルを第1予測の動きベクトルとし、前記第1予測の動きベクトルを整数倍することにより第2予測の動きベクトルを生成することを特徴とする画像復号装置。
【請求項2】
前記整数倍は、−1倍または1倍であることを特徴とする請求項1に記載の画像復号装置。
【請求項3】
前記動き情報復号部は、前記第2予測の動きベクトルについて、前記復号対象ブロックの動きベクトルとの差分ベクトルを前記動き情報の符号化データから復号することを特徴とする請求項1または2に記載の画像復号装置。
【請求項4】
動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化された符号列を復号する画像復号方法であって、
前記符号列に多重化された予測誤差信号の符号化データと動き情報の符号化データを分離する多重分離ステップと、
前記予測誤差信号の符号化データを復号する予測誤差信号復号ステップと、
前記動き情報の符号化データを復号する動き情報復号ステップと、
前記動き情報復号ステップにより復号された復号対象ブロックの動き情報をもとに生成される予測信号と、前記予測誤差信号復号ステップにより復号された復号対象ブロックの予測誤差信号を加算して前記復号対象ブロックの画像信号を再生する加算ステップとを備え、
前記復号対象ブロックの動き情報には、前記復号対象ブロックに隣接する参照ブロックのインデックス、及び前記復号対象ブロックの動きベクトルと前記参照ブロックの動きベクトルとの差分ベクトルが符号化されており、前記動き情報復号ステップは、前記差分ベクトルを復号して前記参照ブロックの動きベクトルを修正し、前記復号対象ブロックの動きベクトルを生成し、
前記動き情報復号ステップは、前記参照ブロックの動き情報から取得される予測種別が単予測の場合、双予測の動きベクトルを生成するために、前記単予測の動きベクトルを第1予測の動きベクトルとし、前記第1予測の動きベクトルを整数倍することにより第2予測の動きベクトルを生成することを特徴とする画像復号方法。
【請求項5】
動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化された符号列を復号する画像復号プログラムであって、
前記符号列に多重化された予測誤差信号の符号化データと動き情報の符号化データを分離する多重分離ステップと、
前記予測誤差信号の符号化データを復号する予測誤差信号復号ステップと、
前記動き情報の符号化データを復号する動き情報復号ステップと、
前記動き情報復号ステップにより復号された復号対象ブロックの動き情報をもとに生成される予測信号と、前記予測誤差信号復号ステップにより復号された復号対象ブロックの予測誤差信号を加算して前記復号対象ブロックの画像信号を再生する加算ステップとをコンピュータに実行させ、
前記復号対象ブロックの動き情報には、前記復号対象ブロックに隣接する参照ブロックのインデックス、及び前記復号対象ブロックの動きベクトルと前記参照ブロックの動きベクトルとの差分ベクトルが符号化されており、前記動き情報復号ステップは、前記差分ベクトルを復号して前記参照ブロックの動きベクトルを修正し、前記復号対象ブロックの動きベクトルを生成し、
前記動き情報復号ステップは、前記参照ブロックの動き情報から取得される予測種別が単予測の場合、双予測の動きベクトルを生成するために、前記単予測の動きベクトルを第1予測の動きベクトルとし、前記第1予測の動きベクトルを整数倍することにより第2予測の動きベクトルを生成することを特徴とする画像復号プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate

【図30】
image rotate

【図31】
image rotate

【図32】
image rotate

【図33】
image rotate

【図34】
image rotate

【図35】
image rotate

【図36】
image rotate

【図37】
image rotate

【図38】
image rotate

【図39】
image rotate

【図40】
image rotate

【図41】
image rotate

【図42】
image rotate

【図43】
image rotate

【図44】
image rotate

【図45】
image rotate

【図46】
image rotate

【図47】
image rotate

【図48】
image rotate

【図49】
image rotate


【公開番号】特開2013−106313(P2013−106313A)
【公開日】平成25年5月30日(2013.5.30)
【国際特許分類】
【出願番号】特願2011−250824(P2011−250824)
【出願日】平成23年11月16日(2011.11.16)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】