画像符号化装置、画像符号化方法及び画像符号化プログラム
【課題】動き補償予測を使用する際の符号化効率を向上させる。
【解決手段】候補リスト生成部は符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成する。予測モード判定部１０９は符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択可能である。動き情報符号化部１１０は第１予測モードにおいて、候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと第１動きベクトルとの差分ベクトル、及び第１動きベクトルの参照画像を特定するための情報を符号化し、第２予測モードにおいて、候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する。
【解決手段】候補リスト生成部は符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成する。予測モード判定部１０９は符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択可能である。動き情報符号化部１１０は第１予測モードにおいて、候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと第１動きベクトルとの差分ベクトル、及び第１動きベクトルの参照画像を特定するための情報を符号化し、第２予測モードにおいて、候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、動き補償予測を用いた動画像符号化技術に関し、特に動き補償予測に利用する画像符号化装置、画像符号化方法及び画像符号化プログラムに関する。
【背景技術】
【０００２】
ＭＰＥＧ−４ ＡＶＣ／Ｈ．２６４（以後、ＡＶＣ）等に代表される動画像符号化では、時間方向の相関を利用した情報圧縮として、符号化対象となる画像信号である符号化対象ピクチャに対して、既に符号化され復号された局部復号信号を参照ピクチャとして用い、所定の符号化処理単位で、対象ピクチャと参照ピクチャとの間での動き量（以後、動きベクトル）を検出し、予測信号を生成する動き補償予測が用いられる。
【０００３】
ＡＶＣでは、動き補償予測において１つの参照ピクチャから１本の動きベクトルを利用して単一方向に予測信号を生成する片方向予測と、２つの参照ピクチャから２本の動きベクトルを利用して双方向に予測信号を生成する双方向予測が用いられる。これらを所定の符号化処理単位となる１６×１６画素の２次元ブロック内で処理対象となっているブロック（以後、予測対象ブロック）の大きさを可変にする手法や、複数の参照ピクチャの中から予測に用いる参照ピクチャを選択する手法に適用することで、予測信号の情報量を削減している。符号化側では、予測モード情報や参照画像を指定する情報を選択して伝送し、復号側では、伝送された予測モード情報や参照画像を指定する情報に従って動き補償予測処理が施される。
【０００４】
動きベクトルについては、処理対象ブロックに隣接する符号化済みのブロックの動きベクトルを予測動きベクトル（以降、予測ベクトル）とし、処理対象ブロックの動きベクトルと予測ベクトルとの差分を求め、差分ベクトルを符号化ベクトルとして伝送することで圧縮効率を向上させている。
【０００５】
更に、ＡＶＣにおいては、予測対象ブロックと同一位置にある参照ピクチャのブロックの符号化に用いられた動きベクトルを利用して、符号化ベクトルを伝送することなく動き補償予測を実現するダイレクト動き補償予測が知られている。
【０００６】
また、他の符号化ベクトルを伝送しない手法として、処理対象ブロックに隣接するブロックの動き情報を利用して、動き補償予測を実現する動き補償予測が知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開平１０−２７６４３９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００８】
上述したダイレクト動き補償予測は、予測対象ブロックと同一位置にある参照ピクチャのブロックにおける時間方向の動きの連続性に着目し、上述した符号化ベクトルを伝送しない動き補償予測は、予測対象ブロックと予測対象ブロックに隣接する符号化済ブロックにおける空間方向の動きの連続性に着目することで、他のブロックの動き情報をそのまま利用する。これにより、差分ベクトルを符号化ベクトルとして符号化せずに符号化効率を向上させている。
【０００９】
しかしながら、動きの連続性が十分保たれていない場合や、他ブロックの動き情報における動きベクトルが正確な動きを示していない場合などに、他のブロックの動き情報をそのまま利用する方式を用いた際には、ずれの生じた動き情報を用いた予測画像が生成される。その場合、精度良い動き補償予測画像を生成できず、符号化効率が向上しないという難しい面がある。
【００１０】
また、差分動きベクトルを符号化せずに動き補償を行わない場合には、差分動きベクトルを符号化する従来の動き補償予測が用いられるが、従来の動き補償予測を行う際には、予測モード情報や参照画像の指定情報、更に指定された参照画像に対して用いられる動きベクトルを予測ベクトルとの差分ベクトルとして、それぞれ符号化する必要がある。この場合、動き補償予測手法を指定する符号量が増大し、十分に符号化効率が向上しないという難しい面がある。
【００１１】
本発明はこうした状況に鑑みてなされたものであり、その目的は、動き補償予測を使用する際の符号化効率を向上させる技術を提供することにある。
【課題を解決するための手段】
【００１２】
上記課題を解決するために、本発明のある態様の画像符号化装置は、動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化装置であって、符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成する候補リスト生成部（１２００）と、前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択可能な予測モード判定部（１０９）と、前記予測モード判定部（１０９）から供給される予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化する予測誤差信号符号化部（１０３）と、前記予測モード判定部（１０９）から供給される動き情報を符号化する動き情報符号化部（１１０）と、前記予測誤差信号符号化部（１０３）から供給される符号化データと、前記動き情報符号化部（１１０）から供給される符号化データとを多重化する多重化部（１１２）と、を備える。前記動き情報符号化部（１１０）は、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する。
【００１３】
前記動き情報符号化部（１１０）は、前記第１予測モードにおいて、前記第２動きベクトルを特定するための情報として、前記候補リストから当該第２動きベクトルを含む動き情報を特定するための情報を符号化してもよい。
【００１４】
前記第２予測モードには、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報をそのまま使用して生成する予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルを前記第１動きベクトルを用いて修正して使用する予測モードがあり、前記予測モード判定部（１０９）は、それら二つの予測モードの少なくとも一方を選択可能であってもよい。
【００１５】
前記予測モード判定部（１０９）は、参照ブロック候補の動き情報から特定される、空間隣接か時間隣接かの違い、予測方向、第２動きベクトルのスケーリングの有無、及び前記符号化対象ブロックとの時間距離の少なくとも一つを参照して、前記差分ベクトルの対象となる参照画像を選択してもよい。
【００１６】
前記予測モード判定部（１０９）は、参照ブロック候補の動き情報から取得される予測方向が片方向の場合、その片方向の第２動きベクトルを用いて他方の第２動きベクトルを生成し、双方向の動きベクトルを生成してもよい。
【００１７】
本発明の別の態様は、画像符号化方法である。この方法は、動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化方法であって、符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成するステップと、前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択するステップと、選択された予測モードで生成された予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化するステップと、選択された予測モードで使用される動き情報を符号化するステップと、前記予測誤差信号の符号化データと、前記動き情報の符号化データとを多重化するステップと、を備える。前記動き情報を符号化するステップは、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する。
【００１８】
なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。
【発明の効果】
【００１９】
本発明によれば、動き補償予測を使用する際の符号化効率を向上させることができる。
【図面の簡単な説明】
【００２０】
【図１】本発明の実施の形態１に係る動画像符号化装置の構成を示す図である。
【図２】符号化対象画像の一例を示す図である。
【図３】予測ブロックサイズの詳細な定義を示す図である。
【図４】図４（ａ）〜（ｄ）は、動き補償予測の予測方向について説明するための図である。
【図５】本発明の実施の形態１に係る動画像符号化装置における符号化処理の動作の流れ示すフローチャートである。
【図６】本発明の実施の形態１に係る動画像復号装置の構成を示す図である。
【図７】本発明の実施の形態１に係る動画像復号装置における復号処理の動作の流れを示すフローチャートである。
【図８】図８（ａ）、（ｂ）は、本発明の実施の形態１における動き補償予測において使用される動き情報を符号化するための３つの予測モードを説明するための図である。
【図９】動き補償予測および動き補償予測を実施しない画面内予測における、動き補償の予測方向と、参照画像を定義する情報、及び符号化する動きベクトル数の関連に関して説明するための図である。
【図１０】実施の形態１の動画像符号化装置におけるモード判定部の詳細な構成を示す図である。
【図１１】結合動き情報算出部の構成を示す図である。
【図１２】結合動き修正動き補償予測生成部の構成を示す図である。
【図１３】図１０の予測モード判定部を介して動作する、図５のステップＳ５０２である動き補償予測モード／予測信号生成の動作について説明するためのフローチャートである。
【図１４】図１３のステップＳ１４００における結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。
【図１５】空間結合動き情報候補リスト生成に用いる空間候補ブロック群を示す図である。
【図１６】空間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。
【図１７】時間結合動き情報候補リスト生成に用いる時間候補ブロック群を示す図である。
【図１８】時間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。
【図１９】時間結合動き情報に対する基準動きベクトル値ＣｏｌＭｖに対する、Ｌ０予測、Ｌ１予測に対して登録する動きベクトル値ｍｖＬ０ｔ、ｍｖＬ１ｔの算出手法を説明するための図である。
【図２０】図１８のステップＳ１４０１における結合予測モード評価値生成の詳細動作を説明するためのフローチャートである。
【図２１】実施の形態１に係る、結合動き情報候補数が５の場合のＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す図である。
【図２２】図１３のステップＳ１４０２における結合動き修正予測モード評価値生成の詳細動作を説明するためのフローチャートである。
【図２３】図２３（ａ）〜（ｃ）は、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の概念を示す図である。
【図２４】各結合動き情報に対して存在するスケーリングされて生成した動きベクトル数を示す図である。
【図２５】図２５（ａ）〜（ｃ）は、実施の形態１における差分動きベクトル伝送参照画像確定アルゴリズムを示す概念図である。
【図２６】図２２のステップＳ２２０３の詳細動作を説明するためのフローチャートである。
【図２７】図２６のステップＳ２６０１の詳細動作を説明するためのフローチャートである。
【図２８】図２７のステップＳ２７０２の詳細動作を説明するためのフローチャートである。
【図２９】図１３のステップＳ１４０３の詳細動作を説明するためのフローチャートである。
【図３０】図２９のステップＳ２９０４の詳細動作を説明するためのフローチャートである。
【図３１】図１３のステップＳ１４０４の詳細動作を説明するためのフローチャートである。
【図３２】図５のステップＳ５０４の詳細動作を説明するためのフローチャートである。
【図３３】実施の形態１における動き予測フラグの一例を示す図である。
【図３４】図３２のフローチャートで示した、動き情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す図である。
【図３５】図６に示した実施の形態１の動画像復号装置における動き情報復号部の詳細な構成を示す図である。
【図３６】図７のステップＳ７０１の詳細動作を説明するためのフローチャートである。
【図３７】図３６のステップＳ３８０２の詳細動作を説明するためのフローチャートである。
【図３８】図３６のステップＳ３８０７の詳細動作を説明するためのフローチャートである。
【図３９】図３６のステップＳ３８１１の詳細動作を説明するためのフローチャートである。
【図４０】図３６のステップＳ３８１０の詳細動作を説明するためのフローチャートである。
【図４１】実施の形態２に係る、結合動き情報候補数が、結合予測モードで５、結合動き修正予測モードで４、動き検出予測モードで３の場合のＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す図である。
【図４２】実施の形態２に係る、情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す図である。
【図４３】実施の形態３に係る、結合動き情報候補数が、結合動き修正予測モードで５、結合予測モードが４、動き検出予測モードが３の場合のＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す図である。
【発明を実施するための形態】
【００２１】
以下、図面とともに本発明の実施の形態に係る動画像符号化装置、動画像符号化方法、動画像符号化プログラム、並びに動画像復号装置、動画像復号方法、動画像復号プログラムの好適な実施の形態について詳細に説明する。なお、図面の説明には同一要素には同一符号を付与して重複する説明を省略する。
【００２２】
（実施の形態１）
［動画像符号化装置全体構成］
図１は、本発明の実施の形態１に係る動画像符号化装置の構成を示す図である。以下、各部の動作について説明する。実施の形態１に係る動画像符号化装置は、入力端子１００、減算部１０１、直交変換・量子化部１０２、予測誤差符号化部１０３、逆量子化・逆変換部１０４、加算部１０５、復号画像メモリ１０６、動きベクトル検出部１０７、動き補償予測部１０８、予測モード判定部１０９、動き情報符号化部１１０、動き情報メモリ１１１、多重化部１１２、及び出力端子１１３を備える。
【００２３】
入力端子１００より入力される画像信号から符号化処理対象の予測ブロックの画像信号が、予測ブロックの位置情報と予測ブロックサイズに基づいて切り出され、予測ブロックの画像信号は、減算部１０１、動きベクトル検出部１０７及び予測モード判定部１０９に供給される。
【００２４】
図２は、符号化対象画像の一例を示す図である。実施の形態１に係る予測ブロックサイズに関しては、図２に示すように符号化対象画像が６４×６４画素の符号化ブロック（ＣＵ）単位で符号化処理され、予測ブロックは符号化ブロックが更に分割された単位で構成される。最大予測ブロックサイズは符号化ブロックと同じ６４×６４画素で、最小予測ブロックサイズは４×４画素である。符号化ブロックの予測ブロックへの分割構成は、非分割（２Ｎ×２Ｎ）、水平・垂直への分割（Ｎ×Ｎ）、水平方向のみへの分割（２Ｎ×Ｎ）、垂直方向のみへの分割（Ｎ×２Ｎ）が可能である。水平・垂直への分割の場合のみ、更に分割された予測ブロックを符号化ブロックとして階層的に予測ブロックに分割でき、その階層をＣＵ分割数で表現する。
【００２５】
図３は、予測ブロックサイズの詳細な定義を示す図である。ＣＵ分割数が０であって最大の予測ブロックサイズである６４画素×６４画素から、ＣＵ分割数が３であって最小の予測ブロックサイズである４画素×４画素までの１３の予測ブロックサイズが存在することになる。
【００２６】
本発明の実施の形態１に係る予測ブロックの分割構成に関して、この組み合わせに限定されない。また、動画像符号化装置における予測ブロックサイズの選択は、符号化ブロック単位で符号化効率のより良い構造を適応的に選択することが可能であるが、実施の形態１は予測ブロック単位での画面間予測及び画面間動き情報の符号化に注目したものであるため、最適な予測ブロックサイズの選択に関する構成要素及び説明を省略する。以降の動画像符号化装置の動作に関しては、選択した予測ブロックサイズ単位で施される動作を説明する。
【００２７】
図１に戻り、減算部１０１は、入力端子１００より供給される画像信号と予測モード判定部１０９より供給される予測信号を減算して予測誤差信号を算出し、予測誤差信号を直交変換・量子化部１０２に供給する。
【００２８】
直交変換・量子化部１０２は、減算部１０１より供給される予測誤差信号に直交変換及び量子化を施し、量子化された予測誤差信号を予測誤差符号化部１０３及び逆量子化・逆変換部１０４に供給する。
【００２９】
予測誤差符号化部１０３は、直交変換・量子化部１０２より供給される量子化された予測誤差信号をエントロピー符号化して、予測誤差信号に対する符号列を生成して、多重化部１１２に供給する。
【００３０】
逆量子化・逆変換部１０４は、直交変換・量子化部１０２より供給される量子化された予測誤差信号に対して、逆量子化や逆直交変換などの処理を行い、復号予測誤差信号を生成し加算部１０５に供給する。
【００３１】
加算部１０５は、逆量子化・逆変換部１０４より供給される復号予測誤差信号と、予測モード判定部１０９より供給される予測信号を加算して、復号画像信号を生成し、復号画像信号を復号画像メモリ１０６に供給する。
【００３２】
復号画像メモリ１０６は、加算部１０５より供給される復号画像信号を格納する。また、画像全体の復号が完了した復号画像については参照画像として１以上の所定画像数記憶し、参照画像信号を動きベクトル検出部１０７と動き補償予測部１０８に供給する。
【００３３】
動きベクトル検出部１０７は、入力端子１００より供給される予測ブロックの画像信号と、復号画像メモリ１０６に記憶された参照画像信号の入力を受けて、各参照画像に対する動きベクトルを検出し、動きベクトル値を予測モード判定部１０９に供給する。
【００３４】
一般的な動きベクトルの検出方法は、画像信号と同一位置より所定の移動量だけ移動させた参照画像に相当する画像信号について誤差評価値を算出し、誤差評価値が最小となる移動量を動きベクトルとする。誤差評価値としては、画素毎の差分絶対値の総和ＳＡＤ（Ｓｕｍ ｏｆ Ａｂｓｏｌｕｔｅ Ｄｉｆｆｅｒｅｎｃｅ）や、画素毎の二乗誤差値の総和ＳＳＥ（Ｓｕｍ ｏｆ Ｓｑｕａｒｅ Ｅｒｒｏｒ）等を利用する。さらに、動きベクトルの符号化に関わる符号量も誤差評価値に含めることも可能である。
【００３５】
動き補償予測部１０８は、予測モード判定部１０９より指定される参照画像指定情報と、動きベクトル値に従って、復号画像メモリ１０６内の参照画像指定情報で示される参照画像を、動きベクトル値だけ予測ブロックの画像信号と同一位置より移動させた位置の画像信号を取得して予測信号を生成する。
【００３６】
予測モード判定部１０９より指定される予測モードが片方向予測の場合には、１つの参照画像から取得した予測信号を動き補償予測信号とし、予測モードが双方向予測の場合には、２つの参照画像から取得した予測信号を重みづけ平均したものを動き補償予測信号とし、動き補償予測信号を予測モード判定部１０９に供給する。ここでは双方向予測の重みづけ平均の比率を１：１とする。
【００３７】
図４（ａ）〜（ｄ）は、動き補償予測の予測方向について説明するための図である。単一の参照画像からの予測を行う処理を片方向予測と定義し、片方向の場合はＬ０方向またはＬ１方向という２つの参照画像管理リストに登録された参照画像のいずれか一方を利用する。
【００３８】
図４（ａ）は片方向であってＬ０方向の参照画像（ＲｅｆＬ０Ｐｉｃ）が符号化対象画像（ＣｕｒＰｉｃ）より前の時刻にある場合を示している。図４（ｂ）は片方向であってＬ０方向の参照画像が符号化対象画像より後の時刻にある場合を示している。同様に、図４（ａ）および図４（ｂ）のＬ０方向の参照画像をＬ１方向の参照画像（ＲｅｆＬ１Ｐｉｃ）に置き換えて片方向予測を行うこともできる。
【００３９】
２つの参照画像からの予測を行う処理を双方向予測と定義し、双方向の場合はＬ０方向とＬ１方向の双方を利用してＢＩ方向と表現する。図４（ｃ）は双方向であってＬ０方向の参照画像が符号化対象画像より前の時刻にあって、Ｌ１方向の参照画像が符号化対象画像より後の時刻にある場合を示している。図４（ｄ）は双方向であってＬ０方向の参照画像とＬ１方向の参照画像が符号化対象画像より前の時刻にある場合を示している。このように、Ｌ０／Ｌ１の予測方向と時間の関係は、Ｌ０が過去方向、Ｌ１が未来方向とは限定されずに用いることが可能である。
【００４０】
実施の形態１では、参照画像及び符号化対象画像の時刻を示す情報としてＰＯＣ（Ｐｉｃｔｕｒｅ Ｏｒｄｅｒ Ｃｏｕｎｔ）を用いる。ＰＯＣはＡＶＣで定義された画像の表示順序を示すカウンタである。画像の表示順序が１増加するとＰＯＣも１増加する。したがって、画像間のＰＯＣ差から画像間の時間差（距離）を取得できる。
【００４１】
図１に戻り、予測モード判定部１０９は、動きベクトル検出部１０７より入力される各参照画像に対して検出された動きベクトル値と、動き情報メモリ１１１に格納された動き情報（予測方向、動きベクトル値、及び参照画像指定情報）をもとに、実施の形態１において定義した動き補償予測モードのそれぞれに対して用いられる、参照画像指定情報と動きベクトル値を動き補償予測部１０８に設定する。設定した値によって、動き補償予測部１０８から供給される動き補償予測信号と、入力端子１００より供給される予測ブロックの画像信号を用いて、最適な動き補償予測モードを決定する。
【００４２】
予測モード判定部１０９は、決定した予測モード、及び予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報を、動き情報符号化部１１０に供給し、決定した予測モード及びその予測モードに対する、予測方向、動きベクトル値、及び参照画像指定情報を動き情報メモリ１１１に供給すると共に、減算部１０１及び加算部１０５に決定した予測モードに対応する予測信号を供給する。
【００４３】
動画像符号化装置において、基準とする参照画像を符号化するために同一画面内の符号化済画像を用いて予測を行う画面内予測が行われるが、実施の形態１は画面間予測に注目したものであるため、画面内予測に関連する構成要素は省略する。予測モード判定部１０９の詳細な構成については後述する。
【００４４】
動き情報符号化部１１０は、予測モード判定部１０９より供給される予測モード、及び予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報を所定のシンタックス構造に従って符号化することで、動き情報の符号列を生成し、多重化部１１２に供給する。動き情報符号化部１１０の詳細な構成については後述する。
【００４５】
動き情報メモリ１１１は、予測モード判定部１０９より供給される動き情報（予測方向、動きベクトル、及び参照画像インデックス）を、最小予測ブロックサイズ単位を基準として所定画像分記憶する。処理対象の予測ブロックの隣接ブロックの動き情報を空間候補ブロック群とし、処理対象の予測ブロックと同一位置にあるＣｏｌＰｉｃ上のブロックとその周辺ブロックの動き情報を時間候補ブロック群とする。
【００４６】
ＣｏｌＰｉｃとは、処理対象の予測ブロックとは別の復号済みの画像であって、復号画像メモリ１０６に参照画像として記憶されている。実施の形態１では、ＣｏｌＰｉｃは直前に復号した参照画像とする。なお、実施の形態１では、ＣｏｌＰｉｃは直前に復号した参照画像としたが、表示順で直前の参照画像や表示順で直後の参照画像でもよく、符号化ストリーム中に、ＣｏｌＰｉｃに用いる参照画像を直接指定することも可能である。
【００４７】
動き情報メモリ１１１は、空間候補ブロック群と時間候補ブロック群の動き情報を、候補ブロック群の動き情報として予測モード判定部１０９に供給する。多重化部１１２は、予測誤差符号化部１０３から供給される予測誤差の符号化列と、動き情報符号化部１１０から供給される動き情報の符号化列を多重化することで符号化ビットストリームを生成し、出力端子１１３経由で、記録媒体・伝送路等に当該符号化ビットストリームを出力する。
【００４８】
図１に示した動画像符号化装置の構成は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、フレームメモリ、ハードディスクなどを備える情報処理装置等のハードウェアによっても実現可能である。
【００４９】
図５は、本発明の実施の形態１に係る動画像符号化装置における符号化処理の動作の流れ示すフローチャートである。予測ブロック単位毎に、入力端子１００より処理対象の予測ブロック画像を取得する（Ｓ５００）。動きベクトル検出部１０７は、処理対象の予測ブロック画像と復号画像メモリ１０６に格納された複数の参照画像より、参照画像毎の動きベクトル値を算出する（Ｓ５０１）。
【００５０】
続いて、予測モード判定部１０９は、動きベクトル検出部１０７より供給される動きベクトルと、動き情報メモリ１１１に格納された動き情報を用いて、実施の形態１において定義した動き補償予測モードのそれぞれに対する予測信号を、動き補償予測部１０８を用いて取得し、最適な予測モードを選択し、予測信号を生成する（Ｓ５０２）。ステップＳ５０２の処理の詳細については後述する。
【００５１】
続いて、減算部１０１は、処理対象の予測ブロック画像と予測モード判定部１０９より供給された予測信号との差分を予測誤差信号として算出する（Ｓ５０３）。動き情報符号化部１１０は、予測モード判定部１０９より供給される予測モード、及び予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報を所定のシンタックス構造に従って符号化し、動き情報の符号化データを生成する（Ｓ５０４）。ステップＳ５０４の処理の詳細については後述する。
【００５２】
続いて、予測誤差符号化部１０３は、直交変換・量子化部１０２で生成された量子化された予測誤差信号をエントロピー符号化して、予測誤差の符号化データを生成する（Ｓ５０５）。多重化部１１２は、動き情報符号化部１１０から供給される動き情報の符号化データと、予測誤差符号化部１０３から供給される予測誤差の符号化データを多重化し、符号化ビットストリームを生成する（Ｓ５０６）。
【００５３】
加算部１０５は、逆量子化・逆変換部１０４より供給される復号予測誤差信号と、予測モード判定部１０９より供給される予測信号を加算して、復号画像信号を生成する（Ｓ５０７）。加算部１０５によって、生成された復号画像信号が復号画像メモリ１０６に供給、格納され、以降に符号化する符号化画像の動き補償予測処理に用いられる（Ｓ５０８）。動き情報メモリ１１１は、動きベクトル検出部１０７より供給される動き情報（予測方向、動きベクトル、及び参照画像指定情報）を最小の予測ブロックサイズ単位で格納する（Ｓ５０９）。
【００５４】
［動画像復号装置全体構成］
図６は、本発明の実施の形態１に係る動画像復号装置の構成を示す図である。以下、各部の動作について説明する。実施の形態１に係る動画像復号装置は、入力端子６００、多重分離部６０１、予測差分情報復号部６０２、逆量子化・逆変換部６０３、加算部６０４、復号画像メモリ６０５、動き情報復号部６０６、動き情報メモリ６０７、動き補償予測部６０８、及び出力端子６０９を備える。
【００５５】
入力端子６００より符号化ビットストリームが多重分離部６０１に供給される。多重分離部６０１は、供給された符号化ビットストリームの符号列を予測誤差情報の符号化列と、予測モード、並びに予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報で構成される動き情報の符号化列に分離する。当該予測誤差情報の符号化列を予測差分情報復号部６０２に供給し、当該動き情報の符号化列を動き情報復号部６０６に供給する。
【００５６】
予測差分情報復号部６０２は、多重分離部６０１より供給された予測誤差情報の符号化列を復号し、量子化された予測誤差信号を生成する。予測差分情報復号部６０２は、生成した量子化された予測誤差信号を逆量子化・逆変換部６０３に供給する。
【００５７】
逆量子化・逆変換部６０３は、予測差分情報復号部６０２より供給される量子化された予測誤差信号を逆量子化や逆直交変換などの処理を行って予測誤差信号を生成し、復号予測誤差信号を加算部６０４に供給する。
【００５８】
加算部６０４は、逆量子化・逆変換部６０３より供給される復号予測誤差信号と、動き補償予測部６０８より供給される予測信号を加算して復号画像信号を生成し、復号画像信号を復号画像メモリ６０５に供給する。
【００５９】
復号画像メモリ６０５は、図１の動画像符号化装置における復号画像メモリ１０６と同じ機能を有し、加算部６０４から供給された復号画像信号を格納し、参照画像信号を動き補償予測部６０８に供給する。また、復号画像メモリ６０５は、格納された復号画像信号を再生時刻に合わせて、画像の表示順序に従い出力端子６０９に供給する。
【００６０】
動き情報復号部６０６は、多重分離部６０１より供給される動き情報の符号化列より、予測モード、並びに予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報を動き情報として復号する。復号した動き情報と、動き情報メモリ６０７より供給される候補ブロック群の動き情報より、動き補償予測に用いる予測方向、動きベクトル及び参照画像指定情報を再生し、動き補償予測部６０８に供給する。また、動き情報復号部６０６は再生した動き情報を、動き情報メモリ６０７に供給する。動き情報復号部６０６の詳細な構成については後述する。
【００６１】
動き情報メモリ６０７は、図１の動画像符号化装置における動き情報メモリ１１１と同じ機能を持ち、動き情報復号部６０６より供給される再生した動き情報を最小予測ブロックサイズ単位を基準として所定画像分記憶する。また、動き情報メモリ６０７は、空間候補ブロック群と時間候補ブロック群の動き情報を、候補ブロック群の動き情報として動き情報復号部６０６に供給する。
【００６２】
動き補償予測部６０８は、図１の動画像符号化装置における動き補償予測部１０８と同じ機能を持ち、動き情報復号部６０６より供給される動き情報に基づいて、復号画像メモリ６０５内の参照画像指定情報が示す参照画像を、動きベクトル値だけ予測ブロックの画像信号と同一位置より移動させた位置の画像信号を取得して予測信号を生成する。動き補償予測の予測方向が双方向であれば、各予測方向の予測信号を平均したものを予測信号として生成し、予測信号を加算部６０４に供給する。
【００６３】
出力端子６０９は、復号画像メモリ６０５より供給された復号画像信号を、ディスプレイなどの表示媒体に出力することで、復号画像信号が再生される。
【００６４】
図６に示した動画像復号装置の構成も、図１に示した動画像符号化装置の構成と同様に、ＣＰＵ、フレームメモリ、ハードディスクなどを備える情報処理装置等のハードウェアによっても実現可能である。
【００６５】
図７は、本発明の実施の形態１に係る動画像復号装置における復号処理の動作の流れを示すフローチャートである。多重分離部６０１は、入力端子６００より供給された符号化ビットストリームを予測誤差情報の符号化列と、動き情報の符号化列に分離する（Ｓ７００）。分離された動き情報の符号化列は動き情報復号部６０６に供給され、動き情報メモリ６０７より供給される候補ブロック群の動き情報を用いて、復号対象ブロックの動き情報を復号する（Ｓ７０１）。
【００６６】
分離された予測誤差情報の符号化列は、予測差分情報復号部６０２に供給され、量子化された予測誤差信号として復号され、逆量子化・逆変換部６０３で逆量子化や逆直交変換などの処理を施されることで、復号予測誤差信号が生成される（Ｓ７０２）。ステップＳ７０２の処理の詳細については後述する。
【００６７】
動き情報復号部６０６より、復号対象ブロックの動き情報が動き補償予測部６０８に供給され、動き補償予測部６０８は動き情報にしたがって動き補償予測を行い予測信号を算出する（Ｓ７０３）。加算部６０４は、逆量子化・逆変換部６０３から供給された復号予測誤差信号と、動き補償予測部６０８から供給された予測信号とを加算し、復号画像信号を生成する（Ｓ７０４）。
【００６８】
加算部６０４より供給された復号画像信号は、復号画像メモリ６０５に格納される（Ｓ７０５）と共に、動き情報復号部６０６より供給された復号対象ブロックの動き情報が動き情報メモリ６０７に格納される（Ｓ７０６）。これで、予測ブロック単位の復号処理が終了する。
【００６９】
［実施の形態１の詳細機能説明］
本発明の実施の形態１に係る動画像符号化装置の予測モード判定部１０９及び動き情報符号化部１１０の動作、図５のフローチャートにおけるステップＳ５０２及びステップＳ５０４の処理、並びに本発明の実施の形態１に係る動画像復号装置における動き情報復号部６０６の動作、図７のフローチャートにおけるステップＳ７０２の処理の詳細動作を、以下説明する。
【００７０】
［実施の形態１における動き補償予測モードの定義］
図８（ａ）、（ｂ）は、本発明の実施の形態１における動き補償予測において使用される動き情報を符号化するための３つの予測モードを説明するための図である。第一の予測モードは、予測対象ブロックと当該予測対象ブロックに隣接する符号化済ブロックにおける時間方向や空間方向の動きの連続性を用いて、当該予測対象ブロックは自身の動き情報を直接符号化せずに、空間及び時間的に隣接するブロックの動き情報を符号化に使用する手法であり、結合予測モード（マージモード）と呼ぶ。
【００７１】
結合予測モードの場合には、複数の隣接ブロック候補より選択的に結合する動き情報が定義でき、動き情報は使用する隣接ブロックを指定する情報（インデックス）を符号化することで、指定情報をもとに取得した動き情報をそのまま動き補償予測に用いる。更に、結合予測モードにおいては、予測差分情報を符号化伝送せずに、結合予測モードで予測された予測信号を復号ピクチャとするＳｋｉｐモードを定義し、結合した動き情報のみの少ない情報で復号画像が再生できる構成を有する。Ｓｋｉｐモードにおいて伝送する動き情報は、結合予測モードと同様に隣接ブロックを定義する指定情報となる。
【００７２】
第二の予測モードは、動き情報の構成要素を個別にすべて符号化し、予測ブロックに対して予測誤差の少ない動き情報を伝送する手法であり、動き検出予測モードと呼ぶ。動き検出予測モードは、従来の動き補償予測の動き情報の符号化と同様に、参照画像を特定するための情報（参照画像インデックス）と、動きベクトルを特定するための情報が別々に符号化される。
【００７３】
動き検出予測モードには、片方向予測と双方向予測のどちらを使用するか予測モードで指示し、片方向予測の場合には１つの参照画像に対する参照画像を特定する情報と、動きベクトルの予測ベクトルとの差分ベクトルを符号化する。双方向予測の場合には２つの参照画像に対する参照画像を特定する情報と、動きベクトルがそれぞれ個別に符号化される。動きベクトルに対する予測ベクトルは、ＡＶＣと同様に隣接ブロックの動き情報から生成されるが、結合予測モードと同様に、複数の隣接ブロック候補より予測ベクトルに用いる動きベクトルを選択できる。動き検出予測モードにおいては、予測ベクトルに使用する隣接ブロックを指定する情報（インデックス）は、結合予測モードにおける動き情報と同一の候補より指定する。動きベクトルは予測ベクトルに使用する隣接ブロックを指定する情報（インデックス）と差分ベクトルの２つを符号化することで伝送される。
【００７４】
第三の予測モードは、隣接ブロックの動き情報に対して、動きベクトル値を修正するための差分ベクトル値を追加で符号化することで、隣接ブロックから生成される動き情報に対して一部の動きベクトルに対する修正を行い、動き情報として符号化する手法であり、結合動き修正予測モード（マージＭＶＤモード）と呼ぶ。結合動き修正予測モードにおいて伝送する動き情報は、結合予測モードと同様に、隣接ブロックを指定する情報に加えて、修正する動きベクトルに対する差分ベクトル値となる。結合動き修正予測モードにおいても、隣接ブロックを指定する情報を、結合予測モードにおける動き情報と同一の候補より指定する。実施の形態１における、結合動き修正予測モードでは、差分ベクトル値は常に１つ伝送され、動き補償予測の予測方向は双方向予測となる。
【００７５】
この結合動き修正予測モードを有する構成が、結合動き修正予測モードを有さない従来の構成に対して符号化効率を向上させる要因となる。つまり、結合動き修正予測モードでは、結合予測モードにおいて符号化する情報に対して、動きベクトルを修正するための差分ベクトルを符号化して追加する。これにより、動きの連続性が十分保たれていない場合や、他ブロックの動き情報における動きベクトルが正確な動きを示していない場合などに、隣接ブロックから生成される動き情報に対して、動きベクトルのみを修正することで、予測残差が少ない動き補償予測信号を生成する動き情報を、少ない情報で表現することができる。また、隣接ブロックを指定する情報に関する３つの予測モードにおいて、共通の隣接ブロック候補より、使用する動き情報の候補を設定し、各モードが共通の候補をもとに最適な候補を選択する構成をとることにより、複数の隣接ブロック候補リスト生成処理を有する必要がなく、処理負荷の少ない形で有効な動き補償予測信号を生成することができる。
【００７６】
図９は、動き補償予測および動き補償予測を実施しない画面内予測における、動き補償の予測方向と、参照画像を定義する情報、及び符号化する動きベクトル数の関連に関して説明するための図である。
【００７７】
動き検出予測モードの内、予測方向が片方向である片方向予測モード（ＵｎｉＰｒｅｄ）の場合は、符号化する動き情報として１つの符号化ベクトル（差分ベクトル）、１つの参照画像インデックス、１つの予測ベクトルインデックスが伝送される。
【００７８】
同様に予測方向が双方向である双方向予測モード（ＢｉＰｒｅｄ）の場合は、符号化する動き情報として２つの符号化ベクトル（差分ベクトル）、２つの参照画像インデックス、１つの結合動き情報インデックスが伝送される。
【００７９】
結合予測モード（Ｍｅｒｇｅ）の場合には、１つの結合動き情報インデックスのみが符号化する動き情報として伝送され、動き情報に基づいて片方向もしくは双方向の動き補償予測が施される。
【００８０】
結合動き修正予測モード（ＭｅｒｇｅＭｖｄ）の場合には、１つの結合動き情報インデックスと１つの符号化ベクトル（差分ベクトル）が符号化する動き情報として伝送され、動き情報と動きベクトルの修正情報（差分ベクトル）に従って、双方向の動き補償予測が施される。
【００８１】
動き補償予測を実施しない予測符号化モードであるイントラモード（Ｉｎｔｒａ）においては、動き情報は符号化されない。
【００８２】
隣接する動き情報との時間的・空間的な相関性が非常に高い場合には、結合予測モードが有効な動き補償予測モードとして選択される。相関性が低い場合もしくは一部の動き情報のみが有効に予測ブロックの動き情報として利用できる場合には、動き検出予測モードが有効な動き補償予測モードとして選択される。相関性が高いが動きに微小なずれを生じている場合や、隣接するブロックの動き情報が正確な動きを示していない場合、また大部分の動き情報が有効であるが一部の動き情報のみ相関性が十分でない場合などに、結合動き修正予測モードが有効な動き補償予測モードとして選択される。このように、結合予測モード、動き検出予測モードに加えて、結合動き修正予測モードを具備することで、さまざまな動き情報相関性の状況に応じて、符号化効率の高い動き補償予測を選択できる。
【００８３】
［実施の形態１における動画像符号化装置における予測モード判定部の詳細動作説明］
図１０は、実施の形態１の動画像符号化装置における予測モード判定部１０９の詳細な構成を示す図である。予測モード判定部１０９は、最適な動き補償予測モードを決定する機能を有する。
【００８４】
予測モード判定部１０９は、片方向動き補償予測生成部１０００、双方向動き補償予測生成部１００１、予測誤差算出部１００２、予測ベクトル算出部１００３、差分ベクトル算出部１００４、動き情報符号量算出部１００５、予測モード評価部１００６、結合動き情報算出部１００７、結合動き補償予測生成部１００８、及び結合動き修正動き補償予測生成部１００９を含む。
【００８５】
図１における予測モード判定部１０９に対して、動きベクトル検出部１０７より入力された動きベクトル値が、片方向動き補償予測生成部１０００、双方向動き補償予測生成部１００１、及び結合動き修正動き補償予測生成部１００９に供給され、動き情報メモリ１１１より入力された動き情報が、結合動き情報算出部１００７に供給される。
【００８６】
また、動き補償予測部１０８に対して、片方向動き補償予測生成部１０００、双方向動き補償予測生成部１００１、結合動き補償予測生成部１００８、及び結合動き修正動き補償予測生成部１００９から、動き補償予測に用いる参照画像指定情報と動きベクトルが出力される。また、動き補償予測部１０８より、生成された動き補償予測画像が予測誤差算出部１００２に供給される。予測誤差算出部１００２には更に、入力端子１００より符号化対象となる予測ブロックの画像信号が供給される。
【００８７】
また、予測モード評価部１００６から、動き情報符号化部１１０に対して符号化する動き情報と確定した予測モード情報を供給し、動き情報メモリ１１１に動き情報を供給し、動き補償予測信号を減算部１０１及び加算部１０５に供給する。
【００８８】
片方向動き補償予測生成部１０００は、片方向予測に使用可能な各参照画像に対して算出された動きベクトル値を受信し、参照画像指定情報を予測ベクトル算出部１００３に供給し、参照画像指定情報と動きベクトルを動き補償予測部１０８に出力する。
【００８９】
双方向動き補償予測生成部１００１も同様に、双方向予測に使用可能な各参照画像に対して算出された動きベクトル値を受信し、それぞれの参照画像に対する参照画像指定情報を予測ベクトル算出部１００３に供給し、それぞれの参照画像に対する参照画像指定情報と動きベクトルを動き補償予測部１０８に出力する。
【００９０】
予測誤差算出部１００２は、入力された動き補償予測画像と処理対象の予測ブロック画像より、予測誤差評価値を算出する。誤差評価値を算出するための演算としては、動きベクトル検出における誤差評価値と同様に、画素毎の差分絶対値の総和ＳＡＤや、画素毎の二乗誤差値の総和ＳＳＥ等を使用できる。更に、予測残差の符号化を行う際に施される、直交変換・量子化を行うことによって復号画像に生じる歪成分の量を加味することで、より正確な誤差評価値が算出可能である。この場合には、予測誤差算出部１００２内に、図１における減算部１０１、直交変換・量子化部１０２、逆量子化・逆変換部１０４、加算部１０５の機能を有することで実現できる。予測誤差算出部１００２は、各予測モードにおいて算出された予測誤差評価値と、動き補償予測信号を予測モード評価部１００６に供給する。
【００９１】
予測ベクトル算出部１００３は、片方向動き補償予測生成部１０００及び双方向動き補償予測生成部１００１より参照画像指定情報を供給され、結合動き情報算出部１００７から供給される結合動き情報候補リストより、登録された結合動き情報候補のそれぞれに対して、動き情報より指定された参照画像に対する動きベクトル値を特定する。そして、複数の予測ベクトルを結合動き情報候補リストと共に生成し、差分ベクトル算出部１００４に、参照画像指定情報と共に供給する。予測ベクトル算出部１００３の詳細動作に関しては、後述する。
【００９２】
差分ベクトル算出部１００４は、予測ベクトル算出部１００３より供給された、予測ベクトル候補のそれぞれに対して、片方向動き補償予測生成部１０００及び双方向動き補償予測生成部１００１から供給される動きベクトル値との差分を計算し、差分ベクトル値を算出する。算出された差分ベクトル値と予測ベクトル候補に対する指定情報である予測ベクトルインデックスを符号化した際の符号量が最も少ない情報量で表現出来る、予測ベクトルインデックスと差分ベクトルの組合せが特定される。最も少ない情報量で表現出来る、予測ベクトルインデックスと差分ベクトル値を参照画像指定情報と共に、動き情報符号量算出部１００５に供給する。
【００９３】
動き情報符号量算出部１００５は、差分ベクトル算出部１００４より供給される、片方向予測モード及び双方向予測モードの差分ベクトル値、参照画像指定情報、予測ベクトルインデックス、予測モードより、各予測モードにおける動き情報に要する符号量を算出する。また、動き情報符号量算出部１００５は、結合動き補償予測生成部１００８より、結合予測モードにおいて伝送する必要がある、結合動き情報インデックスと予測モードを示すための情報を受け取り、結合予測モードにおける動き情報に要する符号量を算出する。
【００９４】
同様に、動き情報符号量算出部１００５は、結合動き修正動き補償予測生成部１００９より、結合動き修正予測モードにおいて伝送する必要がある、結合動き情報インデックスと差分ベクトル値と予測モードを示すための情報を受け取り、結合動き修正予測モードにおける動き情報に要する符号量を算出する。動き情報符号量算出部１００５は、各予測モードにおいて算出された動き情報及び動き情報に要する符号量を予測モード評価部１００６に供給する。
【００９５】
予測モード評価部１００６は、予測誤差算出部１００２より供給された各予測モードの予測誤差評価値と、動き情報符号量算出部１００５から供給された各予測モードの動き情報符号量を用いて、各予測モードの総合動き補償予測誤差評価値を算出し、最も少ない評価値である予測モードを選択し、選択した予測モードと選択した予測モードに対する動き情報を、動き情報符号化部１１０及び動き情報メモリ１１１に出力する。また、予測モード評価部１００６は同様に、予測誤差算出部１００２より供給された動き補償予測信号に対して、選択した予測モードにおける予測信号を選択して減算部１０１及び加算部１０５に出力する。
【００９６】
結合動き情報算出部１００７は、動き情報メモリ１１１より供給される隣接ブロックの動き情報における候補ブロック群を用いて、片方向であるか双方向であるかを示す予測方向、参照画像指定情報、動きベクトル値で構成される動き情報として、複数の動き情報を結合動き情報候補リストと共に生成し、結合動き補償予測生成部１００８及び結合動き修正動き補償予測生成部１００９に供給する。
【００９７】
図１１は、結合動き情報算出部１００７の構成を示す図である。結合動き情報算出部１００７は、結合動き情報候補リスト生成部１２００及び結合動き情報候補リスト削除部１２０１を含む。結合動き情報算出部１００７は、候補ブロック群より所定の順番で動き情報の候補を作成し、その中から、動き情報の各要素（予測方向、参照画像指定情報、及び動きベクトル値）が全て同一の値を示している候補を削除することで、有効な動き情報のみを結合動き情報候補として登録する。結合動き情報算出部１００７の詳細動作に関しては、後述する。
【００９８】
図１０に戻り、結合動き補償予測生成部１００８は、結合動き情報算出部１００７より供給された結合動き情報候補リストより、登録された結合動き情報候補のそれぞれに対して、動き情報より、予測方向に応じて１つの参照画像（片方向）もしくは２つの参照画像（双方向）の参照画像指定情報と動きベクトル値を動き補償予測部１０８に指定して、動き補償予測画像を生成すると共に、それぞれの結合動き情報インデックスを動き情報符号量算出部１００５に供給する。結合動き補償予測生成部１００８の詳細動作に関しては、後述する。
【００９９】
図１０の構成では、それぞれの結合動き情報インデックスにおける予測モード評価は、予測モード評価部１００６で施されるが、予測誤差評価値及び動き情報符号量を予測誤差算出部１００２及び動き情報符号量算出部１００５より受け取り、結合動き補償予測生成部１００８内で、最適な結合動き補償予測の結合動きインデックスを確定させた後に、他の予測モードを含めた最適予測モードの評価を行う構成を取ることも可能である。
【０１００】
結合動き修正動き補償予測生成部１００９は、結合動き情報算出部１００７より供給された結合動き情報候補リスト、登録された結合動き情報候補に対して、双方向の動き情報を算出する。そして、その中で動きベクトル値を修正する参照画像を特定し、特定した参照画像の参照画像指定情報に対して、動きベクトル検出部１０７で検出された動きベクトル値を入力し、差分ベクトル値を計算する。そして、双方向の参照画像指定情報と修正した動きベクトル値を含む、動き補償予測に用いる動きベクトル値を動き補償予測部１０８に指定して、動き補償予測画像を生成すると共に、それぞれに結合動き情報インデックスと伝送する差分ベクトル値を動き情報符号量算出部１００５に供給する。
【０１０１】
図１２は、結合動き修正動き補償予測生成部１００９の構成を示す図である。結合動き修正動き補償予測生成部１００９は、基準参照画像・動き修正参照画像選択部１３００、動き修正参照画像動きベクトル取得部１３０１、結合動き情報修正動き補償予測生成部１３０２、及び差分ベクトル算出部１３０３を含む。
【０１０２】
基準参照画像・動き修正参照画像選択部１３００は登録された結合動き情報候補に対して、双方向の動き情報を算出して動きベクトル値を修正する参照画像を特定する機能を有する。動き修正参照画像動きベクトル取得部１３０１は特定した参照画像の参照画像指定情報に対する動きベクトル値を入力する機能を有する。結合動き情報修正動き補償予測生成部１３０２は動き補償予測に用いる動きベクトル値と参照画像指定情報を動き補償予測部１０８に出力する機能をする。差分ベクトル算出部１３０３は基準参照画像・動き修正参照画像選択部１３００で算出された動き情報の動きベクトル値と、動きベクトル検出部１０７から入力された動きベクトル値の差分ベクトル値を算出する機能を有する。結合動き修正動き補償予測生成部１００９の詳細動作は後述する。
【０１０３】
図１３は、図１０の予測モード判定部１０９を介して動作する、図５のステップＳ５０２である動き補償予測モード／予測信号生成の動作について説明するためのフローチャートである。最初に、結合動き情報候補リスト生成を行い（Ｓ１４００）、結合予測モード評価値を生成する（Ｓ１４０１）。
【０１０４】
続いて、ステップＳ１４００で生成された結合動き情報候補リストを用いて、結合動き修正予測モード評価値を生成し（Ｓ１４０２）、片方向予測モード評価値を生成し（Ｓ１４０３）、双方向予測モード評価値を生成し（Ｓ１４０４）、生成した評価値を比較することで最適な予測モードを選択する（Ｓ１４０５）。ただし、ステップＳ１４０１、ステップＳ１４０２、ステップＳ１４０３、及びステップＳ１４０４の評価値生成の順序はこの順序に限らない。
【０１０５】
選択された予測モードに従い予測信号を出力し（Ｓ１４０６）、選択された予測モードに従い動き情報を出力する（Ｓ１４０７）ことで、予測ブロック単位の動き補償予測モード／予測信号生成処理が終了する。ステップＳ１４００、ステップＳ１４０１、ステップＳ１４０２、ステップＳ１４０３、及びステップＳ１４０４の詳細動作に関しては後述する。
【０１０６】
図１４は、図１３のステップＳ１４００における結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。この動作は、図１０の結合動き情報算出部１００７における構成の詳細動作を示している。図１１の結合動き情報候補リスト生成部１２００は、動き情報メモリ１１１より供給される空間候補ブロック群から領域外である候補ブロックやイントラモードである候補ブロックを除いた候補ブロック群から、空間結合動き情報候補リストを生成する（Ｓ１５００）。空間結合動き情報候補リスト生成の詳細な動作は後述する。
【０１０７】
結合動き情報候補リスト生成部１２００は、続いて動き情報メモリ１１１より供給される時間候補ブロック群から領域外である候補ブロックやイントラモードである候補ブロックを除いた候補ブロック群から、時間結合動き情報候補リストを生成する（Ｓ１５０１）。時間結合動き情報候補リスト生成の詳細な動作は後述する。
【０１０８】
続いて、結合動き情報候補リスト削除部１２０１において、生成された空間結合動き情報候補リストと時間結合動き情報候補リストを統合した結合動き情報候補リストより、重複している動き情報を持つ結合動き情報候補が複数存在する場合には１つの結合動き情報候補を残して削除して動き情報候補リストを更新する（Ｓ１５０２）。
【０１０９】
最後に、上記処理において隣接ブロックに有効な動き情報が存在せず、結合動き情報候補が存在しない場合（Ｓ１５０３：ＹＥＳ）、固定の動き情報を結合動き情報候補リストに追加して（Ｓ１５０４）、処理を終了する。実施の形態１における固定の動き情報としては、予測方向が双方向で、参照画像指定情報（インデックス）が０、２つの動きベクトル値が共に（０，０）の値を設定する。実施の形態１における固定の動き情報としては、上記設定には限定されず、暗黙的に指定できる手法で設定されることにより、動画像復号装置においても同じ動き情報が再現できる。なお、上記処理において隣接ブロックに有効な動き情報が存在し、結合動き情報候補が存在する場合（Ｓ１５０３：ＮＯ）、ステップＳ１５０４をスキップして、処理を終了する。
【０１１０】
動き情報メモリ１１１より、結合動き情報算出部１００７に供給される動き情報の候補ブロック群には、空間候補ブロック群と時間候補ブロック群が含まれる。まず、空間結合動き情報候補リスト生成について説明する。
【０１１１】
図１５は、空間結合動き情報候補リスト生成に用いる空間候補ブロック群を示す図である。空間候補ブロック群は、符号化対象画像の予測対象ブロックに隣接している同一画像のブロックを示す。ブロック群は、その管理が最小予測ブロックサイズ単位で行われ、図１５に示すようなＡ１〜Ａ４、Ｂ１〜Ｂ４、Ｃ、Ｄ、Ｅの位置のブロックが隣接するブロック群となる。候補ブロックの位置は、最小予測ブロックサイズの単位で管理されるが、隣接ブロックの予測ブロックサイズが最小予測ブロックサイズよりも大きな場合には、予測ブロックサイズ内の全ての候補ブロックに同一の動き情報が格納される。実施の形態１においては、これら隣接するブロック群の内、空間候補ブロック群をブロックＡ１、ブロックＢ１、ブロックＣ、ブロックＤの４ブロックとする。
【０１１２】
図１６は、空間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。空間候補ブロック群に含まれる４つの候補ブロックであるブロックＡ１、ブロックＢ１、ブロックＣ、ブロックＤについて以下の処理を繰り返し行う（Ｓ１７００からＳ１７０３）。
【０１１３】
最初に候補ブロックの有効性を検査する（Ｓ１７０１）。候補ブロックが領域外でなくイントラモードでない場合（Ｓ１７０１：ＹＥＳ）、候補ブロックは有効となる。候補ブロックが有効であれば、候補ブロックの動き情報を空間結合動き情報候補リストに追加する（Ｓ１７０２）。
【０１１４】
ここでは、空間結合動き情報候補リストには４以下の候補ブロックの動き情報が含まれるとしたが、空間候補ブロック群は、処理対象の予測ブロックに隣接する少なくとも１以上の処理済みのブロックであり、候補ブロックの有効性によって空間結合動き情報候補リストの数が変動すればよく、これに限定されない。なお、候補ブロックが領域外またはイントラモードの場合（Ｓ１７０１：ＮＯ）、ステップＳ１７０２をスキップし、次の候補ブロックの有効／無効判定が行われる。
【０１１５】
続いて、時間結合動き情報候補リスト生成について説明する。図１７は、時間結合動き情報候補リスト生成に用いる時間候補ブロック群を示す図である。時間候補ブロック群は、予測対象ブロックとは別の復号済みの画像ＣｏｌＰｉｃにおける予測対象ブロックと同位置及びその周辺にあるブロックを示す。図１７におけるＡ１〜Ａ４、Ｂ１〜Ｂ４、Ｃ、Ｄ、Ｅ、Ｆ１〜Ｆ４、Ｇ１〜Ｇ４、Ｈ、Ｉ１〜Ｉ１６の位置のブロックが、時間的に隣接するブロック群となる。実施の形態１においては、これら時間的に隣接するブロック群の内、時間候補ブロック群をブロックＨとブロックＩ６の２ブロックとする。
【０１１６】
図１８は、時間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。時間候補ブロック群に含まれる２つの候補ブロックであるブロックＨとブロックＩ６について（ステップＳ１９００、ステップＳ１９０５）、候補ブロックの有効性を検査する（Ｓ１９０１）。候補ブロックが有効である場合（Ｓ１９０１：ＹＥＳ）、ステップＳ１９０２〜ステップＳ１９０４の処理が行われ、生成された動き情報が時間結合動き情報候補リストに登録され、処理が終了する。候補ブロックが画面領域外の位置を示す場合や、候補ブロックがイントラ予測ブロックである場合（Ｓ１９０１：ＮＯ）、候補ブロックが有効でなく、次の候補ブロックの有効／無効判定が行われる。
【０１１７】
候補ブロックが有効である場合（Ｓ１９０１：ＹＥＳ）、候補ブロックの動き情報をもとに結合動き情報候補に登録する参照画像選択候補を確定する（Ｓ１９０２）。実施の形態１ではＬ０方向の参照画像を、Ｌ０方向の参照画像のうち処理対象画像に最も近い距離にある参照画像とし、Ｌ１方向の参照画像を、Ｌ１方向の参照画像のうち処理対象画像に最も近い距離にある参照画像とする。
【０１１８】
ここでの参照画像選択候補の確定手法は、Ｌ０方向の参照画像とＬ１方向の参照画像が決定できればよく、これに限定されない。符号化処理と復号処理で同一の手法で参照画像を確定することで、符号化時に意図した参照画像を確定できる。他の確定手法としては、例えばＬ０方向の参照画像及びＬ１方向の参照画像の参照画像インデックスが０である参照画像を選択する手法や、空間隣接ブロックが使用しているＬ０参照画像及びＬ１参照画像で、最も多く使用されている参照画像を予測対象ブロックにおける参照画像として選択する手法や、符号化ストリーム中で各方向の参照画像を指定する手法を用いることが可能である。
【０１１９】
次に、候補ブロックの動き情報をもとに結合動き情報候補に登録する動きベクトル値を確定する（Ｓ１９０３）。実施の形態１における、時間結合動き情報は、候補ブロックの動き情報で有効な予測方向である動きベクトル値をもとに、双方向の動き情報を算出する。候補ブロックの予測方向がＬ０予測もしくはＬ１予測の片方向の場合には、予測に用いられている方向（Ｌ０方向或いはＬ１方向）の動き情報を選択し、その参照画像指定情報と動きベクトル値を双方向動き情報生成の基準値とする。
【０１２０】
候補ブロックの予測方向が双方向である場合には、Ｌ０予測或いはＬ１予測のどちらか一方の動き情報を基準値として選択する。基準値の選択方法は、例えばＣｏｌＰｉｃと同じ予測方向に存在する動き情報を選択する、候補ブロックのＬ０予測、Ｌ１予測のそれぞれの参照画像でＣｏｌＰｉｃとの画像間距離が近い方を選択する、或いは候補ブロックのＬ０予測、Ｌ１予測のそれぞれの動きベクトルが符号化処理対象画像と交差する方を選択する等が挙げられる。
【０１２１】
双方向動き情報生成の基準とする動きベクトル値が確定したら、結合動き情報候補に登録する動きベクトル値を算出する。
【０１２２】
図１９は、時間結合動き情報に対する基準動きベクトル値ＣｏｌＭｖに対する、Ｌ０予測、Ｌ１予測に対して登録する動きベクトル値ｍｖＬ０ｔ、ｍｖＬ１ｔの算出手法を説明するための図である。基準動きベクトル値ＣｏｌＭｖに対するＣｏｌＰｉｃと候補ブロックの基準とする動きベクトルの対象となる参照画像との画像間距離をＣｏｌＤｉｓｔとする。Ｌ０予測、Ｌ１予測の各参照画像と処理対象画像との画像間距離をＣｕｒｒＬ０Ｄｉｓｔ、ＣｕｕｒＬ１Ｄｉｓｔとする。ＣｏｌＭｖを、ＣｏｌＤｉｓｔとＣｕｒｒＬ０Ｄｉｓｔ、ＣｕｒｒＬ１Ｄｉｓｔの距離比率でスケーリングした動きベクトルを、それぞれに登録する動きベクトルとする。具体的には、登録する動きベクトル値ｍｖＬ０ｔ、ｍｖＬ１ｔは、下記式１、２で算出される。
ｍｖＬ０ｔ＝ｍｖＣｏｌ×ＣｕｒｒＬ０Ｄｉｓｔ／ＣｏｌＤｉｓｔ ・・・（式１）
ｍｖＬ１ｔ＝ｍｖＣｏｌ×ＣｕｒｒＬ１Ｄｉｓｔ／ＣｏｌＤｉｓｔ ・・・（式２）
となる。
【０１２３】
図１８に戻り、このようにして生成された、双方向の参照画像選択情報（インデックス）と、動きベクトル値を結合動き情報候補に追加し（Ｓ１９０４）、時間結合動き情報候補リスト作成処理が終了する。
【０１２４】
図２０は、図１８のステップＳ１４０１における結合予測モード評価値生成の詳細動作を説明するためのフローチャートである。この動作は、図１０の結合動き補償予測生成部１００８を用いた構成の詳細動作を示している。
【０１２５】
最初に予測誤差評価値を最大値に設定し、予測誤差が最小となる結合動き情報インデックスを初期化（例えば、−１などのリスト外の値）する（Ｓ２１００）。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をｎｕｍ＿ｏｆ＿ｉｎｄｅｘとすると、ｉ＝０からｎｕｍ＿ｏｆ＿ｉｎｄｅｘ−１までの結合動き情報候補について以下の処理を繰り返し行う（Ｓ２１０１からＳ２１０９）。
【０１２６】
先ず、結合動き情報候補リストよりインデックスｉに格納された動き情報を取得する（Ｓ２１０２）。続いて動き情報符号量を算出する（Ｓ２１０３）。結合予測モードにおいては、結合動き情報インデックスのみが符号化されるので、結合動き情報インデックスのみが動き情報符号量となる。結合動き情報インデックスの符号列としては、実施の形態１では、Ｔｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を用いる。
【０１２７】
図２１は、結合動き情報候補数が５の場合のＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す図である。Ｔｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を用いて結合動き情報インデックスの値を符号化する場合には、結合動き情報候補数が少ないほど、結合動き情報インデックスに割り当てられる符号ビットが小さくなる。例えば、結合動き情報インデックスが１である場合、結合動き情報候補数が２個であれば‘１’の１ビットで表現されるが、結合動き情報候補数が３個であれば‘１０’の２ビットで表現される。なお、ここでは上記のように結合動き情報インデックスの符号化にＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を利用しているが、他の符号列生成手法を用いることも可能であり、これに限定されない。
【０１２８】
図２０に戻り、動き情報の予測方向が片方向である場合（Ｓ２１０４：ＹＥＳ）、１つの参照画像に対する参照画像指定情報と動きベクトルを、図１における動き補償予測部１０８に設定して、片方向動き補償予測ブロックを生成する（Ｓ２１０５）。動き情報が片方向でない場合（Ｓ２１０４：ＮＯ）、２つの参照画像に対する参照画像指定情報と動きベクトルを動き補償予測部１０８に設定して、双方向動き補償予測ブロックを生成する（Ｓ２１０６）。
【０１２９】
続いて、動き補償予測ブロックと予測対象ブロックの予測誤差と動き情報符号量より、予測誤差評価値を算出し（Ｓ２１０７）、予測誤差評価値が最小値である場合には評価値を更新すると共に、予測誤差最小インデックスを更新する（Ｓ２１０８）。
【０１３０】
全ての結合動き情報候補についての予測誤差評価値が比較された結果、選択された予測誤差最小インデックスを、結合予測モードで用いる結合動き情報インデックスとして、予測誤差最小値、動き補償予測ブロックと共に出力し（Ｓ２１１０）、結合予測モード評価値生成処理を終了する。
【０１３１】
図２２は、図１３のステップＳ１４０２における結合動き修正予測モード評価値生成の詳細動作を説明するためのフローチャートである。この動作は、図１０の結合動き修正動き補償予測生成部１００９を用いた構成の詳細動作を示している。
【０１３２】
最初に予測誤差評価値を最大値に設定し、予測誤差が最小となる結合動き情報インックスを初期化（例えば、−１などのリスト外の値）する（Ｓ２２００）。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をｎｕｍ＿ｏｆ＿ｉｎｄｅｘとすると、ｉ＝０からｎｕｍ＿ｏｆ＿ｉｎｄｅｘ−１までの結合動き情報候補について以下の処理を繰り返し行う（Ｓ２２０１からＳ２２１０）。
【０１３３】
先ず、結合動き情報候補リストよりインデックスｉに格納された動き情報を取得する（Ｓ２２０２）。続いて、取得した動き情報より双方向予測の動きベクトル値と参照画像指定情報、及び差分ベクトルを伝送する参照画像となる動き修正参照画像を確定する（Ｓ２２０３）。ステップＳ２２０３の詳細動作に関しては、後述する。
【０１３４】
次に、ステップＳ２２０３により確定された動き補正参照画像に対して、図１の動きベクトル検出部１０７より動き補正参照画像に対する検出した動きベクトル値を入力する（Ｓ２２０４）。入力された動きベクトル値を動き補償予測に用いるため、結合動き情報候補より算出された動き情報における、動き補正参照画像の動きベクトル値との差分ベクトルが生成される（Ｓ２２０５）。
【０１３５】
続いて、動き情報符号量を算出する（Ｓ２２０６）。結合動き修正予測モードにおいては、結合動き情報インデックスと差分ベクトル値が符号化されることで、必要な動き情報が伝送される。そのため、結合動き情報インデックスの符号量と差分ベクトル値の符号量が加算され、結合動き修正予測モードにおける動き情報符号量となる。
【０１３６】
結合修正動き予測モードの場合に、結合動き情報より生成された双方向予測の動きベクトルと参照画像選択情報に対して、動き修正参照画像に対する修正した動きベクトルのみを入れ替えた動き情報を、図１における動き補償予測部１０８に設定して、双方向動き補償予測ブロックを生成する（Ｓ２２０７）。
【０１３７】
動き補償予測ブロックと予測対象ブロックの予測誤差と動き情報符号量より、予測誤差評価値を算出し（Ｓ２２０８）、予測誤差評価値が最小値である場合には評価値を更新すると共に、予測誤差最小インデックスを更新する（Ｓ２２０９）。
【０１３８】
全ての結合動き情報候補についての予測誤差評価値が比較された結果、選択された予測誤差最小インデックスを、結合予測モードで用いる結合動き情報インデックスとして、予測誤差最小値、動き補償予測ブロックと共に出力し（Ｓ２２１１）、結合動き修正予測モード評価値生成処理を終了する。
【０１３９】
次に、ステップＳ２２０３の詳細動作を説明する前に、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の説明を行う。図２３（ａ）〜（ｃ）は、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の概念を示す図である。結合動き情報としては、図２３（ａ）に示す空間隣接ブロックから算出された予測方向が双方向である空間ＢｉＰｒｅｄと、図２３（ｂ）に示す空間隣接ブロックから算出された予測方向が片方向である空間ＵｎｉＰｒｅｄと、図２３（ｃ）に示す時間連接ブロックから算出された時間ＢｉＰｒｅｄが存在する。
【０１４０】
実施の形態１における、結合動き情報に対するスケーリング処理は、双方向の動き情報が取得できる空間ＢｉＰｒｅｄ及び時間ＢｉＰｒｅｄにおいては、結合動き情報算出時に施された動きベクトルをそのまま用い、時間ＵｎｉＰｒｅｄに関しては、片方向で定義されている動きベクトル値を、符号化対象画像とＬ０画像、Ｌ１画像との距離比率でスケーリングすることで、使用されていなかった方向の動き情報を生成する。
【０１４１】
図２４は、各結合動き情報に対して存在するスケーリングされて生成した動きベクトル数を示す図である。空間ＵｎｉＰｒｅｄが上記スケーリング処理における１個、空間ＢｉＰｒｅｄは結合動き情報算出時にスケーリング処理が施されていないため０個、時間ＢｉＰｒｅｄは結合動き情報算出時の２つの動きベクトル値の算出時にスケーリング処理が施されているため２個となる。
【０１４２】
上記スケーリング処理が施された動きベクトル値は、隣接ブロックで使用された動きベクトル値をそのまま動きベクトル値として採用した結合動き情報と比較すると、スケーリングによる演算誤差の影響や、動き量の時間変化が一定でない場合の影響があり、その動き情報の精度にずれが生じている可能性が高い。また、隣接ブロックに使用された動きベクトル値は、符号化対象から時間的に離れた参照画像になるほど画面の変化が大きくなるため、その値の精度が低下する。
【０１４３】
実施の形態１においては、これらの結合動き情報に登録された動きベクトルの算出時の特性を利用して、差分ベクトルを送って動きベクトルを修正する必要のある動きベクトルを、付加情報を伝送することなく特定し、差分ベクトルのみを追加で符号化する。これにより、動き補償予測の予測精度が高い動き情報を、少ない動き情報の伝送で実現することができる。
【０１４４】
実施の形態１においては、スケーリングされて算出された動きベクトル値を持つ参照画像を優先的に、差分ベクトルを伝送する動き修正参照画像に設定する。２つの動きベクトルが共にスケーリングされている場合や、共にスケーリングされていない場合には、予測対象画像からの時間的距離が離れた参照画像を、差分ベクトルを伝送する動き修正参照画像に設定する。
【０１４５】
図２５（ａ）〜（ｃ）は、実施の形態１における差分動きベクトル伝送参照画像確定アルゴリズムを示す概念図である。図２５（ａ）に示す空間ＢｉＰｒｅｄでは、スケーリングされた動きベクトルが０個のため、時間的距離の遠い参照画像の動きベクトルに差分ベクトルを追加する。図２５（ｂ）に示す空間ＵｎｉＰｒｅｄでは、スケーリングされた動きベクトルが１個のため、スケーリングされた動きベクトルに差分ベクトルを追加する。図２５（ｃ）に示す時間ＢｉＰｒｅｄでは、スケーリングされた動きベクトルが２個のため、時間的距離の遠い参照画像の動きベクトルに差分ベクトルを追加する。
【０１４６】
図２６は、図２２のステップＳ２２０３の詳細動作を説明するためのフローチャートである。図２２のステップＳ２２０３では、上記差分ベクトルを伝送する参照画像の確定処理が行われる。
【０１４７】
最初に、取得した結合動き情報の予測方向が片方向である場合には（Ｓ２６００：ＹＥＳ）、空間ＵｎｉＰｒｅｄで導出された結合動き情報であり、双方向の動き補償予測を行うための第２参照画像と第２参照画像の動きベクトル値を確定する処理を行う（Ｓ２６０１）。ステップＳ２６０１の詳細動作に関しては、後述する。
【０１４８】
続いて、双方向の参照画像の動きベクトル値のうちスケーリングされた動きベクトルが片方向の１つの動きベクトルのみである場合（Ｓ２６０２：ＹＥＳ）、スケーリングされた動きベクトル値を持つ参照画像を動き修正参照画像に設定する（Ｓ２６０３）。
【０１４９】
スケーリングされた動きベクトルが片方向の１つの動きベクトルでない場合（Ｓ２６０２：ＮＯ）、符号化対象画像、Ｌ０参照画像、Ｌ１参照画像の時間情報を示すＰＯＣ値を取得し、それぞれＰＯＣｃｕｒ、ＰＯＣ＿Ｌ０、ＰＯＣ＿Ｌ１に設定する（Ｓ２６０４）。
【０１５０】
符号化対象画像と２つの参照画像の間での時間的距離を下記式３で比較する。
ａｂｓ（ＰＯＣｃｕｒ−ＰＯＣ＿Ｌ０）＞ａｂｓ（ＰＯＣｃｕｒ−ＰＯＣ＿Ｌ１）
・・・（式３）
【０１５１】
上記式３を満たす場合（Ｓ２６０５：ＹＥＳ）、Ｌ０参照画像が遠い参照画像と判断し、Ｌ０参照画像を動き修正参照画像に設定する（Ｓ２６０６）。上記式３を満たさない場合（Ｓ２６０５：ＮＯ）、Ｌ１参照画像を動き修正参照画像に設定する（Ｓ２６０７）。以上で、双方向の動きベクトル値と差分ベクトルを伝送する参照画像を確定する処理が終了する。
【０１５２】
図２７は、図２６のステップＳ２６０１の詳細動作を説明するためのフローチャートである。最初に、結合動き情報に格納されている動き情報がＬ０予測であった場合（Ｓ２７００：ＹＥＳ）、第２参照画像としてＬ１予測の参照画像インデックスを確定する（Ｓ２７０１）。Ｌ０予測でない場合（Ｓ２７００：ＮＯ）、第２参照画像としてＬ０予測の参照画像インデックスを確定する（Ｓ２７０２）。ステップＳ２７０２における参照画像インデックスの確定処理に関しては、後述する。
【０１５３】
続いて、符号化対象画像、結合動き情報に格納されている参照画像、第２参照画像のＰＯＣ値を取得し、ＰＯＣｃｕｒ、ＰＯＣ＿Ｌｘ、ＰＯＣ＿Ｌｙに設定する（Ｓ２７０３）。上記ＰＯＣ値を用いて、結合動き情報に格納されている動きベクトル値を２つの参照画像と符号化対象画像との距離比率でスケーリングする（Ｓ２７０４）。
【０１５４】
結合動き情報に格納されている動き情報がＬ０予測であった場合（Ｓ２７０５：ＹＥＳ）、スケーリングして生成された動きベクトル値をＬ１予測の参照画像に対する基準動きベクトル値として設定する（Ｓ２７０６）。Ｌ０予測でない場合（Ｓ２７０５：ＮＯ）、スケーリングして生成された動きベクトル値をＬ０予測の参照画像に対する基準動きベクトル値として設定し（Ｓ２７０７）、処理を終了する。
【０１５５】
図２８は、図２７のステップＳ２７０２の詳細動作を説明するためのフローチャートである。図２７のステップＳ２７０２では、参照画像インデックスを確定する処理が行われる。
【０１５６】
最初に、結合動き情報に格納されている参照画像を基準参照画像として取得するとともに、第２参照画像を設定する予測方向における参照画像リストを第２参照画像候補リストとして取得する（Ｓ２８００）。
【０１５７】
次に、符号化対象画像を挟んで基準参照画像と反対方向の時間位置に存在する参照画像が第２参照画像候補リスト内に存在するかを調べる（Ｓ２８０１）。存在する場合（Ｓ２８０１：ＹＥＳ）、その中で最も符号化対象画像に近い時間位置に存在する参照画像を第２参照画像に対する参照画像インデックスとして確定する（Ｓ２８０２）。存在しない場合（Ｓ２８０１：ＮＯ）、符号化対象に最も近い時間位置に存在する参照画像を第２参照画像候補と設定し（Ｓ２８０３）、基準参照画像と第２参照画像候補が同一画像であるかを調べる（Ｓ２８０４）。
【０１５８】
基準参照画像と第２参照画像候補が同一画像でない場合（Ｓ２８０４：ＮＯ）、第２参照画像候補を第２参照画像に対する参照画像インデックスとして確定する（Ｓ２８０５）。基準参照画像と第２参照画像候補が同一画像である場合（Ｓ２８０４：ＹＥＳ）、他の参照画像が第２参照画像候補リストに存在するかを調べる（Ｓ２８０６）。存在する場合（Ｓ２８０６：ＹＥＳ）、時間位置で次に符号化対象画像に近い参照画像を取得し、第２参照画像に対する参照画像インデックスとして確定する（Ｓ２８０７）。他の参照画像が存在しない場合（Ｓ２８０６：ＮＯ）、ステップＳ２８０５に進み、第２参照画像候補を第２参照画像に対する参照画像インデックスとして確定する。以上で全ての場合における第２参照画像に対する参照画像インデックスが確定し、処理を終了する。
【０１５９】
実施の形態１における第２参照画像の確定アルゴリズムは、動き補償予測処理が双方向予測において符号化対象画像を挟んで反対方向に存在する参照画像で構成される補間型（内挿型）の双方向予測の方が、符号化対象画像を挟まずに同一方向に存在する参照画像で構成する補間（外挿型）の双方向予測よりも、動きや物体の時間変化の影響を平均化できるために予測精度が良い点、符号化対象画像から近い参照画像の方が動きや物体の時間変化の影響が少なく動き補償予測の精度が良い点、同じ参照画像を重ね合わせて生成する予測画像よりも、２つの異なる参照画像より生成される双方向予測画像の方が動きを正しく捉えた場合の予測画像の予測精度が高い点の３つの知見に基づく確定アルゴリズムである。この手法により、双方向予測に適した参照画像を第２参照画像として設定できる利点がある。
【０１６０】
しかしながら、上述した参照画像インデックスの確定処理に関しては、第２参照画像の参照画像インデックスが確定できればよく、異なる確定アルゴリズムを用いることも可能である。符号化処理と復号処理で同一の手法で参照画像を確定することで、符号化時に意図した参照画像を確定できる。他の確定方法として、他ブロックの動き情報における動きベクトルが正確な動きを示していない場合に、同じ参照画像を重ね合わせて生成する予測画像を用いることで、参照画像に微小な変化を加えた動き補償予測信号を新たな候補として加えることが出来る効果を重視して、図２８のフローチャートにおける、基準参照画像と第２参照画像候補が同一画像であるかを調べる処理であるステップＳ２８０４を無くして、同一画像であっても第２参照画像候補として確定する方法を用いることができる。
【０１６１】
更に他の確定方法として、第２参照画像として確定する予測方向の参照画像の中で、単純に符号化対象画像に最も近い距離にある参照画像を選択する方法や、常に参照画像インデックスが０で示される参照画像を取得する方法や、空間隣接ブロックが使用しているＬ０参照画像及びＬ１参照画像で、最も多く使用されている参照画像を予測対象ブロックにおける参照画像として選択する方法などの、時間ＢｉＰｒｅｄにおける参照画像確定処理に用いた確定手段を用いることも可能である。また、図２８に示したアルゴリズムを用いて、時間ＢｉＰｒｅｄにおける参照画像確定処理に応用することも可能である。
【０１６２】
図２９は、図１３のステップＳ１４０３の詳細動作を説明するためのフローチャートである。図１３のステップＳ１４０３では、片方向予測モード評価値生成処理が行われる。
【０１６３】
最初に、片方向予測に対する参照画像指定情報（インデックス）と動きベクトル値を取得する（Ｓ２９００）。続いて、最小動き情報符号量を最大値に設定し、動き情報符号量が最小となる結合動き情報インデックスを初期化（例えば、−１などのリスト外の値）する（Ｓ２９０１）。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をｎｕｍ＿ｏｆ＿ｉｎｄｅｘとすると、ｉ＝０からｎｕｍ＿ｏｆ＿ｉｎｄｅｘ−１までの結合動き情報候補について以下の処理を繰り返し行う（Ｓ２９０２からＳ２９０８）。
【０１６４】
先ず、結合動き情報算出部１００７より入力された結合動き情報候補リストより、インデックスｉに格納された動き情報を取得する（Ｓ２９０３）。続いて、取得した動き情報より参照画像指定情報で指定される参照画像に対する候補インデックスｉの予測ベクトル値を生成する（Ｓ２９０４）。ステップＳ２９０４の詳細動作に関しては、後述する。
【０１６５】
続いて、生成された予測ベクトル値と動きベクトル値との水平・垂直成分の差分値を算出し、差分ベクトルを生成する（Ｓ２９０５）。
【０１６６】
続いて、動き情報符号量を算出する（Ｓ２９０６）。片方向予測モードの場合に、符号化する動き情報としては、１つの参照画像に対する、参照画像指定情報、差分ベクトル値、及び結合動き情報インデックスの３要素となり、各々符号化された符号量の総量が動き情報符号量として算出される。動き情報符号量が、最小動き情報符号量よりも小さい場合には、最小動き情報符号量を更新すると共に、動き情報符号量最小インデックスを更新する（Ｓ２９０７）。すべての候補インデックスに対する動き情報符号量の算出を行うことで（Ｓ２９０８）、最小動き情報符号量と動き情報符号量最小インデックスが算出される。
【０１６７】
続いて、１つの参照画像に対する参照画像指定情報と動きベクトルを図１における動き補償予測部１０８に設定して、片方向動き補償予測ブロックを生成する（Ｓ２９０９）。さらに、動き補償予測ブロックと予測対象ブロックの予測誤差と、算出された最小動き情報符号量より、予測誤差評価値を算出し（Ｓ２９１０）、予測誤差評価値、並びに１つの参照画像に対する動き情報である、参照画像指定情報、差分ベクトル値、及び算出された動き情報符号量最小インデックスである結合動き情報インデックスを動き補償予測ブロックと共に出力し（Ｓ２９１１）、片方向予測モード評価値生成処理を終了する。
【０１６８】
図３０は、図２９のステップＳ２９０４の詳細動作を説明するためのフローチャートである。図２９のステップＳ２９０４では、結合動き情報候補インデックスより取得した動き情報をもとに、参照画像指定情報で指定される参照画像に対する予測ベクトル生成が行われる。
【０１６９】
最初に、予測ベクトルの対象となる予測方向がＬ０予測であるかＬ１予測であるかを取得する（Ｓ３０００）。ここでは、伝送する動きベクトルの対象となっている予測方向として、Ｌ０予測であるかＬ１予測であるかが設定される。続いて、対象となる予測方向に対応する動き情報が、指定された結合動き情報候補インデックスｉにおける動き情報として格納されているか否かを判断する（Ｓ３００１）。格納された動き情報の予測方向が双方向予測の場合には、常に対象となる予測方向に対応する動き情報が格納されていると判断される（Ｓ３００１：ＹＥＳ）。格納された動き情報の予測方向が片方向予測の場合には、片方向予測で設定されている予測方向が、予測ベクトルの対象となる予測方向と一致する場合には対象となる予測方向に対応する動き情報が格納されていると判断される（Ｓ３００１：ＹＥＳ）。一致しない場合には対象となる予測方向に対応する動き情報が格納されていないと判断される（Ｓ３００１：ＮＯ）。
【０１７０】
対象となる予測方向に対応する動き情報が格納されていると判断される場合には（Ｓ３００１：ＹＥＳ）、指定された結合動き情報候補インデックスｉにおける対象となる予測方向の動き情報として、参照画像指定情報と動きベクトル値を取得する（Ｓ３００２）。対象となる予測方向に対応する動き情報が格納されていないと判断される場合には（Ｓ３００１：ＮＯ）、指定された結合動き情報候補インデックスｉにおける対象となる予測方向と異なる方向の動き情報として、参照画像指定情報と動きベクトル値を取得する（Ｓ３００３）。
【０１７１】
ステップＳ３００２の処理を行った後、取得した動き情報の参照画像指定情報と、伝送する動きベクトルの対象となっている参照画像を示す参照画像指定情報とが同一であるか否かを判断する（Ｓ３００４）。同一の場合には（ステップＳ３００４：ＹＥＳ）、取得した動き情報の動きベクトル値を予測ベクトル値に設定し（Ｓ３００５）、処理を終了する。
【０１７２】
一方、ステップＳ３００３の処理を行った後、もしくはステップＳ３００４において同一でない場合には（ステップＳ３００４：ＮＯ）、予測ベクトル値として指定された結合動き情報候補インデックスｉに格納された動き情報の動きベクトル値を、スケーリングして算出する処理を行う。最初に、符号化対象画像、結合動き情報に格納されている参照画像、予測ベクトルの対象となる参照画像のＰＯＣ値を取得し、ＰＯＣｃｕｒ、ＰＯＣ＿Ｌｘ、ＰＯＣ＿Ｌｙに設定する（Ｓ３００６）。上記ＰＯＣ値を用いて、結合動き情報に格納されている動きベクトル値を２つの参照画像と符号化対象画像との距離比率でスケーリングする（Ｓ３００７）。スケーリングの処理としては、図２７のステップＳ２７０４と同様の処理が施される。
【０１７３】
最後に、スケーリングした動きベクトル値を、予測ベクトル値に設定し（Ｓ３００８）処理を終了する。図３０に示す処理を行うことにより、指定された結合動き情報候補インデックスｉに格納された動き情報の動きベクトル値を、予測ベクトルの対象としている参照画像に対する動き量に換算して、予測ベクトル値として設定することができる。
【０１７４】
図３１は、図１３のステップＳ１４０４の詳細動作を説明するためのフローチャートである。図１３のステップＳ１４０４では、双方向予測モード評価値生成処理が行われる。
【０１７５】
最初に、Ｌ０予測に対する参照画像指定情報（インデックス）と動きベクトル値を取得する（Ｓ３３００）。続いて、最小動き情報符号量を最大値に設定し、動き情報符号量が最小となる結合動き情報インデックスを初期化（例えば、−１などのリスト外の値）する（Ｓ３３０１）。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をｎｕｍ＿ｏｆ＿ｉｎｄｅｘとすると、ｉ＝０からｎｕｍ＿ｏｆ＿ｉｎｄｅｘ−１までの結合動き情報候補について以下の処理を繰り返し行う（Ｓ３３０２からＳ３３１０）。
【０１７６】
先ず、結合動き情報算出部１００７より入力された結合動き情報候補リストより、インデックスｉに格納された動き情報を取得する（Ｓ３３０３）。続いて、取得した動き情報より参照画像指定情報で指定されるＬ０参照画像に対する候補インデックスｉの予測ベクトル値を生成する（Ｓ３３０４）。ステップＳ３３０４の動作に関しては、図３０に示したステップＳ２９０４と同じ動作が行われる。
【０１７７】
続いて、生成された予測ベクトル値と動きベクトル値との水平・垂直成分の差分値を算出し、Ｌ０予測に対する差分ベクトルを生成する（Ｓ３３０５）。
【０１７８】
続いて、取得した動き情報より参照画像指定情報で指定されるＬ１参照画像に対する候補インデックスｉの予測ベクトル値を生成する（Ｓ３３０６）。ステップＳ３３０６の動作に関しても、図３０に示したステップＳ２９０４と同じ動作が行われる。生成された予測ベクトル値と動きベクトル値との水平・垂直成分の差分値を算出し、Ｌ１予測に対する差分ベクトルを生成する（Ｓ３３０７）。
【０１７９】
続いて、動き情報符号量を算出する（Ｓ３３０８）。双方向予測モードの場合には、符号化する動き情報としては、Ｌ０とＬ１の２つの参照画像に対する、参照画像指定情報、差分ベクトル値と、１つの結合動き情報インデックスの計５要素となり、各々符号化された符号量の総量が動き情報符号量として算出される。そのため、結合予測モードや結合動き修正予測モードと比較して、符号化される動き情報の符号量は大きくなるが、すべての参照画像を予測対象画像として指定出来、すべての動きベクトルを指定可能であるため、より予測残差の少ない動き補償予測ブロックを生成することができる。動き情報符号量が、最小動き情報符号量よりも小さい場合には、最小動き情報符号量を更新すると共に、動き情報符号量最小インデックスを更新する（Ｓ３３０９）。すべての候補インデックスに対する動き情報符号量の算出を行うことで（Ｓ３３１０）、最小動き情報符号量と動き情報符号量最小インデックスが算出される。
【０１８０】
続いて、２つの参照画像に対する参照画像指定情報と動きベクトルを図１における動き補償予測部１０８に設定して、双方向動き補償予測ブロックを生成する（Ｓ３３１１）。さらに、動き補償予測ブロックと予測対象ブロックの予測誤差と、算出された最小動き情報符号量より、予測誤差評価値を算出し（Ｓ３３１２）、予測誤差評価値、並びにＬ０、Ｌ１の２つの参照画像に対する動き情報である、２つの参照画像指定情報、２つの差分ベクトル値、及び算出された動き情報量最小インデックスである、１つの結合動き情報インデックスを動き補償予測ブロックと共に出力し（Ｓ３３１３）、双方向予測モード評価値生成処理を終了する。
【０１８１】
以上の処理が、実施の形態１における動画像符号化装置における予測モード判定部１０９の詳細動作となる。
【０１８２】
［実施の形態１における動画像符号化装置における動き情報符号化部の詳細動作説明］
図３２は、図５のステップＳ５０４の詳細動作を説明するためのフローチャートである。図５のステップＳ５０４の処理は、実施の形態１の動画像符号化装置の動き情報符号化部１１０における、各動き補償予測モードに対する動き情報を符号化する処理を示す。
【０１８３】
動き情報符号化部１１０には、予測モード判定部１０９において決定された動き補償予測モードにおける、予測モードを示す情報と、各予測モードの動き情報を表現するために必要な情報が供給され、動き情報符号化部１１０は動き情報符号化データ生成処理を開始する。
【０１８４】
最初に、予測モードが結合予測モードである場合（Ｓ３４００：ＹＥＳ）、ステップＳ３４０１に進み、対象となる予測ブロックで予測誤差信号を符号化しない（Ｓｋｉｐモード）状態である場合（Ｓ３４０１：ＹＥＳ）、Ｓｋｉｐフラグを符号化し（Ｓ３４０２）、そうでない場合（Ｓ３４０１：ＮＯ）、マージフラグを１として符号化する（Ｓ３４０３）。
【０１８５】
Ｓｋｉｐフラグ或いはマージフラグを符号化した後、結合動き情報候補リストが１より大きい場合（Ｓ３４０４：ＹＥＳ）、結合動き情報インデックスを符号化し（Ｓ３４０５）、処理を終了する。結合動き情報候補リストが１の場合（Ｓ３４０４：ＮＯ）、結合動き情報が特定できるため、結合動き情報インデックスは伝送されない。
【０１８６】
次に、予測モードが結合予測モードでない場合（Ｓ３４００：ＮＯ）、マージフラグを０として符号化する（Ｓ３４０６）。続いて、予測モードが結合動き修正予測モードである場合（Ｓ３４０７：ＹＥＳ）、結合動き修正予測モードの動き情報伝送が行われる。結合動き修正予測モードを特定するためのマージＭｖｄフラグを１で符号化する（Ｓ３４０８）。次に、結合動き情報候補リストが１より大きい場合（Ｓ３４０９：ＹＥＳ）、結合動き情報インデックスを符号化する（Ｓ３４１０）。結合動き情報候補リストが１の場合（Ｓ３４０９：ＮＯ）、結合動き情報インデックスは伝送されない。最後に、結合動き修正予測モードで特定された動き修正参照画像の動きベクトル値に対して、結合動き情報の動き修正参照画像の修正前動きベクトルとの差分ベクトル値を符号化し（Ｓ３４０９）、処理を終了する。
【０１８７】
一方、予測モードが結合動き修正予測モードでない場合（Ｓ３４０７：ＮＯ）、最初に結合動き修正予測モードでないことを示すためにマージＭｖｄフラグを０で符号化する（Ｓ３４１２）。続いて、動き予測フラグを符号化する（Ｓ３４１３）。動き予測フラグは、予測方向が片方向予測であるか双方向予測であるかを指示する情報として符号化される。
【０１８８】
図３３は、実施の形態１における動き予測フラグの一例を示す図である。動き予測フラグ（ｉｎｔｅｒ＿ｐｒｅｄ＿ｆｌａｇ）として、片方向を示す値（Ｐｒｅｄ＿ＬＣ）が０、双方向を示す値（Ｐｒｅｄ＿ＢＩ）が１で符号化される。
【０１８９】
図３２に戻り、結合動き情報候補リストが１より大きい場合（Ｓ３４１４：ＹＥＳ）、片方向予測もしくは双方向予測に用いられる結合動き情報インデックスを符号化する（Ｓ３４１５）。結合動き情報候補リストが１の場合（Ｓ３４１４：ＮＯ）、結合動き情報インデックスは伝送されない。
【０１９０】
次に、動き予測フラグで示された予測方向が片方向予測である場合（Ｓ３４１６：ＹＥＳ）、片方向予測モードの動き情報伝送が行われる。最初に、参照画像指定情報（インデックス）を符号化し（Ｓ３４１７）、続いて、差分ベクトルを符号化し（Ｓ３４１８）、処理を終了する。
【０１９１】
一方、動き予測フラグで示された予測方向が片方向予測でない場合（Ｓ３４１６：ＮＯ）、予測モードは双方向予測モードとなり、双方向予測モードの動き情報伝送が行われる。最初に、Ｌ０予測の動き情報であるＬ０参照画像指定情報を符号化し（Ｓ３４１９）、Ｌ０差分ベクトル値を符号化する（Ｓ３４２０）。
【０１９２】
続いて、Ｌ１予測の動き情報であるＬ１参照画像指定情報を符号化し（Ｓ３４２１）、Ｌ１差分ベクトル値を符号化する（Ｓ３４２２）。以上の処理により、動き情報符号化データの生成が終了する。
【０１９３】
図３４は、図３２のフローチャートで示した、動き情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す。図３４の符号化シンタックスにおいては、Ｓｋｉｐフラグの伝送は予測ブロック単位での動き情報の符号化より上の階層での符号化ブロック単位で選択される。従って、上位の符号化ブロックの単位で、図３２の予測誤差信号を符号化しない（Ｓｋｉｐモード）状態であるか否かの判定（Ｓ３４０１）が行われる。
【０１９４】
［実施の形態１における動画像復号装置における動き情報復号部の詳細動作説明］
図３５は、図６に示した実施の形態１の動画像復号装置における動き情報復号部６０６の詳細な構成を示す図である。動き情報復号部６０６は、動き情報ビットストリーム復号部３７００、予測ベクトル算出部３７０１、ベクトル加算部３７０２、片方向動き補償予測復号部３７０３、双方向動き補償予測復号部３７０４、結合動き情報算出部３７０５、結合動き補償予測復号部３７０６、及び結合動き修正動き補償予測復号部３７０７を含む。
【０１９５】
図６における動き情報復号部６０６に対して、多重分離部６０１より入力された動き情報ビットストリームが、動き情報ビットストリーム復号部３７００に供給され、動き情報メモリ６０７より入力された動き情報が、予測ベクトル算出部３７０１、及び結合動き情報算出部３７０５に供給される。
【０１９６】
また、動き補償予測部６０８に対して、片方向動き補償予測復号部３７０３、双方向動き補償予測復号部３７０４、結合動き補償予測復号部３７０６、及び結合動き修正動き補償予測復号部３７０７から、動き補償予測に用いる参照画像指定情報と動きベクトルが出力され、予測方向を示す情報を含めた復号された動き情報が、動き情報メモリ６０７に格納される。
【０１９７】
動き情報ビットストリーム復号部３７００は、多重分離部６０１より入力された動き情報ビットストリームを符号化シンタックスに従って復号していくことで、伝送された予測モードと、予測モードに応じた動き情報を生成する。生成した動き情報の中で、結合動き情報インデックスは、予測モードに応じて結合動き補償予測復号部３７０６、もしくは結合動き修正動き補償予測復号部３７０７に供給され、参照画像指定情報が予測ベクトル算出部３７０１に供給され、予測ベクトルインデックスがベクトル加算部３７０２に供給され、差分ベクトル値が予測モードに応じてベクトル加算部３７０２、もしくは結合動き修正動き補償予測復号部３７０７に供給される。
【０１９８】
予測ベクトル算出部３７０１は、動き情報ビットストリーム復号部３７００より供給された参照画像指定情報と、結合動き情報算出部３７０５より供給された、結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値から、動き補償予測の対象となる参照画像に対する結合動き情報候補リストに対する予測ベクトルを生成し、参照画像指定情報と共にベクトル加算部３７０２に供給する。予測ベクトル算出部３７０１の動作に関しては、図１０の動画像符号化装置における予測ベクトル算出部１００３と同一の動作が行われ、符号化時の予測ベクトルと同一の予測ベクトルが生成される。
【０１９９】
ベクトル加算部３７０２は、予測ベクトル算出部３７０１より供給された結合動き情報候補リストに対する予測ベクトル及び参照画像指定情報と、動き情報ビットストリーム復号部３７００から供給された結合動き情報インデックス及び差分ベクトルより、結合動き情報インデックスで示された位置に登録された予測ベクトル値と差分ベクトル値を加算することで、動き補償予測対象となる参照画像に対しての動きベクトル値が再生される。再生された動きベクトル値は、参照画像指定情報と共に、予測モードに応じて片方向動き補償予測復号部３７０３、もしくは双方向動き補償予測復号部３７０４に供給される。
【０２００】
片方向動き補償予測復号部３７０３は、ベクトル加算部３７０２より１つの参照画像に対する、再生された動きベクトル値と参照画像指定情報が供給され、動きベクトル値と参照画像指定情報を動き補償予測部６０８に設定することで、動き補償予測信号を生成する。
【０２０１】
双方向動き補償予測復号部３７０４は、ベクトル加算部３７０２より双方向の２つの参照画像に対する、再生された動きベクトル値と参照画像指定情報が供給され、動きベクトル値と参照画像指定情報を動き補償予測部６０８に設定することで、動き補償予測信号を生成する。
【０２０２】
結合動き情報算出部３７０５は、動き情報メモリ６０７から供給される隣接ブロックの動き情報より、結合動き情報候補リストを生成し、結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値を、予測モードに応じて予測ベクトル算出部３７０１、結合動き補償予測復号部３７０６、もしくは結合動き修正動き補償予測復号部３７０７に供給する。
【０２０３】
結合動き情報算出部３７０５の動作に関しては、図１０の動画像符号化装置における結合動き情報算出部１００７と同一の動作が行われ、符号化時の結合動き情報候補リストと同一の候補リストが生成される。
【０２０４】
結合動き補償予測復号部３７０６は、結合動き情報算出部３７０５より供給される結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値と、動き情報ビットストリーム復号部３７００より供給される結合動き情報インデックスより、結合動き情報インデックスで示された結合動き情報候補リストにおける参照画像指定情報と動きベクトル値を再生し、動き補償予測部６０８に設定することで、動き補償予測信号を生成する。
【０２０５】
結合動き修正動き補償予測復号部３７０７は、結合動き情報算出部３７０５より供給される結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値と、動き情報ビットストリーム復号部３７００より供給される結合動き情報インデックスより、結合動き修正予測モードに対する動き情報を算出し、動き修正参照画像を確定する。そして、動き修正参照画像の動きベクトル値に対して差分ベクトル値を加算することで、双方向予測の参照画像指定情報と動きベクトル値を再生し、動き補償予測部６０８に設定することで、動き補償予測信号を生成する。
【０２０６】
図３６は、図７のステップＳ７０１の詳細動作を説明するためのフローチャートである。動き情報ビットストリーム復号部３７００、予測ベクトル算出部３７０１、結合動き情報算出部３７０５、及び結合動き修正動き補償予測復号部３７０７により、図７のステップＳ７０１における動き情報復号処理が行われる。
【０２０７】
動き情報復号処理は、図３４のシンタックス構造で符号化された符号化ビットストリームより動き情報を復号する処理である。最初に符号化ブロックの所定単位でＳｋｉｐフラグを復号する（Ｓ３８００）。以降は予測ブロック単位の処理となる。ＳｋｉｐフラグがＳｋｉｐモードを示している場合（Ｓ３８０１：ＹＥＳ）、結合予測動き情報復号を行う（Ｓ３８０２）。ステップＳ３８０２の詳細処理については、後述する。
【０２０８】
Ｓｋｉｐモードでない場合（Ｓ３８０１：ＮＯ）、マージフラグを復号する（Ｓ３８０３）。マージフラグが１を示している場合（Ｓ３８０４：ＹＥＳ）、ステップＳ３８０２の結合予測動き情報復号に進む。
【０２０９】
マージフラグが１でない場合（Ｓ３８０４：ＮＯ）、マージＭｖｄフラグを復号する（Ｓ３８０５）。マージＭｖｄフラグが１でない場合（Ｓ３８０６：ＮＯ）、動き予測フラグを復号する（Ｓ３８０７）。動き予測フラグが片方向予測モードである場合（Ｓ３８０８：ＹＥＳ）、即ち図３３におけるｉｎｔｅｒ＿ｐｒｅｄ＿ｆｌａｇがＰｒｅｄ＿ＬＣを示す場合、片方向予測動き情報復号を行う（Ｓ３８０９）。ステップＳ３８０９の詳細動作については、後述する。
【０２１０】
動き予測フラグが片方向予測モードを示していない場合（Ｓ３８０８：ＮＯ）、双方向予測動き情報復号が行われる（Ｓ３８１０）。また、マージＭｖｄフラグが１である場合（Ｓ３８０６：ＹＥＳ）には、結合動き修正予測動き情報復号が行われる（Ｓ３８１１）。ステップＳ３８１０、及びステップＳ３８１１の詳細動作については、後述する。
【０２１１】
図３７は、図３６のステップＳ３８０２の詳細動作を説明するためのフローチャートである。図３６のステップＳ３８０２では、結合予測動き情報復号処理が行われる。
【０２１２】
最初に予測モードに結合予測モードを設定し（Ｓ３９００）、結合動き情報候補リストを生成する（Ｓ３９０１）。ステップＳ３９０１の処理は、図１３のフローチャート内の、動画像符号化装置における結合動き情報候補リスト生成であるステップＳ１４０１と同一の処理である。
【０２１３】
結合動き情報候補リストが１よりも大きい場合（Ｓ３９０２：ＹＥＳ）、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し（Ｓ３９０３）、結合動き情報候補リストが１つの場合（Ｓ３９０２：ＮＯ）、結合動き情報インデックスに０を設定する（Ｓ３９０４）。
【０２１４】
続いて、結合動き情報候補リストより、結合動き情報インデックスで示す位置に格納されている動き情報を取得する（Ｓ３９０５）。取得する動き情報としては、片方向／双方向を示す予測方向、参照画像指定情報、動きベクトル値となる。生成された動き情報は、結合予測モードの動き情報として格納され（Ｓ３９０６）、結合動き補償予測復号部３７０６に供給される。
【０２１５】
図３８は、図３６のステップＳ３８０７の詳細動作を説明するためのフローチャートである。図３６のステップＳ３８０７では、片方向予測動き情報復号処理が行われる。
【０２１６】
最初に、結合動き情報候補リストを生成する（Ｓ４０００）。ステップＳ４０００の処理は、図１３のフローチャート内の、動画像符号化装置における結合動き情報候補リスト生成であるステップＳ１４０１と同一の処理である。結合動き情報候補リストが１よりも大きい場合（Ｓ４００１：ＹＥＳ）、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し（Ｓ４００２）、結合動き情報候補リストが１つの場合（Ｓ４００１：ＮＯ）、結合動き情報インデックスに０を設定する（Ｓ４００３）。
【０２１７】
続いて、結合動き情報リストより復号した結合動き情報インデックスに格納された動き情報を取得する（Ｓ４００４）。次に、参照画像指定情報を復号し（Ｓ４００５）、差分ベクトル値を復号する（Ｓ４００６）。次に、復号した結合動き情報インデックスに対する予測ベクトル値を生成する（Ｓ４００７）。ステップＳ４００７の動作に関しては、動画像符号化装置における図２９のステップＳ２９０４と同一の動作が行われる。
【０２１８】
続いて、復号した差分ベクトル値と生成された予測ベクトル値を加算することで動きベクトルを再生する（Ｓ４００８）。生成された動き情報として、１つの参照画像に対する参照画像指定情報と動きベクトル値が、片方向予測モードの動き情報として格納され（Ｓ４００８９）、片方向動き補償予測復号部３７０３に供給される。
【０２１９】
図３９は、図３６のステップＳ３８１１の詳細動作を説明するためのフローチャートである。図３６のステップＳ３８１１では、双方向予測動き情報復号処理が行われる。
【０２２０】
最初に、結合動き情報候補リストを生成する（Ｓ４１００）。ステップＳ４１００の処理は、図１３のフローチャート内の、動画像符号化装置における結合動き情報候補リスト生成であるステップＳ１４０１と同一の処理である。結合動き情報候補リストが１よりも大きい場合（Ｓ４１０１：ＹＥＳ）、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し（Ｓ４１０２）、結合動き情報候補リストが１つの場合（Ｓ４１０１：ＮＯ）、結合動き情報インデックスに０を設定する（Ｓ４１０３）。
【０２２１】
続いて、結合動き情報リストより復号した結合動き情報インデックスに格納された動き情報を取得する（Ｓ４１０４）。次に、Ｌ０予測の参照画像指定情報を復号し（Ｓ４１０５）、差分ベクトル値を復号する（Ｓ４１０６）。次に、復号した結合動き情報インデックスに対するＬ０予測の予測ベクトル値を生成し（Ｓ４１０７）、復号した差分ベクトル値と生成されたＬ０予測の予測ベクトル値を加算することでＬ０予測に対する動きベクトルを再生する（Ｓ４１０８）。ステップＳ４１０７の動作に関しては、動画像符号化装置における図３１のステップＳ３３０４と同一の動作が行われる。
【０２２２】
続いて、同様の動き情報復号処理がＬ１予測の参照画像に対して行われる。Ｌ１予測の参照画像指定情報を復号し（Ｓ４１０９）、差分ベクトル値を復号し（Ｓ４１１０）、復号した結合動き情報インデックスに対するＬ１予測の予測ベクトル値を生成し（Ｓ４１１１）、復号した差分ベクトル値と生成されたＬ１予測の予測ベクトル値を加算することでＬ１予測に対する動きベクトルを再生する（Ｓ４１１２）。ステップＳ４１１１の動作に関しては、動画像符号化装置における図３１のステップＳ３３０６と同一の動作が行われる。
【０２２３】
生成された動き情報として、２つの参照画像に対する参照画像指定情報と動きベクトル値が、双方向予測モードの動き情報として格納され（Ｓ４１１３）、双方向動き補償予測復号部３７０４に供給される。
【０２２４】
図４０は、図３６のステップＳ３８１０の詳細動作を説明するためのフローチャートである。図３６のステップＳ３８１０では、結合動き修正予測動き情報復号処理が行われる。
【０２２５】
最初に予測モードに結合動き修正予測モードを設定し（Ｓ４２００）、結合動き情報候補リストを生成する（Ｓ４２０１）。ステップＳ４２０１では、動画像符号化装置における図１３のフローチャートのステップＳ１４０１と同一の処理が行われる。
【０２２６】
結合動き情報候補リストが１よりも大きい場合（Ｓ４２０２：ＹＥＳ）、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し（Ｓ４２０３）、結合動き情報候補リストが１つの場合（Ｓ４２０２：ＮＯ）、結合動き情報インデックスに０を設定する（Ｓ４２０４）。
【０２２７】
続いて、結合動き情報候補リストより、結合動き情報インデックスで示す位置に格納されている動き情報を取得する（Ｓ４２０５）。取得する動き情報としては、片方向／双方向を示す予測方向、参照画像指定情報、動きベクトル値となる。
【０２２８】
次に、取得された結合動き情報インデックスと動き情報をもとに、結合動き修正動き補償予測復号部３７０７において、双方向動きベクトル値と差分ベクトルを伝送する参照画像確定処理を行う（Ｓ４２０６）。ステップＳ４２０６では、動画像符号化装置における図２２のフローチャートのステップＳ２２０３と同一の処理が行われる。更に詳細な処理内容に関しては、図２６、図２７、図２８に示されるフローチャートの処理が施され、動画像符号化装置と同じ双方向動きベクトル値と差分ベクトルを伝送する参照画像の確定が行われる。
【０２２９】
次に、確定した差分ベクトルを伝送する参照画像である動き修正参照画像に対して、動き情報として格納された修正前の動きベクトル値に対する、差分ベクトルを復号し（Ｓ４２０７）、修正前の動きベクトル値に差分ベクトルを加算することで、動き修正参照画像の動きベクトル値を算出する（Ｓ４２０８）。
【０２３０】
結合動き情報インデックスで示す位置に格納されている動き情報に対して、予測方向は双方向に設定されると共に、動き情報が片方向予測であった場合の第２参照画像を指定する参照画像指定情報と動き修正参照画像における更新された動きベクトル値が、動き情報として格納され（Ｓ４２０９）、結合動き修正動き補償予測復号部３７０７より、図６における動き補償予測部６０８及び動き情報メモリ６０７に出力される。
【０２３１】
実施の形態１における、動画像符号化装置及び動画像復号装置においては、従来の動画像符号化手法であるＡＶＣにおける動き補償予測に対して、より多くの隣接ブロックの動き情報を選択候補として用いることで、周囲の動き情報をより有効に利用できる候補として登録し、周囲の動き情報に対して動きベクトル値の修正情報を差分ベクトルとして符号化する構成を取る新規の予測モードである結合動き修正予測モードを用いた。これにより、動き情報の相関性が高いが動きの連続性が十分保たれていない場合や、他ブロックの動き情報における動きベクトルが予測残差を符号化した際の歪などの要因で正確な動きに対してずれを生じている場合などに、隣接ブロックから生成される動き情報に対して、少ない情報で適切な動きベクトルの修正が出来、少ない付加情報で予測残差が少ない動き補償予測信号を生成する、符号化装置及び復号装置を実現できる。
【０２３２】
また、実施の形態１における、動画像符号化装置及び動画像復号装置においては、動きベクトルを修正する参照画像の設定を、周囲の動き情報に格納された予測モードや周囲の動き情報から結合する動き情報を取得する際の取得方法を基準に、結合する動き情報における動きベクトルの信頼度を評価し、修正する必要のある参照画像を特定する。これにより、符号化時に伝送する指定情報を追加せずに、適切な動きベクトルの修正を可能とする効果を有する。
【０２３３】
また、実施の形態１における、動画像符号化装置及び動画像復号装置においては、結合予測モードと共用して結合動き修正予測モードの基準参照画像及び基準動きベクトルが決定・算出される。更に、動き検出予測モードにおいても、結合予測モード及び結合動き修正予測モードと、予測ベクトルに使用する隣接ブロックを指定する情報（インデックス）を共用することにより、結合動き情報候補リストの生成処理を同一処理で構成可能となり、処理負荷を削減しつつ付加情報を少なく符号化できる結合動き修正予測モード及び、動き検出予測モードを具備することができる。動き情報に関する付加符号量を段階的に増加させた、結合予測モード、結合動き修正予測モードと、動き修正予測モードの３つの予測モードを具備することによって、付加符号量と予測誤差符号量のバランスが最適な予測モードを選択することが可能であり、符号化効率を向上させることができる。
【０２３４】
また、実施の形態１における、動画像符号化装置及び動画像復号装置においては、少ない負荷と符号量で双方向予測を行う結合動き修正予測モードを増やすことができ、以降に符号化・復号するブロックで参照する隣接ブロックの動き情報を増やすことができるため、符号化効率を向上させることができる。
【０２３５】
実施の形態１における、動画像符号化装置及び動画像復号装置においては、動き補償予測モードとして、動き検出モード、結合予測モード、結合動き修正予測モードの３つの予測モードを全て備えている構成となっている。この点、３つの予測モードを全て備えていない場合においても、共通の動きベクトルや参照画像指定情報及び予測方向を含めた動き情報を格納した隣接ブロックのリストをもとに、動き検出モードの予測ベクトルを生成する処理を具備した構成において、１つの隣接ブロックを指定する情報（インデックス）で双方向予測の場合に２つの動きベクトルに対する予測ベクトルを算出でき、少ないインデックス伝送で有効な予測ベクトルを生成できる効果がある。
【０２３６】
また、実施の形態１の構成において、動き検出モードと結合予測モードのみ、もしくは動き検出モードと結合動き修正予測モードのみが備わっている構成においても、３つの予測モードを全て備えている構成の場合と同様に、結合動き情報候補リストの生成処理を同一処理で構成可能であり、処理負荷を削減しつつ付加情報を少なく符号化することができる効果を有する。
【０２３７】
更に、実施の形態１の構成において、動き検出モードと結合予測モードのみで予測モードが構成される場合においては、動画像符号化装置における図１０の結合動き修正動き補償予測生成部１００９と、図１３のフローチャートにおけるステップＳ１４０２が不要となり、動画像復号装置における図３５の結合動き修正動き補償予測復号部３７０７と、図３６のフローチャートにおけるステップＳ３８１１が不要となり、更に処理負荷を削減することが可能である。
【０２３８】
（実施の形態２）
次に、本発明の実施の形態２についての説明を行う。実施の形態２においては、実施の形態１に対して、結合予測モード、結合動き修正予測モード、動き検出モードの各モードにおいて、同一の結合動き情報候補リストをもとにしたうえで、動き情報を生成するための隣接ブロックを指定する情報（インデックス）の最大数を異なる値に指定する構成をとる。
【０２３９】
実施の形態１における、結合動き情報候補リストとして生成される動き情報のインデックスをｎｕｍ＿ｏｆ＿ｉｎｄｅｘとする場合に、実施の形態２においては、結合動き修正予測モード及び動き検出モードにおける結合動き情報のインデックスの最大数を特定値で制限する。ここでは、結合動き修正予測モードのインデックスの最大値をｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｄ、動き検出モードのインデックスの最大値をｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｐとする。これらの値は、暗黙で固定値に特定されて符号化装置、復号装置のそれぞれに適用されることも可能であるが、シーケンスや画像単位などの所定単位で、上記値を特定するための情報が伝送され、符号化装置と復号装置で同一の特定値を設定することも可能である。
【０２４０】
実施の形態２においては、実施の形態１と同一の構成及び同一の処理を有するが、符号化装置における、図２２の結合動き修正予測モード評価値生成フローチャートのステップＳ２２０１、図２９の片方向予測評価値生成フローチャートのステップＳ２９０２、及び図３１の双方向予測評価値生成フローチャートのステップＳ３３０２における、インデックスｉのループ処理が異なる。具体的には、Ｓ２２０１におけるループ回数がｎｕｍ＿ｏｆ＿ｉｎｄｅｘから、ｍｉｎ（ｎｕｍ＿ｏｆ＿ｉｎｄｅｘ，ｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｄ）に、Ｓ２９０１及びＳ３３０２におけるループ回数がｎｕｍ＿ｏｆ＿ｉｎｄｅｘから、ｍｉｎ（ｎｕｍ＿ｏｆ＿ｉｎｄｅｘ，ｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｐ）に代わる処理となる。
【０２４１】
実施の形態２における動画像符号化装置においては、結合動き修正予測モード及び動き検出モードの評価値を生成し、最適な結合動き情報インデックスを特定するための評価値算出処理のループ回数を削減することが可能となり、符号化処理を簡略化することが可能となる。
【０２４２】
また、実施の形態２においては、実施の形態１に対して、動画像符号化装置及び動画像復号装置における、結合動き情報のインデックスの符号化データが異なる。図４１に一例として、結合動き情報候補数が、結合予測モードで５、結合動き修正予測モードで４、動き検出予測モードで３の場合におけるインデックスの符号化に用いる、Ｔｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す。
【０２４３】
結合動き修正予測モードにおいては、結合動き情報に対して動きベクトルを修正するための差分ベクトルを伝送可能なため、動き情報の精度が十分でない場合にも差分ベクトルにより、正確な動きベクトル値を表現可能である。従って、結合動き修正予測モードは動き情報をそのまま用いる結合予測モードに対して、少ない結合動き情報の候補からの選択においても、良好な動き補償予測ブロックの生成が可能である。更に、図４１に示すようにＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列でインデックスを符号化する構成においては、結合動き情報の候補を制限することにより、結合動き修正予測モードで使用するインデックスの最大値に対する符号ビット数を結合予測モードより１ビット少なくすることが可能であり、インデックスに要する符号量も削減することが出来る。
【０２４４】
同様に、動き検出予測モードにおいても、結合動き情報に対して参照画像を選択する参照画像指定情報と動きベクトルを修正するための差分ベクトルを伝送可能なため、動き情報の精度が十分でない場合や、より精度の良い予測が可能な参照画像が存在する場合に、差分ベクトルと参照画像指定情報により、少ない結合動き情報の候補からの選択においても、精度の良い動き補償予測ブロックの生成を可能とする。動き検出予測モードにおいても、図４１に示す構成で、動き検出予測モードで使用するインデックスの最大値に対する符号ビット数を結合予測モードより１ビット少なく出来、インデックスに要する符号量を削減できる。
【０２４５】
図４２に、実施の形態２における動き情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す。図３２に示した実施の形態１における符号化ストリームのシンタックスに対して、インデックスが伝送及び受信される条件が変わると共に、最大候補数に依存して符号化列が変化するため、インデックス情報としては異なる値として符号化・復号される構成となる。
【０２４６】
（実施の形態３）
次に、本発明の実施の形態３についての説明を行う。実施の形態３においては、実施の形態２と同様、結合予測モード、結合動き修正予測モード、動き検出モードの各モードにおいて、同一の結合動き情報候補リストをもとにしたうえで、結合動き情報候補数の最大数を異なる値に指定すると共に、候補内のインデックス順を変える構成をとる。
【０２４７】
実施の形態３においては、結合動き情報候補リストとして生成される動き情報のインデックスをｎｕｍ＿ｏｆ＿ｉｎｄｅｘとする場合に、結合予測モード及び動き検出モードにおける結合動き情報のインデックスの最大数を特定値で制限する。ここでは、結合予測モードのインデックスの最大値をｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅ、動き検出モードのインデックスの最大値をｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｐとする。
【０２４８】
実施の形態３においては、実施の形態２と同様の構造と処理をとるが、結合動き修正予測モードの候補インデックスがｉである場合に、結合予測モードのインデックスｉ＿ｍｅｒｇｅを下記式４で算出する。
ｉ＿ｍｅｒｇｅ＝ｍｉｎ（ｎｕｍ＿ｏｆ＿ｉｎｄｅｘ，ｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅ）−ｉ−１ ・・・（式４）
【０２４９】
また、同様に、結合予測モードの候補インデックスがｉである場合に、動き検出モードのインデックスｉ＿ｍｅｒｇｅｍｖｐを下記式５で算出する。
ｉ＿ｍｅｒｇｅｍｖｐ＝ｍｉｎ（ｎｕｍ＿ｏｆ＿ｉｎｄｅｘ，ｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｐ）−ｉ−１ ・・・（式５）
【０２５０】
図４３に一例として、結合動き情報候補数が、結合動き修正予測モードで５、結合予測モードが４、動き検出予測モードが３の場合におけるインデックスの符号化に用いる、Ｔｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す。
【０２５１】
上記インデックスの変換が行われることにより、結合予測モード、結合動き修正予測モード、動き検出モードの各モードにおいて、同一の結合動き情報候補リストをもとにしたうえで、各予測モードにおいて適用可能な結合動き情報の候補の優先順を変えることが可能である。結合動き情報候補のそれぞれに対して、３つの予測モードで異なるインデックスの重みをつけることで、結合動き情報候補の動き情報に対して少ない補正で品質の良い動き補償予測が可能な場合に、少ない動き情報伝送を可能とする予測モードを３つの予測モードから適切に選択することが出来、符号化効率を高めることができる。
【０２５２】
また、結合動き情報の動き情報をそのまま用いる結合予測モードと、動き情報を修正することを可能とする結合動き修正予測モードや動き検出予測モードとで、小さなインデックスで少しの差分ベクトルを伝送する状態で複数の同程度の少ない符号量で、同等の動き情報の伝送が行われる情報の偏りを防ぎ、複数の結合動き情報候補を有効な動き情報として用いることが可能となる。
【０２５３】
実施の形態３における、各予測モードにおける結合動き情報候補数の設定と、インデックス順の変換処理に関しては、説明した構成だけでなく、様々な組み合わせで実現することが可能であり、各予測モードの特性や発生頻度に応じた形で決めることが可能である。
【０２５４】
以上述べた実施の形態において、双方向予測が利用可能なピクチャ（Ｂピクチャ）を前提に説明したが、双方向予測を有さないピクチャ（Ｐピクチャ）においても、本発明を適用することは可能である。つまり、本発明をＰピクチャに適用すると、結合動き修正予測モードでは、常に片方向予測で動き補償を行うことになり、結合予測モードで指定される参照画像と同一の参照画像に対して差分ベクトルを加算し、動きベクトルを修正する処理を行う。
【０２５５】
以上述べた実施の形態の動画像符号化装置が出力する動画像の符号化ストリームは、実施の形態で用いられた符号化方法に応じて復号することができるように特定のデータフォーマットを有しており、動画像符号化装置に対応する動画像復号装置がこの特定のデータフォーマットの符号化ストリームを復号することができる。
【０２５６】
動画像符号化装置と動画像復号装置の間で符号化ストリームをやりとりするために、有線または無線のネットワークが用いられる場合、符号化ストリームを通信路の伝送形態に適したデータ形式に変換して伝送してもよい。その場合、動画像符号化装置が出力する符号化ストリームを通信路の伝送形態に適したデータ形式の符号化データに変換してネットワークに送信する動画像送信装置と、ネットワークから符号化データを受信して符号化ストリームに復元して動画像復号装置に供給する動画像受信装置とが設けられる。
【０２５７】
動画像送信装置は、動画像符号化装置が出力する符号化ストリームをバッファするメモリと、符号化ストリームをパケット化するパケット処理部と、パケット化された符号化データをネットワークを介して送信する送信部とを含む。動画像受信装置は、パケット化された符号化データをネットワークを介して受信する受信部と、受信された符号化データをバッファするメモリと、符号化データをパケット処理して符号化ストリームを生成し、動画像復号装置に提供するパケット処理部とを含む。
【０２５８】
また、以上の符号化及び復号に関する処理は、ハードウェアを用いた伝送、蓄積、受信装置として実現することができるのは勿論のこと、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）やフラッシュメモリ等に記憶されているファームウェアや、コンピュータ等のソフトウェアによっても実現することができる。そのファームウェアプログラム、ソフトウェアプログラムをコンピュータ等で読み取り可能な記録媒体に記録して提供することも、有線あるいは無線のネットワークを通してサーバから提供することも、地上波あるいは衛星ディジタル放送のデータ放送として提供することも可能である。
【０２５９】
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
【符号の説明】
【０２６０】
１００ 入力端子、 １０１ 減算部、 １０２ 直交変換・量子化部、 １０３ 予測誤差符号化部、 １０４ 逆量子化・逆変換部、 １０５ 加算部、 １０６ 復号画像メモリ、 １０７ 動きベクトル検出部、 １０８ 動き補償予測部、 １０９ 予測モード判定部、 １１０ 動き情報符号化部、 １１１ 動き情報メモリ、 １１２ 多重化部、 １１３ 出力端子、 ６００ 入力端子、 ６０１ 多重分離部、 ６０２ 予測差分情報復号部、 ６０３ 逆量子化・逆変換部、 ６０４ 加算部、 ６０５ 復号画像メモリ、 ６０６ 動き情報復号部、 ６０７ 動き情報メモリ、 ６０８ 動き補償予測部、 ６０９ 出力端子、 １０００ 片方向動き補償予測生成部、 １００１ 双方向動き補償予測生成部、 １００２ 予測誤差算出部、 １００３ 予測ベクトル算出部、 １００４ 差分ベクトル算出部、 １００５ 動き情報符号量算出部、 １００６ 予測モード評価部、 １００７ 結合動き情報算出部、 １００８ 結合動き補償予測生成部、 １００９ 結合動き修正動き補償予測生成部、 １２００ 結合動き情報候補リスト生成部、 １２０１ 結合動き情報候補リスト削除部、 １３００ 基準参照画像・動き修正参照画像選択部、 １３０１ 動き修正参照画像動きベクトル取得部、 １３０２ 結合動き情報修正動き補償予測生成部、 １３０３ 差分ベクトル算出部、 ３７００ 動き情報ビットストリーム復号部、 ３７０１ 予測ベクトル算出部、 ３７０２ ベクトル加算部、 ３７０３ 片方向動き補償予測復号部、 ３７０４ 双方向動き補償予測復号部、 ３７０５ 結合動き情報算出部、 ３７０６ 結合動き補償予測復号部、 ３７０７ 結合動き修正動き補償予測復号部。
【技術分野】
【０００１】
本発明は、動き補償予測を用いた動画像符号化技術に関し、特に動き補償予測に利用する画像符号化装置、画像符号化方法及び画像符号化プログラムに関する。
【背景技術】
【０００２】
ＭＰＥＧ−４ ＡＶＣ／Ｈ．２６４（以後、ＡＶＣ）等に代表される動画像符号化では、時間方向の相関を利用した情報圧縮として、符号化対象となる画像信号である符号化対象ピクチャに対して、既に符号化され復号された局部復号信号を参照ピクチャとして用い、所定の符号化処理単位で、対象ピクチャと参照ピクチャとの間での動き量（以後、動きベクトル）を検出し、予測信号を生成する動き補償予測が用いられる。
【０００３】
ＡＶＣでは、動き補償予測において１つの参照ピクチャから１本の動きベクトルを利用して単一方向に予測信号を生成する片方向予測と、２つの参照ピクチャから２本の動きベクトルを利用して双方向に予測信号を生成する双方向予測が用いられる。これらを所定の符号化処理単位となる１６×１６画素の２次元ブロック内で処理対象となっているブロック（以後、予測対象ブロック）の大きさを可変にする手法や、複数の参照ピクチャの中から予測に用いる参照ピクチャを選択する手法に適用することで、予測信号の情報量を削減している。符号化側では、予測モード情報や参照画像を指定する情報を選択して伝送し、復号側では、伝送された予測モード情報や参照画像を指定する情報に従って動き補償予測処理が施される。
【０００４】
動きベクトルについては、処理対象ブロックに隣接する符号化済みのブロックの動きベクトルを予測動きベクトル（以降、予測ベクトル）とし、処理対象ブロックの動きベクトルと予測ベクトルとの差分を求め、差分ベクトルを符号化ベクトルとして伝送することで圧縮効率を向上させている。
【０００５】
更に、ＡＶＣにおいては、予測対象ブロックと同一位置にある参照ピクチャのブロックの符号化に用いられた動きベクトルを利用して、符号化ベクトルを伝送することなく動き補償予測を実現するダイレクト動き補償予測が知られている。
【０００６】
また、他の符号化ベクトルを伝送しない手法として、処理対象ブロックに隣接するブロックの動き情報を利用して、動き補償予測を実現する動き補償予測が知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開平１０−２７６４３９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００８】
上述したダイレクト動き補償予測は、予測対象ブロックと同一位置にある参照ピクチャのブロックにおける時間方向の動きの連続性に着目し、上述した符号化ベクトルを伝送しない動き補償予測は、予測対象ブロックと予測対象ブロックに隣接する符号化済ブロックにおける空間方向の動きの連続性に着目することで、他のブロックの動き情報をそのまま利用する。これにより、差分ベクトルを符号化ベクトルとして符号化せずに符号化効率を向上させている。
【０００９】
しかしながら、動きの連続性が十分保たれていない場合や、他ブロックの動き情報における動きベクトルが正確な動きを示していない場合などに、他のブロックの動き情報をそのまま利用する方式を用いた際には、ずれの生じた動き情報を用いた予測画像が生成される。その場合、精度良い動き補償予測画像を生成できず、符号化効率が向上しないという難しい面がある。
【００１０】
また、差分動きベクトルを符号化せずに動き補償を行わない場合には、差分動きベクトルを符号化する従来の動き補償予測が用いられるが、従来の動き補償予測を行う際には、予測モード情報や参照画像の指定情報、更に指定された参照画像に対して用いられる動きベクトルを予測ベクトルとの差分ベクトルとして、それぞれ符号化する必要がある。この場合、動き補償予測手法を指定する符号量が増大し、十分に符号化効率が向上しないという難しい面がある。
【００１１】
本発明はこうした状況に鑑みてなされたものであり、その目的は、動き補償予測を使用する際の符号化効率を向上させる技術を提供することにある。
【課題を解決するための手段】
【００１２】
上記課題を解決するために、本発明のある態様の画像符号化装置は、動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化装置であって、符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成する候補リスト生成部（１２００）と、前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択可能な予測モード判定部（１０９）と、前記予測モード判定部（１０９）から供給される予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化する予測誤差信号符号化部（１０３）と、前記予測モード判定部（１０９）から供給される動き情報を符号化する動き情報符号化部（１１０）と、前記予測誤差信号符号化部（１０３）から供給される符号化データと、前記動き情報符号化部（１１０）から供給される符号化データとを多重化する多重化部（１１２）と、を備える。前記動き情報符号化部（１１０）は、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する。
【００１３】
前記動き情報符号化部（１１０）は、前記第１予測モードにおいて、前記第２動きベクトルを特定するための情報として、前記候補リストから当該第２動きベクトルを含む動き情報を特定するための情報を符号化してもよい。
【００１４】
前記第２予測モードには、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報をそのまま使用して生成する予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルを前記第１動きベクトルを用いて修正して使用する予測モードがあり、前記予測モード判定部（１０９）は、それら二つの予測モードの少なくとも一方を選択可能であってもよい。
【００１５】
前記予測モード判定部（１０９）は、参照ブロック候補の動き情報から特定される、空間隣接か時間隣接かの違い、予測方向、第２動きベクトルのスケーリングの有無、及び前記符号化対象ブロックとの時間距離の少なくとも一つを参照して、前記差分ベクトルの対象となる参照画像を選択してもよい。
【００１６】
前記予測モード判定部（１０９）は、参照ブロック候補の動き情報から取得される予測方向が片方向の場合、その片方向の第２動きベクトルを用いて他方の第２動きベクトルを生成し、双方向の動きベクトルを生成してもよい。
【００１７】
本発明の別の態様は、画像符号化方法である。この方法は、動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化方法であって、符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成するステップと、前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択するステップと、選択された予測モードで生成された予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化するステップと、選択された予測モードで使用される動き情報を符号化するステップと、前記予測誤差信号の符号化データと、前記動き情報の符号化データとを多重化するステップと、を備える。前記動き情報を符号化するステップは、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する。
【００１８】
なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。
【発明の効果】
【００１９】
本発明によれば、動き補償予測を使用する際の符号化効率を向上させることができる。
【図面の簡単な説明】
【００２０】
【図１】本発明の実施の形態１に係る動画像符号化装置の構成を示す図である。
【図２】符号化対象画像の一例を示す図である。
【図３】予測ブロックサイズの詳細な定義を示す図である。
【図４】図４（ａ）〜（ｄ）は、動き補償予測の予測方向について説明するための図である。
【図５】本発明の実施の形態１に係る動画像符号化装置における符号化処理の動作の流れ示すフローチャートである。
【図６】本発明の実施の形態１に係る動画像復号装置の構成を示す図である。
【図７】本発明の実施の形態１に係る動画像復号装置における復号処理の動作の流れを示すフローチャートである。
【図８】図８（ａ）、（ｂ）は、本発明の実施の形態１における動き補償予測において使用される動き情報を符号化するための３つの予測モードを説明するための図である。
【図９】動き補償予測および動き補償予測を実施しない画面内予測における、動き補償の予測方向と、参照画像を定義する情報、及び符号化する動きベクトル数の関連に関して説明するための図である。
【図１０】実施の形態１の動画像符号化装置におけるモード判定部の詳細な構成を示す図である。
【図１１】結合動き情報算出部の構成を示す図である。
【図１２】結合動き修正動き補償予測生成部の構成を示す図である。
【図１３】図１０の予測モード判定部を介して動作する、図５のステップＳ５０２である動き補償予測モード／予測信号生成の動作について説明するためのフローチャートである。
【図１４】図１３のステップＳ１４００における結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。
【図１５】空間結合動き情報候補リスト生成に用いる空間候補ブロック群を示す図である。
【図１６】空間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。
【図１７】時間結合動き情報候補リスト生成に用いる時間候補ブロック群を示す図である。
【図１８】時間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。
【図１９】時間結合動き情報に対する基準動きベクトル値ＣｏｌＭｖに対する、Ｌ０予測、Ｌ１予測に対して登録する動きベクトル値ｍｖＬ０ｔ、ｍｖＬ１ｔの算出手法を説明するための図である。
【図２０】図１８のステップＳ１４０１における結合予測モード評価値生成の詳細動作を説明するためのフローチャートである。
【図２１】実施の形態１に係る、結合動き情報候補数が５の場合のＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す図である。
【図２２】図１３のステップＳ１４０２における結合動き修正予測モード評価値生成の詳細動作を説明するためのフローチャートである。
【図２３】図２３（ａ）〜（ｃ）は、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の概念を示す図である。
【図２４】各結合動き情報に対して存在するスケーリングされて生成した動きベクトル数を示す図である。
【図２５】図２５（ａ）〜（ｃ）は、実施の形態１における差分動きベクトル伝送参照画像確定アルゴリズムを示す概念図である。
【図２６】図２２のステップＳ２２０３の詳細動作を説明するためのフローチャートである。
【図２７】図２６のステップＳ２６０１の詳細動作を説明するためのフローチャートである。
【図２８】図２７のステップＳ２７０２の詳細動作を説明するためのフローチャートである。
【図２９】図１３のステップＳ１４０３の詳細動作を説明するためのフローチャートである。
【図３０】図２９のステップＳ２９０４の詳細動作を説明するためのフローチャートである。
【図３１】図１３のステップＳ１４０４の詳細動作を説明するためのフローチャートである。
【図３２】図５のステップＳ５０４の詳細動作を説明するためのフローチャートである。
【図３３】実施の形態１における動き予測フラグの一例を示す図である。
【図３４】図３２のフローチャートで示した、動き情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す図である。
【図３５】図６に示した実施の形態１の動画像復号装置における動き情報復号部の詳細な構成を示す図である。
【図３６】図７のステップＳ７０１の詳細動作を説明するためのフローチャートである。
【図３７】図３６のステップＳ３８０２の詳細動作を説明するためのフローチャートである。
【図３８】図３６のステップＳ３８０７の詳細動作を説明するためのフローチャートである。
【図３９】図３６のステップＳ３８１１の詳細動作を説明するためのフローチャートである。
【図４０】図３６のステップＳ３８１０の詳細動作を説明するためのフローチャートである。
【図４１】実施の形態２に係る、結合動き情報候補数が、結合予測モードで５、結合動き修正予測モードで４、動き検出予測モードで３の場合のＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す図である。
【図４２】実施の形態２に係る、情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す図である。
【図４３】実施の形態３に係る、結合動き情報候補数が、結合動き修正予測モードで５、結合予測モードが４、動き検出予測モードが３の場合のＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す図である。
【発明を実施するための形態】
【００２１】
以下、図面とともに本発明の実施の形態に係る動画像符号化装置、動画像符号化方法、動画像符号化プログラム、並びに動画像復号装置、動画像復号方法、動画像復号プログラムの好適な実施の形態について詳細に説明する。なお、図面の説明には同一要素には同一符号を付与して重複する説明を省略する。
【００２２】
（実施の形態１）
［動画像符号化装置全体構成］
図１は、本発明の実施の形態１に係る動画像符号化装置の構成を示す図である。以下、各部の動作について説明する。実施の形態１に係る動画像符号化装置は、入力端子１００、減算部１０１、直交変換・量子化部１０２、予測誤差符号化部１０３、逆量子化・逆変換部１０４、加算部１０５、復号画像メモリ１０６、動きベクトル検出部１０７、動き補償予測部１０８、予測モード判定部１０９、動き情報符号化部１１０、動き情報メモリ１１１、多重化部１１２、及び出力端子１１３を備える。
【００２３】
入力端子１００より入力される画像信号から符号化処理対象の予測ブロックの画像信号が、予測ブロックの位置情報と予測ブロックサイズに基づいて切り出され、予測ブロックの画像信号は、減算部１０１、動きベクトル検出部１０７及び予測モード判定部１０９に供給される。
【００２４】
図２は、符号化対象画像の一例を示す図である。実施の形態１に係る予測ブロックサイズに関しては、図２に示すように符号化対象画像が６４×６４画素の符号化ブロック（ＣＵ）単位で符号化処理され、予測ブロックは符号化ブロックが更に分割された単位で構成される。最大予測ブロックサイズは符号化ブロックと同じ６４×６４画素で、最小予測ブロックサイズは４×４画素である。符号化ブロックの予測ブロックへの分割構成は、非分割（２Ｎ×２Ｎ）、水平・垂直への分割（Ｎ×Ｎ）、水平方向のみへの分割（２Ｎ×Ｎ）、垂直方向のみへの分割（Ｎ×２Ｎ）が可能である。水平・垂直への分割の場合のみ、更に分割された予測ブロックを符号化ブロックとして階層的に予測ブロックに分割でき、その階層をＣＵ分割数で表現する。
【００２５】
図３は、予測ブロックサイズの詳細な定義を示す図である。ＣＵ分割数が０であって最大の予測ブロックサイズである６４画素×６４画素から、ＣＵ分割数が３であって最小の予測ブロックサイズである４画素×４画素までの１３の予測ブロックサイズが存在することになる。
【００２６】
本発明の実施の形態１に係る予測ブロックの分割構成に関して、この組み合わせに限定されない。また、動画像符号化装置における予測ブロックサイズの選択は、符号化ブロック単位で符号化効率のより良い構造を適応的に選択することが可能であるが、実施の形態１は予測ブロック単位での画面間予測及び画面間動き情報の符号化に注目したものであるため、最適な予測ブロックサイズの選択に関する構成要素及び説明を省略する。以降の動画像符号化装置の動作に関しては、選択した予測ブロックサイズ単位で施される動作を説明する。
【００２７】
図１に戻り、減算部１０１は、入力端子１００より供給される画像信号と予測モード判定部１０９より供給される予測信号を減算して予測誤差信号を算出し、予測誤差信号を直交変換・量子化部１０２に供給する。
【００２８】
直交変換・量子化部１０２は、減算部１０１より供給される予測誤差信号に直交変換及び量子化を施し、量子化された予測誤差信号を予測誤差符号化部１０３及び逆量子化・逆変換部１０４に供給する。
【００２９】
予測誤差符号化部１０３は、直交変換・量子化部１０２より供給される量子化された予測誤差信号をエントロピー符号化して、予測誤差信号に対する符号列を生成して、多重化部１１２に供給する。
【００３０】
逆量子化・逆変換部１０４は、直交変換・量子化部１０２より供給される量子化された予測誤差信号に対して、逆量子化や逆直交変換などの処理を行い、復号予測誤差信号を生成し加算部１０５に供給する。
【００３１】
加算部１０５は、逆量子化・逆変換部１０４より供給される復号予測誤差信号と、予測モード判定部１０９より供給される予測信号を加算して、復号画像信号を生成し、復号画像信号を復号画像メモリ１０６に供給する。
【００３２】
復号画像メモリ１０６は、加算部１０５より供給される復号画像信号を格納する。また、画像全体の復号が完了した復号画像については参照画像として１以上の所定画像数記憶し、参照画像信号を動きベクトル検出部１０７と動き補償予測部１０８に供給する。
【００３３】
動きベクトル検出部１０７は、入力端子１００より供給される予測ブロックの画像信号と、復号画像メモリ１０６に記憶された参照画像信号の入力を受けて、各参照画像に対する動きベクトルを検出し、動きベクトル値を予測モード判定部１０９に供給する。
【００３４】
一般的な動きベクトルの検出方法は、画像信号と同一位置より所定の移動量だけ移動させた参照画像に相当する画像信号について誤差評価値を算出し、誤差評価値が最小となる移動量を動きベクトルとする。誤差評価値としては、画素毎の差分絶対値の総和ＳＡＤ（Ｓｕｍ ｏｆ Ａｂｓｏｌｕｔｅ Ｄｉｆｆｅｒｅｎｃｅ）や、画素毎の二乗誤差値の総和ＳＳＥ（Ｓｕｍ ｏｆ Ｓｑｕａｒｅ Ｅｒｒｏｒ）等を利用する。さらに、動きベクトルの符号化に関わる符号量も誤差評価値に含めることも可能である。
【００３５】
動き補償予測部１０８は、予測モード判定部１０９より指定される参照画像指定情報と、動きベクトル値に従って、復号画像メモリ１０６内の参照画像指定情報で示される参照画像を、動きベクトル値だけ予測ブロックの画像信号と同一位置より移動させた位置の画像信号を取得して予測信号を生成する。
【００３６】
予測モード判定部１０９より指定される予測モードが片方向予測の場合には、１つの参照画像から取得した予測信号を動き補償予測信号とし、予測モードが双方向予測の場合には、２つの参照画像から取得した予測信号を重みづけ平均したものを動き補償予測信号とし、動き補償予測信号を予測モード判定部１０９に供給する。ここでは双方向予測の重みづけ平均の比率を１：１とする。
【００３７】
図４（ａ）〜（ｄ）は、動き補償予測の予測方向について説明するための図である。単一の参照画像からの予測を行う処理を片方向予測と定義し、片方向の場合はＬ０方向またはＬ１方向という２つの参照画像管理リストに登録された参照画像のいずれか一方を利用する。
【００３８】
図４（ａ）は片方向であってＬ０方向の参照画像（ＲｅｆＬ０Ｐｉｃ）が符号化対象画像（ＣｕｒＰｉｃ）より前の時刻にある場合を示している。図４（ｂ）は片方向であってＬ０方向の参照画像が符号化対象画像より後の時刻にある場合を示している。同様に、図４（ａ）および図４（ｂ）のＬ０方向の参照画像をＬ１方向の参照画像（ＲｅｆＬ１Ｐｉｃ）に置き換えて片方向予測を行うこともできる。
【００３９】
２つの参照画像からの予測を行う処理を双方向予測と定義し、双方向の場合はＬ０方向とＬ１方向の双方を利用してＢＩ方向と表現する。図４（ｃ）は双方向であってＬ０方向の参照画像が符号化対象画像より前の時刻にあって、Ｌ１方向の参照画像が符号化対象画像より後の時刻にある場合を示している。図４（ｄ）は双方向であってＬ０方向の参照画像とＬ１方向の参照画像が符号化対象画像より前の時刻にある場合を示している。このように、Ｌ０／Ｌ１の予測方向と時間の関係は、Ｌ０が過去方向、Ｌ１が未来方向とは限定されずに用いることが可能である。
【００４０】
実施の形態１では、参照画像及び符号化対象画像の時刻を示す情報としてＰＯＣ（Ｐｉｃｔｕｒｅ Ｏｒｄｅｒ Ｃｏｕｎｔ）を用いる。ＰＯＣはＡＶＣで定義された画像の表示順序を示すカウンタである。画像の表示順序が１増加するとＰＯＣも１増加する。したがって、画像間のＰＯＣ差から画像間の時間差（距離）を取得できる。
【００４１】
図１に戻り、予測モード判定部１０９は、動きベクトル検出部１０７より入力される各参照画像に対して検出された動きベクトル値と、動き情報メモリ１１１に格納された動き情報（予測方向、動きベクトル値、及び参照画像指定情報）をもとに、実施の形態１において定義した動き補償予測モードのそれぞれに対して用いられる、参照画像指定情報と動きベクトル値を動き補償予測部１０８に設定する。設定した値によって、動き補償予測部１０８から供給される動き補償予測信号と、入力端子１００より供給される予測ブロックの画像信号を用いて、最適な動き補償予測モードを決定する。
【００４２】
予測モード判定部１０９は、決定した予測モード、及び予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報を、動き情報符号化部１１０に供給し、決定した予測モード及びその予測モードに対する、予測方向、動きベクトル値、及び参照画像指定情報を動き情報メモリ１１１に供給すると共に、減算部１０１及び加算部１０５に決定した予測モードに対応する予測信号を供給する。
【００４３】
動画像符号化装置において、基準とする参照画像を符号化するために同一画面内の符号化済画像を用いて予測を行う画面内予測が行われるが、実施の形態１は画面間予測に注目したものであるため、画面内予測に関連する構成要素は省略する。予測モード判定部１０９の詳細な構成については後述する。
【００４４】
動き情報符号化部１１０は、予測モード判定部１０９より供給される予測モード、及び予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報を所定のシンタックス構造に従って符号化することで、動き情報の符号列を生成し、多重化部１１２に供給する。動き情報符号化部１１０の詳細な構成については後述する。
【００４５】
動き情報メモリ１１１は、予測モード判定部１０９より供給される動き情報（予測方向、動きベクトル、及び参照画像インデックス）を、最小予測ブロックサイズ単位を基準として所定画像分記憶する。処理対象の予測ブロックの隣接ブロックの動き情報を空間候補ブロック群とし、処理対象の予測ブロックと同一位置にあるＣｏｌＰｉｃ上のブロックとその周辺ブロックの動き情報を時間候補ブロック群とする。
【００４６】
ＣｏｌＰｉｃとは、処理対象の予測ブロックとは別の復号済みの画像であって、復号画像メモリ１０６に参照画像として記憶されている。実施の形態１では、ＣｏｌＰｉｃは直前に復号した参照画像とする。なお、実施の形態１では、ＣｏｌＰｉｃは直前に復号した参照画像としたが、表示順で直前の参照画像や表示順で直後の参照画像でもよく、符号化ストリーム中に、ＣｏｌＰｉｃに用いる参照画像を直接指定することも可能である。
【００４７】
動き情報メモリ１１１は、空間候補ブロック群と時間候補ブロック群の動き情報を、候補ブロック群の動き情報として予測モード判定部１０９に供給する。多重化部１１２は、予測誤差符号化部１０３から供給される予測誤差の符号化列と、動き情報符号化部１１０から供給される動き情報の符号化列を多重化することで符号化ビットストリームを生成し、出力端子１１３経由で、記録媒体・伝送路等に当該符号化ビットストリームを出力する。
【００４８】
図１に示した動画像符号化装置の構成は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、フレームメモリ、ハードディスクなどを備える情報処理装置等のハードウェアによっても実現可能である。
【００４９】
図５は、本発明の実施の形態１に係る動画像符号化装置における符号化処理の動作の流れ示すフローチャートである。予測ブロック単位毎に、入力端子１００より処理対象の予測ブロック画像を取得する（Ｓ５００）。動きベクトル検出部１０７は、処理対象の予測ブロック画像と復号画像メモリ１０６に格納された複数の参照画像より、参照画像毎の動きベクトル値を算出する（Ｓ５０１）。
【００５０】
続いて、予測モード判定部１０９は、動きベクトル検出部１０７より供給される動きベクトルと、動き情報メモリ１１１に格納された動き情報を用いて、実施の形態１において定義した動き補償予測モードのそれぞれに対する予測信号を、動き補償予測部１０８を用いて取得し、最適な予測モードを選択し、予測信号を生成する（Ｓ５０２）。ステップＳ５０２の処理の詳細については後述する。
【００５１】
続いて、減算部１０１は、処理対象の予測ブロック画像と予測モード判定部１０９より供給された予測信号との差分を予測誤差信号として算出する（Ｓ５０３）。動き情報符号化部１１０は、予測モード判定部１０９より供給される予測モード、及び予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報を所定のシンタックス構造に従って符号化し、動き情報の符号化データを生成する（Ｓ５０４）。ステップＳ５０４の処理の詳細については後述する。
【００５２】
続いて、予測誤差符号化部１０３は、直交変換・量子化部１０２で生成された量子化された予測誤差信号をエントロピー符号化して、予測誤差の符号化データを生成する（Ｓ５０５）。多重化部１１２は、動き情報符号化部１１０から供給される動き情報の符号化データと、予測誤差符号化部１０３から供給される予測誤差の符号化データを多重化し、符号化ビットストリームを生成する（Ｓ５０６）。
【００５３】
加算部１０５は、逆量子化・逆変換部１０４より供給される復号予測誤差信号と、予測モード判定部１０９より供給される予測信号を加算して、復号画像信号を生成する（Ｓ５０７）。加算部１０５によって、生成された復号画像信号が復号画像メモリ１０６に供給、格納され、以降に符号化する符号化画像の動き補償予測処理に用いられる（Ｓ５０８）。動き情報メモリ１１１は、動きベクトル検出部１０７より供給される動き情報（予測方向、動きベクトル、及び参照画像指定情報）を最小の予測ブロックサイズ単位で格納する（Ｓ５０９）。
【００５４】
［動画像復号装置全体構成］
図６は、本発明の実施の形態１に係る動画像復号装置の構成を示す図である。以下、各部の動作について説明する。実施の形態１に係る動画像復号装置は、入力端子６００、多重分離部６０１、予測差分情報復号部６０２、逆量子化・逆変換部６０３、加算部６０４、復号画像メモリ６０５、動き情報復号部６０６、動き情報メモリ６０７、動き補償予測部６０８、及び出力端子６０９を備える。
【００５５】
入力端子６００より符号化ビットストリームが多重分離部６０１に供給される。多重分離部６０１は、供給された符号化ビットストリームの符号列を予測誤差情報の符号化列と、予測モード、並びに予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報で構成される動き情報の符号化列に分離する。当該予測誤差情報の符号化列を予測差分情報復号部６０２に供給し、当該動き情報の符号化列を動き情報復号部６０６に供給する。
【００５６】
予測差分情報復号部６０２は、多重分離部６０１より供給された予測誤差情報の符号化列を復号し、量子化された予測誤差信号を生成する。予測差分情報復号部６０２は、生成した量子化された予測誤差信号を逆量子化・逆変換部６０３に供給する。
【００５７】
逆量子化・逆変換部６０３は、予測差分情報復号部６０２より供給される量子化された予測誤差信号を逆量子化や逆直交変換などの処理を行って予測誤差信号を生成し、復号予測誤差信号を加算部６０４に供給する。
【００５８】
加算部６０４は、逆量子化・逆変換部６０３より供給される復号予測誤差信号と、動き補償予測部６０８より供給される予測信号を加算して復号画像信号を生成し、復号画像信号を復号画像メモリ６０５に供給する。
【００５９】
復号画像メモリ６０５は、図１の動画像符号化装置における復号画像メモリ１０６と同じ機能を有し、加算部６０４から供給された復号画像信号を格納し、参照画像信号を動き補償予測部６０８に供給する。また、復号画像メモリ６０５は、格納された復号画像信号を再生時刻に合わせて、画像の表示順序に従い出力端子６０９に供給する。
【００６０】
動き情報復号部６０６は、多重分離部６０１より供給される動き情報の符号化列より、予測モード、並びに予測モードに応じた予測方向、動きベクトル、及び参照画像指定情報を特定する情報を動き情報として復号する。復号した動き情報と、動き情報メモリ６０７より供給される候補ブロック群の動き情報より、動き補償予測に用いる予測方向、動きベクトル及び参照画像指定情報を再生し、動き補償予測部６０８に供給する。また、動き情報復号部６０６は再生した動き情報を、動き情報メモリ６０７に供給する。動き情報復号部６０６の詳細な構成については後述する。
【００６１】
動き情報メモリ６０７は、図１の動画像符号化装置における動き情報メモリ１１１と同じ機能を持ち、動き情報復号部６０６より供給される再生した動き情報を最小予測ブロックサイズ単位を基準として所定画像分記憶する。また、動き情報メモリ６０７は、空間候補ブロック群と時間候補ブロック群の動き情報を、候補ブロック群の動き情報として動き情報復号部６０６に供給する。
【００６２】
動き補償予測部６０８は、図１の動画像符号化装置における動き補償予測部１０８と同じ機能を持ち、動き情報復号部６０６より供給される動き情報に基づいて、復号画像メモリ６０５内の参照画像指定情報が示す参照画像を、動きベクトル値だけ予測ブロックの画像信号と同一位置より移動させた位置の画像信号を取得して予測信号を生成する。動き補償予測の予測方向が双方向であれば、各予測方向の予測信号を平均したものを予測信号として生成し、予測信号を加算部６０４に供給する。
【００６３】
出力端子６０９は、復号画像メモリ６０５より供給された復号画像信号を、ディスプレイなどの表示媒体に出力することで、復号画像信号が再生される。
【００６４】
図６に示した動画像復号装置の構成も、図１に示した動画像符号化装置の構成と同様に、ＣＰＵ、フレームメモリ、ハードディスクなどを備える情報処理装置等のハードウェアによっても実現可能である。
【００６５】
図７は、本発明の実施の形態１に係る動画像復号装置における復号処理の動作の流れを示すフローチャートである。多重分離部６０１は、入力端子６００より供給された符号化ビットストリームを予測誤差情報の符号化列と、動き情報の符号化列に分離する（Ｓ７００）。分離された動き情報の符号化列は動き情報復号部６０６に供給され、動き情報メモリ６０７より供給される候補ブロック群の動き情報を用いて、復号対象ブロックの動き情報を復号する（Ｓ７０１）。
【００６６】
分離された予測誤差情報の符号化列は、予測差分情報復号部６０２に供給され、量子化された予測誤差信号として復号され、逆量子化・逆変換部６０３で逆量子化や逆直交変換などの処理を施されることで、復号予測誤差信号が生成される（Ｓ７０２）。ステップＳ７０２の処理の詳細については後述する。
【００６７】
動き情報復号部６０６より、復号対象ブロックの動き情報が動き補償予測部６０８に供給され、動き補償予測部６０８は動き情報にしたがって動き補償予測を行い予測信号を算出する（Ｓ７０３）。加算部６０４は、逆量子化・逆変換部６０３から供給された復号予測誤差信号と、動き補償予測部６０８から供給された予測信号とを加算し、復号画像信号を生成する（Ｓ７０４）。
【００６８】
加算部６０４より供給された復号画像信号は、復号画像メモリ６０５に格納される（Ｓ７０５）と共に、動き情報復号部６０６より供給された復号対象ブロックの動き情報が動き情報メモリ６０７に格納される（Ｓ７０６）。これで、予測ブロック単位の復号処理が終了する。
【００６９】
［実施の形態１の詳細機能説明］
本発明の実施の形態１に係る動画像符号化装置の予測モード判定部１０９及び動き情報符号化部１１０の動作、図５のフローチャートにおけるステップＳ５０２及びステップＳ５０４の処理、並びに本発明の実施の形態１に係る動画像復号装置における動き情報復号部６０６の動作、図７のフローチャートにおけるステップＳ７０２の処理の詳細動作を、以下説明する。
【００７０】
［実施の形態１における動き補償予測モードの定義］
図８（ａ）、（ｂ）は、本発明の実施の形態１における動き補償予測において使用される動き情報を符号化するための３つの予測モードを説明するための図である。第一の予測モードは、予測対象ブロックと当該予測対象ブロックに隣接する符号化済ブロックにおける時間方向や空間方向の動きの連続性を用いて、当該予測対象ブロックは自身の動き情報を直接符号化せずに、空間及び時間的に隣接するブロックの動き情報を符号化に使用する手法であり、結合予測モード（マージモード）と呼ぶ。
【００７１】
結合予測モードの場合には、複数の隣接ブロック候補より選択的に結合する動き情報が定義でき、動き情報は使用する隣接ブロックを指定する情報（インデックス）を符号化することで、指定情報をもとに取得した動き情報をそのまま動き補償予測に用いる。更に、結合予測モードにおいては、予測差分情報を符号化伝送せずに、結合予測モードで予測された予測信号を復号ピクチャとするＳｋｉｐモードを定義し、結合した動き情報のみの少ない情報で復号画像が再生できる構成を有する。Ｓｋｉｐモードにおいて伝送する動き情報は、結合予測モードと同様に隣接ブロックを定義する指定情報となる。
【００７２】
第二の予測モードは、動き情報の構成要素を個別にすべて符号化し、予測ブロックに対して予測誤差の少ない動き情報を伝送する手法であり、動き検出予測モードと呼ぶ。動き検出予測モードは、従来の動き補償予測の動き情報の符号化と同様に、参照画像を特定するための情報（参照画像インデックス）と、動きベクトルを特定するための情報が別々に符号化される。
【００７３】
動き検出予測モードには、片方向予測と双方向予測のどちらを使用するか予測モードで指示し、片方向予測の場合には１つの参照画像に対する参照画像を特定する情報と、動きベクトルの予測ベクトルとの差分ベクトルを符号化する。双方向予測の場合には２つの参照画像に対する参照画像を特定する情報と、動きベクトルがそれぞれ個別に符号化される。動きベクトルに対する予測ベクトルは、ＡＶＣと同様に隣接ブロックの動き情報から生成されるが、結合予測モードと同様に、複数の隣接ブロック候補より予測ベクトルに用いる動きベクトルを選択できる。動き検出予測モードにおいては、予測ベクトルに使用する隣接ブロックを指定する情報（インデックス）は、結合予測モードにおける動き情報と同一の候補より指定する。動きベクトルは予測ベクトルに使用する隣接ブロックを指定する情報（インデックス）と差分ベクトルの２つを符号化することで伝送される。
【００７４】
第三の予測モードは、隣接ブロックの動き情報に対して、動きベクトル値を修正するための差分ベクトル値を追加で符号化することで、隣接ブロックから生成される動き情報に対して一部の動きベクトルに対する修正を行い、動き情報として符号化する手法であり、結合動き修正予測モード（マージＭＶＤモード）と呼ぶ。結合動き修正予測モードにおいて伝送する動き情報は、結合予測モードと同様に、隣接ブロックを指定する情報に加えて、修正する動きベクトルに対する差分ベクトル値となる。結合動き修正予測モードにおいても、隣接ブロックを指定する情報を、結合予測モードにおける動き情報と同一の候補より指定する。実施の形態１における、結合動き修正予測モードでは、差分ベクトル値は常に１つ伝送され、動き補償予測の予測方向は双方向予測となる。
【００７５】
この結合動き修正予測モードを有する構成が、結合動き修正予測モードを有さない従来の構成に対して符号化効率を向上させる要因となる。つまり、結合動き修正予測モードでは、結合予測モードにおいて符号化する情報に対して、動きベクトルを修正するための差分ベクトルを符号化して追加する。これにより、動きの連続性が十分保たれていない場合や、他ブロックの動き情報における動きベクトルが正確な動きを示していない場合などに、隣接ブロックから生成される動き情報に対して、動きベクトルのみを修正することで、予測残差が少ない動き補償予測信号を生成する動き情報を、少ない情報で表現することができる。また、隣接ブロックを指定する情報に関する３つの予測モードにおいて、共通の隣接ブロック候補より、使用する動き情報の候補を設定し、各モードが共通の候補をもとに最適な候補を選択する構成をとることにより、複数の隣接ブロック候補リスト生成処理を有する必要がなく、処理負荷の少ない形で有効な動き補償予測信号を生成することができる。
【００７６】
図９は、動き補償予測および動き補償予測を実施しない画面内予測における、動き補償の予測方向と、参照画像を定義する情報、及び符号化する動きベクトル数の関連に関して説明するための図である。
【００７７】
動き検出予測モードの内、予測方向が片方向である片方向予測モード（ＵｎｉＰｒｅｄ）の場合は、符号化する動き情報として１つの符号化ベクトル（差分ベクトル）、１つの参照画像インデックス、１つの予測ベクトルインデックスが伝送される。
【００７８】
同様に予測方向が双方向である双方向予測モード（ＢｉＰｒｅｄ）の場合は、符号化する動き情報として２つの符号化ベクトル（差分ベクトル）、２つの参照画像インデックス、１つの結合動き情報インデックスが伝送される。
【００７９】
結合予測モード（Ｍｅｒｇｅ）の場合には、１つの結合動き情報インデックスのみが符号化する動き情報として伝送され、動き情報に基づいて片方向もしくは双方向の動き補償予測が施される。
【００８０】
結合動き修正予測モード（ＭｅｒｇｅＭｖｄ）の場合には、１つの結合動き情報インデックスと１つの符号化ベクトル（差分ベクトル）が符号化する動き情報として伝送され、動き情報と動きベクトルの修正情報（差分ベクトル）に従って、双方向の動き補償予測が施される。
【００８１】
動き補償予測を実施しない予測符号化モードであるイントラモード（Ｉｎｔｒａ）においては、動き情報は符号化されない。
【００８２】
隣接する動き情報との時間的・空間的な相関性が非常に高い場合には、結合予測モードが有効な動き補償予測モードとして選択される。相関性が低い場合もしくは一部の動き情報のみが有効に予測ブロックの動き情報として利用できる場合には、動き検出予測モードが有効な動き補償予測モードとして選択される。相関性が高いが動きに微小なずれを生じている場合や、隣接するブロックの動き情報が正確な動きを示していない場合、また大部分の動き情報が有効であるが一部の動き情報のみ相関性が十分でない場合などに、結合動き修正予測モードが有効な動き補償予測モードとして選択される。このように、結合予測モード、動き検出予測モードに加えて、結合動き修正予測モードを具備することで、さまざまな動き情報相関性の状況に応じて、符号化効率の高い動き補償予測を選択できる。
【００８３】
［実施の形態１における動画像符号化装置における予測モード判定部の詳細動作説明］
図１０は、実施の形態１の動画像符号化装置における予測モード判定部１０９の詳細な構成を示す図である。予測モード判定部１０９は、最適な動き補償予測モードを決定する機能を有する。
【００８４】
予測モード判定部１０９は、片方向動き補償予測生成部１０００、双方向動き補償予測生成部１００１、予測誤差算出部１００２、予測ベクトル算出部１００３、差分ベクトル算出部１００４、動き情報符号量算出部１００５、予測モード評価部１００６、結合動き情報算出部１００７、結合動き補償予測生成部１００８、及び結合動き修正動き補償予測生成部１００９を含む。
【００８５】
図１における予測モード判定部１０９に対して、動きベクトル検出部１０７より入力された動きベクトル値が、片方向動き補償予測生成部１０００、双方向動き補償予測生成部１００１、及び結合動き修正動き補償予測生成部１００９に供給され、動き情報メモリ１１１より入力された動き情報が、結合動き情報算出部１００７に供給される。
【００８６】
また、動き補償予測部１０８に対して、片方向動き補償予測生成部１０００、双方向動き補償予測生成部１００１、結合動き補償予測生成部１００８、及び結合動き修正動き補償予測生成部１００９から、動き補償予測に用いる参照画像指定情報と動きベクトルが出力される。また、動き補償予測部１０８より、生成された動き補償予測画像が予測誤差算出部１００２に供給される。予測誤差算出部１００２には更に、入力端子１００より符号化対象となる予測ブロックの画像信号が供給される。
【００８７】
また、予測モード評価部１００６から、動き情報符号化部１１０に対して符号化する動き情報と確定した予測モード情報を供給し、動き情報メモリ１１１に動き情報を供給し、動き補償予測信号を減算部１０１及び加算部１０５に供給する。
【００８８】
片方向動き補償予測生成部１０００は、片方向予測に使用可能な各参照画像に対して算出された動きベクトル値を受信し、参照画像指定情報を予測ベクトル算出部１００３に供給し、参照画像指定情報と動きベクトルを動き補償予測部１０８に出力する。
【００８９】
双方向動き補償予測生成部１００１も同様に、双方向予測に使用可能な各参照画像に対して算出された動きベクトル値を受信し、それぞれの参照画像に対する参照画像指定情報を予測ベクトル算出部１００３に供給し、それぞれの参照画像に対する参照画像指定情報と動きベクトルを動き補償予測部１０８に出力する。
【００９０】
予測誤差算出部１００２は、入力された動き補償予測画像と処理対象の予測ブロック画像より、予測誤差評価値を算出する。誤差評価値を算出するための演算としては、動きベクトル検出における誤差評価値と同様に、画素毎の差分絶対値の総和ＳＡＤや、画素毎の二乗誤差値の総和ＳＳＥ等を使用できる。更に、予測残差の符号化を行う際に施される、直交変換・量子化を行うことによって復号画像に生じる歪成分の量を加味することで、より正確な誤差評価値が算出可能である。この場合には、予測誤差算出部１００２内に、図１における減算部１０１、直交変換・量子化部１０２、逆量子化・逆変換部１０４、加算部１０５の機能を有することで実現できる。予測誤差算出部１００２は、各予測モードにおいて算出された予測誤差評価値と、動き補償予測信号を予測モード評価部１００６に供給する。
【００９１】
予測ベクトル算出部１００３は、片方向動き補償予測生成部１０００及び双方向動き補償予測生成部１００１より参照画像指定情報を供給され、結合動き情報算出部１００７から供給される結合動き情報候補リストより、登録された結合動き情報候補のそれぞれに対して、動き情報より指定された参照画像に対する動きベクトル値を特定する。そして、複数の予測ベクトルを結合動き情報候補リストと共に生成し、差分ベクトル算出部１００４に、参照画像指定情報と共に供給する。予測ベクトル算出部１００３の詳細動作に関しては、後述する。
【００９２】
差分ベクトル算出部１００４は、予測ベクトル算出部１００３より供給された、予測ベクトル候補のそれぞれに対して、片方向動き補償予測生成部１０００及び双方向動き補償予測生成部１００１から供給される動きベクトル値との差分を計算し、差分ベクトル値を算出する。算出された差分ベクトル値と予測ベクトル候補に対する指定情報である予測ベクトルインデックスを符号化した際の符号量が最も少ない情報量で表現出来る、予測ベクトルインデックスと差分ベクトルの組合せが特定される。最も少ない情報量で表現出来る、予測ベクトルインデックスと差分ベクトル値を参照画像指定情報と共に、動き情報符号量算出部１００５に供給する。
【００９３】
動き情報符号量算出部１００５は、差分ベクトル算出部１００４より供給される、片方向予測モード及び双方向予測モードの差分ベクトル値、参照画像指定情報、予測ベクトルインデックス、予測モードより、各予測モードにおける動き情報に要する符号量を算出する。また、動き情報符号量算出部１００５は、結合動き補償予測生成部１００８より、結合予測モードにおいて伝送する必要がある、結合動き情報インデックスと予測モードを示すための情報を受け取り、結合予測モードにおける動き情報に要する符号量を算出する。
【００９４】
同様に、動き情報符号量算出部１００５は、結合動き修正動き補償予測生成部１００９より、結合動き修正予測モードにおいて伝送する必要がある、結合動き情報インデックスと差分ベクトル値と予測モードを示すための情報を受け取り、結合動き修正予測モードにおける動き情報に要する符号量を算出する。動き情報符号量算出部１００５は、各予測モードにおいて算出された動き情報及び動き情報に要する符号量を予測モード評価部１００６に供給する。
【００９５】
予測モード評価部１００６は、予測誤差算出部１００２より供給された各予測モードの予測誤差評価値と、動き情報符号量算出部１００５から供給された各予測モードの動き情報符号量を用いて、各予測モードの総合動き補償予測誤差評価値を算出し、最も少ない評価値である予測モードを選択し、選択した予測モードと選択した予測モードに対する動き情報を、動き情報符号化部１１０及び動き情報メモリ１１１に出力する。また、予測モード評価部１００６は同様に、予測誤差算出部１００２より供給された動き補償予測信号に対して、選択した予測モードにおける予測信号を選択して減算部１０１及び加算部１０５に出力する。
【００９６】
結合動き情報算出部１００７は、動き情報メモリ１１１より供給される隣接ブロックの動き情報における候補ブロック群を用いて、片方向であるか双方向であるかを示す予測方向、参照画像指定情報、動きベクトル値で構成される動き情報として、複数の動き情報を結合動き情報候補リストと共に生成し、結合動き補償予測生成部１００８及び結合動き修正動き補償予測生成部１００９に供給する。
【００９７】
図１１は、結合動き情報算出部１００７の構成を示す図である。結合動き情報算出部１００７は、結合動き情報候補リスト生成部１２００及び結合動き情報候補リスト削除部１２０１を含む。結合動き情報算出部１００７は、候補ブロック群より所定の順番で動き情報の候補を作成し、その中から、動き情報の各要素（予測方向、参照画像指定情報、及び動きベクトル値）が全て同一の値を示している候補を削除することで、有効な動き情報のみを結合動き情報候補として登録する。結合動き情報算出部１００７の詳細動作に関しては、後述する。
【００９８】
図１０に戻り、結合動き補償予測生成部１００８は、結合動き情報算出部１００７より供給された結合動き情報候補リストより、登録された結合動き情報候補のそれぞれに対して、動き情報より、予測方向に応じて１つの参照画像（片方向）もしくは２つの参照画像（双方向）の参照画像指定情報と動きベクトル値を動き補償予測部１０８に指定して、動き補償予測画像を生成すると共に、それぞれの結合動き情報インデックスを動き情報符号量算出部１００５に供給する。結合動き補償予測生成部１００８の詳細動作に関しては、後述する。
【００９９】
図１０の構成では、それぞれの結合動き情報インデックスにおける予測モード評価は、予測モード評価部１００６で施されるが、予測誤差評価値及び動き情報符号量を予測誤差算出部１００２及び動き情報符号量算出部１００５より受け取り、結合動き補償予測生成部１００８内で、最適な結合動き補償予測の結合動きインデックスを確定させた後に、他の予測モードを含めた最適予測モードの評価を行う構成を取ることも可能である。
【０１００】
結合動き修正動き補償予測生成部１００９は、結合動き情報算出部１００７より供給された結合動き情報候補リスト、登録された結合動き情報候補に対して、双方向の動き情報を算出する。そして、その中で動きベクトル値を修正する参照画像を特定し、特定した参照画像の参照画像指定情報に対して、動きベクトル検出部１０７で検出された動きベクトル値を入力し、差分ベクトル値を計算する。そして、双方向の参照画像指定情報と修正した動きベクトル値を含む、動き補償予測に用いる動きベクトル値を動き補償予測部１０８に指定して、動き補償予測画像を生成すると共に、それぞれに結合動き情報インデックスと伝送する差分ベクトル値を動き情報符号量算出部１００５に供給する。
【０１０１】
図１２は、結合動き修正動き補償予測生成部１００９の構成を示す図である。結合動き修正動き補償予測生成部１００９は、基準参照画像・動き修正参照画像選択部１３００、動き修正参照画像動きベクトル取得部１３０１、結合動き情報修正動き補償予測生成部１３０２、及び差分ベクトル算出部１３０３を含む。
【０１０２】
基準参照画像・動き修正参照画像選択部１３００は登録された結合動き情報候補に対して、双方向の動き情報を算出して動きベクトル値を修正する参照画像を特定する機能を有する。動き修正参照画像動きベクトル取得部１３０１は特定した参照画像の参照画像指定情報に対する動きベクトル値を入力する機能を有する。結合動き情報修正動き補償予測生成部１３０２は動き補償予測に用いる動きベクトル値と参照画像指定情報を動き補償予測部１０８に出力する機能をする。差分ベクトル算出部１３０３は基準参照画像・動き修正参照画像選択部１３００で算出された動き情報の動きベクトル値と、動きベクトル検出部１０７から入力された動きベクトル値の差分ベクトル値を算出する機能を有する。結合動き修正動き補償予測生成部１００９の詳細動作は後述する。
【０１０３】
図１３は、図１０の予測モード判定部１０９を介して動作する、図５のステップＳ５０２である動き補償予測モード／予測信号生成の動作について説明するためのフローチャートである。最初に、結合動き情報候補リスト生成を行い（Ｓ１４００）、結合予測モード評価値を生成する（Ｓ１４０１）。
【０１０４】
続いて、ステップＳ１４００で生成された結合動き情報候補リストを用いて、結合動き修正予測モード評価値を生成し（Ｓ１４０２）、片方向予測モード評価値を生成し（Ｓ１４０３）、双方向予測モード評価値を生成し（Ｓ１４０４）、生成した評価値を比較することで最適な予測モードを選択する（Ｓ１４０５）。ただし、ステップＳ１４０１、ステップＳ１４０２、ステップＳ１４０３、及びステップＳ１４０４の評価値生成の順序はこの順序に限らない。
【０１０５】
選択された予測モードに従い予測信号を出力し（Ｓ１４０６）、選択された予測モードに従い動き情報を出力する（Ｓ１４０７）ことで、予測ブロック単位の動き補償予測モード／予測信号生成処理が終了する。ステップＳ１４００、ステップＳ１４０１、ステップＳ１４０２、ステップＳ１４０３、及びステップＳ１４０４の詳細動作に関しては後述する。
【０１０６】
図１４は、図１３のステップＳ１４００における結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。この動作は、図１０の結合動き情報算出部１００７における構成の詳細動作を示している。図１１の結合動き情報候補リスト生成部１２００は、動き情報メモリ１１１より供給される空間候補ブロック群から領域外である候補ブロックやイントラモードである候補ブロックを除いた候補ブロック群から、空間結合動き情報候補リストを生成する（Ｓ１５００）。空間結合動き情報候補リスト生成の詳細な動作は後述する。
【０１０７】
結合動き情報候補リスト生成部１２００は、続いて動き情報メモリ１１１より供給される時間候補ブロック群から領域外である候補ブロックやイントラモードである候補ブロックを除いた候補ブロック群から、時間結合動き情報候補リストを生成する（Ｓ１５０１）。時間結合動き情報候補リスト生成の詳細な動作は後述する。
【０１０８】
続いて、結合動き情報候補リスト削除部１２０１において、生成された空間結合動き情報候補リストと時間結合動き情報候補リストを統合した結合動き情報候補リストより、重複している動き情報を持つ結合動き情報候補が複数存在する場合には１つの結合動き情報候補を残して削除して動き情報候補リストを更新する（Ｓ１５０２）。
【０１０９】
最後に、上記処理において隣接ブロックに有効な動き情報が存在せず、結合動き情報候補が存在しない場合（Ｓ１５０３：ＹＥＳ）、固定の動き情報を結合動き情報候補リストに追加して（Ｓ１５０４）、処理を終了する。実施の形態１における固定の動き情報としては、予測方向が双方向で、参照画像指定情報（インデックス）が０、２つの動きベクトル値が共に（０，０）の値を設定する。実施の形態１における固定の動き情報としては、上記設定には限定されず、暗黙的に指定できる手法で設定されることにより、動画像復号装置においても同じ動き情報が再現できる。なお、上記処理において隣接ブロックに有効な動き情報が存在し、結合動き情報候補が存在する場合（Ｓ１５０３：ＮＯ）、ステップＳ１５０４をスキップして、処理を終了する。
【０１１０】
動き情報メモリ１１１より、結合動き情報算出部１００７に供給される動き情報の候補ブロック群には、空間候補ブロック群と時間候補ブロック群が含まれる。まず、空間結合動き情報候補リスト生成について説明する。
【０１１１】
図１５は、空間結合動き情報候補リスト生成に用いる空間候補ブロック群を示す図である。空間候補ブロック群は、符号化対象画像の予測対象ブロックに隣接している同一画像のブロックを示す。ブロック群は、その管理が最小予測ブロックサイズ単位で行われ、図１５に示すようなＡ１〜Ａ４、Ｂ１〜Ｂ４、Ｃ、Ｄ、Ｅの位置のブロックが隣接するブロック群となる。候補ブロックの位置は、最小予測ブロックサイズの単位で管理されるが、隣接ブロックの予測ブロックサイズが最小予測ブロックサイズよりも大きな場合には、予測ブロックサイズ内の全ての候補ブロックに同一の動き情報が格納される。実施の形態１においては、これら隣接するブロック群の内、空間候補ブロック群をブロックＡ１、ブロックＢ１、ブロックＣ、ブロックＤの４ブロックとする。
【０１１２】
図１６は、空間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。空間候補ブロック群に含まれる４つの候補ブロックであるブロックＡ１、ブロックＢ１、ブロックＣ、ブロックＤについて以下の処理を繰り返し行う（Ｓ１７００からＳ１７０３）。
【０１１３】
最初に候補ブロックの有効性を検査する（Ｓ１７０１）。候補ブロックが領域外でなくイントラモードでない場合（Ｓ１７０１：ＹＥＳ）、候補ブロックは有効となる。候補ブロックが有効であれば、候補ブロックの動き情報を空間結合動き情報候補リストに追加する（Ｓ１７０２）。
【０１１４】
ここでは、空間結合動き情報候補リストには４以下の候補ブロックの動き情報が含まれるとしたが、空間候補ブロック群は、処理対象の予測ブロックに隣接する少なくとも１以上の処理済みのブロックであり、候補ブロックの有効性によって空間結合動き情報候補リストの数が変動すればよく、これに限定されない。なお、候補ブロックが領域外またはイントラモードの場合（Ｓ１７０１：ＮＯ）、ステップＳ１７０２をスキップし、次の候補ブロックの有効／無効判定が行われる。
【０１１５】
続いて、時間結合動き情報候補リスト生成について説明する。図１７は、時間結合動き情報候補リスト生成に用いる時間候補ブロック群を示す図である。時間候補ブロック群は、予測対象ブロックとは別の復号済みの画像ＣｏｌＰｉｃにおける予測対象ブロックと同位置及びその周辺にあるブロックを示す。図１７におけるＡ１〜Ａ４、Ｂ１〜Ｂ４、Ｃ、Ｄ、Ｅ、Ｆ１〜Ｆ４、Ｇ１〜Ｇ４、Ｈ、Ｉ１〜Ｉ１６の位置のブロックが、時間的に隣接するブロック群となる。実施の形態１においては、これら時間的に隣接するブロック群の内、時間候補ブロック群をブロックＨとブロックＩ６の２ブロックとする。
【０１１６】
図１８は、時間結合動き情報候補リスト生成の詳細動作を説明するためのフローチャートである。時間候補ブロック群に含まれる２つの候補ブロックであるブロックＨとブロックＩ６について（ステップＳ１９００、ステップＳ１９０５）、候補ブロックの有効性を検査する（Ｓ１９０１）。候補ブロックが有効である場合（Ｓ１９０１：ＹＥＳ）、ステップＳ１９０２〜ステップＳ１９０４の処理が行われ、生成された動き情報が時間結合動き情報候補リストに登録され、処理が終了する。候補ブロックが画面領域外の位置を示す場合や、候補ブロックがイントラ予測ブロックである場合（Ｓ１９０１：ＮＯ）、候補ブロックが有効でなく、次の候補ブロックの有効／無効判定が行われる。
【０１１７】
候補ブロックが有効である場合（Ｓ１９０１：ＹＥＳ）、候補ブロックの動き情報をもとに結合動き情報候補に登録する参照画像選択候補を確定する（Ｓ１９０２）。実施の形態１ではＬ０方向の参照画像を、Ｌ０方向の参照画像のうち処理対象画像に最も近い距離にある参照画像とし、Ｌ１方向の参照画像を、Ｌ１方向の参照画像のうち処理対象画像に最も近い距離にある参照画像とする。
【０１１８】
ここでの参照画像選択候補の確定手法は、Ｌ０方向の参照画像とＬ１方向の参照画像が決定できればよく、これに限定されない。符号化処理と復号処理で同一の手法で参照画像を確定することで、符号化時に意図した参照画像を確定できる。他の確定手法としては、例えばＬ０方向の参照画像及びＬ１方向の参照画像の参照画像インデックスが０である参照画像を選択する手法や、空間隣接ブロックが使用しているＬ０参照画像及びＬ１参照画像で、最も多く使用されている参照画像を予測対象ブロックにおける参照画像として選択する手法や、符号化ストリーム中で各方向の参照画像を指定する手法を用いることが可能である。
【０１１９】
次に、候補ブロックの動き情報をもとに結合動き情報候補に登録する動きベクトル値を確定する（Ｓ１９０３）。実施の形態１における、時間結合動き情報は、候補ブロックの動き情報で有効な予測方向である動きベクトル値をもとに、双方向の動き情報を算出する。候補ブロックの予測方向がＬ０予測もしくはＬ１予測の片方向の場合には、予測に用いられている方向（Ｌ０方向或いはＬ１方向）の動き情報を選択し、その参照画像指定情報と動きベクトル値を双方向動き情報生成の基準値とする。
【０１２０】
候補ブロックの予測方向が双方向である場合には、Ｌ０予測或いはＬ１予測のどちらか一方の動き情報を基準値として選択する。基準値の選択方法は、例えばＣｏｌＰｉｃと同じ予測方向に存在する動き情報を選択する、候補ブロックのＬ０予測、Ｌ１予測のそれぞれの参照画像でＣｏｌＰｉｃとの画像間距離が近い方を選択する、或いは候補ブロックのＬ０予測、Ｌ１予測のそれぞれの動きベクトルが符号化処理対象画像と交差する方を選択する等が挙げられる。
【０１２１】
双方向動き情報生成の基準とする動きベクトル値が確定したら、結合動き情報候補に登録する動きベクトル値を算出する。
【０１２２】
図１９は、時間結合動き情報に対する基準動きベクトル値ＣｏｌＭｖに対する、Ｌ０予測、Ｌ１予測に対して登録する動きベクトル値ｍｖＬ０ｔ、ｍｖＬ１ｔの算出手法を説明するための図である。基準動きベクトル値ＣｏｌＭｖに対するＣｏｌＰｉｃと候補ブロックの基準とする動きベクトルの対象となる参照画像との画像間距離をＣｏｌＤｉｓｔとする。Ｌ０予測、Ｌ１予測の各参照画像と処理対象画像との画像間距離をＣｕｒｒＬ０Ｄｉｓｔ、ＣｕｕｒＬ１Ｄｉｓｔとする。ＣｏｌＭｖを、ＣｏｌＤｉｓｔとＣｕｒｒＬ０Ｄｉｓｔ、ＣｕｒｒＬ１Ｄｉｓｔの距離比率でスケーリングした動きベクトルを、それぞれに登録する動きベクトルとする。具体的には、登録する動きベクトル値ｍｖＬ０ｔ、ｍｖＬ１ｔは、下記式１、２で算出される。
ｍｖＬ０ｔ＝ｍｖＣｏｌ×ＣｕｒｒＬ０Ｄｉｓｔ／ＣｏｌＤｉｓｔ ・・・（式１）
ｍｖＬ１ｔ＝ｍｖＣｏｌ×ＣｕｒｒＬ１Ｄｉｓｔ／ＣｏｌＤｉｓｔ ・・・（式２）
となる。
【０１２３】
図１８に戻り、このようにして生成された、双方向の参照画像選択情報（インデックス）と、動きベクトル値を結合動き情報候補に追加し（Ｓ１９０４）、時間結合動き情報候補リスト作成処理が終了する。
【０１２４】
図２０は、図１８のステップＳ１４０１における結合予測モード評価値生成の詳細動作を説明するためのフローチャートである。この動作は、図１０の結合動き補償予測生成部１００８を用いた構成の詳細動作を示している。
【０１２５】
最初に予測誤差評価値を最大値に設定し、予測誤差が最小となる結合動き情報インデックスを初期化（例えば、−１などのリスト外の値）する（Ｓ２１００）。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をｎｕｍ＿ｏｆ＿ｉｎｄｅｘとすると、ｉ＝０からｎｕｍ＿ｏｆ＿ｉｎｄｅｘ−１までの結合動き情報候補について以下の処理を繰り返し行う（Ｓ２１０１からＳ２１０９）。
【０１２６】
先ず、結合動き情報候補リストよりインデックスｉに格納された動き情報を取得する（Ｓ２１０２）。続いて動き情報符号量を算出する（Ｓ２１０３）。結合予測モードにおいては、結合動き情報インデックスのみが符号化されるので、結合動き情報インデックスのみが動き情報符号量となる。結合動き情報インデックスの符号列としては、実施の形態１では、Ｔｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を用いる。
【０１２７】
図２１は、結合動き情報候補数が５の場合のＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す図である。Ｔｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を用いて結合動き情報インデックスの値を符号化する場合には、結合動き情報候補数が少ないほど、結合動き情報インデックスに割り当てられる符号ビットが小さくなる。例えば、結合動き情報インデックスが１である場合、結合動き情報候補数が２個であれば‘１’の１ビットで表現されるが、結合動き情報候補数が３個であれば‘１０’の２ビットで表現される。なお、ここでは上記のように結合動き情報インデックスの符号化にＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を利用しているが、他の符号列生成手法を用いることも可能であり、これに限定されない。
【０１２８】
図２０に戻り、動き情報の予測方向が片方向である場合（Ｓ２１０４：ＹＥＳ）、１つの参照画像に対する参照画像指定情報と動きベクトルを、図１における動き補償予測部１０８に設定して、片方向動き補償予測ブロックを生成する（Ｓ２１０５）。動き情報が片方向でない場合（Ｓ２１０４：ＮＯ）、２つの参照画像に対する参照画像指定情報と動きベクトルを動き補償予測部１０８に設定して、双方向動き補償予測ブロックを生成する（Ｓ２１０６）。
【０１２９】
続いて、動き補償予測ブロックと予測対象ブロックの予測誤差と動き情報符号量より、予測誤差評価値を算出し（Ｓ２１０７）、予測誤差評価値が最小値である場合には評価値を更新すると共に、予測誤差最小インデックスを更新する（Ｓ２１０８）。
【０１３０】
全ての結合動き情報候補についての予測誤差評価値が比較された結果、選択された予測誤差最小インデックスを、結合予測モードで用いる結合動き情報インデックスとして、予測誤差最小値、動き補償予測ブロックと共に出力し（Ｓ２１１０）、結合予測モード評価値生成処理を終了する。
【０１３１】
図２２は、図１３のステップＳ１４０２における結合動き修正予測モード評価値生成の詳細動作を説明するためのフローチャートである。この動作は、図１０の結合動き修正動き補償予測生成部１００９を用いた構成の詳細動作を示している。
【０１３２】
最初に予測誤差評価値を最大値に設定し、予測誤差が最小となる結合動き情報インックスを初期化（例えば、−１などのリスト外の値）する（Ｓ２２００）。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をｎｕｍ＿ｏｆ＿ｉｎｄｅｘとすると、ｉ＝０からｎｕｍ＿ｏｆ＿ｉｎｄｅｘ−１までの結合動き情報候補について以下の処理を繰り返し行う（Ｓ２２０１からＳ２２１０）。
【０１３３】
先ず、結合動き情報候補リストよりインデックスｉに格納された動き情報を取得する（Ｓ２２０２）。続いて、取得した動き情報より双方向予測の動きベクトル値と参照画像指定情報、及び差分ベクトルを伝送する参照画像となる動き修正参照画像を確定する（Ｓ２２０３）。ステップＳ２２０３の詳細動作に関しては、後述する。
【０１３４】
次に、ステップＳ２２０３により確定された動き補正参照画像に対して、図１の動きベクトル検出部１０７より動き補正参照画像に対する検出した動きベクトル値を入力する（Ｓ２２０４）。入力された動きベクトル値を動き補償予測に用いるため、結合動き情報候補より算出された動き情報における、動き補正参照画像の動きベクトル値との差分ベクトルが生成される（Ｓ２２０５）。
【０１３５】
続いて、動き情報符号量を算出する（Ｓ２２０６）。結合動き修正予測モードにおいては、結合動き情報インデックスと差分ベクトル値が符号化されることで、必要な動き情報が伝送される。そのため、結合動き情報インデックスの符号量と差分ベクトル値の符号量が加算され、結合動き修正予測モードにおける動き情報符号量となる。
【０１３６】
結合修正動き予測モードの場合に、結合動き情報より生成された双方向予測の動きベクトルと参照画像選択情報に対して、動き修正参照画像に対する修正した動きベクトルのみを入れ替えた動き情報を、図１における動き補償予測部１０８に設定して、双方向動き補償予測ブロックを生成する（Ｓ２２０７）。
【０１３７】
動き補償予測ブロックと予測対象ブロックの予測誤差と動き情報符号量より、予測誤差評価値を算出し（Ｓ２２０８）、予測誤差評価値が最小値である場合には評価値を更新すると共に、予測誤差最小インデックスを更新する（Ｓ２２０９）。
【０１３８】
全ての結合動き情報候補についての予測誤差評価値が比較された結果、選択された予測誤差最小インデックスを、結合予測モードで用いる結合動き情報インデックスとして、予測誤差最小値、動き補償予測ブロックと共に出力し（Ｓ２２１１）、結合動き修正予測モード評価値生成処理を終了する。
【０１３９】
次に、ステップＳ２２０３の詳細動作を説明する前に、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の説明を行う。図２３（ａ）〜（ｃ）は、結合動き修正予測モードにおける結合動き情報に対するスケーリング処理の概念を示す図である。結合動き情報としては、図２３（ａ）に示す空間隣接ブロックから算出された予測方向が双方向である空間ＢｉＰｒｅｄと、図２３（ｂ）に示す空間隣接ブロックから算出された予測方向が片方向である空間ＵｎｉＰｒｅｄと、図２３（ｃ）に示す時間連接ブロックから算出された時間ＢｉＰｒｅｄが存在する。
【０１４０】
実施の形態１における、結合動き情報に対するスケーリング処理は、双方向の動き情報が取得できる空間ＢｉＰｒｅｄ及び時間ＢｉＰｒｅｄにおいては、結合動き情報算出時に施された動きベクトルをそのまま用い、時間ＵｎｉＰｒｅｄに関しては、片方向で定義されている動きベクトル値を、符号化対象画像とＬ０画像、Ｌ１画像との距離比率でスケーリングすることで、使用されていなかった方向の動き情報を生成する。
【０１４１】
図２４は、各結合動き情報に対して存在するスケーリングされて生成した動きベクトル数を示す図である。空間ＵｎｉＰｒｅｄが上記スケーリング処理における１個、空間ＢｉＰｒｅｄは結合動き情報算出時にスケーリング処理が施されていないため０個、時間ＢｉＰｒｅｄは結合動き情報算出時の２つの動きベクトル値の算出時にスケーリング処理が施されているため２個となる。
【０１４２】
上記スケーリング処理が施された動きベクトル値は、隣接ブロックで使用された動きベクトル値をそのまま動きベクトル値として採用した結合動き情報と比較すると、スケーリングによる演算誤差の影響や、動き量の時間変化が一定でない場合の影響があり、その動き情報の精度にずれが生じている可能性が高い。また、隣接ブロックに使用された動きベクトル値は、符号化対象から時間的に離れた参照画像になるほど画面の変化が大きくなるため、その値の精度が低下する。
【０１４３】
実施の形態１においては、これらの結合動き情報に登録された動きベクトルの算出時の特性を利用して、差分ベクトルを送って動きベクトルを修正する必要のある動きベクトルを、付加情報を伝送することなく特定し、差分ベクトルのみを追加で符号化する。これにより、動き補償予測の予測精度が高い動き情報を、少ない動き情報の伝送で実現することができる。
【０１４４】
実施の形態１においては、スケーリングされて算出された動きベクトル値を持つ参照画像を優先的に、差分ベクトルを伝送する動き修正参照画像に設定する。２つの動きベクトルが共にスケーリングされている場合や、共にスケーリングされていない場合には、予測対象画像からの時間的距離が離れた参照画像を、差分ベクトルを伝送する動き修正参照画像に設定する。
【０１４５】
図２５（ａ）〜（ｃ）は、実施の形態１における差分動きベクトル伝送参照画像確定アルゴリズムを示す概念図である。図２５（ａ）に示す空間ＢｉＰｒｅｄでは、スケーリングされた動きベクトルが０個のため、時間的距離の遠い参照画像の動きベクトルに差分ベクトルを追加する。図２５（ｂ）に示す空間ＵｎｉＰｒｅｄでは、スケーリングされた動きベクトルが１個のため、スケーリングされた動きベクトルに差分ベクトルを追加する。図２５（ｃ）に示す時間ＢｉＰｒｅｄでは、スケーリングされた動きベクトルが２個のため、時間的距離の遠い参照画像の動きベクトルに差分ベクトルを追加する。
【０１４６】
図２６は、図２２のステップＳ２２０３の詳細動作を説明するためのフローチャートである。図２２のステップＳ２２０３では、上記差分ベクトルを伝送する参照画像の確定処理が行われる。
【０１４７】
最初に、取得した結合動き情報の予測方向が片方向である場合には（Ｓ２６００：ＹＥＳ）、空間ＵｎｉＰｒｅｄで導出された結合動き情報であり、双方向の動き補償予測を行うための第２参照画像と第２参照画像の動きベクトル値を確定する処理を行う（Ｓ２６０１）。ステップＳ２６０１の詳細動作に関しては、後述する。
【０１４８】
続いて、双方向の参照画像の動きベクトル値のうちスケーリングされた動きベクトルが片方向の１つの動きベクトルのみである場合（Ｓ２６０２：ＹＥＳ）、スケーリングされた動きベクトル値を持つ参照画像を動き修正参照画像に設定する（Ｓ２６０３）。
【０１４９】
スケーリングされた動きベクトルが片方向の１つの動きベクトルでない場合（Ｓ２６０２：ＮＯ）、符号化対象画像、Ｌ０参照画像、Ｌ１参照画像の時間情報を示すＰＯＣ値を取得し、それぞれＰＯＣｃｕｒ、ＰＯＣ＿Ｌ０、ＰＯＣ＿Ｌ１に設定する（Ｓ２６０４）。
【０１５０】
符号化対象画像と２つの参照画像の間での時間的距離を下記式３で比較する。
ａｂｓ（ＰＯＣｃｕｒ−ＰＯＣ＿Ｌ０）＞ａｂｓ（ＰＯＣｃｕｒ−ＰＯＣ＿Ｌ１）
・・・（式３）
【０１５１】
上記式３を満たす場合（Ｓ２６０５：ＹＥＳ）、Ｌ０参照画像が遠い参照画像と判断し、Ｌ０参照画像を動き修正参照画像に設定する（Ｓ２６０６）。上記式３を満たさない場合（Ｓ２６０５：ＮＯ）、Ｌ１参照画像を動き修正参照画像に設定する（Ｓ２６０７）。以上で、双方向の動きベクトル値と差分ベクトルを伝送する参照画像を確定する処理が終了する。
【０１５２】
図２７は、図２６のステップＳ２６０１の詳細動作を説明するためのフローチャートである。最初に、結合動き情報に格納されている動き情報がＬ０予測であった場合（Ｓ２７００：ＹＥＳ）、第２参照画像としてＬ１予測の参照画像インデックスを確定する（Ｓ２７０１）。Ｌ０予測でない場合（Ｓ２７００：ＮＯ）、第２参照画像としてＬ０予測の参照画像インデックスを確定する（Ｓ２７０２）。ステップＳ２７０２における参照画像インデックスの確定処理に関しては、後述する。
【０１５３】
続いて、符号化対象画像、結合動き情報に格納されている参照画像、第２参照画像のＰＯＣ値を取得し、ＰＯＣｃｕｒ、ＰＯＣ＿Ｌｘ、ＰＯＣ＿Ｌｙに設定する（Ｓ２７０３）。上記ＰＯＣ値を用いて、結合動き情報に格納されている動きベクトル値を２つの参照画像と符号化対象画像との距離比率でスケーリングする（Ｓ２７０４）。
【０１５４】
結合動き情報に格納されている動き情報がＬ０予測であった場合（Ｓ２７０５：ＹＥＳ）、スケーリングして生成された動きベクトル値をＬ１予測の参照画像に対する基準動きベクトル値として設定する（Ｓ２７０６）。Ｌ０予測でない場合（Ｓ２７０５：ＮＯ）、スケーリングして生成された動きベクトル値をＬ０予測の参照画像に対する基準動きベクトル値として設定し（Ｓ２７０７）、処理を終了する。
【０１５５】
図２８は、図２７のステップＳ２７０２の詳細動作を説明するためのフローチャートである。図２７のステップＳ２７０２では、参照画像インデックスを確定する処理が行われる。
【０１５６】
最初に、結合動き情報に格納されている参照画像を基準参照画像として取得するとともに、第２参照画像を設定する予測方向における参照画像リストを第２参照画像候補リストとして取得する（Ｓ２８００）。
【０１５７】
次に、符号化対象画像を挟んで基準参照画像と反対方向の時間位置に存在する参照画像が第２参照画像候補リスト内に存在するかを調べる（Ｓ２８０１）。存在する場合（Ｓ２８０１：ＹＥＳ）、その中で最も符号化対象画像に近い時間位置に存在する参照画像を第２参照画像に対する参照画像インデックスとして確定する（Ｓ２８０２）。存在しない場合（Ｓ２８０１：ＮＯ）、符号化対象に最も近い時間位置に存在する参照画像を第２参照画像候補と設定し（Ｓ２８０３）、基準参照画像と第２参照画像候補が同一画像であるかを調べる（Ｓ２８０４）。
【０１５８】
基準参照画像と第２参照画像候補が同一画像でない場合（Ｓ２８０４：ＮＯ）、第２参照画像候補を第２参照画像に対する参照画像インデックスとして確定する（Ｓ２８０５）。基準参照画像と第２参照画像候補が同一画像である場合（Ｓ２８０４：ＹＥＳ）、他の参照画像が第２参照画像候補リストに存在するかを調べる（Ｓ２８０６）。存在する場合（Ｓ２８０６：ＹＥＳ）、時間位置で次に符号化対象画像に近い参照画像を取得し、第２参照画像に対する参照画像インデックスとして確定する（Ｓ２８０７）。他の参照画像が存在しない場合（Ｓ２８０６：ＮＯ）、ステップＳ２８０５に進み、第２参照画像候補を第２参照画像に対する参照画像インデックスとして確定する。以上で全ての場合における第２参照画像に対する参照画像インデックスが確定し、処理を終了する。
【０１５９】
実施の形態１における第２参照画像の確定アルゴリズムは、動き補償予測処理が双方向予測において符号化対象画像を挟んで反対方向に存在する参照画像で構成される補間型（内挿型）の双方向予測の方が、符号化対象画像を挟まずに同一方向に存在する参照画像で構成する補間（外挿型）の双方向予測よりも、動きや物体の時間変化の影響を平均化できるために予測精度が良い点、符号化対象画像から近い参照画像の方が動きや物体の時間変化の影響が少なく動き補償予測の精度が良い点、同じ参照画像を重ね合わせて生成する予測画像よりも、２つの異なる参照画像より生成される双方向予測画像の方が動きを正しく捉えた場合の予測画像の予測精度が高い点の３つの知見に基づく確定アルゴリズムである。この手法により、双方向予測に適した参照画像を第２参照画像として設定できる利点がある。
【０１６０】
しかしながら、上述した参照画像インデックスの確定処理に関しては、第２参照画像の参照画像インデックスが確定できればよく、異なる確定アルゴリズムを用いることも可能である。符号化処理と復号処理で同一の手法で参照画像を確定することで、符号化時に意図した参照画像を確定できる。他の確定方法として、他ブロックの動き情報における動きベクトルが正確な動きを示していない場合に、同じ参照画像を重ね合わせて生成する予測画像を用いることで、参照画像に微小な変化を加えた動き補償予測信号を新たな候補として加えることが出来る効果を重視して、図２８のフローチャートにおける、基準参照画像と第２参照画像候補が同一画像であるかを調べる処理であるステップＳ２８０４を無くして、同一画像であっても第２参照画像候補として確定する方法を用いることができる。
【０１６１】
更に他の確定方法として、第２参照画像として確定する予測方向の参照画像の中で、単純に符号化対象画像に最も近い距離にある参照画像を選択する方法や、常に参照画像インデックスが０で示される参照画像を取得する方法や、空間隣接ブロックが使用しているＬ０参照画像及びＬ１参照画像で、最も多く使用されている参照画像を予測対象ブロックにおける参照画像として選択する方法などの、時間ＢｉＰｒｅｄにおける参照画像確定処理に用いた確定手段を用いることも可能である。また、図２８に示したアルゴリズムを用いて、時間ＢｉＰｒｅｄにおける参照画像確定処理に応用することも可能である。
【０１６２】
図２９は、図１３のステップＳ１４０３の詳細動作を説明するためのフローチャートである。図１３のステップＳ１４０３では、片方向予測モード評価値生成処理が行われる。
【０１６３】
最初に、片方向予測に対する参照画像指定情報（インデックス）と動きベクトル値を取得する（Ｓ２９００）。続いて、最小動き情報符号量を最大値に設定し、動き情報符号量が最小となる結合動き情報インデックスを初期化（例えば、−１などのリスト外の値）する（Ｓ２９０１）。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をｎｕｍ＿ｏｆ＿ｉｎｄｅｘとすると、ｉ＝０からｎｕｍ＿ｏｆ＿ｉｎｄｅｘ−１までの結合動き情報候補について以下の処理を繰り返し行う（Ｓ２９０２からＳ２９０８）。
【０１６４】
先ず、結合動き情報算出部１００７より入力された結合動き情報候補リストより、インデックスｉに格納された動き情報を取得する（Ｓ２９０３）。続いて、取得した動き情報より参照画像指定情報で指定される参照画像に対する候補インデックスｉの予測ベクトル値を生成する（Ｓ２９０４）。ステップＳ２９０４の詳細動作に関しては、後述する。
【０１６５】
続いて、生成された予測ベクトル値と動きベクトル値との水平・垂直成分の差分値を算出し、差分ベクトルを生成する（Ｓ２９０５）。
【０１６６】
続いて、動き情報符号量を算出する（Ｓ２９０６）。片方向予測モードの場合に、符号化する動き情報としては、１つの参照画像に対する、参照画像指定情報、差分ベクトル値、及び結合動き情報インデックスの３要素となり、各々符号化された符号量の総量が動き情報符号量として算出される。動き情報符号量が、最小動き情報符号量よりも小さい場合には、最小動き情報符号量を更新すると共に、動き情報符号量最小インデックスを更新する（Ｓ２９０７）。すべての候補インデックスに対する動き情報符号量の算出を行うことで（Ｓ２９０８）、最小動き情報符号量と動き情報符号量最小インデックスが算出される。
【０１６７】
続いて、１つの参照画像に対する参照画像指定情報と動きベクトルを図１における動き補償予測部１０８に設定して、片方向動き補償予測ブロックを生成する（Ｓ２９０９）。さらに、動き補償予測ブロックと予測対象ブロックの予測誤差と、算出された最小動き情報符号量より、予測誤差評価値を算出し（Ｓ２９１０）、予測誤差評価値、並びに１つの参照画像に対する動き情報である、参照画像指定情報、差分ベクトル値、及び算出された動き情報符号量最小インデックスである結合動き情報インデックスを動き補償予測ブロックと共に出力し（Ｓ２９１１）、片方向予測モード評価値生成処理を終了する。
【０１６８】
図３０は、図２９のステップＳ２９０４の詳細動作を説明するためのフローチャートである。図２９のステップＳ２９０４では、結合動き情報候補インデックスより取得した動き情報をもとに、参照画像指定情報で指定される参照画像に対する予測ベクトル生成が行われる。
【０１６９】
最初に、予測ベクトルの対象となる予測方向がＬ０予測であるかＬ１予測であるかを取得する（Ｓ３０００）。ここでは、伝送する動きベクトルの対象となっている予測方向として、Ｌ０予測であるかＬ１予測であるかが設定される。続いて、対象となる予測方向に対応する動き情報が、指定された結合動き情報候補インデックスｉにおける動き情報として格納されているか否かを判断する（Ｓ３００１）。格納された動き情報の予測方向が双方向予測の場合には、常に対象となる予測方向に対応する動き情報が格納されていると判断される（Ｓ３００１：ＹＥＳ）。格納された動き情報の予測方向が片方向予測の場合には、片方向予測で設定されている予測方向が、予測ベクトルの対象となる予測方向と一致する場合には対象となる予測方向に対応する動き情報が格納されていると判断される（Ｓ３００１：ＹＥＳ）。一致しない場合には対象となる予測方向に対応する動き情報が格納されていないと判断される（Ｓ３００１：ＮＯ）。
【０１７０】
対象となる予測方向に対応する動き情報が格納されていると判断される場合には（Ｓ３００１：ＹＥＳ）、指定された結合動き情報候補インデックスｉにおける対象となる予測方向の動き情報として、参照画像指定情報と動きベクトル値を取得する（Ｓ３００２）。対象となる予測方向に対応する動き情報が格納されていないと判断される場合には（Ｓ３００１：ＮＯ）、指定された結合動き情報候補インデックスｉにおける対象となる予測方向と異なる方向の動き情報として、参照画像指定情報と動きベクトル値を取得する（Ｓ３００３）。
【０１７１】
ステップＳ３００２の処理を行った後、取得した動き情報の参照画像指定情報と、伝送する動きベクトルの対象となっている参照画像を示す参照画像指定情報とが同一であるか否かを判断する（Ｓ３００４）。同一の場合には（ステップＳ３００４：ＹＥＳ）、取得した動き情報の動きベクトル値を予測ベクトル値に設定し（Ｓ３００５）、処理を終了する。
【０１７２】
一方、ステップＳ３００３の処理を行った後、もしくはステップＳ３００４において同一でない場合には（ステップＳ３００４：ＮＯ）、予測ベクトル値として指定された結合動き情報候補インデックスｉに格納された動き情報の動きベクトル値を、スケーリングして算出する処理を行う。最初に、符号化対象画像、結合動き情報に格納されている参照画像、予測ベクトルの対象となる参照画像のＰＯＣ値を取得し、ＰＯＣｃｕｒ、ＰＯＣ＿Ｌｘ、ＰＯＣ＿Ｌｙに設定する（Ｓ３００６）。上記ＰＯＣ値を用いて、結合動き情報に格納されている動きベクトル値を２つの参照画像と符号化対象画像との距離比率でスケーリングする（Ｓ３００７）。スケーリングの処理としては、図２７のステップＳ２７０４と同様の処理が施される。
【０１７３】
最後に、スケーリングした動きベクトル値を、予測ベクトル値に設定し（Ｓ３００８）処理を終了する。図３０に示す処理を行うことにより、指定された結合動き情報候補インデックスｉに格納された動き情報の動きベクトル値を、予測ベクトルの対象としている参照画像に対する動き量に換算して、予測ベクトル値として設定することができる。
【０１７４】
図３１は、図１３のステップＳ１４０４の詳細動作を説明するためのフローチャートである。図１３のステップＳ１４０４では、双方向予測モード評価値生成処理が行われる。
【０１７５】
最初に、Ｌ０予測に対する参照画像指定情報（インデックス）と動きベクトル値を取得する（Ｓ３３００）。続いて、最小動き情報符号量を最大値に設定し、動き情報符号量が最小となる結合動き情報インデックスを初期化（例えば、−１などのリスト外の値）する（Ｓ３３０１）。結合動き情報候補リスト生成処理により、生成された結合動き情報候補リストの数をｎｕｍ＿ｏｆ＿ｉｎｄｅｘとすると、ｉ＝０からｎｕｍ＿ｏｆ＿ｉｎｄｅｘ−１までの結合動き情報候補について以下の処理を繰り返し行う（Ｓ３３０２からＳ３３１０）。
【０１７６】
先ず、結合動き情報算出部１００７より入力された結合動き情報候補リストより、インデックスｉに格納された動き情報を取得する（Ｓ３３０３）。続いて、取得した動き情報より参照画像指定情報で指定されるＬ０参照画像に対する候補インデックスｉの予測ベクトル値を生成する（Ｓ３３０４）。ステップＳ３３０４の動作に関しては、図３０に示したステップＳ２９０４と同じ動作が行われる。
【０１７７】
続いて、生成された予測ベクトル値と動きベクトル値との水平・垂直成分の差分値を算出し、Ｌ０予測に対する差分ベクトルを生成する（Ｓ３３０５）。
【０１７８】
続いて、取得した動き情報より参照画像指定情報で指定されるＬ１参照画像に対する候補インデックスｉの予測ベクトル値を生成する（Ｓ３３０６）。ステップＳ３３０６の動作に関しても、図３０に示したステップＳ２９０４と同じ動作が行われる。生成された予測ベクトル値と動きベクトル値との水平・垂直成分の差分値を算出し、Ｌ１予測に対する差分ベクトルを生成する（Ｓ３３０７）。
【０１７９】
続いて、動き情報符号量を算出する（Ｓ３３０８）。双方向予測モードの場合には、符号化する動き情報としては、Ｌ０とＬ１の２つの参照画像に対する、参照画像指定情報、差分ベクトル値と、１つの結合動き情報インデックスの計５要素となり、各々符号化された符号量の総量が動き情報符号量として算出される。そのため、結合予測モードや結合動き修正予測モードと比較して、符号化される動き情報の符号量は大きくなるが、すべての参照画像を予測対象画像として指定出来、すべての動きベクトルを指定可能であるため、より予測残差の少ない動き補償予測ブロックを生成することができる。動き情報符号量が、最小動き情報符号量よりも小さい場合には、最小動き情報符号量を更新すると共に、動き情報符号量最小インデックスを更新する（Ｓ３３０９）。すべての候補インデックスに対する動き情報符号量の算出を行うことで（Ｓ３３１０）、最小動き情報符号量と動き情報符号量最小インデックスが算出される。
【０１８０】
続いて、２つの参照画像に対する参照画像指定情報と動きベクトルを図１における動き補償予測部１０８に設定して、双方向動き補償予測ブロックを生成する（Ｓ３３１１）。さらに、動き補償予測ブロックと予測対象ブロックの予測誤差と、算出された最小動き情報符号量より、予測誤差評価値を算出し（Ｓ３３１２）、予測誤差評価値、並びにＬ０、Ｌ１の２つの参照画像に対する動き情報である、２つの参照画像指定情報、２つの差分ベクトル値、及び算出された動き情報量最小インデックスである、１つの結合動き情報インデックスを動き補償予測ブロックと共に出力し（Ｓ３３１３）、双方向予測モード評価値生成処理を終了する。
【０１８１】
以上の処理が、実施の形態１における動画像符号化装置における予測モード判定部１０９の詳細動作となる。
【０１８２】
［実施の形態１における動画像符号化装置における動き情報符号化部の詳細動作説明］
図３２は、図５のステップＳ５０４の詳細動作を説明するためのフローチャートである。図５のステップＳ５０４の処理は、実施の形態１の動画像符号化装置の動き情報符号化部１１０における、各動き補償予測モードに対する動き情報を符号化する処理を示す。
【０１８３】
動き情報符号化部１１０には、予測モード判定部１０９において決定された動き補償予測モードにおける、予測モードを示す情報と、各予測モードの動き情報を表現するために必要な情報が供給され、動き情報符号化部１１０は動き情報符号化データ生成処理を開始する。
【０１８４】
最初に、予測モードが結合予測モードである場合（Ｓ３４００：ＹＥＳ）、ステップＳ３４０１に進み、対象となる予測ブロックで予測誤差信号を符号化しない（Ｓｋｉｐモード）状態である場合（Ｓ３４０１：ＹＥＳ）、Ｓｋｉｐフラグを符号化し（Ｓ３４０２）、そうでない場合（Ｓ３４０１：ＮＯ）、マージフラグを１として符号化する（Ｓ３４０３）。
【０１８５】
Ｓｋｉｐフラグ或いはマージフラグを符号化した後、結合動き情報候補リストが１より大きい場合（Ｓ３４０４：ＹＥＳ）、結合動き情報インデックスを符号化し（Ｓ３４０５）、処理を終了する。結合動き情報候補リストが１の場合（Ｓ３４０４：ＮＯ）、結合動き情報が特定できるため、結合動き情報インデックスは伝送されない。
【０１８６】
次に、予測モードが結合予測モードでない場合（Ｓ３４００：ＮＯ）、マージフラグを０として符号化する（Ｓ３４０６）。続いて、予測モードが結合動き修正予測モードである場合（Ｓ３４０７：ＹＥＳ）、結合動き修正予測モードの動き情報伝送が行われる。結合動き修正予測モードを特定するためのマージＭｖｄフラグを１で符号化する（Ｓ３４０８）。次に、結合動き情報候補リストが１より大きい場合（Ｓ３４０９：ＹＥＳ）、結合動き情報インデックスを符号化する（Ｓ３４１０）。結合動き情報候補リストが１の場合（Ｓ３４０９：ＮＯ）、結合動き情報インデックスは伝送されない。最後に、結合動き修正予測モードで特定された動き修正参照画像の動きベクトル値に対して、結合動き情報の動き修正参照画像の修正前動きベクトルとの差分ベクトル値を符号化し（Ｓ３４０９）、処理を終了する。
【０１８７】
一方、予測モードが結合動き修正予測モードでない場合（Ｓ３４０７：ＮＯ）、最初に結合動き修正予測モードでないことを示すためにマージＭｖｄフラグを０で符号化する（Ｓ３４１２）。続いて、動き予測フラグを符号化する（Ｓ３４１３）。動き予測フラグは、予測方向が片方向予測であるか双方向予測であるかを指示する情報として符号化される。
【０１８８】
図３３は、実施の形態１における動き予測フラグの一例を示す図である。動き予測フラグ（ｉｎｔｅｒ＿ｐｒｅｄ＿ｆｌａｇ）として、片方向を示す値（Ｐｒｅｄ＿ＬＣ）が０、双方向を示す値（Ｐｒｅｄ＿ＢＩ）が１で符号化される。
【０１８９】
図３２に戻り、結合動き情報候補リストが１より大きい場合（Ｓ３４１４：ＹＥＳ）、片方向予測もしくは双方向予測に用いられる結合動き情報インデックスを符号化する（Ｓ３４１５）。結合動き情報候補リストが１の場合（Ｓ３４１４：ＮＯ）、結合動き情報インデックスは伝送されない。
【０１９０】
次に、動き予測フラグで示された予測方向が片方向予測である場合（Ｓ３４１６：ＹＥＳ）、片方向予測モードの動き情報伝送が行われる。最初に、参照画像指定情報（インデックス）を符号化し（Ｓ３４１７）、続いて、差分ベクトルを符号化し（Ｓ３４１８）、処理を終了する。
【０１９１】
一方、動き予測フラグで示された予測方向が片方向予測でない場合（Ｓ３４１６：ＮＯ）、予測モードは双方向予測モードとなり、双方向予測モードの動き情報伝送が行われる。最初に、Ｌ０予測の動き情報であるＬ０参照画像指定情報を符号化し（Ｓ３４１９）、Ｌ０差分ベクトル値を符号化する（Ｓ３４２０）。
【０１９２】
続いて、Ｌ１予測の動き情報であるＬ１参照画像指定情報を符号化し（Ｓ３４２１）、Ｌ１差分ベクトル値を符号化する（Ｓ３４２２）。以上の処理により、動き情報符号化データの生成が終了する。
【０１９３】
図３４は、図３２のフローチャートで示した、動き情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す。図３４の符号化シンタックスにおいては、Ｓｋｉｐフラグの伝送は予測ブロック単位での動き情報の符号化より上の階層での符号化ブロック単位で選択される。従って、上位の符号化ブロックの単位で、図３２の予測誤差信号を符号化しない（Ｓｋｉｐモード）状態であるか否かの判定（Ｓ３４０１）が行われる。
【０１９４】
［実施の形態１における動画像復号装置における動き情報復号部の詳細動作説明］
図３５は、図６に示した実施の形態１の動画像復号装置における動き情報復号部６０６の詳細な構成を示す図である。動き情報復号部６０６は、動き情報ビットストリーム復号部３７００、予測ベクトル算出部３７０１、ベクトル加算部３７０２、片方向動き補償予測復号部３７０３、双方向動き補償予測復号部３７０４、結合動き情報算出部３７０５、結合動き補償予測復号部３７０６、及び結合動き修正動き補償予測復号部３７０７を含む。
【０１９５】
図６における動き情報復号部６０６に対して、多重分離部６０１より入力された動き情報ビットストリームが、動き情報ビットストリーム復号部３７００に供給され、動き情報メモリ６０７より入力された動き情報が、予測ベクトル算出部３７０１、及び結合動き情報算出部３７０５に供給される。
【０１９６】
また、動き補償予測部６０８に対して、片方向動き補償予測復号部３７０３、双方向動き補償予測復号部３７０４、結合動き補償予測復号部３７０６、及び結合動き修正動き補償予測復号部３７０７から、動き補償予測に用いる参照画像指定情報と動きベクトルが出力され、予測方向を示す情報を含めた復号された動き情報が、動き情報メモリ６０７に格納される。
【０１９７】
動き情報ビットストリーム復号部３７００は、多重分離部６０１より入力された動き情報ビットストリームを符号化シンタックスに従って復号していくことで、伝送された予測モードと、予測モードに応じた動き情報を生成する。生成した動き情報の中で、結合動き情報インデックスは、予測モードに応じて結合動き補償予測復号部３７０６、もしくは結合動き修正動き補償予測復号部３７０７に供給され、参照画像指定情報が予測ベクトル算出部３７０１に供給され、予測ベクトルインデックスがベクトル加算部３７０２に供給され、差分ベクトル値が予測モードに応じてベクトル加算部３７０２、もしくは結合動き修正動き補償予測復号部３７０７に供給される。
【０１９８】
予測ベクトル算出部３７０１は、動き情報ビットストリーム復号部３７００より供給された参照画像指定情報と、結合動き情報算出部３７０５より供給された、結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値から、動き補償予測の対象となる参照画像に対する結合動き情報候補リストに対する予測ベクトルを生成し、参照画像指定情報と共にベクトル加算部３７０２に供給する。予測ベクトル算出部３７０１の動作に関しては、図１０の動画像符号化装置における予測ベクトル算出部１００３と同一の動作が行われ、符号化時の予測ベクトルと同一の予測ベクトルが生成される。
【０１９９】
ベクトル加算部３７０２は、予測ベクトル算出部３７０１より供給された結合動き情報候補リストに対する予測ベクトル及び参照画像指定情報と、動き情報ビットストリーム復号部３７００から供給された結合動き情報インデックス及び差分ベクトルより、結合動き情報インデックスで示された位置に登録された予測ベクトル値と差分ベクトル値を加算することで、動き補償予測対象となる参照画像に対しての動きベクトル値が再生される。再生された動きベクトル値は、参照画像指定情報と共に、予測モードに応じて片方向動き補償予測復号部３７０３、もしくは双方向動き補償予測復号部３７０４に供給される。
【０２００】
片方向動き補償予測復号部３７０３は、ベクトル加算部３７０２より１つの参照画像に対する、再生された動きベクトル値と参照画像指定情報が供給され、動きベクトル値と参照画像指定情報を動き補償予測部６０８に設定することで、動き補償予測信号を生成する。
【０２０１】
双方向動き補償予測復号部３７０４は、ベクトル加算部３７０２より双方向の２つの参照画像に対する、再生された動きベクトル値と参照画像指定情報が供給され、動きベクトル値と参照画像指定情報を動き補償予測部６０８に設定することで、動き補償予測信号を生成する。
【０２０２】
結合動き情報算出部３７０５は、動き情報メモリ６０７から供給される隣接ブロックの動き情報より、結合動き情報候補リストを生成し、結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値を、予測モードに応じて予測ベクトル算出部３７０１、結合動き補償予測復号部３７０６、もしくは結合動き修正動き補償予測復号部３７０７に供給する。
【０２０３】
結合動き情報算出部３７０５の動作に関しては、図１０の動画像符号化装置における結合動き情報算出部１００７と同一の動作が行われ、符号化時の結合動き情報候補リストと同一の候補リストが生成される。
【０２０４】
結合動き補償予測復号部３７０６は、結合動き情報算出部３７０５より供給される結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値と、動き情報ビットストリーム復号部３７００より供給される結合動き情報インデックスより、結合動き情報インデックスで示された結合動き情報候補リストにおける参照画像指定情報と動きベクトル値を再生し、動き補償予測部６０８に設定することで、動き補償予測信号を生成する。
【０２０５】
結合動き修正動き補償予測復号部３７０７は、結合動き情報算出部３７０５より供給される結合動き情報候補リストとリスト内の構成要素である結合動き情報候補の参照画像指定情報と動きベクトル値と、動き情報ビットストリーム復号部３７００より供給される結合動き情報インデックスより、結合動き修正予測モードに対する動き情報を算出し、動き修正参照画像を確定する。そして、動き修正参照画像の動きベクトル値に対して差分ベクトル値を加算することで、双方向予測の参照画像指定情報と動きベクトル値を再生し、動き補償予測部６０８に設定することで、動き補償予測信号を生成する。
【０２０６】
図３６は、図７のステップＳ７０１の詳細動作を説明するためのフローチャートである。動き情報ビットストリーム復号部３７００、予測ベクトル算出部３７０１、結合動き情報算出部３７０５、及び結合動き修正動き補償予測復号部３７０７により、図７のステップＳ７０１における動き情報復号処理が行われる。
【０２０７】
動き情報復号処理は、図３４のシンタックス構造で符号化された符号化ビットストリームより動き情報を復号する処理である。最初に符号化ブロックの所定単位でＳｋｉｐフラグを復号する（Ｓ３８００）。以降は予測ブロック単位の処理となる。ＳｋｉｐフラグがＳｋｉｐモードを示している場合（Ｓ３８０１：ＹＥＳ）、結合予測動き情報復号を行う（Ｓ３８０２）。ステップＳ３８０２の詳細処理については、後述する。
【０２０８】
Ｓｋｉｐモードでない場合（Ｓ３８０１：ＮＯ）、マージフラグを復号する（Ｓ３８０３）。マージフラグが１を示している場合（Ｓ３８０４：ＹＥＳ）、ステップＳ３８０２の結合予測動き情報復号に進む。
【０２０９】
マージフラグが１でない場合（Ｓ３８０４：ＮＯ）、マージＭｖｄフラグを復号する（Ｓ３８０５）。マージＭｖｄフラグが１でない場合（Ｓ３８０６：ＮＯ）、動き予測フラグを復号する（Ｓ３８０７）。動き予測フラグが片方向予測モードである場合（Ｓ３８０８：ＹＥＳ）、即ち図３３におけるｉｎｔｅｒ＿ｐｒｅｄ＿ｆｌａｇがＰｒｅｄ＿ＬＣを示す場合、片方向予測動き情報復号を行う（Ｓ３８０９）。ステップＳ３８０９の詳細動作については、後述する。
【０２１０】
動き予測フラグが片方向予測モードを示していない場合（Ｓ３８０８：ＮＯ）、双方向予測動き情報復号が行われる（Ｓ３８１０）。また、マージＭｖｄフラグが１である場合（Ｓ３８０６：ＹＥＳ）には、結合動き修正予測動き情報復号が行われる（Ｓ３８１１）。ステップＳ３８１０、及びステップＳ３８１１の詳細動作については、後述する。
【０２１１】
図３７は、図３６のステップＳ３８０２の詳細動作を説明するためのフローチャートである。図３６のステップＳ３８０２では、結合予測動き情報復号処理が行われる。
【０２１２】
最初に予測モードに結合予測モードを設定し（Ｓ３９００）、結合動き情報候補リストを生成する（Ｓ３９０１）。ステップＳ３９０１の処理は、図１３のフローチャート内の、動画像符号化装置における結合動き情報候補リスト生成であるステップＳ１４０１と同一の処理である。
【０２１３】
結合動き情報候補リストが１よりも大きい場合（Ｓ３９０２：ＹＥＳ）、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し（Ｓ３９０３）、結合動き情報候補リストが１つの場合（Ｓ３９０２：ＮＯ）、結合動き情報インデックスに０を設定する（Ｓ３９０４）。
【０２１４】
続いて、結合動き情報候補リストより、結合動き情報インデックスで示す位置に格納されている動き情報を取得する（Ｓ３９０５）。取得する動き情報としては、片方向／双方向を示す予測方向、参照画像指定情報、動きベクトル値となる。生成された動き情報は、結合予測モードの動き情報として格納され（Ｓ３９０６）、結合動き補償予測復号部３７０６に供給される。
【０２１５】
図３８は、図３６のステップＳ３８０７の詳細動作を説明するためのフローチャートである。図３６のステップＳ３８０７では、片方向予測動き情報復号処理が行われる。
【０２１６】
最初に、結合動き情報候補リストを生成する（Ｓ４０００）。ステップＳ４０００の処理は、図１３のフローチャート内の、動画像符号化装置における結合動き情報候補リスト生成であるステップＳ１４０１と同一の処理である。結合動き情報候補リストが１よりも大きい場合（Ｓ４００１：ＹＥＳ）、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し（Ｓ４００２）、結合動き情報候補リストが１つの場合（Ｓ４００１：ＮＯ）、結合動き情報インデックスに０を設定する（Ｓ４００３）。
【０２１７】
続いて、結合動き情報リストより復号した結合動き情報インデックスに格納された動き情報を取得する（Ｓ４００４）。次に、参照画像指定情報を復号し（Ｓ４００５）、差分ベクトル値を復号する（Ｓ４００６）。次に、復号した結合動き情報インデックスに対する予測ベクトル値を生成する（Ｓ４００７）。ステップＳ４００７の動作に関しては、動画像符号化装置における図２９のステップＳ２９０４と同一の動作が行われる。
【０２１８】
続いて、復号した差分ベクトル値と生成された予測ベクトル値を加算することで動きベクトルを再生する（Ｓ４００８）。生成された動き情報として、１つの参照画像に対する参照画像指定情報と動きベクトル値が、片方向予測モードの動き情報として格納され（Ｓ４００８９）、片方向動き補償予測復号部３７０３に供給される。
【０２１９】
図３９は、図３６のステップＳ３８１１の詳細動作を説明するためのフローチャートである。図３６のステップＳ３８１１では、双方向予測動き情報復号処理が行われる。
【０２２０】
最初に、結合動き情報候補リストを生成する（Ｓ４１００）。ステップＳ４１００の処理は、図１３のフローチャート内の、動画像符号化装置における結合動き情報候補リスト生成であるステップＳ１４０１と同一の処理である。結合動き情報候補リストが１よりも大きい場合（Ｓ４１０１：ＹＥＳ）、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し（Ｓ４１０２）、結合動き情報候補リストが１つの場合（Ｓ４１０１：ＮＯ）、結合動き情報インデックスに０を設定する（Ｓ４１０３）。
【０２２１】
続いて、結合動き情報リストより復号した結合動き情報インデックスに格納された動き情報を取得する（Ｓ４１０４）。次に、Ｌ０予測の参照画像指定情報を復号し（Ｓ４１０５）、差分ベクトル値を復号する（Ｓ４１０６）。次に、復号した結合動き情報インデックスに対するＬ０予測の予測ベクトル値を生成し（Ｓ４１０７）、復号した差分ベクトル値と生成されたＬ０予測の予測ベクトル値を加算することでＬ０予測に対する動きベクトルを再生する（Ｓ４１０８）。ステップＳ４１０７の動作に関しては、動画像符号化装置における図３１のステップＳ３３０４と同一の動作が行われる。
【０２２２】
続いて、同様の動き情報復号処理がＬ１予測の参照画像に対して行われる。Ｌ１予測の参照画像指定情報を復号し（Ｓ４１０９）、差分ベクトル値を復号し（Ｓ４１１０）、復号した結合動き情報インデックスに対するＬ１予測の予測ベクトル値を生成し（Ｓ４１１１）、復号した差分ベクトル値と生成されたＬ１予測の予測ベクトル値を加算することでＬ１予測に対する動きベクトルを再生する（Ｓ４１１２）。ステップＳ４１１１の動作に関しては、動画像符号化装置における図３１のステップＳ３３０６と同一の動作が行われる。
【０２２３】
生成された動き情報として、２つの参照画像に対する参照画像指定情報と動きベクトル値が、双方向予測モードの動き情報として格納され（Ｓ４１１３）、双方向動き補償予測復号部３７０４に供給される。
【０２２４】
図４０は、図３６のステップＳ３８１０の詳細動作を説明するためのフローチャートである。図３６のステップＳ３８１０では、結合動き修正予測動き情報復号処理が行われる。
【０２２５】
最初に予測モードに結合動き修正予測モードを設定し（Ｓ４２００）、結合動き情報候補リストを生成する（Ｓ４２０１）。ステップＳ４２０１では、動画像符号化装置における図１３のフローチャートのステップＳ１４０１と同一の処理が行われる。
【０２２６】
結合動き情報候補リストが１よりも大きい場合（Ｓ４２０２：ＹＥＳ）、即ち複数の結合動き情報候補がある場合には、結合動き情報インデックスを復号し（Ｓ４２０３）、結合動き情報候補リストが１つの場合（Ｓ４２０２：ＮＯ）、結合動き情報インデックスに０を設定する（Ｓ４２０４）。
【０２２７】
続いて、結合動き情報候補リストより、結合動き情報インデックスで示す位置に格納されている動き情報を取得する（Ｓ４２０５）。取得する動き情報としては、片方向／双方向を示す予測方向、参照画像指定情報、動きベクトル値となる。
【０２２８】
次に、取得された結合動き情報インデックスと動き情報をもとに、結合動き修正動き補償予測復号部３７０７において、双方向動きベクトル値と差分ベクトルを伝送する参照画像確定処理を行う（Ｓ４２０６）。ステップＳ４２０６では、動画像符号化装置における図２２のフローチャートのステップＳ２２０３と同一の処理が行われる。更に詳細な処理内容に関しては、図２６、図２７、図２８に示されるフローチャートの処理が施され、動画像符号化装置と同じ双方向動きベクトル値と差分ベクトルを伝送する参照画像の確定が行われる。
【０２２９】
次に、確定した差分ベクトルを伝送する参照画像である動き修正参照画像に対して、動き情報として格納された修正前の動きベクトル値に対する、差分ベクトルを復号し（Ｓ４２０７）、修正前の動きベクトル値に差分ベクトルを加算することで、動き修正参照画像の動きベクトル値を算出する（Ｓ４２０８）。
【０２３０】
結合動き情報インデックスで示す位置に格納されている動き情報に対して、予測方向は双方向に設定されると共に、動き情報が片方向予測であった場合の第２参照画像を指定する参照画像指定情報と動き修正参照画像における更新された動きベクトル値が、動き情報として格納され（Ｓ４２０９）、結合動き修正動き補償予測復号部３７０７より、図６における動き補償予測部６０８及び動き情報メモリ６０７に出力される。
【０２３１】
実施の形態１における、動画像符号化装置及び動画像復号装置においては、従来の動画像符号化手法であるＡＶＣにおける動き補償予測に対して、より多くの隣接ブロックの動き情報を選択候補として用いることで、周囲の動き情報をより有効に利用できる候補として登録し、周囲の動き情報に対して動きベクトル値の修正情報を差分ベクトルとして符号化する構成を取る新規の予測モードである結合動き修正予測モードを用いた。これにより、動き情報の相関性が高いが動きの連続性が十分保たれていない場合や、他ブロックの動き情報における動きベクトルが予測残差を符号化した際の歪などの要因で正確な動きに対してずれを生じている場合などに、隣接ブロックから生成される動き情報に対して、少ない情報で適切な動きベクトルの修正が出来、少ない付加情報で予測残差が少ない動き補償予測信号を生成する、符号化装置及び復号装置を実現できる。
【０２３２】
また、実施の形態１における、動画像符号化装置及び動画像復号装置においては、動きベクトルを修正する参照画像の設定を、周囲の動き情報に格納された予測モードや周囲の動き情報から結合する動き情報を取得する際の取得方法を基準に、結合する動き情報における動きベクトルの信頼度を評価し、修正する必要のある参照画像を特定する。これにより、符号化時に伝送する指定情報を追加せずに、適切な動きベクトルの修正を可能とする効果を有する。
【０２３３】
また、実施の形態１における、動画像符号化装置及び動画像復号装置においては、結合予測モードと共用して結合動き修正予測モードの基準参照画像及び基準動きベクトルが決定・算出される。更に、動き検出予測モードにおいても、結合予測モード及び結合動き修正予測モードと、予測ベクトルに使用する隣接ブロックを指定する情報（インデックス）を共用することにより、結合動き情報候補リストの生成処理を同一処理で構成可能となり、処理負荷を削減しつつ付加情報を少なく符号化できる結合動き修正予測モード及び、動き検出予測モードを具備することができる。動き情報に関する付加符号量を段階的に増加させた、結合予測モード、結合動き修正予測モードと、動き修正予測モードの３つの予測モードを具備することによって、付加符号量と予測誤差符号量のバランスが最適な予測モードを選択することが可能であり、符号化効率を向上させることができる。
【０２３４】
また、実施の形態１における、動画像符号化装置及び動画像復号装置においては、少ない負荷と符号量で双方向予測を行う結合動き修正予測モードを増やすことができ、以降に符号化・復号するブロックで参照する隣接ブロックの動き情報を増やすことができるため、符号化効率を向上させることができる。
【０２３５】
実施の形態１における、動画像符号化装置及び動画像復号装置においては、動き補償予測モードとして、動き検出モード、結合予測モード、結合動き修正予測モードの３つの予測モードを全て備えている構成となっている。この点、３つの予測モードを全て備えていない場合においても、共通の動きベクトルや参照画像指定情報及び予測方向を含めた動き情報を格納した隣接ブロックのリストをもとに、動き検出モードの予測ベクトルを生成する処理を具備した構成において、１つの隣接ブロックを指定する情報（インデックス）で双方向予測の場合に２つの動きベクトルに対する予測ベクトルを算出でき、少ないインデックス伝送で有効な予測ベクトルを生成できる効果がある。
【０２３６】
また、実施の形態１の構成において、動き検出モードと結合予測モードのみ、もしくは動き検出モードと結合動き修正予測モードのみが備わっている構成においても、３つの予測モードを全て備えている構成の場合と同様に、結合動き情報候補リストの生成処理を同一処理で構成可能であり、処理負荷を削減しつつ付加情報を少なく符号化することができる効果を有する。
【０２３７】
更に、実施の形態１の構成において、動き検出モードと結合予測モードのみで予測モードが構成される場合においては、動画像符号化装置における図１０の結合動き修正動き補償予測生成部１００９と、図１３のフローチャートにおけるステップＳ１４０２が不要となり、動画像復号装置における図３５の結合動き修正動き補償予測復号部３７０７と、図３６のフローチャートにおけるステップＳ３８１１が不要となり、更に処理負荷を削減することが可能である。
【０２３８】
（実施の形態２）
次に、本発明の実施の形態２についての説明を行う。実施の形態２においては、実施の形態１に対して、結合予測モード、結合動き修正予測モード、動き検出モードの各モードにおいて、同一の結合動き情報候補リストをもとにしたうえで、動き情報を生成するための隣接ブロックを指定する情報（インデックス）の最大数を異なる値に指定する構成をとる。
【０２３９】
実施の形態１における、結合動き情報候補リストとして生成される動き情報のインデックスをｎｕｍ＿ｏｆ＿ｉｎｄｅｘとする場合に、実施の形態２においては、結合動き修正予測モード及び動き検出モードにおける結合動き情報のインデックスの最大数を特定値で制限する。ここでは、結合動き修正予測モードのインデックスの最大値をｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｄ、動き検出モードのインデックスの最大値をｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｐとする。これらの値は、暗黙で固定値に特定されて符号化装置、復号装置のそれぞれに適用されることも可能であるが、シーケンスや画像単位などの所定単位で、上記値を特定するための情報が伝送され、符号化装置と復号装置で同一の特定値を設定することも可能である。
【０２４０】
実施の形態２においては、実施の形態１と同一の構成及び同一の処理を有するが、符号化装置における、図２２の結合動き修正予測モード評価値生成フローチャートのステップＳ２２０１、図２９の片方向予測評価値生成フローチャートのステップＳ２９０２、及び図３１の双方向予測評価値生成フローチャートのステップＳ３３０２における、インデックスｉのループ処理が異なる。具体的には、Ｓ２２０１におけるループ回数がｎｕｍ＿ｏｆ＿ｉｎｄｅｘから、ｍｉｎ（ｎｕｍ＿ｏｆ＿ｉｎｄｅｘ，ｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｄ）に、Ｓ２９０１及びＳ３３０２におけるループ回数がｎｕｍ＿ｏｆ＿ｉｎｄｅｘから、ｍｉｎ（ｎｕｍ＿ｏｆ＿ｉｎｄｅｘ，ｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｐ）に代わる処理となる。
【０２４１】
実施の形態２における動画像符号化装置においては、結合動き修正予測モード及び動き検出モードの評価値を生成し、最適な結合動き情報インデックスを特定するための評価値算出処理のループ回数を削減することが可能となり、符号化処理を簡略化することが可能となる。
【０２４２】
また、実施の形態２においては、実施の形態１に対して、動画像符号化装置及び動画像復号装置における、結合動き情報のインデックスの符号化データが異なる。図４１に一例として、結合動き情報候補数が、結合予測モードで５、結合動き修正予測モードで４、動き検出予測モードで３の場合におけるインデックスの符号化に用いる、Ｔｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す。
【０２４３】
結合動き修正予測モードにおいては、結合動き情報に対して動きベクトルを修正するための差分ベクトルを伝送可能なため、動き情報の精度が十分でない場合にも差分ベクトルにより、正確な動きベクトル値を表現可能である。従って、結合動き修正予測モードは動き情報をそのまま用いる結合予測モードに対して、少ない結合動き情報の候補からの選択においても、良好な動き補償予測ブロックの生成が可能である。更に、図４１に示すようにＴｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列でインデックスを符号化する構成においては、結合動き情報の候補を制限することにより、結合動き修正予測モードで使用するインデックスの最大値に対する符号ビット数を結合予測モードより１ビット少なくすることが可能であり、インデックスに要する符号量も削減することが出来る。
【０２４４】
同様に、動き検出予測モードにおいても、結合動き情報に対して参照画像を選択する参照画像指定情報と動きベクトルを修正するための差分ベクトルを伝送可能なため、動き情報の精度が十分でない場合や、より精度の良い予測が可能な参照画像が存在する場合に、差分ベクトルと参照画像指定情報により、少ない結合動き情報の候補からの選択においても、精度の良い動き補償予測ブロックの生成を可能とする。動き検出予測モードにおいても、図４１に示す構成で、動き検出予測モードで使用するインデックスの最大値に対する符号ビット数を結合予測モードより１ビット少なく出来、インデックスに要する符号量を削減できる。
【０２４５】
図４２に、実施の形態２における動き情報符号化データ生成処理によって生成される符号化ストリームのシンタックスの一例を示す。図３２に示した実施の形態１における符号化ストリームのシンタックスに対して、インデックスが伝送及び受信される条件が変わると共に、最大候補数に依存して符号化列が変化するため、インデックス情報としては異なる値として符号化・復号される構成となる。
【０２４６】
（実施の形態３）
次に、本発明の実施の形態３についての説明を行う。実施の形態３においては、実施の形態２と同様、結合予測モード、結合動き修正予測モード、動き検出モードの各モードにおいて、同一の結合動き情報候補リストをもとにしたうえで、結合動き情報候補数の最大数を異なる値に指定すると共に、候補内のインデックス順を変える構成をとる。
【０２４７】
実施の形態３においては、結合動き情報候補リストとして生成される動き情報のインデックスをｎｕｍ＿ｏｆ＿ｉｎｄｅｘとする場合に、結合予測モード及び動き検出モードにおける結合動き情報のインデックスの最大数を特定値で制限する。ここでは、結合予測モードのインデックスの最大値をｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅ、動き検出モードのインデックスの最大値をｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｐとする。
【０２４８】
実施の形態３においては、実施の形態２と同様の構造と処理をとるが、結合動き修正予測モードの候補インデックスがｉである場合に、結合予測モードのインデックスｉ＿ｍｅｒｇｅを下記式４で算出する。
ｉ＿ｍｅｒｇｅ＝ｍｉｎ（ｎｕｍ＿ｏｆ＿ｉｎｄｅｘ，ｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅ）−ｉ−１ ・・・（式４）
【０２４９】
また、同様に、結合予測モードの候補インデックスがｉである場合に、動き検出モードのインデックスｉ＿ｍｅｒｇｅｍｖｐを下記式５で算出する。
ｉ＿ｍｅｒｇｅｍｖｐ＝ｍｉｎ（ｎｕｍ＿ｏｆ＿ｉｎｄｅｘ，ｍａｘ＿ｉｎｄｅｘ＿ｏｆ＿ｍｅｒｇｅｍｖｐ）−ｉ−１ ・・・（式５）
【０２５０】
図４３に一例として、結合動き情報候補数が、結合動き修正予測モードで５、結合予測モードが４、動き検出予測モードが３の場合におけるインデックスの符号化に用いる、Ｔｒｕｎｃａｔｅｄ Ｕｎａｒｙ符号列を示す。
【０２５１】
上記インデックスの変換が行われることにより、結合予測モード、結合動き修正予測モード、動き検出モードの各モードにおいて、同一の結合動き情報候補リストをもとにしたうえで、各予測モードにおいて適用可能な結合動き情報の候補の優先順を変えることが可能である。結合動き情報候補のそれぞれに対して、３つの予測モードで異なるインデックスの重みをつけることで、結合動き情報候補の動き情報に対して少ない補正で品質の良い動き補償予測が可能な場合に、少ない動き情報伝送を可能とする予測モードを３つの予測モードから適切に選択することが出来、符号化効率を高めることができる。
【０２５２】
また、結合動き情報の動き情報をそのまま用いる結合予測モードと、動き情報を修正することを可能とする結合動き修正予測モードや動き検出予測モードとで、小さなインデックスで少しの差分ベクトルを伝送する状態で複数の同程度の少ない符号量で、同等の動き情報の伝送が行われる情報の偏りを防ぎ、複数の結合動き情報候補を有効な動き情報として用いることが可能となる。
【０２５３】
実施の形態３における、各予測モードにおける結合動き情報候補数の設定と、インデックス順の変換処理に関しては、説明した構成だけでなく、様々な組み合わせで実現することが可能であり、各予測モードの特性や発生頻度に応じた形で決めることが可能である。
【０２５４】
以上述べた実施の形態において、双方向予測が利用可能なピクチャ（Ｂピクチャ）を前提に説明したが、双方向予測を有さないピクチャ（Ｐピクチャ）においても、本発明を適用することは可能である。つまり、本発明をＰピクチャに適用すると、結合動き修正予測モードでは、常に片方向予測で動き補償を行うことになり、結合予測モードで指定される参照画像と同一の参照画像に対して差分ベクトルを加算し、動きベクトルを修正する処理を行う。
【０２５５】
以上述べた実施の形態の動画像符号化装置が出力する動画像の符号化ストリームは、実施の形態で用いられた符号化方法に応じて復号することができるように特定のデータフォーマットを有しており、動画像符号化装置に対応する動画像復号装置がこの特定のデータフォーマットの符号化ストリームを復号することができる。
【０２５６】
動画像符号化装置と動画像復号装置の間で符号化ストリームをやりとりするために、有線または無線のネットワークが用いられる場合、符号化ストリームを通信路の伝送形態に適したデータ形式に変換して伝送してもよい。その場合、動画像符号化装置が出力する符号化ストリームを通信路の伝送形態に適したデータ形式の符号化データに変換してネットワークに送信する動画像送信装置と、ネットワークから符号化データを受信して符号化ストリームに復元して動画像復号装置に供給する動画像受信装置とが設けられる。
【０２５７】
動画像送信装置は、動画像符号化装置が出力する符号化ストリームをバッファするメモリと、符号化ストリームをパケット化するパケット処理部と、パケット化された符号化データをネットワークを介して送信する送信部とを含む。動画像受信装置は、パケット化された符号化データをネットワークを介して受信する受信部と、受信された符号化データをバッファするメモリと、符号化データをパケット処理して符号化ストリームを生成し、動画像復号装置に提供するパケット処理部とを含む。
【０２５８】
また、以上の符号化及び復号に関する処理は、ハードウェアを用いた伝送、蓄積、受信装置として実現することができるのは勿論のこと、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）やフラッシュメモリ等に記憶されているファームウェアや、コンピュータ等のソフトウェアによっても実現することができる。そのファームウェアプログラム、ソフトウェアプログラムをコンピュータ等で読み取り可能な記録媒体に記録して提供することも、有線あるいは無線のネットワークを通してサーバから提供することも、地上波あるいは衛星ディジタル放送のデータ放送として提供することも可能である。
【０２５９】
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
【符号の説明】
【０２６０】
１００ 入力端子、 １０１ 減算部、 １０２ 直交変換・量子化部、 １０３ 予測誤差符号化部、 １０４ 逆量子化・逆変換部、 １０５ 加算部、 １０６ 復号画像メモリ、 １０７ 動きベクトル検出部、 １０８ 動き補償予測部、 １０９ 予測モード判定部、 １１０ 動き情報符号化部、 １１１ 動き情報メモリ、 １１２ 多重化部、 １１３ 出力端子、 ６００ 入力端子、 ６０１ 多重分離部、 ６０２ 予測差分情報復号部、 ６０３ 逆量子化・逆変換部、 ６０４ 加算部、 ６０５ 復号画像メモリ、 ６０６ 動き情報復号部、 ６０７ 動き情報メモリ、 ６０８ 動き補償予測部、 ６０９ 出力端子、 １０００ 片方向動き補償予測生成部、 １００１ 双方向動き補償予測生成部、 １００２ 予測誤差算出部、 １００３ 予測ベクトル算出部、 １００４ 差分ベクトル算出部、 １００５ 動き情報符号量算出部、 １００６ 予測モード評価部、 １００７ 結合動き情報算出部、 １００８ 結合動き補償予測生成部、 １００９ 結合動き修正動き補償予測生成部、 １２００ 結合動き情報候補リスト生成部、 １２０１ 結合動き情報候補リスト削除部、 １３００ 基準参照画像・動き修正参照画像選択部、 １３０１ 動き修正参照画像動きベクトル取得部、 １３０２ 結合動き情報修正動き補償予測生成部、 １３０３ 差分ベクトル算出部、 ３７００ 動き情報ビットストリーム復号部、 ３７０１ 予測ベクトル算出部、 ３７０２ ベクトル加算部、 ３７０３ 片方向動き補償予測復号部、 ３７０４ 双方向動き補償予測復号部、 ３７０５ 結合動き情報算出部、 ３７０６ 結合動き補償予測復号部、 ３７０７ 結合動き修正動き補償予測復号部。
【特許請求の範囲】
【請求項１】
動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化装置であって、
符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成する候補リスト生成部と、
前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択可能な予測モード判定部と、
前記予測モード判定部から供給される予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化する予測誤差信号符号化部と、
前記予測モード判定部から供給される動き情報を符号化する動き情報符号化部と、
前記予測誤差信号符号化部から供給される符号化データと、前記動き情報符号化部から供給される符号化データとを多重化する多重化部と、を備え、
前記動き情報符号化部は、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する、
ことを特徴とする画像符号化装置。
【請求項２】
前記動き情報符号化部は、前記第１予測モードにおいて、前記第２動きベクトルを特定するための情報として、前記候補リストから当該第２動きベクトルを含む動き情報を特定するための情報を符号化する、
ことを特徴とする請求項１に記載の画像符号化装置。
【請求項３】
前記第２予測モードには、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報をそのまま使用して生成する予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルを前記第１動きベクトルを用いて修正して使用する予測モードがあり、
前記予測モード判定部は、それら二つの予測モードの少なくとも一方を選択可能である、
ことを特徴とする請求項１または２に記載の画像符号化装置。
【請求項４】
動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化方法であって、
符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成するステップと、
前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択するステップと、
選択された予測モードで生成された予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化するステップと、
選択された予測モードで使用される動き情報を符号化するステップと、
前記予測誤差信号の符号化データと、前記動き情報の符号化データとを多重化するステップと、を備え、
前記動き情報を符号化するステップは、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する、
ことを特徴とする画像符号化方法。
【請求項５】
動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化プログラムであって、
符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成する処理と、
前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択する処理と、
選択された予測モードで生成された予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化する処理と、
選択された予測モードで使用される動き情報を符号化する処理と、
前記予測誤差信号の符号化データと、前記動き情報の符号化データとを多重化する処理と、をコンピュータに実行させ、
前記動き情報を符号化する処理は、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する、
ことを特徴とする画像符号化プログラム。
【請求項１】
動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化装置であって、
符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成する候補リスト生成部と、
前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択可能な予測モード判定部と、
前記予測モード判定部から供給される予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化する予測誤差信号符号化部と、
前記予測モード判定部から供給される動き情報を符号化する動き情報符号化部と、
前記予測誤差信号符号化部から供給される符号化データと、前記動き情報符号化部から供給される符号化データとを多重化する多重化部と、を備え、
前記動き情報符号化部は、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する、
ことを特徴とする画像符号化装置。
【請求項２】
前記動き情報符号化部は、前記第１予測モードにおいて、前記第２動きベクトルを特定するための情報として、前記候補リストから当該第２動きベクトルを含む動き情報を特定するための情報を符号化する、
ことを特徴とする請求項１に記載の画像符号化装置。
【請求項３】
前記第２予測モードには、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報をそのまま使用して生成する予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルを前記第１動きベクトルを用いて修正して使用する予測モードがあり、
前記予測モード判定部は、それら二つの予測モードの少なくとも一方を選択可能である、
ことを特徴とする請求項１または２に記載の画像符号化装置。
【請求項４】
動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化方法であって、
符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成するステップと、
前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択するステップと、
選択された予測モードで生成された予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化するステップと、
選択された予測モードで使用される動き情報を符号化するステップと、
前記予測誤差信号の符号化データと、前記動き情報の符号化データとを多重化するステップと、を備え、
前記動き情報を符号化するステップは、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する、
ことを特徴とする画像符号化方法。
【請求項５】
動画像の各ピクチャを分割したブロック単位で動きベクトルを検出して符号化する画像符号化プログラムであって、
符号化対象ブロックに空間的又は時間的に隣接する複数の参照ブロック候補を登録した候補リストを生成する処理と、
前記符号化対象ブロックの予測信号を参照画像内で探索することにより検出された第１動きベクトルを使用して生成する第１予測モードと、前記符号化対象ブロックの予測信号を前記候補リストから選択された参照ブロックの動き情報を使用して生成する第２予測モードを選択する処理と、
選択された予測モードで生成された予測信号と、前記符号化対象ブロックの画像信号との差分である予測誤差信号を符号化する処理と、
選択された予測モードで使用される動き情報を符号化する処理と、
前記予測誤差信号の符号化データと、前記動き情報の符号化データとを多重化する処理と、をコンピュータに実行させ、
前記動き情報を符号化する処理は、前記第１予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報に含まれる第２動きベクトルと前記第１動きベクトルとの差分ベクトル、及び前記第１動きベクトルの参照画像を特定するための情報を符号化し、前記第２予測モードにおいて、前記候補リストから選択された参照ブロックの動き情報を特定するための情報を符号化する、
ことを特徴とする画像符号化プログラム。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【図１８】
【図１９】
【図２０】
【図２１】
【図２２】
【図２３】
【図２４】
【図２５】
【図２６】
【図２７】
【図２８】
【図２９】
【図３０】
【図３１】
【図３２】
【図３３】
【図３４】
【図３５】
【図３６】
【図３７】
【図３８】
【図３９】
【図４０】
【図４１】
【図４２】
【図４３】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【図１８】
【図１９】
【図２０】
【図２１】
【図２２】
【図２３】
【図２４】
【図２５】
【図２６】
【図２７】
【図２８】
【図２９】
【図３０】
【図３１】
【図３２】
【図３３】
【図３４】
【図３５】
【図３６】
【図３７】
【図３８】
【図３９】
【図４０】
【図４１】
【図４２】
【図４３】
【公開番号】特開２０１３−４２２４１（Ｐ２０１３−４２２４１Ａ）
【公開日】平成２５年２月２８日（２０１３．２．２８）
【国際特許分類】
【出願番号】特願２０１１−１７６３１９（Ｐ２０１１−１７６３１９）
【出願日】平成２３年８月１１日（２０１１．８．１１）
【出願人】（３０８０３６４０２）株式会社ＪＶＣケンウッド (1,152)
【Ｆターム（参考）】
【公開日】平成２５年２月２８日（２０１３．２．２８）
【国際特許分類】
【出願日】平成２３年８月１１日（２０１１．８．１１）
【出願人】（３０８０３６４０２）株式会社ＪＶＣケンウッド (1,152)
【Ｆターム（参考）】
[ Back to top ]