マルチレベル有効性写像スキャニング
【課題】コンテキスト適応符号化または復号により有効性写像を符号化および復号する方法および符号化器／復号器を提供すること。
【解決手段】符号化されたデータのビットストリームから変換ユニットに対する有効係数フラグを再構成する方法であって、ビットストリームは、符号化された有効係数グループフラグを含み、各有効係数グループフラグは、有効係数フラグのそれぞれのグループと対応し、方法は、有効係数フラグのそれぞれのグループの各々に対して、グループスキャン順序で、そのグループと対応する有効係数グループフラグを再構成することと、対応する有効係数グループフラグが非ゼロである場合、そのグループ内のスキャン順序でビットストリームから有効係数フラグを復号すること、および対応する有効係数グループフラグがゼロの場合、有効係数フラグをゼロに設定することによりそのグループにおける有効係数フラグを再構成することとを含む、方法。
【解決手段】符号化されたデータのビットストリームから変換ユニットに対する有効係数フラグを再構成する方法であって、ビットストリームは、符号化された有効係数グループフラグを含み、各有効係数グループフラグは、有効係数フラグのそれぞれのグループと対応し、方法は、有効係数フラグのそれぞれのグループの各々に対して、グループスキャン順序で、そのグループと対応する有効係数グループフラグを再構成することと、対応する有効係数グループフラグが非ゼロである場合、そのグループ内のスキャン順序でビットストリームから有効係数フラグを復号すること、および対応する有効係数グループフラグがゼロの場合、有効係数フラグをゼロに設定することによりそのグループにおける有効係数フラグを再構成することとを含む、方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本願は、概してデータ圧縮に関し、より具体的には、マルチレベル有効性写像を用いて動画像を符号化および復号するための方法および装置に関する。
【背景技術】
【０００２】
データ圧縮は、多くのコンテキストにおいて生じる。データ圧縮は、効率的に情報を記憶、送信、および再生するために、通信およびコンピュータネットワークにおいて非常に一般的に使用されている。データ圧縮には、画像、オーディオおよび動画像の符号化において特有の用途が存在する。動画像は、各動画像フレームに対して必要な大量のデータ、および符号化および復号に際して必要なスピードのために、データ圧縮に大きな難問を提示する。動画像符号化のための現在の最高水準の技術は、ＩＴＵ−Ｔ Ｈ．２６４／ＡＶＣ動画像符号化標準である。ＩＴＵ−Ｔ Ｈ．２６４／ＡＶＣ動画像符号化標準は、メインプロフィール、ベースラインプロフィール、その他を含む異なる用途に対していくつかの異なるプロフィールを規定する。次世代の動画像符号化標準は、現在、ＭＰＥＧ−ＩＴＵ：Ｈｉｇｈ Ｅｆｆｉｃｉｅｎｃｙ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＨＥＶＣ）の共同イニシアティブを通して開発中である。
【０００３】
ブロックベースの符号化プロセスを使用するＨ．２６４を含む、画像および動画像を符号化／復号するためのいくつかの標準が存在する。これらのプロセスにおいて、画像またはフレームは一般的な４ｘ４または８ｘ８のブロックに分割され、そして、ブロックはスペクトル的に係数に変換され、量子化され、そして、エントロピー符号化される。多くの場合、変換されるデータは、実際の画素データでなくて、予測動作の後の残差データ（ｒｅｓｉｄｕａｌ ｄａｔａ）である。予測は、イントラフレーム（ｉｎｔｒａ−ｆｒａｍｅ）、すなわちフレーム／画像内のブロックからブロックへの予測、または、インタフレーム（ｉｎｔｅｒ−ｆｒａｍｅ）、すなわち（運動予測とも称される）フレーム間の予測であり得る。（Ｈ．２６５とも称され得る）ＨＥＶＣもまた、これらの特徴を有すると期待されている。
【０００４】
スペクトル的に残差データを変換するときに、これらの標準の多くは、離散余弦変換（ＤＣＴ）またはその何らかのバリアントの使用を規定する。結果として生じるＤＣＴ係数は、次に、量子化器を使用して量子化されて、量子化された変換領域係数またはインデックスを生成する。
【０００５】
（ときとして、「変換ユニット」と称される）量子化された変換領域係数のブロックまたはマトリックスは、次に、特定のコンテキストモデルを使用してエントロピー符号化される。Ｈ．２６４／ＡＶＣにおいて、および、ＨＥＶＣのための現在の開発作業において、量子化された変換係数は、（ａ）ブロックにおける最後の非ゼロ係数の位置を示す最後の有効係数位置を符号化すること、（ｂ）非ゼロ係数を含むブロックにおける（最後の有効係数位置以外の）位置を示す有効性写像を符号化すること、（ｃ）非ゼロ係数の大きさを符号化すること、および（ｄ）非ゼロ係数のサインを符号化することによって符号化される。量子化された変換係数のこの符号化は、しばしば、ビットストリームにおいて符号化されたデータの３０〜８０％を占める。
【０００６】
変換ユニットは、一般的にＮｘＮである。一般のサイズは、４ｘ４、８ｘ８、１６ｘ１６および３２ｘ３２を含むが、他のサイズも可能である。有効性写像におけるシンボルのエントロピー符号化は、コンテキストモデルに基づいている。４ｘ４の輝度もしくは彩度のブロックまたは変換ユニット（ＴＵ）の場合、個々のコンテキストは、ＴＵにおける各係数位置と関連している。すなわち、符号化器および復号器は、（右下隅の位置を除いて）合計３０個の４ｘ４の輝度および彩度のＴＵに対する個々のコンテキストを追跡する。８ｘ８のＴＵは、（概念的にコンテキスト関連付けの目的で）２ｘ２のブロックに区画化されて、１つの異なるコンテキストが８ｘ８のＴＵにおける各２ｘ２のブロックと関連付けられる。したがって、符号化器および復号器は、８ｘ８の彩度および輝度のＴＵに対して合計１６＋１６＝３２個のコンテキストを追跡する。このことは、有効性写像の符号化および復号の間、符号化器および復号器が６２個の異なるコンテキストを追跡し、検索することを意味する。１６ｘ１６のＴＵおよび３２ｘ３２のＴＵが考慮されると、含まれる異なるコンテキストの全数は、８８個である。付加的な２６個のコンテキストの中で、１３個は輝度のＴＵに対するものあり、１３個は彩度のＴＵに対するものである。１６ｘ１６または３２ｘ３２のＴＵにおける係数位置への１３個のコンテキストの割当ては、以下の通りである。（ｒ，ｃ）がＴＵにおける位置を示すとすると、ここで、ＴＵがサイズ１６ｘ１６である場合、０＜＝ｒ、ｃ＜＝１５であり、そして、ＴＵがサイズ３２ｘ３２であるならば、０＜＝ｒ、ｃ＜＝３１である。次に、３つの異なるコンテキストが、ＤＣ位置（０，０）を含む左上隅における３つの位置（０，０）、（０，１）、（１，０）に割り当てられ；５つの異なるコンテキストが、領域｛（ｒ，ｃ）：２＜＝ｒ＋ｃ＜５｝における位置に割り当てられ；最後の５つの異なるコンテキストが、全ての残りの位置に割り当てられる。（０，０）、（０，１０）、および（１，０）に対する最初の３つのコンテキストを除いて、領域｛（ｒ，ｃ）：２＜＝ｒ＋ｃ＜５｝における位置に対するコンテキストの導出は、それの右下隣りに従う。ｓ（ｒ，ｃ）が位置（ｒ，ｃ）における係数の有効性フラグを示すとすると、係数がゼロではない場合、ｓ（ｒ，ｃ）＝１であり、そうでない場合、ｓ（ｒ，ｃ）＝１である。位置（ｒ，ｃ）に対するコンテキストは、ｍｉｎ（ｓ（ｒ＋１，ｃ）＋ｓ（ｒ，ｃ＋１）＋ｓ（ｒ＋２，ｃ）＋ｓ（ｒ，ｃ＋２）＋ｓ（ｒ＋１，ｃ＋１），４）に等しく、ここで、ｍｉｎ（ａ，ｂ）は、ａとｂとの間でより小さい方の値を返す。残りの領域｛（ｒ，ｃ）：ｒ＋ｃ＞＝５｝における位置（ｒ，ｃ）のコンテキストが同様に導出される。
【０００７】
４ｘ４および８ｘ８の有効性写像に対するコンテキストは、ビット位置によって決定される。１６ｘ１６および３２ｘ３２の有効性写像に対するコンテキストは、隣りのビットの値によって普通は決定される。１６ｘ１６および３２ｘ３２の有効性写像に対するコンテキストの決定は、計算的にかなり厳しいが、その理由は、ほとんどの場合、プロセッサは、隣りの有効性フラグの値に目を向けることによってコンテキストを決定し、これにはコストがかかるメモリーアクセス動作が含まれるからである。
【発明の概要】
【課題を解決するための手段】
【０００８】
本願は、コンテキスト適応符号化または復号によって有効性写像を符号化および復号する方法および符号化器／復号器を記述する。符号化器および復号器は、マルチレベル有効性写像を使用する。少なくとも１つのケースにおいて、マルチレベル写像は、１６ｘ１６および３２ｘ３２のＴＵなどの、より大きな変換ユニットに対して使用される。
【０００９】
一局面において、本願は、符号化されたデータのビットストリームから変換ユニットに対する有効係数フラグを再構成する方法を記述し、該ビットストリームは、符号化された有効係数グループフラグを含み、各有効係数グループフラグは、有効係数フラグのそれぞれのグループと対応する。該方法は、該有効係数フラグの各それぞれのグループに対してグループスキャン順序で、そのグループと対応する有効係数グループフラグを再構成することと、該対応する有効係数グループフラグが非ゼロである場合、そのグループ内のスキャン順序でビットストリームから該有効係数フラグを復号すること、および該対応する有効係数グループフラグがゼロの場合、該有効係数フラグをゼロに設定することによってそのグループにおける該有効係数フラグを再構成することとを含む。
【００１０】
別の局面において、本願は、変換ユニットに対する有効係数フラグを符号化する方法を記述する。該方法は、有効係数フラグの各それぞれのグループに対してグループスキャン順序で、特殊ケースが当てはまらない場合、そのグループと対応する有効係数グループフラグを符号化することであって、その対応するグループが非ゼロの有効係数フラグを含まないことを示すために、該有効係数グループフラグは、ゼロに設定される、ことと、該対応する有効係数グループフラグが非ゼロの場合、そのグループ内のスキャン順序でそのグループにおける該有効係数フラグを符号化することとを含む。
【００１１】
一局面において、有効係数フラグの再構成は、例えばスキャン順序のような規定された順序で実行される。別の局面において、有効係数グループフラグの再構成は、規定された順序で実行され、この規定された順序は、例えばスキャン順序のような有効係数フラグの再構成に対して使用される規定された順序と同じものであり得る。
【００１２】
一局面において、対応するグループの中の全ての有効係数フラグがゼロである場合、有効係数グループフラグはゼロに設定される。別の局面において、対応するグループの中の少なくとも１つの有効係数フラグが非ゼロである場合、有効係数グループフラグは非ゼロである。別の局面において、たとえ対応するグループの中の全ての有効係数フラグがゼロである場合においても、特殊ケースが、非ゼロである有効係数グループフラグをもたらし得、そのケースにおいて、復号器は、ビットストリームからその対応するグループに対する全てのゼロ値の有効係数フラグを復号する。
【００１３】
さらなる局面において、本願は、このような符号化および復号の方法を実行するように構成された符号化器および復号器を記述する。
【００１４】
なおさらなる局面において、本願は、コンピュータ実行可能なプログラム命令を記憶する非一時的なコンピュータ読み取り可能媒体を記述し、この命令は、実行されたとき、記述された符号化および／または復号の方法を実行するようにプロセッサを構成する。
【００１５】
本願の他の局面および特徴は、当業者であれば、添付図面とともに実施例についての次の説明を検討することから理解するであろう。
【００１６】
例えば、本発明は、以下の項目を提供する。
（項目１）
符号化されたデータのビットストリームから変換ユニットに対する有効係数フラグを再構成する方法であって、該ビットストリームは、符号化された有効係数グループフラグを含み、各有効係数グループフラグは、有効係数フラグのそれぞれのグループと対応し、該方法は、
該有効係数フラグのそれぞれのグループの各々に対して、グループスキャン順序で、
そのグループと対応する有効係数グループフラグを再構成することと、
該対応する有効係数グループフラグが非ゼロである場合、そのグループ内のスキャン順序でビットストリームから該有効係数フラグを復号すること、および
該対応する有効係数グループフラグがゼロの場合、該有効係数フラグをゼロに設定することによって
そのグループにおける該有効係数フラグを再構成することと
を含む、方法。
（項目２）
上記グループスキャン順序は、上記有効係数フラグのそれぞれのグループが再構成される規定された順序である、上記項目のいずれか一項に記載の方法。
（項目３）
上記それぞれのグループのうちの次の１つの有効係数フラグは、上記グループスキャン順序においてより前の全てのグループの全ての有効係数フラグが、再構成された後にだけ再構成される、上記項目のいずれか一項に記載の方法。
（項目４）
上記それぞれのグループの再構成に対する上記規定された順序は、斜め方向の順序である、上記項目のいずれか一項に記載の方法。
（項目５）
上記スキャン順序は、上記グループの各々の内の有効係数フラグが再構成される規定された順序である、上記項目のいずれか一項に記載の方法。
（項目６）
上記グループの各々の内の有効係数フラグの上記規定された順序は、斜め方向の順序である、上記項目のいずれか一項に記載の方法。
（項目７）
上記有効係数グループフラグを再構成することは、該有効係数グループフラグのうちの少なくとも幾つかをビットストリームの上記符号化されたデータから復号することを含む、上記項目のいずれか一項に記載の方法。
（項目８）
上記有効係数フラグのそれぞれのグループは、最後の有効係数を含むグループおよび位置［０，０］を含むグループを除外する、上記項目のいずれか一項に記載の方法。
（項目９）
最後の有効係数に対する有効係数フラグを含むグループに対して、有効係数グループフラグを１に設定することをさらに含む、上記項目のいずれか一項に記載の方法。
（項目１０）
位置［０，０］における係数に対する有効係数フラグを含むグループに対して、有効係数グループフラグを１に設定することをさらに含む、上記項目のいずれか一項に記載の方法。
（項目１１）
上記グループは、連続する正方形ブロックである、上記項目のいずれか一項に記載の方法。
（項目１２）
各グループは、非正方形、長方形ブロックである、上記項目のいずれか一項に記載の方法。
（項目１３）
上記有効係数グループフラグのうちの１つを再構成することは、２つの隣りのグループに対して再構成された有効係数グループフラグに基づいてその有効係数グループフラグに対するコンテキストを決定することを含み、該２つの隣りグループは、右隣りと下隣りとを含み、該２つの隣りのグループに対する該有効係数フラグの両方が０である場合は、該コンテキストは０であり、そうではない場合は、コンテキストは１である、上記項目のいずれか一項に記載の方法。
（項目１４）
変換ユニットに対する有効係数フラグを再構成するために、符号化されたデータのビットストリームを復号する復号器であって、該復号器は、
プロセッサと、
メモリと、
復号アプリケーションであって、該復号アプリケーションは、該メモリに格納され、項目１〜１３のうちのいずれか一項に記載の方法を実行するために該プロセッサを構成するための命令を含む、復号アプリケーションと
を備えている、復号器。
（項目１５）
プロセッサ実行可能な命令を記憶する非一時的なプロセッサ読み取り可能媒体であって、該命令は、実行されると、項目１〜１３のうちのいずれか一項に記載の方法を実行するように１つ以上のプロセッサを構成する、非一時的なプロセッサ読み取り可能媒体。
（項目１６）
変換ユニットに対する有効係数フラグを符号化する方法であって、該方法は、
有効係数フラグの各それぞれのグループに対してグループスキャン順序で、
特殊ケースが当てはまらない場合、そのグループと対応する有効係数グループフラグを符号化することであって、その対応するグループが非ゼロの有効係数フラグを含まないことを示すために、該有効係数グループフラグは、ゼロに設定される、ことと、
該対応する有効係数グループフラグが非ゼロの場合、そのグループ内のスキャン順序でそのグループにおける該有効係数フラグを符号化することと
を含む、方法。
【００１７】
（摘要）
動画像データに対して符号化および復号する方法が記述され、その方法では、マルチレベル有効性写像が、符号化および復号プロセスにおいて使用される。有効性写像を形成する有効係数フラグは、連続するグループにグルーピングされ、有効係数グループフラグは、各グループに対して、そのグループが非ゼロの有効係数フラグを含まないか否かについて示す。マルチレベルスキャン順序が使用され得、有効係数フラグが、グループごとにスキャンされる。グループスキャン順序は、グループが処理される順序を特定し、スキャン順序は、そのグループ内の個々の有効係数フラグが処理される順序を特定する。ビットストリームは、有効係数グループフラグおよび、もし存在する場合は、それらと対応する有効係数フラグをインタリーブし得る。
【図面の簡単な説明】
【００１８】
ここで、例として、添付の図面を参照すると、図面は、本願の例示的な実施形態を示している。
【図１】図１は、動画像を符号化するための符号化器をブロック図形式で示している。
【図２】図２は、動画像を復号するための復号器をブロック図形式で示している。
【図３】図３は、量子化変換領域係数を含んでいる例示的な変換ユニットを示している。
【図４】図４は、図３の変換ユニットに対する有効係数フラグを含んでいる例示的な有効性写像を示している。
【図５】図５は、図４の有効性写像に対する有効係数グループフラグを含んでいる例示的なＬ１有効性写像を示している。
【図６】図６は、有効係数フラグを符号化する例示的な方法をフローチャート形式で示している。
【図７】図７は、符号化されたデータから有効性写像を再構成する例示的方法をフローチャート形式で示している。
【図８】図８は、有効係数グループフラグを復号および再構成する例示的なプロセスをフローチャート形式で示している。
【図９】図９は、マルチレベル有効性写像符号化のための例示的なレートひずみ最適量子化プロセスをフローチャート形式で示している。
【図１０】図１０は、Ｌ１ＲＤＯＱの適用後における図４の例示的なＬ０有効性写像を示している。
【図１１】図１１は、Ｌ１ＲＤＯＱの後における図１０のＬ０有効性写像に対応するＬ１有効性写像を示している。
【図１２】図１２は、符号化器の例示的実施形態の簡略ブロック図を示している。
【図１３】図１３は、復号器の例示的実施形態の簡略ブロック図を示している。
【図１４】図１４は、４ｘ４係数グループおよび順方向斜めスキャン順序による１６ｘ１６変換ユニットを示している。
【図１５】図１５は、４ｘ４係数グループを有する１６ｘ１６変換ユニットおよびグループベースのマルチレベル順方向斜めスキャン順序を示している。
【図１６】図１６は、有効性写像を復号するための例示的方法をフローチャート形式で示している。
【図１７】図１７は、マルチレベルスキャン順序によるマルチレベル有効性写像のＲＤＯＱ符号化に対する例示的なプロセスをフローチャート形式で示している。
【００１９】
類似した参照番号は、類似した構成要素を表示するために異なる図面において使用されている。
【発明を実施するための形態】
【００２０】
（例示的実施形態の説明）
後続の記述において、いくつかの例示的実施形態は、動画像符号化のためのＨ．２６４標準および／または開発中のＨＥＶＣ標準を参照して記述される。いわゆる当業者は、本願がＨ．２６４／ＡＶＣまたはＨＥＶＣに限定されず、可能性のある将来の標準、マルチ表示符号化標準、スケーラブルな動画像符号化標準、再変更可能な動画像符号化標準を含む他の動画像符号化／復号標準に適用され得ることを理解するであろう。
【００２１】
後続の記述において、動画像または画像に言及するとき、フレーム、ピクチャ、スライス、タイルおよび長方形スライスグループなる用語は、多少相互交換可能に使用され得る。いわゆる当業者は、Ｈ．２６４標準の場合、フレームが一つ以上のスライスを含み得ると認識する。また、その一定の符号化／復号動作が、適用できる画像または動画像符号化標準の特定の要件または専門用語に従って、フレーム毎、一部のものはピクチャ毎、一部のものはタイル毎、一部にものは長方形スライスグループ毎の方式で実行されることも認識されるであろう。任意の特定の実施形態において、適用できる画像または動画像符号化標準は、下記の一部の場合において、以下の記述の動作が、場合によって、フレームおよび／またはスライスおよび／またはピクチャおよび／またはタイルおよび／または長方形スライスグループと関連して実行されるか否かを決定し得る。従って、いわゆる当業者は、本開示に照らして、本明細書に記載の特定の動作または処理、およびフレーム、スライス、ピクチャ、タイル、長方形スライスグループへの特定の参照が、所与の実施形態に対して、フレーム、スライス、ピクチャ、タイル、長方形スライスグループ、またはこれらの一部またはすべてに適用可能であるか否かを認識するであろう。このことは、以下の記述に照らすと明らかになるように、伝送ユニット、符号化ユニット、符号化ユニットのグループなどにも当てはまる。
【００２２】
本願は、有効性写像を符号化および復号するための例示的なプロセスおよびデバイスについて記述する。有効性写像は、変換ユニットまたは係数の規定されたユニット（例えば、幾つかの変換ユニット、変換ユニットの一部分、または符号化ユニット）に写像するか、またはこれに対応するフラグのブロック、マトリックスまたはグループである。各フラグは、変換ユニットまたは特定のユニットにおける対応する位置が非ゼロ係数を含むか否かを示す。既存の標準において、これらのフラグは、有効係数フラグと呼ばれ得る。既存の標準においては、係数毎に１つのフラグが存在し、フラグは、対応する係数がゼロである場合、ゼロであり、対応する係数が非ゼロである場合、１に設定される１つのビットである。本明細書において使用されるような用語「有効性写像（ｓｉｇｎｉｆｉｃａｎｃｅ ｍａｐ）」は、以下の記述から理解されるように、変換ユニットに対する有効係数フラグのマトリックスまたは順序付きセットを指すか、または、係数の規定されたユニットを指すことが意図されているが、このことは、用途のコンテキストから明らかである。
【００２３】
本明細書に記述された例は、有効性写像に関するが、しかし、マルチレベル符号化および復号プロセスは、例えば、グループ構造を示し得る、係数レベル、フィルタ係数、および（二値化後の）運動ベクトルのような他の動画像におけるシンタックス要素に適用され得る。例えば、係数レベルの局所グループは、高い確立で全て１であり得る。同様に、運動ベクトルのローカルグループは、一つの方向において全てゼロ（例えば、ゼロ水平運動）であり得るか、または、一組のフィルタ係数は、隣接する周波数帯域において全てゼロであり得る。
【００２４】
また、マルチレベル符号化および復号構造は、特定の状況に適用され得るが、それらの状況は、動画像コンテンツタイプ（シーケンス、ピクチャ、またはスライスのヘッダにおいて識別されるナチュラル動画像またはグラフィック）のような副次的な情報から決定され得ることが、以下の記述に照らして理解される。例えば、２つのレベルが、ナチュラル動画像に対して使用され得、そして、３つのレベルが、（通常、よりまばらである）グラフィックに対して使用され得る。さらに別の可能性は、構造が、１つ、２つ、または３つのレベルを有するか否かを示すために、シーケンス、ピクチャ、またはスライスヘッダのうちの１つにフラグを提供し、それによって、現在のコンテンツに対して最も適切な構造を選択する柔軟性を符号化器に許すことである。
【００２５】
ここで、図１を参照すると、図１は、ブロック図の形式で、動画像を符号化するための符号化器１０を示している。図２をも参照すると、図２は、復号器５０が動画像を復号するためのブロック図を示している。本明細書に記載される符号化器１０および復号器５０は、各々、一つ以上の演算処理装置およびメモリを含む特定用途向けまたは汎用コンピュータに実装され得ることが認識されるであろう。一部の場合において、符号化器１０または復号器５０によって実行される動作は、例えば、特定用途向け集積回路として、またはメインプロセッサーによって実行可能な格納プログラム命令として実行され得る。デバイスは、例えば、ベースのデバイス機能を制御するためのオペレーティングシステムを含む付加的なソフトウェアを含み得る。符号化器１０または復号器５０が実装され得るデバイスおよびプラットフォームの範囲は、以下の記述に対する関心を有するいわゆる当業者に認識される。
【００２６】
符号化器１０は、動画像ソース１２を受信し、符号化されたビットストリーム１４を生成する。復号器５０は、符号化されたビットストリーム１４を受信し、復号された動画像フレーム１６を出力する。符号化器１０および復号器５０は、いくつかの動画像圧縮標準に準拠して動作するように構成され得る。例えば、符号化器１０および復号器５０は、Ｈ．２６４／ＡＶＣ対応であり得る。他の実施態様において、符号化器１０および復号器５０は、ＨＥＶＣのような、Ｈ．２６４／ＡＶＣ標準の進化を含む他の動画像圧縮標準に従い得る。
【００２７】
符号化器１０は、空間予測器２１、符号化モードセレクター２０、変換プロセッサ２２、量子化器２４、およびエントロピー符号化器２６を含む。当業者であれば認識するように、符号化モードセレクター２０は、動画像のための適切な符号化モード、例えば、対象のフレーム／スライスがＩ、ＰまたはＢタイプのいずれであるか、フレーム／スライス内の特定の符号化ユニット（例えば、マクロブロック）が、相互符号化または内部符号化のいずれがされているかを決定する。変換プロセッサ２２は、空間領域データに対する変換を実行する。特に、変換プロセッサ２２は、空間領域データをスペクトル成分に変えるために、ブロックベースの変換を適用する。例えば、多くの実施形態において、離散余弦変換（ＤＣＴ）が使用される。他の変換、例えば、離散正弦変換または他のものが、一部の例において使用され得る。ブロック方式の変換は、マクロブロックの大きさに従って、マクロブロックまたはサブブロック方式で実行される。Ｈ．２６４標準において、例えば、典型的な１６ｘ１６マクロブロックは１６個の４ｘ４変換ブロックを含み、ＤＣＴプロセスは４ｘ４ブロックに対して実行される。一部の場合において、変換ブロックは８ｘ８であり得、マクロブロック毎に４つの変換ブロックがあることを意味する。さらに別のケースにおいて、変換ブロックは、他の大きさであり得る。一部の場合において、１６ｘ１６のマクロブロックは、４ｘ４の変換ブロックと８ｘ８の変換ブロックとの非重複の組み合わせを含み得る。
【００２８】
ブロック方式の変換をブロックの画素データに適用すると、１セットの変換領域係数が生じる。この場合における「セット」とは、係数が係数位置を有する順序付けられたセットである。一部の例において、変換領域係数のセットは、係数の「ブロック」またはマトリックスと考えられ得る。本明細書における記述において、「変換領域係数のセット」または「変換領域係数のブロック」が、相互交換可能に使用され、変換領域係数の順序付けられたセットを示すことを意味する。
【００２９】
変換領域係数のセットは、量子化器２４によって量子化される。量子化された係数と関連情報はそれからエントロピー符号化器２６によって符号化される。
【００３０】
量子化変換領域係数のブロックまたはマトリクスは、本明細書において「変換ユニット」と呼ばれ得る。
【００３１】
内部符号化されたフレーム／スライス（例えば、タイプＩ）は、他のフレーム／スライスに関係なく符号化される。換言すると、それらは時間予測を使用しない。しかし、図１で例示されるように、内部符号化されたフレームは、空間予測器２１によって、フレーム／スライスの範囲内で空間予測による。すなわち、特定のブロックを符号化するとき、ブロック内のデータが、そのフレーム／スライスに対してすでに符号化されているブロック内の近傍の画素のデータと比較され得る。予測アルゴリズムを使用して、ブロックのソースデータは、残差データに変換され得る。変換プロセッサ２２は、次に残差データを符号化する。Ｈ．２６４は、例えば、９つの空間予測モードを４ｘ４変換ブロックに対して規定する。一部の実施形態において、９個のモードの各々が独立してブロックを処理するために用いられ得、次に、レートひずみ最適化がベストモードを選択するために使用される。
【００３２】
Ｈ．２６４標準は、また、時間予測を利用するために運動予測／補償の使用を規定する。したがって、符号化器１０は、逆量子化器２８、逆変換プロセッサ３０とデブロッキングプロセッサ３２を含むフィードバックループを有する。デブロッキングプロセッサ３２は、デブロッキングプロセッサとフィルタリングプロセッサを含み得る。これらの要素は、フレーム／スライスを再生するために復号器５０によって実装される復号プロセスをミラーリングする。フレーム記憶３４は、再生されたフレームを記憶するために用いられる。このように、運動予測は、元々のフレームではなく、復号器５０において再構成されるフレームとなるものに基づいており、元々のフレームは、それは符号化／復号に含まれる損失性圧縮に起因して、再構成されたフレームとは異なり得る。運動予測器３６は、類似のブロックを識別する目的で現在のフレームと比較するためのソースフレーム／スライスとしてフレーム記憶装置３４に記憶されるフレーム／スライスを使用する。したがって、運動予測が適用されるマクロブロックに対して、変換プロセッサ２２が符号化する「ソースデータ」は、運動予測プロセスの結果として生じる残差データである。例えば、残差データは、参照フレーム、空間変位または「運動ベクトル」、および参照ブロックと現在ブロックとの間の差（もしあれば）を表わす残差画素データに関する情報を含む。参照フレームおよび／または運動ベクトルに関する情報は、変換プロセッサ２２および／または量子化器２４によって処理されず、その代わりに、量子化された係数とともにビットストリームの一部として符号化するために、エントロピー符号化器２６に供給され得る。
【００３３】
当業者は、動画像符号化器を実装するための詳細および可能な変形を認識するであろう。
【００３４】
復号器５０は、エントロピー復号器５２、逆量子化器（ｄｅｑｕａｎｔｉｚｅｒ）５４、逆変換プロセッサ５６、空間補償器５７、およびデブロッキングプロセッサ６０を含む。デブロッキングプロセッサ６０はデブロックおよびフィルタリングプロセッサを含み得る。フレームバッファー５８は、運動補償を適用する際に運動補償器６２によって使用するための再構成フレームを供給する。空間補償器５７は、以前に復号されたブロックからの特定の内部符号化されたブロックに対する動画像データを回復する動作を示す。
【００３５】
ビットストリーム１４は、エントロピー復号器５２によって受信され、復号されることにより、量子化された係数を回復する。適用可能ならば、付随する情報が、また、エントロピー復号プロセスの際に回復され得、その一部は、運動補償における使用のために、運動補償ループに供給され得る。例えば、エントロピー復号器５２は、相互符号化されたマクロブロックに対する運動ベクトルおよび／または参照フレーム情報を回復し得る。
【００３６】
量子化された係数は、次に、逆量子化器５４によって逆量子化されて、変換領域係数を生成し、変換領域係数は、次に、逆変換プロセッサ５６によって逆変換され、「動画像データ」を再作成する。内部符号化されたマクロブロックまたは符号化ユニットに関するような一部の場合において、再作成された「動画像データ」は、フレーム内における以前に復号されたブロックに対する空間補償における使用のための残差データであると認められるであろう。空間補償器５７は、以前にデコードされたブロックからの残差データと画素データからの動画像データとを生み出す。相互符号化されたマクロブロックまたは符号化ユニットのような他の場合において、逆変換プロセッサ５６から再作成された「動画像データ」は、異なるフレームからの参照ブロックに対する運動補償において使用するための残差データである。空間補償および運動補償の両方は、本明細書において「予測動作」と称され得る。
【００３７】
運動補償器６２は、特定の相互符号化されたマクロブロックまたは符号化ユニットに対して、指定されたフレームバッファー５８内の参照ブロックを特定する。運動補償器６２は、相互符号化されたマクロブロックまたは符号化ユニットに対して指定された参照フレーム情報および運動ベクトルに基づいて参照ブロックを特定する。次に、運動補償器６２は、その符号化ユニット／マクロブロックのために再構成された動画像データに到達するために、残差データとの組み合わせのための参照ブロック画素データを供給する。
【００３８】
デブロッキングプロセッサ６０によって示されるように、デブロッキング／フィルタリングプロセスが、次に、再構成されたフレーム／スライスに適用され得る。デブロッキング／フィルタリングの後に、例えば、ディスプレイデバイスにおける表示のために、フレーム／スライスは、復号された動画像フレーム１６として出力される。例えば、コンピュータ、セットトップボックス、ＤＶＤまたはＢｌｕ−Ｒａｙプレーヤー、および／またはモバイル携帯デバイスなどの動画像再生装置が、出力装置に表示する前に、メモリの中に復号されたフレームをバッファリングし得ることが理解されるであろう。
【００３９】
ＨＥＶＣ対応の符号化器および復号器が、これらの同一または類似の特徴の多くを有することが予想される。
【００４０】
（有効性写像（Ｓｉｇｎｉｆｉｃａｎｃｅ ｍａｐ）符号化）
上記のように、量子化された変換領域係数のブロックまたはセットのエントロピー符号化は、その量子化された変換領域係数のブロックまたはセットのための有効性写像を符号化することを含む。有効性写像は、非ゼロの係数がどの位置（最後の位置以外の）に現れるかについて示しているブロックについてのバイナリ写像である。ブロックは、それが関連付けられている一定の特性を有し得る。例えば、それは、内部符号化されたスライスまたは相互符号化されたスライスに由来し得る。それは、輝度ブロックまたは彩度ブロックであり得る。スライスに対するＱＰ値は、スライス毎に変動し得る。全てのこれらの因子は、有効性写像をエントロピー符号化するための最良の方法に影響力を有し得る。
【００４１】
有効性写像は、（垂直、水平、斜め、ジグザグ、または適用可能な符号化標準によって規定された任意の他のスキャン順序であり得る）スキャン順序に従って、ベクトルに変換される。スキャンは、一般に、逆のスキャン順序で行われ、すなわち、最後の有効係数から始めて、逆方向に有効性写像を通って、［０，０］におけるフラグに到達するまで戻る。本記述において、用語「スキャン順序」は、フラグ、係数、または、場合によっては、グループが処理される順序を意味するように意図され、そして、いわゆる「逆スキャン順序」と称される順序を含み得る。
【００４２】
各々の有効性ビットは、次に、適用可能なコンテキスト適合性コード体系を使用してエントロピー符号化される。例えば、多くのアプリケーションにおいて、コンテキスト適合性バイナリ演算符号化（ＣＡＢＡＣ）スキームが使用され得る。他の実装は、二値化を伴う他のコンテキスト適合性コーデックを使用し得る。例は、バイナリ演算符号化（ＢＡＣ）、変数から変数への（Ｖ２Ｖ）符号化、および可変長から固定長への（Ｖ２Ｆ）符号化を含む。４ｘ４および８ｘ８の写像の場合、コンテキストが各ビット位置に対して割り当てられる。ビット（有効係数フラグ）をそのビット位置において符号化する場合、割り当てられたコンテキストおよびその時点までのコンテキストの履歴は、最小見込みのシンボル（ＬＰＳ）（または、一部の実装においては、最大見込みのシンボル（ＭＰＳ））の推定確率を決定する。
【００４３】
現在の動画像符号化器において、コンテキスト割当ては、符号化器および復号器の両方に対して予め定められる。例えば、４ｘ４の輝度ブロックの場合、現在のドラフトのＨＥＶＣ標準は、４ｘ４の有効性写像における各ビット位置が固有のコンテキストを有することを規定する。最後の位置を除いて、それは１５個のコンテキストが４ｘ４の輝度有効性写像の符号化のために追跡されることを意味する。各ビット位置に対して、その位置に割り当てられたコンテキストは、その位置におけるＬＰＳと関連する推定確率を決定する。実際のビット値は、次に、その推定確率を使用して符号化される。最後に、その位置に割り当てられるコンテキストは、実際のビット値に基づいて更新される。復号器において、符号化されたデータは、同じコンテキストモデルを使用して復号される。各ビット位置に対するコンテキストが追跡され、その位置に対するビットを回復するために、各ビット位置に対するコンテキストが符号化データに対する推定確率を決定するために使用される。
【００４４】
１６ｘ１６および３２ｘ３２の有効性写像に関して、有効性に対するコンテキストは、隣接する有効係数フラグ値に（主に）基づいている。１６ｘ１６および３２ｘ３２の有効性写像に対して使用される１３個のコンテキストの中で、［０，０］にあるビット位置および隣接するビット位置に専用の特定のコンテキストが存在するが、有効係数フラグの大部分は、隣接する有効係数フラグの累積値に依存する５個のコンテキストのうちの１つを採用する。これらの場合、有効係数フラグに対する適切なコンテキストの決定は、隣接する場所（一般的に５個の場所があるが、それより多いか少ない場合もあり得る）において、有効係数フラグの値を決定して、合計することに依存する。このことは、複数のメモリーアクセスを含み、それはメモリ帯域幅要件におけるコストがかかり得る。さらに、多くの場合、１６ｘ１６および３２ｘ３２の有効性写像は、多数のゼロを含む。したがって、ほとんど係数値を有しない大きい写像を符号化および送信することに含まれる相当なコストが存在する。
【００４５】
本願の１つの局面に従って、符号化器および復号器は、特定の変換ユニットに対するマルチレベル有効性写像を使用する。下記の例において、マルチレベル有効性写像が１６ｘ１６および３２ｘ３２の大きさの変換ユニットに対して使用されるが、しかしながら、それらは、一部の実施形態において、８ｘ８もしくは６４ｘ６４または他のサイズの変換ユニットに対して使用され得ることが理解されるであろう。
【００４６】
有効係数フラグはグルーピングされる。各有効係数フラグは、複数のグループのうちの１つに分類される。簡単にいえば、多くの実施形態において、グループは（概念的に）変換ユニット構造をブロックに分割または区画化することによって形成される。例えば、１６ｘ１６の写像は、係数位置のうちの１６個を各々が含んでいる４ｘ４のブロックに分割され得る。３２ｘ３２の写像は、係数位置のうちの６４個を各々が含んでいる８ｘ８のブロックに分割され得る。有効係数フラグは、それらがマトリックス構造の中に規定されるこれらのブロックに分類されるという方式で、このようにグルーピングされる。別の例において、１６ｘ１６の写像および３２ｘ３２の写像両方は、係数位置のうちの１６個を各々が含んでいる４ｘ４のブロックに分割され得る。
【００４７】
図３は、例示的な１６ｘ１６の変換ユニット１００（量子化変換領域係数のマトリクス）を示す。インデックス付与の目的で、変換ユニット内のビット位置は、［ｘＣ，ｙＣ］によって特定され得、この場合、ｘＣ＝０，１，２，．．．１５であり、ｙＣ＝０，１，２，．．．１５である。（例えば、）斜めスキャン順序を使用すると、この例における最後の有効係数は、参照番号１１２によって示されるように、［１２、１０］にあることに留意する。
【００４８】
ここで図４を参照すると、図４は、例示的な有効性写像１０２を示している。有効性写像１０２は、図４で示される例示的変換ユニットから生成される有効係数フラグを含む。有効係数フラグは、全てのビット位置において、［０，０］から、［１２、１０］における最後の有効性係数（ただし、これは除外する）までのスキャン順序で現れる。各ビット位置における有効係数フラグであって、それに対して非ゼロ係数が変換ユニット１００の中に存在する有効係数フラグは、１に設定され、一方、ゼロ係数が存在している各ビット位置における各有効係数フラグは、ゼロに設定される。
【００４９】
一実施形態において、有効性写像１０２（すなわち、有効係数フラグのセット）は、変換ユニット構造の連続ブロックへの均一な分割に基づいてグーピングされ得る。変換ユニットのサイズは、ブロックのサイズを決定し得る。１６ｘ１６の変換ユニットの場合、ブロックは、一部の実施形態において、４ｘ４であり得る。グルーピングは、４ｘ４のブロックの境界を定めている線によって、図４に図示されている。３２ｘ３２の変換ユニットのようなより大きな変換ユニットは、それの有効係数フラグが、４ｘ４のブロック、８ｘ８のブロックまたは他のサイズの連続ブロックにグルーピングされ得る。一実施形態において、４ｘ４の係数グループが、サイズ１６ｘ１６、４ｘ１６、１６ｘ４、８ｘ３２、３２ｘ８および３２ｘ３２の変換ユニットに対して使用される。
【００５０】
本明細書において挙げられる例は、簡単のために、連続する正方形ブロックとして規定されるが、本願は、正方形のグループに限定されない。グループは、一部の実施形態において、長方形のブロックとして形成され得る。さらに別の実施形態において、他の形状が使用され得る。例えば、斜めのスキャン順序の場合、変換ユニットの斜めのスライスから形成されるグループを使用することは有利であり得、この場合、グループの一部は、形状がいくぶん台形であり得る。例えば、長方形のグループが、水平スキャン順序または垂直スキャン順序に対して使用され得る。一例では、８ｘ８の変換ユニットに対しては、水平スキャンが使用される場合、２ｘ８の係数グループが使用され得、垂直スキャンが使用される場合、８ｘ２の係数グループが使用され得る。他の変形が、当業者によって理解される。
【００５１】
グループのマトリックスに対応しているより高レベルの有効性写像が、次に、生成され得る。より高レベルの有効性写像は、有効係数グループフラグの順序付けセットである。少なくとも１つの有効係数フラグを含む各グループに対して１つの有効係数グループフラグが存在する。最後の有効係数を含んでいるグループは、より高レベルの有効性写像の中に含まれる必要がなく、その理由は、それが少なくとも１つの非ゼロ係数、すなわち最後の有効係数を含むことがすでに知られているからである。有効性写像は、レベル０またはＬ０の写像と呼ばれ得る。より高レベルの有効性写像（すなわち、有効係数グループフラグを含む）は、レベル１またはＬ１の写像と呼ばれ得る。
【００５２】
図５は、図４に示された例示的有効性写像１０２に対応しているＬ１のより高レベルの有効性写像１０４を図示する。少なくとも１つの有効係数フラグを含む各グループに対して、Ｌ１写像１０４は、有効係数グループフラグを含むことが留意される。グループ内の有効係数フラグのうちの任意のものが非ゼロであるならば、有効係数グループフラグは１にセットされる。そうでなければ、フラグはゼロにセットされる。
【００５３】
グループのインデックス付与は、［ｘＣＧ，ｙＣＧ］によって特定され得、この例においては、ｘＣＧ＝０，１，２，３およびｙＣＧ＝０，１，２，３である。最後の有効係数を含んでいるグループは、［３，２］にある。［３，３］にあるグループは、有効係数フラグをなんら含まず、そのため、それはＬ１写像に含まれない。
【００５４】
有効係数グループフラグは、一部の実施形態において、スキャン順序でベクトル形式に変換され得る。スキャン順序は、概して変換ユニットとの使用に対して特定されたスキャン順序と同一であり得る。一実施形態において、有効係数グループフラグは、変換ユニットに対して選択されたスキャン順序と異なり得る予め規定されたスキャン順序を使用し得る。場合によっては、Ｌ１写像は、［０，０］のグループまたは最後の有効係数グループのような特定のグループを除外し得、特定のグループは、さらに以下において記述されるように，推定されたフラグ値を有する。
【００５５】
Ｌ１写像は、直接的にＬ０写像から導出される必要はなく、むしろ、スキャン順序で変換ユニットの係数をスキャンすることから導出されることが可能であろうことが認識されるであろう。
【００５６】
また、さらにより高レベルの写像が、一部の実施形態において使用され得ると認められる。例えば、変換ユニットが６４ｘ６４の変換ユニットであるならば、Ｌ１写像は、２５６個の４ｘ４のグループに変換ユニットを分割することに基づき得る。このように、Ｌ１写像は、Ｌ１グループフラグを含む１６ｘ１６の写像である。さらなるＬ２写像は、Ｌ１フラグを４ｘ４のブロック（それらの各々が、変換ユニットからの１６ｘ１６の係数のグループに対応する）のさらなるセットにグルーピングすることによって生成され得る。抽象化および／または粒度の追加のレベルが、他の実施形態において使用され得る。
【００５７】
ここで、図６を参照すると、図６は、フローチャート形式で、有効係数フラグを符号化するための例示的プロセス２００を示している。プロセス２００は、動作２０２で始まり、符号化器が、有効係数フラグおよび有効係数グループフラグおよびを決定する。一実施形態において、符号化器は、スキャン順序で変換ブロックをスキャンすることにより、最後の有効係数および有効係数フラグのセットを決定する。有効係数グループフラグは、同一スキャン中に決定され得る。（もっとも、スキャン順序は、複数のブロックを横断することを含み得るので、一定量の値のバッファリングが実用的な実装において使用され得る；場合によっては、符号化器が、それがそのグループに対する最後の係数、例えば、出口係数をスキャンしたことを決定したときに、有効係数グループフラグの決定がなされる）。一部の実装において、符号化器は、Ｌ０有効性写像、または変換ユニットのいずれかについて第２のスキャンを実行して、有効係数グループフラグを決定し得る。
【００５８】
動作２０４において、各有効係数グループフラグに対して、符号化器は使用すべきコンテキストを決定し、次に、決定されたコンテキストに基づいてその有効係数グループフラグをエントロピー符号化する。有効係数グループフラグは、規定された順序で処理され得る。一部の実施形態において、規定された順序は、変換ユニットに対するスキャン順序と同一である。コンテキストの数およびそれらの決定は、任意の好適な方法において構成され得る。例示的なコンテキストのセットおよび有効係数グループフラグに対してコンテキストを決定する方法が以下に記述される。
【００５９】
有効係数グループフラグのセットを符号化して、符号化器は、次に、有効係数フラグを符号化する。動作２０６において、符号化器（スキャン順序で作動している）は、有効係数グループフラグがそれに対して１に設定されるグループに分類される場合、各有効係数フラグのコンテキストを決定し、各有効係数フラグを符号化する。対応する有効係数グループフラグがゼロに設定されているならば、エントロピー符号化プロセスの間、そのグループの中の有効係数フラグは、なんら符号化されず、すなわち、それらはスキップされる。
【００６０】
したがって、プロセス２００の後において、符号化器は、符号化された有効係数グループフラグおよび符号化された有効係数フラグを含む符号化されたデータのビットストリームを生成しており、これらの符号化された有効係数グループフラグおよび符号化された有効係数フラグは、少なくとも１つの非ゼロ有効係数フラグを有するグループに分類される。ビットストリームは、少なくとも１つの非ゼロ有効係数フラグを有しないグループからの有効係数フラグは含まない。
【００６１】
復号器において、有効係数フラグは、ビットストリームの符号化されたデータから再構成される必要がある。ここで、図７を参照すると、図７は、フローチャート形式で、符号化されたデータのビットストリームから有効係数フラグを再構成するための例示的プロセス３００を示している。ビットストリームは、ネットワーク接続を介して受信されるか、すなわち、ストリームされるか、メモリ（例えば、フラッシュメモリーなど）、または格納ディスク（例えば、ＤＶＤ、ＢｌｕＲａｙＴＭ、ＣＤ−ＲＯＭなど）などのコンピュータ可読媒体から読み取られ得る。プロセス３０２は、復号器において変換ユニットを再構成するプロセスに適用される。（使用中の動画像符号化標準のシンタックスに応じた）シーケンス、および各スライスまたはピクチャの両方に対する、ヘッダ情報の復号は示されていない。
【００６２】
動作３０２において、最後の有効係数の位置が、ビットストリームから復号される。この情報は、任意の適用可能なシンタックスにおいて表され得る。一部の標準は、最後の有効係数がマトリックスノーテーション（例えば、変換ユニット内のｘおよびｙ基準の場所）を使用して特定されるべきことを規定し；一部の標準は、最後の有効係数が最後の有効係数位置に１つの１を有し他は０のベクトルを使用してシグナル伝達されるべきであって、この場合、ベクトルは、スキャン順序によって変換ユニットに写像されることを規定する。最後の有効係数を特定するために好適な任意のシンタックッスが、動作３０２において使用され得る。
【００６３】
動作３０４において、有効係数グループフラグは、ビットストリームから復号される。標準によって特定されるか、またはヘッダ情報において特定される任意の適用可能な二値化スキームを使用して、有効係数グループフラグは、既にエントロピー符号化されていることがあり得る。例えば、コンテキスト適合型２値算術符号化は、一部の例において使用され得る。有効係数グループフラグは、各フラグ位置（より高レベルの有効性写像、例えば、Ｌ１有効性写像のビット位置）に対してコンテキストを決定し、次に、ビットストリームからフラグ値を復号し、およびフラグ値に基づいてコンテキストを更新することによって復号される。スキャン順序が既知であり、最後の有効係数が動作３０２において識別されており；従って、Ｌ１有効性写像のサイズが決定されているで、有効係数グループフラグのセットのサイズは既知である。不均一区画化グループの場合、グループサイズおよび位置の好適なシグナル伝達は、シンタックスの中に提供され得る。
【００６４】
上記のように、各有効係数グループフラグは、変換ユニットに対して規定された連続するグループのうちのそれぞれの一つに対応する。一つ以上の有効係数フラグが、有効係数グループフラグを有しているこれらのグループの各々に分類される。したがって、各有効係数グループフラグは、有効係数フラグのそれぞれのグループに対応する。
【００６５】
有効係数グループフラグのセットを復号した後に、有効性写像、すなわち有効係数フラグのセットを再構成するための残りの動作が、規定されたスキャン順序で実行される。処理は最後の有効係数から始まる（しかしながら、非ゼロ係数を含むことが既に知られているので、その最後の有効係数位置を除外する）。動作３０５において、各有効係数フラグに対して、復号器はそれの対応する有効係数グループフラグがゼロであるか否かを決定する。対応する有効係数グループフラグが非ゼロであるならば、動作３０６によって示されるように、有効係数フラグはビットストリームから復号される。すなわち、関連または対応する有効係数グループフラグが、グループが少なくとも１つの非ゼロ係数を含み得ることを示すならば、復号器は、現在位置に対してビットストリームから有効係数フラグを復号する。
【００６６】
関連または対応する有効係数グループフラグがゼロであるならば、すなわち、非ゼロ係数がグループに存在しないことを示すならば、動作３０８によって示されるように、復号器はゼロとして現在の有効係数フラグをセットまたは再構成する。復号器は、ビットストリームからそれを復号しない。
【００６７】
動作３１０において、復号器は、自身がスキャン順序の終わり、すなわち、変換ユニットの左上の角の係数、例えば［０，０］に既に到達しているか否かを決定する。もしそうであるならば、プロセス３００は終了し；そうでなければ、復号器は、動作３１２において、スキャン順序で次の位置まで移動し、その次の位置に対する有効係数フラグを再構成するために動作３０６および３０８を繰り返す。
【００６８】
この実施形態において、スキャン順序は、次のグループへと移動する前に、グループの全ての有効係数フラグを再構成することを生じさせるわけではないことが理解されるであろう。むしろ、スキャン順序（スキャン順序およびグループの幾何学形状に従う）は、グループ境界を横断してスキャンし、その結果、復号器は、スキャン順序で［０，０］位置まで戻りながら、１つのグループから少数のフラグを、隣りのループから少数のフラグをなどのように再構成する。この問題を回避するスキャンプロセスが、さらに以下に記述される。
【００６９】
ビットを節約するために、符号化および復号プロセスにおいて考慮される特殊ケースが存在し得る。例えば、上記のように、最後の有効係数を含んでいるグループは、非ゼロ係数を示す有効係数グループフラグを常に有し、その結果、有効係数グループフラグは符号化されて復号器に送られる必要がない。符号化器は、そのグループに対する有効係数フラグを常に符号化し、復号器は、そのグループに対する有効係数フラグを常に復号するように構成される。
【００７０】
一部の実施形態に含まれ得る別の特殊ケースは、第１のグループを常に符号化、および復号する場合である。このグループは、変換ユニットの中の［０，０］においてＤＣ係数を含む。このグループが非ゼロ係数を含まない確率は、非常に低い。したがって、［０，０］のグループに対する有効係数グループフラグを送信する代わりに、符号化器は、そのグループの有効係数フラグを常に符号化するように構成され得、復号器は、そのグループの有効係数フラグを常に復号するように構成され得る。
【００７１】
一部の実施形態に実装され得るさらに別の特殊ケースも、確率に基づいている。特定のグループの右方のグループおよび下方のグループが両方とも非ゼロ係数を含む場合、特定のグループが非ゼロ係数を含む確率は非常に高いことに留意してきた。したがって、一部の実施形態において、符号化器および復号器は、両方が非ゼロ係数を含む右方の隣接グループおよび下方の隣接グループを有する任意のグループは非ゼロ係数を有すると推定し得る。このように、特定のグループに関して、右方のグループに対する有効係数グループフラグが１に設定され、かつ、下方のグループに対する有効係数グループフラグが１に設定されるならば、符号化器は、特定のグループに対して有効係数グループフラグを符号化せず、常に特定のグループに対する有効係数フラグを符号化する。復号器は、右方および下方の隣りが、非ゼロ係数を示す有効係数グループフラグを有することを認識し、そこで、復号器は、特定のグループが非ゼロ係数を有すると自動的に仮定するであろうし、および、復号器は、有効係数フラグを復号するであろう。
【００７２】
ここで、図８を参照すると、図８は、上記の特殊ケースの取扱いについての例示的実施形態を反映するための付加的な詳細を有する図７からの動作３０４を示している。動作３０４は、動作３０４−１を含み、動作３０４−１において、最後の有効係数を含むグループに対する有効係数グループフラグが１に設定される。最後の有効係数の位置は、以前の動作においてビットストリームから復号される（図示されず）。
【００７３】
復号器は、次に、スキャン順序でグループを通って移動する。動作３０４−２において示されているように、復号器は、スキャン順序で、最後の有効係数を含んでいるグループから次のグループまで移動する。このグループに対して、復号器は、現在のグループの右方のグループに対する有効係数グループフラグおよび現在のグループの下方のグループに対する有効係数グループフラグが、１に等しいか否かを評価する。最初、ちょうど始まったばかりなので、復号器は、右方および下方へのフラグを有しないが、スキャン順序（水平であるか、垂直であるか、斜めであるかに関係なく）において後になると、復号器は、ときとして、現在のグループに関するこれらの位置における有効係数グループフラグを再構成し終わっていることがあり得る（変換ユニットのボトムエッジに位置するグループに対して、復号器は下方のグループに対するフラグを決して有さない）。それらの２つの隣接したグループが１に設定されていると、現在のグループも１に設定されている確率は、符号化器および復号器の両方が、それが１に設定されていることを推定するほどに十分に高い。したがって、動作３０４−６において、特殊ケース条件が満たされるならば、復号器は有効係数グループフラグを１に設定する。そうでなければ、復号器は、動作３０４−４に移動する。別の実施形態において、この特殊ケースは、他の隣接したグループ、または全く他のグループの有効係数グループフラグに基づいて修正され得る。
【００７４】
動作３０４−４において、復号器は、ビットストリームから現在のグループに対する有効係数グループフラグを復号する。復号は、コンテキストを決定すること、次に、決定されたコンテキストに従って復号することを含む。復号は、２値算術符号化（ＢＡＣ）、または、他の２値化符号化／復号プロセスに基づき得る。
【００７５】
動作３０４−５において、復号器は、これがスキャン順序における最後の１つ前のグループであるか否かを決定する。そうでなければ、復号は未だ完了しておらず、そのため、復号器は、スキャン順序において次のグループに進むために、動作３０４−２まで回帰する。それが、スキャン順序における最後の１つ前のグループであるならば、復号器は、動作３０４−７まで移動し、動作３０４−７において、復号は、最後のグループ、すなわち、グループ［０，０］に対して有効係数グループフラグを１に設定する。このことは、復号器および符号化器によって、その特定のグループが常に、少なくとも１つの非ゼロ係数を有すると推定される特殊ケースに基づいており、そのため、有効係数グループフラグは、常に１にプリセットされ、その結果、そのグループに対する有効係数フラグは、常に符号化および復号される。この動作の後に、復号器は、動作３０６または３０８に移動する（図７）。
【００７６】
上記の例示的プロセスは、図７および図８において、Ｌ１有効性写像（有効係数グループフラグ）の復号、およびＬ０有効性写像（有効係数フラグ）の復号を２段階プロセスとして記述し、このプロセスにおいて、Ｌ１有効性写像が完全に復号され、次に、Ｌ０有効性写像が復号されることが理解される。一部の実施形態において、このことは、事実であり得る。しかしながら、一部の他の実施形態においては、復号プロセスは、部分的に絡み合っているかもしれない。すなわち、Ｌ１写像が完全に復号される前に、Ｌ０写像の復号は始まり得る。一部の実施形態においては、第１の有効係数グループフラグが再構成されるとすぐに、Ｌ０の有効性写像の復号が開始し得ることが理解されるであろう。
【００７７】
一部の実施形態において、マルチレベル有効性写像符号化は、例えば、ピクチャ種別に従ってオン／オフされ得る。例えば、多重レベル有効性写像符号化は、ＩピクチャおよびＰピクチャに対して有効化され得るが、Ｂピクチャに対しては無効化され得る。
【００７８】
（マルチレベルスキャン順序）
以上概略述べられたように、係数グループが上の例において示されるように形成されるとき、すなわち、連続ブロックで形成されるとき、（垂直、水平、または斜め）スキャン順序は、有効係数フラグをスキャンするとき、グループの境界を横断することを結果として生じる。これは、ハードウェア実装の観点から符号化および復号における困難性を引き起こし得る。なぜならば、ワンパススキャン（ｏｎｅ−ｐａｓｓ ｓｃａｎ）を実行するために、データの有意なバッファリングが、部分的に復号されたグループの有効係数フラグを追跡するために必要とされ得るからである。そうでなければ、Ｌ１写像のフラグに対する１回のスキャン順序パスおよびＬ０写像に対する１回のスキャン順序パスというように、２回（以上）スキャンすることが必要であり得る。ワンパススキャニングプロセスを実行することならびにメモリおよび計算の複雑性の問題の幾つかを回避することに対する１つの選択肢は、グループベースまたはマルチレベルスキャニング順序を使用することである。
【００７９】
ここで図１４を参照すると、例示的１６ｘ１６変換ユニット６００が示されている。有効性写像符号化のコンテキストにおいて、例示的１６ｘ１６変換ユニット６００は、１６の係数グループを含み、各係数グループは、有効係数フラグの４ｘ４ブロックである。斜めのスキャン順序が、図１４に示される。スキャン順序は、［１５，１５］における有効係数フラグから始まり、そして、斜めのスキャンが、右下［１５，１５］から左上［０，０］へ変換ユニット６００を横断しながら、右上から左下へ走る。上で論議されたように、有効性写像符号化プロセスは、最後の有効係数から始まるスキャン順序を使用する。
【００８０】
スキャニング順序が、係数グループ境界を横切ることに注目される。例えば、それぞれ、参照番号６１０、６１２、および６１４によって示されている、［１０，１２］、［１１，１１］および［１２，１０］における有効係数フラグに注目されたい。スキャン順序において、符号化器および復号器は、位置［１２，１０］において有効係数フラグ６１４と最初に遭遇する。スキャン順序は次に、位置［１１，１１］において有効係数フラグ６１２と遭遇し、有効係数フラグ６１２は、その係数グループにおける第１の有効係数フラグである。次に、スキャン順序が、位置［１０，１２］における有効係数フラグ６１０に到達するとき、スキャン順序は、別の係数グループの中に横断して入る。
【００８１】
符号化器側において、係数グループ境界をこのように頻繁に横断することは、様々な係数グループにおける有効係数フラグの値を追跡するために、スキャニングプロセス中に有意なバッファリングを結果として生じ得ることが理解され、そして、係数グループに対する有効係数グループフラグに関する決定は、グループにおける最後（左上）の有効係数フラグが、スキャン順序において到達されるまで待つ必要があり得ることが理解される。ワンパススキャンで変換ユニット６００全体を処理するために、符号化器は、過度のメモリアクセス動作を回避するために何らかの複雑なバッファリングを必要とし得る。係数グループ境界を頻繁に横断することは、レート歪み最適量子化（ＲＤＯＱ）、すなわち、軟判定量子化（ＳＤＱ）に対する特定の複雑化を引き起こす。ＲＤＯＱ／ＳＤＱ決定をなすとき、符号化と関連付けられたレートコストを追跡することは、有意により複雑となる。復号器側において、復号器が、スキャン順序で様々なグループを横断して有効係数フラグを再構成するとき、復号器も、様々なグループに対する既に復号された有効係数グループフラグを追跡するためにバッファリングを必要とし得る。これは、復号器において、より大きなメモリ／バッファ要件を結果として生じる。
【００８２】
従って、一実施形態において、符号化および復号プロセスは、マルチレベルスキャニング順序を使用し得る。ここで、図１５を参照すると、図１５は、図１４の変換ユニット６００を示し、マルチレベル斜めスキャン順序が示されている。変換ユニット６００全体にわたるのではなく、各係数グループ内において、斜めのスキャン順序が、グループレベルで適用される。係数グループ自体が、スキャン順序で処理され、その実行も、この例において、斜めのスキャン順序である。
【００８３】
斜めは１つの選択肢であり、他の実施形態においては、係数グループ内においておよび／またはグループレベルで係数グループの処理を順序付けるために、水平、垂直、ジグザグ、または他のスキャン順序が適用され得ることが理解される。
【００８４】
グループベースのスキャニング順序またはマルチレベルスキャニング順序を使用して、有効係数フラグの各グループが、順に符号化および復号される。つまり、有効係数フラグの次のグループの符号化／復号は、現在のグループの符号化／復号が一旦完了したときにだけ始まる。例えば、斜めのグループスキャン順序を使用して、位置［１２，１０］において有効係数フラグ６１４を含む有効係数フラグのグループ全体が復号され、その後に復号器は、位置［１０，１２］において有効係数フラグ６１０を含む有効係数フラグのグループを復号し始める。同様に、これら両方のグループが完全に復号され、その後に復号器は、位置［１１，１１］において有効係数フラグ６１２を含むグループを復号し始める。これは、符号化器／復号器が、１回のパスでマルチレベル有効性写像をより容易に処理することを許す。なぜならば、係数グループの有効係数フラグは全て、グループ内でのスキャン順序で、順次処理されるからである。
【００８５】
有利なことに、マルチレベルスキャニング順序またはグループベースのスキャンイング順序は、有効係数グループフラグをビットストリーム内にインタリーブすることをさらに容易にする。各係数グループが、スキャン順序で処理されるにつれ、符号化器は、ビットストリームに有効係数グループフラグを書き込み得、そして次に、有効係数グループフラグが非ゼロの場合に、その係数グループに対して有効係数フラグを挿入し得る。復号器において、復号器は、有効係数グループフラグをビットストリームから復号し、非ゼロの場合、次に復号器は、グループ内でのスキャン順序でそのグループに対する有効係数フラグを復号する。有効係数グループフラグがゼロである場合、複合器は、そのグループに対するすべての有効係数フラグをゼロに設定して、そして、次の有効係数グループフラグをビットストリームから復号する。このようにして、復号器は、グループスキャン順序でグループごとに有効性写像を再構成する。
【００８６】
グループ内で使用されるスキャン順序は、グループからグループへと進行するために使用されるグループスキャン順序と必ずしも対応する必要はないことが理解される。例えば、グループ内では斜めのスキャン順序が使用され得、一方、グループの処理は、水平グループスキャン順序で実行される。
【００８７】
本明細書に記述されたマルチレベルスキャン順序は、マルチレベル有効性写像に対して使用される係数グルーピングと整合するが、しかし、より一般的な場合において、マルチレベルスキャン順序またはグループベースのスキャン順序は、有効係数フラグのグループと必ずしも対応しないブロックの中で組織され得ることは理解される。例えば、図１４および図１５を参照すると、斜めのスキャン順序を各４ｘ４の係数グループに適用する代わりに、別の例示的実装において、スキャン順序の目的でのグルーピングまたはブロッキングは、８ｘ８のブロックを使用し得る。換言すると、この例において、斜めのスキャン順序が、４つの８ｘ８のブロックに適用される。マルチレベルスキャン順序に対して使用されるグルーピングとマルチレベル有効性写像において使用される係数グループとの間に不整合が存在する場合、符号化器／復号器は必ずしも、次のグループに移動する前に、各グループを完全には処理しないことに注目されたい。
【００８８】
図１６をここで参照すると、図１６は、マルチレベルスキャン順序を使用してマルチレベル有効性写像を復号するための例示的方法７００を示す。方法７００は、符号化されたデータのビットストリームから有効係数フラグを再構成するための例示的なプロセスである。符号化されたデータのビットストリームは、符号化された有効係数グループフラグを含む。各有効係数グループフラグは、それぞれの有効係数フラグのグループと対応する。スキャン順序において、ビットストリームにおける各非ゼロ有効係数グループフラグの後には、それぞれのグループの有効係数フラグが従う。
【００８９】
方法７００は、動作７０２において、ビットストリームから最後の有効係数の位置を復号することから始まる。既に述べられたように、最後の有効係数の位置は、多くの方法のうちの任意の１つで示され得る。一旦最後の有効係数の位置が知られると、次に動作７０４において、復号器は、最後の有効係数を含む係数グループ内の有効係数に対する有効係数フラグをビットストリームから復号する。動作７０４における復号は、係数グループ内のスキャン順序（このスキャン順序は、斜め、垂直、水平、その他であり得る）で実行され、最後の有効係数位置の後の有効係数位置から始まり、スキャン順序で左上の係数に向かって戻る。
【００９０】
動作７０６において、グループスキャン順序を参照して、（ＣＧとインデックスが付けられた）現在の有効係数グループは、最後の有効係数を含むグループの後のグループであるように設定される。グループスキャン順序は、係数グループが復号される順序であり、最後の有効係数を含むグループの後のグループから始まり、変換ユニットにおける左上のグループ（位置［０，０］においてＤＣ係数を含むグループ）に向かってグループスキャン順序で戻る。グループスキャン順序は、垂直、水平、斜め、その他であり得る。
【００９１】
動作７０８において、復号器は、（ＣＧとインデックスが付けられた）現在の係数グループに対する有効係数グループフラグを再構成する。特殊な場合が当てはまるのでなければ、この再構成は、ビットストリームから有効係数グループフラグを復号することを含む。例えば、１つの例示的な特殊な場合は、現在の係数グループの右のグループおよび現在の係数グループの下のグループに対する有効係数グループフラグが、両方とも非ゼロであるときである。この状況においては、有効係数グループフラグは、デフォルトにより非ゼロと推測され得る。
【００９２】
動作７１０によって示されるように、再構成された有効係数グループフラグがゼロの場合、次の動作７１２において、対応する係数グループの有効係数フラグは全てゼロに設定される。再構成された有効係数グループフラグが非ゼロの場合、次の動作７１４において、対応する係数グループの有効係数フラグは、そのグループ内のスキャン順序でビットストリームから復号される。
【００９３】
一旦、動作７１２または７１４のいずれかで現在の係数グループのすべての有効係数フラグが再構成されると、次の動作７１６において、ＣＧインデックスが減ぜられて、グループスキャン順序で次の係数グループへ移動する。動作７１８において、グループスキャン順序で次の係数グループがＣＧ＞０である場合、すなわち、このグループが、［０，０］においてＤＣ係数を含む左上のグループではない場合、プロセスは、動作７０８に戻り、次の係数グループの有効係数を完全に再構成する。しかしながら、ＣＧ＝０の場合、方法７００は、動作７２０へ進み、動作７２０において、左上係数グループの有効係数フラグが、ビットストリームから復号される。この例示的実施形態において、左上係数グループの有効係数フラグは、常にビットストリームにおいて符号化され、従って、復号器は、この係数グループに対する有効係数グループフラグは、事実上常に非ゼロであると推測する。
【００９４】
（コンテキスト−モデリング）
符号化効率を改善するために、ＢＡＣエンジン（または、他のエントロピー符号化／復号エンジン）は、コンテキストを使用する。本願は、有効係数グループフラグを符号化することに対して、４つの新しいコンテキストを使用することを提案する。２つのコンテキストは、輝度の符号化／復号に対するものであり、２つは彩度の符号化／復号に対するものである。
【００９５】
２つのコンテキストのうちどちらが所与の有効係数グループフラグに適用されるかを決定することが次のように生じる。現在のグループの右方に隣接したグループに対する有効係数グループフラグがゼロであり、現在のグループの下方に隣接したグループに対する有効係数グループフラグがゼロであるならば、現在のグループの有効係数グループフラグを符号化することに対するコンテキストは、０である。そうでなければ、コンテキストは１である。それらの２つの隣接したグループに対するフラグが利用できない場合、利用できないフラグは、コンテキスト決定の目的のために０と推定される。
【００９６】
（例えば、左上から右下に向かうような）異なるスキャン順序の方向が使用される場合、コンテキストを決定するために、コンテキストモデルが、現在のグループの左方に隣接したグループに対する有効係数グループフラグ、および現在のグループより上方に隣接したグループに対する有効係数グループフラグを使用するように変更されることができることに留意されたい。
【００９７】
コンテキスト決定プロセスは、また、特殊ケースを含み得る。例えば、左上グループは、常にコンテキスト１を割り当てられ得る。
【００９８】
他の可能なコンテキストモデルおよび使用され得るコンテキストを決定する方法が存在する。いくつかの例が以下に示される。
【００９９】
記号を定義すると、Ｌ［ｉ］は、レベルＬでの係数グループｉの有効性フラグを表示し、Ｎは、レベルＬでの係数グループの数を表示する。一般に、所与のＬおよび係数グループｉについて、Ｌ［ｉ］に対するコンテキストＣ＿ｉを決定するために、ｉおよび全ての利用可能なＬ［ｊ］の関数ｃ（＊）を使用する。従って、コンテキストは、
Ｃ＿ｉ＝ｃ（ｉ，Ｌ［０］，Ｌ［１］，．．．Ｌ［Ｎ−１］）
によって与えられ、ここで、ｊ！＝ｉである。Ｌ［ｉ］に対するコンテキストを決定するためにＬ［ｊ］を使用するには、Ｌ［ｊ］自体が利用可能でなければならないことに留意されたい。従って、選択されるスキャン順序は、ｃ（＊）において使用される任意のＬ［ｊ］が以前に決定されていることを保証しなければならない。
【０１００】
上記のコンテキスト決定モードと類似の実施形態において、コンテキストは、
Ｃ＿ｉ＝ｃ（ｉ，Ｌ０［０］，Ｌ０［１］，．．．，Ｌ０［１５］）
＝ｓｕｍ｛ｂｊ＊Ｌ０［ｊ］｝
によって決定され得、ここで、ｊ＝０，１，．．．，Ｎ、およびｊ！＝ｉであり、係数グループｊが係数グループｉの右方または下方の隣である場合、ｂｊ＝１であり、そうでない場合、ｂｊ＝０である。この特定の実施形態は、３個のコンテキストを有する（別の３つのコンテキストが彩度に対して使用される場合には、６個である）。
【０１０１】
ｃ（＊）の別の実施形態は、
Ｃ＿ｉ＝ｃ（ｉ，Ｌ［０］，Ｌ［１］，．．．，Ｌ［Ｎ−１］）
＝ｓｕｍ｛ｂｊ＊Ｌ［ｊ］｝
によって与えられ、ここで、ｊ＝０，１，．．．，Ｎ、およびｊ！＝ｉであり、係数グループｊが既に決定されているｉの任意の隣接した係数グループである場合には、ｂｊは非ゼロであり、そうでない場合は、ｂｊ＝０である。この実施形態において、重み係数ｂｊは、必ずしも定数ではないことがあり得る。
【０１０２】
ｃ（＊）の別の実施形態は、Ｌにおける他の係数グループの有効係数グループフラグを無視し、現在の係数グループの位置ｉにのみ基づいてコンテキストを決定する。これは、
Ｃ＿ｉ＝ｃ（ｉ，Ｌ［０］，Ｌ［１］，．．．，Ｌ［Ｎ−１］）
＝ｉ
と表され得る。
【０１０３】
他のコンテキストモデルおよびコンテキストを決定するプロセスが、マルチレベル有効性写像に対して使用される。
【０１０４】
以下に、上に論議された２コンテキスト実施形態に対する例示的なシンタックスが与えられる。この例において、入力を現在の係数グループスキャン位置（ｘＣＧ，ｙＣＧ）、およびシンタックス要素ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇの既に復号されたビン（ｂｉｎ）であると考慮されたい。このプロセスの出力は、ｃｔｘＩｄｘＩｎｃである。この例においては、変換ユニットは、１６の連続ブロックに分割されて、係数グループを形成したと推測される。例えば、１６ｘ１６ＴＵは、４ｘ４のブロックに分割され、そして、３２ｘ３２ＴＵは、８ｘ８のブロックに分割される。別の例においては、変換ユニットは、４ｘ４のブロックまたは他のサイズのブロックに分割され得る。
【０１０５】
可変ｃｔｘＩｄｘＩｎｃは、現在の位置（ｘＣＧ，ｙＣＧ）、およびシンタックス要素ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇの既に復号されたビンに依存する。ｃｔｘＩｄｘＩｎｃの導出に対しては、以下が適用される。
【０１０６】
ｘＣＧが３に等しく、そしてｙＣＧが３に等しい場合、ｃｔｘＩｄｘＩｎｃは、デフォルトコンテキスト値と等しいように設定される。この例示的実施形態において、デフォルト値は、ｃｔｘＩｄｘＩｎｃ＝４４である。他の実施形態において、デフォルト値は、０を含む別の値であり得る。
【０１０７】
ｘＣＧが３より小さく、そしてｙＣＧが３に等しい場合、ｃｔｘＩｄｘIｎｃは、ｃｔｘＩｄｘＩｎｃ＝４４＋ｓｉｇｎｉｆｉｃａｎｔ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣＧ＋１］［ｙＣＧ］として設定される。
【０１０８】
ｘＣＧが３に等しく、そしてｙＣＧが３より小さい場合、ｃｔｘＩｄｘIｎｃは、ｃｔｘＩｄｘＩｎｃ＝４４＋ｓｉｇｎｉｆｉｃａｎｔ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ＋１］として設定される。
【０１０９】
ｘＳＢが３より小さく、そして、ｙＳＢが３より小さい場合、ｃｔｘＩｄｘＩｎｃは、ｃｔｘＩｄｘＩｎｃ＝４４＋ｍａｘ｛ｓｉｇｎｉｆｉｃａｎｔ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣＧ＋１］［ｙＣＧ］，ｓｉｇｎｉｆｉｃａｎｔ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ＋１］｝として設定される。
【０１１０】
上の式における値４４は、デフォルトインデックス値の一例である。０を含む他の値が、他の実施形態において使用され得る。
（レートひずみ最適量子化）
一部の符号化プロセスは、レートひずみ最適量子化（ＲＤＯＱ）、または、ときには、「ソフト量子化（ｓｏｆｔ−ｑｕａｎｔｉｚａｔｉｏｎ）」と呼ばれるものを使用する。ＲＤＯＱは、レートひずみ最適化表現に基づいて最適な量子化変換領域係数を決定するプロセスである。したがって、ＲＤＯＱから生じる量子化変換領域係数は、通常の変換および量子化プロセスを介して到達された量子化変換領域係数と同一であることも、同一でないこともあり得る。一部の場合において、結果として生じるひずみが、それに伴う送信コストの節減よりもコスト的により低いことが決定され、係数値は、ＲＤＯＱプロセスによって修正され得る。
【０１１１】
ＲＤＯＱプロセスは、レート成分を決定する際に、通常、４つのコストを評価する。４つのレートコストは、最後の位置レート、有効性レート（Ｌ０レート）、係数レート、およびコード化されたブロックパラメータ（ＣＢＰ）レートを含む。マルチレベル有効性写像を実装するために、また、ＲＤＯＱ計算においてより高レベルの有効性レート（例えば、Ｌ１レート）をも含むように、ＲＤＯＱを修正することが有利であり得る。
【０１１２】
一実施形態において、ＲＤＯＱプロセスは、有効性写像に関して二段階のＲＤＯＱを実行するように修正され得る。最初に、ＲＤＯＱプロセスが、最良の最後の位置および係数値、従って、Ｌ１有効係数フラグを決定するために適用される。第二段階において、最後の位置が固定され、ＲＤＯＱプロセスが、次に、Ｌ１レートに関して再び適用されて、任意の係数をゼロにすることに対するレートひずみ（ＲＤ）コスト調整があるか否かを決定し得る。
【０１１３】
図９は、フローチャート方式で、マルチレベル有効性写像の符号化に対する例示的ＲＤＯＱプロセス４００を示している。プロセス４００は、ＲＤＯＱを使用することにより、最適な量子化変換係数を得るとともに、最後の有効係数、すなわちＬ０ＲＤＯＱの位置を決定する。プロセス４００は、次に、最後の位置を固定し、現在のＲＤコストを調節することにより、有効性写像の追加レベルの効果を考慮に入れる。次に、貪欲な（ｇｒｅｅｄｙ）アプローチを使用して、さらに変換係数を最適化する。
【０１１４】
動作４０２は、最適な量子化変換領域係数を得るために、最後の有効係数位置を提供するＲＤＯＱの使用を表わす。動作４０２は、最後の位置、最適係数に対応している有効性写像、係数値、およびＣＢＰを送信することに対するレートに基づく特定のＲＤコストをもたらす。
【０１１５】
動作４０４において、最後の有効位置が固定される。すなわち、最後のグループは、非ゼロ係数を含み、すなわち、最後の有効係数グループフラグが１に固定される。符号化器が、次に、コスト節減が他のグループにおける係数をゼロにすることによって見つかるか否かを貪欲に決定する。一部の実施形態において、プロセス４００がスキャン順序で実行され得るが、別の順序でも処理されることが可能である。
【０１１６】
動作４０６において、現在のグループとして最後の１つ前のグループから始めて、符号化器は、現在のグループが１に等しい有効係数グループフラグを有するか否かを決定する。１に等しくない場合、グループはすでにゼロだけを含んでおり、符号化器は次のグループにスキップする。有効係数グループフラグ＝１ならば、符号化器は、現在のグループの全ての係数がゼロである場合にもたらされるであろうＲＤコストを計算する。動作４０８において、符号化器は、新たに計算されたＲＤコストが現在のＲＤコストよりもより良好であるか（すなわち、より低い）否か評価する。もしそうであれば、動作４１０において、現在のグループの全ての係数がゼロにされ、現在のＲＤコストが変化を反映するために更新される。動作４１２において、符号化器は、それがＬ１ＲＤＯＱに関し、実行されたか否か、すなわち、それが［０，０］グループの直前のグループに到達したか否かを評価する（上記の特殊ケースにおいて概説されたように、少なくとも１つの非ゼロ係数がそのグループの中に存在すること推定するように符号化器および復号器が、構成される場合、［０，０］グループはゼロにされない）。評価すべきさらなるグループが存在する場合、プロセス４００は、動作４１４において、継続し、この場合、符号化器は次のグループに移動する（一部の実施形態においては、スキャン順序を使用する）。
【０１１７】
ここで、ＲＤＯＱプロセスが実施例として図示される。図３、４および５に関連する上記の実施例を再び参照する。Ｌ１ＲＤＯＱの前、かつＬ０ＲＤＯＱ後の最適な量子化変換領域係数が図３に示される。対応するＬ０有効性写像が図４で示され、Ｌ１有効性写像が図５に示される。
【０１１８】
Ｌ１ＲＤＯＱプロセスは、例えば、図１０に示される最適化されたＬ０有効性写像５００、図１１に示される関連または対応するＬ１有効性写像５０２をもたらし得る。
【０１１９】
最後の有効グループ、すなわち［３，２］グループにおける有効係数フラグが不変であることに留意する。しかしながら、［３，０］グループ、［０，３］グループ、および［１，３］グループは、すべてゼロにされた。その結果、図１１に示すように、これらの３つのグループに対して対応する有効係数グループフラグは、同様にゼロに変更された。結果は、符号化器がこれらの３つのグループを符号化する必要はないであろうということである。それらのグループの中に見られた少しの係数をゼロにすることから生じるひずみより、ＲＤＯＱ評価によって決定されるように、符号化されたビットの数を低減することにおけるコスト削減に重きが置かれている。
【０１２０】
一つの可能な実施形態において、ＲＤＯＱプロセスは、現在のＴＵに対する最適な係数グループサイズを決定するために拡張されることができる。この実施形態において、プロセス４００は複数回、繰り返され、各回は異なる係数グループサイズをとり、動作４１０は、変換係数が実際には０に設定されないように修正される。実質的に、各回において、この修正されたＲＤＯＱプロセスは、特定の係数グループサイズに対してＲＤコストを計算する。全ての回が完了した後に、ＲＤＯＱは最少のＲＤコストを与える係数グループサイズを選択し、最後に、任意の変換係数を要求どおりに０に設定する。符号化器は、最適係数グループサイズの値をビットストリームの中に符号化することにより、その値は、復号器によって獲得され、使用されることができる。
【０１２１】
テストされる係数グループサイズは、変換ユニットサイズに基づき得る。例えば、３２ｘ３２の変換ユニットは、グループサイズ８ｘ８、４ｘ４および２ｘ２をテストし得る。テストされるグループが選択可能であり得、符号化器は、いくらのグループサイズが各変換ユニットサイズに対するテストであるかについて示し得る（例えば、シーケンスヘッダーの中に）。例えば、符号化器および復号器が１６ｘ１６のＴＵに対するテストに同意したと仮定すると、修正されたＲＤＯＱは、２つの異なる係数グループサイズ：それぞれ１および０によって表示される４ｘ４および２ｘ２をテストする。修正されたＲＤＯＱが２ｘ２が最適であると決定すると、符号化器は、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｉｃｉｅｎｔ−ｇｒｏｕｐ ｆｌａｇのビットストリームの前のビットストリームの中に、ビン（ｂｉｎ）１を符号化する。復号器は、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｉｃｉｅｎｔ−ｇｒｏｕｐ ｆｌａｇの前にこのビンを復号し、現在のＴＵに対する係数グループサイズが２ｘ２であることを知る。
【０１２２】
別の実施形態において、ＲＤＯＱプロセスは、マルチレベルスキャンを利用する。すなわち、Ｌ１／Ｌ０ＲＤＯＱは、グループごとの方法によって実行され、その後に最後の位置を決定することが続く。特に、１６ｘ１６ＴＵ、４ｘ４の係数グループ、および４ｘ４グループにわたるマルチレベルスキャンに対する例示的なＲＤＯＱプロセスは、次のとおりである。
【０１２３】
ステップ１：ｎＣＧ＝１５と設定する（最後の係数グループから始まる）。
【０１２４】
ステップ２：マルチレベルスキャンによって特定されたとおりのグループ内のスキャン順序に従って、グループ位置ｎＣＧにおける係数グループの各係数に対してＬ０ＲＤＯＱを実行する。
【０１２５】
ステップ３：ステップ２の後に結果として生じる係数グループが非ゼロ係数を有し、ｎＣＧが０よりも大きく、そして右隣りまたは下隣りのいずれかが、その有効係数グループフラグをゼロに設定した場合、係数グループに対してＬ１ＲＤＯＱを実行する。すなわち、１）ＲＤコストを計算して、Ｌ１フラグを現在の係数グループに対してゼロに設定する、２）コストが、ステップ２から生じるＲＤコストより小さい場合、係数グループにおけるすべての係数をゼロに設定し、そして、現在のグループの有効係数グループフラグを０に設定する。
【０１２６】
ステップ４：ｎＣＧを１だけ減らす。
【０１２７】
ステップ５：ｎＣＧが０と等しくなるまで、ステップ１〜４を反復する。
【０１２８】
ステップ６：最後の位置を決定し、ＲＤコストを最小にする。
【０１２９】
図１７は、この例をフローチャート形式で示しており、マルチレベルスキャン順序によるマルチレベル有効性写像のＲＤＯＱ符号化に対する例示的なプロセス４５０を示している。プロセス４５０は、最後の有効係数を含むグループに基づいて係数グループの数ｎＣＧを設定する第１の動作４５２を含む。動作４５４において、Ｌ０ＲＤＯＱプロセスが、現在の係数グループ内の係数に対して実行される。すなわち、レートひずみ最適化が、現在のグループにおける各係数に対する最適な係数値を決定するために使用される。動作４５６において、非ゼロ係数が存在しない場合、プロセス４５０は、動作４６４へスキップし、スキャン順序における次の係数グループへ進み、そして、動作４５４へ戻り、次の係数グループに対してＬ０ＲＤＯＱを実行する。プロセス４５０はまた、下隣りのグループおよび右隣りのグループが、両方が非ゼロである有効係数フラグを有する場合、動作４６４にスキップすることに留意されたい。
【０１３０】
動作４５６において、現在のグループに非ゼロ係数が存在する場合、プロセス４５０は、動作４５８へ進み、動作４５８においては、Ｌ１ＲＤＯＱが、現在のグループに関して実行される。すなわち、もしＬ１フラグ（有効係数グループフラグ）がゼロに設定され、それによって、復号器における係数がすべてゼロとなる場合のＲＤコストが計算される。動作４６０で評価されるレート節減対ひずみが、より低いＲＤコストを生じる場合、次の動作４６２において、係数をゼロにし、そして、有効係数グループフラグがゼロに設定される。
（例示的シンタックス）
マルチレベル有効性写像を実装することに対する例示的シンタックスは、以下に提供される。この例示的シンタックスは、わずかに１つの可能な実装である。
【０１３１】
有効係数グループフラグは、
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］と表示および規定され得る。
【０１３２】
現在の１６ｘ１６または３２ｘ３２の変換ブロック内の係数グループ位置（ｘＣＧ，ｙＣＧ）に対して、このフラグは、場所（ｘＣＧ，ｙＣＧ）における対応する係数グループが、非ゼロ係数を有するか否かを以下のように特定する：
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］が０に等しい場合、場所（ｘＣＧ，ｙＣＧ）における係数グループの中の非ゼロ係数の数は、０に等しく設定され；
そうでない（ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］が１に等しい）場合、場所（ｘＣＧ，ｙＣＧ）における係数グループの中の非ゼロ係数の数は、以下に規定される特殊ケースを除いて非ゼロである。
【０１３３】
特殊ケースは、以下のように規定される：
１．スキャン順序の第１の係数グループ位置（０，０）におけるｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［０］［０］は、１に等しいと推測される。
２．スキャン順序の係数グループ位置（ｘＣＧ，ｙＣＧ）におけるｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］は、
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ＋１］＝１、かつ、
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ＋１］［ｙＣＧ］＝１
の場合、１に等しいと推測される。
【０１３４】
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］が存在しない場合、それは０に等しいと推測される。
【０１３５】
一部の実施形態において、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］は、４ｘ４および８ｘ８の変換ブロックに適用されない。
【０１３６】
以下の擬似コードは、再構成量子化変換領域係数（残差）に対する、復号プロセス内でのマルチレベル有効性写像の１つの例示的実装を例示している。
【０１３７】
擬似コードの第１の部分は、最後の有効係数位置を復号することを含むことに留意する。（ｉｆ（ｌｏｇ２ＴｒａｆｏＳｉｚｅ＞３）によって示されるように）変換ユニットが１６ｘ１６以上である場合、グループの数が決定され、そして、各係数グループにおける係数の数。第２のｉｆ−ｅｌｓｅステートメントは、最後の有効係数を含む係数グループ内の有効係数フラグの復号を表している。
【０１３８】
【数１−１】
【０１３９】
【数１−２】
メインのｉｆ−ｅｌｓｅステートメント内の第２のフォー−ループ（ｆｏｒ−ｌｏｏｐ）は、グループスキャン順序でのグループ毎の処理を表す。そのループの第１の部分の内部において、２つの特殊ケースが、ｉｆ−ｅｌｓｅステートメントで取り扱われる。つまり、係数グループが左上のグループ（すなわち、ｎＣＧ＝０）である場合、または現在のグループの右および下のグループが、両方が非ゼロである有効係数グループフラグを有する場合、有効係数グループフラグは、１に設定される。これら２つのケースが適用されない場合（「ｅｌｓｅ］クローズ（ｃｌａｕｓｅ））、有効係数グループフラグが、ビットストリームから復号される（ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］）。
【０１４０】
ｉｆ−ｅｌｓｅステートメントに続いて、さらなるｉｆ−ｅｌｓｅステートメントが、有効係数グループフラグが非ゼロである場合、そのグループに対する有効係数フラグは、スキャン順序でビットストリームから復号されることを規定する。グループにおける最後の（左上の）有効係数フラグを除く全ては、ビットストリームから復号される。復号器は次に、そのグループに対して復号された有効係数フラグのうちの任意のものが非ゼロであるかどうか評価する。そうである場合、復号器は、そのグループに対して最後の（左上の）有効係数フラグを復号し、そうしない場合は、復号器は、それを１に設定する（なぜならば、復号器は、それが、ゼロではあり得ないことを知っているからである）。
【０１４１】
後に続く「ｅｌｓｅ」ステートメントは、有効係数グループフラグがゼロである状況に適用される。この場合、そのグループに対する全ての有効係数フラグはゼロに設定される。
【０１４２】
上記の擬似コードは、図１６に関連して上に記述された例示的方法７００の１つの例示的な実装を示す。有効係数グループフラグおよび（もしあれば）それらと対応する有効係数フラグは、この実施形態において、インタリーブされる。図１６における例示的な方法７００と例示的な擬似コードとの間の相違は、例示的な方法７００は、動作７２０において左上のグループの特殊ケースを取り扱い、一方、擬似コードは、そのグループに対する有効係数グループフラグを非ゼロに設定し、従って、動作７１４においてビットストリームからそのグループの有効係数フラグを復号することによって、動作７０８内の特殊ケースを取り扱う。
【０１４３】
別の実施形態において、係数グループサイズが固定され得る。固定された４ｘ４の係数グループを使用する例示的シンタックスが、以下の擬似コードで開始される。
【０１４４】
【数２−１】
【０１４５】
【数２−２】
【０１４６】
【数２−３】
さらに別の実施形態において、有効係数グループフラグは、ビットストリーム内において、有効係数フラグとインタリーブされないことがあり得る。すなわち、有効係数グループフラグは、ビットストリームにおいて一緒に符号化され、そして、有効係数フラグは、スキャン順序でグループごとに、ビットストリームにおいてそれらの後に続く。非インタリーブ実施形態に対応する例示的シンタックスが、以下の擬似コードで開始される。
【０１４７】
【数３−１】
【０１４８】
【数３−２】
【０１４９】
【数３−３】
ここで、図１２を参照すると、図１２は、符号化器９００の例示的実施形態の簡略ブロック図を示している。符号化器９００は、プロセッサ９０２、メモリ９０４および符号化アプリケーション９０６を含む。符号化アプリケーション９０６は、メモリ９０４に記憶され、およびプロセッサ９０２を構成するための命令を含むコンピュータプログラムまたはアプリケーションを含むことにより、本明細書に記述されるような動作を実行し得る。例えば、符号化アプリケーション９０６は、本明細書に記述されるマルチレベル有効性写像プロセスに従って、ビットストリームを符号化および出力し得る。符号化アプリケーション９０６は、コンピュータ可読媒体、例えば、コンパクトディスク、フラッシュメモリデバイス、ランダムアクセスメモリ、ハードディスクなどに記憶され得ることが理解されるであろう。
【０１５０】
ここで、図１３を参照すると、図１３は、復号器１０００の例示的実施例の簡略ブロック図を示している。復号器１０００は、プロセッサ１００２、メモリ１００４および復号アプリケーション１００６を含む。復号アプリケーション１００６は、メモリ１００４に記憶され、およびプロセッサ１００２を構成するための命令を含むコンピュータプログラムまたはアプリケーションを含むことにより、本明細書に記述されるそれらのような動作を実行し得る。復号アプリケーション１００６は、本明細書に記述されるように、マルチレベル有効性写像に基づいて残差を再構成するように構成されるエントロピー復号器を含み得る。復号アプリケーション１００６は、コンピュータ可読媒体、例えば、コンパクトディスク、フラッシュメモリデバイス、ランダムアクセスメモリ、ハードディスクなどに記憶され得ることが理解されるであろう。
【０１５１】
本願に従う復号器および／または符号化器は、いくつかのコンピューティング装置、例えば、限定するものではないが、サーバー、適切にプログラムされた汎用コンピュータ、オーディオ／動画像符号化および再生装置、セットトップ・テレビ・ボックス、テレビ放送装置およびモバイル装置などに実装され得る。復号器または符号化器は、プロセッサを本明細書に記述される機能を実行するように構成するための命令を含んでいるソフトウェアとして実装され得る。ソフトウェア命令は、ＣＤ、ＲＡＭ、ＲＯＭ、Ｆｌａｓｈメモリなどを含む任意の好適な固定コンピュータ可読メモリに記憶され得る。
【０１５２】
本明細書に記述される符号化器およびモジュール、ルーチン、プロセス、スレッド、または符号化器を構成するための記述された方法／プロセスを実装する他のソフトウェアコンポーネントが、標準的なコンピュータプログラミング技術または言語を使用して実現され得ることが理解されるであろう。本願は、特定のプロセッサ、コンピュータ言語、コンピュータプログラミング規則、データ構造、他のそのような実装詳細に限定されない。当業者であれば、記述されたプロセスは、揮発性または非揮発性記憶装置に記憶されるコンピュータ実行可能コードの一部として、特定用途向けチップ（ＡＳＩＣ）の一部などとして実装され得ることを認識するであろう。
【０１５３】
記述された実施形態の特定の適合および修正がなされることができる。したがって、上記の議論された実施形態は、例示的であって限定的ではないと考えられる。
【符号の説明】
【０１５４】
２０ 符号化モードセレクター
２１ 空間予測器
２２ 変更プロセッサ
２４ 量子化器
２６ エントロピー符号化器
２８ 逆量子化器
３０ 逆変換プロセッサ
３２ デブロッキングプロセッサ
３４ フレーム記憶
３６ 運動予測器
５０ 復号器
５２ エントロピー復号器
５４ 逆量子化器
５６ 逆変換プロセッサ
５７ 空間補償器
５８ フレームバッファー
６０ デブロッキングプロセッサ
６２ 運動補償器
【技術分野】
【０００１】
本願は、概してデータ圧縮に関し、より具体的には、マルチレベル有効性写像を用いて動画像を符号化および復号するための方法および装置に関する。
【背景技術】
【０００２】
データ圧縮は、多くのコンテキストにおいて生じる。データ圧縮は、効率的に情報を記憶、送信、および再生するために、通信およびコンピュータネットワークにおいて非常に一般的に使用されている。データ圧縮には、画像、オーディオおよび動画像の符号化において特有の用途が存在する。動画像は、各動画像フレームに対して必要な大量のデータ、および符号化および復号に際して必要なスピードのために、データ圧縮に大きな難問を提示する。動画像符号化のための現在の最高水準の技術は、ＩＴＵ−Ｔ Ｈ．２６４／ＡＶＣ動画像符号化標準である。ＩＴＵ−Ｔ Ｈ．２６４／ＡＶＣ動画像符号化標準は、メインプロフィール、ベースラインプロフィール、その他を含む異なる用途に対していくつかの異なるプロフィールを規定する。次世代の動画像符号化標準は、現在、ＭＰＥＧ−ＩＴＵ：Ｈｉｇｈ Ｅｆｆｉｃｉｅｎｃｙ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＨＥＶＣ）の共同イニシアティブを通して開発中である。
【０００３】
ブロックベースの符号化プロセスを使用するＨ．２６４を含む、画像および動画像を符号化／復号するためのいくつかの標準が存在する。これらのプロセスにおいて、画像またはフレームは一般的な４ｘ４または８ｘ８のブロックに分割され、そして、ブロックはスペクトル的に係数に変換され、量子化され、そして、エントロピー符号化される。多くの場合、変換されるデータは、実際の画素データでなくて、予測動作の後の残差データ（ｒｅｓｉｄｕａｌ ｄａｔａ）である。予測は、イントラフレーム（ｉｎｔｒａ−ｆｒａｍｅ）、すなわちフレーム／画像内のブロックからブロックへの予測、または、インタフレーム（ｉｎｔｅｒ−ｆｒａｍｅ）、すなわち（運動予測とも称される）フレーム間の予測であり得る。（Ｈ．２６５とも称され得る）ＨＥＶＣもまた、これらの特徴を有すると期待されている。
【０００４】
スペクトル的に残差データを変換するときに、これらの標準の多くは、離散余弦変換（ＤＣＴ）またはその何らかのバリアントの使用を規定する。結果として生じるＤＣＴ係数は、次に、量子化器を使用して量子化されて、量子化された変換領域係数またはインデックスを生成する。
【０００５】
（ときとして、「変換ユニット」と称される）量子化された変換領域係数のブロックまたはマトリックスは、次に、特定のコンテキストモデルを使用してエントロピー符号化される。Ｈ．２６４／ＡＶＣにおいて、および、ＨＥＶＣのための現在の開発作業において、量子化された変換係数は、（ａ）ブロックにおける最後の非ゼロ係数の位置を示す最後の有効係数位置を符号化すること、（ｂ）非ゼロ係数を含むブロックにおける（最後の有効係数位置以外の）位置を示す有効性写像を符号化すること、（ｃ）非ゼロ係数の大きさを符号化すること、および（ｄ）非ゼロ係数のサインを符号化することによって符号化される。量子化された変換係数のこの符号化は、しばしば、ビットストリームにおいて符号化されたデータの３０〜８０％を占める。
【０００６】
変換ユニットは、一般的にＮｘＮである。一般のサイズは、４ｘ４、８ｘ８、１６ｘ１６および３２ｘ３２を含むが、他のサイズも可能である。有効性写像におけるシンボルのエントロピー符号化は、コンテキストモデルに基づいている。４ｘ４の輝度もしくは彩度のブロックまたは変換ユニット（ＴＵ）の場合、個々のコンテキストは、ＴＵにおける各係数位置と関連している。すなわち、符号化器および復号器は、（右下隅の位置を除いて）合計３０個の４ｘ４の輝度および彩度のＴＵに対する個々のコンテキストを追跡する。８ｘ８のＴＵは、（概念的にコンテキスト関連付けの目的で）２ｘ２のブロックに区画化されて、１つの異なるコンテキストが８ｘ８のＴＵにおける各２ｘ２のブロックと関連付けられる。したがって、符号化器および復号器は、８ｘ８の彩度および輝度のＴＵに対して合計１６＋１６＝３２個のコンテキストを追跡する。このことは、有効性写像の符号化および復号の間、符号化器および復号器が６２個の異なるコンテキストを追跡し、検索することを意味する。１６ｘ１６のＴＵおよび３２ｘ３２のＴＵが考慮されると、含まれる異なるコンテキストの全数は、８８個である。付加的な２６個のコンテキストの中で、１３個は輝度のＴＵに対するものあり、１３個は彩度のＴＵに対するものである。１６ｘ１６または３２ｘ３２のＴＵにおける係数位置への１３個のコンテキストの割当ては、以下の通りである。（ｒ，ｃ）がＴＵにおける位置を示すとすると、ここで、ＴＵがサイズ１６ｘ１６である場合、０＜＝ｒ、ｃ＜＝１５であり、そして、ＴＵがサイズ３２ｘ３２であるならば、０＜＝ｒ、ｃ＜＝３１である。次に、３つの異なるコンテキストが、ＤＣ位置（０，０）を含む左上隅における３つの位置（０，０）、（０，１）、（１，０）に割り当てられ；５つの異なるコンテキストが、領域｛（ｒ，ｃ）：２＜＝ｒ＋ｃ＜５｝における位置に割り当てられ；最後の５つの異なるコンテキストが、全ての残りの位置に割り当てられる。（０，０）、（０，１０）、および（１，０）に対する最初の３つのコンテキストを除いて、領域｛（ｒ，ｃ）：２＜＝ｒ＋ｃ＜５｝における位置に対するコンテキストの導出は、それの右下隣りに従う。ｓ（ｒ，ｃ）が位置（ｒ，ｃ）における係数の有効性フラグを示すとすると、係数がゼロではない場合、ｓ（ｒ，ｃ）＝１であり、そうでない場合、ｓ（ｒ，ｃ）＝１である。位置（ｒ，ｃ）に対するコンテキストは、ｍｉｎ（ｓ（ｒ＋１，ｃ）＋ｓ（ｒ，ｃ＋１）＋ｓ（ｒ＋２，ｃ）＋ｓ（ｒ，ｃ＋２）＋ｓ（ｒ＋１，ｃ＋１），４）に等しく、ここで、ｍｉｎ（ａ，ｂ）は、ａとｂとの間でより小さい方の値を返す。残りの領域｛（ｒ，ｃ）：ｒ＋ｃ＞＝５｝における位置（ｒ，ｃ）のコンテキストが同様に導出される。
【０００７】
４ｘ４および８ｘ８の有効性写像に対するコンテキストは、ビット位置によって決定される。１６ｘ１６および３２ｘ３２の有効性写像に対するコンテキストは、隣りのビットの値によって普通は決定される。１６ｘ１６および３２ｘ３２の有効性写像に対するコンテキストの決定は、計算的にかなり厳しいが、その理由は、ほとんどの場合、プロセッサは、隣りの有効性フラグの値に目を向けることによってコンテキストを決定し、これにはコストがかかるメモリーアクセス動作が含まれるからである。
【発明の概要】
【課題を解決するための手段】
【０００８】
本願は、コンテキスト適応符号化または復号によって有効性写像を符号化および復号する方法および符号化器／復号器を記述する。符号化器および復号器は、マルチレベル有効性写像を使用する。少なくとも１つのケースにおいて、マルチレベル写像は、１６ｘ１６および３２ｘ３２のＴＵなどの、より大きな変換ユニットに対して使用される。
【０００９】
一局面において、本願は、符号化されたデータのビットストリームから変換ユニットに対する有効係数フラグを再構成する方法を記述し、該ビットストリームは、符号化された有効係数グループフラグを含み、各有効係数グループフラグは、有効係数フラグのそれぞれのグループと対応する。該方法は、該有効係数フラグの各それぞれのグループに対してグループスキャン順序で、そのグループと対応する有効係数グループフラグを再構成することと、該対応する有効係数グループフラグが非ゼロである場合、そのグループ内のスキャン順序でビットストリームから該有効係数フラグを復号すること、および該対応する有効係数グループフラグがゼロの場合、該有効係数フラグをゼロに設定することによってそのグループにおける該有効係数フラグを再構成することとを含む。
【００１０】
別の局面において、本願は、変換ユニットに対する有効係数フラグを符号化する方法を記述する。該方法は、有効係数フラグの各それぞれのグループに対してグループスキャン順序で、特殊ケースが当てはまらない場合、そのグループと対応する有効係数グループフラグを符号化することであって、その対応するグループが非ゼロの有効係数フラグを含まないことを示すために、該有効係数グループフラグは、ゼロに設定される、ことと、該対応する有効係数グループフラグが非ゼロの場合、そのグループ内のスキャン順序でそのグループにおける該有効係数フラグを符号化することとを含む。
【００１１】
一局面において、有効係数フラグの再構成は、例えばスキャン順序のような規定された順序で実行される。別の局面において、有効係数グループフラグの再構成は、規定された順序で実行され、この規定された順序は、例えばスキャン順序のような有効係数フラグの再構成に対して使用される規定された順序と同じものであり得る。
【００１２】
一局面において、対応するグループの中の全ての有効係数フラグがゼロである場合、有効係数グループフラグはゼロに設定される。別の局面において、対応するグループの中の少なくとも１つの有効係数フラグが非ゼロである場合、有効係数グループフラグは非ゼロである。別の局面において、たとえ対応するグループの中の全ての有効係数フラグがゼロである場合においても、特殊ケースが、非ゼロである有効係数グループフラグをもたらし得、そのケースにおいて、復号器は、ビットストリームからその対応するグループに対する全てのゼロ値の有効係数フラグを復号する。
【００１３】
さらなる局面において、本願は、このような符号化および復号の方法を実行するように構成された符号化器および復号器を記述する。
【００１４】
なおさらなる局面において、本願は、コンピュータ実行可能なプログラム命令を記憶する非一時的なコンピュータ読み取り可能媒体を記述し、この命令は、実行されたとき、記述された符号化および／または復号の方法を実行するようにプロセッサを構成する。
【００１５】
本願の他の局面および特徴は、当業者であれば、添付図面とともに実施例についての次の説明を検討することから理解するであろう。
【００１６】
例えば、本発明は、以下の項目を提供する。
（項目１）
符号化されたデータのビットストリームから変換ユニットに対する有効係数フラグを再構成する方法であって、該ビットストリームは、符号化された有効係数グループフラグを含み、各有効係数グループフラグは、有効係数フラグのそれぞれのグループと対応し、該方法は、
該有効係数フラグのそれぞれのグループの各々に対して、グループスキャン順序で、
そのグループと対応する有効係数グループフラグを再構成することと、
該対応する有効係数グループフラグが非ゼロである場合、そのグループ内のスキャン順序でビットストリームから該有効係数フラグを復号すること、および
該対応する有効係数グループフラグがゼロの場合、該有効係数フラグをゼロに設定することによって
そのグループにおける該有効係数フラグを再構成することと
を含む、方法。
（項目２）
上記グループスキャン順序は、上記有効係数フラグのそれぞれのグループが再構成される規定された順序である、上記項目のいずれか一項に記載の方法。
（項目３）
上記それぞれのグループのうちの次の１つの有効係数フラグは、上記グループスキャン順序においてより前の全てのグループの全ての有効係数フラグが、再構成された後にだけ再構成される、上記項目のいずれか一項に記載の方法。
（項目４）
上記それぞれのグループの再構成に対する上記規定された順序は、斜め方向の順序である、上記項目のいずれか一項に記載の方法。
（項目５）
上記スキャン順序は、上記グループの各々の内の有効係数フラグが再構成される規定された順序である、上記項目のいずれか一項に記載の方法。
（項目６）
上記グループの各々の内の有効係数フラグの上記規定された順序は、斜め方向の順序である、上記項目のいずれか一項に記載の方法。
（項目７）
上記有効係数グループフラグを再構成することは、該有効係数グループフラグのうちの少なくとも幾つかをビットストリームの上記符号化されたデータから復号することを含む、上記項目のいずれか一項に記載の方法。
（項目８）
上記有効係数フラグのそれぞれのグループは、最後の有効係数を含むグループおよび位置［０，０］を含むグループを除外する、上記項目のいずれか一項に記載の方法。
（項目９）
最後の有効係数に対する有効係数フラグを含むグループに対して、有効係数グループフラグを１に設定することをさらに含む、上記項目のいずれか一項に記載の方法。
（項目１０）
位置［０，０］における係数に対する有効係数フラグを含むグループに対して、有効係数グループフラグを１に設定することをさらに含む、上記項目のいずれか一項に記載の方法。
（項目１１）
上記グループは、連続する正方形ブロックである、上記項目のいずれか一項に記載の方法。
（項目１２）
各グループは、非正方形、長方形ブロックである、上記項目のいずれか一項に記載の方法。
（項目１３）
上記有効係数グループフラグのうちの１つを再構成することは、２つの隣りのグループに対して再構成された有効係数グループフラグに基づいてその有効係数グループフラグに対するコンテキストを決定することを含み、該２つの隣りグループは、右隣りと下隣りとを含み、該２つの隣りのグループに対する該有効係数フラグの両方が０である場合は、該コンテキストは０であり、そうではない場合は、コンテキストは１である、上記項目のいずれか一項に記載の方法。
（項目１４）
変換ユニットに対する有効係数フラグを再構成するために、符号化されたデータのビットストリームを復号する復号器であって、該復号器は、
プロセッサと、
メモリと、
復号アプリケーションであって、該復号アプリケーションは、該メモリに格納され、項目１〜１３のうちのいずれか一項に記載の方法を実行するために該プロセッサを構成するための命令を含む、復号アプリケーションと
を備えている、復号器。
（項目１５）
プロセッサ実行可能な命令を記憶する非一時的なプロセッサ読み取り可能媒体であって、該命令は、実行されると、項目１〜１３のうちのいずれか一項に記載の方法を実行するように１つ以上のプロセッサを構成する、非一時的なプロセッサ読み取り可能媒体。
（項目１６）
変換ユニットに対する有効係数フラグを符号化する方法であって、該方法は、
有効係数フラグの各それぞれのグループに対してグループスキャン順序で、
特殊ケースが当てはまらない場合、そのグループと対応する有効係数グループフラグを符号化することであって、その対応するグループが非ゼロの有効係数フラグを含まないことを示すために、該有効係数グループフラグは、ゼロに設定される、ことと、
該対応する有効係数グループフラグが非ゼロの場合、そのグループ内のスキャン順序でそのグループにおける該有効係数フラグを符号化することと
を含む、方法。
【００１７】
（摘要）
動画像データに対して符号化および復号する方法が記述され、その方法では、マルチレベル有効性写像が、符号化および復号プロセスにおいて使用される。有効性写像を形成する有効係数フラグは、連続するグループにグルーピングされ、有効係数グループフラグは、各グループに対して、そのグループが非ゼロの有効係数フラグを含まないか否かについて示す。マルチレベルスキャン順序が使用され得、有効係数フラグが、グループごとにスキャンされる。グループスキャン順序は、グループが処理される順序を特定し、スキャン順序は、そのグループ内の個々の有効係数フラグが処理される順序を特定する。ビットストリームは、有効係数グループフラグおよび、もし存在する場合は、それらと対応する有効係数フラグをインタリーブし得る。
【図面の簡単な説明】
【００１８】
ここで、例として、添付の図面を参照すると、図面は、本願の例示的な実施形態を示している。
【図１】図１は、動画像を符号化するための符号化器をブロック図形式で示している。
【図２】図２は、動画像を復号するための復号器をブロック図形式で示している。
【図３】図３は、量子化変換領域係数を含んでいる例示的な変換ユニットを示している。
【図４】図４は、図３の変換ユニットに対する有効係数フラグを含んでいる例示的な有効性写像を示している。
【図５】図５は、図４の有効性写像に対する有効係数グループフラグを含んでいる例示的なＬ１有効性写像を示している。
【図６】図６は、有効係数フラグを符号化する例示的な方法をフローチャート形式で示している。
【図７】図７は、符号化されたデータから有効性写像を再構成する例示的方法をフローチャート形式で示している。
【図８】図８は、有効係数グループフラグを復号および再構成する例示的なプロセスをフローチャート形式で示している。
【図９】図９は、マルチレベル有効性写像符号化のための例示的なレートひずみ最適量子化プロセスをフローチャート形式で示している。
【図１０】図１０は、Ｌ１ＲＤＯＱの適用後における図４の例示的なＬ０有効性写像を示している。
【図１１】図１１は、Ｌ１ＲＤＯＱの後における図１０のＬ０有効性写像に対応するＬ１有効性写像を示している。
【図１２】図１２は、符号化器の例示的実施形態の簡略ブロック図を示している。
【図１３】図１３は、復号器の例示的実施形態の簡略ブロック図を示している。
【図１４】図１４は、４ｘ４係数グループおよび順方向斜めスキャン順序による１６ｘ１６変換ユニットを示している。
【図１５】図１５は、４ｘ４係数グループを有する１６ｘ１６変換ユニットおよびグループベースのマルチレベル順方向斜めスキャン順序を示している。
【図１６】図１６は、有効性写像を復号するための例示的方法をフローチャート形式で示している。
【図１７】図１７は、マルチレベルスキャン順序によるマルチレベル有効性写像のＲＤＯＱ符号化に対する例示的なプロセスをフローチャート形式で示している。
【００１９】
類似した参照番号は、類似した構成要素を表示するために異なる図面において使用されている。
【発明を実施するための形態】
【００２０】
（例示的実施形態の説明）
後続の記述において、いくつかの例示的実施形態は、動画像符号化のためのＨ．２６４標準および／または開発中のＨＥＶＣ標準を参照して記述される。いわゆる当業者は、本願がＨ．２６４／ＡＶＣまたはＨＥＶＣに限定されず、可能性のある将来の標準、マルチ表示符号化標準、スケーラブルな動画像符号化標準、再変更可能な動画像符号化標準を含む他の動画像符号化／復号標準に適用され得ることを理解するであろう。
【００２１】
後続の記述において、動画像または画像に言及するとき、フレーム、ピクチャ、スライス、タイルおよび長方形スライスグループなる用語は、多少相互交換可能に使用され得る。いわゆる当業者は、Ｈ．２６４標準の場合、フレームが一つ以上のスライスを含み得ると認識する。また、その一定の符号化／復号動作が、適用できる画像または動画像符号化標準の特定の要件または専門用語に従って、フレーム毎、一部のものはピクチャ毎、一部のものはタイル毎、一部にものは長方形スライスグループ毎の方式で実行されることも認識されるであろう。任意の特定の実施形態において、適用できる画像または動画像符号化標準は、下記の一部の場合において、以下の記述の動作が、場合によって、フレームおよび／またはスライスおよび／またはピクチャおよび／またはタイルおよび／または長方形スライスグループと関連して実行されるか否かを決定し得る。従って、いわゆる当業者は、本開示に照らして、本明細書に記載の特定の動作または処理、およびフレーム、スライス、ピクチャ、タイル、長方形スライスグループへの特定の参照が、所与の実施形態に対して、フレーム、スライス、ピクチャ、タイル、長方形スライスグループ、またはこれらの一部またはすべてに適用可能であるか否かを認識するであろう。このことは、以下の記述に照らすと明らかになるように、伝送ユニット、符号化ユニット、符号化ユニットのグループなどにも当てはまる。
【００２２】
本願は、有効性写像を符号化および復号するための例示的なプロセスおよびデバイスについて記述する。有効性写像は、変換ユニットまたは係数の規定されたユニット（例えば、幾つかの変換ユニット、変換ユニットの一部分、または符号化ユニット）に写像するか、またはこれに対応するフラグのブロック、マトリックスまたはグループである。各フラグは、変換ユニットまたは特定のユニットにおける対応する位置が非ゼロ係数を含むか否かを示す。既存の標準において、これらのフラグは、有効係数フラグと呼ばれ得る。既存の標準においては、係数毎に１つのフラグが存在し、フラグは、対応する係数がゼロである場合、ゼロであり、対応する係数が非ゼロである場合、１に設定される１つのビットである。本明細書において使用されるような用語「有効性写像（ｓｉｇｎｉｆｉｃａｎｃｅ ｍａｐ）」は、以下の記述から理解されるように、変換ユニットに対する有効係数フラグのマトリックスまたは順序付きセットを指すか、または、係数の規定されたユニットを指すことが意図されているが、このことは、用途のコンテキストから明らかである。
【００２３】
本明細書に記述された例は、有効性写像に関するが、しかし、マルチレベル符号化および復号プロセスは、例えば、グループ構造を示し得る、係数レベル、フィルタ係数、および（二値化後の）運動ベクトルのような他の動画像におけるシンタックス要素に適用され得る。例えば、係数レベルの局所グループは、高い確立で全て１であり得る。同様に、運動ベクトルのローカルグループは、一つの方向において全てゼロ（例えば、ゼロ水平運動）であり得るか、または、一組のフィルタ係数は、隣接する周波数帯域において全てゼロであり得る。
【００２４】
また、マルチレベル符号化および復号構造は、特定の状況に適用され得るが、それらの状況は、動画像コンテンツタイプ（シーケンス、ピクチャ、またはスライスのヘッダにおいて識別されるナチュラル動画像またはグラフィック）のような副次的な情報から決定され得ることが、以下の記述に照らして理解される。例えば、２つのレベルが、ナチュラル動画像に対して使用され得、そして、３つのレベルが、（通常、よりまばらである）グラフィックに対して使用され得る。さらに別の可能性は、構造が、１つ、２つ、または３つのレベルを有するか否かを示すために、シーケンス、ピクチャ、またはスライスヘッダのうちの１つにフラグを提供し、それによって、現在のコンテンツに対して最も適切な構造を選択する柔軟性を符号化器に許すことである。
【００２５】
ここで、図１を参照すると、図１は、ブロック図の形式で、動画像を符号化するための符号化器１０を示している。図２をも参照すると、図２は、復号器５０が動画像を復号するためのブロック図を示している。本明細書に記載される符号化器１０および復号器５０は、各々、一つ以上の演算処理装置およびメモリを含む特定用途向けまたは汎用コンピュータに実装され得ることが認識されるであろう。一部の場合において、符号化器１０または復号器５０によって実行される動作は、例えば、特定用途向け集積回路として、またはメインプロセッサーによって実行可能な格納プログラム命令として実行され得る。デバイスは、例えば、ベースのデバイス機能を制御するためのオペレーティングシステムを含む付加的なソフトウェアを含み得る。符号化器１０または復号器５０が実装され得るデバイスおよびプラットフォームの範囲は、以下の記述に対する関心を有するいわゆる当業者に認識される。
【００２６】
符号化器１０は、動画像ソース１２を受信し、符号化されたビットストリーム１４を生成する。復号器５０は、符号化されたビットストリーム１４を受信し、復号された動画像フレーム１６を出力する。符号化器１０および復号器５０は、いくつかの動画像圧縮標準に準拠して動作するように構成され得る。例えば、符号化器１０および復号器５０は、Ｈ．２６４／ＡＶＣ対応であり得る。他の実施態様において、符号化器１０および復号器５０は、ＨＥＶＣのような、Ｈ．２６４／ＡＶＣ標準の進化を含む他の動画像圧縮標準に従い得る。
【００２７】
符号化器１０は、空間予測器２１、符号化モードセレクター２０、変換プロセッサ２２、量子化器２４、およびエントロピー符号化器２６を含む。当業者であれば認識するように、符号化モードセレクター２０は、動画像のための適切な符号化モード、例えば、対象のフレーム／スライスがＩ、ＰまたはＢタイプのいずれであるか、フレーム／スライス内の特定の符号化ユニット（例えば、マクロブロック）が、相互符号化または内部符号化のいずれがされているかを決定する。変換プロセッサ２２は、空間領域データに対する変換を実行する。特に、変換プロセッサ２２は、空間領域データをスペクトル成分に変えるために、ブロックベースの変換を適用する。例えば、多くの実施形態において、離散余弦変換（ＤＣＴ）が使用される。他の変換、例えば、離散正弦変換または他のものが、一部の例において使用され得る。ブロック方式の変換は、マクロブロックの大きさに従って、マクロブロックまたはサブブロック方式で実行される。Ｈ．２６４標準において、例えば、典型的な１６ｘ１６マクロブロックは１６個の４ｘ４変換ブロックを含み、ＤＣＴプロセスは４ｘ４ブロックに対して実行される。一部の場合において、変換ブロックは８ｘ８であり得、マクロブロック毎に４つの変換ブロックがあることを意味する。さらに別のケースにおいて、変換ブロックは、他の大きさであり得る。一部の場合において、１６ｘ１６のマクロブロックは、４ｘ４の変換ブロックと８ｘ８の変換ブロックとの非重複の組み合わせを含み得る。
【００２８】
ブロック方式の変換をブロックの画素データに適用すると、１セットの変換領域係数が生じる。この場合における「セット」とは、係数が係数位置を有する順序付けられたセットである。一部の例において、変換領域係数のセットは、係数の「ブロック」またはマトリックスと考えられ得る。本明細書における記述において、「変換領域係数のセット」または「変換領域係数のブロック」が、相互交換可能に使用され、変換領域係数の順序付けられたセットを示すことを意味する。
【００２９】
変換領域係数のセットは、量子化器２４によって量子化される。量子化された係数と関連情報はそれからエントロピー符号化器２６によって符号化される。
【００３０】
量子化変換領域係数のブロックまたはマトリクスは、本明細書において「変換ユニット」と呼ばれ得る。
【００３１】
内部符号化されたフレーム／スライス（例えば、タイプＩ）は、他のフレーム／スライスに関係なく符号化される。換言すると、それらは時間予測を使用しない。しかし、図１で例示されるように、内部符号化されたフレームは、空間予測器２１によって、フレーム／スライスの範囲内で空間予測による。すなわち、特定のブロックを符号化するとき、ブロック内のデータが、そのフレーム／スライスに対してすでに符号化されているブロック内の近傍の画素のデータと比較され得る。予測アルゴリズムを使用して、ブロックのソースデータは、残差データに変換され得る。変換プロセッサ２２は、次に残差データを符号化する。Ｈ．２６４は、例えば、９つの空間予測モードを４ｘ４変換ブロックに対して規定する。一部の実施形態において、９個のモードの各々が独立してブロックを処理するために用いられ得、次に、レートひずみ最適化がベストモードを選択するために使用される。
【００３２】
Ｈ．２６４標準は、また、時間予測を利用するために運動予測／補償の使用を規定する。したがって、符号化器１０は、逆量子化器２８、逆変換プロセッサ３０とデブロッキングプロセッサ３２を含むフィードバックループを有する。デブロッキングプロセッサ３２は、デブロッキングプロセッサとフィルタリングプロセッサを含み得る。これらの要素は、フレーム／スライスを再生するために復号器５０によって実装される復号プロセスをミラーリングする。フレーム記憶３４は、再生されたフレームを記憶するために用いられる。このように、運動予測は、元々のフレームではなく、復号器５０において再構成されるフレームとなるものに基づいており、元々のフレームは、それは符号化／復号に含まれる損失性圧縮に起因して、再構成されたフレームとは異なり得る。運動予測器３６は、類似のブロックを識別する目的で現在のフレームと比較するためのソースフレーム／スライスとしてフレーム記憶装置３４に記憶されるフレーム／スライスを使用する。したがって、運動予測が適用されるマクロブロックに対して、変換プロセッサ２２が符号化する「ソースデータ」は、運動予測プロセスの結果として生じる残差データである。例えば、残差データは、参照フレーム、空間変位または「運動ベクトル」、および参照ブロックと現在ブロックとの間の差（もしあれば）を表わす残差画素データに関する情報を含む。参照フレームおよび／または運動ベクトルに関する情報は、変換プロセッサ２２および／または量子化器２４によって処理されず、その代わりに、量子化された係数とともにビットストリームの一部として符号化するために、エントロピー符号化器２６に供給され得る。
【００３３】
当業者は、動画像符号化器を実装するための詳細および可能な変形を認識するであろう。
【００３４】
復号器５０は、エントロピー復号器５２、逆量子化器（ｄｅｑｕａｎｔｉｚｅｒ）５４、逆変換プロセッサ５６、空間補償器５７、およびデブロッキングプロセッサ６０を含む。デブロッキングプロセッサ６０はデブロックおよびフィルタリングプロセッサを含み得る。フレームバッファー５８は、運動補償を適用する際に運動補償器６２によって使用するための再構成フレームを供給する。空間補償器５７は、以前に復号されたブロックからの特定の内部符号化されたブロックに対する動画像データを回復する動作を示す。
【００３５】
ビットストリーム１４は、エントロピー復号器５２によって受信され、復号されることにより、量子化された係数を回復する。適用可能ならば、付随する情報が、また、エントロピー復号プロセスの際に回復され得、その一部は、運動補償における使用のために、運動補償ループに供給され得る。例えば、エントロピー復号器５２は、相互符号化されたマクロブロックに対する運動ベクトルおよび／または参照フレーム情報を回復し得る。
【００３６】
量子化された係数は、次に、逆量子化器５４によって逆量子化されて、変換領域係数を生成し、変換領域係数は、次に、逆変換プロセッサ５６によって逆変換され、「動画像データ」を再作成する。内部符号化されたマクロブロックまたは符号化ユニットに関するような一部の場合において、再作成された「動画像データ」は、フレーム内における以前に復号されたブロックに対する空間補償における使用のための残差データであると認められるであろう。空間補償器５７は、以前にデコードされたブロックからの残差データと画素データからの動画像データとを生み出す。相互符号化されたマクロブロックまたは符号化ユニットのような他の場合において、逆変換プロセッサ５６から再作成された「動画像データ」は、異なるフレームからの参照ブロックに対する運動補償において使用するための残差データである。空間補償および運動補償の両方は、本明細書において「予測動作」と称され得る。
【００３７】
運動補償器６２は、特定の相互符号化されたマクロブロックまたは符号化ユニットに対して、指定されたフレームバッファー５８内の参照ブロックを特定する。運動補償器６２は、相互符号化されたマクロブロックまたは符号化ユニットに対して指定された参照フレーム情報および運動ベクトルに基づいて参照ブロックを特定する。次に、運動補償器６２は、その符号化ユニット／マクロブロックのために再構成された動画像データに到達するために、残差データとの組み合わせのための参照ブロック画素データを供給する。
【００３８】
デブロッキングプロセッサ６０によって示されるように、デブロッキング／フィルタリングプロセスが、次に、再構成されたフレーム／スライスに適用され得る。デブロッキング／フィルタリングの後に、例えば、ディスプレイデバイスにおける表示のために、フレーム／スライスは、復号された動画像フレーム１６として出力される。例えば、コンピュータ、セットトップボックス、ＤＶＤまたはＢｌｕ−Ｒａｙプレーヤー、および／またはモバイル携帯デバイスなどの動画像再生装置が、出力装置に表示する前に、メモリの中に復号されたフレームをバッファリングし得ることが理解されるであろう。
【００３９】
ＨＥＶＣ対応の符号化器および復号器が、これらの同一または類似の特徴の多くを有することが予想される。
【００４０】
（有効性写像（Ｓｉｇｎｉｆｉｃａｎｃｅ ｍａｐ）符号化）
上記のように、量子化された変換領域係数のブロックまたはセットのエントロピー符号化は、その量子化された変換領域係数のブロックまたはセットのための有効性写像を符号化することを含む。有効性写像は、非ゼロの係数がどの位置（最後の位置以外の）に現れるかについて示しているブロックについてのバイナリ写像である。ブロックは、それが関連付けられている一定の特性を有し得る。例えば、それは、内部符号化されたスライスまたは相互符号化されたスライスに由来し得る。それは、輝度ブロックまたは彩度ブロックであり得る。スライスに対するＱＰ値は、スライス毎に変動し得る。全てのこれらの因子は、有効性写像をエントロピー符号化するための最良の方法に影響力を有し得る。
【００４１】
有効性写像は、（垂直、水平、斜め、ジグザグ、または適用可能な符号化標準によって規定された任意の他のスキャン順序であり得る）スキャン順序に従って、ベクトルに変換される。スキャンは、一般に、逆のスキャン順序で行われ、すなわち、最後の有効係数から始めて、逆方向に有効性写像を通って、［０，０］におけるフラグに到達するまで戻る。本記述において、用語「スキャン順序」は、フラグ、係数、または、場合によっては、グループが処理される順序を意味するように意図され、そして、いわゆる「逆スキャン順序」と称される順序を含み得る。
【００４２】
各々の有効性ビットは、次に、適用可能なコンテキスト適合性コード体系を使用してエントロピー符号化される。例えば、多くのアプリケーションにおいて、コンテキスト適合性バイナリ演算符号化（ＣＡＢＡＣ）スキームが使用され得る。他の実装は、二値化を伴う他のコンテキスト適合性コーデックを使用し得る。例は、バイナリ演算符号化（ＢＡＣ）、変数から変数への（Ｖ２Ｖ）符号化、および可変長から固定長への（Ｖ２Ｆ）符号化を含む。４ｘ４および８ｘ８の写像の場合、コンテキストが各ビット位置に対して割り当てられる。ビット（有効係数フラグ）をそのビット位置において符号化する場合、割り当てられたコンテキストおよびその時点までのコンテキストの履歴は、最小見込みのシンボル（ＬＰＳ）（または、一部の実装においては、最大見込みのシンボル（ＭＰＳ））の推定確率を決定する。
【００４３】
現在の動画像符号化器において、コンテキスト割当ては、符号化器および復号器の両方に対して予め定められる。例えば、４ｘ４の輝度ブロックの場合、現在のドラフトのＨＥＶＣ標準は、４ｘ４の有効性写像における各ビット位置が固有のコンテキストを有することを規定する。最後の位置を除いて、それは１５個のコンテキストが４ｘ４の輝度有効性写像の符号化のために追跡されることを意味する。各ビット位置に対して、その位置に割り当てられたコンテキストは、その位置におけるＬＰＳと関連する推定確率を決定する。実際のビット値は、次に、その推定確率を使用して符号化される。最後に、その位置に割り当てられるコンテキストは、実際のビット値に基づいて更新される。復号器において、符号化されたデータは、同じコンテキストモデルを使用して復号される。各ビット位置に対するコンテキストが追跡され、その位置に対するビットを回復するために、各ビット位置に対するコンテキストが符号化データに対する推定確率を決定するために使用される。
【００４４】
１６ｘ１６および３２ｘ３２の有効性写像に関して、有効性に対するコンテキストは、隣接する有効係数フラグ値に（主に）基づいている。１６ｘ１６および３２ｘ３２の有効性写像に対して使用される１３個のコンテキストの中で、［０，０］にあるビット位置および隣接するビット位置に専用の特定のコンテキストが存在するが、有効係数フラグの大部分は、隣接する有効係数フラグの累積値に依存する５個のコンテキストのうちの１つを採用する。これらの場合、有効係数フラグに対する適切なコンテキストの決定は、隣接する場所（一般的に５個の場所があるが、それより多いか少ない場合もあり得る）において、有効係数フラグの値を決定して、合計することに依存する。このことは、複数のメモリーアクセスを含み、それはメモリ帯域幅要件におけるコストがかかり得る。さらに、多くの場合、１６ｘ１６および３２ｘ３２の有効性写像は、多数のゼロを含む。したがって、ほとんど係数値を有しない大きい写像を符号化および送信することに含まれる相当なコストが存在する。
【００４５】
本願の１つの局面に従って、符号化器および復号器は、特定の変換ユニットに対するマルチレベル有効性写像を使用する。下記の例において、マルチレベル有効性写像が１６ｘ１６および３２ｘ３２の大きさの変換ユニットに対して使用されるが、しかしながら、それらは、一部の実施形態において、８ｘ８もしくは６４ｘ６４または他のサイズの変換ユニットに対して使用され得ることが理解されるであろう。
【００４６】
有効係数フラグはグルーピングされる。各有効係数フラグは、複数のグループのうちの１つに分類される。簡単にいえば、多くの実施形態において、グループは（概念的に）変換ユニット構造をブロックに分割または区画化することによって形成される。例えば、１６ｘ１６の写像は、係数位置のうちの１６個を各々が含んでいる４ｘ４のブロックに分割され得る。３２ｘ３２の写像は、係数位置のうちの６４個を各々が含んでいる８ｘ８のブロックに分割され得る。有効係数フラグは、それらがマトリックス構造の中に規定されるこれらのブロックに分類されるという方式で、このようにグルーピングされる。別の例において、１６ｘ１６の写像および３２ｘ３２の写像両方は、係数位置のうちの１６個を各々が含んでいる４ｘ４のブロックに分割され得る。
【００４７】
図３は、例示的な１６ｘ１６の変換ユニット１００（量子化変換領域係数のマトリクス）を示す。インデックス付与の目的で、変換ユニット内のビット位置は、［ｘＣ，ｙＣ］によって特定され得、この場合、ｘＣ＝０，１，２，．．．１５であり、ｙＣ＝０，１，２，．．．１５である。（例えば、）斜めスキャン順序を使用すると、この例における最後の有効係数は、参照番号１１２によって示されるように、［１２、１０］にあることに留意する。
【００４８】
ここで図４を参照すると、図４は、例示的な有効性写像１０２を示している。有効性写像１０２は、図４で示される例示的変換ユニットから生成される有効係数フラグを含む。有効係数フラグは、全てのビット位置において、［０，０］から、［１２、１０］における最後の有効性係数（ただし、これは除外する）までのスキャン順序で現れる。各ビット位置における有効係数フラグであって、それに対して非ゼロ係数が変換ユニット１００の中に存在する有効係数フラグは、１に設定され、一方、ゼロ係数が存在している各ビット位置における各有効係数フラグは、ゼロに設定される。
【００４９】
一実施形態において、有効性写像１０２（すなわち、有効係数フラグのセット）は、変換ユニット構造の連続ブロックへの均一な分割に基づいてグーピングされ得る。変換ユニットのサイズは、ブロックのサイズを決定し得る。１６ｘ１６の変換ユニットの場合、ブロックは、一部の実施形態において、４ｘ４であり得る。グルーピングは、４ｘ４のブロックの境界を定めている線によって、図４に図示されている。３２ｘ３２の変換ユニットのようなより大きな変換ユニットは、それの有効係数フラグが、４ｘ４のブロック、８ｘ８のブロックまたは他のサイズの連続ブロックにグルーピングされ得る。一実施形態において、４ｘ４の係数グループが、サイズ１６ｘ１６、４ｘ１６、１６ｘ４、８ｘ３２、３２ｘ８および３２ｘ３２の変換ユニットに対して使用される。
【００５０】
本明細書において挙げられる例は、簡単のために、連続する正方形ブロックとして規定されるが、本願は、正方形のグループに限定されない。グループは、一部の実施形態において、長方形のブロックとして形成され得る。さらに別の実施形態において、他の形状が使用され得る。例えば、斜めのスキャン順序の場合、変換ユニットの斜めのスライスから形成されるグループを使用することは有利であり得、この場合、グループの一部は、形状がいくぶん台形であり得る。例えば、長方形のグループが、水平スキャン順序または垂直スキャン順序に対して使用され得る。一例では、８ｘ８の変換ユニットに対しては、水平スキャンが使用される場合、２ｘ８の係数グループが使用され得、垂直スキャンが使用される場合、８ｘ２の係数グループが使用され得る。他の変形が、当業者によって理解される。
【００５１】
グループのマトリックスに対応しているより高レベルの有効性写像が、次に、生成され得る。より高レベルの有効性写像は、有効係数グループフラグの順序付けセットである。少なくとも１つの有効係数フラグを含む各グループに対して１つの有効係数グループフラグが存在する。最後の有効係数を含んでいるグループは、より高レベルの有効性写像の中に含まれる必要がなく、その理由は、それが少なくとも１つの非ゼロ係数、すなわち最後の有効係数を含むことがすでに知られているからである。有効性写像は、レベル０またはＬ０の写像と呼ばれ得る。より高レベルの有効性写像（すなわち、有効係数グループフラグを含む）は、レベル１またはＬ１の写像と呼ばれ得る。
【００５２】
図５は、図４に示された例示的有効性写像１０２に対応しているＬ１のより高レベルの有効性写像１０４を図示する。少なくとも１つの有効係数フラグを含む各グループに対して、Ｌ１写像１０４は、有効係数グループフラグを含むことが留意される。グループ内の有効係数フラグのうちの任意のものが非ゼロであるならば、有効係数グループフラグは１にセットされる。そうでなければ、フラグはゼロにセットされる。
【００５３】
グループのインデックス付与は、［ｘＣＧ，ｙＣＧ］によって特定され得、この例においては、ｘＣＧ＝０，１，２，３およびｙＣＧ＝０，１，２，３である。最後の有効係数を含んでいるグループは、［３，２］にある。［３，３］にあるグループは、有効係数フラグをなんら含まず、そのため、それはＬ１写像に含まれない。
【００５４】
有効係数グループフラグは、一部の実施形態において、スキャン順序でベクトル形式に変換され得る。スキャン順序は、概して変換ユニットとの使用に対して特定されたスキャン順序と同一であり得る。一実施形態において、有効係数グループフラグは、変換ユニットに対して選択されたスキャン順序と異なり得る予め規定されたスキャン順序を使用し得る。場合によっては、Ｌ１写像は、［０，０］のグループまたは最後の有効係数グループのような特定のグループを除外し得、特定のグループは、さらに以下において記述されるように，推定されたフラグ値を有する。
【００５５】
Ｌ１写像は、直接的にＬ０写像から導出される必要はなく、むしろ、スキャン順序で変換ユニットの係数をスキャンすることから導出されることが可能であろうことが認識されるであろう。
【００５６】
また、さらにより高レベルの写像が、一部の実施形態において使用され得ると認められる。例えば、変換ユニットが６４ｘ６４の変換ユニットであるならば、Ｌ１写像は、２５６個の４ｘ４のグループに変換ユニットを分割することに基づき得る。このように、Ｌ１写像は、Ｌ１グループフラグを含む１６ｘ１６の写像である。さらなるＬ２写像は、Ｌ１フラグを４ｘ４のブロック（それらの各々が、変換ユニットからの１６ｘ１６の係数のグループに対応する）のさらなるセットにグルーピングすることによって生成され得る。抽象化および／または粒度の追加のレベルが、他の実施形態において使用され得る。
【００５７】
ここで、図６を参照すると、図６は、フローチャート形式で、有効係数フラグを符号化するための例示的プロセス２００を示している。プロセス２００は、動作２０２で始まり、符号化器が、有効係数フラグおよび有効係数グループフラグおよびを決定する。一実施形態において、符号化器は、スキャン順序で変換ブロックをスキャンすることにより、最後の有効係数および有効係数フラグのセットを決定する。有効係数グループフラグは、同一スキャン中に決定され得る。（もっとも、スキャン順序は、複数のブロックを横断することを含み得るので、一定量の値のバッファリングが実用的な実装において使用され得る；場合によっては、符号化器が、それがそのグループに対する最後の係数、例えば、出口係数をスキャンしたことを決定したときに、有効係数グループフラグの決定がなされる）。一部の実装において、符号化器は、Ｌ０有効性写像、または変換ユニットのいずれかについて第２のスキャンを実行して、有効係数グループフラグを決定し得る。
【００５８】
動作２０４において、各有効係数グループフラグに対して、符号化器は使用すべきコンテキストを決定し、次に、決定されたコンテキストに基づいてその有効係数グループフラグをエントロピー符号化する。有効係数グループフラグは、規定された順序で処理され得る。一部の実施形態において、規定された順序は、変換ユニットに対するスキャン順序と同一である。コンテキストの数およびそれらの決定は、任意の好適な方法において構成され得る。例示的なコンテキストのセットおよび有効係数グループフラグに対してコンテキストを決定する方法が以下に記述される。
【００５９】
有効係数グループフラグのセットを符号化して、符号化器は、次に、有効係数フラグを符号化する。動作２０６において、符号化器（スキャン順序で作動している）は、有効係数グループフラグがそれに対して１に設定されるグループに分類される場合、各有効係数フラグのコンテキストを決定し、各有効係数フラグを符号化する。対応する有効係数グループフラグがゼロに設定されているならば、エントロピー符号化プロセスの間、そのグループの中の有効係数フラグは、なんら符号化されず、すなわち、それらはスキップされる。
【００６０】
したがって、プロセス２００の後において、符号化器は、符号化された有効係数グループフラグおよび符号化された有効係数フラグを含む符号化されたデータのビットストリームを生成しており、これらの符号化された有効係数グループフラグおよび符号化された有効係数フラグは、少なくとも１つの非ゼロ有効係数フラグを有するグループに分類される。ビットストリームは、少なくとも１つの非ゼロ有効係数フラグを有しないグループからの有効係数フラグは含まない。
【００６１】
復号器において、有効係数フラグは、ビットストリームの符号化されたデータから再構成される必要がある。ここで、図７を参照すると、図７は、フローチャート形式で、符号化されたデータのビットストリームから有効係数フラグを再構成するための例示的プロセス３００を示している。ビットストリームは、ネットワーク接続を介して受信されるか、すなわち、ストリームされるか、メモリ（例えば、フラッシュメモリーなど）、または格納ディスク（例えば、ＤＶＤ、ＢｌｕＲａｙＴＭ、ＣＤ−ＲＯＭなど）などのコンピュータ可読媒体から読み取られ得る。プロセス３０２は、復号器において変換ユニットを再構成するプロセスに適用される。（使用中の動画像符号化標準のシンタックスに応じた）シーケンス、および各スライスまたはピクチャの両方に対する、ヘッダ情報の復号は示されていない。
【００６２】
動作３０２において、最後の有効係数の位置が、ビットストリームから復号される。この情報は、任意の適用可能なシンタックスにおいて表され得る。一部の標準は、最後の有効係数がマトリックスノーテーション（例えば、変換ユニット内のｘおよびｙ基準の場所）を使用して特定されるべきことを規定し；一部の標準は、最後の有効係数が最後の有効係数位置に１つの１を有し他は０のベクトルを使用してシグナル伝達されるべきであって、この場合、ベクトルは、スキャン順序によって変換ユニットに写像されることを規定する。最後の有効係数を特定するために好適な任意のシンタックッスが、動作３０２において使用され得る。
【００６３】
動作３０４において、有効係数グループフラグは、ビットストリームから復号される。標準によって特定されるか、またはヘッダ情報において特定される任意の適用可能な二値化スキームを使用して、有効係数グループフラグは、既にエントロピー符号化されていることがあり得る。例えば、コンテキスト適合型２値算術符号化は、一部の例において使用され得る。有効係数グループフラグは、各フラグ位置（より高レベルの有効性写像、例えば、Ｌ１有効性写像のビット位置）に対してコンテキストを決定し、次に、ビットストリームからフラグ値を復号し、およびフラグ値に基づいてコンテキストを更新することによって復号される。スキャン順序が既知であり、最後の有効係数が動作３０２において識別されており；従って、Ｌ１有効性写像のサイズが決定されているで、有効係数グループフラグのセットのサイズは既知である。不均一区画化グループの場合、グループサイズおよび位置の好適なシグナル伝達は、シンタックスの中に提供され得る。
【００６４】
上記のように、各有効係数グループフラグは、変換ユニットに対して規定された連続するグループのうちのそれぞれの一つに対応する。一つ以上の有効係数フラグが、有効係数グループフラグを有しているこれらのグループの各々に分類される。したがって、各有効係数グループフラグは、有効係数フラグのそれぞれのグループに対応する。
【００６５】
有効係数グループフラグのセットを復号した後に、有効性写像、すなわち有効係数フラグのセットを再構成するための残りの動作が、規定されたスキャン順序で実行される。処理は最後の有効係数から始まる（しかしながら、非ゼロ係数を含むことが既に知られているので、その最後の有効係数位置を除外する）。動作３０５において、各有効係数フラグに対して、復号器はそれの対応する有効係数グループフラグがゼロであるか否かを決定する。対応する有効係数グループフラグが非ゼロであるならば、動作３０６によって示されるように、有効係数フラグはビットストリームから復号される。すなわち、関連または対応する有効係数グループフラグが、グループが少なくとも１つの非ゼロ係数を含み得ることを示すならば、復号器は、現在位置に対してビットストリームから有効係数フラグを復号する。
【００６６】
関連または対応する有効係数グループフラグがゼロであるならば、すなわち、非ゼロ係数がグループに存在しないことを示すならば、動作３０８によって示されるように、復号器はゼロとして現在の有効係数フラグをセットまたは再構成する。復号器は、ビットストリームからそれを復号しない。
【００６７】
動作３１０において、復号器は、自身がスキャン順序の終わり、すなわち、変換ユニットの左上の角の係数、例えば［０，０］に既に到達しているか否かを決定する。もしそうであるならば、プロセス３００は終了し；そうでなければ、復号器は、動作３１２において、スキャン順序で次の位置まで移動し、その次の位置に対する有効係数フラグを再構成するために動作３０６および３０８を繰り返す。
【００６８】
この実施形態において、スキャン順序は、次のグループへと移動する前に、グループの全ての有効係数フラグを再構成することを生じさせるわけではないことが理解されるであろう。むしろ、スキャン順序（スキャン順序およびグループの幾何学形状に従う）は、グループ境界を横断してスキャンし、その結果、復号器は、スキャン順序で［０，０］位置まで戻りながら、１つのグループから少数のフラグを、隣りのループから少数のフラグをなどのように再構成する。この問題を回避するスキャンプロセスが、さらに以下に記述される。
【００６９】
ビットを節約するために、符号化および復号プロセスにおいて考慮される特殊ケースが存在し得る。例えば、上記のように、最後の有効係数を含んでいるグループは、非ゼロ係数を示す有効係数グループフラグを常に有し、その結果、有効係数グループフラグは符号化されて復号器に送られる必要がない。符号化器は、そのグループに対する有効係数フラグを常に符号化し、復号器は、そのグループに対する有効係数フラグを常に復号するように構成される。
【００７０】
一部の実施形態に含まれ得る別の特殊ケースは、第１のグループを常に符号化、および復号する場合である。このグループは、変換ユニットの中の［０，０］においてＤＣ係数を含む。このグループが非ゼロ係数を含まない確率は、非常に低い。したがって、［０，０］のグループに対する有効係数グループフラグを送信する代わりに、符号化器は、そのグループの有効係数フラグを常に符号化するように構成され得、復号器は、そのグループの有効係数フラグを常に復号するように構成され得る。
【００７１】
一部の実施形態に実装され得るさらに別の特殊ケースも、確率に基づいている。特定のグループの右方のグループおよび下方のグループが両方とも非ゼロ係数を含む場合、特定のグループが非ゼロ係数を含む確率は非常に高いことに留意してきた。したがって、一部の実施形態において、符号化器および復号器は、両方が非ゼロ係数を含む右方の隣接グループおよび下方の隣接グループを有する任意のグループは非ゼロ係数を有すると推定し得る。このように、特定のグループに関して、右方のグループに対する有効係数グループフラグが１に設定され、かつ、下方のグループに対する有効係数グループフラグが１に設定されるならば、符号化器は、特定のグループに対して有効係数グループフラグを符号化せず、常に特定のグループに対する有効係数フラグを符号化する。復号器は、右方および下方の隣りが、非ゼロ係数を示す有効係数グループフラグを有することを認識し、そこで、復号器は、特定のグループが非ゼロ係数を有すると自動的に仮定するであろうし、および、復号器は、有効係数フラグを復号するであろう。
【００７２】
ここで、図８を参照すると、図８は、上記の特殊ケースの取扱いについての例示的実施形態を反映するための付加的な詳細を有する図７からの動作３０４を示している。動作３０４は、動作３０４−１を含み、動作３０４−１において、最後の有効係数を含むグループに対する有効係数グループフラグが１に設定される。最後の有効係数の位置は、以前の動作においてビットストリームから復号される（図示されず）。
【００７３】
復号器は、次に、スキャン順序でグループを通って移動する。動作３０４−２において示されているように、復号器は、スキャン順序で、最後の有効係数を含んでいるグループから次のグループまで移動する。このグループに対して、復号器は、現在のグループの右方のグループに対する有効係数グループフラグおよび現在のグループの下方のグループに対する有効係数グループフラグが、１に等しいか否かを評価する。最初、ちょうど始まったばかりなので、復号器は、右方および下方へのフラグを有しないが、スキャン順序（水平であるか、垂直であるか、斜めであるかに関係なく）において後になると、復号器は、ときとして、現在のグループに関するこれらの位置における有効係数グループフラグを再構成し終わっていることがあり得る（変換ユニットのボトムエッジに位置するグループに対して、復号器は下方のグループに対するフラグを決して有さない）。それらの２つの隣接したグループが１に設定されていると、現在のグループも１に設定されている確率は、符号化器および復号器の両方が、それが１に設定されていることを推定するほどに十分に高い。したがって、動作３０４−６において、特殊ケース条件が満たされるならば、復号器は有効係数グループフラグを１に設定する。そうでなければ、復号器は、動作３０４−４に移動する。別の実施形態において、この特殊ケースは、他の隣接したグループ、または全く他のグループの有効係数グループフラグに基づいて修正され得る。
【００７４】
動作３０４−４において、復号器は、ビットストリームから現在のグループに対する有効係数グループフラグを復号する。復号は、コンテキストを決定すること、次に、決定されたコンテキストに従って復号することを含む。復号は、２値算術符号化（ＢＡＣ）、または、他の２値化符号化／復号プロセスに基づき得る。
【００７５】
動作３０４−５において、復号器は、これがスキャン順序における最後の１つ前のグループであるか否かを決定する。そうでなければ、復号は未だ完了しておらず、そのため、復号器は、スキャン順序において次のグループに進むために、動作３０４−２まで回帰する。それが、スキャン順序における最後の１つ前のグループであるならば、復号器は、動作３０４−７まで移動し、動作３０４−７において、復号は、最後のグループ、すなわち、グループ［０，０］に対して有効係数グループフラグを１に設定する。このことは、復号器および符号化器によって、その特定のグループが常に、少なくとも１つの非ゼロ係数を有すると推定される特殊ケースに基づいており、そのため、有効係数グループフラグは、常に１にプリセットされ、その結果、そのグループに対する有効係数フラグは、常に符号化および復号される。この動作の後に、復号器は、動作３０６または３０８に移動する（図７）。
【００７６】
上記の例示的プロセスは、図７および図８において、Ｌ１有効性写像（有効係数グループフラグ）の復号、およびＬ０有効性写像（有効係数フラグ）の復号を２段階プロセスとして記述し、このプロセスにおいて、Ｌ１有効性写像が完全に復号され、次に、Ｌ０有効性写像が復号されることが理解される。一部の実施形態において、このことは、事実であり得る。しかしながら、一部の他の実施形態においては、復号プロセスは、部分的に絡み合っているかもしれない。すなわち、Ｌ１写像が完全に復号される前に、Ｌ０写像の復号は始まり得る。一部の実施形態においては、第１の有効係数グループフラグが再構成されるとすぐに、Ｌ０の有効性写像の復号が開始し得ることが理解されるであろう。
【００７７】
一部の実施形態において、マルチレベル有効性写像符号化は、例えば、ピクチャ種別に従ってオン／オフされ得る。例えば、多重レベル有効性写像符号化は、ＩピクチャおよびＰピクチャに対して有効化され得るが、Ｂピクチャに対しては無効化され得る。
【００７８】
（マルチレベルスキャン順序）
以上概略述べられたように、係数グループが上の例において示されるように形成されるとき、すなわち、連続ブロックで形成されるとき、（垂直、水平、または斜め）スキャン順序は、有効係数フラグをスキャンするとき、グループの境界を横断することを結果として生じる。これは、ハードウェア実装の観点から符号化および復号における困難性を引き起こし得る。なぜならば、ワンパススキャン（ｏｎｅ−ｐａｓｓ ｓｃａｎ）を実行するために、データの有意なバッファリングが、部分的に復号されたグループの有効係数フラグを追跡するために必要とされ得るからである。そうでなければ、Ｌ１写像のフラグに対する１回のスキャン順序パスおよびＬ０写像に対する１回のスキャン順序パスというように、２回（以上）スキャンすることが必要であり得る。ワンパススキャニングプロセスを実行することならびにメモリおよび計算の複雑性の問題の幾つかを回避することに対する１つの選択肢は、グループベースまたはマルチレベルスキャニング順序を使用することである。
【００７９】
ここで図１４を参照すると、例示的１６ｘ１６変換ユニット６００が示されている。有効性写像符号化のコンテキストにおいて、例示的１６ｘ１６変換ユニット６００は、１６の係数グループを含み、各係数グループは、有効係数フラグの４ｘ４ブロックである。斜めのスキャン順序が、図１４に示される。スキャン順序は、［１５，１５］における有効係数フラグから始まり、そして、斜めのスキャンが、右下［１５，１５］から左上［０，０］へ変換ユニット６００を横断しながら、右上から左下へ走る。上で論議されたように、有効性写像符号化プロセスは、最後の有効係数から始まるスキャン順序を使用する。
【００８０】
スキャニング順序が、係数グループ境界を横切ることに注目される。例えば、それぞれ、参照番号６１０、６１２、および６１４によって示されている、［１０，１２］、［１１，１１］および［１２，１０］における有効係数フラグに注目されたい。スキャン順序において、符号化器および復号器は、位置［１２，１０］において有効係数フラグ６１４と最初に遭遇する。スキャン順序は次に、位置［１１，１１］において有効係数フラグ６１２と遭遇し、有効係数フラグ６１２は、その係数グループにおける第１の有効係数フラグである。次に、スキャン順序が、位置［１０，１２］における有効係数フラグ６１０に到達するとき、スキャン順序は、別の係数グループの中に横断して入る。
【００８１】
符号化器側において、係数グループ境界をこのように頻繁に横断することは、様々な係数グループにおける有効係数フラグの値を追跡するために、スキャニングプロセス中に有意なバッファリングを結果として生じ得ることが理解され、そして、係数グループに対する有効係数グループフラグに関する決定は、グループにおける最後（左上）の有効係数フラグが、スキャン順序において到達されるまで待つ必要があり得ることが理解される。ワンパススキャンで変換ユニット６００全体を処理するために、符号化器は、過度のメモリアクセス動作を回避するために何らかの複雑なバッファリングを必要とし得る。係数グループ境界を頻繁に横断することは、レート歪み最適量子化（ＲＤＯＱ）、すなわち、軟判定量子化（ＳＤＱ）に対する特定の複雑化を引き起こす。ＲＤＯＱ／ＳＤＱ決定をなすとき、符号化と関連付けられたレートコストを追跡することは、有意により複雑となる。復号器側において、復号器が、スキャン順序で様々なグループを横断して有効係数フラグを再構成するとき、復号器も、様々なグループに対する既に復号された有効係数グループフラグを追跡するためにバッファリングを必要とし得る。これは、復号器において、より大きなメモリ／バッファ要件を結果として生じる。
【００８２】
従って、一実施形態において、符号化および復号プロセスは、マルチレベルスキャニング順序を使用し得る。ここで、図１５を参照すると、図１５は、図１４の変換ユニット６００を示し、マルチレベル斜めスキャン順序が示されている。変換ユニット６００全体にわたるのではなく、各係数グループ内において、斜めのスキャン順序が、グループレベルで適用される。係数グループ自体が、スキャン順序で処理され、その実行も、この例において、斜めのスキャン順序である。
【００８３】
斜めは１つの選択肢であり、他の実施形態においては、係数グループ内においておよび／またはグループレベルで係数グループの処理を順序付けるために、水平、垂直、ジグザグ、または他のスキャン順序が適用され得ることが理解される。
【００８４】
グループベースのスキャニング順序またはマルチレベルスキャニング順序を使用して、有効係数フラグの各グループが、順に符号化および復号される。つまり、有効係数フラグの次のグループの符号化／復号は、現在のグループの符号化／復号が一旦完了したときにだけ始まる。例えば、斜めのグループスキャン順序を使用して、位置［１２，１０］において有効係数フラグ６１４を含む有効係数フラグのグループ全体が復号され、その後に復号器は、位置［１０，１２］において有効係数フラグ６１０を含む有効係数フラグのグループを復号し始める。同様に、これら両方のグループが完全に復号され、その後に復号器は、位置［１１，１１］において有効係数フラグ６１２を含むグループを復号し始める。これは、符号化器／復号器が、１回のパスでマルチレベル有効性写像をより容易に処理することを許す。なぜならば、係数グループの有効係数フラグは全て、グループ内でのスキャン順序で、順次処理されるからである。
【００８５】
有利なことに、マルチレベルスキャニング順序またはグループベースのスキャンイング順序は、有効係数グループフラグをビットストリーム内にインタリーブすることをさらに容易にする。各係数グループが、スキャン順序で処理されるにつれ、符号化器は、ビットストリームに有効係数グループフラグを書き込み得、そして次に、有効係数グループフラグが非ゼロの場合に、その係数グループに対して有効係数フラグを挿入し得る。復号器において、復号器は、有効係数グループフラグをビットストリームから復号し、非ゼロの場合、次に復号器は、グループ内でのスキャン順序でそのグループに対する有効係数フラグを復号する。有効係数グループフラグがゼロである場合、複合器は、そのグループに対するすべての有効係数フラグをゼロに設定して、そして、次の有効係数グループフラグをビットストリームから復号する。このようにして、復号器は、グループスキャン順序でグループごとに有効性写像を再構成する。
【００８６】
グループ内で使用されるスキャン順序は、グループからグループへと進行するために使用されるグループスキャン順序と必ずしも対応する必要はないことが理解される。例えば、グループ内では斜めのスキャン順序が使用され得、一方、グループの処理は、水平グループスキャン順序で実行される。
【００８７】
本明細書に記述されたマルチレベルスキャン順序は、マルチレベル有効性写像に対して使用される係数グルーピングと整合するが、しかし、より一般的な場合において、マルチレベルスキャン順序またはグループベースのスキャン順序は、有効係数フラグのグループと必ずしも対応しないブロックの中で組織され得ることは理解される。例えば、図１４および図１５を参照すると、斜めのスキャン順序を各４ｘ４の係数グループに適用する代わりに、別の例示的実装において、スキャン順序の目的でのグルーピングまたはブロッキングは、８ｘ８のブロックを使用し得る。換言すると、この例において、斜めのスキャン順序が、４つの８ｘ８のブロックに適用される。マルチレベルスキャン順序に対して使用されるグルーピングとマルチレベル有効性写像において使用される係数グループとの間に不整合が存在する場合、符号化器／復号器は必ずしも、次のグループに移動する前に、各グループを完全には処理しないことに注目されたい。
【００８８】
図１６をここで参照すると、図１６は、マルチレベルスキャン順序を使用してマルチレベル有効性写像を復号するための例示的方法７００を示す。方法７００は、符号化されたデータのビットストリームから有効係数フラグを再構成するための例示的なプロセスである。符号化されたデータのビットストリームは、符号化された有効係数グループフラグを含む。各有効係数グループフラグは、それぞれの有効係数フラグのグループと対応する。スキャン順序において、ビットストリームにおける各非ゼロ有効係数グループフラグの後には、それぞれのグループの有効係数フラグが従う。
【００８９】
方法７００は、動作７０２において、ビットストリームから最後の有効係数の位置を復号することから始まる。既に述べられたように、最後の有効係数の位置は、多くの方法のうちの任意の１つで示され得る。一旦最後の有効係数の位置が知られると、次に動作７０４において、復号器は、最後の有効係数を含む係数グループ内の有効係数に対する有効係数フラグをビットストリームから復号する。動作７０４における復号は、係数グループ内のスキャン順序（このスキャン順序は、斜め、垂直、水平、その他であり得る）で実行され、最後の有効係数位置の後の有効係数位置から始まり、スキャン順序で左上の係数に向かって戻る。
【００９０】
動作７０６において、グループスキャン順序を参照して、（ＣＧとインデックスが付けられた）現在の有効係数グループは、最後の有効係数を含むグループの後のグループであるように設定される。グループスキャン順序は、係数グループが復号される順序であり、最後の有効係数を含むグループの後のグループから始まり、変換ユニットにおける左上のグループ（位置［０，０］においてＤＣ係数を含むグループ）に向かってグループスキャン順序で戻る。グループスキャン順序は、垂直、水平、斜め、その他であり得る。
【００９１】
動作７０８において、復号器は、（ＣＧとインデックスが付けられた）現在の係数グループに対する有効係数グループフラグを再構成する。特殊な場合が当てはまるのでなければ、この再構成は、ビットストリームから有効係数グループフラグを復号することを含む。例えば、１つの例示的な特殊な場合は、現在の係数グループの右のグループおよび現在の係数グループの下のグループに対する有効係数グループフラグが、両方とも非ゼロであるときである。この状況においては、有効係数グループフラグは、デフォルトにより非ゼロと推測され得る。
【００９２】
動作７１０によって示されるように、再構成された有効係数グループフラグがゼロの場合、次の動作７１２において、対応する係数グループの有効係数フラグは全てゼロに設定される。再構成された有効係数グループフラグが非ゼロの場合、次の動作７１４において、対応する係数グループの有効係数フラグは、そのグループ内のスキャン順序でビットストリームから復号される。
【００９３】
一旦、動作７１２または７１４のいずれかで現在の係数グループのすべての有効係数フラグが再構成されると、次の動作７１６において、ＣＧインデックスが減ぜられて、グループスキャン順序で次の係数グループへ移動する。動作７１８において、グループスキャン順序で次の係数グループがＣＧ＞０である場合、すなわち、このグループが、［０，０］においてＤＣ係数を含む左上のグループではない場合、プロセスは、動作７０８に戻り、次の係数グループの有効係数を完全に再構成する。しかしながら、ＣＧ＝０の場合、方法７００は、動作７２０へ進み、動作７２０において、左上係数グループの有効係数フラグが、ビットストリームから復号される。この例示的実施形態において、左上係数グループの有効係数フラグは、常にビットストリームにおいて符号化され、従って、復号器は、この係数グループに対する有効係数グループフラグは、事実上常に非ゼロであると推測する。
【００９４】
（コンテキスト−モデリング）
符号化効率を改善するために、ＢＡＣエンジン（または、他のエントロピー符号化／復号エンジン）は、コンテキストを使用する。本願は、有効係数グループフラグを符号化することに対して、４つの新しいコンテキストを使用することを提案する。２つのコンテキストは、輝度の符号化／復号に対するものであり、２つは彩度の符号化／復号に対するものである。
【００９５】
２つのコンテキストのうちどちらが所与の有効係数グループフラグに適用されるかを決定することが次のように生じる。現在のグループの右方に隣接したグループに対する有効係数グループフラグがゼロであり、現在のグループの下方に隣接したグループに対する有効係数グループフラグがゼロであるならば、現在のグループの有効係数グループフラグを符号化することに対するコンテキストは、０である。そうでなければ、コンテキストは１である。それらの２つの隣接したグループに対するフラグが利用できない場合、利用できないフラグは、コンテキスト決定の目的のために０と推定される。
【００９６】
（例えば、左上から右下に向かうような）異なるスキャン順序の方向が使用される場合、コンテキストを決定するために、コンテキストモデルが、現在のグループの左方に隣接したグループに対する有効係数グループフラグ、および現在のグループより上方に隣接したグループに対する有効係数グループフラグを使用するように変更されることができることに留意されたい。
【００９７】
コンテキスト決定プロセスは、また、特殊ケースを含み得る。例えば、左上グループは、常にコンテキスト１を割り当てられ得る。
【００９８】
他の可能なコンテキストモデルおよび使用され得るコンテキストを決定する方法が存在する。いくつかの例が以下に示される。
【００９９】
記号を定義すると、Ｌ［ｉ］は、レベルＬでの係数グループｉの有効性フラグを表示し、Ｎは、レベルＬでの係数グループの数を表示する。一般に、所与のＬおよび係数グループｉについて、Ｌ［ｉ］に対するコンテキストＣ＿ｉを決定するために、ｉおよび全ての利用可能なＬ［ｊ］の関数ｃ（＊）を使用する。従って、コンテキストは、
Ｃ＿ｉ＝ｃ（ｉ，Ｌ［０］，Ｌ［１］，．．．Ｌ［Ｎ−１］）
によって与えられ、ここで、ｊ！＝ｉである。Ｌ［ｉ］に対するコンテキストを決定するためにＬ［ｊ］を使用するには、Ｌ［ｊ］自体が利用可能でなければならないことに留意されたい。従って、選択されるスキャン順序は、ｃ（＊）において使用される任意のＬ［ｊ］が以前に決定されていることを保証しなければならない。
【０１００】
上記のコンテキスト決定モードと類似の実施形態において、コンテキストは、
Ｃ＿ｉ＝ｃ（ｉ，Ｌ０［０］，Ｌ０［１］，．．．，Ｌ０［１５］）
＝ｓｕｍ｛ｂｊ＊Ｌ０［ｊ］｝
によって決定され得、ここで、ｊ＝０，１，．．．，Ｎ、およびｊ！＝ｉであり、係数グループｊが係数グループｉの右方または下方の隣である場合、ｂｊ＝１であり、そうでない場合、ｂｊ＝０である。この特定の実施形態は、３個のコンテキストを有する（別の３つのコンテキストが彩度に対して使用される場合には、６個である）。
【０１０１】
ｃ（＊）の別の実施形態は、
Ｃ＿ｉ＝ｃ（ｉ，Ｌ［０］，Ｌ［１］，．．．，Ｌ［Ｎ−１］）
＝ｓｕｍ｛ｂｊ＊Ｌ［ｊ］｝
によって与えられ、ここで、ｊ＝０，１，．．．，Ｎ、およびｊ！＝ｉであり、係数グループｊが既に決定されているｉの任意の隣接した係数グループである場合には、ｂｊは非ゼロであり、そうでない場合は、ｂｊ＝０である。この実施形態において、重み係数ｂｊは、必ずしも定数ではないことがあり得る。
【０１０２】
ｃ（＊）の別の実施形態は、Ｌにおける他の係数グループの有効係数グループフラグを無視し、現在の係数グループの位置ｉにのみ基づいてコンテキストを決定する。これは、
Ｃ＿ｉ＝ｃ（ｉ，Ｌ［０］，Ｌ［１］，．．．，Ｌ［Ｎ−１］）
＝ｉ
と表され得る。
【０１０３】
他のコンテキストモデルおよびコンテキストを決定するプロセスが、マルチレベル有効性写像に対して使用される。
【０１０４】
以下に、上に論議された２コンテキスト実施形態に対する例示的なシンタックスが与えられる。この例において、入力を現在の係数グループスキャン位置（ｘＣＧ，ｙＣＧ）、およびシンタックス要素ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇの既に復号されたビン（ｂｉｎ）であると考慮されたい。このプロセスの出力は、ｃｔｘＩｄｘＩｎｃである。この例においては、変換ユニットは、１６の連続ブロックに分割されて、係数グループを形成したと推測される。例えば、１６ｘ１６ＴＵは、４ｘ４のブロックに分割され、そして、３２ｘ３２ＴＵは、８ｘ８のブロックに分割される。別の例においては、変換ユニットは、４ｘ４のブロックまたは他のサイズのブロックに分割され得る。
【０１０５】
可変ｃｔｘＩｄｘＩｎｃは、現在の位置（ｘＣＧ，ｙＣＧ）、およびシンタックス要素ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇの既に復号されたビンに依存する。ｃｔｘＩｄｘＩｎｃの導出に対しては、以下が適用される。
【０１０６】
ｘＣＧが３に等しく、そしてｙＣＧが３に等しい場合、ｃｔｘＩｄｘＩｎｃは、デフォルトコンテキスト値と等しいように設定される。この例示的実施形態において、デフォルト値は、ｃｔｘＩｄｘＩｎｃ＝４４である。他の実施形態において、デフォルト値は、０を含む別の値であり得る。
【０１０７】
ｘＣＧが３より小さく、そしてｙＣＧが３に等しい場合、ｃｔｘＩｄｘIｎｃは、ｃｔｘＩｄｘＩｎｃ＝４４＋ｓｉｇｎｉｆｉｃａｎｔ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣＧ＋１］［ｙＣＧ］として設定される。
【０１０８】
ｘＣＧが３に等しく、そしてｙＣＧが３より小さい場合、ｃｔｘＩｄｘIｎｃは、ｃｔｘＩｄｘＩｎｃ＝４４＋ｓｉｇｎｉｆｉｃａｎｔ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ＋１］として設定される。
【０１０９】
ｘＳＢが３より小さく、そして、ｙＳＢが３より小さい場合、ｃｔｘＩｄｘＩｎｃは、ｃｔｘＩｄｘＩｎｃ＝４４＋ｍａｘ｛ｓｉｇｎｉｆｉｃａｎｔ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣＧ＋１］［ｙＣＧ］，ｓｉｇｎｉｆｉｃａｎｔ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ＋１］｝として設定される。
【０１１０】
上の式における値４４は、デフォルトインデックス値の一例である。０を含む他の値が、他の実施形態において使用され得る。
（レートひずみ最適量子化）
一部の符号化プロセスは、レートひずみ最適量子化（ＲＤＯＱ）、または、ときには、「ソフト量子化（ｓｏｆｔ−ｑｕａｎｔｉｚａｔｉｏｎ）」と呼ばれるものを使用する。ＲＤＯＱは、レートひずみ最適化表現に基づいて最適な量子化変換領域係数を決定するプロセスである。したがって、ＲＤＯＱから生じる量子化変換領域係数は、通常の変換および量子化プロセスを介して到達された量子化変換領域係数と同一であることも、同一でないこともあり得る。一部の場合において、結果として生じるひずみが、それに伴う送信コストの節減よりもコスト的により低いことが決定され、係数値は、ＲＤＯＱプロセスによって修正され得る。
【０１１１】
ＲＤＯＱプロセスは、レート成分を決定する際に、通常、４つのコストを評価する。４つのレートコストは、最後の位置レート、有効性レート（Ｌ０レート）、係数レート、およびコード化されたブロックパラメータ（ＣＢＰ）レートを含む。マルチレベル有効性写像を実装するために、また、ＲＤＯＱ計算においてより高レベルの有効性レート（例えば、Ｌ１レート）をも含むように、ＲＤＯＱを修正することが有利であり得る。
【０１１２】
一実施形態において、ＲＤＯＱプロセスは、有効性写像に関して二段階のＲＤＯＱを実行するように修正され得る。最初に、ＲＤＯＱプロセスが、最良の最後の位置および係数値、従って、Ｌ１有効係数フラグを決定するために適用される。第二段階において、最後の位置が固定され、ＲＤＯＱプロセスが、次に、Ｌ１レートに関して再び適用されて、任意の係数をゼロにすることに対するレートひずみ（ＲＤ）コスト調整があるか否かを決定し得る。
【０１１３】
図９は、フローチャート方式で、マルチレベル有効性写像の符号化に対する例示的ＲＤＯＱプロセス４００を示している。プロセス４００は、ＲＤＯＱを使用することにより、最適な量子化変換係数を得るとともに、最後の有効係数、すなわちＬ０ＲＤＯＱの位置を決定する。プロセス４００は、次に、最後の位置を固定し、現在のＲＤコストを調節することにより、有効性写像の追加レベルの効果を考慮に入れる。次に、貪欲な（ｇｒｅｅｄｙ）アプローチを使用して、さらに変換係数を最適化する。
【０１１４】
動作４０２は、最適な量子化変換領域係数を得るために、最後の有効係数位置を提供するＲＤＯＱの使用を表わす。動作４０２は、最後の位置、最適係数に対応している有効性写像、係数値、およびＣＢＰを送信することに対するレートに基づく特定のＲＤコストをもたらす。
【０１１５】
動作４０４において、最後の有効位置が固定される。すなわち、最後のグループは、非ゼロ係数を含み、すなわち、最後の有効係数グループフラグが１に固定される。符号化器が、次に、コスト節減が他のグループにおける係数をゼロにすることによって見つかるか否かを貪欲に決定する。一部の実施形態において、プロセス４００がスキャン順序で実行され得るが、別の順序でも処理されることが可能である。
【０１１６】
動作４０６において、現在のグループとして最後の１つ前のグループから始めて、符号化器は、現在のグループが１に等しい有効係数グループフラグを有するか否かを決定する。１に等しくない場合、グループはすでにゼロだけを含んでおり、符号化器は次のグループにスキップする。有効係数グループフラグ＝１ならば、符号化器は、現在のグループの全ての係数がゼロである場合にもたらされるであろうＲＤコストを計算する。動作４０８において、符号化器は、新たに計算されたＲＤコストが現在のＲＤコストよりもより良好であるか（すなわち、より低い）否か評価する。もしそうであれば、動作４１０において、現在のグループの全ての係数がゼロにされ、現在のＲＤコストが変化を反映するために更新される。動作４１２において、符号化器は、それがＬ１ＲＤＯＱに関し、実行されたか否か、すなわち、それが［０，０］グループの直前のグループに到達したか否かを評価する（上記の特殊ケースにおいて概説されたように、少なくとも１つの非ゼロ係数がそのグループの中に存在すること推定するように符号化器および復号器が、構成される場合、［０，０］グループはゼロにされない）。評価すべきさらなるグループが存在する場合、プロセス４００は、動作４１４において、継続し、この場合、符号化器は次のグループに移動する（一部の実施形態においては、スキャン順序を使用する）。
【０１１７】
ここで、ＲＤＯＱプロセスが実施例として図示される。図３、４および５に関連する上記の実施例を再び参照する。Ｌ１ＲＤＯＱの前、かつＬ０ＲＤＯＱ後の最適な量子化変換領域係数が図３に示される。対応するＬ０有効性写像が図４で示され、Ｌ１有効性写像が図５に示される。
【０１１８】
Ｌ１ＲＤＯＱプロセスは、例えば、図１０に示される最適化されたＬ０有効性写像５００、図１１に示される関連または対応するＬ１有効性写像５０２をもたらし得る。
【０１１９】
最後の有効グループ、すなわち［３，２］グループにおける有効係数フラグが不変であることに留意する。しかしながら、［３，０］グループ、［０，３］グループ、および［１，３］グループは、すべてゼロにされた。その結果、図１１に示すように、これらの３つのグループに対して対応する有効係数グループフラグは、同様にゼロに変更された。結果は、符号化器がこれらの３つのグループを符号化する必要はないであろうということである。それらのグループの中に見られた少しの係数をゼロにすることから生じるひずみより、ＲＤＯＱ評価によって決定されるように、符号化されたビットの数を低減することにおけるコスト削減に重きが置かれている。
【０１２０】
一つの可能な実施形態において、ＲＤＯＱプロセスは、現在のＴＵに対する最適な係数グループサイズを決定するために拡張されることができる。この実施形態において、プロセス４００は複数回、繰り返され、各回は異なる係数グループサイズをとり、動作４１０は、変換係数が実際には０に設定されないように修正される。実質的に、各回において、この修正されたＲＤＯＱプロセスは、特定の係数グループサイズに対してＲＤコストを計算する。全ての回が完了した後に、ＲＤＯＱは最少のＲＤコストを与える係数グループサイズを選択し、最後に、任意の変換係数を要求どおりに０に設定する。符号化器は、最適係数グループサイズの値をビットストリームの中に符号化することにより、その値は、復号器によって獲得され、使用されることができる。
【０１２１】
テストされる係数グループサイズは、変換ユニットサイズに基づき得る。例えば、３２ｘ３２の変換ユニットは、グループサイズ８ｘ８、４ｘ４および２ｘ２をテストし得る。テストされるグループが選択可能であり得、符号化器は、いくらのグループサイズが各変換ユニットサイズに対するテストであるかについて示し得る（例えば、シーケンスヘッダーの中に）。例えば、符号化器および復号器が１６ｘ１６のＴＵに対するテストに同意したと仮定すると、修正されたＲＤＯＱは、２つの異なる係数グループサイズ：それぞれ１および０によって表示される４ｘ４および２ｘ２をテストする。修正されたＲＤＯＱが２ｘ２が最適であると決定すると、符号化器は、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｉｃｉｅｎｔ−ｇｒｏｕｐ ｆｌａｇのビットストリームの前のビットストリームの中に、ビン（ｂｉｎ）１を符号化する。復号器は、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｉｃｉｅｎｔ−ｇｒｏｕｐ ｆｌａｇの前にこのビンを復号し、現在のＴＵに対する係数グループサイズが２ｘ２であることを知る。
【０１２２】
別の実施形態において、ＲＤＯＱプロセスは、マルチレベルスキャンを利用する。すなわち、Ｌ１／Ｌ０ＲＤＯＱは、グループごとの方法によって実行され、その後に最後の位置を決定することが続く。特に、１６ｘ１６ＴＵ、４ｘ４の係数グループ、および４ｘ４グループにわたるマルチレベルスキャンに対する例示的なＲＤＯＱプロセスは、次のとおりである。
【０１２３】
ステップ１：ｎＣＧ＝１５と設定する（最後の係数グループから始まる）。
【０１２４】
ステップ２：マルチレベルスキャンによって特定されたとおりのグループ内のスキャン順序に従って、グループ位置ｎＣＧにおける係数グループの各係数に対してＬ０ＲＤＯＱを実行する。
【０１２５】
ステップ３：ステップ２の後に結果として生じる係数グループが非ゼロ係数を有し、ｎＣＧが０よりも大きく、そして右隣りまたは下隣りのいずれかが、その有効係数グループフラグをゼロに設定した場合、係数グループに対してＬ１ＲＤＯＱを実行する。すなわち、１）ＲＤコストを計算して、Ｌ１フラグを現在の係数グループに対してゼロに設定する、２）コストが、ステップ２から生じるＲＤコストより小さい場合、係数グループにおけるすべての係数をゼロに設定し、そして、現在のグループの有効係数グループフラグを０に設定する。
【０１２６】
ステップ４：ｎＣＧを１だけ減らす。
【０１２７】
ステップ５：ｎＣＧが０と等しくなるまで、ステップ１〜４を反復する。
【０１２８】
ステップ６：最後の位置を決定し、ＲＤコストを最小にする。
【０１２９】
図１７は、この例をフローチャート形式で示しており、マルチレベルスキャン順序によるマルチレベル有効性写像のＲＤＯＱ符号化に対する例示的なプロセス４５０を示している。プロセス４５０は、最後の有効係数を含むグループに基づいて係数グループの数ｎＣＧを設定する第１の動作４５２を含む。動作４５４において、Ｌ０ＲＤＯＱプロセスが、現在の係数グループ内の係数に対して実行される。すなわち、レートひずみ最適化が、現在のグループにおける各係数に対する最適な係数値を決定するために使用される。動作４５６において、非ゼロ係数が存在しない場合、プロセス４５０は、動作４６４へスキップし、スキャン順序における次の係数グループへ進み、そして、動作４５４へ戻り、次の係数グループに対してＬ０ＲＤＯＱを実行する。プロセス４５０はまた、下隣りのグループおよび右隣りのグループが、両方が非ゼロである有効係数フラグを有する場合、動作４６４にスキップすることに留意されたい。
【０１３０】
動作４５６において、現在のグループに非ゼロ係数が存在する場合、プロセス４５０は、動作４５８へ進み、動作４５８においては、Ｌ１ＲＤＯＱが、現在のグループに関して実行される。すなわち、もしＬ１フラグ（有効係数グループフラグ）がゼロに設定され、それによって、復号器における係数がすべてゼロとなる場合のＲＤコストが計算される。動作４６０で評価されるレート節減対ひずみが、より低いＲＤコストを生じる場合、次の動作４６２において、係数をゼロにし、そして、有効係数グループフラグがゼロに設定される。
（例示的シンタックス）
マルチレベル有効性写像を実装することに対する例示的シンタックスは、以下に提供される。この例示的シンタックスは、わずかに１つの可能な実装である。
【０１３１】
有効係数グループフラグは、
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］と表示および規定され得る。
【０１３２】
現在の１６ｘ１６または３２ｘ３２の変換ブロック内の係数グループ位置（ｘＣＧ，ｙＣＧ）に対して、このフラグは、場所（ｘＣＧ，ｙＣＧ）における対応する係数グループが、非ゼロ係数を有するか否かを以下のように特定する：
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］が０に等しい場合、場所（ｘＣＧ，ｙＣＧ）における係数グループの中の非ゼロ係数の数は、０に等しく設定され；
そうでない（ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］が１に等しい）場合、場所（ｘＣＧ，ｙＣＧ）における係数グループの中の非ゼロ係数の数は、以下に規定される特殊ケースを除いて非ゼロである。
【０１３３】
特殊ケースは、以下のように規定される：
１．スキャン順序の第１の係数グループ位置（０，０）におけるｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［０］［０］は、１に等しいと推測される。
２．スキャン順序の係数グループ位置（ｘＣＧ，ｙＣＧ）におけるｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］は、
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ＋１］＝１、かつ、
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ＋１］［ｙＣＧ］＝１
の場合、１に等しいと推測される。
【０１３４】
ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］が存在しない場合、それは０に等しいと推測される。
【０１３５】
一部の実施形態において、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］は、４ｘ４および８ｘ８の変換ブロックに適用されない。
【０１３６】
以下の擬似コードは、再構成量子化変換領域係数（残差）に対する、復号プロセス内でのマルチレベル有効性写像の１つの例示的実装を例示している。
【０１３７】
擬似コードの第１の部分は、最後の有効係数位置を復号することを含むことに留意する。（ｉｆ（ｌｏｇ２ＴｒａｆｏＳｉｚｅ＞３）によって示されるように）変換ユニットが１６ｘ１６以上である場合、グループの数が決定され、そして、各係数グループにおける係数の数。第２のｉｆ−ｅｌｓｅステートメントは、最後の有効係数を含む係数グループ内の有効係数フラグの復号を表している。
【０１３８】
【数１−１】
【０１３９】
【数１−２】
メインのｉｆ−ｅｌｓｅステートメント内の第２のフォー−ループ（ｆｏｒ−ｌｏｏｐ）は、グループスキャン順序でのグループ毎の処理を表す。そのループの第１の部分の内部において、２つの特殊ケースが、ｉｆ−ｅｌｓｅステートメントで取り扱われる。つまり、係数グループが左上のグループ（すなわち、ｎＣＧ＝０）である場合、または現在のグループの右および下のグループが、両方が非ゼロである有効係数グループフラグを有する場合、有効係数グループフラグは、１に設定される。これら２つのケースが適用されない場合（「ｅｌｓｅ］クローズ（ｃｌａｕｓｅ））、有効係数グループフラグが、ビットストリームから復号される（ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆｇｒｏｕｐ＿ｆｌａｇ［ｘＣＧ］［ｙＣＧ］）。
【０１４０】
ｉｆ−ｅｌｓｅステートメントに続いて、さらなるｉｆ−ｅｌｓｅステートメントが、有効係数グループフラグが非ゼロである場合、そのグループに対する有効係数フラグは、スキャン順序でビットストリームから復号されることを規定する。グループにおける最後の（左上の）有効係数フラグを除く全ては、ビットストリームから復号される。復号器は次に、そのグループに対して復号された有効係数フラグのうちの任意のものが非ゼロであるかどうか評価する。そうである場合、復号器は、そのグループに対して最後の（左上の）有効係数フラグを復号し、そうしない場合は、復号器は、それを１に設定する（なぜならば、復号器は、それが、ゼロではあり得ないことを知っているからである）。
【０１４１】
後に続く「ｅｌｓｅ」ステートメントは、有効係数グループフラグがゼロである状況に適用される。この場合、そのグループに対する全ての有効係数フラグはゼロに設定される。
【０１４２】
上記の擬似コードは、図１６に関連して上に記述された例示的方法７００の１つの例示的な実装を示す。有効係数グループフラグおよび（もしあれば）それらと対応する有効係数フラグは、この実施形態において、インタリーブされる。図１６における例示的な方法７００と例示的な擬似コードとの間の相違は、例示的な方法７００は、動作７２０において左上のグループの特殊ケースを取り扱い、一方、擬似コードは、そのグループに対する有効係数グループフラグを非ゼロに設定し、従って、動作７１４においてビットストリームからそのグループの有効係数フラグを復号することによって、動作７０８内の特殊ケースを取り扱う。
【０１４３】
別の実施形態において、係数グループサイズが固定され得る。固定された４ｘ４の係数グループを使用する例示的シンタックスが、以下の擬似コードで開始される。
【０１４４】
【数２−１】
【０１４５】
【数２−２】
【０１４６】
【数２−３】
さらに別の実施形態において、有効係数グループフラグは、ビットストリーム内において、有効係数フラグとインタリーブされないことがあり得る。すなわち、有効係数グループフラグは、ビットストリームにおいて一緒に符号化され、そして、有効係数フラグは、スキャン順序でグループごとに、ビットストリームにおいてそれらの後に続く。非インタリーブ実施形態に対応する例示的シンタックスが、以下の擬似コードで開始される。
【０１４７】
【数３−１】
【０１４８】
【数３−２】
【０１４９】
【数３−３】
ここで、図１２を参照すると、図１２は、符号化器９００の例示的実施形態の簡略ブロック図を示している。符号化器９００は、プロセッサ９０２、メモリ９０４および符号化アプリケーション９０６を含む。符号化アプリケーション９０６は、メモリ９０４に記憶され、およびプロセッサ９０２を構成するための命令を含むコンピュータプログラムまたはアプリケーションを含むことにより、本明細書に記述されるような動作を実行し得る。例えば、符号化アプリケーション９０６は、本明細書に記述されるマルチレベル有効性写像プロセスに従って、ビットストリームを符号化および出力し得る。符号化アプリケーション９０６は、コンピュータ可読媒体、例えば、コンパクトディスク、フラッシュメモリデバイス、ランダムアクセスメモリ、ハードディスクなどに記憶され得ることが理解されるであろう。
【０１５０】
ここで、図１３を参照すると、図１３は、復号器１０００の例示的実施例の簡略ブロック図を示している。復号器１０００は、プロセッサ１００２、メモリ１００４および復号アプリケーション１００６を含む。復号アプリケーション１００６は、メモリ１００４に記憶され、およびプロセッサ１００２を構成するための命令を含むコンピュータプログラムまたはアプリケーションを含むことにより、本明細書に記述されるそれらのような動作を実行し得る。復号アプリケーション１００６は、本明細書に記述されるように、マルチレベル有効性写像に基づいて残差を再構成するように構成されるエントロピー復号器を含み得る。復号アプリケーション１００６は、コンピュータ可読媒体、例えば、コンパクトディスク、フラッシュメモリデバイス、ランダムアクセスメモリ、ハードディスクなどに記憶され得ることが理解されるであろう。
【０１５１】
本願に従う復号器および／または符号化器は、いくつかのコンピューティング装置、例えば、限定するものではないが、サーバー、適切にプログラムされた汎用コンピュータ、オーディオ／動画像符号化および再生装置、セットトップ・テレビ・ボックス、テレビ放送装置およびモバイル装置などに実装され得る。復号器または符号化器は、プロセッサを本明細書に記述される機能を実行するように構成するための命令を含んでいるソフトウェアとして実装され得る。ソフトウェア命令は、ＣＤ、ＲＡＭ、ＲＯＭ、Ｆｌａｓｈメモリなどを含む任意の好適な固定コンピュータ可読メモリに記憶され得る。
【０１５２】
本明細書に記述される符号化器およびモジュール、ルーチン、プロセス、スレッド、または符号化器を構成するための記述された方法／プロセスを実装する他のソフトウェアコンポーネントが、標準的なコンピュータプログラミング技術または言語を使用して実現され得ることが理解されるであろう。本願は、特定のプロセッサ、コンピュータ言語、コンピュータプログラミング規則、データ構造、他のそのような実装詳細に限定されない。当業者であれば、記述されたプロセスは、揮発性または非揮発性記憶装置に記憶されるコンピュータ実行可能コードの一部として、特定用途向けチップ（ＡＳＩＣ）の一部などとして実装され得ることを認識するであろう。
【０１５３】
記述された実施形態の特定の適合および修正がなされることができる。したがって、上記の議論された実施形態は、例示的であって限定的ではないと考えられる。
【符号の説明】
【０１５４】
２０ 符号化モードセレクター
２１ 空間予測器
２２ 変更プロセッサ
２４ 量子化器
２６ エントロピー符号化器
２８ 逆量子化器
３０ 逆変換プロセッサ
３２ デブロッキングプロセッサ
３４ フレーム記憶
３６ 運動予測器
５０ 復号器
５２ エントロピー復号器
５４ 逆量子化器
５６ 逆変換プロセッサ
５７ 空間補償器
５８ フレームバッファー
６０ デブロッキングプロセッサ
６２ 運動補償器
【特許請求の範囲】
【請求項１】
符号化されたデータのビットストリームから変換ユニットに対する有効係数フラグを再構成する方法であって、該ビットストリームは、符号化された有効係数グループフラグを含み、各有効係数グループフラグは、有効係数フラグのそれぞれのグループと対応し、該方法は、
該有効係数フラグのそれぞれのグループの各々に対して、グループスキャン順序で、
そのグループと対応する有効係数グループフラグを再構成することと、
該対応する有効係数グループフラグが非ゼロである場合、そのグループ内のスキャン順序でビットストリームから該有効係数フラグを復号すること、および
該対応する有効係数グループフラグがゼロの場合、該有効係数フラグをゼロに設定することによって
そのグループにおける該有効係数フラグを再構成することと
を含む、方法。
【請求項２】
前記グループスキャン順序は、前記有効係数フラグのそれぞれのグループが再構成される規定された順序である、請求項１に記載の方法。
【請求項３】
前記それぞれのグループのうちの次の１つの有効係数フラグは、前記グループスキャン順序においてより前の全てのグループの全ての有効係数フラグが、再構成された後にだけ再構成される、請求項２に記載の方法。
【請求項４】
前記それぞれのグループの再構成に対する前記規定された順序は、斜め方向の順序である、請求項２または請求項３に記載の方法。
【請求項５】
前記スキャン順序は、前記グループの各々の内の有効係数フラグが再構成される規定された順序である、請求項１〜４のうちのいずれか一項に記載の方法。
【請求項６】
前記グループの各々の内の有効係数フラグの前記規定された順序は、斜め方向の順序である、請求項５に記載の方法。
【請求項７】
前記有効係数グループフラグを再構成することは、該有効係数グループフラグのうちの少なくとも幾つかをビットストリームの前記符号化されたデータから復号することを含む、請求項１〜６のうちのいずれか一項に記載の方法。
【請求項８】
前記有効係数フラグのそれぞれのグループは、最後の有効係数を含むグループおよび位置［０，０］を含むグループを除外する、請求項１〜７のうちのいずれか一項に記載の方法。
【請求項９】
最後の有効係数に対する有効係数フラグを含むグループに対して、有効係数グループフラグを１に設定することをさらに含む、請求項１〜７のうちのいずれか一項に記載の方法。
【請求項１０】
位置［０，０］における係数に対する有効係数フラグを含むグループに対して、有効係数グループフラグを１に設定することをさらに含む、請求項１〜７のうちのいずれか一項に記載の方法。
【請求項１１】
前記グループは、連続する正方形ブロックである、請求項１〜１０のうちのいずれか一項に記載の方法。
【請求項１２】
各グループは、非正方形、長方形ブロックである、請求項１〜１０のうちのいずれか一項に記載の方法。
【請求項１３】
前記有効係数グループフラグのうちの１つを再構成することは、２つの隣りのグループに対して再構成された有効係数グループフラグに基づいてその有効係数グループフラグに対するコンテキストを決定することを含み、該２つの隣りグループは、右隣りと下隣りとを含み、該２つの隣りのグループに対する該有効係数フラグの両方が０である場合は、該コンテキストは０であり、そうではない場合は、コンテキストは１である、請求項１〜１０のうちのいずれか一項に記載の方法。
【請求項１４】
変換ユニットに対する有効係数フラグを再構成するために、符号化されたデータのビットストリームを復号する復号器であって、該復号器は、
プロセッサと、
メモリと、
復号アプリケーションであって、該復号アプリケーションは、該メモリに格納され、請求項１〜１３のうちのいずれか一項に記載の方法を実行するために該プロセッサを構成するための命令を含む、復号アプリケーションと
を備えている、復号器。
【請求項１５】
プロセッサ実行可能な命令を記憶する非一時的なプロセッサ読み取り可能媒体であって、該命令は、実行されると、請求項１〜１３のうちのいずれか一項に記載の方法を実行するように１つ以上のプロセッサを構成する、非一時的なプロセッサ読み取り可能媒体。
【請求項１６】
変換ユニットに対する有効係数フラグを符号化する方法であって、該方法は、
有効係数フラグの各それぞれのグループに対してグループスキャン順序で、
特殊ケースが当てはまらない場合、そのグループと対応する有効係数グループフラグを符号化することであって、その対応するグループが非ゼロの有効係数フラグを含まないことを示すために、該有効係数グループフラグは、ゼロに設定される、ことと、
該対応する有効係数グループフラグが非ゼロの場合、そのグループ内のスキャン順序でそのグループにおける該有効係数フラグを符号化することと
を含む、方法。
【請求項１】
符号化されたデータのビットストリームから変換ユニットに対する有効係数フラグを再構成する方法であって、該ビットストリームは、符号化された有効係数グループフラグを含み、各有効係数グループフラグは、有効係数フラグのそれぞれのグループと対応し、該方法は、
該有効係数フラグのそれぞれのグループの各々に対して、グループスキャン順序で、
そのグループと対応する有効係数グループフラグを再構成することと、
該対応する有効係数グループフラグが非ゼロである場合、そのグループ内のスキャン順序でビットストリームから該有効係数フラグを復号すること、および
該対応する有効係数グループフラグがゼロの場合、該有効係数フラグをゼロに設定することによって
そのグループにおける該有効係数フラグを再構成することと
を含む、方法。
【請求項２】
前記グループスキャン順序は、前記有効係数フラグのそれぞれのグループが再構成される規定された順序である、請求項１に記載の方法。
【請求項３】
前記それぞれのグループのうちの次の１つの有効係数フラグは、前記グループスキャン順序においてより前の全てのグループの全ての有効係数フラグが、再構成された後にだけ再構成される、請求項２に記載の方法。
【請求項４】
前記それぞれのグループの再構成に対する前記規定された順序は、斜め方向の順序である、請求項２または請求項３に記載の方法。
【請求項５】
前記スキャン順序は、前記グループの各々の内の有効係数フラグが再構成される規定された順序である、請求項１〜４のうちのいずれか一項に記載の方法。
【請求項６】
前記グループの各々の内の有効係数フラグの前記規定された順序は、斜め方向の順序である、請求項５に記載の方法。
【請求項７】
前記有効係数グループフラグを再構成することは、該有効係数グループフラグのうちの少なくとも幾つかをビットストリームの前記符号化されたデータから復号することを含む、請求項１〜６のうちのいずれか一項に記載の方法。
【請求項８】
前記有効係数フラグのそれぞれのグループは、最後の有効係数を含むグループおよび位置［０，０］を含むグループを除外する、請求項１〜７のうちのいずれか一項に記載の方法。
【請求項９】
最後の有効係数に対する有効係数フラグを含むグループに対して、有効係数グループフラグを１に設定することをさらに含む、請求項１〜７のうちのいずれか一項に記載の方法。
【請求項１０】
位置［０，０］における係数に対する有効係数フラグを含むグループに対して、有効係数グループフラグを１に設定することをさらに含む、請求項１〜７のうちのいずれか一項に記載の方法。
【請求項１１】
前記グループは、連続する正方形ブロックである、請求項１〜１０のうちのいずれか一項に記載の方法。
【請求項１２】
各グループは、非正方形、長方形ブロックである、請求項１〜１０のうちのいずれか一項に記載の方法。
【請求項１３】
前記有効係数グループフラグのうちの１つを再構成することは、２つの隣りのグループに対して再構成された有効係数グループフラグに基づいてその有効係数グループフラグに対するコンテキストを決定することを含み、該２つの隣りグループは、右隣りと下隣りとを含み、該２つの隣りのグループに対する該有効係数フラグの両方が０である場合は、該コンテキストは０であり、そうではない場合は、コンテキストは１である、請求項１〜１０のうちのいずれか一項に記載の方法。
【請求項１４】
変換ユニットに対する有効係数フラグを再構成するために、符号化されたデータのビットストリームを復号する復号器であって、該復号器は、
プロセッサと、
メモリと、
復号アプリケーションであって、該復号アプリケーションは、該メモリに格納され、請求項１〜１３のうちのいずれか一項に記載の方法を実行するために該プロセッサを構成するための命令を含む、復号アプリケーションと
を備えている、復号器。
【請求項１５】
プロセッサ実行可能な命令を記憶する非一時的なプロセッサ読み取り可能媒体であって、該命令は、実行されると、請求項１〜１３のうちのいずれか一項に記載の方法を実行するように１つ以上のプロセッサを構成する、非一時的なプロセッサ読み取り可能媒体。
【請求項１６】
変換ユニットに対する有効係数フラグを符号化する方法であって、該方法は、
有効係数フラグの各それぞれのグループに対してグループスキャン順序で、
特殊ケースが当てはまらない場合、そのグループと対応する有効係数グループフラグを符号化することであって、その対応するグループが非ゼロの有効係数フラグを含まないことを示すために、該有効係数グループフラグは、ゼロに設定される、ことと、
該対応する有効係数グループフラグが非ゼロの場合、そのグループ内のスキャン順序でそのグループにおける該有効係数フラグを符号化することと
を含む、方法。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【公開番号】特開２０１３−１１０７４０（Ｐ２０１３−１１０７４０Ａ）
【公開日】平成２５年６月６日（２０１３．６．６）
【国際特許分類】
【出願番号】特願２０１２−２４８２０５（Ｐ２０１２−２４８２０５）
【出願日】平成２４年１１月１２日（２０１２．１１．１２）
【出願人】（５０００４３５７４）リサーチ イン モーション リミテッド (531)
【氏名又は名称原語表記】Ｒｅｓｅａｒｃｈ Ｉｎ Ｍｏｔｉｏｎ Ｌｉｍｉｔｅｄ
【住所又は居所原語表記】２９５ Ｐｈｉｌｌｉｐ Ｓｔｒｅｅｔ， Ｗａｔｅｒｌｏｏ， Ｏｎｔａｒｉｏ Ｎ２Ｌ ３Ｗ８ Ｃａｎａｄａ
【Ｆターム（参考）】
【公開日】平成２５年６月６日（２０１３．６．６）
【国際特許分類】
【出願日】平成２４年１１月１２日（２０１２．１１．１２）
【出願人】（５０００４３５７４）リサーチ イン モーション リミテッド (531)
【氏名又は名称原語表記】Ｒｅｓｅａｒｃｈ Ｉｎ Ｍｏｔｉｏｎ Ｌｉｍｉｔｅｄ
【住所又は居所原語表記】２９５ Ｐｈｉｌｌｉｐ Ｓｔｒｅｅｔ， Ｗａｔｅｒｌｏｏ， Ｏｎｔａｒｉｏ Ｎ２Ｌ ３Ｗ８ Ｃａｎａｄａ
【Ｆターム（参考）】
[ Back to top ]