説明

画像処理装置及びプログラム

【課題】計算量の増加を抑えつつ、画面内予測の効率を向上させる。
【解決手段】複数の予測方向を用いて画面内予測を行う画像処理装置であって、参照される可能性に基づいて複数の参照画素を複数のグループに分類する分類部と、分類された各グループに対して異なるフィルタを決定するフィルタ決定部と、フィルタ決定部により決定されたフィルタを用いて、各グループに含まれる参照画素の画素値にフィルタリングを行うフィルタリング部と、フィルタリング部によるフィルタリング後の画素値を用いて、画面内予測の予測画像を生成する生成部と、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の予測方向を用いて画面内予測を行う画像処理装置及びプログラムに関する。
【背景技術】
【0002】
近年マルチメディア化が進み、動画像を扱う機会が多くなってきている。画像データは情報量が大きく、画像の集合である動画像は、テレビ放送の主流であるハイビジョン(1920×1080)放送で1Gbit/secを超える情報量である。
【0003】
そのため、動画像データは、H.264/AVC(Advanced Video Coding)や規格化作業中のHEVC(High Efficiency Video Coding)などに代表される符号化標準技術によって、情報量を圧縮して伝送・蓄積が行われている。
【0004】
符号化標準技術であるH.264/AVCは、直交変換や画面間予測、画面内予測、算術符号化、デブロッキングフィルタなどのツールを利用して、動画像の1/100程度までの圧縮を実現している。ツールの一つである画面内予測は、処理対象ブロックに隣接する画素値を参照画素として、複数の予測モードから最適な予測モードを決定して画面内予測を行う。
【0005】
また、H.264/AVCで、高画質化のために追加された技術に、8×8の画面内予測がある(非特許文献1)。
【0006】
図1は、H.264/AVCの8×8の画面内予測を説明するための図である。図1に示す画素A〜Yは、参照画素を示し、文字が無い白丸の画素は、処理対象ブロックの画素を示す。ここで、画面内予測を行う前に、参照画素A〜Yに対して、[1/4,1/2,1/4]のローパスフィルタが適用される。ローパスフィルタは以下、LPFとも呼ぶ。
【0007】
例えば、参照画素Cを参照するときは、B×0.25+C×0.5+D×0.25の画素値が用いられる。両端の参照画素AとYとについては、[1/4,3/4]のフィルタが用いられる。例えば、参照画素Aを参照するときは、B×0.25+A×0.75の画素値が用いられる。
【0008】
また、規格化作業中であるHEVC方式でも、H.264/AVCの8×8の画面内予測で用いた参照画素のフィルタリングが、ブロックサイズに限らず画面内予測の前に行なわれることで規格化が進められている。
【0009】
このHEVC方式において、着目画素の前後の画素値の差の絶対値が閾値以下の場合はフィルタリングを行い、閾値より大きい場合はフィルタリングを行わない、という参照画素のフィルタリング方法が提案されている(非特許文献2)。
【0010】
提案されたフィルタリング方法では、例えば、図1に示すDの画素を参照する場合、abs(C−E)の値が閾値以下の場合はフィルタリングを行った画素値を用い、abs(C−E)の値が閾値を超える場合はDの値をそのまま用いる。
【先行技術文献】
【非特許文献】
【0011】
【非特許文献1】大久保榮監修,「改訂三版 H.264/AVC 教科書」,インプレス R&D,p.264−268,2009年1月1日
【非特許文献2】Jane Zhao,「On intra prediction(JCTVC-E437)」,Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 5th Meeting: Geneva, CH, 16-23 March, 2011
【発明の概要】
【発明が解決しようとする課題】
【0012】
ここで、画面内予測の参照画素にフィルタリングを行う目的は、参照画素に含まれるノイズを低減することである。フィルタリングを行わない場合、参照画素にノイズが含まれていると、画面内予測の予測方向にそのノイズが引き延ばされてしまう。この場合、処理対象ブロック(予測ブロック)には存在していない縞模様が画面内予測により生成されるため、画面内予測の効率が低下する。
【0013】
また、画面内予測の予測方向にエッジが存在していた場合、LPFを適用することでエッジの値が変化するため、画面内予測の効率が低下する。これは、本来存在していたエッジとは異なるエッジが、画面内予測により生成されるからである。
【0014】
このように、ノイズ削減効果と、エッジが存在していた場合に画面内予測の効率が低下することは表裏一体の関係となっている。
【0015】
そのため、非特許文献2では、参照画素に隣接する画素値を用いて、ノイズとエッジとの判定を行うことで、画面内予測の効率を向上させていた。
【0016】
しかしながら、非特許文献2では、参照画素ごとに、参照画素に隣接する画素値を用いた判定を行うため、計算量が増大してしまうという問題点があった。
【0017】
そこで、本発明は、上記課題に鑑みてなされたものであり、計算量の増加を抑えつつ、画面内予測の効率を向上させることができる画像処理装置及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0018】
本発明の一態様における画像処理装置は、複数の予測方向を用いて画面内予測を行う画像処理装置であって、参照される可能性に基づいて複数の参照画素を複数のグループに分類する分類部と、分類された各グループに対して異なるフィルタを決定するフィルタ決定部と、前記フィルタ決定部により決定されたフィルタを用いて、各グループに含まれる前記参照画素の画素値にフィルタリングを行うフィルタリング部と、前記フィルタリング部によるフィルタリング後の画素値を用いて、前記画面内予測の予測画像を生成する生成部と、を備える。
【0019】
また、前記分類部は、参照される予測方向数の数に基づいて前記複数の参照画素を分類してもよい。
【0020】
また、前記分類部は、処理対象ブロックに隣接するか否かで前記複数の参照画素を分類してもよい。
【0021】
また、前記分類部は、前記処理対象ブロックに隣接する参照画素、又は前記処理対象ブロックに隣接しない画素をさらに複数のグループに分類してもよい。
【0022】
また、前記フィルタ決定部は、前記グループ内の参照画素が参照される可能性が高いほど、通過帯域の広いローパスフィルタに決定してもよい。
【0023】
また、前記フィルタ決定部は、参照される可能性が最も高い参照画素を含む第1グループに対して、ノイズ除去フィルタに決定し、前記第1グループ以外のグループに対して、該グループ内の参照画素が参照される可能性が高いほど、通過帯域の広いローパスフィルタに決定してもよい。
【0024】
また、本発明の他の態様におけるプログラムは、参照される可能性に基づいて複数の参照画素を複数のグループに分類する分類ステップと、分類された各グループに対して異なるフィルタを決定するフィルタ決定ステップと、決定されたフィルタを用いて、各グループに含まれる前記参照画素の画素値にフィルタリングを行うフィルタリングステップと、フィルタリング後の画素値を用いて、画面内予測の予測画像を生成する生成ステップとをコンピュータに実行させる。
【発明の効果】
【0025】
本発明によれば、計算量の増加を抑えつつ、画面内予測の効率を向上させることができる。
【図面の簡単な説明】
【0026】
【図1】H.264/AVCの8×8の画面内予測を説明するための図。
【図2】実施例1における画像符号化装置の概略構成の一例を示すブロック図。
【図3】イントラ予測部の構成の一例を示すブロック図。
【図4】8×8の画面内予測符号化の予測方向を示す図。
【図5】H.264/AVCにおける参照画素Yを参照する予測方向を示す図。
【図6】H.264/AVCにおける参照画素Uを参照する予測方向を示す図。
【図7】H.264/AVCにおける参照画素Qを参照する予測方向を示す図。
【図8】H.264/AVCにおける参照画素Mを参照する予測方向を示す図。
【図9】参照画素を2分類する一例を示す図。
【図10】参照画素を3分類する一例を示す図。
【図11】実験結果を示す図。
【図12】実施例1におけるが画面内予測処理の一例を示すフローチャート。
【図13】実施例2における画像符号化装置の構成の一例を示すブロック図。
【発明を実施するための形態】
【0027】
以下、添付図面を参照しながら各実施例について詳細に説明する。
【0028】
[実施例1]
<構成>
図2は、実施例1における画像符号化装置100の概略構成の一例を示すブロック図である。図2に示す例では、画像符号化装置100は、予測誤差信号生成部101、直交変換部102、量子化部103、エントロピー符号化部104、逆量子化部105、逆直交変換部106、復号画像生成部107、デブロッキングフィルタ部108、復号画像記憶部109、イントラ予測部110、インター予測部111、動きベクトル計算部112、符号化制御及びヘッダ生成部113及び予測画像選択部114を有する。各部についての概略を以下に説明する。
【0029】
予測誤差信号生成部101は、入力された動画像データの符号化対象画像が、例えば16×16画素のブロックに分割されたブロックデータを取得する。
【0030】
予測誤差信号生成部101は、そのブロックデータと、予測画像選択部114から出力される予測画像のブロックデータとにより、予測誤差信号を生成する。予測誤差信号生成部101は、生成された予測誤差信号を直交変換部102に出力する。
【0031】
直交変換部102は、入力された予測誤差信号を直交変換処理する。直交変換部102は、直交変換処理によって水平及び垂直方向の周波数成分に分離された信号を量子化部103に出力する。
【0032】
量子化部103は、直交変換部102からの出力信号を量子化する。量子化部103は、量子化することによって出力信号の符号量を低減し、この出力信号をエントロピー符号化部104及び逆量子化部105に出力する。
【0033】
エントロピー符号化部104は、量子化部103からの出力信号をエントロピー符号化して出力する。エントロピー符号化とは、シンボルの出現頻度に応じて可変長の符号を割り当てる方式をいう。
【0034】
逆量子化部105は、量子化部103からの出力信号を逆量子化してから逆直交変換部106に出力する。逆直交変換部106は、逆量子化部105からの出力信号を逆直交変換処理してから復号画像生成部107に出力する。これら逆量子化部105及び逆直交変換部106によって復号処理が行われることにより、符号化前の予測誤差信号と同程度の信号が得られる。
【0035】
復号画像生成部107は、インター予測部111で動き補償された画像のブロックデータと、逆量子化部105及び逆直交変換部106により復号処理された予測誤差信号とを加算する。復号画像生成部107は、加算して生成した復号画像のブロックデータを、デブロッキングフィルタ部108に出力する。
【0036】
デブロッキングフィルタ部108は、復号画像生成部107から出力された復号画像に対し、ブロック歪を低減するためのフィルタをかけ、復号画像記憶部109に出力する。
【0037】
復号画像記憶部109は、入力した復号画像のブロックデータを新たな参照画像のデータとして記憶し、イントラ予測部110、インター予測部111及び動きベクトル計算部112に出力する。
【0038】
イントラ予測部110は、符号化対象画像の処理対象ブロックに対して、すでに符号化された参照画素から予測画像を生成する。イントラ予測部110の詳細は、図2を用いて後述する。
【0039】
インター予測部111は、復号画像記憶部109から取得した参照画像のデータを動きベクトル計算部112から提供される動きベクトルで動き補償する。これにより、動き補償された参照画像としてのブロックデータが生成される。
【0040】
動きベクトル計算部112は、符号化対象画像におけるブロックデータと、復号画像記憶部109から取得する参照画像とを用いて、動きベクトルを求める。動きベクトルとは、ブロック単位で参照画像内から処理対象ブロックに最も類似している位置を探索するブロックマッチング技術を用いて求められるブロック単位の空間的なずれを示す値である。動きベクトル計算部112は、求めた動きベクトルをインター予測部111に出力する。
【0041】
イントラ予測部110とインター予測部111から出力されたブロックデータは、予測画像選択部114に入力される。
【0042】
予測画像選択手段114は、イントラ予測部110とインター予測部111から取得したブロックデータのうち、どちらか一方のブロックデータを予測画像として選択する。選択された予測画像は、予測誤差信号生成部101に出力される。
【0043】
また、符号化制御及びヘッダ生成部113について、符号化の全体制御とヘッダ生成を行う。符号化制御及びヘッダ生成部113は、イントラ予測部110に対して、スライス分割有無の通知、デブロッキングフィルタ部108に対して、デブロッキングフィルタ有無の通知、動きベクトル計算部112に対して参照画像の制限通知などを行う。
【0044】
符号化制御及びヘッダ生成部113は、その制御結果を用いて、例えばH.264/AVCのヘッダ情報を生成する。生成されたヘッダ情報は、エントロピー符号化部104に出力され、画像データ、動きベクトルデータとともにストリームとして出力される。
【0045】
<イントラ予測部の構成>
次に、イントラ予測部110の構成について説明する。図3は、イントラ予測部110の構成の一例を示すブロック図である。図3に示すイントラ予測部110は、分類部201、フィルタ決定部202、フィルタリング部203、生成部204を有する。
【0046】
分類部201は、画面内予測で用いる複数の参照画素を、その参照画素が参照される可能性に基づいて複数のグループに分類する。分類部201は、例えば、参照される予測方向の数や処理対象ブロックに隣接するか否かで、参照画素を分類する。参照画素の分類の詳細については、図4〜10を用いて後述する。
【0047】
分類部201は、複数の参照画素を複数のグループに分類した場合、参照画素がどのグループに属するかを示す分類情報をフィルタ決定部202に出力する。
【0048】
フィルタ決定部202は、分類情報を取得すると、分類された各グループに対して異なるフィルタを決定する。フィルタ決定手段202は、例えば、グループに含まれる参照画素が参照される可能性が高いほど、通過帯域の広いLPFに決定する。また、フィルタ決定部202は、ノイズ除去フィルタを、参照される可能性が最も高い参照画素を含むグループに決定してもよい。フィルタ決定部202の詳細についても後述する。
【0049】
フィルタ決定部202は、どのグループにどのフィルタを決定したかを示すフィルタ情報をフィルタリング部203に出力する。
【0050】
フィルタリング部203は、復号画像記憶部109から参照画素の画素値を取得する。また、フィルタリング部203は、フィルタ決定部202からフィルタ情報を取得し、どの参照画素にどのフィルタを用いるかを把握する。
【0051】
フィルタリング部203は、フィルタ決定部202により決定されたフィルタを用いて、各グループに含まれる参照画素の画素値をフィルタリングする。フィルタリング部203は、フィルタリング後の画素値を生成部204に出力する。
【0052】
生成部204は、フィルタリング部203から取得したフィルタリング後の画素値を用いて、画面内予測の予測画像を生成する。生成部204は、例えば、予測画像生成部205、予測モード決定部206を有する。
【0053】
予測画像生成部205は、フィルタリング後の画素値を予測値として、画面内予測の予測方向に対応する予測モード毎に、予測画像を生成する。
【0054】
予測モード決定部206は、予測モード毎の予測画像と、処理対象ブロックとの差が最も小さい予測モードを決定する。予測モード決定部206は、決定された予測モードの予測画像を、予測画像選択部114に出力する。
【0055】
<参照画素の分類>
次に、分類部201による参照画素の分類について説明する。参照画素の例として、H.264/AVCの8×8のブロック(図1参照)を用いて説明するが、このブロックサイズに限らず、4×4、16×16などのブロックサイズでもよい。また、輝度及び色差いずれのブロックに対しても適用できる。また、正方形のブロックに限らず、例えば8×16などの長方形のブロックに対しても適用できる。
【0056】
まず、H.264/AVCの場合の予測方向について説明する。図4は、8×8の画面内予測符号化の予測方向を示す図である。図4に示す例では、各予測モードに対応する予測方向を示している。図4に示す灰色丸が参照画素を示し、白丸が処理対象画素を示す。矢印が予測方向を示す。
【0057】
例えば、予測モード0では、参照画素Pを、同じ列の画素(N0、N1、・・・、N7)の予測値とすることを示す。
【0058】
以下では、図4に示す予測方向を用いるが、図4に示す予測方向に限られず、他の予測方向がある場合でも、以下に説明する分類方法を同様に適用することができる。
【0059】
(予測方向の数に基づく分類)
分類部201は、例えば、参照される予測方向の数に基づいて参照画素を分類する。この分類方法は、参照される予測方向の数が多い場合、そのいずれかの方向にエッジが存在するとき、LPFにより画面内予測の効率が低下するという考えに基づく。
【0060】
図5は、H.264/AVCにおける参照画素Yを参照する予測方向を示す図である。図5に示すように、参照画素Yは、図4に示す予測モード3の予測方向の場合に参照される。
【0061】
図6は、H.264/AVCにおける参照画素Uを参照する予測方向を示す図である。図6に示すように、参照画素Uは、図4に示す予測モード3、7の予測方向の場合に参照される。
【0062】
図7は、H.264/AVCにおける参照画素Qを参照する予測方向を示す図である。図7に示すように、参照画素Qは、図4に示す予測モード0、3、7の予測方向の場合に参照される。
【0063】
図8は、H.264/AVCにおける参照画素Mを参照する予測方向を示す図である。図8に示すように、参照画素Mは、図4に示す予測モード0、3、4、5、6、7の予測方向の場合に参照される。
【0064】
例えば、参照画素Mについては、図8に示す6方向のいずれかにエッジが存在する場合に、LPFを適用すると画面内予測の効果が低下する要因となる。
【0065】
また、参照画素Uについては、図6に示す2方向のいずれかにエッジが存在する場合に、LPFを適用すると画面内予測の効果が低下する要因となるが、その他の予測方向では参照されないため、LPFの有無による影響が小さい。
【0066】
ここで、画像中に存在するエッジの方向がランダムであると仮定すると、画面内予測の予測方向と、エッジの方向とが一致する確率は、参照画素Mの方が、参照画素Uよりも3(=6(参照画素Mの予測方向数)/2(参照画素Uの予測方向数))倍高いことになる。
【0067】
よって、分類部201は、参照される予測方向の数に基づいて、参照画素を以下のように分類することができる。
グループ1:V,W,X,Y
グループ2:A,R,S,T,U
グループ3:H,I,Q
グループ4:B,C,D,F,J
グループ5:E,G,L,N,P
グループ6:K,M,O
グループ1は、参照される予測方向の数が1であり、グループ2は、参照される予測方向の数が2であり、グループ3は、参照される予測方向の数が3であり、グループ4は、参照される予測方向の数が4であり、グループ5は、参照される予測方向の数が5であり、グループ6は、参照される予測方向の数が6である。
【0068】
また、分類部201は、グループ1〜6のうち、複数のグループをまとめて分類してもよい。例えば、分類部201は、グループ1と2とを1つのグループ、グループ3と4とを1つのグループ、グループ5と6とを1つのグループにしてもよい。
【0069】
これにより、予測方向と一致する方向のエッジが存在する確率を考慮して、参照画素の分類を行うことができる。
【0070】
なお、符号化標準技術のブロックサイズや予測方向によって、分類されるグループ数が異なるが、ブロックサイズやどんな予測方向があるかが決まれば、分類部201は、参照画素の分類を一意に行うことができる。
【0071】
(隣接するか否かに基づく分類)
分類部201は、例えば、処理対象ブロックに隣接するか否かで参照画素を分類する。この分類方法は、処理対象ブロックに直接隣接する参照画素が、直接隣接しない参照画素よりも、参照される予測方向が多いという考えに基づく。
【0072】
図9は、参照画素を2分類する一例を示す図である。図9に示す例では、分類部201は、処理対象ブロックに直接隣接するグループ2、直接隣接しないグループ1に分類する。
グループ1:処理対象ブロックに直接隣接しない参照画素
グループ2:処理対象ブロックに直接隣接する参照画素
図10は、参照画素を3分類する一例を示す図である。図10に示す例では、分類部201は、処理対象ブロックに隣接するグループ2とグループ3と、処理対象ブロックに直接隣接しないグループ1とに分類する。
グループ1:処理対象ブロックに直接隣接しない参照画素
グループ2:処理対象ブロックの左上付近に直接隣接する参照画素
グループ3:処理対象ブロックに直接隣接し、グループ2以外の参照画素
グループ2は、例えば、図1に示すH,I,Jの参照画素とする。分類部201は、処理対象ブロックに直接隣接する参照画素及び/又は処理対象ブロックに直接隣接しない参照画素を、さらに複数のグループに分類してもよい。
【0073】
これにより、参照される可能性に基づいて、参照画素を複数のグループに簡易的に分類することができる。
【0074】
分類部201は、予測方向の数に基づく分類、隣接するか否かに基づく分類のいずれかの分類方法で、参照画素を分類すればよい。また、分類部201は、符号化レートなどに基づいて、どちらの分類を行うかを選択して分類することも可能である。
【0075】
<フィルタ決定>
次に、フィルタ決定部202によるフィルタ決定について説明する。フィルタ決定部202は、グループ内の参照画素が参照される可能性が高いほど、エッジ成分の変化が小さいフィルタに決定する。
【0076】
(LPF)
フィルタ決定部202は、例えば、グループ内の参照画素が参照される可能性が高いほど、通過帯域の広いLPFになるようフィルタを決定する。フィルタ決定部202は、例えば、分類部201により分類されたグループの番号が小さいほど、通過帯域の狭いフィルタにするよう決定する。
【0077】
例えば、分類部201は、予測方向の数に基づく分類を行ったとする。この場合、フィルタ決定部202は、グループ1と2に対し、[1/4,1/2,1/4]のLPFに決定し、グループ3と4に対し、[1/8,3/4,1/8]のLPFに決定し、グループ5と6に対し、[1/16,7/8,1/16]のLPFに決定する。
【0078】
例えば、分類部201は、隣接するか否かに基づいて3つのグループに分類を行ったとする。この場合、フィルタ決定部202は、グループ1に対し、[1/4,1/2,1/4]のLPFに決定し、グループ2に対し、[1/8,3/4,1/8]のLPFに決定し、グループ3に対し、[1/16,7/8,1/16]のLPFに決定する。上記LPFは、あくまでも一例であり、タップ数や通過帯域については適宜変更してもよい。
【0079】
つまり、参照される可能性が高い参照画素では、通過帯域の広いLPFを用いる。通過帯域の広いLPFは、通過帯域の狭いLPFと比較し、着目画素値の変化が小さい。そのため、参照される可能性が高い参照画素は、エッジが存在した場合でも予測効率の低下を小さくすることができる。
【0080】
一方、参照される可能性が低い参照画素は、適用される予測方向と一致するエッジが存在する確率が低いため、通過帯域の狭いLPFを用いる。これにより、十分なノイズの低減効果を期待することができる。
【0081】
(LPF+ノイズ除去フィルタ)
フィルタ決定部202は、例えば、参照される可能性が一番高い参照画素を含むグループに対し、ノイズ除去フィルタを決定し、その他のグループに対して、グループ内の参照画素が参照される可能性が高いほど、通過帯域の広いLPFになるようフィルタを決定する。
【0082】
フィルタ決定部202は、例えば、分類部201により分類されたグループの番号が一番大きいグループに対してノイズ除去フィルタに決定し、その他のグループについてはグループの番号が小さいほど、通過帯域の狭いフィルタにするよう決定する。
【0083】
ノイズ除去フィルタとは、例えば、メディアンフィルタ、移動平均フィルタ、εフィルタ、MTM(Modified Trimmed Mean)フィルタなどがある。例えば、ノイズ除去フィルタとして、フィルタのタップ数が少ないメディアンフィルタが計算量の観点から好適である。
【0084】
例えば、分類部201は、予測方向の数に基づく分類を行ったとする。この場合、フィルタ決定部202は、グループ1と2に対し、[1/4,1/2,1/4]のLPFに決定し、グループ3と4に対し、[1/8,3/4,1/8]のLPFに決定し、グループ5と6に対し、3タップのメディアンフィルタに決定する。
【0085】
例えば、分類部201は、隣接するか否かに基づいて3つのグループに分類を行ったとする。この場合、フィルタ決定部202は、グループ1に対し、[1/4,1/2,1/4]のLPFに決定し、グループ2に対し、[1/8,3/4,1/8]のLPFに決定し、グループ3に対し、3タップのメディアンフィルタに決定する。上記LPFは、あくまでも一例であり、タップ数や通過帯域については適宜変更してもよい。
【0086】
一般的にノイズ除去フィルタは、LPFよりもエッジの値の変化が小さいため、通過帯域を広くしたLPFと同様の効果が得られる。また、ノイズ除去フィルタは、LPFよりも計算量は多くなる場合があるが、例えば3タップのメディアンフィルタを用いた場合にはLPFからの計算量の増加は少ない。フィルタ決定部202は、上述したように、参照される予測方向の数が多いほど通過帯域を広くし、参照される予測方向の数が小さいほど通過帯域を狭くしたフィルタのセットを複数種類用意しておく。そして、予め各種の絵柄に応じたそれぞれのフィルタセットの効果を確かめておくことで、入力動画像の種類が与えられれば、フィルタ決定部202は、使用するフィルタセットを決めることができる。また、フィルタ決定部202は、入力動画像の絵柄の種類の判別に応じて、適応的にフィルタセットを変えてもよい。
【0087】
よって、実施例1では、参照画素毎のエッジ判定を行う必要がなく、参照画素の分類に応じたフィルタリングを行うことで、エッジを維持する効果と、ノイズを低減する効果との組み合わせにより、画面内予測の予測性能を向上させることが可能となる。
【0088】
<実験結果>
次に、HEVCの規格化作業で用いられているソフトウェアエンコーダHM3.0と、HM3.0に実施例1の方式を実装した提案方式とで行った符号化実験について説明する。
【0089】
実施例1の方式とは、処理対象ブロックに直接隣接するか否かにより2つのグループに分類し(図9参照)、グループ1に[1/4,1/2,1/4]のLPF、グループ2に[1/8,3/4,1/8]のLPFを適用する。
【0090】
実験では、画像A〜Dに対し、それぞれ符号化を行い、HM3.0をアンカーとし、提案方式の性能をBD−RATEで表す。
画像A:街の風景
画像B:室内の人物の映像
画像C:走る馬
画像D:屋内の人物の映像
BD−RATEは、「G. Bjontegaard, "Calculation of average PSNR differences between RD-Curves," ITU-T SG16 Q.6 Document, VCEG-M33,April 2001」に提案された符号化性能を比較する指標である。BD−RATEの値が0の場合はアンカーと提案方式の性能は等しく、BD−RATEの値が小さいほどアンカーより提案方式の性能が優れている。
【0091】
図11は、実験結果を示す図である。図11に示すように、提案方式では、HM3.0よりも符号化性能が向上していることが分かる。よって、実施例1では、計算量の増加を抑えつつ、画面内予測の予測性能を向上させることが可能となる。
【0092】
<動作>
次に、実施例1における画像符号化装置100の動作について説明する。図12は、実施例1におけるが画面内予測処理の一例を示すフローチャートである。
【0093】
図12に示すステップS101で、分類部201は、参照される可能性に基づいて参照画素を複数のグループに分類する。例えば、分類部201は、処理対象ブロックのブロックサイズなどに応じて分類方法を決めておき、この分類方法により分類を行えばよい。分類方法は、前述した通り、予測方向の数に基づく分類か、隣接するか否かに基づく分類かのいずれかを用いればよい。
【0094】
ステップS102で、フィルタ決定部202は、分類部201により決定されたグループに応じて異なるフィルタを決定する。フィルタ決定部202は、例えば、グループ内の参照画素が参照される可能性が高いほど、通過帯域の広いLPFに決定する。
【0095】
ステップS103で、フィルタリング部203は、フィルタ決定部202により決定されたフィルタを用いて、参照画素の画素値をフィルタリングする。
【0096】
ステップS104で、生成部204は、複数の予測モードに対応する予測画像を生成し、最適な予測モードを決定する。生成部204は、決定された予測モードの予測画像を予測画像選択部114に出力する。
【0097】
以上、実施例1によれば、計算量の増加を抑えつつ、画面内予測の予測効率を向上させることができる。
【0098】
[実施例2]
図13は、実施例2における画像符号化装置300の構成の一例を示すブロック図である。画像符号化装置300は、上述した実施例1で説明した画像符号化処理をソフトウェアで実装した装置の一例である。
【0099】
図13に示すように、画像符号化装置300は、制御部301、主記憶部302、補助記憶部303、ドライブ装置304、ネットワークI/F部306、入力部307、表示部308を有する。これら各構成は、バスを介して相互にデータ送受信可能に接続されている。
【0100】
制御部301は、コンピュータの中で、各装置の制御やデータの演算、加工を行うCPUである。また、制御部301は、主記憶部302又は補助記憶部303に記憶されたフィルタ処理を含む画像符号化処理のプログラムを実行する演算装置である。制御部301は、入力部307や記憶装置からデータを受け取り、演算、加工した上で、表示部308や記憶装置などに出力する。
【0101】
制御部301は、フィルタ処理を含む画像符号化処理のプログラムを実行することで、各実施例で説明したフィルタ処理を実現することができる。
【0102】
主記憶部302は、ROM(Read Only Memory)やRAM(Random Access Memory)などである。主記憶部302は、制御部301が実行する基本ソフトウェアであるOS(Operating System)やアプリケーションソフトウェアなどのプログラムやデータを記憶又は一時保存する記憶装置である。
【0103】
補助記憶部303は、HDD(Hard Disk Drive)などであり、アプリケーションソフトウェアなどに関連するデータを記憶する記憶装置である。
【0104】
ドライブ装置304は、記録媒体305、例えばフレキシブルディスクからプログラムを読み出し、記憶装置にインストールする。
【0105】
また、記録媒体305に、所定のプログラムを格納し、この記録媒体305に格納されたプログラムはドライブ装置304を介して画像符号化装置300にインストールされる。インストールされた所定のプログラムは、画像符号化装置300により実行可能となる。
【0106】
ネットワークI/F部306は、有線及び/又は無線回線などのデータ伝送路により構築されたLAN(Local Area Network)、WAN(Wide Area Network)などのネットワークを介して接続された通信機能を有する周辺機器と画像符号化装置300とのインターフェースである。
【0107】
入力部307は、カーソルキー、数字入力及び各種機能キー等を備えたキーボード、表示部308の表示画面上でキーの選択等を行うためのマウスやスライスパット等を有する。また、入力部307は、ユーザが制御部301に操作指示を与えたり、データを入力したりするためのユーザインターフェースである。
【0108】
表示部308は、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)等により構成され、制御部301から入力される表示データに応じた表示が行われる。
【0109】
なお、図2に示す復号画像記憶部109は、例えば主記憶部302又は補助記憶部303により実現され、図2に示す復号画像記憶部109以外の構成は、例えば制御部301及びワークメモリとしての主記憶部302により実現されうる。
【0110】
画像符号化装置300で実行されるプログラムは、実施例1で説明した各部を含むモジュール構成となっている。実際のハードウェアとしては、制御部301が補助記憶部303からプログラムを読み出して実行することにより上記各部のうち1又は複数の各部が主記憶部302上にロードされ、1又は複数の各部が主記憶部302上に生成されるようになっている。
【0111】
このように、上述した実施例1で説明した画面内予測処理は、コンピュータに実行させるためのプログラムとして実現されてもよい。このプログラムをサーバ等からインストールしてコンピュータに実行させることで、前述したフィルタ処理を実現することができる。
【0112】
また、このプログラムを記録媒体305に記録し、このプログラムが記録された記録媒体305をコンピュータや携帯端末に読み取らせて、前述したフィルタ処理を実現させることも可能である。なお、記録媒体305は、CD−ROM、フレキシブルディスク、光磁気ディスク等の様に情報を光学的,電気的或いは磁気的に記録する記録媒体、ROM、フラッシュメモリ等の様に情報を電気的に記録する半導体メモリ等、様々なタイプの記録媒体を用いることができる。また、上述した各実施例で説明したフィルタ処理は、1つ又は複数の集積回路に実装してもよい。
【0113】
なお、実施例では、画像符号化装置を例にして説明したが、複数の予測モードを用いる画面内予測を行う画像復号装置でも同様に適用することができる。画像符号化装置及び画像復号装置をまとめて画像処理装置と呼ぶ。また、上記実施例では、H.264/AVCを例に説明したが、参照画素に対して複数の予測方向を用いて画面内予測を行う画像処理技術であれば適用できる。
【0114】
以上、各実施例について詳述したが、特定の実施例に限定されるものではなく、特許請求の範囲に記載された範囲内において、上記変形例以外にも種々の変形及び変更が可能である。
【符号の説明】
【0115】
100、300 画像符号化装置
101 予測画像生成部
102 直交変換部
103 量子化部
104 エントロピー符号化部
105 逆量子化部
106 逆直交変換部
107 復号画像生成部
108 デブロッキングフィルタ部
109 復号画像記憶部
110 イントラ予測部
111 インター予測部
112 動きベクトル計算部
113 符号化制御及びヘッダ生成部
114 予測画像選択部
201 分類部
202 フィルタ決定部
203 フィルタリング部
204 生成部
205 予測画像生成部
206 予測モード決定部
301 制御部
302 主記憶部
303 補助記憶部
304 ドライブ装置
306 ネットワークI/F部
307 入力部
308 表示部

【特許請求の範囲】
【請求項1】
複数の予測方向を用いて画面内予測を行う画像処理装置であって、
参照される可能性に基づいて複数の参照画素を複数のグループに分類する分類部と、
分類された各グループに対して異なるフィルタを決定するフィルタ決定部と、
前記フィルタ決定部により決定されたフィルタを用いて、各グループに含まれる前記参照画素の画素値にフィルタリングを行うフィルタリング部と、
前記フィルタリング部によるフィルタリング後の画素値を用いて、前記画面内予測の予測画像を生成する生成部と、
を備える画像処理装置。
【請求項2】
前記分類部は、
参照される予測方向数の数に基づいて前記複数の参照画素を分類する請求項1記載の画像処理装置。
【請求項3】
前記分類部は、
処理対象ブロックに隣接するか否かで前記複数の参照画素を分類する請求項1記載の画像処理装置。
【請求項4】
前記分類部は、
前記処理対象ブロックに隣接する参照画素、又は前記処理対象ブロックに隣接しない画素をさらに複数のグループに分類する請求項3記載の画像処理装置。
【請求項5】
前記フィルタ決定部は、
前記グループ内の参照画素が参照される可能性が高いほど、通過帯域の広いローパスフィルタに決定する請求項1乃至4いずれか一項に記載の画像処理装置。
【請求項6】
前記フィルタ決定部は、
参照される可能性が最も高い参照画素を含む第1グループに対して、ノイズ除去フィルタに決定し、前記第1グループ以外のグループに対して、該グループ内の参照画素が参照される可能性が高いほど、通過帯域の広いローパスフィルタに決定する請求項1乃至4いずれか一項に記載の画像処理装置。
【請求項7】
参照される可能性に基づいて複数の参照画素を複数のグループに分類する分類ステップと、
分類された各グループに対して異なるフィルタを決定するフィルタ決定ステップと、
決定されたフィルタを用いて、各グループに含まれる前記参照画素の画素値にフィルタリングを行うフィルタリングステップと、
フィルタリング後の画素値を用いて、画面内予測の予測画像を生成する生成ステップとをコンピュータに実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate


【公開番号】特開2013−90253(P2013−90253A)
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願番号】特願2011−231113(P2011−231113)
【出願日】平成23年10月20日(2011.10.20)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】