画像領域分割装置及びプログラム
【課題】原画像の信号を直交変換し、その帯域毎に空間領域の分割を行って空間領域分割信号を求めることにより、更なる画質向上を実現する。
【解決手段】直交変換部2は、原画像Oに対して直交変換を行い、空間高周波信号OLH1,OHL1,OHH1を抽出する。空間高周波合成部3は、空間高周波信号OLH1,OHL1,OHH1を合成し、空間高周波合成信号Sを生成する。空間領域分割部5は、空間高周波合成信号Sの直交変換を、予め設定された帯域分解数kmaxの数分行い、空間低周波信号SLLk=SLL1〜SLLkmaxを生成し、各要素位置のスペクトルパワーの閾値演算によってフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成すると共に、直交変換によって空間高周波信号SLH1,SHL1,SHH1を生成し、同様の閾値演算によって空間領域分割信号BSを生成する。
【解決手段】直交変換部2は、原画像Oに対して直交変換を行い、空間高周波信号OLH1,OHL1,OHH1を抽出する。空間高周波合成部3は、空間高周波信号OLH1,OHL1,OHH1を合成し、空間高周波合成信号Sを生成する。空間領域分割部5は、空間高周波合成信号Sの直交変換を、予め設定された帯域分解数kmaxの数分行い、空間低周波信号SLLk=SLL1〜SLLkmaxを生成し、各要素位置のスペクトルパワーの閾値演算によってフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成すると共に、直交変換によって空間高周波信号SLH1,SHL1,SHH1を生成し、同様の閾値演算によって空間領域分割信号BSを生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、原画像の信号を直交変換し、その帯域毎に空間領域分割を行う装置及びプログラムに関する。
【背景技術】
【0002】
近年、画像の超解像技術が盛んに研究開発されている。超解像技術は、画像のナイキスト周波数を超える空間高周波を補完し、画像拡大を行う技術である。代表的な補完方法には、周波数再構成型がある。周波数再構成型は、ナイキスト周波数以下の空間周波数情報を用いて、ナイキスト周波数を超える空間高周波を補完する。この周波数再構成型では、画質向上のために、画像の持つ空間高周波成分を帯域毎に詳細に解析して処理することが求められる。
【0003】
例えば、出願人及び発明者が同一の先の特許出願であって、本出願時に未公開の特許出願(特願2010−105709)には、周波数再構成型を用いた超解像技術が記載されている。この技術は、ウェーブレット変換を用いて画像を帯域毎に分解し、その帯域毎に、異なった分散値のガウシアンフィルタ処理を施して超解像を行い、ナイキスト周波数を超える空間高周波を補完するものである。
【0004】
一方、画像の低ビットレート符号化を目的として、エッジ領域を保持して画像符号化を行う技術が知られている(特許文献1を参照)。この画像符号化装置は、エッジ領域を検出するためにソーベル(sobel)フィルタを用いており、輝度信号及び色差信号に基づいて画像エッジを検出し、これら複数の画像エッジから精度の高い画像エッジ領域を検出し、画像をテクスチャ領域とエッジ領域とに分割する。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第3458972号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
前述の未公開の特許出願に記載された技術では、ナイキスト周波数を超える空間高周波を補完することにより、高画質な画像を再生することができる。この場合、帯域毎の空間周波数情報を用いて空間領域の分割を行い、その空間領域毎に最適な分散値のガウシアンフィルタ処理を施すことができれば、更なる画質向上が期待できる。
【0007】
一方、前述の特許文献1のソーベルフィルタを用いて、空間領域の分割を行うことができる。しかし、ソーベルフィルタは単純なハイパスフィルタの一種であり、空間周波数帯域を帯域毎に詳細に解析できない。このため、動物体等の空間領域分割においては、画像エッジがぼやけているため、空間領域分割の精度と確度に問題があった。
【0008】
そこで、本発明は前記課題を解決するためになされたものであり、その目的は、原画像の信号を直交変換し、その帯域毎に空間領域の分割を行って空間領域分割信号を求めることにより、更なる画質向上を実現可能な画像領域分割装置及びプログラムを提供することにある。
【課題を解決するための手段】
【0009】
前記課題を解決するため、本発明による画像領域分割装置は、原画像の信号を直交変換し、空間高周波信号を生成する直交変換部と、前記直交変換部により生成された空間高周波信号を合成し、空間高周波合成信号を生成する空間高周波合成部と、前記空間高周波合成部により生成された空間高周波合成信号に対し、予め設定された帯域分解数の直交変換を行い、当該直交変換後の信号の要素値に対し閾値処理を行って空間領域を分割し、帯域毎の空間領域分割信号を生成する空間領域分割部と、を備えたことを特徴とする。
【0010】
また、本発明による画像領域分割装置は、前記予め設定された帯域分解数に代えて、前記空間高周波合成部により生成された空間高周波合成信号を直交変換し、当該直交変換後の信号のスペクトルパワーに基づいて、帯域分解数を決定する帯域分解数決定部を備え、前記空間領域分割部が、前記空間高周波合成信号に対し、前記帯域分解数決定部により決定された帯域分解数の直交変換を行い、帯域毎の空間領域分割信号を生成する、ことを特徴とする。
【0011】
また、本発明による画像領域分割装置は、さらに、前記空間領域分割部により生成された帯域毎の空間領域分割信号と、前記帯域よりも帯域分解の階が1次元低い空間領域分割信号との間で、前記2つの空間領域分割信号における対応する位置毎に、予め設定された帯域分解数の積演算を行い、当該積演算後の信号の要素値に対し閾値処理を行ってエッジ領域を分割し、帯域毎のエッジ領域分割信号を生成するエッジ領域分割部、を備えたことを特徴とする。
【0012】
また、本発明による画像領域分割装置は、さらに、前記空間領域分割部により生成された帯域毎の空間領域分割信号と、前記帯域よりも帯域分解の階が1次元小さい空間領域分割信号との間で、前記2つの空間領域分割信号における対応する位置毎に、前記帯域分解数決定部により決定された帯域分解数の積演算を行い、当該積演算後の信号の要素値に対し閾値処理を行ってエッジ領域を分割し、帯域毎のエッジ領域分割信号を生成するエッジ領域分割部、を備えたことを特徴とする。
【0013】
また、本発明による画像領域分割装置は、前記エッジ領域分割部が、前記生成した帯域毎のエッジ領域分割信号に対し、フィルタを用いて、前記エッジ領域分割信号における孤立点を除去する、ことを特徴とする。
【0014】
また、本発明による画像領域分割装置は、前記直交変換を、離散ウェーブレットパケット変換、離散ウェーブレット変換、離散フーリエ変換または離散コサイン変換とする、ことを特徴とする。
【0015】
さらに、本発明による画像領域分割プログラムは、コンピュータを、前記画像領域分割装置として機能させることを特徴とする。
【発明の効果】
【0016】
以上のように、本発明によれば、原画像を帯域毎に空間領域分割することができ、空間領域分割の結果得られた空間領域分割信号またはエッジ領域分割信号を用いることで、画質向上を実現することができる。例えば、本発明を周波数再構成型の超解像装置に適用した場合、帯域毎の空間領域分割信号またはエッジ領域分割信号が示す領域に対し、最適な分散値のガウシアンフィルタを用いることにより、高画質な超解像処理を行うことができる。
【図面の簡単な説明】
【0017】
【図1】本発明の実施形態による画像領域分割装置の構成を示すブロック図である。
【図2】直交変換部の処理を示すフローチャートである。
【図3】直交変換部の処理内容を説明する図である。
【図4】空間高周波合成部の処理を示すフローチャートである。
【図5】空間高周波合成部の処理内容を説明する図である。
【図6】帯域分解数決定部の処理を示すフローチャートである。
【図7】帯域分解数決定部の処理内容を説明する図である。
【図8】空間領域分割部の処理を示すフローチャートである。
【図9】空間領域分割部の処理内容を説明する図である。
【図10】エッジ領域分割部の処理を示すフローチャートである。
【図11】エッジ領域分割部の処理内容を説明する図である。
【図12】実施例1の処理を示すフローチャートである。
【図13】実施例2の処理を示すフローチャートである。
【図14】実施例3の処理を示すフローチャートである。
【図15】実施例4の処理を示すフローチャートである。
【図16】本発明の実施形態による画像領域分割装置を適用する画像符号化装置の構成を示すブロック図である。
【図17】本発明の実施形態による画像領域分割装置を適用する画像復号装置の構成を示すブロック図である。
【図18】画像符号化装置における分散値決定処理の概要を示す図である。
【発明を実施するための形態】
【0018】
以下、本発明を実施するための形態について図面を用いて詳細に説明する。図1は、本発明の実施形態による画像領域分割装置の構成を示すブロック図である。この画像領域分割装置1は、直交変換部2、空間高周波合成部3、帯域分解数決定部4、空間領域分割部5、エッジ領域分割部6及び選択部7を備えている。画像領域分割装置1は、原画像Oを入力し、直交変換して空間高周波信号を抽出し、空間高周波信号を合成して空間高周波合成信号を生成し、空間高周波合成信号に基づいて空間領域分割信号BSkを生成して出力し、空間領域分割信号BSkに基づいてエッジ領域分割信号PrBSkを生成して出力する。
【0019】
画像領域分割装置1の直交変換部2は、原画像Oを入力し、原画像Oの直交変換を行い、空間低周波信号OLL1及び空間高周波信号OLH1,OHL1,OHH1を生成し、空間高周波信号OLH1,OHL1,OHH1を抽出して空間高周波合成部3に出力する。
【0020】
空間高周波合成部3は、直交変換部2から空間高周波信号OLH1,OHL1,OHH1を入力し、これらの信号を合成して空間高周波合成信号Sを生成し、帯域分解数決定部4及び空間領域分割部5に出力する。
【0021】
帯域分解数決定部4は、空間高周波合成部3から空間高周波合成信号Sを入力し、空間高周波合成信号Sを直交変換し、空間低周波信号OLL1のスペクトルパワーを求める。そして、帯域分解数決定部4は、スペクトルパワーが所定値よりも小さい場合、直交変換を繰り返し、スペクトルパワーが所定値以上になったときの直交変換の回数を帯域分解数kmaxに決定し、選択部7に出力する。これにより、直交変換を繰り返す毎にスペクトルパワーが大きくなることを利用して、原画像Oがどの程度高域までスペクトルパワーを持つかを調べることができる。
【0022】
空間領域分割部5は、空間高周波合成部3から空間高周波合成信号Sを入力すると共に、後述する選択部7から帯域分解数kmaxを入力し、空間高周波合成信号Sに対し帯域分解数kmaxの数分の直交変換を行い、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxを生成する。そして、空間領域分割部5は、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxにおける各要素位置のスペクトルパワー(要素値)が閾値以上となる要素位置にフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成する。また、空間領域分割部5は、直交変換によって、空間高周波信号SLH1,SHL1,SHH1を生成し、これらの信号を合成して合成信号(最大値信号)SH1を生成し、最大値信号SH1における各要素位置のスペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、空間領域分割信号BSを生成する。そして、空間領域分割部5は、生成した空間領域分割信号BSLL1〜BSLLkmax,BSを空間領域分割信号BSkとして外部へ出力すると共に、空間領域分割信号BSk及び帯域分解数kmaxをエッジ領域分割部6に出力する。
【0023】
エッジ領域分割部6は、空間領域分割部5から空間領域分割信号BSk及び帯域分解数kmaxを入力し、k=kmaxからk=1まで、空間領域分割信号BSLLkの領域を4倍にした信号と、帯域分解の階が1階低い空間領域分割信号BSLLk-1との積を演算し、エッジ領域分割信号PrBSLLkを生成する。尚、k=1のときは、空間領域分割信号BSLL1の領域を4倍にした信号と、空間領域分割信号BSとの積を演算する。これにより、空間領域分割信号BSkを帯域毎に再帰的に利用することで、エッジ領域分割信号PrBSkを得ることができる。
【0024】
また、エッジ領域分割部6は、エッジ領域分割信号PrBSLLkの全要素位置に対し、3×3サイズの孤立点除去フィルタを用いて、孤立点を除去する。これにより、エッジ領域の分割確度を高めることができる。
【0025】
そして、エッジ領域分割部6は、生成したエッジ領域分割信号PrBSLL1〜PrBSLLkmax(積の演算により生成された信号、または孤立点除去後の信号)をエッジ領域分割信号PrBSkとして外部へ出力する。
【0026】
尚、エッジ領域分割部6は、帯域分解数kmaxを空間領域分割部5から入力するようにしたが、選択部7から入力するようにしてもよい。
【0027】
選択部7は、帯域分解数決定部4から決定された帯域分解数kmaxを入力すると共に、予め設定された固定の帯域分解数kmaxを入力し、ユーザによる設定に従って、いずれか一方の帯域分解数kmaxを選択し、空間領域分割部5に出力する。
【0028】
〔直交変換部〕
次に、図1に示した直交変換部2について詳細に説明する。図2は、直交変換部2の処理を示すフローチャートであり、図3は、直交変換部2の処理内容を説明する図である。図2を参照して、直交変換部2は、原画像Oを入力し(ステップS201)、原画像Oに対し、離散ウェーブレットパケット(wavelet−packet)による直交変換(DWPT演算)を行い(ステップS202)、空間低周波信号OLL1及び水平高周波信号OLH1,垂直高周波信号OHL1及び斜め高周波信号OHH1を生成する。そして、直交変換部2は、水平高周波信号OLH1,垂直高周波信号OHL1及び斜め高周波信号OHH1を空間高周波信号OLH1,OHL1,OHH1として抽出し(ステップS203)、空間高周波合成部3に出力する(ステップS204)。
【0029】
図3を参照して、xy軸上の原画像Oに対し、離散ウェーブレットパケットによる直交変換が行われることにより、水平周波数fH軸及び垂直周波数fv軸上の空間周波数信号、すなわち空間低周波信号OLL1及び空間高周波信号OLH1,OHL1,OHH1が生成される。そして、変換された空間周波数信号から空間高周波信号OLH1,OHL1,OHH1が抽出される(斜線部分)。
【0030】
〔空間高周波合成部〕
次に、図1に示した空間高周波合成部3について詳細に説明する。図4は、空間高周波合成部3の処理を示すフローチャートであり、図5は、空間高周波合成部3の処理内容を説明する図である。図4を参照して、空間高周波合成部3は、直交変換部2から空間高周波信号OLH1,OHL1,OHH1を入力し(ステップS401)、原画像Oの各空間高周波信号OLH1,OHL1,OHH1の任意要素位置(i,j)において、最大値演算を行うことにより、これらの信号を合成し、空間高周波合成信号Sを生成する(ステップS402)。そして、空間高周波合成部3は、空間高周波合成信号Sを帯域分解数決定部4及び空間領域分割部5に出力する(ステップS403)。例えば、空間高周波合成信号S(1,1)の最大値演算は、3つの空間高周波帯域OLH1,OHL1,OHH1の同じ要素位置(1,1)からなる3要素の最大値演算MAX{OLH1(1,1),OHL1(1,1),OHH1(1,1)}となる。つまり、空間高周波合成部3は、以下の式により、空間高周波合成信号Sを生成する。
S(i,j)=MAX{OLH1(i,j),OHL1(i,j),OHH1(i,j)}
【0031】
図5を参照して、水平周波数fH軸及び垂直周波数fv軸上の空間高周波信号OLH1,OHL1,OHH1の各要素位置に対し、最大値演算が行われることにより、空間高周波合成信号Sが生成される(右側の斜線部)。
【0032】
〔帯域分解数決定部〕
次に、図1に示した帯域分解数決定部4について詳細に説明する。図6は、帯域分解数決定部4の処理を示すフローチャートであり、図7は、帯域分解数決定部4の処理内容を説明する図である。図6を参照して、帯域分解数決定部4は、空間高周波合成部3から空間高周波合成信号Sを入力し(ステップS601)、k=0を設定し(ステップS602)、k=k+1の演算を行って新たなkを算出する(ステップS603)。そして、帯域分解数決定部4は、空間高周波合成信号Sに対し、k階の離散ウェーブレットパケットによる直交変換(k階DWPT演算)を行い、空間低周波信号SLLkを生成する(ステップS604)。
【0033】
帯域分解数決定部4は、空間低周波信号SLLkについて、全ての要素位置におけるスペクトルパワーである要素値α(i,j)の最大値MSLLkを、以下の式により演算する(ステップS605)。
MSLLk=MAX{SLLk(i,j);α(i,j)}
【0034】
帯域分解数決定部4は、空間低周波信号SLLkについての全要素値の最大値MSLLkが所定の閾値Thdよりも小さいか否かを判定し(ステップS606)、最大値MSLLkが閾値Thdよりも小さいと判定した場合(ステップS606:Y)、ステップS603へ移行し、k=k+1の演算を行って新たなkを算出し、ステップS603〜ステップS605の処理を行う。一方、帯域分解数決定部4は、ステップS606において、最大値MSLLkが閾値Thdよりも小さくないと判定した場合(ステップS606:N)、すなわち最大値MSLLkが閾値Thd以上になったと判定した場合、kを帯域分解数kmaxに決定し(帯域分解数kmax=k)(ステップS607)、帯域分解数kmaxを選択部7に出力する(ステップS608)。
【0035】
ここで、kが大きくなるに従って、空間低周波信号SLLkについての全要素値の最大値MSLLkも大きくなり、最終的に、最大値MSLLkが閾値Thd以上になったと判定したときのkが、帯域分解数kmaxに決定される。したがって、決定された帯域分解数kmaxは、原画像Oがどの帯域までスペクトルパワーを持っているかの程度を示している。
【0036】
図7を参照して、入力した空間高周波合成信号Sに対し、離散ウェーブレットパケットによる直交変換(k階DWPT演算)が順次行われ、空間低周波信号SLLkについて、全ての要素位置における要素値α(i,j)の最大値MSLLkが演算されることを示している。
【0037】
尚、帯域分解数決定部4は、空間低周波信号OLLkについての全要素値の最大値MSLLkを演算する代わりに、平均値または中央値を演算するようにしてもよい。
【0038】
〔空間領域分割部〕
次に、図1に示した空間領域分割部5について詳細に説明する。図8は、空間領域分割部5の処理を示すフローチャートであり、図9は、空間領域分割部5の処理内容を説明する図である。図8を参照して、空間領域分割部5は、空間高周波合成部3から空間高周波合成信号Sを入力すると共に、選択部7から帯域分解数kmaxを入力し(ステップS801)、空間高周波合成信号Sに対し、帯域分解数kmaxの数分の離散ウェーブレットパケットによる直交変換(1〜kmax階DWPT演算)を行い、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxを生成する(ステップS802)。そして、ステップS803及びステップS804へ移行する。
【0039】
空間領域分割部5は、ステップS802から移行して、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxにおける各要素位置のスペクトルパワー(要素値)と所定の閾値とを比較し、スペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成する(ステップS803)。そして、ステップS806へ移行する。
【0040】
空間領域分割部5は、ステップS802から移行して、ステップS802の直交変換によって、空間高周波信号SLH1,SHL1,SHH1を生成し、空間高周波合成信号Sの各空間高周波信号SLH1,SHL1,SHH1の任意要素位置(i,j)において、最大値演算を行うことにより、これらの信号を合成して合成信号(最大値信号)SH1を生成する(ステップS804)。このステップS804の処理は、図4に示した空間高周波合成部3によるステップS402の処理と同様である。そして、空間領域分割部5は、最大値信号SH1における各要素位置のスペクトルパワーと所定の閾値とを比較し、スペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、空間領域分割信号BSを生成する(ステップS805)。そして、ステップS806へ移行する。
【0041】
空間領域分割部5は、ステップS803及びステップS805から移行して、生成した帯域毎の空間領域分割信号BSLL1〜BSLLkmax,BSを空間領域分割信号BSkとして外部へ出力すると共に、エッジ領域分割部6に出力する(ステップS806)。尚、空間領域分割部5は、帯域分解数kmaxもエッジ領域分割部6に出力する。
【0042】
図9を参照して、k=1のときの空間低周波信号SLL1の所定位置(四角の枠の箇所)における空間領域分割信号BSLL1、は、フラグ図に示すとおりであり、k=2のときの空間低周波信号SLL2の同じ所定位置(四角の枠の箇所)における空間領域分割信号BSLL2よりも分解能が高い。同様に、k=2のときの空間低周波信号SLL2の所定位置における空間領域分割信号BSLL2、は、k=3のときの空間低周波信号SLL3の同じ所定位置(四角の枠の箇所)における空間領域分割信号BSLL3よりも分解能が高い。つまり、原画像Oの周波数帯域は、kが大きくなるに従って、原画像Oの水平標本化周波数fSH及び垂直標本化周波数fSVと原点である0との間の中央の周波数へ向けて、狭くなる。
【0043】
〔エッジ領域分割部〕
次に、図1に示したエッジ領域分割部6について詳細に説明する。図10は、エッジ領域分割部6の処理を示すフローチャートであり、図11は、エッジ領域分割部6の処理内容を説明する図である。図10を参照して、エッジ領域分割部6は、空間領域分割部5から空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)及び帯域分解数kmaxを入力し(ステップS1001)、帯域分解数kmaxをkに設定する(k=kmax)(ステップS1002)。
【0044】
エッジ領域分割部6は、空間領域分割信号BSLLkの領域を面積4倍(水平2倍、垂直2倍)に拡大し、その領域を4BSLLkとする(ステップS1003)。空間領域分割信号BSLLkの領域の面積と、この帯域よりも1次元低いk−1階の帯域における空間領域分割信号BSLLk-1の領域の面積とを比較すると、空間領域分割信号BSLLk-1が空間領域分割信号BSLLkの4倍である。したがって、後述するステップS1004において、空間領域分割信号BSLLk-1の任意位置と、これに対応した空間領域分割信号BSLLkの位置とは、4倍の面積差に対応した関係になる。
【0045】
エッジ領域分割部6は、4BSLLkとBSLLk-1との積を、以下の式により演算し、その積集合となるエッジ領域分割信号PrBSLLkを生成する(ステップS1004)。
PrBSLLk=4BSLLk∩BSLLk-1
【0046】
エッジ領域分割部6は、エッジ領域分割信号PrBSLLkの全要素位置に対し、3×3サイズの孤立点除去フィルタを用いて、孤立点を除去する(ステップS1005)。具体的には、エッジ領域分割部6は、孤立点除去フィルタを用いて、3×3サイズの9個の領域内に、フラグ1の個数がθ個以上存在するか否かを判定し、存在すると判定した場合、3×3サイズの中心位置の値を1に設定し、存在しないと判定した場合、その中心位置の値を0に設定する。θは所定の閾値である。これにより、近隣領域において、孤立したフラグ1を除去することができる。
【0047】
エッジ領域分割部6は、k=k−1の演算を行って新たなkを算出し(ステップS1006)、k=1であるか否かを判定し(ステップS1007)、k=1でないと判定した場合(ステップS1007:N)、ステップS1003へ移行し、ステップS1003〜ステップS1006の処理を行う。これにより、帯域毎のエッジ領域分割信号PrBSLL2〜PrBSLLkmaxが生成される。
【0048】
一方、エッジ領域分割部6は、ステップS1007において、k=1であると判定した場合(ステップS1007:Y)、4BSLL1とBSとの積を、以下の式により演算し、その積集合となるエッジ領域分割信号PrBSLL1を生成する(ステップS1008)。
PrBSLL1=4BSLL1∩BS
【0049】
エッジ領域分割部6は、生成した帯域毎のエッジ領域分割信号PrBSLL1〜PrBSLLkmaxをエッジ領域分割信号PrBSkとして外部へ出力する(ステップS1009)。尚、解析したい周波数帯域に応じて、ステップS1003〜ステップS1007の処理を、k=1まで繰り返さない場合もある。
【0050】
一般に、原画像O内の先鋭なエッジは、周波数帯域において、低周波領域から高周波領域へ向けて徐々にスペクトルパワーを減らしながらも、広い帯域にスペクトルパワーを含んでおり、かつ孤立点状に分布しない。このようなエッジの特性を利用することにより、図10に示した処理にて、エッジ領域分割信号PrBSLL1〜PrBSLLkmaxを生成することができる。
【0051】
尚、エッジ領域分割部6は、孤立点除去フィルタを用いることなく、ステップS1004において積の演算により生成したエッジ領域分割信号PrBSLL1〜PrBSLLkmaxを、エッジ領域分割信号PrBSkとして外部へ出力するようにしてもよいし、図10に示したように、孤立点除去フィルタを用いて、孤立点除去後のエッジ領域分割信号PrBSLL1〜PrBSLLkmaxをエッジ領域分割信号PrBSkとして外部へ出力するようにしてもよい。
【0052】
図11には、k=2のときのエッジ領域分割信号PrBSLL2(=4BSLL2∩BSLL1)が示されており、3×3サイズの孤立点除去フィルタによって、孤立点が除去されたエッジ領域分割信号PrBSLL2が生成される。エッジ領域分割信号PrBSLL2のフラグ1の領域は、原画像Oのサイズに対し、4×4倍に相当する。
【0053】
以上のように、本発明の実施形態による画像領域分割装置1によれば、直交変換部2が、原画像Oの直交変換を行って空間高周波信号OLH1,OHL1,OHH1を抽出し、空間高周波合成部3が、空間高周波信号OLH1,OHL1,OHH1における同じ要素位置の最大値演算によりこれらの信号を合成して空間高周波合成信号Sを生成し、帯域分解数決定部4が、空間高周波合成信号Sを直交変換し、空間低周波信号OLL1のスペクトルパワーを求め、スペクトルパワーの閾値演算により、スペクトルパワーが所定値よりも小さい場合に直交変換を繰り返し、スペクトルパワーが所定値以上になった場合の直交変換の回数を帯域分解数kmaxに決定するようにした。また、空間領域分割部5が、空間高周波合成信号Sの直交変換を行って空間低周波信号SLLk=SLL1〜SLLkmaxを生成し、空間低周波信号SLLk=SLL1〜SLLkmaxにおける各要素位置のスペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成するようにした。そして、空間領域分割部5が、直交変換によって空間高周波信号SLH1,SHL1,SHH1を生成し、これらの信号を合成して合成信号(最大値信号)SH1を生成し、最大値信号SH1における各要素位置のスペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、空間領域分割信号BSを生成するようにした。
【0054】
また、エッジ領域分割部6が、k=kmaxからk=1まで、空間領域分割信号BSLLkの領域を4倍にした信号と空間領域分割信号BSLLk-1との積を演算し、k=1のときは、空間領域分割信号BSLL1の領域を4倍にした信号と空間領域分割信号BSとの積を演算し、帯域毎のエッジ領域分割信号PrBSLL1〜PrBSLLkmaxを生成するようにした。
【0055】
これにより、原画像Oを帯域毎に空間領域分割することができ、空間領域分割信号またはエッジ領域分割信号を用いることで、画質向上を実現することができる。例えば、周波数再構成型の超解像装置において、帯域毎の空間領域分割信号またはエッジ領域分割信号が示す領域に対し、最適な分散値のガウシアンフィルタを用いることにより、高画質な超解像処理を行うことができる。詳細については後述する。
【0056】
尚、本発明の実施形態による画像領域分割装置1のハードウェア構成としては、通常のコンピュータを使用することができる。画像領域分割装置1は、CPU、RAM等の揮発性の記憶媒体、ROM等の不揮発性の記憶媒体、及びインターフェース等を備えたコンピュータによって構成される。画像領域分割装置1に備えた直交変換部2、空間高周波合成部3、帯域分解数決定部4、空間領域分割部5、エッジ領域分割部6及び選択部7の各機能は、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。また、これらのプログラムは、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリ等の記憶媒体に格納して頒布することもできる。
【0057】
〔実施例1〕
次に、図1に示した画像領域分割装置1の具体的な実施例について説明する。まず、実施例1について説明する。実施例1は、帯域分解数決定部4により決定された帯域分解数kmaxを用いることなく、予め設定された固定の帯域分解数kmaxを用い、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)を生成して出力する例である。図12は、実施例1の処理を示すフローチャートである。
【0058】
画像領域分割装置1の直交変換部2は、原画像Oを入力し(ステップS1201)、原画像Oに対して直交変換を行って空間高周波信号OLH1,OHL1,OHH1を抽出する(ステップS1202)。そして、空間高周波合成部3は、空間高周波信号OLH1,OHL1,OHH1を合成して空間高周波合成信号Sを生成する(ステップS1203)。
【0059】
空間領域分割部5は、空間高周波合成信号Sの直交変換を、予め設定された固定の帯域分解数kmaxの数分行い、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxを生成し、各要素位置のスペクトルパワーの閾値演算によってフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成すると共に、直交変換によって空間高周波信号SLH1,SHL1,SHH1を生成し、同様の閾値演算によって空間領域分割信号BSを生成する(ステップS1204)。そして、空間領域分割部5は、帯域毎の空間領域分割信号BSLL1〜BSLLkmax,BSを空間領域分割信号BSkとして出力する(ステップS1205)。
【0060】
このように、実施例1によれば、原画像Oを帯域毎に空間領域分割することができ、帯域毎の空間領域分割信号を、例えば周波数再構成型の超解像装置に適用することにより、画質向上を実現することができる。
【0061】
〔実施例2〕
次に、実施例2について説明する。実施例2は、帯域分解数決定部4により決定された帯域分解数kmaxを用い、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)を生成して出力する例である。図13は、実施例2の処理を示すフローチャートである。図13において、ステップS1301〜ステップS1303、ステップS1305及びステップS1306は、図12に示した実施例1のステップS1201〜ステップS1205と同じであるので、説明を省略する。
【0062】
画像領域分割装置1の帯域分解数決定部4は、空間高周波合成信号Sを直交変換し、空間低周波信号OLL1のスペクトルパワーを求め、スペクトルパワーの閾値演算により、スペクトルパワーが所定値以上になった場合の直交変換の回数を帯域分解数kmaxに決定する(ステップS1304)。
【0063】
空間領域分割部5は、空間高周波合成信号Sの直交変換を、ステップS1304にて決定された帯域分解数kmaxの数分行い、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxを生成し、図12に示した実施例1のステップS1204と同様の処理を行う(ステップS1305)。
【0064】
このように、実施例2によれば、実施例1と同様に、画質向上を実現することができる。また、帯域分解数kmaxは、帯域分解数決定部4によって信号のスペクトルパワーに基づいて、その都度決定されるから、特に、動画のような時間的に変化する原画像に対して有効である。
【0065】
〔実施例3〕
次に、実施例3について説明する。実施例3は、帯域分解数決定部4により決定された帯域分解数kmaxを用いることなく、予め設定された固定の帯域分解数kmaxを用い、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)から帯域毎のエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)を生成して出力する例である。図14は、実施例3の処理を示すフローチャートである。図14において、ステップS1401〜ステップS1404は、図12に示した実施例1のステップS1201〜ステップS1204と同じであるので、説明を省略する。
【0066】
画像領域分割装置1のエッジ領域分割部6は、k=kmaxからk=1まで、空間領域分割信号BSLLkの領域を4倍にした信号と空間領域分割信号BSLLk-1との積を演算し、k=1のときは、空間領域分割信号BSLL1の領域を4倍にした信号と空間領域分割信号BSとの積を演算し、帯域毎のエッジ領域分割信号PrBSLL1〜PrBSLLkmaxを生成し(ステップS1405)、エッジ領域分割信号PrBSkとして出力する(ステップS1406)。
【0067】
このように、実施例3によれば、実施例1と同様に、画質向上を実現することができる。特に、原画像に含まれるエッジ成分について、一層の画質向上を実現することができる。
【0068】
〔実施例4〕
次に、実施例4について説明する。実施例4は、帯域分解数決定部4により決定された帯域分解数kmaxを用い、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)から帯域毎のエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)を生成して出力する例である。図15は、実施例4の処理を示すフローチャートである。図15において、ステップS1501〜ステップS1505は、図13に示した実施例2のステップS1301〜ステップS1305と同じであり、ステップS1506及びステップS1507は、図14に示した実施例3のステップS1405及びステップS1406と同じであるので、説明を省略する。
【0069】
このように、実施例4によれば、実施例1と同様に、画質向上を実現することができる。また、帯域分解数kmaxは、帯域分解数決定部4によって信号のスペクトルパワーに基づいて、その都度決定されるから、特に、動画のような時間的に変化する原画像に対して有効である。特に、原画像に含まれるエッジ成分について、一層の画質向上を実現することができる。
【0070】
〔周波数再構成型の超解像装置に適用した場合の例〕
次に、図1に示した画像領域分割装置1を周波数再構成型の超解像装置に適用した場合の例について説明する。この例は、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)を用いて、この信号が示すフラグ1の領域についてのみ最適な分散値のガウシアンフィルタを適用する。フラグ1の領域はスペクトルパワーが閾値以上の領域であるから、高画質な超解像処理を行うことができる。
【0071】
図16は、図1に示した画像領域分割装置1を適用する画像符号化装置の構成を示すブロック図である。この画像符号化装置100は、原画像Fを直交変換(例えばウェーブレット分解)してダウンサンプリングし、低解像度のダウンサンプリング画像CA(n)(n:分解階数)を出力するダウンサンプリング部10と、ダウンサンプリング部10で直交変換して得られたダウンサンプリング画像CA(n),CA(n−1)等に基づいて、後述するアップサンプリング処理で用いるガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)(下付符号CH,CV,CDは、水平、垂直、斜め方向の高周波成分を示す)を決定する分散値決定部11と、ダウンサンプリング部10で直交変換して得られたダウンサンプリング画像CA(n)を符号化する符号化部12と、符号化部12で符号化されたダウンサンプリング画像EnCA(n)及び分散値決定部11で決定されたガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を送信信号として送信する送信部13と、を備えて構成される。ここで、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)は、分散値決定部11にて用いられ、この信号が示すフラグ1の領域の要素値に対してフィルタリング処理が行われることを前提にして、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)が決定される。
【0072】
図17は、図1に示した画像領域分割装置1を適用する画像復号装置の構成を示すブロック図である。この画像復号装置200は、前述した画像符号化装置1から送信されたダウンサンプリング画像EnCA(n)及びガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を受信する受信部20と、受信部20で受信されたダウンサンプリング画像EnCA(n)を復号する復号部21と、受信部20で受信されたガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を用いて、復号部21で復号されたダウンサンプリング画像EnDeCA(n)をアップサンプリング処理するアップサンプリング部22と、を備えて構成される。ここで、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)は、アップサンプリング部22にて用いられ、この信号が示すフラグ1の領域の要素値のみに対し、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)によるフィルタリング処理が行なわれる。
【0073】
図18は、図16に示した画像符号化装置100の分散値決定部11における分散値決定処理の概要を示す図である。まず、分散値決定部11は、分解階数nの低周波領域成分CA(n)を1階離散ウェーブレット分解して、分解階数n+1における水平、垂直、斜め方向の各高周波領域成分CH(n+1),CV(n+1),CD(n+1)を得る(ステップS1)。そして、水平、垂直、斜め方向の各高周波領域成分CH(n+1),CV(n+1),CD(n+1)の各々を空間低周波領域成分とし、同じサイズのゼロ行列を空間高周波領域成分として1階離散ウェーブレット再構成により、水平、垂直方向に2倍拡大し、ExCH(n),ExCV(n),ExCD(n)を得る(ステップS2)。
【0074】
CH(n+1)を空間低周波領域成分、同じサイズのゼロ行列を空間高周波領域成分として1階離散ウェーブレット再構成した式を以下に示す。0はゼロ行列を示す。
ExCH(n)=IDWT(1)(CH(n+1),0,0,0,wavelet_n)
【0075】
分散値決定部11は、水平、垂直方向に2倍拡大したExCH(n),ExCV(n),ExCD(n)を得た後、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)が示すフラグ1の領域のExCH(n),ExCV(n),ExCD(n)に対し、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を用いたガウシアンフィルタによるフィルタリングを行い、GExCH(n),GExCV(n),GExCD(n)を得る(ステップS3)。この場合、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)は、初期値として任意の値または経験値が用いられる。例えば、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)のそれぞれを0.1から0.1刻みで変化させるものとすると、初期値は、例えばσCH(n)=0.1,σCV(n)=0.1,σCD(n)=0.1となる。
【0076】
ガウシアンフィルタによるフィルタリングを行って、GExCH(n)、GExCV(n)、GExCD(n)を得た後、低周波領域成分CA(n)を空間低周波領域成分とし、GExCH(n),GExCV(n),GExCD(n)を空間高周波領域成分として、1階離散ウェーブレット再構成により水平、垂直方向に2倍拡大し、GExCA(n−1)を得る(ステップS4)。
【0077】
GExCA(n−1)を得た後、CA(n−1)との間の差分値を計算する。今回の差分値が前回の差分値より小さければ、今回の差分値と今回使用したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)をそれぞれ記憶する(ステップS5)。なお、分散値決定部11は図示しないメモリを有しており、このメモリに今回の差分値と今回使用したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を記憶する。最初の1回目は前回の差分値が無いことから、今回算出した差分値と今回使用したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)をそのまま記憶する。また、画像の評価方法としては、平均二乗誤差(MSE:Mean Square Error)があり、この評価方法を用いるとよい。
【0078】
以上のステップS1〜ステップS5の処理をガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を変化させながら繰り返し行い、GExCA(n−1)とCA(n−1)との間の差分値が最も小さくなるときのガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を決定する。決定したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)をダウンサンプリング画像EnCA(n)と共に、画像復号装置200へ送信する。画像復号装置200では、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を受信して使用することにより、ダウンサンプリング画像EnCA(n)から原画像に最も近い画像を再生することができる。
【0079】
また、図17に示した画像復号装置200のアップサンプリング部22においても、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)が示すフラグ1の領域に対し、受信したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を用いて、ガウシアンフィルタによるフィルタリング処理が行われる。
【0080】
以上のように、周波数再構成型の超解像装置である画像符号化装置100及び画像復号装置200によれば、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)または帯域毎のエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)が示すフラグ1の領域に対し、最適な分散値のガウシアンフィルタを適用することにより、高画質な超解像処理を行うことができる。
【0081】
以上、実施形態を挙げて本発明を説明したが、本発明は前記実施形態に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。本発明は、帯域毎に空間領域分割を行う画像処理全般に対して有効である。また、本発明は、画像縮小、符号化、超解像等のように、帯域毎の空間領域分割が有効な様々な画像処理に適用することができる。
【0082】
また、図1に示した画像領域分割装置1では、離散ウェーブレットパケット(wavelet−packet)による直交変換(DWPT演算)を行うようにしたが、他の直交変換を行うようにしてもよい。例えば、離散ウェーブレット(wavelet)変換、離散フーリエ変換、離散コサイン変換を行うようにしてもよい。また、画像領域分割装置1にて用いた直交変換と同じ種類の変換を、図16〜図18に示した画像符号化装置100及び画像復号装置200に用いることにより、一層高画質な超解像処理を行うことができる。
【符号の説明】
【0083】
1 画像領域分割装置
2 直交変換部
3 空間高周波合成部
4 帯域分解数決定部
5 空間領域分割部
6 エッジ領域分割部
7 選択部
10 ダウンサンプリング部
11 分散値決定部
12 符号化部
13 送信部
20 受信部
21 復号部
22 アップサンプリング部
100 画像符号化装置
200 画像復号装置
【技術分野】
【0001】
本発明は、原画像の信号を直交変換し、その帯域毎に空間領域分割を行う装置及びプログラムに関する。
【背景技術】
【0002】
近年、画像の超解像技術が盛んに研究開発されている。超解像技術は、画像のナイキスト周波数を超える空間高周波を補完し、画像拡大を行う技術である。代表的な補完方法には、周波数再構成型がある。周波数再構成型は、ナイキスト周波数以下の空間周波数情報を用いて、ナイキスト周波数を超える空間高周波を補完する。この周波数再構成型では、画質向上のために、画像の持つ空間高周波成分を帯域毎に詳細に解析して処理することが求められる。
【0003】
例えば、出願人及び発明者が同一の先の特許出願であって、本出願時に未公開の特許出願(特願2010−105709)には、周波数再構成型を用いた超解像技術が記載されている。この技術は、ウェーブレット変換を用いて画像を帯域毎に分解し、その帯域毎に、異なった分散値のガウシアンフィルタ処理を施して超解像を行い、ナイキスト周波数を超える空間高周波を補完するものである。
【0004】
一方、画像の低ビットレート符号化を目的として、エッジ領域を保持して画像符号化を行う技術が知られている(特許文献1を参照)。この画像符号化装置は、エッジ領域を検出するためにソーベル(sobel)フィルタを用いており、輝度信号及び色差信号に基づいて画像エッジを検出し、これら複数の画像エッジから精度の高い画像エッジ領域を検出し、画像をテクスチャ領域とエッジ領域とに分割する。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第3458972号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
前述の未公開の特許出願に記載された技術では、ナイキスト周波数を超える空間高周波を補完することにより、高画質な画像を再生することができる。この場合、帯域毎の空間周波数情報を用いて空間領域の分割を行い、その空間領域毎に最適な分散値のガウシアンフィルタ処理を施すことができれば、更なる画質向上が期待できる。
【0007】
一方、前述の特許文献1のソーベルフィルタを用いて、空間領域の分割を行うことができる。しかし、ソーベルフィルタは単純なハイパスフィルタの一種であり、空間周波数帯域を帯域毎に詳細に解析できない。このため、動物体等の空間領域分割においては、画像エッジがぼやけているため、空間領域分割の精度と確度に問題があった。
【0008】
そこで、本発明は前記課題を解決するためになされたものであり、その目的は、原画像の信号を直交変換し、その帯域毎に空間領域の分割を行って空間領域分割信号を求めることにより、更なる画質向上を実現可能な画像領域分割装置及びプログラムを提供することにある。
【課題を解決するための手段】
【0009】
前記課題を解決するため、本発明による画像領域分割装置は、原画像の信号を直交変換し、空間高周波信号を生成する直交変換部と、前記直交変換部により生成された空間高周波信号を合成し、空間高周波合成信号を生成する空間高周波合成部と、前記空間高周波合成部により生成された空間高周波合成信号に対し、予め設定された帯域分解数の直交変換を行い、当該直交変換後の信号の要素値に対し閾値処理を行って空間領域を分割し、帯域毎の空間領域分割信号を生成する空間領域分割部と、を備えたことを特徴とする。
【0010】
また、本発明による画像領域分割装置は、前記予め設定された帯域分解数に代えて、前記空間高周波合成部により生成された空間高周波合成信号を直交変換し、当該直交変換後の信号のスペクトルパワーに基づいて、帯域分解数を決定する帯域分解数決定部を備え、前記空間領域分割部が、前記空間高周波合成信号に対し、前記帯域分解数決定部により決定された帯域分解数の直交変換を行い、帯域毎の空間領域分割信号を生成する、ことを特徴とする。
【0011】
また、本発明による画像領域分割装置は、さらに、前記空間領域分割部により生成された帯域毎の空間領域分割信号と、前記帯域よりも帯域分解の階が1次元低い空間領域分割信号との間で、前記2つの空間領域分割信号における対応する位置毎に、予め設定された帯域分解数の積演算を行い、当該積演算後の信号の要素値に対し閾値処理を行ってエッジ領域を分割し、帯域毎のエッジ領域分割信号を生成するエッジ領域分割部、を備えたことを特徴とする。
【0012】
また、本発明による画像領域分割装置は、さらに、前記空間領域分割部により生成された帯域毎の空間領域分割信号と、前記帯域よりも帯域分解の階が1次元小さい空間領域分割信号との間で、前記2つの空間領域分割信号における対応する位置毎に、前記帯域分解数決定部により決定された帯域分解数の積演算を行い、当該積演算後の信号の要素値に対し閾値処理を行ってエッジ領域を分割し、帯域毎のエッジ領域分割信号を生成するエッジ領域分割部、を備えたことを特徴とする。
【0013】
また、本発明による画像領域分割装置は、前記エッジ領域分割部が、前記生成した帯域毎のエッジ領域分割信号に対し、フィルタを用いて、前記エッジ領域分割信号における孤立点を除去する、ことを特徴とする。
【0014】
また、本発明による画像領域分割装置は、前記直交変換を、離散ウェーブレットパケット変換、離散ウェーブレット変換、離散フーリエ変換または離散コサイン変換とする、ことを特徴とする。
【0015】
さらに、本発明による画像領域分割プログラムは、コンピュータを、前記画像領域分割装置として機能させることを特徴とする。
【発明の効果】
【0016】
以上のように、本発明によれば、原画像を帯域毎に空間領域分割することができ、空間領域分割の結果得られた空間領域分割信号またはエッジ領域分割信号を用いることで、画質向上を実現することができる。例えば、本発明を周波数再構成型の超解像装置に適用した場合、帯域毎の空間領域分割信号またはエッジ領域分割信号が示す領域に対し、最適な分散値のガウシアンフィルタを用いることにより、高画質な超解像処理を行うことができる。
【図面の簡単な説明】
【0017】
【図1】本発明の実施形態による画像領域分割装置の構成を示すブロック図である。
【図2】直交変換部の処理を示すフローチャートである。
【図3】直交変換部の処理内容を説明する図である。
【図4】空間高周波合成部の処理を示すフローチャートである。
【図5】空間高周波合成部の処理内容を説明する図である。
【図6】帯域分解数決定部の処理を示すフローチャートである。
【図7】帯域分解数決定部の処理内容を説明する図である。
【図8】空間領域分割部の処理を示すフローチャートである。
【図9】空間領域分割部の処理内容を説明する図である。
【図10】エッジ領域分割部の処理を示すフローチャートである。
【図11】エッジ領域分割部の処理内容を説明する図である。
【図12】実施例1の処理を示すフローチャートである。
【図13】実施例2の処理を示すフローチャートである。
【図14】実施例3の処理を示すフローチャートである。
【図15】実施例4の処理を示すフローチャートである。
【図16】本発明の実施形態による画像領域分割装置を適用する画像符号化装置の構成を示すブロック図である。
【図17】本発明の実施形態による画像領域分割装置を適用する画像復号装置の構成を示すブロック図である。
【図18】画像符号化装置における分散値決定処理の概要を示す図である。
【発明を実施するための形態】
【0018】
以下、本発明を実施するための形態について図面を用いて詳細に説明する。図1は、本発明の実施形態による画像領域分割装置の構成を示すブロック図である。この画像領域分割装置1は、直交変換部2、空間高周波合成部3、帯域分解数決定部4、空間領域分割部5、エッジ領域分割部6及び選択部7を備えている。画像領域分割装置1は、原画像Oを入力し、直交変換して空間高周波信号を抽出し、空間高周波信号を合成して空間高周波合成信号を生成し、空間高周波合成信号に基づいて空間領域分割信号BSkを生成して出力し、空間領域分割信号BSkに基づいてエッジ領域分割信号PrBSkを生成して出力する。
【0019】
画像領域分割装置1の直交変換部2は、原画像Oを入力し、原画像Oの直交変換を行い、空間低周波信号OLL1及び空間高周波信号OLH1,OHL1,OHH1を生成し、空間高周波信号OLH1,OHL1,OHH1を抽出して空間高周波合成部3に出力する。
【0020】
空間高周波合成部3は、直交変換部2から空間高周波信号OLH1,OHL1,OHH1を入力し、これらの信号を合成して空間高周波合成信号Sを生成し、帯域分解数決定部4及び空間領域分割部5に出力する。
【0021】
帯域分解数決定部4は、空間高周波合成部3から空間高周波合成信号Sを入力し、空間高周波合成信号Sを直交変換し、空間低周波信号OLL1のスペクトルパワーを求める。そして、帯域分解数決定部4は、スペクトルパワーが所定値よりも小さい場合、直交変換を繰り返し、スペクトルパワーが所定値以上になったときの直交変換の回数を帯域分解数kmaxに決定し、選択部7に出力する。これにより、直交変換を繰り返す毎にスペクトルパワーが大きくなることを利用して、原画像Oがどの程度高域までスペクトルパワーを持つかを調べることができる。
【0022】
空間領域分割部5は、空間高周波合成部3から空間高周波合成信号Sを入力すると共に、後述する選択部7から帯域分解数kmaxを入力し、空間高周波合成信号Sに対し帯域分解数kmaxの数分の直交変換を行い、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxを生成する。そして、空間領域分割部5は、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxにおける各要素位置のスペクトルパワー(要素値)が閾値以上となる要素位置にフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成する。また、空間領域分割部5は、直交変換によって、空間高周波信号SLH1,SHL1,SHH1を生成し、これらの信号を合成して合成信号(最大値信号)SH1を生成し、最大値信号SH1における各要素位置のスペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、空間領域分割信号BSを生成する。そして、空間領域分割部5は、生成した空間領域分割信号BSLL1〜BSLLkmax,BSを空間領域分割信号BSkとして外部へ出力すると共に、空間領域分割信号BSk及び帯域分解数kmaxをエッジ領域分割部6に出力する。
【0023】
エッジ領域分割部6は、空間領域分割部5から空間領域分割信号BSk及び帯域分解数kmaxを入力し、k=kmaxからk=1まで、空間領域分割信号BSLLkの領域を4倍にした信号と、帯域分解の階が1階低い空間領域分割信号BSLLk-1との積を演算し、エッジ領域分割信号PrBSLLkを生成する。尚、k=1のときは、空間領域分割信号BSLL1の領域を4倍にした信号と、空間領域分割信号BSとの積を演算する。これにより、空間領域分割信号BSkを帯域毎に再帰的に利用することで、エッジ領域分割信号PrBSkを得ることができる。
【0024】
また、エッジ領域分割部6は、エッジ領域分割信号PrBSLLkの全要素位置に対し、3×3サイズの孤立点除去フィルタを用いて、孤立点を除去する。これにより、エッジ領域の分割確度を高めることができる。
【0025】
そして、エッジ領域分割部6は、生成したエッジ領域分割信号PrBSLL1〜PrBSLLkmax(積の演算により生成された信号、または孤立点除去後の信号)をエッジ領域分割信号PrBSkとして外部へ出力する。
【0026】
尚、エッジ領域分割部6は、帯域分解数kmaxを空間領域分割部5から入力するようにしたが、選択部7から入力するようにしてもよい。
【0027】
選択部7は、帯域分解数決定部4から決定された帯域分解数kmaxを入力すると共に、予め設定された固定の帯域分解数kmaxを入力し、ユーザによる設定に従って、いずれか一方の帯域分解数kmaxを選択し、空間領域分割部5に出力する。
【0028】
〔直交変換部〕
次に、図1に示した直交変換部2について詳細に説明する。図2は、直交変換部2の処理を示すフローチャートであり、図3は、直交変換部2の処理内容を説明する図である。図2を参照して、直交変換部2は、原画像Oを入力し(ステップS201)、原画像Oに対し、離散ウェーブレットパケット(wavelet−packet)による直交変換(DWPT演算)を行い(ステップS202)、空間低周波信号OLL1及び水平高周波信号OLH1,垂直高周波信号OHL1及び斜め高周波信号OHH1を生成する。そして、直交変換部2は、水平高周波信号OLH1,垂直高周波信号OHL1及び斜め高周波信号OHH1を空間高周波信号OLH1,OHL1,OHH1として抽出し(ステップS203)、空間高周波合成部3に出力する(ステップS204)。
【0029】
図3を参照して、xy軸上の原画像Oに対し、離散ウェーブレットパケットによる直交変換が行われることにより、水平周波数fH軸及び垂直周波数fv軸上の空間周波数信号、すなわち空間低周波信号OLL1及び空間高周波信号OLH1,OHL1,OHH1が生成される。そして、変換された空間周波数信号から空間高周波信号OLH1,OHL1,OHH1が抽出される(斜線部分)。
【0030】
〔空間高周波合成部〕
次に、図1に示した空間高周波合成部3について詳細に説明する。図4は、空間高周波合成部3の処理を示すフローチャートであり、図5は、空間高周波合成部3の処理内容を説明する図である。図4を参照して、空間高周波合成部3は、直交変換部2から空間高周波信号OLH1,OHL1,OHH1を入力し(ステップS401)、原画像Oの各空間高周波信号OLH1,OHL1,OHH1の任意要素位置(i,j)において、最大値演算を行うことにより、これらの信号を合成し、空間高周波合成信号Sを生成する(ステップS402)。そして、空間高周波合成部3は、空間高周波合成信号Sを帯域分解数決定部4及び空間領域分割部5に出力する(ステップS403)。例えば、空間高周波合成信号S(1,1)の最大値演算は、3つの空間高周波帯域OLH1,OHL1,OHH1の同じ要素位置(1,1)からなる3要素の最大値演算MAX{OLH1(1,1),OHL1(1,1),OHH1(1,1)}となる。つまり、空間高周波合成部3は、以下の式により、空間高周波合成信号Sを生成する。
S(i,j)=MAX{OLH1(i,j),OHL1(i,j),OHH1(i,j)}
【0031】
図5を参照して、水平周波数fH軸及び垂直周波数fv軸上の空間高周波信号OLH1,OHL1,OHH1の各要素位置に対し、最大値演算が行われることにより、空間高周波合成信号Sが生成される(右側の斜線部)。
【0032】
〔帯域分解数決定部〕
次に、図1に示した帯域分解数決定部4について詳細に説明する。図6は、帯域分解数決定部4の処理を示すフローチャートであり、図7は、帯域分解数決定部4の処理内容を説明する図である。図6を参照して、帯域分解数決定部4は、空間高周波合成部3から空間高周波合成信号Sを入力し(ステップS601)、k=0を設定し(ステップS602)、k=k+1の演算を行って新たなkを算出する(ステップS603)。そして、帯域分解数決定部4は、空間高周波合成信号Sに対し、k階の離散ウェーブレットパケットによる直交変換(k階DWPT演算)を行い、空間低周波信号SLLkを生成する(ステップS604)。
【0033】
帯域分解数決定部4は、空間低周波信号SLLkについて、全ての要素位置におけるスペクトルパワーである要素値α(i,j)の最大値MSLLkを、以下の式により演算する(ステップS605)。
MSLLk=MAX{SLLk(i,j);α(i,j)}
【0034】
帯域分解数決定部4は、空間低周波信号SLLkについての全要素値の最大値MSLLkが所定の閾値Thdよりも小さいか否かを判定し(ステップS606)、最大値MSLLkが閾値Thdよりも小さいと判定した場合(ステップS606:Y)、ステップS603へ移行し、k=k+1の演算を行って新たなkを算出し、ステップS603〜ステップS605の処理を行う。一方、帯域分解数決定部4は、ステップS606において、最大値MSLLkが閾値Thdよりも小さくないと判定した場合(ステップS606:N)、すなわち最大値MSLLkが閾値Thd以上になったと判定した場合、kを帯域分解数kmaxに決定し(帯域分解数kmax=k)(ステップS607)、帯域分解数kmaxを選択部7に出力する(ステップS608)。
【0035】
ここで、kが大きくなるに従って、空間低周波信号SLLkについての全要素値の最大値MSLLkも大きくなり、最終的に、最大値MSLLkが閾値Thd以上になったと判定したときのkが、帯域分解数kmaxに決定される。したがって、決定された帯域分解数kmaxは、原画像Oがどの帯域までスペクトルパワーを持っているかの程度を示している。
【0036】
図7を参照して、入力した空間高周波合成信号Sに対し、離散ウェーブレットパケットによる直交変換(k階DWPT演算)が順次行われ、空間低周波信号SLLkについて、全ての要素位置における要素値α(i,j)の最大値MSLLkが演算されることを示している。
【0037】
尚、帯域分解数決定部4は、空間低周波信号OLLkについての全要素値の最大値MSLLkを演算する代わりに、平均値または中央値を演算するようにしてもよい。
【0038】
〔空間領域分割部〕
次に、図1に示した空間領域分割部5について詳細に説明する。図8は、空間領域分割部5の処理を示すフローチャートであり、図9は、空間領域分割部5の処理内容を説明する図である。図8を参照して、空間領域分割部5は、空間高周波合成部3から空間高周波合成信号Sを入力すると共に、選択部7から帯域分解数kmaxを入力し(ステップS801)、空間高周波合成信号Sに対し、帯域分解数kmaxの数分の離散ウェーブレットパケットによる直交変換(1〜kmax階DWPT演算)を行い、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxを生成する(ステップS802)。そして、ステップS803及びステップS804へ移行する。
【0039】
空間領域分割部5は、ステップS802から移行して、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxにおける各要素位置のスペクトルパワー(要素値)と所定の閾値とを比較し、スペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成する(ステップS803)。そして、ステップS806へ移行する。
【0040】
空間領域分割部5は、ステップS802から移行して、ステップS802の直交変換によって、空間高周波信号SLH1,SHL1,SHH1を生成し、空間高周波合成信号Sの各空間高周波信号SLH1,SHL1,SHH1の任意要素位置(i,j)において、最大値演算を行うことにより、これらの信号を合成して合成信号(最大値信号)SH1を生成する(ステップS804)。このステップS804の処理は、図4に示した空間高周波合成部3によるステップS402の処理と同様である。そして、空間領域分割部5は、最大値信号SH1における各要素位置のスペクトルパワーと所定の閾値とを比較し、スペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、空間領域分割信号BSを生成する(ステップS805)。そして、ステップS806へ移行する。
【0041】
空間領域分割部5は、ステップS803及びステップS805から移行して、生成した帯域毎の空間領域分割信号BSLL1〜BSLLkmax,BSを空間領域分割信号BSkとして外部へ出力すると共に、エッジ領域分割部6に出力する(ステップS806)。尚、空間領域分割部5は、帯域分解数kmaxもエッジ領域分割部6に出力する。
【0042】
図9を参照して、k=1のときの空間低周波信号SLL1の所定位置(四角の枠の箇所)における空間領域分割信号BSLL1、は、フラグ図に示すとおりであり、k=2のときの空間低周波信号SLL2の同じ所定位置(四角の枠の箇所)における空間領域分割信号BSLL2よりも分解能が高い。同様に、k=2のときの空間低周波信号SLL2の所定位置における空間領域分割信号BSLL2、は、k=3のときの空間低周波信号SLL3の同じ所定位置(四角の枠の箇所)における空間領域分割信号BSLL3よりも分解能が高い。つまり、原画像Oの周波数帯域は、kが大きくなるに従って、原画像Oの水平標本化周波数fSH及び垂直標本化周波数fSVと原点である0との間の中央の周波数へ向けて、狭くなる。
【0043】
〔エッジ領域分割部〕
次に、図1に示したエッジ領域分割部6について詳細に説明する。図10は、エッジ領域分割部6の処理を示すフローチャートであり、図11は、エッジ領域分割部6の処理内容を説明する図である。図10を参照して、エッジ領域分割部6は、空間領域分割部5から空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)及び帯域分解数kmaxを入力し(ステップS1001)、帯域分解数kmaxをkに設定する(k=kmax)(ステップS1002)。
【0044】
エッジ領域分割部6は、空間領域分割信号BSLLkの領域を面積4倍(水平2倍、垂直2倍)に拡大し、その領域を4BSLLkとする(ステップS1003)。空間領域分割信号BSLLkの領域の面積と、この帯域よりも1次元低いk−1階の帯域における空間領域分割信号BSLLk-1の領域の面積とを比較すると、空間領域分割信号BSLLk-1が空間領域分割信号BSLLkの4倍である。したがって、後述するステップS1004において、空間領域分割信号BSLLk-1の任意位置と、これに対応した空間領域分割信号BSLLkの位置とは、4倍の面積差に対応した関係になる。
【0045】
エッジ領域分割部6は、4BSLLkとBSLLk-1との積を、以下の式により演算し、その積集合となるエッジ領域分割信号PrBSLLkを生成する(ステップS1004)。
PrBSLLk=4BSLLk∩BSLLk-1
【0046】
エッジ領域分割部6は、エッジ領域分割信号PrBSLLkの全要素位置に対し、3×3サイズの孤立点除去フィルタを用いて、孤立点を除去する(ステップS1005)。具体的には、エッジ領域分割部6は、孤立点除去フィルタを用いて、3×3サイズの9個の領域内に、フラグ1の個数がθ個以上存在するか否かを判定し、存在すると判定した場合、3×3サイズの中心位置の値を1に設定し、存在しないと判定した場合、その中心位置の値を0に設定する。θは所定の閾値である。これにより、近隣領域において、孤立したフラグ1を除去することができる。
【0047】
エッジ領域分割部6は、k=k−1の演算を行って新たなkを算出し(ステップS1006)、k=1であるか否かを判定し(ステップS1007)、k=1でないと判定した場合(ステップS1007:N)、ステップS1003へ移行し、ステップS1003〜ステップS1006の処理を行う。これにより、帯域毎のエッジ領域分割信号PrBSLL2〜PrBSLLkmaxが生成される。
【0048】
一方、エッジ領域分割部6は、ステップS1007において、k=1であると判定した場合(ステップS1007:Y)、4BSLL1とBSとの積を、以下の式により演算し、その積集合となるエッジ領域分割信号PrBSLL1を生成する(ステップS1008)。
PrBSLL1=4BSLL1∩BS
【0049】
エッジ領域分割部6は、生成した帯域毎のエッジ領域分割信号PrBSLL1〜PrBSLLkmaxをエッジ領域分割信号PrBSkとして外部へ出力する(ステップS1009)。尚、解析したい周波数帯域に応じて、ステップS1003〜ステップS1007の処理を、k=1まで繰り返さない場合もある。
【0050】
一般に、原画像O内の先鋭なエッジは、周波数帯域において、低周波領域から高周波領域へ向けて徐々にスペクトルパワーを減らしながらも、広い帯域にスペクトルパワーを含んでおり、かつ孤立点状に分布しない。このようなエッジの特性を利用することにより、図10に示した処理にて、エッジ領域分割信号PrBSLL1〜PrBSLLkmaxを生成することができる。
【0051】
尚、エッジ領域分割部6は、孤立点除去フィルタを用いることなく、ステップS1004において積の演算により生成したエッジ領域分割信号PrBSLL1〜PrBSLLkmaxを、エッジ領域分割信号PrBSkとして外部へ出力するようにしてもよいし、図10に示したように、孤立点除去フィルタを用いて、孤立点除去後のエッジ領域分割信号PrBSLL1〜PrBSLLkmaxをエッジ領域分割信号PrBSkとして外部へ出力するようにしてもよい。
【0052】
図11には、k=2のときのエッジ領域分割信号PrBSLL2(=4BSLL2∩BSLL1)が示されており、3×3サイズの孤立点除去フィルタによって、孤立点が除去されたエッジ領域分割信号PrBSLL2が生成される。エッジ領域分割信号PrBSLL2のフラグ1の領域は、原画像Oのサイズに対し、4×4倍に相当する。
【0053】
以上のように、本発明の実施形態による画像領域分割装置1によれば、直交変換部2が、原画像Oの直交変換を行って空間高周波信号OLH1,OHL1,OHH1を抽出し、空間高周波合成部3が、空間高周波信号OLH1,OHL1,OHH1における同じ要素位置の最大値演算によりこれらの信号を合成して空間高周波合成信号Sを生成し、帯域分解数決定部4が、空間高周波合成信号Sを直交変換し、空間低周波信号OLL1のスペクトルパワーを求め、スペクトルパワーの閾値演算により、スペクトルパワーが所定値よりも小さい場合に直交変換を繰り返し、スペクトルパワーが所定値以上になった場合の直交変換の回数を帯域分解数kmaxに決定するようにした。また、空間領域分割部5が、空間高周波合成信号Sの直交変換を行って空間低周波信号SLLk=SLL1〜SLLkmaxを生成し、空間低周波信号SLLk=SLL1〜SLLkmaxにおける各要素位置のスペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成するようにした。そして、空間領域分割部5が、直交変換によって空間高周波信号SLH1,SHL1,SHH1を生成し、これらの信号を合成して合成信号(最大値信号)SH1を生成し、最大値信号SH1における各要素位置のスペクトルパワーが閾値以上となる要素位置にフラグ1を設定し、空間領域分割信号BSを生成するようにした。
【0054】
また、エッジ領域分割部6が、k=kmaxからk=1まで、空間領域分割信号BSLLkの領域を4倍にした信号と空間領域分割信号BSLLk-1との積を演算し、k=1のときは、空間領域分割信号BSLL1の領域を4倍にした信号と空間領域分割信号BSとの積を演算し、帯域毎のエッジ領域分割信号PrBSLL1〜PrBSLLkmaxを生成するようにした。
【0055】
これにより、原画像Oを帯域毎に空間領域分割することができ、空間領域分割信号またはエッジ領域分割信号を用いることで、画質向上を実現することができる。例えば、周波数再構成型の超解像装置において、帯域毎の空間領域分割信号またはエッジ領域分割信号が示す領域に対し、最適な分散値のガウシアンフィルタを用いることにより、高画質な超解像処理を行うことができる。詳細については後述する。
【0056】
尚、本発明の実施形態による画像領域分割装置1のハードウェア構成としては、通常のコンピュータを使用することができる。画像領域分割装置1は、CPU、RAM等の揮発性の記憶媒体、ROM等の不揮発性の記憶媒体、及びインターフェース等を備えたコンピュータによって構成される。画像領域分割装置1に備えた直交変換部2、空間高周波合成部3、帯域分解数決定部4、空間領域分割部5、エッジ領域分割部6及び選択部7の各機能は、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。また、これらのプログラムは、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリ等の記憶媒体に格納して頒布することもできる。
【0057】
〔実施例1〕
次に、図1に示した画像領域分割装置1の具体的な実施例について説明する。まず、実施例1について説明する。実施例1は、帯域分解数決定部4により決定された帯域分解数kmaxを用いることなく、予め設定された固定の帯域分解数kmaxを用い、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)を生成して出力する例である。図12は、実施例1の処理を示すフローチャートである。
【0058】
画像領域分割装置1の直交変換部2は、原画像Oを入力し(ステップS1201)、原画像Oに対して直交変換を行って空間高周波信号OLH1,OHL1,OHH1を抽出する(ステップS1202)。そして、空間高周波合成部3は、空間高周波信号OLH1,OHL1,OHH1を合成して空間高周波合成信号Sを生成する(ステップS1203)。
【0059】
空間領域分割部5は、空間高周波合成信号Sの直交変換を、予め設定された固定の帯域分解数kmaxの数分行い、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxを生成し、各要素位置のスペクトルパワーの閾値演算によってフラグ1を設定し、帯域毎の空間領域分割信号BSLL1〜BSLLkmaxを生成すると共に、直交変換によって空間高周波信号SLH1,SHL1,SHH1を生成し、同様の閾値演算によって空間領域分割信号BSを生成する(ステップS1204)。そして、空間領域分割部5は、帯域毎の空間領域分割信号BSLL1〜BSLLkmax,BSを空間領域分割信号BSkとして出力する(ステップS1205)。
【0060】
このように、実施例1によれば、原画像Oを帯域毎に空間領域分割することができ、帯域毎の空間領域分割信号を、例えば周波数再構成型の超解像装置に適用することにより、画質向上を実現することができる。
【0061】
〔実施例2〕
次に、実施例2について説明する。実施例2は、帯域分解数決定部4により決定された帯域分解数kmaxを用い、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)を生成して出力する例である。図13は、実施例2の処理を示すフローチャートである。図13において、ステップS1301〜ステップS1303、ステップS1305及びステップS1306は、図12に示した実施例1のステップS1201〜ステップS1205と同じであるので、説明を省略する。
【0062】
画像領域分割装置1の帯域分解数決定部4は、空間高周波合成信号Sを直交変換し、空間低周波信号OLL1のスペクトルパワーを求め、スペクトルパワーの閾値演算により、スペクトルパワーが所定値以上になった場合の直交変換の回数を帯域分解数kmaxに決定する(ステップS1304)。
【0063】
空間領域分割部5は、空間高周波合成信号Sの直交変換を、ステップS1304にて決定された帯域分解数kmaxの数分行い、帯域毎の空間低周波信号SLLk=SLL1〜SLLkmaxを生成し、図12に示した実施例1のステップS1204と同様の処理を行う(ステップS1305)。
【0064】
このように、実施例2によれば、実施例1と同様に、画質向上を実現することができる。また、帯域分解数kmaxは、帯域分解数決定部4によって信号のスペクトルパワーに基づいて、その都度決定されるから、特に、動画のような時間的に変化する原画像に対して有効である。
【0065】
〔実施例3〕
次に、実施例3について説明する。実施例3は、帯域分解数決定部4により決定された帯域分解数kmaxを用いることなく、予め設定された固定の帯域分解数kmaxを用い、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)から帯域毎のエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)を生成して出力する例である。図14は、実施例3の処理を示すフローチャートである。図14において、ステップS1401〜ステップS1404は、図12に示した実施例1のステップS1201〜ステップS1204と同じであるので、説明を省略する。
【0066】
画像領域分割装置1のエッジ領域分割部6は、k=kmaxからk=1まで、空間領域分割信号BSLLkの領域を4倍にした信号と空間領域分割信号BSLLk-1との積を演算し、k=1のときは、空間領域分割信号BSLL1の領域を4倍にした信号と空間領域分割信号BSとの積を演算し、帯域毎のエッジ領域分割信号PrBSLL1〜PrBSLLkmaxを生成し(ステップS1405)、エッジ領域分割信号PrBSkとして出力する(ステップS1406)。
【0067】
このように、実施例3によれば、実施例1と同様に、画質向上を実現することができる。特に、原画像に含まれるエッジ成分について、一層の画質向上を実現することができる。
【0068】
〔実施例4〕
次に、実施例4について説明する。実施例4は、帯域分解数決定部4により決定された帯域分解数kmaxを用い、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)から帯域毎のエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)を生成して出力する例である。図15は、実施例4の処理を示すフローチャートである。図15において、ステップS1501〜ステップS1505は、図13に示した実施例2のステップS1301〜ステップS1305と同じであり、ステップS1506及びステップS1507は、図14に示した実施例3のステップS1405及びステップS1406と同じであるので、説明を省略する。
【0069】
このように、実施例4によれば、実施例1と同様に、画質向上を実現することができる。また、帯域分解数kmaxは、帯域分解数決定部4によって信号のスペクトルパワーに基づいて、その都度決定されるから、特に、動画のような時間的に変化する原画像に対して有効である。特に、原画像に含まれるエッジ成分について、一層の画質向上を実現することができる。
【0070】
〔周波数再構成型の超解像装置に適用した場合の例〕
次に、図1に示した画像領域分割装置1を周波数再構成型の超解像装置に適用した場合の例について説明する。この例は、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)を用いて、この信号が示すフラグ1の領域についてのみ最適な分散値のガウシアンフィルタを適用する。フラグ1の領域はスペクトルパワーが閾値以上の領域であるから、高画質な超解像処理を行うことができる。
【0071】
図16は、図1に示した画像領域分割装置1を適用する画像符号化装置の構成を示すブロック図である。この画像符号化装置100は、原画像Fを直交変換(例えばウェーブレット分解)してダウンサンプリングし、低解像度のダウンサンプリング画像CA(n)(n:分解階数)を出力するダウンサンプリング部10と、ダウンサンプリング部10で直交変換して得られたダウンサンプリング画像CA(n),CA(n−1)等に基づいて、後述するアップサンプリング処理で用いるガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)(下付符号CH,CV,CDは、水平、垂直、斜め方向の高周波成分を示す)を決定する分散値決定部11と、ダウンサンプリング部10で直交変換して得られたダウンサンプリング画像CA(n)を符号化する符号化部12と、符号化部12で符号化されたダウンサンプリング画像EnCA(n)及び分散値決定部11で決定されたガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を送信信号として送信する送信部13と、を備えて構成される。ここで、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)は、分散値決定部11にて用いられ、この信号が示すフラグ1の領域の要素値に対してフィルタリング処理が行われることを前提にして、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)が決定される。
【0072】
図17は、図1に示した画像領域分割装置1を適用する画像復号装置の構成を示すブロック図である。この画像復号装置200は、前述した画像符号化装置1から送信されたダウンサンプリング画像EnCA(n)及びガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を受信する受信部20と、受信部20で受信されたダウンサンプリング画像EnCA(n)を復号する復号部21と、受信部20で受信されたガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を用いて、復号部21で復号されたダウンサンプリング画像EnDeCA(n)をアップサンプリング処理するアップサンプリング部22と、を備えて構成される。ここで、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)は、アップサンプリング部22にて用いられ、この信号が示すフラグ1の領域の要素値のみに対し、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)によるフィルタリング処理が行なわれる。
【0073】
図18は、図16に示した画像符号化装置100の分散値決定部11における分散値決定処理の概要を示す図である。まず、分散値決定部11は、分解階数nの低周波領域成分CA(n)を1階離散ウェーブレット分解して、分解階数n+1における水平、垂直、斜め方向の各高周波領域成分CH(n+1),CV(n+1),CD(n+1)を得る(ステップS1)。そして、水平、垂直、斜め方向の各高周波領域成分CH(n+1),CV(n+1),CD(n+1)の各々を空間低周波領域成分とし、同じサイズのゼロ行列を空間高周波領域成分として1階離散ウェーブレット再構成により、水平、垂直方向に2倍拡大し、ExCH(n),ExCV(n),ExCD(n)を得る(ステップS2)。
【0074】
CH(n+1)を空間低周波領域成分、同じサイズのゼロ行列を空間高周波領域成分として1階離散ウェーブレット再構成した式を以下に示す。0はゼロ行列を示す。
ExCH(n)=IDWT(1)(CH(n+1),0,0,0,wavelet_n)
【0075】
分散値決定部11は、水平、垂直方向に2倍拡大したExCH(n),ExCV(n),ExCD(n)を得た後、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)が示すフラグ1の領域のExCH(n),ExCV(n),ExCD(n)に対し、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を用いたガウシアンフィルタによるフィルタリングを行い、GExCH(n),GExCV(n),GExCD(n)を得る(ステップS3)。この場合、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)は、初期値として任意の値または経験値が用いられる。例えば、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)のそれぞれを0.1から0.1刻みで変化させるものとすると、初期値は、例えばσCH(n)=0.1,σCV(n)=0.1,σCD(n)=0.1となる。
【0076】
ガウシアンフィルタによるフィルタリングを行って、GExCH(n)、GExCV(n)、GExCD(n)を得た後、低周波領域成分CA(n)を空間低周波領域成分とし、GExCH(n),GExCV(n),GExCD(n)を空間高周波領域成分として、1階離散ウェーブレット再構成により水平、垂直方向に2倍拡大し、GExCA(n−1)を得る(ステップS4)。
【0077】
GExCA(n−1)を得た後、CA(n−1)との間の差分値を計算する。今回の差分値が前回の差分値より小さければ、今回の差分値と今回使用したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)をそれぞれ記憶する(ステップS5)。なお、分散値決定部11は図示しないメモリを有しており、このメモリに今回の差分値と今回使用したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を記憶する。最初の1回目は前回の差分値が無いことから、今回算出した差分値と今回使用したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)をそのまま記憶する。また、画像の評価方法としては、平均二乗誤差(MSE:Mean Square Error)があり、この評価方法を用いるとよい。
【0078】
以上のステップS1〜ステップS5の処理をガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を変化させながら繰り返し行い、GExCA(n−1)とCA(n−1)との間の差分値が最も小さくなるときのガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を決定する。決定したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)をダウンサンプリング画像EnCA(n)と共に、画像復号装置200へ送信する。画像復号装置200では、ガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を受信して使用することにより、ダウンサンプリング画像EnCA(n)から原画像に最も近い画像を再生することができる。
【0079】
また、図17に示した画像復号装置200のアップサンプリング部22においても、画像領域分割装置1により出力された空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)またはエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)が示すフラグ1の領域に対し、受信したガウシアンフィルタの分散値σCH(n),σCV(n),σCD(n)を用いて、ガウシアンフィルタによるフィルタリング処理が行われる。
【0080】
以上のように、周波数再構成型の超解像装置である画像符号化装置100及び画像復号装置200によれば、帯域毎の空間領域分割信号BSk(BSLL1〜BSLLkmax,BS)または帯域毎のエッジ領域分割信号PrBSk(PrBSLL1〜PrBSLLkmax)が示すフラグ1の領域に対し、最適な分散値のガウシアンフィルタを適用することにより、高画質な超解像処理を行うことができる。
【0081】
以上、実施形態を挙げて本発明を説明したが、本発明は前記実施形態に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。本発明は、帯域毎に空間領域分割を行う画像処理全般に対して有効である。また、本発明は、画像縮小、符号化、超解像等のように、帯域毎の空間領域分割が有効な様々な画像処理に適用することができる。
【0082】
また、図1に示した画像領域分割装置1では、離散ウェーブレットパケット(wavelet−packet)による直交変換(DWPT演算)を行うようにしたが、他の直交変換を行うようにしてもよい。例えば、離散ウェーブレット(wavelet)変換、離散フーリエ変換、離散コサイン変換を行うようにしてもよい。また、画像領域分割装置1にて用いた直交変換と同じ種類の変換を、図16〜図18に示した画像符号化装置100及び画像復号装置200に用いることにより、一層高画質な超解像処理を行うことができる。
【符号の説明】
【0083】
1 画像領域分割装置
2 直交変換部
3 空間高周波合成部
4 帯域分解数決定部
5 空間領域分割部
6 エッジ領域分割部
7 選択部
10 ダウンサンプリング部
11 分散値決定部
12 符号化部
13 送信部
20 受信部
21 復号部
22 アップサンプリング部
100 画像符号化装置
200 画像復号装置
【特許請求の範囲】
【請求項1】
原画像の信号を直交変換し、空間高周波信号を生成する直交変換部と、
前記直交変換部により生成された空間高周波信号を合成し、空間高周波合成信号を生成する空間高周波合成部と、
前記空間高周波合成部により生成された空間高周波合成信号に対し、予め設定された帯域分解数の直交変換を行い、当該直交変換後の信号の要素値に対し閾値処理を行って空間領域を分割し、帯域毎の空間領域分割信号を生成する空間領域分割部と、
を備えたことを特徴とする画像領域分割装置。
【請求項2】
請求項1に記載の画像領域分割装置において、
前記予め設定された帯域分解数に代えて、前記空間高周波合成部により生成された空間高周波合成信号を直交変換し、当該直交変換後の信号のスペクトルパワーに基づいて、帯域分解数を決定する帯域分解数決定部を備え、
前記空間領域分割部は、前記空間高周波合成信号に対し、前記帯域分解数決定部により決定された帯域分解数の直交変換を行い、帯域毎の空間領域分割信号を生成する、ことを特徴とする画像領域分割装置。
【請求項3】
請求項1に記載の画像領域分割装置において、
さらに、前記空間領域分割部により生成された帯域毎の空間領域分割信号と、前記帯域よりも帯域分解の階が1次元低い空間領域分割信号との間で、前記2つの空間領域分割信号における対応する位置毎に、予め設定された帯域分解数の積演算を行い、当該積演算後の信号の要素値に対し閾値処理を行ってエッジ領域を分割し、帯域毎のエッジ領域分割信号を生成するエッジ領域分割部、を備えたことを特徴とする画像領域分割装置。
【請求項4】
請求項2に記載の画像領域分割装置において、
さらに、前記空間領域分割部により生成された帯域毎の空間領域分割信号と、前記帯域よりも帯域分解の階が1次元小さい空間領域分割信号との間で、前記2つの空間領域分割信号における対応する位置毎に、前記帯域分解数決定部により決定された帯域分解数の積演算を行い、当該積演算後の信号の要素値に対し閾値処理を行ってエッジ領域を分割し、帯域毎のエッジ領域分割信号を生成するエッジ領域分割部、を備えたことを特徴とする画像領域分割装置。
【請求項5】
請求項3または4に記載の画像領域分割装置において、
前記エッジ領域分割部は、前記生成した帯域毎のエッジ領域分割信号に対し、フィルタを用いて、前記エッジ領域分割信号における孤立点を除去する、ことを特徴とする画像領域分割装置。
【請求項6】
請求項1から5までのいずれか一項に記載の画像領域分割装置において、
前記直交変換を、離散ウェーブレットパケット変換、離散ウェーブレット変換、離散フーリエ変換または離散コサイン変換とする、ことを特徴とする画像領域分割装置。
【請求項7】
コンピュータを、請求項1から6までのいずれか一項に記載の画像領域分割装置として機能させるための画像領域分割プログラム。
【請求項1】
原画像の信号を直交変換し、空間高周波信号を生成する直交変換部と、
前記直交変換部により生成された空間高周波信号を合成し、空間高周波合成信号を生成する空間高周波合成部と、
前記空間高周波合成部により生成された空間高周波合成信号に対し、予め設定された帯域分解数の直交変換を行い、当該直交変換後の信号の要素値に対し閾値処理を行って空間領域を分割し、帯域毎の空間領域分割信号を生成する空間領域分割部と、
を備えたことを特徴とする画像領域分割装置。
【請求項2】
請求項1に記載の画像領域分割装置において、
前記予め設定された帯域分解数に代えて、前記空間高周波合成部により生成された空間高周波合成信号を直交変換し、当該直交変換後の信号のスペクトルパワーに基づいて、帯域分解数を決定する帯域分解数決定部を備え、
前記空間領域分割部は、前記空間高周波合成信号に対し、前記帯域分解数決定部により決定された帯域分解数の直交変換を行い、帯域毎の空間領域分割信号を生成する、ことを特徴とする画像領域分割装置。
【請求項3】
請求項1に記載の画像領域分割装置において、
さらに、前記空間領域分割部により生成された帯域毎の空間領域分割信号と、前記帯域よりも帯域分解の階が1次元低い空間領域分割信号との間で、前記2つの空間領域分割信号における対応する位置毎に、予め設定された帯域分解数の積演算を行い、当該積演算後の信号の要素値に対し閾値処理を行ってエッジ領域を分割し、帯域毎のエッジ領域分割信号を生成するエッジ領域分割部、を備えたことを特徴とする画像領域分割装置。
【請求項4】
請求項2に記載の画像領域分割装置において、
さらに、前記空間領域分割部により生成された帯域毎の空間領域分割信号と、前記帯域よりも帯域分解の階が1次元小さい空間領域分割信号との間で、前記2つの空間領域分割信号における対応する位置毎に、前記帯域分解数決定部により決定された帯域分解数の積演算を行い、当該積演算後の信号の要素値に対し閾値処理を行ってエッジ領域を分割し、帯域毎のエッジ領域分割信号を生成するエッジ領域分割部、を備えたことを特徴とする画像領域分割装置。
【請求項5】
請求項3または4に記載の画像領域分割装置において、
前記エッジ領域分割部は、前記生成した帯域毎のエッジ領域分割信号に対し、フィルタを用いて、前記エッジ領域分割信号における孤立点を除去する、ことを特徴とする画像領域分割装置。
【請求項6】
請求項1から5までのいずれか一項に記載の画像領域分割装置において、
前記直交変換を、離散ウェーブレットパケット変換、離散ウェーブレット変換、離散フーリエ変換または離散コサイン変換とする、ことを特徴とする画像領域分割装置。
【請求項7】
コンピュータを、請求項1から6までのいずれか一項に記載の画像領域分割装置として機能させるための画像領域分割プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2012−155573(P2012−155573A)
【公開日】平成24年8月16日(2012.8.16)
【国際特許分類】
【出願番号】特願2011−14831(P2011−14831)
【出願日】平成23年1月27日(2011.1.27)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】
【公開日】平成24年8月16日(2012.8.16)
【国際特許分類】
【出願日】平成23年1月27日(2011.1.27)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】
[ Back to top ]