画像符号化装置、画像復号装置及びプログラム
【課題】送信側にて、原画像をダウンサンプリング処理し、ダウンサンプリング画像を符号化し、受信側にて、符号化されたダウンサンプリング画像を復号してアップサンプリング処理する際に、原画像に最も近い高画質な画像を復元する。
【解決手段】画像符号化装置1のオクターブ分解部11は、原画像を、階層的にオクターブ分解によるダウンサンプリング処理してダウンサンプリング画像を生成する。オクターブ再構成部14は、符号化部12及び復号部13により符号化及び復号されたダウンサンプリング復号画像を、階層的にオクターブ再構成によるアップサンプリング処理してアップサンプリング画像を生成する。フィルタ係数処理部10は、選定した各階層のフィルタ係数を用いて生成されたアップサンプリング画像と原画像との間の画素値の差分をRMS値により算出し、RMS値が最小のフィルタ係数を最適なフィルタ係数に決定する。
【解決手段】画像符号化装置1のオクターブ分解部11は、原画像を、階層的にオクターブ分解によるダウンサンプリング処理してダウンサンプリング画像を生成する。オクターブ再構成部14は、符号化部12及び復号部13により符号化及び復号されたダウンサンプリング復号画像を、階層的にオクターブ再構成によるアップサンプリング処理してアップサンプリング画像を生成する。フィルタ係数処理部10は、選定した各階層のフィルタ係数を用いて生成されたアップサンプリング画像と原画像との間の画素値の差分をRMS値により算出し、RMS値が最小のフィルタ係数を最適なフィルタ係数に決定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、高精細画像の伝送を行うシステムに好適な画像符号化装置、画像復号装置及びプログラムに関する。
【背景技術】
【0002】
近年、画像符号化の分野ではデジタル画像の高精細化が進んでいる。高精細画像は膨大な情報量を持つため、限られた帯域で伝送するためには高圧縮符号化する必要がある。しかしながら、膨大な情報量を持つ高精細画像を既存の符号化手法にて処理し伝送するには限界がある。そこで、オクターブ分解によるダウンサンプリング処理を行う手法が案出されている。
【0003】
この手法では、送信側の画像符号化装置は、入力した原画像に対し、オクターブ分解によるダウンサンプリング処理を行い、ダウンサンプリングした画像を符号化して送信する。受信側の画像復号装置は、符号化されたダウンサンプリング画像を受信し復号した後、復号したダウンサンプリング画像に対し、オクターブ再構成によるアップサンプリング処理を行い、元の原画像を再生する。これにより、膨大な情報量を持つ高精細画像を既存の手法にて符号化して伝送することなく、元の高精細画像を再生することができ、高圧縮に符号化されたダウンサンプリング画像のビットレート不足による符号化歪みを大きく軽減することができる。オクターブ分解によるダウンサンプリング処理及びオクターブ再構成によるアップサンプリング処理に関する符号化技術としては、例えば、特許文献1,2に開示されたものが知られている。
【0004】
このような画像標本化周波数のアップサンプリング処理及びダウンサンプリング処理は、異なる放送方式の映像をフォーマット変換する際に用いられる。例えば、アメリカ及び日本等で使用されている標準画質テレビ放送方式であるNTSCの映像から、欧州等で使用されている標準画質テレビ方式であるPALの映像へ変換する際、または、NTSCの映像からハイビジョン放送方式の映像へ変換する際に用いられる。また、画像標本化周波数のアップサンプリング処理は、赤色レーザーDVDに記録されている標準画質画像を、液晶ハイビジョンモニタに表示する際に用いられる。さらに、画像標本化周波数のアップサンプリング処理時に高周波数成分を推定し、これを画像に付加することにより高精細化を実現する技術が研究・開発されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平6−237183号公報
【特許文献2】特表2007−504523号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
このような異なる放送方式のフォーマット変換等を行う画像符号化装置及び画像復号装置において、全体の符号化画質は、画像符号化装置によるダウンサンプリング処理、及び画像復号装置によるアップサンプリング処理の性能に大きく依存する。このため、ダウンサンプリング処理及びアップサンプリング処理を、可能な限り高画質に行う必要がある。しかしながら、従来の画像符号化装置及び画像復号装置では、ダウンサンプリング処理した画像をアップサンプリング処理して原画像を再生する場合、原画像と同程度の高画質な画像を再生することが困難であるという問題があった。
【0007】
そこで、本発明はかかる問題を解決するためになされたものであり、その目的は、送信側にて、原画像をダウンサンプリング処理し、ダウンサンプリング画像を符号化し、受信側にて、符号化されたダウンサンプリング画像を復号してアップサンプリング処理する際に、原画像に最も近い高画質な画像を復元することが可能な画像符号化装置、画像復号装置及びプログラムを提供することにある。
【課題を解決するための手段】
【0008】
上記目的を達成するために、請求項1の発明は、原画像をダウンサンプリング処理して符号化する画像符号化装置において、複数のフィルタから、ダウンサンプリング処理における各階層のフィルタ及びアップサンプリング処理における各階層のフィルタを選定し、最適なフィルタを決定するフィルタ情報処理部と、前記選定されたダウンサンプリング処理における各階層のフィルタを用いて、前記原画像に対しオクターブ分解によるダウンサンプリング処理を行い、ダウンサンプリング画像を生成するオクターブ分解部と、前記生成されたダウンサンプリング画像に対し符号化処理を行い、ダウンサンプリング符号化画像を生成する符号化部と、前記生成されたダウンサンプリング符号化画像に対し復号処理を行い、ダウンサンプリング復号画像を生成する復号部と、前記選定されたアップサンプリング処理における各階層のフィルタを用いて、前記生成されたダウンサンプリング復号画像に対しオクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成するオクターブ再構成部とを備え、前記フィルタ情報処理部が、前記原画像と前記生成されたアップサンプリング画像との間の画素値の差分が最も小さくなるフィルタを、前記ダウンサンプリング処理及びアップサンプリング処理における各階層の最適なフィルタに決定し、前記符号化部が、前記最適なフィルタを用いて生成されたダウンサンプリング画像、及び前記決定された最適なフィルタに関する情報に対し符号化処理を行い、ダウンサンプリング符号化画像及びフィルタ符号化情報を生成することを特徴とする。
【0009】
また、請求項2の発明は、請求項1に記載の画像符号化装置において、前記オクターブ分解としてウェーブレット分解を用い、前記オクターブ再構成としてウェーブレット再構成を用い、前記フィルタ情報処理部が、複数のウェーブレットフィルタの種類及び複数のフィルタ係数から、前記各階層のウェーブレットフィルタの種類及びフィルタ係数を選定し、最適なウェーブレットフィルタの種類及びフィルタ係数を決定することを特徴とする。
【0010】
また、請求項3の発明は、請求項1に記載の画像符号化装置において、前記フィルタ情報処理部が、複数のフィルタから、ダウンサンプリング処理における各階層のフィルタ及びアップサンプリング処理における各階層のフィルタを選定する際に、各階層のフィルタのうち少なくとも1つのフィルタが、前回選定したフィルタのタップ数よりも今回選定したタップ数が大きくなるように、前記フィルタを選定し、前記原画像と前記生成されたアップサンプリング画像との間の画素値の差分が極小となるフィルタを、前記ダウンサンプリング処理及びアップサンプリング処理における各階層の最適なフィルタに決定することを特徴とする。
【0011】
さらに、請求項4の発明は、請求項1の画像符号化装置により最適なフィルタを用いて符号化されたダウンサンプリング符号化画像及びフィルタ符号化係数を入力し、前記ダウンサンプリング符号化画像を復号してアップサンプリング処理を行う画像復号装置において、前記ダウンサンプリング符号化画像及びフィルタ符号化係数に対し復号処理を行い、ダウンサンプリング復号画像及びフィルタ係数を生成する復号部と、前記生成されたフィルタ係数のうち、アップサンプリング処理における各階層のフィルタを用いて、前記生成されたダウンサンプリング復号画像に対しオクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成するオクターブ再構成部とを備えたことを特徴とする。
【0012】
さらに、請求項5の発明は、コンピュータを、請求項1から3までのいずれか一項に記載の画像符号化装置として機能させるための画像符号化プログラムである。
【0013】
また、請求項6の発明は、コンピュータを、請求項4に記載の画像復号装置として機能させるための画像復号プログラムである。
【発明の効果】
【0014】
以上のように、本発明によれば、原画像を階層的にダウンサンプリング処理し、ダウンサンプリング画像を生成して符号化すると共に、生成したダウンサンプリング画像に基づいて、階層的なアップサンプリング処理により原画像に最も近い画像を再生可能とする各階層のフィルタ情報を決定するようにした。これにより、原画像に最も近い高画質な画像を復元することができる。つまり、符号化及び復号処理を高画質に行うことができる。
【図面の簡単な説明】
【0015】
【図1】本発明の実施形態による画像符号化装置の構成を示すブロック図である。
【図2】画像符号化装置の処理を示すフロー図である。
【図3】オクターブ分解によるダウンサンプリング処理の様子を示す図である。
【図4】オクターブ分解によるダウンサンプリング処理及びフィルタ係数を示す図である。
【図5】次数pのDaubechiesウェーブレット係数を示す図である。
【図6】オクターブ再構成によるアップサンプリング処理の様子を示す図である。
【図7】オクターブ再構成によるアップサンプリング処理及びフィルタ係数を示す図である。
【図8】フィルタ係数処理部の構成を示すブロック図である。
【図9】記憶手段に格納されるフィルタ係数及びRMS値を示す図である。
【図10】本発明の実施形態による画像復号装置の構成を示すブロック図である。
【図11】画像復号装置の復号処理を示すフロー図である。
【図12】画像復号装置のオクターブ再構成処理を示すフロー図である。
【発明を実施するための形態】
【0016】
以下、本発明を実施するための形態について、図面を参照して説明する。本発明は、画像符号化装置が、入力した原画像に応じて、オクターブ分解処理及びオクターブ再構成処理の各階層における最適なフィルタ情報を随時選択し、画像復号装置が、この最適なフィルタ情報を用いてオクターブ再構成処理を行うことを特徴とする。本発明によれば、オクターブ分解によるダウンサンプリング処理を行って情報量を圧縮し、オクターブ再構成によるアップサンプリング処理を行って元の情報量に戻すため、高圧縮符号化時の符号化歪みを大きく軽減することができる。符号化歪みが小さい場合は、オクターブ分解処理及びオクターブ再構成処理に伴う画質劣化に依存した画像を得ることができる。そこで、本発明では、最適なフィルタ情報を用いてオクターブ分解処理及びオクターブ再構成処理を高画質に行うことにより、原画像に最も近い高画質な画像を復元する。
【0017】
以下に説明する本発明の実施形態は、原画像を入力し、ウェーブレット分解を用いて原画像を空間周波数ダウンサンプリング(以下、”ダウンサンプリング”という。)し、これにより得られた空間周波数ダウンサンプリング画像(以下、”ダウンサンプリング画像”という。)を符号化して伝送する画像符号化装置、及び、符号化されたダウンサンプリング画像を復号し、ダウンサンプリング復号画像を空間周波数アップサンプリング(以下、”アップサンプリング”という。)し、これにより得られた空間周波数アップサンプリング画像(以下、”アップサンプリング画像”という。)を出力する画像復号装置を想定している。尚、ウェーブレット分解によるダウンサンプリング処理及びウェーブレット再構成によるアップサンプリング処理は、各階層において、Haar、メキシカンハット等のウェーブレットフィルタ、Daubechies(ドベシー)のように次数pの値を任意値とするウェーブレットフィルタ、タップ数及びその係数を任意値とする線形フィルタ、1:2画素間引フィルタ等が用いられる。すなわち、オクターブ分解によるダウンサンプリング処理及びオクターブ再構成によるアップサンプリング処理を各階層において行えるものであれば、どのようなフィルタでも使用可能である。
【0018】
〔画像符号化装置の構成〕
まず、画像符号化装置の構成について説明する。図1は、本発明の実施形態による画像符号化装置の構成を示すブロック図である。この画像符号化装置1は、フィルタ係数処理部(フィルタ情報処理部)10、オクターブ分解部11、符号化部12、復号部13及びオクターブ再構成部14を備えている。
【0019】
フィルタ係数処理部10は、予め設定されたフィルタ係数群から、オクターブ分解によるダウンサンプリング処理を行うための各階層のフィルタに用いるフィルタ係数(以下、オクターブ分解用の各階層のフィルタ係数という。)、及びオクターブ再構成によるアップサンプリング処理を行うための各階層のフィルタに用いるフィルタ係数(以下、オクターブ再構成用の各階層のフィルタ係数という。)を選定する。尚、ここではフィルタ係数を選定するようにしたが、フィルタの種類及びフィルタ係数(フィルタ情報)を選定するようにしてもよい。詳細については後述する。
【0020】
フィルタ係数処理部10は、選定したオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力し、選定したオクターブ再構成用の各階層のフィルタ係数をオクターブ再構成部14に出力する。また、フィルタ係数処理部10は、原画像を入力すると共に、選定して出力したフィルタ係数にてオクターブ分解及びオクターブ再構成されたアップサンプリング画像を入力し、両画像の画素値の差分を求める。そして、フィルタ係数処理部10は、その差分が最も小さいフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)を最適なフィルタ係数に決定し、最適なフィルタ係数のうちのオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力する。また、フィルタ係数処理部10は、最適なフィルタ係数を決定したことを示す決定通知、及び最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)を符号化部12に出力する。
【0021】
オクターブ分解部11は、原画像を入力すると共に、フィルタ係数処理部10からオクターブ分解用の各階層のフィルタ係数を入力し、オクターブ分解によるダウンサンプリング処理を行い、ダウンサンプリング画像を生成する。そして、オクターブ分解部11は、生成したダウンサンプリング画像を符号化部12に出力する。
【0022】
符号化部12は、オクターブ分解部11からダウンサンプリング画像を入力すると共に、フィルタ係数処理部10から、最適なフィルタ係数が決定されたことを示す決定通知、及び最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)を入力する。符号化部12は、決定通知を入力しない場合、入力したダウンサンプリング画像のストリームに対し符号化処理を行い、ダウンサンプリング符号化画像を生成し、復号部13に出力する。一方、符号化部12は、決定通知を入力した場合、入力したダウンサンプリング画像が最適なフィルタ係数により生成された画像であると判断して、ダウンサンプリング画像のストリーム及び最適なフィルタ係数に対し符号化処理を行い、ダウンサンプリング符号化画像及びフィルタ符号化係数(オクターブ分解用の各階層のフィルタ符号化係数及びオクターブ再構成用の各階層のフィルタ符号化係数)を生成し、伝送路3を介して後述する画像復号装置2へ送信する。
【0023】
復号部13は、符号化部12からダウンサンプリング符号化画像を入力し、ダウンサンプリング符号化画像のストリームに対し復号処理(ローカル復号処理)を行い、ダウンサンプリング復号画像を生成し、オクターブ再構成部14に出力する。この復号部13による復号処理は、後述する画像復号装置2の復号部20による復号処理と同様であるが、画像復号装置2の復号部20に対応する処理という意味でローカル復号処理である。
【0024】
オクターブ再構成部14は、復号部13からダウンサンプリング復号画像を入力すると共に、フィルタ係数処理部10からオクターブ再構成用の各階層のフィルタ係数を入力し、オクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成する。そして、オクターブ再構成部14は、生成したアップサンプリング画像をフィルタ係数処理部10に出力する。尚、フィルタ係数処理部10から入力するオクターブ再構成用の各階層のフィルタ係数には、アップサンプリング処理を行うための各階層のフィルタ係数に加え、ダウンサンプリング処理を行うための1階層分のフィルタ係数も含まれる。詳細については後述する。
【0025】
〔画像符号化装置の処理〕
次に、図1に示した画像符号化装置1の処理について説明する。図2は、画像符号化装置1の処理を示すフロー図である。まず、画像符号化装置1のオクターブ分解部11は、フィルタ係数処理部10により選定されたオクターブ分解用の各階層のフィルタ係数を用いて、入力した原画像の水平・垂直標本化周波数がそれぞれ1/2n(n=1,2,・・・,m)倍に縮小するように、オクターブ分解によるダウンサンプリング処理を繰り返し行い、ダウンサンプリング画像を生成する(ステップS201)。
【0026】
図3は、オクターブ分解によるダウンサンプリング処理の様子を示す図である。また、図4は、オクターブ分解によるダウンサンプリング処理及びフィルタ係数を示す図である。
【0027】
図3に示すように、1階離散ウェーブレット分解DWT(1)により、原画像Fである0階層目画像から水平低周波・垂直低周波の周波数成分CA(1)、水平高周波・垂直低周波成分CH(1)、水平低周波・垂直高周波成分CV(1)、水平高周波・垂直高周波成分CD(1)の1階層目画像が得られる。そして、CA(1)から水平低周波・垂直低周波の周波数成分CA(2)、水平高周波・垂直低周波成分CH(2)、水平低周波・垂直高周波成分CV(2)、水平高周波・垂直高周波成分CD(2)の2階層目画像が得られる。最終的に求めるダウンサンプリング画像は、n階層目画像のうちのn階離散ウェーブレット分解成分CA(n)となる。
【0028】
このような原画像の水平・垂直標本化周波数を1/2n倍にするダウンサンプリング処理では、n階分解時の各階層において、例えば同一種類のフィルタが用いられ、各階層における同一種類のフィルタには、同一または異なるフィルタ係数が用いられる。したがって、n階分解時の各階層において、使用するフィルタ係数が異なる場合は、周波数折り返し歪み成分量も異なることになる。尚、後述するように、n階分解時の各階層において、異なる種類のフィルタ及び異なるフィルタ係数を用いるようにしてもよい。
【0029】
図4に示す例は、n階分解時の各階層において、同一種類のフィルタが用いられ、1階層目画像を得るための1回目の分解時にフィルタ係数Fd−1が用いられ、2階層目画像を得るための2回目の分解時にフィルタ係数Fd−2が用いられ、同様に、n階層目画像を得るためのn回目の分解時にフィルタ係数Fd−nが用いられる場合を示している。
【0030】
尚、フィルタの種類としては、前述したとおり、例えば、Haar、メキシカンハット、Daubechies等のウェーブレットフィルタ、線形フィルタ、間引フィルタ等がある。
【0031】
図5は、次数pのDaubechiesウェーブレット係数を示す図であり、Daubechiesのウェーブレットフィルタを用いる場合のフィルタ係数の例を示している。pは次数、kは要素番号、αkはDaubechiesウェーブレット係数を示す。このDaubechiesのウェーブレットフィルタは、次数pの値を任意値としたフィルタ係数により特性が定められ、次数pが大きくなるとタップ数も大きくなり、急峻な特性を持つフィルタとなる。
【0032】
図5に示すように、次数p=1のときの要素数が2であり、次数p=2のときの要素数が4であり、次数p=3のときの要素数が6であり、次数p=4のときの要素数が8である。そして、次数pの値を任意値とするそれぞれの要素について、Daubechiesウェーブレット係数αk(フィルタ係数)が定義されている。図4の例では、オクターブ分解部11によるダウンサンプリング処理のn階分解時の各階層において、同一のDaubechiesのウェーブレットフィルタが用いられる場合、例えば、1階分解時のフィルタ係数Fd−1として次数p=1(p1)が用いられ、2階分解時のフィルタ係数Fd−2として次数p=2(p2)が用いられ、また、n階分解時のフィルタ係数Fd−nとして次数p=1(p1)が用いられる。これらのフィルタ係数は、図1に示したフィルタ係数処理部10により選定される。
【0033】
図2に戻って、符号化部12は、ステップS201にて生成されたダウンサンプリング画像のストリームに対し、H.264|MPEG−4AVC等の符号化処理を行い、ダウンサンプリング符号化画像を生成する(ステップS202)。尚、符号化処理は、H.264|MPEG−4AVC以外の手法を用いてもよい。復号部13は、ステップS202にて生成されたダウンサンプリング符号化画像のストリームに対し、ローカル復号処理を行い、ダウンサンプリング復号画像を生成する(ステップS203)。
【0034】
オクターブ再構成部14は、フィルタ係数処理部10により選定されたオクターブ再構成用の各階層のフィルタ係数を用いて、ステップS203にて生成されたダウンサンプリング復号画像の水平・垂直標本化周波数がそれぞれ2n(n=1,2,・・・,m)倍に拡大するように、オクターブ再構成によるアップサンプリング処理を繰り返し行い、アップサンプリング画像を生成する(ステップS204)。尚、オクターブ再構成部14は、オクターブ再構成によるアップサンプリング処理を繰り返し行うために、ダウンサンプリング復号画像と同じ階層の高周波成分領域の画像を得る必要がある。そこで、オクターブ再構成部14は、オクターブ再構成によるアップサンプリング処理を繰り返し行う前に、オクターブ再構成用の各階層のフィルタ係数に含まれるダウンサンプリング処理を行うための1階層分のフィルタ係数(後述する図7においてフィルタ係数Fd−(n+1))を用いて、オクターブ分解によるダウンサンプリング処理を行い、さらに、オクターブ再構成用の各階層のフィルタ係数に含まれるアップサンプリング処理を行うための1階層分のフィルタ係数(後述する図7においてフィルタ係数Fu−(n+1))を用いて、オクターブ再構成によるアップサンプリング処理を行う。
【0035】
図6は、オクターブ再構成によるアップサンプリング処理の様子を示す図である。また、図7は、オクターブ再構成によるアップサンプリング処理及びフィルタ係数を示す図である。
【0036】
図6に示すように、1階離散ウェーブレット再構成IDWT(1)により、ダウンサンプリング復号画像である水平低周波・垂直低周波の周波数成分CA(n)、水平高周波・垂直低周波成分CH(n)、水平低周波・垂直高周波成分CV(n)、水平高周波・垂直高周波成分CD(n)のn階層目画像から、CA(n−1)、CH(n−1)、CV(n−1)、CD(n−1)のn−1階層目画像が得られる。具体的には、まず、1階離散ウェーブレット分解DWT(1)により、ダウンサンプリング復号画像であるCA(n)からCA(n+1)、CH(n+1)、CV(n+1)、CD(n+1)のn+1階層目画像が得られる。そして、1階離散ウェーブレット再構成IDWT(1)により、CH(n+1)、CV(n+1)、CD(n+1)を空間低周波数領域成分、同じサイズのゼロ行列を空間高周波数領域成分として、CH(n)、CV(n)、CD(n)が得られる。これは、オクターブ再構成によるアップサンプリング処理を行うため、ステップS203にて生成されたダウンサンプリング復号画像であるCA(n)に加え、CH(n)、CV(n)、CD(n)を生成する必要があるからである。
【0037】
そして、1階離散ウェーブレット再構成IDWT(1)により、CA(n)、CH(n)、CV(n)、CD(n)のn階層目画像から、CA(n−1)が得られる。また、1階離散ウェーブレット再構成IDWT(1)により、CH(n)、CV(n)、CD(n)を空間低周波数領域成分、同じサイズのゼロ行列を空間高周波数領域成分として、CH(n−1)、CV(n−1)、CD(n−1)が得られる。そして、CA(2)、CH(2)、CV(2)、CD(2)の2階層目画像からCA(1)、CH(1)、CV(1)、CD(1)の1階層目画像が得られる。最終的に求めるアップサンプリング画像は、0階層目画像、すなわち原画像Fである。
【0038】
このようなダウンサンプリング復号画像の水平・垂直標本化周波数を2n倍にするアップサンプリング処理では、n階再構成時の各階層において、ダウンサンプリング処理と同様に、例えば同一種類のフィルタが用いられ、各階層における同一種類のフィルタには、同一または異なるフィルタ係数が用いられる。尚、後述するように、n階再構成時の各階層において、異なる種類のフィルタ及び異なるフィルタ係数を用いるようにしてもよい。
【0039】
図7に示す例は、n階再構成時の各階層において、同じフィルタが用いられる場合を示している。ダウンサンプリング復号画像と同じ階層の高周波成分領域の画像を得るために、n+1階層目の画像を得るための分解時にはフィルタ係数Fd−(n+1)が用いられ、n階層目の高周波成分領域の画像(ダウンサンプリング復号画像と同じ階層の高周波成分領域の画像)を得るための再構成時にはフィルタ係数Fu−(n+1)が用いられる。また、n−1階層目画像を得るための1回目の再構成時にはフィルタ係数Fu−nが用いられ、同様に、1階層目画像を得るためのn−1回目の再構成時にはフィルタ係数Fu−2が用いられ、0階層目画像を得るためのn回目の再構成時にはフィルタ係数Fu−1が用いられる。
【0040】
図2に戻って、画像符号化装置1は、ステップS201からステップS204までの処理を、フィルタ係数処理部10により随時選定された、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数を用いて、所定回数分繰り返して行う。
【0041】
フィルタ係数処理部10は、所定回数分のフィルタ係数を選定し、ステップS201からステップS204までの処理が所定回数分繰り返して行われた後、所定回数分随時選定したフィルタ係数のうち、原画像とステップS204にて生成されたアップサンプリング画像との間の画素値の差分が最も小さいフィルタ係数を最適なフィルタ係数に決定する(ステップS205)。最適なフィルタ係数を決定する処理の詳細については後述する。
【0042】
オクターブ分解部11は、ステップS205にて決定された、オクターブ分解用の各階層の最適なフィルタ係数を用いて、原画像の水平・垂直標本化周波数がそれぞれ1/2n(n=1,2,・・・,m)倍に縮小するように、オクターブ分解によるダウンサンプリング処理を繰り返し行い、ダウンサンプリング画像を生成する(ステップS206)。そして、符号化部12は、ステップS206にて生成されたダウンサンプリング画像のストリームに対し、H.264|MPEG−4AVC等の符号化処理を行い、ダウンサンプリング符号化画像を生成する(ステップS207)。また、符号化部12は、ステップS205にて決定された、最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)に対し符号化処理を行い、フィルタ符号化係数を生成する。このようにして、符号化部12からダウンサンプリング符号化画像及びフィルタ符号化係数が出力される。
【0043】
(フィルタ係数処理部)
次に、図1に示したフィルタ係数処理部10について詳細に説明する。前述のとおり、フィルタ係数処理部10は、予め設定されたフィルタ係数群から、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数を選定し、オクターブ分解部11に、オクターブ分解用の各階層のフィルタ係数を用いてオクターブ分解によるダウンサンプリング処理を行わせ、オクターブ再構成部14に、オクターブ再構成用の各階層のフィルタ係数を用いてオクターブ再構成によるアップサンプリング処理を行わせる。また、フィルタ係数処理部10は、原画像と、選定したフィルタ係数にてオクターブ分解及びオクターブ再構成されたアップサンプリング画像との間の画素値の差分を求め、その差分が最も小さいフィルタ係数を最適なフィルタ係数に決定する。
【0044】
図8は、フィルタ係数処理部10の構成を示すブロック図である。このフィルタ係数処理部10は、フィルタ係数選定手段(フィルタ情報選定手段)15、記憶手段16及びフィルタ係数決定手段(フィルタ情報決定手段)17を備えている。
【0045】
フィルタ係数選定手段15は、予め設定されたフィルタ係数群から、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数を選定する。そして、フィルタ係数選定手段15は、選定したオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力し、選定したオクターブ再構成用の各階層のフィルタ係数をオクターブ再構成部14に出力する。これにより、オクターブ分解部11は、フィルタ係数選定手段15からフィルタ係数を入力し、原画像に対し、オクターブ分解によるダウンサンプリング処理を行い、オクターブ再構成部14は、フィルタ係数選定手段15からフィルタ係数を入力し、オクターブ再構成によるアップサンプリング処理を行う。
【0046】
例えば、フィルタ係数選定手段15は、後述する図9を参照して、オクターブ分解部11及びオクターブ再構成部14において各階層のフィルタとして図5に示したDaubechiesのウェーブレットフィルタを使用する場合、オクターブ分解用の各階層のフィルタ係数Fd−1=p1,Fd−2=p2,・・・,Fd−n=p1及びオクターブ再構成用の各階層のフィルタ係数Fu−1=p2,Fu−2=p3,・・・,Fu−(n+1)=p1を選定する。また、次の処理のときに、オクターブ分解用の各階層のフィルタ係数Fd−1=p2,Fd−2=p2,・・・,Fd−n=p1及びオクターブ再構成用の各階層のフィルタ係数Fu−1=p2,Fu−2=p3,・・・,Fu−(n+1)=p1を選定する。このように、新たにフィルタ係数を選定する毎に、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数のうちのいずれかのフィルタ係数を変更する。
【0047】
また、フィルタ係数選定手段15は、原画像を入力すると共に、オクターブ再構成部14からアップサンプリング画像を入力し、原画像の各画素値からRMS(Root Mean Square:平均自乗根)値を算出し、アップサンプリング画像の各画素値からRMS値を算出し、両RMS値の差分を算出する。フィルタ係数選定手段15は、選定したフィルタ係数と算出したRMS値の差分とを組にして記憶手段16に格納する。フィルタ係数の選定、オクターブ分解によるダウンサンプリング処理及びオクターブ再構成によるアップサンプリングの処理が所定回数分行われると、フィルタ係数選定手段15は、原画像に対する所定回数分の処理が完了したことを示す完了通知をフィルタ係数決定手段17に出力する。これにより、記憶手段16には、所定回数分のフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)及びRMS値(RMS値の差分)が格納される。
【0048】
フィルタ係数決定手段17は、フィルタ係数選定手段15から、完了通知を入力すると、記憶手段16から所定回数分のフィルタ係数及びRMS値を読み出し、RMS値が最も小さいフィルタ係数(両画像の画素値の差分が最も小さいフィルタ係数)を最適なフィルタ係数に決定する。すなわち、原画像に最も近いアップサンプリング画像が得られたときのフィルタ係数を最適なフィルタ係数に決定する。そして、フィルタ係数決定手段17は、決定した最適なフィルタ係数のうちオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力し、オクターブ分解部11に、オクターブ分解用の各階層の最適なフィルタ係数を用いて、オクターブ分解によるダウンサンプリング処理を行わせる。また、フィルタ係数決定手段17は、最適なフィルタ係数を決定したことを示す決定通知、及び最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)を符号化部12に出力する。これにより、符号化部12は、オクターブ分解部11から入力するダウンサンプリング画像が、最適なフィルタ係数により生成された画像であると判断することができ、ダウンサンプリング画像及び最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)に対し符号化処理を行う。
【0049】
図9は、図8に示した記憶手段16に格納されるフィルタ係数及びRMS値を示す図である。フィルタ係数選定手段15は、オクターブ分解用の各階層のフィルタ係数Fd−1,Fd−2,・・・,Fd−n及びオクターブ再構成用の各階層のフィルタ係数Fu−1,Fu−2,・・・,Fu−(n+1)を選定し、RMS値を算出する毎に、これらのフィルタ係数及びRMS値を記憶手段16に格納する。図9に示すように、オクターブ分解部11及びオクターブ再構成部14において各階層のフィルタとして、図5に示したDaubechiesのウェーブレットフィルタを使用する場合、記憶手段16には、最初に選定されたフィルタ係数Fd−1=p1,Fd−2=p2,・・・,Fd−n=p1,Fu−1=p2,Fu−2=p3,・・・,Fu−(n+1)=p1、及び最初に算出されたRMS値が格納され、次に選定されたフィルタ係数Fd−1=p2,Fd−2=p2,・・・,Fd−n=p1,Fu−1=p2,Fu−2=p3,・・・,Fu−(n+1)=p1及び、次に算出されたRMS値が格納され、結果として、所定回数分のフィルタ係数及びRMS値が格納される。
【0050】
以上のように、本発明の実施形態による画像符号化装置1によれば、オクターブ分解部11が、原画像を、階層的にオクターブ分解によるダウンサンプリング処理してダウンサンプリング画像を生成し、オクターブ再構成部14が、符号化部12及び復号部13によりダウンサンプリング画像が符号化及び復号されて生成されたダウンサンプリング復号画像を、階層的にオクターブ再構成によるアップサンプリング処理してアップサンプリング画像を生成するようにした。そして、フィルタ係数処理部10が、選定した各階層のフィルタ係数を用いて生成されたアップサンプリング画像と原画像との間の画素値の差分をRMS値により算出し、アップサンプリング画像が原画像に最も近い、各階層の最適なフィルタ係数を決定するようにした。
【0051】
これにより、最適なフィルタ係数を用いてダウンサンプリング処理を行い符号化することにより生成されたダウンサンプリング符号化画像、及び最適なフィルタ係数を符号化することにより生成されたフィルタ符号化係数が、画像符号化装置1から伝送路3を介して画像復号装置2へ送信される。画像復号装置2は、画像符号化装置1により決定された最適なフィルタ係数を用いて、オクターブ再構成によるアップサンプリング処理を行うことができる。したがって、原画像に最も近い高画質な画像を復元することができる。つまり、符号化及び復号処理を高画質に行うことができる。
【0052】
〔画像復号装置の構成〕
次に、画像復号装置の構成について説明する。図10は、本発明の実施形態による画像復号装置の構成を示すブロック図である。この画像復号装置2は、復号部20及びオクターブ再構成部21を備えている。
【0053】
画像復号装置2が画像符号化装置1から伝送路3を介してダウンサンプリング符号化画像及びフィルタ符号化係数(オクターブ分解用の各階層の最適なフィルタ符号化係数及びオクターブ再構成用の各階層の最適なフィルタ符号化係数)を受信すると、復号部20は、ダウンサンプリング符号化画像のストリーム及びフィルタ符号化係数に対し復号処理を行い、ダウンサンプリング復号画像及びフィルタ係数(オクターブ分解用の各階層の最適なフィルタ係数及びオクターブ再構成用の各階層の最適なフィルタ係数)を生成し、オクターブ再構成部21に出力する。この復号部20による復号処理は、前述した画像符号化装置1の復号部13による復号処理と同じである。
【0054】
オクターブ再構成部21は、復号部20からダウンサンプリング復号画像及びフィルタ係数(オクターブ分解用の各階層の最適なフィルタ係数及びオクターブ再構成用の各階層の最適なフィルタ係数)を入力し、オクターブ再構成における各階層の最適なフィルタ係数を用いて、オクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成する。そして、オクターブ再構成部21は、生成したアップサンプリング画像を原画像として出力する。このオクターブ再構成部21の処理は、画像符号化装置1のオクターブ再構成部14の処理と同様である。
【0055】
〔画像復号装置の処理〕
次に、図10に示した画像復号装置2の処理について説明する。図11は、画像復号装置2による復号処理を示すフロー図である。また、図12は、画像復号装置2によるオクターブ再構成処理を示すフロー図である。図11を参照して、画像復号装置2の復号部20は、画像符号化装置1から送信されたダウンサンプリング符号化画像及びフィルタ符号化係数を、伝送路3を介して入力し、復号処理を行う(ステップS1101)。この復号処理により、ダウンサンプリング復号画像及び最適なフィルタ係数が生成される。そして、図12を参照して、オクターブ再構成部21は、オクターブ再構成用の各階層の最適なフィルタ係数を用いて、ステップS1101にて生成されたダウンサンプリング復号画像の水平・垂直標本化周波数がそれぞれ2n(n=1,2,・・・,m)倍に拡大するように、オクターブ再構成によるアップサンプリング処理を繰り返し行い、アップサンプリング画像(原画像)を生成する(ステップS1201)。
【0056】
具体的には、オクターブ再構成部21は、復号部20から、ダウンサンプリング復号画像であるCA(n)と、オクターブ再構成用の各階層のフィルタ係数Fu−1〜Fu−n,Fd−(n+1),Fu−(n+1)とを入力する。そして、オクターブ再構成部21は、フィルタ係数Fd−(n+1)を用いて、CA(n)に対し1階のオクターブ分解によるダウンサンプリング処理を行い、CA(n+1)、CH(n+1)、CV(n+1)、CD(n+1)を生成し、生成したCH(n+1)、CV(n+1)、CD(n+1)を空間低周波数領域成分、同じサイズのゼロ行列を空間高周波数領域成分として、フィルタ係数Fu−(n+1)を用いて、1階のオクターブ再構成によるアップサンプリング処理を行い、CH(n)、CV(n)、CD(n)を生成する。そして、オクターブ再構成部21は、フィルタ係数Fu−nを用いて、CA(n)、CH(n)、CV(n)、CD(n)に対し1階のオクターブ再構成によるアップサンプリング処理を行い、CA(n−1)、を生成する。また、オクターブ再構成部21は、CH(n)、CV(n)、CD(n)を空間低周波数領域成分、同じサイズのゼロ行列を空間高周波数領域成分として、フィルタ係数Fu−nを用いて、1階のオクターブ再構成によるアップサンプリング処理を行い、CH(n−1)、CV(n−1)、CD(n−1)を生成する。このような処理を繰り返すことにより、アップサンプリング画像(原画像)を生成する。
【0057】
以上のように、本発明の実施形態による画像復号装置2によれば、画像符号化装置1から伝送路3を介して、ダウンサンプリング符号化画像及びフィルタ符号化係数を受信し、オクターブ再構成部21が、復号部20によりフィルタ符号化係数が復号されて生成されたフィルタ係数を用いて、復号部20によりダウンサンプリング符号化画像が復号されて生成されたダウンサンプリング復号画像を、階層的にオクターブ再構成によるアップサンプリング処理してアップサンプリング画像を生成するようにした。ここで、オクターブ再構成部21にて用いるフィルタ係数は、画像符号化装置1において、画像復号装置2のオクターブ再構成部21と同じオクターブ再構成によるアップサンプリング処理にて生成されたアップサンプリング画像が原画像に最も近い最適なフィルタ係数である。
【0058】
これにより、信号復元装置2において、原画像に最も近い高画質な画像を復元することができる。つまり、符号化及び復号処理を高画質に行うことができる。
【0059】
〔変形例〕
次に、前述した実施形態の変形例について説明する。この変形例は、タップ数の小さいフィルタ係数すなわち周波数折り返し成分量の多いフィルタ係数から、タップ数の大きいフィルタ係数すなわち折り返し量の少ないフィルタ係数へ徐々に変わるように、フィルタ係数を選定し、選定したフィルタ係数における原画像とアップサンプリング画像との間の画素値の差分を示すRMS値が減少特性から増加特性に変化したときのフィルタ係数を最適なフィルタ係数に決定するものである。これにより、予め設定された全てのフィルタ係数群について、ダウンサンプリング処理及びアップサンプリング処理を行ってRMS値を算出する必要がないから、処理負荷を低減し、処理時間を短縮することができる。
【0060】
この変形例による画像符号化装置1の構成は、図1に示したものと同様であるが、フィルタ係数処理部10の処理が異なる。フィルタ係数処理部10以外の構成部については前述したので、その説明は省略する。
【0061】
フィルタ係数処理部10は、前述の実施形態と同様に、予め設定されたフィルタ係数群から、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数を選定し、オクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力し、オクターブ再構成用の各階層のフィルタ係数をオクターブ再構成部14に出力する。また、フィルタ係数処理部10は、原画像を入力すると共に、選定したフィルタ係数にてオクターブ分解及びオクターブ再構成されたアップサンプリング画像を入力し、両画像間の画素値の差分を示すRMS値を算出する。
【0062】
ここで、予め設定されたフィルタ係数群は、タップ数の小さいフィルタ係数群から、タップ数の大きいフィルタ係数群まで、徐々にタップ数が大きくなるように分けられたフィルタ係数群とする。例えば、フィルタ係数処理部10は、最初に、全体的にタップ数の最も小さいフィルタ係数Fd−1=p1,Fd−2=p1,・・・,Fd−n=p1,Fu−1=p1,Fu−2=p1,・・・,Fu−(n+1)=p1(全てのフィルタ係数p1)を選定し、RMS値を算出する。次に、フィルタ係数処理部10は、全体的にタップ数が2番目に小さいフィルタ係数Fd−1=p2,Fd−2=p1,・・・,Fd−n=p1,Fu−1=p1,Fu−2=p1,・・・,Fu−(n+1)=p1(1つのフィルタ係数p2、他のフィルタ係数p1)を選定し、RMS値を算出する。
【0063】
そして、フィルタ係数処理部10は、最初に算出したRMS値と次に算出したRMS値とを比較する。このように、フィルタ係数処理部10は、フィルタ係数を選定する毎に、タップ数が徐々に大きくなるように選定し、その都度RMS値を算出し、前回算出したRMS値と今回算出したRMS値とを比較する。このような処理を繰り返す。
【0064】
一般に、小さいタップ数のフィルタ係数を用いてダウンサンプリング処理を行った場合、周波数通過帯域に含まれる周波数折り返し成分は多くなる。また、大きなタップ数のフィルタ係数を用いてダウンサンプリング処理を行った場合、周波数通過帯域に含まれる周波数折り返し成分は小さくなる。一般に、画像に含まれる空間周波数スペクトルは低域に集中しており、その分布は画像毎に異なる。そして、周波数折り返し成分量は、多過ぎても少な過ぎてもアップサンプリング画質に悪影響を及ぼす。したがって、タップ数の小さいフィルタ係数から徐々にタップ数の大きいフィルタ係数を選定することにより、そのフィルタ係数におけるRMS値は、タップ数が大きくなるに従って徐々に小さくなり、極小値となり、そして徐々に大きくなる。
【0065】
そこで、フィルタ係数処理部10は、RMS値が極小値であるか否かを、前回算出したRMS値と今回算出したRMS値とを比較することにより判定する。そして、フィルタ係数処理部10は、RMS値の極小値を判定した場合、前回算出したRMS値におけるフィルタ係数を最適なフィルタ係数に決定する。
【0066】
図8を参照して、変形例によるフィルタ係数処理部10のフィルタ係数選定手段15は、予め設定されたフィルタ係数群から、選定を繰り返す毎に、全体的にタップ数が大きくなるようにフィルタ係数を選定し、オクターブ分解部11及びオクターブ再構成部14に出力する。
【0067】
また、フィルタ係数選定手段15は、原画像を入力すると共に、オクターブ再構成部14からアップサンプリング画像を入力し、両画像の画素値の差分をRMS値により算出する。フィルタ係数選定手段15は、選定したフィルタ係数と算出したRMS値とを組にして記憶手段16に格納する。そして、フィルタ係数選定手段15は、RMS値の算出及び格納を完了したことを示す算出完了通知をフィルタ係数決定手段17に出力する。また、フィルタ係数選定手段15は、フィルタ係数決定手段17から後述する選定通知を入力する毎に、このような処理を繰り返し行い、フィルタ係数決定手段17から後述する決定完了通知を入力した場合、原画像に対する処理を終了する。
【0068】
フィルタ係数決定手段17は、フィルタ係数選定手段15から、RMS値の算出及び格納を完了したことを示す算出完了通知を入力すると、記憶手段16から前回格納された(前回の処理にて選定され格納された)フィルタ係数及びRMS値を読み出すと共に、今回格納された(今回の処理にて選定され格納された)フィルタ係数及びRMS値を読み出す。そして、フィルタ係数決定手段17は、前回のRMS値と今回のRMS値とを比較し、前回のRMS値よりも今回のRMS値の方が大きいと判定した場合(前回のRMS値が極小値であると判定した場合)、前回のフィルタ係数を最適なフィルタ係数であると判定する。そして、フィルタ係数決定手段17は、決定完了通知をフィルタ係数選定手段15に出力すると共に、決定通知を符号化部12に出力する。これにより、フィルタ係数選定手段15は、原画像に対するフィルタ係数を選定する処理を終了する。また、フィルタ係数決定手段17は、最適なフィルタ係数のうちオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力する。一方、フィルタ係数決定手段17は、前回のRMS値よりも今回のRMS値の方が大きくないと判定した場合(前回のRMS値は極小値でないと判定した場合)、次のフィルタ係数を選定させるための選定通知をフィルタ係数選定手段15に出力する。
【0069】
以上のように、本発明の実施形態による画像符号化装置1によれば、フィルタ係数処理部10が、フィルタ係数を選定する毎に、タップ数の小さいフィルタ係数からタップ数の大きいフィルタ係数へ徐々に変わるように選定し、選定したフィルタ係数における原画像とアップサンプリング画像との間の画素値の差分を示すRMS値が極小値をとる点を判定し、その点のフィルタ係数を最適なフィルタ係数に決定するようにした。
【0070】
これにより、オクターブ分解部11及びオクターブ再構成部14は、予め設定された全てのフィルタ係数について、ダウンサンプリング処理及びアップサンプリング処理を行う必要がなく、フィルタ係数処理部10も、予め設定された全てのフィルタ係数について、RMS値を算出する必要もない。つまり、画像符号化装置1における処理負荷を低減し、処理時間を短縮することができる。したがって、原画像に最も近い高画質な画像を効率的に復元することができ、符号化及び復号処理を高画質に、かつ効率的に行うことができる。
【0071】
以上、実施形態を挙げて本発明を説明したが、本発明は前記実施形態に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。例えば、前記実施形態では、フィルタ係数処理部10が、予め設定されたフィルタ係数群からフィルタ係数を選定し、最適なフィルタ係数を決定するようにしたが、予め設定されたフィルタの種類群及びフィルタ係数群からフィルタの種類及びフィルタ係数(フィルタ情報)を選定し、最適なフィルタの種類及びフィルタ係数を決定するようにしてもよい。また、前記実施形態では、フィルタ係数処理部10が、原画像とアップサンプリング画像との間の画素値の差分を示すRMS値を算出するようにしたが、原画像及びアップサンプリング画像のエッジ成分をそれぞれ抽出し、エッジ成分の差分を示すRMS値を算出するようにしてもよい。この場合、フィルタ係数処理部10は、エッジ成分のRMS値が最小となるフィルタ係数を最適なフィルタ係数に決定する。
【0072】
また、前記実施形態では、画像符号化装置1が、原画像に対し、所定のフィルタ係数を用いてオクターブ分解によるダウンサンプリング処理を行い、最適なフィルタ係数を決定し、ダウンサンプリング画像及びフィルタ係数を送信し、画像復号装置2が、ダウンサンプリング画像に対し、最適なフィルタ係数を用いてオクターブ再構成によるアップサンプリング処理を行い、原画像を復元するようにしたが、本発明は、空間周波数ダウンサンプリングとアップサンプリングを行う処理全般に適用がある。例えば、ストレージメディアへ圧縮記録する等の処理に適用がある。
【0073】
また、本発明は、JPEG2000を用いてフレーム単位で圧縮符号化を行うデジタルシネマ圧縮符号化処理の前段または後段に用いることができる。また、H.264|MPEG−4AVCで圧縮符号化が検討されているスーパーハイビジョン圧縮符号化処理の前段または後段に用いることができる。また、将来の新しい圧縮符号化方式と組み合わせて用いることも可能である。
【0074】
尚、画像符号化装置1及び画像復号装置2のハード構成としては、通常のコンピュータを使用することができる。すなわち、CPU、RAM等の揮発性の記憶媒体、ROM等の不揮発性の記憶媒体、及びインターフェース等を備えたコンピュータによって構成できる。画像符号化装置1を構成するフィルタ係数処理部10、オクターブ分解部11、符号化部12、復号部13及びオクターブ再構成部14の各機能は、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現できる。また、画像復号装置2を構成する復号部20及びオクターブ再構成部21の各機能も、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現できる。これらのプログラムは、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリ等の記憶媒体に格納して頒布することもできる。
【符号の説明】
【0075】
1 画像符号化装置
2 画像復号装置
3 伝送路
10 フィルタ係数処理部
11 オクターブ分解部
12 符号化部
13,20 復号部
14,21 オクターブ再構成部
15 フィルタ係数選定手段
16 記憶手段
17 フィルタ係数決定手段
【技術分野】
【0001】
本発明は、高精細画像の伝送を行うシステムに好適な画像符号化装置、画像復号装置及びプログラムに関する。
【背景技術】
【0002】
近年、画像符号化の分野ではデジタル画像の高精細化が進んでいる。高精細画像は膨大な情報量を持つため、限られた帯域で伝送するためには高圧縮符号化する必要がある。しかしながら、膨大な情報量を持つ高精細画像を既存の符号化手法にて処理し伝送するには限界がある。そこで、オクターブ分解によるダウンサンプリング処理を行う手法が案出されている。
【0003】
この手法では、送信側の画像符号化装置は、入力した原画像に対し、オクターブ分解によるダウンサンプリング処理を行い、ダウンサンプリングした画像を符号化して送信する。受信側の画像復号装置は、符号化されたダウンサンプリング画像を受信し復号した後、復号したダウンサンプリング画像に対し、オクターブ再構成によるアップサンプリング処理を行い、元の原画像を再生する。これにより、膨大な情報量を持つ高精細画像を既存の手法にて符号化して伝送することなく、元の高精細画像を再生することができ、高圧縮に符号化されたダウンサンプリング画像のビットレート不足による符号化歪みを大きく軽減することができる。オクターブ分解によるダウンサンプリング処理及びオクターブ再構成によるアップサンプリング処理に関する符号化技術としては、例えば、特許文献1,2に開示されたものが知られている。
【0004】
このような画像標本化周波数のアップサンプリング処理及びダウンサンプリング処理は、異なる放送方式の映像をフォーマット変換する際に用いられる。例えば、アメリカ及び日本等で使用されている標準画質テレビ放送方式であるNTSCの映像から、欧州等で使用されている標準画質テレビ方式であるPALの映像へ変換する際、または、NTSCの映像からハイビジョン放送方式の映像へ変換する際に用いられる。また、画像標本化周波数のアップサンプリング処理は、赤色レーザーDVDに記録されている標準画質画像を、液晶ハイビジョンモニタに表示する際に用いられる。さらに、画像標本化周波数のアップサンプリング処理時に高周波数成分を推定し、これを画像に付加することにより高精細化を実現する技術が研究・開発されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平6−237183号公報
【特許文献2】特表2007−504523号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
このような異なる放送方式のフォーマット変換等を行う画像符号化装置及び画像復号装置において、全体の符号化画質は、画像符号化装置によるダウンサンプリング処理、及び画像復号装置によるアップサンプリング処理の性能に大きく依存する。このため、ダウンサンプリング処理及びアップサンプリング処理を、可能な限り高画質に行う必要がある。しかしながら、従来の画像符号化装置及び画像復号装置では、ダウンサンプリング処理した画像をアップサンプリング処理して原画像を再生する場合、原画像と同程度の高画質な画像を再生することが困難であるという問題があった。
【0007】
そこで、本発明はかかる問題を解決するためになされたものであり、その目的は、送信側にて、原画像をダウンサンプリング処理し、ダウンサンプリング画像を符号化し、受信側にて、符号化されたダウンサンプリング画像を復号してアップサンプリング処理する際に、原画像に最も近い高画質な画像を復元することが可能な画像符号化装置、画像復号装置及びプログラムを提供することにある。
【課題を解決するための手段】
【0008】
上記目的を達成するために、請求項1の発明は、原画像をダウンサンプリング処理して符号化する画像符号化装置において、複数のフィルタから、ダウンサンプリング処理における各階層のフィルタ及びアップサンプリング処理における各階層のフィルタを選定し、最適なフィルタを決定するフィルタ情報処理部と、前記選定されたダウンサンプリング処理における各階層のフィルタを用いて、前記原画像に対しオクターブ分解によるダウンサンプリング処理を行い、ダウンサンプリング画像を生成するオクターブ分解部と、前記生成されたダウンサンプリング画像に対し符号化処理を行い、ダウンサンプリング符号化画像を生成する符号化部と、前記生成されたダウンサンプリング符号化画像に対し復号処理を行い、ダウンサンプリング復号画像を生成する復号部と、前記選定されたアップサンプリング処理における各階層のフィルタを用いて、前記生成されたダウンサンプリング復号画像に対しオクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成するオクターブ再構成部とを備え、前記フィルタ情報処理部が、前記原画像と前記生成されたアップサンプリング画像との間の画素値の差分が最も小さくなるフィルタを、前記ダウンサンプリング処理及びアップサンプリング処理における各階層の最適なフィルタに決定し、前記符号化部が、前記最適なフィルタを用いて生成されたダウンサンプリング画像、及び前記決定された最適なフィルタに関する情報に対し符号化処理を行い、ダウンサンプリング符号化画像及びフィルタ符号化情報を生成することを特徴とする。
【0009】
また、請求項2の発明は、請求項1に記載の画像符号化装置において、前記オクターブ分解としてウェーブレット分解を用い、前記オクターブ再構成としてウェーブレット再構成を用い、前記フィルタ情報処理部が、複数のウェーブレットフィルタの種類及び複数のフィルタ係数から、前記各階層のウェーブレットフィルタの種類及びフィルタ係数を選定し、最適なウェーブレットフィルタの種類及びフィルタ係数を決定することを特徴とする。
【0010】
また、請求項3の発明は、請求項1に記載の画像符号化装置において、前記フィルタ情報処理部が、複数のフィルタから、ダウンサンプリング処理における各階層のフィルタ及びアップサンプリング処理における各階層のフィルタを選定する際に、各階層のフィルタのうち少なくとも1つのフィルタが、前回選定したフィルタのタップ数よりも今回選定したタップ数が大きくなるように、前記フィルタを選定し、前記原画像と前記生成されたアップサンプリング画像との間の画素値の差分が極小となるフィルタを、前記ダウンサンプリング処理及びアップサンプリング処理における各階層の最適なフィルタに決定することを特徴とする。
【0011】
さらに、請求項4の発明は、請求項1の画像符号化装置により最適なフィルタを用いて符号化されたダウンサンプリング符号化画像及びフィルタ符号化係数を入力し、前記ダウンサンプリング符号化画像を復号してアップサンプリング処理を行う画像復号装置において、前記ダウンサンプリング符号化画像及びフィルタ符号化係数に対し復号処理を行い、ダウンサンプリング復号画像及びフィルタ係数を生成する復号部と、前記生成されたフィルタ係数のうち、アップサンプリング処理における各階層のフィルタを用いて、前記生成されたダウンサンプリング復号画像に対しオクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成するオクターブ再構成部とを備えたことを特徴とする。
【0012】
さらに、請求項5の発明は、コンピュータを、請求項1から3までのいずれか一項に記載の画像符号化装置として機能させるための画像符号化プログラムである。
【0013】
また、請求項6の発明は、コンピュータを、請求項4に記載の画像復号装置として機能させるための画像復号プログラムである。
【発明の効果】
【0014】
以上のように、本発明によれば、原画像を階層的にダウンサンプリング処理し、ダウンサンプリング画像を生成して符号化すると共に、生成したダウンサンプリング画像に基づいて、階層的なアップサンプリング処理により原画像に最も近い画像を再生可能とする各階層のフィルタ情報を決定するようにした。これにより、原画像に最も近い高画質な画像を復元することができる。つまり、符号化及び復号処理を高画質に行うことができる。
【図面の簡単な説明】
【0015】
【図1】本発明の実施形態による画像符号化装置の構成を示すブロック図である。
【図2】画像符号化装置の処理を示すフロー図である。
【図3】オクターブ分解によるダウンサンプリング処理の様子を示す図である。
【図4】オクターブ分解によるダウンサンプリング処理及びフィルタ係数を示す図である。
【図5】次数pのDaubechiesウェーブレット係数を示す図である。
【図6】オクターブ再構成によるアップサンプリング処理の様子を示す図である。
【図7】オクターブ再構成によるアップサンプリング処理及びフィルタ係数を示す図である。
【図8】フィルタ係数処理部の構成を示すブロック図である。
【図9】記憶手段に格納されるフィルタ係数及びRMS値を示す図である。
【図10】本発明の実施形態による画像復号装置の構成を示すブロック図である。
【図11】画像復号装置の復号処理を示すフロー図である。
【図12】画像復号装置のオクターブ再構成処理を示すフロー図である。
【発明を実施するための形態】
【0016】
以下、本発明を実施するための形態について、図面を参照して説明する。本発明は、画像符号化装置が、入力した原画像に応じて、オクターブ分解処理及びオクターブ再構成処理の各階層における最適なフィルタ情報を随時選択し、画像復号装置が、この最適なフィルタ情報を用いてオクターブ再構成処理を行うことを特徴とする。本発明によれば、オクターブ分解によるダウンサンプリング処理を行って情報量を圧縮し、オクターブ再構成によるアップサンプリング処理を行って元の情報量に戻すため、高圧縮符号化時の符号化歪みを大きく軽減することができる。符号化歪みが小さい場合は、オクターブ分解処理及びオクターブ再構成処理に伴う画質劣化に依存した画像を得ることができる。そこで、本発明では、最適なフィルタ情報を用いてオクターブ分解処理及びオクターブ再構成処理を高画質に行うことにより、原画像に最も近い高画質な画像を復元する。
【0017】
以下に説明する本発明の実施形態は、原画像を入力し、ウェーブレット分解を用いて原画像を空間周波数ダウンサンプリング(以下、”ダウンサンプリング”という。)し、これにより得られた空間周波数ダウンサンプリング画像(以下、”ダウンサンプリング画像”という。)を符号化して伝送する画像符号化装置、及び、符号化されたダウンサンプリング画像を復号し、ダウンサンプリング復号画像を空間周波数アップサンプリング(以下、”アップサンプリング”という。)し、これにより得られた空間周波数アップサンプリング画像(以下、”アップサンプリング画像”という。)を出力する画像復号装置を想定している。尚、ウェーブレット分解によるダウンサンプリング処理及びウェーブレット再構成によるアップサンプリング処理は、各階層において、Haar、メキシカンハット等のウェーブレットフィルタ、Daubechies(ドベシー)のように次数pの値を任意値とするウェーブレットフィルタ、タップ数及びその係数を任意値とする線形フィルタ、1:2画素間引フィルタ等が用いられる。すなわち、オクターブ分解によるダウンサンプリング処理及びオクターブ再構成によるアップサンプリング処理を各階層において行えるものであれば、どのようなフィルタでも使用可能である。
【0018】
〔画像符号化装置の構成〕
まず、画像符号化装置の構成について説明する。図1は、本発明の実施形態による画像符号化装置の構成を示すブロック図である。この画像符号化装置1は、フィルタ係数処理部(フィルタ情報処理部)10、オクターブ分解部11、符号化部12、復号部13及びオクターブ再構成部14を備えている。
【0019】
フィルタ係数処理部10は、予め設定されたフィルタ係数群から、オクターブ分解によるダウンサンプリング処理を行うための各階層のフィルタに用いるフィルタ係数(以下、オクターブ分解用の各階層のフィルタ係数という。)、及びオクターブ再構成によるアップサンプリング処理を行うための各階層のフィルタに用いるフィルタ係数(以下、オクターブ再構成用の各階層のフィルタ係数という。)を選定する。尚、ここではフィルタ係数を選定するようにしたが、フィルタの種類及びフィルタ係数(フィルタ情報)を選定するようにしてもよい。詳細については後述する。
【0020】
フィルタ係数処理部10は、選定したオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力し、選定したオクターブ再構成用の各階層のフィルタ係数をオクターブ再構成部14に出力する。また、フィルタ係数処理部10は、原画像を入力すると共に、選定して出力したフィルタ係数にてオクターブ分解及びオクターブ再構成されたアップサンプリング画像を入力し、両画像の画素値の差分を求める。そして、フィルタ係数処理部10は、その差分が最も小さいフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)を最適なフィルタ係数に決定し、最適なフィルタ係数のうちのオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力する。また、フィルタ係数処理部10は、最適なフィルタ係数を決定したことを示す決定通知、及び最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)を符号化部12に出力する。
【0021】
オクターブ分解部11は、原画像を入力すると共に、フィルタ係数処理部10からオクターブ分解用の各階層のフィルタ係数を入力し、オクターブ分解によるダウンサンプリング処理を行い、ダウンサンプリング画像を生成する。そして、オクターブ分解部11は、生成したダウンサンプリング画像を符号化部12に出力する。
【0022】
符号化部12は、オクターブ分解部11からダウンサンプリング画像を入力すると共に、フィルタ係数処理部10から、最適なフィルタ係数が決定されたことを示す決定通知、及び最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)を入力する。符号化部12は、決定通知を入力しない場合、入力したダウンサンプリング画像のストリームに対し符号化処理を行い、ダウンサンプリング符号化画像を生成し、復号部13に出力する。一方、符号化部12は、決定通知を入力した場合、入力したダウンサンプリング画像が最適なフィルタ係数により生成された画像であると判断して、ダウンサンプリング画像のストリーム及び最適なフィルタ係数に対し符号化処理を行い、ダウンサンプリング符号化画像及びフィルタ符号化係数(オクターブ分解用の各階層のフィルタ符号化係数及びオクターブ再構成用の各階層のフィルタ符号化係数)を生成し、伝送路3を介して後述する画像復号装置2へ送信する。
【0023】
復号部13は、符号化部12からダウンサンプリング符号化画像を入力し、ダウンサンプリング符号化画像のストリームに対し復号処理(ローカル復号処理)を行い、ダウンサンプリング復号画像を生成し、オクターブ再構成部14に出力する。この復号部13による復号処理は、後述する画像復号装置2の復号部20による復号処理と同様であるが、画像復号装置2の復号部20に対応する処理という意味でローカル復号処理である。
【0024】
オクターブ再構成部14は、復号部13からダウンサンプリング復号画像を入力すると共に、フィルタ係数処理部10からオクターブ再構成用の各階層のフィルタ係数を入力し、オクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成する。そして、オクターブ再構成部14は、生成したアップサンプリング画像をフィルタ係数処理部10に出力する。尚、フィルタ係数処理部10から入力するオクターブ再構成用の各階層のフィルタ係数には、アップサンプリング処理を行うための各階層のフィルタ係数に加え、ダウンサンプリング処理を行うための1階層分のフィルタ係数も含まれる。詳細については後述する。
【0025】
〔画像符号化装置の処理〕
次に、図1に示した画像符号化装置1の処理について説明する。図2は、画像符号化装置1の処理を示すフロー図である。まず、画像符号化装置1のオクターブ分解部11は、フィルタ係数処理部10により選定されたオクターブ分解用の各階層のフィルタ係数を用いて、入力した原画像の水平・垂直標本化周波数がそれぞれ1/2n(n=1,2,・・・,m)倍に縮小するように、オクターブ分解によるダウンサンプリング処理を繰り返し行い、ダウンサンプリング画像を生成する(ステップS201)。
【0026】
図3は、オクターブ分解によるダウンサンプリング処理の様子を示す図である。また、図4は、オクターブ分解によるダウンサンプリング処理及びフィルタ係数を示す図である。
【0027】
図3に示すように、1階離散ウェーブレット分解DWT(1)により、原画像Fである0階層目画像から水平低周波・垂直低周波の周波数成分CA(1)、水平高周波・垂直低周波成分CH(1)、水平低周波・垂直高周波成分CV(1)、水平高周波・垂直高周波成分CD(1)の1階層目画像が得られる。そして、CA(1)から水平低周波・垂直低周波の周波数成分CA(2)、水平高周波・垂直低周波成分CH(2)、水平低周波・垂直高周波成分CV(2)、水平高周波・垂直高周波成分CD(2)の2階層目画像が得られる。最終的に求めるダウンサンプリング画像は、n階層目画像のうちのn階離散ウェーブレット分解成分CA(n)となる。
【0028】
このような原画像の水平・垂直標本化周波数を1/2n倍にするダウンサンプリング処理では、n階分解時の各階層において、例えば同一種類のフィルタが用いられ、各階層における同一種類のフィルタには、同一または異なるフィルタ係数が用いられる。したがって、n階分解時の各階層において、使用するフィルタ係数が異なる場合は、周波数折り返し歪み成分量も異なることになる。尚、後述するように、n階分解時の各階層において、異なる種類のフィルタ及び異なるフィルタ係数を用いるようにしてもよい。
【0029】
図4に示す例は、n階分解時の各階層において、同一種類のフィルタが用いられ、1階層目画像を得るための1回目の分解時にフィルタ係数Fd−1が用いられ、2階層目画像を得るための2回目の分解時にフィルタ係数Fd−2が用いられ、同様に、n階層目画像を得るためのn回目の分解時にフィルタ係数Fd−nが用いられる場合を示している。
【0030】
尚、フィルタの種類としては、前述したとおり、例えば、Haar、メキシカンハット、Daubechies等のウェーブレットフィルタ、線形フィルタ、間引フィルタ等がある。
【0031】
図5は、次数pのDaubechiesウェーブレット係数を示す図であり、Daubechiesのウェーブレットフィルタを用いる場合のフィルタ係数の例を示している。pは次数、kは要素番号、αkはDaubechiesウェーブレット係数を示す。このDaubechiesのウェーブレットフィルタは、次数pの値を任意値としたフィルタ係数により特性が定められ、次数pが大きくなるとタップ数も大きくなり、急峻な特性を持つフィルタとなる。
【0032】
図5に示すように、次数p=1のときの要素数が2であり、次数p=2のときの要素数が4であり、次数p=3のときの要素数が6であり、次数p=4のときの要素数が8である。そして、次数pの値を任意値とするそれぞれの要素について、Daubechiesウェーブレット係数αk(フィルタ係数)が定義されている。図4の例では、オクターブ分解部11によるダウンサンプリング処理のn階分解時の各階層において、同一のDaubechiesのウェーブレットフィルタが用いられる場合、例えば、1階分解時のフィルタ係数Fd−1として次数p=1(p1)が用いられ、2階分解時のフィルタ係数Fd−2として次数p=2(p2)が用いられ、また、n階分解時のフィルタ係数Fd−nとして次数p=1(p1)が用いられる。これらのフィルタ係数は、図1に示したフィルタ係数処理部10により選定される。
【0033】
図2に戻って、符号化部12は、ステップS201にて生成されたダウンサンプリング画像のストリームに対し、H.264|MPEG−4AVC等の符号化処理を行い、ダウンサンプリング符号化画像を生成する(ステップS202)。尚、符号化処理は、H.264|MPEG−4AVC以外の手法を用いてもよい。復号部13は、ステップS202にて生成されたダウンサンプリング符号化画像のストリームに対し、ローカル復号処理を行い、ダウンサンプリング復号画像を生成する(ステップS203)。
【0034】
オクターブ再構成部14は、フィルタ係数処理部10により選定されたオクターブ再構成用の各階層のフィルタ係数を用いて、ステップS203にて生成されたダウンサンプリング復号画像の水平・垂直標本化周波数がそれぞれ2n(n=1,2,・・・,m)倍に拡大するように、オクターブ再構成によるアップサンプリング処理を繰り返し行い、アップサンプリング画像を生成する(ステップS204)。尚、オクターブ再構成部14は、オクターブ再構成によるアップサンプリング処理を繰り返し行うために、ダウンサンプリング復号画像と同じ階層の高周波成分領域の画像を得る必要がある。そこで、オクターブ再構成部14は、オクターブ再構成によるアップサンプリング処理を繰り返し行う前に、オクターブ再構成用の各階層のフィルタ係数に含まれるダウンサンプリング処理を行うための1階層分のフィルタ係数(後述する図7においてフィルタ係数Fd−(n+1))を用いて、オクターブ分解によるダウンサンプリング処理を行い、さらに、オクターブ再構成用の各階層のフィルタ係数に含まれるアップサンプリング処理を行うための1階層分のフィルタ係数(後述する図7においてフィルタ係数Fu−(n+1))を用いて、オクターブ再構成によるアップサンプリング処理を行う。
【0035】
図6は、オクターブ再構成によるアップサンプリング処理の様子を示す図である。また、図7は、オクターブ再構成によるアップサンプリング処理及びフィルタ係数を示す図である。
【0036】
図6に示すように、1階離散ウェーブレット再構成IDWT(1)により、ダウンサンプリング復号画像である水平低周波・垂直低周波の周波数成分CA(n)、水平高周波・垂直低周波成分CH(n)、水平低周波・垂直高周波成分CV(n)、水平高周波・垂直高周波成分CD(n)のn階層目画像から、CA(n−1)、CH(n−1)、CV(n−1)、CD(n−1)のn−1階層目画像が得られる。具体的には、まず、1階離散ウェーブレット分解DWT(1)により、ダウンサンプリング復号画像であるCA(n)からCA(n+1)、CH(n+1)、CV(n+1)、CD(n+1)のn+1階層目画像が得られる。そして、1階離散ウェーブレット再構成IDWT(1)により、CH(n+1)、CV(n+1)、CD(n+1)を空間低周波数領域成分、同じサイズのゼロ行列を空間高周波数領域成分として、CH(n)、CV(n)、CD(n)が得られる。これは、オクターブ再構成によるアップサンプリング処理を行うため、ステップS203にて生成されたダウンサンプリング復号画像であるCA(n)に加え、CH(n)、CV(n)、CD(n)を生成する必要があるからである。
【0037】
そして、1階離散ウェーブレット再構成IDWT(1)により、CA(n)、CH(n)、CV(n)、CD(n)のn階層目画像から、CA(n−1)が得られる。また、1階離散ウェーブレット再構成IDWT(1)により、CH(n)、CV(n)、CD(n)を空間低周波数領域成分、同じサイズのゼロ行列を空間高周波数領域成分として、CH(n−1)、CV(n−1)、CD(n−1)が得られる。そして、CA(2)、CH(2)、CV(2)、CD(2)の2階層目画像からCA(1)、CH(1)、CV(1)、CD(1)の1階層目画像が得られる。最終的に求めるアップサンプリング画像は、0階層目画像、すなわち原画像Fである。
【0038】
このようなダウンサンプリング復号画像の水平・垂直標本化周波数を2n倍にするアップサンプリング処理では、n階再構成時の各階層において、ダウンサンプリング処理と同様に、例えば同一種類のフィルタが用いられ、各階層における同一種類のフィルタには、同一または異なるフィルタ係数が用いられる。尚、後述するように、n階再構成時の各階層において、異なる種類のフィルタ及び異なるフィルタ係数を用いるようにしてもよい。
【0039】
図7に示す例は、n階再構成時の各階層において、同じフィルタが用いられる場合を示している。ダウンサンプリング復号画像と同じ階層の高周波成分領域の画像を得るために、n+1階層目の画像を得るための分解時にはフィルタ係数Fd−(n+1)が用いられ、n階層目の高周波成分領域の画像(ダウンサンプリング復号画像と同じ階層の高周波成分領域の画像)を得るための再構成時にはフィルタ係数Fu−(n+1)が用いられる。また、n−1階層目画像を得るための1回目の再構成時にはフィルタ係数Fu−nが用いられ、同様に、1階層目画像を得るためのn−1回目の再構成時にはフィルタ係数Fu−2が用いられ、0階層目画像を得るためのn回目の再構成時にはフィルタ係数Fu−1が用いられる。
【0040】
図2に戻って、画像符号化装置1は、ステップS201からステップS204までの処理を、フィルタ係数処理部10により随時選定された、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数を用いて、所定回数分繰り返して行う。
【0041】
フィルタ係数処理部10は、所定回数分のフィルタ係数を選定し、ステップS201からステップS204までの処理が所定回数分繰り返して行われた後、所定回数分随時選定したフィルタ係数のうち、原画像とステップS204にて生成されたアップサンプリング画像との間の画素値の差分が最も小さいフィルタ係数を最適なフィルタ係数に決定する(ステップS205)。最適なフィルタ係数を決定する処理の詳細については後述する。
【0042】
オクターブ分解部11は、ステップS205にて決定された、オクターブ分解用の各階層の最適なフィルタ係数を用いて、原画像の水平・垂直標本化周波数がそれぞれ1/2n(n=1,2,・・・,m)倍に縮小するように、オクターブ分解によるダウンサンプリング処理を繰り返し行い、ダウンサンプリング画像を生成する(ステップS206)。そして、符号化部12は、ステップS206にて生成されたダウンサンプリング画像のストリームに対し、H.264|MPEG−4AVC等の符号化処理を行い、ダウンサンプリング符号化画像を生成する(ステップS207)。また、符号化部12は、ステップS205にて決定された、最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)に対し符号化処理を行い、フィルタ符号化係数を生成する。このようにして、符号化部12からダウンサンプリング符号化画像及びフィルタ符号化係数が出力される。
【0043】
(フィルタ係数処理部)
次に、図1に示したフィルタ係数処理部10について詳細に説明する。前述のとおり、フィルタ係数処理部10は、予め設定されたフィルタ係数群から、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数を選定し、オクターブ分解部11に、オクターブ分解用の各階層のフィルタ係数を用いてオクターブ分解によるダウンサンプリング処理を行わせ、オクターブ再構成部14に、オクターブ再構成用の各階層のフィルタ係数を用いてオクターブ再構成によるアップサンプリング処理を行わせる。また、フィルタ係数処理部10は、原画像と、選定したフィルタ係数にてオクターブ分解及びオクターブ再構成されたアップサンプリング画像との間の画素値の差分を求め、その差分が最も小さいフィルタ係数を最適なフィルタ係数に決定する。
【0044】
図8は、フィルタ係数処理部10の構成を示すブロック図である。このフィルタ係数処理部10は、フィルタ係数選定手段(フィルタ情報選定手段)15、記憶手段16及びフィルタ係数決定手段(フィルタ情報決定手段)17を備えている。
【0045】
フィルタ係数選定手段15は、予め設定されたフィルタ係数群から、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数を選定する。そして、フィルタ係数選定手段15は、選定したオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力し、選定したオクターブ再構成用の各階層のフィルタ係数をオクターブ再構成部14に出力する。これにより、オクターブ分解部11は、フィルタ係数選定手段15からフィルタ係数を入力し、原画像に対し、オクターブ分解によるダウンサンプリング処理を行い、オクターブ再構成部14は、フィルタ係数選定手段15からフィルタ係数を入力し、オクターブ再構成によるアップサンプリング処理を行う。
【0046】
例えば、フィルタ係数選定手段15は、後述する図9を参照して、オクターブ分解部11及びオクターブ再構成部14において各階層のフィルタとして図5に示したDaubechiesのウェーブレットフィルタを使用する場合、オクターブ分解用の各階層のフィルタ係数Fd−1=p1,Fd−2=p2,・・・,Fd−n=p1及びオクターブ再構成用の各階層のフィルタ係数Fu−1=p2,Fu−2=p3,・・・,Fu−(n+1)=p1を選定する。また、次の処理のときに、オクターブ分解用の各階層のフィルタ係数Fd−1=p2,Fd−2=p2,・・・,Fd−n=p1及びオクターブ再構成用の各階層のフィルタ係数Fu−1=p2,Fu−2=p3,・・・,Fu−(n+1)=p1を選定する。このように、新たにフィルタ係数を選定する毎に、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数のうちのいずれかのフィルタ係数を変更する。
【0047】
また、フィルタ係数選定手段15は、原画像を入力すると共に、オクターブ再構成部14からアップサンプリング画像を入力し、原画像の各画素値からRMS(Root Mean Square:平均自乗根)値を算出し、アップサンプリング画像の各画素値からRMS値を算出し、両RMS値の差分を算出する。フィルタ係数選定手段15は、選定したフィルタ係数と算出したRMS値の差分とを組にして記憶手段16に格納する。フィルタ係数の選定、オクターブ分解によるダウンサンプリング処理及びオクターブ再構成によるアップサンプリングの処理が所定回数分行われると、フィルタ係数選定手段15は、原画像に対する所定回数分の処理が完了したことを示す完了通知をフィルタ係数決定手段17に出力する。これにより、記憶手段16には、所定回数分のフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)及びRMS値(RMS値の差分)が格納される。
【0048】
フィルタ係数決定手段17は、フィルタ係数選定手段15から、完了通知を入力すると、記憶手段16から所定回数分のフィルタ係数及びRMS値を読み出し、RMS値が最も小さいフィルタ係数(両画像の画素値の差分が最も小さいフィルタ係数)を最適なフィルタ係数に決定する。すなわち、原画像に最も近いアップサンプリング画像が得られたときのフィルタ係数を最適なフィルタ係数に決定する。そして、フィルタ係数決定手段17は、決定した最適なフィルタ係数のうちオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力し、オクターブ分解部11に、オクターブ分解用の各階層の最適なフィルタ係数を用いて、オクターブ分解によるダウンサンプリング処理を行わせる。また、フィルタ係数決定手段17は、最適なフィルタ係数を決定したことを示す決定通知、及び最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)を符号化部12に出力する。これにより、符号化部12は、オクターブ分解部11から入力するダウンサンプリング画像が、最適なフィルタ係数により生成された画像であると判断することができ、ダウンサンプリング画像及び最適なフィルタ係数(オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数)に対し符号化処理を行う。
【0049】
図9は、図8に示した記憶手段16に格納されるフィルタ係数及びRMS値を示す図である。フィルタ係数選定手段15は、オクターブ分解用の各階層のフィルタ係数Fd−1,Fd−2,・・・,Fd−n及びオクターブ再構成用の各階層のフィルタ係数Fu−1,Fu−2,・・・,Fu−(n+1)を選定し、RMS値を算出する毎に、これらのフィルタ係数及びRMS値を記憶手段16に格納する。図9に示すように、オクターブ分解部11及びオクターブ再構成部14において各階層のフィルタとして、図5に示したDaubechiesのウェーブレットフィルタを使用する場合、記憶手段16には、最初に選定されたフィルタ係数Fd−1=p1,Fd−2=p2,・・・,Fd−n=p1,Fu−1=p2,Fu−2=p3,・・・,Fu−(n+1)=p1、及び最初に算出されたRMS値が格納され、次に選定されたフィルタ係数Fd−1=p2,Fd−2=p2,・・・,Fd−n=p1,Fu−1=p2,Fu−2=p3,・・・,Fu−(n+1)=p1及び、次に算出されたRMS値が格納され、結果として、所定回数分のフィルタ係数及びRMS値が格納される。
【0050】
以上のように、本発明の実施形態による画像符号化装置1によれば、オクターブ分解部11が、原画像を、階層的にオクターブ分解によるダウンサンプリング処理してダウンサンプリング画像を生成し、オクターブ再構成部14が、符号化部12及び復号部13によりダウンサンプリング画像が符号化及び復号されて生成されたダウンサンプリング復号画像を、階層的にオクターブ再構成によるアップサンプリング処理してアップサンプリング画像を生成するようにした。そして、フィルタ係数処理部10が、選定した各階層のフィルタ係数を用いて生成されたアップサンプリング画像と原画像との間の画素値の差分をRMS値により算出し、アップサンプリング画像が原画像に最も近い、各階層の最適なフィルタ係数を決定するようにした。
【0051】
これにより、最適なフィルタ係数を用いてダウンサンプリング処理を行い符号化することにより生成されたダウンサンプリング符号化画像、及び最適なフィルタ係数を符号化することにより生成されたフィルタ符号化係数が、画像符号化装置1から伝送路3を介して画像復号装置2へ送信される。画像復号装置2は、画像符号化装置1により決定された最適なフィルタ係数を用いて、オクターブ再構成によるアップサンプリング処理を行うことができる。したがって、原画像に最も近い高画質な画像を復元することができる。つまり、符号化及び復号処理を高画質に行うことができる。
【0052】
〔画像復号装置の構成〕
次に、画像復号装置の構成について説明する。図10は、本発明の実施形態による画像復号装置の構成を示すブロック図である。この画像復号装置2は、復号部20及びオクターブ再構成部21を備えている。
【0053】
画像復号装置2が画像符号化装置1から伝送路3を介してダウンサンプリング符号化画像及びフィルタ符号化係数(オクターブ分解用の各階層の最適なフィルタ符号化係数及びオクターブ再構成用の各階層の最適なフィルタ符号化係数)を受信すると、復号部20は、ダウンサンプリング符号化画像のストリーム及びフィルタ符号化係数に対し復号処理を行い、ダウンサンプリング復号画像及びフィルタ係数(オクターブ分解用の各階層の最適なフィルタ係数及びオクターブ再構成用の各階層の最適なフィルタ係数)を生成し、オクターブ再構成部21に出力する。この復号部20による復号処理は、前述した画像符号化装置1の復号部13による復号処理と同じである。
【0054】
オクターブ再構成部21は、復号部20からダウンサンプリング復号画像及びフィルタ係数(オクターブ分解用の各階層の最適なフィルタ係数及びオクターブ再構成用の各階層の最適なフィルタ係数)を入力し、オクターブ再構成における各階層の最適なフィルタ係数を用いて、オクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成する。そして、オクターブ再構成部21は、生成したアップサンプリング画像を原画像として出力する。このオクターブ再構成部21の処理は、画像符号化装置1のオクターブ再構成部14の処理と同様である。
【0055】
〔画像復号装置の処理〕
次に、図10に示した画像復号装置2の処理について説明する。図11は、画像復号装置2による復号処理を示すフロー図である。また、図12は、画像復号装置2によるオクターブ再構成処理を示すフロー図である。図11を参照して、画像復号装置2の復号部20は、画像符号化装置1から送信されたダウンサンプリング符号化画像及びフィルタ符号化係数を、伝送路3を介して入力し、復号処理を行う(ステップS1101)。この復号処理により、ダウンサンプリング復号画像及び最適なフィルタ係数が生成される。そして、図12を参照して、オクターブ再構成部21は、オクターブ再構成用の各階層の最適なフィルタ係数を用いて、ステップS1101にて生成されたダウンサンプリング復号画像の水平・垂直標本化周波数がそれぞれ2n(n=1,2,・・・,m)倍に拡大するように、オクターブ再構成によるアップサンプリング処理を繰り返し行い、アップサンプリング画像(原画像)を生成する(ステップS1201)。
【0056】
具体的には、オクターブ再構成部21は、復号部20から、ダウンサンプリング復号画像であるCA(n)と、オクターブ再構成用の各階層のフィルタ係数Fu−1〜Fu−n,Fd−(n+1),Fu−(n+1)とを入力する。そして、オクターブ再構成部21は、フィルタ係数Fd−(n+1)を用いて、CA(n)に対し1階のオクターブ分解によるダウンサンプリング処理を行い、CA(n+1)、CH(n+1)、CV(n+1)、CD(n+1)を生成し、生成したCH(n+1)、CV(n+1)、CD(n+1)を空間低周波数領域成分、同じサイズのゼロ行列を空間高周波数領域成分として、フィルタ係数Fu−(n+1)を用いて、1階のオクターブ再構成によるアップサンプリング処理を行い、CH(n)、CV(n)、CD(n)を生成する。そして、オクターブ再構成部21は、フィルタ係数Fu−nを用いて、CA(n)、CH(n)、CV(n)、CD(n)に対し1階のオクターブ再構成によるアップサンプリング処理を行い、CA(n−1)、を生成する。また、オクターブ再構成部21は、CH(n)、CV(n)、CD(n)を空間低周波数領域成分、同じサイズのゼロ行列を空間高周波数領域成分として、フィルタ係数Fu−nを用いて、1階のオクターブ再構成によるアップサンプリング処理を行い、CH(n−1)、CV(n−1)、CD(n−1)を生成する。このような処理を繰り返すことにより、アップサンプリング画像(原画像)を生成する。
【0057】
以上のように、本発明の実施形態による画像復号装置2によれば、画像符号化装置1から伝送路3を介して、ダウンサンプリング符号化画像及びフィルタ符号化係数を受信し、オクターブ再構成部21が、復号部20によりフィルタ符号化係数が復号されて生成されたフィルタ係数を用いて、復号部20によりダウンサンプリング符号化画像が復号されて生成されたダウンサンプリング復号画像を、階層的にオクターブ再構成によるアップサンプリング処理してアップサンプリング画像を生成するようにした。ここで、オクターブ再構成部21にて用いるフィルタ係数は、画像符号化装置1において、画像復号装置2のオクターブ再構成部21と同じオクターブ再構成によるアップサンプリング処理にて生成されたアップサンプリング画像が原画像に最も近い最適なフィルタ係数である。
【0058】
これにより、信号復元装置2において、原画像に最も近い高画質な画像を復元することができる。つまり、符号化及び復号処理を高画質に行うことができる。
【0059】
〔変形例〕
次に、前述した実施形態の変形例について説明する。この変形例は、タップ数の小さいフィルタ係数すなわち周波数折り返し成分量の多いフィルタ係数から、タップ数の大きいフィルタ係数すなわち折り返し量の少ないフィルタ係数へ徐々に変わるように、フィルタ係数を選定し、選定したフィルタ係数における原画像とアップサンプリング画像との間の画素値の差分を示すRMS値が減少特性から増加特性に変化したときのフィルタ係数を最適なフィルタ係数に決定するものである。これにより、予め設定された全てのフィルタ係数群について、ダウンサンプリング処理及びアップサンプリング処理を行ってRMS値を算出する必要がないから、処理負荷を低減し、処理時間を短縮することができる。
【0060】
この変形例による画像符号化装置1の構成は、図1に示したものと同様であるが、フィルタ係数処理部10の処理が異なる。フィルタ係数処理部10以外の構成部については前述したので、その説明は省略する。
【0061】
フィルタ係数処理部10は、前述の実施形態と同様に、予め設定されたフィルタ係数群から、オクターブ分解用の各階層のフィルタ係数及びオクターブ再構成用の各階層のフィルタ係数を選定し、オクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力し、オクターブ再構成用の各階層のフィルタ係数をオクターブ再構成部14に出力する。また、フィルタ係数処理部10は、原画像を入力すると共に、選定したフィルタ係数にてオクターブ分解及びオクターブ再構成されたアップサンプリング画像を入力し、両画像間の画素値の差分を示すRMS値を算出する。
【0062】
ここで、予め設定されたフィルタ係数群は、タップ数の小さいフィルタ係数群から、タップ数の大きいフィルタ係数群まで、徐々にタップ数が大きくなるように分けられたフィルタ係数群とする。例えば、フィルタ係数処理部10は、最初に、全体的にタップ数の最も小さいフィルタ係数Fd−1=p1,Fd−2=p1,・・・,Fd−n=p1,Fu−1=p1,Fu−2=p1,・・・,Fu−(n+1)=p1(全てのフィルタ係数p1)を選定し、RMS値を算出する。次に、フィルタ係数処理部10は、全体的にタップ数が2番目に小さいフィルタ係数Fd−1=p2,Fd−2=p1,・・・,Fd−n=p1,Fu−1=p1,Fu−2=p1,・・・,Fu−(n+1)=p1(1つのフィルタ係数p2、他のフィルタ係数p1)を選定し、RMS値を算出する。
【0063】
そして、フィルタ係数処理部10は、最初に算出したRMS値と次に算出したRMS値とを比較する。このように、フィルタ係数処理部10は、フィルタ係数を選定する毎に、タップ数が徐々に大きくなるように選定し、その都度RMS値を算出し、前回算出したRMS値と今回算出したRMS値とを比較する。このような処理を繰り返す。
【0064】
一般に、小さいタップ数のフィルタ係数を用いてダウンサンプリング処理を行った場合、周波数通過帯域に含まれる周波数折り返し成分は多くなる。また、大きなタップ数のフィルタ係数を用いてダウンサンプリング処理を行った場合、周波数通過帯域に含まれる周波数折り返し成分は小さくなる。一般に、画像に含まれる空間周波数スペクトルは低域に集中しており、その分布は画像毎に異なる。そして、周波数折り返し成分量は、多過ぎても少な過ぎてもアップサンプリング画質に悪影響を及ぼす。したがって、タップ数の小さいフィルタ係数から徐々にタップ数の大きいフィルタ係数を選定することにより、そのフィルタ係数におけるRMS値は、タップ数が大きくなるに従って徐々に小さくなり、極小値となり、そして徐々に大きくなる。
【0065】
そこで、フィルタ係数処理部10は、RMS値が極小値であるか否かを、前回算出したRMS値と今回算出したRMS値とを比較することにより判定する。そして、フィルタ係数処理部10は、RMS値の極小値を判定した場合、前回算出したRMS値におけるフィルタ係数を最適なフィルタ係数に決定する。
【0066】
図8を参照して、変形例によるフィルタ係数処理部10のフィルタ係数選定手段15は、予め設定されたフィルタ係数群から、選定を繰り返す毎に、全体的にタップ数が大きくなるようにフィルタ係数を選定し、オクターブ分解部11及びオクターブ再構成部14に出力する。
【0067】
また、フィルタ係数選定手段15は、原画像を入力すると共に、オクターブ再構成部14からアップサンプリング画像を入力し、両画像の画素値の差分をRMS値により算出する。フィルタ係数選定手段15は、選定したフィルタ係数と算出したRMS値とを組にして記憶手段16に格納する。そして、フィルタ係数選定手段15は、RMS値の算出及び格納を完了したことを示す算出完了通知をフィルタ係数決定手段17に出力する。また、フィルタ係数選定手段15は、フィルタ係数決定手段17から後述する選定通知を入力する毎に、このような処理を繰り返し行い、フィルタ係数決定手段17から後述する決定完了通知を入力した場合、原画像に対する処理を終了する。
【0068】
フィルタ係数決定手段17は、フィルタ係数選定手段15から、RMS値の算出及び格納を完了したことを示す算出完了通知を入力すると、記憶手段16から前回格納された(前回の処理にて選定され格納された)フィルタ係数及びRMS値を読み出すと共に、今回格納された(今回の処理にて選定され格納された)フィルタ係数及びRMS値を読み出す。そして、フィルタ係数決定手段17は、前回のRMS値と今回のRMS値とを比較し、前回のRMS値よりも今回のRMS値の方が大きいと判定した場合(前回のRMS値が極小値であると判定した場合)、前回のフィルタ係数を最適なフィルタ係数であると判定する。そして、フィルタ係数決定手段17は、決定完了通知をフィルタ係数選定手段15に出力すると共に、決定通知を符号化部12に出力する。これにより、フィルタ係数選定手段15は、原画像に対するフィルタ係数を選定する処理を終了する。また、フィルタ係数決定手段17は、最適なフィルタ係数のうちオクターブ分解用の各階層のフィルタ係数をオクターブ分解部11に出力する。一方、フィルタ係数決定手段17は、前回のRMS値よりも今回のRMS値の方が大きくないと判定した場合(前回のRMS値は極小値でないと判定した場合)、次のフィルタ係数を選定させるための選定通知をフィルタ係数選定手段15に出力する。
【0069】
以上のように、本発明の実施形態による画像符号化装置1によれば、フィルタ係数処理部10が、フィルタ係数を選定する毎に、タップ数の小さいフィルタ係数からタップ数の大きいフィルタ係数へ徐々に変わるように選定し、選定したフィルタ係数における原画像とアップサンプリング画像との間の画素値の差分を示すRMS値が極小値をとる点を判定し、その点のフィルタ係数を最適なフィルタ係数に決定するようにした。
【0070】
これにより、オクターブ分解部11及びオクターブ再構成部14は、予め設定された全てのフィルタ係数について、ダウンサンプリング処理及びアップサンプリング処理を行う必要がなく、フィルタ係数処理部10も、予め設定された全てのフィルタ係数について、RMS値を算出する必要もない。つまり、画像符号化装置1における処理負荷を低減し、処理時間を短縮することができる。したがって、原画像に最も近い高画質な画像を効率的に復元することができ、符号化及び復号処理を高画質に、かつ効率的に行うことができる。
【0071】
以上、実施形態を挙げて本発明を説明したが、本発明は前記実施形態に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。例えば、前記実施形態では、フィルタ係数処理部10が、予め設定されたフィルタ係数群からフィルタ係数を選定し、最適なフィルタ係数を決定するようにしたが、予め設定されたフィルタの種類群及びフィルタ係数群からフィルタの種類及びフィルタ係数(フィルタ情報)を選定し、最適なフィルタの種類及びフィルタ係数を決定するようにしてもよい。また、前記実施形態では、フィルタ係数処理部10が、原画像とアップサンプリング画像との間の画素値の差分を示すRMS値を算出するようにしたが、原画像及びアップサンプリング画像のエッジ成分をそれぞれ抽出し、エッジ成分の差分を示すRMS値を算出するようにしてもよい。この場合、フィルタ係数処理部10は、エッジ成分のRMS値が最小となるフィルタ係数を最適なフィルタ係数に決定する。
【0072】
また、前記実施形態では、画像符号化装置1が、原画像に対し、所定のフィルタ係数を用いてオクターブ分解によるダウンサンプリング処理を行い、最適なフィルタ係数を決定し、ダウンサンプリング画像及びフィルタ係数を送信し、画像復号装置2が、ダウンサンプリング画像に対し、最適なフィルタ係数を用いてオクターブ再構成によるアップサンプリング処理を行い、原画像を復元するようにしたが、本発明は、空間周波数ダウンサンプリングとアップサンプリングを行う処理全般に適用がある。例えば、ストレージメディアへ圧縮記録する等の処理に適用がある。
【0073】
また、本発明は、JPEG2000を用いてフレーム単位で圧縮符号化を行うデジタルシネマ圧縮符号化処理の前段または後段に用いることができる。また、H.264|MPEG−4AVCで圧縮符号化が検討されているスーパーハイビジョン圧縮符号化処理の前段または後段に用いることができる。また、将来の新しい圧縮符号化方式と組み合わせて用いることも可能である。
【0074】
尚、画像符号化装置1及び画像復号装置2のハード構成としては、通常のコンピュータを使用することができる。すなわち、CPU、RAM等の揮発性の記憶媒体、ROM等の不揮発性の記憶媒体、及びインターフェース等を備えたコンピュータによって構成できる。画像符号化装置1を構成するフィルタ係数処理部10、オクターブ分解部11、符号化部12、復号部13及びオクターブ再構成部14の各機能は、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現できる。また、画像復号装置2を構成する復号部20及びオクターブ再構成部21の各機能も、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現できる。これらのプログラムは、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリ等の記憶媒体に格納して頒布することもできる。
【符号の説明】
【0075】
1 画像符号化装置
2 画像復号装置
3 伝送路
10 フィルタ係数処理部
11 オクターブ分解部
12 符号化部
13,20 復号部
14,21 オクターブ再構成部
15 フィルタ係数選定手段
16 記憶手段
17 フィルタ係数決定手段
【特許請求の範囲】
【請求項1】
原画像をダウンサンプリング処理して符号化する画像符号化装置において、
複数のフィルタから、ダウンサンプリング処理における各階層のフィルタ及びアップサンプリング処理における各階層のフィルタを選定し、最適なフィルタを決定するフィルタ情報処理部と、
前記選定されたダウンサンプリング処理における各階層のフィルタを用いて、前記原画像に対しオクターブ分解によるダウンサンプリング処理を行い、ダウンサンプリング画像を生成するオクターブ分解部と、
前記生成されたダウンサンプリング画像に対し符号化処理を行い、ダウンサンプリング符号化画像を生成する符号化部と、
前記生成されたダウンサンプリング符号化画像に対し復号処理を行い、ダウンサンプリング復号画像を生成する復号部と、
前記選定されたアップサンプリング処理における各階層のフィルタを用いて、前記生成されたダウンサンプリング復号画像に対しオクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成するオクターブ再構成部とを備え、
前記フィルタ情報処理部は、前記原画像と前記生成されたアップサンプリング画像との間の画素値の差分が最も小さくなるフィルタを、前記ダウンサンプリング処理及びアップサンプリング処理における各階層の最適なフィルタに決定し、
前記符号化部は、前記最適なフィルタを用いて生成されたダウンサンプリング画像、及び前記決定された最適なフィルタに関する情報に対し符号化処理を行い、ダウンサンプリング符号化画像及びフィルタ符号化情報を生成することを特徴とする画像符号化装置。
【請求項2】
請求項1に記載の画像符号化装置において、
前記オクターブ分解としてウェーブレット分解を用い、
前記オクターブ再構成としてウェーブレット再構成を用い、
前記フィルタ情報処理部は、複数のウェーブレットフィルタの種類及び複数のフィルタ係数から、前記各階層のウェーブレットフィルタの種類及びフィルタ係数を選定し、最適なウェーブレットフィルタの種類及びフィルタ係数を決定することを特徴とする画像符号化装置。
【請求項3】
請求項1に記載の画像符号化装置において、
前記フィルタ情報処理部は、複数のフィルタから、ダウンサンプリング処理における各階層のフィルタ及びアップサンプリング処理における各階層のフィルタを選定する際に、各階層のフィルタのうち少なくとも1つのフィルタが、前回選定したフィルタのタップ数よりも今回選定したタップ数が大きくなるように、前記フィルタを選定し、前記原画像と前記生成されたアップサンプリング画像との間の画素値の差分が極小となるフィルタを、前記ダウンサンプリング処理及びアップサンプリング処理における各階層の最適なフィルタに決定することを特徴とする画像符号化装置。
【請求項4】
請求項1の画像符号化装置により最適なフィルタを用いて符号化されたダウンサンプリング符号化画像及びフィルタ符号化係数を入力し、前記ダウンサンプリング符号化画像を復号してアップサンプリング処理を行う画像復号装置において、
前記ダウンサンプリング符号化画像及びフィルタ符号化係数に対し復号処理を行い、ダウンサンプリング復号画像及びフィルタ係数を生成する復号部と、
前記生成されたフィルタ係数のうち、アップサンプリング処理における各階層のフィルタを用いて、前記生成されたダウンサンプリング復号画像に対しオクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成するオクターブ再構成部とを備えたことを特徴とする画像復号装置。
【請求項5】
コンピュータを、請求項1から3までのいずれか一項に記載の画像符号化装置として機能させるための画像符号化プログラム。
【請求項6】
コンピュータを、請求項4に記載の画像復号装置として機能させるための画像復号プログラム。
【請求項1】
原画像をダウンサンプリング処理して符号化する画像符号化装置において、
複数のフィルタから、ダウンサンプリング処理における各階層のフィルタ及びアップサンプリング処理における各階層のフィルタを選定し、最適なフィルタを決定するフィルタ情報処理部と、
前記選定されたダウンサンプリング処理における各階層のフィルタを用いて、前記原画像に対しオクターブ分解によるダウンサンプリング処理を行い、ダウンサンプリング画像を生成するオクターブ分解部と、
前記生成されたダウンサンプリング画像に対し符号化処理を行い、ダウンサンプリング符号化画像を生成する符号化部と、
前記生成されたダウンサンプリング符号化画像に対し復号処理を行い、ダウンサンプリング復号画像を生成する復号部と、
前記選定されたアップサンプリング処理における各階層のフィルタを用いて、前記生成されたダウンサンプリング復号画像に対しオクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成するオクターブ再構成部とを備え、
前記フィルタ情報処理部は、前記原画像と前記生成されたアップサンプリング画像との間の画素値の差分が最も小さくなるフィルタを、前記ダウンサンプリング処理及びアップサンプリング処理における各階層の最適なフィルタに決定し、
前記符号化部は、前記最適なフィルタを用いて生成されたダウンサンプリング画像、及び前記決定された最適なフィルタに関する情報に対し符号化処理を行い、ダウンサンプリング符号化画像及びフィルタ符号化情報を生成することを特徴とする画像符号化装置。
【請求項2】
請求項1に記載の画像符号化装置において、
前記オクターブ分解としてウェーブレット分解を用い、
前記オクターブ再構成としてウェーブレット再構成を用い、
前記フィルタ情報処理部は、複数のウェーブレットフィルタの種類及び複数のフィルタ係数から、前記各階層のウェーブレットフィルタの種類及びフィルタ係数を選定し、最適なウェーブレットフィルタの種類及びフィルタ係数を決定することを特徴とする画像符号化装置。
【請求項3】
請求項1に記載の画像符号化装置において、
前記フィルタ情報処理部は、複数のフィルタから、ダウンサンプリング処理における各階層のフィルタ及びアップサンプリング処理における各階層のフィルタを選定する際に、各階層のフィルタのうち少なくとも1つのフィルタが、前回選定したフィルタのタップ数よりも今回選定したタップ数が大きくなるように、前記フィルタを選定し、前記原画像と前記生成されたアップサンプリング画像との間の画素値の差分が極小となるフィルタを、前記ダウンサンプリング処理及びアップサンプリング処理における各階層の最適なフィルタに決定することを特徴とする画像符号化装置。
【請求項4】
請求項1の画像符号化装置により最適なフィルタを用いて符号化されたダウンサンプリング符号化画像及びフィルタ符号化係数を入力し、前記ダウンサンプリング符号化画像を復号してアップサンプリング処理を行う画像復号装置において、
前記ダウンサンプリング符号化画像及びフィルタ符号化係数に対し復号処理を行い、ダウンサンプリング復号画像及びフィルタ係数を生成する復号部と、
前記生成されたフィルタ係数のうち、アップサンプリング処理における各階層のフィルタを用いて、前記生成されたダウンサンプリング復号画像に対しオクターブ再構成によるアップサンプリング処理を行い、アップサンプリング画像を生成するオクターブ再構成部とを備えたことを特徴とする画像復号装置。
【請求項5】
コンピュータを、請求項1から3までのいずれか一項に記載の画像符号化装置として機能させるための画像符号化プログラム。
【請求項6】
コンピュータを、請求項4に記載の画像復号装置として機能させるための画像復号プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2011−228974(P2011−228974A)
【公開日】平成23年11月10日(2011.11.10)
【国際特許分類】
【出願番号】特願2010−97528(P2010−97528)
【出願日】平成22年4月21日(2010.4.21)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】
【公開日】平成23年11月10日(2011.11.10)
【国際特許分類】
【出願日】平成22年4月21日(2010.4.21)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】
[ Back to top ]