画像処理装置、それを搭載した撮像装置、および画像再生装置
【課題】原フレーム画像より高精細な全体画像または部分画像を再生可能な符号化画像データを、少ないデータ量の追加で生成したい。
【解決手段】部分画像抽出部22は、対象フレーム画像内、およびその時間方向に隣接する参照フレーム画像内から、指定された領域の部分画像を抽出する。超解像拡大部23は、上記対象フレーム画像の対象部分画像と、上記参照フレーム画像の参照部分画像を用いて超解像処理し、上記対象部分画像を所定の拡大率で拡大する。空間補間拡大部24は、上記対象部分画像に画素データを空間的に補間して、上記対象部分画像を拡大率で拡大する。冗長データ生成部25は、上記対象部分画像の超解像拡大画像と、上記対象部分画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する。符号化部21は、対象フレーム画像および冗長データを符号化して、冗長データ付き符号化画像データを生成する。
【解決手段】部分画像抽出部22は、対象フレーム画像内、およびその時間方向に隣接する参照フレーム画像内から、指定された領域の部分画像を抽出する。超解像拡大部23は、上記対象フレーム画像の対象部分画像と、上記参照フレーム画像の参照部分画像を用いて超解像処理し、上記対象部分画像を所定の拡大率で拡大する。空間補間拡大部24は、上記対象部分画像に画素データを空間的に補間して、上記対象部分画像を拡大率で拡大する。冗長データ生成部25は、上記対象部分画像の超解像拡大画像と、上記対象部分画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する。符号化部21は、対象フレーム画像および冗長データを符号化して、冗長データ付き符号化画像データを生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、超解像処理機能を備える画像処理装置、それを搭載した撮像装置、および画像再生装置に関する。
【背景技術】
【0002】
デジタルスチルカメラおよびデジタルムービーカメラが普及してきており、静止画および動画に対する高画質化の要求も年々高まっている。当然のことながら、高画質な画像を得るにはカメラに高スペックな、撮像素子および画像処理エンジンを搭載する必要がある。とくに高画質な動画を得るためには、非常に高スペックな画像処理エンジンを搭載する必要があり、一般的なデジタルムービーカメラで撮像される動画の解像度は、一般的なデジタルスチルカメラで撮像される静止画の解像度より低く設定されている。
【0003】
このような状況下、フレーム画像の解像度を事後的に向上させる手法が提案されている。その中でも、高周波成分自体を復元することができる超解像処理が注目されている。超解像処理は、微少な位置ずれを持つ複数の画像から、それら画像の解像度より高い解像度の画像を生成する技術である。
【0004】
特許文献1は、空間解像度が互いに異なる複数の符号化レイヤにより画像信号を符号化する階層符号化装置を開示する。
【特許文献1】特開2007−174634号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、フレーム画像の全体領域または部分領域を超解像処理して得られる全体画像または部分画像は、高解像度化されているためデータ量が大きくなる。たとえば、フレーム画像の符号化データに、そのフレーム画像の部分領域を超解像処理して得られる部分画像の符号化データを冗長データとして付加した場合、符号化ストリーム全体のデータ量が非常に増大してしまう。
【0006】
本発明はこうした状況に鑑みなされたものであり、その目的は、原フレーム画像より高精細な全体画像または部分画像を再生可能な符号化画像データを、少ないデータ量の追加で生成することができる画像処理装置、それを搭載した撮像装置、および画像再生装置を提供することにある。
【課題を解決するための手段】
【0007】
本発明のある態様の画像処理装置は、対象フレーム画像内、およびその対象フレーム画像と時間方向に隣接する少なくとも一枚の参照フレーム画像内から、指定された領域の部分画像を抽出する部分画像抽出部と、部分画像抽出部により抽出された、対象フレーム画像の対象部分画像と、参照フレーム画像の参照部分画像を用いて超解像処理し、対象部分画像を所定の拡大率で拡大する超解像拡大部と、部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、対象部分画像を上記拡大率で拡大する空間補間拡大部と、超解像拡大部により拡大された、対象部分画像の超解像拡大画像と、空間補間拡大部により拡大された、対象部分画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する冗長データ生成部と、対象フレーム画像および冗長データを符号化して、冗長データ付き符号化画像データを生成する符号化部と、を備える。
【0008】
本発明の別の態様もまた、画像処理装置である。この装置は、対象フレーム画像を、その対象フレーム画像と時間方向に隣接する少なくとも一枚の参照フレーム画像を用いて超解像処理し、対象フレーム画像を所定の拡大率で拡大する超解像拡大部と、対象フレーム画像に画素データを空間的に補間して、対象フレーム画像を上記拡大率で拡大する空間補間拡大部と、超解像拡大部により拡大された、対象フレーム画像の超解像拡大画像と、空間補間拡大部により拡大された、対象フレーム画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する冗長データ生成部と、対象フレーム画像、および冗長データ生成部により生成された冗長データを符号化して、冗長データ付き符号化画像データを生成する符号化部と、を備える。
【0009】
本発明のさらに別の態様は、画像再生装置である。この装置は、上述した画像処理装置により生成された冗長データ付き符号化画像データを再生する画像再生装置であって、冗長データ付き符号化画像データを復号する復号部と、復号部により復号された対象フレーム画像内から、対象部分画像を抽出する部分画像抽出部と、部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、対象部分画像を上記拡大率で拡大する空間補間拡大部と、空間補間拡大部により拡大された対象部分画像の空間補間拡大画像と、復号部により復号された冗長データとの間に、所定の演算を施し、対象部分画像の超解像拡大画像を復元する超解像拡大画像復元部と、を備える。
【0010】
なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。
【発明の効果】
【0011】
本発明によれば、原フレーム画像より高精細な全体画像または部分画像を再生可能な符号化画像データを、少ないデータ量の追加で生成することができる。
【発明を実施するための最良の形態】
【0012】
図1は、実施の形態1に係る画像処理装置20を搭載した撮像装置100の構成を示す図である。撮像装置100は、撮像部10、画像処理装置20および記録部30を備える。画像処理装置20は、符号化部21、部分画像抽出部22、超解像拡大部23、空間補間拡大部24、冗長データ生成部25および復号部26を有する。
【0013】
画像処理装置20の構成は、ハードウェア的には、任意のコンピュータのCPU、メモリ、その他のLSIで実現でき、ソフトウェア的にはメモリにロードされたプログラムなどによって実現されるが、ここではそれらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組み合わせによっていろいろな形で実現できることは、当業者には理解されるところである。
【0014】
撮像部10は、画像を取得して画像処理装置20に供給する。撮像部10は、図示しない撮像素子および信号処理部を含む。当該撮像素子としてCCD(Charge Coupled Devices)センサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどを採用することができる。当該信号処理部は、当該撮像素子から出力されるアナログの三原色信号R、G、Bを、デジタルの輝度信号Yおよび色差信号Cr、Cbに変換する。
【0015】
画像処理装置20は、撮像部10から入力されるフレーム画像を圧縮符号化する。本実施の形態では対象フレーム画像を超解像処理する際、その対象フレーム画像と時間方向に隣接する参照フレーム画像を用いる。したがって、本実施の形態はフレーム画像が連続的に撮像される動画撮影への適用を主に想定しているが、静止画撮影への適用も可能である。静止画撮影に適用する場合、連射機能を発動して対象フレーム画像と時間方向に隣接する参照フレーム画像を取得すればよい。
【0016】
符号化部21は、対象フレーム画像およびその冗長データを符号化して、冗長データ付き符号化画像データを生成する。冗長データについては後述する。動画撮影では、符号化部21はたとえば、H.264/AVC、MPEG−2、またはMPEG−4などの規格にしたがい、連続的に入力されるフレーム画像を圧縮符号化する。静止画撮影では、符号化部21はたとえば、JPEGなどの規格にしたがい、フレーム画像を圧縮符号化する。符号化部21により圧縮符号化された冗長データ付き符号化画像データは、記録部30に記録されるか、図示しないネットワークを介して外部装置に送信される。
【0017】
部分画像抽出部22は、対象フレーム画像内、およびその対象フレーム画像と時間方向に隣接する少なくとも一枚の参照フレーム画像内から、指定された領域の部分画像を抽出する。ここで、対象フレーム画像および参照フレーム画像は、撮像部10から直接入力されたフレーム画像であってもよいし、符号化部21により符号化され、かつ復号部26により復号されたフレーム画像であってもよい。前者の場合、実施の形態1では復号部26は必須要素ではない。参照フレーム画像は、対象フレーム画像より過去方向に隣接する一枚以上のフレーム画像、未来方向に隣接する一枚以上のフレーム画像、またはそれらの両方であってもよい。
【0018】
上記領域はあらかじめ設定された固定の領域であってもよいし、動的に変更される領域であってもよい。前者の例として、フレーム画像内の中央部分にその固定の領域が設定されてもよい。後者の例として、本撮像装置100に顔などのオブジェクト検出機能が搭載される場合、その検出機能により検出された、オブジェクトを含む窓領域が、上記抽出されるべき領域としてフレーム画像ごとに適応的に設定されてもよい。また、静止画撮影の場合、ユーザにより指定された領域が上記抽出されるべき領域として設定されてもよい。
【0019】
部分画像抽出部22は、抽出した対象フレーム画像の対象部分画像を超解像拡大部23および空間補間拡大部24に供給し、抽出した参照フレーム画像の参照部分画像を超解像拡大部23に供給する。なお、部分画像抽出部22により抽出されるべき領域の位置情報は、符号化部21により上記冗長データ付き符号化画像データのヘッダなどに記述される。
【0020】
超解像拡大部23は、部分画像抽出部22により抽出された、対象部分画像と参照部分画像を用いて超解像処理し、当該対象部分画像を所定の拡大率で拡大する。この拡大率は設計者によって予め設定される。なお、事後的にユーザが変更できてもよい。超解像拡大部23の詳細な構成は後述する。
【0021】
空間補間拡大部24は、部分画像抽出部22により抽出された対象部分画像に画素データを空間的に補間して、当該対象部分画像を上記拡大率で拡大する。この拡大率は、超解像拡大部23により拡大された画像と空間補間拡大部24により拡大された画像の解像度を合わせるため、超解像拡大部23に設定された拡大率と同じ値に設定される。
【0022】
空間補間拡大部24は、補間すべき画素データを、上記対象部分画像内における、隣接する複数の画素データから予測する。以下、上記対象部分画像を2倍に拡大する例について説明する。原画素データ列(a0、a1、a2、a3)を2倍の画素データ列(a0、b0、a1、b1、a2、b2、a3、b3)に拡大する場合について考える。
【0023】
まず、最も単純な線形補間処理では、画素データb0、b1、b2、b3を下記式1〜4で算出する。すなわち、補間すべき画素データb0、b1、b2をその両側に隣接する、2点の画素データの平均値を算出して求める。なお、一番端の画素データb3については画素データa3をそのままコピーしている。
b0=(a0+a1)/2 ・・・(式1)
b1=(a1+a2)/2 ・・・(式2)
b2=(a2+a3)/2 ・・・(式3)
b3=a3 ・・・(式4)
【0024】
また、画素データb1を下記式5に示すように4点の平均値を算出して求めることもできる。
b1=(a0+a1+a2+a3)/4 ・・・(式5)
また、画素データb1を下記式6に示すように、重み付けされた4点の平均値を算出して求めることもできる。
b1=(a0+2・a1+2・a2+a3)/6 ・・・(式6)
【0025】
その他、複数の点を通る曲線を近似し、その曲線上の、2点(a0とa1)の中間座標(b1)を予測画素データとして求めてもよいし、H.264/AVCで標準的に用いられる6タップFIRフィルタにより予測画素データを求めてもよい。ここでは、2倍に拡大する手法について説明したが、2倍未満(1倍を超える)の拡大も、2倍を超える拡大も、既知のアルゴリズムにより可能である。
【0026】
冗長データ生成部25は、超解像拡大部23により拡大された対象部分画像の超解像拡大画像と、空間補間拡大部24により拡大された対象部分画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する。たとえば、冗長データ生成部25は、当該超解像拡大画像と当該空間補間拡大画像との間の、差分または排他的論理和を求めて冗長データを生成する。当該超解像拡大画像と当該空間補間拡大画像は相関性が非常に強いため、両者の差分または排他的論理和を求めて生成した冗長データのデータ量は、当該超解像拡大画像自体のデータ量と比較し、大幅に削減される。
【0027】
記録部30はメモリカード、ハードディスク、光ディスクなどの、記録媒体を備える。本実施の形態では画像処理装置20により生成された、冗長データ付き符号化画像データを記録する。
【0028】
図2は、実施の形態1に係る超解像拡大部23の詳細な構成を示す図である。超解像拡大部23は、拡大部231、位置合わせ部232および合成部233を含む。なお、図2では複数の画像を拡大した後に、それぞれの画像の位置合わせを行う例を示しているが、複数の画像の位置合わせを終えた後に、それぞれの画像を拡大してもよい。
【0029】
拡大部231は、一枚の対象部分画像と、少なくとも一枚の参照部分画像をそれぞれ上記拡大率で拡大する。上記対象部分画像と上記参照部分画像との位置ずれが微少な範囲にとどまる限り、参照部分画像の枚数が多いほど高精細な画像を復元することができるが、演算量が増大し、ノイズが混入するリスクが増大する。当該位置ずれが大きい参照部分画像が超解像処理に使用されると、その参照部分画像の成分はノイズとなる。設計者はこのようなトレードオフ関係を考慮して、参照部分画像の枚数を設定することができる。
【0030】
拡大部231は、それぞれの部分画像に画素データを空間的に補間する。すなわち、空間補間拡大部24と同様の処理をそれぞれの部分画像に施す。この場合、空間補間拡大部24および拡大部231は、ハードウェア資源またはソフトウェア資源を時分割に共用することができる。
【0031】
位置合わせ部232は、上記対象部分画像と上記参照部分画像との位置ずれ量を推定し、その位置ずれ量を補正する。当該位置ずれ量は、たとえば、2枚の部分画像の差分絶対値和(SAD: Sum of Absolute Difference)を求めることにより推定することができる。すなわち、2枚の部分画像の各画素データの差分を求め、その総和を求める。より具体的には、どちらかの部分画像を縦方向または横方向に1画素ずつ移動させるごとに上記差分絶対値和を求めるという処理を繰り返し、上記差分絶対値和が最も小さい位置を特定する。そして、その位置を2枚の部分画像の重ね合わせ位置に設定する。参照部分画像が複数枚ある場合、それぞれの参照部分画像と、対象部分画像との間で上述した位置合わせ処理を実行する。
【0032】
合成部233は、位置合わせされた複数の部分画像を重み付け加算する。通常、位置ずれ量が小さい部分画像の重みを大きく、位置ずれ量が大きい部分画像の重みを小さくする。
【0033】
なお、上述した超解像処理のアルゴリズムは一例であり、その他のアルゴリズムを用いてもよい。たとえば、(青木伸著、「複数のデジタル画像データによる超解像処理」、Ricoh Technical Report No.24, NOVEMBER, 1998)に開示されたアルゴリズムを用いてもよい。
【0034】
図3は、実施の形態1に係る画像処理装置20により生成された冗長データ付き符号化画像データCIのデータ構造を示す図である。冗長データ付き符号化画像データCIは、基本データFと冗長データRを含む。基本データFは、原フレーム画像を再生するためのデータである。冗長データRは、その原フレーム画像の部分領域が超解像処理により高解像度化された部分画像を再生するためのデータである。後述するように、この冗長データ付き符号化画像データを復号することにより、超解像処理機能を搭載しない画像再生装置でも高精細に高解像度化された部分画像を再生することができる。このように、この冗長データ付き符号化画像データは汎用性が高いデータフォーマットであるといえる。
【0035】
以上説明したように実施の形態1によれば、超解像処理により拡大された部分画像と、空間的補間により拡大された部分画像との間に所定の演算を施して生成した冗長データの符号化データを、原フレーム画像の符号化データに付加することにより、つぎの効果を奏する。すなわち、原フレーム画像より高精細な部分画像を再生可能な符号化画像データを、少ないデータ量の追加で生成することができる。すなわち、再生側は超解像処理機能を搭載していなくても超解像処理された部分画像を再生することができる。超解像処理された部分画像は、解像度が同じ、空間的に補間された部分画像と比較し、高精細な画像となる。
【0036】
超解像処理により拡大された部分画像と空間的補間により拡大された部分画像との画素数を合わせることにより、それらの部分画像間の演算処理を単純化することができる。とくに、それらの部分画像間の差分または排他的論理和を求めると、冗長データとして付加すべきデータ量を大幅に削減することができる。
【0037】
図4は、実施の形態2に係る画像再生装置200の構成を示す図である。画像再生装置200は、撮像装置100の一機能として搭載されてもよいし、単体の機器として構成されてもよい。画像再生装置200は、実施の形態1に係る画像処理装置20により生成された冗長データ付き符号化画像データCIを再生する。画像再生装置200は、画像再生部40および表示部50を備える。画像再生部40は、復号部41、部分画像抽出部42、空間補間拡大部43および超解像拡大画像復元部44を有する。
【0038】
復号部41は、実施の形態1に係る画像処理装置20により生成された冗長データ付き符号化画像データCIを復号する。復号部41は、復号した対象フレーム画像を部分画像抽出部42に供給し、復号した冗長データを超解像拡大画像復元部44に供給する。
【0039】
部分画像抽出部42は、復号部41により復号された対象フレーム画像内から、冗長データを持つ領域である、上記対象部分画像を抽出する。この領域の位置情報は、冗長データ付き符号化画像データCIのヘッダなどに記述されており、部分画像抽出部42は、その情報を参照することにより、上記領域を特定することができる。
【0040】
空間補間拡大部43は、上記対象部分画像に画素データを空間的に補間して、上記対象部分画像を上記拡大率で拡大する。この拡大率は、符号化側の画像処理装置20に含まれる空間補間拡大部24および超解像拡大部23に設定された拡大率と同じ値に設定される。符号化側の拡大率を再生側が未知の場合や符号化側の拡大率が可変する場合、冗長データ付き符号化画像データCIのヘッダなどに符号化側の拡大率が記述されるように設計すれば、符号化側からその拡大率が再生側に伝達される。再生側の画像再生部40に含まれる空間補間拡大部43は、符号化側の画像処理装置20に含まれる空間補間拡大部24と同様の構成とすることができる。
【0041】
超解像拡大画像復元部44は、空間補間拡大部43により拡大された対象部分画像の空間補間拡大画像と、復号部41により復号された冗長データとの間に、所定の演算を施し、上記対象部分画像の超解像拡大画像を復元する。符号化側において、冗長データ生成部25が、超解像拡大部23により拡大された対象部分画像の超解像拡大画像と、空間補間拡大部24により拡大された対象部分画像の空間補間拡大画像との間の、差分または排他的論理和を求めて冗長データを生成した場合、超解像拡大画像復元部44はつぎのように演算して上記超解像拡大画像を復元する。すなわち、超解像拡大画像復元部44は、空間補間拡大部43により拡大された空間補間拡大画像と、復号部41により復号された冗長データとの間の、差分または排他的論理和を求めて上記超解像拡大画像を復元する。
【0042】
表示部50は、復号部41により復号された対象フレーム画像を表示する。または超解像拡大画像復元部44により復元された超解像拡大画像を表示する。
【0043】
以上説明したように実施の形態2によれば、上記冗長データ付き符号化画像データCIを復号して再生することにより、超解像処理機能を搭載しなくても、原フレーム画像より高解像度で高精細な部分画像を再生することができる。
【0044】
図5は、実施の形態3に係る画像処理装置20を搭載した撮像装置100の構成を示す図である。実施の形態3に係る画像処理装置20は、図1に示した実施の形態1に係る画像処理装置20に拡大率指定部27が追加された構成である。実施の形態3では、階層化された冗長データを持つ冗長データ付き符号化画像データを生成する。階層化されたn(nは自然数)個の冗長データを持つことにより、それぞれ解像度の異なるn種類の対象部分画像が再生可能となる。第0階層の対象部分画像が、拡大されていない対象部分画像となり、以下、階層が進むにつれて高解像度の対象部分画像となる。以下、実施の形態1と同じ処理については適宜説明を省略する。
【0045】
拡大率指定部27は、それぞれ異なる解像度を持つ対象部分画像を再生するための階層化された冗長データを生成すべく、上記階層ごとに設定された拡大率を、超解像拡大部23および空間補間拡大部24に指定する。当該階層が進むにしたがい当該拡大率を上げていってもよいし、すべての階層で当該拡大率を固定にしてもよい。当該拡大率は、設計者が任意に設定可能である。この拡大率の具体例については後述する。
【0046】
超解像拡大部23は、n=1の場合、部分画像抽出部22により抽出された対象部分画像と、上記参照部分画像を用いて超解像処理し、上記対象部分画像を拡大率指定部27により指定された拡大率で拡大し、第1階層の超解像拡大画像を生成する。超解像拡大部23は、n>1の場合、上記対象部分画像の第(n−1)階層の超解像拡大画像と、上記参照部分画像の第(n−1)階層の超解像拡大画像を用いて超解像処理し、上記対象部分画像の第(n−1)階層の超解像拡大画像を拡大率指定部27により指定された拡大率で拡大し、第n階層の超解像拡大画像を生成する。なお、上記参照部分画像の第(n−1)階層の超解像拡大画像は、上記参照フレーム画像の冗長データ付き符号化画像データを生成する際に得られるものを転用することができる。
【0047】
上記対象部分画像の第(n−1)階層の超解像拡大画像は、第n階層の超解像拡大画像が生成されるまで、図示しないフレームバッファに一時保持されてもよい。また、上記対象部分画像の第(n−1)階層の超解像拡大画像は、符号化された、第1階層から第(n−1)階層までの冗長データが復号部26により復号されることにより、復元されてもよい。
【0048】
空間補間拡大部24は、n=1の場合、部分画像抽出部22により抽出された対象部分画像に画素データを空間的に補間して、当該対象部分画像を拡大率指定部27により指定された拡大率で拡大し、第1階層の空間補間拡大画像を生成する。空間補間拡大部24は、n>1の場合、上記対象部分画像の第(n−1)階層の超解像拡大画像に画素データを空間的に補間して、第(n−1)階層の超解像拡大画像を拡大率指定部27により指定された拡大率で拡大し、第n階層の空間補間拡大画像を生成する。
【0049】
冗長データ生成部25は、超解像拡大部23により拡大されたn階層の超解像拡大画像と、空間補間拡大部24により拡大されたn階層の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、第n階層の冗長データを生成する。符号化部21は、第n階層の冗長データを符号化して、冗長データ付き符号化画像データに付加する。
【0050】
図6は、実施の形態3に係る、拡大率指定部27による拡大率制御の一例を説明するための図である。拡大率指定部27は、図6に示すテーブル27aを用いて超解像拡大部23および空間補間拡大部24に拡大率を設定する。ここでは、第1階層の部分画像が原部分画像の2倍の部分画像に設定され、第2階層の部分画像が原部分画像の4倍の部分画像に設定され、第3階層の部分画像が原部分画像の8倍の部分画像に設定される例を示している。この場合、超解像拡大部23および空間補間拡大部24に設定する拡大率は常に2倍となる。第(n−1)階層の、上記空間補間拡大画像および上記超解像拡大画像を2倍に拡大すれば、第n階層の、上記空間補間拡大画像および上記超解像拡大画像を得ることができる。
【0051】
図6の例では、拡大率指定部27は、上記階層に応じて超解像処理に用いるべき参照部分画像の枚数を変化させている。具体的には、上記階層が進むにつれて超解像処理に用いるべき参照部分画像の枚数を増やしている。拡大率が大きくなると超解像処理による拡大であっても、使用する画像の枚数が少ない場合、拡大後の画像がぼけてしまう。十分に高周波成分を復元することができないためである。この趣旨から、ここでは拡大率が大きくなるにつれて超解像処理に用いるべき参照部分画像の枚数を増やしている。もちろん、超解像処理に用いるべき参照部分画像の枚数は固定であってもよい。この場合、構成を簡素化することができる。
【0052】
図7は、実施の形態3に係る画像処理装置20により生成された冗長データ付き符号化画像データCIのデータ構造を示す図である。冗長データ付き符号化画像データCIは、基本データF、第1冗長データR1、第2冗長データR2および第3冗長データR3を含む。基本データFは、原フレーム画像を再生するためのデータである。第1冗長データR1は、その原フレーム画像の部分領域が超解像処理により高解像度化された第1階層の部分画像を再生するためのデータである。第2冗長データR2は、第2階層の部分画像を再生するためのデータである。第3冗長データR3は、第3階層の部分画像を再生するためのデータである。
【0053】
図6に示した拡大率が設定された場合、基本データFおよび第1冗長データR1を用いることにより、超解像処理により2倍に拡大された部分画像を再生することができる。基本データF、第1冗長データR1および第2冗長データR2を用いることにより、超解像処理により4倍に拡大された部分画像を再生することができる。基本データF、第1冗長データR1、第2冗長データR2および第3冗長データR3を用いることにより、超解像処理により8倍に拡大された部分画像を再生することができる。
【0054】
図8は、実施の形態3に係る画像処理装置20による、冗長データ付き符号化画像データの生成処理を示すフローチャートである。まず、各階層を表すパラメータnに初期値として1が代入される(S10)。部分画像抽出部22は、対象フレーム画像から対象部分画像を抽出し、参照フレーム画像から参照部分画像を抽出する(S12)。空間補間拡大部24は、対象部分画像をn階層で指定される拡大率で拡大する(S14)。超解像拡大部23は、参照部分画像を用いて対象部分画像をn階層で指定される拡大率で拡大する(S16)。
【0055】
冗長データ生成部25は、空間補間拡大部24により拡大されたn階層の空間補間拡大画像と、超解像拡大部23により拡大されたn階層の超解像拡大画像との差分を算出し、n階層の差分データを生成する(S18)。符号化部21は、n階層の差分データを符号化して、冗長データ付き符号化画像データに付加する(S20)。ここで、パラメータnがインクリメントされる(S22)。パラメータnが最終階層を超えると(S24のY)、当該生成処理が終了する。パラメータnが最終階層を超えないとき(S24のN)、ステップS26に遷移する。
【0056】
空間補間拡大部24は、第(n−1)階層の超解像拡大画像をn階層で指定される拡大率で拡大する(S26)。超解像拡大部23は、第(n−1)階層の参照部分画像の超解像拡大画像を用いて、第(n−1)階層の対象部分画像の超解像拡大画像をn階層で指定される拡大率で拡大する(S28)。以下、ステップS18に遷移する。
【0057】
以上説明したように実施の形態3によれば、実施の形態1と同様の効果を奏する。それに加えて、生成された冗長データ付き符号化画像データが階層化された冗長データを持つことにより、再生側機器のスペックやユーザの意図に応じて、再生側で好適な拡大率が選択されて、上記対象部分画像が再生されることが可能である。
【0058】
図9は、実施の形態4に係る画像再生装置200の構成を示す図である。画像再生装置200は、撮像装置100の一機能として搭載されてもよいし、単体の機器として構成されてもよい。画像再生装置200は、実施の形態3に係る画像処理装置20により生成された冗長データ付き符号化画像データCIを再生する。実施の形態4に係る画像再生部40は、図4に示した実施の形態2に係る画像再生部40に拡大率指定部45が追加された構成である。以下、実施の形態2と異なる処理について説明する。
【0059】
復号部41は、実施の形態3に係る画像処理装置20により生成された冗長データ付き符号化画像データを復号する。復号部41は、復号したフレーム画像を部分画像抽出部42に供給し、復号した冗長データを超解像拡大画像復元部44に供給する。復号部41は、復号した第1階層の冗長データから順番に超解像拡大画像復元部44に供給する。
【0060】
拡大率指定部45は、階層ごとに設定された拡大率を空間補間拡大部43に指定する。この拡大率は、符号化側の画像処理装置20に含まれる拡大率指定部27に設定された拡大率と同じ値に設定される。符号化側の拡大率指定部27に設定された拡大率を再生側が未知の場合、冗長データ付き符号化画像データCIのヘッダなどにその拡大率が記述されるように設計すれば、符号化側からその拡大率が再生側に伝達される。
【0061】
空間補間拡大部43は、n=1の場合、部分画像抽出部42により抽出された対象部分画像に画素データを空間的に補間して、上記対象部分画像を拡大率指定部45により指定された拡大率で拡大して、第1階層の空間補間拡大画像を生成する。空間補間拡大部43は、n>1の場合、上記対象部分画像の第(n−1)階層の超解像拡大画像に画素データを空間的に補間して、第(n−1)階層の超解像拡大画像を拡大率指定部45により指定された拡大率で拡大して、第n階層の空間補間拡大画像を生成する。
【0062】
超解像拡大画像復元部44は、空間補間拡大部43により拡大されたn階層の空間補間拡大画像と、復号部41により復号されたn階層の冗長データとの間に、所定の演算を施し、n階層の超解像拡大画像を復元する。符号化側の冗長データ生成部25が、超解像拡大部23により拡大されたn階層の超解像拡大画像と、空間補間拡大部24により拡大されたn階層の空間補間拡大画像との間の、差分または排他的論理和を求めてn階層の冗長データを生成した場合、超解像拡大画像復元部44はつぎのように演算してn階層の超解像拡大画像を復元する。すなわち、超解像拡大画像復元部44は、空間補間拡大部43により拡大されたn階層の空間補間拡大画像と、復号部26により復号されたn階層の冗長データとの間の、差分または排他的論理和を求めてn階層の超解像拡大画像を復元する。
【0063】
以上説明したように実施の形態4によれば、上記冗長データ付き符号化画像データを復号して再生することにより、超解像処理機能を搭載しなくても、原フレーム画像より高解像度で高精細な部分画像を再生することができる。また、上記冗長データ付き符号化画像データに階層化された冗長データが付加されているため、任意の階層の冗長データまで使用することにより、好適な拡大率で対象部分画像を再生することができる。
【0064】
以上、本発明を実施の形態をもとに説明した。この実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
【0065】
図10は、変形例1に係る画像処理装置20を搭載した撮像装置100の構成を示す図である。変形例1に係る画像処理装置20は、図1に示した実施の形態1に係る画像処理装置20の構成から部分画像抽出部22が除去された構成である。実施の形態1では対象部分画像を高精細に高解像度化するための冗長データを生成したが、変形例1では対象部分画像ではなく対象フレーム画像を高精細に高解像度化するための冗長データを生成する。実施の形態2〜4でも同様である。実施の形態1〜4における、対象部分画像を対象フレーム画像に、参照部分画像を参照フレーム画像に読み替えればよい。変形例1によれば、データ量の増大を抑制しながら、対象フレーム画像を通常の解像度で再生するだけでなく、高精細に高解像度化することもできる符号化画像データを生成することができる。
【0066】
図11は、変形例2に係る画像処理装置20を搭載した画像編集装置300を示す図である。変形例2に係る画像処理装置20を搭載した画像編集装置300は、図1に示した実施の形態1に係る画像処理装置20を搭載した撮像装置100のように、撮像部10を有しない。変形例2では、部分画像抽出部22に供給される対象フレーム画像および参照フレーム画像は、撮像部10により撮像されたフレーム画像ではなく、記録部30に記録されていた符号化画像データが復号部26により復号されたフレーム画像である。変形例2によれば、撮影時ではない任意の時期に冗長データ付き符号化画像データを生成することができる。したがって、抽出すべき領域をユーザ操作により任意に設定することも容易である。
【図面の簡単な説明】
【0067】
【図1】実施の形態1に係る画像処理装置を搭載した撮像装置の構成を示す図である。
【図2】実施の形態1に係る超解像拡大部の詳細な構成を示す図である。
【図3】実施の形態1に係る画像処理部により生成された冗長データ付き符号化画像データのデータ構造を示す図である。
【図4】実施の形態2に係る画像再生装置の構成を示す図である。
【図5】実施の形態3に係る画像処理装置を搭載した撮像装置の構成を示す図である。
【図6】実施の形態3に係る拡大率指定部による拡大率制御の一例を説明するための図である。
【図7】実施の形態3に係る画像処理装置により生成された冗長データ付き符号化画像データのデータ構造を示す図である。
【図8】実施の形態3に係る画像処理装置による、冗長データ付き符号化画像データの生成処理を示すフローチャートである。
【図9】実施の形態4に係る画像再生装置の構成を示す図である。
【図10】変形例1に係る画像処理装置を搭載した撮像装置の構成を示す図である。
【図11】変形例2に係る画像処理装置を搭載した画像編集装置を示す図である。
【符号の説明】
【0068】
10 撮像部、 20 画像処理装置、 21 符号化部、 22 部分画像抽出部、 23 超解像拡大部、 24 空間補間拡大部、 25 冗長データ生成部、 26 復号部、 27 拡大率指定部、 30 記録部、 40 画像再生部、 41 復号部、 42 部分画像抽出部、 43 空間補間拡大部、 44 超解像拡大画像復元部、 45 拡大率指定部、 50 表示部、 100 撮像装置、 200 画像再生装置、 231 拡大部、 232 位置合わせ部、 233 合成部、 300 画像編集装置。
【技術分野】
【0001】
本発明は、超解像処理機能を備える画像処理装置、それを搭載した撮像装置、および画像再生装置に関する。
【背景技術】
【0002】
デジタルスチルカメラおよびデジタルムービーカメラが普及してきており、静止画および動画に対する高画質化の要求も年々高まっている。当然のことながら、高画質な画像を得るにはカメラに高スペックな、撮像素子および画像処理エンジンを搭載する必要がある。とくに高画質な動画を得るためには、非常に高スペックな画像処理エンジンを搭載する必要があり、一般的なデジタルムービーカメラで撮像される動画の解像度は、一般的なデジタルスチルカメラで撮像される静止画の解像度より低く設定されている。
【0003】
このような状況下、フレーム画像の解像度を事後的に向上させる手法が提案されている。その中でも、高周波成分自体を復元することができる超解像処理が注目されている。超解像処理は、微少な位置ずれを持つ複数の画像から、それら画像の解像度より高い解像度の画像を生成する技術である。
【0004】
特許文献1は、空間解像度が互いに異なる複数の符号化レイヤにより画像信号を符号化する階層符号化装置を開示する。
【特許文献1】特開2007−174634号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、フレーム画像の全体領域または部分領域を超解像処理して得られる全体画像または部分画像は、高解像度化されているためデータ量が大きくなる。たとえば、フレーム画像の符号化データに、そのフレーム画像の部分領域を超解像処理して得られる部分画像の符号化データを冗長データとして付加した場合、符号化ストリーム全体のデータ量が非常に増大してしまう。
【0006】
本発明はこうした状況に鑑みなされたものであり、その目的は、原フレーム画像より高精細な全体画像または部分画像を再生可能な符号化画像データを、少ないデータ量の追加で生成することができる画像処理装置、それを搭載した撮像装置、および画像再生装置を提供することにある。
【課題を解決するための手段】
【0007】
本発明のある態様の画像処理装置は、対象フレーム画像内、およびその対象フレーム画像と時間方向に隣接する少なくとも一枚の参照フレーム画像内から、指定された領域の部分画像を抽出する部分画像抽出部と、部分画像抽出部により抽出された、対象フレーム画像の対象部分画像と、参照フレーム画像の参照部分画像を用いて超解像処理し、対象部分画像を所定の拡大率で拡大する超解像拡大部と、部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、対象部分画像を上記拡大率で拡大する空間補間拡大部と、超解像拡大部により拡大された、対象部分画像の超解像拡大画像と、空間補間拡大部により拡大された、対象部分画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する冗長データ生成部と、対象フレーム画像および冗長データを符号化して、冗長データ付き符号化画像データを生成する符号化部と、を備える。
【0008】
本発明の別の態様もまた、画像処理装置である。この装置は、対象フレーム画像を、その対象フレーム画像と時間方向に隣接する少なくとも一枚の参照フレーム画像を用いて超解像処理し、対象フレーム画像を所定の拡大率で拡大する超解像拡大部と、対象フレーム画像に画素データを空間的に補間して、対象フレーム画像を上記拡大率で拡大する空間補間拡大部と、超解像拡大部により拡大された、対象フレーム画像の超解像拡大画像と、空間補間拡大部により拡大された、対象フレーム画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する冗長データ生成部と、対象フレーム画像、および冗長データ生成部により生成された冗長データを符号化して、冗長データ付き符号化画像データを生成する符号化部と、を備える。
【0009】
本発明のさらに別の態様は、画像再生装置である。この装置は、上述した画像処理装置により生成された冗長データ付き符号化画像データを再生する画像再生装置であって、冗長データ付き符号化画像データを復号する復号部と、復号部により復号された対象フレーム画像内から、対象部分画像を抽出する部分画像抽出部と、部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、対象部分画像を上記拡大率で拡大する空間補間拡大部と、空間補間拡大部により拡大された対象部分画像の空間補間拡大画像と、復号部により復号された冗長データとの間に、所定の演算を施し、対象部分画像の超解像拡大画像を復元する超解像拡大画像復元部と、を備える。
【0010】
なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。
【発明の効果】
【0011】
本発明によれば、原フレーム画像より高精細な全体画像または部分画像を再生可能な符号化画像データを、少ないデータ量の追加で生成することができる。
【発明を実施するための最良の形態】
【0012】
図1は、実施の形態1に係る画像処理装置20を搭載した撮像装置100の構成を示す図である。撮像装置100は、撮像部10、画像処理装置20および記録部30を備える。画像処理装置20は、符号化部21、部分画像抽出部22、超解像拡大部23、空間補間拡大部24、冗長データ生成部25および復号部26を有する。
【0013】
画像処理装置20の構成は、ハードウェア的には、任意のコンピュータのCPU、メモリ、その他のLSIで実現でき、ソフトウェア的にはメモリにロードされたプログラムなどによって実現されるが、ここではそれらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組み合わせによっていろいろな形で実現できることは、当業者には理解されるところである。
【0014】
撮像部10は、画像を取得して画像処理装置20に供給する。撮像部10は、図示しない撮像素子および信号処理部を含む。当該撮像素子としてCCD(Charge Coupled Devices)センサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどを採用することができる。当該信号処理部は、当該撮像素子から出力されるアナログの三原色信号R、G、Bを、デジタルの輝度信号Yおよび色差信号Cr、Cbに変換する。
【0015】
画像処理装置20は、撮像部10から入力されるフレーム画像を圧縮符号化する。本実施の形態では対象フレーム画像を超解像処理する際、その対象フレーム画像と時間方向に隣接する参照フレーム画像を用いる。したがって、本実施の形態はフレーム画像が連続的に撮像される動画撮影への適用を主に想定しているが、静止画撮影への適用も可能である。静止画撮影に適用する場合、連射機能を発動して対象フレーム画像と時間方向に隣接する参照フレーム画像を取得すればよい。
【0016】
符号化部21は、対象フレーム画像およびその冗長データを符号化して、冗長データ付き符号化画像データを生成する。冗長データについては後述する。動画撮影では、符号化部21はたとえば、H.264/AVC、MPEG−2、またはMPEG−4などの規格にしたがい、連続的に入力されるフレーム画像を圧縮符号化する。静止画撮影では、符号化部21はたとえば、JPEGなどの規格にしたがい、フレーム画像を圧縮符号化する。符号化部21により圧縮符号化された冗長データ付き符号化画像データは、記録部30に記録されるか、図示しないネットワークを介して外部装置に送信される。
【0017】
部分画像抽出部22は、対象フレーム画像内、およびその対象フレーム画像と時間方向に隣接する少なくとも一枚の参照フレーム画像内から、指定された領域の部分画像を抽出する。ここで、対象フレーム画像および参照フレーム画像は、撮像部10から直接入力されたフレーム画像であってもよいし、符号化部21により符号化され、かつ復号部26により復号されたフレーム画像であってもよい。前者の場合、実施の形態1では復号部26は必須要素ではない。参照フレーム画像は、対象フレーム画像より過去方向に隣接する一枚以上のフレーム画像、未来方向に隣接する一枚以上のフレーム画像、またはそれらの両方であってもよい。
【0018】
上記領域はあらかじめ設定された固定の領域であってもよいし、動的に変更される領域であってもよい。前者の例として、フレーム画像内の中央部分にその固定の領域が設定されてもよい。後者の例として、本撮像装置100に顔などのオブジェクト検出機能が搭載される場合、その検出機能により検出された、オブジェクトを含む窓領域が、上記抽出されるべき領域としてフレーム画像ごとに適応的に設定されてもよい。また、静止画撮影の場合、ユーザにより指定された領域が上記抽出されるべき領域として設定されてもよい。
【0019】
部分画像抽出部22は、抽出した対象フレーム画像の対象部分画像を超解像拡大部23および空間補間拡大部24に供給し、抽出した参照フレーム画像の参照部分画像を超解像拡大部23に供給する。なお、部分画像抽出部22により抽出されるべき領域の位置情報は、符号化部21により上記冗長データ付き符号化画像データのヘッダなどに記述される。
【0020】
超解像拡大部23は、部分画像抽出部22により抽出された、対象部分画像と参照部分画像を用いて超解像処理し、当該対象部分画像を所定の拡大率で拡大する。この拡大率は設計者によって予め設定される。なお、事後的にユーザが変更できてもよい。超解像拡大部23の詳細な構成は後述する。
【0021】
空間補間拡大部24は、部分画像抽出部22により抽出された対象部分画像に画素データを空間的に補間して、当該対象部分画像を上記拡大率で拡大する。この拡大率は、超解像拡大部23により拡大された画像と空間補間拡大部24により拡大された画像の解像度を合わせるため、超解像拡大部23に設定された拡大率と同じ値に設定される。
【0022】
空間補間拡大部24は、補間すべき画素データを、上記対象部分画像内における、隣接する複数の画素データから予測する。以下、上記対象部分画像を2倍に拡大する例について説明する。原画素データ列(a0、a1、a2、a3)を2倍の画素データ列(a0、b0、a1、b1、a2、b2、a3、b3)に拡大する場合について考える。
【0023】
まず、最も単純な線形補間処理では、画素データb0、b1、b2、b3を下記式1〜4で算出する。すなわち、補間すべき画素データb0、b1、b2をその両側に隣接する、2点の画素データの平均値を算出して求める。なお、一番端の画素データb3については画素データa3をそのままコピーしている。
b0=(a0+a1)/2 ・・・(式1)
b1=(a1+a2)/2 ・・・(式2)
b2=(a2+a3)/2 ・・・(式3)
b3=a3 ・・・(式4)
【0024】
また、画素データb1を下記式5に示すように4点の平均値を算出して求めることもできる。
b1=(a0+a1+a2+a3)/4 ・・・(式5)
また、画素データb1を下記式6に示すように、重み付けされた4点の平均値を算出して求めることもできる。
b1=(a0+2・a1+2・a2+a3)/6 ・・・(式6)
【0025】
その他、複数の点を通る曲線を近似し、その曲線上の、2点(a0とa1)の中間座標(b1)を予測画素データとして求めてもよいし、H.264/AVCで標準的に用いられる6タップFIRフィルタにより予測画素データを求めてもよい。ここでは、2倍に拡大する手法について説明したが、2倍未満(1倍を超える)の拡大も、2倍を超える拡大も、既知のアルゴリズムにより可能である。
【0026】
冗長データ生成部25は、超解像拡大部23により拡大された対象部分画像の超解像拡大画像と、空間補間拡大部24により拡大された対象部分画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する。たとえば、冗長データ生成部25は、当該超解像拡大画像と当該空間補間拡大画像との間の、差分または排他的論理和を求めて冗長データを生成する。当該超解像拡大画像と当該空間補間拡大画像は相関性が非常に強いため、両者の差分または排他的論理和を求めて生成した冗長データのデータ量は、当該超解像拡大画像自体のデータ量と比較し、大幅に削減される。
【0027】
記録部30はメモリカード、ハードディスク、光ディスクなどの、記録媒体を備える。本実施の形態では画像処理装置20により生成された、冗長データ付き符号化画像データを記録する。
【0028】
図2は、実施の形態1に係る超解像拡大部23の詳細な構成を示す図である。超解像拡大部23は、拡大部231、位置合わせ部232および合成部233を含む。なお、図2では複数の画像を拡大した後に、それぞれの画像の位置合わせを行う例を示しているが、複数の画像の位置合わせを終えた後に、それぞれの画像を拡大してもよい。
【0029】
拡大部231は、一枚の対象部分画像と、少なくとも一枚の参照部分画像をそれぞれ上記拡大率で拡大する。上記対象部分画像と上記参照部分画像との位置ずれが微少な範囲にとどまる限り、参照部分画像の枚数が多いほど高精細な画像を復元することができるが、演算量が増大し、ノイズが混入するリスクが増大する。当該位置ずれが大きい参照部分画像が超解像処理に使用されると、その参照部分画像の成分はノイズとなる。設計者はこのようなトレードオフ関係を考慮して、参照部分画像の枚数を設定することができる。
【0030】
拡大部231は、それぞれの部分画像に画素データを空間的に補間する。すなわち、空間補間拡大部24と同様の処理をそれぞれの部分画像に施す。この場合、空間補間拡大部24および拡大部231は、ハードウェア資源またはソフトウェア資源を時分割に共用することができる。
【0031】
位置合わせ部232は、上記対象部分画像と上記参照部分画像との位置ずれ量を推定し、その位置ずれ量を補正する。当該位置ずれ量は、たとえば、2枚の部分画像の差分絶対値和(SAD: Sum of Absolute Difference)を求めることにより推定することができる。すなわち、2枚の部分画像の各画素データの差分を求め、その総和を求める。より具体的には、どちらかの部分画像を縦方向または横方向に1画素ずつ移動させるごとに上記差分絶対値和を求めるという処理を繰り返し、上記差分絶対値和が最も小さい位置を特定する。そして、その位置を2枚の部分画像の重ね合わせ位置に設定する。参照部分画像が複数枚ある場合、それぞれの参照部分画像と、対象部分画像との間で上述した位置合わせ処理を実行する。
【0032】
合成部233は、位置合わせされた複数の部分画像を重み付け加算する。通常、位置ずれ量が小さい部分画像の重みを大きく、位置ずれ量が大きい部分画像の重みを小さくする。
【0033】
なお、上述した超解像処理のアルゴリズムは一例であり、その他のアルゴリズムを用いてもよい。たとえば、(青木伸著、「複数のデジタル画像データによる超解像処理」、Ricoh Technical Report No.24, NOVEMBER, 1998)に開示されたアルゴリズムを用いてもよい。
【0034】
図3は、実施の形態1に係る画像処理装置20により生成された冗長データ付き符号化画像データCIのデータ構造を示す図である。冗長データ付き符号化画像データCIは、基本データFと冗長データRを含む。基本データFは、原フレーム画像を再生するためのデータである。冗長データRは、その原フレーム画像の部分領域が超解像処理により高解像度化された部分画像を再生するためのデータである。後述するように、この冗長データ付き符号化画像データを復号することにより、超解像処理機能を搭載しない画像再生装置でも高精細に高解像度化された部分画像を再生することができる。このように、この冗長データ付き符号化画像データは汎用性が高いデータフォーマットであるといえる。
【0035】
以上説明したように実施の形態1によれば、超解像処理により拡大された部分画像と、空間的補間により拡大された部分画像との間に所定の演算を施して生成した冗長データの符号化データを、原フレーム画像の符号化データに付加することにより、つぎの効果を奏する。すなわち、原フレーム画像より高精細な部分画像を再生可能な符号化画像データを、少ないデータ量の追加で生成することができる。すなわち、再生側は超解像処理機能を搭載していなくても超解像処理された部分画像を再生することができる。超解像処理された部分画像は、解像度が同じ、空間的に補間された部分画像と比較し、高精細な画像となる。
【0036】
超解像処理により拡大された部分画像と空間的補間により拡大された部分画像との画素数を合わせることにより、それらの部分画像間の演算処理を単純化することができる。とくに、それらの部分画像間の差分または排他的論理和を求めると、冗長データとして付加すべきデータ量を大幅に削減することができる。
【0037】
図4は、実施の形態2に係る画像再生装置200の構成を示す図である。画像再生装置200は、撮像装置100の一機能として搭載されてもよいし、単体の機器として構成されてもよい。画像再生装置200は、実施の形態1に係る画像処理装置20により生成された冗長データ付き符号化画像データCIを再生する。画像再生装置200は、画像再生部40および表示部50を備える。画像再生部40は、復号部41、部分画像抽出部42、空間補間拡大部43および超解像拡大画像復元部44を有する。
【0038】
復号部41は、実施の形態1に係る画像処理装置20により生成された冗長データ付き符号化画像データCIを復号する。復号部41は、復号した対象フレーム画像を部分画像抽出部42に供給し、復号した冗長データを超解像拡大画像復元部44に供給する。
【0039】
部分画像抽出部42は、復号部41により復号された対象フレーム画像内から、冗長データを持つ領域である、上記対象部分画像を抽出する。この領域の位置情報は、冗長データ付き符号化画像データCIのヘッダなどに記述されており、部分画像抽出部42は、その情報を参照することにより、上記領域を特定することができる。
【0040】
空間補間拡大部43は、上記対象部分画像に画素データを空間的に補間して、上記対象部分画像を上記拡大率で拡大する。この拡大率は、符号化側の画像処理装置20に含まれる空間補間拡大部24および超解像拡大部23に設定された拡大率と同じ値に設定される。符号化側の拡大率を再生側が未知の場合や符号化側の拡大率が可変する場合、冗長データ付き符号化画像データCIのヘッダなどに符号化側の拡大率が記述されるように設計すれば、符号化側からその拡大率が再生側に伝達される。再生側の画像再生部40に含まれる空間補間拡大部43は、符号化側の画像処理装置20に含まれる空間補間拡大部24と同様の構成とすることができる。
【0041】
超解像拡大画像復元部44は、空間補間拡大部43により拡大された対象部分画像の空間補間拡大画像と、復号部41により復号された冗長データとの間に、所定の演算を施し、上記対象部分画像の超解像拡大画像を復元する。符号化側において、冗長データ生成部25が、超解像拡大部23により拡大された対象部分画像の超解像拡大画像と、空間補間拡大部24により拡大された対象部分画像の空間補間拡大画像との間の、差分または排他的論理和を求めて冗長データを生成した場合、超解像拡大画像復元部44はつぎのように演算して上記超解像拡大画像を復元する。すなわち、超解像拡大画像復元部44は、空間補間拡大部43により拡大された空間補間拡大画像と、復号部41により復号された冗長データとの間の、差分または排他的論理和を求めて上記超解像拡大画像を復元する。
【0042】
表示部50は、復号部41により復号された対象フレーム画像を表示する。または超解像拡大画像復元部44により復元された超解像拡大画像を表示する。
【0043】
以上説明したように実施の形態2によれば、上記冗長データ付き符号化画像データCIを復号して再生することにより、超解像処理機能を搭載しなくても、原フレーム画像より高解像度で高精細な部分画像を再生することができる。
【0044】
図5は、実施の形態3に係る画像処理装置20を搭載した撮像装置100の構成を示す図である。実施の形態3に係る画像処理装置20は、図1に示した実施の形態1に係る画像処理装置20に拡大率指定部27が追加された構成である。実施の形態3では、階層化された冗長データを持つ冗長データ付き符号化画像データを生成する。階層化されたn(nは自然数)個の冗長データを持つことにより、それぞれ解像度の異なるn種類の対象部分画像が再生可能となる。第0階層の対象部分画像が、拡大されていない対象部分画像となり、以下、階層が進むにつれて高解像度の対象部分画像となる。以下、実施の形態1と同じ処理については適宜説明を省略する。
【0045】
拡大率指定部27は、それぞれ異なる解像度を持つ対象部分画像を再生するための階層化された冗長データを生成すべく、上記階層ごとに設定された拡大率を、超解像拡大部23および空間補間拡大部24に指定する。当該階層が進むにしたがい当該拡大率を上げていってもよいし、すべての階層で当該拡大率を固定にしてもよい。当該拡大率は、設計者が任意に設定可能である。この拡大率の具体例については後述する。
【0046】
超解像拡大部23は、n=1の場合、部分画像抽出部22により抽出された対象部分画像と、上記参照部分画像を用いて超解像処理し、上記対象部分画像を拡大率指定部27により指定された拡大率で拡大し、第1階層の超解像拡大画像を生成する。超解像拡大部23は、n>1の場合、上記対象部分画像の第(n−1)階層の超解像拡大画像と、上記参照部分画像の第(n−1)階層の超解像拡大画像を用いて超解像処理し、上記対象部分画像の第(n−1)階層の超解像拡大画像を拡大率指定部27により指定された拡大率で拡大し、第n階層の超解像拡大画像を生成する。なお、上記参照部分画像の第(n−1)階層の超解像拡大画像は、上記参照フレーム画像の冗長データ付き符号化画像データを生成する際に得られるものを転用することができる。
【0047】
上記対象部分画像の第(n−1)階層の超解像拡大画像は、第n階層の超解像拡大画像が生成されるまで、図示しないフレームバッファに一時保持されてもよい。また、上記対象部分画像の第(n−1)階層の超解像拡大画像は、符号化された、第1階層から第(n−1)階層までの冗長データが復号部26により復号されることにより、復元されてもよい。
【0048】
空間補間拡大部24は、n=1の場合、部分画像抽出部22により抽出された対象部分画像に画素データを空間的に補間して、当該対象部分画像を拡大率指定部27により指定された拡大率で拡大し、第1階層の空間補間拡大画像を生成する。空間補間拡大部24は、n>1の場合、上記対象部分画像の第(n−1)階層の超解像拡大画像に画素データを空間的に補間して、第(n−1)階層の超解像拡大画像を拡大率指定部27により指定された拡大率で拡大し、第n階層の空間補間拡大画像を生成する。
【0049】
冗長データ生成部25は、超解像拡大部23により拡大されたn階層の超解像拡大画像と、空間補間拡大部24により拡大されたn階層の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、第n階層の冗長データを生成する。符号化部21は、第n階層の冗長データを符号化して、冗長データ付き符号化画像データに付加する。
【0050】
図6は、実施の形態3に係る、拡大率指定部27による拡大率制御の一例を説明するための図である。拡大率指定部27は、図6に示すテーブル27aを用いて超解像拡大部23および空間補間拡大部24に拡大率を設定する。ここでは、第1階層の部分画像が原部分画像の2倍の部分画像に設定され、第2階層の部分画像が原部分画像の4倍の部分画像に設定され、第3階層の部分画像が原部分画像の8倍の部分画像に設定される例を示している。この場合、超解像拡大部23および空間補間拡大部24に設定する拡大率は常に2倍となる。第(n−1)階層の、上記空間補間拡大画像および上記超解像拡大画像を2倍に拡大すれば、第n階層の、上記空間補間拡大画像および上記超解像拡大画像を得ることができる。
【0051】
図6の例では、拡大率指定部27は、上記階層に応じて超解像処理に用いるべき参照部分画像の枚数を変化させている。具体的には、上記階層が進むにつれて超解像処理に用いるべき参照部分画像の枚数を増やしている。拡大率が大きくなると超解像処理による拡大であっても、使用する画像の枚数が少ない場合、拡大後の画像がぼけてしまう。十分に高周波成分を復元することができないためである。この趣旨から、ここでは拡大率が大きくなるにつれて超解像処理に用いるべき参照部分画像の枚数を増やしている。もちろん、超解像処理に用いるべき参照部分画像の枚数は固定であってもよい。この場合、構成を簡素化することができる。
【0052】
図7は、実施の形態3に係る画像処理装置20により生成された冗長データ付き符号化画像データCIのデータ構造を示す図である。冗長データ付き符号化画像データCIは、基本データF、第1冗長データR1、第2冗長データR2および第3冗長データR3を含む。基本データFは、原フレーム画像を再生するためのデータである。第1冗長データR1は、その原フレーム画像の部分領域が超解像処理により高解像度化された第1階層の部分画像を再生するためのデータである。第2冗長データR2は、第2階層の部分画像を再生するためのデータである。第3冗長データR3は、第3階層の部分画像を再生するためのデータである。
【0053】
図6に示した拡大率が設定された場合、基本データFおよび第1冗長データR1を用いることにより、超解像処理により2倍に拡大された部分画像を再生することができる。基本データF、第1冗長データR1および第2冗長データR2を用いることにより、超解像処理により4倍に拡大された部分画像を再生することができる。基本データF、第1冗長データR1、第2冗長データR2および第3冗長データR3を用いることにより、超解像処理により8倍に拡大された部分画像を再生することができる。
【0054】
図8は、実施の形態3に係る画像処理装置20による、冗長データ付き符号化画像データの生成処理を示すフローチャートである。まず、各階層を表すパラメータnに初期値として1が代入される(S10)。部分画像抽出部22は、対象フレーム画像から対象部分画像を抽出し、参照フレーム画像から参照部分画像を抽出する(S12)。空間補間拡大部24は、対象部分画像をn階層で指定される拡大率で拡大する(S14)。超解像拡大部23は、参照部分画像を用いて対象部分画像をn階層で指定される拡大率で拡大する(S16)。
【0055】
冗長データ生成部25は、空間補間拡大部24により拡大されたn階層の空間補間拡大画像と、超解像拡大部23により拡大されたn階層の超解像拡大画像との差分を算出し、n階層の差分データを生成する(S18)。符号化部21は、n階層の差分データを符号化して、冗長データ付き符号化画像データに付加する(S20)。ここで、パラメータnがインクリメントされる(S22)。パラメータnが最終階層を超えると(S24のY)、当該生成処理が終了する。パラメータnが最終階層を超えないとき(S24のN)、ステップS26に遷移する。
【0056】
空間補間拡大部24は、第(n−1)階層の超解像拡大画像をn階層で指定される拡大率で拡大する(S26)。超解像拡大部23は、第(n−1)階層の参照部分画像の超解像拡大画像を用いて、第(n−1)階層の対象部分画像の超解像拡大画像をn階層で指定される拡大率で拡大する(S28)。以下、ステップS18に遷移する。
【0057】
以上説明したように実施の形態3によれば、実施の形態1と同様の効果を奏する。それに加えて、生成された冗長データ付き符号化画像データが階層化された冗長データを持つことにより、再生側機器のスペックやユーザの意図に応じて、再生側で好適な拡大率が選択されて、上記対象部分画像が再生されることが可能である。
【0058】
図9は、実施の形態4に係る画像再生装置200の構成を示す図である。画像再生装置200は、撮像装置100の一機能として搭載されてもよいし、単体の機器として構成されてもよい。画像再生装置200は、実施の形態3に係る画像処理装置20により生成された冗長データ付き符号化画像データCIを再生する。実施の形態4に係る画像再生部40は、図4に示した実施の形態2に係る画像再生部40に拡大率指定部45が追加された構成である。以下、実施の形態2と異なる処理について説明する。
【0059】
復号部41は、実施の形態3に係る画像処理装置20により生成された冗長データ付き符号化画像データを復号する。復号部41は、復号したフレーム画像を部分画像抽出部42に供給し、復号した冗長データを超解像拡大画像復元部44に供給する。復号部41は、復号した第1階層の冗長データから順番に超解像拡大画像復元部44に供給する。
【0060】
拡大率指定部45は、階層ごとに設定された拡大率を空間補間拡大部43に指定する。この拡大率は、符号化側の画像処理装置20に含まれる拡大率指定部27に設定された拡大率と同じ値に設定される。符号化側の拡大率指定部27に設定された拡大率を再生側が未知の場合、冗長データ付き符号化画像データCIのヘッダなどにその拡大率が記述されるように設計すれば、符号化側からその拡大率が再生側に伝達される。
【0061】
空間補間拡大部43は、n=1の場合、部分画像抽出部42により抽出された対象部分画像に画素データを空間的に補間して、上記対象部分画像を拡大率指定部45により指定された拡大率で拡大して、第1階層の空間補間拡大画像を生成する。空間補間拡大部43は、n>1の場合、上記対象部分画像の第(n−1)階層の超解像拡大画像に画素データを空間的に補間して、第(n−1)階層の超解像拡大画像を拡大率指定部45により指定された拡大率で拡大して、第n階層の空間補間拡大画像を生成する。
【0062】
超解像拡大画像復元部44は、空間補間拡大部43により拡大されたn階層の空間補間拡大画像と、復号部41により復号されたn階層の冗長データとの間に、所定の演算を施し、n階層の超解像拡大画像を復元する。符号化側の冗長データ生成部25が、超解像拡大部23により拡大されたn階層の超解像拡大画像と、空間補間拡大部24により拡大されたn階層の空間補間拡大画像との間の、差分または排他的論理和を求めてn階層の冗長データを生成した場合、超解像拡大画像復元部44はつぎのように演算してn階層の超解像拡大画像を復元する。すなわち、超解像拡大画像復元部44は、空間補間拡大部43により拡大されたn階層の空間補間拡大画像と、復号部26により復号されたn階層の冗長データとの間の、差分または排他的論理和を求めてn階層の超解像拡大画像を復元する。
【0063】
以上説明したように実施の形態4によれば、上記冗長データ付き符号化画像データを復号して再生することにより、超解像処理機能を搭載しなくても、原フレーム画像より高解像度で高精細な部分画像を再生することができる。また、上記冗長データ付き符号化画像データに階層化された冗長データが付加されているため、任意の階層の冗長データまで使用することにより、好適な拡大率で対象部分画像を再生することができる。
【0064】
以上、本発明を実施の形態をもとに説明した。この実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
【0065】
図10は、変形例1に係る画像処理装置20を搭載した撮像装置100の構成を示す図である。変形例1に係る画像処理装置20は、図1に示した実施の形態1に係る画像処理装置20の構成から部分画像抽出部22が除去された構成である。実施の形態1では対象部分画像を高精細に高解像度化するための冗長データを生成したが、変形例1では対象部分画像ではなく対象フレーム画像を高精細に高解像度化するための冗長データを生成する。実施の形態2〜4でも同様である。実施の形態1〜4における、対象部分画像を対象フレーム画像に、参照部分画像を参照フレーム画像に読み替えればよい。変形例1によれば、データ量の増大を抑制しながら、対象フレーム画像を通常の解像度で再生するだけでなく、高精細に高解像度化することもできる符号化画像データを生成することができる。
【0066】
図11は、変形例2に係る画像処理装置20を搭載した画像編集装置300を示す図である。変形例2に係る画像処理装置20を搭載した画像編集装置300は、図1に示した実施の形態1に係る画像処理装置20を搭載した撮像装置100のように、撮像部10を有しない。変形例2では、部分画像抽出部22に供給される対象フレーム画像および参照フレーム画像は、撮像部10により撮像されたフレーム画像ではなく、記録部30に記録されていた符号化画像データが復号部26により復号されたフレーム画像である。変形例2によれば、撮影時ではない任意の時期に冗長データ付き符号化画像データを生成することができる。したがって、抽出すべき領域をユーザ操作により任意に設定することも容易である。
【図面の簡単な説明】
【0067】
【図1】実施の形態1に係る画像処理装置を搭載した撮像装置の構成を示す図である。
【図2】実施の形態1に係る超解像拡大部の詳細な構成を示す図である。
【図3】実施の形態1に係る画像処理部により生成された冗長データ付き符号化画像データのデータ構造を示す図である。
【図4】実施の形態2に係る画像再生装置の構成を示す図である。
【図5】実施の形態3に係る画像処理装置を搭載した撮像装置の構成を示す図である。
【図6】実施の形態3に係る拡大率指定部による拡大率制御の一例を説明するための図である。
【図7】実施の形態3に係る画像処理装置により生成された冗長データ付き符号化画像データのデータ構造を示す図である。
【図8】実施の形態3に係る画像処理装置による、冗長データ付き符号化画像データの生成処理を示すフローチャートである。
【図9】実施の形態4に係る画像再生装置の構成を示す図である。
【図10】変形例1に係る画像処理装置を搭載した撮像装置の構成を示す図である。
【図11】変形例2に係る画像処理装置を搭載した画像編集装置を示す図である。
【符号の説明】
【0068】
10 撮像部、 20 画像処理装置、 21 符号化部、 22 部分画像抽出部、 23 超解像拡大部、 24 空間補間拡大部、 25 冗長データ生成部、 26 復号部、 27 拡大率指定部、 30 記録部、 40 画像再生部、 41 復号部、 42 部分画像抽出部、 43 空間補間拡大部、 44 超解像拡大画像復元部、 45 拡大率指定部、 50 表示部、 100 撮像装置、 200 画像再生装置、 231 拡大部、 232 位置合わせ部、 233 合成部、 300 画像編集装置。
【特許請求の範囲】
【請求項1】
対象フレーム画像内、およびその対象フレーム画像と時間方向に隣接する少なくとも一枚の参照フレーム画像内から、指定された領域の部分画像を抽出する部分画像抽出部と、
前記部分画像抽出部により抽出された、前記対象フレーム画像の対象部分画像と、前記参照フレーム画像の参照部分画像を用いて超解像処理し、前記対象部分画像を所定の拡大率で拡大する超解像拡大部と、
前記部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、前記対象部分画像を前記拡大率で拡大する空間補間拡大部と、
前記超解像拡大部により拡大された、前記対象部分画像の超解像拡大画像と、前記空間補間拡大部により拡大された、前記対象部分画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する冗長データ生成部と、
前記対象フレーム画像および前記冗長データを符号化して、冗長データ付き符号化画像データを生成する符号化部と、
を備えることを特徴とする画像処理装置。
【請求項2】
それぞれ異なる解像度を持つ対象部分画像を再生するための階層化された冗長データを生成すべく、階層ごとに設定された拡大率を、前記超解像拡大部および前記空間補間拡大部に指定する拡大率指定部をさらに備え、
前記超解像拡大部は、n(nは各階層を表すパラメータであり、自然数)=1の場合、前記部分画像抽出部により抽出された、前記対象部分画像と前記参照部分画像を用いて超解像処理し、前記対象部分画像を前記拡大率指定部により指定された拡大率で拡大して、第1階層の超解像拡大画像を生成し、n>1の場合、前記対象部分画像の第(n−1)階層の超解像拡大画像と、前記参照部分画像の第(n−1)階層の超解像拡大画像を用いて超解像処理し、前記対象部分画像の第(n−1)階層の超解像拡大画像を前記拡大率指定部により指定された拡大率で拡大して、第n階層の超解像拡大画像を生成し、
前記空間補間拡大部は、n=1の場合、前記部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、前記対象部分画像を前記拡大率指定部により指定された拡大率で拡大して、第1階層の空間補間拡大画像を生成し、n>1の場合、前記対象部分画像の第(n−1)階層の超解像拡大画像に画素データを空間的に補間して、第(n−1)階層の超解像拡大画像を前記拡大率指定部により指定された拡大率で拡大して、第n階層の空間補間拡大画像を生成し、
前記冗長データ生成部は、前記超解像拡大部により拡大された第n階層の超解像拡大画像と、前記空間補間拡大部により拡大された第n階層の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、第n階層の冗長データを生成し、
前記符号化部は、第n階層の冗長データを符号化して、前記冗長データ付き符号化画像データに付加することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
画像を取得する撮像部と、
前記撮像部から前記フレーム画像を受ける請求項1または2に記載の画像処理装置と、
を備えることを特徴とする撮像装置。
【請求項4】
請求項1に記載の画像処理装置により生成された冗長データ付き符号化画像データを再生する画像再生装置であって、
前記冗長データ付き符号化画像データを復号する復号部と、
前記復号部により復号された対象フレーム画像内から、前記対象部分画像を抽出する部分画像抽出部と、
前記部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、前記対象部分画像を前記拡大率で拡大する空間補間拡大部と、
前記空間補間拡大部により拡大された対象部分画像の空間補間拡大画像と、前記復号部により復号された冗長データとの間に、所定の演算を施し、前記対象部分画像の超解像拡大画像を復元する超解像拡大画像復元部と、
を備えることを特徴とする画像再生装置。
【請求項5】
請求項2に記載の画像処理装置により生成された冗長データ付き符号化画像データを再生する画像再生装置であって、
前記冗長データ付き符号化画像データを復号する復号部と、
前記復号部により復号された対象フレーム画像内から、前記対象部分画像を抽出する部分画像抽出部と、
前記階層ごとに設定された拡大率を前記空間補間拡大部に指定する拡大率指定部と、
n(nは各階層を表すパラメータであり、自然数)=1の場合、前記部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、前記対象部分画像を前記拡大率指定部により指定された拡大率で拡大して、第1階層の空間補間拡大画像を生成し、n>1の場合、前記対象部分画像の第(n−1)階層の超解像拡大画像に画素データを空間的に補間して、第(n−1)階層の超解像拡大画像を前記拡大率指定部により指定された拡大率で拡大して、第n階層の空間補間拡大画像を生成する空間補間拡大部と、
前記空間補間拡大部により拡大されたn階層の空間補間拡大画像と、前記復号部により復号されたn階層の冗長データとの間に、所定の演算を施し、n階層の超解像拡大画像を復元する超解像拡大画像復元部と、
を備えることを特徴とする画像再生装置。
【請求項1】
対象フレーム画像内、およびその対象フレーム画像と時間方向に隣接する少なくとも一枚の参照フレーム画像内から、指定された領域の部分画像を抽出する部分画像抽出部と、
前記部分画像抽出部により抽出された、前記対象フレーム画像の対象部分画像と、前記参照フレーム画像の参照部分画像を用いて超解像処理し、前記対象部分画像を所定の拡大率で拡大する超解像拡大部と、
前記部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、前記対象部分画像を前記拡大率で拡大する空間補間拡大部と、
前記超解像拡大部により拡大された、前記対象部分画像の超解像拡大画像と、前記空間補間拡大部により拡大された、前記対象部分画像の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、冗長データを生成する冗長データ生成部と、
前記対象フレーム画像および前記冗長データを符号化して、冗長データ付き符号化画像データを生成する符号化部と、
を備えることを特徴とする画像処理装置。
【請求項2】
それぞれ異なる解像度を持つ対象部分画像を再生するための階層化された冗長データを生成すべく、階層ごとに設定された拡大率を、前記超解像拡大部および前記空間補間拡大部に指定する拡大率指定部をさらに備え、
前記超解像拡大部は、n(nは各階層を表すパラメータであり、自然数)=1の場合、前記部分画像抽出部により抽出された、前記対象部分画像と前記参照部分画像を用いて超解像処理し、前記対象部分画像を前記拡大率指定部により指定された拡大率で拡大して、第1階層の超解像拡大画像を生成し、n>1の場合、前記対象部分画像の第(n−1)階層の超解像拡大画像と、前記参照部分画像の第(n−1)階層の超解像拡大画像を用いて超解像処理し、前記対象部分画像の第(n−1)階層の超解像拡大画像を前記拡大率指定部により指定された拡大率で拡大して、第n階層の超解像拡大画像を生成し、
前記空間補間拡大部は、n=1の場合、前記部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、前記対象部分画像を前記拡大率指定部により指定された拡大率で拡大して、第1階層の空間補間拡大画像を生成し、n>1の場合、前記対象部分画像の第(n−1)階層の超解像拡大画像に画素データを空間的に補間して、第(n−1)階層の超解像拡大画像を前記拡大率指定部により指定された拡大率で拡大して、第n階層の空間補間拡大画像を生成し、
前記冗長データ生成部は、前記超解像拡大部により拡大された第n階層の超解像拡大画像と、前記空間補間拡大部により拡大された第n階層の空間補間拡大画像との間に、データ量を削減するための所定の演算を施し、第n階層の冗長データを生成し、
前記符号化部は、第n階層の冗長データを符号化して、前記冗長データ付き符号化画像データに付加することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
画像を取得する撮像部と、
前記撮像部から前記フレーム画像を受ける請求項1または2に記載の画像処理装置と、
を備えることを特徴とする撮像装置。
【請求項4】
請求項1に記載の画像処理装置により生成された冗長データ付き符号化画像データを再生する画像再生装置であって、
前記冗長データ付き符号化画像データを復号する復号部と、
前記復号部により復号された対象フレーム画像内から、前記対象部分画像を抽出する部分画像抽出部と、
前記部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、前記対象部分画像を前記拡大率で拡大する空間補間拡大部と、
前記空間補間拡大部により拡大された対象部分画像の空間補間拡大画像と、前記復号部により復号された冗長データとの間に、所定の演算を施し、前記対象部分画像の超解像拡大画像を復元する超解像拡大画像復元部と、
を備えることを特徴とする画像再生装置。
【請求項5】
請求項2に記載の画像処理装置により生成された冗長データ付き符号化画像データを再生する画像再生装置であって、
前記冗長データ付き符号化画像データを復号する復号部と、
前記復号部により復号された対象フレーム画像内から、前記対象部分画像を抽出する部分画像抽出部と、
前記階層ごとに設定された拡大率を前記空間補間拡大部に指定する拡大率指定部と、
n(nは各階層を表すパラメータであり、自然数)=1の場合、前記部分画像抽出部により抽出された対象部分画像に画素データを空間的に補間して、前記対象部分画像を前記拡大率指定部により指定された拡大率で拡大して、第1階層の空間補間拡大画像を生成し、n>1の場合、前記対象部分画像の第(n−1)階層の超解像拡大画像に画素データを空間的に補間して、第(n−1)階層の超解像拡大画像を前記拡大率指定部により指定された拡大率で拡大して、第n階層の空間補間拡大画像を生成する空間補間拡大部と、
前記空間補間拡大部により拡大されたn階層の空間補間拡大画像と、前記復号部により復号されたn階層の冗長データとの間に、所定の演算を施し、n階層の超解像拡大画像を復元する超解像拡大画像復元部と、
を備えることを特徴とする画像再生装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2009−290793(P2009−290793A)
【公開日】平成21年12月10日(2009.12.10)
【国際特許分類】
【出願番号】特願2008−143776(P2008−143776)
【出願日】平成20年5月30日(2008.5.30)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
【公開日】平成21年12月10日(2009.12.10)
【国際特許分類】
【出願日】平成20年5月30日(2008.5.30)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
[ Back to top ]