画像処理装置、画像処理方法、画像符号化方法、画像復号化方法
【課題】
本発明の目的は、より好適に画像のコントラスト調整を行う。
【解決手段】
画像を入力し、入力された入力画像の画素値ヒストグラムを第1のヒストグラムとして算出し、入力画像における画像処理対象画素の画素値の第1のヒストグラムにおける画素値の大きさの順位を算出する順位算出処理と、画像処理対象画素の画素値を、第1のヒストグラムとは異なる画素値ヒストグラムである第2のヒストグラムにおける上記算出順位の画素値に変更する画像変換処理とを行い、画像変換処理された画像を出力する。
本発明の目的は、より好適に画像のコントラスト調整を行う。
【解決手段】
画像を入力し、入力された入力画像の画素値ヒストグラムを第1のヒストグラムとして算出し、入力画像における画像処理対象画素の画素値の第1のヒストグラムにおける画素値の大きさの順位を算出する順位算出処理と、画像処理対象画素の画素値を、第1のヒストグラムとは異なる画素値ヒストグラムである第2のヒストグラムにおける上記算出順位の画素値に変更する画像変換処理とを行い、画像変換処理された画像を出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理を行う画像処理技術、画像符号化技術、画像復号化技術に関する。
【背景技術】
【0002】
画像をデジタルデータ化して記録する装置としてデジタルビデオカメラ、デジタルスチルカメラがある。以下これらをデジタル撮像装置と呼ぶ。デジタル撮像装置はCCDやCMOSと呼ばれるデバイスによって光学的な情報をデジタル情報として取得し媒体に記録する。
【0003】
ここで、デジタルカメラが記録可能な明るさの範囲をダイナミックレンジと呼ぶ。ダイナミックレンジの大きさはデジタルカメラの使用するCCDやCMOSの性能や、それぞれの機種の画像処理能力に依存する。
【0004】
ここで、デジタル撮像装置のダイナミックレンジの幅が大きい場合は、暗い撮影場所でもコントラストの高い画像を撮影することができるが、ダイナミックレンジの幅が小さい場合や、十分な露光時間を確保することができない場合などは、暗い撮影場所においてコントラストの高い画像を撮影することができず、被写体を良好に視認できないコントラスト特性の良好でない画像が記録されてしまう場合があった。
【0005】
このような画像に対して、コントラスト調整を行う方法としては、中央値調整法、Hyperbolization法、平均化法などの技術がある。
【0006】
また、画像のヒストグラムを用いてコントラストを調整する技術が例えば、特許文献1に開示されている。
【0007】
【特許文献1】特開平11−250222
【発明の開示】
【発明が解決しようとする課題】
【0008】
ここで、従来の中央値調整法、Hyperbolization法、平均化法などで画像処理技術でコントラスト調整を行うと、白とびの発生やノイズが発生し、適切なコントラスト調整ができないという課題があった。
【0009】
また、特許文献1の図4に開示される技術では、処理対象画像と異なる第2の画像のR,G、B成分のヒストグラム成分を用いるため、コントラスト特性だけでなく色調まで変化してしまうという課題があった。
【0010】
また、特許文献1に図8、図11、図12に開示される技術では、変換後の画像の高画素値部分や低画素値部分の画素値の階調が十分でないという課題があった。
【0011】
本発明は上記課題を鑑みてなされたものであり、本発明の目的は、より好適に画像のコントラスト調整を行うことにある。
【課題を解決するための手段】
【0012】
上記目的を達成するために、本発明の一実施の態様は、例えば、画像を入力し、入力された入力画像の画素値ヒストグラムを第1のヒストグラムとして算出し、入力画像における画像処理対象画素の画素値の第1のヒストグラムにおける画素値の大きさの順位を算出する順位算出処理と、画像処理対象画素の画素値を、第1のヒストグラムとは異なる画素値ヒストグラムである第2のヒストグラムにおける上記算出順位の画素値に変更する画像変換処理とを行い、画像変換処理された画像を出力する。
【発明の効果】
【0013】
本発明によれば、より好適に画像のコントラスト調整を行うことができる。
【発明を実施するための最良の形態】
【0014】
以下、本発明の実施例を、図面を参照して説明する。
【0015】
また、各図面において、同一の符号が付されている構成要素は同一の機能を有すること
とする。
【実施例1】
【0016】
まず、本発明の実施例1について図面を参照して説明する。
【0017】
また実施例では、処理対象である入力信号の画素値は輝度とするが、これに限らず入力画像信号がRGB信号である場合など、R信号、G信号、B信号のなど、各色の信号値など、画素ごとに与えられる値であれば、他の要素を用いても構わない。 図1に本発明の実施例1に係る画像処理装置のブロック図の一例を示す。
【0018】
画像処理装置は、例えば第1画像入力部101、第1ヒストグラム計算部102、画像変換部103、ノイズ除去フィルタ104、画像出力部105、第2画像入力部106、画素数変換部107、第2ヒストグラム計算部108とを備える。以下に画像処理装置の各構成要素の動作を詳細に説明する。
【0019】
なお、画像処理装置の各構成要素の動作は、例えば、以下の記載の通り各構成要素の自律的な動作としても良い。また、例えばソフトウェアと協働することにより実現しても構わない。
【0020】
まず第1画像入力部101は第1の入力画像を入力する。第1の入力画像が、本実施例の画像処理装置が画像処理を行う対象画像となる。第1の入力画像は動画の中の一つの画像でも静止画像でもよいが、以下では第1の入力画像を動画の中の一つの画像として説明する。
【0021】
第1ヒストグラム計算部102は、第1の入力画像の第1の画素値ヒストグラム(対象ヒストグラム)を計算する。画素値ヒストグラムとは画像内における画素値(例えば、輝度)の出現頻度を画素値ごとに計測した分布である。すなわち、画像内における同一画素値を有する画素数を各画素値ごとに算出した分布である。
【0022】
第2画像入力部106は第2の入力画像を入力する。第2の入力画像は動画の中の一つの画像でも静止画像でもよいが、以下では第2の入力画像を静止画像として説明する。第2の入力画像は、本実施例の画像処理装置が画像処理をおこなうときに参照する参照画像となる。
【0023】
画素数変換部107は第2の入力画像の画素数を第1の入力画像と同じ画素数に変換する。これは後述する画像変換部103でのヒストグラムの比較を簡単に行うために、両者の画素の数を同じにするための処理である。ここでは第2の入力画像の画素数を変換したが、第1の入力画像の画素数を変換しても、両方を変換しても構わない。当該画素数変換では、一般的なスケーリングによる画像サイズ(縦画素数、横画素数)の変換を行うことにより画素数変換を行ってもよい。当該画素数変換は、第1の入力画像と第2の入力画像の画素数が同じになればよいため、画像サイズの変換により画素数変換を行う場合には、第1の入力画像と第2の入力画像とのそれぞれの画像の縦横比を共通にする必要はない。例えば、縦方向もしくは横方向のいずれか一方だけスケーリングを行うことにより画素数の変換を実現すれば、処理を簡略化することができる。
【0024】
第2ヒストグラム計算部108は第2の入力画像の第2の画素値ヒストグラム(参照ヒストグラム)を計算する。
【0025】
画像変換部103は第1の入力画像の第1のヒストグラムと第2の入力画像の第2のヒストグラムとに基づいて第1の入力画像の画素値を変更することにより、画像変換処理を行う。当該画素値の変換方法の詳細については後述する。
【0026】
ノイズ除去フィルタ104は、ノイズ除去フィルタを用いて画素値変換後の第1の入力画像からノイズを除去する。例えば、画素値が輝度である場合に、コントラスト改善処理を行うと低輝度部分にノイズが発生する場合があるが、ノイズ除去フィルタ104はこのノイズを除去するものである。ノイズ除去フィルタは一般的なものを用いればよいが、例えばバイラテラルフィルタが挙げられる。但し、当該ノイズ除去フィルタ104は本実施例の画像処理装置に必ずしも必要な構成ではないため、省略しても実用上問題ない。
【0027】
画像出力部105は上記の画素値変換処理を行った出力画像を出力する。ここで、当該出力とは、画像表示、他の機器への出力のいずれであっても構わない。
【0028】
なお、別の構成例として、画素数変換部107による画素数の変換を行わず、第2ヒストグラム計算部108において、第2の入力画像から計測したヒストグラムの頻度値を第1の入力画像の画素数と第2の入力画像の画素数との比で除算することによって、画素数変換された第2の画像のヒストグラムと同様のヒストグラムを得る構成をとすることができる。
【0029】
次に、図2を用いて本発明の実施例1に係る画像変換部103の構成の詳細の一例を示した図である。
【0030】
画像変換部103は、例えば画素値取得部201、ヒストグラム順位算出部203、第1ヒストグラムメモリ202、変換画素値決定部205、第2ヒストグラムメモリ204、画素値変換部206からなる。
【0031】
まず画素値取得部201では第1の入力画像の処理対象画素の画素値を取得する。ここで、第1ヒストグラム計算部が算出した第1のヒストグラムは第1ヒストグラムメモリ202に格納される。ヒストグラム順位算出部203は、画素値取得部201から得た画素値について、第1ヒストグラムメモリ202に格納される第1のヒストグラムにおいて、その値が画素値の大きい方からあるいは小さい方から何画素目であるかという順位情報を算出する。以下、画素値の大きい方からの順位の算出例を説明する。
【0032】
画素値の範囲が0〜255で与えられ、処理対象画素の画素値がYaである場合、当該順位情報は第1のヒストグラムの最大画素値255から画素値Ya+1までの頻度を累積することによって算出する。
【0033】
なお、画素値の小さい方からの順位を用いる場合には、最小画素値0から画素値Ya−1までの頻度を累積することによって当該順位情報を算出すればよい。
【0034】
次に、第2ヒストグラム計算部が算出した第2のヒストグラムは第2ヒストグラムメモリ204に格納されている。
【0035】
ここで、変換画素値決定部205では、与えられたヒストグラムの順位情報から画素値の変換に用いる変換画素値を決定する。例えば順位がNであった場合、第2のヒストグラムの画素値の最大値255から各画素値ごとの頻度を累積して、当該累積結果がNを超えた時の画素値を設定すべき画素値とする。例えば、第2のヒストグラムにおいて、第2のヒストグラムの画素値の最大値255から各画素値の頻度を累積し、画素値Yb+1までの頻度を累積した累積結果がN未満であって、画素値Ybまでの頻度を累積した累積結果がN以上である場合は、当該画素値Ybを変換画素値として決定する。すなわち、処理対象画素の画素値の第1のヒストグラムにおける画素順位に対応する順位の第2のヒストグラムにおける画素値を変換画素値として決定する。
【0036】
なお、画素値の小さい方からの順位を用いる場合には、最小画素値0から各画素値の頻度を累積し、累積頻度が上記当該順位情報の値を超える画素値を画素値Ybとして算出すればよい。
【0037】
画素値変換部206は、画素値取得部201から取得した第1の入力画像の処理対象画素の画素値を、変換画素値決定部205が決定した変換画素値に変更する。
【0038】
ここで、図7に上述のヒストグラム順位算出部203と変換画素値決定部205と画素値変換部206とによる処理の一例を示す。図7の例では、(1)が第1のヒストグラムの一部分、(2)が第2のヒストグラムの一部分、(3)が第1の画像の画素値変換後のヒストグラムの一部分を示している。ここで、処理対象画素の画素値はYaである。図7の例では、(1)第1のヒストグラムにおいて、第1のヒストグラムの最大画素値255から画素値Ya+1までの頻度を累積した数がNである。当該Nがヒストグラム順位であり、ヒストグラム順位算出部203がこれを算出する。次に、(2)第2のヒストグラムにおいて、最大画素値255から各画素値ごとの頻度を累積すると、当該累積結果がNを超えるのは、画素値Ybである。当該Ybが変換画素値であり、変換画素値決定部205によって算出される。ここで、画素値変換部206が処理対象画素の画素値をYaからYbへ変換する。よって、画像全体について変換処理を行えば、(3)第1の画像の画素値変換後のヒストグラムにおいて、(1)第1のヒストグラムの画素値Yaの頻度が画素値Ybの頻度として移動する。但し、(1)第1のヒストグラムの複数の画素値の頻度が、(3)第1の画像の画素値変換後のヒストグラムの同一の画素値へ移動する場合もある。この場合は、移動後の頻度は当該複数の画素値の頻度が加算された値になる。
【0039】
次に図3を用いて、本発明の実施例1に係る画像処理装置の画像処理の流れについて説明する。
【0040】
まずステップ301では、第1の入力画像を入力する。次にステップ302では、第1の入力画像についての第1のヒストグラムを計算する。
【0041】
またステップ310では、第2の入力画像を入力する。次にステップ311では、第2の入力画像の画素数を変換し、第2の入力画像の画素数を第1の入力画像の画素数に合わせる。当該画素数変換処理の詳細は、図1において説明した通りである。続いてステップ312では、画素数変換後の第2の入力画像について第2のヒストグラムを計算する。
【0042】
続いて、ステップ303では、第1の入力画像の処理対象画素の画素値を取得する。ステップ304では、当該処理対象画素の画素値と第1のヒストグラムとに基づいて当該画素値についての画素順位を算出する。当該画素順位の算出処理の詳細は、図2、図7、図8において説明した通りである。
【0043】
ステップ305では、当該画素順位と上記第2のヒストグラムから、画素値変換処理に用いる変換画素値を決定する。変換画素値の決定処理の詳細は、図2において説明した通りである。
【0044】
ステップ306では、決定された変換画素値を用いて処理対象画素の画素値を変換する。ステップ307では、第1の画像の全画素について画素値変換処理を終了したか否かを判定する。ここで、終了していなければ、次の処理対象画素についてステップ303からの処理を繰り返す。ここで、全画素について終了していれば、ステップ308以降の処理に移行する。
【0045】
ステップ308では、画素値変換された画像のノイズ除去処理を行う。ノイズ除去処理の詳細は、図1において説明した通りである。
【0046】
最後にステップ309では、上述のとおり画素値変換された画像を出力する。
【0047】
上記のような方法により、入力画像のコントラストを改善した画像を生成し出力することが可能となる。
【0048】
次に、図4、図5、図6を用いて本発明の実施例1に係る画像処理の効果を説明する。なお、図4、図5、図6の例は、いずれも輝度値を画素値として画像処理を行った例である。いずれの図も上段に画像、下段に当該画像のヒストグラムを示している。各ヒストグラムは横軸左端が画素値(輝度)の最小値0、右端が画素値(輝度)の最大値255を示し、縦軸が頻度を示している。
【0049】
まず、図4を用いて従来技術の画像処理結果を説明する。図4の(a)が原画像、(b)が従来技術の中央値調整法を用いた結果、(c)が従来技術のHyperbolization法を用いた結果、(d)が従来技術の平均化法を用いた結果である。
【0050】
図4において、(a)原画像は暗い屋内で撮影したものであるためコントラストが低く、被写体の形状を十分視認することができない画像となっている。そのヒストグラムは低輝度に偏っており、コントラストが低い。
【0051】
また、(b)中央値調整法は、入力画像のヒストグラムを画素数で中央の順位になる輝度で2つに分け、上側のヒストグラムを輝度範囲上位、即ち0〜255の範囲の場合では128〜255、下側のヒストグラムを下位0〜127に割り当てるように調整したものである。中央値調整法の結果では、ヒストグラムが輝度128を中心に分散しており、コントラストは多少改善しているが、ノイズが多く発生し、画像のディテールが失われている。
【0052】
また、(c)Hyperbolization法は、入力画像のヒストグラムを輝度の範囲全体に広がるように拡張し、さらに人間の視覚特性に合わせて輝度の高い部分、低い部分には少なめに、中央部分は多めになるように調整したものである。Hyperbolization法の結果では、ヒストグラムが比較的広い範囲に分散しており、コントラストは多少改善しているが、ノイズが発生し、高輝度部分のディテールが失われている。
【0053】
(d)平均化法は、入力画像のヒストグラムを全体的に平坦になるように、即ち0〜255の頻度がなるべく同じになるように調整したものである。平均化法の結果では、ヒストグラムが全体に分散しており、コントラストは多少改善しているが、画像では高輝度部分で白飛びが発生している。
【0054】
次に、図5を用いて本実施例の画像処理結果を説明する。図5の(a)が実施例1に係る画像処理装置に入力される第1の画像である。ここで、(a)原画像は図4の(a)原画像と同じ画像としている。図5の(e)が実施例1に係る画像処理装置に入力される第2の画像である。ここで、第2の画像は図5の(e)のヒストグラムに示されるように、第1の画像よりもコントラストが高く、より適正な露出により撮像された画像を用いることが好ましい。図5の(f)が実施例1に係る画像処理装置による画像処理結果である。
【0055】
ここで、(f)の実施例1の画像処理結果のヒストグラムは、(a)第1の画像のヒストグラムを、(e) 第2の画像のヒストグラムに近づいたものとなる。よって、本実施例に係る画像処理により、第1の画像のコントラストが向上していることがわかる。さらに、コントラストが向上とともに、図4に示す従来技術による画像処理に比較して、白とびが少なくノイズ発生も少ない結果となっている。
【0056】
<実施例1の変形例>
次に、実施例1の変形例について説明する。変形例では、図7で説明したヒストグラム順位算出部203と変換画素値決定部205と画素値変換部206とによる処理を図8に示す方法に変更したものである。
【0057】
図8において、(1)第1のヒストグラム、(2)第2のヒストグラムは、図7と同様である。よって、ヒストグラム順位算出部203と変換画素値決定部205との処理は図7と同様である。ここで、当該変形例では、画素値変換部206は、画素値変換の際に(1)第1のヒストグラムの処理対象画素の画素値Yaにおける頻度と(2)第2のヒストグラムにおける変換画素値Ybの頻度のうち画素順位Nを超える分の頻度を比較する。図8の例では、(1)第1のヒストグラムの画素値Yaにおける頻度は7であり、(2)第2のヒストグラムにおける画素値Ybにおける頻度は3、そのうち画素順位N以下の頻度は2であるので、画素順位Nを超える分の頻度は1である。ここで、画素値変換部206は、対象画像における画素値Yaを有する画素7個のうち、上記(2)第2のヒストグラムにおける変換画素値Ybにおける画素順位Nを超える分の頻度分の1個の画素の画素値のみを変換画素値Ybに変換する。当該画素の変換による(1)第1のヒストグラムから(3)第1の画像の画素値変換後のヒストグラムへの頻度の移動は、図8においては、Aと示した1つの頻度の移動として示される。
【0058】
次に、画素値変換部206は、(2)第2のヒストグラムにおける画素値Ybの全頻度の次の画素順位の画素に対応する頻度を含む画素値(図8では、画素値Yb−1)を算出し、(1)第1のヒストグラムにおける画素値Yaの画素のうちの残りの画素について、算出した画素値Yb−1に変換する。当該画素の変換による(1)第1のヒストグラムから(3)第1の画像の画素値変換後のヒストグラムへの頻度の移動は、図8においては、Bと示した2つの頻度の移動として示される。
【0059】
次に、(1)第1のヒストグラムにおいてさらに残る画素値Yaの画素についても、図8にCと示す4つの頻度の移動のように画素値Yb−2に変換する。
【0060】
すなわち、実施例1の変形例では、第1のヒストグラムにおける処理対象画素の画素順位の画素値を有する画素のうち一部の画素を、第2のヒストグラムにおける上記算出順位の画素値に変換して、第1のヒストグラムの画素値変換後のヒストグラムの各画素値の頻度を第2のヒストグラムの対応する画素値の頻度と同じにするものである。
【0061】
なお、上記の図8の変換処理の例では、(1)第1のヒストグラムと(2)第2のヒストグラムにおける頻度の比較などを主に画素値変換部206の処理として記載したが、これらの処理をヒストグラム順位算出部203と変換画素値決定部205と画素値変換部206とで協働して行ってもかまわない。
【0062】
以上説明した変形例では、(3)第1の画像の画素値変換後のヒストグラムが、(2)第2のヒストグラムの頻度と同じになるように、(1)第1のヒストグラムの処理対象の画素の画素値を変換する。これにより、第1の画像をより第2の画像に近いコントラスト特性を有する画像に変換することができる。
【0063】
図8のA、B、Cに示すように、同一画素値を有する複数の画素の画素値を、異なる画素値へ変換する場合は、画面上の同一画素値の画素を、例えばA、B、Cのように画素値変換値の異なる画素として振り分ける必要があるが、この振り分けは、例えばラスタースキャン順などで決定すればよく、また、ランダムに決定しても実用上問題はない。
【0064】
なお、実施例1に係る画像処理装置は、外部の第1のデジタル撮像装置から第1画像入力部101に第1の入力画像を入力し、外部の第2のデジタル撮像装置から第2画像入力部102に第2の入力画像を入力して画像変換処理を行う画像処理装置として構成してもよい。
【0065】
以上説明した実施例1に係る画像処理では、例えば画素値が輝度値である場合には、第1の画像のヒストグラムも、第2の画像のヒストグラムも、輝度値ヒストグラムのみを用いればよく、R、G、Bの画素値のヒストグラムをそれぞれ用いる技術に比べて簡便な構成で実現でき、低コスト化を図ることができる。
【0066】
また、実施例1に係る画像処理装置の第1画像入力部101に、光学レンズと撮像素子と撮像素子からの信号から画像信号を生成する画像信号生成部を有する撮像ユニットとを設けて、外部のデジタル撮像装置から第2画像入力部101に第2の入力画像を入力して、第1画像入力部101で撮像・生成した画像信号に画像変換処理を行ってもよい。この場合、画像処理装置はデジタル撮像装置を構成することとなる。
【0067】
ここで、外部のデジタル撮像装置からの入力画像の入力には、有線による接続のほか、無線接続または記録媒体を介した入力手段を用いてもかまわない。
【0068】
また、一般に静止画を撮影するデジタルスチルカメラの方が、露光時間の調整自由度が高く、動画を撮影するデジタルビデオカメラに比べて良好なコントラスト特性の画像を得られる。したがって、同様のシーンをデジタルビデオカメラとデジタルスチルカメラで撮影し、デジタルスチルカメラによって撮影された画像を用いてデジタルビデオカメラの画像を変換すれば、デジタルビデオカメラの画像をデジタルスチルカメラの画像と同様の良好なコントラスト特性を持つ画像に変換することができる。即ち、実施例1の画像処理装置の例では、第1の入力画像をデジタルビデオカメラの画像、第2の入力画像をデジタルスチルカメラの画像とすれば、デジタルビデオカメラの画像に対して精度の高いコントラスト改善を行うことができる。
【0069】
また、第1の入力画像と第2の入力画像に映像を入力する装置が同じ撮像装置・撮像デバイスであってもよい。この場合は、第1画像入力部101と第2画像入力部106とを一体としてもよい。
【0070】
また、図16に示すように、第1画像入力部101と第2画像入力部106とを、レンズと撮像素子などによる撮像処理により画像を撮像して生成する一体の撮像部1601として撮像装置を構成してもよい。ここで図16の構成110は、図1の構成110と同じ構成を意味している。このように、第1画像入力部101と第2画像入力部106とを一体の撮像部とした場合、当該撮像部で動画撮影として連続して画像を撮像する前に、静止画を撮影して当該静止画像を第2の画像として記憶し、その後に撮影する動画像の各フレームの画像を第1の画像として上述した画素値変換処理を行えば、リアルタイムにコントラスト調整を行うことも可能である。
【0071】
同じ撮像装置・撮像デバイスであっても、静止画像を撮影する場合には動画像の撮像よりも比較的自由に露光時間等を調節することが可能なので、動画像を撮影する時よりもコントラストの良い画像を撮影できる。
【0072】
よって、上記のような構成とし、例えば、静止画撮影の露光時間を、動画撮影の各フレームの露光時間より長くすれば、撮像フレームレートの制限により動画撮影の露光時間が不足してコントラスト特性が悪化している場合でも、コントラスト改善が可能である。
【0073】
また、例えば、ユーザーによる動画撮影指示に連動して、動画撮影開始時に上述のように静止画撮影を行えば、ユーザーは通常の動画撮影と同様の操作を行うだけで、コントラストの改善した画像を撮影することができる。
【0074】
なお、リアルタイムでの処理でなくてもよければ、上記のように連続して複数の画像を動画像(画像群)として撮像した後に露出時間を調整した静止画を撮影して、当該動画像の各画像を第1の画像、当該静止画を第2の画像としてもよい。
【0075】
すなわち、動画像に含まれる一枚の画像を第1の画像、静止画を第2の画像とする場合は、前記静止画が動画像をなす画像群とは異なる時間に撮像されたものであればよい。
【0076】
例えば、図16の構成を有する撮像装置である監視カメラにおいて、動画像の撮影前に、良好なコントラストで静止画像を撮影しておけば、照明条件が変化したとしても良好なコントラスト特性の動画像を生成することができる。
【0077】
また、例えば、図17に示すように、第1画像入力部101を主に可視光帯域の光線で撮像して画像を生成する可視光撮像部1701とし、第2画像入力部106を赤外線などの可視光外帯域の光線で撮像して画像を生成する可視光外撮像部または、各種センサによる計測結果によりサーモカメラ画像、距離画像、マルチスペクトル画像を生成するセンサ部である可視光外撮像部・各種センサ部1702として構成してもよい。この場合は、例えば、第1の画像である可視光帯域画像の画素値(輝度)のコントラスト特性が悪い場合であっても、第2の画像である上記赤外線画像等の画素値ヒストグラムに基づいて、上記可視光帯域画像のコントラスト特性を改善することができる。これにより、可視光帯域の照明条件が変化してもコントラストの維持が容易になる。
【0078】
なお上記の処理において、第1の入力画像と第2の入力画像は、それぞれ動画の中の一つの画像、静止画像のいずれも用いることができる。例えば、第2の入力画像を静止画像とし第1の入力画像を動画の各画像として、第2の入力画像の1枚の静止画像のヒストグラムを用いた画素値変換処理を適用してもよい。また、入力画像の両方を動画とし、互いの各フレームを同期させて、一方のフレームを第1の入力画像、他方のフレームを第2の入力画像としてもよい。
【0079】
以上説明した本発明の実施例1に係る画像処理装置及び画像処理方法によれば、より好適に画像のコントラストを調整することができる。
【実施例2】
【0080】
本発明の実施例2に係る画像処理装置及び画像処理方法は、実施例1に示す画像処理装置及び画像処理方法のうち、第2の画像の入力から第2ヒストグラムの計算までの処理を省略し、その代わりに、予め第2ヒストグラムメモリに参照ヒストグラムとなるモデルヒストグラム情報を記憶する。ここでモデルヒストグラムとは、ヒストグラムの元となる画像がなく、画素値ごとの頻度データの集合である。すなわち、各画素値についての頻度を予め設定したヒストグラムである。そしてこのモデルヒストグラム情報を、実施例1における第2のヒストグラムとして用いるものである。モデルヒストグラム情報は、予めより適切なコントラスト特性と考えられるヒストグラムを設定しておけばよい。
【0081】
すなわち、実施例2に係る画像処理装置は、図1の画像処理装置から第2画像入力部106、画素数変換部107、第2ヒストグラム計算部108をなくし、第2ヒストグラムメモリに参照ヒストグラムとなるモデルヒストグラム情報を記憶させる構成とする。その他の構成・動作は、図1の画像処理装置と同様であるので説明を省略する。
【0082】
また、実施例2に係る画像処理装置に画像処理の流れも、同様に図3の流れからステップ310、311、312を省略し、予め第2ヒストグラムメモリに記憶されるモデルヒストグラム情報を第2のヒストグラムとしてステップ305で用いればよく、その他のステップの動作については図3と同様であるため、説明を省略する。
【0083】
実施例2に係る画像処理装置及び画像処理方法による画像処理の結果を図6を用いて説明する。図6の(a)は実施例2の入力画像であり、実施例1の第1の画像と同様の画像である。図5の(h)が、第2ヒストグラムメモリに記憶されるモデルヒストグラムであり、画像自体は記憶する必要はなく、ヒストグラム情報のみを記憶する。図6では、モデルヒストグラムとしてガウス分布であるガウスヒストグラムの例を示している。図6の(i)が実施例2に係る画像処理装置による画像処理結果であり、図6の(j)が実施例1と同様にヒストグラム順位算出部203と変換画素値決定部205と画素値変換部206の処理を図8に示す処理に変更した変形例の結果である。
【0084】
実施例2に係る画像処理装置の画画像処理結果である図6の(i)(j)ともに、入力画像のコントラストを好適に調整した画像を得ることができる。
【0085】
したがって、以上説明した本発明の実施例2に係る画像処理装置及び画像処理方法によれば、より好適に画像のコントラストを調整することができる。
【0086】
また、実施例1から第2の入力画像の入力を省略しているため、適切なコントラスト特性を有する画像を用意する必要はなく、予め設定しておいた適切なコントラスト特性を持つヒストグラムを画像変換処理の参照ヒストグラムとすることができるため、より均質なコントラスト調整処理を行うことができる。また、より簡略な構成とすることが可能となり、低コスト化が可能となる。
【実施例3】
【0087】
本発明の実施例3に係る画像符号化装置、画像復号化装置、画像符号化方法、画像復号化方法は、実施例1または実施例2に示す画素値変換を、符号化側もしくは復号化側で行うものである。
【0088】
図9に本発明の本発明の実施例3に係る画像符号化装置のブロック図の一例を示す。
【0089】
画像符号化装置は、例えば第1画像入力部901、第2画像・モデルヒストグラム入力部902、コントラスト調整・伝送ヒストグラムデータ生成部903、画像予測部904、変換・量子化部905、逆量子化・逆変換部906、復号画像メモリ907、符号出力部908を有する。以下に画像符号化装置の各構成要素の動作を詳細に説明する。
【0090】
まず第1画像入力部901は符号化対象画像である、第1の入力画像を入力する。第1の入力画像は動画の中の一つの画像でも静止画像でもよいが以下では第1の入力画像を動画の中の一つの画像として説明する。第2画像・モデルヒストグラム入力部902は第2の入力画像もしくはモデルヒストグラム情報を入力する。第2の入力画像は動画の中の一つの画像でも静止画像でもよいが以下では第2の入力画像を静止画像として説明する。コントラスト調整・伝送ヒストグラムデータ生成部903は、第2の入力画像・モデルヒストグラム入力部902から入力された第2の入力画像もしくはモデルヒストグラム情報を用いて、第1画像入力部901から入力された第1の入力画像の画素値を変換してコントラスト調整を行う。
【0091】
ここで、第2の入力画像・モデルヒストグラム入力部902から第2の入力画像が入力される場合には、コントラスト調整・伝送ヒストグラムデータ生成部903は、図1の枠110に示す構成、すなわち第1ヒストグラム計算部102、画像変換部103、画素数変換部107、第2ヒストグラム計算部108を有する構成とすればよい。このように構成すれば、2つの入力画像のヒストグラムを計算し、これに基づいて第1の入力画像の画素値を変換することが可能となる。これらの各構成部の構成・動作は実施例1と同様であるため、説明を省略する。
【0092】
また、第2の入力画像・モデルヒストグラム入力部902からモデルヒストグラムが入力される場合には、コントラスト調整・伝送ヒストグラムデータ生成部903は、図1の枠109に示す構成、すなわち第1ヒストグラム計算部102、画像変換部103を有する構成とすればよい。このように構成すれば、第1の入力画像のヒストグラムを計算し、算出した第1の入力画像のヒストグラムと、第1の入力画像のヒストグラムとは異なるモデルヒストグラムとに基づいて、第1の入力画像の画素値を変換することが可能となる。これらの各構成部の構成・動作は実施例1と同様であるため、説明を省略する。なお、モデルヒストグラムは、第2の入力画像・モデルヒストグラム入力部902が入力せずに、コントラスト調整・伝送ヒストグラムデータ生成部903が予め保持しておいてもよい。すなわち、外部からの入力することまたは予め保持しておくことなどにより、コントラスト調整・伝送ヒストグラムデータ生成部903がモデルヒストグラムを取得できればよい。
【0093】
コントラスト調整・伝送ヒストグラムデータ生成部903では、さらに、復号化側でのコントラスト調整に用いる伝送ヒストグラムデータを生成する。当該伝送ヒストグラムデータは、後述する符号出力部908を介して符号化ストリームに含められて復号側に伝送される。
【0094】
当該伝送ヒストグラムデータは、第2の入力画像から算出したヒストグラム情報や、モデルヒストグラム情報などである。また、これに限られず、第1の入力画像から算出したヒストグラム情報でもよい。
【0095】
また、例えば、コントラスト調整・伝送ヒストグラムデータ生成部903に記憶部を設けておき、予め記憶しておいたモデルヒストグラム情報を伝送ヒストグラムデータとしてもよい。
【0096】
また、ヒストグラムの数値はそのまま伝送ヒストグラムデータとしてもよいが、FFT(Fast Fourier Transform:高速フーリエ変換)やDFT、DCT(Discrete Cosine Transform:離散コサイン変換)あるいはPCM(pulse code modulation:パルス符号変調)、DPCM(differential pulse-code modulation:差分パルス符号変調)等を用いて変換してその係数を伝送ヒストグラムデータとしてもよい。
【0097】
また、符号化側と復号化側とでそれぞれ複数のモデルヒストグラムと、それぞれのモデルヒストグラムと対応する識別番号とを記憶しておき、画像符号化装置のコントラスト調整・伝送ヒストグラムデータ生成部903では、一つのモデルヒストグラムの識別番号を指定し、当該指定番号情報を伝送ヒストグラムデータとし、モデルヒストグラム自体は伝送しないように構成してもよい。この場合、復号化側は、符号化ストリームから指定番号情報さえ取得できれば、コントラスト調整に用いるモデルヒストグラムを予め記憶しているヒストグラムから選択して使用することが可能となる。これにより、伝送データ量を低減することができる。
【0098】
さらに、第2の入力画像自体を伝送ヒストグラムデータとしてもかまわない。
【0099】
なお、コントラスト調整・伝送ヒストグラムデータ生成部903は、コントラスト調整を行わずに、伝送ヒストグラムデータの生成のみを行ってもよい。この場合は、符号化側ではコントラスト調整を行わず、復号側で行うコントラスト調整に用いるヒストグラムを符号化側で指定することが可能となる。
【0100】
コントラスト調整・伝送ヒストグラムデータ生成部903は、以上説明した伝送ヒストグラムデータを符号出力部908に送る
コントラスト調整・伝送ヒストグラムデータ生成部903において、コントラスト調整がされた第1の入力画像は以下の処理により符号化される。まず、画像予測部904が、当該コントラスト調整後の画像について、画面内予測処理または画面間予測処理により予測画像を生成し、第1の入力画像と予測画像の差分を計算して差分情報を生成する。変換・量子化部905は差分情報の周波数変換と係数の量子化を行う。逆量子化・逆変換部906は係数の逆量子化と逆周波数変換を行い、これに予測情報を加えることによって上述の予測処理に用いるための復号画像を作成する。復号画像メモリ907は復号画像を格納する。符号出力部908は、上記の符号化処理により符号化された第1の入力画像の符号化画像情報と、コントラスト調整・伝送ヒストグラムデータ生成部903から送られた伝送ヒストグラムデータとを含む符号化ストリームを生成・出力する。
【0101】
以上説明した本発明の実施例3に係る画像符号化装置によれば、入力画像のコントラストを調整して符号化すること、または、復号側でコントラスト調整を行うための情報を符号化ストリームに含めて出力することが可能となる。
【0102】
次に、図10に本発明の実施例3に係るに係る画像復号化装置のブロック図の一例を示す。
【0103】
画像復号化装置は、例えばストリーム解析部1001、画像予測部1002、逆量子化・逆変換部1003、復号画像メモリ1004、コントラスト調整部1005、画像出力部1006とを有する。以下に画像復号化装置の各構成要素の動作を詳細に説明する。
【0104】
まずストリーム解析部1001には符号化画像データと伝送ヒストグラムデータとが含まれる符号化ストリームが、符号化側から伝送路や記録媒体などを介して入力される。ストリーム解析部1001は、当該符号化ストリームから伝送ヒストグラムデータを分離し、伝送ヒストグラムデータをコントラスト調整部1005に送り、符号化画像情報を画像予測部1002及び逆量子化・逆変換部1003に送る。
【0105】
画像予測部1002は復号画像メモリ1004の復号画像を用いて画面内予測または画面間予測を行い、符号化画像情報についての予測画像を生成する。逆量子化・逆変換部1003は符号化画像情報に含まれる差分情報の係数に対して符号化側の処理の逆処理である逆量子化処理、逆周波数変換処理を行って差分情報を生成し、これを予測画像と加算して復号画像を作成する。復号画像メモリ1004は復号画像を格納する。
【0106】
コントラスト調整部1005は伝送ヒストグラムデータを用いて、復号画像のコントラスト調整を行う。
【0107】
ここで、伝送ヒストグラムデータが、ヒストグラムの数値を含むヒストグラム情報自体である場合は、コントラスト調整部1005は、図1の枠109に示す構成、すなわち第1ヒストグラム計算部102、画像変換部103を有する構成とすればよい。このように構成すれば、復号画像のヒストグラムを第1ヒストグラム計算部102において計算して図2の第1ヒストグラムメモリ203に記憶し、伝送ヒストグラムデータのヒストグラムを図2の第2ヒストグラムメモリ205に記憶し、これらのヒストグラムを用いることにより、復号画像の画素値を変換することが可能となる。これらの各構成部の構成・動作は実施例1と同様であるため、説明を省略する。なお、伝送ヒストグラムデータが、ヒストグラムの数値をFFTやDFT、DCTあるいはPCM、DPCM等を用いて変換した係数である場合には、第2ヒストグラムメモリ205に記憶する前に、これらの変換の逆変換部を設けてヒストグラムの数値を再生すればよい。
【0108】
また、伝送ヒストグラムデータが、ヒストグラムの指定番号情報である場合には、予め第2ヒストグラムメモリ205に複数のモデルヒストグラムとそれぞれのモデルヒストグラムに対応する対応番号を記憶しておき、伝送される指定番号情報により指定されるモデルヒストグラムをコントラスト調整に用いればよい。
【0109】
また、伝送ヒストグラムデータが、画像自体である場合は、コントラスト調整部1005は、図1の枠110に示す構成、すなわち第1ヒストグラム計算部102、画像変換部103、画素数変換部107、第2ヒストグラム計算部108を有する構成とすればよい。このように構成すれば、復号画像のヒストグラムを第1ヒストグラム計算部102において計算して図2の第1ヒストグラムメモリ203に記憶し、伝送ヒストグラムデータの画像を画素数変換部107で画素数変換し、第2ヒストグラム計算部108でヒストグラムを計算して図2の第2ヒストグラムメモリ205に記憶し、これらのヒストグラムを用いて、復号画像の画素値を変換することが可能となる。これらの各構成部の構成・動作は実施例1と同様であるため、説明を省略する。
【0110】
画像出力部1006はコントラスト調整された出力画像を出力する。
【0111】
以上説明した本発明の実施例3に係る画像復号化装置によれば、符号化ストリームから復号画像を復号して、符号化側の意図したコントラストを調整を行うことが可能となる。
【0112】
次に、図11から図15を用いて、実施例3の画像符号化装置及び画像復号化装置の画像符号化・復号化処理の具体例を説明する。
【0113】
<第1の画像符号化・復号化処理の例>
まず、図11に第1の画像符号化・復号化処理の例を示す。図11においては、左側に符号化装置での符号化処理、右側に復号化装置での復号化処理を示す。(a)(b)(c)(d)は、いずれも画像もしくはモデルヒストグラムのヒストグラム図である。(a)は画像符号化装置の第1画像入力部901から入力される第1の入力画像のヒストグラム、(b)は画像符号化装置の第2画像・モデルヒストグラム入力部902から入力される第2の入力画像のヒストグラムまたはモデルヒストグラム、(c)は画像符号化装置により符号化されて伝送される伝送符号化画像のヒストグラム、(d)は画像復号化装置が生成する出力画像のヒストグラムである。
【0114】
第1の画像符号化・復号化処理の例では、画像符号化装置において(a)第1の入力画像はコントラスト調整・伝送ヒストグラムデータ生成部903でコントラストされずにそのまま(c)伝送符号化画像として符号化され伝送される。(b)第2の入力画像のヒストグラムまたはモデルヒストグラムは、伝送ヒストグラムデータとして符号化ストリームに伝送される。
【0115】
画像復号化装置では、(c)伝送符号化画像を復号化し、伝送ヒストグラムデータを用いて画素値変換処理を行い、当該画素値変換処理によりコントラスト調整を行う。図11の例では、画像復号化装置における画素値変換処理の例は、図5(f)に示す画素値変換処理である。
【0116】
以上説明した第1の画像符号化・復号化処理によれば、符号化側が意図したコントラスト調整を復号側でおこなうことが可能となる。(b)第2の入力画像のヒストグラムまたはモデルヒストグラムに(a)第1の入力画像のヒストグラムよりもコントラストが良好なものを用いれば、符号化側が意図したコントラスト改善処理を復号側でおこなうことが可能となる。
【0117】
<第2の画像符号化・復号化処理の例>
次に、図12に第2の画像符号化・復号化処理の例を示す。第2の画像符号化・復号化処理の例では、第1の画像符号化・復号化処理の例と異なり、画像復号化装置が予め(b1)モデルヒストグラム1と(b2)モデルヒストグラム2をヒストグラムメモリに保持している。
【0118】
第2の画像符号化・復号化処理の例では、画像符号化装置は、それぞれのモデルヒストグラムに対応付けられた番号を指定し、伝送ヒストグラムデータとしてヒストグラム指定番号情報を伝送する。画像符号化装置は、予め(b1)モデルヒストグラム1と(b2)モデルヒストグラム2をヒストグラムメモリに保持しておいてもよいが、必ずしも必要ではなく、復号化側で保持するヒストグラムに対応付けられた番号のみを保持しておいて、用いてもよい。
【0119】
画像復号化装置では、伝送されたヒストグラム指定番号情報を用いて符号化側で指定したヒストグラムを特定し、復号画像の画素値変換処理に用いることが可能となる。図12の例では、(b1)モデルヒストグラム1が選択されており、画像復号化装置における画素値変換処理の例は、図5(f)に示す画素値変換処理である。
【0120】
その他の各処理は、第1の画像符号化・復号化処理と同様であるので説明を省略する。
【0121】
以上説明した第2の画像符号化・復号化処理によれば、伝送ヒストグラムデータをヒストグラムデータ自体にとし、よりデータ量の小さいヒストグラム指定番号情報とすることにより、第1の画像符号化・復号化処理の例と同様の効果に加えて、伝送データ量を低減することが可能となる。
【0122】
<第3の画像符号化・復号化処理の例>
次に、図13に第3の画像符号化・復号化処理の例を示す。第3の画像符号化・復号化処理の例では、画像符号化装置では、(a)第1の入力画像を(b)第2の入力画像のヒストグラムまたはモデルヒストグラムを用いて画素値変換してコントラスト調整し、コントラスト調整後の画像を(c)伝送符号化画像として符号化して伝送する。第3の画像符号化・復号化処理の例では、ヒストグラムデータは伝送しない。画像復号化装置では、符号化ストリームを復号して符号化装置においてコントラスト調整済みの復号画像を生成・出力する。
【0123】
すなわち、第3の画像符号化・復号化処理によれば、入力画像をコントラスト調整して伝送することができる。(b)第2の入力画像のヒストグラムまたはモデルヒストグラムに(a)第1の入力画像のヒストグラムよりもコントラストが良好なものを用いれば、符号化側でコントラスト改善処理をおこなった後に符号化して伝送することが可能となる。
【0124】
<第4の画像符号化・復号化処理の例>
次に、図14に第4の画像符号化・復号化処理の例を示す。第4の画像符号化・復号化処理の例では、まず、第3の画像符号化・復号化処理の例と同様に、画像符号化装置において(b)第2の入力画像のヒストグラムまたはモデルヒストグラムを用いて(a)第1の入力画像の画素値を変換してコントラスト調整を行い、コントラスト調整後の画像を(c)伝送符号化画像として符号化して伝送する。
【0125】
ここで、画像符号化装置は、(a)第1の画像のヒストグラムを伝送ヒストグラムデータとして(c)伝送符号化画像とともに伝送する。
【0126】
画像復号化装置では、(c)伝送符号化画像を復号し、伝送ヒストグラムデータを用いて画素値変換処理を行ってコントラスト調整を行う。ここで、伝送ヒストグラムデータは、(a)第1の画像のヒストグラムであるので、画像復号化装置の画素値変換処理後の出力画像は、(c)伝送符号化画像のコントラスト特性よりも、(a)第1の画像のコントラスト特性に近づけることができる。
【0127】
例えば、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムとして、(a)第1の入力画像よりも、符号化した場合の画像のデータ量が小さくなるコントラスト特性のヒストグラムを用いれば、画像符号化装置の画素値変換により、(c)伝送符号化画像のコントラスト特性を(b)第2の入力画像のヒストグラムまたはモデルヒストグラムのコントラスト特性に近づけることにより、(c)伝送符号化画像の符号化データ量を小さくすることができ、符号化効率を改善することが可能となる。ここで、(c)伝送符号化画像のコントラスト特性は、画像復号化装置の画素値変換処理により、再び(a)第1の画像のコントラスト特性に戻るように近づけることが可能となるため、画質の変化を抑えることができる。
【0128】
すなわち、第4の画像符号化・復号化処理の例では、従来方式と比べて高い画質の画像を低ビットレートで伝送することが可能となる。
【0129】
なお、図14の例では、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムとして、(a)第1の画像のヒストグラムよりも、ヒストグラムの分布における画素値の最大が小さくより頻度の分散が小さいヒストグラムを用いている。これにより、符号化画像データ量を低減することが可能となる。
【0130】
また、図14の例では、説明の簡略化のため、画像符号化装置の画素値変換処理は図8(実施例1の変形例)で示した画素値変換処理を用いた例を示している。よって、(c)伝送符号化画像のヒストグラムは、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムと同じヒストグラムに変換されている。画像復号化装置の画素値変換処理も同様である。しかし、図14の例において、画像符号化装置の画素値変換処理、画像復号化装置の画素値変換処理のいずれも、図7(実施例1)の画素値変換処理を用いても実用上問題ない。
【0131】
以上説明した第4の画像符号化・復号化処理によれば、より符号化効率の高い画像符号化・復号化処理を実現することが可能となる。
【0132】
<第5の画像符号化・復号化処理の例>
次に、図15に第5の画像符号化・復号化処理の例を示す。第5の画像符号化・復号化処理の例では、第1から第4の画像符号化・復号化処理の例とは異なり、画像符号化装置の画素値変換処理において、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムを用いない。
【0133】
第5の画像符号化・復号化処理では、例えば、図9の画像符号化装置のコントラスト調整・伝送ヒストグラムデータ生成部903において、(a)第1の入力画像の画素値を所定の演算処理により変換して、(a)第1の入力画像を、符号化データ量が小さくなるコントラスト特性に変換する。例えば、(a)第1の入力画像の各画素値に1/2を乗じて、少数画素値となった画素値は四捨五入または切り上げ、切り下げなどにより整数画素値とする。これにより、ヒストグラムの最大画素値を元の(a)第1の入力画像よりも1/2とすることができ、より頻度の分散の小さい画像を生成し、(c)伝送符号化画像とすることができる。これにより、符号化データ量を低減することが可能となる。
【0134】
また、画像符号化装置では、第4の画像符号化・復号化処理の例と同様に、(a)第1の入力画像のヒストグラムを伝送ヒストグラムデータとして復号側に伝送する。
【0135】
画像復号化装置では、(c)伝送符号化画像を復号化し、伝送ヒストグラムデータを用いて画素値変換することによりコントラスト調整を行い、復号画像のコントラスト特性を(a)第1の入力画像に近づける。
【0136】
また、図15の例では、説明の簡略化のため、画像復号化装置の画素値変換は図8(実施例1の変形例)で示した画素値変換処理を用いた例を示している。よって、(d)出力画像のヒストグラムは、(a)第1の入力画像と同じヒストグラムに変換されている。しかし、図15の例の画像復号化装置の画素値変換処理において、図7(実施例1)の画素値変換処理を用いても実用上問題ない。
【0137】
第5の画像符号化・復号化処理によれば、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムを用いずに、第4の画像符号化・復号化処理と同様の高符号化効率化を実現することが可能となる。
【0138】
以上説明した本発明の実施例3に係る画像符号化装置、画像復号化装置、画像符号化方法、画像復号化方法によれば、符号化側が意図したコントラスト改善処理を復号側でおこなう画像符号化・復号化処理、または、よりコントラストが改善した画像を伝送する画像符号化・復号化処理、より符号化効率の高い画像符号化・復号化処理を実現することが可能となる。
【0139】
すなわち、より好適な画像符号化・復号化処理を実現することが可能となる。
【0140】
なお、以上説明した各実施例、変形例、処理例のいずれを組み合わせても、本発明の一実施の形態となりうる。
【図面の簡単な説明】
【0141】
【図1】本発明の一実施例に係る画像処理装置の一例の説明図である。
【図2】本発明の一実施例に係る画像処理装置の画像変換部の説明図である。
【図3】本発明の一実施例に係る画像処理の流れの一例の説明図である。
【図4】従来技術による画像処理結果の説明図である。
【図5】本発明の一実施例に係る画像処理結果の説明図である。
【図6】本発明の一実施例に係る画像処理結果の説明図である。
【図7】本発明の一実施例に係る画素値変換処理の説明図である。
【図8】本発明の一実施例に係る画素値変換処理の説明図である。
【図9】本発明の一実施例に係る画像符号化装置の一例の説明図である。
【図10】本発明の一実施例に係る画像復号化装置の一例の説明図である。
【図11】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図12】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図13】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図14】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図15】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図16】本発明の一実施例に係る撮像装置の一例の説明図である。
【図17】本発明の一実施例に係る撮像装置の一例の説明図である。
【符号の説明】
【0142】
101…第1画像入力部、102…第1ヒストグラム計算部、103…画像変換部、104…ノイズ除去フィルタ、105…画像出力部、106…第2画像入力部、107…画素数変換部、108…第2ヒストグラム計算部、201…画素値取得部、202…第1ヒストグラムメモリ、203…ヒストグラム順位算出部、204…第2ヒストグラムメモリ、205…ヒストグラム画素値取得部、206…画素値変換部、901…第1画像入力部、902…第2画像入力部、903…コントラスト調整・伝送ヒストグラムデータ生成部、904…画像予測部、905…変換・量子化部、906…逆量子化・逆変換部、907…復号画像メモリ、908…符号出力部、1001…ストリーム解析部、1002…画像予測部、1003…逆量子化・逆変換部、1004…復号画像メモリ、1005…コントラスト調整部、1006…画像出力部、1601…撮像部、1701…可視光撮像部、1702…可視光外撮像部・各種センサ部
【技術分野】
【0001】
本発明は画像処理を行う画像処理技術、画像符号化技術、画像復号化技術に関する。
【背景技術】
【0002】
画像をデジタルデータ化して記録する装置としてデジタルビデオカメラ、デジタルスチルカメラがある。以下これらをデジタル撮像装置と呼ぶ。デジタル撮像装置はCCDやCMOSと呼ばれるデバイスによって光学的な情報をデジタル情報として取得し媒体に記録する。
【0003】
ここで、デジタルカメラが記録可能な明るさの範囲をダイナミックレンジと呼ぶ。ダイナミックレンジの大きさはデジタルカメラの使用するCCDやCMOSの性能や、それぞれの機種の画像処理能力に依存する。
【0004】
ここで、デジタル撮像装置のダイナミックレンジの幅が大きい場合は、暗い撮影場所でもコントラストの高い画像を撮影することができるが、ダイナミックレンジの幅が小さい場合や、十分な露光時間を確保することができない場合などは、暗い撮影場所においてコントラストの高い画像を撮影することができず、被写体を良好に視認できないコントラスト特性の良好でない画像が記録されてしまう場合があった。
【0005】
このような画像に対して、コントラスト調整を行う方法としては、中央値調整法、Hyperbolization法、平均化法などの技術がある。
【0006】
また、画像のヒストグラムを用いてコントラストを調整する技術が例えば、特許文献1に開示されている。
【0007】
【特許文献1】特開平11−250222
【発明の開示】
【発明が解決しようとする課題】
【0008】
ここで、従来の中央値調整法、Hyperbolization法、平均化法などで画像処理技術でコントラスト調整を行うと、白とびの発生やノイズが発生し、適切なコントラスト調整ができないという課題があった。
【0009】
また、特許文献1の図4に開示される技術では、処理対象画像と異なる第2の画像のR,G、B成分のヒストグラム成分を用いるため、コントラスト特性だけでなく色調まで変化してしまうという課題があった。
【0010】
また、特許文献1に図8、図11、図12に開示される技術では、変換後の画像の高画素値部分や低画素値部分の画素値の階調が十分でないという課題があった。
【0011】
本発明は上記課題を鑑みてなされたものであり、本発明の目的は、より好適に画像のコントラスト調整を行うことにある。
【課題を解決するための手段】
【0012】
上記目的を達成するために、本発明の一実施の態様は、例えば、画像を入力し、入力された入力画像の画素値ヒストグラムを第1のヒストグラムとして算出し、入力画像における画像処理対象画素の画素値の第1のヒストグラムにおける画素値の大きさの順位を算出する順位算出処理と、画像処理対象画素の画素値を、第1のヒストグラムとは異なる画素値ヒストグラムである第2のヒストグラムにおける上記算出順位の画素値に変更する画像変換処理とを行い、画像変換処理された画像を出力する。
【発明の効果】
【0013】
本発明によれば、より好適に画像のコントラスト調整を行うことができる。
【発明を実施するための最良の形態】
【0014】
以下、本発明の実施例を、図面を参照して説明する。
【0015】
また、各図面において、同一の符号が付されている構成要素は同一の機能を有すること
とする。
【実施例1】
【0016】
まず、本発明の実施例1について図面を参照して説明する。
【0017】
また実施例では、処理対象である入力信号の画素値は輝度とするが、これに限らず入力画像信号がRGB信号である場合など、R信号、G信号、B信号のなど、各色の信号値など、画素ごとに与えられる値であれば、他の要素を用いても構わない。 図1に本発明の実施例1に係る画像処理装置のブロック図の一例を示す。
【0018】
画像処理装置は、例えば第1画像入力部101、第1ヒストグラム計算部102、画像変換部103、ノイズ除去フィルタ104、画像出力部105、第2画像入力部106、画素数変換部107、第2ヒストグラム計算部108とを備える。以下に画像処理装置の各構成要素の動作を詳細に説明する。
【0019】
なお、画像処理装置の各構成要素の動作は、例えば、以下の記載の通り各構成要素の自律的な動作としても良い。また、例えばソフトウェアと協働することにより実現しても構わない。
【0020】
まず第1画像入力部101は第1の入力画像を入力する。第1の入力画像が、本実施例の画像処理装置が画像処理を行う対象画像となる。第1の入力画像は動画の中の一つの画像でも静止画像でもよいが、以下では第1の入力画像を動画の中の一つの画像として説明する。
【0021】
第1ヒストグラム計算部102は、第1の入力画像の第1の画素値ヒストグラム(対象ヒストグラム)を計算する。画素値ヒストグラムとは画像内における画素値(例えば、輝度)の出現頻度を画素値ごとに計測した分布である。すなわち、画像内における同一画素値を有する画素数を各画素値ごとに算出した分布である。
【0022】
第2画像入力部106は第2の入力画像を入力する。第2の入力画像は動画の中の一つの画像でも静止画像でもよいが、以下では第2の入力画像を静止画像として説明する。第2の入力画像は、本実施例の画像処理装置が画像処理をおこなうときに参照する参照画像となる。
【0023】
画素数変換部107は第2の入力画像の画素数を第1の入力画像と同じ画素数に変換する。これは後述する画像変換部103でのヒストグラムの比較を簡単に行うために、両者の画素の数を同じにするための処理である。ここでは第2の入力画像の画素数を変換したが、第1の入力画像の画素数を変換しても、両方を変換しても構わない。当該画素数変換では、一般的なスケーリングによる画像サイズ(縦画素数、横画素数)の変換を行うことにより画素数変換を行ってもよい。当該画素数変換は、第1の入力画像と第2の入力画像の画素数が同じになればよいため、画像サイズの変換により画素数変換を行う場合には、第1の入力画像と第2の入力画像とのそれぞれの画像の縦横比を共通にする必要はない。例えば、縦方向もしくは横方向のいずれか一方だけスケーリングを行うことにより画素数の変換を実現すれば、処理を簡略化することができる。
【0024】
第2ヒストグラム計算部108は第2の入力画像の第2の画素値ヒストグラム(参照ヒストグラム)を計算する。
【0025】
画像変換部103は第1の入力画像の第1のヒストグラムと第2の入力画像の第2のヒストグラムとに基づいて第1の入力画像の画素値を変更することにより、画像変換処理を行う。当該画素値の変換方法の詳細については後述する。
【0026】
ノイズ除去フィルタ104は、ノイズ除去フィルタを用いて画素値変換後の第1の入力画像からノイズを除去する。例えば、画素値が輝度である場合に、コントラスト改善処理を行うと低輝度部分にノイズが発生する場合があるが、ノイズ除去フィルタ104はこのノイズを除去するものである。ノイズ除去フィルタは一般的なものを用いればよいが、例えばバイラテラルフィルタが挙げられる。但し、当該ノイズ除去フィルタ104は本実施例の画像処理装置に必ずしも必要な構成ではないため、省略しても実用上問題ない。
【0027】
画像出力部105は上記の画素値変換処理を行った出力画像を出力する。ここで、当該出力とは、画像表示、他の機器への出力のいずれであっても構わない。
【0028】
なお、別の構成例として、画素数変換部107による画素数の変換を行わず、第2ヒストグラム計算部108において、第2の入力画像から計測したヒストグラムの頻度値を第1の入力画像の画素数と第2の入力画像の画素数との比で除算することによって、画素数変換された第2の画像のヒストグラムと同様のヒストグラムを得る構成をとすることができる。
【0029】
次に、図2を用いて本発明の実施例1に係る画像変換部103の構成の詳細の一例を示した図である。
【0030】
画像変換部103は、例えば画素値取得部201、ヒストグラム順位算出部203、第1ヒストグラムメモリ202、変換画素値決定部205、第2ヒストグラムメモリ204、画素値変換部206からなる。
【0031】
まず画素値取得部201では第1の入力画像の処理対象画素の画素値を取得する。ここで、第1ヒストグラム計算部が算出した第1のヒストグラムは第1ヒストグラムメモリ202に格納される。ヒストグラム順位算出部203は、画素値取得部201から得た画素値について、第1ヒストグラムメモリ202に格納される第1のヒストグラムにおいて、その値が画素値の大きい方からあるいは小さい方から何画素目であるかという順位情報を算出する。以下、画素値の大きい方からの順位の算出例を説明する。
【0032】
画素値の範囲が0〜255で与えられ、処理対象画素の画素値がYaである場合、当該順位情報は第1のヒストグラムの最大画素値255から画素値Ya+1までの頻度を累積することによって算出する。
【0033】
なお、画素値の小さい方からの順位を用いる場合には、最小画素値0から画素値Ya−1までの頻度を累積することによって当該順位情報を算出すればよい。
【0034】
次に、第2ヒストグラム計算部が算出した第2のヒストグラムは第2ヒストグラムメモリ204に格納されている。
【0035】
ここで、変換画素値決定部205では、与えられたヒストグラムの順位情報から画素値の変換に用いる変換画素値を決定する。例えば順位がNであった場合、第2のヒストグラムの画素値の最大値255から各画素値ごとの頻度を累積して、当該累積結果がNを超えた時の画素値を設定すべき画素値とする。例えば、第2のヒストグラムにおいて、第2のヒストグラムの画素値の最大値255から各画素値の頻度を累積し、画素値Yb+1までの頻度を累積した累積結果がN未満であって、画素値Ybまでの頻度を累積した累積結果がN以上である場合は、当該画素値Ybを変換画素値として決定する。すなわち、処理対象画素の画素値の第1のヒストグラムにおける画素順位に対応する順位の第2のヒストグラムにおける画素値を変換画素値として決定する。
【0036】
なお、画素値の小さい方からの順位を用いる場合には、最小画素値0から各画素値の頻度を累積し、累積頻度が上記当該順位情報の値を超える画素値を画素値Ybとして算出すればよい。
【0037】
画素値変換部206は、画素値取得部201から取得した第1の入力画像の処理対象画素の画素値を、変換画素値決定部205が決定した変換画素値に変更する。
【0038】
ここで、図7に上述のヒストグラム順位算出部203と変換画素値決定部205と画素値変換部206とによる処理の一例を示す。図7の例では、(1)が第1のヒストグラムの一部分、(2)が第2のヒストグラムの一部分、(3)が第1の画像の画素値変換後のヒストグラムの一部分を示している。ここで、処理対象画素の画素値はYaである。図7の例では、(1)第1のヒストグラムにおいて、第1のヒストグラムの最大画素値255から画素値Ya+1までの頻度を累積した数がNである。当該Nがヒストグラム順位であり、ヒストグラム順位算出部203がこれを算出する。次に、(2)第2のヒストグラムにおいて、最大画素値255から各画素値ごとの頻度を累積すると、当該累積結果がNを超えるのは、画素値Ybである。当該Ybが変換画素値であり、変換画素値決定部205によって算出される。ここで、画素値変換部206が処理対象画素の画素値をYaからYbへ変換する。よって、画像全体について変換処理を行えば、(3)第1の画像の画素値変換後のヒストグラムにおいて、(1)第1のヒストグラムの画素値Yaの頻度が画素値Ybの頻度として移動する。但し、(1)第1のヒストグラムの複数の画素値の頻度が、(3)第1の画像の画素値変換後のヒストグラムの同一の画素値へ移動する場合もある。この場合は、移動後の頻度は当該複数の画素値の頻度が加算された値になる。
【0039】
次に図3を用いて、本発明の実施例1に係る画像処理装置の画像処理の流れについて説明する。
【0040】
まずステップ301では、第1の入力画像を入力する。次にステップ302では、第1の入力画像についての第1のヒストグラムを計算する。
【0041】
またステップ310では、第2の入力画像を入力する。次にステップ311では、第2の入力画像の画素数を変換し、第2の入力画像の画素数を第1の入力画像の画素数に合わせる。当該画素数変換処理の詳細は、図1において説明した通りである。続いてステップ312では、画素数変換後の第2の入力画像について第2のヒストグラムを計算する。
【0042】
続いて、ステップ303では、第1の入力画像の処理対象画素の画素値を取得する。ステップ304では、当該処理対象画素の画素値と第1のヒストグラムとに基づいて当該画素値についての画素順位を算出する。当該画素順位の算出処理の詳細は、図2、図7、図8において説明した通りである。
【0043】
ステップ305では、当該画素順位と上記第2のヒストグラムから、画素値変換処理に用いる変換画素値を決定する。変換画素値の決定処理の詳細は、図2において説明した通りである。
【0044】
ステップ306では、決定された変換画素値を用いて処理対象画素の画素値を変換する。ステップ307では、第1の画像の全画素について画素値変換処理を終了したか否かを判定する。ここで、終了していなければ、次の処理対象画素についてステップ303からの処理を繰り返す。ここで、全画素について終了していれば、ステップ308以降の処理に移行する。
【0045】
ステップ308では、画素値変換された画像のノイズ除去処理を行う。ノイズ除去処理の詳細は、図1において説明した通りである。
【0046】
最後にステップ309では、上述のとおり画素値変換された画像を出力する。
【0047】
上記のような方法により、入力画像のコントラストを改善した画像を生成し出力することが可能となる。
【0048】
次に、図4、図5、図6を用いて本発明の実施例1に係る画像処理の効果を説明する。なお、図4、図5、図6の例は、いずれも輝度値を画素値として画像処理を行った例である。いずれの図も上段に画像、下段に当該画像のヒストグラムを示している。各ヒストグラムは横軸左端が画素値(輝度)の最小値0、右端が画素値(輝度)の最大値255を示し、縦軸が頻度を示している。
【0049】
まず、図4を用いて従来技術の画像処理結果を説明する。図4の(a)が原画像、(b)が従来技術の中央値調整法を用いた結果、(c)が従来技術のHyperbolization法を用いた結果、(d)が従来技術の平均化法を用いた結果である。
【0050】
図4において、(a)原画像は暗い屋内で撮影したものであるためコントラストが低く、被写体の形状を十分視認することができない画像となっている。そのヒストグラムは低輝度に偏っており、コントラストが低い。
【0051】
また、(b)中央値調整法は、入力画像のヒストグラムを画素数で中央の順位になる輝度で2つに分け、上側のヒストグラムを輝度範囲上位、即ち0〜255の範囲の場合では128〜255、下側のヒストグラムを下位0〜127に割り当てるように調整したものである。中央値調整法の結果では、ヒストグラムが輝度128を中心に分散しており、コントラストは多少改善しているが、ノイズが多く発生し、画像のディテールが失われている。
【0052】
また、(c)Hyperbolization法は、入力画像のヒストグラムを輝度の範囲全体に広がるように拡張し、さらに人間の視覚特性に合わせて輝度の高い部分、低い部分には少なめに、中央部分は多めになるように調整したものである。Hyperbolization法の結果では、ヒストグラムが比較的広い範囲に分散しており、コントラストは多少改善しているが、ノイズが発生し、高輝度部分のディテールが失われている。
【0053】
(d)平均化法は、入力画像のヒストグラムを全体的に平坦になるように、即ち0〜255の頻度がなるべく同じになるように調整したものである。平均化法の結果では、ヒストグラムが全体に分散しており、コントラストは多少改善しているが、画像では高輝度部分で白飛びが発生している。
【0054】
次に、図5を用いて本実施例の画像処理結果を説明する。図5の(a)が実施例1に係る画像処理装置に入力される第1の画像である。ここで、(a)原画像は図4の(a)原画像と同じ画像としている。図5の(e)が実施例1に係る画像処理装置に入力される第2の画像である。ここで、第2の画像は図5の(e)のヒストグラムに示されるように、第1の画像よりもコントラストが高く、より適正な露出により撮像された画像を用いることが好ましい。図5の(f)が実施例1に係る画像処理装置による画像処理結果である。
【0055】
ここで、(f)の実施例1の画像処理結果のヒストグラムは、(a)第1の画像のヒストグラムを、(e) 第2の画像のヒストグラムに近づいたものとなる。よって、本実施例に係る画像処理により、第1の画像のコントラストが向上していることがわかる。さらに、コントラストが向上とともに、図4に示す従来技術による画像処理に比較して、白とびが少なくノイズ発生も少ない結果となっている。
【0056】
<実施例1の変形例>
次に、実施例1の変形例について説明する。変形例では、図7で説明したヒストグラム順位算出部203と変換画素値決定部205と画素値変換部206とによる処理を図8に示す方法に変更したものである。
【0057】
図8において、(1)第1のヒストグラム、(2)第2のヒストグラムは、図7と同様である。よって、ヒストグラム順位算出部203と変換画素値決定部205との処理は図7と同様である。ここで、当該変形例では、画素値変換部206は、画素値変換の際に(1)第1のヒストグラムの処理対象画素の画素値Yaにおける頻度と(2)第2のヒストグラムにおける変換画素値Ybの頻度のうち画素順位Nを超える分の頻度を比較する。図8の例では、(1)第1のヒストグラムの画素値Yaにおける頻度は7であり、(2)第2のヒストグラムにおける画素値Ybにおける頻度は3、そのうち画素順位N以下の頻度は2であるので、画素順位Nを超える分の頻度は1である。ここで、画素値変換部206は、対象画像における画素値Yaを有する画素7個のうち、上記(2)第2のヒストグラムにおける変換画素値Ybにおける画素順位Nを超える分の頻度分の1個の画素の画素値のみを変換画素値Ybに変換する。当該画素の変換による(1)第1のヒストグラムから(3)第1の画像の画素値変換後のヒストグラムへの頻度の移動は、図8においては、Aと示した1つの頻度の移動として示される。
【0058】
次に、画素値変換部206は、(2)第2のヒストグラムにおける画素値Ybの全頻度の次の画素順位の画素に対応する頻度を含む画素値(図8では、画素値Yb−1)を算出し、(1)第1のヒストグラムにおける画素値Yaの画素のうちの残りの画素について、算出した画素値Yb−1に変換する。当該画素の変換による(1)第1のヒストグラムから(3)第1の画像の画素値変換後のヒストグラムへの頻度の移動は、図8においては、Bと示した2つの頻度の移動として示される。
【0059】
次に、(1)第1のヒストグラムにおいてさらに残る画素値Yaの画素についても、図8にCと示す4つの頻度の移動のように画素値Yb−2に変換する。
【0060】
すなわち、実施例1の変形例では、第1のヒストグラムにおける処理対象画素の画素順位の画素値を有する画素のうち一部の画素を、第2のヒストグラムにおける上記算出順位の画素値に変換して、第1のヒストグラムの画素値変換後のヒストグラムの各画素値の頻度を第2のヒストグラムの対応する画素値の頻度と同じにするものである。
【0061】
なお、上記の図8の変換処理の例では、(1)第1のヒストグラムと(2)第2のヒストグラムにおける頻度の比較などを主に画素値変換部206の処理として記載したが、これらの処理をヒストグラム順位算出部203と変換画素値決定部205と画素値変換部206とで協働して行ってもかまわない。
【0062】
以上説明した変形例では、(3)第1の画像の画素値変換後のヒストグラムが、(2)第2のヒストグラムの頻度と同じになるように、(1)第1のヒストグラムの処理対象の画素の画素値を変換する。これにより、第1の画像をより第2の画像に近いコントラスト特性を有する画像に変換することができる。
【0063】
図8のA、B、Cに示すように、同一画素値を有する複数の画素の画素値を、異なる画素値へ変換する場合は、画面上の同一画素値の画素を、例えばA、B、Cのように画素値変換値の異なる画素として振り分ける必要があるが、この振り分けは、例えばラスタースキャン順などで決定すればよく、また、ランダムに決定しても実用上問題はない。
【0064】
なお、実施例1に係る画像処理装置は、外部の第1のデジタル撮像装置から第1画像入力部101に第1の入力画像を入力し、外部の第2のデジタル撮像装置から第2画像入力部102に第2の入力画像を入力して画像変換処理を行う画像処理装置として構成してもよい。
【0065】
以上説明した実施例1に係る画像処理では、例えば画素値が輝度値である場合には、第1の画像のヒストグラムも、第2の画像のヒストグラムも、輝度値ヒストグラムのみを用いればよく、R、G、Bの画素値のヒストグラムをそれぞれ用いる技術に比べて簡便な構成で実現でき、低コスト化を図ることができる。
【0066】
また、実施例1に係る画像処理装置の第1画像入力部101に、光学レンズと撮像素子と撮像素子からの信号から画像信号を生成する画像信号生成部を有する撮像ユニットとを設けて、外部のデジタル撮像装置から第2画像入力部101に第2の入力画像を入力して、第1画像入力部101で撮像・生成した画像信号に画像変換処理を行ってもよい。この場合、画像処理装置はデジタル撮像装置を構成することとなる。
【0067】
ここで、外部のデジタル撮像装置からの入力画像の入力には、有線による接続のほか、無線接続または記録媒体を介した入力手段を用いてもかまわない。
【0068】
また、一般に静止画を撮影するデジタルスチルカメラの方が、露光時間の調整自由度が高く、動画を撮影するデジタルビデオカメラに比べて良好なコントラスト特性の画像を得られる。したがって、同様のシーンをデジタルビデオカメラとデジタルスチルカメラで撮影し、デジタルスチルカメラによって撮影された画像を用いてデジタルビデオカメラの画像を変換すれば、デジタルビデオカメラの画像をデジタルスチルカメラの画像と同様の良好なコントラスト特性を持つ画像に変換することができる。即ち、実施例1の画像処理装置の例では、第1の入力画像をデジタルビデオカメラの画像、第2の入力画像をデジタルスチルカメラの画像とすれば、デジタルビデオカメラの画像に対して精度の高いコントラスト改善を行うことができる。
【0069】
また、第1の入力画像と第2の入力画像に映像を入力する装置が同じ撮像装置・撮像デバイスであってもよい。この場合は、第1画像入力部101と第2画像入力部106とを一体としてもよい。
【0070】
また、図16に示すように、第1画像入力部101と第2画像入力部106とを、レンズと撮像素子などによる撮像処理により画像を撮像して生成する一体の撮像部1601として撮像装置を構成してもよい。ここで図16の構成110は、図1の構成110と同じ構成を意味している。このように、第1画像入力部101と第2画像入力部106とを一体の撮像部とした場合、当該撮像部で動画撮影として連続して画像を撮像する前に、静止画を撮影して当該静止画像を第2の画像として記憶し、その後に撮影する動画像の各フレームの画像を第1の画像として上述した画素値変換処理を行えば、リアルタイムにコントラスト調整を行うことも可能である。
【0071】
同じ撮像装置・撮像デバイスであっても、静止画像を撮影する場合には動画像の撮像よりも比較的自由に露光時間等を調節することが可能なので、動画像を撮影する時よりもコントラストの良い画像を撮影できる。
【0072】
よって、上記のような構成とし、例えば、静止画撮影の露光時間を、動画撮影の各フレームの露光時間より長くすれば、撮像フレームレートの制限により動画撮影の露光時間が不足してコントラスト特性が悪化している場合でも、コントラスト改善が可能である。
【0073】
また、例えば、ユーザーによる動画撮影指示に連動して、動画撮影開始時に上述のように静止画撮影を行えば、ユーザーは通常の動画撮影と同様の操作を行うだけで、コントラストの改善した画像を撮影することができる。
【0074】
なお、リアルタイムでの処理でなくてもよければ、上記のように連続して複数の画像を動画像(画像群)として撮像した後に露出時間を調整した静止画を撮影して、当該動画像の各画像を第1の画像、当該静止画を第2の画像としてもよい。
【0075】
すなわち、動画像に含まれる一枚の画像を第1の画像、静止画を第2の画像とする場合は、前記静止画が動画像をなす画像群とは異なる時間に撮像されたものであればよい。
【0076】
例えば、図16の構成を有する撮像装置である監視カメラにおいて、動画像の撮影前に、良好なコントラストで静止画像を撮影しておけば、照明条件が変化したとしても良好なコントラスト特性の動画像を生成することができる。
【0077】
また、例えば、図17に示すように、第1画像入力部101を主に可視光帯域の光線で撮像して画像を生成する可視光撮像部1701とし、第2画像入力部106を赤外線などの可視光外帯域の光線で撮像して画像を生成する可視光外撮像部または、各種センサによる計測結果によりサーモカメラ画像、距離画像、マルチスペクトル画像を生成するセンサ部である可視光外撮像部・各種センサ部1702として構成してもよい。この場合は、例えば、第1の画像である可視光帯域画像の画素値(輝度)のコントラスト特性が悪い場合であっても、第2の画像である上記赤外線画像等の画素値ヒストグラムに基づいて、上記可視光帯域画像のコントラスト特性を改善することができる。これにより、可視光帯域の照明条件が変化してもコントラストの維持が容易になる。
【0078】
なお上記の処理において、第1の入力画像と第2の入力画像は、それぞれ動画の中の一つの画像、静止画像のいずれも用いることができる。例えば、第2の入力画像を静止画像とし第1の入力画像を動画の各画像として、第2の入力画像の1枚の静止画像のヒストグラムを用いた画素値変換処理を適用してもよい。また、入力画像の両方を動画とし、互いの各フレームを同期させて、一方のフレームを第1の入力画像、他方のフレームを第2の入力画像としてもよい。
【0079】
以上説明した本発明の実施例1に係る画像処理装置及び画像処理方法によれば、より好適に画像のコントラストを調整することができる。
【実施例2】
【0080】
本発明の実施例2に係る画像処理装置及び画像処理方法は、実施例1に示す画像処理装置及び画像処理方法のうち、第2の画像の入力から第2ヒストグラムの計算までの処理を省略し、その代わりに、予め第2ヒストグラムメモリに参照ヒストグラムとなるモデルヒストグラム情報を記憶する。ここでモデルヒストグラムとは、ヒストグラムの元となる画像がなく、画素値ごとの頻度データの集合である。すなわち、各画素値についての頻度を予め設定したヒストグラムである。そしてこのモデルヒストグラム情報を、実施例1における第2のヒストグラムとして用いるものである。モデルヒストグラム情報は、予めより適切なコントラスト特性と考えられるヒストグラムを設定しておけばよい。
【0081】
すなわち、実施例2に係る画像処理装置は、図1の画像処理装置から第2画像入力部106、画素数変換部107、第2ヒストグラム計算部108をなくし、第2ヒストグラムメモリに参照ヒストグラムとなるモデルヒストグラム情報を記憶させる構成とする。その他の構成・動作は、図1の画像処理装置と同様であるので説明を省略する。
【0082】
また、実施例2に係る画像処理装置に画像処理の流れも、同様に図3の流れからステップ310、311、312を省略し、予め第2ヒストグラムメモリに記憶されるモデルヒストグラム情報を第2のヒストグラムとしてステップ305で用いればよく、その他のステップの動作については図3と同様であるため、説明を省略する。
【0083】
実施例2に係る画像処理装置及び画像処理方法による画像処理の結果を図6を用いて説明する。図6の(a)は実施例2の入力画像であり、実施例1の第1の画像と同様の画像である。図5の(h)が、第2ヒストグラムメモリに記憶されるモデルヒストグラムであり、画像自体は記憶する必要はなく、ヒストグラム情報のみを記憶する。図6では、モデルヒストグラムとしてガウス分布であるガウスヒストグラムの例を示している。図6の(i)が実施例2に係る画像処理装置による画像処理結果であり、図6の(j)が実施例1と同様にヒストグラム順位算出部203と変換画素値決定部205と画素値変換部206の処理を図8に示す処理に変更した変形例の結果である。
【0084】
実施例2に係る画像処理装置の画画像処理結果である図6の(i)(j)ともに、入力画像のコントラストを好適に調整した画像を得ることができる。
【0085】
したがって、以上説明した本発明の実施例2に係る画像処理装置及び画像処理方法によれば、より好適に画像のコントラストを調整することができる。
【0086】
また、実施例1から第2の入力画像の入力を省略しているため、適切なコントラスト特性を有する画像を用意する必要はなく、予め設定しておいた適切なコントラスト特性を持つヒストグラムを画像変換処理の参照ヒストグラムとすることができるため、より均質なコントラスト調整処理を行うことができる。また、より簡略な構成とすることが可能となり、低コスト化が可能となる。
【実施例3】
【0087】
本発明の実施例3に係る画像符号化装置、画像復号化装置、画像符号化方法、画像復号化方法は、実施例1または実施例2に示す画素値変換を、符号化側もしくは復号化側で行うものである。
【0088】
図9に本発明の本発明の実施例3に係る画像符号化装置のブロック図の一例を示す。
【0089】
画像符号化装置は、例えば第1画像入力部901、第2画像・モデルヒストグラム入力部902、コントラスト調整・伝送ヒストグラムデータ生成部903、画像予測部904、変換・量子化部905、逆量子化・逆変換部906、復号画像メモリ907、符号出力部908を有する。以下に画像符号化装置の各構成要素の動作を詳細に説明する。
【0090】
まず第1画像入力部901は符号化対象画像である、第1の入力画像を入力する。第1の入力画像は動画の中の一つの画像でも静止画像でもよいが以下では第1の入力画像を動画の中の一つの画像として説明する。第2画像・モデルヒストグラム入力部902は第2の入力画像もしくはモデルヒストグラム情報を入力する。第2の入力画像は動画の中の一つの画像でも静止画像でもよいが以下では第2の入力画像を静止画像として説明する。コントラスト調整・伝送ヒストグラムデータ生成部903は、第2の入力画像・モデルヒストグラム入力部902から入力された第2の入力画像もしくはモデルヒストグラム情報を用いて、第1画像入力部901から入力された第1の入力画像の画素値を変換してコントラスト調整を行う。
【0091】
ここで、第2の入力画像・モデルヒストグラム入力部902から第2の入力画像が入力される場合には、コントラスト調整・伝送ヒストグラムデータ生成部903は、図1の枠110に示す構成、すなわち第1ヒストグラム計算部102、画像変換部103、画素数変換部107、第2ヒストグラム計算部108を有する構成とすればよい。このように構成すれば、2つの入力画像のヒストグラムを計算し、これに基づいて第1の入力画像の画素値を変換することが可能となる。これらの各構成部の構成・動作は実施例1と同様であるため、説明を省略する。
【0092】
また、第2の入力画像・モデルヒストグラム入力部902からモデルヒストグラムが入力される場合には、コントラスト調整・伝送ヒストグラムデータ生成部903は、図1の枠109に示す構成、すなわち第1ヒストグラム計算部102、画像変換部103を有する構成とすればよい。このように構成すれば、第1の入力画像のヒストグラムを計算し、算出した第1の入力画像のヒストグラムと、第1の入力画像のヒストグラムとは異なるモデルヒストグラムとに基づいて、第1の入力画像の画素値を変換することが可能となる。これらの各構成部の構成・動作は実施例1と同様であるため、説明を省略する。なお、モデルヒストグラムは、第2の入力画像・モデルヒストグラム入力部902が入力せずに、コントラスト調整・伝送ヒストグラムデータ生成部903が予め保持しておいてもよい。すなわち、外部からの入力することまたは予め保持しておくことなどにより、コントラスト調整・伝送ヒストグラムデータ生成部903がモデルヒストグラムを取得できればよい。
【0093】
コントラスト調整・伝送ヒストグラムデータ生成部903では、さらに、復号化側でのコントラスト調整に用いる伝送ヒストグラムデータを生成する。当該伝送ヒストグラムデータは、後述する符号出力部908を介して符号化ストリームに含められて復号側に伝送される。
【0094】
当該伝送ヒストグラムデータは、第2の入力画像から算出したヒストグラム情報や、モデルヒストグラム情報などである。また、これに限られず、第1の入力画像から算出したヒストグラム情報でもよい。
【0095】
また、例えば、コントラスト調整・伝送ヒストグラムデータ生成部903に記憶部を設けておき、予め記憶しておいたモデルヒストグラム情報を伝送ヒストグラムデータとしてもよい。
【0096】
また、ヒストグラムの数値はそのまま伝送ヒストグラムデータとしてもよいが、FFT(Fast Fourier Transform:高速フーリエ変換)やDFT、DCT(Discrete Cosine Transform:離散コサイン変換)あるいはPCM(pulse code modulation:パルス符号変調)、DPCM(differential pulse-code modulation:差分パルス符号変調)等を用いて変換してその係数を伝送ヒストグラムデータとしてもよい。
【0097】
また、符号化側と復号化側とでそれぞれ複数のモデルヒストグラムと、それぞれのモデルヒストグラムと対応する識別番号とを記憶しておき、画像符号化装置のコントラスト調整・伝送ヒストグラムデータ生成部903では、一つのモデルヒストグラムの識別番号を指定し、当該指定番号情報を伝送ヒストグラムデータとし、モデルヒストグラム自体は伝送しないように構成してもよい。この場合、復号化側は、符号化ストリームから指定番号情報さえ取得できれば、コントラスト調整に用いるモデルヒストグラムを予め記憶しているヒストグラムから選択して使用することが可能となる。これにより、伝送データ量を低減することができる。
【0098】
さらに、第2の入力画像自体を伝送ヒストグラムデータとしてもかまわない。
【0099】
なお、コントラスト調整・伝送ヒストグラムデータ生成部903は、コントラスト調整を行わずに、伝送ヒストグラムデータの生成のみを行ってもよい。この場合は、符号化側ではコントラスト調整を行わず、復号側で行うコントラスト調整に用いるヒストグラムを符号化側で指定することが可能となる。
【0100】
コントラスト調整・伝送ヒストグラムデータ生成部903は、以上説明した伝送ヒストグラムデータを符号出力部908に送る
コントラスト調整・伝送ヒストグラムデータ生成部903において、コントラスト調整がされた第1の入力画像は以下の処理により符号化される。まず、画像予測部904が、当該コントラスト調整後の画像について、画面内予測処理または画面間予測処理により予測画像を生成し、第1の入力画像と予測画像の差分を計算して差分情報を生成する。変換・量子化部905は差分情報の周波数変換と係数の量子化を行う。逆量子化・逆変換部906は係数の逆量子化と逆周波数変換を行い、これに予測情報を加えることによって上述の予測処理に用いるための復号画像を作成する。復号画像メモリ907は復号画像を格納する。符号出力部908は、上記の符号化処理により符号化された第1の入力画像の符号化画像情報と、コントラスト調整・伝送ヒストグラムデータ生成部903から送られた伝送ヒストグラムデータとを含む符号化ストリームを生成・出力する。
【0101】
以上説明した本発明の実施例3に係る画像符号化装置によれば、入力画像のコントラストを調整して符号化すること、または、復号側でコントラスト調整を行うための情報を符号化ストリームに含めて出力することが可能となる。
【0102】
次に、図10に本発明の実施例3に係るに係る画像復号化装置のブロック図の一例を示す。
【0103】
画像復号化装置は、例えばストリーム解析部1001、画像予測部1002、逆量子化・逆変換部1003、復号画像メモリ1004、コントラスト調整部1005、画像出力部1006とを有する。以下に画像復号化装置の各構成要素の動作を詳細に説明する。
【0104】
まずストリーム解析部1001には符号化画像データと伝送ヒストグラムデータとが含まれる符号化ストリームが、符号化側から伝送路や記録媒体などを介して入力される。ストリーム解析部1001は、当該符号化ストリームから伝送ヒストグラムデータを分離し、伝送ヒストグラムデータをコントラスト調整部1005に送り、符号化画像情報を画像予測部1002及び逆量子化・逆変換部1003に送る。
【0105】
画像予測部1002は復号画像メモリ1004の復号画像を用いて画面内予測または画面間予測を行い、符号化画像情報についての予測画像を生成する。逆量子化・逆変換部1003は符号化画像情報に含まれる差分情報の係数に対して符号化側の処理の逆処理である逆量子化処理、逆周波数変換処理を行って差分情報を生成し、これを予測画像と加算して復号画像を作成する。復号画像メモリ1004は復号画像を格納する。
【0106】
コントラスト調整部1005は伝送ヒストグラムデータを用いて、復号画像のコントラスト調整を行う。
【0107】
ここで、伝送ヒストグラムデータが、ヒストグラムの数値を含むヒストグラム情報自体である場合は、コントラスト調整部1005は、図1の枠109に示す構成、すなわち第1ヒストグラム計算部102、画像変換部103を有する構成とすればよい。このように構成すれば、復号画像のヒストグラムを第1ヒストグラム計算部102において計算して図2の第1ヒストグラムメモリ203に記憶し、伝送ヒストグラムデータのヒストグラムを図2の第2ヒストグラムメモリ205に記憶し、これらのヒストグラムを用いることにより、復号画像の画素値を変換することが可能となる。これらの各構成部の構成・動作は実施例1と同様であるため、説明を省略する。なお、伝送ヒストグラムデータが、ヒストグラムの数値をFFTやDFT、DCTあるいはPCM、DPCM等を用いて変換した係数である場合には、第2ヒストグラムメモリ205に記憶する前に、これらの変換の逆変換部を設けてヒストグラムの数値を再生すればよい。
【0108】
また、伝送ヒストグラムデータが、ヒストグラムの指定番号情報である場合には、予め第2ヒストグラムメモリ205に複数のモデルヒストグラムとそれぞれのモデルヒストグラムに対応する対応番号を記憶しておき、伝送される指定番号情報により指定されるモデルヒストグラムをコントラスト調整に用いればよい。
【0109】
また、伝送ヒストグラムデータが、画像自体である場合は、コントラスト調整部1005は、図1の枠110に示す構成、すなわち第1ヒストグラム計算部102、画像変換部103、画素数変換部107、第2ヒストグラム計算部108を有する構成とすればよい。このように構成すれば、復号画像のヒストグラムを第1ヒストグラム計算部102において計算して図2の第1ヒストグラムメモリ203に記憶し、伝送ヒストグラムデータの画像を画素数変換部107で画素数変換し、第2ヒストグラム計算部108でヒストグラムを計算して図2の第2ヒストグラムメモリ205に記憶し、これらのヒストグラムを用いて、復号画像の画素値を変換することが可能となる。これらの各構成部の構成・動作は実施例1と同様であるため、説明を省略する。
【0110】
画像出力部1006はコントラスト調整された出力画像を出力する。
【0111】
以上説明した本発明の実施例3に係る画像復号化装置によれば、符号化ストリームから復号画像を復号して、符号化側の意図したコントラストを調整を行うことが可能となる。
【0112】
次に、図11から図15を用いて、実施例3の画像符号化装置及び画像復号化装置の画像符号化・復号化処理の具体例を説明する。
【0113】
<第1の画像符号化・復号化処理の例>
まず、図11に第1の画像符号化・復号化処理の例を示す。図11においては、左側に符号化装置での符号化処理、右側に復号化装置での復号化処理を示す。(a)(b)(c)(d)は、いずれも画像もしくはモデルヒストグラムのヒストグラム図である。(a)は画像符号化装置の第1画像入力部901から入力される第1の入力画像のヒストグラム、(b)は画像符号化装置の第2画像・モデルヒストグラム入力部902から入力される第2の入力画像のヒストグラムまたはモデルヒストグラム、(c)は画像符号化装置により符号化されて伝送される伝送符号化画像のヒストグラム、(d)は画像復号化装置が生成する出力画像のヒストグラムである。
【0114】
第1の画像符号化・復号化処理の例では、画像符号化装置において(a)第1の入力画像はコントラスト調整・伝送ヒストグラムデータ生成部903でコントラストされずにそのまま(c)伝送符号化画像として符号化され伝送される。(b)第2の入力画像のヒストグラムまたはモデルヒストグラムは、伝送ヒストグラムデータとして符号化ストリームに伝送される。
【0115】
画像復号化装置では、(c)伝送符号化画像を復号化し、伝送ヒストグラムデータを用いて画素値変換処理を行い、当該画素値変換処理によりコントラスト調整を行う。図11の例では、画像復号化装置における画素値変換処理の例は、図5(f)に示す画素値変換処理である。
【0116】
以上説明した第1の画像符号化・復号化処理によれば、符号化側が意図したコントラスト調整を復号側でおこなうことが可能となる。(b)第2の入力画像のヒストグラムまたはモデルヒストグラムに(a)第1の入力画像のヒストグラムよりもコントラストが良好なものを用いれば、符号化側が意図したコントラスト改善処理を復号側でおこなうことが可能となる。
【0117】
<第2の画像符号化・復号化処理の例>
次に、図12に第2の画像符号化・復号化処理の例を示す。第2の画像符号化・復号化処理の例では、第1の画像符号化・復号化処理の例と異なり、画像復号化装置が予め(b1)モデルヒストグラム1と(b2)モデルヒストグラム2をヒストグラムメモリに保持している。
【0118】
第2の画像符号化・復号化処理の例では、画像符号化装置は、それぞれのモデルヒストグラムに対応付けられた番号を指定し、伝送ヒストグラムデータとしてヒストグラム指定番号情報を伝送する。画像符号化装置は、予め(b1)モデルヒストグラム1と(b2)モデルヒストグラム2をヒストグラムメモリに保持しておいてもよいが、必ずしも必要ではなく、復号化側で保持するヒストグラムに対応付けられた番号のみを保持しておいて、用いてもよい。
【0119】
画像復号化装置では、伝送されたヒストグラム指定番号情報を用いて符号化側で指定したヒストグラムを特定し、復号画像の画素値変換処理に用いることが可能となる。図12の例では、(b1)モデルヒストグラム1が選択されており、画像復号化装置における画素値変換処理の例は、図5(f)に示す画素値変換処理である。
【0120】
その他の各処理は、第1の画像符号化・復号化処理と同様であるので説明を省略する。
【0121】
以上説明した第2の画像符号化・復号化処理によれば、伝送ヒストグラムデータをヒストグラムデータ自体にとし、よりデータ量の小さいヒストグラム指定番号情報とすることにより、第1の画像符号化・復号化処理の例と同様の効果に加えて、伝送データ量を低減することが可能となる。
【0122】
<第3の画像符号化・復号化処理の例>
次に、図13に第3の画像符号化・復号化処理の例を示す。第3の画像符号化・復号化処理の例では、画像符号化装置では、(a)第1の入力画像を(b)第2の入力画像のヒストグラムまたはモデルヒストグラムを用いて画素値変換してコントラスト調整し、コントラスト調整後の画像を(c)伝送符号化画像として符号化して伝送する。第3の画像符号化・復号化処理の例では、ヒストグラムデータは伝送しない。画像復号化装置では、符号化ストリームを復号して符号化装置においてコントラスト調整済みの復号画像を生成・出力する。
【0123】
すなわち、第3の画像符号化・復号化処理によれば、入力画像をコントラスト調整して伝送することができる。(b)第2の入力画像のヒストグラムまたはモデルヒストグラムに(a)第1の入力画像のヒストグラムよりもコントラストが良好なものを用いれば、符号化側でコントラスト改善処理をおこなった後に符号化して伝送することが可能となる。
【0124】
<第4の画像符号化・復号化処理の例>
次に、図14に第4の画像符号化・復号化処理の例を示す。第4の画像符号化・復号化処理の例では、まず、第3の画像符号化・復号化処理の例と同様に、画像符号化装置において(b)第2の入力画像のヒストグラムまたはモデルヒストグラムを用いて(a)第1の入力画像の画素値を変換してコントラスト調整を行い、コントラスト調整後の画像を(c)伝送符号化画像として符号化して伝送する。
【0125】
ここで、画像符号化装置は、(a)第1の画像のヒストグラムを伝送ヒストグラムデータとして(c)伝送符号化画像とともに伝送する。
【0126】
画像復号化装置では、(c)伝送符号化画像を復号し、伝送ヒストグラムデータを用いて画素値変換処理を行ってコントラスト調整を行う。ここで、伝送ヒストグラムデータは、(a)第1の画像のヒストグラムであるので、画像復号化装置の画素値変換処理後の出力画像は、(c)伝送符号化画像のコントラスト特性よりも、(a)第1の画像のコントラスト特性に近づけることができる。
【0127】
例えば、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムとして、(a)第1の入力画像よりも、符号化した場合の画像のデータ量が小さくなるコントラスト特性のヒストグラムを用いれば、画像符号化装置の画素値変換により、(c)伝送符号化画像のコントラスト特性を(b)第2の入力画像のヒストグラムまたはモデルヒストグラムのコントラスト特性に近づけることにより、(c)伝送符号化画像の符号化データ量を小さくすることができ、符号化効率を改善することが可能となる。ここで、(c)伝送符号化画像のコントラスト特性は、画像復号化装置の画素値変換処理により、再び(a)第1の画像のコントラスト特性に戻るように近づけることが可能となるため、画質の変化を抑えることができる。
【0128】
すなわち、第4の画像符号化・復号化処理の例では、従来方式と比べて高い画質の画像を低ビットレートで伝送することが可能となる。
【0129】
なお、図14の例では、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムとして、(a)第1の画像のヒストグラムよりも、ヒストグラムの分布における画素値の最大が小さくより頻度の分散が小さいヒストグラムを用いている。これにより、符号化画像データ量を低減することが可能となる。
【0130】
また、図14の例では、説明の簡略化のため、画像符号化装置の画素値変換処理は図8(実施例1の変形例)で示した画素値変換処理を用いた例を示している。よって、(c)伝送符号化画像のヒストグラムは、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムと同じヒストグラムに変換されている。画像復号化装置の画素値変換処理も同様である。しかし、図14の例において、画像符号化装置の画素値変換処理、画像復号化装置の画素値変換処理のいずれも、図7(実施例1)の画素値変換処理を用いても実用上問題ない。
【0131】
以上説明した第4の画像符号化・復号化処理によれば、より符号化効率の高い画像符号化・復号化処理を実現することが可能となる。
【0132】
<第5の画像符号化・復号化処理の例>
次に、図15に第5の画像符号化・復号化処理の例を示す。第5の画像符号化・復号化処理の例では、第1から第4の画像符号化・復号化処理の例とは異なり、画像符号化装置の画素値変換処理において、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムを用いない。
【0133】
第5の画像符号化・復号化処理では、例えば、図9の画像符号化装置のコントラスト調整・伝送ヒストグラムデータ生成部903において、(a)第1の入力画像の画素値を所定の演算処理により変換して、(a)第1の入力画像を、符号化データ量が小さくなるコントラスト特性に変換する。例えば、(a)第1の入力画像の各画素値に1/2を乗じて、少数画素値となった画素値は四捨五入または切り上げ、切り下げなどにより整数画素値とする。これにより、ヒストグラムの最大画素値を元の(a)第1の入力画像よりも1/2とすることができ、より頻度の分散の小さい画像を生成し、(c)伝送符号化画像とすることができる。これにより、符号化データ量を低減することが可能となる。
【0134】
また、画像符号化装置では、第4の画像符号化・復号化処理の例と同様に、(a)第1の入力画像のヒストグラムを伝送ヒストグラムデータとして復号側に伝送する。
【0135】
画像復号化装置では、(c)伝送符号化画像を復号化し、伝送ヒストグラムデータを用いて画素値変換することによりコントラスト調整を行い、復号画像のコントラスト特性を(a)第1の入力画像に近づける。
【0136】
また、図15の例では、説明の簡略化のため、画像復号化装置の画素値変換は図8(実施例1の変形例)で示した画素値変換処理を用いた例を示している。よって、(d)出力画像のヒストグラムは、(a)第1の入力画像と同じヒストグラムに変換されている。しかし、図15の例の画像復号化装置の画素値変換処理において、図7(実施例1)の画素値変換処理を用いても実用上問題ない。
【0137】
第5の画像符号化・復号化処理によれば、(b)第2の入力画像のヒストグラムまたはモデルヒストグラムを用いずに、第4の画像符号化・復号化処理と同様の高符号化効率化を実現することが可能となる。
【0138】
以上説明した本発明の実施例3に係る画像符号化装置、画像復号化装置、画像符号化方法、画像復号化方法によれば、符号化側が意図したコントラスト改善処理を復号側でおこなう画像符号化・復号化処理、または、よりコントラストが改善した画像を伝送する画像符号化・復号化処理、より符号化効率の高い画像符号化・復号化処理を実現することが可能となる。
【0139】
すなわち、より好適な画像符号化・復号化処理を実現することが可能となる。
【0140】
なお、以上説明した各実施例、変形例、処理例のいずれを組み合わせても、本発明の一実施の形態となりうる。
【図面の簡単な説明】
【0141】
【図1】本発明の一実施例に係る画像処理装置の一例の説明図である。
【図2】本発明の一実施例に係る画像処理装置の画像変換部の説明図である。
【図3】本発明の一実施例に係る画像処理の流れの一例の説明図である。
【図4】従来技術による画像処理結果の説明図である。
【図5】本発明の一実施例に係る画像処理結果の説明図である。
【図6】本発明の一実施例に係る画像処理結果の説明図である。
【図7】本発明の一実施例に係る画素値変換処理の説明図である。
【図8】本発明の一実施例に係る画素値変換処理の説明図である。
【図9】本発明の一実施例に係る画像符号化装置の一例の説明図である。
【図10】本発明の一実施例に係る画像復号化装置の一例の説明図である。
【図11】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図12】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図13】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図14】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図15】本発明の一実施例に係る画像符号化・復号化処理の一例の説明図である。
【図16】本発明の一実施例に係る撮像装置の一例の説明図である。
【図17】本発明の一実施例に係る撮像装置の一例の説明図である。
【符号の説明】
【0142】
101…第1画像入力部、102…第1ヒストグラム計算部、103…画像変換部、104…ノイズ除去フィルタ、105…画像出力部、106…第2画像入力部、107…画素数変換部、108…第2ヒストグラム計算部、201…画素値取得部、202…第1ヒストグラムメモリ、203…ヒストグラム順位算出部、204…第2ヒストグラムメモリ、205…ヒストグラム画素値取得部、206…画素値変換部、901…第1画像入力部、902…第2画像入力部、903…コントラスト調整・伝送ヒストグラムデータ生成部、904…画像予測部、905…変換・量子化部、906…逆量子化・逆変換部、907…復号画像メモリ、908…符号出力部、1001…ストリーム解析部、1002…画像予測部、1003…逆量子化・逆変換部、1004…復号画像メモリ、1005…コントラスト調整部、1006…画像出力部、1601…撮像部、1701…可視光撮像部、1702…可視光外撮像部・各種センサ部
【特許請求の範囲】
【請求項1】
画像を入力する画像入力部と、
前記画像入力部に入力された入力画像の画素値ヒストグラムを第1のヒストグラムとして算出し、前記入力画像における画像処理対象画素の画素値について前記第1のヒストグラムにおける画素値の大きさの順位を算出する順位算出処理と、前記画像処理対象画素の画素値を、前記第1のヒストグラムとは異なる第2のヒストグラムにおける前記算出順位の画素値に変更する画像変換処理とを行う画像変換部と、
前記画像変換部で画像変換処理された画像を出力する画像出力部と
を備えることを特徴とする画像処理装置。
【請求項2】
請求項1の画像処理装置であって、
前記画像変換部における前記順位算出処理は、前記第1のヒストグラムにおいて、前記画像処理対象画素の画素値より大きい画素値についての頻度を累積、または前記画像処理対象画素の画素値より小さい画素値についての頻度を累積して行うことを特徴とする画像処理装置。
【請求項3】
請求項1の画像処理装置であって、
前記画像変換部における前記画像変換処理は、前記第1のヒストグラムにおける前記算出順位の画素値を有するすべての画素について、前記第2のヒストグラムにおける前記算出順位の画素値に変更することを特徴とする画像処理装置。
【請求項4】
請求項1の画像処理装置であって、
前記画像変換部における前記画像変換処理は、前記第1のヒストグラムにおける前記算出順位の画素値を有する画素のうち一部の画素を前記第2のヒストグラムにおける前記算出順位の画素値に変更して、前記第1のヒストグラムの画素値の変更後のヒストグラムの各画素の頻度を前記第2のヒストグラムの対応する画素の頻度と同じにすることを特徴とする画像処理装置。
【請求項5】
請求項1の画像処理装置であって、
前記画像入力部は撮像部を有し、
前記入力画像は前記撮像部により連続して撮像された画像群の一つの画像であって、前記第2のヒストグラムは前記撮像部によって前記画像群の撮影時刻とは異なる時刻に撮像された画像であることを特徴とする画像処理装置。
【請求項6】
請求項1の画像処理装置であって、
前記画像入力部は可視光を用いて撮像する可視光撮像部を有し、
前記画像処理装置は可視光帯域外の光線を用いて撮像して画像を生成する可視光外撮像部またはセンサによる計測結果により画像を生成するセンサ部をさらに備え、
前記入力画像は前記可視光撮像部により撮像された画像であって、前記第2のヒストグラムは前記可視光外撮像部またはセンサ部により生成された画像であることを特徴とする画像処理装置。
【請求項7】
画像を入力する画像入力ステップと、
前記入力ステップにおいて入力された入力画像の画素値ヒストグラムを第1のヒストグラムとして算出し、前記入力画像における画像処理対象画素の画素値の前記第1のヒストグラムにおける画素値の大きさの順位を算出する順位算出処理と、前記画像処理対象画素の画素値を、前記第1のヒストグラムとは異なる画素値ヒストグラムである第2のヒストグラムにおける前記算出順位の画素値に変更する画像変換処理とを行う画像変換ステップと、
前記画像変換ステップにおいて画像変換処理された画像を出力する画像出力ステップと
を備えることを特徴とする画像処理方法。
【請求項8】
請求項7の画像処理方法であって、
前記画像変換ステップにおける前記順位算出処理は、前記第1のヒストグラムにおいて、前記画像処理対象画素の画素値より大きい画素値についての頻度を累積、または前記画像処理対象画素の画素値より小さい画素値についての頻度を累積して行うことを特徴とする画像処理方法。
【請求項9】
請求項7の画像処理方法であって、
前記画像変換ステップにおける前記画像変換処理は、前記第1のヒストグラムにおける前記算出順位の画素値を有するすべての画素について、前記第2のヒストグラムにおける前記算出順位の画素値に変更することを特徴とする画像処理方法。
【請求項10】
請求項7の画像処理方法であって、
前記画像変換ステップにおける前記画像変換処理は、前記第1のヒストグラムにおける前記算出順位の画素値を有する画素のうち一部の画素を前記第2のヒストグラムにおける前記算出順位の画素値に変更して、前記第1のヒストグラムの画素値の変更後のヒストグラムの各画素の頻度を前記第2のヒストグラムの対応する画素の頻度と同じにすることを特徴とする画像処理方法。
【請求項11】
請求項7の画像処理方法であって、
前記画像入力ステップは撮像処理により生成された画像を入力し、
前記入力画像は前記撮像処理により連続して撮像された画像群の一つの画像であって、前記第2のヒストグラムは前記撮像処理によって前記画像群の撮影時刻とは異なる時刻に撮像された画像であることを特徴とする画像処理方法。
【請求項12】
請求項8の画像処理方法であって、
前記画像入力ステップは可視光を用いた撮像処理により生成した画像を入力し、
可視光帯域外の光線を用いた撮像処理により生成した画像を入力、またはセンサによる計測結果により生成した画像を入力する第2の入力ステップをさらに備え、
前記入力画像は前記可視光を用いた撮像処理による入力ステップにて入力された画像であって、前記第2のヒストグラムは第2の入力ステップにより入力された画像であることを特徴とする画像処理方法。
【請求項13】
符号化対象画像を入力する画像入力ステップと、
前記入力ステップにおいて入力された入力画像に予測処理、変換処理、量子化処理を行って、符号化画像情報を生成する符号化ステップと、
前記符号化ステップで生成した符号化画像情報と復号側で復号画像のコントラスト調整を行うための画素値ヒストグラムに関する情報とを含む符号化ストリームを生成する符号化ストリーム生成ステップと
を備えることを特徴とする画像符号化方法。
【請求項14】
請求項13の画像符号化方法であって、
前記符号化ストリーム生成ステップの前に、
前記符号化対象画像とは異なる第2の画像を入力する第2画像入力ステップと、
前記第2画像入力ステップで入力された前記第2の画像の画素値ヒストグラムを算出するヒストグラム算出ステップとを備え、
前記符号化ストリーム生成ステップでは、前記第2の画像の画素値ヒストグラムを、前記画素値ヒストグラムに関する情報として符号化ストリームに含めることを特徴とする画像符号化方法。
【請求項15】
請求項13の画像符号化方法であって、
各画素値についての頻度を予め設定したモデルヒストグラムを取得する取得ステップと、
前記モデルヒストグラムを、前記画素値ヒストグラムに関する情報として符号化ストリームに含めることを特徴とする画像符号化方法。
【請求項16】
請求項13の画像符号化方法であって、
復号側で復号画像のコントラスト調整を行うために、復号側で予め保持している複数のモデルヒストグラムのうち一つのヒストグラムを指定するヒストグラム指定番号情報を前記画素値ヒストグラムに関する情報として符号化ストリームに含めることを特徴とする画像符号化方法。
【請求項17】
請求項13の画像符号化方法であって、
前記符号化ステップの前に、
前記符号化対象画像の画素値のヒストグラムを算出するヒストグラム算出ステップと、
所定の処理によって前記符号化対象画像の画素値を変換する画素値変換ステップとを備え、
前記符号化ステップでは、前記画素値変換ステップにおいて画素値が変換された画像についての符号化画像情報を生成し、
前記符号化ストリーム生成ステップでは、前記ヒストグラム算出ステップで算出した前記符号化対象画像のヒストグラムを前記画素値ヒストグラムに関する情報として、符号化画像情報とともに前記符号化ストリームに含めることを特徴とする画像符号化方法。
【請求項18】
符号化ストリームを入力する入力ステップと、
前記入力ステップにおいて入力された符号化ストリームに含まれる符号化画像情報に符号化側の処理の逆処理である逆量子化処理、逆変換処理を行って、差分情報を生成し、前記符号化画像についての予測画像に前記差分情報を加算して復号画像を生成する復号画像生成ステップと、
前記入力ステップにおいて入力された符号化ストリームに含まれる画素値ヒストグラムに関する情報に基づいて前記復号画像のコントラスト調整を行うコントラスト調整ステップと
を備えることを特徴とする画像復号化方法。
【請求項19】
請求項18の画像復号化方法であって、
前記符号化ストリームに含まれる画素値ヒストグラムに関する情報には、画素値ヒストグラム自体が含まれており、
前記コントラスト調整ステップは、前記復号画像の画素値のヒストグラムを算出し、算出した前記復号画像のヒストグラムと、前記符号化ストリームに含まれる画素値ヒストグラムに関する情報に含まれる画素値ヒストグラムとに基づいて、前記符号化対象画像の画素値を変換することを特徴とする画像復号化方法。
【請求項20】
請求項18の画像復号化方法であって、
前記符号化ストリームに含まれる画素値ヒストグラムに関する情報には、復号側で復号画像のコントラスト調整を行うために予め保持している複数のモデルヒストグラムのうちの一つのモデルヒストグラムを指定するヒストグラム指定番号情報が含まれており、
前記コントラスト調整ステップは、前記復号画像の画素値のヒストグラムを算出し、算出した前記復号画像のヒストグラムと、前記符号化ストリームに含まれる前記ヒストグラム指定番号情報により指定される画素値ヒストグラムとに基づいて、前記符号化対象画像の画素値を変換することを特徴とする画像復号化方法。
【請求項1】
画像を入力する画像入力部と、
前記画像入力部に入力された入力画像の画素値ヒストグラムを第1のヒストグラムとして算出し、前記入力画像における画像処理対象画素の画素値について前記第1のヒストグラムにおける画素値の大きさの順位を算出する順位算出処理と、前記画像処理対象画素の画素値を、前記第1のヒストグラムとは異なる第2のヒストグラムにおける前記算出順位の画素値に変更する画像変換処理とを行う画像変換部と、
前記画像変換部で画像変換処理された画像を出力する画像出力部と
を備えることを特徴とする画像処理装置。
【請求項2】
請求項1の画像処理装置であって、
前記画像変換部における前記順位算出処理は、前記第1のヒストグラムにおいて、前記画像処理対象画素の画素値より大きい画素値についての頻度を累積、または前記画像処理対象画素の画素値より小さい画素値についての頻度を累積して行うことを特徴とする画像処理装置。
【請求項3】
請求項1の画像処理装置であって、
前記画像変換部における前記画像変換処理は、前記第1のヒストグラムにおける前記算出順位の画素値を有するすべての画素について、前記第2のヒストグラムにおける前記算出順位の画素値に変更することを特徴とする画像処理装置。
【請求項4】
請求項1の画像処理装置であって、
前記画像変換部における前記画像変換処理は、前記第1のヒストグラムにおける前記算出順位の画素値を有する画素のうち一部の画素を前記第2のヒストグラムにおける前記算出順位の画素値に変更して、前記第1のヒストグラムの画素値の変更後のヒストグラムの各画素の頻度を前記第2のヒストグラムの対応する画素の頻度と同じにすることを特徴とする画像処理装置。
【請求項5】
請求項1の画像処理装置であって、
前記画像入力部は撮像部を有し、
前記入力画像は前記撮像部により連続して撮像された画像群の一つの画像であって、前記第2のヒストグラムは前記撮像部によって前記画像群の撮影時刻とは異なる時刻に撮像された画像であることを特徴とする画像処理装置。
【請求項6】
請求項1の画像処理装置であって、
前記画像入力部は可視光を用いて撮像する可視光撮像部を有し、
前記画像処理装置は可視光帯域外の光線を用いて撮像して画像を生成する可視光外撮像部またはセンサによる計測結果により画像を生成するセンサ部をさらに備え、
前記入力画像は前記可視光撮像部により撮像された画像であって、前記第2のヒストグラムは前記可視光外撮像部またはセンサ部により生成された画像であることを特徴とする画像処理装置。
【請求項7】
画像を入力する画像入力ステップと、
前記入力ステップにおいて入力された入力画像の画素値ヒストグラムを第1のヒストグラムとして算出し、前記入力画像における画像処理対象画素の画素値の前記第1のヒストグラムにおける画素値の大きさの順位を算出する順位算出処理と、前記画像処理対象画素の画素値を、前記第1のヒストグラムとは異なる画素値ヒストグラムである第2のヒストグラムにおける前記算出順位の画素値に変更する画像変換処理とを行う画像変換ステップと、
前記画像変換ステップにおいて画像変換処理された画像を出力する画像出力ステップと
を備えることを特徴とする画像処理方法。
【請求項8】
請求項7の画像処理方法であって、
前記画像変換ステップにおける前記順位算出処理は、前記第1のヒストグラムにおいて、前記画像処理対象画素の画素値より大きい画素値についての頻度を累積、または前記画像処理対象画素の画素値より小さい画素値についての頻度を累積して行うことを特徴とする画像処理方法。
【請求項9】
請求項7の画像処理方法であって、
前記画像変換ステップにおける前記画像変換処理は、前記第1のヒストグラムにおける前記算出順位の画素値を有するすべての画素について、前記第2のヒストグラムにおける前記算出順位の画素値に変更することを特徴とする画像処理方法。
【請求項10】
請求項7の画像処理方法であって、
前記画像変換ステップにおける前記画像変換処理は、前記第1のヒストグラムにおける前記算出順位の画素値を有する画素のうち一部の画素を前記第2のヒストグラムにおける前記算出順位の画素値に変更して、前記第1のヒストグラムの画素値の変更後のヒストグラムの各画素の頻度を前記第2のヒストグラムの対応する画素の頻度と同じにすることを特徴とする画像処理方法。
【請求項11】
請求項7の画像処理方法であって、
前記画像入力ステップは撮像処理により生成された画像を入力し、
前記入力画像は前記撮像処理により連続して撮像された画像群の一つの画像であって、前記第2のヒストグラムは前記撮像処理によって前記画像群の撮影時刻とは異なる時刻に撮像された画像であることを特徴とする画像処理方法。
【請求項12】
請求項8の画像処理方法であって、
前記画像入力ステップは可視光を用いた撮像処理により生成した画像を入力し、
可視光帯域外の光線を用いた撮像処理により生成した画像を入力、またはセンサによる計測結果により生成した画像を入力する第2の入力ステップをさらに備え、
前記入力画像は前記可視光を用いた撮像処理による入力ステップにて入力された画像であって、前記第2のヒストグラムは第2の入力ステップにより入力された画像であることを特徴とする画像処理方法。
【請求項13】
符号化対象画像を入力する画像入力ステップと、
前記入力ステップにおいて入力された入力画像に予測処理、変換処理、量子化処理を行って、符号化画像情報を生成する符号化ステップと、
前記符号化ステップで生成した符号化画像情報と復号側で復号画像のコントラスト調整を行うための画素値ヒストグラムに関する情報とを含む符号化ストリームを生成する符号化ストリーム生成ステップと
を備えることを特徴とする画像符号化方法。
【請求項14】
請求項13の画像符号化方法であって、
前記符号化ストリーム生成ステップの前に、
前記符号化対象画像とは異なる第2の画像を入力する第2画像入力ステップと、
前記第2画像入力ステップで入力された前記第2の画像の画素値ヒストグラムを算出するヒストグラム算出ステップとを備え、
前記符号化ストリーム生成ステップでは、前記第2の画像の画素値ヒストグラムを、前記画素値ヒストグラムに関する情報として符号化ストリームに含めることを特徴とする画像符号化方法。
【請求項15】
請求項13の画像符号化方法であって、
各画素値についての頻度を予め設定したモデルヒストグラムを取得する取得ステップと、
前記モデルヒストグラムを、前記画素値ヒストグラムに関する情報として符号化ストリームに含めることを特徴とする画像符号化方法。
【請求項16】
請求項13の画像符号化方法であって、
復号側で復号画像のコントラスト調整を行うために、復号側で予め保持している複数のモデルヒストグラムのうち一つのヒストグラムを指定するヒストグラム指定番号情報を前記画素値ヒストグラムに関する情報として符号化ストリームに含めることを特徴とする画像符号化方法。
【請求項17】
請求項13の画像符号化方法であって、
前記符号化ステップの前に、
前記符号化対象画像の画素値のヒストグラムを算出するヒストグラム算出ステップと、
所定の処理によって前記符号化対象画像の画素値を変換する画素値変換ステップとを備え、
前記符号化ステップでは、前記画素値変換ステップにおいて画素値が変換された画像についての符号化画像情報を生成し、
前記符号化ストリーム生成ステップでは、前記ヒストグラム算出ステップで算出した前記符号化対象画像のヒストグラムを前記画素値ヒストグラムに関する情報として、符号化画像情報とともに前記符号化ストリームに含めることを特徴とする画像符号化方法。
【請求項18】
符号化ストリームを入力する入力ステップと、
前記入力ステップにおいて入力された符号化ストリームに含まれる符号化画像情報に符号化側の処理の逆処理である逆量子化処理、逆変換処理を行って、差分情報を生成し、前記符号化画像についての予測画像に前記差分情報を加算して復号画像を生成する復号画像生成ステップと、
前記入力ステップにおいて入力された符号化ストリームに含まれる画素値ヒストグラムに関する情報に基づいて前記復号画像のコントラスト調整を行うコントラスト調整ステップと
を備えることを特徴とする画像復号化方法。
【請求項19】
請求項18の画像復号化方法であって、
前記符号化ストリームに含まれる画素値ヒストグラムに関する情報には、画素値ヒストグラム自体が含まれており、
前記コントラスト調整ステップは、前記復号画像の画素値のヒストグラムを算出し、算出した前記復号画像のヒストグラムと、前記符号化ストリームに含まれる画素値ヒストグラムに関する情報に含まれる画素値ヒストグラムとに基づいて、前記符号化対象画像の画素値を変換することを特徴とする画像復号化方法。
【請求項20】
請求項18の画像復号化方法であって、
前記符号化ストリームに含まれる画素値ヒストグラムに関する情報には、復号側で復号画像のコントラスト調整を行うために予め保持している複数のモデルヒストグラムのうちの一つのモデルヒストグラムを指定するヒストグラム指定番号情報が含まれており、
前記コントラスト調整ステップは、前記復号画像の画素値のヒストグラムを算出し、算出した前記復号画像のヒストグラムと、前記符号化ストリームに含まれる前記ヒストグラム指定番号情報により指定される画素値ヒストグラムとに基づいて、前記符号化対象画像の画素値を変換することを特徴とする画像復号化方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【公開番号】特開2010−176239(P2010−176239A)
【公開日】平成22年8月12日(2010.8.12)
【国際特許分類】
【出願番号】特願2009−16115(P2009−16115)
【出願日】平成21年1月28日(2009.1.28)
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】
【公開日】平成22年8月12日(2010.8.12)
【国際特許分類】
【出願日】平成21年1月28日(2009.1.28)
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】
[ Back to top ]