説明

画像処理装置

【課題】被写体ぶれや撮像装置の振動が発生した場合であっても、自然に合成されたダイナミックレンジが拡張された画像を提供する。
【解決手段】第1の露出量で撮像された第1の画像、及び第1の露出量よりも高い第2の露出量で撮像された第2の画像を取得る。そしてガンマ変換処理を適用した第1の画像を縮小し、当該縮小された画像の各画素について、当該画素の画素値を、当該画素を中心とする予め設定された画素数の範囲内の画素の画素値のうち、最大の画素値に変換する。さらに画素値が変換されて得られた画像を、ガンマ変換処理が適用された第1の画像の画素数まで拡大することにより、合成の基準となる第3の画像を生成する。このように生成された第3の画像の画素値に対して予め対応づけられた加算係数を用いて、第1の画像と第2の画像とを加算合成することにより、ダイナミックレンジが拡張された画像を生成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ダイナミックレンジを拡張した画像を生成する技術に関する。
【背景技術】
【0002】
近年、デジタルカメラ等の撮像装置において、通常の撮影で得られる画像よりもダイナミックレンジを拡張した画像を生成する、所謂HDR(High Dynamic Range)技術が知られている。具体的にはHDR技術を用いた画像処理方法では、露出量を異ならせて撮像された複数の合成を好適に合成することによりダイナミックレンジが拡張された画像(HDR画像)を生成することができる。
【0003】
しかしながら、このように生成されたHDR画像では複数の画像を合成するため、被写体ぶれや撮像装置に加わる振動の影響により、得られた画像のエッジ部分においてエッジが多重にみえることが生じうる。生成されたHDR画像においてエッジが多重して見える現象は、特に明度の高い部分と低い部分との境界部において顕著に確認される。
【0004】
ここで、HDR画像においてエッジが多重して見える現象について、図を用いて詳細に説明する。なお、簡単のため、ここでは異なる露出量の2つの画像を合成することによりHDR画像を生成する例について説明する。
【0005】
例えば図4(a)のように、輝度の高い背景画像に対して、主被写体である人物が逆光の関係で立っている構図を考える。このとき撮影される画像において主被写体が描画される領域は輝度が低い領域となるため、主被写体が動いた、または撮像装置が振動した場合、HDR画像において主被写体と背景の境界部に多重エッジが現れる。
【0006】
このとき図4(a)の画像の水平ライン401に注目すると、合成に用いる露出量の低い撮像画像及び露出量の高い撮像画像では、当該水平ラインのx座標において画素値DL及びDHは図5(a)に示すような挙動を示す。図5(a)では、2つの画像の画素値は、主被写体の動き、あるいは撮像装置の振動により画素値が低下している座標がずれていることがわかる。なお、露出量の高い撮像画像は露出量の低い撮像画像の4倍の露出量であり、露出量の高い撮像画像では、輝度の高い背景領域において画素値が飽和している。
【0007】
露出量の異なる2つの画像を合成するために、当該2つの画像をガンマ変換する。それぞれの画像において露出量の条件が異なるため、ガンマ変換は図5(b)のようなそれぞれの画像ごとに異なる変換特性曲線を用いてなされる。このように変換されたガンマ変換出力GL及びGHは、図5(c)のような挙動を示している。
【0008】
露出量の異なる2つの画像のガンマ変換出力からも明らかなように、背景領域が飽和している露出量の高い画像は、背景領域において露出量の低い撮像画像とは異なるガンマ変換出力を呈している。また、露出量の低い撮像画像では一般的に、輝度の低い領域については黒つぶれが生じやすく、当該領域において被写体が鮮明に表現されない。即ち、生成するHDR画像では、輝度の高い領域については露出量の低い撮像画像、輝度の低い領域については露出量の高い撮像画像が用いられることが好ましい。
【0009】
このため、HDR画像を生成するための基準の露出量を有する画像として、飽和領域がない露出量の低い撮像画像を選択し、当該画像のガンマ変換出力Gに応じて、図5(d)に示すような加算係数Kを決定する。加算係数Kは、生成するHDR画像において露出量の低い撮像画像と露出量の高い画像の合成方法を決定するためにあらかじめ定められた係数であり、HDR画像のガンマ出力Gは、
=K×G+KK×G 式1
で表すことができる。加算係数Kは、図5(d)に示すように所定のガンマ変換出力の範囲で0から1に変化している。また加算係数KKは(1−K)である。当該0<K<1の範囲においては2つの画像が合成され、K=1の範囲で露出量の低い撮像画像のみ、K=0の範囲で露出量の高い撮像画像のみが生成に用いられることが示されている。
【0010】
このように生成されたHDR画像のガンマ変換出力は、図5(e)に示すような挙動を呈する。図からもわかるように、HDR画像を生成する異なる露出量の画像の撮像において被写体ぶれ、あるいは撮像装置の振動がある場合は、輝度の低い領域において、露出量の高い画像の輝度の高い領域の画像が合成されている。この場合、生成されたHDR画像には疑似輪郭と呼ばれるエッジが多重して見える現象が、輝度の低い領域と高い領域との境界において発生してしまう。
【0011】
このように被写体ぶれや撮影時の撮像装置の振動が存在する場合は、輝度の低い領域と高い領域との境界においてエッジが多重して見えてしまうことがあり、HDR画像において画質低下や違和感をユーザに対して与えてしまう。
【0012】
特許文献1には、露出量の異なる複数の画像のうち、1つの画像を基準の露出量を有する画像として設定して平均化フィルタを適用することで、明暗度の異なる境界近辺で濃淡値を平均化し、合成画像における多重エッジを軽減する技術が開示されている。
【0013】
また特許文献2には、領域において合成する露出量の異なる2つの画像のガンマ変換出力の差分を検出し、当該差分が閾値より大きい場合は露出量の低い画像、当該差分が別の閾値より小さい場合は露出量の高い画像を選択して生成することが開示されている。
【先行技術文献】
【特許文献】
【0014】
【特許文献1】特開2009−010566号公報
【特許文献2】特開2005−223769号公報
【発明の概要】
【発明が解決しようとする課題】
【0015】
しかしながら、上述の特許文献1の技術では、明暗度の異なる境界付近においても平均化処理を適用するため、境界付近の画像の合成において、次のような不自然な合成がなされることがある。即ち、境界付近で平均化処理が適用されているため、輝度の高い領域において飽和を示している露出量の高い画像が合成される、あるいは輝度の低い領域において黒つぶれした露出量の低い画像が合成される。このため、境界を挟んで輝度の高い領域では白い領域が、輝度の低い領域においては黒い領域が合成されるため、不自然なHDR画像が生成される。
【0016】
また、特許文献2の技術では、急峻な輝度勾配を示す領域では、ガンマ変化出力の差分値が小さい領域において細い疑似輪郭が発生する。
【0017】
本発明は、上述の問題点に鑑みてなされたものであり、被写体ぶれや撮像装置の振動が発生した場合であっても、自然に合成されたダイナミックレンジが拡張された画像を提供することを目的とする。
【課題を解決するための手段】
【0018】
前述の目的を達成するために、本発明の画像処理装置は、以下の構成を備える。
第1の露出量で撮像された第1の画像、及び第1の露出量よりも高い第2の露出量で撮像された第2の画像を取得する取得手段と、取得手段により取得された第1及び第2の画像に対してガンマ変換処理を適用するガンマ変換手段と、ガンマ変換手段によりガンマ変換処理が適用された第1の画像から、合成の基準となる第3の画像を生成する生成手段と、第3の画像の画素値に対して予め対応づけられた加算係数を用いて、第1の画像と第2の画像とを画素ごとに加算合成する合成手段と、を備え、生成手段は、ガンマ変換処理が適用された第1の画像を縮小し、当該縮小された画像の各画素について、当該画素の画素値を、当該画素を中心とする予め設定された画素数の範囲内の画素の画素値のうちの最大の画素値に変換し、当該画素値が変換されて得られた画像を、ガンマ変換処理が適用された第1の画像の画素数まで拡大することにより、第3の画像を生成することを特徴とする。
【発明の効果】
【0019】
このような構成により本発明によれば、被写体ぶれや撮像装置の振動が発生した場合であっても、自然に合成されたダイナミックレンジが拡張された画像を提供することを可能とする。
【図面の簡単な説明】
【0020】
【図1】本発明の実施形態に係るデジタルカメラの機能構成を示したブロック図
【図2】実施形態に係るHDR画像を生成するための処理を説明するためのブロック図
【図3】実施形態1及び2に係る基準明暗度生成部の回路構成を示した図
【図4】実施形態に係るHDR画像を生成するシーン例を示した図
【図5】従来技術に係るHDR画像の生成における問題を説明するための図
【図6】実施形態1に係る信号処理部における処理を説明するための図
【図7】実施形態2に係る信号処理部における処理を説明するための図
【図8】実施形態3に係る基準明暗度生成部の回路構成を示した図
【図9】実施形態3に係る信号処理部における処理を説明するための図
【図10】実施形態3に係る信号処理部における処理を説明するための別の図
【発明を実施するための形態】
【0021】
(実施形態1)
以下、本発明の好適な一実施形態について、図面を参照して詳細に説明する。なお、以下に説明する一実施形態は、画像処理装置の一例としての、露出量の異なる複数の画像を用いて、ダイナミックレンジを拡張した1つの画像を生成可能なデジタルカメラに、本発明を適用した例を説明する。しかし、本発明は、露出量の異なる複数の画像を用いて、ダイナミックレンジを拡張した1つの画像を生成することが可能な任意の機器に適用可能である。
【0022】
図1は、本発明の実施形態に係るデジタルカメラ100の機能構成を示すブロック図である。
制御部101は、例えばマイクロコンピュータであり、デジタルカメラ100が備える各ブロックの動作を制御する。制御部101は、例えばROM102に記憶されているデジタルカメラ100が備える各ブロックの動作プログラムを読み出し、RAM103に展開して実行することにより、各ブロックの動作を制御する。ROM102は、例えばEEPROM等の電気的に書き換え可能な不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要な設定値等の情報が格納される。
【0023】
RAM103は、揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムの展開領域としてだけでなく、各ブロックの動作において出力された中間データ等を一時的に格納する領域としても用いられる。メモリ制御部108は、RAM103からのデータ読み出し、及びRAM103へのデータの書き込みを制御するブロックであり、制御部101の制御により動作する。
【0024】
なお、本実施形態ではデジタルカメラ100が備える各ブロックの動作を当該ブロックの動作プログラムにより制御するものとして説明するが、本発明の実施はこれに限らず、各ブロックは当該動作プログラムと同様の処理を行う回路で構成されてもよい。
【0025】
撮像部105は、例えばCCDやCMOSセンサ等の撮像素子であり、光学系104を介して撮像素子上に結像された光学像を光電変換し、得られたアナログ画像信号をA/D変換部106に出力する。A/D変換部106は、入力されたアナログ画像信号に対してA/D変換処理を適用することにより、デジタル画像信号を出力する。
【0026】
本実施形態では、撮像部105は露光時間を異ならせることにより露出量の異なる2種類の画像を撮影し、A/D変換部106においてA/D変換処理が適用されて得られた2つの画像がRAM103に格納される。なお、以下では短い露出時間で得られた画像を「低露出画像」、長い露出時間で得られた画像を「高露出画像」として説明するものとする。
【0027】
信号処理部107は、撮像された画像に対して種々の画像処理を適用するブロックである。本実施形態では信号処理部107は、ダイナミックレンジを拡張したHDR画像を生成するための合成処理に限らず、例えば低露出画像及び高露出画像の被写体の位置ずれを検出して補正する処理等を実行可能であるものとして説明する。
【0028】
(HDR画像生成処理)
このような構成をもつ本実施形態のデジタルカメラ100のHDR画像生成処理について、図2を用いて具体的な処理を説明する。図2は、RAM103に記憶されている低露出画像及び高露出画像からHDR画像を生成する流れを説明するために、信号処理部107で行われる処理をブロック図として示したものである。
【0029】
まず信号処理部107には、メモリ制御部108によりRAM103から読み出された低露出画像及び高露出画像が入力される。信号処理部107に入力された低露出画像及び高露出画像は、低露出ガンマ変換部201及び高露出ガンマ変換部202でそれぞれガンマ変換処理が適用される。なお、本実施形態では上述したHDR画像の説明と同様に、図4(a)のような撮影シーンにおけるHDR画像の生成について説明する。また、当該HDR画像の生成において高露出ガンマ変換部202で適用されるガンマ変換処理の変換特性は、上述した説明と同様に図5(b)のような変換特性曲線が用いられるものとする。
【0030】
ガンマ変換処理が適用された低露出画像は、低露出ガンマ変換部201から基準明暗度生成部203に出力され、基準明暗度生成部203にて基準明暗度画像を生成する。基準明暗度画像とは、HDR画像を生成するために低露出画像及び高露出画像をどのように組み合わせるかを決定するための基準となる画像であり、当該基準明暗度画像の明暗度を用いて上述したような加算係数Kを決定する。なお、本実施形態では、低露出画像を基準の露出量を有する画像として用いるものとして説明するが、本発明の実施はこれに限らない。
【0031】
ここで、本実施形態における基準明暗度画像の生成方法について、図を用いてさらに説明する。本実施形態では、HDR画像における多重エッジの発生を回避するために、合成後のHDR画像内の輝度の低い領域での合成において、高露出画像におけるエッジが合成されにくくする。具体的には、基準明暗度生成部203において出力される基準明暗度画像の明暗度が、輝度の低い領域において高くなるようにする。即ち、低露出画像の加算係数が高くなるようにすることにより、輝度の低い領域と輝度の高い領域の境界付近において、被写体ぶれや撮像装置の振動により輝度の低い領域に合成され得る高露出画像のエッジの加算係数が低くなるようにする。
【0032】
このように、基準明暗度生成部203では生成されるHDR画像内の輝度の低い領域において、高露出画像のエッジの加算係数が低くなるような明暗度となるように、ガンマ変換されて得られた低露出画像の明暗度の情報を変形する。以下、本実施形態に係る基準明暗度生成部203で行われる基準明暗度画像の生成処理について、図3を用いて詳細を説明する。
【0033】
図3は基準明暗度生成部203内部で行われる処理を示した回路図であり、画像の縮小処理を行う縮小回路301、画像の拡大処理を行う拡大回路302、及びMAXフィルタ回路303を備える。
【0034】
縮小回路301は、入力された画像の縮小処理を行うが、当該縮小処理によりエイリアシング等が生じないように、予め設定されたローパスフィルタ処理(低域通過フィルタ処理)が適用された後に縮小処理を実行する。
【0035】
MAXフィルタ回路303は、入力された画像の各画素に対して、当該画素を中心とする周辺3×3画素について探索し、周辺画素のうちの最大の明度の画素値を当該画素の新たな画素値として置換する変換フィルタである。即ち、MAXフィルタ回路303により出力される画像は入力された画像に比べ、単純に明度の高い領域が上下左右に1画素分だけ拡張させられ、逆に明度の低い領域が上下左右に1画素分だけ縮減されている。
【0036】
本実施形態では、基準明暗度画像の生成に係る計算量を削減するために、基準明暗度生成部203に入力された画像に対して縮小処理あるいは拡大処理を適用して得られた画像に対してMAXフィルタ回路303における変換処理を適用させる。例えば縮小回路301において縦横それぞれの画素数を1/2倍にする縮小処理を2回適用した画像、即ち画素数が1/16倍である画像において、MAXフィルタ回路303における変換処理を適用した場合を考える。このときMAXフィルタ回路303から出力される画像は、基準明暗度生成部203に入力された画像の1/16倍の画素数の画像において明度の高い領域が上下左右に1画素分だけ拡張させられている。そして当該出力された画像に対して、拡大回路302において縦横それぞれの画素数を2倍にする拡大処理を2回適用すると、基準明暗度生成部203に入力された画像と同一の画素数を有する画像が得られ、基準明暗度生成部203は当該画像を出力する。即ち、当該基準明暗度生成部203から出力される画像において明度の高い領域は、基準明暗度生成部203に入力された画像に比べて、上下左右に4画素分だけ拡張させられていることになる。
【0037】
このように基準となる露出量を有する画像を変換することで、被写体ぶれや撮像装置の振動によってHDR画像を生成するための画像間にずれが生じていた場合であっても、輝度の低い領域において高露出画像のエッジが合成されることを回避することができる。つまり、輝度の低い領域において低露出画像の加算係数が高くなるよう、即ち当該領域において基準明暗度画像の明暗度が高くなるように、明度の高い領域を拡張して明度の低い領域を縮減する処理が基準明暗度生成部203において適用される。
【0038】
即ち、被写体ぶれや撮像装置の振動によってHDR画像を生成するための画像間に生じるずれの許容量(画素数)を予め定めておくことにより、基準明暗度生成部203で実行される処理は毎回決まった計算量とすることができる。上述した例では、画像間のずれを4画素まで許容可能な例であるが、例えば6画素まで許容する場合は、次のようにすればよい。
1.基準明暗度生成部203に入力された画像の1/16倍の画素数の画像に対してM
AXフィルタ回路303の変換処理を適用する
2.変換処理後の画像に対して拡大回路302で縦横それぞれ2倍の画素数にする拡大
処理を適用する
3.拡大処理後の画像に対してMAXフィルタ回路303の変換処理を適用する
4.2回目の変換処理後の画像に対して、拡大回路302でさらに縦横それぞれ2倍の
画素数にする拡大処理を適用する
【0039】
このようにすることで、基準明暗度生成部203から出力する画像は、明度の高い領域を任意の画素数分だけ拡張することができ、HDR画像の輝度の低い領域にエッジが多重に合成されないような基準明暗度画像を生成することができる。
【0040】
図6(a)は、基準明暗度生成部203に入力されるガンマ変換後の低露出画像の明暗度GL、縮小処理と拡大処理のみを実行して得られた画像の明暗度G’、及びMAXフィルタ回路303における変換処理により得られた画像の明暗度Gが示されている。このような場合、図6(b)及び(c)に示すように、MAXフィルタ回路303における変換処理が実行されて得られた基準明暗度画像Gは、高露出画像における輝度の低い領域と輝度の高い領域との境界(エッジ)であっても、加算係数Kは1.0となる。即ち、高露出画像のエッジが合成されることを回避でき、図6(d)のような明暗度Gを有するHDR画像を生成することができる。
【0041】
なお、本実施形態では、被写体ぶれや撮像装置の振動によってHDR画像を生成するための画像間に生じるずれの許容量を予め定めておくものとして説明したが、本発明の実施はこれに限らない。即ち、例えばジャイロセンサ等により撮像装置の振動を検出して、当該振動量に従って基準明暗度生成部203の処理を異ならせるように制御してもよいし、合成する画像間のずれを検出して基準明暗度生成部203の処理を異ならせるように制御してもよい。ジャイロセンサを用いる場合であれば、例えばジャイロセンサが出力する撮像装置の回転情報と合成する画像間の被写体のずれ量を示す画素数との関係を、製造時にあらかじめ計測しておいて、その計測結果を撮影時に適用してもよい。例えばピッチ方向の回転角が0°〜1°であれば被写体のずれ量を5画素、1°〜2°であれば10画素、3°以上であれば20画素、等として製造時の測定により決定する。また合成する画像から画像間のずれ量を示す画素数を検出する場合は、例えばパターンマッチングなど既知の技術を用いて両画像で同じ被写体像を探索し、当該被写体の動きベクトルを求めることで、ずれ量を示す画素数を検出してもよい。合成する画像間の被写体のずれ量を示す画素数が検出できれば、その画素数に応じて基準明暗度生成部203におけるずれの許容量を異ならせるように制御してもよい。例えば、検出の誤差を見込んで、検出された被写体のずれ量を示す画素数の2倍を、ずれの許容量とする。
【0042】
また、本実施形態では、MAXフィルタ回路303において適用する変換処理を、対象画素を中心とする周辺3×3画素の範囲内について探索を行うものとして説明したが、本発明の実施はこれに限らない。即ち、対象画素に対して探索を行う画素の範囲の設定方法はいかなる方法でもよく、例えば処理量は増加するが周辺5×5画素について探索を行うものとしてもよい。なお、周辺5×5画素について探索を行う場合、縮小回路301において実行される縮小処理の倍率を減らしてもよい。つまりMAXフィルタ回路303において探索を行う対象画素を中心とする範囲は、HDR画像を生成するための画像間の被写体のずれの許容量、あるいは検出されたずれ量に対して、縮小回路301でなされる縮小処理の縮小率を乗じた画素数とすればよい。
【0043】
以上説明したように、本実施形態の画像処理装置は被写体ぶれや撮像装置の振動が発生した場合であっても、自然に合成されたダイナミックレンジが拡張された画像を提供する。具体的には画像処理装置は、第1の露出量で撮像された第1の画像、及び第1の露出量よりも高い第2の露出量で撮像された第2の画像を取得する。そしてガンマ変換処理を適用した第1の画像を縮小し、当該縮小された画像の各画素について、当該画素の画素値を、当該画素を中心とする予め設定された画素数の範囲内の画素の画素値のうち、最大の画素値に変換する。さらに画素値が変換されて得られた画像を、ガンマ変換処理が適用された第1の画像の画素数まで拡大することにより、合成の基準となる第3の画像を生成する。このように生成された第3の画像の画素値に対して予め対応づけられた加算係数を用いて、第1の画像と第2の画像とを加算合成することにより、ダイナミックレンジが拡張された画像を生成する。
【0044】
このようにすることで、HDR画像の生成に使用する露出量の異なる画像を撮影中に被写体ぶれや撮像装置の振動が発生した場合であっても、輝度の低い領域において露出量の高い画像の輝度勾配により生じるエッジが合成されることを回避することができる。即ち、本実施形態の画像処理装置は、多重エッジが生じていないHDR画像を生成することができる。
【0045】
以上では、露出の異なる画像を2枚合成してHDR画像を生成する場合を説明したが、本発明は露出の異なる画像を3枚以上合成してHDR画像を生成する場合に適用してもよい。例えば露出の異なる3枚の画像G、G、G(露出量の大小関係はG<G<G)を、図10の加重加算係数K、K、Kを用いてHDR合成する場合を説明する。
【0046】
図10において縦軸は加重加算係数、横軸は最も露出が低い画像G1から生成した基準明暗度、である。つまり、いずれの加重加算係数も最も露出が低い画像G1から生成した基準明暗度を基準とする。
【0047】
まず、GとGをHDR合成して中間HDR画像G12を生成する。つまり、式1より、G12=K×G+K×G、となる。
【0048】
次に、G12とGをHDR合成して最終HDR画像Gを生成する。つまり、式1より、G=1×G12+K×G、となる。また基準明暗度画像は、中間HDR画像G12を生成した時と同じものを用いる。
【0049】
本実施の形態によれば、露出が異なる3枚以上の画像をHDR合成する場合においても基準明暗度として最低露出画像を用いるため、1枚の基準明暗度画像から、低露出から高露出まで、すべての明るさにおける加重加算係数を算出することができる。
【0050】
(実施形態2)
上述した実施形態1では、図4(a)のように輝度の高い背景の領域に対して、輝度の低い主被写体である人物の領域が存在する例について説明した。本実施形態では、図4(b)のように、例えば木漏れ日やスポット光等により、輝度の低い領域内に小規模な輝度の高い領域が存在する場合のHDR画像生成処理について説明する。
【0051】
図4(b)に示すようなシーンの場合、上述した実施形態のようにMAXフィルタ回路303における変換処理を適用することにより、小規模な輝度の高い領域は拡張されることになる。しかしながら、このように小規模な輝度の高い領域であっても、低露出画像の加算係数が高くなるようにしてしまうと、黒つぶれ画像で囲まれた小規模な領域が生成され、かえって不自然な画像という印象をユーザに与えてしまうことになる。このため本実施形態では、基準となる露出量の画像の明暗度の補正を行わないとみなす、小規模な輝度の高い領域の大きさを予め定める場合の処理について以下に示す。
【0052】
例えば明暗度の補正を行わないとみなす、小規模な輝度の高い領域の大きさを16画素として予め定め、HDR画像を生成するための画像間に生じるずれの許容量が4画素である場合は、基準明暗度生成部203において基準明暗度画像を以下のように生成する。
1.基準明暗度生成部203に入力された画像を、縮小回路301において縦横それぞ
れ1/16倍の画素数にする縮小処理を実行する
2.縮小処理後の画像に対して拡大回路302で縦横それぞれ4倍の画素数にする拡大
処理を適用する
3.拡大処理後の画像に対してMAXフィルタ回路303の変換処理を適用する
4.変換処理後の画像に対して、拡大回路302でさらに縦横それぞれ4倍の画素数に
する拡大処理を適用する
【0053】
即ち、まず縮小回路301において小規模な輝度の高い領域がない、あるいは当該領域の輝度勾配が急峻ではないとみなせる画素数まで縮小処理を実行することにより、当該領域について明暗度の補正を行わないようにすることができる。さらに基準明暗度生成部203に入力された画像に対して、縦横それぞれが1/4倍の画素数となるまで拡大処理を適用する。そして、MAXフィルタ回路303における変換処理を実行することにより、4画素までの画像間のずれを許容することができる基準明暗度画像を生成することができる。
【0054】
図7(a)は、基準明暗度生成部203に入力されるガンマ変換後の低露出画像の明暗度G、縮小処理と拡大処理のみを実行して得られた画像の明暗度G’、及びMAXフィルタ回路303における変換処理により得られた画像の明暗度Gが示されている。図からもわかるように、縮小処理によって小規模な輝度の高い領域の輝度勾配が急峻ではないとみなせるように変換されたている。このような場合、図7(b)及び(c)に示すように、MAXフィルタ回路303における変換処理が実行されて得られた基準明暗度画像Gは、輝度の高い領域において常に加算係数Kが1.0以下となる。即ち、低露出画像の黒つぶれ部分が、小規模な輝度の高い領域の周囲に合成されることを回避でき、図7(d)のような明暗度Gを有するHDR画像を生成することができる。
【0055】
このように、基準となる露出量を有する画像の明暗度の補正を行わないとみなす、小規模な輝度の高い領域があった場合においても、不自然な印象をユーザに与えないHDR画像を生成することができる。
【0056】
(実施形態3)
上述した実施形態1及び2では、ガンマ変換された低露出画像の明暗度を変換することにより、HDR画像を生成する際の各画像の加算係数を決定する方法について説明した。本実施形態では、低露出画像と高露出画像の各画素の加算係数を表す加算係数画像をそれぞれ異なる縮小率で縮小することで、それぞれで異なる空間周波数特性の加算係数画像を決定する加算係数方法について説明する。なお、本実施形態では、実施形態1と同様に図4(a)のようなシーンにおいてHDR画像を生成するものとして説明する。
【0057】
図8は、本実施形態に係る基準明暗度生成部203内部で行われる処理を示した回路図であり、画像の縮小処理を行う縮小回路301、拡大回路302、及びMAXフィルタ回路303、に加え、縮小回路801、拡大回路802、MIXフィルタ回路803、および合成係数決定回路804を備える。縮小回路801、拡大回路802は、縮小回路301、拡大回路302と同様の回路である。
【0058】
合成係数決定回路804は、ガンマ変換出力の画素値を、低露出画像と高露出画像の加算係数画像GK0とGKK0に変換する。例えば入力される低露出画像のガンマ変換出力Gが図9(a)である場合、図9(b)の変換特性により図9(c)、(d)のような加算係数画像GK0、GKK0を生成する。
【0059】
MINフィルタ回路803は、MAXフィルタ回路303とは反対に、入力された画像の各画素に対して、当該画素を中心とする周辺3×3画素について探索し、周辺画素のうちの最小の画素値を当該画素の新たな画素値として置換する変換フィルタである。即ち、MINフィルタ回路802により出力される画像は入力された画像に比べ、単純に画素値の小さい領域、即ち明度の高い領域が上下左右に1画素分だけ拡張させられ、逆に明度の低い領域が上下左右に1画素分だけ縮減されることになる。
【0060】
加算係数画像GK0は実施形態1および実施形態2の図3で説明されていた方法と同様の方法で縮小、MAXフィルタ、拡大され、加算係数画像Gが生成される。MAXフィルタを適用する画像サイズは実施形態1および実施形態2と同様の方法で決定される。例えば低露出画像において明暗度の補正を行わないとみなす、小規模な輝度の低い領域の大きさを8画素とする場合は、加算係数画像Kの縮小率は1/8とする。
【0061】
加算係数画像GKK0も同様の方法で縮小、MINフィルタ、拡大され、加算係数画像GKKが生成される。例えば高露出画像において明暗度の補正を行わないとみなす、小規模な輝度の高い領域の大きさを16画素とする場合は、加算係数画像Kの縮小率は1/16とする。
【0062】
生成された加算係数画像G、GKKは低露出画像、高露出画像の基準明暗度画像出力として合成係数決定部204に出力され、図9(e)、(f)の変換特性で加算係数K、KKに変換される。この加算係数K、KKが、合成部205で式1のK、KKとして低露出画像Gと高露出画像Gに乗算され、加算結果としてHDR画像Gが生成される。
【0063】
加算係数画像Gは、MAXフィルタ処理で生成されるので画素値が大きい領域が広がっており、高露出画像における輝度の低い領域と輝度の高い領域との境界(エッジ)であっても画素値は大きな値となっている。そのため、対応する加算係数Kもその領域で1.0となる。
【0064】
一方、加算係数画像GKKは、MINフィルタ処理で生成されるので画素値が小さい領域が広がっており、高露出画像における輝度の低い領域と輝度の高い領域との境界(エッジ)であっても画素値は小さな値となっている。そのため、対応する加算係数KKもその領域で0.0となる。
【0065】
即ち、高露出画像のエッジが合成されることを回避でき、図9(g)のような明暗度Gを有するHDR画像を生成することができる。つまり、加算係数画像Gは、実施形態1と同様に、MAXフィルタ回路303における変換処理により明度の高い領域が拡張され、加算係数画像GKKは、MINフィルタ回路803における変換処理により明度の高い領域が拡張されているため、低露出画像及び高露出画像を加算合成する領域が輝度の低い人物領域にある。このため、被写体ぶれ及び撮像装置の振動により、HDR画像を生成するための画像間にずれが生じていた場合であっても、輝度の低い領域において高露出画像のエッジが合成されることを回避することができる。
【0066】
このように低露出画像と高露出画像で加算係数画像の空間周波数特性を変化させることで、小規模な輝度の低い領域と小規模な輝度の高い領域が混在していても、補正の対象とするか否かを低露出画像と高露出画像でそれぞれ独立に制御することができる。
【0067】
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

【特許請求の範囲】
【請求項1】
第1の露出量で撮像された第1の画像、及び前記第1の露出量と異なる第2の露出量で撮像された第2の画像を取得する取得手段と、
前記第1の画像から、合成の基準となる第3の画像を生成する生成手段と、
前記第3の画像の画素値に対して予め対応づけられた加算係数を用いて、前記第1の画像と前記第2の画像とを画素ごとに加算合成する合成手段と、を備え、
前記生成手段は、
前記第1の画像の各画素について、当該画素の画素値を、当該画素を中心とする予め設定された画素数の範囲内の画素の画素値のうちの最大の画素値に変換する
ことにより、前記第3の画像を生成することを特徴とする画像処理装置。
【請求項2】
第1の露出量で撮像された第1の画像、及び前記第1の露出量と異なる第2の露出量で撮像された第2の画像を取得する取得手段と、
前記第1の画像から、合成の基準となる第3の画像を生成する生成手段と、
前記第3の画像の画素値に対して予め対応づけられた加算係数を用いて、前記第1の画像と前記第2の画像とを画素ごとに加算合成する合成手段と、を備え、
前記生成手段は、
前記第1の画像に、明るい被写体に小さい画素値を割り当てる変換を適用し、
当該変換された画像の各画素について、当該画素の画素値を、当該画素を中心とする予め設定された画素数の範囲内の画素の画素値のうちの最小の画素値に変換する
ことにより、前記第3の画像を生成することを特徴とする画像処理装置。
【請求項3】
前記第1の画像に低域通過フィルタ処理を適用し、
当該低域通過フィルタ処理が適用された画像から、第3の画像を生成することを特徴とする請求項1と請求項2に記載の画像処理装置。
【請求項4】
前記低域通過フィルタ処理は縮小処理であり、
当該縮小処理が適用された画像から、第3の画像を生成し、
当該生成された前記第3の画像を、前記撮像された第1の画像の画素数まで拡大し、
当該拡大された画像の画素値に対して予め対応づけられた加算係数を用いて、前記第1の画像と前記第2の画像とを画素ごとに加算合成することを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記第2の露出量は前記第1の露出量よりも高いことを特徴とする請求項1から請求項4のいずれか1項に記載の画像処理装置。
【請求項6】
前記予め設定された画素数は、前記取得手段により取得された第1及び第2の画像の間に生じている被写体のずれを許容する画素数に応じて決定されることを特徴とする請求項1から請求項5のいずれか1項に記載の画像処理装置。
【請求項7】
前記予め設定された画素数は、前記被写体のずれを許容する画素数に、前記第1の画像を縮小した縮小率を乗じた値により決定されることを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記取得手段により取得された第1及び第2の画像の間で、被写体のずれ量を示す画素数を検出する検出手段をさらに備え、
前記予め設定された画素数は、前記検出手段により検出された前記被写体のずれ量を示す画素数に応じて決定されることを特徴とする請求項1から請求項5のいずれか1項に記載の画像処理装置。
【請求項9】
前記予め設定された画素数は、前記被写体のずれ量を示す画素数に、前記第1の画像を縮小した縮小率を乗じた値により決定されることを特徴とする請求項8に記載の画像処理装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2012−165213(P2012−165213A)
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願番号】特願2011−24435(P2011−24435)
【出願日】平成23年2月7日(2011.2.7)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】