撮像装置及び方法
【課題】階調変換時のノイズ増幅を抑制した、ダイナミックレンジ拡大画像を得ること。
【解決手段】複数枚数の異露光撮像画像を合成して生成したダイナミックレンジ拡大画像について階調変換曲線を算出する階調変換曲線算出部14と、前記階調変換曲線からコントラスト増幅率を算出する増幅率算出部15と、前記コントラスト増幅率に基づき、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する輝度範囲選択部16と、前記異露光撮像時の露光条件のうちの前記輝度範囲に対応する露光条件と前記輝度範囲と前記コントラスト増幅率とに基づき同露光撮像回数を算出する同露光撮像回数算出部19と、を有する同露光撮像設定部9が設定した条件で同露光撮像を行い、画像合成部5が前記ダイナミックレンジ拡大画像と複数枚数の同露光撮像画像とを合成し、得られた合成画像に対して階調変換部7が階調変換を行う。
【解決手段】複数枚数の異露光撮像画像を合成して生成したダイナミックレンジ拡大画像について階調変換曲線を算出する階調変換曲線算出部14と、前記階調変換曲線からコントラスト増幅率を算出する増幅率算出部15と、前記コントラスト増幅率に基づき、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する輝度範囲選択部16と、前記異露光撮像時の露光条件のうちの前記輝度範囲に対応する露光条件と前記輝度範囲と前記コントラスト増幅率とに基づき同露光撮像回数を算出する同露光撮像回数算出部19と、を有する同露光撮像設定部9が設定した条件で同露光撮像を行い、画像合成部5が前記ダイナミックレンジ拡大画像と複数枚数の同露光撮像画像とを合成し、得られた合成画像に対して階調変換部7が階調変換を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数枚数の露光が異なる撮像画像を合成してダイナミックレンジ拡大画像を生成する撮像装置及び方法に関する。
【背景技術】
【0002】
一般に、デジタルカメラ等の撮像装置に搭載される撮像素子のダイナミックレンジが、撮像範囲(フレーム)内の全被写体(以下「シーン」と記載する)の最高輝度と最低輝度の比、即ち、シーンのダイナミックレンジより狭い場合がある。この様な場合、撮像により得られた画像(撮像画像)においては、高輝度部分では白飛びが、低輝度部分では黒つぶれが発生する。この様な撮像画像は、撮像者が観察するシーンとは異なる。
【0003】
そこで、上述の様な撮像装置のダイナミックレンジの狭小さを解決する技術が、例えば特許文献1及び2に開示されている。特許文献1は、1つのシーンに対して露光量が異なる複数枚数の撮像画像を取得し、それらを合成して1枚の画像を作成することで広いダイナミックレンジの画像を得る技術を開示している。この技術は、複数回の撮像により実質的に画像のダイナミックレンジをシーンのダイナミックレンジより広くすることで、最終的に得られる画像での高輝度部分の白飛びや低輝度部分の黒つぶれを防ぐものである。また、特許文献2は、シーンに注目する被写体(注目被写体)が存在する場合、全撮像範囲に対する適性露出で取得した全撮像範囲画像と、注目被写体に対する適正露出で取得した注目被写体画像とを得て、注目被写体画像から当該注目被写体領域の部分画像を抽出し、その抽出した部分画像を全撮像範囲画像における当該注目被写体領域の部分画像と置換することで、注目被写体とその他被写体が共に適正露光となる画像を得る技術を開示している。
【0004】
また一般に、撮像により得られた撮像画像に対して階調変換処理等の画像処理を実施することで、観察者がより自然な画像として観察できるようにした上で、保存用或いは表示等することが行われている。このとき、階調変換処理において、コントラストの増幅により低輝度部分のノイズが増幅されてしまう。そこで、このノイズ増幅の問題を解決する技術が、例えば特許文献3に開示されている。一般に同条件で撮像した画像を重ね合わせることでノイズを低減させることができる。そこで特許文献3に開示されている技術では、まず、階調変換処理において用いる階調変換曲線を微分して、コントラスト増幅率を算出し、その算出したコントラスト増幅率に基づき、同条件で撮像した画像の重ね合わせる枚数を設定する。そして、それらコントラスト増幅率に応じて設定した枚数の画像を合成する。この合成処理によって、ノイズの増幅が抑制された階調変換が行なわれる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第3394019号公報
【特許文献2】特開2008−172395号公報
【特許文献3】特開2008−60855号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
前記特許文献3に開示されているノイズ増幅抑制技術では、1回の撮像で得た1枚の画像の情報を用いてコントラスト増幅率を算出し、前記コントラスト増幅率に基づいて合成枚数を算出している。
従って、前記特許文献1又は2に開示されているダイナミックレンジを拡大する技術に、この特許文献3に開示されている技術を適用しようとすると、異なる露光条件で得た複数枚数の画像を合成して作成した1枚のダイナミックレンジ拡大画像の情報を用いてコントラスト増幅率を算出し、前記コントラスト増幅率に基づいて前記ダイナミックレンジ拡大画像の枚数を算出する必要がある。即ち、前記異なる露光条件で得た複数枚数の画像が、コントラスト増幅率に基づいて求めたセット数必要となる。しかしながら、多くの画像を得て合成画像を作成するには、例えば撮像時間、演算処理及び記憶媒体等の演算資源を多く要する。
【0007】
そこで本発明は、露光条件が異なる複数枚数の撮影撮像画像を合成しダイナミックレンジ拡大画像を生成する撮像装置及び方法において、少ない撮像枚数により、階調変換時のノイズ増幅を抑制する撮像装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
前記目的を果たすため、本発明の撮像装置の一態様は、露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得する異露光画像取得手段と、前記異露光撮像画像のそれぞれの撮像時の露光条件を記憶する露光条件記憶手段と、前記複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成するダイナミックレンジ拡大画像生成手段と、前記ダイナミックレンジ拡大画像について階調変換曲線を算出する階調変換曲線算出手段と、前記階調変換曲線からコントラスト増幅率を算出する増幅率算出手段と、前記コントラスト増幅率に基づいて、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する輝度範囲選択手段と、前記輝度範囲に対応する露光条件を前記露光条件記憶手段より読み出す露光条件読出手段と、前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出する同露光撮像回数算出手段と、前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得する同露光画像取得手段と、前記ダイナミックレンジ拡大画像に前記複数枚数の同露光撮像画像を合成して合成画像を生成する画像合成手段と、前記合成画像に対し前記階調変換曲線に基づき階調変換を行う階調変換手段と、を備えることを特徴とする。
【0009】
また、前記目的を果たすため、本発明の撮像方法の一態様は、撮像手段によって露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得し、前記異露光撮像画像撮像時の露光条件を記憶手段に記憶し、前記複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成し、前記ダイナミックレンジ拡大画像について階調変換曲線を算出し、前記階調変換曲線からコントラスト増幅率を算出し、前記コントラスト増幅率に基づいて、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択し、前記輝度範囲に対応する露光条件を前記記憶手段より読み出し、前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出し、前記撮像手段によって前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得し、前記ダイナミックレンジ拡大画像に前記複数枚数の同露光撮像画像を合成して合成画像を生成し、前記合成画像に対し前記階調変換曲線に基づき階調変換を行うことを特徴とする。
【発明の効果】
【0010】
本発明によれば、露光条件が異なる複数枚数の撮像画像を合成しダイナミックレンジ拡大画像を生成する撮像装置及び方法において、ダイナミックレンジ拡大画像より求めたコントラスト増幅率が高い特定の輝度範囲に対応する露光条件で複数枚数の同露光撮像画像を取得し、それらとダイナミックレンジ拡大画像とを合成した上で階調変換を行うので、少ない撮像枚数により、階調変換時のノイズ増幅を抑制する撮像装置及び方法を提供することができる。
【図面の簡単な説明】
【0011】
【図1】本発明に係る撮像装置の一実施形態を示すブロック構成図。
【図2】撮像装置のダイナミックレンジと、シーンのダイナミックレンジの関係の一例を示す図。
【図3】撮像装置のダイナミックレンジと、シーンのダイナミックレンジの関係の一例を示す図。
【図4】入力及び出力がそれぞれ8ビットの場合の階調変換曲線の一例を示す図。
【図5】ヒストグラムに基づいた階調変換曲線の算出方法の例を示す図。
【図6】入力画像輝度値Iinに対するコントラスト増幅率Rの関係の例を示す図。
【図7】コントラスト増幅率R及び閾値Zと、特定領域Aとの関係を示す図。
【図8】輝度範囲選択部の構成例を示すブロック図。
【図9】コントラスト増幅率Rとノイズ量Noiとの積及び閾値Lと、特定領域Aとの関係を示す図。
【図10】コントラスト増幅率Rに応じて閾値Zを設定し特定される、特定領域Aにおける同露光撮像回数PFの算出例を示す図。
【図11】特定領域Aが複数の露光条件を含む場合における同露光撮像の露光条件と撮像回数の例を示す図。
【発明を実施するための形態】
【0012】
以下、本発明の一実施形態について図面を参照して説明する。図1は、本発明に係る撮像装置の一実施形態を示すブロック構成図である。図1に示す撮像装置は、撮像部1と、撮像制御部2と、撮像設定部3と、画像取得部4と、画像合成部5と、合成画像記憶部6と、階調変換部7と、異露光撮像設定部8と、同露光撮像設定部9とを具備する。前記異露光撮像設定部8は、ダイナミックレンジ推定部10と、シーン輝度取得部11と、ダイナミックレンジ算出部12と、異露光撮像回数算出部13とを有する。前記同露光撮像設定部9は、階調変換曲線算出部14と、増幅率算出部15と、輝度範囲選択部16と、露光条件記憶部17と、露光条件読出部18と、同露光撮像回数算出部19とを有する。
【0013】
撮像設定部3は露光条件を設定し、それを撮像制御部2に出力する。撮像制御部2は、撮像設定部3から入力された条件に基づき撮像部1を制御する。撮像部1は、撮像光学系1A、絞り1B、シャッター1C、撮像素子1D、A/D変換器1Eを有しており、撮像制御部2により制御され撮像動作をする。また、撮像設定部3及び撮像制御部2により露光条件を変更することが可能であり、撮像部1は、1枚以上の露光が異なる画像(以下、「異露光撮像画像」と称する)を取得できる。尚、本実施形態においては、撮像部1における撮像素子1DはRGB原色系であり、A/D変換器1Eによる信号の階調幅をBビットとする。
【0014】
撮像手段としての撮像部1は、画像取得部4に、少なくとも1枚の撮像し得られた画像(撮像画像)を出力する。画像取得部4は、図示しない画像記憶部を含むものであり、撮像部1から入力された撮像画像を前記画像記憶部に記憶する。尚、画像取得部4は、階調幅Bビットの映像信号を、必要な枚数記憶できる。このように、撮像部1、撮像制御部2、撮像設定部3及び画像取得部4は、例えば、露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得する異露光画像取得手段として機能する。
【0015】
一方、異露光撮像設定部8においては、ダイナミックレンジ推定部10は、撮像部1に内包される撮像素子1Dのダイナミックレンジを取得し、前記撮像素子1Dにて撮像される映像のRGB信号のうち、最小信号値Vmin及び最大信号値Vmaxを取得する。また、ダイナミックレンジ推定部10は、撮像部1におけるISO感度ISO、絞り値F、シャッター速度T等の露光条件に関わる撮像情報を取得する。ダイナミックレンジ推定部10は、これらを用いてAPEX単位で定義される信号値BVの最小値BVminISO及び最大値BVmaxISOを、次の式(1)により算出する。
【数1】
ここで、bitは撮像画像におけるデジタル信号変換時のビット精度であり、j及びkはそれぞれ映像信号をBV値に変換する際の補正係数である。
【0016】
該ダイナミックレンジ推定部10は、更に、前記BVminISO及びBVmaxISOを用いて、最小輝度値BminISO及び最大輝度値BmaxISOを、次の式(2)により算出する。
【数2】
ここでN及びKはそれぞれ定数である。
【0017】
そして、該ダイナミックレンジ推定部10は、撮像素子1Dのダイナミックレンジに相応する輝度範囲ΔBを当該撮像装置のダイナミックレンジと見做すものとして前記算出した撮像画像の最小輝度値BminISO及び最大輝度値BmaxISOを用いて、当該撮像装置のダイナミックレンジΔBを、次の式(3)により算出する。
【数3】
【0018】
また、前記式(3)により算出する撮像装置のダイナミックレンジΔBは、次の式(4)の様に、デシベル値DR_ΔBとしてもよい。
【数4】
【0019】
また、ダイナミックレンジ推定部10は、撮像装置のダイナミックレンジを記憶する図示しないダイナミックレンジ記憶部を備え、予めダイナミックレンジ測定用チャート等を撮像して撮像装置のダイナミックレンジの推定値を求めて、該ダイナミックレンジ記憶部に記憶しておいても良い。これにより、ダイナミックレンジ推定部10は、ダイナミックレンジ拡大画像生成の度に撮像装置のダイナミックレンジΔBを算出しなくても、予め記憶された撮像装置のダイナミックレンジの推定値を読み出し利用することができる。
【0020】
ダイナミックレンジ推定部10は、こうして算出した又は予め記憶した撮像装置のダイナミックレンジΔBを、異露光撮像回数算出部13に出力する。
また、シーン輝度取得部11は、図示しないAEセンサ等によりシーンの輝度値Eを測定し、それをダイナミックレンジ算出部12に出力する。ダイナミックレンジ算出部12は、シーン輝度取得部11から入力された輝度値Eの最小値Emin及び最大値Emaxを用いて、シーンのダイナミックレンジΔEを、次の式(5)により算出する。
【数5】
【0021】
また、前記式(5)により算出されるシーンのダイナミックレンジΔEは、次の式(6)の様に、デシベル値DR_ΔEとしてもよい。
【数6】
【0022】
ダイナミックレンジ算出部12は、こうして算出したシーンのダイナミックレンジΔEを、異露光撮像回数算出部13に出力する。
異露光撮像回数算出部13は、前記ダイナミックレンジ推定部10から入力された撮像装置のダイナミックレンジΔBと、前記ダイナミックレンジ算出部12から入力されたシーンのダイナミックレンジΔEとに基づいて、撮像装置のダイナミックレンジΔBを偏移させることでシーンのダイナミックレンジΔEの範囲の画像情報を取得するために必要な撮像装置のダイナミックレンジΔBの範囲の数、即ち必要な異露光撮像画像の枚数(異露光撮像回数DF)を、次の式(7)により算出する。
【数7】
【0023】
図2は、シーンのダイナミックレンジΔEと撮像装置のダイナミックレンジΔB及び異露光撮像回数DFとの関係の一例を示す図である。図2は、輝度値の高い範囲から順に、範囲が重ならない様に撮像装置のダイナミックレンジΔBを異露光撮像ごとに偏移させ、シーンのダイナミックレンジΔEより広い輝度範囲の画像情報を得ることを示している。
【0024】
あるいは、前述の異露光撮像回数算出部13による異露光撮像回数DFの算出においては、図3に示す様に重複する輝度範囲Xを含む様に算出してもよい。図3は、シーンのダイナミックレンジΔEと撮像装置のダイナミックレンジΔB及び異露光撮像回数DFとの関係の一例を示す図であり、輝度値の高い範囲から順に、範囲が重なる様に撮像装置のダイナミックレンジΔBを異露光撮像ごとに偏移させ、シーンのダイナミックレンジΔEより広い輝度範囲の画像情報を得ることを示している。この場合、異露光撮像回数DFは、次の式(8)により算出する。
【数8】
【0025】
異露光撮像回数算出部13は、こうして算出した異露光撮像回数DFを、撮像設定部3に出力する。撮像設定部3は、この異露光撮像回数算出部13から入力された異露光撮像画像回数DFに基づいて撮像条件(ISO感度、絞り値、シャッター速度)を設定し、撮像制御部2に、その設定した撮像条件を出力する。撮像制御部2は、この撮像設定部3から入力された撮像条件に基づき、撮像部1を制御する。撮像部1は、撮像制御部2の制御下でDF回の異露光撮像を行う。撮像部1は、画像取得部4に、DF回の異露光撮像により得られたDF枚の異露光撮像画像を出力する。
【0026】
画像取得部4は、それら撮像部1から入力されたDF枚の異露光撮像画像を図示しない画像記憶部に記憶する。画像取得部4は、画像合成部5に、それら記憶したDF枚の異露光撮像画像を出力する。画像合成部5は、それら画像取得部4が出力するDF枚の異露光撮像画像の画像信号に対し、公知の動きベクトルを用いたマッチング処理等で、DF枚の異露光撮像画像の位置合わせをする。次に、画像合成部5は、DF枚の異露光撮像画像の同座標の画素値を合成する画像合成処理を行い、ダイナミックレンジ拡大画像を生成する。合成方法は単純加算でも良いし、次の式(9)の様に、重み付け加算でも良い。
【数9】
【0027】
ここで、Iは合成後の画像信号、Iiはi枚目の画像信号、αiは重み付け係数を示す。重み付け加算を行うことにより、単純加算の場合より撮像者が観察するシーンに近い画像を作成することができる。このように、画像合成部5は、例えば、複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成するダイナミックレンジ拡大画像生成手段として機能する。また、重み付け加算を行なう場合には、画像合成部5は、例えば、複数枚数の異露光撮像画像の輝度値に基づいて重み付け係数を算出する重み付け算出手段として、及び、前記重み付け係数に基づき複数枚数の異露光撮像画像の重み付け加算を行う加算手段として機能する。画像合成部5は、合成画像記憶部6に、この生成したダイナミックレンジ拡大画像を出力する。合成画像記憶部6は、この画像合成部5から入力されたダイナミックレンジ拡大画像を記憶する。
【0028】
該合成画像記憶部6は、階調変換曲線算出部14からの要求に応じて、その階調変換曲線算出部14に、記憶しているダイナミックレンジ拡大画像を出力する。階調変換曲線算出部14は、この合成画像記憶部6から入力されたダイナミックレンジ拡大画像に基づいて、階調変換曲線を算出する。即ち、この階調変換曲線算出部14は、例えば、ダイナミックレンジ拡大画像について階調変換曲線を算出する階調変換曲線算出手段として機能する。この階調変換曲線は、階調変換処理における入力画像輝度値Iinと出力画像輝度値Qとの関係を示す曲線である。図4は、入力及び出力がそれぞれ8ビットの場合の階調変換曲線の一例を示す図である。
【0029】
階調変換曲線は、予め作成し、階調変換曲線算出部14内の図示しない記憶手段に記憶し、同じく階調変換曲線算出部14内の図示しない読出し部によって読み出すことで算出することができる。階調変換曲線を予め作成し記憶しておけば、撮影時にはそれを読み出せば良いので、撮像時の処理負荷が軽減される。このように、階調変換曲線算出部14内の図示しない記憶手段は、例えば、撮像装置において予め設定された階調変換曲線を記憶する階調変換曲線記憶手段として機能し、階調変換曲線算出部14内の図示しない読出し部は、例えば、前記階調変換曲線記憶手段より階調変換曲線を読み出す階調変換曲線読出手段として機能する。
【0030】
あるいは、階調変換曲線は、ダイナミックレンジ拡大画像信号Iから算出しても良い。そのようにダイナミックレンジ拡大画像信号Iから階調変換曲線を算出する場合、階調変換曲線算出部14は、特に図示はしないが、例えば、ヒストグラム算出部、クリッピング部、累積値算出部を備える。
【0031】
ヒストグラム算出部は、ダイナミックレンジ拡大画像信号Iから、図5(a)に示すようなヒストグラムを算出する。このヒストグラムは、対象とする画像について横軸に画素の輝度値を示し、縦軸に当該輝度値である画素の数又は割合で表される頻度を示す。このように、階調変換曲線算出部14内の図示しないヒストグラム算出部は、例えば、ダイナミックレンジ拡大画像からヒストグラムを算出するヒストグラム算出手段として機能する。
【0032】
クリッピング部は、図5(a)に破線で示すような所定の頻度をクリップ値としてクリップ処理を行い、図5(b)に示すようなヒストグラムを作成する。このように、階調変換曲線算出部14内の図示しないクリッピング部は、例えば、前記ヒストグラムに対してクリップ処理を行うクリッピング手段として機能する。
【0033】
累積算出部は、このクリップ処理後のヒストグラムから画素の頻度を累積処理して階調変換曲線を算出する。このように、階調変換曲線算出部14内の図示しない累積算出部は、例えば、前記クリップ処理が行われたヒストグラムの累積値を算出する累積値算出手段として機能する。また、クリップ処理を行なわずに、直接、ヒストグラム算出部で算出したヒストグラムから画素の頻度を累積処理して階調変換曲線を算出するようにしても構わない。図5(c)において、実線は、クリップ処理前のヒストグラムから算出した階調変換曲線を、破線は、クリップ処理後のヒストグラムから算出した階調変換曲線を、それぞれ示している。本実施形態では、図5(c)の実線で示した階調変換曲線と破線で示した階調変換曲線のいずれの階調変換曲線を用いても良い。シーン毎にヒストグラムを用いて階調変換曲線を算出する場合は、予め作成し記憶しておいた階調変換曲線を用いる場合と異なり、シーン毎に適切な階調変換曲線が得られるため、コントラストを強調しすぎない適切な階調変換を行うことができる。
【0034】
一般に階調変換処理の際、例えば図4又は図5(c)に示した階調変換曲線において入力画像輝度値Iinが低い部分で認められる様な、階調変換曲線の傾きが大きい急激な階調変換を行うとノイズが増幅される。そこで本実施形態では、同条件で撮像した複数枚数の画像を合成することで、このノイズの増幅を抑制する。
【0035】
ここで、本実施形態で用いるノイズ増幅の抑制方法の原理を簡単に説明する。画像の信号値をS、ノイズをNとすると、2枚の画像を合成した場合の信号値S’及びノイズN’は次の式(10)で表される。
【数10】
【0036】
このように、信号値は2倍になるのに対して、ノイズは2倍ではなくてルート2倍の増加に抑えられる。従って、2枚の画像を合成した場合の合成信号のSN比は、次の式(11)の様に算出される。
【数11】
【0037】
前記式(11)の右辺第1項は元の1枚の画像信号のSN比と同じであり、同式右辺第2項の分だけ、元の1枚の画像信号のSN比より、2枚の画像を合成した画像信号のSN比の方が高くなる。同様に、より多くの画像を合成した画像は、よりSN比が向上する。
【0038】
本実施形態では、ダイナミックレンジ拡大画像に対する階調変換処理でノイズが増幅する場合、同露光条件で撮像する複数枚数の画像(以下、「同露光撮像画像」と称する)を合成することでノイズを低減させる。
このため、階調変換曲線算出部14は、増幅率算出部15に、前述の算出した階調変換曲線を出力する。増幅率算出部15は、この階調変換曲線算出部14から入力された階調変換曲線を微分してコントラスト増幅率Rを算出する。このように、増幅率算出部15は、例えば、階調変換曲線からコントラスト増幅率を算出する増幅率算出手段として機能する。ここでコントラスト増幅率Rは、階調変換曲線の微分値であり、階調変換時の入力画像輝度値に対する出力画像輝度値の増幅率を表す。図6は、入力画像輝度値Iinに対するコントラスト増幅率Rの関係の例を示す図である。
【0039】
増幅率算出部15は、輝度範囲選択部16に、算出したコントラスト増幅率Rを出力する。輝度範囲選択部16は、この増幅率算出部15から入力されたコントラスト増幅率Rに関する閾値Zを設定し、それら入力されたコントラスト増幅率Rと設定した閾値Zとが次の式(12)の条件を満たす時、ノイズが増幅されると判断する。
【数12】
【0040】
即ち、輝度範囲選択部16は、前記式(12)における条件を満たす輝度範囲を、特定領域Aとして選択する。図7は、これらコントラスト増幅率R及び閾値Zと、特定領域Aとの関係を示す図である。このように、輝度範囲選択部16は、例えば、コントラスト増幅率に基づいて、ダイナミックレンジ拡大画像における特定の輝度範囲を選択する輝度範囲選択手段として機能する。即ち、輝度範囲選択部16は、例えば、コントラスト増幅率における閾値を設定する閾値設定手段と、前記コントラスト増幅率と前記閾値とを比較してダイナミックレンジ拡大画像における特定の輝度範囲を選択する選択手段としての機能を果たす。
【0041】
この時、輝度範囲選択部16は、露光条件読出部18を介して記憶手段としての露光条件記憶部17から、前記特定領域Aに対応する輝度範囲撮像時の絞り値、シャッター速度、ISO感度等の露光条件に関わる設定値を読み出す。即ち、露光条件記憶部17は、露光条件読出部18の要求に応じて、その露光条件読出部18に対し記憶している露光条件を出力し、露光条件読出部18は、この露光条件記憶部17から入力された露光条件を輝度範囲選択部16に出力する。このように、露光条件記憶部17は、例えば、異露光撮像画像のそれぞれの撮像時の露光条件を記憶する露光条件記憶手段として機能し、露光条件読出部18は、例えば、前記輝度範囲に対応する露光条件を露光条件記憶手段より読み出す露光条件読出手段として機能する。
【0042】
また、輝度範囲選択部16は、合成画像記憶部6に記憶された前記ダイナミックレンジ拡大画像を読み出し、下記の様にダイナミックレンジ拡大画像におけるノイズ量を算出し、これを用いて特定領域Aを選択しても良い。
この場合、輝度範囲選択部16は、図8に示す通り、バッファ部20と、局所領域抽出部21と、ノイズ量算出部22と、算出部23と、輝度範囲特定部24とにより構成する。
【0043】
バッファ部20は、合成画像記憶部6から入力される前記ダイナミックレンジ拡大画像信号Iを記憶する。該バッファ部20は、局所領域抽出部21の要求に応じて、その局所領域抽出部21に、記憶しているダイナミックレンジ拡大画像信号Iを出力する。局所領域抽出部21は、そのバッファ部20から入力されたダイナミックレンジ拡大画像信号Iから、注目画素を中心とする例えば5×5の局所領域を抽出する。この局所領域の抽出は、ダイナミックレンジ拡大画像I全体に対して行っても良いし、指定された領域についてのみ行っても良い。局所領域抽出部21は、ノイズ量算出部22に、抽出した局所領域の情報を出力する。ノイズ量算出部22は、その局所領域抽出部21から入力された局所領域の情報を用いて、ノイズ量を算出する。ある注目画素νにおけるノイズ量Nνは、例えば局所領域における信号の平均値Sνに対する関数として、次の式(13)により算出する。
【数13】
ここで、α、β、γはそれぞれ定数である。
【0044】
前記式(13)の関数以外にも、ノイズ量Nνは、入力信号に対するノイズ量についてルックアップテーブル(LUT)を用いて算出しても良いし、局所領域の信号に対する標準偏差をノイズ量Nνとしても良い。
【0045】
ノイズ量算出部22は、ダイナミックレンジ拡大画像I全体又は指定された領域の各画素を注目画素としてそれぞれに対して前記処理を行い、算出部23に、算出した画素毎のノイズ量を出力する。算出部23は、そのノイズ量算出部22から入力された画素毎のノイズ量用いて、当該ダイナミックレンジ拡大画像信号全体のノイズ量Noiを次の式(14)により算出する。
【数14】
【0046】
ここで、Mは総画素数を表す。ダイナミックレンジ拡大画像信号全体のノイズ量Noiを算出するにあたっては、前記式(14)の単純加算以外にも、領域による重み付け加算を用いても良い。このように、局所領域抽出部21、ノイズ量算出部22及び算出部23は、例えば、ダイナミックレンジ拡大画像からノイズ量を算出するノイズ量算出手段として機能する。即ち、局所領域抽出部21は、例えば、ダイナミックレンジ拡大画像の注目画素を中心とする局所領域を抽出する局所領域抽出手段として機能し、ノイズ量算出部22は、例えば、局所領域中の画像に対してノイズ量を算出する局所領域ノイズ量算出手段として機能し、算出部23は、例えば、局所領域中のノイズ量を用いて前記ダイナミックレンジ拡大画像全体のノイズ量を算出する算出手段として機能する。
【0047】
算出部23は、輝度範囲特定部24に、算出したノイズ量Noiを出力する。輝度範囲特定部24は、前記増幅率算出部15から入力されたコントラスト増幅率R、前記算出部23から入力されたノイズ量Noi及び閾値Lを用いて次の式(15)の条件を満たす時、ノイズが増幅されると判断する。
【数15】
【0048】
即ち、輝度範囲特定部24は、前記式(15)における条件を満たす輝度範囲を、特定領域Aとして選択する。図9は、コントラスト増幅率Rとノイズ量Noiとの積及び図示しない輝度範囲選択部16内の閾値設定部が設定する閾値Lと、特定領域Aとの関係を示す図である。このように、輝度範囲特定部24は、例えば、閾値を設定する閾値設定手段として、及び、前記コントラスト増幅率及び前記ノイズ量を用いて算出した値と、前記閾値とを比較してダイナミックレンジ拡大画像における特定の輝度範囲を選択する選択手段として機能する。
【0049】
輝度範囲選択部16は、同露光撮像回数算出部19に、選択された特定領域Aの輝度範囲情報を出力する。同露光撮像回数算出部19は、この輝度範囲選択部16から入力された特定領域Aの輝度範囲情報に基づき、前記輝度範囲の露光条件で行う同露光撮像の回数を算出する。このように、同露光撮像回数算出部19は、前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出する同露光撮像回数算出手段として機能する。
【0050】
図10は、閾値Zを設定しコントラスト増幅率Rより特定される特定領域Aの輝度範囲の露光条件で行う同露光撮像画像回数PFの算出方法の例を示す図である。同露光撮像回数算出部19は、前記増幅率算出部15よりコントラスト増幅率Rを取得し、同露光撮像回数算出部19内の図示しない代表輝度値算出部は、前記特定領域Aの輝度範囲における入力画像輝度値の平均値である代表輝度値IAを算出し、同露光撮像回数算出部19内の図示しない代表輝度値増幅率算出部は、代表輝度値IAに対応するコントラスト増幅率RAを用いて、同露光撮像回数PFを次の式(16)により算出する。
【数16】
【0051】
ここで、C1及びC2はそれぞれ定数であり、撮像装置の構成によって設定される整数である。本実施形態においてはC1=C2=1とする。同露光撮像回数算出部19は、撮像設定部3に、こうして算出した同露光撮像回数PFを出力する。このように、同露光撮像回数算出部19内の図示しない代表輝度値算出部は、例えば、前記特定輝度範囲から代表輝度値を算出する代表輝度値算出手段として機能し、同じく同露光撮像回数算出部19内の図示しない代表輝度値増幅率算出部は、例えば、前記代表輝度値に対する増幅率を算出する代表輝度値増幅率算出手段として機能する。
【0052】
撮像設定部3は、同露光撮像を行う特定領域Aの露光条件を、露光条件読出部18を介して前記露光条件記憶部17から読み出す。即ち、露光条件記憶部17は、露光条件読出部18の要求に応じて、その露光条件読出部18に対し記憶している同露光撮像を行う特定領域Aの露光条件を出力し、露光条件読出部18は、その露光条件記憶部17が出力する同露光撮像を行う特定領域Aの露光条件を撮像設定部3に出力する。撮像設定部3は、この露光条件読出部18からの入力される特定領域Aの露光条件と、前記同露光撮像回数算出部19から入力される同露光撮像回数PFとを合わせて撮像条件を設定する。撮像設定部3は、撮像制御部2に、その設定した撮像条件を出力する。撮像制御部2は、その撮像設定部3から入力された撮像条件に基づき、撮像部1を制御する。撮像部1は、撮像制御部2の制御下でPF回の同露光撮像を行う。以上の処理により、前記コントラスト増幅率に基づいて選択された前記ダイナミックレンジ拡大画像における特定の輝度範囲に対応する異露光撮像における露光条件を用いて、PF回の同露光撮像を行う。
【0053】
撮像部1は、画像取得部4に、PF回の同露光撮像により得られるPF枚の同露光撮像画像を出力する。画像取得部4は、これらの撮像部1から入力されるPF枚の同露光撮像画像を図示しない画像記憶部に記憶する。このように、撮像部1、撮像制御部2、撮像設定部3及び画像取得部4は、例えば、前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得する同露光画像取得手段として機能する。
【0054】
この時、図11に示す例のように、前記特定領域Aが撮像装置のダイナミックレンジΔB以上であり複数の露光条件A1及びA2を含むものであった場合には、前記算出された同露光撮像回数PFについて、例えば、露光条件A1について入力画像輝度値の代表輝度値IA1を、露光条件A2について入力画像輝度値の代表輝度値IA2をそれぞれ算出し、代表輝度値IA1及びIA2にそれぞれ対応するコントラスト増幅率RA1及びRA2を用いて、次の式(17)の様に、前記同露光撮像回数PFを複数露光条件の数H各々に適宜割り振り、露光条件A1でPF1回(図11の例では3回)、露光条件A2でPF2回(図11の例では2回)の撮像を行っても良い。この割り振りは、撮像装置の構成によって設定される。
【数17】
【0055】
画像取得部4は、画像合成部5に、記憶したPF枚の同露光撮像画像を出力する。また、前記合成画像記憶部6は、画像合成部5に、記憶しているダイナミックレンジ拡大画像を出力する。画像合成部5は、それら画像取得部4から入力されたPF枚の同露光撮像画像の画像信号と、合成画像記憶部6から入力されたダイナミックレンジ拡大画像との合成画像を生成する。このように、画像合成部5は、例えば、ダイナミックレンジ拡大画像に複数枚数の同露光撮像画像を合成して合成画像を生成する画像合成手段として機能する。
【0056】
画像合成部5は、階調変換部7に、その生成した前記PF枚の同露光撮像画像とダイナミックレンジ拡大画像との合成画像を出力する。また、前記階調変換曲線算出部14は、階調変換部7に、算出したダイナミックレンジ拡大画像に対して適正な階調変換曲線を出力する。階調変換部7は、その階調変換曲線算出部14から入力された階調変換曲線に基づいて、画像合成部5から入力された前記合成画像の階調変換処理を行う。そして、階調変換部7は、最終的なダイナミックレンジ拡大画像として、この階調変換された合成画像を出力する。このように、階調変換部7は、例えば、合成画像に対し階調変換曲線に基づき階調変換を行う階調変換手段として機能する。
【0057】
このダイナミックレンジが拡大され階調変換された階調変換部7からの出力画像は、図示しない記録媒体に記録されたり、図示しないインタフェースを介して表示装置や印刷装置等の外部出力装置で出力されたり、あるいは図示しないインタフェースを介してネットワーク上の記憶装置等に記憶されたりすることができる。
【0058】
以上のような本実施形態に係る撮像装置によれば、露光量が異なる複数枚数の画像を合成し生成されるダイナミックレンジ拡大画像において、コントラスト増幅率Rが高い特定領域AについてPF枚の同露光撮像画像を取得して合成することで、少ない撮像枚数により、階調変換処理により増幅されるノイズの影響を低減させることができ、撮像者が観察するシーンと同様に広いダイナミックレンジを有しかつノイズが少ない画像を提供することができる。
【0059】
また、図7を参照して説明した通り、コントラスト増幅率Rに基づいて、ノイズが増幅される特定領域Aを決定することで、ノイズ増幅が懸念される輝度範囲を高精度に選択することができる。さらに、図8及び9を参照して説明した通り、ノイズ量を算出しこれを用いて特定領域Aを決定することで、ノイズ増幅が懸念される輝度範囲をさらに高精度に選択することができる。この時、局所領域毎のノイズ量を算出することにより、各画素のノイズ量を正確に算出することができる。
【0060】
また、特定領域Aに含まれる輝度を撮影した露光条件についてのみ同露光撮像を行うことによって、異露光撮像時の異なる露光条件の個々について同露光撮像を行う場合に比し撮像回数及び得られた画像の処理を低減することができる。前記同露光撮像を実行するために、露光条件は露光条件記憶部17に記憶され、その条件は露光条件読出部18を介して読み出される。
【0061】
尚、本発明は前記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、前記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除しても、発明が解決しようとする課題の欄で述べられた課題が解決でき、かつ、発明の効果が得られる場合には、この構成要素が削除された構成も発明として抽出され得る。
【符号の説明】
【0062】
1…撮像部、2…撮像制御部、3…撮像設定部、4…画像取得部、5…画像合成部、6…合成画像記憶部、7…階調変換部、8…異露光撮像設定部、9…同露光撮像設定部、10…ダイナミックレンジ推定部、11…シーン輝度取得部、12…ダイナミックレンジ算出部、13…異露光撮像回数算出部、14…階調変換曲線算出部、15…増幅率算出部、16…輝度範囲選択部、17…露光条件記憶部、18…露光条件読出部、19…同露光撮像回数算出部、20…バッファ部、21…局所領域抽出部、22…ノイズ量算出部、23…算出部、24…輝度範囲特定部。
【技術分野】
【0001】
本発明は、複数枚数の露光が異なる撮像画像を合成してダイナミックレンジ拡大画像を生成する撮像装置及び方法に関する。
【背景技術】
【0002】
一般に、デジタルカメラ等の撮像装置に搭載される撮像素子のダイナミックレンジが、撮像範囲(フレーム)内の全被写体(以下「シーン」と記載する)の最高輝度と最低輝度の比、即ち、シーンのダイナミックレンジより狭い場合がある。この様な場合、撮像により得られた画像(撮像画像)においては、高輝度部分では白飛びが、低輝度部分では黒つぶれが発生する。この様な撮像画像は、撮像者が観察するシーンとは異なる。
【0003】
そこで、上述の様な撮像装置のダイナミックレンジの狭小さを解決する技術が、例えば特許文献1及び2に開示されている。特許文献1は、1つのシーンに対して露光量が異なる複数枚数の撮像画像を取得し、それらを合成して1枚の画像を作成することで広いダイナミックレンジの画像を得る技術を開示している。この技術は、複数回の撮像により実質的に画像のダイナミックレンジをシーンのダイナミックレンジより広くすることで、最終的に得られる画像での高輝度部分の白飛びや低輝度部分の黒つぶれを防ぐものである。また、特許文献2は、シーンに注目する被写体(注目被写体)が存在する場合、全撮像範囲に対する適性露出で取得した全撮像範囲画像と、注目被写体に対する適正露出で取得した注目被写体画像とを得て、注目被写体画像から当該注目被写体領域の部分画像を抽出し、その抽出した部分画像を全撮像範囲画像における当該注目被写体領域の部分画像と置換することで、注目被写体とその他被写体が共に適正露光となる画像を得る技術を開示している。
【0004】
また一般に、撮像により得られた撮像画像に対して階調変換処理等の画像処理を実施することで、観察者がより自然な画像として観察できるようにした上で、保存用或いは表示等することが行われている。このとき、階調変換処理において、コントラストの増幅により低輝度部分のノイズが増幅されてしまう。そこで、このノイズ増幅の問題を解決する技術が、例えば特許文献3に開示されている。一般に同条件で撮像した画像を重ね合わせることでノイズを低減させることができる。そこで特許文献3に開示されている技術では、まず、階調変換処理において用いる階調変換曲線を微分して、コントラスト増幅率を算出し、その算出したコントラスト増幅率に基づき、同条件で撮像した画像の重ね合わせる枚数を設定する。そして、それらコントラスト増幅率に応じて設定した枚数の画像を合成する。この合成処理によって、ノイズの増幅が抑制された階調変換が行なわれる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第3394019号公報
【特許文献2】特開2008−172395号公報
【特許文献3】特開2008−60855号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
前記特許文献3に開示されているノイズ増幅抑制技術では、1回の撮像で得た1枚の画像の情報を用いてコントラスト増幅率を算出し、前記コントラスト増幅率に基づいて合成枚数を算出している。
従って、前記特許文献1又は2に開示されているダイナミックレンジを拡大する技術に、この特許文献3に開示されている技術を適用しようとすると、異なる露光条件で得た複数枚数の画像を合成して作成した1枚のダイナミックレンジ拡大画像の情報を用いてコントラスト増幅率を算出し、前記コントラスト増幅率に基づいて前記ダイナミックレンジ拡大画像の枚数を算出する必要がある。即ち、前記異なる露光条件で得た複数枚数の画像が、コントラスト増幅率に基づいて求めたセット数必要となる。しかしながら、多くの画像を得て合成画像を作成するには、例えば撮像時間、演算処理及び記憶媒体等の演算資源を多く要する。
【0007】
そこで本発明は、露光条件が異なる複数枚数の撮影撮像画像を合成しダイナミックレンジ拡大画像を生成する撮像装置及び方法において、少ない撮像枚数により、階調変換時のノイズ増幅を抑制する撮像装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
前記目的を果たすため、本発明の撮像装置の一態様は、露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得する異露光画像取得手段と、前記異露光撮像画像のそれぞれの撮像時の露光条件を記憶する露光条件記憶手段と、前記複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成するダイナミックレンジ拡大画像生成手段と、前記ダイナミックレンジ拡大画像について階調変換曲線を算出する階調変換曲線算出手段と、前記階調変換曲線からコントラスト増幅率を算出する増幅率算出手段と、前記コントラスト増幅率に基づいて、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する輝度範囲選択手段と、前記輝度範囲に対応する露光条件を前記露光条件記憶手段より読み出す露光条件読出手段と、前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出する同露光撮像回数算出手段と、前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得する同露光画像取得手段と、前記ダイナミックレンジ拡大画像に前記複数枚数の同露光撮像画像を合成して合成画像を生成する画像合成手段と、前記合成画像に対し前記階調変換曲線に基づき階調変換を行う階調変換手段と、を備えることを特徴とする。
【0009】
また、前記目的を果たすため、本発明の撮像方法の一態様は、撮像手段によって露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得し、前記異露光撮像画像撮像時の露光条件を記憶手段に記憶し、前記複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成し、前記ダイナミックレンジ拡大画像について階調変換曲線を算出し、前記階調変換曲線からコントラスト増幅率を算出し、前記コントラスト増幅率に基づいて、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択し、前記輝度範囲に対応する露光条件を前記記憶手段より読み出し、前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出し、前記撮像手段によって前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得し、前記ダイナミックレンジ拡大画像に前記複数枚数の同露光撮像画像を合成して合成画像を生成し、前記合成画像に対し前記階調変換曲線に基づき階調変換を行うことを特徴とする。
【発明の効果】
【0010】
本発明によれば、露光条件が異なる複数枚数の撮像画像を合成しダイナミックレンジ拡大画像を生成する撮像装置及び方法において、ダイナミックレンジ拡大画像より求めたコントラスト増幅率が高い特定の輝度範囲に対応する露光条件で複数枚数の同露光撮像画像を取得し、それらとダイナミックレンジ拡大画像とを合成した上で階調変換を行うので、少ない撮像枚数により、階調変換時のノイズ増幅を抑制する撮像装置及び方法を提供することができる。
【図面の簡単な説明】
【0011】
【図1】本発明に係る撮像装置の一実施形態を示すブロック構成図。
【図2】撮像装置のダイナミックレンジと、シーンのダイナミックレンジの関係の一例を示す図。
【図3】撮像装置のダイナミックレンジと、シーンのダイナミックレンジの関係の一例を示す図。
【図4】入力及び出力がそれぞれ8ビットの場合の階調変換曲線の一例を示す図。
【図5】ヒストグラムに基づいた階調変換曲線の算出方法の例を示す図。
【図6】入力画像輝度値Iinに対するコントラスト増幅率Rの関係の例を示す図。
【図7】コントラスト増幅率R及び閾値Zと、特定領域Aとの関係を示す図。
【図8】輝度範囲選択部の構成例を示すブロック図。
【図9】コントラスト増幅率Rとノイズ量Noiとの積及び閾値Lと、特定領域Aとの関係を示す図。
【図10】コントラスト増幅率Rに応じて閾値Zを設定し特定される、特定領域Aにおける同露光撮像回数PFの算出例を示す図。
【図11】特定領域Aが複数の露光条件を含む場合における同露光撮像の露光条件と撮像回数の例を示す図。
【発明を実施するための形態】
【0012】
以下、本発明の一実施形態について図面を参照して説明する。図1は、本発明に係る撮像装置の一実施形態を示すブロック構成図である。図1に示す撮像装置は、撮像部1と、撮像制御部2と、撮像設定部3と、画像取得部4と、画像合成部5と、合成画像記憶部6と、階調変換部7と、異露光撮像設定部8と、同露光撮像設定部9とを具備する。前記異露光撮像設定部8は、ダイナミックレンジ推定部10と、シーン輝度取得部11と、ダイナミックレンジ算出部12と、異露光撮像回数算出部13とを有する。前記同露光撮像設定部9は、階調変換曲線算出部14と、増幅率算出部15と、輝度範囲選択部16と、露光条件記憶部17と、露光条件読出部18と、同露光撮像回数算出部19とを有する。
【0013】
撮像設定部3は露光条件を設定し、それを撮像制御部2に出力する。撮像制御部2は、撮像設定部3から入力された条件に基づき撮像部1を制御する。撮像部1は、撮像光学系1A、絞り1B、シャッター1C、撮像素子1D、A/D変換器1Eを有しており、撮像制御部2により制御され撮像動作をする。また、撮像設定部3及び撮像制御部2により露光条件を変更することが可能であり、撮像部1は、1枚以上の露光が異なる画像(以下、「異露光撮像画像」と称する)を取得できる。尚、本実施形態においては、撮像部1における撮像素子1DはRGB原色系であり、A/D変換器1Eによる信号の階調幅をBビットとする。
【0014】
撮像手段としての撮像部1は、画像取得部4に、少なくとも1枚の撮像し得られた画像(撮像画像)を出力する。画像取得部4は、図示しない画像記憶部を含むものであり、撮像部1から入力された撮像画像を前記画像記憶部に記憶する。尚、画像取得部4は、階調幅Bビットの映像信号を、必要な枚数記憶できる。このように、撮像部1、撮像制御部2、撮像設定部3及び画像取得部4は、例えば、露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得する異露光画像取得手段として機能する。
【0015】
一方、異露光撮像設定部8においては、ダイナミックレンジ推定部10は、撮像部1に内包される撮像素子1Dのダイナミックレンジを取得し、前記撮像素子1Dにて撮像される映像のRGB信号のうち、最小信号値Vmin及び最大信号値Vmaxを取得する。また、ダイナミックレンジ推定部10は、撮像部1におけるISO感度ISO、絞り値F、シャッター速度T等の露光条件に関わる撮像情報を取得する。ダイナミックレンジ推定部10は、これらを用いてAPEX単位で定義される信号値BVの最小値BVminISO及び最大値BVmaxISOを、次の式(1)により算出する。
【数1】
ここで、bitは撮像画像におけるデジタル信号変換時のビット精度であり、j及びkはそれぞれ映像信号をBV値に変換する際の補正係数である。
【0016】
該ダイナミックレンジ推定部10は、更に、前記BVminISO及びBVmaxISOを用いて、最小輝度値BminISO及び最大輝度値BmaxISOを、次の式(2)により算出する。
【数2】
ここでN及びKはそれぞれ定数である。
【0017】
そして、該ダイナミックレンジ推定部10は、撮像素子1Dのダイナミックレンジに相応する輝度範囲ΔBを当該撮像装置のダイナミックレンジと見做すものとして前記算出した撮像画像の最小輝度値BminISO及び最大輝度値BmaxISOを用いて、当該撮像装置のダイナミックレンジΔBを、次の式(3)により算出する。
【数3】
【0018】
また、前記式(3)により算出する撮像装置のダイナミックレンジΔBは、次の式(4)の様に、デシベル値DR_ΔBとしてもよい。
【数4】
【0019】
また、ダイナミックレンジ推定部10は、撮像装置のダイナミックレンジを記憶する図示しないダイナミックレンジ記憶部を備え、予めダイナミックレンジ測定用チャート等を撮像して撮像装置のダイナミックレンジの推定値を求めて、該ダイナミックレンジ記憶部に記憶しておいても良い。これにより、ダイナミックレンジ推定部10は、ダイナミックレンジ拡大画像生成の度に撮像装置のダイナミックレンジΔBを算出しなくても、予め記憶された撮像装置のダイナミックレンジの推定値を読み出し利用することができる。
【0020】
ダイナミックレンジ推定部10は、こうして算出した又は予め記憶した撮像装置のダイナミックレンジΔBを、異露光撮像回数算出部13に出力する。
また、シーン輝度取得部11は、図示しないAEセンサ等によりシーンの輝度値Eを測定し、それをダイナミックレンジ算出部12に出力する。ダイナミックレンジ算出部12は、シーン輝度取得部11から入力された輝度値Eの最小値Emin及び最大値Emaxを用いて、シーンのダイナミックレンジΔEを、次の式(5)により算出する。
【数5】
【0021】
また、前記式(5)により算出されるシーンのダイナミックレンジΔEは、次の式(6)の様に、デシベル値DR_ΔEとしてもよい。
【数6】
【0022】
ダイナミックレンジ算出部12は、こうして算出したシーンのダイナミックレンジΔEを、異露光撮像回数算出部13に出力する。
異露光撮像回数算出部13は、前記ダイナミックレンジ推定部10から入力された撮像装置のダイナミックレンジΔBと、前記ダイナミックレンジ算出部12から入力されたシーンのダイナミックレンジΔEとに基づいて、撮像装置のダイナミックレンジΔBを偏移させることでシーンのダイナミックレンジΔEの範囲の画像情報を取得するために必要な撮像装置のダイナミックレンジΔBの範囲の数、即ち必要な異露光撮像画像の枚数(異露光撮像回数DF)を、次の式(7)により算出する。
【数7】
【0023】
図2は、シーンのダイナミックレンジΔEと撮像装置のダイナミックレンジΔB及び異露光撮像回数DFとの関係の一例を示す図である。図2は、輝度値の高い範囲から順に、範囲が重ならない様に撮像装置のダイナミックレンジΔBを異露光撮像ごとに偏移させ、シーンのダイナミックレンジΔEより広い輝度範囲の画像情報を得ることを示している。
【0024】
あるいは、前述の異露光撮像回数算出部13による異露光撮像回数DFの算出においては、図3に示す様に重複する輝度範囲Xを含む様に算出してもよい。図3は、シーンのダイナミックレンジΔEと撮像装置のダイナミックレンジΔB及び異露光撮像回数DFとの関係の一例を示す図であり、輝度値の高い範囲から順に、範囲が重なる様に撮像装置のダイナミックレンジΔBを異露光撮像ごとに偏移させ、シーンのダイナミックレンジΔEより広い輝度範囲の画像情報を得ることを示している。この場合、異露光撮像回数DFは、次の式(8)により算出する。
【数8】
【0025】
異露光撮像回数算出部13は、こうして算出した異露光撮像回数DFを、撮像設定部3に出力する。撮像設定部3は、この異露光撮像回数算出部13から入力された異露光撮像画像回数DFに基づいて撮像条件(ISO感度、絞り値、シャッター速度)を設定し、撮像制御部2に、その設定した撮像条件を出力する。撮像制御部2は、この撮像設定部3から入力された撮像条件に基づき、撮像部1を制御する。撮像部1は、撮像制御部2の制御下でDF回の異露光撮像を行う。撮像部1は、画像取得部4に、DF回の異露光撮像により得られたDF枚の異露光撮像画像を出力する。
【0026】
画像取得部4は、それら撮像部1から入力されたDF枚の異露光撮像画像を図示しない画像記憶部に記憶する。画像取得部4は、画像合成部5に、それら記憶したDF枚の異露光撮像画像を出力する。画像合成部5は、それら画像取得部4が出力するDF枚の異露光撮像画像の画像信号に対し、公知の動きベクトルを用いたマッチング処理等で、DF枚の異露光撮像画像の位置合わせをする。次に、画像合成部5は、DF枚の異露光撮像画像の同座標の画素値を合成する画像合成処理を行い、ダイナミックレンジ拡大画像を生成する。合成方法は単純加算でも良いし、次の式(9)の様に、重み付け加算でも良い。
【数9】
【0027】
ここで、Iは合成後の画像信号、Iiはi枚目の画像信号、αiは重み付け係数を示す。重み付け加算を行うことにより、単純加算の場合より撮像者が観察するシーンに近い画像を作成することができる。このように、画像合成部5は、例えば、複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成するダイナミックレンジ拡大画像生成手段として機能する。また、重み付け加算を行なう場合には、画像合成部5は、例えば、複数枚数の異露光撮像画像の輝度値に基づいて重み付け係数を算出する重み付け算出手段として、及び、前記重み付け係数に基づき複数枚数の異露光撮像画像の重み付け加算を行う加算手段として機能する。画像合成部5は、合成画像記憶部6に、この生成したダイナミックレンジ拡大画像を出力する。合成画像記憶部6は、この画像合成部5から入力されたダイナミックレンジ拡大画像を記憶する。
【0028】
該合成画像記憶部6は、階調変換曲線算出部14からの要求に応じて、その階調変換曲線算出部14に、記憶しているダイナミックレンジ拡大画像を出力する。階調変換曲線算出部14は、この合成画像記憶部6から入力されたダイナミックレンジ拡大画像に基づいて、階調変換曲線を算出する。即ち、この階調変換曲線算出部14は、例えば、ダイナミックレンジ拡大画像について階調変換曲線を算出する階調変換曲線算出手段として機能する。この階調変換曲線は、階調変換処理における入力画像輝度値Iinと出力画像輝度値Qとの関係を示す曲線である。図4は、入力及び出力がそれぞれ8ビットの場合の階調変換曲線の一例を示す図である。
【0029】
階調変換曲線は、予め作成し、階調変換曲線算出部14内の図示しない記憶手段に記憶し、同じく階調変換曲線算出部14内の図示しない読出し部によって読み出すことで算出することができる。階調変換曲線を予め作成し記憶しておけば、撮影時にはそれを読み出せば良いので、撮像時の処理負荷が軽減される。このように、階調変換曲線算出部14内の図示しない記憶手段は、例えば、撮像装置において予め設定された階調変換曲線を記憶する階調変換曲線記憶手段として機能し、階調変換曲線算出部14内の図示しない読出し部は、例えば、前記階調変換曲線記憶手段より階調変換曲線を読み出す階調変換曲線読出手段として機能する。
【0030】
あるいは、階調変換曲線は、ダイナミックレンジ拡大画像信号Iから算出しても良い。そのようにダイナミックレンジ拡大画像信号Iから階調変換曲線を算出する場合、階調変換曲線算出部14は、特に図示はしないが、例えば、ヒストグラム算出部、クリッピング部、累積値算出部を備える。
【0031】
ヒストグラム算出部は、ダイナミックレンジ拡大画像信号Iから、図5(a)に示すようなヒストグラムを算出する。このヒストグラムは、対象とする画像について横軸に画素の輝度値を示し、縦軸に当該輝度値である画素の数又は割合で表される頻度を示す。このように、階調変換曲線算出部14内の図示しないヒストグラム算出部は、例えば、ダイナミックレンジ拡大画像からヒストグラムを算出するヒストグラム算出手段として機能する。
【0032】
クリッピング部は、図5(a)に破線で示すような所定の頻度をクリップ値としてクリップ処理を行い、図5(b)に示すようなヒストグラムを作成する。このように、階調変換曲線算出部14内の図示しないクリッピング部は、例えば、前記ヒストグラムに対してクリップ処理を行うクリッピング手段として機能する。
【0033】
累積算出部は、このクリップ処理後のヒストグラムから画素の頻度を累積処理して階調変換曲線を算出する。このように、階調変換曲線算出部14内の図示しない累積算出部は、例えば、前記クリップ処理が行われたヒストグラムの累積値を算出する累積値算出手段として機能する。また、クリップ処理を行なわずに、直接、ヒストグラム算出部で算出したヒストグラムから画素の頻度を累積処理して階調変換曲線を算出するようにしても構わない。図5(c)において、実線は、クリップ処理前のヒストグラムから算出した階調変換曲線を、破線は、クリップ処理後のヒストグラムから算出した階調変換曲線を、それぞれ示している。本実施形態では、図5(c)の実線で示した階調変換曲線と破線で示した階調変換曲線のいずれの階調変換曲線を用いても良い。シーン毎にヒストグラムを用いて階調変換曲線を算出する場合は、予め作成し記憶しておいた階調変換曲線を用いる場合と異なり、シーン毎に適切な階調変換曲線が得られるため、コントラストを強調しすぎない適切な階調変換を行うことができる。
【0034】
一般に階調変換処理の際、例えば図4又は図5(c)に示した階調変換曲線において入力画像輝度値Iinが低い部分で認められる様な、階調変換曲線の傾きが大きい急激な階調変換を行うとノイズが増幅される。そこで本実施形態では、同条件で撮像した複数枚数の画像を合成することで、このノイズの増幅を抑制する。
【0035】
ここで、本実施形態で用いるノイズ増幅の抑制方法の原理を簡単に説明する。画像の信号値をS、ノイズをNとすると、2枚の画像を合成した場合の信号値S’及びノイズN’は次の式(10)で表される。
【数10】
【0036】
このように、信号値は2倍になるのに対して、ノイズは2倍ではなくてルート2倍の増加に抑えられる。従って、2枚の画像を合成した場合の合成信号のSN比は、次の式(11)の様に算出される。
【数11】
【0037】
前記式(11)の右辺第1項は元の1枚の画像信号のSN比と同じであり、同式右辺第2項の分だけ、元の1枚の画像信号のSN比より、2枚の画像を合成した画像信号のSN比の方が高くなる。同様に、より多くの画像を合成した画像は、よりSN比が向上する。
【0038】
本実施形態では、ダイナミックレンジ拡大画像に対する階調変換処理でノイズが増幅する場合、同露光条件で撮像する複数枚数の画像(以下、「同露光撮像画像」と称する)を合成することでノイズを低減させる。
このため、階調変換曲線算出部14は、増幅率算出部15に、前述の算出した階調変換曲線を出力する。増幅率算出部15は、この階調変換曲線算出部14から入力された階調変換曲線を微分してコントラスト増幅率Rを算出する。このように、増幅率算出部15は、例えば、階調変換曲線からコントラスト増幅率を算出する増幅率算出手段として機能する。ここでコントラスト増幅率Rは、階調変換曲線の微分値であり、階調変換時の入力画像輝度値に対する出力画像輝度値の増幅率を表す。図6は、入力画像輝度値Iinに対するコントラスト増幅率Rの関係の例を示す図である。
【0039】
増幅率算出部15は、輝度範囲選択部16に、算出したコントラスト増幅率Rを出力する。輝度範囲選択部16は、この増幅率算出部15から入力されたコントラスト増幅率Rに関する閾値Zを設定し、それら入力されたコントラスト増幅率Rと設定した閾値Zとが次の式(12)の条件を満たす時、ノイズが増幅されると判断する。
【数12】
【0040】
即ち、輝度範囲選択部16は、前記式(12)における条件を満たす輝度範囲を、特定領域Aとして選択する。図7は、これらコントラスト増幅率R及び閾値Zと、特定領域Aとの関係を示す図である。このように、輝度範囲選択部16は、例えば、コントラスト増幅率に基づいて、ダイナミックレンジ拡大画像における特定の輝度範囲を選択する輝度範囲選択手段として機能する。即ち、輝度範囲選択部16は、例えば、コントラスト増幅率における閾値を設定する閾値設定手段と、前記コントラスト増幅率と前記閾値とを比較してダイナミックレンジ拡大画像における特定の輝度範囲を選択する選択手段としての機能を果たす。
【0041】
この時、輝度範囲選択部16は、露光条件読出部18を介して記憶手段としての露光条件記憶部17から、前記特定領域Aに対応する輝度範囲撮像時の絞り値、シャッター速度、ISO感度等の露光条件に関わる設定値を読み出す。即ち、露光条件記憶部17は、露光条件読出部18の要求に応じて、その露光条件読出部18に対し記憶している露光条件を出力し、露光条件読出部18は、この露光条件記憶部17から入力された露光条件を輝度範囲選択部16に出力する。このように、露光条件記憶部17は、例えば、異露光撮像画像のそれぞれの撮像時の露光条件を記憶する露光条件記憶手段として機能し、露光条件読出部18は、例えば、前記輝度範囲に対応する露光条件を露光条件記憶手段より読み出す露光条件読出手段として機能する。
【0042】
また、輝度範囲選択部16は、合成画像記憶部6に記憶された前記ダイナミックレンジ拡大画像を読み出し、下記の様にダイナミックレンジ拡大画像におけるノイズ量を算出し、これを用いて特定領域Aを選択しても良い。
この場合、輝度範囲選択部16は、図8に示す通り、バッファ部20と、局所領域抽出部21と、ノイズ量算出部22と、算出部23と、輝度範囲特定部24とにより構成する。
【0043】
バッファ部20は、合成画像記憶部6から入力される前記ダイナミックレンジ拡大画像信号Iを記憶する。該バッファ部20は、局所領域抽出部21の要求に応じて、その局所領域抽出部21に、記憶しているダイナミックレンジ拡大画像信号Iを出力する。局所領域抽出部21は、そのバッファ部20から入力されたダイナミックレンジ拡大画像信号Iから、注目画素を中心とする例えば5×5の局所領域を抽出する。この局所領域の抽出は、ダイナミックレンジ拡大画像I全体に対して行っても良いし、指定された領域についてのみ行っても良い。局所領域抽出部21は、ノイズ量算出部22に、抽出した局所領域の情報を出力する。ノイズ量算出部22は、その局所領域抽出部21から入力された局所領域の情報を用いて、ノイズ量を算出する。ある注目画素νにおけるノイズ量Nνは、例えば局所領域における信号の平均値Sνに対する関数として、次の式(13)により算出する。
【数13】
ここで、α、β、γはそれぞれ定数である。
【0044】
前記式(13)の関数以外にも、ノイズ量Nνは、入力信号に対するノイズ量についてルックアップテーブル(LUT)を用いて算出しても良いし、局所領域の信号に対する標準偏差をノイズ量Nνとしても良い。
【0045】
ノイズ量算出部22は、ダイナミックレンジ拡大画像I全体又は指定された領域の各画素を注目画素としてそれぞれに対して前記処理を行い、算出部23に、算出した画素毎のノイズ量を出力する。算出部23は、そのノイズ量算出部22から入力された画素毎のノイズ量用いて、当該ダイナミックレンジ拡大画像信号全体のノイズ量Noiを次の式(14)により算出する。
【数14】
【0046】
ここで、Mは総画素数を表す。ダイナミックレンジ拡大画像信号全体のノイズ量Noiを算出するにあたっては、前記式(14)の単純加算以外にも、領域による重み付け加算を用いても良い。このように、局所領域抽出部21、ノイズ量算出部22及び算出部23は、例えば、ダイナミックレンジ拡大画像からノイズ量を算出するノイズ量算出手段として機能する。即ち、局所領域抽出部21は、例えば、ダイナミックレンジ拡大画像の注目画素を中心とする局所領域を抽出する局所領域抽出手段として機能し、ノイズ量算出部22は、例えば、局所領域中の画像に対してノイズ量を算出する局所領域ノイズ量算出手段として機能し、算出部23は、例えば、局所領域中のノイズ量を用いて前記ダイナミックレンジ拡大画像全体のノイズ量を算出する算出手段として機能する。
【0047】
算出部23は、輝度範囲特定部24に、算出したノイズ量Noiを出力する。輝度範囲特定部24は、前記増幅率算出部15から入力されたコントラスト増幅率R、前記算出部23から入力されたノイズ量Noi及び閾値Lを用いて次の式(15)の条件を満たす時、ノイズが増幅されると判断する。
【数15】
【0048】
即ち、輝度範囲特定部24は、前記式(15)における条件を満たす輝度範囲を、特定領域Aとして選択する。図9は、コントラスト増幅率Rとノイズ量Noiとの積及び図示しない輝度範囲選択部16内の閾値設定部が設定する閾値Lと、特定領域Aとの関係を示す図である。このように、輝度範囲特定部24は、例えば、閾値を設定する閾値設定手段として、及び、前記コントラスト増幅率及び前記ノイズ量を用いて算出した値と、前記閾値とを比較してダイナミックレンジ拡大画像における特定の輝度範囲を選択する選択手段として機能する。
【0049】
輝度範囲選択部16は、同露光撮像回数算出部19に、選択された特定領域Aの輝度範囲情報を出力する。同露光撮像回数算出部19は、この輝度範囲選択部16から入力された特定領域Aの輝度範囲情報に基づき、前記輝度範囲の露光条件で行う同露光撮像の回数を算出する。このように、同露光撮像回数算出部19は、前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出する同露光撮像回数算出手段として機能する。
【0050】
図10は、閾値Zを設定しコントラスト増幅率Rより特定される特定領域Aの輝度範囲の露光条件で行う同露光撮像画像回数PFの算出方法の例を示す図である。同露光撮像回数算出部19は、前記増幅率算出部15よりコントラスト増幅率Rを取得し、同露光撮像回数算出部19内の図示しない代表輝度値算出部は、前記特定領域Aの輝度範囲における入力画像輝度値の平均値である代表輝度値IAを算出し、同露光撮像回数算出部19内の図示しない代表輝度値増幅率算出部は、代表輝度値IAに対応するコントラスト増幅率RAを用いて、同露光撮像回数PFを次の式(16)により算出する。
【数16】
【0051】
ここで、C1及びC2はそれぞれ定数であり、撮像装置の構成によって設定される整数である。本実施形態においてはC1=C2=1とする。同露光撮像回数算出部19は、撮像設定部3に、こうして算出した同露光撮像回数PFを出力する。このように、同露光撮像回数算出部19内の図示しない代表輝度値算出部は、例えば、前記特定輝度範囲から代表輝度値を算出する代表輝度値算出手段として機能し、同じく同露光撮像回数算出部19内の図示しない代表輝度値増幅率算出部は、例えば、前記代表輝度値に対する増幅率を算出する代表輝度値増幅率算出手段として機能する。
【0052】
撮像設定部3は、同露光撮像を行う特定領域Aの露光条件を、露光条件読出部18を介して前記露光条件記憶部17から読み出す。即ち、露光条件記憶部17は、露光条件読出部18の要求に応じて、その露光条件読出部18に対し記憶している同露光撮像を行う特定領域Aの露光条件を出力し、露光条件読出部18は、その露光条件記憶部17が出力する同露光撮像を行う特定領域Aの露光条件を撮像設定部3に出力する。撮像設定部3は、この露光条件読出部18からの入力される特定領域Aの露光条件と、前記同露光撮像回数算出部19から入力される同露光撮像回数PFとを合わせて撮像条件を設定する。撮像設定部3は、撮像制御部2に、その設定した撮像条件を出力する。撮像制御部2は、その撮像設定部3から入力された撮像条件に基づき、撮像部1を制御する。撮像部1は、撮像制御部2の制御下でPF回の同露光撮像を行う。以上の処理により、前記コントラスト増幅率に基づいて選択された前記ダイナミックレンジ拡大画像における特定の輝度範囲に対応する異露光撮像における露光条件を用いて、PF回の同露光撮像を行う。
【0053】
撮像部1は、画像取得部4に、PF回の同露光撮像により得られるPF枚の同露光撮像画像を出力する。画像取得部4は、これらの撮像部1から入力されるPF枚の同露光撮像画像を図示しない画像記憶部に記憶する。このように、撮像部1、撮像制御部2、撮像設定部3及び画像取得部4は、例えば、前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得する同露光画像取得手段として機能する。
【0054】
この時、図11に示す例のように、前記特定領域Aが撮像装置のダイナミックレンジΔB以上であり複数の露光条件A1及びA2を含むものであった場合には、前記算出された同露光撮像回数PFについて、例えば、露光条件A1について入力画像輝度値の代表輝度値IA1を、露光条件A2について入力画像輝度値の代表輝度値IA2をそれぞれ算出し、代表輝度値IA1及びIA2にそれぞれ対応するコントラスト増幅率RA1及びRA2を用いて、次の式(17)の様に、前記同露光撮像回数PFを複数露光条件の数H各々に適宜割り振り、露光条件A1でPF1回(図11の例では3回)、露光条件A2でPF2回(図11の例では2回)の撮像を行っても良い。この割り振りは、撮像装置の構成によって設定される。
【数17】
【0055】
画像取得部4は、画像合成部5に、記憶したPF枚の同露光撮像画像を出力する。また、前記合成画像記憶部6は、画像合成部5に、記憶しているダイナミックレンジ拡大画像を出力する。画像合成部5は、それら画像取得部4から入力されたPF枚の同露光撮像画像の画像信号と、合成画像記憶部6から入力されたダイナミックレンジ拡大画像との合成画像を生成する。このように、画像合成部5は、例えば、ダイナミックレンジ拡大画像に複数枚数の同露光撮像画像を合成して合成画像を生成する画像合成手段として機能する。
【0056】
画像合成部5は、階調変換部7に、その生成した前記PF枚の同露光撮像画像とダイナミックレンジ拡大画像との合成画像を出力する。また、前記階調変換曲線算出部14は、階調変換部7に、算出したダイナミックレンジ拡大画像に対して適正な階調変換曲線を出力する。階調変換部7は、その階調変換曲線算出部14から入力された階調変換曲線に基づいて、画像合成部5から入力された前記合成画像の階調変換処理を行う。そして、階調変換部7は、最終的なダイナミックレンジ拡大画像として、この階調変換された合成画像を出力する。このように、階調変換部7は、例えば、合成画像に対し階調変換曲線に基づき階調変換を行う階調変換手段として機能する。
【0057】
このダイナミックレンジが拡大され階調変換された階調変換部7からの出力画像は、図示しない記録媒体に記録されたり、図示しないインタフェースを介して表示装置や印刷装置等の外部出力装置で出力されたり、あるいは図示しないインタフェースを介してネットワーク上の記憶装置等に記憶されたりすることができる。
【0058】
以上のような本実施形態に係る撮像装置によれば、露光量が異なる複数枚数の画像を合成し生成されるダイナミックレンジ拡大画像において、コントラスト増幅率Rが高い特定領域AについてPF枚の同露光撮像画像を取得して合成することで、少ない撮像枚数により、階調変換処理により増幅されるノイズの影響を低減させることができ、撮像者が観察するシーンと同様に広いダイナミックレンジを有しかつノイズが少ない画像を提供することができる。
【0059】
また、図7を参照して説明した通り、コントラスト増幅率Rに基づいて、ノイズが増幅される特定領域Aを決定することで、ノイズ増幅が懸念される輝度範囲を高精度に選択することができる。さらに、図8及び9を参照して説明した通り、ノイズ量を算出しこれを用いて特定領域Aを決定することで、ノイズ増幅が懸念される輝度範囲をさらに高精度に選択することができる。この時、局所領域毎のノイズ量を算出することにより、各画素のノイズ量を正確に算出することができる。
【0060】
また、特定領域Aに含まれる輝度を撮影した露光条件についてのみ同露光撮像を行うことによって、異露光撮像時の異なる露光条件の個々について同露光撮像を行う場合に比し撮像回数及び得られた画像の処理を低減することができる。前記同露光撮像を実行するために、露光条件は露光条件記憶部17に記憶され、その条件は露光条件読出部18を介して読み出される。
【0061】
尚、本発明は前記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、前記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除しても、発明が解決しようとする課題の欄で述べられた課題が解決でき、かつ、発明の効果が得られる場合には、この構成要素が削除された構成も発明として抽出され得る。
【符号の説明】
【0062】
1…撮像部、2…撮像制御部、3…撮像設定部、4…画像取得部、5…画像合成部、6…合成画像記憶部、7…階調変換部、8…異露光撮像設定部、9…同露光撮像設定部、10…ダイナミックレンジ推定部、11…シーン輝度取得部、12…ダイナミックレンジ算出部、13…異露光撮像回数算出部、14…階調変換曲線算出部、15…増幅率算出部、16…輝度範囲選択部、17…露光条件記憶部、18…露光条件読出部、19…同露光撮像回数算出部、20…バッファ部、21…局所領域抽出部、22…ノイズ量算出部、23…算出部、24…輝度範囲特定部。
【特許請求の範囲】
【請求項1】
露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得する異露光画像取得手段と、
前記異露光撮像画像のそれぞれの撮像時の露光条件を記憶する露光条件記憶手段と、
前記複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成するダイナミックレンジ拡大画像生成手段と、
前記ダイナミックレンジ拡大画像について階調変換曲線を算出する階調変換曲線算出手段と、
前記階調変換曲線からコントラスト増幅率を算出する増幅率算出手段と、
前記コントラスト増幅率に基づいて、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する輝度範囲選択手段と、
前記輝度範囲に対応する露光条件を前記露光条件記憶手段より読み出す露光条件読出手段と、
前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出する同露光撮像回数算出手段と、
前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得する同露光画像取得手段と、
前記ダイナミックレンジ拡大画像に前記複数枚数の同露光撮像画像を合成して合成画像を生成する画像合成手段と、
前記合成画像に対し前記階調変換曲線に基づき階調変換を行う階調変換手段と、
を備えることを特徴とする撮像装置。
【請求項2】
前記輝度範囲選択手段は、
前記コントラスト増幅率における閾値を設定する閾値設定手段と、
前記コントラスト増幅率と前記閾値とを比較して前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する選択手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記輝度範囲選択手段は、
閾値を設定する閾値設定手段と、
前記ダイナミックレンジ拡大画像からノイズ量を算出するノイズ量算出手段と、
前記コントラスト増幅率及び前記ノイズ量を用いて算出した値と、前記閾値とを比較して前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する選択手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記ノイズ量算出手段は、
前記ダイナミックレンジ拡大画像の注目画素を中心とする局所領域を抽出する局所領域抽出手段と、
前記局所領域中の画像に対してノイズ量を算出する局所領域ノイズ量算出手段と、
前記局所領域中のノイズ量を用いて前記ダイナミックレンジ拡大画像全体のノイズ量を算出する算出手段と、
を備えることを特徴とする請求項3に記載の撮像装置。
【請求項5】
前記階調変換曲線算出手段は、
前記撮像装置において予め設定された階調変換曲線を記憶する階調変換曲線記憶手段と、
前記階調変換曲線記憶手段より階調変換曲線を読み出す階調変換曲線読出手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項6】
前記階調変換曲線算出手段は、
前記ダイナミックレンジ拡大画像からヒストグラムを算出するヒストグラム算出手段と、
前記ヒストグラムに対してクリップ処理を行うクリッピング手段と、
前記クリップ処理が行われたヒストグラムの累積値を算出する累積値算出手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項7】
前記露光条件は、絞り値、シャッター速度及びISO感度を含むことを特徴とする請求項1に記載の撮像装置。
【請求項8】
前記ダイナミックレンジ拡大画像生成手段は、
前記複数枚数の異露光撮像画像の輝度値に基づいて重み付け係数を算出する重み付け算出手段と、
前記重み付け係数に基づき前記複数枚数の異露光撮像画像の重み付け加算を行う加算手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項9】
前記同露光画像取得手段は、
前記特定輝度範囲から代表輝度値を算出する代表輝度値算出手段と、
前記代表輝度値に対する増幅率を算出する代表輝度値増幅率算出手段と、
を備え、
前記同露光撮像回数算出手段は、前記代表輝度値及び前記代表輝度値に対する増幅率を用いて同露光撮像回数を算出する
ことを特徴とする請求項1に記載の撮像装置。
【請求項10】
撮像手段によって露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得し、
前記異露光撮像画像撮像時の露光条件を記憶手段に記憶し、
前記複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成し、
前記ダイナミックレンジ拡大画像について階調変換曲線を算出し、
前記階調変換曲線からコントラスト増幅率を算出し、
前記コントラスト増幅率に基づいて、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択し、
前記輝度範囲に対応する露光条件を前記記憶手段より読み出し、
前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出し、
前記撮像手段によって前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得し、
前記ダイナミックレンジ拡大画像に前記複数枚数の同露光撮像画像を合成して合成画像を生成し、
前記合成画像に対し前記階調変換曲線に基づき階調変換を行う
ことを特徴とする撮像方法。
【請求項1】
露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得する異露光画像取得手段と、
前記異露光撮像画像のそれぞれの撮像時の露光条件を記憶する露光条件記憶手段と、
前記複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成するダイナミックレンジ拡大画像生成手段と、
前記ダイナミックレンジ拡大画像について階調変換曲線を算出する階調変換曲線算出手段と、
前記階調変換曲線からコントラスト増幅率を算出する増幅率算出手段と、
前記コントラスト増幅率に基づいて、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する輝度範囲選択手段と、
前記輝度範囲に対応する露光条件を前記露光条件記憶手段より読み出す露光条件読出手段と、
前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出する同露光撮像回数算出手段と、
前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得する同露光画像取得手段と、
前記ダイナミックレンジ拡大画像に前記複数枚数の同露光撮像画像を合成して合成画像を生成する画像合成手段と、
前記合成画像に対し前記階調変換曲線に基づき階調変換を行う階調変換手段と、
を備えることを特徴とする撮像装置。
【請求項2】
前記輝度範囲選択手段は、
前記コントラスト増幅率における閾値を設定する閾値設定手段と、
前記コントラスト増幅率と前記閾値とを比較して前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する選択手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記輝度範囲選択手段は、
閾値を設定する閾値設定手段と、
前記ダイナミックレンジ拡大画像からノイズ量を算出するノイズ量算出手段と、
前記コントラスト増幅率及び前記ノイズ量を用いて算出した値と、前記閾値とを比較して前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択する選択手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記ノイズ量算出手段は、
前記ダイナミックレンジ拡大画像の注目画素を中心とする局所領域を抽出する局所領域抽出手段と、
前記局所領域中の画像に対してノイズ量を算出する局所領域ノイズ量算出手段と、
前記局所領域中のノイズ量を用いて前記ダイナミックレンジ拡大画像全体のノイズ量を算出する算出手段と、
を備えることを特徴とする請求項3に記載の撮像装置。
【請求項5】
前記階調変換曲線算出手段は、
前記撮像装置において予め設定された階調変換曲線を記憶する階調変換曲線記憶手段と、
前記階調変換曲線記憶手段より階調変換曲線を読み出す階調変換曲線読出手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項6】
前記階調変換曲線算出手段は、
前記ダイナミックレンジ拡大画像からヒストグラムを算出するヒストグラム算出手段と、
前記ヒストグラムに対してクリップ処理を行うクリッピング手段と、
前記クリップ処理が行われたヒストグラムの累積値を算出する累積値算出手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項7】
前記露光条件は、絞り値、シャッター速度及びISO感度を含むことを特徴とする請求項1に記載の撮像装置。
【請求項8】
前記ダイナミックレンジ拡大画像生成手段は、
前記複数枚数の異露光撮像画像の輝度値に基づいて重み付け係数を算出する重み付け算出手段と、
前記重み付け係数に基づき前記複数枚数の異露光撮像画像の重み付け加算を行う加算手段と、
を備えることを特徴とする請求項1に記載の撮像装置。
【請求項9】
前記同露光画像取得手段は、
前記特定輝度範囲から代表輝度値を算出する代表輝度値算出手段と、
前記代表輝度値に対する増幅率を算出する代表輝度値増幅率算出手段と、
を備え、
前記同露光撮像回数算出手段は、前記代表輝度値及び前記代表輝度値に対する増幅率を用いて同露光撮像回数を算出する
ことを特徴とする請求項1に記載の撮像装置。
【請求項10】
撮像手段によって露光条件の異なる異露光撮像を複数回数行って複数枚数の異露光撮像画像を取得し、
前記異露光撮像画像撮像時の露光条件を記憶手段に記憶し、
前記複数枚数の異露光撮像画像を合成してダイナミックレンジ拡大画像を生成し、
前記ダイナミックレンジ拡大画像について階調変換曲線を算出し、
前記階調変換曲線からコントラスト増幅率を算出し、
前記コントラスト増幅率に基づいて、前記ダイナミックレンジ拡大画像における特定の輝度範囲を選択し、
前記輝度範囲に対応する露光条件を前記記憶手段より読み出し、
前記輝度範囲、前記コントラスト増幅率及び前記輝度範囲に対応する露光条件に基づいて、同露光撮像回数を算出し、
前記撮像手段によって前記輝度範囲に対応する露光条件を用いて複数回数の同露光撮像を行って複数枚数の同露光撮像画像を取得し、
前記ダイナミックレンジ拡大画像に前記複数枚数の同露光撮像画像を合成して合成画像を生成し、
前記合成画像に対し前記階調変換曲線に基づき階調変換を行う
ことを特徴とする撮像方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2011−199785(P2011−199785A)
【公開日】平成23年10月6日(2011.10.6)
【国際特許分類】
【出願番号】特願2010−67013(P2010−67013)
【出願日】平成22年3月23日(2010.3.23)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成23年10月6日(2011.10.6)
【国際特許分類】
【出願日】平成22年3月23日(2010.3.23)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]