電子機器、画像処理方法及びプログラム
【課題】ユーザの好みに沿ったダイナミックレンジ拡大画像を提供する。
【解決手段】露出条件の異なる複数の入力画像を合成することでダイナミックレンジが拡大されたHDR画像を生成し、生成されたHDR画像に対して複数の階調変換処理(トーンマッピング)を個別に適用することで複数の合成結果画像を生成する。一方で、単一の入力画像に階調補正を行うことで擬似的にダイナミックレンジが拡大された階調補正画像を生成する。入力画像列における物体の動き、フリッカの有無又は彩度に基づき、複数の合成結果画像及び階調補正画像に優先順位を設定し、優先順位に従って複数の合成結果画像及び階調補正画像の表示制御又は記録制御を行う。
【解決手段】露出条件の異なる複数の入力画像を合成することでダイナミックレンジが拡大されたHDR画像を生成し、生成されたHDR画像に対して複数の階調変換処理(トーンマッピング)を個別に適用することで複数の合成結果画像を生成する。一方で、単一の入力画像に階調補正を行うことで擬似的にダイナミックレンジが拡大された階調補正画像を生成する。入力画像列における物体の動き、フリッカの有無又は彩度に基づき、複数の合成結果画像及び階調補正画像に優先順位を設定し、優先順位に従って複数の合成結果画像及び階調補正画像の表示制御又は記録制御を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置等の電子機器に関する。また、画像に対して様々な処理を施すための画像処理方法及びプログラムに関する。
【背景技術】
【0002】
撮影によって得られた入力画像のダイナミックレンジを拡大することで、HDR(High Dynamic range)画像を生成する方法が知られている。
【0003】
この方法を実現する一般的なHDR処理では、露出条件が互いに異なる複数の入力画像を合成することでダイナミックレンジの拡大を図っている。ダイナミックレンジが拡大された画像に対し、ビット長圧縮などを目的とした階調変換を成すことで、最終的なHDR画像を生成することも多い。また、単一画像に対して適切な階調補正を行うことにより、ダイナミックレンジ(見かけ上のダイナミックレンジ)を拡大する方法も提案されている。
【0004】
この他、ダイナミックレンジの拡大を図った従来方法として、以下の第1及び第2従来方法が存在する。
【0005】
第1従来方法に係る撮像装置は、単一画像に階調補正を行うことでダイナミックレンジを拡大する第1のダイナミックレンジ拡大手段と、互いに異なる露出条件にて撮影された複数の画像を合成することでダイナミックレンジを拡大する第2のダイナミックレンジ拡大手段と、第1及び第2のダイナミックレンジ拡大手段のどちらを用いてダイナミックレンジを拡大した画像を取得するかを選択する選択手段と、選択されたダイナミックレンジ拡大手段が必要とする画像を撮像手段に撮影させる手段と、を備える(例えば、下記特許文献1参照)。
【0006】
第2従来方法に係る撮像装置は、互いに異なる露出条件にて撮影された複数の画像を合成することによりダイナミックレンジを拡大する画像合成手段を備え、画像合成手段において、画像の合焦状態の詳細度の高低に応じてダイナミックレンジ拡大幅を変更している(例えば、下記特許文献2参照)。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2010−093679号公報
【特許文献2】特開2009−218895号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
複数の画像を用いたHDR処理の結果画像は、当然に、処理の内容に依存して変化し、特に上記の階調変換に依存して大きく変化する。ユーザの好みに合った結果画像が生成されるように、階調変換を含むHDR処理の内容をユーザが指定するといったことも考えられるが、そのような指定は比較的大きな操作負担をユーザに課す。ユーザに過度の負担を与えることなく、ユーザの好みに合った結果画像を提供することができれば有益であることは言うまでもないが、上記第1及び第2従来方法を含む従来方法では、これが十分に実現されていない。
【0009】
そこで本発明は、ユーザの好みに合ったダイナミックレンジ拡大画像の提供に寄与する電子機器、画像処理方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明に係る第1の電子機器は、互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得部と、前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理部と、前記合成処理部の生成画像に対し、互いに異なる複数の階調変換条件を個別に用いて階調変換を行うことにより複数の合成結果画像を生成する階調変換部と、を備えたことを特徴とする。
【0011】
これにより、ユーザは、複数の合成結果画像の中から、自分の好みにあった合成結果画像(ダイナミックレンジ拡大画像)を抽出することが可能となる。
【0012】
そして例えば、前記入力画像列の画像データに基づき前記複数の合成結果画像に対して優先順位を設定する優先順位設定部と、前記優先順位に応じて前記複数の合成結果画像の表示又は記録を制御する画像出力制御部とを、前記第1の電子機器に更に設けると良い。
【0013】
これにより、ユーザの好みに合っていると推測される合成結果画像を優先的に表示又は記録することが可能となる。
【0014】
また例えば、前記n枚の入力画像に含まれる1枚の入力画像に階調補正を行うことで階調補正画像を生成する階調補正部を、前記第1の電子機器に更に設けてもよい。
【0015】
そして例えば、前記入力画像列の画像データに基づき前記複数の合成結果画像及び前記階調補正画像に対して優先順位を設定する優先順位設定部と、前記優先順位に応じて前記複数の合成結果画像及び前記階調補正画像の表示又は記録を制御する画像出力制御部とを、前記第1の電子機器に更に設けても良い。
【0016】
これにより、ユーザの好みに合っていると推測される合成結果画像又は階調補正画像を優先的に表示又は記録することが可能となる。
【0017】
具体的は例えば、前記優先順位設定部は、前記入力画像列の画像データに基づいて、前記入力画像列上の物体の動き、前記入力画像列におけるフリッカの有無、及び、前記入力画像列における彩度の内の1以上を評価し、評価結果に基づいて前記優先順位を設定しても良い。
【0018】
また例えば、前記第1の電子機器は、前記入力画像列の画像データを撮影によって取得する撮像装置であって、前記入力画像列を形成する各入力画像の露出条件を設定する露出条件設定部と、前記複数の合成結果画像を生成することの要否を判定する要否判定部と、を更に備え、前記複数の合成結果画像を生成するか否かは、前記要否の判定結果に従って定められ、前記n枚の入力画像に先立って撮影される入力画像には、第1及び第2の判定用入力画像が含まれ、前記露出条件設定部は、前記第1の判定用入力画像において所定の第1基準輝度以上の輝度を有する画素の数が所定の第1基準値以下になるように、前記第1の判定用入力画像の撮影時における第1の露出条件を設定するとともに、前記第2の判定用入力画像において所定の第2基準輝度以下の輝度を有する画素の数が所定の第2基準値以下になるように、前記第2の判定用入力画像の撮影時における第2の露出条件を設定し、前記要否判定部は、前記第1及び第2の露出条件に基づいて前記要否の判定を行っても良い。
【0019】
本発明に係る第2の電子機器は、互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得部と、前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理部と、前記合成処理部の生成画像に対し、階調変換を行うことにより合成結果画像を生成する階調変換部と、を備え、前記階調変換部は、前記階調変換の内容を前記入力画像列の画像データに基づいて変更することを特徴とする。
【0020】
これにより、ユーザの好みにあった合成結果画像(ダイナミックレンジ拡大画像)の提供が期待される。
【0021】
本発明に係る第1の画像処理方法は、互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得ステップと、前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理ステップと、前記合成処理ステップの生成画像に対し、互いに異なる複数の階調変換条件を個別に用いて階調変換を行うことにより複数の合成結果画像を生成する階調変換ステップと、を実行することを特徴とする。
【0022】
本発明に係る第2の画像処理方法は、互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得ステップと、前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理ステップと、前記合成処理ステップの生成画像に対し、階調変換を行うことにより合成結果画像を生成する階調変換ステップと、を実行し、前記階調変換ステップでは、前記階調変換の内容を前記入力画像列の画像データに基づいて変更することを特徴とする。
【0023】
そして例えば、第1又は第2の画像処理方法における画像データ取得ステップ、合成処理ステップ及び階調変換ステップをコンピュータに実行させるためのプログラムを形成すると良い。
【発明の効果】
【0024】
本発明によれば、ユーザの好みに合ったダイナミックレンジ拡大画像の提供に寄与する電子機器、画像処理方法及びプログラムを提供することが可能である。
【図面の簡単な説明】
【0025】
【図1】本発明の実施形態に係る撮像装置の全体ブロック図である。
【図2】図1の撮像部の内部構成図である。
【図3】二次元の画像空間と二次元画像との関係を示す図である。
【図4】ダイナミックレンジ拡大に特に関与する部位のブロック図である。
【図5】短露光画像としての入力画像、長露光画像としての入力画像及びそれらから生成されるHDR画像を示す図(a)と、短露光画像の輝度の増大処理を示す図(b)である。
【図6】入力画像における入射光量と信号レベルとの関係を表す図である。
【図7】HDR画像における入射光量と信号レベルとの関係を表す図である。
【図8】階調変換によってHDR画像から合成結果画像が得られる様子を示す図である。
【図9】第1の階調変換処理で用いられるトーンカーブを示す図である。
【図10】第2の階調変換処理によって、HDR画像から合成結果画像を生成される様子を示す図である。
【図11】第2の階調変換処理における単純ビット長圧縮を説明するための図である。
【図12】第2の階調変換処理において参照されるHDR画像及び合成結果画像の輝度ヒストグラムである。
【図13】入力画像から階調補正画像が得られる様子を示す図である。
【図14】HDR画像及び階調補正画像の輝度ヒストグラムを示す図(a)(b)と、階調補正処理におけるゲイン関数を示す図(c)である。
【図15】HDR撮影要否判定用期間と本撮影期間との関係を示す図(a)と、それらの期間に撮影される入力画像を説明するための図(b)である。
【図16】短露光判定用画像及び長露光判定用画像を含む判定用画像列を示す図である。
【図17】短露光判定用画像及び長露光判定用画像の輝度ヒストグラムである。
【図18】2枚の対象入力画像から3種類の合成結果画像が得られる様子を示す図である。
【図19】5枚の対象入力画像から3種類の合成結果画像が得られる様子を示す図である。
【図20】図1の撮像装置の動作フローチャートである。
【図21】優先順位に従った画像表示方法例を説明するための図である。
【図22】図1の撮像装置に設けておくことのできる複数の検出部を示した図である。
【図23】画像間でオプティカルフローが導出される様子を示す図である。
【図24】第1〜第3の出力HDR画像に対する優先順位の設定方法を説明するための図である。
【発明を実施するための形態】
【0026】
以下、本発明の実施形態の例を、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。
【0027】
図1は、本発明の実施形態に係る撮像装置1の全体ブロック図である。撮像装置1は、符号11〜28によって参照される各部位を有する。撮像装置1は、デジタルビデオカメラであり、動画像及び静止画像を撮影可能となっていると共に動画像撮影中に静止画像を撮影することも可能となっている。撮像装置1内の各部位は、バス24又は25を介して、各部位間の信号(データ)のやり取りを行う。尚、表示部27及び/又はスピーカ28は、撮像装置1の外部装置(不図示)に設けられたものであってもよい。
【0028】
図2に、撮像部11の内部構成図を示す。撮像部11は、光学系35と、絞り32と、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどから成る撮像素子33と、光学系35や絞り32を駆動制御するためのドライバ34と、を有している。光学系35は、ズームレンズ30及びフォーカスレンズ31を含む複数枚のレンズから形成される。ズームレンズ30及びフォーカスレンズ31は光軸方向に移動可能である。ドライバ34は、CPU(Central Processing Unit)23からの制御信号に基づいてズームレンズ30及びフォーカスレンズ31の各位置並びに絞り32の開度を駆動制御することにより、撮像部11の焦点距離(画角)及び焦点位置並びに撮像素子33への入射光量(換言すれば、絞り値)を制御する。
【0029】
撮像素子33は、光学系35及び絞り32を介して入射した被写体を表す光学像を光電変換し、該光電変換によって得られた電気信号をAFE(Analog Front End)12に出力する。より具体的には、撮像素子33は、マトリクス状に二次元配列された複数の受光画素を備え、各画像の撮影において、各受光画素は露光時間に応じた電荷量の信号電荷を蓄える。蓄えた信号電荷の電荷量に比例した大きさを有する各受光画素からのアナログ信号は、撮像装置1内で生成される駆動パルスに従って順次AFE12に出力される。
【0030】
AFE12は、撮像部11(撮像素子33)から出力されるアナログ信号を増幅し、増幅されたアナログ信号をデジタル信号に変換する。AFE12は、このデジタル信号をRAWデータとして映像信号処理部13に出力する。AFE12における信号増幅の増幅度は、CPU23によって制御される。
【0031】
映像信号処理部13は、RAWデータにて表される画像に対して必要な画像処理を施し、画像処理後の画像についての映像信号を生成する。マイク14は、撮像装置1の周辺音をアナログの音声信号に変換し、音声信号処理部15は、このアナログの音声信号をデジタルの音声信号に変換する。
【0032】
圧縮処理部16は、映像信号処理部13からの映像信号及び音声信号処理部15からの音声信号を、所定の圧縮方式を用いて圧縮する。内部メモリ17は、DRAM(Dynamic Random Access Memory)などから成り、各種のデータを一時的に保存する。記録媒体としての外部メモリ18は、半導体メモリや磁気ディスクなどの不揮発性メモリであり、圧縮処理部16による圧縮後の映像信号及び音声信号を互いに関連付けた状態で記録する。
【0033】
伸張処理部19は、外部メモリ18から読み出された圧縮された映像信号及び音声信号を伸張する。伸張処理部19による伸張後の映像信号又は映像信号処理部13からの映像信号は、表示処理部20を介して、液晶ディスプレイ等から成る表示部27に送られて画像として表示される。また、伸張処理部19による伸張後の音声信号は、音声出力回路21を介してスピーカ28に送られて音として出力される。
【0034】
TG(タイミングジェネレータ)22は、撮像装置1全体における各動作のタイミングを制御するためのタイミング制御信号を生成し、生成したタイミング制御信号を撮像装置1内の各部に与える。タイミング制御信号は、垂直同期信号Vsyncと水平同期信号Hsyncを含む。CPU23は、撮像装置1内の各部位の動作を統括的に制御する。操作部26は、動画像の撮影及び記録の開始/終了を指示するための録画ボタン26a、静止画像の撮影及び記録を指示するためのシャッタボタン26b及び操作キー26c等を有し、ユーザによる各種操作を受け付ける。操作部26に対する操作内容はCPU23に伝達される。
【0035】
撮像装置1の動作モードには、画像(静止画像又は動画像)の撮影及び記録が可能な撮影モードと、外部メモリ18に記録された画像(静止画像又は動画像)を表示部27に再生表示する再生モードと、が含まれる。操作キー26cに対する操作に応じて、各モード間の遷移は実施される。
【0036】
撮影モードでは、次々と被写体の撮影が行われ、被写体の撮影画像が順次取得される。画像を表すデジタルの映像信号を画像データとも呼ぶ。上記RAWデータも画像データの一種である。
【0037】
尚、画像データの圧縮及び伸張は、本発明の本質とは関係ないため、以下の説明では、画像データの圧縮及び伸張の存在を無視する(即ち例えば、圧縮された画像データを記録することを、単に、画像データを記録すると表現する)。また、本明細書では、或る画像の画像データのことを単に画像と言うこともある。また、本明細書において、単に表示又は表示画面といった場合、それは、表示部27における表示又は表示画面を指す。
【0038】
図3に、二次元の画像空間XYを示す。画像空間XYは、X軸及びY軸を座標軸として有する、空間領域(spatial domain)上の二次元座標系である。任意の二次元画像300は、画像空間XY上に配置された画像であると考えることができる。X軸及びY軸は、夫々、二次元画像300の水平方向及び垂直方向に沿った軸である。二次元画像300は、水平方向及び垂直方向の夫々に複数の画素がマトリクス状に配列されて形成されており、二次元画像300上の何れかの画素である画素301の位置を(x,y)にて表す。本明細書では、画素の位置を、単に画素位置とも言う。x及びyは、夫々、画素301のX軸及びY軸方向の座標値である。二次元座標系XYにおいて、或る画素の位置が右側に1画素分ずれると該画素のX軸方向における座標値は1だけ増大し、或る画素の位置が下側に1画素分ずれると該画素のY軸方向における座標値は1だけ増大する。従って、画素301の位置が(x,y)である場合、画素301の右側、左側、下側及び上側に隣接する画素の位置は、夫々、(x+1,y)、(x−1,y)、(x,y+1)及び(x,y―1)にて表される。
【0039】
撮像装置1には、撮影によって得られた入力画像のダイナミックレンジを拡大する機能が設けられている。図4に、この機能に特に関与する部位のブロック図を示す。図4に示される各部位を撮像装置1内に設けておくことができる。例えば、画像処理部50及び画像データ取得部51を図1の映像信号処理部13に設けておくことができると共に、露出制御部(露出条件設定部)52及び画像出力制御部58をCPU23にて実現することができる。画像処理部50は、符号53〜57によって参照される各部位を備える。
【0040】
画像データ取得部51は、入力画像列の画像データを取得する。入力画像列の画像データは、画像データ取得部51を介して画像処理部50及び露出制御部52に供給される。入力画像列に代表される画像列とは、時系列上に並ぶ複数の画像の集まりを指す。従って、入力画像列は、時系列上に並ぶ複数の入力画像から成る。画像列は、動画像とも読み替えられる。入力画像は、RAWデータそのものにて表される静止画像、又は、RAWデータにて表される静止画像に所定の画像処理(例えば、ノイズ除去処理やデモザイキング処理)を施して得られる静止画像を指す。画像データ取得部51は、再生モードにおいて入力画像列の画像データを取得することもできる。この場合、画像データ取得部51は、外部メモリ18に記録された任意の画像列を入力画像列として外部メモリ18から読み出すことにより、入力画像列の画像データを取得する。但し、以下では、特に断りなき限り、撮影モードにおいて入力画像列の画像データが取得されることを想定する。
【0041】
露出制御部52は、入力画像の露出条件を設定する。この際、既に撮影された入力画像列の画像データに基づいて、以後の撮影によって得られることになる入力画像の露出条件を設定することができる(詳細は後述)。入力画像の露出条件とは、入力画像の露出状態を定める条件である。入力画像の露出条件には、入力画像の露光時間(即ちシャッタスピード)、入力画像の撮影時における絞り値、及び、入力画像の撮影時におけるISO感度が含まれる。入力画像の露光時間とは、入力画像の画像データを得るために撮像素子33が露光される時間の長さを指す。ISO感度は、ISO(International Organization for Standardization)によって規定された感度を意味し、ISO感度を調節することで入力画像の明るさ(輝度レベル)を調節することができる。実際には、ISO感度に応じてAFE12における信号増幅の増幅度を決定する。その増幅度はISO感度に比例している。ISO感度が2倍になれば、その増幅度も2倍となり、これによって入力画像の各画素の輝度も2倍となる(但し、飽和を無視)。
【0042】
合成処理部53は、互いに異なる露出条件にて撮影された複数の入力画像を合成する画像合成処理を行い、これによって各入力画像のダイナミックレンジよりも広いダイナミックレンジを有するHDR(High Dynamic Range)画像を生成する。HDR画像の各画素位置における画素信号のビット長は、入力画像のそれよりも長い。従って、HDR画像のビット長を維持したまま、HDR画像を表示部27に表示することができないこともある、或いは、HDR画像を外部メモリ18に記録できないこともある。
【0043】
このため、階調変換部54は、生成されたHDR画像の階調を圧縮するための階調変換処理をHDR画像に施し、階調変換処理後のHDR画像を合成結果画像として生成する。階調変換部54における階調圧縮の条件、即ち、HDR画像から合成結果画像を生成するための階調変換処理の条件を階調変換条件と呼ぶ。階調変換部54における階調変換処理及び階調変換条件を、夫々、階調圧縮処理及び階調圧縮条件と呼ぶこともできる。階調変換部54は、互いに異なる複数の階調変換条件を個別に用いてHDR画像に階調変換処理を成すことができ、これによって互いに異なる複数の合成結果画像を生成することができる。
【0044】
HDR画像及び合成結果画像は、入力画像のダイナミックレンジを拡大した画像に相当する。複数の入力画像から入力画像のダイナミックレンジを拡大した画像を生成する方法として、公知の方法(例えば、特開2008−109176号公報、特開2008−136113号公報又は特開2010−93679号公報に記載された方法)を含む任意のダイナミックレンジ拡大方法を利用可能である。
【0045】
階調補正部55は、1枚の入力画像に対して階調補正処理を施すことで当該入力画像の階調を補正する。階調補正後の入力画像を階調補正画像と呼ぶ。階調補正部55は、入力画像の見かけ上のダイナミックレンジが拡大されるように(換言すれば、入力画像のダイナミックレンジが擬似的に拡大されるように)階調補正処理を行う。
【0046】
階調補正画像も、入力画像のダイナミックレンジを拡大した画像に相当する。1枚の入力画像に対する階調補正により入力画像のダイナミックレンジを拡大する方法として、公知の方法(例えば、特開2010−93679号公報に記載された方法)を含む任意のダイナミックレンジ拡大方法を利用可能である。
【0047】
HDR撮影要否判定部56(以下、要否判定部56と略記することがある)は、入力画像列の画像データに基づいてHDR撮影の要否を判定する。HDR撮影とは、合成結果画像及び階調補正画像の生成元になる複数の入力画像の撮影を指す。要否判定部56又はCPU23は、HDR撮影が必要と判断された場合においてのみ、合成結果画像及び階調補正画像の生成元になる複数の入力画像が撮影されるように、撮像部11を制御することができる。HDR撮影が必要と判断された場合においてのみ合成結果画像及び階調補正画像が生成されるため、要否判定部56にて、合成結果画像及び階調補正画像の生成要否が判定されているとも言える。
【0048】
優先順位設定部57は、階調変換部54から得られる複数の合成結果画像及び階調補正部55から得られる階調補正画像に対して、優先順位を設定する。優先順位設定部57は、優先順位の設定を入力画像列の画像データに基づいて行うことができる。
【0049】
画像出力制御部58は、複数の合成結果画像及び階調補正画像を表示部27に表示させるための表示制御及び外部メモリ18に記録させるための記録制御を行う。画像出力制御部58は、優先順位設定部57にて設定された優先順位に応じて表示制御及び記録制御を成すことができる。
【0050】
以下、図4に示される各部位の動作を更に詳細を説明する。
【0051】
[画像合成処理]
合成処理部53による画像合成処理の一例を説明する。図5(a)及び(b)を参照する。ここでは、2枚の入力画像331及び332からHDR画像333を生成する方法を説明する。入力画像331及び332は、共通の被写体を撮影することで得られた入力画像であり、互いになるだけ近接した時刻で撮影される。例えば、入力画像331及び332は、連続的に撮影された2枚の入力画像である。
【0052】
露出制御部52は、入力画像331の露出条件と入力画像332の露出条件とを互いに異ならせる。具体的には例えば、入力画像331の露光時間を入力画像332の露光時間よりも短く設定する。ここでは説明の具体化のため、長露光画像である入力画像332の露光時間が、短露光画像である入力画像331の露光時間の2倍であるものとし、露光時間以外の露出条件は入力画像331及び332間で同じであるとする。入力画像331の画素位置(x,y)における画素信号、入力画像332の画素位置(x,y)における画素信号及びHDR画像333の画素位置(x,y)における画素信号を、夫々、SS(x,y)、SL(x,y)及びSH(x,y)にて表す。合成処理部53は、入力画像331の各画素位置における画素信号に2を乗じることにより、図5(b)の入力画像331’を生成することができる。入力画像331’の画素位置(x,y)における画素信号をSS’(x,y)にて表す。SS’(x,y)=2×SS(x,y)である。或る画素又は画素位置における画素信号は当該画素又は当該画素位置における映像信号を指し、映像信号はRAWデータ形式にて表現される、或いは、映像信号は輝度信号及び色差信号を含む。
【0053】
図6において、実線341は、入力画像331における入射光量と信号レベルとの関係を表し、実線342は、入力画像332における入射光量と信号レベルとの関係を表している。破線341’は、入力画像331’における入射光量と信号レベルとの関係を表している。ここにおける入射光量とは、単位時間当たりにおける撮像素子33への入射光量を指し、信号レベルとは、入力画像における画素信号の大きさを指す。各画素位置において、理想的には入力画像332の信号レベルは入力画像331の信号レベルの2倍になり、結果、理想的には実線342と破線341’は完全に一致する。しかしながら、撮像素子33はアナログデバイスであるため、入射光量と撮像素子33の各受光画素の蓄積電荷量との間には、非線形性が存在する。この他、蓄積電荷の信号を増幅する増幅器にも非線形性が存在する。このため、正確には、入力画像332の信号レベルが入力画像331の信号レベルの2倍にならず、結果、実線342と破線341’も完全には重なり合わない。
【0054】
図7を参照する。合成処理部53は、入射光量が光量IL1以下の画素位置に対しては、入力画像332の画素信号がHDR画像333の画素信号として用いられるように、且つ、入射光量が光量IL2以上の画素位置に対しては、入力画像331’の画素信号がHDR画像333の画素信号として用いられるように、且つ、入射光量が光量IL1よりも大きいが光量IL2未満の画素位置に対しては、入力画像332の画素信号と入力画像331’の画素信号との混合信号がHDR画像333の画素信号として用いられるように、HDR画像333の画素信号を生成する。ここで、0<IL1<IL2である。
【0055】
より具体的には例えば、
SL(x,y)≦STH1の成立時には、SH(x,y)=SL(x,y)となるように、
SS’(x,y)≧STH2の成立時には、SH(x,y)=SS’(x,y)となるように、SH(x,y)を生成する。SL(x,y)≦STH1及びSS’(x,y)≧STH2の双方が成立しないときには、SL(x,y)及びSS’(x,y)を混合することによって、即ち、
SH(x,y)=kL・SL(x,y)+kS・SS’(x,y)
に従ってSH(x,y)を生成する。STH1及びSTH2は、光量IL1及びIL2に対応する信号閾値であり、0<STH1<STH2を満たす。
【0056】
係数kS及びkLは、
kS=(SL(x,y)−STH1)/(STH2−STH1)、及び、
kL=1−kS
を満たすように設定される。但し、kS>0且つkL>0且つkS+kL=1を満たす範囲内で、kS及びkLの値を任意に決定することもできる(例えば、kS=kL=0.5、とすることも可能である)。
【0057】
合成処理部53は、HDR画像333の画素信号SH(x,y)を得るための、上述のような処理を画素位置ごとに行う。これにより、HDR画像333の全画素位置の画素信号が得られる(即ち、HDR画像333が完成する)。入力画像331’は入力画像331の各画素信号を2倍にすることで得られた画像であるため、入力画像331’の内、比較的輝度の大きい部分の信号レベルは、撮像素子33の信号飽和レベルSSATを超える(図7参照)。従って、HDR画像333のダイナミックレンジ352は、撮像素子33のダイナミックレンジ351よりも広くなる。
【0058】
[階調変換処理]
次に、階調変換部54による階調変換処理について説明する。例として、上述のHDR画像333(図5(a)参照)に対し、階調変換処理を成す方法を説明する。図8の画像360は、HDR画像333に階調変換処理を施して得られる画像であり、上述の合成結果画像(図4参照)に相当する。合成結果画像360の画素位置(x,y)における画素信号をSH’(x,y)にて表す。
【0059】
上述したように、階調変換部54は、互いに異なる複数の階調変換条件を個別に用いてHDR画像333に階調変換処理を成すことができる。以下に説明する階調変換処理は、トーンマッピングとも呼ばれ、トーンマッピングによってHDR画像333の各画素信号のビット長BLHDRが、所望のビット長BLOUTに変換される。0<BLOUT<BLHDRである。ビット長BLOUTは、例えば、表示部27にて表示可能な画像のビット長と同じに設定される、或いは、所定の画像記録フォーマットに従った画像のビット長と同じに設定される。ビット長BLOUTは、入力画像の各画素信号のビット長と同じであっても良い。上記複数の階調変換条件には、互いに異なる第1及び第2の階調変換条件が含まれる。
【0060】
第1の階調変換条件を用いた階調変換処理(以下、第1の階調変換処理とも呼ぶ)を説明する。第1の階調変換処理では、HDR画像333の全体に対して共通の階調変換関数(gray-level transformation function)を設定し、該共通の階調変換関数を用いてHDR画像333の各画素信号を合成結果画像360の各画素信号に変換する。階調変換関数をグラフで表したものは、一般にトーンカーブ(tone curve)と呼ばれる。図9に、第1の階調変換条件の採用時に用いられるトーンカーブ380を示す。トーンカーブ380によって表される階調変換関数は、HDR画像333の画素信号SH(x,y)と合成結果画像360の画素信号SH’(x,y)との関係を規定する関数である。トーンカーブ380による階調変換処理は、最も一般的な階調変換処理であるが、自然な階調圧縮を実現することができる。
【0061】
第2の階調変換条件を用いた階調変換処理(以下、第2の階調変換処理とも呼ぶ)を説明する。第2の階調変換処理では、階調圧縮の自由度が高い、絵画調のトーンマッピングが可能である。以下、一方法例を説明する。第2の階調変換処理では、まず、図10に示す如く、HDR画像333に対して単純ビット長圧縮を施すことでHDR画像334を生成する。即ち例えば、図11に示す如く、HDR画像333の各画素信号を表すデジタル信号の内、下位側の(BLHDR−BLOUT)ビットを切り捨てることによって、HDR画像334を生成する。そうすると、HDR画像334の画素位置(x,y)における画素信号SHA(x,y)のデジタル値は、画素信号SH(x,y)のデジタル値の1/(BLHDR−BLOUT)になる。一方で、HDR画像334の各画素信号のビット長はBLOUTになる。
【0062】
図12(a)に、HDR画像334の輝度ヒストグラムHST334を示す。第2の階調変換処理では、基準輝度LREFを設定し、基準輝度LREF付近に輝度レベルが集中するようにHDR画像334の輝度ヒストグラムHST334を変化させる。この変化後の輝度ヒストグラムが、図12(b)に示す合成結果画像360の輝度ヒストグラムHST360である。具体的には以下のようにすれば良い。
【0063】
HDR画像334の全画素を、基準輝度LREFよりも低い輝度を有する画素である暗画素、又は、基準輝度LREF以上の輝度を有する明画素に分類する。そして、各暗画素の画素信号に対しては1以上のゲインGUPを乗じる一方で、各明画素の画素信号に対しては1以下のゲインGDOWNを乗じることにより、合成結果画像360の各画素信号を生成する。即ち、合成結果画像360の画素位置(x,y)における画素信号SH’(x,y)は、HDR画像334の画素位置(x,y)における画素が暗画素である場合には、
SH’(x,y)=GUP×SHA(x,y)、に従って求められ、
HDR画像334の画素位置(x,y)における画素が明画素である場合には、
SH’(x,y)=GDOWM×SHA(x,y)、に従って求められる。
【0064】
ゲインGUPを1よりも大きな値に設定すると良い。また、暗画素の輝度と基準輝度LREFとの差が大きくなるに従って(GUP−1)が大きくなるように、暗画素ごとに暗画素の輝度に応じてゲインGUPの値を設定すると良い。但し、ゲインGUPの値を、1よりも大きな一定値に固定することも可能である。
ゲインGDOWNを1よりも小さな値に設定すると良い(但し、GDOWN>0)。また、明画素の輝度と基準輝度LREFとの差が大きくなるに従って(1−GDOWN)が大きくなるように、明画素ごとに明画素の輝度に応じてゲインGDOWNの値を設定すると良い。但し、GDOWNの値を、1よりも小さな一定値に固定することも可能である。
【0065】
如何なる輝度を基準輝度LREFに設定するのかは任意である。通常は、合成結果画像360の中間階調付近に基準輝度LREFが設定される。輝度ヒストグラムHST334において最大頻度を有する輝度を基準にして、基準輝度LREFを設定することもできる。
【0066】
ゲインGUPを各暗画素の画素信号に乗じると共にゲインGDOWNを各明画素の画素信号に乗じることにより、輝度の頻度が基準輝度LREF付近に集中化する。図12(b)の輝度ヒストグラムHST360から、その集中化の様子が見てとれる。輝度ヒストグラムHST360に対応する合成結果画像360は、絵画調のHDR画像であると言える。絵画調の画像とは、絵の具などの画材を用いて紙面に描いた絵の雰囲気を有する画像である。絵の具などの画材を用いて紙面に描いた絵は、一般に彩度が高い一方で濃淡変化が少ない。第2の階調変換処理では、彩度を維持しつつ濃淡変化が減少せしめられるため、時として幻想的な雰囲気を持つ絵画調の合成結果画像360が得られる。
【0067】
絵画調の合成結果画像360を得るための第2の階調変換処理の方法として、公知の方法を用いることができ、例えば、非特許文献「Raanan Fattal、外2名、“Gradient Domain High Dynamic Range Compression”、[online]、[平成22年10月31日検索]、インターネット<URL:http://www.cs.huji.ac.il/~danix/hdr/>」に記載の方法、又は、非特許文献「Erik Reinhard、外3名、“Photographic Tone Reproduction for Digital Images”、[online]、[平成22年10月31日検索]、インターネット<URL:http://www.cs.utah.edu/~reinhard/cdrom/>」に記載の階調変換方法を用いることもできる。
【0068】
[階調補正処理]
次に、階調補正部55による階調補正処理について説明する。例として、短露光画像としての入力画像331(図5(a)参照)に対して階調補正処理を成す方法を説明する。図13における画像390は、入力画像331に階調補正処理を施して得られる画像であり、上述の階調補正画像(図4参照)に相当する。階調補正画像390の画素位置(x,y)における画素信号をSCS(x,y)にて表す。
【0069】
図14(a)及び(b)に、夫々、入力画像331の輝度ヒストグラムHST331及び階調補正画像390の輝度ヒストグラムHST390を示す。図14(c)の実線395は、入力画像331から階調補正画像390を得る際に用いるゲイン関数を表している。階調補正画像390の各画素信号は、ゲイン関数395に従うゲインGCを入力画像331の各画素信号に乗じることで得られる。即ち、
SCS(x,y)=GC×SS(x,y)、である。
【0070】
ゲインGCの値は、入力画像331の各画素位置の輝度に応じて画素位置ごとに設定される。GCH及びGCLは、夫々、ゲインGCがとり得る数値範囲の上限値及び下限値である。画素信号SS(x,y)に乗じられるゲインGCは、入力画像331の画素位置(x,y)における輝度がゼロ又はゼロ近傍であるとき上限値GCHに設定され、入力画像331の画素位置(x,y)における輝度がゼロから増大するにつれて、上限値GCHから下限値GCLに向けて減少せしめられる。この減少は線形的な減少であってもよいし、非線形的な減少であっても良い。0<GCL<GCHであり、例えば、GCL=1且つGCH=2である。
【0071】
上述のようなゲインGCを用いた階調補正により、短露光画像としての入力画像331各画素の階調は高輝度側にシフトされ、そのシフトの程度は、暗い画素に対してほど大きくなる。結果、高輝度側の画像情報を維持したまま低輝度側の画像情報が比較的大きなビット長を用いて表現されるようになり、見かけ上、ダイナミックレンジが拡大されたような階調補正画像390を生成することが可能となる。
【0072】
尚、上述の方法例では、短露光画像としての入力画像331から階調補正画像を生成しているが、長露光画像としての入力画像332から階調補正画像を生成することも可能である。
【0073】
[HDR撮影の要否判定]
次に、図4の要否判定部56による、HDR撮影の要否判定方法を説明する。図15(a)及び(b)を参照する。要否判定部56は、HDR撮影要否判定用期間(以下、判定用期間と略記することがある)内に撮影された入力画像の画像データに基づき、HDR撮影の要否を判定することができる。時間が進行するにつれ、時刻tA、tB及びtCが、この順番で訪れるものとする。判定用期間は、時刻tAから時刻tBまでの期間である。また、時刻tBから時刻tCまでの期間を本撮影期間と呼ぶ。本撮影期間は、合成結果画像及び階調補正画像の元となる複数の入力画像が撮影される期間であり、以下では、本撮影期間中に撮影される入力画像を特に対象入力画像とも呼ぶ(図15(b)参照)。図5(a)の入力画像331及び332の夫々は対象入力画像である。
【0074】
また、時刻tBより前に撮影される各入力画像をプレビュー画像とも呼び、更に、判定用期間内に撮影される各入力画像を判定用画像とも呼ぶ(図15(b)参照)。判定用画像はプレビュー画像の一種である。プレビュー画像は所定のフレーム周期で順次撮影され、得られたプレビュー画像列は動画像として表示部27に表示されてユーザによる構図確認に利用される。
【0075】
本撮影期間の開始時刻である時刻tBを、ユーザの指示によって決定することができる。判定用期間の開示時刻である時刻tAは、ユーザの指示によって決定されても良いし、時刻tBを基準にして定められても良い(例えば、時刻tBから所定時間前が時刻tAであると定めても良い)。ここでは、時刻tBと同様、時刻tAもユーザの指示によって決定されることを想定し、シャッタボタン26bに対して半押し操作、全押し操作が成された時点が、夫々、時刻tA、tBに相当すると考える。シャッタボタン26bは2段階の押下操作が可能なボタンであり、シャッタボタン26bに圧力が付与されていない開放状態からユーザがシャッタボタン26bを軽く押しこむとシャッタボタン26bの状態は半押し状態となり、その状態から更にユーザがシャッタボタン26bを押しこむとシャッタボタン26bの状態は全押し状態となる。シャッタボタン26bの状態を開放状態から半押し状態へと変化させる操作が半押し操作であり、シャッタボタン26bの状態を半押し状態から全押し状態へと変化させる操作が全押し操作である。
【0076】
判定用期間において、露出制御部52(図4参照)は、露光時間ETSと露光時間ETSよりも長い露光時間ETLを設定し、図16に示す如く、露光時間ETSによる入力画像の撮影と露光時間ETLによる入力画像の撮影とが交互に行われるように露出制御を行う。判定用期間において、露光時間ETSが特定の露光時間ETSOに収束するように且つ露光時間ETLが特定の露光時間ETLOに収束するように、露光時間ETS及びETLは逐次変更される。露光時間ETLOは、露光時間ETSOよりも長い。
【0077】
図16において、画像411〜416は、夫々、判定用期間において連続的に撮影された判定用画像である。判定用画像の内、露光時間ETSにて撮影された判定用画像を短露光判定用画像とも呼び、露光時間ETLにて撮影された判定用画像を長露光判定用画像とも呼ぶ。画像411、413及び415は、夫々、第1、第2及び第3枚目の短露光判定用画像であり、画像412、414及び416は、夫々、第1、第2及び第3枚目の長露光判定用画像である。
【0078】
図17(a)及び(b)は、夫々、任意の短露光判定用画像の輝度ヒストグラムHSTS及び任意の長露光判定用画像の輝度ヒストグラムHSTLを表している。要否判定部56は、短露光判定用画像及び長露光判定用画像の画像データに基づき、短露光判定用画像において所定の基準輝度LTH1以上の輝度を有する画素の総数PNUMS及び長露光判定用画像において所定の基準輝度LTH2以下の輝度を有する画素の総数PNUMLを求める。総数PNUMSは図17(a)の斜線領域の面積に相当し、総数PNUMLは図17(b)の斜線領域の面積に相当する。総数PNUMSの導出は短露光判定用画像ごとに行われ、総数PNUMLの導出は長露光判定用画像ごとに行われる。
【0079】
露出制御部52は、導出されたPNUMSの値を参照して、PNUMSを基準値REFS以下にするための露光時間ETSを探索すると共に、導出されたPNUMLの値を参照して、PNUMLを基準値REFL以下にするための露光時間ETLを探索する。より具体的には、短露光判定用画像411について導出されたPNUMSに基づき、短露光判定用画像413又は415について導出されることになるPNUMSが“REFS−ΔREFS≦PNUMS≦REFS”を満たすように、露出制御部52は、短露光判定用画像413又は415に対する露光時間ETSを調整する。同様に、長露光判定用画像412について導出されたPNUMLに基づき、長露光判定用画像414又は416について導出されることになるPNUMLが“REFL−ΔREFL≦PNUML≦REFL”を満たすように、露出制御部52は、長露光判定用画像414又は416に対する露光時間ETSを調整する。REFS、REFL、ΔREFS及びΔREFLの各値を予め設定しておくことができる。REFS、REFL、ΔREFS及びΔREFLは全て正の整数値を有し、REFS>ΔREFS、且つ、REFL−ΔREFL、である。
【0080】
露光時間ETS及びETLの調整により、判定用期間において、露光時間ETSは特定の露光時間ETSOに収束し且つ露光時間ETLは特定の露光時間ETLOに収束する。例えば、これらの調整の結果、短露光判定用画像415について導出されたPNUMSが“REFS−ΔREFS≦PNUMS≦REFS”を満たすように、且つ、長露光判定用画像416について導出されたPNUMLが“REFL−ΔREFL≦PNUML≦REFL”を満たすように、判定用画像415及び416の露光時間が設定される。そうすると、短露光判定用画像415の露光時間ETSを露光時間ETSOに代入すると共に、長露光判定用画像416の露光時間ETLを露光時間ETLOに代入することができる。
【0081】
要否判定部56は、上記調整を経て得られる短露光判定用画像及び長露光判定用画像の露出条件に基づき、HDR撮影の要否を判定する。具体的には、
要否判定不等式“ETLO/ETSO≧J”
が満たされる場合、HDR撮影が必要であると判断する一方、その要否判定不等式が満たされない場合、HDR撮影が不要であると判断する。Jは、1よりも大きな所定値であり、例えばJ=2である。後に述べるように、本撮影期間に撮影される入力画像331及び332(図5参照)の露光時間は露光時間ETSO及びETLOを基準に設定される。これを考慮すれば、“ETLO/ETSO<J”であるとき(即ち、ETSOとETLOとの間に、あまり差がないとき)、ダイナミックレンジ拡大用の処理を行っても、その処理の効果は小さい或いは殆ど無い。このことから、上記要否判定不等式の意義が理解される。
【0082】
[対象入力画像について]
HDR撮影が必要と判断されたときに、本撮影期間において撮影される対象入力画像の枚数は2であっても良い(図15(a)及び(b)参照)。この場合、本撮影期間において、図18に示す2枚の対象入力画像501及び502が連続的に撮影される。対象入力画像501及び502は、夫々、図5(a)の入力画像331及び332と同じものである。露出制御部52は、対象入力画像501及び502の露光時間を、それぞれ露光時間ETSO及びETLOを基準にして設定する。単純には例えば、露光時間ETSOをそのまま対象入力画像501の露光時間に設定すると共に露光時間ETLOをそのまま対象入力画像502の露光時間に設定することができる。或いは例えば、所定の規則に従って露光時間ETSOを増加又は減少させて露光時間ETSO’を求め、露光時間ETSO’を対象入力画像501の露光時間に設定しても良い。同様に、所定の規則に従って露光時間ETLOを増加又は減少させて露光時間ETLO’を求め、露光時間ETLO’を対象入力画像502の露光時間に設定しても良い。但し、露光時間ETLO’は露光時間ETSO及びETSO’よりも長い。
【0083】
対象入力画像501及び502に対し、第1のHDR処理を施すことで合成結果画像511が得られ、第2のHDR処理を施すことで合成結果画像512が得られ、第3のHDR処理を施すことで階調補正画像513が得られる。第1及び第2のHDR処理は合成処理部53及び階調変換部54によって成され、第3のHDR処理は階調補正部55によって成される。
第1のHDR処理は画像合成処理と第1の階調変換処理から成る。即ち、対象入力画像501及び502を合成する画像合成処理によりHDR画像を生成した後、そのHDR画像に第1の階調変換処理を施すことで合成結果画像511が得られる。合成結果画像511は、第1の階調変換処理を用いた場合における、上述の合成結果画像360(図8参照)に相当する。
第2のHDR処理は画像合成処理と第2の階調変換処理から成る。即ち、対象入力画像501及び502を合成する画像合成処理によりHDR画像を生成した後、そのHDR画像に第2の階調変換処理を施すことで合成結果画像512が得られる。合成結果画像512は、第2の階調変換処理を用いた場合における、上述の合成結果画像360(図10参照)に相当する。
第3のHDR処理は階調補正処理から成る。即ち、対象入力画像501又は502に階調補正処理を施すことで階調補正画像513が得られる。階調補正画像513は、図13の階調補正画像390に相当する。
【0084】
HDR撮影が必要と判断されたときに、本撮影期間において撮影される対象入力画像の枚数は3枚以上であっても良い。例えば、本撮影期間において、図19に示す5枚の対象入力画像521〜525が連続的に撮影されても良い。対象入力画像521〜525は、共通の被写体を撮影することで得られる。露出制御部52は、対象入力画像521、523及び525の露光時間を、露光時間ETSOを基準にして設定する。例えば、露光時間ETSO又はETSO’を、対象入力画像521、523及び525の露光時間に設定することができる。対象入力画像521、523及び525の露出条件は互いに一致していても良いし、互いに異なっていても良い。露出制御部52は、対象入力画像522及び524の露光時間を、露光時間ETLOを基準にして設定する。例えば、露光時間ETLO又はETLO’を、対象入力画像522及び524の露光時間に設定することができる。対象入力画像522及び524の露出条件は互いに一致していても良いし、互いに異なっていても良い。尚、上述の説明とは異なるが、露光時間ETLO又はETLO’を対象入力画像525の露光時間に設定することも可能である。
【0085】
対象入力画像521及び522に対し、第1のHDR処理を施すことで合成結果画像531が得られる。即ち、対象入力画像521及び522を合成する画像合成処理によりHDR画像を生成した後、そのHDR画像に第1の階調変換処理を施すことで合成結果画像531が得られる。
対象入力画像523及び524に対し、第2のHDR処理を施すことで合成結果画像532が得られる。即ち、対象入力画像523及び524を合成する画像合成処理によりHDR画像を生成した後、そのHDR画像に第2の階調変換処理を施すことで合成結果画像532が得られる。
対象入力画像525に対し、第3のHDR処理を施すことで階調補正画像533が得られる。即ち、対象入力画像525に階調補正処理を施すことで階調補正画像533が得られる。
【0086】
以下では(図18及び図19参照)、第1のHDR処理にて得られた合成結果画像(511又は531)を第1の出力HDR画像とも呼び、第2のHDR処理にて得られた合成結果画像(512又は532)を第2の出力HDR画像とも呼び、第3のHDR処理にて得られた階調補正画像(513又は533)を第3の出力HDR画像とも呼ぶ。
【0087】
[動作フローチャート]
図4に示される優先順位設定部57の機能説明の前に、図20を参照して、撮像装置1の動作手順を説明する。図20は、HDR撮影に関与する動作の手順を表すフローチャートである。
【0088】
撮影モードにおける動作が開始されると、ステップS11においてプレビュー画像列の撮影が開始される。得られたプレビュー画像列は動画像として表示される。一方で、ステップS12において、CPU23は、シャッタボタン26bに対して半押し操作が成されたか否かを監視し、半押し操作が成されるとステップS12からステップS13への遷移が発生する。ステップS13において、要否判定部56は、プレビュー画像の一種である判定用画像の画像データに基づきHDR撮影の要否判定を行い、一方で、ステップS14では、シャッタボタン26bに対して全押し操作が成されたか否かがCPU23により監視される。ステップS14において、全押し操作が成されたことが確認されるとステップS15への遷移が発生し、以後、ステップS16〜S19の処理又はステップS20の処理が実行される。要否判定部56によりHDR撮影が必要と判断されている場合には、ステップS16〜S19の処理が順次実行され、HDR撮影が不要と判断されている場合にはステップS20の処理が実行される。
【0089】
ステップS20では、1枚の入力画像が撮影されて、得られた入力画像の表示及び外部メモリ18への記録が成される。これに対し、ステップS16では、複数の露出条件にて複数の対象入力画像(例えば、図18の対象入力画像501及び502、又は、図19の対象入力画像521〜525)が連続的に撮影される。ステップS17では、ステップS16で得られた複数の対象入力画像に対し、第1〜第3のHDR処理が実行され、これによって第1〜第3の出力HDR画像が生成される。
【0090】
続くステップS18において、図4の優先順位設定部57は、第1〜第3の出力HDR画像に対して優先順位を設定するための処理(以下、優先順位設定処理という)を実行する。優先順位設定処理によって、第1〜第3の出力HDR画像の夫々に、第1、第2又は第3の優先順位が1つずつ付与される。第1の優先順位は第2の優先順位よりも高い優先順位であり、第2の優先順位は第3の優先順位よりも高い優先順位である。その後のステップS19において、図4の画像出力制御部58は、優先順位に従って第1〜第3の出力HDR画像の表示及び外部メモリ18への記録を成す。ステップS19において、1又は2つの出力HDR画像しか表示されないこともあるし、1又は2つの出力HDR画像しか外部メモリ18に記録されないこともある。
【0091】
優先順位に従った第1〜第3の出力HDR画像の表示及び記録方法の例として、第1〜第3の表示/記録方法を説明する。
【0092】
第1の表示/記録方法を説明する。第1の表示/記録方法では、図21(a)に示す如く、表示画面の全表示領域内に互いに異なる表示領域551〜553を設け、ユーザからの特段の指示がない限り、図21(b)に示す如く、表示領域551〜553に、それぞれ第1〜第3の優先順位が与えられた出力HDR画像を表示する。ここで、表示領域551の大きさは、表示領域552及び553のそれらよりも大きい。表示領域552の大きさは、表示領域553のそれよりも大きくてもよいし、表示領域552及び553の大きさは互いに同じであっても良い。ユーザは、操作部26に対する所定操作又はタッチパネル操作により、表示領域551に表示される出力HDR画像を、第1〜第3の出力HDR画像の中で切り替えることができる。
第1の表示/記録方法において、ユーザの記録指示があったとき、表示領域551に表示されている出力HDR画像のみを外部メモリ18に記録すると良い。記録指示は、操作部26に対する所定操作又はタッチパネル操作によって実現される。
【0093】
第2の表示/記録方法を説明する。第2の表示/記録方法では、図21(c)に示す如く、表示画面の全表示領域内に互いに異なる表示領域561〜564を設け、図21(d)に示す如く、表示領域562〜564に、夫々、第1〜第3の優先順位が与えられた出力HDR画像を表示する。表示領域562〜564の大きさを互いに同じにしておくことができる。一方で、表示領域561の大きさは、表示領域562〜564のそれらよりも大きい。表示領域561には、第1〜第3の出力HDR画像の中から選択された出力HDR画像が拡大表示される。ユーザからの特段の指示がない限り、表示領域561には、第1優先順位が与えられた出力HDR画像が表示される(図21(d)参照)。ユーザは、操作部26に対する所定操作又はタッチパネル操作により、表示領域561に表示される出力HDR画像を、第1〜第3の出力HDR画像の中で切り替えることができる。
第2の表示/記録方法において、ユーザの記録指示があったとき、表示領域561に表示されている出力HDR画像のみを外部メモリ18に記録すると良い。
【0094】
第3の表示/記録方法を説明する。第3の表示/記録方法では、図21(e)に示す如く、1つの時刻に1枚の出力HDR画像しか表示しない。ユーザからの特段の指示がない限り、第1の優先順位が与えられた出力HDR画像のみが表示される。ユーザは、スクロール指示を撮像装置1に与えることにより、表示画面に表示される出力HDR画像を、第1〜第3の出力HDR画像の中で切り替えることができる。スクロール指示は、操作部26に対する所定操作又はタッチパネル操作によって実現される。第1の優先順位の出力HDR画像が表示されている状態において1回分のスクロール指示が成されると、表示画像が第1の優先順位の出力HDR画像から第2の優先順位の出力HDR画像に切り替わり、第2の優先順位の出力HDR画像が表示されている状態において1回分のスクロール指示が成されると、表示画像が第2の優先順位の出力HDR画像から第1又は第3の優先順位の出力HDR画像に切り替わる。
第3の表示/記録方法において、ユーザの記録指示があったとき、表示されている出力HDR画像のみを外部メモリ18に記録すると良い。
【0095】
尚、第1〜第3の表示/記録方法において、第1の優先順位の出力HDR画像のみを常に外部メモリ18に記録するようにしても良いし、或いは、第1、第2及び第3の優先順位の出力HDR画像が夫々第1、第2及び第3番目に外部メモリ18に記録されるように第1〜第3の出力HDR画像の並べ替えを行った上で、第1〜第3の出力HDR画像を全て外部メモリ18に記録するようにしても良い。優先順位に応じた上述の表示/記録方法例は、あくまで例示であり、第1〜第3の出力HDR画像の表示又は記録に対して、優先順位に応じた何らかの序列を与える任意の方法を採用可能である。
【0096】
[優先順位設定処理]
優先順位設定部57は、プレビュー画像列の画像データから抽出された設定指標に基づき、第1〜第3の出力HDR画像に対して優先順位を設定することができる。設定指標の抽出方法の説明を交えながら、優先順位設定処理を詳説する。
【0097】
優先順位を設定するために、露出制御部52(図4参照)は、2つの露光時間ETS及びETLを設定し、露光時間ETSによる入力画像の撮影と露光時間ETLによる入力画像の撮影とが交互に行われるように露出制御を行う。このような露出制御が行われる期間は、図15(a)の本撮影期間前に設定され、上記の判定用期間と同じであっても良いし異なっていてもよい。ここでは、優先順位を設定するため行われる、露光時間ETSによる入力画像と露光時間ETLによる入力画像との交互撮影が、図15(b)の判定用期間中に成されると考える。そうすると、図16の判定用画像411〜416の画像データが、優先順位の設定に利用される。
【0098】
図4の優先順位設定部57又は画像処理部50に、任意の2枚の入力画像間のオプティカルフローを導出する動き検出部71(図22参照)を設けておくことができる。動き検出部71は、時間的に隣接する2枚の短露光判定用画像間のオプティカルフローを導出し、時間的に隣接する2枚の長露光判定用画像間のオプティカルフローを導出する。判定用画像411〜416に対しては、図23に示す如く、画像411及び413間のオプティカルフローと、画像412及び414間のオプティカルフローと、画像413及び415間のオプティカルフローと、画像414及び416間のオプティカルフローと、が導出される。
【0099】
第1及び第2入力画像間のオプティカルフローは、第1及び第2入力画像上に現われる物体の動きベクトルの束である。或る物体の動きベクトルは、当該物体の動きの向き及び大きさを表すベクトル量である。動き検出部71は、導出したオプティカルフローごとに、オプティカルフローを形成する動きベクトルの大きさの平均値又は積算値を動き評価値として求める。優先順位設定部57は、動き評価値を優先順位設定用の第1の設定指標として用いた上で、優先順位を設定することができる(設定の詳細は図24(a)及び(b)を参照して後述する)。
【0100】
また、図4の優先順位設定部57又は画像処理部50に、図22のフリッカ検出部72を設けておくことができる。
【0101】
撮像素子33は、電子シャッタ機能を備えており、所謂ローリングシャッタによって各受光画素の露光を実施する。ローリングシャッタでは、撮像面の各受光画素が露光されるタイミング(時刻)が水平ラインごとに異なる。つまり、撮像面において、互いに異なる水平ライン間では露光タイミングが互いに異なる。非インバータ式の蛍光灯の照明下で、ローリングシャッタ特性を有する撮像素子33(XYアドレス型のCMOSイメージセンサ等)を用いて撮影を行った場合、各入力画像の露光時間を蛍光灯の発光周期より著しく短くすると、各入力画像において垂直方向の輝度ムラが生じる。このような、各々の入力画像において発生しうる輝度ムラを、フレーム内フリッカと呼ぶ。非インバータ式の蛍光灯とは、インバータを用いることなく、商用交流電源によって直接点灯される蛍光灯を意味する。また、撮影のフレームレートと非インバータ式の蛍光灯を駆動する商用交流電源の周波数とが異なる場合、垂直方向の輝度ムラの状態がフレーム間で変化し、時間方向に輝度のフリッカが生じる。このような、時間方向に生じる輝度のフリッカ(互いに異なる入力画像間で輝度が変化することによるフリッカ)をフレーム間フリッカと呼ぶ。
【0102】
フリッカ検出部72は、露光時間ETSによる入力画像の撮影と露光時間ETLによる入力画像の撮影とを交互に行うことで得られた判定用画像列(例えば、図16の判定用画像411〜416)に基づき、フリッカの有無を検出することができる。有無検出の対象となるフリッカは、少なくともフレーム内フリッカを含み、更にフレーム間フリッカをも含みうる。フリッカ検出部72は、公知のフリッカ検出方法(例えば、特開2008−109253号公報)を利用することができる。例えば、判定画像列のフレームレートを60fps(frame per second)に設定し、且つ、露光時間ETSを1/240秒に設定すると共に露光時間ETLを1/60秒に設定する。この場合において、撮像装置1の光源が非インバータ式の蛍光灯であると、短露光判定用画像では垂直方向に輝度ムラが発生する一方で長露光判定用画像では垂直方向に輝度ムラが全く又は殆ど発生しない。従って、時間的に隣接する短露光判定用画像と長露光判定用画像との間で垂直方向の輝度分布を対比することにより、判定用画像列にフリッカが存在しているか否かを判定することができる。フリッカ検出部72は、判定用画像列にフリッカが存在していると判定した場合、対象入力画像列にもフリッカが存在すると判断することができる。
【0103】
フリッカ検出部72は、判定用画像列及び対象入力画像列にフリッカが存在するか否かを表すフリッカ有無信号を出力する。判定用画像列及び対象入力画像列にフリッカが存在すると判定した場合、「1」の値を有するフリッカ有無信号を出力し、判定用画像列及び対象入力画像列にフリッカが存在すると判定しなかった場合、「0」の値を有するフリッカ有無信号を出力する。優先順位設定部57は、フリッカ有無信号を優先順位設定用の第2の設定指標として用いた上で、優先順位を設定することができる(設定の詳細は図24(a)及び(b)を参照して後述する)。
【0104】
また、図4の優先順位設定部57又は画像処理部50に、図22の彩度検出部73を設けておくことができる。彩度検出部73は、判定用期間に得られた判定用画像から1枚以上の判定用画像を抽出し、抽出した判定用画像の彩度に応じた彩度評価値を算出する。判定用期間内の判定用画像から任意の1枚の判定用画像を抽出することができ、この場合、抽出した判定用画像の各画素の彩度の平均値を彩度評価値として算出すればよい。また例えば、判定用期間内の判定用画像から任意の複数の判定用画像を抽出することができ、この場合、抽出した複数の判定用画像の各画素における彩度の平均値を彩度評価値として算出すればよい。優先順位設定部57は、彩度評価値を優先順位設定用の第3の設定指標として用いた上で、優先順位を設定することができる。
【0105】
判定用期間中に、プレビュー画像列の画像データから第1〜第3の設定指標又はそれの元になる情報を抽出して内部メモリ17に保存しておくことができる。この場合、全押し操作後に、優先順位設定部57は、保存された情報から第1〜第3の設定指標を得ることができる。但し、プレビュー画像列の画像データを必要分だけ内部メモリ17又は外部メモリ18に一時的に記録しておき、全押し操作後に、一時記録された画像データから第1〜第3の設定指標を導出するようにしてもよい。
【0106】
優先順位設定部57は、第1〜第3の設定指標の内、少なくとも1つの設定指標に基づいて優先順位を設定することができる。
【0107】
図24(a)に、第1及び第3の設定指標(即ち動き評価値及び彩度評価値)を用いた場合における優先順位の設定内容を示す。優先順位設定部57は、動き評価値が所定の基準動き値以上であるとき「動きは大きい」と判断し、動き評価値が該基準動き値未満であるとき「動きは小さい」と判断する。また、優先順位設定部57は、彩度評価値が所定の基準彩度値以上であるとき「彩度は高い」と判断し、彩度評価値が該基準彩度値未満であるとき「彩度は低い」と判断する。そして、
彩度が高く且つ動きが小さいと判断した場合には第1規則に従って、
彩度が低く且つ動きが小さいと判断した場合には第2規則に従って、
彩度が低く且つ動きが大きいと判断した場合には第3規則に従って、
彩度が高く且つ動きが大きいと判断した場合には第4規則に従って、
優先順位を設定する。
【0108】
第1規則が適用される場合、第2、第1及び第3の出力HDR画像に、夫々、第1、第2及び第3の優先順位が与えられる。
第2規則が適用される場合、第1、第2及び第3の出力HDR画像に、夫々、第1、第2及び第3の優先順位が与えられる。
第3規則が適用される場合、第3、第1及び第2の出力HDR画像に、夫々、第1、第2及び第3の優先順位が与えられる。
第4規則が適用される場合、第3、第2及び第1の出力HDR画像に、夫々、第1、第2及び第3の優先順位が与えられる。
【0109】
図24(b)に、第2及び第3の設定指標(即ちフリッカ有無信号及び彩度評価値)を用いた場合における優先順位の設定内容を示す。フリッカ有無信号の値が「1」であるときフリッカは有ると判断され、フリッカ有無信号の値が「0」であるときフリッカは無いと判断される。
彩度が高く且つフリッカが無いと判断した場合には第1規則に従って、
彩度が低く且つフリッカが無いと判断した場合には第2規則に従って、
彩度が低く且つフリッカが有ると判断した場合には第3規則に従って、
彩度が高く且つフリッカが有ると判断した場合には第4規則に従って、
優先順位を設定することができる。
【0110】
入力画像の彩度が高いとき、ユーザは、彩度の高い鮮やかな画像の取得を望んでいると推測されるため、自然なトーンマッピングを利用した第1の出力HDR画像よりも、絵画調のHDR画像とも言うべき第2の出力HDR画像の方が、ユーザの好みに合致する可能性が高い。これを考慮し、彩度評価値から彩度が高いと判断される場合には、第2の出力HDR画像に付与される優先順位を第1の出力HDR画像のそれよりも高める。
逆に、入力画像の彩度が低いときには、絵画調のHDR画像が望まれている可能性は比較的低いと推測されるため、自然なトーンマッピングを利用した出力HDR画像の方がユーザに好まれやすいと考えられる。これを考慮し、彩度評価値から彩度が低いと判断される場合には、第1の出力HDR画像に付与される優先順位を第2の出力HDR画像のそれよりも高める。
【0111】
また、入力画像上の物体の動きが大きい場合又はフリッカが存在する場合、複数画像の合成が困難になることが多く、合成によって輪郭のぼけや二重像の発生等を招くこともある。これを考慮し、動き評価値から動きが大きいと判断される場合又はフリッカ有無信号からフリッカが有ると判断される場合には、第3の出力HDR画像に付与される優先順位を第1及び第2の出力HDR画像のそれらよりも高める。逆に、動き評価値から動きが小さいと判断される場合又はフリッカ有無信号からフリッカが無いと判断される場合には、複数画像の合成によるダイナミックレンジ拡大が有効に機能すると考えられるため、第3の出力HDR画像に付与される優先順位を第1及び第2の出力HDR画像のそれらよりも低くする。
【0112】
図24(a)及び(b)では2つの設定指標を用いて優先順位を決定しているが、第1〜第3の設定指標を全て用いて優先順位を決定しても良い。この場合、動きが小さいという第1条件、フリッカが無いという第2条件、及び、彩度が高いという第3条件を設定する。そして例えば、
第1〜第3条件が全て満たされる場合には第1規則に従って、
第3条件が満たされるが第1及び第2条件の少なくとも一方が満たされない場合には第4規則に従って、
第3条件は満たされないが第1及び第2条件が双方満たされる場合には第2規則に従って、
第3条件が満たされず且つ第1及び第2条件が少なくとも一方が満たされない場合には第3規則に従って、
優先順位を設定することができる。
【0113】
また、第1の設定指標のみを用いて優先順位を決定することも可能である。
この場合例えば、
動きが小さいと判断したときには第1規則に従って、
動きが大きいと判断したときには第4規則に従って優先順位を設定する、
或いは例えば、
動きが小さいと判断したときには第2規則に従って、
動きが大きいと判断したときには第3規則に従って優先順位を設定する。
【0114】
また、第2の設定指標のみを用いて優先順位を決定することも可能である。
この場合例えば、
フリッカが無いと判断したときには第1規則に従って、
フリッカが有ると判断したときには第4規則に従って優先順位を設定する、
或いは例えば、
フリッカが無いと判断したときには第2規則に従って、
フリッカが有ると判断したときには第3規則に従って優先順位を設定する。
【0115】
また、第3の設定指標のみを用いて優先順位を決定することも可能である。
この場合例えば、
彩度が高いと判断したときには第1規則に従って、
彩度が低いと判断したときには第2規則に従って、優先順位を設定する、
或いは例えば、
彩度が高いと判断したときには第4規則に従って、
彩度が低いと判断したときには第3規則に従って、優先順位を設定する。
【0116】
上述の撮像装置1によれば、複数のHDR処理によって複数の出力HDR画像を生成することができる。このため、ユーザは、複数の出力HDR画像の中から、自分の好みにあった出力HDR画像を選択的に表示又は記録するといったことが可能となる。また、優先順位に応じた表示制御又は記録制御により、ユーザの好みに合っていると推測される出力HDR画像を優先的に表示又は記録することができる。ユーザの好みに沿った優先表示又は優先記録が、ユーザの利便性向上(ユーザの操作負担軽減など)に寄与することは言うまでもない。仮に、高い優先順位を与えられた出力HDR画像がユーザの好みに合ったものでない場合においても、ユーザは、低い優先順位が与えられた出力HDR画像の中から、好みの出力HDR画像を選択的に表示又は記録させることができる。また、HDR撮影の要否判定により、必要性の少ないHDR撮影及びHDR処理の実行を回避することができる。
【0117】
尚、当然ではあるが、HDR処理は、HDR撮影が必要と判断されて対象入力画像が撮影されたときにのみ実行される。従って、要否判定部56によるHDR撮影の要否判定は、HDR処理の要否判定(HDR処理の実行が必要か否かの判定)であるとも言え、出力HDR画像の要否判定(出力HDR画像の生成が必要か否かの判定)であるとも言える。
【0118】
[高優先順位の画像のみの生成]
図20の動作では、生成した第1〜第3の出力HDR画像に対して優先順位を設定しているが、ステップS18の優先順位設定処理をステップS17の処理の実行前に実行し、第1〜第3の出力HDR画像の内、第1の優先順位が設定された出力HDR画像のみ、或いは、第1及び第2の優先順位が設定された出力HDR画像のみを生成するようにしても良い。このような生成を実現する方法を、便宜上、方法αと呼ぶ。
【0119】
方法αでは、例えば、
上記の第1規則が適用される状況下において、
第1〜第3の出力HDR画像の内、第2の出力HDR画像のみ、或いは、第2及び第1の出力HDR画像のみを生成し、
上記の第2規則が適用される状況下において、
第1〜第3の出力HDR画像の内、第1の出力HDR画像のみ、或いは、第1及び第2の出力HDR画像のみを生成し、
上記の第3規則が適用される状況下において、
第1〜第3の出力HDR画像の内、第3の出力HDR画像のみ、或いは、第3及び第1の出力HDR画像のみを生成し、
上記の第4規則が適用される状況下において、
第1〜第3の出力HDR画像の内、第3の出力HDR画像のみ、或いは、第3及び第2の出力HDR画像のみを生成する。
図4の画像出力制御部58は、生成された出力HDR画像を表示部27に表示させることができると共に外部メモリ18に記録させることができる。
【0120】
方法αでは、第1〜第3のHDR処理の内、1つ又は2つのHDR処理のみが選択的に実行され、第1〜第3の出力HDR画像の内、1枚又は2枚の出力HDR画像のみが生成される。このため、方法αでは、出力HDR画像を生成するためのHDR処理の内容が優先順位に従って変更される、と言える。優先順位をプレビュー画像列の画像データから設定することができるため、方法αでは、出力HDR画像を生成するためのHDR処理の内容がプレビュー画像列の画像データに基づいて変更される、とも言える。
【0121】
更に、方法αを、以下のような方法αAに変形することもできる。方法αAでは、第1及び第2の出力HDR画像の内、より高い優先順位が設定された出力HDR画像のみを生成する。従って、方法αAを用いる場合、
上記の第1又は第4規則が適用される状況下においては、
第1及び第2の出力HDR画像の内、第2の出力HDR画像のみ生成するようにし、
上記の第2又は第3規則が適用される状況下においては、
第1及び第2の出力HDR画像の内、第1の出力HDR画像のみを生成するようにする。
図4の画像出力制御部58は、生成された出力HDR画像を表示部27に表示させることができると共に外部メモリ18に記録させることができる。
【0122】
方法αAでは、第1及び第2のHDR処理の内、一方のHDR処理のみが選択され、選択されたHDR処理を用いて、第1及び第2の出力HDR画像の内、一方の出力HDR画像のみが生成される。このため、方法αと同様に、方法αAにおいても、出力HDR画像を生成するためのHDR処理の内容が優先順位に従って変更される、と言え、出力HDR画像を生成するためのHDR処理の内容がプレビュー画像列の画像データに基づいて変更される、とも言える。他方、第1及び第2の出力HDR画像は、常に画像合成処理及び階調変換処理を介して生成される。従って、方法αAでは、出力HDR画像を生成するための階調変換処理の内容が優先順位に従って変更される、と言え、出力HDR画像を生成するための階調変換処理の内容がプレビュー画像列の画像データに基づいて変更される、とも言える。
【0123】
方法α又はαAによれば、ユーザの好みに合っていると推測される出力HDR画像を選択的に生成することが可能となる。
【0124】
<<変形等>>
本発明の実施形態は、特許請求の範囲に示された技術的思想の範囲内において、適宜、種々の変更が可能である。以上の実施形態は、あくまでも、本発明の実施形態の例であって、本発明ないし各構成要件の用語の意義は、以上の実施形態に記載されたものに制限されるものではない。上述の説明文中に示した具体的な数値は、単なる例示であって、当然の如く、それらを様々な数値に変更することができる。上述の実施形態に適用可能な注釈事項として、以下に、注釈1〜注釈3を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
【0125】
[注釈1]
上述の動作例では、画像処理部50にて実現可能なHDR処理の種類数が3になっているが、その種類数は2以上であれば幾つでもよい。画像処理部50から、HDR処理の種類数と同数の出力HDR画像を得ることができる。
【0126】
[注釈2]
図4に示される画像処理部50、画像データ取得部51及び画像出力制御部58並びに図1に示される任意の部位(表示部27等)は、撮像装置1以外の電子機器(不図示)に設けられていても良く、その電子機器上において上述の各動作を実現させても良い。電子機器は、例えば、パーソナルコンピュータ、携帯情報端末、携帯電話機である。尚、撮像装置1も、電子機器の一種である。
【0127】
[注釈3]
図1の撮像装置1及び上記電子機器を、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって構成することができる。ソフトウェアを用いて撮像装置1及び電子機器を構成する場合、ソフトウェアにて実現される部位についてのブロック図は、その部位の機能ブロック図を表すことになる。特に、図4の各部位にて実現される機能の全部又は一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部又は一部を実現するようにしてもよい。
【符号の説明】
【0128】
1 撮像装置
11 撮像部
27 表示部
50 画像処理部
51 画像データ取得部
52 露出制御部
53 合成処理部
54 階調変換部
55 階調補正部
56 HDR撮影要否判定部
57 優先順位設定部
58 画像出力制御部
【技術分野】
【0001】
本発明は、撮像装置等の電子機器に関する。また、画像に対して様々な処理を施すための画像処理方法及びプログラムに関する。
【背景技術】
【0002】
撮影によって得られた入力画像のダイナミックレンジを拡大することで、HDR(High Dynamic range)画像を生成する方法が知られている。
【0003】
この方法を実現する一般的なHDR処理では、露出条件が互いに異なる複数の入力画像を合成することでダイナミックレンジの拡大を図っている。ダイナミックレンジが拡大された画像に対し、ビット長圧縮などを目的とした階調変換を成すことで、最終的なHDR画像を生成することも多い。また、単一画像に対して適切な階調補正を行うことにより、ダイナミックレンジ(見かけ上のダイナミックレンジ)を拡大する方法も提案されている。
【0004】
この他、ダイナミックレンジの拡大を図った従来方法として、以下の第1及び第2従来方法が存在する。
【0005】
第1従来方法に係る撮像装置は、単一画像に階調補正を行うことでダイナミックレンジを拡大する第1のダイナミックレンジ拡大手段と、互いに異なる露出条件にて撮影された複数の画像を合成することでダイナミックレンジを拡大する第2のダイナミックレンジ拡大手段と、第1及び第2のダイナミックレンジ拡大手段のどちらを用いてダイナミックレンジを拡大した画像を取得するかを選択する選択手段と、選択されたダイナミックレンジ拡大手段が必要とする画像を撮像手段に撮影させる手段と、を備える(例えば、下記特許文献1参照)。
【0006】
第2従来方法に係る撮像装置は、互いに異なる露出条件にて撮影された複数の画像を合成することによりダイナミックレンジを拡大する画像合成手段を備え、画像合成手段において、画像の合焦状態の詳細度の高低に応じてダイナミックレンジ拡大幅を変更している(例えば、下記特許文献2参照)。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2010−093679号公報
【特許文献2】特開2009−218895号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
複数の画像を用いたHDR処理の結果画像は、当然に、処理の内容に依存して変化し、特に上記の階調変換に依存して大きく変化する。ユーザの好みに合った結果画像が生成されるように、階調変換を含むHDR処理の内容をユーザが指定するといったことも考えられるが、そのような指定は比較的大きな操作負担をユーザに課す。ユーザに過度の負担を与えることなく、ユーザの好みに合った結果画像を提供することができれば有益であることは言うまでもないが、上記第1及び第2従来方法を含む従来方法では、これが十分に実現されていない。
【0009】
そこで本発明は、ユーザの好みに合ったダイナミックレンジ拡大画像の提供に寄与する電子機器、画像処理方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明に係る第1の電子機器は、互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得部と、前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理部と、前記合成処理部の生成画像に対し、互いに異なる複数の階調変換条件を個別に用いて階調変換を行うことにより複数の合成結果画像を生成する階調変換部と、を備えたことを特徴とする。
【0011】
これにより、ユーザは、複数の合成結果画像の中から、自分の好みにあった合成結果画像(ダイナミックレンジ拡大画像)を抽出することが可能となる。
【0012】
そして例えば、前記入力画像列の画像データに基づき前記複数の合成結果画像に対して優先順位を設定する優先順位設定部と、前記優先順位に応じて前記複数の合成結果画像の表示又は記録を制御する画像出力制御部とを、前記第1の電子機器に更に設けると良い。
【0013】
これにより、ユーザの好みに合っていると推測される合成結果画像を優先的に表示又は記録することが可能となる。
【0014】
また例えば、前記n枚の入力画像に含まれる1枚の入力画像に階調補正を行うことで階調補正画像を生成する階調補正部を、前記第1の電子機器に更に設けてもよい。
【0015】
そして例えば、前記入力画像列の画像データに基づき前記複数の合成結果画像及び前記階調補正画像に対して優先順位を設定する優先順位設定部と、前記優先順位に応じて前記複数の合成結果画像及び前記階調補正画像の表示又は記録を制御する画像出力制御部とを、前記第1の電子機器に更に設けても良い。
【0016】
これにより、ユーザの好みに合っていると推測される合成結果画像又は階調補正画像を優先的に表示又は記録することが可能となる。
【0017】
具体的は例えば、前記優先順位設定部は、前記入力画像列の画像データに基づいて、前記入力画像列上の物体の動き、前記入力画像列におけるフリッカの有無、及び、前記入力画像列における彩度の内の1以上を評価し、評価結果に基づいて前記優先順位を設定しても良い。
【0018】
また例えば、前記第1の電子機器は、前記入力画像列の画像データを撮影によって取得する撮像装置であって、前記入力画像列を形成する各入力画像の露出条件を設定する露出条件設定部と、前記複数の合成結果画像を生成することの要否を判定する要否判定部と、を更に備え、前記複数の合成結果画像を生成するか否かは、前記要否の判定結果に従って定められ、前記n枚の入力画像に先立って撮影される入力画像には、第1及び第2の判定用入力画像が含まれ、前記露出条件設定部は、前記第1の判定用入力画像において所定の第1基準輝度以上の輝度を有する画素の数が所定の第1基準値以下になるように、前記第1の判定用入力画像の撮影時における第1の露出条件を設定するとともに、前記第2の判定用入力画像において所定の第2基準輝度以下の輝度を有する画素の数が所定の第2基準値以下になるように、前記第2の判定用入力画像の撮影時における第2の露出条件を設定し、前記要否判定部は、前記第1及び第2の露出条件に基づいて前記要否の判定を行っても良い。
【0019】
本発明に係る第2の電子機器は、互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得部と、前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理部と、前記合成処理部の生成画像に対し、階調変換を行うことにより合成結果画像を生成する階調変換部と、を備え、前記階調変換部は、前記階調変換の内容を前記入力画像列の画像データに基づいて変更することを特徴とする。
【0020】
これにより、ユーザの好みにあった合成結果画像(ダイナミックレンジ拡大画像)の提供が期待される。
【0021】
本発明に係る第1の画像処理方法は、互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得ステップと、前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理ステップと、前記合成処理ステップの生成画像に対し、互いに異なる複数の階調変換条件を個別に用いて階調変換を行うことにより複数の合成結果画像を生成する階調変換ステップと、を実行することを特徴とする。
【0022】
本発明に係る第2の画像処理方法は、互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得ステップと、前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理ステップと、前記合成処理ステップの生成画像に対し、階調変換を行うことにより合成結果画像を生成する階調変換ステップと、を実行し、前記階調変換ステップでは、前記階調変換の内容を前記入力画像列の画像データに基づいて変更することを特徴とする。
【0023】
そして例えば、第1又は第2の画像処理方法における画像データ取得ステップ、合成処理ステップ及び階調変換ステップをコンピュータに実行させるためのプログラムを形成すると良い。
【発明の効果】
【0024】
本発明によれば、ユーザの好みに合ったダイナミックレンジ拡大画像の提供に寄与する電子機器、画像処理方法及びプログラムを提供することが可能である。
【図面の簡単な説明】
【0025】
【図1】本発明の実施形態に係る撮像装置の全体ブロック図である。
【図2】図1の撮像部の内部構成図である。
【図3】二次元の画像空間と二次元画像との関係を示す図である。
【図4】ダイナミックレンジ拡大に特に関与する部位のブロック図である。
【図5】短露光画像としての入力画像、長露光画像としての入力画像及びそれらから生成されるHDR画像を示す図(a)と、短露光画像の輝度の増大処理を示す図(b)である。
【図6】入力画像における入射光量と信号レベルとの関係を表す図である。
【図7】HDR画像における入射光量と信号レベルとの関係を表す図である。
【図8】階調変換によってHDR画像から合成結果画像が得られる様子を示す図である。
【図9】第1の階調変換処理で用いられるトーンカーブを示す図である。
【図10】第2の階調変換処理によって、HDR画像から合成結果画像を生成される様子を示す図である。
【図11】第2の階調変換処理における単純ビット長圧縮を説明するための図である。
【図12】第2の階調変換処理において参照されるHDR画像及び合成結果画像の輝度ヒストグラムである。
【図13】入力画像から階調補正画像が得られる様子を示す図である。
【図14】HDR画像及び階調補正画像の輝度ヒストグラムを示す図(a)(b)と、階調補正処理におけるゲイン関数を示す図(c)である。
【図15】HDR撮影要否判定用期間と本撮影期間との関係を示す図(a)と、それらの期間に撮影される入力画像を説明するための図(b)である。
【図16】短露光判定用画像及び長露光判定用画像を含む判定用画像列を示す図である。
【図17】短露光判定用画像及び長露光判定用画像の輝度ヒストグラムである。
【図18】2枚の対象入力画像から3種類の合成結果画像が得られる様子を示す図である。
【図19】5枚の対象入力画像から3種類の合成結果画像が得られる様子を示す図である。
【図20】図1の撮像装置の動作フローチャートである。
【図21】優先順位に従った画像表示方法例を説明するための図である。
【図22】図1の撮像装置に設けておくことのできる複数の検出部を示した図である。
【図23】画像間でオプティカルフローが導出される様子を示す図である。
【図24】第1〜第3の出力HDR画像に対する優先順位の設定方法を説明するための図である。
【発明を実施するための形態】
【0026】
以下、本発明の実施形態の例を、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。
【0027】
図1は、本発明の実施形態に係る撮像装置1の全体ブロック図である。撮像装置1は、符号11〜28によって参照される各部位を有する。撮像装置1は、デジタルビデオカメラであり、動画像及び静止画像を撮影可能となっていると共に動画像撮影中に静止画像を撮影することも可能となっている。撮像装置1内の各部位は、バス24又は25を介して、各部位間の信号(データ)のやり取りを行う。尚、表示部27及び/又はスピーカ28は、撮像装置1の外部装置(不図示)に設けられたものであってもよい。
【0028】
図2に、撮像部11の内部構成図を示す。撮像部11は、光学系35と、絞り32と、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどから成る撮像素子33と、光学系35や絞り32を駆動制御するためのドライバ34と、を有している。光学系35は、ズームレンズ30及びフォーカスレンズ31を含む複数枚のレンズから形成される。ズームレンズ30及びフォーカスレンズ31は光軸方向に移動可能である。ドライバ34は、CPU(Central Processing Unit)23からの制御信号に基づいてズームレンズ30及びフォーカスレンズ31の各位置並びに絞り32の開度を駆動制御することにより、撮像部11の焦点距離(画角)及び焦点位置並びに撮像素子33への入射光量(換言すれば、絞り値)を制御する。
【0029】
撮像素子33は、光学系35及び絞り32を介して入射した被写体を表す光学像を光電変換し、該光電変換によって得られた電気信号をAFE(Analog Front End)12に出力する。より具体的には、撮像素子33は、マトリクス状に二次元配列された複数の受光画素を備え、各画像の撮影において、各受光画素は露光時間に応じた電荷量の信号電荷を蓄える。蓄えた信号電荷の電荷量に比例した大きさを有する各受光画素からのアナログ信号は、撮像装置1内で生成される駆動パルスに従って順次AFE12に出力される。
【0030】
AFE12は、撮像部11(撮像素子33)から出力されるアナログ信号を増幅し、増幅されたアナログ信号をデジタル信号に変換する。AFE12は、このデジタル信号をRAWデータとして映像信号処理部13に出力する。AFE12における信号増幅の増幅度は、CPU23によって制御される。
【0031】
映像信号処理部13は、RAWデータにて表される画像に対して必要な画像処理を施し、画像処理後の画像についての映像信号を生成する。マイク14は、撮像装置1の周辺音をアナログの音声信号に変換し、音声信号処理部15は、このアナログの音声信号をデジタルの音声信号に変換する。
【0032】
圧縮処理部16は、映像信号処理部13からの映像信号及び音声信号処理部15からの音声信号を、所定の圧縮方式を用いて圧縮する。内部メモリ17は、DRAM(Dynamic Random Access Memory)などから成り、各種のデータを一時的に保存する。記録媒体としての外部メモリ18は、半導体メモリや磁気ディスクなどの不揮発性メモリであり、圧縮処理部16による圧縮後の映像信号及び音声信号を互いに関連付けた状態で記録する。
【0033】
伸張処理部19は、外部メモリ18から読み出された圧縮された映像信号及び音声信号を伸張する。伸張処理部19による伸張後の映像信号又は映像信号処理部13からの映像信号は、表示処理部20を介して、液晶ディスプレイ等から成る表示部27に送られて画像として表示される。また、伸張処理部19による伸張後の音声信号は、音声出力回路21を介してスピーカ28に送られて音として出力される。
【0034】
TG(タイミングジェネレータ)22は、撮像装置1全体における各動作のタイミングを制御するためのタイミング制御信号を生成し、生成したタイミング制御信号を撮像装置1内の各部に与える。タイミング制御信号は、垂直同期信号Vsyncと水平同期信号Hsyncを含む。CPU23は、撮像装置1内の各部位の動作を統括的に制御する。操作部26は、動画像の撮影及び記録の開始/終了を指示するための録画ボタン26a、静止画像の撮影及び記録を指示するためのシャッタボタン26b及び操作キー26c等を有し、ユーザによる各種操作を受け付ける。操作部26に対する操作内容はCPU23に伝達される。
【0035】
撮像装置1の動作モードには、画像(静止画像又は動画像)の撮影及び記録が可能な撮影モードと、外部メモリ18に記録された画像(静止画像又は動画像)を表示部27に再生表示する再生モードと、が含まれる。操作キー26cに対する操作に応じて、各モード間の遷移は実施される。
【0036】
撮影モードでは、次々と被写体の撮影が行われ、被写体の撮影画像が順次取得される。画像を表すデジタルの映像信号を画像データとも呼ぶ。上記RAWデータも画像データの一種である。
【0037】
尚、画像データの圧縮及び伸張は、本発明の本質とは関係ないため、以下の説明では、画像データの圧縮及び伸張の存在を無視する(即ち例えば、圧縮された画像データを記録することを、単に、画像データを記録すると表現する)。また、本明細書では、或る画像の画像データのことを単に画像と言うこともある。また、本明細書において、単に表示又は表示画面といった場合、それは、表示部27における表示又は表示画面を指す。
【0038】
図3に、二次元の画像空間XYを示す。画像空間XYは、X軸及びY軸を座標軸として有する、空間領域(spatial domain)上の二次元座標系である。任意の二次元画像300は、画像空間XY上に配置された画像であると考えることができる。X軸及びY軸は、夫々、二次元画像300の水平方向及び垂直方向に沿った軸である。二次元画像300は、水平方向及び垂直方向の夫々に複数の画素がマトリクス状に配列されて形成されており、二次元画像300上の何れかの画素である画素301の位置を(x,y)にて表す。本明細書では、画素の位置を、単に画素位置とも言う。x及びyは、夫々、画素301のX軸及びY軸方向の座標値である。二次元座標系XYにおいて、或る画素の位置が右側に1画素分ずれると該画素のX軸方向における座標値は1だけ増大し、或る画素の位置が下側に1画素分ずれると該画素のY軸方向における座標値は1だけ増大する。従って、画素301の位置が(x,y)である場合、画素301の右側、左側、下側及び上側に隣接する画素の位置は、夫々、(x+1,y)、(x−1,y)、(x,y+1)及び(x,y―1)にて表される。
【0039】
撮像装置1には、撮影によって得られた入力画像のダイナミックレンジを拡大する機能が設けられている。図4に、この機能に特に関与する部位のブロック図を示す。図4に示される各部位を撮像装置1内に設けておくことができる。例えば、画像処理部50及び画像データ取得部51を図1の映像信号処理部13に設けておくことができると共に、露出制御部(露出条件設定部)52及び画像出力制御部58をCPU23にて実現することができる。画像処理部50は、符号53〜57によって参照される各部位を備える。
【0040】
画像データ取得部51は、入力画像列の画像データを取得する。入力画像列の画像データは、画像データ取得部51を介して画像処理部50及び露出制御部52に供給される。入力画像列に代表される画像列とは、時系列上に並ぶ複数の画像の集まりを指す。従って、入力画像列は、時系列上に並ぶ複数の入力画像から成る。画像列は、動画像とも読み替えられる。入力画像は、RAWデータそのものにて表される静止画像、又は、RAWデータにて表される静止画像に所定の画像処理(例えば、ノイズ除去処理やデモザイキング処理)を施して得られる静止画像を指す。画像データ取得部51は、再生モードにおいて入力画像列の画像データを取得することもできる。この場合、画像データ取得部51は、外部メモリ18に記録された任意の画像列を入力画像列として外部メモリ18から読み出すことにより、入力画像列の画像データを取得する。但し、以下では、特に断りなき限り、撮影モードにおいて入力画像列の画像データが取得されることを想定する。
【0041】
露出制御部52は、入力画像の露出条件を設定する。この際、既に撮影された入力画像列の画像データに基づいて、以後の撮影によって得られることになる入力画像の露出条件を設定することができる(詳細は後述)。入力画像の露出条件とは、入力画像の露出状態を定める条件である。入力画像の露出条件には、入力画像の露光時間(即ちシャッタスピード)、入力画像の撮影時における絞り値、及び、入力画像の撮影時におけるISO感度が含まれる。入力画像の露光時間とは、入力画像の画像データを得るために撮像素子33が露光される時間の長さを指す。ISO感度は、ISO(International Organization for Standardization)によって規定された感度を意味し、ISO感度を調節することで入力画像の明るさ(輝度レベル)を調節することができる。実際には、ISO感度に応じてAFE12における信号増幅の増幅度を決定する。その増幅度はISO感度に比例している。ISO感度が2倍になれば、その増幅度も2倍となり、これによって入力画像の各画素の輝度も2倍となる(但し、飽和を無視)。
【0042】
合成処理部53は、互いに異なる露出条件にて撮影された複数の入力画像を合成する画像合成処理を行い、これによって各入力画像のダイナミックレンジよりも広いダイナミックレンジを有するHDR(High Dynamic Range)画像を生成する。HDR画像の各画素位置における画素信号のビット長は、入力画像のそれよりも長い。従って、HDR画像のビット長を維持したまま、HDR画像を表示部27に表示することができないこともある、或いは、HDR画像を外部メモリ18に記録できないこともある。
【0043】
このため、階調変換部54は、生成されたHDR画像の階調を圧縮するための階調変換処理をHDR画像に施し、階調変換処理後のHDR画像を合成結果画像として生成する。階調変換部54における階調圧縮の条件、即ち、HDR画像から合成結果画像を生成するための階調変換処理の条件を階調変換条件と呼ぶ。階調変換部54における階調変換処理及び階調変換条件を、夫々、階調圧縮処理及び階調圧縮条件と呼ぶこともできる。階調変換部54は、互いに異なる複数の階調変換条件を個別に用いてHDR画像に階調変換処理を成すことができ、これによって互いに異なる複数の合成結果画像を生成することができる。
【0044】
HDR画像及び合成結果画像は、入力画像のダイナミックレンジを拡大した画像に相当する。複数の入力画像から入力画像のダイナミックレンジを拡大した画像を生成する方法として、公知の方法(例えば、特開2008−109176号公報、特開2008−136113号公報又は特開2010−93679号公報に記載された方法)を含む任意のダイナミックレンジ拡大方法を利用可能である。
【0045】
階調補正部55は、1枚の入力画像に対して階調補正処理を施すことで当該入力画像の階調を補正する。階調補正後の入力画像を階調補正画像と呼ぶ。階調補正部55は、入力画像の見かけ上のダイナミックレンジが拡大されるように(換言すれば、入力画像のダイナミックレンジが擬似的に拡大されるように)階調補正処理を行う。
【0046】
階調補正画像も、入力画像のダイナミックレンジを拡大した画像に相当する。1枚の入力画像に対する階調補正により入力画像のダイナミックレンジを拡大する方法として、公知の方法(例えば、特開2010−93679号公報に記載された方法)を含む任意のダイナミックレンジ拡大方法を利用可能である。
【0047】
HDR撮影要否判定部56(以下、要否判定部56と略記することがある)は、入力画像列の画像データに基づいてHDR撮影の要否を判定する。HDR撮影とは、合成結果画像及び階調補正画像の生成元になる複数の入力画像の撮影を指す。要否判定部56又はCPU23は、HDR撮影が必要と判断された場合においてのみ、合成結果画像及び階調補正画像の生成元になる複数の入力画像が撮影されるように、撮像部11を制御することができる。HDR撮影が必要と判断された場合においてのみ合成結果画像及び階調補正画像が生成されるため、要否判定部56にて、合成結果画像及び階調補正画像の生成要否が判定されているとも言える。
【0048】
優先順位設定部57は、階調変換部54から得られる複数の合成結果画像及び階調補正部55から得られる階調補正画像に対して、優先順位を設定する。優先順位設定部57は、優先順位の設定を入力画像列の画像データに基づいて行うことができる。
【0049】
画像出力制御部58は、複数の合成結果画像及び階調補正画像を表示部27に表示させるための表示制御及び外部メモリ18に記録させるための記録制御を行う。画像出力制御部58は、優先順位設定部57にて設定された優先順位に応じて表示制御及び記録制御を成すことができる。
【0050】
以下、図4に示される各部位の動作を更に詳細を説明する。
【0051】
[画像合成処理]
合成処理部53による画像合成処理の一例を説明する。図5(a)及び(b)を参照する。ここでは、2枚の入力画像331及び332からHDR画像333を生成する方法を説明する。入力画像331及び332は、共通の被写体を撮影することで得られた入力画像であり、互いになるだけ近接した時刻で撮影される。例えば、入力画像331及び332は、連続的に撮影された2枚の入力画像である。
【0052】
露出制御部52は、入力画像331の露出条件と入力画像332の露出条件とを互いに異ならせる。具体的には例えば、入力画像331の露光時間を入力画像332の露光時間よりも短く設定する。ここでは説明の具体化のため、長露光画像である入力画像332の露光時間が、短露光画像である入力画像331の露光時間の2倍であるものとし、露光時間以外の露出条件は入力画像331及び332間で同じであるとする。入力画像331の画素位置(x,y)における画素信号、入力画像332の画素位置(x,y)における画素信号及びHDR画像333の画素位置(x,y)における画素信号を、夫々、SS(x,y)、SL(x,y)及びSH(x,y)にて表す。合成処理部53は、入力画像331の各画素位置における画素信号に2を乗じることにより、図5(b)の入力画像331’を生成することができる。入力画像331’の画素位置(x,y)における画素信号をSS’(x,y)にて表す。SS’(x,y)=2×SS(x,y)である。或る画素又は画素位置における画素信号は当該画素又は当該画素位置における映像信号を指し、映像信号はRAWデータ形式にて表現される、或いは、映像信号は輝度信号及び色差信号を含む。
【0053】
図6において、実線341は、入力画像331における入射光量と信号レベルとの関係を表し、実線342は、入力画像332における入射光量と信号レベルとの関係を表している。破線341’は、入力画像331’における入射光量と信号レベルとの関係を表している。ここにおける入射光量とは、単位時間当たりにおける撮像素子33への入射光量を指し、信号レベルとは、入力画像における画素信号の大きさを指す。各画素位置において、理想的には入力画像332の信号レベルは入力画像331の信号レベルの2倍になり、結果、理想的には実線342と破線341’は完全に一致する。しかしながら、撮像素子33はアナログデバイスであるため、入射光量と撮像素子33の各受光画素の蓄積電荷量との間には、非線形性が存在する。この他、蓄積電荷の信号を増幅する増幅器にも非線形性が存在する。このため、正確には、入力画像332の信号レベルが入力画像331の信号レベルの2倍にならず、結果、実線342と破線341’も完全には重なり合わない。
【0054】
図7を参照する。合成処理部53は、入射光量が光量IL1以下の画素位置に対しては、入力画像332の画素信号がHDR画像333の画素信号として用いられるように、且つ、入射光量が光量IL2以上の画素位置に対しては、入力画像331’の画素信号がHDR画像333の画素信号として用いられるように、且つ、入射光量が光量IL1よりも大きいが光量IL2未満の画素位置に対しては、入力画像332の画素信号と入力画像331’の画素信号との混合信号がHDR画像333の画素信号として用いられるように、HDR画像333の画素信号を生成する。ここで、0<IL1<IL2である。
【0055】
より具体的には例えば、
SL(x,y)≦STH1の成立時には、SH(x,y)=SL(x,y)となるように、
SS’(x,y)≧STH2の成立時には、SH(x,y)=SS’(x,y)となるように、SH(x,y)を生成する。SL(x,y)≦STH1及びSS’(x,y)≧STH2の双方が成立しないときには、SL(x,y)及びSS’(x,y)を混合することによって、即ち、
SH(x,y)=kL・SL(x,y)+kS・SS’(x,y)
に従ってSH(x,y)を生成する。STH1及びSTH2は、光量IL1及びIL2に対応する信号閾値であり、0<STH1<STH2を満たす。
【0056】
係数kS及びkLは、
kS=(SL(x,y)−STH1)/(STH2−STH1)、及び、
kL=1−kS
を満たすように設定される。但し、kS>0且つkL>0且つkS+kL=1を満たす範囲内で、kS及びkLの値を任意に決定することもできる(例えば、kS=kL=0.5、とすることも可能である)。
【0057】
合成処理部53は、HDR画像333の画素信号SH(x,y)を得るための、上述のような処理を画素位置ごとに行う。これにより、HDR画像333の全画素位置の画素信号が得られる(即ち、HDR画像333が完成する)。入力画像331’は入力画像331の各画素信号を2倍にすることで得られた画像であるため、入力画像331’の内、比較的輝度の大きい部分の信号レベルは、撮像素子33の信号飽和レベルSSATを超える(図7参照)。従って、HDR画像333のダイナミックレンジ352は、撮像素子33のダイナミックレンジ351よりも広くなる。
【0058】
[階調変換処理]
次に、階調変換部54による階調変換処理について説明する。例として、上述のHDR画像333(図5(a)参照)に対し、階調変換処理を成す方法を説明する。図8の画像360は、HDR画像333に階調変換処理を施して得られる画像であり、上述の合成結果画像(図4参照)に相当する。合成結果画像360の画素位置(x,y)における画素信号をSH’(x,y)にて表す。
【0059】
上述したように、階調変換部54は、互いに異なる複数の階調変換条件を個別に用いてHDR画像333に階調変換処理を成すことができる。以下に説明する階調変換処理は、トーンマッピングとも呼ばれ、トーンマッピングによってHDR画像333の各画素信号のビット長BLHDRが、所望のビット長BLOUTに変換される。0<BLOUT<BLHDRである。ビット長BLOUTは、例えば、表示部27にて表示可能な画像のビット長と同じに設定される、或いは、所定の画像記録フォーマットに従った画像のビット長と同じに設定される。ビット長BLOUTは、入力画像の各画素信号のビット長と同じであっても良い。上記複数の階調変換条件には、互いに異なる第1及び第2の階調変換条件が含まれる。
【0060】
第1の階調変換条件を用いた階調変換処理(以下、第1の階調変換処理とも呼ぶ)を説明する。第1の階調変換処理では、HDR画像333の全体に対して共通の階調変換関数(gray-level transformation function)を設定し、該共通の階調変換関数を用いてHDR画像333の各画素信号を合成結果画像360の各画素信号に変換する。階調変換関数をグラフで表したものは、一般にトーンカーブ(tone curve)と呼ばれる。図9に、第1の階調変換条件の採用時に用いられるトーンカーブ380を示す。トーンカーブ380によって表される階調変換関数は、HDR画像333の画素信号SH(x,y)と合成結果画像360の画素信号SH’(x,y)との関係を規定する関数である。トーンカーブ380による階調変換処理は、最も一般的な階調変換処理であるが、自然な階調圧縮を実現することができる。
【0061】
第2の階調変換条件を用いた階調変換処理(以下、第2の階調変換処理とも呼ぶ)を説明する。第2の階調変換処理では、階調圧縮の自由度が高い、絵画調のトーンマッピングが可能である。以下、一方法例を説明する。第2の階調変換処理では、まず、図10に示す如く、HDR画像333に対して単純ビット長圧縮を施すことでHDR画像334を生成する。即ち例えば、図11に示す如く、HDR画像333の各画素信号を表すデジタル信号の内、下位側の(BLHDR−BLOUT)ビットを切り捨てることによって、HDR画像334を生成する。そうすると、HDR画像334の画素位置(x,y)における画素信号SHA(x,y)のデジタル値は、画素信号SH(x,y)のデジタル値の1/(BLHDR−BLOUT)になる。一方で、HDR画像334の各画素信号のビット長はBLOUTになる。
【0062】
図12(a)に、HDR画像334の輝度ヒストグラムHST334を示す。第2の階調変換処理では、基準輝度LREFを設定し、基準輝度LREF付近に輝度レベルが集中するようにHDR画像334の輝度ヒストグラムHST334を変化させる。この変化後の輝度ヒストグラムが、図12(b)に示す合成結果画像360の輝度ヒストグラムHST360である。具体的には以下のようにすれば良い。
【0063】
HDR画像334の全画素を、基準輝度LREFよりも低い輝度を有する画素である暗画素、又は、基準輝度LREF以上の輝度を有する明画素に分類する。そして、各暗画素の画素信号に対しては1以上のゲインGUPを乗じる一方で、各明画素の画素信号に対しては1以下のゲインGDOWNを乗じることにより、合成結果画像360の各画素信号を生成する。即ち、合成結果画像360の画素位置(x,y)における画素信号SH’(x,y)は、HDR画像334の画素位置(x,y)における画素が暗画素である場合には、
SH’(x,y)=GUP×SHA(x,y)、に従って求められ、
HDR画像334の画素位置(x,y)における画素が明画素である場合には、
SH’(x,y)=GDOWM×SHA(x,y)、に従って求められる。
【0064】
ゲインGUPを1よりも大きな値に設定すると良い。また、暗画素の輝度と基準輝度LREFとの差が大きくなるに従って(GUP−1)が大きくなるように、暗画素ごとに暗画素の輝度に応じてゲインGUPの値を設定すると良い。但し、ゲインGUPの値を、1よりも大きな一定値に固定することも可能である。
ゲインGDOWNを1よりも小さな値に設定すると良い(但し、GDOWN>0)。また、明画素の輝度と基準輝度LREFとの差が大きくなるに従って(1−GDOWN)が大きくなるように、明画素ごとに明画素の輝度に応じてゲインGDOWNの値を設定すると良い。但し、GDOWNの値を、1よりも小さな一定値に固定することも可能である。
【0065】
如何なる輝度を基準輝度LREFに設定するのかは任意である。通常は、合成結果画像360の中間階調付近に基準輝度LREFが設定される。輝度ヒストグラムHST334において最大頻度を有する輝度を基準にして、基準輝度LREFを設定することもできる。
【0066】
ゲインGUPを各暗画素の画素信号に乗じると共にゲインGDOWNを各明画素の画素信号に乗じることにより、輝度の頻度が基準輝度LREF付近に集中化する。図12(b)の輝度ヒストグラムHST360から、その集中化の様子が見てとれる。輝度ヒストグラムHST360に対応する合成結果画像360は、絵画調のHDR画像であると言える。絵画調の画像とは、絵の具などの画材を用いて紙面に描いた絵の雰囲気を有する画像である。絵の具などの画材を用いて紙面に描いた絵は、一般に彩度が高い一方で濃淡変化が少ない。第2の階調変換処理では、彩度を維持しつつ濃淡変化が減少せしめられるため、時として幻想的な雰囲気を持つ絵画調の合成結果画像360が得られる。
【0067】
絵画調の合成結果画像360を得るための第2の階調変換処理の方法として、公知の方法を用いることができ、例えば、非特許文献「Raanan Fattal、外2名、“Gradient Domain High Dynamic Range Compression”、[online]、[平成22年10月31日検索]、インターネット<URL:http://www.cs.huji.ac.il/~danix/hdr/>」に記載の方法、又は、非特許文献「Erik Reinhard、外3名、“Photographic Tone Reproduction for Digital Images”、[online]、[平成22年10月31日検索]、インターネット<URL:http://www.cs.utah.edu/~reinhard/cdrom/>」に記載の階調変換方法を用いることもできる。
【0068】
[階調補正処理]
次に、階調補正部55による階調補正処理について説明する。例として、短露光画像としての入力画像331(図5(a)参照)に対して階調補正処理を成す方法を説明する。図13における画像390は、入力画像331に階調補正処理を施して得られる画像であり、上述の階調補正画像(図4参照)に相当する。階調補正画像390の画素位置(x,y)における画素信号をSCS(x,y)にて表す。
【0069】
図14(a)及び(b)に、夫々、入力画像331の輝度ヒストグラムHST331及び階調補正画像390の輝度ヒストグラムHST390を示す。図14(c)の実線395は、入力画像331から階調補正画像390を得る際に用いるゲイン関数を表している。階調補正画像390の各画素信号は、ゲイン関数395に従うゲインGCを入力画像331の各画素信号に乗じることで得られる。即ち、
SCS(x,y)=GC×SS(x,y)、である。
【0070】
ゲインGCの値は、入力画像331の各画素位置の輝度に応じて画素位置ごとに設定される。GCH及びGCLは、夫々、ゲインGCがとり得る数値範囲の上限値及び下限値である。画素信号SS(x,y)に乗じられるゲインGCは、入力画像331の画素位置(x,y)における輝度がゼロ又はゼロ近傍であるとき上限値GCHに設定され、入力画像331の画素位置(x,y)における輝度がゼロから増大するにつれて、上限値GCHから下限値GCLに向けて減少せしめられる。この減少は線形的な減少であってもよいし、非線形的な減少であっても良い。0<GCL<GCHであり、例えば、GCL=1且つGCH=2である。
【0071】
上述のようなゲインGCを用いた階調補正により、短露光画像としての入力画像331各画素の階調は高輝度側にシフトされ、そのシフトの程度は、暗い画素に対してほど大きくなる。結果、高輝度側の画像情報を維持したまま低輝度側の画像情報が比較的大きなビット長を用いて表現されるようになり、見かけ上、ダイナミックレンジが拡大されたような階調補正画像390を生成することが可能となる。
【0072】
尚、上述の方法例では、短露光画像としての入力画像331から階調補正画像を生成しているが、長露光画像としての入力画像332から階調補正画像を生成することも可能である。
【0073】
[HDR撮影の要否判定]
次に、図4の要否判定部56による、HDR撮影の要否判定方法を説明する。図15(a)及び(b)を参照する。要否判定部56は、HDR撮影要否判定用期間(以下、判定用期間と略記することがある)内に撮影された入力画像の画像データに基づき、HDR撮影の要否を判定することができる。時間が進行するにつれ、時刻tA、tB及びtCが、この順番で訪れるものとする。判定用期間は、時刻tAから時刻tBまでの期間である。また、時刻tBから時刻tCまでの期間を本撮影期間と呼ぶ。本撮影期間は、合成結果画像及び階調補正画像の元となる複数の入力画像が撮影される期間であり、以下では、本撮影期間中に撮影される入力画像を特に対象入力画像とも呼ぶ(図15(b)参照)。図5(a)の入力画像331及び332の夫々は対象入力画像である。
【0074】
また、時刻tBより前に撮影される各入力画像をプレビュー画像とも呼び、更に、判定用期間内に撮影される各入力画像を判定用画像とも呼ぶ(図15(b)参照)。判定用画像はプレビュー画像の一種である。プレビュー画像は所定のフレーム周期で順次撮影され、得られたプレビュー画像列は動画像として表示部27に表示されてユーザによる構図確認に利用される。
【0075】
本撮影期間の開始時刻である時刻tBを、ユーザの指示によって決定することができる。判定用期間の開示時刻である時刻tAは、ユーザの指示によって決定されても良いし、時刻tBを基準にして定められても良い(例えば、時刻tBから所定時間前が時刻tAであると定めても良い)。ここでは、時刻tBと同様、時刻tAもユーザの指示によって決定されることを想定し、シャッタボタン26bに対して半押し操作、全押し操作が成された時点が、夫々、時刻tA、tBに相当すると考える。シャッタボタン26bは2段階の押下操作が可能なボタンであり、シャッタボタン26bに圧力が付与されていない開放状態からユーザがシャッタボタン26bを軽く押しこむとシャッタボタン26bの状態は半押し状態となり、その状態から更にユーザがシャッタボタン26bを押しこむとシャッタボタン26bの状態は全押し状態となる。シャッタボタン26bの状態を開放状態から半押し状態へと変化させる操作が半押し操作であり、シャッタボタン26bの状態を半押し状態から全押し状態へと変化させる操作が全押し操作である。
【0076】
判定用期間において、露出制御部52(図4参照)は、露光時間ETSと露光時間ETSよりも長い露光時間ETLを設定し、図16に示す如く、露光時間ETSによる入力画像の撮影と露光時間ETLによる入力画像の撮影とが交互に行われるように露出制御を行う。判定用期間において、露光時間ETSが特定の露光時間ETSOに収束するように且つ露光時間ETLが特定の露光時間ETLOに収束するように、露光時間ETS及びETLは逐次変更される。露光時間ETLOは、露光時間ETSOよりも長い。
【0077】
図16において、画像411〜416は、夫々、判定用期間において連続的に撮影された判定用画像である。判定用画像の内、露光時間ETSにて撮影された判定用画像を短露光判定用画像とも呼び、露光時間ETLにて撮影された判定用画像を長露光判定用画像とも呼ぶ。画像411、413及び415は、夫々、第1、第2及び第3枚目の短露光判定用画像であり、画像412、414及び416は、夫々、第1、第2及び第3枚目の長露光判定用画像である。
【0078】
図17(a)及び(b)は、夫々、任意の短露光判定用画像の輝度ヒストグラムHSTS及び任意の長露光判定用画像の輝度ヒストグラムHSTLを表している。要否判定部56は、短露光判定用画像及び長露光判定用画像の画像データに基づき、短露光判定用画像において所定の基準輝度LTH1以上の輝度を有する画素の総数PNUMS及び長露光判定用画像において所定の基準輝度LTH2以下の輝度を有する画素の総数PNUMLを求める。総数PNUMSは図17(a)の斜線領域の面積に相当し、総数PNUMLは図17(b)の斜線領域の面積に相当する。総数PNUMSの導出は短露光判定用画像ごとに行われ、総数PNUMLの導出は長露光判定用画像ごとに行われる。
【0079】
露出制御部52は、導出されたPNUMSの値を参照して、PNUMSを基準値REFS以下にするための露光時間ETSを探索すると共に、導出されたPNUMLの値を参照して、PNUMLを基準値REFL以下にするための露光時間ETLを探索する。より具体的には、短露光判定用画像411について導出されたPNUMSに基づき、短露光判定用画像413又は415について導出されることになるPNUMSが“REFS−ΔREFS≦PNUMS≦REFS”を満たすように、露出制御部52は、短露光判定用画像413又は415に対する露光時間ETSを調整する。同様に、長露光判定用画像412について導出されたPNUMLに基づき、長露光判定用画像414又は416について導出されることになるPNUMLが“REFL−ΔREFL≦PNUML≦REFL”を満たすように、露出制御部52は、長露光判定用画像414又は416に対する露光時間ETSを調整する。REFS、REFL、ΔREFS及びΔREFLの各値を予め設定しておくことができる。REFS、REFL、ΔREFS及びΔREFLは全て正の整数値を有し、REFS>ΔREFS、且つ、REFL−ΔREFL、である。
【0080】
露光時間ETS及びETLの調整により、判定用期間において、露光時間ETSは特定の露光時間ETSOに収束し且つ露光時間ETLは特定の露光時間ETLOに収束する。例えば、これらの調整の結果、短露光判定用画像415について導出されたPNUMSが“REFS−ΔREFS≦PNUMS≦REFS”を満たすように、且つ、長露光判定用画像416について導出されたPNUMLが“REFL−ΔREFL≦PNUML≦REFL”を満たすように、判定用画像415及び416の露光時間が設定される。そうすると、短露光判定用画像415の露光時間ETSを露光時間ETSOに代入すると共に、長露光判定用画像416の露光時間ETLを露光時間ETLOに代入することができる。
【0081】
要否判定部56は、上記調整を経て得られる短露光判定用画像及び長露光判定用画像の露出条件に基づき、HDR撮影の要否を判定する。具体的には、
要否判定不等式“ETLO/ETSO≧J”
が満たされる場合、HDR撮影が必要であると判断する一方、その要否判定不等式が満たされない場合、HDR撮影が不要であると判断する。Jは、1よりも大きな所定値であり、例えばJ=2である。後に述べるように、本撮影期間に撮影される入力画像331及び332(図5参照)の露光時間は露光時間ETSO及びETLOを基準に設定される。これを考慮すれば、“ETLO/ETSO<J”であるとき(即ち、ETSOとETLOとの間に、あまり差がないとき)、ダイナミックレンジ拡大用の処理を行っても、その処理の効果は小さい或いは殆ど無い。このことから、上記要否判定不等式の意義が理解される。
【0082】
[対象入力画像について]
HDR撮影が必要と判断されたときに、本撮影期間において撮影される対象入力画像の枚数は2であっても良い(図15(a)及び(b)参照)。この場合、本撮影期間において、図18に示す2枚の対象入力画像501及び502が連続的に撮影される。対象入力画像501及び502は、夫々、図5(a)の入力画像331及び332と同じものである。露出制御部52は、対象入力画像501及び502の露光時間を、それぞれ露光時間ETSO及びETLOを基準にして設定する。単純には例えば、露光時間ETSOをそのまま対象入力画像501の露光時間に設定すると共に露光時間ETLOをそのまま対象入力画像502の露光時間に設定することができる。或いは例えば、所定の規則に従って露光時間ETSOを増加又は減少させて露光時間ETSO’を求め、露光時間ETSO’を対象入力画像501の露光時間に設定しても良い。同様に、所定の規則に従って露光時間ETLOを増加又は減少させて露光時間ETLO’を求め、露光時間ETLO’を対象入力画像502の露光時間に設定しても良い。但し、露光時間ETLO’は露光時間ETSO及びETSO’よりも長い。
【0083】
対象入力画像501及び502に対し、第1のHDR処理を施すことで合成結果画像511が得られ、第2のHDR処理を施すことで合成結果画像512が得られ、第3のHDR処理を施すことで階調補正画像513が得られる。第1及び第2のHDR処理は合成処理部53及び階調変換部54によって成され、第3のHDR処理は階調補正部55によって成される。
第1のHDR処理は画像合成処理と第1の階調変換処理から成る。即ち、対象入力画像501及び502を合成する画像合成処理によりHDR画像を生成した後、そのHDR画像に第1の階調変換処理を施すことで合成結果画像511が得られる。合成結果画像511は、第1の階調変換処理を用いた場合における、上述の合成結果画像360(図8参照)に相当する。
第2のHDR処理は画像合成処理と第2の階調変換処理から成る。即ち、対象入力画像501及び502を合成する画像合成処理によりHDR画像を生成した後、そのHDR画像に第2の階調変換処理を施すことで合成結果画像512が得られる。合成結果画像512は、第2の階調変換処理を用いた場合における、上述の合成結果画像360(図10参照)に相当する。
第3のHDR処理は階調補正処理から成る。即ち、対象入力画像501又は502に階調補正処理を施すことで階調補正画像513が得られる。階調補正画像513は、図13の階調補正画像390に相当する。
【0084】
HDR撮影が必要と判断されたときに、本撮影期間において撮影される対象入力画像の枚数は3枚以上であっても良い。例えば、本撮影期間において、図19に示す5枚の対象入力画像521〜525が連続的に撮影されても良い。対象入力画像521〜525は、共通の被写体を撮影することで得られる。露出制御部52は、対象入力画像521、523及び525の露光時間を、露光時間ETSOを基準にして設定する。例えば、露光時間ETSO又はETSO’を、対象入力画像521、523及び525の露光時間に設定することができる。対象入力画像521、523及び525の露出条件は互いに一致していても良いし、互いに異なっていても良い。露出制御部52は、対象入力画像522及び524の露光時間を、露光時間ETLOを基準にして設定する。例えば、露光時間ETLO又はETLO’を、対象入力画像522及び524の露光時間に設定することができる。対象入力画像522及び524の露出条件は互いに一致していても良いし、互いに異なっていても良い。尚、上述の説明とは異なるが、露光時間ETLO又はETLO’を対象入力画像525の露光時間に設定することも可能である。
【0085】
対象入力画像521及び522に対し、第1のHDR処理を施すことで合成結果画像531が得られる。即ち、対象入力画像521及び522を合成する画像合成処理によりHDR画像を生成した後、そのHDR画像に第1の階調変換処理を施すことで合成結果画像531が得られる。
対象入力画像523及び524に対し、第2のHDR処理を施すことで合成結果画像532が得られる。即ち、対象入力画像523及び524を合成する画像合成処理によりHDR画像を生成した後、そのHDR画像に第2の階調変換処理を施すことで合成結果画像532が得られる。
対象入力画像525に対し、第3のHDR処理を施すことで階調補正画像533が得られる。即ち、対象入力画像525に階調補正処理を施すことで階調補正画像533が得られる。
【0086】
以下では(図18及び図19参照)、第1のHDR処理にて得られた合成結果画像(511又は531)を第1の出力HDR画像とも呼び、第2のHDR処理にて得られた合成結果画像(512又は532)を第2の出力HDR画像とも呼び、第3のHDR処理にて得られた階調補正画像(513又は533)を第3の出力HDR画像とも呼ぶ。
【0087】
[動作フローチャート]
図4に示される優先順位設定部57の機能説明の前に、図20を参照して、撮像装置1の動作手順を説明する。図20は、HDR撮影に関与する動作の手順を表すフローチャートである。
【0088】
撮影モードにおける動作が開始されると、ステップS11においてプレビュー画像列の撮影が開始される。得られたプレビュー画像列は動画像として表示される。一方で、ステップS12において、CPU23は、シャッタボタン26bに対して半押し操作が成されたか否かを監視し、半押し操作が成されるとステップS12からステップS13への遷移が発生する。ステップS13において、要否判定部56は、プレビュー画像の一種である判定用画像の画像データに基づきHDR撮影の要否判定を行い、一方で、ステップS14では、シャッタボタン26bに対して全押し操作が成されたか否かがCPU23により監視される。ステップS14において、全押し操作が成されたことが確認されるとステップS15への遷移が発生し、以後、ステップS16〜S19の処理又はステップS20の処理が実行される。要否判定部56によりHDR撮影が必要と判断されている場合には、ステップS16〜S19の処理が順次実行され、HDR撮影が不要と判断されている場合にはステップS20の処理が実行される。
【0089】
ステップS20では、1枚の入力画像が撮影されて、得られた入力画像の表示及び外部メモリ18への記録が成される。これに対し、ステップS16では、複数の露出条件にて複数の対象入力画像(例えば、図18の対象入力画像501及び502、又は、図19の対象入力画像521〜525)が連続的に撮影される。ステップS17では、ステップS16で得られた複数の対象入力画像に対し、第1〜第3のHDR処理が実行され、これによって第1〜第3の出力HDR画像が生成される。
【0090】
続くステップS18において、図4の優先順位設定部57は、第1〜第3の出力HDR画像に対して優先順位を設定するための処理(以下、優先順位設定処理という)を実行する。優先順位設定処理によって、第1〜第3の出力HDR画像の夫々に、第1、第2又は第3の優先順位が1つずつ付与される。第1の優先順位は第2の優先順位よりも高い優先順位であり、第2の優先順位は第3の優先順位よりも高い優先順位である。その後のステップS19において、図4の画像出力制御部58は、優先順位に従って第1〜第3の出力HDR画像の表示及び外部メモリ18への記録を成す。ステップS19において、1又は2つの出力HDR画像しか表示されないこともあるし、1又は2つの出力HDR画像しか外部メモリ18に記録されないこともある。
【0091】
優先順位に従った第1〜第3の出力HDR画像の表示及び記録方法の例として、第1〜第3の表示/記録方法を説明する。
【0092】
第1の表示/記録方法を説明する。第1の表示/記録方法では、図21(a)に示す如く、表示画面の全表示領域内に互いに異なる表示領域551〜553を設け、ユーザからの特段の指示がない限り、図21(b)に示す如く、表示領域551〜553に、それぞれ第1〜第3の優先順位が与えられた出力HDR画像を表示する。ここで、表示領域551の大きさは、表示領域552及び553のそれらよりも大きい。表示領域552の大きさは、表示領域553のそれよりも大きくてもよいし、表示領域552及び553の大きさは互いに同じであっても良い。ユーザは、操作部26に対する所定操作又はタッチパネル操作により、表示領域551に表示される出力HDR画像を、第1〜第3の出力HDR画像の中で切り替えることができる。
第1の表示/記録方法において、ユーザの記録指示があったとき、表示領域551に表示されている出力HDR画像のみを外部メモリ18に記録すると良い。記録指示は、操作部26に対する所定操作又はタッチパネル操作によって実現される。
【0093】
第2の表示/記録方法を説明する。第2の表示/記録方法では、図21(c)に示す如く、表示画面の全表示領域内に互いに異なる表示領域561〜564を設け、図21(d)に示す如く、表示領域562〜564に、夫々、第1〜第3の優先順位が与えられた出力HDR画像を表示する。表示領域562〜564の大きさを互いに同じにしておくことができる。一方で、表示領域561の大きさは、表示領域562〜564のそれらよりも大きい。表示領域561には、第1〜第3の出力HDR画像の中から選択された出力HDR画像が拡大表示される。ユーザからの特段の指示がない限り、表示領域561には、第1優先順位が与えられた出力HDR画像が表示される(図21(d)参照)。ユーザは、操作部26に対する所定操作又はタッチパネル操作により、表示領域561に表示される出力HDR画像を、第1〜第3の出力HDR画像の中で切り替えることができる。
第2の表示/記録方法において、ユーザの記録指示があったとき、表示領域561に表示されている出力HDR画像のみを外部メモリ18に記録すると良い。
【0094】
第3の表示/記録方法を説明する。第3の表示/記録方法では、図21(e)に示す如く、1つの時刻に1枚の出力HDR画像しか表示しない。ユーザからの特段の指示がない限り、第1の優先順位が与えられた出力HDR画像のみが表示される。ユーザは、スクロール指示を撮像装置1に与えることにより、表示画面に表示される出力HDR画像を、第1〜第3の出力HDR画像の中で切り替えることができる。スクロール指示は、操作部26に対する所定操作又はタッチパネル操作によって実現される。第1の優先順位の出力HDR画像が表示されている状態において1回分のスクロール指示が成されると、表示画像が第1の優先順位の出力HDR画像から第2の優先順位の出力HDR画像に切り替わり、第2の優先順位の出力HDR画像が表示されている状態において1回分のスクロール指示が成されると、表示画像が第2の優先順位の出力HDR画像から第1又は第3の優先順位の出力HDR画像に切り替わる。
第3の表示/記録方法において、ユーザの記録指示があったとき、表示されている出力HDR画像のみを外部メモリ18に記録すると良い。
【0095】
尚、第1〜第3の表示/記録方法において、第1の優先順位の出力HDR画像のみを常に外部メモリ18に記録するようにしても良いし、或いは、第1、第2及び第3の優先順位の出力HDR画像が夫々第1、第2及び第3番目に外部メモリ18に記録されるように第1〜第3の出力HDR画像の並べ替えを行った上で、第1〜第3の出力HDR画像を全て外部メモリ18に記録するようにしても良い。優先順位に応じた上述の表示/記録方法例は、あくまで例示であり、第1〜第3の出力HDR画像の表示又は記録に対して、優先順位に応じた何らかの序列を与える任意の方法を採用可能である。
【0096】
[優先順位設定処理]
優先順位設定部57は、プレビュー画像列の画像データから抽出された設定指標に基づき、第1〜第3の出力HDR画像に対して優先順位を設定することができる。設定指標の抽出方法の説明を交えながら、優先順位設定処理を詳説する。
【0097】
優先順位を設定するために、露出制御部52(図4参照)は、2つの露光時間ETS及びETLを設定し、露光時間ETSによる入力画像の撮影と露光時間ETLによる入力画像の撮影とが交互に行われるように露出制御を行う。このような露出制御が行われる期間は、図15(a)の本撮影期間前に設定され、上記の判定用期間と同じであっても良いし異なっていてもよい。ここでは、優先順位を設定するため行われる、露光時間ETSによる入力画像と露光時間ETLによる入力画像との交互撮影が、図15(b)の判定用期間中に成されると考える。そうすると、図16の判定用画像411〜416の画像データが、優先順位の設定に利用される。
【0098】
図4の優先順位設定部57又は画像処理部50に、任意の2枚の入力画像間のオプティカルフローを導出する動き検出部71(図22参照)を設けておくことができる。動き検出部71は、時間的に隣接する2枚の短露光判定用画像間のオプティカルフローを導出し、時間的に隣接する2枚の長露光判定用画像間のオプティカルフローを導出する。判定用画像411〜416に対しては、図23に示す如く、画像411及び413間のオプティカルフローと、画像412及び414間のオプティカルフローと、画像413及び415間のオプティカルフローと、画像414及び416間のオプティカルフローと、が導出される。
【0099】
第1及び第2入力画像間のオプティカルフローは、第1及び第2入力画像上に現われる物体の動きベクトルの束である。或る物体の動きベクトルは、当該物体の動きの向き及び大きさを表すベクトル量である。動き検出部71は、導出したオプティカルフローごとに、オプティカルフローを形成する動きベクトルの大きさの平均値又は積算値を動き評価値として求める。優先順位設定部57は、動き評価値を優先順位設定用の第1の設定指標として用いた上で、優先順位を設定することができる(設定の詳細は図24(a)及び(b)を参照して後述する)。
【0100】
また、図4の優先順位設定部57又は画像処理部50に、図22のフリッカ検出部72を設けておくことができる。
【0101】
撮像素子33は、電子シャッタ機能を備えており、所謂ローリングシャッタによって各受光画素の露光を実施する。ローリングシャッタでは、撮像面の各受光画素が露光されるタイミング(時刻)が水平ラインごとに異なる。つまり、撮像面において、互いに異なる水平ライン間では露光タイミングが互いに異なる。非インバータ式の蛍光灯の照明下で、ローリングシャッタ特性を有する撮像素子33(XYアドレス型のCMOSイメージセンサ等)を用いて撮影を行った場合、各入力画像の露光時間を蛍光灯の発光周期より著しく短くすると、各入力画像において垂直方向の輝度ムラが生じる。このような、各々の入力画像において発生しうる輝度ムラを、フレーム内フリッカと呼ぶ。非インバータ式の蛍光灯とは、インバータを用いることなく、商用交流電源によって直接点灯される蛍光灯を意味する。また、撮影のフレームレートと非インバータ式の蛍光灯を駆動する商用交流電源の周波数とが異なる場合、垂直方向の輝度ムラの状態がフレーム間で変化し、時間方向に輝度のフリッカが生じる。このような、時間方向に生じる輝度のフリッカ(互いに異なる入力画像間で輝度が変化することによるフリッカ)をフレーム間フリッカと呼ぶ。
【0102】
フリッカ検出部72は、露光時間ETSによる入力画像の撮影と露光時間ETLによる入力画像の撮影とを交互に行うことで得られた判定用画像列(例えば、図16の判定用画像411〜416)に基づき、フリッカの有無を検出することができる。有無検出の対象となるフリッカは、少なくともフレーム内フリッカを含み、更にフレーム間フリッカをも含みうる。フリッカ検出部72は、公知のフリッカ検出方法(例えば、特開2008−109253号公報)を利用することができる。例えば、判定画像列のフレームレートを60fps(frame per second)に設定し、且つ、露光時間ETSを1/240秒に設定すると共に露光時間ETLを1/60秒に設定する。この場合において、撮像装置1の光源が非インバータ式の蛍光灯であると、短露光判定用画像では垂直方向に輝度ムラが発生する一方で長露光判定用画像では垂直方向に輝度ムラが全く又は殆ど発生しない。従って、時間的に隣接する短露光判定用画像と長露光判定用画像との間で垂直方向の輝度分布を対比することにより、判定用画像列にフリッカが存在しているか否かを判定することができる。フリッカ検出部72は、判定用画像列にフリッカが存在していると判定した場合、対象入力画像列にもフリッカが存在すると判断することができる。
【0103】
フリッカ検出部72は、判定用画像列及び対象入力画像列にフリッカが存在するか否かを表すフリッカ有無信号を出力する。判定用画像列及び対象入力画像列にフリッカが存在すると判定した場合、「1」の値を有するフリッカ有無信号を出力し、判定用画像列及び対象入力画像列にフリッカが存在すると判定しなかった場合、「0」の値を有するフリッカ有無信号を出力する。優先順位設定部57は、フリッカ有無信号を優先順位設定用の第2の設定指標として用いた上で、優先順位を設定することができる(設定の詳細は図24(a)及び(b)を参照して後述する)。
【0104】
また、図4の優先順位設定部57又は画像処理部50に、図22の彩度検出部73を設けておくことができる。彩度検出部73は、判定用期間に得られた判定用画像から1枚以上の判定用画像を抽出し、抽出した判定用画像の彩度に応じた彩度評価値を算出する。判定用期間内の判定用画像から任意の1枚の判定用画像を抽出することができ、この場合、抽出した判定用画像の各画素の彩度の平均値を彩度評価値として算出すればよい。また例えば、判定用期間内の判定用画像から任意の複数の判定用画像を抽出することができ、この場合、抽出した複数の判定用画像の各画素における彩度の平均値を彩度評価値として算出すればよい。優先順位設定部57は、彩度評価値を優先順位設定用の第3の設定指標として用いた上で、優先順位を設定することができる。
【0105】
判定用期間中に、プレビュー画像列の画像データから第1〜第3の設定指標又はそれの元になる情報を抽出して内部メモリ17に保存しておくことができる。この場合、全押し操作後に、優先順位設定部57は、保存された情報から第1〜第3の設定指標を得ることができる。但し、プレビュー画像列の画像データを必要分だけ内部メモリ17又は外部メモリ18に一時的に記録しておき、全押し操作後に、一時記録された画像データから第1〜第3の設定指標を導出するようにしてもよい。
【0106】
優先順位設定部57は、第1〜第3の設定指標の内、少なくとも1つの設定指標に基づいて優先順位を設定することができる。
【0107】
図24(a)に、第1及び第3の設定指標(即ち動き評価値及び彩度評価値)を用いた場合における優先順位の設定内容を示す。優先順位設定部57は、動き評価値が所定の基準動き値以上であるとき「動きは大きい」と判断し、動き評価値が該基準動き値未満であるとき「動きは小さい」と判断する。また、優先順位設定部57は、彩度評価値が所定の基準彩度値以上であるとき「彩度は高い」と判断し、彩度評価値が該基準彩度値未満であるとき「彩度は低い」と判断する。そして、
彩度が高く且つ動きが小さいと判断した場合には第1規則に従って、
彩度が低く且つ動きが小さいと判断した場合には第2規則に従って、
彩度が低く且つ動きが大きいと判断した場合には第3規則に従って、
彩度が高く且つ動きが大きいと判断した場合には第4規則に従って、
優先順位を設定する。
【0108】
第1規則が適用される場合、第2、第1及び第3の出力HDR画像に、夫々、第1、第2及び第3の優先順位が与えられる。
第2規則が適用される場合、第1、第2及び第3の出力HDR画像に、夫々、第1、第2及び第3の優先順位が与えられる。
第3規則が適用される場合、第3、第1及び第2の出力HDR画像に、夫々、第1、第2及び第3の優先順位が与えられる。
第4規則が適用される場合、第3、第2及び第1の出力HDR画像に、夫々、第1、第2及び第3の優先順位が与えられる。
【0109】
図24(b)に、第2及び第3の設定指標(即ちフリッカ有無信号及び彩度評価値)を用いた場合における優先順位の設定内容を示す。フリッカ有無信号の値が「1」であるときフリッカは有ると判断され、フリッカ有無信号の値が「0」であるときフリッカは無いと判断される。
彩度が高く且つフリッカが無いと判断した場合には第1規則に従って、
彩度が低く且つフリッカが無いと判断した場合には第2規則に従って、
彩度が低く且つフリッカが有ると判断した場合には第3規則に従って、
彩度が高く且つフリッカが有ると判断した場合には第4規則に従って、
優先順位を設定することができる。
【0110】
入力画像の彩度が高いとき、ユーザは、彩度の高い鮮やかな画像の取得を望んでいると推測されるため、自然なトーンマッピングを利用した第1の出力HDR画像よりも、絵画調のHDR画像とも言うべき第2の出力HDR画像の方が、ユーザの好みに合致する可能性が高い。これを考慮し、彩度評価値から彩度が高いと判断される場合には、第2の出力HDR画像に付与される優先順位を第1の出力HDR画像のそれよりも高める。
逆に、入力画像の彩度が低いときには、絵画調のHDR画像が望まれている可能性は比較的低いと推測されるため、自然なトーンマッピングを利用した出力HDR画像の方がユーザに好まれやすいと考えられる。これを考慮し、彩度評価値から彩度が低いと判断される場合には、第1の出力HDR画像に付与される優先順位を第2の出力HDR画像のそれよりも高める。
【0111】
また、入力画像上の物体の動きが大きい場合又はフリッカが存在する場合、複数画像の合成が困難になることが多く、合成によって輪郭のぼけや二重像の発生等を招くこともある。これを考慮し、動き評価値から動きが大きいと判断される場合又はフリッカ有無信号からフリッカが有ると判断される場合には、第3の出力HDR画像に付与される優先順位を第1及び第2の出力HDR画像のそれらよりも高める。逆に、動き評価値から動きが小さいと判断される場合又はフリッカ有無信号からフリッカが無いと判断される場合には、複数画像の合成によるダイナミックレンジ拡大が有効に機能すると考えられるため、第3の出力HDR画像に付与される優先順位を第1及び第2の出力HDR画像のそれらよりも低くする。
【0112】
図24(a)及び(b)では2つの設定指標を用いて優先順位を決定しているが、第1〜第3の設定指標を全て用いて優先順位を決定しても良い。この場合、動きが小さいという第1条件、フリッカが無いという第2条件、及び、彩度が高いという第3条件を設定する。そして例えば、
第1〜第3条件が全て満たされる場合には第1規則に従って、
第3条件が満たされるが第1及び第2条件の少なくとも一方が満たされない場合には第4規則に従って、
第3条件は満たされないが第1及び第2条件が双方満たされる場合には第2規則に従って、
第3条件が満たされず且つ第1及び第2条件が少なくとも一方が満たされない場合には第3規則に従って、
優先順位を設定することができる。
【0113】
また、第1の設定指標のみを用いて優先順位を決定することも可能である。
この場合例えば、
動きが小さいと判断したときには第1規則に従って、
動きが大きいと判断したときには第4規則に従って優先順位を設定する、
或いは例えば、
動きが小さいと判断したときには第2規則に従って、
動きが大きいと判断したときには第3規則に従って優先順位を設定する。
【0114】
また、第2の設定指標のみを用いて優先順位を決定することも可能である。
この場合例えば、
フリッカが無いと判断したときには第1規則に従って、
フリッカが有ると判断したときには第4規則に従って優先順位を設定する、
或いは例えば、
フリッカが無いと判断したときには第2規則に従って、
フリッカが有ると判断したときには第3規則に従って優先順位を設定する。
【0115】
また、第3の設定指標のみを用いて優先順位を決定することも可能である。
この場合例えば、
彩度が高いと判断したときには第1規則に従って、
彩度が低いと判断したときには第2規則に従って、優先順位を設定する、
或いは例えば、
彩度が高いと判断したときには第4規則に従って、
彩度が低いと判断したときには第3規則に従って、優先順位を設定する。
【0116】
上述の撮像装置1によれば、複数のHDR処理によって複数の出力HDR画像を生成することができる。このため、ユーザは、複数の出力HDR画像の中から、自分の好みにあった出力HDR画像を選択的に表示又は記録するといったことが可能となる。また、優先順位に応じた表示制御又は記録制御により、ユーザの好みに合っていると推測される出力HDR画像を優先的に表示又は記録することができる。ユーザの好みに沿った優先表示又は優先記録が、ユーザの利便性向上(ユーザの操作負担軽減など)に寄与することは言うまでもない。仮に、高い優先順位を与えられた出力HDR画像がユーザの好みに合ったものでない場合においても、ユーザは、低い優先順位が与えられた出力HDR画像の中から、好みの出力HDR画像を選択的に表示又は記録させることができる。また、HDR撮影の要否判定により、必要性の少ないHDR撮影及びHDR処理の実行を回避することができる。
【0117】
尚、当然ではあるが、HDR処理は、HDR撮影が必要と判断されて対象入力画像が撮影されたときにのみ実行される。従って、要否判定部56によるHDR撮影の要否判定は、HDR処理の要否判定(HDR処理の実行が必要か否かの判定)であるとも言え、出力HDR画像の要否判定(出力HDR画像の生成が必要か否かの判定)であるとも言える。
【0118】
[高優先順位の画像のみの生成]
図20の動作では、生成した第1〜第3の出力HDR画像に対して優先順位を設定しているが、ステップS18の優先順位設定処理をステップS17の処理の実行前に実行し、第1〜第3の出力HDR画像の内、第1の優先順位が設定された出力HDR画像のみ、或いは、第1及び第2の優先順位が設定された出力HDR画像のみを生成するようにしても良い。このような生成を実現する方法を、便宜上、方法αと呼ぶ。
【0119】
方法αでは、例えば、
上記の第1規則が適用される状況下において、
第1〜第3の出力HDR画像の内、第2の出力HDR画像のみ、或いは、第2及び第1の出力HDR画像のみを生成し、
上記の第2規則が適用される状況下において、
第1〜第3の出力HDR画像の内、第1の出力HDR画像のみ、或いは、第1及び第2の出力HDR画像のみを生成し、
上記の第3規則が適用される状況下において、
第1〜第3の出力HDR画像の内、第3の出力HDR画像のみ、或いは、第3及び第1の出力HDR画像のみを生成し、
上記の第4規則が適用される状況下において、
第1〜第3の出力HDR画像の内、第3の出力HDR画像のみ、或いは、第3及び第2の出力HDR画像のみを生成する。
図4の画像出力制御部58は、生成された出力HDR画像を表示部27に表示させることができると共に外部メモリ18に記録させることができる。
【0120】
方法αでは、第1〜第3のHDR処理の内、1つ又は2つのHDR処理のみが選択的に実行され、第1〜第3の出力HDR画像の内、1枚又は2枚の出力HDR画像のみが生成される。このため、方法αでは、出力HDR画像を生成するためのHDR処理の内容が優先順位に従って変更される、と言える。優先順位をプレビュー画像列の画像データから設定することができるため、方法αでは、出力HDR画像を生成するためのHDR処理の内容がプレビュー画像列の画像データに基づいて変更される、とも言える。
【0121】
更に、方法αを、以下のような方法αAに変形することもできる。方法αAでは、第1及び第2の出力HDR画像の内、より高い優先順位が設定された出力HDR画像のみを生成する。従って、方法αAを用いる場合、
上記の第1又は第4規則が適用される状況下においては、
第1及び第2の出力HDR画像の内、第2の出力HDR画像のみ生成するようにし、
上記の第2又は第3規則が適用される状況下においては、
第1及び第2の出力HDR画像の内、第1の出力HDR画像のみを生成するようにする。
図4の画像出力制御部58は、生成された出力HDR画像を表示部27に表示させることができると共に外部メモリ18に記録させることができる。
【0122】
方法αAでは、第1及び第2のHDR処理の内、一方のHDR処理のみが選択され、選択されたHDR処理を用いて、第1及び第2の出力HDR画像の内、一方の出力HDR画像のみが生成される。このため、方法αと同様に、方法αAにおいても、出力HDR画像を生成するためのHDR処理の内容が優先順位に従って変更される、と言え、出力HDR画像を生成するためのHDR処理の内容がプレビュー画像列の画像データに基づいて変更される、とも言える。他方、第1及び第2の出力HDR画像は、常に画像合成処理及び階調変換処理を介して生成される。従って、方法αAでは、出力HDR画像を生成するための階調変換処理の内容が優先順位に従って変更される、と言え、出力HDR画像を生成するための階調変換処理の内容がプレビュー画像列の画像データに基づいて変更される、とも言える。
【0123】
方法α又はαAによれば、ユーザの好みに合っていると推測される出力HDR画像を選択的に生成することが可能となる。
【0124】
<<変形等>>
本発明の実施形態は、特許請求の範囲に示された技術的思想の範囲内において、適宜、種々の変更が可能である。以上の実施形態は、あくまでも、本発明の実施形態の例であって、本発明ないし各構成要件の用語の意義は、以上の実施形態に記載されたものに制限されるものではない。上述の説明文中に示した具体的な数値は、単なる例示であって、当然の如く、それらを様々な数値に変更することができる。上述の実施形態に適用可能な注釈事項として、以下に、注釈1〜注釈3を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
【0125】
[注釈1]
上述の動作例では、画像処理部50にて実現可能なHDR処理の種類数が3になっているが、その種類数は2以上であれば幾つでもよい。画像処理部50から、HDR処理の種類数と同数の出力HDR画像を得ることができる。
【0126】
[注釈2]
図4に示される画像処理部50、画像データ取得部51及び画像出力制御部58並びに図1に示される任意の部位(表示部27等)は、撮像装置1以外の電子機器(不図示)に設けられていても良く、その電子機器上において上述の各動作を実現させても良い。電子機器は、例えば、パーソナルコンピュータ、携帯情報端末、携帯電話機である。尚、撮像装置1も、電子機器の一種である。
【0127】
[注釈3]
図1の撮像装置1及び上記電子機器を、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって構成することができる。ソフトウェアを用いて撮像装置1及び電子機器を構成する場合、ソフトウェアにて実現される部位についてのブロック図は、その部位の機能ブロック図を表すことになる。特に、図4の各部位にて実現される機能の全部又は一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部又は一部を実現するようにしてもよい。
【符号の説明】
【0128】
1 撮像装置
11 撮像部
27 表示部
50 画像処理部
51 画像データ取得部
52 露出制御部
53 合成処理部
54 階調変換部
55 階調補正部
56 HDR撮影要否判定部
57 優先順位設定部
58 画像出力制御部
【特許請求の範囲】
【請求項1】
互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得部と、
前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理部と、
前記合成処理部の生成画像に対し、互いに異なる複数の階調変換条件を個別に用いて階調変換を行うことにより複数の合成結果画像を生成する階調変換部と、を備えた
ことを特徴とする電子機器。
【請求項2】
前記入力画像列の画像データに基づき前記複数の合成結果画像に対して優先順位を設定する優先順位設定部と、
前記優先順位に応じて前記複数の合成結果画像の表示又は記録を制御する画像出力制御部と、を更に備えた
ことを特徴とする請求項1に記載の電子機器。
【請求項3】
前記n枚の入力画像に含まれる1枚の入力画像に階調補正を行うことで階調補正画像を生成する階調補正部を更に備えた
ことを特徴とする請求項1に記載の電子機器。
【請求項4】
前記入力画像列の画像データに基づき前記複数の合成結果画像及び前記階調補正画像に対して優先順位を設定する優先順位設定部と、
前記優先順位に応じて前記複数の合成結果画像及び前記階調補正画像の表示又は記録を制御する画像出力制御部と、を更に備えた
ことを特徴とする請求項3に記載の電子機器。
【請求項5】
前記優先順位設定部は、前記入力画像列の画像データに基づいて、
前記入力画像列上の物体の動き、
前記入力画像列におけるフリッカの有無、及び、
前記入力画像列における彩度、
の内の1以上を評価し、評価結果に基づいて前記優先順位を設定する
ことを特徴とする請求項2又は請求項4に記載の電子機器。
【請求項6】
当該電子機器は、前記入力画像列の画像データを撮影によって取得する撮像装置であって、
前記入力画像列を形成する各入力画像の露出条件を設定する露出条件設定部と、
前記複数の合成結果画像を生成することの要否を判定する要否判定部と、を更に備え、
前記複数の合成結果画像を生成するか否かは、前記要否の判定結果に従って定められ、
前記n枚の入力画像に先立って撮影される入力画像には、第1及び第2の判定用入力画像が含まれ、
前記露出条件設定部は、前記第1の判定用入力画像において所定の第1基準輝度以上の輝度を有する画素の数が所定の第1基準値以下になるように、前記第1の判定用入力画像の撮影時における第1の露出条件を設定するとともに、前記第2の判定用入力画像において所定の第2基準輝度以下の輝度を有する画素の数が所定の第2基準値以下になるように、前記第2の判定用入力画像の撮影時における第2の露出条件を設定し、
前記要否判定部は、前記第1及び第2の露出条件に基づいて前記要否の判定を行う
ことを特徴とする請求項1〜請求項5の何れかに記載の電子機器。
【請求項7】
互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得部と、
前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理部と、
前記合成処理部の生成画像に対し、階調変換を行うことにより合成結果画像を生成する階調変換部と、を備え、
前記階調変換部は、前記階調変換の内容を前記入力画像列の画像データに基づいて変更する
ことを特徴とする電子機器。
【請求項8】
互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得ステップと、
前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理ステップと、
前記合成処理ステップの生成画像に対し、互いに異なる複数の階調変換条件を個別に用いて階調変換を行うことにより複数の合成結果画像を生成する階調変換ステップと、を実行する
ことを特徴とする画像処理方法。
【請求項9】
互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得ステップと、
前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理ステップと、
前記合成処理ステップの生成画像に対し、階調変換を行うことにより合成結果画像を生成する階調変換ステップと、を実行し、
前記階調変換ステップでは、前記階調変換の内容を前記入力画像列の画像データに基づいて変更する
ことを特徴とする画像処理方法。
【請求項10】
請求項8又は請求項9に記載の画像データ取得ステップ、合成処理ステップ及び階調変換ステップをコンピュータに実行させるためのプログラム。
【請求項1】
互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得部と、
前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理部と、
前記合成処理部の生成画像に対し、互いに異なる複数の階調変換条件を個別に用いて階調変換を行うことにより複数の合成結果画像を生成する階調変換部と、を備えた
ことを特徴とする電子機器。
【請求項2】
前記入力画像列の画像データに基づき前記複数の合成結果画像に対して優先順位を設定する優先順位設定部と、
前記優先順位に応じて前記複数の合成結果画像の表示又は記録を制御する画像出力制御部と、を更に備えた
ことを特徴とする請求項1に記載の電子機器。
【請求項3】
前記n枚の入力画像に含まれる1枚の入力画像に階調補正を行うことで階調補正画像を生成する階調補正部を更に備えた
ことを特徴とする請求項1に記載の電子機器。
【請求項4】
前記入力画像列の画像データに基づき前記複数の合成結果画像及び前記階調補正画像に対して優先順位を設定する優先順位設定部と、
前記優先順位に応じて前記複数の合成結果画像及び前記階調補正画像の表示又は記録を制御する画像出力制御部と、を更に備えた
ことを特徴とする請求項3に記載の電子機器。
【請求項5】
前記優先順位設定部は、前記入力画像列の画像データに基づいて、
前記入力画像列上の物体の動き、
前記入力画像列におけるフリッカの有無、及び、
前記入力画像列における彩度、
の内の1以上を評価し、評価結果に基づいて前記優先順位を設定する
ことを特徴とする請求項2又は請求項4に記載の電子機器。
【請求項6】
当該電子機器は、前記入力画像列の画像データを撮影によって取得する撮像装置であって、
前記入力画像列を形成する各入力画像の露出条件を設定する露出条件設定部と、
前記複数の合成結果画像を生成することの要否を判定する要否判定部と、を更に備え、
前記複数の合成結果画像を生成するか否かは、前記要否の判定結果に従って定められ、
前記n枚の入力画像に先立って撮影される入力画像には、第1及び第2の判定用入力画像が含まれ、
前記露出条件設定部は、前記第1の判定用入力画像において所定の第1基準輝度以上の輝度を有する画素の数が所定の第1基準値以下になるように、前記第1の判定用入力画像の撮影時における第1の露出条件を設定するとともに、前記第2の判定用入力画像において所定の第2基準輝度以下の輝度を有する画素の数が所定の第2基準値以下になるように、前記第2の判定用入力画像の撮影時における第2の露出条件を設定し、
前記要否判定部は、前記第1及び第2の露出条件に基づいて前記要否の判定を行う
ことを特徴とする請求項1〜請求項5の何れかに記載の電子機器。
【請求項7】
互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得部と、
前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理部と、
前記合成処理部の生成画像に対し、階調変換を行うことにより合成結果画像を生成する階調変換部と、を備え、
前記階調変換部は、前記階調変換の内容を前記入力画像列の画像データに基づいて変更する
ことを特徴とする電子機器。
【請求項8】
互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得ステップと、
前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理ステップと、
前記合成処理ステップの生成画像に対し、互いに異なる複数の階調変換条件を個別に用いて階調変換を行うことにより複数の合成結果画像を生成する階調変換ステップと、を実行する
ことを特徴とする画像処理方法。
【請求項9】
互いに異なる露出条件で撮影されたn枚の入力画像(nは2以上の整数)を含む入力画像列の画像データを取得する画像データ取得ステップと、
前記n枚の入力画像に含まれる複数の入力画像を合成することで各入力画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成する合成処理ステップと、
前記合成処理ステップの生成画像に対し、階調変換を行うことにより合成結果画像を生成する階調変換ステップと、を実行し、
前記階調変換ステップでは、前記階調変換の内容を前記入力画像列の画像データに基づいて変更する
ことを特徴とする画像処理方法。
【請求項10】
請求項8又は請求項9に記載の画像データ取得ステップ、合成処理ステップ及び階調変換ステップをコンピュータに実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【公開番号】特開2012−119761(P2012−119761A)
【公開日】平成24年6月21日(2012.6.21)
【国際特許分類】
【出願番号】特願2010−265278(P2010−265278)
【出願日】平成22年11月29日(2010.11.29)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
【公開日】平成24年6月21日(2012.6.21)
【国際特許分類】
【出願日】平成22年11月29日(2010.11.29)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
[ Back to top ]