説明

画像処理装置、撮像装置、及び画像処理プログラム

【課題】同一の撮影シーンから互いに異なる露光条件で撮像されたカラー画像群を適切に圧縮する。
【解決手段】本発明の画像処理装置の一態様は、同一の撮影シーンから互いに異なる露光条件で撮像されたN枚のカラー画像を圧縮対象として入力する入力手段(16)と、前記N枚のカラー画像の各々の輝度分布を個別に示すN枚分の輝度画像を抽出する輝度画像抽出手段(19、20)と、 前記N枚のカラー画像の全体の色差分布を一括に示す1枚分の色差画像を作成する色差画像作成手段(19、20)と、前記N枚分の輝度画像を示す輝度情報と前記1枚分の色差画像を示す色差情報とを互いに対応付けたものを、圧縮結果として取得する結果取得手段(19、20)とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、撮像装置、及び画像処理プログラムに関する。
【背景技術】
【0002】
従来、同一の撮影シーンから互いに異なる露光条件で撮像されたカラー画像群を合成・階調変換することにより、広ダイナミックレンジな合成カラー画像を再生するディジタルカメラが提案されている(特許文献1等を参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2002−223355号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1のディジタルカメラは、再生のパラメータを自動的に設定するので、ユーザの注目している被写体が必ずしも広ダイナミックレンジで再現されない。また、再生後にパラメータを調節可能とするためには、オリジナルのカラー画像群をカメラが保持し続ける必要があるが、その場合、カラー画像群の枚数分だけ画像記憶領域が占有されるため、携帯装置であるカメラにとって大きな負担となる。
【0005】
そこで本発明は、同一の撮影シーンから互いに異なる露光条件で撮像されたカラー画像群を適切に圧縮することのできる画像処理装置、撮像装置、及び画像処理プログラムを提供することを目的とする。また、本発明は、圧縮後のカラー画像群を適切に再生することのできる画像処理装置、撮像装置、及び画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の画像処理装置の一態様は、同一の撮影シーンから互いに異なる露光条件で撮像されたN枚のカラー画像を圧縮する画像処理装置であって、前記N枚のカラー画像を圧縮対象として入力する入力手段と、前記N枚のカラー画像の各々の輝度分布を個別に示すN枚分の輝度画像を抽出する輝度画像抽出手段と、前記N枚のカラー画像の全体の色差分布を一括に示す1枚分の色差画像を作成する色差画像作成手段と、前記N枚分の輝度画像を示す輝度情報と前記1枚分の色差画像を示す色差情報とを互いに対応付けたものを、圧縮結果として取得する結果取得手段とを備える。
【0007】
また、本発明の別の画像処理装置の一態様は、前記圧縮結果を再生対象として入力する入力手段と、前記圧縮結果に含まれる前記輝度情報に基づき、前記N枚のカラー画像の全体の輝度分布を一括に示す1枚分の輝度画像を作成する輝度画像作成手段と、前記圧縮結果に含まれる前記色差情報に基づき、前記N枚のカラー画像の全体の色差分布を一括に示す1枚分の色差画像を取得する色差画像取得手段と、前記1枚分の輝度画像と前記1枚分の色差画像とを組み合わせてなる1枚分の合成カラー画像を、再生結果として取得する結果取得手段とを備える。
【0008】
また、本発明の撮像装置の一態様は、同一の撮影シーンから互いに異なる露光条件でN枚のカラー画像を撮像する撮像手段と、本発明の何れかの画像処理装置の一態様とを備える。
【0009】
また、本発明の画像処理プログラムの一態様は、同一の撮影シーンから互いに異なる露光条件で撮像されたN枚のカラー画像を圧縮する画像処理プログラムであって、前記N枚のカラー画像を圧縮対象として入力する入力手順と、前記N枚のカラー画像の各々の輝度分布を個別に示すN枚分の輝度画像を抽出する輝度画像抽出手順と、前記N枚のカラー画像の全体の色差分布を一括に示す1枚分の色差画像を作成する色差画像作成手順と、前記N枚分の輝度画像を示す輝度情報と前記1枚分の色差画像を示す色差情報とを互いに対応付けたものを、圧縮結果として取得する結果取得手順とを含む。
【0010】
また、本発明の別の画像処理プログラムの一態様は、前記圧縮結果を再生対象として入力する入力手順と、前記圧縮結果に含まれる前記輝度情報に基づき、前記N枚のカラー画像の全体の輝度分布を一括に示す1枚分の輝度画像を作成する輝度画像作成手順と、前記圧縮結果に含まれる前記色差情報に基づき、前記N枚のカラー画像の全体の色差分布を一括に示す1枚分の色差画像を取得する色差画像取得手段と、前記1枚分の輝度画像と前記1枚分の色差画像とを組み合わせてなる1枚分の合成カラー画像を、再生結果として取得する結果取得手順とを含む。
【発明の効果】
【0011】
本発明によれば、同一の撮影シーンから互いに異なる露光条件で撮像されたカラー画像群を適切に圧縮することのできる画像処理装置、撮像装置、及び画像処理プログラムが実現する。また、本発明によれば、圧縮後のカラー画像群を適切に再生することのできる画像処理装置、撮像装置、及び画像処理プログラムが実現する。
【図面の簡単な説明】
【0012】
【図1】ディジタルカメラの構成を示すブロック図。
【図2】撮影モード(広ダイナミックレンジ撮影の機能がオンされているとき)における制御部19の動作フローチャート。
【図3】圧縮/展開部20による圧縮処理の動作フローチャート。
【図4】輝度ヒストグラムの例である。
【図5】再生モード(広ダイナミックレンジ再生の機能がオンされているとき)における制御部19の動作フローチャート。
【図6】階調変換処理のサブルーチン。
【図7】モニタ18の表示例(初回)。
【図8】モニタ18の表示例(2回目以降)。
【図9】ガウス型の輝度ヒストグラム。
【図10】目標の輝度ヒストグラム。
【図11】実際の累積ヒストグラムの例。
【図12】目標の累積ヒストグラムの例。
【図13】階調変換特性カーブの例。
【発明を実施するための形態】
【0013】
[実施形態]
以下、本発明の実施形態としてディジタルカメラを説明する。
【0014】
図1は、本実施形態のディジタルカメラの構成を示すブロック図である。図1に示すとおりディジタルカメラは、撮影レンズ11と、レンズ駆動部12と、カラーの撮像素子13と、アナログ信号処理部14と、タイミングジェネレータ(TG)15と、バッファメモリ16と、画像処理部17と、モニタ18と、制御部19と、圧縮/展開部20と、記録媒体21と、操作部22と、バス23とを有している。ここで、バッファメモリ16、画像処理部17、モニタ18、制御部19、圧縮/展開部20、記録媒体21は、バス23を介して接続されている。また、レンズ駆動部12、アナログ信号処理部14、TG15、操作部22は、それぞれ制御部19に接続されている。
【0015】
撮影レンズ11は、フォーカスレンズやズームレンズを含む複数のレンズ群で構成されている。なお、図1では簡単のため撮影レンズ11を1枚のレンズとして図示している。
【0016】
レンズ駆動部12は、制御部19の指示に応じてレンズ駆動信号を発生し、撮影レンズ11を光軸方向に移動させてフォーカス制御やズーム調整を行うと共に、撮影レンズ11を通過した光束による被写体像を撮像素子13の受光面に形成する。また、レンズ駆動部12は、撮影レンズ11の絞り値を必要に応じて調整する。
【0017】
撮像素子13は、CCD型やCMOS型の撮像素子であり、撮影レンズ11の像空間側に配置されている。撮像素子13は、受光面に形成された被写体像を光電変換してアナログ画像信号を生成する。この撮像素子13の出力はアナログ信号処理部14に接続されている。
【0018】
アナログ信号処理部14は、制御部19の指示に応じて、撮像素子13から出力されたアナログ画像信号に対し、CDS(相関二重サンプリング)、A/D変換などのアナログ信号処理を施す。このアナログ信号処理部14の出力はバッファメモリ16に接続されている。
【0019】
TG15は、制御部19の指示に応じて、撮像素子13およびアナログ信号処理部14へタイミングパルスを供給する。撮像素子13およびアナログ信号処理部14の駆動タイミングはそのタイミングパルスによって制御される。また、撮像素子13の電荷蓄積時間も、そのタイミングパルスによって制御される。なお、ここでは簡単のため、ディジタルカメラのシャッター速度(Tv値)は、撮像素子13の電荷蓄積時間のみによって設定されるものと仮定する(但し、実際には、撮像素子13の電荷蓄積時間と不図示のメカシャッターの開放時間との組み合わせによって設定することができる)。
【0020】
バッファメモリ16は、アナログ信号処理部14から出力されるディジタルの画像信号をフレーム毎に蓄積する。以下、1フレーム分の画像信号を単に「カラー画像」と称す。なお、バッファメモリ16は、複数枚のカラー画像を同時に蓄積することができる。
【0021】
画像処理部17は、制御部19の指示に応じて、バッファメモリ16のカラー画像に対して画像処理を施す。この画像処理には、例えば、ホワイトバランス調整、色補間、輪郭強調、ガンマ補正、色変換などが含まれる。なお、画像処理部17は、ASICなどとして構成される。
【0022】
モニタ18は、ディジタルカメラ筐体の背面などに設けられたLCDモニタや、接眼部を備えた電子ファインダなどであり、制御部19の指示に応じて各種の画像を表示する。
【0023】
圧縮/展開部20は、制御部19の指示に応じて、バッファメモリ16のカラー画像に対して圧縮処理を施す。また、圧縮/展開部20は、制御部19の指示に応じて、バッファメモリ16の圧縮ファイルに対して展開処理を施す。なお、圧縮処理及び展開処理の詳細は後述する。
【0024】
記録媒体21は、メモリカード、小型ハードディスク、DVD等の光ディスクなどで構成される。なお、記録媒体21は、ディジタルカメラに内蔵されるものであっても、着脱可能に装着されるものであってもよいし、外部に設けられるものであってもよい。外部に設けられる場合、記録媒体21とディジタルカメラとは、有線または無線で電気的に接続される。
【0025】
操作部22は、モード設定ボタン、レリーズボタン、メニューボタンなどの各種の操作部材であって、ユーザによる操作内容に応じて操作信号を生成し、制御部19に送る。
【0026】
制御部19は、操作部22から送られる操作信号に応じて、ディジタルカメラの各部を統括制御する。なお、制御部19の動作プログラムは、不図示のROMに予め格納されており、不図示のRAM上に必要に応じて読み出され、実行されるものとする。
【0027】
以上の構成のディジタルカメラは、ユーザによる操作部22の操作に応じて、そのモードを撮影モードと再生モードとの間で切り替える。本実施形態のディジタルカメラは、撮影モードの機能の1つとして、広ダイナミックレンジ撮影の機能を有しており、再生モードの機能の1つとして、広ダイナミックレンジ再生の機能を有している。
【0028】
図2は、広ダイナミックレンジ撮影の機能がオンされているときの撮影モードにおける制御部19の動作フローチャートであり、図3は、圧縮/展開部20による圧縮処理の動作フローチャートである。以下、図2、図3の各ステップを説明する。
【0029】
ステップS100:制御部19は、自動露出制御を開始する。自動露出制御における制御部19は、撮像素子13をドラフトモード(間引き読み出しモード)で連続駆動し、撮像素子13から連続して送出されるスルー画像からAF評価値及びAE評価値を抽出する。そして、制御部19は、AF評価値に応じて撮像レンズ11のフォーカス制御(AF制御)を行うと共に、AE評価値に応じてスルー画像の露出制御(AE制御)を行う。なお、AE制御は、撮像素子13の電荷蓄積時間(Tv値)の調整と撮影レンズ11の絞り値(Av値)の調整との組み合わせによって行われる。
【0030】
ステップS101:制御部19は、操作部22に含まれるレリーズボタンが全押しされたか否かを判別し、全押しされた場合にはステップS102へ移行する。
【0031】
ステップS102:制御部19は、露出ブラケット撮影を実行する。すなわち、制御部19は、撮影レンズ11の絞り値(Av値)を固定したまま、撮像素子13の電荷蓄積時間(Tv値)のみを順次に切り替える。なお、このときのTv値は、レリーズボタンが全押しされた時点の値を基準として、プラス側及びマイナス側にそれぞれ複数段階ずつ順次に切り替わる。そして、制御部19は、Tv値が各段階にあるときに撮像素子13をフレームモード(全画素読み出しモード)で1回ずつ駆動する。これによって、撮像素子13からは、同一の撮影シーンのカラー画像であって露出量(Ev値)のみが異なるN枚のカラー画像h(i=1〜N)が順次に送出される。これらカラー画像h(i=1〜N)は、アナログ信号処理部14を介してバッファメモリ16へ順次に蓄積される。
【0032】
なお、以上の説明では、露出ブラケット撮影の基準となる露出量(Ev値)を、自動露出制御で設定された露出量(Ev値)としたが、ユーザがマニュアル設定した露出量(Ev値)としてもよい。
【0033】
ステップS103:制御部19は、バッファメモリ16上のカラー画像h(i=1〜N)に対して圧縮処理を施すよう圧縮/展開部20へ指示を与える。圧縮/展開部20は、図3の圧縮処理を開始する。
【0034】
ステップS103−1:圧縮/展開部20は、バッファメモリ16上のカラー画像h(i=1〜N)の各々から輝度成分(Y成分)を抽出する。以下、i番目のカラー画像hから抽出された輝度成分(Y成分)を「輝度画像hYi」と称す。
【0035】
ステップS103−2:圧縮/展開部20は、ステップS103で抽出した輝度画像hYi(i=1〜N)の各々の輝度ヒストグラム(図4参照)に基づき、カラー画像h(i=1〜N)の各々の有効輝度範囲を求める。
【0036】
なお、カラー画像hの有効輝度範囲は、輝度画像hYiの輝度ヒストグラムにおいて、輝度画像hYiの全画素数の所定割合以上の頻度(例えば0.1%以上の頻度)を有した1又は複数の輝度範囲をカバーする範囲全体のことである(図4のmax、min)。
【0037】
そして、圧縮/展開部20は、カラー画像h(i=1〜N)の中から有効輝度範囲(max、min)が最も広いものを基準として選出する。以下、選出された基準のカラー画像を「基準カラー画像f」と称す。この基準カラー画像fの露出は、他のカラー画像の露出よりも適正露出に近かったとみなせる。以下、カラー画像h(i=1〜N)から基準カラー画像fを除く残りのカラー画像を、「比較対象カラー画像h(j=1〜(N−1))」称す。
【0038】
なお、以上の説明では、基準カラー画像fを、カラー画像h(i=1〜N)の輝度に基づき選出したが、その代わりに、露出ブラケット撮影時に基準の露出量で取得されたカラー画像を基準カラー画像fとして選出してもよい。
【0039】
ステップS103−3:圧縮/展開部20は、基準カラー画像fの輝度を基準とした個々の比較対象カラー画像hの輝度比gainを次式(1)により算出する。
【0040】
【数1】

【0041】
但し、fは、基準カラー画像fの輝度画像であり、hYjは、j番目の比較対象カラー画像hの輝度画像であり、式中の(x,y)は、画像上の座標を表している(以下も同様。)。
【0042】
ここで、或る比較対象カラー画像hの輝度比gainが1.0よりも小さかった場合、その比較対象カラー画像hの露出は、アンダーであったとみなせる。一方、或る比較対象カラー画像hのgainが1.0よりも大きかった場合、その比較対象カラー画像hの露出は、オーバーであったとみなせる。
【0043】
なお、以上の説明では、輝度比gainをカラー画像h(i=1〜N)の輝度に基づき算出したが、露出ブラケット撮影時のTv設定値に基づき算出してもよい。
【0044】
ステップS103−4:圧縮/展開部20は、比較対象カラー画像h(j=1〜(N−1))の輝度画像hYj(j=1〜(N−1))の各々を、差分輝度画像ΔhYj(j=1〜(N−1))に変換する。ここで、j番目の輝度画像hYjの変換先である差分輝度画像ΔhYjは、j番目の輝度画像hYjから輝度画像fを差し引いたものである。
【0045】
以上の変換によると、輝度画像hYi(i=1〜N)は、輝度画像fと差分輝度画像ΔhYj(j=1〜(N−1))とに圧縮される。この圧縮は、可逆圧縮である。
【0046】
ステップS103−5:圧縮/展開部20は、バッファメモリ16上のカラー画像h(i=1〜N)の各々から色差成分(Cb成分、Cr成分)を抽出する。以下、カラー画像h(i=1〜N)のうち、基準カラー画像fから抽出されたCb成分を「色差画像fCb」と称し、基準カラー画像fから抽出されたCr成分を「色差画像fCr」と称し、j番目の比較対象カラー画像hから抽出されたCb成分を「色差画像fCbj」と称し、j番目の比較対象カラー画像hから抽出されたCr成分を「色差画像hCrj」と称す。
【0047】
ステップ103−6:圧縮/展開部20は、ステップS103−3で算出した輝度比gain(j=1〜(N−1))を次式(2)へ当てはめることにより、重み付け合成(加重平均)で使用すべき、比較対象カラー画像h毎の重み分布Wを算出する。
【0048】
【数2】

【0049】
式(2)においてWが、j番目の比較対象カラー画像hに関する重み分布である。
【0050】
この式(2)によれば、露出アンダー(gain<1)の比較対象カラー画像hでは、高輝度部分ほど重みが大きく設定されることになる(但し、f<minのときには式(2)に拘わらずWは0に設定され、f>maxのときには式(2)に拘わらずWは(−2log(gain))に設定されるものとする。)。露出アンダーの比較対象カラー画像hでは、高輝度部分ほど画素値の信頼性が高いので、このような重み分布が適当である。
【0051】
また、式(2)によれば、露出オーバー(gain>1)の比較対象カラー画像hでは、低輝度部分ほど重みが大きく設定されることになる(但し、f<minのときには式(2)に拘わらずWは(2log(gain))に設定され、f>maxのときには式(2)に拘わらずWは0に設定されるものとする。)。露出オーバーの比較対象カラー画像hでは、低輝度部分ほど画素値の信頼性が高いので、このような重み分布が適当である。
【0052】
ステップS103−7:圧縮/展開部20は、ステップS103−5で抽出した色差画像fCb、hCbj(j=1〜(N−1))を次式(3)で重み付け合成することにより、合成色差画像gCbを取得する。
【0053】
【数3】

【0054】
但し、Wは、ステップS103−6で算出した重み分布である。
【0055】
また、圧縮/展開部20は、ステップS103−5で抽出した色差画像fCr、hCri(j=1〜(N−1))を次式(4)で重み付け合成することにより、合成色差画像gCrを取得する。
【0056】
【数4】

【0057】
但し、Wは、ステップS103−6で算出した重み分布である。
【0058】
以上の重み付け合成によると、色差画像fCbi、fCr、hCbi、hCri(j=1〜(N−1))は、合成色差画像gCb、gCrに圧縮される。この圧縮は、非可逆圧縮である。
【0059】
そして、圧縮/展開部20は、以上のステップで取得した以下のデータをカラー画像h(i=1〜N)の圧縮結果としてバッファメモリ16へ書き込む。
【0060】
・輝度画像f
・差分輝度画像ΔhYj(j=1〜(N−1))
・合成色差画像gCb、gCr
・輝度比gain(j=1〜(N−1))
ステップS104:制御部19は、バッファメモリ16に書き込まれた以上のデータを1ファイルに纏め、そのファイルをN枚のカラー画像h(i=1〜N)の圧縮ファイルとして記憶媒体21へ書き込む。なお、制御部19は、その書き込みに当たり、例えばN枚のカラー画像h(i=1〜N)の撮影日時などをファイル名として圧縮ファイルへ付与する。圧縮ファイルの書き込み後、制御部19は、次の撮影を待機するべくステップS100へ戻る(以上、撮影モードの説明。)。
【0061】
以上の撮影モードによると、撮影を1回行う度に圧縮ファイルが1つずつ記憶媒体21上に作成される。個々の圧縮ファイルは、同一の撮影シーンに関する圧縮ファイルであって、主に、一連のカラー画像h(i=1〜N)の各々の輝度分布を個別に示す情報(輝度画像f及び差分輝度画像ΔhYj(j=1〜(N−1)))と、一連のカラー画像h(i=1〜N)の全体の色差分布を一括に示す情報(合成色差画像gCb、gCr)とからなる。すなわち、この撮影モードでは、一連のカラー画像h(i=1〜N)の輝度成分は、重み付け合成前の状態で保存され、一連のカラー画像h(i=1〜N)の色差成分は、重み付け合成後の状態で保存される。
【0062】
ここで、一連のカラー画像h(i=1〜N)は同一の撮影シーンから撮像されたものなので、それらカラー画像h(i=1〜N)の輝度成分同士は互いに類似せず、それらカラー画像の色差成分同士は互いに類似する。このため、一連のカラー画像h(i=1〜N)を広ダイナミックレンジな1枚の合成カラー画像として再生する(重み付け合成する)際には、輝度成分に関するパラメータを可変とする必要性は高いが、色差成分に関するパラメータを可変とする必要性は低い。
【0063】
したがって、以上の撮影モードによる圧縮方法(輝度成分は重み付け合成前の状態で保存され、色差成分は重み付け合成後の状態で保存される圧縮方法)は、一連のカラー画像h(i=1〜N)にとって好適である。
【0064】
図5は、広ダイナミックレンジ再生の機能がオンされているときの再生モードにおける制御部19の動作フローチャートである。
【0065】
ステップS200:制御部19は、記憶媒体21に書き込まれている1又は複数の圧縮ファイルの各々のファイル名を参照し、それらをモニタ18上へ一覧表示すると共に、それらファイル名の何れか1つをユーザに指定させる。ユーザは、操作部22を操作することにより、任意のファイル名をディジタルカメラへ指定する。制御部19は、操作部22からの操作信号に基づきユーザが指定したファイル名を特定すると、ステップS201へ移行する。
【0066】
ステップS201:制御部19は、ユーザが指定したファイル名に対応する圧縮ファイルを記憶媒体21から読み出してバッファメモリ16へ書き込む。
【0067】
ステップS202:制御部19は、バッファメモリ16上の圧縮ファイルに対して展開処理を施すよう圧縮/展開部20へ指示を与える。圧縮/展開部20は、次の手順(a)、(b)、(c)により圧縮ファイルを展開する。
【0068】
(a)圧縮/展開部20は、圧縮ファイルから、輝度画像fと、差分輝度画像ΔhYj(j=1〜(N−1))と、合成色差画像gCb、gCrと、輝度比gain(j=1〜(N−1))とを読み出す。このうち輝度画像fは、基準カラー画像fの輝度画像であり、輝度比gainは、比較対象カラー画像hの輝度比である。
【0069】
(b)圧縮/展開部20は、差分輝度画像ΔhYj(j=1〜(N−1))の各々に対して輝度画像fを加算することにより、輝度画像hYj(j=1〜(N−1))を復元する。なお、輝度画像hYjは、比較対象カラー画像hの輝度画像である。
【0070】
(c)圧縮/展開部20は、輝度画像f、hYj(j=1〜(N−1))と、合成色差画像gCb、gCrと、輝度比gain(j=1〜(N−1))とを、圧縮ファイルの展開結果としてバッファメモリ16へ書き込む。
【0071】
ステップS203(初回):制御部19は、処理対象領域の設定と、輝度再現範囲(MIN、MAX)の設定とを行う。初回の本ステップでは、処理対象領域は画像全域に設定され、輝度再現範囲は基準カラー画像fの有効輝度範囲(min、max)と同じに設定される。なお、基準カラー画像fの有効輝度範囲は、輝度画像fの輝度ヒストグラムにおいて、輝度画像fの全画素数の所定割合以上の頻度(例えば0.1%以上の頻度)を有した1又は複数の輝度範囲をカバーする範囲全体のことである。
【0072】
ステップS204(初回):制御部19は、ステップS202で取得した輝度比gain(j=1〜(1−N))を次式(5)へ当てはめることにより、重み付け合成で使用すべき重み分布W(j=1〜(1−N))を算出する。
【0073】
【数5】

【0074】
式(5)においてWが、j番目の比較対象カラー画像hに関する重み分布である。また、式(5)のfは、ステップS202で取得した輝度画像fであり、MINは、ステップS203で設定された輝度再現範囲の下限値であり、MAXは、ステップS203で設定された輝度再現範囲の上限値である。
【0075】
この式(5)によれば、露出アンダー(gain<1)の比較対象カラー画像hでは、高輝度部分ほど重みが大きく設定されることになる(但し、f<MINのときには式(5)に拘わらずWは0に設定され、f>MAXのときには式(5)に拘わらずWは(−2log(gain))に設定されるものとする。)。露出アンダーの比較対象カラー画像hでは、高輝度部分ほど画素値の信頼性が高いので、このような重み分布が適当である。
【0076】
また、式(5)によれば、露出オーバー(gain>1)の比較対象カラー画像hでは、低輝度部分ほど重みが大きく設定されることになる(但し、f<MINのときには式(5)に拘わらずWは(2log(gain))に設定され、f>MAXのときには式(5)に拘わらずWは0に設定されるものとする。)。露出オーバーの比較対象カラー画像hでは、低輝度部分ほど画素値の信頼性が高いので、このような重み分布が適当である。
【0077】
なお、初回の本ステップでは、NIN=min、MAX=maxに設定されるので、重み分布W(j=1〜(N−1))は、撮影モードで算出された重み分布W(j=1〜(N−1))と同じになる。
【0078】
ステップS205(初回):制御部19は、輝度画像f、hYj(j=1〜(N−1))を次式(6)で重み付け合成することにより、合成輝度画像gを取得する。
【0079】
【数6】

【0080】
但し、Wは、ステップS204で算出した重み分布である。
【0081】
このような重み付け合成で取得された合成輝度画像gは、撮影シーンの明るさ分布を広ダイナミックレンジで表すものである。
【0082】
ステップ206(初回):制御部19は、階調変換処理のサブルーチン(図6)を呼び出し、ステップS205で取得した合成輝度画像gに対して階調変換処理を施す。この階調変換処理は、合成輝度画像gの処理対象領域に属し、かつ輝度再現範囲(MIN、MAX)に属する画素を、最大の階調幅で表現するための階調変換処理である。よって、初回の本ステップでは、合成輝度画像gの全域で有効輝度範囲(min、max)に属する画素が最大の階調幅で表現されることになる。なお、サブルーチン(図6)の詳細は、後述する。
【0083】
ステップS207(初回):制御部19は、階調変換後の合成輝度画像gに基づき、合成色差画像gCb、gCrを微調整する。
【0084】
具体的に、制御部19は、合成輝度画像g上の画素を参照し、その画素の適正色差範囲(適正色域)を呼び出す。なお、画素の適正色差範囲は、画素の輝度によって異なり、一般に、輝度が高い場合や低い場合の適正色差範囲は、輝度が中程度である場合の適正色差範囲よりも狭い。次に、制御部19は、合成色差画像gCb、gCr上において、参照した画素と座標が共通である画素を参照し、その画素の画素値(色差)が適正色差範囲に収まっているか否かを判別する。そして、適正色差範囲に収まっていなかった場合には、その画素を異常画素とみなし、異常画素の画素値(色差)を適切色差範囲内の値にクリッピングする(例えば、周知のガットマッピング手法など)。さらに制御部19は、以上の処理を、合成輝度画像g上の参照先を移動させながら繰り返す。これによって、合成色差画像gCb、gCrの異常画素は適正画素に置き換わる。
【0085】
ステップS208(初回):制御部19は、ステップS206で取得した合成輝度画像gと、ステップS207で取得した合成色差画像gCb、gCrとを組み合わせることにより、1枚分の合成カラー画像gを作成すると、例えば図7に示すとおりモニタ18へ表示する。なお、制御部19は、表示に当たり、合成カラー画像gに対してガンマ処理を含む必要な表示処理を施す。また、制御部19は、モニタ18に対して合成カラー画像gと共に必要なGUI画像を表示する。
【0086】
図7の下部に示すとおり、初回の本ステップで表示されるGUI画像には、調整バー300がある。この調整バー300は、輝度再現範囲(MIN、MAX)をユーザに調整させるための調整バーである。この調整バー300は、下限つまみ300−1と、上限つまみ300−2とを有しており、このうち下限つまみ300−1は、下限値MINを調節するためのつまみであって、上限つまみ300−2は、上限値MAXを調節するためのつまみである。表示当初、下限つまみ300−1のスライド位置は、基準カラー画像fの有効輝度範囲の下限値minを示しており、上限つまみ300−2のスライド位置は、基準カラー画像fの有効輝度範囲の上限値maxを示しているが、これらのスライド位置は、ユーザが操作部22を介して任意に変更することができる(但し、下限つまみ300−1のスライド位置と上限つまみ300−2のスライド位置との左右が逆転することは無いものとする。)。
【0087】
また、図7に点線で示すとおり、本ステップでモニタ18に表示されるGUI画像には、矩形枠イメージ310がある。この矩形枠イメージ310は、処理対象領域を合成カラー画像g上でユーザが指定するための枠イメージである。表示当初、矩形枠イメージ310は、合成カラー画像gの全域を示しているが、矩形枠イメージ310の縦横比・サイズ・位置は、ユーザが操作部22を介して任意に変更することが可能である(但し、矩形枠イメージ310が合成カラー画像gの外部へはみ出すことは無いものとする。)。
【0088】
ステップS209:制御部19は、操作部22からの操作信号を監視し、ユーザから画像更新の指示が入力されたか否か(すなわち調整バー300の調節又は矩形枠イメージ310の調節が行われたか否か)を判別する。そして、画像更新の指示が入力された場合には、下限つまみ300−1の現時点のスライド位置に相当する値(ユーザ指定の下限値)と、上限つまみ300−2の現時点のスライド位置に相当する値(ユーザ指定の上限値)と、合成カラー画像g上で現時点の矩形枠イメージ310の内部に相当する領域(ユーザ指定の領域)とを認識し、ステップS203へ戻る。
【0089】
ステップS203(2回目以降):制御部19は、処理対象領域の再設定と、輝度再現範囲(MIN、MAX)の再設定とを行う。2回目以降の本ステップでは、処理対象領域は、ユーザ指定の領域と同じに設定され、輝度再現範囲の下限値MINは、ユーザ指定の下限値と同じに設定され、輝度再現範囲の上限値MAXは、ユーザ指定の上限値と同じに設定される。
【0090】
ステップS204(2回目以降):制御部19は、現時点の設定下で重み分布W(j=1〜(N−1))を算出する(式(5))。2回目以降の本ステップでは、比較対象カラー画像hの全域に関する重み分布を算出する代わりに、比較対象カラー画像hの処理対象領域のみに関する重み分布を算出すればよい。
【0091】
ステップS205(2回目以降):制御部19は、現時点の設定下で合成輝度画像gを取得する(式(6))。2回目以降の本ステップでは、合成輝度画像gの全領域を取得する代わりに、合成輝度画像gの処理対象領域のみを取得すればよい。
【0092】
ステップS206(2回目以降):制御部19は、図6に示す階調変換処理のサブルーチンを呼び出し、現時点の設定下で合成輝度画像gに対して階調変換処理を施す。2回目以降のサブルーチンでは、合成輝度画像gの全域を階調変換する代わりに、合成輝度画像gの処理対象領域のみを階調変換すればよい。
【0093】
ステップS207(2回目以降):制御部19は、現時点の設定下で階調変換後の合成色差画像gCb、gCrを微調整する。2回目以降の本ステップでは、合成色差画像gCb、gCrの全域を微調整する代わりに、合成色差画像gCb、gCrの処理対象領域のみを微調整すればよい。
【0094】
ステップS208(2回目以降):制御部19は、現時点の設定下で1枚分の合成カラー画像gを作成し、それをGUI画像と共にモニタ18へ表示する。2回目以降の本ステップでは、図8に示すとおり、合成カラー画像gの全領域を作成・表示する代わりに、合成カラー画像gの処理対象領域(部分合成カラー画像g’)のみを作成・表示すればよい。
【0095】
ここで、2回目以降の本ステップでは、初回に表示した各画像(合成カラー画像g、調整バー300、矩形枠イメージ310)は表示したまま、部分合成カラー画像g’がオーバーラップ表示される。また、部分合成カラー画像g’の表示サイズは、合成カラー画像gの表示サイズと同等程度の大きな表示サイズに設定される。また、部分合成カラー画像g’と合成カラー画像gとの上下関係は、ユーザによる操作部22の操作に応じて変更可能である(以上、再生モードの説明。)。
【0096】
以上の再生モードでは、重み付け合成前の状態で保存されていた輝度成分と、重み付け合成後の状態で保存されていた色差成分とを読み出し、輝度成分についてはその時点で重み付け合成することで合成カラー画像を作成する。したがって、この再生モードでは、一連のカラー画像h(i=1〜N)は、1枚の合成カラー画像gとして再生される。
【0097】
しかも、この再生モードでは、重み付け合成前の状態で保存されていた輝度成分を利用し、輝度成分に関する重み付け合成のパラメータを、ユーザの指定した輝度再現範囲(MIN、MAX)に応じて調整する。
【0098】
また、この再生モードでは、輝度成分に関する階調変換のパラメータを、ユーザの指定した処理対象領域及び輝度再現範囲(MIN、MAX)に応じて調整する。
【0099】
したがって、ユーザは、撮影シーンの様々な位置に含まれる様々な明るさの被写体の中から、任意の被写体を広ダイナミックレンジ再生の対象として指定することができると共に、その指定内容を自由に変更することができる。
【0100】
また、この再生モードでは、非可逆圧縮で圧縮された色差成分(合成色差画像gCb、gCr)の異常部分を、可逆圧縮で圧縮された輝度成分(合成輝度画像g)に基づき補正するので、合成カラー画像gの色が不自然になるのを防ぐことができる。
[実施形態への補足]
なお、上述した撮影モードでは、カラー画像hを以下のとおり圧縮した。
【0101】
・輝度画像f
・差分輝度画像ΔhYj(j=1〜(N−1))
・合成色差画像gCb、gCr
・輝度比gain(j=1〜(N−1))
しかし、このうち輝度画像fについては、更なる圧縮を施してもよい。輝度画像fの圧縮には、例えば、画素を隣接画素間の差分に変換することにより、画素の値を比較的小さな値で表す方法などが適用できる(例えば、JPEG圧縮など。)。
【0102】
また、本実施形態の撮影モード又は再生モードの何れかの処理では、演算負荷を低減するため、処理対象となる画像に対してサイズ縮小処理を施してもよい。例えば、輝度ヒストグラムを作成する際、輝度ヒストグラムの作成元となる画像に対し、サイズ縮小処理を施してもよい。
【0103】
また、本実施形態のディジタルカメラは、生体顕微鏡又は工業用顕微鏡の撮像部にも適用することができる。その場合、上述した撮影レンズ11は、顕微鏡の対物レンズとなる。
【0104】
また、本実施形態の再生モードに関する動作プログラムを、ディジタルカメラ以外のコンピュータに実行させてもよい。また、その動作プログラムを汎用のコンピュータに実行させる場合は、その動作プログラムを通信網又は記憶媒体を介してコンピュータへインストールすればよい。
[図6のサブルーチン]
図6は、制御部19による階調変換処理のサブルーチンである。以下、図6の各ステップを説明する。
【0105】
ステップ206−1:制御部19は、ステップS205で取得した、処理対象領域における合成輝度画像gのうち、輝度再現範囲(MIN、MAX)に属する画素を参照し、それらの画素に関する輝度ヒストグラム(実際の輝度ヒストグラム)を作成する。
【0106】
また、制御部19は、目標の輝度ヒストグラムを作成する(図10参照)。目標の輝度ヒストグラムは、ガウス型の輝度ヒストグラム(図9)を逆ガンマ変換したものに相当する。
【0107】
続いて、制御部19は、実際の輝度ヒストグラムの頻度と、目標の輝度ヒストグラムの頻度とをそれぞれ累積し、実際の累積ヒストグラムと、目標の累積ヒストグラムとを作成する。
【0108】
図11は、本ステップで得られた実際の累積ヒストグラムの例であり、図12は、本ステップで得られた目標の累積ヒストグラムの例である。図11、図12の例では、階調変換処理の入力画素数(=処理対象領域かつ輝度再現範囲に属する画素の個数)が192万画素であって、階調変換処理の入力ビット数(=輝度再現範囲(MIN、MAX))が16ビット階調であり、階調変換処理の出力ビット数が10ビット階調である場合を想定した。
【0109】
この場合、実際の累積ヒストグラム(図11)の累積頻度の最大値は1920000であり、実際の累積ヒストグラム(図11)の輝度の最大値は65535(16ビット階調)である。
【0110】
そして、制御部19は、目標の累積ヒストグラム(図12)における累積頻度の最大値が、実際の累積ヒストグラム(図11)における累積頻度の最大値に一致するように、目標の累積ヒストグラムを正規化する。
【0111】
正規化後の目標の累積ヒストグラム(図12の縦軸を正規化したもの)の累積頻度の最大値は1920000であり、目標の累積ヒストグラム(図12の縦軸を正規化したもの)の輝度の最大値は1023(10ビット階調)である。
【0112】
ステップ206−2:制御部19は、実際の累積ヒストグラム(図11)と、目標の累積ヒストグラム(図12の縦軸を正規化したもの)との各々を、累積頻度方向にn等分する(以下、n=16とする。)。そして、制御部19は、実際の累積ヒストグラム(図11)のうち分割線の交点に位置する輝度値a0Y〜a16Yと、目標の累積ヒストグラム(図12の縦軸を正規化したもの)のうち分割線の交点に位置する輝度値b0Y〜b16Yとを見出し、輝度値a0Y〜a16Yを輝度値b0Y〜b16Yへと個別に変換する階調変換テーブルを作成する。
【0113】
ステップ206−3:制御部19は、ステップS206−2で作成した階調変換テーブルによって表される入出力特性(離散データ)のうち、データの存在しない部分を補間することによって、例えば図13に示すような階調変換特性カーブを作成する。なお、この補間には、線形補間、平滑化等が適用される。また、階調変換特性カーブの各部の傾きは、階調変換後に階調飛びが発生しないよう適切な範囲内に収められる。
【0114】
ステップ206−4:制御部19は、ステップS206−3で作成した階調変換特性カーブにより、処理対象領域における合成輝度画像gを階調変換し、階調変換後の合成輝度画像g(処理対象領域における合成輝度画像g)を取得すると、それを階調変換結果としてバッファメモリ16へ書き込み、図5のフローチャートの処理へ復帰する(以上、図6の説明。)。
【符号の説明】
【0115】
11…撮影レンズ、12…レンズ駆動部、13…カラーの撮像素子、14…アナログ信号処理部、15…タイミングジェネレータ(TG)、16…バッファメモリ、17…画像処理部、18…モニタ、19…制御部、20…圧縮/展開部、21…記録媒体、22…操作部、23…バス


【特許請求の範囲】
【請求項1】
同一の撮影シーンから互いに異なる露光条件で撮像されたN枚のカラー画像を圧縮する画像処理装置であって、
前記N枚のカラー画像を圧縮対象として入力する入力手段と、
前記N枚のカラー画像の各々の輝度分布を個別に示すN枚分の輝度画像を抽出する輝度画像抽出手段と、
前記N枚のカラー画像の全体の色差分布を一括に示す1枚分の色差画像を作成する色差画像作成手段と、
前記N枚分の輝度画像を示す輝度情報と前記1枚分の色差画像を示す色差情報とを互いに対応付けたものを、圧縮結果として取得する結果取得手段と
を備えたことを特徴とする画像処理装置。
【請求項2】
請求項1に記載の画像処理装置において、
前記色差画像作成手段は、
前記N枚のカラー画像の色差分布の平均画像を、前記1枚分の色差画像として作成する
ことを特徴とする画像処理装置。
【請求項3】
請求項2に記載の画像処理装置において、
前記色差画像作成手段は、
前記N枚のカラー画像の色差分布の加重平均画像を、前記1枚分の色差画像として作成する
ことを特徴とする画像処理装置。
【請求項4】
請求項3に記載の画像処理装置において、
前記色差画像作成手段は、
前記加重平均の加重を、前記N枚のカラー画像の輝度比に応じて設定する
ことを特徴とする画像処理装置。
【請求項5】
請求項4に記載の画像処理装置において、
前記色差画像作成手段は、
前記加重平均の加重を、前記N枚のカラー画像を代表する基準画像の輝度分布に応じて画素毎に設定する
ことを特徴とする画像処理装置。
【請求項6】
請求項1〜請求項5の何れか一項に記載の画像処理装置が圧縮した前記N枚のカラー画像を再生する画像処理装置であって、
前記圧縮結果を再生対象として入力する入力手段と、
前記圧縮結果に含まれる前記輝度情報に基づき、前記N枚のカラー画像の全体の輝度分布を一括に示す1枚分の輝度画像を作成する輝度画像作成手段と、
前記圧縮結果に含まれる前記色差情報に基づき、前記N枚のカラー画像の全体の色差分布を一括に示す1枚分の色差画像を取得する色差画像取得手段と、
前記1枚分の輝度画像と前記1枚分の色差画像とを組み合わせてなる1枚分の合成カラー画像を、再生結果として取得する結果取得手段と
を備えたことを特徴とする画像処理装置。
【請求項7】
請求項6に記載の画像処理装置において、
前記輝度画像作成手段は、
前記N枚のカラー画像の輝度分布の平均画像を、前記1枚分の輝度画像として作成する
ことを特徴とする画像処理装置。
【請求項8】
請求項7に記載の画像処理装置において、
前記輝度画像作成手段は、
前記N枚のカラー画像の輝度分布の加重平均画像を、前記1枚分の輝度画像として作成する
ことを特徴とする画像処理装置。
【請求項9】
請求項8に記載の画像処理装置において、
前記輝度画像作成手段は、
前記加重平均の加重を、前記N枚のカラー画像の輝度比に応じて設定する
ことを特徴とする画像処理装置。
【請求項10】
請求項8に記載の画像処理装置において、
前記輝度画像作成手段は、
前記加重平均の加重を、前記N枚のカラー画像を代表する基準画像の輝度分布に応じて画素毎に設定する
ことを特徴とする画像処理装置。
【請求項11】
請求項9又は請求項10に記載の画像処理装置において、
前記輝度画像作成手段は、
前記加重平均の加重を、ユーザの指定した輝度再現範囲に応じて設定する
ことを特徴とする画像処理装置。
【請求項12】
請求項6〜請求項11の何れか一項に記載の画像処理装置において、
前記結果取得手段は、
前記合成カラー画像を取得する際、前記1枚分の輝度画像を、ユーザの指定した輝度再現範囲に応じて階調変換する
ことを特徴とする画像処理装置。
【請求項13】
請求項6〜請求項12の何れか一項に記載の画像処理装置において、
前記結果取得手段は、
前記合成カラー画像を取得する際、前記1枚分の輝度画像を、ユーザの指定した処理対象領域の輝度ヒストグラムに応じて階調変換する
ことを特徴とする画像処理装置。
【請求項14】
請求項6〜請求項13の何れか一項に記載の画像処理装置において、
前記結果取得手段は、
前記合成カラー画像を取得する際、前記1枚分の輝度画像に基づき前記1枚分の色差画像の異常画素を補正する
ことを特徴とする画像処理装置。
【請求項15】
同一の撮影シーンから互いに異なる露光条件でN枚のカラー画像を撮像する撮像手段と、
請求項1〜請求項14の何れか一項に記載の画像処理装置と
を備えたことを特徴とする撮像装置。
【請求項16】
同一の撮影シーンから互いに異なる露光条件で撮像されたN枚のカラー画像を圧縮する画像処理プログラムであって、
前記N枚のカラー画像を圧縮対象として入力する入力手順と、
前記N枚のカラー画像の各々の輝度分布を個別に示すN枚分の輝度画像を抽出する輝度画像抽出手順と、
前記N枚のカラー画像の全体の色差分布を一括に示す1枚分の色差画像を作成する色差画像作成手順と、
前記N枚分の輝度画像を示す輝度情報と前記1枚分の色差画像を示す色差情報とを互いに対応付けたものを、圧縮結果として取得する結果取得手順と
を含むことを特徴とする画像処理プログラム。
【請求項17】
請求項16に記載の画像処理プログラムで圧縮された前記N枚のカラー画像を再生する画像処理プログラムであって、
前記圧縮結果を再生対象として入力する入力手順と、
前記圧縮結果に含まれる前記輝度情報に基づき、前記N枚のカラー画像の全体の輝度分布を一括に示す1枚分の輝度画像を作成する輝度画像作成手順と、
前記圧縮結果に含まれる前記色差情報に基づき、前記N枚のカラー画像の全体の色差分布を一括に示す1枚分の色差画像を取得する色差画像取得手段と、
前記1枚分の輝度画像と前記1枚分の色差画像とを組み合わせてなる1枚分の合成カラー画像を、再生結果として取得する結果取得手順と
を含むことを特徴とする画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate


【公開番号】特開2011−244053(P2011−244053A)
【公開日】平成23年12月1日(2011.12.1)
【国際特許分類】
【出願番号】特願2010−111789(P2010−111789)
【出願日】平成22年5月14日(2010.5.14)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】