説明

撮像装置および撮像方法

【課題】露光量を変え複数回の撮影を行って画像を合成することなく、1回の撮影でダイナミックレンジを拡大することができる撮像装置および撮像方法を提供する。
【解決手段】YUV変換部36に設けたDレンジ拡大予測補間部50は、入力されるデジタルの画像データから、RGB原色フィルタが配置された各画素からの出力を検出するとともに、各画素からの出力が所定の飽和レベル以上に達しているか否かを判定する輝度レベル判定部60と、Gフィルタが配置された画素の出力が所定の飽和レベル以上に達していると判定した場合に、その周囲の飽和していないR、Bフィルタが配置された画素からの出力に基づいて、飽和レベル領域以上における画素出力を補間する画素出力補正処理部61を有している。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、デジタルスチルカメラ、デジタルビデオカメラ等の撮像装置および撮像方法に関し、特に撮影画像のダイナミックレンジを拡大することができる撮像装置および撮像方法に関する。
【背景技術】
【0002】
銀塩写真フィルムを用いる従来の銀塩カメラで撮影される画像のダイナミックレンジに比べ、CCD等の固体撮像素子を有するデジタルスチルカメラやデジタルビデオカメラ等で撮影される画像のダイナミックレンジは極めて狭い。ダイナミックレンジが狭いと、被写体の暗い部分は「黒つぶれ」といわれる現象が発生し、逆に被写体の明るい部分は「白とび」といわれる現象が発生して画像品質が低下する。
【0003】
そこで、CCD等の固体撮像素子で撮像される画像のダイナミックレンジを拡大するために、例えば、同一被写体に対して露光量を変えて複数回の撮影を行い、露光量の異なる複数の画像を取得し、これらの画像を加算してダイナミックレンジが拡大された合成画像を生成する技術が従来より知られている(例えば、特許文献1参照)。
【特許文献1】特開2000−92378号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
ところで、ダイナミックレンジを拡大するために、前記特許文献1のように露光量を変えて複数回の撮影を行う方法では、移動物体の被写体を撮影したりすると、被写体が2重にずれた画像になり、正しく画像を合成できないことがある。
【0005】
そこで、本発明は、露光量を変え複数回の撮影を行って画像を合成することなく、1回の撮影によってダイナミックレンジを拡大することができる撮像装置および撮像方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
前記目的を達成するために請求項1に記載の撮像装置は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備え、前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する画素出力補正処理手段とを有することを特徴としている。
【0007】
請求項2に記載の撮像装置は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備え、前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色と同じ色のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する画素出力補正処理手段とを有することを特徴としている。
【0008】
請求項3に記載の撮像装置は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備え、前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第1の画素出力補正処理手段と、前記画素出力検出手段により、前記特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色と同じ色のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第2の画素出力補正処理手段と、前記第1の画素出力補正処理手段と前記第2の画素出力補正処理手段からそれぞれ出力される補間情報に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する補間処理手段とを有することを特徴としている。
【0009】
請求項4に記載の撮像装置は、前記画素出力検出手段で各画素からの出力を検出する際の処理単位は、水平・垂直方向に2×2画素の大きさであることを特徴としている。
【0010】
請求項5に記載の撮像装置は、前記光学系の前方側または後方側に、前記特定色と同じ色のカラーフィルタを出し入れ自在に設け、前記カラーフィルタを前記光学系の前方側または後方側に入れることにより、前記特定色のフィルタの輝度に対する感度に対して、前記他の色のフィルタの輝度に対する感度を相対的に低下させることを特徴としている。
【0011】
請求項6に記載の撮像装置は、前記カラーフィルタは複数設けられており、前記複数のカラーフィルタはそれぞれ光の透過率が異なっていることを特徴としている。
【0012】
請求項7に記載の撮像装置は、前記特定色のフィルタが配置された画素の出力に対して、前記所定の飽和レベル以上に達しているときに前記補間させる動作を、選択して実行させるための動作選択手段を備えていることを特徴としている。
【0013】
請求項8に記載の撮像装置は、前記特定色のフィルタが配置された画素の出力が前記所定の飽和レベル以上に達している場合に前記画素出力補正処理手段から出力される、前記所定の飽和レベル以下における第1のビット数から第2のビット数に一度拡張された画素出力のデータを、再度前記第1のビット数に圧縮するビット圧縮変換手段を備え、前記ビット圧縮変換手段は、前記飽和レベル以上領域における画素出力に対応したデータに対する圧縮率よりも、前記飽和レベル以下における画素出力に対応したデータに対する圧縮率を小さくして圧縮することを特徴としている。
【0014】
請求項9に記載の撮像装置は、前記特定色のフィルタが配置された画素の出力が前記所定の飽和レベル以上に達している場合に前記補間処理手段から出力される、前記所定の飽和レベル以下における第1のビット数から第2のビット数に一度拡張されたすべてのデータを、再度前記第1ビット数に圧縮するビット圧縮変換手段を備え、前記ビット圧縮変換手段は、前記飽和レベル以上領域における画素出力に対応したデータに対する圧縮率よりも、前記飽和レベル以下における画素出力に対応したデータに対する圧縮率を小さくして圧縮することを特徴としている。
【0015】
請求項10に記載の撮像装置は、前記飽和レベル以下で低輝度レベルにおける画素出力に対応したデータに対しては、前記ビット圧縮変換手段でビット圧縮する前とビット圧縮した後で略同じ値となるような圧縮率を用いることを特徴としている。
【0016】
請求項11に記載の撮像装置は、前記画素出力補正処理手段は、前記所定の飽和レベル以上と判定した画素出力を補間するための演算を行ったときに、その演算結果が元の前記画素出力よりも大きくなる場合のみ、前記所定の飽和レベル以上と判定した画素出力の補間を行うことを特徴としている。
【0017】
請求項12に記載の撮像装置は、前記画素出力補正処理手段は、前記所定の飽和レベル以上と判定した画素出力を補間するための演算を行ったときに、その演算結果が元の前記画素出力よりも小さくなる場合には、前記演算に用いる画素の範囲を拡大することを特徴としている。
【0018】
請求項13、16に記載の撮像装置は、前記演算に用いる画素の範囲を拡大する場合には、前記特定色のフィルタが配置された画素と同色のフィルタが配置された画素も併せて用いることを特徴としている。
【0019】
請求項14に記載の撮像装置は、前記第1、第2の画素出力補正処理手段は、前記所定の飽和レベル以上と判定した画素出力を補間するための演算を行ったときに、その演算結果が元の前記画素出力よりも大きくなる場合のみ、前記所定の飽和レベル以上と判定した画素出力の補間を行うことを特徴としている。
【0020】
請求項15に記載の撮像装置は、前記第1、第2の画素出力補正処理手段は、前記所定の飽和レベル以上と判定した画素出力を補間するための演算を行ったときに、その演算結果が元の前記画素出力よりも小さくなる場合には、前記演算に用いる画素の範囲を拡大することを特徴としている。
【0021】
請求項17に記載の撮像方法は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する判定処理ステップと、前記判定処理ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する補間処理ステップと、を含むことを特徴としている。
【0022】
請求項18に記載の撮像方法は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する判定処理ステップと、前記判定処理ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色と同じ色のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する補完処理ステップと、を含むことを特徴としている。
【0023】
請求項19に記載の撮像方法は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する判定処理ステップと、前記判定ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第1の補間処理ステップと、前記判定ステップにより、前記特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色と同じ色のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第2の補間処理ステップと、前記第1の補間処理ステップと前記第2の補間処理ステップからそれぞれ出力される補間情報に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第3の補間処理ステップと、を含むことを特徴としている。
【発明の効果】
【0024】
請求項1、17に記載の発明によれば、特定色のフィルタが配置された画素からの出力が所定の飽和レベル以上に達していると判定した場合に、その周囲の飽和していない他の色のフィルタが配置された画素からの出力に基づいて、飽和レベル以上領域における画素出力を補間してダイナミックレンジを拡大することにより、露光量を変え複数回の撮影を行って画像を合成することなく、1回の撮影によってダイナミックレンジを拡大することができる。
【0025】
請求項2、18に記載の発明によれば、特定色のフィルタが配置された画素からの出力が所定の飽和レベル以上に達していると判定した場合に、その周囲の飽和していない複数の特定色と同じ色のフィルタが配置された画素からの出力に基づいて、飽和レベル以上領域における画素出力を補間してダイナミックレンジを拡大することにより、露光量を変え複数回の撮影を行って画像を合成することなく、1回の撮影によってダイナミックレンジを拡大することができる。
【0026】
請求項3、19に記載の発明によれば、特定色のフィルタが配置された画素からの出力が所定の飽和レベル以上に達していると判定した場合に、その周囲の飽和していない他の色のフィルタが配置された画素からの出力に基づいて、飽和レベル以上に達している画素の出力を補間し、更に、その周囲の飽和していない複数の特定色と同じ色のフィルタが配置された画素からの出力に基づいて、飽和レベル以上に達している画素の出力を補間し、これらの両方の補間情報に基づいて適切な補間処理を行ってダイナミックレンジを拡大することにより、露光量を変え複数回の撮影を行って画像を合成することなく、1回の撮影によってダイナミックレンジを拡大することができる。
【0027】
請求項5に記載の発明によれば、光学系の前方側または後方側に特定色と同じ色のカラーフィルタを入れることにより、特定色のフィルタの輝度に対する感度に対して、他の色のフィルタの輝度に対する感度を相対的に低下させることができるので、容易にダイナミックレンジを更に拡大することができる。
【0028】
請求項6に記載の発明によれば、複数のカラーフィルタはそれぞれ光の透過率が異なっていることにより、ダイナミックレンジの拡大倍率を容易に変更することができる。
【0029】
請求項7に記載の発明によれば、特定色のフィルタが配置された画素の出力に対して、前記所定の飽和レベル以上に達しているときに予測補間させる動作を、動作選択手段で動作選択することにより撮影者の判断で行うことができる。
【0030】
請求項8、9に記載の発明によれば、飽和レベル以上領域における画素出力に対応したデータに対する圧縮率よりも、飽和レベル以下における画素出力に対応したデータに対する圧縮率を小さくして圧縮することにより、飽和レベル以下における階調性を良好に保持することができる。
【0031】
請求項10に記載の発明によれば、飽和レベル以下で低輝度レベルにおける画素出力に対応したデータに対しては、ビット圧縮変換手段でビット圧縮する前とビット圧縮した後で略同じ値となるような圧縮率を用いることにより、低輝度レベルにおける階調性を良好に保持することができる。
【0032】
請求項11、14に記載の発明によれば、所定の飽和レベル以上に達している特定色のフィルタが配置された画素からの出力に対して、その周囲の他の色のフィルタが配置された画素からの出力が大幅に小さいときに、補間処理によって逆に特定色のフィルタが配置された画素からの出力が元よりも小さくなる不具合を防止できるので、ダイナミックレンジが逆に小さくなるのを防止することができる。
【0033】
請求項12、15に記載の発明によれば、所定の飽和レベル以上に達している特定色のフィルタが配置された画素からの出力に対して、その周囲の他の色のフィルタが配置された画素からの出力が大幅に小さいときに、さらにその外側の画素からの出力情報を用いることで、元の画素出力よりも大きくなるように補間処理することが可能となる。
【0034】
請求項13、16に記載の発明によれば、特定色のフィルタが配置された画素と同色のフィルタが配置された画素からの出力情報も併せて用いることで、より良好な補間処理を行うことができる。
【発明を実施するための最良の形態】
【0035】
以下、本発明を図示の実施形態に基づいて説明する。
〈実施形態1〉
【0036】
図1(a)は、本発明の実施形態1に係る撮像装置の一例としてのデジタルスチルカメラ(以下、「デジタルカメラ」という)を示す正面図、図1(b)は、その上面図、図1(c)は、その背面図、図2は、図1(a),(b),(c)に示したデジタルカメラ内のシステム構成の概要を示すブロック図である。
【0037】
(デジタルカメラの外観構成)
図1(a),(b),(c)に示すように、本実施形態に係るデジタルカメラ1の上面側には、レリーズボタン(シャッタボタン)2、電源ボタン3、撮影・再生切替ダイアル4が設けられており、デジタルカメラ1の正面(前面)側には、撮影レンズ系5を有する鏡胴ユニット6、ストロボ発光部(フラッシュ)7、光学ファインダ8が設けられている。
【0038】
デジタルカメラ1の背面側には、液晶モニタ(LCD)9、前記光学ファインダ8の接眼レンズ部8a、広角側ズーム(W)スイッチ10、望遠側ズーム(T)スイッチ11、メニュー(MENU)ボタン12、確定ボタン(OKボタン)13等が設けられている。また、デジタルカメラ1の側面内部には、撮影した画像データを保存するためのメモリカード14(図2参照)を収納するメモリカード収納部15が設けられている。
【0039】
(デジタルカメラのシステム構成)
図2に示すように、このデジタルカメラ1は、鏡胴ユニット6の撮影レンズ系5を通して入射される被写体画像が受光面上に結像する固体撮像素子としてのCCD20、CCD20から出力される電気信号(アナログRGB画像信号)をデジタル信号に処理するアナログフロントエンド部(以下、「AFE部」という)21、AFE部21から出力されるデジタル信号を処理する信号処理部22、データを一時的に格納するSDRAM23、制御プログラム等が記憶されたROM24、鏡胴ユニット6を駆動するモータドライバ25等を有している。
【0040】
鏡胴ユニット6は、ズームレンズやフォーカスレンズ等を有する撮影レンズ系5、絞りユニット26、メカシャッタユニット27を備えており、撮影レンズ系5、絞りユニット26、メカシャッタユニット27の各駆動ユニットは、モータドライバ25によって駆動される。モータドライバ25は、信号処理部22の制御部(CPU)28からの駆動信号により駆動制御される。
【0041】
CCD20は、CCD20を構成する複数の画素上にRGB原色フィルタ(図7参照:以下、「RGBフィルタ」という)が配置されており、RGB3原色に対応した電気信号(アナログRGB画像信号)が出力される。
【0042】
AFE部21は、CCD20を駆動するTG(タイミング信号発生部)30、CCD20から出力される電気信号(アナログRGB画像信号)をサンプリングするCDS(相関2重サンプリング部)31、CDS31にてサンプリングされた画像信号のゲインを調整するAGC(アナログ利得制御部)32、AGC32でゲイン調整された画像信号をデジタル信号(以下、「RAW−RGBデータ」という)に変換するA/D変換部33を備えている。
【0043】
信号処理部22は、AFE部21のTG30へ画面水平同期信号(HD)と画面垂直同期信号(VD)の出力を行い、これらの同期信号に合わせて、AFE部21のA/D変換部33から出力されるRAW−RGBデータを取り込むCCDインターフェース(以下、「CCDI/F」という)34と、SDRAM23を制御するメモリコントローラ35と、取り込んだRAW−RGBデータを表示や記録が可能なYUV形式の画像データに変換するYUV変換部36と、表示や記録される画像データのサイズに合わせて画像サイズを変更するリサイズ処理部37と、画像データの表示出力を制御する表示出力制御部38と、画像データをJPEG形成などで記録するためのデータ圧縮部39と、画像データをメモリカード14へ書き込み、又はメモリカード14に書き込まれた画像データを読み出すメディアインターフェース(以下、「メディアI/F」という)40と、操作部41からの操作入力情報に基づき、ROM24に記憶された制御プログラムに基づいてデジタルカメラ1全体のシステム制御等を行う制御部(CPU)28を備えている。
【0044】
操作部41は、デジタルカメラ1(図1(a),(b),(c)参照)の外観表面に設けられているレリーズボタン2、電源ボタン3、撮影・再生切替ダイアル4、広角側ズームスイッチ10、望遠側ズームスイッチ11、メニューボタン12、確定ボタン13等であり、撮影者の操作によって所定の動作指示信号が制御部28に入力される。
【0045】
SDRAM23には、CCDI/F34に取り込まれたRAW−RGBデータが保存されると共に、YUV変換部36で変換処理されたYUVデータ(YUV形式の画像データ)が保存され、更に、データ圧縮部39で圧縮処理されたJPEG形成などの画像データが保存される。
【0046】
なお、前記YUVデータのYUVは、輝度データ(Y)と、色差(輝度データと青色(B)成分データの差分(U)と、輝度データと赤色(R)成分データの差分(V))の情報で色を表現する形式である。
【0047】
(デジタルカメラのモニタリング動作、静止画撮影動作)
次に、前記したデジタルカメラ1のモニタリング動作と静止画撮影動作について説明する。このデジタルカメラ1は、静止画撮影モード時には、以下に説明するようなモニタリング動作を実行しながら静止画撮影動作が行われる。
【0048】
先ず、撮影者が電源ボタン3をONし、撮影・再生切替ダイアル4を撮影モードに設定することで、デジタルカメラ1が記録モードで起動する。電源ボタン3がONされて、撮影・再生切替ダイアル4が撮影モードに設定されたことを制御部28が検知すると、制御部28はモータドライバ25に制御信号を出力して、鏡胴ユニット6を撮影可能位置に移動させ、かつ、CCD20、AFE部21、信号処理部22、SDRAM23、ROM24、液晶モニタ9等を起動させる。
【0049】
そして、鏡胴ユニット6の撮影レンズ系5を被写体に向けることにより、撮影レンズ系5を通して入射される被写体画像がCCD20の各画素の受光面上に結像する。そして、CCD20から出力される被写体画像に応じた電気信号(アナログRGB画像信号)は、CDS31、AGC32を介してA/D変換部33に入力され、A/D変換部33により12ビット(bit)のRAW−RGBデータに変換する。
【0050】
このRAW−RGBデータは、信号処理部22のCCDI/F34に取り込まれてメモリコントローラ35を介してSDRAM23に保存される。そして、SDRAM23から読み出されたRAW−RGBデータは、YUV変換部36で表示可能な形式であるYUVデータ(YUV信号)に変換された後に、メモリコントローラ35を介してSDRAM23にYUVデータが保存される。
【0051】
そして、SDRAM23からメモリコントローラ35を介して読み出したYUVデータは、表示出力制御部38を介して液晶モニタ(LCD)9へ送られ、撮影画像(動画)が表示される。前記した液晶モニタ(LCD)9に撮影画像を表示しているモニタリング時においては、CCDI/F34による画素数の間引き処理により1/30秒の時間で1フレームを読み出している。
【0052】
なお、このモニタリング動作時は、電子ファインダとして機能する液晶モニタ(LCD)9に撮影画像が表示されているだけで、まだレリーズボタン2が押圧(半押も含む)操作されていない状態である。
【0053】
この撮影画像の液晶モニタ(LCD)9への表示によって、撮影画像を撮影者が確認することができる。なお、表示出力制御部38からTVビデオ信号として出力して、ビデオケーブルを介して外部のTV(テレビ)に撮影画像(動画)を表示することもできる。
【0054】
そして、信号処理部22のCCDI/F34は、取り込まれたRAW−RGBデータより、AF(自動合焦)評価値、AE(自動露出)評価値、AWB(オートホワイトバランス)評価値を算出する。
【0055】
AF評価値は、例えば高周波成分抽出フィルタの出力積分値や、近接画素の輝度差の積分値によって算出される。合焦状態にあるときは、被写体のエッジ部分がはっきりとしているため、高周波成分が一番高くなる。これを利用して、AF動作時(合焦検出動作時)には、撮影レンズ系5内の各フォーカスレンズ位置におけるAF評価値を取得して、その極大になる点を合焦検出位置としてAF動作が実行される。
【0056】
AE評価値とAWB評価値は、RAW−RGBデータにおけるRGB値のそれぞれの積分値から算出される。例えば、CCD20の全画素の受光面に対応した画面を256エリアに等分割(水平16分割、垂直16分割)し、それぞれのエリアのRGB積算を算出する。
【0057】
そして、制御部28は、算出されたRGB積算値を読み出し、AE処理では、画面のそれぞれのエリアの輝度を算出して、輝度分布から適正な露光量を決定する。決定した露光量に基づいて、露光条件(CCD20の電子シャッタ回数、絞りユニット26の絞り値等)を設定する。また、AWB処理では、RGBの分布から被写体の光源の色に合わせたAWBの制御値を決定する。このAWB処理により、YUV変換部36でYUVデータに変換処理するときのホワイトバランスを合わせる。なお、前記したAE処理とAWB処理は、前記モニタリング時には連続的に行われている。
【0058】
そして、前記したモニタリング動作時に、レリーズボタン2が押圧(半押しから全押し)操作される静止画撮影動作が開始されると、合焦位置検出動作であるAF動作と静止画記録処理が行われる。
【0059】
即ち、レリーズボタン2が押圧(半押しから全押し)操作されると、制御部28からモータドライバ25への駆動指令により撮影レンズ系5のフォーカスレンズが移動し、例えば、いわゆる山登りAFと称されるコントラスト評価方式のAF動作が実行される。
【0060】
AF(合焦)対象範囲が無限から至近までの全領域であった場合、撮影レンズ系5のフォーカスレンズは、至近から無限、又は無限から至近までの間の各フォーカス位置に移動し、CCDI/F34で算出されている各フォーカス位置における前記AF評価値を制御部28が読み出す。そして、各フォーカス位置のAF評価値が極大になる点を合焦位置としてフォーカスレンズを合焦位置に移動させ、合焦させる。
【0061】
そして、前記したAE処理が行われ、露光完了時点で、制御部28からモータドライバ25への駆動指令によりメカシャッタユニット27が閉じられ、CCD20から静止画用のアナログRGB画像信号が出力される。そして、前記モニタリング時と同様に、AFE部21のA/D変換部33によりRAW−RGBデータに変換される。
【0062】
そして、このRAW−RGBデータは、信号処理部22のCCDI/F34に取り込まれ、後述するYUV変換部36でYUVデータに変換されて、メモリコントローラ35を介してSDRAM23に保存される。そして、このYUVデータはSDRAM23から読み出されて、リサイズ処理部37で記録画素数に対応するサイズに変換され、データ圧縮部39でJPEG形式等の画像データへと圧縮される。圧縮されたJPEG形式等の画像データは、SDRAM23に書き戻された後にメモリコントローラ35を介してSDRAM23から読み出され、メディアI/F40を介してメモリカード14に保存される。
【0063】
(YUV変換部36によるダイナミックレンジ拡大処理)
本実施形態に係るデジタルカメラ1のYUV変換部36は、ダイナミックレンジを拡大するためのダイナミックレンジ拡大処理機能を有している。
【0064】
デジタルカメラ1のCCD20を構成する各画素上には、ベイヤ配列のRGBフィルタ(図7参照)が配置されているが、太陽光のように広い波長帯域を持つ光に対して、通常のRGBフィルタは各色毎に輝度に対する感度が異なっている。
【0065】
例えば、図3に示すように、G(グリーン)フィルタの感度が、R(レッド)フィルタ、B(ブルー)フィルタの2倍程度の感度を有するRGBフィルタ(図3のa、b、c)を有するCCD20の場合、太陽光のように広い波長帯域を持つ光が同じだけRGBフィルタに入射したときに、R、Bフィルタの各画素出力に対してGフィルタ(図3のcの斜線部分)の画素出力の方が先に飽和レベルAに達してしまう。なお、図3において、fはGフィルタの画素感度特性、gはR、Bフィルタの各画素感度特性であり、Gフィルタの画素感度特性は、R、Bフィルタの各画素感度特性の2倍程度の感度を有している。
【0066】
ところで、従来のRGBフィルタを有するCCDなどの固体撮像素子を有するデジタルカメラでは、図3のa、b、cのRGBフィルタのように、感度の高いGフィルタの画素出力に応じた飽和レベルAに合わせてダイナミックレンジの範囲を設定している。即ち、Gフィルタの画素出力が飽和レベルAに達している場合でも、R、Bフィルタの画素出力は飽和レベルAの1/2程度である。
【0067】
これに対して、本発明では、図3のd、eのRGBフィルタのように、Gフィルタの画素出力が飽和レベルAを超えていても、R、Bフィルタの各画素出力が飽和レベルAを超えていない範囲内にあるときに、R、Bフィルタの各画素出力レベルから、R、Bフィルタの各画素感度特性(図3のg)とGフィルタの画素感度特性(図3のf)とに基づいてGフィルタの画素出力レベルを予測補間(一点鎖線部分)し、この予測補間した分だけダイナミックレンジを拡大するようにした。
【0068】
以下、本実施形態におけるダイナミックレンジの拡大処理動作について説明する。
【0069】
本実施形態では、撮影者がメニュー(MENU)ボタン12(図1(C)参照)を押圧操作することにより、例えば、図4に示すような撮影設定画面が液晶モニタ(LCD)9に表示され、この表示画面から「ダイナミックレンジ2倍」の項目を選択することにより、制御部28からYUV変換部36へ制御信号が出力され、ダイナミックレンジを2倍に拡大する処理動作が実行される。
【0070】
例えば、被写体の背景の一部に極端に明るい部分がある場合などに、撮影者の判断によりメニュー(MENU)ボタン12を押圧操作して「ダイナミックレンジ2倍」の項目を選択することにより、ダイナミックレンジの拡大処理が行われる。
【0071】
なお、本実施形態では、前記したようにGフィルタの画素感度特性が、R、Bフィルタの各画素感度特性の2倍程度の感度を有していることを前提としているため、極端に赤い光源下や青い光源下では、Gフィルタの画素感度よりもR、Bフィルタの画素感度の方が飽和してしまう場合がある。このような状況下で前記したダイナミックレンジの拡大処理を行うと正確な諧調および色再現が得られないので、このような場合には撮影者の判断により、前記した「ダイナミックレンジ2倍」の項目を選択しないようにする。
【0072】
ダイナミックレンジの拡大処理は、YUV変換部36で行われる。図5に示すように、YUV変換部36は、ダイナミックレンジ拡大予測補間部(以下、「Dレンジ拡大予測補間部」という)50、ビット圧縮変換部51、ホワイトバランス制御部52、同時化部53、トーンカーブ変換部54、RGB−YUV変換部55、画像サイズコンバータ部56、輝度ヒストグラム生成部57、エッジエンハンス部58を備えている。
【0073】
図6に示すように、Dレンジ拡大予測補間部50は、入力されるRAW−RGBデータからRGBフィルタを設けた各画素の画素出力を検出するとともに、感度が一番高いGフィルタを設けた画素の画素出力(以下、「Gフィルタの画素出力」という)が飽和レベル以上に達したか否かを判定する輝度レベル判定部60と、輝度レベル判定部60でGフィルタの画素出力が飽和レベル以上に達したと判定した場合に、その周囲のR、Bフィルタを設けた画素の画素出力(以下、「R、Bフィルタの画素出力」という)によって飽和レベル以上に達しているGフィルタの画素出力の予測補間処理を行う画素出力補正処理部61と、輝度レベル判定部60でGフィルタの画素出力が飽和レベルに達していないと判定された場合に、Gフィルタの画素出力、およびR、Bフィルタの画素出力に対して、出力レベルの変換を行うことなく12ビットから14ビットにそれぞれビット拡張のみを行うビット拡張処理部62を備えている。
【0074】
輝度レベル判定部60でGフィルタの画素出力が飽和レベル以上に達したか否かを判定処理する際において、本実施形態では、RGBフィルタを有するCCD20の各画素に対して、図7に示すように、太枠A内の2×2画素(2つのGフィルタの画素、1つずつのR、Bフィルタの画素)を処理単位(最小単位)とする。この処理単位(太枠A)内にある2つのGフィルタの画素のうちの少なくとも1つの画素出力が飽和レベル以上に達している場合に、Gフィルタの感度は、前記したようにR、Bフィルタの感度の約2倍であるため、Gフィルタの画素出力値は、下記の式(1)から算出する。
【0075】
G={(R+B)/2}×2 …式(1)
画素出力補正処理部61は、式(1)のように、R、Bフィルタの画素出力の平均値を算出して、それを2倍することでGフィルタの画素出力値を算出する。算出されたGフィルタの画素出力値は、処理単位(2×2画素)内にある2つのGフィルタの画素出力値として置き換えられる。なお、前記Gフィルタの画素出力値は12ビットを超えたデータになるため、ここでは一度14ビットのデータに置き換える。よって、R、Bフィルタの画素出力の最大値はいずれも4095(12ビット)なので、Gフィルタの画素出力の最大値は8190となるので、14ビットのデータとして扱うことができる。
【0076】
ところで、輝度レベル判定部60でGフィルタの画素出力が飽和レベル以上に達しているか否かを判定処理する前に、欠陥画素の補正が完了している必要がある。即ち、Gフィルタを設けた画素に欠陥画素があり、常に飽和する値を出力する画素があった場合、同じ処理単位内にあるGフィルタを設けた画素を大きな値に置き換えてしまうため、新たな欠陥画素を生成してしまうことになる。また、R、Bフィルタを設けた画素に欠陥画素がある場合、前記式(1)によるGフィルタを設けた画素の換算が正しくない値になってしまう。このため、本実施形態では、CCDI/F34に欠陥画素を取り除く欠陥画素除去処理部(不図示)を備えている。
【0077】
そして、Dレンジ拡大予測補間部50からR、Bフィルタの画素出力データ、および飽和レベル以上に達して予測補間処理されたGフィルタの画素出力データが、ビット圧縮変換部51に出力される。ビット圧縮変換部51は、例えば、図8(a)に示すような変換特性(3箇所の節点を指定し、それらの間を直線で近似する4区間の折れ線近似特性)によって、14ビットに拡張されたR、G、Bフィルタの画素出力のうちのGフィルタの画素出力を12ビットに圧縮する。なお、図8(a)において、aは12ビットの範囲であり、bは最大値8190のデータを1/2倍する単純な線形変換特性(一点鎖線部分)である。
【0078】
図8(a)に示す変換特性では、Gフィルタの画素出力の最大値は8190なので、8190が4095になるように圧縮する。そして、Gフィルタの画素出力の圧縮倍率に合わせて、R、Bフィルタの画素出力の値も圧縮する。
【0079】
前記したように本実施形態では、最大値が8190に拡張されたGフィルタの画素出力を最大値が4095に圧縮する場合の一例として、図8(a)の実線で示したような3つの節点を有する変換特性を用いた。本実施形態では、単純な節点のない線形変換特性(図8(a)のb)では得られない以下のような2つの効果が得られる。
【0080】
第1の効果としては、データの信頼性が高いデータにより多くのビット数を割り当てることができる。即ち、飽和レベル以上に達しているGフィルタの画素出力に対して予測補間処理する場合、前記したようにGフィルタの画素出力の飽和レベル付近の規定値以上の値になった範囲について予測補間を行い、この規定値以下の範囲では予測補間は行われない。よって、予測補間を行う範囲と行わない範囲とでは、データの精度が異なっている。
【0081】
即ち、例えば前記式(1)によって飽和しているGフィルタの画素出力値を予測補間(補正)する場合、主被写体の色によっては、予測補間を行う範囲においては被写体の輝度レベルが正確に再現できていない場合がある。これに対して予測補間を行っていない範囲は、RGBフィルタを有するCCD20から出力される実際のデータ(アナログRGB画像信号)をA/D変換したデータであるので、このデータの信頼性は高いものとなる。
【0082】
即ち、図8(a)に示した本実施形態における変換特性(実線で示した部分)では、例えば、入力14ビットデータが1024ときに出力12ビットデータは1024になっており、元のデータがそのまま使われている。これに対し、例えば、入力14ビットデータが3072ときに出力12ビットデータは2560になっており、この範囲では予測補間前のビット割付よりも少ない割付となることによって、多少のビット誤差が発生する。
【0083】
このように、単純な節点のない線形変換を行う特性(一点鎖線で示した部分)ではなく、本実施形態のように3つの節点を有する変換特性(実線で示した部分)を採用することにより、ビット割付をだんだんと少なくしていくことができるので、データの信頼性が高いデータにより多くのビット数を割り当てることができる。
【0084】
そして、第2の効果としては、低・中輝度における階調を正確に保存することができる。即ち、単純な線形変換特性(図8(a)のb)でビット圧縮を行った場合、低輝度側の予測補間が行われていない範囲では、ビット割付が1/4になってしまう。このため、階調感のない画像になってしまう。これに対し、図8(a)に示したような本実施形態における変換特性(実線部分)でビット圧縮を行った場合には、飽和レベル以下で低輝度レベルにおける画素出力に対応したデータに対しては、ビット圧縮変換部51でビット圧縮する前とビット圧縮した後で略同じ値となるような圧縮率を用いることにより、低輝度レベルにおける階調性を良好に保持することができる。
【0085】
なお、本実施形態では、拡張したGフィルタの画素出力の14ビットデータを12ビットに縮小するときに、図8(a)のように3つの節点を指定し、それらの間を直線で近似する4区間の折れ線近似特性(変換特性)でビット圧縮を行う構成であったが、この区間数は特に限定されるものではない。例えば、1つの節点を指定する2区間の折れ線近似特性としてもよいが、節点付近でビット割付が大きく変わることにより、前記した2つの効果が小さくなる。よって、3区間以上の区間数を有する折れ線近似特性(変換特性)が好ましい。
【0086】
また、拡張したGフィルタの画素出力の14ビットデータを12ビットに縮小する変換特性を、図8(b)に示すように、複数の節点を有していない曲線による変換特性としてもよい。即ち、図8(a)の4区間を有する変換特性に対して、区間数を8192にしたものがこの曲線による変換特性となる。なお、図8(b)において、aは12ビットの範囲である。
【0087】
更に、入力14ビットデータの0〜8192に対して、12ビットに縮小変換後の数値データを持ったルックアップテーブルを設けておくことにより、この曲線による変換特性で、拡張したGフィルタの画素出力の14ビットデータを良好に12ビットに圧縮することができる。
【0088】
そして、ビット圧縮変換部51で14ビットから12ビットに圧縮変換されたR、G、Bフィルタの画素出力データは、ホワイトバランス制御部52に入力される。ホワイトバランス制御部52は、入力されるR、G、Bフィルタの画素出力データをそれぞれ増幅する。この際、制御部28は、CCDI/F34で算出された前記AWB評価値に基づいてホワイトバランスを合わせるための補正値を算出し、算出した補正値をホワイトバランス制御部52に出力する。ホワイトバランス制御部52は、入力される前記補正値に基づいてホワイトバランスを合わせる。
【0089】
そして、ホワイトバランス制御部52からホワイトバランスが合わされたR、G、Bフィルタの画素出力データ(12ビット)は、同時化部53に入力される。同時化部53は、ベイヤ配列等の1画素に1色のデータしか持っていないRAWデータに対して補間演算処理を行い、1画素に対してRGBの全てのデータを生成する。
【0090】
そして、同時化部53で生成されたRGBの全てのデータ(12ビット)は、トーンカーブ変換部54に入力される。トーンカーブ変換部54は、図9に示すような変換テーブルによって12ビットのRGBのデータを8ビットのRGBのデータに変換するγ変換を行って、8ビットのRGB値を生成し、RGB−YUV変換部55に出力する。
【0091】
RGB−YUV変換部55は、入力されるRGBデータ(8ビット)をマトリックス演算によりYUVデータに変換し、画像サイズコンバータ部56に出力する。画像サイズコンバータ部56は、入力されるYUVデータ(8ビット)に対して所望の画像サイズに縮小または拡大を行い、輝度ヒストグラム生成部57およびエッジエンハンス部58に出力する。
【0092】
輝度ヒストグラム生成部57は、入力されるYUVデータにより輝度ヒストグラムを生成する。エッジエンハンス部58は、入力されるYUVデータに対して画像に合わせたエッジ強調等の処理を行い、メモリコントローラ35を介してSDRAM23に保存する。
【0093】
このように、本実施形態では、処理単位内の感度の高いGフィルタの画素出力が飽和レベルを超えているような撮影においても、感度の低いR、Bフィルタの画素出力に基づいて、飽和しているGフィルタの画素出力を予測補間処理することにより、図3に示すように、Gフィルタ(図3のd、e)の画素出力の予測補間した拡張領域(図3のd、eのGフィルタの画素出力の一点鎖線部分)に基づいて、1回の撮影でダイナミックレンジを2倍に拡大することが可能となる。
【0094】
よって、撮影画像内の背景等に高輝度部分がある場合でも、白とびの発生を防止して良好な階調性を得ることが可能となる。
【0095】
また、図10(a)は、Gフィルタの画素出力が飽和レベルを超えたときに、前記した本実施形態におけるダイナミックレンジの拡大処理を行った場合の、輝度ヒストグラム生成部57で生成されたヒストグラムの一例である。このヒストグラムから明らかなように、ダイナミックレンジの拡大処理を行ったことにより、最大輝度部分(255)における白飛びがほとんど発生していなく、良好な階調で再現されている。
【0096】
これに対し、図10(b)は、Gフィルタの画素出力が飽和レベルを超えたときに、前記した本実施形態におけるダイナミックレンジの拡大処理を行わなかった場合の、輝度ヒストグラム生成部57で生成されたヒストグラムの一例である。このヒストグラムから明らかなように、ダイナミックレンジの拡大処理を行わなかったことにより、最大輝度部分(255)に度数があり、白飛びが発生しているのが分かる。
【0097】
なお、前記した実施形態1の説明および図3において、所定の飽和レベル判定値である図3の飽和レベルAと、補正後の12ビットの最大値である4095とが一致しているように説明したが、これに限定するものではない。例えば、出力が完全に飽和する付近の高輝度部において、出力の直線性(リニアリティー)が良くないRGBフィルタを有するCCDでは、例えば完全に飽和する4095よりも小さい値である4032を所定の飽和レベル値(図3の飽和レベルA)とおいて、その値を超えた画素出力を予測補間処理の対象としてもよい。
【0098】
また、デジタルカメラのシステム構成によっては、高輝度被写体でも12ビットの最大値である4095にならないものもある。その場合も同様に所定の飽和レベルを4095よりも低い値に設定するとよい。
【0099】
このように、4095未満を所定の飽和レベルとしたときでも、その特性に合わせて図9の変換カーブを切り替えることで、ビット圧縮変換部51の出力を4095にすることができ、後段の処理を変えることなくダイナミックレンジの拡大が可能となる。
【0100】
なお、本実施形態において、例えば、Gフィルタの画素出力とRフィルタの画素出力の値が飽和レベル以上に達した場合、前記式(1)から算出される予測補間したGフィルタの画素出力の値が不正確になるとともに、Rフィルタの画素出力の値を予測補間しないで、Gフィルタの画素出力で用いた圧縮率でビット圧縮するため、色相が変化してしまう可能性がある。
【0101】
そこで、Gフィルタの画素出力とRフィルタ(またはBフィルタ)の画素出力の値が少なくとも飽和レベル以上に達している場合には、前記した予測補間によるダイナミックレンジの拡大処理を行わないようにすることが好ましい。あるいは、複数(Gフィルタの画素出力とRフィルタ(またはBフィルタ))の画素出力の値が飽和レベル以上に達しているということは、その処理単位エリアの明るさは極めて明るいと仮定して、Gフィルタの画素出力の値を予め決めた値、例えば、
Gフィルタの画素出力=4096×1.8=7372(14ビット)
などに設定してもよい。
【0102】
また、本実施形態では、図5に示したように、Dレンジ拡大予測補間部50から出力される14ビットのRAW−RGBデータ(R、G、Bフィルタの画素出力データ)をビット圧縮変換部51で12ビットに縮小処理し、ホワイトバランス制御部52、同時化部53においては12ビットのデータ処理を行う構成であったが、これ以外にも、同時化部53の後にビット圧縮変換部51を設けて、同時化部53から出力される14ビットのデータを12ビットのデータに縮小処理する構成でもよい。
【0103】
〈実施形態2〉
前記実施形態1では図7に示したように、RGB原色フィルタを有するCCD20に対して、2×2画素を処理単位(最小単位)としていたが、本実施形態では、図11に示すように、太枠A内の5画素(1つのGフィルタの画素、2つずつのR(R1,R2)、B(B1,B2)フィルタの画素)を処理単位(最小単位)とし、処理単位を前記実施形態1の場合よりも広い範囲とした例である。なお、デジタルカメラの構成、モニタリング動作、静止画撮影動作、およびダイナミックレンジの拡大処理動作は、前記実施形態1と同様である。
【0104】
図11に示した太枠Aの処理単位内にあるGフィルタの画素出力が飽和レベル以上に達している場合、Gフィルタの感度は、前記したようにR、Bフィルタの感度の約2倍であるため、Gフィルタの画素出力値は、下記の式(2)から算出する。
【0105】
G=[{(R1+R2)/2+(B1+B2)/2}/2]×2 …式(2)
そして、図6に示したDレンジ拡大予測補間部50の画素出力補正処理部61は、前記式(2)より算出されたGフィルタの画素出力値を、前記処理単位(図11参照)内にあるGフィルタの画素出力値として置き換え、以下、前記実施形態1と同様の処理を行う。
【0106】
このように、処理単位を広くすることで、処理単位内の他のR1,R2フィルタの画素、B1,B2フィルタの画素が持っている感度差による影響を緩和することができ、Gフィルタの画素出力に対して、より正確なダイナミックレンジ拡大予測補間が可能となる。
【0107】
〈実施形態3〉
本実施形態では、図12に示すように、RGBフィルタを有するCCD20に対して、前記実施形態2の場合よりも更に処理単位(太枠A)を広くした例である。なお、デジタルカメラの構成、モニタリング動作、静止画撮影動作、およびダイナミックレンジの拡大処理動作は、前記実施形態1と同様である。
【0108】
処理単位を広くすると、広い範囲の輝度情報に基づいて処理することになるため、ローパスフィルタをかけたことと等価になってしまう。そのため、輝度変化のエッジ部分がなまってしまう。そこで、本実施形態では、広くした処理単位の大きさを、例えば、前記AF評価値を利用して部分的に変更するものとする。
【0109】
即ち、図2に示した信号処理部22のCCDI/F34では、前記したようにAFを行うためのAF評価値を算出している。これは、ハイパスフィルタ(HPF)の出力であり、撮影画像の画面内に輝度の変化がある部分では大きな値が出力される。そして、制御部28は、静止画撮影時のAF評価値を読み出し、画面内の輝度変化がある部分とない部分を判別する。そして、制御部28は、この判別データを基にDレンジ拡大予測補間部50に対して、輝度変化がある部分には処理単位が狭くなるような設定を行い、輝度変化がない部分には、図12に示したように処理単位が広い範囲になるように設定を行う。
【0110】
このように、処理単位を更に広くした場合でも、輝度変化がある部分には処理単位が狭くなるような設定を行うことで、解像度を落とすことなく、正確なダイナミックレンジ拡大予測補間が可能となる。
【0111】
〈実施形態4〉
本実施形態では、RGBフィルタを有するCCD20に対して、図13に示すように、太枠A内の水平方向5画素、垂直方向5画素の5×5画素を処理単位とし、この処理単位の中心部のGフィルタに対して、対角線方向(図13のa方向、b方向)にも複数のGフィルタの画素が配置されている。処理単位(太枠A内)の中心部のGフィルタの画素出力に対して、飽和レベル以上に達したか否かの判定が行われる。
【0112】
また、本実施形態におけるYUV変換部36のDレンジ拡大予測補間部50は、図14に示すように、輝度レベル判定部60と、画素出力補正処理部61aと、ビット拡張処理部62を備えている。なお、デジタルカメラの他の構成、モニタリング動作、静止画撮影動作は、前記実施形態1と同様である。
【0113】
輝度レベル判定部60は、入力される処理単位(図13参照:太枠A)の中心部のGフィルタの画素出力が飽和レベル以上に達したか否かを判定する。画素出力補正処理部61aは、輝度レベル判定部60で中心部のGフィルタの画素出力が飽和レベル以上に達したと判定した場合に、輝度レベル判定部60から出力される中心部のGフィルタの画素出力に対して、処理単位(太枠A)の対角線方向(図13のa方向、b方向)に配置されている他の複数のGフィルタの画素出力によって飽和レベル以上に達している中心部のGフィルタの画素出力の予測補間処理を行う。
【0114】
ビット拡張処理部62は、輝度レベル判定部60でGフィルタの画素出力が飽和レベルに達していないと判定された場合に、Gフィルタの画素出力、およびR、Bフィルタの画素出力に対して、出力レベルの変換を行うことなく12ビットから14ビットにそれぞれビット拡張のみを行う。
【0115】
本実施形態では、ダイナミックレンジの拡大処理時において、Dレンジ拡大予測補間部50の輝度レベル判定部60により、図13に示した処理単位(太枠A)の中心部のGフィルタの画素出力が飽和レベル以上に達していると判定した場合、画素出力補正処理部61aは、輝度レベル判定部60から出力される中心部のGフィルタの画素出力に対して、図15(a),(b)に示すように、処理単位の各対角線方向(図13のa方向、b方向)に配置されている複数のGフィルタの画素出力の値の分布から、飽和しているGフィルタの画素出力を予測するようにした。
【0116】
図15(a)は、a方向の対角線における各Gフィルタの画素出力の値であり、これらの出力値から中心部のGフィルタの画素出力の予測値a1は6000(14ビット)程度になることが予測できる。また、図15(b)は、b方向の対角線における各Gフィルタの画素出力の値であり、これらの出力値から中心部のGフィルタの画素出力の予測値b1は5000(14ビット)程度になることが予測できる。なお、図15(a),(b)において、4095(12ビット)が中心部のGフィルタの画素出力の飽和レベルである。
【0117】
そして、これらの予測結果から、処理単位(図13参照:太枠A)の中心部の飽和レベル以上に達しているGフィルタの画素出力の値は5000〜6000程度であることが予測できる。このGフィルタの画素出力の値を決定する場合は、例えば、この2つの予測値の平均をとって5500とする。
【0118】
このように、処理単位内で中心部のGフィルタの画素出力が飽和レベル以上に達した場合に、処理単位内の他のGフィルタの画素出力の値の分布から飽和したGフィルタの画素出力の値を予測することにより、正確なダイナミックレンジ拡大予測補間が可能となる。
【0119】
なお、本実施形態では、飽和レベル以上に達しているGフィルタの画素出力の値を予測する際に、処理単位内の対角線方向に配置されている複数のGフィルタの画素出力の値から予測する構成であったが、更に処理単位内の水平方向および垂直方向に配置されている複数のGフィルタの画素出力の値も同時に併せて考慮して、飽和レベル以上に達しているGフィルタの画素出力の値を予測するようにしてもよい。これにより、より正確なダイナミックレンジ拡大予測補間が可能となる。
【0120】
また、本実施形態では、処理単位内のGフィルタの画素についてのみ説明したが、R、Bフィルタの画素につても同様に処理することが可能である。
【0121】
〈実施形態5〉
本実施形態におけるYUV変換部36のDレンジ拡大予測補間部50は、図16に示すように、輝度レベル判定部60、ビット拡張処理部62、第1画素出力補正処理部63、第2画素出力補正処理部64、および補正データ合成部65を備えている。輝度レベル判定部60とビット拡張処理部62は、図6に示した実施形態1と同様である。なお、デジタルカメラの他の構成、モニタリング動作、静止画撮影動作は、前記実施形態1と同様である。
【0122】
第1画素出力補正処理部63(図6に示した実施形態1における「画素出力補正処理部61」に相当)は、輝度レベル判定部60で処理単位内のGフィルタの画素出力が飽和レベル以上に達していると判定した場合に、前記実施形態1(実施形態2、3も含む)と同様に、処理単位内のR、Bフィルタの画素出力から、飽和レベル以上に達しているGフィルタの画素出力を予測補間する。
【0123】
第2画素出力補正処理部64(図14に示した実施形態4における「画素出力補正処理部61a」に相当)は、輝度レベル判定部60で処理単位内のGフィルタの画素出力が飽和レベル以上に達していると判定した場合に、前記実施形態4と同様に、処理単位内の他の複数のGフィルタの画素出力の値の分布から、飽和レベル以上に達しているGフィルタの画素出力を予測補間する。
【0124】
補正データ合成部65は、以下のような各処理条件(第1〜第4の処理条件)に基づいて、適切な予測補間処理を行う。
【0125】
(第1の処理条件)
第1の処理条件では、第1、第2画素出力補正処理部63、64からそれぞれ出力される予測補間情報を平均する。
【0126】
即ち、補正データ合成部65は、第1、第2画素出力補正処理部63、64からGフィルタの画素出力に対する各予測補間情報が入力された場合に、両方の予測補間情報を平均し、平均した予測補間情報に基づいて飽和レベル以上に達しているGフィルタの画素出力を予測補間する。
【0127】
(第2の処理条件)
第2の処理条件では、第1、第2画素出力補正処理部63、64からそれぞれ出力される予測補間値情報に対して、第1画素出力補正処理部63側の予測補間値情報を優先する。
【0128】
例えば、主被写体が緑色の背景領域にある場合には、R、Bフィルタの画素出力は非常に低い値となってしまう。そして、前記緑色の背景領域において、Gフィルタの画素出力が飽和レベル以上に達していて、第1画素出力補正処理部63でGフィルタの画素出力に対して予測補間を行った場合における画素出力の予測値は、元の飽和レベル以上に達しているGフィルタの画素出力の値よりも低くなってしまうことがある。
【0129】
そして、補正データ合成部65は、第1画素出力補正処理部63からの飽和レベル以上に達しているGフィルタの画素出力に対する予測補間値と輝度レベル判定部60で飽和レベルの判定に用いた値との比較を行い、第1画素出力補正処理部63からの予測補間値が飽和レベルよりも高い値になっている場合は、第1画素出力補正処理部63からの予測補間値を最終の予測補間値として採用し、第1画素出力補正処理部63からの予測補間値が飽和レベルよりも低い値になっている場合は、第2画素出力補正処理部64からの予測補間値を最終の予測補間値として採用する。
【0130】
(第3の処理条件)
第3の処理条件では、第1、第2画素出力補正処理部63、64からそれぞれ出力される予測補間値情報に対して、第2画素出力補正処理部64側の予測補間値情報を優先する。
【0131】
処理単位内のGフィルタの画素出力が飽和レベルに達している場合、その周辺のGフィルタの画素出力は飽和レベル近くに達している可能性がある。そのため、前記したように第2画素出力補正処理部64は、輝度レベル判定部60で処理単位内のGフィルタの画素出力が飽和レベル以上に達していると判定した場合に、処理単位内の他の複数のGフィルタの画素出力の値の分布から、飽和レベル以上に達しているGフィルタの画素出力を予測補間する。
【0132】
この際、第2画素出力補正処理部64が、処理単位内の他の複数のGフィルタの画素出力の値の分布から、飽和レベル以上に達しているGフィルタの画素出力を正しく予測補間処理できなかった場合は、第2画素出力補正処理部64からの出力値を「0」とする。
【0133】
そして、補正データ合成部65は、第2画素出力補正処理部64からの飽和レベル以上に達しているGフィルタの画素出力に対する予測補間値と輝度レベル判定部60で飽和レベルの判定に用いた値との比較を行い、第2画素出力補正処理部64からの予測補間値が飽和レベルよりも小さい値になっている場合は、第1画素出力補正処理部63からの予測補間値を最終の予測補間値として採用し、第2画素出力補正処理部64からの予測補間値が飽和レベルよりも高い値になっている場合は、第2画素出力補正処理部64からの予測補間値を最終の予測補間値として採用する。
【0134】
(第4の処理条件)
第4の処理条件では、第1、第2画素出力補正処理部63、64からそれぞれ出力される予測補間値情報に応じて、前記第1〜第3の処理条件を適切に選択する。
【0135】
即ち、補正データ合成部65は、第1、第2画素出力補正処理部63、64から飽和レベルに達しているGフィルタの画素出力の各予測補間値情報が入力された場合には、前記第1の処理条件を選択して両方の予測補間値を加重平均し、平均した予測補間値を最終の予測補間値として採用する。
【0136】
そして、第1画素出力補正処理部63からの出力が飽和レベルよりも高い値になっている場合、補正データ合成部65は、前記第2の処理条件を選択して第1画素出力補正処理部63からの予測補間値を最終の予測補間値として採用する。また、第2画素出力補正処理部64からの出力が飽和レベルよりも高い値になっている場合、補正データ合成部65は、前記第3の処理条件を選択して第2画素出力補正処理部64からの予測補間値を最終の予測補間値として採用する。
【0137】
このように、補正データ合成部65は、第1、第2画素出力補正処理部63、64からそれぞれ出力される予測補間値情報に応じて、飽和レベル以上に達しているGフィルタの画素出力の値を適切に予測補正することができるので、正確なダイナミックレンジ拡大予測補間が可能となる。
【0138】
〈実施形態6〉
本実施形態では、図17に示すように、鏡胴ユニット6の撮影レンズ系5と絞りユニット26の間に、光透過率の異なる2枚の第1、第2の緑色フィルタ70a,70bと開口部71を有する回転自在なターレット板72を設置した構成である。ターレット板72は、制御部28からの信号により駆動されるモータドライバ25によって回転し、第1、第2の緑色フィルタ70a,70b、および開口部71が選択されて撮影レンズ系5の光軸上に移動するように構成されている。なお、デジタルカメラの他の構成、モニタリング動作、静止画撮影動作は、前記実施形態1と同様である。
【0139】
ターレット板72の開口部71を撮影レンズ系5の光軸上に移動させている状態では、撮影レンズ系5と絞りユニット26間に何もない前記実施形態1と同様の構成である。
【0140】
ターレット板72の第1の緑色フィルタ70aまたは第2の緑色フィルタ70bを撮影レンズ系5の光軸上に移動させている状態では、RGBフィルタを有するCCD20のR、Bフィルタの感度が大きく低下する。なお、Gフィルタの感度は変化しない。図18(a)は、第1の緑色フィルタ70aの光の波長に対する光透過率特性であり、図18(b)は、第2の緑色フィルタ70bの光の波長に対する光透過率特性である。これらの光透過率特性に示すように、第1の緑色フィルタ70aの方が第2の緑色フィルタ70bよりも約2倍程度だけ光透過率がよい。
【0141】
第1の緑色フィルタ70aを撮影レンズ系5の光軸上に移動させている状態では、第1の緑色フィルタ70aは、R、Bフィルタの感度が通常の約1/2となるような光透過率特性を有している。よって、この状態では相対的にR、Bフィルタの感度は、Gフィルタの感度の約1/4になる(前記したように、元々Gフィルタの感度がR、Bフィルタの2倍程度高い感度なので)。
【0142】
また、第2の緑色フィルタ70bを撮影レンズ系5の光軸上に移動させている状態では、第2の緑色フィルタ70bは、R、Bフィルタの感度が通常の約1/4となるような光透過率特性を有している。よって、この状態では相対的にR、Bフィルタの感度は、Gフィルタの感度の約1/8になる(前記したように、元々Gフィルタの感度がR、Bフィルタの2倍程度高い感度なので)。
【0143】
図19は、第1の緑色フィルタ70aを撮影レンズ系5の光軸上に移動させたときにおける、RGBフィルタの各画素出力を示した図であり、aのRGBフィルタでは、感度の高いGフィルタの画素出力も飽和レベルA以下の状況にある。
【0144】
そして、本実施形態においても、図19のb、c、d、eのRGBフィルタのように、Gフィルタの画素出力が飽和レベルA以上に達しているが、R、Bフィルタの各画素出力が飽和レベルAの範囲内にあるときに、R、Bフィルタの各画素出力レベルからGフィルタの画素出力レベルを、R、Bフィルタの各画素出力レベルから、R、Bフィルタの各画素感度特性(図19のg)とGフィルタの画素感度特性(図19のf)とに基づいてGフィルタの画素出力レベルを予測補間(一点鎖線部分)し、この予測補間によってダイナミックレンジを拡大するようにした。
【0145】
そして、例えば主被写体の背景の一部に極端に明るい部分がある場合などに、撮影者の判断によりメニュー(MENU)ボタン12(図1(C)参照)を押圧操作して「ダイナミックレンジ4倍」の項目を選択することにより、制御部28からYUV変換部36へ制御信号が出力され、前記実施形態1と同様なダイナミックレンジの拡大処理が行われる。
【0146】
そして、例えば、実施形態1と同様な処理単位(図7参照)内にあるGフィルタの画素出力が飽和レベルに達している場合、Gフィルタの感度は、前記したように本実施形態ではR、Bフィルタの感度の約4倍であるため、Gフィルタの画素出力値は、下記の式(3)から算出する。
【0147】
G={(R+B)/2}×4 …式(3)
そして、図6に示したDレンジ拡大予測補間部50の画素出力補正処理部61は、前記式(3)より算出されたGフィルタの画素出力値を、前記処理単位内にあるGフィルタの画素出力値として置き換える。なお、前記Gフィルタの画素出力値は12ビットを超えたデータになるため、ここでは一度14ビットのデータに置き換える。よって、R、Bフィルタの画素出力の最大値はいずれも4095(12ビット)なので、Gフィルタの画素出力の最大値は16383(14ビット)となる。
【0148】
なお、処理単位は、実施形態1における処理単位(図7参照)以外にも、実施形態2、3、4における各処理単位(図11、12、13参照)としてもよい。
【0149】
ビット圧縮変換部51は、図20に示すような変換特性によって14ビットに拡張されたGフィルタの画素出力を12ビットに縮小する。図20に示す変換テーブルでは、Gフィルタの画素出力の最大値は16383なので、16383が4095になるように圧縮する。そして、Gフィルタの画素出力の圧縮倍率に合わせて、R、Bフィルタの画素出力の値も圧縮する。以下、前記実施形態1と同様の処理を行う。
【0150】
なお、本実施形態における変換特性においても、前記同様に飽和レベル以下で低輝度レベルにおける画素出力に対応したデータに対しては、ビット圧縮変換部51でビット圧縮する前とビット圧縮した後で略同じ値となるような圧縮率を用いることにより、低輝度レベルにおける階調性を良好に保持することができる。
【0151】
このように、本実施形態では、処理単位内のGフィルタの画素出力が飽和レベル以上に達しているような撮影時においても、撮影レンズ系5の光軸上に移動させた第1の緑色フィルタ70aにより、相対的にR、Bフィルタの感度をGフィルタの感度の約1/4に低下させることができる。これにより、図19に示したように、Gフィルタの画素出力の予測補間の拡張領域(図19のb、c、d、eのGフィルタの画素出力の一点鎖線部分)に基づいて、1回の撮影でダイナミックレンジを4倍に拡大することが可能となる。
【0152】
なお、前記本実施形態6、7では、光透過率の異なる2枚の第1、第2の緑色フィルタ70a,70bと開口部71を有する回転自在なターレット板72を、鏡胴ユニット6の撮影レンズ系5と絞りユニット26の間に設置した構成であったが、このターレット板72を撮影レンズ系5の前面側(絞りユニット26と反対側)に設けてもよい。
【0153】
〈実施形態7〉
前記実施形態6では、ターレット板72の第1の緑色フィルタ70aを撮影レンズ系5の光軸上に移動させて、ダイナミックレンジを4倍に拡大する構成であったが、本実施形態では、図17に示したターレット板72の第2の緑色フィルタ70bを撮影レンズ系5の光軸上に移動させて、ダイナミックレンジを8倍に拡大する例である。なお、デジタルカメラの他の構成、モニタリング動作、静止画撮影動作は、前記実施形態1と同様である。
【0154】
前記したように、第2の緑色フィルタ70bを撮影レンズ系5の光軸上に移動させている状態では、相対的にR、Bフィルタの感度は、前記したようにGフィルタの感度の約1/8になる。
【0155】
そして、例えば主被写体の背景の一部に極端に明るい部分がある場合などに、撮影者の判断によりメニュー(MENU)ボタン12(図1(C)参照)を押圧操作して「ダイナミックレンジ8倍」の項目を選択することにより、制御部28からYUV変換部36へ制御信号が出力され、前記実施形態1と同様なダイナミックレンジの拡大処理が行われる。
【0156】
そして、例えば、実施形態1と同様な処理単位(図7参照)内にあるGフィルタの画素出力が飽和レベル以上に達している場合、Gフィルタの感度は、前記したように本実施形態ではR、Bフィルタの感度の約8倍であるため、Gフィルタの画素出力値は、下記の式(4)から算出する。なお、処理単位は、実施形態1における処理単位(図7参照)以外にも、実施形態2、3、4における各処理単位(図11、12、13参照)としてもよい。
【0157】
G={(R+B)/2}×8 …式(4)
そして、図6に示したDレンジ拡大予測補間部50の画素出力補正処理部61は、前記式(4)より算出されたGフィルタの画素出力値を、前記処理単位内にあるGフィルタの画素出力値として置き換える。なお、前記Gフィルタの画素出力値は12ビットを超えたデータになるため、一度14ビットのデータに置き換える。
【0158】
そして、ビット圧縮変換部51により14ビットに拡張されたGフィルタの画素出力を12ビットに縮小する。そして、Gフィルタの画素出力の縮小倍率に合わせて、R、Bフィルタの画素出力の値も縮小する。以下、前記実施形態1と同様の処理を行う。
【0159】
このように、本実施形態では、処理単位内のGフィルタの画素出力が飽和レベル以上に達しているような撮影時においても、撮影レンズ系5の光軸上に移動させた第2の緑色フィルタ70bにより、相対的にR、Bフィルタの感度をGフィルタの感度の約1/8に低下させることができる。これにより、1回の撮影でダイナミックレンジを8倍に拡大することが可能となる。
【0160】
〈実施形態8〉
図21(a)に示すように、前記した処理単位(図7参照)内にあるGフィルタの画素出力が飽和レベルA以上に達しているときに、その周囲のR、Bフィルタの画素出力もある程度高い(飽和レベルA以下)場合には、実施形態1で述べたように式(1)に基づいて、Gフィルタの画素出力を飽和レベル以上に拡大するように補間して、ダイナミックレンジを拡大することができる。
【0161】
しかしながら、例えば、図21(b)に示すように、前記した処理単位(図7参照)内にあるGフィルタの画素出力が飽和レベルA以上に達しているときに、その周囲のR、Bフィルタの画素出力がGフィルタの画素出力に対して極端に小さい場合がある。この場合に、実施形態1の式(1)によりGフィルタの画素出力を補間すると、周囲の極端に画素出力が小さいR、Bフィルタの影響により、Gフィルタの画素出力が逆に飽和レベルA以下に縮小される不具合が生じる。
【0162】
そこで、本実施形態では、実施形態1で述べDレンジ拡大予測補間部50の画素出力補正処理部61(図6参照)によって、飽和レベル以上に達しているGフィルタの画素出力を式(1)により演算したときに、その演算結果が、図21(a)のように元のGフィルタの画素出力よりも大きくなる場合のみ、Gフィルタの画素出力を飽和レベル以上に拡大するように補間を行う。
【0163】
よって、本実施形態では、飽和レベル以上に達しているGフィルタの画素出力を式(1)により演算したときに、その演算結果が、図21(b)のように元のGフィルタの画素出力よりも小さくなる場合は、Gフィルタの画素出力に対する補間処理を中止する。
【0164】
このように、本実施形態によれば、Gフィルタの画素出力が飽和レベル以上に達しているときでも、その周囲のR、Bフィルタの画素出力がGフィルタの画素出力に対して極端に小さい場合には、Gフィルタの画素出力に対する補間処理が中止されるので、Gフィルタの画素出力が飽和レベル以下に下げられて、色ずれが生じることを防止することができる。
【0165】
〈実施形態9〉
実施形態8で述べたように、例えば、図21(b)に示すように、前記した処理単位(図7参照)内にあるGフィルタの画素出力が飽和レベルA以上に達しているときに、その周囲のR、Bフィルタの画素出力がGフィルタの画素出力に対して極端に小さい場合がある。この場合に、実施形態1の式(1)によりGフィルタの画素出力を補間すると、周囲の極端に画素出力が小さいR、Bフィルタの影響により、Gフィルタの画素出力が逆に飽和レベルA以下に縮小される不具合が生じる。
【0166】
そこで、本実施形態では、飽和レベル以上に達しているGフィルタの画素出力を補間処理するときに、その周囲のR、Bフィルタの画素出力がGフィルタの画素出力に対して極端に小さい場合には、例えば、実施形態2の図11に示したように、処理単位を実施形態1の図7の場合よりも拡大するようにした。この場合には、実施形態2の式(2)によりGフィルタの画素出力を補間する。
【0167】
このように、本実施形態によれば、Gフィルタの画素出力が飽和レベル以上に達しているときに、その周囲のR、Bフィルタの画素出力がGフィルタの画素出力に対して極端に小さい場合には、補間処理する際の処理単位を拡大することにより、拡大した他のR、Bフィルタの画素出力によって、Gフィルタの画素出力を飽和レベル以上に拡大するように補間することが可能となる。
【0168】
なお、処理単位を前記した図11のように拡大した場合でも、まだGフィルタの画素出力が飽和レベル以下に縮小される場合は、例えば、実施形態3の図12に示したように、処理単位を更に拡大するようにしてもよい。図12のように、処理単位を更に拡大した場合には、画素出力が飽和レベル以上に達しているGフィルタと同色の他のGフィルタの画素出力も併せて補間処理する際の演算に用いることにより、より良好な補間処理を行うことが可能となる。
【0169】
なお、前記した各実施形態では、色分解フィルタとしてRGBの3原色系フィルタを配置した構成であったが、色分解フィルタとして補色系フィルタを配置した構成においても、同様に本発明を適用することができる。
【図面の簡単な説明】
【0170】
【図1】(a)は、本発明の実施形態1〜8に係る撮像装置の一例としてのデジタルカメラを示す正面図、(b)は、その上面図、(c)は、その背面図。
【図2】本発明の実施形態1〜8に係る撮像装置の一例としてのデジタルカメラ内のシステム構成の概要を示すブロック図。
【図3】本発明の実施形態1におけるダイナミックレンジ拡大の原理を説明するための図。
【図4】液晶モニタに表示された撮影設定画面の一例を示す図。
【図5】本発明の実施形態1におけるYUV変換部の構成を示すブロック図。
【図6】本発明の実施形態1におけるDレンジ拡大予測補間部の構成を示すブロック図。
【図7】本発明の実施形態1におけるRGBフィルタを有するCCDの画素配置位置と処理単位を示す図。
【図8】(a)は、本発明の実施形態1における、拡張したGフィルタの画素出力の14ビットデータを12ビットに縮小する変換特性を示す図、(b)は、本発明の実施形態1の他の例における、拡張したGフィルタの画素出力の14ビットデータを12ビットに縮小する変換特性を示す図。
【図9】12ビットのRGBのデータを8ビットのRGBのデータに変換(γ変換)する変換テーブルを示す図。
【図10】(a)は、本発明の実施形態1におけるダイナミックレンジの拡大処理を行った場合のヒストグラムを示す図、(b)は、本実施形態におけるダイナミックレンジの拡大処理を行わなかった場合のヒストグラムを示す図。
【図11】本発明の実施形態2におけるRGBフィルタを有するCCDの画素配置位置と処理単位を示す図。
【図12】本発明の実施形態3におけるRGBフィルタを有するCCDの画素配置位置と処理単位を示す図。
【図13】本発明の実施形態4におけるRGBフィルタを有するCCDの画素配置位置と処理単位を示す図。
【図14】本発明の実施形態4におけるDレンジ拡大予測補間部の構成を示すブロック図。
【図15】(a)は、a方向の対角線における各Gフィルタの画素出力の値と中心部のGフィルタの画素出力の予測値を示す図、(b)は、b方向の対角線における各Gフィルタの画素出力の値と中心部のGフィルタの画素出力の予測値を示す図。
【図16】本発明の実施形態5におけるDレンジ拡大予測補間部の構成を示すブロック図。
【図17】本発明の実施形態6におけるデジタルカメラの鏡胴ユニット内の構成を示す図。
【図18】(a)は、第1の緑色フィルタの光の波長に対する光透過率特性を示す図、(b)は、第2の緑色フィルタの光の波長に対する光透過率特性を示す図。
【図19】本発明の実施形態6におけるダイナミックレンジ拡大の原理を説明するための図。
【図20】本発明の実施形態6における、拡張したGフィルタの画素出力の14ビットデータを12ビットに縮小する変換特性を示す図。
【図21】(a)は、Gフィルタの画素出力が飽和レベル以上に達しているときに、その周囲のR、Bフィルタの画素出力に基づいて、Gフィルタの画素出力を飽和レベル以上に拡大補間した状態を示す図、(a)は、Gフィルタの画素出力が飽和レベル以上に達しているときに、その周囲のR、Bフィルタの画素出力が極端に小さい場合に、Gフィルタの画素出力が飽和レベル以下に縮小補間された状態を示す図。
【符号の説明】
【0171】
1 デジタルカメラ(撮像装置)
5 撮影レンズ系(レンズ系)
6 鏡胴ユニット
9 液晶モニタ
12 メニューボタン(動作選択手段)
20 CCD(撮像素子)
21 アナログフロントエンド部(アナログ・デジタル変換手段)
22 信号処理部
23 SDRAM
28 制御部
34 CCDインターフェース
35 メモリコントローラ
36 YUV変換部
50 Dレンジ拡大予測補間部
51 ビット圧縮変換部(ビット圧縮変換部)
60 輝度レベル判定部(画素出力検出手段)
61、61a 画素出力補正処理部(画素出力補正処理手段)
62 ビット拡張処理部
63 第1画素出力補正処理部(第1の画素出力補正処理手段)
64 第2画素出力補正処理部(第2の画素出力補正処理手段)
65 補正データ合成部(予測補間処理手段)
70a 第1緑色フィルタ(カラーフィルタ)
70b 第2緑色フィルタ(カラーフィルタ)
72 ターレット板

【特許請求の範囲】
【請求項1】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備え、
前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する画素出力補正処理手段とを有する、
ことを特徴とする撮像装置。
【請求項2】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備え、
前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色と同じ色のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する画素出力補正処理手段とを有する、
ことを特徴とする撮像装置。
【請求項3】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備え、
前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第1の画素出力補正処理手段と、
前記画素出力検出手段により、前記特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色と同じ色のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第2の画素出力補正処理手段と、
前記第1の画素出力補正処理手段と前記第2の画素出力補正処理手段からそれぞれ出力される補間情報に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する補間処理手段とを有する、
ことを特徴とする撮像装置。
【請求項4】
前記画素出力検出手段で各画素からの出力を検出する際の処理単位は、水平・垂直方向に2×2画素の大きさである、
ことを特徴とする請求項1乃至3のいずれか一項に記載の撮像装置。
【請求項5】
前記光学系の前方側または後方側に、前記特定色と同じ色のカラーフィルタを出し入れ自在に設け、前記カラーフィルタを前記光学系の前方側または後方側に入れることにより、前記特定色のフィルタの輝度に対する感度に対して、前記他の色のフィルタの輝度に対する感度を相対的に低下させる、
ことを特徴とする請求項1乃至3のいずれか一項に記載の撮像装置。
【請求項6】
前記カラーフィルタは複数設けられており、前記複数のカラーフィルタはそれぞれ光の透過率が異なっている、
ことを特徴とする請求項5に記載の撮像装置。
【請求項7】
前記特定色のフィルタが配置された画素の出力に対して、前記所定の飽和レベル以上に達しているときに前記補間させる動作を、選択して実行させるための動作選択手段を備えている、
ことを特徴とする請求項1乃至3のいずれか一項に記載の撮像装置。
【請求項8】
前記特定色のフィルタが配置された画素の出力が前記所定の飽和レベル以上に達している場合に前記画素出力補正処理手段から出力される、前記所定の飽和レベル以下における第1のビット数から第2のビット数に一度拡張された画素出力のデータを、再度前記第1のビット数に圧縮するビット圧縮変換手段を備え、
前記ビット圧縮変換手段は、前記飽和レベル以上領域における画素出力に対応したデータに対する圧縮率よりも、前記飽和レベル以下における画素出力に対応したデータに対する圧縮率を小さくして圧縮する、
ことを特徴とする請求項1または2に記載の撮像装置。
【請求項9】
前記特定色のフィルタが配置された画素の出力が前記所定の飽和レベル以上に達している場合に前記補間処理手段から出力される、前記所定の飽和レベル以下における第1のビット数から第2のビット数に一度拡張されたすべてのデータを、再度前記第1ビット数に圧縮するビット圧縮変換手段を備え、
前記ビット圧縮変換手段は、前記飽和レベル以上領域における画素出力に対応したデータに対する圧縮率よりも、前記飽和レベル以下における画素出力に対応したデータに対する圧縮率を小さくして圧縮する、
ことを特徴とする請求項3に記載の撮像装置。
【請求項10】
前記飽和レベル以下で低輝度レベルにおける画素出力に対応したデータに対しては、前記ビット圧縮変換手段でビット圧縮する前とビット圧縮した後で略同じ値となるような圧縮率を用いる、
ことを特徴とする請求項8または9に記載の撮像装置。
【請求項11】
前記画素出力補正処理手段は、前記所定の飽和レベル以上と判定した画素出力を補間するための演算を行ったときに、その演算結果が元の前記画素出力よりも大きくなる場合のみ、前記所定の飽和レベル以上と判定した画素出力の補間を行う、
ことを特徴とする請求項1または2に記載の撮像装置。
【請求項12】
前記画素出力補正処理手段は、前記所定の飽和レベル以上と判定した画素出力を補間するための演算を行ったときに、その演算結果が元の前記画素出力よりも小さくなる場合には、前記演算に用いる画素の範囲を拡大する、
ことを特徴とする請求項1または2に記載の撮像装置。
【請求項13】
前記演算に用いる画素の範囲を拡大する場合には、前記特定色のフィルタが配置された画素と同色のフィルタが配置された画素も併せて用いる、
ことを特徴とする請求項12に記載の撮像装置。
【請求項14】
前記第1、第2の画素出力補正処理手段は、前記所定の飽和レベル以上と判定した画素出力を補間するための演算を行ったときに、その演算結果が元の前記画素出力よりも大きくなる場合のみ、前記所定の飽和レベル以上と判定した画素出力の補間を行う、
ことを特徴とする請求項3に記載の撮像装置。
【請求項15】
前記第1、第2の画素出力補正処理手段は、前記所定の飽和レベル以上と判定した画素出力を補間するための演算を行ったときに、その演算結果が元の前記画素出力よりも小さくなる場合には、前記演算に用いる画素の範囲を拡大する、
ことを特徴とする請求項3に記載の撮像装置。
【請求項16】
前記演算に用いる画素の範囲を拡大する場合には、前記特定色のフィルタが配置された画素と同色のフィルタが配置された画素も併せて用いる、
ことを特徴とする請求項15に記載の撮像装置。
【請求項17】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する判定処理ステップと、
前記判定処理ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する補間処理ステップと、を含む、
ことを特徴とする撮像方法。
【請求項18】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する判定処理ステップと、
前記判定処理ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色と同じ色のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する補完処理ステップと、を含む、
ことを特徴とする撮像方法。
【請求項19】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
前記各画素からの出力に対し、いずれかの画素からの出力が所定の飽和レベル以上に達しているか否かを判定する判定処理ステップと、
前記判定ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第1の補間処理ステップと、
前記判定ステップにより、前記特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定した場合に、その周囲の前記特定色と同じ色のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第2の補間処理ステップと、
前記第1の補間処理ステップと前記第2の補間処理ステップからそれぞれ出力される補間情報に基づいて、前記所定の飽和レベル以上と判定した画素出力を補間する第3の補間処理ステップと、を含む、
ことを特徴とする撮像方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate


【公開番号】特開2009−89355(P2009−89355A)
【公開日】平成21年4月23日(2009.4.23)
【国際特許分類】
【出願番号】特願2008−165908(P2008−165908)
【出願日】平成20年6月25日(2008.6.25)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】