画像信号処理装置
【課題】ワイドダイナミックレンジで且つ高コントラスト感が得られる画像を取得可能な画像信号処理装置を提供する。
【解決手段】被写体からの入射光を光電変換し画像信号として出力し且つその入出力特性が非線形である撮像素子と、前記撮像素子より出力される少なくとも二つ以上の感度特性の異なる各画像信号に対して所定の処理を行い入力する入力手段と、該入力手段からの画像信号の信号レベルを検出する信号レベル検出手段と、前記コントラスト拡張手段からの画像信号に対して所定の処理を行い出力する出力手段と、前記信号レベル検出手段からの信号と前記撮像素子の入出力特性の情報を基に前記入力手段および前記出力手段を制御する制御手段とを有する構成とした。
【解決手段】被写体からの入射光を光電変換し画像信号として出力し且つその入出力特性が非線形である撮像素子と、前記撮像素子より出力される少なくとも二つ以上の感度特性の異なる各画像信号に対して所定の処理を行い入力する入力手段と、該入力手段からの画像信号の信号レベルを検出する信号レベル検出手段と、前記コントラスト拡張手段からの画像信号に対して所定の処理を行い出力する出力手段と、前記信号レベル検出手段からの信号と前記撮像素子の入出力特性の情報を基に前記入力手段および前記出力手段を制御する制御手段とを有する構成とした。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ワイドダイナミックレンジと高コントラスト感を両立するための画像信号処理を行う、画像信号処理装置に関する。
【背景技術】
【0002】
従来、第1のワイドダイナミックレンジ画像生成技術として、特許文献1では、シャッタ速度の異なる複数の画像を取得して合成することで、ワイドダイナミックレンジの画像を取得する技術が開示されている。
また、第2のワイドダイナミックレンジ画像生成技術として、特許文献2では、被写体の光を入力とし光電変換した後画像信号として出力する撮像素子を、画素飽和を極力抑えるよう非線形入出力特性とし、該非線形入出力特性の撮像素子を用いて撮影することでワイドダイナミックレンジの画像を取得する技術が開示されている。
【0003】
また、ワイドダイナミックレンジ画像を撮影する際の制御方法の一例として、特許文献3がある。該公報の要約には、課題として「本発明は、同一フレームで撮像されて得た光電変換特性の異なる画像信号に対して、その光電変換特性に応じたパラメータによる信号処理を行う撮像装置を提供することを目的とする。」と記載され、また解決手段として「同一フレームで撮像された各画素の画像信号の光電変換を確認し、色補正回路10の色補正係数や、階調変換回路11による階調変換特性や、コアリング回路12のLPF係数やコアリング計数などの各種パラメータを、各画像信号毎に確認された光電変換に基づいて切り換える。」と記載されている。
【0004】
また、特にオートフォーカスに関しては特許文献4がある。該公報の要約には、課題として「AF制御を行うに際し、撮像センサの線形特性領域と対数特性領域との特質を考慮しつつ、最適なAF制御を行うことができるようにする。」と記載され、また解決手段として「線形特性領域と対数特性領域とを備える撮像センサを備える撮像装置において、撮像センサの対数特性領域から得られた第1のAF評価値に基づいて第1のAF制御を行わせた後に、撮像センサの線形特性領域から得られた第2のAF評価値に基づいて第2のAF制御を行わせるAF動作制御部を具備させる。AF動作制御部は、第1のAF評価値を取得するときに被写体の輝度範囲に対応するセンサ出力が対数特性領域から得られ、また第2のAF評価値を取得するときにはセンサ出力が線形特性領域から得られるよう、光電変換特性を制御する。」と記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2002−135787号公報
【特許文献2】特開2002−77733号公報
【特許文献3】特開2005―110235号公報
【特許文献4】特開2006―3727号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
従来の第1のワイドダイナミックレンジ画像生成技術では、シャッタ速度を変えながら画像を逐一取得し合成する。即ち、合成前の各画像間には、時間のずれが存在する。このため、例えば動いている被写体を撮影した際、合成後の画像に動体歪が発生するという課題があった。
【0007】
また従来の第2のワイドダイナミックレンジ画像生成技術における非線形入出力特性を持つ撮像素子は、対数圧縮等により非線形入出力特性を実現しているため、画像信号の強弱が圧縮された画像となる。このため、例えば黒白の被写体を映した場合、一般的に使用されるリニア入出力特性の撮像素子で取得した画像に比べ、各画素の信号レベルの差分が小さくなるため、メリハリのないコントラスト感に欠ける映像となってしまうという課題があった。
【0008】
また従来の第2のワイドダイナミックレンジ画像生成技術における非線形入出力特性を持つ撮像素子は、対数圧縮等により非線形入出力特性を実現しているため、一般的に使用されるリニア入出力特性の撮像素子に比べ、信号の差分の圧縮度合いが入力光のレベルによって異なる。例えば、対数圧縮型であれば、光が比較的弱い被写体を映した場合は信号圧縮が小さいため信号差分を大きく取れるが、光が比較的強い被写体を映した場合は信号圧縮が大きいため信号差分が大きく取れなくなる。即ち、少なくとも2種類以上の明るさを持つ被写体を撮影する状況において、所定の明るさを持った第1の被写体が映っている第1の画像領域はコントラスト感が高いが、第1の被写体とは異なる明るさを持った第2の被写体が映っている第2の画像領域はコントラスト感に乏しいといった、被写体によって、コントラスト感の欠如度合いに違いが生じるという課題があった。
【0009】
また前記特許文献3では、たとえば対数特性に設定した場合の情報から線形特性の撮像における画質制御を行うことは考慮されておらず、改善の余地がある。
また前記特許文献4では、たとえば対数特性に設定した場合の情報と線形特性に設定した場合の情報を同一フレームで得て、両者を同時に用いて自動制御を行うことは考慮されておらず、改善の余地がある。
上記以外の課題は、後述する実施例によって明らかにされる。
【課題を解決するための手段】
【0010】
上記課題を解決するために本発明は、被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む前記電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記制御手段は、前記電気信号に対して前記検出信号に基づき露光制御、オートフォーカス制御、またはパラメータ調整を行うことを特徴としている。
【0011】
また本発明は、被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む第1の電気信号と、前記入射光との間の入出力特性が略線形な第2の電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記信号処理手段は、前記制御手段からの制御に応じて前記電気信号のうち第1の電気信号から第2の電気信号の値を補間して前記画像信号を生成することを特徴としている。
上記以外の手段は、後述する実施例によって明らかにされる。
【発明の効果】
【0012】
本発明による画像処理装置を用いれば、従来技術における課題を解決でき、ワイドダイナミックレンジで動体歪がなく、且つ撮影した被写体に応じて最適なコントラスト感が得られる画像を取得でき、画像処理装置の高性能化に寄与できるという効果がある。
【図面の簡単な説明】
【0013】
【図1】本発明の実施例1および2における画像情報処理装置の基本構成図である。
【図2】本発明の実施例3における画像情報処理装置の基本構成図である。
【図3】本発明における撮像素子の入出力特性の例を示す図である。
【図4】本発明におけるコントラスト拡張の第1の例を示す図である。
【図5】本発明におけるコントラスト拡張の第2の例を示す図である。
【図6】本発明における撮像素子の分光特性の例を示す図である。
【図7】本発明における撮像素子の入出力特性の例を示す図である。
【図8】本発明の実施例5における画像情報処理装置の基本構成図である。
【図9】本発明で用いる撮像素子の例を示す図である。
【図10】図9の撮像素子における入出力特性の例を示す図である。
【図11】図9の撮像素子で撮像した映像の第1の例を示す図である。
【図12】図9の撮像素子で撮影した映像のヒストグラムの例を示す図である。
【図13】図9の撮像素子で撮影した映像の第2の例を示す図である。
【図14】フォーカス位置と合焦信号の関係の例を示す図である。
【図15】コントラスト拡張手段の構成の例を示す図である。
【発明を実施するための形態】
【0014】
以下、本発明に好適な実施形態の例として、たとえば撮像機能を有する画像情報処理装置における実施例を説明する。
【実施例1】
【0015】
本発明における実施例1について詳細に説明する。
図1は、本発明の実施例1における画像情報処理装置の基本構成図である。被写体からの入射光を光電変換し画像信号として出力し、且つその入出力特性が非線形である撮像素子1と、該撮像素子1からの画像信号に所定の処理を行いコントラスト拡張手段3と信号レベル検出手段4に入力する入力手段2と、該入力手段2からの画像信号に対してコントラストの拡張を行うコントラスト拡張手段3と、前記入力手段2からの画像信号の信号レベルを検出する信号レベル検出手段4と、該信号レベル検出手段4からの信号と前記撮像素子1の入出力特性の情報を基に前記コントラスト拡張手段におけるコントラスト拡張の強弱を制御するコントラスト制御手段5と、前記コントラスト拡張手段3からの画像信号に所定の処理を行い外部へ出力する出力手段6と、を持つ構成とした。
【0016】
撮像素子1は非線形の入出力特性であるとしたが、図3に示す撮像素子の入出力特性を用いて詳細に説明する。
図3の(a)ケース1は、2種類のリニア特性を持ち、低輝度(入射光のレベルが低い)部分と比較して、高輝度部分の圧縮率を高くしている。高輝度(入射光のレベルが高い)部分を圧縮することで、画素飽和点をより高輝度側へシフトさせることができ、一般的なリニア特性の撮像素子に比べ、ワイドダイナミックレンジを実現可能である。さらに、後述のケース2〜4に対して、対数変換の演算量を削減できることから、低コスト化や小型化、低消費電力化を実現できる。
【0017】
また図3の(b)ケース2は、低輝度部分はリニア特性であり、高輝度部分は対数特性とし、高輝度になればなるほど圧縮率を高くしている。これにより、ケース1に対してさらにワイドダイナミックレンジ化が可能である。さらに、後述するコントラスト拡大を、圧縮率が高い高輝度部分のみに適用する構成とすれば、演算量を削減できることから、低コスト化や小型化、低消費電力化が可能である。
【0018】
また図3の(c)ケース3は全輝度領域で対数特性である。これにより、(b)ケース2に対してさらにワイドダイナミックレンジ化が可能である。
また図3の(d)ケース4は、2種類の対数特性を持ち、低輝度部分と比較して、高輝度部分の圧縮率を高くしている。これにより、(c)ケース3に対してさらにワイドダイナミックレンジ化が可能である。
また図3のケース1〜4は、本発明における撮像素子の入出力特性の一例であり、特定の輝度領域、あるいは全輝度領域について所定の関数により圧縮した非線形特性であれば、上記以外でもよい。
【0019】
図1の入力手段2について詳細を説明する。所定の処理とは、撮像素子からの信号を入力して、後段の信号処理を行うブロック(コントラスト拡張手段3、信号レベル検出手段4、コントラスト制御手段5)にて画像信号処理を行うための入力インタフェース処理であり、例えばA/D変換処理やLVDS(Low Voltage Differential Signaling)信号をデジタル信号に変換する処理であり、また例えば、撮像素子と信号処理部との処理タイミングを調整する同期調整処理である。尚、入力手段2は、レベル調整のためのゲインコントロールや、フィルタ処理等、所定の画像信号処理を含む構成であってもよい。
【0020】
コントラスト拡張手段3、信号レベル検出手段4、コントラスト制御手段5について図4を用いて詳細を説明する。信号レベル検出手段4は、画像内の所定の画素領域における信号がどのようなものかを検出する。検出する数値は、例えばヒストグラム分布、最大値、最小値、平均値、周波数分布等、画像領域の信号分布を示す情報となる数値である。
【0021】
図4の(a1)と(a2)は、低輝度領域と高輝度領域を撮影した際の2つのケースについてのヒストグラム分布である。コントラスト制御手段5は、このヒストグラム分布情報と前記撮像素子1の入出力特性の情報を基に、コントラスト拡張手段3の折れ線補正の入出力特性を制御し、ヒストグラムを拡大する。例えば図4の(b1)と(b2)のようなヒストグラム拡大処理である。以上の演算によれば、画像領域ごとに、圧縮された信号を最大限に復元可能であり、ワイドダイナミックレンジを維持しつつ高コントラスト化を実現可能である。
【0022】
尚、コントラスト拡張手段3は折れ線補正としたが、非線形の特性でもよく、例えばカーブ補正でもよい。
図5は、カーブ補正の場合のヒストグラム拡大処理を示す。この場合、ヒストグラム分布において、より画素数の多い箇所を中心にコントラスト拡大を行うことが可能である。
【0023】
また、信号レベル検出手段4はヒストグラムを検出する代わりにより少ない演算量で検出可能な平均値、最大値と最小値、周波数分布等の少なくともひとつを検出し、コントラスト制御手段5は信号レベル検出手段4からの情報を基にヒストグラム分布を推定し、該推定したヒストグラム分布と前記撮像素子の入出力特性の情報に応じてコントラスト拡大手段3を制御する方法であってもよい。例えば、通常被写体を映した場合、そのヒストグラムの分布は平均値を中心として一定の輝度範囲に分布する確率が高い。さらに撮像素子が例えば対数圧縮等の入出力特性であった場合は、平均値が低輝度であればヒストグラム分布が広めであり、高輝度であればヒストグラム分布が狭い確率が高い。
【0024】
以上の原理から、例えば信号レベル検出手段4は平均値を検出するものとし、コントラスト制御手段5は撮像素子1の入出力特性を表す情報を保持しておき、前記信号レベル検出手段4からの平均値と前記撮像素子1の入出力特性の情報を基にヒストグラム分布を予測し、コントラスト拡張手段3の強弱を決定する。以上の構成であっても、前記信号レベル検出手段4がヒストグラム分布を検出する構成と同等の効果を得ることができ、且つ少ない演算量で実現できる。
【0025】
また、最大値と最小値はヒストグラム分布の最大値と最小値であるから、信号レベル検出手段4が最大値と最小値を検出する場合であったとしても、ヒストグラム分布の予測は可能であり、前記信号レベル検出手段4がヒストグラム分布を検出する構成と同等の効果を得ることができる。
また、DCT(離散コサイン変換)やFFT(高速フーリエ変換)、アダマール変換、特定の周波数レスポンスを抽出するバンドパスフィルタ等、少なくとも1種類以上の周波数の特性を把握できれば、周波数分布は信号レベルの振幅であることから最大値と最小値を特定できるため、ヒストグラム分布の予測は可能であり、前記信号レベル検出手段4がヒストグラム分布を検出する構成と同等の効果を得ることができる。
【0026】
尚、前記コントラスト制御手段5において撮像素子1の入出力特性を表す情報を保持するとしたが、入力レベルと出力レベルを対応付けた情報をテーブルとして保持する方法でよい。上記によれば、入出力特性の正確な把握が可能である。また、入出力特性を表す関数式を保持する方法でもよい。上記によれば、入出力特性の正確な把握が可能であり、且つテーブルとして保存しておく方法に比べて保持するデータ量を削減できる。
【0027】
また、複数の入射光の輝度レベルにおける圧縮率情報など、入出力特性を推定できる情報を保持する方法でもよい。上記によれば、例えばデータを間引いた状態で保持しておき近似補間することで入出力特性の正確な把握が可能であり、且つテーブルとして保存しておく方法に比べて保持するデータ量を削減できる。また、関数式を保持する方法は関数が多項式になればなるほど演算量が増えるが、間引いた状態のデータを近似補間で実現すれば相対的に演算量を削減できる。
【0028】
出力手段6について詳細を説明する。所定の処理とは、TVやストレージ等の出力機器の信号フォーマットに変換する出力インタフェース処理であり、例えばNTSCやPALのビデオ出力に変換するものであり、例えばHDMI信号に変換するものであり、例えばネットワークのTCP/IPプロトコル信号に変換するものである。尚、出力手段6は、レベル調整のためのゲインコントロールや、フィルタ処理、エンコードによる圧縮処理等、所定の画像信号処理を含む構成であってもよい。
以上の構成により、ワイドダイナミックレンジを実現しつつ、且つ撮影した被写体に応じて最適なコントラスト感となる映像を生成する画像処理装置を実現できる。
【実施例2】
【0029】
本発明における実施例2について詳細に説明する。実施例2では、実施例1と同様に、被写体からの入射光を光電変換し画像信号として出力し且つその入出力特性が非線形である撮像素子1と、該撮像素子1からの画像信号に所定の処理を行い入力する入力手段2と、該入力手段2からの画像信号に対してコントラストの拡張を行うコントラスト拡張手段3と、前記入力手段2からの画像信号の信号レベルを検出する信号レベル検出手段4と、該信号レベル検出手段4からの信号と前記撮像素子1の入出力特性の情報を基に前記コントラスト拡張手段3におけるコントラスト拡張の強弱を制御するコントラスト制御手段5と、前記コントラスト拡張手段3からの画像信号を所定の処理を行い出力する出力手段6と、を持つ構成とした。
【0030】
またさらに実施例2においては、前記撮像素子1を各画素上に複数のカラーフィルタを備えたカラー単板撮像素子とし、コントラスト補正手段3はカラーマトリクス演算とした。
例えばカラーフィルタがRGBであるRGBベイヤ配列の撮像素子であり、かつ対数型の入出力特性を持つ場合を説明する。
【0031】
図6の分光特性が表すようにこの場合は、低輝度領域を撮影した際の各画素の分光特性(a)と、高輝度領域を撮影した際の各画素の分光特性(b)が異なる。特に分光特性(b)は、各色が混色しているため、そのまま画像化すると色のコントラストが低い画像となる。即ち、入出力特性が非線形であるカラー撮像素子を用いた場合、入射光の輝度レベルに応じて色再現が変化してしまうという課題があった。
【0032】
そこで本発明では、コントラスト拡張手段3はカラーマトリクス演算を行うものとし、たとえば(式1)で示すマトリクス演算を行うものとする。R_in、G_in、B_inはそれぞれ入力手段2からの信号であり、R_out、G_out、B_outはそれぞれコントラスト拡張手段3の出力信号である。また、K**はマトリクス係数である。
【0033】
R_out = R_in×Krr + G_in×Kgr + B_in×Kbr
G_out = R_in×Krg + G_in×Kgg + B_in×Kbg
B_out = R_in×Krb + G_in×Kgb + B_in×Kbb 以上(式1)
【0034】
コントラスト制御手段5は、信号レベル検出手段3からの信号と前記撮像素子1の入出力特性の情報を基にマトリスク演算係数K**を制御するものとする。撮像素子1の入出力特性を表す情報は、実施例1と同様入出力特性をデータテーブルとして保持する方法でよく、また入出力特性を表す関数式を保持する方法でもよい。また、複数の入射光の輝度レベルにおける圧縮率情報など、入出力特性を推定できる情報を保持する方法でもよい。また、色信号毎に個別に入出力特性を表す情報、あるいは推定できる情報を保持する方法でもよい。また、入射光の輝度レベルに応じて変化する分光特性情報を保持する方法でもよい。制御方法は、例えば高輝度領域の分光特性において混色が多い場合、混色を除去するよう係数を制御するものとする。
以上の構成によれば、画像領域ごとに、圧縮された色信号を最大限に復元可能であり、ワイドダイナミックレンジを維持しつつ、且つ撮影した被写体に応じて最適な色コントラスト感のとなる映像を生成する画像処理装置を実現できる。
【実施例3】
【0035】
本発明における実施例3について詳細に説明する。
図2は、本発明の実施例3における画像情報処理装置の基本構成図である。被写体からの入射光を光電変換し画像信号として出力する際、少なくとも2つ以上の感度特性の異なる画像信号を出力する撮像素子1と、該撮像素子1からの各画像信号に対して所定の処理を行い入力する入力手段2と、該入力手段2からの画像信号に対してコントラストの拡張を行うコントラスト拡張手段3a,3bと、前記入力手段からの画像信号の信号レベルを検出する信号レベル検出手段4a,4bと、該信号レベル検出手段からの信号と前記撮像素子の入出力特性の情報を基に前記コントラスト拡張手段3a,3bにおけるコントラスト拡張の強弱を制御するコントラスト制御手段5a,5bとを個別に有し、前記コントラスト拡張手段3a,3bからの各画像信号をひとつの画像信号に合成する合成手段7と、該合成手段7からの画像信号を所定の処理を行い出力する出力手段6とを持つ構成とした。
【0036】
撮像素子1は少なくとも2つ以上の感度特性の異なる画像信号を出力するとしたが、図2の構成図は、第1の信号と第2の信号という二つの画像信号を出力する場合の例である。第1の信号、第2の信号は例えば、図3の(b)ケース2におけるリニア特性の部分の画像信号と、対数特性の部分の画像信号である。
入力手段2には、前記撮像素子からの第1の信号と第2の信号が入力され、各々に対して前記実施例1または2に記載のものと同様の処理を行うものである。
【0037】
コントラスト拡張手段3a、信号レベル検出手段4a、コントラスト制御手段5aは前記入力手段2からの第1の信号に対して、前記実施例1に記載のものと同様の処理を行うものとし、コントラスト拡張手段3b、信号レベル検出手段4b、コントラスト制御手段5bは前記入力手段2からの第2の信号に対して、前記実施例1または2に記載のものと同様の処理を行うものとする。
以上の構成により、ワイドダイナミックレンジを実現しつつ、且つ撮影した被写体に応じて最適なコントラスト感となる映像を生成する画像処理装置を実現できる。
【0038】
また、第1の信号と第2の信号に対して個別に信号レベルを検出することができるため、第1の信号と第2の信号が合成された信号に対して信号レベルを検出する実施例1の構成に比べて、より高精度な検出が可能である。また、第1の信号と第2の信号に対して個別にコントラスト制御を行うため、第1の信号と第2の信号が合成された信号に対してコントラスト制御を行う実施例1または2の構成に比べて、より高精度な制御が可能である。また、第1の信号と第2の信号に対して個別にコントラスト拡張を行った後に合成するため、第1の信号と第2の信号が合成された信号に対してコントラスト拡張を行う実施例1または2の構成に比べて、より高精度なコントラスト拡張が可能である。
【0039】
さらには、第1の信号と第2の信号を個別にコントラスト拡張後に合成するため、第1の信号と第2の信号が合成された信号に対してコントラスト拡張を行う実施例1または2の構成に比べて、各々少ないビット精度での演算にて同等の演算精度を維持できる。例えば、実施例1または2の構成における入力手段2の出力ビット精度が32bit精度であった場合、本実施例3の構成で同等の演算精度とするためには、第1の信号と第2の信号は各々16bitとし、合成手段による合成後32bitとすればよい。通常、bit数が少ない方がオーバーヘッドは小さいため、回路で実現する場合は回路規模を縮小でき、ソフトウェアで実現する場合は演算時間を短縮できる。
【実施例4】
【0040】
本発明における実施例4について詳細に説明する。本実施例4では、前記実施例1〜3のいずれかの構成であって、前記入出力特性が非線形である撮像素子1において、所定の入射光(輝度)レベルで特性が変化する特性変化点を持つ撮像素子とした。例えば、図3の(a)(b)(d)のような特性変化点を持つ撮像素子である。
【0041】
該特性変化点を持つ撮像素子は、例えば光電変換した電荷を特性変化点前の電荷と特性変化点後の電荷分に分けてキャパシタに格納しておき、合成して出力あるいは個別に出力することで実現できる。しかしながら、キャパシタに格納する際の電荷損失等により、合成後の特性変化点付近で出力レベルが下がってしまうという問題がある。
図7は、この場合の入出力特性の一例を示す。上記特性変化点付近でレベルが下がると、画像ではノイズとして現れる。
【0042】
そこで、本発明における実施例4では、前記コントラスト制御手段5は撮像素子1の入出力特性の情報として特性変化点の情報を保持し、該特性変化点の情報と前記信号レベル検出手段4からの情報を基に、特性変化点付近のノイズ成分を増幅しないよう前記コントラスト拡張手段3を制御する構成とした。ここでノイズ成分を増幅しない制御とは、例えば特性変化点付近のコントラスト拡大を弱める、あるいは特性変化点付近のコントラスト拡大がかからないようにする、あるいは特性変化点付近のコントラストを拡大せず縮小させることで実現できる。
以上の構成により、ワイドダイナミックレンジを実現しつつ、特性変化点付近のノイズを増幅することなく、且つ撮影した被写体に応じて最適なコントラスト感となる映像を生成する画像処理装置を実現できる。
【実施例5】
【0043】
本発明における実施例5について詳細に説明する。本実施形態では、撮像装置の一例であるビデオカメラにおいて、被写体を撮影する例を用いて説明する。本実施形態は、たとえば屋外での撮影や、極めて明るい被写体が一部に映り込むようなコントラストの高いシーンにおいて、特に有効である。
【0044】
図8は、実施例5におけるビデオカメラ(画像情報処理装置)の基本構成図である。本実施例は撮像素子1、入力手段2、コントラスト拡張手段3、信号レベル検出手段4、コントラスト制御手段5、出力手段6、レンズ部8、制御部9を有する。また、入力手段2はAFE部21、駆動部22、センサデータ処理部23を有する。また、出力手段6は輝度処理部61、色差処理部62、ズーム手段63、エンコード手段64を有する。以下、各構成要素の動作について、順に説明する。
【0045】
まず、被写体から発せられた光線はレンズ部8に入射する。レンズ部8は図示されていない光学ズーム及びメカアイリスなどの機構を有し、これらは後述の通り制御部9によって制御される。レンズ部8では、メカアイリスによる光量調整が行われ、ズームレンズによってズームが施された後、撮像素子1上に被写体の像が結ばれる。
【0046】
撮像素子1では結ばれた像の明るさに応じて画素ごとに光電変換が行われ、各画素位置に対応したアナログ信号に変換されて入力手段2へ出力される。
撮像素子1は入出力特性の異なる2つ以上の映像信号を同時に出力できるという特徴を有する。撮像素子1の例を図9に示す。
図9は、2×2のベイヤ配列を有する撮像素子を示すが、R画素、G画素、B画素に加えて対数的な入出力特性を有する画素(本実施例ではL画素と呼ぶ)を持つことにより、リニアな入出力特性の映像信号(R画素、G画素、B画素)と対数的な入出力特性(L画素)を同時に出力することができる。
図10は、図9の撮像素子における入出力特性の例を示す。リニアな特性を持つ画素では一定以上の明るさになると出力が飽和してしまうが(図中の3000)、対数的な特性を持つL画素の出力は高輝度部分が圧縮されているため、飽和せずに階調を表現することができる(図中の3010)。また、撮像素子1は、リニア画素(RGBの各画素)と対数画素(L画素)のシャッタスピードを独自に制御可能な構成になっている。
【0047】
撮像素子1の駆動は駆動部22により行われる。駆動部22には、後述する制御部9からリニア画素用のシャッタ制御信号と対数画素用のシャッタ制御信号が入力される。駆動手段22はこれらを用いてリニア画素用の駆動信号と対数画素用の駆動信号を生成し、撮像素子1に供給してシャッタ制御を行う。
以上の構成により、撮像素子1ではリニア特性の映像信号と対数特性の映像信号を同時に撮像することが可能であり、これらを用いて高画質、高性能の制御を実現することができる。詳細については後述する。
【0048】
入力手段2へ入力された各映像信号は、AFE部21へ入力される。AFE部21では相関二重サンプリングによるノイズ除去処理、増幅器による信号増幅処理、A/D変換処理などが施され、デジタル信号に変換された後、センサデータ処理部23へ出力される。
センサデータ処理部23では、センサの傷により欠損したデータの補正、ランダムノイズ除去、固定パターンノイズ除去などのデータ処理が施され、コントラスト拡張手段3および信号レベル検出手段4へ出力される。信号レベル検出手段4での処理は後述する。
【0049】
コントラスト拡張手段3の動作は本発明の第1の実施例および第2の実施例においてにおいて詳細に説明されているため、本実施例では説明を割愛する。
コントラスト拡張手段3より出力された映像信号は、出力手段6に入力される。出力手段6では、入力された信号に各信号処理を施し、最終的な映像信号に変換して出力する。まず、入力された信号は輝度処理部61および色差処理部62に入力され、輝度処理部61においては輝度信号の生成、ノイズ除去やエンハンサなどの各種フィルタ処理、ガンマ補正などが施された後、ズーム手段63へ出力される。また、色差処理部62においては色差信号の生成、ノイズ除去などの各種フィルタ処理、ガンマ補正、色補正などが施された後、ズーム手段63へ出力される。
【0050】
ズーム手段63では輝度信号及び色差信号のタイミング合わせを行い、リニア特性の映像信号と対数特性の映像信号の合成などが行われる。また、必要に応じて電子ズーム処理が施された後、エンコード手段64へ出力される。
エンコード手段64では、TVやストレージ等の出力機器の信号フォーマットに変換する出力インタフェース処理が施される。具体的には、例えばNTSCやPALのビデオ出力に変換するものであり、例えばHDMI信号に変換するものであり、例えばネットワークのTCP/IPプロトコル信号に変換するものである。
【0051】
信号レベル検出手段4では、コントラスト拡張手段3より出力された映像信号をもとに、画像内の所定の画素領域における信号がどのようなものかを検出する。検出する数値は、例えばヒストグラム分布、最大値最小値、平均値、周波数分布等、画像領域の信号分布を示す情報となる数値である。例示した信号の中には、AF(オートフォーカス)制御で使用する合焦信号も含まれる。信号レベル検出手段4から出力される検出信号は、例示したいずれか1つが出力されても、例示された以外の検出信号が出力されても、あるいは複数種類の検出信号が並列に出力されてもよいものとする。詳細は実施例1において記載されているので、本実施例では説明を割愛する。信号レベル検出手段4からの出力は制御部9に入力される。
【0052】
制御部9はたとえばコントラスト制御手段5に代表される各種の制御手段を有し、信号レベル検出手段4からの検出信号やレンズ部からのF値指示信号など元に、カメラを構成する各部の動作を制御する。たとえば、コントラスト制御手段5は、信号レベル検出手段4からの検出信号を元に、コントラスト拡張手段3の動作を制御する。制御方法の詳細については、実施例1及び実施例2に詳細に記載されているため、本実施例では説明を割愛する。同様の手法により、制御部9からはレンズ部8を制御するアイリス制御信号や光学ズーム倍率制御信号、駆動部22を制御するシャッタ制御信号、出力手段6を制御する画質パラメータ制御信号などが出力され、本実施例のビデオカメラを構成する各部の動作制御が行われる。
【0053】
図11は、本実施例の撮像素子1で撮影した映像の第1の例を示す。リニア特性の映像信号はたとえば画像4000のようになり、屋外での撮影では空などの明るい部分は白飛びし、影などの暗い部分は黒つぶれしてしまう。一方、対数特性の映像信号はたとえば画像4010のようになり、どの明るさにおいても階調は維持されているが、コントラスト感に乏しい画像となる。これらの特徴を生かし、画像処理を最適化して例えば画像4020のように階調とコントラスト感が両立させることができる。以下、いくつか例を示す。
【0054】
AE制御への応用について述べる。リニア特性と対数特性の映像が同時に撮影でき、露光をそれぞれについて制御できるものとすると、リニア特性の映像はある程度の白飛びや黒つぶれを許容して露光制御を行えばよい。
図12は、撮像素子1で撮影した映像のヒストグラムの例を示す。
たとえば、前記の映像4000について輝度のヒストグラムをとると、図12の5000のようになり、高輝度部分と低輝度部分の度数が高く、中間階調の度数が低くなる。この場合、通常のAE制御では注目する部分に合わせて(明るい部分に着目するなら黒つぶれを許容して明るい部分の階調を出すように)露光制御を行うことになる。しかしながら、本実施例においては、中間階調をきっちり出し、白飛びおよび黒つぶれを許容するように露光を制御すればよい。
【0055】
他方、対数特性の映像はヒストグラムのピークが中間輝度に来るように露光制御を行えばよい。たとえば、前記の映像4010について輝度のヒストグラムをとると、図12の5010のようになり、広がりの少ない分布となる。この場合、対数特性の映像については、ヒストグラムのピークがちょうど中間輝度に来るように露光制御を行うことにより、明るい側、暗い側とも階調を損なわずに撮像することができる。このようにして撮影した2枚の映像について、前述の方法でコントラストの拡張を行い、合成することにより、非常にコントラストの高い映像を得ることが可能である。
【0056】
次いで、AF制御について述べる。リニア制御の画像においては、しばしばフォーカス制御が困難な場合がある。たとえば、暗い中に点光源が存在するような場合、点光源周辺が飽和してしまうと、その飽和部分を物体と誤認識して実際の物体にフォーカスが合わない状況が発生する。
図13は、本実施例の撮像素子1で撮影した映像の第2の例を示す。映像6000は、点光源(この場合は街灯部分)およびその周辺が飽和してしまい、ボケ止まりが発生している映像である。
図14は、フォーカス位置と合焦信号の関係の例を示す。図中の(a)がリニア制御の画像を元に生成した合焦信号である。一般的なAF制御では、合焦信号のレベルのピークが検出される位置にズームレンズを移動させるように制御される(山登り制御)。(a)から読み取れるとおり、本来の合焦ポイントのほかに、信号レベル検出手段4が(より具体的には該検出手段に含まれる合焦信号生成用のハイパスフィルタが)飽和した領域のエッジ部分を物体のエッジと誤認識してしまうために発生するピークが存在する。山登り制御によって飽和に起因するピーク検出位置にズームレンズを制御してしまうことがボケ止まりの原因である。
【0057】
しかしながらこの場合、同一シーンの対数特性の画像は、図13の映像6010のようになり、街灯部分は飽和していない。図14の(b)は対数特性の画像を元に生成した合焦信号であるが、飽和点が存在しないため、正しい合焦位置にのみピークが発生している。このため、映像6010を用いてAF制御を行うことにより、飽和による悪影響は受けずにフォーカスを合わせることが可能となる。
【0058】
あるいは、対数特性の合焦信号(b)をもとに粗くフォーカス位置の調整を行い、リニア特性の合焦信号(a)をもとにフォーカス位置の微調整を行ってフォーカス位置を決定しても良い。
上記のようなAE制御やAF制御はリアルタイム制御である必要があり、同一フレームでリニア特性の映像と線形特性の映像が同時に撮影できることがハンチングや誤動作を防ぐ上で大きなアドバンテージとなる。
【0059】
画質制御について説明する。図8の入力手段2の中には、たとえばセンサデータ処理部23が存在し、生のセンサデータに対して傷補正やノイズ除去処理が施される。リニア特性の映像と対数特性の映像のそれぞれに別々の強度でノイズ除去を施すことにより、最適な映像を得ることができる。たとえば、リニア特性の映像に黒つぶれが発生しており、これがコントラスト拡張によって拡大されるような場合には、連動してリニア特性の暗部ノイズを抑えるようにノイズ除去の強度を高めることにより、高画質を得ることができる。
【0060】
さらに、明るい被写体を撮影した場合に、リニア特性の映像は飽和して白飛びし、対数特性の映像は飽和しないことがある。このような場合、たとえば対数特性の映像からリニア特性の映像を予測して飽和以上の値を表現することが可能となる。先の図10を用いて説明すると、リニアな入出力特性を持つ画素においては、特性3000のように、ある明るさ以上で出力が飽和してしまう。しかしながら、対数特性を持つ画素の入力特性は3010のようになり、リニア画素が飽和してしまっても対数画素は飽和しない。したがって、対数画素の入出力特性とリニア画素の入出力特性を対応付けしておくことにより、飽和以上の特性を類推することが可能となる。
【0061】
図15は、コントラスト拡張手段3の構成の例を示す。コントラスト拡張手段3は、コントラスト拡張部31、飽和判定部32、ROMデータ33、セレクタ34を有する。コントラスト拡張手段3にはリニア特性の画像信号と対数特性の映像信号が入力され、それぞれについてコントラスト拡張が行われる。コントラスト拡張の詳細については、実施例1および2に記載されており、ここでは詳細は割愛する。コントラスト拡張されたリニア特性の画像信号は飽和判定部32に入力され、飽和しているかどうかが判定される。一方、対数特性の画像信号はROMデータ33に入力される。ROMデータ33は、同一の明るさにおける対数特性の出力とリニア特性の出力を対応付けたデータであり、入力された対数特性の映像信号を元に、リニア特性の映像信号を出力する。リニア特性の映像信号とROMデータ33の出力信号はセレクタ34に入力され、飽和判定部32において飽和と判定された場合にはROMデータ33の出力を映出力し、飽和でないと判定された場合にはリニア特性の映像信号をそのまま出力する。このようにして、ダイナミックレンジの狭いリニア特性のデータに対しても、飽和レベル以上の階調を表現することができる。
対数データと線形データの対応付けは例示したようなテーブル形式でもよいし、関数あるいは多項式の形で対応付けしてもよい。以上の方式で飽和以上を補うことにより、輝度や色度のダイナミックレンジを広げることが可能となり、高画質化を図ることができる。
【0062】
なお、本発明は上記の実施例1〜5に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換えをすることが可能である。
また、上記の各構成は、それらの一部又は全部が、ハードウェアで構成されても、プロセッサでプログラムが実行されることにより実現されるように構成されてもよい。また、制御線や情報線は説明上必要と考えられるものを示しており、必ずしも実際の装置における全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
【符号の説明】
【0063】
1:撮像素子、2:入力手段、3:コントラスト拡張手段、4:信号レベル検出手段、5:コントラスト制御手段、6:出力手段、7:合成手段、8:レンズ部、9:制御部。
【技術分野】
【0001】
本発明は、ワイドダイナミックレンジと高コントラスト感を両立するための画像信号処理を行う、画像信号処理装置に関する。
【背景技術】
【0002】
従来、第1のワイドダイナミックレンジ画像生成技術として、特許文献1では、シャッタ速度の異なる複数の画像を取得して合成することで、ワイドダイナミックレンジの画像を取得する技術が開示されている。
また、第2のワイドダイナミックレンジ画像生成技術として、特許文献2では、被写体の光を入力とし光電変換した後画像信号として出力する撮像素子を、画素飽和を極力抑えるよう非線形入出力特性とし、該非線形入出力特性の撮像素子を用いて撮影することでワイドダイナミックレンジの画像を取得する技術が開示されている。
【0003】
また、ワイドダイナミックレンジ画像を撮影する際の制御方法の一例として、特許文献3がある。該公報の要約には、課題として「本発明は、同一フレームで撮像されて得た光電変換特性の異なる画像信号に対して、その光電変換特性に応じたパラメータによる信号処理を行う撮像装置を提供することを目的とする。」と記載され、また解決手段として「同一フレームで撮像された各画素の画像信号の光電変換を確認し、色補正回路10の色補正係数や、階調変換回路11による階調変換特性や、コアリング回路12のLPF係数やコアリング計数などの各種パラメータを、各画像信号毎に確認された光電変換に基づいて切り換える。」と記載されている。
【0004】
また、特にオートフォーカスに関しては特許文献4がある。該公報の要約には、課題として「AF制御を行うに際し、撮像センサの線形特性領域と対数特性領域との特質を考慮しつつ、最適なAF制御を行うことができるようにする。」と記載され、また解決手段として「線形特性領域と対数特性領域とを備える撮像センサを備える撮像装置において、撮像センサの対数特性領域から得られた第1のAF評価値に基づいて第1のAF制御を行わせた後に、撮像センサの線形特性領域から得られた第2のAF評価値に基づいて第2のAF制御を行わせるAF動作制御部を具備させる。AF動作制御部は、第1のAF評価値を取得するときに被写体の輝度範囲に対応するセンサ出力が対数特性領域から得られ、また第2のAF評価値を取得するときにはセンサ出力が線形特性領域から得られるよう、光電変換特性を制御する。」と記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2002−135787号公報
【特許文献2】特開2002−77733号公報
【特許文献3】特開2005―110235号公報
【特許文献4】特開2006―3727号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
従来の第1のワイドダイナミックレンジ画像生成技術では、シャッタ速度を変えながら画像を逐一取得し合成する。即ち、合成前の各画像間には、時間のずれが存在する。このため、例えば動いている被写体を撮影した際、合成後の画像に動体歪が発生するという課題があった。
【0007】
また従来の第2のワイドダイナミックレンジ画像生成技術における非線形入出力特性を持つ撮像素子は、対数圧縮等により非線形入出力特性を実現しているため、画像信号の強弱が圧縮された画像となる。このため、例えば黒白の被写体を映した場合、一般的に使用されるリニア入出力特性の撮像素子で取得した画像に比べ、各画素の信号レベルの差分が小さくなるため、メリハリのないコントラスト感に欠ける映像となってしまうという課題があった。
【0008】
また従来の第2のワイドダイナミックレンジ画像生成技術における非線形入出力特性を持つ撮像素子は、対数圧縮等により非線形入出力特性を実現しているため、一般的に使用されるリニア入出力特性の撮像素子に比べ、信号の差分の圧縮度合いが入力光のレベルによって異なる。例えば、対数圧縮型であれば、光が比較的弱い被写体を映した場合は信号圧縮が小さいため信号差分を大きく取れるが、光が比較的強い被写体を映した場合は信号圧縮が大きいため信号差分が大きく取れなくなる。即ち、少なくとも2種類以上の明るさを持つ被写体を撮影する状況において、所定の明るさを持った第1の被写体が映っている第1の画像領域はコントラスト感が高いが、第1の被写体とは異なる明るさを持った第2の被写体が映っている第2の画像領域はコントラスト感に乏しいといった、被写体によって、コントラスト感の欠如度合いに違いが生じるという課題があった。
【0009】
また前記特許文献3では、たとえば対数特性に設定した場合の情報から線形特性の撮像における画質制御を行うことは考慮されておらず、改善の余地がある。
また前記特許文献4では、たとえば対数特性に設定した場合の情報と線形特性に設定した場合の情報を同一フレームで得て、両者を同時に用いて自動制御を行うことは考慮されておらず、改善の余地がある。
上記以外の課題は、後述する実施例によって明らかにされる。
【課題を解決するための手段】
【0010】
上記課題を解決するために本発明は、被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む前記電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記制御手段は、前記電気信号に対して前記検出信号に基づき露光制御、オートフォーカス制御、またはパラメータ調整を行うことを特徴としている。
【0011】
また本発明は、被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む第1の電気信号と、前記入射光との間の入出力特性が略線形な第2の電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記信号処理手段は、前記制御手段からの制御に応じて前記電気信号のうち第1の電気信号から第2の電気信号の値を補間して前記画像信号を生成することを特徴としている。
上記以外の手段は、後述する実施例によって明らかにされる。
【発明の効果】
【0012】
本発明による画像処理装置を用いれば、従来技術における課題を解決でき、ワイドダイナミックレンジで動体歪がなく、且つ撮影した被写体に応じて最適なコントラスト感が得られる画像を取得でき、画像処理装置の高性能化に寄与できるという効果がある。
【図面の簡単な説明】
【0013】
【図1】本発明の実施例1および2における画像情報処理装置の基本構成図である。
【図2】本発明の実施例3における画像情報処理装置の基本構成図である。
【図3】本発明における撮像素子の入出力特性の例を示す図である。
【図4】本発明におけるコントラスト拡張の第1の例を示す図である。
【図5】本発明におけるコントラスト拡張の第2の例を示す図である。
【図6】本発明における撮像素子の分光特性の例を示す図である。
【図7】本発明における撮像素子の入出力特性の例を示す図である。
【図8】本発明の実施例5における画像情報処理装置の基本構成図である。
【図9】本発明で用いる撮像素子の例を示す図である。
【図10】図9の撮像素子における入出力特性の例を示す図である。
【図11】図9の撮像素子で撮像した映像の第1の例を示す図である。
【図12】図9の撮像素子で撮影した映像のヒストグラムの例を示す図である。
【図13】図9の撮像素子で撮影した映像の第2の例を示す図である。
【図14】フォーカス位置と合焦信号の関係の例を示す図である。
【図15】コントラスト拡張手段の構成の例を示す図である。
【発明を実施するための形態】
【0014】
以下、本発明に好適な実施形態の例として、たとえば撮像機能を有する画像情報処理装置における実施例を説明する。
【実施例1】
【0015】
本発明における実施例1について詳細に説明する。
図1は、本発明の実施例1における画像情報処理装置の基本構成図である。被写体からの入射光を光電変換し画像信号として出力し、且つその入出力特性が非線形である撮像素子1と、該撮像素子1からの画像信号に所定の処理を行いコントラスト拡張手段3と信号レベル検出手段4に入力する入力手段2と、該入力手段2からの画像信号に対してコントラストの拡張を行うコントラスト拡張手段3と、前記入力手段2からの画像信号の信号レベルを検出する信号レベル検出手段4と、該信号レベル検出手段4からの信号と前記撮像素子1の入出力特性の情報を基に前記コントラスト拡張手段におけるコントラスト拡張の強弱を制御するコントラスト制御手段5と、前記コントラスト拡張手段3からの画像信号に所定の処理を行い外部へ出力する出力手段6と、を持つ構成とした。
【0016】
撮像素子1は非線形の入出力特性であるとしたが、図3に示す撮像素子の入出力特性を用いて詳細に説明する。
図3の(a)ケース1は、2種類のリニア特性を持ち、低輝度(入射光のレベルが低い)部分と比較して、高輝度部分の圧縮率を高くしている。高輝度(入射光のレベルが高い)部分を圧縮することで、画素飽和点をより高輝度側へシフトさせることができ、一般的なリニア特性の撮像素子に比べ、ワイドダイナミックレンジを実現可能である。さらに、後述のケース2〜4に対して、対数変換の演算量を削減できることから、低コスト化や小型化、低消費電力化を実現できる。
【0017】
また図3の(b)ケース2は、低輝度部分はリニア特性であり、高輝度部分は対数特性とし、高輝度になればなるほど圧縮率を高くしている。これにより、ケース1に対してさらにワイドダイナミックレンジ化が可能である。さらに、後述するコントラスト拡大を、圧縮率が高い高輝度部分のみに適用する構成とすれば、演算量を削減できることから、低コスト化や小型化、低消費電力化が可能である。
【0018】
また図3の(c)ケース3は全輝度領域で対数特性である。これにより、(b)ケース2に対してさらにワイドダイナミックレンジ化が可能である。
また図3の(d)ケース4は、2種類の対数特性を持ち、低輝度部分と比較して、高輝度部分の圧縮率を高くしている。これにより、(c)ケース3に対してさらにワイドダイナミックレンジ化が可能である。
また図3のケース1〜4は、本発明における撮像素子の入出力特性の一例であり、特定の輝度領域、あるいは全輝度領域について所定の関数により圧縮した非線形特性であれば、上記以外でもよい。
【0019】
図1の入力手段2について詳細を説明する。所定の処理とは、撮像素子からの信号を入力して、後段の信号処理を行うブロック(コントラスト拡張手段3、信号レベル検出手段4、コントラスト制御手段5)にて画像信号処理を行うための入力インタフェース処理であり、例えばA/D変換処理やLVDS(Low Voltage Differential Signaling)信号をデジタル信号に変換する処理であり、また例えば、撮像素子と信号処理部との処理タイミングを調整する同期調整処理である。尚、入力手段2は、レベル調整のためのゲインコントロールや、フィルタ処理等、所定の画像信号処理を含む構成であってもよい。
【0020】
コントラスト拡張手段3、信号レベル検出手段4、コントラスト制御手段5について図4を用いて詳細を説明する。信号レベル検出手段4は、画像内の所定の画素領域における信号がどのようなものかを検出する。検出する数値は、例えばヒストグラム分布、最大値、最小値、平均値、周波数分布等、画像領域の信号分布を示す情報となる数値である。
【0021】
図4の(a1)と(a2)は、低輝度領域と高輝度領域を撮影した際の2つのケースについてのヒストグラム分布である。コントラスト制御手段5は、このヒストグラム分布情報と前記撮像素子1の入出力特性の情報を基に、コントラスト拡張手段3の折れ線補正の入出力特性を制御し、ヒストグラムを拡大する。例えば図4の(b1)と(b2)のようなヒストグラム拡大処理である。以上の演算によれば、画像領域ごとに、圧縮された信号を最大限に復元可能であり、ワイドダイナミックレンジを維持しつつ高コントラスト化を実現可能である。
【0022】
尚、コントラスト拡張手段3は折れ線補正としたが、非線形の特性でもよく、例えばカーブ補正でもよい。
図5は、カーブ補正の場合のヒストグラム拡大処理を示す。この場合、ヒストグラム分布において、より画素数の多い箇所を中心にコントラスト拡大を行うことが可能である。
【0023】
また、信号レベル検出手段4はヒストグラムを検出する代わりにより少ない演算量で検出可能な平均値、最大値と最小値、周波数分布等の少なくともひとつを検出し、コントラスト制御手段5は信号レベル検出手段4からの情報を基にヒストグラム分布を推定し、該推定したヒストグラム分布と前記撮像素子の入出力特性の情報に応じてコントラスト拡大手段3を制御する方法であってもよい。例えば、通常被写体を映した場合、そのヒストグラムの分布は平均値を中心として一定の輝度範囲に分布する確率が高い。さらに撮像素子が例えば対数圧縮等の入出力特性であった場合は、平均値が低輝度であればヒストグラム分布が広めであり、高輝度であればヒストグラム分布が狭い確率が高い。
【0024】
以上の原理から、例えば信号レベル検出手段4は平均値を検出するものとし、コントラスト制御手段5は撮像素子1の入出力特性を表す情報を保持しておき、前記信号レベル検出手段4からの平均値と前記撮像素子1の入出力特性の情報を基にヒストグラム分布を予測し、コントラスト拡張手段3の強弱を決定する。以上の構成であっても、前記信号レベル検出手段4がヒストグラム分布を検出する構成と同等の効果を得ることができ、且つ少ない演算量で実現できる。
【0025】
また、最大値と最小値はヒストグラム分布の最大値と最小値であるから、信号レベル検出手段4が最大値と最小値を検出する場合であったとしても、ヒストグラム分布の予測は可能であり、前記信号レベル検出手段4がヒストグラム分布を検出する構成と同等の効果を得ることができる。
また、DCT(離散コサイン変換)やFFT(高速フーリエ変換)、アダマール変換、特定の周波数レスポンスを抽出するバンドパスフィルタ等、少なくとも1種類以上の周波数の特性を把握できれば、周波数分布は信号レベルの振幅であることから最大値と最小値を特定できるため、ヒストグラム分布の予測は可能であり、前記信号レベル検出手段4がヒストグラム分布を検出する構成と同等の効果を得ることができる。
【0026】
尚、前記コントラスト制御手段5において撮像素子1の入出力特性を表す情報を保持するとしたが、入力レベルと出力レベルを対応付けた情報をテーブルとして保持する方法でよい。上記によれば、入出力特性の正確な把握が可能である。また、入出力特性を表す関数式を保持する方法でもよい。上記によれば、入出力特性の正確な把握が可能であり、且つテーブルとして保存しておく方法に比べて保持するデータ量を削減できる。
【0027】
また、複数の入射光の輝度レベルにおける圧縮率情報など、入出力特性を推定できる情報を保持する方法でもよい。上記によれば、例えばデータを間引いた状態で保持しておき近似補間することで入出力特性の正確な把握が可能であり、且つテーブルとして保存しておく方法に比べて保持するデータ量を削減できる。また、関数式を保持する方法は関数が多項式になればなるほど演算量が増えるが、間引いた状態のデータを近似補間で実現すれば相対的に演算量を削減できる。
【0028】
出力手段6について詳細を説明する。所定の処理とは、TVやストレージ等の出力機器の信号フォーマットに変換する出力インタフェース処理であり、例えばNTSCやPALのビデオ出力に変換するものであり、例えばHDMI信号に変換するものであり、例えばネットワークのTCP/IPプロトコル信号に変換するものである。尚、出力手段6は、レベル調整のためのゲインコントロールや、フィルタ処理、エンコードによる圧縮処理等、所定の画像信号処理を含む構成であってもよい。
以上の構成により、ワイドダイナミックレンジを実現しつつ、且つ撮影した被写体に応じて最適なコントラスト感となる映像を生成する画像処理装置を実現できる。
【実施例2】
【0029】
本発明における実施例2について詳細に説明する。実施例2では、実施例1と同様に、被写体からの入射光を光電変換し画像信号として出力し且つその入出力特性が非線形である撮像素子1と、該撮像素子1からの画像信号に所定の処理を行い入力する入力手段2と、該入力手段2からの画像信号に対してコントラストの拡張を行うコントラスト拡張手段3と、前記入力手段2からの画像信号の信号レベルを検出する信号レベル検出手段4と、該信号レベル検出手段4からの信号と前記撮像素子1の入出力特性の情報を基に前記コントラスト拡張手段3におけるコントラスト拡張の強弱を制御するコントラスト制御手段5と、前記コントラスト拡張手段3からの画像信号を所定の処理を行い出力する出力手段6と、を持つ構成とした。
【0030】
またさらに実施例2においては、前記撮像素子1を各画素上に複数のカラーフィルタを備えたカラー単板撮像素子とし、コントラスト補正手段3はカラーマトリクス演算とした。
例えばカラーフィルタがRGBであるRGBベイヤ配列の撮像素子であり、かつ対数型の入出力特性を持つ場合を説明する。
【0031】
図6の分光特性が表すようにこの場合は、低輝度領域を撮影した際の各画素の分光特性(a)と、高輝度領域を撮影した際の各画素の分光特性(b)が異なる。特に分光特性(b)は、各色が混色しているため、そのまま画像化すると色のコントラストが低い画像となる。即ち、入出力特性が非線形であるカラー撮像素子を用いた場合、入射光の輝度レベルに応じて色再現が変化してしまうという課題があった。
【0032】
そこで本発明では、コントラスト拡張手段3はカラーマトリクス演算を行うものとし、たとえば(式1)で示すマトリクス演算を行うものとする。R_in、G_in、B_inはそれぞれ入力手段2からの信号であり、R_out、G_out、B_outはそれぞれコントラスト拡張手段3の出力信号である。また、K**はマトリクス係数である。
【0033】
R_out = R_in×Krr + G_in×Kgr + B_in×Kbr
G_out = R_in×Krg + G_in×Kgg + B_in×Kbg
B_out = R_in×Krb + G_in×Kgb + B_in×Kbb 以上(式1)
【0034】
コントラスト制御手段5は、信号レベル検出手段3からの信号と前記撮像素子1の入出力特性の情報を基にマトリスク演算係数K**を制御するものとする。撮像素子1の入出力特性を表す情報は、実施例1と同様入出力特性をデータテーブルとして保持する方法でよく、また入出力特性を表す関数式を保持する方法でもよい。また、複数の入射光の輝度レベルにおける圧縮率情報など、入出力特性を推定できる情報を保持する方法でもよい。また、色信号毎に個別に入出力特性を表す情報、あるいは推定できる情報を保持する方法でもよい。また、入射光の輝度レベルに応じて変化する分光特性情報を保持する方法でもよい。制御方法は、例えば高輝度領域の分光特性において混色が多い場合、混色を除去するよう係数を制御するものとする。
以上の構成によれば、画像領域ごとに、圧縮された色信号を最大限に復元可能であり、ワイドダイナミックレンジを維持しつつ、且つ撮影した被写体に応じて最適な色コントラスト感のとなる映像を生成する画像処理装置を実現できる。
【実施例3】
【0035】
本発明における実施例3について詳細に説明する。
図2は、本発明の実施例3における画像情報処理装置の基本構成図である。被写体からの入射光を光電変換し画像信号として出力する際、少なくとも2つ以上の感度特性の異なる画像信号を出力する撮像素子1と、該撮像素子1からの各画像信号に対して所定の処理を行い入力する入力手段2と、該入力手段2からの画像信号に対してコントラストの拡張を行うコントラスト拡張手段3a,3bと、前記入力手段からの画像信号の信号レベルを検出する信号レベル検出手段4a,4bと、該信号レベル検出手段からの信号と前記撮像素子の入出力特性の情報を基に前記コントラスト拡張手段3a,3bにおけるコントラスト拡張の強弱を制御するコントラスト制御手段5a,5bとを個別に有し、前記コントラスト拡張手段3a,3bからの各画像信号をひとつの画像信号に合成する合成手段7と、該合成手段7からの画像信号を所定の処理を行い出力する出力手段6とを持つ構成とした。
【0036】
撮像素子1は少なくとも2つ以上の感度特性の異なる画像信号を出力するとしたが、図2の構成図は、第1の信号と第2の信号という二つの画像信号を出力する場合の例である。第1の信号、第2の信号は例えば、図3の(b)ケース2におけるリニア特性の部分の画像信号と、対数特性の部分の画像信号である。
入力手段2には、前記撮像素子からの第1の信号と第2の信号が入力され、各々に対して前記実施例1または2に記載のものと同様の処理を行うものである。
【0037】
コントラスト拡張手段3a、信号レベル検出手段4a、コントラスト制御手段5aは前記入力手段2からの第1の信号に対して、前記実施例1に記載のものと同様の処理を行うものとし、コントラスト拡張手段3b、信号レベル検出手段4b、コントラスト制御手段5bは前記入力手段2からの第2の信号に対して、前記実施例1または2に記載のものと同様の処理を行うものとする。
以上の構成により、ワイドダイナミックレンジを実現しつつ、且つ撮影した被写体に応じて最適なコントラスト感となる映像を生成する画像処理装置を実現できる。
【0038】
また、第1の信号と第2の信号に対して個別に信号レベルを検出することができるため、第1の信号と第2の信号が合成された信号に対して信号レベルを検出する実施例1の構成に比べて、より高精度な検出が可能である。また、第1の信号と第2の信号に対して個別にコントラスト制御を行うため、第1の信号と第2の信号が合成された信号に対してコントラスト制御を行う実施例1または2の構成に比べて、より高精度な制御が可能である。また、第1の信号と第2の信号に対して個別にコントラスト拡張を行った後に合成するため、第1の信号と第2の信号が合成された信号に対してコントラスト拡張を行う実施例1または2の構成に比べて、より高精度なコントラスト拡張が可能である。
【0039】
さらには、第1の信号と第2の信号を個別にコントラスト拡張後に合成するため、第1の信号と第2の信号が合成された信号に対してコントラスト拡張を行う実施例1または2の構成に比べて、各々少ないビット精度での演算にて同等の演算精度を維持できる。例えば、実施例1または2の構成における入力手段2の出力ビット精度が32bit精度であった場合、本実施例3の構成で同等の演算精度とするためには、第1の信号と第2の信号は各々16bitとし、合成手段による合成後32bitとすればよい。通常、bit数が少ない方がオーバーヘッドは小さいため、回路で実現する場合は回路規模を縮小でき、ソフトウェアで実現する場合は演算時間を短縮できる。
【実施例4】
【0040】
本発明における実施例4について詳細に説明する。本実施例4では、前記実施例1〜3のいずれかの構成であって、前記入出力特性が非線形である撮像素子1において、所定の入射光(輝度)レベルで特性が変化する特性変化点を持つ撮像素子とした。例えば、図3の(a)(b)(d)のような特性変化点を持つ撮像素子である。
【0041】
該特性変化点を持つ撮像素子は、例えば光電変換した電荷を特性変化点前の電荷と特性変化点後の電荷分に分けてキャパシタに格納しておき、合成して出力あるいは個別に出力することで実現できる。しかしながら、キャパシタに格納する際の電荷損失等により、合成後の特性変化点付近で出力レベルが下がってしまうという問題がある。
図7は、この場合の入出力特性の一例を示す。上記特性変化点付近でレベルが下がると、画像ではノイズとして現れる。
【0042】
そこで、本発明における実施例4では、前記コントラスト制御手段5は撮像素子1の入出力特性の情報として特性変化点の情報を保持し、該特性変化点の情報と前記信号レベル検出手段4からの情報を基に、特性変化点付近のノイズ成分を増幅しないよう前記コントラスト拡張手段3を制御する構成とした。ここでノイズ成分を増幅しない制御とは、例えば特性変化点付近のコントラスト拡大を弱める、あるいは特性変化点付近のコントラスト拡大がかからないようにする、あるいは特性変化点付近のコントラストを拡大せず縮小させることで実現できる。
以上の構成により、ワイドダイナミックレンジを実現しつつ、特性変化点付近のノイズを増幅することなく、且つ撮影した被写体に応じて最適なコントラスト感となる映像を生成する画像処理装置を実現できる。
【実施例5】
【0043】
本発明における実施例5について詳細に説明する。本実施形態では、撮像装置の一例であるビデオカメラにおいて、被写体を撮影する例を用いて説明する。本実施形態は、たとえば屋外での撮影や、極めて明るい被写体が一部に映り込むようなコントラストの高いシーンにおいて、特に有効である。
【0044】
図8は、実施例5におけるビデオカメラ(画像情報処理装置)の基本構成図である。本実施例は撮像素子1、入力手段2、コントラスト拡張手段3、信号レベル検出手段4、コントラスト制御手段5、出力手段6、レンズ部8、制御部9を有する。また、入力手段2はAFE部21、駆動部22、センサデータ処理部23を有する。また、出力手段6は輝度処理部61、色差処理部62、ズーム手段63、エンコード手段64を有する。以下、各構成要素の動作について、順に説明する。
【0045】
まず、被写体から発せられた光線はレンズ部8に入射する。レンズ部8は図示されていない光学ズーム及びメカアイリスなどの機構を有し、これらは後述の通り制御部9によって制御される。レンズ部8では、メカアイリスによる光量調整が行われ、ズームレンズによってズームが施された後、撮像素子1上に被写体の像が結ばれる。
【0046】
撮像素子1では結ばれた像の明るさに応じて画素ごとに光電変換が行われ、各画素位置に対応したアナログ信号に変換されて入力手段2へ出力される。
撮像素子1は入出力特性の異なる2つ以上の映像信号を同時に出力できるという特徴を有する。撮像素子1の例を図9に示す。
図9は、2×2のベイヤ配列を有する撮像素子を示すが、R画素、G画素、B画素に加えて対数的な入出力特性を有する画素(本実施例ではL画素と呼ぶ)を持つことにより、リニアな入出力特性の映像信号(R画素、G画素、B画素)と対数的な入出力特性(L画素)を同時に出力することができる。
図10は、図9の撮像素子における入出力特性の例を示す。リニアな特性を持つ画素では一定以上の明るさになると出力が飽和してしまうが(図中の3000)、対数的な特性を持つL画素の出力は高輝度部分が圧縮されているため、飽和せずに階調を表現することができる(図中の3010)。また、撮像素子1は、リニア画素(RGBの各画素)と対数画素(L画素)のシャッタスピードを独自に制御可能な構成になっている。
【0047】
撮像素子1の駆動は駆動部22により行われる。駆動部22には、後述する制御部9からリニア画素用のシャッタ制御信号と対数画素用のシャッタ制御信号が入力される。駆動手段22はこれらを用いてリニア画素用の駆動信号と対数画素用の駆動信号を生成し、撮像素子1に供給してシャッタ制御を行う。
以上の構成により、撮像素子1ではリニア特性の映像信号と対数特性の映像信号を同時に撮像することが可能であり、これらを用いて高画質、高性能の制御を実現することができる。詳細については後述する。
【0048】
入力手段2へ入力された各映像信号は、AFE部21へ入力される。AFE部21では相関二重サンプリングによるノイズ除去処理、増幅器による信号増幅処理、A/D変換処理などが施され、デジタル信号に変換された後、センサデータ処理部23へ出力される。
センサデータ処理部23では、センサの傷により欠損したデータの補正、ランダムノイズ除去、固定パターンノイズ除去などのデータ処理が施され、コントラスト拡張手段3および信号レベル検出手段4へ出力される。信号レベル検出手段4での処理は後述する。
【0049】
コントラスト拡張手段3の動作は本発明の第1の実施例および第2の実施例においてにおいて詳細に説明されているため、本実施例では説明を割愛する。
コントラスト拡張手段3より出力された映像信号は、出力手段6に入力される。出力手段6では、入力された信号に各信号処理を施し、最終的な映像信号に変換して出力する。まず、入力された信号は輝度処理部61および色差処理部62に入力され、輝度処理部61においては輝度信号の生成、ノイズ除去やエンハンサなどの各種フィルタ処理、ガンマ補正などが施された後、ズーム手段63へ出力される。また、色差処理部62においては色差信号の生成、ノイズ除去などの各種フィルタ処理、ガンマ補正、色補正などが施された後、ズーム手段63へ出力される。
【0050】
ズーム手段63では輝度信号及び色差信号のタイミング合わせを行い、リニア特性の映像信号と対数特性の映像信号の合成などが行われる。また、必要に応じて電子ズーム処理が施された後、エンコード手段64へ出力される。
エンコード手段64では、TVやストレージ等の出力機器の信号フォーマットに変換する出力インタフェース処理が施される。具体的には、例えばNTSCやPALのビデオ出力に変換するものであり、例えばHDMI信号に変換するものであり、例えばネットワークのTCP/IPプロトコル信号に変換するものである。
【0051】
信号レベル検出手段4では、コントラスト拡張手段3より出力された映像信号をもとに、画像内の所定の画素領域における信号がどのようなものかを検出する。検出する数値は、例えばヒストグラム分布、最大値最小値、平均値、周波数分布等、画像領域の信号分布を示す情報となる数値である。例示した信号の中には、AF(オートフォーカス)制御で使用する合焦信号も含まれる。信号レベル検出手段4から出力される検出信号は、例示したいずれか1つが出力されても、例示された以外の検出信号が出力されても、あるいは複数種類の検出信号が並列に出力されてもよいものとする。詳細は実施例1において記載されているので、本実施例では説明を割愛する。信号レベル検出手段4からの出力は制御部9に入力される。
【0052】
制御部9はたとえばコントラスト制御手段5に代表される各種の制御手段を有し、信号レベル検出手段4からの検出信号やレンズ部からのF値指示信号など元に、カメラを構成する各部の動作を制御する。たとえば、コントラスト制御手段5は、信号レベル検出手段4からの検出信号を元に、コントラスト拡張手段3の動作を制御する。制御方法の詳細については、実施例1及び実施例2に詳細に記載されているため、本実施例では説明を割愛する。同様の手法により、制御部9からはレンズ部8を制御するアイリス制御信号や光学ズーム倍率制御信号、駆動部22を制御するシャッタ制御信号、出力手段6を制御する画質パラメータ制御信号などが出力され、本実施例のビデオカメラを構成する各部の動作制御が行われる。
【0053】
図11は、本実施例の撮像素子1で撮影した映像の第1の例を示す。リニア特性の映像信号はたとえば画像4000のようになり、屋外での撮影では空などの明るい部分は白飛びし、影などの暗い部分は黒つぶれしてしまう。一方、対数特性の映像信号はたとえば画像4010のようになり、どの明るさにおいても階調は維持されているが、コントラスト感に乏しい画像となる。これらの特徴を生かし、画像処理を最適化して例えば画像4020のように階調とコントラスト感が両立させることができる。以下、いくつか例を示す。
【0054】
AE制御への応用について述べる。リニア特性と対数特性の映像が同時に撮影でき、露光をそれぞれについて制御できるものとすると、リニア特性の映像はある程度の白飛びや黒つぶれを許容して露光制御を行えばよい。
図12は、撮像素子1で撮影した映像のヒストグラムの例を示す。
たとえば、前記の映像4000について輝度のヒストグラムをとると、図12の5000のようになり、高輝度部分と低輝度部分の度数が高く、中間階調の度数が低くなる。この場合、通常のAE制御では注目する部分に合わせて(明るい部分に着目するなら黒つぶれを許容して明るい部分の階調を出すように)露光制御を行うことになる。しかしながら、本実施例においては、中間階調をきっちり出し、白飛びおよび黒つぶれを許容するように露光を制御すればよい。
【0055】
他方、対数特性の映像はヒストグラムのピークが中間輝度に来るように露光制御を行えばよい。たとえば、前記の映像4010について輝度のヒストグラムをとると、図12の5010のようになり、広がりの少ない分布となる。この場合、対数特性の映像については、ヒストグラムのピークがちょうど中間輝度に来るように露光制御を行うことにより、明るい側、暗い側とも階調を損なわずに撮像することができる。このようにして撮影した2枚の映像について、前述の方法でコントラストの拡張を行い、合成することにより、非常にコントラストの高い映像を得ることが可能である。
【0056】
次いで、AF制御について述べる。リニア制御の画像においては、しばしばフォーカス制御が困難な場合がある。たとえば、暗い中に点光源が存在するような場合、点光源周辺が飽和してしまうと、その飽和部分を物体と誤認識して実際の物体にフォーカスが合わない状況が発生する。
図13は、本実施例の撮像素子1で撮影した映像の第2の例を示す。映像6000は、点光源(この場合は街灯部分)およびその周辺が飽和してしまい、ボケ止まりが発生している映像である。
図14は、フォーカス位置と合焦信号の関係の例を示す。図中の(a)がリニア制御の画像を元に生成した合焦信号である。一般的なAF制御では、合焦信号のレベルのピークが検出される位置にズームレンズを移動させるように制御される(山登り制御)。(a)から読み取れるとおり、本来の合焦ポイントのほかに、信号レベル検出手段4が(より具体的には該検出手段に含まれる合焦信号生成用のハイパスフィルタが)飽和した領域のエッジ部分を物体のエッジと誤認識してしまうために発生するピークが存在する。山登り制御によって飽和に起因するピーク検出位置にズームレンズを制御してしまうことがボケ止まりの原因である。
【0057】
しかしながらこの場合、同一シーンの対数特性の画像は、図13の映像6010のようになり、街灯部分は飽和していない。図14の(b)は対数特性の画像を元に生成した合焦信号であるが、飽和点が存在しないため、正しい合焦位置にのみピークが発生している。このため、映像6010を用いてAF制御を行うことにより、飽和による悪影響は受けずにフォーカスを合わせることが可能となる。
【0058】
あるいは、対数特性の合焦信号(b)をもとに粗くフォーカス位置の調整を行い、リニア特性の合焦信号(a)をもとにフォーカス位置の微調整を行ってフォーカス位置を決定しても良い。
上記のようなAE制御やAF制御はリアルタイム制御である必要があり、同一フレームでリニア特性の映像と線形特性の映像が同時に撮影できることがハンチングや誤動作を防ぐ上で大きなアドバンテージとなる。
【0059】
画質制御について説明する。図8の入力手段2の中には、たとえばセンサデータ処理部23が存在し、生のセンサデータに対して傷補正やノイズ除去処理が施される。リニア特性の映像と対数特性の映像のそれぞれに別々の強度でノイズ除去を施すことにより、最適な映像を得ることができる。たとえば、リニア特性の映像に黒つぶれが発生しており、これがコントラスト拡張によって拡大されるような場合には、連動してリニア特性の暗部ノイズを抑えるようにノイズ除去の強度を高めることにより、高画質を得ることができる。
【0060】
さらに、明るい被写体を撮影した場合に、リニア特性の映像は飽和して白飛びし、対数特性の映像は飽和しないことがある。このような場合、たとえば対数特性の映像からリニア特性の映像を予測して飽和以上の値を表現することが可能となる。先の図10を用いて説明すると、リニアな入出力特性を持つ画素においては、特性3000のように、ある明るさ以上で出力が飽和してしまう。しかしながら、対数特性を持つ画素の入力特性は3010のようになり、リニア画素が飽和してしまっても対数画素は飽和しない。したがって、対数画素の入出力特性とリニア画素の入出力特性を対応付けしておくことにより、飽和以上の特性を類推することが可能となる。
【0061】
図15は、コントラスト拡張手段3の構成の例を示す。コントラスト拡張手段3は、コントラスト拡張部31、飽和判定部32、ROMデータ33、セレクタ34を有する。コントラスト拡張手段3にはリニア特性の画像信号と対数特性の映像信号が入力され、それぞれについてコントラスト拡張が行われる。コントラスト拡張の詳細については、実施例1および2に記載されており、ここでは詳細は割愛する。コントラスト拡張されたリニア特性の画像信号は飽和判定部32に入力され、飽和しているかどうかが判定される。一方、対数特性の画像信号はROMデータ33に入力される。ROMデータ33は、同一の明るさにおける対数特性の出力とリニア特性の出力を対応付けたデータであり、入力された対数特性の映像信号を元に、リニア特性の映像信号を出力する。リニア特性の映像信号とROMデータ33の出力信号はセレクタ34に入力され、飽和判定部32において飽和と判定された場合にはROMデータ33の出力を映出力し、飽和でないと判定された場合にはリニア特性の映像信号をそのまま出力する。このようにして、ダイナミックレンジの狭いリニア特性のデータに対しても、飽和レベル以上の階調を表現することができる。
対数データと線形データの対応付けは例示したようなテーブル形式でもよいし、関数あるいは多項式の形で対応付けしてもよい。以上の方式で飽和以上を補うことにより、輝度や色度のダイナミックレンジを広げることが可能となり、高画質化を図ることができる。
【0062】
なお、本発明は上記の実施例1〜5に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換えをすることが可能である。
また、上記の各構成は、それらの一部又は全部が、ハードウェアで構成されても、プロセッサでプログラムが実行されることにより実現されるように構成されてもよい。また、制御線や情報線は説明上必要と考えられるものを示しており、必ずしも実際の装置における全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
【符号の説明】
【0063】
1:撮像素子、2:入力手段、3:コントラスト拡張手段、4:信号レベル検出手段、5:コントラスト制御手段、6:出力手段、7:合成手段、8:レンズ部、9:制御部。
【特許請求の範囲】
【請求項1】
被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む前記電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記制御手段は、前記電気信号に対して前記検出信号に基づき少なくも二つの互いに特性の異なる露光制御を行うことを特徴とする画像信号処理装置。
【請求項2】
被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む前記電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記制御手段は、前記電気信号に対して前記検出信号に基づきオートフォーカス制御を行うことを特徴とする画像信号処理装置。
【請求項3】
被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む前記電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記信号処理手段は、前記制御手段からの制御に応じて少なくも二つの前記電気信号に対して個別にパラメータ調整を行うことを特徴とする画像信号処理装置。
【請求項4】
被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む第1の電気信号と、前記入射光との間の入出力特性が略線形な第2の電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記信号処理手段は、前記制御手段からの制御に応じて前記電気信号のうち第1の電気信号から第2の電気信号の値を補間して前記画像信号を生成することを特徴とする画像信号処理装置。
【請求項5】
請求項1ないし4に記載の画像信号処理装置であって、前記撮像素子は異なる入出力特性の画素が混在する構造であることを特徴とする画像信号処理装置。
【請求項6】
請求項5に記載の画像信号処理装置であって、前記撮像素子は異なる入出力特性の画素のシャッタスピードを個別に設定することを特徴とする画像信号処理装置。
【請求項1】
被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む前記電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記制御手段は、前記電気信号に対して前記検出信号に基づき少なくも二つの互いに特性の異なる露光制御を行うことを特徴とする画像信号処理装置。
【請求項2】
被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む前記電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記制御手段は、前記電気信号に対して前記検出信号に基づきオートフォーカス制御を行うことを特徴とする画像信号処理装置。
【請求項3】
被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む前記電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記信号処理手段は、前記制御手段からの制御に応じて少なくも二つの前記電気信号に対して個別にパラメータ調整を行うことを特徴とする画像信号処理装置。
【請求項4】
被写体を撮像して該被写体に係る画像信号を出力する画像信号処理装置であって、
前記被写体から供給された入射光を光電変換して電気信号に変換し、前記入射光との間の入出力特性が非線形であって互いに異なる少なくも二つの特性を含む第1の電気信号と、前記入射光との間の入出力特性が略線形な第2の電気信号を出力する撮像素子と、
該撮像素子が出力した前記電気信号が供給され前記電気信号の信号レベルを検出する信号レベル検出手段と、
前記撮像素子が出力した前記電気信号が供給され前記電気信号に対する信号処理を行う信号処理手段と、
該信号処理手段で信号処理して得た前記画像信号を出力する出力手段と、
前記信号レベル検出手段から供給された前記検出信号と前記撮像素子の入出力特性の情報を基に前記信号処理手段を制御する制御手段を有し、
前記信号処理手段は、前記制御手段からの制御に応じて前記電気信号のうち第1の電気信号から第2の電気信号の値を補間して前記画像信号を生成することを特徴とする画像信号処理装置。
【請求項5】
請求項1ないし4に記載の画像信号処理装置であって、前記撮像素子は異なる入出力特性の画素が混在する構造であることを特徴とする画像信号処理装置。
【請求項6】
請求項5に記載の画像信号処理装置であって、前記撮像素子は異なる入出力特性の画素のシャッタスピードを個別に設定することを特徴とする画像信号処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2012−134745(P2012−134745A)
【公開日】平成24年7月12日(2012.7.12)
【国際特許分類】
【出願番号】特願2010−284728(P2010−284728)
【出願日】平成22年12月21日(2010.12.21)
【出願人】(509189444)日立コンシューマエレクトロニクス株式会社 (998)
【Fターム(参考)】
【公開日】平成24年7月12日(2012.7.12)
【国際特許分類】
【出願日】平成22年12月21日(2010.12.21)
【出願人】(509189444)日立コンシューマエレクトロニクス株式会社 (998)
【Fターム(参考)】
[ Back to top ]