画像処理装置およびプログラム
【課題】Linear-Log特性を持つ複数のセンサ出力を受けて画像処理を行う画像処理装置において、複数センサ間で最適な変曲点を指定する技術を提供する。
【解決手段】画像処理装置は、撮像部2から出力される複数の画像信号のそれぞれの特徴量を抽出する特徴量抽出部363と、当該複数の画像信号の特徴量に基づいて、所定の条件を満足する共通変曲点を決定し、当該複数の撮像素子を制御することにより、当該複数の撮像素子のそれぞれの当該変曲点を当該共通変曲点に統一する変曲点制御部366とを備える。
【解決手段】画像処理装置は、撮像部2から出力される複数の画像信号のそれぞれの特徴量を抽出する特徴量抽出部363と、当該複数の画像信号の特徴量に基づいて、所定の条件を満足する共通変曲点を決定し、当該複数の撮像素子を制御することにより、当該複数の撮像素子のそれぞれの当該変曲点を当該共通変曲点に統一する変曲点制御部366とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の撮像素子を用いて撮像を行う画像処理技術に関する。
【背景技術】
【0002】
近年、ステレオカメラなどの撮像素子において、ダイナミックレンジを広くすることを目指して、入射光量に対して線形的に変換した電気信号と、入射光量に対して対数的に変換した電気信号の出力が可能な撮像素子(以下、「Linear-Log特性を持つセンサ」と称する)が提案されてきている。そのような撮像素子では、入射光量と電気的出力信号との関係を示す特性線上の特定の点(変曲点)を境界として、線形特性(Linear特性)と対数特性(Log特性)とが自動的に切り替わる。
【0003】
この種の撮像素子を利用した技術として、例えば、光の強度に応じて出力が線形特性と対数特性とで切り替わるイメージセンサと投光器とを備える距離計測システムが提案されている(特許文献1)。他にも、露光処理用に求めた評価輝度値と目標輝度値との差に応じて露光条件を変える撮像装置(特許文献2)、画像の輝度分布に応じて変曲点を変動させる撮像装置(特許文献3)などが提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−46004号公報
【特許文献2】特開2007−312112号公報
【特許文献3】特開2006−333177号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
このようなLinear-Log特性を持つセンサ出力において、Linear特性では、細かい輝度変化には敏感だがダイナミックレンジが狭くなる特徴を持つのに対し、Log特性を用いた場合、ダイナミックレンジは拡大するが細かい変化は潰れてしまうという特徴を持つ。このため、環境に適した変曲点を設定することが撮影において必要となる。
【0006】
しかしながら、従来のLinear-Log特性を持つセンサ出力では、ステレオ画像撮影のように同一の被写体(撮影の対象体)から得た複数画像を対象にした画像処理で、画像ごとに大きく変曲点が変わると見た目に違和感があり、処理的にも各画像で全く相関のない別の画像を処理してしまうような問題がある。加えて、変曲点付近はセンサ自体の誤差や僅かな光量の変化で出力特性が大きく変わってしまい不安定でもある。Linear特性の方が細かい輝度変化にも敏感なため、本来は、可能な限りLinear特性を多く採用したいが、実際にはどのような状況でも最適となるような変曲点の決定方法は存在せず、状況に応じてフレキシブルに変曲点を設定することが現実的である。
【0007】
本発明は、このような事情に鑑みてなされたものであり、Linear-Log特性を持つ複数の撮像素子を用いて得た複数の画像信号の画像処理に際して、必要な画像情報を十分に取り込みつつ、複数の画像信号を統一的に扱うことを可能とする技術を提供することを第1の目的とする。
【0008】
この発明の第2目的は、上記複数の画像信号に基づく画像表示を行う場合に、視覚的な違和感を軽減することである。
【課題を解決するための手段】
【0009】
上記課題を解決するために、請求項1の発明は、複数の撮像素子を備えた撮像手段から出力される複数の画像信号を処理するとともに、前記撮像手段の制御を行う画像処理装置であって、前記複数の撮像素子のそれぞれは、可変に設定可能な変曲点を境界として線形変換特性と対数変換特性との間で切り替る光電変換特性を有しているとともに、初期状態においては相互に異なった変曲点が前記複数の撮像素子に設定されており、前記画像処理装置が、前記撮像手段から出力される前記複数の画像信号のそれぞれの特徴量を抽出する特徴量抽出手段と、前記複数の画像信号の特徴量に基づいて、所定の条件を満足する共通変曲点を決定する変曲点決定手段と、前記複数の撮像素子を制御することにより、前記複数の撮像素子のそれぞれの前記変曲点を前記共通変曲点に統一する変曲点制御手段とを備えることを特徴とする。
【0010】
また、請求項2の発明は、請求項1に記載の画像処理装置であって、前記特徴量は画像信号の輝度分布であり、各画像信号の輝度成分の分布範囲と各撮像素子の光電変換特性のダイナミックレンジとを整合させるように前記共通変曲点を決定することを特徴とする。
【0011】
また、請求項3の発明は、請求項1に記載の画像処理装置であって、前記特徴量は画像信号の輝度分布であり、変曲点に相当する入力があった場合に出力される輝度値が、前記輝度分布のピークと重ならない様に前記共通変曲点を決定することを特徴とする。
【0012】
また、請求項4の発明は、請求項1に記載の画像処理装置であって、前記特徴量は画像信号の空間周波数情報であり、高周波成分が相対的に多い画像信号を出力している撮像素子の変曲点を前記共通変曲点として決定することを特徴とする。
【0013】
また、請求項5の発明は、請求項1に記載の画像処理装置であって、前記特徴量は物標検出結果であり、前記複数の画像信号のうち所定の良否判定基準によって物標検出結果がより良好と判断される変曲点を用いて前記共通変曲点を決定することを特徴とする。
【0014】
また、請求項6の発明は、請求項1に記載の画像処理装置であって、前記変曲点決定手段は、前記複数の撮像素子にその時点で個別に設定されているそれぞれの変曲点の中から、前記特徴量が所定の基準を満たしている1の変曲点を選択して前記共通変曲点とすることを特徴とする。
【0015】
また、請求項7の発明は、請求項1に記載の画像処理装置であって、前記変曲点決定手段は、前記複数の撮像素子にその時点で個別に設定されているそれぞれの変曲点の補間点を前記共通変曲点とすることを特徴とする。
【0016】
また、請求項8の発明は、請求項1ないし請求項7のいずれかに記載の画像処理装置であって、前記複数の画像信号で表現されるそれぞれの画像領域の一部に、前記特徴量抽出手段での特徴量抽出解析に用いる解析エリアを設定する解析エリア設定手段、をさらに備えることを特徴とする。
【0017】
また、請求項9の発明は、請求項1ないし請求項8のいずれかに記載の画像処理装置であって、前記複数の画像信号で表現されるそれぞれの画像領域の一部に、前記共通変曲点の設定の対象となる対象エリアを決定する共通変曲エリア設定手段をさらに備えることを特徴とする。
【0018】
また、請求項10の発明は、請求項1ないし請求項9のいずれかに記載の画像処理装置であって、前記特徴量に関する所定の判定基準に基づいて、前記複数の撮像素子の変曲点の統一の要否を判定し、前記共通変曲点の決定のための処理タイミングを決定するタイミング制御手段をさらに備えることを特徴とする。
【0019】
また、請求項11の発明は、請求項10に記載の画像処理装置であって、前記タイミング制御手段は、前記所定の判定基準による判定を繰り返して行い、前記特徴量が前記所定の判定基準に合致したときに、前記共通変曲点の決定の処理を実行することを特徴とする。
【0020】
また、請求項12の発明は、請求項1ないし請求項11のいずれかに記載の画像処理装置であって、前記撮像手段は多視点カメラであり、前記複数の画像信号は前記多視点カメラのそれぞれの出力画像信号であることを特徴とする。
【0021】
また、請求項13の発明は、請求項1ないし請求項11のいずれかに記載の画像処理装置であって、前記撮像部はステレオカメラであり、前記複数の画像信号は前記ステレオカメラのそれぞれの出力画像信号であることを特徴とする。
【0022】
また、請求項14の発明は、コンピュータにインストールされて実行されることによって、前記コンピュータを、請求項1ないし請求項13のいずれかに記載の画像処理装置として機能させることを特徴とするプログラムである。
【発明の効果】
【0023】
請求項1ないし請求項14の発明によれば、複数の画像信号の状況を総合的に考慮しつつ、光電変換特性の変曲点を共通化する。このため、複数の撮像素子の光電変換特性が適切な特性に統一されて、必要な画像情報を十分に取り込みつつ、複数の画像信号を統一的に扱うことが可能となる。
【0024】
また、複数の画像を表示させる場合には、それらの画像の間の視覚的な違和感が軽減される。
【0025】
請求項2の発明によれば、各画像信号の輝度成分の分布範囲と光電変換特性のダイナミックレンジとを整合させるように共通変曲点を決定することで、画素の飽和や潰れへの対処を適切に行うことができる。
【0026】
請求項3の発明によれば、変曲点に相当する入力があった場合に出力される輝度値が、輝度分布のピークと重ならない様に共通変曲点を決定することで、パターンが潰れるなどした画像への対処を適切に行うことができる。
【0027】
請求項4の発明によれば、高周波成分が相対的に多い画像信号を出力している撮像素子にその時点で設定されている変曲点を避けて共通変曲点を決定することで、各撮像素子の変曲点を、精細な撮像が可能な共通変曲点に統一できる。
【0028】
請求項5の発明によれば、物標検出結果がより良好と判断される変曲点を用いて共通変曲点を決定することで、物標検出処理に適した共通変曲点を各撮像素子に設定可能である。
【0029】
請求項6の発明によれば、各撮像素子にその時点で設定されている変曲点の中からの選択であるため、共通変曲点の決定が迅速となる。
【0030】
請求項7の発明によれば、それぞれの変曲点の補間点を共通変曲点とすることにより、極端に片寄ることがない共通変曲点の決定が迅速となる。
【0031】
請求項8の発明によれば、共通変曲点の決定の基礎となる画像エリアを限定することで、注目すべき撮像対象に特化した適切な共通変曲点を決定できる。
【0032】
請求項9の発明によれば、共通変曲点を設定する空間領域を限定することで、不要な処理を減らすことができる。
【0033】
請求項10の発明によれば、共通変曲点の設定が必要であるときだけ共通変曲点の決定処理を行うので、無用のデータ処理を減らすことが出来る。
【0034】
請求項11の発明によれば、変曲点の統一化が必要になったときにはそのタイミングで共通変曲点の決定処理を行うことになるので、必要な時期に共通変曲点の設定を行うことが可能になる。
【0035】
請求項12の発明によれば、多視点カメラに適用することで、広範な領域において画像間で視覚的な違和感の少ない適切な画像を得ることができる。
【0036】
請求項13の発明によれば、ステレオカメラに適用することで、基準画像と参照画像との差を減らし、正確な距離の測定が可能となる。
【図面の簡単な説明】
【0037】
【図1】本発明の一実施形態に係る画像処理システムの概略構成を示す図である。
【図2】Linear-Log特性を例示する図である。
【図3】Linear特性とLog特性とのダイナミックレンジの違いを説明する図である。
【図4】変曲点の変更によって出力特性が変化することを説明する図である。
【図5】変曲点の変更によって出力画像が変化することを説明する図である。
【図6】一実施形態に係る演算制御部の機能的な構成例を示す図である。
【図7】一実施形態に係る画像処理装置の基本動作を示すフローチャートである。
【図8】輝度分布による変曲点補正方法を説明するための図である。
【図9】輝度分布による変曲点補正方法を説明するための図である。
【図10】空間周波数分布による変曲点補正方法を説明するための図である。
【図11】物標検出結果による変曲点補正方法を説明するための図である。
【図12】解析エリアの設定例を示す図である。
【図13】処理対象エリアの設定例を示す図である。
【発明を実施するための形態】
【0038】
<1.画像処理システムの概要>
図1は、本発明の一実施形態に係る画像処理システムの概略構成を示す図である。画像処理システム1は、多視点カメラシステムとして構成されており、撮像部2として2眼の多視点カメラ20を備えるほか、多視点カメラ20に対してデータの送受信が可能に接続される画像処理装置3を備える。
【0039】
多視点カメラ20は、撮像素子21a、22aをそれぞれ有する2つの撮像系21,22から構成されている。撮像系21,22は、カメラ正面の被写体(撮像の対象体)OBを、同じタイミングで異なる視点から撮像するように構成される。撮像系21,22による同じタイミングの撮像によって得られる2つの画像信号(以下「画像」と略称する)は、データ線CBを介して画像処理装置3に送信される。
【0040】
以下では、撮像系21の撮像によって取得される画像を「第1撮像画像」G1と称し、撮像系22の撮像によって取得される画像を「第2撮像画像」G2と称する。つまり、第1および第2撮像画像G1,G2は、同一の被写体OBが異なる視点からそれぞれ捉えられた画像の組を成す。
【0041】
ここでは、説明を簡素化するために、多視点カメラ20の収差は良好に補正されているとする。また、撮像系21,22は、略平行(好ましくは完全に平行)に設定され、ステレオカメラとして用いても良い。つまり、ステレオカメラとして用いる場合、撮像系21,22は所定方向に沿って離隔配置され、撮像系21,22の光軸が略平行(好ましくは完全に平行)に設定される状態を前提にする。また、何れのカメラにおいても、撮像系21,22の撮像素子21a、22aは、Linear-Log特性を持つ。
【0042】
画像処理装置3は、例えばパーソナルコンピュータ(パソコン)のような情報処理装置で構成され、マウスやキーボード等を含む操作部31と、液晶ディスプレイ等で構成されるディスプレイ32と、多視点カメラ20からのデータを受信するインターフェース(I/F)33とを備える。また、画像処理装置3は、記憶装置34と演算制御部36とを有する。
【0043】
記憶装置34は、例えばハードディスク等で構成され、多視点カメラ2の撮像によって得られる第1および第2撮像画像G1,G2を記憶する。また、記憶装置34には、後述される変曲点制御を行うためのプログラムPG等が格納される。
【0044】
入出力部35は、例えば可搬性ディスクドライブを備えて構成され、光ディスク等の可搬性記憶媒体をセットして、演算制御部36との間でデータの授受を行う。
【0045】
演算制御部36は、プロセッサとして働くCPU36aと、情報を一時的に記憶するメモリ36bとを有し、画像処理装置3の各部を統括的に制御する。演算制御部36では、記憶部34内のプログラムPGが読み込まれて実行されることで、各種機能や各種情報処理等が実現される。なお、メモリ36bには、可搬性記憶媒体に記憶されているプログラムデータを、入出力部35を介して格納させることができる。この格納されたプログラムは、画像処理装置3の動作に適宜反映可能である。
【0046】
演算制御部36は、後述する変曲点制御動作によって得られる情報を基に、撮像素子21a、22aのそれぞれのLinear-Log特性に共通に設定する変曲点を算出する。そして、ディスプレイ32では、演算制御部36で算出された変曲点に基づいて、被写体OBの画像を可視的に出力する。
【0047】
<1−1.Linear-Log特性の一般的性質と前提事情>
この実施形態における撮像素子21a、22aの変曲点制御の詳細を説明する準備として、この実施形態の前提となるLinear-Log特性の一般的性質と、それに伴って生じる事情、すなわち従来技術で生じていた事情を説明しておく。
【0048】
Linear-Log特性を持つ撮像素子を以下では「L-L特性センサ」と略称することにすると、L-L特性センサでは、撮像素子の画素に相当する各フォトダイオードで発生した光電流を、MOSFETを通して積分回路に与え出力信号を得ている。低照度時には線形変換特性(Linear特性)となり、フォトダイオードで発生した光電流の時間積分値(入射光量)に比例する出力信号が得られ、高照度時には対数変換特性(Log特性)となり、フォトダイオードで発生した光電流の時間積分値(入射光量)に対数的に依存する出力電圧が得られる。それらの境界(臨界点)としての変曲点は、非撮像時のMOSFETのゲート電圧と、撮像時のMOSFETのゲート電圧との差を変更することによって移動させることができる。変曲点の制御信号は、このようなゲート電圧差を可変に設定する信号である。
【0049】
次に、このLinear-Log特性および変曲点について図2から図4を参照して具体的に説明する。なお、以下の図中のLog特性に関しては、本来は上に凸の対数曲線であるが、簡略化のため直線で示している。図2は、L-L特性センサの入出力特性を例示する図である。L-L特性センサでは、図2のように入射光量が特定の閾値α以下の場合、輝度に相当する出力は入力をLinear変換したものに相当し、入射光量が閾値α以上の場合、入力をLog変換して出力する。したがって、図2においては、入射光量が閾値αに相当する点(入射光量=α)、すなわち、Linear特性とLog特性との境界点が変曲点CPとなる。
【0050】
図3は、Linear特性とLog特性とのダイナミックレンジの違いを説明する図である。図3に示すように、Linear特性での入力上限(出力限界MOでの入射光量)は値βであるのに対し、Log特性領域での入力上限は値γにまで達し、L-L特性センサでは、Linear特性だけを固定的に持つ一般的なセンサに比べ、ダイナミックレンジを広くすることが可能となる。
【0051】
また、L-L特性センサは入射光量が閾値αよりも小さい領域においてはLinear特性を有するため、低輝度領域において一般的なセンサと同様の画像を出力することが出来る。
【0052】
その一方で、L-L特性センサから出力される画像の画質は、変曲点CPの設定位置に依存して大きく変化するという特質がある。
【0053】
図4は、変曲点CPの位置を変更することで出力特性が変化することを説明する図であり、図5は、図4のように変曲点CPの位置を変更することで出力画像が変化することを説明する図である。
【0054】
ステレオカメラなどに使用される2つのL-L特性センサ(実施形態の撮像素子21a、22aに相当するセンサ)のうち、第1センサの変曲点CP1が、図4(a)のように出力限界MOの近傍にあってLinear特性範囲がほぼ最大化されており、第2センサの変曲点CP2は、図4(b)のようにかなり低い位置に存在する場合を考える。
【0055】
このとき、たとえば比較的暗い光環境での撮像のように、各画素での入射光量が少ない場合には、第1センサも第2センサもLinear特性での出力となる。このため、図5(a)で示されるように、出力画像である第1および第2撮像画像G1,G2は、Linear特性が最大限活かされた高精度な画像が得られる。
【0056】
ところが、変曲点CP1〜CP2の中間に相当する光環境で撮像をしたような場合には、第1センサの出力はLinear特性領域にあり、第2センサの出力はLog特性領域にあるため、それらの間に不整合が生じてしまい、図5(b)で示されるように、一方のセンサから得た画像と他方のセンサから得た画像との間の画質にかなりの差が生じてしまう。
【0057】
また、変曲点CP2をかなり超えるような明るい光環境で撮像したような場合には、いずれのセンサもLog特性領域となるが、図4から理解できるように、双方の対数曲線の高さは同じではない(同じ入射光量に対して図4(b)の方が、出力値が小さい)。したがって、同じ入射光量に対する出力値は図4(a)と図4(b)との場合で相互に異なることになり、やはり、双方の画像の画質に違いが生じる。
【0058】
このように変曲点CP1、CP2がL-L特性センサごとに異なるという状況は、各カメラでの変曲点制御が互いに独立していることに起因して生じる。すなわち、従来技術では、各カメラでの変曲点制御を個別に行うような構成とされていたために、それぞれのカメラに別の変曲点が設定されてしまうことになる。そのため、全く特性の異なる画像が得られる可能性があるために画像を視覚的に比較した際の違和感が大きく、また物体検出や画像間での対応点探索の様な画像処理においても全く条件が違う画像を処理することになってしまう。
【0059】
このような背景の下、本発明では、複数のL-L特性センサの変曲点CPの位置を共通化するように、画像処理装置を構成する。
【0060】
<2.画像処理システムの機能構成>
本発明の実施形態のシステム1の説明に戻る。図6は、変曲点制御動作を実行するために演算制御部36で実現される機能的な構成を示す図である。なお、ここでは、演算制御部36の機能的な構成が、事前にインストールされているプログラムPGの実行によって実現されるものとして説明するが、専用のハードウエア構成で実現されても良い。
【0061】
図2で示されるように、撮像部2からデータを受信して、演算制御部36は、機能的な構成として、画像処理部361、解析エリア設定部362、特徴量抽出部363、タイミング制御部364、共通変曲エリア設定部365、および変曲点制御部366を有する。以降、各手段について図1および図6を参照して概略を説明する。
【0062】
<2−1.撮像部2>
撮像部2(多視点カメラ20)は、被写体OBを複数(ここでは2つ)の撮像素子21a、22aで撮像し、画像処理装置30に画像信号を送信する役割を持つ。撮像素子21a、22aはLinear-Log特性を持つが、撮像動作を開始した初期状態においては、撮像素子21a、22aのLinear-Log特性の変曲点は一致していないものとする。
【0063】
<2−2.画像処理部361>
画像処理部361は、第1および第2撮像画像G1,G2を用いて画像処理を行う。各画像での物体の検出、多視点カメラ20間で画像の結合や同一物体の同定、ディスプレイ32への表示制御等を行う。
【0064】
<2−3.解析エリア設定部362>
解析エリア設定部362は、撮像部2である多視点カメラ20により取得された第1および第2撮像画像G1,G2を入力する。解析エリア設定部362では、入力された画像の空間範囲の一部を、解析エリアとして設定する。この解析エリアは、次段の特徴量抽出部363で特徴量抽出を行うエリアとなる。
【0065】
解析エリアの設定方法として最も単純な方法としては、利用者が操作部31を用いてマニュアル操作で指定する方法がある。例えば、画像中で特定範囲だけが重要であるとあらかじめわかっている場合にはこのマニュアル指定は有効である。他の設定方法としては、物体検出処理、エッジ検出および対応点探索等の画像処理の結果を受けて、特徴的な部位に設定する方法が挙げられる。その際、画像処理部361から処理結果を受け取ることも可能である。たとえば、図12に例示するように、人物と背景とからなる画像の場合に、人物が写っている空間範囲を解析エリアR1,R2とすることができる。この解析エリアR1,R2は共通のサイズおよび位置を有するが、第1および第2撮像画像G1,G2において互いに異なる位置あるいは互いに異なるサイズに設定されていてもよい。解析エリアR1,R2は、第1および第2撮像画像G1,G2の全域であってもよいが、このように一部とすることにより、データ処理時間が短縮化されるほか、重要な空間部分の状況を、共通変曲点の決定に強く反映させることが可能となる。
【0066】
<2−4.特徴量抽出部363>
特徴量抽出部363は、解析エリア設定部362が設定した、第1および第2撮像画像G1,G2内の解析エリアR1,R2において、画像の特徴量CHA1,CHA2を抽出する。この特徴量CHA1,CHA2は、次段のタイミング制御部364〜変曲点制御部366で用いられる。
【0067】
特徴量として典型的なものとしては、輝度(最大輝度、最低輝度、平均輝度、ヒストグラム等)がある。それ以外の特徴量としては、画像の空間周波数成分、エッジ量を用いた物標検出結果(検出の信頼度、検出数等)等がある。その際、画像処理部361から処理結果を受け取ることも可能である。
【0068】
<2−5.タイミング制御部364>
タイミング制御部364は、次段の変曲点制御部366の動作タイミングを制御する。変曲点制御タイミングとしての最も簡単なものとしては、カメラのフレームや動作時間で指定する等、固定値で与える方法が挙げられる。本実施形態においては、特徴量抽出部363が設定した特徴量をベースにタイミング制御を行う。
【0069】
具体的には例えば、特徴量CHA1,CHA2の差を所定の閾値と比較し、差が閾値以下だった場合、変曲点の差は少なく、変曲点の相互調整(具体的には変曲点の共通化)を行う必要はない。したがって、差が閾値を超えたタイミングで変曲点の共通化のための後記の処理を行う。
【0070】
また、別の方法として、別の装置等から情報を得て判定する方法が考えられる。例えば、温度や周辺の照度等の環境情報を入力し、それが所定の条件を満足したときに(換言すれば所定の条件を満足したタイミングで)変曲点の共通化処理を開始する。
【0071】
<2−6.共通変曲点エリア設定部365>
共通変曲エリア設定部365は、第1および第2撮像画像G1,G2から変曲点共通化処理を行う画像エリアを設定する。すなわち、変曲点の共通化は、撮像素子21a、22aから得た第1および第2撮像画像G1,G2の全画素を対象とすることもできるが、一部の空間領域に制限することもできる。たとえば、第1および第2撮像画像G1,G2に人物と背景が含まれており、人物については双方の画像を組み合わせて精密な画像分析をしたいために輝度も同程度としたいが、背景については、別の制御機構や処理が入っていた場合、干渉を避けるために背景では変曲点は変更しないことが好ましい。
【0072】
このときには、人物が存在する空間範囲の画像の変曲点は撮像素子21a、22aの双方に共通であることが好ましいが、背景については、撮像素子21a、22aに個別に初期設定された変曲点のままにしておくことが好ましい。このような事情を考慮して、図13に例示するように、変曲点共通化処理を行う画像エリア(処理対象エリア)B0を第1および第2撮像画像G1,G2の一部に設定する。処理対象エリアB0のサイズおよび位置は、第1および第2撮像画像G1,G2において同一である。
【0073】
処理対象エリアB0の設定方法として典型的な例としては、固定値で指定する方法がある。例えば、重要な被写体が存在する可能性が高い中央エリア、多視点カメラの場合の画像端などの別のカメラの画像と同じ被写体が写っている可能性が高い画像エリア、監視カメラの場合の監視重要エリアなどを処理対象エリアB0として設定する等が可能である。処理対象エリアB0として画像全体を指定することもできる。
【0074】
また、解析エリア設定部362で決定された解析エリアR1、R2と同じ場所に処理対象エリアB0を設定するほか、処理対象エリアB0の動的な設定方法として、画像処理部361から画像処理結果(たとえば特定の対象体の検出処理結果)を受け取って、当該対象体を含むエリアを処理対象エリアB0として設定することもできる。
【0075】
<2−7.変曲点制御部366>
変曲点制御部366は、変曲エリア設定部365が設定した処理対象エリアについて、撮像素子21a、22aのLinear-Log特性に対して共通の変曲点を設定する。
【0076】
具体的には、特徴量CHA1,CHA2を相互に比較し、所定の基準によって選択した一方の変曲点を高越変曲点とする方法がある。例えば、特徴量が輝度分布であった場合、より広範囲に輝度が分布しており、また画素飽和や画素潰れが少ない変曲点を共通変曲点とする場合などがそれにあたる。詳細は後述する。
【0077】
決定された共通変曲点に対応する電位差を、撮像素子21a、22aにおいて処理対象エリアに相当する各画素についての、非撮像時のMOSFETのゲート電圧と、撮像時のMOSFETのゲート電圧との差として付与することによって、それらの各画素についてのLinear特性とLog特性との境界を統一する。
【0078】
<3.画像処理装置の基本動作>
図7は、画像処理システム1において実現される変曲点制御の基本動作に関するフローを例示するフローチャートである。例えば、ユーザによる操作部31に対する操作に応じて、本動作フローが開始されて、図7のステップS1に進む。
【0079】
ステップS1では、撮像部2に設けられた撮像素子21a、22aによって、第1および第2撮像画像G1,G2が取得される。ここで、画像処理部361によって、第1および第2撮像画像G1,G2についての画像処理が行われ、得られた画像がディスプレイ32へ表示される。
【0080】
ステップS2では、解析エリア設定部362によって、第1および第2撮像画像G1,G2で表現されるそれぞれの画像領域の一部に、ステップS3の特徴量抽出解析に用いる解析エリアR1,R2が設定される。
【0081】
ステップS3では、特徴量抽出部363によって、解析エリアR1,R2において、画像の特徴量が抽出される。これらの詳細は後述する。
【0082】
ステップS4では、タイミング制御部364によって、特徴量に関する所定の判定基準に基づいて、撮像素子21a、22aの変曲点の統一(共通化)の要否が判定され、共通変曲点の決定のための処理タイミングが決定される。変曲点の統一が必要であれば、ステップS5に進み、変曲点の統一が不要であれば、本動作フローが終了される。
【0083】
ステップS5では、共通変曲エリア設定部365によって、第1および第2撮像画像G1,G2で表現されるそれぞれの画像領域の一部に、ステップS6の共通変曲点算出に用いる処理対象エリアB0が決定される。
【0084】
ステップS6では、タイミング制御部364によって、共通変曲点算出のための計算が行われる。
【0085】
ステップS7では、タイミング制御部364によって、ステップS6で行われた計算結果に基づいて、特徴量が所定の判定基準に合致したか否かが判定される。当該所定の判定基準に合致した場合は、ステップS8に進み、当該所定の判定基準に満たない場合は、ステップS6に戻る。
【0086】
ステップS8では、タイミング制御部364によって、共通変曲点の決定が行われる。その種々の具体例は後述するが、たとえば第1および第2撮像画像G1,G2の輝度の分布範囲が撮像素子21a、22aのダイナミックレンジに収まるように共通変曲点を決定することにより、入射光量のオーバーフローによる画像の潰れを防止しつつ、第1および第2撮像画像G1,G2の画質を統一することができる。
【0087】
ステップS9では、変曲点制御部366によって、共通変曲点の決定後の処理が行われる。すなわち、変曲点制御部366によって、撮像素子21a、22aの変曲点が共通変曲点に設定され、本動作フローの1回分が終了する。
【0088】
これらのステップS1〜S9からなるルーチンは、時間的に繰り返して実行される。撮像素子21a、22aで得られる画像が動画である場合には、たとえば1〜数フレームごとにこのルーチンを繰り返す。撮像環境は時々刻々と変化しているため、変曲点の共通化が不要である状況からそれが必要な状況に変化する場合もあり、また、いったん共通変曲点を設定しても、撮像環境の変化によって、共通変曲点の値をずらせる必要が生じたりするためである。共通変曲点を設定あるいは変更後のフレームでは、撮像素子21a、22aからより適切な第1および第2撮像画像G1,G2が得られる。
【0089】
静止画の場合には、撮像を行なう都度、このルーチンが実行される。このルーチンにおいて変曲点の共通化が不要であると判定されればその1回目のルーチンだけでよいが、変曲点の共通化が必要であると判定され、実際に変曲点を共通化したときには、共通化した後の撮像素子21a、22aから改めて第1および第2撮像画像G1,G2を取り込む。
【0090】
動画、静止画のいずれであっても、第1および第2撮像画像G1,G2に基づいて、画像表示や、画像認識、3次元画像生成などの所定の画像処理(画像データの処理)を行う。画像データの保存あるいは画像伝送を経た後の画像処理も同様である。この実施形態は多視点カメラシステムとして構成されているため、たとえば指定された位置を視点とする任意視点画像の生成やディスプレイ32への表示が、撮像結果を利用する画像処理である。
【0091】
以上のように、この実施形態に係る画像処理システム1によれば、複数の画像信号の状況を総合的に考慮しつつ、撮像素子21a、22aの光電変換特性の変曲点を共通化できる。このため、撮像素子21a、22aの光電変換特性が適切な特性に統一されて、必要な画像情報を十分に取り込みつつ、複数の画像信号を統一的に扱うことが可能となる。
【0092】
<4.具体例>
図7のフローチャートで示されるようにステップS3の特徴量として、複数のファクタが挙げられるが、本具体例では、その中の、輝度分布、空間周波数分布、物標検出について、図7を参照しながらプロセスを順次説明する。
【0093】
なお、以下では、「撮像素子21a,22aから得られた第1および第2撮像画像G1,G2のうち、解析エリアR1,R2に属する部分」をそれぞれ「画像G1,G2」と略称し、また、「画像G1,G2を撮像した撮像素子21a,22aにその時点で設定されている変曲点」を「画像G1,G2の現変曲点P1,P2」のように略称する。
【0094】
<4−1.輝度分布の利用>
<4−1−1.ダイナミックレンジ整合法>
この実施形態で「ダイナミックレンジ整合法」と名付ける方法では、画像信号の輝度分布を用いて特徴量を定義し、各画像信号の輝度成分の分布範囲と各撮像素子の光電変換特性のダイナミックレンジとを整合させるように共通変曲点を決定する。
【0095】
図8は、輝度分布によるダイナミックレンジ整合法を説明するための図である。図8(a)は、撮像素子21a(図1参照)によって出力された輝度分布BR1を示した図(左図)、および、撮像素子22aによって出力された輝度分布BR2を示した図(右図)である。また、図8(b)は、輝度分布BR1に対応する光電変換特性のダイナミックレンジと変曲点位置P1とを示した図(左図)、および、輝度分布BR2に対応する光電変換特性のダイナミックレンジと変曲点位置P2とを示した図(右図)である。さらに、図8(c)は、ダイナミックレンジ整合法により変曲点位置P1を共通変曲点(変曲点補正位置)Prとして設定した状態(左図)、および、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更した状態(右図)をそれぞれ示した図である。
【0096】
図8(a)で示されるように、輝度分布BR1は飽和しているのに対し,輝度分布BR2は輝度分布が全域に分布していない。すなわち、撮像素子21aでは、変曲点位置P1が、撮像素子22aの変曲点位置P2より、出力限界MO近傍にあるため、Linear特性領域が多く分布するが、撮像素子22aでは、撮像素子21aと比べてLog特性領域が多く分布する(図8(b)参照)。したがって、輝度分布BR1,BR2の両者が、飽和せず、全域に行き渡るような条件を満たすべく、変曲点の変更が必要であることがわかる。
【0097】
ダイナミックレンジ整合法の場合、図7のフローの主なステップの具体的内容は以下の通りである。
【0098】
・ステップS3:
画像G1,G2に属する画素のうち、撮像素子21a,22aの最大輝度(Max)に相当する画素の数(頻度)をそれぞれカウントして、画像G1,G2(解析エリアR1,R2)のそれぞれの画素総数に占める割合(比率)を特徴量CHA1,CHA2とする。
【0099】
・ステップS4:
特徴量CHA1,CHA2と所定の閾値とをそれぞれ比較し、特徴量CHA1,CHA2のうち所定の閾値を超えるものがあれば、共通変曲点の設定あるいは更新が必要であると判断する。
【0100】
・ステップS6:
特徴量CHA1,CHA2を相互に比較し、これらの中でより小さな特徴量を持つ撮像素子21bの変曲点P2を、共通変曲点Prの候補とする(図8(c))。
【0101】
・ステップS7:
変曲点P1を共通変曲点としたときに輝度分布BR1,BR2がそのように変化するかを予測演算し、画像G1における最大輝度(Max)の画素数が十分に減少するか、あるいは、画像G2における最大輝度(Max)の画素数が十分に増加するかどうかを判定する。輝度分布BR1,BR2の双方が飽和しているような場合には、この判定で否定的な結果が出る場合もある。このようなときにはステップS6に戻し、そこでは前回よりも共通変曲点Prを小さな値に移動させるなどの追加調整をする。逆に、輝度分布BR1,BR2の双方が潰れているような場合には、この判定で否定的な結果が出る場合もある。このようなときにはステップS6に戻し、そこでは前回よりも共通変曲点Prを大きな値に移動させるなどの追加調整をする。ステップS7での判定基準を満足する場合はステップS8に移行する。
【0102】
・ステップS8〜S9:
共通変曲点Prを確定し、変曲点制御部366によって、撮像素子21a,22aに共通に設定する。
【0103】
上記のステップS6において、具体的には、二つの変曲点位置P1,P2の中間点に共通変曲点Prを設定することもできる。この場合は、特に、1回の変更ルーチンだけで輝度分布BR1が飽和しなくなる状態、あるいは、輝度分布BR2が潰れなくなる状態にならない可能性が比較的高いため、ステップS7を経由した繰返しが有効である。
【0104】
たとえば、1回目のステップS6で変曲点位置P1,P2の第1中間点に共通変曲点Prを設定し、ステップS7において予測演算した結果として輝度分布BR1がまだダイナミックレンジを超えているとき、あるいは、輝度分布BR2がまだ出力限界MOよりかなり低い位置に存在する場合には、ステップS6に戻す。そして、戻ったステップS6では、前者の場合、変曲点位置P2と第1中間点との中間に相当する第2中間点に共通変曲点Prを更新する。また、後者の場合は、変曲点位置P1と第1中間点との中間に相当する第2中間点に共通変曲点Prを更新する。
【0105】
このようなルーチンを繰り返し、画像G1,G2の双方の輝度分布とダイナミックレンジとが整合した時点で、共通変曲点Prの更新を停止する。すなわち、ステップS6〜ステップS8の処理をトライ・エンド・エラーで何度か繰り返すことで徐々に最適値に近づけることが可能であって、これによって、適切な共通変曲点へと収束する。
【0106】
以上のように、各画像信号の輝度成分の分布範囲と光電変換特性のダイナミックレンジとを整合させるように共通変曲点を決定するダイナミックレンジ整合法を用いることで、画素の飽和や潰れへの対処を適切に行うことができる。
【0107】
共通変曲点を設定後に得られた複数の画像をディスプレイ32に並列的に表示させ、あるいは時間的に切り替え、あるいは合成して表示させたときにも、視覚的な違和感が軽減され、自然な画像が得られる。
【0108】
<4−1−2.輝度ピーク回避法>
この実施形態において「輝度ピーク回避法」と名付ける方法でも、画像信号の輝度分布を基礎情報として用いるが、そこでは変曲点に相当する入力があった場合に得られる出力値(輝度値)が、前記輝度分布のピークと重ならない様に共通変曲点を決定する。
【0109】
図9は、図8とは輝度分布状況が異なる場合について輝度ピーク回避法を説明する図である。図9(a)は、撮像素子21aによって出力された光電変換特性のダイナミックレンジと変曲点位置P1とを示した図(左図)、および、撮像素子22aによって出力された光電変換特性のダイナミックレンジと変曲点位置P2とを示した図(右図)である。また、図9(b)は、撮像素子21aによって出力された輝度分布BR1と変曲点位置P1に対応する輝度値P1aとを示した図(左図)、および、撮像素子22aによって出力された輝度分布BR2と変曲点位置P2に対応する輝度値P2bとを示した図(右図)である。さらに、図9(c)は、変曲点位置P1を輝度ピーク回避法により共通変曲点(変曲点補正位置)Prに設定した状態(左図)、および、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更した状態(右図)をそれぞれ示した図である。
【0110】
変曲点付近では入射光量に対する輝度のバラツキが大きく、殆ど同じ光量でもセンサのバラツキやノイズの大小で特性が変わってしまうことがある。そこで、輝度ピーク回避法では、輝度分布で変曲点付近に相当する輝度の頻度を確認し、変曲点付近での頻度が少なくなるように調整するという原理を採用する。
【0111】
図9(b)で示されるように、輝度分布BR1,BR2共に飽和してはいないものの、輝度分布BR2は変曲点位置P2近傍において輝度の分布(輝度値=P2bに対する頻度)がピークを持つのに対し、輝度分布BR1は変曲点位置P1近傍における輝度分布(輝度値=P1aに対する頻度)は少ないという特徴を持つ。また、図9(a)で示される撮像系21,22の変曲点の位置を比較しても大きく異なる。すなわち、撮像素子21aでは、変曲点位置P1が、撮像素子22aの変曲点位置P2より、出力限界近傍にあるため、Linear特性領域が多く分布するのに対し、撮像素子22aでは、Linear特性領域が極めて少ない分布を示す。したがって、変曲点位置P2を変曲点位置P1に揃えることで、輝度分布BR2は変曲点位置近傍での輝度分布がピークになることなく問題が解消する。加えて、よりLinear特性領域の多い方の変曲点に揃えると言う意味で、ダイナミックレンジ整合法と同様の効果もある。
【0112】
輝度ピーク回避法の場合、図7のフローの主なステップの具体的内容は以下の通りである。
【0113】
・ステップS3:
まず、画像G1,G2に属する画素の輝度ヒストグラムを作成し、それらの中から、所定の閾値を超える高さを持ったピークを捜す。そして、そのピークの輝度値(ピーク輝度値)を特徴量CHA1,CHA2とする。閾値を超えるピークを持たない場合には、特徴量をゼロとする。
【0114】
・ステップS4:
得られたピーク輝度値を、変曲点位置P1と変曲点位置P2との輝度値をそれぞれ比較し、変曲点輝度値からピーク輝度値までの隔たり(差)が所定の閾値以下であったならば、変曲点がピーク付近にあるということになり、共通変曲点の設定あるいは更新が必要であると判断する。
【0115】
このステップで、ピーク検出に閾値を使用するのは、ヒストグラムの細かな凸部をピークとして誤認させないためである。また、変曲点輝度値とピーク輝度値との差についての閾値は、たとえば当該ピークの半値幅の2倍を採用することができる。それ以上、変曲点がピークの頂点から離れていれば、実質的にはピークと重なってはいないと判断できるからである。なお、これらにおけるピークの高さは、ヒストグラムのピーク周辺の略平坦部を基準とした高さで定義する。
【0116】
・ステップS6:
ステップS5で処理対象エリアB0が設定されると、変曲点位置P1を共通変曲点(変曲点補正位置)Prとする。すなわち、この輝度ピーク回避法では、変曲点近傍の輝度分布が少ない方に変曲点を合わることで、輝度分布のピークを避けて共通変曲点を決定する。
【0117】
・ステップS7:
ここでは、共通変曲点候補を採用するとダイナミックレンジが著しく小さくなってしまうなどの副作用が生じるかどうかの判定を行うことができる。そのような副作用が予想されるような場合にはステップS6で求めた共通変曲点候補を破棄して、ステップS6に戻り、判定閾値を変更したり、別の方法に変更して共通変曲点候補を捜す。ステップS7の適否判定は省略し、ステップS6からステップS8に移行してもよい。以後に説明する各方法についても同様であり、以後の方法の説明においては、ステップS7の重複説明は省略する。
【0118】
・ステップS8〜S9:
共通変曲点Pr(変曲点位置P1)を確定し、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更する。
【0119】
以上のように、輝度ピーク回避法では、被写体のパターンが潰れるなどした画像への対処を適切に行うことができる。また、これによって、ダイナミックレンジの調節も合わせて行われることになる。さらに、画像表示を行った場合の視覚的な違和感も軽減され、自然な画像が得られる。
【0120】
<4−2.空間周波数分布の利用>
画像信号の空間周波数情報を利用する方法としては以下の例がある。
【0121】
<4−2−1.高周波優先法>
この実施形態において「高周波優先法」と名付ける方法では、画像G1,G2のうち高周波成分をより多く含む画像の現変曲点を、共通変曲点として決定する方法である。
【0122】
図10は、高周波優先法を説明する図である。図10(a)は、撮像素子21aによって出力された光電変換特性のダイナミックレンジと変曲点位置P1とを示した図(左図)、および、撮像素子22aによって出力された光電変換特性のダイナミックレンジと変曲点位置P2とを示した図(右図)である。また、図10(b)は、横軸を周波数fとし縦軸を周波数頻度P(f)としたグラフであり、撮像素子21aによって撮像された第1撮像画像G1の空間周波数分布SF1を示した図(左図)、および、撮像素子22aによって撮像された第2撮像画像G2の空間周波数分布SF2を示した図(右図)である。さらに、図10(c)は、高周波優先法により撮像素子21aの変曲点位置P1を共通変曲点(変曲点補正位置)Prに設定した状態(左図)、および、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更した状態(右図)をそれぞれ示した図である。
【0123】
画素の飽和や潰れが起こった場合、入射光量に対する画像の空間的輝度変化が平坦になる。つまり、その輝度領域での高周波成分が抑制されることになる。逆に言えば、高周波成分が相対的に多い方が、変曲点の設定が適切であるということになる。そのため、高周波優先法では、高周波成分がより多く存在するような変曲点を共通変曲点とする。すなわち、画像G1,G2のうち、より高周波成分の多い方を取得した撮像素子の現変曲点を共通変曲点として採用し、撮像素子21a,22aの変曲点をそれに揃える。
【0124】
図10(b)で示されるように、空間周波数分布SF1は、空間周波数分布SF2に比べて高周波成分を多く含む特徴を持つ。具体的には、高周波成分である所定の周波数を閾値周波数fhとして両者のグラフを見たときに、空間周波数分布SF1は空間周波数分布SF2に比べて、周波数f>閾値周波数fhに相当する高周波成分が多く含まれていることがわかる。また、図10(a)で示される撮像系21,22の変曲点の位置を比較しても大きく異なり、撮像素子21aでは、変曲点位置P1が変曲点位置P2より出力限界MO近傍にあるためLinear特性領域が多いのに対し、撮像素子22aでは、Linear特性領域が極めて少ない特徴を示す。したがって、変曲点位置P2を共通変曲点Prとして採用し、撮像素子22aの変曲点を変曲点位置P1から共通変曲点(変曲点補正位置)Prに揃えることで、変曲点の統一を行う。
【0125】
高周波優先法の場合、図7のフローの主なステップの具体的内容は以下の通りである。
【0126】
・ステップS3:
高周波優先法の場合の特徴量CHA1,CHA2は、解析エリアR1,R2における全周波数成分のうち、それぞれの高周波成分が占める占有比である。高周波成分としては所定の閾値周波数fhよりも高い周波数成分として定義する。
【0127】
・ステップS4:
画像G1,G2における高周波成分の占有比の差をとる。そしてその差(の絶対値)が所定の閾値よりも大きいときには、変曲点の統一が必要であると判断される。
【0128】
・ステップS6:
ステップS5で処理対象エリアB0が設定されると、変曲点位置P1を共通変曲点Prの候補とする。
【0129】
・ステップS8〜S9:
共通変曲点Pr(変曲点位置P1)を確定し、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更する。すなわち、高周波優先法では、高周波成分の多い方に変曲点を合わることで、共通変曲点を設定する。
【0130】
以上のように、高周波成分が相対的に多い画像信号を出力している撮像素子の変曲点を共通変曲点とすることで、各撮像素子の変曲点を統一して、精細な撮像や正確な画像処理が可能となる。また、これによって、ダイナミックレンジの調節も合わせて行われることになる。また、画像表示を行った場合の視覚的な違和感も軽減され、自然な画像が得られる。
【0131】
<4−3.物標検出結果の利用>
ここでは、物標検出結果を利用して共通変曲点の設定を行う場合の例を説明する。すなわち、物標検出結果としてより良好な結果が得られた変曲点を基準として、各撮像素子の共通変曲点を決定する。
【0132】
<4−3−1.エッジ量検出法>
この実施形態において「エッジ量検出法」と名付ける方法では、物標検出結果としてのエッジ量を特徴量として採用し、複数の画像信号のうちエッジ量がより多いと判断される変曲点を用いて共通変曲点を決定する。
【0133】
エッジ検出の具体的原理には様々なものがあるが、例えば、微分演算により勾配の大きさなどエッジの強さを導出した後、所定の閾値を適用して必要なエッジだけを抽出する方法が一般的である。画像にエッジ検出を施すことで、被写体の境界を示す連続する直線あるいは曲線が得られるため、エッジ検出を画像に施すことで処理すべきデータ量が大幅に削減され、相対的にあまり重要でない情報を排除しつつ、画像の構造的属性だけを保持することができる。
【0134】
図11は、エッジ検出法を使用した物標検出結果による変曲点補正方法を説明する図である。図11(a)は、撮像素子21aによって出力された光電変換特性のダイナミックレンジと変曲点位置P1とを示した図(左図)、および、撮像素子22aによって出力された光電変換特性のダイナミックレンジと変曲点位置P2とを示した図(右図)である。また、図11(b)は、画像G1のエッジ検出結果EG1を示した図(左図)、および、画像G2のエッジ検出結果EG2を示した図(右図)である。さらに、図11(c)は、撮像素子21aの変曲点位置P1を変曲点補正位置Prに設定した状態(左図)、および、撮像素子22aの変曲点を変曲点位置P2から変曲点補正位置Prに変更した状態(右図)をそれぞれ示した図である。
【0135】
図11(b)で示されるように、エッジ検出結果EG1は、同じ閾値の下、エッジ検出結果EG2に比べてエッジ数が多くカウントされる。また、図11(a)で示される撮像素子21a,22aの変曲点の位置を比較しても大きく異なり、撮像素子21aでは、変曲点位置P1が変曲点位置P2より出力限界MO近傍にあるためLinear特性領域が多く分布するのに対し、撮像素子22aでは、Linear特性領域が極めて少ない分布を示す。したがって、撮像素子21aの変曲点を変曲点位置P2から変曲点位置P1(変曲点補正位置Pr)に変更することで、変曲点位置P1を共通変曲点の位置とする。
【0136】
エッジ量検出法の場合、図7のフローのうちの主なステップの具体的内容は以下の通りである。
【0137】
・ステップS3:
解析エリアR1,R2のそれぞれにおいて、画像の空間的微分演算を行う。そして、所定の閾値よりも絶対値が大きな微分値を持つ線分をエッジとする。さらに検出したエッジの線分の総数、または検出したエッジの総延長を、エッジ数を表現する値として算出し、それらを特徴量CHA1,CHA2とする。
【0138】
・ステップS4:
特徴量CHA1,CHA2の差の絶対値が所定の閾値を超えたならば、変曲点の統一が必要であると判定する。
【0139】
・ステップS6:
特徴量CHA1,CHA2を相互に比較し、これらの中でより大きな特徴量を持つ撮像素子21aの変曲点P1を、共通変曲点Prの候補とする(図11(c))。
【0140】
・ステップS8〜S9:
共通変曲点Prを確定し、変曲点制御部366によって、撮像素子21a,22aに共通に設定する。
【0141】
以上によって、双方の撮像素子21a,22aで、より鮮明で画質の統一がとれた画像の組が得られるようになる。撮像素子21a,22aのダイナミックレンジも統一される。
【0142】
以上のように、エッジ検出に基づく物標検出結果がより良好と判断される変曲点を用いて共通変曲点を決定することで、物標検出処理に適した共通変曲点を各撮像素子に設定可能である。また、これによって、ダイナミックレンジの調節も合わせて行われることになる。また、画像表示を行った場合の視覚的な違和感も軽減され、自然な画像が得られる。
【0143】
<4−3−2.物標個数法>
この実施形態において「物標個数法」と名付ける方法では、検出した物標の個数を特徴量とし、複数の画像信号のうち検出物標の個数が多い方の変曲点を用いて共通変曲点を決定する。
【0144】
すなわち、多くの個数の物標を検出した変曲点の方が、画像の信頼度が高いと考え、その変曲点を共通変曲点とする。
【0145】
物標個数法の場合、図7のフローのうちの主なステップの具体的内容は以下の通りである。
【0146】
・ステップS3:
第1および第2撮像画像G1,G2で設定された解析エリアについて、画像のエッジ線を検出する。そしてエッジ線で囲まれる閉領域を検出し、それぞれの閉領域をひとつの物標とみなす。第1撮像画像G1の解析エリア内で検出された物標の個数N1(特徴量CHA1)と、第2撮像画像G2の解析エリアで検出された物標の個数N2(特徴量CHA2)とを特定する。
【0147】
・ステップS4:
物標の個数N1とN2とが同一の場合には、変曲点を統一する必要はないと判定し、それらの間に違いあればステップS5,S6に移行する。
【0148】
・ステップS6:
ステップS5で処理対象エリアB0が設定されると、物標の個数N1、N2が相互に比較され、たとえばN1>N2の場合には、撮像素子21aのその時点での変曲点を共通変曲点として採用する。
【0149】
・ステップS8〜S9:
共通変曲点Pr(変曲点位置P1)を確定し、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更する。
【0150】
この物標個数法においても、エッジ量検出法と同様の効果が得られる。
【0151】
<4−3−3.検出信頼度法>
この実施形態において「検出信頼度法」と名付ける方法では、第1および第2撮像画像G1,G2のうち、解析エリアR1,R2内における物標検出の信頼度が高い方の撮像素子の現時点での変曲点を共通変曲点として採用し、撮像素子21a,22aの変曲点をこの共通変曲点に統一する。物標検出の信頼度の評価には、たとえば公知のHough(ハフ)変換の投票数を用いることができる。
【0152】
検出信頼度法の場合、図7のフローのうちの主なステップの具体的内容は以下の通りである。
【0153】
・ステップS3:
画像G1,G2の微分演算によってエッジを抽出し、それぞれのエッジ画像を作成する。続いて、それぞれについてハフ変換投票処理を行ない、投票結果のピークを検出する。画像G1,G2についてのハフ変換の投票結果の最大ピーク値などを、信頼度を表現する特徴量CHA1,CHA2とする。
【0154】
・ステップS4:
特徴量CHA1,CHA2が同一の場合には、変曲点を統一する必要はないと判定し、それらの間に違いあればステップS5,S6に移行する。
【0155】
・ステップS6:
ステップS5で処理対象エリアB0が設定されると、特徴量CHA1,CHA2が相互に比較される。たとえば特徴量CHA1の方が大きいならば、撮像素子21aのその時点での変曲点を共通変曲点として採用する。
【0156】
・ステップS8〜S9:
共通変曲点Pr(変曲点位置P1)を確定し、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更する。
【0157】
以上のように、物標検出結果がより良好と判断される変曲点を用いて共通変曲点を決定することで、最適な共通変曲点を各撮像素子に設定可能である。また、これによって、ダイナミックレンジの調節も合わせて行われることになる。また、画像表示を行った場合の視覚的な違和感も軽減され、自然な画像が得られる。
【0158】
<5.変形例>
以上、本発明の実施形態について説明してきたが、本発明は、上記実施形態に限定されるものではなく、様々な変形が可能である。
【0159】
本実施形態では、説明の簡略化のために撮像系は2眼構成となっているが、これに限られず、複数眼あるいは複数台構成であれば適用可能である。また、カメラの台数が増えれば、変曲点を変更した場合の特徴量の変化を予測して共通変曲点の位置を決定する方法等が有効である。具体的に例えば、様々な変曲点候補となる場合に、変曲点の違いによる特徴量の変化を関数近似するなどし、最適な位置を推定することが可能となる。
【0160】
また、輝度分布を利用する場合に、解析エリア内の最大輝度のような輝度代表値を特徴量とすることもできる。例えば、全ての撮像素子の変曲点のうち、どの撮像素子も最大輝度が飽和しない範囲で、最も大きな入射光量に相当する変曲点を共通変曲点として採用するなどである。
【0161】
実施形態中で説明したように、共通変曲点は、複数の撮像素子のそれぞれにその時点で設定されている変曲点からの選択でもよく、各変曲点の補間や各変曲点を変数とする関数演算などによって、その時点での各変曲点とは異なる新たな変曲点として設定してもよい。
【0162】
共通変曲点の決定や撮像素子への設定は、撮像装置に内蔵したマイクロコンピュータや専用ハード回路で行ってもかまわない。すなわち、この発明の画像処理装置は撮像装置と別体となっていてもよく、一体化されていてもよい。
【0163】
ステレオカメラシステムにこの発明を適用した場合には、画像処理装置は、共通変曲点を設定した後の一対のステレオ画像に基づいて、3次元画像情報を生成する機能も備える。一対のステレオ画像間での対応点探索処理においても、双方の画像の画質や精度がほぼ統一されるため、対応点の探索精度が向上する。
【符号の説明】
【0164】
1 画像処理システム
2 撮像部
3 画像処理装置
20 多視点カメラ
21,22 撮像系
21a,22a 撮像素子
36 演算制御部
CP 変曲点
P1,P2 変曲点(変曲点位置)
Pr 共通変曲点(変曲点補正位置)
BR1,BR2 輝度分布
G1、G2 撮像画像
R1,R2 解析エリア
B0 処理対象エリア
【技術分野】
【0001】
本発明は、複数の撮像素子を用いて撮像を行う画像処理技術に関する。
【背景技術】
【0002】
近年、ステレオカメラなどの撮像素子において、ダイナミックレンジを広くすることを目指して、入射光量に対して線形的に変換した電気信号と、入射光量に対して対数的に変換した電気信号の出力が可能な撮像素子(以下、「Linear-Log特性を持つセンサ」と称する)が提案されてきている。そのような撮像素子では、入射光量と電気的出力信号との関係を示す特性線上の特定の点(変曲点)を境界として、線形特性(Linear特性)と対数特性(Log特性)とが自動的に切り替わる。
【0003】
この種の撮像素子を利用した技術として、例えば、光の強度に応じて出力が線形特性と対数特性とで切り替わるイメージセンサと投光器とを備える距離計測システムが提案されている(特許文献1)。他にも、露光処理用に求めた評価輝度値と目標輝度値との差に応じて露光条件を変える撮像装置(特許文献2)、画像の輝度分布に応じて変曲点を変動させる撮像装置(特許文献3)などが提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−46004号公報
【特許文献2】特開2007−312112号公報
【特許文献3】特開2006−333177号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
このようなLinear-Log特性を持つセンサ出力において、Linear特性では、細かい輝度変化には敏感だがダイナミックレンジが狭くなる特徴を持つのに対し、Log特性を用いた場合、ダイナミックレンジは拡大するが細かい変化は潰れてしまうという特徴を持つ。このため、環境に適した変曲点を設定することが撮影において必要となる。
【0006】
しかしながら、従来のLinear-Log特性を持つセンサ出力では、ステレオ画像撮影のように同一の被写体(撮影の対象体)から得た複数画像を対象にした画像処理で、画像ごとに大きく変曲点が変わると見た目に違和感があり、処理的にも各画像で全く相関のない別の画像を処理してしまうような問題がある。加えて、変曲点付近はセンサ自体の誤差や僅かな光量の変化で出力特性が大きく変わってしまい不安定でもある。Linear特性の方が細かい輝度変化にも敏感なため、本来は、可能な限りLinear特性を多く採用したいが、実際にはどのような状況でも最適となるような変曲点の決定方法は存在せず、状況に応じてフレキシブルに変曲点を設定することが現実的である。
【0007】
本発明は、このような事情に鑑みてなされたものであり、Linear-Log特性を持つ複数の撮像素子を用いて得た複数の画像信号の画像処理に際して、必要な画像情報を十分に取り込みつつ、複数の画像信号を統一的に扱うことを可能とする技術を提供することを第1の目的とする。
【0008】
この発明の第2目的は、上記複数の画像信号に基づく画像表示を行う場合に、視覚的な違和感を軽減することである。
【課題を解決するための手段】
【0009】
上記課題を解決するために、請求項1の発明は、複数の撮像素子を備えた撮像手段から出力される複数の画像信号を処理するとともに、前記撮像手段の制御を行う画像処理装置であって、前記複数の撮像素子のそれぞれは、可変に設定可能な変曲点を境界として線形変換特性と対数変換特性との間で切り替る光電変換特性を有しているとともに、初期状態においては相互に異なった変曲点が前記複数の撮像素子に設定されており、前記画像処理装置が、前記撮像手段から出力される前記複数の画像信号のそれぞれの特徴量を抽出する特徴量抽出手段と、前記複数の画像信号の特徴量に基づいて、所定の条件を満足する共通変曲点を決定する変曲点決定手段と、前記複数の撮像素子を制御することにより、前記複数の撮像素子のそれぞれの前記変曲点を前記共通変曲点に統一する変曲点制御手段とを備えることを特徴とする。
【0010】
また、請求項2の発明は、請求項1に記載の画像処理装置であって、前記特徴量は画像信号の輝度分布であり、各画像信号の輝度成分の分布範囲と各撮像素子の光電変換特性のダイナミックレンジとを整合させるように前記共通変曲点を決定することを特徴とする。
【0011】
また、請求項3の発明は、請求項1に記載の画像処理装置であって、前記特徴量は画像信号の輝度分布であり、変曲点に相当する入力があった場合に出力される輝度値が、前記輝度分布のピークと重ならない様に前記共通変曲点を決定することを特徴とする。
【0012】
また、請求項4の発明は、請求項1に記載の画像処理装置であって、前記特徴量は画像信号の空間周波数情報であり、高周波成分が相対的に多い画像信号を出力している撮像素子の変曲点を前記共通変曲点として決定することを特徴とする。
【0013】
また、請求項5の発明は、請求項1に記載の画像処理装置であって、前記特徴量は物標検出結果であり、前記複数の画像信号のうち所定の良否判定基準によって物標検出結果がより良好と判断される変曲点を用いて前記共通変曲点を決定することを特徴とする。
【0014】
また、請求項6の発明は、請求項1に記載の画像処理装置であって、前記変曲点決定手段は、前記複数の撮像素子にその時点で個別に設定されているそれぞれの変曲点の中から、前記特徴量が所定の基準を満たしている1の変曲点を選択して前記共通変曲点とすることを特徴とする。
【0015】
また、請求項7の発明は、請求項1に記載の画像処理装置であって、前記変曲点決定手段は、前記複数の撮像素子にその時点で個別に設定されているそれぞれの変曲点の補間点を前記共通変曲点とすることを特徴とする。
【0016】
また、請求項8の発明は、請求項1ないし請求項7のいずれかに記載の画像処理装置であって、前記複数の画像信号で表現されるそれぞれの画像領域の一部に、前記特徴量抽出手段での特徴量抽出解析に用いる解析エリアを設定する解析エリア設定手段、をさらに備えることを特徴とする。
【0017】
また、請求項9の発明は、請求項1ないし請求項8のいずれかに記載の画像処理装置であって、前記複数の画像信号で表現されるそれぞれの画像領域の一部に、前記共通変曲点の設定の対象となる対象エリアを決定する共通変曲エリア設定手段をさらに備えることを特徴とする。
【0018】
また、請求項10の発明は、請求項1ないし請求項9のいずれかに記載の画像処理装置であって、前記特徴量に関する所定の判定基準に基づいて、前記複数の撮像素子の変曲点の統一の要否を判定し、前記共通変曲点の決定のための処理タイミングを決定するタイミング制御手段をさらに備えることを特徴とする。
【0019】
また、請求項11の発明は、請求項10に記載の画像処理装置であって、前記タイミング制御手段は、前記所定の判定基準による判定を繰り返して行い、前記特徴量が前記所定の判定基準に合致したときに、前記共通変曲点の決定の処理を実行することを特徴とする。
【0020】
また、請求項12の発明は、請求項1ないし請求項11のいずれかに記載の画像処理装置であって、前記撮像手段は多視点カメラであり、前記複数の画像信号は前記多視点カメラのそれぞれの出力画像信号であることを特徴とする。
【0021】
また、請求項13の発明は、請求項1ないし請求項11のいずれかに記載の画像処理装置であって、前記撮像部はステレオカメラであり、前記複数の画像信号は前記ステレオカメラのそれぞれの出力画像信号であることを特徴とする。
【0022】
また、請求項14の発明は、コンピュータにインストールされて実行されることによって、前記コンピュータを、請求項1ないし請求項13のいずれかに記載の画像処理装置として機能させることを特徴とするプログラムである。
【発明の効果】
【0023】
請求項1ないし請求項14の発明によれば、複数の画像信号の状況を総合的に考慮しつつ、光電変換特性の変曲点を共通化する。このため、複数の撮像素子の光電変換特性が適切な特性に統一されて、必要な画像情報を十分に取り込みつつ、複数の画像信号を統一的に扱うことが可能となる。
【0024】
また、複数の画像を表示させる場合には、それらの画像の間の視覚的な違和感が軽減される。
【0025】
請求項2の発明によれば、各画像信号の輝度成分の分布範囲と光電変換特性のダイナミックレンジとを整合させるように共通変曲点を決定することで、画素の飽和や潰れへの対処を適切に行うことができる。
【0026】
請求項3の発明によれば、変曲点に相当する入力があった場合に出力される輝度値が、輝度分布のピークと重ならない様に共通変曲点を決定することで、パターンが潰れるなどした画像への対処を適切に行うことができる。
【0027】
請求項4の発明によれば、高周波成分が相対的に多い画像信号を出力している撮像素子にその時点で設定されている変曲点を避けて共通変曲点を決定することで、各撮像素子の変曲点を、精細な撮像が可能な共通変曲点に統一できる。
【0028】
請求項5の発明によれば、物標検出結果がより良好と判断される変曲点を用いて共通変曲点を決定することで、物標検出処理に適した共通変曲点を各撮像素子に設定可能である。
【0029】
請求項6の発明によれば、各撮像素子にその時点で設定されている変曲点の中からの選択であるため、共通変曲点の決定が迅速となる。
【0030】
請求項7の発明によれば、それぞれの変曲点の補間点を共通変曲点とすることにより、極端に片寄ることがない共通変曲点の決定が迅速となる。
【0031】
請求項8の発明によれば、共通変曲点の決定の基礎となる画像エリアを限定することで、注目すべき撮像対象に特化した適切な共通変曲点を決定できる。
【0032】
請求項9の発明によれば、共通変曲点を設定する空間領域を限定することで、不要な処理を減らすことができる。
【0033】
請求項10の発明によれば、共通変曲点の設定が必要であるときだけ共通変曲点の決定処理を行うので、無用のデータ処理を減らすことが出来る。
【0034】
請求項11の発明によれば、変曲点の統一化が必要になったときにはそのタイミングで共通変曲点の決定処理を行うことになるので、必要な時期に共通変曲点の設定を行うことが可能になる。
【0035】
請求項12の発明によれば、多視点カメラに適用することで、広範な領域において画像間で視覚的な違和感の少ない適切な画像を得ることができる。
【0036】
請求項13の発明によれば、ステレオカメラに適用することで、基準画像と参照画像との差を減らし、正確な距離の測定が可能となる。
【図面の簡単な説明】
【0037】
【図1】本発明の一実施形態に係る画像処理システムの概略構成を示す図である。
【図2】Linear-Log特性を例示する図である。
【図3】Linear特性とLog特性とのダイナミックレンジの違いを説明する図である。
【図4】変曲点の変更によって出力特性が変化することを説明する図である。
【図5】変曲点の変更によって出力画像が変化することを説明する図である。
【図6】一実施形態に係る演算制御部の機能的な構成例を示す図である。
【図7】一実施形態に係る画像処理装置の基本動作を示すフローチャートである。
【図8】輝度分布による変曲点補正方法を説明するための図である。
【図9】輝度分布による変曲点補正方法を説明するための図である。
【図10】空間周波数分布による変曲点補正方法を説明するための図である。
【図11】物標検出結果による変曲点補正方法を説明するための図である。
【図12】解析エリアの設定例を示す図である。
【図13】処理対象エリアの設定例を示す図である。
【発明を実施するための形態】
【0038】
<1.画像処理システムの概要>
図1は、本発明の一実施形態に係る画像処理システムの概略構成を示す図である。画像処理システム1は、多視点カメラシステムとして構成されており、撮像部2として2眼の多視点カメラ20を備えるほか、多視点カメラ20に対してデータの送受信が可能に接続される画像処理装置3を備える。
【0039】
多視点カメラ20は、撮像素子21a、22aをそれぞれ有する2つの撮像系21,22から構成されている。撮像系21,22は、カメラ正面の被写体(撮像の対象体)OBを、同じタイミングで異なる視点から撮像するように構成される。撮像系21,22による同じタイミングの撮像によって得られる2つの画像信号(以下「画像」と略称する)は、データ線CBを介して画像処理装置3に送信される。
【0040】
以下では、撮像系21の撮像によって取得される画像を「第1撮像画像」G1と称し、撮像系22の撮像によって取得される画像を「第2撮像画像」G2と称する。つまり、第1および第2撮像画像G1,G2は、同一の被写体OBが異なる視点からそれぞれ捉えられた画像の組を成す。
【0041】
ここでは、説明を簡素化するために、多視点カメラ20の収差は良好に補正されているとする。また、撮像系21,22は、略平行(好ましくは完全に平行)に設定され、ステレオカメラとして用いても良い。つまり、ステレオカメラとして用いる場合、撮像系21,22は所定方向に沿って離隔配置され、撮像系21,22の光軸が略平行(好ましくは完全に平行)に設定される状態を前提にする。また、何れのカメラにおいても、撮像系21,22の撮像素子21a、22aは、Linear-Log特性を持つ。
【0042】
画像処理装置3は、例えばパーソナルコンピュータ(パソコン)のような情報処理装置で構成され、マウスやキーボード等を含む操作部31と、液晶ディスプレイ等で構成されるディスプレイ32と、多視点カメラ20からのデータを受信するインターフェース(I/F)33とを備える。また、画像処理装置3は、記憶装置34と演算制御部36とを有する。
【0043】
記憶装置34は、例えばハードディスク等で構成され、多視点カメラ2の撮像によって得られる第1および第2撮像画像G1,G2を記憶する。また、記憶装置34には、後述される変曲点制御を行うためのプログラムPG等が格納される。
【0044】
入出力部35は、例えば可搬性ディスクドライブを備えて構成され、光ディスク等の可搬性記憶媒体をセットして、演算制御部36との間でデータの授受を行う。
【0045】
演算制御部36は、プロセッサとして働くCPU36aと、情報を一時的に記憶するメモリ36bとを有し、画像処理装置3の各部を統括的に制御する。演算制御部36では、記憶部34内のプログラムPGが読み込まれて実行されることで、各種機能や各種情報処理等が実現される。なお、メモリ36bには、可搬性記憶媒体に記憶されているプログラムデータを、入出力部35を介して格納させることができる。この格納されたプログラムは、画像処理装置3の動作に適宜反映可能である。
【0046】
演算制御部36は、後述する変曲点制御動作によって得られる情報を基に、撮像素子21a、22aのそれぞれのLinear-Log特性に共通に設定する変曲点を算出する。そして、ディスプレイ32では、演算制御部36で算出された変曲点に基づいて、被写体OBの画像を可視的に出力する。
【0047】
<1−1.Linear-Log特性の一般的性質と前提事情>
この実施形態における撮像素子21a、22aの変曲点制御の詳細を説明する準備として、この実施形態の前提となるLinear-Log特性の一般的性質と、それに伴って生じる事情、すなわち従来技術で生じていた事情を説明しておく。
【0048】
Linear-Log特性を持つ撮像素子を以下では「L-L特性センサ」と略称することにすると、L-L特性センサでは、撮像素子の画素に相当する各フォトダイオードで発生した光電流を、MOSFETを通して積分回路に与え出力信号を得ている。低照度時には線形変換特性(Linear特性)となり、フォトダイオードで発生した光電流の時間積分値(入射光量)に比例する出力信号が得られ、高照度時には対数変換特性(Log特性)となり、フォトダイオードで発生した光電流の時間積分値(入射光量)に対数的に依存する出力電圧が得られる。それらの境界(臨界点)としての変曲点は、非撮像時のMOSFETのゲート電圧と、撮像時のMOSFETのゲート電圧との差を変更することによって移動させることができる。変曲点の制御信号は、このようなゲート電圧差を可変に設定する信号である。
【0049】
次に、このLinear-Log特性および変曲点について図2から図4を参照して具体的に説明する。なお、以下の図中のLog特性に関しては、本来は上に凸の対数曲線であるが、簡略化のため直線で示している。図2は、L-L特性センサの入出力特性を例示する図である。L-L特性センサでは、図2のように入射光量が特定の閾値α以下の場合、輝度に相当する出力は入力をLinear変換したものに相当し、入射光量が閾値α以上の場合、入力をLog変換して出力する。したがって、図2においては、入射光量が閾値αに相当する点(入射光量=α)、すなわち、Linear特性とLog特性との境界点が変曲点CPとなる。
【0050】
図3は、Linear特性とLog特性とのダイナミックレンジの違いを説明する図である。図3に示すように、Linear特性での入力上限(出力限界MOでの入射光量)は値βであるのに対し、Log特性領域での入力上限は値γにまで達し、L-L特性センサでは、Linear特性だけを固定的に持つ一般的なセンサに比べ、ダイナミックレンジを広くすることが可能となる。
【0051】
また、L-L特性センサは入射光量が閾値αよりも小さい領域においてはLinear特性を有するため、低輝度領域において一般的なセンサと同様の画像を出力することが出来る。
【0052】
その一方で、L-L特性センサから出力される画像の画質は、変曲点CPの設定位置に依存して大きく変化するという特質がある。
【0053】
図4は、変曲点CPの位置を変更することで出力特性が変化することを説明する図であり、図5は、図4のように変曲点CPの位置を変更することで出力画像が変化することを説明する図である。
【0054】
ステレオカメラなどに使用される2つのL-L特性センサ(実施形態の撮像素子21a、22aに相当するセンサ)のうち、第1センサの変曲点CP1が、図4(a)のように出力限界MOの近傍にあってLinear特性範囲がほぼ最大化されており、第2センサの変曲点CP2は、図4(b)のようにかなり低い位置に存在する場合を考える。
【0055】
このとき、たとえば比較的暗い光環境での撮像のように、各画素での入射光量が少ない場合には、第1センサも第2センサもLinear特性での出力となる。このため、図5(a)で示されるように、出力画像である第1および第2撮像画像G1,G2は、Linear特性が最大限活かされた高精度な画像が得られる。
【0056】
ところが、変曲点CP1〜CP2の中間に相当する光環境で撮像をしたような場合には、第1センサの出力はLinear特性領域にあり、第2センサの出力はLog特性領域にあるため、それらの間に不整合が生じてしまい、図5(b)で示されるように、一方のセンサから得た画像と他方のセンサから得た画像との間の画質にかなりの差が生じてしまう。
【0057】
また、変曲点CP2をかなり超えるような明るい光環境で撮像したような場合には、いずれのセンサもLog特性領域となるが、図4から理解できるように、双方の対数曲線の高さは同じではない(同じ入射光量に対して図4(b)の方が、出力値が小さい)。したがって、同じ入射光量に対する出力値は図4(a)と図4(b)との場合で相互に異なることになり、やはり、双方の画像の画質に違いが生じる。
【0058】
このように変曲点CP1、CP2がL-L特性センサごとに異なるという状況は、各カメラでの変曲点制御が互いに独立していることに起因して生じる。すなわち、従来技術では、各カメラでの変曲点制御を個別に行うような構成とされていたために、それぞれのカメラに別の変曲点が設定されてしまうことになる。そのため、全く特性の異なる画像が得られる可能性があるために画像を視覚的に比較した際の違和感が大きく、また物体検出や画像間での対応点探索の様な画像処理においても全く条件が違う画像を処理することになってしまう。
【0059】
このような背景の下、本発明では、複数のL-L特性センサの変曲点CPの位置を共通化するように、画像処理装置を構成する。
【0060】
<2.画像処理システムの機能構成>
本発明の実施形態のシステム1の説明に戻る。図6は、変曲点制御動作を実行するために演算制御部36で実現される機能的な構成を示す図である。なお、ここでは、演算制御部36の機能的な構成が、事前にインストールされているプログラムPGの実行によって実現されるものとして説明するが、専用のハードウエア構成で実現されても良い。
【0061】
図2で示されるように、撮像部2からデータを受信して、演算制御部36は、機能的な構成として、画像処理部361、解析エリア設定部362、特徴量抽出部363、タイミング制御部364、共通変曲エリア設定部365、および変曲点制御部366を有する。以降、各手段について図1および図6を参照して概略を説明する。
【0062】
<2−1.撮像部2>
撮像部2(多視点カメラ20)は、被写体OBを複数(ここでは2つ)の撮像素子21a、22aで撮像し、画像処理装置30に画像信号を送信する役割を持つ。撮像素子21a、22aはLinear-Log特性を持つが、撮像動作を開始した初期状態においては、撮像素子21a、22aのLinear-Log特性の変曲点は一致していないものとする。
【0063】
<2−2.画像処理部361>
画像処理部361は、第1および第2撮像画像G1,G2を用いて画像処理を行う。各画像での物体の検出、多視点カメラ20間で画像の結合や同一物体の同定、ディスプレイ32への表示制御等を行う。
【0064】
<2−3.解析エリア設定部362>
解析エリア設定部362は、撮像部2である多視点カメラ20により取得された第1および第2撮像画像G1,G2を入力する。解析エリア設定部362では、入力された画像の空間範囲の一部を、解析エリアとして設定する。この解析エリアは、次段の特徴量抽出部363で特徴量抽出を行うエリアとなる。
【0065】
解析エリアの設定方法として最も単純な方法としては、利用者が操作部31を用いてマニュアル操作で指定する方法がある。例えば、画像中で特定範囲だけが重要であるとあらかじめわかっている場合にはこのマニュアル指定は有効である。他の設定方法としては、物体検出処理、エッジ検出および対応点探索等の画像処理の結果を受けて、特徴的な部位に設定する方法が挙げられる。その際、画像処理部361から処理結果を受け取ることも可能である。たとえば、図12に例示するように、人物と背景とからなる画像の場合に、人物が写っている空間範囲を解析エリアR1,R2とすることができる。この解析エリアR1,R2は共通のサイズおよび位置を有するが、第1および第2撮像画像G1,G2において互いに異なる位置あるいは互いに異なるサイズに設定されていてもよい。解析エリアR1,R2は、第1および第2撮像画像G1,G2の全域であってもよいが、このように一部とすることにより、データ処理時間が短縮化されるほか、重要な空間部分の状況を、共通変曲点の決定に強く反映させることが可能となる。
【0066】
<2−4.特徴量抽出部363>
特徴量抽出部363は、解析エリア設定部362が設定した、第1および第2撮像画像G1,G2内の解析エリアR1,R2において、画像の特徴量CHA1,CHA2を抽出する。この特徴量CHA1,CHA2は、次段のタイミング制御部364〜変曲点制御部366で用いられる。
【0067】
特徴量として典型的なものとしては、輝度(最大輝度、最低輝度、平均輝度、ヒストグラム等)がある。それ以外の特徴量としては、画像の空間周波数成分、エッジ量を用いた物標検出結果(検出の信頼度、検出数等)等がある。その際、画像処理部361から処理結果を受け取ることも可能である。
【0068】
<2−5.タイミング制御部364>
タイミング制御部364は、次段の変曲点制御部366の動作タイミングを制御する。変曲点制御タイミングとしての最も簡単なものとしては、カメラのフレームや動作時間で指定する等、固定値で与える方法が挙げられる。本実施形態においては、特徴量抽出部363が設定した特徴量をベースにタイミング制御を行う。
【0069】
具体的には例えば、特徴量CHA1,CHA2の差を所定の閾値と比較し、差が閾値以下だった場合、変曲点の差は少なく、変曲点の相互調整(具体的には変曲点の共通化)を行う必要はない。したがって、差が閾値を超えたタイミングで変曲点の共通化のための後記の処理を行う。
【0070】
また、別の方法として、別の装置等から情報を得て判定する方法が考えられる。例えば、温度や周辺の照度等の環境情報を入力し、それが所定の条件を満足したときに(換言すれば所定の条件を満足したタイミングで)変曲点の共通化処理を開始する。
【0071】
<2−6.共通変曲点エリア設定部365>
共通変曲エリア設定部365は、第1および第2撮像画像G1,G2から変曲点共通化処理を行う画像エリアを設定する。すなわち、変曲点の共通化は、撮像素子21a、22aから得た第1および第2撮像画像G1,G2の全画素を対象とすることもできるが、一部の空間領域に制限することもできる。たとえば、第1および第2撮像画像G1,G2に人物と背景が含まれており、人物については双方の画像を組み合わせて精密な画像分析をしたいために輝度も同程度としたいが、背景については、別の制御機構や処理が入っていた場合、干渉を避けるために背景では変曲点は変更しないことが好ましい。
【0072】
このときには、人物が存在する空間範囲の画像の変曲点は撮像素子21a、22aの双方に共通であることが好ましいが、背景については、撮像素子21a、22aに個別に初期設定された変曲点のままにしておくことが好ましい。このような事情を考慮して、図13に例示するように、変曲点共通化処理を行う画像エリア(処理対象エリア)B0を第1および第2撮像画像G1,G2の一部に設定する。処理対象エリアB0のサイズおよび位置は、第1および第2撮像画像G1,G2において同一である。
【0073】
処理対象エリアB0の設定方法として典型的な例としては、固定値で指定する方法がある。例えば、重要な被写体が存在する可能性が高い中央エリア、多視点カメラの場合の画像端などの別のカメラの画像と同じ被写体が写っている可能性が高い画像エリア、監視カメラの場合の監視重要エリアなどを処理対象エリアB0として設定する等が可能である。処理対象エリアB0として画像全体を指定することもできる。
【0074】
また、解析エリア設定部362で決定された解析エリアR1、R2と同じ場所に処理対象エリアB0を設定するほか、処理対象エリアB0の動的な設定方法として、画像処理部361から画像処理結果(たとえば特定の対象体の検出処理結果)を受け取って、当該対象体を含むエリアを処理対象エリアB0として設定することもできる。
【0075】
<2−7.変曲点制御部366>
変曲点制御部366は、変曲エリア設定部365が設定した処理対象エリアについて、撮像素子21a、22aのLinear-Log特性に対して共通の変曲点を設定する。
【0076】
具体的には、特徴量CHA1,CHA2を相互に比較し、所定の基準によって選択した一方の変曲点を高越変曲点とする方法がある。例えば、特徴量が輝度分布であった場合、より広範囲に輝度が分布しており、また画素飽和や画素潰れが少ない変曲点を共通変曲点とする場合などがそれにあたる。詳細は後述する。
【0077】
決定された共通変曲点に対応する電位差を、撮像素子21a、22aにおいて処理対象エリアに相当する各画素についての、非撮像時のMOSFETのゲート電圧と、撮像時のMOSFETのゲート電圧との差として付与することによって、それらの各画素についてのLinear特性とLog特性との境界を統一する。
【0078】
<3.画像処理装置の基本動作>
図7は、画像処理システム1において実現される変曲点制御の基本動作に関するフローを例示するフローチャートである。例えば、ユーザによる操作部31に対する操作に応じて、本動作フローが開始されて、図7のステップS1に進む。
【0079】
ステップS1では、撮像部2に設けられた撮像素子21a、22aによって、第1および第2撮像画像G1,G2が取得される。ここで、画像処理部361によって、第1および第2撮像画像G1,G2についての画像処理が行われ、得られた画像がディスプレイ32へ表示される。
【0080】
ステップS2では、解析エリア設定部362によって、第1および第2撮像画像G1,G2で表現されるそれぞれの画像領域の一部に、ステップS3の特徴量抽出解析に用いる解析エリアR1,R2が設定される。
【0081】
ステップS3では、特徴量抽出部363によって、解析エリアR1,R2において、画像の特徴量が抽出される。これらの詳細は後述する。
【0082】
ステップS4では、タイミング制御部364によって、特徴量に関する所定の判定基準に基づいて、撮像素子21a、22aの変曲点の統一(共通化)の要否が判定され、共通変曲点の決定のための処理タイミングが決定される。変曲点の統一が必要であれば、ステップS5に進み、変曲点の統一が不要であれば、本動作フローが終了される。
【0083】
ステップS5では、共通変曲エリア設定部365によって、第1および第2撮像画像G1,G2で表現されるそれぞれの画像領域の一部に、ステップS6の共通変曲点算出に用いる処理対象エリアB0が決定される。
【0084】
ステップS6では、タイミング制御部364によって、共通変曲点算出のための計算が行われる。
【0085】
ステップS7では、タイミング制御部364によって、ステップS6で行われた計算結果に基づいて、特徴量が所定の判定基準に合致したか否かが判定される。当該所定の判定基準に合致した場合は、ステップS8に進み、当該所定の判定基準に満たない場合は、ステップS6に戻る。
【0086】
ステップS8では、タイミング制御部364によって、共通変曲点の決定が行われる。その種々の具体例は後述するが、たとえば第1および第2撮像画像G1,G2の輝度の分布範囲が撮像素子21a、22aのダイナミックレンジに収まるように共通変曲点を決定することにより、入射光量のオーバーフローによる画像の潰れを防止しつつ、第1および第2撮像画像G1,G2の画質を統一することができる。
【0087】
ステップS9では、変曲点制御部366によって、共通変曲点の決定後の処理が行われる。すなわち、変曲点制御部366によって、撮像素子21a、22aの変曲点が共通変曲点に設定され、本動作フローの1回分が終了する。
【0088】
これらのステップS1〜S9からなるルーチンは、時間的に繰り返して実行される。撮像素子21a、22aで得られる画像が動画である場合には、たとえば1〜数フレームごとにこのルーチンを繰り返す。撮像環境は時々刻々と変化しているため、変曲点の共通化が不要である状況からそれが必要な状況に変化する場合もあり、また、いったん共通変曲点を設定しても、撮像環境の変化によって、共通変曲点の値をずらせる必要が生じたりするためである。共通変曲点を設定あるいは変更後のフレームでは、撮像素子21a、22aからより適切な第1および第2撮像画像G1,G2が得られる。
【0089】
静止画の場合には、撮像を行なう都度、このルーチンが実行される。このルーチンにおいて変曲点の共通化が不要であると判定されればその1回目のルーチンだけでよいが、変曲点の共通化が必要であると判定され、実際に変曲点を共通化したときには、共通化した後の撮像素子21a、22aから改めて第1および第2撮像画像G1,G2を取り込む。
【0090】
動画、静止画のいずれであっても、第1および第2撮像画像G1,G2に基づいて、画像表示や、画像認識、3次元画像生成などの所定の画像処理(画像データの処理)を行う。画像データの保存あるいは画像伝送を経た後の画像処理も同様である。この実施形態は多視点カメラシステムとして構成されているため、たとえば指定された位置を視点とする任意視点画像の生成やディスプレイ32への表示が、撮像結果を利用する画像処理である。
【0091】
以上のように、この実施形態に係る画像処理システム1によれば、複数の画像信号の状況を総合的に考慮しつつ、撮像素子21a、22aの光電変換特性の変曲点を共通化できる。このため、撮像素子21a、22aの光電変換特性が適切な特性に統一されて、必要な画像情報を十分に取り込みつつ、複数の画像信号を統一的に扱うことが可能となる。
【0092】
<4.具体例>
図7のフローチャートで示されるようにステップS3の特徴量として、複数のファクタが挙げられるが、本具体例では、その中の、輝度分布、空間周波数分布、物標検出について、図7を参照しながらプロセスを順次説明する。
【0093】
なお、以下では、「撮像素子21a,22aから得られた第1および第2撮像画像G1,G2のうち、解析エリアR1,R2に属する部分」をそれぞれ「画像G1,G2」と略称し、また、「画像G1,G2を撮像した撮像素子21a,22aにその時点で設定されている変曲点」を「画像G1,G2の現変曲点P1,P2」のように略称する。
【0094】
<4−1.輝度分布の利用>
<4−1−1.ダイナミックレンジ整合法>
この実施形態で「ダイナミックレンジ整合法」と名付ける方法では、画像信号の輝度分布を用いて特徴量を定義し、各画像信号の輝度成分の分布範囲と各撮像素子の光電変換特性のダイナミックレンジとを整合させるように共通変曲点を決定する。
【0095】
図8は、輝度分布によるダイナミックレンジ整合法を説明するための図である。図8(a)は、撮像素子21a(図1参照)によって出力された輝度分布BR1を示した図(左図)、および、撮像素子22aによって出力された輝度分布BR2を示した図(右図)である。また、図8(b)は、輝度分布BR1に対応する光電変換特性のダイナミックレンジと変曲点位置P1とを示した図(左図)、および、輝度分布BR2に対応する光電変換特性のダイナミックレンジと変曲点位置P2とを示した図(右図)である。さらに、図8(c)は、ダイナミックレンジ整合法により変曲点位置P1を共通変曲点(変曲点補正位置)Prとして設定した状態(左図)、および、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更した状態(右図)をそれぞれ示した図である。
【0096】
図8(a)で示されるように、輝度分布BR1は飽和しているのに対し,輝度分布BR2は輝度分布が全域に分布していない。すなわち、撮像素子21aでは、変曲点位置P1が、撮像素子22aの変曲点位置P2より、出力限界MO近傍にあるため、Linear特性領域が多く分布するが、撮像素子22aでは、撮像素子21aと比べてLog特性領域が多く分布する(図8(b)参照)。したがって、輝度分布BR1,BR2の両者が、飽和せず、全域に行き渡るような条件を満たすべく、変曲点の変更が必要であることがわかる。
【0097】
ダイナミックレンジ整合法の場合、図7のフローの主なステップの具体的内容は以下の通りである。
【0098】
・ステップS3:
画像G1,G2に属する画素のうち、撮像素子21a,22aの最大輝度(Max)に相当する画素の数(頻度)をそれぞれカウントして、画像G1,G2(解析エリアR1,R2)のそれぞれの画素総数に占める割合(比率)を特徴量CHA1,CHA2とする。
【0099】
・ステップS4:
特徴量CHA1,CHA2と所定の閾値とをそれぞれ比較し、特徴量CHA1,CHA2のうち所定の閾値を超えるものがあれば、共通変曲点の設定あるいは更新が必要であると判断する。
【0100】
・ステップS6:
特徴量CHA1,CHA2を相互に比較し、これらの中でより小さな特徴量を持つ撮像素子21bの変曲点P2を、共通変曲点Prの候補とする(図8(c))。
【0101】
・ステップS7:
変曲点P1を共通変曲点としたときに輝度分布BR1,BR2がそのように変化するかを予測演算し、画像G1における最大輝度(Max)の画素数が十分に減少するか、あるいは、画像G2における最大輝度(Max)の画素数が十分に増加するかどうかを判定する。輝度分布BR1,BR2の双方が飽和しているような場合には、この判定で否定的な結果が出る場合もある。このようなときにはステップS6に戻し、そこでは前回よりも共通変曲点Prを小さな値に移動させるなどの追加調整をする。逆に、輝度分布BR1,BR2の双方が潰れているような場合には、この判定で否定的な結果が出る場合もある。このようなときにはステップS6に戻し、そこでは前回よりも共通変曲点Prを大きな値に移動させるなどの追加調整をする。ステップS7での判定基準を満足する場合はステップS8に移行する。
【0102】
・ステップS8〜S9:
共通変曲点Prを確定し、変曲点制御部366によって、撮像素子21a,22aに共通に設定する。
【0103】
上記のステップS6において、具体的には、二つの変曲点位置P1,P2の中間点に共通変曲点Prを設定することもできる。この場合は、特に、1回の変更ルーチンだけで輝度分布BR1が飽和しなくなる状態、あるいは、輝度分布BR2が潰れなくなる状態にならない可能性が比較的高いため、ステップS7を経由した繰返しが有効である。
【0104】
たとえば、1回目のステップS6で変曲点位置P1,P2の第1中間点に共通変曲点Prを設定し、ステップS7において予測演算した結果として輝度分布BR1がまだダイナミックレンジを超えているとき、あるいは、輝度分布BR2がまだ出力限界MOよりかなり低い位置に存在する場合には、ステップS6に戻す。そして、戻ったステップS6では、前者の場合、変曲点位置P2と第1中間点との中間に相当する第2中間点に共通変曲点Prを更新する。また、後者の場合は、変曲点位置P1と第1中間点との中間に相当する第2中間点に共通変曲点Prを更新する。
【0105】
このようなルーチンを繰り返し、画像G1,G2の双方の輝度分布とダイナミックレンジとが整合した時点で、共通変曲点Prの更新を停止する。すなわち、ステップS6〜ステップS8の処理をトライ・エンド・エラーで何度か繰り返すことで徐々に最適値に近づけることが可能であって、これによって、適切な共通変曲点へと収束する。
【0106】
以上のように、各画像信号の輝度成分の分布範囲と光電変換特性のダイナミックレンジとを整合させるように共通変曲点を決定するダイナミックレンジ整合法を用いることで、画素の飽和や潰れへの対処を適切に行うことができる。
【0107】
共通変曲点を設定後に得られた複数の画像をディスプレイ32に並列的に表示させ、あるいは時間的に切り替え、あるいは合成して表示させたときにも、視覚的な違和感が軽減され、自然な画像が得られる。
【0108】
<4−1−2.輝度ピーク回避法>
この実施形態において「輝度ピーク回避法」と名付ける方法でも、画像信号の輝度分布を基礎情報として用いるが、そこでは変曲点に相当する入力があった場合に得られる出力値(輝度値)が、前記輝度分布のピークと重ならない様に共通変曲点を決定する。
【0109】
図9は、図8とは輝度分布状況が異なる場合について輝度ピーク回避法を説明する図である。図9(a)は、撮像素子21aによって出力された光電変換特性のダイナミックレンジと変曲点位置P1とを示した図(左図)、および、撮像素子22aによって出力された光電変換特性のダイナミックレンジと変曲点位置P2とを示した図(右図)である。また、図9(b)は、撮像素子21aによって出力された輝度分布BR1と変曲点位置P1に対応する輝度値P1aとを示した図(左図)、および、撮像素子22aによって出力された輝度分布BR2と変曲点位置P2に対応する輝度値P2bとを示した図(右図)である。さらに、図9(c)は、変曲点位置P1を輝度ピーク回避法により共通変曲点(変曲点補正位置)Prに設定した状態(左図)、および、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更した状態(右図)をそれぞれ示した図である。
【0110】
変曲点付近では入射光量に対する輝度のバラツキが大きく、殆ど同じ光量でもセンサのバラツキやノイズの大小で特性が変わってしまうことがある。そこで、輝度ピーク回避法では、輝度分布で変曲点付近に相当する輝度の頻度を確認し、変曲点付近での頻度が少なくなるように調整するという原理を採用する。
【0111】
図9(b)で示されるように、輝度分布BR1,BR2共に飽和してはいないものの、輝度分布BR2は変曲点位置P2近傍において輝度の分布(輝度値=P2bに対する頻度)がピークを持つのに対し、輝度分布BR1は変曲点位置P1近傍における輝度分布(輝度値=P1aに対する頻度)は少ないという特徴を持つ。また、図9(a)で示される撮像系21,22の変曲点の位置を比較しても大きく異なる。すなわち、撮像素子21aでは、変曲点位置P1が、撮像素子22aの変曲点位置P2より、出力限界近傍にあるため、Linear特性領域が多く分布するのに対し、撮像素子22aでは、Linear特性領域が極めて少ない分布を示す。したがって、変曲点位置P2を変曲点位置P1に揃えることで、輝度分布BR2は変曲点位置近傍での輝度分布がピークになることなく問題が解消する。加えて、よりLinear特性領域の多い方の変曲点に揃えると言う意味で、ダイナミックレンジ整合法と同様の効果もある。
【0112】
輝度ピーク回避法の場合、図7のフローの主なステップの具体的内容は以下の通りである。
【0113】
・ステップS3:
まず、画像G1,G2に属する画素の輝度ヒストグラムを作成し、それらの中から、所定の閾値を超える高さを持ったピークを捜す。そして、そのピークの輝度値(ピーク輝度値)を特徴量CHA1,CHA2とする。閾値を超えるピークを持たない場合には、特徴量をゼロとする。
【0114】
・ステップS4:
得られたピーク輝度値を、変曲点位置P1と変曲点位置P2との輝度値をそれぞれ比較し、変曲点輝度値からピーク輝度値までの隔たり(差)が所定の閾値以下であったならば、変曲点がピーク付近にあるということになり、共通変曲点の設定あるいは更新が必要であると判断する。
【0115】
このステップで、ピーク検出に閾値を使用するのは、ヒストグラムの細かな凸部をピークとして誤認させないためである。また、変曲点輝度値とピーク輝度値との差についての閾値は、たとえば当該ピークの半値幅の2倍を採用することができる。それ以上、変曲点がピークの頂点から離れていれば、実質的にはピークと重なってはいないと判断できるからである。なお、これらにおけるピークの高さは、ヒストグラムのピーク周辺の略平坦部を基準とした高さで定義する。
【0116】
・ステップS6:
ステップS5で処理対象エリアB0が設定されると、変曲点位置P1を共通変曲点(変曲点補正位置)Prとする。すなわち、この輝度ピーク回避法では、変曲点近傍の輝度分布が少ない方に変曲点を合わることで、輝度分布のピークを避けて共通変曲点を決定する。
【0117】
・ステップS7:
ここでは、共通変曲点候補を採用するとダイナミックレンジが著しく小さくなってしまうなどの副作用が生じるかどうかの判定を行うことができる。そのような副作用が予想されるような場合にはステップS6で求めた共通変曲点候補を破棄して、ステップS6に戻り、判定閾値を変更したり、別の方法に変更して共通変曲点候補を捜す。ステップS7の適否判定は省略し、ステップS6からステップS8に移行してもよい。以後に説明する各方法についても同様であり、以後の方法の説明においては、ステップS7の重複説明は省略する。
【0118】
・ステップS8〜S9:
共通変曲点Pr(変曲点位置P1)を確定し、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更する。
【0119】
以上のように、輝度ピーク回避法では、被写体のパターンが潰れるなどした画像への対処を適切に行うことができる。また、これによって、ダイナミックレンジの調節も合わせて行われることになる。さらに、画像表示を行った場合の視覚的な違和感も軽減され、自然な画像が得られる。
【0120】
<4−2.空間周波数分布の利用>
画像信号の空間周波数情報を利用する方法としては以下の例がある。
【0121】
<4−2−1.高周波優先法>
この実施形態において「高周波優先法」と名付ける方法では、画像G1,G2のうち高周波成分をより多く含む画像の現変曲点を、共通変曲点として決定する方法である。
【0122】
図10は、高周波優先法を説明する図である。図10(a)は、撮像素子21aによって出力された光電変換特性のダイナミックレンジと変曲点位置P1とを示した図(左図)、および、撮像素子22aによって出力された光電変換特性のダイナミックレンジと変曲点位置P2とを示した図(右図)である。また、図10(b)は、横軸を周波数fとし縦軸を周波数頻度P(f)としたグラフであり、撮像素子21aによって撮像された第1撮像画像G1の空間周波数分布SF1を示した図(左図)、および、撮像素子22aによって撮像された第2撮像画像G2の空間周波数分布SF2を示した図(右図)である。さらに、図10(c)は、高周波優先法により撮像素子21aの変曲点位置P1を共通変曲点(変曲点補正位置)Prに設定した状態(左図)、および、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更した状態(右図)をそれぞれ示した図である。
【0123】
画素の飽和や潰れが起こった場合、入射光量に対する画像の空間的輝度変化が平坦になる。つまり、その輝度領域での高周波成分が抑制されることになる。逆に言えば、高周波成分が相対的に多い方が、変曲点の設定が適切であるということになる。そのため、高周波優先法では、高周波成分がより多く存在するような変曲点を共通変曲点とする。すなわち、画像G1,G2のうち、より高周波成分の多い方を取得した撮像素子の現変曲点を共通変曲点として採用し、撮像素子21a,22aの変曲点をそれに揃える。
【0124】
図10(b)で示されるように、空間周波数分布SF1は、空間周波数分布SF2に比べて高周波成分を多く含む特徴を持つ。具体的には、高周波成分である所定の周波数を閾値周波数fhとして両者のグラフを見たときに、空間周波数分布SF1は空間周波数分布SF2に比べて、周波数f>閾値周波数fhに相当する高周波成分が多く含まれていることがわかる。また、図10(a)で示される撮像系21,22の変曲点の位置を比較しても大きく異なり、撮像素子21aでは、変曲点位置P1が変曲点位置P2より出力限界MO近傍にあるためLinear特性領域が多いのに対し、撮像素子22aでは、Linear特性領域が極めて少ない特徴を示す。したがって、変曲点位置P2を共通変曲点Prとして採用し、撮像素子22aの変曲点を変曲点位置P1から共通変曲点(変曲点補正位置)Prに揃えることで、変曲点の統一を行う。
【0125】
高周波優先法の場合、図7のフローの主なステップの具体的内容は以下の通りである。
【0126】
・ステップS3:
高周波優先法の場合の特徴量CHA1,CHA2は、解析エリアR1,R2における全周波数成分のうち、それぞれの高周波成分が占める占有比である。高周波成分としては所定の閾値周波数fhよりも高い周波数成分として定義する。
【0127】
・ステップS4:
画像G1,G2における高周波成分の占有比の差をとる。そしてその差(の絶対値)が所定の閾値よりも大きいときには、変曲点の統一が必要であると判断される。
【0128】
・ステップS6:
ステップS5で処理対象エリアB0が設定されると、変曲点位置P1を共通変曲点Prの候補とする。
【0129】
・ステップS8〜S9:
共通変曲点Pr(変曲点位置P1)を確定し、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更する。すなわち、高周波優先法では、高周波成分の多い方に変曲点を合わることで、共通変曲点を設定する。
【0130】
以上のように、高周波成分が相対的に多い画像信号を出力している撮像素子の変曲点を共通変曲点とすることで、各撮像素子の変曲点を統一して、精細な撮像や正確な画像処理が可能となる。また、これによって、ダイナミックレンジの調節も合わせて行われることになる。また、画像表示を行った場合の視覚的な違和感も軽減され、自然な画像が得られる。
【0131】
<4−3.物標検出結果の利用>
ここでは、物標検出結果を利用して共通変曲点の設定を行う場合の例を説明する。すなわち、物標検出結果としてより良好な結果が得られた変曲点を基準として、各撮像素子の共通変曲点を決定する。
【0132】
<4−3−1.エッジ量検出法>
この実施形態において「エッジ量検出法」と名付ける方法では、物標検出結果としてのエッジ量を特徴量として採用し、複数の画像信号のうちエッジ量がより多いと判断される変曲点を用いて共通変曲点を決定する。
【0133】
エッジ検出の具体的原理には様々なものがあるが、例えば、微分演算により勾配の大きさなどエッジの強さを導出した後、所定の閾値を適用して必要なエッジだけを抽出する方法が一般的である。画像にエッジ検出を施すことで、被写体の境界を示す連続する直線あるいは曲線が得られるため、エッジ検出を画像に施すことで処理すべきデータ量が大幅に削減され、相対的にあまり重要でない情報を排除しつつ、画像の構造的属性だけを保持することができる。
【0134】
図11は、エッジ検出法を使用した物標検出結果による変曲点補正方法を説明する図である。図11(a)は、撮像素子21aによって出力された光電変換特性のダイナミックレンジと変曲点位置P1とを示した図(左図)、および、撮像素子22aによって出力された光電変換特性のダイナミックレンジと変曲点位置P2とを示した図(右図)である。また、図11(b)は、画像G1のエッジ検出結果EG1を示した図(左図)、および、画像G2のエッジ検出結果EG2を示した図(右図)である。さらに、図11(c)は、撮像素子21aの変曲点位置P1を変曲点補正位置Prに設定した状態(左図)、および、撮像素子22aの変曲点を変曲点位置P2から変曲点補正位置Prに変更した状態(右図)をそれぞれ示した図である。
【0135】
図11(b)で示されるように、エッジ検出結果EG1は、同じ閾値の下、エッジ検出結果EG2に比べてエッジ数が多くカウントされる。また、図11(a)で示される撮像素子21a,22aの変曲点の位置を比較しても大きく異なり、撮像素子21aでは、変曲点位置P1が変曲点位置P2より出力限界MO近傍にあるためLinear特性領域が多く分布するのに対し、撮像素子22aでは、Linear特性領域が極めて少ない分布を示す。したがって、撮像素子21aの変曲点を変曲点位置P2から変曲点位置P1(変曲点補正位置Pr)に変更することで、変曲点位置P1を共通変曲点の位置とする。
【0136】
エッジ量検出法の場合、図7のフローのうちの主なステップの具体的内容は以下の通りである。
【0137】
・ステップS3:
解析エリアR1,R2のそれぞれにおいて、画像の空間的微分演算を行う。そして、所定の閾値よりも絶対値が大きな微分値を持つ線分をエッジとする。さらに検出したエッジの線分の総数、または検出したエッジの総延長を、エッジ数を表現する値として算出し、それらを特徴量CHA1,CHA2とする。
【0138】
・ステップS4:
特徴量CHA1,CHA2の差の絶対値が所定の閾値を超えたならば、変曲点の統一が必要であると判定する。
【0139】
・ステップS6:
特徴量CHA1,CHA2を相互に比較し、これらの中でより大きな特徴量を持つ撮像素子21aの変曲点P1を、共通変曲点Prの候補とする(図11(c))。
【0140】
・ステップS8〜S9:
共通変曲点Prを確定し、変曲点制御部366によって、撮像素子21a,22aに共通に設定する。
【0141】
以上によって、双方の撮像素子21a,22aで、より鮮明で画質の統一がとれた画像の組が得られるようになる。撮像素子21a,22aのダイナミックレンジも統一される。
【0142】
以上のように、エッジ検出に基づく物標検出結果がより良好と判断される変曲点を用いて共通変曲点を決定することで、物標検出処理に適した共通変曲点を各撮像素子に設定可能である。また、これによって、ダイナミックレンジの調節も合わせて行われることになる。また、画像表示を行った場合の視覚的な違和感も軽減され、自然な画像が得られる。
【0143】
<4−3−2.物標個数法>
この実施形態において「物標個数法」と名付ける方法では、検出した物標の個数を特徴量とし、複数の画像信号のうち検出物標の個数が多い方の変曲点を用いて共通変曲点を決定する。
【0144】
すなわち、多くの個数の物標を検出した変曲点の方が、画像の信頼度が高いと考え、その変曲点を共通変曲点とする。
【0145】
物標個数法の場合、図7のフローのうちの主なステップの具体的内容は以下の通りである。
【0146】
・ステップS3:
第1および第2撮像画像G1,G2で設定された解析エリアについて、画像のエッジ線を検出する。そしてエッジ線で囲まれる閉領域を検出し、それぞれの閉領域をひとつの物標とみなす。第1撮像画像G1の解析エリア内で検出された物標の個数N1(特徴量CHA1)と、第2撮像画像G2の解析エリアで検出された物標の個数N2(特徴量CHA2)とを特定する。
【0147】
・ステップS4:
物標の個数N1とN2とが同一の場合には、変曲点を統一する必要はないと判定し、それらの間に違いあればステップS5,S6に移行する。
【0148】
・ステップS6:
ステップS5で処理対象エリアB0が設定されると、物標の個数N1、N2が相互に比較され、たとえばN1>N2の場合には、撮像素子21aのその時点での変曲点を共通変曲点として採用する。
【0149】
・ステップS8〜S9:
共通変曲点Pr(変曲点位置P1)を確定し、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更する。
【0150】
この物標個数法においても、エッジ量検出法と同様の効果が得られる。
【0151】
<4−3−3.検出信頼度法>
この実施形態において「検出信頼度法」と名付ける方法では、第1および第2撮像画像G1,G2のうち、解析エリアR1,R2内における物標検出の信頼度が高い方の撮像素子の現時点での変曲点を共通変曲点として採用し、撮像素子21a,22aの変曲点をこの共通変曲点に統一する。物標検出の信頼度の評価には、たとえば公知のHough(ハフ)変換の投票数を用いることができる。
【0152】
検出信頼度法の場合、図7のフローのうちの主なステップの具体的内容は以下の通りである。
【0153】
・ステップS3:
画像G1,G2の微分演算によってエッジを抽出し、それぞれのエッジ画像を作成する。続いて、それぞれについてハフ変換投票処理を行ない、投票結果のピークを検出する。画像G1,G2についてのハフ変換の投票結果の最大ピーク値などを、信頼度を表現する特徴量CHA1,CHA2とする。
【0154】
・ステップS4:
特徴量CHA1,CHA2が同一の場合には、変曲点を統一する必要はないと判定し、それらの間に違いあればステップS5,S6に移行する。
【0155】
・ステップS6:
ステップS5で処理対象エリアB0が設定されると、特徴量CHA1,CHA2が相互に比較される。たとえば特徴量CHA1の方が大きいならば、撮像素子21aのその時点での変曲点を共通変曲点として採用する。
【0156】
・ステップS8〜S9:
共通変曲点Pr(変曲点位置P1)を確定し、撮像素子22aの変曲点を変曲点位置P2から共通変曲点Prに変更する。
【0157】
以上のように、物標検出結果がより良好と判断される変曲点を用いて共通変曲点を決定することで、最適な共通変曲点を各撮像素子に設定可能である。また、これによって、ダイナミックレンジの調節も合わせて行われることになる。また、画像表示を行った場合の視覚的な違和感も軽減され、自然な画像が得られる。
【0158】
<5.変形例>
以上、本発明の実施形態について説明してきたが、本発明は、上記実施形態に限定されるものではなく、様々な変形が可能である。
【0159】
本実施形態では、説明の簡略化のために撮像系は2眼構成となっているが、これに限られず、複数眼あるいは複数台構成であれば適用可能である。また、カメラの台数が増えれば、変曲点を変更した場合の特徴量の変化を予測して共通変曲点の位置を決定する方法等が有効である。具体的に例えば、様々な変曲点候補となる場合に、変曲点の違いによる特徴量の変化を関数近似するなどし、最適な位置を推定することが可能となる。
【0160】
また、輝度分布を利用する場合に、解析エリア内の最大輝度のような輝度代表値を特徴量とすることもできる。例えば、全ての撮像素子の変曲点のうち、どの撮像素子も最大輝度が飽和しない範囲で、最も大きな入射光量に相当する変曲点を共通変曲点として採用するなどである。
【0161】
実施形態中で説明したように、共通変曲点は、複数の撮像素子のそれぞれにその時点で設定されている変曲点からの選択でもよく、各変曲点の補間や各変曲点を変数とする関数演算などによって、その時点での各変曲点とは異なる新たな変曲点として設定してもよい。
【0162】
共通変曲点の決定や撮像素子への設定は、撮像装置に内蔵したマイクロコンピュータや専用ハード回路で行ってもかまわない。すなわち、この発明の画像処理装置は撮像装置と別体となっていてもよく、一体化されていてもよい。
【0163】
ステレオカメラシステムにこの発明を適用した場合には、画像処理装置は、共通変曲点を設定した後の一対のステレオ画像に基づいて、3次元画像情報を生成する機能も備える。一対のステレオ画像間での対応点探索処理においても、双方の画像の画質や精度がほぼ統一されるため、対応点の探索精度が向上する。
【符号の説明】
【0164】
1 画像処理システム
2 撮像部
3 画像処理装置
20 多視点カメラ
21,22 撮像系
21a,22a 撮像素子
36 演算制御部
CP 変曲点
P1,P2 変曲点(変曲点位置)
Pr 共通変曲点(変曲点補正位置)
BR1,BR2 輝度分布
G1、G2 撮像画像
R1,R2 解析エリア
B0 処理対象エリア
【特許請求の範囲】
【請求項1】
複数の撮像素子を備えた撮像手段から出力される複数の画像信号を処理するとともに、前記撮像手段の制御を行う画像処理装置であって、前記複数の撮像素子のそれぞれは、可変に設定可能な変曲点を境界として線形変換特性と対数変換特性との間で切り替る光電変換特性を有しているとともに、初期状態においては相互に異なった変曲点が前記複数の撮像素子に設定されており、
前記画像処理装置が、
前記撮像手段から出力される前記複数の画像信号のそれぞれの特徴量を抽出する特徴量抽出手段と、
前記複数の画像信号の特徴量に基づいて、所定の条件を満足する共通変曲点を決定する変曲点決定手段と、
前記複数の撮像素子を制御することにより、前記複数の撮像素子のそれぞれの前記変曲点を前記共通変曲点に統一する変曲点制御手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
請求項1に記載の画像処理装置であって、
前記特徴量は画像信号の輝度分布であり、各画像信号の輝度成分の分布範囲と各撮像素子の光電変換特性のダイナミックレンジとを整合させるように前記共通変曲点を決定することを特徴とする画像処理装置。
【請求項3】
請求項1に記載の画像処理装置であって、
前記特徴量は画像信号の輝度分布であり、変曲点に相当する入力があった場合に出力される輝度値が、前記輝度分布のピークと重ならない様に前記共通変曲点を決定することを特徴とする画像処理装置。
【請求項4】
請求項1に記載の画像処理装置であって、
前記特徴量は画像信号の空間周波数情報であり、高周波成分が相対的に多い画像信号を出力している撮像素子の変曲点を前記共通変曲点として決定することを特徴とする画像処理装置。
【請求項5】
請求項1に記載の画像処理装置であって、
前記特徴量は物標検出結果であり、前記複数の画像信号のうち所定の良否判定基準によって物標検出結果がより良好と判断される変曲点を用いて前記共通変曲点を決定することを特徴とする画像処理装置。
【請求項6】
請求項1に記載の画像処理装置であって、
前記変曲点決定手段は、前記複数の撮像素子にその時点で個別に設定されているそれぞれの変曲点の中から、前記特徴量が所定の基準を満たしている1の変曲点を選択して前記共通変曲点とすることを特徴とする画像処理装置。
【請求項7】
請求項1に記載の画像処理装置であって、
前記変曲点決定手段は、前記複数の撮像素子にその時点で個別に設定されているそれぞれの変曲点の補間点を前記共通変曲点とすることを特徴とする画像処理装置。
【請求項8】
請求項1ないし請求項7のいずれかに記載の画像処理装置であって、
前記複数の画像信号で表現されるそれぞれの画像領域の一部に、前記特徴量抽出手段での特徴量抽出解析に用いる解析エリアを設定する解析エリア設定手段、
をさらに備えることを特徴とする画像処理装置。
【請求項9】
請求項1ないし請求項8のいずれかに記載の画像処理装置であって、
前記複数の画像信号で表現されるそれぞれの画像領域の一部に、前記共通変曲点の設定の対象となる対象エリアを決定する共通変曲エリア設定手段、
をさらに備えることを特徴とする画像処理装置。
【請求項10】
請求項1ないし請求項9のいずれかに記載の画像処理装置であって、
前記特徴量に関する所定の判定基準に基づいて、前記複数の撮像素子の変曲点の統一の要否を判定し、前記共通変曲点の決定のための処理タイミングを決定するタイミング制御手段、
をさらに備えることを特徴とする画像処理装置。
【請求項11】
請求項10に記載の画像処理装置であって、
前記タイミング制御手段は、前記所定の判定基準による判定を繰り返して行い、前記特徴量が前記所定の判定基準に合致したときに、前記共通変曲点の決定の処理を実行することを特徴とする画像処理装置。
【請求項12】
請求項1ないし請求項11のいずれかに記載の画像処理装置であって、
前記撮像手段は多視点カメラであり、前記複数の画像信号は前記多視点カメラのそれぞれの出力画像信号であることを特徴とする画像処理装置。
【請求項13】
請求項1ないし請求項11のいずれかに記載の画像処理装置であって、
前記撮像部はステレオカメラであり、前記複数の画像信号は前記ステレオカメラのそれぞれの出力画像信号であることを特徴とする画像処理装置。
【請求項14】
コンピュータにインストールされて実行されることによって、前記コンピュータを、請求項1ないし請求項13のいずれかに記載の画像処理装置として機能させることを特徴とするプログラム。
【請求項1】
複数の撮像素子を備えた撮像手段から出力される複数の画像信号を処理するとともに、前記撮像手段の制御を行う画像処理装置であって、前記複数の撮像素子のそれぞれは、可変に設定可能な変曲点を境界として線形変換特性と対数変換特性との間で切り替る光電変換特性を有しているとともに、初期状態においては相互に異なった変曲点が前記複数の撮像素子に設定されており、
前記画像処理装置が、
前記撮像手段から出力される前記複数の画像信号のそれぞれの特徴量を抽出する特徴量抽出手段と、
前記複数の画像信号の特徴量に基づいて、所定の条件を満足する共通変曲点を決定する変曲点決定手段と、
前記複数の撮像素子を制御することにより、前記複数の撮像素子のそれぞれの前記変曲点を前記共通変曲点に統一する変曲点制御手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
請求項1に記載の画像処理装置であって、
前記特徴量は画像信号の輝度分布であり、各画像信号の輝度成分の分布範囲と各撮像素子の光電変換特性のダイナミックレンジとを整合させるように前記共通変曲点を決定することを特徴とする画像処理装置。
【請求項3】
請求項1に記載の画像処理装置であって、
前記特徴量は画像信号の輝度分布であり、変曲点に相当する入力があった場合に出力される輝度値が、前記輝度分布のピークと重ならない様に前記共通変曲点を決定することを特徴とする画像処理装置。
【請求項4】
請求項1に記載の画像処理装置であって、
前記特徴量は画像信号の空間周波数情報であり、高周波成分が相対的に多い画像信号を出力している撮像素子の変曲点を前記共通変曲点として決定することを特徴とする画像処理装置。
【請求項5】
請求項1に記載の画像処理装置であって、
前記特徴量は物標検出結果であり、前記複数の画像信号のうち所定の良否判定基準によって物標検出結果がより良好と判断される変曲点を用いて前記共通変曲点を決定することを特徴とする画像処理装置。
【請求項6】
請求項1に記載の画像処理装置であって、
前記変曲点決定手段は、前記複数の撮像素子にその時点で個別に設定されているそれぞれの変曲点の中から、前記特徴量が所定の基準を満たしている1の変曲点を選択して前記共通変曲点とすることを特徴とする画像処理装置。
【請求項7】
請求項1に記載の画像処理装置であって、
前記変曲点決定手段は、前記複数の撮像素子にその時点で個別に設定されているそれぞれの変曲点の補間点を前記共通変曲点とすることを特徴とする画像処理装置。
【請求項8】
請求項1ないし請求項7のいずれかに記載の画像処理装置であって、
前記複数の画像信号で表現されるそれぞれの画像領域の一部に、前記特徴量抽出手段での特徴量抽出解析に用いる解析エリアを設定する解析エリア設定手段、
をさらに備えることを特徴とする画像処理装置。
【請求項9】
請求項1ないし請求項8のいずれかに記載の画像処理装置であって、
前記複数の画像信号で表現されるそれぞれの画像領域の一部に、前記共通変曲点の設定の対象となる対象エリアを決定する共通変曲エリア設定手段、
をさらに備えることを特徴とする画像処理装置。
【請求項10】
請求項1ないし請求項9のいずれかに記載の画像処理装置であって、
前記特徴量に関する所定の判定基準に基づいて、前記複数の撮像素子の変曲点の統一の要否を判定し、前記共通変曲点の決定のための処理タイミングを決定するタイミング制御手段、
をさらに備えることを特徴とする画像処理装置。
【請求項11】
請求項10に記載の画像処理装置であって、
前記タイミング制御手段は、前記所定の判定基準による判定を繰り返して行い、前記特徴量が前記所定の判定基準に合致したときに、前記共通変曲点の決定の処理を実行することを特徴とする画像処理装置。
【請求項12】
請求項1ないし請求項11のいずれかに記載の画像処理装置であって、
前記撮像手段は多視点カメラであり、前記複数の画像信号は前記多視点カメラのそれぞれの出力画像信号であることを特徴とする画像処理装置。
【請求項13】
請求項1ないし請求項11のいずれかに記載の画像処理装置であって、
前記撮像部はステレオカメラであり、前記複数の画像信号は前記ステレオカメラのそれぞれの出力画像信号であることを特徴とする画像処理装置。
【請求項14】
コンピュータにインストールされて実行されることによって、前記コンピュータを、請求項1ないし請求項13のいずれかに記載の画像処理装置として機能させることを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2011−229054(P2011−229054A)
【公開日】平成23年11月10日(2011.11.10)
【国際特許分類】
【出願番号】特願2010−98580(P2010−98580)
【出願日】平成22年4月22日(2010.4.22)
【出願人】(303000408)コニカミノルタオプト株式会社 (3,255)
【Fターム(参考)】
【公開日】平成23年11月10日(2011.11.10)
【国際特許分類】
【出願日】平成22年4月22日(2010.4.22)
【出願人】(303000408)コニカミノルタオプト株式会社 (3,255)
【Fターム(参考)】
[ Back to top ]