説明

光センサ用感度調節方法、光センサ用感度調節装置、ビジュアルトラッキング制御方法及びビジュアルトラッキング制御装置

【課題】光センサ部の非線形特性を考慮しながらも高速に感度調節を行えるようにすることを課題とする。
【解決手段】シリコン網膜カメラ2では、非線形性を有する光センサ部3の感度を調節する際に、シリコン網膜カメラ2からフレーム単位の画素情報に基づいて最大振幅値を求め、その最大振幅値とあらかじめ与えられた振幅値の目標範囲との関係から、最大振幅値が目標範囲外にあった場合には、最大振幅値が目標範囲内に入るまで、シリコン網膜カメラ2を駆動するための電荷の蓄積時間を段階的に増加するように更新する。

【発明の詳細な説明】
【0001】
【発明の属する技術分野】
本発明は、たとえば、光センサ用感度調節方法、光センサ用感度調節装置、ビジュアルトラッキング制御方法及びビジュアルトラッキング制御装置に関する。
【0002】
【従来の技術】
今日、ロボットの目としてカメラを使うことを考えた場合、ロボットが人間のように外界を知覚できるようなカメラ及び画像処理技術が必要となる。このような技術は、これまで数多く提案されてきている。
【0003】
上述したような技術の中でも、人間の網膜に見られる並列処理を行う機能をCMOS集積回路として実現したビジョンチップと呼ばれるものが開発されている。シリコン網膜もビジョンチップのひとつである。
【0004】
シリコン網膜の光センサ部には、フォトダイオード(PD)の寄生容量成分が利用されている。その動作原理はつぎのようである。まずPDに電圧をかけて容量に電荷が蓄積させれると、つぎにPDで放電が行なわれる。この放電によって光強度に比例した電流が流れ出し、容量に蓄えられた電荷が放出される。光強度が強いほど電流が大きく、PDの両端の電圧の減衰は速くなる。したがって、適当な時間でPDの電圧を出力として取り出せば、光強度に比例した電圧の減少が得られる。この時間を以下に蓄積時間Taという。
【0005】
シリコン網膜はラプラシアン−ガウシアン型のフィルタ特性を持っており、輪郭強調及び平滑化の画像前処理を実時間で行なうことができる。図10(A)、(B)はそれぞれシリコン網膜に白い背景の中でオレンジ色のボールを提示した時のCCDカメラの出力、シリコン網膜カメラの出力を示している。図10のシリコン網膜の出力ではボールの輪郭付近で白黒の強調部分を見ることができる。
【0006】
また、シリコン網膜で蓄積時間を変えたときの白黒パターンに対する1ライン分の出力応答は図11のようになる。図11からわかるように蓄積時間を変えることで応答感度を調節することができると考えられる。また、図11での出力に見られるようなエッジ付近での輪郭強調による上下のピーク値の幅を以下に最大振幅値Vppとする。
【0007】
シリコン網膜を用いた場合、前処理を施した出力しか得ることができないので、通常行われているように、撮像素子のフロントエンドに位置している光センサ部の情報を用いて光の強度を判断することはできなかった。
【0008】
【発明が解決しようとする課題】
まず最大振幅値と蓄積時間と照明条件との関係を調べた実験結果は図12のようになる。ここでは白い背景の中でのオレンジ色のボールをシリコン網膜に提示して実験を行なった。
【0009】
図12の結果から感度を調節しようとしたときに問題となるのが、蓄積時間を増やし続けると、ある値を越えてからは最大振幅値が減少し始めることである。このような非線形特性が現れるのはシリコン網膜に使われている光センサの特性によるものである。
【0010】
上述したように光センサ部にはフォトダイオードを利用している。そのため、放電時間を長く(つまり蓄積時間を大きく)し過ぎると、受光面において強い光を受けている受光素子では容量に蓄えられていた電荷が全て放出され、これにより、電圧の変化が起こらなくなってしまう場合がある。逆に弱い光を受けている受光素子では電圧降下が進み続けるため、画面全体でのコントラストが失われてしまう。これにより、非線形特性が現れる場合がある。
【0011】
この特性のために感度調節を考える場合に蓄積時間を増加させるべきなのか、それとも減少させるべきなのかが大きな問題である。例えば図12で照明条件が160[Lux]、蓄積時間が160[ms]の状態から照明条件の変化によって最大振幅値が350[mV]から95[mV]に減少した場合を考えてみる。このとき、図12に示したように、変化後の照明条件は明るい800[Lux]と暗い12[Lux]の二通りの可能性が考えられる。ここで、照明条件が800[Lux]、160[Lux]、12[Lux]のときの曲線をそれぞれ121、122、123で示す。
【0012】
そのため、実際の変化がどちらなのかを判断するためには蓄積時間を変化させ、その結果得られた最大振幅値をもとに判断する必要がある。上述の例では、蓄積時間を大きくしてみると、照明条件が800[Lux]に明るくなっていた場合には最大振幅値は減少し(図12の曲線121を参照)、照明条件が12[Lux]に暗くなっていた場合には最大振幅値は増加していた(図12の曲線123を参照)。このようにして、蓄積時間の変動に対する最大振幅値の変化を調べることで照明条件の変化を知ることができる。
【0013】
しかしながら、上述した方法では、蓄積時間を変化させても最大振幅値に変化が起こらないような領域にある場合には照明条件の変化を判断することができなかった。また、照明条件の変化を判断することに時間がかかってしまい、高速性が損なわれるという問題が生じた。
【0014】
本発明の目的は、光センサ部の非線形特性を考慮しながらも高速に感度調節を行うことが可能な光センサ用感度調節方法及び光センサ用感度調節装置を提供することにある。
【0015】
また、本発明の目的は、上述したように高速に感度調節を行いながら、さらに、ロボット等のカメラによる高速なトラッキング性能を実現することが可能なビジュアルトラッキング制御方法及びビジュアルトラッキング制御装置を提供することにある。
【0016】
【課題を解決するための手段】
上述した課題を解決し、上記目的を達成するため、請求項1の発明に係る光センサ用感度調節方法は、非線形性を有する光センサの感度を調節する光センサ用感度調節方法であって、前記光センサから出力された所定単位の画素情報に基づいて最大振幅値を求める第一ステップと、前記第一ステップで求めた最大振幅値があらかじめ与えられた振幅値の目標範囲内にあるか否かの関係を判断する第二ステップと、前記第二ステップにより前記最大振幅値が前記目標範囲外にあるという関係が判断された場合には、前記第二ステップにより前記最大振幅値が前記目標範囲内にあるという関係が判断されるまで、前記光センサを駆動するための電荷の蓄積時間を段階的に増加するように更新する第三ステップと、を含んだことを特徴とするものである。
【0017】
請求項1の発明に係る光センサ用感度調節方法は、請求項2の発明のように、前記第三ステップは、最大振幅値と蓄積時間との相関関係を示す曲線において少なくとも過去2サイクル分の蓄積時間にそれぞれ対応する最大振幅値に基づいて線形近似した直線を求め、当該直線が前記目標範囲と交差する位置までを蓄積時間として設定するようにしてもよい。
【0018】
請求項2の発明に係る光センサ用感度調節方法は、請求項3の発明のように、前記目標範囲は最大振幅値の上限と下限により囲まれる範囲を指し、前記直線が前記目標範囲の上限と交差する位置までを蓄積時間として設定するようにしてもよい。
【0019】
請求項1、2又は3の発明に係る光センサ用感度調節方法は、請求項4の発明のように、前記第三ステップは、前記光センサを駆動するための電荷の蓄積時間を段階的に増加させる場合、前記蓄積時間の最小値から開始するようにしてもよい。
【0020】
また、請求項5の発明に係る光センサ用感度調節装置は、光センサの感度を調節する光センサ用感度調節装置であって、前記光センサから出力された所定単位の画素情報に基づいて最大振幅値を検出する最大振幅値検出手段と、前記最大振幅値検出手段で検出された最大振幅値とあらかじめ与えられた振幅値の目標範囲とを比較する比較手段と、前記比較手段により前記最大振幅値が前記目標範囲外にあるという比較結果が得られた場合には、前記比較手段により前記最大振幅値が前記目標範囲内にあるという比較結果が得られるまで、前記光センサを駆動するための電荷の蓄積時間を段階的に増加するように更新する制御手段と、を備えたことを特徴とするものである。
【0021】
請求項5の発明に係る光センサ用感度調節装置は、請求項6の発明のように、前記光センサは、シリコン網膜カメラに適用されるようにしてもよい。
【0022】
請求項5又は6の発明に係る光センサ用感度調節装置は、請求項7の発明のように、前記制御手段は、FPGAにて実装されるようにしてもよい。
【0023】
請求項5、6又は7の発明に係る光センサ用感度調節装置は、請求項8の発明のように、前記最大振幅値検出手段は、前記光センサから出力された所定単位の画素情報について最小値と最大値との差分から最大振幅値を検出するようにしてもよい。
【0024】
また、請求項9の発明に係るビジュアルトラッキング制御方法は、非線形性を有する光センサ部及び駆動モータ部を有するカメラを用いて対象物をトラッキング制御するビジュアルトラッキング制御方法であって、前記光センサ部から出力された所定単位の画素情報に基づいて最大振幅値を求める第一ステップと、前記第一ステップで求めた最大振幅値があらかじめ与えられた振幅値の目標範囲内にあるか否かの関係を判断する第二ステップと、前記第二ステップにより前記最大振幅値が前記目標範囲外にあるという関係が判断された場合には、前記第二ステップにより前記最大振幅値が前記目標範囲内にあるという関係が判断されるまで、前記光センサ部を駆動するための電荷の蓄積時間を段階的に増加するように更新する第三ステップと、前記第一ステップで求めた最大振幅値を参照して前記光センサ部から出力された所定単位の画素情報に基づいてエッジ検出を行う第四ステップと、前記第四ステップによるエッジ検出の結果に基づいて重心を求める第五ステップと、前記第五ステップで求めた重心に基づいて前記駆動モータを制御する第六ステップと、を含んだことを特徴とするものである。
【0025】
請求項9の発明に係るビジュアルトラッキング制御方法は、請求項10の発明のように、前記第四ステップは、エッジ検出のための閾値を前記第一ステップで求めた最大振幅値に比例して変化させるようにしてもよい。
【0026】
請求項9又は10の発明に係るビジュアルトラッキング制御方法は、請求項11の発明のように、前記カメラの駆動モータ部はチルト方向、パン方向にそれぞれ駆動可能であり、前記第六ステップは、前記カメラの駆動モータ部に対してチルト方向の制御信号、パン方向の制御信号をそれぞれ出力するようにしてもよい。
【0027】
請求項9、10又は11の発明に係るビジュアルトラッキング制御方法は、請求項12の発明のように、前記目標範囲を75mV〜185mVとしてもよい。
【0028】
また、請求項14の発明に係るビジュアルトラッキング制御装置は、非線形性を有する光センサ部及び部駆動モータ部を有するカメラに接続され、当該カメラを用いて対象物をトラッキング制御するビジュアルトラッキング制御装置であって、前記光センサ部から出力された所定単位の画素情報に基づいて最大振幅値を検出する最大振幅値検出手段と、前記最大振幅値検出手段で検出された最大振幅値とあらかじめ与えられた振幅値の目標範囲とを比較する比較手段と、前記比較手段により前記最大振幅値が前記目標範囲外にあるという比較結果が得られた場合には、前記比較手段により前記最大振幅値が前記目標範囲内にあるという比較結果が得られるまで、前記光センサ部を駆動するための電荷の蓄積時間を段階的に増加するように更新する制御手段と、前記最大振幅値検出手段で検出された最大振幅値を参照して前記光センサ部から出力された所定単位の画素情報に基づいてエッジ検出を行うエッジ検出手段と、前記エッジ検出手段によるエッジ検出の結果に基づいて重心を算出する重心算出手段と、前記重心算出手段で求めた重心に基づいて前記駆動モータを制御するモータ制御手段と、を備えたことを特徴とするものである。
【0029】
【発明の実施の形態】
以下に添付図面を参照して、本発明に係る好適な実施の形態について詳述する。まず、図1を参照して全体構成について説明する。図1は本発明の一実施の形態による撮像システムを概略的に示す構成図である。撮像システム1は、例えば図1に示したように、対象物を撮像するシリコン網膜カメラ2、シリコン網膜カメラ2の撮像方向を変更するビジョンシステム4、信号をアナログ−デジタル変換するA/D(アナログ−デジタルコンバータ)5、シリコン網膜カメラ2で撮像された画像に基づいて応答感度の自動調節、対象物のトラッキング制御等を行う制御装置6とを信号線で接続させた構成である。
【0030】
シリコン網膜カメラ2はPDを用いて画像を入力する光センサ部3を有し、ビジョンシステム4はカメラアングルをチルト方向,パン方向にそれぞれ駆動させるモータ4A,モータ4Bを備えている。ビジョンシステム4のモータ4A,4Bは、パン方向、チルト方向ともに例えば30〜60度/秒(パン方向)程度のモータ性能があれば十分であるが、本発明はこれに限定されるものではない。すなわち、必要とされるモータの性能については、移動速度の遅いオブジェクトをトラッキングする目的には低いモータ性能でも十分であり、一方、移動速度の早いオブジェクトをトラッキングする目的には高いモータ性能を適用すればよい。
【0031】
制御装置6は、例えばFPGAにて実装された構成であり、応答感度を自動調節するための制御信号生成部7、応答感度の自動調節、モータ制御のための処理を行う処理回路8等を備えている。処理回路8は、応答感度自動調節部9、エッジ検出部10、重心算出部11、モータ制御部12等を備えている。
【0032】
応答感度自動調節部9は、光センサ部3で得た情報をシリコン網膜カメラ2内で処理を行った後の出力信号をA/D5を介して取り込み、蓄積時間Taを得る機能を有している。エッジ検出部10は、シリコン網膜カメラ2から出力された出力信号をA/D5を介して取り込み、画像処理によってエッジ検出を行う機能を有している。重心算出部11は、エッジ検出部10により検出されたエッジデータに基づいて重心データを算出する機能を有している。モータ制御部12は、重心算出部11で算出された重心データに基づいてチルト方向、パン方向の各駆動信号を生成し、チルト方向,パン方向の駆動信号をそれぞれビジョンシステム4のモータ4A,4Bに出力する機能を有している。
【0033】
制御信号生成部7は、応答感度自動調節部9で求められた蓄積時間Taの制御信号を生成する機能を有している。A/D5は、シリコン網膜カメラ2と制御装置6との間に接続され、シリコン網膜カメラ2の出力信号をアナログ信号からデジタル信号に変換して応答感度自動調節部9とエッジ検出部10に供給する回路である。
【0034】
つづいて、図2を参照して応答感度自動調節部9について詳述する。図2は本発明の一実施の形態による応答感度自動調節部9の一構成例を示すブロック図である。応答感度自動調節部9は、例えば図2に示したように、比較器91,92、レジスタ93,94、減算器95、比較器96,97、AND回路98、演算回路99等により構成される。ここで、R clkはシリコン網膜カメラ2から画素情報を読み出す度に発生するクロック信号を示し、Vppは最大振幅値を示し、MAXとMINはそれぞれ1フレーム中の画素情報のうちで最大値と最小値を示し、HiとLoはそれぞれ目標範囲の上限値と下限値を示している。Taは従来で説明した通り蓄積時間を示す。
【0035】
図2に示す応答感度自動調節部9には、シリコン網膜カメラ2から出力された信号がA/D5を介して入力される。シリコン網膜カメラ2の出力は1画素ずつシリアルに出力されるので、クロック信号R clkに同期してレジスタ93,94に保持されている値が一つずつ比較器91,92に出力される。
【0036】
比較器91では、シリコン網膜カメラ2からの入力(A)とレジスタ93からの入力(B)とが比較され、シリコン網膜カメラ2からの出力のほうが大きい場合にのみその出力がレジスタ93にロードされ、保持される。したがって、レジスタ93からつぎのクロック信号R clkにしたがって出力される信号は、シリコン網膜カメラ2からの入力のうち現時点で最も大きい値(最大値MAX)となる。
【0037】
一方、比較器92では、シリコン網膜カメラ2からの入力(A)とレジスタ94からの入力(B)とが比較され、シリコン網膜カメラ2からの出力のほうが小さい場合にのみその出力がレジスタ94にロードされ、保持される。この場合には、レジスタ94からつぎのクロック信号R clkにしたがって出力される信号は、シリコン網膜カメラ2からの入力のうち現時点で最も小さい値(最小値MIN)となる。
【0038】
このようにして、比較器91とレジスタ93との組み合わせによりシリコン網膜カメラ2から最大値MAXを取り出すことができ、一方、比較器92とレジスタ94との組み合わせによりシリコン網膜カメラ2から最小値MINを取り出すことができる。画素情報の読み出しが1画面毎すなわちフレーム単位で行われるので、結果的に1フレーム全体での最大値MAXと最小値MINを検出することができる。ここで、本実施の形態においては、シリコン網膜カメラ2が適用されるので、画像入力は高速に行われる。
【0039】
このようにして求められた最大値MAXと最小値MINとの差が減算器95によって計算され、その計算結果は当該フレームでの最大振幅値Vppとして検出される。つづいて、最大振幅値Vppがあらかじめ与えられた目標範囲内にあるかどうかの結果は、比較器96,97及びAND回路98により検出される。
【0040】
最大振幅値Vppがあらかじめ与えられる目標範囲にあるかどうかを判断するため、比較器96,97には、それぞれ上限値Hi,下限値Loが与えられているものとする。比較器96,97に対して減算器95の出力すなわち最大振幅値Vppが入力されると、比較器96では、上限値Hiが最大振幅値Vppよりも小さい場合にのみハイレベルの信号が出力され、比較器97では、下限値Loが最大振幅値Vppよりも大きい場合にのみハイレベルの信号が出力される。
【0041】
したがって、最大振幅値Vppが目標範囲内にあれば、比較器96,97の出力はどちらもハイレベルの信号となってAND回路98に入力される。なお、目標範囲外にあれば、少なくとも一方の出力がローレベルの信号となる。AND回路97では、最大振幅値Vppが目標範囲内にあれば、比較器96,97の出力はどちらもハイレベルの信号のときにのみハイレベルの信号となる。AND回路98の出力及び最大振幅値Vppは、演算回路99に入力される。
【0042】
演算回路99では、最大振幅値Vppが目標範囲内にあれば現在の蓄積時間Taを維持するための出力がなされ、目標範囲外にあれば所定のアルゴリズムを用いて蓄積時間Taを更新するための処理が実行される。この所定のアルゴリズム及び演算回路99の動作の詳細については、後述する。
【0043】
つぎに、本実施の形態による感度調節方法を図3を用いて詳述する。図3は本発明の一実施の形態による感度調節方法を説明するグラフを示す図である。
【0044】
本実施の形態では、最大振幅値が照明条件の変化によって目標範囲外になったとき、蓄積時間を最小値に戻して、それから蓄積時間を増加させていくことで最大振幅値が目標範囲を満たす蓄積時間を見つける方法をとる。すなわち、前述した図12に示したグラフにおいて、蓄積時間の軸上で一番左から蓄積時間を増加させてやれば、どんな照明条件であろうと最大振幅値は増加し、やがて目標範囲に到達することに着目する。蓄積時間はシリコン網膜カメラ2を含むシステムの特性によって決まるものなので、以下に説明するアルゴリズムを適用するシステムでの可能な最小蓄積時間を蓄積時間の最小値として考えればよい。
【0045】
また、ここで問題になってくるのが、どのような割合で蓄積時間を増加させていくかということである。照明条件により明るいときに大きな間隔で蓄積時間を大きくしていく場合には、最大振幅値の目標範囲を一気に越えてしまい、逆に暗い時に小さな間隔で蓄積時間を大きくしていく場合には、なかなか最大振幅値は大きくならない。そこで、図12に示したグラフの曲線31が上に凸であることに注目して、フレーム処理の過去2サイクル分の蓄積時間と最大振幅値の値を用いて線形近似した直線32が最大振幅値の目標範囲の上限値に交差(位置P)するときの蓄積時間を次のサイクルの蓄積時間とする方法を採用する。この方法によって、より早く目標範囲を満たす蓄積時間まで到達することが可能となる。
【0046】
まず、本実施の形態において感度調節に必要な線形化手法の式は、以下の通りである。
【数1】



ここで、nはフレーム単位の処理サイクルを示す自然数であり、Vspは演算回路99で用いる目標範囲の上限値に相当する。
【0047】
最大振幅値Vppが目標範囲外(目標範囲の下限以下、あるいは、目標範囲の上限以上)に変化した場合には、蓄積時間を更新するために、以下の各ステップの処理が実行される。すなわち、
ステップ1.
あらかじめ決められた最小蓄積時間Ta[0]をセットし、その時の最大振幅値Vpp[0]を計算する。
ステップ2.
最小蓄積時間Ta[0]よりも大きい蓄積時間Ta[1]をセットし、その時の最大振幅値Vpp[1]を計算する。
ステップ3.
上記ステップ1,2でセットされたTa[0]、Vpp[0]とTa[1]、Vpp[1]とに基づいて1本の直線32(図3参照)を取得し、この直線32から上限値Vspを見つける。これにより蓄積時間Ta[n]を取得し、そのときの実時間の最大振幅値Vppを計算する。
ステップ4.
上記式(1)で表される線形化手法により、蓄積時間Taを計算してセットする。
【0048】
演算回路99において、上記式の演算は最大振幅値Vppが目標範囲に達するまで繰り返し実行される。最大振幅値Vppが目標範囲に達すると、AND回路98からの出力はハイレベルの信号となるので、演算回路99では蓄積時間Taの更新処理はなされず、現在の蓄積時間Taは保持される。
【0049】
つぎに、図4及び図5を用いて、図1に示した撮像システム1を用いた実験例について説明する。図4は本発明の一実施の形態において照明条件の変化に対する感度調節を説明するグラフを示す図、図5は図4のグラフで照明条件が変化したときの一部拡大図、そして、図6は本発明の一実施の形態による対象物の撮像状況を説明する図である。
【0050】
実験環境は、図6に示したように、例えば白い背景BGの中にオレンジ色のボールOBJを支点Oから紐で吊り下げて配置させ、照明LTの照明条件を変化させる仕組みである。照明条件については、まず805[Lux]、その3[sec]後に157[Lux]、その5.1[sec]後に40[Lux]、その9[sec]後に12[Lux]、その15.8[sec]後に40[Lux]の順に変化させた。このように照明条件を変化させながらシリコン網膜カメラ2でボールOBJを撮影し、その際に感度調節を行うものである。このとき、最大振幅値Vppの目標範囲を下限370[mV]から上限500[mV](Vsp=500[mV])の範囲とし、また蓄積時間としてTa[0]を6[ms]、Ta[1]を12[ms]として設定した。
【0051】
上述した手順で照明LTの照明条件を変化させると、その変化に応じて蓄積時間Taが変化し、最大振幅値Vppが目標範囲内に収まっていることが図4および図5で示す実験結果から確認できる。図4および図5において、41は最大振幅値の変移を示し、42は蓄積時間の変移を示す。まず照明条件を805[Lux]から157[Lux]へと変化させたとき、最大振幅値Vppは、約250[mV]まで下がり、目標範囲外になった(図5の変移41を参照)。このとき、前述した応答感度自動調節部9の処理により感度調節が行なわれる。すなわち、照明条件の変化後、まず蓄積時間Taが、Ta[0]である6[ms]に設定され、つぎにTa[1]に対応する12[ms]へと変化する(図5の変移42を参照)。
【0052】
その後、演算回路99のアルゴリズムに従って60[ms]、138[ms]へと蓄積時間Taが増加するように制御され、最大振幅値Vppが目標範囲内に収まるように調節される(図5の変移41を参照)。このとき、蓄積時間Taが138[ms]になるまでに要した時間は78[ms]であった(図5の変移42を参照)。従来の蓄積時間の調節では、明るいときに大きな間隔で蓄積時間Taを大きくしていくと最大振幅値Vppが目標範囲を一気に越えてしまい、一方、暗いときに小さな間隔で蓄積時間Taを大きくしていくといつまで経っても最大振幅値Vppは大きくならず、どちらの場合にも目標範囲に到達させるのに時間がかかることが想定された。このため、78[ms]という時間は、通常の画像処理においては十分速い値となる。例えば、蓄積時間が60[ms]になった時点での最大振幅値が250[mV]程度になっており、この時点で画像処理を行ったりするのには十分なコントラストが得られていると考えられる。
【0053】
以上説明したように、本実施の形態によれば、最大振幅値が目標範囲から外れても蓄積時間を最小な値から順次増加させることにしたので、最大振幅値を目標範囲内に迅速に収まるように制御することができる。これにより、照明条件の大きな変化に対しても高速な感度調節が可能である。そのため、照明条件に大きな変化のある環境下において、対象物をトラッキングするような高速な処理が求められる条件の中でも十分に適応することが可能である。なお、対象物のトラッキングを行なった際の最も暗い40[Lux]という条件はJIS(日本工業規格)により定められる照明基準の推奨値で事務所、工場等での屋内非常階段等の設定値となっている程度の明るさであり、十分な感度調節範囲を有している。
【0054】
感度調節に関し、光センサ部は非線形特性を持ってはいるが、蓄積時間が最も小さな状態から大きくなっていく段階では必ず蓄積時間と最大振幅値とは比例関係を有する。そのため、この比例関係をもつ領域を利用し、線形化手法によって最適な蓄積時間を推定し、更新していくことによって最終的に目標範囲に到達することができる。また、この方法を用いることによって、システムの情報処理サイクルの短い上記の領域を利用することになるので、高速化にも利点がある。
【0055】
つぎに、本実施の形態による対象物のビジュアルトラッキング方法について実験例を用いて説明する。このビジュアルトラッキング方法では、シリコン網膜カメラ2を搭載したパン方向、チルト方向の二自由度をもったビジョンシステム4が利用される。対象物のトラッキングにおける実験は、前述した実験例と同様に、白い背景に対象物がオレンジ色の丸いボール1つとして行った。したがって、ここでも図6に示した環境と同様の環境を例に挙げて説明する。この場合、画素情報から画面全体のエッジを検出して、全てのエッジの重心を追従する方法が使用される。
【0056】
FPGAは、トラッキングと応答制御の両方をパラレルに処理する。エッジ検出は、エッジ周辺の出力画像の変化を検出し、エッジ画素にラベルを付す。重心計算は、以下の式(2)により重心を計算する。
【数2】



上記式(2)において、gとgはX軸方向とY軸方向の重心、xとyはX軸方向とY軸方向のエッジ画素の軸、cはエッジ画素数である。モータ制御は、移動対象物の重心とフレーム中心との間の誤差から位置制御される。
【0057】
この実験においては、目標範囲は下限75[mV]から上限185[mV]までの範囲として、対象物をトラッキングするには十分な値に設定し、閾値は最大振幅値の半分とした。トラッキングの対象物であるボールOBJは、たとえばシリコン網膜カメラ2から0.8[m]離して運動させ、運動振幅0.3[m]、運動周期2.8[sec]で運動させ、照明条件は740[Lux]、115[Lux]、40[Lux]、115[Lux]、740[Lux]の順に変化させた。
【0058】
図7(A)には、本実験を上方より観察した場合の概略図が示され、同図(B)には、本実験を横方向より観察した場合の概略図が示されている。図7(A)に示したように、支点Oで紐の一端を支持される対象物のボールOBJはたとえばOBJ1、OBJ3、OBJ2の位置間を振り子運動のように移動する。このとき、照明LTは上述した照明条件の順番にしたがって変更される。上方からの観察では、図7(A)に示したように、ボールOBJの振り子運動は矢印SWG方向への動きとなる。
【0059】
このボールOBJの移動に追従するようにシリコン網膜カメラ2の視線方向は変位する。すなわち、上方向からの観察では、図7(A)に示したように、シリコン網膜カメラ2のパン方向の動きは矢印MV1のように視線方向V1〜V2の間を行き来する。一方、横方向からの観察では、図7(B)に示したように、シリコン網膜カメラ2のチルト方向の動きは矢印MV2のように視線方向V1(V2)〜V3の間を行き来する。シリコン網膜カメラ2の視線方向は、モータ4Aによりチルト方向に変移させられ,モータ4Bによりパン方向に変位させられる。
【0060】
図8は、縦軸に蓄積時間[ms]、最大振幅値[mV]をそれぞれとり、横軸に時間[sec]をとっている。最大振幅値の変移を81で示し、蓄積時間の変移を82で示す。上述した実験の結果は、図8に示したグラフのように、蓄積時間Taと最大振幅値Vppの変化(変移81、82)から最大振幅値Vppが目標範囲内(下限75[mV]から上限185[mV])に収まっていることがわかる。ここで、照明条件によって蓄積時間Taの変動の幅が異なるのは、照明LTの照明条件の変化を例えば点灯している室内電灯の数を変化させて行ったので、照明条件によって対象物であるボールOBJに当たる光の角度が変化したためである。
【0061】
図9は、縦軸に角度指令値[°]、横軸に時間[sec]をとっている。図9に示したグラフのように、モータ4A,4Bへの角度指令値が振り子運動をするボールOBJを捕えるための良好な値となっていることがわかる。フレーム単位のサイクルごとに角度指令値に3[°]程度の誤差が見られるが、トラッキングを行なうには大きな誤差ではないと考えることができる。よって、照明条件が変化するなかでのトラッキングを行なうことが可能となった。
【0062】
以上説明したように、本実施の形態によれば、高速な感度調節の実現より対象物のトラッキングにおいては、照明条件に大きな変化があっても的確に対象物を捕捉して、シリコン網膜カメラ2の視線方向を対象物に向けることが可能となる。
【0063】
さらに、感度調節の有効な方法について説明する。従来、エッジ検出をする場合、図11にあるようにエッジ付近で現れる上下のピーク値の変化がある閾値を超えるとき、その位置をエッジとして検出する方法を用いていた。
【0064】
しかしながら、トラッキングを高速で行なうためには、画像情報を得るためのサンプリング周期はなるべく小さなほうが望ましいのに対して、感度調節は最大振幅値Vppがなるべく大きくなるように蓄積時間Taを大きくしようとする働きをもつことが望ましかった。ここに、感度調節の場合の矛盾が生じる。
【0065】
また、感度調節では、最大振幅値が十分大きくなるように目標範囲を設定する必要があった。このため、エッジを検出するための閾値を目標範囲での最大振幅値Vppに合わせた値で一定のままにしておくと、最大振幅値Vppが目標範囲には達することはなかった。実際にはトラッキングを行なうのに十分な情報を得ることができている場合があり、そのときの有効な情報を間引いてしまっている状態が生じてしまう場合があった。
【0066】
そこで、対象物をトラッキングする場合には、目標範囲をエッジ検出が安定的に行なえる範囲で小さな最大振幅値Vppを目標範囲とすることが好ましい。このように目標範囲を設定して、感度調節を行なう間に最大振幅値Vppが変動しても、エッジ検出の閾値をそのときの最大振幅値Vppのある一定の割合の値とする。すなわち、最大振幅値が変動しても安定してエッジ検出が行えるように、エッジを判断するための条件の一つである隣接画素間での変化の大きさの閾値を最大振幅値に比例して変化させる。これにより、目標範囲に最大振幅値Vppが達する前であっても、ある程度の大きさの最大振幅値Vppが得られていたならば、エッジ検出を適切に行なうことが可能である。
【0067】
なお、本発明は上述した実施形態に限定されず、本発明の要旨を逸脱しない範囲で種々に変更できることは勿論である。例えば、感度調節の考え方は種々のカメラが持つ同様の非線形的な特性に対する適応を考える場合に用いることが可能である。
【0068】
【発明の効果】
以上説明したように本発明によれば、光センサ部の非線形特性を考慮しながらも高速に感度調節を行うことが可能な光センサ用感度調節方法及び光センサ用感度調節装置を提供できるという効果を奏する。
【0069】
また、上述したように高速に感度調節を行うことで、さらに、ロボット等のカメラによる高速なトラッキング性能を実現することが可能なビジュアルトラッキング制御方法及びビジュアルトラッキング制御装置を提供できるという効果を奏する。
【図面の簡単な説明】
【図1】本発明の一実施の形態による撮像システムを概略的に示す構成図である。
【図2】図1の撮像システムの要部の構成を示すブロック図である。
【図3】本発明の一実施の形態による感度調節方法を説明するグラフを示す図である。
【図4】本発明の一実施の形態において照明条件の変化に対する感度調節を説明するグラフを示す図である。
【図5】図4のグラフで照明条件が変化したときの一部拡大図である。
【図6】本発明の一実施の形態による対象物の撮像状況を説明する図である。
【図7】本発明の一実施の形態によるトラッキング時の駆動モータの態様を概略的に説明する図である。
【図8】本発明の一実施の形態においてトラッキング時の蓄積時間と最大振幅値の変化を説明するグラフを示す図である。
【図9】本発明の一実施の形態においてトラッキング時の駆動モータへの角度指令値の変化を説明するグラフを示す図である。
【図10】光センサの出力例を示す図である。
【図11】従来例においてシリコン網膜に白黒パターンを提示して蓄積時間を変えたときの1ライン分の応答結果を示す図である。
【図12】従来例において照明条件、蓄積時間及び最大振幅値の関係を説明するグラフを示す図である。
【符号の説明】
1 撮像システム
2 シリコン網膜カメラ
3 光センサ部
4 ビジョンシステム
4A,4B モータ
5 A/D
6 制御装置
7 制御信号生成部
8 処理回路
9 応答感度自動調節部
10 エッジ検出部
11 重心算出部
12 モータ制御部
91,92,96,97 比較器
93,94 レジスタ
95 減算器
98 AND回路
99 演算回路

【特許請求の範囲】
【請求項1】
非線形性を有する光センサの感度を調節する光センサ用感度調節方法であって、
前記光センサから出力された所定単位の画素情報に基づいて最大振幅値を求める第一ステップと、
前記第一ステップで求めた最大振幅値があらかじめ与えられた振幅値の目標範囲内にあるか否かの関係を判断する第二ステップと、
前記第二ステップにより前記最大振幅値が前記目標範囲外にあるという関係が判断された場合には、前記第二ステップにより前記最大振幅値が前記目標範囲内にあるという関係が判断されるまで、前記光センサを駆動するための電荷の蓄積時間を段階的に増加するように更新する第三ステップと、
を含んだことを特徴とする光センサ用感度調節方法。
【請求項2】
前記第三ステップは、最大振幅値と蓄積時間との相関関係を示す曲線において少なくとも過去2サイクル分の蓄積時間にそれぞれ対応する最大振幅値に基づいて線形近似した直線を求め、当該直線が前記目標範囲と交差する位置までを蓄積時間として設定することを特徴とする請求項1に記載の光センサ用感度調節方法。
【請求項3】
前記目標範囲は最大振幅値の上限と下限により囲まれる範囲を指し、前記直線が前記目標範囲の上限と交差する位置までを蓄積時間として設定することを特徴とする請求項2に記載の光センサ用感度調節方法。
【請求項4】
前記第三ステップは、前記光センサを駆動するための電荷の蓄積時間を段階的に増加させる場合、前記蓄積時間の最小値から開始することを特徴とする請求項1、2又は3に記載の光センサ用感度調節方法。
【請求項5】
光センサの感度を調節する光センサ用感度調節装置であって、
前記光センサから出力された所定単位の画素情報に基づいて最大振幅値を検出する最大振幅値検出手段と、
前記最大振幅値検出手段で検出された最大振幅値とあらかじめ与えられた振幅値の目標範囲とを比較する比較手段と、
前記比較手段により前記最大振幅値が前記目標範囲外にあるという比較結果が得られた場合には、前記比較手段により前記最大振幅値が前記目標範囲内にあるという比較結果が得られるまで、前記光センサを駆動するための電荷の蓄積時間を段階的に増加するように更新する制御手段と、
を備えたことを特徴とする光センサ用感度調節装置。
【請求項6】
前記光センサは、シリコン網膜カメラに適用されることを特徴とする請求項5に記載の光センサ用感度調節装置。
【請求項7】
前記制御手段は、FPGA(Field Programmable Gate Array)にて実装されることを特徴とする請求項5又は6に記載の光センサ用感度調節装置。
【請求項8】
前記最大振幅値検出手段は、前記光センサから出力された所定単位の画素情報について最小値と最大値との差分から最大振幅値を検出することを特徴とする請求項5、6又は7に記載の光センサ用感度調節装置。
【請求項9】
非線形性を有する光センサ部及び駆動モータ部を有するカメラを用いて対象物をトラッキング制御するビジュアルトラッキング制御方法であって、
前記光センサ部から出力された所定単位の画素情報に基づいて最大振幅値を求める第一ステップと、
前記第一ステップで求めた最大振幅値があらかじめ与えられた振幅値の目標範囲内にあるか否かの関係を判断する第二ステップと、
前記第二ステップにより前記最大振幅値が前記目標範囲外にあるという関係が判断された場合には、前記第二ステップにより前記最大振幅値が前記目標範囲内にあるという関係が判断されるまで、前記光センサ部を駆動するための電荷の蓄積時間を段階的に増加するように更新する第三ステップと、
前記第一ステップで求めた最大振幅値を参照して前記光センサ部から出力された所定単位の画素情報に基づいてエッジ検出を行う第四ステップと、
前記第四ステップによるエッジ検出の結果に基づいて重心を求める第五ステップと、
前記第五ステップで求めた重心に基づいて前記駆動モータを制御する第六ステップと、
を含んだことを特徴とするビジュアルトラッキング制御方法。
【請求項10】
前記第四ステップは、エッジ検出のための閾値を前記第一ステップで求めた最大振幅値に比例して変化させることを特徴とする請求項9に記載のビジュアルトラッキング制御方法。
【請求項11】
前記カメラの駆動モータ部はチルト方向、パン方向にそれぞれ駆動可能であり、前記第六ステップは、前記カメラの駆動モータ部に対してチルト方向の制御信号、パン方向の制御信号をそれぞれ出力することを特徴とする請求項9又は10に記載のビジュアルトラッキング制御方法。
【請求項12】
前記目標範囲を75mV〜185mVとしたことを特徴とする請求項9、10又は11に記載のビジュアルトラッキング制御方法。
【請求項13】
非線形性を有する光センサ部及び部駆動モータ部を有するカメラに接続され、当該カメラを用いて対象物をトラッキング制御するビジュアルトラッキング制御装置であって、
前記光センサ部から出力された所定単位の画素情報に基づいて最大振幅値を検出する最大振幅値検出手段と、
前記最大振幅値検出手段で検出された最大振幅値とあらかじめ与えられた振幅値の目標範囲とを比較する比較手段と、
前記比較手段により前記最大振幅値が前記目標範囲外にあるという比較結果が得られた場合には、前記比較手段により前記最大振幅値が前記目標範囲内にあるという比較結果が得られるまで、前記光センサ部を駆動するための電荷の蓄積時間を段階的に増加するように更新する制御手段と、
前記最大振幅値検出手段で検出された最大振幅値を参照して前記光センサ部から出力された所定単位の画素情報に基づいてエッジ検出を行うエッジ検出手段と、
前記エッジ検出手段によるエッジ検出の結果に基づいて重心を算出する重心算出手段と、
前記重心算出手段で求めた重心に基づいて前記駆動モータを制御するモータ制御手段と、
を備えたことを特徴とするビジュアルトラッキング制御装置。

【図1】
image rotate



【図2】
image rotate



【図3】
image rotate



【図4】
image rotate



【図5】
image rotate



【図6】
image rotate



【図7】
image rotate



【図8】
image rotate



【図9】
image rotate



【図10】
image rotate



【図11】
image rotate



【図12】
image rotate


【公開番号】特開2004−240591(P2004−240591A)
【公開日】平成16年8月26日(2004.8.26)
【国際特許分類】
【出願番号】特願2003−27648(P2003−27648)
【出願日】平成15年2月4日(2003.2.4)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 2002年8月5日〜7日 開催の「SICE Annual Conference 2002 in Osaka PROCEEDINGS」において文書をもって発表
【出願人】(503359821)独立行政法人理化学研究所 (1,056)
【Fターム(参考)】