立体形状検出装置
【課題】 画像データに基づいて路面段差のような立体物についても形状把握を可能とする立体形状検出装置を提供する。
【解決手段】 ステレオカメラ3で取得した撮像対象物6のステレオ画像中から画像処理手段1のエッジ抽出手段10は、輪郭エッジを抽出し、対応点探索手段11により、対応エッジを判定する。そして、エッジを挟み込んで隣接する小領域について、類似度算出手段12は、各画像間でその類似度を判定し、その類似度の違いに基づいて形状推定手段13が立体物であるか否かを判定する。
【解決手段】 ステレオカメラ3で取得した撮像対象物6のステレオ画像中から画像処理手段1のエッジ抽出手段10は、輪郭エッジを抽出し、対応点探索手段11により、対応エッジを判定する。そして、エッジを挟み込んで隣接する小領域について、類似度算出手段12は、各画像間でその類似度を判定し、その類似度の違いに基づいて形状推定手段13が立体物であるか否かを判定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両周辺の障害物検出等に用いることができる画像を用いた立体形状検出装置に関する。
【背景技術】
【0002】
自動車の周辺状況を把握して運転者に提供することで運転支援を行う各種の運転支援システムの開発が進められている。こうした運転支援システムの一つとしてガードレールや側壁、駐車車両等の障害物を認識して、自車両との接触可能性を評価し、接触可能性があると判定した場合に、運転者に対して報知や回避制御を行うシステムがある(例えば、特許文献1参照)。
【0003】
同文献には、CCDカメラや超音波センサにより、車両進路方向における三次元距離分布を把握して道路形状と障害物を把握し、自車両の形状との対比により、接触可能性の判定を行う技術が記載されている。
【特許文献1】特開平10−283592号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
この技術においては、道路上の障害物、例えば、電柱や駐車車両、対向車両等については、ステレオ視技術によりその3次元情報を求める手法がとられているが、側溝等の路面より下の障害物は超音波センサにより把握している。その理由については詳述されていないが、ステレオ視における空間位置算出は、対応画像中の特徴点の画素位置の対応関係を基にして行うのが一般的であり、特許文献1にも同様の技術が開示されている。しかし、例えば、側溝の場合、底部のエッジが撮影画像中に存在するとは限らないこともあって、エッジ位置自体が溝の上部の路面との境界位置に位置してしまい、路面上の模様(白線等)との識別が難しいという点がある。これらは、側溝に限らず、路面上の段差等においてもあてはまる。
【0005】
そこで本発明は、画像データに基づいて路面段差のような立体物についても形状把握を可能とする立体形状検出装置を提供することを課題とする。
【課題を解決するための手段】
【0006】
上記課題を解決するため、本発明にかかる立体形状検出装置は、(1)高さ方向の異なる位置から対となる画像を撮像する撮像手段と、(2)取得した対画像内のそれぞれにおいて左右方向に延びるエッジを抽出するエッジ抽出手段と、(3)対画像内の抽出したエッジにより分割される上側領域と下側領域のそれぞれについて、対応点の探索を行う対応点探索手段と、(4)探索した対応点の類似度を算出する類似度算出手段と、(5)上側領域で探索した対応点の類似度と、下側領域で探索した対応点の類似度との関係に基づいて、エッジ周辺の形状を推定する形状推定手段と、を備えていることを特徴とする。
【0007】
高さ方向に異なる位置から対となる画像を取得することで、立体物について異なる視点からの画像を取得できる。側溝の画像を取得する場合を例に考えると、上側から取得した画像(上側カメラ画像)と、下側から取得した画像(下側カメラ画像)のそれぞれにおいて映り込む側壁部分の範囲は、上側カメラ画像のほうがより深い位置まで達する。言い換えると、側壁画像の撮像装置に近い側の路面との境界エッジの上側の領域は、上側と下側のカメラ画像では異なる範囲を撮像したものとなる。一方、下側の領域は、同じ領域を異なる角度で撮像したものとなる。路面より遠い側の境界エッジについては、上側、下側ともほぼ同一の領域を撮像したものとなる。したがって、上側領域と下側領域の相関度から、側溝等の近い側のエッジであるか否かを判定することができる。
【0008】
具体的には、形状推定手段は、上側領域で探索した対応点の類似度が下側領域で探索した対応点の類似度よりも所定基準以上小さい場合に、下側領域から上側領域に向かって下がる立体形状であると推定し、あるいは、上側領域で探索した対応点の類似度が下側領域で探索した対応点の類似度よりも所定基準以上大きい場合に、下側領域から上側領域に向かって下がる立体形状ではないと推定するとよい。
【0009】
この撮像手段の高さ方向で異なる位置の間の位置から撮像対象に向けて投光する投光手段をさらに備えているとよい。この投光手段が投光する光は、可視光に限られるものではなく、例えば、撮像手段が赤外線画像を取得可能な場合には、赤外光を投光してもよい。
【0010】
側溝を例にとると、投光手段と対向する側壁の上側には、投光手段からの光が届くが、下側領域(側壁の形状によっては、底部分)は、投光手段からの光は、反対側の側壁のエッジより投光手段側の路面によって遮られて届かず、影になる。投光手段より下側から撮像した場合には、この影部分は映り込まないが、投光手段より上側から撮像した場合には、この影部分が映り込む。つまり、影の存否から立体物を判定できる。
【0011】
あるいは、本発明にかかる立体形状検出装置は、(1)画像を取得する撮像手段と、(2)取得した画像中のエッジを抽出するエッジ抽出手段と、(3)抽出したエッジの3次元位置を検出する第1検出手段と、(4)3次元空間内の所定の平面上に位置するエッジに挟まれている領域に検出領域を設定する設定手段と、(5)設定した検出領域の3次元位置を検出する第2検出手段と、(6)第2検出手段の検出結果に基づいて検出領域部分の立体形状を推定する形状推定手段と、を備えていることを特徴とするものでもよい。
【0012】
本発明によれば、まず、輪郭位置であるエッジの空間位置を検出し、その空間位置が所定平面(例えば、路面)に位置しているエッジの間に検出領域を設定し、設定した検出領域の3次元空間位置を検出することで、当該2つのエッジ間が平面であるか否かを判定する。
【0013】
具体的には、形状推定手段は、検出領域が所定の平面上に位置していない場合に、エッジに挟まれている空間が立体物であると推定するとよく、あるいは、検出領域が所定の平面上に位置している場合に、エッジに挟まれている空間は平面物であると推定してもよい。
【発明の効果】
【0014】
本発明にかかる立体形状検出装置によれば、側溝等の路面段差が存在する場合に、エッジ位置だけでなく、エッジの上下の画像相関度を参照することで、段差と平面とを精度よく判定することが可能となる。このとき、上下の撮像手段の間から対象物に投光すると、対象物表面に形成される陰影からさらに精度よく立体形状の判定を行うことができる。
【0015】
また、本発明にかかる別の立体形状検出装置によれば、輪郭位置を判定し、その輪郭位置間に検出領域を設定して、検出領域の空間位置を求めることで、輪郭位置間の形状を精度よく判定することができる。このため、例えば、側溝の底部画像を取得できていない場合であっても、側溝であるか否かを精度よく判定することができる。
【発明を実施するための最良の形態】
【0016】
以下、添付図面を参照して本発明の好適な実施の形態について詳細に説明する。説明の理解を容易にするため、各図面において同一の構成要素に対しては可能な限り同一の参照番号を附し、重複する説明は省略する。
【0017】
図1は、本発明にかかる立体形状検出装置の第1の実施形態の構成を示すブロック図である。本立体形状検出装置は、車両に搭載され、障害物の検出に用いられるものであり、撮像対象物6の画像を異なる視点から撮像するステレオカメラ3と撮像対象物6を照らす投光手段4と、ステレオカメラ3の出力信号をデジタル変換するA/Dコンバータ2と、画像処理により立体形状検出を行う画像処理手段1を備え、車両挙動制御装置5に推定した形状情報を出力する。
【0018】
画像処理手段1は、CPU、ROM、RAM等によって構成されている。以下に説明する画像処理手段1内の各構成要素は、ハードウェア的に区分されていてもよいが、共通のハードウェア上で稼働するソフトウェアによって実現されていてもよい。これらのソフトウェアは別々のプログラム、サブルーチン等によって構成される場合もあるが、一部またはその大部分のルーチンを共有していてもよい。
【0019】
画像処理手段1は、画像中の対象物の輪郭線を検出して抽出するエッジ抽出手段10と、対応画像中のエッジ間の対応点を探索する対応点探索手段11と、エッジに隣接する所定の領域間での類似度を算出する類似度算出手段12と、これらの情報を基にして撮像対象物6の立体形状を推定する形状推定手段13とを備えている。
【0020】
車両挙動制御装置5としては、検出した障害物等と、自車両との接触可能性を判定して、警報や回避動作支援を行う装置やレーン内の走行を維持する装置、先行車両に追従して走行する装置等が挙げられる。
【0021】
図2にステレオカメラ3の配置例を、図3にその構成例を、図4に取得する画像の一例を示す。ステレオカメラ3は、上カメラ30uと下カメラ30dとを上下に配置することで、撮像対象物6を異なる高さ位置から撮像するものであり、上カメラ30uと下カメラ30dで取得した画像は撮像部31に送られ、処理される。各カメラ30u、30dは、広視野角のカメラであり、例えば、円周魚眼レンズや対角魚眼レンズ等を備えているとよい。このステレオカメラ3は、車両8の側面や前方、後方等に配置される。図2では、左側面に配置した例を示している。撮像対象は、車両8周囲の障害物等であって、路面9に沿って設けられた側溝90や縁石91等の画像を取得する。このようなステレオカメラ3で図4(a)に示されるような側溝90の画像を取得した場合、上カメラ30u、下カメラ30dでそれぞれ取得した画像Iu、Idは、図4(b)、図4(c)にそれぞれ示されるようになる(以下、最初に投光手段4を使用していない場合を例に説明する)。側溝90の底部のエッジが両画像でともに確認できる状態にあれば底部位置から側溝90の存在を判定できるが、図4(b)(c)に示されるように、側溝90の上部エッジしか見えない場合には、エッジ部の位置情報からのみでは、間が平面であるのか、立体物であるかを判定できない。
【0022】
本実施形態の立体形状検出装置は、図4(b)(c)に示されるような取得画像からでも側溝90の存在を検知可能としたものであり、以下にその具体的な動作について説明する。図5は、その処理のメインフローチャートの前半部であり、図6は、その後半部である。この処理は、車両の電源がオンにされてからオフにされるまでの間(画像処理手段のオン/オフスイッチを有する場合には、さらにそのスイッチがオンにされている間に限る。)所定のタイミングで繰り返し実行される。
【0023】
まず、ステレオカメラ3で取得し、A/Dコンバータ2でデジタル信号に変換された画像信号を取得する(ステップS1、図4(b)、(c)参照)。次に、エッジ抽出手段10により、横方向のエッジ線を抽出する(ステップS3)。具体的には、図7(a)に示される画像の側溝対応部Pu、Pdの輪郭線部分のエッジ点をSobelフィルタや上下方向差分等の方法で抽出し(図7(b)参照)、その後、抽出したエッジ点列からHough変換や最小自乗法により直線としてのエッジ線Lu1、Lu2、Ld1、Ld2を求める(図7(c)参照)。ここで検出した横エッジ線には番号(インデックス)付けがされる。
【0024】
次に変数iに初期値0を代入し(ステップS5)、横エッジ直線下側領域について画像間のマッチングを調べる(ステップS7)。具体的には、まず、図8(a)に示されるように、抽出した上カメラ30uの画像Iu中の横エッジ曲線Lu1の直下の小領域(例えば、3×3画素領域)au1,d1について、対応点探索手段11により下カメラ30dの画像Idにおいて対応するエピポーラ極線e1上に位置し、かつ、横エッジ直線Ld1、Ld2直下の小領域ad1,d1、ad2,d1を探索し、類似度算出手段12により、小領域au1,d1とad1,d1およびad2,d1との相関値を求める。この相関値を算出する手法としては、正規化相関法や差分総和などのパターン認識技術を利用すればよい。そして、最も相関値の高い小領域を対応領域候補とする。この対応領域候補の相関値(最大相関値)をSLとする。
【0025】
次に、求めたSLを閾値THsと比較する(ステップS9)。SLがTHs以下の場合には、当該対応領域候補は対応領域には該当しないと判定して、後述するステップS27へと移行する。SLがTHsを超えている場合には、当該対応領域候補を対応領域と判定する。図8(b)の例では、小領域ad1,d1が小領域au1,d1の対応領域となる。対応領域が確認できたらエッジ下側小領域ad1,d1と小領域au1,d1の画像内での位置関係からステレオ視による3次元変換技術により当該領域の3次元位置PLを算出する(ステップS11)。これは三角測量の原理を用いることで実行できる。
【0026】
次に、横エッジ直線上側領域について画像間のマッチングを調べる(ステップS13)。処理の内容は、ステップS7と同様であって、図9(a)に示されるように、抽出した上カメラ30uの画像Iu中の横エッジ曲線Lu1の直上の小領域(領域の大きさはステップS7の小領域と同サイズとする。)au1,u1について、対応点探索手段11により下カメラ30dの画像Idにおいて対応するエピポーラ極線e1上に位置し、かつ、横エッジ直線Ld1、Ld2直上の小領域ad1,u1、ad2,u1を探索し、類似度算出手段12により相関値を求める。そして、最も相関値の高い小領域を対応領域候補とする。この対応領域候補の相関値(最大相関値)をSUとする。
【0027】
次に、求めたSUを閾値THsと比較する(ステップS15)。SLがTHs以下の場合には、当該対応領域候補は対応領域には該当しないと判定して、後述するステップS19へと移行する。SUがTHsを超えている場合には、当該対応領域候補を対応領域と判定する。図9(b)の例では、小領域ad1,u1が小領域au1,u1の対応領域となる。対応領域が確認できたらエッジ上側小領域ad1,u1と小領域au1,u1の画像内での位置関係から当該領域の3次元位置PUを算出する(ステップS17)。
【0028】
続いて形状推定手段13は、SUとSLの比である相関値比RSを算出し(ステップS19)、求めたRSを閾値THRと比較する(ステップS21)。このTHRは、1より小さいが、1に近い数値、例えば、0.8等に設定されている。立体物の形状によって上カメラ30uで取得した画像Iuと下カメラ30dで取得した画像Id中の対応エッジの直上、直下に映り込む領域が異なる場合がある。領域が異なるとSUとSLが異なる値をとることになり、RSが1からずれる。以下、立体形状の具体例を挙げて説明する。
【0029】
側溝の上端の両エッジEd1、Ed2の双方が両カメラ30u、30dの撮像範囲にある場合を図10、図11に示す。この場合、上カメラ30uの取得した画像Iuと、下カメラ30dの取得した画像Idにおいては、手前エッジEd1の直下に映り込む小領域は、いずれもEd1に隣接する領域ad1であるが、手前エッジEd1の直上に映り込む小領域は、対岸の側溝の壁面であって、Idにおいては、Iuにおける領域au1により上部のau2となる。この結果、上記RSは1より小さくなる。
【0030】
一方、対岸、つまり、奥側エッジEd1の直上および直下に映り込む領域は、図12、図13に示されるように、画像Iuにおいても、画像Idにおいてもau3とad2の組み合わせで一致する。したがって、この場合の上記RSは1にほぼ等しくなる。
【0031】
また、対岸のない下り段差の場合は図14、図15に示されるように、エッジEd3の下側に映り込む領域は、画像Iu、Idで一致し、エッジEd3に隣接する領域ad3となる。一方、直上に映り込む領域は、画像Iuでは、au4、画像Idでは、au5となり、画像Iuのほうが、画像Idの場合よりカメラ3に近い領域が映り込む。この結果、この場合の上記RSも1より小さくなる。
【0032】
逆に上り段差においては、その手前エッジEd4については、図16、図17に示されるように、その直上および直下に映り込む領域は、au6、ad4で一致し、また、奥側エッジEd5についても、図18、図19に示されるように、その直上および直下に映り込む領域は、au7、ad5で一致する。この場合も上記RSは1にほぼ等しくなる。
【0033】
すなわち、RSは、エッジが平面に存在している場合や上り段差のエッジである場合には、1にほぼ等しくなるが、下り段差のエッジ(側溝の手前エッジを含む)である場合には、1より小さくなる。これを利用して、RSを判定することで、下り段差のエッジであるか否かを判定することができる。
【0034】
ステップS21においてRSが閾値THRより小さいと判定した場合には、下り段差のエッジであると判定して、側溝エッジ候補としてマークをつける(ステップS23)。そして、ステップS11で求めた位置情報PLをエッジの位置情報として記録する。一方、RSが閾値THR以上であると判定した場合には、下り段差のエッジではないと判定し、側溝以外のエッジ候補としてマークをつける(ステップS25)。この場合には、ステップS17で求めた位置情報PUをエッジの位置情報として記録する。
【0035】
ステップS23、S25終了後は、ステップS27へと移行し、当該横エッジ線Liの全構成点について調べたか否かを判定する。構成点の全てについて判定を終了していない場合には、ステップS7へと戻り、次の構成点についてステップS7〜S25の処理を実行する。これにより、図8(c)、図9(c)に示されるようにエッジLu1の左端から右端までの全構成点の直上領域と直下領域の小領域に対応する領域の検出を行い、下り段差エッジであるか否かと、その位置情報の算出を行う。
【0036】
横エッジ線Liの全構成点についての判定が終了したら、図6に示されるステップS29へと移行し、横エッジ線Liにおいて、側溝エッジ候補としてマークづけした構成点の数Ngと、側溝以外のエッジ候補としてマークづけした構成点の数Ncをそれぞれ数える。図20においては、側溝エッジ候補を黒丸で、側溝以外のエッジ候補を黒三角で示している。画像取得時の条件(明るさや影の状態、カメラとの角度等)によって実際には下り段差のエッジの場合に、RSが1に近いと判定して、側溝エッジ候補でないと判定する場合や、その逆に判定する場合がある。このような誤判定の影響を軽減するために、エッジ全体について側溝エッジ候補の数Ngとそれ以外のエッジ候補の数Ncの比率を調べることで、判定精度の向上を図る。
【0037】
具体的には、NgとNcの比率と閾値THNとを比較する(ステップS31)。Ng/NcがTHNを上回っている場合には、当該エッジLiを側溝エッジとしてマークづけし(ステップS33)、当該エッジ線の3次元位置・姿勢を導出する(ステップS35)。図20の例では、黒丸が大部分を占める手前側エッジが側溝エッジとしてマークづけされる。このエッジ線を構成する点上、または、そのエッジ点直下や直上の小領域の3次元情報を用いて、Hough変換や最小自乗法等の手法を用いて当該エッジの3次元直線式を導出すればよい。この直線式は、例えば以下の式(1)で表せる。
【0038】
【数1】
【0039】
なお、x1、y1、z1、a1、b1、c1はいずれも定数である。
【0040】
一方、Ng/NcがTHN以下の場合には、当該エッジLiを側溝以外エッジとしてマークづけし(ステップS37)、当該エッジ線の3次元位置・姿勢を導出する(ステップS39)。図20の例では、黒三角が大部分を占める奥側エッジが側溝以外エッジとしてマークづけされる。空間位置の算出手法は、上述した側溝エッジの場合と同じ手法を用いればよい。
【0041】
ステップS35、S39終了後は、ステップS41へと移行し、画像内の全ての横エッジ線について判定を終了したか否かを調べる。終了していない場合には、ステップS43へと移行して、変数iに1を加算し、ステップS7へと戻ることにより、次のエッジ線についての調査を行う。
【0042】
全てのエッジ線について調査が終了したらステップS45へと移行し、画面内に側溝エッジ線が存在するか否かを調べる。側溝エッジ線が存在しない場合には、その後の処理をスキップして処理を終了する。側溝エッジ線が存在する場合には、変数jを初期値0に設定し(ステップS47)、側溝エッジ線Lgi(手前エッジ)に対応する奥側エッジの探索を行う(ステップS49)。具体的には、側溝エッジ線Lgiと並行で、かつ、それより上(奥側)に位置し、かつ、最も近接している横エッジ線Loを探索する。
【0043】
例として、側溝エッジ線が上記式(1)で別のエッジ線が下記式(2)で表される場合を考える。(ここで、x2、y2、z2、a2、b2、c2も定数である。
【0044】
【数2】
【0045】
上記の2直線がなす角度θ12は、下記の式(3)で求めることができる。
【0046】
【数3】
【0047】
θ12の絶対値が閾値THθより小さいとき(例えば、5°未満)の場合に、2直線はほぼ平行であると判定すればよい。
【0048】
横エッジ線Loの探索が成功したか否かを判定し(ステップS51)、成功した、つまり、Loが存在した場合には、ステップS53へと移行してLoを対岸エッジとして、側溝の幅、見掛けの深さ等を算出する。側溝の幅D12は2直線間の距離として算出でき、下記の(4)式によって表すことができる。
【0049】
【数4】
【0050】
また、車両8と側溝90の位置関係が、図21に示されるような関係である場合に、側溝までの距離dと、側溝の伸長方向と車両8から横向きに伸ばした延長線とのなす角度φは下記の式(5)、(6)で表される。
【0051】
【数5】
【0052】
一方、Loが存在しない場合には、対岸が撮像領域内に存在しないか、対岸のない単純な下り段差である場合を意味する。この場合は、ステップS55へと移行して、段差または対岸が壁であると判断し、その旨を表す情報を記録する。
【0053】
ステップS53、S55終了後は、求めた側溝情報を出力する(ステップS57)。そして、全ての側溝エッジ線について対応する横エッジ線の探索を終了したか否かを判定する(ステップS59)。判定が未了の場合には、ステップS61へと移行し、jを1加算して、次の側溝エッジ線について対応横エッジ線の探索処理を行う。一方、判定が終了した場合には、全処理を終了する。
【0054】
以上説明したように、本発明によれば、エッジ抽出によって検出した物体の輪郭位置だけでなく、エッジ直上直下の領域の類似度を判定することで、側溝等の立体物の存在を判定することができる。これにより、側溝を障害物として正しく認識し、車両挙動制御装置5において適切な車両挙動制御(例えば、障害物回避制御等)を行うことができ、安全性がさらに向上する。
【0055】
さらに、投光手段4を活用することで、検出を容易にすることができる。図22(a)は投光手段4により照明光を被写体に向けて照射した場合の関係図を、図22(b)、(c)はこの場合に取得される上カメラ画像Iuと、下カメラ画像Idを示している。ここで、投光手段4により照射される照明光は、上カメラ30u、下カメラ30dにおいて検出可能であれば赤外光や紫外光など可視光線に限られるものではない。
【0056】
上カメラ30uと下カメラ30dの間に配置される投光手段4により投影した光の投光エリア40は、図22(a)に示されるようになり、手前エッジEd1に対向する壁面の上側は投光エリア40内に位置するが、下側は、手前エッジEd1の影となる。このため、画像Idにおいて手前エッジEd1の直上に映り込む領域au2は投光エリア40内に位置し、比較的高い輝度値を有するのに対して、画像Iuにおいて手前エッジEd1の直上に映り込む領域au1は投光エリア40の外の影S1内に位置し、比較的低い輝度値を有することになる。そのため、輝度差が大きくなり、その相関値は低いものとなる。これにより、手前エッジの検出が容易になり、側溝等をより精度良く判定することが可能となる。
【0057】
以上の説明では、上カメラ30uと下カメラ30dの2つのカメラにより上下ステレオ画像を撮像する例を説明したが、ステレオ画像の取得は必ずしも2台のカメラを要するものではない。図23は、1台のカメラで上下ステレオ画像を撮像できるステレオカメラ3aの構成を示す概略図である。このカメラ3aは、CCDやCMOS等の固体撮像素子あるいは撮像管等を備えるカメラ本体34の光学系33の全面に対称構造のレンズ35u、35d、ミラー36u、37u、36d、37dを配置している。レンズ35uとレンズ35dの光軸が平行で、かつ、所定距離(図では50mm程度)離れるよう配置することで、取得した1画面中の上半分が上カメラ画像Iu、下半分が下カメラ画像Idに相当することになる。このようなカメラを用いると、車両8に上下ステレオカメラを設置する際に、上下カメラ間で光軸の調整や配置間隔の調整を行う必要がなく、その設置が容易になるほか、配置精度を高めることができるので、結果的に立体物の認識精度を高めることができる。
【0058】
また、以上の説明では、上下ステレオ視の場合を例に説明したが、左右ステレオ視の場合や角度をもって配置されたステレオカメラの場合においても同様の手法により通常のステレオ視処理のみでは判定が困難な立体物形状を判定することが可能である。
【0059】
次に、本発明にかかる立体形状検出装置の第2の実施形態について説明する。図24は、この第2の実施形態の構成を示すブロック図である。ここでは、上述のステレオカメラ3aを用いた場合を例に説明する。カメラ3aの出力は、A/Dコンバータ2で変換され、画像処理手段1aへと送られる。この画像処理手段1aは、図1に示される第1の実施形態の画像処理手段と同様にCPU、ROM、RAM等によって構成されており、各構成要素はハードウェアまたはソフトウェアによって実現される。
【0060】
画像処理手段1aは、画像内の横エッジを抽出するエッジ抽出手段10と、抽出したエッジの3次元位置を検出する第1空間位置検出手段14と、その結果を基にして検出領域の設定を行う検出領域設定手段15と、設定した検出領域の3次元位置を検出する第2空間位置検出手段16と、その検出結果に応じて対象物の立体形状を推定する形状推定手段17とを備えている。
【0061】
画像処理手段1aには、車両の現在位置を検出するとともに、地図DB50に格納された地図情報を読み出すナビゲーション装置51の出力が入力されており、また、第1の実施形態と同様に車両挙動制御装置5に対して、推定した立体形状に関する情報を出力する。
【0062】
この実施形態の動作である立体物検出処理のフローチャートを図25に示す。まず、ステップS101では、図26(a)に示されるような画像をカメラ3aにより取得する。次に、取得した画像中からエッジ抽出手段10が横方向エッジを抽出する(ステップS103、図26(b)参照)。エッジ抽出処理自体は上述した第1の実施形態におけるステップS3の処理手法と同様の手法を用いればよい。
【0063】
次に、車両位置・姿勢・包囲情報をナビゲーション装置51から取得する(ステップS105)。そして、地図DB50から位置情報を読み込むとともに、車両の走行軌跡、現在車両位置情報の対応づけを行う(ステップS107)。そして、地図DB50から道路構造物の相対位置情報を取得する(ステップS109)。取得した道路構造物の相対位置情報から当該構造物の画像内の位置を予測し、探索範囲を設定する(ステップS111)。
【0064】
設定した探索範囲に基づいて対応点探索手段11は、上下画像間でエッジの対応点を探索する(ステップS113、図26(c)参照)。ここで、上下画像においてエッジの対応点は、図26(c)中に符号eで示す同一のエピポーラ極線上に位置する。この関係と、画像内における類似度を利用して対応点を検出する。
【0065】
対応点を検出したら、第1空間位置検出手段14は、ステレオ視の手法によってその3次元位置を導出する(ステップS115)。検出した横エッジの3次元位置の一例を図27(a)、(b)、図28に示す。図27(a)は斜視図であり、図27(b)はそれを車両前方方向から見た断面図である。また、図28は、図27(b)に対応する図を車両8とともに示す図である。
【0066】
検出領域設定手段15は、3次元位置検出結果を基にして、自車両8が乗っている平面9からの距離が閾値Th1以内の点(エッジ)を抽出する(ステップS117)。図28に示される例では、Ed−c〜Ed−eが相当する。図29は、実際の画像Iu、IdにおけるこれらのエッジEd−c〜Ed−e位置を示している。検出領域設定手段15は、さらに、抽出した平面上に位置するエッジ(それに近い位置に位置するエッジを含む)の間に小領域Riを設定し、第2空間位置検出手段16によりその空間位置を導出する(ステップS119)。例えば、図29、図30に示されるように、下画像Id内のEd−dとEd−e間に小領域aA〜aCを配置する。そして、上画像のEd−dとEd−e間に小領域aA〜aCに対応する領域を探索し、ステレオ視の手法によってそれらの3次元位置を導出する。
【0067】
形状推定手段17は、求めた小領域Riとこれを挟み込むエッジの空間位置関係を判定する(ステップS121)。例えば、図31(a)に示されるように、小領域aA〜aCが奥側エッジEd−dと同じ垂直面上に位置し、平面9から閾値Th2より低い位置にあれば、ステップS123へ移行して側溝と判定する。一方、図31(b)に示されるように、小領域aA〜aCがエッジEd−cとEd−dとほぼ同じ水平面上に位置していれば、ステップS125へ移行して側溝でないと判定する。ステップS123、S125終了後は、ステップS127へと移行し、判定結果を出力する。車両挙動制御装置5は、判定結果に応じて所望の車両挙動制御を実施する。
【0068】
このようにエッジのみでなく、エッジに挟まれた小領域について対応をとり、その3次元空間位置を算出することで、例えば、底部の画像を取得できていない側溝のようにエッジからでは、その立体形状を正確に把握することができない立体物についても精度良くその形状を把握することが可能となる。
【0069】
ここでは、車両の乗っている平面上のエッジについて判定を行ったが、それ以外の平面、例えば、図28におけるEd−aとEd−bを含む平面について判定を行ってもよい。また、以上の例では、ステレオカメラ3aを用いた場合について説明してきたが、例えば、時系列画像を用いてモーションベースステレオ手法によって3次元位置検出を行ってもよい。あるいは、レーザスキャナの出力を用いて判定を行ってもよい。
【0070】
また、ここでは、地図DB50やナビゲーション装置51を用いて予め探索される物体(ガードレール等)の位置情報から画像内での位置を予測し、予測結果に基づいて検出を行う例を説明したが、このような物体の位置情報を用いることなく、画像のみから立体物を検出する場合であっても本発明は好適に適用可能である。
【0071】
以上の説明では、車両に搭載した場合を例に説明してきたが、本発明にかかる立体形状検出装置は、車載用に限られるものではなく、例えば、ロボット用のカメラや各種の検査機器、監視用カメラ等に用いることができる。
【図面の簡単な説明】
【0072】
【図1】本発明にかかる立体形状検出装置の第1の実施形態の構成を示すブロック図である。
【図2】図1のステレオカメラ3の配置例を示す。
【図3】図2のステレオカメラ3の構成例を示す。
【図4】図3のステレオカメラ3で取得する画像の一例を示す。
【図5】図1の実施形態による立体形状検出処理のフローチャートの前半部である。
【図6】図1の実施形態による立体形状検出処理のフローチャートの後半部である。
【図7】エッジ抽出手法を説明する図である。
【図8】エッジの直下領域の類似度算出処理例を説明する図である。
【図9】エッジの直上領域の類似度算出処理例を説明する図である。
【図10】側溝の上端の両エッジがカメラの撮像範囲にある場合の手前エッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図11】図10の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図12】側溝の上端の両エッジがカメラの撮像範囲にある場合の奥側エッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図13】図12の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図14】下り段差を撮像した場合のエッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図15】図14の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図16】上り段差の両エッジがカメラの撮像範囲にある場合の手前側エッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図17】図16の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図18】上り段差の両エッジがカメラの撮像範囲にある場合の奥側エッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図19】図18の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図20】側溝エッジ候補と、側溝エッジ以外候補としての構成点のマークづけ例を示す図である。
【図21】車両に対する側溝の位置関係情報を説明する図である。
【図22】第1実施形態における投光手段の使用例を説明する図である。
【図23】ステレオカメラの別の実施形態を説明する図である。
【図24】本発明にかかる立体形状検出装置の第2の実施形態の構成を示すブロック図である。
【図25】図24に示す第2の実施形態による立体物検出処理のフローチャートである。
【図26】図25の処理におけるエッジ抽出処理を説明する図である。
【図27】検出した横エッジの3次元位置の一例を説明する図である。
【図28】図27に対応して車両と横エッジの位置関係を示す図である。
【図29】エッジの空間位置と画像中での位置関係を示す図である。
【図30】エッジ間の小領域の設定例を示す図である。
【図31】小領域の空間位置の判定例を説明する図である。
【符号の説明】
【0073】
1、1a…画像処理手段、2…A/Dコンバータ、3、3a…ステレオカメラ、4…投光手段、5…車両挙動制御装置、6…撮像対象物、8…車両、9…平面、10…エッジ抽出手段、11…対応点探索手段、12…類似度算出手段、13…形状推定手段、14…第1空間位置検出手段、15…検出領域設定手段、16…第2空間位置検出手段、17…形状推定手段、30d…下カメラ、30u…上カメラ、31…撮像部、33…光学系、34…カメラ本体、35u、35d…レンズ、36u、36d、37u、37d…ミラー、40…投光エリア、50…地図DB、51…ナビゲーション装置、90…側溝、91…縁石、e1…エピポーラ極線、Ed…エッジ、Id…下カメラ画像、Iu…上カメラ画像。
【技術分野】
【0001】
本発明は、車両周辺の障害物検出等に用いることができる画像を用いた立体形状検出装置に関する。
【背景技術】
【0002】
自動車の周辺状況を把握して運転者に提供することで運転支援を行う各種の運転支援システムの開発が進められている。こうした運転支援システムの一つとしてガードレールや側壁、駐車車両等の障害物を認識して、自車両との接触可能性を評価し、接触可能性があると判定した場合に、運転者に対して報知や回避制御を行うシステムがある(例えば、特許文献1参照)。
【0003】
同文献には、CCDカメラや超音波センサにより、車両進路方向における三次元距離分布を把握して道路形状と障害物を把握し、自車両の形状との対比により、接触可能性の判定を行う技術が記載されている。
【特許文献1】特開平10−283592号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
この技術においては、道路上の障害物、例えば、電柱や駐車車両、対向車両等については、ステレオ視技術によりその3次元情報を求める手法がとられているが、側溝等の路面より下の障害物は超音波センサにより把握している。その理由については詳述されていないが、ステレオ視における空間位置算出は、対応画像中の特徴点の画素位置の対応関係を基にして行うのが一般的であり、特許文献1にも同様の技術が開示されている。しかし、例えば、側溝の場合、底部のエッジが撮影画像中に存在するとは限らないこともあって、エッジ位置自体が溝の上部の路面との境界位置に位置してしまい、路面上の模様(白線等)との識別が難しいという点がある。これらは、側溝に限らず、路面上の段差等においてもあてはまる。
【0005】
そこで本発明は、画像データに基づいて路面段差のような立体物についても形状把握を可能とする立体形状検出装置を提供することを課題とする。
【課題を解決するための手段】
【0006】
上記課題を解決するため、本発明にかかる立体形状検出装置は、(1)高さ方向の異なる位置から対となる画像を撮像する撮像手段と、(2)取得した対画像内のそれぞれにおいて左右方向に延びるエッジを抽出するエッジ抽出手段と、(3)対画像内の抽出したエッジにより分割される上側領域と下側領域のそれぞれについて、対応点の探索を行う対応点探索手段と、(4)探索した対応点の類似度を算出する類似度算出手段と、(5)上側領域で探索した対応点の類似度と、下側領域で探索した対応点の類似度との関係に基づいて、エッジ周辺の形状を推定する形状推定手段と、を備えていることを特徴とする。
【0007】
高さ方向に異なる位置から対となる画像を取得することで、立体物について異なる視点からの画像を取得できる。側溝の画像を取得する場合を例に考えると、上側から取得した画像(上側カメラ画像)と、下側から取得した画像(下側カメラ画像)のそれぞれにおいて映り込む側壁部分の範囲は、上側カメラ画像のほうがより深い位置まで達する。言い換えると、側壁画像の撮像装置に近い側の路面との境界エッジの上側の領域は、上側と下側のカメラ画像では異なる範囲を撮像したものとなる。一方、下側の領域は、同じ領域を異なる角度で撮像したものとなる。路面より遠い側の境界エッジについては、上側、下側ともほぼ同一の領域を撮像したものとなる。したがって、上側領域と下側領域の相関度から、側溝等の近い側のエッジであるか否かを判定することができる。
【0008】
具体的には、形状推定手段は、上側領域で探索した対応点の類似度が下側領域で探索した対応点の類似度よりも所定基準以上小さい場合に、下側領域から上側領域に向かって下がる立体形状であると推定し、あるいは、上側領域で探索した対応点の類似度が下側領域で探索した対応点の類似度よりも所定基準以上大きい場合に、下側領域から上側領域に向かって下がる立体形状ではないと推定するとよい。
【0009】
この撮像手段の高さ方向で異なる位置の間の位置から撮像対象に向けて投光する投光手段をさらに備えているとよい。この投光手段が投光する光は、可視光に限られるものではなく、例えば、撮像手段が赤外線画像を取得可能な場合には、赤外光を投光してもよい。
【0010】
側溝を例にとると、投光手段と対向する側壁の上側には、投光手段からの光が届くが、下側領域(側壁の形状によっては、底部分)は、投光手段からの光は、反対側の側壁のエッジより投光手段側の路面によって遮られて届かず、影になる。投光手段より下側から撮像した場合には、この影部分は映り込まないが、投光手段より上側から撮像した場合には、この影部分が映り込む。つまり、影の存否から立体物を判定できる。
【0011】
あるいは、本発明にかかる立体形状検出装置は、(1)画像を取得する撮像手段と、(2)取得した画像中のエッジを抽出するエッジ抽出手段と、(3)抽出したエッジの3次元位置を検出する第1検出手段と、(4)3次元空間内の所定の平面上に位置するエッジに挟まれている領域に検出領域を設定する設定手段と、(5)設定した検出領域の3次元位置を検出する第2検出手段と、(6)第2検出手段の検出結果に基づいて検出領域部分の立体形状を推定する形状推定手段と、を備えていることを特徴とするものでもよい。
【0012】
本発明によれば、まず、輪郭位置であるエッジの空間位置を検出し、その空間位置が所定平面(例えば、路面)に位置しているエッジの間に検出領域を設定し、設定した検出領域の3次元空間位置を検出することで、当該2つのエッジ間が平面であるか否かを判定する。
【0013】
具体的には、形状推定手段は、検出領域が所定の平面上に位置していない場合に、エッジに挟まれている空間が立体物であると推定するとよく、あるいは、検出領域が所定の平面上に位置している場合に、エッジに挟まれている空間は平面物であると推定してもよい。
【発明の効果】
【0014】
本発明にかかる立体形状検出装置によれば、側溝等の路面段差が存在する場合に、エッジ位置だけでなく、エッジの上下の画像相関度を参照することで、段差と平面とを精度よく判定することが可能となる。このとき、上下の撮像手段の間から対象物に投光すると、対象物表面に形成される陰影からさらに精度よく立体形状の判定を行うことができる。
【0015】
また、本発明にかかる別の立体形状検出装置によれば、輪郭位置を判定し、その輪郭位置間に検出領域を設定して、検出領域の空間位置を求めることで、輪郭位置間の形状を精度よく判定することができる。このため、例えば、側溝の底部画像を取得できていない場合であっても、側溝であるか否かを精度よく判定することができる。
【発明を実施するための最良の形態】
【0016】
以下、添付図面を参照して本発明の好適な実施の形態について詳細に説明する。説明の理解を容易にするため、各図面において同一の構成要素に対しては可能な限り同一の参照番号を附し、重複する説明は省略する。
【0017】
図1は、本発明にかかる立体形状検出装置の第1の実施形態の構成を示すブロック図である。本立体形状検出装置は、車両に搭載され、障害物の検出に用いられるものであり、撮像対象物6の画像を異なる視点から撮像するステレオカメラ3と撮像対象物6を照らす投光手段4と、ステレオカメラ3の出力信号をデジタル変換するA/Dコンバータ2と、画像処理により立体形状検出を行う画像処理手段1を備え、車両挙動制御装置5に推定した形状情報を出力する。
【0018】
画像処理手段1は、CPU、ROM、RAM等によって構成されている。以下に説明する画像処理手段1内の各構成要素は、ハードウェア的に区分されていてもよいが、共通のハードウェア上で稼働するソフトウェアによって実現されていてもよい。これらのソフトウェアは別々のプログラム、サブルーチン等によって構成される場合もあるが、一部またはその大部分のルーチンを共有していてもよい。
【0019】
画像処理手段1は、画像中の対象物の輪郭線を検出して抽出するエッジ抽出手段10と、対応画像中のエッジ間の対応点を探索する対応点探索手段11と、エッジに隣接する所定の領域間での類似度を算出する類似度算出手段12と、これらの情報を基にして撮像対象物6の立体形状を推定する形状推定手段13とを備えている。
【0020】
車両挙動制御装置5としては、検出した障害物等と、自車両との接触可能性を判定して、警報や回避動作支援を行う装置やレーン内の走行を維持する装置、先行車両に追従して走行する装置等が挙げられる。
【0021】
図2にステレオカメラ3の配置例を、図3にその構成例を、図4に取得する画像の一例を示す。ステレオカメラ3は、上カメラ30uと下カメラ30dとを上下に配置することで、撮像対象物6を異なる高さ位置から撮像するものであり、上カメラ30uと下カメラ30dで取得した画像は撮像部31に送られ、処理される。各カメラ30u、30dは、広視野角のカメラであり、例えば、円周魚眼レンズや対角魚眼レンズ等を備えているとよい。このステレオカメラ3は、車両8の側面や前方、後方等に配置される。図2では、左側面に配置した例を示している。撮像対象は、車両8周囲の障害物等であって、路面9に沿って設けられた側溝90や縁石91等の画像を取得する。このようなステレオカメラ3で図4(a)に示されるような側溝90の画像を取得した場合、上カメラ30u、下カメラ30dでそれぞれ取得した画像Iu、Idは、図4(b)、図4(c)にそれぞれ示されるようになる(以下、最初に投光手段4を使用していない場合を例に説明する)。側溝90の底部のエッジが両画像でともに確認できる状態にあれば底部位置から側溝90の存在を判定できるが、図4(b)(c)に示されるように、側溝90の上部エッジしか見えない場合には、エッジ部の位置情報からのみでは、間が平面であるのか、立体物であるかを判定できない。
【0022】
本実施形態の立体形状検出装置は、図4(b)(c)に示されるような取得画像からでも側溝90の存在を検知可能としたものであり、以下にその具体的な動作について説明する。図5は、その処理のメインフローチャートの前半部であり、図6は、その後半部である。この処理は、車両の電源がオンにされてからオフにされるまでの間(画像処理手段のオン/オフスイッチを有する場合には、さらにそのスイッチがオンにされている間に限る。)所定のタイミングで繰り返し実行される。
【0023】
まず、ステレオカメラ3で取得し、A/Dコンバータ2でデジタル信号に変換された画像信号を取得する(ステップS1、図4(b)、(c)参照)。次に、エッジ抽出手段10により、横方向のエッジ線を抽出する(ステップS3)。具体的には、図7(a)に示される画像の側溝対応部Pu、Pdの輪郭線部分のエッジ点をSobelフィルタや上下方向差分等の方法で抽出し(図7(b)参照)、その後、抽出したエッジ点列からHough変換や最小自乗法により直線としてのエッジ線Lu1、Lu2、Ld1、Ld2を求める(図7(c)参照)。ここで検出した横エッジ線には番号(インデックス)付けがされる。
【0024】
次に変数iに初期値0を代入し(ステップS5)、横エッジ直線下側領域について画像間のマッチングを調べる(ステップS7)。具体的には、まず、図8(a)に示されるように、抽出した上カメラ30uの画像Iu中の横エッジ曲線Lu1の直下の小領域(例えば、3×3画素領域)au1,d1について、対応点探索手段11により下カメラ30dの画像Idにおいて対応するエピポーラ極線e1上に位置し、かつ、横エッジ直線Ld1、Ld2直下の小領域ad1,d1、ad2,d1を探索し、類似度算出手段12により、小領域au1,d1とad1,d1およびad2,d1との相関値を求める。この相関値を算出する手法としては、正規化相関法や差分総和などのパターン認識技術を利用すればよい。そして、最も相関値の高い小領域を対応領域候補とする。この対応領域候補の相関値(最大相関値)をSLとする。
【0025】
次に、求めたSLを閾値THsと比較する(ステップS9)。SLがTHs以下の場合には、当該対応領域候補は対応領域には該当しないと判定して、後述するステップS27へと移行する。SLがTHsを超えている場合には、当該対応領域候補を対応領域と判定する。図8(b)の例では、小領域ad1,d1が小領域au1,d1の対応領域となる。対応領域が確認できたらエッジ下側小領域ad1,d1と小領域au1,d1の画像内での位置関係からステレオ視による3次元変換技術により当該領域の3次元位置PLを算出する(ステップS11)。これは三角測量の原理を用いることで実行できる。
【0026】
次に、横エッジ直線上側領域について画像間のマッチングを調べる(ステップS13)。処理の内容は、ステップS7と同様であって、図9(a)に示されるように、抽出した上カメラ30uの画像Iu中の横エッジ曲線Lu1の直上の小領域(領域の大きさはステップS7の小領域と同サイズとする。)au1,u1について、対応点探索手段11により下カメラ30dの画像Idにおいて対応するエピポーラ極線e1上に位置し、かつ、横エッジ直線Ld1、Ld2直上の小領域ad1,u1、ad2,u1を探索し、類似度算出手段12により相関値を求める。そして、最も相関値の高い小領域を対応領域候補とする。この対応領域候補の相関値(最大相関値)をSUとする。
【0027】
次に、求めたSUを閾値THsと比較する(ステップS15)。SLがTHs以下の場合には、当該対応領域候補は対応領域には該当しないと判定して、後述するステップS19へと移行する。SUがTHsを超えている場合には、当該対応領域候補を対応領域と判定する。図9(b)の例では、小領域ad1,u1が小領域au1,u1の対応領域となる。対応領域が確認できたらエッジ上側小領域ad1,u1と小領域au1,u1の画像内での位置関係から当該領域の3次元位置PUを算出する(ステップS17)。
【0028】
続いて形状推定手段13は、SUとSLの比である相関値比RSを算出し(ステップS19)、求めたRSを閾値THRと比較する(ステップS21)。このTHRは、1より小さいが、1に近い数値、例えば、0.8等に設定されている。立体物の形状によって上カメラ30uで取得した画像Iuと下カメラ30dで取得した画像Id中の対応エッジの直上、直下に映り込む領域が異なる場合がある。領域が異なるとSUとSLが異なる値をとることになり、RSが1からずれる。以下、立体形状の具体例を挙げて説明する。
【0029】
側溝の上端の両エッジEd1、Ed2の双方が両カメラ30u、30dの撮像範囲にある場合を図10、図11に示す。この場合、上カメラ30uの取得した画像Iuと、下カメラ30dの取得した画像Idにおいては、手前エッジEd1の直下に映り込む小領域は、いずれもEd1に隣接する領域ad1であるが、手前エッジEd1の直上に映り込む小領域は、対岸の側溝の壁面であって、Idにおいては、Iuにおける領域au1により上部のau2となる。この結果、上記RSは1より小さくなる。
【0030】
一方、対岸、つまり、奥側エッジEd1の直上および直下に映り込む領域は、図12、図13に示されるように、画像Iuにおいても、画像Idにおいてもau3とad2の組み合わせで一致する。したがって、この場合の上記RSは1にほぼ等しくなる。
【0031】
また、対岸のない下り段差の場合は図14、図15に示されるように、エッジEd3の下側に映り込む領域は、画像Iu、Idで一致し、エッジEd3に隣接する領域ad3となる。一方、直上に映り込む領域は、画像Iuでは、au4、画像Idでは、au5となり、画像Iuのほうが、画像Idの場合よりカメラ3に近い領域が映り込む。この結果、この場合の上記RSも1より小さくなる。
【0032】
逆に上り段差においては、その手前エッジEd4については、図16、図17に示されるように、その直上および直下に映り込む領域は、au6、ad4で一致し、また、奥側エッジEd5についても、図18、図19に示されるように、その直上および直下に映り込む領域は、au7、ad5で一致する。この場合も上記RSは1にほぼ等しくなる。
【0033】
すなわち、RSは、エッジが平面に存在している場合や上り段差のエッジである場合には、1にほぼ等しくなるが、下り段差のエッジ(側溝の手前エッジを含む)である場合には、1より小さくなる。これを利用して、RSを判定することで、下り段差のエッジであるか否かを判定することができる。
【0034】
ステップS21においてRSが閾値THRより小さいと判定した場合には、下り段差のエッジであると判定して、側溝エッジ候補としてマークをつける(ステップS23)。そして、ステップS11で求めた位置情報PLをエッジの位置情報として記録する。一方、RSが閾値THR以上であると判定した場合には、下り段差のエッジではないと判定し、側溝以外のエッジ候補としてマークをつける(ステップS25)。この場合には、ステップS17で求めた位置情報PUをエッジの位置情報として記録する。
【0035】
ステップS23、S25終了後は、ステップS27へと移行し、当該横エッジ線Liの全構成点について調べたか否かを判定する。構成点の全てについて判定を終了していない場合には、ステップS7へと戻り、次の構成点についてステップS7〜S25の処理を実行する。これにより、図8(c)、図9(c)に示されるようにエッジLu1の左端から右端までの全構成点の直上領域と直下領域の小領域に対応する領域の検出を行い、下り段差エッジであるか否かと、その位置情報の算出を行う。
【0036】
横エッジ線Liの全構成点についての判定が終了したら、図6に示されるステップS29へと移行し、横エッジ線Liにおいて、側溝エッジ候補としてマークづけした構成点の数Ngと、側溝以外のエッジ候補としてマークづけした構成点の数Ncをそれぞれ数える。図20においては、側溝エッジ候補を黒丸で、側溝以外のエッジ候補を黒三角で示している。画像取得時の条件(明るさや影の状態、カメラとの角度等)によって実際には下り段差のエッジの場合に、RSが1に近いと判定して、側溝エッジ候補でないと判定する場合や、その逆に判定する場合がある。このような誤判定の影響を軽減するために、エッジ全体について側溝エッジ候補の数Ngとそれ以外のエッジ候補の数Ncの比率を調べることで、判定精度の向上を図る。
【0037】
具体的には、NgとNcの比率と閾値THNとを比較する(ステップS31)。Ng/NcがTHNを上回っている場合には、当該エッジLiを側溝エッジとしてマークづけし(ステップS33)、当該エッジ線の3次元位置・姿勢を導出する(ステップS35)。図20の例では、黒丸が大部分を占める手前側エッジが側溝エッジとしてマークづけされる。このエッジ線を構成する点上、または、そのエッジ点直下や直上の小領域の3次元情報を用いて、Hough変換や最小自乗法等の手法を用いて当該エッジの3次元直線式を導出すればよい。この直線式は、例えば以下の式(1)で表せる。
【0038】
【数1】
【0039】
なお、x1、y1、z1、a1、b1、c1はいずれも定数である。
【0040】
一方、Ng/NcがTHN以下の場合には、当該エッジLiを側溝以外エッジとしてマークづけし(ステップS37)、当該エッジ線の3次元位置・姿勢を導出する(ステップS39)。図20の例では、黒三角が大部分を占める奥側エッジが側溝以外エッジとしてマークづけされる。空間位置の算出手法は、上述した側溝エッジの場合と同じ手法を用いればよい。
【0041】
ステップS35、S39終了後は、ステップS41へと移行し、画像内の全ての横エッジ線について判定を終了したか否かを調べる。終了していない場合には、ステップS43へと移行して、変数iに1を加算し、ステップS7へと戻ることにより、次のエッジ線についての調査を行う。
【0042】
全てのエッジ線について調査が終了したらステップS45へと移行し、画面内に側溝エッジ線が存在するか否かを調べる。側溝エッジ線が存在しない場合には、その後の処理をスキップして処理を終了する。側溝エッジ線が存在する場合には、変数jを初期値0に設定し(ステップS47)、側溝エッジ線Lgi(手前エッジ)に対応する奥側エッジの探索を行う(ステップS49)。具体的には、側溝エッジ線Lgiと並行で、かつ、それより上(奥側)に位置し、かつ、最も近接している横エッジ線Loを探索する。
【0043】
例として、側溝エッジ線が上記式(1)で別のエッジ線が下記式(2)で表される場合を考える。(ここで、x2、y2、z2、a2、b2、c2も定数である。
【0044】
【数2】
【0045】
上記の2直線がなす角度θ12は、下記の式(3)で求めることができる。
【0046】
【数3】
【0047】
θ12の絶対値が閾値THθより小さいとき(例えば、5°未満)の場合に、2直線はほぼ平行であると判定すればよい。
【0048】
横エッジ線Loの探索が成功したか否かを判定し(ステップS51)、成功した、つまり、Loが存在した場合には、ステップS53へと移行してLoを対岸エッジとして、側溝の幅、見掛けの深さ等を算出する。側溝の幅D12は2直線間の距離として算出でき、下記の(4)式によって表すことができる。
【0049】
【数4】
【0050】
また、車両8と側溝90の位置関係が、図21に示されるような関係である場合に、側溝までの距離dと、側溝の伸長方向と車両8から横向きに伸ばした延長線とのなす角度φは下記の式(5)、(6)で表される。
【0051】
【数5】
【0052】
一方、Loが存在しない場合には、対岸が撮像領域内に存在しないか、対岸のない単純な下り段差である場合を意味する。この場合は、ステップS55へと移行して、段差または対岸が壁であると判断し、その旨を表す情報を記録する。
【0053】
ステップS53、S55終了後は、求めた側溝情報を出力する(ステップS57)。そして、全ての側溝エッジ線について対応する横エッジ線の探索を終了したか否かを判定する(ステップS59)。判定が未了の場合には、ステップS61へと移行し、jを1加算して、次の側溝エッジ線について対応横エッジ線の探索処理を行う。一方、判定が終了した場合には、全処理を終了する。
【0054】
以上説明したように、本発明によれば、エッジ抽出によって検出した物体の輪郭位置だけでなく、エッジ直上直下の領域の類似度を判定することで、側溝等の立体物の存在を判定することができる。これにより、側溝を障害物として正しく認識し、車両挙動制御装置5において適切な車両挙動制御(例えば、障害物回避制御等)を行うことができ、安全性がさらに向上する。
【0055】
さらに、投光手段4を活用することで、検出を容易にすることができる。図22(a)は投光手段4により照明光を被写体に向けて照射した場合の関係図を、図22(b)、(c)はこの場合に取得される上カメラ画像Iuと、下カメラ画像Idを示している。ここで、投光手段4により照射される照明光は、上カメラ30u、下カメラ30dにおいて検出可能であれば赤外光や紫外光など可視光線に限られるものではない。
【0056】
上カメラ30uと下カメラ30dの間に配置される投光手段4により投影した光の投光エリア40は、図22(a)に示されるようになり、手前エッジEd1に対向する壁面の上側は投光エリア40内に位置するが、下側は、手前エッジEd1の影となる。このため、画像Idにおいて手前エッジEd1の直上に映り込む領域au2は投光エリア40内に位置し、比較的高い輝度値を有するのに対して、画像Iuにおいて手前エッジEd1の直上に映り込む領域au1は投光エリア40の外の影S1内に位置し、比較的低い輝度値を有することになる。そのため、輝度差が大きくなり、その相関値は低いものとなる。これにより、手前エッジの検出が容易になり、側溝等をより精度良く判定することが可能となる。
【0057】
以上の説明では、上カメラ30uと下カメラ30dの2つのカメラにより上下ステレオ画像を撮像する例を説明したが、ステレオ画像の取得は必ずしも2台のカメラを要するものではない。図23は、1台のカメラで上下ステレオ画像を撮像できるステレオカメラ3aの構成を示す概略図である。このカメラ3aは、CCDやCMOS等の固体撮像素子あるいは撮像管等を備えるカメラ本体34の光学系33の全面に対称構造のレンズ35u、35d、ミラー36u、37u、36d、37dを配置している。レンズ35uとレンズ35dの光軸が平行で、かつ、所定距離(図では50mm程度)離れるよう配置することで、取得した1画面中の上半分が上カメラ画像Iu、下半分が下カメラ画像Idに相当することになる。このようなカメラを用いると、車両8に上下ステレオカメラを設置する際に、上下カメラ間で光軸の調整や配置間隔の調整を行う必要がなく、その設置が容易になるほか、配置精度を高めることができるので、結果的に立体物の認識精度を高めることができる。
【0058】
また、以上の説明では、上下ステレオ視の場合を例に説明したが、左右ステレオ視の場合や角度をもって配置されたステレオカメラの場合においても同様の手法により通常のステレオ視処理のみでは判定が困難な立体物形状を判定することが可能である。
【0059】
次に、本発明にかかる立体形状検出装置の第2の実施形態について説明する。図24は、この第2の実施形態の構成を示すブロック図である。ここでは、上述のステレオカメラ3aを用いた場合を例に説明する。カメラ3aの出力は、A/Dコンバータ2で変換され、画像処理手段1aへと送られる。この画像処理手段1aは、図1に示される第1の実施形態の画像処理手段と同様にCPU、ROM、RAM等によって構成されており、各構成要素はハードウェアまたはソフトウェアによって実現される。
【0060】
画像処理手段1aは、画像内の横エッジを抽出するエッジ抽出手段10と、抽出したエッジの3次元位置を検出する第1空間位置検出手段14と、その結果を基にして検出領域の設定を行う検出領域設定手段15と、設定した検出領域の3次元位置を検出する第2空間位置検出手段16と、その検出結果に応じて対象物の立体形状を推定する形状推定手段17とを備えている。
【0061】
画像処理手段1aには、車両の現在位置を検出するとともに、地図DB50に格納された地図情報を読み出すナビゲーション装置51の出力が入力されており、また、第1の実施形態と同様に車両挙動制御装置5に対して、推定した立体形状に関する情報を出力する。
【0062】
この実施形態の動作である立体物検出処理のフローチャートを図25に示す。まず、ステップS101では、図26(a)に示されるような画像をカメラ3aにより取得する。次に、取得した画像中からエッジ抽出手段10が横方向エッジを抽出する(ステップS103、図26(b)参照)。エッジ抽出処理自体は上述した第1の実施形態におけるステップS3の処理手法と同様の手法を用いればよい。
【0063】
次に、車両位置・姿勢・包囲情報をナビゲーション装置51から取得する(ステップS105)。そして、地図DB50から位置情報を読み込むとともに、車両の走行軌跡、現在車両位置情報の対応づけを行う(ステップS107)。そして、地図DB50から道路構造物の相対位置情報を取得する(ステップS109)。取得した道路構造物の相対位置情報から当該構造物の画像内の位置を予測し、探索範囲を設定する(ステップS111)。
【0064】
設定した探索範囲に基づいて対応点探索手段11は、上下画像間でエッジの対応点を探索する(ステップS113、図26(c)参照)。ここで、上下画像においてエッジの対応点は、図26(c)中に符号eで示す同一のエピポーラ極線上に位置する。この関係と、画像内における類似度を利用して対応点を検出する。
【0065】
対応点を検出したら、第1空間位置検出手段14は、ステレオ視の手法によってその3次元位置を導出する(ステップS115)。検出した横エッジの3次元位置の一例を図27(a)、(b)、図28に示す。図27(a)は斜視図であり、図27(b)はそれを車両前方方向から見た断面図である。また、図28は、図27(b)に対応する図を車両8とともに示す図である。
【0066】
検出領域設定手段15は、3次元位置検出結果を基にして、自車両8が乗っている平面9からの距離が閾値Th1以内の点(エッジ)を抽出する(ステップS117)。図28に示される例では、Ed−c〜Ed−eが相当する。図29は、実際の画像Iu、IdにおけるこれらのエッジEd−c〜Ed−e位置を示している。検出領域設定手段15は、さらに、抽出した平面上に位置するエッジ(それに近い位置に位置するエッジを含む)の間に小領域Riを設定し、第2空間位置検出手段16によりその空間位置を導出する(ステップS119)。例えば、図29、図30に示されるように、下画像Id内のEd−dとEd−e間に小領域aA〜aCを配置する。そして、上画像のEd−dとEd−e間に小領域aA〜aCに対応する領域を探索し、ステレオ視の手法によってそれらの3次元位置を導出する。
【0067】
形状推定手段17は、求めた小領域Riとこれを挟み込むエッジの空間位置関係を判定する(ステップS121)。例えば、図31(a)に示されるように、小領域aA〜aCが奥側エッジEd−dと同じ垂直面上に位置し、平面9から閾値Th2より低い位置にあれば、ステップS123へ移行して側溝と判定する。一方、図31(b)に示されるように、小領域aA〜aCがエッジEd−cとEd−dとほぼ同じ水平面上に位置していれば、ステップS125へ移行して側溝でないと判定する。ステップS123、S125終了後は、ステップS127へと移行し、判定結果を出力する。車両挙動制御装置5は、判定結果に応じて所望の車両挙動制御を実施する。
【0068】
このようにエッジのみでなく、エッジに挟まれた小領域について対応をとり、その3次元空間位置を算出することで、例えば、底部の画像を取得できていない側溝のようにエッジからでは、その立体形状を正確に把握することができない立体物についても精度良くその形状を把握することが可能となる。
【0069】
ここでは、車両の乗っている平面上のエッジについて判定を行ったが、それ以外の平面、例えば、図28におけるEd−aとEd−bを含む平面について判定を行ってもよい。また、以上の例では、ステレオカメラ3aを用いた場合について説明してきたが、例えば、時系列画像を用いてモーションベースステレオ手法によって3次元位置検出を行ってもよい。あるいは、レーザスキャナの出力を用いて判定を行ってもよい。
【0070】
また、ここでは、地図DB50やナビゲーション装置51を用いて予め探索される物体(ガードレール等)の位置情報から画像内での位置を予測し、予測結果に基づいて検出を行う例を説明したが、このような物体の位置情報を用いることなく、画像のみから立体物を検出する場合であっても本発明は好適に適用可能である。
【0071】
以上の説明では、車両に搭載した場合を例に説明してきたが、本発明にかかる立体形状検出装置は、車載用に限られるものではなく、例えば、ロボット用のカメラや各種の検査機器、監視用カメラ等に用いることができる。
【図面の簡単な説明】
【0072】
【図1】本発明にかかる立体形状検出装置の第1の実施形態の構成を示すブロック図である。
【図2】図1のステレオカメラ3の配置例を示す。
【図3】図2のステレオカメラ3の構成例を示す。
【図4】図3のステレオカメラ3で取得する画像の一例を示す。
【図5】図1の実施形態による立体形状検出処理のフローチャートの前半部である。
【図6】図1の実施形態による立体形状検出処理のフローチャートの後半部である。
【図7】エッジ抽出手法を説明する図である。
【図8】エッジの直下領域の類似度算出処理例を説明する図である。
【図9】エッジの直上領域の類似度算出処理例を説明する図である。
【図10】側溝の上端の両エッジがカメラの撮像範囲にある場合の手前エッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図11】図10の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図12】側溝の上端の両エッジがカメラの撮像範囲にある場合の奥側エッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図13】図12の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図14】下り段差を撮像した場合のエッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図15】図14の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図16】上り段差の両エッジがカメラの撮像範囲にある場合の手前側エッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図17】図16の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図18】上り段差の両エッジがカメラの撮像範囲にある場合の奥側エッジとその直上、直下に映り込む領域の位置関係を示す図である。
【図19】図18の場合において、上カメラ、下カメラで取得されるそれぞれの画像を示す図である。
【図20】側溝エッジ候補と、側溝エッジ以外候補としての構成点のマークづけ例を示す図である。
【図21】車両に対する側溝の位置関係情報を説明する図である。
【図22】第1実施形態における投光手段の使用例を説明する図である。
【図23】ステレオカメラの別の実施形態を説明する図である。
【図24】本発明にかかる立体形状検出装置の第2の実施形態の構成を示すブロック図である。
【図25】図24に示す第2の実施形態による立体物検出処理のフローチャートである。
【図26】図25の処理におけるエッジ抽出処理を説明する図である。
【図27】検出した横エッジの3次元位置の一例を説明する図である。
【図28】図27に対応して車両と横エッジの位置関係を示す図である。
【図29】エッジの空間位置と画像中での位置関係を示す図である。
【図30】エッジ間の小領域の設定例を示す図である。
【図31】小領域の空間位置の判定例を説明する図である。
【符号の説明】
【0073】
1、1a…画像処理手段、2…A/Dコンバータ、3、3a…ステレオカメラ、4…投光手段、5…車両挙動制御装置、6…撮像対象物、8…車両、9…平面、10…エッジ抽出手段、11…対応点探索手段、12…類似度算出手段、13…形状推定手段、14…第1空間位置検出手段、15…検出領域設定手段、16…第2空間位置検出手段、17…形状推定手段、30d…下カメラ、30u…上カメラ、31…撮像部、33…光学系、34…カメラ本体、35u、35d…レンズ、36u、36d、37u、37d…ミラー、40…投光エリア、50…地図DB、51…ナビゲーション装置、90…側溝、91…縁石、e1…エピポーラ極線、Ed…エッジ、Id…下カメラ画像、Iu…上カメラ画像。
【特許請求の範囲】
【請求項1】
高さ方向の異なる位置から対となる画像を撮像する撮像手段と、
取得した対画像内のそれぞれにおいて左右方向に延びるエッジを抽出するエッジ抽出手段と、
対画像内の抽出したエッジにより分割される上側領域と下側領域のそれぞれについて、対応点の探索を行う対応点探索手段と、
探索した対応点の類似度を算出する類似度算出手段と、
上側領域で探索した対応点の類似度と、下側領域で探索した対応点の類似度との関係に基づいて、エッジ周辺の形状を推定する形状推定手段と、
を備えていることを特徴とする立体形状検出装置。
【請求項2】
前記形状推定手段は、上側領域で探索した対応点の類似度が下側領域で探索した対応点の類似度よりも所定基準以上小さい場合に、下側領域から上側領域に向かって下がる立体形状であると推定することを特徴とする請求項1記載の立体形状検出装置。
【請求項3】
前記形状推定手段は、上側領域で探索した対応点の類似度が下側領域で探索した対応点の類似度よりも所定基準以上大きい場合に、下側領域から上側領域に向かって下がる立体形状ではないと推定することを特徴とする請求項1記載の立体形状検出装置。
【請求項4】
前記撮像手段の高さ方向で異なる位置の間の位置から撮像対象に向けて投光する投光手段をさらに備えていることを特徴とする請求項1〜3のいずれかに記載の立体形状検出装置。
【請求項5】
画像を取得する撮像手段と、
取得した画像中のエッジを抽出するエッジ抽出手段と、
抽出したエッジの3次元位置を検出する第1空間位置検出手段と、
3次元空間内の所定の平面上に位置するエッジに挟まれている領域に検出領域を設定する検出領域設定手段と、
設定した検出領域の3次元位置を検出する第2空間位置検出手段と、
第2空間位置検出手段の検出結果に基づいて検出領域部分の立体形状を推定する形状推定手段と、
を備えていることを特徴とする立体形状検出装置。
【請求項6】
前記形状推定手段は、検出領域が前記所定の平面上に位置していない場合に、エッジに挟まれている空間が立体物であると推定することを特徴とする請求項5記載の立体形状検出装置。
【請求項7】
前記形状推定手段は、検出領域が前記所定の平面上に位置している場合に、エッジに挟まれている空間は平面物であると推定することを特徴とする請求項5記載の立体形状検出装置。
【請求項1】
高さ方向の異なる位置から対となる画像を撮像する撮像手段と、
取得した対画像内のそれぞれにおいて左右方向に延びるエッジを抽出するエッジ抽出手段と、
対画像内の抽出したエッジにより分割される上側領域と下側領域のそれぞれについて、対応点の探索を行う対応点探索手段と、
探索した対応点の類似度を算出する類似度算出手段と、
上側領域で探索した対応点の類似度と、下側領域で探索した対応点の類似度との関係に基づいて、エッジ周辺の形状を推定する形状推定手段と、
を備えていることを特徴とする立体形状検出装置。
【請求項2】
前記形状推定手段は、上側領域で探索した対応点の類似度が下側領域で探索した対応点の類似度よりも所定基準以上小さい場合に、下側領域から上側領域に向かって下がる立体形状であると推定することを特徴とする請求項1記載の立体形状検出装置。
【請求項3】
前記形状推定手段は、上側領域で探索した対応点の類似度が下側領域で探索した対応点の類似度よりも所定基準以上大きい場合に、下側領域から上側領域に向かって下がる立体形状ではないと推定することを特徴とする請求項1記載の立体形状検出装置。
【請求項4】
前記撮像手段の高さ方向で異なる位置の間の位置から撮像対象に向けて投光する投光手段をさらに備えていることを特徴とする請求項1〜3のいずれかに記載の立体形状検出装置。
【請求項5】
画像を取得する撮像手段と、
取得した画像中のエッジを抽出するエッジ抽出手段と、
抽出したエッジの3次元位置を検出する第1空間位置検出手段と、
3次元空間内の所定の平面上に位置するエッジに挟まれている領域に検出領域を設定する検出領域設定手段と、
設定した検出領域の3次元位置を検出する第2空間位置検出手段と、
第2空間位置検出手段の検出結果に基づいて検出領域部分の立体形状を推定する形状推定手段と、
を備えていることを特徴とする立体形状検出装置。
【請求項6】
前記形状推定手段は、検出領域が前記所定の平面上に位置していない場合に、エッジに挟まれている空間が立体物であると推定することを特徴とする請求項5記載の立体形状検出装置。
【請求項7】
前記形状推定手段は、検出領域が前記所定の平面上に位置している場合に、エッジに挟まれている空間は平面物であると推定することを特徴とする請求項5記載の立体形状検出装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【公開番号】特開2007−232389(P2007−232389A)
【公開日】平成19年9月13日(2007.9.13)
【国際特許分類】
【出願番号】特願2006−50866(P2006−50866)
【出願日】平成18年2月27日(2006.2.27)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】
【公開日】平成19年9月13日(2007.9.13)
【国際特許分類】
【出願日】平成18年2月27日(2006.2.27)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】
[ Back to top ]