壁検出装置
【課題】道路を含む自車両の進行路を撮像した撮像画像中から道路脇のガードレール等の壁を確実にかつ精度良く検出可能な壁検出装置を提供する。
【解決手段】壁検出装置1は、道路を含む自車両MCの進行路を撮像して一対の画像を出力する撮像手段2と、撮像された一対の画像に基づいて少なくとも一方の画像Tの設定領域ごとに実空間における距離Lijを算出する画像処理手段6と、距離Lijの情報に基づいて道路面より上方に存在するとみなすことができる設定領域を抽出する抽出手段93と、抽出された設定領域に基づいて自車両に近い領域で自車両の左右に壁を表す直線r1、l1を検出し、壁を表す直線r1、l1を基準としてより遠方の直線状または曲線状の壁のラインを検出し、壁を表す直線および壁のラインを合わせて壁の位置WR、WLを検出する壁検出手段94とを備える。
【解決手段】壁検出装置1は、道路を含む自車両MCの進行路を撮像して一対の画像を出力する撮像手段2と、撮像された一対の画像に基づいて少なくとも一方の画像Tの設定領域ごとに実空間における距離Lijを算出する画像処理手段6と、距離Lijの情報に基づいて道路面より上方に存在するとみなすことができる設定領域を抽出する抽出手段93と、抽出された設定領域に基づいて自車両に近い領域で自車両の左右に壁を表す直線r1、l1を検出し、壁を表す直線r1、l1を基準としてより遠方の直線状または曲線状の壁のラインを検出し、壁を表す直線および壁のラインを合わせて壁の位置WR、WLを検出する壁検出手段94とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、壁検出装置に係り、特に、道路を含む自車両の進行路を撮像した撮像画像中から道路脇の壁を検出可能な壁検出装置に関する。
【背景技術】
【0002】
近年、自動車等の走行安全性の向上や車両の自動制御等に向けて、車載のステレオカメラやビデオカメラ等で撮像した画像に画像処理を施して、画像中から追い越し禁止線や路側帯と車道とを区画する区画線等の道路面上に標示された車線や先行車や歩行者、ガードレール等の障害物の位置や速度を検出する装置が種々提案されている(例えば、特許文献1〜4等参照)。
【0003】
これらの技術は、例えば、車線に追従し車線を逸脱しそうな場合には現在の走行レーンに引き戻すように自車両の走行を自動制御したり、検出した歩行者や障害物に対しては衝突しないように回避し先行車には追従するように自車両を自動制御する技術につながるため、車線や障害物等を精度良く検出可能であることが求められている。
【特許文献1】特開平10−283461号公報
【特許文献2】特開2001−92970号公報
【特許文献3】特開2003−204546号公報
【特許文献4】特開2001−48036号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
これらの装置において、例えば車線逸脱回避制御では自車両が逸脱しそうな車線側の隣接する走行レーンに対向車や先行車両等の障害物が存在しないような場合には、自車両が車線を踏む状態で走行したり多少車線をはみ出して走行するように自車両を制御することが許される場合がある。
【0005】
しかし、道路脇の壁、すなわち住宅やビルの壁のみならずブロック塀やガードレール、生垣等に対しては前記のような車線と同様に扱うことができず、壁に接触したり衝突したりする事態は確実に回避されなければならない。なお、本発明では、住宅やビルの壁やブロック塀、ガードレール、生垣等の道路脇の立体物を壁と総称する。
【0006】
特にガードレールが配置されたり生垣が植栽された道路では、ガードレールや生垣等の付近に車線が標示されていない場合もあり、自車両の自動制御を検出された車線に基づいて行うだけでは十分ではなく、道路脇の壁の位置を確実にかつ精度良く検出することが必要である。また、道路脇の壁の位置を確実にかつ精度良く検出可能な検出装置が求められている。
【0007】
本発明は、このような事情に鑑みてなされたものであり、道路を含む自車両の進行路を撮像した撮像画像中から道路脇のガードレール等の壁を確実にかつ精度良く検出可能な壁検出装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
前記の問題を解決するために、第1の発明の壁検出装置は、
道路を含む自車両の進行路を撮像して一対の画像を出力する撮像手段と、
前記撮像された一対の画像に基づいて少なくとも一方の画像の設定領域ごとに実空間における距離を算出する画像処理手段と、
前記距離の情報に基づいて道路面より上方に存在するとみなすことができる前記設定領域を抽出する抽出手段と、
抽出された前記設定領域に基づいて自車両に近い領域で自車両の左右に壁を表す直線を検出し、前記壁を表す直線を基準としてより遠方の直線状または曲線状の壁のラインを検出し、前記壁を表す直線および前記壁のラインを合わせて壁の位置を検出する壁検出手段と
を備えることを特徴とする。
【0009】
第2の発明は、第1の発明の壁検出装置において、前記壁検出手段は、検出した前記壁が所定の距離以上連続して検出されていない場合には検出結果を無効とすることを特徴とする。
【0010】
第3の発明は、第1または第2の発明の壁検出装置において、前記壁検出手段は、検出した前記壁が所定の速度以上の移動速度を有する場合には検出結果を無効とすることを特徴とする。
【0011】
第4の発明は、第1から第3のいずれかの発明の壁検出装置において、前記壁検出手段は、前記抽出された設定領域を実空間上の点に変換し、前記実空間上の点に基づいて少なくとも前記壁を表す直線を検出することを特徴とする。
【0012】
第5の発明は、第1から第3のいずれかの発明の壁検出装置において、前記壁検出手段は、前記抽出された設定領域のうち同一立体物を撮像したと見なすことができる設定領域をグループ化し、自車両の進行方向に対して所定の傾きを有するグループの前記一方の画像上の位置または実空間上の位置に基づいて少なくとも前記壁を表す直線を検出することを特徴とする。
【0013】
第6の発明は、第1から第5のいずれかの発明の壁検出装置において、前記壁検出手段は、前記抽出された設定領域を実空間上の点に変換して、前記点を自車両の距離方向および左右方向に格子状に分割された前記実空間上の各ブロックにプロットし、前記実空間上の各ブロックのプロット数を自車両の左右方向にパターンマッチングして得られた壁の位置に基づいて前記壁を表す直線または前記壁のラインを検出することを特徴とする。
【発明の効果】
【0014】
第1の発明によれば、ステレオカメラにより撮像された一対の画像のうち一方の画像に設定された各設定領域についてステレオマッチング処理によりそれぞれ視差を算出し、それに基づいて設定領域に撮像されている立体物までの距離を精度良く算出する。そして、距離の情報に基づいて自車両に近い領域で壁を表す直線を確実に検出したうえで、検出された直線に基づいてより遠方の壁のラインを検出し、両者をあわせて自車両の左右の道路脇に存在するガードレール等の壁の位置を検出する。
【0015】
そのため、道路脇のガードレール等の壁を確実にかつ精度良く検出することが可能となるとともに、本発明に係る壁検出装置が出力する壁の位置情報等に基づいて自車両の自動制御を行う自動制御システムを構築すれば、確実かつ精度良く検出された道路脇のガードレール等の壁の情報に基づいて自車両を適切かつ的確に制御することが可能となる。
【0016】
第2の発明によれば、例えば自車両が走行する走行レーンの隣の走行レーンを走行している車両の側面等を壁として検出した場合のように、壁が所定距離以上連続して検出されていない場合に検出結果を無効とすることで、壁の誤検出を確実に回避することが可能となり、前記第1の発明の効果をより的確に発揮させることが可能となる。
【0017】
第3の発明によれば、例えば自車両が走行する走行レーンの隣の走行レーンを走行している車両の側面等を壁として検出した場合のように、検出した壁が所定速度以上の速度を有する場合に検出結果を無効とすることで、壁の誤検出を確実に回避することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
【0018】
第4の発明によれば、有意な距離の情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換し、変換された実空間上の点に基づいてハフ変換等の直線近似により壁を表す直線を検出することで、自車両に近い領域に確実にかつ精度良く壁を表す直線を検出することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
【0019】
第5の発明によれば、有意な距離の情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換し、実空間上の点のうち同一立体物を撮像したと見なすことができる設定領域に対応する点をグループ化して直線近似し、自車両の進行方向にほぼ平行なグループであって自車両に最も近い自車両左右の直線を壁直線として検出することで、自車両に近い領域に確実にかつ精度良く壁を表す直線を検出することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
【0020】
第6の発明によれば、有意な距離の情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換して、これらの点を自車両前方の格子状に分割された実空間上の各ブロックにプロットし、各ブロックのプロット数を自車両の左右方向にパターンマッチングして得られた壁の位置に基づいて壁の位置を検出することで、例えば変換された実空間上の点が実空間上に整然と並ばず、実空間上に散在するようにプロットされるような場合にも、自車両の左右の壁の位置を的確に検出することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
【発明を実施するための最良の形態】
【0021】
以下、本発明に係る壁検出装置の実施の形態について、図面を参照して説明する。
【0022】
[第1の実施の形態]
第1の実施形態に係る壁検出装置1は、図1に示すように、主に撮像手段2と、変換手段3と、画像処理手段6と、検出手段9とで構成されている。
【0023】
撮像手段2は、車両周辺を撮像するものであり、所定のサンプリング周期で車両前方の道路を含む風景を撮像して一対の画像を出力するように構成されている。本実施形態では、互いに同期が取られたCCDやCMOSセンサ等のイメージセンサがそれぞれ内蔵された一対のメインカメラ2aおよびサブカメラ2bからなるステレオカメラが用いられている。本実施形態では、メインカメラ2aおよびサブカメラ2bにはCCDカメラが用いられている。
【0024】
メインカメラ2aとサブカメラ2bは、例えば、ルームミラー近傍に車幅方向に所定の間隔をあけて取り付けられている。前記一対のステレオカメラのうち、運転者に近い方のカメラが後述するように各画素について距離が算出され車線が検出される基となる画像を撮像するメインカメラ2a、運転者から遠い方のカメラが前記距離等を求めるために比較される画像を撮像するサブカメラ2bとされている。
【0025】
メインカメラ2aおよびサブカメラ2bには、変換手段3としてのA/Dコンバータ3a、3bがそれぞれ接続されている。A/Dコンバータ3a、3bでは、メインカメラ2aおよびサブカメラ2bから出力されてきた一対のアナログ画像がそれぞれ画素ごとに例えば256階調のグレースケール等の所定の輝度階調の輝度値を有するデジタル画像に変換されるように構成されている。
【0026】
A/Dコンバータ3aからはメインカメラ2aで撮像され前述した各画素について距離が算出され車線が検出される基となる画像から変換されたデジタル画像が基準画像とし出力され、またA/Dコンバータ3bからはサブカメラ3bで撮像され変換されたデジタル画像が比較画像として出力されるようになっている。
【0027】
A/Dコンバータ3a、3bには、画像補正部4が接続されており、画像補正部4では、A/Dコンバータ3a、3bから出力されてきた基準画像および比較画像に対してメインカメラ2aおよびサブカメラ2bの取付位置の誤差に起因するずれやノイズの除去等を含む輝度値の補正等の画像補正がアフィン変換等を用いて行われるようになっている。
【0028】
画像補正部4からは、基準画像Tが例えば図2に示されるような各画素に輝度値を有する画像データとして、また比較画像も各画素に輝度値を有する画像データとしてそれぞれ出力されるように構成されている。
【0029】
画像補正部4には、画像データメモリ5が接続されており、基準画像Tと比較画像とのそれぞれの画像データは画像データメモリ5に格納されると同時に検出手段9に送信されるようになっている。
【0030】
また、画像補正部4には、画像処理手段6が接続されている。画像処理手段6は、主に、イメージプロセッサ7と距離データメモリ8とで構成されている。
【0031】
イメージプロセッサ7では、ステレオマッチング処理とフィルタリング処理により画像補正部4から出力された基準画像Tおよび比較画像のデジタルデータに基づいて基準画像Tの各画素または複数画素から構成するブロックからなる各設定領域について実空間における距離を算出するための視差dpを算出するようになっている。
【0032】
この視差dpの算出については、本願出願人により先に提出された特開平5−114099号公報に詳述されているが、以下、その要点を簡単に述べる。
【0033】
イメージプロセッサ7は、基準画像Tを設定領域である例えば4×4画素の領域に分け、ステレオマッチング処理により各設定領域ごとに1つの視差dpを算出するようになっている。具体的には、例えば基準画像Tが、水平方向が512画素、垂直方向が200画素の画像である場合、イメージプロセッサ7は、基準画像Tを格子状に4×4画素ずつ128×50個に分割して設定領域を形成する。
【0034】
1つの設定領域を構成する16画素には、前述したようにそれぞれ0〜255の輝度値p1ijが割り当てられており、16画素の輝度値p1ijがその設定領域特有の輝度値特性を形成している。
【0035】
なお、輝度値p1ijの添字iおよびjは、基準画像Tの画像平面の左下隅を原点とし、水平方向をi座標軸、垂直方向をj座標軸とした場合の画素のi座標およびj座標を表す。前述のように基準画像Tが512×200画素である場合、0≦i≦511、0≦j≦199である。また、比較画像については基準画像Tの原点に予め対応付けられた画素を原点として同様にi座標、j座標を取る。
【0036】
イメージプロセッサ7は、比較画像を水平方向に延在する4画素幅の水平ラインに分割し、基準画像Tの1つの設定領域を取り出してそれに対応する比較画像の水平ライン上を1画素ずつ水平方向すなわちi方向にシフトさせながら、基準画像Tの設定領域における16個の画素の輝度値p1ij とそれに対応する比較画像における16個の画素の輝度値p2ijとの差の絶対値をそれぞれ合計した下記(1)式で求められるシティブロック距離CBが最小となる水平ライン上の設定領域、すなわち基準画像Tの設定領域に最も近い輝度値特性を有する比較画像上の設定領域を探索するようになっている。
CB=Σ|p1ij−p2ij| …(1)
【0037】
イメージプロセッサ7は、このようにして特定した比較画像上の設定領域ともとの基準画像T上の設定領域とのずれ量を算出し、そのずれ量を視差dpとして基準画像T上の設定領域に対応付けるようになっている。
【0038】
この視差dpは、前記メインカメラ2aおよびサブカメラ2bの一定距離の離間に由来する基準画像Tおよび比較画像における同一物体の写像位置に関する水平方向の相対的なずれ量であり、メインカメラ2aおよびサブカメラ2bの中央位置から物体までの距離と視差dpとを三角測量の原理に基づいて対応付けることができる。
【0039】
具体的には、実空間上で、メインカメラ2aおよびサブカメラ2bの中央真下の道路面上の点を原点とし、自車両の車幅方向すなわち左右方向にX軸、車高方向にY軸、車長方向すなわち距離方向にZ軸を取ると、視差dpが割り付けられた基準画像上の点(i,j)から実空間上の点(X,Y,Z)への座標変換は下記の(2)〜(4)式に基づいて行われる。
X=CD/2+Z×PW×(i−IV) …(2)
Y=CH+Z×PW×(j−JV) …(3)
Z=CD/(PW×(dp−DP)) …(4)
【0040】
なお、このようにして視差dpあるいは後述する距離Lijが各設定領域ごとに割り付けられた基準画像Tを距離画像という。また、前記(2)〜(4)式において、CDはメインカメラ2aとサブカメラ2bとの間隔、PWは1画素当たりの視野角、CHはメインカメラ2aとサブカメラ2bの取り付け高さ、IVおよびJVは自車両正面の無限遠点の距離画像上のi座標およびj座標、DPは消失点視差を表す。
【0041】
すなわち、メインカメラ2aおよびサブカメラ2bの中央位置、正確には中央真下の道路面上の点から物体までの距離Lijと視差dpとは、前記(4)式のZを距離Lijとすることで一意に対応付けられる。また、視差dpから前記(4)式に基づいて求められるZを前記(2)、(3)式に代入することで距離画像上のi座標およびj座標と対応付けて求めることができる。
【0042】
また、イメージプロセッサ7は、視差dpの信頼性を向上させる目的から、このようにして求めた視差dpに対してフィルタリング処理を施し、有効とされた視差dpのみを出力するようになっている。
【0043】
すなわち、例えば、車道の映像のみからなる特徴に乏しい4×4画素の設定領域を比較画像の4画素幅の水平ライン上で走査しても、比較画像の車道が撮像されている部分ではすべて相関が高くなり、対応する設定領域が特定されて視差dpが算出されてもその視差dpの信頼性は低い。そのため、そのような視差dpは前記フィルタリング処理で無効とされ、視差dpの値として0を出力するようになっている。
【0044】
したがって、イメージプロセッサ7から出力される基準画像Tの各画素の距離Lij、すなわち基準画像Tの各設定領域について実空間における距離を算出するための視差dpは、通常、基準画像Tの左右方向に隣り合う画素間で輝度値p1ijの差が大きいいわゆるエッジ部分についてのみ有効な値を持つデータとなる。
【0045】
イメージプロセッサ7で算出された基準画像Tの各設定領域の視差dpは前記(4)式に基づいてZすなわち実空間における距離Lijに変換され、この距離Lijが基準画像T上の設定領域に対応付けられて、距離画像として画像処理手段6の距離データメモリ8に格納されるようになっている。
【0046】
なお、距離画像上の座標(i,j)は基準画像T上の座標(i,j)に対応する。また、以下に述べる検出手段9における処理で、距離画像上の1つの設定領域を4×4個の画素として扱う場合には1つの設定領域に属する16個の画素がそれぞれ距離Lijを有するものとして扱われ、設定領域を1つの処理対象として扱う場合には設定領域が距離Lijを有するものとして扱われる。
【0047】
検出手段9は、図示しないCPUやROM、RAM、入出力インターフェース等がバスに接続されたマイクロコンピュータより構成されている。また、検出手段9には、車速センサやステアリングホイールの操舵角を測定する操舵角センサ等のセンサ類Aが接続されている。
【0048】
検出手段9は、図3に示すように、車線検出手段91と、車線モデル形成手段92と、抽出手段93と、壁検出手段94と、メモリ95とを備えている。検出手段9の各手段には、センサ類AからI/Oインターフェース96を介して必要なデータが入力されるようになっている。
【0049】
車線検出手段91は、基準画像Tの各画素の輝度値p1ijと各画素の実空間における距離Lijに基づいて基準画像T上に車線候補点を検出し、検出した車線候補点に基づいて自車両の左右の車線位置を検出するようになっている。
【0050】
車線検出手段91は、基準画像Tから車線位置を検出できるものであればよく、車線位置検出の手法は特定の手法に限定されない。本実施形態では、車線検出手段91および後述する車線モデル形成手段92は前記特許文献2に記載の車線認識装置をベースに構成されている。詳細な構成の説明は同公報に委ねるが、以下、簡単にその構成を説明する。
【0051】
車線検出手段91は、画像データメモリ5から基準画像Tの各画素の輝度値p1ijの情報を読み出し、また、距離データメモリ8から距離画像の各画素の実空間における距離Lijの情報を読み出す。そして、基準画像T上の1画素幅の水平ラインj上を左右方向に1画素ずつオフセットしながら探索し、図4に示すように、基準画像Tの各画素の輝度値p1ijに基づいて各画素の輝度微分値すなわちエッジ強度が閾値以上に大きく変化する等の条件を満たす画素を車線候補点(Ij,Jj)としてそれぞれ検出するようになっている。
【0052】
その際、基準画像Tに対応する距離画像に割り付けられた各画素の距離Lijの情報に基づいて、検出された画素が道路面上にない場合は除外し、車線候補点としては検出しないようになっている。
【0053】
車線検出手段91は、探索を行う水平ラインjを基準画像Tの下側から上向きに1画素幅ずつオフセットさせながら順次車線候補点の検出を行い、図5に示すように、自車両の右側の領域Aおよび左側の領域Bにそれぞれ車線候補点を検出する。そして、それらの中から整合性を取れない車線候補点を破棄して残りの車線候補点を結ぶことで、図6に示すように基準画像T上で自車両の右側に右車線位置LRを、左側に左車線位置LLをそれぞれ検出するようになっている。左右の車線位置LR、LLはそれぞれ実空間における車線位置LR、LLにも変換されるようになっている。
【0054】
なお、本実施形態では、車線検出手段91は、検出された各車線候補点の座標を直線または曲線で近似して左右の車線位置LR、LLを検出するようになっている。また、車線候補点が検出されていない自車両から遠方の領域についても、前記近似された直線や曲線に基づいて、或いは検出された車線候補点同士を結ぶ直線の傾きの変化率等に応じて検出された左右の車線位置LR、LLを適切に延長して推定するようになっている。
【0055】
また、車線候補点の探索は、基準画像T上に探索領域を設定して行われるようになっている。すなわち、今回の検出処理では、前回の検出処理で検出された車線位置に基づいてその車線位置を含む基準画像T上の一定の範囲に探索領域を設定する。また、今回の検出で基準画像Tの下側から上向きに水平ラインjを1画素幅ずつオフセットさせながら順次画素の検出を行う際に、ある水平ラインjで前記条件を満たす画素が検出されなかった場合には、次の水平ラインでは探索領域を拡大して車線候補点の探索を行うようになっている。
【0056】
車線検出手段91は、このようにして検出した左右の車線位置LR、LLや車線候補点の情報をメモリ95に保存するとともに外部に出力するようになっている。
【0057】
車線モデル形成手段92は、車線検出手段91で検出された左右の車線位置LR、LLや車線候補点の情報に基づいて車線モデルを三次元的に形成するようになっている。本実施形態では、車線モデル形成手段92は、図7(A)、(B)に示すように、自車両の左右の車線を所定区間ごとに三次元の直線式で近似し、それらを折れ線状に連結して表現した車線モデルを形成するようになっている。なお、図7(A)はZ−X平面上の道路モデルすなわち水平形状モデル、図7(B)はZ−Y平面上の道路モデルすなわち道路高モデルを表す。
【0058】
具体的には、車線モデル形成手段92は、自車両前方の実空間を自車両の位置からの距離Z7までの各区間に分け、車線検出手段91で検出された車線候補点の実空間上の位置(X,Y,Z)に基づいてそれぞれの区間内の車線候補点を最小二乗法で直線近似し、各区間ごとに下記の(5)〜(8)式のパラメータaR、bR、aL、bL、cR、dR、cL、dLを算出して車線モデルを形成するようになっている。
【0059】
[水平形状モデル]
右車線 X=aR・Z+bR …(5)
右車線 X=aL・Z+bL …(6)
[道路高モデル]
右車線 Y=cR・Z+dR …(7)
右車線 Y=cL・Z+dL …(8)
【0060】
このように車線モデル形成手段92は、距離Lijの情報に基づいて道路高モデルを形成することで、実空間上における道路面の高さを検出することが可能であり、本発明の道路面検出手段に相当する。車線モデル形成手段92は、このようにして形成した道路モデルすなわち算出した各区間のパラメータaR〜dLをそれぞれメモリ95に保存するとともに外部に出力するようになっている。
【0061】
なお、原点およびX、Y、Z軸は前記と同様にして取られる。また、車線モデル形成手段92で形成された車線モデルは、前述した車線検出手段91における車線候補点の検出の際に次回のサンプリング周期において検出された画素が道路面上にあるか否かの判断の基準等として用いられるとともに、後述する各手段での処理に用いられるようになっている。
【0062】
抽出手段93は、距離Lijの情報と車線モデル形成手段92に形成された車線モデルに基づいて設定領域ごとに距離Lijが割り付けられた基準画像すなわち距離画像の各設定領域の中から道路面より所定高さ以上上方に存在する立体物に対応するとみなされる設定領域を抽出するようになっている。
【0063】
具体的には、抽出手段93は、距離画像の各設定領域のうち0でない有意の距離Lijが割り付けられている設定領域ごとに、前記(3)式のZにその設定領域の距離Lijを代入してYを算出し、また前記車線モデルの道路高モデルからその距離Lijにおけるモデル高さを算出して、その差からその設定領域に対応する立体物の道路面からの高さを算出する。
【0064】
そして、抽出手段93は、その差が予め設定された所定高さ以上である設定領域のみを抽出するようになっている。抽出手段93は、このようにして抽出した設定領域をメモリ95に保存するようになっている。
【0065】
壁検出手段94は、抽出手段93で抽出された設定領域に基づいて自車両に近い領域で自車両の左右に壁を表す直線すなわち壁直線を検出し、また、検出した壁直線を基準としてより遠方の直線状または曲線状の壁のラインすなわち壁ラインを検出し、壁直線および壁ラインを合わせて自車両の左右に壁を検出するようになっている。
【0066】
本実施形態では、壁検出手段94は、壁直線の検出においては、抽出手段93で抽出された設定領域を実空間上の点に変換しその実空間上の点に基づいて直線近似により自車両に近い領域で自車両の左右に壁直線を検出するようになっている。
【0067】
この壁直線の検出は、抽出された全設定領域を対象として行うことも可能であるが、抽出された設定領域中には距離Lijの信頼度が低いものや壁検出に不必要なものも含まれるため、本実施形態では以下の手法により壁直線を検出するようになっている。
【0068】
すなわち、壁検出手段94は、まず、距離データメモリ8から読み出した距離画像を例えば4画素等の所定の画素幅で垂直方向に延びる短冊状の区分に分割する。そして、1つの短冊状の区分に属する前記抽出された設定領域の全距離Lijの分布を示す図8に示すようなヒストグラムを作成して、度数が最大の区間までの距離をその短冊状の区分における立体物の代表距離Lnとする。これを短冊状の全区分について行う。
【0069】
壁検出手段94は、算出した短冊状の各区分の代表距離Lnを実空間上の点に変換するようになっている。すなわち、代表距離LnをZ座標とし、そのZ座標を前記(2)式に代入してX座標をそれぞれ算出する。そして、このようにしてX、Z座標が算出された各点をX−Z平面で表される実空間上にプロットすると、図9に示すように、変換された各点が、先行車やガードレール等の立体物のうち自車両MCに面した部分に並ぶようにプロットされる。
【0070】
壁検出手段94は、このようにして算出した実空間上の各点についてハフ変換を行うようになっている。なお、ハフ変換は算出した実空間上のすべての点に対して行ってもよく、また、前記短冊状の各区分を距離画像の右半分と左半分とに分けてそれぞれについて行うように構成することも可能である。また、ハフ変換としては公知の手法が用いられ、例えば、下記に示す手法により行われる。
【0071】
具体的には、例えば、短冊状の各区分の代表距離Lnから変換された各点の座標を(Xn,Zn)とし、各点が基準画像T上の直線
X=aZ+b …(9)
上に存在すると仮定すると、Xn、Znは、
Xn=aZn+b …(10)
を満たす。
【0072】
(10)式を変形すると、
b=−Zn×a+Xn …(11)
となる。この(11)式から分かるように、各点(Xn,Zn)が算出されると、−Zn、Xnをそれぞれ傾きおよびb切片としてa−b平面で表されるハフ平面上に1本の直線を引くことができる。
【0073】
ハフ平面を予め所定の大きさに升目に区切っておき、各点(Xn,Zn)が算出され(11)式で表される直線が引かれる度に直線が通過する升目の計数値を1増加させる。そして、短冊状の各区分について代表距離Lnを実空間上の点に変換してハフ変換を行い、最終的にすべて区分について直線を算出してハフ平面の升目の加算を終了した時点で、ハフ平面の各升目の計数値について極大値を与えるa、bの組、すなわちそれらを前記(9)式に代入して得られる直線を所定数抽出する。
【0074】
例えば、図9に示した各点についてハフ変換を施すと複数の直線が得られる。壁検出手段94は、得られた複数の直線のうち、例えば、
(a)直線が自車両MCの内側を通ったり自車両MCに非常に近いところを通る
(b)直線と自車両MCの挙動から推定される軌跡との平行度が低い
等の条件を満たす直線を壁としてふさわしくないとして棄却し、直線が自車両MCの左右に1本ずつに絞られるまで直線の選択を行う。
【0075】
なお、抽出された直線が前記条件を満たさなかったり、ハフ平面の各升目の計数値が閾値以下の場合には極大値であっても抽出しない等の条件が満たされないような場合には、自車両MCの右側や左側あるいは両方ともに直線が選択されない場合もある。
【0076】
壁検出手段94は、このようにして例えば図10に示すように自車両MCの左右に1本ずつ直線r1、l1が選択されると、各点について自車両MCに近い点から順に各点と直線r1、l1との実空間上の距離を算出していき、直線r1、l1との距離が所定値以下となる最初の点を壁候補点として抽出する。そして、壁検出手段94は、順次自車両MCから離れる方向に各点を探索していき、直線r1、l1との距離が所定値以下であり、最も近い自車両MC側の壁候補点との距離が所定距離以下である各点を壁候補点として抽出していく。
【0077】
本実施形態では、このように直線r1、l1との距離が近い壁候補点を自車両MCに近い側から順次抽出していくことで自車両に近い領域での壁を表す直線の探索を行い、自車両に近い位置で直線を確実に検出するようになっている。このようにして壁候補点の抽出が行われると、例えば図10に示された各点からは図11に白丸で示される壁候補点が抽出される。
【0078】
壁検出手段94は、以上のようにして直線r1、l1についてそれぞれ壁候補点を抽出し、直線r1、l1のうち図12に示すように自車両MCに最も近い壁候補点から最も遠い壁候補点までを自車両MCに近い領域に壁を表す直線すなわち壁直線r1、l1として検出するようになっている。
【0079】
壁検出手段94は、続いて、このようにして検出した壁直線r1、l1を基準としてより遠方の直線状または曲線状の壁ラインを検出するようになっている。
【0080】
この場合、例えば図11に黒丸や白丸で示したように距離画像の短冊状の各区分について立体物までの代表距離Lnから変換された実空間上の各点が整然と並ぶような場合には、図12に示した壁直線r1、l1の自車両MCから最も遠い端部から順次遠方に各点を追跡していって、より遠方の直線状または曲線状の壁ラインを検出することができる。
【0081】
具体的には、壁直線r1、l1に属する自車両から最も遠い壁候補点より遠方の各点を自車両に近い側から順に探索していく。そして、まず、壁直線r1、l1に属する自車両から最も遠い壁候補点と次の点との実空間上のX軸方向、Z軸方向の変位が規定値以内か否かを判断する。そして、規定値以内であると判断すると、その点を壁候補点として記録する。
【0082】
以後同様にして、図13(A)に示されるように、自車両から離れる方向に次の点を検出すると、直前に検出された壁候補点aとのX軸方向、Z軸方向の変位が規定値以内か否かを判断し、規定値以内であると判断すると、今回検出した点を壁候補点bとして記録していく。
【0083】
また、次の点と直前に検出された壁候補点とのX軸方向、Z軸方向の変位が規定値以内でない場合も、前回までに検出した壁候補点を結ぶ直線、すなわち、図13(B)では壁候補点aと壁候補点bとを結ぶ直線からのX軸方向の変位が規定値以内であれば、今回検出した点を壁候補点c、d、…として記録する。
【0084】
このようにして、壁直線r1、l1の自車両MCから最も遠い端部から順次遠方に各点を追跡していって、より遠方の直線状または曲線状の壁ラインを検出することが可能である。
【0085】
しかし、実際には、距離画像の短冊状の各区分について立体物までの代表距離Lnを実空間上の各点に変換した場合、変換された各点が図12に示したように整然と並ばずに、X−Z平面で表される実空間上に散在するようにプロットされる場合もある。そのため、本実施形態では、壁検出手段94は、以下の手法によってより遠方の壁ラインを検出するように構成されている。
【0086】
すなわち、壁検出手段94は、まず、自車両MC前方の実空間を図14に示すように自車両の距離方向すなわちZ軸方向と左右方向すなわちX軸方向に所定の大きさの格子状の複数のブロックに分割する。そして、前記壁直線の検出で検出した壁直線r1、l1の自車両MCから最も遠い点より遠方の領域において、距離画像の短冊状の各区分について立体物までの代表距離Lnから変換された実空間上の各点をあてはまるブロックにプロットしていき、各点があてはまる毎にそのブロックのプロット数を1ずつ増加させる。
【0087】
実空間上のすべての点を各ブロックにプロットした後、例えば図14に示す矢印で示す地点でのプロット数pのX軸方向の分布は、例えば図15に示すような分布となる。壁検出手段94は、このプロット数pの分布に対して例えば図16に示す点数wのパターンを施して下記(12)式に従って一致度Qを算出し、パターンをX軸方向に移動させながら一致度Qを順次算出してその最大値を探索するパターンマッチングを行うようになっている。
Q=Σw・p …(12)
【0088】
壁検出手段94は、このX軸方向のパターンマッチングにおいて一致度Qが最大になる場合のパターンの原点の位置、すなわち例えば図15のプロット数pの分布に図16の点数wのパターンをマッチングした場合には図17に示すX軸方向の座標Xrを壁候補点のX座標として抽出するようになっている。
【0089】
なお、この壁候補点のZ座標は、その壁候補点が属する実空間上のブロックの中央位置としてもよいし、ブロックの最も自車両MCに近い位置としてもよい。また、自車両MCの左側の壁候補点を求めたい場合には、例えば図18に示す点数wのパターンを用いて同様のパターンマッチングを行うことで抽出することができる。
【0090】
壁検出手段94は、このようにして抽出した壁候補点を結んで折れ線状の壁ラインを検出するようになっている。壁検出手段94は、以上のようにして検出した壁直線r1、l1と左右の壁ラインとをそれぞれ合わせて図19に示すように自車両MCの左右の壁の位置WR、WLを検出するようになっている。また、壁検出手段94は、このようにして検出した壁WR、WLの情報をそれぞれメモリ95に保存するようになっている。
【0091】
なお、このようにして抽出した壁候補点を曲線状に結んで壁ラインとすることも可能である。また、抽出された壁候補点が他の壁候補点の位置から合理的な範囲内にない場合などにはその壁候補点は削除されるようになっている。また、本実施形態では距離画像の各区分の代表距離Lnから変換された実空間上の各点を実空間上のブロックにプロットする場合について述べたが、距離画像の有意な距離Lijを有する各設定領域を実空間上の点に変換してそれを各ブロックにプロットするように構成することも可能である。
【0092】
一方、本実施形態では、壁検出手段94は、さらに、検出した壁WR、WLが実空間上で所定の距離以上連続して検出されていない場合には検出結果を無効とするようになっている。このように、本実施形態では、例えば自車両が走行する走行レーンの隣の走行レーンを走行している車両の側面等を壁として検出した場合のように壁が所定距離以上連続して検出されていない場合に検出結果を無効とすることで壁の誤検出を回避するようになっている。
【0093】
具体的には、壁検出手段94は、前述した壁直線r1、l1や壁ラインの検出の際に、抽出された壁候補点同士の実空間上の距離を算出し、その距離が設定された閾値以内にある壁候補点同士を結んだ場合に、自車両MCに最も近い壁候補点と最も遠い壁候補点との実空間上の距離が例えば10m等に設定された所定距離に達しない場合には、それらの壁候補点に基づいて検出された壁を無効とするようになっている。
【0094】
例えば図19の自車両MCの左側に検出された壁WLにおいて、壁WLに属する自車両MCに最も近い壁候補点と最も遠い壁候補点との実空間上の距離が所定距離に達していなければ、壁WLの検出結果は無効とされる。
【0095】
また、図19の壁WRのように自車両MCに最も近い壁候補点と最も遠い壁候補点との実空間上の距離が所定距離以上であっても、それらの間に隣接壁候補点同士の距離が設定された閾値より大きい地点があり、自車両MCに最も近い壁候補点とその地点の自車両側の壁候補点との実空間上の距離が前記所定距離に達していなければ壁WRの検出結果は無効とされる。つまり、検出された壁が所定距離以上であっても連続して所定距離以上でなければ検出結果は無効とされる。なお、検出された壁が連続しているか否かの判定は、自車両に最も近い壁候補点と最も遠い壁候補点にそれぞれ対応する画像の設定領域が、互いに所定間隔以上離れているか否かにより判定することも可能である。
【0096】
図2に示した実施例では、図10に示すように自車両右側の壁WRに属する壁候補点において隣接する壁候補点同士の距離が設定された閾値より大きい地点はなく図19に示した壁WRは連続して所定距離以上であるから有効であり、自車両左側の壁WLは所定距離に達していないため無効となる。従って、図2に示した基準画像Tに基づいた壁検出では自車両右側のガードレールのみが壁WRとして検出され、装置外部に出力される。
【0097】
さらに、本実施形態では、壁検出手段94は、検出した壁が所定の速度以上の移動速度を有する場合には検出結果を無効とするようになっている。このように、本実施形態では、例えば自車両が走行する走行レーンの隣の走行レーンを走行している車両の側面等を壁として検出した場合のように検出した壁が所定速度以上の速度を有する場合に検出結果を無効とすることで壁の誤検出を回避するようになっている。
【0098】
壁の移動速度の算出手法としては、例えば自車両と立体物との相対速度を測定するレーダ等の測定手段による相対速度の情報と車速センサからの自車両の走行速度の情報とから壁として検出された立体物の移動速度を算出することが可能である。また、図10に示した距離画像の各区分の代表距離Lnから実空間上に変換された各点の前回の検出位置と今回の検出位置との差分から自車両と壁として検出された立体物との相対速度を算出し、それと自車両の走行速度の情報とから壁として検出された立体物の移動速度を算出することも可能である。その他、壁として検出された立体物の移動速度を算出可能な手法を適宜採用することができる。
【0099】
なお、無効とされた検出結果は、メモリ95から削除するように構成してもよく、あるいは無効とラベルしてメモリ95に保存するように構成してもよい。また、無効とされた検出結果を無効とラベルしたうえで外部に出力するように構成することも可能である。
【0100】
以上のように、本実施形態に係る壁検出装置1によれば、ステレオマッチング処理により基準画像Tの各設定領域についてそれぞれ視差dpを算出し、それに基づいて設定領域に撮像されている立体物までの距離Lijを精度良く算出する。
【0101】
そして、基準画像Tあるいは基準画像Tの各設定領域に距離Lijが割り付けられて形成された距離画像に基づいて、自車両に近い領域で壁を表す直線を確実に検出したうえで、検出された直線に基づいてより遠方の壁の位置を検出して、自車両の左右の道路脇に存在するガードレール等の壁の位置を検出する。
【0102】
特に本実施形態のように、有意な距離Lijの情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換し、実空間上の点に基づいてハフ変換等の直線近似により壁を表す直線を検出することで自車両に近い領域に確実にかつ精度良く壁を表す直線を検出することが可能となる。
【0103】
そのため、道路脇のガードレール等の壁を確実にかつ精度良く検出することが可能となるとともに、本実施形態に係る壁検出装置1が出力する壁の位置情報等に基づいて自車両の自動制御を行う自動制御システムを構築すれば、確実かつ精度良く検出された道路脇のガードレール等の壁の情報に基づいて自車両を適切かつ的確に制御することが可能となる。
【0104】
なお、本実施形態では、図14等に示した実空間上のブロックを用いたパターンマッチングの手法を、壁直線WR、WLが検出された後のより遠方の壁ラインの検出にのみ用いる場合について説明したが、この手法を用いて自車両に近い領域における壁直線の検出を行うように構成することも可能である。
【0105】
[第2の実施の形態]
第2の実施形態に係る壁検出装置は、図1に示した前記第1の実施形態に係る壁検出装置1と同様の構成であり、検出手段9における壁検出手段の構成が異なっている。以下、前記第1の実施形態と同様の構成部分については同一の符号を付して説明する。
【0106】
本実施形態に係る壁検出手段は、抽出手段93で抽出された設定領域に基づいて自車両に近い領域で自車両の左右に壁直線を検出し、また、検出した壁直線を基準としてより遠方の直線状または曲線状の壁ラインを検出し、壁直線および壁ラインを合わせて自車両の左右に壁を検出する点では前記第1の実施形態と同様であるが、壁直線の検出手法が異なる。
【0107】
壁検出手段は、壁直線の検出において、前記第1の実施形態と同様に距離データメモリ8から読み出した距離画像を所定の画素幅で垂直方向に延びる短冊状の区分に分割し、1つの短冊状の区分に属する前記抽出された設定領域の全距離Lijについてヒストグラムを作成してその短冊状の区分における立体物の代表距離Lnを算出し、算出した各代表距離Lnをそれぞれ実空間上の点に変換して図9に示したように実空間上にそれらの点をプロットするようになっている。
【0108】
続いて、壁検出手段は、図9に示した実空間上の各点に対して、図20に示すように近接する各点の距離や方向性に基づいて同一立体物と見なせる各点をグループG1〜G7にグループ化する。そして、図21に示すように、各点が自車両の進行方向に対して垂直なX軸方向に対して略平行に並ぶグループには正面O1〜O3とラベルし、各点が自車両の進行方向であるZ軸方向にほぼ平行に並ぶグループには側壁W1〜W4とラベルして、立体物に該当するグループをそれぞれ“正面”および“側壁”として検出するようになっている。
【0109】
そして、壁検出手段は、“正面”や“側壁”として検出した各グループG1〜G7に属する各点をそれぞれハフ変換や最小二乗法等の手法を用いて直線近似し、自車両MCに最も近い左右の側壁W1を表す直線および側壁W4を表す直線をそれぞれ壁直線W1、W4として検出するようになっている。
【0110】
なお、本実施形態においても壁直線の検出の際、前述したように、
(a)直線が自車両MCの内側を通ったり自車両MCに非常に近いところを通る
(b)直線と自車両MCの挙動から推定される軌跡との平行度が低い
等の条件を満たす直線を、壁を表す直線としてふさわしくない直線として棄却する等の処理が行われる。
【0111】
一方、壁直線W1、W4より遠方の壁ラインの検出については、前記第1の実施形態と同様に実空間上のブロックを用いたパターンマッチングの手法を用いて処理するように構成することが可能である。また、図21に示すように、側壁W4の検出と同時にそれに連続するより遠方の側壁W3が検出される場合には、本実施形態の手法により検出された側壁W3を壁ラインとして検出するように構成することも可能である。
【0112】
本実施形態では、壁検出手段は、このようにして壁直線W1を自車両MCの左側の壁の位置WL、壁直線W4と壁ラインW3とを合わせて自車両MCの右側の壁の位置WRとして検出するようになっている。また、壁検出手段はこのようにして検出した左右の壁の情報をそれぞれメモリ95に保存するようになっている。
【0113】
また、本実施形態においても、検出した壁の長さと連続性および移動速度による検出結果の無効処理が行われるようになっている。そのため、本実施形態においても自車両MCの左側に検出された壁WLは無効とされ、結局、図2に示した基準画像Tに基づいた壁検出により自車両右側のガードレールのみが壁WRとして検出され、装置外部に出力される。
【0114】
以上のように、本実施形態に係る壁検出装置によれば、前記第1の実施形態に係る壁検出装置1と同様に、ステレオマッチング処理により基準画像Tの各設定領域についてそれぞれ視差dpを算出し、それに基づいて設定領域に撮像されている立体物までの距離Lijを精度良く算出する。
【0115】
そして、基準画像Tあるいは基準画像Tの各設定領域に距離Lijが割り付けられて形成された距離画像に基づいて、自車両に近い領域で壁を表す直線を確実に検出したうえで、検出された直線に基づいてより遠方の壁の位置を検出して、自車両の左右の道路脇に存在するガードレール等の壁の位置を検出する。
【0116】
特に本実施形態のように、有意な距離Lijの情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換し、実空間上の点のうち同一立体物を撮像したと見なすことができる設定領域に対応する点をグループ化して直線近似し、自車両の進行方向にほぼ平行なグループであって自車両に最も近い自車両左右の直線を壁直線として検出することで、自車両に近い領域に確実にかつ精度良く壁を表す直線を検出することが可能となる。
【0117】
そのため、道路脇のガードレール等の壁を確実にかつ精度良く検出することが可能となるとともに、本実施形態に係る壁検出装置が出力する壁の位置情報等に基づいて自車両の自動制御を行う自動制御システムを構築すれば、確実かつ精度良く検出された道路脇のガードレール等の壁の情報に基づいて自車両を適切かつ的確に制御することが可能となる。
【0118】
なお、本実施形態に示したグループ化処理を基準画像T上や距離画像上で行うように構成することも可能である。
【図面の簡単な説明】
【0119】
【図1】第1の実施形態に係る壁検出装置の構成を示すブロック図である。
【図2】基準画像の一例を示す図である。
【図3】本実施形態に係る検出手段の構成を示すブロック図である。
【図4】水平ラインj上に検出された車線候補点を説明する図である。
【図5】検出された車線候補点を示す図である。
【図6】検出された右車線位置および左車線位置を示す図である。
【図7】車線モデルの(A)水平形状モデル、(B)道路高モデルを例示する図である。
【図8】設定領域の全距離の分布を示すヒストグラムを説明する図である。
【図9】設定領域から変換された各点を実空間上にプロットした図である。
【図10】壁検出手段で自車両の左右に選択された直線を示す図である。
【図11】図10に示した各点から抽出された壁候補点を説明する図である。
【図12】検出された壁直線を示す図である。
【図13】実区間上の点を壁候補点として記録する条件を説明する図である。
【図14】複数のブロックに分割された実空間を説明する図である。
【図15】プロット数のX軸方向の分布を示すグラフである。
【図16】パターンマッチングに用いる点数のパターンを示す図である。
【図17】パターンマッチングの結果抽出された壁候補点のX座標を示す図である。
【図18】図16とは反対側の壁候補点を抽出するための点数のパターンを示す図である。
【図19】検出された壁の位置を示す図である。
【図20】第2の実施形態において図9の各点をグループ化して形成された各グループを示す図である。
【図21】グループ化された正面と側壁および検出された壁の位置を示す図である。
【符号の説明】
【0120】
1 壁検出装置
2 撮像手段
6 画像処理手段
93 抽出手段
94 壁検出手段
T 基準画像(一方の画像)
Lij 距離
WR、WL 壁の位置
MC 自車両
r1、l1 壁を表す直線
G1〜G7 グループ
p プロット数
【技術分野】
【0001】
本発明は、壁検出装置に係り、特に、道路を含む自車両の進行路を撮像した撮像画像中から道路脇の壁を検出可能な壁検出装置に関する。
【背景技術】
【0002】
近年、自動車等の走行安全性の向上や車両の自動制御等に向けて、車載のステレオカメラやビデオカメラ等で撮像した画像に画像処理を施して、画像中から追い越し禁止線や路側帯と車道とを区画する区画線等の道路面上に標示された車線や先行車や歩行者、ガードレール等の障害物の位置や速度を検出する装置が種々提案されている(例えば、特許文献1〜4等参照)。
【0003】
これらの技術は、例えば、車線に追従し車線を逸脱しそうな場合には現在の走行レーンに引き戻すように自車両の走行を自動制御したり、検出した歩行者や障害物に対しては衝突しないように回避し先行車には追従するように自車両を自動制御する技術につながるため、車線や障害物等を精度良く検出可能であることが求められている。
【特許文献1】特開平10−283461号公報
【特許文献2】特開2001−92970号公報
【特許文献3】特開2003−204546号公報
【特許文献4】特開2001−48036号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
これらの装置において、例えば車線逸脱回避制御では自車両が逸脱しそうな車線側の隣接する走行レーンに対向車や先行車両等の障害物が存在しないような場合には、自車両が車線を踏む状態で走行したり多少車線をはみ出して走行するように自車両を制御することが許される場合がある。
【0005】
しかし、道路脇の壁、すなわち住宅やビルの壁のみならずブロック塀やガードレール、生垣等に対しては前記のような車線と同様に扱うことができず、壁に接触したり衝突したりする事態は確実に回避されなければならない。なお、本発明では、住宅やビルの壁やブロック塀、ガードレール、生垣等の道路脇の立体物を壁と総称する。
【0006】
特にガードレールが配置されたり生垣が植栽された道路では、ガードレールや生垣等の付近に車線が標示されていない場合もあり、自車両の自動制御を検出された車線に基づいて行うだけでは十分ではなく、道路脇の壁の位置を確実にかつ精度良く検出することが必要である。また、道路脇の壁の位置を確実にかつ精度良く検出可能な検出装置が求められている。
【0007】
本発明は、このような事情に鑑みてなされたものであり、道路を含む自車両の進行路を撮像した撮像画像中から道路脇のガードレール等の壁を確実にかつ精度良く検出可能な壁検出装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
前記の問題を解決するために、第1の発明の壁検出装置は、
道路を含む自車両の進行路を撮像して一対の画像を出力する撮像手段と、
前記撮像された一対の画像に基づいて少なくとも一方の画像の設定領域ごとに実空間における距離を算出する画像処理手段と、
前記距離の情報に基づいて道路面より上方に存在するとみなすことができる前記設定領域を抽出する抽出手段と、
抽出された前記設定領域に基づいて自車両に近い領域で自車両の左右に壁を表す直線を検出し、前記壁を表す直線を基準としてより遠方の直線状または曲線状の壁のラインを検出し、前記壁を表す直線および前記壁のラインを合わせて壁の位置を検出する壁検出手段と
を備えることを特徴とする。
【0009】
第2の発明は、第1の発明の壁検出装置において、前記壁検出手段は、検出した前記壁が所定の距離以上連続して検出されていない場合には検出結果を無効とすることを特徴とする。
【0010】
第3の発明は、第1または第2の発明の壁検出装置において、前記壁検出手段は、検出した前記壁が所定の速度以上の移動速度を有する場合には検出結果を無効とすることを特徴とする。
【0011】
第4の発明は、第1から第3のいずれかの発明の壁検出装置において、前記壁検出手段は、前記抽出された設定領域を実空間上の点に変換し、前記実空間上の点に基づいて少なくとも前記壁を表す直線を検出することを特徴とする。
【0012】
第5の発明は、第1から第3のいずれかの発明の壁検出装置において、前記壁検出手段は、前記抽出された設定領域のうち同一立体物を撮像したと見なすことができる設定領域をグループ化し、自車両の進行方向に対して所定の傾きを有するグループの前記一方の画像上の位置または実空間上の位置に基づいて少なくとも前記壁を表す直線を検出することを特徴とする。
【0013】
第6の発明は、第1から第5のいずれかの発明の壁検出装置において、前記壁検出手段は、前記抽出された設定領域を実空間上の点に変換して、前記点を自車両の距離方向および左右方向に格子状に分割された前記実空間上の各ブロックにプロットし、前記実空間上の各ブロックのプロット数を自車両の左右方向にパターンマッチングして得られた壁の位置に基づいて前記壁を表す直線または前記壁のラインを検出することを特徴とする。
【発明の効果】
【0014】
第1の発明によれば、ステレオカメラにより撮像された一対の画像のうち一方の画像に設定された各設定領域についてステレオマッチング処理によりそれぞれ視差を算出し、それに基づいて設定領域に撮像されている立体物までの距離を精度良く算出する。そして、距離の情報に基づいて自車両に近い領域で壁を表す直線を確実に検出したうえで、検出された直線に基づいてより遠方の壁のラインを検出し、両者をあわせて自車両の左右の道路脇に存在するガードレール等の壁の位置を検出する。
【0015】
そのため、道路脇のガードレール等の壁を確実にかつ精度良く検出することが可能となるとともに、本発明に係る壁検出装置が出力する壁の位置情報等に基づいて自車両の自動制御を行う自動制御システムを構築すれば、確実かつ精度良く検出された道路脇のガードレール等の壁の情報に基づいて自車両を適切かつ的確に制御することが可能となる。
【0016】
第2の発明によれば、例えば自車両が走行する走行レーンの隣の走行レーンを走行している車両の側面等を壁として検出した場合のように、壁が所定距離以上連続して検出されていない場合に検出結果を無効とすることで、壁の誤検出を確実に回避することが可能となり、前記第1の発明の効果をより的確に発揮させることが可能となる。
【0017】
第3の発明によれば、例えば自車両が走行する走行レーンの隣の走行レーンを走行している車両の側面等を壁として検出した場合のように、検出した壁が所定速度以上の速度を有する場合に検出結果を無効とすることで、壁の誤検出を確実に回避することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
【0018】
第4の発明によれば、有意な距離の情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換し、変換された実空間上の点に基づいてハフ変換等の直線近似により壁を表す直線を検出することで、自車両に近い領域に確実にかつ精度良く壁を表す直線を検出することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
【0019】
第5の発明によれば、有意な距離の情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換し、実空間上の点のうち同一立体物を撮像したと見なすことができる設定領域に対応する点をグループ化して直線近似し、自車両の進行方向にほぼ平行なグループであって自車両に最も近い自車両左右の直線を壁直線として検出することで、自車両に近い領域に確実にかつ精度良く壁を表す直線を検出することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
【0020】
第6の発明によれば、有意な距離の情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換して、これらの点を自車両前方の格子状に分割された実空間上の各ブロックにプロットし、各ブロックのプロット数を自車両の左右方向にパターンマッチングして得られた壁の位置に基づいて壁の位置を検出することで、例えば変換された実空間上の点が実空間上に整然と並ばず、実空間上に散在するようにプロットされるような場合にも、自車両の左右の壁の位置を的確に検出することが可能となり、前記各発明の効果をより的確に発揮させることが可能となる。
【発明を実施するための最良の形態】
【0021】
以下、本発明に係る壁検出装置の実施の形態について、図面を参照して説明する。
【0022】
[第1の実施の形態]
第1の実施形態に係る壁検出装置1は、図1に示すように、主に撮像手段2と、変換手段3と、画像処理手段6と、検出手段9とで構成されている。
【0023】
撮像手段2は、車両周辺を撮像するものであり、所定のサンプリング周期で車両前方の道路を含む風景を撮像して一対の画像を出力するように構成されている。本実施形態では、互いに同期が取られたCCDやCMOSセンサ等のイメージセンサがそれぞれ内蔵された一対のメインカメラ2aおよびサブカメラ2bからなるステレオカメラが用いられている。本実施形態では、メインカメラ2aおよびサブカメラ2bにはCCDカメラが用いられている。
【0024】
メインカメラ2aとサブカメラ2bは、例えば、ルームミラー近傍に車幅方向に所定の間隔をあけて取り付けられている。前記一対のステレオカメラのうち、運転者に近い方のカメラが後述するように各画素について距離が算出され車線が検出される基となる画像を撮像するメインカメラ2a、運転者から遠い方のカメラが前記距離等を求めるために比較される画像を撮像するサブカメラ2bとされている。
【0025】
メインカメラ2aおよびサブカメラ2bには、変換手段3としてのA/Dコンバータ3a、3bがそれぞれ接続されている。A/Dコンバータ3a、3bでは、メインカメラ2aおよびサブカメラ2bから出力されてきた一対のアナログ画像がそれぞれ画素ごとに例えば256階調のグレースケール等の所定の輝度階調の輝度値を有するデジタル画像に変換されるように構成されている。
【0026】
A/Dコンバータ3aからはメインカメラ2aで撮像され前述した各画素について距離が算出され車線が検出される基となる画像から変換されたデジタル画像が基準画像とし出力され、またA/Dコンバータ3bからはサブカメラ3bで撮像され変換されたデジタル画像が比較画像として出力されるようになっている。
【0027】
A/Dコンバータ3a、3bには、画像補正部4が接続されており、画像補正部4では、A/Dコンバータ3a、3bから出力されてきた基準画像および比較画像に対してメインカメラ2aおよびサブカメラ2bの取付位置の誤差に起因するずれやノイズの除去等を含む輝度値の補正等の画像補正がアフィン変換等を用いて行われるようになっている。
【0028】
画像補正部4からは、基準画像Tが例えば図2に示されるような各画素に輝度値を有する画像データとして、また比較画像も各画素に輝度値を有する画像データとしてそれぞれ出力されるように構成されている。
【0029】
画像補正部4には、画像データメモリ5が接続されており、基準画像Tと比較画像とのそれぞれの画像データは画像データメモリ5に格納されると同時に検出手段9に送信されるようになっている。
【0030】
また、画像補正部4には、画像処理手段6が接続されている。画像処理手段6は、主に、イメージプロセッサ7と距離データメモリ8とで構成されている。
【0031】
イメージプロセッサ7では、ステレオマッチング処理とフィルタリング処理により画像補正部4から出力された基準画像Tおよび比較画像のデジタルデータに基づいて基準画像Tの各画素または複数画素から構成するブロックからなる各設定領域について実空間における距離を算出するための視差dpを算出するようになっている。
【0032】
この視差dpの算出については、本願出願人により先に提出された特開平5−114099号公報に詳述されているが、以下、その要点を簡単に述べる。
【0033】
イメージプロセッサ7は、基準画像Tを設定領域である例えば4×4画素の領域に分け、ステレオマッチング処理により各設定領域ごとに1つの視差dpを算出するようになっている。具体的には、例えば基準画像Tが、水平方向が512画素、垂直方向が200画素の画像である場合、イメージプロセッサ7は、基準画像Tを格子状に4×4画素ずつ128×50個に分割して設定領域を形成する。
【0034】
1つの設定領域を構成する16画素には、前述したようにそれぞれ0〜255の輝度値p1ijが割り当てられており、16画素の輝度値p1ijがその設定領域特有の輝度値特性を形成している。
【0035】
なお、輝度値p1ijの添字iおよびjは、基準画像Tの画像平面の左下隅を原点とし、水平方向をi座標軸、垂直方向をj座標軸とした場合の画素のi座標およびj座標を表す。前述のように基準画像Tが512×200画素である場合、0≦i≦511、0≦j≦199である。また、比較画像については基準画像Tの原点に予め対応付けられた画素を原点として同様にi座標、j座標を取る。
【0036】
イメージプロセッサ7は、比較画像を水平方向に延在する4画素幅の水平ラインに分割し、基準画像Tの1つの設定領域を取り出してそれに対応する比較画像の水平ライン上を1画素ずつ水平方向すなわちi方向にシフトさせながら、基準画像Tの設定領域における16個の画素の輝度値p1ij とそれに対応する比較画像における16個の画素の輝度値p2ijとの差の絶対値をそれぞれ合計した下記(1)式で求められるシティブロック距離CBが最小となる水平ライン上の設定領域、すなわち基準画像Tの設定領域に最も近い輝度値特性を有する比較画像上の設定領域を探索するようになっている。
CB=Σ|p1ij−p2ij| …(1)
【0037】
イメージプロセッサ7は、このようにして特定した比較画像上の設定領域ともとの基準画像T上の設定領域とのずれ量を算出し、そのずれ量を視差dpとして基準画像T上の設定領域に対応付けるようになっている。
【0038】
この視差dpは、前記メインカメラ2aおよびサブカメラ2bの一定距離の離間に由来する基準画像Tおよび比較画像における同一物体の写像位置に関する水平方向の相対的なずれ量であり、メインカメラ2aおよびサブカメラ2bの中央位置から物体までの距離と視差dpとを三角測量の原理に基づいて対応付けることができる。
【0039】
具体的には、実空間上で、メインカメラ2aおよびサブカメラ2bの中央真下の道路面上の点を原点とし、自車両の車幅方向すなわち左右方向にX軸、車高方向にY軸、車長方向すなわち距離方向にZ軸を取ると、視差dpが割り付けられた基準画像上の点(i,j)から実空間上の点(X,Y,Z)への座標変換は下記の(2)〜(4)式に基づいて行われる。
X=CD/2+Z×PW×(i−IV) …(2)
Y=CH+Z×PW×(j−JV) …(3)
Z=CD/(PW×(dp−DP)) …(4)
【0040】
なお、このようにして視差dpあるいは後述する距離Lijが各設定領域ごとに割り付けられた基準画像Tを距離画像という。また、前記(2)〜(4)式において、CDはメインカメラ2aとサブカメラ2bとの間隔、PWは1画素当たりの視野角、CHはメインカメラ2aとサブカメラ2bの取り付け高さ、IVおよびJVは自車両正面の無限遠点の距離画像上のi座標およびj座標、DPは消失点視差を表す。
【0041】
すなわち、メインカメラ2aおよびサブカメラ2bの中央位置、正確には中央真下の道路面上の点から物体までの距離Lijと視差dpとは、前記(4)式のZを距離Lijとすることで一意に対応付けられる。また、視差dpから前記(4)式に基づいて求められるZを前記(2)、(3)式に代入することで距離画像上のi座標およびj座標と対応付けて求めることができる。
【0042】
また、イメージプロセッサ7は、視差dpの信頼性を向上させる目的から、このようにして求めた視差dpに対してフィルタリング処理を施し、有効とされた視差dpのみを出力するようになっている。
【0043】
すなわち、例えば、車道の映像のみからなる特徴に乏しい4×4画素の設定領域を比較画像の4画素幅の水平ライン上で走査しても、比較画像の車道が撮像されている部分ではすべて相関が高くなり、対応する設定領域が特定されて視差dpが算出されてもその視差dpの信頼性は低い。そのため、そのような視差dpは前記フィルタリング処理で無効とされ、視差dpの値として0を出力するようになっている。
【0044】
したがって、イメージプロセッサ7から出力される基準画像Tの各画素の距離Lij、すなわち基準画像Tの各設定領域について実空間における距離を算出するための視差dpは、通常、基準画像Tの左右方向に隣り合う画素間で輝度値p1ijの差が大きいいわゆるエッジ部分についてのみ有効な値を持つデータとなる。
【0045】
イメージプロセッサ7で算出された基準画像Tの各設定領域の視差dpは前記(4)式に基づいてZすなわち実空間における距離Lijに変換され、この距離Lijが基準画像T上の設定領域に対応付けられて、距離画像として画像処理手段6の距離データメモリ8に格納されるようになっている。
【0046】
なお、距離画像上の座標(i,j)は基準画像T上の座標(i,j)に対応する。また、以下に述べる検出手段9における処理で、距離画像上の1つの設定領域を4×4個の画素として扱う場合には1つの設定領域に属する16個の画素がそれぞれ距離Lijを有するものとして扱われ、設定領域を1つの処理対象として扱う場合には設定領域が距離Lijを有するものとして扱われる。
【0047】
検出手段9は、図示しないCPUやROM、RAM、入出力インターフェース等がバスに接続されたマイクロコンピュータより構成されている。また、検出手段9には、車速センサやステアリングホイールの操舵角を測定する操舵角センサ等のセンサ類Aが接続されている。
【0048】
検出手段9は、図3に示すように、車線検出手段91と、車線モデル形成手段92と、抽出手段93と、壁検出手段94と、メモリ95とを備えている。検出手段9の各手段には、センサ類AからI/Oインターフェース96を介して必要なデータが入力されるようになっている。
【0049】
車線検出手段91は、基準画像Tの各画素の輝度値p1ijと各画素の実空間における距離Lijに基づいて基準画像T上に車線候補点を検出し、検出した車線候補点に基づいて自車両の左右の車線位置を検出するようになっている。
【0050】
車線検出手段91は、基準画像Tから車線位置を検出できるものであればよく、車線位置検出の手法は特定の手法に限定されない。本実施形態では、車線検出手段91および後述する車線モデル形成手段92は前記特許文献2に記載の車線認識装置をベースに構成されている。詳細な構成の説明は同公報に委ねるが、以下、簡単にその構成を説明する。
【0051】
車線検出手段91は、画像データメモリ5から基準画像Tの各画素の輝度値p1ijの情報を読み出し、また、距離データメモリ8から距離画像の各画素の実空間における距離Lijの情報を読み出す。そして、基準画像T上の1画素幅の水平ラインj上を左右方向に1画素ずつオフセットしながら探索し、図4に示すように、基準画像Tの各画素の輝度値p1ijに基づいて各画素の輝度微分値すなわちエッジ強度が閾値以上に大きく変化する等の条件を満たす画素を車線候補点(Ij,Jj)としてそれぞれ検出するようになっている。
【0052】
その際、基準画像Tに対応する距離画像に割り付けられた各画素の距離Lijの情報に基づいて、検出された画素が道路面上にない場合は除外し、車線候補点としては検出しないようになっている。
【0053】
車線検出手段91は、探索を行う水平ラインjを基準画像Tの下側から上向きに1画素幅ずつオフセットさせながら順次車線候補点の検出を行い、図5に示すように、自車両の右側の領域Aおよび左側の領域Bにそれぞれ車線候補点を検出する。そして、それらの中から整合性を取れない車線候補点を破棄して残りの車線候補点を結ぶことで、図6に示すように基準画像T上で自車両の右側に右車線位置LRを、左側に左車線位置LLをそれぞれ検出するようになっている。左右の車線位置LR、LLはそれぞれ実空間における車線位置LR、LLにも変換されるようになっている。
【0054】
なお、本実施形態では、車線検出手段91は、検出された各車線候補点の座標を直線または曲線で近似して左右の車線位置LR、LLを検出するようになっている。また、車線候補点が検出されていない自車両から遠方の領域についても、前記近似された直線や曲線に基づいて、或いは検出された車線候補点同士を結ぶ直線の傾きの変化率等に応じて検出された左右の車線位置LR、LLを適切に延長して推定するようになっている。
【0055】
また、車線候補点の探索は、基準画像T上に探索領域を設定して行われるようになっている。すなわち、今回の検出処理では、前回の検出処理で検出された車線位置に基づいてその車線位置を含む基準画像T上の一定の範囲に探索領域を設定する。また、今回の検出で基準画像Tの下側から上向きに水平ラインjを1画素幅ずつオフセットさせながら順次画素の検出を行う際に、ある水平ラインjで前記条件を満たす画素が検出されなかった場合には、次の水平ラインでは探索領域を拡大して車線候補点の探索を行うようになっている。
【0056】
車線検出手段91は、このようにして検出した左右の車線位置LR、LLや車線候補点の情報をメモリ95に保存するとともに外部に出力するようになっている。
【0057】
車線モデル形成手段92は、車線検出手段91で検出された左右の車線位置LR、LLや車線候補点の情報に基づいて車線モデルを三次元的に形成するようになっている。本実施形態では、車線モデル形成手段92は、図7(A)、(B)に示すように、自車両の左右の車線を所定区間ごとに三次元の直線式で近似し、それらを折れ線状に連結して表現した車線モデルを形成するようになっている。なお、図7(A)はZ−X平面上の道路モデルすなわち水平形状モデル、図7(B)はZ−Y平面上の道路モデルすなわち道路高モデルを表す。
【0058】
具体的には、車線モデル形成手段92は、自車両前方の実空間を自車両の位置からの距離Z7までの各区間に分け、車線検出手段91で検出された車線候補点の実空間上の位置(X,Y,Z)に基づいてそれぞれの区間内の車線候補点を最小二乗法で直線近似し、各区間ごとに下記の(5)〜(8)式のパラメータaR、bR、aL、bL、cR、dR、cL、dLを算出して車線モデルを形成するようになっている。
【0059】
[水平形状モデル]
右車線 X=aR・Z+bR …(5)
右車線 X=aL・Z+bL …(6)
[道路高モデル]
右車線 Y=cR・Z+dR …(7)
右車線 Y=cL・Z+dL …(8)
【0060】
このように車線モデル形成手段92は、距離Lijの情報に基づいて道路高モデルを形成することで、実空間上における道路面の高さを検出することが可能であり、本発明の道路面検出手段に相当する。車線モデル形成手段92は、このようにして形成した道路モデルすなわち算出した各区間のパラメータaR〜dLをそれぞれメモリ95に保存するとともに外部に出力するようになっている。
【0061】
なお、原点およびX、Y、Z軸は前記と同様にして取られる。また、車線モデル形成手段92で形成された車線モデルは、前述した車線検出手段91における車線候補点の検出の際に次回のサンプリング周期において検出された画素が道路面上にあるか否かの判断の基準等として用いられるとともに、後述する各手段での処理に用いられるようになっている。
【0062】
抽出手段93は、距離Lijの情報と車線モデル形成手段92に形成された車線モデルに基づいて設定領域ごとに距離Lijが割り付けられた基準画像すなわち距離画像の各設定領域の中から道路面より所定高さ以上上方に存在する立体物に対応するとみなされる設定領域を抽出するようになっている。
【0063】
具体的には、抽出手段93は、距離画像の各設定領域のうち0でない有意の距離Lijが割り付けられている設定領域ごとに、前記(3)式のZにその設定領域の距離Lijを代入してYを算出し、また前記車線モデルの道路高モデルからその距離Lijにおけるモデル高さを算出して、その差からその設定領域に対応する立体物の道路面からの高さを算出する。
【0064】
そして、抽出手段93は、その差が予め設定された所定高さ以上である設定領域のみを抽出するようになっている。抽出手段93は、このようにして抽出した設定領域をメモリ95に保存するようになっている。
【0065】
壁検出手段94は、抽出手段93で抽出された設定領域に基づいて自車両に近い領域で自車両の左右に壁を表す直線すなわち壁直線を検出し、また、検出した壁直線を基準としてより遠方の直線状または曲線状の壁のラインすなわち壁ラインを検出し、壁直線および壁ラインを合わせて自車両の左右に壁を検出するようになっている。
【0066】
本実施形態では、壁検出手段94は、壁直線の検出においては、抽出手段93で抽出された設定領域を実空間上の点に変換しその実空間上の点に基づいて直線近似により自車両に近い領域で自車両の左右に壁直線を検出するようになっている。
【0067】
この壁直線の検出は、抽出された全設定領域を対象として行うことも可能であるが、抽出された設定領域中には距離Lijの信頼度が低いものや壁検出に不必要なものも含まれるため、本実施形態では以下の手法により壁直線を検出するようになっている。
【0068】
すなわち、壁検出手段94は、まず、距離データメモリ8から読み出した距離画像を例えば4画素等の所定の画素幅で垂直方向に延びる短冊状の区分に分割する。そして、1つの短冊状の区分に属する前記抽出された設定領域の全距離Lijの分布を示す図8に示すようなヒストグラムを作成して、度数が最大の区間までの距離をその短冊状の区分における立体物の代表距離Lnとする。これを短冊状の全区分について行う。
【0069】
壁検出手段94は、算出した短冊状の各区分の代表距離Lnを実空間上の点に変換するようになっている。すなわち、代表距離LnをZ座標とし、そのZ座標を前記(2)式に代入してX座標をそれぞれ算出する。そして、このようにしてX、Z座標が算出された各点をX−Z平面で表される実空間上にプロットすると、図9に示すように、変換された各点が、先行車やガードレール等の立体物のうち自車両MCに面した部分に並ぶようにプロットされる。
【0070】
壁検出手段94は、このようにして算出した実空間上の各点についてハフ変換を行うようになっている。なお、ハフ変換は算出した実空間上のすべての点に対して行ってもよく、また、前記短冊状の各区分を距離画像の右半分と左半分とに分けてそれぞれについて行うように構成することも可能である。また、ハフ変換としては公知の手法が用いられ、例えば、下記に示す手法により行われる。
【0071】
具体的には、例えば、短冊状の各区分の代表距離Lnから変換された各点の座標を(Xn,Zn)とし、各点が基準画像T上の直線
X=aZ+b …(9)
上に存在すると仮定すると、Xn、Znは、
Xn=aZn+b …(10)
を満たす。
【0072】
(10)式を変形すると、
b=−Zn×a+Xn …(11)
となる。この(11)式から分かるように、各点(Xn,Zn)が算出されると、−Zn、Xnをそれぞれ傾きおよびb切片としてa−b平面で表されるハフ平面上に1本の直線を引くことができる。
【0073】
ハフ平面を予め所定の大きさに升目に区切っておき、各点(Xn,Zn)が算出され(11)式で表される直線が引かれる度に直線が通過する升目の計数値を1増加させる。そして、短冊状の各区分について代表距離Lnを実空間上の点に変換してハフ変換を行い、最終的にすべて区分について直線を算出してハフ平面の升目の加算を終了した時点で、ハフ平面の各升目の計数値について極大値を与えるa、bの組、すなわちそれらを前記(9)式に代入して得られる直線を所定数抽出する。
【0074】
例えば、図9に示した各点についてハフ変換を施すと複数の直線が得られる。壁検出手段94は、得られた複数の直線のうち、例えば、
(a)直線が自車両MCの内側を通ったり自車両MCに非常に近いところを通る
(b)直線と自車両MCの挙動から推定される軌跡との平行度が低い
等の条件を満たす直線を壁としてふさわしくないとして棄却し、直線が自車両MCの左右に1本ずつに絞られるまで直線の選択を行う。
【0075】
なお、抽出された直線が前記条件を満たさなかったり、ハフ平面の各升目の計数値が閾値以下の場合には極大値であっても抽出しない等の条件が満たされないような場合には、自車両MCの右側や左側あるいは両方ともに直線が選択されない場合もある。
【0076】
壁検出手段94は、このようにして例えば図10に示すように自車両MCの左右に1本ずつ直線r1、l1が選択されると、各点について自車両MCに近い点から順に各点と直線r1、l1との実空間上の距離を算出していき、直線r1、l1との距離が所定値以下となる最初の点を壁候補点として抽出する。そして、壁検出手段94は、順次自車両MCから離れる方向に各点を探索していき、直線r1、l1との距離が所定値以下であり、最も近い自車両MC側の壁候補点との距離が所定距離以下である各点を壁候補点として抽出していく。
【0077】
本実施形態では、このように直線r1、l1との距離が近い壁候補点を自車両MCに近い側から順次抽出していくことで自車両に近い領域での壁を表す直線の探索を行い、自車両に近い位置で直線を確実に検出するようになっている。このようにして壁候補点の抽出が行われると、例えば図10に示された各点からは図11に白丸で示される壁候補点が抽出される。
【0078】
壁検出手段94は、以上のようにして直線r1、l1についてそれぞれ壁候補点を抽出し、直線r1、l1のうち図12に示すように自車両MCに最も近い壁候補点から最も遠い壁候補点までを自車両MCに近い領域に壁を表す直線すなわち壁直線r1、l1として検出するようになっている。
【0079】
壁検出手段94は、続いて、このようにして検出した壁直線r1、l1を基準としてより遠方の直線状または曲線状の壁ラインを検出するようになっている。
【0080】
この場合、例えば図11に黒丸や白丸で示したように距離画像の短冊状の各区分について立体物までの代表距離Lnから変換された実空間上の各点が整然と並ぶような場合には、図12に示した壁直線r1、l1の自車両MCから最も遠い端部から順次遠方に各点を追跡していって、より遠方の直線状または曲線状の壁ラインを検出することができる。
【0081】
具体的には、壁直線r1、l1に属する自車両から最も遠い壁候補点より遠方の各点を自車両に近い側から順に探索していく。そして、まず、壁直線r1、l1に属する自車両から最も遠い壁候補点と次の点との実空間上のX軸方向、Z軸方向の変位が規定値以内か否かを判断する。そして、規定値以内であると判断すると、その点を壁候補点として記録する。
【0082】
以後同様にして、図13(A)に示されるように、自車両から離れる方向に次の点を検出すると、直前に検出された壁候補点aとのX軸方向、Z軸方向の変位が規定値以内か否かを判断し、規定値以内であると判断すると、今回検出した点を壁候補点bとして記録していく。
【0083】
また、次の点と直前に検出された壁候補点とのX軸方向、Z軸方向の変位が規定値以内でない場合も、前回までに検出した壁候補点を結ぶ直線、すなわち、図13(B)では壁候補点aと壁候補点bとを結ぶ直線からのX軸方向の変位が規定値以内であれば、今回検出した点を壁候補点c、d、…として記録する。
【0084】
このようにして、壁直線r1、l1の自車両MCから最も遠い端部から順次遠方に各点を追跡していって、より遠方の直線状または曲線状の壁ラインを検出することが可能である。
【0085】
しかし、実際には、距離画像の短冊状の各区分について立体物までの代表距離Lnを実空間上の各点に変換した場合、変換された各点が図12に示したように整然と並ばずに、X−Z平面で表される実空間上に散在するようにプロットされる場合もある。そのため、本実施形態では、壁検出手段94は、以下の手法によってより遠方の壁ラインを検出するように構成されている。
【0086】
すなわち、壁検出手段94は、まず、自車両MC前方の実空間を図14に示すように自車両の距離方向すなわちZ軸方向と左右方向すなわちX軸方向に所定の大きさの格子状の複数のブロックに分割する。そして、前記壁直線の検出で検出した壁直線r1、l1の自車両MCから最も遠い点より遠方の領域において、距離画像の短冊状の各区分について立体物までの代表距離Lnから変換された実空間上の各点をあてはまるブロックにプロットしていき、各点があてはまる毎にそのブロックのプロット数を1ずつ増加させる。
【0087】
実空間上のすべての点を各ブロックにプロットした後、例えば図14に示す矢印で示す地点でのプロット数pのX軸方向の分布は、例えば図15に示すような分布となる。壁検出手段94は、このプロット数pの分布に対して例えば図16に示す点数wのパターンを施して下記(12)式に従って一致度Qを算出し、パターンをX軸方向に移動させながら一致度Qを順次算出してその最大値を探索するパターンマッチングを行うようになっている。
Q=Σw・p …(12)
【0088】
壁検出手段94は、このX軸方向のパターンマッチングにおいて一致度Qが最大になる場合のパターンの原点の位置、すなわち例えば図15のプロット数pの分布に図16の点数wのパターンをマッチングした場合には図17に示すX軸方向の座標Xrを壁候補点のX座標として抽出するようになっている。
【0089】
なお、この壁候補点のZ座標は、その壁候補点が属する実空間上のブロックの中央位置としてもよいし、ブロックの最も自車両MCに近い位置としてもよい。また、自車両MCの左側の壁候補点を求めたい場合には、例えば図18に示す点数wのパターンを用いて同様のパターンマッチングを行うことで抽出することができる。
【0090】
壁検出手段94は、このようにして抽出した壁候補点を結んで折れ線状の壁ラインを検出するようになっている。壁検出手段94は、以上のようにして検出した壁直線r1、l1と左右の壁ラインとをそれぞれ合わせて図19に示すように自車両MCの左右の壁の位置WR、WLを検出するようになっている。また、壁検出手段94は、このようにして検出した壁WR、WLの情報をそれぞれメモリ95に保存するようになっている。
【0091】
なお、このようにして抽出した壁候補点を曲線状に結んで壁ラインとすることも可能である。また、抽出された壁候補点が他の壁候補点の位置から合理的な範囲内にない場合などにはその壁候補点は削除されるようになっている。また、本実施形態では距離画像の各区分の代表距離Lnから変換された実空間上の各点を実空間上のブロックにプロットする場合について述べたが、距離画像の有意な距離Lijを有する各設定領域を実空間上の点に変換してそれを各ブロックにプロットするように構成することも可能である。
【0092】
一方、本実施形態では、壁検出手段94は、さらに、検出した壁WR、WLが実空間上で所定の距離以上連続して検出されていない場合には検出結果を無効とするようになっている。このように、本実施形態では、例えば自車両が走行する走行レーンの隣の走行レーンを走行している車両の側面等を壁として検出した場合のように壁が所定距離以上連続して検出されていない場合に検出結果を無効とすることで壁の誤検出を回避するようになっている。
【0093】
具体的には、壁検出手段94は、前述した壁直線r1、l1や壁ラインの検出の際に、抽出された壁候補点同士の実空間上の距離を算出し、その距離が設定された閾値以内にある壁候補点同士を結んだ場合に、自車両MCに最も近い壁候補点と最も遠い壁候補点との実空間上の距離が例えば10m等に設定された所定距離に達しない場合には、それらの壁候補点に基づいて検出された壁を無効とするようになっている。
【0094】
例えば図19の自車両MCの左側に検出された壁WLにおいて、壁WLに属する自車両MCに最も近い壁候補点と最も遠い壁候補点との実空間上の距離が所定距離に達していなければ、壁WLの検出結果は無効とされる。
【0095】
また、図19の壁WRのように自車両MCに最も近い壁候補点と最も遠い壁候補点との実空間上の距離が所定距離以上であっても、それらの間に隣接壁候補点同士の距離が設定された閾値より大きい地点があり、自車両MCに最も近い壁候補点とその地点の自車両側の壁候補点との実空間上の距離が前記所定距離に達していなければ壁WRの検出結果は無効とされる。つまり、検出された壁が所定距離以上であっても連続して所定距離以上でなければ検出結果は無効とされる。なお、検出された壁が連続しているか否かの判定は、自車両に最も近い壁候補点と最も遠い壁候補点にそれぞれ対応する画像の設定領域が、互いに所定間隔以上離れているか否かにより判定することも可能である。
【0096】
図2に示した実施例では、図10に示すように自車両右側の壁WRに属する壁候補点において隣接する壁候補点同士の距離が設定された閾値より大きい地点はなく図19に示した壁WRは連続して所定距離以上であるから有効であり、自車両左側の壁WLは所定距離に達していないため無効となる。従って、図2に示した基準画像Tに基づいた壁検出では自車両右側のガードレールのみが壁WRとして検出され、装置外部に出力される。
【0097】
さらに、本実施形態では、壁検出手段94は、検出した壁が所定の速度以上の移動速度を有する場合には検出結果を無効とするようになっている。このように、本実施形態では、例えば自車両が走行する走行レーンの隣の走行レーンを走行している車両の側面等を壁として検出した場合のように検出した壁が所定速度以上の速度を有する場合に検出結果を無効とすることで壁の誤検出を回避するようになっている。
【0098】
壁の移動速度の算出手法としては、例えば自車両と立体物との相対速度を測定するレーダ等の測定手段による相対速度の情報と車速センサからの自車両の走行速度の情報とから壁として検出された立体物の移動速度を算出することが可能である。また、図10に示した距離画像の各区分の代表距離Lnから実空間上に変換された各点の前回の検出位置と今回の検出位置との差分から自車両と壁として検出された立体物との相対速度を算出し、それと自車両の走行速度の情報とから壁として検出された立体物の移動速度を算出することも可能である。その他、壁として検出された立体物の移動速度を算出可能な手法を適宜採用することができる。
【0099】
なお、無効とされた検出結果は、メモリ95から削除するように構成してもよく、あるいは無効とラベルしてメモリ95に保存するように構成してもよい。また、無効とされた検出結果を無効とラベルしたうえで外部に出力するように構成することも可能である。
【0100】
以上のように、本実施形態に係る壁検出装置1によれば、ステレオマッチング処理により基準画像Tの各設定領域についてそれぞれ視差dpを算出し、それに基づいて設定領域に撮像されている立体物までの距離Lijを精度良く算出する。
【0101】
そして、基準画像Tあるいは基準画像Tの各設定領域に距離Lijが割り付けられて形成された距離画像に基づいて、自車両に近い領域で壁を表す直線を確実に検出したうえで、検出された直線に基づいてより遠方の壁の位置を検出して、自車両の左右の道路脇に存在するガードレール等の壁の位置を検出する。
【0102】
特に本実施形態のように、有意な距離Lijの情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換し、実空間上の点に基づいてハフ変換等の直線近似により壁を表す直線を検出することで自車両に近い領域に確実にかつ精度良く壁を表す直線を検出することが可能となる。
【0103】
そのため、道路脇のガードレール等の壁を確実にかつ精度良く検出することが可能となるとともに、本実施形態に係る壁検出装置1が出力する壁の位置情報等に基づいて自車両の自動制御を行う自動制御システムを構築すれば、確実かつ精度良く検出された道路脇のガードレール等の壁の情報に基づいて自車両を適切かつ的確に制御することが可能となる。
【0104】
なお、本実施形態では、図14等に示した実空間上のブロックを用いたパターンマッチングの手法を、壁直線WR、WLが検出された後のより遠方の壁ラインの検出にのみ用いる場合について説明したが、この手法を用いて自車両に近い領域における壁直線の検出を行うように構成することも可能である。
【0105】
[第2の実施の形態]
第2の実施形態に係る壁検出装置は、図1に示した前記第1の実施形態に係る壁検出装置1と同様の構成であり、検出手段9における壁検出手段の構成が異なっている。以下、前記第1の実施形態と同様の構成部分については同一の符号を付して説明する。
【0106】
本実施形態に係る壁検出手段は、抽出手段93で抽出された設定領域に基づいて自車両に近い領域で自車両の左右に壁直線を検出し、また、検出した壁直線を基準としてより遠方の直線状または曲線状の壁ラインを検出し、壁直線および壁ラインを合わせて自車両の左右に壁を検出する点では前記第1の実施形態と同様であるが、壁直線の検出手法が異なる。
【0107】
壁検出手段は、壁直線の検出において、前記第1の実施形態と同様に距離データメモリ8から読み出した距離画像を所定の画素幅で垂直方向に延びる短冊状の区分に分割し、1つの短冊状の区分に属する前記抽出された設定領域の全距離Lijについてヒストグラムを作成してその短冊状の区分における立体物の代表距離Lnを算出し、算出した各代表距離Lnをそれぞれ実空間上の点に変換して図9に示したように実空間上にそれらの点をプロットするようになっている。
【0108】
続いて、壁検出手段は、図9に示した実空間上の各点に対して、図20に示すように近接する各点の距離や方向性に基づいて同一立体物と見なせる各点をグループG1〜G7にグループ化する。そして、図21に示すように、各点が自車両の進行方向に対して垂直なX軸方向に対して略平行に並ぶグループには正面O1〜O3とラベルし、各点が自車両の進行方向であるZ軸方向にほぼ平行に並ぶグループには側壁W1〜W4とラベルして、立体物に該当するグループをそれぞれ“正面”および“側壁”として検出するようになっている。
【0109】
そして、壁検出手段は、“正面”や“側壁”として検出した各グループG1〜G7に属する各点をそれぞれハフ変換や最小二乗法等の手法を用いて直線近似し、自車両MCに最も近い左右の側壁W1を表す直線および側壁W4を表す直線をそれぞれ壁直線W1、W4として検出するようになっている。
【0110】
なお、本実施形態においても壁直線の検出の際、前述したように、
(a)直線が自車両MCの内側を通ったり自車両MCに非常に近いところを通る
(b)直線と自車両MCの挙動から推定される軌跡との平行度が低い
等の条件を満たす直線を、壁を表す直線としてふさわしくない直線として棄却する等の処理が行われる。
【0111】
一方、壁直線W1、W4より遠方の壁ラインの検出については、前記第1の実施形態と同様に実空間上のブロックを用いたパターンマッチングの手法を用いて処理するように構成することが可能である。また、図21に示すように、側壁W4の検出と同時にそれに連続するより遠方の側壁W3が検出される場合には、本実施形態の手法により検出された側壁W3を壁ラインとして検出するように構成することも可能である。
【0112】
本実施形態では、壁検出手段は、このようにして壁直線W1を自車両MCの左側の壁の位置WL、壁直線W4と壁ラインW3とを合わせて自車両MCの右側の壁の位置WRとして検出するようになっている。また、壁検出手段はこのようにして検出した左右の壁の情報をそれぞれメモリ95に保存するようになっている。
【0113】
また、本実施形態においても、検出した壁の長さと連続性および移動速度による検出結果の無効処理が行われるようになっている。そのため、本実施形態においても自車両MCの左側に検出された壁WLは無効とされ、結局、図2に示した基準画像Tに基づいた壁検出により自車両右側のガードレールのみが壁WRとして検出され、装置外部に出力される。
【0114】
以上のように、本実施形態に係る壁検出装置によれば、前記第1の実施形態に係る壁検出装置1と同様に、ステレオマッチング処理により基準画像Tの各設定領域についてそれぞれ視差dpを算出し、それに基づいて設定領域に撮像されている立体物までの距離Lijを精度良く算出する。
【0115】
そして、基準画像Tあるいは基準画像Tの各設定領域に距離Lijが割り付けられて形成された距離画像に基づいて、自車両に近い領域で壁を表す直線を確実に検出したうえで、検出された直線に基づいてより遠方の壁の位置を検出して、自車両の左右の道路脇に存在するガードレール等の壁の位置を検出する。
【0116】
特に本実施形態のように、有意な距離Lijの情報を有する設定領域のうち道路面より上方に存在する立体物に対応する設定領域を実空間上の点に変換し、実空間上の点のうち同一立体物を撮像したと見なすことができる設定領域に対応する点をグループ化して直線近似し、自車両の進行方向にほぼ平行なグループであって自車両に最も近い自車両左右の直線を壁直線として検出することで、自車両に近い領域に確実にかつ精度良く壁を表す直線を検出することが可能となる。
【0117】
そのため、道路脇のガードレール等の壁を確実にかつ精度良く検出することが可能となるとともに、本実施形態に係る壁検出装置が出力する壁の位置情報等に基づいて自車両の自動制御を行う自動制御システムを構築すれば、確実かつ精度良く検出された道路脇のガードレール等の壁の情報に基づいて自車両を適切かつ的確に制御することが可能となる。
【0118】
なお、本実施形態に示したグループ化処理を基準画像T上や距離画像上で行うように構成することも可能である。
【図面の簡単な説明】
【0119】
【図1】第1の実施形態に係る壁検出装置の構成を示すブロック図である。
【図2】基準画像の一例を示す図である。
【図3】本実施形態に係る検出手段の構成を示すブロック図である。
【図4】水平ラインj上に検出された車線候補点を説明する図である。
【図5】検出された車線候補点を示す図である。
【図6】検出された右車線位置および左車線位置を示す図である。
【図7】車線モデルの(A)水平形状モデル、(B)道路高モデルを例示する図である。
【図8】設定領域の全距離の分布を示すヒストグラムを説明する図である。
【図9】設定領域から変換された各点を実空間上にプロットした図である。
【図10】壁検出手段で自車両の左右に選択された直線を示す図である。
【図11】図10に示した各点から抽出された壁候補点を説明する図である。
【図12】検出された壁直線を示す図である。
【図13】実区間上の点を壁候補点として記録する条件を説明する図である。
【図14】複数のブロックに分割された実空間を説明する図である。
【図15】プロット数のX軸方向の分布を示すグラフである。
【図16】パターンマッチングに用いる点数のパターンを示す図である。
【図17】パターンマッチングの結果抽出された壁候補点のX座標を示す図である。
【図18】図16とは反対側の壁候補点を抽出するための点数のパターンを示す図である。
【図19】検出された壁の位置を示す図である。
【図20】第2の実施形態において図9の各点をグループ化して形成された各グループを示す図である。
【図21】グループ化された正面と側壁および検出された壁の位置を示す図である。
【符号の説明】
【0120】
1 壁検出装置
2 撮像手段
6 画像処理手段
93 抽出手段
94 壁検出手段
T 基準画像(一方の画像)
Lij 距離
WR、WL 壁の位置
MC 自車両
r1、l1 壁を表す直線
G1〜G7 グループ
p プロット数
【特許請求の範囲】
【請求項1】
道路を含む自車両の進行路を撮像して一対の画像を出力する撮像手段と、
前記撮像された一対の画像に基づいて少なくとも一方の画像の設定領域ごとに実空間における距離を算出する画像処理手段と、
前記距離の情報に基づいて道路面より上方に存在するとみなすことができる前記設定領域を抽出する抽出手段と、
抽出された前記設定領域に基づいて自車両に近い領域で自車両の左右に壁を表す直線を検出し、前記壁を表す直線を基準としてより遠方の直線状または曲線状の壁のラインを検出し、前記壁を表す直線および前記壁のラインを合わせて壁の位置を検出する壁検出手段と
を備えることを特徴とする壁検出装置。
【請求項2】
前記壁検出手段は、検出した前記壁が所定の距離以上連続して検出されていない場合には検出結果を無効とすることを特徴とする請求項1に記載の壁検出装置。
【請求項3】
前記壁検出手段は、検出した前記壁が所定の速度以上の移動速度を有する場合には検出結果を無効とすることを特徴とする請求項1または請求項2に記載の壁検出装置。
【請求項4】
前記壁検出手段は、前記抽出された設定領域を実空間上の点に変換し、前記実空間上の点に基づいて少なくとも前記壁を表す直線を検出することを特徴とする請求項1から請求項3のいずれか一項に記載の壁検出装置。
【請求項5】
前記壁検出手段は、前記抽出された設定領域のうち同一立体物を撮像したと見なすことができる設定領域をグループ化し、自車両の進行方向に対して所定の傾きを有するグループの前記一方の画像上の位置または実空間上の位置に基づいて少なくとも前記壁を表す直線を検出することを特徴とする請求項1から請求項3のいずれか一項に記載の壁検出装置。
【請求項6】
前記壁検出手段は、前記抽出された設定領域を実空間上の点に変換して、前記点を自車両の距離方向および左右方向に格子状に分割された前記実空間上の各ブロックにプロットし、前記実空間上の各ブロックのプロット数を自車両の左右方向にパターンマッチングして得られた壁の位置に基づいて前記壁を表す直線または前記壁のラインを検出することを特徴とする請求項1から請求項5のいずれか一項に記載の壁検出装置。
【請求項1】
道路を含む自車両の進行路を撮像して一対の画像を出力する撮像手段と、
前記撮像された一対の画像に基づいて少なくとも一方の画像の設定領域ごとに実空間における距離を算出する画像処理手段と、
前記距離の情報に基づいて道路面より上方に存在するとみなすことができる前記設定領域を抽出する抽出手段と、
抽出された前記設定領域に基づいて自車両に近い領域で自車両の左右に壁を表す直線を検出し、前記壁を表す直線を基準としてより遠方の直線状または曲線状の壁のラインを検出し、前記壁を表す直線および前記壁のラインを合わせて壁の位置を検出する壁検出手段と
を備えることを特徴とする壁検出装置。
【請求項2】
前記壁検出手段は、検出した前記壁が所定の距離以上連続して検出されていない場合には検出結果を無効とすることを特徴とする請求項1に記載の壁検出装置。
【請求項3】
前記壁検出手段は、検出した前記壁が所定の速度以上の移動速度を有する場合には検出結果を無効とすることを特徴とする請求項1または請求項2に記載の壁検出装置。
【請求項4】
前記壁検出手段は、前記抽出された設定領域を実空間上の点に変換し、前記実空間上の点に基づいて少なくとも前記壁を表す直線を検出することを特徴とする請求項1から請求項3のいずれか一項に記載の壁検出装置。
【請求項5】
前記壁検出手段は、前記抽出された設定領域のうち同一立体物を撮像したと見なすことができる設定領域をグループ化し、自車両の進行方向に対して所定の傾きを有するグループの前記一方の画像上の位置または実空間上の位置に基づいて少なくとも前記壁を表す直線を検出することを特徴とする請求項1から請求項3のいずれか一項に記載の壁検出装置。
【請求項6】
前記壁検出手段は、前記抽出された設定領域を実空間上の点に変換して、前記点を自車両の距離方向および左右方向に格子状に分割された前記実空間上の各ブロックにプロットし、前記実空間上の各ブロックのプロット数を自車両の左右方向にパターンマッチングして得られた壁の位置に基づいて前記壁を表す直線または前記壁のラインを検出することを特徴とする請求項1から請求項5のいずれか一項に記載の壁検出装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【公開番号】特開2008−59323(P2008−59323A)
【公開日】平成20年3月13日(2008.3.13)
【国際特許分類】
【出願番号】特願2006−235997(P2006−235997)
【出願日】平成18年8月31日(2006.8.31)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】
【公開日】平成20年3月13日(2008.3.13)
【国際特許分類】
【出願日】平成18年8月31日(2006.8.31)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】
[ Back to top ]