説明

車両用白線認識装置

【課題】車線区画線の内側に補助線が存在する場合にも、各線に対応するエッジ点を短時間で且つ精度良く分類することができる車両用白線認識装置を提供する。
【解決手段】ステレオ画像認識装置は、画像上の白線検出領域内で検索ラインL毎に検出した第1,第2エッジ点Pe1,Pe2からなる点群の近似直線Hを演算し、近似直線Hを基準とする候補点分類領域α内に占める第2エッジ点Pe2の割合が設定未満であるとき第1のパターンを判定して、候補点分類領域α内のエッジ点Peを第1候補点Pc1、候補点分類領域αよりも車幅方向外側のエッジ点Peを第2候補点Pc2として登録し、候補点分類領域α内に占める第2エッジ点Pe2の割合が設定以上であるとき第2のパターンを判定して、候補点分類領域α内の各エッジ点Peを第2候補点Pc2、候補点分類領域αよりも車幅方向内側の各エッジ点Peを第1候補点Pc1として登録する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車載カメラで撮像した画像に基づいて白線を認識する車両用白線認識装置に関する。
【背景技術】
【0002】
近年、車両の安全性の向上を図るため、積極的にドライバの運転操作を支援する運転支援装置が開発されている。この運転支援装置では、一般に、車線逸脱防止機能等を実現するため、自車前方の撮像画像等に基づいて白線の認識が行われ、この白線に基づいて自車走行レーンの推定が行われる。
【0003】
ところで、実際の道路上の白線には、単一の車線区画線で構成される白線の他に、車線区画線の内側に破線等からなる視線誘導線(補助線)が併設された二重白線等の各種バリエーションが存在する。
【0004】
そこで、この種の白線認識では、車線区画線のみならず補助線等の存在を十分に考慮する必要がある。このような白線認識についての技術として、例えば、特許文献1には、撮像画像上に設定された検索領域に対し、水平方向に延在する複数の検索ライン毎に、車幅方向内側から外側に向けて輝度変化を調べ、輝度が暗から明へと所定以上変化する最初のエッジ点を検出し、検出した点群に対してハフ変換等を用いたノイズ除去を行うことにより、白線開始点の検出精度を向上する技術が開示されている。
【0005】
このような技術によれば、白線が車線区画線のみからなる単線である場合には当該車線区画線に基づいて白線が認識され、白線が二重白線等である場合には主として内側に位置する補助線等に基づいて白線が認識される。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2007−264955号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、上述の特許文献1に開示された技術のように二重白線等に対して内側の補助線に基づく白線認識が行われると、例えば、車線逸脱防止機能において、自車が補助線を逸脱しただけで警報が発せられる等、実際のドライバの感覚とは若干かけ離れたタイミングで制御が行われる虞がある。
【0008】
これに対処し、各検索ライン上に2点目のエッジ点が存在する場合には、当該2点目のエッジ点も検出して車線区画線及び補助線を認識することも考えられる。
【0009】
しかしながら、二重白線等に対してエッジ点の検出を行った場合、必ずしも、1点目のエッジ点が補助線に対応し、2点目のエッジ点が車線区画線に対応するとは限らない。すなわち、例えば、補助線が破線等で構成された二重白線等に対してエッジ点の検出を行った場合、1点目のエッジ点は補助線及び車線区画線の何れからも検出される。従って、各検索ラインに対して2点目のエッジ点を検出する場合、各エッジ点が二重白線の何れの線に属するものであるか等を精度良く分類する必要がある。
【0010】
なお、このようなエッジ点の分類について、ハフ変換を利用した公知の曲線検出技術を使用することも考えられるが、このような技術は、直線を規定する位置、傾きのパラメータの他に曲率パラメータも同定しなければならないため、処理時間が膨大となり、リアルタイム性を必要とする運転支援装置等への適用は困難となる。
【0011】
本発明は上記事情に鑑みてなされたもので、車線区画線の内側に補助線が存在する場合にも、各線に対応するエッジ点を短時間で且つ精度良く分類することができる車両用白線認識装置を提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明は、自車走行路を撮像した画像上の白線検出領域内で水平方向に延在する検索ライン毎に車幅方向内側から外側に向けて輝度変化を調べ、輝度が暗から明に所定以上変化する最初のエッジ点を第1エッジ点として検出するとともに、前記第1エッジ点よりも車幅方向外側にエッジ点が存在する場合には当該エッジ点を第2エッジ点として検出する候補点検出手段と、前記第1エッジ点及び前記第2エッジ点からなる点群の近似直線を演算する直線近似手段と、前記近似直線を基準とする帯状の候補点分類領域を設定し、当該候補点分類領域内に占める前記第2エッジ点の割合が設定未満であるとき第1のパターンを判定し、前記第2エッジ点の割合が設定以上であるとき第2のパターンを判定するパターン判定手段と、前記第1のパターンが判定されているとき、前記候補点分類領域内に存在する前記各エッジ点を前記第1候補点として登録するとともに、前記候補点分類領域よりも車幅方向外側に存在する前記各エッジ点を第2候補点として登録し、前記第2のパターンが判定されているとき、前記候補点分類領域内に存在する前記各エッジ点を第2候補点として登録するとともに、前記候補点分類領域よりも車幅方向内側に存在する前記各エッジ点を第1候補点として登録するエッジ点分類手段と、を備えたことを特徴とする。
【発明の効果】
【0013】
本発明の車両用白線認識装置によれば、車線区画線の内側に補助線が存在する場合にも、各線に対応するエッジ点を短時間で且つ精度良く分類することができる。
【図面の簡単な説明】
【0014】
【図1】車両用運転支援装置の概略構成図
【図2】白線認識ルーチンを示すフローチャート
【図3】車外環境の撮像画像の一例を模式的に示す説明図
【図4】図3の画像から検出される第1エッジ点及び第2エッジ点を示す説明図
【図5】検索ライン上における輝度の変化の一例を示す説明図
【図6】ハフ変換の演算方法示す説明図
【図7】ハフ空間を示す説明図
【図8】第1の領域内におけるエッジ点分類サブルーチンを示すフローチャート
【図9】第2の領域内におけるエッジ点分類サブルーチンを示すフローチャート
【図10】各パターンにおけるハフ直線とエッジ点との関係の一例を示す説明図
【図11】各パターンにおいて第1の領域内に設定された候補点分類領域を示す説明図
【図12】各パターンにおける第1の領域内での処理結果の一例を示す説明図
【図13】各パターンにおける第2の領域内での処理結果の一例を示す説明図
【図14】認識した白線に基づいて設定される白線検出領域を示す説明図
【発明を実施するための形態】
【0015】
以下、図面を参照して本発明の形態を説明する。図面は本発明の一実施形態に係わり、図1は車両用運転支援装置の概略構成図、図2は白線認識ルーチンを示すフローチャート、図3は車外環境の撮像画像の一例を模式的に示す説明図、図4は図3の画像から検出される第1エッジ点及び第2エッジ点を示す説明図、図5は検索ライン上における輝度の変化の一例を示す説明図、図6はハフ変換の演算方法示す説明図、図7はハフ空間を示す説明図、図8は第1の領域内におけるエッジ点分類サブルーチンを示すフローチャート、図9は第2の領域内におけるエッジ点分類サブルーチンを示すフローチャート、図10は各パターンにおけるハフ直線とエッジ点との関係の一例を示す説明図、図11は各パターンにおいて第1の領域内に設定された候補点分類領域を示す説明図、図12は各パターンにおける第1の領域内での処理結果の一例を示す説明図、図13は各パターンにおける第2の領域内での処理結果の一例を示す説明図、図14は認識した白線に基づいて設定される白線検出領域を示す説明図である。
【0016】
図1において、符号1は自動車等の車両(自車両)であり、この車両1には運転支援装置2が搭載されている。この運転支援装置2は、例えば、ステレオカメラ3、ステレオ画像認識装置4、制御ユニット5等を有して要部が構成されている。
【0017】
また、自車両1には、自車速Vを検出する車速センサ11、ヨーレートγを検出するヨーレートセンサ12、運転支援制御の各機能のON−OFF切換等を行うメインスイッチ13、ステアリングホイールに連結するステアリング軸に対設されて舵角θstを検出する舵角センサ14、ドライバによるアクセルペダル踏込量(アクセル開度)θaccを検出するアクセル開度センサ15等が設けられている。
【0018】
ステレオカメラ3は、ステレオ光学系として、例えば電荷結合素子(CCD)等の固体撮像素子を用いた1組のCCDカメラで構成されている。これら左右のCCDカメラは、それぞれ車室内の天井前方に一定の間隔を持って取り付けられ、車外の対象を異なる視点からステレオ撮像し、画像データをステレオ画像認識装置4に出力する。なお、以下の説明において、ステレオ撮像された画像のうち一方の画像(例えば、右側の画像)を基準画像と称し、他方の画像(例えば、左側の画像)を比較画像と称する。
【0019】
ステレオ画像認識装置4は、先ず、基準画像を例えば4×4画素の小領域に分割し、それぞれの小領域の輝度或いは色のパターンを比較画像と比較して対応する領域を見つけ出し、基準画像全体に渡る距離分布を求める。さらに、ステレオ画像認識装置4は、基準画像上の各画素について隣接する画素との輝度差を調べ、これらの輝度差が閾値を超えているものをエッジ点として抽出するとともに、抽出した画素(エッジ点)に距離情報を付与することで、距離画像(距離情報を備えたエッジ点の分布画像)を生成する。そして、ステレオ画像認識装置4は、生成した距離画像に対して周知のグルーピング処理を行い、予め記憶しておいた3次元的な枠(ウインドウ)と比較することで、自車前方の白線、側壁、立体物等を認識する。
【0020】
ここで、本実施形態において認識対象となる白線とは、例えば、単一の車線区画線や車線区画線の内側に視線誘導線等が併設された多重線(二重白線等)のように、道路上に延在して自車走行レーンを区画する線を総称するものであり、各線の形態としては、実線、破線等を問わず、更に、黄色線等をも含む。
【0021】
ところで、実際の道路上に敷設された白線には上述のように各種バリエーションが存在する他、白線の形態は走行路の分岐や合流等に伴って変化する。加えて、道路上には路面補修跡や、水溜まり、雪等の各種ノイズが存在する。従って、画一的な処理によって、全ての場面で精度良く白線を認識することは困難である。そこで、ステレオ画像認識装置4は、上述の距離画像に基づく白線認識のみに頼ることなく、各種方式を用いた白線認識を補完的に行い、これらの認識結果を複合的に判断して最終的な白線を認識する。
【0022】
このような白線認識の一つとして、ステレオ画像認識装置4は、自車前方を撮像した一方の画像(例えば、図3に示す基準画像)上の水平方向の輝度変化に基づいて白線認識を行う。なお、以下に説明する白線認識は、特に、二重白線の認識に有効なものである。
【0023】
具体的に説明すると、例えば、図4に示すように、ステレオ画像認識装置4は、画像上に左右の白線検出領域Al,Arを設定し、各白線検出領域Al,Ar内で水平方向に延在する複数の検索ラインLに対し、検索ラインL毎に車幅方向内側から外側に向けて輝度変化を調べる。そして、ステレオ画像認識装置4は、各白線検出領域Al,Ar内の各検索ラインL上において、輝度が暗から明へと所定以上変化する最初のエッジ点を第1エッジ点Pe1として検出するとともに、第1エッジ点Pe1よりも車幅方向外側にエッジ点が存在する場合には当該エッジ点を第2エッジ点Pe2として検出する。
【0024】
また、ステレオ画像認識装置4は、自車前方の左右に検出した各エッジ点Peの点群(第1エッジ点Pe1及び第2エッジ点Pe2の点群)に対する近似直線Hを演算する。そして、ステレオ画像認識装置4は、近似直線Hを基準とする帯状の候補点分類領域αを設定し、当該候補点分類領域α内に占める第2エッジ点の割合Rate2が設定閾値未満であるとき第1のパターンを判定し、第2エッジ点の割合Rate2が設定閾値以上であるとき第2のパターンを判定する。
【0025】
そして、ステレオ画像認識装置4は、第1のパターンが判定されているとき、候補点分類領域α内に存在する各エッジ点Peを第1候補点Pc1として登録するとともに、候補点分類領域αよりも車幅方向外側に存在する各エッジ点Peを第2候補点として登録する。一方、ステレオ画像認識装置4は、第2のパターンが判定されているとき、候補点分類領域α内に存在する各エッジ点Peを第2候補点Pc2として登録するとともに、候補点分類領域よりも車幅方向内側に存在する各エッジ点Peを第1候補点Pc1として登録する。これにより、白線が二重白線である場合において、基本的には、第1候補点Pcは視線誘導線等の補助線に対応して抽出され、第2候補点Pc2は車線区画線等に対応して抽出される。
【0026】
ここで、ステレオ画像認識装置4は、第1のパターンが判定されている場合には、候補点分類領域αよりも車幅方向内側に存在する各エッジ点Peをノイズとして消去し、第2のパターンが判定されている場合には、候補点分類領域αよりも車幅方向外側に存在する各エッジ点Peをノイズとして消去する。
【0027】
ところで、自車走行路が遠方でカーブしている場合、例えば、二重白線の内側の補助線と外側の車線区画線とが画像上で一部同化する等して各エッジ点Peを精度良く分類することが困難となる場合がある。そこで、本実施形態のステレオ画像認識装置4は、画像上の領域を、自車1側に位置する第1の領域と、自車1から遠方に位置する第2の領域とに区画し、第1の領域については上述の各処理に基づいて各エッジ点Peの分類を行い、第2の領域については別途の処理に基づいて各エッジ点Peの分類を行う。
【0028】
この場合において、ステレオ画像認識装置4は、例えば、近似直線H上に存在するエッジ点Peの総数に対し、エッジ点Peの数が閾値割合(例えば、9割程度)を占めるまでの領域を第1の領域として設定し、それ以遠の領域を第2の領域として設定する。すなわち、自車1側において白線(すなわち、エッジ点Peの点群)を単一の直線で所定に直線近似できる領域(第1の領域)においては近似直線Hを基準とした上述の処理に基づいて各エッジ点Peの分類を行い、単一の近似直線Hでは近似が困難となる遠方の領域(第2の領域)においては、別途の処理に基づいて各エッジ点Peの分類を行う。
【0029】
そして、ステレオ画像認識装置4は、第1のパターンが判定されているとき、第2の領域内に存在するエッジ点Peのうち、同一検索ラインL上に単独で存在する第1エッジ点Pe1を削除すると共に他の第1エッジ点Pe1を第1候補点Pc1として設定し、第2エッジ点Pe2を第2候補点Pc2として設定する。一方、ステレオ画像認識装置4は、第2のパターンが判定されているとき、第2の領域内に存在するエッジ点Peのうち、同一検索ラインL上に単独で存在する第1エッジ点Pe1を第2候補点Pc2として設定すると共に他の第1エッジ点Pe1を第1候補点Pc1として設定し、第2エッジ点Pe2を第2候補点Pc2として設定する。
【0030】
そして、ステレオ画像認識装置4は、このようにして分類した第1候補点Pc1の点群に対して最小自乗法を用いた白線の近似線(第1の近似線)を演算し、各第1候補点Pc1に対する第1の近似線の近似誤差を演算する。同様に、ステレオ画像認識装置4は、第2候補点Pc2の点群に対して最小自乗法を用いた白線の近似線(第2の近似線)を演算し、各第2候補点Pc2に対する第2の近似線の近似誤差を演算する。そして、ステレオ画像認識装置4は、近似誤差が小さい何れか一方の近似線のパラメータに基づいて最終的な近似線のパラメータを設定する。この場合において、ステレオ画像認識装置4は、第1の近似線の近似誤差が小さい場合、当該第1の近似線を第2の近似線までオフセットさせることにより、最終的な近似線のパラメータを設定することが望ましい。
【0031】
このように、本実施形態において、ステレオ画像認識装置4は、候補点検出手段、直線近似手段、パターン判定手段、エッジ点分類手段、領域設定手段、第2のエッジ点分類手段、及び、近似線演算手段としての各機能を実現する。
【0032】
なお、ステレオ画像認識装置4は、その他の種々の方法によって白線認識を行うことが可能となっている。そして、ステレオ画像認識装置4は、例えば、各白線認識において認識した白線の近似線と当該認識に用いられたエッジ点等の白線候補点との関係(例えば、近似線に対する白線候補点の分散等)に基づき、認識した各近似線の中から最も適切な近似線を選択し、当該近似線を最終的な白線の近似線として制御ユニット5に出力する。
【0033】
制御ユニット5には、ステレオ画像認識装置4で認識された自車両1前方の走行環境情報が入力される。さらに、制御ユニット5には、自車両1の走行情報として、車速センサ11からの車速V、ヨーレートセンサ12からのヨーレートγ等が入力されると共に、ドライバによる操作入力情報として、メインスイッチ13からの操作信号、舵角センサ14からの舵角θst、アクセル開度センサ15からのアクセル開度θacc等が入力される。
【0034】
そして、例えば、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つであるACC(Adaptive Cruise Control)機能の実行が指示されると、制御ユニット5は、ステレオ画像認識装置4で認識した先行車方向を読み込み、自車走行路上に追従対象の先行車が走行しているか否かを識別する。
【0035】
その結果、追従対象の先行車が検出されていない場合は、スロットル弁16の開閉制御(エンジンの出力制御)を通じて、ドライバが設定したセット車速に自車両1の車速Vを維持させる定速走行制御を実行する。
【0036】
一方、追従対象車両である先行車が検出され、且つ、当該先行車の車速がセット車速以下の場合は、先行車との車間距離を目標車間距離に収束させた状態で追従する追従走行制御が実行される。この追従走行制御時において、制御ユニット5は、基本的にはスロットル弁16の開閉制御(エンジンの出力制御)を通じて、先行車との車間距離を目標車間距離に収束させる。さらに、先行車の急な減速等によりスロットル弁16の制御のみでは十分な減速度が得られないと判断した場合、制御ユニット5は、アクティブブースタ17からの出力液圧の制御(ブレーキの自動介入制御)を併用し、車間距離を目標車間距離に収束させる。
【0037】
また、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つである車線逸脱防止機能の実行が指示されると、制御ユニット5は、例えば、自車走行レーンを規定する左右の白線(ステレオ画像認識装置4で認識した白線の近似線)に基づいて警報判定用ラインを設定するとともに、自車両1の車速Vとヨーレートγとに基づいて自車進行経路を推定する。そして、制御ユニット5は、例えば、自車前方の設定距離(例えば、10〜16[m])内において、自車進行経路が左右何れかの警報判定用ラインを横切っていると判定した場合、自車両1が現在の自車走行車線を逸脱する可能性が高いと判定し、車線逸脱警報を行う。
【0038】
次に、ステレオ画像認識装置4において実行される、基準画像上の輝度変化に基づく白線認識について、図2に示す白線認識ルーチンのフローチャートに従って説明する。なお、本ルーチンによる処理は、左右の白線検出領域Al,Arそれぞれに対して同様の処理が個別に行われるものであるが、説明を簡略化するため、以下の説明において特に必要な場合を除き、例えば白線検出領域Al,Arを総称して白線検出領域Aと標記する等、左右の属性を示す添字”l”及び”r”を適宜省略して説明する。
【0039】
このルーチンがスタートすると、ステレオ画像認識装置4は、先ず、ステップS101において、例えば、前フレームの画像に対するステップS107の処理で設定された白線検出領域A内の各検索ラインL毎に、第1エッジ点Pe1及び第2エッジ点Pe2の検出を行う。具体的には、例えば、図5に示すように、ステレオ画像認識装置4は、車幅方向内側から外側に向けて、各検索ラインL上でのエッジ検出を行い、車幅方向外側の画素の輝度が内側の画素の輝度に対して相対的に高く、且つ、その変化量を示す輝度の微分値がプラス側の設定閾値以上となる点(エッジ点Pe(+))を検出するとともに、車幅方向外側の画素の輝度が内側の画素の輝度に対して相対的に低く、且つ、その変化量を示す輝度の微分値がマイナス側の設定閾値以下となる点(エッジ点Pe(−))を検出する。そして、ステレオ画像認識装置4は、エッジ点Pe(−)と対をなすエッジ点Pe(+)のうち、白線検出領域A内で最も車幅方向内側に位置するエッジ点Pe(+)を第1エッジ点Pe1として抽出すると共に、次に車幅方向内側に位置するエッジ点Pe(+)を第2エッジ点Pe2として抽出する(図4参照)。なお、図4等においては、説明を簡略化するため、検索ラインL及び各エッジ点等が所定に間引かれて表示されている。
【0040】
続くステップS102において、ステレオ画像認識装置4は、抽出したエッジ点Pe(第1エッジ点Pe1及び第2エッジ点Pe2)または、(第1エッジ点Pe1、第2エッジ点Pe2の何れか)に基づいて白線の近似直線を演算する(近似直線演算において、第1エッジ点Pe1と第2エッジ点Pe2の双方を使用する場合に比べ、どちらか一方のみを使用する場合では、演算時間の高速化が可能になる。)。すなわち、ステレオ画像認識装置4は、例えば、図6に示すように、点群を構成する各エッジ点Peそれぞれに対し、点Pe(x,z)を通る直線hの傾きθを0°から180°まで所定の角度Δθ毎変化させ、以下の(1)式に基づいて、各θにおける原点Oから直線hまでの距離(垂線の長さ)ρを求める。
ρ=x・cosθ+z・sinθ … (1)
そして、ステレオ画像認識装置4は、各点Peについて求めたθとρの関係を、例えば、図7に示すハフ平面(θ,ρ)上の該当箇所に度数として投票(投影)する。さらに、ステレオ画像認識装置4は、ハフ平面(θ,ρ)上の度数が最も大きくなるθとρの組合せを抽出し、当該θとρを用いて(1)式で規定される近似直線(ハフ直線)Hを点群の近似式として設定する(図10(a),(b)参照)。
【0041】
ステップS102からステップS103に進むと、ステレオ画像認識装置4は、近似直線H上に存在するエッジ点Peをカウントし、画像下側からエッジ点Peの数が閾値割合(例えば、9割程度)を占めるまでの領域を第1の領域として設定し、それ以遠の領域を第2の領域として設定する(図11(a),(b)参照)。
【0042】
そして、ステップS104に進むと、ステレオ画像認識装置4は、第1の領域内のエッジ点Peの分類処理を行う。この処理は、例えば、図8に示すエッジ点分類サブルーチンのフローチャートに従って実行されるもので、サブルーチンがスタートすると、ステレオ画像認識装置4は、先ず、ステップS201において、近似直線Hを基準とする帯状の領域を候補点分類領域αとして設定する。すなわち、ステレオ画像認識装置4は、近似直線Hを車幅方向内側及び外側にα1,α2だけ平行移動して形成された領域を候補点分類領域αとして設定する(図11(a),(b)参照)。ここで、α1,α2としては、例えば、前フレームで検出した白線の幅の半分の長さを画面上の画素数に変換して用いることが望ましい。
【0043】
続くステップS202において、ステレオ画像認識装置4は、候補点分類領域α内に存在するエッジ点Peの総数に対して第2エッジ点Pe2が占める割合Rate2を、以下の(2)式に基づいて算出する。
Rate2=(Num2/(Num1+Num2))×100 … (2)
ここで、(2)式において、Num1は候補点分類領域αに存在する第1エッジ点Pe1の総数を示し、Num2は候補点分類領域αに存在する第2エッジ点Pe2の総数を示す。
【0044】
そして、ステレオ画像認識装置4は、割合Rate2が予め設定された閾値未満である場合には、エッジ点Peの分類処理のパターンとして第1のパターンを選択し、割合Rate2が閾値以上である場合には、第2のパターンを選択する。なお、二重白線においては外側の車線区画線が実線であることが一般的であるため、第1のパターンは、例えば、二重白線の内側の補助線が実線である場合、或いは、補助線が破線で構成される場合であっても破線の線分が比較的長く線分の間隔が比較的短い場合等に多く選択される。また、第1のパターンは、例えば、二重白線の外側の車線区画線が破線である場合等にも希に選択される。一方、第2のパターンは、例えば、補助線が破線で構成される場合であって且つ破線の線分が比較的短く線分の間隔が比較的長い場合等に多く選択される。
【0045】
続くステップS203において、ステレオ画像認識装置4は、ステップS202で判定したパターンが第1のパターンか否かを調べ、第1のパターンである場合にはステップS204に進み、第2のパターンである場合にはステップS207に進む。
【0046】
ステップS203からステップS204に進むと、ステレオ画像認識装置4は、候補点分類領域α内に存在するエッジ点Peを第1候補点Pc1として登録し、続くステップS205において、候補点分類領域αよりも車幅方向内側のエッジ点Peを全て削除し、さらにステップS206において、候補点分類領域αよりも車幅方向外側のエッジ点Peを第2候補点Pc2として登録した後(図12(a)参照)、サブルーチンを抜ける。
【0047】
一方、ステップS203からステップS207に進むと、ステレオ画像認識装置4は、候補点分類領域α内に存在するエッジ点Peを第2候補点Pc2として登録し、続くステップS208において、候補点分類領域αよりも車幅方向内側のエッジ点Peを第1候補点Pc1として登録し、さらにステップS209において、候補点分類領域αよりも車幅方向外側に存在するエッジ点Peを全て削除した後(図12(b)参照)、サブルーチンを抜ける。
【0048】
図2のメインルーチンにおいて、ステップS104からステップS105に進むと、ステレオ画像認識装置4は、第2の領域内のエッジ点Peの分類処理を行う。この処理は、例えば、図9に示すエッジ点分類サブルーチンのフローチャートに従って実行されるもので、サブルーチンがスタートすると、ステレオ画像認識装置4は、先ず、ステップS301において検索ラインL上に単独で存在する第1エッジ点Pe1(すなわち、同一検索ラインL上に第2エッジ点Pe2が存在せず第1エッジ点Pe1のみが単独で存在するもの)があるか否かを調べる。
【0049】
そして、ステップS301において、ステレオ画像認識装置4は、検索ラインL上に単独で存在する第1エッジ点Pe1があると判定した場合はステップS302に進み、検索ラインL上に単独で存在する第1エッジ点Pe1がない(すなわち、第1エッジ点Pe1が存在しない、或いは、第1,第2エッジ点Pe1,Pe2がペアで併存する)と判定した場合はステップS305に進む。
【0050】
ステップS301からステップS302に進むと、ステレオ画像認識装置4は、上述のステップS202の処理で判定したパターンが第1のパターンか否かを調べ、第1のパターンである場合にはステップS303に進み、第2のパターンである場合にはステップS304に進む。
【0051】
そして、ステップS302からステップS303に進むと、ステレオ画像認識装置4は、検索ラインL上に単独で存在する第1エッジ点Pe1を全て削除した後、ステップS305に進む(図13(a)参照)。ここで、上述のように、白線が二重白線である場合においては外側の車線区画線が実線である可能性が高いことを考慮すると、第1のパターンが判定される場合とは、内側の補助線が実線或いは実線に準ずる破線等である可能性が高い。従って、遠方で第2エッジ点Pe2が検出されない場合には、画像上で補助線と車線区画線とが一部同化して見えている可能性が高いと考えられる。そして、このような場合において、検索ラインL上に単独で存在する第1エッジ点Pe1は、車線区画線によるものであるか補助線によるものであるを判定すること困難である。そこで、このような第1エッジ点Pe1は、ノイズとして削除される。
【0052】
一方、ステップS302からステップS304に進むと、ステレオ画像認識装置4は、検索ラインL上に単独で存在する第1エッジ点Pe1を第2候補点Pc2として登録した後、ステップS305に進む(図13(b)参照)。すなわち、上述のように、白線が二重白線である場合において、第2のパターンが判定されている場合とは、内側の補助線が比較的疎な破線等である可能性が高い。従って、遠方で第2エッジ点Pe2が検出されない場合には、仮に画像上で補助線と車線区画線とが一部同化して見えている場合であっても、検索ラインL上に単独で存在する第1エッジ点Pe1は車線区画線によるものである可能性が高い。そこで、このような第1エッジ点Pe1は、第2候補点Pc2として登録される。
【0053】
ステップS301、ステップS303、或いは、ステップS304からステップS305に進むと、ステレオ画像認識装置4は、同一検索ラインL上に第2エッジ点Pe2とペアで併存する第1エッジ点Pe1を第1候補点Pc1として登録した後(図13(a),(b)参照)、ステップS306に進む。
【0054】
そしてステップS305からステップS306に進むと、ステレオ画像認識装置4は、同一検索ラインL上に第1エッジ点Pe1とペアで併存する第2エッジ点Pe2を第2候補点Pc2として登録した後(図13(a),(b)参照)、サブルーチンを抜ける。
【0055】
図2のメインルーチンにおいて、ステップS105からステップS106に進むと、ステレオ画像認識装置4は、例えば、第1候補点Pc1の点群に基づいて、(3)式に示す最小自乗法を用いた第1の近似線を演算するとともに、第2候補点Pc2の点群に基づいて、(4)式に示す最小自乗法を用いた第2の近似線を演算する。
X1=a1・Z+b1・Z+c1 … (3)
X2=a2・Z+b2・Z+c2 … (4)
ここで、白線が二重白線である場合、基本的には、(3)式に示す第1の近似線は補助線の近似線を示し、(4)式に示す第2の近似線は車線区画線を示す。また、(3)、(4)式において、a1,a2、b1,b2、及び、c1,c2は最小自乗法によって求められるパラメータを示す。
【0056】
さらに、ステレオ画像認識装置4は、各第1候補点Pc1に対する第1の近似線の近似誤差を演算するとともに、各第2候補点Pc2に対する第2近似線の近似誤差を演算する。そして、ステレオ画像認識装置4は、第1の近似線或いは第2の近似線のうち近似誤差が小さい何れか一方の近似線のパラメータに基づいて、最終的な近似線Xのパラメータを設定する。すなわち、本実施形態では、例えば、白線が二重白線であっても、当該白線の近似線は単一の近似線が設定される。この場合において、例えば、各種の運転支援制御(特に、車線逸脱警報等)を画一的に行うため、最終的な近似線Xのパラメータは、車線区画線に倣ったものであることが望ましい。そこで、ステレオ画像認識装置4は、第1の近似線X1の近似誤差が小さい場合、当該第1の近似線X1を第2の近似線X2までオフセットさせることにより、最終的な近似線Xのパラメータを設定する。一方、ステレオ画像認識装置4は、第2の近似線X2の近似誤差が小さい場合、当該第2の近似線X2をそのまま用いて、最終的な近似線Xのパラメータを設定する。
【0057】
ステップS106からステップS107に進むと、ステレオ画像認識装置4は、ステップS106で演算した白線の近似線に基づき、次フレームで使用する白線検索領域Aを設定した後、ルーチンを抜ける。すなわち、ステップS108において、ステレオ画像認識装置4は、例えば、図14に示すように、ステップS106で演算した左右の白線近似線Xl,Xrに対し、(5)〜(8)式に示すように、それぞれ実空間上で、lin_ws[m]だけ車幅方向にオフセットした線Xsl,Xsrと、lin_wr[m]だけ車幅方向外側にオフセットした線Xel,Xerを設定する。
【0058】
すなわち、ステレオ画像認識装置4は、左側の白線近似線X1に対し、
Xsl=al・Zl+bl・Zl+cl+lin_Wsl … (5)
を設定すると共に、右側の白線近似線Xrに対し、
Xsr=ar・Zr+br・Zr+cr−lin_Wsr … (6)
を設定する。
また、ステレオ画像認識装置4は、左側の白線近似線Xlに対し、
Xel=al・Zl+bl・Zl+cl−lin_Wel … (7)
を設定すると共に、右側の白線近似線Xrに対し、
Xer=ar・Zr+br・Zr+cr+lin_Wer … (8)
を設定する。そして、ステレオ画像認識装置4は、実空間上において(5)式と(7)式とで囲まれた領域を画像上の座標系へ座標変換することで、左側の白線検出領域Alとして設定し、(6)式と(8)式とで囲まれた領域を同様に画像上の座標系へ座標変換することで、右側の白線検出領域Arとして設定する。
【0059】
このような実施形態によれば、画像上の白線検出領域A内で水平方向に延在する検索ラインL毎に車幅方向内側から外側に向けての輝度変化に基づいて検出した第1,第2エッジ点Pe1,Pe2からなる点群、または、第1エッジ点Pe1,または、第2エッジ点,Pe2の何れか一方からなる点群の近似直線Hを演算し、近似直線Hを基準とする候補点分類領域α内に占める第2エッジ点Pe2の割合が設定未満であるとき第1のパターンを判定して、候補点分類領域α内に存在するエッジ点Peを第1候補点Pc1として登録すると共に、候補点分類領域αよりも車幅方向外側に存在するエッジ点Peを第2候補点Pc2として登録し、一方、候補点分類領域α内に占める第2エッジ点Pe2の割合が設定以上であるとき第2のパターンを判定して、候補点分類領域α内に存在する各エッジ点Peを第2候補点Pc2として登録すると共に、候補点分類領域αよりも車幅方向内側に存在する各エッジ点Peを第1候補点Pc1として登録することにより、車線区画線の内側に補助線が存在する場合にも、各線に対応するエッジ点を短時間で且つ精度良く分類することができる。
【0060】
この場合において、近似直線H上に存在するエッジ点Peの総数に対し、当該近似直線H上でエッジ点Peが設定割合を占めるまでの領域(すなわち、近似直線Hにエッジ点Peが追従すると見なすことができる領域)を第1の領域として設定し、上述の処理を、第1の領域に対して限定的に行うことにより、第1候補点Pc1と第2候補点Pc2との分類を精度良く実現することができる。
【0061】
また、第1領域以遠の第2領域については、第1のパターンが判定されているときは、単独で存在する第1エッジ点Pe1を削除すると共に他の第1エッジ点Pe1を第1候補点Pc1として設定し、第2エッジ点Pe2を第2候補点として設定する一方、第2のパターンが判定されているときは、単独で存在する第1エッジ点Pe1を第2候補点Pc2として設定するとともに他の第1エッジ点Pe1を第1候補点Pc1として設定し、第2エッジ点Pe2を第2候補点Pc2として設定することにより、不確定なエッジ点を排除しつつ、第1,第2候補点Pc1,Pc2への分類を精度良く行うことができる。
【0062】
なお、本実施例はステレオカメラについて記載したが、白線を認識可能なそうちであれば、モノラルカメラを含め、これに限定されるものではない。
【符号の説明】
【0063】
1 …車両(自車両)
2 … 運転支援装置
3 … ステレオカメラ
4 … ステレオ画像認識装置(候補点検出手段、直線近似手段、パターン判定手段、エッジ点分類手段、領域設定手段、第2のエッジ点分類手段、近似線演算手段)
5 … 制御ユニット
11 … 車速センサ
12 … ヨーレートセンサ
13 … メインスイッチ
14 … 舵角センサ
15 … アクセル開度センサ
16 … スロットル弁
17 … アクティブブースタ

【特許請求の範囲】
【請求項1】
自車走行路を撮像した画像上の白線検出領域内で水平方向に延在する検索ライン毎に車幅方向内側から外側に向けて輝度変化を調べ、輝度が暗から明に所定以上変化する最初のエッジ点を第1エッジ点として検出するとともに、前記第1エッジ点よりも車幅方向外側にエッジ点が存在する場合には当該エッジ点を第2エッジ点として検出する候補点検出手段と、
前記第1エッジ点または、前記第2エッジ点の何れか一方、または、前記第1エッジ点、前記第2エッジ点双方からなる点群の近似直線を演算する直線近似手段と、
前記近似直線を基準とする帯状の候補点分類領域を設定し、当該候補点分類領域内に占める前記第2エッジ点の割合が設定未満であるとき第1のパターンを判定し、前記第2エッジ点の割合が設定以上であるとき第2のパターンを判定するパターン判定手段と、
前記第1のパターンが判定されているとき、前記候補点分類領域内に存在する前記各エッジ点を前記第1候補点として登録するとともに、前記候補点分類領域よりも車幅方向外側に存在する前記各エッジ点を第2候補点として登録し、前記第2のパターンが判定されているとき、前記候補点分類領域内に存在する前記各エッジ点を第2候補点として登録するとともに、前記候補点分類領域よりも車幅方向内側に存在する前記各エッジ点を第1候補点として登録するエッジ点分類手段と、を備えたことを特徴とする車両用白線認識装置。
【請求項2】
前記エッジ点分類手段は、前記第1のパターンが判定されているとき、前記候補点分類領域よりも車幅方向内側に存在する前記各エッジ点をノイズとして消去し、前記第2のパターンが判定されているとき、前記候補点分類領域よりも車幅方向外側に存在する前記各エッジ点をノイズとして消去することを特徴とする請求項1記載の車両用白線認識装置。
【請求項3】
前記近似直線上に存在する前記エッジ点の総数に対し、当該近似直線上で前記エッジ点が設定割合を占めるまでの領域を第1の領域として設定し、当該第1の領域以遠の領域を第2の領域として設定する領域設定手段を有し、
前記エッジ点分類手段は、前記第1の領域内に存在する前記各エッジ点に対する分類を行うことを特徴とする請求項1または請求項2に記載の車両用白線認識装置。
【請求項4】
前記第2の領域内に存在する前記各エッジ点を分類する第2のエッジ点分類手段を有し、
前記第2のエッジ点分類手段は、前記パターン判定手段で第1のパターンが判定されているとき、単独で存在する前記第1エッジ点を削除するとともに他の前記第1エッジ点を第1候補点として設定し、前記第2エッジ点を第2候補点として設定し、
前記パターン判定手段で第2のパターンが判定されているとき、単独で存在する前記第1エッジ点を第2候補点として設定するとともに他の前記第1エッジ点を第1候補点として設定し、前記第2エッジ点を第2候補点として設定することを特徴とする請求項3記載の車両用白線認識装置。
【請求項5】
前記第1候補点の点群に基づいて第1の近似線を演算し、前記各第1候補点に対する前記第1の近似線の近似誤差を演算するとともに、前記第2候補点の点群に基づいて第2の近似線を演算し、前記各第2候補点に対する前記第2の近似線の近似誤差を演算し、近似誤差が小さい何れか一方の近似線のパラメータに基づいて最終的な近似線のパラメータを設定する近似線演算手段を備えたことを特徴とする請求項1乃至請求項4の何れか1項に記載の車両用白線認識装置。
【請求項6】
前記近似線演算手段は、前記第1の近似線の近似誤差が小さい場合、当該第1の近似線を前記第2の近似線までオフセットさせることにより、最終的な近似線のパラメータを設定することを特徴とする請求項5に記載の車両用白線認識装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2012−14398(P2012−14398A)
【公開日】平成24年1月19日(2012.1.19)
【国際特許分類】
【出願番号】特願2010−149896(P2010−149896)
【出願日】平成22年6月30日(2010.6.30)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】