車両用白線認識装置
【課題】演算時間を軽減しつつ、精度よく白線近似線を求めることができる車両用白線認識装置を提供する。
【解決手段】ステレオ画像認識装置4は、実空間上での白線の概略形状を近似する仮白線近似線の各係数を同定するに際し、前フレームで認識した白線近似線に基づいて低次側係数を同定し、同定されていない複数の高次側係数の組合せを、実空間上に投影された白線候補点Pd毎に当該白線候補点Pdの座標と低次側係数とを用いて複数パターン演算し、最も多く演算された高次側係数の組合せを仮白線近似線Ltの高次側係数として同定する。そして、仮白線近似線Ltを基準とする候補点選定領域Asを設定するとともに、当該候補点選定領域As内に存在する白線候補点Pdを最終的な白線候補点Pとして選定し、選定した白線候補点Pに基づいて白線近似線Lを演算する。
【解決手段】ステレオ画像認識装置4は、実空間上での白線の概略形状を近似する仮白線近似線の各係数を同定するに際し、前フレームで認識した白線近似線に基づいて低次側係数を同定し、同定されていない複数の高次側係数の組合せを、実空間上に投影された白線候補点Pd毎に当該白線候補点Pdの座標と低次側係数とを用いて複数パターン演算し、最も多く演算された高次側係数の組合せを仮白線近似線Ltの高次側係数として同定する。そして、仮白線近似線Ltを基準とする候補点選定領域Asを設定するとともに、当該候補点選定領域As内に存在する白線候補点Pdを最終的な白線候補点Pとして選定し、選定した白線候補点Pに基づいて白線近似線Lを演算する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車載カメラで撮像した画像に基づいて白線を認識する車両用白線認識装置に関する。
【背景技術】
【0002】
近年、車両の安全性の向上を図るため、積極的にドライバの運転操作を支援する運転支援装置が開発されている。この運転支援装置では、一般に、車線逸脱防止機能等を実現するため、自車前方の撮像画像等に基づいて白線認識が行われ、認識した白線に基づいて自車走行レーンの推定等が行われる。この種の白線認識の技術として、例えば、特許文献1には、自車両の前方を撮像した画像上を水平方向に延びるライン毎に検索して輝度値及び輝度微分値についてそれぞれ設定された閾値以上である画素を車線候補点として検出し、検索により検出された複数の車線候補点に基づいて車線(白線)位置を検出する技術が開示されている。
【0003】
ところで、道路上には、白線以外にもノイズとなる雪や、道路の模様、路面の補修跡、水溜まり等が多く存在し、真正な白線候補点のみを検出することは容易でない状況が多く存在する。そこで、例えば、上述の特許文献1には、撮像された画像上の候補点群に対してハフ変換を行い、最も候補点が多くフィッティングする直線(ハフ直線)を求め、その直線から外れた候補点をノイズとして除外する技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007−264955号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、道路形状は直線のみで近似できるものばかりではなく、曲率を持ったカーブ区間を含む場合には、白線候補点の適切な選定を行うことが困難な場合がある。
【0006】
これに対し、公知の手法として、曲線や円等を規定するハフ変換手法が存在しており、例えば、実空間における白線候補点を2次の関数で近似する際に、曲率、傾き、切片等のパラメータをハフ変換を用いて統計的に同定し、これに基づいて白線候補点の選定を行うことは原理的には可能である。
【0007】
しかしながら、全てのパラメータをハフ変換によって同定する計算処理は、膨大な演算処理を必要とし、リアルタイムで処理するという観点からは現実的でない。
【0008】
本発明は上記事情に鑑みてなされたもので、演算時間を軽減しつつ、精度よく白線近似線を求めることができる車両用白線認識装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明の一態様による車両用白線認識装置は、自車走行路を撮像した画像上に設定した白線検出領域内で水平方向に延在する検索ライン毎に車幅方向の輝度変化を調べ、輝度が暗から明に所定以上変化するエッジ点を白線候補点として検出する候補点検出手段と、過去の白線検出結果に基づき、実空間上での白線の概略形状を近似する高次の近似式からなる仮白線近似線について零次の係数を含む低次側係数を同定する低次側係数同定手段と、前記仮近似線について前記低次側係数設定手段で同定されていない複数の高次側係数の組合せを、実空間上に投影された前記白線候補点毎に当該白線候補点の座標と前記低次側係数とを用いて複数パターン演算し、最も多く演算された前記高次側係数の組合せを、前記仮白線近似線の高次側係数として同定する高次側係数同定手段と、前記各係数が同定された前記仮白線近似線を基準とする候補点選定領域を設定し、前記白線検出領域内で検出された前記白線候補点の中から前記候補点選定領域内に存在する前記白線候補点を選定する候補点選定手段と、前記候補点選定領域内で選定した前記白線候補点を用いて白線近似線を演算する白線近似線演算手段と、を備える。
【発明の効果】
【0010】
本発明の車両用白線認識装置によれば、演算時間を軽減しつつ、精度よく白線近似線を求めることができる。
【図面の簡単な説明】
【0011】
【図1】車両用運転支援装置の概略構成図
【図2】白線認識ルーチンを示すフローチャート
【図3】係数同定サブルーチンを示すフローチャート
【図4】車外環境の撮像画像の一例を模式的に示す説明図
【図5】図4の画像から検出される白線候補点を示す説明図
【図6】検索ライン上における輝度の変化の一例を示す説明図
【図7】実空間に投影された白線候補点の一例を示す説明図
【図8】(a)は走行による自車の移動量を示す説明図であって(b)は前フレームで検出した白線候補点の自車に対する相対的な移動量を示す説明図
【図9】基準点と注目する白線候補点との2点間を通る2次曲線の各パターンを示す説明図
【図10】各1次係数に基づいて演算された2次係数を示す説明図
【図11】(a)は1の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図であって(b)は複数の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図
【図12】仮白線近似線及び候補点選定領域を示す説明図
【図13】選定した白線候補点を用いて演算された白線近似線及び次フレームで用いる白線検出領域を示す説明図
【発明を実施するための形態】
【0012】
以下、図面を参照して本発明の形態を説明する。図面は本発明の一実施形態に係わり、図1は車両用運転支援装置の概略構成図、図2は白線認識ルーチンを示すフローチャート、図3は係数同定サブルーチンを示すフローチャート、図4は車外環境の撮像画像の一例を模式的に示す説明図、図5は図4の画像から検出される白線候補点を示す説明図、図6は検索ライン上における輝度の変化の一例を示す説明図、図7は実空間に投影された白線候補点の一例を示す説明図、図8(a)は走行による自車の移動量を示す説明図であって(b)は前フレームで検出した白線候補点の自車に対する相対的な移動量を示す説明図、図9は基準点と注目する白線候補点との2点間を通る2次曲線の各パターンを示す説明図、図10は各1次係数に基づいて演算された2次係数を示す説明図、図11(a)は1の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図であって(b)は複数の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図、図12は仮白線近似線及び候補点選定領域を示す説明図、図13は選定した白線候補点を用いて演算された白線近似線及び次フレームで用いる白線検出領域を示す説明図である。
【0013】
図1において、符号1は自動車等の車両(自車両)であり、この車両1には運転支援装置2が搭載されている、この運転支援装置2は、例えば、ステレオカメラ3、ステレオ画像認識装置4、制御ユニット5等を有して要部が構成されている。
【0014】
また、自車両1には、自車速Vを検出する車速センサ11、ヨーレートγを検出するヨーレートセンサ12、運転支援制御の各機能のON−OFF切換等を行うメインスイッチ13、ステアリングホイールに連結するステアリング軸に対設されて舵角θstを検出する舵角センサ14、ドライバによるアクセルペダル踏込量(アクセル開度)θaccを検出するアクセル開度センサ15等が設けられている。
【0015】
ステレオカメラ3は、ステレオ光学系として、例えば電荷結合素子(CCD)等の固体撮像素子を用いた1組のCCDカメラで構成されている。これら左右のCCDカメラは、ぞれぞれ車室内の天井前方に一定の間隔を持って取り付けられ、車外の対象を異なる視点からステレオ撮像し、画像データをステレオ画像認識装置4に出力する。なお、以下の説明において、ステレオ撮像された画像のうち一方の画像(例えば、右側の画像)を基準画像と称し、他方の画像(例えば、左側の画像)を比較画像と称する。
【0016】
ステレオ画像認識装置4は、先ず、基準画像を例えば4×4画素の小領域に分割し、それぞれの小領域の輝度或いは色のパターンを比較画像と比較して対応する領域を見つけ出し、基準画像全体に渡る距離分布を求める。さらに、ステレオ画像認識装置4は、基準画像上の各画素について隣接する画素との輝度差を調べ、これらの輝度差が閾値を超えているものをエッジ点として抽出するとともに、抽出した画素(エッジ点)に距離情報を付与することで、距離画像(距離情報を備えたエッジ点の分布画像)を生成する。そして、ステレオ画像認識装置4は、生成した距離画像に対して周知のグルーピング処理を行い、予め記憶しておいた3次元的な枠(ウインドウ)と比較することで、自車前方の白線、側壁、立体物等を認識する。
【0017】
ここで、本実施形態において認識対象となる白線とは、例えば、単一の車線区画線や車線区画線の内側に視線誘導線等が併設された多重線(二重線等)のように、道路上に延在して自車走行レーンを区画する線を総称するものであり、各線の形態としては、実線、破線等を問わず、更に、黄色線等をも含む。また、本実施形態の白線認識においては、道路上に実在する白線が二重白線等であっても、左右それぞれ単一の直線或いは曲線等で近似して認識するものとする。
【0018】
ところで、実際の道路上に敷設された白線には上述のように各種バリエーションが存在する他、白線の形態は走行路の分岐や合流等に伴って変化する。加えて、道路上には路面補修跡や、水溜まり、雪等の各種ノイズが存在する。従って、画一的な処理によって、全ての場面で精度よく白線を認識することは困難となる。そこで、ステレオ画像認識装置4は、上述のような距離画像に基づくパターンマッチングを用いた白線認識のみに頼ることなく、各種方式を用いた白線認識を補完的に行い、これらの認識結果を総合的に判断して最終的な白線を認識する。
【0019】
このような白線認識の一つとして、ステレオ画像認識装置4は、自車前方を撮像した一方の画像(例えば、図4に示す基準画像)上の水平方向の輝度変化に基づいて左右の白線認識を行う。具体的に説明すると、例えば、図5に示すように、ステレオ画像認識装置4は、画像上に左右の白線検出領域A(Al,Ar)を設定し、各白線検出領域A内で水平方向に延在する複数の検索ラインlに対し、検索ラインl毎に車幅方向内側から外側に向けて輝度変化を調べる。そして、ステレオ画像認識装置4は、各白線検出領域A内の各検索ラインl上において、輝度が暗から明に所定以上変化する最初のエッジ点を白線候補点Pd(Pdl,Pdr)としてそれぞれ検出する。
【0020】
そして、ステレオ画像認識装置4は、各白線候補点Pdを実空間上に投影し(図7参照)、投影した左右の白線候補点Pdの各点群に対して、高次の近似式(関数)からなる仮白線近似線Lt(Ltl,Ltr)を演算し、当該仮白線近似線を基準とする候補点選定領域As(Asl,Asr)を設定する(図12参照)。
【0021】
そして、ステレオ画像認識装置4は、白線候補点Pdの中から、候補点選定領域As内に存在する白線候補点Pdを最終的な白線候補点P(Pl,Pr)として選定する(図12参照)。
【0022】
そして、ステレオ画像認識装置4は、左右の各候補点選定領域As内で選定した白線候補点Pを用いて最終的な左右の白線近似線L(Ll,Lr)をそれぞれ演算するとともに、演算した仮白線近似線Lに基づいて次フレームでの白線検出領域Aを設定する(図13参照)。
【0023】
ここで、ステレオ画像認識装置4は、仮白線近似線Ltの設定に際し、先ず、過去の白線検出結果に基づき、零次の係数(定数)を含む低次側係数を同定する。例えば、本実施形態における仮白線近似線Ltは2次の近似式で規定されるようになっており、この場合、ステレオ画像認識装置4は、前フレームで認識した白線近似線に基づいて、0次の係数(定数)を同定する。
【0024】
また、低次側係数を同定すると、ステレオ画像認識装置4は、同定されていない複数の高次側係数の同定を行う。この高次側係数の同定において、ステレオ画像認識装置4は、実空間上に投影された白線候補点Pd毎に、当該白線候補点Pdの座標と低次側係数とを用いて、高次側係数の組合せを複数パターン演算する。そして、最も多く演算された高次側係数の組合せを抽出し、抽出した高次側係数を仮白線近似線Ltの係数として同定する。例えば、仮白線近似線Ltが2次の近似式で規定される本実施形態において、ステレオ画像認識装置4は、0次係数が同定された仮白線近似線Ltに白線候補点Pdの座標を代入することにより、白線候補点Pd毎に、2次係数と1次係数との組合せを複数パターン演算する。そして、全ての白線候補点Pdについて、2次係数と1次係数との組合せを複数パターン演算すると、ステレオ画像認識装置4は、演算した2次係数と1次係数との組合せの中から、最も多く演算された組合せを抽出し、当該組合せを仮白線近似線Ltの高次側係数として同定する。
【0025】
このように、本実施形態において、ステレオ画像認識装置4は、候補点検出手段、低次側係数同定手段、高次側係数同定手段、候補点選定手段、及び、白線近似線演算手段としての各機能を実現する。
【0026】
なお、ステレオ画像認識装置4は、その他の種々の方法によって白線認識を行うことが可能となっている。そして、ステレオ画像認識装置4は、例えば、各白線認識において認識した白線の近似線と当該認識に用いられたエッジ点等の白線候補点との関係(例えば、近似線に対する白線候補点の分散等)に基づき、認識した各近似線の中から最も適切な近似線を選択し、当該近似線を最終的な白線の近似線として制御ユニット5に出力する。
【0027】
制御ユニット5には、ステレオ画像認識装置4で認識された自車両1前方の走行環境情報が入力される。さらに、制御ユニット5には、自車両1の走行情報として、車速センサ11からの車速V、ヨーレートセンサ12からのヨーレートγ等が入力されると共に、ドライバによる操作入力情報として、メインスイッチ13からの操作信号、舵角センサ14からの舵角θst、アクセル開度センサ15からのアクセル開度θacc等が入力される。
【0028】
そして、例えば、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つであるACC(Adaptive Cruise Control)機能の実行が指示されると、制御ユニット5は、ステレオ画像認識装置4で認識した先行車方向を読み込み、自車走行路上に追従対象の先行車が走行しているか否かを識別する。
【0029】
その結果、追従対象の先行車が検出されていない場合は、スロットル弁16の開閉制御(エンジンの出力制御)を通じて、ドライバが設定したセット車速に自車両1の車速Vを維持させる定速走行制御を実行する。
【0030】
一方、追従対象車両である先行車が検出され、且つ、当該先行車の車速がセット車速以下の場合は、先行車との車間距離を目標車間距離に収束させた状態で追従する追従走行制御が実行される。この追従走行制御時において、制御ユニット5は、基本的にはスロットル弁16の開閉制御(エンジンの出力制御)を通じて、先行車との車間距離を目標車間距離に収束させる。さらに、先行車の急な減速等によりスロットル弁16の制御のみでは十分な減速度が得られないと判断した場合、制御ユニット5は、アクティブブースタ17からの出力液圧の制御(ブレーキの自動介入制御)を併用し、車間距離を目標車間距離に収束させる。
【0031】
また、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つである車線逸脱防止機能の実行が指示されると、制御ユニット5は、例えば、自車走行レーンを規定する左右の白線(ステレオ画像認識装置4で認識した白線の近似線)に基づいて警報判定用ラインを設定するとともに、自車両1の車速Vとヨーレートγとに基づいて自車進行経路を推定する。そして、制御ユニット5は、例えば、自車前方の設定距離(例えば、10〜16[m])内において、自車進行経路が左右何れかの警報判定用ラインを横切っていると判定した場合、自車両1が現在の自車走行車線を逸脱する可能性が高いと判定し、車線逸脱警報を行う。
【0032】
次に、ステレオ画像認識装置4において実行される、基準画像上の輝度変化に基づく白線認識について、図2に示す白線認識ルーチンのフローチャートに従って説明する。なお、本ルーチンによる処理は、左右の白線検出領域Al,Arそれぞれに対して同様の処理が個別に行われるものであるが、説明を簡略化するため、以下の説明において特に必要な場合を除き、例えば白線検出領域Al,Arを総称して白線検出領域Aと標記する等、左右の属性を示す添字”l”及び”r”を適宜省略して説明する。
【0033】
このルーチンがスタートすると、ステレオ画像認識装置4は、先ず、ステップS101において、前フレームの画像に対するステップS108の処理で設定された白線検出領域A内の各検索ラインl毎に白線候補点Pdの検出を行う。具体的には、例えば、図6に示すように、ステレオ画像認識装置4は、車幅方向内側から外側に向けて、各検索ラインl上でのエッジ検出を行い、車幅方向外側の画素の輝度が内側の画素の輝度に対して相対的に高く、且つ、その変化量を示す輝度の微分値がプラス側の設定閾値以上となる点(エッジ点)を検出する。そして、ステレオ画像認識装置4は、白線検出領域A内の各検索ラインl上において、最初に検出されたエッジ点を白線候補点Pdとして抽出する(図5参照)。なお、図5においては、説明を簡略化するため、検索ラインl及び白線候補点Pd等が所定に間引かれて表示されている。
【0034】
続くステップS102において、ステレオ画像認識装置4は、ステップS101で検出した各白線候補点Pdを、距離画像上で該当する画素の距離情報、及び、基準画像上で該当する画素の水平方法の画素位置等に基づいて、実空間に投影する(図7参照)。
【0035】
ステップS102からステップS103に進むと、ステレオ画像認識装置4は、2次の近似式からなる仮白線近似線Ltの0次係数(定数項c)の同定処理を行う。すなわち、ステレオ画像認識装置4は、例えば、図8(a)に示す関係から、自車1の車速Vと、ヨーレートγから求まるヨー角θとに基づき、撮像画像の1フレームあたり(撮像画像が1フレーム更新されるまでの間t)の自車1の移動量Δx,Δzを、以下の(1)式及び(2)式を用いて演算する。
Δx=V×sinθ …(1)
Δz=V×cosθ …(2)
そして、ステレオ画像認識装置4は、自車の移動量Δx,Δzを用い、前フレームで検出された白線候補点(選定が行われた後の最終的な白線候補点Pの前回値)Pprの、自車1を基準とするX−Z座標系上での移動量dX,dZ(図8(b)参照)を、以下の(3)式及び(4)式を用いて演算する。
dX=Δx×cosθ−Δz×sinθ …(3)
dZ=Δx×sinθ+Δz×cosθ …(4)
そして、ステレオ画像認識装置4は、移動量dX,dZを用いてX−Z座標系上で移動させた前フレームの各白線候補点Ppr’を用い、現在の自車位置を基準とする現フレームでの白線近似線Lpr’を、最小二乗法によって推定する。そして、求めた白線近似線Lpr’の0次の係数を、仮白線近似線Ltの0次の係数として同定する。
【0036】
すなわち、自車1が車線変更等を行う場合以外、白線に対して自車位置が車幅方向に急激に変動することは考えにくい。そこで、仮白線近似線Ltの低次側係数は、前フレームの白線候補点Ppr’から自車移動量をもとに推定した現フレームでの白線近似線Lpr’に基づいて同定される。
【0037】
ここで、低次側係数の同定を簡略化する場合には、例えば、前フレームで演算した白線近似線Lprの低次係数をそのまま仮白線近似線Ltの低次係数として用いることも可能である。
【0038】
そして、ステップS103からステップS104に進むと、ステレオ画像認識装置4は、前フレームで認識した白線候補点から自車移動量をもとに推定した現フレームでの白線近似線Lpr’を構成する白線候補点Ppr’の数が予め設定された閾値以上であるか否かを調べる。
【0039】
そして、ステップS104において、白線候補点Ppr’の数が閾値未満であると判定した場合、ステレオ画像認識装置4は、上述のステップS103において同定した低次側係数の精度が低い可能性が高いと判断して、そのままルーチンを抜ける。
【0040】
一方、ステップS104において白線候補点Ppr’の数が閾値以上であると判定した場合、ステレオ画像認識装置4は、ステップS105に進む。
【0041】
ステップS104からステップS105に進むと、ステレオ画像認識装置4は、2次の近似式からなる仮白線近似線Ltの2次係数a及び1次係数bの同定処理を行う。この同定処理は、例えば、図3に示す係数同定サブルーチンのフローチャートに従って実行される。なお、以下の説明において、各白線検出領域A内で検出された白線候補点Pdには、自車1に最も近い白線候補点Pdから順に、n=1〜nmaxの番号が付されているものとする。
【0042】
サブルーチンがスタートすると、ステレオ画像認識同値4は、先ず、ステップS201において、白線検出領域A内で検出された白線候補点Pdのうち、自車1に最も近い白線候補点Pd(n=1)を今回注目する白線候補点として抽出し、当該白線候補点Pdの実空間上における座標(X、Z)を、定数項cが同定された仮白線近似線Ltの近似式に代入する。
【0043】
続くステップS202において、ステレオ画像認識装置4は、1次係数bを、当該係数bに許容され得る範囲(例えば、b=−β〜β)の最低値(−β)にセットした後、ステップS203に進む。
【0044】
ステップS202からステップS203に進むと、ステレオ画像認識装置4は、現在セットされている1次係数bを用い、仮白線近似線Ltの近似式を変形した以下の(5)式を用いて、2次係数aを算出する(図10参照)。
a=(X−bZ−c)/Z2 …(5)
そして、ステップS204に進むと、ステップS203で算出した1次係数aを予め設定されたΔα刻みの値にデジタル化(規格化)し、続くステップS205において、図11に示す係数分布表の該当箇所に投票する(図11参照)。
【0045】
ステップS205からステップS206に進むと、ステレオ画像認識装置4は、1次係数bの値が当該係数bのとり得る最大値βに達したか否かを調べる。
【0046】
そして、ステップS206において、1次係数bが未だ最大値βに達していない(すなわち、b≠βである)と判断した場合、ステレオ画像認識装置4は、ステップ207に進み、1次係数bの値をΔβだけ高値側の値に更新した後、ステップS203に戻る。
【0047】
そして、ステップS203〜ステップS207の処理が繰り返し実行されることにより、例えば、図9に示すように、0次係数cと注目する白線候補点Pdとを通る複数パターンの2次曲線(係数a,b)が演算される。
【0048】
一方、ステップS206において、1次係数bが最大値βに達した(すなわち、b=βである)と判断した場合、ステレオ画像認識装置4は、ステップS208に進み、今回注目している白線候補点Pdが自車1から最も遠方に位置する白線候補点Pdであるか否か(すなわち、n=nmaxであるか否か)を調べる。
【0049】
そして、ステップS208において、n≠nmaxであると判定した場合、ステレオ画像認識装置4は、ステップS209に進み、注目する白線候補点Pdを現在のものから1つ遠方の白線候補点Pdに更新(n=n+1)した後、ステップS202に戻る。
【0050】
一方、ステップS208において、n=nmaxであると判定した場合、ステレオ画像認識装置4は、ステップS210に進み、2次係数aと1次係数bとの組合せの全てについて投票した係数分布表(図11(b)参照)の中から、最も多く投票された2次係数aと1次係数bとの組合せを抽出し、当該組合せの各係数a,bを仮白線近似線Ltの近似式の係数として同定した後、サブルーチンを抜ける。
【0051】
これにより、仮白線近似線を示し近似式として、以下の(6)式に示す近似式が同定される。
X=aZ2+bZ+c …(6)
なお、(6)式においては、便宜上、パラメータを左右共通の記号a,b,cで表記しているが、これらは、左右の仮白線近似線Ltl,Ltrについて個別に設定されるものであることは云うまでもない。
【0052】
図2のメインルーチンにおいて、ステップS105からステップS106に進むと、ステレオ画像認識装置4は、各係数を同定した仮近似曲線Ltに基づき、最終的な白線候補点Pの選定を行う。すなわち、ステレオ画像認識装置4は、仮白線近似線Ltを車幅方向内側及び外側にそれぞれΔEオフセットさせることにより、以下の(7)式及び(8)式で規定される候補点選定領域Asを設定する(図12参照)。
X1=aZ2+bZ+c−ΔE …(7)
X2=aZ2+bZ+c+ΔE …(8)
そして、ステレオ画像認識装置4は、白線検出領域Aで検出された全ての白線候補点Pdの中から、候補点選定領域As内に存在する白線候補点Pdを、最終的な白線候補点Pとして選定する(図13参照)。なお、便宜上、候補点Pに関しても、左右の仮白線でそれぞれPl、Prと個別に設定されるものであることは云うまでもない。
【0053】
続くステップS107において、ステレオ画像認識装置4は、左右の各候補点選定領域Asで選定した白線候補点Pを用いて白線近似線Lを演算する(図13参照)。ここで、本実施形態の白線近似線Lは、以下の(9)式に示すように、車両1に対する鉛直方向Z距離に対し、A,B,Cの各パラメータによって白線の車両水平方向距離Xが同定されるものである。
X=AZ2+BZ+C …(9)
ここで、(9)式に示す仮白線近似線LtのパラメータA,B,Cは、例えば、最終的な白線候補点Pを用いた最小二乗法によって求めることが可能であり、各パラメータA,B,Cは、白線近似線Lに対する各白線候補点Pの分散が最小となる値に決定される。なお、(9)式においては、便宜上、パラメータを左右共通の記号A,B,Cで表記しているが、これらは、左右の白線近似線Ll,Lrについて個別に設定されるものであることは云うまでもない。
【0054】
そして、ステップS108に進むと、ステレオ画像認識装置4は、ステップS107で演算した白線近似線Lを車幅方向内側及び外側にそれぞれΔE´(ΔEと同じ値でも異なる値でもよい)オフセットされることにより、以下の(10)式及び(11)式で規定される次フレームでの白線検出領域Aを設定した後(図12参照)、ルーチンを抜ける。
X1=AZ2+BZ+C−ΔE´ …(10)
X2=AZ2+BZ+C+ΔE´ …(11)
このような実施形態によれば、実空間上での白線の概略形状を近似する仮白線近似線の各係数を同定するに際し、前フレームで認識した白線近似線に基づいて低次側係数を同定し、同定されていない複数の高次側係数の組合せを、実空間上に投影された白線候補点Pd毎に当該白線候補点Pdの座標と低次側係数とを用いて複数パターン演算し、最も多く演算された高次側係数の組合せを仮白線近似線Ltの高次側係数として同定することにより、演算時間を軽減した簡単な演算により、精度よく高次の近似式で仮白線近似線Ltを求めることができる。そして、仮白線近似線Ltを基準とする候補点選定領域Asを設定するとともに、当該候補点選定領域As内に存在する白線候補点Pdを最終的な白線候補点Pとして選定し、選定した白線候補点Pに基づいて白線近似線Lを演算することにより、白線近似線Lを精度よく求めることができる。
【0055】
すなわち、仮白線候補点Ltを設定するに際し、自車1が車線変更等を行う場合以外、白線に対して自車位置が車幅方向に急激に変動することが考えにくいという観点のもと、低次側係数を前フレームで認識した白線候補点から推定した現フレームでの白線近似線Lprに基づいて同定することにより、高次側係数において白線の曲率変動等に対応する余地を残しつつ、各白線候補点Pdとのフィッティングによって同定する係数(パラメータ)の数を効率よく減らすことができ、演算負荷を格段に低減することができる。
【0056】
この場合において、前フレームの白線候補点から推定した白線近似線Lprと、1フレームあたりの自車1の移動量とに基づいて低次側係数を同定することにより、自車1と白線との相対位置の変化も加味して低次側係数を同定することができる。
【0057】
また、白線近似線Lの各係数A,B,Cの同定は、選定した白線候補点Pの点群に基づき、最小二乗法を用いて行うことにより、簡単な演算で各係数A,B,Cを同定することができる。
【0058】
なお、上述の実施形態においては、ステレオカメラを用いて各画素の距離情報を演算する一例について説明したが、本発明はこれに限定されるものではなく、例えば、自車走行路が平坦路であると仮定して、単眼のカメラで捉えた画像から各白線候補点の距離情報を演算することも可能である。
【0059】
また、上述の実施形態においては、白線近似線L(及び、仮白線近似線Lt)を2次の近似式で近似した一例について説明したが、本発明はこれに限定されるものではなく、3次以上の近似式で近似することも可能である。
【0060】
この場合において、例えば、3次の近似式で仮白線近似線Ltを演算する場合には、例えば、低次側係数として0次係数(定数)及び1次係数を過去の白線検出結果に基づいて同定し、高次側係数として2次係数及び3次係数を白線候補点Pdとのフィッティングによって同定することが可能である。或いは、低次側係数として0次係数(定数)のみを過去の白線検出結果に基づいて同定し、高次側係数として1次係数、2次係数、及び、3次係数を白線候補点Pdとのフィッティングによって同定することが可能である。
【符号の説明】
【0061】
1 … 車両(自車両)
2 … 運転支援装置
3 … ステレオカメラ
4 … ステレオ画像認識装置(候補点検出手段、低次側係数同定手段、高次側係数同定手段、候補点選定手段、白線近似線演算手段)
5 … 制御ユニット
11 … 車速センサ
12 … ヨーレートセンサ
13 … メインスイッチ
14 … 舵角センサ
15 … アクセル開度センサ
16 … スロットル弁
17 … アクティブブースタ
【技術分野】
【0001】
本発明は、車載カメラで撮像した画像に基づいて白線を認識する車両用白線認識装置に関する。
【背景技術】
【0002】
近年、車両の安全性の向上を図るため、積極的にドライバの運転操作を支援する運転支援装置が開発されている。この運転支援装置では、一般に、車線逸脱防止機能等を実現するため、自車前方の撮像画像等に基づいて白線認識が行われ、認識した白線に基づいて自車走行レーンの推定等が行われる。この種の白線認識の技術として、例えば、特許文献1には、自車両の前方を撮像した画像上を水平方向に延びるライン毎に検索して輝度値及び輝度微分値についてそれぞれ設定された閾値以上である画素を車線候補点として検出し、検索により検出された複数の車線候補点に基づいて車線(白線)位置を検出する技術が開示されている。
【0003】
ところで、道路上には、白線以外にもノイズとなる雪や、道路の模様、路面の補修跡、水溜まり等が多く存在し、真正な白線候補点のみを検出することは容易でない状況が多く存在する。そこで、例えば、上述の特許文献1には、撮像された画像上の候補点群に対してハフ変換を行い、最も候補点が多くフィッティングする直線(ハフ直線)を求め、その直線から外れた候補点をノイズとして除外する技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007−264955号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、道路形状は直線のみで近似できるものばかりではなく、曲率を持ったカーブ区間を含む場合には、白線候補点の適切な選定を行うことが困難な場合がある。
【0006】
これに対し、公知の手法として、曲線や円等を規定するハフ変換手法が存在しており、例えば、実空間における白線候補点を2次の関数で近似する際に、曲率、傾き、切片等のパラメータをハフ変換を用いて統計的に同定し、これに基づいて白線候補点の選定を行うことは原理的には可能である。
【0007】
しかしながら、全てのパラメータをハフ変換によって同定する計算処理は、膨大な演算処理を必要とし、リアルタイムで処理するという観点からは現実的でない。
【0008】
本発明は上記事情に鑑みてなされたもので、演算時間を軽減しつつ、精度よく白線近似線を求めることができる車両用白線認識装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明の一態様による車両用白線認識装置は、自車走行路を撮像した画像上に設定した白線検出領域内で水平方向に延在する検索ライン毎に車幅方向の輝度変化を調べ、輝度が暗から明に所定以上変化するエッジ点を白線候補点として検出する候補点検出手段と、過去の白線検出結果に基づき、実空間上での白線の概略形状を近似する高次の近似式からなる仮白線近似線について零次の係数を含む低次側係数を同定する低次側係数同定手段と、前記仮近似線について前記低次側係数設定手段で同定されていない複数の高次側係数の組合せを、実空間上に投影された前記白線候補点毎に当該白線候補点の座標と前記低次側係数とを用いて複数パターン演算し、最も多く演算された前記高次側係数の組合せを、前記仮白線近似線の高次側係数として同定する高次側係数同定手段と、前記各係数が同定された前記仮白線近似線を基準とする候補点選定領域を設定し、前記白線検出領域内で検出された前記白線候補点の中から前記候補点選定領域内に存在する前記白線候補点を選定する候補点選定手段と、前記候補点選定領域内で選定した前記白線候補点を用いて白線近似線を演算する白線近似線演算手段と、を備える。
【発明の効果】
【0010】
本発明の車両用白線認識装置によれば、演算時間を軽減しつつ、精度よく白線近似線を求めることができる。
【図面の簡単な説明】
【0011】
【図1】車両用運転支援装置の概略構成図
【図2】白線認識ルーチンを示すフローチャート
【図3】係数同定サブルーチンを示すフローチャート
【図4】車外環境の撮像画像の一例を模式的に示す説明図
【図5】図4の画像から検出される白線候補点を示す説明図
【図6】検索ライン上における輝度の変化の一例を示す説明図
【図7】実空間に投影された白線候補点の一例を示す説明図
【図8】(a)は走行による自車の移動量を示す説明図であって(b)は前フレームで検出した白線候補点の自車に対する相対的な移動量を示す説明図
【図9】基準点と注目する白線候補点との2点間を通る2次曲線の各パターンを示す説明図
【図10】各1次係数に基づいて演算された2次係数を示す説明図
【図11】(a)は1の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図であって(b)は複数の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図
【図12】仮白線近似線及び候補点選定領域を示す説明図
【図13】選定した白線候補点を用いて演算された白線近似線及び次フレームで用いる白線検出領域を示す説明図
【発明を実施するための形態】
【0012】
以下、図面を参照して本発明の形態を説明する。図面は本発明の一実施形態に係わり、図1は車両用運転支援装置の概略構成図、図2は白線認識ルーチンを示すフローチャート、図3は係数同定サブルーチンを示すフローチャート、図4は車外環境の撮像画像の一例を模式的に示す説明図、図5は図4の画像から検出される白線候補点を示す説明図、図6は検索ライン上における輝度の変化の一例を示す説明図、図7は実空間に投影された白線候補点の一例を示す説明図、図8(a)は走行による自車の移動量を示す説明図であって(b)は前フレームで検出した白線候補点の自車に対する相対的な移動量を示す説明図、図9は基準点と注目する白線候補点との2点間を通る2次曲線の各パターンを示す説明図、図10は各1次係数に基づいて演算された2次係数を示す説明図、図11(a)は1の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図であって(b)は複数の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図、図12は仮白線近似線及び候補点選定領域を示す説明図、図13は選定した白線候補点を用いて演算された白線近似線及び次フレームで用いる白線検出領域を示す説明図である。
【0013】
図1において、符号1は自動車等の車両(自車両)であり、この車両1には運転支援装置2が搭載されている、この運転支援装置2は、例えば、ステレオカメラ3、ステレオ画像認識装置4、制御ユニット5等を有して要部が構成されている。
【0014】
また、自車両1には、自車速Vを検出する車速センサ11、ヨーレートγを検出するヨーレートセンサ12、運転支援制御の各機能のON−OFF切換等を行うメインスイッチ13、ステアリングホイールに連結するステアリング軸に対設されて舵角θstを検出する舵角センサ14、ドライバによるアクセルペダル踏込量(アクセル開度)θaccを検出するアクセル開度センサ15等が設けられている。
【0015】
ステレオカメラ3は、ステレオ光学系として、例えば電荷結合素子(CCD)等の固体撮像素子を用いた1組のCCDカメラで構成されている。これら左右のCCDカメラは、ぞれぞれ車室内の天井前方に一定の間隔を持って取り付けられ、車外の対象を異なる視点からステレオ撮像し、画像データをステレオ画像認識装置4に出力する。なお、以下の説明において、ステレオ撮像された画像のうち一方の画像(例えば、右側の画像)を基準画像と称し、他方の画像(例えば、左側の画像)を比較画像と称する。
【0016】
ステレオ画像認識装置4は、先ず、基準画像を例えば4×4画素の小領域に分割し、それぞれの小領域の輝度或いは色のパターンを比較画像と比較して対応する領域を見つけ出し、基準画像全体に渡る距離分布を求める。さらに、ステレオ画像認識装置4は、基準画像上の各画素について隣接する画素との輝度差を調べ、これらの輝度差が閾値を超えているものをエッジ点として抽出するとともに、抽出した画素(エッジ点)に距離情報を付与することで、距離画像(距離情報を備えたエッジ点の分布画像)を生成する。そして、ステレオ画像認識装置4は、生成した距離画像に対して周知のグルーピング処理を行い、予め記憶しておいた3次元的な枠(ウインドウ)と比較することで、自車前方の白線、側壁、立体物等を認識する。
【0017】
ここで、本実施形態において認識対象となる白線とは、例えば、単一の車線区画線や車線区画線の内側に視線誘導線等が併設された多重線(二重線等)のように、道路上に延在して自車走行レーンを区画する線を総称するものであり、各線の形態としては、実線、破線等を問わず、更に、黄色線等をも含む。また、本実施形態の白線認識においては、道路上に実在する白線が二重白線等であっても、左右それぞれ単一の直線或いは曲線等で近似して認識するものとする。
【0018】
ところで、実際の道路上に敷設された白線には上述のように各種バリエーションが存在する他、白線の形態は走行路の分岐や合流等に伴って変化する。加えて、道路上には路面補修跡や、水溜まり、雪等の各種ノイズが存在する。従って、画一的な処理によって、全ての場面で精度よく白線を認識することは困難となる。そこで、ステレオ画像認識装置4は、上述のような距離画像に基づくパターンマッチングを用いた白線認識のみに頼ることなく、各種方式を用いた白線認識を補完的に行い、これらの認識結果を総合的に判断して最終的な白線を認識する。
【0019】
このような白線認識の一つとして、ステレオ画像認識装置4は、自車前方を撮像した一方の画像(例えば、図4に示す基準画像)上の水平方向の輝度変化に基づいて左右の白線認識を行う。具体的に説明すると、例えば、図5に示すように、ステレオ画像認識装置4は、画像上に左右の白線検出領域A(Al,Ar)を設定し、各白線検出領域A内で水平方向に延在する複数の検索ラインlに対し、検索ラインl毎に車幅方向内側から外側に向けて輝度変化を調べる。そして、ステレオ画像認識装置4は、各白線検出領域A内の各検索ラインl上において、輝度が暗から明に所定以上変化する最初のエッジ点を白線候補点Pd(Pdl,Pdr)としてそれぞれ検出する。
【0020】
そして、ステレオ画像認識装置4は、各白線候補点Pdを実空間上に投影し(図7参照)、投影した左右の白線候補点Pdの各点群に対して、高次の近似式(関数)からなる仮白線近似線Lt(Ltl,Ltr)を演算し、当該仮白線近似線を基準とする候補点選定領域As(Asl,Asr)を設定する(図12参照)。
【0021】
そして、ステレオ画像認識装置4は、白線候補点Pdの中から、候補点選定領域As内に存在する白線候補点Pdを最終的な白線候補点P(Pl,Pr)として選定する(図12参照)。
【0022】
そして、ステレオ画像認識装置4は、左右の各候補点選定領域As内で選定した白線候補点Pを用いて最終的な左右の白線近似線L(Ll,Lr)をそれぞれ演算するとともに、演算した仮白線近似線Lに基づいて次フレームでの白線検出領域Aを設定する(図13参照)。
【0023】
ここで、ステレオ画像認識装置4は、仮白線近似線Ltの設定に際し、先ず、過去の白線検出結果に基づき、零次の係数(定数)を含む低次側係数を同定する。例えば、本実施形態における仮白線近似線Ltは2次の近似式で規定されるようになっており、この場合、ステレオ画像認識装置4は、前フレームで認識した白線近似線に基づいて、0次の係数(定数)を同定する。
【0024】
また、低次側係数を同定すると、ステレオ画像認識装置4は、同定されていない複数の高次側係数の同定を行う。この高次側係数の同定において、ステレオ画像認識装置4は、実空間上に投影された白線候補点Pd毎に、当該白線候補点Pdの座標と低次側係数とを用いて、高次側係数の組合せを複数パターン演算する。そして、最も多く演算された高次側係数の組合せを抽出し、抽出した高次側係数を仮白線近似線Ltの係数として同定する。例えば、仮白線近似線Ltが2次の近似式で規定される本実施形態において、ステレオ画像認識装置4は、0次係数が同定された仮白線近似線Ltに白線候補点Pdの座標を代入することにより、白線候補点Pd毎に、2次係数と1次係数との組合せを複数パターン演算する。そして、全ての白線候補点Pdについて、2次係数と1次係数との組合せを複数パターン演算すると、ステレオ画像認識装置4は、演算した2次係数と1次係数との組合せの中から、最も多く演算された組合せを抽出し、当該組合せを仮白線近似線Ltの高次側係数として同定する。
【0025】
このように、本実施形態において、ステレオ画像認識装置4は、候補点検出手段、低次側係数同定手段、高次側係数同定手段、候補点選定手段、及び、白線近似線演算手段としての各機能を実現する。
【0026】
なお、ステレオ画像認識装置4は、その他の種々の方法によって白線認識を行うことが可能となっている。そして、ステレオ画像認識装置4は、例えば、各白線認識において認識した白線の近似線と当該認識に用いられたエッジ点等の白線候補点との関係(例えば、近似線に対する白線候補点の分散等)に基づき、認識した各近似線の中から最も適切な近似線を選択し、当該近似線を最終的な白線の近似線として制御ユニット5に出力する。
【0027】
制御ユニット5には、ステレオ画像認識装置4で認識された自車両1前方の走行環境情報が入力される。さらに、制御ユニット5には、自車両1の走行情報として、車速センサ11からの車速V、ヨーレートセンサ12からのヨーレートγ等が入力されると共に、ドライバによる操作入力情報として、メインスイッチ13からの操作信号、舵角センサ14からの舵角θst、アクセル開度センサ15からのアクセル開度θacc等が入力される。
【0028】
そして、例えば、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つであるACC(Adaptive Cruise Control)機能の実行が指示されると、制御ユニット5は、ステレオ画像認識装置4で認識した先行車方向を読み込み、自車走行路上に追従対象の先行車が走行しているか否かを識別する。
【0029】
その結果、追従対象の先行車が検出されていない場合は、スロットル弁16の開閉制御(エンジンの出力制御)を通じて、ドライバが設定したセット車速に自車両1の車速Vを維持させる定速走行制御を実行する。
【0030】
一方、追従対象車両である先行車が検出され、且つ、当該先行車の車速がセット車速以下の場合は、先行車との車間距離を目標車間距離に収束させた状態で追従する追従走行制御が実行される。この追従走行制御時において、制御ユニット5は、基本的にはスロットル弁16の開閉制御(エンジンの出力制御)を通じて、先行車との車間距離を目標車間距離に収束させる。さらに、先行車の急な減速等によりスロットル弁16の制御のみでは十分な減速度が得られないと判断した場合、制御ユニット5は、アクティブブースタ17からの出力液圧の制御(ブレーキの自動介入制御)を併用し、車間距離を目標車間距離に収束させる。
【0031】
また、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つである車線逸脱防止機能の実行が指示されると、制御ユニット5は、例えば、自車走行レーンを規定する左右の白線(ステレオ画像認識装置4で認識した白線の近似線)に基づいて警報判定用ラインを設定するとともに、自車両1の車速Vとヨーレートγとに基づいて自車進行経路を推定する。そして、制御ユニット5は、例えば、自車前方の設定距離(例えば、10〜16[m])内において、自車進行経路が左右何れかの警報判定用ラインを横切っていると判定した場合、自車両1が現在の自車走行車線を逸脱する可能性が高いと判定し、車線逸脱警報を行う。
【0032】
次に、ステレオ画像認識装置4において実行される、基準画像上の輝度変化に基づく白線認識について、図2に示す白線認識ルーチンのフローチャートに従って説明する。なお、本ルーチンによる処理は、左右の白線検出領域Al,Arそれぞれに対して同様の処理が個別に行われるものであるが、説明を簡略化するため、以下の説明において特に必要な場合を除き、例えば白線検出領域Al,Arを総称して白線検出領域Aと標記する等、左右の属性を示す添字”l”及び”r”を適宜省略して説明する。
【0033】
このルーチンがスタートすると、ステレオ画像認識装置4は、先ず、ステップS101において、前フレームの画像に対するステップS108の処理で設定された白線検出領域A内の各検索ラインl毎に白線候補点Pdの検出を行う。具体的には、例えば、図6に示すように、ステレオ画像認識装置4は、車幅方向内側から外側に向けて、各検索ラインl上でのエッジ検出を行い、車幅方向外側の画素の輝度が内側の画素の輝度に対して相対的に高く、且つ、その変化量を示す輝度の微分値がプラス側の設定閾値以上となる点(エッジ点)を検出する。そして、ステレオ画像認識装置4は、白線検出領域A内の各検索ラインl上において、最初に検出されたエッジ点を白線候補点Pdとして抽出する(図5参照)。なお、図5においては、説明を簡略化するため、検索ラインl及び白線候補点Pd等が所定に間引かれて表示されている。
【0034】
続くステップS102において、ステレオ画像認識装置4は、ステップS101で検出した各白線候補点Pdを、距離画像上で該当する画素の距離情報、及び、基準画像上で該当する画素の水平方法の画素位置等に基づいて、実空間に投影する(図7参照)。
【0035】
ステップS102からステップS103に進むと、ステレオ画像認識装置4は、2次の近似式からなる仮白線近似線Ltの0次係数(定数項c)の同定処理を行う。すなわち、ステレオ画像認識装置4は、例えば、図8(a)に示す関係から、自車1の車速Vと、ヨーレートγから求まるヨー角θとに基づき、撮像画像の1フレームあたり(撮像画像が1フレーム更新されるまでの間t)の自車1の移動量Δx,Δzを、以下の(1)式及び(2)式を用いて演算する。
Δx=V×sinθ …(1)
Δz=V×cosθ …(2)
そして、ステレオ画像認識装置4は、自車の移動量Δx,Δzを用い、前フレームで検出された白線候補点(選定が行われた後の最終的な白線候補点Pの前回値)Pprの、自車1を基準とするX−Z座標系上での移動量dX,dZ(図8(b)参照)を、以下の(3)式及び(4)式を用いて演算する。
dX=Δx×cosθ−Δz×sinθ …(3)
dZ=Δx×sinθ+Δz×cosθ …(4)
そして、ステレオ画像認識装置4は、移動量dX,dZを用いてX−Z座標系上で移動させた前フレームの各白線候補点Ppr’を用い、現在の自車位置を基準とする現フレームでの白線近似線Lpr’を、最小二乗法によって推定する。そして、求めた白線近似線Lpr’の0次の係数を、仮白線近似線Ltの0次の係数として同定する。
【0036】
すなわち、自車1が車線変更等を行う場合以外、白線に対して自車位置が車幅方向に急激に変動することは考えにくい。そこで、仮白線近似線Ltの低次側係数は、前フレームの白線候補点Ppr’から自車移動量をもとに推定した現フレームでの白線近似線Lpr’に基づいて同定される。
【0037】
ここで、低次側係数の同定を簡略化する場合には、例えば、前フレームで演算した白線近似線Lprの低次係数をそのまま仮白線近似線Ltの低次係数として用いることも可能である。
【0038】
そして、ステップS103からステップS104に進むと、ステレオ画像認識装置4は、前フレームで認識した白線候補点から自車移動量をもとに推定した現フレームでの白線近似線Lpr’を構成する白線候補点Ppr’の数が予め設定された閾値以上であるか否かを調べる。
【0039】
そして、ステップS104において、白線候補点Ppr’の数が閾値未満であると判定した場合、ステレオ画像認識装置4は、上述のステップS103において同定した低次側係数の精度が低い可能性が高いと判断して、そのままルーチンを抜ける。
【0040】
一方、ステップS104において白線候補点Ppr’の数が閾値以上であると判定した場合、ステレオ画像認識装置4は、ステップS105に進む。
【0041】
ステップS104からステップS105に進むと、ステレオ画像認識装置4は、2次の近似式からなる仮白線近似線Ltの2次係数a及び1次係数bの同定処理を行う。この同定処理は、例えば、図3に示す係数同定サブルーチンのフローチャートに従って実行される。なお、以下の説明において、各白線検出領域A内で検出された白線候補点Pdには、自車1に最も近い白線候補点Pdから順に、n=1〜nmaxの番号が付されているものとする。
【0042】
サブルーチンがスタートすると、ステレオ画像認識同値4は、先ず、ステップS201において、白線検出領域A内で検出された白線候補点Pdのうち、自車1に最も近い白線候補点Pd(n=1)を今回注目する白線候補点として抽出し、当該白線候補点Pdの実空間上における座標(X、Z)を、定数項cが同定された仮白線近似線Ltの近似式に代入する。
【0043】
続くステップS202において、ステレオ画像認識装置4は、1次係数bを、当該係数bに許容され得る範囲(例えば、b=−β〜β)の最低値(−β)にセットした後、ステップS203に進む。
【0044】
ステップS202からステップS203に進むと、ステレオ画像認識装置4は、現在セットされている1次係数bを用い、仮白線近似線Ltの近似式を変形した以下の(5)式を用いて、2次係数aを算出する(図10参照)。
a=(X−bZ−c)/Z2 …(5)
そして、ステップS204に進むと、ステップS203で算出した1次係数aを予め設定されたΔα刻みの値にデジタル化(規格化)し、続くステップS205において、図11に示す係数分布表の該当箇所に投票する(図11参照)。
【0045】
ステップS205からステップS206に進むと、ステレオ画像認識装置4は、1次係数bの値が当該係数bのとり得る最大値βに達したか否かを調べる。
【0046】
そして、ステップS206において、1次係数bが未だ最大値βに達していない(すなわち、b≠βである)と判断した場合、ステレオ画像認識装置4は、ステップ207に進み、1次係数bの値をΔβだけ高値側の値に更新した後、ステップS203に戻る。
【0047】
そして、ステップS203〜ステップS207の処理が繰り返し実行されることにより、例えば、図9に示すように、0次係数cと注目する白線候補点Pdとを通る複数パターンの2次曲線(係数a,b)が演算される。
【0048】
一方、ステップS206において、1次係数bが最大値βに達した(すなわち、b=βである)と判断した場合、ステレオ画像認識装置4は、ステップS208に進み、今回注目している白線候補点Pdが自車1から最も遠方に位置する白線候補点Pdであるか否か(すなわち、n=nmaxであるか否か)を調べる。
【0049】
そして、ステップS208において、n≠nmaxであると判定した場合、ステレオ画像認識装置4は、ステップS209に進み、注目する白線候補点Pdを現在のものから1つ遠方の白線候補点Pdに更新(n=n+1)した後、ステップS202に戻る。
【0050】
一方、ステップS208において、n=nmaxであると判定した場合、ステレオ画像認識装置4は、ステップS210に進み、2次係数aと1次係数bとの組合せの全てについて投票した係数分布表(図11(b)参照)の中から、最も多く投票された2次係数aと1次係数bとの組合せを抽出し、当該組合せの各係数a,bを仮白線近似線Ltの近似式の係数として同定した後、サブルーチンを抜ける。
【0051】
これにより、仮白線近似線を示し近似式として、以下の(6)式に示す近似式が同定される。
X=aZ2+bZ+c …(6)
なお、(6)式においては、便宜上、パラメータを左右共通の記号a,b,cで表記しているが、これらは、左右の仮白線近似線Ltl,Ltrについて個別に設定されるものであることは云うまでもない。
【0052】
図2のメインルーチンにおいて、ステップS105からステップS106に進むと、ステレオ画像認識装置4は、各係数を同定した仮近似曲線Ltに基づき、最終的な白線候補点Pの選定を行う。すなわち、ステレオ画像認識装置4は、仮白線近似線Ltを車幅方向内側及び外側にそれぞれΔEオフセットさせることにより、以下の(7)式及び(8)式で規定される候補点選定領域Asを設定する(図12参照)。
X1=aZ2+bZ+c−ΔE …(7)
X2=aZ2+bZ+c+ΔE …(8)
そして、ステレオ画像認識装置4は、白線検出領域Aで検出された全ての白線候補点Pdの中から、候補点選定領域As内に存在する白線候補点Pdを、最終的な白線候補点Pとして選定する(図13参照)。なお、便宜上、候補点Pに関しても、左右の仮白線でそれぞれPl、Prと個別に設定されるものであることは云うまでもない。
【0053】
続くステップS107において、ステレオ画像認識装置4は、左右の各候補点選定領域Asで選定した白線候補点Pを用いて白線近似線Lを演算する(図13参照)。ここで、本実施形態の白線近似線Lは、以下の(9)式に示すように、車両1に対する鉛直方向Z距離に対し、A,B,Cの各パラメータによって白線の車両水平方向距離Xが同定されるものである。
X=AZ2+BZ+C …(9)
ここで、(9)式に示す仮白線近似線LtのパラメータA,B,Cは、例えば、最終的な白線候補点Pを用いた最小二乗法によって求めることが可能であり、各パラメータA,B,Cは、白線近似線Lに対する各白線候補点Pの分散が最小となる値に決定される。なお、(9)式においては、便宜上、パラメータを左右共通の記号A,B,Cで表記しているが、これらは、左右の白線近似線Ll,Lrについて個別に設定されるものであることは云うまでもない。
【0054】
そして、ステップS108に進むと、ステレオ画像認識装置4は、ステップS107で演算した白線近似線Lを車幅方向内側及び外側にそれぞれΔE´(ΔEと同じ値でも異なる値でもよい)オフセットされることにより、以下の(10)式及び(11)式で規定される次フレームでの白線検出領域Aを設定した後(図12参照)、ルーチンを抜ける。
X1=AZ2+BZ+C−ΔE´ …(10)
X2=AZ2+BZ+C+ΔE´ …(11)
このような実施形態によれば、実空間上での白線の概略形状を近似する仮白線近似線の各係数を同定するに際し、前フレームで認識した白線近似線に基づいて低次側係数を同定し、同定されていない複数の高次側係数の組合せを、実空間上に投影された白線候補点Pd毎に当該白線候補点Pdの座標と低次側係数とを用いて複数パターン演算し、最も多く演算された高次側係数の組合せを仮白線近似線Ltの高次側係数として同定することにより、演算時間を軽減した簡単な演算により、精度よく高次の近似式で仮白線近似線Ltを求めることができる。そして、仮白線近似線Ltを基準とする候補点選定領域Asを設定するとともに、当該候補点選定領域As内に存在する白線候補点Pdを最終的な白線候補点Pとして選定し、選定した白線候補点Pに基づいて白線近似線Lを演算することにより、白線近似線Lを精度よく求めることができる。
【0055】
すなわち、仮白線候補点Ltを設定するに際し、自車1が車線変更等を行う場合以外、白線に対して自車位置が車幅方向に急激に変動することが考えにくいという観点のもと、低次側係数を前フレームで認識した白線候補点から推定した現フレームでの白線近似線Lprに基づいて同定することにより、高次側係数において白線の曲率変動等に対応する余地を残しつつ、各白線候補点Pdとのフィッティングによって同定する係数(パラメータ)の数を効率よく減らすことができ、演算負荷を格段に低減することができる。
【0056】
この場合において、前フレームの白線候補点から推定した白線近似線Lprと、1フレームあたりの自車1の移動量とに基づいて低次側係数を同定することにより、自車1と白線との相対位置の変化も加味して低次側係数を同定することができる。
【0057】
また、白線近似線Lの各係数A,B,Cの同定は、選定した白線候補点Pの点群に基づき、最小二乗法を用いて行うことにより、簡単な演算で各係数A,B,Cを同定することができる。
【0058】
なお、上述の実施形態においては、ステレオカメラを用いて各画素の距離情報を演算する一例について説明したが、本発明はこれに限定されるものではなく、例えば、自車走行路が平坦路であると仮定して、単眼のカメラで捉えた画像から各白線候補点の距離情報を演算することも可能である。
【0059】
また、上述の実施形態においては、白線近似線L(及び、仮白線近似線Lt)を2次の近似式で近似した一例について説明したが、本発明はこれに限定されるものではなく、3次以上の近似式で近似することも可能である。
【0060】
この場合において、例えば、3次の近似式で仮白線近似線Ltを演算する場合には、例えば、低次側係数として0次係数(定数)及び1次係数を過去の白線検出結果に基づいて同定し、高次側係数として2次係数及び3次係数を白線候補点Pdとのフィッティングによって同定することが可能である。或いは、低次側係数として0次係数(定数)のみを過去の白線検出結果に基づいて同定し、高次側係数として1次係数、2次係数、及び、3次係数を白線候補点Pdとのフィッティングによって同定することが可能である。
【符号の説明】
【0061】
1 … 車両(自車両)
2 … 運転支援装置
3 … ステレオカメラ
4 … ステレオ画像認識装置(候補点検出手段、低次側係数同定手段、高次側係数同定手段、候補点選定手段、白線近似線演算手段)
5 … 制御ユニット
11 … 車速センサ
12 … ヨーレートセンサ
13 … メインスイッチ
14 … 舵角センサ
15 … アクセル開度センサ
16 … スロットル弁
17 … アクティブブースタ
【特許請求の範囲】
【請求項1】
自車走行路を撮像した画像上に設定した白線検出領域内で水平方向に延在する検索ライン毎に車幅方向の輝度変化を調べ、輝度が暗から明に所定以上変化するエッジ点を白線候補点として検出する候補点検出手段と、
過去の白線検出結果に基づき、実空間上での白線の概略形状を近似する高次の近似式からなる仮白線近似線について零次の係数を含む低次側係数を同定する低次側係数同定手段と、
前記仮近似線について前記低次側係数設定手段で同定されていない複数の高次側係数の組合せを、実空間上に投影された前記白線候補点毎に当該白線候補点の座標と前記低次側係数とを用いて複数パターン演算し、最も多く演算された前記高次側係数の組合せを、前記仮白線近似線の高次側係数として同定する高次側係数同定手段と、
前記各係数が同定された前記仮白線近似線を基準とする候補点選定領域を設定し、前記白線検出領域内で検出された前記白線候補点の中から前記候補点選定領域内に存在する前記白線候補点を選定する候補点選定手段と、
前記候補点選定領域内で選定した前記白線候補点を用いて白線近似線を演算する白線近似線演算手段と、を備えたことを特徴とする車両用白線認識装置。
【請求項2】
前記基準点設定手段は、前フレームで演算した白線近似線と、1フレームあたり自車の移動量とに基づいて前記低次側係数を同定することを特徴とする請求項1記載の車両用白線認識装置。
【請求項3】
前記白線近似線演算手段は、選定した前記白線候補点の点群に基づき、最小二乗法を用いて前記白線近似線を演算することを特徴とする請求項1または請求項2に記載の車両用白線認識装置。
【請求項1】
自車走行路を撮像した画像上に設定した白線検出領域内で水平方向に延在する検索ライン毎に車幅方向の輝度変化を調べ、輝度が暗から明に所定以上変化するエッジ点を白線候補点として検出する候補点検出手段と、
過去の白線検出結果に基づき、実空間上での白線の概略形状を近似する高次の近似式からなる仮白線近似線について零次の係数を含む低次側係数を同定する低次側係数同定手段と、
前記仮近似線について前記低次側係数設定手段で同定されていない複数の高次側係数の組合せを、実空間上に投影された前記白線候補点毎に当該白線候補点の座標と前記低次側係数とを用いて複数パターン演算し、最も多く演算された前記高次側係数の組合せを、前記仮白線近似線の高次側係数として同定する高次側係数同定手段と、
前記各係数が同定された前記仮白線近似線を基準とする候補点選定領域を設定し、前記白線検出領域内で検出された前記白線候補点の中から前記候補点選定領域内に存在する前記白線候補点を選定する候補点選定手段と、
前記候補点選定領域内で選定した前記白線候補点を用いて白線近似線を演算する白線近似線演算手段と、を備えたことを特徴とする車両用白線認識装置。
【請求項2】
前記基準点設定手段は、前フレームで演算した白線近似線と、1フレームあたり自車の移動量とに基づいて前記低次側係数を同定することを特徴とする請求項1記載の車両用白線認識装置。
【請求項3】
前記白線近似線演算手段は、選定した前記白線候補点の点群に基づき、最小二乗法を用いて前記白線近似線を演算することを特徴とする請求項1または請求項2に記載の車両用白線認識装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2012−164287(P2012−164287A)
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願番号】特願2011−26336(P2011−26336)
【出願日】平成23年2月9日(2011.2.9)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願日】平成23年2月9日(2011.2.9)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】
[ Back to top ]