説明

白線検出装置

【課題】簡単な画像処理で道路の白線を容易に検出できるようにする。
【解決手段】車体前端の左右方向を水平方向の撮像視野、車体幅の内側から車体幅の外側にわたる範囲を各垂直方向の撮像視野として撮像し、各画像に設定した画像認識エリア20L、20Rを水平方向に分割領域LA、LB、・・に分割し、画像上の白線K1、K3の湾曲度合いを吸収するよう分割領域ごとの画素を予め設定したクロスハッチングで示す量だけ垂直にシフトさせてから、水平ラインごとに画素の輝度値の累積値を求め、垂直方向に累積値のピークPを検出する。判定値Nxの垂直ラインを横切る点S1、S2間を線幅Dとして水平に延びる領域を白線候補HL、HRとして抽出し、線幅Dが予め設定した基準幅に最も近い白線候補を白線と決定する。輝度値を水平方向に積算してその累積値のピーク位置を求めるだけで白線の位置を検出でき、画像処理回路が簡単で済む。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、道路の車線を区画する白線を検出する白線検出装置に関する。
【背景技術】
【0002】
自車両が走行車線内を適正に走行しているかどうかを判定するために、道路の車線を区画する白線を検出する白線検出装置が提案されている。その結果は車両の無人自動運転に利用され、ドライバが運転する場合には車線から逸脱するおそれがある場合に警報を発する車線逸脱警報装置などに用いられる。
従来のこのような白線検出装置として、例えばカメラで車両進行方向を撮像し、その画像データから画素濃度が急変化するエッジを検出して白線位置の候補点座標を算出するものがある。ここでは候補点座標にカルマンフィルタを適用するなどして道路の形状と自車両の挙動を同時推定し、自車両前方における車線中央からの横方向変位を求めている。
【特許文献1】特許第2754871号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
しかしながら、上記の装置では、エッジ検出やフィルタリングのために複雑な画像処理を繰り返さなければならないので、その画像処理のために高性能、高価な画像処理回路を必要とする。
また、車両進行方向を撮像した画像では、雨天時などには路面の反射によって遠方の白線の識別が困難となることが多く、さらに夜間には対向車のヘッドライトからの照射を受けてますます困難になるという問題がある。
【0004】
したがって本発明は、上記従来の問題点にかんがみ、簡単な画像処理で道路の白線を容易に検出できるようにした白線検出装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
このため、本発明では、カメラを車体の前後方向一端の幅方向中央位置に設置して、車体の前後軸に対して左右方向をその水平方向の撮像視野とし、左右それぞれ車体幅の内側から車体幅の外側にわたる範囲を垂直方向の撮像視野として、カメラからの左側および右側の画像において、垂直ラインごとの画素を画像上の白線の湾曲度合いを吸収する方向へ水平方向の位置に応じて垂直にシフトさせた後、水平ラインごとの画素の輝度値の累積値を求め、画像の垂直方向に累積値のピークを検出し、そのピークの水平ラインを含んでピーク値に基づいて算出される線幅で水平に延びる領域を白線候補として抽出し、画像のそれぞれにおいて線幅とあらかじめ設定された基準幅とを比較して差が最も小さい線幅の白線候補を白線と決定するものとした。
【発明の効果】
【0006】
白線候補の抽出処理として、画像の水平方向に輝度値を積算してその累積値のピーク位置を求めるだけで済むので、簡単な画像処理回路を用いることができ、処理時間も短縮される。
そして、輝度値の累積値を求める際、垂直ラインごとの画素を画像上の白線の湾曲度合いを吸収する方向へ水平方向の位置に応じて垂直にシフトさせることにより、撮像された白線が湾曲して映っていても画像上において直線状に補正されるから、累積値のピーク部分の幅が変化したり、ピーク値が低くなったりすることがなく、高精度に白線に対応するピークを抽出することができる。
また、カメラの撮像視野を車体直近の左右の路面としているので、車両進行方向を主な撮像視野とする場合と異なり、雨天時などの路面の反射や対向車のヘッドライトからの照射による影響を受けにくく、これによっても白線の検出精度が高い。
【発明を実施するための最良の形態】
【0007】
以下、本発明の実施の形態について詳細に説明する。
図1は、車線逸脱警報装置に適用した実施の形態の構成を示すブロック図である。
車線逸脱警報装置1は、コントロールユニット10に、多方向撮像カメラ2、起動スイッチ3、車速センサ4、モニタ5、ブザー6およびインジケータ7を接続して構成されている。
コントロールユニット10は、ビデオプロセッサ11、RAM12、白線検知部13、車線逸脱判定部14および全体の制御を行う全体制御部15からなっている。
【0008】
多方向撮像カメラ2はビデオプロセッサ11に接続され、ビデオプロセッサ11はモニタ5およびRAM12に接続されている。RAM12には白線検知部13、車線逸脱判定部14が順次接続されている。また全体制御部15の入力側に起動スイッチ3と車速センサ4が接続され、出力側にブザー6とインジケータ7が接続されている。
【0009】
多方向撮像カメラ2は例えばCCDカメラで、図2の(a)に示すように、車体30前端の幅方向(左右方向)中央位置に設置される。多方向撮像カメラ2の撮像視野については後述する。
モニタ5は車室内インストルメントパネル上などドライバから見やすい場所に設置され、起動スイッチ3はドライバが操作しやすい部位に配置され、インジケータ7は起動スイッチ3の近傍でドライバから見やすい場所に配置される。コントロールユニット10の設置部位はとくに限定されない。
【0010】
多方向撮像カメラ2は同時に2方向を撮像するもので、図2の(b)に示すように、車体の前後軸Zに対して左右直角方向から前方側への所定角度範囲αを水平方向の撮像視野とする。そして、(c)に示すように、車体幅Bの内側から車体幅の外側にわたる所定角度範囲βが垂直方向の撮像視野となる高さ位置に設置される。
多方向撮像カメラ2は左画像GLと右画像GRを結合して、図3に示すような画像を1フレームとする映像信号をコントロールユニット10へ出力する。
図3には、白線K1、K2、K3が映じている例を示す。
【0011】
車線逸脱警報装置1は、起動スイッチ3がオンに投入される動作を開始して、インジケータ7がグリーンに点灯されるとともに、ビデオプロセッサ11は多方向撮像カメラ2からの映像信号をA/D変換するとともに再度D/A変換してモニタ5に表示させる。
また、ビデオプロセッサ11は多方向撮像カメラ2からの映像信号をA/D変換して画素の輝度値で表される画像データをRAM12に格納する。
【0012】
白線検知部13は、RAM12に格納されたフレーム単位の画像データを読み出して、これを画像処理して道路の走行車線を区画する白線の検出を行う。
車線逸脱判定部14は、白線検知部13で自車両が走行中の車線を区画する白線が検出されている状態において、その白線と自車両の位置関係に基づいて、車線逸脱のおそれがあるかどうかを判定する。
全体制御部15は所定の車速条件下で、車線逸脱判定部14が車線逸脱のおそれがあると判定したとき、ブザー6とインジケータ7を駆動してドライバに警報を発する。
【0013】
以下、コントロールユニット10における制御処理の流れについて、図4のフローチャートにより説明する。
まずステップ100において、白線検知部13は図3に示した画像において自車両直近の白線K1、K3を含むようあらかじめ左右各半部内に設定された画像認識エリア20L、20Rに対応する画像データをRAM12から読み出す。画像認識エリア20L、20Rはそれぞれ横方向をX軸、縦方向をY軸とする。
【0014】
そしてステップ101において、上記読み出した画像データをX軸位置に対応させてY軸方向にシフト補正する。これは、画像認識エリア20L、20R内でX軸に平行な各水平ラインごとの画素の輝度値の累積値を求めるための前処理である。
【0015】
すなわち、多方向撮像カメラ2で撮影した白線Kが、図5の(a)に示す左画像GLのように、X軸に平行な直線として映っていれば、水平ラインごとの画素の輝度値の累積値は図5の(b)に示すように得られ、後述するようにピークとその幅から白線を認識することができる。
ところが、多方向撮像カメラ2で撮影した映像では、当該カメラの取付け位置、取り付け角度、さらにはレンズ収差などにより、実際には図6の(a)に示すように、湾曲した白線K’として映る場合がある(図3も参照)。この場合、多方向撮像カメラ2からの映像信号としてRAM12に格納され、RAM12からそのまま読み出された画像データにおいては、輝度値の累積値は図6の(b)に示すようなものとなり、ピーク部分の幅が変化し、ピーク値も図5の(b)に示したものと比較して低いものとなるので、認識精度に影響を与える。
【0016】
そこで、本実施の形態では、多方向撮像カメラ2の光学系の設計シミュレーション等によって、白線が画像認識エリア内で直線となるように、画像データをX軸位置に対応させてY軸方向にシフト補正する。
あるいは設計シミュレーションの代わりに、格子模様のグリッド図を撮像して湾曲度合いを把握し、予め補正量を設定しておいてもよい。
上記白線の湾曲を左側の画像認識エリア20Lを例に説明すれば、例えば多方向撮像カメラ2のレンズの光軸が水平方向視野において車体の前後軸Zに対して直角方向に一致しているから、白線は光軸と一致する画像認識エリア20Lの左端(X=0)から光軸を離れて右方へ進むほど撮像視野内の水平線に近づき、その近づき方も激しくなる。なお、この水平線は垂直方向視野における光軸を通る。
【0017】
とくにグリッド図撮像に基づいて補正量を設定する場合、図7に示すように、画像認識エリア20L、20Rのそれぞれ水平方向の撮像視野(角度範囲α:図2参照)をX軸方向に複数に分割して分割領域LA、LB、・・、LE、およびRA、RB、・・、REに分割して、各分割領域をY軸方向に所定量(クロスハッチングで示す)だけ下方(Y軸負方向)へシフトさせる。
画像認識エリア20Lの左部分では白線K1の湾曲の度合い、すなわち変化が小さく、右部分では変化が大きいので、分割領域のX軸方向の幅は図7に示すように左方のLAから右方のLEへ順次狭くなるように設定する。これにより、シフト後の白線領域のY軸方向の分布が拡がるのが防止される。
また、画像認識エリア20Rでは、逆に右部分では白線K3の湾曲の変化が小さく、左部分では変化が大きいので、分割領域のX軸方向の幅は右方のRAから左方のREへ順次狭くなるように設定する。
これにより、輝度値の累積値に、図5の(b)に示したのと同じく、白線K1やK3と実質同一の一定幅をもったピークが得られる。図8はその結果を例示する概念図で、(a)は画像認識エリア20L、(b)は画像認識エリア20Rにおける各ピーク形状を示している。
【0018】
図4のフローチャートに戻って、ステップ102では、上記シフト補正した画像データから、画像認識エリア20L、20R内でX軸に平行な各水平ラインごとの画素の輝度値の累積値を求めて、再びRAM12に格納する。
このようにして画像データから求めた累積値の具体例を拡大してグラフに示すと、図9のようになる。(a)は左半部における画像認識エリア20Lのグラフ、(b)は右半部における画像認識エリア20Rのグラフである。各グラフにおいて横軸が輝度値の累積値を示す。縦軸は画像認識エリアのY軸である。
【0019】
ステップ103では、白線検知部13はまず左側の画像認識エリア20Lについて、Y軸において最も下の水平ラインから順次上方へ水平ラインごとの画素の輝度値の累積値をRAM12から呼び出しながら、所定値以上の累積値のピークPを検出する。ここでは複数のピークが検出され得る。
ステップ104において、ピークが検出されたかをチェックして、検出されていればステップ105に進み、1つのピークも検出されなければステップ107へ進む。
【0020】
ステップ105では、白線検知部13において、各ピークPについて、累積値のグラフがピーク値xpに比例係数(例えば0.8)を乗じた判定値Nxの垂直ラインを横切る点S1、S2を求め、そのピーク位置の水平ラインを上下に挟む2つの点S1、S2間の距離を線幅Dとして水平に延びる領域を白線候補HLとして抽出する。
判定値Nxを求める比例係数は多方向撮像カメラ2の特性によるから、撮像した画像に基づいて実際の白線の線幅に対応する線幅が得られる値を求めてあらかじめ設定しておく。
線幅Dは点S1、S2のY値(y1、y2)の差で求められる。なお、図9ではピークPが1つの場合を示している。
【0021】
ステップ106では、すべての白線候補HLの線幅D(=y1−y2)をあらかじめ設定した基準幅と比較して、基準幅に近い、すなわち基準幅との差が最も小さい白線候補を白線と決定してステップ107へ進む。基準幅との差が同じ白線候補があった場合はピーク値xpの大きい方、すなわちより明るい方の白線候補を選択して白線とする。
基準幅は、白線候補HLの高さ(線幅Dの中心のY値)に対応させてあらかじめ設定され、白線候補の位置が低い(自車両に近い)ときは大きく、白線候補の位置が高い(自車両から遠い)ときは小さくなっている。
【0022】
ステップ107〜110はステップ103〜106と同様であって、右側の画像認識エリア20Rについて白線候補HRを抽出し、各白線候補の線幅Dを基準幅と比較して、基準幅との差が最も小さい白線候補を白線として、その後ステップ112へ進む。
なお、ステップ108のチェックで所定値以上のピーク値をもつピークがないときはステップ111に進み、左側の画像認識エリア20Lでピークが検出されているか、すなわちその結果としてステップ104〜106を通して白線が検出されているかをチェックする。そして、左右いずれの画像認識エリアでもピークが検出されていないときは、今回のフローを終了する。左側の画像認識エリアでピークが検出されているときはステップ112へ進む。
【0023】
少なくとも左右いずれかの画像認識エリアで白線が検出されると、ステップ112において、車線逸脱判定部14が車速センサ4から車速を読み込む。
続いて、ステップ113において車線逸脱判定の基準値を算出し、ステップ114において、白線検知部13で検出された白線の自車両に対する位置関係から基準値を参照して、車線逸脱のおそれがあるかどうかを判定する。
すなわち、白線のY軸上の高さが基準値以下になると当該白線に近づき過ぎており、車線を逸脱するおそれがあるものとする。ここで、ステップ113で算出される基準値は車速が高いほど大きく設定され、高速になるほど車線逸脱のおそれが厳しく判定される。
【0024】
ステップ114で車線逸脱判定部14が車線逸脱のおそれがあると判定すると、ステップ115へ進んで、全体制御部15がブザー6を駆動させるとともにインジケータ7をグリーンからレッドに点灯色を切り換えて警報し、1フレームの画像についての処理を終了する。
なお、とくにドライバが意図して白線の外へ車両を移動させることによるものと考えられる所定値以下の低車速での車線逸脱の場合には、全体制御部15は警報を出力させないようにすることもできる。
ステップ114の判定において車線逸脱のおそれがない場合はステップ115をスキップして終了する。
以上の処理がRAM12に格納されるフレーム単位の画像データまたは所定間隔のフレームごとの画像データについて繰り返される。
【0025】
以上の処理によれば、まず、ステップ100〜102で画像認識エリアの水平ラインごとの画素の輝度値の累積値を求め、この累積値のピークPを基にステップ103〜106で左側の画像認識エリア20Lの白線を求め、ステップ107〜110で右側の画像認識エリア20Rの白線を求める。
そして、ステップ112、113において車速に基づく基準値を求めたうえ、ステップ114、115において車線逸脱の判定を行い、車線逸脱のおそれがあるときはブザー6やインジケータ7で警報がなされる。
【0026】
なお、ステップ104、108で所定値以上の累積値を示すピークが左右いずれの画像認識エリアにおいても検出されないときは、白線が検出されないので白線を参照する車線逸脱判定は行えないから、ステップ111を経て今回のフレームの画像データに対する処理を終了して、次のフレームを待つこととなる。
【0027】
本実施の形態では、多方向撮像カメラ2が発明におけるカメラに相当する。
また、図4のフローチャートにおけるステップ100〜102が輝度値累積手段に、ステップ103、104および107、108がピーク検出手段に、ステップ105、109が白線候補抽出手段に、そしてステップ106、110が線幅比較手段を構成している。そしてとくにステップ101がシフト補正手段に相当する。
【0028】
実施の形態は以上のように構成され、多方向撮像カメラ2を車体30前端の幅方向中央位置に設置して、車体の前後軸Zに対して左右方向をその水平方向の撮像視野とし、左右それぞれ車体幅Bの内側から車体幅の外側にわたる範囲を垂直方向の撮像視野とし、白線検知部13では左側および右側それぞれの画像において水平ラインごとの画素の輝度値の累積値を求め、垂直方向に累積値のピークPを検出し、ピークPの水平ラインを含んでピーク値に基づいて算出される線幅Dで水平に延びる領域を白線候補HL、HRとして抽出し、基準幅との差が最も小さい線幅Dをもつ白線候補を白線と決定するものとしたので、輝度値を積算してその累積値のピーク位置を求めるだけで白線の位置を検出でき、画像処理回路が簡単で済む。
【0029】
そしてとくに、白線検知部13で輝度値の累積値を求めるに際して、垂直ラインごとの画素を画像上の白線の湾曲度合いを吸収する方向へ水平方向の位置に応じて垂直にシフトさせることにより、撮像された白線が湾曲して映っていても画像上において直線状に補正されるから、累積値のピーク部分の幅が変化したり、ピーク値が低くなったりすることがなく、高精度に白線に対応するピークを抽出することができる。
さらに、一般の画像処理に用いられる回路やメモリでの積算処理は垂直方向よりも水平方向に行うほうが処理が速いので、画像処理回路が簡単で済むことも相俟って、画像処理時間が顕著に短縮される。
【0030】
また、多方向撮像カメラ2の撮像視野を車体30直近の左右の路面としているので、車両進行方向を主な撮像視野とする従来のものと異なり、雨天時などの路面の反射や対向車のヘッドライトからの照射による影響を受けにくく、白線の検出精度が高い。
さらにまた、撮像視野を車体直近の左右の路面とする多方向撮像カメラ2は、狭い路地や駐車場から交差する道路へ出る際の状況を確認する支援システムに多く使用されているので、支援システムを搭載した車両では、当該システムの多方向撮像カメラを共用することにより、新たなカメラの追加が不要となる。
【0031】
また、白線検知部13で輝度値の累積値を求めるに際しては、多方向撮像カメラ2からの画像のうち車体に最も近い白線を領域内に含む限定された画像認識エリアGL、GRに絞って累積値を求めるので、処理時間が短かく、かつ自車両が走行中の車線の白線が確実に検出される。
白線候補の線幅Dは、ピーク値にあらかじめ定めた比例係数0.8を乗じた判定値Nxの累積値をもつ水平ライン間の距離として求めるので算出が簡単である。
そして、線幅Dの比較対象とする基準幅は、画像内における白線候補の高さに対応させて設定されるので、複数の白線候補が抽出された場合でも精度良く識別して白線を決定することができる。
【0032】
さらに、車線逸脱判定部14では、白線検知部13で検出された白線の画像認識エリアにおける垂直方向位置と所定の基準値との比較に基づいて、車線逸脱のおそれの有無を判定し、車線逸脱のおそれがあると判定されたときは、全体制御部15がブザー6やインジケータ7を駆動して警報を行うので、ドライバに車線逸脱の可能性を注意喚起できる。
また、車線逸脱判定における所定の基準値は車速が高いほど画像認識エリア20L、20Rにおける垂直方向の高い位置に設定され、検出された白線の位置が基準値より低くなると車線逸脱のおそれがあると判定するので、高速になるほど早めに警報が発せられ、安定して車線内走行が維持できる。
【0033】
なお、実施の形態では、多方向撮像カメラ2からの映像信号をA/D変換した画像データをRAM12に格納し、白線検知部13でRAM12から読み出した画像データをX軸位置に対応させてY軸方向にシフト補正するものとしたが、画像における白線の湾曲度合いを吸収する上記シフト補正のタイミングはこれに限定されず、例えば、多方向撮像カメラ2からA/D変換してRAM12に格納する際に、その画像データをシフト補正してから格納するようにしてもよい。
【図面の簡単な説明】
【0034】
【図1】実施の形態の構成を示すブロック図である。
【図2】多方向撮像カメラの撮像視野を示す説明図である。
【図3】多方向撮像カメラによる撮像画像例を示す図である。
【図4】制御処理の流れを示すフローチャートである。
【図5】直線状の白線画像に対応するピークの現出状態を示す説明図である。
【図6】湾曲の白線画像に対応するピークの現出状態を示す説明図である。
【図7】画像データのシフト補正の要領を示す説明図である。
【図8】シフト補正の効果を示す概念図である。
【図9】画像認識エリアにおける水平ラインごとの輝度値の累積値を示すグラフである。
【符号の説明】
【0035】
1 車線逸脱警報装置
2 多方向撮像カメラ
3 起動スイッチ
4 車速センサ
5 モニタ
6 ブザー
7 インジケータ
10 コントロールユニット
11 ビデオプロセッサ
12 RAM
13 白線検知部
14 車線逸脱判定部
15 全体制御部
20L、20R 画像認識エリア
D 線幅
GL 左画像
GR 右画像
HL、HR 白線候補
K1、K2、K3 白線
P ピーク

【特許請求の範囲】
【請求項1】
カメラで走行車線を撮像した画像に基づいて車線を区画する白線を検出する白線検出装置であって、
前記カメラは、車体の前後方向一端の幅方向中央位置に設置され、車体の前後軸に対して左右方向をその水平方向の撮像視野とし、左右それぞれ車体幅の内側から車体幅の外側にわたる範囲を垂直方向の撮像視野として、左側および右側の画像を出力し、
前記画像のそれぞれにおいて、水平ラインごとの画素の輝度値の累積値を求める輝度値累積手段と、
前記画像の垂直方向に前記累積値のピークを検出するピーク検出手段と、
前記ピークの水平ラインを含み、ピーク値に基づいて算出される線幅で水平に延びる領域を白線候補として抽出する白線候補抽出手段と、
前記画像のそれぞれにおいて線幅とあらかじめ設定された基準幅とを比較して差が最も小さい線幅の白線候補を白線とする線幅比較手段とを有し、
前記輝度値累積手段は、前記画像のそれぞれにおいて垂直ラインごとの画素を画像上の白線の湾曲度合いを吸収する方向へ水平方向の位置に応じて垂直にシフトさせるシフト補正手段を含むことを特徴とする白線検出装置。
【請求項2】
前記カメラは、車体の前端に、その水平方向の撮像視野が車体の前後軸に対して直角方向から前方側への所定角度範囲となるように設置されていることを特徴とする請求項1記載の白線検出装置。
【請求項3】
前記輝度値累積手段は、前記画像のそれぞれにおける車体に最も近い白線を領域内に含む限定された画像認識エリアについて、前記累積値を求めることを特徴とする請求項1または2記載の白線検出装置。
【請求項4】
前記シフト補正手段は、前記画像認識エリアをそれぞれ水平方向に複数の分割領域に分割し、該分割領域単位でその画素を予め設定した量だけ垂直にシフトさせるものであることを特徴とする請求項3記載の白線検出装置。
【請求項5】
前記分割領域の水平方向の幅は、前記水平方向の撮像視野においてカメラの光軸から離れるほど狭く設定されることを特徴とする請求項4記載の白線検出装置。
【請求項6】
カメラで走行車線を撮像した画像に基づいて車線を区画する白線を検出する白線検出方法であって、
カメラを車体の前後方向一端の幅方向中央位置に設置して、車体の前後軸に対して左右直角方向を含む範囲を水平方向の撮像視野、左右それぞれ車体幅の内側から車体幅の外側にわたる範囲を垂直方向の撮像視野として撮像し、
カメラからの左側および右側の画像において、垂直ラインごとの画素を画像上の白線の湾曲度合いを吸収する方向へ水平方向の位置に応じて垂直にシフトさせ、
その後、水平ラインごとの画素の輝度値の累積値を求め、
画像の垂直方向に累積値のピークを検出し、
該ピークの水平ラインを含んでピーク値に基づいて算出される線幅で水平に延びる領域を白線候補として抽出し、
画像のそれぞれにおいて線幅とあらかじめ設定された基準幅とを比較して差が最も小さい線幅の白線候補を白線と決定することを特徴とする白線検出方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2007−241606(P2007−241606A)
【公開日】平成19年9月20日(2007.9.20)
【国際特許分類】
【出願番号】特願2006−62384(P2006−62384)
【出願日】平成18年3月8日(2006.3.8)
【出願人】(390001236)ナイルス株式会社 (136)
【Fターム(参考)】