説明

車両位置検出装置、車両位置検出方法、及び車両位置検出プログラム

【課題】広角画像を用いて行う、車線に対する車両の位置関係の検出の精度を良くする。
【解決手段】白線部分画像領域抽出処理S110は、道路を走行中の車両の走行方向に対する側方の方向を撮像した側方画像から、第一部分画像領域及び第二部分画像領域を抽出する。この2つの部分画像領域は、道路の路面上に描かれており当該車両が走行している車線の境界を表している白線の破線において当該破線の空線部分を挟み込んでいる白線部分が各々に映っている領域である。推定処理S112は、第一部分画像領域に映っている第一白線と第二部分画像領域に映っている第二白線とを滑らかに結ぶ推定線を側方画像上に推定する。この推定は、側方画像上での第一白線及び第二白線の各々についての線端の位置及び当該線端での向きに基づいて行われる。位置関係検出処理S113は、この推定線の側方画像上での位置に基づき、車線に対する車両の位置関係を検出する。

【発明の詳細な説明】
【技術分野】
【0001】
本明細書で議論される実施態様は、車両の運転を支援する技術に関するものである。
【背景技術】
【0002】
道路を走行中の車両が走行中の車線から逸脱することを防止するために、車線逸脱の可能性の高まりを運転者へ警告する制御や、当該車線内の走行を自動的に維持する制御などを行う技術が知られている。これらの技術では、当該車両についての当該車線に対する位置関係の検出結果に基づいて上述した制御が行われる。
【0003】
道路を走行中の車両についての、当該車両が走行中の車線に対する位置関係を検出する技術として、車両に固定されている車載カメラで撮像した道路の撮像画像から車線を認識し、その認識結果に基づいて当該位置関係を検出する技術が知られている。この技術では、まず、道路の路面上に描かれている、車線の境界を表している白線の画像領域を当該撮像画像から認識し、当該画像領域についての当該撮像画像上における位置関係を求める。次に、このようにして求めた位置関係を、当該車両についての白線に対する位置関係に変換して、当該車両についての当該車線に対する位置関係の検出結果とする。なお、この変換は、予め計測されている、撮像画像上の位置と実際の位置(車両に対する相対位置)との関係に従って行われる。
【0004】
ところで、路面上に描かれている上述した白線は、場所によって実線である場合と破線である場合とがある。ここで、該破線における空線部分(白線が描かれない部分)からは、上述した技術を適用して車両と車線との位置関係の検出を行うことはできない。但し、路面上に描かれている白線が破線である場所において、当該破線における白線部分の位置に基づいた直線近似によって当該空線部分においての車線の境界を推定し、その推定結果を利用して車両と車線との位置関係を検出するという技術が提案されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平10−208198号公報
【特許文献2】特開2002−175534号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
昨今の自動車は、車両側方近傍の広い範囲の画像を撮像するための超広角カメラをサイドミラーに搭載したものがある。このような超広角カメラで撮像される側方画像を利用して、車両についての車線に対する位置関係の検出を行うことを考えてみる。
【0007】
車載カメラで車両の走行方向の撮影を行うと、車載カメラの設置位置によっては、車両前方直近の路面の像が、自車のボンネットの死角となって得られないことがある。また、このような車両の走行方向の撮像画像では、車線の境界を表している白線を、自車の前方の他車が隠してしまっている場合もある。一方、上述した側方画像には、このような問題はなく、自車の直ぐ傍の路面上に描かれている白線が映るので、この白線の像に基づき車両についての車線に対する位置関係の検出を行うことができれば、高い検出精度が期待できる。
【0008】
しかし、上述したような超広角カメラで撮像される側方画像には被写体が著しく歪んで映っている。このため、路面上に描かれている白線が破線である場所で上述のように撮像された側方画像に基づく車両と車線との位置関係の検出を、前述のような直線近似による車線の境界の推定結果を利用して行うと、高い検出精度は期待できない。
【0009】
本発明は上述した問題に鑑みてなされたものであり、その解決しようとする課題は、車線に対する車両の位置関係の検出に広角画像を用いても、その検出を精度良く行えるようにすることである。
【課題を解決するための手段】
【0010】
本明細書で後述する車両検出装置のひとつには、白線部分画像領域抽出手段と、推定手段と、位置関係検出手段と、を有するというものがある。このうち、白線部分画像領域抽出手段は、道路上の車両の側方の方向を撮像した側方画像から、2つの部分画像領域を、第一部分画像領域及び第二部分画像領域として抽出する。なお、この2つの部分画像領域は、道路の路面上に描かれており当該車両が走行している車線の境界を表している白線が各々に映っている領域である。また、推定手段は、第一部分画像領域に映っている白線である第一白線と第二部分画像領域に映っている白線である第二白線とを結ぶ推定線を推定する。なお、この推定は、第一白線及び第二白線の各々について、側方画像上での線端の位置及び当該線端での向きに基づいて行われる。そして、位置関係検出手段は、この推定線の側方画像上での位置に基づき、車線に対する車両の位置関係を検出する。
【0011】
また、本明細書で後述する車両検出方法のひとつは、まず、道路上の車両の側方の方向を撮像した側方画像から、2つの部分画像領域を、第一部分画像領域及び第二部分画像領域として抽出する。なお、この2つの部分画像領域は、道路の路面上に描かれており当該車両が走行している車線の境界を表している白線が各々に映っている領域である。次に、第一部分画像領域に映っている白線である第一白線と第二部分画像領域に映っている白線である第二白線とを結ぶ推定線を、第一白線及び第二白線の各々について、側方画像上での線端の位置及び当該線端での向きに基づいて推定する。そして、この推定線の側方画像上での位置に基づき、車線に対する車両の位置関係を検出する。
【0012】
また、本明細書で後述する車両位置検出プログラムのひとつは、演算処理装置が実行することによって、白線部分画像領域抽出処理と、推定処理と、位置関係検出処理とを当該演算処理装置に行わせるというものである。ここで、白線部分画像領域抽出処理は、道路上の車両の側方の方向を撮像した側方画像から、2つの部分画像領域を、第一部分画像領域及び第二部分画像領域として抽出する処理である。なお、この2つの部分画像領域は、道路の路面上に描かれており当該車両が走行している車線の境界を表している白線が各々に映っている領域である。また、推定処理は、第一部分画像領域に映っている白線である第一白線と第二部分画像領域に映っている白線である第二白線とを結ぶ推定線を推定する処理である。なお、この推定は、第一白線及び第二白線の各々について、側方画像上での線端の位置及び当該線端での向きに基づいて行われる。そして、位置関係検出処理は、この推定線の側方画像上での位置に基づき、車線に対する車両の位置関係を検出する処理である。
【発明の効果】
【0013】
本明細書で後述する車両位置検出装置は、車線に対する車両の位置関係の検出に広角画像を用いても、その検出を精度良く行うことができる、という効果を奏する。
【図面の簡単な説明】
【0014】
【図1】車両位置検出装置の構成図である。
【図2】演算部の構成図である。
【図3】車両位置検出制御処理の処理内容を図解したフローチャートである。
【図4】輝度度数分布生成処理によるヒストグラムの生成を説明する図(その1)である。
【図5】輝度度数分布生成処理によるヒストグラムの生成を説明する図(その2)である。
【図6】輝度閾値設定処理の処理内容を図解したフローチャートである。
【図7】白線補填処理の処理内容を図解したフローチャートである。
【図8】スコア算出処理の処理内容を図解したフローチャートである。
【図9】白線部分画像領域抽出処理の処理内容を図解したフローチャートである。
【図10】側方画像上の前方矩形及び後方矩形の配置例である。
【図11】推定白線の推定の手法を説明する図である。
【図12】推定白線データテーブルの構造を説明する図である。
【発明を実施するための形態】
【0015】
まず図1について説明する。図1には、車両位置検出装置の構成が図解されている。この車両位置検出装置は、ECU1、カメラ2、車両IF3、及びスピーカ4を有している。なお、この車両位置検出装置は、本実施形態においては自動車に搭載する。
【0016】
ECU(電子制御ユニット)1は、この車両位置検出装置全体の動作制御を行うものである。ECU1は、カメラ2と車両IF3とから送られてくる情報に基づき、道路を走行中の自車両についての走行中の車線に対する位置関係を所定の場合に検出し、その検出結果に応じて所定の音をスピーカ4に放音させて自車両の運転者に注意を促す動作を行う。
【0017】
カメラ2は、道路を走行中の自車両の走行方向に対する側方の方向の画像(側方画像)を撮像する撮像部である。本実施形態において、このカメラ2には、撮影レンズとして、画角が180度を超えるような超広角レンズが装備されており、従って、カメラ2で撮像される側方画像は超広角の画像である。
【0018】
なお、カメラ2は、自車両との相対位置、撮影方向、及び撮影倍率が固定されており、自車両が走行中の道路の路面上に描かれており自車両の走行車線と隣の走行車線との境界を表している白線が当該側方画像の下部に映るように調整されているものとする。本実施形態においては、カメラ2は、自車両のサイドミラーの下部に取り付けて固定しておくようにする。従って、例えば、カメラ2に装備されている超広角レンズが、前述したような画角が180度を超えるようなものであれば、当該側方の方向の地平線が当該側方画像の縦方向のほぼ中間付近にほぼ直線状に映るように撮影方向を調整しておけばよい。
【0019】
車両IF3は、自車両の走行等の各動作を制御している車両制御部との間で行う各種の情報の授受を管理するインタフェース部である。この車両制御部からは、自車両の現在の各種の状況を表している車両情報等が送られてくる。
【0020】
スピーカ4は、ECU1によって駆動制御されて所定の音を自車両内に放音し、自車両の運転者に各種の情報を音で通知する。
次に、ECU1の構成について更に説明する。ECU1は、映像入力部11、モノクロ変換部12、車両情報入力部13、演算部14、及び警報出力部15を有している。
【0021】
映像入力部11には、カメラ2から出力される、側方画像を表現しているアナログ映像信号が入力される。映像入力部11は、この映像信号をデジタル画像データに変換して出力する。
【0022】
モノクロ変換部12は、映像入力部11から出力される、カラー画像である側方画像データを、各画素のデータが輝度値のみの情報であるモノクロ画像データに変換する。なお、カメラ2から出力される側方画像が既にモノクロ画像である場合には、モノクロ変換部12は不要である。また、カラー画像データからモノクロ画像データの変換を、後段の演算部14で行うようにして、モノクロ変換部12を削除することも可能である。
【0023】
車両情報入力部13は、車両IF3が受け取った各種の情報が入力される。車両情報入力部13は、この入力された情報から、演算部14が行う後述する車両位置検出制御処理において使用される、自車両の現在の各種の状況を表している車両情報を抽出する。
【0024】
演算部14は、ECU1全体の動作制御を行うものである。演算部14は、モノクロ変換部12から出力される側方画像と、車両情報入力部13から出力される車両情報とに基づき、走行車線に対する自車両の位置関係を所定の場合に検出し、その検出結果に応じて所定の警報音をスピーカ4に放音させる制御動作を行う。
【0025】
警報出力部15は、演算部14からの指示に応じてスピーカ4を駆動制御して、所定の音をスピーカ4に放音させる。
次に、演算部14の構成について更に説明する。
【0026】
図2には演算部14の構成が図解されている。演算部14は、MPU21、インタフェース部22、RAM23、及びROM24を有している。なお、これらの構成要素はバス25を介して接続されており、MPU21の管理の下で各種のデータを相互に授受することができる。
【0027】
MPU(Micro Processing Unit)21は、この演算部14全体の動作を制御する演算処理装置である。
インタフェース部22は、ECU1に備えられているモノクロ変換部12、車両情報入力部13、及び警報出力部15と演算部14との間で行う各種の情報の授受を管理する。
【0028】
RAM(Random Access Memory)23は、MPU21が各種の制御プログラムを実行する際に、必要に応じて作業用記憶領域として使用する、随時書き込み読み出し可能な半導体メモリである。
【0029】
ROM(Read Only Memory)24は、所定の基本制御プログラム及び所定の車両位置検出制御プログラムと、これらの制御プログラムの実行の際に使用される各種のデータとが予め記録されている読み出し専用半導体メモリである。MPU21は、基本制御プログラムを車両位置検出装置の起動時にROM24から読み出して実行することにより、この演算部14の各構成要素の動作制御が可能になる。MPU21は、この後に、更に、車両位置検出制御プログラムをROM24から読み出して実行することにより、後述する車両位置検出制御処理を演算部14が行うようになる。なお、フラッシュEEPROM(Electrically Erasable Programmable ROM)をROM24として使用することは、もちろん可能である。
【0030】
次に図3について説明する。図3は、図1のECU1における演算部14により行われる、車両位置検出制御処理の処理内容を図解したフローチャートである。
なお、図2の構成を有する演算部14にこの車両位置検出制御処理を行わせるには、まず、この車両位置検出制御処理の処理内容をMPU21に行わせるための車両位置検出制御プログラムを作成する。作成した車両位置検出制御プログラムはROM24に予め格納しておく。そして、MPU21にこの制御プログラムをROM24から読み出させて実行させる。こうすることで、演算部14に車両位置検出制御処理を行わせることが可能になる。
【0031】
図3において、この車両位置検出制御処理の実行が開始されると、まず、S101において画像入力処理が行われる。この処理は、カメラ2により撮像されてモノラル画像に変換された側方画像の画像データを、映像入力部11から受け取って演算部14が取得する処理である。演算部14は、この処理を行うことで側方画像取得部として機能する。
【0032】
次に、S102において車両情報入力処理が行われる。この処理は、自車両の走行等の各動作を制御している車両制御部から送られてくる、自車両の現在の各種の状況を表している車両情報を、車両情報入力部13から受け取って演算部14が取得する処理である。演算部14は、この処理を行うことで車両情報取得部として機能する。
【0033】
次に、S103において状況判定処理が行われる。この処理は、自車両の現在の状況が、走行車線に対する自車両の位置関係の検出を行う状況であるか否かの判定を、S102の処理で取得した車両情報に基づいて行う処理である。演算部14は、この処理を行うことで状況判定部として機能する。
【0034】
車両情報は、自車両の速度、自車両に備えられている方向指示器に対する動作指示状況、自車両に備えられているワイパに対する動作指示状況、及び、自車両に備えられている操舵用のハンドルに対する操作状況等を表している情報を含んでいる。状況判定処理では、これらの情報のうちの少なくともいずれか1つに基づいて、上記の判定を行う。
【0035】
ここで、車両情報が自車両の速度を含んでいる場合には、演算部14は、状況判定処理として、この自車両の速度が所定の閾値以上であるか否かを判定する処理を行う。ここで、この自車両の速度が所定の閾値以上である場合には、自車両の走行車線からの逸脱の可能性がある場合にその可能性を運転者に警告すべき状況であるとし、演算部14は、走行車線に対する自車両の位置関係の検出を行う状況であるとの判定を下す。
【0036】
また、車両情報が方向指示器に対する動作指示状況を含んでいる場合には、演算部14は、状況判定処理として、この動作指示状況が方向指示器の動作を指示するものであるか否かを判定する処理を行う。ここで、方向指示器の動作が指示されていない場合には、運転者は走行車線に従った自車の走行を意図しており、自車両の位置関係の検出を行うべき状況にあると判断し、演算部14は、走行車線に対する自車両の位置関係の検出を行う状況であるとの判定を下す。
【0037】
また、車両情報がワイパに対する動作指示状況を含んでいる場合には、演算部14は、状況判定処理として、この動作指示状況がワイパの動作を指示するものであるか否かを判定する処理を行う。ここで、ワイパの動作が指示されていない場合には、現在の天候が雨天ではないので側方画像の品質が確保できているので自車両の位置関係の検出を適切に行えると判断し、演算部14は、走行車線に対する自車両の位置関係の検出を行う状況であるとの判定を下す。
【0038】
また、車両情報がハンドルに対する操作状況を含んでいる場合には、演算部14は、状況判定処理として、ハンドルによる操舵角が所定の閾値以下であるか否かを判定する処理を行う。ここで、この操舵角が所定の閾値以下である場合には、運転者は走行車線に従った自車の走行を意図しており、自車両の位置関係の検出を行うべき状況にあると判断し、演算部14は、走行車線に対する自車両の位置関係の検出を行う状況であるとの判定を下す。
【0039】
このS103の状況判定処理において、走行車線に対する自車両の位置関係の検出を行う状況であると判定したとき(判定結果がYesのとき)には、S104に処理を進める。一方、ここで、当該検出を行う状況ではないと判定したとき(判定結果がNoのとき)には、S101へと処理を戻し、カメラ2により新たに撮像された側方画像に基づく上述した処理が改めて行われる。
【0040】
次に、S104において輝度閾値設定処理が行われる。この処理は、後述する輝度閾値を、カメラ2が撮像した側方画像を構成する各画素の輝度値に基づいて設定する処理である。演算部14は、この処理を行うことで輝度閾値設定部として機能する。なお、この輝度閾値設定処理の詳細は後述する。
【0041】
次に、S105において白線補填処理が行われる。この処理は、側方画像に対して画像処理を施して該白線の像のかすれを補填する。演算部14は、この処理を行うことで白線補填処理部として機能する。なお、この白線補填処理の詳細も後述する。
【0042】
次に、S106において輝度度数分布生成処理が行われる。この処理は、カメラ2が撮像した側方画像を構成する各画素についての輝度値の度数分布(ヒストグラム)を各種生成する処理である。演算部14は、この処理を行うことで輝度度数分布生成処理部として機能する。なお、この輝度度数分布生成処理部により生成されるヒストグラムの詳細は後述する。
【0043】
次に、S107においてスコア算出処理が行われる。この処理は、S106の処理により生成されるヒストグラムのひとつである横方向ヒストグラム(側方輝度値度数分布)における各階級に対して自車両からの距離に応じて予め与えられている点数の合計を、スコアとして算出する処理である。演算部14は、この処理を行うことでスコア算出処理部として機能する。なお、横方向ヒストグラムの詳細、及びスコア算出処理部の詳細は後述する。
【0044】
次に、S108では、実線判定処理が行われる。この処理は、カメラ2が撮像した側方画像に映っている、自車両の走行車線と隣の走行車線との境界を表している白線が実線であるか否かを判定する処理である。この処理では、より具体的には、前述した横方向ヒストグラムにおいて、度数が所定の度数閾値以上である階級が連続して所定数以上存在するか否かの判定を行う。ここで、全ての横方向ヒストグラムについて、そのような階級が連続して所定数以上存在した場合には、当該白線が実線であるとの判定を下し、その他の場合には、当該白線が実線ではないとの判定を下す。この判定手法の詳細については、後に詳しく説明する。演算部14は、この処理を行うことで実線判定部として機能する。
【0045】
このS108の実線判定処理において、当該白線が実線であるとの判定を下したとき(判定結果がYesのとき)にはS109に処理を進め、当該白線が実線ではないとの判定を下したとき(判定結果がNoのとき)にはS110に処理を進める。
【0046】
次に、S109では、接近検出処理が行われる。この処理は、自車両が走行している走行車線の境界への自車両の接近を、S106の処理により生成されるヒストグラムのひとつである、前述した横方向ヒストグラムに基づいて検出する処理である。この処理では、より具体的には、S107のスコア算出処理により算出した、横方向ヒストグラムについてのスコアが、当該接近の発生を示している所定の基準範囲に含まれるか否かの判定を行う。ここで、当該スコアが所定の基準範囲に含まれるものがあった場合には、自車両の走行車線の境界への接近を検出したとの判定を下し、その他の場合には、自車両の走行車線の境界への接近は検出されなかったとの判定を下す。演算部14は、この処理を行うことで接近検出部として機能する。
【0047】
このS109の接近検出処理において、自車両の走行車線の境界への接近を検出したと判定したとき(判定結果がYesのとき)にはS115に処理を進める。一方、当該接近が検出されなかったと判定したとき(判定結果がNoのとき)には、S101へと処理を戻し、カメラ2により新たに撮像された側方画像に基づく上述した処理が改めて行われる。
【0048】
ところで、S108の実線判定処理による判定結果がNoであった場合には、S110において、白線部分画像領域抽出処理が行われる。この処理は、カメラ2が撮像した側方画像から、実線判定処理により実線でないと判定された白線(ペイント部)が映っている部分画像領域を、側方画像における左端側及び右端側(すなわち、自車両の進行方向の前側及び後側)から1つずつ抽出する処理である。この白線部分画像領域抽出処理の詳細は後述する。演算部14は、この処理を行うことで白線部分画像領域抽出部として機能する。
【0049】
次に、S111では、S110の白線部分画像領域抽出処理により、白線が映っている部分画像領域を、側方画像における自車両の進行方向の前側及び後側から1つずつ抽出できたか否かを判定する処理が行われる。この判定処理において、部分画像領域を1つずつ抽出できたとき(判定結果がYesのとき)にはS112に処理を進める。一方、部分画像領域を1つずつ抽出することができなかったとき(判定結果がNoのとき)には、S101へと処理を戻し、カメラ2により新たに撮像された側方画像に基づく上述した処理が改めて行われる。
【0050】
実線でないと判定された白線であっても、その白線が破線であれば、白線部分画像領域抽出処理により、当該破線の空線部分を挟み込んでいる2つの白線部分がそれぞれ映っている部分画像領域を、側方画像における左端側及び右端側から1つずつ抽出できる。従って、この場合には、S111の判定結果はYesとなる。一方、当該白線が破線でもない場合には、白線が映っている部分画像領域を、側方画像における左端側及び右端側から1つずつ抽出することができず、従って、S111の判定結果はNoとなる。
【0051】
次に、S112では推定処理が行われる。この処理では、S110の白線部分画像領域抽出処理により抽出された2つの部分画像領域(第一部分画像領域及び第二部分画像領域)の各々に映っている白線である第一白線と第二白線とを滑らかに結ぶ推定白線を側方画像上に推定する処理が行われる。なお、この推定は、側方画像上での第一白線及び第二白線の各々についての線端の位置と当該該線端での向き(傾き)に基づいて行われる。この推定手法の詳細については、後に詳しく説明する。演算部14は、この処理を行うことで推定部として機能する。
【0052】
次に、S113では、位置関係検出処理が行われる。この処理では、自車両の走行車線に対する自車両の位置関係を、S112の推定処理により推定した推定白線の側方画像上での位置に基づいて検出する処理である。演算部14は、この処理を行うことで位置関係検出部として機能する。
【0053】
前述したように、側方画像を撮影するカメラ2は、自車両との相対位置、撮影方向、及び撮影倍率が固定されているので、側方画像に映る道路面上の各位置と自車両との位置関係は定まっている。従って、この関係を予め測定しておいてデータテーブルとし、ROM24に格納しておく。位置関係検出処理では、側方画像上に推定した推定白線の位置と自車両との実際の位置関係を、このデータテーブルを参照することによって検出する。
【0054】
次に、S114では、S113の位置関係検出処理での位置関係の検出結果に基づき、推定白線の位置から自車両までの距離が、所定値以下の近さであるか否かを判定する処理が行われる。ここで、当該距離が所定値以下であると判定したとき(判定結果がYesのとき)にはS115に処理を進める。一方、当該距離が所定値よりも長いと判定したとき(判定結果がNoのとき)には、S101へと処理を戻し、カメラ2により新たに撮像された側方画像に基づく上述した処理が改めて行われる。
【0055】
次に、S115では、警報処理が行われる。この処理は、警報出力部15を制御してスピーカ4を駆動させ、所定の警報音(所定のアナウンス音声や、ブザー音など)をスピーカ4に放音させて自車両の運転者に車線逸脱の可能性を通知する処理である。なお、警報処理として、警報音をスピーカ4に放音させると共に、若しくはその代わりに、不図示の表示装置を動作させる制御を行って、所定の警告表示を行うようにしてもよい。
このS115の処理を終えると、図3の車両位置検出制御処理が終了する。
【0056】
次に、図3の車両位置検出制御処理において行われる各処理の詳細について説明する。
まず、図3のS106の処理である、輝度度数分布生成処理により生成されるヒストグラムについて、図4及び図5参照しながら説明する。
【0057】
図4及び図5は、側方画像の画像例である。但し、図4及び図5の側方画像は自車両の左側方の画像であり、自車両の進行方向は画像の右方向である。
これらの側方画像上には、画像の縦方向を長辺方向とする矩形である対象領域100が、この画像例では9個並べられている。対象領域100は、輝度度数分布生成処理で輝度値のヒストグラムを生成させる対象とする領域である。
【0058】
この対象領域100は、側方画像において道路が映っている領域内に配置する。本実施形態では、前述したように、カメラ2の撮影方向が、側方の方向の地平線が側方画像の縦方向のほぼ中間付近にほぼ直線状に映るように調整されているので、同一形である対象領域100を、側方画像の下半分の領域に全て配置している。つまり、カメラ2の撮影方向を上述のように調整しておいたことで、側方画像の上半分の領域を車両位置検出制御処理での処理対象から一旦除外することができるので、画像処理量の削減に寄与するのである。
【0059】
また、本実施形態において、側方画像の縦方向における対象領域100相互の位置関係は、側方画像に映る道路上に対象領域100を配置したときにおける位置関係が、自車両の進行方向に平行な直線上にほぼ並ぶような位置関係としている。つまり、側方画像の縦方向における対象領域100各々の位置を、広角画像である側方画像の左右両端付近に存在する画像消失点を通る弦に沿うように配置している。なお、この弦の曲率は、対象領域100の縦方向の配置位置に応じたものになる。
【0060】
更に、本実施形態では、側方画像の横方向における対象領域100の位置関係は、側方画像上で等間隔とし、自車両の全長(進行方向の長さ)の範囲内に全ての対象領域100を配置している。
【0061】
対象領域100の長辺方向の長さ及び短辺方向の長さは任意である。但し、これらの長さは、路面に描かれている白線部分の、検出範囲及び検出精度に関係しており、これを長く設定すると、検出範囲が広くなり、検出精度も向上するが、その検出のための画像処理量が増加する。
以上のように、本実施形態では、対象領域100の側方画像における位置及び範囲は予め設定されている。
【0062】
輝度度数分布生成処理では、まず、側方画像上に上述したように設定されている対象領域100の各々についての横方向ヒストグラムを生成する処理を行う。横方向ヒストグラムとは、側方画像における対象領域100内の部分画像を構成する各画素についての輝度値の度数分布である。この横方向ヒストグラムは、より具体的には、自車両の側方の方向に、同一幅で、自車両からの距離に応じた階級が定められており、輝度値が、S104の輝度閾値設定処理により設定される輝度閾値以上である画素の度数を示している。輝度を加算した後閾値による判定を行ってもよい(このようにすると判定演算の回数が減り、処理時間の短縮が可能となる)。なお、図4及び図5には、横方向ヒストグラムの一例として、側方画像における最も左の位置に配置されている対象領域100についてのものが描かれている。
【0063】
図4の横方向ヒストグラムの例では、自車両に近い順に数えて3番目の階級と、それに連続する4番目の階級との度数がその他の階級から突出して高い度数となっている。これは、対象領域100内の部分画像において、この度数が高くなる階級の距離範囲には、前述した輝度閾値以上の輝度である画素が多数存在していることを示している。ここでは、道路が映っているはずである対象領域100内の部分画像の特定の距離範囲に密集しているこのような画素を、路面上の白線(ペイント部)を映した画素であると判定する。
【0064】
このように、本実施形態では、横方向ヒストグラムにおいて、度数が所定の度数閾値以上である階級が連続して所定数以上存在した場合には、側方画像において車線の境界を表している白線が実線であるとの判定を下す。
【0065】
なお、輝度度数分布生成処理では、側方画像ついて、縦方向ヒストグラムを更に生成する処理を行うようにしてもよい。縦方向ヒストグラムも、側方画像における各対象領域100内の部分画像を構成する各画素についての輝度値の度数分布である。但し、縦方向ヒストグラムは、各対象領域100の位置(自車両の進行方向の位置)を階級とし、その対象領域100についての横方向ヒストグラムにおける各階級の度数の総和を度数としたものである。
【0066】
例えば、図5に描かれている横方向ヒストグラムでは、自車両の車体の影響により、白線が路上に描かれていないにも拘らず、自車両に近い順に数えて1番目の階級と、それに連続する2番目の階級との度数がその他の階級から突出して高い度数となっている。このため、対象領域100内におけるこの度数が高くなる階級の距離範囲に、白線部分が存在すると誤判定する可能性がある。このような場合でも、上述した縦方向ヒストグラムを併用すると、白線の実線の検出精度を高めることができる。
【0067】
図4に描かれている縦方向ヒストグラムは、各階級の度数がほぼ同数であり、ばらつきが少ない。これは、幅がほぼ同一である単一の白線(すなわち車線の境界を表している白線)の一部が、各対象領域100内の部分画像に映っているからである。
【0068】
これに対し、図5に描かれている縦方向ヒストグラムは、各階級の度数のばらつきが、図4のものに比べて顕著に大きい。従って、このような場合には、上述したような、車線の境界を表している白線は、対象領域100内の部分画像には映っていないと判定するようにする。
【0069】
このように、縦方向ヒストグラムにおける度数のばらつきが所定値を超えて大きい場合には、白線の実線が対象領域100内の部分画像に映っていないと判定することで、横方向ヒストグラムのみを用いる場合よりも、白線の実線の検出精度を高めることができる。
【0070】
次に、図3の車両位置検出制御処理におけるS104の処理として実行される、輝度閾値設定処理の詳細について説明する。図6は、輝度閾値設定処理の処理内容を図解したフローチャートである。
【0071】
図6において、まず、S201では、ヒストグラム作成対象領域設定処理が行われる。この処理では、前述した対象領域100を、側方画像に複数設定する処理が行われる。前述したように、対象領域100の側方画像における位置及び範囲は予め設定されている。本実施形態では、この設定情報はROM24に予め格納されており、MPU21は、ROM24から読み出した設定情報に従って、対象領域100を側方画像に設定する処理を行う。
【0072】
次に、S202では、側方画像に設定された各対象領域100内の部分画像を構成する画素の輝度平均値を算出する処理が行われる。
次に、S203では、各対象領域100について算出された輝度平均値に極端なばらつきがあるか否かを判定する処理が行われる。この処理では、具体的には、輝度平均値のばらつき(例えば最大値と最小値との差)が、所定の閾値を超えるほど大きいか否かを判定する処理が行われる。ここで、輝度平均値に極端なばらつきがあると判定されたとき(判定結果がYesのとき)にはS204に処理を進め、輝度平均値に極端なばらつきはないと判定されたとき(判定結果がNoのとき)にはS205に処理を進める。
【0073】
S204では、各対象領域100について算出された輝度平均値に所定値を加算した値を対象領域100それぞれについての輝度閾値として設定する処理が行われ、その後はこの輝度閾値設定処理を終了する。
【0074】
一方、S205では、各対象領域100について算出された輝度平均値の更に平均値を算出し、その算出された平均値に所定値を加算した値を、対象領域100の各々についての輝度閾値の共通値として設定する処理が行われる。その後はこの輝度閾値設定処理を終了する。
【0075】
なお、S205の処理を上述のようにする代わりに、側方画像を構成する全画素(若しくは路面が映っている部分の部分画像を構成する画素)の輝度平均値に所定値を加算した値を、対象領域100の各々について共通の輝度閾値として設定する処理としてもよい。
【0076】
また、S204若しくはS205の処理において、加算する所定値の値をゼロとする、すなわち、得られた平均値そのものを、輝度閾値とする場合も、側方画像の明るさによっては、あり得ることである。
【0077】
また、図6のS203以降の処理を行う代わりに、側方画像を構成する全画素(若しくは路面が映っている部分の部分画像を構成する画素)の輝度平均値に基づく値を、対象領域100の各々について共通の輝度閾値として直ちに設定する処理としてもよい。
【0078】
また、図6のS203以降の処理を行う代わりに、側方画像を構成する全画素(若しくは路面が映っている部分の部分画像を構成する画素)の輝度度数分布を求め、この分布に基づき、輝度閾値を設定する処理としてもよい。なお、この設定では、白線部分を表していることで輝度値が顕著に高い画素を十分に抽出できるような輝度閾値を設定するようにする。
【0079】
次に、図3の車両位置検出制御処理におけるS105の処理として実行される、白線補填処理の詳細について説明する。図7は、白線補填処理の処理内容を図解したフローチャートである。
【0080】
この図7の白線補填処理では、側方画像に映っている白線部分に対し、いわゆる膨張処理と一般に称されている画像処理を施して該白線の像のかすれを補填する。
図7において、まず、S301では、白線補填処理の処理対象とする対象領域100内の部分画像を取得する処理が行われる。
【0081】
次に、S302では、S301の処理で取得した部分画像を構成している画素のひとつに注目し、その注目画素の輝度が、当該注目画素が白線部分を映していると判定し得る所定の閾値以上であるか否かを判定する処理が行われる。なお、この閾値として、例えば、前述した輝度閾値設定処理により設定した輝度閾値を用いるようにしてもよい。
【0082】
このS302の判定処理において、当該注目画素が所定の閾値以上であると判定されたとき(判定結果がYesのとき)には、S303に処理を進める。一方、当該注目画素が所定の閾値以上であると判定されたとき(判定結果がYesのとき)には、S304に処理を進める。
【0083】
S303では、膨張処理として、S302の処理で注目した注目画素と、その注目画素に隣接する8個の隣接画素との輝度値とを、純白を示す値(例えば256階調における最大値)に変更する処理が行われる。隣接する上下左右又は斜め方向の4画素のみの処理でもよい。
【0084】
次に、S304では、S302の処理で注目する画素を他のものに変更する処理が行われる。
次に、S305では、S301の処理で取得した部分画像を構成している全ての画素に対して、S302の判定処理を済ませたか否かを判定する処理が行われる。ここで、全ての画素に対してS302の判定処理を済ませたと判定したとき(判定結果がYesのとき)には、この白線補填処理を終了する。一方、S302の判定処理を済ませていない画素が部分画像に残っていると判定したとき(判定結果がNoのとき)には、S302に処理を戻して、未判定の画素に対してS302の判定処理を行う。但し、このときの判定処理では、S303の処理によって変更がされる前の輝度値(すなわち、S301の処理で取得した部分画像における輝度値)に基づいた判定を行う。
【0085】
以上の白線補填処理を行うことで、側方画像に映っている白線に対して当該白線の像のかすれを補填することができる。なお、車両位置検出制御処理において、この白線補填処理を行わなくても、車両位置を検出することは可能である。
【0086】
次に、図3の車両位置検出制御処理におけるS107の処理として実行される、スコア算出処理の詳細について説明する。図8は、スコア算出処理の処理内容を図解したフローチャートである。
【0087】
まず、S401では、スコア計算用の度数閾値を設定する処理が行われる。この処理では、例えば、前述した輝度閾値設定処理により設定された輝度閾値から第一の所定値(「0」でもよい)を減算した値に第二の所定値(「1」でもよい)を乗じた値を、この度数閾値として設定するようにしてもよい。また、この度数閾値を、例えば、輝度閾値設定処理により設定された輝度閾値と、側方画像を構成する全画素(若しくは路面が映っている部分の部分画像を構成する画素)の輝度平均値との中間値に所定値(「1」でもよい)を乗じた値に設定するようにしてもよい。
【0088】
次に、S402では、側方画像に設定された各対象領域100についての横方向ヒストグラムにおいて、度数が、S401の処理で設定した度数閾値以上である階級が連続して存在する場合における、当該階級の連続数を計数して求める処理が行われる。図3の車両位置検出制御処理におけるS108の実線判定処理では、この計数値に基づいた判定が行われる。
【0089】
次に、S403では、側方画像に設定された各対象領域100についての横方向ヒストグラムのスコアを次のようにして計算する処理が行われる。
まず、横方向ヒストグラムの各階級に、自車両から近い順に、+2、+2、+2、+1、+1、0、0、−1、(以降全て−1)の獲得可能スコアを設定しておく。そして、横方向ヒストグラムの各階級のうち、S401の処理で設定した度数閾値以上の度数を有していた階級のみに、上記の獲得可能スコアを獲得させる。そして、各階級で獲得したスコアの合計を計算し、得られた合計値を、その対象領域100についての横方向ヒストグラムのスコアとする。
【0090】
獲得可能スコアが上記のように設定されているので、車線の境界を示す白線に自車両が接近すると、横方向ヒストグラムのスコアは大きくなり、当該白線から自車両が遠ざかると、横方向ヒストグラムのスコアは小さくなる。つまり、この横方向ヒストグラムのスコアの大きさは、自車両の位置の当該白線からの近さを反映していることになる。
【0091】
図3の車両位置検出制御処理におけるS109の接近検出処理では、この横方向ヒストグラムのスコアの大きさが所定の基準閾値を超える基準範囲に含まれるか否かを判定する。そして、当該スコアが所定の基準範囲に含まれるものがあった場合には、自車両の走行車線の境界への接近を検出したとの判定を下し、その他の場合には、自車両の走行車線の境界への接近は検出されなかったとの判定を下す。
【0092】
次に、S404では、3分割ヒストグラムのスコア計算処理が行われる。
ここで3分割ヒストグラムについて説明する。
まず、側方画像に配置した対象領域100を、その位置が自車両側方の前輪寄りであるか、後輪寄りであるか、あるいはそれらの中間であるかによって、3つのグループに分類する。例えば、図4及び図5の側方画像例では、9個配置した対象領域100を、前輪寄り、後輪寄り、中間に各グループに3つずつ分類する。
【0093】
次に、同一グループに分類された対象領域100の各々についての横方向ヒストグラムにおいて、同一階級の度数の合計を階級毎に求め、その階級毎の合計値を度数として得られるグループ毎のヒストグラムが3分割ヒストグラムである。
【0094】
路面に描かれているは白線が実線の場合、3分割ヒストグラムは、各グループ間で似た形状となり、白線が実線でない場合には、その形状が各グループ間で著しく異なったものとなる。すなわち、3分割ヒストグラムの各グループ間での類似度を求めて所定値との大小比較を行うことにより、路面に描かれているは白線が実線であるか否かを判定することができる。従って、図3の車両位置検出制御処理におけるS108の実線判定処理における判定を、このように3分割ヒストグラムを用いて行うようにすることもできる。
【0095】
S404のスコア計算処理では、S403の横方向ヒストグラムのスコア計算処理と同様の計算を、各グループの3分割ヒストグラムに対して行う。
図3の車両位置検出制御処理におけるS109の接近検出処理では、この3分割ヒストグラムのスコアの大きさが所定の閾値以下か否かを判定する。そして、当該スコアが当該閾値以下であった場合には、路面に描かれている白線が実線であることがより確実であるとの判定を下し、自車両が走行している走行車線の境界への自車両の接近の検出の判定を、横方向ヒストグラムに基づいたものに委ねる。一方、当該スコアが当該閾値を超えた場合(白線部分が顕著に広い場合)には、路面に描かれている白線が、走行車線の境界を示す実線ではない(例えば、停止線や、文字・矢印等を路面上に描いたペイントなど)可能性が高いとの判定を下す。このような場合には、横方向ヒストグラムに基づいた前述の検出判定の結果は疑わしいと推定し、横方向ヒストグラムに基づく判定結果に拘らずにS101に処理を戻し、新たに撮像された側方画像に基づく検出処理が改めて行われる。
【0096】
なお、3分割ヒストグラムの生成を行う場合には、図3の車両位置検出制御処理におけるS106の輝度度数分布生成処理により生成する。但し、3分割ヒストグラムの生成を行わずに、前述した横方向ヒストグラムのみでも車両位置の検出を行うことは可能であり、この場合には、S404の処理は不要である。
【0097】
次に、S405では、縦方向ヒストグラムにおける各階級の度数のばらつきを計算する処理が行われる。この処理は、前述した輝度度数分布生成処理において縦方向ヒストグラムを更に生成した場合に行われる処理である。
【0098】
この処理は、具体的には、縦方向ヒストグラムにおける度数の分散を示す値として、縦方向ヒストグラムにおける度数の平均値と各階級での度数との差の絶対値の全階級での合計値を算出する。図3の車両位置検出制御処理におけるS109の接近検出処理では、このS405の処理で算出された値の大きさが所定の閾値以下か否かを判定する。そして、この値の大きさが所定の閾値以下であった場合には、路面に描かれている白線が実線であることがより確実であるとの判定を下し、自車両が走行している走行車線の境界への自車両の接近の検出の判定を、横方向ヒストグラムに基づいたものに委ねる。一方、この値の大きさが当該閾値を超えた場合には、路面に描かれている白線が、走行車線の境界を示す実線ではない可能性が高いとの判定を下す。このような場合には、横方向ヒストグラムに基づいた前述の検出判定の結果は疑わしいと推定し、横方向ヒストグラムに基づく判定結果に拘らずにS101に処理を戻し、新たに撮像された側方画像に基づく検出処理が改めて行われる。
以上の処理が完了すると、その後はこのスコア算出処理を終了する。
【0099】
次に、図3の車両位置検出制御処理におけるS110の処理として実行される、白線部分画像領域抽出処理の詳細について説明する。
【0100】
まず図9について説明する。図9は、白線部分画像領域抽出処理の処理内容を図解したフローチャートである。
図9のフローチャートでは、S501からS505までの処理と、S511からS512までの処理とが並行して行われる。
【0101】
まず、S501では、前方矩形(第一部分画像領域)内の部分画像を取得する処理が行われ、この処理と並行して、S511では、後方矩形(第二部分画像領域)内の部分画像を取得する処理が行われる。
【0102】
ここで、前方矩形及び後方矩形について、図10を参照しながら説明する。
図10の側方画像には前方矩形200と後方矩形300とが配置されている。前方矩形200は、側方画像における自車両の進行方向の前方の所定位置に配置される矩形であり、後方矩形300は、側方画像における自車両の進行方向の後方の所定位置に配置される矩形である。なお、本実施形態では、前方矩形200と後方矩形300とを同一の形状・大きさとすると共に、この両者の側方画像における縦方向の位置を同一にしている。
【0103】
前述した対象領域100と同様に、前方矩形200及び後方矩形300も側方画像において道路が映っている領域内に配置する。本実施形態では、前述したように、カメラ2の撮影方向が、側方の方向の地平線が側方画像の縦方向のほぼ中間付近にほぼ直線状に映るように調整されているので、前方矩形200及び後方矩形300を、側方画像の下半分の領域に配置している。つまり、カメラ2の撮影方向を上述のように調整しておいたことで、側方画像の上半分の領域を車両位置検出制御処理での処理対象から一旦除外することができるので、画像処理量の削減に寄与するのである。
【0104】
また、本実施形態では、前方矩形200及び後方矩形300を、それぞれ、側方画像の左右端における縦方向のほぼ中間付近(且つ、道路が映っている領域内)に配置している。これは、広角画像である側方画像には、左右両端付近における縦方向のほぼ中間付近に画像消失点が存在するので、その画像消失点を取り込む位置若しくは当該画像消失点の近傍の位置に前方矩形200及び後方矩形300を配置することを意図したものである。前方矩形200及び後方矩形300には、白線部分の画像領域が含まれている必要がどちらにもある。画像消失点を取り込む位置、もしくはその近傍の位置に前方矩形200及び後方矩形300を配置すれば、自車両の走行車線との境界を示す白線が破線であっても、両矩形内の部分画像に、その破線の白線部分の画像領域が含まれる期待が高まる。また、前方矩形200及び後方矩形300を側方画像の中央付近に設けた場合と比較して、白線部分の画像領域が含まれている領域という条件を満たす為に必要な矩形の面積が小さくて済む。
【0105】
図9の説明に戻る。
S511に続くS512の処理の内容は、S502からS505までの処理と同一であり、その処理の対象が、S501の処理で取得した部分画像ではなく、S511の処理で取得した部分画像となる点が異なるのみである。そこで、以下の説明では、S502からS505までの処理の内容を説明し、S512の処理についての説明は省略する。
【0106】
S502では、S501の処理で取得した部分画像を構成している画素のひとつに注目し、その注目画素の輝度が、当該注目画素が白線部分を映していると判定し得る所定の閾値以上であるか否かを判定する処理が行われる。なお、この閾値として、例えば、前述した輝度閾値設定処理により設定した輝度閾値を用いるようにしてもよい。
【0107】
このS502の判定処理において、当該注目画素が所定の閾値以上であると判定されたとき(判定結果がYesのとき)には、S503に処理を進める。一方、当該注目画素が所定の閾値以上ではないと判定されたとき(判定結果がNoのとき)には、S504に処理を進める。
【0108】
S503では、膨張処理として、S502の処理で注目した注目画素と、その注目画素に隣接する8個の隣接画素との輝度値とを、純白を示す値(例えば256階調における最大値)に変更する処理が行われる。
【0109】
次に、S504では、S502の処理で注目する画素を他のものに変更する処理が行われる。
次に、S505では、S501の処理で取得した部分画像を構成している全ての画素に対して、S502の判定処理を済ませたか否かを判定する処理が行われる。ここで、全ての画素に対してS502の判定処理を済ませたと判定したとき(判定結果がYesのとき)には、この白線部分画像領域抽出処理を終了する。一方、S502の判定処理を済ませていない画素が部分画像に残っていると判定したとき(判定結果がNoのとき)には、S502に処理を戻して、未判定の画素に対してS502の判定処理を行う。但し、このときの判定処理では、S503の処理によって変更がされる前の輝度値(すなわち、S501の処理で取得した部分画像における輝度値)に基づいた判定を行う。
【0110】
なお、上述したS502からS505までの処理は、図7のS302からS305までの処理と同一である。つまり、この図9の処理では、S501及びS511の処理でそれぞれ取得した前方矩形200内と後方矩形300内との部分画像に映っている白線に対し、その白線の像のかすれを補填するための膨張処理を施す白線補填処理も併せて行っているのである。
【0111】
次に、S112の処理により実行される推定処理における推定白線の推定手法について、図11を参照しながら説明する。
図11は、前方矩形200若しくは後方矩形300(以下、これらを総称して単に「矩形」と称することもある)に囲まれている部分画像に白線が映っている状態を描いたものである。なお、図11の例では、破線状の白線を構成している矩形状の白線(破線部)の全域が矩形内に映っている例を示しているが、この例に限るものではなく、白線の一部が矩形内に映っていればよい。なお、前述した白線部分画像領域抽出処理におけるS503(あるいはS512)の処理により、当該部分画像における白線の部分の画素の輝度値は純白を示す値となっている。
【0112】
まず、[1]白線を部分画像から抽出する処理が行われる。この処理は、具体的には、部分画像を構成している画素から、輝度値が純白を示す値となっている画素を抽出する処理となる。
【0113】
次に、[2]白線の端点の位置を、以下のようにして求める処理が行われる。
まず、側方画像の左側に配置されている矩形内の部分画像に映っている白線の場合には、当該白線の像を構成している画素のうちで、最も左の位置の画素と最も下の位置の画素とを端点と定める。ここで、位置が最も左である画素が縦方向に並んで複数存在した場合には、そのうちで最も位置が下である画素を、最も左の位置の画素とする。また、位置が最も下である画素が横方向に並んで複数存在した場合には、そのうちで最も位置が左である画素を、最も下の位置の画素とする。なお、最も左の位置の画素と最も下の位置の画素との二つを特定できなかった場合は、矩形内に白線を検出できなかったものとし、処理対象外にする。
【0114】
一方、側方画像の右側に配置されている矩形内の部分画像に映っている白線の場合には、当該白線の像を構成している画素のうちで、最も右の位置の画素と最も下の位置の画素とを端点と定める。そして、これらの端点の側方画像上の位置を特定する座標を取得する。ここで、位置が最も右である画素が縦方向に並んで複数存在した場合には、そのうちで最も位置が下である画素を、最も右の位置の画素とする。また、位置が最も下である画素が横方向に並んで複数存在した場合には、そのうちで最も位置が右である画素を、最も下の位置の画素とする。なお、最も右の位置の画素と最も下の位置の画素との二つを特定できなかった場合は、矩形内に白線を検出できなかったものとし、処理対象外にする。
【0115】
白線の端点の位置を探索する処理において、前述の通り、画像消失点を取り込む位置、もしくはその近傍の位置に前方矩形200及び後方矩形300を配置することで、探索対象となる前方矩形もしくは後方矩形の面積を小さくすることができる。これらの矩形の面積を小さくすると、探索に要する計算量を少なくすることができる。
【0116】
次に、[3]前方矩形200内及び後方矩形300内の部分画像に1つずつ映っている白線を滑らかに結ぶ推定白線を推定する処理を行う。この推定は以下のようにして行われる。
【0117】
まず、同一矩形内から求めた2つの端点を結ぶ直線の傾きの値を算出する処理を、前方矩形200と後方矩形300との各々について行う。この処理により得られた傾きの値を、矩形内の部分画像に映っている白線における、最も下の位置の画素の存在する側の線端での向きを示す値とする。
【0118】
次に、以上のようにして得られた、前方矩形200内及び後方矩形300内のそれぞれの部分画像に映っている白線における上記の線端の位置及び向きに対応する推定白線のデータを、ROM24に予め格納されているデータテーブルから取得する処理を行う。
【0119】
ROM24に格納されている推定白線データテーブルのデータ構造を図12に示す。
このデータテーブルにおいて、「横方向位置」の欄には、矩形内の部分画像に映っている白線における最も下の位置の画素についての、側方画像上での横方向の位置を示す座標が格納される。また、「向き」の欄には、矩形内の部分画像に映っている白線における、最も下の位置の画素の存在する側の線端での向きを示す値(すなわち、前述したようにして算出した傾き値)が格納される。そして、推定白線データの欄には、前方矩形200についての「横方向位置」がxf、「向き」がafであり、後方矩形300についての「横方向位置」がxr、「向き」がarである場合における推定白線の位置を特定するデータW(x,y)が格納されている。この推定白線のデータは、例えば、上記の場合において、前方矩形200内及び後方矩形300内の部分画像に1つずつ映っている白線を滑らかに結ぶ白線を実際に描くことで得られる、その白線を特定する情報を格納しておく。この情報は、例えば、推定白線が通る全ての画素の側方画像上の位置を特定する座標情報でもよく、また、その推定白線を表す関数式の情報でもよい。
【0120】
なお、図12の推定白線データテーブルでは、データ量の削減のため、矩形内の部分画像に映っている白線における最も下の位置の画素についての、側方画像上での縦方向の位置を示す「縦方向位置」の情報を無視している。ここで、ROM24のデータ格納容量に余裕があるならば、前方矩形200及び後方矩形300各々の「縦方向位置」の欄を推定白線データテーブルに追加し、推定白線のデータの当該テーブルからの取得を、更に、この「縦方向位置」にも基づくようにしてもよい。
【0121】
また、前方矩形200及び後方矩形300それぞれについての「横方向位置」及び「向き」(更には「縦方向位置」)の情報を引数とし、推定白線を示す数式を出力する関数を予め作成しておき、この関数を用いて、推定白線の推定を行うようにしてもよい。
【0122】
S112の処理により実行される推定処理では、以上のようにして推定白線の推定が行われる。
図1の車両位置検出装置は、以上のように動作するので、車線に対する車両の位置関係の検出に広角画像を用いても、その検出を精度良く行うことができる。
【0123】
なお、以上までに説明した実施形態に関し、更に以下の付記を開示する。
(付記1)
道路上の車両の側方の方向を撮像した側方画像から、該道路の路面上に描かれており該車両が走行している車線の境界を表している白線が各々に映っている2つの部分画像領域を、第一部分画像領域及び第二部分画像領域として抽出する白線部分画像領域抽出手段と、
該第一部分画像領域に映っている白線である第一白線と該第二部分画像領域に映っている白線である第二白線とを結ぶ推定線を、該第一白線及び該第二白線の各々について、該側方画像上での線端の位置及び該線端での向きに基づいて推定する推定手段と、
該推定線の該側方画像上での位置に基づき、該車線に対する該車両の位置関係を検出する位置関係検出手段と、
を有することを特徴とする車両位置検出装置。
(付記2)
前記白線部分画像領域抽出手段は、前記第一部分画像領域及び前記第二部分画像領域として、前記側方画像の画像消失点を含む領域を抽出することを特徴とする付記1に記載の車両位置検出装置。
(付記3)
該側方画像に映っている該車線の境界を表している白線が実線であるか否かを判定する実線判定手段を更に有し、
該推定手段は、該側方画像において該車線の境界を表している白線が実線ではないと該実線判定手段が判定したときに、該推定線の推定を行う、
ことを特徴とする付記1に記載の車両位置検出装置。
(付記4)
該車両との相対位置、撮像方向、及び撮像倍率が固定されており、該白線部分画像領域抽出手段が該部分画像領域を抽出する側方画像の撮像を行う撮像手段と、
該撮像手段が撮像した側方画像において予め位置が設定されている所定の範囲内の部分画像に基づいて、該部分画像を構成する各画素についての輝度値の度数分布であって、該側方の方向に同一幅で距離に応じた階級が定められており輝度値が所定の輝度閾値以上である画素の度数を示している側方輝度値度数分布を生成する輝度度数分布生成手段と、
を更に有し、
該実線判定手段は、該輝度度数分布生成手段が生成した側方輝度値度数分布において、度数が所定の度数閾値以上である階級が連続して所定数以上存在した場合には、該側方画像において該車線の境界を表している白線が実線であるとの判定を下し、その他の場合には、該白線が実線ではないとの判定を下す、
ことを特徴とする付記3に記載の車両位置検出装置。
(付記5)
該所定の輝度閾値を、該撮像手段が撮像した側方画像を構成する各画素の輝度値に基づいて設定する輝度閾値設定手段を更に有することを特徴とする付記4に記載の車両位置検出装置。
(付記6)
該輝度閾値設定手段は、該撮像手段が撮像した側方画像を構成する各画素の輝度値の平均値、若しくは該平均値に所定値を加算した値を、該所定の輝度閾値として設定することを特徴とする付記5に記載の車両位置検出装置。
(付記7)
該実線判定手段が、該側方画像において該車線の境界を表している白線が実線であるとの判定を下したときに、該車両の該車線の境界への接近を、該輝度度数分布生成手段が生成した側方輝度値度数分布に基づいて検出する接近検出手段を更に有することを特徴とする付記3に記載の車両位置検出装置。
(付記8)
該車両との相対位置、撮像方向、及び撮像倍率が固定されており、該白線部分画像領域抽出手段が該部分画像領域を抽出する側方画像の撮像を行う撮像手段を更に有し、
該白線部分画像領域抽出手段は、該部分画像領域を、該側方画像において予め位置が設定されている所定の範囲内から抽出する、
ことを特徴とする付記1に記載の車両位置検出装置。
(付記9)
該車両の状況を表している車両情報の入力を取得する車両情報取得手段と、
該車両の状況が、該位置関係の検出を行う状況であるか否かの判定を、該車両情報取得手段が取得した車両情報に基づいて行う状況判定手段と、
を更に有し、
該位置関係検出手段は、該車両の現在の状況が該位置関係の検出を行う状況であるとの判定結果を該状況判定手段が下したときに、該位置関係の検出を行う、
ことを特徴とする付記1に記載の車両位置検出装置。
(付記10)
道路上の車両の側方の方向を撮像した側方画像から、該道路の路面上に描かれており該車両が走行している車線の境界を表している白線が各々に映っている2つの部分画像領域を、第一部分画像領域及び第二部分画像領域として抽出し、
該第一部分画像領域に映っている白線である第一白線と該第二部分画像領域に映っている白線である第二白線とを結ぶ推定線を、該第一白線及び該第二白線の各々について、該側方画像上での線端の位置及び該線端での向きに基づいて推定し、
該推定線の該側方画像上での位置に基づき、該車線に対する該車両の位置関係を検出する、
ことを特徴とする車両位置検出方法。
(付記11)
演算処理装置が実行することによって、
道路上の車両の側方の方向を撮像した側方画像から、該道路の路面上に描かれており該車両が走行している車線の境界を表している白線が各々に映っている2つの部分画像領域を、第一部分画像領域及び第二部分画像領域として抽出する白線部分画像領域抽出処理と、
該第一部分画像領域に映っている白線である第一白線と該第二部分画像領域に映っている白線である第二白線とを結ぶ推定線を、該第一白線及び該第二白線の各々について、該側方画像上での線端の位置及び該線端での向きに基づいて推定する推定処理と、
該推定線の該側方画像上での位置に基づき、該車線に対する該車両の位置関係を検出する位置関係検出処理と、
を該演算処理装置に行わせることを特徴とする車両位置検出プログラム。
【符号の説明】
【0124】
1 ECU
2 カメラ
3 車両IF
4 スピーカ
11 映像入力部
12 モノクロ変換部
13 車両情報入力部
14 演算部
15 警報出力部
21 MPU
22 インタフェース部
23 RAM
24 ROM
25 バス
100 対象領域
200 前方矩形
300 後方矩形

【特許請求の範囲】
【請求項1】
道路上の車両の側方の方向を撮像した側方画像から、該道路の路面上に描かれており該車両が走行している車線の境界を表している白線が各々に映っている2つの部分画像領域を、第一部分画像領域及び第二部分画像領域として抽出する白線部分画像領域抽出手段と、
該第一部分画像領域に映っている白線である第一白線と該第二部分画像領域に映っている白線である第二白線とを結ぶ推定線を、該第一白線及び該第二白線の各々について、該側方画像上での線端の位置及び該線端での向きに基づいて推定する推定手段と、
該推定線の該側方画像上での位置に基づき、該車線に対する該車両の位置関係を検出する位置関係検出手段と、
を有することを特徴とする車両位置検出装置。
【請求項2】
前記白線部分画像領域抽出手段は、前記第一部分画像領域及び前記第二部分画像領域として、前記側方画像の画像消失点を含む領域を抽出することを特徴とする請求項1に記載の車両位置検出装置。
【請求項3】
該側方画像に映っている該車線の境界を表している白線が実線であるか否かを判定する実線判定手段を更に有し、
該推定手段は、該側方画像において該車線の境界を表している白線が実線ではないと該実線判定手段が判定したときに、該推定線の推定を行う、
ことを特徴とする請求項1に記載の車両位置検出装置。
【請求項4】
該車両との相対位置、撮像方向、及び撮像倍率が固定されており、該白線部分画像領域抽出手段が該部分画像領域を抽出する側方画像の撮像を行う撮像手段と、
該撮像手段が撮像した側方画像において予め位置が設定されている所定の範囲内の部分画像に基づいて、該部分画像を構成する各画素についての輝度値の度数分布であって、該側方の方向に同一幅で距離に応じた階級が定められており輝度値が所定の輝度閾値以上である画素の度数を示している側方輝度値度数分布を生成する輝度度数分布生成手段と、
を更に有し、
該実線判定手段は、該輝度度数分布生成手段が生成した側方輝度値度数分布において、度数が所定の度数閾値以上である階級が連続して所定数以上存在した場合には、該側方画像において該車線の境界を表している白線が実線であるとの判定を下し、その他の場合には、該白線が実線ではないとの判定を下す、
ことを特徴とする請求項3に記載の車両位置検出装置。
【請求項5】
該所定の輝度閾値を、該撮像手段が撮像した側方画像を構成する各画素の輝度値に基づいて設定する輝度閾値設定手段を更に有することを特徴とする請求項4に記載の車両位置検出装置。
【請求項6】
該輝度閾値設定手段は、該撮像手段が撮像した側方画像を構成する各画素の輝度値の平均値、若しくは該平均値に所定値を加算した値を、該所定の輝度閾値として設定することを特徴とする請求項5に記載の車両位置検出装置。
【請求項7】
道路上の車両の側方の方向を撮像した側方画像から、該道路の路面上に描かれており該車両が走行している車線の境界を表している白線が各々に映っている2つの部分画像領域を、第一部分画像領域及び第二部分画像領域として抽出し、
該第一部分画像領域に映っている白線である第一白線と該第二部分画像領域に映っている白線である第二白線とを結ぶ推定線を、該第一白線及び該第二白線の各々について、該側方画像上での線端の位置及び該線端での向きに基づいて推定し、
該推定線の該側方画像上での位置に基づき、該車線に対する該車両の位置関係を検出する、
ことを特徴とする車両位置検出方法。
【請求項8】
演算処理装置が実行することによって、
道路上の車両の側方の方向を撮像した側方画像から、該道路の路面上に描かれており該車両が走行している車線の境界を表している白線が各々に映っている2つの部分画像領域を、第一部分画像領域及び第二部分画像領域として抽出する白線部分画像領域抽出処理と、
該第一部分画像領域に映っている白線である第一白線と該第二部分画像領域に映っている白線である第二白線とを結ぶ推定線を、該第一白線及び該第二白線の各々について、該側方画像上での線端の位置及び該線端での向きに基づいて該側方画像上に推定する推定処理と、
該推定線の該側方画像上での位置に基づき、該車線に対する該車両の位置関係を検出する位置関係検出処理と、
を該演算処理装置に行わせることを特徴とする車両位置検出プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図12】
image rotate

【図4】
image rotate

【図5】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2011−95846(P2011−95846A)
【公開日】平成23年5月12日(2011.5.12)
【国際特許分類】
【出願番号】特願2009−246846(P2009−246846)
【出願日】平成21年10月27日(2009.10.27)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】