道路環境情報取得装置及びその方法
【課題】撮像画像を基に道路環境を高い精度で検出する。
【解決手段】道路環境生成装置1は、自車両前方を撮像するカメラ2の撮像画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定する画素検出枠設定部13と、画素検出枠内の画素の情報を基に、該画素検出枠内の画像のエッジを算出する道路環境特徴算出部13と、エッジを表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出する近似直線算出部14と、画素検出枠の車幅方向に延びる辺に近似直線が交差するか否かを判定する画素検出枠交差判定部15と、交差すると判定した近似直線と画素検出枠の車両進行方向に延びる辺との平行度を基に、エッジを画像内の道路環境を表すものとしての決定をする道路環境生成部16と、を備える。
【解決手段】道路環境生成装置1は、自車両前方を撮像するカメラ2の撮像画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定する画素検出枠設定部13と、画素検出枠内の画素の情報を基に、該画素検出枠内の画像のエッジを算出する道路環境特徴算出部13と、エッジを表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出する近似直線算出部14と、画素検出枠の車幅方向に延びる辺に近似直線が交差するか否かを判定する画素検出枠交差判定部15と、交差すると判定した近似直線と画素検出枠の車両進行方向に延びる辺との平行度を基に、エッジを画像内の道路環境を表すものとしての決定をする道路環境生成部16と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像画像を基に道路環境の情報を取得する技術に関する。
【背景技術】
【0002】
車載カメラの撮像画像を基に白線等の走行レーンを検出する走行レーン検出装置や走行レーン検出方法が多数存在する。
例えば、引用文献1では、白線を検出することを目的として、画像の設定領域内で輝度の最大値となる画素を検出し、検出した画素を基準に他の画素の輝度分布を求め、ノイズ処理を行わずに白線の近似直線を求めている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平5−347000号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の走行レーン検出装置や走行レーン検出方法では、設定領域内の全ての画素を用いて道路環境である走行レーンを検出している。
これにより、走行レーン以外の道路環境を示す画素が設定領域内に含まれると、その影響を受けてしまい走行レーンの検出精度が悪化してしまう恐れがある。
本発明の課題は、撮像画像を基に道路環境を高い精度で検出することである。
【課題を解決するための手段】
【0005】
前記課題を解決するために、本発明は、撮像手段が撮像した画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定し、設定した画素検出枠内の画素を基に、該画素検出枠内の画像の特徴部を算出し、算出した特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出し、画素検出枠の車幅方向に延びる辺に近似直線が交差するか否かを判定し、交差判定手段が交差すると判定した近似直線と画素検出枠の車両進行方向に延びる辺との平行度を基に、特徴部を画像内の道路環境を表すものとしての決定をする。
【発明の効果】
【0006】
本発明によれば、画素検出枠内の画像の特徴部を表す画素の位置を基に算出した近似直線を用い、さらにはその近似直線とその画素検出枠の形状との比較結果を用いることで、道路環境の特徴を適切に示す特徴部を該道路環境のものとする決定ができるため、撮像画像を基に道路環境を高い精度で検出できる。
【図面の簡単な説明】
【0007】
【図1】本実施形態の道路環境生成装置の構成を示すブロック図である。
【図2】車両へのカメラの搭載状態を示す図である。
【図3】カメラの撮像画像(自車両前方の画像)の例を示す図である。
【図4】画素検出枠設定の処理結果を説明する図であり、算出される自車両の推定進路中心位置、画素検出枠を示す図である。
【図5】新たに設定した画素検出枠の例を示す図である。
【図6】2値化処理により得たエッジに対して施す種々の処理を説明する図である。
【図7】速度画像の例を示す図である。
【図8】道路環境特徴を持つ画素の階級値により表される速度画像を示す図である。
【図9】ノイズとして削除された画素(道路環境特徴を持つ画素でないとされた画素)の例を説明する図である。
【図10】3点の画素を用いて算出された近似直線の例を示す図である。
【図11】近似直線と画素検出枠の車幅方向に延びる辺との交差の状態を示す図である。
【図12】近似直線の判定を説明する図である。
【図13】走路環境生成装置の一連の処理動作を示すフローチャートである。
【発明を実施するための形態】
【0008】
(構成)
本実施形態は、道路環境生成装置である。
図1は、道路環境生成装置1の構成を示すブロック図である。
図1に示すように、道路環境生成装置1は、カメラ2及び制御部10を有する。
カメラ2は、車両前方を撮像する撮像部である。カメラ2は、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を有したカメラである。
【0009】
図2は、車両100へのカメラ2の搭載状態を示す。図2(a)は車両100の側面図を示し、図2(b)は車両100の平面図を示す。
図2に示すように、車両100の室内上部前方中央にカメラ2を設置している。光軸LSが車両進行方向又は車両前方正面方向(Z方向)に向き、また、撮像面の水平軸Xが路面に対して平行かつ車両前方正面方向に対して垂直になり、また、撮像面の垂直軸Yが路面に対して垂直かつ車両前方正面方向に対して垂直になるようにカメラ2を設置している。
【0010】
図3は、カメラ2の撮像画像(自車両前方の画像)の例を示す。
図3に示すように、本実施形態では、画像左上に原点(0,0)をとり、左右方向をx軸(右側に行くほどx値が増加)とし、上下方向をx軸(下側に行くほどx値が増加)とするxy座標系によって撮像画像内の位置(具体的には画素位置)を表している。なお、この図3では、左右の白線、外壁、外壁と走行路との境界線を撮像画像が含んでいる。また、撮像画像内の道路は右カーブ路になっている。
【0011】
カメラ2は、車両前方を連続的に撮像し、フレーム毎に撮像画像を制御部10(画像一時記録部11)に出力する。
図1に示すように、制御部10は、画像一時記録部11、画素検出枠設定部12、道路環境特徴算出部13、近似直線算出部14、画素検出枠交差判定部15、及び道路環境生成部16を有する。例えば、制御部10は、プログラムの実行によりこれら各部を実現する。
【0012】
ここで、画像一時記録部11は、カメラ2の撮像画像を一時的に記憶する。画素検出枠設定部12は、車両情報及び道路形状情報等を基に、撮像画像に対して画素検出枠を設定する。道路環境特徴算出部13は、撮像画像内で速度を有する部位の速度及び方向を示す移動情報を基に、画素検出枠内の道路環境特徴を算出する。近似直線算出部14は、画素検出枠設定部12が設定した画素検出枠内の道路環境特徴を持つ画素を基に近似直線を算出する。画素検出枠交差判定部15は、近似直線算出部14が算出した近似直線と画素検出枠との交差の判定結果等から、最終的な近似直線を算出する。
【0013】
制御部10の各構成部の処理は、より具体的には次のようになる。
画素検出枠設定部12は、車両情報又は道路形状情報を取得する。例えば、車両情報とは、自車両幅、車速、ヨーレイト等であり、道路形状情報は道路の曲率半径や道路幅等である。例えば、自車両に搭載のセンサや記憶部、撮像画像、又は路車間通信により車両情報や道路経路情報を取得する。そして、画素検出枠設定部12は、取得した車両情報又は道路形状情報を基に、撮像画像内における自車両の推定進路中心位置を算出する。
【0014】
図4は、画素検出枠設定部12の処理結果を説明する図であり、算出される自車両の推定進路中心位置、画素検出枠を示す図である。
図4に示すように、本実施形態では、画素検出枠設定部12は、道路形状にほぼ沿うような推定進路中心位置Oを算出する。
【0015】
そして、画素検出枠設定部12は、自車両の進行方向の近傍及び遠方、並びに推定進路中心位置に対して左右に、撮像画像内の画素を検出(抽出)するための画素検出枠(4つの画素検出枠)を設定する。
【0016】
本実施形態では、画素検出枠設定部12は、図4に示すように、車幅方向に予め設定した車線幅を持ち、前後方向に予め設定した所定距離の広さを持つ方形の近傍画素検出枠を自車両近傍側で推定進路中心位置に対して左右に設定する。また、本実施形態では、近傍画素検出枠の形状を進行方向前方にいくほど幅が狭くなる台形に設定している。例えば、ここでいう予め設定した車線幅は3.2mであり、ここでいう予め設定した所定距離は30mである。以降、左側の近傍画素検出枠を左側近傍画素検出枠(左側近傍画素検出領域)NL1といい、右側の近傍画素検出枠を右側近傍画素検出枠(右側近傍画素検出領域)NR1という。
【0017】
また、画素検出枠設定部12は、図4に示すように、近傍画素検出枠の後方(自車両からみて近傍画素検出枠よりも遠方)に、車幅方向に車線幅を持ち、前後方向に予め設定した所定距離の広さを持つ方形の遠方画素検出枠を自車両遠方側で推定進路中心位置に対して左右に設定する。また、本実施形態では、遠方画素検出枠の形状を進行方向前方にいくほど幅が狭くなる台形に設定している。例えば、ここでいう予め設定した所定距離は30m以上かつ100m以下である。以降、左側の遠方画素検出枠を左側遠方画素検出枠(左側遠方画素検出領域)FL1といい、右側の遠方画素検出枠を右側遠方画素検出枠(右側遠方画素検出領域)FR1という。
【0018】
さらに、画素検出枠設定部12は、推定進路中心付近に設定した画素検出枠内における道路環境の生成又は決定(又は近似直線の算出)が終了すると、その画素検出枠の側方に新たに画素検出枠を設定する。このとき、画素検出枠設定部12は、その道路特徴の生成結果を基に、新たに画素検出枠を設定する。
【0019】
具体的には、画素検出枠設定部12は、推定進路中心付近に設定した画素検出枠と新たに設定した画素検出枠が、生成した道路環境以外の道路環境特徴(生成した道路環境を構成しない道路環境特徴)が予め設定した所定値以上含まれるか否かを判定する。そして、画素検出枠設定部12は、所定値以上含まれると判定すると、推定進路中心付近に設定した画素検出枠内及び新たに設定した画素検出枠内に複数の道路環境があると判断して、推定進路中心付近に設定した画素検出枠に新たに設定した画素検出枠をオーバーラップさせる。
【0020】
また、画素検出枠設定部12は、所定値未満の場合、又は道路環境が生成されていない場合には、中心付近に道路環境特徴が無い(又は新たな道路環境特徴が無い)と判断して、新たに設定する画素検出枠を推定進路中心付近に設定した画素検出枠に隣接させる。
【0021】
図5は、新たに設定した画素検出枠NL2の例を示す。
図5に示すように、本実施形態では、画素検出枠設定部12は、左側近傍画素検出枠NL1にオーバーラップして新たに近傍画素検出枠NL2を設定している。また、画素検出枠設定部12は、右側は新たな画素検出枠を設定可能な領域を確保できないため、新たな画素検出枠の設定を行っていない。
【0022】
道路環境特徴算出部13は、画像一時記録部11から撮像画像を読み込む。そして、道路環境特徴算出部13は、読み込んだ撮像画像に対して2値化処理を施してエッジを抽出する。ここでいう2値化処理では、予め設定した閾値と画素の値(例えば輝度情報)とを比較して2値化画像を得て、その2値化画像を基に、エッジに対応する画素には"1"を割り当て、エッジに対応しない画素には"0"を割り当てる。
【0023】
そして、道路環境特徴算出部13は、2値化処理により得たエッジに対して種々の処理を施す。
図6は、そのような種々の処理を説明する図である。
図6(a)は、前述のように2値化処理により抽出した垂直方向のエッジ(撮像画像内の一部のエッジ)の例を示す。
【0024】
道路環境特徴算出部13は、図6(b)に示すように、2値化処理により得たエッジに対して細線化処理を施す。ここでいう細線化処理とは、エッジのエッジ幅を予め設定された所定画素幅になるまで縮小する処理である。例えば、図6(b)に示すように、本実施形態では、所定画素幅を1画素としている。なお、所定画素幅を1以外の画素数とすることもできる。
【0025】
道路環境特徴算出部13は、この細線化処理により、エッジを所定画素幅になるまで細線化することで該エッジの中心位置に設定する。
【0026】
さらに、道路環境特徴算出部13は、図6(c)に示すように、細線化処理を施して得たエッジ(細線化されたエッジ)のエッジ幅を拡張させる膨張処理を施す。ここでいう膨張処理とは、細線化処理によって設定された中心位置からエッジの移動方向にエッジ幅を膨張させるとともに、前記中心位置からエッジの移動方向とは反対方向にもエッジ幅を膨張させる処理である。
【0027】
例えば、図6(c)では、膨張処理により、エッジの中心位置x0からエッジの移動方向(x軸の正方向)に1画素分膨張させている(本実施形態では位置x0+1の画素に"1"を割り当てている)。さらに、膨張処理により、エッジの中心位置x0からエッジの移動方向とは反対方向(x軸の負方向)に1画素分膨張させている(本実施形態では位置x0−1の画素に"1"を割り当てている)。このように、本実施形態では、膨張処理により、エッジ幅を予め設定した所定幅となる3画素に膨張させている。
【0028】
道路環境特徴算出部13は、以上のような細線化処理及び膨張処理により、2値化処理により抽出したエッジのエッジ幅を所定幅で均一(統一)にして、各エッジを規格化(正規化)している。
【0029】
次に、道路環境特徴算出部13は、エッジ(膨張処理後のエッジ)に該当する画素(エッジが検出される画素)の画素カウンタのカウンタ値を更新(カウントアップ)する。画素カウンタは、各画素毎に設定されたカウンタであり、画素がエッジに該当する場合にはそのカウンタ値に+1加算し、画素がエッジに該当しない場合にはそのカウンタ値を零に初期化する。或いは、画素カウンタは、カウントアップ処理として、エッジに該当する画素に対応するメモリアドレスの値をカウントアップし、エッジに該当しない画素に対応するメモリアドレスの値を初期化する。
【0030】
図6(c)乃至(f)を用いて画素カウンタの処理(カウントアップ処理)を説明する。この説明では、簡単にするためにエッジがx軸の正方向に移動するものとしているが、エッジのx軸の負方向、エッジのy軸方向(正方向及び負方向)、又は2次元的に移動(xy平面内を移動)する場合も、エッジはx軸の正方向に移動する場合と同様な処理になる。
【0031】
図6(c)に示すように、エッジは、エッジ抽出処理(2値化処理、細線化処理、及び膨張処理)により所定幅を有するものとなっている。すなわち例えば、図6(c)に示すように、エッジは、あるフレームにおいて位置x0にエッジの中心位置があり、その中心位置x0からエッジの移動方向に1画素分の位置x0+1まで膨張し、さらに、その中心位置x0からエッジの移動方向とは反対方向に1画素分の位置x0−1まで膨張している。
【0032】
この場合、道路環境特徴算出部13は、エッジに該当する画素(エッジが検出される画素)の位置x0−1、x0、x0+1のカウンタ値をそれぞれカウントアップする。また、道路環境特徴算出部13は、エッジに該当しない画素(エッジが検出されない画素)の位置(位置x0−1、x0、x0+1以外の位置)のカウンタ値をリセットする。
【0033】
例えば、図6(d)では、時刻tにおいて位置x0−1、x0、x0+1の画素がエッジに該当するために、位置x0−1、x0、x0+1それぞれについて1ずつカウントアップされた状態になっている。これにより、位置x0+1のカウンタ値が"1"、位置x0のカウンタ値が"3"、位置x0−1のカウンタ値が"5"になっている。
【0034】
そして、時刻t+1でエッジの移動がないと、図6(e)に示すように、位置x0−1、x0、x0+1の画素がエッジに該当しているために、位置x0−1、x0、x0+1それぞれについて1ずつカウントアップされた状態になる。これにより、位置x0+1のカウンタ値が"2"、位置x0のカウンタ値が"4"、位置x0−1のカウンタ値が"6"になる。
【0035】
さらに、時刻t+2でエッジがx軸の正方向に1画素分移動(1画素シフト)すると、図6(f)に示すように、位置x0、x0+1、x0+2の画素がエッジに該当するために、位置x0、x0+1、x0+2それぞれについて1ずつカウントアップされた状態になる。これにより、位置x0+2のカウンタ値が"1"、位置x0+1のカウンタ値が"3"、位置x0のカウンタ値が"5"になる。一方、位置x0−1の画素がエッジに該当しなくなるために、図6(e)に示すように、位置x0−1のカウンタ値はリセットされて零になる。
【0036】
以上のようにして、画素カウンタの処理(カウントアップ処理)では、エッジに該当する画素のカウンタ値をカウントアップし、エッジに該当しない画素のカウンタ値をリセットしている。
【0037】
なお、この図6を用いた説明では、画素カウンタの処理により、3箇所(中心位置の1箇所、並びに中心位置の移動方向及びその反対方向の2箇所の計3箇所)でカウンタ値を得ている。しかし、後述のカウンタ値の傾きが算出可能であれば、エッジの移動方向に対して2箇所以上でカウンタ値を得ることができる。
【0038】
また、エッジが移動する速度に比べてフレームレートを十分に高く設定すると、連続するフレームの同じ位置で同一のエッジを複数回検出することができる。例えば、図6のように、時刻tのフレーム及び時刻t+1のフレームにより位置x0において同一のエッジを2回検出できている。よって、エッジを構成する画素をカウントアップして得られるカウンタ値は、その画素でエッジを検出している時間(フレーム数)と等しくなる。特に、エッジに該当する画素のカウンタ値の中で最小のカウンタ値h(図6(e)参照)は、エッジが移動してから何フレームの間、同じ位置にあるかということを表す。
【0039】
道路環境特徴算出部13は、このような画素カウンタによるカウンタ値の更新処理を、カメラ2で連続的に撮像されるフレーム毎に行う。これにより、エッジに該当する時間が長い画素は、そのカウンタ値が大きくなり、エッジに該当する時間が短い画素は、そのカウンタ値が小さくなる。道路環境特徴算出部13は、このような画素カウンタのカウンタ値の変化から、撮像画像上におけるエッジの移動速度及び移動方向を算出する。
【0040】
道路環境特徴算出部13は、エッジの移動速度については、カウンタ値の傾きHを基に算出する。
【0041】
例えば、図6(e)のように、位置x0−1、x0、x0+1のカウンタ値がそれぞれ"6"、"4"、"2"の場合、位置x0−1のカウンタ値"6"から位置x0+1のカウンタ値"2"を引くことで、次式によりカウンタ値の傾きHを得ることができる。
H=(6−2)/2=2
その意味は次式のようになる。
H={(エッジが位置x0−1に移動してから現在までの時間)−(エッジが位置x0+1に移動してしまった後の時間)}/(2画素)
このカウンタ値の傾きHは、エッジが位置x0のある1画素を通過するのに要した時間(フレーム数)を表すものとなる。このことから、道路環境特徴算出部13は、このカウンタ値の傾きHを基に、エッジの移動速度を1/Hとして算出する。図6(e)では、エッジの移動速度1/Hは1/2(画素/フレーム)になり、1画素移動するのに2フレームを要したことになる。
【0042】
そして、道路環境特徴算出部13は、エッジの移動方向については、カウンタ値の大小によって得ている。
ここで、エッジの移動により新たに該エッジに該当することとなった画素のカウンタ値は1になるため、該画素のカウンタ値が、該エッジに該当する複数の画素(本実施形態では3箇所の画素)のカウンタ値の中で最も小さい値になる。よって、エッジが移動する方向の画素のカウンタ値は小さく、エッジが移動する方向とは反対方向の画素(エッジが通過した画素)のカウンタ値は大きくなる。このことから、道路環境特徴算出部13は、このようなカウンタ値の大小を判断してエッジの移動方向を得る。
【0043】
また、エッジに該当する各画素のカウンタ値の中で最小のカウンタ値hは、エッジがその位置で検出されている時間、すなわちエッジが移動してから何フレームの間、該エッジが同じ位置にあるかということを表す。
【0044】
このことから、エッジの中心位置をx0とすると、最小のカウンタ値h及びカウンタ値の傾きH(又は移動速度1/H)を基に、次式により現在のエッジの位置(中心位置)を算出できる。
エッジの位置=x0+h/H
例えば、図6(f)では、エッジの移動速度1/Hが1/2(画素/フレーム)であり、時刻t+2の時点で1フレーム連続して同じ位置でエッジを検出しているので、時刻t+2でのエッジの位置は、
1(フレーム)×{1/2(画素/フレーム)}=0.5画素
だけ位置x0から移動しているものとして算出されるものとなる。
【0045】
道路環境特徴算出部13は、以上のような算出手順に従って得ることができるエッジの移動速度及び移動方向を基に、撮像画像内に存在する物体(撮像画像内における部位)の移動情報(速度情報又は速度成分)を所定の階級値で表した速度画像を生成する。
【0046】
図7は、速度画像の例を示す。
図7に示すように、本実施形態の速度画像では、移動情報を階級値として表すものとし、移動するエッジに該当する画素位置に円を表示し、その移動速度が速いほどその円を大きくして示す。さらに、エッジの移動方向が左方向の場合には黒塗りの円で表し、エッジの移動方向が右方向の場合には白塗りの円で表す。このように、移動情報の階級値を、移動速度の大きさ及び移動方向によりその大きさ及び色が定まる円(又は点)により表す。
【0047】
ここで、自車両が前進すると、画像内で道路環境となる白線や縁石、外壁等は横方向に移動するように観測されるようになる。すなわち、自車両と道路環境との相対位置の変化により、停止物体である道路環境に擬似的な速度が発生するようになる。
【0048】
よって、画像内で傾斜とした表わされる白線や縁石、外壁等の立体物と路面との境界部(エッジ)も、自車両が前進すると横方向に移動するように観測されるようになるため、その境界部について擬似的な速度が算出されるようになる。このようなことから、図7に示すように、実施形態では、自車両の進行方向の右側に有る白線(白線を表す画素)に対応する移動情報(階級値)は、右方向への移動速度(白塗りの円)を示している。また、自車両の進行方向の左側に有る外壁及び白線(外壁及び白線を表す画素)の移動情報(階級値)は、左方向への移動速度(黒塗りの円)を示している。
【0049】
次に、道路環境特徴算出部13は、道路環境特徴を持つ画素を抽出する。
ここで、通常、路面上(白線が無い路面箇所)には、エッジが存在しないために、移動情報(階級値)を得ることができない。これに対して、白線や縁石、外壁等の立体物がある場合、それら白線や縁石、外壁等の立体物と路面との境界部は斜線として表れるためにエッジを抽出でき、さらには移動情報(階級値)を得ることができる。
【0050】
このようなことから、道路環境特徴算出部13は、移動情報を得ることができない領域と移動情報を得ることができる領域の境界に存在する画素を抽出する。具体的には、道路環境特徴算出部13は、速度画像内を下部から上部(y軸の負方向)に向かい移動情報の有無を判定していき、移動情報を持つ画素から移動情報を持たない画素に切替る位置を特定し、特定した画素位置、すなわち移動情報を持つ画素を道路環境特徴を持つ画素として抽出する。
【0051】
図8は、道路環境特徴を持つ画素の階級値により表される速度画像を示す。図7と比較するとわかるように、図8では、抽出要件を満たさない移動情報を持つ画素が除外されて、道路環境特徴を持つ画素のみが残るようになる。
近似直線算出部14は、画素検出枠設定部12が設定した画素検出枠内に存在する道路環境特徴を持つ画素を用いて近似直線を算出する。
【0052】
先ず、近傍画素検出枠(左側近傍画素検出枠、右側近傍画素検出枠)内に存在する道路環境特徴を持つ画素を用いた近似直線の算出を説明する。
近似直線算出部14は、近傍画素検出枠内に存在する道路環境特徴を持つ画素を抽出し、抽出した画素をそのy座標値が降順になるように並べ替える。ここで、左側近傍画素検出枠内では、自車両の左側の道路環境が右上がりの直線(斜線)相当として表されるために、抽出した画素をそのy座標値が降順になるように並べ替えると、そのx座標値が昇順となる。よって、近似直線算出部14は、抽出した画素をそのy座標値が降順になるように並べ替えた場合に、そのx座標値の順序が逆転する(降順になる)画素をノイズとして削除する。すなわち、近似直線算出部14は、異なる物体の特徴が混入したと判断して、その画素を道路環境特徴を持つ画素から除外する。また、右側近傍画素検出枠内では、自車両の右側の道路環境が左上がりの直線相当として表されるために、抽出した画素をそのy座標値が降順になるように並べ替えると、そのx座標値が降順となる。よって、近似直線算出部14は、抽出した画素をそのy座標値が降順になるように並べ替えた場合に、そのx座標値の順序が逆転する(昇順になる)画素をノイズとして削除する。
【0053】
図9は、ノイズとして削除された画素(道路環境特徴を持つ画素でないとされた画素)の例を説明する図である。
図9に示すように、本実施形態では、左側近傍画素検出枠NL1内からは、階級値を灰色の円で示す画素を4個、右側近傍画素検出枠NR1内からは、階級値を灰色の円で示す画素を3個、それらをノイズとして削除している。
【0054】
そして、近似直線算出部14は、以上のような削除がなされることなく残った道路環境特徴を持つ画素を基に、近似直線を算出する。近似直線の算出手順については後述する。
次に、遠方画素検出枠(左側遠方画素検出枠、右側遠方画素検出枠)における近似直線算出を説明する。
【0055】
なお、近傍で近似直線が算出(近傍画素検出枠内で近似直線が算出)されていることを前提で説明する。すなわち、近似直線算出部14は、近傍画素検出枠内で近似直線が検出されている場合、遠方の近似直線を算出する。具体的には、近似直線算出部14は、遠方画素検出枠内に存在する道路環境特徴を持つ画素を抽出し、近傍画素検出枠内の画素に対して行ったと同様に、その抽出した画素をy座標値が降順になるように並べ替える。そして、近似直線算出部14は、x座標値の連続性を評価して、ノイズとなる画素を削除する。このとき、近傍における直線算出結果を基に、道路形状を推定し、推定した道路形状に応じてx座標値の連続性を評価する。
【0056】
すなわち、推定した道路形状が直線路の場合には、左側遠方画素検出枠内の道路環境特徴を持つ画素については、近似直線算出部14は、抽出した画素をそのy座標値が降順になるように並べ替えた場合に、そのx座標値の順序が逆転する(降順になる)とき、ノイズとして削除する。また、右側遠方画素検出枠内の道路環境特徴となる画素については、近似直線算出部14は、抽出した画素をそのy座標値が降順になるように並べ替えた場合にそのx座標値の順序が逆転する(昇順になる)とき、その画素をノイズとして削除する。
【0057】
また、推定した道路形状が右カーブ路の場合には、左側及び右側の近傍画素検出枠内の何れでも、自車両の左側及び右側の道路環境が右上がりの直線相当として表されるために、抽出した画素をy座標値が降順になるように並べ替えると、そのx座標値が昇順となる。よって、近似直線算出部14は、抽出した画素をy座標値が降順になるように並べ替えた場合にそのx座標値の順序が逆転する(降順になる)とき、その画素をノイズとして削除する。
【0058】
また、推定した道路形状が左カーブ路の場合には、左側及び右側の近傍画素検出枠内のいずれでも、自車両の左側及び右側の道路環境が左上がりの直線相当として表されるために、抽出した画素をそのy座標値が降順になるように並べ替えると、そのx座標値も降順となる。よって、近似直線算出部14は、抽出した画素をy座標値が降順になるように並べ替えた場合にx座標値の順序が逆転する(昇順になる)とき、その画素をノイズとして削除する。
【0059】
図9の例では、近傍における近似直線算出結果から道路形状を右カーブ路と推定し、左側遠方画素検出枠FL1内からは、階級値を灰色の円で示す画素を13個、ノイズとして削除している。
そして、近似直線算出部14は、以上のような削除がなされることなく残った道路環境特徴を持つ画素を基に、近似直線を算出する。
【0060】
近傍及び遠方の画素検出枠内の画素に基づく近似直線の算出手順は次のようになる。ただし、遠方における近似直線の算出は、近傍において既に近似直線が算出されているということが前提になる。
【0061】
近似直線算出部14は、画素検出枠内に存在する道路環境特徴を持つ画素を少なくとも3個抽出し、抽出した3個を基に近似直線を算出する。例えば、近似直線算出部14は、3個の画素の位置との距離が最も小さくなる直線を近似直線として算出する。そして、近似直線算出部14は、このような3個の画素を用いた近似直線の算出処理を道路環境特徴を持つ画素の組み合わせを異ならせて行っていき、複数の近似直線を算出する。
【0062】
図10は、3点の画素を用いて算出された近似直線の例を示す。
図10に示すように、本実施形態では、近似直線算出部14は、左側近傍画素検出枠NL1ではL1、L2、L3の3つの近似直線を算出し、右側近傍画素検出枠NR1ではR1、R2の2つの近似直線を算出する。さらに、近似直線算出部14は、左側遠方画素検出枠FL1ではL4、L5、L6の3つの近似直線を算出し、右側遠方画素検出枠FR1ではR3、R4の2つの近似直線を算出する。
【0063】
画素検出枠交差判定部15は、近似直線算出部14が算出した近似直線と画素検出枠の車幅方向に延びる前後2つの辺とが交差するか否かを判定する。そのため、画素検出枠交差判定部15は、近似直線算出部14が算出した近似直線の両端を延長させて、その延長させた近似直線と、画素検出枠の車幅方向に延びる前後2つの辺とが交差するか否かを判定する。画素検出枠交差判定部15は、交差しない(例えば前後2つの辺の両方と交差しない)との判定をした場合、画素検出枠交差判定部15は、その交差しない近似直線を削除する。そして、画素検出枠交差判定部15は、このような処理を、全ての画素検出枠(左側及び右側の近傍画素検出枠、並びに左側及び右側の遠方画素検出枠)について算出した近似直線について行う。
【0064】
図11は、近似直線と画素検出枠の車幅方向に延びる辺との交差の状態を示す。
図11に示すように、本実施形態では、画素検出枠交差判定部15は、左側近傍画素検出枠NL1において車幅方向に延びる前後2つの辺の両方に交差しない近似直線L1を削除することとなる。また、画素検出枠交差判定部15は、左側遠方画素検出枠FL1において車幅方向に延びる前後2つの辺の両方に交差しない近似直線L5、L6を削除するこことなる。
【0065】
道路環境生成部16は、画素検出枠交差判定部15が交差すると判定した近似直線をさらに選定する。
具体的には、先ず、道路環境生成部16は、画素検出枠交差判定部15が交差すると判定した近似直線とその画素検出枠(該近似直線が属する画素検出枠)内に有る道路環境特徴を持つ全ての画素との誤差(距離)を算出する。そして、道路環境生成部16は、算出した誤差を比較し、それら誤差の中央値を近似直線に対する誤差の代表値にする。ここで、道路環境生成部16は、画素検出枠交差判定部15が交差すると判定した近似直線全てに対して同様な処理を行って、その全ての近似直線に対応する誤差の代表値を取得する。
【0066】
そして、道路環境生成部16は、同一の画素検出枠に属する全ての近似直線について誤差の代表値により比較し、代表値が最も小さくなる近似直線を、該画素検出枠で推定進路中心Oから遠い方の前後方向に延びる辺に平行度が一致する近似直線であると判定する。
なお、代表値を中間値にしているが、代表値を平均値等の他の値にすることもできる。
図12は、そのような近似直線の判定を説明する図である。
【0067】
図12に示すように、本実施形態では、道路環境生成部16は、左側近傍画素検出枠NL1では近似直線L3、右側近傍画素検出枠NR1では近似直線R2、左側遠方画素検出枠FL1では近似直線L4、右側遠方画素検出枠FR1では近似直線R4を最も誤差が小さくなる近似直線と判定している。すなわち、道路環境生成部16は、これら近似直線を、各画素検出枠において、該画素検出枠で推定進路中心Oから遠い方の前後方向に延びる辺に平行度が一致する近似直線であると判定する。
【0068】
また、道路環境生成部16は、前記平行度が一致した近似直線とその画素検出枠内に存在する道路環境特徴を持つ各画素との誤差(距離)を算出する。そして、道路環境生成部16は、算出した誤差が予め設定した所定値以上であると判定すると、その画素をノイズとして削除する。すなわち、近似直線算出部14は、その画素を道路環境特徴を持つ画素から除外する。そして、道路環境生成部16は、ノイズとして削除されずに残った道路環境特徴を持つ画素を用いて再度、近似直線を算出する。
【0069】
よって、図12に示すように、本実施形態では、道路環境生成部16は、左側近傍画素検出枠NL1については、円内をハッチングで示す2個の画素をノイズとして削除し、残った画素に基づく再演算により近似直線L10を算出している。また、道路環境生成部16は、右側近傍画素検出枠NR1については、ノイズとして削除されなかった道路環境特徴を持つ画素による再演算により近似直線R10を算出している。また、道路環境生成部16は、左側遠方画素検出枠FL1についても、ノイズとして削除されなかった道路環境特徴を持つ画素による再演算により近似直線L20(=近似直線L4)を算出している。また、道路環境生成部16は、右側遠方画素検出枠FR1についても、ノイズとして削除されなかった道路環境特徴を持つ画素による再演算により近似直線R20を算出している。
【0070】
そして、道路環境生成部16は、道路環境を生成する(道路環境を特定する)。具体的には、道路環境生成部16は、道路環境特徴を持つ画素によって得られる最終的な近似直線を道路環境を表すもの(例えば道路環境の特徴又は道路環境の一部)として決定する。或いは、道路環境生成部16は、最終的な近似直線を算出するのに用いた道路環境特徴を持つ画素から構成されるエッジを道路環境を表すもの(例えば道路環境の特徴又は道路環境の一部)として決定する。さらに、例えば、道路環境生成部16は、そのような道路環境特徴を持つ画素の位置情報或いは道路環境特徴を持つ画素から構成されるエッジの位置情報を出力する。
【0071】
(動作、作用等)
図13に示すフローチャートを用いて、走路環境生成装置10の一連の処理動作を説明する。この図13に示す処理動作は、不図示のイグニションスイッチがオンになったときに開始する。
【0072】
これにより、先ずステップS101では、カメラ2は、撮像画像をフレーム毎に画像一時記録部11に出力する。
続くステップS102では、道路環境特徴算出部13は、画像一時記録部11に記録されている撮像画像に対してエッジ抽出処理(2値化処理、細線化処理、及び膨張処理)を行い、撮像画像内に存在する物体の輪郭を抽出してエッジで表すエッジ画像を生成する。
【0073】
続くステップS103では、道路環境特徴算出部13は、エッジから移動情報を算出し、算出した移動情報を階級値(円の大きさ及び色)で表した速度画像を生成する。
続くステップS104では、道路環境特徴算出部13は、生成した速度画像において下部から上部に向かい走査しつつ移動情報の有無を判定していき、移動情報が無い画素から移動情報が有る画素に切替る画素位置を特定し、特定したその移動情報を持つ画素を道路環境特徴を持つ画素として抽出する。
【0074】
続くステップS105では、画素検出枠設定部12は、車両情報又は道路形状情報を取得し、自車両の推定進路中心位置を算出する。そして、画素検出枠設定部12は、算出した推定進路中心位置を基準として左側近傍画素検出枠、右側近傍画素検出枠、左側遠方画素検出枠、及び右側遠方画素検出枠を設定する。
続くステップS106では、近似直線算出部14は、近傍画素検出枠内に存在する道路環境特徴を持つ画素を抽出し、抽出した画素をそのy座標値が降順になるように並べ替える。
【0075】
続くステップS107では、近似直線算出部14は、y座標値が降順になるように並べ替えた道路環境特徴(画素)のx座標値の順序を判定する。そして、近似直線算出部14は、x座標値の順序が逆転していると判定したとき(左側近傍画素検出枠内では降順のとき、右側近傍画素検出枠内では昇順のとき)、すなわち、連続性(左側近傍画素検出枠内では昇順、右側近傍画素検出枠内では降順)が異なるとき、その画素をノイズとして削除する。
【0076】
続くステップS108では、近似直線算出部14は、近傍画素検出枠内に存在する道路環境特徴を持つ画素を3個抽出し、抽出した3個の画素を基に近似直線を算出する。
続くステップS109では、画素検出枠交差判定部15は、ステップS108で近似直線算出部14が算出した近似直線が、近傍画素検出枠における車幅方向に延びる前後2つの辺と交差するか否かを判定する。画素検出枠交差判定部15は、交差すると判定すると、ステップS110に進む。また、画素検出枠交差判定部15は、交差しないと判定すると、ステップS108に戻る。この場合、ステップS108では、別の3個の画素を基に別の近似直線を算出し、続くステップS109では、その算出した別の近似直線が、近傍画素検出枠における車幅方向に延びる前後2つの辺と交差するか否かを判定する。
【0077】
ステップS110では、道路環境生成部16は、ステップS108で算出した近似直線(ステップS109で交差すると判定した近似直線)と近傍画素検出枠内に存在する全ての道路環境特徴を持つ画素との誤差を算出し、誤差の代表値(中央値)を取得する。
続くステップS111では、道路環境生成部16は、前記ステップ110で取得した近似直線の誤差の代表値(近似直線の情報)を保存する。
【0078】
続くステップS112では、道路環境生成部16は、近似直線の算出回数が予め設定した所定回数以上か否かを判定する。道路環境生成部16は、近似直線の算出回数が所定回数以上と判定すると、ステップS113に進む。また、道路環境生成部16は、近似直線の算出回数が所定回数未満と判定すると、ステップS108に戻る。
【0079】
続くステップS113では、道路環境生成部16は、ステップS111で保存された近似直線情報(近似直線の誤差の代表値)を比較し、最も小さい代表値を持つ近似直線をその近傍画素検出枠における近似直線(近傍近似直線)と決定する。
【0080】
続くステップS114では、道路環境生成部16は、ステップS113で決定した近似直線とその近傍画素検出枠内に存在する道路環境特徴を持つ各画素との誤差を算出する。そして、道路環境生成部16は、算出した誤差が予め設定した所定値以上であると判定すると、その画素をノイズとして削除する。
続くステップS115では、道路環境生成部16は、近傍画素検出枠内に存在する道路環境特徴を持つ画素(ノイズとして削除されていない画素)を基に、最終的な近似直線(最終的な近傍近似直線)を算出する。
【0081】
そして、道路環境生成部16は、最終的な近似直線そのもの、又は最終的な近似直線を算出するのに用いた道路環境特徴を持つ画素から構成されるエッジを、道路環境を表すものとして決定する。例えば、さらに、道路環境生成部16は、そのような道路環境特徴を持つ画素の位置情報或いは道路環境特徴を持つ画素から構成されるエッジの位置情報を出力する。
【0082】
続くステップS116では、道路環境生成部16は、左側及び右側の近傍画素検出枠内で近似直線(左右の近似直線)を算出したか否かを判定する。道路環境生成部16は、左側及び右側の近傍画素検出枠内で近似直線を算出したと判定すると、ステップS117に進む。また、道路環境生成部16は、左側及び右側の近傍画素検出枠内で近似直線を算出できていないと判定すると、ステップS128に進む。
【0083】
ステップS117では、近似直線算出部14は、道路形状を推定する。
ステップS118では、近似直線算出部14は、遠方画素検出枠内に存在する道路環境特徴を持つ画素を抽出し、抽出した画素をそのy座標値が降順になるように並べ替える。
【0084】
続くステップS119では、近似直線算出部14は、y座標が降順になるように並べ替えた道路環境特徴(画素)のx座標値の順序を判定する。そして、近似直線算出部14は、ステップS117で推定した道路形状に応じた判定の下、x座標値の順序が逆転していると判定したとき、すなわち連続性が異なるとき、その画素をノイズとして削除する。
【0085】
続くステップS120では、近似直線算出部14は、遠方画素検出枠内に存在する道路環境特徴を持つ画素を3個抽出し、抽出した3個の画素を基に近似直線を算出する。
続くステップS121では、画素検出枠交差判定部15は、ステップS120で近似直線算出部14が算出した近似直線が、遠方画素検出枠における車幅方向に延びる前後2つの辺と交差するか否かを判定する。画素検出枠交差判定部15は、交差すると判定すると、ステップS122に進む。また、画素検出枠交差判定部15は、交差しないと判定すると、ステップS120に戻る。この場合、ステップS120では、別の3個の画素を基に別の近似直線を算出し、続くステップS121では、その算出した別の近似直線が、遠方画素検出枠における車幅方向に延びる前後2つの辺と交差するか否かを判定する。
【0086】
続くステップS122では、道路環境生成部16は、ステップS120で算出した近似直線(ステップS121で交差すると判定した近似直線)と遠方画素検出枠内に存在する全ての道路環境特徴を持つ画素との誤差を算出し、誤差の代表値(中央値)を取得する。
続くステップS123では、道路環境生成部16は、前記ステップ122で取得した近似直線の誤差の代表値(近似直線の情報)を保存する。
【0087】
続くステップS124では、道路環境生成部16は、近似直線の算出回数が予め設定した所定回数以上か否かを判定する。道路環境生成部16は、近似直線の算出回数が所定回数以上と判定すると、ステップS125に進む。また、道路環境生成部16は、近似直線の算出回数が所定回数未満と判定すると、ステップS120に戻る。
続くステップS125では、道路環境生成部16は、ステップS123で保存された近似直線情報(近似直線の誤差の代表値)を比較し、最も小さい代表値を持つ近似直線をその遠方画素検出枠における近似直線(遠方近似直線)と決定する。
【0088】
続くステップS126では、道路環境生成部16は、ステップS125で決定した近似直線とその遠方画素検出枠内に存在する道路環境特徴を持つ各画素との誤差を算出する。そして、道路環境生成部16は、算出した誤差が予め設定した所定値以上であると判定すると、その画素をノイズとして削除する。
続くステップS127では、道路環境生成部16は、遠方画素検出枠内に存在する道路環境特徴を持つ画素(ノイズとして削除されていない画素)を基に、最終的な近似直線(最終的な遠方近似直線)を算出する。
【0089】
そして、道路環境生成部16は、最終的な近似直線そのもの、又は最終的な近似直線を算出するのに用いた道路環境特徴を持つ画素から構成されるエッジを、道路環境を表すものとして決定する。例えば、さらに、道路環境生成部16は、そのような道路環境特徴を持つ画素の位置情報或いは道路環境特徴を持つ画素から構成されるエッジの位置情報を出力する。
【0090】
ステップS128では、画素検出枠設定部12は、今回設定した画素検出枠の左右方向の側方に画素検出枠を新たに設定できる領域の有無を判定する。画素検出枠設定部12は、画素検出枠を新たに設定できる領域が有ると判定すると、ステップS105に戻り、近似直線の算出処理を継続する。また、画素検出枠設定部12は、画素検出枠を新たに設定できる領域が無いと判定すると、ステップS129に進む。
【0091】
ステップS129では、制御部10は、自車両のイグニションスイッチがオフされたか否かを判定する。制御部10は、自車両のイグニションスイッチがオフされたと判定すると、該図13に示す処理動作を終了する。また、制御部10は、自車両のイグニションスイッチがオフされていないと判定すると、ステップS1に戻り、処理を繰り返す。
【0092】
なお、本実施形態では、撮像手段としてカメラ2を用いている。また、画素検出枠設定手段として画素検出枠設定部12を用いている。また、特徴部算出手段として道路環境特徴算出部13を用いている。また、近似直線算出手段として近似直線算出部14を用いている。また、交差判定手段として画素検出枠交差判定部15を用いている。また、道路環境特徴決定手段として道路環境生成部16を用いている。
また、代表値取得手段として近似直線算出部14を用いている。また、画素選定手段として道路環境特徴算出部13を用いている。また、エッジは特徴部に対応する。
【0093】
(本実施形態の効果)
(1)道路環境生成装置1は、撮像手段が撮像した画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定し、設定した画素検出枠内の画素を基に、該画素検出枠内の画像の特徴部を算出している。また、道路環境生成装置1は、算出した特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出し、画素検出枠の車幅方向に延びる辺に近似直線が交差するか否かを判定する。そして、道路環境生成装置1は、交差判定手段が交差すると判定した近似直線と画素検出枠の車両進行方向に延びる辺との平行度を基に、特徴部を画像内の道路環境を表すものとしての決定をする。
【0094】
このように、道路環境生成装置1は、道路環境の決定に、幅方向及び車両進行方向に幅を有する方形の画素検出枠内の画像の特徴部を表す画素を基に算出した近似直線を用い、さらにはその近似直線とその画素検出枠の形状との比較結果を用いている。これにより、道路環境生成装置1は、道路環境の特徴を適切に示す特徴部を該道路環境のものとする決定ができるため、撮像画像を基に道路環境を高い精度で検出できる。
【0095】
また、道路環境生成装置1は、車幅方向及び前後方向に比較的広い方形となる画素検出枠を設定することで、一般道のような様々な形状の走行レーン等の道路環境を検出できるようになる。
【0096】
(2)近似直線算出手段は、特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出している。
これにより、演算時間を少なくして近似直線を算出できる。
【0097】
例えば、従来の走行レーン検出装置や走行レーン検出方法では、全ての画素から近似直線を算出するためにその演算時間がかかっていた。この場合、その演算結果を基に走行制御を行おうとすると、その演算の応答性が問題となってしまう。これに対して、本実施形態では、演算時間を少なくして近似直線を算出でき、走行制御を行う際のその演算の応答性が問題となってしまうのを防止できる。
【0098】
(3)道路環境特徴決定手段は、特徴部を表す複数の画素のうち交差判定手段が交差すると判定した近似直線に対する距離(誤差)が予め設定した所定値未満の画素によって表される特徴部を画像内の道路環境を表すものとして決定している。
これにより、道路環境特徴決定手段では、特徴部に対応する道路環境を適切に示す画素を選定でき、その選定した画素を基に該特徴部を得ることができる。
【0099】
(4)近似直線算出手段は、特徴部を表す複数の画素の組み合わせを変えて複数の近似直線を算出している。また、近似直線算出手段は、交差判定手段が交差すると判定した近似直線と特徴部を表す全ての画素との距離を算出し、各画素について算出した距離の代表値(本実施形態では中央値)を取得する代表値取得手段を備えている。さらに、道路環境特徴決定手段は、交差判定手段が交差すると判定した複数の近似直線のうちの代表値が最小となる近似直線を平行度が高いと判定している。そして、道路環境特徴決定手段は、記代表値が最小となる近似直線に対する距離が予め設定した所定値未満の画素によって表される特徴部を前記画像内の道路環境を表すものとして決定している。
これにより、近似直線算出手段は、特徴部を適切に表す近似直線を選定できる。
【0100】
(5)画像内で移動する部位を表す画素を選定する画素選定手段を備えている。そして、特徴部算出手段は、画素選定手段が選定した画素を基に、特徴部を算出している。
これにより、道路環境生成装置1は、画素内で移動する特徴部を画像内の道路環境を表すものとして決定することができる。
例えば、画像内で白線、縁石、立体物下端等の各道路環境を表す画素が異なる輝度で表されるような場合でも、自車両走行に伴い画像内で道路環境が移動するといった観点から画素を選定することで、適切に道路環境を決定できる。
【0101】
(6)画素検出枠設定手段は、車両情報及び道路形状情報の少なくとも何れかを基に、画素検出枠を設定している。
これにより、画素検出枠設定手段は、車両の状態や道路形状に合致させた画素検出枠の設定ができる。
【0102】
(7)画素検出枠設定手段は、道路環境特徴決定手段の決定の結果を基に、画素検出枠の位置を新たに設定している。
これにより、画素検出枠設定手段は、道路環境特徴決定手段の決定の結果を反映させて、新たな画素検出枠を新たに適切に設定できる。例えば、この結果、走行レーン以外の道路環境や複数の道路環境の検出も可能となる。
【0103】
(8)画素検出枠設定手段は、自車両に対して車両進行方向の近傍側及び遠方側に画素検出枠をそれぞれ設定している。
これにより、画素検出枠設定手段は、自車両近傍と自車両遠方とで形状が異なるカーブ路等の道路に合致させて画素検出枠を設定できる。
【0104】
(9)近似直線算出手段は、近傍側の画素検出枠内の特徴部を表す複数の画素を画像内における車両進行方向の該画素の座標位置が昇順又は降順となるように並べ替えたときに、画像内における車幅方向の該画素の座標位置が予め設定した所定条件で連続して並んでいるか否かを判定している。そして、近似直線算出手段は、連続して並んでいない画素を近似直線の算出に用いる画素から除外している。
【0105】
ここで、画像内の車両進行方向の近傍の道路環境は、通常、該画像内において右上がり又は左上がりの形状として表される特性を持つ。道路環境生成装置1は、このような特性を利用して、適切な画素を選定し、近似直線を算出できる。
【0106】
(10)近似直線算出手段は、遠方側の画素検出枠内の前記特徴部を表す複数の画素を画像内における車両進行方向の該画素の座標位置が昇順又は降順となるように並べ替えたときに、画像内における車幅方向の該画素の座標位置が、道路形状に基づく所定条件で連続して並んでいるか否かを判定している。そして、近似直線算出手段は、連続して並んでいない画素を近似直線の算出に用いる画素から除外している。
【0107】
ここで、画像内の車両進行方向の遠方の道路環境は、通常、該画像内において右上がり又は左上がりの形状として表される特性を持つ。さらに、道路形状により、右上がりの形状をとるか左上がりの形状をとるかが変化する。
道路環境生成装置1は、このような特性を利用して、適切な画素を選定し、近似直線を算出できる。
【0108】
(11)道路環境生成装置1は、近似直線、その近似直線と画素の距離、又は所定条件を課した画素の連続性等により画素の位置を統計的な手法により評価することで、高速かつ高精度で道路環境を検出できる。
例えば、検出対象の道路環境を検出するために探索的に画素の連続性を判断していくことで、検出対象以外の道路環境を表す画素を排除して検出対象の道路環境を検出することも可能と考えられる。しかし、その判断のための演算時間が多くなってしまう。
【0109】
これに対して、本実施形態の道路環境生成装置1は、前述のような統計的な手法により画素の位置を評価することで、画素検出枠を広範囲に設定した場合でも、演算コストをかけずに高速かつ高精度で道路環境を検出できる。
【0110】
(12)本実施形態では、複数の画素ノイズ処理を行うことで、様々な形状の道路環境や複数の道路環境を正確に検出することができる。
(13)道路環境生成部16は、画素検出枠で推定進路中心Oから遠い方の前後方向に延びる辺との平行度を判定している。これは、図4に示すように台形の画素検出枠を左右にそれぞれ設定すると、その車幅方向における外側の辺、すなわち、推定進路中心Oから遠い方の前後方向に延びる辺が、画像内の道路環境を表す斜線に対してほぼ平行になる。道路環境生成装置1は、このような関係を利用して、道路環境の形状に合致させて、特徴部を表す近似直線を選択することができるようになる。
【0111】
(実施形態の変形例)
本実施形態の変形例として、近似直線算出部14は、画素検出枠内に存在する道路環境特徴を持つ画素をそのy座標値が昇順になるように並べ替えることもできる。この場合、そのように昇順になるように並べ替えたことに応じて、x座標値の連続性を評価する。すなわち、所定の条件でx座標値の連続性を評価する。
【符号の説明】
【0112】
1 道路環境生成装置、2 カメラ、10、制御部、11 画像一時記録部、12 画素検出枠設定部、13 道路環境特徴算出部、14 近似直線算出部、15 画素検出枠交差判定部、16 道路環境生成部
【技術分野】
【0001】
本発明は、撮像画像を基に道路環境の情報を取得する技術に関する。
【背景技術】
【0002】
車載カメラの撮像画像を基に白線等の走行レーンを検出する走行レーン検出装置や走行レーン検出方法が多数存在する。
例えば、引用文献1では、白線を検出することを目的として、画像の設定領域内で輝度の最大値となる画素を検出し、検出した画素を基準に他の画素の輝度分布を求め、ノイズ処理を行わずに白線の近似直線を求めている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平5−347000号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の走行レーン検出装置や走行レーン検出方法では、設定領域内の全ての画素を用いて道路環境である走行レーンを検出している。
これにより、走行レーン以外の道路環境を示す画素が設定領域内に含まれると、その影響を受けてしまい走行レーンの検出精度が悪化してしまう恐れがある。
本発明の課題は、撮像画像を基に道路環境を高い精度で検出することである。
【課題を解決するための手段】
【0005】
前記課題を解決するために、本発明は、撮像手段が撮像した画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定し、設定した画素検出枠内の画素を基に、該画素検出枠内の画像の特徴部を算出し、算出した特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出し、画素検出枠の車幅方向に延びる辺に近似直線が交差するか否かを判定し、交差判定手段が交差すると判定した近似直線と画素検出枠の車両進行方向に延びる辺との平行度を基に、特徴部を画像内の道路環境を表すものとしての決定をする。
【発明の効果】
【0006】
本発明によれば、画素検出枠内の画像の特徴部を表す画素の位置を基に算出した近似直線を用い、さらにはその近似直線とその画素検出枠の形状との比較結果を用いることで、道路環境の特徴を適切に示す特徴部を該道路環境のものとする決定ができるため、撮像画像を基に道路環境を高い精度で検出できる。
【図面の簡単な説明】
【0007】
【図1】本実施形態の道路環境生成装置の構成を示すブロック図である。
【図2】車両へのカメラの搭載状態を示す図である。
【図3】カメラの撮像画像(自車両前方の画像)の例を示す図である。
【図4】画素検出枠設定の処理結果を説明する図であり、算出される自車両の推定進路中心位置、画素検出枠を示す図である。
【図5】新たに設定した画素検出枠の例を示す図である。
【図6】2値化処理により得たエッジに対して施す種々の処理を説明する図である。
【図7】速度画像の例を示す図である。
【図8】道路環境特徴を持つ画素の階級値により表される速度画像を示す図である。
【図9】ノイズとして削除された画素(道路環境特徴を持つ画素でないとされた画素)の例を説明する図である。
【図10】3点の画素を用いて算出された近似直線の例を示す図である。
【図11】近似直線と画素検出枠の車幅方向に延びる辺との交差の状態を示す図である。
【図12】近似直線の判定を説明する図である。
【図13】走路環境生成装置の一連の処理動作を示すフローチャートである。
【発明を実施するための形態】
【0008】
(構成)
本実施形態は、道路環境生成装置である。
図1は、道路環境生成装置1の構成を示すブロック図である。
図1に示すように、道路環境生成装置1は、カメラ2及び制御部10を有する。
カメラ2は、車両前方を撮像する撮像部である。カメラ2は、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を有したカメラである。
【0009】
図2は、車両100へのカメラ2の搭載状態を示す。図2(a)は車両100の側面図を示し、図2(b)は車両100の平面図を示す。
図2に示すように、車両100の室内上部前方中央にカメラ2を設置している。光軸LSが車両進行方向又は車両前方正面方向(Z方向)に向き、また、撮像面の水平軸Xが路面に対して平行かつ車両前方正面方向に対して垂直になり、また、撮像面の垂直軸Yが路面に対して垂直かつ車両前方正面方向に対して垂直になるようにカメラ2を設置している。
【0010】
図3は、カメラ2の撮像画像(自車両前方の画像)の例を示す。
図3に示すように、本実施形態では、画像左上に原点(0,0)をとり、左右方向をx軸(右側に行くほどx値が増加)とし、上下方向をx軸(下側に行くほどx値が増加)とするxy座標系によって撮像画像内の位置(具体的には画素位置)を表している。なお、この図3では、左右の白線、外壁、外壁と走行路との境界線を撮像画像が含んでいる。また、撮像画像内の道路は右カーブ路になっている。
【0011】
カメラ2は、車両前方を連続的に撮像し、フレーム毎に撮像画像を制御部10(画像一時記録部11)に出力する。
図1に示すように、制御部10は、画像一時記録部11、画素検出枠設定部12、道路環境特徴算出部13、近似直線算出部14、画素検出枠交差判定部15、及び道路環境生成部16を有する。例えば、制御部10は、プログラムの実行によりこれら各部を実現する。
【0012】
ここで、画像一時記録部11は、カメラ2の撮像画像を一時的に記憶する。画素検出枠設定部12は、車両情報及び道路形状情報等を基に、撮像画像に対して画素検出枠を設定する。道路環境特徴算出部13は、撮像画像内で速度を有する部位の速度及び方向を示す移動情報を基に、画素検出枠内の道路環境特徴を算出する。近似直線算出部14は、画素検出枠設定部12が設定した画素検出枠内の道路環境特徴を持つ画素を基に近似直線を算出する。画素検出枠交差判定部15は、近似直線算出部14が算出した近似直線と画素検出枠との交差の判定結果等から、最終的な近似直線を算出する。
【0013】
制御部10の各構成部の処理は、より具体的には次のようになる。
画素検出枠設定部12は、車両情報又は道路形状情報を取得する。例えば、車両情報とは、自車両幅、車速、ヨーレイト等であり、道路形状情報は道路の曲率半径や道路幅等である。例えば、自車両に搭載のセンサや記憶部、撮像画像、又は路車間通信により車両情報や道路経路情報を取得する。そして、画素検出枠設定部12は、取得した車両情報又は道路形状情報を基に、撮像画像内における自車両の推定進路中心位置を算出する。
【0014】
図4は、画素検出枠設定部12の処理結果を説明する図であり、算出される自車両の推定進路中心位置、画素検出枠を示す図である。
図4に示すように、本実施形態では、画素検出枠設定部12は、道路形状にほぼ沿うような推定進路中心位置Oを算出する。
【0015】
そして、画素検出枠設定部12は、自車両の進行方向の近傍及び遠方、並びに推定進路中心位置に対して左右に、撮像画像内の画素を検出(抽出)するための画素検出枠(4つの画素検出枠)を設定する。
【0016】
本実施形態では、画素検出枠設定部12は、図4に示すように、車幅方向に予め設定した車線幅を持ち、前後方向に予め設定した所定距離の広さを持つ方形の近傍画素検出枠を自車両近傍側で推定進路中心位置に対して左右に設定する。また、本実施形態では、近傍画素検出枠の形状を進行方向前方にいくほど幅が狭くなる台形に設定している。例えば、ここでいう予め設定した車線幅は3.2mであり、ここでいう予め設定した所定距離は30mである。以降、左側の近傍画素検出枠を左側近傍画素検出枠(左側近傍画素検出領域)NL1といい、右側の近傍画素検出枠を右側近傍画素検出枠(右側近傍画素検出領域)NR1という。
【0017】
また、画素検出枠設定部12は、図4に示すように、近傍画素検出枠の後方(自車両からみて近傍画素検出枠よりも遠方)に、車幅方向に車線幅を持ち、前後方向に予め設定した所定距離の広さを持つ方形の遠方画素検出枠を自車両遠方側で推定進路中心位置に対して左右に設定する。また、本実施形態では、遠方画素検出枠の形状を進行方向前方にいくほど幅が狭くなる台形に設定している。例えば、ここでいう予め設定した所定距離は30m以上かつ100m以下である。以降、左側の遠方画素検出枠を左側遠方画素検出枠(左側遠方画素検出領域)FL1といい、右側の遠方画素検出枠を右側遠方画素検出枠(右側遠方画素検出領域)FR1という。
【0018】
さらに、画素検出枠設定部12は、推定進路中心付近に設定した画素検出枠内における道路環境の生成又は決定(又は近似直線の算出)が終了すると、その画素検出枠の側方に新たに画素検出枠を設定する。このとき、画素検出枠設定部12は、その道路特徴の生成結果を基に、新たに画素検出枠を設定する。
【0019】
具体的には、画素検出枠設定部12は、推定進路中心付近に設定した画素検出枠と新たに設定した画素検出枠が、生成した道路環境以外の道路環境特徴(生成した道路環境を構成しない道路環境特徴)が予め設定した所定値以上含まれるか否かを判定する。そして、画素検出枠設定部12は、所定値以上含まれると判定すると、推定進路中心付近に設定した画素検出枠内及び新たに設定した画素検出枠内に複数の道路環境があると判断して、推定進路中心付近に設定した画素検出枠に新たに設定した画素検出枠をオーバーラップさせる。
【0020】
また、画素検出枠設定部12は、所定値未満の場合、又は道路環境が生成されていない場合には、中心付近に道路環境特徴が無い(又は新たな道路環境特徴が無い)と判断して、新たに設定する画素検出枠を推定進路中心付近に設定した画素検出枠に隣接させる。
【0021】
図5は、新たに設定した画素検出枠NL2の例を示す。
図5に示すように、本実施形態では、画素検出枠設定部12は、左側近傍画素検出枠NL1にオーバーラップして新たに近傍画素検出枠NL2を設定している。また、画素検出枠設定部12は、右側は新たな画素検出枠を設定可能な領域を確保できないため、新たな画素検出枠の設定を行っていない。
【0022】
道路環境特徴算出部13は、画像一時記録部11から撮像画像を読み込む。そして、道路環境特徴算出部13は、読み込んだ撮像画像に対して2値化処理を施してエッジを抽出する。ここでいう2値化処理では、予め設定した閾値と画素の値(例えば輝度情報)とを比較して2値化画像を得て、その2値化画像を基に、エッジに対応する画素には"1"を割り当て、エッジに対応しない画素には"0"を割り当てる。
【0023】
そして、道路環境特徴算出部13は、2値化処理により得たエッジに対して種々の処理を施す。
図6は、そのような種々の処理を説明する図である。
図6(a)は、前述のように2値化処理により抽出した垂直方向のエッジ(撮像画像内の一部のエッジ)の例を示す。
【0024】
道路環境特徴算出部13は、図6(b)に示すように、2値化処理により得たエッジに対して細線化処理を施す。ここでいう細線化処理とは、エッジのエッジ幅を予め設定された所定画素幅になるまで縮小する処理である。例えば、図6(b)に示すように、本実施形態では、所定画素幅を1画素としている。なお、所定画素幅を1以外の画素数とすることもできる。
【0025】
道路環境特徴算出部13は、この細線化処理により、エッジを所定画素幅になるまで細線化することで該エッジの中心位置に設定する。
【0026】
さらに、道路環境特徴算出部13は、図6(c)に示すように、細線化処理を施して得たエッジ(細線化されたエッジ)のエッジ幅を拡張させる膨張処理を施す。ここでいう膨張処理とは、細線化処理によって設定された中心位置からエッジの移動方向にエッジ幅を膨張させるとともに、前記中心位置からエッジの移動方向とは反対方向にもエッジ幅を膨張させる処理である。
【0027】
例えば、図6(c)では、膨張処理により、エッジの中心位置x0からエッジの移動方向(x軸の正方向)に1画素分膨張させている(本実施形態では位置x0+1の画素に"1"を割り当てている)。さらに、膨張処理により、エッジの中心位置x0からエッジの移動方向とは反対方向(x軸の負方向)に1画素分膨張させている(本実施形態では位置x0−1の画素に"1"を割り当てている)。このように、本実施形態では、膨張処理により、エッジ幅を予め設定した所定幅となる3画素に膨張させている。
【0028】
道路環境特徴算出部13は、以上のような細線化処理及び膨張処理により、2値化処理により抽出したエッジのエッジ幅を所定幅で均一(統一)にして、各エッジを規格化(正規化)している。
【0029】
次に、道路環境特徴算出部13は、エッジ(膨張処理後のエッジ)に該当する画素(エッジが検出される画素)の画素カウンタのカウンタ値を更新(カウントアップ)する。画素カウンタは、各画素毎に設定されたカウンタであり、画素がエッジに該当する場合にはそのカウンタ値に+1加算し、画素がエッジに該当しない場合にはそのカウンタ値を零に初期化する。或いは、画素カウンタは、カウントアップ処理として、エッジに該当する画素に対応するメモリアドレスの値をカウントアップし、エッジに該当しない画素に対応するメモリアドレスの値を初期化する。
【0030】
図6(c)乃至(f)を用いて画素カウンタの処理(カウントアップ処理)を説明する。この説明では、簡単にするためにエッジがx軸の正方向に移動するものとしているが、エッジのx軸の負方向、エッジのy軸方向(正方向及び負方向)、又は2次元的に移動(xy平面内を移動)する場合も、エッジはx軸の正方向に移動する場合と同様な処理になる。
【0031】
図6(c)に示すように、エッジは、エッジ抽出処理(2値化処理、細線化処理、及び膨張処理)により所定幅を有するものとなっている。すなわち例えば、図6(c)に示すように、エッジは、あるフレームにおいて位置x0にエッジの中心位置があり、その中心位置x0からエッジの移動方向に1画素分の位置x0+1まで膨張し、さらに、その中心位置x0からエッジの移動方向とは反対方向に1画素分の位置x0−1まで膨張している。
【0032】
この場合、道路環境特徴算出部13は、エッジに該当する画素(エッジが検出される画素)の位置x0−1、x0、x0+1のカウンタ値をそれぞれカウントアップする。また、道路環境特徴算出部13は、エッジに該当しない画素(エッジが検出されない画素)の位置(位置x0−1、x0、x0+1以外の位置)のカウンタ値をリセットする。
【0033】
例えば、図6(d)では、時刻tにおいて位置x0−1、x0、x0+1の画素がエッジに該当するために、位置x0−1、x0、x0+1それぞれについて1ずつカウントアップされた状態になっている。これにより、位置x0+1のカウンタ値が"1"、位置x0のカウンタ値が"3"、位置x0−1のカウンタ値が"5"になっている。
【0034】
そして、時刻t+1でエッジの移動がないと、図6(e)に示すように、位置x0−1、x0、x0+1の画素がエッジに該当しているために、位置x0−1、x0、x0+1それぞれについて1ずつカウントアップされた状態になる。これにより、位置x0+1のカウンタ値が"2"、位置x0のカウンタ値が"4"、位置x0−1のカウンタ値が"6"になる。
【0035】
さらに、時刻t+2でエッジがx軸の正方向に1画素分移動(1画素シフト)すると、図6(f)に示すように、位置x0、x0+1、x0+2の画素がエッジに該当するために、位置x0、x0+1、x0+2それぞれについて1ずつカウントアップされた状態になる。これにより、位置x0+2のカウンタ値が"1"、位置x0+1のカウンタ値が"3"、位置x0のカウンタ値が"5"になる。一方、位置x0−1の画素がエッジに該当しなくなるために、図6(e)に示すように、位置x0−1のカウンタ値はリセットされて零になる。
【0036】
以上のようにして、画素カウンタの処理(カウントアップ処理)では、エッジに該当する画素のカウンタ値をカウントアップし、エッジに該当しない画素のカウンタ値をリセットしている。
【0037】
なお、この図6を用いた説明では、画素カウンタの処理により、3箇所(中心位置の1箇所、並びに中心位置の移動方向及びその反対方向の2箇所の計3箇所)でカウンタ値を得ている。しかし、後述のカウンタ値の傾きが算出可能であれば、エッジの移動方向に対して2箇所以上でカウンタ値を得ることができる。
【0038】
また、エッジが移動する速度に比べてフレームレートを十分に高く設定すると、連続するフレームの同じ位置で同一のエッジを複数回検出することができる。例えば、図6のように、時刻tのフレーム及び時刻t+1のフレームにより位置x0において同一のエッジを2回検出できている。よって、エッジを構成する画素をカウントアップして得られるカウンタ値は、その画素でエッジを検出している時間(フレーム数)と等しくなる。特に、エッジに該当する画素のカウンタ値の中で最小のカウンタ値h(図6(e)参照)は、エッジが移動してから何フレームの間、同じ位置にあるかということを表す。
【0039】
道路環境特徴算出部13は、このような画素カウンタによるカウンタ値の更新処理を、カメラ2で連続的に撮像されるフレーム毎に行う。これにより、エッジに該当する時間が長い画素は、そのカウンタ値が大きくなり、エッジに該当する時間が短い画素は、そのカウンタ値が小さくなる。道路環境特徴算出部13は、このような画素カウンタのカウンタ値の変化から、撮像画像上におけるエッジの移動速度及び移動方向を算出する。
【0040】
道路環境特徴算出部13は、エッジの移動速度については、カウンタ値の傾きHを基に算出する。
【0041】
例えば、図6(e)のように、位置x0−1、x0、x0+1のカウンタ値がそれぞれ"6"、"4"、"2"の場合、位置x0−1のカウンタ値"6"から位置x0+1のカウンタ値"2"を引くことで、次式によりカウンタ値の傾きHを得ることができる。
H=(6−2)/2=2
その意味は次式のようになる。
H={(エッジが位置x0−1に移動してから現在までの時間)−(エッジが位置x0+1に移動してしまった後の時間)}/(2画素)
このカウンタ値の傾きHは、エッジが位置x0のある1画素を通過するのに要した時間(フレーム数)を表すものとなる。このことから、道路環境特徴算出部13は、このカウンタ値の傾きHを基に、エッジの移動速度を1/Hとして算出する。図6(e)では、エッジの移動速度1/Hは1/2(画素/フレーム)になり、1画素移動するのに2フレームを要したことになる。
【0042】
そして、道路環境特徴算出部13は、エッジの移動方向については、カウンタ値の大小によって得ている。
ここで、エッジの移動により新たに該エッジに該当することとなった画素のカウンタ値は1になるため、該画素のカウンタ値が、該エッジに該当する複数の画素(本実施形態では3箇所の画素)のカウンタ値の中で最も小さい値になる。よって、エッジが移動する方向の画素のカウンタ値は小さく、エッジが移動する方向とは反対方向の画素(エッジが通過した画素)のカウンタ値は大きくなる。このことから、道路環境特徴算出部13は、このようなカウンタ値の大小を判断してエッジの移動方向を得る。
【0043】
また、エッジに該当する各画素のカウンタ値の中で最小のカウンタ値hは、エッジがその位置で検出されている時間、すなわちエッジが移動してから何フレームの間、該エッジが同じ位置にあるかということを表す。
【0044】
このことから、エッジの中心位置をx0とすると、最小のカウンタ値h及びカウンタ値の傾きH(又は移動速度1/H)を基に、次式により現在のエッジの位置(中心位置)を算出できる。
エッジの位置=x0+h/H
例えば、図6(f)では、エッジの移動速度1/Hが1/2(画素/フレーム)であり、時刻t+2の時点で1フレーム連続して同じ位置でエッジを検出しているので、時刻t+2でのエッジの位置は、
1(フレーム)×{1/2(画素/フレーム)}=0.5画素
だけ位置x0から移動しているものとして算出されるものとなる。
【0045】
道路環境特徴算出部13は、以上のような算出手順に従って得ることができるエッジの移動速度及び移動方向を基に、撮像画像内に存在する物体(撮像画像内における部位)の移動情報(速度情報又は速度成分)を所定の階級値で表した速度画像を生成する。
【0046】
図7は、速度画像の例を示す。
図7に示すように、本実施形態の速度画像では、移動情報を階級値として表すものとし、移動するエッジに該当する画素位置に円を表示し、その移動速度が速いほどその円を大きくして示す。さらに、エッジの移動方向が左方向の場合には黒塗りの円で表し、エッジの移動方向が右方向の場合には白塗りの円で表す。このように、移動情報の階級値を、移動速度の大きさ及び移動方向によりその大きさ及び色が定まる円(又は点)により表す。
【0047】
ここで、自車両が前進すると、画像内で道路環境となる白線や縁石、外壁等は横方向に移動するように観測されるようになる。すなわち、自車両と道路環境との相対位置の変化により、停止物体である道路環境に擬似的な速度が発生するようになる。
【0048】
よって、画像内で傾斜とした表わされる白線や縁石、外壁等の立体物と路面との境界部(エッジ)も、自車両が前進すると横方向に移動するように観測されるようになるため、その境界部について擬似的な速度が算出されるようになる。このようなことから、図7に示すように、実施形態では、自車両の進行方向の右側に有る白線(白線を表す画素)に対応する移動情報(階級値)は、右方向への移動速度(白塗りの円)を示している。また、自車両の進行方向の左側に有る外壁及び白線(外壁及び白線を表す画素)の移動情報(階級値)は、左方向への移動速度(黒塗りの円)を示している。
【0049】
次に、道路環境特徴算出部13は、道路環境特徴を持つ画素を抽出する。
ここで、通常、路面上(白線が無い路面箇所)には、エッジが存在しないために、移動情報(階級値)を得ることができない。これに対して、白線や縁石、外壁等の立体物がある場合、それら白線や縁石、外壁等の立体物と路面との境界部は斜線として表れるためにエッジを抽出でき、さらには移動情報(階級値)を得ることができる。
【0050】
このようなことから、道路環境特徴算出部13は、移動情報を得ることができない領域と移動情報を得ることができる領域の境界に存在する画素を抽出する。具体的には、道路環境特徴算出部13は、速度画像内を下部から上部(y軸の負方向)に向かい移動情報の有無を判定していき、移動情報を持つ画素から移動情報を持たない画素に切替る位置を特定し、特定した画素位置、すなわち移動情報を持つ画素を道路環境特徴を持つ画素として抽出する。
【0051】
図8は、道路環境特徴を持つ画素の階級値により表される速度画像を示す。図7と比較するとわかるように、図8では、抽出要件を満たさない移動情報を持つ画素が除外されて、道路環境特徴を持つ画素のみが残るようになる。
近似直線算出部14は、画素検出枠設定部12が設定した画素検出枠内に存在する道路環境特徴を持つ画素を用いて近似直線を算出する。
【0052】
先ず、近傍画素検出枠(左側近傍画素検出枠、右側近傍画素検出枠)内に存在する道路環境特徴を持つ画素を用いた近似直線の算出を説明する。
近似直線算出部14は、近傍画素検出枠内に存在する道路環境特徴を持つ画素を抽出し、抽出した画素をそのy座標値が降順になるように並べ替える。ここで、左側近傍画素検出枠内では、自車両の左側の道路環境が右上がりの直線(斜線)相当として表されるために、抽出した画素をそのy座標値が降順になるように並べ替えると、そのx座標値が昇順となる。よって、近似直線算出部14は、抽出した画素をそのy座標値が降順になるように並べ替えた場合に、そのx座標値の順序が逆転する(降順になる)画素をノイズとして削除する。すなわち、近似直線算出部14は、異なる物体の特徴が混入したと判断して、その画素を道路環境特徴を持つ画素から除外する。また、右側近傍画素検出枠内では、自車両の右側の道路環境が左上がりの直線相当として表されるために、抽出した画素をそのy座標値が降順になるように並べ替えると、そのx座標値が降順となる。よって、近似直線算出部14は、抽出した画素をそのy座標値が降順になるように並べ替えた場合に、そのx座標値の順序が逆転する(昇順になる)画素をノイズとして削除する。
【0053】
図9は、ノイズとして削除された画素(道路環境特徴を持つ画素でないとされた画素)の例を説明する図である。
図9に示すように、本実施形態では、左側近傍画素検出枠NL1内からは、階級値を灰色の円で示す画素を4個、右側近傍画素検出枠NR1内からは、階級値を灰色の円で示す画素を3個、それらをノイズとして削除している。
【0054】
そして、近似直線算出部14は、以上のような削除がなされることなく残った道路環境特徴を持つ画素を基に、近似直線を算出する。近似直線の算出手順については後述する。
次に、遠方画素検出枠(左側遠方画素検出枠、右側遠方画素検出枠)における近似直線算出を説明する。
【0055】
なお、近傍で近似直線が算出(近傍画素検出枠内で近似直線が算出)されていることを前提で説明する。すなわち、近似直線算出部14は、近傍画素検出枠内で近似直線が検出されている場合、遠方の近似直線を算出する。具体的には、近似直線算出部14は、遠方画素検出枠内に存在する道路環境特徴を持つ画素を抽出し、近傍画素検出枠内の画素に対して行ったと同様に、その抽出した画素をy座標値が降順になるように並べ替える。そして、近似直線算出部14は、x座標値の連続性を評価して、ノイズとなる画素を削除する。このとき、近傍における直線算出結果を基に、道路形状を推定し、推定した道路形状に応じてx座標値の連続性を評価する。
【0056】
すなわち、推定した道路形状が直線路の場合には、左側遠方画素検出枠内の道路環境特徴を持つ画素については、近似直線算出部14は、抽出した画素をそのy座標値が降順になるように並べ替えた場合に、そのx座標値の順序が逆転する(降順になる)とき、ノイズとして削除する。また、右側遠方画素検出枠内の道路環境特徴となる画素については、近似直線算出部14は、抽出した画素をそのy座標値が降順になるように並べ替えた場合にそのx座標値の順序が逆転する(昇順になる)とき、その画素をノイズとして削除する。
【0057】
また、推定した道路形状が右カーブ路の場合には、左側及び右側の近傍画素検出枠内の何れでも、自車両の左側及び右側の道路環境が右上がりの直線相当として表されるために、抽出した画素をy座標値が降順になるように並べ替えると、そのx座標値が昇順となる。よって、近似直線算出部14は、抽出した画素をy座標値が降順になるように並べ替えた場合にそのx座標値の順序が逆転する(降順になる)とき、その画素をノイズとして削除する。
【0058】
また、推定した道路形状が左カーブ路の場合には、左側及び右側の近傍画素検出枠内のいずれでも、自車両の左側及び右側の道路環境が左上がりの直線相当として表されるために、抽出した画素をそのy座標値が降順になるように並べ替えると、そのx座標値も降順となる。よって、近似直線算出部14は、抽出した画素をy座標値が降順になるように並べ替えた場合にx座標値の順序が逆転する(昇順になる)とき、その画素をノイズとして削除する。
【0059】
図9の例では、近傍における近似直線算出結果から道路形状を右カーブ路と推定し、左側遠方画素検出枠FL1内からは、階級値を灰色の円で示す画素を13個、ノイズとして削除している。
そして、近似直線算出部14は、以上のような削除がなされることなく残った道路環境特徴を持つ画素を基に、近似直線を算出する。
【0060】
近傍及び遠方の画素検出枠内の画素に基づく近似直線の算出手順は次のようになる。ただし、遠方における近似直線の算出は、近傍において既に近似直線が算出されているということが前提になる。
【0061】
近似直線算出部14は、画素検出枠内に存在する道路環境特徴を持つ画素を少なくとも3個抽出し、抽出した3個を基に近似直線を算出する。例えば、近似直線算出部14は、3個の画素の位置との距離が最も小さくなる直線を近似直線として算出する。そして、近似直線算出部14は、このような3個の画素を用いた近似直線の算出処理を道路環境特徴を持つ画素の組み合わせを異ならせて行っていき、複数の近似直線を算出する。
【0062】
図10は、3点の画素を用いて算出された近似直線の例を示す。
図10に示すように、本実施形態では、近似直線算出部14は、左側近傍画素検出枠NL1ではL1、L2、L3の3つの近似直線を算出し、右側近傍画素検出枠NR1ではR1、R2の2つの近似直線を算出する。さらに、近似直線算出部14は、左側遠方画素検出枠FL1ではL4、L5、L6の3つの近似直線を算出し、右側遠方画素検出枠FR1ではR3、R4の2つの近似直線を算出する。
【0063】
画素検出枠交差判定部15は、近似直線算出部14が算出した近似直線と画素検出枠の車幅方向に延びる前後2つの辺とが交差するか否かを判定する。そのため、画素検出枠交差判定部15は、近似直線算出部14が算出した近似直線の両端を延長させて、その延長させた近似直線と、画素検出枠の車幅方向に延びる前後2つの辺とが交差するか否かを判定する。画素検出枠交差判定部15は、交差しない(例えば前後2つの辺の両方と交差しない)との判定をした場合、画素検出枠交差判定部15は、その交差しない近似直線を削除する。そして、画素検出枠交差判定部15は、このような処理を、全ての画素検出枠(左側及び右側の近傍画素検出枠、並びに左側及び右側の遠方画素検出枠)について算出した近似直線について行う。
【0064】
図11は、近似直線と画素検出枠の車幅方向に延びる辺との交差の状態を示す。
図11に示すように、本実施形態では、画素検出枠交差判定部15は、左側近傍画素検出枠NL1において車幅方向に延びる前後2つの辺の両方に交差しない近似直線L1を削除することとなる。また、画素検出枠交差判定部15は、左側遠方画素検出枠FL1において車幅方向に延びる前後2つの辺の両方に交差しない近似直線L5、L6を削除するこことなる。
【0065】
道路環境生成部16は、画素検出枠交差判定部15が交差すると判定した近似直線をさらに選定する。
具体的には、先ず、道路環境生成部16は、画素検出枠交差判定部15が交差すると判定した近似直線とその画素検出枠(該近似直線が属する画素検出枠)内に有る道路環境特徴を持つ全ての画素との誤差(距離)を算出する。そして、道路環境生成部16は、算出した誤差を比較し、それら誤差の中央値を近似直線に対する誤差の代表値にする。ここで、道路環境生成部16は、画素検出枠交差判定部15が交差すると判定した近似直線全てに対して同様な処理を行って、その全ての近似直線に対応する誤差の代表値を取得する。
【0066】
そして、道路環境生成部16は、同一の画素検出枠に属する全ての近似直線について誤差の代表値により比較し、代表値が最も小さくなる近似直線を、該画素検出枠で推定進路中心Oから遠い方の前後方向に延びる辺に平行度が一致する近似直線であると判定する。
なお、代表値を中間値にしているが、代表値を平均値等の他の値にすることもできる。
図12は、そのような近似直線の判定を説明する図である。
【0067】
図12に示すように、本実施形態では、道路環境生成部16は、左側近傍画素検出枠NL1では近似直線L3、右側近傍画素検出枠NR1では近似直線R2、左側遠方画素検出枠FL1では近似直線L4、右側遠方画素検出枠FR1では近似直線R4を最も誤差が小さくなる近似直線と判定している。すなわち、道路環境生成部16は、これら近似直線を、各画素検出枠において、該画素検出枠で推定進路中心Oから遠い方の前後方向に延びる辺に平行度が一致する近似直線であると判定する。
【0068】
また、道路環境生成部16は、前記平行度が一致した近似直線とその画素検出枠内に存在する道路環境特徴を持つ各画素との誤差(距離)を算出する。そして、道路環境生成部16は、算出した誤差が予め設定した所定値以上であると判定すると、その画素をノイズとして削除する。すなわち、近似直線算出部14は、その画素を道路環境特徴を持つ画素から除外する。そして、道路環境生成部16は、ノイズとして削除されずに残った道路環境特徴を持つ画素を用いて再度、近似直線を算出する。
【0069】
よって、図12に示すように、本実施形態では、道路環境生成部16は、左側近傍画素検出枠NL1については、円内をハッチングで示す2個の画素をノイズとして削除し、残った画素に基づく再演算により近似直線L10を算出している。また、道路環境生成部16は、右側近傍画素検出枠NR1については、ノイズとして削除されなかった道路環境特徴を持つ画素による再演算により近似直線R10を算出している。また、道路環境生成部16は、左側遠方画素検出枠FL1についても、ノイズとして削除されなかった道路環境特徴を持つ画素による再演算により近似直線L20(=近似直線L4)を算出している。また、道路環境生成部16は、右側遠方画素検出枠FR1についても、ノイズとして削除されなかった道路環境特徴を持つ画素による再演算により近似直線R20を算出している。
【0070】
そして、道路環境生成部16は、道路環境を生成する(道路環境を特定する)。具体的には、道路環境生成部16は、道路環境特徴を持つ画素によって得られる最終的な近似直線を道路環境を表すもの(例えば道路環境の特徴又は道路環境の一部)として決定する。或いは、道路環境生成部16は、最終的な近似直線を算出するのに用いた道路環境特徴を持つ画素から構成されるエッジを道路環境を表すもの(例えば道路環境の特徴又は道路環境の一部)として決定する。さらに、例えば、道路環境生成部16は、そのような道路環境特徴を持つ画素の位置情報或いは道路環境特徴を持つ画素から構成されるエッジの位置情報を出力する。
【0071】
(動作、作用等)
図13に示すフローチャートを用いて、走路環境生成装置10の一連の処理動作を説明する。この図13に示す処理動作は、不図示のイグニションスイッチがオンになったときに開始する。
【0072】
これにより、先ずステップS101では、カメラ2は、撮像画像をフレーム毎に画像一時記録部11に出力する。
続くステップS102では、道路環境特徴算出部13は、画像一時記録部11に記録されている撮像画像に対してエッジ抽出処理(2値化処理、細線化処理、及び膨張処理)を行い、撮像画像内に存在する物体の輪郭を抽出してエッジで表すエッジ画像を生成する。
【0073】
続くステップS103では、道路環境特徴算出部13は、エッジから移動情報を算出し、算出した移動情報を階級値(円の大きさ及び色)で表した速度画像を生成する。
続くステップS104では、道路環境特徴算出部13は、生成した速度画像において下部から上部に向かい走査しつつ移動情報の有無を判定していき、移動情報が無い画素から移動情報が有る画素に切替る画素位置を特定し、特定したその移動情報を持つ画素を道路環境特徴を持つ画素として抽出する。
【0074】
続くステップS105では、画素検出枠設定部12は、車両情報又は道路形状情報を取得し、自車両の推定進路中心位置を算出する。そして、画素検出枠設定部12は、算出した推定進路中心位置を基準として左側近傍画素検出枠、右側近傍画素検出枠、左側遠方画素検出枠、及び右側遠方画素検出枠を設定する。
続くステップS106では、近似直線算出部14は、近傍画素検出枠内に存在する道路環境特徴を持つ画素を抽出し、抽出した画素をそのy座標値が降順になるように並べ替える。
【0075】
続くステップS107では、近似直線算出部14は、y座標値が降順になるように並べ替えた道路環境特徴(画素)のx座標値の順序を判定する。そして、近似直線算出部14は、x座標値の順序が逆転していると判定したとき(左側近傍画素検出枠内では降順のとき、右側近傍画素検出枠内では昇順のとき)、すなわち、連続性(左側近傍画素検出枠内では昇順、右側近傍画素検出枠内では降順)が異なるとき、その画素をノイズとして削除する。
【0076】
続くステップS108では、近似直線算出部14は、近傍画素検出枠内に存在する道路環境特徴を持つ画素を3個抽出し、抽出した3個の画素を基に近似直線を算出する。
続くステップS109では、画素検出枠交差判定部15は、ステップS108で近似直線算出部14が算出した近似直線が、近傍画素検出枠における車幅方向に延びる前後2つの辺と交差するか否かを判定する。画素検出枠交差判定部15は、交差すると判定すると、ステップS110に進む。また、画素検出枠交差判定部15は、交差しないと判定すると、ステップS108に戻る。この場合、ステップS108では、別の3個の画素を基に別の近似直線を算出し、続くステップS109では、その算出した別の近似直線が、近傍画素検出枠における車幅方向に延びる前後2つの辺と交差するか否かを判定する。
【0077】
ステップS110では、道路環境生成部16は、ステップS108で算出した近似直線(ステップS109で交差すると判定した近似直線)と近傍画素検出枠内に存在する全ての道路環境特徴を持つ画素との誤差を算出し、誤差の代表値(中央値)を取得する。
続くステップS111では、道路環境生成部16は、前記ステップ110で取得した近似直線の誤差の代表値(近似直線の情報)を保存する。
【0078】
続くステップS112では、道路環境生成部16は、近似直線の算出回数が予め設定した所定回数以上か否かを判定する。道路環境生成部16は、近似直線の算出回数が所定回数以上と判定すると、ステップS113に進む。また、道路環境生成部16は、近似直線の算出回数が所定回数未満と判定すると、ステップS108に戻る。
【0079】
続くステップS113では、道路環境生成部16は、ステップS111で保存された近似直線情報(近似直線の誤差の代表値)を比較し、最も小さい代表値を持つ近似直線をその近傍画素検出枠における近似直線(近傍近似直線)と決定する。
【0080】
続くステップS114では、道路環境生成部16は、ステップS113で決定した近似直線とその近傍画素検出枠内に存在する道路環境特徴を持つ各画素との誤差を算出する。そして、道路環境生成部16は、算出した誤差が予め設定した所定値以上であると判定すると、その画素をノイズとして削除する。
続くステップS115では、道路環境生成部16は、近傍画素検出枠内に存在する道路環境特徴を持つ画素(ノイズとして削除されていない画素)を基に、最終的な近似直線(最終的な近傍近似直線)を算出する。
【0081】
そして、道路環境生成部16は、最終的な近似直線そのもの、又は最終的な近似直線を算出するのに用いた道路環境特徴を持つ画素から構成されるエッジを、道路環境を表すものとして決定する。例えば、さらに、道路環境生成部16は、そのような道路環境特徴を持つ画素の位置情報或いは道路環境特徴を持つ画素から構成されるエッジの位置情報を出力する。
【0082】
続くステップS116では、道路環境生成部16は、左側及び右側の近傍画素検出枠内で近似直線(左右の近似直線)を算出したか否かを判定する。道路環境生成部16は、左側及び右側の近傍画素検出枠内で近似直線を算出したと判定すると、ステップS117に進む。また、道路環境生成部16は、左側及び右側の近傍画素検出枠内で近似直線を算出できていないと判定すると、ステップS128に進む。
【0083】
ステップS117では、近似直線算出部14は、道路形状を推定する。
ステップS118では、近似直線算出部14は、遠方画素検出枠内に存在する道路環境特徴を持つ画素を抽出し、抽出した画素をそのy座標値が降順になるように並べ替える。
【0084】
続くステップS119では、近似直線算出部14は、y座標が降順になるように並べ替えた道路環境特徴(画素)のx座標値の順序を判定する。そして、近似直線算出部14は、ステップS117で推定した道路形状に応じた判定の下、x座標値の順序が逆転していると判定したとき、すなわち連続性が異なるとき、その画素をノイズとして削除する。
【0085】
続くステップS120では、近似直線算出部14は、遠方画素検出枠内に存在する道路環境特徴を持つ画素を3個抽出し、抽出した3個の画素を基に近似直線を算出する。
続くステップS121では、画素検出枠交差判定部15は、ステップS120で近似直線算出部14が算出した近似直線が、遠方画素検出枠における車幅方向に延びる前後2つの辺と交差するか否かを判定する。画素検出枠交差判定部15は、交差すると判定すると、ステップS122に進む。また、画素検出枠交差判定部15は、交差しないと判定すると、ステップS120に戻る。この場合、ステップS120では、別の3個の画素を基に別の近似直線を算出し、続くステップS121では、その算出した別の近似直線が、遠方画素検出枠における車幅方向に延びる前後2つの辺と交差するか否かを判定する。
【0086】
続くステップS122では、道路環境生成部16は、ステップS120で算出した近似直線(ステップS121で交差すると判定した近似直線)と遠方画素検出枠内に存在する全ての道路環境特徴を持つ画素との誤差を算出し、誤差の代表値(中央値)を取得する。
続くステップS123では、道路環境生成部16は、前記ステップ122で取得した近似直線の誤差の代表値(近似直線の情報)を保存する。
【0087】
続くステップS124では、道路環境生成部16は、近似直線の算出回数が予め設定した所定回数以上か否かを判定する。道路環境生成部16は、近似直線の算出回数が所定回数以上と判定すると、ステップS125に進む。また、道路環境生成部16は、近似直線の算出回数が所定回数未満と判定すると、ステップS120に戻る。
続くステップS125では、道路環境生成部16は、ステップS123で保存された近似直線情報(近似直線の誤差の代表値)を比較し、最も小さい代表値を持つ近似直線をその遠方画素検出枠における近似直線(遠方近似直線)と決定する。
【0088】
続くステップS126では、道路環境生成部16は、ステップS125で決定した近似直線とその遠方画素検出枠内に存在する道路環境特徴を持つ各画素との誤差を算出する。そして、道路環境生成部16は、算出した誤差が予め設定した所定値以上であると判定すると、その画素をノイズとして削除する。
続くステップS127では、道路環境生成部16は、遠方画素検出枠内に存在する道路環境特徴を持つ画素(ノイズとして削除されていない画素)を基に、最終的な近似直線(最終的な遠方近似直線)を算出する。
【0089】
そして、道路環境生成部16は、最終的な近似直線そのもの、又は最終的な近似直線を算出するのに用いた道路環境特徴を持つ画素から構成されるエッジを、道路環境を表すものとして決定する。例えば、さらに、道路環境生成部16は、そのような道路環境特徴を持つ画素の位置情報或いは道路環境特徴を持つ画素から構成されるエッジの位置情報を出力する。
【0090】
ステップS128では、画素検出枠設定部12は、今回設定した画素検出枠の左右方向の側方に画素検出枠を新たに設定できる領域の有無を判定する。画素検出枠設定部12は、画素検出枠を新たに設定できる領域が有ると判定すると、ステップS105に戻り、近似直線の算出処理を継続する。また、画素検出枠設定部12は、画素検出枠を新たに設定できる領域が無いと判定すると、ステップS129に進む。
【0091】
ステップS129では、制御部10は、自車両のイグニションスイッチがオフされたか否かを判定する。制御部10は、自車両のイグニションスイッチがオフされたと判定すると、該図13に示す処理動作を終了する。また、制御部10は、自車両のイグニションスイッチがオフされていないと判定すると、ステップS1に戻り、処理を繰り返す。
【0092】
なお、本実施形態では、撮像手段としてカメラ2を用いている。また、画素検出枠設定手段として画素検出枠設定部12を用いている。また、特徴部算出手段として道路環境特徴算出部13を用いている。また、近似直線算出手段として近似直線算出部14を用いている。また、交差判定手段として画素検出枠交差判定部15を用いている。また、道路環境特徴決定手段として道路環境生成部16を用いている。
また、代表値取得手段として近似直線算出部14を用いている。また、画素選定手段として道路環境特徴算出部13を用いている。また、エッジは特徴部に対応する。
【0093】
(本実施形態の効果)
(1)道路環境生成装置1は、撮像手段が撮像した画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定し、設定した画素検出枠内の画素を基に、該画素検出枠内の画像の特徴部を算出している。また、道路環境生成装置1は、算出した特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出し、画素検出枠の車幅方向に延びる辺に近似直線が交差するか否かを判定する。そして、道路環境生成装置1は、交差判定手段が交差すると判定した近似直線と画素検出枠の車両進行方向に延びる辺との平行度を基に、特徴部を画像内の道路環境を表すものとしての決定をする。
【0094】
このように、道路環境生成装置1は、道路環境の決定に、幅方向及び車両進行方向に幅を有する方形の画素検出枠内の画像の特徴部を表す画素を基に算出した近似直線を用い、さらにはその近似直線とその画素検出枠の形状との比較結果を用いている。これにより、道路環境生成装置1は、道路環境の特徴を適切に示す特徴部を該道路環境のものとする決定ができるため、撮像画像を基に道路環境を高い精度で検出できる。
【0095】
また、道路環境生成装置1は、車幅方向及び前後方向に比較的広い方形となる画素検出枠を設定することで、一般道のような様々な形状の走行レーン等の道路環境を検出できるようになる。
【0096】
(2)近似直線算出手段は、特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出している。
これにより、演算時間を少なくして近似直線を算出できる。
【0097】
例えば、従来の走行レーン検出装置や走行レーン検出方法では、全ての画素から近似直線を算出するためにその演算時間がかかっていた。この場合、その演算結果を基に走行制御を行おうとすると、その演算の応答性が問題となってしまう。これに対して、本実施形態では、演算時間を少なくして近似直線を算出でき、走行制御を行う際のその演算の応答性が問題となってしまうのを防止できる。
【0098】
(3)道路環境特徴決定手段は、特徴部を表す複数の画素のうち交差判定手段が交差すると判定した近似直線に対する距離(誤差)が予め設定した所定値未満の画素によって表される特徴部を画像内の道路環境を表すものとして決定している。
これにより、道路環境特徴決定手段では、特徴部に対応する道路環境を適切に示す画素を選定でき、その選定した画素を基に該特徴部を得ることができる。
【0099】
(4)近似直線算出手段は、特徴部を表す複数の画素の組み合わせを変えて複数の近似直線を算出している。また、近似直線算出手段は、交差判定手段が交差すると判定した近似直線と特徴部を表す全ての画素との距離を算出し、各画素について算出した距離の代表値(本実施形態では中央値)を取得する代表値取得手段を備えている。さらに、道路環境特徴決定手段は、交差判定手段が交差すると判定した複数の近似直線のうちの代表値が最小となる近似直線を平行度が高いと判定している。そして、道路環境特徴決定手段は、記代表値が最小となる近似直線に対する距離が予め設定した所定値未満の画素によって表される特徴部を前記画像内の道路環境を表すものとして決定している。
これにより、近似直線算出手段は、特徴部を適切に表す近似直線を選定できる。
【0100】
(5)画像内で移動する部位を表す画素を選定する画素選定手段を備えている。そして、特徴部算出手段は、画素選定手段が選定した画素を基に、特徴部を算出している。
これにより、道路環境生成装置1は、画素内で移動する特徴部を画像内の道路環境を表すものとして決定することができる。
例えば、画像内で白線、縁石、立体物下端等の各道路環境を表す画素が異なる輝度で表されるような場合でも、自車両走行に伴い画像内で道路環境が移動するといった観点から画素を選定することで、適切に道路環境を決定できる。
【0101】
(6)画素検出枠設定手段は、車両情報及び道路形状情報の少なくとも何れかを基に、画素検出枠を設定している。
これにより、画素検出枠設定手段は、車両の状態や道路形状に合致させた画素検出枠の設定ができる。
【0102】
(7)画素検出枠設定手段は、道路環境特徴決定手段の決定の結果を基に、画素検出枠の位置を新たに設定している。
これにより、画素検出枠設定手段は、道路環境特徴決定手段の決定の結果を反映させて、新たな画素検出枠を新たに適切に設定できる。例えば、この結果、走行レーン以外の道路環境や複数の道路環境の検出も可能となる。
【0103】
(8)画素検出枠設定手段は、自車両に対して車両進行方向の近傍側及び遠方側に画素検出枠をそれぞれ設定している。
これにより、画素検出枠設定手段は、自車両近傍と自車両遠方とで形状が異なるカーブ路等の道路に合致させて画素検出枠を設定できる。
【0104】
(9)近似直線算出手段は、近傍側の画素検出枠内の特徴部を表す複数の画素を画像内における車両進行方向の該画素の座標位置が昇順又は降順となるように並べ替えたときに、画像内における車幅方向の該画素の座標位置が予め設定した所定条件で連続して並んでいるか否かを判定している。そして、近似直線算出手段は、連続して並んでいない画素を近似直線の算出に用いる画素から除外している。
【0105】
ここで、画像内の車両進行方向の近傍の道路環境は、通常、該画像内において右上がり又は左上がりの形状として表される特性を持つ。道路環境生成装置1は、このような特性を利用して、適切な画素を選定し、近似直線を算出できる。
【0106】
(10)近似直線算出手段は、遠方側の画素検出枠内の前記特徴部を表す複数の画素を画像内における車両進行方向の該画素の座標位置が昇順又は降順となるように並べ替えたときに、画像内における車幅方向の該画素の座標位置が、道路形状に基づく所定条件で連続して並んでいるか否かを判定している。そして、近似直線算出手段は、連続して並んでいない画素を近似直線の算出に用いる画素から除外している。
【0107】
ここで、画像内の車両進行方向の遠方の道路環境は、通常、該画像内において右上がり又は左上がりの形状として表される特性を持つ。さらに、道路形状により、右上がりの形状をとるか左上がりの形状をとるかが変化する。
道路環境生成装置1は、このような特性を利用して、適切な画素を選定し、近似直線を算出できる。
【0108】
(11)道路環境生成装置1は、近似直線、その近似直線と画素の距離、又は所定条件を課した画素の連続性等により画素の位置を統計的な手法により評価することで、高速かつ高精度で道路環境を検出できる。
例えば、検出対象の道路環境を検出するために探索的に画素の連続性を判断していくことで、検出対象以外の道路環境を表す画素を排除して検出対象の道路環境を検出することも可能と考えられる。しかし、その判断のための演算時間が多くなってしまう。
【0109】
これに対して、本実施形態の道路環境生成装置1は、前述のような統計的な手法により画素の位置を評価することで、画素検出枠を広範囲に設定した場合でも、演算コストをかけずに高速かつ高精度で道路環境を検出できる。
【0110】
(12)本実施形態では、複数の画素ノイズ処理を行うことで、様々な形状の道路環境や複数の道路環境を正確に検出することができる。
(13)道路環境生成部16は、画素検出枠で推定進路中心Oから遠い方の前後方向に延びる辺との平行度を判定している。これは、図4に示すように台形の画素検出枠を左右にそれぞれ設定すると、その車幅方向における外側の辺、すなわち、推定進路中心Oから遠い方の前後方向に延びる辺が、画像内の道路環境を表す斜線に対してほぼ平行になる。道路環境生成装置1は、このような関係を利用して、道路環境の形状に合致させて、特徴部を表す近似直線を選択することができるようになる。
【0111】
(実施形態の変形例)
本実施形態の変形例として、近似直線算出部14は、画素検出枠内に存在する道路環境特徴を持つ画素をそのy座標値が昇順になるように並べ替えることもできる。この場合、そのように昇順になるように並べ替えたことに応じて、x座標値の連続性を評価する。すなわち、所定の条件でx座標値の連続性を評価する。
【符号の説明】
【0112】
1 道路環境生成装置、2 カメラ、10、制御部、11 画像一時記録部、12 画素検出枠設定部、13 道路環境特徴算出部、14 近似直線算出部、15 画素検出枠交差判定部、16 道路環境生成部
【特許請求の範囲】
【請求項1】
自車両前方を撮像する撮像手段と、
前記撮像手段が撮像した画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定する画素検出枠設定手段と、
前記画素検出枠内の画素を基に、該画素検出枠内の画像の特徴部を算出する特徴部算出手段と、
前記特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出する近似直線算出手段と、
前記画素検出枠の車幅方向に延びる辺に前記近似直線が交差するか否かを判定する交差判定手段と、
前記交差判定手段が交差すると判定した近似直線と前記画素検出枠の車両進行方向に延びる辺との平行度を基に、前記特徴部を画像内の道路環境を表すものとしての決定をする道路環境特徴決定手段と、
を備えることを特徴とする道路環境情報取得装置。
【請求項2】
前記道路環境特徴決定手段は、前記特徴部を表す複数の画素のうち前記交差判定手段が交差すると判定した近似直線に対する距離が予め設定した所定値未満の画素によって表される特徴部を前記画像内の道路環境を表すものとして決定することを特徴とすることを特徴とする請求項1に記載の道路環境情報取得装置。
【請求項3】
前記近似直線算出手段は、前記特徴部を表す複数の画素の組み合わせを変えて複数の近似直線を算出しており、
前記交差判定手段が交差すると判定した近似直線と前記特徴部を表す全ての画素との距離を算出し、各画素について算出した前記距離の代表値を取得する代表値取得手段を備え、
前記道路環境特徴決定手段は、前記交差判定手段が交差すると判定した複数の近似直線のうちの前記代表値が最小となる近似直線を前記平行度が高いと判定して、前記代表値が最小となる近似直線に対する距離が予め設定した所定値未満の画素によって表される特徴部を前記画像内の道路環境を表すものとして決定することを特徴とすることを特徴とする請求項1又は2に記載の道路環境情報取得装置。
【請求項4】
画像内で移動する部位を表す画素を選定する画素選定手段を備え、
前記特徴部算出手段は、前記画素選定手段が選定した画素を基に、前記特徴部を算出することを特徴とする請求項1乃至3の何れか1項に記載の道路環境情報取得装置。
【請求項5】
前記画素検出枠設定手段は、車両情報及び道路形状情報の少なくとも何れかを基に、前記画素検出枠を設定することを特徴とする請求項1乃至4の何れか1項に記載の道路環境情報取得装置。
【請求項6】
前記画素検出枠設定手段は、前記道路環境特徴決定手段の前記決定の結果を基に、前記画素検出枠の位置を新たに設定することを特徴とする請求項1乃至5の何れか1項に記載の道路環境情報取得装置。
【請求項7】
前記画素検出枠設定手段は、自車両に対して車両進行方向の近傍側及び遠方側に前記画素検出枠をそれぞれ設定することを特徴とする請求項1乃至6の何れか1項に記載の道路環境情報取得装置。
【請求項8】
前記近似直線算出手段は、前記近傍側の画素検出枠内の前記特徴部を表す複数の画素を画像内における車両進行方向の該画素の座標位置が昇順又は降順となるように並べ替えたときに、画像内における車幅方向の該画素の座標位置が予め設定した所定条件で連続して並んでいるか否かを判定し、連続して並んでいない画素を前記近似直線の算出に用いる画素から除外することを特徴とする請求項7に記載の道路環境情報取得装置。
【請求項9】
前記近似直線算出手段は、前記遠方側の画素検出枠内の前記特徴部を表す複数の画素を画像内における車両進行方向の該画素の座標位置が昇順又は降順となるように並べ替えたときに、画像内における車幅方向の該画素の座標位置が、道路形状に基づく所定条件で連続して並んでいるか否かを判定し、連続して並んでいない画素を前記近似直線の算出に用いる画素から除外することを特徴とする請求項7に記載の道路環境情報取得装置。
【請求項10】
自車両前方の撮像画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定し、
前記画素検出枠内の画素を基に、該画素検出枠内の画像の特徴部を算出し、
前記特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出し、
前記画素検出枠の車幅方向に延びる辺に前記近似直線が交差するか否かを判定し、
交差すると判定した近似直線と前記画素検出枠の車両進行方向に延びる辺との平行度を基に、前記特徴部を画像内の道路環境を表すものとしての決定をする道路環境特徴取得方法。
【請求項1】
自車両前方を撮像する撮像手段と、
前記撮像手段が撮像した画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定する画素検出枠設定手段と、
前記画素検出枠内の画素を基に、該画素検出枠内の画像の特徴部を算出する特徴部算出手段と、
前記特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出する近似直線算出手段と、
前記画素検出枠の車幅方向に延びる辺に前記近似直線が交差するか否かを判定する交差判定手段と、
前記交差判定手段が交差すると判定した近似直線と前記画素検出枠の車両進行方向に延びる辺との平行度を基に、前記特徴部を画像内の道路環境を表すものとしての決定をする道路環境特徴決定手段と、
を備えることを特徴とする道路環境情報取得装置。
【請求項2】
前記道路環境特徴決定手段は、前記特徴部を表す複数の画素のうち前記交差判定手段が交差すると判定した近似直線に対する距離が予め設定した所定値未満の画素によって表される特徴部を前記画像内の道路環境を表すものとして決定することを特徴とすることを特徴とする請求項1に記載の道路環境情報取得装置。
【請求項3】
前記近似直線算出手段は、前記特徴部を表す複数の画素の組み合わせを変えて複数の近似直線を算出しており、
前記交差判定手段が交差すると判定した近似直線と前記特徴部を表す全ての画素との距離を算出し、各画素について算出した前記距離の代表値を取得する代表値取得手段を備え、
前記道路環境特徴決定手段は、前記交差判定手段が交差すると判定した複数の近似直線のうちの前記代表値が最小となる近似直線を前記平行度が高いと判定して、前記代表値が最小となる近似直線に対する距離が予め設定した所定値未満の画素によって表される特徴部を前記画像内の道路環境を表すものとして決定することを特徴とすることを特徴とする請求項1又は2に記載の道路環境情報取得装置。
【請求項4】
画像内で移動する部位を表す画素を選定する画素選定手段を備え、
前記特徴部算出手段は、前記画素選定手段が選定した画素を基に、前記特徴部を算出することを特徴とする請求項1乃至3の何れか1項に記載の道路環境情報取得装置。
【請求項5】
前記画素検出枠設定手段は、車両情報及び道路形状情報の少なくとも何れかを基に、前記画素検出枠を設定することを特徴とする請求項1乃至4の何れか1項に記載の道路環境情報取得装置。
【請求項6】
前記画素検出枠設定手段は、前記道路環境特徴決定手段の前記決定の結果を基に、前記画素検出枠の位置を新たに設定することを特徴とする請求項1乃至5の何れか1項に記載の道路環境情報取得装置。
【請求項7】
前記画素検出枠設定手段は、自車両に対して車両進行方向の近傍側及び遠方側に前記画素検出枠をそれぞれ設定することを特徴とする請求項1乃至6の何れか1項に記載の道路環境情報取得装置。
【請求項8】
前記近似直線算出手段は、前記近傍側の画素検出枠内の前記特徴部を表す複数の画素を画像内における車両進行方向の該画素の座標位置が昇順又は降順となるように並べ替えたときに、画像内における車幅方向の該画素の座標位置が予め設定した所定条件で連続して並んでいるか否かを判定し、連続して並んでいない画素を前記近似直線の算出に用いる画素から除外することを特徴とする請求項7に記載の道路環境情報取得装置。
【請求項9】
前記近似直線算出手段は、前記遠方側の画素検出枠内の前記特徴部を表す複数の画素を画像内における車両進行方向の該画素の座標位置が昇順又は降順となるように並べ替えたときに、画像内における車幅方向の該画素の座標位置が、道路形状に基づく所定条件で連続して並んでいるか否かを判定し、連続して並んでいない画素を前記近似直線の算出に用いる画素から除外することを特徴とする請求項7に記載の道路環境情報取得装置。
【請求項10】
自車両前方の撮像画像に、車幅方向及び車両進行方向に幅を有する方形の画素検出枠を設定し、
前記画素検出枠内の画素を基に、該画素検出枠内の画像の特徴部を算出し、
前記特徴部を表す複数の画素のうちの少なくとも3個の画素の位置を基に近似直線を算出し、
前記画素検出枠の車幅方向に延びる辺に前記近似直線が交差するか否かを判定し、
交差すると判定した近似直線と前記画素検出枠の車両進行方向に延びる辺との平行度を基に、前記特徴部を画像内の道路環境を表すものとしての決定をする道路環境特徴取得方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2011−248638(P2011−248638A)
【公開日】平成23年12月8日(2011.12.8)
【国際特許分類】
【出願番号】特願2010−121320(P2010−121320)
【出願日】平成22年5月27日(2010.5.27)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
【公開日】平成23年12月8日(2011.12.8)
【国際特許分類】
【出願日】平成22年5月27日(2010.5.27)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
[ Back to top ]