車両用走行路面検出装置
【課題】簡易な処理により路面を正確に検出することが出来る車両用走行路面検出装置を提供する。
【解決手段】本発明による車両用走行路面検出装置は、路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、第1撮像手段と、第2撮像手段と、撮像される路面画像から路面を複数の平面に分割する路面分割手段と、これらの分割された平面のうちいずれかを特定平面として特定する分割平面特定手段と、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出する特定平面定数算出手段と、特定平面に隣接する平面の平面定数を特定平面とその隣接平面との境界部の勾配変化から推定する隣接平面定数推定手段と、を有する。
【解決手段】本発明による車両用走行路面検出装置は、路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、第1撮像手段と、第2撮像手段と、撮像される路面画像から路面を複数の平面に分割する路面分割手段と、これらの分割された平面のうちいずれかを特定平面として特定する分割平面特定手段と、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出する特定平面定数算出手段と、特定平面に隣接する平面の平面定数を特定平面とその隣接平面との境界部の勾配変化から推定する隣接平面定数推定手段と、を有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両用走行路面検出装置に係り、特に、走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置に関する。
【背景技術】
【0002】
従来、特許文献1に示すように、ステレオカメラにより得られる基準の画像を他方のカメラ視点に画像変換し、その変換画像を他方のカメラ画像とにより走行路面の平面パラメータを算出する平面検出装置が知られている。
また、特許文献2に示すように、前方の道路の勾配角を検出することが出来る前方道路の勾配検出方法が知られている。
【0003】
【特許文献1】特開2006−053754号公報
【特許文献2】特開平09−325026号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上述したような装置或いは方法では、演算処理の負担が非常に大きく、特に、複数の傾斜変化がある路面については処理しきれない場合があった。また、単純な、例えば2つの平面同士の勾配変化を求めることが出来るものの、様々な傾斜変化がある場合に正確に路面までの距離や傾斜を検出することが出来ないものである。
【0005】
そこで、本発明は、上述した従来技術の問題点を解決するためになされたものであり、簡易な処理により路面を正確に検出することが出来る車両用走行路面検出装置を提供することを目的としている。
【課題を解決するための手段】
【0006】
上記の目的を達成するために本発明による車両用走行路面検出装置は、走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、走行路面を撮像する第1撮像手段と、この第1撮像手段により撮像された路面画像と少なくとも1部が重複する路面画像が得られるように走行路面を撮像する第2撮像手段と、撮像される路面画像から路面を複数の平面に分割する路面分割手段と、これらの分割された平面のうちいずれかを特定平面として特定する分割平面特定手段と、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出する特定平面定数算出手段と、特定平面に隣接する平面の平面定数を特定平面とその隣接平面との境界部の勾配変化から推定する隣接平面定数推定手段と、特定平面算出手段により算出された平面定数と、隣接平面定数推定手段により推定された平面定数とにより所定の広い領域の路面の勾配を推定する路面勾配推定手段と、を有することを特徴としている。
【0007】
このように構成された本発明においては、路面分割手段により撮像される路面画像の路面を複数の平面に分割し、これらの分割された平面のうちいずれかを特定平面として特定し、特定平面定数算出手段により第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出し、そして、隣接平面定数推定手段により、この特定平面に隣接する平面の平面定数を特定平面とその隣接平面との境界部の勾配変化から推定している。このように、撮像された路面を複数に分割したうちの一つについて特定平面定数算出手段により平面定数(例えば、車両からの距離や路面の傾き)が算出され、他の隣接する面は、この算出した平面定数を基に境界部の勾配変化を考慮して算出している。ここで、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出する方法(特定平面定数算出手段)は、ECU(コンピュータ)による処理負担が大きい。一方、或る平面間の境界部の勾配変化を算出する方法のECUによる処理負担は小さい。そして、本発明では、分割した複数の平面のうちの1つの平面定数をこの処理負担が大きい特定平面定数算出手段により算出した後、その特定平面に隣接する隣接平面及びこのような隣接平面にさらに隣接する次なる隣接平面の平面定数は、処理負担が小さい隣接平面定数推定手段により得られる勾配変化から算出している。そして、特定平面算出手段により算出された平面定数と、隣接平面定数推定手段により推定された平面定数とにより所定の広い領域の路面の勾配を推定するようにしている。従って、広い範囲にわたる路面検出の処理負担が軽減される。また、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数が算出され、この特定平面の平面定数を基に隣接平面の平面定数が推定されるようになっているので路面(例えば、路面の距離と傾斜)を正確に検出することが出来る。これらの結果、簡易な処理により路面を正確に検出することが出来る。
【0008】
また、本発明において、好ましくは、路面分割手段は、撮像される路面画像の路面を車両進行方向の縦方向に分割する。
このように構成された本発明においては、車両進行方向の路面を簡易且つ正確に検出することが出来る。
【0009】
また、本発明において、好ましくは、路面分割手段は、撮像される路面画像の路面を路面の横断方向に分割する。
このように構成された本発明においては、路面横断方向の路面を簡易且つ正確に検出することが出来る。
【0010】
また、本発明において、好ましくは、特定平面及び隣接平面のそれぞれの平面定数は、車両からの距離d及び傾きnにより規定される。
このように構成された本発明においては、路面の車両からの距離及び傾斜の度合いを正確に検出することが出来る。
【0011】
また、本発明において、好ましくは、隣接平面定数算出手段は、特定平面の車両からの距離d及び傾きnと、その特定平面と隣接平面との境界部の勾配変化δにより、隣接平面の平面定数を推定する。
このように構成された本発明においては、隣接平面の路面の車両からの距離及び傾斜の度合いを距離d、傾きn及び勾配変化δにより正確に検出することが出来る。
【0012】
また、本発明において、好ましくは、特定平面定数算出手段により算出される平面定数の路面の横断方向の傾斜n’が所定値以下のとき、路面の横断方向に分割された領域の平面定数は互いに同じものとする。
このように構成された本発明においては、路面の横断方向の傾斜が小さい場合に、路面の横断方向の隣接平面をその横方向の特定平面(或いは隣接平面)と同じになるようにしているので、処理負担を軽減することが出来る。
【0013】
また、本発明において、好ましくは、隣接平面定数算出手段により隣接平面の平面定数の算出が数回行われたとき、その次には、再度特定平面算出手段により平面定数を算出し、その後順次隣接平面定数算出手段による特定平面の算出を行う。
このように構成された本発明においては、隣接平面定数算出手段による隣接平面の平面定数の算出が数回行われたとき、その次には、再度特定平面算出手段により平面定数を算出し、その後順次、隣接平面定数算出手段による特定平面の算出を行うようにしているので、隣接平面定数算出手段を複数回行うことによる累積誤差を小さくして、路面を正確に検出するようにすることが出来る。
【発明の効果】
【0014】
本発明による車両用走行路面検出装置によれば、簡易な処理により路面を正確に検出することが出来る。
【発明を実施するための最良の形態】
【0015】
以下、本発明の実施形態を添付図面を参照して説明する。
先ず、本発明の実施形態による車両用走行路面検出装置が適用される車両、道路領域検出処理の基本的なフロー、処理画像の例及び道路領域検出処理内容について説明する。図1は、本発明の実施形態による車両用走行路面検出装置が適用される車両の概念図であり、図2は、本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理フローを示すフローチャートであり、図3は、本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理画像の例を示す概念図であり、図4は、射影変換に用いる左右のカメラのそれぞれの対応点の例を示す図である。以下、Sは各ステップを示す。
【0016】
本発明の実施形態は、従来のように路面全体の自車両からの距離や面の傾きを求めるのではなく、路面を複数の領域に分割し、そのうちの1つの面の距離及び傾きを求めた後、その情報を基に、その面に隣接する面とのつなぎ目部の勾配変化などから、隣接する面の距離及び傾きを順々に算出するものである。
【0017】
先ず、図1に示すように、車両1は、フロントウィンドウ2の上方に設置されたステレオカメラ4と、ECU処理装置6とを有する。
図2に示すように、道路領域検出処理においては、S1において、ステレオカメラ4によりステレオ画像を取得する。得られた画像のうち、一方の画像を基準画像(図3(a))とし、他方の画像を参照画像(図3(b))とする。
次に、図2のS2おいて、ECU6は、前処理として、これらの基準画像及び参照画像を取り込み、両画像の輝度を一致させるためにLOGフィルタなどを用いてコントラスト調整を行う。
【0018】
次に、図2のS3に示すように、参照画像(図3(b))を基準画像(図3(a))の視点から見た画像に後述する(1)射影変換行列算出を用いて視点変換を行う。この処理では、道路平面に対する射影変換行列を動的に推定し、参照画像(図3(b))を射影変換して図3(c)に示すような射影変換画像を得る。このように得られた射影変換画像によれば、参照画像に含まれる高さのある物体が射影変換によって傾くことから、射影変換後の参照画像(図3(c))と基準画像(図3(a))との間で差分を求めることで、高さのない道路平面部分を抽出することが出来る。
【0019】
即ち、先ず、図2のS4において、図3(d)に示すように、基準画像(図3(a))と射影変換後の参照画像(図3(c))の輝度値における差分画像を作成し、次に、図3(e)で黒く示される部分のように、輝度差がしきい値以下となる領域を求める。そして、図2のS5において、図3(f)に示すように、グレーで示すような道路領域における(2)道路平面の姿勢を算出することが出来る。
これらの処理は、後述するように、路面を複数の分割領域に分けたそれぞれの特定平面について行うことが出来る。
【0020】
次に、本発明の実施形態による車両用走行路面検出装置において行われる、車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理についてより詳細に説明する。
1. (1)射影変換行列算出(図2のS3)
(1)射影変換行列算出式
参照画像Ir を射影変換行列Hで変換した画像と基準画像Ib に対して、平面領域推定範囲内
での輝度差の2乗を評価関数e(H)として、これを最小にする射影変換行列
を求める。算出式は以下のようになる。
ただし、
は画像iの同次座標で表した位置
での輝度値、Hは画像間の平面部に対応した射影変換行列とする。
【0021】
(2)射影変換行列算出方法
式(1)を満たす射影変換行列を探索により求める。処理手順は以下のようになる。
(a)前時刻に推定した射影変換行列が存在する場合は、それを初期値とする。平面抽出処理のスタート時は前時刻の射影変換行列が存在しないため、水平な道路に停車した状態で撮影した画像から道路平面内の図4に示すような対応点(例えば、路面上で特定の輝度を有する白線、路面上の標識、マンホールなど)を設定し最小2乗法を用いて求めた射影変換行列H0 を初期値とする。
【0022】
(b)ステレオカメラ画像から射影変換行列を計算する。次に、射影変換行列は式(2)で表される。これを特異値分解して道路平面の法線ベクトルを求め、射影変換行列H0 から求めた法線ベクトルn0 と内積を計算して、ある範囲に収まり且つ平面領域が見つかるときはその射影変換行列は正しいと判断する。それ以外の時は、誤ったローカルミニマムに陥ったとして、次の射影変換行列H1 を初期値として同様の計算を行う。それでも正しい射影変換行列が見つからない場合は、射影変換行列H2 を初期値として同様の計算を行う。ただし、射影変換行列H1 、H2 は、射影変換行列H0 の平面法線ベクトルn0 をピッチ方向前後に4°傾けた法線ベクトルn1、n2 と射影変換行列H0 より求めたR、t、dを用いて式(2)より求めたものである。
ただし、ステレオカメラ間の回転行列をR、ベースラインベクトルをt、平面法線ベクトルをn、カメラと平面間距離をd、基準カメラと参照カメラの内部パラメータをA1、A2 、定数項をkとする。定数項(k≠0)は、画像が得られた射影変換行列には定数倍の自由度が存在することを示す。
【0023】
(c)すべての射影変換行列(H0、H1、H2)を用いても正しい射影変換行列が求まらない場合は、その画像中に平面は存在しないと見なし、射影変換行列と計算領域をリセットし、ここで処理を終え、次の処理へと進む。
【0024】
2. (2)道路平面の姿勢算出(図3のS5)
ステレオ画像間の平面に対する射影変換行列から、特異値分解を用いることでステレオカメラに対する平面の向きと位置を算出する。式(2)のカメラ内部パラメータA1、A2 が既知であるとすると、式(3)のように射影変換行列H′を特異値分解できる。
t/d、nは以下の関係式から求めることができる。
ただし、
σ1≠σ2≠σ3 のとき、
(ε1,3=±1)・・・(5)
ε1,3 を決定するために、2台のカメラが道路面を向いており平面が見えているという条件を加える。すなわち、nと
との内積が正になる。これで、解が2つとなる。次に、それぞれのnについて、求まったtと、実際のカメラ配置の大まかな並進ベクトルである
との内積を計算し、1に近いほうのtをnの解とする。
【0025】
次に、dは得られたt/dの絶対値とカメラ間のベースライン長|t|から次の式より求めることができる。
以上のようにして、特定平面の平面定数として、車両1から特定平面までの距離d及び特定平面の姿勢(傾き/法線ベクトル)nを求めることが出来る。
【0026】
次に、図5乃至図7により、所定の平面どうしのつなぎ目部の勾配変化(δ1)の算出方法を説明する。図5は、所定の2つの平面でのつなぎ目部及び左右画像対応点を示す路面画像の例を示す図であり、図6は、所定の2つの平面でのつなぎ目部での勾配変化を算出するための特定平面の画像と座標xとを示す図であり、図7は、位置xにおける距離画像縦断面図(a)及び距離画像における距離データ点を示す図である。
この特定平面どうしのつなぎ目部の勾配変化は、或る2つの特定平面の互いの境界部において、ステレオ視の原理より算出した距離情報(距離画像)から、以下に示す方法を用いて2つの特定平面の勾配変動を算出するものである。
【0027】
1.距離画像作成
先ず、ステレオカメラ4から得られる左右のカメラ画像の中で、特定平面データ検出処理(特定平面における、車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理)により検出した少なくとも2つの所定の平面での互いのつなぎ目部の領域に対して、図5に示すような左右画像間での対応点をマッチング探索により検出し、そこから得られる視差(=x1−x2)から、ステレオ視の原理より距離を算出する。それを画像として表したものを距離画像とする。
【0028】
2.つなぎ目部勾配変化(δ1)の算出
先ず、上述したように算出した距離画像に対して、所定の2つの平面でのつなぎ目部を含む特定の位置(例えば、図6の位置x)における高さの変化である距離画像縦断面図を図7(a)のように作成する。この距離画像縦断面図での所定の2つの平面でのつなぎ目部に対応する距離データ/高さデータ(図7(b))から、最小2乗近似などの方法により、つなぎ目部の手前の平面に対する直線L1と、つなぎ目部の向こう側の平面に対応する直線L2を算出し、それらの2つの直線L1及びL2のなす角度δ1を所定の2つの平面での平面つなぎ目部勾配変化として算出する。
【0029】
次に、図8乃至図11により、本発明の実施形態による車両用走行路面検出装置の処理の概念を説明する。
図8は、車両及びこの車両の進行方向である縦方向及び路面の横断方向にそれぞれ路面を分割した路面分割の概念図であり、図9は、図8のように路面分割した場合のそれぞれの分割領域の平面定数の求め方を説明するための概念図であり、図10は、車両及びこの車両の前方の路面の横断方向にそれぞれ路面を分割した路面分割の概念図である。
【0030】
先ず、図8に示すように、本発明の実施形態では、車両の進行方向前方における路面を、例えば横断方向(路面の横方向)に2分割し且つ縦方向(車両進行方向)に複数に分割する。次に、図9に示すように、先ず、この場合は一番手前の左側の領域を特定領域(特定平面)A11として決定し、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理」により、この特定領域の平面定数(距離d11、傾き(法線ベクトル)n11)を算出する。
【0031】
次に、一番手前の右側の領域を隣接領域(隣接平面)A21として決定し、このとき領域A11とA21とのつなぎ目部の勾配変化δ11を、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化」により算出する。そして、特定領域A11の平面定数(距離d11、傾き(法線ベクトル)n11)及びつなぎ目部の勾配変化(δ11)の両方を用いて、隣接領域A21の平面定数(距離d21、傾き(法線ベクトル)n21)を推定する。より詳細には、特定領域A11の傾きn11に勾配変化δ11を足して、傾きn21とし、距離d21は、距離d11と同じとする。
【0032】
同様に、手前から2番目の左側の領域を隣接領域A12として決定し、このとき特定領域A11と隣接領域A12とのつなぎ目部の勾配変化δ12を上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ12)」により算出する。そして、特定領域A11の平面定数(距離d11、傾き(法線ベクトル)n11)及びつなぎ目部の勾配変化(δ12)の両方を用いて、隣接領域A12の平面定数(距離d12、傾き(法線ベクトル)n12)を推定する。より詳細には、特定領域A11の傾きn11に勾配変化δ12を足して、傾きn12とし、距離d12は、距離d11に、分割した分割長さ(車両進行方向の分割長さ)を足して求める。
【0033】
以下、同様に、例えば、隣接領域A22は、隣接領域A12の平面定数(距離d12、傾き(法線ベクトル)n12)及びつなぎ目部の勾配変化(δ22)の両方を用いて、隣接領域A22の平面定数(距離d22、傾き(法線ベクトル)n22)を推定する。
【0034】
他の実施例として、図10に示すように、本発明の実施形態では、車両の進行方向前方における路面を、例えば横断方向(路面の横方向)に分割せず且つ縦方向(車両進行方向)に複数に分割する。次に、図11に示すように、先ず、この場合は一番手前の領域を特定領域(特定平面)A11として決定し、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理」により、この特定領域の平面定数(距離d11、傾き(法線ベクトル)n11)を算出する。
次に、2番目の領域を隣接領域(隣接平面)A12として決定し、このとき領域A11とA12とのつなぎ目部の勾配変化δ12を、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化」により算出する。そして、特定領域A11の平面定数(距離d11、傾き(法線ベクトル)n11)及びつなぎ目部の勾配変化(δ12)の両方を用いて、隣接領域A12の平面定数(距離d12、傾き(法線ベクトル)n12)を推定する。より詳細には、特定領域A11の傾きn11に勾配変化δ12を足して、傾きn12とし、距離d12は、距離d11に、分割した分割長さ(車両進行方向の分割長さ)を足して求める。
【0035】
同様に、3番目の領域A13についても、隣接領域A12の平面定数(距離d12、傾き(法線ベクトル)n12)及びつなぎ目部の勾配変化(δ13)の両方を用いて、隣接領域A13の平面定数(距離d13、傾き(法線ベクトル)n13)を推定する。より詳細には、特定領域A12の傾きn12に勾配変化δ13を足して、傾きn13とし、距離d13は、距離d12に、分割した分割長さ(車両進行方向の分割長さ)を足して求める。以降、図示するように、S14以降も同様に推定する。
【0036】
次に、図12により、ECUによる処理内容をブロック図により説明する。図12は、本発明の実施形態による車両用走行路面検出装置における処理内容を示すブロック図である。
図12に示すように、ECU6は、ステレオカメラ4により撮像された路面画像を、画像記憶部(右)20及び画像記憶部(左)22で記憶する。路面領域判定部24では、これらの記憶された路面画像の情報を基に路面領域を判定する。この判定部24では、上述した車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理により射影変換を用いて判定する。なお、この路面領域判定部24では、予め設定された進行方向に対する路面の領域を路面領域として判定するか、或いは、白線や路肩を検出して路面領域として判定しても良い。
【0037】
次に、路面分割処理部26においては、予め所定の基準で分割の仕方を定めた路面分割データ28のデータを基に、路面領域判定部24で判定された路面を分割する。例えば、上述した図8や図10のように分割する。
次に、画像処理領域(特定領域、特定平面)設定部28では、路面分割処理部26において分割された領域のうち、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理(射影変換による道路平面の算出)」により算出する領域を設定する。
一方、推定領域(隣接領域、隣接平面)設定部30では、路面分割処理部26において分割された領域のうち、上述した「所定の平面どうしのつなぎ目部の勾配変化(δ1)の算出」により算出された勾配変化(δ)と、基準となる或る領域(特定領域、或いは、推定領域)の平面定数(距離d、傾き(法線ベクトル)n)とにより推定する領域を推定領域として設定する。
【0038】
次に、特定平面内対応点探索32では、左右のカメラ6のそれぞれの撮像画面における路面領域(路面領域判定部24で判定された路面)の互いの対応点を探索する。対応点とは、特定の輝度を有する部分であり、白線、路面上の標識、マンホールなどである(図4参照)。これらの対応点により射影変換を行うことが出来る。
【0039】
次に、特定平面平面定数算出部34では、路面分割処理部26で分割された路面のうちの一つを特定平面として定め、その特定平面の平面定数である車両からの距離d1、姿勢(傾き)n1を算出する。ここでは、特定平面内対応点探索部32で設定された対応点の視差角により、距離及び傾きを算出する。より詳細には、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理(射影変換による道路平面の算出)」により行われる。
【0040】
また、特定平面つなぎ目部勾配変化算出部36では、路面分割処理部26で分割された路面のうちの一つである特定平面と、次に平面定数を求める隣接平面との間のつなぎ目部の勾配δ1を算出する。この算出は、上述した「所定の平面どうしのつなぎ目部の勾配変化(δ1)の算出」により行われる。
【0041】
そして、隣接平面平面定数算出部38では、特定平面平面定数算出部34で算出された距離d1、姿勢n1と、特定平面つなぎ目部勾配変化算出部36で算出された勾配δ1とにより、上述したように、隣接平面の平面定数(距離d2、姿勢(傾き)n2)を推定する。
【0042】
次に、隣接平面つなぎ目部勾配変化算出部40では、推定領域設定部30で設定された隣接領域と、他の特定平面(画像処理領域(特定領域、特定平面)設定部28で設定された領域、或いは、推定領域(隣接領域、隣接平面)設定部30で設定された他の領域)との間のつなぎ目部の勾配変化δ2を算出する。
そして、次隣接平面平面定数推定部42では、隣接平面平面定数算出部38で算出された距離d2、姿勢n2と、隣接平面つなぎ目部勾配変化算出部40で算出された勾配δ2とにより、上述したように、隣接平面の平面定数(距離d3、姿勢(傾き)n3)を推定する。
【0043】
以下、次隣接平面平面定数推定部44・・・nも同様の処理を行う。そして、走行路面勾配検出部46では、特定平面平面定数算出部により算出された平面定数(距離d1、傾きn2)と、複数の隣接平面平面定数算出部38、42、44、・・・Nにより推定された平面定数(距離d2〜dN、傾きn2〜nN)とにより、走行路面の距離及び傾きの情報から路面勾配を検出する。
そして、この検出された路面勾配の情報を利用して、安全システム8、変速システム(AT)9、エンジンシステム(ENG)10の制御が行われる。
【0044】
次に、図13により、本発明の実施形態による車両用走行路面検出装置における処理内容であるフローチャートについて説明する。図13は、本発明の実施形態による車両用走行路面検出装置における処理内容であるフローチャートである。Sは、各ステップを示す。
図13に示すように、S1では、各種パラメータのイニシャライズ処置が行われる。次に、S2において、ステレオカメラ4により撮像されたデータが画像記憶部20、22に記憶される。次に、S3において、路面領域判定部24により、走行路面となる対象領域が抽出され、さらに、画像処理領域設定部28で画像処理する特定領域を設定する。次に、S4において、路面分割処理部26により、走行路面が路面横断方向にN個(1、2、3・・・)及び車両進行方向にM個(1、2、3・・・)に分割される。ここでは、走行路面が予め決められた大きさ或いは予め決められた数となるように分割される。
【0045】
次に、S5において、路面横断方向の分割の数値パラメータiを1(i=1)とし、車両進行方向の分割の数値パラメータjを1(j=1)とする。
次に、S6において、特定平面平面定数算出部34により、特定平面Ai、jの平面データ(位置di、j、傾きni、j)が検出されると共に保存される。次に、S7において、平面Ai、jの傾きni、jの路面横断方向の傾き値の絶対値が、αより小さいか否かを判定する。
【0046】
平面Ai、jの傾きni、jの路面横断方向の傾き値の絶対値が、αより小さい場合には、平面Ai、j〜AN、jの平面データ(位置di、j、傾きni、j)のうち、位置d1、j〜dN、jを「d1、j」とし、傾きn1、j〜nN、jを「n1、j」とする。即ち、路面の横断方向の傾斜が小さい場合にi=1として、路面横断方向には分割しないようにし、つまり、路面の横断方向の隣接平面をその横方向の特定平面(或いは隣接平面)と同じであると捉えるようにしているので、ECU6による処理負担を軽減することが出来る。
【0047】
平面Ai、jの傾きni、jの路面横断方向の傾き値の絶対値が、αより大きい場合には、S9乃至S12の処理により、路面横断方向の隣接領域の距離d及び傾きnを検出する。具体的には、S9において、特定平面つなぎ目部勾配変化(δ)算出部36或いは隣接平面つなぎ目部勾配変化(δ)算出部40において、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ)」により平面Ai、jの路面横断方向のつなぎ目部の勾配変化δi、jを検出する。次に、S10において、隣接平面平面定数推定部38、42、44・・・Nにより、路面横断方向の隣接領域Ai+1、jの平面データ(位置di+1、j、傾きni+1、j)を算出して保存する。S11では、路面横断方向の分割の数値パラメータiに1を加え、S12により、S9乃至S11の処理が、分割数であるN個まで行われたか否かを判定する。
【0048】
S9乃至S11の処理が、分割数であるN個まで行われた場合、S13に進み、路面横断方向の分割の数値パラメータiを1に戻す。これは、車両進行方向の次の領域において、再び、i=1〜Nまでの平面データを得るためである。
次に、S14において、上述したS6で保存された特定平面A1、jの平面データ(距離d1、j、傾きn1、j)を読み出す。
【0049】
次に、S15において、車両進行方向の分割の数値パラメータjがMSであるか否かを判定する。MSは、車両進行方向(縦方向)の分割数Mよりも小さい値であり、それ以上の繰り返しの平面データの推定を行うと路面検出の精度が低下するものとして設定された値である。
S15において、j=MSと判定された場合には、S16に進み、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ12)」による平面データの推定を行わず、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理」により、平面1、jの平面データ(位置d1、j+1、傾きn1、j+1)を検出すると共に保存する。次に、S17において、MS+MSをMSと設定する。
【0050】
このようなS15乃至S17の処理により、隣接平面定数算出手段(上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ)」による平面データの推定)による隣接平面の平面定数の算出が数回(MS回)行われたとき、その次には、再度、特定平面算出手段(上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理」)により平面定数を算出し、その後順次、隣接平面定数算出手段による特定平面の算出を行うようにしているので、隣接平面定数算出手段を複数回行うことによる累積誤差を小さくして、路面を正確に検出するようにすることが出来る。
【0051】
S15において、j=MSと判定さない場合には、S18において、特定平面つなぎ目部勾配変化(δ)算出部36或いは隣接平面つなぎ目部勾配変化(δ)算出部40において、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ)」により平面Ai、jの路面横断方向のつなぎ目部の勾配変化δ1、jを検出する。次に、S19において、隣接平面平面定数推定部38、42、44・・・Nにより、路面横断方向の隣接領域A1、j+1の平面データ(位置d1、j+1、傾き1、j+1)を算出して保存する。そして、S20において、車両進行方向の分割の数値パラメータjに1を加え(j=j+1)、S21でjが、車両進行方向の分割数Mより大きいか否かを判定し、以下S7乃至S20の処理を繰り返すことにより、S4で分割した全ての領域(i=1〜N、j=1〜M)について、路面データ(平面定数)を算出或いは推定することが出来る。
【0052】
以上、本発明の実施形態によれば、撮像される路面画像の路面が複数の平面に分割され、これらの分割された平面のうちいずれかが特定平面として特定され、ステレオカメラ4で撮像されたそれぞれの路面画像にて探索された互いの対応点が検出されると共に射影変換により特定平面を規定する平面定数が算出され、そして、この特定平面に隣接する平面の平面定数が特定平面とその隣接平面との境界部の勾配変化から推定されるようになっている。このように、撮像された路面を複数に分割したうちの一つについて平面定数(本実施形態では、車両からの距離及び路面の傾き)、他の隣接する面はこの算出した平面定数を基に境界部の勾配変化を考慮して算出されている。ここで、ステレオカメラ4で撮像されたそれぞれの路面画像にて探索された互いの対応点が検出されると共に射影変換により特定平面を規定する平面定数が算出される方法は、ECU6による処理負担が大きい。一方、或る平面間の境界部の勾配変化を算出する方法のECUによる処理負担は小さい。そして、本発明の実施形態では、分割した複数の平面のうちの1つの平面定数をこの処理負担が大きい算出手段により算出した後、その特定平面に隣接する隣接平面及びこのような隣接平面にさらに隣接する次なる隣接平面の平面定数が、処理負担が小さい手段により得られる勾配変化から算出されている。従って、広い範囲にわたる路面検出の処理負担が軽減される。また、ステレオカメラ4のそれぞれの路面画像にて探索された互いの対応点が検出されると共に射影変換により特定平面を規定する平面定数が算出され、この特定平面の平面定数を基に隣接平面の平面定数が推定されるようになっているので、本発明の実施形態によれば、路面の車両からの距離及び路面の傾斜を正確に検出することが出来る。これらの結果、簡易な処理により路面を正確に検出することが出来る。
【0053】
また、撮像された路面は、車両進行方向の縦方向に分割されると共に路面の横断方向に分割され、特定平面及び隣接平面のそれぞれの平面定数は、車両からの距離d及び傾きnにより規定されるので、路面の車両からの距離d及び傾きnを簡易且つ正確に検出することが出来る。
【図面の簡単な説明】
【0054】
【図1】本発明の実施形態による車両用走行路面検出装置が適用される車両の概念図である。
【図2】本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理フローを示すフローチャートである。
【図3】本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理画像の例を示す概念図である。
【図4】射影変換に用いる左右のカメラのそれぞれの対応点の例を示す図である。
【図5】所定の2つの平面でのつなぎ目部及び左右画像対応点を示す路面画像の例を示す図である。
【図6】所定の2つの平面でのつなぎ目部での勾配変化を算出するための特定平面の画像と座標xとを示す図である。
【図7】位置xにおける距離画像縦断面図(a)及び距離画像における距離データ点を示す図である。
【図8】車両及びこの車両の進行方向である縦方向及び路面の横断方向にそれぞれ路面を分割した路面分割の概念図である。
【図9】図8のように路面分割した場合のそれぞれの分割領域の平面定数の求め方を説明するための概念図である。
【図10】車両及びこの車両の前方の路面の横断方向にそれぞれ路面を分割した路面分割の概念図である。
【図11】図8のように路面分割した場合のそれぞれの分割領域の平面定数の求め方を説明するための概念図である。
【図12】本発明の実施形態による車両用走行路面検出装置における処理内容を示すブロック図である。
【図13】本発明の実施形態による車両用走行路面検出装置における処理内容であるフローチャートである。
【符号の説明】
【0055】
1 車両
4 ステレオカメラ
6 ECU
【技術分野】
【0001】
本発明は、車両用走行路面検出装置に係り、特に、走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置に関する。
【背景技術】
【0002】
従来、特許文献1に示すように、ステレオカメラにより得られる基準の画像を他方のカメラ視点に画像変換し、その変換画像を他方のカメラ画像とにより走行路面の平面パラメータを算出する平面検出装置が知られている。
また、特許文献2に示すように、前方の道路の勾配角を検出することが出来る前方道路の勾配検出方法が知られている。
【0003】
【特許文献1】特開2006−053754号公報
【特許文献2】特開平09−325026号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上述したような装置或いは方法では、演算処理の負担が非常に大きく、特に、複数の傾斜変化がある路面については処理しきれない場合があった。また、単純な、例えば2つの平面同士の勾配変化を求めることが出来るものの、様々な傾斜変化がある場合に正確に路面までの距離や傾斜を検出することが出来ないものである。
【0005】
そこで、本発明は、上述した従来技術の問題点を解決するためになされたものであり、簡易な処理により路面を正確に検出することが出来る車両用走行路面検出装置を提供することを目的としている。
【課題を解決するための手段】
【0006】
上記の目的を達成するために本発明による車両用走行路面検出装置は、走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、走行路面を撮像する第1撮像手段と、この第1撮像手段により撮像された路面画像と少なくとも1部が重複する路面画像が得られるように走行路面を撮像する第2撮像手段と、撮像される路面画像から路面を複数の平面に分割する路面分割手段と、これらの分割された平面のうちいずれかを特定平面として特定する分割平面特定手段と、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出する特定平面定数算出手段と、特定平面に隣接する平面の平面定数を特定平面とその隣接平面との境界部の勾配変化から推定する隣接平面定数推定手段と、特定平面算出手段により算出された平面定数と、隣接平面定数推定手段により推定された平面定数とにより所定の広い領域の路面の勾配を推定する路面勾配推定手段と、を有することを特徴としている。
【0007】
このように構成された本発明においては、路面分割手段により撮像される路面画像の路面を複数の平面に分割し、これらの分割された平面のうちいずれかを特定平面として特定し、特定平面定数算出手段により第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出し、そして、隣接平面定数推定手段により、この特定平面に隣接する平面の平面定数を特定平面とその隣接平面との境界部の勾配変化から推定している。このように、撮像された路面を複数に分割したうちの一つについて特定平面定数算出手段により平面定数(例えば、車両からの距離や路面の傾き)が算出され、他の隣接する面は、この算出した平面定数を基に境界部の勾配変化を考慮して算出している。ここで、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数を算出する方法(特定平面定数算出手段)は、ECU(コンピュータ)による処理負担が大きい。一方、或る平面間の境界部の勾配変化を算出する方法のECUによる処理負担は小さい。そして、本発明では、分割した複数の平面のうちの1つの平面定数をこの処理負担が大きい特定平面定数算出手段により算出した後、その特定平面に隣接する隣接平面及びこのような隣接平面にさらに隣接する次なる隣接平面の平面定数は、処理負担が小さい隣接平面定数推定手段により得られる勾配変化から算出している。そして、特定平面算出手段により算出された平面定数と、隣接平面定数推定手段により推定された平面定数とにより所定の広い領域の路面の勾配を推定するようにしている。従って、広い範囲にわたる路面検出の処理負担が軽減される。また、第1撮像手段及び第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により特定平面を規定する平面定数が算出され、この特定平面の平面定数を基に隣接平面の平面定数が推定されるようになっているので路面(例えば、路面の距離と傾斜)を正確に検出することが出来る。これらの結果、簡易な処理により路面を正確に検出することが出来る。
【0008】
また、本発明において、好ましくは、路面分割手段は、撮像される路面画像の路面を車両進行方向の縦方向に分割する。
このように構成された本発明においては、車両進行方向の路面を簡易且つ正確に検出することが出来る。
【0009】
また、本発明において、好ましくは、路面分割手段は、撮像される路面画像の路面を路面の横断方向に分割する。
このように構成された本発明においては、路面横断方向の路面を簡易且つ正確に検出することが出来る。
【0010】
また、本発明において、好ましくは、特定平面及び隣接平面のそれぞれの平面定数は、車両からの距離d及び傾きnにより規定される。
このように構成された本発明においては、路面の車両からの距離及び傾斜の度合いを正確に検出することが出来る。
【0011】
また、本発明において、好ましくは、隣接平面定数算出手段は、特定平面の車両からの距離d及び傾きnと、その特定平面と隣接平面との境界部の勾配変化δにより、隣接平面の平面定数を推定する。
このように構成された本発明においては、隣接平面の路面の車両からの距離及び傾斜の度合いを距離d、傾きn及び勾配変化δにより正確に検出することが出来る。
【0012】
また、本発明において、好ましくは、特定平面定数算出手段により算出される平面定数の路面の横断方向の傾斜n’が所定値以下のとき、路面の横断方向に分割された領域の平面定数は互いに同じものとする。
このように構成された本発明においては、路面の横断方向の傾斜が小さい場合に、路面の横断方向の隣接平面をその横方向の特定平面(或いは隣接平面)と同じになるようにしているので、処理負担を軽減することが出来る。
【0013】
また、本発明において、好ましくは、隣接平面定数算出手段により隣接平面の平面定数の算出が数回行われたとき、その次には、再度特定平面算出手段により平面定数を算出し、その後順次隣接平面定数算出手段による特定平面の算出を行う。
このように構成された本発明においては、隣接平面定数算出手段による隣接平面の平面定数の算出が数回行われたとき、その次には、再度特定平面算出手段により平面定数を算出し、その後順次、隣接平面定数算出手段による特定平面の算出を行うようにしているので、隣接平面定数算出手段を複数回行うことによる累積誤差を小さくして、路面を正確に検出するようにすることが出来る。
【発明の効果】
【0014】
本発明による車両用走行路面検出装置によれば、簡易な処理により路面を正確に検出することが出来る。
【発明を実施するための最良の形態】
【0015】
以下、本発明の実施形態を添付図面を参照して説明する。
先ず、本発明の実施形態による車両用走行路面検出装置が適用される車両、道路領域検出処理の基本的なフロー、処理画像の例及び道路領域検出処理内容について説明する。図1は、本発明の実施形態による車両用走行路面検出装置が適用される車両の概念図であり、図2は、本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理フローを示すフローチャートであり、図3は、本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理画像の例を示す概念図であり、図4は、射影変換に用いる左右のカメラのそれぞれの対応点の例を示す図である。以下、Sは各ステップを示す。
【0016】
本発明の実施形態は、従来のように路面全体の自車両からの距離や面の傾きを求めるのではなく、路面を複数の領域に分割し、そのうちの1つの面の距離及び傾きを求めた後、その情報を基に、その面に隣接する面とのつなぎ目部の勾配変化などから、隣接する面の距離及び傾きを順々に算出するものである。
【0017】
先ず、図1に示すように、車両1は、フロントウィンドウ2の上方に設置されたステレオカメラ4と、ECU処理装置6とを有する。
図2に示すように、道路領域検出処理においては、S1において、ステレオカメラ4によりステレオ画像を取得する。得られた画像のうち、一方の画像を基準画像(図3(a))とし、他方の画像を参照画像(図3(b))とする。
次に、図2のS2おいて、ECU6は、前処理として、これらの基準画像及び参照画像を取り込み、両画像の輝度を一致させるためにLOGフィルタなどを用いてコントラスト調整を行う。
【0018】
次に、図2のS3に示すように、参照画像(図3(b))を基準画像(図3(a))の視点から見た画像に後述する(1)射影変換行列算出を用いて視点変換を行う。この処理では、道路平面に対する射影変換行列を動的に推定し、参照画像(図3(b))を射影変換して図3(c)に示すような射影変換画像を得る。このように得られた射影変換画像によれば、参照画像に含まれる高さのある物体が射影変換によって傾くことから、射影変換後の参照画像(図3(c))と基準画像(図3(a))との間で差分を求めることで、高さのない道路平面部分を抽出することが出来る。
【0019】
即ち、先ず、図2のS4において、図3(d)に示すように、基準画像(図3(a))と射影変換後の参照画像(図3(c))の輝度値における差分画像を作成し、次に、図3(e)で黒く示される部分のように、輝度差がしきい値以下となる領域を求める。そして、図2のS5において、図3(f)に示すように、グレーで示すような道路領域における(2)道路平面の姿勢を算出することが出来る。
これらの処理は、後述するように、路面を複数の分割領域に分けたそれぞれの特定平面について行うことが出来る。
【0020】
次に、本発明の実施形態による車両用走行路面検出装置において行われる、車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理についてより詳細に説明する。
1. (1)射影変換行列算出(図2のS3)
(1)射影変換行列算出式
参照画像Ir を射影変換行列Hで変換した画像と基準画像Ib に対して、平面領域推定範囲内
での輝度差の2乗を評価関数e(H)として、これを最小にする射影変換行列
を求める。算出式は以下のようになる。
ただし、
は画像iの同次座標で表した位置
での輝度値、Hは画像間の平面部に対応した射影変換行列とする。
【0021】
(2)射影変換行列算出方法
式(1)を満たす射影変換行列を探索により求める。処理手順は以下のようになる。
(a)前時刻に推定した射影変換行列が存在する場合は、それを初期値とする。平面抽出処理のスタート時は前時刻の射影変換行列が存在しないため、水平な道路に停車した状態で撮影した画像から道路平面内の図4に示すような対応点(例えば、路面上で特定の輝度を有する白線、路面上の標識、マンホールなど)を設定し最小2乗法を用いて求めた射影変換行列H0 を初期値とする。
【0022】
(b)ステレオカメラ画像から射影変換行列を計算する。次に、射影変換行列は式(2)で表される。これを特異値分解して道路平面の法線ベクトルを求め、射影変換行列H0 から求めた法線ベクトルn0 と内積を計算して、ある範囲に収まり且つ平面領域が見つかるときはその射影変換行列は正しいと判断する。それ以外の時は、誤ったローカルミニマムに陥ったとして、次の射影変換行列H1 を初期値として同様の計算を行う。それでも正しい射影変換行列が見つからない場合は、射影変換行列H2 を初期値として同様の計算を行う。ただし、射影変換行列H1 、H2 は、射影変換行列H0 の平面法線ベクトルn0 をピッチ方向前後に4°傾けた法線ベクトルn1、n2 と射影変換行列H0 より求めたR、t、dを用いて式(2)より求めたものである。
ただし、ステレオカメラ間の回転行列をR、ベースラインベクトルをt、平面法線ベクトルをn、カメラと平面間距離をd、基準カメラと参照カメラの内部パラメータをA1、A2 、定数項をkとする。定数項(k≠0)は、画像が得られた射影変換行列には定数倍の自由度が存在することを示す。
【0023】
(c)すべての射影変換行列(H0、H1、H2)を用いても正しい射影変換行列が求まらない場合は、その画像中に平面は存在しないと見なし、射影変換行列と計算領域をリセットし、ここで処理を終え、次の処理へと進む。
【0024】
2. (2)道路平面の姿勢算出(図3のS5)
ステレオ画像間の平面に対する射影変換行列から、特異値分解を用いることでステレオカメラに対する平面の向きと位置を算出する。式(2)のカメラ内部パラメータA1、A2 が既知であるとすると、式(3)のように射影変換行列H′を特異値分解できる。
t/d、nは以下の関係式から求めることができる。
ただし、
σ1≠σ2≠σ3 のとき、
(ε1,3=±1)・・・(5)
ε1,3 を決定するために、2台のカメラが道路面を向いており平面が見えているという条件を加える。すなわち、nと
との内積が正になる。これで、解が2つとなる。次に、それぞれのnについて、求まったtと、実際のカメラ配置の大まかな並進ベクトルである
との内積を計算し、1に近いほうのtをnの解とする。
【0025】
次に、dは得られたt/dの絶対値とカメラ間のベースライン長|t|から次の式より求めることができる。
以上のようにして、特定平面の平面定数として、車両1から特定平面までの距離d及び特定平面の姿勢(傾き/法線ベクトル)nを求めることが出来る。
【0026】
次に、図5乃至図7により、所定の平面どうしのつなぎ目部の勾配変化(δ1)の算出方法を説明する。図5は、所定の2つの平面でのつなぎ目部及び左右画像対応点を示す路面画像の例を示す図であり、図6は、所定の2つの平面でのつなぎ目部での勾配変化を算出するための特定平面の画像と座標xとを示す図であり、図7は、位置xにおける距離画像縦断面図(a)及び距離画像における距離データ点を示す図である。
この特定平面どうしのつなぎ目部の勾配変化は、或る2つの特定平面の互いの境界部において、ステレオ視の原理より算出した距離情報(距離画像)から、以下に示す方法を用いて2つの特定平面の勾配変動を算出するものである。
【0027】
1.距離画像作成
先ず、ステレオカメラ4から得られる左右のカメラ画像の中で、特定平面データ検出処理(特定平面における、車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理)により検出した少なくとも2つの所定の平面での互いのつなぎ目部の領域に対して、図5に示すような左右画像間での対応点をマッチング探索により検出し、そこから得られる視差(=x1−x2)から、ステレオ視の原理より距離を算出する。それを画像として表したものを距離画像とする。
【0028】
2.つなぎ目部勾配変化(δ1)の算出
先ず、上述したように算出した距離画像に対して、所定の2つの平面でのつなぎ目部を含む特定の位置(例えば、図6の位置x)における高さの変化である距離画像縦断面図を図7(a)のように作成する。この距離画像縦断面図での所定の2つの平面でのつなぎ目部に対応する距離データ/高さデータ(図7(b))から、最小2乗近似などの方法により、つなぎ目部の手前の平面に対する直線L1と、つなぎ目部の向こう側の平面に対応する直線L2を算出し、それらの2つの直線L1及びL2のなす角度δ1を所定の2つの平面での平面つなぎ目部勾配変化として算出する。
【0029】
次に、図8乃至図11により、本発明の実施形態による車両用走行路面検出装置の処理の概念を説明する。
図8は、車両及びこの車両の進行方向である縦方向及び路面の横断方向にそれぞれ路面を分割した路面分割の概念図であり、図9は、図8のように路面分割した場合のそれぞれの分割領域の平面定数の求め方を説明するための概念図であり、図10は、車両及びこの車両の前方の路面の横断方向にそれぞれ路面を分割した路面分割の概念図である。
【0030】
先ず、図8に示すように、本発明の実施形態では、車両の進行方向前方における路面を、例えば横断方向(路面の横方向)に2分割し且つ縦方向(車両進行方向)に複数に分割する。次に、図9に示すように、先ず、この場合は一番手前の左側の領域を特定領域(特定平面)A11として決定し、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理」により、この特定領域の平面定数(距離d11、傾き(法線ベクトル)n11)を算出する。
【0031】
次に、一番手前の右側の領域を隣接領域(隣接平面)A21として決定し、このとき領域A11とA21とのつなぎ目部の勾配変化δ11を、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化」により算出する。そして、特定領域A11の平面定数(距離d11、傾き(法線ベクトル)n11)及びつなぎ目部の勾配変化(δ11)の両方を用いて、隣接領域A21の平面定数(距離d21、傾き(法線ベクトル)n21)を推定する。より詳細には、特定領域A11の傾きn11に勾配変化δ11を足して、傾きn21とし、距離d21は、距離d11と同じとする。
【0032】
同様に、手前から2番目の左側の領域を隣接領域A12として決定し、このとき特定領域A11と隣接領域A12とのつなぎ目部の勾配変化δ12を上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ12)」により算出する。そして、特定領域A11の平面定数(距離d11、傾き(法線ベクトル)n11)及びつなぎ目部の勾配変化(δ12)の両方を用いて、隣接領域A12の平面定数(距離d12、傾き(法線ベクトル)n12)を推定する。より詳細には、特定領域A11の傾きn11に勾配変化δ12を足して、傾きn12とし、距離d12は、距離d11に、分割した分割長さ(車両進行方向の分割長さ)を足して求める。
【0033】
以下、同様に、例えば、隣接領域A22は、隣接領域A12の平面定数(距離d12、傾き(法線ベクトル)n12)及びつなぎ目部の勾配変化(δ22)の両方を用いて、隣接領域A22の平面定数(距離d22、傾き(法線ベクトル)n22)を推定する。
【0034】
他の実施例として、図10に示すように、本発明の実施形態では、車両の進行方向前方における路面を、例えば横断方向(路面の横方向)に分割せず且つ縦方向(車両進行方向)に複数に分割する。次に、図11に示すように、先ず、この場合は一番手前の領域を特定領域(特定平面)A11として決定し、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理」により、この特定領域の平面定数(距離d11、傾き(法線ベクトル)n11)を算出する。
次に、2番目の領域を隣接領域(隣接平面)A12として決定し、このとき領域A11とA12とのつなぎ目部の勾配変化δ12を、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化」により算出する。そして、特定領域A11の平面定数(距離d11、傾き(法線ベクトル)n11)及びつなぎ目部の勾配変化(δ12)の両方を用いて、隣接領域A12の平面定数(距離d12、傾き(法線ベクトル)n12)を推定する。より詳細には、特定領域A11の傾きn11に勾配変化δ12を足して、傾きn12とし、距離d12は、距離d11に、分割した分割長さ(車両進行方向の分割長さ)を足して求める。
【0035】
同様に、3番目の領域A13についても、隣接領域A12の平面定数(距離d12、傾き(法線ベクトル)n12)及びつなぎ目部の勾配変化(δ13)の両方を用いて、隣接領域A13の平面定数(距離d13、傾き(法線ベクトル)n13)を推定する。より詳細には、特定領域A12の傾きn12に勾配変化δ13を足して、傾きn13とし、距離d13は、距離d12に、分割した分割長さ(車両進行方向の分割長さ)を足して求める。以降、図示するように、S14以降も同様に推定する。
【0036】
次に、図12により、ECUによる処理内容をブロック図により説明する。図12は、本発明の実施形態による車両用走行路面検出装置における処理内容を示すブロック図である。
図12に示すように、ECU6は、ステレオカメラ4により撮像された路面画像を、画像記憶部(右)20及び画像記憶部(左)22で記憶する。路面領域判定部24では、これらの記憶された路面画像の情報を基に路面領域を判定する。この判定部24では、上述した車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理により射影変換を用いて判定する。なお、この路面領域判定部24では、予め設定された進行方向に対する路面の領域を路面領域として判定するか、或いは、白線や路肩を検出して路面領域として判定しても良い。
【0037】
次に、路面分割処理部26においては、予め所定の基準で分割の仕方を定めた路面分割データ28のデータを基に、路面領域判定部24で判定された路面を分割する。例えば、上述した図8や図10のように分割する。
次に、画像処理領域(特定領域、特定平面)設定部28では、路面分割処理部26において分割された領域のうち、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理(射影変換による道路平面の算出)」により算出する領域を設定する。
一方、推定領域(隣接領域、隣接平面)設定部30では、路面分割処理部26において分割された領域のうち、上述した「所定の平面どうしのつなぎ目部の勾配変化(δ1)の算出」により算出された勾配変化(δ)と、基準となる或る領域(特定領域、或いは、推定領域)の平面定数(距離d、傾き(法線ベクトル)n)とにより推定する領域を推定領域として設定する。
【0038】
次に、特定平面内対応点探索32では、左右のカメラ6のそれぞれの撮像画面における路面領域(路面領域判定部24で判定された路面)の互いの対応点を探索する。対応点とは、特定の輝度を有する部分であり、白線、路面上の標識、マンホールなどである(図4参照)。これらの対応点により射影変換を行うことが出来る。
【0039】
次に、特定平面平面定数算出部34では、路面分割処理部26で分割された路面のうちの一つを特定平面として定め、その特定平面の平面定数である車両からの距離d1、姿勢(傾き)n1を算出する。ここでは、特定平面内対応点探索部32で設定された対応点の視差角により、距離及び傾きを算出する。より詳細には、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理(射影変換による道路平面の算出)」により行われる。
【0040】
また、特定平面つなぎ目部勾配変化算出部36では、路面分割処理部26で分割された路面のうちの一つである特定平面と、次に平面定数を求める隣接平面との間のつなぎ目部の勾配δ1を算出する。この算出は、上述した「所定の平面どうしのつなぎ目部の勾配変化(δ1)の算出」により行われる。
【0041】
そして、隣接平面平面定数算出部38では、特定平面平面定数算出部34で算出された距離d1、姿勢n1と、特定平面つなぎ目部勾配変化算出部36で算出された勾配δ1とにより、上述したように、隣接平面の平面定数(距離d2、姿勢(傾き)n2)を推定する。
【0042】
次に、隣接平面つなぎ目部勾配変化算出部40では、推定領域設定部30で設定された隣接領域と、他の特定平面(画像処理領域(特定領域、特定平面)設定部28で設定された領域、或いは、推定領域(隣接領域、隣接平面)設定部30で設定された他の領域)との間のつなぎ目部の勾配変化δ2を算出する。
そして、次隣接平面平面定数推定部42では、隣接平面平面定数算出部38で算出された距離d2、姿勢n2と、隣接平面つなぎ目部勾配変化算出部40で算出された勾配δ2とにより、上述したように、隣接平面の平面定数(距離d3、姿勢(傾き)n3)を推定する。
【0043】
以下、次隣接平面平面定数推定部44・・・nも同様の処理を行う。そして、走行路面勾配検出部46では、特定平面平面定数算出部により算出された平面定数(距離d1、傾きn2)と、複数の隣接平面平面定数算出部38、42、44、・・・Nにより推定された平面定数(距離d2〜dN、傾きn2〜nN)とにより、走行路面の距離及び傾きの情報から路面勾配を検出する。
そして、この検出された路面勾配の情報を利用して、安全システム8、変速システム(AT)9、エンジンシステム(ENG)10の制御が行われる。
【0044】
次に、図13により、本発明の実施形態による車両用走行路面検出装置における処理内容であるフローチャートについて説明する。図13は、本発明の実施形態による車両用走行路面検出装置における処理内容であるフローチャートである。Sは、各ステップを示す。
図13に示すように、S1では、各種パラメータのイニシャライズ処置が行われる。次に、S2において、ステレオカメラ4により撮像されたデータが画像記憶部20、22に記憶される。次に、S3において、路面領域判定部24により、走行路面となる対象領域が抽出され、さらに、画像処理領域設定部28で画像処理する特定領域を設定する。次に、S4において、路面分割処理部26により、走行路面が路面横断方向にN個(1、2、3・・・)及び車両進行方向にM個(1、2、3・・・)に分割される。ここでは、走行路面が予め決められた大きさ或いは予め決められた数となるように分割される。
【0045】
次に、S5において、路面横断方向の分割の数値パラメータiを1(i=1)とし、車両進行方向の分割の数値パラメータjを1(j=1)とする。
次に、S6において、特定平面平面定数算出部34により、特定平面Ai、jの平面データ(位置di、j、傾きni、j)が検出されると共に保存される。次に、S7において、平面Ai、jの傾きni、jの路面横断方向の傾き値の絶対値が、αより小さいか否かを判定する。
【0046】
平面Ai、jの傾きni、jの路面横断方向の傾き値の絶対値が、αより小さい場合には、平面Ai、j〜AN、jの平面データ(位置di、j、傾きni、j)のうち、位置d1、j〜dN、jを「d1、j」とし、傾きn1、j〜nN、jを「n1、j」とする。即ち、路面の横断方向の傾斜が小さい場合にi=1として、路面横断方向には分割しないようにし、つまり、路面の横断方向の隣接平面をその横方向の特定平面(或いは隣接平面)と同じであると捉えるようにしているので、ECU6による処理負担を軽減することが出来る。
【0047】
平面Ai、jの傾きni、jの路面横断方向の傾き値の絶対値が、αより大きい場合には、S9乃至S12の処理により、路面横断方向の隣接領域の距離d及び傾きnを検出する。具体的には、S9において、特定平面つなぎ目部勾配変化(δ)算出部36或いは隣接平面つなぎ目部勾配変化(δ)算出部40において、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ)」により平面Ai、jの路面横断方向のつなぎ目部の勾配変化δi、jを検出する。次に、S10において、隣接平面平面定数推定部38、42、44・・・Nにより、路面横断方向の隣接領域Ai+1、jの平面データ(位置di+1、j、傾きni+1、j)を算出して保存する。S11では、路面横断方向の分割の数値パラメータiに1を加え、S12により、S9乃至S11の処理が、分割数であるN個まで行われたか否かを判定する。
【0048】
S9乃至S11の処理が、分割数であるN個まで行われた場合、S13に進み、路面横断方向の分割の数値パラメータiを1に戻す。これは、車両進行方向の次の領域において、再び、i=1〜Nまでの平面データを得るためである。
次に、S14において、上述したS6で保存された特定平面A1、jの平面データ(距離d1、j、傾きn1、j)を読み出す。
【0049】
次に、S15において、車両進行方向の分割の数値パラメータjがMSであるか否かを判定する。MSは、車両進行方向(縦方向)の分割数Mよりも小さい値であり、それ以上の繰り返しの平面データの推定を行うと路面検出の精度が低下するものとして設定された値である。
S15において、j=MSと判定された場合には、S16に進み、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ12)」による平面データの推定を行わず、上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理」により、平面1、jの平面データ(位置d1、j+1、傾きn1、j+1)を検出すると共に保存する。次に、S17において、MS+MSをMSと設定する。
【0050】
このようなS15乃至S17の処理により、隣接平面定数算出手段(上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ)」による平面データの推定)による隣接平面の平面定数の算出が数回(MS回)行われたとき、その次には、再度、特定平面算出手段(上述した「車両から特定平面までの距離d及び特定平面の姿勢nを求めるための道路領域検出処理」)により平面定数を算出し、その後順次、隣接平面定数算出手段による特定平面の算出を行うようにしているので、隣接平面定数算出手段を複数回行うことによる累積誤差を小さくして、路面を正確に検出するようにすることが出来る。
【0051】
S15において、j=MSと判定さない場合には、S18において、特定平面つなぎ目部勾配変化(δ)算出部36或いは隣接平面つなぎ目部勾配変化(δ)算出部40において、上述した「所定の2つの平面での平面どうしのつなぎ目部の勾配変化(δ)」により平面Ai、jの路面横断方向のつなぎ目部の勾配変化δ1、jを検出する。次に、S19において、隣接平面平面定数推定部38、42、44・・・Nにより、路面横断方向の隣接領域A1、j+1の平面データ(位置d1、j+1、傾き1、j+1)を算出して保存する。そして、S20において、車両進行方向の分割の数値パラメータjに1を加え(j=j+1)、S21でjが、車両進行方向の分割数Mより大きいか否かを判定し、以下S7乃至S20の処理を繰り返すことにより、S4で分割した全ての領域(i=1〜N、j=1〜M)について、路面データ(平面定数)を算出或いは推定することが出来る。
【0052】
以上、本発明の実施形態によれば、撮像される路面画像の路面が複数の平面に分割され、これらの分割された平面のうちいずれかが特定平面として特定され、ステレオカメラ4で撮像されたそれぞれの路面画像にて探索された互いの対応点が検出されると共に射影変換により特定平面を規定する平面定数が算出され、そして、この特定平面に隣接する平面の平面定数が特定平面とその隣接平面との境界部の勾配変化から推定されるようになっている。このように、撮像された路面を複数に分割したうちの一つについて平面定数(本実施形態では、車両からの距離及び路面の傾き)、他の隣接する面はこの算出した平面定数を基に境界部の勾配変化を考慮して算出されている。ここで、ステレオカメラ4で撮像されたそれぞれの路面画像にて探索された互いの対応点が検出されると共に射影変換により特定平面を規定する平面定数が算出される方法は、ECU6による処理負担が大きい。一方、或る平面間の境界部の勾配変化を算出する方法のECUによる処理負担は小さい。そして、本発明の実施形態では、分割した複数の平面のうちの1つの平面定数をこの処理負担が大きい算出手段により算出した後、その特定平面に隣接する隣接平面及びこのような隣接平面にさらに隣接する次なる隣接平面の平面定数が、処理負担が小さい手段により得られる勾配変化から算出されている。従って、広い範囲にわたる路面検出の処理負担が軽減される。また、ステレオカメラ4のそれぞれの路面画像にて探索された互いの対応点が検出されると共に射影変換により特定平面を規定する平面定数が算出され、この特定平面の平面定数を基に隣接平面の平面定数が推定されるようになっているので、本発明の実施形態によれば、路面の車両からの距離及び路面の傾斜を正確に検出することが出来る。これらの結果、簡易な処理により路面を正確に検出することが出来る。
【0053】
また、撮像された路面は、車両進行方向の縦方向に分割されると共に路面の横断方向に分割され、特定平面及び隣接平面のそれぞれの平面定数は、車両からの距離d及び傾きnにより規定されるので、路面の車両からの距離d及び傾きnを簡易且つ正確に検出することが出来る。
【図面の簡単な説明】
【0054】
【図1】本発明の実施形態による車両用走行路面検出装置が適用される車両の概念図である。
【図2】本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理フローを示すフローチャートである。
【図3】本発明の実施形態による車両用走行路面検出装置に用いられる道路領域検出処理の処理画像の例を示す概念図である。
【図4】射影変換に用いる左右のカメラのそれぞれの対応点の例を示す図である。
【図5】所定の2つの平面でのつなぎ目部及び左右画像対応点を示す路面画像の例を示す図である。
【図6】所定の2つの平面でのつなぎ目部での勾配変化を算出するための特定平面の画像と座標xとを示す図である。
【図7】位置xにおける距離画像縦断面図(a)及び距離画像における距離データ点を示す図である。
【図8】車両及びこの車両の進行方向である縦方向及び路面の横断方向にそれぞれ路面を分割した路面分割の概念図である。
【図9】図8のように路面分割した場合のそれぞれの分割領域の平面定数の求め方を説明するための概念図である。
【図10】車両及びこの車両の前方の路面の横断方向にそれぞれ路面を分割した路面分割の概念図である。
【図11】図8のように路面分割した場合のそれぞれの分割領域の平面定数の求め方を説明するための概念図である。
【図12】本発明の実施形態による車両用走行路面検出装置における処理内容を示すブロック図である。
【図13】本発明の実施形態による車両用走行路面検出装置における処理内容であるフローチャートである。
【符号の説明】
【0055】
1 車両
4 ステレオカメラ
6 ECU
【特許請求の範囲】
【請求項1】
走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、
走行路面を撮像する第1撮像手段と、
この第1撮像手段により撮像された路面画像と少なくとも1部が重複する路面画像が得られるように走行路面を撮像する第2撮像手段と、
撮像される路面画像から路面を複数の平面に分割する路面分割手段と、
これらの分割された平面のうちいずれかを特定平面として特定する分割平面特定手段と、
上記第1撮像手段及び上記第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により上記特定平面を規定する平面定数を算出する特定平面定数算出手段と、
上記特定平面に隣接する平面の平面定数を上記特定平面とその隣接平面との境界部の勾配変化から推定する隣接平面定数推定手段と、
上記特定平面算出手段により算出された平面定数と、上記隣接平面定数推定手段により推定された平面定数とにより所定の広い領域の路面の勾配を推定する路面勾配推定手段と、
を有することを特徴とする車両用走行路面検出装置。
【請求項2】
上記路面分割手段は、上記撮像される路面画像の路面を車両進行方向の縦方向に分割する請求項1に記載の車両用走行路面検出装置。
【請求項3】
上記路面分割手段は、上記撮像される路面画像の路面を路面の横断方向に分割する請求項1又は請求項2に記載の車両用走行路面検出装置。
【請求項4】
上記特定平面及び上記隣接平面のそれぞれの平面定数は、車両からの距離d及び傾きnにより規定される請求項1乃至3に記載の車両用走行路面検出装置。
【請求項5】
上記隣接平面定数算出手段は、上記特定平面の車両からの距離d及び傾きnと、その特定平面と隣接平面との境界部の勾配変化δにより、隣接平面の平面定数を推定する請求項1乃至4に記載の車両用走行路面検出装置。
【請求項6】
上記特定平面定数算出手段により算出される平面定数の路面の横断方向の傾斜n’が所定値以下のとき、路面の横断方向に分割された領域の上記平面定数は互いに同じものとする請求項1乃至5のいずれか1項に記載の車両用走行路面検出装置。
【請求項7】
上記隣接平面定数算出手段により上記隣接平面の上記平面定数の算出が数回行われたとき、その次には、再度上記特定平面算出手段により平面定数を算出し、その後順次上記隣接平面定数算出手段による特定平面の算出を行う請求項1乃至6のいずれか1項に記載の車両用走行路面検出装置。
【請求項1】
走行路面を撮像した路面画像から所定の広い路面領域における路面傾斜を検出する車両用走行路面検出装置であって、
走行路面を撮像する第1撮像手段と、
この第1撮像手段により撮像された路面画像と少なくとも1部が重複する路面画像が得られるように走行路面を撮像する第2撮像手段と、
撮像される路面画像から路面を複数の平面に分割する路面分割手段と、
これらの分割された平面のうちいずれかを特定平面として特定する分割平面特定手段と、
上記第1撮像手段及び上記第2撮像手段で撮像されたそれぞれの路面画像にて探索された互いの対応点を検出すると共に射影変換により上記特定平面を規定する平面定数を算出する特定平面定数算出手段と、
上記特定平面に隣接する平面の平面定数を上記特定平面とその隣接平面との境界部の勾配変化から推定する隣接平面定数推定手段と、
上記特定平面算出手段により算出された平面定数と、上記隣接平面定数推定手段により推定された平面定数とにより所定の広い領域の路面の勾配を推定する路面勾配推定手段と、
を有することを特徴とする車両用走行路面検出装置。
【請求項2】
上記路面分割手段は、上記撮像される路面画像の路面を車両進行方向の縦方向に分割する請求項1に記載の車両用走行路面検出装置。
【請求項3】
上記路面分割手段は、上記撮像される路面画像の路面を路面の横断方向に分割する請求項1又は請求項2に記載の車両用走行路面検出装置。
【請求項4】
上記特定平面及び上記隣接平面のそれぞれの平面定数は、車両からの距離d及び傾きnにより規定される請求項1乃至3に記載の車両用走行路面検出装置。
【請求項5】
上記隣接平面定数算出手段は、上記特定平面の車両からの距離d及び傾きnと、その特定平面と隣接平面との境界部の勾配変化δにより、隣接平面の平面定数を推定する請求項1乃至4に記載の車両用走行路面検出装置。
【請求項6】
上記特定平面定数算出手段により算出される平面定数の路面の横断方向の傾斜n’が所定値以下のとき、路面の横断方向に分割された領域の上記平面定数は互いに同じものとする請求項1乃至5のいずれか1項に記載の車両用走行路面検出装置。
【請求項7】
上記隣接平面定数算出手段により上記隣接平面の上記平面定数の算出が数回行われたとき、その次には、再度上記特定平面算出手段により平面定数を算出し、その後順次上記隣接平面定数算出手段による特定平面の算出を行う請求項1乃至6のいずれか1項に記載の車両用走行路面検出装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2009−139323(P2009−139323A)
【公開日】平成21年6月25日(2009.6.25)
【国際特許分類】
【出願番号】特願2007−318566(P2007−318566)
【出願日】平成19年12月10日(2007.12.10)
【出願人】(000003137)マツダ株式会社 (6,115)
【Fターム(参考)】
【公開日】平成21年6月25日(2009.6.25)
【国際特許分類】
【出願日】平成19年12月10日(2007.12.10)
【出願人】(000003137)マツダ株式会社 (6,115)
【Fターム(参考)】
[ Back to top ]