説明

障害物測定方法及び障害物測定装置

【課題】先行車両の車幅等の自車前方の障害物の横幅が未知の場合に、前記の外乱等の影響を極力受けないようにして、単眼カメラの撮影画像から、車間距離等の自車から前方の障害物までの距離を精度よく測定する。
【解決手段】自車1に単眼カメラ2を搭載し、このカメラ2の自車前方の撮影画像の画像処理により、その撮影画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置を観測位置として検出し、この観測位置を入力とする非線形状態空間モデルの適応フィルタのフィルタリングにより、観測位置及び単眼カメラ2の撮影条件に基いて自車1から障害物までの距離を推定して測定する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自車に搭載した単眼カメラの自車前方の撮影画像から、自車から自車前方の先行車両等の障害物までの距離(車間距離)、障害物の横幅(車幅)を推定して測定する障害物測定方法及び障害物測定装置に関するものである。
【背景技術】
【0002】
近年、自動車産業界においては、車両認識や車線認識など画像処理技術を応用したさまざまな車載システムの開発、商品化が進められているが、なかでも、ACCと呼ばれる車両走行支援システム(Adaptive Cruise Control)や被害軽減自動ブレーキシステムなどにあっては、撮影画像の画像処理により、自車前方の先行車両等の障害物について、少なくとも自車から障害物までの距離(車間距離)を測定することが要求される。
【0003】
この障害物測定を行なうため、ACCや被害軽減自動ブレーキシステム等にあっては、従来、自車にステレオカメラを搭載し、そのステレオの自車前方の撮影画像に基き、三角測量の原理で前記の車間距離等の距離を測定することが提案されている(例えば、非特許文献1参照。)。
【0004】
しかしながら、このステレオ撮影画像からの測定にあっては、ステレオカメラを要し、高価であり、しかも、その光学系のサイズが大きく大型になる等の不都合がある。
【0005】
そこで、ステレオカメラに代えて安価で小型の単眼カメラを自車に搭載し、この単眼カメラの自車前方の撮影画像(以下、単眼カメラの撮影画像を単眼画像という)を画像処理し、その画像エッジのエッジヒストグラムのピーク点検出に基くカルマンフィルタ処理により、道路勾配が一定、障害物としての先行車両の車幅が既知である等の条件下、前記の車間距離等の距離を推定して測定することが提案されている(例えば、非特許文献2参照。)。
【0006】
また、単眼のビデオカメラの自車前方の単眼画像につき、最初に、自車の走行車線を検出し、その走行車線内の最も画面下方の水平エッジを先行車両の影として抽出し、抽出した水平エッジの画像上の高さに基づく比例計算から初期の車間距離を算出し、以降は、算出した車間距離と、基準の車幅に対する垂直エッジの間隔から測定した最新の車幅の比から、最新の車間距離を算出して測定し、時々刻々に車間距離と車幅を測定することも提案されている(例えば、特許文献1参照。)。
【0007】
【非特許文献1】塙 圭二、十川 能之、「自動車前方監視用のステレオ画像認識装置の開発」、信学技報(電子情報通信学会技術研究報告)、Vol.101、No.302、pp37−42、Sept.2001
【非特許文献2】山田 憲一、伊東 敏夫、「エッジ画像の濃度投影による車両の一捕捉方法」、電気学会論文誌 E、Vol.118−E No6.pp327−332、1998
【特許文献1】特開平7−334799号公報(段落[0019]−[0023]、[0029]−[0030]、図3、図4、図5、図9)
【発明の開示】
【発明が解決しようとする課題】
【0008】
前記非特許文献2に記載の従来測定の場合、単眼画像のエッジヒストグラム等から、その画像の先行車の領域を抽出して画像上での先行車両の車幅(横幅)を検出し、先行車両の車幅、車間距離と、単眼カメラの取り付け角度やカメラピッチの撮影条件(カメラパラメータ)との関係を示す、つぎの(a)式の演算から、車間距離を算出して推定することになる。なお、式中のiwvは画像上の検出車幅、fはカメラの焦点距離、Wvは実際の車幅、Ldistは実際の車間距離、βはカメラピッチ角、h0はカメラ取り付け角である。
【0009】
iwv=f・[Wv/{Ldist・cosβ+h0・sinβ}] (a)
【0010】
したがって、前記したように先行車両の実際の車幅Wvが既知でなければ、前記(a)式から車間距離Ldistを算出して推定することができない。
【0011】
そして、実際の走行環境下においては、先行車両の実際の車幅Wvを既知とすることは難しく、車幅Wvの精度の高い測定は困難である。なお、先行車両以外の自車前方の障害物についても同様である。
【0012】
つぎに、前記特許文献1に記載の従来測定の場合、単眼画像から車間距離Ldist及び先行車両の車幅Wvの測定は行えるが、それらの測定結果が外乱の影響を受けて変動し易く、精度の高い測定が行なえない問題がある。
【0013】
さらに、この種の測定に用いられる画像処理の欠点として、天候状況等の周囲の環境条件による画質劣化、画像中に存在する雑音等の外乱によりその認識性能が低下することが、よく知られており、また、個々の撮像系のばらつきや車両運動などによるモデル化誤差の影響も測定性能の低下に影響すると考えられていることから、これらの認識性能の低下の影響を極力受けないようにして、前記の車間距離Ldist等の自車から前方の障害物までの距離及び先行車両の車幅Wv等の障害物の横幅の精度の高い測定を行なうことが望まれる。
【0014】
本発明は、とくに先行車両の車幅等の自車前方の障害物の横幅が未知の場合に、前記の外乱等の影響を極力受けないようにして、単眼画像から、車間距離等の自車から前方の障害物までの距離を精度よく測定することを目的とし、さらに、前記の距離の測定に基いて、同時に、障害物の横幅も単眼画像から精度よく測定することを目的とする。
【課題を解決するための手段】
【0015】
上記した目的を達成するために、本発明の障害物測定方法は、自車に単眼カメラを搭載し、前記単眼カメラの自車前方の単眼画像の画像処理により、前記撮影画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置を観測位置として検出し、前記観測位置を入力とする非線形状態空間モデルの適応フィルタのフィルタリングにより、前記観測位置及び前記単眼カメラの撮影条件に基いて自車から前記障害物までの距離を推定して測定することを特徴としている(請求項1)。この場合、障害物の基準部が、単眼カメラの撮影画像の水平、垂直のエッジヒストグラムから検出した前記障害物の下端中央部であることが好ましい(請求項2)。
【0016】
また、本発明の障害物測定方法は、自車に単眼カメラを搭載し、前記単眼カメラの自車前方の単眼画像の画像処理により、前記撮影画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置及び前記障害物の横幅を、観測位置及び観測幅として検出し、前記観測位置を入力とする非線形状態空間モデルの適応フィルタのフィルタリングにより、前記観測位置及び前記単眼カメラの撮影条件に基いて自車から前記障害物までの距離を推定し、前記観測幅を入力とする線形状態空間モデルの適応フィルタのフィルタリングにより、該線形状態空間モデルの適応フィルタの観測行列の係数を前記非線形状態空間モデルの適応フィルタの前記距離の推定値により調整して前記横幅を推定し、前記単眼画像から前記障害物の前記距離、前記横幅を同時に測定することを特徴としている(請求項3)。この場合、障害物の基準部が、単眼カメラの撮影画像の水平、垂直のエッジヒストグラムから検出した前記障害物の下端中央部であり、かつ、前記障害物の横幅を、前記両エッジヒストグラムのピークから検出することが好ましい(請求項4)。
【0017】
そして、本発明の障害物測定方法は、適応フィルタがH∞フィルタであることを特徴としている(請求項5)。
【0018】
つぎに、本発明の障害物測定装置は、自車に搭載された単眼カメラと、自車前方の単眼画像を画像処理し、前記単眼画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置を観測位置として検出する画像処理手段と、前記観測位置を入力とする非線形状態空間モデルの適応フィルタのフィルタリングにより、前記観測位置及び前記単眼カメラの撮影条件に基いて自車から前記障害物までの距離を推定して測定するフィルタ演算手段とを備えたことを特徴としている(請求項6)。この場合、画像処理手段により、単眼カメラの撮影画像の水平、垂直のエッジヒストグラムから、障害物の基準部として、前記障害物の下端中央部を検出することが好ましい(請求項7)。
【0019】
また、本発明の障害物測定装置は、自車に搭載された単眼カメラと、この単眼カメラの自車前方の単眼画像を画像処理し、前記単眼画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置及び前記障害物の横幅を、観測位置及び観測幅として測定する画像処理手段と、前記観測位置を入力とする非線形状態空間モデルの適応フィルタのフィルタリングにより、前記観測位置及び前記単眼カメラの撮影条件に基いて自車から前記障害物までの距離を推定し、かつ、前記観測幅を入力とする線形状態空間モデルの適応フィルタのフィルタリングにより、該線形状態空間モデルの適応フィルタの観測行列の係数を前記非線形状態空間モデルの適応フィルタの前記距離の推定値により調整して前記横幅を推定し、前記障害物の前記距離、前記横幅を同時に測定するフィルタ演算手段とを備えたことをことを特徴としている(請求項8)。この場合、画像処理手段により、単眼カメラの撮影画像の水平、垂直のエッジヒストグラムから、障害物の基準部として、前記障害物の下端中央部を検出し、かつ、前記両エッジヒストグラムのピークから、前記障害物の横幅を検出することが好ましい(請求項9)。
【0020】
そして、本発明の障害物測定装置は、適応フィルタがH∞フィルタであることを特徴としている(請求項10)。
【発明の効果】
【0021】
まず、請求項1、6の構成によれば、自車に搭載した単眼カメラの自車前方の単眼画像の画像処理により、この画像上での自車前方の障害物の基準部の高さ方向の位置が観測位置として検出され、この観測位置は障害物の遠近によって上下する。
【0022】
そして、この観測位置が入力される非線形状態空間モデルの適応フィルタのフィルタリングにより、観測位置及び単眼カメラの撮影条件に基き、外乱の影響等を極力排除して自車から障害物までの距離を推定する状態推定フィルタが形成され、この状態推定フィルタにより、自車から障害物までの車間距離等の距離を精度よく推定して測定することができ、このとき、障害物の横幅(車幅)は不要であり、障害物の横幅が未知(不明)であっても、前記の状態推定フィルタにより自車から障害物までの距離を精度よく測定できる。
【0023】
つぎに、請求項2、7の構成によれば、障害物の基準部を、単眼画像の水平、垂直のエッジヒストグラムから検出した障害物の下端中央部としたため、障害物の大きさ等による誤差なく、その遠近によって変化する観測位置を検出することができ、この観測位置の検出に基く前記距離や横幅の推定が極めて精度よく行なえる。
【0024】
つぎに、請求項3、8の構成によれば、単眼画像上での前記の自車前方の障害物の基準部の高さ方向の位置及び障害物の横幅が、観測位置及び観測幅として検出され、その観測位置が入力される前記と同様の非線形状態空間モデルの適応フィルタのフィルタリングにより、自車から障害物までの車間距離等の距離を精度よく推定して測定することができ、さらに、観測幅を入力とする線形状態空間モデルの適応フィルタの観測行列の係数を、前記非線形状態空間モデルの適応フィルタの前記距離の推定値により調整することにより、観測幅と非線形状態空間モデルの適応フィルタの推定結果とに基いて車幅等の横幅を精度よく推定して測定することができる。
【0025】
したがって、単眼カメラの自車前方の単眼画像上での自車前方の障害物の基準部の高さ方向の観測位置を入力とする非線形状態空間モデルの適応フィルタに、前記単眼画像上での自車前方の障害物の観測幅を入力とする線形状態空間モデルの適応フィルタを直列に接続した構成により、障害物の横幅が未知(不明)であっても、前記距離及び横幅を最適フィルタのフィルタリングによって推定し、同時に精度よく測定することができる。
【0026】
つぎに、請求項4、9の構成によれば、障害物の基準部を、単眼画像の水平、垂直のエッジヒストグラムから検出した障害物の下端中央部としたため、障害物の大きさ等による誤差なく、その遠近によって変化する観測位置を検出することができ、この観測位置の検出に基く前記距離や横幅の推定が極めて精度よく行なえ、しかも、障害物の横幅を、前記両エッジヒストグラムのピークから精度よく確実に検出することができる。
【0027】
また、請求項5、10の構成によれば、前記の非線形状態空間モデルの適応フィルタ、線形状態空間モデルの適応フィルタを、H∞フィルタで構成したため、それらの適応フィルタが外乱やモデル化誤差にロバストになり、精度の高い実用的な構成のフィルタリングによって前記距離、横幅を精度よく測定することができる。
【発明を実施するための最良の形態】
【0028】
つぎに、本発明をより詳細に説明するため、その実施形態について、図1〜図16にしたがって詳述する。
【0029】
<全体構成>
図1は自車1に搭載された障害物測定装置のブロック図であり、2は小型かつ安価なモノクロCCDカメラ構成の単眼カメラであり、車室内前方のほぼ車幅センタ位置に自車前方の路面を所定角度下向きに撮影するように取り付けられ、自車1のエンジンスタート後、自車前方を連続的にくり返し撮影し、毎フレームの単眼画像(撮影画像)を出力する。このとき、自車前方の障害物の遠近にしたがって単眼画像上の障害物の位置が上下する。
【0030】
3は単眼カメラ2の毎フレームの単眼画像(撮影画像)を取り込む画像処理部であり、画像処理手段を形成し、取り込んだ単眼画像をA/D変換し、例えば最新の数フレーム分の単眼画像をメモリに書き換え自在に蓄積保持し、マイクロコンピュータ(CPU)により、設定された画像処理プログラムにしたがって前記メモリの単眼画像を処理し、単眼画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置を観測位置として検出する。
【0031】
そして、この実施形態にあっては、障害物の基準部を、単眼画像の水平、垂直のエッジヒストグラムから検出した障害物の下端中央部とし、障害物の大きさ等による検出誤差を極力押さえる。
【0032】
4は画像処理部3の後段のフィルタ演算部であり、フィルタ演算手段を形成し、マイクロコンピュータの最適フィルタリング演算により、先行車間距離等の自車から障害物までの距離のみを推定して測定する場合は、ソフトウエアで形成された後述の非線形状態空間モデルΓの適応フィルタを備え、車間距離等の自車から障害物までの距離及び障害物の車幅等の横幅を推定して測定する場合は、ソフトウエアで形成された後述の線形状態空間モデルΓの適応フィルタも備え、前記の距離、横幅をくり返し推定して測定する。
【0033】
そして、非線形状態空間モデルΓ、線形状態空間モデルΓの状態推定の適応フィルタは、種々のアルゴリズムに基くフィルタであってよいが、この実施形態にあっては、それぞれH∞フィルタによって形成する。
【0034】
<H∞フィルタの導出>
つぎに、前記のH∞フィルタの導出について説明する。
【0035】
まず、離散時間の確定的な状態空間モデルは、一般に、つぎの数1の式(1)、数2の式(2)で与えられる。
【0036】
【数1】

【0037】
【数2】

【0038】
ここで、ξkはn次元状態ベクトル、ζkはp次元観測ベクトル、Fk、Gk、Hkはそれぞれn×n、n×r、p×nの既知の状態遷移行列、駆動行列、観測行列、wk及びvkはそれぞれr次元雑音、p次元雑音(ベクトル)である。
【0039】
ただし、雑音wk、vkはエネルギーが有界な確定的な雑音、すなわち、N>0に対して、下記数3の条件式を満足する雑音である。これは、フィルタシステムに存在する雑音の確率的な性質を問わないということである。
【0040】
【数3】

【0041】
一般に、伝達行列Tに対するH∞ノルムは、つぎの数4の時系列uの2ノルムを用いて数5の式(3)で定義される。
【0042】
【数4】

【0043】
【数5】

【0044】
そして、入カを未知外乱(雑音)ξk、wk、vkとし、出カを推定誤差ef,kとして、式(3)を最小にするフィルタを導出することは、最適H∞フィルタリング間題として知られているが、一般に、この最適H∞フィルタを求めることは難しく、前記フィルタの導出は有限時間の準最適H∞フィルタリング問題として扱われる。
【0045】
すなわち、前記の最適H∞フィルタリング間題は、あるレベルの制御パラメータγf>0が与えられたとき、‖Tk(fk)‖∞<γfを溝たす準最適H∞フィルタを求めることとして扱われ、これは、求められた準最適H∞フィルタが、外乱エネルギーと推定誤差エネルギーの比の最大値を与えられた値γf以下にすることを目的とするフィルタであることを意味する。
【0046】
そして、本願のH∞フィルタは、この準最適H∞フィルタを意味し、レベルγf>0が与えられたとき、‖Tk(fk)‖∞<γfを溝たすレベルγfのH∞フィルタの一つは、つぎの数6の式(4)〜数9の式(7)で示される。
【0047】
【数6】

【0048】
【数7】

【0049】
【数8】

【0050】
【数9】

【0051】
ここで、行列Re,kは、つぎの数10の式(8)で示され、誤差の共分散行列P^k|k−1は、数11の式(9)に示す不等式(存在条件)を満たすものでなければならない。
【0052】
【数10】

【0053】
【数11】

【0054】
つぎに、H∞フィルタは外乱(初期状態、雑音)から推定誤差までの伝達関数Tk(Ff)のH∞ノルムを最小にする意味で最適なフィルタとして与えられるものであり、このフィルタは最悪外乱に対する推定誤差を最小とするので、一般に、雑音の特性変化やモデル化誤差に対してロバストであるといわれている。
【0055】
このH∞フィルタは無数に存在し、そのアルゴリズムの導出についてもさまざまな方法での定式化が提案されており、例えば、ミニマックス推定問題として離散時間H∞フィルタの導出を試みたり、また、不定計量空間の一種であるクライン空間におけるカルマンフィルタがH∞フィルタであることから、両者に対する統一的解釈を与えて前記の式(4)〜式(9)に示したH∞フィルタアルゴリズムで定式化することがよく知られている。
【0056】
一方、このH∞フィルタを形成してフィルタリングを実行する際には、パラメータγfの決定と計算量の多さが問題となる。
【0057】
[線形状態空間モデルΓのH∞フィルタ]
そして、この実施形態では、線形状態空間モデルΓの適応フィルタとして、前記のパラメータγfの決定が容易で計算量が少ない、つぎの数12の式(10)〜数16の式(14)で示されるフィルタアルゴリズムのH∞フィルタを用いる。
【0058】
【数12】

【0059】
【数13】

【0060】
【数14】

【0061】
【数15】

【0062】
【数16】

【0063】
ここで、行列λi、(i=1、…、n)、Vkは、つぎの数17の式(15)に示すように、行列Mkの固有値、及び固有ベクトルより求められる。
【0064】
【数17】

【0065】
なお、行列Mkは、つぎの数18の式(16)で示される行列である。
【0066】
【数18】

【0067】
また、行列VkはVk=(v1、…、vi、…、vn)の雑音行列であり、雑音viは行列λiに対応する行列Mkの固有ベクトルとして求まり、ただし、|vi|=1である。さらに、VkVk=VkVk=Iである。
【0068】
[非線形状態空間モデルΓのH∞フィルタ]
前記式(12)〜式(16)のH∞フィルタは線形状態空間モデルΓの適応フィルタとして導出したものであるが、つぎに、線形状態空間モデルΓの適応フィルタとしては、観測方程式における観測行列Hkが非線形関数hk(ξk)である非練形状態空間モデル(システム)Γに対するH∞フィルタを導出する。
【0069】
すなわち、非線形システムΓにおける非線形関数hk(ξk)を、k(今回)、k−1(前回)の時点における推定量(値)ξ^k|k、ξ^k|k−1の周りで、つぎの数19の式(17)に示すようにテイラー展開する。
【0070】
【数19】

【0071】
ここで、観測行列Hkは、つぎの数20の式(18)で示される。
【0072】
【数20】

【0073】
したがって、非線形状態空間モデルΓは、つぎの数21の式(19)〜数24の式(22)で示される。
【0074】
【数21】

【0075】
【数22】

【0076】
【数23】

【0077】
【数24】

【0078】
そして、数式(22)のパラメータmkが前回推定量(値)ξ^k|k−1から各ステップ毎(フレーム毎)に求められ、非線形状態空間モデルΓは線形状態空間モデルとして扱うことが可能となる。
【0079】
そこで、線形状態空間モデルΓ1に対するH∞フィルタ及び前記式(19)〜式(22)から、この実施形態では、線形状態空間モデルΓ2の適応フィルタとして、つぎの数25の式(23)〜数30の式(28)に示すフィルタアルゴリズムのH∞フィルタを用いる。
【0080】
【数25】

【0081】
【数26】

【0082】
【数27】

【0083】
【数28】

【0084】
【数29】

【0085】
【数30】

【0086】
ここで、行列λi、(i=1、…、n)、Vkは、つぎの数31の式(29)に示すように、行列Mkの固有値、及び固有ベクトルより求められる。
【0087】
【数31】

【0088】
なお、行列Mkは、つぎの数32の式(30)で示される行列である。
【0089】
【数32】

【0090】
また、行列VkはVk=(v1、…、vi、…、vn)の雑音行列であり、雑音viは行列λiに対応する行列Mkの固有ベクトルとして求まり、ただし、‖vi‖=1である。さらに、VkVk=VkVk=Iである。
【0091】
<図1の測定処理>
つぎに、上記のH∞フィルタを用いた図1の具体的な測定処理について説明する。
【0092】
[座標系]
まず、走行環境のワールド座標系、単眼カメラ2のカメラ座標系、その撮像座標系について、図2の座標系説明用の斜視図、図3のその側面図を参照して説明する。
【0093】
ワールド座標系は自車1に対する先行車両等の自車前方の障害物の位置情報を表現するものであり、その直交する3軸は、車載の単眼カメラ2のレンズ2aを中心(原点)とする、図2、図3のwX軸、wY軸、wZ軸で表わされる。
【0094】
また、カメラ座標系の3軸は、レンズ2aを中心とする、図2、図3のcX軸,cY軸,cZ軸で表わされ、撮影光軸を斜め下向きにして自車前方の路面5を撮影するため、cX軸をwX軸に一致した状態で、座標系を、wX軸を中心軸として反時計回りに角度β回転した状態に設定され、cY軸、cZ軸は、wY軸、wZ軸から角度β傾いている。
【0095】
さらに,画像座標系は単眼カメラ2の撮影画像平面2bの中央を原点とする2次元座標系であり、図2に示すように、そのy軸はcY軸に平行であり、x軸はcX軸に平行である。
【0096】
なお、図2、図3のh0は単眼カメラ2の路面5からの高さ(カメラ高さ)、fは単眼カメラ2の焦点距離,βはそのカメラピッチ角である。この場合、よく知られているように、カメラ座標系と画像座標系には、つぎの数33の式(31)の関係がある。
【0097】
【数33】

【0098】
[測定対象の距離、横幅]
つぎに、前記の座標関係に基く先行車両等の自車前方の障害物の測定対象の距離(車間距離)、横幅(車幅)について、図4の先行車両の撮影画像の説明図、図5のワールド座標系での距離、横幅の説明図を参照して説明する。
【0099】
まず、白車1及び先行車両等の障害物を合む走行環境の道路平面5の勾配が一定であるとすると、前記の各座標系の関係から、ワールド座標系の任意の点(wX1、wY1、wZ1)と、画像座標系の任意の点(x1、y1)との間には、つぎの数34の式(32)、数35の式(33)の関係がある。
【0100】
【数34】

【0101】
【数35】

【0102】
また、説明を簡単にするため、障害物を先行車両6とし、ワールド座標系における先行車両6の左、右両端の座標を(wXl、wZl)、(wXr、wZr)、画像座標系における先行車両6の左、右両端の座標をxl、xrとして、ワールド座標系における先行車両6の測定する車幅(横幅)を図5のWvとし、自車1から先行車両6までの測定する車間距離を図5のLdistとし、画像座標系における先行車両6の撮影された横幅(車幅)を図4のiwvとし、画像平面2b上で下端中央部として検出される図4の矩形枠の車両領域の下線中点座標(重心点座標)を(Ox、Oy)とすると、iwv=xr−xlであるため、前記式(32)〜(33)より、画像平面2b上の先行車両6の横幅iwv、中点座標(Ox、Oy)と、車間距離Ldistとは、つぎの数36の式(34)、数37の式(35)の関係がある。
【0103】
【数36】

【0104】
【数37】

【0105】
そして、中点座標(Ox、Oy)が先行車両6の基準部であり、その座標値Oyがその高さ方向の観測位置であり、式(35)は、その観測位置と、単眼カメラ2の撮影条件であるカメラ高さh0、焦点距離f、角度βとに基づき、車間距離Ldistが測定できることを示している。
【0106】
また、横幅iwvを観測幅として検出すると、式(34)は、その観測幅及び前記の車間距離Ldistの測定結果、単眼カメラ2の撮影条件に基き、車幅(横幅)Wvを測定できることを示している。
【0107】
[画像処理部3の処理(先行車両情報の抽出)]
そこで、単眼カメラ2の単眼画像に基づき、画像処理部3により、つぎに説明するようにして、前記の観測位置Oy、観測幅iwvを検出する。
【0108】
撮影画像平面2b上に存在する先行車両6の観測位置Oy、観測幅iwvの検出は、単眼画像の種々の画像処理によって行なうことができるが、この実施形態においては、いわゆるエッジヒストグラムによる先行車両認識アルゴリズムの画像処理によって行う。
【0109】
この場合、画像処理部3により、A/D変換された単眼カメラ2の毎フレームの単眼画像、例えば図6の単眼画像Paについて、その画像平面上に、図7の微分二値画像に示す垂直エッジ検出の領域V−ROI、水平エッジ検出の領域H−ROIを設定する。
【0110】
なお、図6の枠線で囲まれたほぼ画像中央の部分は、種々の実験等に基き、先行車両6を捕捉する位置、大きさに設定され、両領域H−ROI、V−ROIは、前記画像中央の部分で十字状に交差する帯状の領域である。
【0111】
そして、まず、枠線内のほぼ中央部に設定した領域V−ROIについて縦方向の微分画像を濃度投影し、図7の垂直エッジのエッジヒストグラムGvを得、このヒストグラムGvのピーク検出により、車両両端等の垂直線成分が強い個所を検出する。
【0112】
つぎに、エッジヒストグラムGvから検出した2ピークの間隔のほぼ中央に垂直方向に領域H−ROIを設定し、この領壊H−ROlについて横方向の微分画像を濃慶投影し、図7の水平エッジヒストグラムGhを得、このヒストグラムGhの水平線成分が強い先行車両の上下端部のピークを検出する。
【0113】
そして、前記の垂直、水平のエッジヒストグラムのピーク検出情報に基づき、水平のエッジピークが検出された先行車両の下端部を認識し、その中央位置から図4の画像平面2b上の下線中点座標(Ox、Oy)を検出し、その座標Oyから、前記基準部の高さ方向の観測位置を検出し、同時に、垂直エッジの2ピークの間隔から図4の画像平面2b上での先行車両の車幅(横幅)iwvを観測幅として検出する。
【0114】
このとき、先行車両6の大きさ等によらず、先行車両6の遠近によって下線中点座標(Ox、Oy)が上下動し、観測位置は、自車1からの先行車両6の遠近に即して上下する。
【0115】
[フィルタ演算部4の処理]
先行車両6の車幅Wvが既知であれば、前記式(34)の関係から、撮影画像平面2b上の先行車両6の車幅iwvを検出することにより、車間距離Ldistを求めることができるが、先行車両幅Wvが未知の傷合は、車幅iwvを検出するだけでは車間距離Ldistを求めることができない。
【0116】
そこで、画像処理部3によって得られた前記の観測位置、観測幅が入力されるフィルタ演算部4においては、車幅Wvが未知の傷合に、非線形状態空間モデルΓのフィルタリングによって車間距離Ldistを推定する。
【0117】
また、この実施形態の場合、同時に、線形状態空間モデルΓのフィルタリングによって車幅Wvも推定する。
【0118】
そして、前記のH∞フィルタを使用して、つぎの状態空間モデルΓ、Γの適応フィルタを形成する。
【0119】
(a)線形状態空間モデルΓの適応フィルタ
車幅Wvを推定する線形状態空間モデルΓの適応フィルタは、つぎの数38の式(36)、数39の式(37)で示される。
【0120】
【数38】

【0121】
【数39】

【0122】
なお、それらの式中のθkは先行車両6の時点kでの車幅の状態量、ζlkは時点kの観測行列Hkの車間距離のパラメータであり、θk、ζlk、Hkはつぎの数40の式(38)〜数42の式(40)で表される。
【0123】
【数40】

【0124】
【数41】

【0125】
【数42】

【0126】
(b)非線形状態空間モデルΓの適応フィルタ
車間距離Ldistを推定する非線形状態空間モデルΓの適応フィルタは、つぎの数43の式(41)、数44の式(42)で示される。
【0127】
【数43】

【0128】
【数44】

【0129】
なお、それらの式中のξkは時点kの車間距離、ζ2kは時点kの観測位置Oy、hk(ξk)は時点kの観測行列であり、つぎの数45の式(43)〜数47の式(45)で表される。
【0130】
【数45】

【0131】
【数46】

【0132】
【数47】

【0133】
そして、先行車両5の車幅を状態量θkとする状態空間モデルΓは観測行列Hkに車間距離ζlkを未知のパラメータとして含むが、このパラメータに状態空間モデルΓの推定結果を用いることにより、適応フィルタの枠組みで、その状態量θkと未知のパラメータζlkを同時に推定することができる。
【0134】
具体的には、状態空間モデルΓの適応フィルタを前記の非線形H∞フィルタにより形成し、先に車間距離Ldistの推定値ξkを求め、この推定値ξkを用いることにより、状態空間モデルΓの適応フィルタを前記の線形H∞フィルタで形成して車幅Wvの推定値θkを求めることができる。
【0135】
この場合、前記式(36)〜式(45)に即した状態空間モデルΓ、Γの適応フィルタフィルタは、図8のZ変換のブロック図に示すように直列の形で接統される。
【0136】
そして、状態空間モデルΓ、Γの関係に基づき、フィルタ演算部4に、H∞フィルタを用いた図9のZ変換の状態推定フィルタを設け、非線形状態空間モデルΓのH∞フィルタのブロックF2により車間距離Ldistの推定値ξkを求め、この推定値ξkにより、線形状態空間モデルΓのH∞フィルタのブロックF1の観測行列Hkを車間距離Ldistにしたがって調整しつつ車幅Wvの推定値θkを求める。
【0137】
なお、図9のブロックF1、F2においては、推定したθk、ξkを単位行列Lkを通し、推定値zlk、z2kとして出力している。
【0138】
そして、画像処理部3,フィルタ処理部4の処理をフローチャートで示すと、例えば図10のステップS1〜S5のようになり、これらの処理に基づき、車幅Wvが未知であっても、H∞フィルタを用いた、雑音の特性変化やモデル化誤差等に対してロバストな構成で、精度よく、車間距離Ldistを推定して測定することができ、同時に、先行車両6の車幅Wvも推定して測定することができる。
【0139】
[実験結果]
つぎに、図9の状態推定フィルタを用いたシミュレーションの実験結果について説明する。
【0140】
この実験においては、自車1、先行車両6の車速、車間随離、及びカメラパラメータ等から、画像平面2b上における先行車両6の車幅Wvを計算し、これにα=1の正規雑音を付加したものを観測信号とした。
【0141】
そして、つぎの3つの走行パターンによって実験を行った。すなわち、第1の走行パターン(走行パターン1)は、車間距離Ldistが一定の場合であり、第2の走行パターン(走行パターン2)は、30秒([s])経過した後に加速する場合であり、第3の走行パターン(走行パターン3)は、30[s]経過後に減速する場合である。
【0142】
また、いずれの走行パターンの場合も、先行車両の車幅Wvは1600[mm]、自車速は30[km/h]の一定車速、H∞フィルタのフィルタリングのアルゴリズムにおける初期値はθ0|−1=1800[mm]、ξ0|−1=30[m]とした。
【0143】
(a)走行パターン1の結果
車間距離distが一定のまま走行した場合は、図11、図12の推定結果が得られた。図11は車間距離Ldistの結果を示し、図12は車幅Wvの結果を示す。
【0144】
なお、両図において、縦軸は距離、横軸は100ミリ秒単位の時間であり、実線aが真の値の特性、実線bが推定値の特性である。また、車間距離Ldistは6[m]に設定した。
【0145】
(b)走行パターン2
30[s]後に先行車両6が加速した場合は、図13、図14の推定結果が得られた。図13は車間距離Ldistの結果を示し、図14は車幅Wvの結果を示す。
【0146】
なお、両図においても、縦軸は距離、横軸は100ミリ秒単位の時間であり、車間距離Ldistは6[m]に設定した。
【0147】
そして、両図の実線aは真の値の特性、実線bは推定値の特性であり、波線cは比較のためにいわゆる拡張カルマンフィルタで推定した場合の特性である。
【0148】
(c)走行パターン3
30[s]経過後に先行車両6が減速した場合は、図15、図16の推定結果が得られた。図15は車間距離Ldistの結果を示し、図16は車幅Wvの結果を示す。
【0149】
なお、両図においても、縦軸は距離、横軸は100ミリ秒単位の時間であり、車間距離Ldistは30[m]に設定した。
【0150】
そして、両図の実線aは真の値の特性、実線bは推定値の特性であり、波線cは比較のためにいわゆる拡張カルマンフィルタで推定した場合の特性である。
【0151】
以上の実験結果に基づき、実施形態の状態推定フィルタを用いた推定と拡張カルマンフィルタを用いた従来推定とでは、追従性に違いがあることが判明した。具体的には、例えば図13、図14から、システム動作開始直後における真値への収束が、従来推定よりも短時間で済むことが判明し、図13、図15から、加速、及び減速によって車間距離が変化を始めるときには、従来推定にみられる応答遅れがないことが判明した。
【0152】
さらに、従来推定より雑音に敏感であり、推定値に微小な変動しか生じないことも判明した。
【0153】
なお、よく知られているように、カルマンフィルタは、システム雑音、及び観測雑音の設定によってフィルタの追従特性を変化させることが可能であるが、それらのパラメータを調整しなければ、カルマンフィルタの特性をこの図9の状態推定フィルタを用いた良好な推定特性に近づけることは容易でなく、とくに、システム雑音、観測雑音等の状態を事前に知っておくことが難しい場合の車間距離Ldist、車幅Wvの推定については、H∞フィルタを用いた図9の状態推定フィルタのような精度の高い安定した推定は行えない。
【0154】
そして、本発明は上記した実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能である。
【0155】
すなわち、前記実施形態では、車間距離Ldist、車幅Wvを同時に推定して測定する場合について説明したが、場合によっては、フィルタ演算部4に図9の非線形状態空間モデルΓのH∞フィルタのブロックF2のみを設け、非線形状態空間モデルΓ2のフィルタリングによって、車間距離Ldistのみを推定して測定してもよい。
【0156】
また、画像処理部3により、エッジヒストグラムによる先行車両認識アルゴリズムと異なるアルゴリズムで前記の観測位置、観測幅を検出してもよい。
【0157】
そして、測定対象の自車前方の障害物は先行車両6に限られるものではなく、走行する物体、静止物体のいずれであってもよい。
【0158】
つぎに、フィルタ演算部4の状態空間モデルΓ、Γの適応フィルタフィルタは、H∞フィルタと同等のデジタルフィルタ等で構成してもよい。
【0159】
そして、本発明の測定結果は、ACCや被害軽減自動ブレーキシステム等の自車1の種々の走行制御に用いることができるのは勿論である。
【産業上の利用可能性】
【0160】
ところで、自車1の装備部品数を少なくするため、例えば図1の単眼カメラ2を追従走行制御等の他の制御のセンサに兼用する場合にも適用することができる。
【図面の簡単な説明】
【0161】
【図1】この発明の実施形態のブロック図である。
【図2】図1の座標系の関係説明図である。
【図3】図2の側面図である。
【図4】図1の観測位置、観測幅の説明図である。
【図5】図1の座標変換の説明図である。
【図6】図1の単眼カメラの撮影図である。
【図7】図6の処理画像の説明図である。
【図8】図1のフィルタ演算部の状態空間モデルΓ、Γのブロック図である。
【図9】図8の状態空間モデルΓ、Γに即した図1のフィルタ演算部の状態推定フィルタのブロック図である。
【図10】図1の処理説明用のフローチャートである。
【図11】走行パターン1の車間距離の推定例の特性図である。
【図12】走行パターン1の車幅の推定例の特性図である。
【図13】走行パターン2の車間距離の推定例の特性図である。
【図14】走行パターン2の車幅の推定例の特性図である。
【図15】走行パターン3の車間距離の推定例の特性図である。
【図16】走行パターン3の車幅の推定例の特性図である。
【符号の説明】
【0162】
1 自車
2 単眼カメラ
3 画像処理部
4 フィルタ演算部

【特許請求の範囲】
【請求項1】
自車に単眼カメラを搭載し、
前記単眼カメラの自車前方の撮影画像の画像処理により、前記撮影画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置を観測位置として検出し、
前記観測位置を入力とする非線形状態空間モデルの適応フィルタのフィルタリングにより、前記観測位置及び前記単眼カメラの撮影条件に基いて自車から前記障害物までの距離を推定して測定することを特徴とする障害物測定方法。
【請求項2】
障害物の基準部が、単眼カメラの撮影画像の水平、垂直のエッジヒストグラムから検出した前記障害物の下端中央部であることを特徴とする請求項1記載の障害物測定方法。
【請求項3】
自車に単眼カメラを搭載し、
前記単眼カメラの自車前方の撮影画像の画像処理により、前記撮影画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置及び前記障害物の横幅を、観測位置及び観測幅として検出し、
前記観測位置を入力とする非線形状態空間モデルの適応フィルタのフィルタリングにより、前記観測位置及び前記単眼カメラの撮影条件に基いて自車から前記障害物までの距離を推定し、
前記観測幅を入力とする線形状態空間モデルの適応フィルタのフィルタリングにより、該線形状態空間モデルの適応フィルタの観測行列の係数を前記非線形状態空間モデルの適応フィルタの前記距離の推定値により調整して前記横幅を推定し、
前記撮影画像から前記障害物の前記距離、前記横幅を同時に測定することを特徴とする障害物測定方法。
【請求項4】
障害物の基準部が、単眼カメラの撮影画像の水平、垂直のエッジヒストグラムから検出した前記障害物の下端中央部であり、かつ、前記障害物の横幅を、前記両エッジヒストグラムのピークから検出することを特徴とする請求項3記載の障害物測定方法。
【請求項5】
適応フィルタがH∞フィルタであることを特徴とする請求項1〜4のいずれかに記載の障害物測定方法。
【請求項6】
自車に搭載された単眼カメラと、
前記単眼カメラの自車前方の撮影画像を画像処理し、前記撮影画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置を観測位置として検出する画像処理手段と、
前記観測位置を入力とする非線形状態空間モデルの適応フィルタのフィルタリングにより、前記観測位置及び前記単眼カメラの撮影条件に基いて自車から前記障害物までの距離を推定して測定するフィルタ演算手段とを備えたことを特徴とする障害物測定装置。
【請求項7】
画像処理手段により、単眼カメラの撮影画像の水平、垂直のエッジヒストグラムから、障害物の基準部として、前記障害物の下端中央部を検出するようにしたことを特徴とする請求項6記載の障害物測定装置。
【請求項8】
自車に搭載された単眼カメラと、
前記単眼カメラの自車前方の撮影画像を画像処理し、前記撮影画像上での先行車両等の自車前方の障害物の基準部の高さ方向の位置及び前記障害物の横幅を、観測位置及び観測幅として測定する画像処理手段と、
前記観測位置を入力とする非線形状態空間モデルの適応フィルタのフィルタリングにより、前記観測位置及び前記単眼カメラの撮影条件に基いて自車から前記障害物までの距離を推定し、かつ、前記観測幅を入力とする線形状態空間モデルの適応フィルタのフィルタリングにより、該線形状態空間モデルの適応フィルタの観測行列の係数を前記非線形状態空間モデルの適応フィルタの前記距離の推定値により調整して前記横幅を推定し、前記障害物の前記距離、前記横幅を同時に測定するフィルタ演算手段とを備えたことをことを特徴とする障害物測定装置。
【請求項9】
画像処理手段により、単眼カメラの撮影画像の水平、垂直のエッジヒストグラムから、障害物の基準部として、前記障害物の下端中央部を検出し、かつ、前記両エッジヒストグラムのピークから、前記障害物の横幅を検出するようにしたことを特徴とする請求項8記載の障害物測定装置。
【請求項10】
適応フィルタがH∞フィルタであることを特徴とする請求項6〜9のいずれかに記載の障害物測定装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図6】
image rotate


【公開番号】特開2006−31313(P2006−31313A)
【公開日】平成18年2月2日(2006.2.2)
【国際特許分類】
【出願番号】特願2004−208116(P2004−208116)
【出願日】平成16年7月15日(2004.7.15)
【出願人】(000002967)ダイハツ工業株式会社 (2,560)
【Fターム(参考)】