車線境界全般を検出する方法およびシステム
【課題】 車線区分線や道路境界などの路面標識が連続的でない場合、湾曲している場合、そのサイズが既知でない場合などにおいても、極端に大きな計算能力を必要とすることなく、効率的に路面標識を検出する方法、装置およびシステムを提供する。
【解決手段】 イメージャ(1)から、車両(2)の前方の道路(4)の画像(3)を受けるステップと、画像中に識別された道路内に、関心領域を決定するステップと、関心領域内に車線区分線(7L、7R)を検出することによって、また車線区分線を検出することができなかった場合には、関心領域内に道路境界を検出することによって、路面標識(8L、8R)を検出するステップとを含んでいる。ウィンカがオンの場合には、前記各ステップをスキップする。
【解決手段】 イメージャ(1)から、車両(2)の前方の道路(4)の画像(3)を受けるステップと、画像中に識別された道路内に、関心領域を決定するステップと、関心領域内に車線区分線(7L、7R)を検出することによって、また車線区分線を検出することができなかった場合には、関心領域内に道路境界を検出することによって、路面標識(8L、8R)を検出するステップとを含んでいる。ウィンカがオンの場合には、前記各ステップをスキップする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ビデオ画像処理に関し、さらに詳細には、本発明は、ビデオ画像における道路状態の検出に関する。
【背景技術】
【0002】
道路の車線区分線および道路境界を見出すために、ビデオカメラを組み込んだ検出システムを用いることがある。従来、車線区分線および道路境界を見出すために、境界/白線の前方連続性か、または車線区分線の既知のサイズのいずれかが利用されている。車線区分線が、十分に連続的な信号を供給しないボッツドッツ(直径約10cmのドーム状の白い円盤)タイプ、またはリフレクタである場合には、白線の連続性を用いるアプローチは機能しなくなる。
【0003】
車線区分線が、異なるサイズを有している場合には、車線区分線の既知のサイズを用いるアプローチは機能しなくなる。最後に、ハフ変換を用いるアプローチは、困難な状況(2つ以上の解が得られる、複数の平行な車線区分線が存在するような)において機能しなくなり、また十分な計算能力を必要とする。従来の他の手法においては、道路画像内に、垂直方向端を求めることのみによって、車線区分線が識別される。しかし、垂直方向端を検出する方法は、車線区分線が相当の角度を有しているカーブの箇所においては機能しない。
【0004】
また、このような従来技術では、車体が車線区分線に過度に接近した場合には、警告発生手段を作動させて運転者に異常を知らせていることが通常であるが、場合によっては車体が車線区分線に過度に接近した場合にも、警告信号を発する必要がない場合がある。例えば、運転者自らが車線変更を行う意図をもって車線に接近した場合は、通常の運転操作の範囲内である。それにも拘らず、前記従来技術では、全ての場合に一律に警告信号を発している。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】Bar-Shalom「Estimation and Tracking (推定および追跡)」
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、上述の問題を解決することができる、車線区分線または道路境界などの路面標識を検出する方法およびシステムを提供することを目的とするものである。
【課題を解決するための手段】
【0007】
本発明の一実施形態においては、イメージャから、車両の前方の道路の画像を受け、その画像内に識別された道路内に、関心領域を決定するように構成されている画像処理プロセッサと、関心領域内に車線区分線を検出することによって、また車線区分線を検出することができなかった場合には、関心領域内に道路境界を検出することによって、路面標識を検出するように構成されている路面標識検出モジュールとが設けられている。
【0008】
画像処理プロセッサは、さらに、路面標識エッジ候補を識別するために、それぞれ画像内の1つのエッジを表わす、画像ピクセルの輝度勾配のピークおよびバレーを決定することによって、関心領域内にエッジ強度を決定するように構成されていてもよく、また路面標識検出モジュールは、エッジ強度と強度閾値とを比較するように構成されていてもよい。
【0009】
路面標識検出モジュールは、関心領域内の複数の画像行において、各エッジ強度と強度閾値とを比較することによって、エッジ対を、路面標識エッジ候補として識別するステップと、エッジ対の間隔を特定するステップと、エッジ対の間隔と、間隔最小閾値および間隔最大閾値とを比較するステップであって、エッジ対の間隔が、間隔最小閾値と間隔最大閾値との間にある場合には、エッジ対は、車線区分線候補を表わしているステップと、車線区分線候補を表わしている画像行のエッジ対に対応する中央勾配位置に、第1の線を適合させるステップとを実行するように構成されている車線区分線検出モジュールを備えていてもよく、かつ容認可能な第1の近似適合線に寄与した全てのエッジ対を、車線区分線の識別要素として選択する。
【0010】
路面標識検出モジュールは、さらに、エッジ対の間隔の各々が、間隔最小閾値と間隔最大閾値との間になかった場合、または容認可能な第1の近似適合線が見出されなかった場合には、道路境界の識別要素の候補を表わしている画像行のエッジの各々に第2の線を適合させ、かつ容認可能な第2の近似適合線に寄与した全てのエッジを、道路境界の識別要素として選択するように構成されている道路境界検出モジュールを備えていてもよい。
【0011】
路面標識検出モジュールは、さらに、道路境界の識別要素が見出されなかった場合には、複数の画像行において平均絶対偏差(MAD)勾配を決定するステップと、路面標識候補を表わしている画像行のエッジの各々に対応する、大きさ閾値を超過する大きさを有するMAD勾配の位置に、第3の線を適合させるステップと、容認可能な第3の近似適合線に寄与したMAD勾配の位置を、路面標識として選択するステップとを実行するように構成されていてもよい。
【0012】
路面標識検出モジュールは、さらに、第1、第2、または第3の線の、路面標識エッジ候補を表わす画像行のエッジに対する適合度、および第1、第2、または第3の線の傾きの、以前の道路画像における傾きに対する近似度をチェックすることによって、容認可能な第1、第2、または第3の近似適合線を決定するように構成されていてもよい。そして、これらに基づいて車線逸脱検出システムは、車両が道路の適切な走行車線からずれているか否かを決定する。このとき、運転者自らが進路変更等により車線に接近する場合、ウィンカをオンにして点滅させていることが、運転者自ら車線に接近する意思であることが明白であると想定し、この際は、上記の検出の対象外であるとした。
【0013】
以下の説明、請求項、および添付図面を参照することによって、本発明の上記した特徴およびそれ以外の特徴、態様、および利点を理解しうると思う。
【図面の簡単な説明】
【0014】
【図1】本発明の一実施形態による、車両の動きに連動する車線/道路境界探索および追跡システムの機能ブロック図である。
【図2A】本発明の一実施形態による車線/道路境界検出装置の機能ブロック図である。
【図2B】本発明の一実施形態による、図2Aの検出装置によって実行される車線/道路境界検出プロセスの一部のフローチャートである。
【図2C】図2Bの車線/道路境界検出プロセスに続く車線/道路境界検出プロセスの一部のフローチャートである。
【図2D】図2Cの車線/道路境界検出プロセスに続く車線/道路境界検出プロセスのフローチャートである。
【図3A】本発明の一実施形態における、画像面内のピクセルと、ビデオカメラを介してピクセルに投影される、道路面上の対応点との関係の一例を示す図である。
【図3B】本発明の一実施形態にしたがって、画像フレーム内に関心領域を決定する一例を示す図である。
【図3C】画像の関心領域に対応する、道路上の平行四辺形エリアの一例を示す図である。
【図3D】本発明による、画像の勾配検出および幅テストの一例を示す図である。
【図4】新しいピクセル値がヘッドに加えられ、古いピクセル値がテールから除かれる、本発明の一実施形態による、画像行のローパスフィルタ処理の一例を示す図である。
【図5A】本発明の一実施形態による、平均絶対偏差(MAD)の計算の一例を示す図である。
【図5B】車線境界標識を備えた道路画像の一例を示す図である。
【図5C】MADフィルタによる処理後の、図5Bの道路画像を示す図である。
【図6A】画像面と、道路上の前方距離との関係を説明するために、ビデオカメラの側面と道路との相対的な位置関係の一例を示す図である。
【図6B】道路画像において、垂直方向ピクセルサイズVpおよび水平方向ピクセルサイズHpを有して、画像行座標r、画像列座標Wに配置されているピクセルpのアレイの一例を示す図である。
【図7】画像行座標に基づいて、最小標識幅から計算されたフィルタ長の変化を示す図である。
【図8】本発明による、許容可能な傾きの誤差、およびその時間経過に伴う変化の例を示す図である。
【図9】空フレームおよび空区間のカウントの更新、および標識の追跡へのその応用の一例を示す図である。
【図10】本発明にしたがって、標識検出のために、道路画像からダッシュ−ギャップタイプ標識の情報を蓄積する一例を示す図である。
【図11】本発明による、標識検出に対する、学習されたダッシュ−ギャップタイプ標識モデルの応用の一例を示す図である。
【図12】本発明による、境界位置の検出を改善するための優先度スキームの一例を示す図である。
【図13】最小二乗直線/曲線適合の一例を示す図である。
【発明を実施するための形態】
【0015】
本発明は、車線境界全般の検出方法および検出システムを提供するものである。本発明の一実施形態によると、車線または道路のビデオ画像を用いて、車線または道路の車線区分線または道路境界を含む路面標識が見出される。これは、少なくとも最小サイズから最大サイズまでの画像標識フィーチャの境をなす、大きな勾配(例えば輝度勾配)を有するビデオ画像領域を探索することによって達成される。勾配探索は、グレーレベル画像または平均絶対偏差画像で行うことができる。これらの勾配位置は、曲線適合法を用いて(必要であれば、サブセットを選択して)、適切な適合度および整合度を得るようにグループ化される。画像標識フィーチャに適合させた曲線が、車線区分線または道路境界を表わす。車線区分線は、方向性を有する一対のプロセスによって見出され、一方、道路境界は、対になっていないプロセスによって見出される。白線と単純なエッジタイプの境界とのいずれを見出すためにも、一連のステップが用いられる。必要な場合には、同じデータの異なるバージョンまたはサブセットを用いて、複数の回数にわたって判断が下される。
【0016】
説明を簡単にするために、本明細書においては、車線区分線と道路境界とを、まとめて標識と呼ぶ。図1は、一実施例による、ビデオカメラ1をマウントされた車両2に連結されている車線(道路)曲率測定システム50の機能ブロック図である。ビデオカメラ1は、前方を向くように、車両2にマウントされている。ビデオカメラ1は、車両2の前方の道路(車線/車道)4の画像3〔2次元(2−D)の〕を捕捉し、それらの画像を、境界検出用のコントローラ5に伝達する。デジタル化されたビデオ入力信号をサンプリングして、画像行および画像列に配列されたピクセルアレイとして、2次元画像を作成するために、サンプラー60を用いてもよい。
【0017】
この例においては、コントローラ5は、車線境界検出システム6、車線逸脱検出システム9、カメラ較正モジュール10、および警告モジュール11を備えている。車線境界検出システム6は、道路特性解析によって画像3を処理し、道路4上の実際の標識8L、8Rをそれぞれ表わす画像標識フィーチャ7L、7Rの位置を、画像3内に追跡する。ビデオカメラ1に対して、標識8Lは道路の左縁を示しており、標識8Rは道路の右縁を示している。画像標識フィーチャ7Lおよび7Rの位置および偏揺れ角(ビデオカメラ位置に対する)が、車線境界検出システム6から車線逸脱検出システム9に供給される。車線逸脱検出システム9は、さらに、車両2から速度情報を受け取り、また、カメラ較正データ(カメラ較正モジュール10によって供給される)を受け取る。車線逸脱検出システム9は、車両速度、車線区分線位置および偏揺れ角に関する情報を定期的に受け取ることが好ましい。
【0018】
車両速度情報、カメラ較正情報、および画像標識フィーチャ7Lおよび7Rの追跡された位置に基づいて、車線逸脱検出システム9は、車両2が道路4の適切な走行車線からずれているか否かを決定する。車線逸脱検出システムが、車線に接近していること、または道路から逸脱していることを検出したときには、警告モジュール11が起動させられる。但し、車体が車線区分線に過度に接近しても、警告モジュール11による警告信号を発する必要がない場合、つまり車線変更の場合には、警告信号を発しないこととする。そして、車線変更の際には、通常ウィンカーがオンになっているので、ウィンカのオン状態とその方向を検出し、この状態では、車体が車線区分線に過度に接近したことが検出されても、警告モジュール11からの警告信号を発生しないようにする。
【0019】
図2Aは、本発明による車線境界検出システム6の一実施例の機能ブロック図である。車線境界検出システム6は、画像前処理モジュール21、車線区分線検出モジュール22、および道路エッジ検出モジュール23を有している。画像前処理モジュール21は、ピクセルの2次元(2−D)アレイ(画像行および画像列)を有する画像3を前処理する。画像前処理モジュール21は、関心領域配置モジュール31、勾配計算モジュール32、および任意選択に、平均絶対偏差(MAD)計算モジュール35を有している。
【0020】
受け取った各画像3に対して、関心領域配置モジュール31は、画像標識フィーチャ(画像車線区分線または画像道路境界)7Lおよび7Rがあると予想される関心領域を、画像内に決定する。関心領域配置モジュール31は、関心領域縦方向設定モジュール33および関心領域横方向設定モジュール34を有している。関心領域の正確な位置が、関心領域縦方向設定モジュール33および関心領域横方向設定モジュール34によって決定される。各関心領域内において、勾配計算モジュールは、ピクセルの各画像行座標r毎に、左端から右端に向かってピクセルのグレーレベルの勾配を決定する。
【0021】
任意選択的に、MAD計算モジュール35は、ピクセルのグレーレバルの平均絶対偏差を計算する。すなわち、MAD計算モジュール35は、ピクセルのグレーレベルの平均を中心とした、1セットの数の分散を測定する。2セットの数が存在するとき、平均が互いに同じになることはあり得るが、分散値は互いに異なる。これは、有用なことである。すなわち、道路エッジと、道路エッジをはずれた位置との間にほとんどコントラストがない場合にも、その同じ平均値を中心とするピクセル値の分散は、互いに異なる(すなわち、画像において、道路と、道路をはずれた位置との間で、平均値が同じであっても、分散値は異なる)であろうから、より良好な境界検出が可能になる。平均は、いわゆる一次統計値であり、一方、平均絶対偏差は、二次統計値である。
【0022】
計算された勾配が、「暗」から「明」(正の勾配)に続く、「明」から「暗」(負の勾配)のパターンを示したときに、その勾配位置は、車線区分線検出モジュール22によって、車線区分線の検出および追跡のために用いられる。この場合には画像における車線区分線である、正しい画像標識フィーチャ7Lおよび7Rの識別および追跡を確実にするために、また車線区分線と間違えられる可能性のある誤った標識の最高水準の排除を確実にするために、車線区分線検出モジュール22の内部で、種々の精度向上化機能を実行してもよい。車線区分線検出モジュール22によって実行される精度向上化機能の例には、次のものが含まれる。
機能41a:χ2(χの2乗)が大きすぎるときの線適合
機能42a:係数一致
機能43:標識モデルベース
機能44a:適合線に対する容認テスト
機能45a:昼夜差
機能46a:空フレームおよび空区間のカウント
機能47:ダッシュ−ギャップタイプ標識の特性解析
【0023】
明瞭な正から負への勾配パターンが、関心領域内に存在しない場合には、道路境界の検出および追跡を行うために、道路エッジ検出モジュール23が用いられる。この場合には画像における道路境界である、正しい画像標識フィーチャ7Lおよび7Rの識別および追跡を確実にするために、また道路境界と間違えられる可能性のある誤った標識の最高水準の排除を確実にするために、道路エッジ検出モジュール23の内部で、精度向上化機能を実行してもよい。道路エッジ検出モジュール23によって実行される精度向上化機能の例には、次のものが含まれる。
機能41b:χ2(χの2乗)が大きすぎるときの線適合
機能42b:係数一致
機能44b:適合線に対する容認テスト
機能45b:昼夜差
機能46b:空フレームおよび空区間のカウント
【0024】
線適合の機能41aおよび41bは、画像前処理モジュール21からの初期標識点候補に作用する。機能41aおよび41bは、χ2(いかによく、近似曲線が1セットのデータ点に適合するかを示す統計的尺度)が,χ2の閾値(この閾値は0より大きく、例えば容認可能な適合に対して2.0であってもよい)未満であるか否かを決定する。大きな値のχ2(すなわち、χ2の閾値より大きい)は、近似曲線と1セットのデータ点との間の適合が乏しいことを表わしている。大きなχ2値が、1セットのデータ点(初期標識点候補)に対して検出されたときには、χ2値がχ2の閾値未満になるまで、それらのデータ点のサブセットが、曲線適合のために選択される。
【0025】
係数一致を検出する機能42aおよび42bは、次のようにして、係数一致を検出する。道路境界または車線境界は、一般に、1つの画像フレームから次の画像フレームまでで、わずかの量しか移動しない。それらの画像中の位置を記述する数学関数(例えば曲線)も、同様に、ゆっくりと変化する。この変化は、そのような位置を記述する数学関数の係数差が、1つの画像フレームから次の画像フレームまでで、ある差閾値未満であるということによって定量化される。この差閾値は、0より大きく、一例において0.15であってもよい。その結果、その直後の2つの画像フレームに対して、それぞれ0.15の誤差が許容され、さらなる全ての画像フレームに対して、0.03のさらなる差が割り当てられる。係数差が、差閾値より大きい場合には、連続する2つの画像フレームに、2つの異なる境界または標識が見出される場合がある(避けるべき状況)。したがって、現在の画像フレームで見出された車線区分線または道路境界を、以前の画像フレームで見出された標識の継続として容認する前に、機能42aおよび42bは、そのような係数の、十分によく一致する係数(すなわち、係数変化が差閾値未満である)に対する近似性をテストする。χ2検査および係数一致テストによって、曲線適合(例えば直線適合)の妥当性が試される。
【0026】
路面標識として検出される最小および最大の物理的寸法(例えば幅、長さ)、および背景に対する最小コントラストが規定されている必要がある。物理的寸法およびコントラストは、画像内に標識を配置する物理的ベースを形成する。標識モデルベースの機能43は、道路上の標識の物理的寸法から、画像中の等価なピクセル数への変換を実行する。画像標識フィーチャ7L、7Rの各ピクセルは、ピクセル位置(画像3中の画像行座標rおよび画像列座標Wによって確定される)から、ビデオカメラの前方の地面上の距離と、ビデオカメラに対する横方向のオフセット距離とによって定められる道路上の位置に変換される。
【0027】
適合線に対する容認テストの機能44aおよび44bは、標準的なχ2適合テストに基づいて、標識または境界の点候補のセットに適合させた線が、どの程度に良好に、そのような点候補を反映しているかを決定する。
【0028】
道路境界および車線区分線は、日中であるか夜間であるかに依存して、異なる外観を有する。イメージャの利得および露光時間の設定を通じて、日中状態であるか夜間状態であるかを決定することができる(日中であるか夜間であるかの決定は、外部的になされる)。そのような状態に基づいて、昼夜差の機能45aおよび45bは、標識/境界位置プロセスに対して異なるパラメータを供給する。それによって、より良好な検出が可能になる。例えば夜間においては、日中よりも周辺光の量が少なく、背景輝度が低下するから、道路背景と車線区分線との間の輝度勾配は、一般に、日中よりも夜間において大きい。例えば日中におけるピクセル間の最小コントラストとして、15グレーレベルを用いることができ、一方、夜間におけるピクセル間の最小コントラストとして、18グレーレベルを用いることができる。このグレーレベル差は、夜間の画像の方が、日中の画像よりも高いコントラストを有するという事実から生じる。
【0029】
空フレームおよび空区間のカウントの機能46aおよび46bは、容認可能な車線区分線または境界を形成した最後の画像フレームの時点から測定して、どのくらい多くの画像フレームが、識別可能または容認可能な車線区分線または境界を形成しなかったかを追跡し、容認可能な測定がなされなかった画像フレームの数(すなわち、空フレームの数)を表わす空区間値を生成する。機能46aおよび46bは、さらに、境界または標識が見出されなくなってから、どれだけの道路距離が過ぎたかを追跡し、そのような距離を表わす空区間値を生成する。空フレーム数が多ければ(例えば標識を見出すことなく走行した距離が約30メートルであれば、通常の運転速度で約10画像フレームに相当する)、または空区間が長すぎれば(例えば標識を見出すことなく走行した距離が約30メートルであれば、ダッシュ−ギャップタイプ標識で約2サイクル、すなわち、2つのダッシュおよびダッシュ間ギャップに相当する)、標識または境界が次にどこに現れるかが、極めて不確実になる。そのような不確実さが発生すると、画像前処理モジュール21は、より大きな関心領域を用いて探索モードに入る、すなわち戻る。より大きな関心領域を用いることによって、標識または境界がどこにあるかを予想することなく、システムは、追跡のための新しい画像標識フィーチャを取得することができる。
【0030】
システムは、探索と追跡と呼ばれる2つのモードを有する。探索モードにおいては、システムは、まだ、標識が画像(関心領域:ROI)中で近似的に存在するであろう場所を決めておらず、したがって、大きな画像エリア内で標識を捜す。追跡モードにおいては、システムは、直前に(空区間内において)標識を見出しており、したがって、画像中の、直前とほぼ同じエリア(ROI)内に、再度、標識があると予測し、そのROI内で標識を追跡する。追跡は、1つのまとまりをなす、位置測定のシーケンスである。1つのシーケンスが終了して、他のシーケンスが開始するとき、および、システムが初期化するとき、新しい追跡が開始する。
【0031】
ダッシュ−ギャップタイプ標識の特性解析の機能47は、ダッシュの開始位置および終了位置、およびダッシュ間の縦方向間隔を算定する(例えばビデオカメラの5メートル前方で始まったダッシュの長さが2メートルであり、その後、次のダッシュが始まるまで8メートルのギャップが続いていると算定する)。ダッシュが存在すると予想される場所を学習することによって、ダッシュ間に検出される標識片は、ノイズとして排除することができ、そのために、追跡精度が向上する。
【0032】
次に、検出された車線区分線または道路境界は、車線逸脱検出システム9に出力される。車両が、車線区分線または道路境界にあまりにも接近したとき、または、車線区分線または道路境界からはずれる恐れがあるという切迫した状況にあるとき、車線逸脱検出システム9は、運転者に対して警告を発する、またはなんらかの手助けを与える。当業者であれば認識されるように、プロセッサによる実行のためのプログラム命令、論理回路、特定用途向け集積回路、ファームウエア、ソフトウェアモジュールなどのような種々の形態で、図1および図2Aに示されているシステム、モジュール、部品、および機能を具現化することができる。
【0033】
後でさらに述べるように、図2B〜2Dは、速度の知られている車両から撮られた画像中に、車線区分線および/または道路境界(標識/境界)を見出す際に、車線境界検出システム6によって実行されるプロセス例100−1〜100−3のステップのフローチャートである。
【0034】
車線区分線/境界検出プロセスのよりよい理解のために、図3Aは、画像面中のピクセルと、ビデオカメラ1を介して、画像にピクセルpとして投影されている、道路面上の対応する点Pとの間の関係の一例を示している。道路4の画像3が、道路4の面40に重ね合わされている。画像3中の第1の画像行−画像列位置にある第1のピクセルp1は、道路面上の第1の点P1に対応している。同様に、画像3中の第2の画像行−画像列位置にある第2のピクセルp2は、道路面上の第2の点P2に対応している。画像位置(r、W)にあるピクセルp1から、道路面位置(x、y)にある点P1に変換するプロセスは、画像行座標rに基づいて縦方向距離xを見出し、画像列座標Wに基づいて横方向距離yを見出すステップを含んでいる。同様の変換が、点P2、ピクセルp2に対しても適用される。
【0035】
したがって、標識8Lおよび8R上の点P1およびP2が与えられると、ビデオカメラ1からそれらの各点までの距離(すなわち、ビデオカメラの前方の縦方向距離d=x、および道路中央線からの横方向のオフセット距離LO=y)を、画像3中の画像標識フィーチャ7Lおよび7R上の対応するピクセルp1およびp2の画像行および画像列の位置(すなわち画像行座標rおよび画像列座標W)から決定することができる。図3Bは、ビデオ画像上の台形形状の関心領域(ROI)を示している。ROI内で、グレーレベル勾配および平均絶対偏差が、画像のピクセルから抽出される。グレーレベル勾配値と平均絶対偏差値とは、どちらも、ピクセル群の特性であり、前者は、ピクセル間のコントラストを表わしており、後者は、中心値からの変動を表わしている。各台形形状の関心領域(例えばROI−L、ROI−R)は、ほぼ、画像標識フィーチャ(例えば7L、7R)があると予測される、画像3内の位置に配置される。
【0036】
道路の画像3および車両速度が、検出システムに入力される。また、カメラ較正パラメータ(焦点距離、据え付け高さなど)が既知である。ここで、さらに、検出プロセス100(すなわち、図2B〜2Dにそれぞれ示されているプロセス100−1〜100−3)に言及すると、ステップ101〜106は、画像前処理に関するものである。ステップ107〜115bは、標準的な車線区分線検出に関するものである。ステップ116〜123dは、道路境界検出に関するものである。ステップ124a〜127は、後処理に関するものである。プロセスのこれらの各ステップを、次に説明する。
【0037】
ステップ101:標識/境界を検出すべき、ビデオカメラからの路上距離(例えば前方6〜20メートル)を選択する。これらの路上距離は、上方の画像行(遠方距離に対する)から下方の画像行(近接距離に対する)までに対応する。それらの間で、道路境界/標識の検出が実行される。横方向距離の例は、図3Bに示されているようなものである。路上距離および横方向距離を選択することによって、画像3内に、2つの関心領域ROI−LおよびROI−R、すなわち窓が定められる。それら2つの関心領域内で、道路4上の実際の標識/境界8L、8Rを表わす画像標識フィーチャ7L、7Rを検出するための探索が遂行される。
【0038】
ステップ102:窓(関心領域ROI−LおよびROI−R)の上端画像行と下端画像行との間の全ての画像行に対して、路上距離を決定する。
【0039】
ステップ103:検出すべき最小標識幅と、各画像行に対応する、ビデオカメラの前方の縦方向距離dとを取り込み、その最小標識幅内に含まれる、各画像行のピクセル数(最も近い整数に丸める)を決定する。このピクセル数は、次のステップ104において、平均化用のローパスフィルタ長として用いられる。
【0040】
ステップ104:各画像行に対して、最小標識幅のピクセルを平均化するために、ローパスフィルタを適用する。ローパスフィルタ処理によって、各ピクセルにおける局所的な平均化がなされる。任意選択的に、同時に、各ピクセルに対して、平均絶対偏差(MAD)が計算される。MAD計算は、ローパスフィルタ処理と同じ長さにわたって行なわれ、ローパスフィルタ処理と組み合わせることができる。ローパスフィルタ長は、画像行ごとに異なり、ステップ103において計算されている。
【0041】
ステップ105:ステップ104からの、ローパスフィルタ処理されたデータに、中心差分を用いた微分フィルタを適用する。これによって、各ピクセル位置において、平滑化された勾配値が得られる。任意選択的に、MADデータに、同じ中心差分操作を適用して、各ピクセル位置において、MAD値の勾配を得ることができる。
【0042】
ステップ106:最初の画像フレームに対する想定値から出発して、平均背景勾配を計算する。背景によるものではない勾配(一定の最低値から出発する)を見出すために、ある係数が乗じられた、この平均背景勾配が、次の画像フレームに適用される。
【0043】
ステップ107:勾配閾値として、縮尺された平均背景勾配の大きさを用いて、各画像行において、ピクセルの輝度勾配を決定し、ピクセル輝度勾配曲線中に、勾配ピークおよび勾配バレー〔勾配の大きさが、勾配閾値(強度閾値)より大きい〕を検出する。この勾配ピークおよび勾配バレーの位置が記憶される。
【0044】
ステップ108:各画像行の画像標識フィーチャの最大幅値(Marking Width Max)および最小幅値(Marking Width Min)が決定される。これらの値は、それぞれ標識の左エッジleおよび右エッジre(図7)として容認される勾配ピークと勾配バレーとの対(「勾配ピーク−勾配バレー対」)の間のピクセル領域に対する上限および下限を与える。左エッジle(車線区分線/境界の横方向の開始点)は、右方向に移動するときの、標識上の暗から明への遷移(図5B)、すなわち、勾配ピークとして現れる、小さなピクセル輝度値から大きなピクセル輝度値への遷移を表わしている。同様に、右エッジre(車線区分線/境界の横方向の終了点)は、明から暗への遷移、すなわち、勾配バレーとして現れる大きなピクセル輝度値から、小さなピクセル輝度値への遷移を表わしている。
【0045】
ステップ109:各画像行に、最小標識幅限界および最大標識幅限界を適用することによって、標識になり得る勾配ピーク−勾配バレー対を見出す。画像標識フィーチャの少なくとも一部分を示す、容認可能な幅が見出された場合には、その勾配ピーク−勾配バレー対を保存する。一例として、関心領域の各画像行において、画像標識フィーチャ候補を探索すると、いくつかの画像行においては、画像標識フィーチャ候補が含まれるが、その他の画像行においては、そのような画像標識フィーチャ候補が含まれない場合がある。画像標識フィーチャ候補は、各画像行において、その左エッジと右エッジの位置によって画定される。
【0046】
ステップ110:内側標識エッジ(ビデオカメラの左側の標識においては、内側標識エッジは、勾配ピーク−勾配バレー対の勾配バレーであり、ビデオカメラの右側の標識においては、内側標識エッジは、勾配ピーク−勾配バレー対の勾配ピークである)に、曲線(例えば、ほぼ直線)を適合させることによって、各画像行のエッジの位置が、その曲線に沿って、概ね並ぶか否かを決定する。
【0047】
ステップ111:最小二乗適合法を用いて、各関心領域の画像標識フィーチャ候補の内側エッジをつなぐ。なんらかの妥当な基準(例えばχ2および傾き一致)に基づいて、適合度を決定する。特に、χ2適合測定(以下に説明するように、適合曲線のχ2がχ2の閾値と比較される)によって、適合度(適合の妥当性)を決定する。適合度が容認可能である場合には、適合曲線の傾きが、容認されている直近の傾きに一致するか否かをチェックする(容認されている直近の傾きがまだ存在しない開始時を除いて)ことによって、適合の妥当性を、さらに決定する。傾きが容認可能である場合には、画像標識フィーチャが、エッジを定めるピクセルで検出され(この傾きは、次の画像フレームの傾きとの比較のために記憶される)、プロセスはステップ124aに進む。そうでない場合には、ステップ112に進む。一例において、容認可能であるか否かを判定する傾き比較は、次のとおりである。容認されている直近の傾きESと、現在の適合曲線の現在の傾きCSとの比較において、これらの傾きが同一の標識から得られたものである場合には、傾きESとCSとの差の絶対値は、小さくなければならない。すなわち、(|ES−CS|<diffthreshold)でなければならない。この場合、差閾値diffthresholdは、0.05より大きく、0.1〜0.2の値を有してもよい。
【0048】
ステップ112:適合曲線のχ2が大きすぎる(χ2の閾値と比較して)場合、または傾きが、容認されている直近の傾きと十分に近似性高く一致しない場合には、画像標識フィーチャ点候補(前述の勾配ピーク−勾配バレー対によって画定される)のサブセットを選択し、このサブセットが、より優れたχ2および/または傾きの一致を与えるか否かを決定するために、このサブセットに、ステップ111の場合と同じ線適合法および適合度(適合の妥当性)基準を適用する。このサブセットは、左側勾配と右側勾配の大きさの両方ともが、全画像標識フィーチャ点候補の平均の勾配の大きさよりも大きい勾配ピーク−勾配バレー対から成っている。言い換えると、左側と右側との両方において、平均を超える大きなコントラスト(勾配の絶対値)を有する画像標識フィーチャ(標識ピクセル)候補だけが選択される。
【0049】
ステップ113a、113b:大きなコントラストを有する(選択された)サブセットに、1つの曲線を適合させる。χ2が大きすぎるか、または傾きが、容認されている直近の傾きと近似性高く一致しない場合には、そのサブセットは廃棄されて、プロセスはステップ114に進む。そうでない場合には、サブセットに対する適合曲線が容認可能であれば、プロセスはステップ124aに進む。
【0050】
ステップ114:画像標識フィーチャ点の全候補から、最大輝度の画像標識フィーチャ点候補だけが選択されたサブセットを取り出す。画像標識フィーチャの輝度は、画像標識フィーチャの左エッジと右エッジとの間にあるピクセルの平均グレーレベルである。全画像標識フィーチャ点候補の平均輝度が計算され、次に、この平均輝度を閾値として用いて、この閾値より大きな輝度値を有する、画像標識フィーチャ点候補だけが保存される。
【0051】
ステップ115a、115b:選択された、平均よりも輝度の高い画像標識フィーチャ点候補に、曲線または直線を適合させ、この曲線または直線のχ2および傾きをチェックする(上述のように)。χ2と傾きとの両方が容認可能である場合には、選択された、最大輝度の画像標識フィーチャ点候補は容認可能であり、プロセスはステップ124aに進む。そうではなくて、χ2が大きすぎる場合、または傾きが容認されている直近の傾きと一致しない場合には、適切な適合曲線は見出されず、選択された画像標識フィーチャ点候補は、車線区分線に由来するものではない。プロセスを、車線区分線検出から道路境界検出に切り換え、勾配(コントラスト)の点検によって確定される可能性がある道路エッジを検出するためにステップ116に進む。
【0052】
ステップ116:道路エッジを検出するために、各画像行において前に計算したピクセル勾配データを用い、大きさの閾値を超過している大きさを有する正の勾配の数と負の勾配の数とを数えて、より多いのはどちらであるかを決定する。より多い(過半数)方の勾配を分析し、上述と同様に、それらの勾配の位置が適合曲線に沿ってほぼ並ぶか否かのチェックを、以下のステップ117a〜120cとして実行する。
【0053】
ステップ117a、117b:過半数の方の勾配の位置を取り上げて、1つの曲線を適合させたときに、それらの勾配の位置が適合曲線に沿って並ぶか否かを決定する。χ2は十分に小さいか否か、および適合曲線の傾きは、容認されている直近の傾きに一致しているか否かがチェックされる。「YES」の場合には、道路境界が適切に検出されており、プロセスはステップ124aに進む。そうでない場合には、道路境界は,上記の位置を用いて検出されず、プロセスはステップ118aに進む。
【0054】
ステップ118a〜118c:過半数の方の勾配の平均の大きさを超過する大きさを有する、この過半数の方の勾配から抽出された勾配だけで構成される、勾配のサブセットを選択する。選択された勾配のサブセットの位置に適合させた曲線が、十分に小さいχ2、および容認されている直近の傾きとほぼ同じ傾きを有しているか否かを決定する。「YES」の場合には、その適合曲線は、道路境界を検出している曲線として容認可能であり、プロセスはステップ124aに進む。そうでない場合には、χ2が大きすぎるか、または傾きが、容認されている直近の傾きと違いすぎるのであるから、この勾配のサブセットは、道路境界を示すものではなく、プロセスはステップ119aに進む。
【0055】
ステップ119a、119b:ステップ116において数が少なかった方の勾配の位置を取り上げて、1つの曲線を適合させたときに、それらの勾配が並ぶか否かを決定する(すなわち、χ2が十分に小さいか否か、またこの適合曲線の傾きが、容認されている直近の傾きに一致しているか否かを決定する)。「YES」の場合には、これらの勾配の位置は、道路境界を指示しており、プロセスはステップ124aに進む。そうでない場合には、このさらなるサブセットは、道路境界を表わしておらず、プロセスはステップ120aに進む。
【0056】
ステップ120a〜120c:ステップ119a、119bで取り上げた、数の少ない方の勾配の平均の大きさを超過する大きさを有する、この少ない方の勾配から抽出された勾配だけを選択し、選択された勾配の位置に適合させた曲線が小さいχ2を有しているか否か、および、容認されている直近の傾きにほぼ等しい傾きを有しているか否かを決定する。「YES」の場合には、この適合曲線は容認可能であり(道路境界を指示しており)、プロセスはステップ124aに進む。そうでない場合には、道路境界は、勾配のみの分析によっては検出されず、画像の平均絶対偏差(MAD)を用いた、さらなる分析(ステップ121aから始まる)がなされる。
【0057】
ステップ121a〜121c:大きさの閾値(例えば8ビットのイメージャでは1〜255であり、好ましくは5〜20である)を超過する大きさを有するMAD勾配の位置を見出す。1本の曲線を適合させ、適合曲線のχ2と傾きに基づいて、それらのMAD勾配の位置が並んでいるか否かを決定する。χ2が十分に小さく、かつ適合曲線の傾きが、容認されている直近の傾きに一致すれば、この適合曲線は容認可能であり(道路境界を指示しており)、プロセスはステップ124aに進む。そうでない場合には、これらのMAD勾配の位置は、道路境界を表わしておらず、プロセスはステップ122aに進む。
【0058】
ステップ122a〜122c:MAD勾配の平均の大きさを超過する大きさを有するMAD勾配の位置を選択し、それらの位置に適合させた曲線のχ2および傾きをチェックすることによって、それらの位置が並んでいるか否かを決定する。「YES」の場合には、その適合曲線は容認可能であり(これらのMAD勾配の位置は道路境界を表わしており)、プロセスはステップ124aに進む。そうでない場合には、これらのMAD勾配の位置は、道路境界を表わしておらず、したがって、これらの位置を含んでいる画像フレームは空フレーム(標識も境界も見出されなかった)であり、プロセスはステップ123aに進む。
【0059】
ステップ123a〜123d:現在の画像フレームは空フレームであるから、最後の、空フレームでない画像フレームの時点からの走行距離(空区間)は増大しており、空フレームのカウントもインクリメントしている。空区間が長すぎる(例えば約30メートル)ということ、または空フレームが多すぎる(例えば通常の走行速度で約10画像フレーム)ということは、システムが、長い期間、車線区分線または境界を見出していないということを意味する。その結果、システムは、探索モードに戻る〔追跡モードと探索モードとのどちらにおいても、システムは、上述のステップを用いて標識をチェックするが、それらの間の違いは、追跡モードにおいては、システムは、探索モードにおけるよりも画像のより小さなエリア(ROI)をチェックするということである〕。
【0060】
ステップ124a、124b:車線区分線または道路境界を表わす、容認可能な適合曲線を備えた1つ以上の画像標識フィーチャが検出されている。標識点に適合させた曲線の傾き(または、より一般的には係数)が記憶され、以前の他の係数値と平均化される。平均化された(またはフィルタ処理された)係数値が、直近の傾きのテストと同様に、近似性に関して、次の画像フレームをテストするために用いられる。空フレームがある場合には、後にさらに論じるように、傾きおよび/または係数の近似性に関する要件は緩められる。
【0061】
ステップ125:車線区分線が検出されたら、検出された画像標識フィーチャ全ての幅を取り出して、それらの幅をメートルに変換し、平均化し、ノイズを除去するために、その平均をローパスフィルタに通す。1つの画像行に2つ以上の画像標識フィーチャ候補が見出された場合には、フィルタ処理された平均車線幅が、単一の画像標識フィーチャ候補を選択するために用いられる。システムは、各画像行において、勾配ピークおよび勾配バレーを検出する。1つの画像行に、2つ以上の勾配ピーク−勾配バレー対が存在し、複数の勾配ピーク−勾配バレー対の勾配ピーク−勾配バレー間隔が、最小標識幅限界より大きく、かつ最大標識幅限界より小さい範囲にある場合があるかもしれない。その場合には、システムは、それらの複数の勾配ピーク−勾配バレー対の中で、容認されている直近の車線区分線幅に最も近い勾配ピーク−勾配バレー間隔を有する、ただ1つの勾配ピーク−勾配バレー対を選択する。現在の画像フレームにおいて、2つ以上の勾配ピーク−勾配バレー対の勾配ピーク−勾配バレー間隔が、容認されている直近の勾配ピーク−勾配バレー間隔と一致する場合には、最近接勾配ピーク−勾配バレー対が選択される。最近接とは、予想される標識位置に対して最も近いことを意味している。
【0062】
ステップ126:次の画像フレームのための関心領域を決定する。次の画像フレームにおいて、関心領域がどこになるかを決定するために、カルマンフィルタを用いることができる。カルマンフィルタの詳細については、非特許文献1を参照されたい。関心領域(窓)の横方向のサイズは、車線区分線または道路境界の位置がわかっている場合には狭くされ、車線区分線または道路境界の位置がわかっていないか、または不確実である場合には広くされる。カルマンフィルタは、この不確実さの程度を、その共分散行列で表わす。関心領域ROI−LおよびROI−R(図3B)は、常に、最小標識幅の少なくとも4倍の幅を有する。関心領域は、次の画像フレームにおいて標識があるであろうと予測(予想)される領域に配置される。探索モードにおいて、標識がまだ見出されていない場合には、標識を探し出すことができるように、関心領域は、デフォルト位置に最大幅で配置される。
【0063】
ステップ127:任意選択的に、ダッシュ−ギャップタイプ標識のダッシュの開始位置および終了位置を学習して、ダッシュ間のギャップ内の、標識片もどきのものを排除する(それが存在した場合に)補足ステップを含んでいてもよい。これはダッシュ−ギャップタイプ標識の特性解析と呼ばれ、1つの画像フレームにおいて学習されたダッシュ/ギャップパターンが、次の画像フレームに適用される。このステップは、ステップ109とステップ110との間で行ってもよい。
【0064】
上記の諸ステップにおいて、画像フレーム間で、係数が十分によく一致するということは、連続する画像フレーム間において、大きな変化は生じていないということを意味する。特に、例えば直線適合が、画像フレームu、およびv画像フレーム後の画像フレーム(u+v)において行なわれると、画像中の標識は、次のように記述することができる。
r = m(u)*W + b(u)
r = m(u+v)*W + b(u+v)
ここで、rは標識中の点(ピクセル)の画像行座標、Wは標識(または境界)中の点の画像列座標、mは標識の傾き、bは切片である。(u)は、画像フレームuにおける量であることを表わしており、(u+v)は、画像フレーム(u+v)における量であることを表わしている。
【0065】
標識の傾きmおよび切片bは、時間の経過とともに変わりうる。係数一致は、次の条件が満足されたときに生じると定義する。
|m(u)−m(u+v)| < (定数1) + (v−1)*(定数2)
【0066】
この不等式の右辺は、vの増加につれて増加する。したがって、時間的に隔たった(v画像フレーム隔たった)2つの画像フレーム間の傾きの差(|m(u)−m(u+v)|)は、時間間隔の増加につれて増加することができる。(定数1)および(定数2)は、ともに正の量である。(定数1)(例えば0〜1の範囲にあり、好ましくは0.1〜0.3の範囲にある)は、連続する2つの画像フレームの間で容認可能な最大傾き差であり、(定数2)(例えば0〜1の範囲にあり、好ましくは0.01〜0.1の範囲にある)は、vの増加につれて増加する、傾き差の不確実さの程度を反映するような大きさに設定される。
【0067】
用いている線適合の妥当性をチェックするために、上述の係数一致テストおよびχ2テストが、検出プロセス100(図2B〜2D)において用いられる(すなわちステップ111、113b、115b、117b、118c、119b、120c、121c、122c)。次に、検出プロセス100のステップを実行する一例について、詳細に説明する。
【0068】
画像前処理(ステップ101〜106)
ステップ101および102の実行
図3Bに示すように、ピクセルのグレーレベル勾配および平均絶対偏差の決定が遂行される台形形状の関心領域(ROI)すなわち窓が、画像3内に識別される。画像3の台形形状の各ROIは、道路4上の平行四辺形形状に対応している(例えば関心領域ROI−LおよびROI−Rは、それぞれ図3Cに示されている道路4上の、横方向に3〜4メートル離して配置されている平行四辺形160Lおよび160Rに対応している)。各平行四辺形は、約0.7〜2.3メートルの幅、約14メートルの長さ、ビデオカメラ1から約6メートルの距離にある下側エッジ、およびビデオカメラ1から約20メートルの距離にある上側エッジを有している。幅Wtおよび高さHtで与えられる、画像3中の各ROIのサイズは、その内部の画像標識フィーチャ7L、7Rの予想される位置における誤差を受け入れるほどに十分に大きい。画像標識フィーチャ7L、7Rの大まかな位置がわかっていない場合には、関心領域(すなわち窓)の幅が、最大のサイズにされる。
【0069】
一例において、各ROIは、道路上の平行四辺形形状の領域に対応している。この平行四辺形形状の領域は、標識8Lまたは8Rの最小標識幅の少なくとも4倍の広さ(最大で2.3メートルの広さ)を有している。幅上限は、計算容量によって制限される。各ROIは、ビデオカメラの左側(または右側)約0.7メートルから始まって、外側に約3メートル広がる、道路4上の距離にわたっており、道路幅および車両幅の大部分をカバーする。関心領域ROI−LおよびROI−Rの幅は、標識の探索モードにおいて最大になり、標識の追跡モードでは、より小さくなる。標識の追跡モードにおける幅は、画像における標識の横方向の位置を予測する際の不確実さの程度に依存する。関心領域は、初期状態において、画像における、道路の消失点VPに関して対称に配置される。追跡モードにおいては、現在の画像フレームのROI内に、標識または境界が検出されている。したがって、次の画像フレームのROIは、現在の画像フレームの標識または境界の位置に基づいて、次の画像フレームにおいて、標識または境界が存在すると予想される領域に配置される。
【0070】
ステップ103および104の実行
図3Dに示すように、ROI内のピクセルpの各画像行(画像行座標r)が走査され、ピクセルのグレーレベル(GL)が、各画像行座標rの各画像列座標Wに対して計算される。次に、各画像行において、隣接ピクセル間のグレーレベル勾配(GLG)が抽出される。勾配ピーク(GP)と勾配バレー(GV)との間のピクセルの幅d1が、最大幅値(Marking_Width_Min)と最小幅値(Marking_Width_Max)との間にある場合には、勾配ピーク−勾配バレー対(GP−GV)の間のピクセル位置に、画像標識フィーチャが見出される可能性がある。車線区分線は、背景より明るいから、標識に入るときに、グレーレベルは、より明るくなり(正の勾配)、標識から出るときに、グレーレベルは、より暗くなる(負の勾配)。適切な間隔で隔たった正の勾配と負の勾配(勾配ピークと勾配バレー)が捜される。それは、画像標識フィーチャ(この場合には車線区分線フィーチャである)7L、7Rの一部分すなわち断片である可能性がある。
【0071】
上記のプロセスにおいて、ROI内の、複数のピクセルpから成る画像行セグメントrsのグレーレベルピクセルに、ローパスフィルタを適用することが好ましい。ローパスフィルタ処理によって、画像ノイズが減少する。図4を参照すると、例えば移動平均フィルタが用いられ、画像行セグメントrs中の隣接し合うピクセルpの値が足し合わされて、(局所的に)平均される。各ステップにおいて足し合わされるピクセルの数は、フィルタ長と呼ばれる。ローパスフィルタ長は、ピクセル数で表わされた、画像内に配置されている画像標識フィーチャの最小幅値(Marking Width Min)に等しい。
【0072】
ステップ105の実行
次に、勾配値(GLV)を決定するために、ローパスフィルタ処理されたピクセル値に対して、微分操作が行われる。微分をとるピクセルを飛ばして、その前後のピクセルの間の差分をとる中央差分法の方が、前方差分法や後方差分法より精度が高いから、中央差分法が用いられる。例えばフィルタ長が3ピクセルであり、7つのピクセルpから成るピクセルシーケンスに対するピクセルグレーレベル値が、x1、x2、x3、z1、y1、y2、y3である場合には、ピクセルz1における、ローパスフィルタ処理された勾配値は、(y1+y2−x2−x3)/6になる。勾配値は、フィルタ長3と、中央差分に伴う因数2とを乗算した6で正規化される。
【0073】
ステップ106の実行
ROI内のピクセルpの平均背景勾配値が算定される。標識エッジ候補を検出するために用いられた平均背景勾配値は、次の画像フレームにおける関心領域に対する勾配閾値を決定するために用いられる。各ROIにおける背景勾配値は、勾配ピークおよび勾配バレーを排除した後に残る勾配値の平均として計算される。各ROIは、標識およびその周辺の局所的なエリアしかカバーしておらず、標識は、単一の線として形成されている(一代替方策として、複数の実線を検出するために用いられる)という事実によって、ROI内に見出される、強度が最も大きな勾配を有するエッジのほとんどは、画像標識フィーチャ7L、7Rのエッジに一致しており、背景の一部ではない。
【0074】
したがって、ROIの各画像行(画像行座標r)において、近接していない2つの大きな勾配(勾配最大すなわち勾配ピーク)、および近接していない2つの小さな勾配(勾配最小すなわち勾配バレー)の位置が検出されると、それぞれのうちの一方を標識に属するものとし、他方をノイズに属するものとすることができる。ローパスフィルタ処理することによって、ピクセル強度は、多かれ少なかれ弱められ、したがって、勾配エッジは鈍らされる。すなわち、ローパスフィルタは、各勾配最大位置または勾配最小位置から左側または右側に、ローパスフィルタ長の範囲内にあるピクセル位置の勾配に作用を及ぼすことができる。そこで、勾配最大位置および勾配最小位置の各々から出発して、画像行に添って左側および右側に、勾配最大値および勾配最小値を排除して、ローパスフィルタ長まで達するか、ゼロ勾配に達するか、どちらか先に達成されるまで進む。各画像行において、残余の勾配の絶対値が合計され、また勾配の数が数え上げられて、その画像行における背景勾配の総量および総数が算出される。ROI内の全ての画像行における背景勾配の総量および総数が合計されて、そのROIにおける背景勾配の総量および総数が算出される。
【0075】
次に、ROIにおける平均背景勾配値(すなわち、勾配閾値)が、背景勾配の総量と背景勾配の総数との比として決定される。この比に、ある定数(通常、ほぼ3.0)を掛けて、勾配閾値を得てもよい。この勾配閾値は、次の画像フレームにおいて、有意な勾配量を決定するために用いられる(検出プロセスが開始する初期状態においては、最初の道路画像に有意の勾配値を検出するために、デフォルト勾配閾値を用いてもよい)。図5Aを参照して後に説明するように、任意選択に、MADおよびその勾配を、前処理中に適宜計算することができる。
【0076】
車線区分線または境界の候補点の特定(ステップ107〜109)
ステップ107の実行
ROIの各画像行を、左から右に横切って、連続する各勾配ピークと勾配バレーの位置を検出する。勾配値が勾配閾値以上であり、かつすぐ右側の位置の勾配値以上である位置が、勾配ピークの位置であると決定される。勾配値が、勾配閾値の負数以下であり、かつすぐ右側の勾配値以下である位置が、勾配バレーの位置であると決定される。
【0077】
現在の画像の各画像行を、ビデオカメラ(すなわちイメージャ)から受けたときにすぐに処理することができるようにするために、計算されていた直近の勾配閾値が、現在の画像フレームに適用される。また、現在の画像フレーム中に計算された勾配閾値が、次の画像フレームに適用され、そして以下同様に繰り返される。それに代えて、勾配閾値を、同じ画像フレームにおいて計算して用いてもよい。この代替例においては、ROI全体のピクセル値が、標識/境界検出処理ステップの前に利用可能になっている必要があり、また計算効率が低くなる。
【0078】
ステップ108、109の実行
各画像行の勾配ピークおよび勾配バレーを特定した後、次のアクションには、各画像行において左から右に進んで、左側の正の勾配(勾配ピーク)と右側の負の勾配(勾配バレー)とを一対化するステップが含まれる。標識幅の上限および下限(ピクセル数に変換したMarking_Width_MaxおよびMarking_Width_Min)を通じて、勾配対(すなわち、勾配ピーク−勾配バレー対)が、対を形成している勾配ピークと勾配バレーとの間で適切な幅d1を有しているか否かを決定することができる。適切な幅を有していれば(すなわち、勾配対が、最小でもMarking_Width_Min、最大でもMarking_Width_Maxである幅d1を有していれば)、その勾配対は、画像標識フィーチャによるものである可能性がある。道路境界位置に関しては、道路境界は、単一のエッジである(すなわち、車線区分線におけるように2つのエッジが対になっていることはない)から、勾配は、一対化されることはなく、正符号のグループと負符号のグループとに分けられている。
【0079】
十分な強度を有し(すなわち、絶対値が勾配閾値より大きい)、かつ適切な間隔を有する(すなわち、Marking_Width_Min < d1 < Marking_Width_Maxである)勾配対は全て、ROI内の画像の各画像行(画像行座標r)において特定される。1つの画像行に複数の候補勾配対が存在する場合には、最良の候補を選ぶための選択手続きが適用される(候補勾配対は、全ての勾配ピーク−勾配バレー対から形成される)。ROI中の画像標識フィーチャ7Lまたは7Rに対して予測される標識幅(前の画像フレームから検出された)と最も良く一致する幅d1を有する候補勾配対が選択される(前の画像フレームにおいて標識が特定されていない場合には、予測される標識幅はデフォルト幅である)。画像標識フィーチャ7Lまたは7Rが、1つの画像フレームから次の画像フレームに追跡されていくとき、予測される標識幅は、追跡されている標識において以前に容認された検出幅の平均をローパスフィルタ処理することによって決定される。複数の候補勾配対が、以前の幅を用いた基準に対して、同じように一致した場合には、予測される標識中心位置に最も近い中心位置を有する候補勾配対が選択される。
【0080】
このプロセスが、ROI内の全画像行にわたって繰り返され、各画像行から、多くても1つの候補勾配対が、検出された画像標識フィーチャとして特定される。次いで、最適適合回帰曲線を見出すために、特定された候補勾配対(すなわち候補点)のうちの内側エッジ点(ピクセル)の位置は、多項式最小二乗適合または多項式最小中央値適合において用いられる。内側エッジ点の位置に加えて、検出された車線区分線の画像標識フィーチャにおいては、左側および右側の内側エッジの勾配量、道路境界の画像標識フィーチャにおいては、単一のエッジの勾配値が記憶される。車線区分線の画像標識フィーチャにおいては、さらに、左右の車線区分線エッジ間の平均輝度が記憶される。後に、例えば候補点を、車線区分線または道路境界に組み立てるときに、これらの情報を用いることができる。
【0081】
曲線適合による、候補点からの車線区分線の検出(ステップ110〜115b)
ステップ110、111の実行
ROIの各画像行で検出された候補点に適合曲線を通すことによって、車線区分線または道路境界を組み立てる。曲線(すなわち回帰曲線)が、十分に小さなχ2量を有しており(したがって、曲線が十分に適合しており)、現在の曲線が、容認されている直近の適合曲線の係数と一致する係数を有している場合には、その回帰曲線は、車線区分線または道路境界を表わすものとして容認される。回帰曲線が容認されなかった場合には、候補点の異なるサブセットに、曲線適合を複数回試みる必要がある場合もある。
【0082】
ステップ112、113a、113bの実行
曲線のχ2量が大きすぎる(すなわち、χ2閾値より大きい)か、または曲線係数(傾き)が、容認されている直近の曲線係数(傾き)に近似してしない場合には、候補点のサブセットが選択され、このサブセットに、曲線適合プロセスが行われる。車線区分線検出においては、サブセットは、二通りに形成される。第1のやり方においては、考慮している勾配の大きさの平均を超過する、勾配の大きさを、どちらの候補勾配も有する候補勾配対だけが選択される。これによって、最大強度のエッジ点を有する候補勾配対(大きな勾配の勾配対から成る候補点)だけが用いられる。このやり方によって、十分に小さなχ2を有する適合曲線を得ることに成功すれば、現在の適合曲線の係数が、容認されている直近の適合曲線の係数と比較される。
【0083】
ステップ114、115a、115bの実行
大きな勾配の勾配対から成る候補点が、χ2閾値テストおよび係数一致テストで落とされた場合には、次に、最大輝度のピクセル群を、間に挟んでいる勾配対が、曲線適合のために選択される。最大輝度のピクセル群とは、全ての勾配対の間の全てのピクセルの輝度値の平均より大きな平均輝度値(グレーレベル)を備えたピクセル群として定義される。これが成功した場合には(この場合、χ2は容認可能である)、次いで、現在の回帰曲線(適合曲線)の係数が、容認されている直近の適合曲線の係数と比較される。係数一致が容認された場合には、現在選択されている候補点は、車線区分線の画像標識フィーチャを表わしている。したがって、曲線適合は3回試みられている(1回目は、全勾配対の位置に基づいてなされ、2回目は、平均勾配より大きな勾配を有する勾配対から成るサブセットに基づいてなされ、3回目は、平均ピクセル輝度より大きな平均輝度を有するピクセル群を間に挟んでいる勾配対から成るサブセットに基づいてなされている)。
【0084】
車線区分線検出のための3つの回帰曲線処理の全てが成功しなかった場合には、道路境界検出のための探索が実行される。これは、車線区分線が画像中に見出されなかった場合でも、まだ、道路境界の位置を示す単一の勾配が存在するかもしれないからである。したがって、以下に示す、道路境界の位置に対する処理に関する次段階は、車線区分線が見出されなかったときにのみ実行される。
【0085】
曲線適合による、候補点からの道路境界の検出(ステップ116〜123d)
ステップ116、117a、117bの実行
道路境界検出においては、正の勾配と負の勾配の位置が、多項式最小二乗適合または多項式中央値適合に、別々に用いられる。これは、単一の画像フレームの道路−非道路境界は、境界の視認可能な全長にわたって、同じ符号の勾配を有するということを、無理なく予想することができるからである(例えばコンクリートから草地に遷移する境界が存在する場合には、画像全体にわたって明から暗に遷移し、境界における勾配は負になるであろう)。最初の試みは、正の勾配値と負の勾配値のうちで、より多く存在する方の勾配値の位置に曲線を適合させることである(例えばほとんど負の勾配だけが存在する場合には、境界点候補の特定において、相当数の負の勾配の位置に沿って、曲線を適合させる)。同数の正の勾配値と負の勾配値が存在する場合には、最初に、負の勾配値の位置が用いられる。適合曲線(回帰曲線)のうちのいずれかが、十分に小さなχ2量を有しており(したがって、その適合曲線はデータとよく適合している)、かつ容認されている直近の適合曲線の係数にほぼ等しい係数を有している場合には、その現在の適合曲線(回帰曲線)が、道路境界を表わしているとして容認される。道路境界として検出されるためには、勾配量は、周囲状況に関係なく、単純に1つの閾値(例えば8グレーレベル)を超過していなければならない。
【0086】
ステップ118a〜118cの実行
道路境界検出のための、勾配の回帰曲線の適合測定においてχ2の大きさが大きすぎる〔閾値(例えば2.0)に対比して決定される〕か、または回帰曲線の係数が、容認されている直近の係数に近似していない場合には、考慮している全勾配の大きさの平均値を超過する大きさを有する勾配のみを選択し、それらの選択された勾配から成る、勾配のサブセットを用いる(車線区分線検出プロセスにおけると同様に)。この勾配のサブセットに、容認可能なχ2を有する1つの曲線を適合させることができた場合には、その適合曲線の係数が、容認されている直近の適合曲線の係数とほぼ同じであるか否か、比較される。
【0087】
ステップ119a〜123dの実行
この現在の適合曲線が、上記と同様の、係数に関するテストで落ちた場合には、プロセスは、最初に、数の少なかった方の符号の勾配の位置全部を取り上げ、次に、必要に応じて、勾配の平均の大きさを超過する大きさを有する勾配から成るサブセットを取り上げるように進む。
【0088】
最初に、少数であった方の符号の勾配の全位置を、1つの曲線に適合させたとき、それらの位置は並ぶか否かが決定される(すなわち、χ2が十分に小さいか否か、またこの適合曲線の傾きが、容認されている直近の傾きとほぼ一致するか否かが決定される)。「YES」であった場合には、少数であった方の符号の勾配の位置が、道路境界に対応している。
【0089】
χ2が大きすぎるか、または適合曲線の傾きが、容認されている直近の傾きに近似してしない場合には、少数であった方の符号の勾配の位置のサブセットが選択され、このサブセットの勾配の位置を1つの曲線に適合させたときに、ほぼ並ぶか否かが決定される(すなわち、χ2が十分に小さいか否か、またこの適合曲線の傾きが、容認されている直近の傾きとほぼ一致するか否かが決定される)。「YES」であった場合には、このサブセットは、道路境界を示している。このサブセットは、少数であった方の符号の全勾配の平均の大きさを超過する大きさを有する、少数であった方の符号の勾配の位置の集合である。
【0090】
このサブセットの勾配の位置さえ、十分よく並ばなかった場合、または適合曲線の傾きが、容認されている直近の傾きと一致しなかった場合には、次に、プロセスは、画像中に測定される平均絶対偏差(MAD)を用いたさらなる分析に進む。大きさの閾値を超過する大きさを有するMAD勾配の位置を見出すことで、この分析を開始してもよい。これらの位置に、1つの曲線を適合させたときに、χ2および適合曲線の傾きに基づいて、これらの位置が、並ぶか否かが判定される。χ2が十分に小さく、かつこの適合曲線の傾きが、容認されている直近の傾きと一致すれば、この適合曲線は容認可能である(道路境界を示している)。
【0091】
これらの位置が十分よく並ばなかった場合、または適合曲線の傾きが、容認されている直近の傾きと一致しなかった場合には、次に、MAD勾配の平均の大きさを超過する大きさを有するMAD勾配の位置を選択し、それらの位置に対する適合曲線のχ2および傾きをチェックすることによって、それらの位置が、並ぶか否かを判定する。「YES」の場合には、その適合曲線は容認可能である(これらの位置は、道路境界を表わしている)。
【0092】
そうでなかった場合には、現在の画像フレームは「空」フレームであり、標識も境界も見出されていない。したがって、最後の、空フレームでない画像フレームの時点からの走行距離(空区間)が増加しており、空フレームのカウントもインクリメントしている。空区間が長すぎるということ、または空フレームが多すぎるということは、システムが、非常に長い期間、車線区分線や境界を見出していないということを意味している。したがって、システムは、最大幅の関心領域を用いて、その探索モードに戻る。システムは、探索モードにいることもできるし、追跡モードにいることもできることに注意されたい。
【0093】
MAD処理
道路と、道路を越えている部分とが、近似的に等しい平均グレーレベルまたは色を有していることはあり得ることである。これは、平均グレーレベルまたは明度を比較することによって、道路と、道路を越えている部分との間の遷移領域を識別することはほとんどできないということを意味している。したがって、この低い識別可能性のために、曲線適合(多項式適合)に利用可能な十分な数の点を得ることができなくなるか、または境界に関係ない余分で無秩序な点によって、良質な曲線適合を行うことができなくなる。このような場合には、ステップ104において、隣接し合うピクセルのグループの平均絶対偏差(MAD値)が比較され、それによって、単純なテクスチャ比較が行なわれる。図5Aの例に示されているように、局所平均を利用可能な場合には、MADを計算するために、最初に、平均値を差し引く必要がある(例えば移動平均ローパスフィルタ処理後の前処理中に行われる)。MADを得るために、和(|P|+|Q|+|R|)が、フィルタ長(この例では、3である)で割られる。各画像行において、MADを計算するために用いるピクセル数は、フィルタ長に等しい。したがって、ローパスフィルタ処理と、MAD計算とを容易に結びつけることができる。さらに、ステップ105において、各ピクセル位置で、MAD値が生成される。道路エッジを越えたエリアは、道路と異なるテクスチャを有するであろうから、画像の道路エリアと非道路エリアとは、相異なるMAD値を有するであろう。MAD値は、車線区分線を見出すために用いられた中央差分などの数値微分係数と比較され、相異なる2つのテクスチャの境界に対応する、差の閾値を超過する差を有する位置が記憶される。各画像行においてMAD値を計算した後の前処理中に、数値微分を行なうことができる。上述と同じ中央差分操作を、車線区分線検出の場合と同様に、MAD値の計算においても用いることができ、それと適宜に組み合わせることができる。図5Bは、車線境界標識を含んでいる車道の画像を示しており、図5Cは、図5Bの画像をMADフィルタに通した後の、MAD画像における勾配を示している。MADフィルタ処理することによって、道路エリアおよび車線区分線エリアは、一般に、相対的に低いMAD値(暗色)を有するようになり、車線区分線のエッジは、一般に、相対的に高いMAD値(明色)を有するようになる。
【0094】
さらに、ステップ121aにおける比較は、単純な閾値を用いて行われる。その閾値を超過する大きさを有するMAD勾配の全ての位置が記憶される。このような位置は、例えばアスファルトと草地との間の境界に存在し得るテクスチャの局所的変化に対応する。このテクスチャは、画像において認識可能でなければならず、かつビデオカメラによって解像されなければならないから、この方法は、一般に、ビデオカメラ近傍で最もよく働く。さらに、ステップ121cにおいて、閾値を超過する大きさを有するMAD勾配の位置に適合させた最小二乗曲線が、容認可能な結果を与えた場合には、その最小二乗曲線の係数が、容認されている直近の最小二乗曲線の係数と比較される。妥当性の判定の主要件(適合曲線のχ2および係数で判定される)が満たされない場合には、ステップ122aにおいて、MAD勾配の平均の大きさを超過する大きさを有するMAD勾配の位置だけが、上述の3段階式と同様に、候補点に対する2番目のデータ適合の試みのために用いられる。適合曲線の適合度および容認されている直近の適合曲線の傾きとの一致度が、上述と同様にテストされる。
【0095】
このように、データに対する最大9つまでの複数の試みを組み合わせることによって、また複数のタイプのデータを用いることによって、路面標識または境界を見出す尤度が増す。したがって、この方法は、従来の方法より優れている。
【0096】
移動平均フィルタ長
移動平均フィルタ長は、最小画像標識フィーチャサイズから始めて、標識モデルベースの機能43(図2A)によって決定される。標識に対する1つのモデルを適用し、このモデルに一致する、道路画像の部分(ROI窓内の)を見出すことによって、標識は見出される。このモデルは、標識の既知の最小寸法および最大寸法、周期性(ダッシュ−ギャップタイプ標識における)、および背景に対するコントラストを利用する。標識は、直線に近いと仮定する。そうすると、標識候補点(ピクセル)に適合させた直線は、実際の標識形状とよく一致する。ただし、これは必要不可欠なことではない。最初のステップは、標識8L、8Rの道路上の寸法を、画像面内の対応する画像標識フィーチャ7L、7Rの寸法に変換することである。
【0097】
現実の標識8L、8Rのサイズおよび周期性は、ビデオカメラの焦点距離FL、および道路4に対するビデオカメラの高さhに基づいて、画像面201内の対応する画像標識フィーチャ7L、7Rのサイズおよび周期性に変換される(図6A)。具体的には、ビデオカメラ1の傾斜角α、ビデオカメラ1の高さh、道路4上の点203(P)までの、ビデオカメラの前方の縦方向距離(x=d)、垂直方向ピクセルサイズVp、焦点距離FL、および画像面内の画像行座標r(光軸205に相対的に測った)の間の関係は、数1によって記述される。
【数1】
【0098】
さらに、画像行座標rおよび画像列座標Wのピクセルp〔水平方向ピクセルサイズHpおよび垂直方向ピクセルサイズVp(図6B)〕は、次のように、前方道路上の横方向距離y(図3A)の点を映し出す。
W = y*(FL2+r2*Vp2)1/2/Hp*(h2+d2)-1/2 (2)
この式を書き換えると、次のようになる。
y = W*Hp*(h2+d2)1/2/(FL2+r2*Vp2)1/2 (3)
【0099】
画像行座標rおよび横方向距離yは、ビデオカメラ1の光軸、またはビデオカメラ1の光軸を前方道路上に垂直に投影した直線に相対的に測定される。
【0100】
横方向距離yを最小標識幅にとると、標識点までの距離が知れれば、ビデオカメラの前方の縦方向距離dが決定され、次に、最小標識幅に対応する画像標識フィーチャ内に存在するピクセル数を表わす画像列座標Wが決定される。ピクセル数は、ビデオカメラの前方の縦方向距離dに応じて、したがって、画像面上で、それに対応する画像行座標rに応じて変化する。垂直方向のピクセルサイズと水平方向のピクセルサイズとは、互いに異なっていてもよい。
【0101】
最小標識幅に対応する画像標識フィーチャ内に存在するピクセル数が決定されると、ピクセル数を単位とした適切な大きさでフィルタ処理することによって、より小さな(ピクセル数の少ない)画像標識フィーチャは、考察から取り除くことができる。標識の幅に対応するピクセル数は、ビデオカメラから標識までの距離〔投影距離(PD)〕に応じて変化することに注意されたい。例えば図7の例に示されているように、同じサイズの標識8Lまたは8Rが、ビデオカメラから遠いところでは、画像上で相対的に少ないピクセルしか占めず、ビデオカメラから近いところでは、相対的に多いピクセルを占める。言い換えると、一定の最小標識幅に対して、画像の頂近傍の画像行においては、画像の底近傍の画像行などにおけるよりも短い移動平均フィルタ長が用いられる。したがって、最小標識幅から計算される移動平均フィルタ長は、画像中の画像行の位置に応じて変化する。標識幅が同じであっても、上方の画像行(道路上では遠方)においては、下方の画像行(道路上では近傍)におけるよりも短い移動平均フィルタ長が用いられる。
【0102】
係数一致
上述したように、候補点(ピクセル)への適合直線に対する容認(妥当性)テストは、適合直線の傾きの長期にわたる連続性(複数の画像フレームにわたる、曲線の係数の近似性)が確立されて、はじめて合格になる。これは、車線区分線または道路境界は、画像において、画像フレームから画像フレームへと急激に方向(傾き)を変更しないからである。
【0103】
現在の画像フレームの候補ピクセルに対する適合直線の傾きを、容認されている直近の適合直線の傾きに基づく期待値と比較する。現在の画像フレームkにおける傾きをm(k)で表わし、1回以上継続して容認されている適合直線の傾きをfm(k)で表わすと、現在の適合直線の傾きは、次の条件が満たされたときに容認可能になる。
|m(k)−fm(k)| < slope_error (4)
【0104】
ここで、slope_errorは、どれぐらい多くの画像フレームの前に、容認可能な適合直線の傾きが検出されていたかに基づいて選択される。それが前であればあるほど、その傾きが現在も検出されることは、より不確実になり、より大きなslope_errorが用いられる。図8は、許容可能な傾き誤差、および、その時間経過に伴う増加の一例を示している。時刻tG〔その時刻まで、容認可能な適合直線の傾きが存在していた(容認可能とは、値がそれ以前の値に近似しているということを意味している)〕と時刻tFとの間で、許容可能な傾き誤差は、最小値Minから最大値Maxまで、線形に増加する。図8は、さらに、時刻tGおよびtFにおいて、予想される画像標識フィーチャ152に関して許容可能な傾きの範囲、および1つの候補適合直線/曲線150の傾き(一様な係数)が、許容可能な傾きの範囲外にある例を示している。要求される範囲内にある傾きを有する容認可能な適合直線が見出された場合には、新しく容認された測定値がローパスフィルタに通され、以前の測定値と混合されて、フィルタ処理された現在の傾きfm(k)が更新される。このローパスフィルタは、IIR(Infinite Impulse Response:無限インパルス応答)タイプであり、更新された傾きfm(k)は、次のように与えられる。
fm(k) = a*fm(k−1) + (1.0−a)*m(k)
【0105】
データのサブセットにおいてさえ、十分に小さいχ2を有する適合直線が見出されないということはあり得る。さらに、十分に低いχ2を有する適合直線は見出されるが、この適合直線は、上述の傾きの誤差に関する条件式(4)を満たさない(予想される傾きに近似性高く一致する傾きを有する直線にならない)ということもあり得る。どちらの場合においても、このプロセスにおいて、条件式(4)が試される次回において、適合直線の傾きに関する不確実さの増加が考慮に入れられる。その結果、slope_errorは、数2のように、連続する空フレーム数の増加に伴って増やされる。
【数2】
【0106】
二次曲線またはより高次の曲線が、勾配算定から見出された候補点に適合した場合には、画像内の直線の傾きに対する上述の条件式(4)に、二次の項(および場合によっては、より高次の項)の変化の大きさを考慮に入れる項目が含められる。二次の項は、画像面において適合させた多項式の曲率に関連しており、許容される係数変化(Allowed change in coefficient)は、数3で記述される。
【数3】
【0107】
空フレームの数は、システムが容認可能な境界または標識を見出していない時間と等価である。空フレームおよび空区間の決定および利用の例を、次に説明する。
【0108】
空フレーム、空区間のカウント
どれくらい長く、またどの程度に、容認可能な(妥当な)適合曲線が検出されていないかを決定するために、空フレームの数および空区間の長さが更新される。容認可能/妥当であるか否かは、χ2の大きさに基づいて、候補点に対する適合直線の構築に成功した時に、次に、その傾き(係数)の近似性テストに基づいて決定される。図9は、空フレームおよび空区間の測定(カウント)を行う追跡プロセス200の一例を示している。具体的には、図9は、空フレームおよび空区間のカウントの更新の仕方、および、標識の予想される位置に基づいて、連続する画像フレームにおいて標識を追跡するモードからの、空フレームおよび空区間のカウントが容認可能な限界を越えたときに、画像フレーム中に標識を探索するモードへの移行に対する、カウントの適用の仕方を示している。追跡プロセス200は、次のステップを含んでいる。
ステップ201:現在の画像のROI内の候補点(ピクセル)に対して、容認可能なχ2特性を有する適合曲線(または適合直線)を備えた車線区分線/境界候補モデルを見出すことによって、現在の画像フレームにおいて標識を追跡する。
【0109】
ステップ202:車線区分線/境界候補モデルの傾き(一様な係数)が、以前の画像から予想される傾きの許容可能な範囲内にあるか否かを決定する(図8)。「YES」である場合には、プロセスはステップ203に進み、そうでない場合には、ステップ204に進む。
【0110】
ステップ203:空フレームおよび空区間のカウントをリセットする(例えば0に)。次いで、次の画像フレームにおいて標識を追跡するために、プロセスはステップ201に戻る。
【0111】
ステップ204:空フレームのカウントを1だけインクリメントし、空区間を、車両の走行距離V*Δtだけインクリメントする。ここで、Vは現在の車両速度、Δt=(t2−t1)は画像フレーム継続期間である。
【0112】
ステップ205:最大容認可能な空フレーム値または空区間値に到達しているか否かを判定する。「YES」である場合には、プロセスはステップ206に進み、そうでない場合には、次の画像フレームにおいて標識を追跡するために、ステップ201に戻る。
【0113】
ステップ206:追跡モードを停止/中止し、次の画像フレームにおいて、標識/境界の探索モードに入る。
【0114】
追跡プロセス200によれば、容認可能な適合曲線が存在しない全ての画像フレームに対して、空フレームのカウントは1だけインクリメントされる。容認可能な適合曲線が見出されたときには、空フレームのカウントは、0にリセットされる。同様に、容認可能な適合曲線が存在しない全ての画像フレームに対して、空区間は、直前の画像フレームにおいて車両が道路上を走行した距離(現在の車両速度*画像フレーム継続時間)だけインクリメントされる。容認可能な適合曲線が見出されたときには、空区間は、0にリセットされる。
【0115】
追跡プロセス200は、空フレーム値および空区間値を更新するステップ、およびいずれかの値が大きくなりすぎた場合には、追跡を中止するステップを含んでいる。追跡が中止された場合には、システムは探索モードに戻り、それ以前の画像における標識検出に基づく、標識の予想位置に頼ることなく、標識を新たに探索するために、境界/標識を見出すための窓すなわちROIを、その最大サイズおよびデフォルト位置に戻す。
【0116】
次に、車線区分線および道路境界の検出に対する、さらなる精度向上を説明する。第1に、境界検出領域の横方向位置および幅の精度を向上させることができる。第2に、上述の基本的な標識検出を改善するために、ダッシュ−ギャップタイプ車線区分線の周期性を考慮に入れることができる。
【0117】
境界検出領域(ROI)の横方向位置および幅
この精度向上は、関心領域横方向設定モジュール34(図2A)によって実行され、画像の左端/右端に相対的に、画像3内のROIの水平方向の位置および幅が決定される(全て、ピクセルを単位として)。次に説明するように、道路境界は、道路画像内のROIの2種類のサイズにおいて探索される。ROIのこれらのサイズのどちらが用いられるかは、以前に、上述の空フレームおよび空区間のテストを受けた画像フレームにおいて、境界が検出されていたか否かに関係している。ある画像フレームにおいて、空フレーム値および空区間値が大きくなりすぎている場合には、システムは、次の画像内に標識を検出するためのガイドとして用いることができる、現在の画像のROI内に予想される標識の位置を見出していない。この場合には、ROIのサイズは、最大になるように選択され、またROIは、長期にわたって平均化された、道路の地平線の消失点VPを通る垂線に関して対称に配置される(図3B)。最大ROIにおける標識の検出は、ROI内の道路のほぼ中央に位置するように、かつハイウェイ速度で概ね妥当と予想される標識に、ある程度平行になるように行われるのが好ましい。画像3内の両ROI(図3B:ROI−L、ROI−R)間の距離、および各ROIのサイズは、道路4上の対応する両平行四辺形(図3C:160L、160R)間の距離が、デフォルト横方向車線区分線間隔(例えば約3.6メートル)となり、道路4上の各平行四辺形の幅が、デフォルト幅(約2.3メートル)となるように選択される。画像標識フィーチャ7L、7Rは、最大ROIの内部のどこかにあってもよく、一側面上または両側面上にあってもよく、そして、上述の検出プロセス100によって検出される。図3Cは、いくつかの例示的な寸法を簡潔に示している。
【0118】
次に、画像標識フィーチャが、現在の画像のROI内に検出されると、ROI領域のサイズが、その内部の標識ピクセルの位置に関連付けて算出される。これによって、各ROIのサイズを縮小し、検討の対象からノイズを排除することができる。そのために、次の画像フレームから始まる、それ以降の標識の追跡が改善される。標識検出領域であるROIは、ROI内の予想される画像標識フィーチャ152の位置の不確実さの程度(図8)に比例して大きさを定められる。予想される画像標識フィーチャの位置の不確実さの程度は、全ての測定に用いられるカルマンフィルタによって定められる。ROIの最小可能な幅は、ピクセルで±(最小標識幅の2倍)である、すなわち、路上7.5センチメートルの標準的な最小標識幅に対して、およそ30センチメートルの路上全幅となる。
【0119】
境界検出領域(ROI)の縦方向位置
この精度向上は、関心領域縦方向設定モジュール33(図2A)によって実行される。ROI(図3B:ROI−L、ROI−R)は、画像3において垂直方向に配置され(画像の頂/底に相対的に)、それらの垂直方向の長さは、ビデオカメラ1の前方の近接距離および遠方距離の道路上の位置という観点から、道路上の対応する平行四辺形(図3C:160L、160R)の縦方向距離に基づいて選択される。最高性能を得るために、道路4上の各平行四辺形の近接エッジ162を、ビデオカメラ1に可能な限り近づけることが有利である。その結果、ビデオカメラの景色の不明瞭さがより少なくなり、解像度が最良になり、よりよい検出精度が可能になる。各平行四辺形の近接エッジ162は、通常、車両のボンネット端(それが存在すれば)を越えて、約5〜7メートル離れた位置にある。ROIの近接エッジ(画像3の底に近い)は、道路4上の対応する平行四辺形の近接エッジ162の距離に基づいて決定される。
【0120】
各ROIの遠方エッジ(画像3の頂に近い)においては、イメージャのピクセルサイズによって与えられる物理的な限界が存在する。標識が識別可能であるためには、標識は、幅方向に、少なくとも2つのピクセルにわたっていなければならない。ローパスフィルタ処理において、画像内の標識は、少なくとも2つのピクセルにわたって広がっているべきである。そうすると、単一ピクセルのノイズの影響が弱められる(形成することができる最も小規模な平均は、ただ2つの値の平均を見出すことである)。このことが、各ROIの遠方エッジの、画像3の頂からの距離を制限する。より大きな路上距離における標識の探索は、ピクセルがかなり小さかったとしても、画像内で探索すべき正確な場所に関して不明瞭さを増大させ、不確実さの程度を大きくする可能性があるために、困難になるであろう。したがって、ROIは、十分に長いけれども、ダッシュ−ギャップタイプ標識の2つのダッシュ間に1つのギャップをはさみ、かつそれらの2つのダッシュの有効長を含む程度に選択するべきである。画像3内の関心領域ROI−L、ROI−Rの垂直方向の長さ(ピクセルを単位とした)は、対応する平行四辺形160L、160Rの望ましい縦方向の長さ(例えば平行四辺形160L、160Rの縦方向の長さは、道路上、約15メートルであり得る)に基づいて選択される。
【0121】
ダッシュ−ギャップタイプ標識の特性解析(ダッシュ−ギャップタイプ標識の学習縦方向モデル)
この精度向上は、ダッシュ−ギャップタイプ標識の特性解析の機能47(図2A)によって実行される。ダッシュ−ギャップタイプの車線区分線は、ダッシュ間に標識の欠けたエリアすなわちギャップを含むために、確実な情報を、連続車線区分線より少なくしか与えない。この確実性の低下のために、特にダッシュ間のギャップにおいて、検出器が標識に似た他の物体を誤認する可能性が生じる。ダッシュ−ギャップタイプ標識の特性解析の機能47によって、ダッシュ−ギャップタイプ標識のパターンが学習され(例えばその標識は、5メートルの長さのダッシュ、2メートルの長さのダッシュ間ギャップを有しており、次の画像フレームにおいて、1.3メートル遠方で、次のダッシュが始まる)、次いで、ダッシュ間のギャップ内に存在する、画像標識フィーチャに似た断片が考察から除外される。これによって、標識に似た他の物体が追跡を混乱させ得る状況において、ダッシュの追跡が改善される。
【0122】
図10を参照すると、一例において、ダッシュ−ギャップタイプ標識は、ダッシュ170とギャップ172との連続として定義される。機能47によって、測定において空隙からダッシュが特定される。各画像フレームにおける標識検出によって、その画像におけるダッシュ−ギャップパターンが構築される。ダッシュ−ギャップパターンを形成するために、連続する画像行における標識検出結果が、一緒に集められる。各ダッシュの始点および終点の画像行の位置が、ビデオカメラからの道路距離に変換される。ダッシュ−ギャップタイプ標識パターンが、ビデオカメラから、検出された各ダッシュの始点および終点までの距離によって表わされる。
【0123】
車両が道路に沿って走行するにつれて、重ね合わされるダッシュ−ギャップタイプ標識パターンが、自動的に蓄積される。連続する2つの画像フレーム間において、車両が走行する距離が分かるから、この重ね合わせは可能である。その走行距離は、(V*Δt)である。ここで、Vは車両速度であり、Δtは連続する2つの画像フレーム間の継続時間である。図10に示されているように、以前の画像に示されている標識パターンを、走行距離量(走行距離量は走行時間にわたって累積される)だけ車両側に滑らせ(後ろに移動させ)、現在の画像に示されている標識パターンを組み入れることによって、それらの画像フレームで検出された標識パターンの、走行距離量で補正された時間履歴が蓄積される。その時間履歴は、各ダッシュの始点および終点(したがって、各ギャップの始点および終点)の車道に沿った位置を示している。
【0124】
特定のダッシュが、新しい画像で観察されるたびに、その特定のダッシュの始点および終点の位置が、以前に算定されている始点および終点の位置と新しく観察された位置との関数として更新される。各ダッシュの長さLDは、そのダッシュの終点から始点までの距離として決定される。各ギャップの長さLGは、1つのダッシュの始点から、その前のダッシュの終点までの距離として決定される。ダッシュ−ギャップタイプ標識の特性解析の機能47の遂行時、ダッシュ−ギャップタイプ標識を検出するプロセスにおいて、所定の最小ダッシュ長および最大ダッシュ長によって定められるダッシュ範囲、および所定の最小ギャップ長および最大ギャップ長によって定められるギャップ範囲が用いられる。定められた範囲外にある間隔が観察された(ダッシュかギャップのいずれかで)場合には、常に、ダッシュ−ギャップタイプ標識が終了していると考える。
【0125】
定められた範囲内にある少なくとも3つの間隔(ダッシュ−ギャップ−ダッシュかギャップ−ダッシュ−ギャップのいずれかの)が観察されたときには、その標識は、ダッシュ−ギャップタイプ標識として分類される。このとき、このモデルは、既に、続く画像フレームにおけるダッシュおよびギャップの位置を予測するために利用することができるほどに十分に学習している。次の画像フレームにおけるダッシュ−ギャップパターンの位置は、現在のダッシュ−ギャップパターンを、車両側に、(V*Δt)だけ滑らせることによって予測される。各ダッシュの予測された始点および終点までの距離が、対応する画像行座標に変換される。ダッシュの位置であると分かっている画像行において標識検出が行われ、かつギャップの位置であると分かっている画像行において標識検出が拒絶されるフィルタが構築される。
【0126】
さらに、既知のダッシュおよびギャップの長さが、ダッシュ−ギャップパターンの観察に先立って、画像内のダッシュおよびギャップの位置の予測のために用いられる。ダッシュの間隙および長さ内に、なんらかのノイズが存在するかもしれないから、道路上のダッシュの各端部に、不確実領域が割り当てられる。その不確実領域で検出されたものが標識に属しているものであれば、容認される。この不確実領域は、例えば0.5メータルの長さであり、各ダッシュ領域の両端に設けられる。発明者による、実際の車道データを用いた広範な実験によって、車両が移動するにつれて、標識パターンは頻繁に変化することが明らかになった。このため、予測は、直近に観察されたダッシュまたはギャップの端点を超えて、1つのダッシュ−ギャップ距離までに制限される。
【0127】
ダッシュ−ギャップ予測(モデル)の適用の一例が、図11に示されている。画像から入ってくる標識構造169(左端に示されている)が、フィルタ171(中央に示されている)に通され、その結果、フィルタ処理されたダッシュ−ギャップタイプ標識173(右端に示されている)が生成される。ブロック177は、道路上に見出される実際のダッシュ−ギャップタイプ標識の断片を表わしている。それらのうちのいくつかはノイズであるかもしれない。フィルタ処理プロセスを用いることによって、ダッシュ間のギャップおよび不確実領域175内にある、画像中の標識に似た物体は、画像からの道路標識の構築に用いられない(曲線適合に用いられない)。路面標識の容認に当たって、ある長さの不確実領域175を準備して、ダッシュ間のギャップ内にある標識候補を排除する(例えばそのような不確実領域は、そこに見出される標識片の容認を可能にするために、予想される各ダッシュの位置の端部の0.5メートルの領域であってもよい)。
【0128】
日中操作と夜間操作で異なるパラメータ
昼夜差の機能45b(図2A)は、この精度向上において実行される。外界センサが日中なのか夜間なのかを判断し、その情報が、昼夜差の機能45bにおいて用いられる。日中操作と夜間操作とで、互いに異なる物理的寸法/閾値が用いられる。これによって、日中に検出されるもの(例えばボッツドッツ)と夜間に検出されるもの(例えば夜間になってはじめて見えるようになることが多い、ボッツドッツと異なるサイズを有するリフレクタ)との外観の差が補償される。さらに、もっとずっと細かくて無関係な物体が、夜間におけるよりも日中において見える傾向がある。日中と夜間とで異なるように調節される寸法/閾値を用いることによって、検出システムは、イメージャ/ビデオカメラがどのように道路を「見る」かを調整する。例えば夜間においては、画像にブルーミングが生じるかもしれないということが考慮される。ブルーミングとは、イメージャ(ビデオカメラ)が、夜間には、あまり明るい物体を扱うことができないという状態を記述する用語である。明るい物体による画像フィーチャは、その物体に対応するピクセルの隣のピクセルまでおよぶ。すなわち、ブルーミングが生じて、画像の光景が変化する。
【0129】
標識は、日中と夜間とで、互いに異なって見える。この外観の違いは、夜間には、指向性のある照明(ヘッドライト)が用いられるのに対して、日中には、一般に、より一様な照明が用いられるという事実に起因する。リフレクタのようないくつかの標識は、それらの指向性のある反射のために、日中よりも夜間において、はるかによく見える。
【0130】
日中状態と夜間状態との間で調整される寸法/閾値には、標識のサイズ、適合線を容認するために必要な候補点の数、標識の最小コントラストなどがある。アルゴリズムにおいて用いられる全ての寸法は物理的寸法であり、道路面内で測定される。
【0131】
標識の最小コントラストは、次のように調整される。道路が非常に一様であり、したがって、そのビデオ画像が、非常に低い平均勾配しか有しない場合があり得る。平均勾配が低いと、ノイズを、勾配ピークまたは勾配バレーに関係する重要な信号として容認してしまうことがあり得る。そのために、画像内に勾配ピークおよび勾配バレーを見出すために用いられる閾値は、少なくとも、ある一定の最小の大きさの値(例えば1〜255、好ましくは8〜20の範囲の)を有するべきである。画像に多くの勾配が見出される、ノイズの多い道路では、背景勾配は、その最小値より大きな、高い平均値を有するであろうが、非常に一様に見える道路では、その最小値は、低い勾配しか有しない標識片が誤って特定されることを防止する。
【0132】
その他の精度向上
検出プロセスを、カラー画像に適用することができる。本明細書において用いられている基本的な基準は、ピクセルのグレーレベル勾配による分離である。画像中の標識を背景から分離するために、色分離(例えばピクセルのRGB色値間のユークリッド距離)を用いることもできる。さらに、標識に属する可能性があるとして容認されるピクセルの色を、限定してもよい(例えば標識は緑色ではないであろう)。標識に属するとして容認されるピクセルは、近似閾値(例えば8ビットのカラーイメージャにおいて、1〜443の範囲にあり、約20であってもよい)によって限定されるほど十分に、標識の距離依存性の色値の平均に近い色値を有する必要があるとしてもよく、また長期にわたってフィルタ処理されてもよい。距離依存性は、異なる距離に到達した光の角度/色の差に由来して発生する。
【0133】
さらに、道路上の標識を記述するために用いられる物理的な寸法は、さらに、道路上で、標識までの距離が増すにつれて、画像において、標識のフィーチャがより小さくなることを意味している。標識を記述するために、少数の一定数のピクセルを用いることもできる。しかしながら、それは、中間領域以外の領域において、実際の標識サイズと一致しない。
【0134】
さらに、状況が好ましいものである(例えば多数の勾配対が見出されており、χ2が小さい)場合には、ゾーン優先度スキームを用いることもできる。それによって、ダッシュ−ギャップタイプ標識のダッシュの、前方および後方への有限の外挿(例えば両端において1.5メートル)を行うことが可能になる。この有限の外挿によって、まばらにしか存在しない標識の実効充填率が増加する。最初の直線適合に先立って、データのさらなる純化を行なうことができる。目的は、整然とした直線を形成するように見えるサンプルを保存し、「それた」検出物、すなわち、整然とした直線のように見える検出物の近傍にない検出物を排除することである。
【0135】
標識は、ROIの縦方向軸に概ね平行であるから、ROIを、いくつか(例えば図12に示されているように3つ)の縦方向に延びたゾーンに分割することができる。それらのゾーンの中央ゾーンに対して0、内側ゾーンすなわちビデオカメラに近いゾーンに対して1、外側ゾーンすなわちビデオカメラから遠いゾーンに対して2と番号を付ける。各ゾーンは、標識に対する車両の相対的位置が変化するにつれて、その標識が存在すると予想される車道のエリアを表わしている。予測される標識空間、すなわち中央ゾーンは、標識検出に対して最高優先度を有している(標識または境界を含んでいる確率が最も高いことを表わしている)。ゾーンが中央ゾーンから離れるにつれて、優先度は減少する。各ゾーンにおいて、検出回数が数えられる。次のルールを用いて、最も検出回数が多い単一のゾーン、または隣接し合う2つのゾーンから成るゾーン対が決定される。
内側ゾーンにも外側ゾーンにも検出物がない場合には、中央ゾーンの標識片の検出物が用いられ、
内側ゾーンと中央ゾーンとの両方に、十分な標識片の検出物が存在する場合には、直線適合のために、これらの標識片の検出物が保留され、
外側ゾーンと中央ゾーンとの両方に、十分な標識片の検出物が存在する場合には、直線適合のために、これらの標識片の検出物が保留される。
【0136】
このルールの効果は、中央ゾーン、または、中央ゾーンと内側ゾーンまたは外側ゾーンとの組み合わせを優先するということである。内側ゾーンにおいて検出される標識は、外側ゾーンにおいて検出される標識よりもビデオカメラに近く、したがって、より重要であるから、内側ゾーンが最初にチェックされる。中央ゾーンまたはゾーン対の外部にある検出物は、それているものとして排除される。正味の効果は標識を保留し、画像ノイズを排除することであり、それによって、境界または標識の位置特定を改善することである。
【0137】
図13は、上述の、図2Bのステップ110において用いられる最小二乗直線/曲線適合例550を示している。この最小二乗直線/曲線適合例550によれば、曲線/直線適合は、データ点552(例えばピクセルpすなわち画像標識フィーチャ片)から適合曲線/直線554までの距離dsの合計を最小にすることによって最小二乗適合を行うステップを含んでいる。最小二乗適合によって、1セットのデータ点に最も適合する曲線が見出される。例えば図13に示されているように、適合曲線または適合直線(図13では適合直線が示されている)は、各点552から適合曲線または適合直線554までの距離dsの合計が最小になるまで調整される。これは、データ点から適合直線/曲線までの平均距離を最小にすることと等価である。最小中央値適合は、データ点から適合直線/曲線までの距離の中央値を最小にする。さらに、例えば標識の位置が遠くなればなるほど、不確実さの程度がより大きくなることを考慮に入れた他の曲線/直線適合アプローチを用いることもできる。その適用において、データ点の各セットに対して、直線適合は、データ点の各セットにおける最も近いデータ点と最も遠いデータ点とを含む、それらの間の全てのデータ点(x、y)に対する適合直線を決定するステップを含んでいる。用いられる直線適合方法は、次のように、適合させるために利用可能なデータ点の数に依存する。厳密に2つのデータ点だけが利用可能な場合には、直線適合は、単純に代数的な直線適合を実行するだけである。3つ以上のデータ点が利用可能な場合には、1本の直線が全てのデータ点を通過するということはないであろうが、近似スキームを、データ点に十分によく適合させることができる。したがって、その直線適合は、標準的な最小二乗法または最小中央値法に似た直線適合を行うステップを含んでいる。どちらの場合にも、道路面内の縦方向距離xおよび横方向距離yは、次のように表わされる。
y = (傾き)*x + (切片)
ここで、傾きを、前方の最も近い距離と最も遠い距離との平均(AV)によって割ると、曲率が与えられる。
【0138】
要約すると、本発明の実施形態は、道路画像から、車線区分線および/または道路境界を検出して、道路を進む車両のガイドを補助するために用いられるプロセスを提供する。候補ピクセルに対する多項式適合の複数の回数にわたる試みによって、他の方法よりも確実かつ厳密に、車線区分線および道路境界を検出することができる。さらに、道路と周囲との平均強度(グレーレベルまたは色レベル)が同程度である場合には、平均絶対偏差比較を用いることによって、画像中に標識エッジを検出することが可能になる。
【0139】
本発明による上記のプロセスは、リアルタイムで実行することもできるし、記憶した像に対して実行することもできる。このプロセスは、また、前処理段を有する単一のCPU、または複数のCPU上で行うことができる。さらに、当業者には公知のように、本発明による前述のプロセスは、プロセッサによる実行のためのプログラム命令、論理回路、特定用途向け集積回路、ファームウエアなどの多くの方法で実行することができる。本明細書には、本発明が、そのいくつかの好適なバージョンに関して、かなり詳細に説明されている。しかしながら、他のバージョンも可能である。したがって、請求項の精神および範囲は、本明細書に含まれている好適なバージョンの記述に限定されるべきではない。
【符号の説明】
【0140】
1 ビデオカメラ
2 車両
3 画像
4 道路
5 コントローラ
6 車線境界検出システム
7L、7R 画像標識フィーチャ
8L、8R 標識
9 車線逸脱検出システム
10 カメラ較正モジュール
11 警告モジュール
21 画像前処理モジュール
22 車線区分線検出モジュール
23 道路エッジ検出モジュール
31 関心領域配置モジュール
32 勾配計算モジュール
33 関心領域縦方向設定モジュール
34 関心領域横方向設定モジュール
35 MAD計算モジュール
40 面
41a、41b、42a、42b、43、44a、44b、45a、45b、46a、46b、47 機能
50 車線(道路)曲率測定システム
60 サンプラー
150 候補適合直線/曲線
152 予想される画像標識フィーチャ
160L、160R 平行四辺形
162 近接エッジ
169 画像内の標識構造
170 ダッシュ
171 フィルタ
172 ギャップ
173 フィルタ処理されたダッシュ−ギャップタイプ標識
175 不確実領域
177 ブロック
201 画像面
203 点
205 光軸
550 最小二乗直線/曲線適合例
552 点
554 適合直線
d ビデオカメラの前方の縦方向距離
d1 幅
ds 距離
FL 焦点距離
h ビデオカメラの高さ
Hp 水平方向ピクセルサイズ
Ht 高さ
le 左エッジ
LD ダッシュの長さ
LG ギャップの長さ
LO オフセット距離
p、p1、p2 ピクセル
P、P1、P2 点
r 画像行座標
re 右エッジ
rs 画像行セグメント
ROI−L、ROI−R 関心領域
Vp 垂直方向ピクセルサイズ
VP 消失点
W 画像列座標
Wt 幅
x 縦方向距離
y 横方向距離
α 傾斜角
【技術分野】
【0001】
本発明は、ビデオ画像処理に関し、さらに詳細には、本発明は、ビデオ画像における道路状態の検出に関する。
【背景技術】
【0002】
道路の車線区分線および道路境界を見出すために、ビデオカメラを組み込んだ検出システムを用いることがある。従来、車線区分線および道路境界を見出すために、境界/白線の前方連続性か、または車線区分線の既知のサイズのいずれかが利用されている。車線区分線が、十分に連続的な信号を供給しないボッツドッツ(直径約10cmのドーム状の白い円盤)タイプ、またはリフレクタである場合には、白線の連続性を用いるアプローチは機能しなくなる。
【0003】
車線区分線が、異なるサイズを有している場合には、車線区分線の既知のサイズを用いるアプローチは機能しなくなる。最後に、ハフ変換を用いるアプローチは、困難な状況(2つ以上の解が得られる、複数の平行な車線区分線が存在するような)において機能しなくなり、また十分な計算能力を必要とする。従来の他の手法においては、道路画像内に、垂直方向端を求めることのみによって、車線区分線が識別される。しかし、垂直方向端を検出する方法は、車線区分線が相当の角度を有しているカーブの箇所においては機能しない。
【0004】
また、このような従来技術では、車体が車線区分線に過度に接近した場合には、警告発生手段を作動させて運転者に異常を知らせていることが通常であるが、場合によっては車体が車線区分線に過度に接近した場合にも、警告信号を発する必要がない場合がある。例えば、運転者自らが車線変更を行う意図をもって車線に接近した場合は、通常の運転操作の範囲内である。それにも拘らず、前記従来技術では、全ての場合に一律に警告信号を発している。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】Bar-Shalom「Estimation and Tracking (推定および追跡)」
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、上述の問題を解決することができる、車線区分線または道路境界などの路面標識を検出する方法およびシステムを提供することを目的とするものである。
【課題を解決するための手段】
【0007】
本発明の一実施形態においては、イメージャから、車両の前方の道路の画像を受け、その画像内に識別された道路内に、関心領域を決定するように構成されている画像処理プロセッサと、関心領域内に車線区分線を検出することによって、また車線区分線を検出することができなかった場合には、関心領域内に道路境界を検出することによって、路面標識を検出するように構成されている路面標識検出モジュールとが設けられている。
【0008】
画像処理プロセッサは、さらに、路面標識エッジ候補を識別するために、それぞれ画像内の1つのエッジを表わす、画像ピクセルの輝度勾配のピークおよびバレーを決定することによって、関心領域内にエッジ強度を決定するように構成されていてもよく、また路面標識検出モジュールは、エッジ強度と強度閾値とを比較するように構成されていてもよい。
【0009】
路面標識検出モジュールは、関心領域内の複数の画像行において、各エッジ強度と強度閾値とを比較することによって、エッジ対を、路面標識エッジ候補として識別するステップと、エッジ対の間隔を特定するステップと、エッジ対の間隔と、間隔最小閾値および間隔最大閾値とを比較するステップであって、エッジ対の間隔が、間隔最小閾値と間隔最大閾値との間にある場合には、エッジ対は、車線区分線候補を表わしているステップと、車線区分線候補を表わしている画像行のエッジ対に対応する中央勾配位置に、第1の線を適合させるステップとを実行するように構成されている車線区分線検出モジュールを備えていてもよく、かつ容認可能な第1の近似適合線に寄与した全てのエッジ対を、車線区分線の識別要素として選択する。
【0010】
路面標識検出モジュールは、さらに、エッジ対の間隔の各々が、間隔最小閾値と間隔最大閾値との間になかった場合、または容認可能な第1の近似適合線が見出されなかった場合には、道路境界の識別要素の候補を表わしている画像行のエッジの各々に第2の線を適合させ、かつ容認可能な第2の近似適合線に寄与した全てのエッジを、道路境界の識別要素として選択するように構成されている道路境界検出モジュールを備えていてもよい。
【0011】
路面標識検出モジュールは、さらに、道路境界の識別要素が見出されなかった場合には、複数の画像行において平均絶対偏差(MAD)勾配を決定するステップと、路面標識候補を表わしている画像行のエッジの各々に対応する、大きさ閾値を超過する大きさを有するMAD勾配の位置に、第3の線を適合させるステップと、容認可能な第3の近似適合線に寄与したMAD勾配の位置を、路面標識として選択するステップとを実行するように構成されていてもよい。
【0012】
路面標識検出モジュールは、さらに、第1、第2、または第3の線の、路面標識エッジ候補を表わす画像行のエッジに対する適合度、および第1、第2、または第3の線の傾きの、以前の道路画像における傾きに対する近似度をチェックすることによって、容認可能な第1、第2、または第3の近似適合線を決定するように構成されていてもよい。そして、これらに基づいて車線逸脱検出システムは、車両が道路の適切な走行車線からずれているか否かを決定する。このとき、運転者自らが進路変更等により車線に接近する場合、ウィンカをオンにして点滅させていることが、運転者自ら車線に接近する意思であることが明白であると想定し、この際は、上記の検出の対象外であるとした。
【0013】
以下の説明、請求項、および添付図面を参照することによって、本発明の上記した特徴およびそれ以外の特徴、態様、および利点を理解しうると思う。
【図面の簡単な説明】
【0014】
【図1】本発明の一実施形態による、車両の動きに連動する車線/道路境界探索および追跡システムの機能ブロック図である。
【図2A】本発明の一実施形態による車線/道路境界検出装置の機能ブロック図である。
【図2B】本発明の一実施形態による、図2Aの検出装置によって実行される車線/道路境界検出プロセスの一部のフローチャートである。
【図2C】図2Bの車線/道路境界検出プロセスに続く車線/道路境界検出プロセスの一部のフローチャートである。
【図2D】図2Cの車線/道路境界検出プロセスに続く車線/道路境界検出プロセスのフローチャートである。
【図3A】本発明の一実施形態における、画像面内のピクセルと、ビデオカメラを介してピクセルに投影される、道路面上の対応点との関係の一例を示す図である。
【図3B】本発明の一実施形態にしたがって、画像フレーム内に関心領域を決定する一例を示す図である。
【図3C】画像の関心領域に対応する、道路上の平行四辺形エリアの一例を示す図である。
【図3D】本発明による、画像の勾配検出および幅テストの一例を示す図である。
【図4】新しいピクセル値がヘッドに加えられ、古いピクセル値がテールから除かれる、本発明の一実施形態による、画像行のローパスフィルタ処理の一例を示す図である。
【図5A】本発明の一実施形態による、平均絶対偏差(MAD)の計算の一例を示す図である。
【図5B】車線境界標識を備えた道路画像の一例を示す図である。
【図5C】MADフィルタによる処理後の、図5Bの道路画像を示す図である。
【図6A】画像面と、道路上の前方距離との関係を説明するために、ビデオカメラの側面と道路との相対的な位置関係の一例を示す図である。
【図6B】道路画像において、垂直方向ピクセルサイズVpおよび水平方向ピクセルサイズHpを有して、画像行座標r、画像列座標Wに配置されているピクセルpのアレイの一例を示す図である。
【図7】画像行座標に基づいて、最小標識幅から計算されたフィルタ長の変化を示す図である。
【図8】本発明による、許容可能な傾きの誤差、およびその時間経過に伴う変化の例を示す図である。
【図9】空フレームおよび空区間のカウントの更新、および標識の追跡へのその応用の一例を示す図である。
【図10】本発明にしたがって、標識検出のために、道路画像からダッシュ−ギャップタイプ標識の情報を蓄積する一例を示す図である。
【図11】本発明による、標識検出に対する、学習されたダッシュ−ギャップタイプ標識モデルの応用の一例を示す図である。
【図12】本発明による、境界位置の検出を改善するための優先度スキームの一例を示す図である。
【図13】最小二乗直線/曲線適合の一例を示す図である。
【発明を実施するための形態】
【0015】
本発明は、車線境界全般の検出方法および検出システムを提供するものである。本発明の一実施形態によると、車線または道路のビデオ画像を用いて、車線または道路の車線区分線または道路境界を含む路面標識が見出される。これは、少なくとも最小サイズから最大サイズまでの画像標識フィーチャの境をなす、大きな勾配(例えば輝度勾配)を有するビデオ画像領域を探索することによって達成される。勾配探索は、グレーレベル画像または平均絶対偏差画像で行うことができる。これらの勾配位置は、曲線適合法を用いて(必要であれば、サブセットを選択して)、適切な適合度および整合度を得るようにグループ化される。画像標識フィーチャに適合させた曲線が、車線区分線または道路境界を表わす。車線区分線は、方向性を有する一対のプロセスによって見出され、一方、道路境界は、対になっていないプロセスによって見出される。白線と単純なエッジタイプの境界とのいずれを見出すためにも、一連のステップが用いられる。必要な場合には、同じデータの異なるバージョンまたはサブセットを用いて、複数の回数にわたって判断が下される。
【0016】
説明を簡単にするために、本明細書においては、車線区分線と道路境界とを、まとめて標識と呼ぶ。図1は、一実施例による、ビデオカメラ1をマウントされた車両2に連結されている車線(道路)曲率測定システム50の機能ブロック図である。ビデオカメラ1は、前方を向くように、車両2にマウントされている。ビデオカメラ1は、車両2の前方の道路(車線/車道)4の画像3〔2次元(2−D)の〕を捕捉し、それらの画像を、境界検出用のコントローラ5に伝達する。デジタル化されたビデオ入力信号をサンプリングして、画像行および画像列に配列されたピクセルアレイとして、2次元画像を作成するために、サンプラー60を用いてもよい。
【0017】
この例においては、コントローラ5は、車線境界検出システム6、車線逸脱検出システム9、カメラ較正モジュール10、および警告モジュール11を備えている。車線境界検出システム6は、道路特性解析によって画像3を処理し、道路4上の実際の標識8L、8Rをそれぞれ表わす画像標識フィーチャ7L、7Rの位置を、画像3内に追跡する。ビデオカメラ1に対して、標識8Lは道路の左縁を示しており、標識8Rは道路の右縁を示している。画像標識フィーチャ7Lおよび7Rの位置および偏揺れ角(ビデオカメラ位置に対する)が、車線境界検出システム6から車線逸脱検出システム9に供給される。車線逸脱検出システム9は、さらに、車両2から速度情報を受け取り、また、カメラ較正データ(カメラ較正モジュール10によって供給される)を受け取る。車線逸脱検出システム9は、車両速度、車線区分線位置および偏揺れ角に関する情報を定期的に受け取ることが好ましい。
【0018】
車両速度情報、カメラ較正情報、および画像標識フィーチャ7Lおよび7Rの追跡された位置に基づいて、車線逸脱検出システム9は、車両2が道路4の適切な走行車線からずれているか否かを決定する。車線逸脱検出システムが、車線に接近していること、または道路から逸脱していることを検出したときには、警告モジュール11が起動させられる。但し、車体が車線区分線に過度に接近しても、警告モジュール11による警告信号を発する必要がない場合、つまり車線変更の場合には、警告信号を発しないこととする。そして、車線変更の際には、通常ウィンカーがオンになっているので、ウィンカのオン状態とその方向を検出し、この状態では、車体が車線区分線に過度に接近したことが検出されても、警告モジュール11からの警告信号を発生しないようにする。
【0019】
図2Aは、本発明による車線境界検出システム6の一実施例の機能ブロック図である。車線境界検出システム6は、画像前処理モジュール21、車線区分線検出モジュール22、および道路エッジ検出モジュール23を有している。画像前処理モジュール21は、ピクセルの2次元(2−D)アレイ(画像行および画像列)を有する画像3を前処理する。画像前処理モジュール21は、関心領域配置モジュール31、勾配計算モジュール32、および任意選択に、平均絶対偏差(MAD)計算モジュール35を有している。
【0020】
受け取った各画像3に対して、関心領域配置モジュール31は、画像標識フィーチャ(画像車線区分線または画像道路境界)7Lおよび7Rがあると予想される関心領域を、画像内に決定する。関心領域配置モジュール31は、関心領域縦方向設定モジュール33および関心領域横方向設定モジュール34を有している。関心領域の正確な位置が、関心領域縦方向設定モジュール33および関心領域横方向設定モジュール34によって決定される。各関心領域内において、勾配計算モジュールは、ピクセルの各画像行座標r毎に、左端から右端に向かってピクセルのグレーレベルの勾配を決定する。
【0021】
任意選択的に、MAD計算モジュール35は、ピクセルのグレーレバルの平均絶対偏差を計算する。すなわち、MAD計算モジュール35は、ピクセルのグレーレベルの平均を中心とした、1セットの数の分散を測定する。2セットの数が存在するとき、平均が互いに同じになることはあり得るが、分散値は互いに異なる。これは、有用なことである。すなわち、道路エッジと、道路エッジをはずれた位置との間にほとんどコントラストがない場合にも、その同じ平均値を中心とするピクセル値の分散は、互いに異なる(すなわち、画像において、道路と、道路をはずれた位置との間で、平均値が同じであっても、分散値は異なる)であろうから、より良好な境界検出が可能になる。平均は、いわゆる一次統計値であり、一方、平均絶対偏差は、二次統計値である。
【0022】
計算された勾配が、「暗」から「明」(正の勾配)に続く、「明」から「暗」(負の勾配)のパターンを示したときに、その勾配位置は、車線区分線検出モジュール22によって、車線区分線の検出および追跡のために用いられる。この場合には画像における車線区分線である、正しい画像標識フィーチャ7Lおよび7Rの識別および追跡を確実にするために、また車線区分線と間違えられる可能性のある誤った標識の最高水準の排除を確実にするために、車線区分線検出モジュール22の内部で、種々の精度向上化機能を実行してもよい。車線区分線検出モジュール22によって実行される精度向上化機能の例には、次のものが含まれる。
機能41a:χ2(χの2乗)が大きすぎるときの線適合
機能42a:係数一致
機能43:標識モデルベース
機能44a:適合線に対する容認テスト
機能45a:昼夜差
機能46a:空フレームおよび空区間のカウント
機能47:ダッシュ−ギャップタイプ標識の特性解析
【0023】
明瞭な正から負への勾配パターンが、関心領域内に存在しない場合には、道路境界の検出および追跡を行うために、道路エッジ検出モジュール23が用いられる。この場合には画像における道路境界である、正しい画像標識フィーチャ7Lおよび7Rの識別および追跡を確実にするために、また道路境界と間違えられる可能性のある誤った標識の最高水準の排除を確実にするために、道路エッジ検出モジュール23の内部で、精度向上化機能を実行してもよい。道路エッジ検出モジュール23によって実行される精度向上化機能の例には、次のものが含まれる。
機能41b:χ2(χの2乗)が大きすぎるときの線適合
機能42b:係数一致
機能44b:適合線に対する容認テスト
機能45b:昼夜差
機能46b:空フレームおよび空区間のカウント
【0024】
線適合の機能41aおよび41bは、画像前処理モジュール21からの初期標識点候補に作用する。機能41aおよび41bは、χ2(いかによく、近似曲線が1セットのデータ点に適合するかを示す統計的尺度)が,χ2の閾値(この閾値は0より大きく、例えば容認可能な適合に対して2.0であってもよい)未満であるか否かを決定する。大きな値のχ2(すなわち、χ2の閾値より大きい)は、近似曲線と1セットのデータ点との間の適合が乏しいことを表わしている。大きなχ2値が、1セットのデータ点(初期標識点候補)に対して検出されたときには、χ2値がχ2の閾値未満になるまで、それらのデータ点のサブセットが、曲線適合のために選択される。
【0025】
係数一致を検出する機能42aおよび42bは、次のようにして、係数一致を検出する。道路境界または車線境界は、一般に、1つの画像フレームから次の画像フレームまでで、わずかの量しか移動しない。それらの画像中の位置を記述する数学関数(例えば曲線)も、同様に、ゆっくりと変化する。この変化は、そのような位置を記述する数学関数の係数差が、1つの画像フレームから次の画像フレームまでで、ある差閾値未満であるということによって定量化される。この差閾値は、0より大きく、一例において0.15であってもよい。その結果、その直後の2つの画像フレームに対して、それぞれ0.15の誤差が許容され、さらなる全ての画像フレームに対して、0.03のさらなる差が割り当てられる。係数差が、差閾値より大きい場合には、連続する2つの画像フレームに、2つの異なる境界または標識が見出される場合がある(避けるべき状況)。したがって、現在の画像フレームで見出された車線区分線または道路境界を、以前の画像フレームで見出された標識の継続として容認する前に、機能42aおよび42bは、そのような係数の、十分によく一致する係数(すなわち、係数変化が差閾値未満である)に対する近似性をテストする。χ2検査および係数一致テストによって、曲線適合(例えば直線適合)の妥当性が試される。
【0026】
路面標識として検出される最小および最大の物理的寸法(例えば幅、長さ)、および背景に対する最小コントラストが規定されている必要がある。物理的寸法およびコントラストは、画像内に標識を配置する物理的ベースを形成する。標識モデルベースの機能43は、道路上の標識の物理的寸法から、画像中の等価なピクセル数への変換を実行する。画像標識フィーチャ7L、7Rの各ピクセルは、ピクセル位置(画像3中の画像行座標rおよび画像列座標Wによって確定される)から、ビデオカメラの前方の地面上の距離と、ビデオカメラに対する横方向のオフセット距離とによって定められる道路上の位置に変換される。
【0027】
適合線に対する容認テストの機能44aおよび44bは、標準的なχ2適合テストに基づいて、標識または境界の点候補のセットに適合させた線が、どの程度に良好に、そのような点候補を反映しているかを決定する。
【0028】
道路境界および車線区分線は、日中であるか夜間であるかに依存して、異なる外観を有する。イメージャの利得および露光時間の設定を通じて、日中状態であるか夜間状態であるかを決定することができる(日中であるか夜間であるかの決定は、外部的になされる)。そのような状態に基づいて、昼夜差の機能45aおよび45bは、標識/境界位置プロセスに対して異なるパラメータを供給する。それによって、より良好な検出が可能になる。例えば夜間においては、日中よりも周辺光の量が少なく、背景輝度が低下するから、道路背景と車線区分線との間の輝度勾配は、一般に、日中よりも夜間において大きい。例えば日中におけるピクセル間の最小コントラストとして、15グレーレベルを用いることができ、一方、夜間におけるピクセル間の最小コントラストとして、18グレーレベルを用いることができる。このグレーレベル差は、夜間の画像の方が、日中の画像よりも高いコントラストを有するという事実から生じる。
【0029】
空フレームおよび空区間のカウントの機能46aおよび46bは、容認可能な車線区分線または境界を形成した最後の画像フレームの時点から測定して、どのくらい多くの画像フレームが、識別可能または容認可能な車線区分線または境界を形成しなかったかを追跡し、容認可能な測定がなされなかった画像フレームの数(すなわち、空フレームの数)を表わす空区間値を生成する。機能46aおよび46bは、さらに、境界または標識が見出されなくなってから、どれだけの道路距離が過ぎたかを追跡し、そのような距離を表わす空区間値を生成する。空フレーム数が多ければ(例えば標識を見出すことなく走行した距離が約30メートルであれば、通常の運転速度で約10画像フレームに相当する)、または空区間が長すぎれば(例えば標識を見出すことなく走行した距離が約30メートルであれば、ダッシュ−ギャップタイプ標識で約2サイクル、すなわち、2つのダッシュおよびダッシュ間ギャップに相当する)、標識または境界が次にどこに現れるかが、極めて不確実になる。そのような不確実さが発生すると、画像前処理モジュール21は、より大きな関心領域を用いて探索モードに入る、すなわち戻る。より大きな関心領域を用いることによって、標識または境界がどこにあるかを予想することなく、システムは、追跡のための新しい画像標識フィーチャを取得することができる。
【0030】
システムは、探索と追跡と呼ばれる2つのモードを有する。探索モードにおいては、システムは、まだ、標識が画像(関心領域:ROI)中で近似的に存在するであろう場所を決めておらず、したがって、大きな画像エリア内で標識を捜す。追跡モードにおいては、システムは、直前に(空区間内において)標識を見出しており、したがって、画像中の、直前とほぼ同じエリア(ROI)内に、再度、標識があると予測し、そのROI内で標識を追跡する。追跡は、1つのまとまりをなす、位置測定のシーケンスである。1つのシーケンスが終了して、他のシーケンスが開始するとき、および、システムが初期化するとき、新しい追跡が開始する。
【0031】
ダッシュ−ギャップタイプ標識の特性解析の機能47は、ダッシュの開始位置および終了位置、およびダッシュ間の縦方向間隔を算定する(例えばビデオカメラの5メートル前方で始まったダッシュの長さが2メートルであり、その後、次のダッシュが始まるまで8メートルのギャップが続いていると算定する)。ダッシュが存在すると予想される場所を学習することによって、ダッシュ間に検出される標識片は、ノイズとして排除することができ、そのために、追跡精度が向上する。
【0032】
次に、検出された車線区分線または道路境界は、車線逸脱検出システム9に出力される。車両が、車線区分線または道路境界にあまりにも接近したとき、または、車線区分線または道路境界からはずれる恐れがあるという切迫した状況にあるとき、車線逸脱検出システム9は、運転者に対して警告を発する、またはなんらかの手助けを与える。当業者であれば認識されるように、プロセッサによる実行のためのプログラム命令、論理回路、特定用途向け集積回路、ファームウエア、ソフトウェアモジュールなどのような種々の形態で、図1および図2Aに示されているシステム、モジュール、部品、および機能を具現化することができる。
【0033】
後でさらに述べるように、図2B〜2Dは、速度の知られている車両から撮られた画像中に、車線区分線および/または道路境界(標識/境界)を見出す際に、車線境界検出システム6によって実行されるプロセス例100−1〜100−3のステップのフローチャートである。
【0034】
車線区分線/境界検出プロセスのよりよい理解のために、図3Aは、画像面中のピクセルと、ビデオカメラ1を介して、画像にピクセルpとして投影されている、道路面上の対応する点Pとの間の関係の一例を示している。道路4の画像3が、道路4の面40に重ね合わされている。画像3中の第1の画像行−画像列位置にある第1のピクセルp1は、道路面上の第1の点P1に対応している。同様に、画像3中の第2の画像行−画像列位置にある第2のピクセルp2は、道路面上の第2の点P2に対応している。画像位置(r、W)にあるピクセルp1から、道路面位置(x、y)にある点P1に変換するプロセスは、画像行座標rに基づいて縦方向距離xを見出し、画像列座標Wに基づいて横方向距離yを見出すステップを含んでいる。同様の変換が、点P2、ピクセルp2に対しても適用される。
【0035】
したがって、標識8Lおよび8R上の点P1およびP2が与えられると、ビデオカメラ1からそれらの各点までの距離(すなわち、ビデオカメラの前方の縦方向距離d=x、および道路中央線からの横方向のオフセット距離LO=y)を、画像3中の画像標識フィーチャ7Lおよび7R上の対応するピクセルp1およびp2の画像行および画像列の位置(すなわち画像行座標rおよび画像列座標W)から決定することができる。図3Bは、ビデオ画像上の台形形状の関心領域(ROI)を示している。ROI内で、グレーレベル勾配および平均絶対偏差が、画像のピクセルから抽出される。グレーレベル勾配値と平均絶対偏差値とは、どちらも、ピクセル群の特性であり、前者は、ピクセル間のコントラストを表わしており、後者は、中心値からの変動を表わしている。各台形形状の関心領域(例えばROI−L、ROI−R)は、ほぼ、画像標識フィーチャ(例えば7L、7R)があると予測される、画像3内の位置に配置される。
【0036】
道路の画像3および車両速度が、検出システムに入力される。また、カメラ較正パラメータ(焦点距離、据え付け高さなど)が既知である。ここで、さらに、検出プロセス100(すなわち、図2B〜2Dにそれぞれ示されているプロセス100−1〜100−3)に言及すると、ステップ101〜106は、画像前処理に関するものである。ステップ107〜115bは、標準的な車線区分線検出に関するものである。ステップ116〜123dは、道路境界検出に関するものである。ステップ124a〜127は、後処理に関するものである。プロセスのこれらの各ステップを、次に説明する。
【0037】
ステップ101:標識/境界を検出すべき、ビデオカメラからの路上距離(例えば前方6〜20メートル)を選択する。これらの路上距離は、上方の画像行(遠方距離に対する)から下方の画像行(近接距離に対する)までに対応する。それらの間で、道路境界/標識の検出が実行される。横方向距離の例は、図3Bに示されているようなものである。路上距離および横方向距離を選択することによって、画像3内に、2つの関心領域ROI−LおよびROI−R、すなわち窓が定められる。それら2つの関心領域内で、道路4上の実際の標識/境界8L、8Rを表わす画像標識フィーチャ7L、7Rを検出するための探索が遂行される。
【0038】
ステップ102:窓(関心領域ROI−LおよびROI−R)の上端画像行と下端画像行との間の全ての画像行に対して、路上距離を決定する。
【0039】
ステップ103:検出すべき最小標識幅と、各画像行に対応する、ビデオカメラの前方の縦方向距離dとを取り込み、その最小標識幅内に含まれる、各画像行のピクセル数(最も近い整数に丸める)を決定する。このピクセル数は、次のステップ104において、平均化用のローパスフィルタ長として用いられる。
【0040】
ステップ104:各画像行に対して、最小標識幅のピクセルを平均化するために、ローパスフィルタを適用する。ローパスフィルタ処理によって、各ピクセルにおける局所的な平均化がなされる。任意選択的に、同時に、各ピクセルに対して、平均絶対偏差(MAD)が計算される。MAD計算は、ローパスフィルタ処理と同じ長さにわたって行なわれ、ローパスフィルタ処理と組み合わせることができる。ローパスフィルタ長は、画像行ごとに異なり、ステップ103において計算されている。
【0041】
ステップ105:ステップ104からの、ローパスフィルタ処理されたデータに、中心差分を用いた微分フィルタを適用する。これによって、各ピクセル位置において、平滑化された勾配値が得られる。任意選択的に、MADデータに、同じ中心差分操作を適用して、各ピクセル位置において、MAD値の勾配を得ることができる。
【0042】
ステップ106:最初の画像フレームに対する想定値から出発して、平均背景勾配を計算する。背景によるものではない勾配(一定の最低値から出発する)を見出すために、ある係数が乗じられた、この平均背景勾配が、次の画像フレームに適用される。
【0043】
ステップ107:勾配閾値として、縮尺された平均背景勾配の大きさを用いて、各画像行において、ピクセルの輝度勾配を決定し、ピクセル輝度勾配曲線中に、勾配ピークおよび勾配バレー〔勾配の大きさが、勾配閾値(強度閾値)より大きい〕を検出する。この勾配ピークおよび勾配バレーの位置が記憶される。
【0044】
ステップ108:各画像行の画像標識フィーチャの最大幅値(Marking Width Max)および最小幅値(Marking Width Min)が決定される。これらの値は、それぞれ標識の左エッジleおよび右エッジre(図7)として容認される勾配ピークと勾配バレーとの対(「勾配ピーク−勾配バレー対」)の間のピクセル領域に対する上限および下限を与える。左エッジle(車線区分線/境界の横方向の開始点)は、右方向に移動するときの、標識上の暗から明への遷移(図5B)、すなわち、勾配ピークとして現れる、小さなピクセル輝度値から大きなピクセル輝度値への遷移を表わしている。同様に、右エッジre(車線区分線/境界の横方向の終了点)は、明から暗への遷移、すなわち、勾配バレーとして現れる大きなピクセル輝度値から、小さなピクセル輝度値への遷移を表わしている。
【0045】
ステップ109:各画像行に、最小標識幅限界および最大標識幅限界を適用することによって、標識になり得る勾配ピーク−勾配バレー対を見出す。画像標識フィーチャの少なくとも一部分を示す、容認可能な幅が見出された場合には、その勾配ピーク−勾配バレー対を保存する。一例として、関心領域の各画像行において、画像標識フィーチャ候補を探索すると、いくつかの画像行においては、画像標識フィーチャ候補が含まれるが、その他の画像行においては、そのような画像標識フィーチャ候補が含まれない場合がある。画像標識フィーチャ候補は、各画像行において、その左エッジと右エッジの位置によって画定される。
【0046】
ステップ110:内側標識エッジ(ビデオカメラの左側の標識においては、内側標識エッジは、勾配ピーク−勾配バレー対の勾配バレーであり、ビデオカメラの右側の標識においては、内側標識エッジは、勾配ピーク−勾配バレー対の勾配ピークである)に、曲線(例えば、ほぼ直線)を適合させることによって、各画像行のエッジの位置が、その曲線に沿って、概ね並ぶか否かを決定する。
【0047】
ステップ111:最小二乗適合法を用いて、各関心領域の画像標識フィーチャ候補の内側エッジをつなぐ。なんらかの妥当な基準(例えばχ2および傾き一致)に基づいて、適合度を決定する。特に、χ2適合測定(以下に説明するように、適合曲線のχ2がχ2の閾値と比較される)によって、適合度(適合の妥当性)を決定する。適合度が容認可能である場合には、適合曲線の傾きが、容認されている直近の傾きに一致するか否かをチェックする(容認されている直近の傾きがまだ存在しない開始時を除いて)ことによって、適合の妥当性を、さらに決定する。傾きが容認可能である場合には、画像標識フィーチャが、エッジを定めるピクセルで検出され(この傾きは、次の画像フレームの傾きとの比較のために記憶される)、プロセスはステップ124aに進む。そうでない場合には、ステップ112に進む。一例において、容認可能であるか否かを判定する傾き比較は、次のとおりである。容認されている直近の傾きESと、現在の適合曲線の現在の傾きCSとの比較において、これらの傾きが同一の標識から得られたものである場合には、傾きESとCSとの差の絶対値は、小さくなければならない。すなわち、(|ES−CS|<diffthreshold)でなければならない。この場合、差閾値diffthresholdは、0.05より大きく、0.1〜0.2の値を有してもよい。
【0048】
ステップ112:適合曲線のχ2が大きすぎる(χ2の閾値と比較して)場合、または傾きが、容認されている直近の傾きと十分に近似性高く一致しない場合には、画像標識フィーチャ点候補(前述の勾配ピーク−勾配バレー対によって画定される)のサブセットを選択し、このサブセットが、より優れたχ2および/または傾きの一致を与えるか否かを決定するために、このサブセットに、ステップ111の場合と同じ線適合法および適合度(適合の妥当性)基準を適用する。このサブセットは、左側勾配と右側勾配の大きさの両方ともが、全画像標識フィーチャ点候補の平均の勾配の大きさよりも大きい勾配ピーク−勾配バレー対から成っている。言い換えると、左側と右側との両方において、平均を超える大きなコントラスト(勾配の絶対値)を有する画像標識フィーチャ(標識ピクセル)候補だけが選択される。
【0049】
ステップ113a、113b:大きなコントラストを有する(選択された)サブセットに、1つの曲線を適合させる。χ2が大きすぎるか、または傾きが、容認されている直近の傾きと近似性高く一致しない場合には、そのサブセットは廃棄されて、プロセスはステップ114に進む。そうでない場合には、サブセットに対する適合曲線が容認可能であれば、プロセスはステップ124aに進む。
【0050】
ステップ114:画像標識フィーチャ点の全候補から、最大輝度の画像標識フィーチャ点候補だけが選択されたサブセットを取り出す。画像標識フィーチャの輝度は、画像標識フィーチャの左エッジと右エッジとの間にあるピクセルの平均グレーレベルである。全画像標識フィーチャ点候補の平均輝度が計算され、次に、この平均輝度を閾値として用いて、この閾値より大きな輝度値を有する、画像標識フィーチャ点候補だけが保存される。
【0051】
ステップ115a、115b:選択された、平均よりも輝度の高い画像標識フィーチャ点候補に、曲線または直線を適合させ、この曲線または直線のχ2および傾きをチェックする(上述のように)。χ2と傾きとの両方が容認可能である場合には、選択された、最大輝度の画像標識フィーチャ点候補は容認可能であり、プロセスはステップ124aに進む。そうではなくて、χ2が大きすぎる場合、または傾きが容認されている直近の傾きと一致しない場合には、適切な適合曲線は見出されず、選択された画像標識フィーチャ点候補は、車線区分線に由来するものではない。プロセスを、車線区分線検出から道路境界検出に切り換え、勾配(コントラスト)の点検によって確定される可能性がある道路エッジを検出するためにステップ116に進む。
【0052】
ステップ116:道路エッジを検出するために、各画像行において前に計算したピクセル勾配データを用い、大きさの閾値を超過している大きさを有する正の勾配の数と負の勾配の数とを数えて、より多いのはどちらであるかを決定する。より多い(過半数)方の勾配を分析し、上述と同様に、それらの勾配の位置が適合曲線に沿ってほぼ並ぶか否かのチェックを、以下のステップ117a〜120cとして実行する。
【0053】
ステップ117a、117b:過半数の方の勾配の位置を取り上げて、1つの曲線を適合させたときに、それらの勾配の位置が適合曲線に沿って並ぶか否かを決定する。χ2は十分に小さいか否か、および適合曲線の傾きは、容認されている直近の傾きに一致しているか否かがチェックされる。「YES」の場合には、道路境界が適切に検出されており、プロセスはステップ124aに進む。そうでない場合には、道路境界は,上記の位置を用いて検出されず、プロセスはステップ118aに進む。
【0054】
ステップ118a〜118c:過半数の方の勾配の平均の大きさを超過する大きさを有する、この過半数の方の勾配から抽出された勾配だけで構成される、勾配のサブセットを選択する。選択された勾配のサブセットの位置に適合させた曲線が、十分に小さいχ2、および容認されている直近の傾きとほぼ同じ傾きを有しているか否かを決定する。「YES」の場合には、その適合曲線は、道路境界を検出している曲線として容認可能であり、プロセスはステップ124aに進む。そうでない場合には、χ2が大きすぎるか、または傾きが、容認されている直近の傾きと違いすぎるのであるから、この勾配のサブセットは、道路境界を示すものではなく、プロセスはステップ119aに進む。
【0055】
ステップ119a、119b:ステップ116において数が少なかった方の勾配の位置を取り上げて、1つの曲線を適合させたときに、それらの勾配が並ぶか否かを決定する(すなわち、χ2が十分に小さいか否か、またこの適合曲線の傾きが、容認されている直近の傾きに一致しているか否かを決定する)。「YES」の場合には、これらの勾配の位置は、道路境界を指示しており、プロセスはステップ124aに進む。そうでない場合には、このさらなるサブセットは、道路境界を表わしておらず、プロセスはステップ120aに進む。
【0056】
ステップ120a〜120c:ステップ119a、119bで取り上げた、数の少ない方の勾配の平均の大きさを超過する大きさを有する、この少ない方の勾配から抽出された勾配だけを選択し、選択された勾配の位置に適合させた曲線が小さいχ2を有しているか否か、および、容認されている直近の傾きにほぼ等しい傾きを有しているか否かを決定する。「YES」の場合には、この適合曲線は容認可能であり(道路境界を指示しており)、プロセスはステップ124aに進む。そうでない場合には、道路境界は、勾配のみの分析によっては検出されず、画像の平均絶対偏差(MAD)を用いた、さらなる分析(ステップ121aから始まる)がなされる。
【0057】
ステップ121a〜121c:大きさの閾値(例えば8ビットのイメージャでは1〜255であり、好ましくは5〜20である)を超過する大きさを有するMAD勾配の位置を見出す。1本の曲線を適合させ、適合曲線のχ2と傾きに基づいて、それらのMAD勾配の位置が並んでいるか否かを決定する。χ2が十分に小さく、かつ適合曲線の傾きが、容認されている直近の傾きに一致すれば、この適合曲線は容認可能であり(道路境界を指示しており)、プロセスはステップ124aに進む。そうでない場合には、これらのMAD勾配の位置は、道路境界を表わしておらず、プロセスはステップ122aに進む。
【0058】
ステップ122a〜122c:MAD勾配の平均の大きさを超過する大きさを有するMAD勾配の位置を選択し、それらの位置に適合させた曲線のχ2および傾きをチェックすることによって、それらの位置が並んでいるか否かを決定する。「YES」の場合には、その適合曲線は容認可能であり(これらのMAD勾配の位置は道路境界を表わしており)、プロセスはステップ124aに進む。そうでない場合には、これらのMAD勾配の位置は、道路境界を表わしておらず、したがって、これらの位置を含んでいる画像フレームは空フレーム(標識も境界も見出されなかった)であり、プロセスはステップ123aに進む。
【0059】
ステップ123a〜123d:現在の画像フレームは空フレームであるから、最後の、空フレームでない画像フレームの時点からの走行距離(空区間)は増大しており、空フレームのカウントもインクリメントしている。空区間が長すぎる(例えば約30メートル)ということ、または空フレームが多すぎる(例えば通常の走行速度で約10画像フレーム)ということは、システムが、長い期間、車線区分線または境界を見出していないということを意味する。その結果、システムは、探索モードに戻る〔追跡モードと探索モードとのどちらにおいても、システムは、上述のステップを用いて標識をチェックするが、それらの間の違いは、追跡モードにおいては、システムは、探索モードにおけるよりも画像のより小さなエリア(ROI)をチェックするということである〕。
【0060】
ステップ124a、124b:車線区分線または道路境界を表わす、容認可能な適合曲線を備えた1つ以上の画像標識フィーチャが検出されている。標識点に適合させた曲線の傾き(または、より一般的には係数)が記憶され、以前の他の係数値と平均化される。平均化された(またはフィルタ処理された)係数値が、直近の傾きのテストと同様に、近似性に関して、次の画像フレームをテストするために用いられる。空フレームがある場合には、後にさらに論じるように、傾きおよび/または係数の近似性に関する要件は緩められる。
【0061】
ステップ125:車線区分線が検出されたら、検出された画像標識フィーチャ全ての幅を取り出して、それらの幅をメートルに変換し、平均化し、ノイズを除去するために、その平均をローパスフィルタに通す。1つの画像行に2つ以上の画像標識フィーチャ候補が見出された場合には、フィルタ処理された平均車線幅が、単一の画像標識フィーチャ候補を選択するために用いられる。システムは、各画像行において、勾配ピークおよび勾配バレーを検出する。1つの画像行に、2つ以上の勾配ピーク−勾配バレー対が存在し、複数の勾配ピーク−勾配バレー対の勾配ピーク−勾配バレー間隔が、最小標識幅限界より大きく、かつ最大標識幅限界より小さい範囲にある場合があるかもしれない。その場合には、システムは、それらの複数の勾配ピーク−勾配バレー対の中で、容認されている直近の車線区分線幅に最も近い勾配ピーク−勾配バレー間隔を有する、ただ1つの勾配ピーク−勾配バレー対を選択する。現在の画像フレームにおいて、2つ以上の勾配ピーク−勾配バレー対の勾配ピーク−勾配バレー間隔が、容認されている直近の勾配ピーク−勾配バレー間隔と一致する場合には、最近接勾配ピーク−勾配バレー対が選択される。最近接とは、予想される標識位置に対して最も近いことを意味している。
【0062】
ステップ126:次の画像フレームのための関心領域を決定する。次の画像フレームにおいて、関心領域がどこになるかを決定するために、カルマンフィルタを用いることができる。カルマンフィルタの詳細については、非特許文献1を参照されたい。関心領域(窓)の横方向のサイズは、車線区分線または道路境界の位置がわかっている場合には狭くされ、車線区分線または道路境界の位置がわかっていないか、または不確実である場合には広くされる。カルマンフィルタは、この不確実さの程度を、その共分散行列で表わす。関心領域ROI−LおよびROI−R(図3B)は、常に、最小標識幅の少なくとも4倍の幅を有する。関心領域は、次の画像フレームにおいて標識があるであろうと予測(予想)される領域に配置される。探索モードにおいて、標識がまだ見出されていない場合には、標識を探し出すことができるように、関心領域は、デフォルト位置に最大幅で配置される。
【0063】
ステップ127:任意選択的に、ダッシュ−ギャップタイプ標識のダッシュの開始位置および終了位置を学習して、ダッシュ間のギャップ内の、標識片もどきのものを排除する(それが存在した場合に)補足ステップを含んでいてもよい。これはダッシュ−ギャップタイプ標識の特性解析と呼ばれ、1つの画像フレームにおいて学習されたダッシュ/ギャップパターンが、次の画像フレームに適用される。このステップは、ステップ109とステップ110との間で行ってもよい。
【0064】
上記の諸ステップにおいて、画像フレーム間で、係数が十分によく一致するということは、連続する画像フレーム間において、大きな変化は生じていないということを意味する。特に、例えば直線適合が、画像フレームu、およびv画像フレーム後の画像フレーム(u+v)において行なわれると、画像中の標識は、次のように記述することができる。
r = m(u)*W + b(u)
r = m(u+v)*W + b(u+v)
ここで、rは標識中の点(ピクセル)の画像行座標、Wは標識(または境界)中の点の画像列座標、mは標識の傾き、bは切片である。(u)は、画像フレームuにおける量であることを表わしており、(u+v)は、画像フレーム(u+v)における量であることを表わしている。
【0065】
標識の傾きmおよび切片bは、時間の経過とともに変わりうる。係数一致は、次の条件が満足されたときに生じると定義する。
|m(u)−m(u+v)| < (定数1) + (v−1)*(定数2)
【0066】
この不等式の右辺は、vの増加につれて増加する。したがって、時間的に隔たった(v画像フレーム隔たった)2つの画像フレーム間の傾きの差(|m(u)−m(u+v)|)は、時間間隔の増加につれて増加することができる。(定数1)および(定数2)は、ともに正の量である。(定数1)(例えば0〜1の範囲にあり、好ましくは0.1〜0.3の範囲にある)は、連続する2つの画像フレームの間で容認可能な最大傾き差であり、(定数2)(例えば0〜1の範囲にあり、好ましくは0.01〜0.1の範囲にある)は、vの増加につれて増加する、傾き差の不確実さの程度を反映するような大きさに設定される。
【0067】
用いている線適合の妥当性をチェックするために、上述の係数一致テストおよびχ2テストが、検出プロセス100(図2B〜2D)において用いられる(すなわちステップ111、113b、115b、117b、118c、119b、120c、121c、122c)。次に、検出プロセス100のステップを実行する一例について、詳細に説明する。
【0068】
画像前処理(ステップ101〜106)
ステップ101および102の実行
図3Bに示すように、ピクセルのグレーレベル勾配および平均絶対偏差の決定が遂行される台形形状の関心領域(ROI)すなわち窓が、画像3内に識別される。画像3の台形形状の各ROIは、道路4上の平行四辺形形状に対応している(例えば関心領域ROI−LおよびROI−Rは、それぞれ図3Cに示されている道路4上の、横方向に3〜4メートル離して配置されている平行四辺形160Lおよび160Rに対応している)。各平行四辺形は、約0.7〜2.3メートルの幅、約14メートルの長さ、ビデオカメラ1から約6メートルの距離にある下側エッジ、およびビデオカメラ1から約20メートルの距離にある上側エッジを有している。幅Wtおよび高さHtで与えられる、画像3中の各ROIのサイズは、その内部の画像標識フィーチャ7L、7Rの予想される位置における誤差を受け入れるほどに十分に大きい。画像標識フィーチャ7L、7Rの大まかな位置がわかっていない場合には、関心領域(すなわち窓)の幅が、最大のサイズにされる。
【0069】
一例において、各ROIは、道路上の平行四辺形形状の領域に対応している。この平行四辺形形状の領域は、標識8Lまたは8Rの最小標識幅の少なくとも4倍の広さ(最大で2.3メートルの広さ)を有している。幅上限は、計算容量によって制限される。各ROIは、ビデオカメラの左側(または右側)約0.7メートルから始まって、外側に約3メートル広がる、道路4上の距離にわたっており、道路幅および車両幅の大部分をカバーする。関心領域ROI−LおよびROI−Rの幅は、標識の探索モードにおいて最大になり、標識の追跡モードでは、より小さくなる。標識の追跡モードにおける幅は、画像における標識の横方向の位置を予測する際の不確実さの程度に依存する。関心領域は、初期状態において、画像における、道路の消失点VPに関して対称に配置される。追跡モードにおいては、現在の画像フレームのROI内に、標識または境界が検出されている。したがって、次の画像フレームのROIは、現在の画像フレームの標識または境界の位置に基づいて、次の画像フレームにおいて、標識または境界が存在すると予想される領域に配置される。
【0070】
ステップ103および104の実行
図3Dに示すように、ROI内のピクセルpの各画像行(画像行座標r)が走査され、ピクセルのグレーレベル(GL)が、各画像行座標rの各画像列座標Wに対して計算される。次に、各画像行において、隣接ピクセル間のグレーレベル勾配(GLG)が抽出される。勾配ピーク(GP)と勾配バレー(GV)との間のピクセルの幅d1が、最大幅値(Marking_Width_Min)と最小幅値(Marking_Width_Max)との間にある場合には、勾配ピーク−勾配バレー対(GP−GV)の間のピクセル位置に、画像標識フィーチャが見出される可能性がある。車線区分線は、背景より明るいから、標識に入るときに、グレーレベルは、より明るくなり(正の勾配)、標識から出るときに、グレーレベルは、より暗くなる(負の勾配)。適切な間隔で隔たった正の勾配と負の勾配(勾配ピークと勾配バレー)が捜される。それは、画像標識フィーチャ(この場合には車線区分線フィーチャである)7L、7Rの一部分すなわち断片である可能性がある。
【0071】
上記のプロセスにおいて、ROI内の、複数のピクセルpから成る画像行セグメントrsのグレーレベルピクセルに、ローパスフィルタを適用することが好ましい。ローパスフィルタ処理によって、画像ノイズが減少する。図4を参照すると、例えば移動平均フィルタが用いられ、画像行セグメントrs中の隣接し合うピクセルpの値が足し合わされて、(局所的に)平均される。各ステップにおいて足し合わされるピクセルの数は、フィルタ長と呼ばれる。ローパスフィルタ長は、ピクセル数で表わされた、画像内に配置されている画像標識フィーチャの最小幅値(Marking Width Min)に等しい。
【0072】
ステップ105の実行
次に、勾配値(GLV)を決定するために、ローパスフィルタ処理されたピクセル値に対して、微分操作が行われる。微分をとるピクセルを飛ばして、その前後のピクセルの間の差分をとる中央差分法の方が、前方差分法や後方差分法より精度が高いから、中央差分法が用いられる。例えばフィルタ長が3ピクセルであり、7つのピクセルpから成るピクセルシーケンスに対するピクセルグレーレベル値が、x1、x2、x3、z1、y1、y2、y3である場合には、ピクセルz1における、ローパスフィルタ処理された勾配値は、(y1+y2−x2−x3)/6になる。勾配値は、フィルタ長3と、中央差分に伴う因数2とを乗算した6で正規化される。
【0073】
ステップ106の実行
ROI内のピクセルpの平均背景勾配値が算定される。標識エッジ候補を検出するために用いられた平均背景勾配値は、次の画像フレームにおける関心領域に対する勾配閾値を決定するために用いられる。各ROIにおける背景勾配値は、勾配ピークおよび勾配バレーを排除した後に残る勾配値の平均として計算される。各ROIは、標識およびその周辺の局所的なエリアしかカバーしておらず、標識は、単一の線として形成されている(一代替方策として、複数の実線を検出するために用いられる)という事実によって、ROI内に見出される、強度が最も大きな勾配を有するエッジのほとんどは、画像標識フィーチャ7L、7Rのエッジに一致しており、背景の一部ではない。
【0074】
したがって、ROIの各画像行(画像行座標r)において、近接していない2つの大きな勾配(勾配最大すなわち勾配ピーク)、および近接していない2つの小さな勾配(勾配最小すなわち勾配バレー)の位置が検出されると、それぞれのうちの一方を標識に属するものとし、他方をノイズに属するものとすることができる。ローパスフィルタ処理することによって、ピクセル強度は、多かれ少なかれ弱められ、したがって、勾配エッジは鈍らされる。すなわち、ローパスフィルタは、各勾配最大位置または勾配最小位置から左側または右側に、ローパスフィルタ長の範囲内にあるピクセル位置の勾配に作用を及ぼすことができる。そこで、勾配最大位置および勾配最小位置の各々から出発して、画像行に添って左側および右側に、勾配最大値および勾配最小値を排除して、ローパスフィルタ長まで達するか、ゼロ勾配に達するか、どちらか先に達成されるまで進む。各画像行において、残余の勾配の絶対値が合計され、また勾配の数が数え上げられて、その画像行における背景勾配の総量および総数が算出される。ROI内の全ての画像行における背景勾配の総量および総数が合計されて、そのROIにおける背景勾配の総量および総数が算出される。
【0075】
次に、ROIにおける平均背景勾配値(すなわち、勾配閾値)が、背景勾配の総量と背景勾配の総数との比として決定される。この比に、ある定数(通常、ほぼ3.0)を掛けて、勾配閾値を得てもよい。この勾配閾値は、次の画像フレームにおいて、有意な勾配量を決定するために用いられる(検出プロセスが開始する初期状態においては、最初の道路画像に有意の勾配値を検出するために、デフォルト勾配閾値を用いてもよい)。図5Aを参照して後に説明するように、任意選択に、MADおよびその勾配を、前処理中に適宜計算することができる。
【0076】
車線区分線または境界の候補点の特定(ステップ107〜109)
ステップ107の実行
ROIの各画像行を、左から右に横切って、連続する各勾配ピークと勾配バレーの位置を検出する。勾配値が勾配閾値以上であり、かつすぐ右側の位置の勾配値以上である位置が、勾配ピークの位置であると決定される。勾配値が、勾配閾値の負数以下であり、かつすぐ右側の勾配値以下である位置が、勾配バレーの位置であると決定される。
【0077】
現在の画像の各画像行を、ビデオカメラ(すなわちイメージャ)から受けたときにすぐに処理することができるようにするために、計算されていた直近の勾配閾値が、現在の画像フレームに適用される。また、現在の画像フレーム中に計算された勾配閾値が、次の画像フレームに適用され、そして以下同様に繰り返される。それに代えて、勾配閾値を、同じ画像フレームにおいて計算して用いてもよい。この代替例においては、ROI全体のピクセル値が、標識/境界検出処理ステップの前に利用可能になっている必要があり、また計算効率が低くなる。
【0078】
ステップ108、109の実行
各画像行の勾配ピークおよび勾配バレーを特定した後、次のアクションには、各画像行において左から右に進んで、左側の正の勾配(勾配ピーク)と右側の負の勾配(勾配バレー)とを一対化するステップが含まれる。標識幅の上限および下限(ピクセル数に変換したMarking_Width_MaxおよびMarking_Width_Min)を通じて、勾配対(すなわち、勾配ピーク−勾配バレー対)が、対を形成している勾配ピークと勾配バレーとの間で適切な幅d1を有しているか否かを決定することができる。適切な幅を有していれば(すなわち、勾配対が、最小でもMarking_Width_Min、最大でもMarking_Width_Maxである幅d1を有していれば)、その勾配対は、画像標識フィーチャによるものである可能性がある。道路境界位置に関しては、道路境界は、単一のエッジである(すなわち、車線区分線におけるように2つのエッジが対になっていることはない)から、勾配は、一対化されることはなく、正符号のグループと負符号のグループとに分けられている。
【0079】
十分な強度を有し(すなわち、絶対値が勾配閾値より大きい)、かつ適切な間隔を有する(すなわち、Marking_Width_Min < d1 < Marking_Width_Maxである)勾配対は全て、ROI内の画像の各画像行(画像行座標r)において特定される。1つの画像行に複数の候補勾配対が存在する場合には、最良の候補を選ぶための選択手続きが適用される(候補勾配対は、全ての勾配ピーク−勾配バレー対から形成される)。ROI中の画像標識フィーチャ7Lまたは7Rに対して予測される標識幅(前の画像フレームから検出された)と最も良く一致する幅d1を有する候補勾配対が選択される(前の画像フレームにおいて標識が特定されていない場合には、予測される標識幅はデフォルト幅である)。画像標識フィーチャ7Lまたは7Rが、1つの画像フレームから次の画像フレームに追跡されていくとき、予測される標識幅は、追跡されている標識において以前に容認された検出幅の平均をローパスフィルタ処理することによって決定される。複数の候補勾配対が、以前の幅を用いた基準に対して、同じように一致した場合には、予測される標識中心位置に最も近い中心位置を有する候補勾配対が選択される。
【0080】
このプロセスが、ROI内の全画像行にわたって繰り返され、各画像行から、多くても1つの候補勾配対が、検出された画像標識フィーチャとして特定される。次いで、最適適合回帰曲線を見出すために、特定された候補勾配対(すなわち候補点)のうちの内側エッジ点(ピクセル)の位置は、多項式最小二乗適合または多項式最小中央値適合において用いられる。内側エッジ点の位置に加えて、検出された車線区分線の画像標識フィーチャにおいては、左側および右側の内側エッジの勾配量、道路境界の画像標識フィーチャにおいては、単一のエッジの勾配値が記憶される。車線区分線の画像標識フィーチャにおいては、さらに、左右の車線区分線エッジ間の平均輝度が記憶される。後に、例えば候補点を、車線区分線または道路境界に組み立てるときに、これらの情報を用いることができる。
【0081】
曲線適合による、候補点からの車線区分線の検出(ステップ110〜115b)
ステップ110、111の実行
ROIの各画像行で検出された候補点に適合曲線を通すことによって、車線区分線または道路境界を組み立てる。曲線(すなわち回帰曲線)が、十分に小さなχ2量を有しており(したがって、曲線が十分に適合しており)、現在の曲線が、容認されている直近の適合曲線の係数と一致する係数を有している場合には、その回帰曲線は、車線区分線または道路境界を表わすものとして容認される。回帰曲線が容認されなかった場合には、候補点の異なるサブセットに、曲線適合を複数回試みる必要がある場合もある。
【0082】
ステップ112、113a、113bの実行
曲線のχ2量が大きすぎる(すなわち、χ2閾値より大きい)か、または曲線係数(傾き)が、容認されている直近の曲線係数(傾き)に近似してしない場合には、候補点のサブセットが選択され、このサブセットに、曲線適合プロセスが行われる。車線区分線検出においては、サブセットは、二通りに形成される。第1のやり方においては、考慮している勾配の大きさの平均を超過する、勾配の大きさを、どちらの候補勾配も有する候補勾配対だけが選択される。これによって、最大強度のエッジ点を有する候補勾配対(大きな勾配の勾配対から成る候補点)だけが用いられる。このやり方によって、十分に小さなχ2を有する適合曲線を得ることに成功すれば、現在の適合曲線の係数が、容認されている直近の適合曲線の係数と比較される。
【0083】
ステップ114、115a、115bの実行
大きな勾配の勾配対から成る候補点が、χ2閾値テストおよび係数一致テストで落とされた場合には、次に、最大輝度のピクセル群を、間に挟んでいる勾配対が、曲線適合のために選択される。最大輝度のピクセル群とは、全ての勾配対の間の全てのピクセルの輝度値の平均より大きな平均輝度値(グレーレベル)を備えたピクセル群として定義される。これが成功した場合には(この場合、χ2は容認可能である)、次いで、現在の回帰曲線(適合曲線)の係数が、容認されている直近の適合曲線の係数と比較される。係数一致が容認された場合には、現在選択されている候補点は、車線区分線の画像標識フィーチャを表わしている。したがって、曲線適合は3回試みられている(1回目は、全勾配対の位置に基づいてなされ、2回目は、平均勾配より大きな勾配を有する勾配対から成るサブセットに基づいてなされ、3回目は、平均ピクセル輝度より大きな平均輝度を有するピクセル群を間に挟んでいる勾配対から成るサブセットに基づいてなされている)。
【0084】
車線区分線検出のための3つの回帰曲線処理の全てが成功しなかった場合には、道路境界検出のための探索が実行される。これは、車線区分線が画像中に見出されなかった場合でも、まだ、道路境界の位置を示す単一の勾配が存在するかもしれないからである。したがって、以下に示す、道路境界の位置に対する処理に関する次段階は、車線区分線が見出されなかったときにのみ実行される。
【0085】
曲線適合による、候補点からの道路境界の検出(ステップ116〜123d)
ステップ116、117a、117bの実行
道路境界検出においては、正の勾配と負の勾配の位置が、多項式最小二乗適合または多項式中央値適合に、別々に用いられる。これは、単一の画像フレームの道路−非道路境界は、境界の視認可能な全長にわたって、同じ符号の勾配を有するということを、無理なく予想することができるからである(例えばコンクリートから草地に遷移する境界が存在する場合には、画像全体にわたって明から暗に遷移し、境界における勾配は負になるであろう)。最初の試みは、正の勾配値と負の勾配値のうちで、より多く存在する方の勾配値の位置に曲線を適合させることである(例えばほとんど負の勾配だけが存在する場合には、境界点候補の特定において、相当数の負の勾配の位置に沿って、曲線を適合させる)。同数の正の勾配値と負の勾配値が存在する場合には、最初に、負の勾配値の位置が用いられる。適合曲線(回帰曲線)のうちのいずれかが、十分に小さなχ2量を有しており(したがって、その適合曲線はデータとよく適合している)、かつ容認されている直近の適合曲線の係数にほぼ等しい係数を有している場合には、その現在の適合曲線(回帰曲線)が、道路境界を表わしているとして容認される。道路境界として検出されるためには、勾配量は、周囲状況に関係なく、単純に1つの閾値(例えば8グレーレベル)を超過していなければならない。
【0086】
ステップ118a〜118cの実行
道路境界検出のための、勾配の回帰曲線の適合測定においてχ2の大きさが大きすぎる〔閾値(例えば2.0)に対比して決定される〕か、または回帰曲線の係数が、容認されている直近の係数に近似していない場合には、考慮している全勾配の大きさの平均値を超過する大きさを有する勾配のみを選択し、それらの選択された勾配から成る、勾配のサブセットを用いる(車線区分線検出プロセスにおけると同様に)。この勾配のサブセットに、容認可能なχ2を有する1つの曲線を適合させることができた場合には、その適合曲線の係数が、容認されている直近の適合曲線の係数とほぼ同じであるか否か、比較される。
【0087】
ステップ119a〜123dの実行
この現在の適合曲線が、上記と同様の、係数に関するテストで落ちた場合には、プロセスは、最初に、数の少なかった方の符号の勾配の位置全部を取り上げ、次に、必要に応じて、勾配の平均の大きさを超過する大きさを有する勾配から成るサブセットを取り上げるように進む。
【0088】
最初に、少数であった方の符号の勾配の全位置を、1つの曲線に適合させたとき、それらの位置は並ぶか否かが決定される(すなわち、χ2が十分に小さいか否か、またこの適合曲線の傾きが、容認されている直近の傾きとほぼ一致するか否かが決定される)。「YES」であった場合には、少数であった方の符号の勾配の位置が、道路境界に対応している。
【0089】
χ2が大きすぎるか、または適合曲線の傾きが、容認されている直近の傾きに近似してしない場合には、少数であった方の符号の勾配の位置のサブセットが選択され、このサブセットの勾配の位置を1つの曲線に適合させたときに、ほぼ並ぶか否かが決定される(すなわち、χ2が十分に小さいか否か、またこの適合曲線の傾きが、容認されている直近の傾きとほぼ一致するか否かが決定される)。「YES」であった場合には、このサブセットは、道路境界を示している。このサブセットは、少数であった方の符号の全勾配の平均の大きさを超過する大きさを有する、少数であった方の符号の勾配の位置の集合である。
【0090】
このサブセットの勾配の位置さえ、十分よく並ばなかった場合、または適合曲線の傾きが、容認されている直近の傾きと一致しなかった場合には、次に、プロセスは、画像中に測定される平均絶対偏差(MAD)を用いたさらなる分析に進む。大きさの閾値を超過する大きさを有するMAD勾配の位置を見出すことで、この分析を開始してもよい。これらの位置に、1つの曲線を適合させたときに、χ2および適合曲線の傾きに基づいて、これらの位置が、並ぶか否かが判定される。χ2が十分に小さく、かつこの適合曲線の傾きが、容認されている直近の傾きと一致すれば、この適合曲線は容認可能である(道路境界を示している)。
【0091】
これらの位置が十分よく並ばなかった場合、または適合曲線の傾きが、容認されている直近の傾きと一致しなかった場合には、次に、MAD勾配の平均の大きさを超過する大きさを有するMAD勾配の位置を選択し、それらの位置に対する適合曲線のχ2および傾きをチェックすることによって、それらの位置が、並ぶか否かを判定する。「YES」の場合には、その適合曲線は容認可能である(これらの位置は、道路境界を表わしている)。
【0092】
そうでなかった場合には、現在の画像フレームは「空」フレームであり、標識も境界も見出されていない。したがって、最後の、空フレームでない画像フレームの時点からの走行距離(空区間)が増加しており、空フレームのカウントもインクリメントしている。空区間が長すぎるということ、または空フレームが多すぎるということは、システムが、非常に長い期間、車線区分線や境界を見出していないということを意味している。したがって、システムは、最大幅の関心領域を用いて、その探索モードに戻る。システムは、探索モードにいることもできるし、追跡モードにいることもできることに注意されたい。
【0093】
MAD処理
道路と、道路を越えている部分とが、近似的に等しい平均グレーレベルまたは色を有していることはあり得ることである。これは、平均グレーレベルまたは明度を比較することによって、道路と、道路を越えている部分との間の遷移領域を識別することはほとんどできないということを意味している。したがって、この低い識別可能性のために、曲線適合(多項式適合)に利用可能な十分な数の点を得ることができなくなるか、または境界に関係ない余分で無秩序な点によって、良質な曲線適合を行うことができなくなる。このような場合には、ステップ104において、隣接し合うピクセルのグループの平均絶対偏差(MAD値)が比較され、それによって、単純なテクスチャ比較が行なわれる。図5Aの例に示されているように、局所平均を利用可能な場合には、MADを計算するために、最初に、平均値を差し引く必要がある(例えば移動平均ローパスフィルタ処理後の前処理中に行われる)。MADを得るために、和(|P|+|Q|+|R|)が、フィルタ長(この例では、3である)で割られる。各画像行において、MADを計算するために用いるピクセル数は、フィルタ長に等しい。したがって、ローパスフィルタ処理と、MAD計算とを容易に結びつけることができる。さらに、ステップ105において、各ピクセル位置で、MAD値が生成される。道路エッジを越えたエリアは、道路と異なるテクスチャを有するであろうから、画像の道路エリアと非道路エリアとは、相異なるMAD値を有するであろう。MAD値は、車線区分線を見出すために用いられた中央差分などの数値微分係数と比較され、相異なる2つのテクスチャの境界に対応する、差の閾値を超過する差を有する位置が記憶される。各画像行においてMAD値を計算した後の前処理中に、数値微分を行なうことができる。上述と同じ中央差分操作を、車線区分線検出の場合と同様に、MAD値の計算においても用いることができ、それと適宜に組み合わせることができる。図5Bは、車線境界標識を含んでいる車道の画像を示しており、図5Cは、図5Bの画像をMADフィルタに通した後の、MAD画像における勾配を示している。MADフィルタ処理することによって、道路エリアおよび車線区分線エリアは、一般に、相対的に低いMAD値(暗色)を有するようになり、車線区分線のエッジは、一般に、相対的に高いMAD値(明色)を有するようになる。
【0094】
さらに、ステップ121aにおける比較は、単純な閾値を用いて行われる。その閾値を超過する大きさを有するMAD勾配の全ての位置が記憶される。このような位置は、例えばアスファルトと草地との間の境界に存在し得るテクスチャの局所的変化に対応する。このテクスチャは、画像において認識可能でなければならず、かつビデオカメラによって解像されなければならないから、この方法は、一般に、ビデオカメラ近傍で最もよく働く。さらに、ステップ121cにおいて、閾値を超過する大きさを有するMAD勾配の位置に適合させた最小二乗曲線が、容認可能な結果を与えた場合には、その最小二乗曲線の係数が、容認されている直近の最小二乗曲線の係数と比較される。妥当性の判定の主要件(適合曲線のχ2および係数で判定される)が満たされない場合には、ステップ122aにおいて、MAD勾配の平均の大きさを超過する大きさを有するMAD勾配の位置だけが、上述の3段階式と同様に、候補点に対する2番目のデータ適合の試みのために用いられる。適合曲線の適合度および容認されている直近の適合曲線の傾きとの一致度が、上述と同様にテストされる。
【0095】
このように、データに対する最大9つまでの複数の試みを組み合わせることによって、また複数のタイプのデータを用いることによって、路面標識または境界を見出す尤度が増す。したがって、この方法は、従来の方法より優れている。
【0096】
移動平均フィルタ長
移動平均フィルタ長は、最小画像標識フィーチャサイズから始めて、標識モデルベースの機能43(図2A)によって決定される。標識に対する1つのモデルを適用し、このモデルに一致する、道路画像の部分(ROI窓内の)を見出すことによって、標識は見出される。このモデルは、標識の既知の最小寸法および最大寸法、周期性(ダッシュ−ギャップタイプ標識における)、および背景に対するコントラストを利用する。標識は、直線に近いと仮定する。そうすると、標識候補点(ピクセル)に適合させた直線は、実際の標識形状とよく一致する。ただし、これは必要不可欠なことではない。最初のステップは、標識8L、8Rの道路上の寸法を、画像面内の対応する画像標識フィーチャ7L、7Rの寸法に変換することである。
【0097】
現実の標識8L、8Rのサイズおよび周期性は、ビデオカメラの焦点距離FL、および道路4に対するビデオカメラの高さhに基づいて、画像面201内の対応する画像標識フィーチャ7L、7Rのサイズおよび周期性に変換される(図6A)。具体的には、ビデオカメラ1の傾斜角α、ビデオカメラ1の高さh、道路4上の点203(P)までの、ビデオカメラの前方の縦方向距離(x=d)、垂直方向ピクセルサイズVp、焦点距離FL、および画像面内の画像行座標r(光軸205に相対的に測った)の間の関係は、数1によって記述される。
【数1】
【0098】
さらに、画像行座標rおよび画像列座標Wのピクセルp〔水平方向ピクセルサイズHpおよび垂直方向ピクセルサイズVp(図6B)〕は、次のように、前方道路上の横方向距離y(図3A)の点を映し出す。
W = y*(FL2+r2*Vp2)1/2/Hp*(h2+d2)-1/2 (2)
この式を書き換えると、次のようになる。
y = W*Hp*(h2+d2)1/2/(FL2+r2*Vp2)1/2 (3)
【0099】
画像行座標rおよび横方向距離yは、ビデオカメラ1の光軸、またはビデオカメラ1の光軸を前方道路上に垂直に投影した直線に相対的に測定される。
【0100】
横方向距離yを最小標識幅にとると、標識点までの距離が知れれば、ビデオカメラの前方の縦方向距離dが決定され、次に、最小標識幅に対応する画像標識フィーチャ内に存在するピクセル数を表わす画像列座標Wが決定される。ピクセル数は、ビデオカメラの前方の縦方向距離dに応じて、したがって、画像面上で、それに対応する画像行座標rに応じて変化する。垂直方向のピクセルサイズと水平方向のピクセルサイズとは、互いに異なっていてもよい。
【0101】
最小標識幅に対応する画像標識フィーチャ内に存在するピクセル数が決定されると、ピクセル数を単位とした適切な大きさでフィルタ処理することによって、より小さな(ピクセル数の少ない)画像標識フィーチャは、考察から取り除くことができる。標識の幅に対応するピクセル数は、ビデオカメラから標識までの距離〔投影距離(PD)〕に応じて変化することに注意されたい。例えば図7の例に示されているように、同じサイズの標識8Lまたは8Rが、ビデオカメラから遠いところでは、画像上で相対的に少ないピクセルしか占めず、ビデオカメラから近いところでは、相対的に多いピクセルを占める。言い換えると、一定の最小標識幅に対して、画像の頂近傍の画像行においては、画像の底近傍の画像行などにおけるよりも短い移動平均フィルタ長が用いられる。したがって、最小標識幅から計算される移動平均フィルタ長は、画像中の画像行の位置に応じて変化する。標識幅が同じであっても、上方の画像行(道路上では遠方)においては、下方の画像行(道路上では近傍)におけるよりも短い移動平均フィルタ長が用いられる。
【0102】
係数一致
上述したように、候補点(ピクセル)への適合直線に対する容認(妥当性)テストは、適合直線の傾きの長期にわたる連続性(複数の画像フレームにわたる、曲線の係数の近似性)が確立されて、はじめて合格になる。これは、車線区分線または道路境界は、画像において、画像フレームから画像フレームへと急激に方向(傾き)を変更しないからである。
【0103】
現在の画像フレームの候補ピクセルに対する適合直線の傾きを、容認されている直近の適合直線の傾きに基づく期待値と比較する。現在の画像フレームkにおける傾きをm(k)で表わし、1回以上継続して容認されている適合直線の傾きをfm(k)で表わすと、現在の適合直線の傾きは、次の条件が満たされたときに容認可能になる。
|m(k)−fm(k)| < slope_error (4)
【0104】
ここで、slope_errorは、どれぐらい多くの画像フレームの前に、容認可能な適合直線の傾きが検出されていたかに基づいて選択される。それが前であればあるほど、その傾きが現在も検出されることは、より不確実になり、より大きなslope_errorが用いられる。図8は、許容可能な傾き誤差、および、その時間経過に伴う増加の一例を示している。時刻tG〔その時刻まで、容認可能な適合直線の傾きが存在していた(容認可能とは、値がそれ以前の値に近似しているということを意味している)〕と時刻tFとの間で、許容可能な傾き誤差は、最小値Minから最大値Maxまで、線形に増加する。図8は、さらに、時刻tGおよびtFにおいて、予想される画像標識フィーチャ152に関して許容可能な傾きの範囲、および1つの候補適合直線/曲線150の傾き(一様な係数)が、許容可能な傾きの範囲外にある例を示している。要求される範囲内にある傾きを有する容認可能な適合直線が見出された場合には、新しく容認された測定値がローパスフィルタに通され、以前の測定値と混合されて、フィルタ処理された現在の傾きfm(k)が更新される。このローパスフィルタは、IIR(Infinite Impulse Response:無限インパルス応答)タイプであり、更新された傾きfm(k)は、次のように与えられる。
fm(k) = a*fm(k−1) + (1.0−a)*m(k)
【0105】
データのサブセットにおいてさえ、十分に小さいχ2を有する適合直線が見出されないということはあり得る。さらに、十分に低いχ2を有する適合直線は見出されるが、この適合直線は、上述の傾きの誤差に関する条件式(4)を満たさない(予想される傾きに近似性高く一致する傾きを有する直線にならない)ということもあり得る。どちらの場合においても、このプロセスにおいて、条件式(4)が試される次回において、適合直線の傾きに関する不確実さの増加が考慮に入れられる。その結果、slope_errorは、数2のように、連続する空フレーム数の増加に伴って増やされる。
【数2】
【0106】
二次曲線またはより高次の曲線が、勾配算定から見出された候補点に適合した場合には、画像内の直線の傾きに対する上述の条件式(4)に、二次の項(および場合によっては、より高次の項)の変化の大きさを考慮に入れる項目が含められる。二次の項は、画像面において適合させた多項式の曲率に関連しており、許容される係数変化(Allowed change in coefficient)は、数3で記述される。
【数3】
【0107】
空フレームの数は、システムが容認可能な境界または標識を見出していない時間と等価である。空フレームおよび空区間の決定および利用の例を、次に説明する。
【0108】
空フレーム、空区間のカウント
どれくらい長く、またどの程度に、容認可能な(妥当な)適合曲線が検出されていないかを決定するために、空フレームの数および空区間の長さが更新される。容認可能/妥当であるか否かは、χ2の大きさに基づいて、候補点に対する適合直線の構築に成功した時に、次に、その傾き(係数)の近似性テストに基づいて決定される。図9は、空フレームおよび空区間の測定(カウント)を行う追跡プロセス200の一例を示している。具体的には、図9は、空フレームおよび空区間のカウントの更新の仕方、および、標識の予想される位置に基づいて、連続する画像フレームにおいて標識を追跡するモードからの、空フレームおよび空区間のカウントが容認可能な限界を越えたときに、画像フレーム中に標識を探索するモードへの移行に対する、カウントの適用の仕方を示している。追跡プロセス200は、次のステップを含んでいる。
ステップ201:現在の画像のROI内の候補点(ピクセル)に対して、容認可能なχ2特性を有する適合曲線(または適合直線)を備えた車線区分線/境界候補モデルを見出すことによって、現在の画像フレームにおいて標識を追跡する。
【0109】
ステップ202:車線区分線/境界候補モデルの傾き(一様な係数)が、以前の画像から予想される傾きの許容可能な範囲内にあるか否かを決定する(図8)。「YES」である場合には、プロセスはステップ203に進み、そうでない場合には、ステップ204に進む。
【0110】
ステップ203:空フレームおよび空区間のカウントをリセットする(例えば0に)。次いで、次の画像フレームにおいて標識を追跡するために、プロセスはステップ201に戻る。
【0111】
ステップ204:空フレームのカウントを1だけインクリメントし、空区間を、車両の走行距離V*Δtだけインクリメントする。ここで、Vは現在の車両速度、Δt=(t2−t1)は画像フレーム継続期間である。
【0112】
ステップ205:最大容認可能な空フレーム値または空区間値に到達しているか否かを判定する。「YES」である場合には、プロセスはステップ206に進み、そうでない場合には、次の画像フレームにおいて標識を追跡するために、ステップ201に戻る。
【0113】
ステップ206:追跡モードを停止/中止し、次の画像フレームにおいて、標識/境界の探索モードに入る。
【0114】
追跡プロセス200によれば、容認可能な適合曲線が存在しない全ての画像フレームに対して、空フレームのカウントは1だけインクリメントされる。容認可能な適合曲線が見出されたときには、空フレームのカウントは、0にリセットされる。同様に、容認可能な適合曲線が存在しない全ての画像フレームに対して、空区間は、直前の画像フレームにおいて車両が道路上を走行した距離(現在の車両速度*画像フレーム継続時間)だけインクリメントされる。容認可能な適合曲線が見出されたときには、空区間は、0にリセットされる。
【0115】
追跡プロセス200は、空フレーム値および空区間値を更新するステップ、およびいずれかの値が大きくなりすぎた場合には、追跡を中止するステップを含んでいる。追跡が中止された場合には、システムは探索モードに戻り、それ以前の画像における標識検出に基づく、標識の予想位置に頼ることなく、標識を新たに探索するために、境界/標識を見出すための窓すなわちROIを、その最大サイズおよびデフォルト位置に戻す。
【0116】
次に、車線区分線および道路境界の検出に対する、さらなる精度向上を説明する。第1に、境界検出領域の横方向位置および幅の精度を向上させることができる。第2に、上述の基本的な標識検出を改善するために、ダッシュ−ギャップタイプ車線区分線の周期性を考慮に入れることができる。
【0117】
境界検出領域(ROI)の横方向位置および幅
この精度向上は、関心領域横方向設定モジュール34(図2A)によって実行され、画像の左端/右端に相対的に、画像3内のROIの水平方向の位置および幅が決定される(全て、ピクセルを単位として)。次に説明するように、道路境界は、道路画像内のROIの2種類のサイズにおいて探索される。ROIのこれらのサイズのどちらが用いられるかは、以前に、上述の空フレームおよび空区間のテストを受けた画像フレームにおいて、境界が検出されていたか否かに関係している。ある画像フレームにおいて、空フレーム値および空区間値が大きくなりすぎている場合には、システムは、次の画像内に標識を検出するためのガイドとして用いることができる、現在の画像のROI内に予想される標識の位置を見出していない。この場合には、ROIのサイズは、最大になるように選択され、またROIは、長期にわたって平均化された、道路の地平線の消失点VPを通る垂線に関して対称に配置される(図3B)。最大ROIにおける標識の検出は、ROI内の道路のほぼ中央に位置するように、かつハイウェイ速度で概ね妥当と予想される標識に、ある程度平行になるように行われるのが好ましい。画像3内の両ROI(図3B:ROI−L、ROI−R)間の距離、および各ROIのサイズは、道路4上の対応する両平行四辺形(図3C:160L、160R)間の距離が、デフォルト横方向車線区分線間隔(例えば約3.6メートル)となり、道路4上の各平行四辺形の幅が、デフォルト幅(約2.3メートル)となるように選択される。画像標識フィーチャ7L、7Rは、最大ROIの内部のどこかにあってもよく、一側面上または両側面上にあってもよく、そして、上述の検出プロセス100によって検出される。図3Cは、いくつかの例示的な寸法を簡潔に示している。
【0118】
次に、画像標識フィーチャが、現在の画像のROI内に検出されると、ROI領域のサイズが、その内部の標識ピクセルの位置に関連付けて算出される。これによって、各ROIのサイズを縮小し、検討の対象からノイズを排除することができる。そのために、次の画像フレームから始まる、それ以降の標識の追跡が改善される。標識検出領域であるROIは、ROI内の予想される画像標識フィーチャ152の位置の不確実さの程度(図8)に比例して大きさを定められる。予想される画像標識フィーチャの位置の不確実さの程度は、全ての測定に用いられるカルマンフィルタによって定められる。ROIの最小可能な幅は、ピクセルで±(最小標識幅の2倍)である、すなわち、路上7.5センチメートルの標準的な最小標識幅に対して、およそ30センチメートルの路上全幅となる。
【0119】
境界検出領域(ROI)の縦方向位置
この精度向上は、関心領域縦方向設定モジュール33(図2A)によって実行される。ROI(図3B:ROI−L、ROI−R)は、画像3において垂直方向に配置され(画像の頂/底に相対的に)、それらの垂直方向の長さは、ビデオカメラ1の前方の近接距離および遠方距離の道路上の位置という観点から、道路上の対応する平行四辺形(図3C:160L、160R)の縦方向距離に基づいて選択される。最高性能を得るために、道路4上の各平行四辺形の近接エッジ162を、ビデオカメラ1に可能な限り近づけることが有利である。その結果、ビデオカメラの景色の不明瞭さがより少なくなり、解像度が最良になり、よりよい検出精度が可能になる。各平行四辺形の近接エッジ162は、通常、車両のボンネット端(それが存在すれば)を越えて、約5〜7メートル離れた位置にある。ROIの近接エッジ(画像3の底に近い)は、道路4上の対応する平行四辺形の近接エッジ162の距離に基づいて決定される。
【0120】
各ROIの遠方エッジ(画像3の頂に近い)においては、イメージャのピクセルサイズによって与えられる物理的な限界が存在する。標識が識別可能であるためには、標識は、幅方向に、少なくとも2つのピクセルにわたっていなければならない。ローパスフィルタ処理において、画像内の標識は、少なくとも2つのピクセルにわたって広がっているべきである。そうすると、単一ピクセルのノイズの影響が弱められる(形成することができる最も小規模な平均は、ただ2つの値の平均を見出すことである)。このことが、各ROIの遠方エッジの、画像3の頂からの距離を制限する。より大きな路上距離における標識の探索は、ピクセルがかなり小さかったとしても、画像内で探索すべき正確な場所に関して不明瞭さを増大させ、不確実さの程度を大きくする可能性があるために、困難になるであろう。したがって、ROIは、十分に長いけれども、ダッシュ−ギャップタイプ標識の2つのダッシュ間に1つのギャップをはさみ、かつそれらの2つのダッシュの有効長を含む程度に選択するべきである。画像3内の関心領域ROI−L、ROI−Rの垂直方向の長さ(ピクセルを単位とした)は、対応する平行四辺形160L、160Rの望ましい縦方向の長さ(例えば平行四辺形160L、160Rの縦方向の長さは、道路上、約15メートルであり得る)に基づいて選択される。
【0121】
ダッシュ−ギャップタイプ標識の特性解析(ダッシュ−ギャップタイプ標識の学習縦方向モデル)
この精度向上は、ダッシュ−ギャップタイプ標識の特性解析の機能47(図2A)によって実行される。ダッシュ−ギャップタイプの車線区分線は、ダッシュ間に標識の欠けたエリアすなわちギャップを含むために、確実な情報を、連続車線区分線より少なくしか与えない。この確実性の低下のために、特にダッシュ間のギャップにおいて、検出器が標識に似た他の物体を誤認する可能性が生じる。ダッシュ−ギャップタイプ標識の特性解析の機能47によって、ダッシュ−ギャップタイプ標識のパターンが学習され(例えばその標識は、5メートルの長さのダッシュ、2メートルの長さのダッシュ間ギャップを有しており、次の画像フレームにおいて、1.3メートル遠方で、次のダッシュが始まる)、次いで、ダッシュ間のギャップ内に存在する、画像標識フィーチャに似た断片が考察から除外される。これによって、標識に似た他の物体が追跡を混乱させ得る状況において、ダッシュの追跡が改善される。
【0122】
図10を参照すると、一例において、ダッシュ−ギャップタイプ標識は、ダッシュ170とギャップ172との連続として定義される。機能47によって、測定において空隙からダッシュが特定される。各画像フレームにおける標識検出によって、その画像におけるダッシュ−ギャップパターンが構築される。ダッシュ−ギャップパターンを形成するために、連続する画像行における標識検出結果が、一緒に集められる。各ダッシュの始点および終点の画像行の位置が、ビデオカメラからの道路距離に変換される。ダッシュ−ギャップタイプ標識パターンが、ビデオカメラから、検出された各ダッシュの始点および終点までの距離によって表わされる。
【0123】
車両が道路に沿って走行するにつれて、重ね合わされるダッシュ−ギャップタイプ標識パターンが、自動的に蓄積される。連続する2つの画像フレーム間において、車両が走行する距離が分かるから、この重ね合わせは可能である。その走行距離は、(V*Δt)である。ここで、Vは車両速度であり、Δtは連続する2つの画像フレーム間の継続時間である。図10に示されているように、以前の画像に示されている標識パターンを、走行距離量(走行距離量は走行時間にわたって累積される)だけ車両側に滑らせ(後ろに移動させ)、現在の画像に示されている標識パターンを組み入れることによって、それらの画像フレームで検出された標識パターンの、走行距離量で補正された時間履歴が蓄積される。その時間履歴は、各ダッシュの始点および終点(したがって、各ギャップの始点および終点)の車道に沿った位置を示している。
【0124】
特定のダッシュが、新しい画像で観察されるたびに、その特定のダッシュの始点および終点の位置が、以前に算定されている始点および終点の位置と新しく観察された位置との関数として更新される。各ダッシュの長さLDは、そのダッシュの終点から始点までの距離として決定される。各ギャップの長さLGは、1つのダッシュの始点から、その前のダッシュの終点までの距離として決定される。ダッシュ−ギャップタイプ標識の特性解析の機能47の遂行時、ダッシュ−ギャップタイプ標識を検出するプロセスにおいて、所定の最小ダッシュ長および最大ダッシュ長によって定められるダッシュ範囲、および所定の最小ギャップ長および最大ギャップ長によって定められるギャップ範囲が用いられる。定められた範囲外にある間隔が観察された(ダッシュかギャップのいずれかで)場合には、常に、ダッシュ−ギャップタイプ標識が終了していると考える。
【0125】
定められた範囲内にある少なくとも3つの間隔(ダッシュ−ギャップ−ダッシュかギャップ−ダッシュ−ギャップのいずれかの)が観察されたときには、その標識は、ダッシュ−ギャップタイプ標識として分類される。このとき、このモデルは、既に、続く画像フレームにおけるダッシュおよびギャップの位置を予測するために利用することができるほどに十分に学習している。次の画像フレームにおけるダッシュ−ギャップパターンの位置は、現在のダッシュ−ギャップパターンを、車両側に、(V*Δt)だけ滑らせることによって予測される。各ダッシュの予測された始点および終点までの距離が、対応する画像行座標に変換される。ダッシュの位置であると分かっている画像行において標識検出が行われ、かつギャップの位置であると分かっている画像行において標識検出が拒絶されるフィルタが構築される。
【0126】
さらに、既知のダッシュおよびギャップの長さが、ダッシュ−ギャップパターンの観察に先立って、画像内のダッシュおよびギャップの位置の予測のために用いられる。ダッシュの間隙および長さ内に、なんらかのノイズが存在するかもしれないから、道路上のダッシュの各端部に、不確実領域が割り当てられる。その不確実領域で検出されたものが標識に属しているものであれば、容認される。この不確実領域は、例えば0.5メータルの長さであり、各ダッシュ領域の両端に設けられる。発明者による、実際の車道データを用いた広範な実験によって、車両が移動するにつれて、標識パターンは頻繁に変化することが明らかになった。このため、予測は、直近に観察されたダッシュまたはギャップの端点を超えて、1つのダッシュ−ギャップ距離までに制限される。
【0127】
ダッシュ−ギャップ予測(モデル)の適用の一例が、図11に示されている。画像から入ってくる標識構造169(左端に示されている)が、フィルタ171(中央に示されている)に通され、その結果、フィルタ処理されたダッシュ−ギャップタイプ標識173(右端に示されている)が生成される。ブロック177は、道路上に見出される実際のダッシュ−ギャップタイプ標識の断片を表わしている。それらのうちのいくつかはノイズであるかもしれない。フィルタ処理プロセスを用いることによって、ダッシュ間のギャップおよび不確実領域175内にある、画像中の標識に似た物体は、画像からの道路標識の構築に用いられない(曲線適合に用いられない)。路面標識の容認に当たって、ある長さの不確実領域175を準備して、ダッシュ間のギャップ内にある標識候補を排除する(例えばそのような不確実領域は、そこに見出される標識片の容認を可能にするために、予想される各ダッシュの位置の端部の0.5メートルの領域であってもよい)。
【0128】
日中操作と夜間操作で異なるパラメータ
昼夜差の機能45b(図2A)は、この精度向上において実行される。外界センサが日中なのか夜間なのかを判断し、その情報が、昼夜差の機能45bにおいて用いられる。日中操作と夜間操作とで、互いに異なる物理的寸法/閾値が用いられる。これによって、日中に検出されるもの(例えばボッツドッツ)と夜間に検出されるもの(例えば夜間になってはじめて見えるようになることが多い、ボッツドッツと異なるサイズを有するリフレクタ)との外観の差が補償される。さらに、もっとずっと細かくて無関係な物体が、夜間におけるよりも日中において見える傾向がある。日中と夜間とで異なるように調節される寸法/閾値を用いることによって、検出システムは、イメージャ/ビデオカメラがどのように道路を「見る」かを調整する。例えば夜間においては、画像にブルーミングが生じるかもしれないということが考慮される。ブルーミングとは、イメージャ(ビデオカメラ)が、夜間には、あまり明るい物体を扱うことができないという状態を記述する用語である。明るい物体による画像フィーチャは、その物体に対応するピクセルの隣のピクセルまでおよぶ。すなわち、ブルーミングが生じて、画像の光景が変化する。
【0129】
標識は、日中と夜間とで、互いに異なって見える。この外観の違いは、夜間には、指向性のある照明(ヘッドライト)が用いられるのに対して、日中には、一般に、より一様な照明が用いられるという事実に起因する。リフレクタのようないくつかの標識は、それらの指向性のある反射のために、日中よりも夜間において、はるかによく見える。
【0130】
日中状態と夜間状態との間で調整される寸法/閾値には、標識のサイズ、適合線を容認するために必要な候補点の数、標識の最小コントラストなどがある。アルゴリズムにおいて用いられる全ての寸法は物理的寸法であり、道路面内で測定される。
【0131】
標識の最小コントラストは、次のように調整される。道路が非常に一様であり、したがって、そのビデオ画像が、非常に低い平均勾配しか有しない場合があり得る。平均勾配が低いと、ノイズを、勾配ピークまたは勾配バレーに関係する重要な信号として容認してしまうことがあり得る。そのために、画像内に勾配ピークおよび勾配バレーを見出すために用いられる閾値は、少なくとも、ある一定の最小の大きさの値(例えば1〜255、好ましくは8〜20の範囲の)を有するべきである。画像に多くの勾配が見出される、ノイズの多い道路では、背景勾配は、その最小値より大きな、高い平均値を有するであろうが、非常に一様に見える道路では、その最小値は、低い勾配しか有しない標識片が誤って特定されることを防止する。
【0132】
その他の精度向上
検出プロセスを、カラー画像に適用することができる。本明細書において用いられている基本的な基準は、ピクセルのグレーレベル勾配による分離である。画像中の標識を背景から分離するために、色分離(例えばピクセルのRGB色値間のユークリッド距離)を用いることもできる。さらに、標識に属する可能性があるとして容認されるピクセルの色を、限定してもよい(例えば標識は緑色ではないであろう)。標識に属するとして容認されるピクセルは、近似閾値(例えば8ビットのカラーイメージャにおいて、1〜443の範囲にあり、約20であってもよい)によって限定されるほど十分に、標識の距離依存性の色値の平均に近い色値を有する必要があるとしてもよく、また長期にわたってフィルタ処理されてもよい。距離依存性は、異なる距離に到達した光の角度/色の差に由来して発生する。
【0133】
さらに、道路上の標識を記述するために用いられる物理的な寸法は、さらに、道路上で、標識までの距離が増すにつれて、画像において、標識のフィーチャがより小さくなることを意味している。標識を記述するために、少数の一定数のピクセルを用いることもできる。しかしながら、それは、中間領域以外の領域において、実際の標識サイズと一致しない。
【0134】
さらに、状況が好ましいものである(例えば多数の勾配対が見出されており、χ2が小さい)場合には、ゾーン優先度スキームを用いることもできる。それによって、ダッシュ−ギャップタイプ標識のダッシュの、前方および後方への有限の外挿(例えば両端において1.5メートル)を行うことが可能になる。この有限の外挿によって、まばらにしか存在しない標識の実効充填率が増加する。最初の直線適合に先立って、データのさらなる純化を行なうことができる。目的は、整然とした直線を形成するように見えるサンプルを保存し、「それた」検出物、すなわち、整然とした直線のように見える検出物の近傍にない検出物を排除することである。
【0135】
標識は、ROIの縦方向軸に概ね平行であるから、ROIを、いくつか(例えば図12に示されているように3つ)の縦方向に延びたゾーンに分割することができる。それらのゾーンの中央ゾーンに対して0、内側ゾーンすなわちビデオカメラに近いゾーンに対して1、外側ゾーンすなわちビデオカメラから遠いゾーンに対して2と番号を付ける。各ゾーンは、標識に対する車両の相対的位置が変化するにつれて、その標識が存在すると予想される車道のエリアを表わしている。予測される標識空間、すなわち中央ゾーンは、標識検出に対して最高優先度を有している(標識または境界を含んでいる確率が最も高いことを表わしている)。ゾーンが中央ゾーンから離れるにつれて、優先度は減少する。各ゾーンにおいて、検出回数が数えられる。次のルールを用いて、最も検出回数が多い単一のゾーン、または隣接し合う2つのゾーンから成るゾーン対が決定される。
内側ゾーンにも外側ゾーンにも検出物がない場合には、中央ゾーンの標識片の検出物が用いられ、
内側ゾーンと中央ゾーンとの両方に、十分な標識片の検出物が存在する場合には、直線適合のために、これらの標識片の検出物が保留され、
外側ゾーンと中央ゾーンとの両方に、十分な標識片の検出物が存在する場合には、直線適合のために、これらの標識片の検出物が保留される。
【0136】
このルールの効果は、中央ゾーン、または、中央ゾーンと内側ゾーンまたは外側ゾーンとの組み合わせを優先するということである。内側ゾーンにおいて検出される標識は、外側ゾーンにおいて検出される標識よりもビデオカメラに近く、したがって、より重要であるから、内側ゾーンが最初にチェックされる。中央ゾーンまたはゾーン対の外部にある検出物は、それているものとして排除される。正味の効果は標識を保留し、画像ノイズを排除することであり、それによって、境界または標識の位置特定を改善することである。
【0137】
図13は、上述の、図2Bのステップ110において用いられる最小二乗直線/曲線適合例550を示している。この最小二乗直線/曲線適合例550によれば、曲線/直線適合は、データ点552(例えばピクセルpすなわち画像標識フィーチャ片)から適合曲線/直線554までの距離dsの合計を最小にすることによって最小二乗適合を行うステップを含んでいる。最小二乗適合によって、1セットのデータ点に最も適合する曲線が見出される。例えば図13に示されているように、適合曲線または適合直線(図13では適合直線が示されている)は、各点552から適合曲線または適合直線554までの距離dsの合計が最小になるまで調整される。これは、データ点から適合直線/曲線までの平均距離を最小にすることと等価である。最小中央値適合は、データ点から適合直線/曲線までの距離の中央値を最小にする。さらに、例えば標識の位置が遠くなればなるほど、不確実さの程度がより大きくなることを考慮に入れた他の曲線/直線適合アプローチを用いることもできる。その適用において、データ点の各セットに対して、直線適合は、データ点の各セットにおける最も近いデータ点と最も遠いデータ点とを含む、それらの間の全てのデータ点(x、y)に対する適合直線を決定するステップを含んでいる。用いられる直線適合方法は、次のように、適合させるために利用可能なデータ点の数に依存する。厳密に2つのデータ点だけが利用可能な場合には、直線適合は、単純に代数的な直線適合を実行するだけである。3つ以上のデータ点が利用可能な場合には、1本の直線が全てのデータ点を通過するということはないであろうが、近似スキームを、データ点に十分によく適合させることができる。したがって、その直線適合は、標準的な最小二乗法または最小中央値法に似た直線適合を行うステップを含んでいる。どちらの場合にも、道路面内の縦方向距離xおよび横方向距離yは、次のように表わされる。
y = (傾き)*x + (切片)
ここで、傾きを、前方の最も近い距離と最も遠い距離との平均(AV)によって割ると、曲率が与えられる。
【0138】
要約すると、本発明の実施形態は、道路画像から、車線区分線および/または道路境界を検出して、道路を進む車両のガイドを補助するために用いられるプロセスを提供する。候補ピクセルに対する多項式適合の複数の回数にわたる試みによって、他の方法よりも確実かつ厳密に、車線区分線および道路境界を検出することができる。さらに、道路と周囲との平均強度(グレーレベルまたは色レベル)が同程度である場合には、平均絶対偏差比較を用いることによって、画像中に標識エッジを検出することが可能になる。
【0139】
本発明による上記のプロセスは、リアルタイムで実行することもできるし、記憶した像に対して実行することもできる。このプロセスは、また、前処理段を有する単一のCPU、または複数のCPU上で行うことができる。さらに、当業者には公知のように、本発明による前述のプロセスは、プロセッサによる実行のためのプログラム命令、論理回路、特定用途向け集積回路、ファームウエアなどの多くの方法で実行することができる。本明細書には、本発明が、そのいくつかの好適なバージョンに関して、かなり詳細に説明されている。しかしながら、他のバージョンも可能である。したがって、請求項の精神および範囲は、本明細書に含まれている好適なバージョンの記述に限定されるべきではない。
【符号の説明】
【0140】
1 ビデオカメラ
2 車両
3 画像
4 道路
5 コントローラ
6 車線境界検出システム
7L、7R 画像標識フィーチャ
8L、8R 標識
9 車線逸脱検出システム
10 カメラ較正モジュール
11 警告モジュール
21 画像前処理モジュール
22 車線区分線検出モジュール
23 道路エッジ検出モジュール
31 関心領域配置モジュール
32 勾配計算モジュール
33 関心領域縦方向設定モジュール
34 関心領域横方向設定モジュール
35 MAD計算モジュール
40 面
41a、41b、42a、42b、43、44a、44b、45a、45b、46a、46b、47 機能
50 車線(道路)曲率測定システム
60 サンプラー
150 候補適合直線/曲線
152 予想される画像標識フィーチャ
160L、160R 平行四辺形
162 近接エッジ
169 画像内の標識構造
170 ダッシュ
171 フィルタ
172 ギャップ
173 フィルタ処理されたダッシュ−ギャップタイプ標識
175 不確実領域
177 ブロック
201 画像面
203 点
205 光軸
550 最小二乗直線/曲線適合例
552 点
554 適合直線
d ビデオカメラの前方の縦方向距離
d1 幅
ds 距離
FL 焦点距離
h ビデオカメラの高さ
Hp 水平方向ピクセルサイズ
Ht 高さ
le 左エッジ
LD ダッシュの長さ
LG ギャップの長さ
LO オフセット距離
p、p1、p2 ピクセル
P、P1、P2 点
r 画像行座標
re 右エッジ
rs 画像行セグメント
ROI−L、ROI−R 関心領域
Vp 垂直方向ピクセルサイズ
VP 消失点
W 画像列座標
Wt 幅
x 縦方向距離
y 横方向距離
α 傾斜角
【特許請求の範囲】
【請求項1】
イメージャから、車両の前方の道路の画像を受けるステップと、
前記画像中に識別された道路内に、関心領域を決定するステップと、
前記関心領域内に車線区分線を検出することによって、また該車線区分線を検出することができなかった場合には、前記関心領域内に道路境界を検出することによって、路面標識を検出するステップとを含んでおり、
ウィンカがオンの場合には、前記各ステップをスキップすることを特徴とする、道路または車線の識別要素を検出する方法。
【請求項2】
路面標識を検出する前記ステップは、
前記関心領域内の輝度勾配を決定するステップと、
前記輝度勾配と強度閾値とを比較することによって、前記路面標識を検出するステップとを含んでいる、請求項1に記載の方法。
【請求項3】
輝度勾配を決定する前記ステップは、路面標識エッジ候補を識別するために、画像ピクセルの輝度勾配のピークおよびバレーを決定することによって、前記関心領域内にエッジ強度を決定するステップであって、該ピークは前記画像内の1つのエッジを表わし、バレーは前記画像内の別の1つのエッジを表わしているステップを含んでおり、
路面標識を検出する前記ステップは、前記エッジ強度と前記強度閾値とを比較するステップを含んでいる、請求項2に記載の方法。
【請求項4】
路面標識を検出する前記ステップは、さらに、
前記関心領域内の複数の画像行において、
前記エッジ強度の各々と前記強度閾値とを比較することによって、エッジ対を、前記路面標識エッジ候補として識別するステップと、
前記エッジ対の間隔を特定するステップと、
前記エッジ対の間隔と、間隔最小閾値および間隔最大閾値とを比較するステップであって、
前記エッジ対の間隔が、前記間隔最小閾値と間隔最大閾値との間にある場合には、前記エッジ対は、車線区分線候補を表わしているステップと、
前記車線区分線候補を表わしている画像行のエッジ対に対応する中央勾配位置に、第1の線を適合させるステップとを含んでおり、さらに、
容認可能な第1の近似適合線に寄与した全てのエッジ対を、車線区分線の識別要素として選択するステップを含んでいる、請求項3に記載の方法。
【請求項5】
前記第1の線の、前記エッジ対に対する適合度、および、前記第1の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第1の近似適合線を決定するステップをさらに含んでいる、請求項4に記載の方法。
【請求項6】
路面標識を検出する前記ステップは、さらに、
前記エッジ対の間隔の各々が、前記間隔最小閾値と間隔最大閾値との間になかった場合、または容認可能な第1の近似適合線が見出されなかった場合には、道路境界の識別要素の候補を表わしている画像行のエッジの各々に第2の線を適合させるステップと、
容認可能な第2の近似適合線に寄与した全てのエッジを、道路境界の識別要素として選択するステップとを含んでいる、請求項4に記載の方法。
【請求項7】
前記第2の線の、前記エッジに対する適合度、および、前記第2の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第2の近似適合線を決定するステップをさらに含んでいる、請求項6に記載の方法。
【請求項8】
前記道路境界の識別要素が見出されなかった場合には、複数の画像行において平均絶対偏差(MAD)勾配を決定するステップと、路面標識候補を表わしている画像行のエッジの各々に対応する、大きさ閾値を超過する大きさを有するMAD勾配の位置に、第3の線を適合させるステップと、容認可能な第3の近似適合線に寄与したMAD勾配の位置を、路面標識として選択するステップとをさらに含んでいる、請求項6に記載の方法。
【請求項9】
前記第3の線の、前記MAD勾配に対する適合度、および、前記第3の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第3の近似適合線を決定するステップをさらに含んでいる、請求項8に記載の方法。
【請求項10】
イメージャから、車両の前方の道路の画像を受け、該画像中に識別された道路内に、関心領域を決定するように構成されている画像処理プロセッサと、
前記関心領域内に車線区分線を検出するように構成されており、かつ該車線区分線を検出することができなかった場合には、前記関心領域内に道路境界を検出するように構成されている路面標識検出モジュールとを備え、
ウィンカがオンの場合には、前記路面標識検出モジュールによる操作をスキップするように構成されている、路面標識を検出する装置。
【請求項11】
前記画像処理プロセッサは、さらに、前記関心領域内の輝度勾配を決定するように構成されており、
前記路面標識検出モジュールは、さらに、前記輝度勾配と強度閾値とを比較することによって、前記路面標識を検出するように構成されている、請求項10に記載の装置。
【請求項12】
前記画像処理プロセッサは、さらに、路面標識エッジ候補を識別するために、それぞれ前記画像内の1つのエッジを表わす、画像ピクセルの輝度勾配のピークおよびバレーを決定することによって、前記関心領域内にエッジ強度を決定するように構成されており、
前記路面標識検出モジュールは、さらに、前記エッジ強度と前記強度閾値とを比較するように構成されている、請求項11に記載の装置。
【請求項13】
前記路面標識検出モジュールは、さらに、
前記関心領域内の複数の画像行において、
前記エッジ強度の各々と前記強度閾値とを比較することによって、エッジ対を、前記路面標識エッジ候補として識別するステップと、
前記エッジ対の間隔を特定するステップと、
前記エッジ対の間隔と、間隔最小閾値および間隔最大閾値とを比較するステップであって、
前記エッジ対の間隔が、前記間隔最小閾値と間隔最大閾値との間にある場合には、前記エッジ対は、車線区分線候補を表わしているステップと、
前記車線区分線候補を表わしている画像行のエッジ対に対応する中央勾配位置に、第1の線を適合させるステップとを実行し、かつ、
容認可能な第1の近似適合線に寄与した全てのエッジ対を、車線区分線の識別要素として選択するように構成されている、請求項12に記載の装置。
【請求項14】
前記路面標識検出モジュールは、さらに、前記第1の線の、前記エッジ対に対する適合度、および、前記第1の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第1の近似適合線を決定するように構成されている、請求項13に記載の装置。
【請求項15】
前記路面標識検出モジュールは、さらに、前記エッジ対の間隔の各々が、前記間隔最小閾値と間隔最大閾値との間になかった場合、または容認可能な第1の近似適合線が見出されなかった場合には、道路境界の識別要素の候補を表わしている画像行のエッジの各々に第2の線を適合させ、かつ容認可能な第2の近似適合線に寄与した全てのエッジを、道路境界の識別要素として選択するように構成されている、請求項13に記載の装置。
【請求項16】
前記路面標識検出モジュールは、さらに、前記第2の線の、前記エッジに対する適合度、および、前記第2の線の傾きの、以前の道路画像における傾きに対する近似度をチェックすることによって、前記容認可能な第2の近似適合線を決定するように構成されている、請求項15に記載の装置。
【請求項17】
前記路面標識検出モジュールは、さらに、前記道路境界の識別要素が見出されなかった場合には、複数の画像行において平均絶対偏差(MAD)勾配を決定するステップと、路面標識候補を表わしている画像行のエッジの各々に対応する、大きさ閾値を超過する大きさを有するMAD勾配の位置に、第3の線を適合させるステップと、容認可能な第3の近似適合線に寄与したMAD勾配の位置を、路面標識として選択するステップとを実行するように構成されている、請求項15に記載の装置。
【請求項18】
前記路面標識検出モジュールは、さらに、前記第3の線の、前記MAD勾配に対する適合度、および、前記第3の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第3の近似適合線を決定するように構成されている、請求項17に記載の装置。
【請求項19】
車両の前方の道路の画像を作成するように構成されているイメージャと、
前記画像中に識別された道路内に関心領域を決定するように構成されている画像処理プロセッサと、
前記関心領域内に車線区分線を検出するように構成されており、かつ該車線区分線を検出することができなかった場合には、前記関心領域内に道路境界を検出するように構成されている路面標識検出モジュールと、
検出された前記車線区分線または道路境界に相対的に、車両の近辺を検出するように構成されている道路逸脱検出モジュールと
を備え、ウィンカがオンの場合には、前記路面標識検出モジュール又は道路逸脱検出モジュールによる操作をスキップするように構成されてている、路面反射を検出するシステム。
【請求項20】
前記画像処理プロセッサは、さらに、路面標識エッジ候補を識別するために、それぞれ前記画像内の1つのエッジを表わす、画像ピクセルの輝度勾配のピークおよびバレーを決定することによって、前記関心領域内にエッジ強度を決定するように構成されており、
前記路面標識検出モジュールは、さらに、前記エッジ強度と前記強度閾値とを比較するように構成されている、請求項19に記載のシステム。
【請求項21】
前記路面標識検出モジュールは、
前記関心領域内の複数の画像行において、
前記エッジ強度の各々と前記強度閾値とを比較することによって、エッジ対を、前記路面標識エッジ候補として識別するステップと、
前記エッジ対の間隔を特定するステップと、
前記エッジ対の間隔と、間隔最小閾値および間隔最大閾値とを比較するステップであって、
前記エッジ対の間隔が、前記間隔最小閾値と間隔最大閾値との間にある場合には、前記エッジ対は、車線区分線候補を表わしているステップと、
前記車線区分線候補を表わしている画像行のエッジ対に対応する中央勾配位置に、第1の線を適合させるステップとを
実行するように構成されている車線区分線検出モジュールを備えており、かつ、
容認可能な第1の近似適合線に寄与した全てのエッジ対を、車線区分線の識別要素として選択するようになっている、請求項20に記載のシステム。
【請求項22】
前記路面標識検出モジュールは、さらに、前記エッジ対の間隔の各々が、前記間隔最小閾値と間隔最大閾値との間になかった場合、または容認可能な第1の近似適合線が見出されなかった場合には、道路境界の識別要素の候補を表わしている画像行のエッジの各々に第2の線を適合させ、かつ容認可能な第2の近似適合線に寄与した全てのエッジを、道路境界の識別要素として選択するように構成されている道路境界検出モジュールを備えている、請求項21に記載のシステム。
【請求項23】
前記路面標識検出モジュールは、さらに、前記道路境界の識別要素が見出されなかった場合には、複数の画像行において平均絶対偏差(MAD)勾配を決定するステップと、路面標識候補を表わしている画像行のエッジの各々に対応する、大きさ閾値を超過する大きさを有するMAD勾配の位置に、第3の線を適合させるステップと、容認可能な第3の近似適合線に寄与したMAD勾配の位置を、路面標識として選択するステップとを実行するように構成されている、請求項22に記載のシステム。
【請求項24】
前記路面標識検出モジュールは、さらに、前記第1、第2、または第3の線の、前記路面標識エッジ候補を表わす画像行のエッジに対する適合度、および、前記第1、第2、または第3の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第1、第2、または第3の近似適合線を決定するように構成されている、請求項23に記載のシステム。
【請求項25】
前記画像処理プロセッサは、さらに、日中操作であるか夜間操作であるかを示す入力に基づいて、前記輝度勾配を選択的に決定するように構成されている、請求項24に記載のシステム。
【請求項1】
イメージャから、車両の前方の道路の画像を受けるステップと、
前記画像中に識別された道路内に、関心領域を決定するステップと、
前記関心領域内に車線区分線を検出することによって、また該車線区分線を検出することができなかった場合には、前記関心領域内に道路境界を検出することによって、路面標識を検出するステップとを含んでおり、
ウィンカがオンの場合には、前記各ステップをスキップすることを特徴とする、道路または車線の識別要素を検出する方法。
【請求項2】
路面標識を検出する前記ステップは、
前記関心領域内の輝度勾配を決定するステップと、
前記輝度勾配と強度閾値とを比較することによって、前記路面標識を検出するステップとを含んでいる、請求項1に記載の方法。
【請求項3】
輝度勾配を決定する前記ステップは、路面標識エッジ候補を識別するために、画像ピクセルの輝度勾配のピークおよびバレーを決定することによって、前記関心領域内にエッジ強度を決定するステップであって、該ピークは前記画像内の1つのエッジを表わし、バレーは前記画像内の別の1つのエッジを表わしているステップを含んでおり、
路面標識を検出する前記ステップは、前記エッジ強度と前記強度閾値とを比較するステップを含んでいる、請求項2に記載の方法。
【請求項4】
路面標識を検出する前記ステップは、さらに、
前記関心領域内の複数の画像行において、
前記エッジ強度の各々と前記強度閾値とを比較することによって、エッジ対を、前記路面標識エッジ候補として識別するステップと、
前記エッジ対の間隔を特定するステップと、
前記エッジ対の間隔と、間隔最小閾値および間隔最大閾値とを比較するステップであって、
前記エッジ対の間隔が、前記間隔最小閾値と間隔最大閾値との間にある場合には、前記エッジ対は、車線区分線候補を表わしているステップと、
前記車線区分線候補を表わしている画像行のエッジ対に対応する中央勾配位置に、第1の線を適合させるステップとを含んでおり、さらに、
容認可能な第1の近似適合線に寄与した全てのエッジ対を、車線区分線の識別要素として選択するステップを含んでいる、請求項3に記載の方法。
【請求項5】
前記第1の線の、前記エッジ対に対する適合度、および、前記第1の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第1の近似適合線を決定するステップをさらに含んでいる、請求項4に記載の方法。
【請求項6】
路面標識を検出する前記ステップは、さらに、
前記エッジ対の間隔の各々が、前記間隔最小閾値と間隔最大閾値との間になかった場合、または容認可能な第1の近似適合線が見出されなかった場合には、道路境界の識別要素の候補を表わしている画像行のエッジの各々に第2の線を適合させるステップと、
容認可能な第2の近似適合線に寄与した全てのエッジを、道路境界の識別要素として選択するステップとを含んでいる、請求項4に記載の方法。
【請求項7】
前記第2の線の、前記エッジに対する適合度、および、前記第2の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第2の近似適合線を決定するステップをさらに含んでいる、請求項6に記載の方法。
【請求項8】
前記道路境界の識別要素が見出されなかった場合には、複数の画像行において平均絶対偏差(MAD)勾配を決定するステップと、路面標識候補を表わしている画像行のエッジの各々に対応する、大きさ閾値を超過する大きさを有するMAD勾配の位置に、第3の線を適合させるステップと、容認可能な第3の近似適合線に寄与したMAD勾配の位置を、路面標識として選択するステップとをさらに含んでいる、請求項6に記載の方法。
【請求項9】
前記第3の線の、前記MAD勾配に対する適合度、および、前記第3の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第3の近似適合線を決定するステップをさらに含んでいる、請求項8に記載の方法。
【請求項10】
イメージャから、車両の前方の道路の画像を受け、該画像中に識別された道路内に、関心領域を決定するように構成されている画像処理プロセッサと、
前記関心領域内に車線区分線を検出するように構成されており、かつ該車線区分線を検出することができなかった場合には、前記関心領域内に道路境界を検出するように構成されている路面標識検出モジュールとを備え、
ウィンカがオンの場合には、前記路面標識検出モジュールによる操作をスキップするように構成されている、路面標識を検出する装置。
【請求項11】
前記画像処理プロセッサは、さらに、前記関心領域内の輝度勾配を決定するように構成されており、
前記路面標識検出モジュールは、さらに、前記輝度勾配と強度閾値とを比較することによって、前記路面標識を検出するように構成されている、請求項10に記載の装置。
【請求項12】
前記画像処理プロセッサは、さらに、路面標識エッジ候補を識別するために、それぞれ前記画像内の1つのエッジを表わす、画像ピクセルの輝度勾配のピークおよびバレーを決定することによって、前記関心領域内にエッジ強度を決定するように構成されており、
前記路面標識検出モジュールは、さらに、前記エッジ強度と前記強度閾値とを比較するように構成されている、請求項11に記載の装置。
【請求項13】
前記路面標識検出モジュールは、さらに、
前記関心領域内の複数の画像行において、
前記エッジ強度の各々と前記強度閾値とを比較することによって、エッジ対を、前記路面標識エッジ候補として識別するステップと、
前記エッジ対の間隔を特定するステップと、
前記エッジ対の間隔と、間隔最小閾値および間隔最大閾値とを比較するステップであって、
前記エッジ対の間隔が、前記間隔最小閾値と間隔最大閾値との間にある場合には、前記エッジ対は、車線区分線候補を表わしているステップと、
前記車線区分線候補を表わしている画像行のエッジ対に対応する中央勾配位置に、第1の線を適合させるステップとを実行し、かつ、
容認可能な第1の近似適合線に寄与した全てのエッジ対を、車線区分線の識別要素として選択するように構成されている、請求項12に記載の装置。
【請求項14】
前記路面標識検出モジュールは、さらに、前記第1の線の、前記エッジ対に対する適合度、および、前記第1の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第1の近似適合線を決定するように構成されている、請求項13に記載の装置。
【請求項15】
前記路面標識検出モジュールは、さらに、前記エッジ対の間隔の各々が、前記間隔最小閾値と間隔最大閾値との間になかった場合、または容認可能な第1の近似適合線が見出されなかった場合には、道路境界の識別要素の候補を表わしている画像行のエッジの各々に第2の線を適合させ、かつ容認可能な第2の近似適合線に寄与した全てのエッジを、道路境界の識別要素として選択するように構成されている、請求項13に記載の装置。
【請求項16】
前記路面標識検出モジュールは、さらに、前記第2の線の、前記エッジに対する適合度、および、前記第2の線の傾きの、以前の道路画像における傾きに対する近似度をチェックすることによって、前記容認可能な第2の近似適合線を決定するように構成されている、請求項15に記載の装置。
【請求項17】
前記路面標識検出モジュールは、さらに、前記道路境界の識別要素が見出されなかった場合には、複数の画像行において平均絶対偏差(MAD)勾配を決定するステップと、路面標識候補を表わしている画像行のエッジの各々に対応する、大きさ閾値を超過する大きさを有するMAD勾配の位置に、第3の線を適合させるステップと、容認可能な第3の近似適合線に寄与したMAD勾配の位置を、路面標識として選択するステップとを実行するように構成されている、請求項15に記載の装置。
【請求項18】
前記路面標識検出モジュールは、さらに、前記第3の線の、前記MAD勾配に対する適合度、および、前記第3の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第3の近似適合線を決定するように構成されている、請求項17に記載の装置。
【請求項19】
車両の前方の道路の画像を作成するように構成されているイメージャと、
前記画像中に識別された道路内に関心領域を決定するように構成されている画像処理プロセッサと、
前記関心領域内に車線区分線を検出するように構成されており、かつ該車線区分線を検出することができなかった場合には、前記関心領域内に道路境界を検出するように構成されている路面標識検出モジュールと、
検出された前記車線区分線または道路境界に相対的に、車両の近辺を検出するように構成されている道路逸脱検出モジュールと
を備え、ウィンカがオンの場合には、前記路面標識検出モジュール又は道路逸脱検出モジュールによる操作をスキップするように構成されてている、路面反射を検出するシステム。
【請求項20】
前記画像処理プロセッサは、さらに、路面標識エッジ候補を識別するために、それぞれ前記画像内の1つのエッジを表わす、画像ピクセルの輝度勾配のピークおよびバレーを決定することによって、前記関心領域内にエッジ強度を決定するように構成されており、
前記路面標識検出モジュールは、さらに、前記エッジ強度と前記強度閾値とを比較するように構成されている、請求項19に記載のシステム。
【請求項21】
前記路面標識検出モジュールは、
前記関心領域内の複数の画像行において、
前記エッジ強度の各々と前記強度閾値とを比較することによって、エッジ対を、前記路面標識エッジ候補として識別するステップと、
前記エッジ対の間隔を特定するステップと、
前記エッジ対の間隔と、間隔最小閾値および間隔最大閾値とを比較するステップであって、
前記エッジ対の間隔が、前記間隔最小閾値と間隔最大閾値との間にある場合には、前記エッジ対は、車線区分線候補を表わしているステップと、
前記車線区分線候補を表わしている画像行のエッジ対に対応する中央勾配位置に、第1の線を適合させるステップとを
実行するように構成されている車線区分線検出モジュールを備えており、かつ、
容認可能な第1の近似適合線に寄与した全てのエッジ対を、車線区分線の識別要素として選択するようになっている、請求項20に記載のシステム。
【請求項22】
前記路面標識検出モジュールは、さらに、前記エッジ対の間隔の各々が、前記間隔最小閾値と間隔最大閾値との間になかった場合、または容認可能な第1の近似適合線が見出されなかった場合には、道路境界の識別要素の候補を表わしている画像行のエッジの各々に第2の線を適合させ、かつ容認可能な第2の近似適合線に寄与した全てのエッジを、道路境界の識別要素として選択するように構成されている道路境界検出モジュールを備えている、請求項21に記載のシステム。
【請求項23】
前記路面標識検出モジュールは、さらに、前記道路境界の識別要素が見出されなかった場合には、複数の画像行において平均絶対偏差(MAD)勾配を決定するステップと、路面標識候補を表わしている画像行のエッジの各々に対応する、大きさ閾値を超過する大きさを有するMAD勾配の位置に、第3の線を適合させるステップと、容認可能な第3の近似適合線に寄与したMAD勾配の位置を、路面標識として選択するステップとを実行するように構成されている、請求項22に記載のシステム。
【請求項24】
前記路面標識検出モジュールは、さらに、前記第1、第2、または第3の線の、前記路面標識エッジ候補を表わす画像行のエッジに対する適合度、および、前記第1、第2、または第3の線の傾きの、以前の道路画像において見出されていた傾きに対する近似度をチェックすることによって、前記容認可能な第1、第2、または第3の近似適合線を決定するように構成されている、請求項23に記載のシステム。
【請求項25】
前記画像処理プロセッサは、さらに、日中操作であるか夜間操作であるかを示す入力に基づいて、前記輝度勾配を選択的に決定するように構成されている、請求項24に記載のシステム。
【図1】
【図2A】
【図2B】
【図2C】
【図2D】
【図3A】
【図3B】
【図3C】
【図3D】
【図4】
【図5A】
【図5B】
【図5C】
【図6A】
【図6B】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2A】
【図2B】
【図2C】
【図2D】
【図3A】
【図3B】
【図3C】
【図3D】
【図4】
【図5A】
【図5B】
【図5C】
【図6A】
【図6B】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2011−118890(P2011−118890A)
【公開日】平成23年6月16日(2011.6.16)
【国際特許分類】
【出願番号】特願2010−247182(P2010−247182)
【出願日】平成22年11月4日(2010.11.4)
【出願人】(509198723)ヴァレオ シャルター ウント ゼンゾレン ゲーエムベーハー (1)
【Fターム(参考)】
【公開日】平成23年6月16日(2011.6.16)
【国際特許分類】
【出願日】平成22年11月4日(2010.11.4)
【出願人】(509198723)ヴァレオ シャルター ウント ゼンゾレン ゲーエムベーハー (1)
【Fターム(参考)】
[ Back to top ]