説明

車両の周辺監視装置、車両、車両の周辺監視方法、並びに車両の周辺監視用プログラム

【課題】歩行者などの対象物が車両の前方を横断しようとしているような状況で、該対象物と車両との接触を回避し得る状態をできるだけ迅速に確立することが可能な車両の周辺監視装置を提供する。
【解決手段】車両10の前方で検出された対象物の車両10に対する相対速度が、車幅方向の速度成分であって、その大きさが所定の正の下限値以上となる横方向速度成分を有するか否かを逐次判定する速度成分判定手段(STEP16)と、対象物が車両10との接触を回避すべき回避対象であるか否かの判定を行なうための判定アルゴリズム(STEP19または20)を、少なくとも速度成分判定手段の判定結果に応じて選択して、その選択した判定アルゴリズム(STEP19または20)を実行することにより対象物が回避対象であるか否かの判定を行なう回避対象判定手段(STEP16〜20)とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置などにより車両の周辺に存在する対象物を監視する装置および方法に関する。さらに、その装置を搭載した車両と、その装置の処理をコンピュータに実行させるためのプログラムに関する。
【背景技術】
【0002】
この種の装置としては、例えば特許文献1に見られるものが本願出願人により提案されている。
【0003】
この技術では、2台の赤外線カメラにより車両の前方を撮像して、その撮像画像から、歩行者、車両などの対象物を検出する。そして、2台の赤外線カメラの撮像画像における対象物の視差などに基づいて、車両に対する対象物の相対位置(実空間位置)を逐次検出し、その相対位置の、ある時間間隔(相対位置の検出周期よりも長い時間間隔)における時系列を基に、対象物の車両に対する相対的な移動方向を表す移動ベクトルを求める。そして、この移動ベクトルの算出後、その移動ベクトルが表す対象物の移動方向に関する判定などを含む判定処理によって、対象物が、運転者に対する警報の対象とすべき警報対象(車両との接触を回避すべき対象)であるか否かを判定する。さらに、対象物が警報対象であると判定した場合には、車両のブレーキ操作などの状態を基に、実際の警報を発するか否かの判定を行い、警報を発すべきと判定した場合には、スピーカや画像による警報を車両の運転者に対し行うようにしている。これにより、車両の運転者に、警報対象の対象物に対する注意を喚起し、該対象物と車両との接触を回避するための処置を運転者が実行し得るようにしている。
【特許文献1】特開2001−6096号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
前記特許文献1に見られる技術では、前記移動ベクトルを対象物の相対位置の時系列を基に算出しているので、該移動ベクトルは、対象物の車両に対する相対的な移動方向を表すものとしての信頼性は高い。
【0005】
一方、歩行者や動物等の対象物が車両の前方を横断しようとしているときには、迅速に該対象物の存在を車両の運転者に認識させたりして、該対象物と車両との接触を回避し得る状態を確立することが望ましい。特に、歩行者が車両の前方に飛び出すような横断をしようとしているときには、対象物と車両との接触を回避し得る状態をできるだけ早急に確立することが望まれる。
【0006】
しかるに、前記特許文献1に見られる技術では、前記移動ベクトルを算出するために時間を要する。そして、前記特許文献1のものでは、前記対象物が警報対象であるか否かを判定する処理において、この移動ベクトルが表す対象物の移動方向に関する判定を行なうため、その判定結果が得られるまでに時間を要する。このため、特に、歩行者の急な飛び出しが行なわれたような場合に、より迅速に、対象物が車両との接触を回避すべき対象であるのか否かを判定し得る技術が望まれていた。
【0007】
本発明はかかる背景に鑑みてなされたものであり、歩行者などの対象物が車両の前方を横断しようとしているような状況で、該対象物と車両との接触を回避し得る状態をできるだけ迅速に確立することが可能な車両の周辺監視装置および周辺監視方法、並びに車両を提供することを目的とする。さらに、該周辺監視装置の処理をコンピュータに実行させる車両の周辺監視用プログラムに関する。
【課題を解決するための手段】
【0008】
本発明の車両の周辺監視装置は、かかる目的を達成するために、少なくとも車両の前方側に存在する対象物を検出する対象物検出手段と、前記検出された対象物が前記車両との接触を回避すべき回避対象であるか否かを判定する回避対象判定手段とを備えた車両の周辺監視装置において、前記対象物検出手段により検出された対象物の前記車両に対する相対速度が、該車両の車幅方向の速度成分であって、その大きさが所定の正の下限値以上となる横方向速度成分を有するか否かを逐次判定する速度成分判定手段を備え、前記回避対象判定手段は、前記対象物が回避対象であるか否かの判定を行なうための複数種類の判定アルゴリズムを選択的に実行可能な手段であり、少なくとも前記速度成分判定手段の判定結果に応じて前記複数種類の判定アルゴリズムのうちの1つの判定アルゴリズムを選択して、該判定アルゴリズムを実行することにより前記対象物が回避対象であるか否かの判定を行なうことを特徴とする(第1発明)。
【0009】
かかる本発明(第1発明)によれば、前記速度成分判定手段により、対象物の車両に対する相対速度が前記横方向速度成分を有すると判定されたときには、該対象物が車両の前方を横断しようとしている可能性が高い。これに対して前記相対速度が横方向速度成分を有しないと判定されたときには、該対象物が、停止しているかもしくは、車両と同方向に移動している状況であるので、前記対象物が車両の前方を横断しようとしている可能性は低い。従って、速度成分判定手段の判定結果は、前記対象物検出手段により検出された対象物の、車両の前方での横断の可能性の度合いを表す。このため、速度成分判定手段の判定処理を逐次行いつつ、少なくともその判定結果に応じて、前記回避対象判定手段が実行する判定アルゴリズムを選択することにより、対象物が車両の前方を横断しようとしている状況とそうでない状況とでそれぞれに適した判定アルゴリズムで回避対象判定手段の判定処理を実行できる。例えば前者の状況(速度成分判定手段の判定結果が肯定的となる状況)では、後者の状況(速度成分判定手段の判定結果が否定的となる状況)よりも、より短時間で判定結果を決定し得る1つの判定アルゴリズムを前記複数の判定アルゴリズムから選択して、実行するようにすればよい。逆に後者の状況では、例えば前者の状況よりも、より信頼性の高い判定結果を決定し得る1つの判定アルゴリズムを前記複数の判定アルゴリズムから選択して、実行するようにすればよい。
【0010】
よって、本発明によれば、歩行者などの対象物が車両の前方を横断しようとしているような状況で、できるだけ迅速に該対象物が回避対象であるか否かの判定を行なうことが可能となる。ひいては、その判定結果に応じた注意喚起(回避対象に対する運転者の注意の喚起)などの処置を適切に実行することが可能となる。また、当該状況以外の状況では、対象物が回避対象であるか否かの判定の信頼性を高めることが可能となる。
【0011】
かかる本発明では、前記横方向速度成分は、その大きさが前記下限値よりも大きい所定の上限値以下となる速度成分であることが好ましい(第2発明)。
【0012】
これによれば、横方向速度成分の大きさが前記下限値以上であることに加えて、前記上限値以下であることが、前記速度成分判定手段の判定結果が肯定的となる(横方向速度成分を有すると判定される)ための必要要件となる。ここで、運転者の注意を迅速に喚起することは、特に、人や動物のような特定種類の対象物が車両の前方を横断しようとしている場合にその必要性が高い。また、人や動物のような注意喚起の対象とする必要性の高い対象物は、他車両などの人工的な移動物体に比べて、一般に、道路を横断しようとするときの速度の大きさの上限が比較的低い。従って、横方向速度成分の大きさが前記上限値以下であることが、前記速度成分判定手段の判定結果が肯定的となるための必要要件とすることにより、該判定結果が肯定的となり得る対象物の種類が人や動物などの特定の種類に限定される可能性が高まる。ひいては、その特定種類の対象物が回避対象であるか否かの判定を迅速に行なうことが可能となる。
【0013】
なお、前記上限値は、例えば前記回避対象判定手段の判定処理で回避対象であると判定され得る特定種類の対象物が一般的に採り得る速度の大きさの最大値付近の値に設定しておけばよい。
【0014】
また、前記第1発明あるいは第2発明では、前記対象物検出手段により検出された対象物の前記車両に対する相対位置を逐次検出する相対位置検出手段を備え、前記横方向速度成分を、その向きが前記相対位置検出手段により検出された相対位置に応じて定まる所定の要件を満たす向きとなる速度成分としてもよい(第3発明)。
【0015】
すなわち、対象物が横方向速度成分の大きさが前記下限値以上であっても、その横方向速度成分の向きと該対象物の車両に対する相対位置との組み合わせによっては、対象物が回避対象であるか否かの迅速な判定の必要性が低い場合がある。例えば車両の前方正面の車幅相当の領域の外側(右側もしくは左側)の領域に存在する対象物は、その横方向速度成分の向きが、車両に接近する向き(車両の前方正面の車幅内の領域に向かう向き)である場合には、回避対象の迅速な判定の必要性が高いが、該横方向速度成分の向きは、車両から離れる向きである場合には、回避対象の迅速な判定の必要性は低い。従って、前記横方向速度成分を、その向きが対象物の相対位置に応じて定まる所定の要件を満たす向きとなる速度成分とすることにより、速度成分判定手段の判定処理を、回避対象の迅速な判定の必要性の程度に適合させて行なうことが可能となる。
【0016】
なお、上記所定の要件としては、例えば、対象物の相対位置が、車両の前方正面の車幅相当の領域(車幅と同等かもしくはそれよりも若干広い幅の領域)の外側の領域に存在するときには、横方向速度成分の向きが車両に接近する向きであること、該相対位置が、車両の前方正面の車幅相当の領域内に存在するときには、横方向速度成分の向きが、左右いずれかの向きであること、などの要件が挙げられる。
【0017】
また、前記第1発明では、前記対象物検出手段により検出された対象物の前記車両に対する相対位置を逐次検出する相対位置検出手段と、その相対位置が前記車両の前方の所定の領域に存在するか否かを判定する相対位置判定手段とを備え、前記回避対象判定手段は、前記速度成分判定手段の判定結果と前記相対位置判定手段の判定結果との組に応じて前記複数の判定アルゴリズムのうちの1つの判定アルゴリズムを選択して実行するようにしてもよい(第4発明)。
【0018】
すなわち、対象物の相対位置が、車両から前後方向、あるいは、車幅方向で十分に離れているような場合には、前記速度成分判定手段の判定結果が肯定的であっても、その対象物に関する回避対象の判定を迅速に行なう必要性は一般には低い。従って、前記速度成分判定手段の判定結果と前記相対位置判定手段の判定結果との組に応じて前記複数の判定アルゴリズムのうちの1つの判定アルゴリズムを選択して実行することにより、回避対象判定手段の判定処理をより適切に行なうことが可能となる。
【0019】
補足すると、この第4発明における前記所定の領域は、前記対象物検出手段により対象物を検出可能な領域のうち、前記車両の前後方向に距離が所定値以下となる領域(以下、第A領域ということがある)、あるいは、前記検出可能な領域のうち、車両の両側で前後方向に延在するように設定された一対の境界線の間の領域(以下、第B領域ということがある)、あるいは、上記第A領域と第B領域との合成領域などが挙げられる。そして、この場合、速度成分判定手段の判定結果が肯定的で、且つ、相対位置判定手段の判定結果が肯定的である場合に、速度成分判定手段の判定結果が否定的あるか、または相対位置判定手段の判定結果が否定的である場合に、前記複数の判定アルゴリズムのうち、より短時間で判定結果を決定し得る1つの判定アルゴリズムを選択して実行することが好ましい。
【0020】
なお、上記第4発明は、前記第2発明または第3発明と組み合わせてもよい。
【0021】
また、前記第1発明では、前記対象物の前記車両に対する相対位置を逐次検出する相対位置検出手段と、前記速度成分判定手段の判定処理の実行周期よりも長い時間間隔において前記相対位置検出手段により検出された前記対象物の相対位置の時系列に基づき該対象物の前記車両に対する移動方向を表す移動方向特徴量を算出する移動方向特徴量算出手段を備え、前記速度成分判定手段の判定結果が否定的である場合に前記回避対象判定手段が選択する判定アルゴリズムは、少なくとも前記移動方向特徴量に関する判定処理を含むアルゴリズムにより構成され、前記速度成分判定手段の判定結果が肯定的である場合に前記回避対象判定手段が選択する判定アルゴリズムは、少なくとも前記移動方向特徴量に関する判定処理を含まないアルゴリズムにより構成されていることが好ましい(第5発明)。
【0022】
これによれば、前記速度成分判定手段の判定結果が否定的である場合に、前記回避対象判定手段が実行する判定アルゴリズムは、前記移動方向特徴量に関する判定処理を含むので、信頼性の高い判定結果を決定することが可能となる。ただし、前記移動方向特徴量の算出は、速度成分判定手段の判定処理の実行周期よりも長い時間間隔で行なわれるので、回避対象判定手段による判定結果の決定に時間を要する。一方、前記速度成分判定手段の判定結果が肯定的である場合に、前記回避対象判定手段が実行する判定アルゴリズムは、前記移動方向特徴量に関する判定処理を含まないので、該回避対象判定手段による判定結果の決定を短時間で行なうことが可能となる。ひいては、横方向速度成分を有する対象物に関する注意喚起などの処置を迅速に行なうことができる。
【0023】
同様に、前記第4発明では、前記速度成分判定手段の判定処理の実行周期よりも長い時間間隔において前記相対位置検出手段により検出された前記対象物の相対位置の時系列に基づき該対象物の前記車両に対する移動方向を表す移動方向特徴量を算出する移動方向特徴量算出手段を備え、前記速度成分判定手段の判定結果または前記相対位置判定手段の判定結果が否定的である場合に前記回避対象判定手段が選択する判定アルゴリズムは、少なくとも前記移動方向特徴量に関する判定処理を含むアルゴリズムにより構成され、前記速度成分判定手段の判定結果および前記相対位置判定手段の判定結果が肯定的である場合に前記回避対象判定手段が選択する判定アルゴリズムは、少なくとも前記移動方向特徴量に関する判定処理を含まないアルゴリズムにより構成されていることが好ましい(第6発明)。
【0024】
これによれば、前記速度成分判定手段の判定結果または前記相対位置判定手段の判定結果が否定的である場合に、前記回避対象判定手段が実行する判定アルゴリズムは、前記移動方向特徴量に関する判定処理を含むので、信頼性の高い判定結果を決定することが可能となる。一方、前記速度成分判定手段の判定結果および相対位置判定手段の判定結果が肯定的である場合に、前記回避対象判定手段が実行する判定アルゴリズムは、前記移動方向特徴量に関する判定処理を含まないので、該回避対象判定手段による判定結果の決定を短時間で行なうことが可能となる。ひいては、横方向速度成分を有する対象物に関する注意喚起などの処置を迅速に行なうことができる。
【0025】
補足すると、上記第5発明または第6発明において、移動方向特徴量に関する判定処理としては、該移動方向特徴量により表される対象物の移動方向が、前記車両の正面に向かってくる方向であるか否かなどの判定処理が挙げられる。また、上記第5発明は、前記第1〜第3発明と組み合わせてもよい。
【0026】
なお、前記回避対象判定手段が実行する判定アルゴリズムのそれぞれは、特に、対象物の種類の判定処理を含むことが好ましい。さらに、各判定アルゴリズムには、対象物の相対位置または前記横方向速度成分に関する判定処理が含まれていてもよい。
【0027】
また、本発明の車両は、前記した本発明の周辺監視装置を搭載したことを特徴とする(第7発明)。この車両によれば、本発明の周辺監視装置と同等の効果を奏する車両を実現できる。
【0028】
また、本発明の車両の周辺監視方法は、少なくとも車両の前方側に存在する対象物を検出し、その検出した対象物が前記車両との接触を回避すべき回避対象であるか否かを判定する車両の周辺監視方法において、前記検出された対象物の前記車両に対する相対速度が、該車両の車幅方向の速度成分であって、その大きさが所定の正の下限値以上となる横方向速度成分を有するか否かを逐次判定する速度成分判定ステップと、前記対象物が回避対象であるか否かの判定を行なうための判定アルゴリズムを、あらかじめ用意された複数種類の判定アルゴリズムの中から、少なくとも前記速度成分判定ステップの判定結果に応じて選択し、その選択した判定アルゴリズムを実行することにより前記対象物が回避対象であるか否かの判定を行なう回避対象判定ステップとを備えたことを特徴とする(第8発明)。
【0029】
この第8発明によれば、速度成分判定ステップの判定結果は、本発明の車両の周辺監視装置と同様に、検出された対象物の、車両の前方での横断の可能性の度合いを表すものとなるので、速度成分判定ステップの判定処理を逐次行いつつ、少なくともその判定結果に応じて、前記回避対象判定ステップで実行する判定アルゴリズムを選択することにより、対象物が車両の前方を横断しようとしている状況とそうでない状況とでそれぞれに適した判定アルゴリズムで回避対象判定ステップの判定処理を実行できる。
【0030】
よって、本発明によれば、歩行者などの対象物が車両の前方を横断しようとしているような状況で、できるだけ迅速に該対象物が回避対象であるか否かの判定を行なうことが可能となる。ひいては、その判定結果に応じた適切な注意喚起などの処置を実行することが可能となる。また、当該状況以外の状況では、対象物が回避対象であるか否かの判定の信頼性を高めることが可能となる。
【0031】
また、本発明の車両の周辺監視用プログラムは、少なくとも車両の前方側に存在することが検出された対象物が、前記車両との接触を回避すべき回避対象であるか否かを判定する処理をコンピュータに実行させる車両の周辺監視用プログラムであって、前記検出された対象物の前記車両に対する相対速度が、該車両の車幅方向の速度成分であって、その大きさが所定の正の下限値以上となる横方向速度成分を有するか否かを逐次判定する速度成分判定処理と、前記対象物が回避対象であるか否かの判定を行なうための判定用アルゴリズムを、あらかじめ定められた複数の判定用アルゴリズムの中から、少なくとも前記速度成分判定処理の判定結果に応じて選択し、その選択した判定アルゴリズムにより前記対象物が前記回避対象であるか否かを判定する回避対象判定処理とを前記コンピュータに実行させる機能を備えることを特徴とする(第9発明)。
【0032】
この第9発明のプログラムによれば、前記第1発明に関して説明した効果を奏し得る処理をコンピュータに実行させることができる。
【発明を実施するための最良の形態】
【0033】
本発明の第1実施形態を図1〜図7を参照して以下に説明する。
【0034】
まず、図1および図2を参照して、本実施形態の車両の周辺監視装置のシステム構成を説明する。図1は該周辺監視装置の全体構成を示すブロック図、図2は該周辺監視装置を搭載した車両の外観を示す斜視図である。なお、図2では、周辺監視装置の一部の構成要素の図示を省略している。
【0035】
図1および図2を参照して、本実施形態の周辺監視装置は、画像処理ユニット1を備える。この画像処理ユニット1には、車両1の前方の画像を撮像する撮像装置としての2つの赤外線カメラ2R,2Lが接続されると共に、車両10の走行状態を検出するセンサとして、車両10のヨーレートを検出するヨーレートセンサ3と、車両10の走行速度(車速)を検出する車速センサ4と、車両10のブレーキ操作(詳しくはブレーキペダルが操作されているか否か)を検出するブレーキセンサ5とが接続されている。さらに、画像処理ユニット1には、音声などによる聴覚的な注意喚起情報を出力するためのスピーカ6と、前記赤外線カメラ2R,2Lにより撮像された画像や視覚的な注意喚起情報を表示するための表示装置7とが接続されている。
【0036】
画像処理ユニット1は、詳細な図示は省略するが、A/D変換回路、マイクロコンピュータ(CPU、RAM、ROM)、画像メモリなどを含む電子回路により構成され、前記赤外線カメラ2R,2L、ヨーレートセンサ3、車速センサ4およびブレーキセンサ5の出力(アナログ信号)がA/D変換回路を介してデジタル化されて入力される。そして、画像処理ユニット1は、入力されたデータを基に、人(歩行者)などの対象物を検出する処理や、その検出した対象物が車両との接触を回避すべき回避対象であるか否かを判定する処理、回避対象と判定された対象物に対する運転者の注意を喚起する処理などをマイクロコンピュータにより実行する。これらの処理は、マイクロコンピュータのROMにあらかじめ実装されたプログラムを該マイクロコンピュータにより実行することにより実現され、そのプログラムは、本発明の車両の周辺監視用プログラムを含んでいる。
【0037】
なお、画像処理ユニット1は、上記プログラムにより実現される機能として、本発明における対象物検出手段、速度成分判定手段、回避対象判定手段、相対位置検出手段を含んでいる。
【0038】
図2に示すように、前記赤外線カメラ2R,2Lは、車両10の前方を撮像するために、車両10の前部(図ではフロントグリルの部分)に取り付けられている。この場合、赤外線カメラ2R,2Lは、それぞれ、車両10の車幅方向の中心よりも右寄りの位置、左寄りの位置に配置されている。それらの位置は、自車両10の車幅方向の中心に対して左右対称である。そして、該赤外線カメラ2R,2Lは、それらの光軸が互いに平行に車両10の前後方向に延在し、且つ、それぞれの光軸の路面からの高さが互いに等しくなるように車両10の前部に固定されている。なお、各赤外線カメラ2R,2Lは、遠赤外域に感度を有する撮像装置であり、それにより撮像される物体の温度が高いほど、その物体の画像の出力信号のレベルが高くなる(該物体の画像の輝度が高くなる)特性を有している。
【0039】
また、前記表示装置7は、本実施形態では、例えば車両10のフロントウィンドウに画像などの情報を表示するヘッド・アップ・ディスプレイ7a(以下、HUD7aという)を備えている。なお、表示装置7は、HUD7aの代わりに、もしくは、HUD7aと共に、自車両10の車速などの走行状態を表示するメータに一体的に設けられたディスプレイ、あるいは、車載ナビゲーション装置に備えられたディスプレイを含んでもよい。
【0040】
次に、本実施形態の周辺監視装置の全体的動作を図3および図4のフローチャートを参照して説明する。なお、図3のフローチャートの処理のうちの多くの処理は、例えば前記特許文献1に記載されている処理と同じであるので、その同じ処理については、本明細書での詳細な説明は省略する。補足すると、図3のフローチャートの処理は、画像処理ユニット1のマイクロコンピュータが実行するプログラムにより実現される処理である。
【0041】
まず、画像処理ユニット1は、赤外線カメラ2R,2Lのそれぞれの出力信号である赤外線画像を取得して(STEP1)、A/D変換し(STEP2)、それぞれの画像を画像メモリに格納する(STEP3)。これにより、各赤外線カメラ2R,2Lにより撮像された画像が画像処理ユニット1に取り込まれる。以降、赤外線カメラ2Rから得られた画像を右画像、赤外線カメラ2Lから得られた画像を左画像という。これらの右画像および左画像は、いずれもグレースケール画像である。
【0042】
次いで、画像処理ユニット1は、前記右画像および左画像のうちの一方を基準画像とし、この基準画像を2値化する(STEP4)。基準画像は、本実施形態では右画像である。この2値化処理は、基準画像の各画素の輝度値を所定の輝度閾値と比較し、基準画像のうちの、該所定の輝度閾値よりも高い輝度値を有する領域(比較的明るい領域)を「1」(白)とし、該輝度閾値よりも低い輝度値を有する領域(比較的暗い領域)を「0」(黒)とする処理である。以降、この2値化処理により得られる画像(白黒画像)を2値化画像という。そして、この2値化画像のうちの、「1」とされる領域を高輝度領域という。なお、この2値化画像は、グレースケール画像(右画像および左画像)とは別に画像メモリに記憶される。
【0043】
補足すると、STEP1〜4の処理は、前記特許文献1の図3のS11〜S14の処理と同じである。
【0044】
次いで、画像処理ユニット1は、前記2値化画像に対してSTEP5〜7の処理を実行し、該2値化画像から対象物(より正確には対象物に対応する画像部分)を抽出する。すなわち、前記2値化画像の高輝度領域を構成する画素群を、基準画像の縦方向(y方向)に1画素分の幅を有して横方向(x方向)延在するラインに分類し、その各ラインを、その位置(基準画像上での2次元位置)の座標と長さ(画素数)とからなるランレングスデータに変換する(STEP5)。そして、このランレングスデータにより表されるラインのうちの、基準画像の縦方向に重なりを有するライン群のそれぞれにラベル(識別子)を付し(STEP6)、そのライン群のそれぞれを対象物として抽出する(STEP7)。
【0045】
なお、STEP5〜7の処理により抽出される対象物には、一般には、人(歩行者)だけでなく、他車両などの人口構造物なども含まれる。また、同一の物体の複数の局所部分が対象物として抽出される場合もある。
【0046】
次いで、画像処理ユニット1は、上記の如く抽出した各対象物の重心の位置(基準画像上での位置)と面積と外接四角形の縦横比とを求める(STEP8)。なお、各対象物の重心の位置は、該対象物に含まれるランレングスデータの各ラインの位置(各ラインの中心位置)の座標に該ラインの長さを乗じたものを、該対象物に含まれるランレングスデータの全てのラインについて加算し、その加算結果を該対象物の面積により除算することにより求められる。また、各対象物の重心の代わりに、該対象物の外接四角形の重心(中心)の位置を求めてもよい。
【0047】
次いで、画像処理ユニット1は、前記STEP7で抽出した対象物の時刻間追跡、すなわち、画像処理ユニット1の演算処理周期毎の同一対象物の認識を行なう(STEP9)。この処理では、ある演算処理周期の時刻(離散系時刻)kにおけるSTEP7の処理により対象物Aが抽出され、次の演算処理周期の時刻k+1におけるSTEP7の処理により対象物Bが抽出されたとしたとき、それらの対象物A,Bの同一性が判定される。この同一性の判定は、例えば、それらの対象物A,Bの2値化画像上での形状やサイズ、基準画像(グレースケール画像)上での輝度分布の相関性などに基づいて行なえばよい。そして、それらの対象物A,Bが互いに同一であると判定された場合に、時刻k+1で抽出した対象物Bのラベル(STEP6で付したラベル)が対象物Aのラベルと同じラベルに変更される。
【0048】
なお、前記したSTEP5〜9の処理は、前記特許文献3の図3のS15〜S19の処理と同じである。また、STEP1〜9の処理により、本発明における対象物検出手段が構成される。
【0049】
次いで、画像処理ユニット1は、前記車速センサ4およびヨーレートセンサ5の出力(車速の検出値およびヨーレートの検出値)を読み込む(STEP10)。なお、このSTEP10では、読込んだヨーレートの検出値を積分することにより、自車両10の回頭角(方位角)の算出も行なわれる。
【0050】
一方、画像処理ユニット1は、STEP9,10の処理と並行して、STEP11〜13の処理を実行する。このSTEP11〜13の処理は、STEP7で抽出した各対象物の自車両10からの距離を求める処理であり、前記特許文献1の図3のS31〜S33の処理と同じである。その処理を概略的に説明すると、まず、右画像(基準画像)のうち、各対象物に対応する領域(例えば該対象物の外接四角形の領域)を探索画像R1として抽出する(STEP11)。
【0051】
次いで、左画像中で、右画像の探索画像R1に含まれる対象物と同じ対象物を探索するための領域である探索領域R2が設定され、その探索領域R2内で、探索画像R1との相関性が最も高い領域が、探索画像R1に対応する画像(探索画像R1と同等の画像)である対応画像R3として抽出される(STEP12)。この場合、左画像の探索領域R2のうち、右画像の探索画像R1の輝度分布に最も一致する輝度分布を有する領域が対応画像R3として抽出される。なお、STEP12の処理は、2値化画像ではなく、グレースケール画像を使用して行なわれる。
【0052】
次いで、右画像における前記探索画像R1の重心の横方向位置(x方向位置)と、左画像における前記対応画像R3の重心の横方向位置(x方向位置)との差分の画素数を視差Δdとして算出し、その視差Δdを用いて、対象物の自車両10からの距離z(自車両10の前後方向における距離)が算出される(STEP13)。距離zは、次式(1)により算出される。
【0053】

z=(f×D)/(Δd×p) ……(1)

なお、fは赤外線カメラ2R,2Lの焦点距離、Dは赤外線カメラ2R,2Lの基線長(光軸の間隔)、pは画素ピッチ(1画素分の長さ)である。
【0054】
以上がSTEP11〜13の処理の概要である。なお、STEP11〜13の処理は、前記STEP7で抽出された各対象物に対して実行される。
【0055】
前記STEP10およびSTEP13の処理の終了後、画像処理ユニット1は、次に、各対象物の実空間上での位置(自車両10に対する相対位置)である実空間位置を算出する(STEP14)。ここで、実空間位置は、図2に示すように、赤外線カメラ2R,2Lの取り付け位置の中点を原点として設定された実空間座標系(XYZ座標系)での位置(X,Y,Z)である。実空間座標系のX方向およびY方向は、それぞれ自車両10の車幅方向、上下方向であり、これらのX方向およびY方向は、前記右画像および左画像のx方向(横方向)、y方向(縦方向)と同方向である。また、実空間座標系のZ方向は、自車両10の前後方向である。そして、対象物の実空間位置(X,Y,Z)は次式(2)、(3)、(4)により算出される。
【0056】

X=x×z×p/f ……(2)
Y=y×z×p/f ……(3)
Z=z ……(4)

なお、x、yは基準画像上での対象物のx座標、y座標である。
【0057】
次いで、画像処理ユニット1は、自車両10の回頭角の変化の影響を補償して、対象物の実空間位置の精度を高めるために、対象物の実空間位置(X,Y,Z)のうちのX方向の位置Xを上記式(2)により求めた値から、前記STEP10で求めた回頭角の時系列データに応じて補正する(STEP15)。これにより、最終的に対象物の実空間位置が求められる。以降の説明では、「対象物の実空間位置」は、この補正を施した対象物の実空間位置を意味する。なお、対象物の実空間位置は、所定の演算処理周期で逐次算出される。
【0058】
なお、STEP14,15の処理は、前記特許文献1の図3のS21、S22の処理と同じである。以降の説明では、対象物の現在の(今回の演算処理周期での)実空間位置のX方向成分(X方向位置)、Y方向成分(Y方向位置)、Z方向成分(Z方向位置)をそれぞれX0,Y0,Z0で表す。
【0059】
補足すると、STEP14,15の処理は、本発明における相対位置検出手段を構成するものである。
【0060】
次いで、画像処理ユニット1は、各対象物(同一ラベルの各対象物)について、該対象物が横方向速度成分を有するか否かの判定を行なう(STEP16)。補足すると、このSTEP16以降の処理(STEP16の処理を含む)は、前記特許文献1の図3の処理とは相違する。
【0061】
STEP16の判定処理は、本実施形態では次のように行なわれる。
【0062】
すなわち、まず、対象物の実空間位置の前回値(前回の演算処理周期で求めた実空間位置)におけるX方向成分(X方向位置)と、該対象物の実空間位置の今回値(今回の(現在の)演算処理周期で求めた実空間位置)におけるX方向成分X0との差ΔXが求められる。そして、このΔXを、演算処理周期の時間で除算してなる値Vxが、該対象物の現在の相対速度(車両10に対する相対速度)の、車幅方向の速度成分として求められる。さらに、この速度成分Vxの大きさ(絶対値)が、所定の下限値VxL(>0)以上で、且つ所定の上限値VxH(>下限値)以下である場合(VxL≦|Vx|≦VxHである場合)に、該対象物が車両10に対して横方向速度成分を有すると判定する。また、VxL>|Vx|、またはVxH<|Vx|である場合には、対象物が横方向速度成分を有しないと判定する。なお、現在の演算処理周期で初めて抽出された対象物(前回の演算処理周期で抽出されていない対象物)については、横方向速度成分を有しないと判定される。また、本実施形態では、対象物の実空間位置の前回値と今回値との2つの値からVxを求めるようにしたが、例えば前々回値、前回値および今回値など、今回値を含めた最新の3つ以上の実空間位置からVxを求めるようにしてもよい。その場合、逐次型の移動平均処理によりVxを求めるようにしてもよい。
【0063】
ここで、上記下限値VxLおよび上限値VxHは、本実施形態では、人が道路を横断する場合に一般的にとり得る速度の大きさが該下限値VxLと上限値VxHとの間に収まるようにあらかじめ設定されている。なお、上限値VxHよりも大きい車幅方向の速度成分を有する対象物は、他車両など、歩行者以外の移動物体である可能性が高く、そのような対象物は、STEP16において、横方向速度成分を有しないと判定される。従って、STEP16で横方向速度成分を有すると判定される対象物は、歩行者(人)である可能性が高い対象物である。また、前記下限値VxLは0よりも若干大きい値に設定されるので、対象物の実空間位置の検出誤差などに起因して、車両10とほぼ同方向もしくは逆方向に移動しているような歩行者、あるいは、静止している物体(例えば電柱や自動販売機など)が、横方向速度成分を有すると判定されるのが回避される。
【0064】
補足すると、上記下限値VxLおよび上限値VxHは、人の移動速度だけでなく、人以外の動物の移動速度も考慮して設定するようにしてもよい。また、STEP16の判定処理は、本発明における速度成分判定手段、速度成分判定ステップを構成するものであり、速度成分判定用プログラムによって、画像処理ユニット1のマイクロコンピュータが実行する処理である。
【0065】
STEP16の判定結果がYESである場合(横方向速度成分を有すると判定された対象物が存在する場合)には、画像処理ユニット1は、その横方向速度成分を有すると判定された各対象物についての後述する第1回避対象判定処理(第1回避対象判定アルゴリズム)を実行する(STEP19)。また、STEP16の判定結果がNOである場合(横方向速度成分を有しないと判定された対象物が存在する場合)には、画像処理ユニット1は、その対象物についての実空間位置の時系列データの個数が所定数N(NはSTEP16で横方向速度成分を求めるときのサンプル数よりも大きい個数で、例えば10個)に達したか否かを判断する(STEP17)。そして、該対象物の実空間位置の時系列データが所定数Nに満たない場合には、STEP1からの処理を繰り返す。これにより、実空間位置を算出する演算処理周期のN−1倍の時間間隔(これは実空間位置の演算処理周期よりも長い)を対象物の実空間位置のモニタ期間(観測期間)とし、このモニタ期間での対象物の実空間位置の時系列データが得られる。なお、STEP17の処理では、時系列データの個数を判断する代わりに、各対象物について、それが初めて抽出された時からの経過時間が所定時間(上記所定数Nに対応する時間)に達したか否かを判断するようにしてもよい。
【0066】
補足すると、各演算処理周期において、STEP16の判定結果がYESとなる対象物と、NOとなる対象物とが混在する場合には、YESとなる対象物についての第1回避対象判定処理の実行が優先され、その実行後に、STEP17からの処理が行なわれる。
【0067】
また、STEP16の判定結果がNOとなった対象物(横方向速度成分を有しないと判定された対象物)についての実空間位置の時系列データの個数が所定数Nに達した場合には、画像処理ユニット1は、該対象物の車両10に対する相対的な移動方向を表す移動方向特徴量としての移動ベクトルを求める(STEP18)。具体的には、該対象物についての実空間位置のN個の時系列データを近似する直線を最小2乗法などの近似手法により求め、(N−1)周期前の演算処理周期の時刻での該直線上の対象物の位置(点)から、現在時刻(今回の演算処理周期の時刻)における該直線上の対象物の位置(点)に向かうベクトルを対象物の移動ベクトルとして求める。この移動ベクトルは、対象物の車両10に対する相対速度ベクトルに比例する。なお、移動ベクトルの代わりに、例えば、車両10の前後方向もしくは車幅方向に対する上記直線の方位角などを対象物の移動方向特徴量として算出するようにしてもよい。
【0068】
補足するとSTEP18の処理は、本発明における移動方向特徴量算出手段を構成するものである。
【0069】
そして、画像処理ユニット1は、上記のように移動ベクトルを算出した後、その移動ベクトルを算出した対象物についての後述する第2回避対象判定処理(第2回避対象判定アルゴリズム)を実行する(STEP20)。なお、各演算処理周期において、STEP16の判定結果がYESとなる対象物と、NOとなる対象物とが混在し、且つ、その判定結果がNOとなる対象物についての実空間位置の時系列データの個数がN個に達した場合には、STEP16の判定結果がYESとなる対象物(横方向速度成分を有すると判定された対象物)についての第1回避対象判定処理の実行が優先され、その実行後に、STEP16の判定結果がNOとなる対象物(横方向速度成分を有しないと判定された対象物)についての第2回避対象判定処理が実行される。
【0070】
前記第1回避対象判定処理および第2回避対象判定処理は、詳細は後述するが、対象物が、車両10との接触を回避すべき回避対象であるか否かを判定する処理であり、基本的には対象物が車両10に接触する可能性の度合いや対象物の種類に関する判定処理によって、該対象物が回避対象であるか否かを判定する。なお、これらの回避対象判定処理は、マイクロコンピュータのROMに実装されたサブルーチンプログラムを該マイクロコンピュータが実行することにより実現される。
【0071】
そして、STEP19の判定結果がYESである場合、あるいは、STEP20の判定結果がYESである場合、すなわち、STEP19または20で対象物が回避対象であると判定された場合には、STEP21に進んで、画像処理ユニット1は、該対象物に対する車両10の運転者の注意を喚起すべきか否かを判定する注意喚起出力判定処理を実行する。
【0072】
この注意喚起出力判定処理では、前記ブレーキセンサ5の出力から、運転者による車両10のブレーキ操作がなされていることが確認され、且つ、車両10の減速加速度(車速の減少方向の加速度を正とする)が所定の閾値(>0)よりも大きいときには、注意喚起を行なわないと判定される。また、運転者によるブレーキ操作が行なわれていない場合、あるいは、ブレーキ操作が行なわれていても、車両10の減速加速度が所定の閾値以下である場合には、注意喚起を行なうべきと判定される。
【0073】
そして、画像処理ユニット1は、注意喚起を行なうべきと判定した場合(STEP21の判定結果がYESとなる場合)には、前記スピーカ6と表示装置7とによる注意喚起を車両10の運転者に対して行なう注意喚起処理を実行し(STEP21)、さらにSTEP1からの処理を繰り返す。この注意喚起処理では、例えば表示装置7に前記基準画像を表示すると共に、その基準画像中の対象物(STEP19または20で回避対象であると判定された対象物)の画像を強調的に表示する。さらに、そのような回避対象の対象物が存在することをスピーカ6から運転者に音声案内する。これにより、該対象物に対する運転者の注意が喚起され、該運転者は、該対象物と車両10との接触を回避するための体制を整えることができる。なお、運転者に対する注意喚起は、スピーカ6および表示装置7のいずれか一方だけで行なうようにしてもよい。また、車両10が自動操舵を行い得る車両である場合には、STEP19または20で回避対象であると判定された対象物との接触を回避するように車両10の操舵制御を実行するようにしてもよい。
【0074】
また、STEP21で注意喚起を行なわないと判断したとき(全ての回避対象の対象物について注意喚起を行なわないと判断したとき)には、STEP21の判断結果がNOとなり、この場合には、そのままSTEP1からの処理が再開される。
【0075】
補足すると、STEP16〜STEP20の処理は、本発明における回避対象判定手段、回避対象判定ステップを構成するものである。この場合、本実施形態では、対象物が回避対象であるか否かを判定する判定アルゴリズムとして、STEP19,20の2つのアルゴリズムを備えている。
【0076】
以上が本実施形態の周辺監視装置の全体的作動である。
【0077】
次に、説明を後回しにした前記STEP19および20の判定処理を図5〜図7を参照して以下に詳説する。図5はSTEP19の第1回避対象判定処理を示すフローチャート、図6はSTEP20の第2回避対象判定処理を示すフローチャート、図7は後述する第1領域AR1、第2領域AR2、第3領域AR3などを平面視で示す図である。
【0078】
まず、STEP19の判定処理を図5および図7を参照して説明する。STEP19の第1回避対象判定処理は、前記STEP16で横方向速度成分を有すると判定された対象物のそれぞれについて実行される判定処理(判定アルゴリズム)であり、図5のフローチャートで示す如く実行される。
【0079】
まず、対象物の実空間位置(車両10に対する相対位置)に関する1つの判定処理としての第1対象物位置判定処理が実行される(STEP31)。この第1対象物位置判定処理は、車両10と対象物との接触を車両10の操舵やブレーキ操作によって余裕をもって回避できるか否かを判定するための処理である。具体的には、該第1対象物位置判定処理では、赤外線カメラ2R,2Lにより撮像される車両10の前方の領域(赤外線カメラ2R,2Lの視野角内の領域。以下、撮像領域という)のうち、車両10からのZ方向の距離(車両10の前後方向の距離)が、所定値以下となる領域AR1(以下、第1領域AR1という)に対象物の現在の実空間位置(実空間位置の今回値)が存在するか否かが判定される。
【0080】
この場合、車両10からの距離に関する所定値は、対象物毎に設定される。具体的には、対象物の実空間位置の前回値におけるZ方向成分(Z方向位置)と該対象物の実空間位置の今回値におけるZ方向成分(Z方向位置)との差を演算処理周期の時間で除算することにより、車両10の前後方向(Z方向)における該対象物の相対速度Vz1が求められ、この相対速度Vz1に所定の定数T(時間の次元の定数)を乗じてなる値Vz1・Tが前記第1領域AR1の、Z方向の境界を規定する上記所定値として設定される。このように、該所定値は、車両10の前後方向(Z方向)における対象物の相対速度Vz1に応じて設定される。なお、該所定値は固定値でもよく、あるいは、相対速度Vz1と車両10の走行速度(対地速度)とに応じて設定してもよい。
【0081】
ここで、図7に示すように、前記撮像領域を、平面視で図中の直線L1,L2の間の領域とすると(直線L1,L2は赤外線カメラ2R,2Lの視野角の左右の境界線に相当する)、前記第1領域AR1は、平面視で、図7の三角形abcで囲まれた領域となる。また、第1領域AR1は、上下方向では、所定の高さ(例えば車両10の高さの2倍程度の高さ)を有する領域である。従って、対象物の現在の実空間位置のZ方向位置Z0がVz1・T以下で、且つ、Y方向位置Y0が所定の高さ以下の位置であるときに、該対象物が第1領域AR1に存在すると判定される。なお、車両10の前後方向における対象物の相対速度Vz1が車両10から遠ざかる向きの相対速度である場合には、該対象物は第1領域AR1に存在しないと判定される。
【0082】
STEP31において、対象物が第1領域AR1内に存在しないと判定された場合(STEP31の判定結果がNOとなる場合)は、車両10の操舵やブレーキ操作によって該対象物と車両10との接触を余裕をもって回避し得る状況である。そして、この場合には、画像処理ユニット1は、STEP36において、該対象物が回避対象で無いと判定し、該対象物についての第1回避対象判定処理を終了する。
【0083】
一方、STEP31において、対象物が第1領域AR1内に存在すると判定された場合(STEP31の判断結果がYESとなる場合)は、対象物の実空間位置、あるいは該対象物の移動形態によっては、該対象物と車両10とが将来、接触する可能性がある。そこで、この場合には、画像処理ユニット1はさらに、対象物の実空間位置に関する判定処理としての第2対象物位置判定処理を実行する(STEP32)。この第2対象物位置判定処理は、対象物の実空間位置が現在位置に維持されたとした場合に、車両10と対象物との接触の可能性が高いか否かを判定するための処理である。具体的には、該第2対象物位置判定処理では、対象物が、図7に示すように車両10の両側で前後方向に延在する(車両10の車幅中心線L0と平行に延在する)ように設定された一対の境界線L3,L4の間の領域AR2(以下、第2領域AR2という)に存在するか否かが判定される。
【0084】
この場合、第2領域AR2の左右の境界線L3,L4は、それらの間隔をWとしたとき、図7に示すように、車両10の車幅中心線L0から左右に同じ間隔W/2を有する位置に設定される。そして、境界線L3,L4の間隔Wは、車両10の車幅αよりも若干広い間隔に設定される。なお、対象物が第2領域AR2に存在するか否かは、対象物の現在の実空間位置のX方向成分X0の値が、境界線L3のX方向位置と境界線L4のX方向位置との間の値であるか否によって判定される。
【0085】
STEP32において、対象物の実空間位置が第2領域AR2に存在すると判定された場合(STEP32の判定結果がYESとなる場合)は、対象物が現在の実空間位置に留まったとした場合に、該対象物が車両10と接触する可能性が高い。この場合には、画像処理ユニット1は、次に、対象物が歩行者(人)であるか(より正確には人である可能性が高いか否か)の判定処理を行なう(STEP33)。対象物が歩行者であるか否かの判定は、公知の手法(例えば特開2003−284057号公報に記載されている手法)を使用すればよく、グレースケール画像上での対象物の形状や大きさ、輝度分布等の特徴に基づいて行なうことができる。
【0086】
このSTEP33の歩行者判定処理で、対象物が歩行者である可能性が高いと判断した場合には、対象物が歩行者であるとの判定の信頼性を高めるために、STEP34に進み、該対象物が他車両であるか否かの判定処理(車両判定処理)が行なわれる。対象物が他車両であるか否かの判定は、公知の手法(例えば特開2003−230134号公報に記載されている手法)を使用すればよく、対象物の画像(グレースケール画像または2値化画像)における、他車両のウィンドウシールド部分の有無などに基づいて行なうことができる。あるいは、パターンマッチングの手法により対象物が他車両であるか否かの判定を行なうようにしてもよい。
【0087】
補足すると、第1回避対象判定処理は、前記STEP16で横方向速度成分を有すると判定された対象物に関して実行される処理であるので、電柱や自動販売機などの静止物体は、除外されている。一方、車両10の前方で比較的ゆっくり曲がろうとしている他車両や進路変更中の他車両は、第1回避対象判定処理の対象となる場合がある。このため、本実施形態では、STEP34の車両判定処理を実行する。
【0088】
そして、STEP34で、対象物が他車両でないと判定された場合(STEP34の判定結果がNOとなる場合)には、画像処理ユニット1は、STEP35において、対象物が回避対象であると判定し、第1回避対象判定処理を終了する。従って、対象物が前記第1領域AR1内の第2領域AR2に存在し、且つ、対象物が歩行者である可能性が高く、且つ、他車両でないと判定された場合には、対象物が回避対象であると判定される。
【0089】
また、STEP33で対象物が歩行者でないと判定され、あるいは、STEP34で対象物が人工構造物であると判定された場合には、前記STEP36に進んで、対象物が回避対象で無いと判定され、第1回避対象判定処理が終了する。
【0090】
一方、前記STEP32において、対象物が第2領域AR2に存在しないと判定された場合(STEP32の判定結果がNOとなる場合)には、画像処理ユニット1は、次に、対象物の実空間位置と該対象物の横方向速度成分Vxの向きとに関する第1進入判定処理を実行する(STEP37)。この第1進入判定処理は、対象物が前記第2領域AR2に進入しようとしている可能性が高い(対象物が車両10の前方で道路を横断しようとしている可能性が高い)か否かを判定する処理である。具体的には、該第1進入判定処理では、前記第2領域AR2の左右の両側で前後方向に延在して設定された左右一対の第3領域AR3,AR3(図7参照)に対象物が存在し、且つ、該対象物の横方向速度成分Vxの向き(符号)が、第2領域AR2に向かう向きであるという要件が満たされるか否かが判定される。
【0091】
ここで、図7を参照して、左側の第3領域AR3は、第2領域AR2の左側の境界線L3と、該第2領域AR2の外側で境界線L3と平行に延在する境界線L5との間の領域であり、右側の第3領域は、第2領域の右側の境界線L4と、該第2領域の外側の境界線L4と平行に延在する境界線L6との間の領域である。換言すれば、これらの第3領域AR3,AR3は、前記撮像領域のうち、第2領域AR2の外側で、該第2領域AR2に隣接して、前後方向に延在する領域である。左右の第3領域AR3,AR3の幅は、互いに同一である。なお、第3領域AR3の幅は、固定値でもよいが、対象物の横方向速度成分Vxの大きさ(絶対値)に応じて変化させる(横方向速度成分の大きさが大きいほど、第3領域AR3の幅を大きくする)ようにしてもよい。また、第3領域AR3の幅は、Z方向で車両10に近づくほど、広くなるようにしてもよい。
【0092】
補足すると、対象物が第3領域AR3に存在するか否かは、対象物の現在のX方向位置X0が境界線L3のX方向位置と境界線L5のX方向位置との間、または、境界線L4のX方向位置と境界線L6のX方向位置との間の値であるか否かによって判定される。また、対象物の横方向速度成分Vxの向きは、Vxの符号によって判定される。この場合、対象物が第2領域AR2の左側に存在する場合には、横方向速度成分Vxの向きが右向きであるときに、その向きが第2領域AR2に接近する向きであり、対象物が第3領域AR2の右側に存在する場合には、横方向速度成分Vxの向きが左向きであるときに、その向きが第2領域AR2に接近する向きである。
【0093】
STEP32において、対象物が前記第3領域AR3,AR3のいずれか一方に存在し、且つ、該対象物の横方向速度成分Vxの向き(符号)が、第2領域AR2に向かう向きであるという要件が満たされる場合(STEP32の判定結果がYESとなる場合)には、対象物が車両10の前方を横断しようとしており、近い将来に該対象物が第2領域AR2に進入する可能性が高い。そこで、この場合には、画像処理ユニット1は、STEP35において、該対象物が回避対象である判定し、第1回避対象判定処理を終了する。
【0094】
また、STEP32において、対象物の実空間位置が前記第3領域AR3,AR3に存在し、且つ、該対象物の横方向速度成分Vxの向き(符号)が、第2領域AR2に向かう向きであるという要件が満たされない場合(STEP32の判定結果がNOとなる場合)、すなわち、対象物が、前記撮像領域内で、第3領域AR3の外側の領域(前記境界線L5よりも左側の領域または前記境界線L6よりも右側の領域)に存在するか、もしくは、対象物の横方向速度成分Vxの向きが、第2領域AR2から離れる向きである場合には、画像処理ユニット1は、STEP36において、該対象物が回避対象で無いと判定し、第1回避対象判定処理を終了する。
【0095】
以上が、第1回避対象判定処理の詳細である。なお、撮像領域のうちの、第2領域を除く領域を第3領域AR3として設定するようにしてもよい。
【0096】
次に、前記STEP20の第2回避対象判定処理を説明する。この第2回避対象判定処理は、図6のフローチャートに示す如く実行される。
【0097】
第2回避対象判定処理では、まず、前記STEP18で移動ベクトルを求めた対象物の実空間位置(車両10に対する相対位置)に関する第3対象物位置判定処理が実行される(STEP41)。本実施形態では、この第3対象物位置判定処理では、前記第1対象物位置判定処理と同様に、前記撮像領域のうち、車両10からのZ方向の距離(車両10の前後方向の距離)が、所定値以下となる第1領域AR1に対象物が存在するか否かが判定される。ただし、この第3対象物位置判定処理において、第1領域AR1のZ方向の境界を規定する上記所定値は、前記STEP18で移動ベクトルを求めるための前記モニタ期間における対象物の相対速度(Z方向の速度成分)の平均値Vz2に前記定数Tを乗じてなる値Vz2・T(図7参照)に設定される。この場合、Z方向における対象物の相対速度の平均値Vz2は、前記STEP18で算出した移動ベクトルのZ方向成分を前記モニタ期間の時間で除算することにより算出される。なお、第1領域AR1の上下方向の高さは、第1対象物位置判定処理の場合と同じに設定される。
【0098】
STEP41において、対象物が第1領域AR1に存在しない場合(STEP41の判定結果がNOとなる場合)は、車両10の操舵やブレーキ操作によって対象物と車両10との接触を余裕をもって回避し得る。このため、この場合には、画像処理ユニット1は、STEP46において、対象物が回避対象で無いと判定し、第2回避対象判定処理を終了する。
【0099】
また、STEP41において、対象物が第1領域AR1に存在する場合(STEP41の判定結果がYESとなる場合)には、画像処理ユニット1は次に、対象物の実空間位置に関する第4対象物位置判定処理を実行する(STEP42)。この第4対象物位置判定処理は、前記第2対象物位置判定処理と同じであり、対象物が前記第2領域AR2(図7参照)に存在するか否かが判定される。
【0100】
そして、STEP41において、対象物が第2領域AR2に存在する場合には、前記STEP33と同じ歩行者判定処理(対象物が歩行者である可能性が高いか否かの判定処理)がSTEP43で実行され、該STEP44の判定結果がYESである場合には、さらに、対象物が電柱や他車両などの人工構造物であるか否かの判定処理(人工構造物判定処理)がSTEP44で実行される。対象物が人工構造物であるか否かの判定は、公知の手法(例えば特開2003−16429号公報や特開2003−230134号公報に記載されている手法)を使用すればよく、対象物の画像(グレースケール画像または2値化画像)における直線部分や直角部分の有無、他車両のウィンドウシールド部分の有無などの基づいて行なうことができる。あるいは、パターンマッチングの手法により対象物が人工構造物であるか否かの判定を行なうようにしてもよい。
【0101】
補足すると、第2回避対象判定処理は、前記STEP16で横方向速度成分を有しないと判定された対象物に関して実行される処理であるので、前記第1回避対象判定処理の対象とならない電柱や自動販売機などの静止物体、あるいは、車両10と同方向もしくは逆方向に移動している他車両が、第2回避対象判定処理の対象となる場合がある。このため、本実施形態では、STEP44の人工構造物判定処理を実行する。
【0102】
このとき、STEP44の判定結果がNOである場合には、STEP45において、対象物が回避対象であると判定され、第2回避対象判定処理が終了する。また、STEP43の判定結果がNOである場合、あるいは、STEP44の判定結果がYESである場合には、前記STEP46において、対象物が回避対象で無いと判定され、第2回避対象判定処理が終了する。
【0103】
一方、STEP42において、対象物が第2領域AR2に存在しないと判定された場合(STEP42の判定結果がNOとなる場合)、すなわち、対象物が、撮像領域のうちの第2領域AR2の外側の領域に存在する場合には、画像処理ユニット1は、次に、対象物の移動方向に関する第2進入判定処理を実行する(STEP47)。この第2進入判定処理は、対象物が前記第2領域AR2に進入し、且つ、車両10との接触する可能性が高いか否かを判定する処理である。具体的には、対象物の移動ベクトルが現状に維持されると仮定し、この移動ベクトルを含む直線と、車両10の前端位置における実空間座標系のXY平面との交点のX方向位置が求められる。そして、この求めたX方向位置が、自車両10の車幅中心線L0のX方向位置を中心とする所定範囲(自車両10の車幅よりも若干広い範囲)に存在することを要件(以下、進入接触要件という)として、この進入接触要件が満たされるか否かが判定される。
【0104】
STEP47において、対象物が前記進入接触要件を満たす場合(STEP47の判定結果がYESとなる場合)には、対象物が将来、車両10と接触する可能性が高い。そこで、この場合には、画像処理ユニット1は、前記STEP45において、該対象物が回避対象であると判定し、第2回避対象判定処理を終了する。
【0105】
また、STEP47において、対象物が前記進入接触要件を満たさない場合(STEPの判定結果がNOとなる場合)には、対象物が車両10と接触する可能性が低いので、画像処理ユニット1は、前記STEP46において、該対象物が回避対象で無いと判定し、第2回避対象判定処理を終了する。
【0106】
以上が第2回避対象判定処理の詳細である。
【0107】
以上説明した第1実施形態では、STEP16で対象物が横方向速度成分を有すると判定された場合には、画像処理ユニット1(詳しくは画像処理ユニット1のマイクロコンピュータ)により前記第1回避対象判定処理が実行され、前記モニタ期間において横方向速度成分を有しないと判定された場合には、画像処理ユニット1により前記第2回避対象判定処理が実行される。この場合、第1回避対象判定処理は、モニタ期間における対象物の時系列データを基に決定される移動ベクトルに関する判定処理を含まないので、歩行者が車両10の前方の道路を横断しつつあるとき、あるいは、横断しようとしているとき(もしくはその可能性が高いとき)には、速やかに該歩行者を回避対象であると判定し、ひいては、その歩行者に関する車両10の運転者の注意を喚起することができる。また、第2回避対象判定処理は、前記移動ベクトルに関する判定処理である前記STEP47の第2進入判定処理を含むため、該移動ベクトルが算出された後でなければ、実行されない。ただし、該第2進入判定処理によって、対象物が車両10に接触する可能性を高い信頼性で判定できるので、適切な注意喚起を車両10の運転者に対して行なうことができる。
【0108】
次に、本発明の第2実施形態を図8を参照して説明する。本実施形態は、STEP16の判定処理(横方向速度成分を有するか否かの判定処理)のみが、第1実施形態と相違するものであり、図8はその判定処理を示している。
【0109】
以下説明すると、本実施形態では、STEP16の判定処理では、まず、前記第1実施形態で説明した如く、車両10の車幅方向における対象物の速度成分Vxが算出され(STEP51)、さらに、この速度成分Vxの大きさが所定の下限値VxL以上で、且つ上限値VxH以下であるか否かが判定される(STEP52)。このとき、STEP52の判定結果がNOである場合(VxL>|Vx|、またはVxH<|Vx|である場合)には、STEP56において、対象物は横方向速度成分を有しないと判定される。
【0110】
一方、STEP52の判定結果がYESである場合(VxL≦|Vx|≦VxHである場合)には、対象物の現在の実空間位置と前記第2領域AR2と比較に基づいて、該対象物が第2領域AR2に存在するか否かが判定される(STEP53)。このとき、対象物が第2領域AR2に存在し、STEP53の判定結果がYESとなる場合には、対象物の速度成分Vxの向き(符号)によらずに、STEP55において、対象物が横方向速度成分を有すると判定される。
【0111】
一方、STEP53の判定結果がNOとなる場合、すなわち、対象物が撮像領域内で、第2領域AR2の外側(第2領域AR2の左側の領域または右側の領域)に存在する場合には、対象物の速度成分Vxの向きが、第2領域AR2に接近する向きであるか否かがVxの符号を基に判定される(STEP54)。この場合、対象物が第2領域AR2の左側の領域に存在する場合には、第2領域AR2に接近する向きは、右向きであり、対象物が第2領域AR2の右側の領域に存在する場合には、第2領域AR2に接近する向きは、左向きである。
【0112】
そして、STEP54の判定結果がYESとなる場合(Vxの向きが第2領域AR2に接近する向きである場合)には、STEP55において、対象物が横方向速度成分を有すると判定される。また、STEP54の判定結果がNOとなる場合(Vxの向きが第2領域AR2から離れる向きである場合)には、STEP56において、対象物が横方向速度成分を有しないと判定される。
【0113】
以上のように、本実施形態では、VxL≦|Vx|≦VxHという要件に加えて、Vxの向きが、対象物の実空間位置(車両10に対する相対位置)に応じて定まる要件を満たす場合に、対象物が横方向速度成分を有すると判定される。この場合、Vxの向きに関する要件は、対象物が第2領域AR2に存在する場合には、Vxが左右いずれかの向きであるという要件となり、対象物が第2領域AR2に存在しない場合には、Vxが第2領域AR2に接近する向きであるという要件となる。
【0114】
このように横方向速度成分を有するか否かの判定を行なうことにより、横方向速度成分を有すると判定される対象物は、第1実施形態の場合よりも、車両10の前方を横断する可能性が高い対象物となる。
【0115】
補足すると、本実施形態において、前記第3領域を第2領域AR2の外側の領域に設定した場合には、前記第1回避対象判定処理におけるSTEP37の判定結果は常にYESとなる。従って、この場合には、前記図5のSTEP32の判定結果がNOとなる場合に、STEP37の判定処理(第1進入判定処理)を省略して、対象物が回避対象であると判定するようにしてもよい。
【0116】
次に、本発明の第3実施形態を図9を参照して説明する。本実施形態は、第1実施形態における図4のSTEP16からSTEP17にかけての処理を変更したものであり、図9はその変更後の処理を部分的に示すフローチャートである。これ以外は、第1実施形態と同じである。
【0117】
図9を参照して、本実施形態では、STEP16で横方向速度成分を有すると判定された対象物については、さらに、STEP60において、対象物の実空間位置に関する判定処理が実行される。具体的には、STEP60においては、対象物の現在のZ方向位置Z0、すなわち、車両10の前後方向における対象物の車両10からの距離が所定値以下であるか否かが判定される。この場合、該所定値は、Z方向における対象物の現在の相対速度Vz1に応じて設定され、例えば前記第1領域AR1のZ方向の境界を規定する所定値(=Vz1・T)と同じ値に設定される。ただし、STEP60の判定処理における所定値と、第1領域AR1のZ方向の境界を規定する所定値(=Vz1・T)とを同じ値にする必要はなく、例えば前者の値を後者の値と異なる値に設定してもよく、あるいは、前者の値を固定値に設定してもよい。
【0118】
そして、STEP60の判定結果がYESとなる場合(Z0≦所定値となる場合)には、その対象物ついては、前記図4のSTEP19に進んで、前記第1回避対象判定処理が実行される。また、STEP60の判定結果がNOとなる場合には、前記STEP17からの処理が実行され、最終的に、実空間位置の時系列データの個数がN個に達したときに、前記図4のSTEP20に進んで、前記第2回避対象判定処理が実行される。
【0119】
以上のように、本実施形態では、STEP16における横方向速度成分の有無の判定結果と、STEP60における対象物の実空間位置に関する判定結果との組に応じて、第1回避対象判定処理と、第2回避対象判定処理とが選択的に実行されることとなる。
【0120】
この場合、本実施形態では、対象物が横方向速度成分を有するだけでなく、Z方向における対象物の相対位置が、車両10に比較的近い場合にのみ、第1回避対象判定処理が実行されることとなる。つまり、移動ベクトルを使用しない簡易的な回避対象判定処理である第1回避対象判定処理は、対象物を回避対象とすべきか否かの判定をより早急に行なうべき状況でのみ実行され、それ以外の状況では、第2回避対象判定処理が実行されて、対象物を回避対象とすべきか否かの判定の信頼性を高めて、注意喚起をより適切に行なうことができる。
【0121】
補足すると、本実施形態において、STEP60の判定処理を前記第1回避対象判定処理における前記STEP31の判定処理(第1対象物位置判定処理)と同じにしてよい。その場合には、第1回避対象判定処理における前記STEP31の判定結果は常にYESとなるので、該STEP31の判定処理を省略してもよい。
【0122】
また、本実施形態では、STEP60において、対象物のZ方向位置だけを判定するようにしたが、これに加えて、あるいは、これの代わりに、対象物のX方向位置を判定するようにしてもよい。例えば、対象物のX方向位置が第3領域AR3の左側境界線L5の左側の領域、あるいは、右側境界線L6の右側の領域に存在する場合には、STEP19の第1回避対象判定処理を実行せずに、STEP17からの処理を実行するようにしてもよい。
【0123】
また、前記第1〜第3実施形態では、赤外線カメラ2R,2Lの撮像画像を基に対象物を検出するようにしたが、可視光カメラの撮像画像を基に対象物を検出するようにしてもよく、あるいは、レーダなどにより対象物を検出するようにしてもよい。また、対象物の車両10に対する相対位置や相対速度をレーダを使用して検出するようにしてもよい。
【図面の簡単な説明】
【0124】
【図1】本発明の第1実施形態の装置の全体構成を示す図。
【図2】図1の周辺監視装置を備えた車両の斜視図。
【図3】図1の周辺監視装置に備えた画像処理ユニットの処理を示すフローチャート。
【図4】図1の周辺監視装置に備えた画像処理ユニットの処理を示すフローチャート。
【図5】図4のSTEP19の処理を示すフローチャート。
【図6】図4のSTEP20の処理を示すフローチャート。
【図7】図4のSTEP19、20の処理で使用する領域を説明するための図。
【図8】本発明の第2実施形態におけるSTEP16の判定処理を示すフローチャート。
【図9】本発明の第3実施形態おける画像処理ユニットの処理の一部を示すフローチャート。
【符号の説明】
【0125】
1…画像処理ユニット(対象物検出手段、速度成分判定手段、回避対象判定手段、相対位置検出手段、移動方向特徴量算出手段)、STEP1〜9…対象物検出手段、STEP14,15…相対位置検出手段、STEP16…速度成分判定手段、STEP16〜STEP20…回避対象判定手段、STEP18…移動方向特徴量算出手段。

【特許請求の範囲】
【請求項1】
少なくとも車両の前方側に存在する対象物を検出する対象物検出手段と、前記検出された対象物が前記車両との接触を回避すべき回避対象であるか否かを判定する回避対象判定手段とを備えた車両の周辺監視装置において、
前記対象物検出手段により検出された対象物の前記車両に対する相対速度が、該車両の車幅方向の速度成分であって、その大きさが所定の正の下限値以上となる横方向速度成分を有するか否かを逐次判定する速度成分判定手段を備え、
前記回避対象判定手段は、前記対象物が回避対象であるか否かの判定を行なうための複数種類の判定アルゴリズムを選択的に実行可能な手段であり、少なくとも前記速度成分判定手段の判定結果に応じて前記複数種類の判定アルゴリズムのうちの1つの判定アルゴリズムを選択して、該判定アルゴリズムを実行することにより前記対象物が回避対象であるか否かの判定を行なうことを特徴とする車両の周辺監視装置。
【請求項2】
前記横方向速度成分は、その大きさが前記下限値よりも大きい所定の上限値以下となる速度成分であることを特徴とする請求項1記載の車両の周辺監視装置。
【請求項3】
前記対象物検出手段により検出された対象物の前記車両に対する相対位置を逐次検出する相対位置検出手段を備え、前記横方向速度成分は、その向きが前記相対位置検出手段により検出された相対位置に応じて定まる所定の要件を満たす向きとなる速度成分であることを特徴とする請求項1または2記載の車両の周辺監視装置。
【請求項4】
前記対象物検出手段により検出された対象物の前記車両に対する相対位置を逐次検出する相対位置検出手段と、その相対位置が前記車両の前方の所定の領域に存在するか否かを判定する相対位置判定手段とを備え、前記回避対象判定手段は、前記速度成分判定手段の判定結果と前記相対位置判定手段の判定結果との組に応じて前記複数の判定アルゴリズムのうちの1つの判定アルゴリズムを選択して実行することを特徴とする請求項1記載の車両の周辺監視装置。
【請求項5】
前記対象物の前記車両に対する相対位置を逐次検出する相対位置検出手段と、
前記速度成分判定手段の判定処理の実行周期よりも長い時間間隔において前記相対位置検出手段により検出された前記対象物の相対位置の時系列に基づき該対象物の前記車両に対する移動方向を表す移動方向特徴量を算出する移動方向特徴量算出手段を備え、
前記速度成分判定手段の判定結果が否定的である場合に前記回避対象判定手段が選択する判定アルゴリズムは、少なくとも前記移動方向特徴量に関する判定処理を含むアルゴリズムにより構成され、前記速度成分判定手段の判定結果が肯定的である場合に前記回避対象判定手段が選択する判定アルゴリズムは、少なくとも前記移動方向特徴量に関する判定処理を含まないアルゴリズムにより構成されていることを特徴とする請求項1記載の車両の周辺監視装置。
【請求項6】
前記速度成分判定手段の判定処理の実行周期よりも長い時間間隔において前記相対位置検出手段により検出された前記対象物の相対位置の時系列に基づき該対象物の前記車両に対する移動方向を表す移動方向特徴量を算出する移動方向特徴量算出手段を備え、
前記速度成分判定手段の判定結果または前記相対位置判定手段の判定結果が否定的である場合に前記回避対象判定手段が選択する判定アルゴリズムは、少なくとも前記移動方向特徴量に関する判定処理を含むアルゴリズムにより構成され、前記速度成分判定手段の判定結果および前記相対位置判定手段の判定結果が肯定的である場合に前記回避対象判定手段が選択する判定アルゴリズムは、少なくとも前記移動方向特徴量に関する判定処理を含まないアルゴリズムにより構成されていることを特徴とする請求項4記載の車両の周辺監視装置。
【請求項7】
請求項1〜6のいずれか1項に記載の車両の周辺監視装置を搭載したことを特徴とする車両。
【請求項8】
少なくとも車両の前方側に存在する対象物を検出し、その検出した対象物が前記車両との接触を回避すべき回避対象であるか否かを判定する車両の周辺監視方法において、
前記検出された対象物の前記車両に対する相対速度が、該車両の車幅方向の速度成分であって、その大きさが所定の正の下限値以上となる横方向速度成分を有するか否かを逐次判定する速度成分判定ステップと、
前記対象物が回避対象であるか否かの判定を行なうための判定アルゴリズムを、あらかじめ用意された複数種類の判定アルゴリズムの中から、少なくとも前記速度成分判定ステップの判定結果に応じて選択し、その選択した判定アルゴリズムを実行することにより前記対象物が回避対象であるか否かの判定を行なう回避対象判定ステップとを備えたことを特徴とする車両の周辺監視方法。
【請求項9】
少なくとも車両の前方側に存在することが検出された対象物が、前記車両との接触を回避すべき回避対象であるか否かを判定する処理をコンピュータに実行させる車両の周辺監視用プログラムであって、
前記検出された対象物の前記車両に対する相対速度が、該車両の車幅方向の速度成分であって、その大きさが所定の正の下限値以上となる横方向速度成分を有するか否かを逐次判定する速度成分判定処理と、
前記対象物が回避対象であるか否かの判定を行なうための判定用アルゴリズムを、あらかじめ定められた複数の判定用アルゴリズムの中から、少なくとも前記速度成分判定処理の判定結果に応じて選択し、その選択した判定アルゴリズムにより前記対象物が前記回避対象であるか否かを判定する回避対象判定処理とを前記コンピュータに実行させる機能を備えることを特徴とする車両の周辺監視用プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2007−293487(P2007−293487A)
【公開日】平成19年11月8日(2007.11.8)
【国際特許分類】
【出願番号】特願2006−118998(P2006−118998)
【出願日】平成18年4月24日(2006.4.24)
【出願人】(000005326)本田技研工業株式会社 (23,863)
【Fターム(参考)】