車両用周囲監視装置
【課題】死角領域の画像内の移動体の移動状況を把握し易い車両用周囲監視装置を提供する。
【解決手段】本発明による車両用周囲監視装置によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視する車両用周囲監視装置であって、死角領域の実画像を撮像するように車両の前方部に設けられた実画像撮像手段2、4、6と、この実画像撮像手段により撮像された実画像内から移動体を抽出し、この移動体の移動状態を検出する移動体検出手段32と、この移動体検出手段で検出された移動体の仮想画像を生成する仮想画像生成手段38と、この仮想画像生成手段により生成された移動体の仮想画像を表示する位置及び大きさをその移動体の移動状態を表すように規定する仮想画像規定手段38と、移動体の仮想画像を仮想画像規定手段により規定される位置及び大きさで実画像に重畳して表示する表示手段26と、を有する。
【解決手段】本発明による車両用周囲監視装置によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視する車両用周囲監視装置であって、死角領域の実画像を撮像するように車両の前方部に設けられた実画像撮像手段2、4、6と、この実画像撮像手段により撮像された実画像内から移動体を抽出し、この移動体の移動状態を検出する移動体検出手段32と、この移動体検出手段で検出された移動体の仮想画像を生成する仮想画像生成手段38と、この仮想画像生成手段により生成された移動体の仮想画像を表示する位置及び大きさをその移動体の移動状態を表すように規定する仮想画像規定手段38と、移動体の仮想画像を仮想画像規定手段により規定される位置及び大きさで実画像に重畳して表示する表示手段26と、を有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両用周囲監視装置に係り、特に、ドライバーの死角領域を監視する車両用周囲監視装置に関する。
【背景技術】
【0002】
従来、車両前方側における左右方向の死角映像を撮像してモニタ表示する装置が知られている(特許文献1、特許文献2)。
【0003】
【特許文献1】特開2007−172462号公報
【特許文献2】特開平11−338074号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
上述したような装置は、例えばモニタ上に左右方向の死角領域がそのまま表示されるだけのものである。そのような表示をドライバーが見て死角領域の状況を判断するのであるが、例えば左右方向から接近してくる車両などの移動体がある場合などに、静止物との区別が付きにくい上、どの程度の距離でどの程度の速さで存在する車両であるのかが分かりにくいものであった。
【0005】
本発明は、上述した従来技術の問題点を解決するためになされたものであり、死角領域の画像内の移動体の移動状況を把握し易い車両用周囲監視装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記の目的を達成するために本発明によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視する車両用周囲監視装置であって、死角領域の実画像を撮像するように車両の前方部に設けられた実画像撮像手段と、この実画像撮像手段により撮像された実画像内から移動体を抽出し、この移動体の移動状態を検出する移動体検出手段と、この移動体検出手段で検出された移動体の移動状態を表すような所定の仮想画像を表示するためにその所定の仮想画像の表示態様を規定する仮想画像規定手段と、移動体の仮想画像を仮想画像規定手段により規定される表示態様で実画像に重畳して表示する表示手段と、を有することを特徴としている。
【0007】
このように構成された本発明においては、移動体の仮想画像が、その移動状態を表すような表示態様で実画像に重畳して表示されるので、ドライバーが移動体の移動状態を認識し易くなり、静止物との区別が容易であると共に死角領域の画像内の移動体の移動状況を把握し易い。
【0008】
また、本発明において、好ましくは、ドライバーの死角領域は車両の前方側の交差路の交差点の周辺の死角領域であり、実画像撮像手段は、車両の前方端に設けられ、車両が交差路に差し掛かるとき、その車両の前方端から撮像可能な交差路の交差点周囲の実画像を撮像する。
このように構成された本発明においては、衝突事故が多発する交差点周囲の左右領域の移動状況を容易に把握することが出来る。
【0009】
また、本発明において、好ましくは、仮想画像規定手段は、移動体の移動状態として、その移動体の進行方向延長線上の所定時間後の推定到達位置に移動体の仮想画像が表示されるように移動体の仮想画像を表示する表示態様を規定する。
このように構成された本発明においては、仮想画像規定手段により移動体の進行方向延長線上の所定時間後の推定到達位置に移動体の仮想画像が規定され、これが、表示手段により実画像に重畳して表示されるので、所定時間後の移動体の位置を直感的に把握することが出来、ドライバーにとって、例えば自車両を発進させて良いかの判断をより容易にすることが出来る。
【0010】
また、本発明において、好ましくは、さらに、所定時間に基づいてその表示された移動体の現在の位置からの到達予測時間の数値表示を移動体の仮想画像に合わせて表示する第2表示手段を有する。
このように構成された本発明においては、所定時間後の移動体の位置を数値による時間表示により、より直感的に把握することが出来る。
【0011】
また、本発明において、好ましくは、仮想画像規定手段は、移動体の移動状態として、その移動体が移動してきた過去の位置に移動体の仮想画像が等時間間隔で残像として表示されるように移動体の仮想画像を表示する表示態様を規定する。
このように構成された本発明においては、仮想画像規定手段により、移動体が移動してきた過去の位置に移動体の仮想画像が等時間間隔で残像として表示されるように移動体の仮想画像を表示する表示態様が規定され、これが、表示手段により実画像に重畳して表示されるので、移動体の現在までの移動状況を直感的に把握することが出来、ドライバーにとって、例えば自車両を発進させて良いかの判断をより容易にすることが出来る。
【0012】
また、本発明において、好ましくは、さらに、等時間間隔の残像に合わせてベクトル表示を行う。
このように構成された本発明においては、等時間間隔の残像に合わせたベクトル表示により、移動体の現在までの移動状況を、より直感的に把握することが出来る。
【0013】
また、本発明において、好ましくは、表示手段は、移動体の仮想画像を、移動体の自車両からの距離が所定距離以上の遠距離にある場合に、所定距離より小さい場合よりも拡大して表示する。
このように構成された本発明においては、遠距離にある移動体の移動状態を容易に把握することが出来る。
【0014】
また、本発明において、好ましくは、表示手段は、移動体の仮想画像の表示を、移動体の自車両からの距離が所定距離範囲内であるか、或いは、移動体の自車両への到達時間が所定時間範囲内にあるときに行う。
このように構成された本発明においては、例えば自車両を発進させるか停止したままにするかの判断を迷うような所定距離内に移動体が存在する場合に、ドライバーにより確実に移動体の移動状態を把握させることが出来る。
【0015】
また、本発明において、好ましくは、表示手段は、移動体の仮想画像を上記移動体の実体および実状と識別可能に表示する。
このように構成された本発明においては、ドライバーにとって移動体としての視認が容易である。
【0016】
また、本発明において、好ましくは、移動体検出手段により複数の移動体が検出されたとき、仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像の表示態様を規定し、表示手段は、その規定された仮想画像を実画像に重畳して表示する。
このように構成された本発明においては、複数の移動体が存在するとき、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0017】
また、本発明において、好ましくは、移動体検出手段により複数の移動体が検出され、表示手段が複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像の表示態様を規定し、表示手段は、その規定された仮想画像を実画像に重畳して表示する。
このように構成された本発明においては、複数の移動体が存在し、それらの移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、それらの移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、ドライバーが画像を見て複数の移動体の仮想画像をそれぞれ混同することなく、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0018】
また、本発明において、好ましくは、仮想画像規定手段は、移動体の移動状態を表すために、移動体の進行方向前方側の路面上に移動体の移動状態を示す仮想路面画像を表示するようにその表示態様を規定する。
このように構成された本発明においては、移動体が進行している路面に、移動体の移動状態を示すように仮想路面画像が仮想表示されるので、より確実に、移動体の存在する方向や移動状態を把握することが出来る。
【0019】
また、本発明において、好ましくは、仮想画像規定手段は、自車両及び移動体が向かう交差路の交差点までの自車両の到達時間及び移動体の到達時間に応じて、或いは、自車両及び移動体が向かう交差路の交差点での自車両の通過時間及び移動体の到達時間に応じて移動体の進行方向前方側の路面上に所定の仮想路面画像を表示するようにその表示態様を規定する。
このように構成された本発明においては、自車両及び移動体が向かう交差路の交差点までの自車両の到達時間及び移動体の到達時間に応じて移動体の進行方向前方側の路面上に所定の仮想路面表示が重畳して表示されるので、より確実且つ正確に、移動体の存在する方向や移動状態を把握することが出来る。
【0020】
また、本発明において、好ましくは、仮想画像規定手段は、仮想路面表示を、交差点までの自車両の到達時間及び移動体の到達時間の算出の確信度に応じて仮想路面画像を変更するようにその表示態様を規定する。
このように構成された本発明においては、交差点までの自車両の到達時間及び移動体の到達時間の算出の確信度に応じて仮想路面表示が変更して表示されるので、より確実且つ正確に、移動体の存在する方向や移動状態を把握することが出来る。なお、確信度としては、例えば、自律センサ情報、車車間通信情報、路車間通信情報、情報センター配信情報の順で確信度が高い等と決定することが出来る。
【0021】
また、本発明において、好ましくは、移動体検出手段により複数の移動体が検出されたとき、仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して仮想路面画像の表示態様を規定し、表示手段は、その規定された仮想路面画像のみを仮想画像として実画像に重畳して表示する。
このように構成された本発明においては、複数の移動体が存在するとき、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0022】
また、本発明において、好ましくは、移動体検出手段により複数の移動体が検出され、表示手段が複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して仮想路面画像の表示態様を規定し、表示手段は、その規定された仮想路面画像のみを仮想画像として実画像に重畳して表示する。
このように構成された本発明においては、複数の移動体が存在し、それらの移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、それらの移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、複数の仮想が表示されることによりドライバーがそれらの仮想画像を混同することを防止することが出来、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0023】
また、本発明において、好ましくは、表示手段は、仮想画像を移動体の実画像と識別可能に表示する。
このように構成された本発明においては、ドライバーは仮想画像を仮想の画像として認識することが出来、実画像と仮想画像とを混同することがない。
【0024】
また、本発明において、好ましくは、表示手段は、移動体の現時点での背景及び現時点での移動体の実画像に重畳して移動体の仮想画像又は仮想路面画像を表示する。
このように構成された本発明においては、ドライバーとしては実画像としては最新の現時点での映像を見ることが出来、それに対して仮想画像が表示されるので、より確実に周囲の状況と共に移動体の移動状態を把握することが出来る。
【発明の効果】
【0025】
本発明の車両用周囲監視装置によれば、死角領域の画像内の移動体の移動状況を把握し易い。
【発明を実施するための最良の形態】
【0026】
以下、添付図面を参照しながら本発明の好ましい実施の形態について説明する。
先ず、図1及び図2により、本発明の第1乃至第3実施形態に共通の各実施形態による車両用周囲監視装置の基本構成を説明する。図1は、本発明の第1乃至第3実施形態による車両用周囲監視装置が適用された車両の全体構成図であり、図2は、本発明の第1乃至第3実施形態による車両用周囲監視装置のカメラによる撮像範囲の一例(a)及び撮像された映像の一例(b)を示す図である。
【0027】
図1に示すように、車両1は、左方監視カメラ2、前方監視カメラ4及び右方監視カメラ6を有し、これらのカメラは、車両の前端部に取り付けられている。これらのカメラは、広角レンズ使用のCCDカメラであり、例えば、図2(a)に示すような範囲を撮像し、図2(b)に示すような画像を得ることが出来る。
【0028】
また、車両1は、車速センサ10、GPS装置12、ナビゲーション装置13、画像表示モニタ14及びスピーカ15を有している。モニタ14は、運転席16のドライバーが見ることが出来る位置に配置されている。さらに、車両1は、ECU18を有し、このECU18には、上述した各カメラ2、4、6、車速センサ10、GPS装置12からの信号が入力され、所定の画像をモニタ14に表示し、また、所定の音をスピーカ15で発する。
【0029】
さらに、車両1は、他車両との距離を検出するためのレーザレーダ7を有する。なお、レーザレーダ7の代わりに、車車間通信により他車両との距離を把握するようにしたり、路車間通信により他車両との距離を把握するようにしても良い。
【0030】
次に、図3により、ドライバーによる交差路進入時における運転行動を説明する。図3は、ドライバーによる交差路進入時における運転行動を説明するための図である。
まず、交差路手前では一時停止する。その後、徐行しながら鼻出し位置に進み、カメラ出し位置(図2(a)参照)に進み、そして、頭出し位置(図4参照)に進む。ここで、鼻出し位置、カメラ出し位置及び頭出し位置について説明する。図4は、自車両の頭出し位置を説明するための道路及び車両の俯瞰図である。
【0031】
先ず、鼻出し位置は、他車や歩行者に自車両の存在を知らせる位置である。カメラ出し位置は、図2(a)に示すように、車両の先端が交差路内に入った状態であり、ドライバーからは交差路を見通せないが、車両の前端部に取り付けられたカメラ2、4、6により、交差路内を見通せる位置である。頭出し位置は、図4に示すように、ドライバーが座る運転席が交差路内に入ったときの位置であり、ドライバーが直接に、自分の目で交差路内を見通せるようになった位置である。
【0032】
本発明の実施形態による車両用周囲監視装置では、これらの一時停止から頭出し位置までの間に後述する仮想画像を表示するようにしている。そして、頭出し位置になると、仮想画像を点滅させ、そして、頭出し位置を通過後には、仮想画像の表示を中止する。
【0033】
次に、図5により、本発明第1乃至第3実施形態に共通の各実施形態による車両用周囲監視装置の仮想画像表示処理を行うか否かを決定するための制御フローを説明する。図5は、本発明の第1乃至第3実施形態による車両用周囲監視装置の距離把握用仮想画像を表示するか否かの処理を示すフローチャートである。
図5に示すように、S1において、仮想画像処理実施判定部52(図6、図9、図13参照)が、GPS12からの信号及びナビゲーション装置13からの信号に基づいて、自車両が交差点近傍にいるか否かを判定する。次に、S2において、仮想画像処理実施判定部52(図6、図9、図13参照)が、車速センサ10からの信号に基づいて、車速がV1より小さいか否かを判定する。車速V1は、自車両が交差点等に近づいて減速し、ドライバーがモニタ14を見ても安全であると判断出来る値である。
【0034】
車速がV1より小さく車両が減速した状態であれば、S3に進み、S3において、画像補正部24からの画像信号に基づいて、まず、実画像を表示する。次に、S4に進み、仮想画像処理実施判定部52(図6、図9、図13参照)が、車速がV2より小さいか否かを判定する。車速V2は、自車両がほぼ停止状態に近い或いは停止したと判断出来る値である。車速がV2より小さい場合は、自車両が一時停止したものとして、S5の、距離把握用仮想画像表示処理に進む。上述したS1において交差点近傍ではなく、S2において車速がV1以上であり、S4において車速がV2以上である、とそれぞれ判定された場合には、S5の距離把握用仮想画像表示処理には進まない。
【0035】
次に、図6により、本発明の第1実施形態による車両用周囲監視装置の構成を説明する。図6は、本発明の第1実施形態による車両用周囲監視装置の構成を示すブロック図である。
【0036】
この第1実施形態では、実際に存在する移動体(交差点に向かってくる他車両など)の実映像に重畳して、その移動体が所定時間後にどのような位置にいるかを仮想車両を表示することにより、ドライバーが移動体の移動状態を認識するようにしたものである。これにより、例えばドライバーが自車両を発進させて良いか否かの判断を助けることが出来る。
【0037】
図6に示すように、周辺監視センサ20として構成される各カメラ2、4、6からの画像信号が、ECU18内の画像取得部22に入力される。入力された画像信号は広角画像であり歪みが生じているので、その画像が画像補正部24で補正される。この画像補正部24からの画像信号は、合成画像作成部26に実画像として入力される。
【0038】
移動体検出部30では、画像補正部24からの入力画像内に移動体、例えば、他車両やオートバイや自転車などが存在するか否かを検出する。移動体が存在しない場合には、合成画像作成部26で後述する仮想画像を表示しないので、それを指示する信号を合成画像作成部26に送り、移動体が存在する場合には合成画像作成部26で後述する仮想画像を表示するので、移動体が存在することを指示する信号を合成画像作成部26に送る。合成画像作成部26で作成される合成画像は、モニタ14で表示される。
【0039】
また、移動体移動状態検出部32では、移動体検出部30から、移動体が存在する旨の信号を受けて、レーザレーダ7により、自車両に接近してくる移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出する。なお、レーザレーダ7の代わりに、車車間通信或いは路車間通信により、移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出するようにしても良い。
【0040】
また、移動体の所定時間後の移動位置推定部34では、所定時間(本実施形態では、10秒毎)の後の移動体の位置を推定する。
そして、仮想画像作成部38では、移動体の所定時間後の移動位置推定部34で推定された位置に移動体が表示されるように仮想画像が作成される。作成された仮想画像は、合成画像作成部26で各カメラ2、4、6で得られる実画像に重畳され、モニタ14に表示する。
【0041】
次に、ECU18内には、頭出し位置判定部50が存在する。頭出し位置判定部50では、車両が交差路内に頭出しした(図4参照)ことを判定するものである。頭出しが行われていれば、既にドライバー自身で交差路を見通せることから、仮想画像作成部38における仮想画像の作成を中止するように所定の信号を送り、モニタ14に仮想表示がされないようにする。
【0042】
また、ECU18には、仮想画像処理実施判定部52が存在する。この仮想画像処理実施判定部52は、ナビゲーション装置13から得る地図データ、GPS装置12から得られる位置データ、及び、車速センサ10から得られる車速データを基に、車両が交差点近傍に位置しているか否か及び一時停止しているか否かを判定するものである。後述するように、交差点近傍であり一時停止したときには、仮想画像を表示するために、合成画像作成部26に所定の信号を送る。
【0043】
次に、図7及び図8により、本発明の第1実施形態による車両用周囲監視装置の制御内容を説明する。図7は、本発明の第1実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートであり、図8は、本発明の第1実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)を示す図である。図7において、Sは各ステップを示す。
【0044】
図7に示すように、先ず、S11において、画像取得部22(図6参照)により、例えば交差路において、左方監視カメラ2、前方監視カメラ4、右方監視カメラ6の映像を取得し、S12において、画像補正部24により、取得された広角画像の歪み補正を行う。
【0045】
次に、S13において、移動体検出部30により、S11及びS12で取得された実画像から、移動体を検出する。このS13における移動体の検出は、オプティカルフロー処理にて行われる。なお、オプティカルフローの他に、背景差分、フレーム間差分処理、或いは、レーザーやミリ波などにより移動体を検出するようにしても良い。移動体が検出されないときは、S14に進み、例えば交差路において安全に進行可能なものとして、合成画像作成部26(図6参照)に入力されるS11及びS12で取得された実画像をそのまま表示する。即ち、仮想画像の表示は禁止される。
【0046】
S13において、移動体が検出されたときには、S15に進み、移動体移動状態検出部32により、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。移動体が複数存在するときには、基本的には、自車両からの距離が最短距離である移動体、或いは、自車両までの最短到達時間の移動体について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。一方、後述するように、複数の移動体について仮想画像を表示しても、それらが各々重ならない場合には、後続する移動体(後続車など)について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。
【0047】
次に、S16において、移動体の自車両からの距離が所定距離内であるか、或いは、移動体の自車両への到達時間が所定時間内であるかを判定する。所定距離としては例えば、10〜30mであり、所定時間としては例えば、2〜3.5秒である。
【0048】
移動体の自車両からの距離が所定距離内でなく、或いは、移動体の自車両への到達時間が所定時間内でない場合には、仮想表示が不必要であるとして、S14に進み、実画像をそのまま表示する。これは、移動体が、例えば、移動体の自車両からの距離が例えば10m以下であるような近い場合や、移動体の自車両への到達時間が2秒以内といった近い場合には、仮想表示をしなくても移動体の移動状態が良く分かるので、仮想表示をしないのである。
【0049】
S16において、移動体の自車両からの距離が所定距離内であり、或いは、移動体の自車両への到達時間が所定時間内である場合には、S17に進む。S17では、移動体の所定時間後の移動位置推定部34において、所定時間(本実施形態では、10秒毎)の後の移動体の位置を推定する。移動体が複数存在するときには、自車両からの距離が最短距離である移動体、或いは、自車両までの最短到達時間の移動体について、所定時間後の移動体の位置を推定する。
【0050】
次に、S18において、現在の移動体の位置からの移動体の仮想表示がされる位置までの時間を規定する。即ち、仮想表示するために、何秒後に何秒毎に(所定時間)に移動体の状態を表示するかを規定する。なお、この規定と共に、どの程度の距離毎(所定距離)に移動体の状態を表示するかを規定しても良い。
次に、S19では、S18で規定された所定時間(何秒後、何秒毎)における移動体の仮想的な移動の状態として、移動体の進行方向延長線上に表示する位置及び大きさを規定する。
【0051】
次に、S20において、図8(b)に示すように、S18で規定した所定時間(何秒後)T10、T11、T12を実画像に重畳して表示すると共に、S19で規定した移動体の進行方向延長線上に表示する位置及び大きさによる移動体の仮想表示V11、V12を実画像に重畳してモニタ14に表示する。図8(b)では、実画像として、現在の位置に存在する車両(移動体)C11、C12や現在見えている路面の状況がモニタ14に表示される。
このS20においては、ドライバーが実画像としては最新の現時点での映像を見ることが出来るように、常に現時点(最新)での背景及び移動体に重畳して移動体の仮想画像を表示する。
【0052】
図8(b)に示すように、複数の移動体C11、C12が存在する場合、本実施形態では、自車両から最短距離に存在する移動体(C11)或いは自車両への到達時間が最も短い移動体(C11)に対してのみ、仮想表示V11、V12、T10、T11、T12が表示される。なお、図8(b)において、移動体C12に対して仮想表示をしても移動体C11自体及びその仮想表示と重ならない場合には、移動体C12に対しても仮想表示をしても良い。言い換えると、移動体C12に対して仮想表示をすると移動体C11自体及びその仮想表示と重なる場合には、後続車の仮想画像の表示を禁止する。
仮想表示(V11、V12)は、実画像と区別がつくように、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示をするのが好ましい。また、仮想表示(V11、V12)は、等時間間隔で表示される。
【0053】
次に、S21に進み、頭出し位置判定部(図6参照)50により、自車両が頭出し位置(図4参照)を通過したか否かを判定する。頭出し位置を判定するには、いくつか手法がある。例えば、GPS装置12により得られる自車両の位置とナビゲーション装置13の地図データから判定する手法、カメラ2、4、6により得られる停止線の位置と、移動距離センサ(図示せず)による移動距離から、停止線からどれだけ移動したかで判定する手法、左右のカメラ2、6による映像から、左右の見通し具合が良くなるとき(近距離に見通しを遮断するものがないとき)が頭出し位置と判定する手法、カメラ2、4、6により得られる停止線の位置及び交差点周囲の画像により判定する手法などである。
【0054】
自車両が頭出しをしているときには、S22に進み、合成画像作成部26(図6参照)により、S20で表示した仮想画像を点滅表示させた後、その仮想画像の表示を中止する。仮想画像の点滅により、ドライバーは、モニタ14による表示ではなくドライバー自身で目視が可能であることや、実際に目視で見えるものと異なるものであることを知ることが出来る。一方、頭出しをしていないときには、S20による仮想画像と実画像との表示を続ける。
【0055】
次に、本発明の第1実施形態による作用効果を説明する。
本発明の第1実施形態による車両用周囲監視装置によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視することが出来る。本実施形態では、死角領域の実画像を撮像するように車両の前方部にカメラ2、4、6が設けられ、移動体検出部30により、これらのカメラ2、4、6により撮像された実画像内から移動体が抽出される。さらに、移動体移動状態検出部32により移動体の移動状態が検出され、移動体の所定時間後の移動位置推定部34により移動体の仮想画像を表示する位置及び大きさをその移動体の移動状態を表すように規定される。そして、仮想画像生成部38により移動体の仮想画像が生成され、合成画像作成部26により、移動体の仮想画像を、移動体の所定時間後の移動位置推定部34により規定された位置及び大きさで実画像に重畳してモニタ14に表示する。
【0056】
従って、移動体の仮想画像が、その移動状態を表すような位置及び大きさで実画像に重畳して表示されるので、ドライバーが移動体の移動状態を認識し易くなり、静止物との区別が容易であると共に死角領域の画像内の移動体の移動状況を把握し易い。
【0057】
次に、第1実施形態によれば、ドライバーの死角領域は車両の前方側の交差路の交差点の周辺の死角領域であり、カメラ2、4、6は、車両の前方端に設けられ、車両が交差路に差し掛かるとき、その車両の前方端から撮像可能な交差路の交差点周囲の実画像を撮像するので、衝突事故が多発する交差点周囲の左右領域の移動状況を容易に把握することが出来る。
【0058】
次に、第1実施形態によれば、移動体の所定時間後の移動位置推定部34は、移動体の移動状態として、その移動体の進行方向延長線上の所定時間後の推定到達位置に移動体の仮想画像が表示されるように移動体の仮想画像を表示する位置及び大きさが規定され、これが、表示手段により実画像に重畳して表示されるので、所定時間後の移動体の位置を直感的に把握することが出来、ドライバーにとって、例えば自車両を発進させて良いかの判断をより容易にすることが出来る。
【0059】
次に、第1実施形態によれば、所定時間に基づいてその表示された移動体の現在の位置からの到達予測時間の数値表示が移動体の仮想画像に合わせて表示されるので、そのような数値による時間表示により、移動体の移動状態をより直感的に把握することが出来る。
【0060】
次に、第1実施形態によれば、合成画像作成部26は、移動体の仮想画像の表示を移動体の自車両からの距離が所定距離内にあるとき、或いは、移動体の自車両への到達時間が所定時間内であるときに行うので、例えば自車両を発進させるか停止したままにするかの判断を迷うような所定距離内に移動体が存在する場合に、ドライバーにより確実に移動体の移動状態を把握させることが出来る。
次に、第1実施形態によれば、合成画像作成部26は、移動体の仮想画像を移動体の実際の車両の実体及び実状と識別可能に表示するので、ドライバーにとって移動体としての視認が容易である。
【0061】
次に、第1実施形態によれば、移動体検出部30により複数の移動体が検出されたとき、仮想画像生成部38は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像を生成するので、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0062】
次に、第1実施形態によれば、合成画像作成部26により複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、仮想画像生成部38は、それらの移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像を生成するので、画像を見て各移動体の移動状態をそれぞれ混同することなく、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0063】
次に、第1実施形態によれば、合成画像作成部26は、仮想表示を移動体の実画像と識別可能に、例えば、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示したりして表示するので、ドライバーは仮想画像を仮想の画像として認識することが出来、実画像と仮想画像とを混同することがない。
【0064】
次に、第1実施形態によれば、合成画像作成部26は、移動体の現時点での背景及び現時点での移動体に重畳して移動体の仮想表示又は仮想路面表示を表示するので、ドライバーは、実画像としては最新の現時点での映像を見ることが出来、それに対して仮想画像が表示されるので、より確実に周囲の状況と共に移動体の移動状態を把握することが出来る。
【0065】
次に、図9により、本発明の第2実施形態による車両用周囲監視装置の構成を説明する。図9は、本発明の第2実施形態による車両用周囲監視装置の構成を示すブロック図である。
【0066】
この第2実施形態では、実際に存在する移動体(交差点に向かってくる他車両など)の実映像に重畳して、その移動体が現時点の位置に来るまで、所定時間前にどのような位置にいたのかを残像画像として仮想的に表示することにより、ドライバーが移動体の移動状態を認識するようにしたものである。これにより、例えばドライバーが自車両を発進させて良いか否かの判断を助けることが出来る。
【0067】
図9に示すように、周辺監視センサ20として構成される各カメラ2、4、6からの画像信号が、ECU18内の画像取得部22に入力される。入力された画像信号は広角画像であり歪みが生じているので、その画像が画像補正部24で補正される。この画像補正部24からの画像信号は、合成画像作成部26に実画像として入力される。
【0068】
移動体検出部30では、画像補正部24からの入力画像内に移動体、例えば、他車両やオートバイや自転車などが存在するか否かを検出する。移動体が存在しない場合には、合成画像作成部26で後述する仮想画像を表示しないので、それを指示する信号を合成画像作成部26に送り、移動体が存在する場合には合成画像作成部26で後述する仮想画像を表示するので、移動体が存在することを指示する信号を合成画像作成部26に送る。
【0069】
また、移動体移動状態検出部32では、移動体検出部30から、移動体が存在する旨の信号を受けて、レーザレーダ7により、自車両に接近してくる移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出する。なお、レーザレーダ7の代わりに、車車間通信或いは路車間通信により、移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出するようにしても良い。
【0070】
また、移動体情報蓄積部33では、移動体検出部30により検出された移動体の位置情報を移動体移動状態検出部32から得て蓄積する。移動体残像画像規定部35では、移動体情報蓄積部33で蓄積された過去の移動体の位置と、移動体移動状態検出部32から得られる現在の位置とに基づいて、移動体の残像画像を規定する。具体的には、所定の時間間隔で、過去の所定時間の移動体の位置及び大きさを規定する。
また、この移動体残像画像規定部35では、移動体情報蓄積部33で蓄積された過去の移動体の位置と、移動体移動状態検出部32から得られる現在の位置とに基づいて移動体の移動方向を表すベクトルを算出する。
【0071】
そして、仮想画像作成部38では、移動体残像画像規定部35により規定された移動体の過去の位置及び大きさの仮想画像(残像画像)を生成する。そして、作成された仮想画像は、合成画像作成部26で、各カメラ2、4、6で得られる実画像に重畳され、モニタ14により表示される。また、スピーカ15により、仮想画像が更新されることを示す所定の音が発せられる。
【0072】
次に、ECU18内には、頭出し位置判定部50が存在する。頭出し位置判定部50では、車両が交差路内に頭出しした(図4参照)ことを判定するものである。頭出しが行われていれば、既にドライバー自身で交差路を見通せることから、仮想画像作成部38における移動体の仮想表示を中止するように、所定の信号を送るようになっている。
【0073】
また、ECU18には、仮想画像処理実施判定部52が存在する。この仮想画像処理実施判定部52は、ナビゲーション装置13から得る地図データ、GPS装置12から得られる位置データ、及び、車速センサ10から得られる車速データを基に、車両が交差点近傍に位置しているか否か及び一時停止しているか否かを判定するものである。後述するように、交差点近傍であり一時停止したときには、仮想画像を表示するために、合成画像作成部26に所定の信号を送る。
【0074】
次に、図10乃至図12により、本発明の第2実施形態による車両用周囲監視装置の制御内容を説明する。図10は、本発明の第2実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートであり、図11は、本発明の第2実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)を示す図であり、図12は、本発明の第2実施形態による仮想画像が実画像に重畳された映像の一例である。図10において、Sは各ステップを示す。
【0075】
図10に示すように、先ず、S30において、画像取得部22(図9参照)により、例えば交差路において、左方監視カメラ2、前方監視カメラ4、右方監視カメラ6の映像を取得し、S31において、画像補正部24により、取得された広角画像の歪み補正を行う。
【0076】
次に、S32において、移動体検出部30では、S30及びS31で取得された実画像から、移動体を検出する。このS32における移動体の検出は、オプティカルフロー処理にて行われる。なお、オプティカルフローの他に、背景差分、フレーム間差分処理、或いは、レーザーやミリ波などにより移動体を検出するようにしても良い。
移動体が検出されないときは、S33に進み、例えば交差路において安全に進行可能なものとして、合成画像作成部26(図9参照)に入力されるS30及びS31で取得された実画像をそのまま表示する。即ち、仮想画像の表示は禁止される。
【0077】
S32において、移動体が検出されたときには、S34に進み、移動体情報蓄積部33(図9参照)により、移動体の情報として、移動体が存在している或いは存在していた位置及び各位置での移動体の大きさの情報を蓄積する。
【0078】
次に、S35に進み、移動体移動状態検出部32により、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。移動体が複数存在するときには、基本的には、自車両からの距離が最短距離である移動体、或いは、自車両までの最短到達時間の移動体について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。一方、後述するように、複数の移動体について仮想画像を表示しても、それらが各々重ならない場合には、後続する移動体(後続車など)について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。
【0079】
次に、S36において、移動体の自車両からの距離が所定距離内であるか、或いは、移動体の自車両への到達時間が所定時間内であるかを判定する。S36における所定距離としては例えば、0〜10mであり、所定時間としては例えば、0〜1秒である。
S36で、移動体の自車両からの距離が所定距離内であるか、或いは、移動体の自車両への到達時間が所定時間内であると判定された場合、即ち、本実施形態では、移動体が近距離に存在するときには、S33に進み、合成画像作成部26(図9参照)に入力されるS30及びS31で取得された実画像をそのまま表示する。即ち、仮想画像の表示は禁止される。つまり、近距離であれば、ドライバーは、移動体の存在が分かれば良く、注意を払って発進待機及び通過待ちすれば良い。
【0080】
S36で、移動体の自車両からの距離が所定距離内であるか、或いは、移動体の自車両への到達時間が所定時間内であると判定されない場合には、S37に進む。
S37では、移動体の自車両からの距離が所定距離以上であるか、或いは、移動体の自車両への到達時間が所定時間以上であるかを判定する。S37における所定距離としては例えば、30mであり、所定時間としては例えば、3秒である。
【0081】
S37では、移動体の自車両からの距離が所定距離以上であるか、或いは、移動体の自車両への到達時間が所定時間以上ではないと判定されたときは、自車両と移動体との間が10〜30mの距離にあり、或いは、移動体の自車両への到達時間が1〜3秒であり、本実施形態では、移動体が中距離に存在する場合として、S38に進む。このように移動体が自車両から中距離に存在するときは、ドライバーは、移動体の通過待ちをするか自車両が先に発進するか迷うような距離或いは時間であり、移動体の存在を確実に認識し、移動体の距離、速度及び進行方向を出来るだけ正確に把握したい場合である。
【0082】
このような場合、S38において、移動体を残像表示する位置及び大きさを規定すると共に残像表示を更新するタイミングに合わせた音の出力を規定する。これらの規定には、何秒毎に残像表示をするか、また、何秒毎に残像表示するかの規定も含まれる。本実施形態では、0.5秒〜2秒の間で残像表示を更新し、表示する時間間隔は等間隔である。
次に、S39では、残像をつなぐベクトル表示を規定する。ベクトル表示は、各移動体の2次元画像の重心点、又は、移動体の3次元座標から得られる移動体の重心点をつなぐように規定される。これにより、進行方向が確かなものになる。
【0083】
S40では、例えば図11(b)に示すように、S38で規定された位置及び大きさで移動体の残像表示である仮想画像V21、V22を実画像に重畳してモニタ14に表示する。また、図11(b)に示すように、S39で規定されたベクトルVeを実画像に重畳してモニタ14に表示する。さらに、図11(b)に示すように、仮想画像V1、V2が何秒前のものかを示すT20、T21、T22を実画像に重畳してモニタ14に表示する。図11(b)では、実画像として、現在の位置に存在する車両(移動体)C21、C22や現在見えている路面の状況がモニタ14に表示される。
【0084】
このS40においては、ドライバーが実画像としては最新の現時点での映像を見ることが出来るように、常に現時点(最新)での背景及び移動体に重畳して移動体の仮想画像を表示する。
【0085】
図11(b)に示すように、複数の移動体C21、C22が存在する場合、本実施形態では、自車両から最短距離に存在する移動体(C21)或いは自車両への到達時間が最も短い移動体(C21)に対してのみ、仮想表示V21、V22、T20、T21、T22が表示される。なお、図11(b)において、移動体C22に対して仮想表示をしても移動体C21自体及びその仮想表示と重ならない場合には、移動体C22に対しても仮想表示をしても良い。言い換えると、移動体C22に対して仮想表示をすると移動体C1自体及びその仮想表示と重なる場合には、後続車の仮想画像の表示を禁止する。
また、後続の移動体(後続車)が存在する場合には、図11(b)に符号Nで示すように、後続する移動体の数を表示するようになっている。
【0086】
なお、仮想表示(V21、V22)は、実画像と区別がつくように、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示をするのが好ましい。また、S40では、残像表示が更新するタイミングに合わせて「ピッピッピッ」というような音をスピーカ15から出力する。更新のタイミングは、例えば、ドライバーが移動物体を注視する時間が含まれるように0.5秒〜2秒程度である。ドライバーはモニタ14を見続けて更新タイミングを学習しないと速度感をつかめないため、このような音を出力するようにしている。
【0087】
次に、S37において、移動体の自車両からの距離が所定距離以上であるか、或いは、移動体の自車両への到達時間が所定時間以上であると判定された場合は、自車両と移動体との間が30m以上の距離にあり、或いは、移動体の自車両への到達時間が3秒以上であり、本実施形態では、移動体が遠距離に存在する場合として、S41に進む。このように移動体が自車両から遠距離に存在する場合、ドライバーは、衝突の危険性がないことに自信を持ちたい場合であり、移動体の速度変化及び進行方向変化を正確につかみたい場合である。
【0088】
このような場合、先ず、S41において、移動体の残像表示する位置及び大きさを規定する。本実施形態では、移動体が遠距離に存在するときには、移動体及び残像表示をモニタ14上に拡大して表示するので、そのような移動体及び残像表示の拡大表示における位置及び大きさも規定する。また、残像表示を更新するタイミングに合わせた音の出力を規定する。さらに、何秒毎に残像表示をするか、また、何秒毎に残像表示するかも規定する。
【0089】
次に、S42では、残像をつなぐベクトル表示を規定する。ベクトル表示は、各移動体の2次元画像の重心点、又は、移動体の3次元座標から得られる移動体の重心点をつなぐように規定される。これにより、進行方向が確かなものになる。
【0090】
次に、S40では、例えば図12に示すように、C23という移動体の車両を、モニタ14の画面左上に拡大して表示する。なお、拡大する位置は、実画像内における移動体C23の表示を妨げなければどこでも良い。この場合も、S40においては、ドライバーが実画像としては最新の現時点での映像を見ることが出来るように、常に現時点(最新)での背景及び移動体に重畳して移動体の仮想表示又は仮想路面表示を表示する。
この図12に示す例では、S41で規定された位置及び大きさで移動体の残像表示である仮想画像V23、V24を実画像に重畳してモニタ14に表示する。
【0091】
また、図11(b)と同様に、ベクトルVe、時間T20、T21、T22も表示される。また、図11(b)について説明したのと同様に、複数の移動体が存在する場合は、自車両から最短距離に存在する移動体或いは自車両への到達時間が最も短い移動体に対してのみ、仮想表示が表示される。なお、最前方の移動体に対して仮想表示をすると後続する移動体自体及びその仮想表示と重なる場合には、後続車の仮想画像の表示を禁止する。
【0092】
なお、仮想表示(V21、V22)は、実画像と区別がつくように、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示をするのが好ましい。
また、S40では、残像表示が更新するタイミングに合わせて「ピッピッピッ」というような音をスピーカ15から出力する。更新のタイミングは、例えば、0.5秒〜2秒程度である。
【0093】
次に、S43に進み、頭出し位置判定部(図9参照)50により、自車両が頭出し位置(図4参照)を通過したか否かを判定する。自車両が頭出しをしているときには、S44に進み、合成画像作成部26(図9参照)により、S40で表示した仮想画像を点滅表示させた後、その仮想画像の表示を中止する。
【0094】
次に、本発明の第2実施形態による作用効果を説明する。
本発明の第2実施形態による車両用周囲監視装置によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視することが出来る。本実施形態では、死角領域の実画像を撮像するように車両の前方部にカメラ2、4、6が設けられ、移動体検出部30により、これらのカメラ2、4、6により撮像された実画像内から移動体が抽出される。さらに、移動体移動状態検出部32により移動体の移動状態が検出され、移動体の所定時間前の移動体残像画像規定部35により移動体の仮想画像を表示する位置及び大きさをその移動体の移動状態を表すように規定される。そして、仮想画像作成部38により移動体の仮想画像が生成され、合成画像作成部26により、移動体の仮想画像を、移動体の所定時間前の移動体残像画像規定部35により規定された位置及び大きさで実画像に重畳してモニタ14に表示する。
【0095】
次に、第2実施形態によれば、移動体残像画像規定部35は、移動体の移動状態として、その移動体が移動してきた過去の位置に移動体の仮想画像が等時間間隔で残像として表示されるように移動体の仮想画像を表示する位置及び大きさを規定し、これが等時間間隔で残像として表示されるので、移動体の現在までの移動状況を直感的に把握することが出来、ドライバーにとって、例えば自車両を発進させて良いかの判断をより容易にすることが出来る。
【0096】
次に、第2実施形態によれば、等時間間隔の残像に合わせたベクトル表示により、移動体の現在までの移動状況を、より直感的に把握することが出来る。
次に、第2実施形態によれば、移動体の仮想画像が、移動体の自車両からの距離が所定距離以上の遠距離にある場合に、所定距離より小さい場合よりも拡大して表示するので、遠距離にある移動体の移動状態を容易に把握することが出来る。
【0097】
次に、第2実施形態によれば、合成画像作成部26は、移動体の仮想画像の表示を移動体の自車両からの距離が所定距離内にあるとき、或いは、移動体の自車両への到達時間が所定時間内であるときに行うので、例えば自車両を発進させるか停止したままにするかの判断を迷うような所定距離内に移動体が存在する場合に、ドライバーにより確実に移動体の移動状態を把握させることが出来る。
次に、第2実施形態によれば、合成画像作成部26は、移動体の仮想画像を移動体の実際の車両の実体及び実状と識別可能に表示するので、ドライバーにとって移動体としての視認が容易である。
【0098】
次に、第2実施形態によれば、移動体検出部30により複数の移動体が検出されたとき、仮想画像作成部38は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像を生成するので、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
次に、第2実施形態によれば、合成画像作成部26により複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、仮想画像作成部38は、それらの移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像を生成するので、画像を見て混同することなく、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0099】
次に、第2実施形態によれば、合成画像作成部26は、仮想表示を移動体の実画像と識別可能に、例えば、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示したりして表示するので、ドライバーは仮想画像を仮想の画像として認識することが出来、実画像と仮想画像とを混同することがない。
【0100】
次に、第2実施形態によれば、合成画像作成部26は、移動体の現時点での背景及び現時点での移動体に重畳して移動体の仮想画像を表示するので、ドライバーは、実画像としては最新の現時点での映像を見ることが出来、それに対して仮想画像が表示されるので、より確実に周囲の状況と共に移動体の移動状態を把握することが出来る。
【0101】
次に、図13により、本発明の第3実施形態による車両用周囲監視装置の構成を説明する。図13は、本発明の第3実施形態による車両用周囲監視装置の構成を示すブロック図である。
図13に示すように、周辺監視センサ20として構成される各カメラ2、4、6からの画像信号が、ECU18内の画像取得部22に入力される。入力された画像信号は広角画像であり歪みが生じているので、その画像が画像補正部24で補正される。この画像補正部24からの画像信号は、合成画像作成部26に実画像として入力される。
【0102】
移動体検出部30では、画像補正部24からの入力画像内に移動体、例えば、他車両やオートバイや自転車などが存在するか否かを検出する。移動体が存在しない場合には、合成画像作成部26で後述する仮想画像を表示しないので、それを指示する信号を合成画像作成部26に送り、移動体が存在する場合には合成画像作成部26で後述する仮想画像を表示するので、移動体が存在することを指示する信号を合成画像作成部26に送る。
【0103】
また、移動体移動状態検出部32では、移動体検出部30から、移動体が存在する旨の信号を受けて、レーザレーダ7により、自車両に接近してくる移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両或いは交差点までの到達時間を算出する。なお、レーザレーダ7の代わりに、車車間通信或いは路車間通信により、移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出するようにしても良い。
【0104】
また、カメラ2、4、6による撮像された画像を画像処理することにより、例えばウインカーの状態を検出して、移動体が右左折するか或いは直進するかの結果を検出する。なお、車車間通信或いは路車間通信により、移動体の右左折を検出しても良い。
【0105】
また、移動体の到達時間t2算出部36では、移動体移動状態検出部32により検出された自車両に接近してくる移動体の自車両からの距離、速度及び進行方向から、移動体が自車両に到達する時間t2を算出する。自車両の位置は、ナビゲーション装置13或いはGPS装置12により決定する。なお、移動体が自車両に到達する時間t2ではなく、移動体が交差点に到達する時間を算出しても良い。その場合、交差点の位置は、ナビゲーション装置により決定する。
【0106】
また、自車両の交差点通過に要する時間t1算出部54では、ナビゲーション装置13、GPS装置12及び車速センサ10の各情報を受けて、自車両が交差点通過に要する時間(あるいは、自車両が交差点に到達する時間とする)t1を算出する。
【0107】
そして、仮想画像作成部38では、後述するように、移動体が右左折するか否かの判定結果と、自車両が交差点を通過するのに要する時間、或いは、自車両が交差点に到達する時間t1及び移動体が自車両に到達する時間t2に応じて決定される危険度と、に応じて、路面上に仮想路面画像を生成する。仮想画像作成部38では、仮想路面画像として、その位置及び大きさを規定する。例えば、仮想路面画像は、実画像により得られる路面幅、或いは車線幅、或いは走行レーンと同じ幅で、移動体の前方に延びるように、位置及び大きさを規定する。
そして、作成された仮想路面画像は、合成画像作成部26で、各カメラ2、4、6で得られる実画像に重畳され、モニタ14により表示される。
【0108】
次に、ECU18内には、頭出し位置判定部50が存在する。頭出し位置判定部50では、車両が交差路内に頭出しした(図4参照)ことを判定するものである。頭出しが行われていれば、既にドライバー自身で交差路を見通せることから、仮想画像作成部38における仮想路面画像の仮想表示を中止するように、所定の信号を送るようになっている。
【0109】
また、ECU18には、仮想画像処理実施判定部52が存在する。この仮想画像処理実施判定部52は、ナビゲーション装置13から得る地図データ、GPS装置12から得られる位置データ、及び、車速センサ10から得られる車速データを基に、車両が交差点近傍に位置しているか否か及び一時停止しているか否かを判定するものである。後述するように、交差点近傍であり一時停止したときには、仮想画像を表示するために、合成画像作成部26に所定の信号を送る。
【0110】
次に、図14乃至図16により、本発明の第3実施形態による車両用周囲監視装置の制御内容を説明する。図14は、本発明の第3実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートであり、図15は、本発明の第3実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)であり、図16は、本発明の第3実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)、仮想画像が実画像に重畳された映像の一例(b)及び仮想画像が実画像に重畳された映像の一例(c)を示す図である。図14において、Sは各ステップを示す。
【0111】
この第3実施形態では、実際に存在する移動体(交差点に向かってくる他車両など)を含む周辺の実映像に重畳して、その移動体が自車両或いは交差点にどの程の時間或いは距離で到達するかの危険度に応じて、路面に仮想路面画像を仮想的に重畳して表示することにより、ドライバーが移動体の移動状態を認識するようにしたものである。これにより、例えばドライバーが自車両を発進させて良いか否かの判断を助けることが出来る。
【0112】
図14に示すように、先ず、S50において、画像取得部22(図13参照)により、例えば交差路において、左方監視カメラ2、前方監視カメラ4、右方監視カメラ6の映像を取得し、S51において、画像補正部24により、取得された広角画像の歪み補正を行う。
【0113】
次に、S52において、ECU18では、S50及びS51で取得された実画像から、移動体を検出する。このS52における移動体の検出は、オプティカルフロー処理にて行われる。なお、オプティカルフローの他に、背景差分、フレーム間差分処理、或いは、レーザーやミリ波などにより移動体を検出するようにしても良い。
移動体が検出されないときは、S53に進み、例えば交差路において安全に進行可能なものとして、合成画像作成部26(図13参照)に入力されるS50及びS51で取得された実画像をそのまま表示する。即ち、仮想画像の表示は禁止される。
【0114】
S52において、移動体が検出されたときには、S54に進み、移動体移動状態検出部32及び移動体の到達時間t2算出部36(図13参照)により、自車両に接近してくる移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間t2を算出する。自車両までの到達時間t2は、交差点までの到達時間としても良い。移動体が複数存在するときには、基本的には、自車両からの距離が最短距離である移動体、或いは、自車両までの最短到達時間の移動体について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。
【0115】
次に、S55において、自車両の交差点通過に要する時間t1算出部54(図13参照)により、自車両が交差点通過に要する時間t1を算出する。
次に、S56に進み、移動体移動状態検出部32(図13参照)により得られた、移動体が直進するか右左折するかの検出結果から、移動体が交差点にて右左折するか否かを判定する。
【0116】
移動体が右左折する場合には、S57に進み、移動体の進行方向が交差点を右左折するものと決定し、危険度が小として、仮想画像作成部38により、移動体の進行方向である交差点までの直線部分の路面と、左折後の進行方向の路面とのそれぞれの実画像上に重畳して表示する仮想路面表示を作成する。ここでは、危険度が小なので、仮想路面表示を青色とする。色を付けない場合は、濃淡を付けて、例えば、薄く表示する。
【0117】
そして、S58に進み、S57で作成した仮想路面表示を、例えば図15(b)にR1で示すように、実画像に重畳して表示する。ドライバーは、この仮想路面表示により、移動体が左折することを即座に認識することが出来、例えば自車両を発進させて良いかの判断が容易になる。
【0118】
次に、S56において、移動体が直進すると判定された場合、先ずS59に進む。このS59では、及び移動体が自車両に到達する時間t2と自車両が交差点に到達する時間t1との差が所定値k0未満であるか否かを判定する。
【0119】
所定値k0未満である場合は、S60に進み、移動体も自車両もほぼ同じような時間で交差点に到達するので、危険度大として、仮想画像作成部38により、移動体の進行方向である交差点を含む直線部分の路面の実画像上に重畳して表示する仮想路面表示を作成する。ここでは、危険度が大なので、仮想路面表示を赤色とする。色を付けない場合は、濃淡を付けて、例えば、濃くする。
【0120】
そして、S58に進み、S60で作成した仮想路面表示を、例えば図16(b)にR2で示すように、実画像に重畳して表示する。ドライバーは、この仮想路面表示により、移動体が直進してくること、及び、非常に近い位置にいることを即座に認識することが出来、例えば自車両を待機するための判断が容易になる。
【0121】
S59で、t2−t1がk0以上である場合には、S61に進み、移動体が自車両に到達する時間t2と自車両が交差点に到達する時間t1との差が所定値k0以上であり且つ所定値k1未満であるか否かを判定する。
所定値k0以上であり且つ所定値k1未満である場合には、S62に進み、移動体が到達する時間と自車両が到達する時間に或る程度の時間差があるので、危険度中として、仮想画像作成部38により、移動体の進行方向である交差点を含む直線部分の路面の実画像上に重畳して表示する仮想路面表示を作成する。ここでは、危険度が中なので、仮想路面表示を黄色とする。色を付けない場合は、濃淡を付けて、例えば、中程度の濃さとする。
【0122】
そして、S58に進み、S62で作成した仮想路面表示を、例えば図16(c)にR3で示すように、実画像に重畳して表示する。ドライバーは、この仮想路面表示により、移動体が直進してくること、及び、何秒か後に移動体が近づくことを即座に認識することが出来、例えば自車両を発進させて良いか待機するかの判断が容易になる。
【0123】
S61で、移動体が自車両に到達する時間t2と自車両が交差点に到達する時間t1との差が所定値k1以上である場合には、S63に進み、移動体が到達する時間と自車両が到達する時間に大きな時間差があるので、危険度小として、仮想画像作成部38により、移動体の進行方向である交差点を含む直線部分の路面の実画像上に重畳して表示する仮想路面表示を作成する。ここでは、危険度が小なので、仮想路面表示を青色とする。色を付けない場合は、濃淡を付けて、例えば、薄くする。
【0124】
そして、S58に進み、S63で作成した仮想路面表示を、実画像に重畳して表示する。ドライバーは、この仮想路面表示により、移動体が直進してくること、及び、かなり後に移動体が近づくことを即座に認識することが出来、例えば自車両を発進させて良いとの判断が容易になる。
【0125】
なお、S58においては、上述したように、仮想路面表示を、交差点までの到達時間t1、t2により異なるようにしているが、移動体の到達時間の算出の確信度に応じて変更して表示するようにしても良い。確信度とは、情報源である自律センサ情報、車車間通信情報、路車間通信情報、情報センター配信情報などの情報の精度のことである。例えば、自律センサ情報、車車間通信情報、路車間通信情報、情報センター配信情報の順で確信度が高い等と決定することが出来る。そして、確信度が高い場合には、仮想路面表示を点滅させたり、点滅の間隔を変えたりして、ドライバーが確信度を判断することが出来るようにしても良い。
【0126】
S58の次には、S64に進み、頭出し位置判定部(図13参照)50により、自車両が頭出し位置(図4参照)を通過したか否かを判定する。自車両が頭出しをしているときには、S65に進み、合成画像作成部26(図参照)により、S58で表示した仮想画像を点滅表示させた後、その仮想画像の表示を中止する。
【0127】
次に、本発明の第3実施形態による作用効果を説明する。
本発明の実施形態による車両用周囲監視装置によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視することが出来る。本実施形態では、死角領域の実画像を撮像するように車両の前方部にカメラ2、4、6が設けられ、移動体検出部30により、これらのカメラ2、4、6により撮像された実画像内から移動体が抽出される。さらに、移動体移動状態検出部32により移動体の移動状態が検出され、移動体の到達時間t2算出部36により移動体の到達時間が算出さる。また、自車両の交差点通過に要する時間t1算出部54により自車両の交差点通過に要する時間が算出され、それらを基に仮想画像作成部38により仮想路面画像を表示する表示態様が規定される。そして、仮想画像作成部38により仮想路面画像が生成され、合成画像作成部26により、仮想路面画像を規定された表示態様で実画像に重畳してモニタ14に表示する。
【0128】
次に、第3実施形態によれば、移動体の移動状態に応じて移動体の進行方向前方側の路面上に所定の仮想路面画像を重畳して表示するので、移動体の仮想表示に加えて、その移動体が進行している路面も仮想表示され、より確実に、移動体の存在する方向や移動状態を把握することが出来る。
【0129】
次に、第3実施形態によれば、車両及び移動体が向かう交差路の交差点までの自車両の到達時間及び移動体の到達時間に応じて移動体の進行方向前方側の路面上に所定の仮想路面表示を重畳して表示するので、自車両及び移動体が向かう交差路の交差点までの自車両の到達時間及び移動体の到達時間に応じて移動体の進行方向前方側の路面上に所定の仮想路面表示が重畳して表示され、より確実且つ正確に、移動体の存在する方向や移動状態を把握することが出来る。
【0130】
次に、第3実施形態によれば、仮想路面表示が、交差点までの自車両の到達時間及び移動体の到達時間の算出の確信度に応じて変更して表示されるので、交差点までの自車両の到達時間及び移動体の到達時間の算出の確信度に応じて仮想路面表示が変更して表示され、より確実且つ正確に、移動体の存在する方向や移動状態を把握することが出来る。なお、確信度としては、例えば、自律センサ情報、車車間通信情報、路車間通信情報、情報センター配信情報の順で確信度が高い等と決定することが好ましい。
【0131】
次に、第3実施形態によれば、移動体検出部30により複数の移動体が検出されたとき、仮想画像生成部38は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して仮想路面表示を生成するので、複数の移動体が存在するとき、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成され、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0132】
次に、第3実施形態によれば、複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、複数の仮想画像をそれぞれ混同することなく、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0133】
次に、第3実施形態によれば、合成画像作成部26は、仮想画像を移動体の実画像と識別可能に、例えば、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示したりして表示するので、ドライバーは仮想画像を仮想の画像として認識することが出来、実画像と仮想画像とを混同することがない。
【0134】
次に、第3実施形態によれば、合成画像作成部26は、移動体の現時点での背景及び現時点での移動体に重畳して移動体の仮想画像又は仮想路面画像を表示するので、ドライバーは、実画像としては最新の現時点での映像を見ることが出来、それに対して仮想画像が表示されるので、より確実に周囲の状況と共に移動体の移動状態を把握することが出来る。
【0135】
なお、上述した第1乃至第3実施形態においては、移動体として主に車両を想定して説明をしてきたが、移動体としては、四輪車、二輪車、自転車、歩行者を含むようにしても良い。また、静止物としては、停止している四輪車、停止している二輪車、立ち止まっている歩行者や自転車、路側物、建物などが挙げられる。
【図面の簡単な説明】
【0136】
【図1】本発明の第1乃至第3実施形態による車両用周囲監視装置が適用された車両の全体構成図である。
【図2】本発明の第1乃至第3実施形態による車両用周囲監視装置のカメラによる撮像範囲の一例(a)及び撮像された映像の一例(b)を示す図である。
【図3】ドライバーによる交差路進入時における運転行動を説明するための図である。
【図4】自車両の頭出し位置を説明するための道路及び車両の俯瞰図である。
【図5】本発明の第1乃至第3実施形態による車両用周囲監視装置の距離把握用仮想画像を表示するか否かの処理を示すフローチャートである。
【図6】本発明の第1実施形態による車両用周囲監視装置の構成を示すブロック図である。
【図7】本発明の第1実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートである。
【図8】本発明の第1実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)を示す図である。
【図9】本発明の第2実施形態による車両用周囲監視装置の構成を示すブロック図である。
【図10】本発明の第2実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートである。
【図11】本発明の第2実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)を示す図である。
【図12】本発明の第2実施形態による仮想画像が実画像に重畳された映像の一例である。
【図13】本発明の第3実施形態による車両用周囲監視装置の構成を示すブロック図である。
【図14】本発明の第3実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートである。
【図15】本発明の第3実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)、仮想画像が実画像に重畳された映像の一例(b)を示す図である。
【図16】本発明の第3実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)及び仮想画像が実画像に重畳された映像の一例(c)である。
【符号の説明】
【0137】
1 車両
2、4、6 監視カメラ
7 レーザレーダ
10 車速センサ
12 GPS装置
13 ナビゲーション装置
14 画像表示モニタ
15 スピーカ
18 ECU
【技術分野】
【0001】
本発明は、車両用周囲監視装置に係り、特に、ドライバーの死角領域を監視する車両用周囲監視装置に関する。
【背景技術】
【0002】
従来、車両前方側における左右方向の死角映像を撮像してモニタ表示する装置が知られている(特許文献1、特許文献2)。
【0003】
【特許文献1】特開2007−172462号公報
【特許文献2】特開平11−338074号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
上述したような装置は、例えばモニタ上に左右方向の死角領域がそのまま表示されるだけのものである。そのような表示をドライバーが見て死角領域の状況を判断するのであるが、例えば左右方向から接近してくる車両などの移動体がある場合などに、静止物との区別が付きにくい上、どの程度の距離でどの程度の速さで存在する車両であるのかが分かりにくいものであった。
【0005】
本発明は、上述した従来技術の問題点を解決するためになされたものであり、死角領域の画像内の移動体の移動状況を把握し易い車両用周囲監視装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記の目的を達成するために本発明によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視する車両用周囲監視装置であって、死角領域の実画像を撮像するように車両の前方部に設けられた実画像撮像手段と、この実画像撮像手段により撮像された実画像内から移動体を抽出し、この移動体の移動状態を検出する移動体検出手段と、この移動体検出手段で検出された移動体の移動状態を表すような所定の仮想画像を表示するためにその所定の仮想画像の表示態様を規定する仮想画像規定手段と、移動体の仮想画像を仮想画像規定手段により規定される表示態様で実画像に重畳して表示する表示手段と、を有することを特徴としている。
【0007】
このように構成された本発明においては、移動体の仮想画像が、その移動状態を表すような表示態様で実画像に重畳して表示されるので、ドライバーが移動体の移動状態を認識し易くなり、静止物との区別が容易であると共に死角領域の画像内の移動体の移動状況を把握し易い。
【0008】
また、本発明において、好ましくは、ドライバーの死角領域は車両の前方側の交差路の交差点の周辺の死角領域であり、実画像撮像手段は、車両の前方端に設けられ、車両が交差路に差し掛かるとき、その車両の前方端から撮像可能な交差路の交差点周囲の実画像を撮像する。
このように構成された本発明においては、衝突事故が多発する交差点周囲の左右領域の移動状況を容易に把握することが出来る。
【0009】
また、本発明において、好ましくは、仮想画像規定手段は、移動体の移動状態として、その移動体の進行方向延長線上の所定時間後の推定到達位置に移動体の仮想画像が表示されるように移動体の仮想画像を表示する表示態様を規定する。
このように構成された本発明においては、仮想画像規定手段により移動体の進行方向延長線上の所定時間後の推定到達位置に移動体の仮想画像が規定され、これが、表示手段により実画像に重畳して表示されるので、所定時間後の移動体の位置を直感的に把握することが出来、ドライバーにとって、例えば自車両を発進させて良いかの判断をより容易にすることが出来る。
【0010】
また、本発明において、好ましくは、さらに、所定時間に基づいてその表示された移動体の現在の位置からの到達予測時間の数値表示を移動体の仮想画像に合わせて表示する第2表示手段を有する。
このように構成された本発明においては、所定時間後の移動体の位置を数値による時間表示により、より直感的に把握することが出来る。
【0011】
また、本発明において、好ましくは、仮想画像規定手段は、移動体の移動状態として、その移動体が移動してきた過去の位置に移動体の仮想画像が等時間間隔で残像として表示されるように移動体の仮想画像を表示する表示態様を規定する。
このように構成された本発明においては、仮想画像規定手段により、移動体が移動してきた過去の位置に移動体の仮想画像が等時間間隔で残像として表示されるように移動体の仮想画像を表示する表示態様が規定され、これが、表示手段により実画像に重畳して表示されるので、移動体の現在までの移動状況を直感的に把握することが出来、ドライバーにとって、例えば自車両を発進させて良いかの判断をより容易にすることが出来る。
【0012】
また、本発明において、好ましくは、さらに、等時間間隔の残像に合わせてベクトル表示を行う。
このように構成された本発明においては、等時間間隔の残像に合わせたベクトル表示により、移動体の現在までの移動状況を、より直感的に把握することが出来る。
【0013】
また、本発明において、好ましくは、表示手段は、移動体の仮想画像を、移動体の自車両からの距離が所定距離以上の遠距離にある場合に、所定距離より小さい場合よりも拡大して表示する。
このように構成された本発明においては、遠距離にある移動体の移動状態を容易に把握することが出来る。
【0014】
また、本発明において、好ましくは、表示手段は、移動体の仮想画像の表示を、移動体の自車両からの距離が所定距離範囲内であるか、或いは、移動体の自車両への到達時間が所定時間範囲内にあるときに行う。
このように構成された本発明においては、例えば自車両を発進させるか停止したままにするかの判断を迷うような所定距離内に移動体が存在する場合に、ドライバーにより確実に移動体の移動状態を把握させることが出来る。
【0015】
また、本発明において、好ましくは、表示手段は、移動体の仮想画像を上記移動体の実体および実状と識別可能に表示する。
このように構成された本発明においては、ドライバーにとって移動体としての視認が容易である。
【0016】
また、本発明において、好ましくは、移動体検出手段により複数の移動体が検出されたとき、仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像の表示態様を規定し、表示手段は、その規定された仮想画像を実画像に重畳して表示する。
このように構成された本発明においては、複数の移動体が存在するとき、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0017】
また、本発明において、好ましくは、移動体検出手段により複数の移動体が検出され、表示手段が複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像の表示態様を規定し、表示手段は、その規定された仮想画像を実画像に重畳して表示する。
このように構成された本発明においては、複数の移動体が存在し、それらの移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、それらの移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、ドライバーが画像を見て複数の移動体の仮想画像をそれぞれ混同することなく、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0018】
また、本発明において、好ましくは、仮想画像規定手段は、移動体の移動状態を表すために、移動体の進行方向前方側の路面上に移動体の移動状態を示す仮想路面画像を表示するようにその表示態様を規定する。
このように構成された本発明においては、移動体が進行している路面に、移動体の移動状態を示すように仮想路面画像が仮想表示されるので、より確実に、移動体の存在する方向や移動状態を把握することが出来る。
【0019】
また、本発明において、好ましくは、仮想画像規定手段は、自車両及び移動体が向かう交差路の交差点までの自車両の到達時間及び移動体の到達時間に応じて、或いは、自車両及び移動体が向かう交差路の交差点での自車両の通過時間及び移動体の到達時間に応じて移動体の進行方向前方側の路面上に所定の仮想路面画像を表示するようにその表示態様を規定する。
このように構成された本発明においては、自車両及び移動体が向かう交差路の交差点までの自車両の到達時間及び移動体の到達時間に応じて移動体の進行方向前方側の路面上に所定の仮想路面表示が重畳して表示されるので、より確実且つ正確に、移動体の存在する方向や移動状態を把握することが出来る。
【0020】
また、本発明において、好ましくは、仮想画像規定手段は、仮想路面表示を、交差点までの自車両の到達時間及び移動体の到達時間の算出の確信度に応じて仮想路面画像を変更するようにその表示態様を規定する。
このように構成された本発明においては、交差点までの自車両の到達時間及び移動体の到達時間の算出の確信度に応じて仮想路面表示が変更して表示されるので、より確実且つ正確に、移動体の存在する方向や移動状態を把握することが出来る。なお、確信度としては、例えば、自律センサ情報、車車間通信情報、路車間通信情報、情報センター配信情報の順で確信度が高い等と決定することが出来る。
【0021】
また、本発明において、好ましくは、移動体検出手段により複数の移動体が検出されたとき、仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して仮想路面画像の表示態様を規定し、表示手段は、その規定された仮想路面画像のみを仮想画像として実画像に重畳して表示する。
このように構成された本発明においては、複数の移動体が存在するとき、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0022】
また、本発明において、好ましくは、移動体検出手段により複数の移動体が検出され、表示手段が複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して仮想路面画像の表示態様を規定し、表示手段は、その規定された仮想路面画像のみを仮想画像として実画像に重畳して表示する。
このように構成された本発明においては、複数の移動体が存在し、それらの移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、それらの移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、複数の仮想が表示されることによりドライバーがそれらの仮想画像を混同することを防止することが出来、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0023】
また、本発明において、好ましくは、表示手段は、仮想画像を移動体の実画像と識別可能に表示する。
このように構成された本発明においては、ドライバーは仮想画像を仮想の画像として認識することが出来、実画像と仮想画像とを混同することがない。
【0024】
また、本発明において、好ましくは、表示手段は、移動体の現時点での背景及び現時点での移動体の実画像に重畳して移動体の仮想画像又は仮想路面画像を表示する。
このように構成された本発明においては、ドライバーとしては実画像としては最新の現時点での映像を見ることが出来、それに対して仮想画像が表示されるので、より確実に周囲の状況と共に移動体の移動状態を把握することが出来る。
【発明の効果】
【0025】
本発明の車両用周囲監視装置によれば、死角領域の画像内の移動体の移動状況を把握し易い。
【発明を実施するための最良の形態】
【0026】
以下、添付図面を参照しながら本発明の好ましい実施の形態について説明する。
先ず、図1及び図2により、本発明の第1乃至第3実施形態に共通の各実施形態による車両用周囲監視装置の基本構成を説明する。図1は、本発明の第1乃至第3実施形態による車両用周囲監視装置が適用された車両の全体構成図であり、図2は、本発明の第1乃至第3実施形態による車両用周囲監視装置のカメラによる撮像範囲の一例(a)及び撮像された映像の一例(b)を示す図である。
【0027】
図1に示すように、車両1は、左方監視カメラ2、前方監視カメラ4及び右方監視カメラ6を有し、これらのカメラは、車両の前端部に取り付けられている。これらのカメラは、広角レンズ使用のCCDカメラであり、例えば、図2(a)に示すような範囲を撮像し、図2(b)に示すような画像を得ることが出来る。
【0028】
また、車両1は、車速センサ10、GPS装置12、ナビゲーション装置13、画像表示モニタ14及びスピーカ15を有している。モニタ14は、運転席16のドライバーが見ることが出来る位置に配置されている。さらに、車両1は、ECU18を有し、このECU18には、上述した各カメラ2、4、6、車速センサ10、GPS装置12からの信号が入力され、所定の画像をモニタ14に表示し、また、所定の音をスピーカ15で発する。
【0029】
さらに、車両1は、他車両との距離を検出するためのレーザレーダ7を有する。なお、レーザレーダ7の代わりに、車車間通信により他車両との距離を把握するようにしたり、路車間通信により他車両との距離を把握するようにしても良い。
【0030】
次に、図3により、ドライバーによる交差路進入時における運転行動を説明する。図3は、ドライバーによる交差路進入時における運転行動を説明するための図である。
まず、交差路手前では一時停止する。その後、徐行しながら鼻出し位置に進み、カメラ出し位置(図2(a)参照)に進み、そして、頭出し位置(図4参照)に進む。ここで、鼻出し位置、カメラ出し位置及び頭出し位置について説明する。図4は、自車両の頭出し位置を説明するための道路及び車両の俯瞰図である。
【0031】
先ず、鼻出し位置は、他車や歩行者に自車両の存在を知らせる位置である。カメラ出し位置は、図2(a)に示すように、車両の先端が交差路内に入った状態であり、ドライバーからは交差路を見通せないが、車両の前端部に取り付けられたカメラ2、4、6により、交差路内を見通せる位置である。頭出し位置は、図4に示すように、ドライバーが座る運転席が交差路内に入ったときの位置であり、ドライバーが直接に、自分の目で交差路内を見通せるようになった位置である。
【0032】
本発明の実施形態による車両用周囲監視装置では、これらの一時停止から頭出し位置までの間に後述する仮想画像を表示するようにしている。そして、頭出し位置になると、仮想画像を点滅させ、そして、頭出し位置を通過後には、仮想画像の表示を中止する。
【0033】
次に、図5により、本発明第1乃至第3実施形態に共通の各実施形態による車両用周囲監視装置の仮想画像表示処理を行うか否かを決定するための制御フローを説明する。図5は、本発明の第1乃至第3実施形態による車両用周囲監視装置の距離把握用仮想画像を表示するか否かの処理を示すフローチャートである。
図5に示すように、S1において、仮想画像処理実施判定部52(図6、図9、図13参照)が、GPS12からの信号及びナビゲーション装置13からの信号に基づいて、自車両が交差点近傍にいるか否かを判定する。次に、S2において、仮想画像処理実施判定部52(図6、図9、図13参照)が、車速センサ10からの信号に基づいて、車速がV1より小さいか否かを判定する。車速V1は、自車両が交差点等に近づいて減速し、ドライバーがモニタ14を見ても安全であると判断出来る値である。
【0034】
車速がV1より小さく車両が減速した状態であれば、S3に進み、S3において、画像補正部24からの画像信号に基づいて、まず、実画像を表示する。次に、S4に進み、仮想画像処理実施判定部52(図6、図9、図13参照)が、車速がV2より小さいか否かを判定する。車速V2は、自車両がほぼ停止状態に近い或いは停止したと判断出来る値である。車速がV2より小さい場合は、自車両が一時停止したものとして、S5の、距離把握用仮想画像表示処理に進む。上述したS1において交差点近傍ではなく、S2において車速がV1以上であり、S4において車速がV2以上である、とそれぞれ判定された場合には、S5の距離把握用仮想画像表示処理には進まない。
【0035】
次に、図6により、本発明の第1実施形態による車両用周囲監視装置の構成を説明する。図6は、本発明の第1実施形態による車両用周囲監視装置の構成を示すブロック図である。
【0036】
この第1実施形態では、実際に存在する移動体(交差点に向かってくる他車両など)の実映像に重畳して、その移動体が所定時間後にどのような位置にいるかを仮想車両を表示することにより、ドライバーが移動体の移動状態を認識するようにしたものである。これにより、例えばドライバーが自車両を発進させて良いか否かの判断を助けることが出来る。
【0037】
図6に示すように、周辺監視センサ20として構成される各カメラ2、4、6からの画像信号が、ECU18内の画像取得部22に入力される。入力された画像信号は広角画像であり歪みが生じているので、その画像が画像補正部24で補正される。この画像補正部24からの画像信号は、合成画像作成部26に実画像として入力される。
【0038】
移動体検出部30では、画像補正部24からの入力画像内に移動体、例えば、他車両やオートバイや自転車などが存在するか否かを検出する。移動体が存在しない場合には、合成画像作成部26で後述する仮想画像を表示しないので、それを指示する信号を合成画像作成部26に送り、移動体が存在する場合には合成画像作成部26で後述する仮想画像を表示するので、移動体が存在することを指示する信号を合成画像作成部26に送る。合成画像作成部26で作成される合成画像は、モニタ14で表示される。
【0039】
また、移動体移動状態検出部32では、移動体検出部30から、移動体が存在する旨の信号を受けて、レーザレーダ7により、自車両に接近してくる移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出する。なお、レーザレーダ7の代わりに、車車間通信或いは路車間通信により、移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出するようにしても良い。
【0040】
また、移動体の所定時間後の移動位置推定部34では、所定時間(本実施形態では、10秒毎)の後の移動体の位置を推定する。
そして、仮想画像作成部38では、移動体の所定時間後の移動位置推定部34で推定された位置に移動体が表示されるように仮想画像が作成される。作成された仮想画像は、合成画像作成部26で各カメラ2、4、6で得られる実画像に重畳され、モニタ14に表示する。
【0041】
次に、ECU18内には、頭出し位置判定部50が存在する。頭出し位置判定部50では、車両が交差路内に頭出しした(図4参照)ことを判定するものである。頭出しが行われていれば、既にドライバー自身で交差路を見通せることから、仮想画像作成部38における仮想画像の作成を中止するように所定の信号を送り、モニタ14に仮想表示がされないようにする。
【0042】
また、ECU18には、仮想画像処理実施判定部52が存在する。この仮想画像処理実施判定部52は、ナビゲーション装置13から得る地図データ、GPS装置12から得られる位置データ、及び、車速センサ10から得られる車速データを基に、車両が交差点近傍に位置しているか否か及び一時停止しているか否かを判定するものである。後述するように、交差点近傍であり一時停止したときには、仮想画像を表示するために、合成画像作成部26に所定の信号を送る。
【0043】
次に、図7及び図8により、本発明の第1実施形態による車両用周囲監視装置の制御内容を説明する。図7は、本発明の第1実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートであり、図8は、本発明の第1実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)を示す図である。図7において、Sは各ステップを示す。
【0044】
図7に示すように、先ず、S11において、画像取得部22(図6参照)により、例えば交差路において、左方監視カメラ2、前方監視カメラ4、右方監視カメラ6の映像を取得し、S12において、画像補正部24により、取得された広角画像の歪み補正を行う。
【0045】
次に、S13において、移動体検出部30により、S11及びS12で取得された実画像から、移動体を検出する。このS13における移動体の検出は、オプティカルフロー処理にて行われる。なお、オプティカルフローの他に、背景差分、フレーム間差分処理、或いは、レーザーやミリ波などにより移動体を検出するようにしても良い。移動体が検出されないときは、S14に進み、例えば交差路において安全に進行可能なものとして、合成画像作成部26(図6参照)に入力されるS11及びS12で取得された実画像をそのまま表示する。即ち、仮想画像の表示は禁止される。
【0046】
S13において、移動体が検出されたときには、S15に進み、移動体移動状態検出部32により、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。移動体が複数存在するときには、基本的には、自車両からの距離が最短距離である移動体、或いは、自車両までの最短到達時間の移動体について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。一方、後述するように、複数の移動体について仮想画像を表示しても、それらが各々重ならない場合には、後続する移動体(後続車など)について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。
【0047】
次に、S16において、移動体の自車両からの距離が所定距離内であるか、或いは、移動体の自車両への到達時間が所定時間内であるかを判定する。所定距離としては例えば、10〜30mであり、所定時間としては例えば、2〜3.5秒である。
【0048】
移動体の自車両からの距離が所定距離内でなく、或いは、移動体の自車両への到達時間が所定時間内でない場合には、仮想表示が不必要であるとして、S14に進み、実画像をそのまま表示する。これは、移動体が、例えば、移動体の自車両からの距離が例えば10m以下であるような近い場合や、移動体の自車両への到達時間が2秒以内といった近い場合には、仮想表示をしなくても移動体の移動状態が良く分かるので、仮想表示をしないのである。
【0049】
S16において、移動体の自車両からの距離が所定距離内であり、或いは、移動体の自車両への到達時間が所定時間内である場合には、S17に進む。S17では、移動体の所定時間後の移動位置推定部34において、所定時間(本実施形態では、10秒毎)の後の移動体の位置を推定する。移動体が複数存在するときには、自車両からの距離が最短距離である移動体、或いは、自車両までの最短到達時間の移動体について、所定時間後の移動体の位置を推定する。
【0050】
次に、S18において、現在の移動体の位置からの移動体の仮想表示がされる位置までの時間を規定する。即ち、仮想表示するために、何秒後に何秒毎に(所定時間)に移動体の状態を表示するかを規定する。なお、この規定と共に、どの程度の距離毎(所定距離)に移動体の状態を表示するかを規定しても良い。
次に、S19では、S18で規定された所定時間(何秒後、何秒毎)における移動体の仮想的な移動の状態として、移動体の進行方向延長線上に表示する位置及び大きさを規定する。
【0051】
次に、S20において、図8(b)に示すように、S18で規定した所定時間(何秒後)T10、T11、T12を実画像に重畳して表示すると共に、S19で規定した移動体の進行方向延長線上に表示する位置及び大きさによる移動体の仮想表示V11、V12を実画像に重畳してモニタ14に表示する。図8(b)では、実画像として、現在の位置に存在する車両(移動体)C11、C12や現在見えている路面の状況がモニタ14に表示される。
このS20においては、ドライバーが実画像としては最新の現時点での映像を見ることが出来るように、常に現時点(最新)での背景及び移動体に重畳して移動体の仮想画像を表示する。
【0052】
図8(b)に示すように、複数の移動体C11、C12が存在する場合、本実施形態では、自車両から最短距離に存在する移動体(C11)或いは自車両への到達時間が最も短い移動体(C11)に対してのみ、仮想表示V11、V12、T10、T11、T12が表示される。なお、図8(b)において、移動体C12に対して仮想表示をしても移動体C11自体及びその仮想表示と重ならない場合には、移動体C12に対しても仮想表示をしても良い。言い換えると、移動体C12に対して仮想表示をすると移動体C11自体及びその仮想表示と重なる場合には、後続車の仮想画像の表示を禁止する。
仮想表示(V11、V12)は、実画像と区別がつくように、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示をするのが好ましい。また、仮想表示(V11、V12)は、等時間間隔で表示される。
【0053】
次に、S21に進み、頭出し位置判定部(図6参照)50により、自車両が頭出し位置(図4参照)を通過したか否かを判定する。頭出し位置を判定するには、いくつか手法がある。例えば、GPS装置12により得られる自車両の位置とナビゲーション装置13の地図データから判定する手法、カメラ2、4、6により得られる停止線の位置と、移動距離センサ(図示せず)による移動距離から、停止線からどれだけ移動したかで判定する手法、左右のカメラ2、6による映像から、左右の見通し具合が良くなるとき(近距離に見通しを遮断するものがないとき)が頭出し位置と判定する手法、カメラ2、4、6により得られる停止線の位置及び交差点周囲の画像により判定する手法などである。
【0054】
自車両が頭出しをしているときには、S22に進み、合成画像作成部26(図6参照)により、S20で表示した仮想画像を点滅表示させた後、その仮想画像の表示を中止する。仮想画像の点滅により、ドライバーは、モニタ14による表示ではなくドライバー自身で目視が可能であることや、実際に目視で見えるものと異なるものであることを知ることが出来る。一方、頭出しをしていないときには、S20による仮想画像と実画像との表示を続ける。
【0055】
次に、本発明の第1実施形態による作用効果を説明する。
本発明の第1実施形態による車両用周囲監視装置によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視することが出来る。本実施形態では、死角領域の実画像を撮像するように車両の前方部にカメラ2、4、6が設けられ、移動体検出部30により、これらのカメラ2、4、6により撮像された実画像内から移動体が抽出される。さらに、移動体移動状態検出部32により移動体の移動状態が検出され、移動体の所定時間後の移動位置推定部34により移動体の仮想画像を表示する位置及び大きさをその移動体の移動状態を表すように規定される。そして、仮想画像生成部38により移動体の仮想画像が生成され、合成画像作成部26により、移動体の仮想画像を、移動体の所定時間後の移動位置推定部34により規定された位置及び大きさで実画像に重畳してモニタ14に表示する。
【0056】
従って、移動体の仮想画像が、その移動状態を表すような位置及び大きさで実画像に重畳して表示されるので、ドライバーが移動体の移動状態を認識し易くなり、静止物との区別が容易であると共に死角領域の画像内の移動体の移動状況を把握し易い。
【0057】
次に、第1実施形態によれば、ドライバーの死角領域は車両の前方側の交差路の交差点の周辺の死角領域であり、カメラ2、4、6は、車両の前方端に設けられ、車両が交差路に差し掛かるとき、その車両の前方端から撮像可能な交差路の交差点周囲の実画像を撮像するので、衝突事故が多発する交差点周囲の左右領域の移動状況を容易に把握することが出来る。
【0058】
次に、第1実施形態によれば、移動体の所定時間後の移動位置推定部34は、移動体の移動状態として、その移動体の進行方向延長線上の所定時間後の推定到達位置に移動体の仮想画像が表示されるように移動体の仮想画像を表示する位置及び大きさが規定され、これが、表示手段により実画像に重畳して表示されるので、所定時間後の移動体の位置を直感的に把握することが出来、ドライバーにとって、例えば自車両を発進させて良いかの判断をより容易にすることが出来る。
【0059】
次に、第1実施形態によれば、所定時間に基づいてその表示された移動体の現在の位置からの到達予測時間の数値表示が移動体の仮想画像に合わせて表示されるので、そのような数値による時間表示により、移動体の移動状態をより直感的に把握することが出来る。
【0060】
次に、第1実施形態によれば、合成画像作成部26は、移動体の仮想画像の表示を移動体の自車両からの距離が所定距離内にあるとき、或いは、移動体の自車両への到達時間が所定時間内であるときに行うので、例えば自車両を発進させるか停止したままにするかの判断を迷うような所定距離内に移動体が存在する場合に、ドライバーにより確実に移動体の移動状態を把握させることが出来る。
次に、第1実施形態によれば、合成画像作成部26は、移動体の仮想画像を移動体の実際の車両の実体及び実状と識別可能に表示するので、ドライバーにとって移動体としての視認が容易である。
【0061】
次に、第1実施形態によれば、移動体検出部30により複数の移動体が検出されたとき、仮想画像生成部38は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像を生成するので、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0062】
次に、第1実施形態によれば、合成画像作成部26により複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、仮想画像生成部38は、それらの移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像を生成するので、画像を見て各移動体の移動状態をそれぞれ混同することなく、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0063】
次に、第1実施形態によれば、合成画像作成部26は、仮想表示を移動体の実画像と識別可能に、例えば、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示したりして表示するので、ドライバーは仮想画像を仮想の画像として認識することが出来、実画像と仮想画像とを混同することがない。
【0064】
次に、第1実施形態によれば、合成画像作成部26は、移動体の現時点での背景及び現時点での移動体に重畳して移動体の仮想表示又は仮想路面表示を表示するので、ドライバーは、実画像としては最新の現時点での映像を見ることが出来、それに対して仮想画像が表示されるので、より確実に周囲の状況と共に移動体の移動状態を把握することが出来る。
【0065】
次に、図9により、本発明の第2実施形態による車両用周囲監視装置の構成を説明する。図9は、本発明の第2実施形態による車両用周囲監視装置の構成を示すブロック図である。
【0066】
この第2実施形態では、実際に存在する移動体(交差点に向かってくる他車両など)の実映像に重畳して、その移動体が現時点の位置に来るまで、所定時間前にどのような位置にいたのかを残像画像として仮想的に表示することにより、ドライバーが移動体の移動状態を認識するようにしたものである。これにより、例えばドライバーが自車両を発進させて良いか否かの判断を助けることが出来る。
【0067】
図9に示すように、周辺監視センサ20として構成される各カメラ2、4、6からの画像信号が、ECU18内の画像取得部22に入力される。入力された画像信号は広角画像であり歪みが生じているので、その画像が画像補正部24で補正される。この画像補正部24からの画像信号は、合成画像作成部26に実画像として入力される。
【0068】
移動体検出部30では、画像補正部24からの入力画像内に移動体、例えば、他車両やオートバイや自転車などが存在するか否かを検出する。移動体が存在しない場合には、合成画像作成部26で後述する仮想画像を表示しないので、それを指示する信号を合成画像作成部26に送り、移動体が存在する場合には合成画像作成部26で後述する仮想画像を表示するので、移動体が存在することを指示する信号を合成画像作成部26に送る。
【0069】
また、移動体移動状態検出部32では、移動体検出部30から、移動体が存在する旨の信号を受けて、レーザレーダ7により、自車両に接近してくる移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出する。なお、レーザレーダ7の代わりに、車車間通信或いは路車間通信により、移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出するようにしても良い。
【0070】
また、移動体情報蓄積部33では、移動体検出部30により検出された移動体の位置情報を移動体移動状態検出部32から得て蓄積する。移動体残像画像規定部35では、移動体情報蓄積部33で蓄積された過去の移動体の位置と、移動体移動状態検出部32から得られる現在の位置とに基づいて、移動体の残像画像を規定する。具体的には、所定の時間間隔で、過去の所定時間の移動体の位置及び大きさを規定する。
また、この移動体残像画像規定部35では、移動体情報蓄積部33で蓄積された過去の移動体の位置と、移動体移動状態検出部32から得られる現在の位置とに基づいて移動体の移動方向を表すベクトルを算出する。
【0071】
そして、仮想画像作成部38では、移動体残像画像規定部35により規定された移動体の過去の位置及び大きさの仮想画像(残像画像)を生成する。そして、作成された仮想画像は、合成画像作成部26で、各カメラ2、4、6で得られる実画像に重畳され、モニタ14により表示される。また、スピーカ15により、仮想画像が更新されることを示す所定の音が発せられる。
【0072】
次に、ECU18内には、頭出し位置判定部50が存在する。頭出し位置判定部50では、車両が交差路内に頭出しした(図4参照)ことを判定するものである。頭出しが行われていれば、既にドライバー自身で交差路を見通せることから、仮想画像作成部38における移動体の仮想表示を中止するように、所定の信号を送るようになっている。
【0073】
また、ECU18には、仮想画像処理実施判定部52が存在する。この仮想画像処理実施判定部52は、ナビゲーション装置13から得る地図データ、GPS装置12から得られる位置データ、及び、車速センサ10から得られる車速データを基に、車両が交差点近傍に位置しているか否か及び一時停止しているか否かを判定するものである。後述するように、交差点近傍であり一時停止したときには、仮想画像を表示するために、合成画像作成部26に所定の信号を送る。
【0074】
次に、図10乃至図12により、本発明の第2実施形態による車両用周囲監視装置の制御内容を説明する。図10は、本発明の第2実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートであり、図11は、本発明の第2実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)を示す図であり、図12は、本発明の第2実施形態による仮想画像が実画像に重畳された映像の一例である。図10において、Sは各ステップを示す。
【0075】
図10に示すように、先ず、S30において、画像取得部22(図9参照)により、例えば交差路において、左方監視カメラ2、前方監視カメラ4、右方監視カメラ6の映像を取得し、S31において、画像補正部24により、取得された広角画像の歪み補正を行う。
【0076】
次に、S32において、移動体検出部30では、S30及びS31で取得された実画像から、移動体を検出する。このS32における移動体の検出は、オプティカルフロー処理にて行われる。なお、オプティカルフローの他に、背景差分、フレーム間差分処理、或いは、レーザーやミリ波などにより移動体を検出するようにしても良い。
移動体が検出されないときは、S33に進み、例えば交差路において安全に進行可能なものとして、合成画像作成部26(図9参照)に入力されるS30及びS31で取得された実画像をそのまま表示する。即ち、仮想画像の表示は禁止される。
【0077】
S32において、移動体が検出されたときには、S34に進み、移動体情報蓄積部33(図9参照)により、移動体の情報として、移動体が存在している或いは存在していた位置及び各位置での移動体の大きさの情報を蓄積する。
【0078】
次に、S35に進み、移動体移動状態検出部32により、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。移動体が複数存在するときには、基本的には、自車両からの距離が最短距離である移動体、或いは、自車両までの最短到達時間の移動体について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。一方、後述するように、複数の移動体について仮想画像を表示しても、それらが各々重ならない場合には、後続する移動体(後続車など)について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。
【0079】
次に、S36において、移動体の自車両からの距離が所定距離内であるか、或いは、移動体の自車両への到達時間が所定時間内であるかを判定する。S36における所定距離としては例えば、0〜10mであり、所定時間としては例えば、0〜1秒である。
S36で、移動体の自車両からの距離が所定距離内であるか、或いは、移動体の自車両への到達時間が所定時間内であると判定された場合、即ち、本実施形態では、移動体が近距離に存在するときには、S33に進み、合成画像作成部26(図9参照)に入力されるS30及びS31で取得された実画像をそのまま表示する。即ち、仮想画像の表示は禁止される。つまり、近距離であれば、ドライバーは、移動体の存在が分かれば良く、注意を払って発進待機及び通過待ちすれば良い。
【0080】
S36で、移動体の自車両からの距離が所定距離内であるか、或いは、移動体の自車両への到達時間が所定時間内であると判定されない場合には、S37に進む。
S37では、移動体の自車両からの距離が所定距離以上であるか、或いは、移動体の自車両への到達時間が所定時間以上であるかを判定する。S37における所定距離としては例えば、30mであり、所定時間としては例えば、3秒である。
【0081】
S37では、移動体の自車両からの距離が所定距離以上であるか、或いは、移動体の自車両への到達時間が所定時間以上ではないと判定されたときは、自車両と移動体との間が10〜30mの距離にあり、或いは、移動体の自車両への到達時間が1〜3秒であり、本実施形態では、移動体が中距離に存在する場合として、S38に進む。このように移動体が自車両から中距離に存在するときは、ドライバーは、移動体の通過待ちをするか自車両が先に発進するか迷うような距離或いは時間であり、移動体の存在を確実に認識し、移動体の距離、速度及び進行方向を出来るだけ正確に把握したい場合である。
【0082】
このような場合、S38において、移動体を残像表示する位置及び大きさを規定すると共に残像表示を更新するタイミングに合わせた音の出力を規定する。これらの規定には、何秒毎に残像表示をするか、また、何秒毎に残像表示するかの規定も含まれる。本実施形態では、0.5秒〜2秒の間で残像表示を更新し、表示する時間間隔は等間隔である。
次に、S39では、残像をつなぐベクトル表示を規定する。ベクトル表示は、各移動体の2次元画像の重心点、又は、移動体の3次元座標から得られる移動体の重心点をつなぐように規定される。これにより、進行方向が確かなものになる。
【0083】
S40では、例えば図11(b)に示すように、S38で規定された位置及び大きさで移動体の残像表示である仮想画像V21、V22を実画像に重畳してモニタ14に表示する。また、図11(b)に示すように、S39で規定されたベクトルVeを実画像に重畳してモニタ14に表示する。さらに、図11(b)に示すように、仮想画像V1、V2が何秒前のものかを示すT20、T21、T22を実画像に重畳してモニタ14に表示する。図11(b)では、実画像として、現在の位置に存在する車両(移動体)C21、C22や現在見えている路面の状況がモニタ14に表示される。
【0084】
このS40においては、ドライバーが実画像としては最新の現時点での映像を見ることが出来るように、常に現時点(最新)での背景及び移動体に重畳して移動体の仮想画像を表示する。
【0085】
図11(b)に示すように、複数の移動体C21、C22が存在する場合、本実施形態では、自車両から最短距離に存在する移動体(C21)或いは自車両への到達時間が最も短い移動体(C21)に対してのみ、仮想表示V21、V22、T20、T21、T22が表示される。なお、図11(b)において、移動体C22に対して仮想表示をしても移動体C21自体及びその仮想表示と重ならない場合には、移動体C22に対しても仮想表示をしても良い。言い換えると、移動体C22に対して仮想表示をすると移動体C1自体及びその仮想表示と重なる場合には、後続車の仮想画像の表示を禁止する。
また、後続の移動体(後続車)が存在する場合には、図11(b)に符号Nで示すように、後続する移動体の数を表示するようになっている。
【0086】
なお、仮想表示(V21、V22)は、実画像と区別がつくように、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示をするのが好ましい。また、S40では、残像表示が更新するタイミングに合わせて「ピッピッピッ」というような音をスピーカ15から出力する。更新のタイミングは、例えば、ドライバーが移動物体を注視する時間が含まれるように0.5秒〜2秒程度である。ドライバーはモニタ14を見続けて更新タイミングを学習しないと速度感をつかめないため、このような音を出力するようにしている。
【0087】
次に、S37において、移動体の自車両からの距離が所定距離以上であるか、或いは、移動体の自車両への到達時間が所定時間以上であると判定された場合は、自車両と移動体との間が30m以上の距離にあり、或いは、移動体の自車両への到達時間が3秒以上であり、本実施形態では、移動体が遠距離に存在する場合として、S41に進む。このように移動体が自車両から遠距離に存在する場合、ドライバーは、衝突の危険性がないことに自信を持ちたい場合であり、移動体の速度変化及び進行方向変化を正確につかみたい場合である。
【0088】
このような場合、先ず、S41において、移動体の残像表示する位置及び大きさを規定する。本実施形態では、移動体が遠距離に存在するときには、移動体及び残像表示をモニタ14上に拡大して表示するので、そのような移動体及び残像表示の拡大表示における位置及び大きさも規定する。また、残像表示を更新するタイミングに合わせた音の出力を規定する。さらに、何秒毎に残像表示をするか、また、何秒毎に残像表示するかも規定する。
【0089】
次に、S42では、残像をつなぐベクトル表示を規定する。ベクトル表示は、各移動体の2次元画像の重心点、又は、移動体の3次元座標から得られる移動体の重心点をつなぐように規定される。これにより、進行方向が確かなものになる。
【0090】
次に、S40では、例えば図12に示すように、C23という移動体の車両を、モニタ14の画面左上に拡大して表示する。なお、拡大する位置は、実画像内における移動体C23の表示を妨げなければどこでも良い。この場合も、S40においては、ドライバーが実画像としては最新の現時点での映像を見ることが出来るように、常に現時点(最新)での背景及び移動体に重畳して移動体の仮想表示又は仮想路面表示を表示する。
この図12に示す例では、S41で規定された位置及び大きさで移動体の残像表示である仮想画像V23、V24を実画像に重畳してモニタ14に表示する。
【0091】
また、図11(b)と同様に、ベクトルVe、時間T20、T21、T22も表示される。また、図11(b)について説明したのと同様に、複数の移動体が存在する場合は、自車両から最短距離に存在する移動体或いは自車両への到達時間が最も短い移動体に対してのみ、仮想表示が表示される。なお、最前方の移動体に対して仮想表示をすると後続する移動体自体及びその仮想表示と重なる場合には、後続車の仮想画像の表示を禁止する。
【0092】
なお、仮想表示(V21、V22)は、実画像と区別がつくように、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示をするのが好ましい。
また、S40では、残像表示が更新するタイミングに合わせて「ピッピッピッ」というような音をスピーカ15から出力する。更新のタイミングは、例えば、0.5秒〜2秒程度である。
【0093】
次に、S43に進み、頭出し位置判定部(図9参照)50により、自車両が頭出し位置(図4参照)を通過したか否かを判定する。自車両が頭出しをしているときには、S44に進み、合成画像作成部26(図9参照)により、S40で表示した仮想画像を点滅表示させた後、その仮想画像の表示を中止する。
【0094】
次に、本発明の第2実施形態による作用効果を説明する。
本発明の第2実施形態による車両用周囲監視装置によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視することが出来る。本実施形態では、死角領域の実画像を撮像するように車両の前方部にカメラ2、4、6が設けられ、移動体検出部30により、これらのカメラ2、4、6により撮像された実画像内から移動体が抽出される。さらに、移動体移動状態検出部32により移動体の移動状態が検出され、移動体の所定時間前の移動体残像画像規定部35により移動体の仮想画像を表示する位置及び大きさをその移動体の移動状態を表すように規定される。そして、仮想画像作成部38により移動体の仮想画像が生成され、合成画像作成部26により、移動体の仮想画像を、移動体の所定時間前の移動体残像画像規定部35により規定された位置及び大きさで実画像に重畳してモニタ14に表示する。
【0095】
次に、第2実施形態によれば、移動体残像画像規定部35は、移動体の移動状態として、その移動体が移動してきた過去の位置に移動体の仮想画像が等時間間隔で残像として表示されるように移動体の仮想画像を表示する位置及び大きさを規定し、これが等時間間隔で残像として表示されるので、移動体の現在までの移動状況を直感的に把握することが出来、ドライバーにとって、例えば自車両を発進させて良いかの判断をより容易にすることが出来る。
【0096】
次に、第2実施形態によれば、等時間間隔の残像に合わせたベクトル表示により、移動体の現在までの移動状況を、より直感的に把握することが出来る。
次に、第2実施形態によれば、移動体の仮想画像が、移動体の自車両からの距離が所定距離以上の遠距離にある場合に、所定距離より小さい場合よりも拡大して表示するので、遠距離にある移動体の移動状態を容易に把握することが出来る。
【0097】
次に、第2実施形態によれば、合成画像作成部26は、移動体の仮想画像の表示を移動体の自車両からの距離が所定距離内にあるとき、或いは、移動体の自車両への到達時間が所定時間内であるときに行うので、例えば自車両を発進させるか停止したままにするかの判断を迷うような所定距離内に移動体が存在する場合に、ドライバーにより確実に移動体の移動状態を把握させることが出来る。
次に、第2実施形態によれば、合成画像作成部26は、移動体の仮想画像を移動体の実際の車両の実体及び実状と識別可能に表示するので、ドライバーにとって移動体としての視認が容易である。
【0098】
次に、第2実施形態によれば、移動体検出部30により複数の移動体が検出されたとき、仮想画像作成部38は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像を生成するので、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
次に、第2実施形態によれば、合成画像作成部26により複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、仮想画像作成部38は、それらの移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像を生成するので、画像を見て混同することなく、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0099】
次に、第2実施形態によれば、合成画像作成部26は、仮想表示を移動体の実画像と識別可能に、例えば、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示したりして表示するので、ドライバーは仮想画像を仮想の画像として認識することが出来、実画像と仮想画像とを混同することがない。
【0100】
次に、第2実施形態によれば、合成画像作成部26は、移動体の現時点での背景及び現時点での移動体に重畳して移動体の仮想画像を表示するので、ドライバーは、実画像としては最新の現時点での映像を見ることが出来、それに対して仮想画像が表示されるので、より確実に周囲の状況と共に移動体の移動状態を把握することが出来る。
【0101】
次に、図13により、本発明の第3実施形態による車両用周囲監視装置の構成を説明する。図13は、本発明の第3実施形態による車両用周囲監視装置の構成を示すブロック図である。
図13に示すように、周辺監視センサ20として構成される各カメラ2、4、6からの画像信号が、ECU18内の画像取得部22に入力される。入力された画像信号は広角画像であり歪みが生じているので、その画像が画像補正部24で補正される。この画像補正部24からの画像信号は、合成画像作成部26に実画像として入力される。
【0102】
移動体検出部30では、画像補正部24からの入力画像内に移動体、例えば、他車両やオートバイや自転車などが存在するか否かを検出する。移動体が存在しない場合には、合成画像作成部26で後述する仮想画像を表示しないので、それを指示する信号を合成画像作成部26に送り、移動体が存在する場合には合成画像作成部26で後述する仮想画像を表示するので、移動体が存在することを指示する信号を合成画像作成部26に送る。
【0103】
また、移動体移動状態検出部32では、移動体検出部30から、移動体が存在する旨の信号を受けて、レーザレーダ7により、自車両に接近してくる移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両或いは交差点までの到達時間を算出する。なお、レーザレーダ7の代わりに、車車間通信或いは路車間通信により、移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間を算出するようにしても良い。
【0104】
また、カメラ2、4、6による撮像された画像を画像処理することにより、例えばウインカーの状態を検出して、移動体が右左折するか或いは直進するかの結果を検出する。なお、車車間通信或いは路車間通信により、移動体の右左折を検出しても良い。
【0105】
また、移動体の到達時間t2算出部36では、移動体移動状態検出部32により検出された自車両に接近してくる移動体の自車両からの距離、速度及び進行方向から、移動体が自車両に到達する時間t2を算出する。自車両の位置は、ナビゲーション装置13或いはGPS装置12により決定する。なお、移動体が自車両に到達する時間t2ではなく、移動体が交差点に到達する時間を算出しても良い。その場合、交差点の位置は、ナビゲーション装置により決定する。
【0106】
また、自車両の交差点通過に要する時間t1算出部54では、ナビゲーション装置13、GPS装置12及び車速センサ10の各情報を受けて、自車両が交差点通過に要する時間(あるいは、自車両が交差点に到達する時間とする)t1を算出する。
【0107】
そして、仮想画像作成部38では、後述するように、移動体が右左折するか否かの判定結果と、自車両が交差点を通過するのに要する時間、或いは、自車両が交差点に到達する時間t1及び移動体が自車両に到達する時間t2に応じて決定される危険度と、に応じて、路面上に仮想路面画像を生成する。仮想画像作成部38では、仮想路面画像として、その位置及び大きさを規定する。例えば、仮想路面画像は、実画像により得られる路面幅、或いは車線幅、或いは走行レーンと同じ幅で、移動体の前方に延びるように、位置及び大きさを規定する。
そして、作成された仮想路面画像は、合成画像作成部26で、各カメラ2、4、6で得られる実画像に重畳され、モニタ14により表示される。
【0108】
次に、ECU18内には、頭出し位置判定部50が存在する。頭出し位置判定部50では、車両が交差路内に頭出しした(図4参照)ことを判定するものである。頭出しが行われていれば、既にドライバー自身で交差路を見通せることから、仮想画像作成部38における仮想路面画像の仮想表示を中止するように、所定の信号を送るようになっている。
【0109】
また、ECU18には、仮想画像処理実施判定部52が存在する。この仮想画像処理実施判定部52は、ナビゲーション装置13から得る地図データ、GPS装置12から得られる位置データ、及び、車速センサ10から得られる車速データを基に、車両が交差点近傍に位置しているか否か及び一時停止しているか否かを判定するものである。後述するように、交差点近傍であり一時停止したときには、仮想画像を表示するために、合成画像作成部26に所定の信号を送る。
【0110】
次に、図14乃至図16により、本発明の第3実施形態による車両用周囲監視装置の制御内容を説明する。図14は、本発明の第3実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートであり、図15は、本発明の第3実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)であり、図16は、本発明の第3実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)、仮想画像が実画像に重畳された映像の一例(b)及び仮想画像が実画像に重畳された映像の一例(c)を示す図である。図14において、Sは各ステップを示す。
【0111】
この第3実施形態では、実際に存在する移動体(交差点に向かってくる他車両など)を含む周辺の実映像に重畳して、その移動体が自車両或いは交差点にどの程の時間或いは距離で到達するかの危険度に応じて、路面に仮想路面画像を仮想的に重畳して表示することにより、ドライバーが移動体の移動状態を認識するようにしたものである。これにより、例えばドライバーが自車両を発進させて良いか否かの判断を助けることが出来る。
【0112】
図14に示すように、先ず、S50において、画像取得部22(図13参照)により、例えば交差路において、左方監視カメラ2、前方監視カメラ4、右方監視カメラ6の映像を取得し、S51において、画像補正部24により、取得された広角画像の歪み補正を行う。
【0113】
次に、S52において、ECU18では、S50及びS51で取得された実画像から、移動体を検出する。このS52における移動体の検出は、オプティカルフロー処理にて行われる。なお、オプティカルフローの他に、背景差分、フレーム間差分処理、或いは、レーザーやミリ波などにより移動体を検出するようにしても良い。
移動体が検出されないときは、S53に進み、例えば交差路において安全に進行可能なものとして、合成画像作成部26(図13参照)に入力されるS50及びS51で取得された実画像をそのまま表示する。即ち、仮想画像の表示は禁止される。
【0114】
S52において、移動体が検出されたときには、S54に進み、移動体移動状態検出部32及び移動体の到達時間t2算出部36(図13参照)により、自車両に接近してくる移動体の自車両からの距離、速度及び進行方向を検出し、さらに、自車両までの到達時間t2を算出する。自車両までの到達時間t2は、交差点までの到達時間としても良い。移動体が複数存在するときには、基本的には、自車両からの距離が最短距離である移動体、或いは、自車両までの最短到達時間の移動体について、移動体の自車両からの距離、速度及び進行方向を検出すると共に、移動体の自車両への到達時間を算出する。
【0115】
次に、S55において、自車両の交差点通過に要する時間t1算出部54(図13参照)により、自車両が交差点通過に要する時間t1を算出する。
次に、S56に進み、移動体移動状態検出部32(図13参照)により得られた、移動体が直進するか右左折するかの検出結果から、移動体が交差点にて右左折するか否かを判定する。
【0116】
移動体が右左折する場合には、S57に進み、移動体の進行方向が交差点を右左折するものと決定し、危険度が小として、仮想画像作成部38により、移動体の進行方向である交差点までの直線部分の路面と、左折後の進行方向の路面とのそれぞれの実画像上に重畳して表示する仮想路面表示を作成する。ここでは、危険度が小なので、仮想路面表示を青色とする。色を付けない場合は、濃淡を付けて、例えば、薄く表示する。
【0117】
そして、S58に進み、S57で作成した仮想路面表示を、例えば図15(b)にR1で示すように、実画像に重畳して表示する。ドライバーは、この仮想路面表示により、移動体が左折することを即座に認識することが出来、例えば自車両を発進させて良いかの判断が容易になる。
【0118】
次に、S56において、移動体が直進すると判定された場合、先ずS59に進む。このS59では、及び移動体が自車両に到達する時間t2と自車両が交差点に到達する時間t1との差が所定値k0未満であるか否かを判定する。
【0119】
所定値k0未満である場合は、S60に進み、移動体も自車両もほぼ同じような時間で交差点に到達するので、危険度大として、仮想画像作成部38により、移動体の進行方向である交差点を含む直線部分の路面の実画像上に重畳して表示する仮想路面表示を作成する。ここでは、危険度が大なので、仮想路面表示を赤色とする。色を付けない場合は、濃淡を付けて、例えば、濃くする。
【0120】
そして、S58に進み、S60で作成した仮想路面表示を、例えば図16(b)にR2で示すように、実画像に重畳して表示する。ドライバーは、この仮想路面表示により、移動体が直進してくること、及び、非常に近い位置にいることを即座に認識することが出来、例えば自車両を待機するための判断が容易になる。
【0121】
S59で、t2−t1がk0以上である場合には、S61に進み、移動体が自車両に到達する時間t2と自車両が交差点に到達する時間t1との差が所定値k0以上であり且つ所定値k1未満であるか否かを判定する。
所定値k0以上であり且つ所定値k1未満である場合には、S62に進み、移動体が到達する時間と自車両が到達する時間に或る程度の時間差があるので、危険度中として、仮想画像作成部38により、移動体の進行方向である交差点を含む直線部分の路面の実画像上に重畳して表示する仮想路面表示を作成する。ここでは、危険度が中なので、仮想路面表示を黄色とする。色を付けない場合は、濃淡を付けて、例えば、中程度の濃さとする。
【0122】
そして、S58に進み、S62で作成した仮想路面表示を、例えば図16(c)にR3で示すように、実画像に重畳して表示する。ドライバーは、この仮想路面表示により、移動体が直進してくること、及び、何秒か後に移動体が近づくことを即座に認識することが出来、例えば自車両を発進させて良いか待機するかの判断が容易になる。
【0123】
S61で、移動体が自車両に到達する時間t2と自車両が交差点に到達する時間t1との差が所定値k1以上である場合には、S63に進み、移動体が到達する時間と自車両が到達する時間に大きな時間差があるので、危険度小として、仮想画像作成部38により、移動体の進行方向である交差点を含む直線部分の路面の実画像上に重畳して表示する仮想路面表示を作成する。ここでは、危険度が小なので、仮想路面表示を青色とする。色を付けない場合は、濃淡を付けて、例えば、薄くする。
【0124】
そして、S58に進み、S63で作成した仮想路面表示を、実画像に重畳して表示する。ドライバーは、この仮想路面表示により、移動体が直進してくること、及び、かなり後に移動体が近づくことを即座に認識することが出来、例えば自車両を発進させて良いとの判断が容易になる。
【0125】
なお、S58においては、上述したように、仮想路面表示を、交差点までの到達時間t1、t2により異なるようにしているが、移動体の到達時間の算出の確信度に応じて変更して表示するようにしても良い。確信度とは、情報源である自律センサ情報、車車間通信情報、路車間通信情報、情報センター配信情報などの情報の精度のことである。例えば、自律センサ情報、車車間通信情報、路車間通信情報、情報センター配信情報の順で確信度が高い等と決定することが出来る。そして、確信度が高い場合には、仮想路面表示を点滅させたり、点滅の間隔を変えたりして、ドライバーが確信度を判断することが出来るようにしても良い。
【0126】
S58の次には、S64に進み、頭出し位置判定部(図13参照)50により、自車両が頭出し位置(図4参照)を通過したか否かを判定する。自車両が頭出しをしているときには、S65に進み、合成画像作成部26(図参照)により、S58で表示した仮想画像を点滅表示させた後、その仮想画像の表示を中止する。
【0127】
次に、本発明の第3実施形態による作用効果を説明する。
本発明の実施形態による車両用周囲監視装置によれば、ドライバーから見て前方で左右に広がる領域内の死角領域を監視することが出来る。本実施形態では、死角領域の実画像を撮像するように車両の前方部にカメラ2、4、6が設けられ、移動体検出部30により、これらのカメラ2、4、6により撮像された実画像内から移動体が抽出される。さらに、移動体移動状態検出部32により移動体の移動状態が検出され、移動体の到達時間t2算出部36により移動体の到達時間が算出さる。また、自車両の交差点通過に要する時間t1算出部54により自車両の交差点通過に要する時間が算出され、それらを基に仮想画像作成部38により仮想路面画像を表示する表示態様が規定される。そして、仮想画像作成部38により仮想路面画像が生成され、合成画像作成部26により、仮想路面画像を規定された表示態様で実画像に重畳してモニタ14に表示する。
【0128】
次に、第3実施形態によれば、移動体の移動状態に応じて移動体の進行方向前方側の路面上に所定の仮想路面画像を重畳して表示するので、移動体の仮想表示に加えて、その移動体が進行している路面も仮想表示され、より確実に、移動体の存在する方向や移動状態を把握することが出来る。
【0129】
次に、第3実施形態によれば、車両及び移動体が向かう交差路の交差点までの自車両の到達時間及び移動体の到達時間に応じて移動体の進行方向前方側の路面上に所定の仮想路面表示を重畳して表示するので、自車両及び移動体が向かう交差路の交差点までの自車両の到達時間及び移動体の到達時間に応じて移動体の進行方向前方側の路面上に所定の仮想路面表示が重畳して表示され、より確実且つ正確に、移動体の存在する方向や移動状態を把握することが出来る。
【0130】
次に、第3実施形態によれば、仮想路面表示が、交差点までの自車両の到達時間及び移動体の到達時間の算出の確信度に応じて変更して表示されるので、交差点までの自車両の到達時間及び移動体の到達時間の算出の確信度に応じて仮想路面表示が変更して表示され、より確実且つ正確に、移動体の存在する方向や移動状態を把握することが出来る。なお、確信度としては、例えば、自律センサ情報、車車間通信情報、路車間通信情報、情報センター配信情報の順で確信度が高い等と決定することが好ましい。
【0131】
次に、第3実施形態によれば、移動体検出部30により複数の移動体が検出されたとき、仮想画像生成部38は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して仮想路面表示を生成するので、複数の移動体が存在するとき、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成され、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0132】
次に、第3実施形態によれば、複数の移動体の仮想画像を全て表示すると複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、移動体の全ての仮想画像を生成するのではなく、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像が生成されるので、複数の仮想画像をそれぞれ混同することなく、より確実に自車両と衝突する恐れのある移動体の移動状態を把握することが出来る。
【0133】
次に、第3実施形態によれば、合成画像作成部26は、仮想画像を移動体の実画像と識別可能に、例えば、輪郭線のみ表示したり、透過した淡色表示をしたり、点滅表示したりして表示するので、ドライバーは仮想画像を仮想の画像として認識することが出来、実画像と仮想画像とを混同することがない。
【0134】
次に、第3実施形態によれば、合成画像作成部26は、移動体の現時点での背景及び現時点での移動体に重畳して移動体の仮想画像又は仮想路面画像を表示するので、ドライバーは、実画像としては最新の現時点での映像を見ることが出来、それに対して仮想画像が表示されるので、より確実に周囲の状況と共に移動体の移動状態を把握することが出来る。
【0135】
なお、上述した第1乃至第3実施形態においては、移動体として主に車両を想定して説明をしてきたが、移動体としては、四輪車、二輪車、自転車、歩行者を含むようにしても良い。また、静止物としては、停止している四輪車、停止している二輪車、立ち止まっている歩行者や自転車、路側物、建物などが挙げられる。
【図面の簡単な説明】
【0136】
【図1】本発明の第1乃至第3実施形態による車両用周囲監視装置が適用された車両の全体構成図である。
【図2】本発明の第1乃至第3実施形態による車両用周囲監視装置のカメラによる撮像範囲の一例(a)及び撮像された映像の一例(b)を示す図である。
【図3】ドライバーによる交差路進入時における運転行動を説明するための図である。
【図4】自車両の頭出し位置を説明するための道路及び車両の俯瞰図である。
【図5】本発明の第1乃至第3実施形態による車両用周囲監視装置の距離把握用仮想画像を表示するか否かの処理を示すフローチャートである。
【図6】本発明の第1実施形態による車両用周囲監視装置の構成を示すブロック図である。
【図7】本発明の第1実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートである。
【図8】本発明の第1実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)を示す図である。
【図9】本発明の第2実施形態による車両用周囲監視装置の構成を示すブロック図である。
【図10】本発明の第2実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートである。
【図11】本発明の第2実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)を示す図である。
【図12】本発明の第2実施形態による仮想画像が実画像に重畳された映像の一例である。
【図13】本発明の第3実施形態による車両用周囲監視装置の構成を示すブロック図である。
【図14】本発明の第3実施形態による車両用周囲監視装置の距離把握用仮想画像の表示処理を示すフローチャートである。
【図15】本発明の第3実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)、仮想画像が実画像に重畳された映像の一例(b)を示す図である。
【図16】本発明の第3実施形態による車両用周囲監視装置のカメラによる撮像範囲及び移動体の一例(a)及び仮想画像が実画像に重畳された映像の一例(b)及び仮想画像が実画像に重畳された映像の一例(c)である。
【符号の説明】
【0137】
1 車両
2、4、6 監視カメラ
7 レーザレーダ
10 車速センサ
12 GPS装置
13 ナビゲーション装置
14 画像表示モニタ
15 スピーカ
18 ECU
【特許請求の範囲】
【請求項1】
ドライバーから見て前方で左右に広がる領域内の死角領域を監視する車両用周囲監視装置であって、
上記死角領域の実画像を撮像するように車両の前方部に設けられた実画像撮像手段と、
この実画像撮像手段により撮像された実画像内から移動体を抽出し、この移動体の移動状態を検出する移動体検出手段と、
この移動体検出手段で検出された移動体の移動状態を表すような所定の仮想画像を表示するためにその所定の仮想画像の表示態様を規定する仮想画像規定手段と、
上記移動体の仮想画像を上記仮想画像規定手段により規定される表示態様で上記実画像に重畳して表示する表示手段と、
を有することを特徴とする車両用周囲監視装置。
【請求項2】
上記ドライバーの死角領域は車両の前方側の交差路の交差点の周辺の死角領域であり、
上記実画像撮像手段は、車両の前方端に設けられ、車両が交差路に差し掛かるとき、その車両の前方端から撮像可能な交差路の交差点周囲の実画像を撮像する請求項1に記載の車両用周囲監視装置。
【請求項3】
上記仮想画像規定手段は、上記移動体の移動状態として、その移動体の進行方向延長線上の所定時間後の推定到達位置に上記移動体の仮想画像が表示されるように上記移動体の仮想画像を表示する表示態様を規定する請求項1又は請求項2に記載の車両用周囲監視装置。
【請求項4】
さらに、上記所定時間に基づいてその表示された移動体の現在の位置からの到達予測時間の数値表示を上記移動体の仮想画像に合わせて表示する第2表示手段を有する請求項3に記載の車両用周囲監視装置。
【請求項5】
上記仮想画像規定手段は、上記移動体の移動状態として、その移動体が移動してきた過去の位置に上記移動体の仮想画像が等時間間隔で残像として表示されるように上記移動体の仮想画像を表示する表示態様を規定する請求項1又は請求項2に記載の車両用周囲監視装置。
【請求項6】
さらに、上記等時間間隔の残像に合わせてベクトル表示を行う第3表示手段を有する請求項5に記載の車両用周囲監視装置。
【請求項7】
上記表示手段は、上記移動体の仮想画像を、上記移動体の自車両からの距離が所定距離以上の遠距離にある場合に、所定距離より小さい場合よりも拡大して表示する請求項5又は請求項6に記載の車両用周囲監視装置。
【請求項8】
上記表示手段は、上記移動体の仮想画像の表示を上記移動体の自車両からの距離が所定距離範囲内であるか、或いは、移動体の自車両への到達時間が所定時間範囲内にあるときに行う請求項1乃至7のいずれか1項に記載の車両用周囲監視装置。
【請求項9】
上記表示手段は、上記移動体の仮想画像を上記移動体の実体および実状と識別可能に表示する請求項1乃至8のいずれか1項に記載の車両用周囲監視装置。
【請求項10】
上記移動体検出手段により複数の移動体が検出されたとき、上記仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像の表示態様を規定し、上記表示手段は、その規定された仮想画像を実画像に重畳して表示する請求項1乃至9のいずれか1項に記載の車両用周囲監視装置。
【請求項11】
上記移動体検出手段により複数の移動体が検出され、上記表示手段が上記複数の移動体の仮想画像を全て表示すると上記複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、上記仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像の表示態様を規定し、上記表示手段は、その規定された仮想画像を実画像に重畳して表示する請求項1乃至9のいずれか1項に記載の車両用周囲監視装置。
【請求項12】
上記仮想画像規定手段は、上記移動体の移動状態を表すために、上記移動体の進行方向前方側の路面上に上記移動体の移動状態を示す仮想路面画像を表示するようにその表示態様を規定する請求項1又は請求項2に記載の車両用周囲監視装置。
【請求項13】
上記仮想画像規定手段は、自車両及び上記移動体が向かう交差路の交差点までの自車両の到達時間及び上記移動体の到達時間に応じて異なる、或いは、自車両及び上記移動体が向かう交差路の交差点での自車両の通過時間及び上記移動体の到達時間に応じて異なる仮想路面画像を上記移動体の進行方向前方側の路面上に表示するように上記仮想路面画像の表示態様を規定する請求項12に記載の車両用周囲監視装置。
【請求項14】
上記仮想画像規定手段は、上記仮想路面表示を、上記交差点までの上記自車両の到達時間及び上記移動体の到達時間の算出の確信度に応じて仮想路面画像を変更するようにその表示態様を規定する請求項12又は請求項13に記載の車両用周囲監視装置。
【請求項15】
上記移動体検出手段により複数の移動体が検出されたとき、上記仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して上記仮想路面画像の表示態様を規定し、上記表示手段は、その規定された仮想路面画像のみを仮想画像として上記実画像に重畳して表示する請求項12乃至14のいずれか1項に記載の車両用周囲監視装置。
【請求項16】
上記移動体検出手段により複数の移動体が検出され、上記表示手段が上記複数の移動体の仮想画像を全て表示すると上記複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、上記仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して上記仮想路面画像の表示態様を規定し、上記表示手段は、その規定された仮想路面画像のみを仮想画像として上記実画像に重畳して表示する請求項12乃至14のいずれか1項に記載の車両用周囲監視装置。
【請求項17】
上記表示手段は、上記仮想画像を上記移動体の実画像と識別可能に表示する請求項1乃至16のいずれか1項に記載の車両用周囲監視装置。
【請求項18】
上記表示手段は、上記移動体の現時点での背景及び現時点での移動体の実画像に重畳して上記移動体の仮想画像又は仮想路面画像を表示する請求項1乃至17のいずれか1項に記載の車両用周囲監視装置。
【請求項1】
ドライバーから見て前方で左右に広がる領域内の死角領域を監視する車両用周囲監視装置であって、
上記死角領域の実画像を撮像するように車両の前方部に設けられた実画像撮像手段と、
この実画像撮像手段により撮像された実画像内から移動体を抽出し、この移動体の移動状態を検出する移動体検出手段と、
この移動体検出手段で検出された移動体の移動状態を表すような所定の仮想画像を表示するためにその所定の仮想画像の表示態様を規定する仮想画像規定手段と、
上記移動体の仮想画像を上記仮想画像規定手段により規定される表示態様で上記実画像に重畳して表示する表示手段と、
を有することを特徴とする車両用周囲監視装置。
【請求項2】
上記ドライバーの死角領域は車両の前方側の交差路の交差点の周辺の死角領域であり、
上記実画像撮像手段は、車両の前方端に設けられ、車両が交差路に差し掛かるとき、その車両の前方端から撮像可能な交差路の交差点周囲の実画像を撮像する請求項1に記載の車両用周囲監視装置。
【請求項3】
上記仮想画像規定手段は、上記移動体の移動状態として、その移動体の進行方向延長線上の所定時間後の推定到達位置に上記移動体の仮想画像が表示されるように上記移動体の仮想画像を表示する表示態様を規定する請求項1又は請求項2に記載の車両用周囲監視装置。
【請求項4】
さらに、上記所定時間に基づいてその表示された移動体の現在の位置からの到達予測時間の数値表示を上記移動体の仮想画像に合わせて表示する第2表示手段を有する請求項3に記載の車両用周囲監視装置。
【請求項5】
上記仮想画像規定手段は、上記移動体の移動状態として、その移動体が移動してきた過去の位置に上記移動体の仮想画像が等時間間隔で残像として表示されるように上記移動体の仮想画像を表示する表示態様を規定する請求項1又は請求項2に記載の車両用周囲監視装置。
【請求項6】
さらに、上記等時間間隔の残像に合わせてベクトル表示を行う第3表示手段を有する請求項5に記載の車両用周囲監視装置。
【請求項7】
上記表示手段は、上記移動体の仮想画像を、上記移動体の自車両からの距離が所定距離以上の遠距離にある場合に、所定距離より小さい場合よりも拡大して表示する請求項5又は請求項6に記載の車両用周囲監視装置。
【請求項8】
上記表示手段は、上記移動体の仮想画像の表示を上記移動体の自車両からの距離が所定距離範囲内であるか、或いは、移動体の自車両への到達時間が所定時間範囲内にあるときに行う請求項1乃至7のいずれか1項に記載の車両用周囲監視装置。
【請求項9】
上記表示手段は、上記移動体の仮想画像を上記移動体の実体および実状と識別可能に表示する請求項1乃至8のいずれか1項に記載の車両用周囲監視装置。
【請求項10】
上記移動体検出手段により複数の移動体が検出されたとき、上記仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像の表示態様を規定し、上記表示手段は、その規定された仮想画像を実画像に重畳して表示する請求項1乃至9のいずれか1項に記載の車両用周囲監視装置。
【請求項11】
上記移動体検出手段により複数の移動体が検出され、上記表示手段が上記複数の移動体の仮想画像を全て表示すると上記複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、上記仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体の仮想画像の表示態様を規定し、上記表示手段は、その規定された仮想画像を実画像に重畳して表示する請求項1乃至9のいずれか1項に記載の車両用周囲監視装置。
【請求項12】
上記仮想画像規定手段は、上記移動体の移動状態を表すために、上記移動体の進行方向前方側の路面上に上記移動体の移動状態を示す仮想路面画像を表示するようにその表示態様を規定する請求項1又は請求項2に記載の車両用周囲監視装置。
【請求項13】
上記仮想画像規定手段は、自車両及び上記移動体が向かう交差路の交差点までの自車両の到達時間及び上記移動体の到達時間に応じて異なる、或いは、自車両及び上記移動体が向かう交差路の交差点での自車両の通過時間及び上記移動体の到達時間に応じて異なる仮想路面画像を上記移動体の進行方向前方側の路面上に表示するように上記仮想路面画像の表示態様を規定する請求項12に記載の車両用周囲監視装置。
【請求項14】
上記仮想画像規定手段は、上記仮想路面表示を、上記交差点までの上記自車両の到達時間及び上記移動体の到達時間の算出の確信度に応じて仮想路面画像を変更するようにその表示態様を規定する請求項12又は請求項13に記載の車両用周囲監視装置。
【請求項15】
上記移動体検出手段により複数の移動体が検出されたとき、上記仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して上記仮想路面画像の表示態様を規定し、上記表示手段は、その規定された仮想路面画像のみを仮想画像として上記実画像に重畳して表示する請求項12乃至14のいずれか1項に記載の車両用周囲監視装置。
【請求項16】
上記移動体検出手段により複数の移動体が検出され、上記表示手段が上記複数の移動体の仮想画像を全て表示すると上記複数の移動体及びそれらの仮想画像が重なって表示されてしまうとき、上記仮想画像規定手段は、自車両までの距離が最も小さい或いは自車両までの到達時間が最も短い移動体に対して上記仮想路面画像の表示態様を規定し、上記表示手段は、その規定された仮想路面画像のみを仮想画像として上記実画像に重畳して表示する請求項12乃至14のいずれか1項に記載の車両用周囲監視装置。
【請求項17】
上記表示手段は、上記仮想画像を上記移動体の実画像と識別可能に表示する請求項1乃至16のいずれか1項に記載の車両用周囲監視装置。
【請求項18】
上記表示手段は、上記移動体の現時点での背景及び現時点での移動体の実画像に重畳して上記移動体の仮想画像又は仮想路面画像を表示する請求項1乃至17のいずれか1項に記載の車両用周囲監視装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2009−231938(P2009−231938A)
【公開日】平成21年10月8日(2009.10.8)
【国際特許分類】
【出願番号】特願2008−71872(P2008−71872)
【出願日】平成20年3月19日(2008.3.19)
【出願人】(000003137)マツダ株式会社 (6,115)
【Fターム(参考)】
【公開日】平成21年10月8日(2009.10.8)
【国際特許分類】
【出願日】平成20年3月19日(2008.3.19)
【出願人】(000003137)マツダ株式会社 (6,115)
【Fターム(参考)】
[ Back to top ]