車両周辺監視装置
【課題】俯瞰画像上で全体が表示されていない目標物に対し、俯瞰画像上の境界線を変更し全体を表示できるようにした車両周辺監視装置を提供すること。
【解決手段】複数の撮像装置が互いに共通する視野領域とする俯瞰画像の共通領域に位置する障害物と判定された画像から抽出された複数の特徴点に対し、三次元計測処理部43において得られた相対運動情報による一定の経過時間を想定したときの予想軌跡と時刻変化をもとに、前記共通領域を互いに共通する視野領域とする各カメラについて“前記特徴点が写る/写らない”を予測しその予測結果を得る。そして、前記予測結果から、前記俯瞰画像の共通領域について、前記特徴点が抽出された障害物131をより広範囲に写すことの可能なカメラによる部分俯瞰画像を優先させ、フィードフォワード的に俯瞰画像の繋ぎ目、境界線を変更し、障害物131がより広範囲に俯瞰画像に表示されるようにする。
【解決手段】複数の撮像装置が互いに共通する視野領域とする俯瞰画像の共通領域に位置する障害物と判定された画像から抽出された複数の特徴点に対し、三次元計測処理部43において得られた相対運動情報による一定の経過時間を想定したときの予想軌跡と時刻変化をもとに、前記共通領域を互いに共通する視野領域とする各カメラについて“前記特徴点が写る/写らない”を予測しその予測結果を得る。そして、前記予測結果から、前記俯瞰画像の共通領域について、前記特徴点が抽出された障害物131をより広範囲に写すことの可能なカメラによる部分俯瞰画像を優先させ、フィードフォワード的に俯瞰画像の繋ぎ目、境界線を変更し、障害物131がより広範囲に俯瞰画像に表示されるようにする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自車両に対する俯瞰画像上の障害物を表示し運転支援を行う車両周辺監視装置に関する。
【背景技術】
【0002】
従来、自動車に複数の撮像装置を設け、各撮像装置により撮像した画像を合成し、自動車の周囲全周の俯瞰画像を生成し運転席のモニタに表示することで、駐車場などにおける運転操作を容易かつ安全に行えるようにした車両周辺監視装置がある。
このような従来の車両周辺監視装置では、車両に前方カメラ、後方カメラ、右カメラおよび左カメラが取り付けられている。
そして、これら前方カメラ、後方カメラ、右カメラおよび左カメラにより撮像された映像を視点変換し、さらに画像合成して俯瞰画像を生成する。
このようにして生成された俯瞰画像は俯瞰画像表示画面へ表示され、運転操作の支援に活用される。
【0003】
このような車両周辺監視装置として、撮像部と、運転者に情報を提供する表示部とを有し、始動シーン選択部と、車速センサと、シフト位置検出部と、ウインカー検出部と、操舵角センサと、画面モード切替部とを備えたものが提供されている。
そして、この車両周辺監視装置は、ウインカーの情報やハンドル操舵角の情報により後側方の見せる領域を変更することが可能であり、特に、高速モード時にウインカー入力を検出した場合、ウインカー方向の合成画像を拡大表示する。
なお、前記撮像部は、車両に設置した複数のカメラ設置部に取り付けられた個々のカメラにより車両周囲を撮像し、前記表示部は運転者に情報を提供するものである。
また、前記始動シーン選択部は、複数の運転シーンの中からエンジン始動時に通常走行シーンを選択し、前記車速センサでは車速を検出し、前記シフト位置検出部ではシフト位置を検出するものである。
前記ウインカー検出部は、ウインカーの方向を検出し、前記操舵角センサはハンドルの操舵角を検出し、前記画面モード切替部では各センサおよび各検出部により検出された情報より表示画面構成を切り替える。(特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2002−109697号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
したがって、従来の車両周辺監視装置では、視点変換され画像合成された俯瞰画像上の境界付近の着目したい目標物、特に立体的な目標物に関しては、画像合成の処理段階において瞰映像上の境界で画像がほとんど表示されない状態が生じる。そのため、瞰映像上の境界付近の目標物が俯瞰画像表示画面上で見落とされてしまうという課題があった。
【0006】
本発明は、このような事情に鑑みてなされたものであり、俯瞰画像上で全体が表示されていない目標物に対し、俯瞰画像上の境界線を変更し全体を表示できるようにした車両周辺監視装置を提供することを目的とする。
また、自車両の予想経路上に位置している目標物を判定し適切な運転支援を行うことのできる車両周辺監視装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
請求項1に記載の発明は、車両の複数箇所に搭載され、それら箇所からそれぞれ異なる方向の車両周囲を撮像する複数の撮像装置と、前記各撮像装置で撮像した前記車両周囲の映像から前記車両を中心とする俯瞰画像を合成する俯瞰画像合成処理部と、前記俯瞰画像合成処理部により合成された俯瞰画像を表示する俯瞰画像表示手段と、前記俯瞰画像合成処理部により合成された俯瞰画像上の画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する特徴点抽出部と、前記俯瞰画像の時系列映像から前記特徴点抽出部で抽出した前記特徴点の前記俯瞰画像上での位置の変化を追跡する特徴点追跡処理部と、前記特徴点追跡処理部で追跡した前記特徴点の前記俯瞰画像上での位置の変化をもとに前記特徴点の三次元座標情報および前記車両との間の相対運動情報を含む特徴点情報を算出する三次元計測処理部と、前記三次元計測処理部で算出した前記特徴点情報をもとに、前記特徴点を抽出した画像が障害物であるか否かを判定する障害物検知処理部と、前記障害物検知処理部により検知した障害物の位置が前記複数の撮像装置が互いに共通する視野領域とする前記俯瞰画像上の共通領域に含まれるか否かを判定する障害物表示領域判定部と、前記障害物表示領域判定部で判定された前記共通領域に含まれる障害物についての前記特徴点の予想軌跡と、前記共通領域を互いに共通する前記視野領域とする各撮像装置に、前記予想軌跡で移動する前記障害物が“写る/写らない”の予測結果とをもとに、前記共通領域について前記障害物をより広範囲に写す撮像装置による部分俯瞰画像を優先させた俯瞰画像を前記俯瞰画像合成処理部に再合成させ、前記俯瞰画像表示手段に再表示させるカメラ画像優先処理部とを備えたことを特徴とする。
【0008】
請求項4に記載の発明は、車両の複数箇所に搭載され、それら箇所からそれぞれ異なる方向の車両周囲を撮像する複数の撮像装置と、前記各撮像装置で撮像した前記車両周囲の映像から前記車両を中心とする俯瞰画像を合成する俯瞰画像合成処理部と、前記俯瞰画像合成処理部により合成された俯瞰画像を表示する俯瞰画像表示手段と、前記俯瞰画像合成処理部により合成された俯瞰画像上の画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する特徴点抽出部と、前記俯瞰画像の時系列映像から前記特徴点抽出部で抽出した前記特徴点の前記俯瞰画像上での位置の変化を追跡する特徴点追跡処理部と、前記特徴点追跡処理部で追跡した前記特徴点の前記俯瞰画像上での位置の変化をもとに前記特徴点の三次元座標情報および前記車両との間の相対運動情報を含む特徴点情報を算出する三次元計測処理部と、前記三次元計測処理部で算出した前記特徴点情報をもとに、前記特徴点を抽出した画像が障害物であるか否かを判定する障害物検知処理部と、車速、ハンドル操作角、トランスミッションのシフト位置、アクセル開度の全てを含む前記車両の状態情報をもとに前記車両の予想経路の判定を行う予想経路判定処理部と、予想経路判定処理部で判定した前記車両の予想経路上に、障害物検知処理部で検知された障害物が位置しているか否かを判定する予想経路上障害物判定処理部と、前記予想経路上障害物判定処理部において前記車両の予想経路上に障害物が位置していると判定されると警報を出力する警報出力手段とを備えたことを特徴とする。
【発明の効果】
【0009】
本発明によれば、瞰映像上の境界付近に位置し俯瞰画像上で全体が表示されていない目標物に対し、俯瞰画像上の境界線を変更し全体を表示でき、適切な運転支援を行うことのできる車両周辺監視装置を提供できる効果がある。
また、自車両の予想経路上に位置している目標物を判定し適切な運転支援を行うことのできる車両周辺監視装置を提供できる効果がある。
【図面の簡単な説明】
【0010】
【図1】本発明の実施の形態である車両周辺監視装置の構成を示すブロック図である。
【図2】本発明の実施の形態の車両周辺監視装置の各カメラの撮像範囲と、これら撮像範囲の画像を視点変換し画像合成して生成された俯瞰画像を示す説明図である。
【図3】本発明の実施の形態の車両周辺監視装置における俯瞰画像の境界線を変更したときの俯瞰画像の一例を示す説明図である。
【図4】本発明の実施の形態の車両周辺監視装置における共通領域内に位置している障害物が予想経路内に含まれるときの俯瞰画像を示す説明図である。
【図5】本発明の実施の形態の車両周辺監視装置における障害物が共通領域外に位置してるときの俯瞰画像を示す説明図である。
【図6】本発明の実施の形態の車両周辺監視装置における障害物検知を説明するための対象物の三次元空間座標と俯瞰画像上の位置との関係を示す説明図である。
【図7】本発明の実施の形態の車両周辺監視装置における時刻tと時刻t+FΔtにおける俯瞰画像の一例を示す説明図である。
【図8】本発明の実施の形態の車両周辺監視装置における俯瞰画像から抽出した特徴点の動きをベクトルで示した説明図である。
【図9】本発明の実施の形態の車両周辺監視装置の動作を示すフローチャートである。
【図10】本発明の実施の形態の車両周辺監視装置の動作を示すフローチャートである。
【図11】本発明の実施の形態の車両周辺監視装置における自車両の正面を通過する接近移動物体を示す説明図である。
【図12】本発明の実施の形態の車両周辺監視装置における距離による障害物エリアAと、衝突予想時間による障害物エリアBとを示す説明図である。
【図13】本発明の実施の形態の車両周辺監視装置における三次元計測処理部および障害物検知処理部の動作を示すフローチャートである。
【図14】拘束行列に関する数式および行列を示す図である。
【図15】本発明の実施の形態の車両周辺監視装置における予想経路判定処理部において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部の動作説明図である。
【図16】本発明の実施の形態の車両周辺監視装置における予想経路判定処理部において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部および俯瞰画像表示部の動作説明図である。
【図17】本発明の実施の形態の車両周辺監視装置における予想経路判定処理部において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部および俯瞰画像表示部の動作説明図である。
【図18】偏微分A、Bの説明図である。
【発明を実施するための形態】
【0011】
以下、本発明の実施の形態について説明する。図1は、本発明の実施の形態である車両周辺監視装置の構成を示すブロック図である。この車両周辺監視装置は、前方カメラ1、後方カメラ2、右カメラ3および左カメラ4と、フレームメモリ11,12,13,14と、視点変換部21,22,23,24と、俯瞰画像合成処理部31を備えている。
また、特徴点抽出部41、特徴点追跡処理部42、三次元計測処理部43、障害物検知処理部44、障害物境界領域判定部45およびカメラ画像優先処理部46を備えている。
また、予想経路判定処理部51、予想経路上障害物判定処理部52、警告出力制御部53、警告音出力部54、ブザー55、俯瞰画像表示部56、ディスプレイ57および急加速抑制制御部59を備えている。
前方カメラ1は、例えば車両前部のフロントグリル中央に取り付けられて自車両の前方を撮像するカメラである。
後方カメラ2は、例えばリアウィンドウが設けられた車両後部に取り付けられて自車両の後方を撮像するカメラである。
右カメラ3は、例えば右側ドアミラーを支持するドアミラー支持部突端に取り付けられて車両の右側方を撮像するカメラである。
左カメラ4は、例えば左側ドアミラーを支持するドアミラー支持部突端に取り付けられて車両の左側方を撮像するカメラである。
フレームメモリ11は、前方カメラ1により撮像されデジタルデータに変換された画像信号をフレーム単位で一時的に記憶する。
フレームメモリ12は、後方カメラ2により撮像されデジタルデータに変換された画像信号をフレーム単位で一時的に記憶する。
フレームメモリ13は、右カメラ3により撮像されデジタルデータに変換された画像信号をフレーム単位で一時的に記憶する。
フレームメモリ14は、左カメラ4により撮像されデジタルデータに変換された画像信号をフレーム単位で一時的に記憶する。
視点変換部21は,前方カメラ1により撮像した画像の視点位置を、前方カメラ1の取り付け位置から自車両上方の仮想視点位置へ変換する。
視点変換部22は,後方カメラ2により撮像した画像の視点位置を、後方カメラ2の取り付け位置から自車両上方の仮想視点位置へ変換する。
視点変換部23は,右カメラ3により撮像した画像の視点位置を、右カメラ3の取り付け位置から自車両上方の仮想視点位置へ変換する。
視点変換部24は,左カメラ4により撮像した画像の視点位置を、左カメラ4の取り付け位置から自車両上方の仮想視点位置へ変換する。
俯瞰画像合成処理部31は、前方カメラ1により撮像され視点変換部21により視点変化された画像と、後方カメラ2により撮像され視点変換部22により視点変化された画像と、右カメラ3により撮像され視点変換部23により視点変化された画像と、左カメラ4により撮像され視点変換部24により視点変化された画像とを合成し、自車両を前記仮想視点位置から見たときの俯瞰画像を生成する。
【0012】
図2は、車両101に取り付けられた前方カメラ1、後方カメラ2、右カメラ3および左カメラ4により撮像される撮像範囲と、これら撮像範囲の画像を視点変換し画像合成して生成された、自車両101を中心としてモニタ装置のディスプレイ57に表示される俯瞰画像を示す説明図である。
図中、符号111は前方カメラ1による撮像範囲、符号112は後方カメラ2による撮像範囲、符号113は右カメラ3による撮像範囲、符号114は左カメラ4による撮像範囲を示す。
また、符号116は、前方カメラ1の撮像範囲と右カメラ3の撮像範囲とが重なっている領域である共有視野領域を示している。また、符号117は、右カメラ3の撮像範囲と後方カメラ2の撮像範囲とが重なっている共有視野領域を示している。また、符号118は、後方カメラ2の撮像範囲と左カメラ4の撮像範囲とが重なっている共有視野領域を示している。また、符号119は、左カメラ4の撮像範囲と前方カメラ1の撮像範囲とが重なっている共有視野領域を示している。
符号121は前方カメラ1の撮像範囲111の画像から視点変換部21により視点変換され前記モニタ装置のディスプレイ57に表示された前方部分俯瞰画像を示す。
符号122は後方カメラ2の撮像範囲112の画像から同様に視点変換され前記モニタ装置のディスプレイ57に表示された右側方部分俯瞰画像を示す。
符号123は右カメラ3の撮像範囲113の画像から同様に視点変換され前記モニタ装置のディスプレイ57に表示された後方部分俯瞰画像を示す。
符号124は左カメラ4の撮像範囲114の画像から同様に視点変換され前記モニタ装置のディスプレイ57に表示された左側方部分俯瞰画像を示す。
これら前方部分俯瞰画像121、右側方部分俯瞰画像123、後方部分俯瞰画像122および左側方部分俯瞰画像124は、自車両101を中心として前記仮想視点位置から自車両周囲を俯瞰したときの俯瞰画像として俯瞰画像合成部31により画像合成される。
また、図2において、符号126は前方部分俯瞰画像121と右側方部分俯瞰画像123とが重畳する共通領域、符号127は右側方部分俯瞰画像123と後方部分俯瞰画像122とが重畳する共通領域、符号128は後方部分俯瞰画像122と左側方部分俯瞰画像124とが重畳する共通領域、符号129は前方部分俯瞰画像121と左側方部分俯瞰画像124とが重畳する共通領域を示す。
【0013】
図1に戻り、特徴点抽出部41は、俯瞰画像合成処理部31により合成した前記俯瞰画像に対し、たとえば画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する。
特徴点追跡処理部42は、前記俯瞰画像の時刻変化に伴う特徴点の移動位置の変化を追跡する。
三次元計測処理部43は、前記俯瞰映像上における前記特徴点の移動位置の変化からその特徴点の相対運動情報および三次元座標情報を算出する。
この相対運動情報および三次元座標情報は、次に示す俯瞰画像上の対象物体の動きをモデル化した式(1)、(2)を用いて算出する。
【0014】
【数1】
【0015】
【数2】
【0016】
障害物検知処理部44は、前記算出した相対運動情報および三次元座標情報をもとに障害物を判定する。この障害物の判定は、自車両に対する距離による障害物エリアと、衝突予想時間による障害物エリアとにおける特徴点から障害物の検知を行う。
【0017】
障害物表示領域判定部45は、障害物検知処理部44により検知した障害物の位置が図2で説明した俯瞰画像の共通領域126,127,128,129に含まれるか、さらに前記共通領域のうちのどの共通領域に入っているかを判定する。
カメラ画像優先処理部46は、前記共通領域の特徴点について三次元計測処理部43で算出された相対運動情報および三次元座標情報をもとに、一定の経過時間を想定したときの前記特徴点の予想軌跡を求める。
そして、この予想軌跡で前記障害物が移動したときの、障害物表示領域判定部45で判定した前記共通領域を互いに視野領域とするカメラ、たとえは共通領域129であれば前方カメラ1と左カメラ4のように撮像範囲が重畳する各カメラに写る/写らないの予測結果を得る。
さらに、前記共通領域について、前記障害物をより広範囲に写すカメラの部分俯瞰画像を優先させ、俯瞰画像合成処理部31に俯瞰画像を画像合成させる。
予想経路判定処理部51は、車速、ハンドル操作角、トランスミッションのシフト位置およびアクセル開度の各パラメータの全て、あるいは前記各パラメータのいずれか1つを含む自車両の状態情報をもとに自車両の予想経路の判定を行う。
予想経路上障害物判定処理部52は、予想経路判定処理部51で判定した自車両の予想経路上に、障害物検知処理部44で検知された障害物が位置しているか否かを判定する。
警告出力制御部53は、予想経路上障害物判定処理部52において自車両の予想経路上に障害物が位置していると判定されると、警告音出力部54へ警報音の出力を指示する警報音出力制御信号を出力する。
また、俯瞰画像を表示してるモニタ装置のディスプレイ57へ自車両の予想経路上に障害物が位置している旨の警告表示を行うための警告表示制御信号を俯瞰画像表示部56へ出力する。
警告音出力部54は、前記警報音出力制御信号をもとにブザー55を動作させて警報音を出力させる。
俯瞰画像表示部56は、俯瞰画像合成処理部31で合成した俯瞰画像をディスプレイ57へ表示し、また警告出力制御部53から出力される前記警告表示制御信号をもとに、ディスプレイ57へ警告表示を行う。
急加速抑制制御部59は、予想経路上障害物判定処理部52で自車両の予想経路上に障害物が位置していると判定されたときに急激なアクセル操作があると急加速を抑制する急加速抑制要求をエンジンECU60へ出力してエンジンを制御させ、急加速を抑制させる。
この急激なアクセル操作の検出は、たとえば、次のように実現することができる。
すなわち、アクセル開度の変化率がある基準値を超えるか否かを判定し、前記アクセル開度の変化率がある基準値を超えると急加速アクセル操作判定信号を出力するセンサ回路をアクセル操作検出手段として設ける。
あるいは、アクセル操作検出手段としてキックダウンスイッチの出力をもとに急激なアクセル操作があったか否かを検出することも可能である。
視点変換部21,22,23,24および俯瞰画像合成処理部31、特徴点抽出部41、特徴点追跡処理部42、三次元計測処理部43、障害物検知処理部44、障害物表示領域判定部45は、マイクロコンピュータを主要な構成とするECUにより実現される。
また、カメラ画像優先処理部46、予想経路判定処理部51、予想経路上障害物判定処理部52、警告出力制御部53、俯瞰画像表示部56および急加速抑制制御部59は、マイクロコンピュータを主要な構成とするECUにより実現される。
このECUは、前方カメラ1、後方カメラ2、右カメラ3および左カメラ4により撮像した画像の視点変換処理および画像合成処理を含む、この車両周辺監視装置特有の機能を実現するための各種処理を行う。
【0018】
ここで、三次元計測処理部43、障害物検知処理部44により障害物を検知するときの俯瞰映像上の3次元物体の動きモデルを示す式(2)の導出と、式(2)から式(3)の導出について説明する。
【0019】
【数3】
【0020】
図6に示すように、特徴点pの3次元実空間上の位置ベクトルXpを[Xp ,Yp ,Zp ]T とし、時刻tにてカメラは[0,0,H]の位置にあるとする。ここで,Hはカメラの路面に対する高さである。
特徴点pの俯瞰映像上の位置ベクトルxp を[xp ,yp ,0]T としたとき、ベクトルXp=[Xp ,Yp ,Zp ]T とベクトルxp =[xp ,yp ,0]T との間には式(1)が成立する。
ここでkp =H/(H−Zp )とおけば、式(1)は以下に示す式(4)のように書き換えることができる。
【0021】
【数4】
【0022】
一方、真の俯瞰映像とはカメラは無限の高さにあるときで(H=∞)、kp =1となり、式(4)より、式(5)のようになる。
【0023】
【数5】
【0024】
つまり、俯瞰映像に映る特徴点位置ベクトルxp =[xp ,yp ,0]T は、真の俯瞰映像の位置[Xp ,Yp ,0]T に対して、カメラ高と特徴点の高さに応じた係数kp だけ乗じたものである。
今、対象物pはカメラに対して、時刻tにおいて3次元実空間ではベクトルXp=[Xp ,Yp ,Zp ]T の位置にあり、ヨーレートω、相対速度VX 、VY の相対運動で移動していたとする。なお、バウンシング・ロール・ピッチング運動はなかったとする。
このとき、時刻t+Δtでの対象物pの3次元実空間上の位置ベクトルXp(t+Δt)=[Xp (t+Δt),Yp (t+Δt),Zp (t+Δt)]T は、以下のように式(6)で与えられる。
【0025】
【数6】
【0026】
式(6)より、バウンシング・ロール・ピッチング運動がなかったとすれば、Zp (t)=Zp (t+Δt)であり、kp =H/(H−Zp )より、係数kp は時間によらず一定となる。式(6)は以下のように式(7)のように書き換えることができる。
【0027】
【数7】
【0028】
ところで、時刻tとt+Δtでの対象物pの俯瞰映像上の位置ベクトルxp =[xp (t),yp (t),0]T 、ベクトルxp =[xp (t+Δt),yp (t+Δt),0]T は、係数kp は時間によらず一定となるため、式(5)より以下の式(8)のように与えられる。
【0029】
【数8】
【0030】
時刻t+Δtでの対象物pの俯瞰映像上の位置ベクトルxp (t+Δt)=[xp (t+Δt),yp (t+Δt),0]T を、式(7),(8)に代入すると、式(9)に示すようになる。
【0031】
【数9】
【0032】
この結果、時刻tとt+Δtでの対象物pの俯瞰映像上の位置ベクトルxp (t)=[xp (t),yp (t),0]T 、ベクトルxp (t+Δt)=[xp (t+Δt),yp (t+Δt),0]T には、以下の関係式(10)が成立する。
【0033】
【数10】
【0034】
さて、対象物pのカメラに対する相対運動は、実際には対象物pは静止物であり、カメラが移動して生じたものとする。つまり、自車両の動きによって生じたものとする。また、俯瞰映像に映る静止物中の特徴点は、対象物pの他に、全部でP個あったとする。
このとき、静止物に対する相対運動は共通であるため、時刻tとt+Δtでの特徴点の俯瞰映像上の位置ベクトルxp (t)=[xp (t),yp (t),0]T 、ベクトルxp (t+Δt)=[xp (t+Δt),yp (t+Δt),0]T 、1<p<Pは式(10)より以下のように式(11)で与えられる。
【0035】
【数11】
【0036】
式(11)は以下のように式(12)に書き換えることができる。
【0037】
【数12】
【0038】
ここで、次に示す式(13)、式(14)であり、ベクトルm(t+Δt)、n(t+Δt)およびcx (t+Δt)、cy (t+Δt)は時刻tから時刻t+Δtでのカメラと対象物との回転運動と併進運動の相対運動を示し、ベクトルsp (t)は式(4)から実質上は時刻tでの特徴点pの3次元実空間上の位置と見なすことができる。
【0039】
【数13】
【0040】
【数14】
【0041】
ところで、時刻tから時刻t+2Δtでのカメラと対象物との相対運動情報m(t+2Δt)、n(t+2Δt)、cx (t+2Δt)、cy (t+2Δt)を得たならば、時刻t+2Δtでの、俯瞰映像上の特徴点の位置ベクトルxp (t+2Δt)=[xp (t+2Δt),yp (t+2Δt),0]T 、1<p<Pは式(12)より、以下のように式(15)で与えられる。
【0042】
【数15】
【0043】
式(12)、(15)をまとめると、次に示す式(16)となる。
【0044】
【数16】
【0045】
今、時間間隔Δtで時刻tからt+FΔtにわたり、俯瞰映像上において、全部でP個の特徴点の位置が観測されたとする。なお、この観測は特徴点抽出・追跡にて行う。すると式(16)を拡張して、以下の関係式(17)が得られる。
【0046】
【数17】
【0047】
式(17)が俯瞰映像上の3次元物体の動きの数式モデルである。
なお、式(17)は以下に示す式(18)のように行列の積として書き換えることができる。
【0048】
【数18】
【0049】
ここで、行列W、M、Sは以下に示す式(19)のように与えられ、行列Wは特徴点抽出・追跡で得られた時刻tからt+FΔtの俯瞰映像上の各特徴点の位置を示し、行列Mは時刻tからt+FΔtの相対運動を示し、行列Sは時刻tでの各特徴点の3次元実空間上の位置を示す。
【0050】
【数19】
【0051】
式(18)の関係式を利用して、俯瞰映像上の特徴点の位置の変化から、相対運動と3次元実空間の位置を得る。
【0052】
次に、モデル推定方法の概略について説明する。
式(18)に示すW=MSより、俯瞰映像上の特徴点の位置の変化を示す行列Wから、相対運動を示す行列Mと3次元形状を示す行列Sに分割するには以下の手順で行う。
式(19)より、行列Wは2F×Pの大きさの行列である。行列Mは、ベクトルm、nが2次元であるため2F×3の大きさの行列であり、行列Sはベクトルsが3次元であるため3×Pの大きさの行列である。つまり、行列Wは階数3の行列である。そこで、以下のように、一旦、行列Wに対して特異値分解を行う。
【0053】
【数20】
【0054】
ここで、Uは2F×Hの直交行列、ΣはH×Hの対角行列、VT はH×Pの直交行列であり、HはH=min{2F,P}と与えられる。また、Σの対角要素は
σ1 >σ2 >…σp と降順に並んでいるとする。
行列Wは階数3の行列となるため、σ4 以降はノイズ成分とみなせることより、式(21)に示すように行列Uの3列分を抽出する。
【0055】
【数21】
【0056】
ここから、式(22)に示すように仮の分解結果を得ることができる。
【0057】
【数22】
【0058】
次に拘束行列の計算を行う。式(22)の分解結果は図14の(式1)を満たすが、得られた図14の行列(1)は、一般には図14の(式2)を満たさない。例えば、適当な3×3の大きさの行列Aを用いて、図14の(行列1)を以下に示す式(23)のように変換しても、W=MSを満たしてしまう。つまり、行列Aを適切に選択する必要がある。
【0059】
【数23】
【0060】
行列Aを適切に選択するため、以下の拘束条件を導入する。
(a)回転成分の拘束条件
式(19)より行列Mは以下の式(24)で示すように構成される。
【0061】
【数24】
【0062】
ここで、ベクトルmnは式(13)を例に示すとおり、回転成分を示すため、以下の拘束条件が存在する。
【0063】
【数25】
【0064】
(b)路面の拘束条件
式(19)より行列Sは以下のように構成される。
【0065】
【数26】
【0066】
また、ベクトルSP (t)は式(14)よりSP (t)=[xp (t) yp (t) kp ]T であり、kp はkp =H/(H-Zp )と与えられる。ここで、kp はZp <Hの条件で、Zp が増加すれば、kp も増加する。つまり対象物がカメラより下にある限り、対象物が高ければ高いほど、kp は大きな値を有する。
kp が最小となるのは、対象物が路面にあるとき、つまりZp =0であり、そのときkp =1となる。俯瞰映像は常時路面を撮影しているため、俯瞰映像上には、kp =1を満たす特徴点が必ず存在する。すなわち、kp に対して以下の拘束条件が存在する。
【0067】
【数27】
【0068】
以上、式(25)および式(27)を満たすように、行列Aを定めればよい。
【0069】
次に動作について説明する。
図6は、この実施の形態の車両周辺監視装置における障害物検知を説明するための対象物の三次元空間座標と俯瞰画像上の位置との関係を示す説明図である。
図6に示すように、カメラ201はz軸上の高さHの位置に配置されている。図6において、符号300は対象物を示しその三次元空間座標は[Xp ,Yp ,Zp ]Tである。また、符号301は俯瞰画像上の対象物映像であり、その三次元空間座標は[xp ,yp ,0]Tである。また、符号302は撮像された対象物が含まれた平面的な俯瞰映像を示している。
対象物と自車両とが相対速度[VX,VY]T、ヨーレートωで相対運動をしていたとき、上述した式(2)で示す関係が成立する。
式(2)のベクトルm(t+Δt)、n(t+Δt)は相対速度とヨーレートとを格納する相対運動であり、ベクトルSPは上述した式(1)から、特徴点Pの三次元座標への変換が一意に可能である。
この実施の形態では、式(1)および式(2)の関係を用いて、俯瞰画像上の特徴点Pを三次元座標へ変換し、自車両に対する立体物を判定して障害物の検知を行う。そして、前記検知した障害物が前記俯瞰画像上の前記共通領域内にあってその画像が俯瞰画像上で全体表示されていない場合、前記障害物の予想軌跡から前記障害物をより広範囲に写すことのできるカメラの画像を優先させ、前記障害物全体が表示されるように前記俯瞰画像の境界線を変更し、俯瞰画像を再表示する。
また、前記検知した障害物が自車両の予想経路上にあるか否かを判定し、予想経路上にある場合には表示や音で注意喚起し、さらに急なアクセル操作があると急加速を抑制するエンジン制御を実現する。
【0070】
以下、図9に示すフローチャートを参照し、この実施の形態の車両周辺監視装置における障害物の検知と、前記障害物全体が表示されるように前記俯瞰画像の境界線を変更し、俯瞰画像を再表示するときの動作について説明する。
図2に示すように前方カメラ1、後方カメラ2、右カメラ3および左カメラ4によりそれぞれ撮像された画像は、視点変換部21,22,23,24により視点変換され、さらに俯瞰画像合成処理部31により画像合成され俯瞰画像が生成される。この俯瞰画像は、一定の時間間隔Δtごとに生成され俯瞰画像合成処理部31から出力される(ステップS1)。俯瞰画像合成処理部31から出力された俯瞰画像は俯瞰画像表示部56によりディスプレイ57へ表示出力される。一方、また、俯瞰画像合成処理部31から出力された俯瞰画像は特徴点抽出部41へ供給され特徴点Pが抽出される(ステップS2)。特徴点抽出部41における特徴点Pの抽出は、たとえば画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点Pとして抽出する。
【0071】
図7は、この実施の形態の車両周辺監視装置における時刻tと時刻t+FΔtにおける俯瞰画像の一例を示す説明図である。図7において符号Pは特徴点抽出部41において抽出される特徴点を示している。
図7(A)、(B)に示されているように、特徴点抽出部41において抽出された特徴点Pがどのような動きをするかを特徴点追跡処理部42において追跡処理する。
この特徴点追跡処理部42の追跡処理は次のように行う。
つまり、図7(A)に示す時刻tにおける俯瞰画像上の特徴点Pと、同図(B)に示す時刻t+FΔtにおける俯瞰画像上の特徴点Pとの位置関係から、特徴点Pがどのような動きをしてどのような位置へ移動したかを追跡処理する(ステップS3)。
この特徴点Pの追跡処理では、特徴点Pのオプティカルフローを計算することで、その動きベクトルを求める。
図8は、図7に示す俯瞰画像から抽出した特徴点の動きベクトルを示す説明図である。
特徴点Pのオプティカルフローの計算処理は次のように行う。
所定の周期、時間間隔で撮像された前記俯瞰画像上の、互いに共通する特徴点Pの座標変化を検出し、その特徴点Pが移動しているか否か、座標が変化している場合には、特徴点Pの移動、座標変化の向きとその大きさがどの程度かをそれぞれ計算する。
【0072】
次に、三次元計測処理部43において、式(2)を用いて俯瞰画像上の特徴点Pの位置の変化から自車両と特徴点Pとの相対運動情報と、前記特徴点Pの三次元座標情報を算出する(ステップS4)。
さらに、障害物検知処理部44において、前記三次元計測処理部43で算出した前記相対運動情報と前記三次元座標情報とから障害物を検知する(ステップS5)。
【0073】
ここで、三次元計測処理部43の三次元計測処理および障害物検知処理部44の障害物検知処理についてさらに説明する。
図12は、俯瞰画像から得られた立体物の三次元情報と相対運動情報とから検知した自車両101に対する距離による障害物エリアAと、衝突予想時間による障害物エリアBとを示す説明図である。
図13は、この実施の形態の車両周辺監視装置における三次元計測処理部43、障害物検知処理部44および予想経路判定処理部51の動作を示すフローチャートである。
図15は予想経路判定処理部51において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部53の動作説明図である。
図16、図17は、予想経路判定処理部51において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部53および俯瞰画像表示部56の動作説明図である。
三次元計測処理部43の三次元計測処理では、俯瞰画像上の特徴点の三次元座標情報と、前記特徴点と自車両11との相対運動情報とを前述したように式(1)および式(2)から算出する(ステップS41)。
この特徴点の三次元座標情報は、三次元位置行列Sとして求められ(ステップS42)、また前記特徴点と自車両101との相対運動情報とは、相対運動行列Mとして求められる(ステップS43)。
そして、三次元位置行列Sとして求めた特徴点の三次元座標情報に対してはz軸方向の高さによる閾値処理を行う(ステップS44)。
この閾値処理では、z軸方向の高さ情報が零でなくある値を有している特徴点を所定の高さ基準値をもとに障害物候補特徴点とし(ステップS45)、またz軸方向の高さ情報が零である特徴点を非障害物特徴点とする(ステップS46)。
そして、前記障害物候補特徴点については、その特徴点の三次元座標情報をもとに自車両101との間の距離が明らかになることから、自車両101と障害物候補特徴点との間の距離に対し所定の距離基準値をもとに閾値処理を行う(ステップS47)。そして、遠距離障害物特徴点と近距離障害物特徴点とに識別を行う(ステップS48、ステップS49)。
近距離障害物特徴点として識別した特徴点は、例えば図12に示す障害物エリアAに含まれる特徴点である。
【0074】
また、遠距離障害物特徴点として識別した特徴点については、ステップS43において求めた相対運動行列Mをもとに、衝突予想時間に対し所定の衝突予想時間基準値をもとに閾値処理を行う(ステップS51)。そして、低危険度障害物特徴点と早期到達障害物特徴点とに識別する(ステップS52、ステップS53)。
早期到達障害物特徴点は、例えば図12に示す障害物エリアBに含まれる特徴点である。
続くステップS61、ステップS62、ステップS71、ステップS72、ステップS81は予想経路判定処理部51における自車両の予想経路、特徴点の予想軌跡の判定処理を示している。
予想経路判定処理部51では自車両の予想経路、特徴点の予想軌跡の判定結果をもとに警告を出力するか否か、どのカメラの画像を優先させ、俯瞰画像の境界線を変更するかを判定する。
警告出力制御部53では、図15に示すように予想経路判定処理部51の前記判定結果をもとに警告出力の制御を行い、俯瞰画像表示部56では、図16、図17に示すように予想経路判定処理部51の前記判定結果をもとに俯瞰画像の境界線を変更する。
すなわち、予想経路判定処理部51は、自車両の車速、ハンドル操作角、トランスミッションのシフト位置の全てを含む状態情報と、前記三次元計測処理部43で算出された前記特徴点の相対運動情報とをもとに、自車両の予想経路および前記特徴点の予想軌跡の判定を行い、予想経路上障害物判定処理部52は、予想経路判定処理部51で判定した自車両の予想経路上に、同じく予想経路判定処理部51で予想軌跡が判定され、障害物検知処理部44で障害物として検知された特徴点が位置しているか否かを判定する。
【0075】
また、図17に示すように、特徴点、障害物が同じ相対運動であっても、特徴点、障害物と自車両との位置関係によって警告を出力するか否か、俯瞰画像の境界線の変更についての判定結果は異なってくる。
したがって、予想経路判定処理部51は、自車両の車速、ハンドル操作角、トランスミッションのシフト位置の全てを含む状態情報と、三次元計測処理部43で算出された前記特徴点の相対運動情報と、自車両と前記特徴点との位置関係とをもとに、自車両の予想経路および前記特徴点の予想軌跡の判定を行い、予想経路上障害物判定処理部52は、予想経路判定処理部51で判定した自車両の予想経路上に、同じく予想経路判定処理部51で予想軌跡が判定され、障害物検知処理部44で障害物として検知された特徴点が位置しているか否かを判定する。
【0076】
図9のフローチャートに戻り、前記検知した障害物について障害物表示領域判定部45により俯瞰画像上の前記障害物が、図2に示す共通領域126,127,128,129のうちのどの共通領域に含まれているかを、前記障害物の特徴点から判定する(ステップS6)。
障害物表示領域判定部45により、前記障害物の特徴点が共通領域126,127,128,129のいずれかの共通領域、たとえば共通領域129に含まれていると判定されると、カメラ画像優先処理部46は、次のように動作する。
カメラ画像優先処理部46は、三次元計測処理部43において算出した自車両と前記障害物の特徴点Pとの相対運動情報と、前記障害物の特徴点Pの三次元位置情報とから、時間Δtが経過したときの前記障害物の特徴点Pの三次元位置、予想軌跡を算出する。
そして、前記障害物の特徴点が含まれていると判定された共通領域129を互いに共通する視野領域とする前方カメラ1と左カメラ4について、前記算出した三次元位置において前記障害物が写っているか否かを一定の経過時間を想定して前記障害物の特徴点について判定する。
そして、前記想定した一定の経過時間での前方カメラ1にしか写っていない前記特徴点の重み付け平均と、左カメラ4にしか写っていない前記特徴点の重み付け平均との大小関係から、前記障害物をより広範囲に写すことのできるカメラの画像を決定する。
さらに、前記障害物全体が表示されるように、前記俯瞰画像の共通領域について前記決定したカメラの画像を優先させ、俯瞰画像の境界線を変更する(ステップS7)。
そして、俯瞰画像合成処理部31において前記障害物の全体が含まれる俯瞰画像を再表示する(ステップS8)。
【0077】
図3は、俯瞰画像上で障害物の全体が表示されない場合、前記障害物全体が表示されるように前記俯瞰画像の境界線を変更したときの、俯瞰画像の一例を示す説明図である。
図3(A)は障害物の全体が表示されていない俯瞰画像を示し、符号131は全体が表示されていない障害物を示している。
前方カメラ1には全体像がほとんど写らないが、左カメラ4にはその全体像が写る共通領域129に障害物があるとき、一例を示すと図2で符号132で示す位置に障害物が位置している場合について説明する。
このとき、俯瞰画像の境界線で規定される各領域の配置形態が図3(A)に示す構成であると障害物131は俯瞰画像上にその一部が表示されるだけである。
なお、前記俯瞰画像の境界線で規定される各領域とは、図2の前方部分俯瞰画像121、後方部分俯瞰画像122、右側方部分俯瞰画像123、左側方部分俯瞰画像124の領域である。
このような現象は、図2の符号116,117,118,119で示す共有視野領域の周辺の障害物131の位置と、このときの前記部分俯瞰画像の各領域の配置形態とに応じて発生し、図3に示すように障害物131は俯瞰画像上にその一部が表示されるだけとなる。
このため、図2に示す前記共有視野領域をカバーする前記共通領域126,127,128,129に障害物131が位置していると、自車両と前記障害物の特徴点Pとの相対運動情報、前記障害物の三次元位置情報をもとに求めた、一定の経過時間を想定したときの予想軌跡から前記障害物の予想位置を算出する。
そして、前記算出した予想位置の前記障害物が前記共通領域を互いに共通する視野領域とする各カメラに写るか写らないかの予測結果から、前記共通領域について、前記障害物をより広範囲に写すことのできるカメラの部分俯瞰画像を決定する。
さらに、前記共通領域について前記決定したカメラの部分俯瞰画像を優先させ、俯瞰画像を再表示する。
この結果、前方部分俯瞰画像121、後方部分俯瞰画像122、右側方部分俯瞰画像123、左側方部分俯瞰画像124の配置形態が変更され、前記共通領域129について前記障害物をより広範囲に写すことのできる左カメラ4の部分俯瞰画像が優先され、図3(B)に示すように前記障害物の全体が含まれる俯瞰画像が再表示される。
つまり、図3(A)の前記部分俯瞰画像の各領域の配置形態では障害物131はその一部しか俯瞰画像に表示されていないのに対し、同図(B)では障害物131はその全体が表示される。
すなわち、自車両と前記障害物の特徴点Pとの相対運動情報、前記障害物の三次元位置情報をもとに一定の経過時間について想定した前記障害物の予想軌跡から、前記共通領域を互いに共通する視野領域とする各カメラについて“障害物131を写せる”、あるいは“写せない”を予測する。
そして、前記共通領域について、前記予測結果から“障害物131をより広範囲に写せる”と予測したカメラの部分俯瞰画像を優先させ、俯瞰画像の境界を変更する。
【0078】
ここで、俯瞰画像の境界線を変更するためのカメラ画像優先処理についてさらに説明する。
このカメラ画像優先処理は、共通領域に位置する障害物と判定された画像から抽出された複数の特徴点に対し、その予想軌跡、時刻変化をもとに、前記共通領域を互いに共通する視野領域とする各カメラについて“前記特徴点が写る/写らない”を予測し、その予測結果を得る。
前記予想軌跡、時刻変化は、三次元計測処理部43において得られた相対運動情報による一定の経過時間を想定したときの予想軌跡と時刻変化である。
そして、この予測結果から、前記特徴点が抽出された障害物131の全体像、あるいは、より広範囲に前記障害物を写している左カメラ4による左側方部分俯瞰画像124を優先させ、フィードフォワード的に俯瞰画像の繋ぎ目、境界線を変更する。
このための処理手順は次のようなものである。
まず、特徴点iがカメラAとカメラBの共有視野範囲にあるとして、三次元計測結果から特徴点iの三次元位置をベクトルXi =[Xi ,Yi ,Zi ]とし、ベクトルV=[Vx ,Vy ],ωを相対速度およびヨーレートとする(ステップS21)。次に、相対運動情報V,ωと三次元位置から、計測してから時間tだけ経過したときの特徴点iの三次元位置ベクトルX´i (t)=[X´i (t),Y´i (t),Z´i (t)]を求める(ステップS22)。
さらに、時刻tでの特徴点iの三次元座標ベクトルX´i (t)から、時刻tでのカメラAおよびカメラBによる特徴点iの俯瞰画像上の位置ベクトルx(a)i (t),ベクトルx(b)i (t)を求める(ステップS23)。
そして、ベクトルx(a)i (t),ベクトルx(b)i (t)から、特徴点iがカメラA、カメラBの俯瞰画像に映っているかいないかを判定し、式(28)、(29)で示す関数Ra (ベクトルx(a)i (t)),Rb (ベクトルx(b)i (t))を得る(ステップS24)。ここで関数Ra (ベクトルx(a)i (t)),Rb (ベクトルx(b)i (t))は見えやすさに応じて“0”以上“1”以下の実数を与えてもよい。
次に、関数Ra (ベクトルx(a)i (t)),Rb (ベクトルx(b)i (t))から、特徴点iがカメラAにしか映っていないことを示す式(30)で示す関数Sa (ベクトルx(a)i (t))と、カメラBにしか映っていないことを示す式(31)で示すSb (ベクトルx(b)i (t))を得る(ステップS25)。
続いて、関数Sa (ベクトルx(a)i (t))とSb (ベクトルx(b)i (t))とから、式(32)で示す計測してから時間T経過するまでのカメラAにしか映っていない特徴点数の重み付け平均Na と、式(33)で示すカメラBにしか映っていない特徴点数の重み付け平均Nb を求める。ここでw(t)はw(0)=1,w(T)=0を満たす、時間経過に応じて減少する重み関数である(ステップS26)。
そして、Na とNb の大小関係から、Na >Nb のとき共通領域にはカメラAの俯瞰画像を使用する。また、Na =Nb のとき共通領域にはカメラAとカメラBのうちのデフォルト値として定めたカメラの俯瞰画像を使用する。また、Na <Nb のとき共通領域にはカメラBの俯瞰画像を使用する。
なお、共通領域はカメラA、カメラBの俯瞰画像の輝度の重み付け合成するようにしてもよい。すなわち、Na /Nb >kのとき共通領域はカメラAの俯瞰画像を適用する。また、1/k≦Na /Nb ≦kのとき共通領域はカメラA、カメラBの俯瞰画像の重み付け平均を適用する。この俯瞰画像の重み付け平均は、式(34)、式(35)に示すようになる。このときIa がカメラAの俯瞰画像、Ib がカメラBの俯瞰画像であり、kはk>1を満たす適当な定数であり、Iは合成後の俯瞰画像である。また、Na /Nb <1/kのとき共通領域はカメラBの俯瞰画像を適用する。
【0079】
次に、図10に示すフローチャートを参照し、自車両の予想経路上に障害物があるときの警告表示あるいは警告音による注意喚起と、急なアクセル操作に対する急加速抑制動作について説明する。
なお、図10において図9と同一または相当の処理については同一の符号を付し説明を省略する。
ステップS1、ステップS2、ステップS3、ステップS4およびステップS5の各処理については図9の説明と同等である。
続く予想経路判定処理では、予想経路判定処理部51において自車両の車両情報から一定の時間Δt経過後の自車両101の位置、車速、進行方向、向きを含む状態情報、車両101の予想軌跡を計算し、予想経路151を判定する(ステップS16)。
なお、前記車両情報は、現在の車速、ハンドル操作角、トランスミッションのシフト位置、アクセル開度、車両寸法の全て、あるいはいづれか1つを含む。
続いて予想経路上障害物判定処理部52において、障害物検知処理部44で検知した障害物について前記予想経路151上にあるか否かを判定する(ステップS17)。
この予想経路上にあるか否かの判定は、三次元計測処理部43において前記障害物の特徴点の三次元位置情報が得られていることから、この特徴点の三次元位置情報が前記予想経路151内に含まれるか否かを判定することで可能になる。
【0080】
図4は、共通領域内に位置している障害物が予想経路151内に含まれるときの俯瞰画像を示す説明図である。
図4に示すように、障害物131が共通領域129内に位置していると、カメラ画像優先処理部46は前記共通領域129にある特徴点に対し、三次元計測処理部43において得られた相対運動情報をもとに一定の経過時間を想定したときの予想軌跡を求める。
そして、時刻変化をもとに、前記共通領域129を互いに共通する視野領域とする各カメラについて“障害物131を写せる”、あるいは“写せない”との予測結果を得る。
さらに、前記障害物131の全体像が映し出されるように、前記予測結果をもとに、前記各カメラについて前記障害物131をより広範囲に写すことの出来るカメラを決定する。
図4に示す例では、共通領域129を互いに共通する視野領域とするカメラは前方カメラ1と左カメラ4であり、障害物131をより広範囲に写すことの出来るカメラは左カメラ4である。
そして、前記共通領域の俯瞰画像として左カメラ4による左側方部分俯瞰画像124を優先させる。
図4に示す俯瞰画像では、さらに障害物131が予測経路151内に位置していると、予想経路上障害物判定処理部52において障害物が予想経路151上にあると判定され、警告出力制御部53は、警告音出力部54によりブザー55を駆動させ警報音を出力する。
さらに、警告出力制御部53は、俯瞰画像表示部56によりディスプレイ57へ警告を表示させる(ステップS18)。
【0081】
図5は、障害物が共通領域外に位置しているときの俯瞰画像を示す説明図である。
図5に示すように障害物が共通領域内に位置していないときには俯瞰画像の境界線の変更は行われず、また警告表示や警告音も出力されない。
続いて、急激なアクセル操作が行われたか否かを判定する(ステップS19)。
この急激なアクセル操作の判定は、たとえばアクセル開度の変化率がある基準値を超えるか超えないかを検出し、前記アクセル開度の変化率がある基準値を超えると急加速アクセル操作判定信号を出力するセンサ回路(アクセル操作検出手段)により実現可能である。
あるいは、キックダウンスイッチの出力をもとに検出することも可能である。
そして、障害物検知処理部44で検知した障害物が予想経路151上にあると判定されると、急加速抑制制御部59は、前記センサ回路から出力された急加速アクセル操作判定信号をもとにエンジンECU60へ急加速抑制要求を出力し、車両の急加速を抑制する(ステップS20)。
この結果、障害物が予想経路151上にあると急激なアクセル操作が行われても車両の急加速が抑制される。
【0082】
ここで特徴点抽出処理部41における特徴点Pの抽出についてさらに説明を行う。
図11は、俯瞰画像上の画像の一例を示す説明図である。
例えばカメラによって撮像された俯瞰画像上の画像が図11に示すように画像データの左上を原点として横軸をx軸、縦軸をy軸と定めた座標上にあるものとする。
まず特徴点抽出処理部3は、図18に示すように画像Iのx軸およびy軸方向に対する偏微分Aおよび偏微分Bをそれぞれ求める。次いでこの画像Iでの全ての画素における空間配列行列を求める。
そして特徴点抽出処理部4は、空間配列行列に対する固有値λmin(p)およびλmax(p)を計算し、特徴を有すると認められる所定の値を抽出して特徴点と定める。
【0083】
次いで上述したようにして得られた俯瞰画像上の画像における特徴点の時間変化を特徴点追跡処理部42が追跡する。
【0084】
従ってこの実施の形態の車両周辺監視装置では、自車両と前記障害物の特徴点Pとの相対運動情報、前記障害物の三次元位置情報をもとに決定した、障害物131全体を写し出すカメラの部分俯瞰画像を優先させた俯瞰画像上へ、本来ほとんど表示されなかった共通領域に位置する障害物の全体像を表示できる。
【0085】
この実施の形態によれば、予想経路上に障害物が位置していると、俯瞰画像上で前記障害物を検知し、視覚的あるいは聴覚的に表示や音で運転者に注意を喚起し、さらに急なアクセル操作があると急加速を抑制するエンジン制御を実現できる。
【符号の説明】
【0086】
1……前方カメラ(撮像装置)、2……後方カメラ(撮像装置)、3……右カメラ(撮像装置)、4……左カメラ(撮像装置)、21,22,23,24……視点変換部、31……俯瞰画像合成処理部、41……特徴点抽出処理部、42……特徴点追跡処理部、43……三次元計測処理部、44……障害物検知処理部、45……障害物表示領域判定部、46……カメラ画像優先処理部、51……予想経路判定処理部、52……予想経路上障害物判定処理部、53……警告出力制御部(警報出力手段)、54……警告音出力部(警報出力手段)、55……ブザー(警報出力手段)、57……ディスプレイ(警報出力手段)、56……俯瞰画像表示部(俯瞰画像表示手段)、59……急加速抑制制御部、60……エンジンECU、101……自車両(車両)、131……障害物。
【技術分野】
【0001】
本発明は、自車両に対する俯瞰画像上の障害物を表示し運転支援を行う車両周辺監視装置に関する。
【背景技術】
【0002】
従来、自動車に複数の撮像装置を設け、各撮像装置により撮像した画像を合成し、自動車の周囲全周の俯瞰画像を生成し運転席のモニタに表示することで、駐車場などにおける運転操作を容易かつ安全に行えるようにした車両周辺監視装置がある。
このような従来の車両周辺監視装置では、車両に前方カメラ、後方カメラ、右カメラおよび左カメラが取り付けられている。
そして、これら前方カメラ、後方カメラ、右カメラおよび左カメラにより撮像された映像を視点変換し、さらに画像合成して俯瞰画像を生成する。
このようにして生成された俯瞰画像は俯瞰画像表示画面へ表示され、運転操作の支援に活用される。
【0003】
このような車両周辺監視装置として、撮像部と、運転者に情報を提供する表示部とを有し、始動シーン選択部と、車速センサと、シフト位置検出部と、ウインカー検出部と、操舵角センサと、画面モード切替部とを備えたものが提供されている。
そして、この車両周辺監視装置は、ウインカーの情報やハンドル操舵角の情報により後側方の見せる領域を変更することが可能であり、特に、高速モード時にウインカー入力を検出した場合、ウインカー方向の合成画像を拡大表示する。
なお、前記撮像部は、車両に設置した複数のカメラ設置部に取り付けられた個々のカメラにより車両周囲を撮像し、前記表示部は運転者に情報を提供するものである。
また、前記始動シーン選択部は、複数の運転シーンの中からエンジン始動時に通常走行シーンを選択し、前記車速センサでは車速を検出し、前記シフト位置検出部ではシフト位置を検出するものである。
前記ウインカー検出部は、ウインカーの方向を検出し、前記操舵角センサはハンドルの操舵角を検出し、前記画面モード切替部では各センサおよび各検出部により検出された情報より表示画面構成を切り替える。(特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2002−109697号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
したがって、従来の車両周辺監視装置では、視点変換され画像合成された俯瞰画像上の境界付近の着目したい目標物、特に立体的な目標物に関しては、画像合成の処理段階において瞰映像上の境界で画像がほとんど表示されない状態が生じる。そのため、瞰映像上の境界付近の目標物が俯瞰画像表示画面上で見落とされてしまうという課題があった。
【0006】
本発明は、このような事情に鑑みてなされたものであり、俯瞰画像上で全体が表示されていない目標物に対し、俯瞰画像上の境界線を変更し全体を表示できるようにした車両周辺監視装置を提供することを目的とする。
また、自車両の予想経路上に位置している目標物を判定し適切な運転支援を行うことのできる車両周辺監視装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
請求項1に記載の発明は、車両の複数箇所に搭載され、それら箇所からそれぞれ異なる方向の車両周囲を撮像する複数の撮像装置と、前記各撮像装置で撮像した前記車両周囲の映像から前記車両を中心とする俯瞰画像を合成する俯瞰画像合成処理部と、前記俯瞰画像合成処理部により合成された俯瞰画像を表示する俯瞰画像表示手段と、前記俯瞰画像合成処理部により合成された俯瞰画像上の画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する特徴点抽出部と、前記俯瞰画像の時系列映像から前記特徴点抽出部で抽出した前記特徴点の前記俯瞰画像上での位置の変化を追跡する特徴点追跡処理部と、前記特徴点追跡処理部で追跡した前記特徴点の前記俯瞰画像上での位置の変化をもとに前記特徴点の三次元座標情報および前記車両との間の相対運動情報を含む特徴点情報を算出する三次元計測処理部と、前記三次元計測処理部で算出した前記特徴点情報をもとに、前記特徴点を抽出した画像が障害物であるか否かを判定する障害物検知処理部と、前記障害物検知処理部により検知した障害物の位置が前記複数の撮像装置が互いに共通する視野領域とする前記俯瞰画像上の共通領域に含まれるか否かを判定する障害物表示領域判定部と、前記障害物表示領域判定部で判定された前記共通領域に含まれる障害物についての前記特徴点の予想軌跡と、前記共通領域を互いに共通する前記視野領域とする各撮像装置に、前記予想軌跡で移動する前記障害物が“写る/写らない”の予測結果とをもとに、前記共通領域について前記障害物をより広範囲に写す撮像装置による部分俯瞰画像を優先させた俯瞰画像を前記俯瞰画像合成処理部に再合成させ、前記俯瞰画像表示手段に再表示させるカメラ画像優先処理部とを備えたことを特徴とする。
【0008】
請求項4に記載の発明は、車両の複数箇所に搭載され、それら箇所からそれぞれ異なる方向の車両周囲を撮像する複数の撮像装置と、前記各撮像装置で撮像した前記車両周囲の映像から前記車両を中心とする俯瞰画像を合成する俯瞰画像合成処理部と、前記俯瞰画像合成処理部により合成された俯瞰画像を表示する俯瞰画像表示手段と、前記俯瞰画像合成処理部により合成された俯瞰画像上の画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する特徴点抽出部と、前記俯瞰画像の時系列映像から前記特徴点抽出部で抽出した前記特徴点の前記俯瞰画像上での位置の変化を追跡する特徴点追跡処理部と、前記特徴点追跡処理部で追跡した前記特徴点の前記俯瞰画像上での位置の変化をもとに前記特徴点の三次元座標情報および前記車両との間の相対運動情報を含む特徴点情報を算出する三次元計測処理部と、前記三次元計測処理部で算出した前記特徴点情報をもとに、前記特徴点を抽出した画像が障害物であるか否かを判定する障害物検知処理部と、車速、ハンドル操作角、トランスミッションのシフト位置、アクセル開度の全てを含む前記車両の状態情報をもとに前記車両の予想経路の判定を行う予想経路判定処理部と、予想経路判定処理部で判定した前記車両の予想経路上に、障害物検知処理部で検知された障害物が位置しているか否かを判定する予想経路上障害物判定処理部と、前記予想経路上障害物判定処理部において前記車両の予想経路上に障害物が位置していると判定されると警報を出力する警報出力手段とを備えたことを特徴とする。
【発明の効果】
【0009】
本発明によれば、瞰映像上の境界付近に位置し俯瞰画像上で全体が表示されていない目標物に対し、俯瞰画像上の境界線を変更し全体を表示でき、適切な運転支援を行うことのできる車両周辺監視装置を提供できる効果がある。
また、自車両の予想経路上に位置している目標物を判定し適切な運転支援を行うことのできる車両周辺監視装置を提供できる効果がある。
【図面の簡単な説明】
【0010】
【図1】本発明の実施の形態である車両周辺監視装置の構成を示すブロック図である。
【図2】本発明の実施の形態の車両周辺監視装置の各カメラの撮像範囲と、これら撮像範囲の画像を視点変換し画像合成して生成された俯瞰画像を示す説明図である。
【図3】本発明の実施の形態の車両周辺監視装置における俯瞰画像の境界線を変更したときの俯瞰画像の一例を示す説明図である。
【図4】本発明の実施の形態の車両周辺監視装置における共通領域内に位置している障害物が予想経路内に含まれるときの俯瞰画像を示す説明図である。
【図5】本発明の実施の形態の車両周辺監視装置における障害物が共通領域外に位置してるときの俯瞰画像を示す説明図である。
【図6】本発明の実施の形態の車両周辺監視装置における障害物検知を説明するための対象物の三次元空間座標と俯瞰画像上の位置との関係を示す説明図である。
【図7】本発明の実施の形態の車両周辺監視装置における時刻tと時刻t+FΔtにおける俯瞰画像の一例を示す説明図である。
【図8】本発明の実施の形態の車両周辺監視装置における俯瞰画像から抽出した特徴点の動きをベクトルで示した説明図である。
【図9】本発明の実施の形態の車両周辺監視装置の動作を示すフローチャートである。
【図10】本発明の実施の形態の車両周辺監視装置の動作を示すフローチャートである。
【図11】本発明の実施の形態の車両周辺監視装置における自車両の正面を通過する接近移動物体を示す説明図である。
【図12】本発明の実施の形態の車両周辺監視装置における距離による障害物エリアAと、衝突予想時間による障害物エリアBとを示す説明図である。
【図13】本発明の実施の形態の車両周辺監視装置における三次元計測処理部および障害物検知処理部の動作を示すフローチャートである。
【図14】拘束行列に関する数式および行列を示す図である。
【図15】本発明の実施の形態の車両周辺監視装置における予想経路判定処理部において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部の動作説明図である。
【図16】本発明の実施の形態の車両周辺監視装置における予想経路判定処理部において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部および俯瞰画像表示部の動作説明図である。
【図17】本発明の実施の形態の車両周辺監視装置における予想経路判定処理部において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部および俯瞰画像表示部の動作説明図である。
【図18】偏微分A、Bの説明図である。
【発明を実施するための形態】
【0011】
以下、本発明の実施の形態について説明する。図1は、本発明の実施の形態である車両周辺監視装置の構成を示すブロック図である。この車両周辺監視装置は、前方カメラ1、後方カメラ2、右カメラ3および左カメラ4と、フレームメモリ11,12,13,14と、視点変換部21,22,23,24と、俯瞰画像合成処理部31を備えている。
また、特徴点抽出部41、特徴点追跡処理部42、三次元計測処理部43、障害物検知処理部44、障害物境界領域判定部45およびカメラ画像優先処理部46を備えている。
また、予想経路判定処理部51、予想経路上障害物判定処理部52、警告出力制御部53、警告音出力部54、ブザー55、俯瞰画像表示部56、ディスプレイ57および急加速抑制制御部59を備えている。
前方カメラ1は、例えば車両前部のフロントグリル中央に取り付けられて自車両の前方を撮像するカメラである。
後方カメラ2は、例えばリアウィンドウが設けられた車両後部に取り付けられて自車両の後方を撮像するカメラである。
右カメラ3は、例えば右側ドアミラーを支持するドアミラー支持部突端に取り付けられて車両の右側方を撮像するカメラである。
左カメラ4は、例えば左側ドアミラーを支持するドアミラー支持部突端に取り付けられて車両の左側方を撮像するカメラである。
フレームメモリ11は、前方カメラ1により撮像されデジタルデータに変換された画像信号をフレーム単位で一時的に記憶する。
フレームメモリ12は、後方カメラ2により撮像されデジタルデータに変換された画像信号をフレーム単位で一時的に記憶する。
フレームメモリ13は、右カメラ3により撮像されデジタルデータに変換された画像信号をフレーム単位で一時的に記憶する。
フレームメモリ14は、左カメラ4により撮像されデジタルデータに変換された画像信号をフレーム単位で一時的に記憶する。
視点変換部21は,前方カメラ1により撮像した画像の視点位置を、前方カメラ1の取り付け位置から自車両上方の仮想視点位置へ変換する。
視点変換部22は,後方カメラ2により撮像した画像の視点位置を、後方カメラ2の取り付け位置から自車両上方の仮想視点位置へ変換する。
視点変換部23は,右カメラ3により撮像した画像の視点位置を、右カメラ3の取り付け位置から自車両上方の仮想視点位置へ変換する。
視点変換部24は,左カメラ4により撮像した画像の視点位置を、左カメラ4の取り付け位置から自車両上方の仮想視点位置へ変換する。
俯瞰画像合成処理部31は、前方カメラ1により撮像され視点変換部21により視点変化された画像と、後方カメラ2により撮像され視点変換部22により視点変化された画像と、右カメラ3により撮像され視点変換部23により視点変化された画像と、左カメラ4により撮像され視点変換部24により視点変化された画像とを合成し、自車両を前記仮想視点位置から見たときの俯瞰画像を生成する。
【0012】
図2は、車両101に取り付けられた前方カメラ1、後方カメラ2、右カメラ3および左カメラ4により撮像される撮像範囲と、これら撮像範囲の画像を視点変換し画像合成して生成された、自車両101を中心としてモニタ装置のディスプレイ57に表示される俯瞰画像を示す説明図である。
図中、符号111は前方カメラ1による撮像範囲、符号112は後方カメラ2による撮像範囲、符号113は右カメラ3による撮像範囲、符号114は左カメラ4による撮像範囲を示す。
また、符号116は、前方カメラ1の撮像範囲と右カメラ3の撮像範囲とが重なっている領域である共有視野領域を示している。また、符号117は、右カメラ3の撮像範囲と後方カメラ2の撮像範囲とが重なっている共有視野領域を示している。また、符号118は、後方カメラ2の撮像範囲と左カメラ4の撮像範囲とが重なっている共有視野領域を示している。また、符号119は、左カメラ4の撮像範囲と前方カメラ1の撮像範囲とが重なっている共有視野領域を示している。
符号121は前方カメラ1の撮像範囲111の画像から視点変換部21により視点変換され前記モニタ装置のディスプレイ57に表示された前方部分俯瞰画像を示す。
符号122は後方カメラ2の撮像範囲112の画像から同様に視点変換され前記モニタ装置のディスプレイ57に表示された右側方部分俯瞰画像を示す。
符号123は右カメラ3の撮像範囲113の画像から同様に視点変換され前記モニタ装置のディスプレイ57に表示された後方部分俯瞰画像を示す。
符号124は左カメラ4の撮像範囲114の画像から同様に視点変換され前記モニタ装置のディスプレイ57に表示された左側方部分俯瞰画像を示す。
これら前方部分俯瞰画像121、右側方部分俯瞰画像123、後方部分俯瞰画像122および左側方部分俯瞰画像124は、自車両101を中心として前記仮想視点位置から自車両周囲を俯瞰したときの俯瞰画像として俯瞰画像合成部31により画像合成される。
また、図2において、符号126は前方部分俯瞰画像121と右側方部分俯瞰画像123とが重畳する共通領域、符号127は右側方部分俯瞰画像123と後方部分俯瞰画像122とが重畳する共通領域、符号128は後方部分俯瞰画像122と左側方部分俯瞰画像124とが重畳する共通領域、符号129は前方部分俯瞰画像121と左側方部分俯瞰画像124とが重畳する共通領域を示す。
【0013】
図1に戻り、特徴点抽出部41は、俯瞰画像合成処理部31により合成した前記俯瞰画像に対し、たとえば画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する。
特徴点追跡処理部42は、前記俯瞰画像の時刻変化に伴う特徴点の移動位置の変化を追跡する。
三次元計測処理部43は、前記俯瞰映像上における前記特徴点の移動位置の変化からその特徴点の相対運動情報および三次元座標情報を算出する。
この相対運動情報および三次元座標情報は、次に示す俯瞰画像上の対象物体の動きをモデル化した式(1)、(2)を用いて算出する。
【0014】
【数1】
【0015】
【数2】
【0016】
障害物検知処理部44は、前記算出した相対運動情報および三次元座標情報をもとに障害物を判定する。この障害物の判定は、自車両に対する距離による障害物エリアと、衝突予想時間による障害物エリアとにおける特徴点から障害物の検知を行う。
【0017】
障害物表示領域判定部45は、障害物検知処理部44により検知した障害物の位置が図2で説明した俯瞰画像の共通領域126,127,128,129に含まれるか、さらに前記共通領域のうちのどの共通領域に入っているかを判定する。
カメラ画像優先処理部46は、前記共通領域の特徴点について三次元計測処理部43で算出された相対運動情報および三次元座標情報をもとに、一定の経過時間を想定したときの前記特徴点の予想軌跡を求める。
そして、この予想軌跡で前記障害物が移動したときの、障害物表示領域判定部45で判定した前記共通領域を互いに視野領域とするカメラ、たとえは共通領域129であれば前方カメラ1と左カメラ4のように撮像範囲が重畳する各カメラに写る/写らないの予測結果を得る。
さらに、前記共通領域について、前記障害物をより広範囲に写すカメラの部分俯瞰画像を優先させ、俯瞰画像合成処理部31に俯瞰画像を画像合成させる。
予想経路判定処理部51は、車速、ハンドル操作角、トランスミッションのシフト位置およびアクセル開度の各パラメータの全て、あるいは前記各パラメータのいずれか1つを含む自車両の状態情報をもとに自車両の予想経路の判定を行う。
予想経路上障害物判定処理部52は、予想経路判定処理部51で判定した自車両の予想経路上に、障害物検知処理部44で検知された障害物が位置しているか否かを判定する。
警告出力制御部53は、予想経路上障害物判定処理部52において自車両の予想経路上に障害物が位置していると判定されると、警告音出力部54へ警報音の出力を指示する警報音出力制御信号を出力する。
また、俯瞰画像を表示してるモニタ装置のディスプレイ57へ自車両の予想経路上に障害物が位置している旨の警告表示を行うための警告表示制御信号を俯瞰画像表示部56へ出力する。
警告音出力部54は、前記警報音出力制御信号をもとにブザー55を動作させて警報音を出力させる。
俯瞰画像表示部56は、俯瞰画像合成処理部31で合成した俯瞰画像をディスプレイ57へ表示し、また警告出力制御部53から出力される前記警告表示制御信号をもとに、ディスプレイ57へ警告表示を行う。
急加速抑制制御部59は、予想経路上障害物判定処理部52で自車両の予想経路上に障害物が位置していると判定されたときに急激なアクセル操作があると急加速を抑制する急加速抑制要求をエンジンECU60へ出力してエンジンを制御させ、急加速を抑制させる。
この急激なアクセル操作の検出は、たとえば、次のように実現することができる。
すなわち、アクセル開度の変化率がある基準値を超えるか否かを判定し、前記アクセル開度の変化率がある基準値を超えると急加速アクセル操作判定信号を出力するセンサ回路をアクセル操作検出手段として設ける。
あるいは、アクセル操作検出手段としてキックダウンスイッチの出力をもとに急激なアクセル操作があったか否かを検出することも可能である。
視点変換部21,22,23,24および俯瞰画像合成処理部31、特徴点抽出部41、特徴点追跡処理部42、三次元計測処理部43、障害物検知処理部44、障害物表示領域判定部45は、マイクロコンピュータを主要な構成とするECUにより実現される。
また、カメラ画像優先処理部46、予想経路判定処理部51、予想経路上障害物判定処理部52、警告出力制御部53、俯瞰画像表示部56および急加速抑制制御部59は、マイクロコンピュータを主要な構成とするECUにより実現される。
このECUは、前方カメラ1、後方カメラ2、右カメラ3および左カメラ4により撮像した画像の視点変換処理および画像合成処理を含む、この車両周辺監視装置特有の機能を実現するための各種処理を行う。
【0018】
ここで、三次元計測処理部43、障害物検知処理部44により障害物を検知するときの俯瞰映像上の3次元物体の動きモデルを示す式(2)の導出と、式(2)から式(3)の導出について説明する。
【0019】
【数3】
【0020】
図6に示すように、特徴点pの3次元実空間上の位置ベクトルXpを[Xp ,Yp ,Zp ]T とし、時刻tにてカメラは[0,0,H]の位置にあるとする。ここで,Hはカメラの路面に対する高さである。
特徴点pの俯瞰映像上の位置ベクトルxp を[xp ,yp ,0]T としたとき、ベクトルXp=[Xp ,Yp ,Zp ]T とベクトルxp =[xp ,yp ,0]T との間には式(1)が成立する。
ここでkp =H/(H−Zp )とおけば、式(1)は以下に示す式(4)のように書き換えることができる。
【0021】
【数4】
【0022】
一方、真の俯瞰映像とはカメラは無限の高さにあるときで(H=∞)、kp =1となり、式(4)より、式(5)のようになる。
【0023】
【数5】
【0024】
つまり、俯瞰映像に映る特徴点位置ベクトルxp =[xp ,yp ,0]T は、真の俯瞰映像の位置[Xp ,Yp ,0]T に対して、カメラ高と特徴点の高さに応じた係数kp だけ乗じたものである。
今、対象物pはカメラに対して、時刻tにおいて3次元実空間ではベクトルXp=[Xp ,Yp ,Zp ]T の位置にあり、ヨーレートω、相対速度VX 、VY の相対運動で移動していたとする。なお、バウンシング・ロール・ピッチング運動はなかったとする。
このとき、時刻t+Δtでの対象物pの3次元実空間上の位置ベクトルXp(t+Δt)=[Xp (t+Δt),Yp (t+Δt),Zp (t+Δt)]T は、以下のように式(6)で与えられる。
【0025】
【数6】
【0026】
式(6)より、バウンシング・ロール・ピッチング運動がなかったとすれば、Zp (t)=Zp (t+Δt)であり、kp =H/(H−Zp )より、係数kp は時間によらず一定となる。式(6)は以下のように式(7)のように書き換えることができる。
【0027】
【数7】
【0028】
ところで、時刻tとt+Δtでの対象物pの俯瞰映像上の位置ベクトルxp =[xp (t),yp (t),0]T 、ベクトルxp =[xp (t+Δt),yp (t+Δt),0]T は、係数kp は時間によらず一定となるため、式(5)より以下の式(8)のように与えられる。
【0029】
【数8】
【0030】
時刻t+Δtでの対象物pの俯瞰映像上の位置ベクトルxp (t+Δt)=[xp (t+Δt),yp (t+Δt),0]T を、式(7),(8)に代入すると、式(9)に示すようになる。
【0031】
【数9】
【0032】
この結果、時刻tとt+Δtでの対象物pの俯瞰映像上の位置ベクトルxp (t)=[xp (t),yp (t),0]T 、ベクトルxp (t+Δt)=[xp (t+Δt),yp (t+Δt),0]T には、以下の関係式(10)が成立する。
【0033】
【数10】
【0034】
さて、対象物pのカメラに対する相対運動は、実際には対象物pは静止物であり、カメラが移動して生じたものとする。つまり、自車両の動きによって生じたものとする。また、俯瞰映像に映る静止物中の特徴点は、対象物pの他に、全部でP個あったとする。
このとき、静止物に対する相対運動は共通であるため、時刻tとt+Δtでの特徴点の俯瞰映像上の位置ベクトルxp (t)=[xp (t),yp (t),0]T 、ベクトルxp (t+Δt)=[xp (t+Δt),yp (t+Δt),0]T 、1<p<Pは式(10)より以下のように式(11)で与えられる。
【0035】
【数11】
【0036】
式(11)は以下のように式(12)に書き換えることができる。
【0037】
【数12】
【0038】
ここで、次に示す式(13)、式(14)であり、ベクトルm(t+Δt)、n(t+Δt)およびcx (t+Δt)、cy (t+Δt)は時刻tから時刻t+Δtでのカメラと対象物との回転運動と併進運動の相対運動を示し、ベクトルsp (t)は式(4)から実質上は時刻tでの特徴点pの3次元実空間上の位置と見なすことができる。
【0039】
【数13】
【0040】
【数14】
【0041】
ところで、時刻tから時刻t+2Δtでのカメラと対象物との相対運動情報m(t+2Δt)、n(t+2Δt)、cx (t+2Δt)、cy (t+2Δt)を得たならば、時刻t+2Δtでの、俯瞰映像上の特徴点の位置ベクトルxp (t+2Δt)=[xp (t+2Δt),yp (t+2Δt),0]T 、1<p<Pは式(12)より、以下のように式(15)で与えられる。
【0042】
【数15】
【0043】
式(12)、(15)をまとめると、次に示す式(16)となる。
【0044】
【数16】
【0045】
今、時間間隔Δtで時刻tからt+FΔtにわたり、俯瞰映像上において、全部でP個の特徴点の位置が観測されたとする。なお、この観測は特徴点抽出・追跡にて行う。すると式(16)を拡張して、以下の関係式(17)が得られる。
【0046】
【数17】
【0047】
式(17)が俯瞰映像上の3次元物体の動きの数式モデルである。
なお、式(17)は以下に示す式(18)のように行列の積として書き換えることができる。
【0048】
【数18】
【0049】
ここで、行列W、M、Sは以下に示す式(19)のように与えられ、行列Wは特徴点抽出・追跡で得られた時刻tからt+FΔtの俯瞰映像上の各特徴点の位置を示し、行列Mは時刻tからt+FΔtの相対運動を示し、行列Sは時刻tでの各特徴点の3次元実空間上の位置を示す。
【0050】
【数19】
【0051】
式(18)の関係式を利用して、俯瞰映像上の特徴点の位置の変化から、相対運動と3次元実空間の位置を得る。
【0052】
次に、モデル推定方法の概略について説明する。
式(18)に示すW=MSより、俯瞰映像上の特徴点の位置の変化を示す行列Wから、相対運動を示す行列Mと3次元形状を示す行列Sに分割するには以下の手順で行う。
式(19)より、行列Wは2F×Pの大きさの行列である。行列Mは、ベクトルm、nが2次元であるため2F×3の大きさの行列であり、行列Sはベクトルsが3次元であるため3×Pの大きさの行列である。つまり、行列Wは階数3の行列である。そこで、以下のように、一旦、行列Wに対して特異値分解を行う。
【0053】
【数20】
【0054】
ここで、Uは2F×Hの直交行列、ΣはH×Hの対角行列、VT はH×Pの直交行列であり、HはH=min{2F,P}と与えられる。また、Σの対角要素は
σ1 >σ2 >…σp と降順に並んでいるとする。
行列Wは階数3の行列となるため、σ4 以降はノイズ成分とみなせることより、式(21)に示すように行列Uの3列分を抽出する。
【0055】
【数21】
【0056】
ここから、式(22)に示すように仮の分解結果を得ることができる。
【0057】
【数22】
【0058】
次に拘束行列の計算を行う。式(22)の分解結果は図14の(式1)を満たすが、得られた図14の行列(1)は、一般には図14の(式2)を満たさない。例えば、適当な3×3の大きさの行列Aを用いて、図14の(行列1)を以下に示す式(23)のように変換しても、W=MSを満たしてしまう。つまり、行列Aを適切に選択する必要がある。
【0059】
【数23】
【0060】
行列Aを適切に選択するため、以下の拘束条件を導入する。
(a)回転成分の拘束条件
式(19)より行列Mは以下の式(24)で示すように構成される。
【0061】
【数24】
【0062】
ここで、ベクトルmnは式(13)を例に示すとおり、回転成分を示すため、以下の拘束条件が存在する。
【0063】
【数25】
【0064】
(b)路面の拘束条件
式(19)より行列Sは以下のように構成される。
【0065】
【数26】
【0066】
また、ベクトルSP (t)は式(14)よりSP (t)=[xp (t) yp (t) kp ]T であり、kp はkp =H/(H-Zp )と与えられる。ここで、kp はZp <Hの条件で、Zp が増加すれば、kp も増加する。つまり対象物がカメラより下にある限り、対象物が高ければ高いほど、kp は大きな値を有する。
kp が最小となるのは、対象物が路面にあるとき、つまりZp =0であり、そのときkp =1となる。俯瞰映像は常時路面を撮影しているため、俯瞰映像上には、kp =1を満たす特徴点が必ず存在する。すなわち、kp に対して以下の拘束条件が存在する。
【0067】
【数27】
【0068】
以上、式(25)および式(27)を満たすように、行列Aを定めればよい。
【0069】
次に動作について説明する。
図6は、この実施の形態の車両周辺監視装置における障害物検知を説明するための対象物の三次元空間座標と俯瞰画像上の位置との関係を示す説明図である。
図6に示すように、カメラ201はz軸上の高さHの位置に配置されている。図6において、符号300は対象物を示しその三次元空間座標は[Xp ,Yp ,Zp ]Tである。また、符号301は俯瞰画像上の対象物映像であり、その三次元空間座標は[xp ,yp ,0]Tである。また、符号302は撮像された対象物が含まれた平面的な俯瞰映像を示している。
対象物と自車両とが相対速度[VX,VY]T、ヨーレートωで相対運動をしていたとき、上述した式(2)で示す関係が成立する。
式(2)のベクトルm(t+Δt)、n(t+Δt)は相対速度とヨーレートとを格納する相対運動であり、ベクトルSPは上述した式(1)から、特徴点Pの三次元座標への変換が一意に可能である。
この実施の形態では、式(1)および式(2)の関係を用いて、俯瞰画像上の特徴点Pを三次元座標へ変換し、自車両に対する立体物を判定して障害物の検知を行う。そして、前記検知した障害物が前記俯瞰画像上の前記共通領域内にあってその画像が俯瞰画像上で全体表示されていない場合、前記障害物の予想軌跡から前記障害物をより広範囲に写すことのできるカメラの画像を優先させ、前記障害物全体が表示されるように前記俯瞰画像の境界線を変更し、俯瞰画像を再表示する。
また、前記検知した障害物が自車両の予想経路上にあるか否かを判定し、予想経路上にある場合には表示や音で注意喚起し、さらに急なアクセル操作があると急加速を抑制するエンジン制御を実現する。
【0070】
以下、図9に示すフローチャートを参照し、この実施の形態の車両周辺監視装置における障害物の検知と、前記障害物全体が表示されるように前記俯瞰画像の境界線を変更し、俯瞰画像を再表示するときの動作について説明する。
図2に示すように前方カメラ1、後方カメラ2、右カメラ3および左カメラ4によりそれぞれ撮像された画像は、視点変換部21,22,23,24により視点変換され、さらに俯瞰画像合成処理部31により画像合成され俯瞰画像が生成される。この俯瞰画像は、一定の時間間隔Δtごとに生成され俯瞰画像合成処理部31から出力される(ステップS1)。俯瞰画像合成処理部31から出力された俯瞰画像は俯瞰画像表示部56によりディスプレイ57へ表示出力される。一方、また、俯瞰画像合成処理部31から出力された俯瞰画像は特徴点抽出部41へ供給され特徴点Pが抽出される(ステップS2)。特徴点抽出部41における特徴点Pの抽出は、たとえば画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点Pとして抽出する。
【0071】
図7は、この実施の形態の車両周辺監視装置における時刻tと時刻t+FΔtにおける俯瞰画像の一例を示す説明図である。図7において符号Pは特徴点抽出部41において抽出される特徴点を示している。
図7(A)、(B)に示されているように、特徴点抽出部41において抽出された特徴点Pがどのような動きをするかを特徴点追跡処理部42において追跡処理する。
この特徴点追跡処理部42の追跡処理は次のように行う。
つまり、図7(A)に示す時刻tにおける俯瞰画像上の特徴点Pと、同図(B)に示す時刻t+FΔtにおける俯瞰画像上の特徴点Pとの位置関係から、特徴点Pがどのような動きをしてどのような位置へ移動したかを追跡処理する(ステップS3)。
この特徴点Pの追跡処理では、特徴点Pのオプティカルフローを計算することで、その動きベクトルを求める。
図8は、図7に示す俯瞰画像から抽出した特徴点の動きベクトルを示す説明図である。
特徴点Pのオプティカルフローの計算処理は次のように行う。
所定の周期、時間間隔で撮像された前記俯瞰画像上の、互いに共通する特徴点Pの座標変化を検出し、その特徴点Pが移動しているか否か、座標が変化している場合には、特徴点Pの移動、座標変化の向きとその大きさがどの程度かをそれぞれ計算する。
【0072】
次に、三次元計測処理部43において、式(2)を用いて俯瞰画像上の特徴点Pの位置の変化から自車両と特徴点Pとの相対運動情報と、前記特徴点Pの三次元座標情報を算出する(ステップS4)。
さらに、障害物検知処理部44において、前記三次元計測処理部43で算出した前記相対運動情報と前記三次元座標情報とから障害物を検知する(ステップS5)。
【0073】
ここで、三次元計測処理部43の三次元計測処理および障害物検知処理部44の障害物検知処理についてさらに説明する。
図12は、俯瞰画像から得られた立体物の三次元情報と相対運動情報とから検知した自車両101に対する距離による障害物エリアAと、衝突予想時間による障害物エリアBとを示す説明図である。
図13は、この実施の形態の車両周辺監視装置における三次元計測処理部43、障害物検知処理部44および予想経路判定処理部51の動作を示すフローチャートである。
図15は予想経路判定処理部51において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部53の動作説明図である。
図16、図17は、予想経路判定処理部51において判定される自車両の予想経路、特徴点の予想軌跡に応じた警告出力制御部53および俯瞰画像表示部56の動作説明図である。
三次元計測処理部43の三次元計測処理では、俯瞰画像上の特徴点の三次元座標情報と、前記特徴点と自車両11との相対運動情報とを前述したように式(1)および式(2)から算出する(ステップS41)。
この特徴点の三次元座標情報は、三次元位置行列Sとして求められ(ステップS42)、また前記特徴点と自車両101との相対運動情報とは、相対運動行列Mとして求められる(ステップS43)。
そして、三次元位置行列Sとして求めた特徴点の三次元座標情報に対してはz軸方向の高さによる閾値処理を行う(ステップS44)。
この閾値処理では、z軸方向の高さ情報が零でなくある値を有している特徴点を所定の高さ基準値をもとに障害物候補特徴点とし(ステップS45)、またz軸方向の高さ情報が零である特徴点を非障害物特徴点とする(ステップS46)。
そして、前記障害物候補特徴点については、その特徴点の三次元座標情報をもとに自車両101との間の距離が明らかになることから、自車両101と障害物候補特徴点との間の距離に対し所定の距離基準値をもとに閾値処理を行う(ステップS47)。そして、遠距離障害物特徴点と近距離障害物特徴点とに識別を行う(ステップS48、ステップS49)。
近距離障害物特徴点として識別した特徴点は、例えば図12に示す障害物エリアAに含まれる特徴点である。
【0074】
また、遠距離障害物特徴点として識別した特徴点については、ステップS43において求めた相対運動行列Mをもとに、衝突予想時間に対し所定の衝突予想時間基準値をもとに閾値処理を行う(ステップS51)。そして、低危険度障害物特徴点と早期到達障害物特徴点とに識別する(ステップS52、ステップS53)。
早期到達障害物特徴点は、例えば図12に示す障害物エリアBに含まれる特徴点である。
続くステップS61、ステップS62、ステップS71、ステップS72、ステップS81は予想経路判定処理部51における自車両の予想経路、特徴点の予想軌跡の判定処理を示している。
予想経路判定処理部51では自車両の予想経路、特徴点の予想軌跡の判定結果をもとに警告を出力するか否か、どのカメラの画像を優先させ、俯瞰画像の境界線を変更するかを判定する。
警告出力制御部53では、図15に示すように予想経路判定処理部51の前記判定結果をもとに警告出力の制御を行い、俯瞰画像表示部56では、図16、図17に示すように予想経路判定処理部51の前記判定結果をもとに俯瞰画像の境界線を変更する。
すなわち、予想経路判定処理部51は、自車両の車速、ハンドル操作角、トランスミッションのシフト位置の全てを含む状態情報と、前記三次元計測処理部43で算出された前記特徴点の相対運動情報とをもとに、自車両の予想経路および前記特徴点の予想軌跡の判定を行い、予想経路上障害物判定処理部52は、予想経路判定処理部51で判定した自車両の予想経路上に、同じく予想経路判定処理部51で予想軌跡が判定され、障害物検知処理部44で障害物として検知された特徴点が位置しているか否かを判定する。
【0075】
また、図17に示すように、特徴点、障害物が同じ相対運動であっても、特徴点、障害物と自車両との位置関係によって警告を出力するか否か、俯瞰画像の境界線の変更についての判定結果は異なってくる。
したがって、予想経路判定処理部51は、自車両の車速、ハンドル操作角、トランスミッションのシフト位置の全てを含む状態情報と、三次元計測処理部43で算出された前記特徴点の相対運動情報と、自車両と前記特徴点との位置関係とをもとに、自車両の予想経路および前記特徴点の予想軌跡の判定を行い、予想経路上障害物判定処理部52は、予想経路判定処理部51で判定した自車両の予想経路上に、同じく予想経路判定処理部51で予想軌跡が判定され、障害物検知処理部44で障害物として検知された特徴点が位置しているか否かを判定する。
【0076】
図9のフローチャートに戻り、前記検知した障害物について障害物表示領域判定部45により俯瞰画像上の前記障害物が、図2に示す共通領域126,127,128,129のうちのどの共通領域に含まれているかを、前記障害物の特徴点から判定する(ステップS6)。
障害物表示領域判定部45により、前記障害物の特徴点が共通領域126,127,128,129のいずれかの共通領域、たとえば共通領域129に含まれていると判定されると、カメラ画像優先処理部46は、次のように動作する。
カメラ画像優先処理部46は、三次元計測処理部43において算出した自車両と前記障害物の特徴点Pとの相対運動情報と、前記障害物の特徴点Pの三次元位置情報とから、時間Δtが経過したときの前記障害物の特徴点Pの三次元位置、予想軌跡を算出する。
そして、前記障害物の特徴点が含まれていると判定された共通領域129を互いに共通する視野領域とする前方カメラ1と左カメラ4について、前記算出した三次元位置において前記障害物が写っているか否かを一定の経過時間を想定して前記障害物の特徴点について判定する。
そして、前記想定した一定の経過時間での前方カメラ1にしか写っていない前記特徴点の重み付け平均と、左カメラ4にしか写っていない前記特徴点の重み付け平均との大小関係から、前記障害物をより広範囲に写すことのできるカメラの画像を決定する。
さらに、前記障害物全体が表示されるように、前記俯瞰画像の共通領域について前記決定したカメラの画像を優先させ、俯瞰画像の境界線を変更する(ステップS7)。
そして、俯瞰画像合成処理部31において前記障害物の全体が含まれる俯瞰画像を再表示する(ステップS8)。
【0077】
図3は、俯瞰画像上で障害物の全体が表示されない場合、前記障害物全体が表示されるように前記俯瞰画像の境界線を変更したときの、俯瞰画像の一例を示す説明図である。
図3(A)は障害物の全体が表示されていない俯瞰画像を示し、符号131は全体が表示されていない障害物を示している。
前方カメラ1には全体像がほとんど写らないが、左カメラ4にはその全体像が写る共通領域129に障害物があるとき、一例を示すと図2で符号132で示す位置に障害物が位置している場合について説明する。
このとき、俯瞰画像の境界線で規定される各領域の配置形態が図3(A)に示す構成であると障害物131は俯瞰画像上にその一部が表示されるだけである。
なお、前記俯瞰画像の境界線で規定される各領域とは、図2の前方部分俯瞰画像121、後方部分俯瞰画像122、右側方部分俯瞰画像123、左側方部分俯瞰画像124の領域である。
このような現象は、図2の符号116,117,118,119で示す共有視野領域の周辺の障害物131の位置と、このときの前記部分俯瞰画像の各領域の配置形態とに応じて発生し、図3に示すように障害物131は俯瞰画像上にその一部が表示されるだけとなる。
このため、図2に示す前記共有視野領域をカバーする前記共通領域126,127,128,129に障害物131が位置していると、自車両と前記障害物の特徴点Pとの相対運動情報、前記障害物の三次元位置情報をもとに求めた、一定の経過時間を想定したときの予想軌跡から前記障害物の予想位置を算出する。
そして、前記算出した予想位置の前記障害物が前記共通領域を互いに共通する視野領域とする各カメラに写るか写らないかの予測結果から、前記共通領域について、前記障害物をより広範囲に写すことのできるカメラの部分俯瞰画像を決定する。
さらに、前記共通領域について前記決定したカメラの部分俯瞰画像を優先させ、俯瞰画像を再表示する。
この結果、前方部分俯瞰画像121、後方部分俯瞰画像122、右側方部分俯瞰画像123、左側方部分俯瞰画像124の配置形態が変更され、前記共通領域129について前記障害物をより広範囲に写すことのできる左カメラ4の部分俯瞰画像が優先され、図3(B)に示すように前記障害物の全体が含まれる俯瞰画像が再表示される。
つまり、図3(A)の前記部分俯瞰画像の各領域の配置形態では障害物131はその一部しか俯瞰画像に表示されていないのに対し、同図(B)では障害物131はその全体が表示される。
すなわち、自車両と前記障害物の特徴点Pとの相対運動情報、前記障害物の三次元位置情報をもとに一定の経過時間について想定した前記障害物の予想軌跡から、前記共通領域を互いに共通する視野領域とする各カメラについて“障害物131を写せる”、あるいは“写せない”を予測する。
そして、前記共通領域について、前記予測結果から“障害物131をより広範囲に写せる”と予測したカメラの部分俯瞰画像を優先させ、俯瞰画像の境界を変更する。
【0078】
ここで、俯瞰画像の境界線を変更するためのカメラ画像優先処理についてさらに説明する。
このカメラ画像優先処理は、共通領域に位置する障害物と判定された画像から抽出された複数の特徴点に対し、その予想軌跡、時刻変化をもとに、前記共通領域を互いに共通する視野領域とする各カメラについて“前記特徴点が写る/写らない”を予測し、その予測結果を得る。
前記予想軌跡、時刻変化は、三次元計測処理部43において得られた相対運動情報による一定の経過時間を想定したときの予想軌跡と時刻変化である。
そして、この予測結果から、前記特徴点が抽出された障害物131の全体像、あるいは、より広範囲に前記障害物を写している左カメラ4による左側方部分俯瞰画像124を優先させ、フィードフォワード的に俯瞰画像の繋ぎ目、境界線を変更する。
このための処理手順は次のようなものである。
まず、特徴点iがカメラAとカメラBの共有視野範囲にあるとして、三次元計測結果から特徴点iの三次元位置をベクトルXi =[Xi ,Yi ,Zi ]とし、ベクトルV=[Vx ,Vy ],ωを相対速度およびヨーレートとする(ステップS21)。次に、相対運動情報V,ωと三次元位置から、計測してから時間tだけ経過したときの特徴点iの三次元位置ベクトルX´i (t)=[X´i (t),Y´i (t),Z´i (t)]を求める(ステップS22)。
さらに、時刻tでの特徴点iの三次元座標ベクトルX´i (t)から、時刻tでのカメラAおよびカメラBによる特徴点iの俯瞰画像上の位置ベクトルx(a)i (t),ベクトルx(b)i (t)を求める(ステップS23)。
そして、ベクトルx(a)i (t),ベクトルx(b)i (t)から、特徴点iがカメラA、カメラBの俯瞰画像に映っているかいないかを判定し、式(28)、(29)で示す関数Ra (ベクトルx(a)i (t)),Rb (ベクトルx(b)i (t))を得る(ステップS24)。ここで関数Ra (ベクトルx(a)i (t)),Rb (ベクトルx(b)i (t))は見えやすさに応じて“0”以上“1”以下の実数を与えてもよい。
次に、関数Ra (ベクトルx(a)i (t)),Rb (ベクトルx(b)i (t))から、特徴点iがカメラAにしか映っていないことを示す式(30)で示す関数Sa (ベクトルx(a)i (t))と、カメラBにしか映っていないことを示す式(31)で示すSb (ベクトルx(b)i (t))を得る(ステップS25)。
続いて、関数Sa (ベクトルx(a)i (t))とSb (ベクトルx(b)i (t))とから、式(32)で示す計測してから時間T経過するまでのカメラAにしか映っていない特徴点数の重み付け平均Na と、式(33)で示すカメラBにしか映っていない特徴点数の重み付け平均Nb を求める。ここでw(t)はw(0)=1,w(T)=0を満たす、時間経過に応じて減少する重み関数である(ステップS26)。
そして、Na とNb の大小関係から、Na >Nb のとき共通領域にはカメラAの俯瞰画像を使用する。また、Na =Nb のとき共通領域にはカメラAとカメラBのうちのデフォルト値として定めたカメラの俯瞰画像を使用する。また、Na <Nb のとき共通領域にはカメラBの俯瞰画像を使用する。
なお、共通領域はカメラA、カメラBの俯瞰画像の輝度の重み付け合成するようにしてもよい。すなわち、Na /Nb >kのとき共通領域はカメラAの俯瞰画像を適用する。また、1/k≦Na /Nb ≦kのとき共通領域はカメラA、カメラBの俯瞰画像の重み付け平均を適用する。この俯瞰画像の重み付け平均は、式(34)、式(35)に示すようになる。このときIa がカメラAの俯瞰画像、Ib がカメラBの俯瞰画像であり、kはk>1を満たす適当な定数であり、Iは合成後の俯瞰画像である。また、Na /Nb <1/kのとき共通領域はカメラBの俯瞰画像を適用する。
【0079】
次に、図10に示すフローチャートを参照し、自車両の予想経路上に障害物があるときの警告表示あるいは警告音による注意喚起と、急なアクセル操作に対する急加速抑制動作について説明する。
なお、図10において図9と同一または相当の処理については同一の符号を付し説明を省略する。
ステップS1、ステップS2、ステップS3、ステップS4およびステップS5の各処理については図9の説明と同等である。
続く予想経路判定処理では、予想経路判定処理部51において自車両の車両情報から一定の時間Δt経過後の自車両101の位置、車速、進行方向、向きを含む状態情報、車両101の予想軌跡を計算し、予想経路151を判定する(ステップS16)。
なお、前記車両情報は、現在の車速、ハンドル操作角、トランスミッションのシフト位置、アクセル開度、車両寸法の全て、あるいはいづれか1つを含む。
続いて予想経路上障害物判定処理部52において、障害物検知処理部44で検知した障害物について前記予想経路151上にあるか否かを判定する(ステップS17)。
この予想経路上にあるか否かの判定は、三次元計測処理部43において前記障害物の特徴点の三次元位置情報が得られていることから、この特徴点の三次元位置情報が前記予想経路151内に含まれるか否かを判定することで可能になる。
【0080】
図4は、共通領域内に位置している障害物が予想経路151内に含まれるときの俯瞰画像を示す説明図である。
図4に示すように、障害物131が共通領域129内に位置していると、カメラ画像優先処理部46は前記共通領域129にある特徴点に対し、三次元計測処理部43において得られた相対運動情報をもとに一定の経過時間を想定したときの予想軌跡を求める。
そして、時刻変化をもとに、前記共通領域129を互いに共通する視野領域とする各カメラについて“障害物131を写せる”、あるいは“写せない”との予測結果を得る。
さらに、前記障害物131の全体像が映し出されるように、前記予測結果をもとに、前記各カメラについて前記障害物131をより広範囲に写すことの出来るカメラを決定する。
図4に示す例では、共通領域129を互いに共通する視野領域とするカメラは前方カメラ1と左カメラ4であり、障害物131をより広範囲に写すことの出来るカメラは左カメラ4である。
そして、前記共通領域の俯瞰画像として左カメラ4による左側方部分俯瞰画像124を優先させる。
図4に示す俯瞰画像では、さらに障害物131が予測経路151内に位置していると、予想経路上障害物判定処理部52において障害物が予想経路151上にあると判定され、警告出力制御部53は、警告音出力部54によりブザー55を駆動させ警報音を出力する。
さらに、警告出力制御部53は、俯瞰画像表示部56によりディスプレイ57へ警告を表示させる(ステップS18)。
【0081】
図5は、障害物が共通領域外に位置しているときの俯瞰画像を示す説明図である。
図5に示すように障害物が共通領域内に位置していないときには俯瞰画像の境界線の変更は行われず、また警告表示や警告音も出力されない。
続いて、急激なアクセル操作が行われたか否かを判定する(ステップS19)。
この急激なアクセル操作の判定は、たとえばアクセル開度の変化率がある基準値を超えるか超えないかを検出し、前記アクセル開度の変化率がある基準値を超えると急加速アクセル操作判定信号を出力するセンサ回路(アクセル操作検出手段)により実現可能である。
あるいは、キックダウンスイッチの出力をもとに検出することも可能である。
そして、障害物検知処理部44で検知した障害物が予想経路151上にあると判定されると、急加速抑制制御部59は、前記センサ回路から出力された急加速アクセル操作判定信号をもとにエンジンECU60へ急加速抑制要求を出力し、車両の急加速を抑制する(ステップS20)。
この結果、障害物が予想経路151上にあると急激なアクセル操作が行われても車両の急加速が抑制される。
【0082】
ここで特徴点抽出処理部41における特徴点Pの抽出についてさらに説明を行う。
図11は、俯瞰画像上の画像の一例を示す説明図である。
例えばカメラによって撮像された俯瞰画像上の画像が図11に示すように画像データの左上を原点として横軸をx軸、縦軸をy軸と定めた座標上にあるものとする。
まず特徴点抽出処理部3は、図18に示すように画像Iのx軸およびy軸方向に対する偏微分Aおよび偏微分Bをそれぞれ求める。次いでこの画像Iでの全ての画素における空間配列行列を求める。
そして特徴点抽出処理部4は、空間配列行列に対する固有値λmin(p)およびλmax(p)を計算し、特徴を有すると認められる所定の値を抽出して特徴点と定める。
【0083】
次いで上述したようにして得られた俯瞰画像上の画像における特徴点の時間変化を特徴点追跡処理部42が追跡する。
【0084】
従ってこの実施の形態の車両周辺監視装置では、自車両と前記障害物の特徴点Pとの相対運動情報、前記障害物の三次元位置情報をもとに決定した、障害物131全体を写し出すカメラの部分俯瞰画像を優先させた俯瞰画像上へ、本来ほとんど表示されなかった共通領域に位置する障害物の全体像を表示できる。
【0085】
この実施の形態によれば、予想経路上に障害物が位置していると、俯瞰画像上で前記障害物を検知し、視覚的あるいは聴覚的に表示や音で運転者に注意を喚起し、さらに急なアクセル操作があると急加速を抑制するエンジン制御を実現できる。
【符号の説明】
【0086】
1……前方カメラ(撮像装置)、2……後方カメラ(撮像装置)、3……右カメラ(撮像装置)、4……左カメラ(撮像装置)、21,22,23,24……視点変換部、31……俯瞰画像合成処理部、41……特徴点抽出処理部、42……特徴点追跡処理部、43……三次元計測処理部、44……障害物検知処理部、45……障害物表示領域判定部、46……カメラ画像優先処理部、51……予想経路判定処理部、52……予想経路上障害物判定処理部、53……警告出力制御部(警報出力手段)、54……警告音出力部(警報出力手段)、55……ブザー(警報出力手段)、57……ディスプレイ(警報出力手段)、56……俯瞰画像表示部(俯瞰画像表示手段)、59……急加速抑制制御部、60……エンジンECU、101……自車両(車両)、131……障害物。
【特許請求の範囲】
【請求項1】
車両の複数箇所に搭載され、それら箇所からそれぞれ異なる方向の車両周囲を撮像する複数の撮像装置と、
前記各撮像装置で撮像した前記車両周囲の映像から前記車両を中心とする俯瞰画像を合成する俯瞰画像合成処理部と、
前記俯瞰画像合成処理部により合成された俯瞰画像を表示する俯瞰画像表示手段と、
前記俯瞰画像合成処理部により合成された俯瞰画像上の画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する特徴点抽出部と、
前記俯瞰画像の時系列映像から前記特徴点抽出部で抽出した前記特徴点の前記俯瞰画像上での位置の変化を追跡する特徴点追跡処理部と、
前記特徴点追跡処理部で追跡した前記特徴点の前記俯瞰画像上での位置の変化をもとに前記特徴点の三次元座標情報および前記車両との間の相対運動情報を含む特徴点情報を算出する三次元計測処理部と、
前記三次元計測処理部で算出した前記特徴点情報をもとに、前記特徴点を抽出した画像が障害物であるか否かを判定する障害物検知処理部と、
前記障害物検知処理部により検知した障害物の位置が前記複数の撮像装置が互いに共通する視野領域とする前記俯瞰画像上の共通領域に含まれるか否かを判定する障害物表示領域判定部と、
前記障害物表示領域判定部で判定された前記共通領域に含まれる障害物についての前記特徴点の予想軌跡と、前記共通領域を互いに共通する前記視野領域とする各撮像装置に、前記予想軌跡で移動する前記障害物が“写る/写らない”の予測結果とをもとに、前記共通領域について前記障害物をより広範囲に写す撮像装置による部分俯瞰画像を優先させた俯瞰画像を前記俯瞰画像合成処理部に再合成させ、前記俯瞰画像表示手段に再表示させるカメラ画像優先処理部と、
を備えたことを特徴とする車両周辺監視装置。
【請求項2】
前記特徴点の予想軌跡は、前記障害物表示領域判定部で判定された前記共通領域に含まれる障害物について、前記三次元計測処理部で算出された前記共通領域の特徴点についての相対運動情報および三次元座標情報をもとに一定の経過時間を想定して得られることを特徴とする請求項1記載の車両周辺監視装置。
【請求項3】
車速、ハンドル操作角、トランスミッションのシフト位置の全てを含む前記車両の状態情報をもとに前記車両の予想経路の判定を行う予想経路判定処理部と、
前記予想経路判定処理部で判定した前記車両の予想経路上に、前記障害物検知処理部で検知された障害物が位置しているか否かを判定する予想経路上障害物判定処理部と、
前記予想経路上障害物判定処理部において前記車両の予想経路上に障害物が位置していると判定されると警報を出力する警報出力手段と、
を備えたことを特徴とする請求項1記載の車両周辺監視装置。
【請求項4】
車両の複数箇所に搭載され、それら箇所からそれぞれ異なる方向の車両周囲を撮像する複数の撮像装置と、
前記各撮像装置で撮像した前記車両周囲の映像から前記車両を中心とする俯瞰画像を合成する俯瞰画像合成処理部と、
前記俯瞰画像合成処理部により合成された俯瞰画像を表示する俯瞰画像表示手段と、
前記俯瞰画像合成処理部により合成された俯瞰画像上の画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する特徴点抽出部と、
前記俯瞰画像の時系列映像から前記特徴点抽出部で抽出した前記特徴点の前記俯瞰画像上での位置の変化を追跡する特徴点追跡処理部と、
前記特徴点追跡処理部で追跡した前記特徴点の前記俯瞰画像上での位置の変化をもとに前記特徴点の三次元座標情報および前記車両との間の相対運動情報を含む特徴点情報を算出する三次元計測処理部と、
前記三次元計測処理部で算出した前記特徴点情報をもとに、前記特徴点を抽出した画像が障害物であるか否かを判定する障害物検知処理部と、
車速、ハンドル操作角、トランスミッションのシフト位置の全てを含む前記車両の状態情報をもとに前記車両の予想経路の判定を行う予想経路判定処理部と、
予想経路判定処理部で判定した前記車両の予想経路上に、障害物検知処理部で検知された障害物が位置しているか否かを判定する予想経路上障害物判定処理部と、
前記予想経路上障害物判定処理部において前記車両の予想経路上に障害物が位置していると判定されると警報を出力する警報出力手段と、
を備えたことを特徴とする車両周辺監視装置。
【請求項5】
急激なアクセル操作を検出するアクセル操作検出手段を備え、前記予想経路上障害物判定処理部で前記車両の予想経路上に障害物が位置していると判定されたときに前記アクセル操作検出手段により急激なアクセル操作が検出されると急加速を抑制する急加速抑制要求をエンジンECUへ出力しエンジンを制御させ、急加速を抑制させる急加速抑制制御部を備えたことを特徴とする請求項3または4記載の車両周辺監視装置。
【請求項6】
前記予想経路判定処理部は、前記車両の状態情報と、前記三次元計測処理部で算出された前記特徴点の相対運動情報とをもとに、前記車両の予想経路および前記特徴点の予想軌跡の判定を行い、前記予想経路上障害物判定処理部は、前記予想経路判定処理部で判定した前記車両の予想経路上に、同じく前記予想経路判定処理部で予想軌跡が判定され、前記障害物検知処理部で障害物として検知された特徴点が位置しているか否かを判定することを特徴とする請求項4記載の車両周辺監視装置。
【請求項7】
前記予想経路判定処理部は、前記車両の状態情報と、前記三次元計測処理部で算出された前記特徴点の相対運動情報と、前記車両と前記特徴点との位置関係とをもとに、前記車両の予想経路および前記特徴点の予想軌跡の判定を行い、前記予想経路上障害物判定処理部は、前記予想経路判定処理部で判定した前記車両の予想経路上に、同じく前記予想経路判定処理部で予想軌跡が判定され、前記障害物検知処理部で障害物として検知された特徴点が位置しているか否かを判定することを特徴とする請求項4記載の車両周辺監視装置。
【請求項1】
車両の複数箇所に搭載され、それら箇所からそれぞれ異なる方向の車両周囲を撮像する複数の撮像装置と、
前記各撮像装置で撮像した前記車両周囲の映像から前記車両を中心とする俯瞰画像を合成する俯瞰画像合成処理部と、
前記俯瞰画像合成処理部により合成された俯瞰画像を表示する俯瞰画像表示手段と、
前記俯瞰画像合成処理部により合成された俯瞰画像上の画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する特徴点抽出部と、
前記俯瞰画像の時系列映像から前記特徴点抽出部で抽出した前記特徴点の前記俯瞰画像上での位置の変化を追跡する特徴点追跡処理部と、
前記特徴点追跡処理部で追跡した前記特徴点の前記俯瞰画像上での位置の変化をもとに前記特徴点の三次元座標情報および前記車両との間の相対運動情報を含む特徴点情報を算出する三次元計測処理部と、
前記三次元計測処理部で算出した前記特徴点情報をもとに、前記特徴点を抽出した画像が障害物であるか否かを判定する障害物検知処理部と、
前記障害物検知処理部により検知した障害物の位置が前記複数の撮像装置が互いに共通する視野領域とする前記俯瞰画像上の共通領域に含まれるか否かを判定する障害物表示領域判定部と、
前記障害物表示領域判定部で判定された前記共通領域に含まれる障害物についての前記特徴点の予想軌跡と、前記共通領域を互いに共通する前記視野領域とする各撮像装置に、前記予想軌跡で移動する前記障害物が“写る/写らない”の予測結果とをもとに、前記共通領域について前記障害物をより広範囲に写す撮像装置による部分俯瞰画像を優先させた俯瞰画像を前記俯瞰画像合成処理部に再合成させ、前記俯瞰画像表示手段に再表示させるカメラ画像優先処理部と、
を備えたことを特徴とする車両周辺監視装置。
【請求項2】
前記特徴点の予想軌跡は、前記障害物表示領域判定部で判定された前記共通領域に含まれる障害物について、前記三次元計測処理部で算出された前記共通領域の特徴点についての相対運動情報および三次元座標情報をもとに一定の経過時間を想定して得られることを特徴とする請求項1記載の車両周辺監視装置。
【請求項3】
車速、ハンドル操作角、トランスミッションのシフト位置の全てを含む前記車両の状態情報をもとに前記車両の予想経路の判定を行う予想経路判定処理部と、
前記予想経路判定処理部で判定した前記車両の予想経路上に、前記障害物検知処理部で検知された障害物が位置しているか否かを判定する予想経路上障害物判定処理部と、
前記予想経路上障害物判定処理部において前記車両の予想経路上に障害物が位置していると判定されると警報を出力する警報出力手段と、
を備えたことを特徴とする請求項1記載の車両周辺監視装置。
【請求項4】
車両の複数箇所に搭載され、それら箇所からそれぞれ異なる方向の車両周囲を撮像する複数の撮像装置と、
前記各撮像装置で撮像した前記車両周囲の映像から前記車両を中心とする俯瞰画像を合成する俯瞰画像合成処理部と、
前記俯瞰画像合成処理部により合成された俯瞰画像を表示する俯瞰画像表示手段と、
前記俯瞰画像合成処理部により合成された俯瞰画像上の画像のコーナまたは画像のエッジ等の、画像処理技術上において位置の変化の追跡が比較的な容易な特徴を有する箇所を特徴点として抽出する特徴点抽出部と、
前記俯瞰画像の時系列映像から前記特徴点抽出部で抽出した前記特徴点の前記俯瞰画像上での位置の変化を追跡する特徴点追跡処理部と、
前記特徴点追跡処理部で追跡した前記特徴点の前記俯瞰画像上での位置の変化をもとに前記特徴点の三次元座標情報および前記車両との間の相対運動情報を含む特徴点情報を算出する三次元計測処理部と、
前記三次元計測処理部で算出した前記特徴点情報をもとに、前記特徴点を抽出した画像が障害物であるか否かを判定する障害物検知処理部と、
車速、ハンドル操作角、トランスミッションのシフト位置の全てを含む前記車両の状態情報をもとに前記車両の予想経路の判定を行う予想経路判定処理部と、
予想経路判定処理部で判定した前記車両の予想経路上に、障害物検知処理部で検知された障害物が位置しているか否かを判定する予想経路上障害物判定処理部と、
前記予想経路上障害物判定処理部において前記車両の予想経路上に障害物が位置していると判定されると警報を出力する警報出力手段と、
を備えたことを特徴とする車両周辺監視装置。
【請求項5】
急激なアクセル操作を検出するアクセル操作検出手段を備え、前記予想経路上障害物判定処理部で前記車両の予想経路上に障害物が位置していると判定されたときに前記アクセル操作検出手段により急激なアクセル操作が検出されると急加速を抑制する急加速抑制要求をエンジンECUへ出力しエンジンを制御させ、急加速を抑制させる急加速抑制制御部を備えたことを特徴とする請求項3または4記載の車両周辺監視装置。
【請求項6】
前記予想経路判定処理部は、前記車両の状態情報と、前記三次元計測処理部で算出された前記特徴点の相対運動情報とをもとに、前記車両の予想経路および前記特徴点の予想軌跡の判定を行い、前記予想経路上障害物判定処理部は、前記予想経路判定処理部で判定した前記車両の予想経路上に、同じく前記予想経路判定処理部で予想軌跡が判定され、前記障害物検知処理部で障害物として検知された特徴点が位置しているか否かを判定することを特徴とする請求項4記載の車両周辺監視装置。
【請求項7】
前記予想経路判定処理部は、前記車両の状態情報と、前記三次元計測処理部で算出された前記特徴点の相対運動情報と、前記車両と前記特徴点との位置関係とをもとに、前記車両の予想経路および前記特徴点の予想軌跡の判定を行い、前記予想経路上障害物判定処理部は、前記予想経路判定処理部で判定した前記車両の予想経路上に、同じく前記予想経路判定処理部で予想軌跡が判定され、前記障害物検知処理部で障害物として検知された特徴点が位置しているか否かを判定することを特徴とする請求項4記載の車両周辺監視装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2013−93865(P2013−93865A)
【公開日】平成25年5月16日(2013.5.16)
【国際特許分類】
【出願番号】特願2012−268373(P2012−268373)
【出願日】平成24年12月7日(2012.12.7)
【分割の表示】特願2009−223513(P2009−223513)の分割
【原出願日】平成21年9月28日(2009.9.28)
【出願人】(000006286)三菱自動車工業株式会社 (2,892)
【Fターム(参考)】
【公開日】平成25年5月16日(2013.5.16)
【国際特許分類】
【出願日】平成24年12月7日(2012.12.7)
【分割の表示】特願2009−223513(P2009−223513)の分割
【原出願日】平成21年9月28日(2009.9.28)
【出願人】(000006286)三菱自動車工業株式会社 (2,892)
【Fターム(参考)】
[ Back to top ]