接近物体検出装置、接近物体検出プログラム、接近物体検出方法
【課題】接近物体の検出の精度を向上させる接近物体検出装置、接近物体検出プログラム、接近物体検出方法を提供する。
【解決手段】接近物体の検出を行う接近物体検出装置であって、撮影された第1画像と第1画像より前に撮影された第2画像とを取得する画像取得部と、画像取得部により取得された第1画像及び第2画像に基づいて、第2画像内の第2点に対応する第1画像内の第1点を検索する検索部と、検索部により検索された第2点から第1点へのオプティカルフローを算出するオプティカルフロー算出部と、オプティカルフロー算出部により算出された第2点から第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する判定部とを有する。
【解決手段】接近物体の検出を行う接近物体検出装置であって、撮影された第1画像と第1画像より前に撮影された第2画像とを取得する画像取得部と、画像取得部により取得された第1画像及び第2画像に基づいて、第2画像内の第2点に対応する第1画像内の第1点を検索する検索部と、検索部により検索された第2点から第1点へのオプティカルフローを算出するオプティカルフロー算出部と、オプティカルフロー算出部により算出された第2点から第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する判定部とを有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、接近物体の検出を行う接近物体検出装置、接近物体検出プログラム、接近物体検出方法に関するものである。
【背景技術】
【0002】
見通しが悪い交差点等における車両のユーザの判断の支援を目的とし、車両先端等に設置したカメラから取得される車両左右方向の映像を、車載ディスプレイに表示させる車載型死角カメラ映像表示装置(ブラインドコーナーモニター)がある。
【0003】
しかしながら、従来の車載型死角カメラ映像表示装置は、遠方から接近する物体については、次のような性質があった。
【0004】
(1)接近物体の画像領域サイズが小さいために、ユーザは、背景に溶け込み易く、接近する車両やオートバイ等の形状に気づきにくい。
(2)接近物体であることから、画像領域の移動量が小さいために、ユーザは、変化に気づきにくい。
【0005】
これに対し、カメラによる映像データから画像処理によって接近物体を検知し、接近物体の画像領域を強調表示させる類の装置があった。例えば、オプティカルフロー方式を利用し、接近物体とカメラの視野の関係を利用し、画面上の中央向きに発生するフロー領域を抽出し、接近物体の領域として特定することで、接近物体検知を実現する装置がある。
【0006】
また、旋回中でも検知が可能なように、ジャイロセンサや車両センサを使用して旋回による水平フロー成分を算出し、この成分をオプティカルフローから減算してフロー補正処理を行い、補正後のフローが画面上の中央向きであるか否かの判定を行い、接近物体検知を実現する装置がある。
【0007】
なお、従来技術として、車両の旋回時における車両のノーズ部分の側方の接近物体を精度良く検出できるノーズビューモニタ装置がある(例えば、特許文献1参照)。
【特許文献1】特開2005−276057号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、自車両の停止位置によっては、カメラと接近物体の位置の関係から必ずしも、接近物体に画面中央向きのフローが発生するわけではなかった。例えば、カメラに対して接近物体の端点が方位一定に見えるような位置や角度で、自車両が交差点に進入してしまった場合や、歩行者や自転車やオートバイが壁沿いに接近する場合、画面中央向きのフローは発生しないため、検知漏れとなる場合があった。
【0009】
また、旋回中において、旋回速度が接近車両の速度に対して早い場合、ジャイロセンサや車両センサから得られる仮想的な旋回による水平フロー成分を減算すると、残差の補正フローが画面外向きになって、検知漏れとなる場合があった。
【0010】
本発明は上述した問題点を解決するためになされたものであり、接近物体の検出の精度を向上させる接近物体検出装置、接近物体検出プログラム、接近物体検出方法を提供することを目的とする。
【課題を解決するための手段】
【0011】
上述した課題を解決するため、本発明の一態様は、接近物体の検出を行う接近物体検出装置であって、撮影された第1画像と第1画像より前に撮影された第2画像とを取得する画像取得部と、画像取得部により取得された第1画像及び第2画像に基づいて、第2画像内の第2点に対応する第1画像内の第1点を検索する検索部と、検索部により検索された第2点から第1点へのオプティカルフローを算出するオプティカルフロー算出部と、オプティカルフロー算出部により算出された第2点から第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する判定部とを有する。
【0012】
また、本発明の一態様は、接近物体の検出をコンピュータに実行させる接近物体検出プログラムであって、撮影された第1画像と第1画像より前に撮影された第2画像とを取得し、取得された第1画像及び第2画像に基づいて、第2画像内の第2点に対応する第1画像内の第1点を検索し、検索された第2点から第1点へのオプティカルフローを算出し、算出された第2点から第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定することをコンピュータに実行させる。
【0013】
また、本発明の一態様は、接近物体の検出を行う接近物体検出方法であって、撮影された第1画像と第1画像より前に撮影された第2画像とを取得し、取得された第1画像及び第2画像に基づいて、第2画像内の第2点に対応する第1画像内の第1点を検索し、検索された第2点から第1点へのオプティカルフローを算出し、算出された第2点から第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定することを行う。
【0014】
また、本発明の構成要素、または構成要素の任意の組合せを、方法、装置、システム、記録媒体、データ構造などに適用したものも本発明に含む。
【発明の効果】
【0015】
開示の接近物体検出装置、接近物体検出プログラム、接近物体検出方法によれば、接近物体の検出の精度を向上させることができる。
【発明を実施するための最良の形態】
【0016】
以下、本発明の実施の形態について図面を参照しつつ説明する。
【0017】
(実施の形態1)
本実施の形態においては、本発明の接近物体検出装置が適用された接近物体表示装置について説明する。本実施の形態の接近物体表示装置は、車両に搭載される。以下、接近物体表示装置が搭載された車両を自車両と呼ぶ。
【0018】
本実施の形態の接近物体表示装置は、連続して撮影された映像データからオプティカルフローの垂直(鉛直)成分を算出し、算出された垂直成分に基づいて接近物体の検出を行う。
【0019】
実施の形態1の接近物体表示装置の構成について以下に説明する。
【0020】
図1は、実施の形態1の接近物体表示装置の構成の一例を示すブロック図である。この接近物体表示装置は、カメラ11、画像処理部12a、表示部14、CPU、記憶部16、角速度センサ17(第1運動測定部、第2運動測定部)、車速センサ18を有する。
【0021】
画像処理部12aは、例えばCPU(Central Processing Unit)により実現される。このCPUは、記憶部16に格納された接近物体検出プログラムを実行することにより、接近物体検出機能を実現する。
【0022】
なお、角速度センサ17の代わりに、接近物体表示装置の外部に設けられた角速度センサが用いられても良い。また、車速センサ18の代わりに、接近物体表示装置の外部に設けられた車速センサが用いられても良い。ここでは、角速度を取得するために角速度センサを用いたが、角速度センサ以外に加速度センサ等、カメラ11の鉛直方向の運動に関する測定を行うセンサを用いても良い。
【0023】
画像処理部12aの構成について以下に説明する。
【0024】
図2は、画像処理部12aの構成の一例を示すブロック図である。この画像処理部12aは、特徴点抽出部21、オプティカルフロー算出部22、特徴点情報記録部23、縦揺れフロー算出部31(運動成分算出部)、縦揺れ補正部32(オプティカルフロー補正部)、接近物体判定部33a(判定部、領域決定部)、映像取得部34(画像取得部)、車両状態取得部35(測定値取得部)、映像合成部36(画像生成部)を有する。
【0025】
車両状態取得部35は、角速度センサ17により測定された角速度や車速センサ18により測定された車速を取得する。
【0026】
本実施の形態の接近物体表示装置の動作について以下に説明する。
【0027】
カメラ11は、自車両の左右方向を撮影するように調整されたプリズムレンズを有し、所定のフレーム時間間隔で撮影する。カメラ11が自車両の左右方向に向けて設けられることにより、見通しの悪い交差点でユーザの死角となる左右道路の交通状況を撮影することができる。フレーム時間間隔は、例えば1/30秒である。なお、カメラ11は、自車両の左右方向を撮影できる魚眼レンズを有しても良い。
【0028】
図3は、実施の形態1の接近物体表示装置の動作の一例を示すフローチャートである。映像取得部34は、カメラ11により撮影された映像データをレーム時間間隔毎に取得する(S11)。なお、カメラ11は、複数であっても良い。この場合、映像取得部34は、カメラ11のそれぞれにより撮影された映像を合成して映像データとする。例えば、自車両の左方を向いて設置されたカメラ11からの映像を映像データの左半分に配置し、自車両の右方を向いて設置されたカメラ11からの映像を映像データの右半分に配置する。
【0029】
次に、特徴点抽出部21は、映像データ内の特徴点(注目点)を抽出する(S12)。特徴点の抽出には、例えば、車両外形の凸凹領域に良く反応するコーナー抽出処理を用いる。コーナー抽出処理には、Harrisオペレータや、KLT(Kanade-Lucas Track)オペレータを用いる。
【0030】
特徴点抽出部21は、抽出された特徴点に関する情報を特徴点情報として特徴点情報記録部23へ記録する(S13)。ここで、特徴点情報記録部23は、記憶部16により実現される。図4は、実施の形態1の特徴点情報の構成の一例を示す表である。この図は、時刻tにおける特徴点情報と、時刻t+1における特徴点情報とを示す。特徴点情報は、特徴点IDと、特徴点の最新の座標値の周辺の画像データである周辺画像データ(例えば9×9画素)と、フレーム毎の特徴点の対応点の(x,y)座標及びフレーム時刻のリストである対応点リストとを含む。
【0031】
次に、オプティカルフロー算出部22は、特徴点情報記録部23に登録されている、最新の特徴点の座標値と周辺画像データに基づいて、現在の映像データI(t+1)において特徴点に対応する点である対応点を所定範囲内で検索する(S14)。次に、オプティカルフロー算出部22は、例えばブロックマッチング法によりオプティカルフローを算出する(S15)。オプティカルフロー算出部22は、I(t+1)において探索された対応点の座標値とフレーム時刻t+1とを特徴点情報におけるリストへ追加し、特徴点情報における周辺画像データをI(t+1)における周辺画像データに更新する(S16)。
【0032】
ここで、時刻tにおける映像データI(t)は、第2画像に対応する。また、時刻t+1における映像データI(t+1)は、第1画像に対応する。
【0033】
次に、接近物体判定部33aは、特徴点情報記録部23に登録されている最新の特徴点について、所定の垂直成分条件を満たす特徴点を選択して選択特徴点とし(S17)、このフローは終了する。ここで、垂直成分条件は、オプティカルフローの垂直成分の大きさが所定の垂直成分閾値を上回ることである。オプティカルフローは、登録されているリスト内の2つの座標値の減算によって算出される。第1の垂直成分条件は、オプティカルフローの垂直成分と垂直成分閾値Th1とを用いた次式で表される。
【0034】
|yi,t+1−yi,t| > Th1
【0035】
また、オプティカルフロー算出部22は、垂直成分条件を、時間間隔nだけ過去の対応点から最新の対応点までのオプティカルフローである長時間オプティカルフローを算出する。接近物体判定部33aは、単位時間間隔(フレーム時間間隔)のオプティカルフローの垂直成分(動き量)が小さいと判定した場合、第2の垂直成分条件を用いて選択特徴点を選択する。第2の垂直成分条件は、長時間オプティカルフローの垂直成分の大きさが所定の垂直成分閾値Th2を上回ることである。第2の垂直成分条件は、長時間オプティカルフローの垂直成分と垂直成分閾値Th2とを用いた次式で表される。
【0036】
|yi,t+1−yi,t-n+1| > Th2
【0037】
ここで、時刻t−n+1における映像データI(t−n+1)は、第3画像に対応する。
【0038】
Th1及びTh2は、例えば1ピクセルである。
【0039】
このように、接近物体が自車両へ接近する速度成分が小さい場合、長時間オプティカルフローを算出することにより、選択特徴点の検出精度を高めることができる。
【0040】
また、本実施の形態の画像処理部12aは、自車両のブレーキや路面の凹凸で縦揺れする(鉛直方向に運動する)場合に発生する背景フロー(背景のオプティカルフロー)の垂直成分である縦揺れフローを、オプティカルフローから除去する。
【0041】
車両状態取得部35は、角速度センサ17により測定された角速度を取得する。縦揺れフロー算出部31は、車両状態取得部35により得られた角速度に基づいて縦揺れフローを算出する。縦揺れ補正部32は、オプティカルフローの垂直成分から縦揺れフローを減算して垂直残差フローとする。接近物体判定部33aは、オプティカルフローの垂直成分の代わりに垂直残差フローに対して垂直成分条件の判定を行う。つまり、第1の垂直成分条件は、垂直残差フローの大きさがTh1を上回ることである。
【0042】
同様に、縦揺れ補正部32は、長時間オプティカルフローの垂直成分から縦揺れフローを減算して長時間垂直残差フローとする。第2の垂直成分条件は、長時間垂直残差フローの大きさがTh2を上回ることである。
【0043】
ここで、車両状態取得部35が角速度センサ17から3軸の角速度を取得する場合の、縦揺れフロー算出部31及び縦揺れ補正部32の動作の詳細について説明する。
【0044】
ある特徴点について、垂直成分を評価する時間間隔(フレーム時間間隔)がΔtである場合、縦揺れフロー算出部31は、時刻t−Δtから時刻tまで、角速度センサから得られたある座標軸についての角速度wを積分することにより、変位角Wを算出する。Wは、次式で表される。
【0045】
W=Σt-Δttw
【0046】
次に、カメラ11の焦点距離がfであり、縦揺れフロー算出部31により3軸についての角速度wx(ピッチ)(第1測定値),wy(ロール),wz(ヨー)(第2測定値)が得られ、それにより変位角Wx(ピッチ),Wy(ロール),Wz(ヨー)が得られる場合、点(x,y)における縦揺れフローvyは次式で算出できる。
【0047】
vy=
(y*y/f+f)*Wx−x*y*Wy/f−x*Wz;
【0048】
カメラ11と角速度センサ17が離れている場合でも、縦揺れフロー算出部31は、3軸の角速度を用いることにより縦揺れフローを精度良く算出することができる。
【0049】
また、車両状態取得部35が角速度センサ17から縦方向(ピッチ)の角速度のみを取得する場合、上述のvyの算出式において、Wy=Wz=0として良い。
【0050】
カメラ11と角速度センサ17が近く同様の運動を行う場合、縦揺れフロー算出部31は、縦方向の角速度のみを用いて縦揺れフローを算出することができる。
【0051】
縦揺れ補正部32は、オプティカルフローの垂直成分から縦揺れフローを減算し、垂直残差フローVを算出する。Vは、次式で表される。
【0052】
V = yi,t+1−yi,t-n+1−vy
【0053】
接近物体判定部33aは、次式に示される垂直成分条件を満たすか否かの判定を行う。
【0054】
|V|>Th1
【0055】
次に、接近物体判定部33aは、選択された選択特徴点の座標に対して2次元画像上でのクラスタリング処理を行い、接近物体の領域を特定して接近物体領域とする。クラスタリング処理は、例えば、所定の画像距離以下にある特徴点同士を1つのクラスタとみなす処理である。
【0056】
映像合成部36は、カメラ11からの映像データに、接近物体判定部33aにより出力された接近物体領域を合成して合成映像データ(合成画像)とする。表示部14は、映像合成部36により合成された合成映像データを表示する。
(実施の形態2)
【0057】
本実施の形態の接近物体表示装置は、連続して撮影された画像からオプティカルフローの垂直成分及び水平成分を算出し、算出された垂直成分及び水平成分に基づいて接近物体の検出を行う。
【0058】
実施の形態2の接近物体表示装置の構成は、実施の形態1の接近物体表示装置の構成と比較すると、画像処理部12aの代わりに画像処理部12bを有する。
【0059】
画像処理部12bの構成について以下に説明する。
【0060】
図5は、画像処理部12bの構成の一例を示すブロック図である。この図において、図2と同一符号は図2に示された対象と同一又は相当物を示しており、ここでの説明を省略する。画像処理部12bは、画像処理部12aと比較すると、接近物体判定部33aの代わりに接近物体判定部33bを有し、新たに、旋回フロー算出部41(運動成分算出部)、旋回補正部42(オプティカルフロー補正部)を有する。
【0061】
例えば、角速度センサ17は、縦方向の角速度の他に、カメラ11が設置された自車両の旋回(水平方向、ヨー)の角速度wz(第2測定値)を測定する。旋回フロー算出部41は、車両状態取得部35により取得された角速度に基づいて、画面上の旋回による背景フローの水平成分である旋回フローを算出する。旋回補正部42は、算出された旋回フローを、オプティカルフローの水平成分から減算して水平残差フローとする。
【0062】
接近物体判定部33bは、所定の垂直成分条件または所定の水平成分条件を満たす特徴点を選択して選択特徴点とする。ここで、垂直成分条件は、垂直残差フローの大きさが所定の垂直成分閾値を上回ることとする。また、水平成分条件は、旋回補正部42により算出された水平残差フローが中央向きを正の向きとして所定の水平成分閾値を上回ることである。
【0063】
なお、垂直成分条件は、垂直残差フローの大きさが所定の垂直成分閾値を上回り、且つ垂直残差フローが中央向きであること、としても良い。
【0064】
なお、接近物体判定部33bは、更に車速センサ18により測定された車速を用いて選択特徴点を選択しても良い。この場合、まず、接近物体判定部33bは、車速センサ18により測定された車速を取得する。次に、接近物体判定部33bは、車速が所定の車速閾値を下回るか否かの判定を行う。車速が所定の車速閾値を下回る場合、水平成分条件を満たす特徴点を選択して選択特徴点とする。車速が車速閾値以上である場合、垂直成分条件を満たす特徴点を選択して選択特徴点とする。
【0065】
上述した各実施の形態における映像データ及びオプティカルフローの具体例について以下に説明する。
【0066】
ここで、カメラ11に設けられたプリズムレンズにより、映像データの左半分の領域である左領域は、自車両の左方が撮影された映像となり、映像データの右半分の領域である右領域は、自車両の右方が撮影された映像となる。以下、映像データにおいて左領域と右領域とを分ける線を中央線と呼ぶ。
【0067】
オプティカルフローの水平成分が中央線方向であるか否かの判定により接近物体を検出する比較例について以下に説明する。
【0068】
図6は、第1状態における自車両と接近物体の位置関係の一例を示す平面図である。この図は、自車両62、構造物63、カメラ視野64a,64b、接近物体位置65a,65b、特徴点66a,66bを示す。カメラ視野64aは、映像データの左半分に対応し、カメラ視野64bは、映像データの右半分に対応する。また、この図において、X軸及びZ軸は、自車両を基準とした座標系である。原点Oは、カメラ11の撮像位置を示し、X軸は、自車両の後方を示し、Z軸は、自車両の右方を示す。特徴点66bは、特徴点66aの対応点である。
【0069】
第1状態は、自車両62が交差点に進入する前に一時停止し、且つカメラ視野64aにおける接近物体が接近物体位置65aから65bへ移動して自車両62へ接近している状態である。また、接近物体位置65aは、時刻t1で撮影された接近物体の位置を示し、接近物体位置65aは、時刻t1+1(時刻t1の次のフレームの時刻)で撮影された接近物体の位置を示す。
【0070】
図7は、第1状態におけるオプティカルフローの一例を示す概念図である。この図は、特徴点66bのオプティカルフローの水平成分71bと、旋回フロー72bと、オプティカルフローの水平成分71bから旋回フロー72bを減算した結果である水平残差フロー73bとを示す。第1状態において、水平残差フロー73bは、中央線の方向を指す。従って、特徴点66bは、オプティカルフローの水平成分により接近物体として検出されることができる。
【0071】
図8は、第2状態における映像データとオプティカルフローの一例を示す概念図である。第2状態は、自車両62が交差点に進入する前に一時停止し、且つカメラ視野64aにおける接近物体61aとカメラ視野64bにおける接近物体61bとが自車両62へ接近している状態である。この図において、黒の矢印は、オプティカルフローを表す。第2状態において、接近物体61a,61bの各特徴点のオプティカルフローの水平成分は、中央線の方向を指す。従って、接近物体61a,61bは、オプティカルフローの水平成分が中央線方向であるか否かの判定により、接近物体として検出されることができる。
【0072】
図9は、第3状態における自車両と接近物体の位置関係の一例を示す平面図である。この図は、上述の第1状態と同様であるが、接近物体位置65a,65bの代わりに接近物体位置65c,65dを示し、特徴点66a,66bの代わりに特徴点66c,66dを示す。
【0073】
第3状態は、自車両62が交差点に進入する前に一時停止し、且つカメラ視野64aにおける接近物体が接近物体位置65cから65dへ移動して自車両62へ接近している状態である。また、接近物体位置65cは、時刻t2で撮影された接近物体の位置を示し、接近物体位置65dは、時刻t2+1(時刻t1の次のフレームの時刻)で撮影された接近物体の位置を示す。第3状態において、特徴点66cから特徴点66dへのオプティカルフローの水平成分は、中央線と逆の方向を指す。従って、オプティカルフローの水平成分が中央線方向であるか否かの判定だけを用いると、特徴点66dは、接近物体として検出されない。
【0074】
図10は、第3状態におけるオプティカルフローの一例を示す概念図である。この図は、特徴点66dのオプティカルフローの水平成分71dと、旋回フロー72dと、オプティカルフローの水平成分71dから旋回フロー72dを減算した結果である水平残差フロー73dとを示す。第3状態において、水平残差フロー73dは、中央線と逆の方向を指す。従って、オプティカルフローの水平成分が中央線方向であるか否かの判定だけを用いると、特徴点66dは、接近物体として検出されない。
【0075】
図11は、第4状態における自車両と接近物体の位置関係の一例を示す平面図である。この図は、上述の第1状態と同様であるが、接近物体位置65a,65bの代わりに接近物体位置65e,65fを示し、特徴点66a,66bの代わりに特徴点66e,66fを示す。
【0076】
第4状態は、自車両62が交差点へ進入して右旋回し、且つカメラ視野64aにおける接近物体が接近物体位置65eから65fへ移動して自車両62へ接近している状態である。また、接近物体位置65eは、時刻t3で撮影された接近物体の位置を示し、接近物体位置65fは、時刻t3+1(時刻t3の次のフレームの時刻)で撮影された接近物体の位置を示す。第4状態において、特徴点66eから特徴点66fへのオプティカルフローの水平成分は、ほとんど無い。従って、オプティカルフローの水平成分が中央線方向であるか否かの判定だけを用いると、特徴点66fは、接近物体として検出されない。
【0077】
図12は、第5状態における映像データとオプティカルフローの一例を示す概念図である。第5状態は、自車両62が交差点へ進入して右旋回し、且つカメラ視野64aにおける接近物体61aとカメラ視野64bにおける接近物体61bとが自車両62へ接近している状態である。この図において、黒の矢印は、オプティカルフローを表す。第5状態においては、接近物体61a,61bの各特徴点のオプティカルフローの水平成分は、自車両の右旋回により、左方向を指す。
【0078】
図13は、第5状態における映像データと旋回フローの一例を示す概念図である。この図において、黒の矢印は、旋回フローを表す。第5状態において、接近物体61a,61bの各特徴点の旋回フローは、自車両の右旋回により、左方向を指す。
【0079】
図14は、第5状態における映像データと水平残差フローの一例を示す概念図である。この図において、黒の矢印は、水平残差フローを表す。第5状態において、接近物体61a,61bの各特徴点の水平残差フローは、オプティカルフローの水平成分と旋回フローにより、左方向を指す。従って、オプティカルフローの水平成分が中央線方向であるか否かの判定だけを用いると、接近物体61bは、接近物体として検出されるが、接近物体61aは、接近物体として検出されない。
【0080】
実施の形態1及び実施の形態2に示されたようなオプティカルフローの垂直成分に基づいて接近物体を検出する場合の具体例について以下に説明する。
【0081】
図15は、第6状態における映像データとオプティカルフローの一例を示す概念図である。第6状態は、自車両62が交差点へ進入して右旋回し、且つカメラ視野64aにおける接近物体61aとカメラ視野64bにおける接近物体61bとが自車両62へ接近し、且つカメラ11が上へ揺れた状態である。この図において、黒の矢印は、オプティカルフローを表す。第6状態においては、接近物体61a,61bの各特徴点のオプティカルフローの水平成分は、自車両の右旋回により、左方向を指す。
【0082】
図16は、第6状態における映像データとオプティカルフローの垂直成分の一例を示す概念図である。この図において、黒の矢印は、オプティカルフローの垂直成分を表す。第6状態において、接近物体61a,61b以外(背景)のオプティカルフローの垂直成分は、カメラ11が上へ揺れたことにより、下方向を指す。
【0083】
図17は、第6状態における映像データと縦揺れフローの一例を示す概念図である。この図において、黒の矢印は、縦揺れフローを表す。第6状態において、各縦揺れフローは、カメラ11が上へ揺れたことにより、下方向を指す。
【0084】
図18は、第6状態における映像データと垂直残差フローの一例を示す概念図である。この図において、黒の矢印は、垂直残差フローを表す。第6状態において、接近物体61a,61b以外(背景)の垂直残差フローは、縦揺れ補正部32の処理により、ほとんど無くなる。また、接近物体61a,61bの各特徴点の垂直残差フローだけが、大きく現れる。従って、実施の形態1及び実施の形態2に示されたようなオプティカルフローの垂直成分の大きさの判定により、接近物体61a,61bは、接近物体として検出される。
【0085】
上述した各実施の形態によれば、画面中央向きの水平成分だけに着目した場合にカメラと接近物体の関係によって原理的に検出困難な接近物体についても、オプティカルフローの垂直成分に着目して接近物体を抽出することにより、検知可能となる。
【0086】
また、上述した各実施の形態によれば、自車両またはカメラに縦揺れが発生した場合でも、接近物体を検知することが可能である。
【0087】
また、上述した実施の形態2によれば、自車両の旋回速度が速い場合でも、接近物体の検知が可能となる。
【0088】
また、上述した実施の形態2によれば、画像中における接近物体の水平移動量が垂直移動量に比べて大きい場合、水平成分条件を用いて選択特徴点を抽出したほうが早期に検知することが可能になる。実施の形態2によれば、オプティカルフローの垂直成分と水平成分の両方を用いて統合的に判断することで、選択特徴点の検出性能を向上させることが可能になる。
【0089】
また、上述した各実施の形態によれば、特徴点を抽出して追跡し、特徴点から選択特徴点を選択することにより、画像上のすべての点について演算処理する必要がなく、演算すべき画素を効果的に選択できるので、低コストで実現可能である。
【0090】
また、本発明に係る接近物体検出装置は、移動体のカメラや交差点における固定カメラ等に容易に適用することができ、カメラの性能をより高めることができる。
【0091】
なお、本発明は以下に示すようなコンピュータシステムにおいて適用可能である。図19は、本発明が適用されるコンピュータシステムの一例を示す図である。この図に示すコンピュータシステム900は、CPUやディスクドライブ等を内蔵した本体部901、本体部901からの指示により画像を表示するディスプレイ902、コンピュータシステム900に種々の情報を入力するためのキーボード903、ディスプレイ902の表示画面902a上の任意の位置を指定するマウス904及び外部のデータベース等にアクセスして他のコンピュータシステムに記憶されているプログラム等をダウンロードする通信装置905を有する。通信装置905は、ネットワーク通信カード、モデムなどが考えられる。
【0092】
上述したような、接近物体検出装置を構成するコンピュータシステムにおいて上述した各ステップを実行させるプログラムを、接近物体検出プログラムとして提供することができる。このプログラムは、コンピュータシステムにより読み取り可能な記録媒体に記憶させることによって、接近物体検出装置を構成するコンピュータシステムに実行させることが可能となる。上述した各ステップを実行するプログラムは、ディスク910等の可搬型記録媒体に格納されるか、通信装置905により他のコンピュータシステムの記録媒体906からダウンロードされる。また、コンピュータシステム900に少なくとも接近物体検出機能を持たせる接近物体検出プログラムは、コンピュータシステム900に入力されてコンパイルされる。このプログラムは、コンピュータシステム900を、接近物体検出機能を有する接近物体検出システムとして動作させる。また、このプログラムは、例えばディスク910等のコンピュータ読み取り可能な記録媒体に格納されていても良い。ここで、コンピュータシステム900により読み取り可能な記録媒体としては、ROMやRAM等のコンピュータに内部実装される内部記憶装置、ディスク910やフレキシブルディスク、DVDディスク、光磁気ディスク、ICカード等の可搬型記憶媒体や、コンピュータプログラムを保持するデータベース、或いは、他のコンピュータシステム並びにそのデータベースや、通信装置905のような通信手段を介して接続されるコンピュータシステムでアクセス可能な各種記録媒体を含む。
【0093】
本発明は、その精神または主要な特徴から逸脱することなく、他の様々な形で実施することができる。そのため、前述の実施の形態は、あらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。本発明の範囲は、特許請求の範囲によって示すものであって、明細書本文には、何ら拘束されない。更に、特許請求の範囲の均等範囲に属する全ての変形、様々な改良、代替および改質は、全て本発明の範囲内のものである。
【0094】
以上の実施の形態1〜2に関し、更に以下の付記を開示する。
(付記1)
接近物体の検出を行う接近物体検出装置であって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得する画像取得部と、
前記画像取得部により取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索する検索部と、
前記検索部により検索された前記第2点から前記第1点へのオプティカルフローを算出するオプティカルフロー算出部と、
前記オプティカルフロー算出部により算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する判定部と、
を備える接近物体検出装置。
(付記2)
前記判定部は、前記オプティカルフロー算出部により算出された前記第1点へのオプティカルフローの鉛直成分の大きさに基づいて、該第1点が接近物体を示すか否かを判定する、
付記1に記載の接近物体検出装置。
(付記3)
前記画像取得部は更に、前記第2画像より前に撮影された第3画像を取得し、
前記検索部は更に、前記画像取得部により取得された前記第3画像及び前記第1画像及び前記第2画像に基づいて、前記第3画像内の第3点に対応する前記第1画像内の第1点を検索し、
前記オプティカルフロー算出部は、前記検索部により検索された前記第3点から前記第1点へのオプティカルフローを算出し、
前記判定部は、前記オプティカルフロー算出部により算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分の大きさが所定の鉛直成分閾値より小さい場合、前記第3点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
付記2に記載の接近物体検出装置。
(付記4)
前記接近物体検出装置の鉛直方向の運動に関する第1測定値を取得する測定値取得部と、
前記測定値取得部により取得された前記第1測定値に基づいて、鉛直方向の運動に起因する前記オプティカルフローの成分である第1成分を算出する運動成分算出部と、
前記運動成分算出部により算出された第1成分を、前記オプティカルフローの鉛直成分から減算することにより前記オプティカルフローの鉛直成分を補正するオプティカルフロー補正部と、
を更に備え、
前記判定部は、前記オプティカルフロー補正部により補正された前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
付記1に記載の接近物体検出装置。
(付記5)
前記測定値取得部は更に、前記接近物体検出装置の水平方向の運動に関する第2測定値を取得し、
前記運動成分算出部は更に、前記測定値取得部により取得された前記第2測定値に基づいて、水平方向の運動に起因する前記オプティカルフローの成分である第2成分を算出し、
前記オプティカルフロー補正部は更に、前記運動成分算出部により算出された第2成分を、前記オプティカルフローの水平成分から減算することにより前記オプティカルフローの水平成分を補正し、
前記判定部は、前記オプティカルフロー補正部により補正された前記第1点へのオプティカルフローの鉛直成分及び水平成分に基づいて、該第1点が接近物体を示すか否かを判定する、
付記4に記載の接近物体検出装置。
(付記6)
前記判定部は、前記オプティカルフロー算出部により算出された前記第1点へのオプティカルフローの鉛直成分の大きさと水平成分の方向及び大きさとに基づいて、該第1点が接近物体を示すか否かを判定する、
付記1に記載の接近物体検出装置。
(付記7)
前記測定値取得部は更に、前記接近物体検出装置の移動速度を取得し、
前記判定部は、前記測定値取得部により取得された前記移動速度に基づいて前記第1点へのオプティカルフローの鉛直成分及び水平成分の少なくともいずれかを選択して選択成分とし、前記選択成分に基づいて該第1点が接近物体を示すか否かを判定する、
付記6に記載の接近物体検出装置。
(付記8)
前記判定部は、前記移動速度が所定の速度閾値より大きい場合、前記第1点へのオプティカルフローの鉛直成分を前記選択成分として選択する、
付記7に記載の接近物体検出装置。
(付記9)
前記第1画像から特徴点を抽出して前記第1点とし、前記第2画像から特徴点を抽出して前記第2点とする特徴点抽出部を、
更に備える、
付記1に記載の接近物体検出装置。
(付記10)
前記特徴点抽出部は、コーナー抽出処理により特徴点を抽出する、
付記9に記載の接近物体検出装置。
(付記11)
前記判定部により接近物体を示すと判定された複数の第1点に基づいて、該接近物体を示す領域を決定する領域決定部を、
更に備える、
付記1に記載の接近物体検出装置。
(付記12)
前記領域決定部は、前記判定部により接近物体を示すと判定された複数の第1点に対するクラスタリング処理により、前記接近物体を示す領域を決定する、
付記1に記載の接近物体検出装置。
(付記13)
前記領域決定部により決定された前記領域と前記第2画像とを合成した合成画像を生成する画像生成部を、
更に備える、
付記12に記載の接近物体検出装置。
(付記14)
前記画像生成部により生成された合成画像を表示する表示部を、
更に備える、
付記13に記載の接近物体検出装置。
(付記15)
前記第1画像及び前記第2画像を撮影するカメラを、
更に備える、
付記1に記載の接近物体検出装置。
(付記16)
前記接近物体検出装置の前記鉛直方向の運動に関する前記第1測定値を測定する第1運動測定部を、
更に備える、
付記1に記載の接近物体検出装置。
(付記17)
前記接近物体検出装置の前記水平方向の運動に関する前記第2測定値を測定する第2運動測定部を、
更に備える、
付記16に記載の接近物体検出装置。
(付記18)
前記第1運動測定部は、角速度センサである、
付記16に記載の接近物体検出装置。
(付記19)
接近物体の検出をコンピュータに実行させる接近物体検出プログラムであって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得し、
取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索し、
検索された前記第2点から前記第1点へのオプティカルフローを算出し、
算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
ことをコンピュータに実行させる接近物体検出プログラム。
(付記20)
接近物体の検出を行う接近物体検出方法であって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得し、
取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索し、
検索された前記第2点から前記第1点へのオプティカルフローを算出し、
算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
ことを行う接近物体検出方法。
【図面の簡単な説明】
【0095】
【図1】実施の形態1の接近物体表示装置の構成の一例を示すブロック図である。
【図2】画像処理部12aの構成の一例を示すブロック図である。
【図3】実施の形態1の接近物体表示装置の動作の一例を示すフローチャートである。
【図4】実施の形態1の特徴点情報の構成の一例を示す表である。
【図5】画像処理部12bの構成の一例を示すブロック図である。
【図6】第1状態における自車両と接近物体の位置関係の一例を示す平面図である。
【図7】第1状態におけるオプティカルフローの一例を示す概念図である。
【図8】第2状態における映像データとオプティカルフローの一例を示す概念図である。
【図9】第3状態における自車両と接近物体の位置関係の一例を示す平面図である。
【図10】第3状態におけるオプティカルフローの一例を示す概念図である。
【図11】第4状態における自車両と接近物体の位置関係の一例を示す平面図である。
【図12】第5状態における映像データとオプティカルフローの一例を示す概念図である。
【図13】第5状態における映像データと旋回フローの一例を示す概念図である。
【図14】第5状態における映像データと水平残差フローの一例を示す概念図である。
【図15】第6状態における映像データとオプティカルフローの一例を示す概念図である。
【図16】第6状態における映像データとオプティカルフローの垂直成分の一例を示す概念図である。
【図17】第6状態における映像データと縦揺れフローの一例を示す概念図である。
【図18】第6状態における映像データと垂直残差フローの一例を示す概念図である。
【図19】本発明が適用されるコンピュータシステムの一例を示す図である。
【符号の説明】
【0096】
11 カメラ、12a,12b 画像処理部、14 表示部、16 記憶部、17 角速度センサ、18 車速センサ、21 特徴点抽出部、22 オプティカルフロー算出部、23 特徴点情報記録部、31 縦揺れフロー算出部、32 縦揺れ補正部、33a,33b 接近物体判定部、34 映像取得部、35 車両状態取得部、36 映像合成部、41 旋回フロー算出部、42 旋回補正部。
【技術分野】
【0001】
本発明は、接近物体の検出を行う接近物体検出装置、接近物体検出プログラム、接近物体検出方法に関するものである。
【背景技術】
【0002】
見通しが悪い交差点等における車両のユーザの判断の支援を目的とし、車両先端等に設置したカメラから取得される車両左右方向の映像を、車載ディスプレイに表示させる車載型死角カメラ映像表示装置(ブラインドコーナーモニター)がある。
【0003】
しかしながら、従来の車載型死角カメラ映像表示装置は、遠方から接近する物体については、次のような性質があった。
【0004】
(1)接近物体の画像領域サイズが小さいために、ユーザは、背景に溶け込み易く、接近する車両やオートバイ等の形状に気づきにくい。
(2)接近物体であることから、画像領域の移動量が小さいために、ユーザは、変化に気づきにくい。
【0005】
これに対し、カメラによる映像データから画像処理によって接近物体を検知し、接近物体の画像領域を強調表示させる類の装置があった。例えば、オプティカルフロー方式を利用し、接近物体とカメラの視野の関係を利用し、画面上の中央向きに発生するフロー領域を抽出し、接近物体の領域として特定することで、接近物体検知を実現する装置がある。
【0006】
また、旋回中でも検知が可能なように、ジャイロセンサや車両センサを使用して旋回による水平フロー成分を算出し、この成分をオプティカルフローから減算してフロー補正処理を行い、補正後のフローが画面上の中央向きであるか否かの判定を行い、接近物体検知を実現する装置がある。
【0007】
なお、従来技術として、車両の旋回時における車両のノーズ部分の側方の接近物体を精度良く検出できるノーズビューモニタ装置がある(例えば、特許文献1参照)。
【特許文献1】特開2005−276057号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、自車両の停止位置によっては、カメラと接近物体の位置の関係から必ずしも、接近物体に画面中央向きのフローが発生するわけではなかった。例えば、カメラに対して接近物体の端点が方位一定に見えるような位置や角度で、自車両が交差点に進入してしまった場合や、歩行者や自転車やオートバイが壁沿いに接近する場合、画面中央向きのフローは発生しないため、検知漏れとなる場合があった。
【0009】
また、旋回中において、旋回速度が接近車両の速度に対して早い場合、ジャイロセンサや車両センサから得られる仮想的な旋回による水平フロー成分を減算すると、残差の補正フローが画面外向きになって、検知漏れとなる場合があった。
【0010】
本発明は上述した問題点を解決するためになされたものであり、接近物体の検出の精度を向上させる接近物体検出装置、接近物体検出プログラム、接近物体検出方法を提供することを目的とする。
【課題を解決するための手段】
【0011】
上述した課題を解決するため、本発明の一態様は、接近物体の検出を行う接近物体検出装置であって、撮影された第1画像と第1画像より前に撮影された第2画像とを取得する画像取得部と、画像取得部により取得された第1画像及び第2画像に基づいて、第2画像内の第2点に対応する第1画像内の第1点を検索する検索部と、検索部により検索された第2点から第1点へのオプティカルフローを算出するオプティカルフロー算出部と、オプティカルフロー算出部により算出された第2点から第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する判定部とを有する。
【0012】
また、本発明の一態様は、接近物体の検出をコンピュータに実行させる接近物体検出プログラムであって、撮影された第1画像と第1画像より前に撮影された第2画像とを取得し、取得された第1画像及び第2画像に基づいて、第2画像内の第2点に対応する第1画像内の第1点を検索し、検索された第2点から第1点へのオプティカルフローを算出し、算出された第2点から第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定することをコンピュータに実行させる。
【0013】
また、本発明の一態様は、接近物体の検出を行う接近物体検出方法であって、撮影された第1画像と第1画像より前に撮影された第2画像とを取得し、取得された第1画像及び第2画像に基づいて、第2画像内の第2点に対応する第1画像内の第1点を検索し、検索された第2点から第1点へのオプティカルフローを算出し、算出された第2点から第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定することを行う。
【0014】
また、本発明の構成要素、または構成要素の任意の組合せを、方法、装置、システム、記録媒体、データ構造などに適用したものも本発明に含む。
【発明の効果】
【0015】
開示の接近物体検出装置、接近物体検出プログラム、接近物体検出方法によれば、接近物体の検出の精度を向上させることができる。
【発明を実施するための最良の形態】
【0016】
以下、本発明の実施の形態について図面を参照しつつ説明する。
【0017】
(実施の形態1)
本実施の形態においては、本発明の接近物体検出装置が適用された接近物体表示装置について説明する。本実施の形態の接近物体表示装置は、車両に搭載される。以下、接近物体表示装置が搭載された車両を自車両と呼ぶ。
【0018】
本実施の形態の接近物体表示装置は、連続して撮影された映像データからオプティカルフローの垂直(鉛直)成分を算出し、算出された垂直成分に基づいて接近物体の検出を行う。
【0019】
実施の形態1の接近物体表示装置の構成について以下に説明する。
【0020】
図1は、実施の形態1の接近物体表示装置の構成の一例を示すブロック図である。この接近物体表示装置は、カメラ11、画像処理部12a、表示部14、CPU、記憶部16、角速度センサ17(第1運動測定部、第2運動測定部)、車速センサ18を有する。
【0021】
画像処理部12aは、例えばCPU(Central Processing Unit)により実現される。このCPUは、記憶部16に格納された接近物体検出プログラムを実行することにより、接近物体検出機能を実現する。
【0022】
なお、角速度センサ17の代わりに、接近物体表示装置の外部に設けられた角速度センサが用いられても良い。また、車速センサ18の代わりに、接近物体表示装置の外部に設けられた車速センサが用いられても良い。ここでは、角速度を取得するために角速度センサを用いたが、角速度センサ以外に加速度センサ等、カメラ11の鉛直方向の運動に関する測定を行うセンサを用いても良い。
【0023】
画像処理部12aの構成について以下に説明する。
【0024】
図2は、画像処理部12aの構成の一例を示すブロック図である。この画像処理部12aは、特徴点抽出部21、オプティカルフロー算出部22、特徴点情報記録部23、縦揺れフロー算出部31(運動成分算出部)、縦揺れ補正部32(オプティカルフロー補正部)、接近物体判定部33a(判定部、領域決定部)、映像取得部34(画像取得部)、車両状態取得部35(測定値取得部)、映像合成部36(画像生成部)を有する。
【0025】
車両状態取得部35は、角速度センサ17により測定された角速度や車速センサ18により測定された車速を取得する。
【0026】
本実施の形態の接近物体表示装置の動作について以下に説明する。
【0027】
カメラ11は、自車両の左右方向を撮影するように調整されたプリズムレンズを有し、所定のフレーム時間間隔で撮影する。カメラ11が自車両の左右方向に向けて設けられることにより、見通しの悪い交差点でユーザの死角となる左右道路の交通状況を撮影することができる。フレーム時間間隔は、例えば1/30秒である。なお、カメラ11は、自車両の左右方向を撮影できる魚眼レンズを有しても良い。
【0028】
図3は、実施の形態1の接近物体表示装置の動作の一例を示すフローチャートである。映像取得部34は、カメラ11により撮影された映像データをレーム時間間隔毎に取得する(S11)。なお、カメラ11は、複数であっても良い。この場合、映像取得部34は、カメラ11のそれぞれにより撮影された映像を合成して映像データとする。例えば、自車両の左方を向いて設置されたカメラ11からの映像を映像データの左半分に配置し、自車両の右方を向いて設置されたカメラ11からの映像を映像データの右半分に配置する。
【0029】
次に、特徴点抽出部21は、映像データ内の特徴点(注目点)を抽出する(S12)。特徴点の抽出には、例えば、車両外形の凸凹領域に良く反応するコーナー抽出処理を用いる。コーナー抽出処理には、Harrisオペレータや、KLT(Kanade-Lucas Track)オペレータを用いる。
【0030】
特徴点抽出部21は、抽出された特徴点に関する情報を特徴点情報として特徴点情報記録部23へ記録する(S13)。ここで、特徴点情報記録部23は、記憶部16により実現される。図4は、実施の形態1の特徴点情報の構成の一例を示す表である。この図は、時刻tにおける特徴点情報と、時刻t+1における特徴点情報とを示す。特徴点情報は、特徴点IDと、特徴点の最新の座標値の周辺の画像データである周辺画像データ(例えば9×9画素)と、フレーム毎の特徴点の対応点の(x,y)座標及びフレーム時刻のリストである対応点リストとを含む。
【0031】
次に、オプティカルフロー算出部22は、特徴点情報記録部23に登録されている、最新の特徴点の座標値と周辺画像データに基づいて、現在の映像データI(t+1)において特徴点に対応する点である対応点を所定範囲内で検索する(S14)。次に、オプティカルフロー算出部22は、例えばブロックマッチング法によりオプティカルフローを算出する(S15)。オプティカルフロー算出部22は、I(t+1)において探索された対応点の座標値とフレーム時刻t+1とを特徴点情報におけるリストへ追加し、特徴点情報における周辺画像データをI(t+1)における周辺画像データに更新する(S16)。
【0032】
ここで、時刻tにおける映像データI(t)は、第2画像に対応する。また、時刻t+1における映像データI(t+1)は、第1画像に対応する。
【0033】
次に、接近物体判定部33aは、特徴点情報記録部23に登録されている最新の特徴点について、所定の垂直成分条件を満たす特徴点を選択して選択特徴点とし(S17)、このフローは終了する。ここで、垂直成分条件は、オプティカルフローの垂直成分の大きさが所定の垂直成分閾値を上回ることである。オプティカルフローは、登録されているリスト内の2つの座標値の減算によって算出される。第1の垂直成分条件は、オプティカルフローの垂直成分と垂直成分閾値Th1とを用いた次式で表される。
【0034】
|yi,t+1−yi,t| > Th1
【0035】
また、オプティカルフロー算出部22は、垂直成分条件を、時間間隔nだけ過去の対応点から最新の対応点までのオプティカルフローである長時間オプティカルフローを算出する。接近物体判定部33aは、単位時間間隔(フレーム時間間隔)のオプティカルフローの垂直成分(動き量)が小さいと判定した場合、第2の垂直成分条件を用いて選択特徴点を選択する。第2の垂直成分条件は、長時間オプティカルフローの垂直成分の大きさが所定の垂直成分閾値Th2を上回ることである。第2の垂直成分条件は、長時間オプティカルフローの垂直成分と垂直成分閾値Th2とを用いた次式で表される。
【0036】
|yi,t+1−yi,t-n+1| > Th2
【0037】
ここで、時刻t−n+1における映像データI(t−n+1)は、第3画像に対応する。
【0038】
Th1及びTh2は、例えば1ピクセルである。
【0039】
このように、接近物体が自車両へ接近する速度成分が小さい場合、長時間オプティカルフローを算出することにより、選択特徴点の検出精度を高めることができる。
【0040】
また、本実施の形態の画像処理部12aは、自車両のブレーキや路面の凹凸で縦揺れする(鉛直方向に運動する)場合に発生する背景フロー(背景のオプティカルフロー)の垂直成分である縦揺れフローを、オプティカルフローから除去する。
【0041】
車両状態取得部35は、角速度センサ17により測定された角速度を取得する。縦揺れフロー算出部31は、車両状態取得部35により得られた角速度に基づいて縦揺れフローを算出する。縦揺れ補正部32は、オプティカルフローの垂直成分から縦揺れフローを減算して垂直残差フローとする。接近物体判定部33aは、オプティカルフローの垂直成分の代わりに垂直残差フローに対して垂直成分条件の判定を行う。つまり、第1の垂直成分条件は、垂直残差フローの大きさがTh1を上回ることである。
【0042】
同様に、縦揺れ補正部32は、長時間オプティカルフローの垂直成分から縦揺れフローを減算して長時間垂直残差フローとする。第2の垂直成分条件は、長時間垂直残差フローの大きさがTh2を上回ることである。
【0043】
ここで、車両状態取得部35が角速度センサ17から3軸の角速度を取得する場合の、縦揺れフロー算出部31及び縦揺れ補正部32の動作の詳細について説明する。
【0044】
ある特徴点について、垂直成分を評価する時間間隔(フレーム時間間隔)がΔtである場合、縦揺れフロー算出部31は、時刻t−Δtから時刻tまで、角速度センサから得られたある座標軸についての角速度wを積分することにより、変位角Wを算出する。Wは、次式で表される。
【0045】
W=Σt-Δttw
【0046】
次に、カメラ11の焦点距離がfであり、縦揺れフロー算出部31により3軸についての角速度wx(ピッチ)(第1測定値),wy(ロール),wz(ヨー)(第2測定値)が得られ、それにより変位角Wx(ピッチ),Wy(ロール),Wz(ヨー)が得られる場合、点(x,y)における縦揺れフローvyは次式で算出できる。
【0047】
vy=
(y*y/f+f)*Wx−x*y*Wy/f−x*Wz;
【0048】
カメラ11と角速度センサ17が離れている場合でも、縦揺れフロー算出部31は、3軸の角速度を用いることにより縦揺れフローを精度良く算出することができる。
【0049】
また、車両状態取得部35が角速度センサ17から縦方向(ピッチ)の角速度のみを取得する場合、上述のvyの算出式において、Wy=Wz=0として良い。
【0050】
カメラ11と角速度センサ17が近く同様の運動を行う場合、縦揺れフロー算出部31は、縦方向の角速度のみを用いて縦揺れフローを算出することができる。
【0051】
縦揺れ補正部32は、オプティカルフローの垂直成分から縦揺れフローを減算し、垂直残差フローVを算出する。Vは、次式で表される。
【0052】
V = yi,t+1−yi,t-n+1−vy
【0053】
接近物体判定部33aは、次式に示される垂直成分条件を満たすか否かの判定を行う。
【0054】
|V|>Th1
【0055】
次に、接近物体判定部33aは、選択された選択特徴点の座標に対して2次元画像上でのクラスタリング処理を行い、接近物体の領域を特定して接近物体領域とする。クラスタリング処理は、例えば、所定の画像距離以下にある特徴点同士を1つのクラスタとみなす処理である。
【0056】
映像合成部36は、カメラ11からの映像データに、接近物体判定部33aにより出力された接近物体領域を合成して合成映像データ(合成画像)とする。表示部14は、映像合成部36により合成された合成映像データを表示する。
(実施の形態2)
【0057】
本実施の形態の接近物体表示装置は、連続して撮影された画像からオプティカルフローの垂直成分及び水平成分を算出し、算出された垂直成分及び水平成分に基づいて接近物体の検出を行う。
【0058】
実施の形態2の接近物体表示装置の構成は、実施の形態1の接近物体表示装置の構成と比較すると、画像処理部12aの代わりに画像処理部12bを有する。
【0059】
画像処理部12bの構成について以下に説明する。
【0060】
図5は、画像処理部12bの構成の一例を示すブロック図である。この図において、図2と同一符号は図2に示された対象と同一又は相当物を示しており、ここでの説明を省略する。画像処理部12bは、画像処理部12aと比較すると、接近物体判定部33aの代わりに接近物体判定部33bを有し、新たに、旋回フロー算出部41(運動成分算出部)、旋回補正部42(オプティカルフロー補正部)を有する。
【0061】
例えば、角速度センサ17は、縦方向の角速度の他に、カメラ11が設置された自車両の旋回(水平方向、ヨー)の角速度wz(第2測定値)を測定する。旋回フロー算出部41は、車両状態取得部35により取得された角速度に基づいて、画面上の旋回による背景フローの水平成分である旋回フローを算出する。旋回補正部42は、算出された旋回フローを、オプティカルフローの水平成分から減算して水平残差フローとする。
【0062】
接近物体判定部33bは、所定の垂直成分条件または所定の水平成分条件を満たす特徴点を選択して選択特徴点とする。ここで、垂直成分条件は、垂直残差フローの大きさが所定の垂直成分閾値を上回ることとする。また、水平成分条件は、旋回補正部42により算出された水平残差フローが中央向きを正の向きとして所定の水平成分閾値を上回ることである。
【0063】
なお、垂直成分条件は、垂直残差フローの大きさが所定の垂直成分閾値を上回り、且つ垂直残差フローが中央向きであること、としても良い。
【0064】
なお、接近物体判定部33bは、更に車速センサ18により測定された車速を用いて選択特徴点を選択しても良い。この場合、まず、接近物体判定部33bは、車速センサ18により測定された車速を取得する。次に、接近物体判定部33bは、車速が所定の車速閾値を下回るか否かの判定を行う。車速が所定の車速閾値を下回る場合、水平成分条件を満たす特徴点を選択して選択特徴点とする。車速が車速閾値以上である場合、垂直成分条件を満たす特徴点を選択して選択特徴点とする。
【0065】
上述した各実施の形態における映像データ及びオプティカルフローの具体例について以下に説明する。
【0066】
ここで、カメラ11に設けられたプリズムレンズにより、映像データの左半分の領域である左領域は、自車両の左方が撮影された映像となり、映像データの右半分の領域である右領域は、自車両の右方が撮影された映像となる。以下、映像データにおいて左領域と右領域とを分ける線を中央線と呼ぶ。
【0067】
オプティカルフローの水平成分が中央線方向であるか否かの判定により接近物体を検出する比較例について以下に説明する。
【0068】
図6は、第1状態における自車両と接近物体の位置関係の一例を示す平面図である。この図は、自車両62、構造物63、カメラ視野64a,64b、接近物体位置65a,65b、特徴点66a,66bを示す。カメラ視野64aは、映像データの左半分に対応し、カメラ視野64bは、映像データの右半分に対応する。また、この図において、X軸及びZ軸は、自車両を基準とした座標系である。原点Oは、カメラ11の撮像位置を示し、X軸は、自車両の後方を示し、Z軸は、自車両の右方を示す。特徴点66bは、特徴点66aの対応点である。
【0069】
第1状態は、自車両62が交差点に進入する前に一時停止し、且つカメラ視野64aにおける接近物体が接近物体位置65aから65bへ移動して自車両62へ接近している状態である。また、接近物体位置65aは、時刻t1で撮影された接近物体の位置を示し、接近物体位置65aは、時刻t1+1(時刻t1の次のフレームの時刻)で撮影された接近物体の位置を示す。
【0070】
図7は、第1状態におけるオプティカルフローの一例を示す概念図である。この図は、特徴点66bのオプティカルフローの水平成分71bと、旋回フロー72bと、オプティカルフローの水平成分71bから旋回フロー72bを減算した結果である水平残差フロー73bとを示す。第1状態において、水平残差フロー73bは、中央線の方向を指す。従って、特徴点66bは、オプティカルフローの水平成分により接近物体として検出されることができる。
【0071】
図8は、第2状態における映像データとオプティカルフローの一例を示す概念図である。第2状態は、自車両62が交差点に進入する前に一時停止し、且つカメラ視野64aにおける接近物体61aとカメラ視野64bにおける接近物体61bとが自車両62へ接近している状態である。この図において、黒の矢印は、オプティカルフローを表す。第2状態において、接近物体61a,61bの各特徴点のオプティカルフローの水平成分は、中央線の方向を指す。従って、接近物体61a,61bは、オプティカルフローの水平成分が中央線方向であるか否かの判定により、接近物体として検出されることができる。
【0072】
図9は、第3状態における自車両と接近物体の位置関係の一例を示す平面図である。この図は、上述の第1状態と同様であるが、接近物体位置65a,65bの代わりに接近物体位置65c,65dを示し、特徴点66a,66bの代わりに特徴点66c,66dを示す。
【0073】
第3状態は、自車両62が交差点に進入する前に一時停止し、且つカメラ視野64aにおける接近物体が接近物体位置65cから65dへ移動して自車両62へ接近している状態である。また、接近物体位置65cは、時刻t2で撮影された接近物体の位置を示し、接近物体位置65dは、時刻t2+1(時刻t1の次のフレームの時刻)で撮影された接近物体の位置を示す。第3状態において、特徴点66cから特徴点66dへのオプティカルフローの水平成分は、中央線と逆の方向を指す。従って、オプティカルフローの水平成分が中央線方向であるか否かの判定だけを用いると、特徴点66dは、接近物体として検出されない。
【0074】
図10は、第3状態におけるオプティカルフローの一例を示す概念図である。この図は、特徴点66dのオプティカルフローの水平成分71dと、旋回フロー72dと、オプティカルフローの水平成分71dから旋回フロー72dを減算した結果である水平残差フロー73dとを示す。第3状態において、水平残差フロー73dは、中央線と逆の方向を指す。従って、オプティカルフローの水平成分が中央線方向であるか否かの判定だけを用いると、特徴点66dは、接近物体として検出されない。
【0075】
図11は、第4状態における自車両と接近物体の位置関係の一例を示す平面図である。この図は、上述の第1状態と同様であるが、接近物体位置65a,65bの代わりに接近物体位置65e,65fを示し、特徴点66a,66bの代わりに特徴点66e,66fを示す。
【0076】
第4状態は、自車両62が交差点へ進入して右旋回し、且つカメラ視野64aにおける接近物体が接近物体位置65eから65fへ移動して自車両62へ接近している状態である。また、接近物体位置65eは、時刻t3で撮影された接近物体の位置を示し、接近物体位置65fは、時刻t3+1(時刻t3の次のフレームの時刻)で撮影された接近物体の位置を示す。第4状態において、特徴点66eから特徴点66fへのオプティカルフローの水平成分は、ほとんど無い。従って、オプティカルフローの水平成分が中央線方向であるか否かの判定だけを用いると、特徴点66fは、接近物体として検出されない。
【0077】
図12は、第5状態における映像データとオプティカルフローの一例を示す概念図である。第5状態は、自車両62が交差点へ進入して右旋回し、且つカメラ視野64aにおける接近物体61aとカメラ視野64bにおける接近物体61bとが自車両62へ接近している状態である。この図において、黒の矢印は、オプティカルフローを表す。第5状態においては、接近物体61a,61bの各特徴点のオプティカルフローの水平成分は、自車両の右旋回により、左方向を指す。
【0078】
図13は、第5状態における映像データと旋回フローの一例を示す概念図である。この図において、黒の矢印は、旋回フローを表す。第5状態において、接近物体61a,61bの各特徴点の旋回フローは、自車両の右旋回により、左方向を指す。
【0079】
図14は、第5状態における映像データと水平残差フローの一例を示す概念図である。この図において、黒の矢印は、水平残差フローを表す。第5状態において、接近物体61a,61bの各特徴点の水平残差フローは、オプティカルフローの水平成分と旋回フローにより、左方向を指す。従って、オプティカルフローの水平成分が中央線方向であるか否かの判定だけを用いると、接近物体61bは、接近物体として検出されるが、接近物体61aは、接近物体として検出されない。
【0080】
実施の形態1及び実施の形態2に示されたようなオプティカルフローの垂直成分に基づいて接近物体を検出する場合の具体例について以下に説明する。
【0081】
図15は、第6状態における映像データとオプティカルフローの一例を示す概念図である。第6状態は、自車両62が交差点へ進入して右旋回し、且つカメラ視野64aにおける接近物体61aとカメラ視野64bにおける接近物体61bとが自車両62へ接近し、且つカメラ11が上へ揺れた状態である。この図において、黒の矢印は、オプティカルフローを表す。第6状態においては、接近物体61a,61bの各特徴点のオプティカルフローの水平成分は、自車両の右旋回により、左方向を指す。
【0082】
図16は、第6状態における映像データとオプティカルフローの垂直成分の一例を示す概念図である。この図において、黒の矢印は、オプティカルフローの垂直成分を表す。第6状態において、接近物体61a,61b以外(背景)のオプティカルフローの垂直成分は、カメラ11が上へ揺れたことにより、下方向を指す。
【0083】
図17は、第6状態における映像データと縦揺れフローの一例を示す概念図である。この図において、黒の矢印は、縦揺れフローを表す。第6状態において、各縦揺れフローは、カメラ11が上へ揺れたことにより、下方向を指す。
【0084】
図18は、第6状態における映像データと垂直残差フローの一例を示す概念図である。この図において、黒の矢印は、垂直残差フローを表す。第6状態において、接近物体61a,61b以外(背景)の垂直残差フローは、縦揺れ補正部32の処理により、ほとんど無くなる。また、接近物体61a,61bの各特徴点の垂直残差フローだけが、大きく現れる。従って、実施の形態1及び実施の形態2に示されたようなオプティカルフローの垂直成分の大きさの判定により、接近物体61a,61bは、接近物体として検出される。
【0085】
上述した各実施の形態によれば、画面中央向きの水平成分だけに着目した場合にカメラと接近物体の関係によって原理的に検出困難な接近物体についても、オプティカルフローの垂直成分に着目して接近物体を抽出することにより、検知可能となる。
【0086】
また、上述した各実施の形態によれば、自車両またはカメラに縦揺れが発生した場合でも、接近物体を検知することが可能である。
【0087】
また、上述した実施の形態2によれば、自車両の旋回速度が速い場合でも、接近物体の検知が可能となる。
【0088】
また、上述した実施の形態2によれば、画像中における接近物体の水平移動量が垂直移動量に比べて大きい場合、水平成分条件を用いて選択特徴点を抽出したほうが早期に検知することが可能になる。実施の形態2によれば、オプティカルフローの垂直成分と水平成分の両方を用いて統合的に判断することで、選択特徴点の検出性能を向上させることが可能になる。
【0089】
また、上述した各実施の形態によれば、特徴点を抽出して追跡し、特徴点から選択特徴点を選択することにより、画像上のすべての点について演算処理する必要がなく、演算すべき画素を効果的に選択できるので、低コストで実現可能である。
【0090】
また、本発明に係る接近物体検出装置は、移動体のカメラや交差点における固定カメラ等に容易に適用することができ、カメラの性能をより高めることができる。
【0091】
なお、本発明は以下に示すようなコンピュータシステムにおいて適用可能である。図19は、本発明が適用されるコンピュータシステムの一例を示す図である。この図に示すコンピュータシステム900は、CPUやディスクドライブ等を内蔵した本体部901、本体部901からの指示により画像を表示するディスプレイ902、コンピュータシステム900に種々の情報を入力するためのキーボード903、ディスプレイ902の表示画面902a上の任意の位置を指定するマウス904及び外部のデータベース等にアクセスして他のコンピュータシステムに記憶されているプログラム等をダウンロードする通信装置905を有する。通信装置905は、ネットワーク通信カード、モデムなどが考えられる。
【0092】
上述したような、接近物体検出装置を構成するコンピュータシステムにおいて上述した各ステップを実行させるプログラムを、接近物体検出プログラムとして提供することができる。このプログラムは、コンピュータシステムにより読み取り可能な記録媒体に記憶させることによって、接近物体検出装置を構成するコンピュータシステムに実行させることが可能となる。上述した各ステップを実行するプログラムは、ディスク910等の可搬型記録媒体に格納されるか、通信装置905により他のコンピュータシステムの記録媒体906からダウンロードされる。また、コンピュータシステム900に少なくとも接近物体検出機能を持たせる接近物体検出プログラムは、コンピュータシステム900に入力されてコンパイルされる。このプログラムは、コンピュータシステム900を、接近物体検出機能を有する接近物体検出システムとして動作させる。また、このプログラムは、例えばディスク910等のコンピュータ読み取り可能な記録媒体に格納されていても良い。ここで、コンピュータシステム900により読み取り可能な記録媒体としては、ROMやRAM等のコンピュータに内部実装される内部記憶装置、ディスク910やフレキシブルディスク、DVDディスク、光磁気ディスク、ICカード等の可搬型記憶媒体や、コンピュータプログラムを保持するデータベース、或いは、他のコンピュータシステム並びにそのデータベースや、通信装置905のような通信手段を介して接続されるコンピュータシステムでアクセス可能な各種記録媒体を含む。
【0093】
本発明は、その精神または主要な特徴から逸脱することなく、他の様々な形で実施することができる。そのため、前述の実施の形態は、あらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。本発明の範囲は、特許請求の範囲によって示すものであって、明細書本文には、何ら拘束されない。更に、特許請求の範囲の均等範囲に属する全ての変形、様々な改良、代替および改質は、全て本発明の範囲内のものである。
【0094】
以上の実施の形態1〜2に関し、更に以下の付記を開示する。
(付記1)
接近物体の検出を行う接近物体検出装置であって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得する画像取得部と、
前記画像取得部により取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索する検索部と、
前記検索部により検索された前記第2点から前記第1点へのオプティカルフローを算出するオプティカルフロー算出部と、
前記オプティカルフロー算出部により算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する判定部と、
を備える接近物体検出装置。
(付記2)
前記判定部は、前記オプティカルフロー算出部により算出された前記第1点へのオプティカルフローの鉛直成分の大きさに基づいて、該第1点が接近物体を示すか否かを判定する、
付記1に記載の接近物体検出装置。
(付記3)
前記画像取得部は更に、前記第2画像より前に撮影された第3画像を取得し、
前記検索部は更に、前記画像取得部により取得された前記第3画像及び前記第1画像及び前記第2画像に基づいて、前記第3画像内の第3点に対応する前記第1画像内の第1点を検索し、
前記オプティカルフロー算出部は、前記検索部により検索された前記第3点から前記第1点へのオプティカルフローを算出し、
前記判定部は、前記オプティカルフロー算出部により算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分の大きさが所定の鉛直成分閾値より小さい場合、前記第3点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
付記2に記載の接近物体検出装置。
(付記4)
前記接近物体検出装置の鉛直方向の運動に関する第1測定値を取得する測定値取得部と、
前記測定値取得部により取得された前記第1測定値に基づいて、鉛直方向の運動に起因する前記オプティカルフローの成分である第1成分を算出する運動成分算出部と、
前記運動成分算出部により算出された第1成分を、前記オプティカルフローの鉛直成分から減算することにより前記オプティカルフローの鉛直成分を補正するオプティカルフロー補正部と、
を更に備え、
前記判定部は、前記オプティカルフロー補正部により補正された前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
付記1に記載の接近物体検出装置。
(付記5)
前記測定値取得部は更に、前記接近物体検出装置の水平方向の運動に関する第2測定値を取得し、
前記運動成分算出部は更に、前記測定値取得部により取得された前記第2測定値に基づいて、水平方向の運動に起因する前記オプティカルフローの成分である第2成分を算出し、
前記オプティカルフロー補正部は更に、前記運動成分算出部により算出された第2成分を、前記オプティカルフローの水平成分から減算することにより前記オプティカルフローの水平成分を補正し、
前記判定部は、前記オプティカルフロー補正部により補正された前記第1点へのオプティカルフローの鉛直成分及び水平成分に基づいて、該第1点が接近物体を示すか否かを判定する、
付記4に記載の接近物体検出装置。
(付記6)
前記判定部は、前記オプティカルフロー算出部により算出された前記第1点へのオプティカルフローの鉛直成分の大きさと水平成分の方向及び大きさとに基づいて、該第1点が接近物体を示すか否かを判定する、
付記1に記載の接近物体検出装置。
(付記7)
前記測定値取得部は更に、前記接近物体検出装置の移動速度を取得し、
前記判定部は、前記測定値取得部により取得された前記移動速度に基づいて前記第1点へのオプティカルフローの鉛直成分及び水平成分の少なくともいずれかを選択して選択成分とし、前記選択成分に基づいて該第1点が接近物体を示すか否かを判定する、
付記6に記載の接近物体検出装置。
(付記8)
前記判定部は、前記移動速度が所定の速度閾値より大きい場合、前記第1点へのオプティカルフローの鉛直成分を前記選択成分として選択する、
付記7に記載の接近物体検出装置。
(付記9)
前記第1画像から特徴点を抽出して前記第1点とし、前記第2画像から特徴点を抽出して前記第2点とする特徴点抽出部を、
更に備える、
付記1に記載の接近物体検出装置。
(付記10)
前記特徴点抽出部は、コーナー抽出処理により特徴点を抽出する、
付記9に記載の接近物体検出装置。
(付記11)
前記判定部により接近物体を示すと判定された複数の第1点に基づいて、該接近物体を示す領域を決定する領域決定部を、
更に備える、
付記1に記載の接近物体検出装置。
(付記12)
前記領域決定部は、前記判定部により接近物体を示すと判定された複数の第1点に対するクラスタリング処理により、前記接近物体を示す領域を決定する、
付記1に記載の接近物体検出装置。
(付記13)
前記領域決定部により決定された前記領域と前記第2画像とを合成した合成画像を生成する画像生成部を、
更に備える、
付記12に記載の接近物体検出装置。
(付記14)
前記画像生成部により生成された合成画像を表示する表示部を、
更に備える、
付記13に記載の接近物体検出装置。
(付記15)
前記第1画像及び前記第2画像を撮影するカメラを、
更に備える、
付記1に記載の接近物体検出装置。
(付記16)
前記接近物体検出装置の前記鉛直方向の運動に関する前記第1測定値を測定する第1運動測定部を、
更に備える、
付記1に記載の接近物体検出装置。
(付記17)
前記接近物体検出装置の前記水平方向の運動に関する前記第2測定値を測定する第2運動測定部を、
更に備える、
付記16に記載の接近物体検出装置。
(付記18)
前記第1運動測定部は、角速度センサである、
付記16に記載の接近物体検出装置。
(付記19)
接近物体の検出をコンピュータに実行させる接近物体検出プログラムであって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得し、
取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索し、
検索された前記第2点から前記第1点へのオプティカルフローを算出し、
算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
ことをコンピュータに実行させる接近物体検出プログラム。
(付記20)
接近物体の検出を行う接近物体検出方法であって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得し、
取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索し、
検索された前記第2点から前記第1点へのオプティカルフローを算出し、
算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
ことを行う接近物体検出方法。
【図面の簡単な説明】
【0095】
【図1】実施の形態1の接近物体表示装置の構成の一例を示すブロック図である。
【図2】画像処理部12aの構成の一例を示すブロック図である。
【図3】実施の形態1の接近物体表示装置の動作の一例を示すフローチャートである。
【図4】実施の形態1の特徴点情報の構成の一例を示す表である。
【図5】画像処理部12bの構成の一例を示すブロック図である。
【図6】第1状態における自車両と接近物体の位置関係の一例を示す平面図である。
【図7】第1状態におけるオプティカルフローの一例を示す概念図である。
【図8】第2状態における映像データとオプティカルフローの一例を示す概念図である。
【図9】第3状態における自車両と接近物体の位置関係の一例を示す平面図である。
【図10】第3状態におけるオプティカルフローの一例を示す概念図である。
【図11】第4状態における自車両と接近物体の位置関係の一例を示す平面図である。
【図12】第5状態における映像データとオプティカルフローの一例を示す概念図である。
【図13】第5状態における映像データと旋回フローの一例を示す概念図である。
【図14】第5状態における映像データと水平残差フローの一例を示す概念図である。
【図15】第6状態における映像データとオプティカルフローの一例を示す概念図である。
【図16】第6状態における映像データとオプティカルフローの垂直成分の一例を示す概念図である。
【図17】第6状態における映像データと縦揺れフローの一例を示す概念図である。
【図18】第6状態における映像データと垂直残差フローの一例を示す概念図である。
【図19】本発明が適用されるコンピュータシステムの一例を示す図である。
【符号の説明】
【0096】
11 カメラ、12a,12b 画像処理部、14 表示部、16 記憶部、17 角速度センサ、18 車速センサ、21 特徴点抽出部、22 オプティカルフロー算出部、23 特徴点情報記録部、31 縦揺れフロー算出部、32 縦揺れ補正部、33a,33b 接近物体判定部、34 映像取得部、35 車両状態取得部、36 映像合成部、41 旋回フロー算出部、42 旋回補正部。
【特許請求の範囲】
【請求項1】
接近物体の検出を行う接近物体検出装置であって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得する画像取得部と、
前記画像取得部により取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索する検索部と、
前記検索部により検索された前記第2点から前記第1点へのオプティカルフローを算出するオプティカルフロー算出部と、
前記オプティカルフロー算出部により算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する判定部と、
を備える接近物体検出装置。
【請求項2】
前記判定部は、前記オプティカルフロー算出部により算出された前記第1点へのオプティカルフローの鉛直成分の大きさに基づいて、該第1点が接近物体を示すか否かを判定する、
請求項1に記載の接近物体検出装置。
【請求項3】
前記画像取得部は更に、前記第2画像より前に撮影された第3画像を取得し、
前記検索部は更に、前記画像取得部により取得された前記第3画像及び前記第1画像及び前記第2画像に基づいて、前記第3画像内の第3点に対応する前記第1画像内の第1点を検索し、
前記オプティカルフロー算出部は、前記検索部により検索された前記第3点から前記第1点へのオプティカルフローを算出し、
前記判定部は、前記オプティカルフロー算出部により算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分の大きさが所定の鉛直成分閾値より小さい場合、前記第3点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
請求項2に記載の接近物体検出装置。
【請求項4】
前記接近物体検出装置の鉛直方向の運動に関する第1測定値を取得する測定値取得部と、
前記測定値取得部により取得された前記第1測定値に基づいて、鉛直方向の運動に起因する前記オプティカルフローの成分である第1成分を算出する運動成分算出部と、
前記運動成分算出部により算出された第1成分を、前記オプティカルフローの鉛直成分から減算することにより前記オプティカルフローの鉛直成分を補正するオプティカルフロー補正部と、
を更に備え、
前記判定部は、前記オプティカルフロー補正部により補正された前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
請求項1乃至請求項3のいずれかに記載の接近物体検出装置。
【請求項5】
前記測定値取得部は更に、前記接近物体検出装置の水平方向の運動に関する第2測定値を取得し、
前記運動成分算出部は更に、前記測定値取得部により取得された前記第2測定値に基づいて、水平方向の運動に起因する前記オプティカルフローの成分である第2成分を算出し、
前記オプティカルフロー補正部は更に、前記運動成分算出部により算出された第2成分を、前記オプティカルフローの水平成分から減算することにより前記オプティカルフローの水平成分を補正し、
前記判定部は、前記オプティカルフロー補正部により補正された前記第1点へのオプティカルフローの鉛直成分及び水平成分に基づいて、該第1点が接近物体を示すか否かを判定する、
請求項4に記載の接近物体検出装置。
【請求項6】
接近物体の検出をコンピュータに実行させる接近物体検出プログラムであって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得し、
取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索し、
検索された前記第2点から前記第1点へのオプティカルフローを算出し、
算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
ことをコンピュータに実行させる接近物体検出プログラム。
【請求項7】
接近物体の検出を行う接近物体検出方法であって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得し、
取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索し、
検索された前記第2点から前記第1点へのオプティカルフローを算出し、
算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
ことを行う接近物体検出方法。
【請求項1】
接近物体の検出を行う接近物体検出装置であって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得する画像取得部と、
前記画像取得部により取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索する検索部と、
前記検索部により検索された前記第2点から前記第1点へのオプティカルフローを算出するオプティカルフロー算出部と、
前記オプティカルフロー算出部により算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する判定部と、
を備える接近物体検出装置。
【請求項2】
前記判定部は、前記オプティカルフロー算出部により算出された前記第1点へのオプティカルフローの鉛直成分の大きさに基づいて、該第1点が接近物体を示すか否かを判定する、
請求項1に記載の接近物体検出装置。
【請求項3】
前記画像取得部は更に、前記第2画像より前に撮影された第3画像を取得し、
前記検索部は更に、前記画像取得部により取得された前記第3画像及び前記第1画像及び前記第2画像に基づいて、前記第3画像内の第3点に対応する前記第1画像内の第1点を検索し、
前記オプティカルフロー算出部は、前記検索部により検索された前記第3点から前記第1点へのオプティカルフローを算出し、
前記判定部は、前記オプティカルフロー算出部により算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分の大きさが所定の鉛直成分閾値より小さい場合、前記第3点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
請求項2に記載の接近物体検出装置。
【請求項4】
前記接近物体検出装置の鉛直方向の運動に関する第1測定値を取得する測定値取得部と、
前記測定値取得部により取得された前記第1測定値に基づいて、鉛直方向の運動に起因する前記オプティカルフローの成分である第1成分を算出する運動成分算出部と、
前記運動成分算出部により算出された第1成分を、前記オプティカルフローの鉛直成分から減算することにより前記オプティカルフローの鉛直成分を補正するオプティカルフロー補正部と、
を更に備え、
前記判定部は、前記オプティカルフロー補正部により補正された前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
請求項1乃至請求項3のいずれかに記載の接近物体検出装置。
【請求項5】
前記測定値取得部は更に、前記接近物体検出装置の水平方向の運動に関する第2測定値を取得し、
前記運動成分算出部は更に、前記測定値取得部により取得された前記第2測定値に基づいて、水平方向の運動に起因する前記オプティカルフローの成分である第2成分を算出し、
前記オプティカルフロー補正部は更に、前記運動成分算出部により算出された第2成分を、前記オプティカルフローの水平成分から減算することにより前記オプティカルフローの水平成分を補正し、
前記判定部は、前記オプティカルフロー補正部により補正された前記第1点へのオプティカルフローの鉛直成分及び水平成分に基づいて、該第1点が接近物体を示すか否かを判定する、
請求項4に記載の接近物体検出装置。
【請求項6】
接近物体の検出をコンピュータに実行させる接近物体検出プログラムであって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得し、
取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索し、
検索された前記第2点から前記第1点へのオプティカルフローを算出し、
算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
ことをコンピュータに実行させる接近物体検出プログラム。
【請求項7】
接近物体の検出を行う接近物体検出方法であって、
撮影された第1画像と前記第1画像より前に撮影された第2画像とを取得し、
取得された前記第1画像及び前記第2画像に基づいて、前記第2画像内の第2点に対応する前記第1画像内の第1点を検索し、
検索された前記第2点から前記第1点へのオプティカルフローを算出し、
算出された前記第2点から前記第1点へのオプティカルフローの鉛直成分に基づいて、該第1点が接近物体を示すか否かを判定する、
ことを行う接近物体検出方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【公開番号】特開2010−128869(P2010−128869A)
【公開日】平成22年6月10日(2010.6.10)
【国際特許分類】
【出願番号】特願2008−303948(P2008−303948)
【出願日】平成20年11月28日(2008.11.28)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
【公開日】平成22年6月10日(2010.6.10)
【国際特許分類】
【出願日】平成20年11月28日(2008.11.28)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
[ Back to top ]