移動体判定情報生成装置、移動体判定情報生成システム、コンピュータプログラム及び移動体判定情報生成方法
【課題】人手を介さずに移動体判定情報を生成することができる移動体判定情報生成装置、移動体判定情報生成システム、コンピュータプログラム及び移動体判定情報生成方法を提供する。
【解決手段】車両検出部102は、移動体を示す画素領域である移動体領域を検出する。車両追跡部103は、車両検出部102で検出した移動体領域を、その後の撮像時点での撮像画像上で追跡領域として追跡する。データ収集部106は、車両検出部102での検出結果及び車両追跡部103での追跡結果に基づいて、検出した移動体領域又は追跡した追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する。
【解決手段】車両検出部102は、移動体を示す画素領域である移動体領域を検出する。車両追跡部103は、車両検出部102で検出した移動体領域を、その後の撮像時点での撮像画像上で追跡領域として追跡する。データ収集部106は、車両検出部102での検出結果及び車両追跡部103での追跡結果に基づいて、検出した移動体領域又は追跡した追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置、該移動体判定情報生成装置を備える移動体判定情報生成システム、前記移動体判定情報生成装置を実現するためのコンピュータプログラム及び移動体判定情報生成方法に関する。
【背景技術】
【0002】
路側インフラ装置と車載装置とが、有線又は無線による路車間通信手段により情報を交換し、各装置が単独では実現できなかった機能を実現させるシステムが検討されている。特に、車両の運転者からは死角となる場所に存在する車両又は歩行者を検出した検出情報をインフラ側より車両側に提供することにより事故を抑止する路車協調型安全運転支援システムの検討が進められている。
【0003】
このようなシステムを実現するための主要技術としては、車両の位置情報、自動車、二輪車若しくは歩行者等の車種情報、又は車両等の移動速度若しくは移動方向等を検出するセンサが必要である。計測範囲の広さ、製品寿命、コスト又は性能のバランスなどを考慮すると、画像処理方式のセンサが有力である。この画像処理方式のセンサ(以下、「車両センサ」と称する。)の主要機能である車両検出においては、環境変化が存在する任意の計測地点において高精度な車両検出を実現しなければならない。
【0004】
例えば、高精度な車両検出を実現する方法として、道路画像から車両をオブジェクトとして検出し、サポートベクターマシン(SVM)、あるいはブースティング(Boosting)などに代表される車両・非車両パターンのサンプル学習を通じて、車両・非車両パターンに対する判定基準(境界基準)を生成するパターン認識技術を利用した車両追跡装置が開示されている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2010−92248号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、車両センサを様々な地点に設置することを想定して、各地点で生じ得る様々な非車両パターンのすべてを予め網羅して準備することは極めて困難である。そこで、地点毎に生じ得る車両パターン及び非車両パターンを車両センサの設置地点毎に収集し、収集した車両パターン及び非車両パターンに基づいて車両センサの判定基準を適宜修正又は改善する方法が考えられる。しかし、各地に設置された車両センサ毎にオペレータに車両センサの判定基準を修正させることは、多大な労力及び莫大なコストを必要とするため現実的ではない。
【0007】
本発明は、斯かる事情に鑑みてなされたものであり、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる移動体判定情報生成装置、該移動体判定情報生成装置を備える移動体判定情報生成システム、前記移動体判定情報生成装置を実現するためのコンピュータプログラム及び移動体判定情報生成方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明の第1態様に係る移動体判定情報生成装置は、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置において、複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出する検出手段と、該検出手段で検出した移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡する追跡手段と、前記検出手段での検出結果及び前記追跡手段での追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する生成手段とを備えることを特徴とする。
【0009】
本発明の第2態様に係る移動体判定情報生成装置は、第1態様において、前記生成手段は、前記追跡手段で複数の撮像時点で追跡領域を追跡することができた場合に、前記複数の撮像時点のうちの任意の撮像時点で前記追跡領域の近傍領域で前記検出手段により移動体領域を検出したときは、該移動体領域が非移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする。
【0010】
本発明の第3態様に係る移動体判定情報生成装置は、第2態様において、前記近傍領域は、前記追跡手段で複数の追跡領域を追跡することができた場合、隣り合う追跡領域の間の領域であることを特徴とする。
【0011】
本発明の第4態様に係る移動体判定情報生成装置は、第2態様において、前記近傍領域は、前記追跡手段で追跡領域を追跡することができた場合、該追跡領域の周辺領域であることを特徴とする。
【0012】
本発明の第5態様に係る移動体判定情報生成装置は、第1態様乃至第4態様のいずれか1つにおいて、前記生成手段は、前記追跡手段で複数の撮像時点で追跡領域を追跡することができた場合に、前記複数の撮像時点のうちの任意の撮像時点で前記検出手段により移動体領域を検出することができないときは、前記任意の撮像時点の追跡領域が移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする。
【0013】
本発明の第6態様に係る移動体判定情報生成装置は、第1態様乃至第5態様のいずれか1つにおいて、前記生成手段は、任意の撮像時点で前記検出手段により移動体領域を検出した場合に、前記追跡手段で追跡領域を追跡することができないときは、前記任意の撮像時点の前後の撮像時点及び前記移動体領域の周辺領域で他の追跡領域が存在しない場合、前記移動体領域が非移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする。
【0014】
本発明の第7態様に係る移動体判定情報生成装置は、第1態様乃至第6態様のいずれか1つにおいて、前記追跡手段が追跡する追跡領域が移動体を示すか否かを判定する追跡判定手段を備え、前記追跡手段は、前記追跡領域が移動体を示すものでないと判定された場合、追跡を中止するように構成してあることを特徴とする。
【0015】
本発明の第8態様に係る移動体判定情報生成装置は、第1態様乃至第7態様のいずれか1つにおいて、前記追跡手段が追跡する追跡領域が予め撮像画像上で画定された移動可能領域内にあるか否かを判定する移動可能判定手段を備え、前記追跡手段は、前記追跡領域が前記移動可能領域内にある場合、追跡を継続するように構成してあることを特徴とする。
【0016】
本発明の第9態様に係る移動体判定情報生成装置は、第1態様乃至第8態様のいずれか1つにおいて、サポートベクターマシンを用いて移動体であるか否かを判定する判定手段と、該判定手段で判定するための判定基準を前記生成手段で生成した移動体判定情報を用いて更新する更新手段とを備えることを特徴とする。
【0017】
本発明の第10態様に係る移動体判定情報生成システムは、前述の第1態様に係る移動体判定情報生成装置と、撮像した撮像画像を前記移動体判定情報生成装置へ出力する撮像装置とを備えることを特徴とする。
【0018】
本発明の第11態様に係るコンピュータプログラムは、コンピュータに、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成するステップを実行させるためのコンピュータプログラムにおいて、コンピュータに、複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出するステップと、検出した移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡するステップと、前記検出するステップでの検出結果及び前記追跡するステップでの追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成するステップとを実行させることを特徴とする。
【0019】
本発明の第12態様に係る移動体判定情報生成方法は、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置による移動体判定情報生成方法おいて、複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出するステップと、検出された移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡するステップと、検出結果及び追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成するステップとを含むことを特徴とする。
【0020】
第1態様、第11態様及び第12態様にあっては、複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出する。移動体は、例えば、自動車又は二輪車などの車両である。移動体領域の検出は、パターン認識技術を用いてもよく、あるいは画像中の画素の変化、例えば、エッジ点などの情報に基づいて検出することができる。移動体領域は、例えば、撮像時点(フレーム)毎に車両(移動体)が存在すると判定した領域(例えば、矩形領域)で示すことができる。そして、検出した移動体領域の当該撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡する。追跡処理は、車両(移動体)の検出結果に基づいて行われ、例えば、パターンマッチング、パーティクルフィルタなどのトラッキング技術を用いることができる。追跡領域は、例えば、連続したフレーム間で特定の追跡対象を追跡していることを明示するため識別番号(例えば、車両ID)を付加した形で示すことができる。
【0021】
検出結果及び追跡結果に基づいて、検出した移動体領域又は追跡した追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する。すなわち、移動体の検出結果と追跡結果との両方の情報に基づいて移動体を示す移動体判定情報又は非移動体を示す移動体判定情報を生成する。移動体を示す移動体判定情報は、例えば、車両であるにも関わらず車両として検出することができなかった車両パターン(検出漏れパターン、正例と称する)である。また、非移動体を示す移動体判定情報は、例えば、車両でないにも関わらず車両として誤検出した非車両パターン(誤検出パターン、負例と称する)である。
【0022】
移動体判定情報の生成は、以下のように行うことができる。例えば、追跡領域の追跡が行われている場合に、追跡領域の近傍の領域で車両が検出されたときは、検出した移動体領域は車両でないものを車両として検出したので、当該移動体領域を、非移動体を示す移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。また、追跡領域の追跡が行われている場合に、追跡領域の近傍の領域で車両が検出できないときは、追跡中の車両を非車両として検出したので、追跡領域を、移動体を示す移動体判定情報、すなわち車両であるにも関わらず車両として検出することができなかった車両パターン(正例)として生成する。これにより、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる。
【0023】
第2態様にあっては、複数の撮像時点で追跡領域を追跡することができた場合に、当該複数の撮像時点のうちの任意の撮像時点で当該追跡領域の近傍領域で移動体領域を検出したときは、当該移動体領域が非移動体を示すとして移動体判定情報を生成する。近傍領域は、例えば、同一撮像時点の撮像画像上で複数の追跡領域が存在する場合には、隣り合う追跡領域の間の領域を近傍領域とする。すなわち、2つの車両がほぼ並行して走行している場合に、これら2つの車両の間の領域(近傍領域)で車両が検出される可能性はほとんどないので、仮に当該近傍領域で移動体領域が検出された場合には、当該移動体領域は車両でないものを車両として検出したものであるので、当該移動体領域を、非移動体を示すとして移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。
【0024】
また、1つの車両が走行している場合に、当該車両の周囲の領域(近傍領域)で車両が検出される可能性はほとんどないので、仮に当該近傍領域で移動体領域が検出された場合には、当該移動体領域は車両でないものを車両として検出したものであるので、当該移動体領域を、非移動体を示すとして移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。これにより、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0025】
第3態様にあっては、近傍領域は、複数の追跡領域を追跡することができた場合、隣り合う追跡領域の間の領域である。2つの追跡領域が隣り合う場合、近傍領域は、例えば、それぞれの追跡領域の撮像画像上の重心の中点を重心とし、追跡領域の大きさ(高さ、幅)に適宜の定数を乗算した大きさの領域とすることができる。これにより、所要の距離に位置する2つの車両の間に別の車両が隙間なく入りこむことはほぼあり得ないので、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0026】
第4態様にあっては、近傍領域は、追跡領域を追跡することができた場合、当該追跡領域の周辺領域である。周辺領域は、例えば、追跡領域を外側から囲む領域であって、追跡領域の内側の一部の領域を除く領域とすることができる。すなわち、周辺領域は、追跡領域の境界を含むようにすることができる。これにより、車両の車体周りには車両が存在することはほぼあり得ないので、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0027】
第5態様にあっては、複数の撮像時点(例えば、時刻t=t1からtn)で追跡領域を追跡することができた場合に、複数の撮像時点のうちの任意の撮像時点(例えば、時刻t=ts、1<s<n)で移動体領域を検出することができないときは、任意の撮像時点(時刻t=ts)の追跡領域が移動体を示すとして移動体判定情報を生成する。例えば、追跡処理で追跡領域を追跡することができている場合、車両は存在すると考えられる。追跡中の任意の撮像時点(時刻t=ts)で車両を検出することができない場合には、本来であれば車両として検出することができるものを車両として検出することができなかったのであるから、当該任意の撮像時点(時刻t=ts)での追跡領域を、車両であるにも関わらず車両として検出することができなかった車両パターン(正例)として生成する。これにより、人手を介さずに車両パターン(正例)を自動的に生成することができる。
【0028】
第6態様にあっては、任意の撮像時点(例えば、時刻t)で移動体領域を検出した場合に、追跡領域を追跡することができないときは、当該任意の撮像時点の前後の撮像時点(例えば、時刻t±F)及び当該移動体領域の周辺領域(例えば、移動体領域を中心とする半径rの領域)で他の追跡領域が存在しない場合、当該移動体領域が非移動体を示すとして移動体判定情報を生成する。追跡処理が一旦開始された後中止されたということは、当初車両であると判定して追跡領域の追跡が行われたものの途中で車両ではないと判定されたのであるから、車両が検出された時点の前後及びその周囲で他の車両を追跡する追跡領域が存在しない場合には、車両でないものを車両として検出したので、当該追跡領域を、非移動体を示す移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。これにより、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0029】
第7態様にあっては、追跡領域が移動体を示すか否かを判定し、追跡領域が移動体ではないと判定された場合、追跡を中止する。移動体を示すか否かの判定は、追跡領域がどの程度、「移動体らしさ」(「車両らしさ」)を有するかで判定することができ、例えば、追跡領域の形状又は大きさが移動体と異なる形状又は大きさとなった場合、移動体ではないと判定することができる。これにより、不要な追跡処理を早めに打ち切ることができ、全体の処理効率を向上させることができる。
【0030】
第8態様にあっては、追跡領域が予め撮像画像上で画定された移動可能領域内にあるか否かを判定し、追跡領域が移動可能領域内にある場合、追跡を継続する。移動可能領域は、例えば、撮像画像上で車両が走行することができる道路の領域であり、予め設定することができる。追跡領域が移動可能領域内にある場合には、追跡している移動体(車両)の移動条件が車両の動きとして自然なものであると判定することができるので、追跡処理を継続する。これにより、検出漏れパターン(車両パターン、正例)又は誤検出パターン(非車両パターン、負例)の生成(収集)に重要な車両が存在した位置の推定を高精度に行うことができ、精度良く車両パターン(正例)又は非車両パターン(負例)を生成することができる。
【0031】
第9態様にあっては、サポートベクターマシンを用いて移動体であるか否かを判定し、判定するための判定基準を、生成した移動体判定情報を用いて更新する。すなわち、生成した正例若しくは負例、あるいは両者を学習データとして採用して判定基準を更新する。これにより、オンラインで修正した判定基準を用いて車両検出を行うことができるので、自動学習機能を備え、高精度に車両を検出することが可能となる。
【0032】
第10態様にあっては、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる移動体判定情報生成システムを実現することができる。
【発明の効果】
【0033】
本発明によれば、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる。
【図面の簡単な説明】
【0034】
【図1】本実施の形態の移動体判定情報生成システムの構成の一例を示すブロック図である。
【図2】移動可能領域の一例を示す説明図である。
【図3】本実施の形態の車両判定情報生成装置による負例を生成する第1例を示す説明図である。
【図4】近傍領域の一例を示す説明図である。
【図5】近傍領域の他の例を示す説明図である。
【図6】車両検出結果及び車両追跡結果により負例を生成する様子の一例を示す説明図である。
【図7】車両検出結果及び車両追跡結果により負例を生成する様子の他の例を示す説明図である。
【図8】本実施の形態の車両判定情報生成装置による正例を生成する一例を示す説明図である。
【図9】車両検出結果及び車両追跡結果により正例を生成する様子の一例を示す説明図である。
【図10】本実施の形態の車両判定情報生成装置による負例を生成する第2例を示す説明図である。
【図11】車両検出結果及び車両追跡結果により負例を生成する様子の他の例を示す説明図である。
【図12】本実施の形態の車両判定情報生成装置による負例及び正例の自動収集の処理手順を示すフローチャートである。
【発明を実施するための形態】
【0035】
以下、本発明をその実施の形態を示す図面に基づいて説明する。図1は本実施の形態の移動体判定情報生成システムの構成の一例を示すブロック図である。移動体判定情報生成システムは、移動体判定情報生成装置としての車両判定情報生成装置100、撮像装置200などを備える。なお、図1の例では、1つの撮像装置200を図示しているが、撮像装置200は複数設けることもできる。すなわち、道路の複数の地点それぞれに撮像装置200を設置し、撮像装置200で撮像した撮像画像を車両判定情報生成装置100へ送信(出力)することができる。また、本実施の形態では、移動体とは、例えば、自動車又は二輪車などの車両であるが、歩行者などの移動体を含めることもできる。
【0036】
車両判定情報生成装置100は、画像入力部101、車両検出部102、車両追跡部103、データ収集部106、収集データ学習部109などを備える。車両追跡部103は、信頼度判定部104、移動領域判定部105などを備える。また、データ収集部106は、正例生成部107、負例生成部108などを備える。なお、本実施の形態では、移動体判定情報には、移動体を示す移動体判定情報と非移動体を示す移動体判定情報の両方がある。
【0037】
移動体を示す移動体判定情報は、例えば、車両であるにも関わらず車両として検出することができなかった車両パターン(検出漏れパターン、正例とも称する)である。また、非移動体を示す移動体判定情報は、例えば、路面などの車両でないにも関わらず車両として誤検出した非車両パターン(誤検出パターン、負例とも称する)である。
【0038】
本実施の形態の車両判定情報生成装置100は、車両検出部102が検出し損ねた車両パターン(検出漏れパターン)を自動的に認識して正例(移動体を示す移動体判定情報)として生成(取集)する機能、車両検出部102が車両でないものを車両として誤検出した非車両パターン(誤検出パターン)を自動的に認識して負例(非移動体を示す移動体判定情報)として生成(取集)する機能などの自動学習機能を有するものである。
【0039】
また、本実施の形態の車両判定情報生成装置100は、生成(取集)した正例及び/又は負例を学習データとして採用して車両検出部102の車両判定基準を適切に修正する自動学習機能を有する。
【0040】
また、本実施の形態の車両判定情報生成装置100は、車両判定基準を適切に修正することにより、車両検出部102で実際には非車両であるパターンを誤って車両パターンであると判定する事態を自動的に回避する機能、実際には車両であるパターンを誤って非車両パターンであると判定する事態を自動的に回避する機能などの自動学習機能を有するものである。
【0041】
さらに、本実施の形態の車両判定情報生成装置100は、車両検出及び車両追跡の両方の処理を並行して実施しつつ、全体の処理のリアルタイム性を維持するものである。
【0042】
画像入力部101は、画像メモリ(不図示)などを備え、撮像装置200から入力された撮像画像(画像データ)を、1フレーム単位に同期させて画像メモリに記憶する。なお、1フレームは、例えば、100msであるが、これに限定されるものではない。画像メモリに記憶された撮像画像は、車両検出部102により読み出される。
【0043】
車両検出部102は、移動体を示す画素領域である移動体領域を検出する検出手段としての機能を有する。車両検出部102は、例えば、パターン認識技術を用いて撮像画像上の車両領域(移動体領域)を特定して車両を検出する。具体的には、車両検出部102は、収集データ学習部109が有する正例、負例、車両・非車両の判定基準などに基づいて車両を検出する。移動体領域は、移動体を示す画素領域であり、例えば、撮像時点(フレーム)毎に車両(移動体)が存在すると判定した領域(例えば、矩形領域)で示すことができる。なお、車両の検出処理は、撮像画像中の画素の変化(例えば、エッジ点)などの情報に基づいて行うこともできる。
【0044】
車両追跡部103は、車両検出部102で検出した移動体領域を、その後の撮像時点での撮像画像上で追跡領域として追跡する追跡手段としての機能を有する。追跡処理は、車両(移動体)の検出結果に基づいて行われ、例えば、パターンマッチング、パーティクルフィルタなどのトラッキング技術を用いることができる。追跡結果は、例えば、連続したフレーム間で特定の追跡対象を追跡していることを明示するため識別番号(例えば、車両ID)、追跡領域に対して追跡が連続で行われたフレーム数である追跡時間(フレーム数)、フレーム毎に追跡領域の「車両らしさ」を評価する信頼度によって示すことができる。
【0045】
信頼度判定部104は、追跡領域が車両(移動体)を示すか否かを判定する追跡判定手段の機能を有する。信頼度判定部104は、車両追跡部103での追跡結果の信頼度を判定する。例えば、追跡の信頼度は、フレーム毎に「車両である」と判定された場合、信頼度の値を1つ増加させ、「車両であるか否かが不明」と判定された場合、信頼度の値を変化させない。また、「車両ではない」と判定された場合、信頼度を0に戻して追跡処理を中止する。
【0046】
例えば、追跡領域の形状又は大きさが車両と異なる形状又は大きさとなった場合、車両ではないと判定することができる。これにより、不要な追跡処理を早めに打ち切ることができ、全体の処理効率を向上させることができる。なお、信頼度判定部104は、車両であるか否かが不明である状態が継続した場合、信頼度の値を減少させる。
【0047】
移動領域判定部105は、追跡領域が予め撮像画像上で画定された移動可能領域(車両移動領域)内にあるか否かを判定する移動可能判定手段としての機能を有する。すなわち、移動領域判定部105は、追跡領域の時間的な変化が車両の動きとして自然なものであるか否かを判定する。
【0048】
図2は移動可能領域の一例を示す説明図である。図2の例では、時刻t−1、t、t+1の異なる撮像時点における追跡対象(追跡領域)の変化の様子を示す。なお、撮像時点は一例であって、これに限定されるものではない。
【0049】
追跡領域が移動可能領域(車両移動領域)内にあるか否かの判定は、追跡領域(追跡対象)が、次の3つの条件を満たした場合、追跡領域は車両として妥当な動作を示すと判定する。
【0050】
第1の条件は式(1)で表すことができ、第2の条件は式(2)で表すことができ、第3の条件は、式(3)及び式(4)で表すことができる。また、式(3)、式(4)における変数a、b、c、dは、それぞれ式(5)、式(6)、式(7)及び式(8)で表すことができる。
【0051】
【数1】
【0052】
x(t)、y(t)は、時刻tにおける追跡対象(追跡領域)を示す矩形領域の左上端のx座標、y座標を示す。また、w(t)、h(t)は、時刻tにおける追跡対象(追跡領域)を示す矩形領域の横幅、高さを示す。また、式(1)において、Lt、Ut(0<Lt<Ut)は、撮像画像上で車両を追跡した時間として適切な時間であると判定することができる範囲を指定するパラメータである。
【0053】
式(3)は図2で示す点A、Dを結ぶ直線の右側の領域を示し、式(4)は図2で示す点B、Eを結ぶ直線の左側の領域を示す。なお、点A、Bは、それぞれ時刻t−1の追跡対象(追跡領域)の底辺の長さ(幅)をw(t−1)とすると、左端から0.4w(t−1)、0.6w(t−1)の点である。また、点D、Eは、それぞれ時刻t+1の追跡対象(追跡領域)の底辺の長さ(幅)をw(t+1)とすると、左端から0.4w(t+1)、0.6w(t+1)の点である。
【0054】
上述の第1〜第3の条件は、追跡時間が所要の範囲内であり、時刻t=2、3、…、T−1における矩形状の追跡領域の底辺の中点(車両の先頭の中央部に相当)が、図2で例示する移動可能領域(破線で示す台形状の領域)内に存在していることを示す。
【0055】
追跡領域が移動可能領域(車両移動領域)内にあるか否かの判定を行うことにより、検出漏れパターン(車両パターン、正例)又は誤検出パターン(非車両パターン、負例)の生成(収集)に重要な車両が存在した位置の推定を高精度に行うことができ、精度良く車両パターン(正例)又は非車両パターン(負例)を生成することができる。
【0056】
なお、図2に例示する移動可能領域の形状又は大きさは、道路の状況に応じて適宜設定することができ、図2の例に限定されるものではない。
【0057】
次に、正例及び負例の生成(収集)方法について説明する。データ収集部106は、車両検出部102での検出結果及び車両追跡部103での追跡結果に基づいて、検出した移動体領域又は追跡した追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する生成手段としての機能を有する。
【0058】
すなわち、データ収集部106は、移動体の検出結果と追跡結果との両方の情報に基づいて移動体を示す移動体判定情報又は非移動体を示す移動体判定情報を生成する。移動体を示す移動体判定情報は、例えば、車両であるにも関わらず車両として検出することができなかった車両パターン(検出漏れパターン、正例)である。また、非移動体を示す移動体判定情報は、例えば、車両でないにも関わらず車両として誤検出した非車両パターン(誤検出パターン、負例)である。
【0059】
移動体判定情報の生成は、以下のように行うことができる。例えば、追跡領域の追跡が行われている場合に、追跡領域の近傍の領域で車両が検出されたときは、検出した移動体領域は車両でないものを車両として検出したので、当該移動体領域を、非移動体を示す移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。また、追跡領域の追跡が行われている場合に、追跡領域の近傍の領域で車両が検出できないときは、追跡中の車両を非車両として検出したので、追跡領域を、移動体を示す移動体判定情報、すなわち車両であるにも関わらず車両として検出することができなかった車両パターン(正例)として生成する。これにより、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる。
【0060】
正例生成部107は、正例を生成(収集)し、負例生成部108は、負例を生成(収集)する。以下、場合に分けて具体的に説明する。
【0061】
図3は本実施の形態の車両判定情報生成装置100による負例を生成する第1例を示す説明図である。図3において、上段は車両検出処理がフレーム単位で繰り返される様子を示し、下段は車両追跡処理が同様にフレーム単位で繰り返される様子を示す。図3に示すように、複数の撮像時点(例えば、時刻t1〜t8)で追跡領域を追跡することができた場合に、当該複数の撮像時点のうちの任意の撮像時点(例えば、時刻t6)で当該追跡領域の近傍領域で移動体領域を検出したときは、当該移動体領域が非移動体を示すとして移動体判定情報(負例)を生成する。
【0062】
図4は近傍領域の一例を示す説明図である。図4に示すように、近傍領域は、例えば、同一撮像時点の撮像画像上で複数の追跡領域(追跡対象)が存在する場合には、隣り合う追跡領域の間の領域を近傍領域(破線で示す領域)とすることができる。2つの追跡領域が隣り合う場合、近傍領域は、例えば、それぞれの追跡領域の撮像画像上の重心(xa、ya)及び(xb、yb)の中点(xc、yc)を重心とし、追跡領域の大きさ(高さ、幅)に適宜の定数を乗算した大きさの領域とすることができる。すなわち、図4中のC1、C2は追跡領域の大きさに応じて適宜設定することができる。
【0063】
2つの車両がほぼ並行して走行している場合に、これら2つの車両の間の領域(近傍領域)で車両が検出される可能性はほとんどないので、仮に当該近傍領域で移動体領域が検出された場合には、当該移動体領域は車両でないものを車両として検出したものであるので、当該移動体領域を、非移動体を示すとして移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。
【0064】
これにより、所要の距離に位置する2つの車両の間に別の車両が隙間なく入りこむことはほぼあり得ないので、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0065】
なお、図4の例において、隣り合う追跡領域の重心間の距離Dが、例えばD1<D<D2を満たさない場合、すなわち、2つの車両が近すぎる場合、あるいは遠すぎる場合には、負例の生成(収集)を実行しないようにすることができる。また、隣り合う追跡領域の重心を結ぶ線分が水平方向となす角をαとした場合、α<α1を満たさない場合、すなわち、2つの車両がある程度の距離を保って併走していない場合、負例の生成(収集)を実行しないようにすることができる。また、両者の条件が同時に満たされない場合に、負例の生成(収集)を実行しないようにすることもできる。
【0066】
図5は近傍領域の他の例を示す説明図である。図5に示すように、近傍領域は、例えば、近傍領域は、追跡領域を追跡することができた場合、当該追跡領域の周辺領域(破線で示す領域)である。周辺領域は、例えば、追跡領域を外側から囲む領域であって、追跡領域の内側の一部の領域を除く領域とすることができる。すなわち、周辺領域は、追跡領域の境界を含むようにすることができる。周辺領域の大きさ及び形状を画定するパラメータE1〜E4、I1〜I4は、追跡領域の大きさ(例えば、幅w)に応じて適宜設定することができる。また、周辺領域(近傍領域)の上側の両端部の領域は、消失点に向かう線分で除外することもできる。
【0067】
1つの車両が走行している場合に、当該車両の周囲の領域(近傍領域)で車両が検出される可能性はほとんどないので、仮に当該近傍領域で移動体領域が検出された場合には、当該移動体領域は車両でないものを車両として検出したものであるので、当該移動体領域を、非移動体を示すとして移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。これにより、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0068】
図6は車両検出結果及び車両追跡結果により負例を生成する様子の一例を示す説明図である。図6は前述の図4の場合に対応するものであり、2つの隣り合う追跡領域の間の領域を近傍領域とする例である。図6に示すように、2台の車両300、301が走行している場合、それぞれの車両を検出し、検出した車両に識別番号(1、2)を付して追跡処理を行っている。この状態で2つの車両の間で車両領域を検出した場合、当該車両領域は、車両でないものを誤って検出したものなので、当該車両領域のパターンを負例(誤検出パターン)として生成(収集)する。
【0069】
図7は車両検出結果及び車両追跡結果により負例を生成する様子の他の例を示す説明図である。図7は前述の図5の場合に対応するものであり、追跡領域の周辺領域を近傍領域とする例である。図7に示すように、車両304が走行している場合、当該車両を検出し、検出した車両に識別番号(7)を付して追跡処理を行っている。この状態で車両の周辺で車両領域を検出した場合、当該車両領域は、車両でないものを誤って検出したものなので、当該車両領域のパターンを負例(誤検出パターン)として生成(収集)する。
【0070】
図8は本実施の形態の車両判定情報生成装置100による正例を生成する一例を示す説明図である。図8において、上段は車両検出処理がフレーム単位で繰り返される様子を示し、下段は車両追跡処理が同様にフレーム単位で繰り返される様子を示す。図8に示すように、複数の撮像時点(例えば、時刻t1〜t8)で追跡領域を追跡することができた場合に、当該複数の撮像時点のうちの任意の撮像時点(例えば、時刻t5)で移動体領域を検出することができないときは、時刻t5の追跡領域が移動体を示すとして移動体判定情報(正例)を生成する。
【0071】
図8に示すように、複数の撮像時点(例えば、時刻t=t1からtn)で追跡領域を追跡することができた場合に、複数の撮像時点のうちの任意の撮像時点(例えば、時刻t=ts、1<s<n)で移動体領域を検出することができないときは、任意の撮像時点(時刻t=ts)の追跡領域が移動体を示すとして移動体判定情報を生成する。例えば、追跡処理で追跡領域を追跡することができている場合、車両は存在すると考えられる。追跡中の任意の撮像時点(時刻t=ts)で車両を検出することができない場合には、本来であれば車両として検出することができるものを車両として検出することができなかったのであるから、当該任意の撮像時点(時刻t=ts)での追跡領域を、車両であるにも関わらず車両として検出することができなかった車両パターン(正例)として生成する。これにより、人手を介さずに車両パターン(正例)を自動的に生成することができる。
【0072】
図9は車両検出結果及び車両追跡結果により正例を生成する様子の一例を示す説明図である。図9は前述の図8の場合に対応するものである。図9に示すように、2台の車両302、303が走行している場合、それぞれの車両を検出し、検出した車両に識別番号(4、5)を付して追跡処理を行っている。この状態で車両303を検出することができない場合、車両であるものを検出することができなかったので、車両303に対応する追跡領域のパターンを正例(検出漏れパターン)として生成(収集)する。
【0073】
図10は本実施の形態の車両判定情報生成装置100による負例を生成する第2例を示す説明図である。図10において、上段は車両検出処理がフレーム単位で繰り返される様子を示し、下段は車両追跡処理が同様にフレーム単位で繰り返される様子を示す。図10に示すように、任意の撮像時点(例えば、時刻t4)で車両(車両領域)を検出した場合に、時刻t4後の時刻(例えば、時刻t7)で追跡領域を追跡することができないときは、当該任意の撮像時点(時刻t4)の前後の撮像時点(例えば、時刻t2〜t6)及び当該車両領域の周辺領域(例えば、車両領域を中心とする半径rの領域)で他の追跡領域が存在しない場合、時刻t4の車両領域が非移動体を示すとして移動体判定情報(負例)を生成する。
【0074】
追跡処理が一旦開始された後中止されたということは、当初車両であると判定して追跡領域の追跡が行われたものの途中で車両ではないと判定されたのであるから、車両が検出された時点の前後及びその周囲で他の車両を追跡する追跡領域が存在しない場合には、車両でないものを車両として検出したので、当該追跡領域を、非移動体を示す移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。これにより、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0075】
図11は車両検出結果及び車両追跡結果により負例を生成する様子の他の例を示す説明図である。図11は前述の図10の場合に対応するものである。一旦車両が検出され、追跡処理が開始されたものの、その後追跡処理が中止された場合、他の追跡領域が存在しないときは、当初検出した車両領域は、車両でないものを誤って検出したものなので、当該車両領域のパターンを負例(誤検出パターン)として生成(収集)する。
【0076】
なお、上述の車両追跡処理が継続しているという条件に加えて、信頼度判定部104で判定した信頼度が低下していないこと、あるいは移動領域判定部105で追跡領域が移動可能範囲内にあることを条件として付加することもできる。これにより、負例又は正例の自動生成(自動収集)に重要な車両の存在位置の推定を高精度に行うことができる。
【0077】
図12は本実施の形態の車両判定情報生成装置100による負例及び正例の自動収集の処理手順を示すフローチャートである。なお、以下のフローチャートの説明では、便宜上車両判定情報生成装置100を簡略化して装置100と称する。装置100は、撮像画像を取得し(S11)、車両領域(移動体領域)を検出する(S12)。
【0078】
装置100は、検出した車両領域の位置を追跡領域として追跡し(S13)、追跡領域が車両移動領域(移動可能領域)内であるか否かを判定する(S14)。追跡領域が車両移動領域内にある場合(S14でYES)、装置100は、車両の動きとして自然なものであると判定して、追跡の信頼度が低下したか否かを判定する(S15)。追跡領域が車両移動領域内にない場合(S14でNO)、装置100は、処理を終了する。
【0079】
信頼度が低下していない場合(S15でNO)、すなわち、信頼度の値が増加又は変化していない場合、装置100は、追跡領域の近傍領域に車両領域(移動体領域)を検出したか否かを判定し(S16)、車両領域を検出した場合(S16でYES)、車両でないものを車両として誤検出したので、当該車両領域のパターンを負例(誤検出パターン)として収集(生成)し(S17)、処理を終了する。
【0080】
追跡領域の近傍領域に車両領域を検出していない場合(S16でNO)、装置100は、追跡中の任意の時点で車両領域の検出ができたか否かを判定し(S18)、車両領域を検出することができない場合(S18でNO)、車両を車両として検出することができなかったので、車両領域を検出することができなかった時点での追跡領域のパターンを正例(検出漏れパターン)として収集(生成)し(S19)、処理を終了する。車両領域を検出することができた場合(S18でYES)、装置100は、ステップS14以降の処理を続ける。
【0081】
追跡の信頼度が低下した場合(S15でYES)、装置100は、追跡が途中で中止になったか否かを判定し(S20)、追跡が中止になっていない場合(S20でNO)、ステップS15以降の処理を続ける。なお、追跡の信頼度は、車両でないと判定された場合にはゼロになり、また、車両であるか否かが不明である状態が継続した場合、信頼度の値は減少する。
【0082】
追跡を中止した場合(S20でYES)、すなわち、車両の検出処理が続けられている状態で当該車両の追跡が中止した場合、追跡対象(追跡領域)の車両検出時の前後及び検出した車両領域の周囲で他の追跡領域の有無を判定する(S21)。
【0083】
他の追跡領域がない場合(S21でNO)、装置100は、車両でないものを車両として誤検出したので、当該車両領域のパターンを負例(誤検出パターン)として収集(生成)し(S22)、処理を終了する。他の追跡領域がある場合(S21でYES)、装置100は、検出した車両領域は車両として正しく検出されたものであるので、ステップS22の処理を行うことなく処理を終了する。なお、図12に示す処理は、適宜の周期で繰り返し実行することができる。
【0084】
本実施の形態の車両判定情報生成装置100は、CPU、RAMなどを備えた汎用コンピュータを用いて実現することもできる。すなわち、図12に示すような、各処理手順を定めたコンピュータプログラムをCD、DVD、USBメモリ等のコンピュータプログラム記録媒体に記録しておき、当該コンピュータプログラムをコンピュータに備えられたRAMにロードし、コンピュータプログラムをCPUで実行することにより、コンピュータ上で車両判定情報生成装置100を実現することができる。
【0085】
本実施の形態の車両判定情報生成装置100による正例及び負例の自動収集(自動生成)は、所要の時間内に示された車両検出部102の検出処理と車両追跡部103の追跡処理の両方の情報を参照することで、車両検出処理単体では困難な「車両検出処理の適切さ」を判定、補完することができる。これにより、車両検出と車両追跡とを並行して行う場合に、本実施の形態によれば、車両の検出漏れに起因した追跡漏れを未然に防止することができるので、運転者の死角からの接近車両の存在を運転者へ警告することができない事態を防ぐことができる。また、車両でないものを車両として誤検出することを防止することができるので、運転車への不必要な警告、あるいは計算量の大きい追跡処理の過剰発生に起因する警告の遅れ等を防止することができ、車両センサに対する運転者の信頼を高めることができる。
【0086】
収集データ学習部109は、データ収集部106で収集(生成)した正例及び負例を用いて、車両・非車両の判定基準を更新(修正)する更新手段としての機能を有する。収集データ学習部109は、例えば、サポートベクターマシン(SVM)を備える。特に、インクリメンタルサポートベクターマシン(Incremental SVM)を採用する場合には、データ収集部106で収集(生成)した正例及び負例を追加学習して、車両・非車両の判定基準をオンライン修正(更新)という形で実現することができる。また、インクリメンタルサポートベクターマシンを用いた学習は、既に所有している正例及び負例(学習データ)から追加学習しようとする正例及び負例の適切さを評価するステップを含んでいるので、車両検出に有意な正例及び負例のみを学習データとして採用することができる。また、通常のサポートベクターマシンを用いた学習に比べて、追加する正例又は負例だけを学習データとして用いて学習することができるので計算量が極めて少なく、オンライン学習に適している。
【0087】
本実施の形態では、上述のように、サポートベクターマシン(特に、インクリメンタルサポートベクターマシン)を用いて車両であるか否かを判定し、判定するための判定基準を、生成した正例及び/又は負例を用いて更新する。すなわち、生成した正例若しくは負例、あるいは両者を学習データとして採用して判定基準を更新する。これにより、オンラインで修正した判定基準を用いて車両検出を行うことができるので、自動学習機能を備え、高精度に車両を検出することが可能となる。
【0088】
本実施の形態によれば、人手を介さずに正例又は負例(移動体判定情報)の収集を自動的に行うとともに収集した正例又は負例を用いて車両などの移動体を高精度に検出することができる。
【0089】
従来、サンプルの学習に基づく認識技術においては、当然ながら学習サンプルの適切さがその認識精度を左右する。その中で、高精度な認識精度を達成しているアプリケーションの大半が、人の介在を必要とするものである。すなわち、人によって適切であると判断されたサンプルを学習に用いている。このことからも、学習サンプルの適切さの判定の自動化の難しさが伺える。
【0090】
本実施の形態にあっては、従来は手動で行う必要があった膨大な量のデータの収集・学習サンプルの作成を自動化することができる。また、地点毎の特性に適切に対応して高精度な車両検出・追跡性能をもつ車両センサを実現できる。これにより、安全運転を支援するための確度の高い情報を運転者に提供できる車両センシングシステムを現実的なコストで広く普及させることができる。また、検出結果に基づいて実行される追跡処理は計算量が大きい傾向にあるため、本実施の形態により実現することができる誤検出の発生頻度の削減は、そのまま計算量の削減につながり、処理の遅れによる運転者への情報伝達の遅れなどの処理時間に関わる問題を低減することができる。
【0091】
開示された実施の形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【0092】
100 車両判定情報生成装置
101 画像入力部
102 車両検出部
103 車両追跡部
104 信頼度判定部
105 移動領域判定部
106 データ収集部
107 正例生成部
108 負例生成部
109 収集データ学習部
200 撮像装置
【技術分野】
【0001】
本発明は、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置、該移動体判定情報生成装置を備える移動体判定情報生成システム、前記移動体判定情報生成装置を実現するためのコンピュータプログラム及び移動体判定情報生成方法に関する。
【背景技術】
【0002】
路側インフラ装置と車載装置とが、有線又は無線による路車間通信手段により情報を交換し、各装置が単独では実現できなかった機能を実現させるシステムが検討されている。特に、車両の運転者からは死角となる場所に存在する車両又は歩行者を検出した検出情報をインフラ側より車両側に提供することにより事故を抑止する路車協調型安全運転支援システムの検討が進められている。
【0003】
このようなシステムを実現するための主要技術としては、車両の位置情報、自動車、二輪車若しくは歩行者等の車種情報、又は車両等の移動速度若しくは移動方向等を検出するセンサが必要である。計測範囲の広さ、製品寿命、コスト又は性能のバランスなどを考慮すると、画像処理方式のセンサが有力である。この画像処理方式のセンサ(以下、「車両センサ」と称する。)の主要機能である車両検出においては、環境変化が存在する任意の計測地点において高精度な車両検出を実現しなければならない。
【0004】
例えば、高精度な車両検出を実現する方法として、道路画像から車両をオブジェクトとして検出し、サポートベクターマシン(SVM)、あるいはブースティング(Boosting)などに代表される車両・非車両パターンのサンプル学習を通じて、車両・非車両パターンに対する判定基準(境界基準)を生成するパターン認識技術を利用した車両追跡装置が開示されている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2010−92248号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、車両センサを様々な地点に設置することを想定して、各地点で生じ得る様々な非車両パターンのすべてを予め網羅して準備することは極めて困難である。そこで、地点毎に生じ得る車両パターン及び非車両パターンを車両センサの設置地点毎に収集し、収集した車両パターン及び非車両パターンに基づいて車両センサの判定基準を適宜修正又は改善する方法が考えられる。しかし、各地に設置された車両センサ毎にオペレータに車両センサの判定基準を修正させることは、多大な労力及び莫大なコストを必要とするため現実的ではない。
【0007】
本発明は、斯かる事情に鑑みてなされたものであり、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる移動体判定情報生成装置、該移動体判定情報生成装置を備える移動体判定情報生成システム、前記移動体判定情報生成装置を実現するためのコンピュータプログラム及び移動体判定情報生成方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明の第1態様に係る移動体判定情報生成装置は、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置において、複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出する検出手段と、該検出手段で検出した移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡する追跡手段と、前記検出手段での検出結果及び前記追跡手段での追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する生成手段とを備えることを特徴とする。
【0009】
本発明の第2態様に係る移動体判定情報生成装置は、第1態様において、前記生成手段は、前記追跡手段で複数の撮像時点で追跡領域を追跡することができた場合に、前記複数の撮像時点のうちの任意の撮像時点で前記追跡領域の近傍領域で前記検出手段により移動体領域を検出したときは、該移動体領域が非移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする。
【0010】
本発明の第3態様に係る移動体判定情報生成装置は、第2態様において、前記近傍領域は、前記追跡手段で複数の追跡領域を追跡することができた場合、隣り合う追跡領域の間の領域であることを特徴とする。
【0011】
本発明の第4態様に係る移動体判定情報生成装置は、第2態様において、前記近傍領域は、前記追跡手段で追跡領域を追跡することができた場合、該追跡領域の周辺領域であることを特徴とする。
【0012】
本発明の第5態様に係る移動体判定情報生成装置は、第1態様乃至第4態様のいずれか1つにおいて、前記生成手段は、前記追跡手段で複数の撮像時点で追跡領域を追跡することができた場合に、前記複数の撮像時点のうちの任意の撮像時点で前記検出手段により移動体領域を検出することができないときは、前記任意の撮像時点の追跡領域が移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする。
【0013】
本発明の第6態様に係る移動体判定情報生成装置は、第1態様乃至第5態様のいずれか1つにおいて、前記生成手段は、任意の撮像時点で前記検出手段により移動体領域を検出した場合に、前記追跡手段で追跡領域を追跡することができないときは、前記任意の撮像時点の前後の撮像時点及び前記移動体領域の周辺領域で他の追跡領域が存在しない場合、前記移動体領域が非移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする。
【0014】
本発明の第7態様に係る移動体判定情報生成装置は、第1態様乃至第6態様のいずれか1つにおいて、前記追跡手段が追跡する追跡領域が移動体を示すか否かを判定する追跡判定手段を備え、前記追跡手段は、前記追跡領域が移動体を示すものでないと判定された場合、追跡を中止するように構成してあることを特徴とする。
【0015】
本発明の第8態様に係る移動体判定情報生成装置は、第1態様乃至第7態様のいずれか1つにおいて、前記追跡手段が追跡する追跡領域が予め撮像画像上で画定された移動可能領域内にあるか否かを判定する移動可能判定手段を備え、前記追跡手段は、前記追跡領域が前記移動可能領域内にある場合、追跡を継続するように構成してあることを特徴とする。
【0016】
本発明の第9態様に係る移動体判定情報生成装置は、第1態様乃至第8態様のいずれか1つにおいて、サポートベクターマシンを用いて移動体であるか否かを判定する判定手段と、該判定手段で判定するための判定基準を前記生成手段で生成した移動体判定情報を用いて更新する更新手段とを備えることを特徴とする。
【0017】
本発明の第10態様に係る移動体判定情報生成システムは、前述の第1態様に係る移動体判定情報生成装置と、撮像した撮像画像を前記移動体判定情報生成装置へ出力する撮像装置とを備えることを特徴とする。
【0018】
本発明の第11態様に係るコンピュータプログラムは、コンピュータに、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成するステップを実行させるためのコンピュータプログラムにおいて、コンピュータに、複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出するステップと、検出した移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡するステップと、前記検出するステップでの検出結果及び前記追跡するステップでの追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成するステップとを実行させることを特徴とする。
【0019】
本発明の第12態様に係る移動体判定情報生成方法は、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置による移動体判定情報生成方法おいて、複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出するステップと、検出された移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡するステップと、検出結果及び追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成するステップとを含むことを特徴とする。
【0020】
第1態様、第11態様及び第12態様にあっては、複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出する。移動体は、例えば、自動車又は二輪車などの車両である。移動体領域の検出は、パターン認識技術を用いてもよく、あるいは画像中の画素の変化、例えば、エッジ点などの情報に基づいて検出することができる。移動体領域は、例えば、撮像時点(フレーム)毎に車両(移動体)が存在すると判定した領域(例えば、矩形領域)で示すことができる。そして、検出した移動体領域の当該撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡する。追跡処理は、車両(移動体)の検出結果に基づいて行われ、例えば、パターンマッチング、パーティクルフィルタなどのトラッキング技術を用いることができる。追跡領域は、例えば、連続したフレーム間で特定の追跡対象を追跡していることを明示するため識別番号(例えば、車両ID)を付加した形で示すことができる。
【0021】
検出結果及び追跡結果に基づいて、検出した移動体領域又は追跡した追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する。すなわち、移動体の検出結果と追跡結果との両方の情報に基づいて移動体を示す移動体判定情報又は非移動体を示す移動体判定情報を生成する。移動体を示す移動体判定情報は、例えば、車両であるにも関わらず車両として検出することができなかった車両パターン(検出漏れパターン、正例と称する)である。また、非移動体を示す移動体判定情報は、例えば、車両でないにも関わらず車両として誤検出した非車両パターン(誤検出パターン、負例と称する)である。
【0022】
移動体判定情報の生成は、以下のように行うことができる。例えば、追跡領域の追跡が行われている場合に、追跡領域の近傍の領域で車両が検出されたときは、検出した移動体領域は車両でないものを車両として検出したので、当該移動体領域を、非移動体を示す移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。また、追跡領域の追跡が行われている場合に、追跡領域の近傍の領域で車両が検出できないときは、追跡中の車両を非車両として検出したので、追跡領域を、移動体を示す移動体判定情報、すなわち車両であるにも関わらず車両として検出することができなかった車両パターン(正例)として生成する。これにより、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる。
【0023】
第2態様にあっては、複数の撮像時点で追跡領域を追跡することができた場合に、当該複数の撮像時点のうちの任意の撮像時点で当該追跡領域の近傍領域で移動体領域を検出したときは、当該移動体領域が非移動体を示すとして移動体判定情報を生成する。近傍領域は、例えば、同一撮像時点の撮像画像上で複数の追跡領域が存在する場合には、隣り合う追跡領域の間の領域を近傍領域とする。すなわち、2つの車両がほぼ並行して走行している場合に、これら2つの車両の間の領域(近傍領域)で車両が検出される可能性はほとんどないので、仮に当該近傍領域で移動体領域が検出された場合には、当該移動体領域は車両でないものを車両として検出したものであるので、当該移動体領域を、非移動体を示すとして移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。
【0024】
また、1つの車両が走行している場合に、当該車両の周囲の領域(近傍領域)で車両が検出される可能性はほとんどないので、仮に当該近傍領域で移動体領域が検出された場合には、当該移動体領域は車両でないものを車両として検出したものであるので、当該移動体領域を、非移動体を示すとして移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。これにより、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0025】
第3態様にあっては、近傍領域は、複数の追跡領域を追跡することができた場合、隣り合う追跡領域の間の領域である。2つの追跡領域が隣り合う場合、近傍領域は、例えば、それぞれの追跡領域の撮像画像上の重心の中点を重心とし、追跡領域の大きさ(高さ、幅)に適宜の定数を乗算した大きさの領域とすることができる。これにより、所要の距離に位置する2つの車両の間に別の車両が隙間なく入りこむことはほぼあり得ないので、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0026】
第4態様にあっては、近傍領域は、追跡領域を追跡することができた場合、当該追跡領域の周辺領域である。周辺領域は、例えば、追跡領域を外側から囲む領域であって、追跡領域の内側の一部の領域を除く領域とすることができる。すなわち、周辺領域は、追跡領域の境界を含むようにすることができる。これにより、車両の車体周りには車両が存在することはほぼあり得ないので、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0027】
第5態様にあっては、複数の撮像時点(例えば、時刻t=t1からtn)で追跡領域を追跡することができた場合に、複数の撮像時点のうちの任意の撮像時点(例えば、時刻t=ts、1<s<n)で移動体領域を検出することができないときは、任意の撮像時点(時刻t=ts)の追跡領域が移動体を示すとして移動体判定情報を生成する。例えば、追跡処理で追跡領域を追跡することができている場合、車両は存在すると考えられる。追跡中の任意の撮像時点(時刻t=ts)で車両を検出することができない場合には、本来であれば車両として検出することができるものを車両として検出することができなかったのであるから、当該任意の撮像時点(時刻t=ts)での追跡領域を、車両であるにも関わらず車両として検出することができなかった車両パターン(正例)として生成する。これにより、人手を介さずに車両パターン(正例)を自動的に生成することができる。
【0028】
第6態様にあっては、任意の撮像時点(例えば、時刻t)で移動体領域を検出した場合に、追跡領域を追跡することができないときは、当該任意の撮像時点の前後の撮像時点(例えば、時刻t±F)及び当該移動体領域の周辺領域(例えば、移動体領域を中心とする半径rの領域)で他の追跡領域が存在しない場合、当該移動体領域が非移動体を示すとして移動体判定情報を生成する。追跡処理が一旦開始された後中止されたということは、当初車両であると判定して追跡領域の追跡が行われたものの途中で車両ではないと判定されたのであるから、車両が検出された時点の前後及びその周囲で他の車両を追跡する追跡領域が存在しない場合には、車両でないものを車両として検出したので、当該追跡領域を、非移動体を示す移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。これにより、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0029】
第7態様にあっては、追跡領域が移動体を示すか否かを判定し、追跡領域が移動体ではないと判定された場合、追跡を中止する。移動体を示すか否かの判定は、追跡領域がどの程度、「移動体らしさ」(「車両らしさ」)を有するかで判定することができ、例えば、追跡領域の形状又は大きさが移動体と異なる形状又は大きさとなった場合、移動体ではないと判定することができる。これにより、不要な追跡処理を早めに打ち切ることができ、全体の処理効率を向上させることができる。
【0030】
第8態様にあっては、追跡領域が予め撮像画像上で画定された移動可能領域内にあるか否かを判定し、追跡領域が移動可能領域内にある場合、追跡を継続する。移動可能領域は、例えば、撮像画像上で車両が走行することができる道路の領域であり、予め設定することができる。追跡領域が移動可能領域内にある場合には、追跡している移動体(車両)の移動条件が車両の動きとして自然なものであると判定することができるので、追跡処理を継続する。これにより、検出漏れパターン(車両パターン、正例)又は誤検出パターン(非車両パターン、負例)の生成(収集)に重要な車両が存在した位置の推定を高精度に行うことができ、精度良く車両パターン(正例)又は非車両パターン(負例)を生成することができる。
【0031】
第9態様にあっては、サポートベクターマシンを用いて移動体であるか否かを判定し、判定するための判定基準を、生成した移動体判定情報を用いて更新する。すなわち、生成した正例若しくは負例、あるいは両者を学習データとして採用して判定基準を更新する。これにより、オンラインで修正した判定基準を用いて車両検出を行うことができるので、自動学習機能を備え、高精度に車両を検出することが可能となる。
【0032】
第10態様にあっては、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる移動体判定情報生成システムを実現することができる。
【発明の効果】
【0033】
本発明によれば、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる。
【図面の簡単な説明】
【0034】
【図1】本実施の形態の移動体判定情報生成システムの構成の一例を示すブロック図である。
【図2】移動可能領域の一例を示す説明図である。
【図3】本実施の形態の車両判定情報生成装置による負例を生成する第1例を示す説明図である。
【図4】近傍領域の一例を示す説明図である。
【図5】近傍領域の他の例を示す説明図である。
【図6】車両検出結果及び車両追跡結果により負例を生成する様子の一例を示す説明図である。
【図7】車両検出結果及び車両追跡結果により負例を生成する様子の他の例を示す説明図である。
【図8】本実施の形態の車両判定情報生成装置による正例を生成する一例を示す説明図である。
【図9】車両検出結果及び車両追跡結果により正例を生成する様子の一例を示す説明図である。
【図10】本実施の形態の車両判定情報生成装置による負例を生成する第2例を示す説明図である。
【図11】車両検出結果及び車両追跡結果により負例を生成する様子の他の例を示す説明図である。
【図12】本実施の形態の車両判定情報生成装置による負例及び正例の自動収集の処理手順を示すフローチャートである。
【発明を実施するための形態】
【0035】
以下、本発明をその実施の形態を示す図面に基づいて説明する。図1は本実施の形態の移動体判定情報生成システムの構成の一例を示すブロック図である。移動体判定情報生成システムは、移動体判定情報生成装置としての車両判定情報生成装置100、撮像装置200などを備える。なお、図1の例では、1つの撮像装置200を図示しているが、撮像装置200は複数設けることもできる。すなわち、道路の複数の地点それぞれに撮像装置200を設置し、撮像装置200で撮像した撮像画像を車両判定情報生成装置100へ送信(出力)することができる。また、本実施の形態では、移動体とは、例えば、自動車又は二輪車などの車両であるが、歩行者などの移動体を含めることもできる。
【0036】
車両判定情報生成装置100は、画像入力部101、車両検出部102、車両追跡部103、データ収集部106、収集データ学習部109などを備える。車両追跡部103は、信頼度判定部104、移動領域判定部105などを備える。また、データ収集部106は、正例生成部107、負例生成部108などを備える。なお、本実施の形態では、移動体判定情報には、移動体を示す移動体判定情報と非移動体を示す移動体判定情報の両方がある。
【0037】
移動体を示す移動体判定情報は、例えば、車両であるにも関わらず車両として検出することができなかった車両パターン(検出漏れパターン、正例とも称する)である。また、非移動体を示す移動体判定情報は、例えば、路面などの車両でないにも関わらず車両として誤検出した非車両パターン(誤検出パターン、負例とも称する)である。
【0038】
本実施の形態の車両判定情報生成装置100は、車両検出部102が検出し損ねた車両パターン(検出漏れパターン)を自動的に認識して正例(移動体を示す移動体判定情報)として生成(取集)する機能、車両検出部102が車両でないものを車両として誤検出した非車両パターン(誤検出パターン)を自動的に認識して負例(非移動体を示す移動体判定情報)として生成(取集)する機能などの自動学習機能を有するものである。
【0039】
また、本実施の形態の車両判定情報生成装置100は、生成(取集)した正例及び/又は負例を学習データとして採用して車両検出部102の車両判定基準を適切に修正する自動学習機能を有する。
【0040】
また、本実施の形態の車両判定情報生成装置100は、車両判定基準を適切に修正することにより、車両検出部102で実際には非車両であるパターンを誤って車両パターンであると判定する事態を自動的に回避する機能、実際には車両であるパターンを誤って非車両パターンであると判定する事態を自動的に回避する機能などの自動学習機能を有するものである。
【0041】
さらに、本実施の形態の車両判定情報生成装置100は、車両検出及び車両追跡の両方の処理を並行して実施しつつ、全体の処理のリアルタイム性を維持するものである。
【0042】
画像入力部101は、画像メモリ(不図示)などを備え、撮像装置200から入力された撮像画像(画像データ)を、1フレーム単位に同期させて画像メモリに記憶する。なお、1フレームは、例えば、100msであるが、これに限定されるものではない。画像メモリに記憶された撮像画像は、車両検出部102により読み出される。
【0043】
車両検出部102は、移動体を示す画素領域である移動体領域を検出する検出手段としての機能を有する。車両検出部102は、例えば、パターン認識技術を用いて撮像画像上の車両領域(移動体領域)を特定して車両を検出する。具体的には、車両検出部102は、収集データ学習部109が有する正例、負例、車両・非車両の判定基準などに基づいて車両を検出する。移動体領域は、移動体を示す画素領域であり、例えば、撮像時点(フレーム)毎に車両(移動体)が存在すると判定した領域(例えば、矩形領域)で示すことができる。なお、車両の検出処理は、撮像画像中の画素の変化(例えば、エッジ点)などの情報に基づいて行うこともできる。
【0044】
車両追跡部103は、車両検出部102で検出した移動体領域を、その後の撮像時点での撮像画像上で追跡領域として追跡する追跡手段としての機能を有する。追跡処理は、車両(移動体)の検出結果に基づいて行われ、例えば、パターンマッチング、パーティクルフィルタなどのトラッキング技術を用いることができる。追跡結果は、例えば、連続したフレーム間で特定の追跡対象を追跡していることを明示するため識別番号(例えば、車両ID)、追跡領域に対して追跡が連続で行われたフレーム数である追跡時間(フレーム数)、フレーム毎に追跡領域の「車両らしさ」を評価する信頼度によって示すことができる。
【0045】
信頼度判定部104は、追跡領域が車両(移動体)を示すか否かを判定する追跡判定手段の機能を有する。信頼度判定部104は、車両追跡部103での追跡結果の信頼度を判定する。例えば、追跡の信頼度は、フレーム毎に「車両である」と判定された場合、信頼度の値を1つ増加させ、「車両であるか否かが不明」と判定された場合、信頼度の値を変化させない。また、「車両ではない」と判定された場合、信頼度を0に戻して追跡処理を中止する。
【0046】
例えば、追跡領域の形状又は大きさが車両と異なる形状又は大きさとなった場合、車両ではないと判定することができる。これにより、不要な追跡処理を早めに打ち切ることができ、全体の処理効率を向上させることができる。なお、信頼度判定部104は、車両であるか否かが不明である状態が継続した場合、信頼度の値を減少させる。
【0047】
移動領域判定部105は、追跡領域が予め撮像画像上で画定された移動可能領域(車両移動領域)内にあるか否かを判定する移動可能判定手段としての機能を有する。すなわち、移動領域判定部105は、追跡領域の時間的な変化が車両の動きとして自然なものであるか否かを判定する。
【0048】
図2は移動可能領域の一例を示す説明図である。図2の例では、時刻t−1、t、t+1の異なる撮像時点における追跡対象(追跡領域)の変化の様子を示す。なお、撮像時点は一例であって、これに限定されるものではない。
【0049】
追跡領域が移動可能領域(車両移動領域)内にあるか否かの判定は、追跡領域(追跡対象)が、次の3つの条件を満たした場合、追跡領域は車両として妥当な動作を示すと判定する。
【0050】
第1の条件は式(1)で表すことができ、第2の条件は式(2)で表すことができ、第3の条件は、式(3)及び式(4)で表すことができる。また、式(3)、式(4)における変数a、b、c、dは、それぞれ式(5)、式(6)、式(7)及び式(8)で表すことができる。
【0051】
【数1】
【0052】
x(t)、y(t)は、時刻tにおける追跡対象(追跡領域)を示す矩形領域の左上端のx座標、y座標を示す。また、w(t)、h(t)は、時刻tにおける追跡対象(追跡領域)を示す矩形領域の横幅、高さを示す。また、式(1)において、Lt、Ut(0<Lt<Ut)は、撮像画像上で車両を追跡した時間として適切な時間であると判定することができる範囲を指定するパラメータである。
【0053】
式(3)は図2で示す点A、Dを結ぶ直線の右側の領域を示し、式(4)は図2で示す点B、Eを結ぶ直線の左側の領域を示す。なお、点A、Bは、それぞれ時刻t−1の追跡対象(追跡領域)の底辺の長さ(幅)をw(t−1)とすると、左端から0.4w(t−1)、0.6w(t−1)の点である。また、点D、Eは、それぞれ時刻t+1の追跡対象(追跡領域)の底辺の長さ(幅)をw(t+1)とすると、左端から0.4w(t+1)、0.6w(t+1)の点である。
【0054】
上述の第1〜第3の条件は、追跡時間が所要の範囲内であり、時刻t=2、3、…、T−1における矩形状の追跡領域の底辺の中点(車両の先頭の中央部に相当)が、図2で例示する移動可能領域(破線で示す台形状の領域)内に存在していることを示す。
【0055】
追跡領域が移動可能領域(車両移動領域)内にあるか否かの判定を行うことにより、検出漏れパターン(車両パターン、正例)又は誤検出パターン(非車両パターン、負例)の生成(収集)に重要な車両が存在した位置の推定を高精度に行うことができ、精度良く車両パターン(正例)又は非車両パターン(負例)を生成することができる。
【0056】
なお、図2に例示する移動可能領域の形状又は大きさは、道路の状況に応じて適宜設定することができ、図2の例に限定されるものではない。
【0057】
次に、正例及び負例の生成(収集)方法について説明する。データ収集部106は、車両検出部102での検出結果及び車両追跡部103での追跡結果に基づいて、検出した移動体領域又は追跡した追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する生成手段としての機能を有する。
【0058】
すなわち、データ収集部106は、移動体の検出結果と追跡結果との両方の情報に基づいて移動体を示す移動体判定情報又は非移動体を示す移動体判定情報を生成する。移動体を示す移動体判定情報は、例えば、車両であるにも関わらず車両として検出することができなかった車両パターン(検出漏れパターン、正例)である。また、非移動体を示す移動体判定情報は、例えば、車両でないにも関わらず車両として誤検出した非車両パターン(誤検出パターン、負例)である。
【0059】
移動体判定情報の生成は、以下のように行うことができる。例えば、追跡領域の追跡が行われている場合に、追跡領域の近傍の領域で車両が検出されたときは、検出した移動体領域は車両でないものを車両として検出したので、当該移動体領域を、非移動体を示す移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。また、追跡領域の追跡が行われている場合に、追跡領域の近傍の領域で車両が検出できないときは、追跡中の車両を非車両として検出したので、追跡領域を、移動体を示す移動体判定情報、すなわち車両であるにも関わらず車両として検出することができなかった車両パターン(正例)として生成する。これにより、人手を介さずに移動体判定情報(車両パターン又は非車両パターン)を生成することができる。
【0060】
正例生成部107は、正例を生成(収集)し、負例生成部108は、負例を生成(収集)する。以下、場合に分けて具体的に説明する。
【0061】
図3は本実施の形態の車両判定情報生成装置100による負例を生成する第1例を示す説明図である。図3において、上段は車両検出処理がフレーム単位で繰り返される様子を示し、下段は車両追跡処理が同様にフレーム単位で繰り返される様子を示す。図3に示すように、複数の撮像時点(例えば、時刻t1〜t8)で追跡領域を追跡することができた場合に、当該複数の撮像時点のうちの任意の撮像時点(例えば、時刻t6)で当該追跡領域の近傍領域で移動体領域を検出したときは、当該移動体領域が非移動体を示すとして移動体判定情報(負例)を生成する。
【0062】
図4は近傍領域の一例を示す説明図である。図4に示すように、近傍領域は、例えば、同一撮像時点の撮像画像上で複数の追跡領域(追跡対象)が存在する場合には、隣り合う追跡領域の間の領域を近傍領域(破線で示す領域)とすることができる。2つの追跡領域が隣り合う場合、近傍領域は、例えば、それぞれの追跡領域の撮像画像上の重心(xa、ya)及び(xb、yb)の中点(xc、yc)を重心とし、追跡領域の大きさ(高さ、幅)に適宜の定数を乗算した大きさの領域とすることができる。すなわち、図4中のC1、C2は追跡領域の大きさに応じて適宜設定することができる。
【0063】
2つの車両がほぼ並行して走行している場合に、これら2つの車両の間の領域(近傍領域)で車両が検出される可能性はほとんどないので、仮に当該近傍領域で移動体領域が検出された場合には、当該移動体領域は車両でないものを車両として検出したものであるので、当該移動体領域を、非移動体を示すとして移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。
【0064】
これにより、所要の距離に位置する2つの車両の間に別の車両が隙間なく入りこむことはほぼあり得ないので、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0065】
なお、図4の例において、隣り合う追跡領域の重心間の距離Dが、例えばD1<D<D2を満たさない場合、すなわち、2つの車両が近すぎる場合、あるいは遠すぎる場合には、負例の生成(収集)を実行しないようにすることができる。また、隣り合う追跡領域の重心を結ぶ線分が水平方向となす角をαとした場合、α<α1を満たさない場合、すなわち、2つの車両がある程度の距離を保って併走していない場合、負例の生成(収集)を実行しないようにすることができる。また、両者の条件が同時に満たされない場合に、負例の生成(収集)を実行しないようにすることもできる。
【0066】
図5は近傍領域の他の例を示す説明図である。図5に示すように、近傍領域は、例えば、近傍領域は、追跡領域を追跡することができた場合、当該追跡領域の周辺領域(破線で示す領域)である。周辺領域は、例えば、追跡領域を外側から囲む領域であって、追跡領域の内側の一部の領域を除く領域とすることができる。すなわち、周辺領域は、追跡領域の境界を含むようにすることができる。周辺領域の大きさ及び形状を画定するパラメータE1〜E4、I1〜I4は、追跡領域の大きさ(例えば、幅w)に応じて適宜設定することができる。また、周辺領域(近傍領域)の上側の両端部の領域は、消失点に向かう線分で除外することもできる。
【0067】
1つの車両が走行している場合に、当該車両の周囲の領域(近傍領域)で車両が検出される可能性はほとんどないので、仮に当該近傍領域で移動体領域が検出された場合には、当該移動体領域は車両でないものを車両として検出したものであるので、当該移動体領域を、非移動体を示すとして移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。これにより、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0068】
図6は車両検出結果及び車両追跡結果により負例を生成する様子の一例を示す説明図である。図6は前述の図4の場合に対応するものであり、2つの隣り合う追跡領域の間の領域を近傍領域とする例である。図6に示すように、2台の車両300、301が走行している場合、それぞれの車両を検出し、検出した車両に識別番号(1、2)を付して追跡処理を行っている。この状態で2つの車両の間で車両領域を検出した場合、当該車両領域は、車両でないものを誤って検出したものなので、当該車両領域のパターンを負例(誤検出パターン)として生成(収集)する。
【0069】
図7は車両検出結果及び車両追跡結果により負例を生成する様子の他の例を示す説明図である。図7は前述の図5の場合に対応するものであり、追跡領域の周辺領域を近傍領域とする例である。図7に示すように、車両304が走行している場合、当該車両を検出し、検出した車両に識別番号(7)を付して追跡処理を行っている。この状態で車両の周辺で車両領域を検出した場合、当該車両領域は、車両でないものを誤って検出したものなので、当該車両領域のパターンを負例(誤検出パターン)として生成(収集)する。
【0070】
図8は本実施の形態の車両判定情報生成装置100による正例を生成する一例を示す説明図である。図8において、上段は車両検出処理がフレーム単位で繰り返される様子を示し、下段は車両追跡処理が同様にフレーム単位で繰り返される様子を示す。図8に示すように、複数の撮像時点(例えば、時刻t1〜t8)で追跡領域を追跡することができた場合に、当該複数の撮像時点のうちの任意の撮像時点(例えば、時刻t5)で移動体領域を検出することができないときは、時刻t5の追跡領域が移動体を示すとして移動体判定情報(正例)を生成する。
【0071】
図8に示すように、複数の撮像時点(例えば、時刻t=t1からtn)で追跡領域を追跡することができた場合に、複数の撮像時点のうちの任意の撮像時点(例えば、時刻t=ts、1<s<n)で移動体領域を検出することができないときは、任意の撮像時点(時刻t=ts)の追跡領域が移動体を示すとして移動体判定情報を生成する。例えば、追跡処理で追跡領域を追跡することができている場合、車両は存在すると考えられる。追跡中の任意の撮像時点(時刻t=ts)で車両を検出することができない場合には、本来であれば車両として検出することができるものを車両として検出することができなかったのであるから、当該任意の撮像時点(時刻t=ts)での追跡領域を、車両であるにも関わらず車両として検出することができなかった車両パターン(正例)として生成する。これにより、人手を介さずに車両パターン(正例)を自動的に生成することができる。
【0072】
図9は車両検出結果及び車両追跡結果により正例を生成する様子の一例を示す説明図である。図9は前述の図8の場合に対応するものである。図9に示すように、2台の車両302、303が走行している場合、それぞれの車両を検出し、検出した車両に識別番号(4、5)を付して追跡処理を行っている。この状態で車両303を検出することができない場合、車両であるものを検出することができなかったので、車両303に対応する追跡領域のパターンを正例(検出漏れパターン)として生成(収集)する。
【0073】
図10は本実施の形態の車両判定情報生成装置100による負例を生成する第2例を示す説明図である。図10において、上段は車両検出処理がフレーム単位で繰り返される様子を示し、下段は車両追跡処理が同様にフレーム単位で繰り返される様子を示す。図10に示すように、任意の撮像時点(例えば、時刻t4)で車両(車両領域)を検出した場合に、時刻t4後の時刻(例えば、時刻t7)で追跡領域を追跡することができないときは、当該任意の撮像時点(時刻t4)の前後の撮像時点(例えば、時刻t2〜t6)及び当該車両領域の周辺領域(例えば、車両領域を中心とする半径rの領域)で他の追跡領域が存在しない場合、時刻t4の車両領域が非移動体を示すとして移動体判定情報(負例)を生成する。
【0074】
追跡処理が一旦開始された後中止されたということは、当初車両であると判定して追跡領域の追跡が行われたものの途中で車両ではないと判定されたのであるから、車両が検出された時点の前後及びその周囲で他の車両を追跡する追跡領域が存在しない場合には、車両でないものを車両として検出したので、当該追跡領域を、非移動体を示す移動体判定情報、すなわち誤検出した非車両パターン(負例)として生成する。これにより、人手を介さずに非車両パターン(負例)を自動的に生成することができる。
【0075】
図11は車両検出結果及び車両追跡結果により負例を生成する様子の他の例を示す説明図である。図11は前述の図10の場合に対応するものである。一旦車両が検出され、追跡処理が開始されたものの、その後追跡処理が中止された場合、他の追跡領域が存在しないときは、当初検出した車両領域は、車両でないものを誤って検出したものなので、当該車両領域のパターンを負例(誤検出パターン)として生成(収集)する。
【0076】
なお、上述の車両追跡処理が継続しているという条件に加えて、信頼度判定部104で判定した信頼度が低下していないこと、あるいは移動領域判定部105で追跡領域が移動可能範囲内にあることを条件として付加することもできる。これにより、負例又は正例の自動生成(自動収集)に重要な車両の存在位置の推定を高精度に行うことができる。
【0077】
図12は本実施の形態の車両判定情報生成装置100による負例及び正例の自動収集の処理手順を示すフローチャートである。なお、以下のフローチャートの説明では、便宜上車両判定情報生成装置100を簡略化して装置100と称する。装置100は、撮像画像を取得し(S11)、車両領域(移動体領域)を検出する(S12)。
【0078】
装置100は、検出した車両領域の位置を追跡領域として追跡し(S13)、追跡領域が車両移動領域(移動可能領域)内であるか否かを判定する(S14)。追跡領域が車両移動領域内にある場合(S14でYES)、装置100は、車両の動きとして自然なものであると判定して、追跡の信頼度が低下したか否かを判定する(S15)。追跡領域が車両移動領域内にない場合(S14でNO)、装置100は、処理を終了する。
【0079】
信頼度が低下していない場合(S15でNO)、すなわち、信頼度の値が増加又は変化していない場合、装置100は、追跡領域の近傍領域に車両領域(移動体領域)を検出したか否かを判定し(S16)、車両領域を検出した場合(S16でYES)、車両でないものを車両として誤検出したので、当該車両領域のパターンを負例(誤検出パターン)として収集(生成)し(S17)、処理を終了する。
【0080】
追跡領域の近傍領域に車両領域を検出していない場合(S16でNO)、装置100は、追跡中の任意の時点で車両領域の検出ができたか否かを判定し(S18)、車両領域を検出することができない場合(S18でNO)、車両を車両として検出することができなかったので、車両領域を検出することができなかった時点での追跡領域のパターンを正例(検出漏れパターン)として収集(生成)し(S19)、処理を終了する。車両領域を検出することができた場合(S18でYES)、装置100は、ステップS14以降の処理を続ける。
【0081】
追跡の信頼度が低下した場合(S15でYES)、装置100は、追跡が途中で中止になったか否かを判定し(S20)、追跡が中止になっていない場合(S20でNO)、ステップS15以降の処理を続ける。なお、追跡の信頼度は、車両でないと判定された場合にはゼロになり、また、車両であるか否かが不明である状態が継続した場合、信頼度の値は減少する。
【0082】
追跡を中止した場合(S20でYES)、すなわち、車両の検出処理が続けられている状態で当該車両の追跡が中止した場合、追跡対象(追跡領域)の車両検出時の前後及び検出した車両領域の周囲で他の追跡領域の有無を判定する(S21)。
【0083】
他の追跡領域がない場合(S21でNO)、装置100は、車両でないものを車両として誤検出したので、当該車両領域のパターンを負例(誤検出パターン)として収集(生成)し(S22)、処理を終了する。他の追跡領域がある場合(S21でYES)、装置100は、検出した車両領域は車両として正しく検出されたものであるので、ステップS22の処理を行うことなく処理を終了する。なお、図12に示す処理は、適宜の周期で繰り返し実行することができる。
【0084】
本実施の形態の車両判定情報生成装置100は、CPU、RAMなどを備えた汎用コンピュータを用いて実現することもできる。すなわち、図12に示すような、各処理手順を定めたコンピュータプログラムをCD、DVD、USBメモリ等のコンピュータプログラム記録媒体に記録しておき、当該コンピュータプログラムをコンピュータに備えられたRAMにロードし、コンピュータプログラムをCPUで実行することにより、コンピュータ上で車両判定情報生成装置100を実現することができる。
【0085】
本実施の形態の車両判定情報生成装置100による正例及び負例の自動収集(自動生成)は、所要の時間内に示された車両検出部102の検出処理と車両追跡部103の追跡処理の両方の情報を参照することで、車両検出処理単体では困難な「車両検出処理の適切さ」を判定、補完することができる。これにより、車両検出と車両追跡とを並行して行う場合に、本実施の形態によれば、車両の検出漏れに起因した追跡漏れを未然に防止することができるので、運転者の死角からの接近車両の存在を運転者へ警告することができない事態を防ぐことができる。また、車両でないものを車両として誤検出することを防止することができるので、運転車への不必要な警告、あるいは計算量の大きい追跡処理の過剰発生に起因する警告の遅れ等を防止することができ、車両センサに対する運転者の信頼を高めることができる。
【0086】
収集データ学習部109は、データ収集部106で収集(生成)した正例及び負例を用いて、車両・非車両の判定基準を更新(修正)する更新手段としての機能を有する。収集データ学習部109は、例えば、サポートベクターマシン(SVM)を備える。特に、インクリメンタルサポートベクターマシン(Incremental SVM)を採用する場合には、データ収集部106で収集(生成)した正例及び負例を追加学習して、車両・非車両の判定基準をオンライン修正(更新)という形で実現することができる。また、インクリメンタルサポートベクターマシンを用いた学習は、既に所有している正例及び負例(学習データ)から追加学習しようとする正例及び負例の適切さを評価するステップを含んでいるので、車両検出に有意な正例及び負例のみを学習データとして採用することができる。また、通常のサポートベクターマシンを用いた学習に比べて、追加する正例又は負例だけを学習データとして用いて学習することができるので計算量が極めて少なく、オンライン学習に適している。
【0087】
本実施の形態では、上述のように、サポートベクターマシン(特に、インクリメンタルサポートベクターマシン)を用いて車両であるか否かを判定し、判定するための判定基準を、生成した正例及び/又は負例を用いて更新する。すなわち、生成した正例若しくは負例、あるいは両者を学習データとして採用して判定基準を更新する。これにより、オンラインで修正した判定基準を用いて車両検出を行うことができるので、自動学習機能を備え、高精度に車両を検出することが可能となる。
【0088】
本実施の形態によれば、人手を介さずに正例又は負例(移動体判定情報)の収集を自動的に行うとともに収集した正例又は負例を用いて車両などの移動体を高精度に検出することができる。
【0089】
従来、サンプルの学習に基づく認識技術においては、当然ながら学習サンプルの適切さがその認識精度を左右する。その中で、高精度な認識精度を達成しているアプリケーションの大半が、人の介在を必要とするものである。すなわち、人によって適切であると判断されたサンプルを学習に用いている。このことからも、学習サンプルの適切さの判定の自動化の難しさが伺える。
【0090】
本実施の形態にあっては、従来は手動で行う必要があった膨大な量のデータの収集・学習サンプルの作成を自動化することができる。また、地点毎の特性に適切に対応して高精度な車両検出・追跡性能をもつ車両センサを実現できる。これにより、安全運転を支援するための確度の高い情報を運転者に提供できる車両センシングシステムを現実的なコストで広く普及させることができる。また、検出結果に基づいて実行される追跡処理は計算量が大きい傾向にあるため、本実施の形態により実現することができる誤検出の発生頻度の削減は、そのまま計算量の削減につながり、処理の遅れによる運転者への情報伝達の遅れなどの処理時間に関わる問題を低減することができる。
【0091】
開示された実施の形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【0092】
100 車両判定情報生成装置
101 画像入力部
102 車両検出部
103 車両追跡部
104 信頼度判定部
105 移動領域判定部
106 データ収集部
107 正例生成部
108 負例生成部
109 収集データ学習部
200 撮像装置
【特許請求の範囲】
【請求項1】
撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置において、
複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出する検出手段と、
該検出手段で検出した移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡する追跡手段と、
前記検出手段での検出結果及び前記追跡手段での追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する生成手段と
を備えることを特徴とする移動体判定情報生成装置。
【請求項2】
前記生成手段は、
前記追跡手段で複数の撮像時点で追跡領域を追跡することができた場合に、前記複数の撮像時点のうちの任意の撮像時点で前記追跡領域の近傍領域で前記検出手段により移動体領域を検出したときは、該移動体領域が非移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする請求項1に記載の移動体判定情報生成装置。
【請求項3】
前記近傍領域は、
前記追跡手段で複数の追跡領域を追跡することができた場合、隣り合う追跡領域の間の領域であることを特徴とする請求項2に記載の移動体判定情報生成装置。
【請求項4】
前記近傍領域は、
前記追跡手段で追跡領域を追跡することができた場合、該追跡領域の周辺領域であることを特徴とする請求項2に記載の移動体判定情報生成装置。
【請求項5】
前記生成手段は、
前記追跡手段で複数の撮像時点で追跡領域を追跡することができた場合に、前記複数の撮像時点のうちの任意の撮像時点で前記検出手段により移動体領域を検出することができないときは、前記任意の撮像時点の追跡領域が移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする請求項1乃至請求項4のいずれか1項に記載の移動体判定情報生成装置。
【請求項6】
前記生成手段は、
任意の撮像時点で前記検出手段により移動体領域を検出した場合に、前記追跡手段で追跡領域を追跡することができないときは、前記任意の撮像時点の前後の撮像時点及び前記移動体領域の周辺領域で他の追跡領域が存在しない場合、前記移動体領域が非移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする請求項1乃至請求項5のいずれか1項に記載の移動体判定情報生成装置。
【請求項7】
前記追跡手段が追跡する追跡領域が移動体を示すか否かを判定する追跡判定手段を備え、
前記追跡手段は、
前記追跡領域が移動体を示すものでないと判定された場合、追跡を中止するように構成してあることを特徴とする請求項1乃至請求項6のいずれか1項に記載の移動体判定情報生成装置。
【請求項8】
前記追跡手段が追跡する追跡領域が予め撮像画像上で画定された移動可能領域内にあるか否かを判定する移動可能判定手段を備え、
前記追跡手段は、
前記追跡領域が前記移動可能領域内にある場合、追跡を継続するように構成してあることを特徴とする請求項1乃至請求項7のいずれか1項に記載の移動体判定情報生成装置。
【請求項9】
サポートベクターマシンを用いて移動体であるか否かを判定する判定手段と、
該判定手段で判定するための判定基準を前記生成手段で生成した移動体判定情報を用いて更新する更新手段と
を備えることを特徴とする請求項1乃至請求項8のいずれか1項に記載の移動体判定情報生成装置。
【請求項10】
請求項1に記載の移動体判定情報生成装置と、撮像した撮像画像を前記移動体判定情報生成装置へ出力する撮像装置とを備えることを特徴とする移動体判定情報生成システム。
【請求項11】
コンピュータに、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成するステップを実行させるためのコンピュータプログラムにおいて、
コンピュータに、
複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出するステップと、
検出した移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡するステップと、
前記検出するステップでの検出結果及び前記追跡するステップでの追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成するステップと
を実行させることを特徴とするコンピュータプログラム。
【請求項12】
撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置による移動体判定情報生成方法おいて、
複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出するステップと、
検出された移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡するステップと、
検出結果及び追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成するステップと
を含むことを特徴とする移動体判定情報生成方法。
【請求項1】
撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置において、
複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出する検出手段と、
該検出手段で検出した移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡する追跡手段と、
前記検出手段での検出結果及び前記追跡手段での追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成する生成手段と
を備えることを特徴とする移動体判定情報生成装置。
【請求項2】
前記生成手段は、
前記追跡手段で複数の撮像時点で追跡領域を追跡することができた場合に、前記複数の撮像時点のうちの任意の撮像時点で前記追跡領域の近傍領域で前記検出手段により移動体領域を検出したときは、該移動体領域が非移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする請求項1に記載の移動体判定情報生成装置。
【請求項3】
前記近傍領域は、
前記追跡手段で複数の追跡領域を追跡することができた場合、隣り合う追跡領域の間の領域であることを特徴とする請求項2に記載の移動体判定情報生成装置。
【請求項4】
前記近傍領域は、
前記追跡手段で追跡領域を追跡することができた場合、該追跡領域の周辺領域であることを特徴とする請求項2に記載の移動体判定情報生成装置。
【請求項5】
前記生成手段は、
前記追跡手段で複数の撮像時点で追跡領域を追跡することができた場合に、前記複数の撮像時点のうちの任意の撮像時点で前記検出手段により移動体領域を検出することができないときは、前記任意の撮像時点の追跡領域が移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする請求項1乃至請求項4のいずれか1項に記載の移動体判定情報生成装置。
【請求項6】
前記生成手段は、
任意の撮像時点で前記検出手段により移動体領域を検出した場合に、前記追跡手段で追跡領域を追跡することができないときは、前記任意の撮像時点の前後の撮像時点及び前記移動体領域の周辺領域で他の追跡領域が存在しない場合、前記移動体領域が非移動体を示すとして移動体判定情報を生成するように構成してあることを特徴とする請求項1乃至請求項5のいずれか1項に記載の移動体判定情報生成装置。
【請求項7】
前記追跡手段が追跡する追跡領域が移動体を示すか否かを判定する追跡判定手段を備え、
前記追跡手段は、
前記追跡領域が移動体を示すものでないと判定された場合、追跡を中止するように構成してあることを特徴とする請求項1乃至請求項6のいずれか1項に記載の移動体判定情報生成装置。
【請求項8】
前記追跡手段が追跡する追跡領域が予め撮像画像上で画定された移動可能領域内にあるか否かを判定する移動可能判定手段を備え、
前記追跡手段は、
前記追跡領域が前記移動可能領域内にある場合、追跡を継続するように構成してあることを特徴とする請求項1乃至請求項7のいずれか1項に記載の移動体判定情報生成装置。
【請求項9】
サポートベクターマシンを用いて移動体であるか否かを判定する判定手段と、
該判定手段で判定するための判定基準を前記生成手段で生成した移動体判定情報を用いて更新する更新手段と
を備えることを特徴とする請求項1乃至請求項8のいずれか1項に記載の移動体判定情報生成装置。
【請求項10】
請求項1に記載の移動体判定情報生成装置と、撮像した撮像画像を前記移動体判定情報生成装置へ出力する撮像装置とを備えることを特徴とする移動体判定情報生成システム。
【請求項11】
コンピュータに、撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成するステップを実行させるためのコンピュータプログラムにおいて、
コンピュータに、
複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出するステップと、
検出した移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡するステップと、
前記検出するステップでの検出結果及び前記追跡するステップでの追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成するステップと
を実行させることを特徴とするコンピュータプログラム。
【請求項12】
撮像装置で撮像して得られた撮像画像に基づいて移動体を検出する場合に移動体であるか否かの判定に用いる移動体判定情報を生成する移動体判定情報生成装置による移動体判定情報生成方法おいて、
複数の撮像時点それぞれで得られた撮像画像及び予め記憶した移動体判定情報に基づいて移動体を示す画素領域である移動体領域を検出するステップと、
検出された移動体領域の前記撮像時点以降の撮像時点で得られた撮像画像上での位置を追跡領域として追跡するステップと、
検出結果及び追跡結果に基づいて、前記移動体領域又は前記追跡領域が移動体を示すか又は非移動体を示すかを区別した移動体判定情報を生成するステップと
を含むことを特徴とする移動体判定情報生成方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2013−30130(P2013−30130A)
【公開日】平成25年2月7日(2013.2.7)
【国際特許分類】
【出願番号】特願2011−167516(P2011−167516)
【出願日】平成23年7月29日(2011.7.29)
【出願人】(000002130)住友電気工業株式会社 (12,747)
【Fターム(参考)】
【公開日】平成25年2月7日(2013.2.7)
【国際特許分類】
【出願日】平成23年7月29日(2011.7.29)
【出願人】(000002130)住友電気工業株式会社 (12,747)
【Fターム(参考)】
[ Back to top ]