説明

移動物体検出装置

【課題】オクルージョンが生じている状況下においても、複数の移動物体の存在を検出することができる移動物体検出装置を提供する。
【解決手段】
監視領域を撮影する撮像部と、撮像部の視軸と異なる光軸で監視領域に光を照射するように設置される照明部と、撮像部にて撮影した画像から移動物体を検出する画像処理部と、出力部とを少なくとも備えた移動物体検出装置であって、画像処理部は、照明部から光を照射した監視領域を撮像部にて撮影した入力画像と基準画像とを比較して基準画像から変化した変化領域を抽出する変化領域抽出手段と、変化領域の特徴を用いて変化領域を移動物体画像と影画像に分割する分割手段と、影画像の特徴を用いて複数の移動物体により生じた影であるか否かを判定して出力部に判定結果を出力する判定手段と、を有することを特徴とした。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラにより撮影された画像を用いて移動物体を検出する移動物体検出装置に関する。
【背景技術】
【0002】
従来、カメラに撮影された人物等の移動物体像を追跡し、監視場所における異常状態等を検出するために、移動物体検出装置が利用されている。移動物体検出装置には、複数の移動物体がカメラに正対した位置において密着して並んだ状態で撮影された場合、後ろの移動物体は正面の移動物体の陰に隠れてしまう、いわゆるオクルージョンが発生する問題がある。オクルージョンが発生すると、移動物体検出装置は複数の移動物体の存在を検出することが困難となり、また、見かけ上、物体像の分岐や併合が生じるので、正確に移動物体を追跡していくことが困難となる。
【0003】
従来、このオクルージョンが発生する問題に対して、複数のカメラを用いて解決する構成が提案されている。すなわち、複数のカメラのそれぞれと移動物体との位置関係に基づいて、オクルージョンが生じにくいカメラを選択し、当該カメラにより撮影した画像を選択的に用いて移動物体の追跡を行うものがある(特許文献1)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平07-049952
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、このような方法では、複数のカメラを設置しなければならず、また処理も複雑なものとなるため、コストがかさむといった問題があった。そこで、本発明は、照明により生成される影の形の情報を活用することにより、オクルージョンが生じている状況下においても、簡易な装置構成によって複数の移動物体の存在を検出することができることを目的とするものである。
【課題を解決するための手段】
【0006】
かかる課題を解決するために、監視領域を撮影する撮像部と、前記撮像部の視軸と異なる光軸で前記監視領域に光を照射するように設置される照明部と、前記撮像部にて撮影した画像から移動物体を検出する画像処理部と、出力部とを少なくとも備えた移動物体検出装置であって、前記画像処理部は、前記照明部から光を照射した監視領域を前記撮像部にて撮影した入力画像と基準画像とを比較して前記基準画像から変化した変化領域を抽出する変化領域抽出手段と、前記変化領域の特徴を用いて前記変化領域を移動物体画像と影画像に分割する分割手段と、前記影画像の特徴を用いて複数の移動物体により生じた影であるか否かを判定して前記出力部に判定結果を出力する判定手段と、を有することを特徴とした移動物体検出装置を提供する。
【0007】
かかる構成により、本発明の変化領域抽出手段は、撮像部により取得した入力画像と基準画像とを比較して変化領域を抽出する。そして、本発明の分割手段は、変化領域の特徴から当該変化領域を移動物体画像と影画像とに分割する。そして、本発明の判定手段は、影画像の特徴から当該影画像が複数の移動物体により生じた影であるか否かを判定し、判定結果を出力部に出力する。そして、本発明の出力部は、当該判定結果を出力する。これにより、本発明は、オクルージョンが発生し、所定の変化領域に複数の移動物体が存在しているような場合であったとしても、影画像の特徴から、複数の移動物体が存在していることを把握することができる。
【0008】
また、本発明の好ましい態様として、前記判定手段は、前記移動物体画像に接している前記影画像の部分に対向する位置にある外延形状に所定の凸形状が複数検出されると複数の移動物体により生じた影画像と判定するものとする。
かかる構成により、本発明の判定手段は、影画像の特徴として、移動物体画像と接している部分と対抗する位置にある外延形状に所定の凸形状を複数検出したときに、複数の移動物体により生じた影画像と判定する。すなわち、影画像に一つの凸形状を検出した場合は、変化領域に一つの移動物体が存在すると判定できる。その一方で、影領域に複数の凸形状を検出した場合は、変化領域に複数の移動物体が存在すると判定できる。
【0009】
また、本発明の好ましい態様は、更に、前記撮像部の配置位置及び視軸を含む撮像設定データおよび前記照明部の配置位置及び光軸を含む照明設定データを予め記憶する記憶部を備え、前記画像処理部は、前記撮像設定データ、前記照明設定データ及び前記移動物体画像の大きさから前記移動物体画像が一つの移動物体であった場合の仮想影画像の面積を算出する面積算出手段を更に有し、前記判定手段は、前記影画像の面積と前記仮想影画像の面積とを比較し、前記影画像が所定の判定閾値より大きいと、複数の移動物体により生じた影であると判定するものとする。
かかる構成により、本発明の面積算出手段は、記憶部の撮像設定データ、照明設定データと移動物体画像の大きさとから、移動物体画像が一つの移動物体であった場合の仮想影画像の面積を算出する。そして、本発明の判定手段は、影画像の面積と仮想影画像の面積とを比較し、影画像が所定の判定閾値より大きいと、複数の移動物体により生じた影であると判定する。ここで、所定の判定閾値とは、例えば、予め設定された影画像の面積と仮想影画像の面積との比率が1つの移動物体の影に相当するか、複数の移動物体の影に相当するのかを弁別するための値である。かかる閾値は、撮像部、照明部の設置位置や検出対象である移動物体の大きさを位置によって異なるため、それぞれの設定データ等から経験的に定めても良いし、計算して適応的に定めても良い。この場合、判定手段は、影画像の面積と仮想影画像の面積との面積比率を求め、それと閾値とを比較する。その結果、仮想影画像の面積よりも影画像の面積の方が大きく、かつ、当該閾値を超えていた場合に、一つの移動物体の影ではない、すなわち、複数の移動物体により生じた影であると判定できる。
【0010】
また、本発明の好ましい態様は、前記撮像部の配置位置及び視軸を含む撮像設定データおよび前記照明部の配置位置及び光軸を含む照明設定データを予め記憶する記憶部と、前記画像処理部は、前記撮像設定データ、前記照明設定データ及び前記移動物体画像の大きさから仮想影画像の主軸線方向を算出する軸線算出手段と、前記判定手段が複数の移動物体による影と判定すると、前記抽出された前記複数の凸形状の頂部ごとに、前記主軸線方向であって前記移動物体像と重なる位置を移動物体の足元位置とするとともに前記出力部に足元位置を出力する位置推定手段を更に有するものとする。
かかる構成により、本発明の軸線算出手段は、記憶部の撮像設定データと、照明設定データと、移動物体画像の大きさとから仮想影画像の主軸線方向を算出する。一方、本発明の判定手段により、影画像が複数の移動物体による影であると判定した場合、すなわち、オクルージョンによって隠蔽された他の移動物体の存在を検出した場合を想定する。この場合、本発明の位置推定手段は、抽出された複数の凸形状の頂部ごとに、主軸線方向であって移動物体像と重なる位置を、隠蔽された他の移動物体の足元位置として算出し、出力部に足元位置を出力する。このように、位置推定手段により検出された隠蔽された他の移動物体の足元位置を推定することにより、当該他の移動物体のおよその現在位置を把握することができ、これを追跡用情報として利用することができる。
【発明の効果】
【0011】
上記のように、本発明の移動物体検出装置は、オクルージョンが生じている状況下においても、影画像を積極的に利用したことにより、複数のカメラを連携させることなく、簡易な装置構成によって複数の移動物体の存在を検出することができる。
【図面の簡単な説明】
【0012】
【図1】実施例に係る移動物体検出装置の構成と配置イメージを模式的に示した図
【図2】管理装置の構成を示すブロック図
【図3】制御部における処理を示すフローチャート
【図4】判定処理を示すフローチャート
【図5】分割処理を説明する図
【図6】第一の実施例における判定処理を説明する図
【図7】足元位置の推定の処理を説明する図
【図8】ワールド座標系、画像座標系、カメラ座標系の対応関係を表す図
【図9】第一の実施例における判定処理で作成されるヒストグラム
【図10】第二の実施例における判定処理を説明する図
【図11】仮想影の特徴を説明する図
【発明を実施するための形態】
【0013】
(第一の実施例)
以下、本発明の一実施形態として、建物内の室における所定の領域を監視領域とし、当該監視領域を撮像した入力画像から監視領域内に存在する人物の数を監視者に表示する場合の実施例について、図面を参照して説明する。なお、以下の実施例では、移動物体として人物を想定しているが、人物以外の移動物体、例えば、ベルトコンベアーなどで搬送されている各種製品やペットなどに対しても本発明を適用することが可能である。
【0014】
図1は、移動物体検出装置1の全体構成および配置について模式的に示した図である。移動物体検出装置1は、管理装置2、撮像装置3、照明装置4によって構成される。
本実施例では、移動物体検出装置1は、監視領域8内に存在する人物像を検知及び追跡し、監視領域8内に存在する人物の数を監視者である管理人等に通知する処理を行う。例えば、図1のように、監視領域8内に第一人物5aと第二人物6aとが存在する場合、撮像装置3から見たこれらの人物の像にオクルージョンが生じていたとしても、第一人物5aと第二人物6aとを合わせた人数(二人)を管理人等に適切に通知ことができるものである。
【0015】
撮像装置3は、CCD素子やC−MOS素子等の撮像素子、光学系部品等を含んで構成される所謂監視カメラである。撮像装置3は、室の壁9の上部又は天井に設置され、地面または床面を含む監視領域8を斜め上方から俯瞰して撮像するよう設置される。撮像装置3は、監視領域8を所定時間おきに撮像して入力画像を管理装置2に順次送信する。入力画像が撮像される時間間隔は例えば1/5秒である。以下、この時間間隔で刻まれる時間の単位を時刻と称する。
【0016】
照明装置4は、人体を検出するとLEDが点灯するセンサーライトであって、室の壁9の上部又は天井に設置され、監視領域8内を斜め上方から照射するよう設置される。更に、照明装置4は、その光軸が撮像装置3の視軸と異なるような方向から光を照射するように設置される。ここで光軸とは、照明装置4から照射された立体的な光束の中心における光の進行方向をいう。なお、本発明は、照明装置4の光軸と撮像装置3の視軸との関係が水平面上において直角に近づくよう、撮像装置3と照明装置4とが設置される程、好適に用いることができる。また、本発明は、照明装置4の光軸を監視領域8の中央を照射するよう、照明装置4の向きを調整して設置される程、好適に用いることができる。なお、照明装置4は、センサーライトに限らず、管理装置2によって制御されても良い。
【0017】
管理装置2は、室を備えた建物内の事務室や警備室等に設置され、管理装置2に接続された撮像装置3から送信された画像に基づいて人物像の追跡処理を行う。また、管理装置2は、追跡している人物像から監視領域8に存在する人物の人数を判定し、図示しない事務室等に所在する管理者や警備員等に対して音声や画像表示によって警報出力することにより、監視領域8に存在する人物の人数を通知する。
【0018】
図2は、管理装置2の構成を示している。管理装置2は、コンピュータ機能を有しており、制御部21と、記憶部22と、通信部23と、入力部24と、出力部25と、を備えている。
【0019】
通信部23は、LANやUSB等の通信インタフェースであり、撮像装置3との通信インタフェースとして機能する。
【0020】
入力部24は、キーボードやマウス、タッチパネル、可搬記憶媒体の読み取り装置等の情報入力デバイスである。管理者等は、入力部24を用いて、管理装置2に対して様々な設定情報や操作情報等を入力することができる。
【0021】
出力部25は、図示していないディスプレイやスピーカ等の情報出力デバイスであり、制御部21からの出力信号に基づいて、表示出力や音声出力等を行う。管理者等は、出力部25からの表示出力や音声出力を確認することにより、監視領域8に存在する人物の人数を把握することができる。さらに、管理者等は、出力部25からの表示出力や音声出力により、移動物体検出装置1の設定情報を確認したり、監視領域8における入力画像を確認したりすることもできる。
【0022】
記憶部22は、ROM、RAM、HDD等の情報記憶装置である。記憶部22は、各種プログラムや各種データを記憶し、制御部21との間でこれらの情報を入出力する。各種データには、構成情報221と、基準画像222と、変化領域画像223と、追跡用情報224と、仮想影情報225とを含んで構成される。
【0023】
構成情報221は、撮像空間を三次元座標として表現した場合における撮像装置3の三次元位置情報及び向き(視軸)を含む撮像設定データと、照明装置4の三次元位置情報及び向き(光軸)を含む照明設定データとからなる情報であり、いわば撮像装置3と照明装置4との設置情報に関する情報である。撮像設定データはカメラキャリブレーションを行うことによって求めることができる、いわゆる撮像装置3の外部パラメータである。また、構成情報221には、撮像装置3の画角、画素数及びレンズ歪み等を含むカメラ固有の内部パラメータ等に関する情報を含む。構成情報221は、後述の仮想影情報225を生成する際に利用される。
【0024】
基準画像222は、後述する制御部21の変化領域抽出手段211によって、後述する変化領域画像223を抽出するために、入力画像との比較対象として用いられる画像情報である。本実施例では、監視領域8に人物等の移動物体が存在しない状態のときの画像情報(背景画像)を基準画像222として用いている。基準画像222は、移動物体が存在しない状況で本装置を起動することによって取得され、起動後は移動物体が存在しない画像上の領域についての画像情報を利用することによって逐次更新される。
【0025】
変化領域画像223は、後述する制御部21の変化領域抽出手段211によって入力画像と基準画像222との差分演算が行われ、差分が認められた画像領域として抽出された画像情報である。また、変化領域画像223は、後述する制御部21の分割手段212によって、人物に相当する画像領域(以下、人物画像という)と当該人物画像に対応する影に相当する画像領域(以下、影画像という)とに分割され、更新される。
【0026】
追跡用情報224は、追跡している各人物画像の画像上の位置及び追跡用特徴量からなる情報である。追跡用特徴量は、輝度ヒストグラム、テクスチャ情報などであり、人物画像を追跡するために、過去画像における人物画像と現在画像における人物画像とを同定するのに使用される。
【0027】
仮想影情報225は、ある人物画像内に一人の人物が内在していると仮定した場合に、照明装置4から照射された光によって当該人物画像から床面に投影されうる影(以下、仮想影という)の特徴に関する情報である。仮想影情報225は、予め管理者等によって設定登録されたり、後述する制御部21の仮想影生成手段214によって自動的に生成されることによって設定される。本実施例では、仮想影情報225として、仮想影の形状に関する情報と、仮想影が出現しうる方向(以下、主軸線方向という)に関する情報とが保存される。
【0028】
本実施例では、仮想影の形状として、一つの凸形状を有するものを想定している。そのため、仮想影情報225としては、ある人物画像に対応する影画像の外延形状が、一つの凸形状からなることを判定するための情報が保存される。すなわち、影画像について、人物画像に接している部分から見て対向する位置に、一つの凸形状からなる外延形状を有するか否かを判定するための情報である。より具体的には、本実施例では、後述するように、影画像の外延形状を判別するための閾値情報が保存される。なお、本実施例では、仮想影の形状に関する情報は、予め管理者等によって設定登録されているものとする。
また、主軸線方向は、後述する制御部21の仮想影生成手段214によって自動的に生成され、仮想影情報225として記憶されるものとする。
【0029】
制御部21は、例えばCPUやDSP等の演算装置であって、記憶部22に記憶されるプログラムに従って各種の情報処理を実行する。本実施例では、制御部21は、撮像装置3によって撮影され通信部23を介して受信した入力画像を解析して、移動物体である人物の像を検出・追跡し、監視領域8に存在する人物の数を示すメッセージを出力部25に出力する処理を行う。また、制御部21は、入力部24からの設定情報や操作情報等の入力情報を記憶部22に保存する処理を行う。制御部21は、機能的に、変化領域抽出手段211と、分割手段212と、追跡手段213と、仮想影生成手段214と、判定手段215と、位置推定手段216とを含んで構成される。
【0030】
変化領域抽出手段211は、撮像装置3から受信した入力画像と基準画像222とを比較して両画像間で相違する画素を検出し、互いに隣接して検出された画素をまとめて変化領域とする差分演算を行う。そして、予め定めた基準値を超える大きさの変化領域のみを変化領域画像223として抽出し、変化領域画像223として記憶する。ここで相違する画素とは、基準画像222との間で輝度値又は色成分の差が所定値以上である入力画像の画素、或いは基準画像222との間で輝度値或いは色成分の相関が所定値未満である画素のことを意味する。変化領域抽出手段211は、異なる移動物体の画像領域として抽出された各変化領域画像223に対して、それぞれ固有の数値であるラベルを付与し、変化領域画像223の画素値として記憶する。
【0031】
分割手段212は、変化領域抽出手段211で抽出された変化領域画像223を、予め認識している人物画像の特徴と影画像の特徴とに基づいて、人物画像と影画像とに分割する処理を行う。具体的には、分割手段212は、変化領域抽出手段211で生成された変化領域画像223における、人物画像の画素であるか影画像の画素であるかを判定する。
【0032】
なお、人物画像の特徴には、例えば、人物としての大きさに関する特徴や、人物らしい形状に関する特徴などがある。また、影画像の特徴には、輪郭部分のエッジ強度が弱いといった特徴や、基準画像のテクスチャが入力画像にも保存されるといった特徴、変化領域が負の輝度変化を示す(変化領域中の画素の輝度値が、基準画像における対応領域中の画素の輝度値よりも低い)といった特徴などがある。分割手段212は、正規化相関値など公知のパターンマッチング手法を用いたり、グラフカット等の公知のセグメンテーション手法を組み合わせることによって、これらの特徴を識別することにより、変化領域画像223を人物画像と影画像とに分割する。例えば、変化領域画像223の中から影画像の特徴を有する領域を影画像とし、残りの領域を移動物体画像としてもよい。逆に、変化領域画像223の中から人物画像の特徴を有する領域を人物画像とし、残りの領域を影領域としてもよい。また、影画像の特徴と移動物体画像の特徴を点数化し、各領域を移動物体画像か影画像かを判定することにより、移動物体画像と影画像に分割してもよい。
【0033】
追跡手段213は、撮像装置3が所定時間おきに取得した各入力画像について、分割手段212により抽出された各人物画像について追跡処理を行う。追跡処理では、追跡手段213は、新たに撮像された入力画像から分割手段212によって抽出された現在時刻の人物画像と、過去時刻において抽出されて追跡用情報224に記憶されている人物画像とを同定する処理を行う。この際、現在時刻の人物画像の追跡用特徴量と、過去時刻において抽出されて追跡用情報224に記憶されている人物画像の追跡用特徴量とを比較し、例えば、追跡用特徴量が類似し位置が近いもので同定する。そして、同一の人物を表すものとして互いに関連付けられた人物画像について、同一の像IDを付与し、時系列に従って撮像された各入力画像上の位置を、像IDと対応付けて記憶部22に追跡用情報224として保存する。なお、本実施例では、人物画像の入力画像上の位置情報として、人物画像の略中央最下部の位置(以下、足元位置という)の座標情報を保存している。
【0034】
なお、追跡手段213は、新たに抽出された人物画像において、過去の人物画像と同定が得られなかったものについては、新規人物が出現したものとして、当該人物画像の追跡特徴量に新規の像IDを付与して追跡用情報224に追記する。また、追跡手段213は、これまで追跡していた人物画像のうち、現在時刻の人物画像と同定が得られなかったものがある場合、当該人物が消失したものとして対応する情報を追跡用情報224から削除する。
【0035】
仮想影生成手段214は、変化領域画像223の人物画像の位置と大きさ、及び構成情報221に基づいて、各人物画像の仮想影の特徴に関する情報を自動的に生成し、仮想影情報225として記憶部22に保存する処理を行う。本実施例では、仮想影生成手段214は、前述のように仮想影情報225として主軸線方向を算出する。なお、主軸線方向の具体的な算出方法については後述する。
【0036】
判定手段215は、仮想影情報225と影画像とに基づいて、一つの人物画像に複数の人物が内在しているか否かを判定する処理を行う。すなわち、本処理では、まず、人物画像に対応する影画像が、仮想影情報225に設定された仮想影の特徴と略一致しているか否かを比較する。そして、影画像が仮想影の特徴と略一致していると判定した場合、すなわち、影画像の外延に一つの凸形状のみを検出した場合、当該人物画像には複数の人物が内在していないと判定する。一方、影画像が仮想影の特徴と略一致していないと判定した場合、すなわち、影画像の外延に複数の凸形状を検出した場合、当該人物画像には複数の人物が内在していると判定する。そして、一つの人物画像に複数の人物が内在していると判定した場合、いわばオクルージョンによって隠蔽されている人物(以下、隠蔽人物という)を検出した場合、判定手段215は、当該隠蔽人物に関する追跡用情報224を更新する処理を行う。なお、一つの人物画像に複数の人物が内在しているか否かを判定する処理、及び、隠蔽人物に関する追跡用情報224を更新する処理の具体例については、後述する。
【0037】
位置推定手段216は、判定手段215にて隠蔽人物が存在していると判定したとき、当該隠蔽人物の足元位置を推定する処理を行う。なお、足元位置を推定する処理の具体例については、後述する。
【0038】
以下、本実施例に係る管理装置2の制御部21が実行する処理の流れの一例について、図3の制御部21における処理を示すフローチャートに基づいて説明する。
【0039】
まず、誰もいない状態を確認して管理者等により本装置を起動する。また、起動後の移動物体検出処理の開始に先立ち、管理者等により入力部24を用いて、撮像装置3や照明装置4に関する構成情報221の設定等の各種初期設定が行なわれる(S10)。初期設定が完了すると、管理装置2の制御部21は、撮像装置3によって取得された直近の複数の入力画像から基準画像222を生成し、記憶部22に保存する。
【0040】
初期設定が終わったのち、撮像装置3より現在時刻における入力画像が取得される(S12)。以下、撮像装置3から新たな入力画像が入力されるたびにステップS12〜S22の移動物体検出処理が繰り返される。
【0041】
次に、変化領域抽出手段211は、取得した入力画像と基準画像222の差分演算、及び、ラベリング演算により、変化領域画像223を生成する移動物体抽出処理を行う(S14)。
【0042】
次に、分割手段212は、変化領域画像223の各画素について、影か人物かを判定を行い変化領域画像223の値を更新する分割処理を行う(S16)。図5は、本実施例に係る分割処理を説明するための図である。図5(a)は、撮像装置3で取得した現在時刻における入力画像に対して、変化領域抽出手段211による移動物体抽出処理によって抽出された変化領域画像223を表した図である。図5(b)は、変化領域抽出手段211で抽出された変化領域画像223に対して、分割手段212による分割処理が行われたことによって、人物画像51と影画像52とに分割された変化領域画像223を表した図である。
【0043】
次に、追跡手段213は、現在時刻における変化領域画像223の各人物画像51と、過去時刻において追跡され追跡用情報224に記憶された人物画像51との対応付けを行う追跡処理を行う(S18)。そして、追跡手段213は、監視領域8に存在する各人物画像51の現在時刻において存在する画像上の位置を、過去時刻における画像上の位置と関連付けて追跡用情報224として蓄積する。
【0044】
次に、判定手段215は、判定処理を行う(S20)。判定処理では、追跡用情報224に現れていない隠蔽人物の存否が判定され、監視領域8に存在する人物の人数が算出される。また、判定処理では、存在すると判定された隠蔽人物の足元位置が算出される。なお、判定処理の具体例については、後述する。
【0045】
次に、制御部21は、出力処理を行う(S22)。出力処理では、判定処理によって算出された監視領域8に存在する人物の人数を出力部25へ出力させるための処理が行われる。また、出力処理では、追跡用情報224に記憶された各像IDの足元位置と、判定処理によって算出された隠蔽人物の足元位置とを出力部25へ出力させるための処理が行われる。なお、制御部21は、監視領域8内に存在する人物の人数が予め設定された閾値人数を超えた場合に、出力部25に対して警告表示や警告音等の出力を行わせるための処理を行ってもよい。
【0046】
次に、上述した図3のフローチャートにおけるS20の判定処理の具体例について、図4の判定処理を示すフローチャートに基づいて説明する。
【0047】
図4に示すように、まず制御部21は、変化領域画像223の全ての人物画像51について隠蔽人物の存否を判定する処理が済んでいるか否かを判定する(S202)。全ての人物画像51について、判定処理済みである場合(S202−Yes)、ステップS216へ進む。
【0048】
全ての人物画像51について、隠蔽人物の存否を判定する処理が済んでいない場合(S202−No)、制御部21は、未処理の人物画像51の中から一つの人物画像51を選択し、当該人物画像51を処理対象として、記憶部22に一時的に保存する(S204)。また、処理対象の人物画像51に係る影人数を1に初期化する。ここで、影人数とは、処理対象の人物画像51に対応付けられた影画像52に基づいて判定された、当該人物画像51に含まれる人物の数を表す値のことをいう。
【0049】
次に、仮想影生成手段214は、処理対象の人物画像51における仮想影情報225を生成し、記憶部22に保存する処理を行う(S208)。前述のように、本実施例では、仮想影情報225として主軸線方向に関する情報を算出する。
【0050】
主軸線方向は、具体的に次のように求めることができる。まず、仮想影生成手段214は、足元位置として、処理対象の人物画像51の略中央最下部の位置の座標(u、v)を求める。この他にも、人物画像51の頭頂部の位置を含む垂直線と当該人物画像51の最下部の位置を含む水平線との交点に係る画像上の位置を人物画像51の足元位置として求めてもよい。
【0051】
続いて、仮想影生成手段214は、処理対象の人物画像51についての画像上の仮想影の頭頂部位置を求める。ここで、仮想影の頭頂部位置とは、処理対象の人物画像51の頭頂部の位置に該当する仮想影の位置のことをいう。
図8は、本実施例におけるワールド座標系、画像座標系、カメラ座標系の対応関係を表した図である。ここで、ワールド座標系とは、三次元空間中の所定の位置を表す座標系のことであり、図8のように、X−Y平面を床面とし、Z軸を床面に垂直な方向をとり、床面をZ=0とした右手系の座標系を用いる。また、画像座標系とは、撮像装置3で撮像された画像上の位置を表す座標系のことをいう。また、カメラ座標系とは、撮像装置3の光学中心を原点とし、Z軸を撮像装置3の視軸方向に一致させ、X軸とY軸は画像の横方向(u方向)と縦方向(v方向)に平行にとった座標系のことをいう。一般的に、ワールド座標系、カメラ座標系、画像座標系の三つの対応関係を取ることにより、画像座標系の位置をワールド座標系の位置に変換することが可能になる。このような対応関係を取る校正操作をカメラキャリブレーションという。カメラキャリブレーションは、撮像装置3固有の内部パラメータと、ワールド座標系における撮像装置3の位置と姿勢を意味する外部パラメータとを求めることにより実施可能である。ここでは、カメラキャリブレーションがステップS10の初期設定時に実施済みであるとし、詳細なカメラキャリブレーションの方法についての説明は省略する。
【0052】
一般的に、画像座標系の任意の位置(u,v)とワールド座標系における三次元位置(X,Y,Z)とは、次の数1で対応付けることができる。
【数1】

ここで、λはスケールファクタであり、Pは3×4のパラメータからなる射影行列である。なお、前述のカメラキャリブレーションにより、射影行列Pは既知の値であるとする。
【0053】
ここで、足元位置が床面に接触している(Z=0)という条件を付与して、人物画像51の画像上の足元位置の座標(u、v)を数1に代入することにより、人物画像51の足元位置に対応するワールド座標(X,Y,0)を算出することができる。また、人物画像51の画像上の頭部位置の座標(u、v)を数1に代入し、人物が直立していると仮定することにより、人物画像51の頭部位置に対応するワールド座標(X,Y,Z)を算出できる(ここで、X=X、Y=Y)。次に、照明装置4のワールド座標値(X,Y,Z)と頭頂部の位置のワールド座標値(X,Y,Z)とを結ぶ直線Lを求め、直線Lが床面と交差する点のワールド座標(X,Y,0)を仮想影の頭頂部位置として算出する。そして、数1より、画像上における仮想影の頭頂部位置(u,v)を求めることができる。
【0054】
このように、画像上の足元位置の座標(u、v)と仮想影の頭頂部位置(u,v)とを求めることにより、足元位置から仮想影の頭頂部位置に向かう方向を主軸線方向として算出できる。
【0055】
次に、判定手段215は、影画像52が仮想影の特徴に適合しているか否かについて判定する適合判定処理を行う(S208)。以下、適合判定処理の具体例を説明する。
【0056】
まず、判定手段215は、処理対象の人物画像51に対応する影画像52を求める。すなわち、判定手段215は、処理対象の人物画像51に接しており、ステップS206にて求めた足元位置から主軸線方向に向かって生じている影画像52を、当該人物画像51の影画像52として対応付ける。これにより、処理対象の人物画像51が照明装置4とは異なる照明によって生じた影画像52を有している場合であったとしても、照明装置4によって生じた影画像52のみを対応する影画像52として、以下の処理で利用することができる。また、処理対象の人物画像51が他の人物画像51から生じる影画像52とも接している場合、どの影画像52が処理対象の人物画像51に対応するものなのかを判別することができる。
【0057】
次に、判定手段215は、処理対象の人物画像51に対応する影画像52の形状と仮想影の特徴とを比較する処理を行う。前述したように、本実施例では、仮想影の特徴として、外延形状が一つの凸形状からなる影画像52であること想定している。図11は、本実施例における仮想影の特徴を説明する図である。図11のように、仮想影の特徴として、人物画像51と接している影画像52の部分53に対抗する位置にある影画像52の外延形状54が、人物画像51から見たとき一つの凸形状であることが求められる。
【0058】
図6は、処理対象の人物画像51に対応する影画像52の形状と仮想影の特徴とを比較する処理を説明するために模式的に表した図である。図6(a)に表されているように、判定手段215は、人物画像51の足元位置を中心に、主軸線方向αをθ=0の位置として、画像の奥行き方向に対して所定の角度範囲で回転させ、影画像52の大きさ変化(画素数の変化)を調べる。図9は、図6(a)の画像に対して、本処理を実施した場合における影画像52の大きさ変化について、ヒストグラムにより模式的に表した図であり、縦軸に画素数が設定され、横軸に角度θが設定されている。図9のように、画素値として、角度θ=0近辺にて第一のピーク値Pが、角度θ=θにて第一の下限値Pが、角度θ=θにて第二のピーク値Pが、認められる。
判定手段215は、これらの画素値と、予め管理者等によって設定登録され仮想影情報225として保存されている閾値情報とを用いて、影画像52の形状と仮想影の特徴とを比較する。ここで閾値情報とは、各ピーク値どうしの大きさ比率、及び、各ピーク値と各下限値との大きさ比率が、所定の範囲にあるか否かを判別するための閾値である。本実施例では、これらの比率が仮想影情報225として予め設定された閾値情報の範囲内にあると判別されたとき、影画像52の外延形状に複数の凸形状があると判定する。例えば、s1とs2とを閾値情報とし(例えば、s1=0.7、S2=0.8)、P1/P0<s1であり、かつ、P2/P0>s2であるならば、影画像52には2つの頂部と一つの谷部からなる二つの凸形状を有すると判定する。そのため、図9のようなヒストグラムを得られた場合、判定手段215は、当該仮想影の特徴とは略一致していないと判定し、処理対象の人物画像51に複数の人物が存在していると判定できる。
【0059】
このように、判定手段215によって、処理対象の人物画像51に対応する影画像52の外延形状を調べ、当該外延形状に複数の凸形状を有していることを閾値情報を用いて判定することにより、当該人物画像51に複数の人物が内在していると判定することができる。したがって、本発明は、オクルージョンが生じており、隠蔽人物が存在していることを判定することができる。
【0060】
次に、制御部21は、直前に実施したステップS208の適合判定処理において、処理対象の人物画像51に新たな隠蔽人物が存在していると判定されたか否かにより処理を分岐する(S210)。処理対象の人物画像51に新たな隠蔽人物が存在していると判定されていない場合(S210−No)、S202へ進み、本処理対象の人物領域像51に対する判定処理を終了する。
【0061】
直前に実施したステップS208の適合判定処理において、処理対象の人物画像51に新たな隠蔽人物が存在していると判定された場合(S210−Yes)、制御部21は、処理対象の人物画像51に係る影人数のインクリメントを行う(S212)。
【0062】
次に、位置推定手段216は、足元位置の推定処理を行う(S214)。足元位置の推定処理では、位置推定手段216によって、新たに検出された隠蔽人物の足元位置が推定され、記憶部22に一時的に記憶される。
【0063】
ここで、位置推定手段216による隠蔽されている人物の足元位置を推定するための処理について、図7を用いて具体的に説明する。まず、位置推定手段216は、ステップS20にて推定した主軸線方向αと平行な直線βを求める。ここで、直線βは、第二の凸形状のピーク値となる点、すなわち図10の第二のピーク値Pに相当する位置の点h’を通るものとする。このとき、隠蔽されている人物の足元位置は、直線β上において、処理対象の人物画像51と重なる範囲の位置に存在すると想定することができる。本実施例では、隠蔽されている人物の足元位置を、当該範囲における中間の位置f’として求めることとする。
【0064】
なお、以降の処理では、処理対象の人物画像51の足元位置fの代わりに、ステップS218にて推定した足元位置f’を用いて、ステップS206からの処理を繰り返す。すなわち、以降の処理では、図6(b)に表しているように、修正した足元位置f’を中心として更に隠蔽されている人物を検知する処理を行う。このように足元位置を修正して再帰的な処理を繰り返すことにより、隠蔽されている人物が二人以上であったとしても、隠蔽されている人物の数を比較的高い精度で検知することができる。
【0065】
全ての人物画像51についての判定処理が完了した場合(S202−Yes)、判定手段215は累算処理を行う(S216)。累算処理では、各人物画像51について求めた影人数が累算され、当該累算値を監視領域8に存在する人物の人数として算出され、記憶部22に一時的に記憶される。累算処理が完了すると、判定手段215は判定処理を終了し、S22へ進む。
【0066】
なお、本実施例では、仮想影生成手段214にて、仮想影情報225として仮想影の主軸線方向を算出しているが、主軸線方向を算出しなくても、すなわち、仮想影生成手段214を用いなくても、人物画像51に複数の人物が存在しているか否かを判定可能である。具体的に説明するならば、まず、人物画像51に接している影画像52について、接している当該部分とは対向する位置にある外延形状を、予め設定された影画像の特徴である閾値情報を用いて、上記ステップS208の適合判定処理と同様の処理によって、所定の凸形状が複数検出されるか否かを判定する。なお、上記のステップS208では、主軸線方向αをθ=0の位置として、画像の奥行き方向に対して所定の角度範囲で回転させ、影画像52の大きさ変化を調べているが、この場合においては、例えば人物画像51の足元位置から下に垂直の方向をθ=0の位置として、影画像52の存在する側の画像の奥行き方向に対して所定の角度範囲で回転させることにより、影画像52の大きさ変化を調べる。そして、所定の凸形状が複数検出された場合、人物画像51に複数の人物が存在していると判定する。
この他にも、主軸線方向を仮想影情報225として予め設定しても良い。この場合、ステップS10の初期設定時に予め管理者等によって設定登録され、仮想影情報225として記憶部22に保存されているものとする。
【0067】
(第二の実施例)
上述の第一の実施例では、仮想影生成手段214にて主軸線方向を求め、判定手段215にて影画像52が一の凸形状からなる仮想影の特徴を有しているか否かを判定することにより、当該人物画像51に複数の人物が存在するか否かを判定している。しかし、影画像52の形状は当該影画像52に対応する人物の体勢や姿形等に依存するため、状況によっては、必要とする精度の判定結果を得られないことも想定される。そのため、本実施例では、第一の実施例とは異なる方法により仮想影情報225を生成し、また、第一の実施例とは異なる方法により影画像52と仮想影情報225とを比較・判定することにより、第一の実施例で十分な精度を得られない場合であったとしても、補完的にオクルージョンを判定できることを目的としている。なお、本実施例は、補完的にオクルージョンを判定するだけでなく、本実施例のみによりオクルージョン状態を判定することも可能である。
【0068】
第一の実施例では、ステップS206にて、仮想影生成手段214は、仮想影の主軸線方向を算出し、仮想影情報225として記憶部22に保存した。一方、本実施例では、仮想影生成手段214は、仮想影の画像形状とその位置とを仮想影画像として求め、当該仮想影画像の面積と位置を仮想影情報225として記憶部22に保存する。本実施例では、仮想影の形状の一例として、楕円形状からなる仮想影画像を生成する。
【0069】
図10は、本実施例に係る判定処理を説明する図であり、図10(a)は一回目の判定処理を説明する図である。図10(a)の中で、破線で示された楕円形状は、仮想影生成手段214によって生成された仮想影画像60である。仮想影画像60は、具体的に次のように求めることができる。まず、仮想影生成手段214は、ステップS206にて、第一の実施例と同様の方法により、主軸線方向αを推定する。そして、主軸線方向αと楕円の長軸とを一致させ、楕円の長径を足元位置fから影頭頂部の位置hに至る長さとし、楕円の短径を予め定めた固定長とすることにより、仮想影画像60を生成することができる。なお、楕円の短径を入力画像上における人物画像51の位置や、人物画像51の横幅等により自動的に調整してもよい。
【0070】
第一の実施例では、ステップS208にて、判定手段215は、影画像52が一の凸形状からなる仮想影の特徴を有しているか否かについて判定することにより、当該人物画像51に複数の人物が内在しているか否かを判定している。一方、本実施例では、判定手段215は、影画像52の面積と仮想影画像60の面積とを比較することにより、人物画像51に複数の人物が内在しているか否かを判定する。すなわち、まず、判定手段215は、影画像の面積を求める。そして、判定手段215は、記憶部22から仮想影画像60の面積を読み出し、影画像52の面積と比較する。そして、判定手段215は、影画像52と仮想影画像60との面積比率を求め、影画像52の面積が仮想影画像60の面積よりも大きく、かつ、予め設定された所定の面積比率の閾値よりも大きい場合に、人物画像51に複数の人物が存在すると判定する。この場合、当該面積比率の閾値は、ステップS10の初期設定時に予め管理者等によって設定登録され、仮想影情報225として記憶部22に保存されているものとする。なお、判定手段215は、面積比較する際、仮想影画像60と仮想影画像60に包含されている影画像52との面積比率(以下、包含率という)を求め、これを判定に考慮してもよい。これにより、面積比率のみの判定では、人物画像51に複数の人物が存在していると判定するような場合であったとしても、包含率が所定の閾値に達しない場合には、人物画像51に複数の人物が存在していないといった判定をすることができ、状況に合わせてより厳密な判定処理を行うことが可能となる。
【0071】
そして、人物画像51に複数の人物が存在すると判定した場合、ステップS218にて、位置推定手段216は、第一の実施例と同様の方法により隠蔽されている人物の足元位置f’を求める。
【0072】
次に、本実施例に係る二回目以降の判定処理について説明する。図10(b)は、本実施例に係る二回目のステップS206における判定処理を説明する図である。図10(b)のように、二回目のステップS206における仮想影情報225の生成処理では、第二の凸形状のピーク値となる点h’と足元位置f’とを結ぶ直線に対して、長軸の角度と長径の長さとを一致させた楕円を新規に生成し、一回目の判定処理で生成した仮想影画像60と合成した形状のものを仮想影画像60として生成する
そして、二回目のステップS208における判定処理では、当該仮想影画像60と影画像52とを面積比較することにより、更なる隠蔽された人物が存在するか否かを判定する。このように本実施例では、隠蔽されている人物を検出する都度、足元位置を修正し、仮想影画像60を修正する処理を再帰的に繰り返すことにより、隠蔽されている人物が二人以上であったとしても、隠蔽されている人物の数を比較的高い精度で検知することができる。
【0073】
なお、本実施例における上記以外の処理については、第一の実施例と同じであるため、ここでは詳細な説明を省略する。
【0074】
(第三の実施例)
第二の実施例では、ステップS208にて判定手段215により、影画像52と仮想影画像60とを面積比較することによって、人物画像51に複数の人物が内在しているか否かを判定した。一方、本実施例では、ステップS208にて判定手段215により、影画像52と仮想影画像60とを形状比較することによって、人物画像51に複数の人物が内在しているか否かを判定する。例えば、第二の実施例におけるステップS206にて生成した仮想影画像60をテンプレートとして、公知のパターンマッチング手法を用いることにより、影画像52に対して複数個の仮想影画像60と対応ついた場合に、人物画像51に複数の人物が存在していると判定する。
【0075】
このように、本実施例は、第二の実施例とは異なる方法により比較・判定することにより、第二の実施例で十分な精度を得られない場合であったとしても、補完的にオクルージョンを判定できることを目的としている。なお、本実施例は、補完的にオクルージョンを判定するだけでなく、本実施例のみによりオクルージョン状態を判定することも可能である。なお、本実施例における上記以外の処理については、第二の実施例と同じであるため、ここでは詳細な説明を省略する。
【0076】
本発明は、上記実施例に限定されるものではなく、特許請求の範囲に記載した技術的思想の範囲内で、更に種々の異なる実施例で実施されてもよいものである。また、実施例に記載した効果は、これに限定されるものではない。
【0077】
上記各実施例では、予め設定された仮想影情報225と、仮想影生成手段214にて自動的に生成された仮想影情報225とを用いて、人物画像51に複数の人物が内在しているか否かを判定している。しかし、これに限らず、予め設定された影画像の特徴のみを用いて、人物画像51に複数の人物が内在しているか否かを判定してもよい。すなわち、第一の実施例では、仮想影生成手段214にて、仮想影情報225として仮想影の主軸線方向を算出しているが、必ずしも主軸線方向を算出しなくても、人物画像51に複数の人物が内在しているか否かを判定可能である。具体的に説明するならば、まず、人物画像51に接している影画像52について、接している当該部分とは対向する位置にある外延形状を、予め設定された影画像の特徴である閾値情報を用いて第一の実施例と同じ方法により、所定の凸形状が複数検出されるか否かを判定する。そして、所定の凸形状が複数検出された場合、人物画像51に複数の人物が存在していると判定する。なお、主軸線方向を仮想影情報225として予め設定しても良い。この場合、ステップS10の初期設定時に予め管理者等によって設定登録され、仮想影情報225として記憶部22に保存されているものとする。
また、第二の実施例、第三の実施例では、仮想影生成手段214にて仮想影情報225として仮想影画像60を生成しているが、必ずしも仮想影生成手段214にて仮想影画像60を生成しなくても、人物画像51に複数の人物が存在しているか否かを判定可能である。具体的に説明するならば、まず、予め人物画像51が存在する位置ごとに仮想影画像の面積又は形状に関する情報を仮想影情報225として記憶させておく。例えば、ステップS10の初期設定において、管理者等により設定される。そして、人物画像51に接している影画像52について、当該人物画像51の位置に応じた仮想影情報225を読み出し、第二の実施例と同様に面積比較する、或いは第三の実施例と同様に形状比較することにより、人物画像51に複数の人物が内在しているか否かを判定する。
このように、仮想影情報225を仮想影生成手段214にて自動的に生成せずに、予め設定された仮想影情報225のみを用いて、人物画像51に複数の人物が内在しているか否かを判定することにより、処理を簡略化することができ、処理速度を向上させることができる。
【0078】
上記各実施例では、基準画像222を背景画像とし、入力画像と背景画像との差分演算を行い変化領域画像223を抽出する背景差分法を用いた。しかし、これに限らず、順次入力される画像フレーム間での差分演算を行い変化領域画像223を抽出する、或いは差分領域を所定時間分だけ蓄積して変化領域とするフレーム間差分法を用いてもよい。
【0079】
以上に本発明の実施の形態について説明した。本実施の形態では、移動物体検出装置1が、本発明の移動物体検出装置として機能している。また、撮像装置3が、本発明の撮像部として機能している。また、照明装置4が、本発明の照明部として機能している。また、記憶部22が、本発明の記憶部として機能している。また、出力部25が、本発明の出力部として機能している。また、制御部21が、本発明の画像処理部として機能している。また、変化領域抽出手段211が、本発明の変化領域抽出手段として機能している。また、分割手段212が、本発明の分割手段として機能している。また、判定手段215が、本発明の判定手段として機能している。また、仮想影生成手段214が、本発明の面積算出手段と軸線算出手段として機能している。また、位置推定手段216が、本発明の位置推定手段として機能している。
【符号の説明】
【0080】
1・・・移動物体検出装置
2・・・管理装置
3・・・撮像装置
4・・・照明装置
8・・・監視領域
9・・・壁
21・・・制御部
22・・・記憶部
23・・・通信部
24・・・入力部
25・・・出力部
211・・・変化領域抽出手段
212・・・分割手段
213・・・追跡手段
214・・・仮想影生成手段
215・・・判定手段
216・・・位置推定手段
221・・・構成情報
222・・・基準画像
223・・・変化領域画像
224・・・追跡用情報
225・・・仮想影情報
5a・・・第一人物
6a・・・第二人物
5b・・・第一人物の影
6b・・・第二人物の影
50・・・画像座標系を表す図
51・・・人物画像
52・・・影画像
53・・・人物画像に接している影画像の部分
54・・・影画像の外延形状
60・・・仮想影画像



【特許請求の範囲】
【請求項1】
監視領域を撮影する撮像部と、前記撮像部の視軸と異なる光軸で前記監視領域に光を照射するように設置される照明部と、前記撮像部にて撮影した画像から移動物体を検出する画像処理部と、出力部とを少なくとも備えた移動物体検出装置であって、
前記画像処理部は、
前記照明部から光を照射した監視領域を前記撮像部にて撮影した入力画像と基準画像とを比較して前記基準画像から変化した変化領域を抽出する変化領域抽出手段と、
前記変化領域の特徴を用いて前記変化領域を移動物体画像と影画像に分割する分割手段と、
前記影画像の特徴を用いて複数の移動物体により生じた影であるか否かを判定して前記出力部に判定結果を出力する判定手段と、
を有することを特徴とした移動物体検出装置。
【請求項2】
前記判定手段は、前記移動物体画像に接している前記影画像の部分に対向する位置にある外延形状に所定の凸形状が複数検出されると複数の移動物体により生じた影画像と判定する請求項1に記載の移動物体検出装置。
【請求項3】
更に、前記撮像部の配置位置及び視軸を含む撮像設定データおよび前記照明部の配置位置及び光軸を含む照明設定データを予め記憶する記憶部を備え、
前記画像処理部は、前記撮像設定データ、前記照明設定データ及び前記移動物体画像の大きさから前記移動物体画像が一つの移動物体であった場合の仮想影画像の面積を算出する面積算出手段を更に有し、
前記判定手段は、前記影画像の面積と前記仮想影画像の面積とを比較し、前記影画像が所定の判定閾値より大きいと、複数の移動物体により生じた影であると判定する請求項1または請求項2に記載の移動物体検出装置。
【請求項4】
前記撮像部の配置位置及び視軸を含む撮像設定データおよび前記照明部の配置位置及び光軸を含む照明設定データを予め記憶する記憶部と、
前記画像処理部は、前記撮像設定データ、前記照明設定データ及び前記移動物体画像の大きさから仮想影画像の主軸線方向を算出する軸線算出手段と、前記判定手段が複数の移動物体による影と判定すると、前記抽出された前記複数の凸形状の頂部ごとに、前記主軸線方向であって前記移動物体像と重なる位置を移動物体の足元位置とするとともに前記出力部に足元位置を出力する位置推定手段を更に有する請求項2又は請求項3に記載の移動物体検出装置。



【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2012−43021(P2012−43021A)
【公開日】平成24年3月1日(2012.3.1)
【国際特許分類】
【出願番号】特願2010−181204(P2010−181204)
【出願日】平成22年8月13日(2010.8.13)
【出願人】(000108085)セコム株式会社 (596)
【Fターム(参考)】