監視装置及びプログラム
【課題】監視領域の撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標及び空間属性を保持するとともに常に最新の情報に更新することができる監視装置を提供する。
【解決手段】監視領域を連続撮影して得られた撮影画像の各画素に三次元座標により定まる位置を示す三次元空間座標を設定する設定手段(S103)と、撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、画像部位と隣接する画素の各々に画像部位との境界を示す空間属性を付与する付与手段(S113)と、境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段(S117)と、抽出された特徴量の変化量が予め定められた閾値を超えた場合に、設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段(S129)と、を備えた。
【解決手段】監視領域を連続撮影して得られた撮影画像の各画素に三次元座標により定まる位置を示す三次元空間座標を設定する設定手段(S103)と、撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、画像部位と隣接する画素の各々に画像部位との境界を示す空間属性を付与する付与手段(S113)と、境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段(S117)と、抽出された特徴量の変化量が予め定められた閾値を超えた場合に、設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段(S129)と、を備えた。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、監視装置及びプログラムに関し、特に、監視場所に設置されたカメラによる撮影画像を取り込んで監視を行う監視装置及びプログラムに関する。
【背景技術】
【0002】
公開空地や公園等の不特定の人物が出入りする領域において犯罪から守りたい人物や物(以下、人物を「被守備者」、物を「被守備物」という。)が存在する場合に、被守備者または被守備物に対する犯罪の発生を防止する際に、監視カメラを用いてより効果的に防犯を行うための技術が提案されている。
【0003】
例えば特許文献1によれば、監視対象領域を撮影することにより当該領域の画像情報をリアルタイムで取得するカメラによって取得された画像情報に基づいて、監視対象領域に存在する人物の位置を所定時間間隔で検出し、検出した人物が予め定められた守備者および被守備者を除く不定者であるか否かをICタグおよびアンテナを利用して特定し、不定者と特定された人物の少なくとも年齢を含む個人的な特性を示す特性情報を上記画像情報に基づいて推定する。そして、推定した当該特性情報に基づいて、上記不定者が上記特性情報に含まれる年齢以降の生存期間内に犯罪を実行する確率である犯罪実行率を導出し、導出した犯罪実行率に基づいて、被守備者に対する不定者による犯罪リスクの高さを示す犯罪リスク値を演算し、演算した犯罪リスク値を用いて、犯罪を防止する処理として予め定められた処理を実行するシステムが提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−250775号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
また、都市空間や建物内空間において監視カメラを用いて監視を行う際、監視対象領域に進入してくる人物や動物等の移動体の位置や大きさを正確に把握できることが望ましい。しかしながら、監視カメラによる監視は、通常、上方に設置された1台の監視カメラで斜め上から撮影することにより行われており、斜め方向から撮影された画像から、都市空間や建物内空間における固定的な監視領域に一時的に進入してくる人物や動物等の移動体の位置や大きさを正確に把握することが困難であった。その理由は、監視カメラが、背景となる三次元空間の三次元空間座標や空間属性等を保持していないために、撮影画像上の変化の意味を推論できないことにあった。
【0006】
そこで、撮影画像の各画素について常に正確な三次元空間座標や空間属性等を保持することで、その三次元空間座標や空間属性等に基づいて、撮影画像内における移動体の位置や大きさを正確に把握しつつ移動体を追跡できる監視システムが望まれている。
【0007】
また、そのような監視システムでは、監視カメラが都市空間や建物内空間を画像としてとらえるとき、監視場所に一時的に進入してきた移動体を正確に見分けるためには、撮影画像の各画素について正確な三次元空間座標や空間属性等を保持するとともに、三次元空間座標や空間属性等が常に最新の情報に更新される必要がある。
【0008】
本発明は、このような課題を解決するためになされたものであり、その目的は、都市空間や建物内空間等の監視領域を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる監視装置及びプログラムを提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するめに、請求項1に記載の監視装置は、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、前記境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段と、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段と、を備えている。
【0010】
請求項1に記載の監視装置によれば、設定手段により、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標が設定され、付与手段により、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性が付与されると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性が付与される。
【0011】
また、抽出手段により、前記境界を示す空間属性が付与された画素の各々から特徴量が繰り返し抽出され、変更手段により、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標が変更される。
【0012】
これにより、撮影カメラ等の移動により監視領域に対する撮影画像の位置が変化した場合に、境界を示す空間属性が付与された画像の各々から抽出された特徴量の変化から監視領域に対する撮影画像の位置の変化が生じたか否かを判断し、監視領域に対する撮影画像の位置の変化が生じた場合に、撮影画像の各画素に設定された座標を設定手段により設定された三次元座標の値に変更される。このため、都市空間や建物内空間等の監視領域を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる。
【0013】
また、請求項2に記載の監視装置は、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、前記境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段と、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記付与手段による実行結果を初期状態に戻すリセット処理が指示された場合に、前記リセット処理を実行する実行手段を備えている。
【0014】
請求項2に記載の監視装置によれば、設定手段により、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標が設定され、付与手段により、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性が付与されると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性が付与される。
【0015】
また、抽出手段により、前記境界を示す空間属性が付与された画素の各々から特徴量が繰り返し抽出され、実行手段により、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記付与手段による実行結果を初期状態に戻すリセット処理が指示された場合に、前記リセット処理が実行される。
【0016】
これにより、監視領域に対する撮影画像の位置の変化が生じた場合に、付与された空間属性が初期状態に戻され、再度特徴量が抽出されるため、都市空間や建物内空間等の監視領域を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる。
【0017】
また、請求項2に記載の監視装置は、請求項3に記載の発明のように、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記リセット処理が指示されなかった場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段を更に備えるようにしてもよい。これにより、リセット処理の指示の有無に拘わらず、都市空間や建物内空間等の監視領域を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる。
【0018】
また、請求項1または3記載の監視装置において、請求項4に記載の発明のように、前記撮影画像及び前記三次元空間座標に基づいて、前記監視領域に存在する移動体の位置および大きさの少なくとも一方を導出する導出手段と、前記導出手段によって導出された前記移動体の位置および大きさの少なくとも一方を提示する提示手段と、を更に備えるようにしても良い。これにより、監視領域に一時的に進入してきた移動体を正確に見分けることができる。
【0019】
また、請求項4記載の監視装置において、請求項5に記載の発明のように、前記付与手段は、前記画像部位に対応する空間属性として床面を示す属性を付与し、前記導出手段は、前記移動体の位置を導出する際には、該移動体を表す画素領域のうちの下端の画素の位置に基づいて導出するようにしても良い。これにより、監視領域に一時的に進入してきた移動体の位置を正確に導出することができる。
【0020】
また、請求項1または3記載の監視装置において、請求項6に記載の発明のように、前記設定手段は、前記監視領域を含んだ前記監視領域より広い領域を対象として前記三次元空間座標を設定し、前記付与手段は、前記監視領域を含んだ前記監視領域より広い領域を対象として各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与し、前記変更手段は、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記監視領域外の領域についても設定手段により設定された広い領域を用いて前記三次元空間座標を変更するようにしても良い。これにより、より高精度に三次元空間座標や空間属性を更新することができる。
【0021】
また、請求項5または6記載の監視装置において、請求項7に記載の発明のように前記導出手段によって導出された前記移動体と被守備物との距離に基づいて、前記被守備物に対する接近度を示す犯罪リスク値を導出する犯罪リスク値導出手段と、前記リスク値導出手段によって導出された前記犯罪リスク値を用いて、犯罪を防止するための予め定められた処理を実行する処理実行手段と、を更に備えるようにしても良い。これにより、監視領域に一時的に進入してきた移動体の犯罪を防止することができる。
【0022】
また、上記目的を達成するめに、請求項9に記載のプログラムは、コンピュータを、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、前記境界を示す空間属性が付与された画素の各々から特徴量を抽出する抽出ステップと、前記抽出手段において抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段において設定された三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段として機能させるためのものである。
【0023】
従って、請求項9に記載のプログラムによれば、コンピュータを請求項1に記載の発明と同様に作用させることができるので、請求項1に記載の発明のように、都市空間や建物内空間を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標や空間属性を保持するとともに、三次元空間座標や空間属性等を常に最新の情報に更新することができる。
【発明の効果】
【0024】
本発明によれば、都市空間や建物内空間を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標や空間属性を保持するとともに、三次元空間座標や空間属性等を常に最新の情報に更新することができる、という効果が得られる。
【図面の簡単な説明】
【0025】
【図1】実施形態に係る監視システムの構成を示す概略図である。
【図2】実施形態に係る監視システムの電気系の要部構成を示すブロック図である。
【図3】実施形態に係る監視処理プログラムの処理の流れを示すフローチャートである。
【図4】実施形態に係る移動体追跡処理プログラムの処理の流れを示すフローチャートである。
【図5】実施形態に係る監視処理プログラムの処理の流れを説明するための撮影画像の状態遷移図である。
【図6】実施形態に係るカメラによる撮影画像の一例を示す図である。
【図7】(A)は、実施形態に係る監視システムの三次元空間座標におけるZ座標値と空間属性との対応関係を示す対応表であり、(B)は、実施形態に係る監視システムにおける画素情報の構成の一例を示す模式図である。
【図8】(A)は、実施形態に係るカメラによる撮影画像における移動体と被守備物との位置関係を示す概略図であり、(B)は、実施形態に係るカメラによる撮影画像に対して設定された三次元空間のxy平面における、移動体と被守備物との位置関係を示す概略図である。
【図9】実施形態に係る監視システムにおける移動体と被守備物との距離の導出方法を説明するための概略図である移動体と被守備物との距離の導出方法を説明するための概略図である。
【図10】(A)及び(B)は、実施形態に係る監視システムにおける監視画面の一例を示す図である。
【図11】実施形態に係る監視システムにおける警告画面の一例を示す図である。
【図12】実施形態に係る監視システムにおいてリセット前後の撮影画像の三次元空間を連続した空間として認識する方法を説明するための概略図であり、(A)は、リセット前の撮影画像を示す図であり、(B)は、リセット後の撮影画像を示す図である。
【発明を実施するための形態】
【0026】
以下、図面を参照して、本発明を実施するための実施形態について詳細に説明する。なお、ここでは、オフィスビルを監視場所としてオフィスビル内における所定領域を監視領域とした監視システムに本発明を適用した場合について説明する。
【0027】
まず、図1及び図2を参照して、本発明の実施形態に係る監視システム1の構成を説明する。図1は、本実施形態に係る監視システム1の構成を示す概略図であり、図2は、本実施形態に係る監視システム1の電気系の要部構成を示すブロック図である。
【0028】
図1に示すように、本実施形態に係る監視システム1は、監視室に設置され当該システムの中心的な役割を担う監視装置2、及び監視領域を継続的に連続して撮影するカメラ3を有している。なお、本実施形態に係る監視システム1では、監視装置2が監視室に設置されているが、監視装置2の設置場所はこれに限定されない。
【0029】
本実施形態に係る監視システム1は、都市空間や建物内空間を撮影する監視カメラであるカメラ3による撮影画像の各画素に撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標(X,Y,Z)を付与し、撮影画像の各画素に三次元空間座標を対応付けることにより、振動等でカメラ3の位置が微小に変化することにより各画素に設定された三次元空間座標が変化しても、空間属性の境界を示す属性情報が付与された境界画素の各々から抽出される特徴量により、各画素に設定された三次元空間座標を修正できるシステムである。また、本実施形態に係る監視システム1は、一時的に監視領域に進入してくる人物や動物等の移動体を各画素の特徴量の変化により正確に検出し、検出された人物や動物等の位置や大きさを三次元空間内で正確に把握できるシステムである。
【0030】
図2に示すように、本実施形態に係る監視装置2は、監視装置2を総括的に制御するCPU(Central Processing Unit)10、CPU10が処理をする際の作業領域となるRAM(Random Access Memory)11、CPU10が処理をする際に使用される後述するプログラムや各種データが記憶される記憶手段としてのROM(Read Only Memory)12、CPU10が処理をする際に使用される各種データやユーザ操作により入出力されたデータが記憶される記憶手段としてのHDD(Hard Disk Drive)13、及び、監視装置2に接続されたカメラ3を含む各種周辺機器に対するデータ送受信を行うI/O(入出力)ポート14を備えている。CPU10、RAM11、ROM12、HDD13、及びI/Oポート14は、データバス等を含むバスにより壮途に接続されている。
【0031】
また、監視装置2のI/Oポート14には、ユーザ操作により監視装置2に、各画素に付与された空間属性を初期に設定された初期状態に戻すリセット処理の指示データ等のデータを入力するキーボードやマウス等の操作入力部15、CPU10の制御によりデータを表示するLCD(Liquid Crystal Display)等の表示部16、及び、CPU10の制御により音声を出力するスピーカ等の警報部17が接続されている。
【0032】
また、監視装置2のI/Oポート14には、前述したカメラ3が接続されていて、カメラ3による撮影画像(図6に示す撮影画像23)が監視装置2に連続的に入力される。なお、本実施形態に係る監視システム1は、監視装置2に対してカメラ3が有線で接続されているが、これに限らず、カメラ3が撮影画像23を示すデータを無線通信により継続的に送信し、監視装置2が、この撮影画像23を示すデータを無線通信により受信するようにしても良い。
【0033】
次に、本実施形態に係る監視システム1の動作を監視処理のルーチンを示す監視処理プログラム、及び移動体追跡処理のルーチンを示す移動体追跡処理プログラムに基づいて説明する。
【0034】
本実施形態に係る監視システム1では、監視装置2のCPU10によって監視処理プログラムが実行される。そこで、まず、図3及び図4を参照して、監視処理プログラムを実行する際のCPU10の実行処理を説明する。なお、図3は、監視システム1において監視場所の監視を行う際に、監視装置2のCPU10により実行される監視処理プログラムの処理の流れを示すフローチャートであり、図4は、監視システム1において実行された監視処理プログラムにより読み出される移動体追跡処理プログラムの処理の流れを示すフローチャートである。
【0035】
当該監視処理プログラム及び移動体追跡処理プログラムは監視装置2のROM12に予め記憶されている。なお、監視処理プログラム及び移動体追跡処理プログラムは、HDD13に予め記憶されていても良く、CD−ROM等の記録媒体に監視処理プログラム及び移動体追跡処理プログラムを記憶しておき、記録媒体からHDD13に読み込むことによりHDD13に記憶しても良い。
【0036】
また、図5(A)乃至図5(F)は、監視システム1において監視場所の監視を行う際に、監視装置2のCPU10により実行される監視処理プログラムの処理の流れを説明するための撮影画像23の状態遷移図である。
【0037】
始めに、ステップS101において、CPU10は、カメラ3から撮影画像23を示す画像データを連続して取り込む。図6は、カメラ3による撮影画像23の一例を示す図である。図6に示すように、本実施形態に係る監視システム1において、カメラ3により床面と床面より立ち上がった2本の柱が撮影画像23に撮影されている。このようにカメラ3によって撮影された撮影画像23が監視装置2に取り込まれている。
【0038】
ステップS103において、CPU10は、ステップS101にて取り込まれている撮影画像23に三次元空間の座標系を設定する。この際、図5(A)に示すように、撮影画像23に三次元座標の原点(X,Y,Z)=(0,0,0)が撮影画像23の左角近傍に設定され、Z軸が鉛直方向の向き、X軸、Y軸がそれぞれ水平面に位置するように設定される。三次元空間座標は、撮影画面23上の目的とする点に原点が一致するように設定される。
【0039】
ここで、CPU10は、撮影画像23の各画素にステップS103にて設定された三次元空間の座標系における位置を示す三次元空間座標を設定するために、ステップS105において、監視場所の三次元形状を計測するための三次元計測機器を使用するか否かを判定する。この際、ユーザ操作により三次元計測機器を使用するか否かが入力されても良く、三次元計測機器を使用するか否かを示す情報が予めROM12やHDD14に記憶されていても良い。なお、三次元計測器は、実空間における各位置までの距離を測定し、測定した距離からXYZ各軸に対応する成分を求め、各位置の三次元空間座標(X,Y,Z)を算出するものである。
【0040】
ステップS105において三次元計測機器を使用すると判定された場合は、ステップS107において、CPU10は、三次元計測機器によって計測されたデータを取得する。取得方法は、三次元計測機器を監視装置2に電気的に接続することで計測データを取得しても良く、ユーザ操作により操作入力部15を用いて計測データを入力することで取得しても良い。
【0041】
ステップS105において三次元計測機器を使用しないと判定された場合は、ステップS109において、CPU10は、表示部16に入力指示画面を表示させる。入力指示画面は、例えば、図6に示す撮影画像23と、表示された撮影画像23に対して三次元空間座標を入力するユーザ操作を促す画面とを合成した画面である。ユーザは、撮影画像23における各画素を領域分割する等により分割領域毎に三次元空間座標を入力する。
【0042】
ステップS111において、CPU10は、入力指示画面を介して入力された撮影画像23の各画素の三次元空間座標における位置を示すデータを取得する。
【0043】
ここで、二次元の撮影画面23上に位置する各画素は、実空間である三次元空間の各位置のいずれかに対応しているので、ステップS113において、CPU10は、撮影画面23上に位置する各画素の各々に、対応する三次元空間座標、すなわちステップS107またはステップS111にて取得された三次元空間における位置を示す三次元空間座標(X,Y,Z)を設定する。
【0044】
なお、三次元計測機器で計測する際に、常に人物等の出入りがあって三次元空間座標が変化し安定しない場合には、三次元計測機器で一定時間継続測定して得られた最大距離から定まる三次元空間座標を用いる。また、自動計測装置がない場合は、上記で説明したように画像を領域分割して、手作業と自動内挿で付与する。
【0045】
次のステップS115において、CPU10は、S113にて三次元空間座標が設定された撮影画像23の各画素に、各画素が属する画像部位における空間属性を設定する。
【0046】
図7(A)は、三次元空間座標におけるZ座標値と空間属性との対応関係を示す対応表24を示す図であり、図7(B)は、画素情報25の構成の一例を示す模式図である。対応表24においては、図7に示すように、Z座標値24aに対して空間属性24bがそれぞれ対応付けられている。対応表24及び画素情報25は、HDD13等に記憶されている。画素情報25は、図7(B)に示すように、撮影画像23における各画素の二次元座標で表された画素位置25aに対して、三次元空間座標で表された位置座標25b、撮影画像23における各画素が属する画像部位に属する空間属性を示す空間属性25c、及び撮影画像23における各画素の特徴量25dがそれぞれ対応付けられている。なお、ステップS113にて設定された三次元空間座標は、位置座標25bに記録される。
【0047】
対応表24に示す通り、空間属性は、床面を示す「床面」、床面に対する境界を示す「境界」、床面及び境界のどちらでもない部分を示す「その他」の3区分に分けられ、Z座標値が所定範囲内(ここでは0−α<Z<0+α)である画素に対して「床面」、Z座標値が所定範囲外(ここではZ<0−α,Z>0+α)である画素に対して「その他」が設定される。また、「床面」を示す空間属性が設定された画素部位(床面部位)と「その他」を示す空間属性が設定された画素部位(その他の部位)とが隣接している部分が境界となる。このため、床面部位及びその他の部位の部位に属する画素であって、他方の部位に属する画素に接している画素に「境界」を示す空間属性を設定する。例えば、床面部位に属する画素であってその他の部位に隣接する画素、及びその他部位に属する画素であって床面部位に隣接する画素に対して「境界」を示す空間属性を設定する。
【0048】
なお、床面部位及びその他の部位の一方の部位に属する画素であって、一方の部位に属する画素に接している画素に「境界」を示す空間属性を設定しても良い。この場合には、例えば、床面部位に属する画素であってその他の部位に隣接する画素に対して「境界」を示す空間属性が設定される。
【0049】
本実施形態では、撮影画像23上の柱に対応する画像部位に「その他」を示す空間属性を設定し、床面に対応する画像部位に「床面」を示す空間属性を設定すると共に、床面部位及びその他の部位に属する画素であって他方の部位に隣接する画素に対して「境界」を示す空間画素を設定している。
【0050】
CPU10は、三次元空間座標におけるZ座標値と空間属性との対応表24に基づいて、撮影画像23における各画素の三次元空間座標のZ座標値から、当該各画素の空間属性を画素情報25の空間属性25cとして記録することで設定する。
【0051】
これにより、図5(B)に示すように、撮影画像23における各画素が、空間属性が「床面」の領域30、空間属性が「境界」の領域31、及び空間属性が「その他」の領域32に区分される。
【0052】
なお、監視領域によっては床面がほぼ平面となる場合もあるが、この場合には、Z座標値が所定値(例えばZ=0±α)である画素に「床面」を示す空間属性を与えても良い。その際には、Z座標値が所定値以外(例えばZ≠0±α)である画素に「その他」の空間属性を設定して、空間属性が「床面」の画素と隣接する空間画素が「その他」画素に「境界」という空間属性を与えると良い。
【0053】
ステップS117において、CPU10は、ステップS115にて設定された空間属性に基づいて、空間属性として「境界」が設定された画素(以下、「境界画素」と言う。)を抽出して、画像データから各境界画素の特徴量を抽出する。境界画素の各々の画像データは、RBGの三原色が0〜255の輝度値で表されているので、各境界画素の色相または輝度の平均値を特徴量として抽出する。この際、境界画素の特徴量として、複数の隣接する境界画素からなる一群の画素群における輝度値の平均値や輝度値のばらつき等が抽出されても良い。
【0054】
ステップS119において、CPU10は、ステップS117にて抽出された各境界画素の特徴量を各画素の三次元空間座標と対応させて、記憶手段であるHDD13に記憶する。
【0055】
次のステップS121において、CPU10は、ステップS101にて取り込んでいる撮影画像23において移動体を検出して追跡する移動体追跡処理を行う。この移動体追跡処理については以下説明する。
【0056】
図8は、監視システム1において監視場所の監視を行う際に、監視装置2のCPU10により実行される移動体追跡処理プログラムの処理を説明するための概略図であり、(A)は、カメラ3による撮影画像23における移動体と被守備物との位置関係を示す概略図であり、(B)は、ステップS103にてカメラ3による撮影画像23に対して設定された三次元空間のxy平面における、移動体と被守備物との位置関係を示す概略図である。
【0057】
図8(A)に示すように、監視場所に被守備物が存在して当該被守備物の周囲に進入禁止領域が存在する場合に、移動体が被守備物に接近しないように監視しなければならない状況が発生する。この場合には、監視装置2は、図8(B)に示すように、撮影画像23に設定された三次元空間におけるXY平面上における距離を正確に把握する必要がある。
【0058】
始めに、ステップS201において、CPU10は、ステップS101にて取り込んでいる撮影画像23において移動体を検出する。移動体を検出するには、撮影画像23の前後のフレームの画像データの差分を演算して検出する。差分データが存在する場合には、差分データが存在する部分が移動体に相当するので、各フレームで差分データが存在する部分の座標を求めることにより移動体の移動方向も検出することができる。
【0059】
この際、図5(C)に示すように、カメラ3による撮影画像23において、移動体33A、33B、33Cは、検出された画素を含む矩形の画素の集合体(以下、「矩形表示」と言う。)で表示される。矩形表示は、移動体33A、33B、33C示す画素をすべて含む最小限の矩形の画素の集合体とすると良い。
【0060】
ステップS203において、CPU10は、ステップS201にて検出された移動体33A、33B、33Cの位置及び大きさを取得する。この際、移動体33A、33B、33Cの位置は、移動体33A、33B、33Cを示す矩形表示における底辺(撮影画像23においてx方向に位置する辺)の中点の座標とすると良い。これは、移動体33A、33B、33Cの足元が位置する画素を特定することで、その他の部位が位置する画素を用いた場合よりも、三次元空間座標における正確な位置を把握できるからである。
【0061】
また、移動体33A、33B、33Cの大きさは、移動体33A、33B、33Cを示す矩形表示の底辺(撮影画像23においてx方向に位置する辺)の撮影画像23における長さa及び三次元空間における長さAに基づいて、矩形表示の撮影画像23における高さ方向(撮影画像23におけるy方向)の長さbから三次元空間における高さ方向(三次元空間におけるZ方向)の長さを推測することで得られる矩形表示の面積とすると良い。すなわち、始めに矩形表示の底辺の三次元空間における長さAが算出されることにより、矩形表示の底辺の撮影画像23における長さaと三次元空間における長さとの比A/aに、撮影画像23における矩形表示の高さ方向の長さbを掛けることにより、矩形表示の高さ方向の三次元空間における長さB(B=b×(A/a))が算出される。そして、矩形表示の底辺の三次元空間における長さAと三次元空間における高さ方向の長さBとを掛けることにより、面積S(S=A×B)が導出される。
【0062】
ステップS207において、CPU10は、ステップS201にて検出された各々の移動体33A、33B、33Cについて、以下に説明する犯罪リスク値Rj(t)を導出する。
【0063】
以下、移動体33A、33B、33Cの各々と被守備物との距離から、犯罪リスク値Rj(t)の導出方法について説明する。なお、被守備物が移動体である被守備体であった場合にも、以下に説明する導出方法で犯罪リスク値Rj(t)を導出できる。
【0064】
CPU10は、ステップS201にて検出された各々の移動体について、被守備物に対する距離を導出する。図9は、移動体と被守備物との距離の導出方法を説明するための概略図である。図9に示すように、CPU10は、各々の移動体33A、33B、33Cについて、最下端の画素の位置と、被守備物の位置との距離を導出する。なお、以下では撮影画像23に被守備物が表示されているとともに、移動体33A、33B、33Cのうちの一部が被守備物を守備する守備者であり、移動体33A、33B、33Cの中から守備者が判別されている場合について考える。
【0065】
まず、CPU10は、移動体と被守備物との距離を、全ての移動体について導出し、RAM11に記憶する。またCPU10は、守備者と移動体との距離を、守備者と移動体の全ての組み合わせについて導出し、RAM11に記憶する。なお、このときの時刻をtとして、j番目の移動体と被守備物との距離を距離Dj(t)と表し、k番目の守備者とj番目の移動体との距離を距離Dkj(t)と表す。
【0066】
CPU10は、距離Dj(t)および距離Dkj(t)を次の(1)式に代入することにより仮犯罪リスク値Rj’(t)を算出する。ここで、(1)式におけるmink()は、括弧内の演算結果の全てのkについての最小値を適用することを示す関数である。
【数1】
【0067】
また、CPU10は、次の(2)式によって係数CRを算出する。ここで、(2)式におけるC1は、犯罪リスク値Rj(t)を調整する係数であり、仮犯罪リスク値Rj’(t)=1の場合の犯罪リスク値Rj(t)の値である。
【数2】
【0068】
そして、CPU10は、以上によって得られた仮犯罪リスク値Rj’(t)、および係数CRを次の(3)式に代入することにより、犯罪リスク値Rj(t)を算出する。
【数3】
【0069】
なお、通常は係数C1として0.5を適用することにより、係数CRを−1とする。これにより、(3)式は次の(4)式に変形される。
【数4】
【0070】
以上の処理によって犯罪リスク値Rj(t)が導出される。
【0071】
ステップS209において、CPU10は、ステップS201にて検出された各々の移動体について、ステップS203にて取得された移動体の位置及び大きさを、表示部16に表示されている監視画面40に表示させる。図10(A)及び図10(B)は、監視装置2により動体監視処理が行われている際に表示部16に表示されている監視画面40の一例を示す図である。本実施形態に係る監視システム1では、図10(A)に示すように、監視画面40は、カメラ3による撮影画像23が表示される撮影画像表示領域41、移動体の位置や大きさを示す情報が表示される移動体情報表示領域42を有している。移動体情報表示領域42には、ステップS201にて検出された移動体33A、33B、33C(監視画面40ではそれぞれA、B、Cで表されている)の位置や大きさを示す情報が表示されている。
【0072】
ステップS211において、CPU10は、ステップS201にて検出された移動体のうち、ステップS207にて導出された犯罪リスク値Rj(t)が予め定められた所定値以上である移動体が存在するか否かを判定する。この所定値は、予め設定されてRAM11またはROM12に記憶されている。
【0073】
ステップS211においてステップS201にて検出された移動体のうちのいずれかの犯罪リスク値Rj(t)が予め定められた所定値以上であると判断された場合は、CPU10は、ステップS213において、移動体の被守備物への接近を警告する。この際、CPU10は警報部17に警報音を発生させる。また、CPU10は、警報部図10(B)に示すように、監視画面40において、例えば、犯罪リスク値Rj(t)が予め定められた所定値以上であった移動体を強調するための警告表示46を行わせることで、被守備物への接近を警告する。
【0074】
CPU10は、監視処理プログラムが終了されるまで、移動体追跡処理であるステップS201乃至S213の処理を繰り返し行うことで、常時移動体を追跡して監視を行う。なお、特徴点追跡アルゴリズムについては、特開2009−20800号公報等の多くの文献に記載されており、従来既知であるため、ここでは詳細な説明は省略する。
【0075】
ここで、風、振動または何らかの移動体の衝突等によってカメラ3の位置がずれる可能性が考えられる。カメラ3の位置がずれた場合には、図5(D)に示すように、破線で示すずれる前の撮影画像23Aに表示されていた空間属性が「境界」の領域31Aに対して、実線で示すずれた後の撮影画像23に表示されている空間属性が「境界」の領域31の位置がずれるため、結果として、撮影画像23の各画素に設定された三次元空間座標もずれてしまい、移動体の正確な位置や大きさを把握することが困難になってしまう。
【0076】
そこで、ステップS122において、CPU10は、カメラ3の位置がずれていないか否かを判定するために、ステップS121の処理(すなわちステップS201乃至213の処理)と並行して、ステップS117と同様の手法で、各境界画素の特徴量を抽出する。
【0077】
ステップS123において、CPU10は、ステップS119にて記憶された特徴量と、ステップS122にて抽出されて記憶されている特徴量とを比較し、各境界画素の特徴量の変化量が予め定められた閾値である所定値以上であるか否かを判定する。この際の所定値は、例えば各境界画素の特徴量の変化量が誤差とみなせる限界値を示す数値であり、予め設定されてRAM11、ROM12またはHDD13に記憶されている。このステップS123の判定は、定期的に行われる。
【0078】
ステップS123において特徴量の変化量が予め定められた所定値以上でないと判定された場合は、CPU10は、カメラ3の位置がずれていないものと判定して、監視を継続するために、特徴量の変化量が予め定められた所定値以上になるまで、再びステップS121乃至S123の処理を繰り返し行う。
【0079】
ステップS123において特徴量の変化量が予め定められた所定値以上であると判定された場合は、ステップS125において、CPU10は、カメラ3の位置がずれたものと判定して、表示部16に警告画面44を表示させる。図11は、警告画面44の一例を示す図である。図11に示すように、警告画面44は、ユーザ操作により三次元空間座標の設定をリセットすることを指示するためのリセットボタン45と、ユーザ操作によりリセットしないことを指示するための非リセットボタン46を有している。ユーザは、監視装置2に三次元空間座標の設定をリセットすることを指示する場合に操作入力部15によりリセットボタン45を選択し、監視装置2にリセットしないことを指示する場合に操作入力部15により非リセットボタン46を選択する。ユーザは、カメラの位置や角度に大きな変化あるいは監視領域に物理的な大きな変化があったと判断した場合に、リセットボタン45を選択すると良い。
【0080】
ステップS127において、CPU10は、ユーザ操作によりリセットの指示があったか否かを判定する。この際、CPU10は、ユーザ操作によりリセットボタン45が選択された場合に、三次元空間座標の設定のリセットが指示されたものと判定し、ユーザ操作により非リセットボタン46が選択された場合にリセットが指示されなかったものと判定する。
【0081】
ステップS127においてリセットの指示があったと判定された場合は、ステップS128において、撮影画像23に対して設定した三次元空間、各画素に設定した三次元空間座標、各画素に設定した空間属性、及び記憶した特徴量を初期状態に戻し、ステップS103に戻って、CPU10は、ステップS101にて取り込まれているカメラ3による撮影画像23に対して、再び三次元空間を設定し直し、上述した一連の処理を再度行う。
【0082】
図5(E)に示すように、ずれた撮影画像23に対して三次元座標の原点(X,Y,Z)=(0,0,0)が再度設定されるとともに、Z軸を鉛直方向とした上で水平方向にX軸、Y軸が再度設定される。
【0083】
ここで、監視装置1は、リセットが指示され三次元空間座標が再度設定された際に、カメラ3の画角が変化した場合であっても、複数の特徴点に基づいて三次元空間をリセット前後で連続した空間として認識する機能を備えている。図12は、本実施形態に係る監視システム1においてリセット前後の撮影画像23の三次元空間を連続した空間として認識する方法を説明するための概略図であり、図12(A)は、リセット前の撮影画像23を示す図であり、図12(B)は、リセット後の撮影画像23を示す図である。
【0084】
図12(A)及び図12(B)に示すように、ユーザ操作により、カメラ3による撮影画像23上において複数の固定点a乃至fが設定され、当該複数の固定点a乃至fの各々の特徴量が時間の関数として取り込まれる。なお、固定点a乃至fは、一群の画素の集合体であることが好ましい。そして、撮影画像23に対する三次元空間座標の再度設定後に、撮影画面23において固定点a乃至fの特徴量を探索して、固定点a乃至fの特徴量と一致した箇所(あるいは最も近似した箇所)を、撮影画像23に対する三次元空間座標の再度設定前における固定点a乃至fとして認識し、固定点a乃至fがそれぞれ対応するように三次元空間座標を設定しなおす。
【0085】
ステップS127においてリセットの指示がないと判定された場合は、ステップS129において、CPU10は、撮影画像23における境界画素の特徴量に基づいて、ステップS103にて設定した三次元空間の位置を、カメラ3がずれる前の境界画素の位置と、カメラ3がずれた後の境界画素の位置とがそれぞれ対応するように修正し、ステップS105にて設定された各画素の三次元空間座標を修正する。この際、画素情報25において、各境界画素の特徴量の変化量に応じて、画素位置25aに対する、位置座標25b、空間属性25c、特徴量25dの対応付けを変更することによって、三次元空間の位置が修正される。
【0086】
図5(F)に示すように、カメラ3による撮影画像23における各画素に設定された三次元空間座標が、各境界画素の特徴量の変化量に応じて修正される。この際、CPU10は、カメラ3の位置がずれた後の撮影画像23上において、カメラ3の位置がずれる前の境界画素の特徴量を検索して、一致した箇所(最も近似した箇所)を当該境界画素の位置として認識し、画素情報25における三次元空間座標を設定しなおす。
【0087】
そして、CPU10は、再びステップS121の処理を行うことにより、監視処理を継続する。カメラ3の位置が微小にずれた場合に、撮影画像23の各画素に対応付けられた三次元空間座標を境界画素のずれを用いて修正することで、監視領域の三次元形状を取得することなく、監視処理を継続することができる。
【0088】
このようにして本実施形態に係る監視装置2は、監視領域を連続撮影して得られた撮影画像23の各画素に、該撮影画像23に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定し撮影画像23の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、画像部位と隣接する画素の各々に画像部位との境界を示す空間属性を付与し、境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出し、抽出された特徴量の変化量が予め定められた閾値を超えた場合に、設定された三次元座標により定まる位置を示す三次元空間座標になるように画素の各々に設定された三次元空間座標を変更する。
【0089】
また、本実施形態に係る監視装置2は、監視領域を連続撮影して得られた撮影画像23の各画素に、該撮影画像23に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定し、撮影画像23の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、画像部位と隣接する画素の各々に画像部位との境界を示す空間属性を付与し、境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出し、抽出された特徴量の変化量が予め定められた閾値を超え、かつ実行結果を初期状態に戻すリセット処理が指示された場合に、リセット処理を実行する。
【0090】
これらにより、本実施形態に係る監視システム1において、都市空間や建物内空間等の監視領域を撮影して撮影画像23に基づいて監視を行う際、撮影画像23の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる。
【0091】
なお、ステップS203にて移動体の大きさを取得してステップS209にて表示する際、移動体の大きさによって移動体の種類や数を判別して、移動体の種類を表示させるようにしても良い。判別方法は、例えば幅(XY平面における長さ)と高さ(Z座標における長さ)との比や、幅と高さから得られる面積を用いて、例えば人物か動物かを判別すると良い。または、同様にして動物を犬・猫・牛・カラス等に更に細かく分類して、ステップS207にて犯罪リスク値の代わりに獣害リスク値を導出しても良い。
【0092】
また、本実施形態に係る監視システム1の監視装置2に三次元座標自動把握機能が備えられていても良い。その場合、移動体の三次元座標を把握する際にもリアルタイムで活用でき、より高精度に移動体を検出して追跡できる。
【0093】
また、本実施形態に係る監視システム1では、カメラ3が固定されていることを前提としたが、これに限定されず、カメラ3が可動カメラであっても良い。カメラ3が可動カメラ3であった場合、撮影画像23における特徴点をそれぞれ三次元空間座標や空間属性と対応付け、各画素による撮影位置が移動した際に特徴点の移動に合わせて各画素の三次元空間座標や空間属性を変更することで、各画素に逐次三次元知識を持たせることができる。
【0094】
また、ステップS101にてカメラ3による撮影画像23を取り込む際、対象とする監視領域である撮影領域23を含んだ撮影領域23より広い領域の画像を取り込み、ステップS113にて当該広い領域に対して三次元空間座標を設定するとともに、ステップS115にて当該広い領域の各画素に空間属性を設定する際、当該広い領域を対象として前記三次元空間座標を設定することにより、ステップS129にて撮影画面23における各画素の三次元空間座標を修正する際に、当初撮影領域23でなかった領域に対しても当該広い領域について設定されている三次元空間座標や空間属性を用いて、各画素に正確に三次元空間座標や空間属性を付与することができる。
【0095】
また、ステップS101にてカメラ23による撮影画像23を取り込む際、対象とする監視領域より広い領域を撮影して取り込むことにより、ステップS129にて撮影画面23における各画素の三次元空間座標を修正する際に、当該広い領域について設定されている三次元空間座標や空間属性を用いて、監視領域における各画素に正確に三次元空間座標や空間属性を付与することができる。
【0096】
また、本実施形態に係る監視システム1において、監視領域を含むCADデータと連携させることにより、より精緻に空間知識をもつことができ、より高度な移動体追跡が可能になる。
【0097】
また、本実施形態に係る監視システム1では、単一のカメラ3を用いて監視画像を撮影するが、これに限定されず、複数台のカメラを用いて監視画像を撮影しても良い。この際には、各々のカメラによる撮影領域を合わせると全ての監視領域を網羅しているように各々のカメラが配置されると良い。これにより、監視領域を死角なく撮影することができ、効率的に監視できる。
【0098】
また、複数台のカメラを用いた場合には、各々のカメラによる撮影画像23に設定される三次元空間座標を統一させることにより、異なるカメラによる撮影画像23で撮影された移動体が同一の移動体であるか否かを正確に判定することができる。
【0099】
また、本実施形態に係る監視システム1は、監視装置2として一般的に広く利用されているPC(Personal Computer)を利用でき、カメラ3としてとして一般的に広く利用されているカメラを利用できるため、新規の装置やインフラを構築する必要がなく低コストで実現可能である。また、本実施形態に係る監視システム1は、同様の理由で、既存の建物に組み入れることが容易にできるとともに、既存のセキュリティシステムを更新する際に追加機能として組み入れることも容易にできる。さらに、本実施形態に係る監視システム1は、大規模な都市空間にも適用でき、スマートシティのための多目的の利用が可能となる。
【符号の説明】
【0100】
1…監視システム,2…監視装置,3…カメラ,10…CPU,11…RAM,12…ROM,13…HDD,14…I/Oポート,15…操作入力部,16…表示部,17…警報部,23、23A…撮影画像,24…対応表,25…画素情報,30…空間属性が「床面」の領域,31…空間属性が「境界」の領域,32…空間属性が「その他」の領域,33A、33B、33C…移動体,40…監視画面,41…撮影画像表示領域,42…移動体情報表示領域,43…警報表示,44…警告画面,45…リセットボタン,46…非リセットボタン
【技術分野】
【0001】
本発明は、監視装置及びプログラムに関し、特に、監視場所に設置されたカメラによる撮影画像を取り込んで監視を行う監視装置及びプログラムに関する。
【背景技術】
【0002】
公開空地や公園等の不特定の人物が出入りする領域において犯罪から守りたい人物や物(以下、人物を「被守備者」、物を「被守備物」という。)が存在する場合に、被守備者または被守備物に対する犯罪の発生を防止する際に、監視カメラを用いてより効果的に防犯を行うための技術が提案されている。
【0003】
例えば特許文献1によれば、監視対象領域を撮影することにより当該領域の画像情報をリアルタイムで取得するカメラによって取得された画像情報に基づいて、監視対象領域に存在する人物の位置を所定時間間隔で検出し、検出した人物が予め定められた守備者および被守備者を除く不定者であるか否かをICタグおよびアンテナを利用して特定し、不定者と特定された人物の少なくとも年齢を含む個人的な特性を示す特性情報を上記画像情報に基づいて推定する。そして、推定した当該特性情報に基づいて、上記不定者が上記特性情報に含まれる年齢以降の生存期間内に犯罪を実行する確率である犯罪実行率を導出し、導出した犯罪実行率に基づいて、被守備者に対する不定者による犯罪リスクの高さを示す犯罪リスク値を演算し、演算した犯罪リスク値を用いて、犯罪を防止する処理として予め定められた処理を実行するシステムが提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−250775号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
また、都市空間や建物内空間において監視カメラを用いて監視を行う際、監視対象領域に進入してくる人物や動物等の移動体の位置や大きさを正確に把握できることが望ましい。しかしながら、監視カメラによる監視は、通常、上方に設置された1台の監視カメラで斜め上から撮影することにより行われており、斜め方向から撮影された画像から、都市空間や建物内空間における固定的な監視領域に一時的に進入してくる人物や動物等の移動体の位置や大きさを正確に把握することが困難であった。その理由は、監視カメラが、背景となる三次元空間の三次元空間座標や空間属性等を保持していないために、撮影画像上の変化の意味を推論できないことにあった。
【0006】
そこで、撮影画像の各画素について常に正確な三次元空間座標や空間属性等を保持することで、その三次元空間座標や空間属性等に基づいて、撮影画像内における移動体の位置や大きさを正確に把握しつつ移動体を追跡できる監視システムが望まれている。
【0007】
また、そのような監視システムでは、監視カメラが都市空間や建物内空間を画像としてとらえるとき、監視場所に一時的に進入してきた移動体を正確に見分けるためには、撮影画像の各画素について正確な三次元空間座標や空間属性等を保持するとともに、三次元空間座標や空間属性等が常に最新の情報に更新される必要がある。
【0008】
本発明は、このような課題を解決するためになされたものであり、その目的は、都市空間や建物内空間等の監視領域を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる監視装置及びプログラムを提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するめに、請求項1に記載の監視装置は、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、前記境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段と、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段と、を備えている。
【0010】
請求項1に記載の監視装置によれば、設定手段により、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標が設定され、付与手段により、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性が付与されると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性が付与される。
【0011】
また、抽出手段により、前記境界を示す空間属性が付与された画素の各々から特徴量が繰り返し抽出され、変更手段により、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標が変更される。
【0012】
これにより、撮影カメラ等の移動により監視領域に対する撮影画像の位置が変化した場合に、境界を示す空間属性が付与された画像の各々から抽出された特徴量の変化から監視領域に対する撮影画像の位置の変化が生じたか否かを判断し、監視領域に対する撮影画像の位置の変化が生じた場合に、撮影画像の各画素に設定された座標を設定手段により設定された三次元座標の値に変更される。このため、都市空間や建物内空間等の監視領域を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる。
【0013】
また、請求項2に記載の監視装置は、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、前記境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段と、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記付与手段による実行結果を初期状態に戻すリセット処理が指示された場合に、前記リセット処理を実行する実行手段を備えている。
【0014】
請求項2に記載の監視装置によれば、設定手段により、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標が設定され、付与手段により、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性が付与されると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性が付与される。
【0015】
また、抽出手段により、前記境界を示す空間属性が付与された画素の各々から特徴量が繰り返し抽出され、実行手段により、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記付与手段による実行結果を初期状態に戻すリセット処理が指示された場合に、前記リセット処理が実行される。
【0016】
これにより、監視領域に対する撮影画像の位置の変化が生じた場合に、付与された空間属性が初期状態に戻され、再度特徴量が抽出されるため、都市空間や建物内空間等の監視領域を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる。
【0017】
また、請求項2に記載の監視装置は、請求項3に記載の発明のように、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記リセット処理が指示されなかった場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段を更に備えるようにしてもよい。これにより、リセット処理の指示の有無に拘わらず、都市空間や建物内空間等の監視領域を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる。
【0018】
また、請求項1または3記載の監視装置において、請求項4に記載の発明のように、前記撮影画像及び前記三次元空間座標に基づいて、前記監視領域に存在する移動体の位置および大きさの少なくとも一方を導出する導出手段と、前記導出手段によって導出された前記移動体の位置および大きさの少なくとも一方を提示する提示手段と、を更に備えるようにしても良い。これにより、監視領域に一時的に進入してきた移動体を正確に見分けることができる。
【0019】
また、請求項4記載の監視装置において、請求項5に記載の発明のように、前記付与手段は、前記画像部位に対応する空間属性として床面を示す属性を付与し、前記導出手段は、前記移動体の位置を導出する際には、該移動体を表す画素領域のうちの下端の画素の位置に基づいて導出するようにしても良い。これにより、監視領域に一時的に進入してきた移動体の位置を正確に導出することができる。
【0020】
また、請求項1または3記載の監視装置において、請求項6に記載の発明のように、前記設定手段は、前記監視領域を含んだ前記監視領域より広い領域を対象として前記三次元空間座標を設定し、前記付与手段は、前記監視領域を含んだ前記監視領域より広い領域を対象として各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与し、前記変更手段は、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記監視領域外の領域についても設定手段により設定された広い領域を用いて前記三次元空間座標を変更するようにしても良い。これにより、より高精度に三次元空間座標や空間属性を更新することができる。
【0021】
また、請求項5または6記載の監視装置において、請求項7に記載の発明のように前記導出手段によって導出された前記移動体と被守備物との距離に基づいて、前記被守備物に対する接近度を示す犯罪リスク値を導出する犯罪リスク値導出手段と、前記リスク値導出手段によって導出された前記犯罪リスク値を用いて、犯罪を防止するための予め定められた処理を実行する処理実行手段と、を更に備えるようにしても良い。これにより、監視領域に一時的に進入してきた移動体の犯罪を防止することができる。
【0022】
また、上記目的を達成するめに、請求項9に記載のプログラムは、コンピュータを、監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、前記境界を示す空間属性が付与された画素の各々から特徴量を抽出する抽出ステップと、前記抽出手段において抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段において設定された三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段として機能させるためのものである。
【0023】
従って、請求項9に記載のプログラムによれば、コンピュータを請求項1に記載の発明と同様に作用させることができるので、請求項1に記載の発明のように、都市空間や建物内空間を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標や空間属性を保持するとともに、三次元空間座標や空間属性等を常に最新の情報に更新することができる。
【発明の効果】
【0024】
本発明によれば、都市空間や建物内空間を撮影して撮影画像に基づいて監視を行う際、撮影画像の各画素について正確な三次元空間座標や空間属性を保持するとともに、三次元空間座標や空間属性等を常に最新の情報に更新することができる、という効果が得られる。
【図面の簡単な説明】
【0025】
【図1】実施形態に係る監視システムの構成を示す概略図である。
【図2】実施形態に係る監視システムの電気系の要部構成を示すブロック図である。
【図3】実施形態に係る監視処理プログラムの処理の流れを示すフローチャートである。
【図4】実施形態に係る移動体追跡処理プログラムの処理の流れを示すフローチャートである。
【図5】実施形態に係る監視処理プログラムの処理の流れを説明するための撮影画像の状態遷移図である。
【図6】実施形態に係るカメラによる撮影画像の一例を示す図である。
【図7】(A)は、実施形態に係る監視システムの三次元空間座標におけるZ座標値と空間属性との対応関係を示す対応表であり、(B)は、実施形態に係る監視システムにおける画素情報の構成の一例を示す模式図である。
【図8】(A)は、実施形態に係るカメラによる撮影画像における移動体と被守備物との位置関係を示す概略図であり、(B)は、実施形態に係るカメラによる撮影画像に対して設定された三次元空間のxy平面における、移動体と被守備物との位置関係を示す概略図である。
【図9】実施形態に係る監視システムにおける移動体と被守備物との距離の導出方法を説明するための概略図である移動体と被守備物との距離の導出方法を説明するための概略図である。
【図10】(A)及び(B)は、実施形態に係る監視システムにおける監視画面の一例を示す図である。
【図11】実施形態に係る監視システムにおける警告画面の一例を示す図である。
【図12】実施形態に係る監視システムにおいてリセット前後の撮影画像の三次元空間を連続した空間として認識する方法を説明するための概略図であり、(A)は、リセット前の撮影画像を示す図であり、(B)は、リセット後の撮影画像を示す図である。
【発明を実施するための形態】
【0026】
以下、図面を参照して、本発明を実施するための実施形態について詳細に説明する。なお、ここでは、オフィスビルを監視場所としてオフィスビル内における所定領域を監視領域とした監視システムに本発明を適用した場合について説明する。
【0027】
まず、図1及び図2を参照して、本発明の実施形態に係る監視システム1の構成を説明する。図1は、本実施形態に係る監視システム1の構成を示す概略図であり、図2は、本実施形態に係る監視システム1の電気系の要部構成を示すブロック図である。
【0028】
図1に示すように、本実施形態に係る監視システム1は、監視室に設置され当該システムの中心的な役割を担う監視装置2、及び監視領域を継続的に連続して撮影するカメラ3を有している。なお、本実施形態に係る監視システム1では、監視装置2が監視室に設置されているが、監視装置2の設置場所はこれに限定されない。
【0029】
本実施形態に係る監視システム1は、都市空間や建物内空間を撮影する監視カメラであるカメラ3による撮影画像の各画素に撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標(X,Y,Z)を付与し、撮影画像の各画素に三次元空間座標を対応付けることにより、振動等でカメラ3の位置が微小に変化することにより各画素に設定された三次元空間座標が変化しても、空間属性の境界を示す属性情報が付与された境界画素の各々から抽出される特徴量により、各画素に設定された三次元空間座標を修正できるシステムである。また、本実施形態に係る監視システム1は、一時的に監視領域に進入してくる人物や動物等の移動体を各画素の特徴量の変化により正確に検出し、検出された人物や動物等の位置や大きさを三次元空間内で正確に把握できるシステムである。
【0030】
図2に示すように、本実施形態に係る監視装置2は、監視装置2を総括的に制御するCPU(Central Processing Unit)10、CPU10が処理をする際の作業領域となるRAM(Random Access Memory)11、CPU10が処理をする際に使用される後述するプログラムや各種データが記憶される記憶手段としてのROM(Read Only Memory)12、CPU10が処理をする際に使用される各種データやユーザ操作により入出力されたデータが記憶される記憶手段としてのHDD(Hard Disk Drive)13、及び、監視装置2に接続されたカメラ3を含む各種周辺機器に対するデータ送受信を行うI/O(入出力)ポート14を備えている。CPU10、RAM11、ROM12、HDD13、及びI/Oポート14は、データバス等を含むバスにより壮途に接続されている。
【0031】
また、監視装置2のI/Oポート14には、ユーザ操作により監視装置2に、各画素に付与された空間属性を初期に設定された初期状態に戻すリセット処理の指示データ等のデータを入力するキーボードやマウス等の操作入力部15、CPU10の制御によりデータを表示するLCD(Liquid Crystal Display)等の表示部16、及び、CPU10の制御により音声を出力するスピーカ等の警報部17が接続されている。
【0032】
また、監視装置2のI/Oポート14には、前述したカメラ3が接続されていて、カメラ3による撮影画像(図6に示す撮影画像23)が監視装置2に連続的に入力される。なお、本実施形態に係る監視システム1は、監視装置2に対してカメラ3が有線で接続されているが、これに限らず、カメラ3が撮影画像23を示すデータを無線通信により継続的に送信し、監視装置2が、この撮影画像23を示すデータを無線通信により受信するようにしても良い。
【0033】
次に、本実施形態に係る監視システム1の動作を監視処理のルーチンを示す監視処理プログラム、及び移動体追跡処理のルーチンを示す移動体追跡処理プログラムに基づいて説明する。
【0034】
本実施形態に係る監視システム1では、監視装置2のCPU10によって監視処理プログラムが実行される。そこで、まず、図3及び図4を参照して、監視処理プログラムを実行する際のCPU10の実行処理を説明する。なお、図3は、監視システム1において監視場所の監視を行う際に、監視装置2のCPU10により実行される監視処理プログラムの処理の流れを示すフローチャートであり、図4は、監視システム1において実行された監視処理プログラムにより読み出される移動体追跡処理プログラムの処理の流れを示すフローチャートである。
【0035】
当該監視処理プログラム及び移動体追跡処理プログラムは監視装置2のROM12に予め記憶されている。なお、監視処理プログラム及び移動体追跡処理プログラムは、HDD13に予め記憶されていても良く、CD−ROM等の記録媒体に監視処理プログラム及び移動体追跡処理プログラムを記憶しておき、記録媒体からHDD13に読み込むことによりHDD13に記憶しても良い。
【0036】
また、図5(A)乃至図5(F)は、監視システム1において監視場所の監視を行う際に、監視装置2のCPU10により実行される監視処理プログラムの処理の流れを説明するための撮影画像23の状態遷移図である。
【0037】
始めに、ステップS101において、CPU10は、カメラ3から撮影画像23を示す画像データを連続して取り込む。図6は、カメラ3による撮影画像23の一例を示す図である。図6に示すように、本実施形態に係る監視システム1において、カメラ3により床面と床面より立ち上がった2本の柱が撮影画像23に撮影されている。このようにカメラ3によって撮影された撮影画像23が監視装置2に取り込まれている。
【0038】
ステップS103において、CPU10は、ステップS101にて取り込まれている撮影画像23に三次元空間の座標系を設定する。この際、図5(A)に示すように、撮影画像23に三次元座標の原点(X,Y,Z)=(0,0,0)が撮影画像23の左角近傍に設定され、Z軸が鉛直方向の向き、X軸、Y軸がそれぞれ水平面に位置するように設定される。三次元空間座標は、撮影画面23上の目的とする点に原点が一致するように設定される。
【0039】
ここで、CPU10は、撮影画像23の各画素にステップS103にて設定された三次元空間の座標系における位置を示す三次元空間座標を設定するために、ステップS105において、監視場所の三次元形状を計測するための三次元計測機器を使用するか否かを判定する。この際、ユーザ操作により三次元計測機器を使用するか否かが入力されても良く、三次元計測機器を使用するか否かを示す情報が予めROM12やHDD14に記憶されていても良い。なお、三次元計測器は、実空間における各位置までの距離を測定し、測定した距離からXYZ各軸に対応する成分を求め、各位置の三次元空間座標(X,Y,Z)を算出するものである。
【0040】
ステップS105において三次元計測機器を使用すると判定された場合は、ステップS107において、CPU10は、三次元計測機器によって計測されたデータを取得する。取得方法は、三次元計測機器を監視装置2に電気的に接続することで計測データを取得しても良く、ユーザ操作により操作入力部15を用いて計測データを入力することで取得しても良い。
【0041】
ステップS105において三次元計測機器を使用しないと判定された場合は、ステップS109において、CPU10は、表示部16に入力指示画面を表示させる。入力指示画面は、例えば、図6に示す撮影画像23と、表示された撮影画像23に対して三次元空間座標を入力するユーザ操作を促す画面とを合成した画面である。ユーザは、撮影画像23における各画素を領域分割する等により分割領域毎に三次元空間座標を入力する。
【0042】
ステップS111において、CPU10は、入力指示画面を介して入力された撮影画像23の各画素の三次元空間座標における位置を示すデータを取得する。
【0043】
ここで、二次元の撮影画面23上に位置する各画素は、実空間である三次元空間の各位置のいずれかに対応しているので、ステップS113において、CPU10は、撮影画面23上に位置する各画素の各々に、対応する三次元空間座標、すなわちステップS107またはステップS111にて取得された三次元空間における位置を示す三次元空間座標(X,Y,Z)を設定する。
【0044】
なお、三次元計測機器で計測する際に、常に人物等の出入りがあって三次元空間座標が変化し安定しない場合には、三次元計測機器で一定時間継続測定して得られた最大距離から定まる三次元空間座標を用いる。また、自動計測装置がない場合は、上記で説明したように画像を領域分割して、手作業と自動内挿で付与する。
【0045】
次のステップS115において、CPU10は、S113にて三次元空間座標が設定された撮影画像23の各画素に、各画素が属する画像部位における空間属性を設定する。
【0046】
図7(A)は、三次元空間座標におけるZ座標値と空間属性との対応関係を示す対応表24を示す図であり、図7(B)は、画素情報25の構成の一例を示す模式図である。対応表24においては、図7に示すように、Z座標値24aに対して空間属性24bがそれぞれ対応付けられている。対応表24及び画素情報25は、HDD13等に記憶されている。画素情報25は、図7(B)に示すように、撮影画像23における各画素の二次元座標で表された画素位置25aに対して、三次元空間座標で表された位置座標25b、撮影画像23における各画素が属する画像部位に属する空間属性を示す空間属性25c、及び撮影画像23における各画素の特徴量25dがそれぞれ対応付けられている。なお、ステップS113にて設定された三次元空間座標は、位置座標25bに記録される。
【0047】
対応表24に示す通り、空間属性は、床面を示す「床面」、床面に対する境界を示す「境界」、床面及び境界のどちらでもない部分を示す「その他」の3区分に分けられ、Z座標値が所定範囲内(ここでは0−α<Z<0+α)である画素に対して「床面」、Z座標値が所定範囲外(ここではZ<0−α,Z>0+α)である画素に対して「その他」が設定される。また、「床面」を示す空間属性が設定された画素部位(床面部位)と「その他」を示す空間属性が設定された画素部位(その他の部位)とが隣接している部分が境界となる。このため、床面部位及びその他の部位の部位に属する画素であって、他方の部位に属する画素に接している画素に「境界」を示す空間属性を設定する。例えば、床面部位に属する画素であってその他の部位に隣接する画素、及びその他部位に属する画素であって床面部位に隣接する画素に対して「境界」を示す空間属性を設定する。
【0048】
なお、床面部位及びその他の部位の一方の部位に属する画素であって、一方の部位に属する画素に接している画素に「境界」を示す空間属性を設定しても良い。この場合には、例えば、床面部位に属する画素であってその他の部位に隣接する画素に対して「境界」を示す空間属性が設定される。
【0049】
本実施形態では、撮影画像23上の柱に対応する画像部位に「その他」を示す空間属性を設定し、床面に対応する画像部位に「床面」を示す空間属性を設定すると共に、床面部位及びその他の部位に属する画素であって他方の部位に隣接する画素に対して「境界」を示す空間画素を設定している。
【0050】
CPU10は、三次元空間座標におけるZ座標値と空間属性との対応表24に基づいて、撮影画像23における各画素の三次元空間座標のZ座標値から、当該各画素の空間属性を画素情報25の空間属性25cとして記録することで設定する。
【0051】
これにより、図5(B)に示すように、撮影画像23における各画素が、空間属性が「床面」の領域30、空間属性が「境界」の領域31、及び空間属性が「その他」の領域32に区分される。
【0052】
なお、監視領域によっては床面がほぼ平面となる場合もあるが、この場合には、Z座標値が所定値(例えばZ=0±α)である画素に「床面」を示す空間属性を与えても良い。その際には、Z座標値が所定値以外(例えばZ≠0±α)である画素に「その他」の空間属性を設定して、空間属性が「床面」の画素と隣接する空間画素が「その他」画素に「境界」という空間属性を与えると良い。
【0053】
ステップS117において、CPU10は、ステップS115にて設定された空間属性に基づいて、空間属性として「境界」が設定された画素(以下、「境界画素」と言う。)を抽出して、画像データから各境界画素の特徴量を抽出する。境界画素の各々の画像データは、RBGの三原色が0〜255の輝度値で表されているので、各境界画素の色相または輝度の平均値を特徴量として抽出する。この際、境界画素の特徴量として、複数の隣接する境界画素からなる一群の画素群における輝度値の平均値や輝度値のばらつき等が抽出されても良い。
【0054】
ステップS119において、CPU10は、ステップS117にて抽出された各境界画素の特徴量を各画素の三次元空間座標と対応させて、記憶手段であるHDD13に記憶する。
【0055】
次のステップS121において、CPU10は、ステップS101にて取り込んでいる撮影画像23において移動体を検出して追跡する移動体追跡処理を行う。この移動体追跡処理については以下説明する。
【0056】
図8は、監視システム1において監視場所の監視を行う際に、監視装置2のCPU10により実行される移動体追跡処理プログラムの処理を説明するための概略図であり、(A)は、カメラ3による撮影画像23における移動体と被守備物との位置関係を示す概略図であり、(B)は、ステップS103にてカメラ3による撮影画像23に対して設定された三次元空間のxy平面における、移動体と被守備物との位置関係を示す概略図である。
【0057】
図8(A)に示すように、監視場所に被守備物が存在して当該被守備物の周囲に進入禁止領域が存在する場合に、移動体が被守備物に接近しないように監視しなければならない状況が発生する。この場合には、監視装置2は、図8(B)に示すように、撮影画像23に設定された三次元空間におけるXY平面上における距離を正確に把握する必要がある。
【0058】
始めに、ステップS201において、CPU10は、ステップS101にて取り込んでいる撮影画像23において移動体を検出する。移動体を検出するには、撮影画像23の前後のフレームの画像データの差分を演算して検出する。差分データが存在する場合には、差分データが存在する部分が移動体に相当するので、各フレームで差分データが存在する部分の座標を求めることにより移動体の移動方向も検出することができる。
【0059】
この際、図5(C)に示すように、カメラ3による撮影画像23において、移動体33A、33B、33Cは、検出された画素を含む矩形の画素の集合体(以下、「矩形表示」と言う。)で表示される。矩形表示は、移動体33A、33B、33C示す画素をすべて含む最小限の矩形の画素の集合体とすると良い。
【0060】
ステップS203において、CPU10は、ステップS201にて検出された移動体33A、33B、33Cの位置及び大きさを取得する。この際、移動体33A、33B、33Cの位置は、移動体33A、33B、33Cを示す矩形表示における底辺(撮影画像23においてx方向に位置する辺)の中点の座標とすると良い。これは、移動体33A、33B、33Cの足元が位置する画素を特定することで、その他の部位が位置する画素を用いた場合よりも、三次元空間座標における正確な位置を把握できるからである。
【0061】
また、移動体33A、33B、33Cの大きさは、移動体33A、33B、33Cを示す矩形表示の底辺(撮影画像23においてx方向に位置する辺)の撮影画像23における長さa及び三次元空間における長さAに基づいて、矩形表示の撮影画像23における高さ方向(撮影画像23におけるy方向)の長さbから三次元空間における高さ方向(三次元空間におけるZ方向)の長さを推測することで得られる矩形表示の面積とすると良い。すなわち、始めに矩形表示の底辺の三次元空間における長さAが算出されることにより、矩形表示の底辺の撮影画像23における長さaと三次元空間における長さとの比A/aに、撮影画像23における矩形表示の高さ方向の長さbを掛けることにより、矩形表示の高さ方向の三次元空間における長さB(B=b×(A/a))が算出される。そして、矩形表示の底辺の三次元空間における長さAと三次元空間における高さ方向の長さBとを掛けることにより、面積S(S=A×B)が導出される。
【0062】
ステップS207において、CPU10は、ステップS201にて検出された各々の移動体33A、33B、33Cについて、以下に説明する犯罪リスク値Rj(t)を導出する。
【0063】
以下、移動体33A、33B、33Cの各々と被守備物との距離から、犯罪リスク値Rj(t)の導出方法について説明する。なお、被守備物が移動体である被守備体であった場合にも、以下に説明する導出方法で犯罪リスク値Rj(t)を導出できる。
【0064】
CPU10は、ステップS201にて検出された各々の移動体について、被守備物に対する距離を導出する。図9は、移動体と被守備物との距離の導出方法を説明するための概略図である。図9に示すように、CPU10は、各々の移動体33A、33B、33Cについて、最下端の画素の位置と、被守備物の位置との距離を導出する。なお、以下では撮影画像23に被守備物が表示されているとともに、移動体33A、33B、33Cのうちの一部が被守備物を守備する守備者であり、移動体33A、33B、33Cの中から守備者が判別されている場合について考える。
【0065】
まず、CPU10は、移動体と被守備物との距離を、全ての移動体について導出し、RAM11に記憶する。またCPU10は、守備者と移動体との距離を、守備者と移動体の全ての組み合わせについて導出し、RAM11に記憶する。なお、このときの時刻をtとして、j番目の移動体と被守備物との距離を距離Dj(t)と表し、k番目の守備者とj番目の移動体との距離を距離Dkj(t)と表す。
【0066】
CPU10は、距離Dj(t)および距離Dkj(t)を次の(1)式に代入することにより仮犯罪リスク値Rj’(t)を算出する。ここで、(1)式におけるmink()は、括弧内の演算結果の全てのkについての最小値を適用することを示す関数である。
【数1】
【0067】
また、CPU10は、次の(2)式によって係数CRを算出する。ここで、(2)式におけるC1は、犯罪リスク値Rj(t)を調整する係数であり、仮犯罪リスク値Rj’(t)=1の場合の犯罪リスク値Rj(t)の値である。
【数2】
【0068】
そして、CPU10は、以上によって得られた仮犯罪リスク値Rj’(t)、および係数CRを次の(3)式に代入することにより、犯罪リスク値Rj(t)を算出する。
【数3】
【0069】
なお、通常は係数C1として0.5を適用することにより、係数CRを−1とする。これにより、(3)式は次の(4)式に変形される。
【数4】
【0070】
以上の処理によって犯罪リスク値Rj(t)が導出される。
【0071】
ステップS209において、CPU10は、ステップS201にて検出された各々の移動体について、ステップS203にて取得された移動体の位置及び大きさを、表示部16に表示されている監視画面40に表示させる。図10(A)及び図10(B)は、監視装置2により動体監視処理が行われている際に表示部16に表示されている監視画面40の一例を示す図である。本実施形態に係る監視システム1では、図10(A)に示すように、監視画面40は、カメラ3による撮影画像23が表示される撮影画像表示領域41、移動体の位置や大きさを示す情報が表示される移動体情報表示領域42を有している。移動体情報表示領域42には、ステップS201にて検出された移動体33A、33B、33C(監視画面40ではそれぞれA、B、Cで表されている)の位置や大きさを示す情報が表示されている。
【0072】
ステップS211において、CPU10は、ステップS201にて検出された移動体のうち、ステップS207にて導出された犯罪リスク値Rj(t)が予め定められた所定値以上である移動体が存在するか否かを判定する。この所定値は、予め設定されてRAM11またはROM12に記憶されている。
【0073】
ステップS211においてステップS201にて検出された移動体のうちのいずれかの犯罪リスク値Rj(t)が予め定められた所定値以上であると判断された場合は、CPU10は、ステップS213において、移動体の被守備物への接近を警告する。この際、CPU10は警報部17に警報音を発生させる。また、CPU10は、警報部図10(B)に示すように、監視画面40において、例えば、犯罪リスク値Rj(t)が予め定められた所定値以上であった移動体を強調するための警告表示46を行わせることで、被守備物への接近を警告する。
【0074】
CPU10は、監視処理プログラムが終了されるまで、移動体追跡処理であるステップS201乃至S213の処理を繰り返し行うことで、常時移動体を追跡して監視を行う。なお、特徴点追跡アルゴリズムについては、特開2009−20800号公報等の多くの文献に記載されており、従来既知であるため、ここでは詳細な説明は省略する。
【0075】
ここで、風、振動または何らかの移動体の衝突等によってカメラ3の位置がずれる可能性が考えられる。カメラ3の位置がずれた場合には、図5(D)に示すように、破線で示すずれる前の撮影画像23Aに表示されていた空間属性が「境界」の領域31Aに対して、実線で示すずれた後の撮影画像23に表示されている空間属性が「境界」の領域31の位置がずれるため、結果として、撮影画像23の各画素に設定された三次元空間座標もずれてしまい、移動体の正確な位置や大きさを把握することが困難になってしまう。
【0076】
そこで、ステップS122において、CPU10は、カメラ3の位置がずれていないか否かを判定するために、ステップS121の処理(すなわちステップS201乃至213の処理)と並行して、ステップS117と同様の手法で、各境界画素の特徴量を抽出する。
【0077】
ステップS123において、CPU10は、ステップS119にて記憶された特徴量と、ステップS122にて抽出されて記憶されている特徴量とを比較し、各境界画素の特徴量の変化量が予め定められた閾値である所定値以上であるか否かを判定する。この際の所定値は、例えば各境界画素の特徴量の変化量が誤差とみなせる限界値を示す数値であり、予め設定されてRAM11、ROM12またはHDD13に記憶されている。このステップS123の判定は、定期的に行われる。
【0078】
ステップS123において特徴量の変化量が予め定められた所定値以上でないと判定された場合は、CPU10は、カメラ3の位置がずれていないものと判定して、監視を継続するために、特徴量の変化量が予め定められた所定値以上になるまで、再びステップS121乃至S123の処理を繰り返し行う。
【0079】
ステップS123において特徴量の変化量が予め定められた所定値以上であると判定された場合は、ステップS125において、CPU10は、カメラ3の位置がずれたものと判定して、表示部16に警告画面44を表示させる。図11は、警告画面44の一例を示す図である。図11に示すように、警告画面44は、ユーザ操作により三次元空間座標の設定をリセットすることを指示するためのリセットボタン45と、ユーザ操作によりリセットしないことを指示するための非リセットボタン46を有している。ユーザは、監視装置2に三次元空間座標の設定をリセットすることを指示する場合に操作入力部15によりリセットボタン45を選択し、監視装置2にリセットしないことを指示する場合に操作入力部15により非リセットボタン46を選択する。ユーザは、カメラの位置や角度に大きな変化あるいは監視領域に物理的な大きな変化があったと判断した場合に、リセットボタン45を選択すると良い。
【0080】
ステップS127において、CPU10は、ユーザ操作によりリセットの指示があったか否かを判定する。この際、CPU10は、ユーザ操作によりリセットボタン45が選択された場合に、三次元空間座標の設定のリセットが指示されたものと判定し、ユーザ操作により非リセットボタン46が選択された場合にリセットが指示されなかったものと判定する。
【0081】
ステップS127においてリセットの指示があったと判定された場合は、ステップS128において、撮影画像23に対して設定した三次元空間、各画素に設定した三次元空間座標、各画素に設定した空間属性、及び記憶した特徴量を初期状態に戻し、ステップS103に戻って、CPU10は、ステップS101にて取り込まれているカメラ3による撮影画像23に対して、再び三次元空間を設定し直し、上述した一連の処理を再度行う。
【0082】
図5(E)に示すように、ずれた撮影画像23に対して三次元座標の原点(X,Y,Z)=(0,0,0)が再度設定されるとともに、Z軸を鉛直方向とした上で水平方向にX軸、Y軸が再度設定される。
【0083】
ここで、監視装置1は、リセットが指示され三次元空間座標が再度設定された際に、カメラ3の画角が変化した場合であっても、複数の特徴点に基づいて三次元空間をリセット前後で連続した空間として認識する機能を備えている。図12は、本実施形態に係る監視システム1においてリセット前後の撮影画像23の三次元空間を連続した空間として認識する方法を説明するための概略図であり、図12(A)は、リセット前の撮影画像23を示す図であり、図12(B)は、リセット後の撮影画像23を示す図である。
【0084】
図12(A)及び図12(B)に示すように、ユーザ操作により、カメラ3による撮影画像23上において複数の固定点a乃至fが設定され、当該複数の固定点a乃至fの各々の特徴量が時間の関数として取り込まれる。なお、固定点a乃至fは、一群の画素の集合体であることが好ましい。そして、撮影画像23に対する三次元空間座標の再度設定後に、撮影画面23において固定点a乃至fの特徴量を探索して、固定点a乃至fの特徴量と一致した箇所(あるいは最も近似した箇所)を、撮影画像23に対する三次元空間座標の再度設定前における固定点a乃至fとして認識し、固定点a乃至fがそれぞれ対応するように三次元空間座標を設定しなおす。
【0085】
ステップS127においてリセットの指示がないと判定された場合は、ステップS129において、CPU10は、撮影画像23における境界画素の特徴量に基づいて、ステップS103にて設定した三次元空間の位置を、カメラ3がずれる前の境界画素の位置と、カメラ3がずれた後の境界画素の位置とがそれぞれ対応するように修正し、ステップS105にて設定された各画素の三次元空間座標を修正する。この際、画素情報25において、各境界画素の特徴量の変化量に応じて、画素位置25aに対する、位置座標25b、空間属性25c、特徴量25dの対応付けを変更することによって、三次元空間の位置が修正される。
【0086】
図5(F)に示すように、カメラ3による撮影画像23における各画素に設定された三次元空間座標が、各境界画素の特徴量の変化量に応じて修正される。この際、CPU10は、カメラ3の位置がずれた後の撮影画像23上において、カメラ3の位置がずれる前の境界画素の特徴量を検索して、一致した箇所(最も近似した箇所)を当該境界画素の位置として認識し、画素情報25における三次元空間座標を設定しなおす。
【0087】
そして、CPU10は、再びステップS121の処理を行うことにより、監視処理を継続する。カメラ3の位置が微小にずれた場合に、撮影画像23の各画素に対応付けられた三次元空間座標を境界画素のずれを用いて修正することで、監視領域の三次元形状を取得することなく、監視処理を継続することができる。
【0088】
このようにして本実施形態に係る監視装置2は、監視領域を連続撮影して得られた撮影画像23の各画素に、該撮影画像23に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定し撮影画像23の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、画像部位と隣接する画素の各々に画像部位との境界を示す空間属性を付与し、境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出し、抽出された特徴量の変化量が予め定められた閾値を超えた場合に、設定された三次元座標により定まる位置を示す三次元空間座標になるように画素の各々に設定された三次元空間座標を変更する。
【0089】
また、本実施形態に係る監視装置2は、監視領域を連続撮影して得られた撮影画像23の各画素に、該撮影画像23に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定し、撮影画像23の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、画像部位と隣接する画素の各々に画像部位との境界を示す空間属性を付与し、境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出し、抽出された特徴量の変化量が予め定められた閾値を超え、かつ実行結果を初期状態に戻すリセット処理が指示された場合に、リセット処理を実行する。
【0090】
これらにより、本実施形態に係る監視システム1において、都市空間や建物内空間等の監視領域を撮影して撮影画像23に基づいて監視を行う際、撮影画像23の各画素について正確な三次元空間座標及び空間属性を保持するとともに、三次元空間座標及び空間属性等を常に最新の情報に更新することができる。
【0091】
なお、ステップS203にて移動体の大きさを取得してステップS209にて表示する際、移動体の大きさによって移動体の種類や数を判別して、移動体の種類を表示させるようにしても良い。判別方法は、例えば幅(XY平面における長さ)と高さ(Z座標における長さ)との比や、幅と高さから得られる面積を用いて、例えば人物か動物かを判別すると良い。または、同様にして動物を犬・猫・牛・カラス等に更に細かく分類して、ステップS207にて犯罪リスク値の代わりに獣害リスク値を導出しても良い。
【0092】
また、本実施形態に係る監視システム1の監視装置2に三次元座標自動把握機能が備えられていても良い。その場合、移動体の三次元座標を把握する際にもリアルタイムで活用でき、より高精度に移動体を検出して追跡できる。
【0093】
また、本実施形態に係る監視システム1では、カメラ3が固定されていることを前提としたが、これに限定されず、カメラ3が可動カメラであっても良い。カメラ3が可動カメラ3であった場合、撮影画像23における特徴点をそれぞれ三次元空間座標や空間属性と対応付け、各画素による撮影位置が移動した際に特徴点の移動に合わせて各画素の三次元空間座標や空間属性を変更することで、各画素に逐次三次元知識を持たせることができる。
【0094】
また、ステップS101にてカメラ3による撮影画像23を取り込む際、対象とする監視領域である撮影領域23を含んだ撮影領域23より広い領域の画像を取り込み、ステップS113にて当該広い領域に対して三次元空間座標を設定するとともに、ステップS115にて当該広い領域の各画素に空間属性を設定する際、当該広い領域を対象として前記三次元空間座標を設定することにより、ステップS129にて撮影画面23における各画素の三次元空間座標を修正する際に、当初撮影領域23でなかった領域に対しても当該広い領域について設定されている三次元空間座標や空間属性を用いて、各画素に正確に三次元空間座標や空間属性を付与することができる。
【0095】
また、ステップS101にてカメラ23による撮影画像23を取り込む際、対象とする監視領域より広い領域を撮影して取り込むことにより、ステップS129にて撮影画面23における各画素の三次元空間座標を修正する際に、当該広い領域について設定されている三次元空間座標や空間属性を用いて、監視領域における各画素に正確に三次元空間座標や空間属性を付与することができる。
【0096】
また、本実施形態に係る監視システム1において、監視領域を含むCADデータと連携させることにより、より精緻に空間知識をもつことができ、より高度な移動体追跡が可能になる。
【0097】
また、本実施形態に係る監視システム1では、単一のカメラ3を用いて監視画像を撮影するが、これに限定されず、複数台のカメラを用いて監視画像を撮影しても良い。この際には、各々のカメラによる撮影領域を合わせると全ての監視領域を網羅しているように各々のカメラが配置されると良い。これにより、監視領域を死角なく撮影することができ、効率的に監視できる。
【0098】
また、複数台のカメラを用いた場合には、各々のカメラによる撮影画像23に設定される三次元空間座標を統一させることにより、異なるカメラによる撮影画像23で撮影された移動体が同一の移動体であるか否かを正確に判定することができる。
【0099】
また、本実施形態に係る監視システム1は、監視装置2として一般的に広く利用されているPC(Personal Computer)を利用でき、カメラ3としてとして一般的に広く利用されているカメラを利用できるため、新規の装置やインフラを構築する必要がなく低コストで実現可能である。また、本実施形態に係る監視システム1は、同様の理由で、既存の建物に組み入れることが容易にできるとともに、既存のセキュリティシステムを更新する際に追加機能として組み入れることも容易にできる。さらに、本実施形態に係る監視システム1は、大規模な都市空間にも適用でき、スマートシティのための多目的の利用が可能となる。
【符号の説明】
【0100】
1…監視システム,2…監視装置,3…カメラ,10…CPU,11…RAM,12…ROM,13…HDD,14…I/Oポート,15…操作入力部,16…表示部,17…警報部,23、23A…撮影画像,24…対応表,25…画素情報,30…空間属性が「床面」の領域,31…空間属性が「境界」の領域,32…空間属性が「その他」の領域,33A、33B、33C…移動体,40…監視画面,41…撮影画像表示領域,42…移動体情報表示領域,43…警報表示,44…警告画面,45…リセットボタン,46…非リセットボタン
【特許請求の範囲】
【請求項1】
監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、
前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、
前記境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段と、
前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段と、
を備えた監視装置。
【請求項2】
監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、
前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、
前記境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段と、
前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記付与手段による実行結果を初期状態に戻すリセット処理が指示された場合に、前記リセット処理を実行する実行手段と、
を備えた監視装置。
【請求項3】
前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記リセット処理が指示されなかった場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段を更に備えた請求項2記載の監視装置。
【請求項4】
前記撮影画像及び前記三次元空間座標に基づいて、前記監視領域に存在する移動体の位置および大きさの少なくとも一方を導出する導出手段と、
前記導出手段によって導出された前記移動体の位置および大きさの少なくとも一方を提示する提示手段と、
を更に備えた請求項1から請求項3の何れか1項記載の監視装置。
【請求項5】
前記付与手段は、前記画像部位に対応する空間属性として床面を示す属性を付与し、
前記導出手段は、前記移動体の位置を導出する際には、該移動体を表す画素領域のうちの下端の画素の位置に基づいて導出する
請求項4記載の監視装置。
【請求項6】
前記設定手段は、前記監視領域を含んだ前記監視領域より広い領域を対象として前記三次元空間座標を設定し、
前記付与手段は、前記監視領域を含んだ前記監視領域より広い領域を対象として各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与し、
前記変更手段は、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記監視領域外の領域についても設定手段により設定された広い領域を用いて前記三次元空間座標を変更する
請求項1または3記載の監視装置。
【請求項7】
前記導出手段によって導出された前記移動体と被守備物との距離に基づいて、前記被守備物に対する接近度を示す犯罪リスク値を導出する犯罪リスク値導出手段と、
前記リスク値導出手段によって導出された前記犯罪リスク値を用いて、犯罪を防止するための予め定められた処理を実行する処理実行手段と、
を更に備えた請求項5または6記載の監視装置。
【請求項8】
コンピュータを、
監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、
前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、
前記境界を示す空間属性が付与された画素の各々から特徴量を抽出する抽出ステップと、
前記抽出手段において抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段において設定された三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段
として機能させるためのプログラム。
【請求項1】
監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、
前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、
前記境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段と、
前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段と、
を備えた監視装置。
【請求項2】
監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、
前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、
前記境界を示す空間属性が付与された画素の各々から特徴量を繰り返し抽出する抽出手段と、
前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記付与手段による実行結果を初期状態に戻すリセット処理が指示された場合に、前記リセット処理を実行する実行手段と、
を備えた監視装置。
【請求項3】
前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超え、かつ前記リセット処理が指示されなかった場合に、前記設定手段により設定された三次元座標により定まる位置を示す三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段を更に備えた請求項2記載の監視装置。
【請求項4】
前記撮影画像及び前記三次元空間座標に基づいて、前記監視領域に存在する移動体の位置および大きさの少なくとも一方を導出する導出手段と、
前記導出手段によって導出された前記移動体の位置および大きさの少なくとも一方を提示する提示手段と、
を更に備えた請求項1から請求項3の何れか1項記載の監視装置。
【請求項5】
前記付与手段は、前記画像部位に対応する空間属性として床面を示す属性を付与し、
前記導出手段は、前記移動体の位置を導出する際には、該移動体を表す画素領域のうちの下端の画素の位置に基づいて導出する
請求項4記載の監視装置。
【請求項6】
前記設定手段は、前記監視領域を含んだ前記監視領域より広い領域を対象として前記三次元空間座標を設定し、
前記付与手段は、前記監視領域を含んだ前記監視領域より広い領域を対象として各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与し、
前記変更手段は、前記抽出手段により抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記監視領域外の領域についても設定手段により設定された広い領域を用いて前記三次元空間座標を変更する
請求項1または3記載の監視装置。
【請求項7】
前記導出手段によって導出された前記移動体と被守備物との距離に基づいて、前記被守備物に対する接近度を示す犯罪リスク値を導出する犯罪リスク値導出手段と、
前記リスク値導出手段によって導出された前記犯罪リスク値を用いて、犯罪を防止するための予め定められた処理を実行する処理実行手段と、
を更に備えた請求項5または6記載の監視装置。
【請求項8】
コンピュータを、
監視領域を連続撮影して得られた撮影画像の各画素に、該撮影画像に対して設定された三次元座標により定まる位置を示す三次元空間座標を設定する設定手段と、
前記撮影画像の各画素に該各画素が属する画像部位に対応する空間属性を付与すると共に、前記画像部位と隣接する画素の各々に前記画像部位との境界を示す空間属性を付与する付与手段と、
前記境界を示す空間属性が付与された画素の各々から特徴量を抽出する抽出ステップと、
前記抽出手段において抽出された前記特徴量の変化量が予め定められた閾値を超えた場合に、前記設定手段において設定された三次元空間座標になるように前記画素の各々に設定された三次元空間座標を変更する変更手段
として機能させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図9】
【図10】
【図11】
【図12】
【図8】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図9】
【図10】
【図11】
【図12】
【図8】
【公開番号】特開2012−216962(P2012−216962A)
【公開日】平成24年11月8日(2012.11.8)
【国際特許分類】
【出願番号】特願2011−80165(P2011−80165)
【出願日】平成23年3月31日(2011.3.31)
【出願人】(000003621)株式会社竹中工務店 (1,669)
【出願人】(507022802)Takumi Vision株式会社 (14)
【Fターム(参考)】
【公開日】平成24年11月8日(2012.11.8)
【国際特許分類】
【出願日】平成23年3月31日(2011.3.31)
【出願人】(000003621)株式会社竹中工務店 (1,669)
【出願人】(507022802)Takumi Vision株式会社 (14)
【Fターム(参考)】
[ Back to top ]