画像処理システム及び画像処理方法、並びに、プログラム
【課題】監視対象領域の画像にマスク設定を行っても動体であるオブジェクトを正確に検知できるようにする。
【解決手段】メタデータ生成部13において、オブジェクト検知部131は、フレーム単位の画像データDvから動体であるオブジェクトを検知する処理を行う。オブジェクト発生位置検知部132は、オブジェクト検知部131によって検知されたオブジェクトの発生位置を検知する。有効オブジェクト判定部133は、現在マスク領域内にあるオブジェクトの発生位置がマスク領域外である場合にはこのオブジェクトを有効オブジェクトであると判定する。
【解決手段】メタデータ生成部13において、オブジェクト検知部131は、フレーム単位の画像データDvから動体であるオブジェクトを検知する処理を行う。オブジェクト発生位置検知部132は、オブジェクト検知部131によって検知されたオブジェクトの発生位置を検知する。有効オブジェクト判定部133は、現在マスク領域内にあるオブジェクトの発生位置がマスク領域外である場合にはこのオブジェクトを有効オブジェクトであると判定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力画像を解析して監視結果を出力する画像処理システム及び画像処理方法、並びに、プログラムに関する。
【背景技術】
【0002】
従来より、監視カメラにて所定領域を撮影した画像を解析し、人や車等の動体を検知することにより監視を行う画像処理システム(以下、監視システムという。)がある。
【0003】
図9は、このような監視システムにおける動体検知の様子を示す図である。監視カメラ(図示せず)が、手前から、動体である人51、及びこの人51の背後に位置する背景物である標識52を撮影する。人51は、監視対象となるオブジェクトとして動体検知枠53に捉えられる。このような動体検知処理では、例えば、画像中の各画素値の時間的変化を算出し、各画素値の差異が所定値以上であった場合に画像中に動体があると判断するといったアルゴリズムを適用することができる(特許文献1参照。)。
【0004】
この図9に示すように、オブジェクトである人51は、標識52の手前を通過している。標識52は、静止しているため時間的変化を生じることがなく、人51のみが監視カメラによって動体検知枠53内に捉えられて検知される。
【0005】
なお、この例において、動体としては人51に限られず、例えば車や自転車等であってもよく、背景物52としては、例えば家や樹木等であってもよい。
【0006】
ところで、図10に示すように、標識52を構成するポール521に太陽光が照射された場合、ポール521表面上の領域522において太陽光が反射し、大きな輝度変化を生じさせる。これは、標識52のように、背景物が例えば金属製の倉庫の壁面や縁石等の光の反射を生じさせる表面を有する物体であれば同様の現象が生じる。標識52は、移動しないにも拘らず、輝度変化が大きいため、動体検知アルゴリズムにおいては監視カメラを介してこのような光反射がオブジェクトとして誤検知されてしまう。
【0007】
また、図11は、標識52の太陽光が照射される側を人51が通過する様子を示す図である。この図11に示すように、人51によって太陽光が遮断されると、ポール521表面の領域522の一部に影523ができる。この場合、ポール521の表面の輝度は、大きく変化する。人51は、監視カメラと標識52との間を通過していないにも拘らず、輝度変化が大きいため、動体検知アルゴリズムにおいては監視カメラを介してこのような影がオブジェクトとして誤検知されてしまう。
【0008】
このような誤検知は、夜間においても生じることがある。通常、夜間においては、図12(A)に示すように、標識52のポール521表面からは光を生じない。しかしながら、図12(B)に示すように、ポール521に対し、車のライト等の何らかの光が照射されるとポール521表面の例えば領域524にて反射されて反射光を生じる。このような場合においても、人51などの動体が監視カメラと標識52との間を通過しないにも拘らず、輝度変化が大きいため、動体検知アルゴリズムにおいては監視カメラを介して反射光がオブジェクトとして誤検知されてしまう。
【0009】
そこで、従来の動体検知アルゴリズムにおいては、例えば、図13に示すように、標識52のポール521の位置に非検知領域としてマスク領域54を設定し、このマスク領域54では画像処理を行わないようにする処理が行われている。これにより、ポール521表面上での誤検知を防ぐことができる。
【0010】
【特許文献1】特開2006−107457号公報
【特許文献2】特許第3997062号公報
【発明の開示】
【発明が解決しようとする課題】
【0011】
しかしながら、このようなマスク領域の設定処理を行った場合、例えば図14に示すように、人51は、マスク領域54では検知されず、動体検知枠53に示すように非検知領域外でしか検知されない。
【0012】
本発明は、このような従来の実情に鑑みて提案されたものであり、マスク領域が設定された画像において動体であるオブジェクトを正確に検出することができる画像処理システム及び画像処理方法、並びに、プログラムを提供することを目的とする。
【課題を解決するための手段】
【0013】
上述した目的を達成するために、本発明は、所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知部と、上記オブジェクト検知部によって検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知部と、上記オブジェクト検知部によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定部とを備える画像処理システムである。
【0014】
また、上述した目的を達成するために、本発明は、所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知工程と、上記オブジェクト検知工程にて検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知工程と、上記オブジェクト検知工程によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定工程とを有する画像処理方法である。
【0015】
また、上述した目的を達成するために、本発明は、所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知工程と、上記オブジェクト検知工程にて検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知工程と、上記オブジェクト検知工程によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定工程とをコンピュータに実行させるためのプログラムである。
【発明の効果】
【0016】
本発明によれば、環境変化が生じやすい屋外であっても、監視カメラを用いて侵入者等を監視する際に、動体であるオブジェクトを正確に検知することができ、さらにはアラートの失報を軽減することができる。
【発明を実施するための最良の形態】
【0017】
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
【0018】
図1は、本発明を適用した実施の形態における監視システムの構成例を示す図である。図1に示す監視システム100において、クライアント端末3は、1台又は複数台の監視カメラから出力されたデータをネットワークを介して取得する。
【0019】
監視システム100は、3台の監視カメラである監視カメラ1a,1b,1cがネットワーク2を介してクライアント端末3と接続されて構成される。このクライアント端末3は、図1に示すようにパーソナルコンピュータ等、表示部を備えた情報処理装置であれば何れのものでもよい。
【0020】
監視カメラ1a,1b,1cは、それぞれ指定された監視領域において監視対象物である動体をフレーム単位で撮影して画像データを生成するとともに、このフレーム毎の画像データからメタデータを生成する。本実施の形態において、監視対象となるオブジェクトとしては、人物、車、自転車、動物等、種々の動体を挙げることができる。
【0021】
クライアント端末3は、ネットワーク2を介して監視カメラ1a,1b,1cより画像データ及びメタデータを取得すると、この画像データに基づく画像を表示部311に表示する。また、クライアント端末3は、この画像データ及びメタデータを記憶部(図示せず)に記憶させるとともにメタデータの解析を行い、その結果を出力する。
【0022】
クライアント端末3が、ネットワーク2を介して監視カメラ1a,1b,1cより取得したメタデータは、メタデータフィルタ(以下、「フィルタ」という。)を介して解析される。フィルタ処理結果の内容によっては、クライアント端末3は、監視に適した監視画像が取得される監視カメラ1a,1b,1cの動作を制御するために、監視カメラ1a,1b,1cに対して切替指示信号を供給する。
【0023】
ここで、監視カメラ内で生成されるメタデータについて説明する。メタデータとは、監視カメラの撮像部で撮像された画像の画像データの属性情報のことであり、例えば下記のようなものがある。
・オブジェクト情報(監視カメラでオブジェクトを検知した場合のオブジェクトの位置、動きベクトル、ID、座標、サイズ等の情報)
・撮像時刻データ、監視カメラの向き情報(パン、チルト等)
・監視カメラの位置情報
・撮像された画像の署名情報
【0024】
オブジェクト情報とは、メタデータ内にバイナリデータとして記載された情報を、構造体等の意味のあるデータ構造に展開した情報のことである。
【0025】
メタデータフィルタとは、オブジェクト情報からアラート情報を生成する場合の判断条件のことであり、アラート情報とは、メタデータから展開したオブジェクト情報を元にフィルタ処理をかけた後の情報のことである。アラート情報は、複数フレームのメタデータを解析し、動体の位置の変化から速度を割り出したり、動体がある線を越えたか否かの確認をしたり、又は、これらを複合的に解析することによって得られる。
【0026】
クライアント端末3におけるフィルタの種類としては、例えば以下の7種類があり、このうち任意のフィルタの種類を選択することができる。
【0027】
Appearance(存在):オブジェクトがある領域内に存在するか否かを判断するためのフィルタ
【0028】
Disappearance(消失):物体がある領域に現れ、領域から出たか否かを判断するためのフィルタ
【0029】
Passing(通過):ある境界線を物体が超えたか否かを判断するためのフィルタ
【0030】
Capacity(物体数制限):ある領域内の物体の数をカウントし、その累積数が所定値を超えたか否かを判断するためのフィルタ
【0031】
Loitering(滞留):所定の時間を越えて、ある領域内に滞留しているか否かを判別するためのフィルタ
【0032】
Unattended(置き去り):所定の時間を越えて、ある領域内に侵入し動かない物体が存在するか否かを判別するためのフィルタ
【0033】
Removed(持ち去り):ある領域内に存在した物体が取り除かれたことを検出するためのフィルタ
【0034】
アラート情報に含まれるデータとしては、例えば、上述したフィルタのうちの“Capacity”等、検知されたオブジェクトの累計値を用いるフィルタを通して生成された“累積オブジェクト数”や、フィルタの条件に合致したオブジェクトの数である“オブジェクト数”、特定のフレーム内においてフィルタの条件に合致したオブジェクト数、フィルタの条件に合致したオブジェクトの属性情報(オブジェクトのID、X座標、Y座標、サイズ)等がある。アラート情報には、このように画像内の員数(人数)や、それらの統計が含まれ、レポート機能としても使用できる。
【0035】
なお、本実施の形態では、このように、クライアント端末3が監視カメラ1a,1b,1cから送信されたメタデータに基づいて上述のようなアラート情報を生成している。近年、演算処理デバイスの小型化、省電力化等の条件により、カメラ上においても、従来クライアント端末で行っていたような処理を行うことが可能になってきており、監視カメラ1a,1b,1c内で、所定の条件(フィルタ)に基づいて、アラート情報を生成することも可能になっている。
【0036】
次に、監視カメラ1a,1b,1cの詳細な構成について説明する。図2は、監視カメラ1aの構成を示す機能ブロック図である。ここで、監視カメラ1a,1b,1cは、同一の構成であるため、監視カメラ1b,1cの構成については説明を省略する。
【0037】
監視カメラ1aは、画像データ生成部11と、撮像動作切替部12と、メタデータ生成部13とを備えて構成される。
【0038】
画像データ生成部11は、レンズ部111と、撮像部112と、撮像信号処理部113と、データ処理部114とを備える。
【0039】
撮像部112は、レンズ部111を通してフレーム単位で撮影し、撮像素子(図示せず)に結像された撮像光を光電変換してフレーム単位の撮像信号Svを生成する。
【0040】
撮像部112は、例えば図示しないプリアンプ部及びA/D(Analog to Digital)変換部を備え、プリアンプ部では、撮像信号Svの電気信号レベルの増幅や、相関二重サンプリングによるリセット雑音の除去を行い、A/D変換部では撮像信号Svをアナログ信号からデジタル信号に変換する。
【0041】
また、撮像部112は、供給されたフレーム単位の撮像信号Svのゲイン調整や黒レベルの安定化、ダイナミックレンジの調整等も行う。その後、撮像信号Svは、撮像信号処理部113に供給される。
【0042】
撮像信号処理部113は、撮像部112から供給された撮像信号Svに対して種々の信号処理を行い、画像データDvを生成する。例えば、撮像信号Svのあるレベル以上を圧縮するニー補正、撮像信号Svのレベルを設定されたγカーブに従って補正するγ補正、撮像信号Svの信号レベルが所定範囲となるように制限するホワイトクリップ処理やブラッククリップ処理等を行う。そして、撮像信号処理部113は、画像データDvをデータ処理部114及びメタデータ生成部13に供給するとともにこの画像データDvを記憶部(図示せず)に記憶させる。
【0043】
データ処理部114は、クライアント端末3等と通信を行う際のデータ量を少なくするために、画像データDvに対して符号化処理を行い、画像データDtを生成する。さらに、データ処理部114は、生成した画像データDtを所定のデータ構造としてクライアント端末3に供給する。監視システム100では、動体であるオブジェクトを検知する処理を行う。このため、オブジェクトを含む画像は、他のオブジェクトを含まない画像よりも重要度が高い。そこで、データ処理部114は、この符号化処理において、このオブジェクトを含む画像の画像データDvに対しては圧縮率を上げ、オブジェクトを含まない画像の画像データDvに対しては圧縮率を下げるようにしてもよい。これにより、オブジェクトを含む画像を高精度に再生することができる。
【0044】
撮像動作切替部12は、クライアント端末3から入力される切替指示信号CAに基づいて最適な撮像画像が得られるようにレンズ部111、撮像部112、撮像信号処理部113、データ処理部を制御し、監視カメラ1の動作切り替えを行う。撮像動作切替部12は、例えば、撮像部の撮像方向の切り替えを行う他、レンズ部111に制御信号CMaを供給してズーム比やアイリスの切り替えを行わせたり、撮像部112と撮像信号処理部113とに制御信号CMbを供給して撮像画像のフレームレートの切り替えを行わせたり、さらにはデータ処理部114に制御信号CMcを供給して画像データの圧縮率の切り替えを行わせる等の処理を行う。
【0045】
また、撮像動作切替部12は、メタデータ生成部13に、撮像動作信号QF(例えば監視対象であるオブジェクトを撮像したときの撮像方向やズーム状態、画像データ生成部の設定情報等)を供給してメタデータ生成部13を制御する。
【0046】
メタデータ生成部13は、オブジェクトに関する情報を含むメタデータDmを生成する。本実施の形態のように、動体を監視対象物であるオブジェクトとする場合であれば、画像データ生成部11で生成された画像データDtを用いて動体であるオブジェクトを検知し、オブジェクトが検知されているか否かを示すオブジェクト検知情報や、検知したオブジェクトの位置を示すオブジェクト位置情報を生成し、これをオブジェクト情報としてメタデータDmに含める。このとき、検知されたオブジェクトには、それぞれに一意のIDが割り振られる。
【0047】
なお、メタデータDmに含まれる監視対象に関する情報は、オブジェクトに関連した情報に限られるものではなく、監視カメラで監視する領域の状態を示す情報であってもよい。例えば、監視する領域の温度や明るさ等の情報であってもよい。あるいは、監視する領域内で行われた操作等の情報であってもよい。温度を監視対象とする場合には、温度測定結果をメタデータDmに含め、明るさを監視対象とする場合には、メタデータ生成部13は、画像データDvに基づいて、例えば監視画像の平均輝度を判別し、この判別結果をメタデータDmに含めるようにすればよい。
【0048】
さらに、ATM(Automated Teller Machine)やPOS(Point Of Sales)端末等を対象としてユーザが行った操作を監視対象とする場合には、操作キーや操作パネル等を通して行われたユーザ操作をメタデータDmに含めるようにすればよい。
【0049】
また、メタデータ生成部13は、撮像動作切替部12から供給された撮像動作信号QF(例えば監視対象を撮像したときの撮像方向やズーム状態、画像データ生成部の設定情報等)や、時刻情報等をメタデータDmに含めることにより、メタデータDmが生成された時刻や状況を記録して残すことができる。
【0050】
ここで、画像データDtとメタデータDmの構成について説明する。画像データDtとメタデータDmは、それぞれデータ本体とリンク情報とで構成されている。データ本体は、画像データDtの場合、監視カメラ1a,1bが撮影した監視画像の画像データである。また、メタデータDmの場合、監視対象であるオブジェクトを示す情報等と、この情報の記述方式を定義した属性情報を記述したものである。一方、リンク情報とは、画像データDtとメタデータDmとの関連付けを示す関連付け情報と、この情報の内容の記述方式を定義した属性情報等を記述したものである。
【0051】
関連付け情報としては、例えば、画像データDtを特定するためのタイムスタンプやシーケンス番号を使用する。タイムスタンプとは、画像データDtの生成時刻を与える情報(時刻情報)であり、シーケンス番号とは、コンテンツデータの生成順序を与える情報(順序情報)である。タイムスタンプの等しい監視画像が複数存在するような場合、タイムスタンプの等しい画像データDtの生成順序を識別することができる。また、関連付け情報には、画像データDtを生成する機器を特定するための情報(例えば製造会社名や機種名、製造番号等)を使用するものとしてもよい。
【0052】
リンク情報やメタデータ本体の記述には、ウェブ(WWW:World Wide Web)上で交換される情報を記述するために定義されたマークアップ言語を用いるものとする。マークアップ言語を用いると、ネットワーク2を介した情報の交換を容易に行うことができ、さらに、マークアップ言語として、例えば文書や電子データの交換に利用されているXML(Extensible Markup Language)を用いることで、画像データとメタデータの交換も容易に行うことができる。XMLを用いるとした場合、情報の記述方式を定義した属性情報は、例えばXMLスキーマを使用する。
【0053】
監視カメラ1a,1b,1cで生成した画像データDtやメタデータDmは、1つのストリームとしてクライアント端末3に供給するものとしてもよく、画像データDtとメタデータDmとを別のストリームで非同期にクライアント端末3に供給するものとしてもよい。
【0054】
従来のオブジェクト検知処理においては、非検知対象の領域内での誤検知を防止するために、非検知対象に対してマスク領域を設定し、このマスク領域では画像処理を行わないようにする。しかしながら、このような従来のオブジェクト検知処理では、動体は、マスク領域内に存在する場合には検知されなくなる。
【0055】
そこで、本実施の形態における監視システム100は、オブジェクトがマスク領域内に侵入した場合であっても検知されるようにするオブジェクト検知処理を行う。
【0056】
このオブジェクト検知処理では、例えば図3に示すように、標識62のポール621の位置に非検知領域であるマスク領域64を設定した場合に、オブジェクトである人61がマスク領域64外からこのマスク領域64内に侵入してもこのマスク領域64内で検知されるようにする。すなわち、人61は、動体検知枠63にて捉えられて検知される。
【0057】
図4は、メタデータ生成部13の構成を示す図である。メタデータ生成部13は、オブジェクト検知部131と、オブジェクト発生位置検知部132と、有効オブジェクト判定部133と、有効メタデータ生成部134とを備えてこのような動体検知処理を行う。
【0058】
メタデータ生成部13は、オブジェクトに関する情報を含むメタデータDmを生成する。メタデータ生成部13は、画像データ生成部11で生成された画像データDtを用いて動体であるオブジェクトを検知し、オブジェクトが検知されているか否かを示すオブジェクト検知情報や、検知したオブジェクトの発生位置を示す発生位置情報を生成し、これをオブジェクト情報としてメタデータDmに含める。この際、検知されたオブジェクトは、それぞれに固有のIDが割り当てられて記憶部(図示せず)に記憶される。
【0059】
監視システム100では、メタデータ生成部13が動体検知処理を行う前に、予めクライアント端末3において、ユーザの操作に基づき、オブジェクトの検知処理にて処理を除外する可能性のある箇所に対して非検知領域としてマスクを設定する。そして、クライアント端末3から、マスク設定情報であるマスク設定信号がネットワーク2を介して監視カメラ1a,1b,1cに供給される。
【0060】
オブジェクト検知部131には、撮像信号処理部113から、例えば人61等の動体であるオブジェクトの画像データDvが供給される。撮像システム100では、撮像部112がフレーム毎に画像を撮影する。そして、撮像信号処理部113は、撮像部112にて取得されたフレーム単位の撮像信号Svに対し、画像処理を行う。オブジェクト検知部131には、フレーム毎の画像データDvが供給される。オブジェクト検知部131は、撮像信号処理部113より供給された画像データDvを画像処理してオブジェクトを取得する。オブジェクト検知部131は、オブジェクトを検知したか否かを示すオブジェクト検知情報をメタデータDmとする。また、オブジェクト検知部131は、検知したオブジェクトにオブジェクト固有のIDを割り当てる。オブジェクト検知部131は、このオブジェクト検知情報をオブジェクト情報としてメタデータDmに含め、このメタデータDmを記憶部(図示せず)に記憶させる。また、オブジェクト検知部131は、このメタデータDmをクライアント端末3に送信する。
【0061】
撮像信号処理部113が行うオブジェクトの検知処理においては、例えば特許文献1に記載の動体検知アルゴリズムを適用することができる。オブジェクトの画像は、複数取得されることもあるが、この場合も同様のアルゴリズムが適用される。この特許文献1に記載のアルゴリズムにおいては、フレーム単位の画像において時間的な輝度変化を検出し、輝度の変化がある領域を動体であるオブジェクトとする。ただし、ここで得られたオブジェクトは、誤検知された無効オブジェクトをも含む。ここで、後述の有効オブジェクトとは、監視対象であって、検知された場合にフィルタの条件に適合すればアラートを発報する必要のあるオブジェクトである。無効オブジェクトとは、監視対象ではなく検知してもアラートを発報する必要のないオブジェクトである。このような無効オブジェクトは、有効オブジェクト判定部133が行う後述の処理により取り除かれる。
【0062】
監視カメラ1aでは、輝度変化に基づいて検知されたオブジェクトを、オブジェクトの発生後から追跡するための処理を行う。これにより、マスク領域とオブジェクト発生位置との関係を特定することができる。具体的に説明すると、オブジェクト発生位置検知部132は、撮像されて記憶部(図示せず)に記憶されている全フレームの画像データDvからオブジェクトが発生した時点の画像フレームを特定する。オブジェクト発生位置検知部132は、このフレーム画像からオブジェクトの発生位置を検知し、オブジェクト発生位置情報を生成する。そして、オブジェクト発生位置検知部132は、このオブジェクト発生位置情報をオブジェクト情報としてメタデータDmに含め、このメタデータDmを記憶部(図示せず)に記憶させる。また、オブジェクト発生位置検知部132は、このメタデータDmをクライアント端末3に送信する。
【0063】
オブジェクト発生位置検知部132が行うオブジェクト発生位置の検知方法としては、例えば特開2007−334631号公報に記載されている物体領域追跡方法を適用することができる。この物体領域追跡方法は、重なりや隠れによって物体領域が一時的に消滅した場合であっても、物体領域に対応付けられた識別情報の継続が可能であり、高性能に物体追跡をすることができるものである。
【0064】
なお、オブジェクト発生位置検知部132は、マスク領域内で輝度変化によりオブジェクトが検知された場合には、オブジェクト周囲の画像に対して動きベクトルを算出し、オブジェクトが1フレーム前の画像中の何れの位置にあったのかを算出する処理を行うようにしてもよい。この場合、後述の有効オブジェクト判定部133は、ベクトル算出処理により得られた動きベクトルに基づき、1フレーム前の画像中でマスク領域外にあったオブジェクトをマスク領域内で発生したものではなく有効オブジェクトであると判定する。また、マスク領域内の画像にて輝度変化があったにも拘らず動きベクトルが算出されない場合には、検知されているオブジェクトは、反射光又は影であり、誤検知であると判定する。
【0065】
さらには、このような処理を組み合わせて行うことにより、オブジェクト判定の精度を向上させることが可能である。
【0066】
有効オブジェクト判定部133は、全フレームの画像データにおいて現在までに既にオブジェクト検知部131によって検知されている全てのオブジェクト(無効オブジェクトも含む。)の内、マスク領域内に存在するオブジェクトがこのマスク領域内で発生したか、又は、マスク領域外で発生したかを判断する。すなわち、有効オブジェクト判定部133は、オブジェクト発生位置検知部132によって検知された、マスク領域内に存在するオブジェクトの発生位置がマスク領域内であるか否かを判断する。
【0067】
有効オブジェクト判定部133は、このオブジェクトがマスク領域外で発生した場合には、そのオブジェクトを有効オブジェクトと判定し、このオブジェクトがマスク領域内で発生した場合には、そのオブジェクトを無効オブジェクトと判定する。
【0068】
このような処理により、オブジェクトがマスク領域外からマスク領域内へ進入したのか、マスク領域内でオブジェクトが発生したのかを判定することができる。マスク領域内でしか動かないオブジェクトは、有効オブジェクトではないと判定する。また、この判定処理において、マスク領域内で発生したオブジェクトであっても、領域外へ出て行ったオブジェクトは、有効オブジェクトであるという判定基準をさらに設けることも可能である。
【0069】
有効メタデータ生成部134は、有効オブジェクト判定部133にてオブジェクトが有効オブジェクトであると判定された旨の情報である動体のメタデータDmを生成する。このメタデータDmは、ネットワーク2を介してクライアント端末3に供給されてクライアント端末において、フィルタ処理によりこのアラートが発報される。または、オブジェクトを検知した監視カメラ自体が、このメタデータDmに基づいてこのアラートを発報するようにしてもよい。
【0070】
これにより、監視システム100が例えば侵入者を監視する場合には、従来よりも誤報を減らして動体であるオブジェクトを検知した旨のアラートを発報することができる。
【0071】
なお、有効オブジェクト判定部133が行う有効オブジェクトの判定基準は、上述のような有効オブジェクトの存在の有無だけでなく、例えばオブジェクトがある仮想ラインを通過したか否か、オブジェクトがある仮想のエリアに侵入したか否か等、オブジェクトの動きに基づく判定基準をさらに追加するようにしてもよい。
【0072】
従来のオブジェクト検知処理では、画像の輝度変化の情報だけでオブジェクト検知を行っていたため、反射光や影等、大きな輝度変化を生じる背景物が動体のオブジェクトとして誤検知されてしまうことが多かった。これに対し、上述のようなオブジェクト検知処理を行う監視システム100によれば、オブジェクトの発生位置を検知することにより、検知されたオブジェクトが動体として正確に検知される。
【0073】
次に、監視システム100におけるオブジェクト検知処理動作について図5のフローチャートを参照して説明する。なお、以下では監視カメラ1aがオブジェクトを検知する場合について説明するが、監視カメラ1a,1b,1cは、同一の構成であるため、監視カメラ1b又は監視カメラ1cがオブジェクトを検知した場合においてもこれと同様の処理工程でオブジェクト検知処理が行われる。
【0074】
ステップS1において、監視システム100は、オブジェクト検知処理動作を開始する。
【0075】
ステップS2において、クライアント端末3は、ユーザの操作に基づいてマスクの設定処理を行い、マスク設定信号を監視カメラ1aの撮像動作切替部12に供給する。
【0076】
ステップS3において、監視カメラ1aの撮像部112は、撮像動作切替部12の制御動作に基づいて、レンズ部111を介して例えば30fps、15fps等のフレーム単位で監視領域を撮影する。そして、撮像部112は、このフレーム単位の撮像信号Svを撮像信号処理部113に供給する。撮像部112は、この撮像信号Svを撮像信号処理部113に供給する。撮像信号処理部113は、撮像信号Svに対して上述した種々の信号処理を行って画像データDvを生成し、メタデータ生成部13に供給する。
【0077】
このステップS3において、撮像動作切替部12は、ステップS2にて設定されたマスク設定信号に基づく非検知領域のマスク設定処理を行う。そして、撮像動作切替部12は、設定したマスクのデータ(マスクデータ)をメタデータ生成部13が備える有効オブジェクト判定部133に供給する。
【0078】
なお、このマスク設定処理は、ユーザの操作に基づいて設定される場合に限られず、クライアント端末3又は監視カメラ1aにおいて、誤検知が多発する領域を統計的に算出し、その領域をマスク領域として設定するようにしてもよい。
【0079】
ステップS4において、監視カメラ1aのメタデータ生成部13が備えるオブジェクト検知部131は、撮像信号処理部113から画像データDvが供給されると、この画像において動体であるオブジェクトの検知処理を行う。
【0080】
このステップS4において、オブジェクト検知部131は、オブジェクトがあるか否かを判断する。このステップS4において、オブジェクト検知部131は、オブジェクトがあると判断した場合にはステップS5に進み、オブジェクトがないと判断した場合にはステップS3に戻る。
【0081】
ステップS5において、有効オブジェクト判定部133は、オブジェクト検知部131が検知したオブジェクトの位置がマスク領域内であるか否かを判断する。このステップS5において、オブジェクトの位置がマスク領域内である場合にはステップS6に進み、オブジェクトの位置がマスク領域外である場合にはステップS7に進む。
【0082】
ステップS6において、オブジェクト発生位置検知部132は、撮像されて記憶部(図示せず)に記憶されている全フレームの画像データDvからオブジェクトが発生した時点の画像フレームを特定し、その画像内でオブジェクトの発生位置を検知する。有効オブジェクト判定部133は、オブジェクト発生位置検知部132によって検知されたオブジェクトの発生位置がマスク領域内であるか否かを判断する。このステップS6において、オブジェクトの発生位置がマスク領域外である場合、すなわちマスク設定された非検知領域外にてオブジェクトが発生した場合には、ステップS7に進み、オブジェクトの発生位置がマスク領域内である場合にはステップS3に戻る。
【0083】
ステップS7において、有効メタデータ生成部134は、動体であるオブジェクトを検知した旨の情報であるメタデータDmを生成する。
【0084】
ステップS8において、生成されたメタデータDmは、クライアント端末3でフィルタ処理されてアラート情報が生成される。そして、クライアント端末3がこのアラート情報に基づいてアラート発報を行う。もしくは、このようなフィルタ処理及びアラート情報の生成は監視カメラ1a内でも行うことができる。その後、ステップS3に戻る。
【0085】
このように、監視システム100においては、オブジェクトの発生位置がマスク領域外であれば、そのオブジェクトは有効オブジェクトであると判定される。
【0086】
この図5のフローチャートに示す処理工程では、マスク領域内で発生したオブジェクトが、現在までマスク領域内にある間は、無効オブジェクトであると判断される。その後、オブジェクトの追跡が続けられ、この追跡を行っている間にオブジェクトがマスク領域外に出た場合には、この時点でオブジェクトは、有効オブジェクトであると判定される。この場合、有効オブジェクトであると判定された時点で、画像データを遡り、オブジェクトの発生時からそのオブジェクトが有効であったと認定することもできる。
【0087】
また、図5のフローチャートでは述べていないが、監視システム100では、オブジェクトの発生位置がマスク領域内であっても、現在のオブジェクトの位置がマスク領域外であれば、そのオブジェクトは、有効オブジェクトであると判定される。
【0088】
なお、本実施の形態における監視システム100における監視カメラ1a,1b,1cの構成は、上述のような固定式のカメラに限られず、例えば旋回可能な機構メカニズムを有するパンチルト式のカメラであってもよい。
【0089】
上述のような固定式のカメラでは、一度設定されると、画像の撮像範囲は常に一定である。このような固定式カメラの場合、常に一定の領域内でマスクが設定される。
【0090】
一方、監視カメラがパンチルト式のカメラである場合、旋回することにより広範囲に撮像することができる。これにより、ユーザは、広範囲に撮像されることにより生成されたパノラマ画像内でマスクを設定することができる。
【0091】
以下にパンチルト式である監視カメラの動作例について説明する。
【0092】
図6に示すように、パンチルト式である監視カメラ7は、円弧で示される仮想円筒面70で囲まれる領域を撮影するように旋回する。そして、監視カメラ7は、旋回して、例えば撮像視野A、撮像視野B、及び撮像視野Cに示す視野を有する画像を撮影する。このとき、監視カメラ7は、自身のパン及びチルトの値を記憶部(図示せず)に記憶させる。監視カメラ7は、記憶部に記憶されたパン、チルト値に基づいて撮影された各画像をカメラの回転中心を同じ中心とする仮想的な円筒面に投射することにより、仮想円筒面70上に1枚のパノラマ画像を作成する。この作成された画像を用いることにより、監視カメラが上述の固定式のカメラである場合と同様に、マスクを設定することができる。なお、ここでは、仮想円筒面70に投影するとしたが、球面に投影したり、メルカトル地図等のような展開した平面へ投影することも可能である。
【0093】
なお、監視カメラ7がパン、チルト値を記憶させることができない場合は、領域A、領域B、領域Cで撮影された画像の特徴量を、例えば、エッジ抽出、コーナー抽出により抽出して特徴点のマッチング処理を行い、1枚のパノラマ画像を作成するようにしてもよい。これは、監視カメラ7の回転中心が、画像の焦点に一致しない場合等に有効的である。
【0094】
また、本実施の形態では、監視カメラ7を回転させながら撮影された画像の一部をスリット上に抜き取り、その画像を監視カメラの回転に合わせて並べ直す等の方法をも用いることができる。
【0095】
また、本実施の形態では、ズーム式の監視カメラを用いることができる。ズーム式の監視カメラにおいては、例えば、レンズを介してワイド端で撮影した画像に基づいてマスクを設定することが可能である。
【0096】
次に、図1に示したクライアント端末3の詳細な構成を、図7の機能ブロック図を参照して説明する。ただし、クライアント端末3の各機能ブロックは、ハードウェアで構成するものとしてもよく、また、ソフトウェアで構成するものとしてもよい。
【0097】
クライアント端末3は、監視カメラ1a,1b,1cとのデータ伝送を行うネットワーク接続部301と、監視カメラ1a,1b,1cから画像データを取得する画像バッファ部302と、監視カメラ1a,1b,1cからメタデータを取得するメタデータバッファ部303と、フィルタ処理に応じたフィルタ設定を蓄積するフィルタ設定データベース(DB)307と、メタデータのフィルタ処理を行うフィルタ部としてのメタデータフィルタ部306と、監視カメラ1a,1b,1cに設定変更を通知するルール切替部308と、画像データを蓄積する画像データ蓄積データベース304と、メタデータを蓄積するメタデータ蓄積データベース305と、画像データやメタデータ等を表示する表示部311と、画像データを表示部311で再生させるための処理を行う画像データ処理部309と、メタデータを表示部311で再生させるための処理を行うメタデータ処理部310と、メタデータと画像データとの再生を同期させる再生同期部312とを備える。
【0098】
画像バッファ部302は、監視カメラ1a,1bから画像データDtを取得し、符号化されている画像データDtの復号化処理を行う。そして、画像バッファ部302は、得られた画像データを画像バッファ部302に設けられている図示しないバッファに保持する。さらに、画像バッファ部302は、図示しないバッファに保持している画像データを順次、画像を表示する表示部311に供給する処理も行う。このように、図示しないバッファに画像データを保持することにより、監視カメラ1a,1b,1cから送信される画像データの受信タイミングによらずに、表示部311に対して順次画像データを供給することができる。また、画像バッファ部302は、後述するルール切替部308から供給される録画要求信号に基づいて、保持している画像データを画像データ蓄積データベース304に蓄積させる。なお、画像データ蓄積データベース304には、符号化されている画像データを蓄積させるようにし、後述する画像データ処理部309で復号化を行うようにしてもよい。
【0099】
メタデータバッファ部303は、メタデータバッファ部303に設けられている図示しないバッファに、監視カメラ1a,1b,1cから取得したメタデータDmを保持する。また、メタデータバッファ部303は、保持しているメタデータDmを後述するメタデータフィルタ部306に供給する処理も行う。このように、図示しないバッファがメタデータを保持することにより、監視カメラ1a,1b,1cからのメタデータDmの受信タイミングによらずに、表示部311に対して順次メタデータを供給することができる。
【0100】
さらに、メタデータバッファ部303は、監視カメラ1a,1b,1cから取得したメタデータDmをメタデータ蓄積データベース305に蓄積する際に、メタデータと同期する画像データの時刻情報を付加しておく。これにより、メタデータDmの内容を読み出して時刻を判別しなくとも、付加されている時刻情報を利用して所望の時刻のメタデータDmをメタデータ蓄積データベース305から読み出すことが可能となる。
【0101】
フィルタ設定データベース307は、後述するメタデータフィルタ部306で行うフィルタ処理に応じたフィルタ設定を蓄積するとともに、フィルタ設定をメタデータフィルタ部306に供給する。このフィルタ設定とは、アラーム情報等の出力や、監視カメラ1a,1b,1cの撮像動作の切替を行う必要があるか否かの判断基準等をメタデータに含まれている監視対象に関する情報ごとに示す設定である。このフィルタ設定を用いてメタデータのフィルタ処理を行うことにより、オブジェクトに関する情報ごとにフィルタ処理結果を示すことができる。フィルタ処理結果によっては、アラーム情報等の出力を行う必要があることや、監視カメラ1a,1b,1cの撮像動作の切り替えが必要であることが示される。
【0102】
メタデータフィルタ部306は、フィルタ設定データベース307に蓄積されているフィルタ設定を用いてメタデータのフィルタ処理を行い、アラートを発報させるかどうかを判断する。そして、メタデータフィルタ部306は、メタデータバッファ部303で取得したメタデータ、又は、メタデータ蓄積データベース305から供給されたメタデータのフィルタ処理を行い、フィルタ処理結果をルール切替部308に通知する。
【0103】
ルール切替部308は、メタデータフィルタ部306から通知されたフィルタ処理結果に基づいて、切替指示信号を生成し、監視カメラ1a,1b,1cに撮像方向切替等の変更を通知する。例えば、メタデータフィルタ部306から得られたフィルタ処理結果に基づき、監視に適した監視画像が得られるように監視カメラ1a,1b,1cの動作を切り替える指令を出力する。また、ルール切替部308は、フィルタ処理結果に基づいて画像データ蓄積データベース304に録画要求信号を供給し、画像バッファ部302で取得した画像データを画像データ蓄積データベース304に蓄積させる。
【0104】
画像データ蓄積データベース304は、画像バッファ部302で取得された画像データを蓄積する。メタデータ蓄積データベース305は、メタデータバッファ部303で取得されたメタデータDmを蓄積する。
【0105】
画像データ処理部309は、画像データ蓄積データベース304に蓄積されている画像データを表示部311に表示させるための処理を行う。すなわち、画像データ処理部309は、ユーザによって指示された再生位置から順次画像データを読み出して、読み出した画像データを表示部311に供給する。また、画像データ処理部309は、再生している画像データの再生位置(再生時刻)を再生同期部312に供給する。
【0106】
メタデータDmと画像データとの再生を同期させる再生同期部312は、画像データ処理部309から供給された再生位置と、メタデータ処理部310で、メタデータ蓄積データベース305に蓄積されているメタデータを再生するときの再生位置が同期するように、同期制御信号をメタデータ処理部310に供給して、メタデータ処理部310の動作を制御する。
【0107】
メタデータ処理部310は、メタデータ蓄積データベース305に蓄積されているメタデータDmを表示部311に表示させるための処理を行う。すなわち、メタデータ処理部310は、ユーザによって指示された再生位置から順次メタデータDmを読み出して、読み出したメタデータDmを表示部311に供給する。また、画像データとメタデータDmとの双方を再生する場合、メタデータ処理部310は、上述したように、再生同期部312から供給された同期制御信号に基づいて再生動作を制御して、画像データに同期したメタデータDmを表示部311に出力する。
【0108】
表示部311は、画像バッファ部302から供給されたライブ(生)の画像データや画像データ処理部309から供給された再生画像データ、メタデータバッファ部303から供給されたライブのメタデータDmやメタデータ処理部310から供給された再生メタデータを表示する。また、表示部311は、メタデータフィルタ部306からのフィルタ設定に基づいて、監視画像やメタデータの画像やフィルタ設定の画像のいずれか、又は、これらを合成した画像を用いて、フィルタ処理結果に基づく監視結果を示す画像を表示(出力)する。
【0109】
また、表示部311は、グラフィカルユーザインターフェース(GUI:Graphical User Interface)としても機能する。ユーザは、図示しない操作キーや、マウス、リモートコントローラ等を用いて表示部311に表示されたフィルタ設定メニュー等を選択することによりフィルタを定義したり、各処理部の情報やアラート情報の解析結果等をGUI表示することができる。
【0110】
このような本実施の形態における監視システム100によれば、環境変化が起こりやすい屋外において動体であるオブジェクトを正確に検知することができる。
【0111】
すなわち、屋外においては、標識、看板、縁石等の背景物において、太陽光や車のライト等により、昼夜問わず、反射光や影を生じさせる。従来の動体検知処理においては固定マスクを設定することが主であった。ユーザは、オブジェクトの誤検知を避けるために背景物に多くの固定マスクを設定していた。このため、本来検知されるべき動体であるオブジェクトを検知することができず、監視システム上重大な問題であるアラートの失報となる場合が多かった。これに対し、本実施の形態における監視システム100によれば、上述のようなオブジェクト発生位置の検知処理を行うことにより、アラートの失報を軽減することができる。
【0112】
なお、本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
【0113】
例えば、本実施の形態における監視システムは、図8に示すように、上述の監視システム1の構成にサーバ4をさらに備えてクライアント機能を分割した構成としてもよい。すなわち、図8に示すように、本実施の形態における監視システム200は、サーバ4を備えて図1の例と同様の機能、効果を得ることができる。この図8に示す監視システム200は、サーバ4が、上述のようなクライアント端末3と同様の構成を備え、監視カメラ1a,1b,1cから出力されたデータをネットワーク2を介して取得し、クライアント端末3にデータを供給するシステムである。このような監視システム200によれば、サーバ機能とクライアント機能とを分割することにより、処理性能が高いサーバ4で大量にデータを処理し、処理性能が低いクライアント端末3が専ら処理結果を閲覧するといった使い分けが可能となる。このように、監視システム200は、サーバを介して機能を分散することで、より柔軟性に富んだ監視システムとすることができる。
【0114】
また、本実施の形態における監視システムが備える監視カメラ、クライアント端末、サーバの台数及びこれらの構成は、上述の例に限られないことは勿論である。
【0115】
また、上述した実施の形態では、監視カメラ1a,1b,1cが、クライアント端末3又はサーバ4にメタデータを送信し、クライアント端末3又はサーバ4がこのメタデータDmを生成する場合について説明したが、これに限らず、監視カメラ1a、1b、1c内にメタデータ処理部を有し、アラート情報を生成、出力するようにしてもよい。
【図面の簡単な説明】
【0116】
【図1】本実施の形態における監視システムの構成例を示す図である。
【図2】本実施の形態における監視システムが備える監視カメラの構成を示す機能ブロック図である。
【図3】本実施の形態における監視システムが非検知対象である背景物にマスク領域を設定した場合のオブジェクト検知の様子を示す図である。
【図4】メタデータ生成部の構成を示す図である。
【図5】本実施の形態における監視システムのオブジェクト検知処理動作を説明するためのフローチャートである。
【図6】本実施の形態における監視システムが備えるパンチルト式の監視カメラが旋回する様子を示す図である。
【図7】クライアント端末の詳細な構成を示す機能ブロック図である。
【図8】本実施の形態における監視システムの他の構成例を示す図である。
【図9】従来の監視システムにおける動体検知の様子を示す図である。
【図10】太陽光が照射された標識のポール表面上の一部領域において太陽光が反射し、大きな輝度変化を生じさせる様子を示す図である。
【図11】背景物の太陽光が照射される側をオブジェクトである人が通過する様子を示す図である。
【図12】夜間におけるオブジェクトの誤検知を説明するための図である。
【図13】従来の監視システムにおけるマスク設定処理を説明するための図である。
【図14】従来の監視システムにおけるオブジェクト検知の様子を示す図である。
【符号の説明】
【0117】
1a,1b,1c,7 監視カメラ、2 ネットワーク、3 クライアント端末、4 サーバ、11 画像データ生成部、12 撮像動作切替部、13 メタデータ生成部
【技術分野】
【0001】
本発明は、入力画像を解析して監視結果を出力する画像処理システム及び画像処理方法、並びに、プログラムに関する。
【背景技術】
【0002】
従来より、監視カメラにて所定領域を撮影した画像を解析し、人や車等の動体を検知することにより監視を行う画像処理システム(以下、監視システムという。)がある。
【0003】
図9は、このような監視システムにおける動体検知の様子を示す図である。監視カメラ(図示せず)が、手前から、動体である人51、及びこの人51の背後に位置する背景物である標識52を撮影する。人51は、監視対象となるオブジェクトとして動体検知枠53に捉えられる。このような動体検知処理では、例えば、画像中の各画素値の時間的変化を算出し、各画素値の差異が所定値以上であった場合に画像中に動体があると判断するといったアルゴリズムを適用することができる(特許文献1参照。)。
【0004】
この図9に示すように、オブジェクトである人51は、標識52の手前を通過している。標識52は、静止しているため時間的変化を生じることがなく、人51のみが監視カメラによって動体検知枠53内に捉えられて検知される。
【0005】
なお、この例において、動体としては人51に限られず、例えば車や自転車等であってもよく、背景物52としては、例えば家や樹木等であってもよい。
【0006】
ところで、図10に示すように、標識52を構成するポール521に太陽光が照射された場合、ポール521表面上の領域522において太陽光が反射し、大きな輝度変化を生じさせる。これは、標識52のように、背景物が例えば金属製の倉庫の壁面や縁石等の光の反射を生じさせる表面を有する物体であれば同様の現象が生じる。標識52は、移動しないにも拘らず、輝度変化が大きいため、動体検知アルゴリズムにおいては監視カメラを介してこのような光反射がオブジェクトとして誤検知されてしまう。
【0007】
また、図11は、標識52の太陽光が照射される側を人51が通過する様子を示す図である。この図11に示すように、人51によって太陽光が遮断されると、ポール521表面の領域522の一部に影523ができる。この場合、ポール521の表面の輝度は、大きく変化する。人51は、監視カメラと標識52との間を通過していないにも拘らず、輝度変化が大きいため、動体検知アルゴリズムにおいては監視カメラを介してこのような影がオブジェクトとして誤検知されてしまう。
【0008】
このような誤検知は、夜間においても生じることがある。通常、夜間においては、図12(A)に示すように、標識52のポール521表面からは光を生じない。しかしながら、図12(B)に示すように、ポール521に対し、車のライト等の何らかの光が照射されるとポール521表面の例えば領域524にて反射されて反射光を生じる。このような場合においても、人51などの動体が監視カメラと標識52との間を通過しないにも拘らず、輝度変化が大きいため、動体検知アルゴリズムにおいては監視カメラを介して反射光がオブジェクトとして誤検知されてしまう。
【0009】
そこで、従来の動体検知アルゴリズムにおいては、例えば、図13に示すように、標識52のポール521の位置に非検知領域としてマスク領域54を設定し、このマスク領域54では画像処理を行わないようにする処理が行われている。これにより、ポール521表面上での誤検知を防ぐことができる。
【0010】
【特許文献1】特開2006−107457号公報
【特許文献2】特許第3997062号公報
【発明の開示】
【発明が解決しようとする課題】
【0011】
しかしながら、このようなマスク領域の設定処理を行った場合、例えば図14に示すように、人51は、マスク領域54では検知されず、動体検知枠53に示すように非検知領域外でしか検知されない。
【0012】
本発明は、このような従来の実情に鑑みて提案されたものであり、マスク領域が設定された画像において動体であるオブジェクトを正確に検出することができる画像処理システム及び画像処理方法、並びに、プログラムを提供することを目的とする。
【課題を解決するための手段】
【0013】
上述した目的を達成するために、本発明は、所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知部と、上記オブジェクト検知部によって検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知部と、上記オブジェクト検知部によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定部とを備える画像処理システムである。
【0014】
また、上述した目的を達成するために、本発明は、所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知工程と、上記オブジェクト検知工程にて検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知工程と、上記オブジェクト検知工程によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定工程とを有する画像処理方法である。
【0015】
また、上述した目的を達成するために、本発明は、所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知工程と、上記オブジェクト検知工程にて検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知工程と、上記オブジェクト検知工程によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定工程とをコンピュータに実行させるためのプログラムである。
【発明の効果】
【0016】
本発明によれば、環境変化が生じやすい屋外であっても、監視カメラを用いて侵入者等を監視する際に、動体であるオブジェクトを正確に検知することができ、さらにはアラートの失報を軽減することができる。
【発明を実施するための最良の形態】
【0017】
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
【0018】
図1は、本発明を適用した実施の形態における監視システムの構成例を示す図である。図1に示す監視システム100において、クライアント端末3は、1台又は複数台の監視カメラから出力されたデータをネットワークを介して取得する。
【0019】
監視システム100は、3台の監視カメラである監視カメラ1a,1b,1cがネットワーク2を介してクライアント端末3と接続されて構成される。このクライアント端末3は、図1に示すようにパーソナルコンピュータ等、表示部を備えた情報処理装置であれば何れのものでもよい。
【0020】
監視カメラ1a,1b,1cは、それぞれ指定された監視領域において監視対象物である動体をフレーム単位で撮影して画像データを生成するとともに、このフレーム毎の画像データからメタデータを生成する。本実施の形態において、監視対象となるオブジェクトとしては、人物、車、自転車、動物等、種々の動体を挙げることができる。
【0021】
クライアント端末3は、ネットワーク2を介して監視カメラ1a,1b,1cより画像データ及びメタデータを取得すると、この画像データに基づく画像を表示部311に表示する。また、クライアント端末3は、この画像データ及びメタデータを記憶部(図示せず)に記憶させるとともにメタデータの解析を行い、その結果を出力する。
【0022】
クライアント端末3が、ネットワーク2を介して監視カメラ1a,1b,1cより取得したメタデータは、メタデータフィルタ(以下、「フィルタ」という。)を介して解析される。フィルタ処理結果の内容によっては、クライアント端末3は、監視に適した監視画像が取得される監視カメラ1a,1b,1cの動作を制御するために、監視カメラ1a,1b,1cに対して切替指示信号を供給する。
【0023】
ここで、監視カメラ内で生成されるメタデータについて説明する。メタデータとは、監視カメラの撮像部で撮像された画像の画像データの属性情報のことであり、例えば下記のようなものがある。
・オブジェクト情報(監視カメラでオブジェクトを検知した場合のオブジェクトの位置、動きベクトル、ID、座標、サイズ等の情報)
・撮像時刻データ、監視カメラの向き情報(パン、チルト等)
・監視カメラの位置情報
・撮像された画像の署名情報
【0024】
オブジェクト情報とは、メタデータ内にバイナリデータとして記載された情報を、構造体等の意味のあるデータ構造に展開した情報のことである。
【0025】
メタデータフィルタとは、オブジェクト情報からアラート情報を生成する場合の判断条件のことであり、アラート情報とは、メタデータから展開したオブジェクト情報を元にフィルタ処理をかけた後の情報のことである。アラート情報は、複数フレームのメタデータを解析し、動体の位置の変化から速度を割り出したり、動体がある線を越えたか否かの確認をしたり、又は、これらを複合的に解析することによって得られる。
【0026】
クライアント端末3におけるフィルタの種類としては、例えば以下の7種類があり、このうち任意のフィルタの種類を選択することができる。
【0027】
Appearance(存在):オブジェクトがある領域内に存在するか否かを判断するためのフィルタ
【0028】
Disappearance(消失):物体がある領域に現れ、領域から出たか否かを判断するためのフィルタ
【0029】
Passing(通過):ある境界線を物体が超えたか否かを判断するためのフィルタ
【0030】
Capacity(物体数制限):ある領域内の物体の数をカウントし、その累積数が所定値を超えたか否かを判断するためのフィルタ
【0031】
Loitering(滞留):所定の時間を越えて、ある領域内に滞留しているか否かを判別するためのフィルタ
【0032】
Unattended(置き去り):所定の時間を越えて、ある領域内に侵入し動かない物体が存在するか否かを判別するためのフィルタ
【0033】
Removed(持ち去り):ある領域内に存在した物体が取り除かれたことを検出するためのフィルタ
【0034】
アラート情報に含まれるデータとしては、例えば、上述したフィルタのうちの“Capacity”等、検知されたオブジェクトの累計値を用いるフィルタを通して生成された“累積オブジェクト数”や、フィルタの条件に合致したオブジェクトの数である“オブジェクト数”、特定のフレーム内においてフィルタの条件に合致したオブジェクト数、フィルタの条件に合致したオブジェクトの属性情報(オブジェクトのID、X座標、Y座標、サイズ)等がある。アラート情報には、このように画像内の員数(人数)や、それらの統計が含まれ、レポート機能としても使用できる。
【0035】
なお、本実施の形態では、このように、クライアント端末3が監視カメラ1a,1b,1cから送信されたメタデータに基づいて上述のようなアラート情報を生成している。近年、演算処理デバイスの小型化、省電力化等の条件により、カメラ上においても、従来クライアント端末で行っていたような処理を行うことが可能になってきており、監視カメラ1a,1b,1c内で、所定の条件(フィルタ)に基づいて、アラート情報を生成することも可能になっている。
【0036】
次に、監視カメラ1a,1b,1cの詳細な構成について説明する。図2は、監視カメラ1aの構成を示す機能ブロック図である。ここで、監視カメラ1a,1b,1cは、同一の構成であるため、監視カメラ1b,1cの構成については説明を省略する。
【0037】
監視カメラ1aは、画像データ生成部11と、撮像動作切替部12と、メタデータ生成部13とを備えて構成される。
【0038】
画像データ生成部11は、レンズ部111と、撮像部112と、撮像信号処理部113と、データ処理部114とを備える。
【0039】
撮像部112は、レンズ部111を通してフレーム単位で撮影し、撮像素子(図示せず)に結像された撮像光を光電変換してフレーム単位の撮像信号Svを生成する。
【0040】
撮像部112は、例えば図示しないプリアンプ部及びA/D(Analog to Digital)変換部を備え、プリアンプ部では、撮像信号Svの電気信号レベルの増幅や、相関二重サンプリングによるリセット雑音の除去を行い、A/D変換部では撮像信号Svをアナログ信号からデジタル信号に変換する。
【0041】
また、撮像部112は、供給されたフレーム単位の撮像信号Svのゲイン調整や黒レベルの安定化、ダイナミックレンジの調整等も行う。その後、撮像信号Svは、撮像信号処理部113に供給される。
【0042】
撮像信号処理部113は、撮像部112から供給された撮像信号Svに対して種々の信号処理を行い、画像データDvを生成する。例えば、撮像信号Svのあるレベル以上を圧縮するニー補正、撮像信号Svのレベルを設定されたγカーブに従って補正するγ補正、撮像信号Svの信号レベルが所定範囲となるように制限するホワイトクリップ処理やブラッククリップ処理等を行う。そして、撮像信号処理部113は、画像データDvをデータ処理部114及びメタデータ生成部13に供給するとともにこの画像データDvを記憶部(図示せず)に記憶させる。
【0043】
データ処理部114は、クライアント端末3等と通信を行う際のデータ量を少なくするために、画像データDvに対して符号化処理を行い、画像データDtを生成する。さらに、データ処理部114は、生成した画像データDtを所定のデータ構造としてクライアント端末3に供給する。監視システム100では、動体であるオブジェクトを検知する処理を行う。このため、オブジェクトを含む画像は、他のオブジェクトを含まない画像よりも重要度が高い。そこで、データ処理部114は、この符号化処理において、このオブジェクトを含む画像の画像データDvに対しては圧縮率を上げ、オブジェクトを含まない画像の画像データDvに対しては圧縮率を下げるようにしてもよい。これにより、オブジェクトを含む画像を高精度に再生することができる。
【0044】
撮像動作切替部12は、クライアント端末3から入力される切替指示信号CAに基づいて最適な撮像画像が得られるようにレンズ部111、撮像部112、撮像信号処理部113、データ処理部を制御し、監視カメラ1の動作切り替えを行う。撮像動作切替部12は、例えば、撮像部の撮像方向の切り替えを行う他、レンズ部111に制御信号CMaを供給してズーム比やアイリスの切り替えを行わせたり、撮像部112と撮像信号処理部113とに制御信号CMbを供給して撮像画像のフレームレートの切り替えを行わせたり、さらにはデータ処理部114に制御信号CMcを供給して画像データの圧縮率の切り替えを行わせる等の処理を行う。
【0045】
また、撮像動作切替部12は、メタデータ生成部13に、撮像動作信号QF(例えば監視対象であるオブジェクトを撮像したときの撮像方向やズーム状態、画像データ生成部の設定情報等)を供給してメタデータ生成部13を制御する。
【0046】
メタデータ生成部13は、オブジェクトに関する情報を含むメタデータDmを生成する。本実施の形態のように、動体を監視対象物であるオブジェクトとする場合であれば、画像データ生成部11で生成された画像データDtを用いて動体であるオブジェクトを検知し、オブジェクトが検知されているか否かを示すオブジェクト検知情報や、検知したオブジェクトの位置を示すオブジェクト位置情報を生成し、これをオブジェクト情報としてメタデータDmに含める。このとき、検知されたオブジェクトには、それぞれに一意のIDが割り振られる。
【0047】
なお、メタデータDmに含まれる監視対象に関する情報は、オブジェクトに関連した情報に限られるものではなく、監視カメラで監視する領域の状態を示す情報であってもよい。例えば、監視する領域の温度や明るさ等の情報であってもよい。あるいは、監視する領域内で行われた操作等の情報であってもよい。温度を監視対象とする場合には、温度測定結果をメタデータDmに含め、明るさを監視対象とする場合には、メタデータ生成部13は、画像データDvに基づいて、例えば監視画像の平均輝度を判別し、この判別結果をメタデータDmに含めるようにすればよい。
【0048】
さらに、ATM(Automated Teller Machine)やPOS(Point Of Sales)端末等を対象としてユーザが行った操作を監視対象とする場合には、操作キーや操作パネル等を通して行われたユーザ操作をメタデータDmに含めるようにすればよい。
【0049】
また、メタデータ生成部13は、撮像動作切替部12から供給された撮像動作信号QF(例えば監視対象を撮像したときの撮像方向やズーム状態、画像データ生成部の設定情報等)や、時刻情報等をメタデータDmに含めることにより、メタデータDmが生成された時刻や状況を記録して残すことができる。
【0050】
ここで、画像データDtとメタデータDmの構成について説明する。画像データDtとメタデータDmは、それぞれデータ本体とリンク情報とで構成されている。データ本体は、画像データDtの場合、監視カメラ1a,1bが撮影した監視画像の画像データである。また、メタデータDmの場合、監視対象であるオブジェクトを示す情報等と、この情報の記述方式を定義した属性情報を記述したものである。一方、リンク情報とは、画像データDtとメタデータDmとの関連付けを示す関連付け情報と、この情報の内容の記述方式を定義した属性情報等を記述したものである。
【0051】
関連付け情報としては、例えば、画像データDtを特定するためのタイムスタンプやシーケンス番号を使用する。タイムスタンプとは、画像データDtの生成時刻を与える情報(時刻情報)であり、シーケンス番号とは、コンテンツデータの生成順序を与える情報(順序情報)である。タイムスタンプの等しい監視画像が複数存在するような場合、タイムスタンプの等しい画像データDtの生成順序を識別することができる。また、関連付け情報には、画像データDtを生成する機器を特定するための情報(例えば製造会社名や機種名、製造番号等)を使用するものとしてもよい。
【0052】
リンク情報やメタデータ本体の記述には、ウェブ(WWW:World Wide Web)上で交換される情報を記述するために定義されたマークアップ言語を用いるものとする。マークアップ言語を用いると、ネットワーク2を介した情報の交換を容易に行うことができ、さらに、マークアップ言語として、例えば文書や電子データの交換に利用されているXML(Extensible Markup Language)を用いることで、画像データとメタデータの交換も容易に行うことができる。XMLを用いるとした場合、情報の記述方式を定義した属性情報は、例えばXMLスキーマを使用する。
【0053】
監視カメラ1a,1b,1cで生成した画像データDtやメタデータDmは、1つのストリームとしてクライアント端末3に供給するものとしてもよく、画像データDtとメタデータDmとを別のストリームで非同期にクライアント端末3に供給するものとしてもよい。
【0054】
従来のオブジェクト検知処理においては、非検知対象の領域内での誤検知を防止するために、非検知対象に対してマスク領域を設定し、このマスク領域では画像処理を行わないようにする。しかしながら、このような従来のオブジェクト検知処理では、動体は、マスク領域内に存在する場合には検知されなくなる。
【0055】
そこで、本実施の形態における監視システム100は、オブジェクトがマスク領域内に侵入した場合であっても検知されるようにするオブジェクト検知処理を行う。
【0056】
このオブジェクト検知処理では、例えば図3に示すように、標識62のポール621の位置に非検知領域であるマスク領域64を設定した場合に、オブジェクトである人61がマスク領域64外からこのマスク領域64内に侵入してもこのマスク領域64内で検知されるようにする。すなわち、人61は、動体検知枠63にて捉えられて検知される。
【0057】
図4は、メタデータ生成部13の構成を示す図である。メタデータ生成部13は、オブジェクト検知部131と、オブジェクト発生位置検知部132と、有効オブジェクト判定部133と、有効メタデータ生成部134とを備えてこのような動体検知処理を行う。
【0058】
メタデータ生成部13は、オブジェクトに関する情報を含むメタデータDmを生成する。メタデータ生成部13は、画像データ生成部11で生成された画像データDtを用いて動体であるオブジェクトを検知し、オブジェクトが検知されているか否かを示すオブジェクト検知情報や、検知したオブジェクトの発生位置を示す発生位置情報を生成し、これをオブジェクト情報としてメタデータDmに含める。この際、検知されたオブジェクトは、それぞれに固有のIDが割り当てられて記憶部(図示せず)に記憶される。
【0059】
監視システム100では、メタデータ生成部13が動体検知処理を行う前に、予めクライアント端末3において、ユーザの操作に基づき、オブジェクトの検知処理にて処理を除外する可能性のある箇所に対して非検知領域としてマスクを設定する。そして、クライアント端末3から、マスク設定情報であるマスク設定信号がネットワーク2を介して監視カメラ1a,1b,1cに供給される。
【0060】
オブジェクト検知部131には、撮像信号処理部113から、例えば人61等の動体であるオブジェクトの画像データDvが供給される。撮像システム100では、撮像部112がフレーム毎に画像を撮影する。そして、撮像信号処理部113は、撮像部112にて取得されたフレーム単位の撮像信号Svに対し、画像処理を行う。オブジェクト検知部131には、フレーム毎の画像データDvが供給される。オブジェクト検知部131は、撮像信号処理部113より供給された画像データDvを画像処理してオブジェクトを取得する。オブジェクト検知部131は、オブジェクトを検知したか否かを示すオブジェクト検知情報をメタデータDmとする。また、オブジェクト検知部131は、検知したオブジェクトにオブジェクト固有のIDを割り当てる。オブジェクト検知部131は、このオブジェクト検知情報をオブジェクト情報としてメタデータDmに含め、このメタデータDmを記憶部(図示せず)に記憶させる。また、オブジェクト検知部131は、このメタデータDmをクライアント端末3に送信する。
【0061】
撮像信号処理部113が行うオブジェクトの検知処理においては、例えば特許文献1に記載の動体検知アルゴリズムを適用することができる。オブジェクトの画像は、複数取得されることもあるが、この場合も同様のアルゴリズムが適用される。この特許文献1に記載のアルゴリズムにおいては、フレーム単位の画像において時間的な輝度変化を検出し、輝度の変化がある領域を動体であるオブジェクトとする。ただし、ここで得られたオブジェクトは、誤検知された無効オブジェクトをも含む。ここで、後述の有効オブジェクトとは、監視対象であって、検知された場合にフィルタの条件に適合すればアラートを発報する必要のあるオブジェクトである。無効オブジェクトとは、監視対象ではなく検知してもアラートを発報する必要のないオブジェクトである。このような無効オブジェクトは、有効オブジェクト判定部133が行う後述の処理により取り除かれる。
【0062】
監視カメラ1aでは、輝度変化に基づいて検知されたオブジェクトを、オブジェクトの発生後から追跡するための処理を行う。これにより、マスク領域とオブジェクト発生位置との関係を特定することができる。具体的に説明すると、オブジェクト発生位置検知部132は、撮像されて記憶部(図示せず)に記憶されている全フレームの画像データDvからオブジェクトが発生した時点の画像フレームを特定する。オブジェクト発生位置検知部132は、このフレーム画像からオブジェクトの発生位置を検知し、オブジェクト発生位置情報を生成する。そして、オブジェクト発生位置検知部132は、このオブジェクト発生位置情報をオブジェクト情報としてメタデータDmに含め、このメタデータDmを記憶部(図示せず)に記憶させる。また、オブジェクト発生位置検知部132は、このメタデータDmをクライアント端末3に送信する。
【0063】
オブジェクト発生位置検知部132が行うオブジェクト発生位置の検知方法としては、例えば特開2007−334631号公報に記載されている物体領域追跡方法を適用することができる。この物体領域追跡方法は、重なりや隠れによって物体領域が一時的に消滅した場合であっても、物体領域に対応付けられた識別情報の継続が可能であり、高性能に物体追跡をすることができるものである。
【0064】
なお、オブジェクト発生位置検知部132は、マスク領域内で輝度変化によりオブジェクトが検知された場合には、オブジェクト周囲の画像に対して動きベクトルを算出し、オブジェクトが1フレーム前の画像中の何れの位置にあったのかを算出する処理を行うようにしてもよい。この場合、後述の有効オブジェクト判定部133は、ベクトル算出処理により得られた動きベクトルに基づき、1フレーム前の画像中でマスク領域外にあったオブジェクトをマスク領域内で発生したものではなく有効オブジェクトであると判定する。また、マスク領域内の画像にて輝度変化があったにも拘らず動きベクトルが算出されない場合には、検知されているオブジェクトは、反射光又は影であり、誤検知であると判定する。
【0065】
さらには、このような処理を組み合わせて行うことにより、オブジェクト判定の精度を向上させることが可能である。
【0066】
有効オブジェクト判定部133は、全フレームの画像データにおいて現在までに既にオブジェクト検知部131によって検知されている全てのオブジェクト(無効オブジェクトも含む。)の内、マスク領域内に存在するオブジェクトがこのマスク領域内で発生したか、又は、マスク領域外で発生したかを判断する。すなわち、有効オブジェクト判定部133は、オブジェクト発生位置検知部132によって検知された、マスク領域内に存在するオブジェクトの発生位置がマスク領域内であるか否かを判断する。
【0067】
有効オブジェクト判定部133は、このオブジェクトがマスク領域外で発生した場合には、そのオブジェクトを有効オブジェクトと判定し、このオブジェクトがマスク領域内で発生した場合には、そのオブジェクトを無効オブジェクトと判定する。
【0068】
このような処理により、オブジェクトがマスク領域外からマスク領域内へ進入したのか、マスク領域内でオブジェクトが発生したのかを判定することができる。マスク領域内でしか動かないオブジェクトは、有効オブジェクトではないと判定する。また、この判定処理において、マスク領域内で発生したオブジェクトであっても、領域外へ出て行ったオブジェクトは、有効オブジェクトであるという判定基準をさらに設けることも可能である。
【0069】
有効メタデータ生成部134は、有効オブジェクト判定部133にてオブジェクトが有効オブジェクトであると判定された旨の情報である動体のメタデータDmを生成する。このメタデータDmは、ネットワーク2を介してクライアント端末3に供給されてクライアント端末において、フィルタ処理によりこのアラートが発報される。または、オブジェクトを検知した監視カメラ自体が、このメタデータDmに基づいてこのアラートを発報するようにしてもよい。
【0070】
これにより、監視システム100が例えば侵入者を監視する場合には、従来よりも誤報を減らして動体であるオブジェクトを検知した旨のアラートを発報することができる。
【0071】
なお、有効オブジェクト判定部133が行う有効オブジェクトの判定基準は、上述のような有効オブジェクトの存在の有無だけでなく、例えばオブジェクトがある仮想ラインを通過したか否か、オブジェクトがある仮想のエリアに侵入したか否か等、オブジェクトの動きに基づく判定基準をさらに追加するようにしてもよい。
【0072】
従来のオブジェクト検知処理では、画像の輝度変化の情報だけでオブジェクト検知を行っていたため、反射光や影等、大きな輝度変化を生じる背景物が動体のオブジェクトとして誤検知されてしまうことが多かった。これに対し、上述のようなオブジェクト検知処理を行う監視システム100によれば、オブジェクトの発生位置を検知することにより、検知されたオブジェクトが動体として正確に検知される。
【0073】
次に、監視システム100におけるオブジェクト検知処理動作について図5のフローチャートを参照して説明する。なお、以下では監視カメラ1aがオブジェクトを検知する場合について説明するが、監視カメラ1a,1b,1cは、同一の構成であるため、監視カメラ1b又は監視カメラ1cがオブジェクトを検知した場合においてもこれと同様の処理工程でオブジェクト検知処理が行われる。
【0074】
ステップS1において、監視システム100は、オブジェクト検知処理動作を開始する。
【0075】
ステップS2において、クライアント端末3は、ユーザの操作に基づいてマスクの設定処理を行い、マスク設定信号を監視カメラ1aの撮像動作切替部12に供給する。
【0076】
ステップS3において、監視カメラ1aの撮像部112は、撮像動作切替部12の制御動作に基づいて、レンズ部111を介して例えば30fps、15fps等のフレーム単位で監視領域を撮影する。そして、撮像部112は、このフレーム単位の撮像信号Svを撮像信号処理部113に供給する。撮像部112は、この撮像信号Svを撮像信号処理部113に供給する。撮像信号処理部113は、撮像信号Svに対して上述した種々の信号処理を行って画像データDvを生成し、メタデータ生成部13に供給する。
【0077】
このステップS3において、撮像動作切替部12は、ステップS2にて設定されたマスク設定信号に基づく非検知領域のマスク設定処理を行う。そして、撮像動作切替部12は、設定したマスクのデータ(マスクデータ)をメタデータ生成部13が備える有効オブジェクト判定部133に供給する。
【0078】
なお、このマスク設定処理は、ユーザの操作に基づいて設定される場合に限られず、クライアント端末3又は監視カメラ1aにおいて、誤検知が多発する領域を統計的に算出し、その領域をマスク領域として設定するようにしてもよい。
【0079】
ステップS4において、監視カメラ1aのメタデータ生成部13が備えるオブジェクト検知部131は、撮像信号処理部113から画像データDvが供給されると、この画像において動体であるオブジェクトの検知処理を行う。
【0080】
このステップS4において、オブジェクト検知部131は、オブジェクトがあるか否かを判断する。このステップS4において、オブジェクト検知部131は、オブジェクトがあると判断した場合にはステップS5に進み、オブジェクトがないと判断した場合にはステップS3に戻る。
【0081】
ステップS5において、有効オブジェクト判定部133は、オブジェクト検知部131が検知したオブジェクトの位置がマスク領域内であるか否かを判断する。このステップS5において、オブジェクトの位置がマスク領域内である場合にはステップS6に進み、オブジェクトの位置がマスク領域外である場合にはステップS7に進む。
【0082】
ステップS6において、オブジェクト発生位置検知部132は、撮像されて記憶部(図示せず)に記憶されている全フレームの画像データDvからオブジェクトが発生した時点の画像フレームを特定し、その画像内でオブジェクトの発生位置を検知する。有効オブジェクト判定部133は、オブジェクト発生位置検知部132によって検知されたオブジェクトの発生位置がマスク領域内であるか否かを判断する。このステップS6において、オブジェクトの発生位置がマスク領域外である場合、すなわちマスク設定された非検知領域外にてオブジェクトが発生した場合には、ステップS7に進み、オブジェクトの発生位置がマスク領域内である場合にはステップS3に戻る。
【0083】
ステップS7において、有効メタデータ生成部134は、動体であるオブジェクトを検知した旨の情報であるメタデータDmを生成する。
【0084】
ステップS8において、生成されたメタデータDmは、クライアント端末3でフィルタ処理されてアラート情報が生成される。そして、クライアント端末3がこのアラート情報に基づいてアラート発報を行う。もしくは、このようなフィルタ処理及びアラート情報の生成は監視カメラ1a内でも行うことができる。その後、ステップS3に戻る。
【0085】
このように、監視システム100においては、オブジェクトの発生位置がマスク領域外であれば、そのオブジェクトは有効オブジェクトであると判定される。
【0086】
この図5のフローチャートに示す処理工程では、マスク領域内で発生したオブジェクトが、現在までマスク領域内にある間は、無効オブジェクトであると判断される。その後、オブジェクトの追跡が続けられ、この追跡を行っている間にオブジェクトがマスク領域外に出た場合には、この時点でオブジェクトは、有効オブジェクトであると判定される。この場合、有効オブジェクトであると判定された時点で、画像データを遡り、オブジェクトの発生時からそのオブジェクトが有効であったと認定することもできる。
【0087】
また、図5のフローチャートでは述べていないが、監視システム100では、オブジェクトの発生位置がマスク領域内であっても、現在のオブジェクトの位置がマスク領域外であれば、そのオブジェクトは、有効オブジェクトであると判定される。
【0088】
なお、本実施の形態における監視システム100における監視カメラ1a,1b,1cの構成は、上述のような固定式のカメラに限られず、例えば旋回可能な機構メカニズムを有するパンチルト式のカメラであってもよい。
【0089】
上述のような固定式のカメラでは、一度設定されると、画像の撮像範囲は常に一定である。このような固定式カメラの場合、常に一定の領域内でマスクが設定される。
【0090】
一方、監視カメラがパンチルト式のカメラである場合、旋回することにより広範囲に撮像することができる。これにより、ユーザは、広範囲に撮像されることにより生成されたパノラマ画像内でマスクを設定することができる。
【0091】
以下にパンチルト式である監視カメラの動作例について説明する。
【0092】
図6に示すように、パンチルト式である監視カメラ7は、円弧で示される仮想円筒面70で囲まれる領域を撮影するように旋回する。そして、監視カメラ7は、旋回して、例えば撮像視野A、撮像視野B、及び撮像視野Cに示す視野を有する画像を撮影する。このとき、監視カメラ7は、自身のパン及びチルトの値を記憶部(図示せず)に記憶させる。監視カメラ7は、記憶部に記憶されたパン、チルト値に基づいて撮影された各画像をカメラの回転中心を同じ中心とする仮想的な円筒面に投射することにより、仮想円筒面70上に1枚のパノラマ画像を作成する。この作成された画像を用いることにより、監視カメラが上述の固定式のカメラである場合と同様に、マスクを設定することができる。なお、ここでは、仮想円筒面70に投影するとしたが、球面に投影したり、メルカトル地図等のような展開した平面へ投影することも可能である。
【0093】
なお、監視カメラ7がパン、チルト値を記憶させることができない場合は、領域A、領域B、領域Cで撮影された画像の特徴量を、例えば、エッジ抽出、コーナー抽出により抽出して特徴点のマッチング処理を行い、1枚のパノラマ画像を作成するようにしてもよい。これは、監視カメラ7の回転中心が、画像の焦点に一致しない場合等に有効的である。
【0094】
また、本実施の形態では、監視カメラ7を回転させながら撮影された画像の一部をスリット上に抜き取り、その画像を監視カメラの回転に合わせて並べ直す等の方法をも用いることができる。
【0095】
また、本実施の形態では、ズーム式の監視カメラを用いることができる。ズーム式の監視カメラにおいては、例えば、レンズを介してワイド端で撮影した画像に基づいてマスクを設定することが可能である。
【0096】
次に、図1に示したクライアント端末3の詳細な構成を、図7の機能ブロック図を参照して説明する。ただし、クライアント端末3の各機能ブロックは、ハードウェアで構成するものとしてもよく、また、ソフトウェアで構成するものとしてもよい。
【0097】
クライアント端末3は、監視カメラ1a,1b,1cとのデータ伝送を行うネットワーク接続部301と、監視カメラ1a,1b,1cから画像データを取得する画像バッファ部302と、監視カメラ1a,1b,1cからメタデータを取得するメタデータバッファ部303と、フィルタ処理に応じたフィルタ設定を蓄積するフィルタ設定データベース(DB)307と、メタデータのフィルタ処理を行うフィルタ部としてのメタデータフィルタ部306と、監視カメラ1a,1b,1cに設定変更を通知するルール切替部308と、画像データを蓄積する画像データ蓄積データベース304と、メタデータを蓄積するメタデータ蓄積データベース305と、画像データやメタデータ等を表示する表示部311と、画像データを表示部311で再生させるための処理を行う画像データ処理部309と、メタデータを表示部311で再生させるための処理を行うメタデータ処理部310と、メタデータと画像データとの再生を同期させる再生同期部312とを備える。
【0098】
画像バッファ部302は、監視カメラ1a,1bから画像データDtを取得し、符号化されている画像データDtの復号化処理を行う。そして、画像バッファ部302は、得られた画像データを画像バッファ部302に設けられている図示しないバッファに保持する。さらに、画像バッファ部302は、図示しないバッファに保持している画像データを順次、画像を表示する表示部311に供給する処理も行う。このように、図示しないバッファに画像データを保持することにより、監視カメラ1a,1b,1cから送信される画像データの受信タイミングによらずに、表示部311に対して順次画像データを供給することができる。また、画像バッファ部302は、後述するルール切替部308から供給される録画要求信号に基づいて、保持している画像データを画像データ蓄積データベース304に蓄積させる。なお、画像データ蓄積データベース304には、符号化されている画像データを蓄積させるようにし、後述する画像データ処理部309で復号化を行うようにしてもよい。
【0099】
メタデータバッファ部303は、メタデータバッファ部303に設けられている図示しないバッファに、監視カメラ1a,1b,1cから取得したメタデータDmを保持する。また、メタデータバッファ部303は、保持しているメタデータDmを後述するメタデータフィルタ部306に供給する処理も行う。このように、図示しないバッファがメタデータを保持することにより、監視カメラ1a,1b,1cからのメタデータDmの受信タイミングによらずに、表示部311に対して順次メタデータを供給することができる。
【0100】
さらに、メタデータバッファ部303は、監視カメラ1a,1b,1cから取得したメタデータDmをメタデータ蓄積データベース305に蓄積する際に、メタデータと同期する画像データの時刻情報を付加しておく。これにより、メタデータDmの内容を読み出して時刻を判別しなくとも、付加されている時刻情報を利用して所望の時刻のメタデータDmをメタデータ蓄積データベース305から読み出すことが可能となる。
【0101】
フィルタ設定データベース307は、後述するメタデータフィルタ部306で行うフィルタ処理に応じたフィルタ設定を蓄積するとともに、フィルタ設定をメタデータフィルタ部306に供給する。このフィルタ設定とは、アラーム情報等の出力や、監視カメラ1a,1b,1cの撮像動作の切替を行う必要があるか否かの判断基準等をメタデータに含まれている監視対象に関する情報ごとに示す設定である。このフィルタ設定を用いてメタデータのフィルタ処理を行うことにより、オブジェクトに関する情報ごとにフィルタ処理結果を示すことができる。フィルタ処理結果によっては、アラーム情報等の出力を行う必要があることや、監視カメラ1a,1b,1cの撮像動作の切り替えが必要であることが示される。
【0102】
メタデータフィルタ部306は、フィルタ設定データベース307に蓄積されているフィルタ設定を用いてメタデータのフィルタ処理を行い、アラートを発報させるかどうかを判断する。そして、メタデータフィルタ部306は、メタデータバッファ部303で取得したメタデータ、又は、メタデータ蓄積データベース305から供給されたメタデータのフィルタ処理を行い、フィルタ処理結果をルール切替部308に通知する。
【0103】
ルール切替部308は、メタデータフィルタ部306から通知されたフィルタ処理結果に基づいて、切替指示信号を生成し、監視カメラ1a,1b,1cに撮像方向切替等の変更を通知する。例えば、メタデータフィルタ部306から得られたフィルタ処理結果に基づき、監視に適した監視画像が得られるように監視カメラ1a,1b,1cの動作を切り替える指令を出力する。また、ルール切替部308は、フィルタ処理結果に基づいて画像データ蓄積データベース304に録画要求信号を供給し、画像バッファ部302で取得した画像データを画像データ蓄積データベース304に蓄積させる。
【0104】
画像データ蓄積データベース304は、画像バッファ部302で取得された画像データを蓄積する。メタデータ蓄積データベース305は、メタデータバッファ部303で取得されたメタデータDmを蓄積する。
【0105】
画像データ処理部309は、画像データ蓄積データベース304に蓄積されている画像データを表示部311に表示させるための処理を行う。すなわち、画像データ処理部309は、ユーザによって指示された再生位置から順次画像データを読み出して、読み出した画像データを表示部311に供給する。また、画像データ処理部309は、再生している画像データの再生位置(再生時刻)を再生同期部312に供給する。
【0106】
メタデータDmと画像データとの再生を同期させる再生同期部312は、画像データ処理部309から供給された再生位置と、メタデータ処理部310で、メタデータ蓄積データベース305に蓄積されているメタデータを再生するときの再生位置が同期するように、同期制御信号をメタデータ処理部310に供給して、メタデータ処理部310の動作を制御する。
【0107】
メタデータ処理部310は、メタデータ蓄積データベース305に蓄積されているメタデータDmを表示部311に表示させるための処理を行う。すなわち、メタデータ処理部310は、ユーザによって指示された再生位置から順次メタデータDmを読み出して、読み出したメタデータDmを表示部311に供給する。また、画像データとメタデータDmとの双方を再生する場合、メタデータ処理部310は、上述したように、再生同期部312から供給された同期制御信号に基づいて再生動作を制御して、画像データに同期したメタデータDmを表示部311に出力する。
【0108】
表示部311は、画像バッファ部302から供給されたライブ(生)の画像データや画像データ処理部309から供給された再生画像データ、メタデータバッファ部303から供給されたライブのメタデータDmやメタデータ処理部310から供給された再生メタデータを表示する。また、表示部311は、メタデータフィルタ部306からのフィルタ設定に基づいて、監視画像やメタデータの画像やフィルタ設定の画像のいずれか、又は、これらを合成した画像を用いて、フィルタ処理結果に基づく監視結果を示す画像を表示(出力)する。
【0109】
また、表示部311は、グラフィカルユーザインターフェース(GUI:Graphical User Interface)としても機能する。ユーザは、図示しない操作キーや、マウス、リモートコントローラ等を用いて表示部311に表示されたフィルタ設定メニュー等を選択することによりフィルタを定義したり、各処理部の情報やアラート情報の解析結果等をGUI表示することができる。
【0110】
このような本実施の形態における監視システム100によれば、環境変化が起こりやすい屋外において動体であるオブジェクトを正確に検知することができる。
【0111】
すなわち、屋外においては、標識、看板、縁石等の背景物において、太陽光や車のライト等により、昼夜問わず、反射光や影を生じさせる。従来の動体検知処理においては固定マスクを設定することが主であった。ユーザは、オブジェクトの誤検知を避けるために背景物に多くの固定マスクを設定していた。このため、本来検知されるべき動体であるオブジェクトを検知することができず、監視システム上重大な問題であるアラートの失報となる場合が多かった。これに対し、本実施の形態における監視システム100によれば、上述のようなオブジェクト発生位置の検知処理を行うことにより、アラートの失報を軽減することができる。
【0112】
なお、本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
【0113】
例えば、本実施の形態における監視システムは、図8に示すように、上述の監視システム1の構成にサーバ4をさらに備えてクライアント機能を分割した構成としてもよい。すなわち、図8に示すように、本実施の形態における監視システム200は、サーバ4を備えて図1の例と同様の機能、効果を得ることができる。この図8に示す監視システム200は、サーバ4が、上述のようなクライアント端末3と同様の構成を備え、監視カメラ1a,1b,1cから出力されたデータをネットワーク2を介して取得し、クライアント端末3にデータを供給するシステムである。このような監視システム200によれば、サーバ機能とクライアント機能とを分割することにより、処理性能が高いサーバ4で大量にデータを処理し、処理性能が低いクライアント端末3が専ら処理結果を閲覧するといった使い分けが可能となる。このように、監視システム200は、サーバを介して機能を分散することで、より柔軟性に富んだ監視システムとすることができる。
【0114】
また、本実施の形態における監視システムが備える監視カメラ、クライアント端末、サーバの台数及びこれらの構成は、上述の例に限られないことは勿論である。
【0115】
また、上述した実施の形態では、監視カメラ1a,1b,1cが、クライアント端末3又はサーバ4にメタデータを送信し、クライアント端末3又はサーバ4がこのメタデータDmを生成する場合について説明したが、これに限らず、監視カメラ1a、1b、1c内にメタデータ処理部を有し、アラート情報を生成、出力するようにしてもよい。
【図面の簡単な説明】
【0116】
【図1】本実施の形態における監視システムの構成例を示す図である。
【図2】本実施の形態における監視システムが備える監視カメラの構成を示す機能ブロック図である。
【図3】本実施の形態における監視システムが非検知対象である背景物にマスク領域を設定した場合のオブジェクト検知の様子を示す図である。
【図4】メタデータ生成部の構成を示す図である。
【図5】本実施の形態における監視システムのオブジェクト検知処理動作を説明するためのフローチャートである。
【図6】本実施の形態における監視システムが備えるパンチルト式の監視カメラが旋回する様子を示す図である。
【図7】クライアント端末の詳細な構成を示す機能ブロック図である。
【図8】本実施の形態における監視システムの他の構成例を示す図である。
【図9】従来の監視システムにおける動体検知の様子を示す図である。
【図10】太陽光が照射された標識のポール表面上の一部領域において太陽光が反射し、大きな輝度変化を生じさせる様子を示す図である。
【図11】背景物の太陽光が照射される側をオブジェクトである人が通過する様子を示す図である。
【図12】夜間におけるオブジェクトの誤検知を説明するための図である。
【図13】従来の監視システムにおけるマスク設定処理を説明するための図である。
【図14】従来の監視システムにおけるオブジェクト検知の様子を示す図である。
【符号の説明】
【0117】
1a,1b,1c,7 監視カメラ、2 ネットワーク、3 クライアント端末、4 サーバ、11 画像データ生成部、12 撮像動作切替部、13 メタデータ生成部
【特許請求の範囲】
【請求項1】
所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知部と、
上記オブジェクト検知部によって検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知部と、
上記オブジェクト検知部によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定部と
を備える画像処理システム。
【請求項2】
上記有効オブジェクト判定部によって上記オブジェクトが有効オブジェクトであると判定された場合に上記動体であるオブジェクトを検知した旨のメタデータを生成する有効メタデータ生成部をさらに備える請求項1記載の画像処理システム。
【請求項3】
上記所定領域を撮影して撮像信号を生成する撮像部と、
上記撮像部によって生成された撮像信号に所定の画像処理を行って上記所定領域の画像の画像データを生成する撮像信号処理部と
をさらに備える請求項1記載の画像処理システム。
【請求項4】
上記撮像部は、フレーム毎に上記撮像信号を生成する請求項3記載の画像処理システム。
【請求項5】
所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知工程と、
上記オブジェクト検知工程にて検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知工程と、
上記オブジェクト検知工程によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定工程と
を有する画像処理方法。
【請求項6】
所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知工程と、
上記オブジェクト検知工程にて検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知工程と、
上記オブジェクト検知工程によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定工程と
をコンピュータに実行させるためのプログラム。
【請求項1】
所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知部と、
上記オブジェクト検知部によって検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知部と、
上記オブジェクト検知部によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定部と
を備える画像処理システム。
【請求項2】
上記有効オブジェクト判定部によって上記オブジェクトが有効オブジェクトであると判定された場合に上記動体であるオブジェクトを検知した旨のメタデータを生成する有効メタデータ生成部をさらに備える請求項1記載の画像処理システム。
【請求項3】
上記所定領域を撮影して撮像信号を生成する撮像部と、
上記撮像部によって生成された撮像信号に所定の画像処理を行って上記所定領域の画像の画像データを生成する撮像信号処理部と
をさらに備える請求項1記載の画像処理システム。
【請求項4】
上記撮像部は、フレーム毎に上記撮像信号を生成する請求項3記載の画像処理システム。
【請求項5】
所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知工程と、
上記オブジェクト検知工程にて検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知工程と、
上記オブジェクト検知工程によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定工程と
を有する画像処理方法。
【請求項6】
所定領域の画像の画像データから動体であるオブジェクトを検知するオブジェクト検知工程と、
上記オブジェクト検知工程にて検知されたオブジェクトの発生位置を検知するオブジェクト発生位置検知工程と、
上記オブジェクト検知工程によって検知されたオブジェクトが上記所定領域の画像中の非検出対象に設定されたマスク領域内にあり、且つ、上記オブジェクト発生位置検知部によって検知された上記マスク領域内にあるオブジェクトの発生位置が上記マスク領域外である場合に当該オブジェクトは有効オブジェクトであると判定する有効オブジェクト判定工程と
をコンピュータに実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2010−9134(P2010−9134A)
【公開日】平成22年1月14日(2010.1.14)
【国際特許分類】
【出願番号】特願2008−164856(P2008−164856)
【出願日】平成20年6月24日(2008.6.24)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成22年1月14日(2010.1.14)
【国際特許分類】
【出願日】平成20年6月24日(2008.6.24)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]