画像解析装置及び画像解析方法
【課題】適応的な背景モデルを用いた背景差分法による動体検知で、検知結果の正誤を好適に判定できるようにする。
【解決手段】時間的な変化を勘案した背景情報を用いる背景差分法によるイベント検知と、その時点の背景情報との組を記録するとともに、検出のイベントと背景情報の組を表示することで画像解析結果を容易に判定できるようにする。
【解決手段】時間的な変化を勘案した背景情報を用いる背景差分法によるイベント検知と、その時点の背景情報との組を記録するとともに、検出のイベントと背景情報の組を表示することで画像解析結果を容易に判定できるようにする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像解析装置及び画像解析方法に関し、特に背景差分を用いた動体検知の判定に用いて好適な技術に関するものである。
【背景技術】
【0002】
近年、映像から動体を検知するために画像解析が行われている。従来技術として、背景差分やフレーム間差分などの手法がある。しかし、背景差分ではあらかじめ対象物を含まない背景画像が必要であり、フレーム間差分では動体の動いている一部分だけしか検知できないという問題があった。
【0003】
また、入力画像を随時足しこんで平均化するような方法で背景画像としていくことで、あらかじめ背景画像を用意しないような方法もあるが、動体が静止したりゆっくり動いたり、木や水面の揺れなどの継続的変化に対応することが難しかった。
【0004】
そこで、特許文献1に示されるように、入力画素の変化の時間的な変化を勘案して背景の画素状態を生成して、適応的に背景モデルを作り動体検知する方法が提案されている。
一方、ネットワークカメラによる監視システムのように、動体を検知した際には遠隔地の出力装置にて、検知のイベントが表示されるようにすることが行われている。また、動体を検知した表示として、特許文献2に示されるように、前後の画像を並べて表示して差分を明らかにしようとする方法が提案されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−323572号公報
【特許文献2】特開平08−221577号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、適応的な背景モデルを作って動体検知をした結果が誤検知の場合、検知のパラメーターを変更することになるが、どのような背景モデルとの差分比較の結果であったのか分かりづらかった。また、前後の画像を表示するような場合、特に、ネットワークによる映像配送を行っていると帯域を多く使ってしまうという問題があった。
本発明は前述の問題点に鑑み、適応的な背景モデルを用いた背景差分法による動体検知で、検知結果の正誤を好適に判定できるようにすることを目的とする。
【課題を解決するための手段】
【0007】
本発明の画像解析装置は、映像を入力する撮像手段と、前記撮像手段から入力された入力映像を画像解析して背景情報を抽出する背景情報抽出手段と、前記背景情報抽出手段から抽出された背景情報から背景差分法によって対象を検出する対象検出手段と、前記対象検出手段により検出されたイベントと前記背景情報とを対応付けして記録する検出記録手段と、前記対象検出手段により検出されたイベントと前記背景情報とを表示装置に表示する表示手段とを有し、前記イベントを前記表示装置に表示する際に、前記背景情報と共に表示することを特徴とする。
【発明の効果】
【0008】
本発明によれば、適応的な背景モデルを用いた背景差分法による動体検知で、検知結果の正誤を好適に判定することが可能になる。
【図面の簡単な説明】
【0009】
【図1】カメラサーバーの詳細を説明するブロック図である。
【図2】ビューワークライアントの詳細な構成例を説明するブロック図である。
【図3】記憶装置にロードされているプログラムを説明する図である。
【図4】システムの全体構成を模式的に表した図である。
【図5】背景情報を抽出する処理手順を説明するフローチャートである。
【図6】差分が閾値を超えた場合の処理手順を説明するフローチャートである。
【図7】イベントと背景情報を組にした検出記録データの例を示す図である。
【図8】映像表示の処理手順を説明するフローチャートである。
【図9】検出記録データと背景情報データとを表示している様子を示す図である。
【図10】記憶装置にロードされているプログラムを説明する他の例を示す図である。
【図11】映像表示の処理手順の他の例を説明するフローチャートである。
【発明を実施するための形態】
【0010】
本発明の実施形態の詳細について以下に述べる。
(第1の実施形態)
本実施形態の代表図を図7に示す。図7は、本発明の実施形態にかかわる、イベントと背景情報を組にした検出記録データ380である。また、本実施形態のシステムの全体構成を図4に示す。
【0011】
複数のカメラサーバー100に対して、ネットワーク195を介してビューワークライアント200が接続されている。これにより、入力映像を画像解析して背景情報が抽出され、また対象検出されたときに、検出のイベントと背景情報の組が記録され、表示されることで画像解析結果の判定を容易にする。
【0012】
図1は、本実施形態のシステムを構成するカメラサーバー100の詳細を説明するブロック図である。
図1に示すように、カメラサーバー100はCPU110、1次記憶装置120、2次記憶装置130、ビデオキャプチャI/F140、ネットワークI/F190が内部バス180を介して相互に接続されている。
【0013】
ここで、1次記憶装置120はRAMに代表される書き込み可能な高速の記憶装置であり、OSや各種プログラム及び各種データがロードされる。また、OSや各種プログラムの作業領域としても使用される。後述する図2のビューワークライアント200の1次記憶装置220も同様である。
【0014】
2次記憶装置130はFDDやHDD、フラッシュメモリ、CD−ROMドライブ等に代表される不揮発性を持った記憶装置である。2次記憶装置130は、OSや各種プログラム及び各種データの永続的な記憶領域として使用される他に、短期的な各種データの記憶領域としても使用される。後述する図2のビューワークライアント200の2次記憶装置230も同様である。
【0015】
ビデオキャプチャI/F140には撮像部145が接続され、撮像部145が撮影した画像データを所定のフォーマットに変換・圧縮して1次記憶装置120に転送する。ネットワークI/F190はネットワーク195と接続するためのI/Fであり、Ethernet(登録商標)等の通信媒体を介して各種クライアントとの通信を担う。
【0016】
ネットワーク195はEthernet等の通信規格を満足する複数のルータ、スイッチ、ケーブル等から構成される。本発明においては各サーバ・クライアント間の通信が支障なく行えるものであればその通信規格、規模、構成を問わない。故に、インターネットからLAN(Local Area Network)にまで適用可能である。
【0017】
ここで、カメラサーバー100の1次記憶装置120上には図3(a)に示すように、
撮像プログラム300、背景情報抽出プログラム310、対象検出プログラム320、検出記録プログラム330がロードされる。
また、図3(b)に示すように、カメラサーバー100の2次記憶装置130上には、背景情報データ360、サンプリングデータ370、検出記録データ380、検出設定データ390などが保存される。
【0018】
図2は、本実施形態のシステムを構成するビューワークライアント200の詳細な構成例を説明するブロック図である。
図2に示すように、本実施形態のビューワークライアント200は、CPU210、1次記憶装置220、2次記憶装置230、キーボード240、マウス250、ディスプレイ260、ネットワークI/F290が内部バス280を介して相互に接続されている。
【0019】
キーボード240、及びマウス250にはユーザが指示を与える一般的な入力装置が接続される。ディスプレイ260には表示を行う一般的な出力装置が接続される。ネットワークI/F290はネットワーク195と接続するためのI/Fであり、図1のネットワークI/F190と同様のものである。
【0020】
ここで、図3(c)に示すように、ビューワークライアント200の1次記憶装置220上には表示プログラム440がロードされる。また、図3(d)に示すように、ビューワークライアント200の2次記憶装置230上には検出記録データ480、表示設定データ490などが保存される。
【0021】
本実施形態の全体システム構成は、図4に示すように、複数のカメラサーバー100がネットワーク195を介してビューワークライアント200に接続されている。これにより、複数の撮像部145からの映像が、ビューワークライアント200のディスプレイ260に表示される。これらの構成は、従来からも実現されていたものである。
【0022】
撮像部145からの映像が背景情報抽出され、また対象検出されたときに、検出されたイベントと背景情報の組が記録され、ディスプレイ260に表示されることについて、以下でその詳細を説明する。
【0023】
撮像プログラム300は、撮像部145からの映像をビデオキャプチャI/F140で処理し、画像データを背景情報抽出プログラム310、及びネットワーク195を介してビューワークライアント200の表示プログラム440に送る。これは、一般的に行われているビデオ映像処理や映像配信処理の技術を用いて実現することができる。
【0024】
また、カメラサーバー100にビューワークライアント200のディスプレイ260と同等の出力手段を設ける構成も可能である。その際は、ネットワーク195を介さず、内部バス180を介して、表示プログラム440と同様な表示プログラム(図示せず)を用いて映像を表示させてもよい。
【0025】
図5に、画像データから背景情報を抽出する背景情報抽出プログラム310により実行される処理手順を説明するフローチャートを示す。背景差分法は、入力画像から背景画像(対象物体を含まない背景のみの画像)を差分することにより、対象物体を検出する方法である。背景差分法は、移動または静止する対象物体を良好に検出することが可能であるが、あらかじめ対象物体を含まない正確な背景画像が必要である。また、環境光などにより、背景が変化する場合には正しい検出結果を得ることが難しい問題点がある。本実施形態においては、このような問題点を解消するために、以下のような処理を行っている。
【0026】
処理が開始されると、S501で撮像プログラム300からの画像データの入力を待機し、画像データが入力されるとS502に進む。
S502では、画素もしくは複数の画素からなるブロック単位毎に画像データの特徴量を抽出するサンプリングが行われる。特徴量としては例えば、画素もしくはブロック毎の輝度や色相の値を用いることができ、サンプリングデータ370として一時的に保管される。
【0027】
次に、S503で以前の背景情報データ360との差分計算が行われる。つまり、背景情報データ360と、S502で得られたサンプリングデータ370とが比較される。
S504では、S503の比較結果が、従来からあるようなUIを用いてあらかじめ設定された検出設定データ390の閾値の範囲内であれば、該当画素もしくはブロックは背景と判断されるので、対象を検出せず、S506へ進む。一方、閾値を超えた場合、S505で対象検出プログラム320が実行され、その後、S506に進む。
【0028】
S506では背景情報の更新処理が行われる。具体的には、入力画素の変化の時間的な変化を勘案して背景の画素もしくはブロックの状態を生成して、適応的に背景情報データ360が作られる。この際、適応的に作られる背景情報データ360は一つに限らなくともよい。時間的な変化が、例えば明暗を繰り返すネオンなど周期的な場合に、複数の背景情報データ360を背景情報データの候補としてもよい。こうすることで、周期的な変化を持つ背景に対する背景差分法を適用することが可能になる。
次に、S507で2次記憶装置130に登録されている背景情報データ360を更新し、その後、S501に戻って画像データが入力されるのを待つ。
【0029】
次に、差分が閾値を超えた場合の対象検出プログラム320の処理手順を説明するフローチャートを図6に示す。
S601で背景情報抽出プログラム310から、背景情報データ360と差分情報(図示せず)を受け取る。
次に、S602で差分情報から、画像解析技術によって、例えば侵入検知・いたずら検知・持ち去り検知・置き去り検知などのイベントの検出を行う。
【0030】
次に、S603で検出記録プログラム330によって、S602で検出されたイベントとその時点の背景情報データ360を組にして、2次記憶装置130の検出記録データ380として記録する。検出記録プログラム330では、例えば図7に示すように、イベントと、その時点の背景情報データ360を組にした検出記録データ380を作成し、2次記憶装置130に格納する(図示せず)。この際、記録せずに次のS604に進んでもよい。
【0031】
図7において、例えばカメラIDによって物理的な対象が限定され、例えばイベント名によって検出された現象が特定され、年月日時分秒及びフレーム番号で時点が特定されることで、イベントが表現されている。
【0032】
また、入力画素の変化の時間的な変化を勘案して背景の画素状態を生成して適応的に背景モデルが作られている場合、該イベントに対しその時点の適応的背景情報抽出を行って随時更新され特定されているのが、背景情報データ360である。これは、例えば画像ファイルで表現される。検出されたイベントと前述の適応的背景情報とを組にして記録することで生成した検出組記録情報が本実施形態の検出記録データ380である。
【0033】
また、背景差分法を用いる場合、背景情報データ360が、あらかじめいくつか登録されている場合もある。この際は、イベント時点の背景情報データ360がどれだったかを特定するIDを背景情報データ360とすることもできる。この場合は、イベントとIDとを関連付けたものが検出記録データ380となる。
【0034】
次に、S604において、S602で検出されたイベントと背景情報データ360とを組にした検出記録データ380を、ネットワーク195を介してビューワークライアント200へネットワーク経由で配信する。より具体的には、ビューワークライアント200の表示プログラム440へデータを送付する。
最後に、S605で対象検出プログラム320を終了して、元の背景情報抽出プログラム310に戻る。
【0035】
図8に、表示プログラム440で行われる処理手順を説明するフローチャートを示す。
最初に、S801でイベントを待機し、イベントが発生するとS810で、カメラサーバー100の撮像プログラム300からの映像受信の有無を判断する。映像を受けた場合、S811であらかじめ設定された表示設定データ490に基づき、ディスプレイ260の所定の位置に映像を表示して、S801に戻る。
【0036】
映像を受けなかった場合はS820で、カメラサーバー100の対象検出プログラム320の検出記録データ380をネットワーク195を介して受け取ったか判断する。受け取った場合、S821でビューワークライアント200の2次記憶装置230に検出記録データ480を保存する。その後、S822で、該当するカメラIDの映像が、図9(a)に示すように強調表示(901)された上で、所定の位置に検出記録データ480に含まれる背景情報データ360が表示(902)として並んで表示され、S801に戻る。強調表示(901)や背景情報データ360の表示(902)は、一定時間で元に戻ったり消えたりするなどの処理をしてもよい。また、次の検出によって上書きされることにしてもよい。
【0037】
図9(a)は、本実施形態の特徴である表示の例を示す図である。複数のカメラサーバー100からの映像が並んで表示されている。例えば、背景情報データ360にある像の持ち去りの検出記録データ480が保存されると、該当するカメラサーバー100(カメラIDが同一のもの)の表示が強調表示(901)される。また、検出記録データ480に含まれる背景情報データ360が同一画面上に並んで表示(902)されている。
【0038】
S820では、例えば定期的にネットワーク195を介して、カメラサーバー100の検出記録データ380を読み出しに行き更新があればS821に進むようにポーリングしてもよい。この場合、検出記録データ480の保存は必須ではない。
【0039】
S890で、終了イベントか否かを判断し、終了イベントでなければS801に戻る。このようにすることで、検出イベントが起こった際に判定の元となった背景情報データ360を明示することが可能になり、判定結果を人間が判断しやすくなる。
【0040】
(第2の実施形態)
前述した第1の実施形態では、背景情報データ360は撮像画角の全体であったが、本発明ではこれに限らず、特定の領域の背景情報を抽出する領域抽出処理を行うようにしてもよい。
本実施形態のシステムの構成図は、第1の実施形態の図1と同様であるが、図3(a)、(b)で示した1次記憶装置120上に置かれた対象検出プログラム320が対象検出プログラム321に置き換わる。また、検出記録プログラム330が検出記録プログラム331に置き換わり、領域指定プログラム341が、加わったものである(図10(a))。
【0041】
また、2次記憶装置130上の検出記録データ380は検出記録データ381に、検出設定データ390は検出設定データ391に、置き換わったものが保存される(図10(b))。
【0042】
また、第1の実施形態の図3(c)の1次記憶装置220上に置かれた、表示プログラム440が表示プログラム441に、置き換わったものである(図示せず)。なお、検出記録データ480は、検出記録データ381を受けて保存されるので、第1の実施形態と同様に処理される。
【0043】
領域指定プログラム341は、図9(b)に示すUIで指定されるように、ディスプレイ260に表示される映像903上で複数の位置をマウス250でクリックすることで座標を得る。そして、背景情報を表示する際に特定の撮像領域の形に合わせて領域表示するように指定する。例えば、点線で示される多角形904を指定することができる。この情報は検出設定データ391に保存される。
【0044】
差分が検出設定データ391に設定された閾値を超えた場合の対象検出プログラム321の動作の流れは、図6に示した対象検出プログラム320のフローチャートのS603の検出記録プログラム330が検出記録プログラム331に変わったものである。具体的には検出記録データ380の記録が、検出記録データ381の記録に置き換わったものである(図10(b))。
【0045】
検出記録データ381は、背景情報データ360から指定された多角形904を切り出して得られる背景画像ファイル(図示せず)と、イベントを表す「カメラID・イベント名・年月日時分秒・フレーム番号」などの情報と組にして記録するものである。
【0046】
表示プログラム441は、第1の実施形態の図8の表示プログラム440と同様の処理を行う。ただし、S822と同様の処理ステップでは、背景情報データ360から多角形904の領域が切り出された背景画像ファイルが、背景データ360の表示(902)の代わりに表示される。
【0047】
このようにすることで、検出イベントが起こった際に判定の元となった、指定された領域の背景情報データ360を明示することが可能になり、検出結果を人間が判断しやすくなる。
【0048】
(第3の実施形態)
第1の実施形態、第2の実施形態では、受信した映像を表示していたが、本発明ではこれに限らず、蓄積された映像を表示するようにしてもよい。
本実施形態のシステムの構成図は、第1の実施形態の図1と同様であるが、図3(c)で示した1次記憶装置220上に置かれた、表示プログラム440が、表示プログラム442に、置き換わり、蓄積プログラム452が加わったものである(図10(c))。
また、図3(d)で示した2次記憶装置230上の検出記録データ480が、検出記録データ482に、表示設定データ490が、表示設定データ492に、置き換わり、映像蓄積データ472が、加わったものである(図10(d))。
【0049】
表示プログラム442の処理手順を図11のフローチャートを参照しながら説明する。
最初のS1101でイベントの発生を待ち、イベントが発生するとS1110に進む。
S1110では、カメラサーバー100の撮像プログラム300からの映像を受けたか判断する。映像を受けた場合、S1111であらかじめ設定された表示設定データ490に基づき、ディスプレイ260の、該当するカメラIDに対する所定の位置に映像を表示する。ただし、この際、図8の表示プログラム440の動作と異なり、該当するカメラが録画表示モードの場合は映像表示しない。
【0050】
つづくS1112で、受け取った映像を映像蓄積データ472として、2次記憶装置230などに保存して、S1101に戻る。この処理は蓄積プログラム452で実現されるが、これは録画ソフトなどで従来からある技術で実現されるものである。
【0051】
図11のS1120からS1122の処理は、図8のS820からS822と同様に行われる。
【0052】
S1130の判断で録画表示モードの場合は、S1131に進む。録画表示モードは、従来からあるような録画表示ソフトで実現されるように、カメラIDで指定された映像が強調表示(901)などに該当する映像蓄積データ472を時間に沿って再生表示させる。また、時間軸上で対応付けする検出記録データ482などを元にイベント表示させたりするものである。録画表示モードでは、従来からあるようなUIを用いることで切り換えがなされ、タイマーなどを利用して時間に沿って映像蓄積データが再生される。
【0053】
S1131で、カメラIDで指定された映像表示領域901に映像蓄積データ472を再生表示する。
S1132の判断で、再生中の映像に該当する検出記録データ482がある場合、より具体的には例えば再生タイミングと同一タイミングの該当カメラの検出記録データ482がある場合、S1122に進む。そうでなければS1101に進んでイベントを待つ。
【0054】
S1122では、図8のS822と同様に、該当するカメラIDの映像が強調表示(901)された上で、所定の位置に検出記録データ482に含まれる背景情報データ360が表示(902)として並んで表示され、S1101に戻る。
【0055】
S1140の判断で録画表示モードの終了イベント場合、S1141で該当するカメラの録画表示モードが終了されて、S1101に戻ってイベントを待つ。こうすることで、次の映像受信で映像表示されるようになる。
図11のS1190の処理は、図8のS890と同様に行われる。
【0056】
このようにすることで、ビューワークライアント200で録画再生をする際にも、検出イベントが起こった際に判定の元となった、背景情報データ360を明示することが可能になり、再生時にも判定結果を人間が判断しやすくなる。
【0057】
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種のコンピュータ読み取り可能な記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【符号の説明】
【0058】
100 カメラサーバー、110 CPU、120 1次記憶装置、130 2次記憶装置、140 ビデオキャプチャI/F、180 内部バス、190 ネットワークI/F、195 ネットワーク
【技術分野】
【0001】
本発明は画像解析装置及び画像解析方法に関し、特に背景差分を用いた動体検知の判定に用いて好適な技術に関するものである。
【背景技術】
【0002】
近年、映像から動体を検知するために画像解析が行われている。従来技術として、背景差分やフレーム間差分などの手法がある。しかし、背景差分ではあらかじめ対象物を含まない背景画像が必要であり、フレーム間差分では動体の動いている一部分だけしか検知できないという問題があった。
【0003】
また、入力画像を随時足しこんで平均化するような方法で背景画像としていくことで、あらかじめ背景画像を用意しないような方法もあるが、動体が静止したりゆっくり動いたり、木や水面の揺れなどの継続的変化に対応することが難しかった。
【0004】
そこで、特許文献1に示されるように、入力画素の変化の時間的な変化を勘案して背景の画素状態を生成して、適応的に背景モデルを作り動体検知する方法が提案されている。
一方、ネットワークカメラによる監視システムのように、動体を検知した際には遠隔地の出力装置にて、検知のイベントが表示されるようにすることが行われている。また、動体を検知した表示として、特許文献2に示されるように、前後の画像を並べて表示して差分を明らかにしようとする方法が提案されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−323572号公報
【特許文献2】特開平08−221577号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、適応的な背景モデルを作って動体検知をした結果が誤検知の場合、検知のパラメーターを変更することになるが、どのような背景モデルとの差分比較の結果であったのか分かりづらかった。また、前後の画像を表示するような場合、特に、ネットワークによる映像配送を行っていると帯域を多く使ってしまうという問題があった。
本発明は前述の問題点に鑑み、適応的な背景モデルを用いた背景差分法による動体検知で、検知結果の正誤を好適に判定できるようにすることを目的とする。
【課題を解決するための手段】
【0007】
本発明の画像解析装置は、映像を入力する撮像手段と、前記撮像手段から入力された入力映像を画像解析して背景情報を抽出する背景情報抽出手段と、前記背景情報抽出手段から抽出された背景情報から背景差分法によって対象を検出する対象検出手段と、前記対象検出手段により検出されたイベントと前記背景情報とを対応付けして記録する検出記録手段と、前記対象検出手段により検出されたイベントと前記背景情報とを表示装置に表示する表示手段とを有し、前記イベントを前記表示装置に表示する際に、前記背景情報と共に表示することを特徴とする。
【発明の効果】
【0008】
本発明によれば、適応的な背景モデルを用いた背景差分法による動体検知で、検知結果の正誤を好適に判定することが可能になる。
【図面の簡単な説明】
【0009】
【図1】カメラサーバーの詳細を説明するブロック図である。
【図2】ビューワークライアントの詳細な構成例を説明するブロック図である。
【図3】記憶装置にロードされているプログラムを説明する図である。
【図4】システムの全体構成を模式的に表した図である。
【図5】背景情報を抽出する処理手順を説明するフローチャートである。
【図6】差分が閾値を超えた場合の処理手順を説明するフローチャートである。
【図7】イベントと背景情報を組にした検出記録データの例を示す図である。
【図8】映像表示の処理手順を説明するフローチャートである。
【図9】検出記録データと背景情報データとを表示している様子を示す図である。
【図10】記憶装置にロードされているプログラムを説明する他の例を示す図である。
【図11】映像表示の処理手順の他の例を説明するフローチャートである。
【発明を実施するための形態】
【0010】
本発明の実施形態の詳細について以下に述べる。
(第1の実施形態)
本実施形態の代表図を図7に示す。図7は、本発明の実施形態にかかわる、イベントと背景情報を組にした検出記録データ380である。また、本実施形態のシステムの全体構成を図4に示す。
【0011】
複数のカメラサーバー100に対して、ネットワーク195を介してビューワークライアント200が接続されている。これにより、入力映像を画像解析して背景情報が抽出され、また対象検出されたときに、検出のイベントと背景情報の組が記録され、表示されることで画像解析結果の判定を容易にする。
【0012】
図1は、本実施形態のシステムを構成するカメラサーバー100の詳細を説明するブロック図である。
図1に示すように、カメラサーバー100はCPU110、1次記憶装置120、2次記憶装置130、ビデオキャプチャI/F140、ネットワークI/F190が内部バス180を介して相互に接続されている。
【0013】
ここで、1次記憶装置120はRAMに代表される書き込み可能な高速の記憶装置であり、OSや各種プログラム及び各種データがロードされる。また、OSや各種プログラムの作業領域としても使用される。後述する図2のビューワークライアント200の1次記憶装置220も同様である。
【0014】
2次記憶装置130はFDDやHDD、フラッシュメモリ、CD−ROMドライブ等に代表される不揮発性を持った記憶装置である。2次記憶装置130は、OSや各種プログラム及び各種データの永続的な記憶領域として使用される他に、短期的な各種データの記憶領域としても使用される。後述する図2のビューワークライアント200の2次記憶装置230も同様である。
【0015】
ビデオキャプチャI/F140には撮像部145が接続され、撮像部145が撮影した画像データを所定のフォーマットに変換・圧縮して1次記憶装置120に転送する。ネットワークI/F190はネットワーク195と接続するためのI/Fであり、Ethernet(登録商標)等の通信媒体を介して各種クライアントとの通信を担う。
【0016】
ネットワーク195はEthernet等の通信規格を満足する複数のルータ、スイッチ、ケーブル等から構成される。本発明においては各サーバ・クライアント間の通信が支障なく行えるものであればその通信規格、規模、構成を問わない。故に、インターネットからLAN(Local Area Network)にまで適用可能である。
【0017】
ここで、カメラサーバー100の1次記憶装置120上には図3(a)に示すように、
撮像プログラム300、背景情報抽出プログラム310、対象検出プログラム320、検出記録プログラム330がロードされる。
また、図3(b)に示すように、カメラサーバー100の2次記憶装置130上には、背景情報データ360、サンプリングデータ370、検出記録データ380、検出設定データ390などが保存される。
【0018】
図2は、本実施形態のシステムを構成するビューワークライアント200の詳細な構成例を説明するブロック図である。
図2に示すように、本実施形態のビューワークライアント200は、CPU210、1次記憶装置220、2次記憶装置230、キーボード240、マウス250、ディスプレイ260、ネットワークI/F290が内部バス280を介して相互に接続されている。
【0019】
キーボード240、及びマウス250にはユーザが指示を与える一般的な入力装置が接続される。ディスプレイ260には表示を行う一般的な出力装置が接続される。ネットワークI/F290はネットワーク195と接続するためのI/Fであり、図1のネットワークI/F190と同様のものである。
【0020】
ここで、図3(c)に示すように、ビューワークライアント200の1次記憶装置220上には表示プログラム440がロードされる。また、図3(d)に示すように、ビューワークライアント200の2次記憶装置230上には検出記録データ480、表示設定データ490などが保存される。
【0021】
本実施形態の全体システム構成は、図4に示すように、複数のカメラサーバー100がネットワーク195を介してビューワークライアント200に接続されている。これにより、複数の撮像部145からの映像が、ビューワークライアント200のディスプレイ260に表示される。これらの構成は、従来からも実現されていたものである。
【0022】
撮像部145からの映像が背景情報抽出され、また対象検出されたときに、検出されたイベントと背景情報の組が記録され、ディスプレイ260に表示されることについて、以下でその詳細を説明する。
【0023】
撮像プログラム300は、撮像部145からの映像をビデオキャプチャI/F140で処理し、画像データを背景情報抽出プログラム310、及びネットワーク195を介してビューワークライアント200の表示プログラム440に送る。これは、一般的に行われているビデオ映像処理や映像配信処理の技術を用いて実現することができる。
【0024】
また、カメラサーバー100にビューワークライアント200のディスプレイ260と同等の出力手段を設ける構成も可能である。その際は、ネットワーク195を介さず、内部バス180を介して、表示プログラム440と同様な表示プログラム(図示せず)を用いて映像を表示させてもよい。
【0025】
図5に、画像データから背景情報を抽出する背景情報抽出プログラム310により実行される処理手順を説明するフローチャートを示す。背景差分法は、入力画像から背景画像(対象物体を含まない背景のみの画像)を差分することにより、対象物体を検出する方法である。背景差分法は、移動または静止する対象物体を良好に検出することが可能であるが、あらかじめ対象物体を含まない正確な背景画像が必要である。また、環境光などにより、背景が変化する場合には正しい検出結果を得ることが難しい問題点がある。本実施形態においては、このような問題点を解消するために、以下のような処理を行っている。
【0026】
処理が開始されると、S501で撮像プログラム300からの画像データの入力を待機し、画像データが入力されるとS502に進む。
S502では、画素もしくは複数の画素からなるブロック単位毎に画像データの特徴量を抽出するサンプリングが行われる。特徴量としては例えば、画素もしくはブロック毎の輝度や色相の値を用いることができ、サンプリングデータ370として一時的に保管される。
【0027】
次に、S503で以前の背景情報データ360との差分計算が行われる。つまり、背景情報データ360と、S502で得られたサンプリングデータ370とが比較される。
S504では、S503の比較結果が、従来からあるようなUIを用いてあらかじめ設定された検出設定データ390の閾値の範囲内であれば、該当画素もしくはブロックは背景と判断されるので、対象を検出せず、S506へ進む。一方、閾値を超えた場合、S505で対象検出プログラム320が実行され、その後、S506に進む。
【0028】
S506では背景情報の更新処理が行われる。具体的には、入力画素の変化の時間的な変化を勘案して背景の画素もしくはブロックの状態を生成して、適応的に背景情報データ360が作られる。この際、適応的に作られる背景情報データ360は一つに限らなくともよい。時間的な変化が、例えば明暗を繰り返すネオンなど周期的な場合に、複数の背景情報データ360を背景情報データの候補としてもよい。こうすることで、周期的な変化を持つ背景に対する背景差分法を適用することが可能になる。
次に、S507で2次記憶装置130に登録されている背景情報データ360を更新し、その後、S501に戻って画像データが入力されるのを待つ。
【0029】
次に、差分が閾値を超えた場合の対象検出プログラム320の処理手順を説明するフローチャートを図6に示す。
S601で背景情報抽出プログラム310から、背景情報データ360と差分情報(図示せず)を受け取る。
次に、S602で差分情報から、画像解析技術によって、例えば侵入検知・いたずら検知・持ち去り検知・置き去り検知などのイベントの検出を行う。
【0030】
次に、S603で検出記録プログラム330によって、S602で検出されたイベントとその時点の背景情報データ360を組にして、2次記憶装置130の検出記録データ380として記録する。検出記録プログラム330では、例えば図7に示すように、イベントと、その時点の背景情報データ360を組にした検出記録データ380を作成し、2次記憶装置130に格納する(図示せず)。この際、記録せずに次のS604に進んでもよい。
【0031】
図7において、例えばカメラIDによって物理的な対象が限定され、例えばイベント名によって検出された現象が特定され、年月日時分秒及びフレーム番号で時点が特定されることで、イベントが表現されている。
【0032】
また、入力画素の変化の時間的な変化を勘案して背景の画素状態を生成して適応的に背景モデルが作られている場合、該イベントに対しその時点の適応的背景情報抽出を行って随時更新され特定されているのが、背景情報データ360である。これは、例えば画像ファイルで表現される。検出されたイベントと前述の適応的背景情報とを組にして記録することで生成した検出組記録情報が本実施形態の検出記録データ380である。
【0033】
また、背景差分法を用いる場合、背景情報データ360が、あらかじめいくつか登録されている場合もある。この際は、イベント時点の背景情報データ360がどれだったかを特定するIDを背景情報データ360とすることもできる。この場合は、イベントとIDとを関連付けたものが検出記録データ380となる。
【0034】
次に、S604において、S602で検出されたイベントと背景情報データ360とを組にした検出記録データ380を、ネットワーク195を介してビューワークライアント200へネットワーク経由で配信する。より具体的には、ビューワークライアント200の表示プログラム440へデータを送付する。
最後に、S605で対象検出プログラム320を終了して、元の背景情報抽出プログラム310に戻る。
【0035】
図8に、表示プログラム440で行われる処理手順を説明するフローチャートを示す。
最初に、S801でイベントを待機し、イベントが発生するとS810で、カメラサーバー100の撮像プログラム300からの映像受信の有無を判断する。映像を受けた場合、S811であらかじめ設定された表示設定データ490に基づき、ディスプレイ260の所定の位置に映像を表示して、S801に戻る。
【0036】
映像を受けなかった場合はS820で、カメラサーバー100の対象検出プログラム320の検出記録データ380をネットワーク195を介して受け取ったか判断する。受け取った場合、S821でビューワークライアント200の2次記憶装置230に検出記録データ480を保存する。その後、S822で、該当するカメラIDの映像が、図9(a)に示すように強調表示(901)された上で、所定の位置に検出記録データ480に含まれる背景情報データ360が表示(902)として並んで表示され、S801に戻る。強調表示(901)や背景情報データ360の表示(902)は、一定時間で元に戻ったり消えたりするなどの処理をしてもよい。また、次の検出によって上書きされることにしてもよい。
【0037】
図9(a)は、本実施形態の特徴である表示の例を示す図である。複数のカメラサーバー100からの映像が並んで表示されている。例えば、背景情報データ360にある像の持ち去りの検出記録データ480が保存されると、該当するカメラサーバー100(カメラIDが同一のもの)の表示が強調表示(901)される。また、検出記録データ480に含まれる背景情報データ360が同一画面上に並んで表示(902)されている。
【0038】
S820では、例えば定期的にネットワーク195を介して、カメラサーバー100の検出記録データ380を読み出しに行き更新があればS821に進むようにポーリングしてもよい。この場合、検出記録データ480の保存は必須ではない。
【0039】
S890で、終了イベントか否かを判断し、終了イベントでなければS801に戻る。このようにすることで、検出イベントが起こった際に判定の元となった背景情報データ360を明示することが可能になり、判定結果を人間が判断しやすくなる。
【0040】
(第2の実施形態)
前述した第1の実施形態では、背景情報データ360は撮像画角の全体であったが、本発明ではこれに限らず、特定の領域の背景情報を抽出する領域抽出処理を行うようにしてもよい。
本実施形態のシステムの構成図は、第1の実施形態の図1と同様であるが、図3(a)、(b)で示した1次記憶装置120上に置かれた対象検出プログラム320が対象検出プログラム321に置き換わる。また、検出記録プログラム330が検出記録プログラム331に置き換わり、領域指定プログラム341が、加わったものである(図10(a))。
【0041】
また、2次記憶装置130上の検出記録データ380は検出記録データ381に、検出設定データ390は検出設定データ391に、置き換わったものが保存される(図10(b))。
【0042】
また、第1の実施形態の図3(c)の1次記憶装置220上に置かれた、表示プログラム440が表示プログラム441に、置き換わったものである(図示せず)。なお、検出記録データ480は、検出記録データ381を受けて保存されるので、第1の実施形態と同様に処理される。
【0043】
領域指定プログラム341は、図9(b)に示すUIで指定されるように、ディスプレイ260に表示される映像903上で複数の位置をマウス250でクリックすることで座標を得る。そして、背景情報を表示する際に特定の撮像領域の形に合わせて領域表示するように指定する。例えば、点線で示される多角形904を指定することができる。この情報は検出設定データ391に保存される。
【0044】
差分が検出設定データ391に設定された閾値を超えた場合の対象検出プログラム321の動作の流れは、図6に示した対象検出プログラム320のフローチャートのS603の検出記録プログラム330が検出記録プログラム331に変わったものである。具体的には検出記録データ380の記録が、検出記録データ381の記録に置き換わったものである(図10(b))。
【0045】
検出記録データ381は、背景情報データ360から指定された多角形904を切り出して得られる背景画像ファイル(図示せず)と、イベントを表す「カメラID・イベント名・年月日時分秒・フレーム番号」などの情報と組にして記録するものである。
【0046】
表示プログラム441は、第1の実施形態の図8の表示プログラム440と同様の処理を行う。ただし、S822と同様の処理ステップでは、背景情報データ360から多角形904の領域が切り出された背景画像ファイルが、背景データ360の表示(902)の代わりに表示される。
【0047】
このようにすることで、検出イベントが起こった際に判定の元となった、指定された領域の背景情報データ360を明示することが可能になり、検出結果を人間が判断しやすくなる。
【0048】
(第3の実施形態)
第1の実施形態、第2の実施形態では、受信した映像を表示していたが、本発明ではこれに限らず、蓄積された映像を表示するようにしてもよい。
本実施形態のシステムの構成図は、第1の実施形態の図1と同様であるが、図3(c)で示した1次記憶装置220上に置かれた、表示プログラム440が、表示プログラム442に、置き換わり、蓄積プログラム452が加わったものである(図10(c))。
また、図3(d)で示した2次記憶装置230上の検出記録データ480が、検出記録データ482に、表示設定データ490が、表示設定データ492に、置き換わり、映像蓄積データ472が、加わったものである(図10(d))。
【0049】
表示プログラム442の処理手順を図11のフローチャートを参照しながら説明する。
最初のS1101でイベントの発生を待ち、イベントが発生するとS1110に進む。
S1110では、カメラサーバー100の撮像プログラム300からの映像を受けたか判断する。映像を受けた場合、S1111であらかじめ設定された表示設定データ490に基づき、ディスプレイ260の、該当するカメラIDに対する所定の位置に映像を表示する。ただし、この際、図8の表示プログラム440の動作と異なり、該当するカメラが録画表示モードの場合は映像表示しない。
【0050】
つづくS1112で、受け取った映像を映像蓄積データ472として、2次記憶装置230などに保存して、S1101に戻る。この処理は蓄積プログラム452で実現されるが、これは録画ソフトなどで従来からある技術で実現されるものである。
【0051】
図11のS1120からS1122の処理は、図8のS820からS822と同様に行われる。
【0052】
S1130の判断で録画表示モードの場合は、S1131に進む。録画表示モードは、従来からあるような録画表示ソフトで実現されるように、カメラIDで指定された映像が強調表示(901)などに該当する映像蓄積データ472を時間に沿って再生表示させる。また、時間軸上で対応付けする検出記録データ482などを元にイベント表示させたりするものである。録画表示モードでは、従来からあるようなUIを用いることで切り換えがなされ、タイマーなどを利用して時間に沿って映像蓄積データが再生される。
【0053】
S1131で、カメラIDで指定された映像表示領域901に映像蓄積データ472を再生表示する。
S1132の判断で、再生中の映像に該当する検出記録データ482がある場合、より具体的には例えば再生タイミングと同一タイミングの該当カメラの検出記録データ482がある場合、S1122に進む。そうでなければS1101に進んでイベントを待つ。
【0054】
S1122では、図8のS822と同様に、該当するカメラIDの映像が強調表示(901)された上で、所定の位置に検出記録データ482に含まれる背景情報データ360が表示(902)として並んで表示され、S1101に戻る。
【0055】
S1140の判断で録画表示モードの終了イベント場合、S1141で該当するカメラの録画表示モードが終了されて、S1101に戻ってイベントを待つ。こうすることで、次の映像受信で映像表示されるようになる。
図11のS1190の処理は、図8のS890と同様に行われる。
【0056】
このようにすることで、ビューワークライアント200で録画再生をする際にも、検出イベントが起こった際に判定の元となった、背景情報データ360を明示することが可能になり、再生時にも判定結果を人間が判断しやすくなる。
【0057】
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種のコンピュータ読み取り可能な記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【符号の説明】
【0058】
100 カメラサーバー、110 CPU、120 1次記憶装置、130 2次記憶装置、140 ビデオキャプチャI/F、180 内部バス、190 ネットワークI/F、195 ネットワーク
【特許請求の範囲】
【請求項1】
映像を入力する撮像手段と、
前記撮像手段から入力された入力映像を画像解析して背景情報を抽出する背景情報抽出手段と、
前記背景情報抽出手段から抽出された背景情報から背景差分法によって対象を検出する対象検出手段と、
前記対象検出手段により検出されたイベントと前記背景情報とを対応付けして記録する検出記録手段と、
前記対象検出手段により検出されたイベントと前記背景情報とを表示装置に表示する表示手段とを有し、
前記イベントを前記表示装置に表示する際に、前記背景情報と共に表示することを特徴とする画像解析装置。
【請求項2】
前記表示装置に表示する情報をネットワーク経由で配信する配信手段を有し、
前記配信手段は、前記対象検出手段が対象を検出した時に前記表示装置に表示する背景情報を配信することを特徴とする請求項1に記載の画像解析装置。
【請求項3】
前記入力映像の特定の領域を指定する領域指定手段と、
前記領域指定手段により指定された特定の領域の背景情報を抽出する領域抽出手段とを有し、
特定の撮像領域の検出結果を容易に判定できるようにしたことを特徴とする請求項1または2に記載の画像解析装置。
【請求項4】
前記表示装置に背景情報を表示する際に特定の領域の形に合わせて表示するよう指定する領域表示手段を有し、
前記特定の撮像領域の検出結果を、前記領域表示手段により特定の領域の形に合わせて表示することを特徴とする請求項3に記載の画像解析装置。
【請求項5】
入力画素の変化の時間的な変化を勘案して背景の画素状態を生成して適応的に背景モデルを随時更新する適応的背景情報抽出手段と、
前記対象検出手段により検出されたイベントと前記適応的背景情報抽出手段により随時更新される適応的背景情報を組にして記録する検出組記録手段とを有し、
特定の撮像領域の検出結果に対応する適応的な背景情報を明示することを特徴とする請求項1〜4の何れか1項に記載の画像解析装置。
【請求項6】
映像を入力する撮像工程と、
前記撮像工程から入力された入力映像を画像解析して背景情報を抽出する背景情報抽出工程と、
前記背景情報抽出工程において抽出された背景情報から背景差分法によって対象を検出する対象検出工程と、
前記対象検出工程において検出されたイベントと前記背景情報とを対応付けして記録する検出記録工程と、
前記対象検出工程において検出されたイベントと前記背景情報とを表示装置に表示する表示工程とを有し、
前記イベントを前記表示装置に表示する際に、前記背景情報と共に表示することを特徴とする画像解析方法。
【請求項7】
映像を入力する撮像工程と、
前記撮像工程から入力された入力映像を画像解析して背景情報を抽出する背景情報抽出工程と、
前記背景情報抽出工程から入力された背景情報から背景差分法によって対象を検出する対象検出工程と、
前記対象検出工程において検出されたイベントと前記背景情報とを対応付けして記録する検出記録工程と、
前記対象検出工程において検出されたイベントと前記背景情報とを表示装置に表示する表示工程とをコンピュータに実行させ、
前記イベントを前記表示装置に表示する際に、前記背景情報と共に表示することを特徴とするプログラム。
【請求項8】
請求項7に記載のプログラムを記憶したことを特徴とするコンピュータ読み取り可能な記憶媒体。
【請求項1】
映像を入力する撮像手段と、
前記撮像手段から入力された入力映像を画像解析して背景情報を抽出する背景情報抽出手段と、
前記背景情報抽出手段から抽出された背景情報から背景差分法によって対象を検出する対象検出手段と、
前記対象検出手段により検出されたイベントと前記背景情報とを対応付けして記録する検出記録手段と、
前記対象検出手段により検出されたイベントと前記背景情報とを表示装置に表示する表示手段とを有し、
前記イベントを前記表示装置に表示する際に、前記背景情報と共に表示することを特徴とする画像解析装置。
【請求項2】
前記表示装置に表示する情報をネットワーク経由で配信する配信手段を有し、
前記配信手段は、前記対象検出手段が対象を検出した時に前記表示装置に表示する背景情報を配信することを特徴とする請求項1に記載の画像解析装置。
【請求項3】
前記入力映像の特定の領域を指定する領域指定手段と、
前記領域指定手段により指定された特定の領域の背景情報を抽出する領域抽出手段とを有し、
特定の撮像領域の検出結果を容易に判定できるようにしたことを特徴とする請求項1または2に記載の画像解析装置。
【請求項4】
前記表示装置に背景情報を表示する際に特定の領域の形に合わせて表示するよう指定する領域表示手段を有し、
前記特定の撮像領域の検出結果を、前記領域表示手段により特定の領域の形に合わせて表示することを特徴とする請求項3に記載の画像解析装置。
【請求項5】
入力画素の変化の時間的な変化を勘案して背景の画素状態を生成して適応的に背景モデルを随時更新する適応的背景情報抽出手段と、
前記対象検出手段により検出されたイベントと前記適応的背景情報抽出手段により随時更新される適応的背景情報を組にして記録する検出組記録手段とを有し、
特定の撮像領域の検出結果に対応する適応的な背景情報を明示することを特徴とする請求項1〜4の何れか1項に記載の画像解析装置。
【請求項6】
映像を入力する撮像工程と、
前記撮像工程から入力された入力映像を画像解析して背景情報を抽出する背景情報抽出工程と、
前記背景情報抽出工程において抽出された背景情報から背景差分法によって対象を検出する対象検出工程と、
前記対象検出工程において検出されたイベントと前記背景情報とを対応付けして記録する検出記録工程と、
前記対象検出工程において検出されたイベントと前記背景情報とを表示装置に表示する表示工程とを有し、
前記イベントを前記表示装置に表示する際に、前記背景情報と共に表示することを特徴とする画像解析方法。
【請求項7】
映像を入力する撮像工程と、
前記撮像工程から入力された入力映像を画像解析して背景情報を抽出する背景情報抽出工程と、
前記背景情報抽出工程から入力された背景情報から背景差分法によって対象を検出する対象検出工程と、
前記対象検出工程において検出されたイベントと前記背景情報とを対応付けして記録する検出記録工程と、
前記対象検出工程において検出されたイベントと前記背景情報とを表示装置に表示する表示工程とをコンピュータに実行させ、
前記イベントを前記表示装置に表示する際に、前記背景情報と共に表示することを特徴とするプログラム。
【請求項8】
請求項7に記載のプログラムを記憶したことを特徴とするコンピュータ読み取り可能な記憶媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2012−4670(P2012−4670A)
【公開日】平成24年1月5日(2012.1.5)
【国際特許分類】
【出願番号】特願2010−135319(P2010−135319)
【出願日】平成22年6月14日(2010.6.14)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年1月5日(2012.1.5)
【国際特許分類】
【出願日】平成22年6月14日(2010.6.14)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]