説明

画像ネットワークシステム、画像送信システム及び画像取得システム

【課題】カメラ群で撮影された画像データを、衛星回線を利用して監視センタで収集し監視する場合、カメラ数が増えるに従い通信帯域が逼迫する問題を解決する。
【解決手段】画像を撮影する複数のカメラ10と、カメラによって撮影された画像を表示するモニタ13とを備える画像ネットワークシステムにおいて、カメラによって撮影された画像データを管理するカメラサーバ20、及びモニタからの画像要求及びカメラサーバからの画像データを中継する伝送制御サーバ30を備え、カメラサーバは撮影した画像と予め撮影されていた背景画像との差分画像を算出して伝送制御サーバへ送信し、伝送制御サーバは差分画像と背景画像を用いてカメラ撮影画像を復元する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数のカメラを備える画像ネットワークシステム、画像送信システム及び画像取得システムに関する。
【背景技術】
【0002】
WebカメラなどのIP接続可能な撮像装置が普及することにより、IPネットワークを利用した広域・大規模監視システムを構築することが可能となった。一方、カメラ台数が増えるに従い、ネットワーク帯域が逼迫するという問題がある。例えば、有線ネットワークを構築することが困難な地域では、衛星回線のネットワークを使用して、多数のカメラからの情報を収集することがある。その場合、狭帯域で効率よく画像を収集するシステムを構築する必要がある。
【0003】
狭帯域でデータを収集する技術として、無線ネットワークで接続されたセンサデータに関して、センサノードが測定したデータのうち、変化の小さいデータを間引いて送信し、データの差分のみを送信することで通信量を削減する技術が知られている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003−122796号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
IPネットワークを利用した広域・大規模監視システム上で、狭帯域の回線を利用して画像を収集する場合、カメラ配置や撮影している対象による優先度に応じて、効率よく画像を収集するシステムが必要となる。
【0006】
本発明は、複数のカメラで撮影した画像データを狭帯域下で効率よく収集する技術を提供するものである。また、カメラによって撮影された画像を画像処理することによって得られる動き検知の情報や、ユーザ指定の情報から、画像の転送の優先度を制御する手段を提供するものである。
【課題を解決するための手段】
【0007】
本発明による画像ネットワークシステムは、画像を撮影するカメラ、カメラによって撮影された画像データを管理するカメラサーバ、伝送制御サーバ、カメラによって撮影された画像を表示するモニタを備える。伝送制御サーバは、モニタからの画像要求をカメラサーバに中継し、カメラサーバからの画像データをモニタに中継する。カメラサーバは、カメラが撮影した画像とカメラによって予め撮影されていた背景画像との差分画像を算出して差分画像を伝送制御サーバへ送信し、伝送制御サーバは、予め送信された背景画像と新たに送信された差分画像とを用いてカメラによって撮影された画像を復元し、復元した画像をモニタに送付する。
【0008】
本発明による画像送信システムは、画像を撮影するカメラと、カメラによって撮影された画像データを管理するカメラサーバを備え、ネットワークを介して画像要求を受信したとき、カメラが撮影した画像を送信するシステムである。カメラサーバは、カメラが撮影した画像とカメラによって予め撮影されていた背景画像との差分画像を算出し、画像要求を受信したとき、差分画像と背景画像のIDを含む差分画像データを送信する。
【0009】
また、複数のカメラによって撮影された画像をネットワークを介して取得する本発明の画像取得システムは、画像IDが付与された画像を蓄積する画像蓄積手段、カメラIDを指定して、当該カメラによって撮影された画像と当該カメラによって予め撮影された背景画像との差分画像データをネットワークを介して要求する画像要求手段、差分画像と背景画像の画像IDとを含む差分画像データを受信し、差分画像データに含まれる画像IDを有する背景画像を画像蓄積手段から取得し、取得した背景画像と受信した差分画像とから指定したカメラによって撮影された画像を復元し、復元した画像を画像蓄積手段に保存する手段、受信済み画像の画像IDを管理する画像ID管理手段、画像要求を受け付ける手段を有する。画像要求を受け付けたとき画像ID管理手段を参照し、要求された画像が受信済みの画像である場合には画像蓄積手段から画像を取得し、未受信の画像である場合には画像要求手段によってネットワークを通じて所望の画像を取得する。
【0010】
各カメラが優先カメラか否かの情報を保持し、カメラによって撮影された画像に動きがあることを示す動き検知イベントを受信したとき、動き検知を行ったカメラが優先カメラである場合、画像要求手段からカメラを管理するカメラサーバへ画像要求を発行し、画像を取得する。また、動き検知イベントを受信したとき、動き検知を行ったカメラが優先カメラである場合、カメラの配置情報を参照して当該カメラ及びその周囲のカメラの画像取得間隔を短く設定し、他のカメラの画像取得間隔を長く設定するようにしてもよい。
【発明の効果】
【0011】
本発明によれば、多数のカメラを備える画像ネットワークシステムにおいて、システムの負荷を減少することができる。
【図面の簡単な説明】
【0012】
【図1】本発明の画像ネットワークシステムの構成例を示すブロック図である。
【図2】カメラサーバの機能を表すブロック図である。
【図3】伝送制御サーバの機能を表すブロック図である。
【図4】モニタ画面の例を示す図である。
【図5】差分画像データのフォーマットを示す図である。
【図6】作業計画書データのフォーマットを示す図である。
【図7】差分画像の算出方法と画像復元の方法を示す模式図である。
【図8】最新画像取得の手順を示すタイミングチャートである。
【図9】画像ID管理テーブルデータのフォーマットを示す図である。
【図10】画像IDデータのフォーマットを示す図である。
【図11】カメラ配置図の例を示す図である。
【図12】過去画像を取得する手順を示すフローチャートである。
【図13】イベント検知結果に基づく画像取得の例を示すタイミングチャートである。
【図14】伝送制御サーバにおける画像要求判断の手順を示すフローチャートである。
【図15】検索要求処理の流れを示すシーケンス図である。
【発明を実施するための形態】
【0013】
本発明の実施の形態について、図面を参照して説明する。
図1は、本発明の画像ネットワークシステムの構成例を示すブロック図である。
【0014】
<画像ネットワークシステムの構成>
本実施の形態の画像ネットワークシステムは、監視対象であるモニタリング拠点と監視センタをネットワーク100、例えば狭帯域の衛星回線で結んで構成される。モニタリング拠点には、複数のカメラ10、カメラ10に接続されたカメラサーバ20、本システムで取り扱われる画像を検索する第1の検索サーバ15、カメラ10によって撮影された画像を蓄積する第1の画像蓄積サーバ14、ICP/IPを通じてユーザへと画像を送信するWebサーバ40が置かれる。また、監視センタには、ユーザリクエストにより画像の取得を行う伝送制御サーバ30、カメラ10によって撮影された画像を表示するモニタ13、モニタに表示した画像等を蓄積する第2の画像蓄積サーバ16、画像を検索する第2の検索サーバ17が置かれる。さらに、本実施の形態の画像ネットワークシステムは、複数の移動ノード11を無線ネットワークによって接続したセンサネットワークを備える。移動ノード11は、作業者18によって携帯されるGPSなどの位置情報タグを備える。
【0015】
本実施の形態の画像ネットワークシステムによると、建造物内などの複数の固定位置にカメラ10が設置される。それぞれの固定カメラは、遠隔操作でパン・チルト・ズームが可能である。第1の画像蓄積サーバ14は、各カメラ10によって取得された画像を格納する。モニタ13は監視センタに設置され、管理者又は監視員19がモニタ13を用いて複数のカメラ10の画像を監視する。
【0016】
また、本システムは、予め設定されたノード11からのイベントを受信すると、イベントに関係する基地局12の位置に対応するカメラ10の画像をモニタ13の画面に表示する。基地局12は、既知の位置に固定されており、カメラ10と対応付けられている。そして、ノード11から送信されたイベントに基づいて、モニタ13にイベント発生位置に対応するカメラ10の画像を表示させることによって、人や物の通過などを監視することができる。また、モニタ13は、管理者19が操作部の操作によって選択したカメラ10によって撮影された画像を第1の画像蓄積サーバ14から取得して、選択されたカメラ10によって撮影された画像を高精細度で表示することができる。
【0017】
<モニタリング拠点の構成>
複数のカメラ10は、複数のカメラ群に区分されており、各カメラ群は、建造物などの所定の領域(例えば、各フロア)毎、又は、所定台数のカメラ毎に設定されている。そして、カメラ群毎に1台のカメラサーバ20が設置される。
【0018】
カメラ10は、レンズを含む光学系、画像を電気信号に変換する撮像部及び通信インターフェースを備える。カメラ10としては、例えば、IPネットワークに直接接続可能なIPカメラや、シリアルバスで接続可能なUSBカメラを用いることができる。カメラ10は、撮影対象領域に設置され、撮影対象領域の画像を撮影し、撮影された画像データを、所定のフレームレート及び解像度で出力する。カメラ10は、ネットワーク又はシリアルバスを介してカメラサーバ20に接続される。
【0019】
カメラサーバ20は、プロセッサ、メモリ及びネットワークインターフェースを備える計算機である。カメラサーバ20は、所定の単位毎(例えば、1フレーム毎、1GOP毎)にカメラ10に対して画像要求を発行し、カメラ10より画像データを受信する。画像要求を発行する間隔(フレームレート)は、任意に変更することが可能である。カメラサーバ20を画像受信待機状態にし、カメラ10が撮影した映像をカメラサーバ20に送付し、カメラサーバが受信する毎に逐次処理してもよい。また、カメラ10によって撮影された動画を第1の画像蓄積サーバ14からの要求に応じて所定の単位毎(例えば、1フレーム毎、1GOP毎)に第1の画像蓄積サーバ14へ送信する。さらにまた、Webサーバ40からの要求に従って、カメラ10より画像を取得し、Webサーバ40や第1の画像蓄積サーバ14へと画像を送信することもできる。カメラサーバ20は、画像要求があったときにのみ、最新の画像(例えば、1フレームの画像)を第1の画像蓄積サーバ14又はWebサーバ40、又は第1の画像蓄積サーバ14とWebサーバ40の両方へ送信し、その他の画像(例えば、過去のフレームの画像)は、後述するサムネイル画像106の生成及び特徴量105の抽出が完了すると、破棄する。
【0020】
図2を参照して後述するが、カメラサーバ20は、画像登録プログラムを実行することによって、カメラ10によって撮影された画像データから画像特徴量を抽出する。画像特徴量の抽出は、動き検出や顔検出の技術を用いて、予め定められた動きや、予め定められた顔が撮影された画像データから抽出するようにしてもよい。さらに、カメラサーバ20は、画像登録プログラムを実行することによって、撮影された画像データから低精細度の画像データ(サムネイル画像)を生成する。
【0021】
サムネイル画像は、カメラ10によって撮影された動画の解像度を小さくしたものである。例えば、カメラ10が640×480ドット(VGA)の解像度の画像を出力する場合には、カメラサーバ20はサムネイル画像として128×96ドットの画像を生成する。なお、以下の説明では、カメラ10によって撮影された原画像のことを、又はサムネイル画像106よりも高解像度の画像を高精細度画像という。抽出された画像特徴量及び生成された低精細度画像データ(サムネイル画像)はネットワークを介して第1の検索サーバ15に送られる。
【0022】
図1には、1台のカメラサーバ20を図示したが、複数のカメラサーバ20が備わってもよい。また、1台のカメラサーバ20に接続されるカメラ10の数は、カメラサーバ20に備わるリソースの容量によって任意に選択することができる。なお、カメラ10に備わるプロセッサが画像登録プログラムを実行することによって、カメラサーバ20の機能を備えてもよい。
【0023】
カメラサーバ20から第1の画像蓄積サーバ14宛に送信される情報と、第1の画像蓄積サーバ14からカメラサーバ20宛に送信される情報は、ネットワークを介して転送される。
【0024】
各カメラ10には所定の識別子(例えば、IPアドレス)が予め付与されている。第1の画像蓄積サーバ14は、カメラ10に付与された識別子によって、カメラ10を特定する。
【0025】
第1の画像蓄積サーバ14は、プロセッサ、メモリ、記憶装置及びネットワークインターフェースを備える計算機である。第1の画像蓄積サーバ14は、画像蓄積サーバプログラムを実行することによって、カメラサーバ20に対して高精細度画像要求を送信し、カメラ10によって撮影された画像(動画)データを取得し、取得した画像データを記憶装置に格納する。具体的には、第1の画像蓄積サーバ14は、画像を取得するカメラサーバ20のIPアドレス、及びカメラ識別子を指定して画像要求を送信する。
【0026】
また、第1の画像蓄積サーバ14は、カメラサーバ20から送付される画像データ101を待ち受け、受信すると共に逐次保存しても良い。第1の画像蓄積サーバ14は、画像データ101と共に送付されるカメラ10の識別子と、該カメラ10が撮影した時刻を、画像データ101と共に保存する。
【0027】
また、第1の画像蓄積サーバ14は、モニタ13から伝送制御サーバ30を中継して送られてきた画像要求に基づいて、格納されている画像データをモニタ13に送信する。図には、第1の画像蓄積サーバ14を1台だけ図示したが、複数台備わってもよい。
【0028】
Webサーバ40は、伝送制御サーバ30から画像要求を受信すると、受信した画像要求の宛先を、後述するように各カメラ群のカメラサーバ20、又は第1の画像蓄積サーバ14のアドレスとポート番号に変換してネットワークに送信する。
【0029】
Webサーバ40は、ネットワークを介して画像要求を受信すると、画像要求の宛先ポート番号からカメラサーバ20を特定し、特定したカメラサーバ20へ画像要求を転送する。このため、Webサーバ40は、ポート番号とカメラサーバ20の対応関係を示す転送先テーブルを備える。転送先テーブルには、画像要求を受信したポートと、画像要求の転送先の宛先(例えば、URL)の対応が設定される。
【0030】
カメラサーバ20は、Webサーバ40からの画像要求に対して最新の画像(高精細度画像)より算出した後述の差分画像データ104を所定の単位(例えば、1フレーム)だけ返信する。Webサーバ40は、画像の送信元のカメラサーバ20を特定するポート番号を宛先ポート番号に設定して、カメラサーバ20から受信した画像を伝送制御サーバ30へ送信する。
【0031】
<監視センタの構成>
次に、監視センタの構成要素について説明する。
第2の画像蓄積サーバ16は、前述したように、プロセッサ、メモリ、記憶装置及びネットワークインターフェースを備える計算機であり、カメラ10によって撮影された画像データを記憶装置に格納する。
【0032】
第2の検索サーバ17は、伝送制御サーバ30が受信した、又は伝送制御サーバ30が生成した画像特徴量及び低精細度画像データを格納する。また、モニタ13からの検索要求に基づいて、第2の画像蓄積サーバ16に蓄積された画像データの特徴量を検索し、検索結果(画像データの識別子及び低精細度画像データ)をモニタ13に返信する。なお、複数の画像検索サーバ17が、第2の検索サーバ群を構成してもよい。
【0033】
モニタ13は、プロセッサ、メモリ、ネットワークインターフェース、操作部、及び表示部を備え、画像ネットワークシステムの管理者19が操作する計算機であり、図4に示す通り、複数のカメラ10よって撮影された画像データから選択された又は全ての画像データをモニタ13の画面に表示する。具体的には、モニタ13は、複数のカメラ10によって撮影された画像のサムネイル画像(縮小画像)1101と該サムネイル画像を撮影したカメラのカメラID1601、所望のカメラ10の画像の高精細度画像1102と該高精細度画像を撮影したカメラのカメラIDと、を表示する。なお、操作部は、ディスプレイとキーボードやマウスなどで構成される。
【0034】
モニタ13は、管理者19が操作部の操作によって選択したカメラ10によって撮影された画像を伝送制御サーバ30を介して取得し、選択されたカメラ10によって撮影された画像を転送する優先度を上げるように制御する。
【0035】
伝送制御サーバ30は、プロセッサ、メモリ及びネットワークインターフェースを備える計算機である。なお、アドレス変換機能を有するネットワーク機器(例えば、スイッチ、ルータ)であってもよい。伝送制御サーバ30は、モニタ13とカメラサーバ20の間の論理的な通信経路上に配置され、モニタ13からカメラサーバ20に送信される画像要求を中継する際に、表示要求の画像が伝送済みか否かにより宛先を変更する。
【0036】
具体的には、伝送制御サーバ30は、モニタ13から送信される画像要求に含まれる画像IDがモニタ13に表示済みの画像IDの場合には監視センタの第2の画像蓄積サーバ16から画像を取得し、画像要求に含まれる画像IDがモニタに未表示の画像IDの場合にはWebサーバ40を通じて画像を取得する。このため、伝送制御サーバ30は、画像ID管理テーブルを備える。
【0037】
伝送制御サーバ30は、モニタ13から転送された画像要求をカメラサーバ20に送付する際、画像要求先であるカメラ10の優先度に基づき送付するか否かを制御する。この優先度は、モニタ13から送信される優先カメラ情報に基づいて決定される。伝送制御サーバ30によって転送される画像要求が優先制御されることによって、優先度が低い画像データは転送されづらくなる。そして、本実施の形態では、画像データが転送されないと次の画像要求が送信されないので、優先度が低い画像データの単位時間当たりに転送されるフレーム数は低下する。よって、優先度が低い画像データのフレームレートを低下させることができる。
【0038】
本実施の形態では、伝送制御サーバ30は監視センタ側、Webサーバ40はモニタリング拠点側(すなわち、カメラ側)に設置される。また、伝送制御サーバ30とWebサーバ40との間は、ネットワーク100によって接続されている。このように、伝送制御サーバ30及びWebサーバ40が協働することによって、ネットワーク100によって転送されるトラフィックを削減することができる。
【0039】
<カメラサーバ>
次に、カメラサーバ20について図2を用いて説明する。
カメラサーバ20は、カメラ通信部201、センサ通信部202、差分算出部203、特徴量算出部204、Webサーバ通信部205、蓄積サーバ通信部206、検索サーバ通信部207を備える。
【0040】
カメラ通信部201は、カメラに対し所定の間隔(例えば、1秒間10回。以下、該間隔をフレームレートと呼ぶ)で画像要求を発行し、カメラが撮影した画像データ101を受信する。センサ通信部202は、基地局12が通信している移動ノード11の識別子と、その基地局12の識別子を、当該基地局12より受信する。
【0041】
特徴量算出部204は、カメラ10によって撮影された画像データ101から画像特徴量105を抽出する。画像特徴量105の抽出には動き検出、顔検出の技術が用いられる。具体的には、予め撮影されている顔画像と画像データ101を比較し、画像データ101上に顔画像を走査しつつ類似度を算出する。類似度が閾値を超えた場合、顔画像有りとして検知情報を通知すると共に、輪郭情報と色情報を特徴量として算出する。さらに、特徴量算出部204は、撮影された画像データから低精細度の画像データ(サムネイル画像106)を生成する。算出された特徴量105及びサムネイル画像106には、当該画像を撮影したカメラIDと、撮影時刻、画像毎に割り振られる画像IDが付与される。生成した特徴量105とサムネイル画像106は、検索サーバ通信部207を通じて、第1の検索サーバ15へと送付される。
【0042】
差分算出部203は、カメラ通信部201を通じて得られた画像データと、予め撮影されて第1の画像蓄積サーバ14に格納されている背景画像データ103との差分値を算出する。差分値は画素毎に算出され、差分値の分散、ないし合計が設定値を超えた場合、背景更新要として背景更新イベントを発行する。また、背景更新イベントは、カメラのパン・チルト・ズームの設定情報が変更された際に発行しても良い。背景更新要の場合、差分検出部203は、画像データ101に背景画像IDを付与することで背景画像データ103を生成し、蓄積サーバ通信部206を介して該背景画像データ103を第1の画像蓄積サーバ14へと保存する。
【0043】
蓄積サーバ通信部206は、第1の画像蓄積サーバ14への画像データの登録、及び第1の画像蓄積サーバ14からの画像データの取得を行う。第1の画像蓄積サーバ14へと登録される画像データには、カメラ10から取得した画像データ101や、差分画像データ104、背景画像データ103がある。蓄積サーバ通信部207は、画像データに、該画像を撮影したカメラIDと、撮影時刻、画像毎に割り振られる画像IDを付与し、第1の画像蓄積サーバ14へと登録する。
【0044】
Webサーバ通信部205は、Webサーバ40とデータの送受信を行う。Webサーバ通信部205は、Webサーバ40からの要求に応じ、背景画像データ103、差分画像データ104、センサデータ102、イベント通知108を送付する。Webサーバ40に送付される背景画像データには、その背景画像を撮影したカメラ10のカメラIDが付与される。イベント通知108の内容は、イベントが発生したカメラのカメラIDと、イベント内容から成り、イベント内容は動き検知、顔検知、背景更新などがある。図5に、差分画像データ104のデータ形式を示す。すなわち、差分画像データ104は、画像ID801、差分画像データを算出する際に使用した背景の画像ID802、差分画像の元となった画像データ上での差分画像の位置を示す座標803、及び画像データ804を保持している。また、Webサーバ通信部205は、Webサーバ40よりフレームレート設定107を受信する。フレームレート設定107は、対象となるカメラのカメラIDと、フレームレートが記述されている。フレームレート設定107を受信したカメラサーバ20は、そのフレームレート設定の記述に従い、該当カメラのフレームレートの設定変更を行う。
【0045】
<伝送制御サーバ>
次に、伝送制御サーバ30の機能を、図3を用いて説明する。
伝送制御サーバ30は、Webサーバ通信部301、フレームレート設定部302、画像復元部303、検索サーバ通信部304、蓄積サーバ通信部308、リクエスト受付部306、リクエスト処理部305、モニタ通信部307からなる。伝送制御サーバ30は、Webサーバ通信部301を介してネットワークを通じて論理的に接続されているWebサーバ40と通信を行い、背景画像データ103、差分画像データ104、センサデータ102、イベント通知108を取得する。
【0046】
画像復元部303は、差分画像データ104から元画像の復元を行う。具体的には、差分画像データ104に記載の背景画像ID802を取得し、第2の画像蓄積サーバ16から背景画像ID802に対応する背景画像データを取得する。そして、対応する背景画像がある場合、背景画像上の座標803の位置に差分画像データ804を上書きすることにより、元画像を復元する。差分画像データ104に対応する背景画像が無い場合、設計図322よりコンピュータグラフィックを用いて生成した背景画像上に、差分画像データ104を重ね合わせることにより、元画像を復元する。
【0047】
リクエスト受付部306は、ユーザからの画像要求312を受け付ける。受け付けた画像要求312は、リクエスト処理部305にて図12で後述するフローに従い解釈される。すなわち、該画像がモニタに未表示の場合にはWebサーバ通信部301を通じて画像データを取得する。該画像がモニタに表示済みである場合、蓄積サーバ通信部308を通じて第2の画像蓄積サーバ16より画像データを取得する。そのため、伝送制御サーバ30は、受信済みの画像のIDを管理する画像ID管理テーブル309を備える。取得した画像データ313は、モニタ通信部307を通じてモニタ13へと送付される。
【0048】
フレームレート設定部302は、Webサーバ40と伝送制御サーバ30の間のネットワークトラフィックが、設定値を超えないよう、各々のカメラのフレームレートの設定を行う。フレームレートは、作業計画書321やユーザリクエスト、イベント通知により変更される。具体的には、作業計画書321は、図6に示す通り、カメラID1601と、そのカメラの撮影範囲で作業する時間1401からなり、作業計画書321に基づき、作業が計画されている時間帯に作業が計画されている箇所を撮影しているカメラのカメラサーバで動き検知された場合はフレームレートを下げ、作業が計画されていない箇所を撮影しているカメラのカメラサーバで動き検知された場合はフレームレートを上げる。また、ユーザから画像取得リクエストのあったカメラのフレームレートを上げ、その他のカメラのフレームレートを下げる。すなわち、各カメラのフレームレートをxi[fps]、ネットワーク帯域の上限をf[bps]、画像データの容量をd[bit]とした場合、次式の条件を満たすよう、各カメラのフレームレートの設定を行う。
【0049】
【数1】

【0050】
Webサーバ通信部301は、Webサーバ40へのフレームレート設定107の発行や画像取得要求の発行を行い、Webサーバ40から背景画像データ103や差分画像データ104などの画像データ、イベント通知108やセンサデータ102の取得を行う。イベント通知108が動き検知や顔検知の場合、フレームレート設定部302に問い合わせて、イベントが発生したカメラのフレームレートを変更するか、画像データやセンサデータ102を取得するかを決定する。イベント通知108が背景更新であった場合、伝送制御サーバ30は背景画像要求を送信し、Webサーバ40を通じて背景画像データ103を取得し、蓄積サーバ通信部308を通じて第2の画像蓄積サーバ16へと保存する。
【0051】
検索サーバ通信部304は、画像復元部303で復元した画像から算出した画像特徴量やサムネイル画像を第2の検索サーバへ登録したり、第2の検索サーバに画像IDを特定して画像要求し、対応するサムネイル画像を取得するときに利用される。
【0052】
<ユーザリクエストによる画像の取得>
次に、ユーザリクエストにより最新の画像をカメラから取得する際の手順について、図7の模式図、及び図8のタイミングチャートを用いて説明する。図7は、カメラサーバ20で実行される撮影画像データ101と背景画像データ103から差分画像データ104を生成する処理、及び伝送制御サーバ30で実行される背景画像データ103あるいは設計図322と差分画像データ104から画像データ101を復元する処理を模式的に示したものである。
【0053】
図8を参照して、ユーザ(監督者)はモニタ13を通じて、伝送制御サーバ30へ最新画像要求312を送付する。ユーザによる最新画像要求312は、例えばモニタ13上で1つのサムネイル画像を指定することにより、カメラIDを特定して行われる。伝送制御サーバ30は、最新画像要求をリクエスト受付部306にて受信すると、リクエスト処理部305において差分画像要求401へと変換し、差分画像要求401をWebサーバ40へと送信する。Webサーバ40は、差分画像要求401を受信すると、カメラサーバ20へと差分画像要求401を送付する。カメラサーバ20は、差分画像要求401を受信すると、画像要求402を特定されたカメラIDのカメラ10へと発行し、カメラ10が撮影した画像データ101を受信する。その後、背景画像データ103を第1の画像蓄積サーバ14より取得し、差分を抽出する(S403)ことにより差分画像データ104を生成し、該差分画像データ104をWebサーバ40へと送付すると共に、第1の画像蓄積サーバ14に保存し(S404)、画像特徴量の算出及びサムネイル画像の生成を行い、画像特徴量とサムネイル画像を第1の検索サーバ15へと登録する(S405)。
【0054】
Webサーバ40は、カメラサーバ20にて生成された差分画像データ104を受信すると、その差分画像データ104を伝送制御サーバ30へと送付する。伝送制御サーバ30は、差分画像データ104を受信すると、その差分画像データ104に対応する背景画像データ103を第2の画像蓄積サーバ16より取得し(S406)、背景画像データ103上に差分画像データ104を配置することで画像データを復元する(S407)。背景画像データ103が未受信の場合、設計図322を参照しコンピュータグラフィックを用いることで背景画像データを生成することもできる。
【0055】
その後、伝送制御サーバ30は、復元した画像データ313をモニタ13へと送付し、第2の蓄積サーバ16へと保存し(S408)、復元した画像から画像特徴量及びサムネイル画像の生成を行い、画像特徴量とサムネイル画像を第2の検索サーバ17へと登録する(S409)。また、伝送制御サーバ30は、受信した画像の画像IDを、図9に示されるデータフォーマットに従って、画像ID管理テーブル309へと保存する。画像ID管理テーブル309は、カメラID1601とフレームID1602、撮影時刻1603からなる画像ID801(図10)から抜粋した、カメラID1601と、受信済みフレームID1501を保持する。通信帯域が逼迫している場合は、差分画像データの代わりに移動ノード11の位置情報を含むセンサデータ102を通知するだけでもよく、センサデータ102を取得した伝送制御サーバ30は、背景画像データ103上に作業者を表すアイコンを表示することで、画像を復元してもよい。
【0056】
このようにしてユーザが指定して画像を取得する場合、その画像を撮影しているカメラは優先度が高いため、フレームレート設定部302は当該カメラのフレームレートを上げる。そして、カメラ配置図323を参照して、当該カメラの最近傍のカメラのフレームレートを次に高く、その他のカメラのフレームレートを低く設定する。カメラ配置図は、各カメラの隣接位置関係を保持した図である。図11に示すカメラ配置図の例を用いて説明する。いま、ユーザが作業者18を写しているカメラ10bの最新画像を要求したとする。このとき、伝送制御サーバ30のフレームレート設定部302は、カメラ10bのフレームレートを例えば10[fps]に設定する。そして、カメラ10bの最近傍のカメラ10a,10cのフレームレートを例えば5[fps]に設定し、その他のカメラのフレームレートを例えば1[fps]に設定する。
【0057】
フレームレートの設定情報107は、Webサーバ通信部301を介してWebサーバ40へと送付され、Webサーバ40は対応するカメラのカメラサーバ20に対し該フレームレート設定107を送付し、該フレームレート設定107を受信したカメラサーバ20は、該当するカメラのフレームレートを、フレームレート設定107に記載されたフレームレートに設定する。このような優先度の条件は、最終的にはシステムが適用される場所に依存するものである。
【0058】
次に、ユーザリクエストにより過去画像を取得する際の伝送制御サーバ30での処理の流れを、図12のフローチャートを用いて説明する。
【0059】
ユーザ19はモニタ13に表示されているアプリケーションを通じて、過去画像を指定する。過去画像が必要とされる場合の例としては、例えば、検索結果のサムネイル画像316を取得し、該サムネイル画像の元となった高精細画像を取得する場合や、過去の時刻や場所を指定して画像を取得する場合がある。
【0060】
モニタ13は、ユーザ19から受け付けたリクエストを、画像IDへと変換して、画像要求312として伝送制御サーバ30へと送付する。伝送制御サーバ30は、リクエスト受付部306にて画像要求を受け付ける(S601)と、リクエスト処理部305において該画像要求に含まれる画像IDを抽出し、画像ID管理テーブル309に問い合わせて、取得済みフレームID1501に該フレームIDが存在するか否かを検索し(S602)、画像IDの有無を判断する(S603)。
【0061】
画像ID管理テーブル309に当該画像IDがある場合、第2の画像蓄積サーバ16に問い合わせて、該画像IDに対応する画像データを取得し(S604)、モニタ13へと画像を送信する(S610)。
【0062】
画像ID管理テーブル309に当該画像IDが無い場合、Webサーバ40に差分画像要求を発行すると、Webサーバは該差分画像要求に含まれる画像IDを取得し、第一の蓄積サーバ14に画像IDの有無を問い合わせ、第一の蓄積サーバに画像IDが存在する場合、該当する画像を取得し、伝送制御サーバ30へと送付する。伝送制御サーバは、画像データを復元すると共に、画像ID管理テーブル309に画像IDを登録する。その後、第2の画像蓄積サーバ16へと復元した画像データを保存し、画像特徴量を算出し検索サーバ17へと登録する。そして、復元した画像データを、モニタへと送信する。
【0063】
<イベント検知による伝送制御>
次に、イベント検知結果に基づき、通信帯域の制御を行う手順について、図13のタイミングチャートを用いて説明する。
【0064】
伝送制御サーバ30は、Webサーバ40に対して、イベント通知依頼701を発行すると、イベント待機状態(S702)となる。
【0065】
カメラサーバ20は、カメラ10に対して所定の間隔(例えば1秒間隔)で画像要求402を発行する。カメラは画像要求402を受信すると、画像を撮影し、撮影した画像を画像データ101としてカメラサーバ20へと送付する。カメラサーバ20は、画像データ101を受信すると、当該カメラが撮影している範囲内で動きがないかを判定する(S703)。動き判定の方法には、背景差分、フレーム間差分、オプティカルフローなどがあり、どの方法を用いてもよい。動き判定の結果動きが無い場合には、該画像データを破棄又は蓄積サーバに登録し、再びカメラに対して画像要求402を発行し、カメラから画像データ101を受信し、動き判定を行う(S703)。動き判定の結果、動きがある場合には、Webサーバ40に対し動き通知として発報704し、画像データ101から動き領域を切り出した差分画像を生成し(S705)、カメラサーバ内のキャッシュで保持する。その後、Webサーバ40から差分画像の要求706を受信すると、差分画像データ707をWebサーバ40へと送付する。
【0066】
Webサーバ40は、カメラサーバ20より発報704を受信すると、伝送制御サーバ30へとイベント通知708を行う。伝送制御サーバ30は、イベント通知708を受信すると、図14にて後述する画像要求判断を行う(S709)。判断の結果、画像要求が不要と判断された場合、Webサーバ40に対して再びイベント通知依頼を発行701し、イベント待機状態(S702)になる。判断の結果、画像要求が必要とされた場合には、Webサーバ40に対して差分画像要求706を発行する。
【0067】
Webサーバ40は、差分画像要求706を受信すると、カメラサーバ20に対して差分画像要求706を発行し、カメラサーバ20より該当する差分画像データ707を受信し、受信した差分画像データ707を伝送制御サーバ30へと送付する。
【0068】
伝送制御サーバ30は、差分画像データ707を受信すると、該当する背景画像103を第2の画像蓄積サーバ16より取得し、図7にて説明した通り、背景画像103上に差分画像データ707を配置することで画像データ101を復元し、復元した画像データ101をモニタ13へと送付する。こうして監視が必要とされるカメラの撮影視野中に動きがあったときだけ、しかも動きがあった個所の画像だけが送付されるため、ネットワークの通信量を大きく削減することができる。
【0069】
次に、伝送制御サーバ30における画像要求判断(S709)のフローを、図14のフローチャートを用いて説明する。
【0070】
伝送制御サーバ30は、Webサーバ40よりイベント通知708を受信すると(S901)、イベントの起こったカメラIDにより、そのカメラが優先カメラか否かを判断する(S902)。カメラの優先順位はユーザが設定することもできるし、作業計画書321を参照し、作業予定場所か否かで判断することも可能である。例えば、作業予定の場所で動きがある場合には、想定内の動きであるため、その場所を撮影しているカメラは優先カメラでは無いと判断でき、作業予定外の場所で動きがある場合には、その動きは想定外のため、優先カメラであると判断する。また、作業者18がボタンを押下するなどのイベントも考えられ、その場合はそのイベント発生個所のカメラは優先カメラであると判断する。このような優先度の条件は、最終的にはシステムが適用される場所に依存するものである。
【0071】
また、伝送制御サーバ30は、イベントの優先度に応じて、カメラのフレームレートの設定を行う。具体的には、イベントの起こったカメラが優先カメラである場合、当該カメラのフレームレートを高く(例えば1[fps])設定し、カメラ配置図を参照してそのカメラの近傍のカメラのフレームレートを次に高く(例えば5[fps])設定する。
【0072】
特に、イベントが動き検知である場合、イベント検知したカメラで撮影された移動物体の移動方向を撮影しているカメラの優先度を高く設定し、フレームレートを高く設定する。そして、その他のカメラのフレームレートを低く設定する。図11に示した例で説明すると、いま、カメラ10bによって撮影された画像に基づいてカメラサーバで動き検知イベントが発生され、背景画像に対する複数の差分画像の時系列的な位置関係から撮影された移動物体18の移動方向が図に矢印で示す方向であると判定されたとする。移動物体18の移動方向は、動き検知イベントによって報知される。このとき、カメラ10bが優先カメラであれば、カメラ10bのフレームレートを例えば10[fps]に設定する。そして、カメラ配置図を参照して、移動物体18の移動方向のカメラ10c,10dのフレームレートを例えば8[fps]に設定する。他のカメラのフレームレートは、例えば1[fps]に設定する。
【0073】
フレームレートの設定情報107は、Webサーバ通信部301を介してWebサーバ40へと送付され、Webサーバ40は対応するカメラのカメラサーバ20に対しフレームレート設定107を送付し、フレームレート設定107を受信したカメラサーバ20は、該当するカメラのフレームレートを、フレームレート設定107に記載されたフレームレートに設定する。
【0074】
イベントの起こったカメラIDが、優先カメラである場合は、Webサーバ40に対して差分画像要求706を発行し(S903)、Webサーバ40より差分画像データ707を受信し、差分画像データ707に記載の背景画像IDに対応する背景画像103を第2の画像蓄積サーバ16より取得し(S710)、図7に示す通り、背景画像103上に差分画像データ707を配置することで画像データを復元し(S711)、復元した画像データをモニタへと送付する。その後、イベント通知依頼701をWebサーバ40へと発行し(S904)、イベント待機状態となる。
【0075】
<検索時の動作>
検索時の動作に関して、図15を用いて説明する。
図15は、検索結果がモニタに未表示である場合の、検索要求処理の流れを示すシーケンス図である。ユーザはモニタ13に表示されている画像を選択し、検索クエリとして検索サーバへと送信し、検索を行うことで、選択した画像と類似する画像を得ることができる。
【0076】
モニタ13はユーザから検索要求を受け付けると、検索要求に含まれる画像IDを検索クエリ1201として伝送制御サーバ30へと送付する。伝送制御サーバ30は、検索クエリ1201を受け取ると、Webサーバ40へとその検索クエリを送付する。Webサーバ40は、検索クエリを受信すると、その検索クエリを第1の検索サーバ15へと送信する。第1の検索サーバ15は、検索クエリを受け取ると、第1の検索サーバ15内に蓄積されている当該検索クエリに対応する画像の特徴量を取得し、その画像特徴量と類似度の高い画像の画像ID1203を導出する(S1202)。画像ID1203は、最も類似度の高い単一の画像IDでも良く、類似度の高い順に複数個、例えば10個の画像IDを示しても良い。
【0077】
導出された画像ID1203は、Webサーバ40に送付される。Webサーバ40は、画像ID1203を受信すると、伝送制御サーバ30へと画像ID1203を送付する。伝送制御サーバ30は、画像ID1203を受信すると、画像ID管理テーブル309を参照し、該当IDが存在するか否かを判定する(S1204)。画像ID管理テーブル309内に、該当IDが存在する場合は、監視センタにある第2の検索サーバ17に対し、画像IDを画像要求1205として発行する。第2の検索サーバ17は、画像要求1205を受信すると、当該画像要求1205に記載の画像IDに対応するサムネイル画像1206を取得し、伝送制御サーバ30へと送付する。
【0078】
一方、画像ID1203が画像ID管理テーブル309に存在しない場合は、モニタリング拠点にある第1の検索サーバ15から検索結果を取得する必要がある。そのため、伝送制御サーバ30は、画像IDを画像要求1205としてWebサーバ40へと送付し、Webサーバ40はその画像要求1205を第1の検索サーバ15へと送付する。第1の検索サーバ15は、画像要求1205を受信すると、画像要求1205に記載された画像IDに対応するサムネイル画像1206を取得し、Webサーバ40へと送付する。Webサーバ40は、サムネイル画像1206を受信すると、伝送制御サーバ30へと送付する。
【0079】
伝送制御サーバ30は、サムネイル画像1206を受信すると、当該サムネイル画像1206を検索結果1207としてモニタ13へと送付する。ユーザはアプリケーションを通じて、モニタに表示されているサムネイル画像の元となった高精細画像を、図12の手順で取得することができる。
【0080】
以上説明したように、本発明の実施の形態では、伝送制御サーバ、Webサーバ、カメラサーバが協働し、カメラサーバが差分画像を生成し、伝送制御サーバが差分画像と背景画像から元画像データを復元することで、ネットワーク帯域を節約することができる。また、伝送制御サーバが優先度を元に画像取得の判断やフレームレートの調整を行うことで、ネットワーク帯域を節約することができ、システムの負荷を軽減することができる。
【0081】
画像データの転送の優先度を制御することによって、多数のカメラを備える監視システムにおける通信帯域を確保し、システムの負荷を軽減することができる。
【0082】
さらに、動き判定により動きのあるカメラ画像を優先的にかつ高いフレームレートで表示でき、効率的な監視をすることができる。
【0083】
また、移動ノードの位置情報を伝送制御サーバが解釈し、設計図上に該移動ノード位置を表示することで、センサデータのようなデータ量の少ないデータから画像データを復元することができ、システムの負荷を軽減することができる。
【符号の説明】
【0084】
10 カメラ
11 移動ノード
12 基地局
13 モニタ
14 第1の画像蓄積サーバ
15 第1の検索サーバ
16 第2の画像蓄積サーバ
17 第2の検索サーバ
20 カメラサーバ
30 伝送制御サーバ
40 Webサーバ
101 画像データ
103 背景画像データ
104 差分画像データ
203 差分算出部
302 フレームレート設定部
303 画像復元部
309 画像ID管理テーブル
323 カメラ配置図

【特許請求の範囲】
【請求項1】
画像を撮影するカメラと、前記カメラによって撮影された画像を表示するモニタと、を備える画像ネットワークシステムであって、
前記カメラによって撮影された画像データを管理するカメラサーバと、
前記モニタからの画像要求を前記カメラサーバに中継し、前記カメラサーバからの画像データを前記モニタに中継する伝送制御サーバと、を備え、
前記カメラサーバは、前記カメラが撮影した画像と前記カメラによって予め撮影されていた背景画像との差分画像を算出して当該差分画像を前記伝送制御サーバへ送信し、
前記伝送制御サーバは、予め送信された前記背景画像と前記送信された差分画像とを用いて前記カメラによって撮影された画像を復元し、前記復元した画像を前記モニタに送付することを特徴とする画像ネットワークシステム。
【請求項2】
請求項1に記載の画像ネットワークシステムにおいて、
前記カメラサーバは、前記背景画像と前記カメラが撮影した新規な画像との画素毎の差分値の分散又は合計を算出し、それが設定値を超えたとき背景更新イベントを発行し、背景画像要求を受信したとき前記新規な画像を背景画像として送信し、
前記伝送制御サーバは、前記背景更新イベントを受信したとき、背景画像を要求する画像要求を前記カメラサーバに送信することを特徴とする画像ネットワークシステム。
【請求項3】
請求項1に記載の画像ネットワークシステムにおいて、
前記カメラサーバは複数のカメラによって撮影された画像データを管理し、前記画像要求のあったカメラの画像取得間隔を他のカメラの画像取得間隔より短く設定することを特徴とする画像ネットワークシステム。
【請求項4】
画像を撮影するカメラと、前記カメラによって撮影された画像データを管理するカメラサーバとを備え、ネットワークを介して画像要求を受信したとき前記カメラが撮影した画像を送信する画像送信システムにおいて、
前記カメラサーバは、前記カメラが撮影した画像と前記カメラによって予め撮影されていた背景画像との差分画像を算出し、前記画像要求を受信したとき、前記差分画像と前記背景画像のIDを含む差分画像データを送信することを特徴とする画像送信システム。
【請求項5】
請求項4に記載の画像送信システムにおいて、
前記カメラサーバは、前記背景画像と前記カメラが撮影した新規な画像との画素毎の差分値の分散又は合計を算出し、それが設定値を超えたとき、背景更新イベントを発行すると共に前記新規な画像を新たな背景画像としてIDを付して保存し、背景画像要求を受信したとき前記IDを含む前記新たな背景画像のデータを送信することを特徴とする画像送信システム。
【請求項6】
請求項4に記載の画像送信システムにおいて、
前記カメラサーバは、前記カメラが撮影した画像と前記背景画像との差分を算出することで動きを検知し、動きを検知したとき動き検知イベントを送信するとともに前記カメラが撮影した画像と前記背景画像との差分画像を生成し、差分画像要求を受信したとき前記差分画像と前記背景画像のIDを含む差分画像データを送信することを特徴とする画像送信システム。
【請求項7】
請求項6に記載の画像送信粗ステムにおいて、
前記カメラサーバは、前記動き検知の際に動きの向きを算出し、前記動き検知イベントに動きの向きの情報を含ませて送信することを特徴とする画像送信システム。
【請求項8】
複数のカメラによって撮影された画像をネットワークを介して取得する画像取得システムであって、
画像IDが付与された画像を蓄積する画像蓄積手段と、
カメラIDを指定して、当該カメラによって撮影された画像と当該カメラによって予め撮影された背景画像との差分画像データを、ネットワークを介して要求する画像要求手段と、
差分画像と背景画像の画像IDとを含む差分画像データを受信し、当該差分画像データに含まれる画像IDを有する背景画像を前記画像蓄積手段から取得し、前記取得した背景画像と前記受信した差分画像とから前記指定したカメラによって撮影された画像を復元し、復元した画像を前記画像蓄積手段に保存する手段と、
受信済み画像の画像IDを管理する画像ID管理手段と、
画像要求を受け付ける手段とを有し、
画像要求を受け付けたとき前記画像ID管理手段を参照し、要求された画像が受信済みの画像である場合には前記画像蓄積手段から画像を取得し、未受信の画像である場合には前記画像要求手段によって前記ネットワークを通じて所望の画像を取得することを特徴とする画像取得システム。
【請求項9】
請求項8に記載の画像取得システムにおいて、
各カメラが優先カメラか否かの情報を保持し、
カメラによって撮影された画像に動きがあることを示す動き検知イベントを受信したとき、当該動き検知を行ったカメラが優先カメラである場合、前記画像要求手段から前記カメラを管理するカメラサーバへ画像要求を発行し、前記カメラサーバより画像を取得することを特徴とする画像取得システム。
【請求項10】
請求項8に記載の画像取得システムにおいて、
各カメラが優先カメラか否かの情報とカメラの配置情報とを保持し、
カメラによって撮影された画像に動きがあることを示す動き検知イベントを受信したとき、当該動き検知を行ったカメラが優先カメラである場合、前記カメラの配置情報を参照して当該カメラ及びその周囲のカメラの画像取得間隔を短く設定し、他のカメラの画像取得間隔を長く設定することを特徴とする画像取得システム。
【請求項11】
請求項8に記載の画像取得システムにおいて、
各カメラが優先カメラか否かの情報とカメラの配置情報とを保持し、
カメラによって撮影された画像に動きがあることを示す動き検知イベントを受信したとき、当該動き検知を行ったカメラが優先カメラである場合、前記カメラの配置情報を参照して動きの方向を撮影しているカメラの画像取得間隔を短く設定することを特徴とする画像取得システム。
【請求項12】
請求項8に記載の画像取得システムにおいて、カメラの背景画像が変更されたことを知らせる背景変更イベントを受信したとき、前記画像要求手段から背景画像要求を発行し、変更された背景画像を取得することを特徴とする画像取得システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate


【公開番号】特開2012−60531(P2012−60531A)
【公開日】平成24年3月22日(2012.3.22)
【国際特許分類】
【出願番号】特願2010−203547(P2010−203547)
【出願日】平成22年9月10日(2010.9.10)
【出願人】(000005452)株式会社日立プラントテクノロジー (1,767)
【Fターム(参考)】