画像表示装置、撮像装置、画像表示システム、画像表示方法および画像合成装置
【課題】目標色を用いた自動追尾処理において、撮像装置側で設定されている目標色の確認を監視者が容易に行えるようにする。
【解決手段】撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と目標色を示す色情報とを入力し、映像信号に基づく画像と色情報に基づく画像とを合成する表示制御手段と、表示制御手段により合成された合成画像を表示する表示手段と、追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備えた画像表示装置。
【解決手段】撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と目標色を示す色情報とを入力し、映像信号に基づく画像と色情報に基づく画像とを合成する表示制御手段と、表示制御手段により合成された合成画像を表示する表示手段と、追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備えた画像表示装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、目標色を用いて自動追尾処理を行なう撮像装置、この撮像装置から受信した画像を出力する画像表示装置およびこれらを備えた画像表示システムに関する。
【背景技術】
【0002】
監視カメラやビデオカメラ等の撮像装置において、特定の被写体を追尾対象物として自動的に追尾する技術が知られている。例えば、特許文献1には、追尾対象物が有している特定の色を目標色として記憶し、その目標色を基準に追尾対象物の位置を検出することで自動追尾を行なう撮像装置が記載されている。
【0003】
このような撮像装置は目標色を基準として追尾対象物の自動追尾を行なうが、追尾対象物の色は、光の当たり具合や、ビデオカメラによるホワイトバランス調整、露出調整等により見かけ上変化する。追尾対象物の色の見かけ上の変化に対応して自動追尾を継続するため、特許文献2には、追尾対象物の位置を検出した際に、目標色を再設定することが記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平5−284411号公報
【特許文献2】特開平7−154666号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述の技術等により、近年、目標色を用いた自動追尾の精度は向上しているが、追尾対象物の見かけ上の色の急激な変化や、近似色の他物体の存在等により、目標色と追尾対象物の色とが乖離して自動追尾が失敗することも起こり得る。このため、実際の監視現場においては、撮像装置からの映像を監視し、必要に応じて追尾対象物を再設定する監視者の判断が重要となる。
【0006】
しかしながら、従来の自動追尾処理においては、監視者は追尾対象物を指定するだけであり、どのような色が目標色として設定されたかを知ることができなかった。また、撮像装置によって目標色が更新された場合も、どのような色に更新されたかを知ることができなかった。このため、撮像装置で設定されている目標色と追尾対象物の色とがどの程度乖離したかを判断することができず、追尾対象物の再設定を適切に行なうことが難しかった。
【0007】
そこで、本発明は、目標色を用いた自動追尾処理において、撮像装置側で設定されている目標色の確認を監視者が容易に行える技術を提供することを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するため、本発明の第1の態様である画像表示装置は、撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御手段と、前記表示制御手段により合成された合成画像を表示する表示手段と、前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備える。
【0009】
ここで、前記表示制御手段は、直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することができる。
【0010】
また、前記表示制御手段は、前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することができる。
【0011】
上記課題を解決するため、本発明の第2の態様である撮像装置は、撮像を行ない、前記撮像に係る映像信号を出力する撮像手段と、追尾対象物と目標色との指定を受け付け、所定の条件を満たす場合には前記目標色を更新しつつ、設定される目標色を用いて、前記撮像に係る映像信号を対象に前記追尾対象物の追尾処理を行なうとともに、所定の条件を満たした場合に、前記目標色を更新し、更新した設定された前記目標色を示す色情報を出力する追尾処理手段とを備える。
【0012】
上記課題を解決するため、本発明の第3の態様である画像表示システムは、撮像装置と画像表示装置とを備えた画像表示システムであって、前記撮像装置は、撮像を行ない、前記撮像に係る映像信号を出力する撮像手段と、前記画像表示装置から追尾対象物と目標色との指定を受け付け、所定の条件を満たす場合には前記目標色を更新しつつ、設定される目標色を用いて、前記撮像に係る映像信号を対象に前記追尾対象物の追尾処理を行なうとともに、設定された前記目標色を示す色情報を出力する追尾処理手段とを備え、前記画像表示装置は、前記撮像装置から出力された前記映像信号と前記色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御手段と、前記表示制御手段により合成された合成画像を表示する表示手段と、前記追尾処理における追尾対象物の指示を外部から受け付け、受け付けた前記追尾対象物に基づいて目標色を取得し、受け付けた前記追尾対象物および取得した前記目標色を前記撮像装置に通知する追尾対象指示処理手段と、を備える。
【0013】
ここで、前記画像表示装置の表示制御手段は、直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することができる。
【0014】
また、前記画像表示装置の表示制御手段は、前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することができる。
【0015】
上記課題を解決するため、本発明の第4の態様である画像表示方法は、撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御ステップと、前記表示制御手段により合成された合成画像を表示する表示ステップと、前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示受付ステップとを有する。
【0016】
ここで、前記表示制御ステップは、直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することができる。
【0017】
また、前記表示制御ステップは、前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することができる。
【0018】
上記課題を解決するため、本発明の第5の態様である画像合成装置は、撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する画像合成手段と、前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備える。
【0019】
ここで、前記画像合成手段は、直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することができる。
【0020】
また、前記画像合成手段は、前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することができる。
【発明の効果】
【0021】
本発明によれば、目標色を用いた自動追尾処理において、撮像装置側で設定されている目標色の確認を監視者が容易に行える技術が提供される。
【図面の簡単な説明】
【0022】
【図1】本実施形態に係る監視システムのハードウェア構成を示すブロック図である。
【図2】第1実施例における監視カメラの機能構成を示すブロック図である。
【図3】PCの機能構成を示すブロック図である。
【図4】第1実施例におけるPCの動作を説明するフローチャートである。
【図5】第1実施例において表示装置に表示される画面例を示す図である。
【図6】第1実施例における監視カメラの動作を説明するフローチャートである。
【図7】第2実施例における監視カメラの機能構成を示すブロック図である。
【図8】実施例2における監視カメラの特徴的な動作を説明するフローチャートである。
【図9】実施例2におけるPCの特徴的な動作を説明するフローチャートである。
【図10】第2実施例において表示装置に表示される画面例を示す図である。
【図11】実施例3におけるPCの特徴的な動作を説明するフローチャートである。
【図12】変形例におけるPCの特徴的な動作を説明するフローチャートである。
【図13】変形例において表示装置に表示される画面例を示す図である。
【発明を実施するための形態】
【0023】
本発明の実施の形態について図面を参照して詳細に説明する。図1は、本実施形態に係る監視システムのハードウェア構成を示すブロック図である。本図に示すように監視システムは、撮像装置として機能する監視カメラ10と画像表示装置として機能するPC20とがネットワーク70を介して接続される構成である。監視カメラ10は、目標色を基準とした自動追尾機能を備えており、PC20は、監視カメラ10が撮像した映像に基づく画像を表示するために用いられる。PC20には、マウス、キーボード等の入力デバイス30と、監視カメラ10が撮像した映像を表示する表示装置40とが接続されている。なお、表示装置40にタッチパネル機能を備えさせ、入力デバイス30と表示装置40とを一体化するようにしてもよい。
【0024】
本図示すように監視カメラ10は、光学レンズと絞り機構とを含む撮像光学系11、撮像素子(CCD)12、信号処理回路(DSP)13、画像圧縮回路(ENC)14、NetworkI/F15、駆動機構16、CPU17、メモリ(MEM)18を備えている。
【0025】
撮像光学系11を通過した光は撮像素子(CCD)12により電気信号に変換され、信号処理回路(DSP)13において所定の信号処理を施され、デジタル映像信号が生成される。デジタル映像信号は、画像圧縮回路(ENC)14により所定の映像ストリームフォーマットで圧縮され、NetworkI/F15からネットワーク70を介してPC20に出力される。
【0026】
CPU17は、メモリ(MEM)18に格納されたプログラムにしたがって目標色を基準とした目標追尾処理を行ない、追尾対象物が監視カメラ10の画角に収まるように駆動機構16を制御する。駆動機構16は、駆動モータ、可動機構等を備えて構成され、パン、チルト、ズーム動作を行なう。
【0027】
PC20は、CPU21、メモリ(MEM)22、VideoCard23、インタフェース(I/F)24、ハードディスクドライブ(HDD)25、ネットワークインタフェースカード(NIC)26を備えており、汎用的な情報処理装置を用いて構成することができる。
【0028】
次に、上記ハードウェアで構成される監視システムにおける動作の第1実施例について説明する。図2は、第1実施例における監視カメラ10の機能構成を示すブロック図である。本図に示すように監視カメラ10は、撮像部110、追尾処理部120、カメラ制御部130、駆動部140を備えて構成される。
【0029】
撮像部110は、撮像光学系11、撮像素子(CCD)12、信号処理回路(DSP)13、画像圧縮回路(ENC)14等を備えて構成され、撮像処理およびデジタル映像信号の生成を行なう。ただし、生成する映像信号はアナログであってもよい。
【0030】
追尾処理部120は、CPU17がメモリ(MEM)18に格納されたプログラムにしたがって動作することにより構成され、目標色を用いた目標追尾処理を行なう。追尾処理部120が行なう目標追尾処理のアルゴリズムは限定されず、公知の技術を用いることができる。追尾処理部120は、記憶領域として画像格納部121、目標色格納部122を備えている。
【0031】
カメラ制御部130は、CPU17がメモリ(MEM)18に格納されたプログラムにしたがって動作することにより構成され、目標追尾処理によって得られた追尾対象物の領域に基づいて駆動部140を制御する。駆動部140は、駆動機構16を備えて構成され、カメラ制御部130の制御にしたがってパン、チルト、ズーム動作を行なう。
【0032】
図3は、PC20の機能構成を示すブロック図である。本図に示すように、PC20には、ビューワ処理部210が構成される。ビューワ処理部210は、CPU21がメモリ(MEM)22に格納されたビューワ用プログラムにしたがって動作することにより構成され、表示制御部211と、追尾対象指示処理部212とを備えている。
【0033】
表示制御部211は、監視カメラ10から出力されたデジタル映像信号に基づいて表示装置40に表示する画像を制御する。表示制御部211が表示装置40に表示する画像は、監視カメラ10が撮像した映像信号に基づく画像と、目標追尾処理において基準となっている目標色を示す情報とを合成した画像である。
【0034】
すなわち、本実施形態では、目標追尾処理において基準となっている目標色を示す情報が、監視側の表示装置40に表示される。これにより、監視者は、目標色と追尾対象物の色とがどの程度乖離したかを判断することができるため、追尾対象物の再設定を適切に行なうことができるようになる。
【0035】
追尾対象指示処理部212は、表示装置40に表示された画像から追尾対象物に対応する領域の指示を受け付け、その領域に基づいて目標色を取得する。そして、受け付けた領域の情報と取得した目標色の情報とを監視カメラ10に通知する。
【0036】
図4は、第1実施例におけるPC20の動作を説明するフローチャートである。本処理は、監視者によりビューワ用プログラムが起動され、自動追尾開始指示を受け付けることで開始する(S101)。ビューワ用プログラムが実行されることにより構成されるビューワ処理部210は、監視カメラ10に対して追尾対象物指定待ちの状態に移行させる。
【0037】
ビューワ処理部210の表示制御部211は、監視カメラ10から入力される映像信号に基づく画像を表示装置40に表示する(S102)。入力される映像信号に基づく画像の表示は、目標追尾処理を終了する指示を受け付けるまで連続的に繰り返す(S108)。
【0038】
監視者は、表示される画面上において、追尾対象物の指定を行なうことができる。追尾対象物の指定は、例えば、画面上の追尾対象物にカーソルを合わせてクリックすることで行なうことができる。あるいは、追尾対象物に対応する領域をドラッグすることで行なうようにしてもよい。さらには、タッチパネル式の表示装置40を用いている場合には,画面上の追尾対象物をタッチすることで行なうようにしてもよい。
【0039】
PC20の追尾対象指示処理部212は、監視者から追尾対象物の指定を受け付けると(S103:Yes)、受け付けた追尾対象物の領域情報を取得する(S104)。領域情報は、例えば、指定された位置の画面内における座標とすることができる。あるいは、指定された領域の左上座標および右下座標とすることができる。
【0040】
次いで、取得した領域情報に基づいて、目標色を取得する(S105)。目標色の取得は、例えば、指定された位置に対応する画素のRGB値を読み出して目標色とすることができる。あるいは、指定された位置の周辺画素のRGB平均値を目標色としたり、指定された領域に含まれる画素のRGB平均値等を目標色としてもよい。
【0041】
そして、取得した領域情報と、取得した目標色を監視カメラ10に通知する(S106)。後述するように、監視カメラ10は、通知された領域情報と目標色とに基づいて目標追尾処理を行ない、目標追尾処理の結果として得られた映像信号をPC20に送信する。
【0042】
追尾対象物の指定を受け付けた以降は、表示制御部211は、監視カメラ10から入力される映像信号に基づく画像に、処理(S105)で取得した目標色を示す情報を合成して表示装置40に表示する(S107)。
【0043】
図5は、表示装置40に表示される画像の例を示す図である。本図の例では、人物が追尾対象物として指定されており、人物の服400の色が目標色として設定されているものとする。本図に示すように、目標色を示す情報401が、監視カメラ10から入力される映像信号に基づく画像の右上に合成されて表示されている。目標色を示す情報401の表示は、オン/オフ切り替え可能なようにしてもよい。
【0044】
このように目標色を示す情報が画面上で示されるため、監視者は、目標追尾処理の基準となっている目標色を把握することができる。このため、例えば、照明の影響等で追尾対象物の見かけ上の色が変化した場合に、追尾対象物を指定した際の目標色からどの程度変化したかを認識することができるので、処理(S103)による追尾対象物の再指定を適切に行なうことができる。なお、追尾対象物の再設定を受け付けると(S103:Yes)、その後は、再設定の際に取得された目標色が表示されることになる(S107)。
【0045】
図6は、第1実施例における監視カメラ10の動作を説明するフローチャートである。監視カメラ10の追尾処理部120は、PC20から送られた領域情報と、目標色とを受信すると(S201:Yes)、受信した目標色を目標色格納部122に格納する(S202)。そして、格納した目標色を基準色として目標追尾処理(S203)を繰り返し行なう。また、監視カメラ10は、撮像した映像信号を画像圧縮回路(ENC)14で圧縮して、NetworkI/F15からPC20に出力する処理を目標追尾処理とは独立して繰り返す。
【0046】
上述のように、監視カメラ10の追尾処理部120が行なう目標色を用いた目標追尾処理は、アルゴリズムは限定されず、公知の技術を用いることができる。一例として、概略以下に示すような手順で行なうことができる。
【0047】
まず、画像フレームを画像格納部121に格納する。そして格納した画像フレームを複数のブロックに分割し、ブロックごとに目標色格納部122に格納された目標色との比較を行なう。この比較において、ブロック内に含まれる画素のうち目標色と同一あるいは近似する色の画素数をカウントする。この結果、最もカウント数の多いブロックに追尾対象物が存在しているものと判断することで目標追尾処理を行なう。その後、目標追尾処理によって得られた追尾対象物の領域が画角に収まるように、パン、チルト、ズーム動作を行なうようにする。
【0048】
次に、上記構成による監視システムにおける動作の第2実施例について説明する。第2実施例では第1実施例との相違点を中心に説明する。第2実施例では、追尾対象物の見かけ上の色が変化したときに、監視カメラ10が目標色を更新する場合について説明する。
【0049】
図7は、第2実施例における監視カメラの機能構成を示すブロック図である。第1実施例と同じブロックについて同じ符号を付し、説明は省略する。なお、PC20は第1実施例と同様の機能構成とすることができる。
【0050】
本図に示すように監視カメラ10aは、撮像部110、追尾処理部120a、カメラ制御部130、駆動部140から構成される。追尾処理部120aは、画像格納部121、目標色格納部122に加え、目標色を更新する処理を行なう目標色更新部123を備えている。
【0051】
ここで、第2実施例における目標追尾処理と、目標色更新部123が行なう目標色更新処理について説明する。第2実施例における目標追尾処理と目標色更新部123が行なう目標色更新処理とは、アルゴリズムは限定されず、公知の技術を用いることができる。
【0052】
本実施例では、パーティクルフィルタによる目標追尾処理を行なうものとする。パーティクルフィルタは、現状態から起こり得る多数の次状態を、多数のパーティクルに見立て、全パーティクルの尤度に基づいた重み付き平均を次状態として予測しながら目標追尾を行っていくアルゴリズムである。
【0053】
目標色更新部123は、目標色格納部122に格納されている目標色を対象として各パーティクルの尤度を測定した結果、尤度の高いパーティクルが十分存在しなくなった場合に目標色更新処理を行なうようにする。
【0054】
目標色更新処理では、各パーティクルの尤度の測定対象を目標色から、前後のフレーム間の輝度差に切り替えることで動きのあった領域を検出する。そして、動きが検出された領域が追尾対象物の位置と推定し、その領域から取得した色を新たな目標色として設定し、目標色格納部122に格納する。その後、更新された目標色を用いて目標追尾処理を再開するものとする。
【0055】
もちろん、本実施例における目標追尾処理、目標色更新処理は他の公知技術を用いるようにしてもよい。例えば、単純に、目標追尾処理毎に追尾対象物の色を再取得することで目標色を更新するようにしてもよい。
【0056】
図8は、第2実施例における監視カメラ10aの特徴的な動作を説明するフローチャートである。本動作は、図6に示した第1実施例における監視カメラ10の動作である目標追尾処理(S203)のサブルーチンとして行なわれる。
【0057】
すなわち、目標追尾処理(S203)において、目標色更新部123が、目標更新処理が必要であるかどうかを判断し(S301)、必要と判断した場合に目標色を更新する(S302)。目標更新処理が必要であるかどうかの判断基準および目標色を更新する処理は上記の通りである。
【0058】
そして、第2実施例では、監視カメラ10aによる目標追尾処理の結果推定された追尾対象物の領域情報と、最新の目標色とをPC20に通知する(S303)。追尾対象物の領域情報は、目標色更新の有無にかかわらず、目標追尾処理毎にPC20に通知するものとする。最新の目標色については、目標追尾処理毎に通知するようにしてもよいし、更新があった場合のみの通知するようにしてもよい。
【0059】
追尾対象物の領域情報は、例えば、追尾対象物に対応した矩形領域の対角の座標で表わすことができる。また、最新の目標色は、目標色格納部122に格納されている目標色のRGB値とすることができる。一般に、デジタル映像信号として広く用いられているJPEGストリーム、MPEG4ストリーム等では、コメントセグメント、ユーザデータに独自のデータを追加することが可能である。追尾対象物の領域情報、最新の目標色は、例えば、監視カメラ10が出力する映像データのコメントセグメントに記録することで、リアルタイムでPC20に通知することができる。
【0060】
図9は、第2実施例におけるPC20の特徴的な動作を説明するフローチャートである。本動作は、図4に示した第1実施例におけるPC20の動作である入力画像表示処理(S102)のサブルーチンとして行なわれる。
【0061】
すなわち、入力画像表示処理(S102)において、表示制御部211は、監視カメラ10aから通知された追尾対象物の領域情報と最新の目標色とを受信する(S401)。そして、受信した追尾対象物の領域情報および最新の目標色を、監視カメラ10aから入力される映像信号に基づく画像に合成して表示装置40に表示する(S402)。
【0062】
図10は、表示装置40に表示される画像の例を示す図である。本図の例では、人物が追尾対象物として指定されており、人物の服の色が目標色として設定されているものとする。ここでは、目標色を示す情報402が、監視カメラ10aから入力される映像信号に基づく画像の右上に合成されて表示されている。また、追尾対象物の領域情報が枠403として表示されている。これにより、監視者は追尾対象物の位置を認識しやすくなる。
【0063】
追尾対象物の領域情報は、目標追尾処理毎に更新され、PC20に通知されるため、追尾対象物の移動に合わせて枠403が移動することになる。また、目標色を示す情報402は目標追尾処理で用いられる最新の目標色が表示されるため、監視カメラ10aで目標色が更新されると即座に表示装置40の画面上に反映されることになる。なお、目標色を示す情報402の表示および枠403の表示は、オン/オフ切り替え可能なようにしてもよい。
【0064】
このように第2実施例では最新の目標色を示す情報が画面上で示されるため、監視者は、目標追尾処理の基準となっている目標色をリアルタイムに把握することができる。このため、監視カメラ10aで目標色が更新された場合に、監視者は、更新された目標色を認識することができ、目標色更新の検証を行なうことができる。また、照明の影響等で追尾対象物の見かけ上の色が変化した場合に、最新の目標色と、追尾対象物の見かけ上の色とを比較することができるので、処理(S103)による追尾対象物の再指定を適切に行なうことができる。
【0065】
次に、上記構成による監視システムにおける動作の第3実施例について説明する。第3実施例では第2実施例との相違点を中心に説明する。第3実施例では、監視カメラ10が目標色を更新した際に、更新前の目標色との差が大きいときに限り、PC20で目標色の更新表示を行なう場合について説明する。
【0066】
第3実施例における監視カメラおよびPCは第2実施例と同様の機能構成とすることができる。また、第3実施例における監視カメラの動作は第2実施例と同様とすることができる。すなわち、目標追尾処理において、必要に応じて目標色の更新処理を行ない、PC20に対して更新した目標色を通知する。
【0067】
図11は、第3実施例におけるPC20の特徴的な動作を説明するフローチャートである。本動作は、図4に示した第1実施例におけるPC20の動作である入力画像表示処理(S102)のサブルーチンとして行なわれる。
【0068】
すなわち、入力画像表示処理(S102)において、表示制御部211は、監視カメラ10aから通知された追尾対象物の領域情報と最新の目標色とを受信する(S501)。そして、現在の目標色と、受信した最新の目標色との差を評価する(S502)。現在の目標色と、受信した最新の目標色との差の評価は、例えば、以下の手順によって行なうことができる。
【0069】
まず、RGB形式で表わされた現在の目標色および受信した最新の目標色を、以下の式にしたがってYUV形式に変換する。ここで、Yは輝度信号であり、Uは輝度信号と青色成分の差分信号であり、Vは輝度信号と赤色成分の差分信号である。
【0070】
Y=0.299×R+0.587×G+0.114×B
U=−0.169×R−0.331×G+0.500×B
V=0.500×R−0.419×G−0.081×B
そして、現在の目標色を(Y1、U1、V1)とし、受信した最新の目標色を(Y2、U2、V2)として、以下の式にしたがって評価値Y3、U3、V1を算出する。
【0071】
Y3=Y2−Y1
U3=U2−U1
V3=V2−V1
次いで、算出された評価値が所定の基準よりも大きいかどうかを判断する(S503)。ここで、評価値が所定の基準よりも大きい場合には、現在の目標色と受信した最新の目標色との差が大きいことを示すことになる。
【0072】
例えば、閾値をTとしたとき、T<Y3、T<U3、T<V3のいずれかを満たす場合に、評価値が基準よりも大きいと判断することができる。閾値Tは、例えば、Y、U、Vの範囲を0〜255とした場合、T=20程度とすることができる。
【0073】
あるいは、閾値をY、U、V毎に異なる閾値Ty、Tu、Tvを用いて、Ty<Y3、Tu<U3、Tv<V3のいずれかを満たす場合に、評価値が基準よりも大きいと判断することができる。この場合、例えば、Ty=40、Tu=20、Tv20程度とすることができる。これらの閾値を、監視カメラ10の追尾処理部120の追尾処理において、目標色と同一の色と見なせる基準の閾値、あるいは、目標色が変化したと判断する基準の閾値等と合わせることによって、内部処理の整合性を取ることができる。
【0074】
また、評価値として、Y3、U3、V3の2乗和の平方根で求められる色差を用いるようにしてもよい。この場合、例えば、閾値をTとしたとき、T2<(Y32+U32+V32)を満たす場合に、評価値が基準よりも大きく、現在の目標色と受信した最新の目標色との差が大きいと判断することができる。ただし、現在の目標色と受信した最新の目標色との差の評価方法はこれらに限られない。
【0075】
現在の目標色と、受信した最新の目標色との差を評価した結果、所定の基準より大きく、両者の差が大きいと判断した場合(S503:Yes)は、目標色の表示を行ない(S504)、差が大きくないと判断した場合(S503:No)は、目標色の表示は行なわない。これにより、監視カメラ10aが目標色の更新を行なった際に、更新された目標色が現在の目標色と大きく変化した場合に、図10に示したように表示装置40に目標色を示す情報が表示されることになる。
【0076】
なお、目標色が大きく変化したことを強調するために、目標色を示す情報402を表示後、所定期間が経過したら目標色を示す情報402を消去することが好ましい。これにより、監視者は、目標色を示す情報402が新たに表示されたことで目標色が大きく変化したことを容易に認識することができるようになる。また、目標色が変化しない場合には目標色を示す情報402が表示されないため、監視カメラ10aから入力される映像信号に基づく画像が見やすくなる。もちろん、監視者からの指示に基づいて目標色を示す情報402を消去するようにしてもよい。
【0077】
あるいは、目標色を示す情報402の表示を行なう際に、目立つ枠を付したり、点滅させたり、サイズを大きくする等の強調表示を行なうようにしてもよい。このようにすることで、監視者は目標色が大きく変化したことをさらに容易に認識することができるようになる。
【0078】
最後に、上記第2実施例、第3実施例の変形例について説明する。変形例では、目標色を示す情報の表示位置の調整について説明する。図12は、変形例におけるPC20の特徴的な動作について説明するフローチャートである。本動作は、図9に示した第2実施例の目標色表示処理(S402)、図11に示した第3実施例の目標色表示処理(S504)のサブルーチンとして行なわれる。
【0079】
変形例では、目標色を示す情報を表示する際に、監視カメラ10から取得した追尾対象領域、あるは、監視者から指定された追尾対象領域を参照する(S601)。そして、目標色を示す情報の初回の表示の際(S602:Yes)には、画面における追尾対象領域の反対側に目標色を示す情報を表示する。例えば、目標色を示す情報の初回の表示の際に、図13(a)に示すように追尾対象領域404が画面の右側に存在している場合には、画面の左側に目標色を示す情報405を表示する。これにより、目標色を示す情報405が追尾対象物の監視の邪魔になることを防ぐことができる。
【0080】
目標色の2回目以降の表示であれば(602:No)、表示している目標色を示す情報と追尾対象領域とが重複するかどうかを判断する(S604)。その結果、重複しない場合には(S604:No)、表示位置は変更せずに目標色を示す情報を表示する(S606)。
【0081】
一方、表示している目標色を示す情報と追尾対象領域とが重複する場合には(S604:Yes)、表示位置を移動して目標色を示す情報を表示する(S605)。例えば、図13(b)に示すように、追尾対象領域406が左側に移動してきた場合には、目標色を示す情報407は反対側の右側に表示されることになる。これにより、目標色407が追尾対象物の監視の邪魔になることを防ぐことができる。ここでは、目標色を示す情報の表示位置として画面の左上と右上とのいずれかとしたが、表示位置はこれらに限られない。
【0082】
なお、目標色の表示位置は、監視者からの指示に基づいて変更するようにしてもよい。また、目標色の表示サイズについても監視者からの指示に基づいて変更できるようにしてもよい。
【符号の説明】
【0083】
10…監視カメラ
11…撮像光学系
12…撮像素子(CCD)
13…信号処理回路(DSP)
14…画像圧縮回路(ENC)
15…NetworkI/F
16…駆動機構
20…PC
21…CPU
22…メモリ(MEM)
23…VideoCard
24…インタフェース(I/F)
25…ハードディスクドライブ(HDD)
26…ネットワークインタフェースカード(NIC)
30…入力デバイス
40…表示装置
70…ネットワーク
110…撮像部
120…追尾処理部
121…画像格納部
122…目標色格納部
123…目標色更新部
130…カメラ制御部
140…駆動部
210…ビューワ処理部
211…表示制御部
212…追尾対象指示処理部
【技術分野】
【0001】
本発明は、目標色を用いて自動追尾処理を行なう撮像装置、この撮像装置から受信した画像を出力する画像表示装置およびこれらを備えた画像表示システムに関する。
【背景技術】
【0002】
監視カメラやビデオカメラ等の撮像装置において、特定の被写体を追尾対象物として自動的に追尾する技術が知られている。例えば、特許文献1には、追尾対象物が有している特定の色を目標色として記憶し、その目標色を基準に追尾対象物の位置を検出することで自動追尾を行なう撮像装置が記載されている。
【0003】
このような撮像装置は目標色を基準として追尾対象物の自動追尾を行なうが、追尾対象物の色は、光の当たり具合や、ビデオカメラによるホワイトバランス調整、露出調整等により見かけ上変化する。追尾対象物の色の見かけ上の変化に対応して自動追尾を継続するため、特許文献2には、追尾対象物の位置を検出した際に、目標色を再設定することが記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平5−284411号公報
【特許文献2】特開平7−154666号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述の技術等により、近年、目標色を用いた自動追尾の精度は向上しているが、追尾対象物の見かけ上の色の急激な変化や、近似色の他物体の存在等により、目標色と追尾対象物の色とが乖離して自動追尾が失敗することも起こり得る。このため、実際の監視現場においては、撮像装置からの映像を監視し、必要に応じて追尾対象物を再設定する監視者の判断が重要となる。
【0006】
しかしながら、従来の自動追尾処理においては、監視者は追尾対象物を指定するだけであり、どのような色が目標色として設定されたかを知ることができなかった。また、撮像装置によって目標色が更新された場合も、どのような色に更新されたかを知ることができなかった。このため、撮像装置で設定されている目標色と追尾対象物の色とがどの程度乖離したかを判断することができず、追尾対象物の再設定を適切に行なうことが難しかった。
【0007】
そこで、本発明は、目標色を用いた自動追尾処理において、撮像装置側で設定されている目標色の確認を監視者が容易に行える技術を提供することを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するため、本発明の第1の態様である画像表示装置は、撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御手段と、前記表示制御手段により合成された合成画像を表示する表示手段と、前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備える。
【0009】
ここで、前記表示制御手段は、直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することができる。
【0010】
また、前記表示制御手段は、前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することができる。
【0011】
上記課題を解決するため、本発明の第2の態様である撮像装置は、撮像を行ない、前記撮像に係る映像信号を出力する撮像手段と、追尾対象物と目標色との指定を受け付け、所定の条件を満たす場合には前記目標色を更新しつつ、設定される目標色を用いて、前記撮像に係る映像信号を対象に前記追尾対象物の追尾処理を行なうとともに、所定の条件を満たした場合に、前記目標色を更新し、更新した設定された前記目標色を示す色情報を出力する追尾処理手段とを備える。
【0012】
上記課題を解決するため、本発明の第3の態様である画像表示システムは、撮像装置と画像表示装置とを備えた画像表示システムであって、前記撮像装置は、撮像を行ない、前記撮像に係る映像信号を出力する撮像手段と、前記画像表示装置から追尾対象物と目標色との指定を受け付け、所定の条件を満たす場合には前記目標色を更新しつつ、設定される目標色を用いて、前記撮像に係る映像信号を対象に前記追尾対象物の追尾処理を行なうとともに、設定された前記目標色を示す色情報を出力する追尾処理手段とを備え、前記画像表示装置は、前記撮像装置から出力された前記映像信号と前記色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御手段と、前記表示制御手段により合成された合成画像を表示する表示手段と、前記追尾処理における追尾対象物の指示を外部から受け付け、受け付けた前記追尾対象物に基づいて目標色を取得し、受け付けた前記追尾対象物および取得した前記目標色を前記撮像装置に通知する追尾対象指示処理手段と、を備える。
【0013】
ここで、前記画像表示装置の表示制御手段は、直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することができる。
【0014】
また、前記画像表示装置の表示制御手段は、前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することができる。
【0015】
上記課題を解決するため、本発明の第4の態様である画像表示方法は、撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御ステップと、前記表示制御手段により合成された合成画像を表示する表示ステップと、前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示受付ステップとを有する。
【0016】
ここで、前記表示制御ステップは、直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することができる。
【0017】
また、前記表示制御ステップは、前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することができる。
【0018】
上記課題を解決するため、本発明の第5の態様である画像合成装置は、撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する画像合成手段と、前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備える。
【0019】
ここで、前記画像合成手段は、直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することができる。
【0020】
また、前記画像合成手段は、前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することができる。
【発明の効果】
【0021】
本発明によれば、目標色を用いた自動追尾処理において、撮像装置側で設定されている目標色の確認を監視者が容易に行える技術が提供される。
【図面の簡単な説明】
【0022】
【図1】本実施形態に係る監視システムのハードウェア構成を示すブロック図である。
【図2】第1実施例における監視カメラの機能構成を示すブロック図である。
【図3】PCの機能構成を示すブロック図である。
【図4】第1実施例におけるPCの動作を説明するフローチャートである。
【図5】第1実施例において表示装置に表示される画面例を示す図である。
【図6】第1実施例における監視カメラの動作を説明するフローチャートである。
【図7】第2実施例における監視カメラの機能構成を示すブロック図である。
【図8】実施例2における監視カメラの特徴的な動作を説明するフローチャートである。
【図9】実施例2におけるPCの特徴的な動作を説明するフローチャートである。
【図10】第2実施例において表示装置に表示される画面例を示す図である。
【図11】実施例3におけるPCの特徴的な動作を説明するフローチャートである。
【図12】変形例におけるPCの特徴的な動作を説明するフローチャートである。
【図13】変形例において表示装置に表示される画面例を示す図である。
【発明を実施するための形態】
【0023】
本発明の実施の形態について図面を参照して詳細に説明する。図1は、本実施形態に係る監視システムのハードウェア構成を示すブロック図である。本図に示すように監視システムは、撮像装置として機能する監視カメラ10と画像表示装置として機能するPC20とがネットワーク70を介して接続される構成である。監視カメラ10は、目標色を基準とした自動追尾機能を備えており、PC20は、監視カメラ10が撮像した映像に基づく画像を表示するために用いられる。PC20には、マウス、キーボード等の入力デバイス30と、監視カメラ10が撮像した映像を表示する表示装置40とが接続されている。なお、表示装置40にタッチパネル機能を備えさせ、入力デバイス30と表示装置40とを一体化するようにしてもよい。
【0024】
本図示すように監視カメラ10は、光学レンズと絞り機構とを含む撮像光学系11、撮像素子(CCD)12、信号処理回路(DSP)13、画像圧縮回路(ENC)14、NetworkI/F15、駆動機構16、CPU17、メモリ(MEM)18を備えている。
【0025】
撮像光学系11を通過した光は撮像素子(CCD)12により電気信号に変換され、信号処理回路(DSP)13において所定の信号処理を施され、デジタル映像信号が生成される。デジタル映像信号は、画像圧縮回路(ENC)14により所定の映像ストリームフォーマットで圧縮され、NetworkI/F15からネットワーク70を介してPC20に出力される。
【0026】
CPU17は、メモリ(MEM)18に格納されたプログラムにしたがって目標色を基準とした目標追尾処理を行ない、追尾対象物が監視カメラ10の画角に収まるように駆動機構16を制御する。駆動機構16は、駆動モータ、可動機構等を備えて構成され、パン、チルト、ズーム動作を行なう。
【0027】
PC20は、CPU21、メモリ(MEM)22、VideoCard23、インタフェース(I/F)24、ハードディスクドライブ(HDD)25、ネットワークインタフェースカード(NIC)26を備えており、汎用的な情報処理装置を用いて構成することができる。
【0028】
次に、上記ハードウェアで構成される監視システムにおける動作の第1実施例について説明する。図2は、第1実施例における監視カメラ10の機能構成を示すブロック図である。本図に示すように監視カメラ10は、撮像部110、追尾処理部120、カメラ制御部130、駆動部140を備えて構成される。
【0029】
撮像部110は、撮像光学系11、撮像素子(CCD)12、信号処理回路(DSP)13、画像圧縮回路(ENC)14等を備えて構成され、撮像処理およびデジタル映像信号の生成を行なう。ただし、生成する映像信号はアナログであってもよい。
【0030】
追尾処理部120は、CPU17がメモリ(MEM)18に格納されたプログラムにしたがって動作することにより構成され、目標色を用いた目標追尾処理を行なう。追尾処理部120が行なう目標追尾処理のアルゴリズムは限定されず、公知の技術を用いることができる。追尾処理部120は、記憶領域として画像格納部121、目標色格納部122を備えている。
【0031】
カメラ制御部130は、CPU17がメモリ(MEM)18に格納されたプログラムにしたがって動作することにより構成され、目標追尾処理によって得られた追尾対象物の領域に基づいて駆動部140を制御する。駆動部140は、駆動機構16を備えて構成され、カメラ制御部130の制御にしたがってパン、チルト、ズーム動作を行なう。
【0032】
図3は、PC20の機能構成を示すブロック図である。本図に示すように、PC20には、ビューワ処理部210が構成される。ビューワ処理部210は、CPU21がメモリ(MEM)22に格納されたビューワ用プログラムにしたがって動作することにより構成され、表示制御部211と、追尾対象指示処理部212とを備えている。
【0033】
表示制御部211は、監視カメラ10から出力されたデジタル映像信号に基づいて表示装置40に表示する画像を制御する。表示制御部211が表示装置40に表示する画像は、監視カメラ10が撮像した映像信号に基づく画像と、目標追尾処理において基準となっている目標色を示す情報とを合成した画像である。
【0034】
すなわち、本実施形態では、目標追尾処理において基準となっている目標色を示す情報が、監視側の表示装置40に表示される。これにより、監視者は、目標色と追尾対象物の色とがどの程度乖離したかを判断することができるため、追尾対象物の再設定を適切に行なうことができるようになる。
【0035】
追尾対象指示処理部212は、表示装置40に表示された画像から追尾対象物に対応する領域の指示を受け付け、その領域に基づいて目標色を取得する。そして、受け付けた領域の情報と取得した目標色の情報とを監視カメラ10に通知する。
【0036】
図4は、第1実施例におけるPC20の動作を説明するフローチャートである。本処理は、監視者によりビューワ用プログラムが起動され、自動追尾開始指示を受け付けることで開始する(S101)。ビューワ用プログラムが実行されることにより構成されるビューワ処理部210は、監視カメラ10に対して追尾対象物指定待ちの状態に移行させる。
【0037】
ビューワ処理部210の表示制御部211は、監視カメラ10から入力される映像信号に基づく画像を表示装置40に表示する(S102)。入力される映像信号に基づく画像の表示は、目標追尾処理を終了する指示を受け付けるまで連続的に繰り返す(S108)。
【0038】
監視者は、表示される画面上において、追尾対象物の指定を行なうことができる。追尾対象物の指定は、例えば、画面上の追尾対象物にカーソルを合わせてクリックすることで行なうことができる。あるいは、追尾対象物に対応する領域をドラッグすることで行なうようにしてもよい。さらには、タッチパネル式の表示装置40を用いている場合には,画面上の追尾対象物をタッチすることで行なうようにしてもよい。
【0039】
PC20の追尾対象指示処理部212は、監視者から追尾対象物の指定を受け付けると(S103:Yes)、受け付けた追尾対象物の領域情報を取得する(S104)。領域情報は、例えば、指定された位置の画面内における座標とすることができる。あるいは、指定された領域の左上座標および右下座標とすることができる。
【0040】
次いで、取得した領域情報に基づいて、目標色を取得する(S105)。目標色の取得は、例えば、指定された位置に対応する画素のRGB値を読み出して目標色とすることができる。あるいは、指定された位置の周辺画素のRGB平均値を目標色としたり、指定された領域に含まれる画素のRGB平均値等を目標色としてもよい。
【0041】
そして、取得した領域情報と、取得した目標色を監視カメラ10に通知する(S106)。後述するように、監視カメラ10は、通知された領域情報と目標色とに基づいて目標追尾処理を行ない、目標追尾処理の結果として得られた映像信号をPC20に送信する。
【0042】
追尾対象物の指定を受け付けた以降は、表示制御部211は、監視カメラ10から入力される映像信号に基づく画像に、処理(S105)で取得した目標色を示す情報を合成して表示装置40に表示する(S107)。
【0043】
図5は、表示装置40に表示される画像の例を示す図である。本図の例では、人物が追尾対象物として指定されており、人物の服400の色が目標色として設定されているものとする。本図に示すように、目標色を示す情報401が、監視カメラ10から入力される映像信号に基づく画像の右上に合成されて表示されている。目標色を示す情報401の表示は、オン/オフ切り替え可能なようにしてもよい。
【0044】
このように目標色を示す情報が画面上で示されるため、監視者は、目標追尾処理の基準となっている目標色を把握することができる。このため、例えば、照明の影響等で追尾対象物の見かけ上の色が変化した場合に、追尾対象物を指定した際の目標色からどの程度変化したかを認識することができるので、処理(S103)による追尾対象物の再指定を適切に行なうことができる。なお、追尾対象物の再設定を受け付けると(S103:Yes)、その後は、再設定の際に取得された目標色が表示されることになる(S107)。
【0045】
図6は、第1実施例における監視カメラ10の動作を説明するフローチャートである。監視カメラ10の追尾処理部120は、PC20から送られた領域情報と、目標色とを受信すると(S201:Yes)、受信した目標色を目標色格納部122に格納する(S202)。そして、格納した目標色を基準色として目標追尾処理(S203)を繰り返し行なう。また、監視カメラ10は、撮像した映像信号を画像圧縮回路(ENC)14で圧縮して、NetworkI/F15からPC20に出力する処理を目標追尾処理とは独立して繰り返す。
【0046】
上述のように、監視カメラ10の追尾処理部120が行なう目標色を用いた目標追尾処理は、アルゴリズムは限定されず、公知の技術を用いることができる。一例として、概略以下に示すような手順で行なうことができる。
【0047】
まず、画像フレームを画像格納部121に格納する。そして格納した画像フレームを複数のブロックに分割し、ブロックごとに目標色格納部122に格納された目標色との比較を行なう。この比較において、ブロック内に含まれる画素のうち目標色と同一あるいは近似する色の画素数をカウントする。この結果、最もカウント数の多いブロックに追尾対象物が存在しているものと判断することで目標追尾処理を行なう。その後、目標追尾処理によって得られた追尾対象物の領域が画角に収まるように、パン、チルト、ズーム動作を行なうようにする。
【0048】
次に、上記構成による監視システムにおける動作の第2実施例について説明する。第2実施例では第1実施例との相違点を中心に説明する。第2実施例では、追尾対象物の見かけ上の色が変化したときに、監視カメラ10が目標色を更新する場合について説明する。
【0049】
図7は、第2実施例における監視カメラの機能構成を示すブロック図である。第1実施例と同じブロックについて同じ符号を付し、説明は省略する。なお、PC20は第1実施例と同様の機能構成とすることができる。
【0050】
本図に示すように監視カメラ10aは、撮像部110、追尾処理部120a、カメラ制御部130、駆動部140から構成される。追尾処理部120aは、画像格納部121、目標色格納部122に加え、目標色を更新する処理を行なう目標色更新部123を備えている。
【0051】
ここで、第2実施例における目標追尾処理と、目標色更新部123が行なう目標色更新処理について説明する。第2実施例における目標追尾処理と目標色更新部123が行なう目標色更新処理とは、アルゴリズムは限定されず、公知の技術を用いることができる。
【0052】
本実施例では、パーティクルフィルタによる目標追尾処理を行なうものとする。パーティクルフィルタは、現状態から起こり得る多数の次状態を、多数のパーティクルに見立て、全パーティクルの尤度に基づいた重み付き平均を次状態として予測しながら目標追尾を行っていくアルゴリズムである。
【0053】
目標色更新部123は、目標色格納部122に格納されている目標色を対象として各パーティクルの尤度を測定した結果、尤度の高いパーティクルが十分存在しなくなった場合に目標色更新処理を行なうようにする。
【0054】
目標色更新処理では、各パーティクルの尤度の測定対象を目標色から、前後のフレーム間の輝度差に切り替えることで動きのあった領域を検出する。そして、動きが検出された領域が追尾対象物の位置と推定し、その領域から取得した色を新たな目標色として設定し、目標色格納部122に格納する。その後、更新された目標色を用いて目標追尾処理を再開するものとする。
【0055】
もちろん、本実施例における目標追尾処理、目標色更新処理は他の公知技術を用いるようにしてもよい。例えば、単純に、目標追尾処理毎に追尾対象物の色を再取得することで目標色を更新するようにしてもよい。
【0056】
図8は、第2実施例における監視カメラ10aの特徴的な動作を説明するフローチャートである。本動作は、図6に示した第1実施例における監視カメラ10の動作である目標追尾処理(S203)のサブルーチンとして行なわれる。
【0057】
すなわち、目標追尾処理(S203)において、目標色更新部123が、目標更新処理が必要であるかどうかを判断し(S301)、必要と判断した場合に目標色を更新する(S302)。目標更新処理が必要であるかどうかの判断基準および目標色を更新する処理は上記の通りである。
【0058】
そして、第2実施例では、監視カメラ10aによる目標追尾処理の結果推定された追尾対象物の領域情報と、最新の目標色とをPC20に通知する(S303)。追尾対象物の領域情報は、目標色更新の有無にかかわらず、目標追尾処理毎にPC20に通知するものとする。最新の目標色については、目標追尾処理毎に通知するようにしてもよいし、更新があった場合のみの通知するようにしてもよい。
【0059】
追尾対象物の領域情報は、例えば、追尾対象物に対応した矩形領域の対角の座標で表わすことができる。また、最新の目標色は、目標色格納部122に格納されている目標色のRGB値とすることができる。一般に、デジタル映像信号として広く用いられているJPEGストリーム、MPEG4ストリーム等では、コメントセグメント、ユーザデータに独自のデータを追加することが可能である。追尾対象物の領域情報、最新の目標色は、例えば、監視カメラ10が出力する映像データのコメントセグメントに記録することで、リアルタイムでPC20に通知することができる。
【0060】
図9は、第2実施例におけるPC20の特徴的な動作を説明するフローチャートである。本動作は、図4に示した第1実施例におけるPC20の動作である入力画像表示処理(S102)のサブルーチンとして行なわれる。
【0061】
すなわち、入力画像表示処理(S102)において、表示制御部211は、監視カメラ10aから通知された追尾対象物の領域情報と最新の目標色とを受信する(S401)。そして、受信した追尾対象物の領域情報および最新の目標色を、監視カメラ10aから入力される映像信号に基づく画像に合成して表示装置40に表示する(S402)。
【0062】
図10は、表示装置40に表示される画像の例を示す図である。本図の例では、人物が追尾対象物として指定されており、人物の服の色が目標色として設定されているものとする。ここでは、目標色を示す情報402が、監視カメラ10aから入力される映像信号に基づく画像の右上に合成されて表示されている。また、追尾対象物の領域情報が枠403として表示されている。これにより、監視者は追尾対象物の位置を認識しやすくなる。
【0063】
追尾対象物の領域情報は、目標追尾処理毎に更新され、PC20に通知されるため、追尾対象物の移動に合わせて枠403が移動することになる。また、目標色を示す情報402は目標追尾処理で用いられる最新の目標色が表示されるため、監視カメラ10aで目標色が更新されると即座に表示装置40の画面上に反映されることになる。なお、目標色を示す情報402の表示および枠403の表示は、オン/オフ切り替え可能なようにしてもよい。
【0064】
このように第2実施例では最新の目標色を示す情報が画面上で示されるため、監視者は、目標追尾処理の基準となっている目標色をリアルタイムに把握することができる。このため、監視カメラ10aで目標色が更新された場合に、監視者は、更新された目標色を認識することができ、目標色更新の検証を行なうことができる。また、照明の影響等で追尾対象物の見かけ上の色が変化した場合に、最新の目標色と、追尾対象物の見かけ上の色とを比較することができるので、処理(S103)による追尾対象物の再指定を適切に行なうことができる。
【0065】
次に、上記構成による監視システムにおける動作の第3実施例について説明する。第3実施例では第2実施例との相違点を中心に説明する。第3実施例では、監視カメラ10が目標色を更新した際に、更新前の目標色との差が大きいときに限り、PC20で目標色の更新表示を行なう場合について説明する。
【0066】
第3実施例における監視カメラおよびPCは第2実施例と同様の機能構成とすることができる。また、第3実施例における監視カメラの動作は第2実施例と同様とすることができる。すなわち、目標追尾処理において、必要に応じて目標色の更新処理を行ない、PC20に対して更新した目標色を通知する。
【0067】
図11は、第3実施例におけるPC20の特徴的な動作を説明するフローチャートである。本動作は、図4に示した第1実施例におけるPC20の動作である入力画像表示処理(S102)のサブルーチンとして行なわれる。
【0068】
すなわち、入力画像表示処理(S102)において、表示制御部211は、監視カメラ10aから通知された追尾対象物の領域情報と最新の目標色とを受信する(S501)。そして、現在の目標色と、受信した最新の目標色との差を評価する(S502)。現在の目標色と、受信した最新の目標色との差の評価は、例えば、以下の手順によって行なうことができる。
【0069】
まず、RGB形式で表わされた現在の目標色および受信した最新の目標色を、以下の式にしたがってYUV形式に変換する。ここで、Yは輝度信号であり、Uは輝度信号と青色成分の差分信号であり、Vは輝度信号と赤色成分の差分信号である。
【0070】
Y=0.299×R+0.587×G+0.114×B
U=−0.169×R−0.331×G+0.500×B
V=0.500×R−0.419×G−0.081×B
そして、現在の目標色を(Y1、U1、V1)とし、受信した最新の目標色を(Y2、U2、V2)として、以下の式にしたがって評価値Y3、U3、V1を算出する。
【0071】
Y3=Y2−Y1
U3=U2−U1
V3=V2−V1
次いで、算出された評価値が所定の基準よりも大きいかどうかを判断する(S503)。ここで、評価値が所定の基準よりも大きい場合には、現在の目標色と受信した最新の目標色との差が大きいことを示すことになる。
【0072】
例えば、閾値をTとしたとき、T<Y3、T<U3、T<V3のいずれかを満たす場合に、評価値が基準よりも大きいと判断することができる。閾値Tは、例えば、Y、U、Vの範囲を0〜255とした場合、T=20程度とすることができる。
【0073】
あるいは、閾値をY、U、V毎に異なる閾値Ty、Tu、Tvを用いて、Ty<Y3、Tu<U3、Tv<V3のいずれかを満たす場合に、評価値が基準よりも大きいと判断することができる。この場合、例えば、Ty=40、Tu=20、Tv20程度とすることができる。これらの閾値を、監視カメラ10の追尾処理部120の追尾処理において、目標色と同一の色と見なせる基準の閾値、あるいは、目標色が変化したと判断する基準の閾値等と合わせることによって、内部処理の整合性を取ることができる。
【0074】
また、評価値として、Y3、U3、V3の2乗和の平方根で求められる色差を用いるようにしてもよい。この場合、例えば、閾値をTとしたとき、T2<(Y32+U32+V32)を満たす場合に、評価値が基準よりも大きく、現在の目標色と受信した最新の目標色との差が大きいと判断することができる。ただし、現在の目標色と受信した最新の目標色との差の評価方法はこれらに限られない。
【0075】
現在の目標色と、受信した最新の目標色との差を評価した結果、所定の基準より大きく、両者の差が大きいと判断した場合(S503:Yes)は、目標色の表示を行ない(S504)、差が大きくないと判断した場合(S503:No)は、目標色の表示は行なわない。これにより、監視カメラ10aが目標色の更新を行なった際に、更新された目標色が現在の目標色と大きく変化した場合に、図10に示したように表示装置40に目標色を示す情報が表示されることになる。
【0076】
なお、目標色が大きく変化したことを強調するために、目標色を示す情報402を表示後、所定期間が経過したら目標色を示す情報402を消去することが好ましい。これにより、監視者は、目標色を示す情報402が新たに表示されたことで目標色が大きく変化したことを容易に認識することができるようになる。また、目標色が変化しない場合には目標色を示す情報402が表示されないため、監視カメラ10aから入力される映像信号に基づく画像が見やすくなる。もちろん、監視者からの指示に基づいて目標色を示す情報402を消去するようにしてもよい。
【0077】
あるいは、目標色を示す情報402の表示を行なう際に、目立つ枠を付したり、点滅させたり、サイズを大きくする等の強調表示を行なうようにしてもよい。このようにすることで、監視者は目標色が大きく変化したことをさらに容易に認識することができるようになる。
【0078】
最後に、上記第2実施例、第3実施例の変形例について説明する。変形例では、目標色を示す情報の表示位置の調整について説明する。図12は、変形例におけるPC20の特徴的な動作について説明するフローチャートである。本動作は、図9に示した第2実施例の目標色表示処理(S402)、図11に示した第3実施例の目標色表示処理(S504)のサブルーチンとして行なわれる。
【0079】
変形例では、目標色を示す情報を表示する際に、監視カメラ10から取得した追尾対象領域、あるは、監視者から指定された追尾対象領域を参照する(S601)。そして、目標色を示す情報の初回の表示の際(S602:Yes)には、画面における追尾対象領域の反対側に目標色を示す情報を表示する。例えば、目標色を示す情報の初回の表示の際に、図13(a)に示すように追尾対象領域404が画面の右側に存在している場合には、画面の左側に目標色を示す情報405を表示する。これにより、目標色を示す情報405が追尾対象物の監視の邪魔になることを防ぐことができる。
【0080】
目標色の2回目以降の表示であれば(602:No)、表示している目標色を示す情報と追尾対象領域とが重複するかどうかを判断する(S604)。その結果、重複しない場合には(S604:No)、表示位置は変更せずに目標色を示す情報を表示する(S606)。
【0081】
一方、表示している目標色を示す情報と追尾対象領域とが重複する場合には(S604:Yes)、表示位置を移動して目標色を示す情報を表示する(S605)。例えば、図13(b)に示すように、追尾対象領域406が左側に移動してきた場合には、目標色を示す情報407は反対側の右側に表示されることになる。これにより、目標色407が追尾対象物の監視の邪魔になることを防ぐことができる。ここでは、目標色を示す情報の表示位置として画面の左上と右上とのいずれかとしたが、表示位置はこれらに限られない。
【0082】
なお、目標色の表示位置は、監視者からの指示に基づいて変更するようにしてもよい。また、目標色の表示サイズについても監視者からの指示に基づいて変更できるようにしてもよい。
【符号の説明】
【0083】
10…監視カメラ
11…撮像光学系
12…撮像素子(CCD)
13…信号処理回路(DSP)
14…画像圧縮回路(ENC)
15…NetworkI/F
16…駆動機構
20…PC
21…CPU
22…メモリ(MEM)
23…VideoCard
24…インタフェース(I/F)
25…ハードディスクドライブ(HDD)
26…ネットワークインタフェースカード(NIC)
30…入力デバイス
40…表示装置
70…ネットワーク
110…撮像部
120…追尾処理部
121…画像格納部
122…目標色格納部
123…目標色更新部
130…カメラ制御部
140…駆動部
210…ビューワ処理部
211…表示制御部
212…追尾対象指示処理部
【特許請求の範囲】
【請求項1】
撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御手段と、
前記表示制御手段により合成された合成画像を表示する表示手段と、
前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備えたことを特徴とする画像表示装置。
【請求項2】
請求項1に記載の画像表示装置であって、
前記表示制御手段は、
直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することを特徴とする画像表示装置。
【請求項3】
請求項1または2に記載の画像表示装置であって、
前記表示制御手段は、
前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することを特徴とする画像表示装置。
【請求項4】
撮像を行ない、前記撮像に係る映像信号を出力する撮像手段と、
追尾対象物と目標色との指定を受け付け、所定の条件を満たす場合には前記目標色を更新しつつ、設定される目標色を用いて、前記撮像に係る映像信号を対象に前記追尾対象物の追尾処理を行なうとともに、所定の条件を満たした場合に、前記目標色を更新し、更新した設定された前記目標色を示す色情報を出力する追尾処理手段とを備えたことを特徴とする撮像装置。
【請求項5】
撮像装置と画像表示装置とを備えた画像表示システムであって、
前記撮像装置は、
撮像を行ない、前記撮像に係る映像信号を出力する撮像手段と、
前記画像表示装置から追尾対象物と目標色との指定を受け付け、所定の条件を満たす場合には前記目標色を更新しつつ、設定される目標色を用いて、前記撮像に係る映像信号を対象に前記追尾対象物の追尾処理を行なうとともに、設定された前記目標色を示す色情報を出力する追尾処理手段とを備え、
前記画像表示装置は、
前記撮像装置から出力された前記映像信号と前記色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御手段と、
前記表示制御手段により合成された合成画像を表示する表示手段と、
前記追尾処理における追尾対象物の指示を外部から受け付け、受け付けた前記追尾対象物に基づいて目標色を取得し、受け付けた前記追尾対象物および取得した前記目標色を前記撮像装置に通知する追尾対象指示処理手段と、を備えたことを特徴とする画像表示システム。
【請求項6】
請求項5に記載の画像表示システムであって、
前記画像表示装置の表示制御手段は、
直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することを特徴とする画像表示システム。
【請求項7】
請求項5または6に記載の画像表示システムであって、
前記画像表示装置の表示制御手段は、
前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することを特徴とする画像表示システム。
【請求項8】
撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御ステップと、
前記表示制御手段により合成された合成画像を表示する表示ステップと、
前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示受付ステップとを有することを特徴とする画像表示方法。
【請求項9】
請求項8に記載の画像表示方法であって、
前記表示制御ステップは、
直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することを特徴とする画像表示方法。
【請求項10】
請求項8または9に記載の画像表示方法であって、
前記表示制御ステップは、
前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することを特徴とする画像表示方法。
【請求項11】
撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する画像合成手段と、
前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備えたことを特徴とする画像合成装置。
【請求項12】
請求項11に記載の画像合成装置であって、
前記画像合成手段は、
直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することを特徴とする画像合成装置。
【請求項13】
請求項11または12に記載の画像合成装置であって、
前記画像合成手段は、
前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することを特徴とする画像合成装置。
【請求項1】
撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御手段と、
前記表示制御手段により合成された合成画像を表示する表示手段と、
前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備えたことを特徴とする画像表示装置。
【請求項2】
請求項1に記載の画像表示装置であって、
前記表示制御手段は、
直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することを特徴とする画像表示装置。
【請求項3】
請求項1または2に記載の画像表示装置であって、
前記表示制御手段は、
前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することを特徴とする画像表示装置。
【請求項4】
撮像を行ない、前記撮像に係る映像信号を出力する撮像手段と、
追尾対象物と目標色との指定を受け付け、所定の条件を満たす場合には前記目標色を更新しつつ、設定される目標色を用いて、前記撮像に係る映像信号を対象に前記追尾対象物の追尾処理を行なうとともに、所定の条件を満たした場合に、前記目標色を更新し、更新した設定された前記目標色を示す色情報を出力する追尾処理手段とを備えたことを特徴とする撮像装置。
【請求項5】
撮像装置と画像表示装置とを備えた画像表示システムであって、
前記撮像装置は、
撮像を行ない、前記撮像に係る映像信号を出力する撮像手段と、
前記画像表示装置から追尾対象物と目標色との指定を受け付け、所定の条件を満たす場合には前記目標色を更新しつつ、設定される目標色を用いて、前記撮像に係る映像信号を対象に前記追尾対象物の追尾処理を行なうとともに、設定された前記目標色を示す色情報を出力する追尾処理手段とを備え、
前記画像表示装置は、
前記撮像装置から出力された前記映像信号と前記色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御手段と、
前記表示制御手段により合成された合成画像を表示する表示手段と、
前記追尾処理における追尾対象物の指示を外部から受け付け、受け付けた前記追尾対象物に基づいて目標色を取得し、受け付けた前記追尾対象物および取得した前記目標色を前記撮像装置に通知する追尾対象指示処理手段と、を備えたことを特徴とする画像表示システム。
【請求項6】
請求項5に記載の画像表示システムであって、
前記画像表示装置の表示制御手段は、
直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することを特徴とする画像表示システム。
【請求項7】
請求項5または6に記載の画像表示システムであって、
前記画像表示装置の表示制御手段は、
前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することを特徴とする画像表示システム。
【請求項8】
撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する表示制御ステップと、
前記表示制御手段により合成された合成画像を表示する表示ステップと、
前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示受付ステップとを有することを特徴とする画像表示方法。
【請求項9】
請求項8に記載の画像表示方法であって、
前記表示制御ステップは、
直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することを特徴とする画像表示方法。
【請求項10】
請求項8または9に記載の画像表示方法であって、
前記表示制御ステップは、
前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することを特徴とする画像表示方法。
【請求項11】
撮像装置から出力された、目標色を用いた追尾処理の結果得られた映像信号と前記目標色を示す色情報とを入力し、前記映像信号に基づく画像と前記色情報に基づく画像とを合成する画像合成手段と、
前記追尾処理における追尾対象物の指示を外部から受け付ける追尾対象指示処理手段とを備えたことを特徴とする画像合成装置。
【請求項12】
請求項11に記載の画像合成装置であって、
前記画像合成手段は、
直前に入力した前記色情報の示す前記目標色と、新たに入力した前記色情報の示す目標色との差が所定の基準より大きい場合に、前記映像信号に基づく画像と前記新たに入力した色情報に基づく画像とを合成することを特徴とする画像合成装置。
【請求項13】
請求項11または12に記載の画像合成装置であって、
前記画像合成手段は、
前記追尾処理の結果得られた追尾対象物の領域情報をさらに入力し、前記色情報に基づく画像と前記映像信号に基づく画像とを、前記色情報に基づく画像が前記領域情報の示す領域と重ならない位置に配置されるように合成することを特徴とする画像合成装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2010−226644(P2010−226644A)
【公開日】平成22年10月7日(2010.10.7)
【国際特許分類】
【出願番号】特願2009−74089(P2009−74089)
【出願日】平成21年3月25日(2009.3.25)
【出願人】(000004329)日本ビクター株式会社 (3,896)
【Fターム(参考)】
【公開日】平成22年10月7日(2010.10.7)
【国際特許分類】
【出願日】平成21年3月25日(2009.3.25)
【出願人】(000004329)日本ビクター株式会社 (3,896)
【Fターム(参考)】
[ Back to top ]