色校正処理装置および色校正処理方法
【課題】 色校正処理に不用なカラーセットの情報を保持しなくてすみ、計算負荷が軽減されて、照明環境の変化にリアルタイムで対応することのできる色校正処理装置を提供する。
【解決手段】 色校正処理装置1は、ソースカラーとリファレンスカラーを含むカラーセット情報を記憶するカラーセット情報記憶部11と、二つのカメラ2で撮影された各ソース画像から特定のソース領域を選択する領域選択部6と、ソース領域を代表する色としてソース領域カラーを決定する領域カラー決定部7と、ソース領域カラーを用いてカラーセットのソースカラーを更新するカラーセット更新部10と、カラーセットを用いて二つのソース画像のうちソースカラーと類似範囲内の色をリファレンスカラーに校正する色校正部8を備える。
【解決手段】 色校正処理装置1は、ソースカラーとリファレンスカラーを含むカラーセット情報を記憶するカラーセット情報記憶部11と、二つのカメラ2で撮影された各ソース画像から特定のソース領域を選択する領域選択部6と、ソース領域を代表する色としてソース領域カラーを決定する領域カラー決定部7と、ソース領域カラーを用いてカラーセットのソースカラーを更新するカラーセット更新部10と、カラーセットを用いて二つのソース画像のうちソースカラーと類似範囲内の色をリファレンスカラーに校正する色校正部8を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の撮像装置で撮影された画像に色校正処理を施す色校正処理装置に関し、照明環境の変化等への適応性を向上した色校正処理装置に関するものである。
【背景技術】
【0002】
従来、複数のカメラで撮影した画像にコンピュータで画像処理を施して、人物等のオブジェクトを追跡監視する追跡監視システムが知られている。このような追跡監視システムでは、各カメラの特性、照明環境、設置条件などが違うと、各カメラで撮影した同一のオブジェクト(例えば、人物等)の画像の見え方、特にオブジェクトの色の見え方が、各カメラで異なることとなる。したがって、複数のカメラを用いてオブジェクトの追跡を行うためには、複数カメラ間で異なる色の見え方をする同一のオブジェクトの対応付けを図る、すなわち色の恒常性を維持する必要がある。従来の追跡監視システムでは、オブジェクトの色情報を用いて、複数カメラ間でのオブジェクトの色の校正処理を行うことにより、複数のカメラで撮影した同一のオブジェクトの対応付けが行われている。これにより、複数のカメラ間におけるオブジェクトの対応付けの精度が向上し、複数カメラ間でのオブジェクトの追跡精度の向上が図られている。
【0003】
このような追跡監視システムでは、例えば、照明環境の変化があった場合に、照明環境の変化に応じてオブジェクトの色情報を更新する必要がある。従来、照明環境の変化を検出する方法として、画像の変化を検出するために2つの画像領域の対応するピクセル間の偏差を検出する方法が知られている(例えば、特許文献1参照)。また、照明環境の変化を検出する他の方法として、新たなシーンの始まりを検出するために映像を格納し、映像信号の代表値を用いてシーン変化の検出を実現する方法が知られている(例えば、特許文献2参照)。また、照明環境の変化を検出する他の方法として、多くの画像の特性を基に、個々の画像の特徴ベクトルを作成し、各ベクトルの違いを計算して得られた値(オブジェクトの特徴を持つ値)がそれぞれの画像に対して変化したときシーンの変化を検出する方法が知られている(例えば、特許文献3参照)。
【特許文献1】米国特許第4779095号明細書
【特許文献2】米国特許第4823184号明細書
【特許文献3】米国特許第4912770号明細書
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の追跡監視システムでは、例えば、追跡対象のオブジェクトが追加されると、それに伴ってオブジェクトの色情報が追加される。この場合、新たに追加されたオブジェクトと同様のオブジェクトの色情報をすでに保持している場合であっても、オブジェクトの追加にともなってオブジェクトの色情報が追加される。このように、色校正処理に不用なオブジェクトの色情報まで追加されると、オブジェクトの色情報が過度に多くなるという問題があった。すなわち、オブジェクトの色情報が増加すると、色校正処理に用いる情報量が多くなるため、色校正処理に要する時間が長くなり、色校正処理の動作も不安定になるという問題があった。
【0005】
また、照明環境が変化した場合には、それまで使用していたオブジェクトの色情報が使用できなくなり、その分だけ不用な色情報が増えるという問題があった。そして、照明環境が変化したときには、すぐにその変化に対応して、新しい色情報を入手する必要があるが、従来の照明環境の変化の検出方法では、計算負荷が非常に大きく、リアルタイム処理に適していないという問題があった。
【0006】
本発明は、上記従来の問題を解決するためになされたもので、計算負荷が小さく、照明環境の変化にもリアルタイムで対応することのできる色校正処理装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の色校正処理装置は、色校正の対象となるソースカラーの色情報と、色校正後のリファレンスカラーの色情報を含むカラーセット情報を記憶するカラーセット情報記憶手段と、前記カラーセットを用いて、複数の撮像装置で撮影された各ソース画像のうち前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正する色校正手段と、前記各ソース画像から特定のソース領域を選択する領域選択手段と、前記ソース領域を代表する色としてソース領域カラーを決定する領域カラー決定手段と、前記ソース領域カラーを用いて、前記カラーセットのソースカラーを更新するカラーセット更新手段とを備えた構成を有している。
【0008】
この構成により、ソース領域のソース領域カラーを用いて、カラーセットのソースカラーが置き換えられて更新される。したがって、追跡対象のオブジェクトが追加された場合や、照明環境に変化があった場合であっても、色校正処理に不用な情報を保持しなくてすむ。これにより、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。したがって、色校正処理に要する時間が短くなり、色校正処理の動作が安定する。また、計算負荷が小さいので、照明環境の変化にもリアルタイムで対応できる。
【0009】
また、本発明の色校正処理装置では、前記領域選択手段は、前記複数のソース画像から、背景画像中を移動する前景オブジェクト(例えば、人物など)をソースオブジェクトとして抽出するソースオブジェクト抽出手段を備え、前記領域カラー決定手段は、前記ソースオブジェクトの平均色を、前記ソース領域カラーであるオブジェクトカラーとして決定するオブジェクトカラー決定手段を備え、色校正処理装置には、前記ソースオブジェクトと所定のリファレンスオブジェクトが類似するか否かを判定するオブジェクト類似判定手段が備えられ、前記カラーセット更新手段は、前記ソースオブジェクトと前記リファレンスオブジェクトが類似すると判定されたときに、前記ソースオブジェクトのオブジェクトカラーを用いて、前記カラーセットのソースカラーを更新する構成を有している。
【0010】
この構成により、追跡対象のオブジェクトが追加された場合であっても、ソースオブジェクトがリファレンスオブジェクトと類似するときには、ソースオブジェクトのオブジェクトカラー(ソースオブジェクトの平均色)を用いて、カラーセットのソースカラーが更新され、色校正処理に不用なカラーセットの情報を保持しなくてすむ。これにより、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。
【0011】
また、本発明の色校正処理装置では、前記オブジェクト類似判定手段は、前記ソースオブジェクトと前記リファレンスオブジェクトの特徴量を比較することにより、前記ソースオブジェクトと前記リファレンスオブジェクトの類似度を判定する構成を有している。
【0012】
この構成により、ソースオブジェクトとリファレンスオブジェクトの特徴量(例えば、移動速度、大きさ、縦横比など)を用いてオブジェクトの類似度を判定することができ、ソースオブジェクトとリファレンスオブジェクトの対応付けの精度が向上し、ソースオブジェクトの追跡精度が向上する。
【0013】
また、本発明の色校正処理装置では、前記カラーセット更新手段は、前記ソースオブジェクトのオブジェクトカラーと前記カラーセットのソースカラーの重み付け平均処理で得られた重み付け平均色を、更新用のソースカラーとして用いる構成を有している。
【0014】
この構成により、ソースオブジェクトのオブジェクトカラーとカラーセットのソースカラーとの色の違いが大きい場合あっても、重み付けの度合いを調整することにより、更新用のソースカラーの色を調整することができる。
【0015】
また、本発明の色校正処理装置では、前記カラーセット情報記憶手段には、前記ソースカラーの色情報を獲得した領域情報を含むカラーセット情報が記憶され、前記領域選択手段は、前記複数のソース画像から背景画像を獲得する背景画像獲得手段と、前記背景画像から、前記ソースカラーの領域情報に対応する対応領域(例えば、街路樹や道路など)を探索する対応領域探索手段を備え、前記領域カラー決定手段は、前記対応領域の平均色を、前記ソース領域カラーである対応領域カラーとして決定する対応領域カラー決定手段を備え、色校正処理装置には、前記対応領域カラーに基づいて、前記ソース画像における照明環境の変化を検出する照明変化検出手段が備えられ、前記カラーセット更新手段は、照明環境に変化があったと判定されたときに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新する構成を有している。
【0016】
この構成により、照明環境に変化があった場合であっても、照明環境に変化があったと判定されたときには、対応領域カラーを用いてカラーセットのソースカラーが更新され、色校正処理に不用なカラーセットの情報を保持しなくてすむ。これにより、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。
【0017】
また、本発明の色校正処理装置では、前記照明変化検出手段は、前記対応領域カラーと前記ソースカラーの色距離を算出する色距離算出手段と、前記対応領域カラーと前記ソースカラーの色距離が、所定のしきい色距離よりも大きいときに、照明環境に変化があったと判定する照明変化判定手段とを備えた構成を有している。
【0018】
この構成により、対応領域カラーとソースカラーの色距離(色空間における二つの色座標の間の距離)を用いて照明環境の変化の有無を判定することができ、従来の照明環境の変化の検出方法に比べて計算負荷が軽減され、照明環境の変化等への適応性が向上する。
【0019】
また、本発明の色校正処理装置では、前記背景画像獲得手段は、所定の時間間隔で、前記複数のソース画像から前記背景画像を獲得し、前記照明変化検出手段は、前記所定の時間間隔で、前記ソース画像における照明環境の変化を検出する構成を有している。
【0020】
この構成により、所定の時間間隔で、ソース画像から背景画像を獲得し、照明環境の変化を検出する。したがって、照明環境が変化する頻度に応じて所定の時間間隔を調整することにより、照明環境の変化の検出計算を行う頻度を調整することができ、常に照明環境の変化を検出する場合に比べて計算負荷が軽減される。
【0021】
また、本発明の色校正処理装置では、前記色校正手段は、前記対応領域を複数の小領域に分割する領域分割手段を備え、前記複数の小領域ごとに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新する構成を有している。
【0022】
この構成により、対応領域(例えば、街路樹)がそれぞれ異なる色を有する複数の小領域(例えば、葉の部分と幹の部分)から構成されているときには、複数の小領域ごとの対応領域カラーを用いてソースカラーを更新でき、対応領域の対応付けの精度が向上する。
【0023】
本発明の色校正処理方法では、色校正の対象となるソースカラーの色情報と、色校正後のリファレンスカラーの色情報を含むカラーセット情報を記憶し、複数の撮像装置で撮影された各ソース画像から特定のソース領域を選択し、前記ソース領域を代表する色としてソース領域カラーを決定し、前記ソース領域カラーを用いて、前記カラーセットのソースカラーを更新し、前記カラーセットを用いて、前記複数のソース画像のうち前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正する構成を有している。
【0024】
また、本発明の色校正処理方法では、前記ソース画像から、背景画像中を移動する前景オブジェクトをソースオブジェクトとして抽出し、前記ソースオブジェクトの平均色を、前記ソース領域カラーであるオブジェクトカラーとして決定し、前記ソースオブジェクトと所定のリファレンスオブジェクトが類似するか否かを判定し、前記ソースオブジェクトと前記リファレンスオブジェクトが類似すると判定されたときに、前記ソースオブジェクトのオブジェクトカラーを用いて、前記カラーセットのソースカラーを更新する構成を有している。
【0025】
また、本発明の色校正処理方法では、前記ソースカラーの色情報を獲得した領域情報を含むカラーセット情報を記憶し、前記複数のソース画像から背景画像を獲得し、前記背景画像から、前記ソースカラーの領域情報に対応する対応領域を探索し、前記対応領域の平均色を、前記ソース領域カラーである対応領域カラーとして決定し、前記対応領域カラーに基づいて、前記ソース画像における照明環境の変化を検出し、照明環境に変化があったと判定されたときに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新する構成を有している。
【発明の効果】
【0026】
本発明は、ソース領域カラーを用いてカラーセットのソースカラーを更新するカラーセット更新手段を設けることにより、色校正処理に不用なカラーセットの情報を保持しなくてすみ、計算負荷が軽減されて、照明環境の変化にリアルタイムで対応できるという効果を有する色校正処理装置を提供することができるものである。
【発明を実施するための最良の形態】
【0027】
以下、本発明の実施の形態の色校正処理装置について、図1〜図9を用いて説明する。本実施の形態では、図2に示すように、二つのカメラで撮影された二つのカメラ画像にコンピュータで画像処理を施して、その二つのカメラ画像間をまたがって移動するオブジェクト(例えば、人物など)を追跡監視する追跡監視システムに用いられる色校正処理装置の場合を例示する。
【0028】
以下の説明では、二つのカメラをカメラAおよびカメラBという。そして、カメラAで撮像された画像をソース画像Aといい、カメラBで撮影された画像をソース画像Bという。本実施の形態では、カメラAとカメラBは互いに離れた位置に配置されている(図2参照)。そして、監視対象である人物は、カメラAのソース画像AとカメラBのソース画像Bをまたがって移動する。
【0029】
本発明の実施の形態の色校正処理装置のブロック図を図1に示す。図1に示すように、色校正処理装置1は、二つのカメラ2(カメラAおよびカメラB)が設置された監視場所に設置される二つのクライアントユニット3(クライアントユニットAおよびクライアントユニットB)と、中央の監視場所に設置される一つのサーバユニット4を備えている。
【0030】
図1に示すように、クライアントユニット3は、ソース画像獲得部5と、領域選択部6と、領域カラー決定部7と、色校正部8と、照明変化検出部9と、カラーセット更新部10と、カラーセット情報記憶部11を備えている。また、サーバユニット4は、オブジェクト類似判定部12と、リファレンスオブジェクト記憶部13を備えている。
【0031】
ソース画像獲得部5は、カメラ2(カメラAまたはカメラB)からソース画像(ソース画像Aまたはソース画像B)を獲得する。本実施の形態では、ソース画像獲得部5において、予め設定された所定のフレームレート(例えば、1秒間隔または5秒間隔など)でソース画像の獲得が行われる。
【0032】
図3は、領域選択部6の構成を示すブロック図である。図3に示すように、領域選択部6は、ソース画像から、背景画像中を移動する前景オブジェクトをソースオブジェクトとして抽出するソースオブジェクト抽出部14を備えている。また、領域選択部6は、ソース画像から、ソースオブジェクトが切り出された後の背景画像を獲得する背景画像獲得部15と、背景画像から、後述するカラーセットのソースカラーの領域情報に対応する対応領域を探索する対応領域探索部16を備えている。本実施の形態では、背景画像の獲得は、所定の時間間隔(例えば、1分間隔または5分間隔)で行われる。このように、領域選択部6は、ソース画像から特定のソース領域(ソースオブジェクト、背景画像の対応領域)を選択できるように構成されている。
【0033】
図4は、領域カラー決定部7の構成を示すブロック図である。図4に示すように、領域カラー決定部7は、ソースオブジェクトの平均色を算出し、オブジェクトカラーとして決定するオブジェクトカラー決定部17を備えている。例えば、ソースオブジェクトが様々な色を有している場合には、ソースオブジェクトの平均色は、輝度に対応するグレースケールの色情報となる。あるいは、ソースオブジェクトの平均色は、RGBのカラー情報のそれぞれの平均色を持つ色情報を持ってもよい。また、領域カラー決定部7は、対応領域の平均色を算出し、対応領域カラーとして決定する対応領域カラー決定部18を備えている。例えば、対応領域がほぼ一様な色を有している場合には、対応領域の平均色は、ほぼ一様な色を代表する中心的な色の色情報となる。すなわち、対応領域の平均色は、対応領域の代表色であるともいえる。この対応領域の代表色としては、対応領域の平均色のほかに、例えば、対応領域に含まれる色の最繁値(最も頻繁に現れる色)が用いられてもよい。このように、領域カラー決定部7は、ソース領域(ソースオブジェクト、対応領域)を代表する色として、ソース領域カラー(ソースオブジェクトカラー、対応領域カラー)を決定できるように構成されている。
【0034】
図5は、色校正部8の構成を示すブロック図である。図5に示すように、色校正部8は、ソースオブジェクトのオブジェクト情報(オブジェクトの色情報や位置情報等)が格納されるソースオブジェクト格納部19を備えている。また、色校正部8は、対応領域の対応領域情報(対応領域の色情報や位置情報等)が格納される対応領域格納部20と、対応領域を複数の小領域に分割する領域分割部21を備えている。また、色校正部8は、ソース画像の特定のソース領域(ソースオブジェクト、対応領域または小領域)のうち、ソースカラーと類似範囲内の色を有する領域を探索する類似領域探索部22と、探索された領域の色を、後述するカラーセットのリファレンスカラーに置換する領域色置換部23を備えている。このように、色校正部8は、カラーセット情報記憶部11に記憶されたカラーセット情報を用いて、ソース画像(ソース画像Aまたはソース画像B)のうち、ソースカラーと類似範囲内の色を、リファレンスカラーに校正できるように構成されている。
【0035】
カラーセット情報記憶部11には、例えば、図6に示すようなカラーセット情報が記憶されている。カラーセット情報は、色校正の対象となるソースカラーの色情報と、ソースカラーの色情報を獲得したもとの領域を示す領域情報と、色校正に用いるリファレンスカラーの色情報を有している。
【0036】
本実施の形態では、例えば、図2に示すソース画像(ソース画像Aおよびソース画像B)のソースオブジェクト(例えば人物)から獲得したカラーセット情報として、グレースケールのソースカラーの色情報(グレー3、グレー2)が記憶されている。リファレンスカラーの色情報(グレー1)は、例えば、リファレンスオブジェクト記憶部13に記憶されている人物のリファレンスオブジェクトから獲得される。なお、この場合、ソースカラーの領域情報は、ソースオブジェクト(例えば人物)がソース画面中を移動し、一定の領域に止まっているとは限らないため、カラーセット情報として記憶されない。
【0037】
また、本実施の形態では、例えば、図2に示すソース画像(ソース画像Aおよびソース画像B)の背景画像の対応領域の小領域(例えば街路樹の葉の部分)から獲得したカラーセット情報として、緑色のソースカラーの色情報(緑8、緑6)と領域情報(2b、4e)が記憶されている。リファレンスカラーの色情報(緑7)は、例えば、リファレンスオブジェクト記憶部13に記憶されている街路樹のリファレンスオブジェクトの葉の部分から獲得される。また、背景画像の対応領域の小領域(例えば街路樹の幹の部分)から獲得したカラーセット情報として、茶色のソースカラーの色情報(茶2、茶3)と領域情報(2c、4f)が記憶されている。リファレンスカラーの色情報(茶7)は、例えば、リファレンスオブジェクト記憶部13に記憶されている街路樹のリファレンスオブジェクトの幹の部分から獲得される。
【0038】
図7は、オブジェクト類似判定部12の構成を示すブロック図である。図7に示すように、オブジェクト類似判定部12は、特徴量獲得部24と、特徴量類似判定部25を備えている。特徴量獲得部24は、色校正部8のソースオブジェクト格納部19からソースオブジェクトの特徴量を獲得するとともに、リファレンスオブジェクト記憶部13からリファレンスオブジェクトの特徴量を獲得する。例えば、図2には、リファレンスオブジェクトの例が示される。本実施の形態では、リファレンスオブジェクトとして、例えば、街路樹や人物、道路などのオブジェクトが用いられる。そして、オブジェクトの特徴量として、例えば、オブジェクトの移動速度や大きさ、縦横比などの特徴量が使用される。特徴量類似判定部25は、ソースオブジェクトの特徴量とリファレンスオブジェクトの特徴量を比較することによって、ソースオブジェクトとリファレンスオブジェクトの類似度を判定する。このように、オブジェクト類似判定部12は、ソースオブジェクトとリファレンスオブジェクトが類似するか否かを判定できるように構成されている。
【0039】
図8は、照明変化検出部9の構成を示すブロック図である。図8に示すように、照明変化検出部9は、カラーセット情報記憶部11からカラーセット情報を獲得するカラーセット情報獲得部26と、カラーセット情報から対応領域(または小領域)に対応するソースカラーを獲得するソースカラー獲得部27を備えている(図6参照)。また、照明変化検出部9は、対応領域の色情報(対応領域カラー)を獲得する対応領域カラー獲得部34と、上記のソースカラーと対応領域カラーの色距離Dを最小二乗法等の比較手法を用いて計算する色距離計算部29と、色距離Dが所定のしきい色距離Dsよりも大きいときに照明変化があったと判定する照明変化判定部30を備えている。このように、照明変化検出部9は、ソース画像における照明環境の変化を検出できるように構成されている。
【0040】
本実施の形態では、ソースカラーと対応領域カラーの色距離Dは、例えば、下記の式1によって計算される。ここでは、ソースカラーのHSV色空間における座標を(h1、s1、v1)とし、対応領域カラーのHSV色空間における座標を(h2、s2、v2)とする。
D={(h1−h2)2+(s1−s2)2+(v1−v2)2}0.5 (式1)
【0041】
図9は、カラーセット更新部10の構成を示すブロック図である。図9に示すように、カラーセット更新部10は、カラーセット情報獲得部31と、ソースカラー獲得部32と、ソース領域情報獲得部33と、領域カラー獲得部34と、重み付け計算部35と、ソースカラー置換部36を備えている。
【0042】
カラーセット更新部10では、ソースオブジェクトとリファレンスオブジェクトが類似すると判定されたときに、ソース領域情報獲得部33によって、ソースオブジェクトのオブジェクト情報が獲得され、領域カラー獲得部34によって、ソースオブジェクトのオブジェクトカラーが獲得される。また、カラーセット情報獲得部31で、カラーセット情報が獲得され、ソースカラー獲得部32によって、ソースオブジェクトに対応するソースカラーが獲得される。そして、重み付け計算部35において、オブジェクトカラーとソースカラーの重み付け平均処理が行われ、ソースカラー置換部36において、重み付け平均処理前の古いソースカラーが、重み付け平均処理後の新しいソースカラーに置換される。このようにカラーセット更新部10は、ソースオブジェクトのオブジェクトカラーを用いて、カラーセットのソースカラーを自動的に更新できるように構成されている。
【0043】
本実施の形態では、重み付け計算部35において、オブジェクトカラーとソースカラーの重み付け平均処理が下記の式2を用いて行われる。ここで、Csは、重み付け平均処理を行う前の(更新前の)カラーセットのソースカラーの色情報であり、Coは、オブジェクトカラーの色情報である。また、Aは、重み付け係数(0≦A≦1)である。そして、Cs’が、重み付け平均処理によって得られた(更新後の)カラーセットのソースカラーの色情報である。
Cs’=(1−A)×Cs+A×Co (式2)
【0044】
また、カラーセット更新部10では、ソース画像において照明環境の変化があったと判定されたときに、ソース領域情報獲得部33によって、対応領域の対応領域情報が獲得され、領域カラー獲得部34によって、対応領域の対応領域カラーが獲得される。また、カラーセット情報獲得部31で、カラーセット情報が獲得され、ソースカラー獲得部32によって、対応領域に対応するソースカラーが獲得される。そして、上記と同様にして、重み付け計算部35において、オブジェクトカラーとソースカラーの重み付け平均処理が行われ、ソースカラー置換部36において、重み付け平均処理前の古いソースカラーが、重み付け平均処理後の新しいソースカラーに置換される。この場合、上記の式2におけるCoとして、オブジェクトカラーの色情報の代わりに、対応領域カラー(対応領域の平均色)が用いられる。このようにカラーセット更新部10は、対応領域の対応領域カラーを用いて、カラーセットのソースカラーを自動的に更新できるように構成されている。
【0045】
以上のように構成された色校正処理装置1について、図10〜図15を用いてその動作を説明する。
【0046】
まず、本発明の実施の形態の色校正処理装置1において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理およびソースカラーの更新が行われるときの動作について、図10〜図12を用いて説明する。
【0047】
図10は、本実施の形態の色校正処理装置1において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理およびソースカラーの更新処理を行うときの全体の流れを示すフロー図である。本実施の形態では、クライアントユニット3のソース画像獲得部5は、常時、所定のフレームレートで、カメラ2からソース画像を獲得している。
【0048】
図10に示すように、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理およびソースカラーの更新処理を行うときには、まず、領域選択部6のソースオブジェクト抽出部14において、ソース画像からソースオブジェクトの抽出を行う(S11)。つぎに、領域カラー決定部7のオブジェクトカラー決定部17において、ソースオブジェクトの代表色(例えば、ソースオブジェクトの平均色)をオブジェクトカラーとして決定する(S12)。そして、色校正部8において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理が行われる(S13)。
【0049】
図11は、色校正部8において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理(S13)を行うときの流れを示すフロー図である。図11に示すように、オブジェクトカラーを用いて色校正を行うときには、まず、ソースオブジェクト格納部19に、ソースオブジェクトのオブジェクト情報が格納される(S131)。そして、類似領域探索部22は、オブジェクト情報からソースオブジェクトのオブジェクトカラーの色情報を獲得するとともに(S132)、カラーセット情報記憶部11からカラーセットのソースカラーの色情報を獲得する(S133)。
【0050】
そして、類似領域探索部22では、ソースカラーと類似範囲内の色を有するソースオブジェクトの探索が行われる(S134)。ソースカラーと類似範囲内の色を有するソースオブジェクトが見つかった場合には、領域色置換部23において、ソースオブジェクトの色がそのソースカラーに対応するリファレンスカラーに置換され(S135)、色校正処理が終了する。一方、ソースカラーと類似範囲内の色を有するソースオブジェクトが見つからなかった場合には、色の置換を行わずに処理が終了する。
【0051】
上記のような色校正処理(S13)が行われた後、サーバユニット4のオブジェクト類似判定部12の特徴量獲得部24は、ソースオブジェクトとリファレンスオブジェクトの特徴量を獲得する(S14)。そして、オブジェクト類似判定部12の特徴類似判定部において、ソースオブジェクトとリファレンスオブジェクトの特徴量に基づいて、ソースオブジェクトとリファレンスオブジェクトの類似判定が行われる(S15)。
【0052】
ソースオブジェクトとリファレンスオブジェクトが類似すると判定された場合には、クライアントユニット3のカラーセット更新部10において、ソースオブジェクトのオブジェクトカラーを用いて、ソースカラーの更新処理(S16)が行われる。一方、ソースオブジェクトとリファレンスオブジェクトが類似しないと判定された場合には、ソースカラーの更新を行うことなく処理を終了する。
【0053】
図12は、カラーセット更新部10において、ソースオブジェクトのオブジェクトカラーを用いて、ソースカラーの更新処理(S16)を行うときの流れを示すフロー図である。図12に示すように、オブジェクトカラーを用いてソースカラーの更新を行うときには、まず、カラーセット更新部10のソース領域情報獲得部33によって、ソースオブジェクトのオブジェクト情報が獲得される(S161)。そして、領域カラー獲得部34によって、ソースオブジェクトのオブジェクト情報からオブジェクトカラーが獲得される(S162)。また、カラーセット情報獲得部31では、カラーセット情報記憶部11からカラーセット情報が獲得される(S163)。そして、ソースカラー獲得部32において、カラーセット情報からソースオブジェクトに対応するソースカラーが検索され獲得される(S164)。
【0054】
その後、カラーセット更新部10の重み付け計算部35において、オブジェクトカラーとソースカラーの重み付け平均処理が行われ(S165)、オブジェクトカラーとソースカラーから新しいソースカラーが求められる。そして、ソースカラー置換部36において、カラーセットの古いソースカラーが、新しいソースカラーに置換される(S166)。このようにして、カラーセットのソースカラーが自動的に更新される。
【0055】
つぎに、本発明の実施の形態の色校正処理装置1において、対応領域の対応領域カラーを用いて、色校正処理およびソースカラーの更新が行われるときの動作について、図13〜図15を用いて説明する。
【0056】
図13は、本実施の形態の色校正処理装置1において、背景画像の対応領域の対応領域カラーを用いて、色校正処理およびソースカラーの更新処理を行うときの全体の流れを示すフロー図である。本実施の形態でも、クライアントユニット3のソース画像獲得部5は、常時、所定のフレームレートで、カメラ2からソース画像を獲得している。
【0057】
図13に示すように、対応領域の対応領域カラーを用いて、色校正処理およびソースカラーの更新処理を行うときには、まず、領域選択部6の背景画像獲得部15において、ソース画像から背景画像の獲得が行われる(S21)。この背景画像の獲得は、所定の時間間隔(例えば、1分間隔または5分間隔)で行われる。つぎに、領域選択部6の対応領域探索部16において、背景画像から、カラーセットのソースカラーの領域情報に対応する対応領域の探索が行われる(S22)。そして、領域カラー決定部7の対応領域カラー決定部18において、対応領域の代表色(例えば、対応領域の平均色)が計算され、対応領域カラーとして決定される(S23)。
【0058】
つづいて、照明変化検出部9において、カラーセットのソースカラーと対応領域カラーがそれぞれ獲得されて、カラーセットのソースカラーと対応領域カラーとの色距離Dが色距離計算部29で計算される(S24)。そして、照明変化判定部30において、色距離Dがしきい色距離Dsよりも大きいか否かの判定が行われる(S25)。その判定の結果、色距離Dがしきい色距離Dsよりも大きい場合には、照明環境に変化があったと判定され、ソースカラーの更新処理(S26)が行われる。一方、色距離Dがしきい色距離Ds以下であった場合には、照明環境に変化がなかったと判定され、ソースカラーの更新処理が行われない。
【0059】
図14は、カラーセット更新部10において、対応領域の対応領域カラーを用いて、ソースカラーの更新処理(S26)を行うときの流れを示すフロー図である。図14に示すように、対応領域カラーを用いてソースカラーの更新を行うときには、まず、カラーセット更新部10のソース領域情報獲得部33によって、対応領域の対応領域情報が獲得される(S261)。そして、領域カラー獲得部34によって、対応領域の対応領域情報から対応領域カラーが獲得される(S262)。また、カラーセット情報獲得部31では、カラーセット情報記憶部11からカラーセット情報が獲得される(S263)。そして、ソースカラー獲得部32において、カラーセット情報から対応領域に対応するソースカラーが検索され獲得される(S264)。
【0060】
その後、カラーセット更新部10の重み付け計算部35において、対応領域カラーとソースカラーの重み付け平均処理が行われ(S265)、対応領域カラーとソースカラーから新しいソースカラーが求められる。そして、ソースカラー置換部36において、カラーセットの古いソースカラーが、新しいソースカラーに置換される(S266)。このようにして、カラーセットのソースカラーが自動的に更新される。
【0061】
上記のように一のカラーセットについて、ソースカラーの更新処理(S26)が完了した後、すべてのカラーセットについて、ソースカラーの更新が完了したか否かの判断が行われる(S27)。その判断の結果、すべてのカラーセットについて、カラーセットの更新が完了していないと判断された場合には、再び、背景画像から、カラーセットのソースカラーの領域情報に対応する対応領域の探索し(S22)、平均色を計算する(S23)。そして、照明環境の変化の有無についての判定を行い(S24〜S25)、残りのカラーセットについてソースカラー更新処理(S26)を繰り返し行う。
【0062】
そして、上記のようにして更新されたカラーセットを用いて、色校正部8において色校正処理が行われる(S28)。
【0063】
図15は、色校正部8において、対応領域の対応領域カラーを用いて、色校正処理(S28)を行うときの流れを示すフロー図である。図15に示すように、対応領域カラーを用いて色校正を行うときには、まず、対応領域格納部20に、対応領域の対応領域情報が格納される(S281)。
【0064】
つぎに、色校正部8の領域分割部21において、対応領域を小領域に分割するか否かの判断が行われる(S282)。本実施の形態では、例えば、対応領域が街路樹のような複数の色の領域(例えば、葉の緑色の領域と幹の茶色の領域の二つの領域)から構成されている場合には、対応領域を小領域に分割する必要があると判断され、領域分割の処理が行われる(S283)。一方、対応領域が道路のように単一の色の領域(例えば、舗装面のグレーの領域)から構成されている場合には、対応領域を小領域に分割する必要はないと判断される。
【0065】
その後、色校正部8の領域探索部において、格納された対応領域情報から、対応領域(または小領域)の対応領域カラーの色情報が獲得されるとともに(S284)、カラーセット情報記憶部11から、カラーセットのソースカラーの色情報が獲得される(S285)。そして、類似領域探索部22では、ソースカラーと類似範囲内の色を有する対応領域(または小領域)の探索が行われる(S286)。
【0066】
その探索の結果、ソースカラーと類似範囲内の色を有する対応領域(または小領域)が見つかった場合には、領域色置換部23において、対応領域(または小領域)の色がそのソースカラーに対応するリファレンスカラーに置換され(S287)、色校正処理が終了する。一方、ソースカラーと類似範囲内の色を有する対応領域(または小領域)が見つからなかった場合には、色の置換を行わずに処理が終了する。
【0067】
このような発明の実施の形態の色校正処理装置1によれば、ソース領域カラー(オブジェクトカラー、対応領域カラー)を用いてカラーセットのソースカラーを更新するカラーセット更新部10を設けることにより、色校正処理に不用なカラーセットの情報を保持しなくてすみ、計算負荷が軽減されて、照明環境の変化にリアルタイムで対応することができる。
【0068】
すなわち、本実施の形態では、カラーセット更新部10において、ソース領域(ソースオブジェクト、対応領域)のソース領域カラー(オブジェクトカラー、対応領域カラー)を用いて、カラーセットのソースカラーが置き換えられて更新される。したがって、追跡対象のオブジェクトが追加された場合や、照明環境に変化があった場合であっても、色校正処理に不用なカラーセットの情報を保持しなくてすむ。これにより、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。したがって、色校正処理に要する時間が短くなり、色校正処理の動作が安定する。また、計算負荷が小さいので、照明環境の変化にもリアルタイムで対応できる。
【0069】
また、本実施の形態では、追跡対象のオブジェクトが追加された場合であっても、オブジェクト類似判定部12において、ソースオブジェクトがリファレンスオブジェクトと類似するか否かの判定が行われる。そして、ソースオブジェクトとリファレンスオブジェクトが類似すると判定されたときには、カラーセット更新部10において、ソースオブジェクトのオブジェクトカラー(ソースオブジェクトの平均色)を用いて、カラーセットのソースカラーが更新される。これにより、色校正処理に不用なカラーセットの情報を保持しなくてすむ。したがって、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。
【0070】
また、本実施の形態では、オブジェクト類似判定部12において、ソースオブジェクトとリファレンスオブジェクトの特徴量(例えば、移動速度、大きさ、縦横比など)を用いてオブジェクトの類似度を判定することができ、ソースオブジェクトとリファレンスオブジェクトの対応付けの精度が向上し、ソースオブジェクトの追跡精度が向上する。
【0071】
また、本実施の形態では、カラーセット更新部10において、オブジェクトカラーとソースカラーの重み付け平均処理で得られた重み付け平均色が、更新用のソースカラーとして用いられる。これにより、ソースオブジェクトのオブジェクトカラーとカラーセットのソースカラーとの色の違いが大きい場合あっても、重み付けの度合いを調整することにより、更新用のソースカラーの色を調整することができる。
【0072】
また、本実施の形態では、照明環境に変化があった場合には、照明変化検出部9において、照明環境に変化があったと判定される。そして、照明環境に変化があったと判定されたときには、カラーセット更新部10において、対応領域カラーを用いてカラーセットのソースカラーが更新される。これにより、色校正処理に不用なカラーセットの情報を保持しなくてすむ。したがって、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。
【0073】
また、本実施の形態では、照明変化検出部9において、対応領域カラーとソースカラーの色距離(色空間における二つの色座標の間の距離)を用いて照明環境の変化の有無の判定が行われる。これにより、従来の照明環境の変化の検出方法に比べて計算負荷が軽減され、照明環境の変化等への適応性が向上する。
【0074】
また、本実施の形態では、領域選択部6の背景画像獲得部15において、所定の時間間隔(例えば、1分間隔または5分間隔)で、ソース画像から背景画像を獲得する。そして、照明変化検出において、その背景画像から照明環境の変化を検出する。したがって、照明環境が変化する頻度に応じて所定の時間間隔を調整することにより、照明環境の変化の検出計算を行う頻度を調整することができ、常に照明環境の変化を検出する場合に比べて計算負荷が軽減される。
【0075】
また、本実施の形態では、色校正部8において、対応領域(例えば、街路樹)がそれぞれ異なる色を有する複数の小領域(例えば、葉の部分と幹の部分)から構成されているときには、複数の小領域ごとの対応領域カラーを用いてソースカラーが更新される。これにより、対応領域の対応付けの精度が向上する。
【0076】
以上、本発明の実施の形態を例示により説明したが、本発明の範囲はこれらに限定されるものではなく、請求項に記載された範囲内において目的に応じて変更・変形することが可能である。
【0077】
例えば、以上の説明では、撮像装置として、所定のフレームレートで静止画像の撮影を行うカメラ2の場合を例示して説明したが、本発明の範囲はこれに限定されるものではなく、常時、動画画像の撮影を行うカメラ(ビデオカメラ)であってもよい。
【0078】
また、以上の説明では、色校正処理装置1が、二つのクライアントユニット3と一つのサーバユニット4で構成された例について説明したが、本発明の範囲はこれに限定されるものではない。例えば、各クライアントユニット3がサーバユニット4の機能(オブジェクト類似判定手段、リファレンスオブジェクト記憶手段)を備えた構成であってもよい。
【0079】
また、以上の説明では、撮像装置であるカメラ2が二つの場合を例示して説明したが、本発明の範囲はこれに限定されるものではなく、撮像装置が三つ以上の場合であっても同様に実施可能である。
【0080】
また、以上の説明では、カメラAおよびカメラBの撮影領域が部分的に重複している場合を例示して説明したが(図2参照)、本発明の範囲はこれに限定されるものではなく、カメラAおよびカメラBの撮影領域が重複していない場合であっても同様に実施可能である。
【0081】
また、以上の説明では、色校正処理装置1によって自動的にカラーセットの選択および更新が行われる例について説明したが、本発明の範囲はこれに限定されるものではなく、ユーザが手動でカラーセットの選択を行い、そのカラーセットの領域情報を用いてカラーセットの更新が行われても良い。
【産業上の利用可能性】
【0082】
以上のように、本発明にかかる色校正処理装置は、色校正処理に不用なカラーセットの情報を保持しなくてすみ、計算負荷が軽減されて、照明環境の変化にリアルタイムで対応できるという効果を有し、追跡監視システム等に用いられる色校正処理装置等として有用である。
【図面の簡単な説明】
【0083】
【図1】本発明の実施の形態における色校正処理装置のブロック図
【図2】本発明の実施の形態におけるカメラ画像を説明するための概略図
【図3】本発明の実施の形態における領域選択部のブロック図
【図4】本発明の実施の形態における領域カラー決定部のブロック図
【図5】本発明の実施の形態における色校正部のブロック図
【図6】本発明の実施の形態におけるカラーセット情報を説明する表
【図7】本発明の実施の形態におけるオブジェクト類似判定部のブロック図
【図8】本発明の実施の形態における照明変化検出部のブロック図
【図9】本発明の実施の形態におけるカラーセット更新部のブロック図
【図10】本発明の実施の形態において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理およびソースカラーの更新処理を行うときの全体の流れを示すフロー図
【図11】本発明の実施の形態において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理を行うときの流れを示すフロー図
【図12】本発明の実施の形態において、ソースオブジェクトのオブジェクトカラーを用いて、ソースカラーの更新処理を行うときの流れを示すフロー図
【図13】本発明の実施の形態において、対応領域の対応領域カラーを用いて、色校正処理およびソースカラーの更新処理を行うときの全体の流れを示すフロー図
【図14】本発明の実施の形態において、対応領域の対応領域カラーを用いて、ソースカラーの更新処理を行うときの流れを示すフロー図
【図15】本発明の実施の形態において、対応領域の対応領域カラーを用いて、色校正処理を行うときの流れを示すフロー図
【符号の説明】
【0084】
1 色校正処理装置
2 カメラ
5 ソース画像獲得部
6 領域選択部(領域選択手段)
7 領域カラー決定部(領域カラー決定手段)
8 色校正部(色校正手段)
9 照明変化検出部(照明変化検出手段)
10 カラーセット更新部(カラーセット更新手段)
11 カラーセット情報記憶部(カラーセット情報記憶手段)
12 オブジェクト類似判定部(オブジェクト類似判定手段)
13 リファレンスオブジェクト記憶部
14 ソースオブジェクト抽出部(ソースオブジェクト抽出手段)
15 背景画像獲得部(背景画像獲得手段)
16 対応領域探索部(対応領域探索手段)
17 オブジェクトカラー決定部(オブジェクトカラー決定手段)
18 対応領域カラー決定部(対応領域カラー決定手段)
21 領域分割部(領域分割手段)
24 特徴量獲得部
25 特徴量類似判定部
29 色距離計算部
30 照明変化判定部
35 重み付け計算部
【技術分野】
【0001】
本発明は、複数の撮像装置で撮影された画像に色校正処理を施す色校正処理装置に関し、照明環境の変化等への適応性を向上した色校正処理装置に関するものである。
【背景技術】
【0002】
従来、複数のカメラで撮影した画像にコンピュータで画像処理を施して、人物等のオブジェクトを追跡監視する追跡監視システムが知られている。このような追跡監視システムでは、各カメラの特性、照明環境、設置条件などが違うと、各カメラで撮影した同一のオブジェクト(例えば、人物等)の画像の見え方、特にオブジェクトの色の見え方が、各カメラで異なることとなる。したがって、複数のカメラを用いてオブジェクトの追跡を行うためには、複数カメラ間で異なる色の見え方をする同一のオブジェクトの対応付けを図る、すなわち色の恒常性を維持する必要がある。従来の追跡監視システムでは、オブジェクトの色情報を用いて、複数カメラ間でのオブジェクトの色の校正処理を行うことにより、複数のカメラで撮影した同一のオブジェクトの対応付けが行われている。これにより、複数のカメラ間におけるオブジェクトの対応付けの精度が向上し、複数カメラ間でのオブジェクトの追跡精度の向上が図られている。
【0003】
このような追跡監視システムでは、例えば、照明環境の変化があった場合に、照明環境の変化に応じてオブジェクトの色情報を更新する必要がある。従来、照明環境の変化を検出する方法として、画像の変化を検出するために2つの画像領域の対応するピクセル間の偏差を検出する方法が知られている(例えば、特許文献1参照)。また、照明環境の変化を検出する他の方法として、新たなシーンの始まりを検出するために映像を格納し、映像信号の代表値を用いてシーン変化の検出を実現する方法が知られている(例えば、特許文献2参照)。また、照明環境の変化を検出する他の方法として、多くの画像の特性を基に、個々の画像の特徴ベクトルを作成し、各ベクトルの違いを計算して得られた値(オブジェクトの特徴を持つ値)がそれぞれの画像に対して変化したときシーンの変化を検出する方法が知られている(例えば、特許文献3参照)。
【特許文献1】米国特許第4779095号明細書
【特許文献2】米国特許第4823184号明細書
【特許文献3】米国特許第4912770号明細書
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の追跡監視システムでは、例えば、追跡対象のオブジェクトが追加されると、それに伴ってオブジェクトの色情報が追加される。この場合、新たに追加されたオブジェクトと同様のオブジェクトの色情報をすでに保持している場合であっても、オブジェクトの追加にともなってオブジェクトの色情報が追加される。このように、色校正処理に不用なオブジェクトの色情報まで追加されると、オブジェクトの色情報が過度に多くなるという問題があった。すなわち、オブジェクトの色情報が増加すると、色校正処理に用いる情報量が多くなるため、色校正処理に要する時間が長くなり、色校正処理の動作も不安定になるという問題があった。
【0005】
また、照明環境が変化した場合には、それまで使用していたオブジェクトの色情報が使用できなくなり、その分だけ不用な色情報が増えるという問題があった。そして、照明環境が変化したときには、すぐにその変化に対応して、新しい色情報を入手する必要があるが、従来の照明環境の変化の検出方法では、計算負荷が非常に大きく、リアルタイム処理に適していないという問題があった。
【0006】
本発明は、上記従来の問題を解決するためになされたもので、計算負荷が小さく、照明環境の変化にもリアルタイムで対応することのできる色校正処理装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の色校正処理装置は、色校正の対象となるソースカラーの色情報と、色校正後のリファレンスカラーの色情報を含むカラーセット情報を記憶するカラーセット情報記憶手段と、前記カラーセットを用いて、複数の撮像装置で撮影された各ソース画像のうち前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正する色校正手段と、前記各ソース画像から特定のソース領域を選択する領域選択手段と、前記ソース領域を代表する色としてソース領域カラーを決定する領域カラー決定手段と、前記ソース領域カラーを用いて、前記カラーセットのソースカラーを更新するカラーセット更新手段とを備えた構成を有している。
【0008】
この構成により、ソース領域のソース領域カラーを用いて、カラーセットのソースカラーが置き換えられて更新される。したがって、追跡対象のオブジェクトが追加された場合や、照明環境に変化があった場合であっても、色校正処理に不用な情報を保持しなくてすむ。これにより、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。したがって、色校正処理に要する時間が短くなり、色校正処理の動作が安定する。また、計算負荷が小さいので、照明環境の変化にもリアルタイムで対応できる。
【0009】
また、本発明の色校正処理装置では、前記領域選択手段は、前記複数のソース画像から、背景画像中を移動する前景オブジェクト(例えば、人物など)をソースオブジェクトとして抽出するソースオブジェクト抽出手段を備え、前記領域カラー決定手段は、前記ソースオブジェクトの平均色を、前記ソース領域カラーであるオブジェクトカラーとして決定するオブジェクトカラー決定手段を備え、色校正処理装置には、前記ソースオブジェクトと所定のリファレンスオブジェクトが類似するか否かを判定するオブジェクト類似判定手段が備えられ、前記カラーセット更新手段は、前記ソースオブジェクトと前記リファレンスオブジェクトが類似すると判定されたときに、前記ソースオブジェクトのオブジェクトカラーを用いて、前記カラーセットのソースカラーを更新する構成を有している。
【0010】
この構成により、追跡対象のオブジェクトが追加された場合であっても、ソースオブジェクトがリファレンスオブジェクトと類似するときには、ソースオブジェクトのオブジェクトカラー(ソースオブジェクトの平均色)を用いて、カラーセットのソースカラーが更新され、色校正処理に不用なカラーセットの情報を保持しなくてすむ。これにより、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。
【0011】
また、本発明の色校正処理装置では、前記オブジェクト類似判定手段は、前記ソースオブジェクトと前記リファレンスオブジェクトの特徴量を比較することにより、前記ソースオブジェクトと前記リファレンスオブジェクトの類似度を判定する構成を有している。
【0012】
この構成により、ソースオブジェクトとリファレンスオブジェクトの特徴量(例えば、移動速度、大きさ、縦横比など)を用いてオブジェクトの類似度を判定することができ、ソースオブジェクトとリファレンスオブジェクトの対応付けの精度が向上し、ソースオブジェクトの追跡精度が向上する。
【0013】
また、本発明の色校正処理装置では、前記カラーセット更新手段は、前記ソースオブジェクトのオブジェクトカラーと前記カラーセットのソースカラーの重み付け平均処理で得られた重み付け平均色を、更新用のソースカラーとして用いる構成を有している。
【0014】
この構成により、ソースオブジェクトのオブジェクトカラーとカラーセットのソースカラーとの色の違いが大きい場合あっても、重み付けの度合いを調整することにより、更新用のソースカラーの色を調整することができる。
【0015】
また、本発明の色校正処理装置では、前記カラーセット情報記憶手段には、前記ソースカラーの色情報を獲得した領域情報を含むカラーセット情報が記憶され、前記領域選択手段は、前記複数のソース画像から背景画像を獲得する背景画像獲得手段と、前記背景画像から、前記ソースカラーの領域情報に対応する対応領域(例えば、街路樹や道路など)を探索する対応領域探索手段を備え、前記領域カラー決定手段は、前記対応領域の平均色を、前記ソース領域カラーである対応領域カラーとして決定する対応領域カラー決定手段を備え、色校正処理装置には、前記対応領域カラーに基づいて、前記ソース画像における照明環境の変化を検出する照明変化検出手段が備えられ、前記カラーセット更新手段は、照明環境に変化があったと判定されたときに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新する構成を有している。
【0016】
この構成により、照明環境に変化があった場合であっても、照明環境に変化があったと判定されたときには、対応領域カラーを用いてカラーセットのソースカラーが更新され、色校正処理に不用なカラーセットの情報を保持しなくてすむ。これにより、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。
【0017】
また、本発明の色校正処理装置では、前記照明変化検出手段は、前記対応領域カラーと前記ソースカラーの色距離を算出する色距離算出手段と、前記対応領域カラーと前記ソースカラーの色距離が、所定のしきい色距離よりも大きいときに、照明環境に変化があったと判定する照明変化判定手段とを備えた構成を有している。
【0018】
この構成により、対応領域カラーとソースカラーの色距離(色空間における二つの色座標の間の距離)を用いて照明環境の変化の有無を判定することができ、従来の照明環境の変化の検出方法に比べて計算負荷が軽減され、照明環境の変化等への適応性が向上する。
【0019】
また、本発明の色校正処理装置では、前記背景画像獲得手段は、所定の時間間隔で、前記複数のソース画像から前記背景画像を獲得し、前記照明変化検出手段は、前記所定の時間間隔で、前記ソース画像における照明環境の変化を検出する構成を有している。
【0020】
この構成により、所定の時間間隔で、ソース画像から背景画像を獲得し、照明環境の変化を検出する。したがって、照明環境が変化する頻度に応じて所定の時間間隔を調整することにより、照明環境の変化の検出計算を行う頻度を調整することができ、常に照明環境の変化を検出する場合に比べて計算負荷が軽減される。
【0021】
また、本発明の色校正処理装置では、前記色校正手段は、前記対応領域を複数の小領域に分割する領域分割手段を備え、前記複数の小領域ごとに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新する構成を有している。
【0022】
この構成により、対応領域(例えば、街路樹)がそれぞれ異なる色を有する複数の小領域(例えば、葉の部分と幹の部分)から構成されているときには、複数の小領域ごとの対応領域カラーを用いてソースカラーを更新でき、対応領域の対応付けの精度が向上する。
【0023】
本発明の色校正処理方法では、色校正の対象となるソースカラーの色情報と、色校正後のリファレンスカラーの色情報を含むカラーセット情報を記憶し、複数の撮像装置で撮影された各ソース画像から特定のソース領域を選択し、前記ソース領域を代表する色としてソース領域カラーを決定し、前記ソース領域カラーを用いて、前記カラーセットのソースカラーを更新し、前記カラーセットを用いて、前記複数のソース画像のうち前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正する構成を有している。
【0024】
また、本発明の色校正処理方法では、前記ソース画像から、背景画像中を移動する前景オブジェクトをソースオブジェクトとして抽出し、前記ソースオブジェクトの平均色を、前記ソース領域カラーであるオブジェクトカラーとして決定し、前記ソースオブジェクトと所定のリファレンスオブジェクトが類似するか否かを判定し、前記ソースオブジェクトと前記リファレンスオブジェクトが類似すると判定されたときに、前記ソースオブジェクトのオブジェクトカラーを用いて、前記カラーセットのソースカラーを更新する構成を有している。
【0025】
また、本発明の色校正処理方法では、前記ソースカラーの色情報を獲得した領域情報を含むカラーセット情報を記憶し、前記複数のソース画像から背景画像を獲得し、前記背景画像から、前記ソースカラーの領域情報に対応する対応領域を探索し、前記対応領域の平均色を、前記ソース領域カラーである対応領域カラーとして決定し、前記対応領域カラーに基づいて、前記ソース画像における照明環境の変化を検出し、照明環境に変化があったと判定されたときに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新する構成を有している。
【発明の効果】
【0026】
本発明は、ソース領域カラーを用いてカラーセットのソースカラーを更新するカラーセット更新手段を設けることにより、色校正処理に不用なカラーセットの情報を保持しなくてすみ、計算負荷が軽減されて、照明環境の変化にリアルタイムで対応できるという効果を有する色校正処理装置を提供することができるものである。
【発明を実施するための最良の形態】
【0027】
以下、本発明の実施の形態の色校正処理装置について、図1〜図9を用いて説明する。本実施の形態では、図2に示すように、二つのカメラで撮影された二つのカメラ画像にコンピュータで画像処理を施して、その二つのカメラ画像間をまたがって移動するオブジェクト(例えば、人物など)を追跡監視する追跡監視システムに用いられる色校正処理装置の場合を例示する。
【0028】
以下の説明では、二つのカメラをカメラAおよびカメラBという。そして、カメラAで撮像された画像をソース画像Aといい、カメラBで撮影された画像をソース画像Bという。本実施の形態では、カメラAとカメラBは互いに離れた位置に配置されている(図2参照)。そして、監視対象である人物は、カメラAのソース画像AとカメラBのソース画像Bをまたがって移動する。
【0029】
本発明の実施の形態の色校正処理装置のブロック図を図1に示す。図1に示すように、色校正処理装置1は、二つのカメラ2(カメラAおよびカメラB)が設置された監視場所に設置される二つのクライアントユニット3(クライアントユニットAおよびクライアントユニットB)と、中央の監視場所に設置される一つのサーバユニット4を備えている。
【0030】
図1に示すように、クライアントユニット3は、ソース画像獲得部5と、領域選択部6と、領域カラー決定部7と、色校正部8と、照明変化検出部9と、カラーセット更新部10と、カラーセット情報記憶部11を備えている。また、サーバユニット4は、オブジェクト類似判定部12と、リファレンスオブジェクト記憶部13を備えている。
【0031】
ソース画像獲得部5は、カメラ2(カメラAまたはカメラB)からソース画像(ソース画像Aまたはソース画像B)を獲得する。本実施の形態では、ソース画像獲得部5において、予め設定された所定のフレームレート(例えば、1秒間隔または5秒間隔など)でソース画像の獲得が行われる。
【0032】
図3は、領域選択部6の構成を示すブロック図である。図3に示すように、領域選択部6は、ソース画像から、背景画像中を移動する前景オブジェクトをソースオブジェクトとして抽出するソースオブジェクト抽出部14を備えている。また、領域選択部6は、ソース画像から、ソースオブジェクトが切り出された後の背景画像を獲得する背景画像獲得部15と、背景画像から、後述するカラーセットのソースカラーの領域情報に対応する対応領域を探索する対応領域探索部16を備えている。本実施の形態では、背景画像の獲得は、所定の時間間隔(例えば、1分間隔または5分間隔)で行われる。このように、領域選択部6は、ソース画像から特定のソース領域(ソースオブジェクト、背景画像の対応領域)を選択できるように構成されている。
【0033】
図4は、領域カラー決定部7の構成を示すブロック図である。図4に示すように、領域カラー決定部7は、ソースオブジェクトの平均色を算出し、オブジェクトカラーとして決定するオブジェクトカラー決定部17を備えている。例えば、ソースオブジェクトが様々な色を有している場合には、ソースオブジェクトの平均色は、輝度に対応するグレースケールの色情報となる。あるいは、ソースオブジェクトの平均色は、RGBのカラー情報のそれぞれの平均色を持つ色情報を持ってもよい。また、領域カラー決定部7は、対応領域の平均色を算出し、対応領域カラーとして決定する対応領域カラー決定部18を備えている。例えば、対応領域がほぼ一様な色を有している場合には、対応領域の平均色は、ほぼ一様な色を代表する中心的な色の色情報となる。すなわち、対応領域の平均色は、対応領域の代表色であるともいえる。この対応領域の代表色としては、対応領域の平均色のほかに、例えば、対応領域に含まれる色の最繁値(最も頻繁に現れる色)が用いられてもよい。このように、領域カラー決定部7は、ソース領域(ソースオブジェクト、対応領域)を代表する色として、ソース領域カラー(ソースオブジェクトカラー、対応領域カラー)を決定できるように構成されている。
【0034】
図5は、色校正部8の構成を示すブロック図である。図5に示すように、色校正部8は、ソースオブジェクトのオブジェクト情報(オブジェクトの色情報や位置情報等)が格納されるソースオブジェクト格納部19を備えている。また、色校正部8は、対応領域の対応領域情報(対応領域の色情報や位置情報等)が格納される対応領域格納部20と、対応領域を複数の小領域に分割する領域分割部21を備えている。また、色校正部8は、ソース画像の特定のソース領域(ソースオブジェクト、対応領域または小領域)のうち、ソースカラーと類似範囲内の色を有する領域を探索する類似領域探索部22と、探索された領域の色を、後述するカラーセットのリファレンスカラーに置換する領域色置換部23を備えている。このように、色校正部8は、カラーセット情報記憶部11に記憶されたカラーセット情報を用いて、ソース画像(ソース画像Aまたはソース画像B)のうち、ソースカラーと類似範囲内の色を、リファレンスカラーに校正できるように構成されている。
【0035】
カラーセット情報記憶部11には、例えば、図6に示すようなカラーセット情報が記憶されている。カラーセット情報は、色校正の対象となるソースカラーの色情報と、ソースカラーの色情報を獲得したもとの領域を示す領域情報と、色校正に用いるリファレンスカラーの色情報を有している。
【0036】
本実施の形態では、例えば、図2に示すソース画像(ソース画像Aおよびソース画像B)のソースオブジェクト(例えば人物)から獲得したカラーセット情報として、グレースケールのソースカラーの色情報(グレー3、グレー2)が記憶されている。リファレンスカラーの色情報(グレー1)は、例えば、リファレンスオブジェクト記憶部13に記憶されている人物のリファレンスオブジェクトから獲得される。なお、この場合、ソースカラーの領域情報は、ソースオブジェクト(例えば人物)がソース画面中を移動し、一定の領域に止まっているとは限らないため、カラーセット情報として記憶されない。
【0037】
また、本実施の形態では、例えば、図2に示すソース画像(ソース画像Aおよびソース画像B)の背景画像の対応領域の小領域(例えば街路樹の葉の部分)から獲得したカラーセット情報として、緑色のソースカラーの色情報(緑8、緑6)と領域情報(2b、4e)が記憶されている。リファレンスカラーの色情報(緑7)は、例えば、リファレンスオブジェクト記憶部13に記憶されている街路樹のリファレンスオブジェクトの葉の部分から獲得される。また、背景画像の対応領域の小領域(例えば街路樹の幹の部分)から獲得したカラーセット情報として、茶色のソースカラーの色情報(茶2、茶3)と領域情報(2c、4f)が記憶されている。リファレンスカラーの色情報(茶7)は、例えば、リファレンスオブジェクト記憶部13に記憶されている街路樹のリファレンスオブジェクトの幹の部分から獲得される。
【0038】
図7は、オブジェクト類似判定部12の構成を示すブロック図である。図7に示すように、オブジェクト類似判定部12は、特徴量獲得部24と、特徴量類似判定部25を備えている。特徴量獲得部24は、色校正部8のソースオブジェクト格納部19からソースオブジェクトの特徴量を獲得するとともに、リファレンスオブジェクト記憶部13からリファレンスオブジェクトの特徴量を獲得する。例えば、図2には、リファレンスオブジェクトの例が示される。本実施の形態では、リファレンスオブジェクトとして、例えば、街路樹や人物、道路などのオブジェクトが用いられる。そして、オブジェクトの特徴量として、例えば、オブジェクトの移動速度や大きさ、縦横比などの特徴量が使用される。特徴量類似判定部25は、ソースオブジェクトの特徴量とリファレンスオブジェクトの特徴量を比較することによって、ソースオブジェクトとリファレンスオブジェクトの類似度を判定する。このように、オブジェクト類似判定部12は、ソースオブジェクトとリファレンスオブジェクトが類似するか否かを判定できるように構成されている。
【0039】
図8は、照明変化検出部9の構成を示すブロック図である。図8に示すように、照明変化検出部9は、カラーセット情報記憶部11からカラーセット情報を獲得するカラーセット情報獲得部26と、カラーセット情報から対応領域(または小領域)に対応するソースカラーを獲得するソースカラー獲得部27を備えている(図6参照)。また、照明変化検出部9は、対応領域の色情報(対応領域カラー)を獲得する対応領域カラー獲得部34と、上記のソースカラーと対応領域カラーの色距離Dを最小二乗法等の比較手法を用いて計算する色距離計算部29と、色距離Dが所定のしきい色距離Dsよりも大きいときに照明変化があったと判定する照明変化判定部30を備えている。このように、照明変化検出部9は、ソース画像における照明環境の変化を検出できるように構成されている。
【0040】
本実施の形態では、ソースカラーと対応領域カラーの色距離Dは、例えば、下記の式1によって計算される。ここでは、ソースカラーのHSV色空間における座標を(h1、s1、v1)とし、対応領域カラーのHSV色空間における座標を(h2、s2、v2)とする。
D={(h1−h2)2+(s1−s2)2+(v1−v2)2}0.5 (式1)
【0041】
図9は、カラーセット更新部10の構成を示すブロック図である。図9に示すように、カラーセット更新部10は、カラーセット情報獲得部31と、ソースカラー獲得部32と、ソース領域情報獲得部33と、領域カラー獲得部34と、重み付け計算部35と、ソースカラー置換部36を備えている。
【0042】
カラーセット更新部10では、ソースオブジェクトとリファレンスオブジェクトが類似すると判定されたときに、ソース領域情報獲得部33によって、ソースオブジェクトのオブジェクト情報が獲得され、領域カラー獲得部34によって、ソースオブジェクトのオブジェクトカラーが獲得される。また、カラーセット情報獲得部31で、カラーセット情報が獲得され、ソースカラー獲得部32によって、ソースオブジェクトに対応するソースカラーが獲得される。そして、重み付け計算部35において、オブジェクトカラーとソースカラーの重み付け平均処理が行われ、ソースカラー置換部36において、重み付け平均処理前の古いソースカラーが、重み付け平均処理後の新しいソースカラーに置換される。このようにカラーセット更新部10は、ソースオブジェクトのオブジェクトカラーを用いて、カラーセットのソースカラーを自動的に更新できるように構成されている。
【0043】
本実施の形態では、重み付け計算部35において、オブジェクトカラーとソースカラーの重み付け平均処理が下記の式2を用いて行われる。ここで、Csは、重み付け平均処理を行う前の(更新前の)カラーセットのソースカラーの色情報であり、Coは、オブジェクトカラーの色情報である。また、Aは、重み付け係数(0≦A≦1)である。そして、Cs’が、重み付け平均処理によって得られた(更新後の)カラーセットのソースカラーの色情報である。
Cs’=(1−A)×Cs+A×Co (式2)
【0044】
また、カラーセット更新部10では、ソース画像において照明環境の変化があったと判定されたときに、ソース領域情報獲得部33によって、対応領域の対応領域情報が獲得され、領域カラー獲得部34によって、対応領域の対応領域カラーが獲得される。また、カラーセット情報獲得部31で、カラーセット情報が獲得され、ソースカラー獲得部32によって、対応領域に対応するソースカラーが獲得される。そして、上記と同様にして、重み付け計算部35において、オブジェクトカラーとソースカラーの重み付け平均処理が行われ、ソースカラー置換部36において、重み付け平均処理前の古いソースカラーが、重み付け平均処理後の新しいソースカラーに置換される。この場合、上記の式2におけるCoとして、オブジェクトカラーの色情報の代わりに、対応領域カラー(対応領域の平均色)が用いられる。このようにカラーセット更新部10は、対応領域の対応領域カラーを用いて、カラーセットのソースカラーを自動的に更新できるように構成されている。
【0045】
以上のように構成された色校正処理装置1について、図10〜図15を用いてその動作を説明する。
【0046】
まず、本発明の実施の形態の色校正処理装置1において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理およびソースカラーの更新が行われるときの動作について、図10〜図12を用いて説明する。
【0047】
図10は、本実施の形態の色校正処理装置1において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理およびソースカラーの更新処理を行うときの全体の流れを示すフロー図である。本実施の形態では、クライアントユニット3のソース画像獲得部5は、常時、所定のフレームレートで、カメラ2からソース画像を獲得している。
【0048】
図10に示すように、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理およびソースカラーの更新処理を行うときには、まず、領域選択部6のソースオブジェクト抽出部14において、ソース画像からソースオブジェクトの抽出を行う(S11)。つぎに、領域カラー決定部7のオブジェクトカラー決定部17において、ソースオブジェクトの代表色(例えば、ソースオブジェクトの平均色)をオブジェクトカラーとして決定する(S12)。そして、色校正部8において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理が行われる(S13)。
【0049】
図11は、色校正部8において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理(S13)を行うときの流れを示すフロー図である。図11に示すように、オブジェクトカラーを用いて色校正を行うときには、まず、ソースオブジェクト格納部19に、ソースオブジェクトのオブジェクト情報が格納される(S131)。そして、類似領域探索部22は、オブジェクト情報からソースオブジェクトのオブジェクトカラーの色情報を獲得するとともに(S132)、カラーセット情報記憶部11からカラーセットのソースカラーの色情報を獲得する(S133)。
【0050】
そして、類似領域探索部22では、ソースカラーと類似範囲内の色を有するソースオブジェクトの探索が行われる(S134)。ソースカラーと類似範囲内の色を有するソースオブジェクトが見つかった場合には、領域色置換部23において、ソースオブジェクトの色がそのソースカラーに対応するリファレンスカラーに置換され(S135)、色校正処理が終了する。一方、ソースカラーと類似範囲内の色を有するソースオブジェクトが見つからなかった場合には、色の置換を行わずに処理が終了する。
【0051】
上記のような色校正処理(S13)が行われた後、サーバユニット4のオブジェクト類似判定部12の特徴量獲得部24は、ソースオブジェクトとリファレンスオブジェクトの特徴量を獲得する(S14)。そして、オブジェクト類似判定部12の特徴類似判定部において、ソースオブジェクトとリファレンスオブジェクトの特徴量に基づいて、ソースオブジェクトとリファレンスオブジェクトの類似判定が行われる(S15)。
【0052】
ソースオブジェクトとリファレンスオブジェクトが類似すると判定された場合には、クライアントユニット3のカラーセット更新部10において、ソースオブジェクトのオブジェクトカラーを用いて、ソースカラーの更新処理(S16)が行われる。一方、ソースオブジェクトとリファレンスオブジェクトが類似しないと判定された場合には、ソースカラーの更新を行うことなく処理を終了する。
【0053】
図12は、カラーセット更新部10において、ソースオブジェクトのオブジェクトカラーを用いて、ソースカラーの更新処理(S16)を行うときの流れを示すフロー図である。図12に示すように、オブジェクトカラーを用いてソースカラーの更新を行うときには、まず、カラーセット更新部10のソース領域情報獲得部33によって、ソースオブジェクトのオブジェクト情報が獲得される(S161)。そして、領域カラー獲得部34によって、ソースオブジェクトのオブジェクト情報からオブジェクトカラーが獲得される(S162)。また、カラーセット情報獲得部31では、カラーセット情報記憶部11からカラーセット情報が獲得される(S163)。そして、ソースカラー獲得部32において、カラーセット情報からソースオブジェクトに対応するソースカラーが検索され獲得される(S164)。
【0054】
その後、カラーセット更新部10の重み付け計算部35において、オブジェクトカラーとソースカラーの重み付け平均処理が行われ(S165)、オブジェクトカラーとソースカラーから新しいソースカラーが求められる。そして、ソースカラー置換部36において、カラーセットの古いソースカラーが、新しいソースカラーに置換される(S166)。このようにして、カラーセットのソースカラーが自動的に更新される。
【0055】
つぎに、本発明の実施の形態の色校正処理装置1において、対応領域の対応領域カラーを用いて、色校正処理およびソースカラーの更新が行われるときの動作について、図13〜図15を用いて説明する。
【0056】
図13は、本実施の形態の色校正処理装置1において、背景画像の対応領域の対応領域カラーを用いて、色校正処理およびソースカラーの更新処理を行うときの全体の流れを示すフロー図である。本実施の形態でも、クライアントユニット3のソース画像獲得部5は、常時、所定のフレームレートで、カメラ2からソース画像を獲得している。
【0057】
図13に示すように、対応領域の対応領域カラーを用いて、色校正処理およびソースカラーの更新処理を行うときには、まず、領域選択部6の背景画像獲得部15において、ソース画像から背景画像の獲得が行われる(S21)。この背景画像の獲得は、所定の時間間隔(例えば、1分間隔または5分間隔)で行われる。つぎに、領域選択部6の対応領域探索部16において、背景画像から、カラーセットのソースカラーの領域情報に対応する対応領域の探索が行われる(S22)。そして、領域カラー決定部7の対応領域カラー決定部18において、対応領域の代表色(例えば、対応領域の平均色)が計算され、対応領域カラーとして決定される(S23)。
【0058】
つづいて、照明変化検出部9において、カラーセットのソースカラーと対応領域カラーがそれぞれ獲得されて、カラーセットのソースカラーと対応領域カラーとの色距離Dが色距離計算部29で計算される(S24)。そして、照明変化判定部30において、色距離Dがしきい色距離Dsよりも大きいか否かの判定が行われる(S25)。その判定の結果、色距離Dがしきい色距離Dsよりも大きい場合には、照明環境に変化があったと判定され、ソースカラーの更新処理(S26)が行われる。一方、色距離Dがしきい色距離Ds以下であった場合には、照明環境に変化がなかったと判定され、ソースカラーの更新処理が行われない。
【0059】
図14は、カラーセット更新部10において、対応領域の対応領域カラーを用いて、ソースカラーの更新処理(S26)を行うときの流れを示すフロー図である。図14に示すように、対応領域カラーを用いてソースカラーの更新を行うときには、まず、カラーセット更新部10のソース領域情報獲得部33によって、対応領域の対応領域情報が獲得される(S261)。そして、領域カラー獲得部34によって、対応領域の対応領域情報から対応領域カラーが獲得される(S262)。また、カラーセット情報獲得部31では、カラーセット情報記憶部11からカラーセット情報が獲得される(S263)。そして、ソースカラー獲得部32において、カラーセット情報から対応領域に対応するソースカラーが検索され獲得される(S264)。
【0060】
その後、カラーセット更新部10の重み付け計算部35において、対応領域カラーとソースカラーの重み付け平均処理が行われ(S265)、対応領域カラーとソースカラーから新しいソースカラーが求められる。そして、ソースカラー置換部36において、カラーセットの古いソースカラーが、新しいソースカラーに置換される(S266)。このようにして、カラーセットのソースカラーが自動的に更新される。
【0061】
上記のように一のカラーセットについて、ソースカラーの更新処理(S26)が完了した後、すべてのカラーセットについて、ソースカラーの更新が完了したか否かの判断が行われる(S27)。その判断の結果、すべてのカラーセットについて、カラーセットの更新が完了していないと判断された場合には、再び、背景画像から、カラーセットのソースカラーの領域情報に対応する対応領域の探索し(S22)、平均色を計算する(S23)。そして、照明環境の変化の有無についての判定を行い(S24〜S25)、残りのカラーセットについてソースカラー更新処理(S26)を繰り返し行う。
【0062】
そして、上記のようにして更新されたカラーセットを用いて、色校正部8において色校正処理が行われる(S28)。
【0063】
図15は、色校正部8において、対応領域の対応領域カラーを用いて、色校正処理(S28)を行うときの流れを示すフロー図である。図15に示すように、対応領域カラーを用いて色校正を行うときには、まず、対応領域格納部20に、対応領域の対応領域情報が格納される(S281)。
【0064】
つぎに、色校正部8の領域分割部21において、対応領域を小領域に分割するか否かの判断が行われる(S282)。本実施の形態では、例えば、対応領域が街路樹のような複数の色の領域(例えば、葉の緑色の領域と幹の茶色の領域の二つの領域)から構成されている場合には、対応領域を小領域に分割する必要があると判断され、領域分割の処理が行われる(S283)。一方、対応領域が道路のように単一の色の領域(例えば、舗装面のグレーの領域)から構成されている場合には、対応領域を小領域に分割する必要はないと判断される。
【0065】
その後、色校正部8の領域探索部において、格納された対応領域情報から、対応領域(または小領域)の対応領域カラーの色情報が獲得されるとともに(S284)、カラーセット情報記憶部11から、カラーセットのソースカラーの色情報が獲得される(S285)。そして、類似領域探索部22では、ソースカラーと類似範囲内の色を有する対応領域(または小領域)の探索が行われる(S286)。
【0066】
その探索の結果、ソースカラーと類似範囲内の色を有する対応領域(または小領域)が見つかった場合には、領域色置換部23において、対応領域(または小領域)の色がそのソースカラーに対応するリファレンスカラーに置換され(S287)、色校正処理が終了する。一方、ソースカラーと類似範囲内の色を有する対応領域(または小領域)が見つからなかった場合には、色の置換を行わずに処理が終了する。
【0067】
このような発明の実施の形態の色校正処理装置1によれば、ソース領域カラー(オブジェクトカラー、対応領域カラー)を用いてカラーセットのソースカラーを更新するカラーセット更新部10を設けることにより、色校正処理に不用なカラーセットの情報を保持しなくてすみ、計算負荷が軽減されて、照明環境の変化にリアルタイムで対応することができる。
【0068】
すなわち、本実施の形態では、カラーセット更新部10において、ソース領域(ソースオブジェクト、対応領域)のソース領域カラー(オブジェクトカラー、対応領域カラー)を用いて、カラーセットのソースカラーが置き換えられて更新される。したがって、追跡対象のオブジェクトが追加された場合や、照明環境に変化があった場合であっても、色校正処理に不用なカラーセットの情報を保持しなくてすむ。これにより、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。したがって、色校正処理に要する時間が短くなり、色校正処理の動作が安定する。また、計算負荷が小さいので、照明環境の変化にもリアルタイムで対応できる。
【0069】
また、本実施の形態では、追跡対象のオブジェクトが追加された場合であっても、オブジェクト類似判定部12において、ソースオブジェクトがリファレンスオブジェクトと類似するか否かの判定が行われる。そして、ソースオブジェクトとリファレンスオブジェクトが類似すると判定されたときには、カラーセット更新部10において、ソースオブジェクトのオブジェクトカラー(ソースオブジェクトの平均色)を用いて、カラーセットのソースカラーが更新される。これにより、色校正処理に不用なカラーセットの情報を保持しなくてすむ。したがって、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。
【0070】
また、本実施の形態では、オブジェクト類似判定部12において、ソースオブジェクトとリファレンスオブジェクトの特徴量(例えば、移動速度、大きさ、縦横比など)を用いてオブジェクトの類似度を判定することができ、ソースオブジェクトとリファレンスオブジェクトの対応付けの精度が向上し、ソースオブジェクトの追跡精度が向上する。
【0071】
また、本実施の形態では、カラーセット更新部10において、オブジェクトカラーとソースカラーの重み付け平均処理で得られた重み付け平均色が、更新用のソースカラーとして用いられる。これにより、ソースオブジェクトのオブジェクトカラーとカラーセットのソースカラーとの色の違いが大きい場合あっても、重み付けの度合いを調整することにより、更新用のソースカラーの色を調整することができる。
【0072】
また、本実施の形態では、照明環境に変化があった場合には、照明変化検出部9において、照明環境に変化があったと判定される。そして、照明環境に変化があったと判定されたときには、カラーセット更新部10において、対応領域カラーを用いてカラーセットのソースカラーが更新される。これにより、色校正処理に不用なカラーセットの情報を保持しなくてすむ。したがって、色校正処理のために保持する情報量が少なくてすみ、計算負荷が軽減される。
【0073】
また、本実施の形態では、照明変化検出部9において、対応領域カラーとソースカラーの色距離(色空間における二つの色座標の間の距離)を用いて照明環境の変化の有無の判定が行われる。これにより、従来の照明環境の変化の検出方法に比べて計算負荷が軽減され、照明環境の変化等への適応性が向上する。
【0074】
また、本実施の形態では、領域選択部6の背景画像獲得部15において、所定の時間間隔(例えば、1分間隔または5分間隔)で、ソース画像から背景画像を獲得する。そして、照明変化検出において、その背景画像から照明環境の変化を検出する。したがって、照明環境が変化する頻度に応じて所定の時間間隔を調整することにより、照明環境の変化の検出計算を行う頻度を調整することができ、常に照明環境の変化を検出する場合に比べて計算負荷が軽減される。
【0075】
また、本実施の形態では、色校正部8において、対応領域(例えば、街路樹)がそれぞれ異なる色を有する複数の小領域(例えば、葉の部分と幹の部分)から構成されているときには、複数の小領域ごとの対応領域カラーを用いてソースカラーが更新される。これにより、対応領域の対応付けの精度が向上する。
【0076】
以上、本発明の実施の形態を例示により説明したが、本発明の範囲はこれらに限定されるものではなく、請求項に記載された範囲内において目的に応じて変更・変形することが可能である。
【0077】
例えば、以上の説明では、撮像装置として、所定のフレームレートで静止画像の撮影を行うカメラ2の場合を例示して説明したが、本発明の範囲はこれに限定されるものではなく、常時、動画画像の撮影を行うカメラ(ビデオカメラ)であってもよい。
【0078】
また、以上の説明では、色校正処理装置1が、二つのクライアントユニット3と一つのサーバユニット4で構成された例について説明したが、本発明の範囲はこれに限定されるものではない。例えば、各クライアントユニット3がサーバユニット4の機能(オブジェクト類似判定手段、リファレンスオブジェクト記憶手段)を備えた構成であってもよい。
【0079】
また、以上の説明では、撮像装置であるカメラ2が二つの場合を例示して説明したが、本発明の範囲はこれに限定されるものではなく、撮像装置が三つ以上の場合であっても同様に実施可能である。
【0080】
また、以上の説明では、カメラAおよびカメラBの撮影領域が部分的に重複している場合を例示して説明したが(図2参照)、本発明の範囲はこれに限定されるものではなく、カメラAおよびカメラBの撮影領域が重複していない場合であっても同様に実施可能である。
【0081】
また、以上の説明では、色校正処理装置1によって自動的にカラーセットの選択および更新が行われる例について説明したが、本発明の範囲はこれに限定されるものではなく、ユーザが手動でカラーセットの選択を行い、そのカラーセットの領域情報を用いてカラーセットの更新が行われても良い。
【産業上の利用可能性】
【0082】
以上のように、本発明にかかる色校正処理装置は、色校正処理に不用なカラーセットの情報を保持しなくてすみ、計算負荷が軽減されて、照明環境の変化にリアルタイムで対応できるという効果を有し、追跡監視システム等に用いられる色校正処理装置等として有用である。
【図面の簡単な説明】
【0083】
【図1】本発明の実施の形態における色校正処理装置のブロック図
【図2】本発明の実施の形態におけるカメラ画像を説明するための概略図
【図3】本発明の実施の形態における領域選択部のブロック図
【図4】本発明の実施の形態における領域カラー決定部のブロック図
【図5】本発明の実施の形態における色校正部のブロック図
【図6】本発明の実施の形態におけるカラーセット情報を説明する表
【図7】本発明の実施の形態におけるオブジェクト類似判定部のブロック図
【図8】本発明の実施の形態における照明変化検出部のブロック図
【図9】本発明の実施の形態におけるカラーセット更新部のブロック図
【図10】本発明の実施の形態において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理およびソースカラーの更新処理を行うときの全体の流れを示すフロー図
【図11】本発明の実施の形態において、ソースオブジェクトのオブジェクトカラーを用いて、色校正処理を行うときの流れを示すフロー図
【図12】本発明の実施の形態において、ソースオブジェクトのオブジェクトカラーを用いて、ソースカラーの更新処理を行うときの流れを示すフロー図
【図13】本発明の実施の形態において、対応領域の対応領域カラーを用いて、色校正処理およびソースカラーの更新処理を行うときの全体の流れを示すフロー図
【図14】本発明の実施の形態において、対応領域の対応領域カラーを用いて、ソースカラーの更新処理を行うときの流れを示すフロー図
【図15】本発明の実施の形態において、対応領域の対応領域カラーを用いて、色校正処理を行うときの流れを示すフロー図
【符号の説明】
【0084】
1 色校正処理装置
2 カメラ
5 ソース画像獲得部
6 領域選択部(領域選択手段)
7 領域カラー決定部(領域カラー決定手段)
8 色校正部(色校正手段)
9 照明変化検出部(照明変化検出手段)
10 カラーセット更新部(カラーセット更新手段)
11 カラーセット情報記憶部(カラーセット情報記憶手段)
12 オブジェクト類似判定部(オブジェクト類似判定手段)
13 リファレンスオブジェクト記憶部
14 ソースオブジェクト抽出部(ソースオブジェクト抽出手段)
15 背景画像獲得部(背景画像獲得手段)
16 対応領域探索部(対応領域探索手段)
17 オブジェクトカラー決定部(オブジェクトカラー決定手段)
18 対応領域カラー決定部(対応領域カラー決定手段)
21 領域分割部(領域分割手段)
24 特徴量獲得部
25 特徴量類似判定部
29 色距離計算部
30 照明変化判定部
35 重み付け計算部
【特許請求の範囲】
【請求項1】
色校正の対象となるソースカラーの色情報と、色校正後のリファレンスカラーの色情報を含むカラーセット情報を記憶するカラーセット情報記憶手段と、
前記カラーセットを用いて、複数の撮像装置で撮影された各ソース画像のうち前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正する色校正手段と、
前記各ソース画像から特定のソース領域を選択する領域選択手段と、
前記ソース領域を代表する色としてソース領域カラーを決定する領域カラー決定手段と、
前記ソース領域カラーを用いて、前記カラーセットのソースカラーを更新するカラーセット更新手段と、
を備えたことを特徴とする色校正処理装置。
【請求項2】
前記領域選択手段は、前記ソース画像から、背景画像中を移動する前景オブジェクトをソースオブジェクトとして抽出するソースオブジェクト抽出手段を備え、
前記領域カラー決定手段は、前記ソースオブジェクトの平均色を、前記ソース領域カラーであるオブジェクトカラーとして決定するオブジェクトカラー決定手段を備え、
色校正処理装置には、前記ソースオブジェクトと所定のリファレンスオブジェクトが類似するか否かを判定するオブジェクト類似判定手段が備えられ、
前記カラーセット更新手段は、前記ソースオブジェクトと前記リファレンスオブジェクトが類似すると判定されたときに、前記ソースオブジェクトのオブジェクトカラーを用いて、前記カラーセットのソースカラーを更新することを特徴とする請求項1に記載の色校正処理装置。
【請求項3】
前記オブジェクト類似判定手段は、
前記ソースオブジェクトと前記リファレンスオブジェクトの特徴量を比較することにより、前記ソースオブジェクトと前記リファレンスオブジェクトの類似度を判定することを特徴とする請求項2に記載の色校正処理装置。
【請求項4】
前記カラーセット更新手段は、
前記ソースオブジェクトのオブジェクトカラーと前記カラーセットのソースカラーの重み付け平均処理で得られた重み付け平均色を、更新用のソースカラーとして用いることを特徴とする請求項2または請求項3に記載の色校正処理装置。
【請求項5】
前記カラーセット情報記憶手段には、前記ソースカラーの色情報を獲得した領域情報を含むカラーセット情報が記憶され、
前記領域選択手段は、前記複数のソース画像から背景画像を獲得する背景画像獲得手段と、前記背景画像から、前記ソースカラーの領域情報に対応する対応領域を探索する対応領域探索手段を備え、
前記領域カラー決定手段は、前記対応領域の平均色を、前記ソース領域カラーである対応領域カラーとして決定する対応領域カラー決定手段を備え、
色校正処理装置には、前記対応領域カラーに基づいて、前記ソース画像における照明環境の変化を検出する照明変化検出手段が備られ、
前記カラーセット更新手段は、照明環境に変化があったと判定されたときに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新することを特徴とする請求項1に記載の色校正処理装置。
【請求項6】
前記照明変化検出手段は、
前記対応領域カラーと前記ソースカラーの色距離を算出する色距離算出手段と、
前記対応領域カラーと前記ソースカラーの色距離が、所定のしきい色距離よりも大きいときに、照明環境に変化があったと判定する照明変化判定手段と、
を備えたことを特徴とする請求項5に記載の色校正処理装置。
【請求項7】
前記背景画像獲得手段は、
所定の時間間隔で、前記複数のソース画像から前記背景画像を獲得し、
前記照明変化検出手段は、
前記所定の時間間隔で、前記ソース画像における照明環境の変化を検出することを特徴とする請求項5または請求項6に記載の色校正処理装置。
【請求項8】
前記色校正手段は、
前記対応領域を複数の小領域に分割する領域分割手段を備え、
前記複数の小領域ごとに、前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正することを特徴とする請求項5ないし請求項7のいずれかに記載の色校正処理装置。
【請求項9】
色校正の対象となるソースカラーの色情報と、色校正後のリファレンスカラーの色情報を含むカラーセット情報を記憶し、
複数の撮像装置で撮影された各ソース画像から特定のソース領域を選択し、
前記ソース領域を代表する色としてソース領域カラーを決定し、
前記ソース領域カラーを用いて、前記カラーセットのソースカラーを更新し、
前記カラーセットを用いて、前記複数のソース画像のうち前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正することを特徴とする色校正処理方法。
【請求項10】
前記ソース画像から、背景画像中を移動する前景オブジェクトをソースオブジェクトとして抽出し、
前記ソースオブジェクトの平均色を、前記ソース領域カラーであるオブジェクトカラーとして決定し、
前記ソースオブジェクトと所定のリファレンスオブジェクトが類似するか否かを判定し、
前記ソースオブジェクトと前記リファレンスオブジェクトが類似すると判定されたときに、前記ソースオブジェクトのオブジェクトカラーを用いて、前記カラーセットのソースカラーを更新することを特徴とする請求項9に記載の色校正処理方法。
【請求項11】
前記ソースカラーの色情報を獲得した領域情報を含むカラーセット情報を記憶し、
前記複数のソース画像から背景画像を獲得し、
前記背景画像から、前記ソースカラーの領域情報に対応する対応領域を探索し、
前記対応領域の平均色を、前記ソース領域カラーである対応領域カラーとして決定し、
前記対応領域カラーに基づいて、前記ソース画像における照明環境の変化を検出し、
照明環境に変化があったと判定されたときに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新することを特徴とする請求項9に記載の色校正処理方法。
【請求項1】
色校正の対象となるソースカラーの色情報と、色校正後のリファレンスカラーの色情報を含むカラーセット情報を記憶するカラーセット情報記憶手段と、
前記カラーセットを用いて、複数の撮像装置で撮影された各ソース画像のうち前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正する色校正手段と、
前記各ソース画像から特定のソース領域を選択する領域選択手段と、
前記ソース領域を代表する色としてソース領域カラーを決定する領域カラー決定手段と、
前記ソース領域カラーを用いて、前記カラーセットのソースカラーを更新するカラーセット更新手段と、
を備えたことを特徴とする色校正処理装置。
【請求項2】
前記領域選択手段は、前記ソース画像から、背景画像中を移動する前景オブジェクトをソースオブジェクトとして抽出するソースオブジェクト抽出手段を備え、
前記領域カラー決定手段は、前記ソースオブジェクトの平均色を、前記ソース領域カラーであるオブジェクトカラーとして決定するオブジェクトカラー決定手段を備え、
色校正処理装置には、前記ソースオブジェクトと所定のリファレンスオブジェクトが類似するか否かを判定するオブジェクト類似判定手段が備えられ、
前記カラーセット更新手段は、前記ソースオブジェクトと前記リファレンスオブジェクトが類似すると判定されたときに、前記ソースオブジェクトのオブジェクトカラーを用いて、前記カラーセットのソースカラーを更新することを特徴とする請求項1に記載の色校正処理装置。
【請求項3】
前記オブジェクト類似判定手段は、
前記ソースオブジェクトと前記リファレンスオブジェクトの特徴量を比較することにより、前記ソースオブジェクトと前記リファレンスオブジェクトの類似度を判定することを特徴とする請求項2に記載の色校正処理装置。
【請求項4】
前記カラーセット更新手段は、
前記ソースオブジェクトのオブジェクトカラーと前記カラーセットのソースカラーの重み付け平均処理で得られた重み付け平均色を、更新用のソースカラーとして用いることを特徴とする請求項2または請求項3に記載の色校正処理装置。
【請求項5】
前記カラーセット情報記憶手段には、前記ソースカラーの色情報を獲得した領域情報を含むカラーセット情報が記憶され、
前記領域選択手段は、前記複数のソース画像から背景画像を獲得する背景画像獲得手段と、前記背景画像から、前記ソースカラーの領域情報に対応する対応領域を探索する対応領域探索手段を備え、
前記領域カラー決定手段は、前記対応領域の平均色を、前記ソース領域カラーである対応領域カラーとして決定する対応領域カラー決定手段を備え、
色校正処理装置には、前記対応領域カラーに基づいて、前記ソース画像における照明環境の変化を検出する照明変化検出手段が備られ、
前記カラーセット更新手段は、照明環境に変化があったと判定されたときに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新することを特徴とする請求項1に記載の色校正処理装置。
【請求項6】
前記照明変化検出手段は、
前記対応領域カラーと前記ソースカラーの色距離を算出する色距離算出手段と、
前記対応領域カラーと前記ソースカラーの色距離が、所定のしきい色距離よりも大きいときに、照明環境に変化があったと判定する照明変化判定手段と、
を備えたことを特徴とする請求項5に記載の色校正処理装置。
【請求項7】
前記背景画像獲得手段は、
所定の時間間隔で、前記複数のソース画像から前記背景画像を獲得し、
前記照明変化検出手段は、
前記所定の時間間隔で、前記ソース画像における照明環境の変化を検出することを特徴とする請求項5または請求項6に記載の色校正処理装置。
【請求項8】
前記色校正手段は、
前記対応領域を複数の小領域に分割する領域分割手段を備え、
前記複数の小領域ごとに、前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正することを特徴とする請求項5ないし請求項7のいずれかに記載の色校正処理装置。
【請求項9】
色校正の対象となるソースカラーの色情報と、色校正後のリファレンスカラーの色情報を含むカラーセット情報を記憶し、
複数の撮像装置で撮影された各ソース画像から特定のソース領域を選択し、
前記ソース領域を代表する色としてソース領域カラーを決定し、
前記ソース領域カラーを用いて、前記カラーセットのソースカラーを更新し、
前記カラーセットを用いて、前記複数のソース画像のうち前記ソースカラーと類似範囲内の色を前記リファレンスカラーに校正することを特徴とする色校正処理方法。
【請求項10】
前記ソース画像から、背景画像中を移動する前景オブジェクトをソースオブジェクトとして抽出し、
前記ソースオブジェクトの平均色を、前記ソース領域カラーであるオブジェクトカラーとして決定し、
前記ソースオブジェクトと所定のリファレンスオブジェクトが類似するか否かを判定し、
前記ソースオブジェクトと前記リファレンスオブジェクトが類似すると判定されたときに、前記ソースオブジェクトのオブジェクトカラーを用いて、前記カラーセットのソースカラーを更新することを特徴とする請求項9に記載の色校正処理方法。
【請求項11】
前記ソースカラーの色情報を獲得した領域情報を含むカラーセット情報を記憶し、
前記複数のソース画像から背景画像を獲得し、
前記背景画像から、前記ソースカラーの領域情報に対応する対応領域を探索し、
前記対応領域の平均色を、前記ソース領域カラーである対応領域カラーとして決定し、
前記対応領域カラーに基づいて、前記ソース画像における照明環境の変化を検出し、
照明環境に変化があったと判定されたときに、前記対応領域カラーを用いて前記カラーセットのソースカラーを更新することを特徴とする請求項9に記載の色校正処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2007−194802(P2007−194802A)
【公開日】平成19年8月2日(2007.8.2)
【国際特許分類】
【出願番号】特願2006−9757(P2006−9757)
【出願日】平成18年1月18日(2006.1.18)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】
【公開日】平成19年8月2日(2007.8.2)
【国際特許分類】
【出願日】平成18年1月18日(2006.1.18)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】
[ Back to top ]